EgoHand 是一个面向第一视角视频的单目三维手部重建模型,其核心在于构建了约1400万张图像的高质量训练语料,融合合成数据、野外视频与多相机动作捕捉数据,以兼顾场景多样性与监督质量。模型采用 SOMA-Hand 参数化表示,通过 Transformer 编码器处理二维手部裁剪图像,并引入相机线索与辅助二维分支以提升几何一致性和图像对齐。在 HOT3D、ARCTIC 和 H2O 上的零样本评测显示,其关节位置、根节点平移和加速度误差均低于对比基线,推理延迟约9.69毫秒;盲测用户偏好研究也表明,受试者更青睐 EgoHand 重建的手部姿态。该工作以 OpenMDW 许可开源模型与代码,允许免费商用,对第一视角手部重建的实用化具有推动意义。
| EgoHand | 本文提出的单目3D手部重建模型,专为以自我为中心的视频设计。 |
| SOMA-Hand | 一种参数化手部表示模型,用于描述手部形状和姿态。 |
| 零样本评估 | 在未参与训练的未见数据集上直接测试模型性能的评估方式。 |
| 以自我为中心的视频 | 从第一人称视角拍摄的视频,通常由头戴或穿戴式相机采集。 |
| OpenMDW 许可证 | 一种允许免费商业使用的开源模型许可证。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅