🔥 今日值得一读 1400万张图训练!EgoHand单目3D手部重建9.69毫秒推理,盲测胜过苹果EgoDex
EgoHand: Monocular 3D Hand Reconstruction from Egocentric Video
arXiv CV (cs.CV) 🔥 重点 #3D重建#第一视角视频#Transformer 🕐 今天 12:00
👨‍💼 主理人解读 · 为什么值得关注
可用于AR/VR手势交互与第一视角视频手部追踪,开发者可直接用其模型做单目3D手部重建。

📖 AI 总结

EgoHand 是一个面向第一视角视频的单目三维手部重建模型,其核心在于构建了约1400万张图像的高质量训练语料,融合合成数据、野外视频与多相机动作捕捉数据,以兼顾场景多样性与监督质量。模型采用 SOMA-Hand 参数化表示,通过 Transformer 编码器处理二维手部裁剪图像,并引入相机线索与辅助二维分支以提升几何一致性和图像对齐。在 HOT3D、ARCTIC 和 H2O 上的零样本评测显示,其关节位置、根节点平移和加速度误差均低于对比基线,推理延迟约9.69毫秒;盲测用户偏好研究也表明,受试者更青睐 EgoHand 重建的手部姿态。该工作以 OpenMDW 许可开源模型与代码,允许免费商用,对第一视角手部重建的实用化具有推动意义。

🔑 关键词速览

EgoHand本文提出的单目3D手部重建模型,专为以自我为中心的视频设计。
SOMA-Hand一种参数化手部表示模型,用于描述手部形状和姿态。
零样本评估在未参与训练的未见数据集上直接测试模型性能的评估方式。
以自我为中心的视频从第一人称视角拍摄的视频,通常由头戴或穿戴式相机采集。
OpenMDW 许可证一种允许免费商业使用的开源模型许可证。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅