🔥 今日值得一读 真实视频变身训练场,EgoVine让1.5B小模型规划成功率飙到81.8%!
EgoVine: Post-Training with Branching Experience Compiled from Real-World Videos
arXiv CV (cs.CV) 🔥 重点 #具身智能#后训练#长程规划 🕐 今天 12:00
👨‍💼 主理人解读 · 为什么值得关注
把真实家务视频转成可交互训练环境,让Agent探索替代动作与纠错,提升长程任务规划能力。

📖 AI 总结

EgoVine 是一个面向长程规划的后训练框架,旨在解决真实第一视角视频中演示轨迹固定、无法覆盖替代动作与错误恢复的问题。该方法将真实视频标注编译为可执行的符号环境,让智能体在部分可观测条件下协调物体操作并应对延迟后果;通过恢复决策状态,学习者得以探索不同动作并比较最终结果。模型联合训练动作生成与后果预测,利用失败尝试中的修复样本提供恢复目标,并以采样续接之间的比较指导策略更新,形成由自身决策与错误驱动的迭代学习闭环。在共享基准上,EgoVine-1.5B 在主规划任务上达到 81.8% 成功率,在更长任务组合上达到 66.7%,均优于所评估的全部 Flash LLM 基线。该工作将真实演示与迭代学习过程连接起来,使紧凑规划器能够在记录轨迹之外学习选择与未来后果。

🔑 关键词速览

EgoVine一种后训练框架,将真实世界视频演示转化为交互式经验,用于训练长时程规划器。
UnionEgoVine 中的联合训练方法,在单一模型中同时训练动作生成和后果预测。
可执行符号环境由真实视频标注编译而成的符号化环境,智能体可在其中执行动作并观察结果。
长时程规划涉及多步骤、延迟后果的规划任务,要求智能体在部分观测下协调动作。
后训练在预训练模型基础上,使用特定任务数据进一步训练以提升性能的过程。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅