EgoVine 是一个面向长程规划的后训练框架,旨在解决真实第一视角视频中演示轨迹固定、无法覆盖替代动作与错误恢复的问题。该方法将真实视频标注编译为可执行的符号环境,让智能体在部分可观测条件下协调物体操作并应对延迟后果;通过恢复决策状态,学习者得以探索不同动作并比较最终结果。模型联合训练动作生成与后果预测,利用失败尝试中的修复样本提供恢复目标,并以采样续接之间的比较指导策略更新,形成由自身决策与错误驱动的迭代学习闭环。在共享基准上,EgoVine-1.5B 在主规划任务上达到 81.8% 成功率,在更长任务组合上达到 66.7%,均优于所评估的全部 Flash LLM 基线。该工作将真实演示与迭代学习过程连接起来,使紧凑规划器能够在记录轨迹之外学习选择与未来后果。
| EgoVine | 一种后训练框架,将真实世界视频演示转化为交互式经验,用于训练长时程规划器。 |
| Union | EgoVine 中的联合训练方法,在单一模型中同时训练动作生成和后果预测。 |
| 可执行符号环境 | 由真实视频标注编译而成的符号化环境,智能体可在其中执行动作并观察结果。 |
| 长时程规划 | 涉及多步骤、延迟后果的规划任务,要求智能体在部分观测下协调动作。 |
| 后训练 | 在预训练模型基础上,使用特定任务数据进一步训练以提升性能的过程。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅