本文提出HorizonComposer,一种面向自动驾驶场景的视频编辑方法,旨在解决通用指令引导视频编辑器在全局驾驶条件编辑中破坏交通语义、产生结构幻觉和“时间冲击”的问题。作者从三个层面保护交通语义:构建时间对齐的真实视频与合成编辑相结合的混合数据集;借鉴离线强化学习中的优势条件机制,利用像素级密集奖励引导生成结构可靠的像素;引入“思考帧”过渡机制,衔接静态图像条件与动态视频上下文。实验表明,该方法能防止多主体动态被破坏,在时空一致性上达到当前最优,内容保持和时间一致性分别获得39%和12%的相对提升,下游道路线分割和多目标检测任务分别提升5%和7%。
| Operational Design Domain (ODD) | 运行设计域,指自动驾驶系统设计时规定的运行条件范围。 |
| Temporal Shock | 时间冲击,指视频编辑中因条件不一致导致的时序不连续或突变现象。 |
| Advantage Conditioning | 优势条件化,一种利用优势函数引导生成模型训练的方法,源自强化学习。 |
| Thinking Frames | 思考帧,一种过渡机制,用于协调静态图像条件与动态视频上下文。 |
| Spatiotemporal Consistency | 时空一致性,指视频在空间和时间维度上保持连贯、合理的特性。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅