🔥 今日值得一读 视频生成新突破:ProactGen主动提问对齐意图,单轮效果超基线四轮,对齐度提升1.8倍!
ProactGen: Learning Proactive Clarification for Video Generation
arXiv CV (cs.CV) 🔥 重点 #视频生成#提示优化#人机交互#多模态 🕐 今天 12:00
👨‍💼 主理人解读 · 为什么值得关注
可减少视频生成反复试错:模型主动追问缺失偏好,开发者可集成到生成管线提升一次成片率。

📖 AI 总结

针对视频生成中用户提示词不充分、需反复生成修改的问题,该研究提出ProactGen框架,通过主动提问澄清用户意图。具体做法是用强化学习训练视觉语言模型作为提问策略,在观察初始提示词和视频草稿后,学习提出对下游生成最有价值的问题,并以最终视频与目标参考的对齐程度作为奖励。研究还发现,有效提问并不需要最终质量的草稿,因此可用更少去噪步数生成草稿,降低澄清成本。实验显示,ProactGen在目标对齐上的提升至少是最强基线增益的1.8倍;单轮澄清即超过最强基线四轮优化的对齐效果,且耗时仅为其29%。

🔑 关键词速览

ProactGen本文提出的视频生成框架,通过主动提问澄清用户意图来提升生成视频与目标的对齐度。
主动澄清(Proactive Clarification)在生成过程中主动向用户提问以获取缺失的意图信息,从而减少反复生成和修改的循环。
视觉语言模型(Vision-Language Model)能够同时处理视觉和文本信息的模型,本文中用作提问策略来观察提示词和视频草稿并生成问题。
强化学习(Reinforcement Learning)一种机器学习范式,通过奖励信号训练模型学习最优策略,本文用于训练提问策略以最大化下游生成对齐度。
去噪步骤(Denoising Steps)扩散模型中逐步去除噪声以生成视频的迭代步骤,减少步骤可降低生成草稿的计算成本。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅