针对视频生成中用户提示词不充分、需反复生成修改的问题,该研究提出ProactGen框架,通过主动提问澄清用户意图。具体做法是用强化学习训练视觉语言模型作为提问策略,在观察初始提示词和视频草稿后,学习提出对下游生成最有价值的问题,并以最终视频与目标参考的对齐程度作为奖励。研究还发现,有效提问并不需要最终质量的草稿,因此可用更少去噪步数生成草稿,降低澄清成本。实验显示,ProactGen在目标对齐上的提升至少是最强基线增益的1.8倍;单轮澄清即超过最强基线四轮优化的对齐效果,且耗时仅为其29%。
| ProactGen | 本文提出的视频生成框架,通过主动提问澄清用户意图来提升生成视频与目标的对齐度。 |
| 主动澄清(Proactive Clarification) | 在生成过程中主动向用户提问以获取缺失的意图信息,从而减少反复生成和修改的循环。 |
| 视觉语言模型(Vision-Language Model) | 能够同时处理视觉和文本信息的模型,本文中用作提问策略来观察提示词和视频草稿并生成问题。 |
| 强化学习(Reinforcement Learning) | 一种机器学习范式,通过奖励信号训练模型学习最优策略,本文用于训练提问策略以最大化下游生成对齐度。 |
| 去噪步骤(Denoising Steps) | 扩散模型中逐步去除噪声以生成视频的迭代步骤,减少步骤可降低生成草稿的计算成本。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅