该论文提出一种无需额外训练的视频生成控制方法,利用预训练视频扩散模型,通过粗粒度布局实现对物体位置与运动的引导。方法分两步:首先借助提示引导的交叉注意力调控时空布局,生成粗略视觉引导;再以该引导为条件,由同一模型生成高质量且布局一致的视频。实验表明,该方法在静态、动态及多物体场景下,于重叠与轨迹准确度以及视觉质量方面均稳定优于既有工作,并能实现具有强时间一致性的协调运动,支持多样轨迹与物体交互。其意义在于降低了视频生成可控性的训练成本与架构改动门槛,为布局引导的视频合成提供了可复用的免训练路径。
| Video Diffusion Models | 视频扩散模型,一类通过逐步去噪过程生成视频的生成模型。 |
| Training-free | 免训练,指无需额外训练即可使用预训练模型完成新任务的方法。 |
| Cross-attention | 交叉注意力,一种让模型在不同模态(如文本和图像)之间建立关联的注意力机制。 |
| Layout-guided | 布局引导,利用粗粒度空间布局作为条件来控制生成内容的位置和运动。 |
| Temporal consistency | 时间一致性,指视频帧之间在时间维度上保持连贯、不闪烁的特性。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅