🔥 今日值得一读 免训练!两遍搞定视频布局控制,轨迹精度全面超越先前工作
Latent Space Jam: Layout Guided Video Synthesis
arXiv CV (cs.CV) 🔥 重点 #视频生成#扩散模型#布局控制 🕐 今天 12:00
👨‍💼 主理人解读 · 为什么值得关注
无需训练即可给视频扩散模型加布局与运动控制,开发者可低成本实现可控视频生成。

📖 AI 总结

该论文提出一种无需额外训练的视频生成控制方法,利用预训练视频扩散模型,通过粗粒度布局实现对物体位置与运动的引导。方法分两步:首先借助提示引导的交叉注意力调控时空布局,生成粗略视觉引导;再以该引导为条件,由同一模型生成高质量且布局一致的视频。实验表明,该方法在静态、动态及多物体场景下,于重叠与轨迹准确度以及视觉质量方面均稳定优于既有工作,并能实现具有强时间一致性的协调运动,支持多样轨迹与物体交互。其意义在于降低了视频生成可控性的训练成本与架构改动门槛,为布局引导的视频合成提供了可复用的免训练路径。

🔑 关键词速览

Video Diffusion Models视频扩散模型,一类通过逐步去噪过程生成视频的生成模型。
Training-free免训练,指无需额外训练即可使用预训练模型完成新任务的方法。
Cross-attention交叉注意力,一种让模型在不同模态(如文本和图像)之间建立关联的注意力机制。
Layout-guided布局引导,利用粗粒度空间布局作为条件来控制生成内容的位置和运动。
Temporal consistency时间一致性,指视频帧之间在时间维度上保持连贯、不闪烁的特性。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅