视频生成不再过曝过糊!双噪声掩码滚动让AR扩散模型画质飙升,无需真实数据也能调教出更真实的动态画面!
Mask Forcing: Improving Autoregressive Video Diffusion Distillation via Dual-Noise Masking Rollout
arXiv CV (cs.CV) 重要 #视频生成#扩散模型#蒸馏 🕐 09-08 12:00

📖 摘要

Mask Forcing通过双噪声掩码改进自回归视频扩散蒸馏质量。

🔑 关键词速览

Autoregressive (AR) video diffusion models自回归视频扩散模型,一种按顺序生成视频帧的扩散模型,利用先前生成帧作为条件。
Distribution Matching Distillation (DMD)分布匹配蒸馏,一种将预训练教师模型的知识蒸馏到学生模型的方法,通过匹配分布来训练。
Reverse KL divergence反向KL散度,一种衡量分布差异的指标,在DMD中用于优化学生分布,但可能导致模式坍缩。
Mode collapse模式坍缩,指生成模型只生成少数几种样本,无法覆盖真实数据分布的多样性。
Mask Forcing掩码强制,本文提出的策略,通过随机掩码注入干净信号以缓解模式坍缩。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅