Mask Forcing通过双噪声掩码改进自回归视频扩散蒸馏质量。
| Autoregressive (AR) video diffusion models | 自回归视频扩散模型,一种按顺序生成视频帧的扩散模型,利用先前生成帧作为条件。 |
| Distribution Matching Distillation (DMD) | 分布匹配蒸馏,一种将预训练教师模型的知识蒸馏到学生模型的方法,通过匹配分布来训练。 |
| Reverse KL divergence | 反向KL散度,一种衡量分布差异的指标,在DMD中用于优化学生分布,但可能导致模式坍缩。 |
| Mode collapse | 模式坍缩,指生成模型只生成少数几种样本,无法覆盖真实数据分布的多样性。 |
| Mask Forcing | 掩码强制,本文提出的策略,通过随机掩码注入干净信号以缓解模式坍缩。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅