无数据蒸馏新突破：两步搞定高分辨率生成，训练成本直降5倍！
Data-free Multistep Diffusion Distillation
📖 AI 总结
本文提出一种名为渐进式多步无数据蒸馏（PMDD）的新方法，用于解决扩散模型多步蒸馏中的关键瓶颈。作者指出，现有方法在扩展至多步蒸馏时面临训练数据依赖、早期步骤退化、不同采样预算下输出不一致以及计算成本高昂等问题，其根源在于同时训练单一网络拟合多个学生分布，导致分布匹配偏差和优化不稳定。PMDD为每个学生分布分配专用的适配网络，同时避免多网络带来的内存开销，并引入分阶段遗忘损失以保留早期步骤的生成能力。实验表明，PMDD在各多步预算下均达到或超越无数据少步基线，在ImageNet 64×64上两步采样取得FID 1.99，优于其512-NFE教师模型的2.32；在零样本COCO 512×512上FID为7.76，且训练计算量比无数据DMDv2减少4至5倍，同时支持三种推理预算。该工作为高效、高质量的多步扩散蒸馏提供了新思路。
🔑 关键词速览
| 扩散蒸馏 | 将大型扩散模型压缩为更高效小模型的技术，以减少推理步数或计算量。 |
| 无数据蒸馏 | 不依赖原始训练数据，仅利用预训练教师模型进行知识蒸馏的方法。 |
| 得分函数 | 扩散模型中用于估计数据分布对数密度梯度的函数，指导去噪过程。 |
| FID | Fréchet Inception Distance，衡量生成图像与真实图像分布距离的常用评估指标，值越低越好。 |
| NFE | Number of Function Evaluations，指生成过程中模型前向传播的次数，反映推理成本。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅