扩散模型新突破：无需引导，FID大幅超越，性能直逼CFG！
Correction Training for Diffusion Models
📖 AI 总结
扩散模型在迭代采样过程中存在暴露偏差问题：去噪器训练时接触的是真实图像与噪声的插值，而推理时输入却来自自身前几步的不完美预测，这种训练与推理的差距导致误差累积，也是模型在缺乏无分类器引导（CFG）等辅助手段时表现不佳的原因之一。为此，作者提出一种校正步骤，引入校正器，以基础模型的预测为输入，并针对相同真值目标进行训练，使校正成为一项显式的学习任务。采样时在每个去噪步骤迭代精炼干净样本预测，从而在中间步骤纠正预测，防止早期伪影残留至最终结果。该框架在DiT、SiT和JiT上均带来显著样本质量提升，同时较好保持多样性，在无引导及无条件生成上大幅改善FID，性能可与CFG媲美，与CFG结合还能提升多样性并缓解过饱和。此外，通过将精炼预测蒸馏回基础模型，可摊销额外推理成本。
🔑 关键词速览
| 扩散模型 | 一类生成模型，通过逐步去噪从噪声中生成数据。 |
| 暴露偏差 | 训练时使用真实数据，而推理时使用模型自身预测，导致误差累积的现象。 |
| 去噪器 | 扩散模型中负责从噪声图像预测干净图像的神经网络组件。 |
| 无分类器引导 (CFG) | 一种在扩散模型中通过结合条件和无条件预测来提升生成质量的技术。 |
| FID | Fréchet Inception Distance，衡量生成图像与真实图像分布距离的常用评估指标。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅