随机分析视角打通扩散模型采样任督二脉
A Stochastic Analysis Perspective on Diffusion Models
📖 AI 总结
本文从随机分析的视角重新审视了基于分数的扩散生成模型，试图在经典采样理论、分数估计与扩散时间反演之间建立统一的理论联系。文章首先阐明分数函数如何将Langevin采样与分数匹配联系起来，并说明高斯平滑如何自然导出去噪分数匹配与多尺度采样方法。作者随后强调了一个关键区分：保持固定分布的动力学与输运给定边缘分布族的动力学在本质上是不同的，这一区分构成了在路径空间层面处理扩散时间反演的动机。最终，文章将理想的反向扩散过程与实际生成算法相衔接，为扩散模型提供了更严格的概率论基础。该工作有助于深化对扩散模型采样机制的理论理解，并为算法设计提供原理性指导。
🔑 关键词速览
| 基于分数的生成模型 | 一类通过估计数据分布的对数梯度（分数函数）来生成样本的生成模型。 |
| 朗之万采样 | 一种基于随机微分方程的采样方法，利用分数函数从分布中生成样本。 |
| 分数匹配 | 一种训练方法，通过最小化模型分数与数据分数之间的差异来估计分数函数。 |
| 去噪分数匹配 | 一种通过向数据添加高斯噪声并训练模型去噪来估计分数函数的技术。 |
| 扩散时间反转 | 扩散模型中的核心概念，指从噪声分布反向扩散生成数据的过程。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅