扩散模型采样不稳？新理论揭示PF-ODE适定流的充分条件，稳定可逆采样有戏！
Probability flow ODEs in score-based and reflected diffusion models
📖 AI 总结
本文研究基于分数和反射扩散模型的概率流常微分方程（PF-ODE）作为确定性采样器的理论基础。作者指出，尽管PF-ODE被广泛使用，其通常依据的Fokker-Planck方程与连续性方程的等价性并不能保证所生成的速度场能产生适定流。文章给出了正则拉格朗日PF-ODE流存在的充分条件，并证明反向采样与可逆性需要双侧散度控制。针对学习到的分数函数，采样器稳定性由未加权速度误差控制，这与密度加权分数匹配存在错配，因而需要对雅可比矩阵、散度、增长与压缩进行架构层面的约束。在流形假设下，正时间正则化支持早停PF-ODE，而常数在数据端点附近会退化；一个显式的球面例子表明，即使扩散边缘分布保持良好定义，精确确定性流在噪声趋于零时仍会奇异。这些理论洞见转化为稳定、可逆且保持约束的扩散采样器设计原则，并通过受控数值实验验证了其实际相关性。
🔑 关键词速览
| 概率流常微分方程 (PF-ODE) | 一种确定性采样方法，通过求解由分数函数驱动的常微分方程从扩散模型中生成样本。 |
| 分数函数 (Score Function) | 数据对数密度的梯度，用于描述扩散过程中概率密度的变化方向。 |
| Fokker-Planck方程 | 描述扩散过程概率密度随时间演化的偏微分方程。 |
| 反射扩散 (Reflected Diffusion) | 在边界处具有反射行为的扩散过程，常用于约束生成建模。 |
| 流形假设 (Manifold Hypothesis) | 高维数据通常集中在低维流形上的假设，对生成模型的设计有重要影响。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅