该论文研究扩散模型反演(DDIM反演)一步求解的数学性质,发现其本质是一个凸优化问题。核心发现是:在贝叶斯极限下,反演步骤对应一个强凸势函数,其模量由步长的对数信噪比决定,且解唯一。若出现第二个解,则直接证明训练得分违反了后验协方差界,可作为无假设的模型错误证书。论文还指出,Picard迭代等价于单位步长梯度下降,在曲率过大时不稳定,但可通过阻尼修正。几何结构存在于收敛域中,振荡壳与发散壳的位置与调度无关,精确得分在三个类别上复现误差小于0.54%。然而,所有测试的训练模型均未显示该壳层,作者将其归因于模型自身训练支持与理论要求的冲突,而非统计噪声。此外,无条件上限在所有DDPM设置中均被违反,表明现有模型与理论最优存在系统性差距。
| DDIM inversion | 去噪扩散隐式模型的反转过程,用于从噪声恢复数据或分析模型几何。 |
| Bayes limit | 贝叶斯极限,指在理想化条件下模型得分与真实后验一致的状态。 |
| log-SNR gap | 对数信噪比间隔,扩散过程中相邻步骤的信噪比对数差。 |
| posterior-covariance bound | 后验协方差界,基于数据条件协方差非负性导出的约束。 |
| Fermi window | 费米窗口,此处指模型训练支持与理论约束之间的冲突区域。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅