拆分路径树让扩散模型采样误差直降25%!
A Splitting Method for SDE Terminal-Law Estimation
arXiv ML (stat.ML) 重要 #随机微分方程#扩散模型#采样方法#生成模型 🕐 09-14 12:00

📖 AI 总结

本文研究随机微分方程终端分布估计中的路径采样效率问题,提出以路径树分裂替代独立同分布采样,并系统分析了由此引入的路径间相关性对估计精度的影响。作者以Kolmogorov-Smirnov距离为精度度量,推导了模拟预算趋于无穷时经验分布的极限误差,并通过相应的渐近优化问题刻画了最优分裂策略,揭示了问题内在的优雅结构。方法实现分为初始估计与最终推断两个阶段。实验表明,在多种设定下该方法相较独立同分布采样将平均误差降低10%至25%;在CIFAR-10的探索性实验中,最大均值差异减少8%至13%。该工作为扩散生成模型等需要精确生成终端分布样本的场景提供了更高效的采样思路。

🔑 关键词速览

随机微分方程 (SDE)一种描述随机过程随时间演化的微分方程,常用于扩散模型等生成式AI中。
终端分布 (Terminal Distribution)随机过程在终止时刻的取值所服从的概率分布,是生成样本的目标分布。
Kolmogorov-Smirnov距离一种衡量两个概率分布之间差异的统计量,基于累积分布函数的最大垂直距离。
路径拆分 (Splitting)在模拟扩散路径时,将部分路径拆分成树状结构以共享计算资源、提高效率的策略。
最大均值差异 (MMD)一种用于衡量两个分布差异的核方法指标,常用于生成模型评估。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅