非可逆朗之万动力学突破非光滑重尾采样,收敛速度超越传统方法!
Accelerating Non-Smooth and Heavy-Tailed Sampling
arXiv ML (stat.ML) 重要 #Langevin动力学#采样#重尾分布 🕐 今天 12:00

📖 AI 总结

本文提出并研究了非可逆锚定朗之万动力学(NALD)与非可逆反射锚定朗之万动力学(NRALD),用于对可能不可微且重尾的目标概率密度进行采样,分别适用于欧几里得空间和带法向反射的约束域。方法的核心是在原有锚定朗之万动力学基础上引入由可能依赖状态的散度为零的反对称矩阵场与流势生成的环流漂移项,从而在不依赖目标密度导数的前提下保持目标分布不变,并具备随机时间变换表示。理论分析表明,通过打破可逆性,NALD与NRALD在有限时间非渐近收敛分析、大偏差分析及渐近方差缩减方面均优于对应的可逆算法。数值实验进一步验证了所提算法的效率。该工作为不可微、重尾及约束域上的采样问题提供了更快的收敛方案,拓展了朗之万类算法在复杂分布采样中的适用范围。

🔑 关键词速览

锚定朗之万动力学 (ALD)一种用于非光滑采样的动力学方法,通过引入锚定项处理不可微或重尾的目标密度。
非可逆锚定朗之万动力学 (NALD)本文提出的方法,在ALD基础上添加循环漂移,打破可逆性以加速收敛,适用于欧几里得空间。
非可逆反射锚定朗之万动力学 (NRALD)本文提出的方法,将NALD扩展到约束域,通过法向反射处理边界,用于约束空间采样。
循环漂移由散度为零的反对称矩阵场和流势生成的漂移项,用于打破可逆性而不改变目标分布。
随机时间变换表示一种将随机过程表示为时间变换后的形式,有助于分析收敛性和算法设计。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅