本文研究目标分布随时间变化的Langevin扩散与Langevin蒙特卡洛(LMC)采样问题。作者在对数Sobolev不等式(LSI)假设下,推导出跟踪当前目标的非渐近Rényi散度保证,该框架同时覆盖连续时间Langevin扩散及其离散化形式。随后,作者将结果应用于基于逐次Moreau包络的非光滑采样方案,给出了平滑参数与步长的显式选取方式及相应的复杂度界。据作者所知,这是首个针对具有离散目标更新的Langevin动力学的非渐近Rényi散度跟踪界。该工作为动态目标下的采样算法提供了理论刻画,对非光滑采样与移动目标跟踪场景具有参考价值。
| Langevin扩散 | 一种连续时间的随机微分方程,用于从目标分布中采样,其漂移项为目标分布对数的梯度。 |
| Langevin蒙特卡洛 (LMC) | Langevin扩散的离散时间版本,通过数值积分(如欧拉离散化)实现采样,常用于贝叶斯推断和机器学习。 |
| 对数Sobolev不等式 (LSI) | 一种函数不等式,用于控制分布之间的相对熵,常作为分析采样算法收敛性的条件。 |
| Rényi散度 | 一种衡量两个概率分布差异的度量,是Kullback-Leibler散度的推广,包含一个阶参数。 |
| Moreau包络 | 一种对非光滑函数进行平滑近似的工具,通过构造其Moreau包络来获得可微的近似函数。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅