潜SDE无模拟训练新突破:规范匹配同等成本学出时间结构,性能直逼Helmholtz-SDE!
Gaussian Flow Dynamics: Simulation-Free Neural SDE Learning Beyond One-Time Marginals
arXiv ML (stat.ML) 重要 #神经SDE#变分推断#生成模型#理论分析 🕐 今天 12:00

📖 AI 总结

该研究针对潜随机微分方程(SDE)的无模拟训练提出新方法。现有方法依赖单时刻边缘分布可解的变分后验过程,但边缘分布无法唯一确定底层动态结构,导致后验族受限并引入偏差。作者提出高斯流动态,直接从平滑演化的高斯边缘分布构造随机过程,并将保持边缘分布的规范自由度显式参数化,支持状态依赖的扩散系数,可覆盖所有带加性噪声且初始分布非退化的线性SDE。基于此,作者提出Gauge Matching,一种结合高斯流动态与SDE Matching目标的无模拟潜SDE学习方法。该方法每步计算成本随潜维度至多呈二次增长,与SDE Matching相当,但能学习后验的时间结构而非仅匹配单时刻边缘。在线性基准上,其表现接近以三次成本从先验雅可比计算规范的Helmholtz-SDE;在非线性系统上与之持平,并可应用于Helmholtz-SDE无法处理的状态依赖噪声场景。

🔑 关键词速览

随机微分方程 (SDE)一种包含随机项的微分方程,用于描述受随机噪声影响的动态系统。
高斯流动力学 (Gaussian Flow Dynamics)一种从平滑演化的高斯边缘分布直接构造随机过程的方法,显式参数化保持边缘分布的自由度。
规范匹配 (Gauge Matching)一种无模拟的潜SDE学习方法,结合高斯流动力学与SDE匹配目标,学习后验的时间结构。
单时刻边缘分布 (One-Time Marginals)随机过程在单个时间点上的概率分布,通常用于变分后验的近似。
Helmholtz-SDE一种从先验雅可比以三次计算成本计算规范的方法,用于潜SDE学习。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅