潜在跳跃模型新突破:训练速度飙升百倍,精度不减!
Scan-Parallel Variational Inference for event-driven Latent Jump Models
arXiv ML (stat.ML) 重要 #变分推断#状态空间模型#时间序列 🕐 今天 12:00

📖 AI 总结

该论文提出潜跳变模型(LJM),用于处理不规则观测的时间序列。与依赖平滑常微分方程或布朗扰动的传统连续时间潜状态模型不同,LJM假设潜状态在泊松驱动的事件时刻之间遵循闭式确定性动态,并在每个事件点发生学习到的瞬时跳变,其强度与标记分布均依赖于状态,从而将跳变建模为内在状态转移而非数值积分步骤。为训练该模型,作者推导了可处理的事件增广路径空间证据下界,并提出扫描并行变分推断方法:由观测条件变分后验先采样完整潜事件配置,再通过三角仿射扫描评估状态递推,使训练复杂度降至对数时间深度。在合成随机系统与真实不规则时间序列上的实验表明,LJM的预测精度与连续时间潜变量基线相当,潜更新次数往往更少,训练速度比顺序基线快一至两个数量级。

🔑 关键词速览

Latent Jump Models (LJMs)潜在跳跃模型,一种连续时间潜在状态空间模型,其中潜在状态在泊松事件间确定性演化,并在事件时发生学习到的瞬时跳跃。
Scan-Parallel Variational Inference (SPVI)扫描并行变分推断,一种利用三角仿射扫描并行评估状态递推的变分推断方法,实现对数时间深度的快速训练。
Evidence Lower Bound (ELBO)证据下界,变分推断中用于近似边际似然下界的优化目标,此处为事件增强的路径空间形式。
Poisson-driven event times泊松驱动的事件时间,事件发生时间由泊松过程生成,其强度可能依赖于状态。
Mark distributions标记分布,描述每次跳跃幅度或类型的概率分布,通常与状态相关。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅