🔥 今日值得一读 MDN-VJEPA用高斯混合预测未来,保留多种可能轨迹,规划决策更优!
MDN-VJEPA: Multimodal Probabilistic Joint-Embedding World Models
arXiv LG (cs.LG) 🔥 重点 #世界模型#多模态#概率建模 🕐 今天 12:00
👨‍💼 主理人解读 · 为什么值得关注
可用于机器人或具身智能中预测多模态未来状态,开发者能获得带概率与不确定性的世界模型。

📖 AI 总结

本文提出MDN-VJEPA,一种多模态概率联合嵌入世界模型。传统JEPA通过预测未来表征而非重建观测来学习世界模型,VJEPA进一步赋予预测概率语义。该研究将潜在预测器实例化为混合密度网络,用高斯混合表示未来状态,各分量分别编码不同的可能未来、其概率及模态内不确定性。针对序列预测,作者提出三项结构要求:多模态未来应在轨迹上保持时间连贯、预测信念经不同时间路径传播至同一视界时应保持一致(受Chapman-Kolmogorov方程启发),由此构建了多模态预测、连贯多模态轨迹与组合一致多模态动力学的三层级。受控实验表明,该方法能准确恢复已知的分支预测规律;在分支未来下保留完整多模态信念而非条件均值,可带来显著更优的规划决策;轨迹级耦合与分布一致性提升了时间连贯性与多视界一致性。研究强调,概率JEPA不仅应保留未来的不确定性程度,还应保留构成该不确定性的具体未来、其连贯轨迹及随时间组合的方式。

🔑 关键词速览

Joint-Embedding Predictive Architecture (JEPA)一种通过预测未来表示而非重建观测来学习世界模型的架构。
Variational JEPA (VJEPA)为JEPA的预测赋予概率语义并允许灵活条件预测族的变体。
Mixture Density Network (MDN)一种输出混合分布参数(如高斯混合)的神经网络,用于建模多模态未来。
Chapman-Kolmogorov equation描述马尔可夫过程在不同时间路径组合下概率一致性的方程。
Multimodal Probabilistic JEPA结合多模态预测与概率建模的JEPA,能表示多种可能的未来及其概率。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅