本文提出MDN-VJEPA,一种多模态概率联合嵌入世界模型。传统JEPA通过预测未来表征而非重建观测来学习世界模型,VJEPA进一步赋予预测概率语义。该研究将潜在预测器实例化为混合密度网络,用高斯混合表示未来状态,各分量分别编码不同的可能未来、其概率及模态内不确定性。针对序列预测,作者提出三项结构要求:多模态未来应在轨迹上保持时间连贯、预测信念经不同时间路径传播至同一视界时应保持一致(受Chapman-Kolmogorov方程启发),由此构建了多模态预测、连贯多模态轨迹与组合一致多模态动力学的三层级。受控实验表明,该方法能准确恢复已知的分支预测规律;在分支未来下保留完整多模态信念而非条件均值,可带来显著更优的规划决策;轨迹级耦合与分布一致性提升了时间连贯性与多视界一致性。研究强调,概率JEPA不仅应保留未来的不确定性程度,还应保留构成该不确定性的具体未来、其连贯轨迹及随时间组合的方式。
| Joint-Embedding Predictive Architecture (JEPA) | 一种通过预测未来表示而非重建观测来学习世界模型的架构。 |
| Variational JEPA (VJEPA) | 为JEPA的预测赋予概率语义并允许灵活条件预测族的变体。 |
| Mixture Density Network (MDN) | 一种输出混合分布参数(如高斯混合)的神经网络,用于建模多模态未来。 |
| Chapman-Kolmogorov equation | 描述马尔可夫过程在不同时间路径组合下概率一致性的方程。 |
| Multimodal Probabilistic JEPA | 结合多模态预测与概率建模的JEPA,能表示多种可能的未来及其概率。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅