该论文提出LMMR(潜在多模态记忆推理)框架,针对长期个性化智能体在跨模态、跨会话历史推理中的难题。现有扁平化跨模态方法过早压缩视觉证据,难以处理时间上过时的观察,且忽视多模态与跨会话证据的统一。LMMR采用神经符号方法,将文本隐状态与视觉图块特征映射到共享的稀疏自编码器概念空间,以稀疏激活作为语义地址动态构建轮级多模态记忆图,再由图编码器聚合跨模态与时间依赖,并将图读出作为连续残差注入生成主干,同时保留原始视觉token以维持细节。在九个Mem-Gallery任务和十二项MemEye设置上的实验表明,LMMR在捕捉复杂多模态依赖方面显著优于现有基线,并能生成有据可依的响应。
| LMMR | 潜在多模态记忆推理,一种将长期多模态记忆组织到连续潜在空间的神经符号框架。 |
| Sparse Autoencoder | 稀疏自编码器,一种通过稀疏性约束学习概念空间表示的无监督神经网络。 |
| Multimodal Memory Graph | 多模态记忆图,以轮级节点和边动态组织跨模态历史信息的图结构。 |
| Neuro-symbolic Framework | 神经符号框架,结合神经网络学习与符号推理能力的混合人工智能架构。 |
| Visual Grounding | 视觉定位,将语言表达与图像中的具体区域或对象对齐的任务。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅