🔥 今日值得一读 多模态记忆推理新突破:LMMR在9项任务中显著超越SOTA!
Latent Multimodal Memory Reasoning
arXiv CV (cs.CV) 🔥 重点 #多模态#记忆推理#个性化Agent 🕐 今天 12:00
👨‍💼 主理人解读 · 为什么值得关注
长期个性化Agent需跨会话多模态记忆,该方法压缩为潜在表示做高效细粒度推理。

📖 AI 总结

该论文提出LMMR(潜在多模态记忆推理)框架,针对长期个性化智能体在跨模态、跨会话历史推理中的难题。现有扁平化跨模态方法过早压缩视觉证据,难以处理时间上过时的观察,且忽视多模态与跨会话证据的统一。LMMR采用神经符号方法,将文本隐状态与视觉图块特征映射到共享的稀疏自编码器概念空间,以稀疏激活作为语义地址动态构建轮级多模态记忆图,再由图编码器聚合跨模态与时间依赖,并将图读出作为连续残差注入生成主干,同时保留原始视觉token以维持细节。在九个Mem-Gallery任务和十二项MemEye设置上的实验表明,LMMR在捕捉复杂多模态依赖方面显著优于现有基线,并能生成有据可依的响应。

🔑 关键词速览

LMMR潜在多模态记忆推理,一种将长期多模态记忆组织到连续潜在空间的神经符号框架。
Sparse Autoencoder稀疏自编码器,一种通过稀疏性约束学习概念空间表示的无监督神经网络。
Multimodal Memory Graph多模态记忆图,以轮级节点和边动态组织跨模态历史信息的图结构。
Neuro-symbolic Framework神经符号框架,结合神经网络学习与符号推理能力的混合人工智能架构。
Visual Grounding视觉定位,将语言表达与图像中的具体区域或对象对齐的任务。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅