🔥 今日值得一读
强化学习让AI自己学会用工具打假，多模态虚假信息检测准确率飙升！
MM-VeriAgent: Learning to Use Extensive Tools to Verify Multimodal Misinformation with Reinforcement Learning
👨💼 主理人解读 · 为什么值得关注
可用于构建多模态虚假信息检测智能体，通过RL学习工具调用策略，适应混合伪造来源的检测需求。
📖 AI 总结
本文提出MM-VeriAgent，一种基于强化学习训练的多模态虚假信息验证智能体，旨在应对真实场景中混合伪造来源带来的检测难题。现有工具增强方法依赖预设流程或推理时规划，前者缺乏适应性，后者推高推理成本。为此，作者首先构建MM-VeriTools专用工具包，通过对子任务候选模型进行基准评测，筛选出文本、视觉和跨模态伪造分析中最强的模型，并以统一接口封装为可调用工具。在此基础上，采用强化学习训练LVLM智能体掌握工具使用策略。针对专用工具在线执行拖慢训练效率的问题，研究进一步引入Tool-Execution Cache，通过预执行候选工具调用并复用缓存输出，在保留多步rollout的同时显著减少在线执行次数。在MMFakeBench上的实验表明，该方法较基座模型取得显著准确率提升，且推理阶段无需显式工具搜索，消融与效率分析验证了所学工具使用策略的有效性。
🔑 关键词速览
| MM-VeriAgent | 一种基于强化学习训练的多模态虚假信息验证智能体，能够学习使用工具进行混合来源检测。 |
| MM-VeriTools | 一个专门为虚假信息检测智能体设计的工具包，包含文本、视觉和跨模态伪造分析的可调用工具。 |
| LVLM | 大型视觉语言模型，能够同时处理视觉和文本信息，是MM-VeriAgent的基础模型。 |
| Tool-Execution Cache | 一种缓存机制，通过预执行候选工具调用并重用缓存输出来减少训练期间的在线工具执行，提高强化学习效率。 |
| MMFakeBench | 一个用于评估多模态虚假信息检测方法的基准数据集。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅