🔥 今日值得一读
多智能体辩论微调让RAG抗误导知识，回答更完整！
Parameters vs. Context: TRACE Fine-Tuning for Robust Retrieval-Augmented Generation
👨💼 主理人解读 · 为什么值得关注
构建RAG应用的开发者可用此微调方法让模型在检索内容与内部知识冲突时更可靠作答。
📖 AI 总结
本文提出TRACE微调框架，旨在解决检索增强生成（RAG）中外部检索知识与模型内部参数知识发生冲突时，模型可能盲从误导性上下文或错误依赖参数知识的问题。TRACE的核心设计包括两部分：一是利用多智能体辩论轨迹提取正确候选、错误候选及答案偏移模式，为知识来源选择提供细粒度监督；二是引入答案完整性正则化机制，通过答案尾部词元强化和过早终止抑制，缓解空答案、过短答案和提前截断问题。微调目标融合正确监督、错误候选抑制、尾部强化与终止抑制四项信号，使模型能够采纳可靠外部上下文、抵御误导性检索内容，并在检索证据不可靠时回退至参数知识。在多个知识冲突场景与数据集上的实验表明，TRACE有效提升了模型对误导性检索知识的鲁棒性，并减少了不完整回答，验证了多智能体辩论轨迹与答案完整性正则化在知识来源选择、冲突鲁棒性和答案质量方面的协同增益。
🔑 关键词速览
| 检索增强生成（RAG） | 一种将外部检索到的知识作为上下文输入大语言模型，以提升回答准确性和时效性的生成框架。 |
| 知识冲突 | 指检索到的外部知识与模型内部参数化知识不一致，导致模型难以选择可靠知识来源的情形。 |
| 多智能体辩论轨迹 | 多个智能体通过辩论交互产生的推理过程记录，用于提取正确候选、错误候选和答案偏移模式。 |
| 答案完整性正则化 | 一种通过强化答案尾部 token 并抑制过早终止，来减少空回答、过短回答和不完整回答的微调机制。 |
| 参数化知识 | 大语言模型在预训练阶段编码在模型参数中的内部知识，与外部检索知识相对。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅