🔥 今日值得一读
两次推理就能检测RAG知识冲突，准确率70%！
The Temporal Tug-of-War: Visualizing and Detecting RAG Conflicts in Diffusion Models via Trajectory Variance
👨💼 主理人解读 · 为什么值得关注
可用于诊断RAG系统在扩散语言模型中的知识冲突，帮助开发者定位检索内容与模型内部知识矛盾的时刻。
📖 AI 总结
本文研究离散扩散语言模型在检索增强生成（RAG）场景下的一种特定失效模式：当检索到的上下文与模型参数化知识相矛盾时，迭代去噪过程会演变为两种知识来源之间的拉锯。作者将这种时间维度上的语义分歧作为可观测信号，提出轨迹方差分数（TVS），通过计算多次独立随机去噪轨迹所生成答案嵌入的平均成对余弦距离，来量化参数化知识与上下文吸引子之间的冲突。该方法仅需两次并行推理即可完成，计算开销很低。在Synthetic、SciQ、PopQA和CounterFact四个数据集上，基于TVS的简单逻辑回归分类器在LLaDA上达到70.10%准确率和0.7647的AUROC；在Dream 7B上，将轨迹数从2增加到5可使准确率从63.91%提升至69.62%，而更复杂的序列模型仅带来边际改善。研究表明，冲突引发的轨迹动态及其关键特性可在不同扩散架构间迁移，为检测RAG知识冲突提供了一种轻量且可解释的新途径。
🔑 关键词速览
| 检索增强生成 (RAG) | 一种将外部检索信息与语言模型生成相结合的技术，用于提升回答的准确性和时效性。 |
| 离散扩散语言模型 | 一类基于离散状态空间进行迭代去噪以生成文本的扩散模型，与连续扩散模型相对。 |
| 轨迹方差分数 (TVS) | 本文提出的度量指标，通过计算多次独立去噪轨迹中答案嵌入的平均成对余弦距离来量化语义分歧。 |
| 时间语义分歧 | 在迭代去噪过程中，不同时间步上答案语义表示逐渐分化的现象，可用于检测知识冲突。 |
| 参数化知识 | 模型在训练过程中从数据中学习并存储在参数中的固有知识。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅