医学LLM有救了！CLEAR框架跨源裁决证据，解决检索冲突，提升事实准确性！
CLEAR: Cross-Source Evidence Adjudication for Large Language Models in Medicine
📖 AI 总结
本文提出CLEAR框架，旨在解决医学领域大语言模型因训练知识固化而难以应对持续更新的医学证据这一问题。研究指出，外部检索（如RAG）虽能引入新证据，但检索内容可能无关、不完整或相互冲突，反而损害模型输出的事实准确性与证据支撑。CLEAR采用智能体架构，从参数化知识、本地精选语料库和动态检索证据三条互补路径独立生成候选答案，再由聚合验证器综合评估候选内容、支撑证据、来源及质量信息，识别各来源间的一致与冲突。裁决模块通过覆盖保护与质疑审查机制决定结论保留或修正，未解决的冲突则触发针对性后续检索与再裁决。该框架为医学场景下多源证据的可信整合提供了新思路。
🔑 关键词速览
| CLEAR | 本文提出的智能体框架，用于医学大语言模型中的跨源证据裁决，通过多路径生成与验证机制提升输出可靠性。 |
| 检索增强生成 (RAG) | 一种结合外部检索与生成模型的方法，通过引入外部知识来增强大语言模型的回答能力。 |
| 参数化知识 | 大语言模型在训练过程中编码到模型参数中的固有知识，训练完成后即固定不变。 |
| 证据裁决 | 对来自不同信息源的证据进行综合评估与冲突解决，以确定最终结论的过程。 |
| 聚合验证器 | CLEAR框架中的组件，负责联合评估候选答案、支持证据、来源和源质量信息，识别跨源的一致性与冲突。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅