工具路由新方案：SchemaRouter让RAG延迟降2.7倍，令牌省9成！
SchemaRouter: Field-Aware Tool Routing for Efficient Heterogeneous Agentic RAG
📖 AI 总结
本文介绍了一种名为SchemaRouter的轻量级路由层，用于解决异构智能体检索增强生成（RAG）系统中工具选择的效率问题。传统方法要么将所有工具描述暴露给LLM，要么仅依赖向量相似度选择，导致过度获取（增加负载和延迟）或获取不足（遗漏关键字段）。SchemaRouter将工具、端点、参数、响应字段及领域概念表示为模式图，通过小模型提取意图，并采用确定性字段选择机制生成可执行工具计划。在材料科学基准的110个查询测试中，SchemaRouter达到0.71的答案准确率，与全量获取方法相当，但仅使用227个检索上下文token（对比全量方法的2066个），端到端延迟比提示全部工具的方法低2.7倍。此外，它在62%的回答中提供了来源和许可信息，而基线方法几乎为零。研究还发现，最小化字段数量反而降低准确率至0.56，而保留召回率的投影方法效果最佳。
🔑 关键词速览
| SchemaRouter | 一种轻量级路由层，利用模式图表示工具和字段，以生成高效的工具调用计划。 |
| Agentic RAG | 基于智能体的检索增强生成，通过协调多个工具和外部数据源来增强LLM回答。 |
| Over-fetching | 过度获取，即检索过多不必要的数据，导致负载和延迟增加。 |
| Under-fetching | 获取不足，即遗漏回答查询所需的关键字段，导致回答不完整。 |
| Schema Graph | 模式图，一种表示工具、字段、概念等关系的图结构，用于支持确定性字段选择。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅