智能体可控遗忘：工具调用Token直降50%，API成本从4.38美元砍到1.28美元！
Agent-Controlled Forgetting for Tool-Using Agents: Reversible Context Curation in Practice
📖 AI 总结
本文研究工具使用型智能体中的“智能体自主遗忘”机制：由执行模型自行挑选此前观察到的工具返回结果，将其替换为简短摘要并保留原文至可恢复存档，同时保护用户指令与助手消息不被改动。在OpenTelemetry调试案例中，该方法使提示词token从912492降至231951，累计输入token减少约50%，API成本由约4.38美元降至1.28至1.44美元，但请求次数增多、耗时增加17%。两组任务均通过主行为测试，却未完全满足后续评估；另一组应用开发任务未产生节省，且早期续写虽上下文更少但人工评估质量下降。研究表明，可逆上下文管理在噪声较大的工具轨迹中能显著节省资源，但其效果高度依赖具体工作负载。
🔑 关键词速览
| Agent-Controlled Forgetting | 智能体自主决定遗忘哪些历史信息，以优化上下文使用。 |
| Tool-Using Agents | 能够调用外部工具（如API、数据库）来完成任务的AI智能体。 |
| Reversible Context Curation | 对上下文进行可逆的整理，即可以恢复原始信息的管理方式。 |
| OpenTelemetry | 一个开源的观测性框架，用于生成、收集和管理遥测数据（如追踪、指标、日志）。 |
| Prompt Tokens | 提示令牌，指输入给语言模型的文本被分割后的基本单位，用于计算使用量。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅