📖 AI 总结

该论文提出了一种名为“Outcome Monitors”的机制，用于检测AI代理工具调用中的“静默故障”——即工具返回格式正确但内容错误的结果（如缓存错误页或负价格），这类故障常被代理误当作有效数据消费。该机制通过从任务无关轨迹或公共模式中挖掘“结果契约”，在违反契约时保留结果并发出附带恢复工具列表的非约束性回执。在冻结的预设评估中，该方法将ToolMaze任务完成率从10.9%提升至28.1%，覆盖四个模型和两个供应商家族，并在第三个供应商中复现；在tau-bench零售场景中，两个层级的完成率分别提升14.0和12.0个百分点。对照实验表明，恢复工具列表是效果的关键成分，而诊断细节和时机无显著影响。不过，在基于已发布事故分类法的测试中，超出挖掘词汇表的检测率降至46%，但投递和完成率不受影响。研究指出，扩展检测范围至契约词汇表之外仍是待解问题。

🔑 关键词速览