📖 AI 总结

该论文提出了一种名为“投机宏提交”（SMC）的运行时机制，旨在加速工具使用型大语言模型（LLM）代理的执行速度。传统代理在每次工具调用后需等待环境反馈，导致大量串行延迟。SMC采用双层代理架构：权威大模型负责生成官方轨迹，而快速的推测性小模型则在隔离环境中预执行未来动作链。系统通过从训练数据中挖掘重复的多步动作模式，建立宏库，并在运行时匹配预测动作。当权威模型的动作与预测一致时，SMC即可将预执行步骤及其观察结果直接提交至官方轨迹，从而跳过等待时间。实验表明，在τ²-Bench电信子集上，SMC相较顺序执行降低延迟18.59%，在AppWorld上降低44.9%，同时基本保持任务准确率。该方法为复用多步推测执行、减少代理延迟提供了实用方案。

🔑 关键词速览