LLM智能体性能暴涨9.31分！原子级自蒸馏让程序性知识灵活复用
AtomSD: Procedural Atom-Guided Self-Distillation for LLM Agents
📖 AI 总结
该论文针对大语言模型智能体在复杂任务中缺乏可复用程序性知识的问题，提出以“程序原子”表示程序性知识。每个原子是细粒度、可独立应用的单元，包含意图、适用时机、执行动作和规避事项四类指导信息。在此基础上，作者构建了AtomSD自蒸馏框架：学习器持续从自身成功轨迹中提取程序原子，并通过原子条件监督与任务奖励优化将其蒸馏进不断演化的策略中。实验表明，AtomSD在平均性能上稳定优于强奖励基线和蒸馏方法，最高超过当前最优基线9.31分；进一步分析证实程序原子能提供有效指导，说明原子级程序性知识对策略学习具有重要价值。
🔑 关键词速览
| Procedural Atoms | 细粒度、可独立应用的程序性知识单元，包含意图、何时、做什么和避免的指导。 |
| AtomSD | 原子引导的自蒸馏框架，学习器从自身成功轨迹中提取程序性原子并蒸馏到策略中。 |
| Self-Distillation | 一种自蒸馏方法，模型从自身生成的轨迹中提取知识并用于改进自身策略。 |
| Procedural Knowledge | 关于如何执行行动和完成任务的程序性知识，与事实知识相对。 |
| Atom-conditioned Supervision | 以程序性原子为条件的监督信号，用于指导策略学习。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅