🔥 今日值得一读
黑盒蒸馏新突破：不碰模型权重，小模型追平大模型95%差距，推理成本直降8.3倍！
D-Skill: Distilling Teacher Knowledge through Agent Skills
📖 AI 总结
该论文提出D-Skill框架，旨在将前沿语言模型智能体的能力迁移至更小的学生模型，以降低推理成本。与传统知识蒸馏依赖参数更新不同，D-Skill将教师模型视为黑盒，通过分析教师与学生配对轨迹中的行为分歧与一致，把教师的行为优势提炼为可解释的自然语言技能文档，并在推理时提供给学生模型。整个技能构建过程完全离线，无需标签、额外环境交互或权重更新。在SpreadsheetBench-Verified、ALFWorld和国际象棋谜题等多个任务及多组师生模型对上，D-Skill在不改动模型权重的情况下弥合了75%至95%的师生差距，单次离线处理即优于一周期监督微调基线，并与多周期微调相当；同模型家族下学生模型每任务推理成本比教师低5.7至8.3倍。结果表明，自然语言技能蒸馏可作为基于权重的能力迁移的高效、可解释替代方案。
🔑 关键词速览
| 知识蒸馏 | 一种将大型教师模型的知识迁移到小型学生模型的技术，传统上通过参数更新实现。 |
| D-Skill | 本文提出的框架，将教师视为黑盒，通过分析成对轨迹将教师的行为优势蒸馏为可解释的自然语言技能。 |
| 自然语言技能 | 以自然语言文档形式呈现的可解释技能，在推理时提供给学生模型以指导其行为。 |
| 成对轨迹 | 教师模型和学生模型在相同任务上产生的执行轨迹对，用于分析行为差异与一致之处。 |
| SFT | 监督微调，一种使用标注数据对预训练模型进行微调的方法，本文中作为基线对比。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅