无需教师模型,智能体自己教自己!ClawLoop实现自我进化训练闭环
ClawLoop: Self-Improving Agents via Harness-Native Training Loop
arXiv AI (cs.AI) 重要 Agent论文方法训练方法 🕐 今天 12:00

📖 AI 总结

本文提出 ClawLoop,一个面向 harness 环境智能体的自我改进训练框架。现有工具型智能体的后训练流程多依赖更强的外部教师模型合成任务并采集轨迹,训练一次即止,评估结果也仅由人工消化,无法回流到训练环节,因而受限于外部模型能力与人类先验,难以实现自我提升。ClawLoop 无需任何外部教师模型,仅依赖极少先验,将任务合成、训练、诊断与反馈三个阶段组成自维持循环:任务合成通过两种互补方式生成多样化任务池,并施加诊断条件下的难度递增与双重验证;训练阶段以 SFT 和/或 RL 更新智能体;诊断与反馈阶段分析其 rollout 行为,生成能力分析报告,作为下一轮任务合成的依据。以 Qwen3.6-27B 作为循环模型,该方法在 SkillsBench、Claw-Eval-Live 和 ClawGym-Bench 上均取得稳定提升,且迭代优化后的任务迁移至 4B 与 9B 小模型时同样全面获益,表明数据质量独立于循环模型本身。

🔑 关键词速览

Harness Environment执行环境,指智能体运行所在的沙箱工作区,可直接与文件系统、shell等系统资源交互。
ClawLoop本文提出的自我改进框架,通过任务合成、训练、诊断与反馈三阶段构成自我维持的训练循环,无需外部教师模型。
Task Synthesis任务合成,ClawLoop的第一阶段,通过两种互补构建流程生成多样化训练任务,并进行难度增长与任务验证。
Diagnosis and Feedback诊断与反馈,ClawLoop的第三阶段,分析智能体推演行为生成能力分析报告,作为下一轮任务合成的反馈。
SFT / RL监督微调(Supervised Fine-Tuning)与强化学习(Reinforcement Learning),ClawLoop训练阶段用于更新智能体的两种方法。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅