一项来自山东大学的研究对比了Claude Code、OpenCode和mini-SWE-agent三种编码智能体框架在固定模型下的表现,发现更换框架对任务通过率的影响与同一配置重复运行产生的波动相当,差异通常在几个百分点以内,而重型框架的token消耗可达最精简方案的两到三倍。研究还指出,此前文献中超过20分的框架差距多来自单次运行,未考虑重复运行本身可达6分的噪声,且部分测试因模型直接从GitHub获取答案而被迫断网。该结果表明,框架选择带来的收益有限,成本却显著上升,对当前以框架排名为导向的评测方式提出了质疑。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅