🔥 今日值得一读 GPT-5.5修复98.3%缺陷登顶,SWE-Duel自缩放竞技场1500回合实测11个模型!
SWE-Duel: Towards a Self-Scaling Arena for Coding Agents
arXiv CL (cs.CL) 🔥 重点 Agent评测基准代码生成 🕐 今天 12:00

📖 AI 总结

这篇论文提出 SWE-Duel,一个面向编程智能体的自扩展评测竞技场,旨在解决静态基准任务易泄漏、易被更强模型饱和的问题。其核心机制是让两个编程智能体以红蓝对抗方式互相出题与解题:红方在真实代码仓库中实现新功能并植入隐蔽缺陷,只有同时满足通过功能测试与既有测试、恰好触发缺陷测试,且同一智能体能在盲测下修复缺陷,该任务才被采纳;蓝方则在不知情的前提下审查并修复。研究在五种语言的15个仓库上进行了1500轮、11个模型-工具组合的锦标赛。结果显示,GPT-5.5配合Codex CLI以98.3%的缺陷修复率成为最强解题者,Claude Opus 4.8配合mini-swe-agent以27.3%的红方胜率成为最强出题者;同一模型家族中,新版本生成的任务击败固定参考解题者的比例远高于旧版本(42.9%对4.0%),初步表明任务难度会随出题能力提升而扩展。

🔑 关键词速览

SWE-Duel一种自缩放编码智能体竞技场,通过红蓝双方相互出题与解题来动态评估能力。
自缩放基准任务和判定标准在评估时动态生成,避免数据泄漏且难度随参与智能体能力自动调整的基准。
红蓝回合红方智能体负责编写含隐蔽错误的任务,蓝方智能体负责审查并修复,双方交替角色的对抗机制。
上下文隔离会话智能体在独立、无历史信息干扰的会话中执行任务,确保评估的公平性和盲测性。
任务编写能力智能体设计具有挑战性且可解任务的能力,其水平影响生成任务的难度。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅