该论文针对工具调用语言模型训练中交互成本高昂、且同一 rollout 组内奖励完全一致时无法提供组内相对学习信号的问题,提出以奖励分歧来指导评测框架评估与 rollout 预算分配。作者首先提出 Discord 方法,通过精确配对推理和保持决策的早停机制检验框架改动,只有配对结果出现分歧时才判定某一框架更优。这一思路进一步发展为 BRACE 方法,它结合历史任务证据、任务成功率的不确定性以及相关奖励模型,在分配生成预算前预测混合奖励组。在受控框架实验中 Discord 表现更优,实际 MCP 实验则揭示了留存成本与收益之间的权衡。在三个 Qwen3-VL 模型规模上,BRACE 以更少的新训练 rollout 超过最强基线峰值,并在 BFCL 和 NESTFUL 基准上无需额外训练即领先对比方法。消融实验考察了历史库、估计器和分配评分的作用,前瞻性评估验证了预测校准。结果表明,在生成之前预测奖励对比是可行且有效的。
| MCP (Model Context Protocol) | 模型上下文协议,一种用于标准化语言模型与外部工具交互的协议环境。 |
| Rollout | 在强化学习中指从策略中采样生成的一条轨迹或交互序列。 |
| Discord | 本文提出的方法,通过精确配对推理和保持决策的早停来评估 harness 编辑,仅当配对结果不一致时才认为一个 harness 更优。 |
| BRACE (Bank-calibrated Rollout Allocation under Correlated Episodes) | 本文提出的前瞻性分配方法,结合历史任务证据、成功率不确定性和相关奖励模型,在分配生成预算前预测混合奖励组。 |
| Harness | 指用于评估或训练语言模型的测试框架或运行环境。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅