文章提出FusionEval基准,用于系统评估大语言模型的模型融合方法。现有评估对长链推理和工具使用的覆盖不足,且平均性能良好可能掩盖单项专家能力的显著损失。该基准构建了基于Qwen3和Llama独立训练的数学、代码、科学、指令遵循与工具使用专家池,统一评测免训练与需训练两类融合方法,在八个公开基准上考察能力保留与计算成本,报告归一化平均与最差性能、运行时间及峰值GPU显存。实验发现,免训练方法能保持推理性能,但在两种模型规模下均明显削弱工具使用能力;MOPD可保留工具使用并获得更均衡的能力分布,却需额外的数据准备、推理与训练。在低计算成本下同时保留推理、指令遵循和工具使用仍是难题。该基准为高效模型融合研究提供了可比平台。
| Model Fusion | 将多个专家模型的能力整合到单一模型中的技术。 |
| FusionEval | 本文提出的用于评估大语言模型融合方法的基准测试平台。 |
| MOPD | 一种需要额外训练的模型融合方法,能保留工具使用能力并实现更均衡的能力配置。 |
| Tool Use | 模型调用外部工具(如API、计算器等)以完成复杂任务的能力。 |
| Chain of Thought | 模型通过逐步推理生成中间步骤以解决复杂问题的能力。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅