🔥 今日值得一读 模型融合评测新基准FusionEval:无训练方法推理强但工具使用暴跌,低算力兼顾推理与工具使用仍是难题!
FusionEval: Benchmarking Model Fusion for Large Language Models
arXiv CL (cs.CL) 🔥 重点 大模型评测基准论文方法 🕐 今天 12:00

📖 AI 总结

文章提出FusionEval基准,用于系统评估大语言模型的模型融合方法。现有评估对长链推理和工具使用的覆盖不足,且平均性能良好可能掩盖单项专家能力的显著损失。该基准构建了基于Qwen3和Llama独立训练的数学、代码、科学、指令遵循与工具使用专家池,统一评测免训练与需训练两类融合方法,在八个公开基准上考察能力保留与计算成本,报告归一化平均与最差性能、运行时间及峰值GPU显存。实验发现,免训练方法能保持推理性能,但在两种模型规模下均明显削弱工具使用能力;MOPD可保留工具使用并获得更均衡的能力分布,却需额外的数据准备、推理与训练。在低计算成本下同时保留推理、指令遵循和工具使用仍是难题。该基准为高效模型融合研究提供了可比平台。

🔑 关键词速览

Model Fusion将多个专家模型的能力整合到单一模型中的技术。
FusionEval本文提出的用于评估大语言模型融合方法的基准测试平台。
MOPD一种需要额外训练的模型融合方法,能保留工具使用能力并实现更均衡的能力配置。
Tool Use模型调用外部工具(如API、计算器等)以完成复杂任务的能力。
Chain of Thought模型通过逐步推理生成中间步骤以解决复杂问题的能力。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅