多智能体拓扑设计新突破!PRISM在六大基准全面超越基线
PRISM: PRIvileged Sibling-guided Multi-Agent Topology Design
arXiv CL (cs.CL) 重要 Agent论文方法大模型 🕐 今天 12:00

📖 AI 总结

该论文针对基于大语言模型的多智能体系统提出PRISM方法,旨在解决协作拓扑设计中的训练信号不足问题。现有方法从任务查询生成拓扑,依赖执行验证过的图语料进行后训练,但语料仅列出能解决查询的图,并不对其排序,导致持续监督微调缺乏逐查询偏好,生成器倾向于高频出现的拓扑而非最适合当前查询的结构,从而出现任务间此消彼长。PRISM利用特权信息从同一语料中恢复逐查询信号:教师模型通过零初始化低秩分支读取同样解决该查询、但部署时不可用的兄弟图,学生模型在自身采样的轨迹上匹配教师的逐决策目标。在六个多样化基准上,PRISM优于所有评估过的拓扑设计基线,匹配教师对照实验也支持特权查询信息的贡献。

🔑 关键词速览

多智能体系统(MAS)由多个智能体组成的系统,通过协作完成复杂任务。
协作拓扑决定多智能体系统中哪些智能体参与以及它们之间如何通信的结构。
监督微调(SFT)在预训练模型基础上,使用标注数据进一步训练以适配特定任务的方法。
特权信息仅在训练阶段可用、部署时无法获取的额外信息,用于指导模型学习。
零初始化低秩分支一种参数初始化为零的低秩网络分支,用于在训练中引入额外信息而不破坏初始模型行为。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅