该论文针对基于大语言模型的多智能体系统提出PRISM方法,旨在解决协作拓扑设计中的训练信号不足问题。现有方法从任务查询生成拓扑,依赖执行验证过的图语料进行后训练,但语料仅列出能解决查询的图,并不对其排序,导致持续监督微调缺乏逐查询偏好,生成器倾向于高频出现的拓扑而非最适合当前查询的结构,从而出现任务间此消彼长。PRISM利用特权信息从同一语料中恢复逐查询信号:教师模型通过零初始化低秩分支读取同样解决该查询、但部署时不可用的兄弟图,学生模型在自身采样的轨迹上匹配教师的逐决策目标。在六个多样化基准上,PRISM优于所有评估过的拓扑设计基线,匹配教师对照实验也支持特权查询信息的贡献。
| 多智能体系统(MAS) | 由多个智能体组成的系统,通过协作完成复杂任务。 |
| 协作拓扑 | 决定多智能体系统中哪些智能体参与以及它们之间如何通信的结构。 |
| 监督微调(SFT) | 在预训练模型基础上,使用标注数据进一步训练以适配特定任务的方法。 |
| 特权信息 | 仅在训练阶段可用、部署时无法获取的额外信息,用于指导模型学习。 |
| 零初始化低秩分支 | 一种参数初始化为零的低秩网络分支,用于在训练中引入额外信息而不破坏初始模型行为。 |
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅