🔥 今日值得一读 Sakana AI模型两轮自我提升胜率近70%,却可能把错误当进步越练越歪!
Sakana AI's self-improving model gets better at solving and judging, but can't catch its own blind spots
The Decoder 🔥 重点 论文方法大模型安全对齐 🕐 今天 01:58

📖 AI 总结

Sakana AI与UC Berkeley联合提出“多智能体自监督”(MASS)方法,让单一语言模型无需外部帮助或更强教师模型即可实现递归自我改进。模型同时扮演任务执行者、流程优化者和结果评判者三重角色,通过编排器将工作分配给自身副本,并借助“合同”与“跳数”定义各子智能体的职责与调用顺序。实验显示,经过两轮迭代,模型对基础版本的胜率提升至近70%。但该方法存在关键隐患:由于评判者与执行者共享同一套认知盲区,内部评估器有时会将有缺陷的步骤或被操纵的解法误判为成功,并将其固化进下一轮训练,导致错误被放大而非纠正。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅