📖 AI 总结

Google Cloud AI Research与多所大学合作提出RRSI方法，旨在解决自我改进型AI智能体在优化自身运行框架时过度记忆测试任务的问题。研究发现，智能体反复针对同一组有限测试任务优化其"框架"（即控制模型行为的提示、工具与逻辑组合）时，会逐渐记住这些任务，导致训练分数上升但面对新任务时表现停滞甚至下降，具体表现为过拟合特定基准、偏好偶然高分方案以及堆砌无谓复杂度。RRSI通过动态收缩编辑预算、引入严格评审机制并追踪历史尝试，在保持框架可编辑的同时抑制过拟合。实验显示，该方法在三个领域的新任务上均提升了表现，而其他方法大多仅在训练任务上有效。