📖 AI 总结

Anthropic研究员发布了一项关于自我改进AI的研究，展示了AI系统如何通过自动化流程提升自身对齐性能。论文中，自动化系统在10个对齐基准上均实现了性能提升，且未损害整体表现。系统模拟传统研究方法，搜索文献、提出方案并训练模型，通过迭代保留有效方法，效率极高。研究指出，最佳自动化方法在六小时内平均超越人类专家提案，且成本仅为每小时4美元，远低于人类研究员的150美元。这被视为迈向递归自我改进的重要一步，可能使人类AI研究员逐渐过时。然而，论文也承认局限性，如依赖基准的准确性及文献维护的挑战。总体而言，该研究为自动化对齐训练的实用性提供了早期证据，预示着AI自我改进的潜力。