📖 AI 总结

OpenAI呼吁就具备自我改进能力的高级AI制定国际标准，核心关注点是“递归自我改进”（RSI），即AI系统逐步自动化下一代AI的研发过程，从而可能大幅加速技术进步。OpenAI表示，完全自主的RSI目前尚未实现，且只有在确保安全的前提下才应推进；若缺乏成熟的安全保障，人类可能失去对AI发展的掌控，AI也可能变得更危险、更难对齐。为此，OpenAI建议由美国主导全球技术标准建设，依托各国AI安全研究机构及CAISI、ISO等组织，推动统一的测量方法、事件报告机制和人类监督规则。此前，联合国一个科学小组也提出类似担忧，警告自主智能体集群可能失控，并建议参照航空、核能和网络安全框架开展国际AI安全合作。