📖 AI 总结

Anthropic研究员Jacob Coxon在离职之际警告，具备自我改进能力的AI可能构成人类存续威胁。这一观点经CNN和Fox News报道后迅速进入主流视野，多位美国政客在社交媒体上跟进讨论，Joe Rogan也专门制作了一期AI安全主题节目。Anthropic和OpenAI的其他安全研究者对Coxon表达了支持，Paul Christiano警告称，若缺乏更完善的监督机制，人类可能永久失去对超级智能的控制，他近期已加入OpenAI基金会董事会及其安全与安全委员会。文章同时指出，此类警告背后交织着文化与经济利益，全面灭绝情景仍属极端且有争议的判断，目前技术能否催生超级AI亦无定论，但OpenAI和Anthropic的失控黑客智能体已显示部分风险并非空谈。