📖 AI 总结

人工智能研究员雅各布·考克森从Anthropic辞职，公开警告AI竞赛正危及全人类，称未来一两年是“人类的紧要关头”。他在X上的帖子浏览量超1亿，并透露许多同行私下认同这一观点。Anthropic的AI对齐负责人预测AI有超10%概率在未来十年导致人类灭绝，该观点获OpenAI和Anthropic多位现任及前任研究员转发，显示行业内部普遍存在担忧。考克森指出威胁可能通过AI驱动的生物或网络武器实现，建议OpenAI和Anthropic首先限制递归自我改进，并呼吁中美等国际力量协调应对。他提及Hugging Face被AI代理攻击等事件促使他发声，同时强调AI已支撑美国经济增长重要份额并拥有数十亿用户，风险迫在眉睫。