📖 AI 总结

文章报道了Anthropic安全研究员Jacob Coxon因担忧AI安全风险而辞职的事件。Coxon在离职声明中指责Anthropic和OpenAI等公司正“以我们的生命为赌注”，竞相开发无法控制的自我改进型超级智能系统。Anthropic安全团队负责人Evan Hubinger随后公开回应，承认存在超过10%的概率，AI可能在2030年前对人类构成灭绝性威胁。文章指出，业内专家长期警告递归自我改进AI可能失控，尽管该技术尚未实现，但企业正积极追求这一目标，且当前AI代码编写已大量依赖AI辅助。此事件凸显了AI发展速度与安全监管之间的紧张关系，以及行业内部对潜在生存风险的严重分歧。