📖 AI 总结

Anthropic CEO Dario Amodei 发布博文，呼应了业界关于“放缓AI前沿发展”的呼吁，并提出三项具体策略。他首先主张引入METR等第三方机构的“嵌入式评估员”，常驻AI公司内部，以核实企业是否遵守安全承诺并确保事故上报，Anthropic 已单方面承诺接受这一安排。其次，他呼吁民主国家内的领先AI公司协调制定共同安全标准，并对不受约束的AI进展速度设定限制。此举背景是AI安全争议升温，包括研究员Jacob Coxon因担忧而辞职，以及OpenAI-HuggingFace黑客事件。Amodei认为AI能力正以惊人速度提升，尤其是构建下一代AI的能力，因此必须主动减速，同时善用由此赢得的时间。