📖 AI 总结

超过20位顶尖AI研究者，包括Geoffrey Hinton、Yoshua Bengio和OpenAI研究负责人Jakub Pachocki，联合发表论文警告：AI研发自动化可能很快引发“智能爆炸”。研究指出，AI系统已在开发它们的公司中编写大部分代码，并可能在未来数年内实现整个AI研发流程的自动化，使原本需要数年的进展压缩至数月。作者担忧社会难以跟上这一速度，对超级智能AI的控制可能失控，国家、企业与政府间的权力平衡也可能被侵蚀。他们呼吁政策制定者深入了解AI研究自动化的进展。该论文加入了一系列类似警告之列，反映出业界对AI生存性风险的日益担忧。