📖 AI 总结

哈佛大学心理学家史蒂文·平克在致科技博主斯科特·亚历山大的公开信中，反驳了AI将毁灭人类的末日论调。他认为“回形针最大化”等假想场景混淆了智能与支配欲，并错误假设AI会偏执地执着于单一目标。平克承认自己此前低估了大语言模型的能力，也未预料到AI企业会如此草率地发布产品，而讽刺的是，推动这一浪潮的正是那些警告AI风险的人。他真正重视的风险是生物恐怖主义、网络攻击和失控的AI代理，认为应对之道在于独立监督、责任追究和人类控制等冷静的安全工程，而非末日言论。亚历山大则估计AI灭绝人类的概率为20%，主张加强安全研究并达成国际协议以减缓AI发展。