📖 AI 总结

ControlAI美国执行总监康纳·莱希在TechCrunch的Equity播客中提出，超级智能不应被视为武器，而是需要警惕的对手。他认为，随着OpenAI等前沿实验室接连出现安全漏洞，单纯依靠对齐和遏制手段已无法管控超人类AI系统的风险，因此主张直接停止超级智能的开发。莱希还指出，前沿AI实验室正扮演政治角色，而非单纯逐利企业；真正的失控临界点在于AI能自主改进自身，形成自我提升的循环。他支持国际间“信任但核实”的协议，并认为发展超级智能并不符合中国利益。节目还讨论了美国桑德斯-卡瑟“禁止超级智能法案”及英国并行立法，莱希认为美版法案可能超出必要范围。