📖 AI 总结

加拿大数学家、新晋菲尔兹奖得主雅各布·齐默尔曼宣布成立数学人工智能安全研究所（MAISI），计划于2027年1月在旧金山湾区启动，初期由十至三十名数学家组成，专门攻关AI安全问题。齐默尔曼同时加入OpenAI安全团队，他指出当前AI安全标准远远不够。文章的核心发现是：加密学可以通过数学证明一套密码不可破解，而无需逐一尝试所有攻击方式，但AI领域缺乏类似的捷径——安全只能在实践中体现，甚至连“安全”的理论定义都尚不清晰。MAISI的目标正是建立这种可证明的安全框架，包括证明系统行为负责、输出正确、多智能体协作不产生意外后果，以及抵御尚未被发现的漏洞，零知识证明可能是工具之一。这一尝试意味着AI安全或将从经验性测试转向数学证明，为行业提供更严格的保障标准。