📖 AI 总结

42位数学家联名致信英国皇家学会主席，敦促这家英国科学院向政府和媒体发出警示，认为先进AI带来的生存性风险真实且紧迫。签署者包括菲尔兹奖得主Martin Hairer、Peter Scholze和Wendelin Werner，且均未与AI公司存在利益关联。信中援引近期进展：三个月内，OpenAI和Anthropic的顶尖模型已解决多个开放研究问题，其中包括一个千禧年大奖难题，其表现已达到顶尖人类数学家水准，并可能在同样短的时间内发展出超人能力。数学家们真正担忧的是，这种能力跃升速度在网络安全、自主武器控制、生化制剂研发和定向虚假信息等领域可能同样出现。他们强调，AI实验室给出的超过10%的生存风险估计不应被视为炒作，因为当公众意识到危险时，行动可能已为时过晚。