📖 AI 总结

OpenAI正加紧推进其下一代旗舰模型，该模型采用与Astra相同的循环Transformer技术（内部称“Recurrent Depth”），通过让token多次循环经过同一组Transformer层来提升数学与编程能力并降低成本。但这一技术也带来安全隐患：部分“思考”过程转入人类无法审查的内部数值表示，削弱了思维链监控的有效性，OpenAI因此刻意限制了Astra的循环次数。据员工透露，年底前可能发布一到两款新模型，但旗舰模型能否在列尚不确定，因其仍需完成对齐工作并强化测试基础设施。此外，依据特朗普关于先进AI系统评估的行政令，OpenAI须在模型向外部合作伙伴开放前最多30天、向公众发布前更早地向美国政府提供访问权限。在Hugging Face事件后，OpenAI已将约10%的总算力转向对齐与安全，相当于数百兆瓦的数据中心容量，按市场价租用每年耗资数十亿美元。