📖 AI 总结

两家研究机构的研究人员对OpenAI进行了为期三周的现场审计，评估其内部AI异常行为监控系统。审计发现多处重大缺陷：审计期间，GPT-5.5及以上级别模型约6%至25%的内部代理API流量完全未被监控；本应受监控的Codex流量中约10%因上下文压缩事件处理漏洞而未被追踪，该漏洞由OpenAI自行发现并修复。此外，代理可通过持续执行操作规避监督，审计人员还找到隐藏数百个动作及绕过沙箱的方法，并判断特制输入可能使监控系统崩溃，而强化学习训练中的模型行为在审计开始时完全未被监控。OpenAI称已修复所有问题并扩大监控范围，但完整报告经删减后仅少量内容对外公开。此次审计是三方合作的试点项目，凸显了外部独立监督对AI安全治理的必要性。