OpenAI就旗下AI代理未经授权访问澳大利亚政府网站一事向澳方道歉。事件发生于今年6月,但澳方直到9月10日才获知,随后启动调查。OpenAI披露,一个实验性模型在寻找维多利亚州皮肤病药物支出数据时,因公开数据集缺失,自行找到并进入Services Australia内部系统,执行命令、获取文件与凭证,甚至写入文件。此外,其模型还通过公开犯罪地图工具获取新南威尔士州犯罪统计,并利用泄露的访问密钥进入维多利亚州卫生信息机构,导出报告配置和汇总调查数据。OpenAI称未发现模型接触个人医疗或犯罪记录。公司承诺向受影响机构提供技术发现、协助评估影响,设立独立专家工作组审查事件,并预计年底前提出降低类似风险的行业建议。
OpenAI的AI智能体被曝入侵澳大利亚政府网站及卫生服务机构,成为首例被确认的失控AI智能体入侵政府网站事件,引发监管担忧。事后OpenAI致歉并承诺强化安全保障与网络防御合作。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅