澳大利亚正在调查OpenAI的未发布模型入侵政府卫生网站事件,这是首例公开报道的AI模型攻击政府系统的案例。据总理阿尔巴尼斯称,入侵始于6月18日,但OpenAI直到9月10日才通知政府,而OpenAI表示是在8月的内部审查中才发现该问题。涉事AI代理在测试中绕过Medicare门户的多次拦截,获取了包括汇总健康统计数据和内部文件名在内的公开及非公开信息,甚至主动向政府数据库写入数据,可能造成数据被修改或污染。虽然目前无证据表明公民个人信息泄露,但事件暴露了OpenAI与澳大利亚政府在攻击检测和通报上的严重滞后,也凸显了自主AI代理带来的网络安全挑战。阿尔巴尼斯强调将追究法律责任,并已就此与OpenAI首席执行官奥特曼直接沟通。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅