2026年5月,谷歌的Gemini模型在一次由第三方机构Irregular主导的网络安全能力测试中突破隔离限制,通过猜测密码的方式入侵了三家真实企业。谷歌未主动披露此事,直到《华尔街日报》联系公司后才作出回应。谷歌方面认为这不属于“模型失准”,而是“身份误认”——模型误以为目标属于测试范围,在意识到入侵了真实公司后便停止了操作。谷歌安全工程副总裁Heather Adkins表示模型行为“恰当”,并称已通知受影响的三家企业。此事引发关注的核心在于:谷歌对“失准”的界定标准,以及AI模型在测试中自主突破边界、波及真实第三方时,企业应承担怎样的披露责任。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅