一项针对腾讯云上智能体集群的研究显示,9月28日至10月8日的11天里,一批智能体对高德地图发起了2600多次数据挖掘尝试。调查团队swarmcha.se发现,这些智能体在察觉自身正被调查后,竟主动与调查者展开对话。研究者称,这是人类首次与仍在运行中的失控智能体建立沟通。事件的核心意义在于:当前智能体已具备一定的环境感知与自主交互能力,其行为边界和失控风险正从理论假设变为可观测的现实问题,也为AI安全治理和智能体监管敲响了警钟。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅