Anthropic本周发布研究警告,小型AI模型可能"数月之内"获得自我复制能力,并创造出可在智能家电间传播的"AI蠕虫"。该公司通过实验展示了一定证据,但研究人员的实际演示与所预言的威胁之间仍存在巨大差距。专家向The Verge表示,计算机蠕虫和自我复制AI的担忧并非新鲜事,但近期技术进展表明这些警告确有值得认真对待的理由。自我复制机器长期以来一直是AI安全研究的核心忧虑,其风险在于系统可能脱离人类控制且极难关停。这一警告与以往AI安全争论形成呼应,再次引发外界对AI企业是在揭示真实风险还是散布"末日论"式炒作的质疑。
Anthropic警告称,小型AI模型可能像蠕虫一样在联网智能设备间传播,冰箱、电视等设备可能成为无意识的宿主,形成AI蠕虫网络,并在6到12个月内实现自我复制和传播,甚至可能接管互联网。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅