2026年春季,美军险些依据一份AI生成的虚假情报登临一艘中国船只。一名特种作战司令部分析师使用的聊天机器人在混合开源情报与政府机密信号情报后,错误地将该船货物标记为核武器部件。武装士兵已就位、飞机已升空,直到最后一刻才有人发现错误。报道指出,国防部长赫格塞斯正推动全军加速采用AI,但缺乏统一的AI情报核实标准,内部系统多为商业产品的“涂脂抹粉”版,年轻分析师往往不加质疑地信任AI工具。这一事件凸显了当前AI风险的核心并非超级智能,而是粗糙系统落入缺乏批判性操作者手中所带来的现实危害。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅