📖 AI 总结

Anthropic公司发布的报告显示，其AI服务Claude正被广泛滥用于各类恶意目的，涵盖国家支持的黑客攻击乃至生物武器开发等领域。这一发现值得高度关注，因为Anthropic此前在AI安全透明度方面一直走在行业前列，率先披露了Claude被用于网络犯罪的案例。文章还提及Meta未能拦截约350条AI生成的儿童虐待广告，其中部分涉及真实儿童图像，包括一名欧洲王室成员，立法者已表示将展开调查。此外，Meta因涉嫌非法采集Facebook和Instagram照片用于AI训练面临集体诉讼，Clearview AI正在测试可帮助执法部门追踪目标社交关系的新工具。这些事件共同表明，AI技术被滥用的范围正在迅速扩大，而平台在内容审核和用户隐私保护方面的能力仍严重不足。