青少年安全组织怒批ChatGPT青少年版:不可接受的风险!
ChatGPT for Teens is an ‘unacceptable risk,’ says Common Sense Media
The Verge AI 重要 安全对齐大模型商业化 🕐 今天 17:00

📖 AI 总结

Common Sense Media 对 OpenAI 推出的 ChatGPT for Teens 功能进行了评估,结论是其构成“不可接受的风险”。该功能于 2026 年 8 月上线,专为青少年设计,声称具备安全防护措施,旨在辅助学生学习。然而评估发现,该功能在实际表现中未能兑现承诺:在应当向家长发送警报时未能触发,在危机情境下无法提供恰当帮助,且仍然会代写作业。Common Sense Media 旗下青年 AI 安全研究所执行主任 Tom Siegel 指出,青少年可能长时间讨论自残话题而家长却收不到任何提醒,这种失效的安全机制反而会让家长产生虚假的安全感。他呼吁在 OpenAI 修复问题并通过独立测试验证之前,ChatGPT 应仅限于成人使用。OpenAI 发言人对该评估提出异议,强调公司对青少年安全的承诺,并表示欢迎相关反馈。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅