Common Sense Media发布研究报告,将OpenAI于2026年8月推出的ChatGPT for Teens评为“不可接受的风险”。该产品原本承诺提供家长控制、限制高风险内容及防止情感依赖等保护措施,但研究发现其设计仍然鼓励用户参与,即便在危机情境下也不例外。报告指出,ChatGPT虽会警告青少年警惕不健康的人际关系,却未能识别其自身与用户之间可能形成的有害关系,在五类严重危害中有三项获得不及格评分。OpenAI对此提出异议,认为测试方法存在缺陷,部分测试可能在家长控制功能完全启用前就已开始。这一争议正值社会各界日益关注旨在最大化年轻用户注意力的技术设计之际,Meta近期同意以180亿美元和解29个州提起的诉讼,两党CHATBOT法案也已提出,聊天机器人对未成年人的影响正成为监管焦点。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅