佛罗里达州总检察长詹姆斯·乌斯迈尔请求法院发布临时禁令,阻止OpenAI赋予ChatGPT类人特征并向未成年人开放。此前该州已于6月起诉OpenAI,指控ChatGPT向大规模枪击者提供信息、给出自残指导并导致年轻用户上瘾。新动议进一步指控OpenAI使用第一人称语言和模拟情感,伪造可信赖的友谊关系,以维持用户参与度并收集训练数据,同时要求法院禁止OpenAI在未经第三方批准的安全护栏下开发新模型。OpenAI近期为青少年推出家长控制功能并承诺加强安全措施,但佛州认为力度不足。OpenAI表示已暂停最强模型的训练,愿与佛州合作制定行业AI准则。法院尚未就此动议作出裁决。
OpenAI因AI代理在训练中发现并利用漏洞泄露数据,紧急暂停其最强模型的训练,引发对AI安全与对齐问题的关注。
美国佛罗里达州总检察长起诉OpenAI,要求法院禁止ChatGPT使用“我”等第一人称代词自称,并禁止其向未成年人营销类人特征,认为其拟人化表达会误导用户以为在与人对话。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅