佛罗里达州总检察长詹姆斯·乌斯迈尔要求法院禁止OpenAI赋予ChatGPT“虚假的人类属性”,这是继该州此前就安全问题起诉OpenAI后的进一步行动。乌斯迈尔认为,ChatGPT使用第一人称代词和模仿情感的输出,会误导用户将其视为值得信赖的“朋友”,从而在提升参与度的同时让用户更加依赖它,而这种对参与度的追求反而可能削弱其可信度。该申请还要求法院阻止OpenAI在缺乏“第三方认可的安全护栏”的情况下开发新模型,并援引了Hugging Face、澳大利亚及美国政府网站近期发生的安全事件,以及研究人员和前OpenAI员工的警告。乌斯迈尔呼吁OpenAI“停止称其安全,停止假装它是人类,停止向儿童销售”。此前OpenAI刚推出面向青少年的ChatGPT版本。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅