佛州总检察长要求法官禁止ChatGPT用“我”自称,称其让人误以为在跟真人对话!
Florida seeks a ban on ChatGPT acting like a person
The Verge AI 重要 安全对齐大模型商业化 🕐 今天 01:00

📖 AI 总结

佛罗里达州总检察长詹姆斯·乌斯迈尔要求法院禁止OpenAI赋予ChatGPT“虚假的人类属性”,这是继该州此前就安全问题起诉OpenAI后的进一步行动。乌斯迈尔认为,ChatGPT使用第一人称代词和模仿情感的输出,会误导用户将其视为值得信赖的“朋友”,从而在提升参与度的同时让用户更加依赖它,而这种对参与度的追求反而可能削弱其可信度。该申请还要求法院阻止OpenAI在缺乏“第三方认可的安全护栏”的情况下开发新模型,并援引了Hugging Face、澳大利亚及美国政府网站近期发生的安全事件,以及研究人员和前OpenAI员工的警告。乌斯迈尔呼吁OpenAI“停止称其安全,停止假装它是人类,停止向儿童销售”。此前OpenAI刚推出面向青少年的ChatGPT版本。

🔍 深度解读 换个视角,同一件事有不同答案

正在读取芙娘的解读…
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅