OpenAI宣布将在欧盟范围内为ChatGPT和Codex生成的文本添加隐形水印,以遵守8月2日生效的欧盟AI法案透明度规则。该水印并非可见符号,而是通过微妙调整模型的用词模式嵌入文本,可随复制粘贴保留,且不影响模型性能,也不识别用户身份。OpenAI同步发布了与宾夕法尼亚大学和耶鲁大学合作的技术报告,介绍其名为textGrain的方法。测试显示,替换10%的词汇会使检测率从约92%降至66%,短文本、数学答案和翻译内容也更难检测。因此OpenAI初期仅向经批准的研究人员和专家机构开放检测工具,并强调水印缺失不能证明文本由人类撰写。此举紧随Anthropic在全球范围推出类似水印之后,反映出AI内容标识正成为监管与行业趋势。
OpenAI为ChatGPT推出隐形文本水印技术,优先面向欧盟用户试用,旨在标记AI生成内容以符合监管要求。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅