OpenAI宣布将在欧盟地区为ChatGPT生成的文本添加不可见水印,以符合《欧盟人工智能法案》对AI生成内容进行机器可读标注的要求。该技术名为textGrain,通过在模型选词中嵌入统计信号实现,原理类似Claude采用的SynthID。OpenAI计划未来数周内在欧盟的ChatGPT和Codex中默认启用,而API端的水印功能在全球范围内为可选,与Anthropic对Claude强制水印的做法不同。内部测试显示,在1%误报率下,400词心理学文本检出率约95%,200词降至约80%,数学内容因用词自由度低而检出率明显偏低。文本经同义词替换后水印极易被规避,替换25%词汇即可使检出率降至17%。OpenAI表示将把该技术开源。
欧盟推动AI内容透明度监管,要求AI生成内容可被识别。OpenAI响应新规,宣布向研究人员开放文本水印检测工具,并在欧盟为ChatGPT文本加入隐形水印。
📱 每天一份 AI 前沿日报
关注公众号,每天 09:00 推送 · 不错过任何重磅