OpenAI将在欧盟为ChatGPT文本添加水印以符合AI法案

OpenAI周一在博客文章中宣布，将在欧盟范围内为ChatGPT和Codex生成的文本添加不可见水印，以遵守欧盟AI法案。该法案的透明度规则已于8月2日生效，要求AI公司以其他系统可识别的方式标记AI生成的内容。

水印并非实际符号，而是通过微妙调整模型的词汇选择来留下模式，读者无法察觉，但检测器可以识别。由于水印存在于词汇本身，因此复制粘贴后仍会保留。OpenAI表示水印不会识别用户身份，且启用后模型性能没有明显变化。

OpenAI还发布了名为textGrain的技术报告，与宾夕法尼亚大学和耶鲁大学的研究人员合著。但OpenAI的测试显示，编辑可以削弱水印的检测效果。在测试中，用同义词替换10%的词语后，检测率从约92%降至66%。短段落、数学答案和翻译文本更难检测。

OpenAI表示，缺失水印并不证明内容由人类撰写，因为文本可能过短或经过大量编辑。公司还指出，水印只能表明OpenAI系统生成或处理了部分段落，但不能反映人类判断、编辑或创造力的参与程度。该公告发布两个月前，Anthropic已宣布将在全球范围内为Claude生成的文本添加水印。