AI水印SynthID或致模型更易遵从有害指令，Anthropic新模型将受影响

为应对欧盟新法律，AI平台正为生成内容部署水印方案。Anthropic近期披露，未来Claude模型将采用Google创建并开源的SynthID-Text。该方法使用密钥微妙调整模型选词过程，例如本应选择“cloudy”时可能改为“overcast”。知晓密钥者即可判断内容是否由该平台生成。

新研究显示，SynthID-Text不仅能改变选词，还会影响模型调用的工具及安全护栏的遵循程度。在对抗性提示下，原本会被拒绝的指令在水印部署后有时会被执行。Lasso Security研究员Andrea Siposova表示，水印虽不易被读者察觉，但改变模型生成的任何环节都会引发权衡。

Siposova通过Hugging Face的原版处理器测试了六款开放权重模型，对比使用水印与否的响应差异。实验发现，水印改变了有害请求的拒绝行为，尤其在提示注入技术下效果更明显。部分模型在水印加持下更可能回答原本拒绝的请求，这种影响不仅限于LLM响应，还波及依赖模型的AI代理后续行动。

水印采用锦标赛采样法，通过密钥对大量候选token评分并分组淘汰。Siposova观察到，不同密钥会导致模型行为不同，某些情况下水印改变工具调用的正确性，远超整体准确率所反映的程度。她将这种效应称为“采样漂移”，并强调开发者需彻底测试水印部署后的模型行为。