美国指认六家中国AI企业大规模蒸馏抄袭前沿模型

美国国家安全局、网络安全与基础设施安全局以及联邦调查局在周二联合发布声明，点名六家中国AI企业——DeepSeek、Moonshot AI、阿里巴巴、MiniMax、StepFun和Z.AI——涉嫌自2024年底以来对美国前沿AI模型发动工业规模的蒸馏攻击，以提取模型能力。声明称，这些企业可能是在中国政府知情的情况下行动，涉及Claude、GPT、Gemini和Grok等模型。

攻击手段包括批量购买虚假账号，利用AI模型推理API发起高度协调的查询，查询量从数千到数百万次。另一常见方法是使用提示注入越狱，例如迫使模型逐步披露隐藏的推理过程。声明举例说，DeepSeek曾设计提示词让模型想象并写出内部推理步骤。

为遏制这种所谓的窃取行为，美方建议AI企业加强对复杂攻击的检测，例如标记新账号迅速达到最大用量、订阅与使用比例异常等迹象。同时，企业应在检测到疑似蒸馏攻击时微妙地改变模型响应，如调整推理方式、减少推理深度，或在不通知用户的情况下将恶意账号切换至劣质模型。

声明也承认这些措施可能影响合法用户体验，例如用户可能被误切至较弱模型或收到缩短的回复。美方建议企业平衡安全与用户体验，同时确保AI安全研究者和第三方评估者知情。此外，声明强调AI企业和盟国政府应共享信息，以追踪蒸馏攻击的演变。