Anthropic 新方法将 Claude 蒸馏攻击数据窃取量降低 90% 至 99%

Anthropic 在最新博文中详细说明了针对蒸馏攻击的防御进展。蒸馏攻击指通过欺诈账户网络大规模提取模型能力并复制到其他模型，被海外实验室用于快速追赶美国前沿技术。Anthropic 担心两点：一是蒸馏模型缺乏相应安全防护，可能在生物和网络安全领域造成危害；二是被蒸馏能力被整合进外国军事、情报和监控系统。

• 智谱在开发 GLM-5.3 时蒸馏了美国领先模型的网络能力，其曾尝试蒸馏 Claude Fable 5 未果，后转向旧版 Claude 和其他模型，CAISSI 评估 GLM-5.3 为迄今最具网络能力的开源权重模型。
• 月之暗面 Kimi 模型的请求曾被秘密转发至 Claude，其中一条请求来自疑似与中国军方关联的用户，意图分析 CCTV 监控。

防御措施早期从简单手段开始，比如让 Claude 在展示推理前先进行总结。实验显示，基于完整推理训练的蒸馏模型在 SWE-bench Verified 取得 80.4% 分数，而基于总结后推理的模型仅得 71.8%，证明总结有效降低蒸馏数据价值。攻击者随后转向主动提取，尝试用各种技巧诱导模型输出完整推理，例如直接要求逐字复述，或单实验室测试 12000 种不同请求。Anthropic 的初步防御设计被绕过，但检测异常请求的方法已显著增强。

这些措施成功但代价明确：Anthropic 放弃了可观收入，拒绝了来自蒸馏者的数万亿 token 付费流量，研究团队投入大量时间，部分合法用户也需更新集成方式。Anthropic 希望分享这些经验，帮助其他开发者理解攻击方式、防御取舍及成本必要性。