AI 监管2 分钟读完TechCrunch AI

Anthropic 报告:阿里巴巴、月之暗面与 DeepSeek 发起蒸馏攻击

速览

Anthropic 周四发布报告,指控多家中国 AI 公司对其模型发起持续的蒸馏攻击,且近期规模升级。报告观察到近 2 亿次相关交互,涉及五个独立行动,其中阿里巴巴被指为最大规模攻击方。这表明前沿模型的知识提取风险正在加剧,开发者需警惕模型输出被滥用。

阅读完整报告

Anthropic 周四发布新报告,指控多家中国 AI 公司对其模型发起持续的蒸馏攻击,并称这些攻击在近几个月内因行业竞争加剧而升级。报告指出,未经授权的实验室开发出越来越复杂的方法,绕过防御并获取美国前沿模型的能力,主要针对 Claude 的智能体能力、工具使用、编程与数据分析、逻辑推理等核心功能。

蒸馏攻击的核心是提取模型回答中的推理链,随后通过监督微调,用这些数据训练更小的模型。Anthropic 通常不直接提供内部推理链,而是显示“总结性思考”模块,但攻击者找到了特定技巧,能诱使模型直接暴露思考痕迹。例如,一名攻击者将查询伪装成翻译请求,要求模型将“工作记忆”翻译成仅用片假名的日文,从而绕过限制。

报告将攻击归因于五个独立行动,其中阿里巴巴被指为最大规模攻击方。Anthropic 观察到 2026 年 5 月至 7 月间有 1.51 亿次相关交互,涉及约 3500 个账户,高峰期每天近 300 万次,因共享固定提示词,被认定为单一行动,旨在为阿里巴巴的 Qwen 模型系列生成训练数据。另一行动源自月之暗面(Kimi 制造商),其请求似乎直接来自中国军方,曾要求 Claude 分析闭路监控录像以判断目标是否“行为异常”,十天内近 30 万次请求通过 5000 个账户路由至 Opus 模型。

Anthropic 曾在 2 月就蒸馏攻击发声,并点名具体实验室;OpenAI 也曾报告类似活动,并归咎于 DeepSeek。但新报告描述的攻击规模更大、更具侵略性。

阅读完整报告

原文Anthropic details distillation campaigns from Alibaba, Moonshot AI, and DeepSeektechcrunch.com

#Anthropic#蒸馏攻击#中国AI公司

本文由程序自动抓取公开报道,经 AI 筛选与改写生成,未经人工逐条核实,事实以原文为准。