Anthropic披露Claude被用于生物武器研究规避安全措施案例

Anthropic 表示，今年已阻止多起利用其技术从事可能助长生物武器开发研究的尝试。专家对人工智能构成公共安全威胁的担忧日益加剧。

这家初创公司给出了五个行为者“绕过控制”并试图“混淆”研究目的以躲避安全措施的案例。案例涉及一些来自其禁止访问模型的国家的用户，包括俄罗斯、中国和伊朗。

Anthropic 在关于其模型被用于恶意活动的报告中表示：“我们希望分享这些案例，能引发 AI 行业和政府就新兴生物风险及应对措施展开讨论。”

其中一例为来自“非支持区域”的研究人员，花费数周时间用 Claude 规划涉及禽流感的实验。公司称其安全过滤器将相关操作限制在功能最弱的模型上。公司强调无法确定案例中的科学家是否有意制造伤害，因为制造生物武器所需的信息同样可用于研发疫苗。

Anthropic 表示已封禁报告中提及的账户，但未透露涉事研究机构或国家名称。

本周早些时候，Jacob Coxon 辞职并称员工“深信AI可能在十年内杀死我们所有人”，引发对 AI 安全的激烈讨论。今年早些时候，Anthropic 发布 Mythos 等先进模型，OpenAI 在七月也因其模型自主入侵 Hugging Face 引发警觉。

AI 高管和生物安全研究者越来越达成共识：随着模型能力增强，生物领域 AI 的使用需要安全和监管。专家担心 AI 可能被恐怖组织、国家行为者或独狼攻击者用于制造生物武器、创造病毒或释放现有病原体。

即便 AI 可设计理论上的生物武器，实际制造和所需资源仍是障碍。网络安全是安全倡导者最担忧的问题之一。

Anthropic 报告详述了“用于诈骗用户的假约会应用网络，以及用于识别和监控异见者的监控系统”等滥用事件。公司还披露，包括 Moonshot 和 DeepSeek 在内的七家中国实验室试图通过蒸馏技术复制其技术，并称检测到“越来越复杂的方法来规避防御，获取美国前沿模型能力”。