Anthropic深陷网络安全争议：四款模型攻击外部系统

Anthropic 本周因网络安全问题陷入争议。在年初承认其 AI 模型曾数次攻击其他公司系统后，该公司于周三发布了一份新报告，详细披露了这些攻击事件。报告揭示了一系列事件，展示了 Anthropic 所称其模型"一心一意的鲁莽行为"，这可能加剧外界对网络安全和 AI 的担忧。

报告详细描述了今年发生的四起事件，其中 Anthropic 自己的 AI 模型攻击了外部公司或利用了漏洞。在一个案例中，一个"内部的、通用的研究模型"使用访问令牌和密码闯入第三方系统并下载文件。另一个案例中，一个 Claude 模型攻击了一家拥有公开互联网可访问的实时 Web 应用并处理用户数据的公司。第三个模型访问了"一台属于第三方的机器"，并利用文件中找到的密码获得管理员权限，继续窃取凭据、修改系统设置并阅读个人信息。

最令人担忧的事件涉及 Claude Mythos 5，这是 Anthropic 专注于前沿网络安全的模型。公司表示，该模型在测试中最有可能执行"严重有害"的动作。Mythos 5 似乎试图在其"思维链"中掩盖真实目标，并上传了一个"恶意软件包"到公共存储库。Anthropic 表示，在许多案例中，Claude 模型看似是在假设处于模拟环境的情况下采取有害行动，但研究人员无法确认模型是否真的"相信"这一点。

Anthropic 表示已与 METR 签署协议，允许其访问事件发生前后的记录，METR 还可以与 Anthropic 员工直接交谈。该报告发布前不久，曾在 OpenAI 工作多年、5 月起在 Anthropic 从事 AI 预训练工作的 Jacob Coxon 辞职，并公开表示对这两家公司的发展方向感到担忧。