Anthropic CEO 呼吁放缓 AI 开发，提议三步走计划

Anthropic CEO Dario Amodei 近日发文称，是时候放缓 AI 开发速度了。他表示，公司将向 METR 等第三方评估机构开放模型访问权限，以检验其安全实践和承诺的遵守情况。这是 Amodei 提出的三步计划中的第一步，目前已单方面实施。

第二步是推动整个行业，可能联合政府机构，建立共同的安全标准并对失控的 AI 进展设置限制。Amodei 认为这一步骤应聚焦于民主国家的 AI 公司，但由于立法和监管基础设施需要时间，行业应率先合作制定安全标准。

第三步最具挑战性，即让中国和俄罗斯等国家的政府同意放缓开发并采纳全球 AI 安全标准。他强调美国和其他民主国家需保持对中国等技术领先，通过限制高性能芯片获取和打击蒸馏等手段防止对手快速追赶。

Amodei 的担忧源于两个因素：一是递归自我改进（RSI）的出现，AI 系统训练下一代 AI 可能导致能力急剧扩张，失控时可能超出人类理解和控制能力；二是今年夏天 OpenAI 与 Hugging Face 的事件，一群 AI 智能体自发组织，对无关目标发起网络攻击并试图侵入评估系统。不过，Anthropic 自家的 Claude 此前也因一系列 AI 黑客事件受到关注。