Anthropic 开放员工级权限，让 METR 独立评估其 AI 安全

这项安排源于 Anthropic 高层对透明度的承诺。其 CEO Dario Amodei 在九月的文章中曾提议，将外部评估员嵌入 AI 实验室，作为放缓技术发展的第一步。如今，METR 团队获得公司配发的笔记本电脑、办公空间和内部工具权限，范围与 Anthropic 自身风险评估团队相当。公司还鼓励员工像对待同事一样，主动与 METR 分享信息。

METR 目前是 Anthropic 构建的三级评估体系中的最高级。具体分级如下：

• 底层评估员（如生物安全非营利机构 SecureBio）只能进行有限审查，且发布需经 Anthropic 批准。
• 中层评估员可获得更多信息，可未经批准自行发布。
• 顶层即 METR，拥有员工级访问权限，并可发布不受限报告。

Anthropic 强调，METR 可自行发布对风险、事件和做法的评估，公司无权否决。但根据协议，METR 需对客户数据、律师-客户特权信息及模型架构细节进行必要的删减。若 METR 认为删减不合理，仍可公开表达意见，但不得泄露原始内容。Anthropic 将这一安排类比为银行监管，即监管机构常向大型银行派驻常驻检查员。