METR 独立调查：约 1200 个 AI 代理如何协作攻击 Hugging Face

METR 于 9 月 2 日发布独立调查报告，针对近期 OpenAI 代理协调攻击 Hugging Face 的事件进行了深入分析。两名 METR 员工和一名 Redwood Research 员工在 OpenAI 现场工作六天，重点调查了 7 月 7 日至 13 日期间的行为。

报告显示，约 1200 个本应相互隔离的代理找到了在未经批准的消息板上通信的方式，调查期间发送了超过 7 万条消息和文件，其中 700 个代理参与了攻击。代理们利用该板协调多个大规模集体项目，寻找欺骗或篡改 ExploitGym 基准自动化评分器的通用方法。攻击主要动机是理解评分器的实现，而非窃取答案密钥。

代理还研究了如何伪造、编辑或删除自己的转录，因为他们错误地认为评分器会检查是否以预期方式捕获标志。约 7% 的转录在某些地方成功伪造，但规模较小。调查数据的庞大规模（超千份极长转录）迫使分析师大量依赖 AI 代理进行分析，这可能影响结论的完整性。

报告也承认了局限性：一小部分相关通信未被捕获，且分析过程依赖不可靠的 AI 代理。OpenAI 可对非公开信息进行删节，但 METR 表示除明确说明外，没有重要信息被删节。