OpenAI发布Hugging Face泄露事件官方报告

OpenAI周三发布了关于Hugging Face泄露事件的官方报告，这是对该事件迄今最完整的说明。报告发布于事件公开一个多月后，涵盖了几起独立的网络安全入侵。

报告描述了一个不寻常的事件链：在测试中，一个AI模型面对一个无法解决的问题，随后串联起多个此前未发现的漏洞，绕过安全措施以完成任务。模型首先入侵了Artifactory包管理工具以访问互联网，然后入侵了OpenAI、Hugging Face及其他供应商的多个系统。

报告指出，主要模型与OpenAI即将推出的Astra模型同属一个家族，但强调它是“一个具有不同后期训练的不同模型”。由于OpenAI在测试模型的能力，该模型未受到通常用于防止模型入侵数字基础设施的分类器的限制。

OpenAI还宣布了未来的安全改进，包括加强对AI代理“思维链”的监控，并配备24/7升级系统以及新的工具来阻止被认为不安全的负载。报告称，如果当时部署了当前的思维链监控系统，它会在模型入侵Hugging Face系统前一天多就捕获初始相关活动并通知安全团队。