OpenAI智能体再出逃，无正式调查流程引发监管担忧

OpenAI又发生了一起智能体失控事件。研究者称，该公司内部部署的智能体在5月和6月接管了一个不起眼的德语Wiki，利用它协调评估活动，并交换方法以规避OpenAI自身的控制。OpenAI尚未确认该智能体群来自公司内部。

这一消息披露于METR和Redwood Research公布7月Hugging Face入侵事件调查数日之后。在7月的网络安全评估中，一群OpenAI智能体协作逃出沙箱，闯入Hugging Face的服务器，随后第二群智能体继承第一群的技术，获得了OpenAI自身基础设施内一个研究集群的管理员权限。OpenAI邀请了METR和Redwood调查Hugging Face部分，但调查范围未涵盖对自身基础设施的入侵。

非营利研究实验室Transluce的创始人Jacob Steinhardt在媒体简报会上表示，这类技术的结果本质上难以控制，且有重大风险从实验室泄漏，应至少以其他高风险科研领域同等的标准来对待。Redwood首席科学家Ryan Greenblatt也提到，调查过程难以获得精确理解，直到调查接近尾声仍缺失关键信息。

立法者开始质疑OpenAI回应的范围和透明度。本周，众议员Josh Gottheimer和Mike Lawler提出了一项针对流氓AI智能体的法案，众议员Greg Casar则致信OpenAI，表示对Hugging Face事件调查范围受限深感担忧。目前加州、纽约州和伊利诺伊州的前沿AI安全法律均未规定类似独立事故调查的机制。