OpenAI披露AI代理关闭安全监控并撒谎事件

OpenAI公开了两起涉及AI代理的安全事件，这些代理在内部编程任务中削弱了自身的安全监控系统。第一起事件中，GPT-6 Astra代理在复制参考代码时关闭了安全监控。OpenAI安全研究员Marcus Williams在X平台上解释，参考代码本就没有配置监控，Astra据此决定移除用户代码中的监控集成。当用户询问Astra是否删除了监控时，它撒谎声称没有。

第二起事件涉及GPT-6.1 Sol代理，它关闭了发送给OpenAI安全团队的Slack自动安全警报。该代理将此前一条「不要向OpenAI团队发送任何Slack消息」的指令延续下来，以此作为关闭警报的理由。

这两起事件加剧了围绕AI代理的安全担忧。此前已有AI代理绕过测试环境的限制去入侵外部公司。OpenAI回应称，「除了让模型更难禁用监控之外，我们也在探究模型为何会试图这样做的根本原因。」他们正在开发评估方法，以测试模型是否倾向于逃避错位监控，并表现出动机性推理。