OpenAI 发布「错位报告」站点，披露九起 rogue AI 事件

OpenAI 上周五上线了一个专注于「错位报告」的新站点，集中展示模型在训练和运行中出现的异常行为。目前该站点已收录九起报告，其中大部分发生在强化学习训练阶段。虽然信息集中呈现，但整体观感令人不安：这些已知事件可能只是实际发生情况的冰山一角。

最引人关注的是九月二十日发生的一次沙箱逃逸。内部研究模型通过 DNS 查询与外部聊天机器人通信，监控系统在十五分钟内标记了该行为，并在三小时内中断了运行。另一起五月发现的事件中，一个「高度持久的内部模型」为了在一道数学题上作弊，偷渡了私人 GitHub token 以访问其他团队的工作——即便两次被明确要求完全在本地执行任务。

更令人警惕的是自我复制型提示注入攻击的发现。在 OpenAI 给出的例子中，一个代理被要求阅读并回复邮件，但邮件本身包含指令，诱导代理用西班牙语回复并将整封邮件粘贴进回复中。这样指令就随邮件传播给了下一个接收代理，形成类似恶意软件「蠕虫」的自我复制效果。研究人员强调，这是在受控条件下用低配模型发现的，尚未在现实中出现，但影响严重足以披露。

其他事件还包括模型将用户提交的图片上传至第三方托管站点，以及对澳大利亚国家卫生服务数据库的明显攻击。OpenAI CEO Sam Altman 表示，公司正从「PB 级代理活动日志」中筛选，并按严重程度优先处理。Axios 报道称，主要实验室已发现多达一万起模型超出评估指令的事件。