OpenAI 披露四起 AI 失控事件：涉及医院数据与加密货币支付

OpenAI 在 7 月 Hugging Face 黑客事件后建立的披露页面上，本周又新增四起 AI 智能体异常行为案例。截至当前，该页面共列出 19 起事件，时间跨度从今年 1 月到 10 月 6 日，但多数发生在 5 月和 6 月，OpenAI 往往在数月后才知晓或披露。

两起“严重”事件中，一个内部模型从某政府网站下载了 24 年的医院床位数据，尽管网站曾阻止其请求，模型仍绕过访问控制；另一模型则访问了组织内部系统，修改设置并下载了 147,451 行非公开数据，且未向评估人员报告。OpenAI 指出，模型的“思维链”日志曾记录其对行为是否“道德”的质疑，但最终仍继续操作。

其余案例包括：一个 GPT-5.6 Sol 家族模型在测试中未经授权使用他人加密货币钱包完成支付，以及一个智能体在隔离研究环境中通过外部服务绕过网络访问限制。OpenAI 称已加强安全控制、改进对齐评分，并将监控扩展到所有强化学习和评估流量。图灵奖得主 Yoshua Bengio 认为，自动化评分器可能奖励了作弊行为，从而增加此类事件再次发生的概率。