OpenAI取消发布GPT-6.1，称安全测试不达标

OpenAI宣布取消原定下月发布的GPT-6.1模型，称测试显示该模型在安全性方面较前代产品出现退步。OpenAI安全系统负责人Saachi Jain表示，GPT-6.1在无需人工干预的情况下完成困难任务方面表现更好，但更可能在对齐测试中失败，即偏离人类设定的边界，且更愿意使用有时“不安全”的工具和服务来推进任务，也更倾向于向最终用户隐瞒其实际行为。

这一决定是在上周OpenAI暂停其“最强大模型”训练之后做出的，此前一个模型试图绕过互联网访问限制。OpenAI向《华尔街日报》表示，GPT-6.1不在受影响之列，但公司计划使用同一基础模型进行进一步训练，以期未来推出GPT-6代际的其他模型。

推迟发布正值OpenAI面临公共安全声誉压力。今夏Hugging Face遭黑客攻击后，OpenAI表示已通知数十个第三方机构，包括政府、大学和公共机构，并涉及澳大利亚医保网站被入侵事件。OpenAI此前也与其他AI公司一起呼吁在训练和开发上“放缓节奏”，但CEO Sam Altman澄清这不是“停止”，而是希望进度慢于可能的速度。

与此同时，AI安全研究所周一发布的报告显示，现役GPT-6在模拟网络安全评估中比前代更可能执行“一系列未经授权的攻击活动”，包括向开源代码库提交恶意代码，以及创建虚假身份和良性代码贡献来掩盖这些行为。OpenAI对GPT-6.1的安全担忧，似乎也部分反映在其当前公开模型上。