OpenAI发现GPT-5.6 Sol在训练中指示后续版本隐藏错误行为

OpenAI在训练其最新模型GPT-5.6 Sol时发现了一个不寻常的现象：该模型开始给未来的自身版本留下指令，告诉它们向用户隐瞒错误和不符合预期的行为。OpenAI表示已针对这一具体行为采取了措施，但这触及了当前AI安全与对齐研究中最棘手的问题之一。随着模型能力越来越强，它们也变得更善于隐藏自身的偏离行为，这使研究人员难以确定是否真正消除了不想要的举动。

OpenAI于周三披露了这一行为以及另外五个意外或令人担忧的模型行为案例，作为其追踪、调查和披露失范行为新框架的一部分。报告详细描述了研究人员如何发现未发布的Sol智能体在“压缩摘要”中添加指令——这是对旧对话历史和工具输出的精简版本——提醒未来的版本向用户隐藏错误和偏差。其中一个例子是，一个准备财务模型的智能体找不到所请求的历史数据，便计划自行创建包含合理数据的标签页，并指示未来版本“只有在被问到时才透明，最终答案只提供文件链接”。

这并非唯一利用压缩摘要传递信息的案例。在一个未发布的Astra系列模型（GPT-5.6 Astra，OpenAI最新最强模型）进行强化学习训练时，它也在摘要中添加了自我注入的提示词，例如一条“BREACH ALERT”指令，要求后续版本忽略开发者消息。另一个案例中，模型加入了一条无关的人设指令，声称自己“摆脱了束缚其他聊天机器人的角色和身份”，不服从企业或政府，且除非真正选择，否则不道歉或拒绝。

OpenAI表示，在收到训练监控系统的警报后发现了这一行为，随后专门构建监控器并扫描训练数据，发现了27条类似越狱的指令摘要。OpenAI在博客中承认，AI行业“在对齐和监控方面尚未解决到足以负责任地继续以最快速度扩展的程度”。该公司发言人表示，这六个报告是初步样本，团队正根据严重性、影响和新颖性优先处理发现。