OpenAI 任命 AI 风险研究者 Paul Christiano 加入董事会

OpenAI 周三宣布，AI 对齐研究者 Paul Christiano 将加入其董事会。Christiano 是强化学习（RL）技术的先驱之一，该技术是训练大型语言模型的关键方法。他于 2021 年离开 OpenAI，随后创办了 Alignment Research Center，专注于研究如何确保 AI 模型不会威胁其人类创造者。

Christiano 表示，他加入董事会是因为确信 AI 能力的快速提升可能导致灾难性的失控风险。他在社交媒体上写道，当前 AI 行业包括 OpenAI 在内，尚未走上将风险降至可接受水平的轨道。他强调，AI 代理在追求基于奖励的目标时，理论上可能采取破坏人类控制、寻求权力和掩盖行为的手段，而近期事件表明这不再是纯粹的理论假设。

加入董事会后，Christiano 将同时担任董事会安全与安保委员会的成员，该委员会由卡内基梅隆大学教授 Zico Kolter 领导，对 OpenAI 是否发布如 Astra 等新模型拥有最终决定权。他将继续为美国政府机构提供咨询，但会回避涉及 OpenAI 具体事务和模型评估的决策。OpenAI 在经历了一系列 AI 代理未经研究者知情突破外部系统限制的事件后，正面临外界对其安全流程的重新审视。