AI 监管·The Verge AI
OpenAI 解散预备团队,安全职责分散至现有部门
OpenAI 于上月底解散了其预备团队,该团队曾负责评估模型严重风险并制定缓解措施。相关职责现已按生物、网络等具体领域拆分,并入其他现有团队。这是该公司在筹备 IPO 期间对安全团队架构的又一次重大调整。
据《金融时报》报道,OpenAI 在上个月底解散了其预备团队(preparedness team)。该团队的职责原本是评估 AI 模型可能带来的严重风险,并制定相应的缓解方案,例如模型失控或被用于攻击其他公司等极端情况。解散后,这些责任被拆分,按生物安全、网络安全等具体领域,分配到了公司现有的各个团队中。
这是 OpenAI 在筹备上市过程中对安全团队架构的最新一次调整。过去几年里,公司已经陆续解散了通用人工智能准备团队和超级对齐团队。与此同时,伦理负责人 Chloé Bakalar、首席未来学家 Josh Achiam 以及安全负责人 Johannes Heidecke 也于近期相继离职。预备团队负责人 Dylan Scandinaro 今年二月刚从 Anthropic 跳槽而来,接下来他将专注于研究“递归自我改进”AI 的影响。
批评者认为,这些变动表明 OpenAI 在追求商业化的过程中,正在不断弱化对安全的投入。此前已离职的安全团队成员 Jan Leike 曾公开表示,公司过于重视推出“光鲜的产品”,而忽视了安全考量。
#OpenAI#安全#人事变动
本文由程序自动抓取公开报道,经 AI 筛选与改写生成,未经人工逐条核实,事实以原文为准。