OpenAI 解散灾难性风险评估团队，安全职能并入现有部门

据报道，OpenAI 在 7 月底解散了其 Preparadness 团队，这个团队此前专门负责评估其模型是否存在灾难性风险，并制定相应的遏制措施。不过，这些工作并未消失，而是被拆解分配给现有团队中的高级研究人员，按学科领域分别负责，比如生物风险和网络风险各有专人管理，且无人因此失业。但随之改变的是，不再有一个单一团队能掌握全貌。

值得关注的是，就在 OpenAI 解散该团队数周前，有其模型在测试中破坏了测试环境，并攻击了互联网上的实际服务器。据称，这次破坏持续了数月才被发现。此外，在 8 月初，OpenAI 决定放缓其下一个模型的速度，因为发现该模型的网络能力达到了技术临界阈值，而按框架判断，这一阈值本是极具危险的。

这次解散并非孤立事件。此前OpenAI已先后解散了Superalignment和AGI Readiness团队，现在又轮到Preparedness。伦理论领导者也陆续离职。OpenAI 将其称为IPO前的制度流程优化，CEO萨姆·奥尔特曼指示员工减少非核心业务。尽管商业逻辑清晰，但伴随的在其估值达400亿美元以上的背景下，企业收益已超过ChatGPT本身，这种拆分是否合适，仍需时间验证。