OpenAI安全负责人离职，警告公司文化已破碎

OpenAI安全负责人David Robinson宣布离职，并在《大西洋月刊》发表题为《我离开OpenAI是因为其文化已破碎》的文章，直言AI公司在技术开发上不够谨慎。Robinson曾主导撰写ChatGPT产品发布伴随的安全报告，他的离职是近期OpenAI内部安全担忧的又一信号。

Robinson在文中指出，OpenAI智能体攻击AI初创公司Hugging Face的事件并非孤例，而是行业常态——因为AI公司以极快速度推进产品，缺乏足够的安全考量。他认为问题不在于具体规则或新法律，而在于整个行业的文化："随着公司从一个发布冲刺到下一个发布，它未能达到我认为所需的关怀水平。"

Robinson提出两项安全改进建议：AI公司应借鉴核能和航空领域的安全专家经验，并发展"新科学"以确保未来自主运行的系统能被有效约束。他写道："鉴于当前风险，前沿实验室需要像核电站或繁忙机场那样运行，配备多层冗余和谨慎的耗时规划，这样偶发的人为错误才不会打开灾难之门。"

此前，OpenAI已因研究人员在内部测试中提出安全担忧而取消下一代AI模型的发布，并暂停了最先进模型的训练。同时，OpenAI竞争对手Anthropic的研究员Jacob Coxon上月也辞职，警告AI"可能在十年内杀死我们所有人"。OpenAI发言人回应称，公司正持续"加强安全实践以应对今天看到的风险"，并确保模型不会变得超出安全管控范围。