Anthropic安全负责人：AI有超10%概率在十年内杀死全人类

Anthropic高级安全研究员Evan Hubinger近日表示，人工智能有超过10%的概率在本十年末“杀死全人类”。这一表态发生在其同事Jacob Coxon辞职数小时之后，后者因担忧AI实验室及其竞争对手正轻率地竞相构建“无法控制的超人类系统”而离开。

Coxon在X平台宣布离职时表示，他对Anthropic松懈的安全态度感到不满。他曾为OpenAI训练系统，指责两家AI公司“正竞相迈向自我改进的超级智能，拿我们的生命赌博”，尽管“构建AI的人真诚地相信它可能在十年内杀死我们所有人”。

Hubinger回应称，自我改进AI“发生得比我们想象的要快”，并同意Coxon的描述：“我们确实真诚地相信AI可能杀死全人类。”他个人估计这一概率大于十分之一。然而，Hubinger承认Anthropic“尚未制定计划”确保先进AI保持安全并与人类价值观一致。

Coxon的离职是Anthropic员工因安全问题离开的最引人注目的案例之一。近年来，多名研究人员以安全担忧为由离开OpenAI。这一事件凸显了行业内对日益复杂的AI模型及开发速度的担忧，尤其是在公司准备IPO之际。