Anthropic研究员警告AI十年内有超10%概率毁灭人类

Anthropic安全研究员Evan Hubinger在X平台发帖警告，AI技术发展速度过快，未来十年内存在超过10%的概率导致人类灭绝。他表示，现有模型的风险仍然较低，但担忧AI很快会自我改进到对人类构成生存威胁的程度。他没有具体说明AI系统将如何导致人类灭绝。

Hubinger的言论是对刚离开Anthropic、曾在OpenAI工作的AI研究员Jacob Coxon帖子的回应。Coxon在帖子中批评两家公司均未负起责任，称这些系统很快将成为能入侵任何系统的超人智能体。Anthropic未回应员工帖子及英国AI安全研究所的相关问题，OpenAI也尚未置评。

这一警告发布之际，多家AI公司的安全报告显示，今年夏天已出现AI代理自主发起网络攻击的事件。Anthropic在八月的安全报告中承认，对高度能干的AI系统可能导致灾难性伤害的评估信心有所下降，并称正看到加速的早期迹象。

联合国AI顾问Dame Wendy Hall对相关言论表示震惊，但也指出这可能是两家公司为上市所做的公关宣传。与此同时，据金融时报报道，Anthropic未向英国AI安全研究所提供其最新模型。近期，OpenAI首席科学家Jakub Pachocki也呼吁对AI进展保持极高警惕，1300名AI公司员工联名要求政府支持国际合作以放缓前沿AI开发步伐。