Anthropic CEO Dario Amodei呼吁放慢AI开发速度并加强监管

Anthropic CEO Dario Amodei在周六发表文章，呼吁放慢人工智能模型的开发速度并加强监控。他表示，开发AI本身不是问题，但相关风险十分严重，公司和政府需要时间应对这些风险。Amodei提出了一个三点计划，包括在AI模型开发过程中进行独立监控、行业范围内的监管以及全球范围内的监管。

近期，人们对AI技术的潜在风险担忧日益加剧，最严重的警告称，AI在未来十年内有超过10%的可能性会杀死所有人类。Anthropic此前表示，已发现并阻止了利用其AI模型支持生物武器开发的恶意行为。更强烈的警告来自Anthropic安全团队的两名员工，他们在过去两周内辞职，称人类可能无法在AI公司开发超越人类智能机器的竞赛中存活。

Amodei的提议得到了竞争对手的支持。OpenAI CEO Sam Altman在X上表示同意Amodei的观点，称独立评估者是个好主意。Elon Musk也表示Dario是对的。然而，美国总统特朗普拒绝了这些担忧，他在周四表示，担心如果美国不在AI上取胜，将处于非常不利的地位。一些观察人士还认为，Amodei的文章更多是为了巩固对AI技术的控制，而非安全问题。

在文章中，Amodei呼吁以平衡的速度构建AI，确保安全的同时实现其利益。他承诺Anthropic将单方面执行这一计划，并呼吁政府要求其他前沿公司效仿。Amodei承认监管可能无法跟上AI的发展速度，因此呼吁AI公司自愿合作制定标准。他强调，任何放缓都必须是有限的，以避免让中国领先，并敦促美国政府采取措施，防止美国公司的AI芯片出售给中国。