Anthropic 联合创始人向 BBC 表示 AI“kill switch”可能需要强制执行

Anthropic 联合创始人 Jack Clark 向 BBC 表示，社会可能需要对 AI“kill switch”制定强制规则，确保公司拥有可被第三方验证的完全关闭 AI 软件的方式。Clark 指出，包括 Anthropic 在内的多数实验室已有不同的断电方法，但立法者可能需要强制执行这一要求。

Clark 认为，“kill switch”要求的具体细节和验证方式应成为 AI 政策讨论的一部分。他问道：“是否应该强制要求公司拥有 kill switch？该开关是否可由第三方验证？”他表示，这是社会需要了解并可能最终制定规则的事项。

AI 的快速发展和潜在风险因一系列业内人士的警告而受到关注。Anthropic 首席执行官 Dario Amodei 上周末呼吁放慢 AI 开发速度并加强监管，同时表示任何行动都应在“不牺牲商业优势”的前提下进行。上周，一名因担忧 AI 可能毁灭人类而辞职的研究人员的帖子引发关注，Anthropic 科学家 Evan Hubinger 表示，他认为 AI 在未来十年内导致人类灭绝的可能性超过 10%。

美国立法者已提出名为“Kill Switch Act”的法案，要求公司具备关闭问题 AI 工具的方式，并赋予政府机构要求关闭工具的权力。然而，美国总统特朗普拒绝了放缓 AI 发展的呼吁，称 AI 毁灭人类是“骗局”。英国政府也否决了此想法，称其“无法防止 AI 在其他地方被开发或滥用”。