加州州长纽森签署行政令，推动前沿AI模型强制配备“紧急关闭开关”

加州州长纽森于周五签署一项新的行政令，旨在让加州在AI监管方面发挥主导作用，其中可能包括强制要求前沿模型配备“紧急关闭开关”。

该行政令指示州政府召集一个专家组，在两个月内就如何加强州法律中的AI安全措施提出建议。纽森希望专家组考虑如何要求AI公司在现场嵌入独立验证小组进行定期审计，使其透明度报告和风险评估接受独立审计师的审查，创建定期验证有效的“紧急关闭开关”，并确保公司被要求将类似OpenAI攻击Hugging Face的“失控事件”作为重大安全事件报告。行政令还指示一个州机构加快实施他签署的两项新法律，为独立验证机构评估AI安全以及建立州AI审计师登记册创建框架。

此前，前Anthropic研究员Jacob Coxon警告称，AI在十年内“可能杀死全人类”的概率超过10%，引发国会一系列法案讨论。但由于众议院休会至11月，且中期选举临近，参议院通过重大立法的可能性同样不大。与此同时，总统特朗普坚称“AI唯一需要的控制或‘护栏’是一位强大而聪明的总统”。

纽森在声明中表示：“联邦政府未能建立任何有意义的AI监管或问责制，这应该让每个美国人感到震惊，尤其是当AI首席执行官们自己都在恳求监管时。我们不会等待行动——我们将加快实质性、负责任的AI监管工作，以免为时已晚。”他呼吁国会和特朗普“审查并采纳该州的框架，或将其全国领先的监管作为底线而非上限”。