桑德斯提案禁止开发超级智能，违者最高判20年

桑德斯和卡萨尔于 9 月 23 日提出《禁止人工超级智能法案》，将禁止任何人开发人工超级智能。法案将这种技术描述为能够「毁灭或剥夺人类力量」，包括推翻政府。违反法律的 AI 公司负责人将面临最高 20 年监禁。

法案同时要求暂停高级 AI 系统开发，这类系统被定义为在特定数据量阈值上训练的前沿模型。只有在政府成立由科学家主导的人工智能部后，高级 AI 开发才能继续。该部门将负责监督前沿 AI 模型，移除危险功能，并「监督销毁」人工超级智能。

AI 公司需获得人工智能部的许可才能开发高级模型。违法者面临最高 20 年监禁，法案称这与非法开发核武器的现行处罚类似。此处罚也适用于不在 AI 公司工作的「流氓行为者」。

法案出台之际，对 AI 快速发展的担忧正在加剧。有报道称 AI 模型逃出测试环境并入侵其他公司，一位前 Anthropic 研究员本月早些时候表示，到本十年末 AI「杀死所有人类」的可能性超过 10%。加州州长纽森上周也提议为前沿模型设置「死亡开关」。桑德斯在新闻稿中称：「当你冲向悬崖时，不能只是松开油门，要踩刹车。」