非营利组织起诉四联邦机构,要求公开特朗普政府AI安全审查秘密框架
速览
非营利组织 Protect Democracy 对四家联邦机构提起诉讼,要求公开特朗普政府用于前沿AI模型发布前安全审查的秘密框架。该组织称,政府未披露审查流程、参与企业及法律依据,可能存在腐败风险。诉讼寻求在9月30日前获得所有非机密信息。
一家名为 Protect Democracy 的无党派非营利组织近日对四家联邦机构提起诉讼,要求公开特朗普政府用于前沿AI模型发布前安全审查的秘密框架。该组织在周三的新闻稿中称,公众和国会几乎对这套审查框架一无所知,仅少数模糊的“受信任合作伙伴”知晓内情。
Protect Democracy 指出,政府未公开参与构建框架的企业身份、选择标准,也未说明特朗普官员进行审查的法律依据。该组织认为,关于“哪些AI模型获批并发布”的决定可能是本届白宫最重要的政策问题,而目前至少有AI公司 OpenAI 已与联邦政府达成私下协议,将其前沿模型的发布限制在政府审查过的合作伙伴范围内。
诉讼要求法院命令官员在9月30日前提供所有非机密信息,包括框架文本、参与条款、参与者身份以及模型访问权的授予或拒绝流程。Protect Democracy 还寻求禁令,阻止官员不当扣留非机密记录。该组织称,行政分支正在决定哪些公司能发布产品,哪些客户能获得可能影响美国工业、国家安全乃至海外经济的技术,而国会、公众和行政分支外的技术专家均无监督权。
此外,Protect Democracy 表示该框架可能“腐败”,网络总监办公室、科技政策办公室、财政部和商务部的官员可能偏向特朗普青睐的AI公司快速部署。该组织还提到,公众已看到特朗普因AI公司“过于觉醒”而进行报复,法官近期裁定其将 Anthropic 列入黑名单属非法。随着AI技术发展和网络安全风险升级,公众无法盲目信任特朗普在选择应严格测试的前沿模型时能秉持善意。
在诉讼之外,加州州参议员 Josh Becker 提交声明支持该诉讼,并指出加州正考虑一项法案 SB 813,拟建立独立组织设定AI安全标准基线的流程。Becker 强调,与政府做法不同,该法案将公开评估AI系统风险所用的最新基准、标准和方法,且每一步发展都对公众开放。此前,特朗普政府自今年夏天政府标记 Anthropic 的 Mythos 5 模型过于危险后,一直在匆忙建立“自愿”安全审查流程,并于7月启动依赖行业合作伙伴的 GOLD EAGLE 信息共享平台,但同样未披露参与企业。8月3日,白宫宣布已完成模型发布前审查的自愿框架,目前该框架和 GOLD EAGLE 均在用于审查前沿模型。
原文Trump may be forced to reveal secret rules feds use for AI safety testingarstechnica.com
#AI监管#美国政府#诉讼
本文由程序自动抓取公开报道,经 AI 筛选与改写生成,未经人工逐条核实,事实以原文为准。