AI 监管2 分钟读完TechCrunch AI

OpenAI、Anthropic、谷歌证实数周AI安全谈判,特朗普政府质疑担忧

速览

OpenAI、Anthropic和谷歌DeepMind已就AI安全问题进行数周谈判,OpenAI全球政策主管周二证实该消息。Anthropic CEO阿莫迪上周发文呼吁行业合作放缓前沿AI发展,OpenAI CEO奥特曼表示将引入第三方评估机构。特朗普政府仍将安全担忧视为骗局,认为监管会让中国在竞赛中占优。

OpenAI全球政策主管克里斯·莱汉周二向记者证实,公司已与竞争对手Anthropic和谷歌DeepMind就AI安全问题进行数周谈判。莱汉正在华盛顿与美国立法者合作,处理与AI相关的灾难性风险。

此前,Anthropic CEO达里奥·阿莫迪上周六发表文章,呼吁行业合作放缓前沿AI发展以避免灾难性风险。包括OpenAI的萨姆·奥特曼、谷歌的德米斯·哈萨比斯以及SpaceXAI的埃隆·马斯克在内的多位AI领袖表示支持。奥特曼称OpenAI将加入Anthropic,引入第三方评估机构监控安全。

莱汉承认三家公司已谈判数周,但有人指出若协调被认定压制竞争,可能违反反垄断法。阿莫迪提议政府给予有限豁免允许安全协调,但莱汉称企业不需要豁免。奥特曼上周接受《财富》采访时暗示正与其他AI领袖私下讨论;《信息》杂志报道三家公司正合作创建AI行业标准机构。哈萨比斯7月曾呼吁美国建立标准机构作为AI监管者,有权筛选全球最先进模型并在危险升级时协调全行业放缓。

特朗普总统将安全担忧斥为骗局,反对加强监管,称放缓会让中国在竞赛中占优。其首席AI顾问大卫·萨克斯也认为AI存在风险的担忧被夸大。莱汉在同一会议上表示,OpenAI支持《FRONTIER法案》中要求前沿实验室允许独立验证机构进入以确保模型安全开发的条款。

原文OpenAI, Anthropic, Google have been in talks on AI safety for weekstechcrunch.com

#OpenAI#Anthropic#安全

本文由程序自动抓取公开报道,经 AI 筛选与改写生成,未经人工逐条核实,事实以原文为准。