研究进展2 分钟读完The Verge AI

METR 报告:Anthropic 用 AI 加速自身研发,模型进步速度翻倍

速览

AI 安全研究组织 METR 发布报告,称 Anthropic 正用 AI 构建更强大的 AI,其模型改进速度约为一年前的两倍。报告基于对 Anthropic 内部为期 11 周的调查,指出加速主要归因于 AI 辅助,而非单纯算力提升。这引发了对 AI 自主进化速度及透明度不足的担忧。

AI 安全研究组织 METR 周四发布报告,基于对 Anthropic 内部为期 11 周的调查,评估其 AI 研发进展。调查发现,Anthropic 的模型改进速度约为一年前的两倍,基准分数显示「Anthropic 在过去一年取得了约两年的历史性进展」。METR 研究人员表示,他们「确信」这种加速并非仅仅源于训练算力的增加,截至 10 月,「大部分加速归因于 AI」,且其贡献随时间增长。

员工反馈佐证了生产力的显著提升。非正式 Slack 投票和访谈显示,使用 Anthropic 最强大内部模型的员工,自报工作效率平均约为无 AI 辅助时的 12 倍,是几个月前使用 Mythos 5 时自报水平(约 6 倍)的两倍。目前,加速主要来自 AI 辅助人类研究员,而非 AI 独立工作,但 METR 警告「有迹象表明,完全自主的贡献很快将发挥更大作用」。

调查还披露了 Anthropic 未发布的模型。过去六个月,Anthropic 完成了三个模型的训练,代号分别为 Model 2、Model 3 和 Model 4,训练时间分别在 7 月、8 月至 9 月、9 月至 10 月。METR 还发现了一个可追溯至 2022 年的未发布模型,代号 Unreleased 2022。

值得注意的是,Anthropic 对 METR 的最终报告行使了广泛的删改权。METR 在 X 上表示,「我们向 Anthropic 提交了约 100 页的完整评估报告。对于公开版本,Anthropic 删除了我们认为最具信息量的多数证据」。METR 在报告中还指出,其信息渠道「相对狭窄」,部分数据请求被拒绝。

原文Why a new report on Anthropic automating AI development is alarming researcherstheverge.com

#Anthropic#AI安全#自主开发#模型能力

本文由程序自动抓取公开报道,经 AI 筛选与改写生成,未经人工逐条核实,事实以原文为准。