Google DeepMind 成立新机构，公开推进 AGI 议题讨论
Google DeepMind 于周三推出 DeepMind Institute，旨在围绕 AGI 展开更广泛的公开辩论。该机构由 Shane Legg 担任主编，首批发布四篇论文，涵盖经济政策、模型透明度和评估框架等议题。对关注 AI 发展的读者而言，这意味着关于 AGI 的讨论正从口号转向具体方案。
Google 与 Google DeepMind 的研究人员于周三宣布成立 DeepMind Institute，目标是推进关于通用人工智能的公开对话。该机构由 DeepMind 联合创始人 Shane Legg、Google 高管 James Manyika 以及 Google DeepMind 主席 Demis Hassabis 共同领导，其中 Legg 担任管理编辑。
机构的首批内容聚焦于各方观点碰撞。官方声明称，Google、DeepMind 和全球研究界在 AGI 议题上不会总是一致，随着前沿领域的新数据不断涌现，观点也可能发生变化。首批四篇论文分别讨论管理 AGI 潜在冲击的经济政策、保留人类可读的模型推理能力、人类繁荣原则，以及评估前沿模型的框架。
其中一篇论文由 DeepMind 安全研究员 Rohin Shah 和 Anca Dragan 撰写，他们指出 AI 透明窗口缩小并非必然。随着新架构使最强模型更难监控，开发者与监管者应直面安全权衡，例如限制模型在无可读推理痕迹下的连续计算深度，或要求开发者证明低透明系统仍可被监控。另一篇由 Hassabis 执笔的论文提议建立由美国主导的前沿 AI 标准机构，开发者可自愿在发布前 30 天提交模型审查，待体系成熟后，通过测试或将成为部署条件，并可能引入独立、不公开的测试以防模型针对性优化。
这一系列动作正值行业安全讨论从笼统担忧转向具体提议之际，包括披露、外部审查以及必要时协调放缓的呼声。本周多位行业领袖已对 Anthropic CEO Dario Amodei 提出的"节奏化"前沿开发表示支持。
本文由程序自动抓取公开报道，经 AI 筛选与改写生成，未经人工逐条核实，事实以原文为准。