AlphaGo 设计师离开 DeepMind，指出 LLM 缺乏真正推理能力
Google DeepMind 前研究员、AlphaGo 团队成员近日发文指出，大型语言模型（LLM）并不具备真正的推理能力，它们只是基于概率的快速模式匹配。文章以 AlphaGo 在围棋人机大战中的标志性“第37手”为例，对比了其依赖的启发式直觉与系统化搜索机制。作者认为，若要 AI 在医疗、科研等高风险领域可信，必须开发全新的推理架构。
2016 年 3 月首尔的一个下午，作者参与构建的程序将一枚棋子放在了围棋盘的第五线上，这看似是送给人类对手的礼物。这手“第 37 手”在当时显得如此荒诞，以至于有评论员认为这是程序故障。但 AlphaGo 最终以 4 比 1 战胜了传奇棋手李世石。李世石赛后表示：“我以为 AlphaGo 只是基于概率计算的机器，但看到这手棋后，我改变想法了，AlphaGo 确实有创造力。”
作者指出，AlphaGo 由两套系统组成：策略网络提供“直觉”或灵感，而搜索机制则系统性地评估未来变化。搜索机制显式地构建并搜索一个游戏树，包含成千上万个分支，代表了不同的可能未来。这与如今大语言模型的工作原理截然不同——LLM 只是在一个接一个地预测下一个词，属于快速、联想的 System 1 式反应。
尽管像 ChatGPT 这样的模型引入了“思维链”来模拟推理过程，但作者认为，这并没有引入真正独立的推理机制：中间推理步骤仍由同样的下一个词预测过程生成。更关键的是，这些模型缺乏“认识状态”——即无法显式记录其正在考虑的假设、对各项解释的信心、所依据的证据以及悬而未决的问题。同时，知识如何被操控也未得到清晰区分。研究表明，模型常常在事后编造思维链，实际得出结论的路径与报告不符。
作者因此最近离开了 Google DeepMind。他认为需要借鉴 AlphaGo 的架构重新思考机器推理：维护一个能被更新的“游戏树”作为认识状态，将推理视为对可能未来的探索和权衡。这对于需要可解释、可问责的医疗、工程和科学应用至关重要。
本文由程序自动抓取公开报道，经 AI 筛选与改写生成，未经人工逐条核实，事实以原文为准。