[AI书房] 第26章 大语言模型的局限与突破路线图
德米斯·哈萨比斯,谷歌人工智能之父
德米斯·哈萨比斯,谷歌人工智能之父
第26章 大语言模型的局限与突破路线图
金京镇
伦敦国王十字区,谷歌DeepMind总部。德米斯·哈萨比斯站在窗前,俯瞰着街上匆忙的行人、穿梭的车辆,以及风中摇曳的树枝,陷入了沉思。身后的显示器上,Gemini写出的流畅诗句和复杂的编程成果正静静地亮着,但哈萨比斯心里始终有一种未被填满的渴望。那感觉像极了1990年代初开发游戏《主题公园》时触碰到的那种根源性的局限。
「现在的AI就像一只特别能说的鹦鹉。它在概率层面挑出最像样的下一个词吐出来,却完全不知道那个词指向的'实体'是什么,也不知道这个世界在物理层面是怎么运转的。」哈萨比斯指出的大语言模型(LLM)最致命的短板,正是'物理实体锚定(Grounding)'和'规划(Planning)'的缺失。
ChatGPT、Gemini这类模型学习了互联网上的文本数据,把语言的模式模仿得近乎完美。可对它们来说,'苹果'不过是「红色的、圆的水果」这样一条文字信息,与你用手握住它时的触感、它掉落时的重力加速度、咬下去那一刻的脆响,统统没有关系。从「被动系统」到「智能体系统」的转变,,这种局限并不只停留在哲学讨论里。
一旦AI想走出文本对话框,去操控现实世界的机器人,或者为发现新材料而设计实验,'经验的缺席'就变成一堵翻不过去的墙。哈萨比斯把这称为「被动系统(Passive System)」的局限。眼下的LLM只在用户抛出问题之后才做出反应。
它自己设定目标、为达成目标制定长期计划、在中途失败时调整策略的能力,严重不足。2025年1月,瑞士达沃斯世界经济论坛(WEF)年会,成了围绕这个问题展开论战的舞台。哈萨比斯和Anthropic的达里奥·阿莫代伊一同登台,断言当前的AI系统距离人类水平的智能「还差得远(nowhere near)」。
他的话干脆利落:「光靠训练文本,绝不可能抵达人类水平的智能。
它需要现实世界。」同一场活动上,离开Meta后创立AMI Labs的杨立昆(Yann LeCun)给出了更尖锐的批评:「律师考试能过,代码也能写,但面对现实世界就完全束手无策。
所以家用机器人和完全自动驾驶汽车到现在还没出现。」他说AI业界「彻底陷进了LLM(completely LLM-pilled)」,这句话把以文本为中心的路径在结构上的局限压缩成了一句话。拿「帮我安排下周的度假计划」这个请求来说,LLM能列出一份看上去不错的行程,可到了真正订机票、打电话给酒店确认空房、根据天气变化调整安排的'执行'环节,它就无能为力了。因为模型并不理解自己输出内容之间的因果关系,只是凭借文本的统计关联来生成回答。
所谓'幻觉(Hallucination)'也出自同一个根源。模型内部没有验证事实真伪的机制,靠拼接高概率词语一路往下走,就造出了'看似合理的谎话'。哈萨比斯在2025年达沃斯的演讲中,犀利地点破了这个矛盾。
Gemini能解出国际数学奥林匹克(IMO)级别的题目,却会在小学水平的几何题上犯错。它能生成令人惊叹的图像,却不明白为什么杯子不能悬在空中。这道裂缝恰恰证明,语言模型并没有真正'理解'世界的物理规则。
高质量数据匮乏与AI发展减速的可能性,,更严峻的问题是数据正在枯竭。哈萨比斯比谁都清楚一个事实:「互联网上的文本数据差不多用完了。」人类产出的文本数据是有限的,仅靠把它们灌进更大的模型这条'规模定律(Scaling Law)'路线就能通往AGI,这种怀疑已经在业界蔓延开来。
哈萨比斯本人也承认,「收益递减的迹象(evidence of diminishing returns)」正在整个行业显现。他补了一句,并不是说进步速度已经趋近于零,但LLM光靠做大做强有其天花板,这个判断很明确。仅凭文本,装不下这个世界的全部知识。
陶艺匠人拉坯时那些微妙的手上动作、外科医生凭直觉做出的判断、复杂物理实验中纷繁的变量,
这些都属于未被文字记录下来的隐性知识(Tacit Knowledge)领域。世界的空间动态、空间感知、物理语境在机械层面如何运转,「很难用语言说清楚」,哈萨比斯这样指出。语言中包含的关于世界的信息,比人们预想的要多得多,但这些信息也有连语言学家都没料到的边界。
对哈萨比斯而言,这不是一个技术难题,而是他倾注一生探索的'智能'这一命题的本质性缺陷。他常对DeepMind的工程师们说:「我们不是要造一个背百科全书的AI。我们要的是一种智能,,把它扔进陌生环境,它能自己判断形势、找到解决办法。」
那正是他12岁时在棋盘前、17岁时作为游戏开发者试图实现的'活的智能'。超越文本这种一维数据,去理解由时间、空间和因果律主宰的三维世界的AI。这就是哈萨比斯眼中LLM之后的世界,即'后LLM'时代的核心课题。世界模型(World Model)与仿真的革新,,「智能是什么?它是一台模拟未来的引擎。」
哈萨比斯在伦敦大学学院(UCL)研究海马体(Hippocampus)与想象力时得出的结论,被原封不动地移植进了DeepMind的技术路线图。他着迷于一个事实:人脑会重组过去的记忆,在脑海中模拟未来的场景,然后从中选出最优行动。他确信,AI要具备真正的智能,不能靠在海量数据里检索,而必须像大脑一样,拥有一个将世界运行原理内化了的'世界模型(World Model)'。
将Gemini扩展为世界模型:能模拟世界并做出规划的AI,,2025年12月16日,谷歌DeepMind播客本季末尾一集,哈萨比斯与数学家、科学传播者汉娜·弗莱(Hannah Fry)进行了一场超过50分钟的对话。不是产品发布会,也不是评测,而是一场展望未来十年的谈话。哈萨比斯提出了通往AGI必须实现的两件事。
一是让AI真正理解物理和空间的世界模型,二是让AI能够通过自主实验去解决材料或核聚变之类的根本性问题的自动化实验。更关键的是,这两者必须连接起来,形成一个闭环(Closed Loop)。AI自己提出问题、自己验证、自己迭代的科学研究循环体系。
在哈萨比斯看来,AGI不是生成式模型的终点站,而是科学研究闭环的起跑线。世界模型到底是什么?按照哈萨比斯的定义,它是AI对物理现实拥有的直觉式理解能力。什么会倾倒,什么能移动,事物怎样变化,空间如何组织,时间如何流逝。哈萨比斯说,世界模型一直是他最核心的关注点。
这不是什么新想法。但到了2025年,它变成了一项必须完成的任务。Genie与SIMA:无限训练循环和物理AI的基石,,这一愿景最有力的印证,来自'Genie'和'SIMA'两个项目。2024年首次亮相的Genie,通过学习互联网上的2D平台游戏视频,仅凭一张静态图片或简笔画就能生成可供游玩的虚拟世界。
而2025年8月Genie 3的登场,让一切发生了质变。Genie 3只需一段文字描述或一张图片,就能生成可实时探索的逼真3D环境。从沙漠到海洋,体验自然世界;近距离目睹极端天气现象;创造想象中的世界和奇幻场景。分辨率720p,每秒20到24帧的流畅画面。乍看像是一个游戏生成器,但其本质在于'学习物理学'。
Genie 3仅仅通过观察像素的变化,就自己领悟了角色跳起来必须落回地面、撞到墙就无法继续前进这些世界规则。谷歌DeepMind的官方说明是这样写的:「世界模型利用对物理环境的深层理解来模拟它。Genie 3让智能体能够预测世界如何演变、自身的行为会对世界产生怎样的影响,是迈向AGI的关键基石。」
在此基础上,'SIMA 2(Scalable Instructable Multiworld Agent)'是在这些虚拟世界里带着目标行动的智能体。2024年的SIMA 1只能执行「向左转」「爬梯子」之类600多条简易指令,而2025年12月公布的SIMA 2则完全是另一种存在。搭载了Gemini基础模型作为核心推理引擎的SIMA 2,从等待逐步指令的被动跟随
者,进化成了能推理高层目标、与用户对话、讨论策略的主动伙伴。SIMA 1在复合任务上的成功率大约只有31%,而SIMA 2大幅缩小了与人类玩家表现之间的差距。哈萨比斯在这两个项目的结合中看到的,是'无限训练循环(Infinite Training Loop)'的可能性。
Genie创造世界,SIMA在其中体验。用哈萨比斯的话说:「无论SIMA智能体想学什么,Genie都能当场造出来。」有趣的是,这两个AI互相不知道对方的身份。
Genie不知道SIMA是另一个AI,只把它当作玩家。SIMA同样不知道自己所处的世界是AI生成的,只管专心完成任务。这种'无知'中的协作,潜在地构成了一个可无限扩展的训练周期。SIMA 2的自我改进(Self-Improvement)机制是这个循环的核心。
先由Gemini提出任务和奖励标准。SIMA 2在环境中反复试错。成功与失败的经验被记录下来。这些经验成为下一代SIMA 2的训练数据。
即使没有人类示范,SIMA 2仅凭自主游玩就能在新游戏中提升技能,甚至在Genie 3生成的全新环境中,这种自我改进依然有效。这是AlphaGo通过自我对弈(Self-play)达到超人类围棋水平那套原理的扩展版,只不过舞台从封闭的棋盘拓展到了无限多样的3D世界。Veo视频模型与物理学基准测试:从「幻觉」走向「有物理根基的想象力」,,2024年发布的视频生成模型'Veo'也是这幅蓝图的一部分。
哈萨比斯把Veo生成的影像在多大程度上遵循物理定律,当作衡量AGI的标尺。以往的视频模型会出现杯子悬浮在空中、人的手指变成六根之类的'幻觉',而Veo在努力理解并反映光影、重力和惯性。但哈萨比斯很坦率。
他承认,目前的视频模型「肉眼看上去挺真实,但还没达到'物理学级别(physics-grade)'」。为弥合这道鸿沟,DeepMind正在搭建物理学基准测试体系,,在仿真环境中重现单摆运动、滚球之类高中水平的物理实验,检验AI生成的结果是否100%精确地遵循牛顿运动定律。
聊天机器人出现幻觉,充其量是个bug;但物理AI出现幻觉,可能酿成灾难。机器人错判了杯子的重量,杯子就碎了;自动驾驶汽车误算了弯道曲率,事故就来了。「以物理学为根基的(Physically grounded)想象力」,这正是哈萨比斯追求的技术方向。起源于神经科学的「心智模拟引擎」概念的技术实现,,所有根源都通向哈萨比斯的神经科学背景,通向他要在计算机中实现「心智模拟引擎(Simulation Engine of the Mind)」这一宏大实验。
在UCL研究海马体损伤患者时,他发现了一件事:丧失记忆的人同样无法想象未来。这个发现教会了哈萨比斯关于智能本质的一课。记忆不是储存过去的仓库,而是模拟未来的原材料。大脑把过去的碎片重新排列,在脑海中铺展尚未发生的情境,从中挑出最佳行动方案。Genie 3与SIMA 2的结合、Veo的物理学基准测试、Gemini的多模态拓展,全都是这一神经科学洞见的工程学翻译。
哈萨比斯相信,借助世界模型,AI可以预先在虚拟环境中模拟现实世界的复杂问题,从而大幅降低在现实中试错的成本。气候变化的预测、候选新药的分子结合、核聚变反应的控制,,这一切都让AI先在虚拟世界中尝试数千万次,只把经过验证的结果应用于现实。2025年12月,DeepMind宣布将与英国政府合作,计划于2026年在英国开设首座全自动化科学研究实验室。
这座与Gemini完全整合的实验室,每天合成并测试数百种材料,实验执行、数据分析、方向调整均由AI和机器人主导。Genie与SIMA在数字世界中形成的虚拟闭环,和这座自动化实验室在物理世界中运行的实验闭环,,这两条并行的自主研究系统,构成了哈萨比斯设想的AGI骨架。曾经是游戏开发少年的他成为了科学家,如今正在教AI'如何模拟世界',以此解决全球性的难题。
借用哈萨比斯的话:「过去我们训练的是给出答案的AI,现在我们必须训练会做研究的AI。」这就是他勾画的通往AGI的路径。不是更大的模型,不是更强的算力,而是建立在AI真正'理解'世界并'改变'世界这种能力之上的路径。
具备推理(Reasoning)与记忆(Memory)的智能体的未来,,2024年12月11日,刚从瑞典领完诺贝尔化学奖回来,哈萨比斯在接受Axios采访时,把未来12个月的核心课题压缩成了一句话:「世界模型。那是下一个前线。」但光有世界模型还不够。
就算AI能模拟世界,如果无法基于模拟结果进行逻辑推理,无法记住过去的经验并运用到当下的判断中,它仍然只是半个智能。预测2至3年内出现「真正令人印象深刻且可靠的」智能体系统,,哈萨比斯将2025年和2026年定义为「AI从被动工具进化为主动伙伴的拐点」。他在多次采访和内部会议上预告,未来2至3年内将出现「真正令人印象深刻且可靠的智能体系统」。他所说的智能体,超越了回答用户提问的层面。它能执行这样的复合指令:「考虑明年的预算,帮我安排这次度假计划,订好机票和酒店,再把餐厅清单存到我的谷歌地图里。」
谷歌DeepMind已经朝着这个方向迈出了步伐。2024年12月随Gemini 2.0发布的Project Mariner,是一个能在Chrome浏览器中跨网站替用户执行任务的智能体研究原型。它能识别屏幕上的文本、代码、图片、表单等网页元素,进行推理后采取行动。在WebVoyager基准测试中取得了83.5%的最高成绩。
当然,它还不够快,也不完美,但正如哈萨比斯所说:「技术上,这件事开始变得可行了。」Project Astra展示了一个具备视频理解、屏幕共享和记忆功能的通用AI助手的愿景;编程智能体Jules则辅助开发者完成代码工作。哈萨比斯用一句话概括了这一切底层的思想。
「从一开始,我们就在朝着基于智能体的系统努力。从起步之时,它们就能制定计划、执行行动、达成目标。」要实现这些,两项核心能力不可或缺,即'推理(Reasoning)'与'记忆(Memory)'。
先说'记忆'的问题。哈萨比斯把解决当前LLM的'短期失忆症'列为最优先课题。对话一长就忘掉前面的内容、丢失上下文,这对于把AI当作长期伙伴来用是致命的。DeepMind从Gemini
1.5 Pro开始引入了超过100万token的巨大上下文窗口(Context Window)。这相当于一次性把《哈利·波特》全套装进脑子里的规模。到Gemini 2.5 Pro,已经能处理长达3小时的视频内容。
但哈萨比斯想做的不止于接收大量输入。他要在AI中实现一套类似人类海马体的'情景记忆(Episodic Memory)'系统,,筛选出重要信息存入长期记忆库,需要时恰当地取出来用。在2025年达沃斯,他列出的通往AGI的研究课题清单中,「更好的长期记忆(better long-term memory)」和「持续学习能力(the ability to learn continuously)」被明确写了进去。接下来是'推理'。
正如行为经济学家丹尼尔·卡尼曼的分类,'系统1'是直觉式的快速思考,'系统2'则是逻辑性的慢速深思。现在的聊天机器人一接到问题就立刻倾泻答案,更接近系统1。哈萨比斯打算把DeepMind在强化学习上积累的经验嫁接过来,让AI在给出回答之前,拥有内部的「思考时间」。
这个构想变成了现实。2025年3月发布的Gemini 2.5 Pro被冠以「思考模型(Thinking Model)」的正式名称。它在生成回答之前,会模拟多条逻辑路径,自行验证错误,再给出最优答案,整个过程经过内在的深思熟虑。
就像AlphaGo为了落下一子而搜索无数可能性一样,这个模型在回答之前会在内部展开一棵思维树(Tree of Thoughts)。正如哈萨比斯在播客访谈中所说:「把大规模模型变成越来越精确的世界预测器、越来越可靠的世界模型,这是必要的,但很可能还不够。必须在其上叠加类似AlphaZero的规划机制。」Gemini 2.5 Pro登上LMArena排行榜第一名,并保持了六个多月。它在国际数学奥林匹克级别的数学题、竞赛编程和博士级科学推理方面均创下最佳成绩。
2025年11月,Gemini 3 Pro登场了。根据Google DeepMind的官方公告,Gemini 3是「一个为把握深度与细微差别而设计的、推理能力最前沿的
模型」。Gemini 3的Deep Think模式将推理性能又提升了一个层次。用哈萨比斯的话说,Gemini 3的目标是打造「最出色的全能模型」,重点解决前一版本在编程、推理和数学领域的短板。
从Proto-AGI到完全AGI的分阶段路线图。哈萨比斯把推理、记忆和世界模型融为一体的状态称为「Proto-AGI」,这是通向完全AGI的末尾一道关卡。他提出的分阶段路线图清晰明了:第一阶段是当前的「聊天机器人」形态;第二阶段是在有限范围内使用工具的「推理者(Reasoner)」;第三阶段是拥有长期目标、能在物理世界和数字世界中自主行动的「智能体(Agent)」;第四阶段,也就是终点,是无需人类介入、能自行提出科学假说并加以验证、创造新知识的「专家(Expert/Scientist)」。2025年在达沃斯与阿莫代伊的联合演讲中,哈萨比斯认为十年内实现AGI的概率为50%。
不过他也明确表示,仅凭当前形态的AI系统做不到。「大概还需要一两个突破。」他指出的核心差距包括:从少量样本中学习的能力、持续学习的能力、更好的长期记忆,以及更强的推理与规划能力。
这份清单具体得令人吃惊,同时也表明哈萨比斯正把DeepMind的所有项目精确地指向填补这些差距的方向。哈萨比斯用一句话概括了这段旅程的终极目的地:「我们正在从触摸智能手机的时代,跨入向AI表达意图的时代。」
在他的愿景中,未来的智能体既是理解每个人生活的完美「通用助手(Universal Assistant)」,也是与人类共同攻克难题的研究伙伴。他同时也对这种强大智能体可能带来的风险发出警告:目标设定错误或权限滥用的问题。
Google在开发Project Mariner时确立了一项原则:「针对新型风险及其缓解措施开展主动研究,始终让人类留在回路中(keeping humans in the loop)。」技术进步与「对齐(Alignment)」及「可控性」研究必须齐头并进。随着Gemini 2获得自我改进能力,这一问题变得更加尖锐,DeepMind的负责任开发与创新团队(Responsible Development and Innovation Team)全程参与了开发的每一个环节。
哈萨比斯通往AGI的路径,并不依赖更大的模型或更强的算力,而是基于AI真正「理解」世界并「改变」世界的能力。世界模型是地基,推理和记忆是支柱,自
动化实验是屋顶。这座建筑的设计者,4岁学国际象棋,17岁做游戏,30多岁研究大脑,拥有丰富多元的智识经历。对他而言,AGI不是一台聪明的机器,而必须成为拓展和守护人类智慧的「智慧工具」。在他坚信AGI将成为人类历史上最具变革性时刻的信念背后,蕴含着一位科学家的责任感:这场变革必须走向正确的方向。Transformer模型的工作原理
人工智能专家 金京镇律师
AI法律政策专家 · 前国会议员 · 著作等身
如果这本书曾在您身边短暂停留,请支持我们,让下一个故事得以问世。
(自愿赞助账户:农协 302-1096-0948-81 户名:金京镇)


