[AI书房] 第8章 博士后与跨学科融合
德米斯·哈萨比斯,谷歌人工智能之父
德米斯·哈萨比斯,谷歌人工智能之父
第8章 博士后与跨学科融合
金京镇
2009年一个傍晚,德米斯·哈萨比斯沿着美国马萨诸塞州剑桥市的查尔斯河畔散步,脑海中两个截然不同的世界正在碰撞。身后矗立着全球顶尖工科院校MIT,河对岸则是哈佛大学的红砖建筑群。这片地理景观恰如一个隐喻,精准映射出哈萨比斯当时所处的智识坐标。
他刚在伦敦大学学院(UCL)完成关于记忆与想象力的脑科学博士学位。换作一般科学家,到这里就该做选择了:成为研究大脑的生物学家,还是编写代码的计算机工程师?哈萨比斯两个都选了。
他决心在两个世界之间架起桥梁,横跨大西洋来到MIT的麦戈文脑研究所(McGovern Institute)。他找到的是托马索·波焦(Tomaso Poggio)教授的实验室。波焦教授是计算机视觉(Computer Vision)领域的宗师级人物,毕生致力于用数学模型描述人脑观看事物的方式。
哈萨比斯选择这里的原因很清楚。当时人工智能研究正经历被称为「冬天」的低迷期,但波焦教授的实验室是个例外。那里正积极尝试将生物大脑的原理转化为计算机算法。
哈萨比斯在这里找到了验证自己假说的完美环境:「理解大脑,就能创造智能。」这一时期,他获得了英国惠康信托基金会(Wellcome Trust)颁发的「亨利·惠康研究员奖」(Henry Wellcome Fellowship),这是一项相当特殊的资助。该奖学金赋予年轻科学家自由选择研究课题和研究地点的破格权限与预算。
得益于此,哈萨比斯无需依附于某位教授的项目,可以自主推进自己的宏大目标,为「通用人工智能(AGI)」进行基础设计。
他在MIT和哈佛之间自由穿行,与当代最杰出的学者们交流。他去哈佛的实验室分析最新的脑扫描数据,再回到MIT构思处理这些数据的机器学习模型。
在这个过程中,他注意到了生物大脑惊人的效率。人脑仅凭大约20瓦(W)的能耗,就能感知复杂世界、行走、对话、学习新事物。而当时的计算机消耗巨大电力,却连区分猫和狗都做不到。哈萨比斯确信,缩小这一差距的钥匙在于「计算神经科学(Computational Neuroscience)」。
这门学科将神经细胞传递信号的方式转写为数学公式。他探索了将大脑视觉皮层逐层处理信息的方式嫁接到深度学习(Deep Learning)技术上的可能性。MIT的氛围既充满激情又务实。
哈萨比斯在那里与研究员们讨论到深夜,不断打磨自己的想法。他对之前自己开发的游戏中人工智能所暴露的局限感触极深。游戏角色只在程序员预设的规则范围内显得聪明。
但哈萨比斯想要的,是即便被丢到陌生环境中也能自行领悟规则的真正智能。通过与波焦教授的合作研究,他认识到人脑处理视觉信息时呈现的「层级结构」正是答案之一。我们看东西时,大脑先识别简单的线条和颜色,再将它们组合成形状,最终形成「这是一辆汽车」这样的概念。
这种生物学上的层级秩序,日后成为DeepMind的人工智能仅凭屏幕像素(Pixel)就能征服打砖块游戏的技术基石。在美国的这段时间还给哈萨比斯留下了另一笔财富,那就是「野心的尺度」。在硅谷和波士顿的学术氛围中,他领悟到研究不能止步于写论文。
伟大的研究必须转化为改变世界的技术。他在那里毫不犹豫地对同伴们说:「我们要理解智能。」也许有人觉得他在吹牛。
但哈萨比斯的脑中,游戏开发者的经验、脑科学家的知识、机器学习这一工具,已经融合为一体。现在他带着全部素材准备返回故乡伦敦,启动人类历史上最大胆的创业。2010年,德米斯·哈萨比斯结束美国生活回到伦敦。
他的下一站是伦敦大学学院(UCL)的「盖茨比计算神经科学中心(Gatsby Computational Neuroscience Unit)」。普通大众或许对这个名字感到陌生,但对人工智能研究者而言,这里如同一座传奇圣地。该中心由后来获得诺贝尔物理学奖的杰弗里·辛顿(Geoffrey Hinton)教授主导创建,汇聚了全世界最聪明的数学头脑,共同破解人类智能的秘密。
哈萨比斯选择这里绝非偶然。他直觉感到,这是唯一能让「DeepMind」这颗种子生根发芽的土壤。他之所以能加入盖茨比中心,靠的正是前面提到的「亨利·惠康研究员奖」。
这笔资助不仅给了他财务自由,还保障了他自主决定研究方向的知识独立性。当时盖茨比中心由彼得·达扬(Peter Dayan)教授领导。达扬教授是理论神经科学大家,以数学方法阐明了大脑如何学习与处理奖赏(Reward)。
盖茨比中心是脑科学与机器学习熔于一炉的地方。那里的氛围异常紧张。研究人员不停地在生物脑实验数据与复杂概率统计之间来回穿梭。
哈萨比斯在这里遇到了老友、日后DeepMind的联合创始人谢恩·莱格(Shane Legg)。两人每到午饭时间就坐进学校附近的三明治店或酒吧(Pub),一聊就是几个小时。话题只有一个:「怎样才能造出人类水平的人工智能(AGI)?」当时在学术界,把AGI这个词挂在嘴边几乎是禁忌。
人工智能研究被困在只解决特定问题的狭义人工智能(Narrow AI)里,谈论像人一样的通用智能会被当成科幻小说。
但在盖茨比中心自由且追问根本的探索氛围里,哈萨比斯和莱格获得了打破禁忌的勇气。在盖茨比中心研究期间,哈萨比斯深入钻研了「系统神经科学(Systems Neuroscience)」。
这个领域不研究大脑的单个细胞,而是研究大脑作为一个整体系统如何整合信息、存储记忆、模拟未来。他聚焦于大脑「海马体(Hippocampus)」所扮演的角色。海马体在我们睡觉时,会像快速倒带一样重播(Replay)白天的经历,从而巩固记忆。
哈萨比斯认为这种生物学机制是大幅提升人工智能学习效率的关键。在这里的经历教会了哈萨比斯「混合(Hybrid)」的力量。在纯粹的脑科学家中间,他讲计算机算法的精确性;在机器学习工程师中间,他讲大脑的灵活性。
两个群体使用的语言不同,但归根结底在解同一个问题:「智能是什么?」在盖茨比中心的时光,是哈萨比斯创办DeepMind之前末尾的孵化期。
他在这里不仅吸收最新理论,还开始招募能把理论变成可运行代码的伙伴。盖茨比中心赠予他学术上的严谨(Rigour)。他学会了不依赖「大概行得通」的直觉,而是构建数学上可证明、生物学上站得住脚的模型。
这里奠定的理论基础,日后成为AlphaGo穿透围棋复杂性取得胜利的根基。2010年哈萨比斯创立DeepMind时,公司早期成员大多出身盖茨比中心或与之相关,绝非巧合。亨利·惠康研究员奖提供的时间与自由,加上盖茨比中心这一知识共同体,成为将青年哈萨比斯锻造为世界级AI领袖的决定性熔炉。伦敦阴沉的天空下,UCL的实验室却涌动着智识的热量。在这里遇到的彼得·达扬教授,对哈萨比斯而言如同一位能解答他长久困惑的
贤者。彼得·达扬是计算神经科学(Computational Neuroscience)的开拓者之一,用数学证明了人脑如何通过奖赏来学习。哈萨比斯与达扬的相遇,就像1980年代苹果公司乔布斯与沃兹尼亚克的碰面,不同天赋完美咬合的瞬间。
他们共同探索的核心课题是「强化学习(Reinforcement Learning)」。用通俗的话讲,强化学习类似训练小狗。小狗听到「坐下」的口令后坐下了,就给它零食。小狗便将「坐下」这个动作与「零食(奖赏)」联系起来,逐渐把这个动作做得更好。
哈萨比斯和达扬关心的是在生物学层面和计算机算法层面同时解释这一机制。彼得·达扬在1990年代中期重新定义了大脑中「多巴胺(Dopamine)」这种神经递质的作用。人们常把多巴胺当作「快感荷尔蒙」,但达扬和同事们揭示了多巴胺其实传递的是「奖赏预测误差(Reward Prediction Error)」信号。
这是什么意思?比方说你在自动售货机前投了币想买咖啡,结果什么也没出来。这时你的大脑从「期待咖啡」的状态撞上了「什么都没有」的结果。期望与实际结果之间的落差,就是「预测误差」。此时大脑的多巴胺神经元停止活动或急剧下降,发出「失望」信号。反过来,如果自动售货机掉出咖啡的同时莫名其妙弹出一张一万韩元纸币呢?因为奖赏远超预期,多巴胺神经元会爆发式地放电。这就是「正向预测误差」。
哈萨比斯为这一生物学发现与计算机科学中的「TD学习(Temporal Difference Learning)」算法精确吻合而震撼。计算机科学家为训练机器而设计出的数学公式,原来数亿年前就已在我们大脑中运行。这是一个重大发现。
它带来了一种确信:「造人工智能不需要发明外星科技,照着我们脑中现成的蓝图临摹就行。」
通过与达扬的合作,哈萨比斯看到的不是仅仅分类数据的AI,而是「自主行动并从结果中学习的AI」的可能性。当时大多数AI研究集中在看照片判断是猫还是狗的「监督学习(Supervised Learning)」上,也就是做有标准答案的题。但强化学习没有标准答案。
智能体(AI)通过与环境反复交互,经历数万次试错后自行摸索出策略。这和幼儿学走路的过程一模一样:摔倒、痛、爬起来,自己领悟平衡的诀窍。
这项研究给哈萨比斯提供了关于「通用性(Generality)」的重要线索。多巴胺系统在我们学骑自行车时、演奏乐器时、下围棋时,运作方式完全一样。换句话说,大脑中可能存在一种统管所有类型学习的统一算法。
哈萨比斯相信,只要能在计算机中实现这「一种算法」,这个AI就不只是会下棋,还能解开蛋白质结构,解决气候问题。在达扬实验室度过的时光,为DeepMind日后确立「打造通用学习算法」的创立使命奠定了决定性的理论基础。2013年,哈萨比斯与达扬合作中获得的洞察,凝结为DeepMind的第一件成果:「DQN(Deep Q-Network)」。
DQN是DeepMind扬名天下的契机,也是让谷歌以超过5000亿韩元巨资收购这家伦敦小型创业公司的关键技术。这项技术的核心灵感,出人意料地来自哈萨比斯博士期间研究的大脑「海马体(Hippocampus)」。DQN的目标是让AI玩1980年代的经典电子游戏「雅达利(Atari)」,水平超过人类。
但没有人告诉这个AI游戏规则。它只获得屏幕像素信息(视觉)和分数(奖赏)。一开始AI随机按按钮,做些莫名其妙的动作,但随着时间推移,它自行摸索出了得分方法。
这里有一个致命问题。计算机在学习连续游戏画面时,由于数据之间过于相似,
学习变得不稳定,甚至出现遗忘现象。这被称为「灾难性遗忘(Catastrophic Forgetting)」。面对这道难关,哈萨比斯拿出了脑科学家的知识储备。「人类是怎么一边学新东西,一边又不忘掉旧东西的?」
他注意到大脑海马体具有的「经验重播(Experience Replay)」功能。我们睡觉或休息时,大脑会以随机顺序、快速地重播白天经历的重要事件。就像备考时把重点内容打乱顺序反复复习。
通过这个过程,短期记忆被牢固地转存为长期记忆。哈萨比斯把这一生物学原理原样移植到了AI代码中。他让AI在玩游戏过程中经历的大量画面和体验不立即丢弃,而是存入一个叫「经验缓冲区(Experience Buffer)」的存储池。
学习时,AI不仅用当前经验,还从存储池中随机抽取过去的经验一起训练。这就是DQN的核心技术「经验回放(Experience Replay)」。效果立竿见影。
AI的学习变得异常稳定,性能爆发式提升。DQN在打砖块游戏(Breakout)中展现的表现是这样的:起初连球都接不住的AI,训练300轮后完美接球,超过500轮后,它自行发现了一种从未有人教过的「隧道(Tunneling)」策略。
它集中攻击砖墙的一端打出一个洞,再把球送到砖墙背后,让砖块自动崩塌。这是一种高级技巧。DeepMind的研究员大卫·西尔弗(David Silver)和同事们凌晨三点在显示器前目睹这一幕,目瞪口呆。那是机器展现创造力的瞬间。
通过与彼得·戴恩的研究确立的「奖励驱动学习」理论,与哈萨比斯从脑科学中引入的「记忆回放」机制相结合,由此诞生的DQN绝非一个普通的游戏AI。它是一个历史性事件,证明了生物智能的原理同样可以在硅芯片上运行。大脑中找到的线索,成为了AI算法中那块决定性的拼图。
这次成功给了哈萨比斯坚定的信念。「我们走在正确的道路上。」这份信念,正是日后在棋盘上震惊人类的AlphaGo诞生之前,那段宏大旅程的序幕。
对哈萨比斯而言,DQN是模仿人类大脑而创造的第一台「会思考的机器」的原型(Prototype)。生物神经元与人工神经元的结构对比
人工智能专家 金京镇律师
AI法律政策专家 · 前国会议员 · 著作等身
如果这本书曾在您身边短暂停留,请支持我们,让下一个故事得以问世。
(自愿赞助账户:农协 302-1096-0948-81 户名:金京镇)


