巨型企业内部的创新与伦理张力 谷歌内部的AI伦理之争与哈萨比斯的立场 2014年1月，伦敦寒风凛冽的一天，德米斯·哈萨比斯正在进行一场一生一次的豪赌。拉里·佩奇面前的谈判桌上，摆的不只是一个收购价格。哈萨比斯要求的是一道安全阀门，让谷歌这座庞大帝国吞下DeepMind，却无法将其消化。

那道阀门，就是设立「伦理委员会（Ethics Board）」。他坚信这项技术将拥有人类历史上最强大的力量，而他不愿看到这股力量仅仅为股东利益所驱使。当时他断言：「我们做这项研究，不是为了造一个更聪明的搜索引擎。」这就好比大卫穿上了歌利亚的铠甲，却仍想握住自己那颗石弹。

十年过去，到了2024年，局势比哈萨比斯预想的更复杂、更危险。ChatGPT引爆的生成式AI大战，不再允许谷歌DeepMind待在象牙塔里。谷歌山景城总部发出了「红色警报（Code Red）」，伦敦的DeepMind研究员们再也不能只埋头写论文了。

他们必须成为谷歌这艘巨轮的「引擎室（Engine Room）」。这一过程中爆发的伦理张力，动摇了DeepMind的身份认同。早期的伦理委员会名单从未向公众公开，笼罩在一层面纱之后；而谷歌内部伦理AI团队（Ethical AI Team）与管理层之间的摩擦，最终在蒂姆尼特·盖布鲁（Timnit Gebru）博士被解雇一事中彻底引爆。

哈萨比斯在这场风暴中看似沉默，但他的内心正在研究者的理想与管理者的现实之间走钢丝。他没有选择公开批评，而是选择在内部加强「对齐（Alignment）」研究。DeepMind内部，「我们是不是在制造怪物？」的自嘲声与「我们不造，更危险的人会造」的现实论激烈碰撞。

2024年Gemini模型的图像生成事故，是这种张力浮出水面的标志性事件。为了强行增加历史人物的种族多样性而出的错，与其说是技术缺陷，不如说是过度伦理校正反而催生偏见的「悖论式失败」。哈萨比斯解释说「这不是我们的本意」，但这绝非改几行代码就能解决的问题。

这一幕象征性地展示了一件事：当DeepMind「打造普遍而中立的智能」这一理想，踏入硅谷文化战争（Culture War）的泥潭时，会发生什么。哈萨比斯的立场经历了微妙的转变。他早期坚持「要让AI作为独立于谷歌的研究体存在」，如今却在谷歌「负责任的AI（Responsible AI）」这一全公司口号下，将DeepMind整合了进去。

有批评者说「理想主义者哈萨比斯向资本主义跪下了」。但他身边的人讲的是另一个故事：哈萨比斯痛彻骨髓地认识到，没有谷歌庞大的基础设施，AGI（通用人工智能）根本无法实现。他在2025年达沃斯论坛上这样说，，

「安全不是减速的刹车，而是走得更远的方向盘。」换句话说，他开始将谷歌内部的伦理争论，不再视为束缚，而是防止AGI失控的必要控制系统。在巨型企业的逐利动机与守护人类的安全屏障之间，他正在拼一道只有自己才能完成的最难拼图。

开放与封闭，竞争与合作的两难 2016年AlphaGo击败李世石九段时，DeepMind将其工作原理写成论文，在『自然（Nature）』上全文公开。全球开发者欢呼雀跃，这成为AlphaGo Zero、AlphaZero等一系列技术突破的导火索。当时哈萨比斯的理念很清晰，，

「科学在分享中才会进步。」他继承了17世纪皇家学会（Royal Society）的传统，认为不隐藏发现、将其公之于世，是科学家的义务。AlphaFold同样免费开放给全球生物学家，为解决困扰数十年的蛋白质结构问题做出了贡献。那是「科学利他主义」的胜利。

2023年，风向骤然变冷。OpenAI决定不公开GPT-4的技术细节，「开放（Open）」的时代落幕，「封闭（Closed）」的时代，或者说「秘密主义（Secrecy）」的时代到来了。谷歌DeepMind也无法逆流而行。

哈萨比斯在2024年的一次采访中说：「现在，公开危险的信息反而可能是不负责任的行为。」过去，公开论文是对人类的贡献；但公开一个接近AGI的强大模型的设计图，就像把核武器制造方法放到互联网上。这种认知已经扎下了根。这个两难让哈萨比斯深感痛苦。

他本能地倾向开放与合作，是一个纯粹的学者；但现实逼迫他筑高城墙、挖深护城河（Moat）。2025年初，Meta的杨立昆（Yann LeCun）主张「只有将AI开源，才能实现民主化控制」，并公开了Llama模型。哈萨比斯陷入了长久的沉默。他忧虑Meta的做法「可能带来不可逆转的风险」，同时又不得不安抚DeepMind内部研究员们对公司日益封闭的反弹。许多优秀人才说「我们来这里是为了分享科学发现，不是为了拉高谷歌的股价」，然后离开，转投开源阵营。眼睁睁看着这一切，对他来说是巨大的痛苦。竞争与合作的两难也在紧紧勒住他。

2023年，在英国布莱切利庄园（Bletchley Park）举办的AI安全峰会上，哈萨比斯与萨姆·奥尔特曼、达里奥·阿莫代并肩而立，承诺「为AI安全展开国际合作」。表面上看，竞争对手的掌门人握手言欢，共同忧心人类未来，是一幅动人的画面。但舞台背后，人才争夺战和芯片抢购战打得不可开交。

2026年达沃斯论坛上，哈萨比斯与Anthropic的CEO达里奥·阿莫代对谈，讨论了「模型相互教学、指数级自我改进（Self-improvement）循环」的话题。两人都同意为了安全必须合作，却也毫不掩饰各自的竞争心，，谁先完成那个循环，谁就握住了「末尾的发明」。哈萨比斯如今修正了「开放科学」这一长期信念，确立了「分阶段发布（Staged Release）」的新原则。

他把这称为「战略耐心」，而非科学上的倒退。他相信，当竞争对手鲁莽加速时，DeepMind至少应该坚守科学严谨与安全底线，缓慢但扎实地前进。但市场不会等人。投资者们叫嚷着「谷歌为什么不更快推出产品？」。「开放的科学家」与「封闭的企业家」之间的矛盾，是哈萨比斯每天早上照镜子时都要面对的歌利亚悖论本身。

技术乐观主义与审慎之间的平衡 「技术是中性的，但技术的使用从来不是中性的」 2024年12月，斯德哥尔摩音乐厅，德米斯·哈萨比斯领取诺贝尔化学奖的那一天，他脸上的表情与其说是喜悦，不如说是庄重。他在获奖演说中谈到AlphaFold将带来的医学革命，令全场着迷。「破解智能，就能破解疾病、气候危机和能源难题。」

他所描绘的「根本性丰裕（Radical Abundance）」世界，触手可及般鲜活。那是他12岁时凝视棋盘就开始梦想的世界，，智能拯救人类。对哈萨比斯来说，AI既非善，也非恶。

它像火、像电，是一种中性的能量，能将文明推向下一个台阶。然而走下舞台后他面对的现实，远没有这么干净。他比谁都清楚：即便他造出的工具是中性的，握住它的人，从来不是中性的。

2023年，他在「AI灭绝风险声明（Statement on AI Risk）」上签名时，很多人感到困惑。批评接踵而至：「自己正在造的技术可能灭绝人类，那为什么不停手？」哈萨比斯回应说：「我们停下来，这项技术也不会消失。

恰恰因为如此，有责任感的我们才应该站在最前面，指引正确的方向。」哈萨比斯的技术乐观主义不是盲目信仰。那是建立在缜密计算和模拟之上的「有条件的乐观」。他把技术的本质看作「智能的延伸」。

用硅基智能弥补人类大脑的生物学局限，我们就能更快地解开宇宙的秘密。比如，DeepMind的AI攻克了核聚变发电中等离子体控制这一难题，这对他而言是一个有力的证据。他说：「如果我们只是恐惧AI，就等于亲手放弃了拯救癌症患者的机会。」在他看来，停止AI开发才是不道德的。

但与此同时，他记得那些刻骨铭心的历史。阿尔弗雷德·诺贝尔发明炸药时，相信它能终结战争。奥本海默制造原子弹时，期望它能带来和平。

哈萨比斯迫切地不想成为21世纪的奥本海默。所以他一边强调技术本身的中性，一边对技术渗透社会的方式（Deploy）保持极度审慎。他说「技术不存在于社会的真空中」，主张不只是技术人员，哲学家、社会学家、政策制定者也应该共同坐下来，为AI撰写使用说明书。他的乐观不是「技术会搞定一切」的怠惰，而更接近一种意志，，「如果我们足够智慧地使用它，技术能拯救我们」。

应对恶意行为者（Bad Actors） 2024年2月，慕尼黑安全会议（Munich Security Conference）的闭门会议。哈萨比斯正在向各国情报机构负责人介绍AI可能带来的最坏情景。他投影到屏幕上的不是什么终结者式的机器人军团，而是远比那更安静、更致命的威胁，，「生物恐怖主义」和「网络崩溃」。

哈萨比斯警告说，像AlphaFold这样的工具，在善良科学家手中是新药研发的钥匙，在恐怖分子手中则可能成为设计致命病毒的蓝图。他将此称为「非对称威胁（Asymmetric Threat）」，，少数恶意行为者借助AI，获得挟持全世界的能力。这正是哈萨比斯夜不能寐、反复思量的最具体、最紧迫的恐惧。

他为应对这类威胁提出了两条路径。第一条是「技术封堵（Technical Containment）」。他在模型发布前，通过红队（Red Team）进行数千次模拟攻击和滥用场景测试。

从训练阶段就安装强力护栏，确保模型不会教人制造有毒物质、不会编写网络攻击代码。2025年谷歌发布的安全AI框架（Secure AI Framework），正是哈萨比斯这一理念的具体落地。

他甚至说「不安全的AI就不是AI」，确立了安全性优先于性能的基调。第二条是「制度性监管（Institutional Oversight）」。哈萨比斯力主建立一个类似国际原子能机构（IAEA）的强有力的国际AI监管机构。

他坚信「任何企业、任何国家都无法独自控制这项技术」。2023年英国AI安全峰会上，他主导参与的「前沿AI安全承诺」，是迈向建立这种制度性机制的第一步。在安全问题上，他与竞争对手OpenAI和Anthropic之间也保持着热线，共享信息。

哈萨比斯最大的恐惧，是技术发展的速度跑赢防御构建的速度。他把这叫做「节奏（Pacing）问题」。跑得太快会出事故，走得太慢会错失技术的红利。他主张，在恶意行为者拿到AI之前，我们必须先造好能侦测和防御他们的「盾牌AI（Shield AI）」。2024年他在一期播客中坦言：「我们现在是在和时间赛跑。但这场赛跑的终点线不是技术的完成，而是人类的安全存续。」

归根结底，哈萨比斯描绘的未来，不是AI取代人类的世界，而是人类手持AI这面强大盾牌，保护自己免受疾病、贫困和恶意威胁侵害的世界。就像在棋盘上提前读出对手的招数并布下防线一样，他此时此刻仍在与看不见的恶意行为者进行这场博弈。

人类与AI的协作

人工智能专家 金京镇律师

AI法律政策专家 · 前国会议员 · 著作等身

如果这本书曾在您身旁短暂停留，请支持我们，让下一个故事也能问世。

（自愿赞助账户：韩国农协银行 302-1096-0948-81 户名：金京镇）