2016年，与NHS皇家自由医院的数据协议，未经患者同意访问160万份医疗数据，引发隐私担忧。2016年，伦敦寒冷的空气中，德米斯·哈萨比斯和他的老友、DeepMind联合创始人穆斯塔法·苏莱曼，正面对一场始料未及的严峻考验。围棋棋盘上人工智能夺冠的欢呼声尚未散去，现实世界中一个复杂而敏感的问题就缠住了他们的脚。这不是什么技术难题。

这是一个关于「信任」与「伦理」的问题，是人类社会中最根本的价值，无法用代码来解决。故事要从DeepMind雄心勃勃的医疗项目「DeepMind Health」的启动说起。哈萨比斯和苏莱曼认为，人工智能最先应当变革的领域就是医疗。

他们的逻辑很清晰：如果DeepMind的技术能预测蛋白质结构、能破解复杂的博弈游戏，那它也该被用来拯救患者的生命。第一个合作伙伴，是位于伦敦北部的皇家自由医院（Royal Free Hospital）。

然而这个目标从一开始就磕磕绊绊。英国著名科学杂志《新科学家》（New Scientist）发表了一篇调查报道，对DeepMind与皇家自由医院之间的数据共享协议提出质疑。报道内容令人震惊。

DeepMind为开发应用程序，获得了访问皇家自由医院多达160万份患者医疗记录的权限。其中不仅包括当时在院患者的数据，还涵盖了过去五年的历史记录。问题更大的是这些数据的覆盖范围。

患者的姓名、出生日期、住址自不必说，还有血液检查结果、病理记录、放射影像等敏感医疗信息，几乎无所不包。当人们得知其中甚至可能包含HIV感染状况、药物过量记录、堕胎记录等极度私密的信息时，英国社会一片哗然。患者们

完全不知道自己最隐私的信息已经落入了科技巨头谷歌旗下子公司的手中。「我们从未同意过」，抗议声此起彼伏。对哈萨比斯来说，这是一次锥心的失误。

他一直强调「人工智能应当为人类服务」，却恰恰忽视了构成人类群体的每一个个体的权利，这样的批评他无从回避。DeepMind方面也觉得委屈。他们说，这些数据既不是用于科研，也不是为了商业目的，纯粹是为了开发和测试一款辅助患者诊疗的应用。

他们还解释说，数据经过加密管理，不会与谷歌的其他数据合并。但公众的目光依然冰冷。这是信息不对称所催生的恐惧。

人们担心DeepMind的算法会拿自己的医疗记录去学习，日后被用来提高保险费或在求职时造成不利，这种恐惧虽然模糊却又无比具体。英国信息专员办公室（ICO）启动了调查，最终在2017年7月裁定，皇家自由医院因未充分告知患者数据共享事宜，违反了英国数据保护法。这一事件对哈萨比斯而言，意义远不止法律层面。

它清楚地表明，硅谷的那套做法，也就是「快速行动，打破常规（Move fast and break things）」的信条，在涉及人的生命与尊严的医疗领域根本行不通。光有技术上的善意远远不够。没有程序正当性和透明度作保障的创新，必然遭遇社会的抵制。DeepMind交了一笔昂贵的学费才明白这个道理。

哈萨比斯陷入了深深的苦恼。作为技术人员，他追求效率；作为管理者，他必须承担社会责任。160万份数据不是冰冷的数字。

每一份背后都是一个经历过病痛、接受过治疗、有时走向死亡的活生生的人。此后DeepMind重新整顿了伦理委员会，从根本上重新审视数据访问方式。这对后来推进AlphaFold等大型科学项目时他们处理数据的审慎态度，产生了决定性的影响。

DeepMind Health的Streams应用与急性肾损伤检测。处于争议中心的「Streams」应用，讽刺的是，它几乎没有用到什么人工智能技术，是一款非常实用、直观的软件。但这款应用的诞生背景和功能，恰恰反映了当时英国医疗体系（NHS）面临的现实，以及DeepMind追求的「解决现实问题」这一目标的交汇点。故事要从皇家自由医院肾内科专家们所面对的一个令人沮丧的现实说起。急性肾损伤（AKI, Acute Kidney Injury）是住院患者中常见的并发症，指肾功能突然下降的状态。AKI如果早期发现，仅靠补液或调整用药就能轻松治愈；但一旦发现晚了，可能导致永久性肾损伤甚至死亡。

仅在英国，每年就有超过4万名患者因AKI而死于本可避免的死亡。问题出在「信息传递的速度」上。2016年，NHS的许多医院仍然依赖纸质病历、传呼机和传真机。

患者的血液检查结果出来后，化验室虽然发现了异常征兆，但这些信息传到主治医生手中往往要几个小时，长的甚至要一天。医生们不得不逐一翻阅大量患者的病历，而在这期间，患者的肾脏在无声无息中一步步受损。穆斯塔法·苏莱曼想用技术来解决这种低效。

Streams应用的原理很简单：与医院系统对接，当患者的血液检查结果中出现肌酐水平急剧升高等AKI征兆时，立即向主治医护人员的智能手机推送通知。就像实时接收股市暴涨暴跌的信息一样，医生们能够即时掌握患者的危急状况。

Streams将患者的既往病史、当前用药信息、生命体征等以清晰易读的界面整合呈现。医生们不再需要翻阅成堆的纸质病历，通过智能手机屏幕就能一目了然地了解患者状态并下达医嘱。DeepMind团队为了开发这款应用，像影子一样跟着医生和护士，彻底分析了他们的动线和工作方式。这是用户体验（UX）设计与医疗现场的紧迫性相遇的时刻。

从技术角度看，Streams并不是深度学习或大语言模型之类的前沿AI。它更接近于一个将现有医疗算法针对移动端进行优化的数据可视化工具。哈萨比斯和苏莱曼在这里做了一个重要决定。

「比起炫耀华丽的AI技术，做一个当下就能在现场救人的工具更重要」，这是一种实用主义的态度。他们判断，在应用AI之前，得先把数据流转的管道打通。Streams的成效立竿见影。

在皇家自由医院的试运行中，确认AKI患者所需的时间从数小时缩短到了几秒钟。医护人员每天平均节省了两小时的行政工作时间，可以把更多精力投入到患者护理中。急诊响应速度的提升也展现了改善患者存活率的可能性。一线的护士和医生们称赞这款应用是「医疗系统的革命」。

然而，这耀眼的成绩被前文提到的数据隐私争议所笼罩。DeepMind辩称，为了验证应用是否正常运行，不仅需要AKI患者的数据，还需要所有患者的数据；但公众和监管机构认为这是「为抓虱子烧了茅草屋」，侵犯了个人隐私。最终，Streams项目留下了一个痛彻心扉的教训：技术再好、初衷再善，一旦超出社会共识和法律边界，就不可持续。

2019年，DeepMind Health团队并入Google Health，Streams应用的运营主体转交给了谷歌。这又引发了一轮争议。因为当初「DeepMind的医疗数据将永远与谷歌的广告业务隔离」的承诺，看上去已经破裂。

Streams证明了信息技术在医疗现场能发挥多么巨大的力量，同时也成为大型科技企业进入公共医疗领域时所面临的不信任与冲突的标志性事件。对哈萨比斯来说，Streams既是成功也是伤痕，是为即将到来的AI时代打下的一剂预防针，提醒他那些必须解决的课题。医疗AI的成果与局限。眼科疾病诊断AI：Nature Medicine论文与Moorfields眼科医院合作。2016年夏天，德米斯·哈萨比斯敲开了位于伦敦老街（Old Street）的世界著名眼科专科医院Moorfields眼科医院的大门。

皇家自由医院的数据风波让他经历了一番残酷的洗礼，但他没有停下脚步。这一次不同了。他更加谨慎，更加精细，也更加透明。

他的合作伙伴是Moorfields的年轻眼科医生皮尔斯·基恩（Pearse Keane）。基恩医生当时正与一个令人绝望的局面抗争。随着社会步入老龄化，老年性黄斑变性（AMD）和糖尿病性视网膜病变等眼科疾病的患者数量暴增。

用于诊断的光学相干断层扫描（OCT, Optical Coherence Tomography）设备医院里有，但能判读源源不断产出的数千张三维扫描图像的专科医生却严重不足。患者需要等上数周甚至数月才能得到诊断，其间失明的案例屡见不鲜。基恩医生对哈萨比斯说：

「我们正被数据的洪流淹没。你的AI能救我们吗？」哈萨比斯把这视为实现DeepMind使命「破解智能，造福世界」的绝佳机会。

但这一次，他在数据处理上做足了功课。DeepMind从Moorfields医院获得了约1.5万名患者的14,884份经过匿名化处理的OCT扫描数据。吸取了皇家自由医院事件的教训，数据的使用目的和范围被明确界定，并经过了严格的去标识化处理。

DeepMind研究团队基于这些数据设计了一个两阶段的人工智能模型。第一个神经网络负责分析OCT图像，对眼部组织和病变进行精细的语义分割（Segmentation），就像绘制地图一样，以像素级精度区分视网膜的各层结构和异常区域。

第二个神经网络根据这张「地图」对疾病类型进行分类，并判断紧急程度。2018年8月，DeepMind与Moorfields研究团队的联合研究成果发表在世界顶级医学期刊《自然·医学》（Nature Medicine）上。AI模型在诊断50多种眼科疾病时，表现出与Moorfields医院顶尖专家相当甚至更优的水准。

准确率超过94%，误诊率为5.5%，低于8位人类专家6.7%的平均误诊率。在筛选危重患者、进行分诊（Triage，即按轻重缓急排序）方面，表现尤为出色。

这项研究受到学界赞誉的真正原因，并不仅仅在于高准确率。哈萨比斯和研究团队努力攻克的是医疗AI的老大难问题：「黑箱（Black Box）」。传统的深度学习模型只抛出结果，却无法解释「为什么」做出那样的判断，因此一直遭到医生们的质疑。

但DeepMind的模型不一样。AI在给出诊断结果的同时，会在OCT扫描图像上用不同颜色标注出病变区域。医生可以亲眼看到AI是看了哪个部位才做出的判断，从而验证并信任AI的结论。

这是「可解释AI（XAI, Explainable AI）」在医疗现场应用的典范。DeepMind的系统不是要取代医生，而是给医生递上一台强大的「数字显微镜」。医生可以在AI的初步意见基础上，更快、更准确地做出最终诊断。这个项目成为技术企业与医疗机构如何合作的教科书式范例。

哈萨比斯借此向全世界证明，DeepMind不只是一家擅长下围棋的公司，而是有能力解决真正的科学和医学难题。Moorfields项目是DeepMind重建失去的信任、重新点燃AI能为人类健康做出贡献的希望的信号弹。围绕医疗数据伦理使用的教训。Moorfields眼科医院的成功合作与皇家自由医院的惨痛教训，给德米斯·哈萨比斯和DeepMind，乃至全世界的AI研究者，留下了关于医疗数据伦理的深刻启示。

那就是「数据不是资源，而是信任的凭证」。第一个教训是「透明」与「知情同意」的价值。皇家自由医院事件中，DeepMind声称在法律上已获得NHS信息治理负责人（Caldicott Guardian）的批准，但缺少每位患者明确同意的「一揽子数据访问」，未能获得社会认可。

这一事件与2018年欧盟《通用数据保护条例》（GDPR）的实施相互叠加，彻底改变了人们对数据主权的认知。此后，DeepMind在所有医疗项目中都组建了患者参与小组，花大力气用普通人能懂的语言解释数据的用途。技术

再好，过程不透明，社会就会拒绝这项技术。他们是刻骨铭心地体会到了这一点。第二个教训是「目的的明确性」。开发Streams应用时，DeepMind为了急性肾损伤检测这一具体目的，却调取了范围广泛的全部医疗记录。

这被批评违反了「数据最小化原则（Data Minimization Principle）」，即只应使用达成目的所必需的最少量数据。相比之下，Moorfields项目将范围限定在眼部扫描图像及直接相关的诊断数据，并经过了严格的匿名化处理。这说明，为AI训练而收集数据不该是「越多越好」，而应当是「精准定向」。

第三个教训是「公共利益」与「私营企业利益」之间的张力。NHS是用英国国民的税款运营的公共医疗体系，其中的数据属于国民的公共资产。

谷歌这样一家全球最大的营利性企业的子公司，免费使用这些数据来开发算法，日后再把技术卖回给NHS或卖到其他国家去获利，这合理吗？这个问题至今没有定论。哈萨比斯不得不考虑将DeepMind Health的技术开源，或者建立一种将收益回馈公众的模式。这意味着AI企业不能只做技术供应商，而必须成为社会契约的当事方。

末尾一个教训是「以人为本的技术落地」。无论是Streams还是眼科诊断AI，最终拍板的都是医生。AI不是宣判的法官，而应当是一个搜集证据的得力侦查员。

Moorfields项目所展现的「可解释性」，是机器不将人排斥在外而与人协作的必要条件。DeepMind证明了，技术上的准确率（Accuracy）固然重要，临床实用性（Utility）和可解释性（Explainability）同样不可或缺。对哈萨比斯来说，医疗AI与棋盘上的博弈完全是两个维度的游戏。

棋盘是一个由19条线和明确规则构成的封闭系统（Closed System），只有输赢之分。但医院是一个充斥着不完整信息、患者痛苦、隐私顾虑和法律监管的开放系统（Open System）。DeepMind在这个开放系统中经历了大量的试错，逐渐认识到「破解智能」并不仅仅意味着提升算法的性能。

他还学到，这份责任不止于创造智能本身，还包括帮助智能安全地融入社会。这些教训后来成为DeepMind的伦理指南针，无论是进军生物学难题「蛋白质结构预测」（AlphaFold），还是讨论更强大的通用人工智能（AGI），都以此为基准。「最强大的技术，要求最高标准的责任。」

这是哈萨比斯在皇家自由医院的病房和Moorfields眼科诊所里收获的发现，其价值不亚于一座诺贝尔奖。NHS Royal Free London 医院

人工智能专家 金京镇 律师

AI法律政策专家 · 前国会议员 · 著有多部作品

如果这本书曾在您身边停留片刻，请支持我们，让下一个故事得以问世。

（自愿赞助账户：农协 302-1096-0948-81 户名：金京镇）