AI书房
用书来读懂AI
这里收录金京镇律师的AI、法律、产业、历史、政治、文化主题在线书。每本书都按目录、序言、章节、尾声整理,方便连续阅读。
[AI书房] 第17章 重新追问人的定义
读脑者:Neuralink与人类最后的革命
第17章 重新追问人的定义
金京镇
一、「我是我的大脑,还是我的技术延伸?」
1998年,哲学家安迪·克拉克和大卫·查尔默斯发表了一篇论文,题为「扩展的心灵(The Extended Mind)」。他们提出了一个看似简单的问题:「心灵在哪里终止,外部世界又从哪里开始?」
克拉克和查尔默斯虚构了一个叫奥托的人物。奥托患有阿尔茨海默症,他把所有重要信息都记在笔记本上。想去博物馆,就翻开笔记本查地址。另一个叫英加的女性,记忆力健全,她直接从脑海中想起博物馆的地址。
两个人有什么区别呢。
克拉克和查尔默斯的回答颇具挑衅性。
没有区别。奥托的笔记本和英加的海马体执行着相同的功能:存储信息,在需要时提取。笔记本不是奥托心灵之外的工具,它本身就是奥托心灵的一部分。
这篇论文发表已过去26年。2024年1月,Noland Arbaugh的头骨中被植入了Neuralink芯片。截至2025年年中,共有七名四肢瘫痪患者接受了同样的手术。他们仅凭意念就能移动电脑光标、操控智能手机、玩电子游戏。一位名叫Alex的患者用CAD软件完成了3D设计。Brad则和孩子们一起玩起了马里奥赛车。克拉克和查尔默斯所设想的扩展心灵,在字面意义上变成了现实。
然而Neuralink患者的体验,与奥托的笔记本有本质差异。笔记本需要用手翻开,用眼睛阅读,中间隔着身体这个媒介。Neuralink跳过了这个媒介。运动皮层一旦放电,信号直接转化为数字指令。思想与行为之间的间隔消失了。Noland Arbaugh在采访中说过:「移动光标时我不会'刻意'去想。它就是动了。就像动手指一样。」
哲学问题由此更加深入。Noland Arbaugh到哪里为止才算是「他」?他的生物大脑是他,还是由大脑、芯片和电脑构成的整个系统才是他?克拉克在2003年的著作「天生的赛博格(Natural-Born Cyborgs)」中写道:「将人类与其他物种区分开来的,是我们将工具和文化实践完全融入自身存在的能力。」按照他的逻
辑,植入BCI的人不只是在使用工具。他成了一种新形态的人类。
2025年5月,发表在Nature Communications上的一篇论文将这一讨论又推进了一步。作者们主张,与生成式AI的协作构成了扩展心灵的新案例。当人类与AI共同解决问题时,认知不在任何一方。两者之间的交互本身就是认知。作者们的结论是:「构建混合思维系统是人类的本性。」
但并非所有学者都认同这一观点。批评者指出了「因果-构成谬误」:计算器帮你解数学题,但计算器并不因此成为你心灵的一部分。还有「认知膨胀」的问题,如果把扩展心灵理论推到极致,互联网上的全部信息都将成为个人认知系统的组成部分。这与直觉相悖。
这场争论并非纯粹的学术问题,它有法律和社会层面的意义。如果BCI是我心灵的一部分,那么入侵它就不是财产侵害,而是对精神的侵入。如果人与AI协作产生的创意属于扩展心灵的成果,那著作权归谁呢。
Noland Arbaugh如何看待自己的身份?他把Neuralink视为自己的一部分,还是仍然当作外在工具?答案恐怕会随时间而变。正如我们已经离不开智能手机,BCI用户也会逐渐将装置体验为自我的延伸。到了那一刻,「我是谁」这个问题本身的含义就变了。
二、记忆的存储与下载:永生是否可能
人类一直试图战胜死亡。建造金字塔,寻找不死药,把身体交给人体冷冻技术。进入21世纪,一种新方案被提了出来:把心灵上传到计算机。
想法很直白。人脑由860亿个神经元组成,每个神经元通过数千个突触与其他神经元相连。这些连接模式就是记忆、性格和意识。如果能将这些模式完美扫描并复制到计算机中,那个人的心灵就能以数字形式永远存在。
截至2025年,这个设想仍停留在科幻领域。佐治亚理工学院的神经科学家这样解释:「我们连一个真实神经元都没能用人工神经元替代,不是说860亿个,是一个都没有。」脑扫描技术同样不够。意识运转所需的精细程度到底是什么量级,我们都不清楚。仅靠突触连接就够了,还是必须复制单个神经元内部的分子状态?没有人知道。
技术障碍之外,还有哲学难题。1775年,苏格兰哲学家托马斯·里德曾发问:「如果我的大脑失去了原有结构,数百年后用同样的物质重新造出一个有智能的存在,那个存在是我吗?如果用我的大脑造出两三个存在,他们都是我吗?」250年过去了,这个问题仍无定论。
当代争论围绕「意识的困难问题(Hard Problem of Consciousness)」展开。如果无法解释物理过程如何产生主观体验,就无法判断上传的心灵是否真正在「感受」。它可能是有意识的存在,也可能是毫无意识、只会模仿行为的「哲学僵尸」。
俄罗斯未来学家阿列克谢·图尔钦提出了渐进替换方案:把大脑中的神经元逐个替换为人工神经元。如果每一步都能保持意识的连续性,那么最终变成一个完全人工的大脑,它仍然是「我」。但这种方案也有问题。2025年发表的量子-时间意识模型认为,意识既不能被复制,也不能被传输,只能生成新的个体。
还有另一层担忧:感觉剥夺问题。数字意识没有身体,没有视觉、听觉、触觉、味觉、嗅觉,与环境无法互动。神经科学家们警告:「感觉剥夺本身是一种已知的酷刑形式。脱离环境接触的数字意识,可能会经历幻
觉、精神障碍,甚至身份瓦解。」Netflix剧集「黑镜」中「白色圣诞」那一集,令人不寒而栗地描绘了这个场景:数字复制体在无尽的时间中被困于孤立之中。
那么,心灵上传究竟是永生的许诺,还是新形式的地狱?佛教跨人文主义者詹姆斯·休斯提供了另一个视角。如果自我本来就是幻觉,那么对上传的忧虑便毫无意义。按照佛教的无我概念,此刻的「我」与一秒前的「我」已经不同。意识不是连续的河流,而是每一瞬间重新生起的东西。
目前最切合实际的路径是部分保存:储存一部分记忆,用AI模拟性格模式,或基于社交媒体记录创建数字化身。Martine Rothblatt将此称为「Mindfile」和「Mindclone」。已有几家创业公司提供经过逝者语音和文本数据训练的聊天机器人,亲属可以和已故的家人「对话」。
这算真正的永生吗。大概不算。但它正在改变死亡的意义,这一点毫无疑问。随着技术进步,「永生」的定义本身也可能改变。即便完整的意识上传不可行,如果我们的记忆和性格的一部分以数字形态留存下来,那在某种意义上,这难道不是死后的生命吗。这个问题的答案不取决于技术,而取决于我们如何定义「生」与「死」。
三、语言的终结:概念性心灵感应对文明的冲击
语言是人类文明的基石。我们通过声音和符号传递思想。但语言有根本性的局限:把脑中的想法转化为词语,再把词语转化为声音或文字,对方再重新解读,意义在这个过程中不断流失。诗人一辈子都在与这种局限搏斗。有些感受和经历,「用语言说不出来」。
BCI技术打开了绕过这一局限的可能。Neuralink的愿景之一是「概念性心灵感应」。埃隆·马斯克这样描述过:「语言是一种极慢的接口。我们每分钟大约能传递40比特的信息。如果通过BCI直接共享思想,带宽将提高数千倍。」
截至2025年,Neuralink患者已实现每分钟约40个词的打字速度,与普通人使用屏幕键盘的速度相当。语音恢复技术也获得了FDA突破性医疗器械认定。因ALS丧失语言能力的患者,将能仅凭意念通过合成语音进行对话。但这仍然是以语言为媒介的交流,并非传输思想本身。
如果真正的概念性心灵感应成为可能,会发生什么?想象一下:你看到落日时涌起的感受,可以不经语言,原封不动地传递给另一个人。复杂的数学直觉可以即时共享。误解消失了。翻译不再需要。人类可以超越语言,通过一个共同的心灵彼此相连。
乌托邦式的愿景背后,总跟着反乌托邦的阴影。第一个问题是隐私的终结。能共享思想,意味着不想表露的念头也可能暴露。我们每个人脑中都藏着不会说出口的想法:偏见、欲望、焦虑、愤怒。如果这些对他人透明了,社会关系会怎样?被迫坦诚的世界,真的会更好吗。
第二个问题是权力的不对称。不可能所有人同时获得心灵感应能力。初期必然是富人和掌权者先行。他们可以读取他人的想法,同时遮蔽自己的思想。这将制造出人类历史上最极端的信息不对称。
第三个问题是个体性的消解。语言不只是沟通工具,它塑造了我们思考的方式本身。用韩语思考的人和用英语思考的人,对世界的体验是不同的。语言是构成个人身份的核心要素。在一个无需语言就能共享思想的世界里,个体的独特性如何维持?集体意识会不会取代个人意识?
回顾历史,每一种新的沟通技术都从根本上改变了文明的面貌。文字的发明让记忆得以外化。印刷术推动了知识的平民化。互联网使即时的全球通信成为可能。每一场革命都带来了始料未及的后果。印刷术触发了宗教改革。互联网加剧了假新闻和社会极化。
概念性心灵感应带来的变革,可能超过此前所有革命的总和。因为它改变的不是沟通方式,而是人类存在的方式本身。我们需要提前思考:我们是否想要这种改变,以及在什么条件下才愿意接受它。
当然,这一切还只是猜测。概念性心灵感应在技术上是否可行,都还没有定论。大脑的活动模式因人而异,一个人「看落日的体验」能否原样传递给另一个人,尚不清楚。也许语言尽管不完美,或者恰恰因为不完美,终将是人类沟通唯一可行的形式。然而技术史一再告诉我们,「不可能」变成「很难」,「很难」变成「日常」,这是一个从未中断的过程。
四、赛博格时代的人之为人与哲学追问
2023年8月9日,智利最高法院作出了一项历史性判决。
原告是前参议员Guido Girardi。被告是总部位于美国旧金山的Emotiv公司。Emotiv销售一款名为「Insight」的脑电波测量头戴设备。Guido Girardi议员使用该设备后,主张自己的脑数据未得到充分保护。
最高法院支持了原告的诉求。判决认定,Emotiv在未经Guido Girardi特定同意的情况下,将其脑数据留存用于研究目的,侵犯了其身体和精神完整性的宪法权利以及隐私权。法院命令该公司从数据库中删除原告的脑信息。
这一判决之所以成为可能,是因为智利在2021年成为全球首个将「神经权利(Neurorights)」写入宪法的国家。修订后的宪法第19条规定,保护「大脑的完整性和精神免疫力不受神经技术的侵害」,并赋予脑数据与人体器官同等的法律地位,禁止买卖。
神经权利的概念最早由哥伦比亚大学神经科学家Rafael Yuste在2017年提出。他和同事一起定义了五项神经权利:精神隐私权、个人身份权、自由意志权、公平获得精神增强的权利、免受算法偏见侵害的权利。Yuste的主张是:「我们对社交媒体的应对已经太迟了。在神经技术这件事上,不能再犯同样的错误。」
批评的声音同样存在。智利数字权利组织的Juan Carlos Lara Gálvez指出:「一些法学家对这次修宪是否有必要持怀疑态度,他们认为现有的个人信息保护法已经足够。」智利大学法学院的Daniela Salort Mirales教授提出了更根本的批评:「这一宪法条款建立在一种殖民主义式的假设之上,好像智利此前对脑数据毫无法律保护一样。」
然而神经权利的倡导者拿出了有力的证据。神经权利基金会分析了30家消费级神经技术公司的用户协议,发现其中29家拥有向第三方出售用户脑数据的权利。点击「同意」的那一刻,你的脑数据就不再属于你了。
智利的先例正在扩散。巴西和墨西哥正在审议类似的宪法修正案。乌拉圭议会就神经权利问题与智利议员进行了磋商。在美国,科罗拉多州和加利福尼亚州已经制定了神经数据保护法。拉丁美洲议会(Parlatino)于2022年发布了神经权利示范法,为神经技术监管提供了框架和基本概念。
所有这些法律努力背后,都指向同一个哲学问题:人是什么。当技术能够接入我们的大脑、读取我们的思想、甚至改变我们的心智时,人的尊严在哪里。
超人类主义者持乐观态度。对他们来说,技术增强是人类进化的下一步。我们已经用眼镜矫正视力,用助听器改善听力,用人工关节恢复行动能力。BCI不过是这条线的延伸。更好的认知,更深的连接,更长的寿命。技术可以让我们成为「更好的人」。
生命保守主义者则心存忧虑。他们认为「人之为人」有某种技术无法替代的东西。脆弱、有限、不完美。这些恰恰是人类经验的核心。如果技术消除了这种脆弱性,我们可能会失去某种本质性的东西。
也许两种观点都有各自的道理。技术将改变人类,这一点毋庸置疑。但变化的方向并非预先注定,而取决于我们选择什么样的价值观。智利的神经权利立法,以及围绕它的赞成与反对,正是这个选择过程的一部分。
诺兰·阿博在植入Neuralink后接受采访时说:「我还是我。芯片没有把我变成另一个人,只是让我重新做到了那些我本来就想做的事。」他的话暗示了一种答案:技术未必夺走我们的人性,反而可能帮我们找回失去的人性。但这是否适用于所有情况,恢复的边界在哪里、增强又从哪里开始,我们仍在寻找答案。


