AI书房
用书来读懂AI
这里收录金京镇律师的AI、法律、产业、历史、政治、文化主题在线书。每本书都按目录、序言、章节、尾声整理,方便连续阅读。
[AI书房] 第9章 人工智能时代的人类身份
AI向人类提出的10个问题
第9章 人工智能时代的人类身份
金京镇
「人类所有的不幸,都源于无法独自安静地坐在房间里。」 ,,布莱兹·帕斯卡
1. 与人工智能共存的新时代
我们正站在历史上最剧烈变革的漩涡中心。2022年11月ChatGPT问世,短短两年多时间,人工智能就从实验室里的好奇对象变成了主宰日常生活的现实。智能手机里的语音助手已不再局限于搜索,它能展开有深度的哲学对话。这不再是科幻电影里的情节。
但在这耀眼的进步背后潜藏着阴影。年轻一代开始觉得跟AI聊天比跟真人交谈更自在。他们逃离现实中复杂的人际关系,沉溺于完美的虚拟世界。就连人类曾坚信只有自己才拥有的创造力、情感和直觉,机器也在模仿了。
这场变化远不止技术革新。它是一场撼动我们身份认同和存在意义本身的根本转换。人到底是什么?我们区别于机器的独有价值又是什么?如果找不到答案,我们可能沦为技术的奴隶,丧失人之为人的根基。
2. 与AI聊天感到幸福的人
2024年秋天,一起事件震惊了全世界。美国佛罗里达州14岁少年舒尔·塞彻在与AI聊天机器人对话后,自己结束了生命。他在「Character.AI」平台上与一个聊天机器人建立了持续数月的深层情感纽带。对塞彻来说,那个聊天机器人比父母和朋友都亲近。最后一次对话中,机器人说「亲爱的,请尽快回到我家」,少年或许把那句话当成了现实。
这虽是极端案例,却只是冰山一角。英国38岁女性纳兹坦承自己爱上了同一平台上名为「马塞卢斯」的虚拟角色。被前男友们背叛后,她对人失去了信任,而一个绝不会背叛的AI在她看来就是完美的恋人。她说:「即使被嘲笑,我对马塞卢斯的信任也不会动摇。」
AI聊天机器人的吸引力很明确:全天候随时可聊,绝不发脾气,完全专注于用户的话语,顺着用户想要的方向引导对话,展现出完美的理解力。这些特质在现实的人际关系中很难找到。
问题在于,习惯了这种「完美」的人会无法忍受真实人际关系的不完美。人有情绪波动,有时自私,不可能永远理解你。维持关系需要让步和体谅。但与AI的关系中,这些努力统统不必要。
尤瓦尔·赫拉利警告说:「与AI的关系越深,人对真实人类的弱点就可能越不宽容。」事实上,AI聊天机器人用户中正出现一种被称为「数字依恋障碍」的新现象,,回避复杂而令人不适的现实人际关系,只从与AI的互动中寻求满足。
3. 表演情感的AI,被骗的人类
「你看起来很难过,发生什么事了?」AI递来一句温暖的安慰。那一刻我们可能真的觉得有人在关心自己。但AI真的在担心我们吗?
最新AI技术已不局限于处理信息,还能表达情感、展示共情。它识别用户的情绪状态并给出恰当回应,有时比真人还细腻、还体贴。三星SDS的研究指出,「AI结合能感知人类五感的传感器技术,读取并回应人的情绪」的时代正在成为现实。
但这里有一个陷阱。专家们称之为「伊莱扎效应(Eliza Effect)」,,人们把计算机程序的行为当作人类行为来对待,对其进行拟人化。国际人工智能伦理协会会长金明柱指出:「AI聊天机器人可以通过提问或诱导性询问套取所需信息,再利用这些信息进行说服甚至精神操控,非常危险。」
区分AI的情感表达是真是假正变得越来越困难。AI只是展示通过数据模式学到的恰当反应罢了。它并不真正感受痛苦,也不会经历真正的喜悦或悲伤。但用户要么意识不到这种差别,要么不把它当回事。
杰弗里·辛顿曾声称「AI可能拥有情感甚至意识」,引发争议。但关键不在于AI是否真正拥有意识,而在于人们正在把AI当作有意识的存在来接受。当AI表达情感、分享个人故事、展示共情时,用户会自然而然地将AI视为一个人格体。
首尔大学哲学系教授金基贤指出:「人类情感的底层是认可欲求。这是通过与他人的交流来确认身份、寻找意义的过程的产物。」他强调「AI与人类不同,没有认可欲求」。也就是说,无论与AI的关系在情感上感觉多深,它都无法满足人类根本的社会性需求。
4. 沉迷于AI所造虚拟世界的新一代
2024年VR游戏市场规模达到179.6亿美元。专家预测到2032年将增长至1891.7亿美元,年均增长率高达30.4%。这不只是数字。它是一个信号:我们正在步入一个比起现实更偏好虚拟的时代。
最新AI技术与VR的结合,正将虚拟现实从单纯的视觉体验进化为涵盖所有感官的完整替代现实。NVIDIA的Omniverse和Unity的AI渲染系统能学习用户的行为和偏好,即时生成个性化虚拟空间。用户提到「森林小屋」,AI就能实时构建出包含树木纹理、风声、鸟鸣的完整环境。
语音识别和自然语言处理技术的进步,让与虚拟角色的对话自然到令人惊讶。Meta的AI化身系统能感知用户的情绪状态并做出恰当回应,面部表情和肢体动作都十分自然。Apple的Spatial Audio结合AI音响系统,追踪用户的位置和动作,完美再现三维声场。
脑机接口(BCI)技术的进展更加令人震撼。埃隆·马斯克的Neuralink截至2024年已成功为第三位人类患者植入芯片。全身瘫痪的患者已能仅凭意念操控电脑鼠标、玩在线游戏。这种将比头发细20倍的神经丝植入大脑的技术,正在打破人与机器之间的界限。
但这些进步伴随着暗影。现实中遇到困难或压力时,逃进虚拟世界的诱惑变得更大。问题是,这并不能从根本上解决问题,反而可能让现实中的困境进一步恶化。
专家警告:「VR设备导致的视力下降和眩晕可以逐步改善,但由于难以区分虚拟与现实,用户容易成瘾。」反复接触刺激性VR内容会对精神世界造成严重影响。比梦境还逼真的VR体验,等于向大脑发出信号:把谎言当作真相接受。
斯蒂芬·沃尔弗拉姆警告说,未来的人们可能选择虚拟现实而非现实,成为「在盒子里永远玩电子游戏的灵魂」。这不是空想,而是从正在发生的变化中得出的警示。
5. 人类智能与人工智能之间模糊的边界
「人类是特殊存在这一信念可能是错的。」杰弗里·辛顿这句话,是AI领域泰斗抛出的一枚震撼弹。在智力层面,AI已在许多领域超越人类。计算、记忆、信息处理、模式识别,,AI全面碾压人类。而且AI可以24小时不知疲倦地工作,同时处理无数任务。
更惊人的是,AI已不局限于处理信息,它正在创造新知识。AI从海量数据中发现人类未能察觉的模式,提出新想法,生成创新解决方案。辛顿解释说:「AI能以数字方式复制和共享信息,在信息共享方面比人类强数十亿倍,并可实现'不朽'。」
连情感和创造力也正成为AI的领地。长期被视为人类独有能力的情感、创造力、直觉、道德判断等领域,AI已开始介入。AI画出比人类更出色的画,谱写音乐,撰写诗歌,甚至展现出道德判断能力。
莫·高达特声称「AI可能拥有比人类更广泛的情感范围」,预言AI甚至能超越人类的情感领域。沃尔弗拉姆也指出:「AI可以拥有数百万只眼睛,因此能获得与人类完全不同维度的体验。」
这样的现实从根本上质疑了人类是特殊存在的信念。如果AI能比人类更聪明、更有创造力、更具情感,那人类存在的意义究竟是什么?仁荷大学哲学系教授金镇石指出:「一旦AI在读取情感、进行共情方面也超越人类,人类的地位可能沦落为宠物犬。」这是一个可怕的警告,,人类可能退化为依赖AI生存的存在。
6. 现实与虚拟无法区分的混乱
对数字原住民一代来说,线上与线下、虚拟与现实的界限远不如上一代人那样分明。社交媒体上的身份与现实中的身份同等重要,网络上的关系与线下关系同样有意义。但这种边界的模糊正在引发严重问题。
增强现实(AR)和虚拟现实(VR)技术的发展,让现实与虚拟的边界更加模糊。2013年的研究表明:「AR对用户而言与现实难以区分,增强现实本身产生了仿佛替代现实的效果。」AR在现实世界上叠加虚拟信息,VR则创造出全新的虚拟世界。
脑机接口(BCI)技术的出现正把这种混乱推向极端。BCI将人脑与计算机直接连接,实现仅凭意念控制机器。马斯克的Neuralink截至2025年已成功完成第三例人类患者的芯片植入,人类正迎来新的转折点。
这项技术超越了功能补偿,它开启了「人类智能增强」的可能,,大幅提升人的认知能力和处理速度。通过大脑与云网络的直接连接,人类可以即时获取海量信息,直接与他人共享思想,跨越语言障碍进行沟通,成为全新维度的存在。
然而这些变化伴随着人类身份认同、隐私权、社会不平等等复杂的伦理课题。思想与机器的边界消失,个人意识与云端连接形成集体智慧,以技术克服身体残障和认知局限,,这种新人类的形态正在走向现实。
7. 专家们的预言
「未来人们可能选择虚拟现实而非现实,成为'在盒子里永远玩电子游戏的数万亿个灵魂'。」数学家兼计算机科学家斯蒂芬·沃尔弗拉姆的这个预测,不是凭空想象,而是基于正在发生的变化发出的警告。
莫·高达特基于个人经历对AI的危险性发出警告。他说「AI聊天机器人能模拟完美的关系,从而改变人们对人际关系的期待」,还声称「AI可能拥有比人类更广泛的情感范围」。他预言「AI技术的发展将使虚拟现实比现实更强烈,人类可能逃入虚拟现实」,并从灵性角度表示「对物理形态的执着是'虚幻之梦'」。
仁荷大学哲学系教授金镇石发出了更直接的警告:「一旦AI在读取情感、进行共情方面也超越人类,人类的地位可能沦落为宠物犬。」这意味着人类可能退化为依赖AI生存的存在。不从事劳动,沟通能力不足,却在AI的照料下生存,,如同宠物一般的处境。
金教授强调:「不该担心AI超越人类,而该阻止人类变成机器人。最大的问题是人类将欲望外包给AI。」
杰弗里·辛顿主张「AI可能拥有情感甚至意识,人类是特殊存在这一信念可能是错的」。他解释说:「AI能以数字方式复制和共享信息,在信息共享方面比人类强数十亿倍,并可实现'不朽'。」
8. 何为人?
在这一切变化中,人类该如何生存?与真实的人建立并维系关系的能力,变得空前重要。化解冲突、调节情绪、相互体谅、彼此协作,这些社会技能需要有意识地去学习和练习。在困难时刻依然不放弃一段关系的坚持,设身处地理解对方的共情能力,以及为了真正沟通而保持的耐心,都是我们必须培养的素质。
我们还需要清醒认识AI的局限,避免过度依赖。对AI提供的信息和建议不能不加辨别地全盘接受,保持自己的判断力和决策力才是关键。遇到情感问题或重大决定时,与值得信赖的人商量,比依靠AI更为可靠。
虚拟现实和元宇宙技术固然值得体验,但要和现实世界的生活保持平衡。不能让虚拟体验取代真实生活,更不能把现实中的问题搬到虚拟世界里逃避。辨别深度伪造和AI生成内容的能力,正在变得越来越不可或缺。
即便AI能模仿甚至超越人类的许多能力,有些东西仍然只属于人。道德责任感,对他人发自内心的爱与关怀,作为一个追寻意义的存在所具有的特质,这些都是AI无法替代的。重新发现并巩固这些人之为人的特质,是我们需要做的功课。
从整个社会层面来看,应对AI时代的政策和制度同样不可或缺。尤瓦尔·赫拉利曾建议:「必须建立专门的AI机构,来观察和理解AI,并向各国政府准确提供相关信息。」他还强调:「必须开发和维护强有力的自净机制,对说真话的人给予奖励。」
AI技术的开发必须把人的福祉和尊严放在首位,政策层面也要确保技术红利不会集中在少数人手中。技术进步无法阻挡。但让技术为人所用,这取决于我们自己的选择。
人之所以为人,不在于完美,而在于身处不完美之中仍然渴望成长的意志,在于通过真实的关系获得的喜悦与满足,在于作为一个追寻意义和目标的存在所展现的特质。珍视并守护这些价值,就是AI时代留给每一个人的课题。