「谎言已经绕地球跑了半圈，真相还在穿鞋。」 ，，马克·吐温

1. 什么是深度伪造

比利时艺术家克里斯·乌梅制作的汤姆·克鲁斯视频，第一次看到的人反应很有意思。超过1100万人看了那段视频，看得津津有味，不少人真以为是汤姆·克鲁斯本人拍的。但那是一个完美的赝品。深度学习和伪造，两个词碰撞在一起，诞生了「深度伪造」这个概念，而这段视频正是它的成熟之作。

克里斯·乌梅谈到自己的作品时说：「我想让大家开心，也想提高警觉，让人们了解这项技术能做到什么。」但事与愿违，作品的逼真程度反而让很多人感到恐惧。如果画面里不是汤姆·克鲁斯而是某位政治人物呢？如果目的不是娱乐而是恶意攻击呢？

深度伪造技术的进化速度快得惊人。就在几年前，好莱坞电影制作团队要花数亿韩元、耗时数月才能完成的特效，现在用一个手机App几分钟就能做出来。所需要的，只是几张照片和几秒钟的语音。

起初所有人都觉得好玩。把自己的脸换成明星的脸，让历史人物说现代的话，这类内容在社交媒体上火得一塌糊涂。但随着时间推移，情况变了。有趣的玩具开始变成可怕的武器。如今深度伪造已经精细到连专家都难以分辨真假的程度。

在我们生活的世界里，「眼见为实」曾是铁律。但深度伪造正在从根基上动摇这个古老的信念。一个即便亲眼所见、亲耳所闻也无法确信的时代到来了。在视频、语音甚至照片都需要怀疑的世界里，我们还能相信什么？

2. 假视频改变总统

2023年5月，土耳其总统选举进入最后阶段时，一段令人震惊的视频被公开。画面中，反对党候选人凯末尔·克勒奇达尔奥卢与库尔德武装组织PKK的领导人同框出现。埃尔多安总统阵营公布的这段视频瞬间震动全国，让人觉得反对党候选人是一个背叛国家的危险人物。

但那段视频是深度伪造的产物，一个精心策划的赝品。它刺激了土耳其民众的民族主义情绪，植入了「把票投给那个人，国家就危险了」的恐惧。伪造视频借社交媒体如闪电般扩散，还没来得及核实真相，选举日就到了。最终埃尔多安成功连任。专家分析认为，这一个假视频在改变选举结果中起到了决定性作用。

更狡猾的案例发生在斯洛伐克。2023年9月28日，距离大选投票仅剩两天，时机拿捏得恰到好处，反对党领袖米哈尔·希梅奇卡的伪造语音浮出水面。在伪造的录音里，他似乎在说「必须花钱买罗姆族的选票才能赢得选举」。

最阴险的正是这个时间点。根据斯洛伐克选举法，投票前48小时进入「沉默期」，所有竞选活动一律禁止。反对党领袖连反驳和澄清的机会都没有。选民在选举前最后48小时里，只能暴露在「他是腐败政客」这条虚假信息中，无从核实真伪。最终亲俄执政党赢得了选举。一个伪造的音频文件，改变了一个国家的政治命运。

2024年美国总统大选堪称「深度伪造选举之年」。围绕特朗普和哈里斯的大量假视频、假语音占领了社交媒体。一名俄罗斯人制作的关于民主党副总统候选人蒂姆·沃尔兹的虚假视频，一天之内在X上获得了500万次浏览，冲击力惊人。专家警告，深度伪造已成为操纵选举的新式武器。尤其是选举前夕集中投放假视频，对手连澄清的时间都没有，杀伤力极大。

韩国也不例外。从2024年起，选举日前90天到投票日期间，禁止利用深度伪造进行竞选活动的法案已经施行，但技术发展速度太快，仅靠法律和制度难以堵住所有漏洞。深度伪造在政治上的恶用，已经超出了某个候选人输赢的层面。它让国民无法判断什么是真相，这一点从根本上威胁着民主制度本身。当「一切都可能是假的」这种不信任蔓延开来，连真正的事实也会被怀疑。那就是「真相终结」的时代。

3. 没有子弹的战争：深度伪造

2022年3月16日，乌克兰新闻频道「乌克兰24」遭到黑客入侵。紧接着，一段令人震惊的视频被播出：泽连斯基总统出现在画面上，要求「向俄罗斯投降」。「乌克兰军队放下武器，回到家人身边吧。在这场战争中送死不值得。」这些话从他嘴里说了出来。

好在这段视频质量粗糙。泽连斯基的头部相对身体比例过大，声音也比平时低沉，不少人产生了怀疑。泽连斯基总统随即发布了反驳视频，态度坚决：「我只建议俄军放下武器、回家。在胜利到来之前，我们不会放下任何武器。」

但这起事件暴露出的可能性令人不寒而栗。假如那段视频更加精细呢？足以对乌克兰军队的士气造成致命打击。此后俄罗斯持续发动深度伪造攻击：散布泽连斯基自杀的虚假报道、炮制亚速营内讧的假新闻，各种虚假信息源源不断地涌出。

反过来，普京总统宣布和平的伪造视频也被多次制作并传播。这些视频的目的是在俄罗斯国民中制造混乱，引发对战争的质疑。专家们把乌克兰战争称为「深度伪造战争的开端」，预测在未来的战争中，深度伪造将扮演和实弹武器同样重要的角色。

以色列和伊朗之间的军事冲突中也出现了类似的情况。据BBC核查团队确认，仅排名前三的假视频就在多个平台上累计获得超过1亿次浏览。其中一段视频声称以色列的F-35隐身战斗机被击落，但仔细观察就会发现周围人物的比例与车辆差不多大，沙地上也完全没有战机坠毁的痕迹，明显是AI伪造的。然而这段视频获得了2110万次浏览，被很多人当成了真实的战斗画面。

亲以色列倾向的账号同样在散布虚假信息。他们制作了伊朗首都德黑兰市民高喊「我们爱以色列」的假游行视频，伪装成伊朗国内正在发生反政府抗议的样子。

俄罗斯每年在海外影响力行动上投入15亿美元（折合约2.1万亿韩元），其中相当大一部分用于利用深度伪造进行信息操控。战争不再只是枪炮和炸弹的较量。瓦解敌国士气、操纵国际舆论、挑起内部分裂，深度伪造已经成为一种新型武器。没有子弹的战争，已经打响。

4. 当你的家人打电话来要钱

「妈，是我。出了急事，需要钱。」加拿大一位母亲接到的电话，听起来分明是儿子的声音。儿子出了事故，急需21000加元，语气焦急而恳切。母亲毫不犹豫地汇了款。但后来和真正的儿子通话后才知道，一切都是假的。她被深度伪造技术合成的儿子声音骗了。

更令人震惊的案例发生在香港。2024年2月，一家跨国公司的员工被深度伪造技术制作的假视频会议欺骗，损失约340亿韩元。犯罪分子用深度伪造完美复刻了公司高管的形象，伪装成真实会议，指示大额资金转账。受害者确信屏幕上看到的、对话过的每一个人都是自己认识的同事。因为声音、面孔、说话方式，全都无懈可击。

深度伪造被滥用得最令人痛心的领域是性犯罪。根据韩国广播通信审议委员会的数据，针对深度伪造色情虚假影像的整改要求从2020年的473件激增至2023年的5996件，增幅超过12倍。过去多以明星或公众人物为目标制作非法合成物，但近来以普通人为对象的深度伪造性犯罪大幅增加，受害者往往是同学或同事等身边的人。

更令人震惊的是，越来越多的施害者是普通的未成年人。连小学生都出现了把老师的脸合成到色情照片上、在同学之间传播的案例。孩子们把这当成游戏，但给受害者留下的是无法弥补的创伤。

一位受害者这样讲述自己的经历：「没办法出门。好像一直待在家里。跟人说话这件事本身就让我受不了。」很多受害者深受社交恐惧之苦，辞掉工作或无法上学，正常的社会生活彻底瓦解。

在投资诈骗中，深度伪造也被大量利用。盗用埃隆·马斯克、韩国前JTBC社长孙石熙等受公众信赖的人物的面孔和声音，推广虚假投资产品的骗局层出不穷。在新加坡，有人制作了李显龙总理推荐马斯克主导的投资平台、鼓励加密货币投资的深度伪造视频，导致大量市民上当受骗。

美国流行歌手泰勒·斯威夫特的名义也被盗用来实施投资诈骗。深度伪造制作的泰勒·斯威夫特推荐某款投资产品的视频通过社交媒体扩散，粉丝们遭受了巨额损失。这类骗局的共同特征是，让受害者以为自己平时信赖的人物在亲自推荐。再怎么谨慎的人，看到自己喜欢和信任的名人出面推荐投资，也容易上当。

随着通过学习社交媒体上含有语音的帖子来完美模仿某人声音的技术不断发展，只要获取几秒钟的语音样本，就能生成精密的伪造声音。我们随手发布的视频或语音消息，随时可能被用于犯罪。这样的时代已经到来。

5. 信任的崩塌：不可信的社会

畅销书『人类简史』的作者尤瓦尔·赫拉利对深度伪造时代表达了深切的忧虑。他说：「无论是屏幕上的照片、视频还是音频，都不能再相信了。」他把这称为「真相终结的时代」。需要某种机构或权威来提供担保，但社会对此毫无准备。

深度伪造最严重的问题在于，它让人们无法判断什么是真相。过去「眼见为实」，现在亲眼看到、亲耳听到，也无法确定是真是假。这种现象被称为「说谎者红利」（Liar's Dividend）。深度伪造技术越发达，说谎者获得的好处就越大。因为即使拿出真实证据，对方也可以说「那也可能是深度伪造的」来否认。

Google X前首席商务官莫·高达特警告，AI能够通过社交媒体操纵内容、制造信息茧房，把人们推向极端化的观点。所谓信息茧房，就是只和想法相似的人交流，只听到相同意见的现象。AI算法分析用户过去的兴趣和点击习惯，不断推荐类似的内容。当深度伪造也加入进来，人们只挑自己想看的内容看，甚至连那些内容是假的都察觉不到。

讨厌某个政治人物的人，会被不断推送那个政治人物做坏事的深度伪造视频，于是认定那些视频是真的。反过来，喜欢那个政治人物的人，只看到展示其正面形象的内容。这种现象将社会推向极端撕裂。面对同一事件，接触到完全不同内容的人们得出截然相反的结论，沟通和妥协变得不可能。民主制度的基石，理性讨论和协商，就这样消失了。

深度伪造的蔓延也在侵蚀公众对新闻媒体的信任。人们开始怀疑新闻，真正的新闻机构的公信力也随之削弱。一边利用深度伪造技术大规模制造假新闻，一边散布「所有新闻都可能是假的」这种不信任情绪，连带拖垮了真实媒体的信誉。事实核查和验证变得前所未有地重要，但深度伪造技术的发展速度太快，新闻机构也跟不上。

法庭上同样出现了严重的问题。即便提交了视频或语音证据，也很难判断是否经过深度伪造篡改。这个问题足以动摇司法体系的根基。表达自由与监管之间的平衡也是棘手的难题。对深度伪造管得太严，可能连合法的艺术创作和讽刺作品都受到限制；管得太松，受害者只会越来越多。

被称为「AI教父」的深度学习创始人杰弗里·辛顿，一直在持续警告AI技术的危险性，呼吁国际社会携手合作，遏制包括深度伪造在内的AI技术被滥用。深度伪造通过互联网瞬间传遍全球，仅凭一个国家的努力无法解决问题。但各国法律和文化差异巨大，要形成统一的应对方案谈何容易。

技术层面的应对手段也在开发中，但存在根本性的局限。制造深度伪造的技术和检测深度伪造的技术之间，一场永无止境的猫鼠游戏正在上演。新的检测技术一出现，更高明的生成技术随即跟进。据学术期刊『自然』的研究，对已知深度伪造生成器的检测成功率较高，但面对新型生成器时，检测率则明显下降。