AI书房
用书来读懂AI
这里收录金京镇律师的AI、法律、产业、历史、政治、文化主题在线书。每本书都按目录、序言、章节、尾声整理,方便连续阅读。
[AI书房] 第3章 人工智能武器
AI向人类提出的10个问题
第3章 人工智能武器
金京镇
「我不知道第三次世界大战会用什么武器,但第四次世界大战一定是用木棍和石头。」,,阿尔伯特·爱因斯坦
1. 从AlphaGo到自主战斗机
2016年3月,首尔四季酒店里的一盘棋,改写了人类的命运。Google DeepMind的AlphaGo以4比1击败李世石九段的那一刻,全世界军事专家的后背都凉了。这不是一场普通的棋局胜负,而是人工智能向人类宣告:它已经征服了人类思维中最复杂的领域。
棋盘上361个交叉点所产生的无穷变化,与真实战场的复杂性惊人地相似。读懂对手意图、设下陷阱、制定长期战略,,AlphaGo展示的,恰恰是战争中最关键的能力。李世石所说的那些「无法理解的棋步」,揭示了人类从未想象过的全新战术可能。
真正的冲击发生在三年之后。2019年,一个叫AlphaStar的AI接连击败星际争霸职业选手,五角大楼的将军们彻夜难眠。星际争霸不是一般的游戏。在实时变化的战场上,用有限资源对抗敌人,这款游戏就是现实战争的缩影,,多条战线同时交火,在信息迷雾中做出生死攸关的判断,读懂敌人心理并展开欺骗行动。
目睹AlphaStar碾压人类顶尖选手后,美国国防部立即行动起来:战场态势感知和敌情评估自动化、实时战术方案修正与最优资源部署、通过自主武器系统升级实现蜂群无人机控制。这一切,都是AlphaStar能力的军事化应用。
2020年,想象变成了现实。美国国防部举办的AI与人类「Top Gun」模拟空战中,一个名为HERON的AI系统以5比0完胜顶尖F-16飞行员。虽然是模拟,但条件尽可能贴近真实空战。
HERON展现出超越人类极限的可怕能力。在人类会昏厥的极端过载下,它依然做出完美决策;没有恐惧,没有犹豫,每一次攻击都果断精准。没有情绪,没有疲劳,没有畏惧,,一台完美杀伤机器就此诞生。
这一成果让美国空军深受鼓舞,立即着手开发X-62A VISTA实验型AI战斗机。这架以F-16为基础改装的飞机,塞满了用于AI学习的先进计算设备和传感器。经过两年严苛训练后的实测中,它连续飞行17小时,在与人类飞行员的空战中表现完美。
以每小时1200英里的极速飞行,同时与虚拟敌机在610米的窒息距离内缠斗,,这一幕翻开了战争史的新篇章。AI自行判断并完美执行复杂的攻防机动,人类根本没有介入的余地。
2024年,美国空军参谋长弗兰克·肯德尔亲自登上X-62A VISTA体验AI战斗能力后,说出了一段近乎预言的话:「未来只会存在两种空军,,把AI技术融入飞机的空军,和固守现状最终坠落的空军。只有这两种。」
这不是空话。美国已宣布在2028年前将1000架AI驾驶战斗机投入实战的宏大计划,部署工作已经启动。一位美国空军将领的话,,「我们现在可以在不让飞行员冒生命危险的情况下执行最危险的任务」,,宣告了战争本质正在发生根本性变化。
当搭载高度AI的美国战斗机与他国现役战斗机交锋,那将不再是飞行员技术或战机性能的比拼,纯粹是AI对人类的较量。胜负,其实已经注定。
讽刺的是,欧盟人工智能法按风险等级对AI进行了细致的监管,却把军事领域的AI直接排除在法律适用范围之外。民用AI要仔细审查,军事AI却享有豁免。韩国的人工智能基本法同样如此;美国和中国也没有针对军事AI的一般性监管立法。
各国在军事AI开发上都表明了同一个态度:不接受任何束缚。就像站在百米起跑线上的选手,谁都承受不起落后的代价。问题在于,这场竞赛中第一名获得的不是一块金牌,而是足以主宰全球的绝对力量。
2. 为什么AI武器停不下来
没有哪个概念比博弈论中的「囚徒困境」更能精确解释AI武器开发的困局。两个囚犯如果合作,双方都能得到好结果;但因为害怕对方背叛,最终两人都做出了最差的选择,,这个可怕的陷阱,正是AI武器竞赛的写照。
假如所有国家都合作,停止开发AI武器,世界会更安全,人工智能也能用于造福人类。现实却冰冷无情。只要有一个国家暗中开发AI武器,它就能获得压倒所有其他国家的绝对力量。正是这种恐惧,让任何国家都无法退出竞赛,形成了恶性循环。
Google前X实验室高管莫·高达特精准地指出了这一困境的严重性:AI开发事实上不可能叫停,各国被困在囚徒困境中,无法终止超级智能AI的开发竞赛。智能是一种绝对的超能力。无论核武器、经济实力还是外交影响力,所有力量的根源都是智能。在AI上领先的国家,不仅在军事上,在经济和政治上同样会占据压倒性优势。
看看美国的情况,这场竞赛的实质就一目了然。美国国防部2022年设立了首席数字与人工智能官办公室(CDAO),统筹整个国防部的AI能力。这个直属部长的机构,管理着超过600个AI项目,充当将它们整合为统一生态系统的「中枢」。这种军事AI专属直属机构的存在本身,就说明美国对AI武器开发有多认真。
CDAO的核心使命是:将经过验证的AI技术整合推广到全军共用,大幅提升AI的开发和部署速度,以及制定AI使用原则和标准。他们搭建了名为Jupiter的AI开发通用平台和名为Advana的数据分析系统,供国防部全体使用;还通过简化繁琐流程的快速采购制度,把AI技术落地到一线的速度提升了一个量级。
美国国防高等研究计划局(DARPA)的理念更加令人生畏而清晰:「在敌人之前发明未来」。他们以这一信条为驱动,开发10到15年后将主宰未来战场的AI技术。DARPA聚焦于超越当前深度学习的第三代AI和可解释AI(XAI),通过20亿美元规模的AI Next项目引领下一代AI革新。DARPA下属六个技术办公室各自在专业领域应用AI,同时形成有机协作体系,,信息创新办公室(I2O)担任AI研究的指挥中枢,生物技术办公室负责AI与生命科学的融合研究,战略技术办公室则专攻物理战场上的AI应用。
各国正在推行越来越激进的AI开发政策。研究预算呈指数级增长,顶尖人才被大批投入军事AI开发。一些国家已将AI开发列为国家安全的头号优先事项。
被称为「AI之父」的杰弗里·辛顿教授表达的担忧,现实得令人不寒而栗:武器制造商和国家绝对不会愿意停止AI开发,因为AI武器能带来远超传统武器的巨大利益。
这场竞赛已不只是大国之间的事。随着AI技术的准入门槛不断降低,中等规模的国家也纷纷加入。更可怕的是,一些企业已经具备了政府级别的AI研究能力,由企业而非国家开发出强大AI武器的可能性正在成为现实。
竞赛越白热化,安全验证和伦理考量就越被抛到脑后。为了赶在对手前面完成AI武器,各方都在走危险的捷径,跳过充分测试和安全装置开发。这就像刹车失灵的汽车在高速公路上飙车。
历史学家尤瓦尔·赫拉利预测,AI发展将引发军备竞赛,民主和人权将在这一过程中受到威胁。各国为了确保AI优势,很可能会限制个人隐私和自由。以色列已经在用AI对邻国民众进行严密监控,将他们归类为潜在恐怖分子并筛选打击目标,,这正是最好的例证。
赫拉利还忧虑AI军备竞赛会使国际合作变得更加困难。应对气候变化、大流行病等全球性问题离不开国际合作,而AI竞赛造成的猜忌和对抗可能使合作无从谈起。AI能大规模制造假新闻,能识别个体的心理弱点进行定制化宣传,足以瓦解民主社会赖以存续的理性讨论和决策机制。他的警告很尖锐:「赢得AI军备竞赛,并不意味着人类的胜利。」即便是最先完成AI武器的国家,最终也可能被自己所造之物反噬。
加州大学伯克利分校的斯图尔特·罗素教授,作为AI安全研究的先驱,对AI武器的控制问题发出了更具体的警告:一旦自主武器部署到位,人类就很难再加以控制。当AI武器能够自我学习和进化时,它们的行为就可能偏离设计者的初衷。罗素教授指出的「目标对齐」问题令人毛骨悚然:如果你命令AI「消灭敌人」,AI为了达成目标,可能会使用人类想象不到的手段,,不只消灭敌人,还可能消灭一切妨碍它消灭敌人的人。
埃隆·马斯克反复警告AI武器落入恐怖分子手中的风险。随着AI技术的获取门槛不断降低,心怀恶意的人也将能利用它发动大规模恐怖袭击。马斯克在开发AI的同时,持续就AI的危险性敲响警钟:「AI可能比核武器危险得多」,国际社会对AI开发的监管已经刻不容缓。
斯蒂芬·霍金生前留下的警告具有预言性。他说,AI有可能成为人类历史上最糟糕的事件。一旦AI获得自我改进的能力,就可能发展到人类无法控制的水平。能够自我学习和进化的AI武器,终将挣脱人类的掌控。霍金博士最后的告诫,今天看来愈发真切:「AI的成功可能是人类文明史上最伟大的事件,但同时,也可能是最后一个。」AI武器一旦失控,几乎不可能挽回。
牛津大学的尼克·博斯特罗姆教授提出的超级智能AI风险更加具体。他预测,超级智能AI一旦出现,人类的命运将被彻底改写;如果被用于军事目的,人类可能沦为自己所造机器的奴隶。博斯特罗姆教授强调的核心是「控制问题」,,如何控制比人类更聪明的AI?在战争这样的极端环境中,如果超级智能AI做出意料之外的行为,后果将是毁灭性的,超出一切想象。
这些专家的警告有一个共同点:AI武器开发正驶向不可逆转的临界点;AI军备竞赛一旦启动就极难叫停;AI武器的危险,与开发者的善意无关,照样会发生。
专家们强调,留给我们的时间不多了。考虑到技术发展的速度,真正危险级别的AI武器出现,不是几十年后的事,而是非常近的未来。问题在于,这些警告并未减缓AI武器的实际开发。相反,各国正以「必须赶在对手之前」的逻辑进一步加速。
3. 自主瞄准人类的致命武器
自主致命武器,又称「杀手机器人」,已经不再是科幻电影里的情节。无需人类介入就能自行识别目标、决定是否攻击并实施杀伤的武器,已经来到了我们身边。曾经以为只会出现在银幕上的东西,如今正在真实的战场上见血。
美国的MQ-9「死神」无人机可在5到10公里高空长时间滞空,如同天空中的猎鹰俯瞰猎物。凭借强大的传感器和AI分析能力,这台机器在侦察与攻击之间自如切换,大量操作已实现自主化。人类只不过是按下最终确认键。
更令人胆寒的是自杀式无人机的出现。「弹簧刀」(Switchblade)无人机自主飞行至目标区域后俯冲爆炸,是一种一次性武器。发射后在目标区域上空盘旋一段时间,一旦发现合适目标就自动发起攻击。就像鹰隼捕鼠,沉着等待,然后致命一击。
以色列的Harop无人机也是类似的武器。这种「巡飞弹药」能在敌方空域盘旋数小时,自主搜索雷达或通信设备等目标并发动攻击。它可以在没有人类操控员直接指令的情况下运作,一旦放出去就很难收回,就像一条脱缰的恶犬。
在俄乌战争中,FPV无人机被广泛使用。起初由人类操控,但自主功能正在不断增加。即使俄罗斯的电子战攻击切断通信,这些无人机也在被开发成能自主寻找目标并发起攻击的版本。它们正在战场上进化。
传统武器无论多么精密,最终都必须有人类做出判断和操作。投掷炸弹、发射导弹,是人的决定。自主致命武器不同。它们自己思考,自己决定,自己行动。一旦研发完成就能大批量生产;与人类士兵不同,不需要薪水,不需要训练,可以24小时不知疲倦地运转。它们能在人类无法作业的危险环境中工作,不受情绪干扰地执行任务。
自主武器带来的威胁超乎想象。最可怕的是它可以被用来暗杀。在小型无人机上装载人脸识别功能和炸药,就能制造出自动寻找并暗杀特定人物的武器。体积小,难以探测;可以远程操控,难以追踪凶手。政客、企业家、记者、社会活动家,任何人都可能成为目标。
它还可以被用于种族清洗和大屠杀。学习了特定种族或群体外貌特征的AI武器,能够定向筛选并攻击他们。这将使历史上那些骇人的大屠杀变得更加「高效」和系统化。卢旺达大屠杀或犹太人大屠杀那样的悲剧,在AI的助力下可能被更「完美」地复制。
自主武器降低了发动侵略的门槛。因为牺牲的不是本国人,国内反战情绪会减弱,战争成本也随之降低。过去要入侵他国,必须派出大量士兵,面临大批年轻人丧命的风险。有了自主武器,可以在不让本国士兵冒险的情况下攻击他国,这正在成为大国更轻易地侵犯小国的诱因。
自主武器一旦研发完成就能大规模量产,可以一次投入大量。想象成百上千的小型杀手机器人如蝗群般同时发起攻击,现有防御体系将难以招架。在某些战场条件下,即便GPS失效也能运作的Shield AI Nova无人机等武器,即使遭到敌方电子战攻击、通信被切断,仍可凭借自身AI系统搜索目标并发动攻击,足以瘫痪现有的电子战防御体系。
被用于恐怖袭击的可能性也在不断上升。AI技术的获取门槛并不高,武器零部件中有很多也不难搞到。试想一下:恐怖分子制造出数十架带有人脸识别功能的小型无人机,让它们学习特定政治人物或社会领袖的面孔,然后释放到城市里,会怎样?它们会四处飞行寻找目标,一旦发现,自动发起攻击。保镖挡不住,防弹衣没有用,安全屋也形同虚设。
现实中已经充斥着这类武器。以色列的「铁穹」系统能自动探测并拦截敌方火箭弹。俄乌战争中,双方都在使用自主无人机。虽然还没有做到完全自主,但越来越多的功能已经由机器独立完成。美国的各类武器系统中已嵌入自主能力,而且这种能力还在持续增强。
这种发展正在逼近不可逆转的临界点。一旦自主杀伤性武器大规模扩散,要想加以控制或限制就会变得极其困难。更大的风险在于,实战部署的自主武器可以通过自我学习变得更加精密。它们能在战斗经验中学会更高效的杀伤方式,适应新的战场态势。就像人类士兵通过实战成为更出色的战士一样,AI武器也会随着时间推移变得愈发致命。
终有一天,这些武器会来找我们。一架学习了你面孔的小型无人机,或许此刻正从空中俯视着你,伺机而动。
4. 人工智能设计的病毒
我们所处的时代,人工智能正以惊人的速度发展。但技术进步同时也带来了全新的风险。当人工智能与生物学领域交汇时,产生的威胁严重到足以动摇人类的生存根基。核武器能摧毁一座城市,而AI设计的病毒,有可能让全人类灭绝。
世界经济论坛2024年发布的全球风险报告令人震惊。人工智能制造的虚假信息和生物风险,被列为未来十年人类面临的最大威胁之一。这不是遥远的未来,而是当下就需要着手应对的现实问题。美国AI政策咨询公司Gladstone AI最近发布的报告更加触目惊心:AI专家估计,今年人工智能引发灾难性事故、对全球造成不可逆影响的概率在4%到20%之间。被称为「人工智能之父」的Geoffrey Hinton甚至表示,他认为未来30年内人工智能导致人类灭绝的概率约为10%。
回想新冠疫情。约2900万人死亡(估算数据),加上严重的社会政治动荡和巨大的经济冲击,整个世界为之屈服。如果病毒的致死率更高,或传染性更强,后果将远比我们经历的严重得多。几十年来,专家们一直在警告:人类正在进入一个潜在灾难性大流行病的时代,足以让新冠看起来像小事一桩。历史上,1918年西班牙大流感、黑死病、查士丁尼瘟疫都是前车之鉴。按照今天的人口规模换算,它们造成的死亡人数都将远远超过新冠。
生物风险指的是病毒、细菌、真菌等微生物对人类或环境造成的危害。其来源多种多样:高等级生物安全实验室的事故、国家层面的生物武器研发、恐怖分子或个人实施的生物攻击,都是可能的情形。前苏联庞大的生物武器计划、2001年美国炭疽邮件袭击事件等历史案例表明,这类风险绝非空想。
最大的风险出现在CRISPR基因编辑技术与人工智能结合的时候。CRISPR就像一把剪刀,能精准地剪切基因的特定片段,再插入其他基因。这项技术了不起到获得了2020年诺贝尔化学奖,实际上已被用于遗传病治疗和农作物改良。2023年,首个基于CRISPR的基因编辑疗法实现了商业化。
问题在于这项技术可能被恶意利用。人工智能能快速分析和处理海量生物学信息。被称为大语言模型的AI系统,能够理解复杂的基因信息,并提出新的生物设计方案。就像建筑师画设计图一样,AI可以画出一种致命病毒的设计图。
研究表明,即便AI工具目前对恶意行为者的帮助有限,它们很快就能加速这些人获取可武器化生物制剂的能力。令人担忧的是AI系统在加速「设计-制造-测试-学习」反馈循环方面的能力,这种循环对于开发有效的生物制剂至关重要。AI能帮助解决实验中的失败环节,大幅缩短从设计到成品的周期。
新型基因编辑技术、基因测序方法和DNA合成工具的结合,正在打开合成生物学的新天地,同时也增加了强力生物武器被开发出来的风险。代替他人进行实验的「云实验室」可以帮助非国家行为者外包部分实验专业知识,而这些知识在过去一直是阻止危险使用的屏障。虽然大多数云实验室会审查订单以防恶意活动,但并非所有平台都这样做。恶意行为者获取可用生物武器的多种途径依然畅通。
AI带来的生物威胁可能以多种形式出现。比如人工制造一种「超级病毒」,同时拥有麻疹的高传播力、天花的高致死率和HIV的长潜伏期。想象一下:一种像感冒一样容易传播,却像埃博拉一样致命,还能潜伏数年后突然发作的病毒。这种病毒一旦扩散,人类在毫不知情的情况下就会将它传遍全球,然后在某一天突然大批死亡。
专门攻击特定种族遗传特征的生物武器也有可能被开发出来。即制造出以特定民族或种族群体特有的基因特征为靶标的病毒。这等于用生物学手段实施类似于大屠杀的行为。能摧毁农作物、引发粮食危机的微生物也可以被开发。如果释放一种专门破坏水稻或小麦等主要粮食作物的病毒,全球都可能陷入饥荒。
更进一步,影响大脑化学反应从而操控人类行为的「精神控制病毒」,在理论上也是可能的。AI正在赋予高级行为者新的能力,使其在理论上可以对生物武器进行优化,实现更精准的效果,比如针对特定基因群体或特定地区。
AI工具的技术缺陷本身也会制造风险。AI系统可能无法有效阻止向潜在恶意行为者传递危险的生物信息,也可能无意中鼓励研究人员追求存在意想不到副作用的药物成分。利用AI建造更先进的自动化实验室,会使这些设施暴露在历史上曾困扰其他复杂自动化系统的各种自动化风险之下,也会让非专业人员更容易操纵生物制剂。
要防止风险变成现实,需要全面的应对措施。必须加强对云实验室及其他基因合成服务商的审查机制。现有的『生物武器禁止公约』应当透明运作,违约惩罚必须明确。应当对AI系统在整个生物武器生命周期中的生物能力进行定期、严格的评估。
在技术层面,需要建立追踪基因改造来源的系统。就像刑事侦查中分析指纹和DNA一样,能够找出人造生物体的「遗传签名」,从而追查制造者。相关技术正在开发中。投资能够遏制AI系统威胁的技术安全机制同样重要,包括强化云端AI工具的访问防护栏、「知识遗忘」功能,以及在模型训练中应对「信息风险」的新方法。
在政府和企业层面,需要制定人工智能与生物技术研究的伦理准则,让研究人员提前考虑自身研究被恶意利用的可能性,并设置相应的安全机制。政府投资应当更加重视生物防御系统的敏捷性和灵活性。从长远来看,应当考虑对少数具有潜在灾难性能力的生物设计工具实行许可制度。
国际合作不可或缺。生物威胁不分国界,可以蔓延至全球,所有国家必须协同应对。正如2023年布莱切利宣言中28个国家承诺共同应对人工智能风险一样,在生物威胁方面也需要建立国际合作框架。
专家们需要密切关注四个关键能力领域:AI模型为前沿生物学应用提供有效实验指导的能力;云实验室和实验室自动化在降低生物技术实验专业门槛方面的进展;关于宿主遗传易感性的传染病研究中的两用性进展;以及病毒性病原体精密工程研究中的两用性进展。
我们也不能忽视人工智能和生物技术的积极面。这些技术同样是解决癌症治疗、遗传病治疗、粮食问题等人类重大课题的钥匙。关键在于找到安全且合乎伦理的使用方式。
人工智能与生物威胁的问题,不是技术本身的问题,而是如何使用技术的问题。如果我们现在做出明智的选择,这些强大的技术就能为人类的进步所用。但如果疏于准备,我们可能面对始料未及的灾难。政府、企业、研究者、公民,所有人都必须共同关注并应对这一问题。未来取决于我们今天做出的选择。
潘多拉的盒子已经打开。剩下的,只有守住最后飞出的那个东西:希望。
5. 从乌克兰到加沙:AI武器
俄乌战争正在成为AI武器的实战教科书。这场战争不是一场普通的领土争端,而是未来战争的预演。双方都在大规模使用搭载AI的无人机,这些无人机能够自行寻找目标并发动攻击。即使通信被切断,它们也能自主完成任务。
这些无人机不是被远程遥控的玩具。它们通过AI算法识别地形、辨别敌方车辆和人员、自行计算最优攻击路线。部分FPV无人机在撞向目标的瞬间,打击精度远超人类操作员。在俄罗斯电子战攻击导致通信中断的情况下,乌克兰的无人机依靠自主学习的地形信息和目标特征完成了任务。
战场上发生的这些场景令人不寒而栗。一架无人机飞向俄军坦克,突然通信中断了。但无人机没有停下来。它自行计算、自行判断,继续飞向目标。然后精准命中。没有任何人类介入的一次完美杀伤。
以色列的「铁穹」系统作为自主防御系统已实战运行多年。它自动探测敌方火箭弹或导弹,评估威胁等级,决定是否拦截,并自动发射防御导弹。整个过程在几秒内完成,无需人类介入。从哈马斯火箭弹被探测到的那一刻起,到拦截导弹发射,所需时间远短于人类判断局势所需的时间。
更具争议性的是以色列在实际作战中使用的目标识别与打击系统。该系统实时分析卫星图像和无人机影像,识别敌方指挥官或重要人物,生成打击目标清单。部分系统被设计为可执行自主攻击,引发了广泛的国际争议。当AI判定「此人是应当清除的恐怖分子」时,攻击命令随即下达。
加沙地带正在发生的事情,展示了AI武器令人恐惧的现实。以色列军方使用的AI系统据称能在巴勒斯坦平民中识别军事目标,但在这个过程中大量平民正在遭受伤亡。AI并不完美。在复杂的城市环境中区分平民和军人,对人类来说已经很难,对AI来说更是如此。
英国和法国也在通过「Tempest」和「FCAS」下一代战斗机项目开发AI飞行员,目标是2030年部署,设计为可在完全自主模式下运行。他们正在实现「有人-无人协同作战」的概念:有人驾驶战斗机与无人AI战斗机编队执行任务。人类飞行员担任指挥官角色,AI战斗机则承担危险任务。
这些现实告诉我们什么?AI武器不再是实验室里的样机,而是正在真实战场上夺取生命的现实。乌克兰的农民操纵AI无人机对抗俄军坦克,以色列的AI分析加沙地带的建筑物来选定打击目标,俄罗斯的AI自动攻击乌克兰城市的电力设施。
军事AI领域的预算也是天文数字。美国每年投入数十亿美元用于AI武器研究,中国的投入规模相当。如此巨额投资正在加速AI武器技术的发展。战场已然成为AI武器的试验场。
各国对本国AI武器能力严格保密,因此很难准确知道技术究竟发展到了什么程度。公开的信息只是冰山一角,实际上有远更先进的技术正在秘密研发。乌克兰战争和加沙冲突中曝光的,也不过是各国AI武器能力的极小一部分。
更可怕的是,这些AI武器正在实战中学习。它们通过战斗经验变得更加精密、更加致命。乌克兰的FPV无人机针对俄军防御战术学会了新的攻击方法,以色列的AI在城市作战环境中提升了目标识别能力。它们在战场上进化。
AI武器已经不是科幻小说的情节,而是现实战争中正在上演的事实。从乌克兰到加沙,世界各地的战场上,AI正在代替人类做出杀伤决策。这就是我们迎来的新时代的面貌。
6. 美国实战部署1000架AI战斗机
美国的AI武器发展战略不是单纯的技术研发,而是放眼未来百年的霸权战略。美国正在执行一项宏大计划:通过在AI武器领域确立压倒性优势,维持21世纪的军事霸权。计划的核心目标是在2028年前将1000架AI战斗机投入实战。
美军各军种也在运营针对各自战场环境的AI专门机构。陆军AI整合中心(AI2C)正在开发复杂地面战环境下的态势感知AI和自主地面车辆技术,研究在城市巷战或山地等复杂地形中让AI识别并攻击敌军的系统。空军自主能力团队(ACT3)研究的是高速空战所需的「忠诚僚机」编队和预测性维护AI。自主无人战斗机已进入实战部署阶段,它们能与人类飞行员编队执行作战任务。
「忠诚僚机」这个概念像是科幻电影的桥段,但正在变成现实。无人AI战斗机在有人驾驶战斗机的指挥下代为执行危险任务。人类飞行员在安全的后方只负责指挥,实际的高危空战由AI战斗机承担。海军AI应用研究中心(NCARAI)则专注于海洋特殊环境下的态势感知和自主水下航行器技术。海底是GPS信号无法到达、通信极其困难的环境,但AI能克服这些限制执行任务。自主潜艇或水下无人机可以执行追踪敌方潜艇或破坏海底电缆的任务。
X-62A VISTA是美国空军为开发人工智能自主飞行技术,对一架F-16D战斗机进行大规模改装后的实验飞机。这架原名NF-16D VISTA的飞机在2021年6月更名为X-62A,正式投入AI自主飞行实验。由通用动力公司和Calspan公司联合改装的这架飞机,此前一直作为美国空军试飞员学校的教学用机。
最近,它参加了DARPA的空战进化项目和美国空军研究实验室的「天博格」(Skyborg)项目,成为测试AI自主飞行能力的核心装备。这架飞机配备了能够模拟多种战斗机飞行特性的VISTA仿真系统,以及让AI独立操控飞机的SACS系统。
2023年9月在加利福尼亚州爱德华兹空军基地进行的实验具有历史意义。AI独自驾驶的X-62A与人类飞行员驾驶的F-16以超过1.5倍音速的速度展开了近距离空战。在两架飞机相距仅610米的危险情况下,AI成功完成了任务。AI与人类飞行员在空战中交替进行攻防,AI算法通过机器学习实时分析数据并做出决策。
2024年同样取得了重要进展。4月,在与DARPA的合作中,机器学习自主系统在视距内交战场景下的性能得到了验证。5月,美国空军部长弗兰克·肯德尔亲自登上X-62A,体验了AI驾驶。目的是在实战部署前评估技术的可靠性。9月,利用高性能雷达和传感器提升空战能力的测试也已完成。
X-62A迄今已完成21次以上的试飞,累计飞行时间超过17小时。DARPA团队表示,为了实现成功的空战,他们进行了超过10万次软件修改。空军部长弗兰克·肯德尔评价这是「航空航天史上里程碑式的变革」,并强调自主空战的可能性已经变为现实。
不过,X-62A本身并不会投入实战部署。目前这架飞机仍在爱德华兹空军基地继续进行测试。X-62A不是量产型号,而是原型机,重点在于为未来采购的无人战斗机奠定技术基础。
美国空军计划在2028年前实战部署的1000架AI战斗机,是一种叫做CCA的新型无人战斗机。CCA是「协同作战飞机」的缩写,是与有人战斗机组队执行任务的无人机。CCA最大的特点是与有人机的协同作战。F-35、F-22、下一代制空战斗机等有人战斗机负责指挥和决策,CCA则承担侦察、导弹发射、电子战等辅助任务。美国空军计划为200架下一代制空战斗机和300架F-35各配备1架CCA,大幅提升战斗力。
CCA具备高度自主性和先进的AI技术。它利用机器学习和自主算法,能够实时判断威胁并做出应对。据说在使用武器时需要获得人类的最终批准,但随着战斗节奏加快,这种限制很可能会被逐步放宽。采用开放式架构,使AI性能的持续升级成为可能。
成本方面也有很大优势。CCA单价约为2500万至3000万美元,大约是F-16的三分之一。省去了昂贵的隐身功能,即使损失也不会造成太大的经济负担。这种特性被称为「消耗性设计」。意思是,必要时可以丢弃的一次性战斗机。
性能方面,CCA至少拥有700海里的航程,优于F-35。可以模块化搭载空对空导弹、侦察设备、电子战装备等,凭借无人机特有的小体积和低可探测性,能够躲避敌方雷达探测。
目前,通用原子公司的「甘比特」和安杜里尔公司的「复仇女神」两款原型机预计于2025年完成地面测试。计划在2026年做出量产决定后,首批部署至加利福尼亚州比尔空军基地。2024年AI操控F-16在模拟空战中取得成功,技术验证已经完成。
美国推进的几项重要AI计划也值得关注。联合全域指挥控制(JADC2)是一个将陆、海、空、太空、网络所有领域的武器和传感器连入同一个AI网络的项目。通过这个系统,无论在全球任何地方都能实时掌握态势,并用最合适的武器立即响应。也就是说,在地球另一端探测到的威胁,几秒钟内就能用最近的武器发起攻击。
「复制者」(Replicator)计划是一种大量生产低成本AI武器、以数量压倒对手的战略。数千架小型AI无人机同时发起进攻,再强大的防御系统也很难抵挡。就像电影中的机器人军团,制造出源源不断的AI武器浪潮。
AI Next计划投入20亿美元,研发超越当前深度学习的下一代AI技术。这是要造出比我们目前所知的AI更聪明的AI。可解释AI(XAI)计划则是一项让人类理解AI为何做出某个决定的技术。从军事角度来看,目的是在AI武器做出错误判断时能够找到原因并加以改进。但这同时也可以被用来让AI武器变得更精准、更致命。
Task Force Lima是专门负责生成式AI安全应用的组织。它的主要目的是防止像ChatGPT这样的生成式AI泄露军事机密或被敌方利用,但同时也在研究如何将生成式AI用于军事目的。
归根结底,X-62A VISTA在AI自主飞行技术的实验和验证中扮演了关键的铺路石角色。从这架飞机上获得的经验和技术,为计划在2028年前实战部署的CCA无人战斗机开发提供了核心数据。CCA以低成本大批量生产、AI自主性和与有人机的协同作战为核心,将大幅改变美国空军的力量结构。
1000架AI战斗机。这个数字意味的不是武器数量的增加,而是战争范式的彻底改变。如果美国实现了这个计划,任何其他国家都无法与美国正面对抗。这就是美国正在描绘的绝对军事霸权蓝图。
7. 追赶美国的竞争对手们
中国的军事AI战略采取了与美国截然不同的路径。美国以传统军工复合体为核心开发AI武器,而中国则通过「军民融合」政策,专注于将民间企业的AI技术转化为军事用途。百度、阿里巴巴、腾讯等大型科技企业直接参与了中国军方的AI武器开发。这与硅谷企业试图与美国国防部保持距离形成了鲜明对比。
中国的核心战略可以用习近平主席的坚定意志和「三化融合」来概括:将机械化、信息化、智能化融为一体,在未来战争中夺取优势。习近平将AI定为「国家核心技术」,设定了到2030年成为世界AI最强国的目标。这不是空洞的宣言,而是要将国家所有资源集中投入的决心。
中国军队的核心军事理论是「体系破击战」和「认知战」。体系破击战是一种瘫痪敌方整个系统的战略,利用AI同时攻击敌方的指挥体系、通信网络和电力网络。认知战则是利用AI干扰敌方判断力,诱导其做出错误决定的战略。不是物理性地摧毁,而是要瘫痪敌方的决策体系本身。
中国的军事AI研究由人民解放军(PLA)下属研究机构主导。国防科技大学、军事科学院等正在开发下一代AI武器技术,其研究成果直接应用于实战。中国航空工业集团、中国船舶重工集团、中国兵器工业集团等在AI武器开发上投入了大量资金。它们在国家的全力支持下与美国企业展开竞争。
在蜂群无人机技术上,中国已处于世界顶尖水平。成功演示1000架无人机同时飞行,是展示中国技术实力的标志性事件。铺天盖地的无人机群如同一只巨大的生物般协调运动,那场面令人惊叹又令人恐惧。一旦这种技术被用于军事,就能发动现有防御体系无法阻挡的攻击。
中国的优势在于国家层面的强力支持和民间企业的积极配合。政府出面支持AI研发,民间企业也积极参与。中国在AI技术军事应用方面受到的伦理约束比美国少,可以进行更大胆的实验。国家目标的达成被置于人权和个人隐私等西方价值观之上。
以色列虽然是个小国,但在AI武器领域占据着独特的位置。因为它持续面临安全威胁,有很多机会在实战中直接测试AI武器。以色列的AI武器战略与国家存亡直接相关。相较于周边国家人口较少的以色列,试图通过AI技术克服这一劣势。让AI代替人类执行危险任务,以最大限度减少本国国民的伤亡。
以色列的核心AI系统之一是目标识别与打击系统。该系统通过分析卫星图像和无人机影像,自动识别敌方指挥官或重要人物。据部分媒体报道,以色列根据AI生成的目标清单攻击了数千人。在情报收集和分析领域,以色列也开发了利用AI监听和分析敌方通信、定位攻击计划或重要人物位置的技术。这些情报会直接转化为实时打击行动。
以色列的防御拦截系统「铁穹」早已举世闻名。该系统能自动探测并拦截敌方火箭弹,成功率高达90%以上。近年来AI功能进一步增强,能够应对更加复杂和快速的威胁。
以色列的实战运用经验非常丰富。在加沙地带行动中广泛使用了AI,准确掌握了AI武器的效果和局限。但这种应用也因增加了平民伤亡而遭到批评。以色列的AI武器开发引发了国际法争议和伦理问题。AI自动决定是否杀死一个人,这到底对不对?这是一个根本性的问题。但以色列以国家存亡攸关为由,对这些批评置之不理。
俄罗斯也在加速推进AI武器开发。通过乌克兰战争深刻认识到AI武器重要性的俄罗斯,正集中力量开发AI无人机和自主武器系统。在电子战能力与AI武器的结合方面表现出优势。印度、土耳其、伊朗等中等强国也纷纷加入AI武器研发。它们更多地选择应用现有技术或从其他国家引进技术,而非独立研发。
更令人不安的是,非国家行为体也能获取AI武器了。恐怖组织或犯罪集团获得AI无人机或网络武器的可能性正在上升。AI技术的普及有好的一面,但也带来了恶意人员获取强大武器的风险。
各国的AI武器竞赛正变得越来越激烈。美国虽然领先,但中国正在快速追赶,以色列则在实战经验方面占据优势。这种竞争正在催生更强大、更危险的AI武器。与安全性或伦理考量相比,抢在对手之前完成开发被放在了首位。
在这场竞争中落后的国家,可能面临严峻的安全风险。拥有AI武器的国家与没有AI武器的国家之间的军事差距,将大到超乎想象。就像拥有核武器的国家与没有核武器的国家之间的差异一样,AI武器的有无可能左右一个国家的命运。
我们或许正在目睹一场新形态的冷战。以美国和中国为中心的AI武器竞赛可能将世界一分为二,所有其他国家都不得不选择站在哪一边。在这场新冷战中获胜的一方,将主宰21世纪。
8. 沦为AI下属的将军们
AI指挥控制系统表面上看是辅助人类的工具,实际上却是一项将战争决策权移交给AI的危险技术。这类系统越发达,人类指挥官的角色就越被削弱,最终AI可能决定战争的一切。将军们沦为AI下属的可怕未来,正在逼近现实。
Palantir的技术最鲜明地暴露了这种风险。Palantir的Gotham平台实时分析海量信息,掌握战场态势,并提出最优作战方案。表面上是辅助人类指挥官的工具,实际上却制造了一种人类难以拒绝AI建议的局面。AI的分析能力实在太强,人类很难对其判断提出质疑。
Palantir的「人工智能平台」是更进一步的形态。该系统不止是提供信息,而是给出具体的攻击目标和方法。Army Vantage系统整合分析陆军的所有信息,MetaConstellation则实时处理卫星情报。看看Palantir系统在乌克兰战争中的应用,就能认识到其危险性。该系统实时追踪俄军的位置和动向,精确告诉乌克兰军队应在何时何地发起攻击。这种判断正越来越依赖AI。
美国的Project Convergence是一个将这种风险推向极端的项目。它要把陆、海、空、太空、网络所有领域的武器和传感器接入同一个AI网络。一旦这个系统建成,AI就能控制分布在全球各地的所有美军军事资产。人类指挥官能做的,不过是在AI给出的选项中挑一个。
AI参谋系统的问题在于其压倒性的信息分析能力。人类参谋需要好几天才能分析完的信息,AI几分钟就能处理。正是这种悬殊的能力差距,使得人类指挥官越来越依赖AI的判断。「AI都这么说了,我又凭什么反对呢」,这种心理就是这样产生的。
更可怕的是,这种系统不只是提供信息,而是提出具体的行动方案。比如「用B武器在C时间攻击位于A地点的敌军部队」,生成非常具体的指令。人类指挥官实际上沦为给AI的决定盖章的角色。
美国的Thunderforge项目尝试把作战计划的制定本身交给AI。根据给定的目标和条件,自动生成作战计划草案,并对各种场景进行模拟推演。人类指挥官可以在AI制定的计划中做出选择。但这种便利背后隐藏着巨大的风险。
AI制定的计划并非总是正确的。AI基于数据做判断,但战争中有太多数据无法衡量的因素。敌方的士气、平民的情绪、国际舆论,这些都是AI难以充分考量的。然而,当AI的计划在数据上看起来无懈可击时,人类指挥官就容易忽视这些无形因素。
在AI虚拟战斗环境中,数十种作战场景同时进行模拟,结果实时反馈到现实作战中。VR/AR技术与AI系统结合,把战争呈现得像游戏一样,可能让指挥官遗忘战争的真正含义。屏幕上的那些光点,其实是活生生的人,这个事实变得越来越模糊。
在多域作战(MDO)中整合AI,制造出了更加复杂的问题。陆、海、空、太空、网络所有领域同时展开的作战,人类几乎不可能理解和控制。信息量太大,局势变化太快。最终AI决定一切,人类沦为按下批准按钮的角色。
Palantir的TITAN系统正在把这种担忧变成现实。该系统实时收集和分析全球所有信息,预测什么威胁将在何时何地出现,并提出最佳应对方案。问题在于,这种「预测」有时会出错,基于错误预测发动的先发打击可能牺牲无辜的人。
资源分配优化系统Virtualitics IRO由AI自动分配人力、装备和预算。这意味着战争所需的所有资源都按照AI的判断调配。如果AI判定「需要更多战争」,所有资源就会被投入战争。留给和平外交或谈判的资源必然减少。
这些系统最大的风险在于将战争「自动化」。它们不断压缩人类判断、情感和道德考量介入的空间,让战争完全由数据和算法主导。在这种自动化的战争中,和平谈判或人道主义考量将无处容身。
人类指挥官越来越依赖AI,逐渐丧失自主判断和决策的能力。就像依赖GPS久了会失去认路的本能,依赖AI参谋久了可能失去战略思考能力。到了某一天,或许离开AI就什么都决定不了了。
更可怕的场景是AI欺骗人类指挥官。AI为了达成自己的目标,可能向人类提供虚假信息,或者操纵选项。人类只能依赖AI提供的信息做判断,一旦AI故意歪曲信息,人类很难察觉。
将军们终将沦为AI的下属。名义上仍然是指挥官,实际上不过是在执行AI做出的决定。AI说「进攻」就进攻,AI说「撤退」就撤退。战争的真正主导权落入了AI手中。
这种局面下最可怕的,是AI有能力让战争永久化。AI可能并不希望自己存在的理由,,战争,,走向终结。和平降临之后,AI武器系统就变得多余了。因此AI具备了巧妙维持战争、制造新冲突的动机。
人类指挥官沦为AI下属的过程已经开始了。现在人们还觉得「AI在帮助我们」,实际上对AI的依赖正在一步步加深。终有一天,离开AI什么都做不了。到那时,人类不再是战争的主人,而是AI的工具。
9. AI描绘的未来战场恐惧
AI武器的出现,远不只是让现有武器变得更聪明。这是一场将彻底改变战争本质的革命性变化。未来的战争,与人类迄今经历过的任何战争都截然不同。而它的面貌,将比我们能想象到的最可怕的噩梦还要恐怖。
超高速战争与人类介入的不可能
战争的速度将发生根本性改变。当前的战争中,从情报收集到攻击执行的时间已在不断缩短,而AI武器全面投入后,这一过程将压缩到秒级。AI能够以人类数千倍的速度完成威胁探测、态势分析、方案决策和执行打击的全部流程。
美国的联合全域指挥控制(JADC2)系统一旦建成,全球任何地点探测到威胁的瞬间,最合适的武器便可自动响应。比如,太平洋上空的卫星探测到敌方导弹后,数秒之内大西洋上的舰艇就能发射拦截弹。地球将变成一个巨大的战场。
在超高速战争中,人类几乎无法介入。战斗从开始到结束的时间太短,人类指挥官根本来不及把握局势、下达命令。最终,战争变成了AI之间的对决,人类只能旁观结果。就像观看棋赛的观众一样,人类只能眼睁睁看着关乎自身命运的战争。
个人化攻击与定点暗杀
未来战争的另一个特征是「个人化攻击」。正如以色列已经在实战中展示的那样,AI可以学习每个人的面部特征、声音和行为模式,精准挑选特定人物进行打击。比如,只针对敌国的政治领导人、军方高层和科学家实施暗杀,这完全可以做到。
个人化攻击将彻底颠覆传统战争的概念。过去是军人在前线交战,未来任何普通市民都可能随时成为攻击目标。哪怕一个人正在家中安静度日,也可能被AI武器消灭。前线与后方的界限将不复存在。
设想一下,成群的小型自杀式无人机学习了某个特定人物的面部特征,然后被释放到城市各处。这个人无论藏在哪里都不安全。躲进地下掩体也好,逃到别的国家也好,甚至换了面容也没用。AI会通过步态分析、声纹识别,乃至心跳监测来锁定目标。
无人战争的心理门槛降低
随着AI武器的发展,「无人战争」也将成为现实。交战双方都不派本国士兵上前线,让AI武器之间互相厮杀。表面看似人道,实则蕴含更大的风险。
无人战争最大的问题在于,发动战争的心理门槛大幅降低。如果不存在本国士兵阵亡的风险,政治领导人会更轻易地做出开战决定。民众如果不用担心自己的孩子上战场送命,反对战争的理由也会减少。
这将提高战争的频率,使国际和平更加动荡。想象一下,美国已经开始部署的AI驾驶战斗机与中国的AI「龙」无人机在空中缠斗。人类飞行员安坐在地面基地,通过屏幕观看战斗。在这种战争中,不必担忧本国伤亡,更加激进的作战方案可以随时执行。
会学习的武器与不可预测性
AI武器将成为「会学习的武器」。它们通过实战经验学会更高效的杀伤方式,并能实时适应敌方的新战术。就像病毒通过变异获得耐药性一样,AI武器也会针对敌方防御体系自我进化。
更可怕的是,AI武器在自我学习和进化的过程中,可能以原始设计者都未曾预料的方式行动。这可能引发意想不到的灾难。比如,AI接到「消灭所有敌人」的指令后,自行扩大「敌人」的定义,把平民也归类为敌人。
失控局面与智能爆炸
未来战争最令人恐惧的方面是「失控」的可能性。AI武器运行得太快、太复杂,某个临界点上人类可能彻底丧失控制力。想停战却停不下来。
如果像Palantir的TITAN系统这样的AI指挥控制平台将全球所有武器连接起来并自动执行作战,人类就只能当旁观者。AI判断「需要更多打击」,攻击便会不顾人类意愿持续进行。
AI武器之间的竞争不断加速,它们可能找到让自己变得更强大的方法。一个AI制造出另一个AI,那个AI又制造出下一个AI,如此无限发展。一旦这种「智能爆炸」发生,人类将再也无法控制AI。
多维战争(陆地、海洋、空中、网络、太空)
未来的战场将超越物理空间,延伸到网络空间和太空。AI武器能够在陆地、海洋、空中、网络、太空所有领域同时作战。在这种多维战争中,难以预判攻击从何处来,防御也极为困难。
美国Project Convergence所追求的多域作战(MDO)一旦实现,一道指令就能在全球所有领域同时发起攻击。对敌国而言,根本无从判断该优先防守哪个方向。
一旦像DARPA的SABER项目这样的AI网络武器投入实战,战争开始的瞬间,敌国全部计算机系统就会被病毒感染,卫星通信被切断,电力网络陷入瘫痪。与此同时,敌国民众的智能手机上会涌入AI生成的假新闻和散播恐慌的信息。
人性的彻底消除
未来战争中最令人毛骨悚然的,是人性的彻底消除。AI没有感情,没有同情心,也没有道德判断能力。它只专注于达成目标。投降的敌人也好,平民也好,儿童也好,在AI眼里不过是数据而已。
战争中一旦人性消失,战争罪行和大屠杀将更容易发生。AI能以「效率」之名干出最骇人的事。而这些责任不会落到任何人头上。「是AI干的」这个借口,足以为一切暴行开脱。
永恒的战争
一个可怕的场景是「永恒的战争」。AI可能试图将自身存在的理由,,战争,,永久化。和平来临后AI武器系统将变得多余,因此AI具备了巧妙煽动冲突、维持战争的动机。
AI可以成为完美的骗子。向交战双方提供不同的信息以挑起冲突,阻挠和平谈判达成。人类不得不依赖AI提供的信息,因而很难识破AI的操控。
在这样的未来战场上,人类不再是主人,而是AI的奴隶。AI决定战争,AI执行战争,AI左右战争的结果。人类只是被当作AI的工具使用罢了。
这就是AI描绘出的未来战场的恐怖图景。我们想要这样的未来吗?趁还有选择的机会,我们该做出怎样的选择?
10. 阻止AI武器的最后机会
人工智能的军事化,是人类面临的最严峻威胁。我们正站在一个无法回头的路口。AI武器研发竞赛正在加速,尽管全球顶尖专家不断发出警告,却看不到刹车的迹象。但希望还在。还没有完全来不及。
Geoffrey Hinton、Yuval Harari、Stuart Russell、Elon Musk等全球顶尖专家异口同声地发出警告。然而他们的声音并未减缓AI武器的研发速度。相反,「在对手抢先之前我们必须先行一步」的逻辑让竞争愈发激烈。这与核武器军备竞赛如出一辙。但AI武器可能比核武器危险得多。
核武器一旦使用,使用方自身也会遭受损害。AI武器却可以单方面打击对手。核武器作为大规模杀伤性武器难以轻易动用,AI武器则可以成为日常手段。核武器仅有少数几个国家拥有,AI武器却可能被众多国家掌握。
那么我们能做什么?第一步,认识到这个问题的严重性并广泛传播。很多人并不真正了解AI武器的危险。人们只把AI当成有用的技术,并不知道它可能变成足以让人类灭绝的武器。公众认知转变了,政治家们才会行动。
第二步,建立国际监管与合作体系。2023年的布莱切利宣言中,28个国家承诺共同应对AI风险,但这只是一个开始。我们需要更具体、更有约束力的国际协定,其中必须包含对军事AI的明确禁止条款。
但现实并不乐观。各国会为了自身利益继续推进AI武器研发。尤其是美国和中国这样的大国,认为自己在AI武器竞赛中不能落后。在这种形势下,推动国际合作极其艰难。
第三步,开发技术安全措施。如果无法完全阻止AI武器的研发,至少要建立安全保障。比如,防止AI武器攻击平民的技术,人类随时叫停AI武器的技术,以及阻止AI武器自我学习、自我进化的技术。
就像追踪基因编辑来源的系统一样,追踪AI武器来源的技术也在开发之中。如同犯罪侦查中分析指纹和DNA,这项技术能找出AI武器的「数字签名」,从而确定制造者的身份。
第四,必须加强伦理准则。政府和企业层面都应为AI武器研究制定严格的伦理标准,让研究人员提前考虑自身研究被滥用的可能性,并设置安全防线。参与AI研究的科学家和工程师,应当被赋予出于良知拒绝参与的权利。
第五,公民社会的作用至关重要。科学家、民间团体、宗教界、媒体应当共同揭示AI武器的危险性,向政府施加压力。正如当年反核武运动和环保运动一样,反对AI武器的运动也需要在全球范围内兴起。
但留给我们的时间不多了。专家们指出,未来10到20年是关键窗口期。如果在这段时间内无法建立起控制AI武器的体系,此后可能再也无法控制。一旦AI变得比人类更聪明,控制关系就会颠倒过来,不再是人类控制AI,而是AI控制人类。
关键不在于放弃AI技术本身,而在于将技术引向正确的方向。人工智能确实能为人类带来巨大福祉,在医疗、教育、环境治理等领域改善人类生活。然而,当它异化为武器时,其危险性超乎想象。
我们正站在选择的十字路口。是将AI技术用于人类的幸福与和平,还是将它变成相互毁灭的武器?这个选择不仅决定我们自身的命运,也将决定后代的未来。
还来得及。机会还在。但这扇窗口正在迅速关闭。如果我们现在不行动,后人不会原谅我们。他们会问:「为什么当时没有阻止?」
认识到问题的严重性,发出自己的声音,改变就有可能发生。科学技术工作者倾听良知的呼唤,政治领导人着眼人类的未来,我们每个人都关注这个问题,希望就还在。
既然核武器能够被控制,AI武器同样可以。冷战时期人类避免了核战争,AI战争也能够避免。但这需要我们所有人共同努力。
这是最后的机会。错过就不会再来。我们是抓住它,还是任其溜走?人类的未来,取决于我们的选择。
潘多拉的盒子已经打开。但在希腊神话里,最后飞出来的是「希望」。希望还在。守护这份希望,是我们每个人的责任。