AI书房
用书来读懂AI
这里收录金京镇律师的AI、法律、产业、历史、政治、文化主题在线书。每本书都按目录、序言、章节、尾声整理,方便连续阅读。
[AI书房] 第35章 军备竞赛与国际规范:出口管制和技术标准的两难
人工智能战斗机,人工智能空军
第七部 算法战争的伦理与法律
第35章 军备竞赛与国际规范:出口管制和技术标准的两难
金京镇
1945年7月16日黎明,美国新墨西哥州沙漠中发生了人类历史上第一次核爆炸。曼哈顿计划负责人罗伯特·奥本海默凝视那道闪光,想起了印度教经典中的一句话:「我现在成了死神,世界的毁灭者。」人类在那天打开了潘多拉的盒子。而现在,我们正在打开第二个。
AI军备竞赛。
俄罗斯总统弗拉基米尔·普京在2017年说过:「谁主宰了人工智能,谁就将主宰世界。」这不是空话。中国以2030年AI领域全球第一为目标,正在举国动员。美国通过「复制者(Replicator)」计划宣布,要在18到24个月内将数千套自主武器系统部署到战场。这不是一场技术竞赛,而是关乎国家存亡的战争。
问题在于这场竞赛没有刹车。美国开发了,中国就得跟上。中国开发了,俄罗斯就得跟上。「敌人拥有机器人军队,我们难道只用人命去拼?」这种恐惧正在席卷全球。国际规范与管控远远跟不上技术的速度,被甩在后面。
半导体战争:21世纪的石油禁运
二战期间,美国对日本实施了石油出口禁令。没有石油,坦克、战斗机、军舰都无法运转。日本为了获取石油向南方推进,最终袭击了珍珠港。石油改变了战争的走向。
今天的石油就是半导体。训练和运行AI需要高性能GPU,即图形处理器。英伟达的A100、H100这类芯片已不再是普通电脑零件,而是战略物资。没有这些芯片,就无法训练大规模AI模型,无法打造自主无人机的大脑。
美国为了遏制中国的军事AI能力,正在实施严厉的出口管制。从2022年开始的对华半导体出口限制逐年加强。2023年10月,美国商务部工业与安全局大幅收紧了高性能AI芯片的管控。以芯片的总计算性能、性能密度、数据
中心用途设计与否三项标准来识别管控对象。其战略意图是从物理层面阻止中国开发尖端军事AI。
但这就像在沙滩上筑城。水总能找到出路。多家半导体企业向中国市场销售低性能AI芯片来绕过管制。美国一降低许可标准,企业就设计出刚好低于标准线的芯片。管制与规避之间的追逐战从未停止。
更大的问题在于:硬件可以在海关拦截,因为它是实物。但软件呢?算法可以装在一个U盘里,或者通过一封加密邮件跨越国境。要完全管控通过互联网共享的开源AI模型,根本不可能。已有报告指出,中国的研究机构正在利用美国的开源模型进行军事情报分析。
低成本AI武器的扩散:穷人的空军
还有更大的噩梦。不是大国之间的竞争,而是扩散(Proliferation)。
过去,精确制导武器和隐身战机是少数强国的专利,需要数万亿的研发经费和数十年的技术积累。但AI技术极大地降低了准入门槛。在乌克兰战争中,我们目睹了500美元的商用无人机加装简易AI软件后摧毁价值数百万美元坦克的场景。这是不对称战力的极致放大。
截至2025年,俄军正对乌克兰发动大规模无人机攻击。一次空袭中数百架无人机同时出动。9月9日至10日之间,800架攻击无人机被投入战斗。其中约20架侵入了波兰领空,NATO防御网仅击落了4架。面对大规模无人机攻击,传统防空体系的局限暴露无遗。
现在恐怖分子和犯罪组织也变得危险了。只要具备研究生水平的编程能力和商用无人机,就可以利用人脸识别技术制造出暗杀特定人物或袭击人群的自主杀伤武器。这是「DIY杀人机器人」的时代。攻击者难以追溯,失控状态下可能伤及平民。技术越是普及化,恐惧也越是普及化。
国际规范的两难:禁止还是管理
国际社会意识到了这一危险。联合国《特定常规武器公约》(CCW)会议从2014年起就在讨论对致命性自主武器系统(LAWS)的管制。但11年过去了,共识依然遥遥无期。
2024年12月,联合国大会通过了关于致命性自主武器的决议。166个国家赞成,3个国家(俄罗斯、白俄罗斯、朝鲜)反对,15个国家弃权。决议提及了一种「二元路径」的可能性:禁止部分致命性自主武器,对其余进行规制。联合国秘书长安东尼奥·古特雷斯呼吁在2026年前缔结一项具有法律约束力的公约,禁止在无人类控制下运作的致命性自主武器。
但现实不同。美国、俄罗斯、以色列等军事强国反对全面禁止。他们的逻辑是:「AI比人类打击更精准,能减少平民伤亡。」深究其实质,是不愿放弃已在开发中的尖端武器。
人权组织和部分国家持另一种主张:「不能让机器决定人的生死。」从伦理角度讲,这话没错。基里巴斯这样的小岛国主张完全禁止。这个国家在1957年到1962年间经历了33次核试验,比谁都了解新型武器的恐怖。
韩国采取了务实立场。反对全面禁止LAWS,主张必须确保「有意义的人类控制(Meaningful Human Control)」。面对朝鲜这一现实威胁和人口断崖的困境,AI武器对韩国而言是不可放弃的生存手段。
CCW会议实行协商一致原则。一个国家的反对就能否决提案。所以十多年来没有实质性进展。制定规范就是如此艰难。
技术标准之战:谁来制定规则
与规范同样重要的是技术标准。未来战场是所有武器通过网络连接的空间。美国的JADC2(联合全域指挥控制)和韩国的有人-无人协同体系要想成功,需要不同AI系统之间能相互沟通的通用语言和规则。
问题是谁来制定这些标准。美国希望全世界都遵循自己的标准。NATO成员国要与美国装备兼容,就必须遵循美国标准。2025年NATO发布了
数据利用战略,强调互操作性与整合。这不是一个技术问题,而是技术依附的问题。
欧洲和韩国等拥有独立国防工业能力的国家面临两难。遵循美国标准,联合作战会更顺畅;但同时会被美国技术绑定。以色列正在构建自己独立的AI生态系统,高喊「主权AI」。
标准的两难是这样的:标准强,安全性和互操作性就好,但创新速度会变慢,主导标准的国家掌握规则。标准弱,各自开发会更快,但战场上友军之间可能无法通信。连接断裂的瞬间,AI不再是战力倍增器,而沦为孤立的玩具。
世界正在因AI技术壁垒被分成两个阵营。美国及其盟国的标准,中国及其伙伴国的标准。如同冷战时期的铁幕,一道数字幕墙正在切割世界。
在潘多拉的盒子面前
我们现在站在与1945年核武器开发者相似的位置。我们创造的技术,既可能让世界更安全,也可能将其引向毁灭。AI军备竞赛是无法回避的现实,因为我们停下来,敌人不会停。
但无序的竞争只会导致共同毁灭。我们必须进行明智的竞争。第一,必须确保可靠性。我们自己必须能够控制自己的AI。对可解释AI(XAI)和安全技术的投入不是选项,而是必须。像DARPA的SABER项目那样,必须打造在敌方攻击下依然稳固的强健AI。
第二,需要国际协作。至少要加强出口管制和防扩散体系,防止致命AI技术流入恐怖分子或流氓国家手中。即便完美管控不可能,至少可以减缓扩散速度。
第三,必须维持人类的控制。扣动扳机的权力必须留给人而非机器,「人在回路中(Human-in-the-loop)」的原则必须坚守到底。这既是伦理问题,也是生存问题。无法控制的武器最终会伤害我们自己。
作为战斗机飞行员,我渴望更好的武器。但我不想要无法控制的武器。在算法战争的时代,战争的责任与伦理终究必须留在人类手中。这是我们与机器的不同之处,是我们必须守住的末尾防线。
在座舱里,国际规范轻如纸张。但纸张累积起来,就会改变武器研发的方向和市场的大门。在算法战争的时代,编队飞行的不只是导弹,还有标准、许可证和法规。不懂这些,在战场上就会落后。落后了,就是终局。