[AI书房] 第31章 自主杀伤武器（LAWS）争论：谁来扣动扳机？
人工智能战斗机，人工智能空军
第七部 算法战争的伦理与法律
第31章 自主杀伤武器（LAWS）争论：谁来扣动扳机？
金京镇
高度三万英尺，速度1.2马赫。座舱盖外漆黑一片，座舱里雷达告警接收机（RWR）响个不停。敌方地对空导弹雷达已经咬住了我。这一刻，我的手指搭在操纵杆上那个红色按钮上。武器发射按钮。金属冰冷的触感。心脏疯了一样跳。
这时候我问自己：这个扳机，该不该扣？
目标对不对？有没有平民？友军安全吗？几百次训练和实战帮我做出判断。然后我下定决心。发射。导弹脱离挂架飞了出去。不管结果如何，责任是我的。这是我当战斗机飞行员二十年来守住的规矩。
可现在，这个规矩正在动摇。
自主杀伤武器系统，英文叫LAWS（Lethal Autonomous Weapon Systems），这些机器已经出现在战场上了。它们不需要人类下达命令，自己搜索目标，自己跟踪，自己摧毁。你可能会联想到好莱坞电影里的终结者，但现实更安静，也更可怕。
看看以色列的哈洛普（Harop）无人机。这家伙在天上盘旋，一旦探测到敌方雷达信号，就自己俯冲过去自爆。土耳其的卡尔古-2（Kargu-2）无人机，据报告在利比亚内战中曾在没有人类控制的情况下，自主追踪并攻击了撤退中的士兵。这件事发生在2020年。已经是五年前的事了。
2024年，联合国大会以压倒性票数通过了一项关于自主杀伤武器的决议。166个国家投了赞成票，只有3个国家反对：白俄罗斯、朝鲜、俄罗斯。决议明确写道，国际人道法应当贯穿自主武器的整个生命周期。2025年11月，又有156个国家再次投票支持自主武器管控。国际社会确实在严肃对待这个问题。
那为什么这会成为一个问题？
扣扳机不只是一个物理动作，它是一个道德决定。中世纪骑士挥剑的时候，他看着对手的眼睛。对方投降了，他收剑。罗马士兵举起短剑时也一样。人类懂得怜悯，知道什么叫犹豫。
机器不懂。
AlphaDogfight项目里AI以5比0击败人类飞行员的时候，那个AI没有丝毫迟疑。没有恐惧，没有怜悯。只有数学上的最优解。
摧毁敌人的最高效路径。假如那个对手做出了投降的手势呢？AI不会察觉。除非代码里写了一行「识别投降姿态」。
支持者的论点也有道理。
他们说：「机器不会疲倦，不会被恐惧击垮，不会被复仇心驱使。」这是事实。人类军人有时候在战争的高压下犯下可怕的错误，误杀平民，情绪失控违反交战规则。机器可以像刀切一样严格执行预设的规则。理论上是这样。
但战争不是理论。战争是混乱。
想想在伊拉克上空飞行的时候。地面上有个拿枪的男人。他是敌军？还是保护家人的平民？又或者是跟友军合作的当地线人？人类飞行员看的是上下文：枪口朝哪个方向，周围有没有孩子，他的行为是攻击性的还是防御性的。AI看到的是像素和模式，用0和1给世界分类。
还有一个更大的问题：战争的门槛降低了。
不流血的战争对政客来说是甜蜜的诱惑。如果不用把盖着国旗的棺材送回家乡，发动战争就容易得多了。如果回来的只是一堆废铁，媒体的批评也会少很多。国家会更频繁、更轻率地动用武力。一个算法冲突无休无止的时代，可能就此打开。
眼下国际社会的对立相当紧张。
一边是主张完全禁止的国家，塞尔维亚、基里巴斯这样的国家。他们说：「没有人类控制的杀伤性武器，是对人类尊严的亵渎。」另一边是美国、俄罗斯、以色列这些已经在这项技术上领先的国家。他们认为现有国际法已经够用，连「有意义的人类控制」这个说法都拒绝接受。
2025年，联合国政府专家组（GGE）制定了一份被称为「滚动文本」的文件。这是一份汇集了各方可能达成共识的管控要素的草案。里面有几条关键内容：自主武器必须可预测、可追溯、可解释；人类监督者必须能随时中止系统运行；在平民密集区域应避免部署。但要达成最终共识，路还长得很。
我想问一个问题：扣扳机的人，需要什么资格？
作为飞行员，我相信那个资格是责任感。导弹发射之后，结果的重量压在我身上。失眠的夜晚，噩梦，一辈子的记忆。这是人类战士的十字架。机器不知道这份重量。代码里没有「负罪感」这一项。
我们可以向机器借效率。但不能把灵魂也卖掉。