[AI書房] 第31章 自律致死兵器（LAWS）論争：トリガーは誰が引くのか？
人工知能戦闘機、人工知能空軍
第31章 自律致死兵器（LAWS）論争：トリガーは誰が引くのか？
金京鎮
高度3万フィート、速度マッハ1.2。キャノピーの外は漆黒の暗闇で、操縦席の中ではレーダー警報受信機（RWR）が休むことなくきしみ続けています。敵の地対空ミサイルレーダーが私を捕捉しました。この瞬間、私の指は操縦桿の上の赤いボタンの上に置かれています。武器発射ボタンです。その金属的な冷たい感触。心臓が狂ったように高鳴ります。
このとき、私は自問します。この引き金を引くべきなのか。
標的は正しいのか。民間人はいないのか。味方は安全か。数百回の訓練と実戦が私の判断を助けます。そして決心します。発射。ミサイルがレールを蹴り上げ、飛び出します。その結果がどうであれ、責任は私のものです。それが戦闘機パイロットとして20年間守ってきた規則でした。
しかし今、その規則が揺らいでいます。
自律型致死兵器システム、英語でLAWS（Lethal Autonomous Weapon Systems）と呼ばれる機械たちが戦場に現れました。これらの機械は人間の命令なしに自ら標的を探し、自ら追跡し、自ら破壊します。ハリウッド映画に登場するターミネーターを思い浮かべるかもしれませんが、現実はより静かで、より恐ろしいです。
イスラエルのハロップ（Harop）ドローンを見てください。この機体は空を哨戒中に敵のレーダー信号を感知すると、自ら突進して自爆します。トルコのカルグ2（Kargu-2）ドローンはリビア内戦で後退する兵士たちを人間の統制なしに自律的に追跡し、攻撃したと報告されています。これは2020年に起こった出来事です。もう5年前の話です。
2024年、国連総会は自律型致死兵器に関する決議案を圧倒的な票差で採択しました。166カ国が賛成し、わずか3カ国だけが反対しました。ベラルーシ、北朝鮮、ロシアです。この決議案は国際人道法が自律兵器の全生涯周期にわたって適用されるべきだと明記しました。2025年11月には156カ国が再び自律兵器規制に賛成しました。国際社会がこの問題を深刻に受け止めているという証拠です。
ところで、なぜこれが問題なのでしょうか。
引き金を引くことは単純な物理的行為ではありません。それは道徳的決定です。中世の騎士が剣を振るう時、彼は相手の目を見ていました。相手が降伏すれば、剣を降ろしました。ローマの兵士がグラディウスを向ける時も同じことでした。人間は慈悲を示すことができます。躊躇というものを知っています。
機械はそうではありません。
アルファドッグファイト（AlphaDogfight）でAIが人間パイロットを5対0で打ち破った時、そのAIには躊躇がありませんでした。恐怖もなく、慈悲もありませんでした。ただ数学的最適値があるだけでした。
敵を破壊する最も効率的な経路。もしその相手が降伏の身振りをしたなら？AIは気付かなかったはずです。コードに「降伏ジェスチャー認識」という行がなければね。
賛成論者たちの主張にも一理あります。
彼らは言います。「機械は疲れません。恐怖に苦しみません。復讐心に燃えません。」これは事実です。人間の兵士たちは時に戦争のストレスの中で恐ろしい過ちを犯します。民間人を誤認射撃することもあり、感情に流されて交戦規則を破ることもあります。機械は入力された規則を刃のように守ることができます。理論的には。
しかし戦争は理論ではありません。戦争は混沌です。
イラク上空を飛ぶ時のことを考えてみます。地上に銃を持った男がいます。彼は敵軍ですか？それとも家族を守ろうとする民間人ですか？あるいは味方と協力している現地のインフォーマントですか？人間のパイロットは文脈を見ます。銃口がどこを向いているのか、周囲に子どもたちがいるのか、彼の行動が攻撃的なのか防御的なのか。AIはピクセルとパターンだけを見ます。0と1で世界を分類します。
より大きな問題があります。戦争の敷居が低くなるということです。
血を流さない戦争は政治家たちにとって甘い誘いです。棺に国旗を掛けて故郷に送り返すことがなければ、戦争を決定することはずっと簡単になります。壊れた鉄屑だけが戻ってくれば、メディアの非難も減るでしょう。国家はより頻繁に、より軽く武力を行使するようになるでしょう。終わりなきアルゴリズム紛争の時代が開かれるかもしれません。
現在、国際社会は緊張して対立しています。
一方には完全禁止を主張する国々があります。セルビア、キリバスのような国です。彼らは言います。「人間の統制なき殺傷兵器は人間の尊厳に対する冒涜です。」他方には、米国、ロシア、イスラエルのようにすでにこの技術をリードする国々があります。彼らは既存の国際法で十分だと主張しています。「意味のある人間統制」という表現さえ拒否しています。
2025年、国連政府専門家グループ（GGE）は「ローリングテキスト」と呼ばれる文書を作成しました。これは合意可能な規制要素をまとめた草案です。ここには重要な内容が含まれています。自律兵器は予測可能であり、追跡可能であり、説明可能でなければなりません。人間の監督者はいかなる時もシステムを停止できなければなりません。民間人が密集した地域への配置は回避しなければなりません。しかし合意に到達するにはまだ長い道のりがあります。
問います。引き金を引く者の資格とは何か。
パイロットとして、私はその資格が責任感だと信じています。ミサイルを発射すれば、その結果の重みを私が背負います。眠られぬ夜、悪夢、生涯の記憶。それが人間の戦士の十字架です。機械はその重みを知りません。コードに「罪悪感」という項目はありません。
我々は機械から効率を借りることができます。しかし、魂まで売ってはいけません。