AI書房
本でAIを読む
金京鎮弁護士のAI・法律・産業・歴史・政治・文化をテーマにしたオンライン書籍を収録しています。各書きは目次・序文・章・エピローグで構成され、連続読書が可能です。
[AI書房] 第10章 ケンダル長官の搭乗:AIパイロットに武器発射を委ねる
人工知能戦闘機、人工知能空軍
第10章 ケンダル長官の搭乗:AIパイロットに武器発射を委ねる
金京鎮
操縦席に座った瞬間、あらゆる論議が突然静寂に沈みます。会議室で自律性だの倫理だのと議論するのは簡単です。キャノピーを閉じて滑走路を転がり出れば、その言葉は全て重さを取り戻します。なぜなら今や概念ではなく、重力が答えるからです。
2024 年 5 月 2 日、70 代の紳士がカリフォルニア州エドワーズ空軍基地の熱い滑走路に立ちました。
米空軍長官フランク・ケンダルでした。彼は単なる行政官ではありませんでした。冷戦期に陸軍将校として勤務し、生涯を国防技術エンジニアにして調達専門家として過ごしてきた技術官僚でした。彼がこの地を訪れた理由は、単に視察するためではありませんでした。自分が推し進める AI 無人戦闘機プログラムの運命を決定づけるために、自ら命を懸けて AI が操縦する戦闘機に乗り込む決意を固めたのです。
彼が搭乗した機体は、数多くのテストを経た X-62A VISTA でした。前席にはケンダル長官が、後席には万が一の事態に備えた安全操縦士が搭乗しました。この飛行のため、ShieldAI は強化学習ベースの人工知能を航空機に搭載しました。ShieldAI は 2021 年にヘロン・システムズを買収した企業でした。まさにそのヘロン・システムズ、2020 年のアルファドッグファイトで人間操縦士を 5 対 0 で打ち破ったその AI の創造者です。搭載された自律エージェントは、その時の優勝 AI の直系の後裔でした。
キャノピーが閉じられ、エンジンが轟音を立てて点火されました。離陸直後、ケンダル長官は歴史的な瞬間を迎えました。操縦権を AI に譲ったのです。「操縦桿にはボタンがあり、基本的に自動化を開始しました」と、彼は後に説明しました。
エドワーズ空軍基地上空の訓練区域に進入すると、仮想敵機の役を担った有人 F-16 戦闘機が接近してきました。ケンダル長官が乗った X-62A は即座に戦闘モードに突入しました。
戦闘が始まりましたが、ケンダル長官と後席の安全操縦士の両者とも、操縦桿とスロットルに手を触れませんでした。
機体は自ら猛烈に旋回しながら、敵機の尾部を捉えるために機動しました。AI はケンダル長官を乗せたまま、最大 5G に達する高機動を展開しました。体重が 5 倍に増加する圧力です。70 代の
老人の身体にとっては、決して軽くない負担でした。その圧力の中でも、AI は冷徹に敵機の予想経路を計算し、有利な位置を先制するために絶えず機体をねじりました。
時速 885 キロメートル以上の稲妻のような機動が続きました。
二機の航空機が約 300 メートル以内で競い合いながら、ほぼ正面で向き合い、相手を脆弱な位置に追い込むためにねじり回転しました。空での接近は人間関係の接近ではありません。300 メートル以内で二つの機体が互いの失敗を待ちながら鼻を突き合わせて回転するというのは、小さな誤りが直ちに死につながる距離です。
こうした状況で搭乗者が感じる感覚は、華麗さではなく圧迫感です。装備ではなく、身体が先に「これは本当だ」と語ります。
AI は敵機の射撃統制レーダーが自分を狙おうとするたびに、巧妙に回避機動を行い、逆襲の機会を伺いました。人間パイロットが操縦する F-16 は猛烈に攻撃してきましたが、X-62A の AI は隙を見せませんでした。むしろ AI は人間操縦士が予測しがたいタイミングで反撃し、優位を占めました。
約 1 時間の激しい飛行を終えて基地に帰還したケンダル長官の表情は興奮に満ちていました。彼は操縦席から降りてきながら微笑みました。飛行直後に開かれた記者会見で、彼は世界中が注目する発言を残しました。
「飛行中に見たもので十分です。戦争で武器発射の是非を決定する能力をまだ学習中のこの AI に任せることができると信じています。」
この発言は即座に論争を引き起こしました。
武器管制専門家と人道主義団体は、AI がいつか追加的な人間の相談なしに人を殺す爆弾を自律的に投下できるようになることについて深く懸念していました。国際赤十字委員会は「生死を決定することをセンサーとソフトウェアに任せることについて、広範で深刻な懸念があります」と警告しました。
しかし、ケンダルは武器が使用される場合、システムには常に人間の監督があるだろうと強調しました。「それを持たないことが安全保障上のリスクです。この時点で、私たちはそれを持たなければなりません。」
操縦士の観点から、武器発射はボタン一つではありません。武器発射は戦術、識別、交戦規則、味方位置、弾種の後爆風までを含む連鎖的責任です。空戦での発射決定は往々にして 1 秒以内に下さねばなりませんが、その 1 秒に詰まった判断材料は思ったより汚いものです。センサーは騙されることができ、標的は欺瞞できることができ、データリンクは断たれることができ、人間は誤判できます。AI は誤判しないのではなく、誤判の形態が異なります。人間は疲労と恐怖に揺らぎますが、AI は学習分布の外で奇妙な確信を見せることができます。だから武器発射を AI に任せるというのは、AI がより賢いかどうかではなく、私たちがその誤判の形態をどのような安全装置で封印できるかという問題です。
ケンダルの搭乗デモンストレーションは、米国議会と国防予算担当者に送られた強いメッセージでもありました。
米空軍は、1 機あたり数千億円に達する F-35 や次世代戦闘機だけでは、中国の物量攻勢に対応できないと判断しました。その解決策が、有人戦闘機 1 機と AI 無人戦闘機 3~5 機が編隊を組む有無人複合システムです。米空軍は 2028 年までに最低 1,000 機以上の AI 無人戦闘機を実戦配置する計画を立てています。F-35 や次世代戦闘機 1 機が複数の AI 無人機を従えて行動し、危険な任務は AI に任せ、人間は後方から指揮する形式です。
ケンダルは付け加えました。「これは変革的な瞬間です。数十年間想像してきた自律空中戦の可能性が今や現実になりました。遠からぬ将来、空軍は二つの種類に分かれるでしょう。この技術を導入した空軍と、導入しなかったために彼らに敗北する空軍です。」
ShieldAI の製品担当上級副社長ブレット・ダッシャーはこのように説明しました。「私たちは研究室から実際の航空機へ行く方法を実証しました。技術をそこまで持ち込むだけでなく、必要な規制遵守、テストおよび検証部分を支援するための私たちのスタッフの方法も実証しました。」彼によれば、搭載された自律性は民間用に作られたものではありませんでした。A 地点から B 地点へ飛行するために作られたものでもありませんでした。はるかに高度な何かをするために作られました。敵がどこにいて、敵が何をしており、安全と武器効果性の両方を解決するために自分の航空機をどのように位置付けるかを動的に推論する必要がありました。
VISTA の軍運用者たちは、世界のどの国もこのような AI ジェット機を保有していないと述べています。ソフトウェアはまずシミュレータで数百万個のデータポイントで学習し、その後実際の飛行中に結論をテストし、その実際のパフォーマンスデータが再びシミュレータに入力され AI がより多く学習する循環構造です。中国も AI を保有していますが、シミュレータの外でこのようなテストを
実行できる方法を見つけたという兆候はありません。戦術を初めて学ぶ下級将校のように、いくつかの教訓は空中でのみ学べると VISTA の試験操縦士たちは述べています。
首席試験操縦士ビル・グレイの言葉がこれを整理します。「実際に飛行するまでは、すべて推測です。そしてそれを見つけるのに時間がかかるほど、有用なシステムを整えるまでに時間がさらにかかります。」
VISTA は 2023 年 9 月に初めての AI 制御ドッグファイトを飛行した後、約 24 回の同様の飛行を実施しました。
しかし、プログラムは各交戦で非常に速く学習しているため、VISTA でテストされている一部の AI バージョンは既に空対空戦闘で人間操縦士に勝っています。この基地の操縦士たちは、ある意味で自分たちの後継者を訓練したり、より少ない数の操縦士が必要な将来の構造を形成している可能性があることを知っています。しかし、彼らはまた、米国が自身の艦隊を保有していなければ、AI 制御航空機を保有する敵と空で対峙したくないと述べています。
「私たちは走り続けなければなりません。そして速く走らなければなりません」とケンダルは述べました。
率直に言えば、この事件の真のメッセージは AI が武器を発射するということではありません。AI が武器を発射する方向へシステムが進化する誘因が非常に強いということです。速度、コスト、生存性。人間が毎回ループを回って決断するには戦場が速すぎ、有無人複合編隊で人間がすべての発射を直接統制する方式には拡張性に限界が生じます。今後の現実的な図式はおおよそ次のとおりです。平時とグレーゾーンでは人間統制が強化され、AI は推奨と警報中心で動作します。高強度有事には人間が政策と禁止線をあらかじめ設定し、AI は限定的条件下で交戦権を拡大します。最終段階では、人間が常にボタンを押すのではなく、人間がボタンを押す必要がない条件を設計するへと移行します。
ケンダルが操縦席で見たのは、まさにその移行の最初のページです。人間はそのページを読む準備ができていないかもしれませんが、空はすでに次の章に進んでいます。
1947 年チャック・イェーガーが X-1 に乗って音速を突破し超音速時代を切り開いたのであれば、2024 年フランク・ケンダルは X-62A に乗って AI 空中戦時代を切り開きました。機械が人間の助けなしに自ら空を飛び上がり、人間と競い合い、人間の指導者から合格点を得た日でした。今や空の支配権は人間だけのものではなくなりました。アルゴリズムエースの時代が滑走路を蹴って飛び立ちました。
