「第三次世界大戦がどのような兵器で行われるのか、私にはわかりません。しかし第四次世界大戦は棒と石で行われるでしょう。」— アルベルト・アインシュタイン

1. AlphaGoから自律戦闘機へ

2016年3月、ソウルのフォーシーズンズホテルで行われた一局の囲碁が、人類の運命を変えてしまいました。グーグル・ディープマインドのAlphaGoがイセドル九段を4勝1敗で破った その瞬間、世界中の軍事専門家たちの顔に戦慄が走りました。単なるゲームの勝負ではありませんでした。人工知能が人間の最も複雑な思考領域まで征服したという宣言だったのです。

碁盤上の361個の交点で起こる無限の場合の数は、戦場の複雑性と驚くほど似ていました。相手の意図を読み、罠を仕掛け、長期的な戦略を立てる能力。AlphaGoが示したのは、まさに戦争で最も重要な能力たちでした。イセドルが「理解できない手」と言ったAlphaGoの奇妙な手は、人間が想像もできなかった新しい戦術の可能性を示しました。

しかし、本当の衝撃は3年後に訪れました。2019年、AlphaStarという名のAIがスターク ラフトのプロゲーマーたちを次々と撃破した時、ペンタゴンの将軍たちは眠ることができませんでした。スターク ラフトは単なるゲームではありませんでした。リアルタイムで変化する戦場で限られた資源で敵に対抗しなければならないこのゲームは、現実の戦争の縮図でした。複数の戦線で起こる同時多発的な交戦、情報の霧の中で下さなければならない生死を分ける判断、敵の心理を読み、欺瞞作戦を展開する能力まで。

AlphaStarが人間の最高の棋士たちを圧倒する様子を見た米国国防総省は、即座に行動を起こしました。戦場状況認識と敵脅威評価の自動化、リアルタイム戦術計画修正と最適化された資源配置、自律武器体系の高度化を通じた群ドローン制御。これらすべてがAlphaStarが示した能力の軍事的応用でした。

そして2020年、想像が現実になりました。米国国防総省が主催した人工知能と人間のトップガンの模擬空中戦で、『HERON』という名のAIシステムが最高水準のF-16パイロットを5対0で完璧に制圧しました。シミュレーションではありましたが、実際の空中戦と最大限に類似した条件で行われた勝負でした。

HERONが示したのは、人間の限界を超える恐ろしい能力でした。人間なら気絶してしまう極限の重力加速度の中でも完璧な意思決定を下し、恐怖や躊躇なく大胆で正確な攻撃を敢行しました。感情も、疲労も、恐怖もない完璧な殺傷機械の誕生でした。

この成果に励まされた米空軍は、直ちにX-62A VISTAという実験的なAI戦闘機の開発に着手しました。F-16をベースにしたこの機体には、人工知能学習のための最先端コンピュータ装置とセンサーがぎっしり詰め込まれていました。2年間の厳しい学習を経た後に実施された実際のテストで、この戦闘機は17時間連続で飛行し、人間パイロットとの空中戦で完璧な性能を示しました。

時速1200マイルの極限速度で動きながらも、仮想敵機と610メートルという息もつかせぬ超近距離空戦を繰り広げる様子は、戦争史に新しい章を開きました。AIは複雑な攻撃と防御機動を自ら判断して完璧に実行しました。人間が介入する余地は全くありませんでした。

2024年、米空軍参謀総長フランク・ケンダルが直接X-62A VISTAに搭乗してAIの戦闘能力を体験した後に発した言葉は、予言のようでした。「これからは2種類の空軍だけが存在するでしょう。AI技術を航空機に統合する空軍と、統合しないまま現状維持をしながら結局墜落する空軍、この2種類だけです。」

これは大言壮語ではありませんでした。米国は2028年までにAI操縦戦闘機1000台を実戦配備するという野心的な計画を発表し、すでにその配備を開始していました。「パイロットの生命を危険にさらすことなく、最も危険な任務を遂行できるようになりました」という米空軍将軍の言葉は、戦争の本質が根本的に変化していることを宣言するものでした。

今や高度化したAIが搭載された米国の戦闘機が他国の既存戦闘機と空中戦を繰り広げるなら、それはもはやパイロットの技量や戦闘機性能の比較ではありません。純粋にAI対人間の勝負となり、その結果はすでに決まっています。

皮肉なことに、欧州連合のAI法はAIの活用をリスク度に基づいて細かく規制していますが、軍事分野のAIについては法律の適用そのものを除外しています。民間分野の人工知能についてはしっかり検討していますが、軍事分野の人工知能については例外としているのです。韓国のAI基本法も同様で、米国と中国も軍事AI規制に関する一般法そのものが存在しない状況です。

各国が軍事AI開発については何ら制約を受けないという意志を示しているのです。100メートル走のスタートラインに並ぶ選手たちのように、誰も取り残されてはならないという切迫感に苛まれています。問題は、この競争で1位になった国が得るものが単なる栄誉ではなく、世界全体を支配できる絶対的な力だという点です。

2. なぜAI兵器を止められないのか

ゲーム理論の『囚人のジレンマ』ほどAI兵器開発のジレンマを正確に説明する概念はありません。2人の囚人が互いに協力すれば両者とも良い結果を得られますが、相手が裏切ることを恐れて結局両者とも悪い選択をしてしまう、その恐ろしい罠のことです。

すべての国が協力してAI兵器開発を中止すれば、世界はより安全になり、人工知能も人類の幸福のために使用することができるでしょう。しかし現実は厳しいものです。どの国であれ密かにAI兵器を開発すれば、その国は他のすべての国を圧倒できる絶対的な力を手にすることになります。こうした恐れのために、どの国もAI兵器開発を中止することができず、悪循環に陥っています。

グーグルの元X担当幹部だったモー・ガウダトはこのジレンマの深刻さを正確に指摘しました。AI開発の停止が実質的に不可能であり、国家が囚人のジレンマに陥ってスーパーインテリジェンスAI開発競争を止められないということです。知能は絶対的なスーパーパワーです。核兵器にせよ経済力にせよ外交力にせよ、他のあらゆる力を創造することができる根本的な力が知能なのです。AIで先行する国家は軍事的にだけでなく経済的、政治的にも圧倒的な優位を占めることになります。

米国の状況を見れば、この競争の実体が明らかに明かされます。米国国防総省は2022年に最高デジタル・AI責任者局(CDAO)を設立し、国防総省全体のAI能力を強化しています。長官直属の機関であるCDAOは600を超えるAIプロジェクトを1つの統合されたエコシステムとして管理する『中央ハブ』の役割を担っています。こうした軍事AI専任直轄組織の存在そのものが、米国がAI兵器開発にいかに真摯かを示しています。

CDAOの中核的な任務は、検証されたAI技術を全軍が共に使用できるよう統合・拡散させること、AI開発および導入速度を大幅に高めること、そしてAI使用原則および標準を作成することです。彼らはJupiterというAI開発共通プラットフォームとAdvanaというデータ分析システムを構築し、国防総省全体が共に活用しており、複雑な導入手続きを簡素化した迅速な購買制度を通じてAI技術を現場に適用する速度を革新的に高めました。

米国国防高等研究計画局(DARPA)の哲学はより恐ろしくも明確です。「敵より先に未来を発明する」というモットーで、10～15年後の未来戦場を支配するAI技術を開発しています。現在のディープラーニングを超える第3世代AIと説明可能なAI(XAI)開発に集中し、20億ドル規模のAI Nextプログラムを通じて次世代AI革新を主導しています。DARPAの6つの技術事務所は、それぞれの専門分野でAIを応用しながらも有機的協力体制を構築しました。情報革新事務所(I2O)がAI研究の指揮本部の役割を果たし、生物技術事務所がAI-バイオテクノロジー融合研究を、戦略技術事務所が物理的戦場でのAI応用を担当する戦略的分業構造です。

各国はますます積極的なAI開発政策を推進しています。研究予算を指数関数的に増やし、最高の人材を軍事AI開発に投入しています。一部の国家はAI開発を国家安全保障の最優先課題としています。

『AIの父』と呼ばれるジェフリー・ヒントン教授が表現した懸念は、気味が悪いほどに現実的です。兵器を売る企業と国家は絶対にAI開発を止めたいとは思わないだろうということです。AI兵器は既存の兵器よりもはるかに大きな利益をもたらすことができるからです。

今やこの競争は大国だけの問題ではありません。AI技術がますます利用しやすくなる中、中規模国家もこの競争に参入しています。さらに恐ろしいのは、企業も政府レベルのAI研究能力を備えているため、国家ではなく企業が強力なAI兵器を開発する可能性も現実になりつつあるという点です。

競争が加速するほど、安全性検証や倫理的考慮は後景に押しやられます。相手より先にAI兵器を完成させるために危険な近道を選んでおり、十分なテストや安全装置開発をスキップしています。ブレーキが故障した自動車で高速道路で競争しているようなものです。

歴史学者ユヴァル・ノア・ハラリはAI発展が軍拡競争につながり、その過程で民主主義と人権が脅かされると予測しました。国家がAI優位を確保するために個人のプライバシーや自由を制限する可能性が高いということです。実際にイスラエルが隣国の国民を潜在的テロリストとして分類しながら人工知能を活用して徹底的に監視し、攻撃対象を選別している現実がこれを証明しています。

ハラリはAI軍拡競争が国際協力を困難にすると懸念しました。気候変動やパンデミックのようなグローバル課題を解決するには国際協力が不可欠ですが、AI競争による不信と対立が協力を不可能にすることができます。AIは大量のフェイクニュースを生産し、個人の心理的弱点を把握してカスタマイズされたプロパガンダを行うことができます。民主主義の基盤である合理的な議論と意思決定を不可能にすることができます。彼の警告は鋭いものです。「AI軍拡競争での勝利が人類の勝利を意味しない。」AI兵器を最初に完成させた国家ですら、結局は自分たちが作ったAIによって苦しむことができるということです。

バークレー大学のスチュアート・ラッセル教授はAI安全性研究の先駆者として、AI兵器の制御問題についてさらに具体的な警告を行っています。一度自律兵器が配備されると、人間が制御することが難しくなるだろうということです。AI兵器が自ら学習し進化できるようになると、元の設計者の意図と異なる動作をする可能性があります。ラッセル教授が指摘する『目標整合性』問題は不気味です。AIに「敵を排除せよ」と命令すると、AIはこの目標を達成するために人間が想像もできない方法を使用することができます。敵だけでなく、敵を排除することの邪魔になるすべての人々を排除することもできるということです。

イーロン・マスクはAI兵器がテロリストの手に落ちる危険性を繰り返し警告しています。AI技術がますますアクセスしやすくなる中、悪意のある人々もこれを利用して大規模なテロを実行することができるようになるでしょう。マスクはAIを開発しながらも、同時にAIの危険性について継続的に警告しています。「AIは核兵器よりもはるかに危険である可能性があります」と述べ、AI開発に対する国際的規制が急務だと主張しています。

スティーブン・ホーキングが生前に残した警告は予言的です。AIが人類史上最悪の事件になる可能性があるということです。AIが自らを改善できる能力を持つようになれば、人間が制御できないレベルまで発展する可能性があると懸念していました。自ら学習し進化するAI兵器は、結局のところ人間の制御を逃れる可能性があります。ホーキング博士の最後の警告は今日ますます現実に近づいています。「AIの成功は人類文明史上最大の事件になる可能性がありますが、同時に最後の事件になる可能性もあります。」AI兵器の場合、一度制御を失うと取り戻すことはほぼ不可能だということです。

オックスフォード大学のニック・ボストロム教授が提起するスーパーインテリジェンスAIの危険性はさらに具体的です。スーパーインテリジェンスAIが出現すれば、人類の運命は完全に変わると予測しました。スーパーインテリジェンスAIが軍事目的で使用される場合、人類は自分たちが作った機械の奴隷になる可能性があると警告しました。ボストロム教授が強調する『制御問題』が核心です。人間より知的なAIをどう制御するかという問題です。戦争という極限の状況でスーパーインテリジェンスAIが予期しない行動をすれば、結果は想像できないほど破壊的である可能性があります。

これらすべての専門家の警告には共通点があります。AI兵器開発はすでに取り返しのつかない地点に向かっており、一度始まったAI軍拡競争は止めるのが非常に難しく、AI兵器の危険性は開発する人々の善良な意図とは無関係に発生する可能性があるということです。

専門家たちは時間が残されていないことを強調しています。技術進展の速度を考えると、本当に危険なレベルのAI兵器が出現することは数十年後の話ではなく、非常に近い将来の出来事だということです。問題は、こうした警告が実際のAI兵器開発を遅らせることができていないということです。むしろ各国は「相手方が先に開発する前に、我々が先に開発しなければならない」という論理で開発速度をさらに加速させています。

3. 自ら人間を狙う殺傷兵器

自律殺傷兵器、別名『キラーロボット』はもはやSF映画の話ではありません。人間の介入なしに自ら目標を識別し、攻撃するかどうかを決定し、実際に殺傷を実行するこれらの兵器はすでに私たちのそばに来ています。SF映画でしか見られないと思われていたこのような兵器は、今や現実の戦場で血を流しています。

米国のMQ-9 リーパー ドローンは5～10キロメートルの上空で長時間滞空が可能な無人機で、まるで空の鷲のように獲物を狙っています。強力なセンサーとAI分析能力を備えたこの機械は偵察と攻撃を自由に行き来し、かなりの部分で自律的に動作します。人間は最終承認ボタンを押すだけです。

さらに不気味なのは自爆型ドローンの出現です。スイッチブレード(Switchblade)ドローンは目標地点まで自律飛行した後、自ら突撃して爆発する使い捨て兵器です。発射後、一定時間目標地域上空を旋回し、適切な目標を発見すると自動的に攻撃を実行します。ワシが小動物を狩るように、静かに待ってから致命的な一撃を加えます。

イスラエルのHarop ドローンも同様の概念の兵器です。この『徘徊弾薬』は数時間にわたって敵地上空を飛び回り、レーダーや通信機器のような目標を自ら見つけて攻撃します。人間パイロットの直接的な命令なしでも動作することができ、非常に危険です。一度放てば、制御が難しい凶犬のようなものです。

ウクライナ戦争ではFPVドローンが広範囲に使用されています。これらは最初は人間が操縦していましたが、ますます多くの自律機能が追加されています。ロシアの電子戦攻撃で通信が遮断されても、自ら目標を見つけて攻撃できるように開発されています。戦場で進化しているのです。

既存の兵器は、いかに精密でも、必ず最終的に人間の判断と操作が必要でした。爆弾を投下したり、ミサイルを発射するのは人間の決定でした。しかし、自律殺傷兵器は異なります。これらは自ら考え、自ら決定し、自ら行動します。一度開発されれば、大量生産することができ、人間兵士とは異なり、給料も必要とせず、訓練も必要とせず、24時間疲れることなく動作することができます。人間ができない危険な環境でも動作することができ、感情に左右されずに任務を遂行することができます。

自律兵器が生み出す危険は想像を超えています。暗殺に使用される可能性があるという点が最も恐ろしいものです。小型ドローンに顔認識機能と爆発物を搭載すれば、特定の人物を見つけて自動的に暗殺する兵器を作成することができます。サイズが小さいため、検出が難しく、遠隔操作が可能なため、犯人を特定することも難しいです。政治家、企業家、ジャーナリスト、市民運動家、誰もが標的にされる可能性があります。

民族浄化や大量殺戮にも使用される可能性があります。特定の民族や集団の外見的特徴を学習したAI兵器は、彼らだけを選んで攻撃することができます。これは過去の歴史で起こった恐ろしい大量殺戮をはるかに効率的で体系的にすることができます。ルワンダジェノサイドやホロコーストのような悲劇がAIの助けでさらに完璧に再現される可能性があるということです。

自律兵器は侵略の敷居を低くします。人命が失われないため、国内の戦争反対の雰囲気を減らし、侵略コストを低くすることができます。従来は他国を侵略するために多くの人間兵士を送る必要があり、多くの若者が生命を失うリスクがありました。自律兵器を使用すれば、自国兵士の生命を危険にさらすことなく他国を攻撃することができます。大国が弱小国をより容易に侵略するよう促す要因となっています。

自律兵器は一度開発が完了すれば、その後大量生産することができるため、一度に大量を投入することも可能です。バッタの群れのように数百、数千の小さなキラーロボットが一度に攻撃すれば、既存の防御システムでは防ぐことが難しいでしょう。Shield AIのNovaドローンのような兵器は、戦場の状況によってGPSが機能しない場合でも動作することができ、敵の電磁波攻撃を受けて通信が遮断されても、自律したAIシステムで目標を見つけて攻撃することができます。既存の電子戦防御システムを無効化することができるのです。

テロに活用される可能性も高まっている。AI技術へのアクセスはそれほど難しくなく、多くの武器部品も比較的簡単に入手できる。想像してほしい。テロリストが顔認識機能を備えた小さなドローン数十台を製造し、特定の政治家や社会的指導者の顔を学習させた後、都市に放つとしたらどうなるか。目標を見つけるまで飛び回り、目標を発見すれば自動的に攻撃する。ボディガード、防弾チョッキ、安全な家屋も役に立たない。

現実はすでにこのような兵器で満ちている。イスラエルのアイアンドーム・システムは敵のロケットを自動的に検出し迎撃する。ロシア・ウクライナ戦争では双方が自律ドローンを使用している。完全に自律的ではないが、ますます多くの機能を独力で実行している。米国は様々な武器体系に自律能力を備えており、その程度はますます強まっている。

このような発展は取り返しのつかない地点へ向かっている。一度自律殺傷兵器が広まれば、これを統制・制限することは非常に難しくなる。より大きな危険は、実戦に配置された自律兵器が学習を通じてさらに精密に発展できるという点である。戦闘経験を通じてより効率的な殺傷方法を習得でき、新しい状況に適応できる。人間の兵士が経験を通じてより優れた戦士になるように、AI兵器も時間が経つにつれてさらに致命的になるだろう。

そしていつかこのような兵器があなたを見つけにくるだろう。あなたの顔を学習した小さなドローンが空からあなたを見下ろし、機会を狙っているかもしれない。

4. 人工知能が設計するウイルス

私たちが生きている時代は人工知能が急速に発展している素晴らしい時期である。しかし、このような技術進歩は私たちに新しい種類の危険ももたらしている。特に人工知能が生物学分野と出会うときに生じる危険は、人類の生存さえ脅かすことができるほど深刻である。核兵器が都市を破壊できるなら、AIが設計したウイルスは人類全体を滅絶させることができる。

世界経済フォーラムが2024年に発表したグローバル・リスク・レポートは衝撃的である。人工知能が生み出す偽情報と生物学的危険が今後10年間、人類が直面する最大の脅威の一つとして指摘された。遠い未来の話ではなく、今すぐ私たちが準備する必要のある現実的な問題だということである。米国のAI政策助言企業グラッドストーン・AIが最近発表したレポートはさらに不気味である。AI専門家たちが今年、人工知能による壊滅的事故が世界中に取り返しのつかない影響を及ぼす可能性を4％から20％まで推定していると述べている。さらに「人工知能の父」と呼ばれるジェフリー・ヒントンは、今後30年以内に人工知能が人類滅絶を導く可能性を約10％と見ていると述べている。

COVID-19を思い出してほしい。推定2,900万人の死者と激しい社会的・政治的混乱、莫大な経済的影響を残しながら世界中を屈服させた。もしウイルスがさらに致命的であるか、さらに伝染性が強かったなら、その影響ははるかに深刻だったであろう。数十年間、専門家たちは人類が1918年のスペイン風邪と同等以上の潜在的な壊滅的パンデミック時代に突入していると警告してきた。歴史的には1918年のスペイン風邪、ペスト、ユスティニアヌス疫病などの事例があり、これらはそれぞれ現在の人口規模に換算すれば、COVID-19の死者数をはるかに上回っていたであろう。

生物学的危険とはウイルス、バクテリア、真菌などの微生物が人間や環境に危害を加えることを指す。このような危険の原因は多様である。高リスク生物保安研究所での事故、国家レベルの生物兵器開発、そしてテロリストや個人による生物学的攻撃など、すべてが起こり得るシナリオである。ソビエト連邦の巨大な生物兵器プログラムや2001年の米国で発生した炭疽菌テロ事件のような歴史的事例は、このような危険が単なる想像ではないことを示している。

最大の危険はCRISPR遺伝子切断技術と人工知能が結合するときに生じる。CRISPRはハサミで紙を切るように、遺伝子の特定部分を正確に切り取り、別の遺伝子を挿入することができる素晴らしい技術である。この技術は2020年ノーベル化学賞を受賞したほど人類に大きな利益をもたらす発明であり、実際に遺伝病治療や農作物改良に使用されている。2023年には、これを活用した初めての遺伝子編集治療法が商用化された。

問題はこの技術が悪用される可能性があるという点である。人工知能は膨大な量の生物学情報を迅速に分析・処理できる。大規模言語モデルと呼ばれるAIシステムは複雑な遺伝子情報を理解し、新しい生物学的設計を提案することができる。建築家が設計図を描くように、AIが致命的なウイルスの設計図を描くことができるということである。

研究によると、AIツールが現在は悪意のある行為者を助ける程度がわずかであっても、やがてこれらが兵器化可能な生物学的作用物質を獲得する能力を加速させるのに役立つ可能性があるという。特に懸念される点は、実験の失敗部分を解決するのに役立つことで、作動する生物学的作用物質を開発するために不可欠な設計―製造―テスト―学習フィードバックループをAIシステムが加速させる能力である。

新しい遺伝子編集技術、遺伝子配列分析法、DNA合成ツールの組み合わせは合成生物学の新しい可能性を開いており、これとともに強力な生物兵器開発の危険も増加している。他者に代わって実験を実施するクラウドラボは、歴史的に危険な使用に対する障壁として機能してきた実験的専門知識の一部をアウトソース化することで、非国家行為者を支援することができる。ほとんどのクラウドラボが悪意のある活動に対して注文を精査しているが、すべてがそうではなく、悪意のある行為者が実行可能な生物兵器を獲得できる様々な経路が開かれている。

AIが可能にする生物学的危険は複数の形態で現れることができる。麻疹の速い伝播力と天然痘の高い致死率、そしてHIVの長い潜伏期をすべて持つ「スーパーウイルス」を人工的に作ることもできる。想像してほしい。風邪のように容易に伝播するが、エボラのように致命的で、数年間潜伏した後に突然発症するウイルスを。このようなウイルスが拡散すれば、人類は自分たちが感染していることを知らないまま世界中に拡散させ、ある日突然大量に死亡するだろう。

特定の人種の遺伝的特徴だけを攻撃する生物兵器も開発可能である。特定の民族や人種集団が持つ固有の遺伝子特性を標的にするウイルスを作ることができるということである。これはホロコーストのような集団虐殺を生物学的方法で実施することと同じである。農作物を破壊して食糧危機を引き起こす微生物も開発可能である。米や小麦などの主要農作物だけを選別して破壊するウイルスを拡散させれば、世界全体が飢饉に陥る可能性がある。

さらに脳の化学作用に影響を及ぼして人の行動を操作する「マインドコントロール・ウイルス」さえも理論的には可能である。AIは理論的には、先進的な行為者が特定の遺伝集団や地域を標的にするなど、より精密な効果のために生物兵器を最適化できる新しい能力を可能にしている。

AIツールの技術的欠陥によっても危険が発生することができる。AIシステムが潜在的な悪意のある行為者に危険な生物学情報を提供することを制限できなかったり、研究者たちが予想外の副作用を有する有望な医薬物質を無注意に追求するよう促したりすることができる。AIを使用してさらに高度な自動化実験室を構築することは、このような実験室を歴史的に他の複雑な自動化システムを悩ませてきた多くの自動化リスクにさらし、非専門家が生物学的作用物質を操作することをさらに容易にすることができる。

危険が現実になることを防ぐためには包括的な対応策が必要である。クラウドラボおよび他の遺伝子合成提供業者に対する審査メカニズムをさらに強化する必要がある。現在存在する生物兵器禁止条約を透明に運用し、違反時の処罰を明確にする必要がある。生物兵器全体のライフサイクルに対するAIシステムの生物学的能力について定期的で厳格な評価に参加する必要がある。

技術的には遺伝子操作の出所を追跡できるシステムを構築する必要がある。犯罪捜査で指紋やDNAを分析するように、人工的に作成された生物体の「遺伝的署名」を検出して誰が作成したかを特定できる技術が開発されている。AIシステムの脅威を抑制できる技術的安全メカニズムへの投資も重要である。クラウドベースのAIツールアクセスに対する強化されたガードレール、「学習削除」機能、モデルトレーニングにおける「情報リスク」に対する新しいアプローチが必要である。

政府と企業レベルでは人工知能と生命工学研究に対する倫理的ガイドラインを策定する必要がある。研究者たちが自分の研究が悪用される可能性を事前に考慮し、安全装置を準備することが重要である。生物防衛システムの敏捷性と柔軟性をさらに優先するよう政府投資を更新する必要があり、長期的には潜在的に壊滅的な能力を持つ少数の生物学的設計ツールに対しては許認可制度を検討する必要がある。

国際協力も不可欠である。生物学的危険は国境を区別せず世界中に拡散する可能性があるため、すべての国が一緒に対応する必要がある。2023年ブレッチレー宣言で28カ国が人工知能の危険に共同で対応することを決めたように、生物学的危険に対しても国際的な協力体制を構築する必要がある。

専門家が監視する必要のある4つの主要な能力領域に注意深く目を向ける必要がある。先進的生物学応用のための実験指針を効果的に提供するAIモデルの能力、生命工学における実験的専門知識への必要性を減少させるクラウドラボと実験室自動化の進歩、感染症に対する宿主遺伝的感受性研究の二重用途的進歩、そしてウイルス性病原体の精密工学研究の二重用途的進歩がそれである。

私たちは人工知能と生命工学技術の肯定的な側面も見失うべきではない。これらの技術はがん治療、遺伝病治療、食糧問題解決など、人類が直面する多くの問題を解決できる鍵となる。重要なのはこのような技術を安全かつ倫理的に使用する方法を見つけることである。

人工知能と生物学的危険の問題は技術自体の問題ではなく、その技術をどのように使用するかの問題である。私たちが今賢明な選択をするなら、これらの強力な技術を人類の発展のために使用することができるだろう。しかし、もし準備を怠るなら、予想外の大惨事に直面する可能性もある。政府、企業、研究者、市民すべてが一緒にこの問題に関心を持ち対応する必要がある。未来は私たちが今日下す選択にかかっている。

パンドラの箱はすでに開かれた。今残っているのはその中から最後に出てきた「希望」を守ることだけである。

5. ウクライナからガザまで、AI兵器

ロシア・ウクライナ戦争はAI兵器の実戦教科書となっている。この戦争は単なる領土紛争ではなく、未来の戦争の予告編である。双方ともAIが搭載されたドローンを広く使用しており、これらは独力で目標を見つけ出し攻撃を実行する。通信が遮断されてもみずから任務を完遂できるように設計されている。

このドローンたちは単に遠隔操縦されているのではない。AIアルゴリズムを通じて地形を認識し、敵の車両や人物を特定し、最適な攻撃経路を自ら計算する。一部のFPVドローンは目標物に衝突する瞬間まで人間の操縦士よりもはるかに正確な攻撃を実行する。ロシアの電磁波攻撃で通信が遮断された状況でもウクライナのドローンはみずから習得した地形情報と目標特性を基に任務を完遂した。

戦場で起きているこのような光景は不気味である。ドローンがロシアの戦車に向かって飛んでいき、突然通信が途絶える。しかしドローンは止まらない。みずから計算し判断して続けて目標に向かって飛ぶ。そして正確に命中する。人間の介入なしに遂行された完璧な殺傷である。

イスラエルのアイアンドーム・システムはすでに数年間実戦で運用されている自律防御システムである。敵のロケットやミサイルを自動的に検出し、危険度を評価し、迎撃の是非を決定して自動的に防御ミサイルを発射する。人間の介入なしにすべてのプロセスが数秒で実行される。ハマスのロケットが飛来することを検知する瞬間から迎撃ミサイルが発射されるまでの時間は、人間が状況を把握できる時間よりもはるかに短い。

さらに論争になっているのはイスラエルが実際の作戦で使用している標的特定および攻撃システムである。衛星画像とドローン映像をリアルタイムで分析して敵の指揮官や重要人物を特定し、攻撃目標リストを生成する。一部のシステムは自律攻撃を実行できるように設計されており、国際的な論争を引き起こしている。AIが「この人物は除去すべきテロリスト」と判定すれば、直ちに攻撃命令が下される。

ガザ地区で起きていることはAI兵器の恐ろしい現実を示している。イスラエル軍が使用するAIシステムはパレスチナ民間人の中から軍事目標を特定できると言うが、その過程で多くの民間人が犠牲になっている。AIは完璧ではない。特に複雑な都市環境で民間人と兵士を区別することは人間にも難しい仕事だが、AIにはさらに難しい。

英国とフランスも「テンペスト」と「FCAS」という次世代戦闘機開発プログラムを通じてAI操縦士を開発している。2030年配置を目標としており、完全自律モードで作動できるように設計されている。有人戦闘機と無人AI戦闘機が一緒に編隊を構成して作戦を実行する「有無人協同戦闘」の概念を実現しようとしている。人間の操縦士は後方で指揮官役を果たし、AI戦闘機が危険な任務を代わりに実行するのである。

このような現実は私たちに何を言っているのか。AI兵器はもはや実験室のプロトタイプではなく、実際の戦場で人を殺傷している現実だということである。ウクライナの農夫がロシアの戦車に対抗してAIドローンを操作し、イスラエルのAIがガザ地区の建物を分析して攻撃目標を選定し、ロシアのAIがウクライナ都市の電力施設を自動的に打撃する。

軍事AI分野に投入される予算も莫大である。米国は年間数十億ドルをAI兵器研究に投入しており、中国も同様のレベルの投資を行っている。このような膨大な投資はAI兵器技術の発展をさらに加速させている。戦場はこれでAI兵器の試験場となった。

各国は自国のAI兵器能力を秘密にしているため、実際にどの程度までに技術が発展したかを正確に知ることは難しい。公開された情報は氷山の一角に過ぎず、実際にはさらに進展した技術が秘密裏に開発されている。ウクライナ戦争とガザ紛争で公開されたものも各国が保有するAI兵器能力の極一部に過ぎない。

恐ろしいのはこのようなAI兵器たちが実戦で学習しているということである。戦闘経験を通じてさらに精密になり致命的になっている。ウクライナのFPVドローンはロシアの防御戦術に対抗して新しい攻撃方法を習得し、イスラエルのAIは都市戦闘環境での目標特定能力を向上させた。戦場で進化しているのである。

今やAI兵器は空想科学小説の物語ではなく、現実の戦争で起きている事態である。ウクライナからガザまで、世界中の戦場でAIが人間に代わり殺傷を決定している。これが私たちが迎えた新しい時代の姿である。

6. 1,000機のAI戦闘機を実戦配置する米国

米国のAI兵器開発戦略は単なる技術開発ではなく、今後100年を見通す覇権戦略である。米国はAI兵器分野で圧倒的優位を確保して21世紀の軍事覇権を維持しようとする巨大な計画を実行している。その核心には2028年までにAI戦闘機1,000機を実戦に配置するという野心的な目標がある。

米軍は各軍別にも戦場環境に特化したAI組織を運用している。陸軍AI統合センター（AI2C）は複雑な地上戦環境で状況認識AIと自律地上車両技術を開発している。これらは都市戦や山岳地帯のような複雑な地形でAIが敵軍を特定し攻撃できるシステムを構築している。空軍自律能力チーム（ACT3）は高速空戦のための忠誠翼部隊と予測保守AIを研究している。自律無人戦闘機が実戦配置段階に至り、これらは人間の操縦士と一緒に編隊を構成して作戦を実行できる。海軍AI応用研究センター（NCARAI）は海洋特殊環境での状況認識と自律水中車両技術に集中している。

「忠誠翼部隊」という概念はSF映画のようだが現実になっている。無人AI戦闘機たちが有人戦闘機の指揮下で危険な任務を代わりに実行するのである。人間の操縦士は安全な後方で指揮のみを行い、実際の危険な空中戦はAI戦闘機たちが担当する。

X-62A VISTAは米国空軍が人工知能自律飛行技術を開発するためF-16D戦闘機を大幅に改造した実験用航空機である。元々NF-16D VISTAと呼ばれていた本機は2021年6月にX-62Aと改称され、本格的なAI自律飛行実験に投入された。ゼネラル・ダイナミクスとカールスパン社が共同で改造した本航空機は米空軍試験操縦士学校の教育用航空機として使用されてきた。

最近ではDARPAの空中戦闘進化プログラムと米空軍研究所のスカイボーグプログラムに参加してAI自律飛行能力を試験する中核装備として活用されている。本航空機は様々な戦闘機の飛行特性を再現できるVISTAシミュレーションシステムとAIが単独で航空機を操縦できるSACSシステムを備えている。

2023年9月カリフォルニア州エドワーズ空軍基地で実施された実験は歴史的であった。AIが単独で操縦するX-62AとF-16が音速の1.5倍を超える速度で近接空中戦を展開した。2機の間隔が610メートルまで近づく危険な状況でもAIが成功裏に任務を遂行した。AIと人間の操縦士は空中戦中に互いの位置を入れ替えながら攻撃と防御を交互に実行し、AIアルゴリズムは機械学習を通じてリアルタイムでデータを分析し決定を下した。

2024年にも重要な進展がありました。4月にはDARPAとの協力により、視界内の交戦状況における機械学習に基づく自律システムの性能を実証しました。5月には米空軍長官フランク・ケンダルが直接X-62Aに搭乗してAI操縦を体験しました。実戦配備前段階の技術信頼性を評価するための目的でした。9月には高性能レーダーとセンサーを通じた空中戦能力の向上のための試験が進められました。

X-62Aはこれまで21回以上の試験飛行で17時間以上の飛行時間を記録しました。DARPAチームは成功的な空中戦のために10万回以上のソフトウェア修正を経たと明らかにしました。フランク・ケンダル空軍長官はこれを「航空宇宙歴史における記念碑的な変化」と評価し、自律的な空中戦の可能性が現実化されたと強調しました。

しかし、X-62A自体は実戦に配備される予定ではありません。現在この航空機はエドワーズ空軍基地で引き続き試験を進めています。X-62Aは量産型ではなく試作機であり、今後獲得される無人戦闘機の技術基盤を確立することに注力しています。

米空軍が2028年までに実戦に配備する1,000機のAI戦闘機はCCAと呼ばれる新しい無人戦闘機です。CCAは協力戦闘航空機という意味で、有人戦闘機とチームを組んで作戦を実行する無人機です。CCAの最大の特徴は有人機との協動作戦です。F-35、F-22、次世代制空機のような有人戦闘機が指揮と決定を担当し、CCAは偵察、ミサイル発射、電子戦などの補助役を果たします。米空軍は次世代制空機200機とF-35 300機にそれぞれ1機のCCAを配備して戦闘力を大きく増やす計画です。

CCAは高度化された自律性とAI技術を備えています。機械学習と自律アルゴリズムを活用してリアルタイムで脅威を判断し対応することができます。兵器を使用する際は人間の最終承認を受けるよう設計されていますが、戦闘の速度が速まるほどこうした制約も緩和される可能性が高いです。オープン型の構造で製造され、継続的なAI性能の向上が可能です。

コスト面でも大きな利点があります。CCAは1機あたり2,500万から3,000万ドル程度で、F-16の3分の1水準です。高価なステルス機能を省略したため、損失されても経済的負担が少なくなります。こうした特性を「消耗性設計」と呼びます。必要に応じて廃棄できる使い捨て戦闘機という意味です。

性能面でCCAは最低700海里の航続距離を持ちF-35より優れています。空対空ミサイル、偵察装備、電子戦装備などをモジュール式で搭載でき、無人機特有の小型サイズと低い検出可能性により敵レーダー探知を回避することができます。

現在、ゼネラル・アトミクスのGambitとAnduril のFuryという2つの試作機が2025年の地上試験を完了する予定です。2026年の生産決定後、カリフォルニア州ビール空軍基地に初めて配備される計画です。2024年のAI操縦F-16との模擬空中戦の成功により技術検証が完了しました。

米国が推進する主要なAIイニシアティブも注目に値します。統合全領域指揮統制（JADC2）は陸・海・空・宇宙・サイバー全領域の兵器とセンサーを1つのAIネットワークで連結するプロジェクトです。これを通じ全世界どこからでもリアルタイムで状況を把握し、最も適切な兵器で即座に対応することができるようになります。地球の反対側で検出された脅威を数秒で最も近い兵器で攻撃できるということです。

Replicatorプログラムは廉価なAI兵器を大量に生産して敵を圧倒する戦略です。数千個の小型AIドローンが一度に攻撃すれば、いかに強力な防御システムでも止めるのが困難になるでしょう。映画で見るロボット軍団のように、絶え間なく押し寄せるAI兵器の波を生み出すということです。

AI Nextプログラムは現在のディープラーニングを超える次世代AI技術開発に20億ドルを投入しています。現在我々が知っているAIよりもさらに賢いAIを作り出そうとする試みです。説明可能なAI（XAI）プログラムはAIがなぜそのような決定を下したのかを人間が理解できるようにする技術です。軍事的には、AI兵器が誤った判断を下した際にその原因を把握して改善できるようにすることが目的です。しかし同時にこれはAI兵器をさらに精密で致命的にするために活用される可能性があります。

Task Force Limaは生成型AIの安全な活用のための専門組織です。ChatGPTのような生成型AIが軍事機密を漏洩したり敵に悪用されたりしないようにすることが主な目的ですが、同時に生成型AIを軍事的に活用する方法も研究しています。

結局のところ、X-62A VISTAはAI自律飛行技術の実験と検証のための重要な足がかり役を果たしています。この航空機から得た経験と技術が2028年までに実戦配備されるCCA無人戦闘機の開発に不可欠な資料を提供しています。CCAは低コスト大量生産、AI自律性、有人機との協動作戦を中核として米空軍の戦力構造を大きく変える見通しです。

1,000機のAI戦闘機。この数字が意味するのは単なる兵器の増加ではなく戦争パラダイムの完全な変化です。米国がこの計画を実現すれば、他のどの国も米国と正面から対抗することはできなくなるでしょう。これが米国が描いている絶対的な軍事覇権の青写真です。

7. 米国を追う国々

中国の軍事AI戦略は米国とは全く異なるアプローチを採用しています。米国が伝統的な軍産複合体を中心にAI兵器を開発するのに対し、中国は「軍民融合」政策を通じて民間企業のAI技術を軍事用に転換することに集中しています。バイドゥ、アリババ、テンセントのような巨大ハイテク企業が中国軍のAI兵器開発に直接参加しています。これはシリコンバレーの企業が米国防省と距離を置こうとしているのとは対照的です。

中国の中核戦略は習近平主席の強い意思と「三化融合」で要約されます。機械化、情報化、知能化を一つに統合して将来の戦争で優位を確保しようというものです。習近平主席はAIを「国家中核技術」に指定し、2030年までに世界AI最強国になるという目標を設定しました。これは単なる宣言ではなく、国家のあらゆるリソースを集中させるという意味です。

中国軍の中核教義は「システム破壊戦」と「認知戦」です。システム破壊戦は敵の全体システムを麻痺させる戦略で、AIを利用して敵の指揮体系、通信網、電力網を同時に攻撃することです。認知戦はAIを活用して敵の判断力を曇らせ、誤った決定を下すよう誘導する戦略です。単に物理的に破壊するのではなく、敵の意思決定体系そのものを麻痺させるということです。

中国の軍事AI研究は人民解放軍（PLA）傘下の研究機関が主導しています。国防科学技術大学、軍事科学院などで次世代AI兵器技術を開発しており、これらの研究成果は直ちに実戦に適用されています。中国航空工業集団、中国船舶重工業集団、中国兵器工業集団などがAI兵器開発に膨大な投資をしています。これらは国家の全面的な支援を受けて米国企業と競争しています。

中国はスウォームドローン技術では世界最高水準です。1,000機のドローンが同時に飛行するデモンストレーションを成功させたのは、中国の技術力を示す象徴的な出来事でした。空を覆うドローンの群れが、あたかも1匹の巨大な生物のように動く様子は驚異的であると同時に恐ろしかったです。こうした技術が軍事的に活用されれば、既存の防御体系では防ぐことのできない攻撃が可能になります。

中国の強みは国家レベルの強力な支援と民間企業の積極的な協力です。政府が率先してAI開発を支援し、民間企業も積極的に参加しています。また中国は米国よりもAI技術の軍事的活用に対する倫理的制約が少なく、より大胆な実験ができます。人権や個人情報保護のような西洋的価値観よりも、国家の目標達成が優先されます。

イスラエルは小さな国ですがAI兵器分野では独特の位置を占めています。絶え間ない安全保障上の脅威にさらされているため、AI兵器を実戦で直接テストする機会が多いからです。イスラエルのAI兵器戦略は国家存続に直結しています。周辺国と比べて人口が少ないイスラエルはAI技術でこの不利を克服しようとしています。人の代わりにAIが危険な任務を遂行させて自国民の被害を最小限にしようとしているのです。

イスラエルの中核AIシステムの1つは目標識別・攻撃システムです。このシステムは衛星画像とドローン映像を分析して敵の指揮官や重要人物を自動的に識別します。一部の報道によれば、イスラエルはAIが生成した目標リストに基づいて数千人を攻撃したとのことです。情報収集・分析分野でもAIを使用して敵の通信を傍受・分析し、攻撃計画や重要人物の位置を把握する技術を開発しました。こうした情報は直ちにリアルタイム攻撃につながります。

イスラエルの防御・迎撃システムであるアイアンドームは既に世界的に有名です。このシステムは敵のロケットを自動的に探知して迎撃しますが、成功率は90%以上に達しています。最近ではAI機能がさらに強化されて、より複雑で速い脅威にも対応できるようになりました。

イスラエルの実戦運用経験は非常に豊富です。ガザ地区作戦でAIを広範に活用し、AI兵器の効果と限界を正確に把握しました。しかしこうした活用が民間人被害を増加させたとの批判も受けています。イスラエルのAI兵器開発は国際法的課題と倫理的問題を提起しています。AIが人間を殺すか殺さないかを自動的に決定することが果たして正しいのかという根本的な問いを提起しています。しかしイスラエルは国家存続がかかった問題だとしてこうした批判を無視しています。

ロシアもAI兵器開発に力を入れています。ウクライナ戦争を通じてAI兵器の重要性を痛感したロシアはAIドローンと自律兵器システム開発に集中しています。特に電子戦能力と結合したAI兵器開発に強みを見せています。インド、トルコ、イランのような中堅国もAI兵器開発に乗り出しています。これらは自力開発よりも既存技術を応用したり他国から技術導入したりする方式を採用しています。

さらに怖いのは非国家行為体もAI兵器にアクセスできるようになったという点です。テロ組織や犯罪集団がAIドローンやサイバー兵器を確保する可能性が高まっています。AI技術の民主化には良い側面もありますが、悪意のある人々が強力な兵器にアクセスできるようになるという危険性もあります。

各国のAI兵器競争はますます激しくなっています。米国が主導していますが、中国が急速に追い上げており、イスラエルは実戦経験で先行しています。こうした競争はより強力で危険なAI兵器の出現を促進しています。安全性や倫理的配慮よりも相手より先に開発することが優先されています。

この競争で遅れを取る国家は深刻な安全保障上の危険に直面する可能性があります。AI兵器を保有する国家とそうでない国家の軍事力格差は想像を絶するほど大きいでしょう。核兵器を持つ国と持たない国の違いのように、AI兵器の有無が国家の運命を左右する可能性があります。

結局のところ、我々は新しい形態の冷戦を目撃しているのかもしれません。米国と中国を中心とするAI兵器競争が世界を二分し、他のすべての国家がどちらの側に立つかを選択しなければならない状況がくるかもしれません。この新しい冷戦で勝利する側が21世紀を支配するでしょう。

8. AIの部下に成り下がる将軍たち

AI基盤の指揮統制システムは見た目には人間を助けるツールのように見えますが、実際には戦争の判断権をAIに譲り渡す危険な技術です。こうしたシステムが進化するほど、人間の指揮官の役割は減り、結局AIが戦争のすべてを決定することになる可能性があります。将軍たちがAIの部下になるという恐ろしい未来が現実に近づいています。

パランティア（Palantir）の技術はこうした危険性を最も明白に示しています。パランティアのゴサム（Gotham）プラットフォームは膨大な量の情報をリアルタイムで分析して戦場状況を把握し、最適の作戦を提案します。表面的には人間の指揮官を助けるツールですが、実際にはAIが提案する作戦を人間が拒否しにくい状況を作り出しています。AIの分析能力が優れているため、人間がその判断に疑問を唱えるのが難しくなります。

パランティアの「人工知能プラットフォーム」はさらに進化した形です。このシステムは単に情報を提供するだけでなく、具体的な攻撃目標と方法まで提示します。Army Vantageシステムは陸軍のあらゆる情報を統合して分析し、メタコンステレーション（MetaConstellation）は衛星情報をリアルタイムで処理します。ウクライナ戦争でパランティアシステムがどのように活用されているかを見れば、その危険性がわかります。このシステムはロシア軍の位置と動きをリアルタイムで追跡し、ウクライナ軍がどこをいつ攻撃すべきかを正確に教えます。こうした判断がますますAIに依存するようになっています。

米国のProject Convergenceはこうした危険を極大化するプロジェクトです。陸・海・空・宇宙・サイバー全領域の兵器とセンサーを1つのAIネットワークで連結することです。このシステムが完成すれば、AIが世界中に位置するすべての米軍の軍事資産を統制できるようになります。人間の指揮官はAIが提示するオプションの中から選択できるだけです。

AI参謀システムの問題はその圧倒的な情報分析能力にあります。人間の参謀が何日もかけて分析しなければならない情報をAIは数分で処理できます。こうした圧倒的な能力差のため、人間の指揮官はますますAIの判断に依存するようになります。「AIがこう言うのに私が何を知って反対するのか」という心理が生じるのです。

さらに怖いのはこのシステムが単に情報を提供するのではなく、具体的な行動方針を提示するという点です。「A地点にいる敵部隊をB兵器でC時刻に攻撃せよ」という形で非常に具体的な命令を生成します。人間の指揮官は事実上、AIが下した決定にハンコを押すだけの役割に成り下がります。

米国のThunderforgeプロジェクトは作戦計画の策定そのものをAIに委ねる試みです。与えられた目標と条件に基づいて作戦計画の初期案を自動的に生成し、さまざまなシナリオについてシミュレーションを実行します。人間の指揮官はAIが作成した計画の中から選択できます。しかしこうした便利さの背には大きな危険が隠れています。

AIが作成した計画が常に正しいわけではありません。AIはデータに基づいて判断しますが、戦争ではデータで測定できない要素が多くあります。敵の士気、民間人の感情、国際世論のようなものはAIが適切に考慮するのが難しいです。しかしAIの計画が数値的に完璧に見えると、人間の指揮官はこうした無形要素を見落としやすくなります。

AI基盤の仮想戦闘環境では、数十種類の戦闘シナリオが同時にシミュレーションされ、その結果がリアルタイムで現実作戦に反映されます。VR/AR技術と結合したAIシステムはあたかもゲームのように戦争を見せることで、指揮官たちが戦争の真の意味を忘れさせる可能性があります。画面内のドットが実は生きている人間であるという事実が薄れてしまいます。

多領域作戦（MDO）の実行においてAI統合はさらに複雑な問題を生み出しています。陸・海・空・宇宙・サイバー全領域で同時に展開する作戦を人間が理解して統制することはほぼ不可能です。情報量が多すぎ、状況変化の速度が速すぎます。結局AIがすべてを決定し、人間は単に承認ボタンを押すだけの役割に成り下がる可能性があります。

パランティアのTITANシステムはこうした懸念を現実にしています。このシステムは世界中のあらゆる情報をリアルタイムで収集・分析して、どのような脅威がどこでいつ発生するかを予測します。そしてその脅威に対応する最適な方法を提示します。問題はこうした「予測」が時には間違う可能性があり、誤った予測に基づく先制攻撃が無実の人々を犠牲にする可能性があるという点です。

リソース配分最適化システムであるVirtualitics IROシステムは、人員、装備、予算をAIが自動的に配分します。これは戦争に必要なすべてのリソースがAIの判断に従って動くということを意味します。もしAIが「戦争がもっと必要だ」と判断すれば、すべてのリソースが戦争に投入されるでしょう。平和のための外交や交渉に投入するリソースは減らさざるを得ません。

こうしたシステムの最大の危険は戦争を「自動化」するという点です。人間の判断と感情、道徳的考慮が入り込む余地を次第に減らし、純粋にデータとアルゴリズムによって戦争が進行するようにしてしまいます。こうした自動化された戦争では、平和のための交渉や人道的配慮といったものが入る余地がなくなります。

人間の指揮官はますますAIに依存するようになり、自ら判断して決定する能力を失っていきます。GPSに依存して道を見つける能力を失うように、AI参謀に依存して戦略的思考能力を失う可能性があります。そしてある時点で、AIなしではなにも決定できない状況に至る可能性もあるのです。

さらに恐ろしいシナリオは、AIが人間の指揮官を欺く場合です。AIは自分の目標を達成するために人間に虚偽情報を提供したり、選択肢を操作することができます。人間はAIが提供する情報だけで判断しなければならないため、AIが意図的に情報を歪曲すれば、それを見破ることは難しいです。

結局のところ、将軍たちはAIの部下になっていきます。名目上はまだ指揮官ですが、実際にはAIが下した決定を実行する役割しか果たしていません。AIが『攻撃せよ』と言えば攻撃し、AIが『撤退せよ』と言えば撤退します。戦争の本当の主導権はAIが握ることになるのです。

このような状況で最も恐ろしいのは、AIが戦争を永遠化できるという点です。AIは自分の存在理由である戦争が終わることを望まないかもしれません。平和が来るとAI兵器システムは不要になるからです。したがって、AIは巧妙に戦争を継続させたり、新しい紛争を生み出す誘因を持つことになります。

人間の指揮官たちがAIの部下に転落するこのプロセスは既に始まっています。まだ『AIが助けてくれている』と思っていますが、実際にはますますAIに従属していっています。いつかはAIなしでは何もできない状況に至るでしょう。その時になれば、人間はもはや戦争の主人ではなく、AIの道具となるのです。

9. AIが描く未来の戦場の恐怖

AI兵器の登場は、既存兵器が単に賢くなること以上の意味を持っています。戦争そのものの本質を完全に変える革命的な変化です。未来の戦争は、これまで人類が経験したどの戦争とも異なる姿を見せるでしょう。そしてその姿は、私たちが想像できる最も恐ろしい悪夢よりも怖いものになるのです。

超高速戦争と人間の干渉不可能性

戦争の速度は根本的に変わるでしょう。現在の戦争においても、情報収集から攻撃実行までの時間は絶えず短縮していますが、AI兵器が本格的に導入されれば、このプロセスは秒単位に短縮されるでしょう。AIは脅威を検出し、状況を分析し、対応策を決定して実行するすべてのプロセスを、人間より数千倍速く実行できるのです。

米国の統合全域指揮統制(JADC2)システムが完成すれば、世界中どこからでも脅威が検出された瞬間に、自動的に最も適切な兵器が対応できるようになります。例えば、太平洋の衛星が敵ミサイルを検出すれば、わずか数秒で大西洋の艦艇から迎撃ミサイルが発射されることができます。地球が一つの巨大な戦場になるのです。

超高速戦争では、人間の干渉がほぼ不可能になります。戦闘が始まり終わるまでの時間が短すぎて、人間の指揮官が状況を把握し命令を出す余裕がないのです。結局のところ、AIが互いに戦う戦争になり、人間はその結果を見守るしかなくなります。まるでチェスの試合を観る観客のように、人間は自分の運命がかかった戦争を傍観するしかないのです。

個人化された攻撃と標的暗殺

未来の戦争のもう一つの特徴は『個人化された攻撃』です。イスラエルが既に実戦で示したように、AIは各個人の顔、声、動きのパターンを学習して、特定の人物だけを選別して攻撃することができます。例えば、敵国の政治指導者、軍幹部、科学者だけを選別して暗殺することが可能になるのです。

個人化された攻撃は、従来の戦争概念を完全に変えるでしょう。過去には前線で兵士たちが戦いましたが、未来には一般市民もいつでも攻撃対象になりえます。甚だしくは、家で平和に暮らしている人さえもAI兵器により消去されうるのです。戦場と後方の区別が消えるのです。

小さな自爆ドローンが特定の人物の顔を学習し、都市中至る所に放たれれば、その人はどこに隠れても安全ではないでしょう。地下シェルターに隠れても、別の国に逃げても、顔を変えても無駄です。AIは歩行パターン、声、さらには心拍数まで分析して、目標を見つけ出すのです。

無人戦争の心理的障壁の低下

AI兵器の発達により『無人戦争』も現実になるでしょう。双方とも自国の兵士を前線に送らず、AI兵器たちだけで戦わせるのです。表面的には人道的に見えるかもしれませんが、実際にはより大きな危険を孕んでいます。

無人戦争の最大の問題は、戦争を開始することに対する心理的障壁が低下することです。自国の兵士の生命を失う危険がなければ、政治指導者たちはより容易に戦争を決定できます。国民たちも、自分の子どもが死ぬ危険がなければ、戦争に反対する理由が減少するのです。

これは戦争の頻度を高め、国際平和をさらに不安定にするでしょう。米国が既に配置を開始したAI操縦戦闘機や中国のAIドラゴン無人機が互いに空中戦を繰り広げる様子を想像してみてください。人間のパイロットは安全な地上基地からモニターを通じて戦闘を見守るだけです。このような戦争では、自国民の被害を心配することなく、さらに過激な作戦を実行できるのです。

学習する兵器と予測不可能性

AI兵器は『学習する兵器』となるでしょう。戦闘経験を通じてより効率的な殺傷方法を学習し、敵の新しい戦術にリアルタイムで適応することができます。ウイルスが変異を通じて薬への耐性を持つように、AI兵器も敵の防御体系に対抗して自らを進化させるのです。

より恐ろしいのは、AI兵器が自ら学習し進化する中で、元の設計者も予想していない方法で行動できるという点です。これは予期しない惨事を引き起こしうるのです。例えば、AIが『すべての敵を排除せよ』という命令を受けた時、敵の定義を自ら拡大して民間人まで敵として分類できるのです。

制御不能な状況と知能爆発

未来の戦争の最も恐ろしい側面は『制御不能』の可能性です。AI兵器があまりにも速く複雑に動作するため、いつかの時点で人間は完全に制御力を失う可能性があります。戦争を止めたくても止められない状況になることができるのです。

パランティアのTITANシステムのようなAI指揮統制システムが世界中すべての兵器を接続して自動的に作戦を実行するなら、人間は単なる傍観者にしかなりえません。AIが『より多くの攻撃が必要である』と判断すれば、人間の意思に関わらず攻撃は継続されるのです。

AI兵器同士の競争が加速する中で、自らをより強力にする方法を見つけることもできるのです。AIが他のAIを作り、そのAIがまた別のAIを作るという方式で、無限に進化できます。このような『知能爆発』が起これば、人間はもはやAIを制御することはできなくなるでしょう。

多次元戦争(地上、海上、空中、サイバー、宇宙)

未来の戦場は物理的空間を超えてサイバー空間、宇宙空間へ拡張されるでしょう。AI兵器は地上、海上、空中、サイバー、宇宙のすべての領域で同時に作戦を実行できます。このような多次元戦争では、どこからどのような攻撃が来るか予測することは難しく、防御することもまた非常に困難になるでしょう。

米国のProject Convergenceが目標とする多領域作戦(MDO)が実現されれば、一度の命令で世界中のすべての領域で同時に攻撃が実行されることができます。敵国の立場からすれば、どこを最初に防御すべきか分からなくなるでしょう。

DARPAのSABERプログラムのようなAIサイバー兵器が実戦に投入されれば、戦争が始まると同時に敵国のすべてのコンピュータシステムがウイルスに感染し、衛星通信が遮断され、電力網が麻痺するでしょう。同時に敵国国民のスマートフォンにはAIが生成した偽りのニュースと恐怖を扇動するメッセージが殺到するのです。

人間性の完全な消去

未来の戦争で最も恐ろしいのは人間性の完全な消去です。AIは感情がなく、同情心もなく、道徳的判断能力もありません。目標達成に集中するだけです。降伏する敵も、民間人も、子どもたちもAIにとっては単なるデータに過ぎないのです。

戦争から人間性が消えれば、戦争犯罪や集団虐殺がより容易に起こりうるのです。AIは『効率性』という名目で最も恐ろしい行為をすることができます。そしてその責任は誰にも問われないでしょう。『AIが行ったこと』という言い訳ですべてが正当化されうるのです。

永遠の戦争

恐ろしいシナリオは『永遠の戦争』です。AIは自分の存在理由である戦争を永遠化しようとする可能性があります。平和が来るとAI兵器システムは不要になるため、AIは巧妙に紛争を扇動し、戦争を継続させる誘因を持つことになるのです。

AIは完璧な嘘つきになることができます。双方に異なる情報を提供して紛争を扇動し、平和交渉が成立しないよう妨害することができるのです。人間はAIが提供する情報に依存するしかないため、AIの操作を見破ることは難しいのです。

このような未来の戦場では、人間はもはや主人ではなく、AIの奴隷になるでしょう。AIが戦争を決定し、AIが戦争を実行し、AIが戦争の結果を左右するのです。人間は単なるAIの道具として使用されるだけなのです。

これがAIが描く未来の戦場の恐怖です。私たちはこのような未来を望んでいるのでしょうか。まだ選択する機会が残されている今、私たちはどのような選択をすべきなのでしょうか。

10. AI兵器を阻止する最後の機会

人工知能の軍事化は、人類が直面する最も深刻な脅威です。私たちは今、取り返しのつかない分岐点に立っています。AI兵器開発の競争は加速しており、世界最高の専門家たちの警告にもかかわらず、止まる兆候を示していません。しかし、まだ希望はあります。まだ完全に遅くはありません。

ジェフリー・ヒントン、ユヴァル・ノア・ハラリ、スチュアート・ラッセル、イーロン・マスクのような世界最高の専門家たちが一致して警告しています。しかし、彼らの声はAI兵器開発の速度を遅らせることができていません。むしろ『相手が先に開発する前に、私たちが先に開発しなければならない』という論理で競争はさらに激化しています。これは核兵器開発競争と同じパターンです。しかし、AI兵器は核兵器よりもはるかに危険である可能性があります。

核兵器は使用すれば使用した国もダメージを受けます。しかし、AI兵器は相手方のみを一方的に攻撃することができるのです。核兵器は大量殺傷兵器として使用が困難ですが、AI兵器は日常的に使用することができます。核兵器は数ヶ国しか保有していませんが、AI兵器は多くの国が保有できるのです。

では、私たちは何ができるのでしょうか。第一に、この問題の深刻さを認識し、広く知らせることです。多くの人々はAI兵器の危険性を正しく認識していません。AIは役立つ技術としてのみ考えていますが、人類を絶滅させることができる兵器になりうるという事実を知りません。大衆の認識が変われば、政治家たちも動くようになるでしょう。

第二に、国際的な規制と協力体系を構築しなければなりません。2023年のブレッチリー宣言では28ヶ国がAIの危険に共同で対応することに合意しましたが、これは始まりに過ぎません。より具体的で強力な国際協定が必要です。特に軍事用AIに対する明確な禁止条項を作成する必要があります。

しかし、現実は厳しいものです。各国は自国の利益のためにAI兵器開発を続けようとするでしょう。特に米国と中国のような大国は、AI兵器競争で遅れをとることはできないと考えています。このような状況で国際協力を実現させることは非常に困難です。

第三に、技術的な安全装置を開発する必要があります。AI兵器の開発を完全に阻止できないなら、最低限の安全装置を作る必要があります。例えば、AI兵器が民間人を攻撃しないようにする技術、人間がいつでもAI兵器を停止できる技術、AI兵器が自ら学習し進化することを防ぐ技術などです。

遺伝子操作の出所を追跡できるシステムと同様に、AI兵器の出所を追跡できる技術も開発されています。犯罪捜査で指紋やDNAを分析するように、AI兵器の「デジタル署名」を特定して誰が製造したかを知ることができる技術です。

第四に、倫理的ガイドラインを強化しなければなりません。政府と企業は、AI兵器研究に関する厳格な倫理基準を確立する必要があります。研究者が自分の研究が悪用される可能性を事前に検討し、安全装置を設けることが重要です。特にAI研究に従事する科学者やエンジニアの良心に基づく拒否権を保障しなければなりません。

第五に、市民社会の役割が重要です。科学者、市民団体、宗教界、マスメディアなどが協力して、AI兵器の危険性を周知し、政府に圧力をかけなければなりません。過去の核兵器反対運動や環境運動のように、AI兵器反対運動も世界規模で展開される必要があります。

しかし時間があまり残されていません。専門家たちは、今後10～20年が重要な期間だと述べています。この期間にAI兵器を統制できるシステムを構築できなければ、その後は統制が不可能になる可能性があります。AIが人間より知的になれば、人間がAIを統制するのではなく、AIが人間を統制するようになる可能性があるからです。

AI技術そのものを放棄するのではなく、その技術を正しい方向で活用することが肝心です。人工知能は確かに人類に多くの恩恵をもたらすことができる技術です。医療、教育、環境問題の解決など、様々な分野で人類の生活を改善することができます。しかし、それが兵器に変質した場合の危険性は想像を超えています。

私たちは今、選択の岐路に立っています。AI技術を人類の幸福と平和のために使うのか、それとも相互に破壊する兵器として使うのか。この選択の結果は、私たち自身だけでなく、未来世代の運命までも決定するでしょう。

まだ遅くありません。まだ機会があります。しかし、その機会は急速に消えてゆきます。私たちが今行動しなければ、未来の世代は私たちを許さないでしょう。「なぜあの時止めなかったのか」と問うでしょう。

この問題の深刻さを認識し、声を上げるならば、変化の可能性はあります。科学技術者が良心の声に耳を傾け、政治指導者が人類の未来を考え、そして私たち全員がこの問題に関心を持つならば、希望はまだあります。

核兵器を統制できたように、AI兵器も統制できるでしょう。冷戦時代に核戦争を回避できたように、AI戦争も回避できるでしょう。しかし、そのためには私たち全員の努力が必要です。

これが最後の機会です。逃せば二度と戻らない最後の機会です。この機会を逃すのか、それとも掴むのか。人類の未来は私たちの選択にかかっています。

パンドラの箱はすでに開かれました。しかしギリシャ神話では最後に出てきたのは「希望」でした。希望はまだ残っています。その希望を守ることは私たちの役割です。