AI Library
自律的科学発見の時代
キム・ギョンジン, 弁護士
AI科学者とセルフドライビング・ラボ
AI科学者とセルフドライビング・ラボが、科学研究における主張の生成と検証をどのように変えつつあるのかを追います。文献に基づく発見、自然言語プロトコルからロボット命令への変換、マルチエージェント研究システム、閉ループ実験室、材料探索、検証ギャップ、証拠の連鎖、研究ハーネス、学術誌倫理、法的責任までを扱います。
AIライブラリ
デジタル主権の二重構造
欧州の脱パランティアとアメリカン・ビッグテックの鎖
金景珍（キム・ギョンジン）, 弁護士
欧州の情報機関と国防省が米パランティアの分析ツールを排除し始めた2026年の記録です。フランス国内治安総局とドイツ連邦憲法擁護庁、オランダ国防省の置き換え決定、米国の輸出規制が同盟国の人工知能アクセスをわずか3日で遮断した事件、CLOUD ActとFISA 702条がもたらした域外管轄の実態を扱っています。欧州連合のクラウド・AI開発法（CADA）が定めた4段階の主権保証レベルと主権理由による契約解除権、ユーロスタック構想と3,000億ユーロの投資障壁に至るまで、全5章15節と結論2節で整理しました。
[AI書房] 第33章 AIの誤爆は誰の責任か？
人工知能戦闘機、人工知能空軍
第33章 AIの誤爆は誰の責任か？
金京鎮
1991年2月25日、湾岸戦争が最中だったサウジアラビアのダーラン基地。イラクのスカッドミサイルが飛来しました。パトリオット防空システムが作動すべきでした。しかし作動しませんでした。ソフトウェアの不具合でした。システムの時計が100時間以上連続稼働される間に誤差が蓄積され、ミサイルを追跡できなかったのです。結果は惨憺たるものでした。28名のアメリカ軍兵士が死亡しました。
この事故の責任は誰にあったのでしょうか。
パトリオットシステムを開発したレイセオン社でしょうか。不具合を発見できなかったプログラマーたちでしょうか。システムを100時間以上も再起動しなかった運用部隊でしょうか。それとも、ソフトウェアのアップデートをタイムリーに配備しなかった国防総省でしょうか。数十年が経った今でも、この疑問は明確な答えを得ていません。
しかし、これはまだ自律型兵器ではありませんでした。人間がシステムを操作していたのです。自律型致死兵器（LAWS）が自ら判断して民間人を攻撃するとしたら。その責任は誰に問うべきなのでしょうか。
これが『責任の空白（アカウンタビリティ・ギャップ）』です。
現在、国際法は人間の行為と意図を前提として設計されています。国際刑事裁判所（ICC）のローマ規程第25条は、個人の刑事責任を規定しています。第30条は、犯罪成立に『意図と認識』が必要であると明記しています。ところが、機械は意図を持つことができません。アルゴリズムは獄中に行くことができないのです。
2024年12月、ICCはイスラエルのネタニヤフ首相とガラント前国防大臣に対して逮捕令状を発布しました。容疑には、民間人を意図的に攻撃した戦争犯罪が含まれています。イスラエルはガザ地区でAI標的システムを広範囲に使用していました。これはICCがAI関連の戦争犯罪に直接対処する最初のケースになる可能性があります。
しかし、法的な障害物が多くあります。
ローマ規程第30条の『意図と認識』要件は厳格です。2014年のカタンガ（Katanga）事件において、ICCは未必的故意（dolus eventualis）、すなわち有害な結果を予見しながらも、その危険を受け入れることのみ
によっては刑事責任を問うことができないと確認しました。これは自律型兵器の運用において致命的な欠陥を生み出します。誰かが『AIがそうしたのです』と言うとき、その人の『意図』をどのように証明できるのでしょうか。
研究者マルタ・ボー（Marta Bo）はこの問題を深く分析しています。彼女は、自律型兵器の配置において違法な結果が予見可能であっても、具体的な意図を持つ特定可能な行為者がいなければ、起訴が不可能になる可能性があると警告しています。法が技術に追いついていないのです。
では、誰が責任を負うべきなのでしょうか。
第一の容疑者は指揮官です。国際法には『指揮官責任（Command Responsibility）』という原則があります。指揮官が部下の犯罪を知っていたか、知るべきであったのに、それを阻止しなかった場合、責任を負います。しかし、AIシステムにこの原則を適用することは困難です。指揮官がブラックボックスのアルゴリズムのすべての判断を『知るべきであった』と言えるでしょうか。
第二の容疑者は開発者です。コードを書いたプログラマーが責任を負うべきなのでしょうか。しかし、深層学習ベースのAIはブラックボックスです。開発者自身も、AIがなぜそのような結論に到達したのかを100%説明することができません。数百万回のシミュレーションで完璧だったシステムが、実際の戦場の予測不可能な変数のために誤動作することがあります。これは故意なのでしょうか。過失なのでしょうか。
第三の容疑者は防衛産業企業です。兵器を製造し納品した企業が責任を負うべきなのでしょうか。しかし、ほとんどの防衛契約には免責条項が含まれています。そして、防衛企業は国家の保護を受けています。現在、国際法によって企業を戦争犯罪で起訴することは非常に困難です。
第四の容疑者は…機械そのものなのでしょうか。これは不可能です。AIを法廷に立たせることはできません。アルゴリズムに『有罪』を宣告しても意味がありません。
結局のところ、誰もが関与していますが、誰も直接的な責任を負わないという状況が生じます。
2024年の国連総会決議79/239は重要な進展です。この決議は、AIが軍事領域で使用される場合、国際人道法がライフサイクル全体にわたって適用されることを確認しました。また、国際刑事法を適用可能な法体系に追加しました。これは、個人の刑事責任が適切な場合に適用される可能性があることを強調したものです。
解決策に向けた取り組みがあります。
第一に、『デジタル監査証跡（Digital Audit Trail）』です。飛行機のブラックボックスのように、AIが下したすべての決定を記録することです。なぜその時点で、その標的を、敵と識別したのか。どんなデータに基づいたのか。どんな代替案を検討したのか。この記録があってこそ、事後に責任を問うことができます。
第二に、国家責任の強化です。個人ではなく、AI兵器を運用した国家そのものが、国際法的な賠償責任を負うようにすることです。国家が責任を負わなければならないのであれば、各国政府はAI兵器の導入にはより慎重になるでしょう。
第三に、兵器の法的検査の義務化です。ジュネーブ条約追加議定書Ⅰ第36条は、新しい兵器の法的検査を要求しています。AI兵器の場合、この検査はさらに重要です。システムが国際人道法の区別原則と比例性原則を遵守できるかどうかを評価する必要があります。
2025年、ICRC（国際赤十字委員会）は国連事務総長に提出した報告書の中で強調しました。『法を遵守すべきは、AIシステム自体ではなく、それを使用する人間です。』AIは人間の意思決定を支援するツールとしてあり続けるべきです。人間を代替するのではなく、支援するべきなのです。
パイロットとして、私は自分の行動に責任を負う準備ができています。
私が誤って民間人を攻撃するなら、その重荷は生涯背負うことになるでしょう。軍事法廷で判断を受けることになるのです。それが戦士の名誉です。しかし、AIウィングマンが犯したことのために、私が獄中に行くべきだとしたら。それは公正ではありません。反対に、AIの誤爆のために誰も責任を負わないとしたら。それも正義ではありません。
法は常に技術より遅れています。しかし、法がなければ、ジャングルだけが残ります。
戦争においても法は存在すべきです。私たちが獣ではなく、人間であり続けるためです。AIがいかに発展しようとも、血を流すのは人間です。法はその血に対する最小限の礼儀でなければなりません。
