AI書房
本でAIを読む
金京鎮弁護士のAI・法律・産業・歴史・政治・文化をテーマにしたオンライン書籍を収録しています。各書きは目次・序文・章・エピローグで構成され、連続読書が可能です。
[AI書房] 第10章 法的牽制とヨーロッパの反撃
PALANTIR:戦争、監視、人工知能
第10章 法的牽制とヨーロッパの反撃
金京鎮
a. ドイツ連邦憲法裁判所の違憲判決(2023年2月)
(1)ヘッセ州およびハンブルク州警察のパランティア使用に関する違憲決定
2023年2月16日の朝、カールスルーエに所在するドイツ連邦憲法裁判所の庁舎で、ある判決文が朗読されました。裁判長シュテファン・ハルバルトは、冷静ですが毅然とした声で述べました。「ヘッセ州公安秩序法第25a条第1項およびハンブルク州警察データ処理法第49条第1項は違憲である。」
法廷に集まった11人の申立人たちは息をのみました。彼らは市民権団体である基本権協会(GFF)の支援を受けて、6年間このたたかいを続けてきました。対象は米国シリコンバレーのデータ分析企業パランティアが開発したソフトウェアでした。
ヘッセ州警察は2017年から『ヘッセンダータ』という名称でパランティアのゴーサム・プラットフォームを運用してきました。約2000名の警察官がこのシステムにアクセスできました。公式的な使用目的はテロリズムと組織犯罪の捜査でした。しかし現実は異なっていました。住居侵入、ATM爆破、交通事故目撃者の追跡に至るまで、用途が急速に拡大されました。ヘッセ州内務部資料によれば、警察はこのソフトウェアを年間数千回使用していました。
ハンブルクはまだシステムを稼働させていない状態でした。法的根拠のみを整備したうえで導入を準備していました。憲法裁判所はこの両州の法律条項の両方について判断を下しました。
判決の核心は明確でした。裁判所は自動化されたデータ分析が基本法第2条第1項および第1条第1項が保障する『情報自己決定権』を侵害すると判示しました。判決文には次のように記されていました。「特に広範に規定された権限の文言に鑑みるとき、データとその方法の両方に関して、干渉の根拠が憲法的に要求される識別可能なリスク閾値に遠く及ばない。」
簡潔に言えば、このような意味です。警察がパランティア・ソフトウェアで市民のデータを分析しようとするなら、具体的で明確なリスクが存在しなければなりません。曖昧な犯罪予防という名目だけでは不十分です。テロを防ぐという抽象的な目的が個人のプライバシーを侵害する正当な根拠となることはないということです。
裁判所はヘッセ州に対し2023年9月30日までに法律を改正するよう命じました。ハンブルクの場合、まだ施行されていない法律であったため、即座に無効化されました。
(2)『情報自己決定権』の侵害
ドイツ連邦憲法裁判所が言及した『情報自己決定権』はドイツ憲法史において記念碑的な概念です。
1983年、憲法裁判所は国勢調査判決を下しました。当時ドイツ政府は詳細な国勢調査を計画していました。市民たちは反発しました。裁判所はこの事件から新たな基本権を導き出しました。すべての個人は自らに関する情報が誰に対して、どのような目的で、いかなる方式で使用されるかを決定する権利があるというものです。
この権利が誕生した背景には、ドイツの暗い歴史があります。ナチス・ドイツの秘密警察ゲシュタポは市民の情報を収集・分類して、ユダヤ人、同性愛者、政治的反対者を摘発しました。戦後の東ドイツの国家保安省シュタージは、さらに精緻な監視体制を構築しました。推定によれば、東ドイツ人口1600万人のうち約100万人がシュタージの非公式協力者として活動していました。隣人が隣人を監視し、家族が家族を告発する社会でした。
2023年の判決において、裁判所はこの歴史的文脈を喚起しました。判決文は、自動化されたデータ分析が既存のデータ収集と質的に異なる新たな干渉を構成すると説明しました。個別に収集された情報を連結すれば『新たな知識』が生成されます。警察記録、通信メタデータ、ソーシャルメディア活動、車両位置情報を結合すれば、個人の行動パターン、社会的ネットワーク、移動経路を再構成することができます。これは元々の情報収集目的を超えるものです。
裁判所は目的拘束原則と比例原則を強調しました。特定の目的で収集されたデータはその目的にのみ使用されなければなりません。他の目的で使用するには、別の正当な根拠が必要です。また、公権力の干渉は達成すべき目的に比例していなければなりません。軽微な犯罪を予防するために広範な監視を認めることはできません。
(3)「ワンクリックでプロファイリング可能」への警告
基本権協会所属の弁護士フランチェスカ・ゲーアリッツは判決直後の記者会見で述べました。「告訴状を提出した人、犯罪被害者、単に間違った場所に間違った時間にいただけの人、すべてがこのソフトウェアの分析対象となりうるのです。」
彼女の発言は誇張ではありませんでした。ヘッセ州警察の内部文書によれば、ヘッセンダータは警察記録システム、刑事捜査データベース、通信メタデータ、ソーシャルメディア情報を統合することができました。2022年12月、ヘッセ州内務大臣ペーター・ボイトは議会でこのソフトウェアが、ドイツ政府転覆を企図した極右地下組織『ライヒスビュルガー』の捜査に使用されたと明らかにしました。
カオス・コンピュータ・クラブ(CCC)の代表者コンスタンツェ・クルツはさらに辛辣でした。「これはパランティア式の無差別捜査です。警察が元々の目的とは異なる用途で異なるデータセットを結合しているのです。自動化された大量分析が法執行の日常になってはなりません。」
問題の核心はアルゴリズムの不透明性でした。パランティアのソフトウェアは独占的なコードで記述されています。外部の専門家はもちろん、使用機関自体もアルゴリズムがどのような方式で関連性を生み出すのかを完全には理解していません。2023年、バイエルン州はフラウンホーファー情報セキュリティ技術研究所にソースコード検証を委託しました。研究所は『秘密のバックドア』は存在しないという結論を出しました。しかし、この評価報告書は『セキュリティ上の懸念』および『パランティアの営業秘密』を理由に機密に分類されました。
判決文はこの点を的確に指摘していました。「無制限のデータ分析技術が現在利用可能でないという事実だけでは問題は解決されない。憲法的要件は法的に可能な干渉に基づいていなければならない。」技術が発展すれば、より広範な分析が可能になります。法的許容範囲が広く設定されていれば、その範囲まで監視が拡大される可能性があります。
(4)ヘッセ州2023年9月法律改正命令およびハンブルク州法律無効化
裁判長ハルバルトは判決言渡し後、記者たちに一つのことを強調しました。「各州は保存されたデータファイルの追加処理のための法的根拠を違憲でない方式で形成する選択肢を有しています。」
この発言は両義的でした。憲法裁判所はパランティア・ソフトウェア自体を禁止したのではありません。その使用を支持する法律が憲法的要件を満たしていないと判断したのです。より厳格な条件を明記した法律を制定すれば、継続して使用できるという意味でもありました。
ヘッセ州は期限に間に合わせて法律を改正しました。新法はデータ分析の要件を具体化しました。しかし批評家たちは改正が不十分だと主張しました。基本権協会は2025年現在、ヘッセ州憲法裁判所に新たな訴訟を提起している状態です。
ハンブルクは別の道を選びました。法律が無効化された後、新たな法律制定を推進しませんでした。ハンブルク州議会内でパランティア導入に対する根本的な懐疑論が生じたからです。
判決の波紋はドイツ全域に広がりました。バイエルン州およびノルトラインヴェストファーレン州警察も、それぞれVeRAおよびDARという名称でパランティア・ソフトウェアを使用していました。基本権協会とカオス・コンピュータ・クラブはこの両州に対しても憲法異議を申し立てました。バイエルン州に対する訴訟は2025年現在、連邦憲法裁判所に係属中です。
b. GDPRおよびデータソブリンティ時代
(1)ヨーロッパ拡張戦略の挫折と再調整
アレックス・カープは2024年2月のある企業投資カンファレンス舞台に登壇しました。マイアミで開催されたFIIインスティテュートのイベントでした。彼は独特の早口で聴衆に訴えかけました。
「ヨーロッパで無数のテロ攻撃を防ぎました。正直なところ、それらが防がれていなければ、西側諸国で今、まったく異なる政治的現実をご覧になっていたはずです。事実です。」彼は一瞬の間をおいて付け加えました。「ヨーロッパの都市で私が嫌われるのは結構なことです。どうぞ引き続き嫌ってください。私とあなたがたの間で誰もゴーズステップを歩まないただ一つの理由は、わたしたちの製品です。感謝のことばを述べてください。」
ゴーズステップ。20世紀のドイツとイタリアのファシストたちの行進方式を指す表現でした。カープはパランティアがヨーロッパをファシズムの復活から救ったと主張したのです。
この発言はドイツで大きな波紋を起こしました。パランティアのヨーロッパ拡張戦略が直面していた障壁を鮮明に浮き彫りにしたからです。皮肉なことに、パランティアが防いだと主張するまさにその歴史が、パランティア導入への抵抗の源泉となったのです。
ドイツで国家監視に対する不信感は根深いものです。ナチスのゲシュタポ、東ドイツのシュタージの経験は集団的トラウマとして残っています。基本権協会の弁護士たちが憲法異議で繰り返し喚起したのもこの歴史でした。
欧州連合の一般データ保護規則(GDPR)はこのような歴史的背景から生まれました。2018年に発効したGDPRは、世界で最も厳格な個人情報保護規範として評価されています。核となる原則があります。データの最小化:目的達成に必要な最小限のデータのみを収集しなければなりません。目的拘束:収集目的以外の用途でデータを使用できません。忘れられる権利:個人は自らのデータの削除を要求できます。
パランティアのビジネスモデルはこれらの原則と衝突します。パランティア・ソフトウェアの本質は、多様な出所のデータを統合・連結して新たなパターンを発見することです。データを最小化するのではなく最大化します。元々の収集目的を超える用途で活用します。
欧州連合司法裁判所の2020年シュレムス2判決は状況をさらに複雑にしました。裁判所は米国の監視法、特に外国情報監視法(FISA)702条がEU市民の個人情報を十分に保護していないと判断しました。欧州連合・米国プライバシー・シールド協定が無効化されました。米国企業へのEU市民データの転送それ自体が法的問題となりました。
(2)ポリツァイ20/20プロジェクトとメルツ政府による再推進
パランティアのヨーロッパ戦略が挫折だけを経験したわけではありません。むしろ危機を機会に転換しようとする試みが進行中です。
ドイツ警察システムの構造的特性が背景です。ドイツは16の連邦州から構成される連邦国家です。警察は各州政府に属しています。連邦レベルの警察には連邦犯罪局(BKA)と連邦警察がありますが、日常的な治安業務は州警察が担当しています。問題は各州警察のITシステムがばらばらであることです。ある州で収集された情報が他の州と共有されません。連邦レベルのデータベースと州レベルのデータベースが接続されていません。
2019年、連邦政府と州政府は、この問題を解決するために『ポリツァイ20/20』というプロジェクトを開始しました。3億ユーロの予算が投じられました。目標は16州の分散した警察データベースを統合することでした。
保守派の政治家たちはこのプロジェクトにパランティア・ソフトウェアを導入することを主張しました。基督教民主同盟/基督教社会同盟(CDU/CSU)のフリードリヒ・メルツとアレクサンダー・ドブリントが代表的でした。彼らはパランティアがすでに世界各地の情報機関と軍隊で検証された技術であると強調しました。
2023年、当時の内務大臣であった社会民主党のナンシー・ファイザーはこの計画を中止させました。連邦犯罪局、連邦警察、税関捜査局がパランティア・ソフトウェアを使用することを禁止しました。連邦憲法裁判所判決の直後の決定でした。
しかし2025年初頭の総選挙でCDU/CSUが勝利すると状況が変わりました。メルツ首相が率いる新たな連立政府が発足しました。内務大臣職はCSUのドブリントに戻りました。長年パランティア導入を支持していた人物です。
2025年3月、連邦参議院は連邦および州警察のための共同『自動化されたデータ分析プラットフォーム』の迅速な導入を促す決議案を可決しました。決議案にはパランティアという名称は明記されていません。しかし、バイエルン州が既にパランティアと締結した基本契約によれば、他の州と連邦政府が新たな調達手続きなしに参加することができます。
すべての州が同意したわけではありません。バイエリッシェ・ルントフンク(BR)放送の調査によれば、ハンブルク州とメクレンブルク・フォアポメルン州は「市場支配的な米国供給業者パランティアの製品使用を排除する」ヨーロッパ代案を明示的に要求しました。ブレーメン州、ニーダーザクセン州、ザールラント州、シュレスウィヒ・ホルシュタイン州、チューリンゲン州がこの立場を支持しました。しかし、この提案は連邦参議院で必要とされる多数決を得られませんでした。
(3) デジタル主権のディレンマ
複数の州政府がパランティアに反対する理由の一つは「デジタル主権」の問題です。
パランティアの共同創業者で取締役会議長のピーター・ティールは、ドナルド・トランプ大統領とJD・バンス副大統領の有力な支持者であり政治献金者です。現トランプ行政府で最少10名の人事がパランティア株式を保有していることが知られています。2025年4月、パランティアは米国移民税関執行局(ICE)と3,000万ドル規模の契約を締結しました。不法滞在者の識別と自主出国追跡のための運営体制「ImmigrationOS」を開発する内容でした。
社会民主党議員のヨハネス・シェッツェルは、ドイツの時事週刊誌Sternのインタビューで述べました。「パランティアは中立的なITサービス提供業者ではありません。米国情報機関との深い結びつきを持ち、明確な地政学的利益を追求する企業です。」
法的にも問題があります。2018年に制定された米国クラウド法(CLOUD Act)は、米国当局が米国企業に対して世界中どこに保存されたデータであれ提出するよう要求できるようにしています。理論的には、パランティアソフトウェアがドイツ警察サーバーでドイツ人のデータのみを処理していたとしても、米国政府がアクセスを要求する可能性を完全には排除できません。
パランティア側はこうした懸念を一蹴します。欧州戦略担当シニアバイスプレジデントのヤン・ヒッセリヒは、ドイツの経済紙Handelsblattのインタビューで述べました。「パランティアはデータではなくソフトウェアを提供します。どのデータが捜査に関連するかは、顧客が関連法規に従って決定します。」
パランティアはドイツでドイツテレコムの子会社T-Systemsと協力しています。ソフトウェアは警察自体のサーバーで運用されています。データが米国に送信されないというのが公式立場です。
しかし、批評家たちはこれで十分ではないと主張します。緑の党連邦議会議員コンスタンティン・フォン・ノッツは述べました。「全国的な導入は、特に米国政府がますます信頼できなくなるこの時代に、論外となるべきです。」
新しい連立政府の連立協約書には興味深い文言があります。「デジタル政策は権力政治です。」外国技術への依存度を削減するという目標も明記されています。しかし同時に、パランティアの導入を再推進しています。デジタル主権を強調しながら米国企業の監視ソフトウェアを導入する矛盾です。
3. 民主的統制の危機
(1) 選出されていない技術企業が国家の中核機能を掌握する時
2025年7月末、バーデン・ヴュルテンベルク州議会はパランティア Gotham ソフトウェア使用を許可する法律を可決しました。緑の党‐キリスト教民主同盟の連立でした。環境政党である緑の党でさえ反対しませんでした。
報道によれば、バーデン・ヴュルテンベルク州は2025年3月にすでに2,500万ユーロ規模の契約をパランティアと締結していました。法律的根拠が整備される前でした。順序が逆転していたのです。契約が先、法律が後。技術導入の惰性が民主的審議に先行しました。
これが批評家たちが懸念する「ベンダーロックイン(vendor lock-in)」現象です。一度パランティアシステムが警察業務フロー深く統合されると、他のシステムへの転換がますます困難になります。専門教育、データ移行、ワークフロー再設計に莫大な費用がかかります。将来のヨーロッパ産代案への切り替えの約束は、現実的に実行することが困難です。
バイエルン州のVeRAシステムの事例がこれを示しています。2022年バイエルン州がパランティアと締結した基本契約には、他の連邦州と連邦政府が新しい調達手続なしに参加できるという条項が含まれています。個別の州が下す決定が全国的先例になります。選出された代表者の十分な熟議なしで、事実上の標準が作られます。
さらに根本的な問題があります。パランティアのアルゴリズムがどのように動作するのか、誰も正確に知りません。ソースコードは営業秘密です。フラウンホーファー研究所の検討結果さえ機密に分類されました。警察当局がアルゴリズムの推奨を受け入れるとき、その推奨がどのような論理から導き出されたのかを検証する方法がありません。
研究者たちはこれを「オートメーションバイアス(automation bias)」と呼びます。人間はコンピュータシステムの出力を過信する傾向があります。アルゴリズムが特定の人物を「高リスク」に分類すると、捜査官はその判断に疑問を唱えるより従う傾向にあります。アルゴリズムが誤ったとき、そのエラーを発見し修正することは困難です。
(2) 主権と責任の問題:誰がアルゴリズムを監視するのか
ピーター・ティールは2009年のエッセイで挑発的な文章を書きました。「私はもはや自由と民主主義が両立可能だと信じない。」
アレックス・カープは公開イベントで何度も述べました。「我々の製品は時々人を殺すのに使用されます。」パランティアの創業者たちは自分たちの価値観について隠しません。彼らは西洋民主主義を守ると主張しています。しかし、その「保護」の方式と範囲を誰が決定しますか。民主的に選出された政府ですか、それともパランティアですか。パランティアのガバナンス構造がこの質問をより鋭くしています。会社は差別議決権構造を採用しています。創業者3人(ティール、カープ、スティーブン・コーエン)がClass F株式を通じて約80%の議決権を行使します。株主による統制も、取締役会の牽制も限定的です。創業者たちが会社の方向を決定します。
この会社が民主国家の中核的な安保機能を担当しています。誰がテロ容疑者であるか、誰が監視対象であるか、どのデータがどのように結ばれるかを、パランティアのアルゴリズムが判断しています。選出されていない技術企業が国家主権の中核領域に入り込んでいます。
ドイツ連邦憲法裁判所の2023年判決はこの問題に対する一つの答えでした。しかし、決定的な答えではありませんでした。裁判所はパランティア使用自体を禁止しませんでした。法的根拠をより厳格にするよう要求しただけです。
基本権協会とChaos Computer Clubは引き続き戦っています。バイエルン州とノルトラインヴェストファーレン州に対する憲法訴願が進行中です。しかし、政治的流れは反対方向に動いています。メルツ政府下でパランティアの拡大が加速しています。
欧州連合の次元でも根本的な解決が見えません。GDPRは強固な個人情報保護の原則を宣言しましたが、国家安保領域における監視技術の使用については、各加盟国に裁量を付与しています。EU AI法(AI Act)が高リスクAIシステムに対する規制を導入しましたが、法執行領域には多くの例外が適用されます。
結局、問題は技術ではありません。選択です。効率性とプライバシーの間で、安保と自由の間で、便宜と民主主義の間でどのような均衡点を見つけるか。この質問に対する答えはアルゴリズムが与えることはできません。市民自身が決定しなければなりません。
ドイツ連邦憲法裁判所が喚起した1983年の人口調査判決、そしてその判決が想起させたナチスとスターシの歴史は一つの警告です。技術はそれ自体において善でも悪でもありません。しかし権力の道具となるとき、統制されないとき、透明でないとき、技術は民主主義を脅かすことができます。パランティアの名前はトールキンの『指輪物語』に登場する「パランティア」から来ています。遠く見る石。しかしトールキンの物語でパランティアを使用した者たちの相当数はその視線に執らわれて滅びました。見る者が見られる者になりました。道具が使用者を支配しました。
ドイツと欧州が直面する質問はこれです。誰がパランティアを統制するのか。我々がそれを使用するのか、それともそれが我々を使用するのか。