「ビッグ・ブラザーがあなたを見守っている」—ジョージ・オーウェル

1. 24時間監視するAIの眼

あなたが今この文章を読んでいるまさにその瞬間にも、目に見えない数千の眼があなたを監視している。スマートフォンの中のカメラ、街頭のCCTV、駅の顔認識システム、さらにはあなたが「いいね」を押したソーシャルメディアの投稿まで。すべてがデータとなって、どこかで分析され、保存されている。

人工知能はもともと人類の人生をより豊かで便利にするために誕生した。医療診断を支援し、交通渋滞を解決し、言語の壁を取り払う魔法のような技術として。しかし現実はどうか。その賢い技術が人々を監視し支配し、さらには生命を脅かす兵器へと変わり始めている。技術そのものが悪いわけではない。問題は、その技術を握っている手が何をしようとしているのかということだ。

イスラエルのラベンダー・システムがパレスチナ人の生死を数字で計算し、中国の天網が14億人口の一挙手一投足を追跡し、米国のパランティアが世界中の情報をリアルタイムで分析するとき、我々は気付かねばならない。人工知能はもはや我々の便利な道具ではなく、我々を縛り付ける足かせになりつつあるということを。

全世界に広がるAI監視システムには、ぞっとする共通点がある。第一に、あなたの同意など求めない。あなたが望もうが望むまいが、個人情報を大量に収集してしまう。第二に、そのアルゴリズムがどのように機能するのか誰も知らない。魔法の黒い箱のように、極めて不透明である。第三に、完璧ではないのに重大な決定を下す。10%の誤差率とは、その10%の中にあなたが入る可能性があるということだ。第四に、特定の集団を差別的に標的にする。肌の色が異なったり、信仰する宗教が異なったり、政治的傾向が異なるという理由だけで。

これは単なる技術の問題ではない。人間の尊厳、プライバシー、表現の自由、信教の自由など、民主主義社会が守ってきたあらゆる価値を根底から揺さぶる人権の問題だ。韓国の国家人権委員会でさえ、2024年5月に『人工知能人権影響評価ツール』の活用を勧告したほど、わが国もこの問題から自由ではない。

今この瞬間、人工知能技術が人間を解放する道具となるのか、それとも人間を抑圧する足かせとなるのかが決まっている。その決定権者は政府や企業ではない。まさにあなたであり、私であり、我々すべてなのだ。

2. イスラエルの『ラベンダー』システム

2024年4月、世界に衝撃が走った。イスラエル・パレスチナの独立系メディア『+972マガジン』とヘブライ語メディア『ローカルコール』が公開した『ラベンダー(Lavender)』AIシステムの実態だった。その内容は、我々がAIについて抱いていた悪夢の全てを現実にしたものだった。

イスラエル軍の情報部隊が開発したこのAIは、神の眼のようにガザ地区を見下ろし、230万人の運命を1点から100点までの数字で評価した。ハマスの武装勢力員である可能性をスコアで計算するというのだ。あなたが誰と通話するのか、どのアプリをダウンロードするのか、どこをよく訪れるのか、すべてがアルゴリズムの餌食となった。

ラベンダーはすでに知られているハマス要員のデータをまず学習した。彼らが使用する携帯電話のブランド、頻繁にダウンロードするアプリ、通話パターン、移動経路まで。そして同様のパターンを示す人々を次々と見つけ出しながらスコアを付けた。インフルエンザウイルスが拡散するように、つながりをたどって疑いの網を広げていった。

生命を数字で計算するアルゴリズム

イスラエル軍はラベンダーが90%の精度を示すと満足していた。90%とは、聞こえとしてはかなり高い数字だ。しかし少し待ってほしい。これが何を意味するのか考えてみよう。10%は間違う可能性があるということだ。ラベンダーが37,000人を攻撃対象に指定したなら、そのうち3,700人は無実の人々かもしれないということだ。3,700人の命を誤差範囲と呼べるだろうか。

さらに悚ましいことに、戦争が始まった後は、人間による検証手続きさえも弛緩してしまったということだ。戦争以前には『人間が直接得た最少2つの情報がラベンダーAIの判断を裏付けるべきである』という内部規定があった。しかしガザ戦争が勃発すると、この基準が『1つ』に引き下げられ、実戦ではこれさえも無視される場合が多かった。

ある情報分析官の証言は戦慄させる。「我々はラベンダー人工知能の決定に確認判子を押すだけだった。標的への攻撃を承認するのに、わずか20秒しかかからなかった。」生死を分ける重大な決定を事実上、人工知能が下していたのだ。人間の判断は単なる形式的な手続きに過ぎなかった。

ある将校の冷笑的な言葉がすべてを要約している。「金・時間・人員を節約することが、民間人の命よりもはるかに重要だった。」

「お父さんはどこに?」—家族を人質に取るシステム

ラベンダーと共に運用される別のシステムは、その名前からして身の毛がよだつ。『お父さんはどこに?(Where's Daddy?)』と呼ばれるこの追跡システムは、標的人物が家に帰ってくる瞬間を感知し、イスラエル軍に知らせる。

なぜわざわざ『お父さんはどこに?』なのか。その理由は単純にして残忍だ。父親が家に帰ってくる時点を狙って攻撃するためだ。このシステムは標的人物の日常パターンを学習し、家の位置を把握し、いつ家に入るのかをリアルタイムで監視する。

イスラエル将校の証言は衝撃的だ。「我々はハマス要員が軍事建物にいたり軍事活動をしているときだけ攻撃したわけではない。家にいるときに彼らを攻撃する方がはるかに簡単だったし、システムはハマス要員が家にいることを把握するために作られたのだ。」

結果は予測可能だった。1人の標的を排除するために、その家族全体が一緒に亡くなっていった。家から爆撃を受ければ、女性と子どもたちである家族が一緒に犠牲になるしかなかった。国際法が明示している民間人保護原則を正面から無視する行為だった。

付随的被害という名の大量虐殺許可証

イスラエル軍の情報要員6人が証言した内容は、さらに衝撃的だ。戦争初期の数週間、イスラエル軍はラベンダーが指摘した各武装勢力員を暗殺する際に、15人から20人の民間人が犠牲になることを『許容可能な範囲』として認めていた。ハマス司令官級を攻撃する場合は、100人以上の民間人死亡さえも容認していたという。

米国国務省の国際法専門家は『ガーディアン』とのインタビューで、「1対15という比率は、特に下級戦闘員に対しては全く聞いたことがない」と述べた。イスラエルが適用した民間人被害許容基準が、国際的に前例がないほど寛容だったということだ。

IDF内部の告発者たちの言葉がこのすべての状況を要約している。「下級武装勢力にイスラエル軍の人員と時間を過度に費やしたくなかった。付随的被害と民間人殺害、そして無実の者を誤って攻撃する誤りを甘受してでも、AIを使う価値があった。」

人間の尊厳を否定する機械の判決

ラベンダーシステムの最大の問題は、人間の生命を単なるデータとして扱うという点だ。人の人生と感情、家族との関係、個人の歴史はすべて無視され、人工知能アルゴリズムが計算した確率によってのみ生死が決定される。これは人間の尊厳に対する根本的な否定であり、技術は人間のために存在すべきという原則を完全に逆転させるものだ。

透明性も全くない。アルゴリズムがどのような基準に基づいて誰かを危険人物に分類するのか、正確に知ることができず、誤って分類された人々が自らの無実を証明する方法もない。適切な手続きや法的保護なく、人々の生命を奪うのだ。

ガザ地区の顔認識の地獄

ラベンダーと共にイスラエルがガザ地区に導入した顔認識技術は、また別の悪夢だった。2023年ガザ地区戦争勃発後、ハマス関係者を摘出し、イスラエル人質を識別するという名目で導入されたこのシステムは、実際にはパレスチナ住民を無差別に監視する道具となった。

イスラエル情報部隊8200が主導するこの作戦では、民間企業『コルサイト(Corsight)』の顔認識技術が使用された。検問所、ドローン、軍用カメラを通じて運用され、コルサイト職員が現場に直接投入され、技術サポートを提供した。

ガザ地区に配置されたイスラエル兵士たちには、この技術が搭載されたカメラが支給され、避難民たちが検問所を通過するたびに顔が無作為に撮影・スキャンされ、既存のデータベースと照合されて身元が特定された。

コルサイトは自社の顔認識技術が『顔の50%未満の露出やdarkness・低画質環境でも正確な認識が可能』だと自慢していた。しかし現実は異なった。パレスチナの詩人モサブ・アブ・トハがその生きた証人だ。彼は3歳の子どもを連れて避難の途に就きながら、イスラエル軍の検問所で顔認識カメラにスキャンされ、AIの誤りで指名手配者リストに上った人物として誤認識されるとともに、2日間拘置され、暴行と拷問を受けた。

国際アムネスティはこのようなイスラエルの行為を『自動化されたアパルトヘイト』と批判した。AI技術が戦争と監視に悪用される際に発生しうる深刻な人権侵害の典型的事例となった。

3. 歩き方だけであなたを見つけ出す中国

中国の天網(天網)システムの前では、隠れ場所がない。この名前は老子の『道徳経』から引用したもので、『天の網の目は非常に広く、粗く見えるようだが、悪人は一人も見逃さない』という意味だ。しかし、ここで言う『悪人』の基準は誰が決めるのか。まさに中国共産党である。

14億人口を1秒でスキャン

中国は全国に10億台を超えるCCTVを設置した。想像してみよう。10億個の眼が24時間ぶっ続けであなたを見守っているということを。中国政府はこのシステムを通じて、全人口を1秒で調査できると自慢している。14億人の顔を1秒で識別するなんて、技術的には素晴らしいが、人権的には恐ろしい。

中国の顔認識技術は世界最高水準だ。2018年、米国国立標準技術研究所(NIST)が主催した顔認識ベンダーテストで、1位から4位までがすべて中国企業が開発したアルゴリズムで占められた。彼らがこの分野で世界を主導している理由は簡単だ。実験対象が14億もいるからだ。

99.8%の精度

天網の顔認識精度は99.8%に達する。運用開始後2年間、このシステムを通じて逮捕された犯罪者だけで2,000人を超えた。しかし、ここで注目すべき点は、人間の顔だけでなく、歩き方まで認識して個人を識別するということだ。あなたが帽子をかぶったり、マスクを着用したりしても無駄だ。歩き方一つだけであなたを見つけ出す。

実際の事例を見れば、その威力がどの程度なのかわかる。17年前に彼氏を殺害した女性が、高速道路の料金所に設置された顔認識システムに見つけ出された。5万人以上が集まったコンサート会場で、経済犯罪で指名手配中だった男性がカメラの顔認識技術により発見され逮捕された。2000年に浙江省で発生した遺体毀損事件の犯人を16年後に見つけ出した事例もある。

最も劇的な事例は安徽省のある寺院で起きた。寺院の住職の顔が凶悪犯罪容疑者と一致するという事実をシステムが発見したのだ。名前と姓を変え、10年以上スーパーとして暮らしていた犯人は、結局逮捕された。

こうした事例を見ると、中国の監視技術がいかに精巧で広範囲かが分かる。同時に、こうした技術が一般市民のプライバシーをいかに深刻に侵害しうるかも示している。

鷲の眼で完成した監視網

2016年、中国は中国共産党中央委員会の承認を受けて、『シャープアイズ（Sharp Eyes）』プロジェクトを開始しました。中国全土を24時間監視・統制できるCCTV監視ネットワークを完成させるという野心的な計画でした。

シャープアイズプロジェクトは、単に更多くのカメラを設置することに止まりません。道路や公共施設に設置されたCCTVを住民のテレビ、携帯電話、スマートロックなどと連結し、リアルタイムで状況を把握できるネットワークを構築するものです。言葉通り、すべての国民が互いを監視する社会を作ることと同じです。

想像してみてください。あなたのテレビが、あなたの携帯電話が、さらにはあなたの家の玄関扉までもが政府の監視道具になる世界を。中国全土が巨大な監視網で覆われているというのは、まさにこうした意味です。

日常的な監視

中国の顔認証技術は、今や日常生活のすべての領域に浸透しました。交通法規に違反すると違反者の顔を撮影して電光掲示板に公開します。横断歩道を無断横断すると自動的に取り締まられます。地下鉄の乗車料金を支払う際は、スマートフォンなしに手のひらや顔だけでも可能です。

さらに北京の天壇公園では、トイレットペーパーの盗難を防ぐために顔認証機械を導入しました。顔を認識してはじめて一定量のトイレットペーパーを受け取ることができます。トイレでさえあなたの顔が記録されるのです。

2019年12月1日からは、携帯電話の新規番号登録時に顔スキャンが義務化されました。政府は『サイバー空間での市民権益保護』を名目に掲げましたが、実際には政府主導の生体情報データベース構築が目的でした。収集された顔情報は、全国7億台以上のCCTVと連動した監視ネットワークに統合され、リアルタイムの身元特定と移動経路追跡が可能になりました。

COVID-19のパンデミックは、監視技術の拡散の絶好の機会となりました。学校、官公庁、アパート団地などで、体温測定とともに顔認証による出入制限が日常化しました。マスク装着状態でも識別が可能な技術が開発され、使用されています。

新疆ウイグル

中国の監視システムが最も極端に運営されている場所は新疆ウイグル自治区です。ここは文字通り監視技術の実験室となりました。モスク、ウイグル地域社会、空港、鉄道駅、バス停留所など新疆全域の670万か所にCCTVと顔スキャンシステムが設置されました。

ヒューマン・ライツ・ウォッチによれば、新疆地区の人口の10分の1である250万人が毎日中国当局の監視を受けています。12歳から65歳までの住民のDNA、指紋、虹彩スキャン、血液型などの生体情報が強制的に収集されています。すべての人を潜在的な犯罪者として扱うことと変わりません。

ウイグル族を監視するために使用される統合公共運営プラットフォーム（IJOP）は、それ自体が人種差別の道具です。このプラットフォームは新疆でウイグル人を追跡するためにDNAを含む生体データを収集しています。監視を超えて、特定の少数民族全体に対する組織的な抑圧と統制を意味しています。

ヒューマン・ライツ・ウォッチが入手したアクス県のウイグル人被拘禁者2,000人の名簿を見ると、言葉を失う思いです。拘禁の理由が許可なしのコーラン学習、長いひげ、VPN使用、携帯電話の繰り返しの終了、宗教的活動などでした。こうした日常的な行為が監視の対象となり、人々を収容所に閉じ込める根拠となっています。

ファーウェイがウイグル族のみを標的とした監視カメラシステムを開発したと報じられ、議論になっています。システムがウイグル少数民族であることを検出すると、自動的に『ウイグル警報』を発動して警察に通知するというものです。アリババもウイグル族の識別が可能な顔認証プログラムを保有していることが報じられています。

宗教信仰者を対象とした『ノック作戦』

中国は宗教信仰者に無神論とマルクス主義に基づく共産主義イデオロギーに従うよう強要しています。共産党は宗教団体を党の権威に対抗する可能性のある潜在的な挑戦勢力とみなしています。

1860年に洪秀全がキリスト教思想を掲げた太平天国の乱で清王朝が倒れるところだったという記憶は、今なお鮮烈です。習近平政権以降、『宗教の中国化』政策を掲げながら統制を強化し、宗教組織が党と政府の要求に従うことを求めています。

中国刑法300条に従い、禁止された宗教団体で活動することは3年から7年の懲役刑に該当する犯罪とみなされます。政府は禁止された宗教団体の信仰者を通報した者に10万元の報奨金を提供し、全国民告発体制を構築しました。

2017年初頭から中国全土で『ノック作戦』という広範な監視活動が実施されました。適当な口実を作って警察を派遣し、宗教信仰者を調査して写真を撮影・管理することで、全国的に宗教信仰者を追跡する監視システムの一環です。

収集されたデータは国家安全保障部専用のコンピュータに保存され、調査官は宗教を広める者についての証拠を探し始めます。証拠が確保されると追加調査が進められ、調査後には『シャープアイズ』と『スカイネット』プロジェクトを通じて対象者を絶え間なく監視します。

社会信用システム：スコアで評価される人間の価値

中国政府が構築した社会信用システムは『信用に報い、不信を処罰する』メカニズムで機能します。中国に住むすべての人の行動を観察し、スコアを付けるシステムです。学校で学生の行動を評価するのと同じように、政府が国民一人一人の行動を観察してスコアを与えるのです。

これは地方自治体や鉄道庁、金融機関など各機関ごとにシステムを構築するもので、中央政府が法律として組織的に構築したシステムではありません。しかし様々な地方自治体と機関が参加しているため、実質的には中国全土でこの制度が一糸乱れず実施されているのと変わりません。

信用スコアが高い人は、ホテル宿泊時に保証金を支払う必要がなく、他の人より速くビザを取得できます。一方、信用スコアが低い人は、ホテル宿泊、列車乗車、旅行の自由など様々な制限と制裁を受けます。

社会信用システムは様々な方法で人々の行動を観察します。CCTVカメラが人々の行動を24時間監視しており、顔認証技術を使用して誰が、どこで、何をしたかを把握できます。インターネット利用記録、買物内容、ローン返済記録、交通違反記録など日常生活のすべての情報を収集しています。

よいスコアを得るには、税金を時間通りに納め、交通規則をよく守り、借りた金を時間通りに返す必要があります。ボランティア活動をしたり、親をよく孝行したりすることも、よいスコアを得る方法です。逆に交通信号に違反したり、借りた金を返さなかったり、虚偽情報を広めたりすることは悪いスコアを得ます。特に政府を批判したり反対したりする行動をするとスコアが大きく低下します。

世界全体への拡散

最も懸念される点は、中国の監視モデルが世界中に拡散していることです。中国は監視技術を他国に輸出しており、多くの開発途上国がこうした技術を導入しています。アフリカ、南米、アジアの複数の国が中国の監視技術を導入して自国民を監視するために使用しています。

ファーウェイ、ハイクビジョン、ダフアなど中国企業が開発した監視技術が世界中の多くの国で使用されています。中国式監視モデルが世界中に拡散していることを意味しています。

中国のスカイネットシステムは、技術の進歩が人間の自由と幸福を保証しないことを示す典型的な事例です。社会の安全と秩序を高めるという目的で作られましたが、個人の自由と人権を深刻に侵害する可能性のある危険なシステムです。技術の進歩は人間の生活をより良くするべきですが、むしろ人々を統制し抑圧する道具として使われています。

4. パランティア

パランティア・テクノロジーズという名前を聞いたことがありますか？この企業の名前はトールキンの小説『指輪物語』に登場する魔法の水晶『パランティア』から取られています。小説の中でこの水晶は遠く離れた場所を監視し観察する能力を持っていました。現実のパランティアも変わりません。

2003年にPayPalの創立者ピーター・ティールが設立したこの企業は、世界で最も強力なデータ分析と監視システムを運営しています。彼らの顧客はアメリカ中央情報局（CIA）、連邦捜査局（FBI）、国家安全保障局（NSA）、国防総省など米国の中核情報機関です。最近では民間企業もパランティアのサービスを利用し始めました。

世界のすべてのデータを飲み込むデジタル・クラーケン

パランティアの中核技術は、異なる出所から来る膨大なデータを統合し分析することです。人工知能と機械学習技術を使用して、数十億のデータポイントから隠されたパターンと関連性を見つけ出します。衛星画像、携帯電話の通話記録、金融取引内容、ソーシャルメディア投稿、政府データベースなど、あらゆる種類の情報を一度に分析できます。

さらに怖いのは、これらすべてがリアルタイムで機能するという点です。新しい情報が入ってくる瞬間に分析が始まり、既存データと比較して意味のあるパターンや危険信号を見つけ出します。まるで巨大なデジタル脳が24時間中ずっと世界を監視しているようなものです。

ゴッサムとファウンドリ：政府と企業のための全能の眼

パランティアは主要顧客層に応じて、大きく2つのプラットフォームを運営しています。政府機関向けの『ゴッサム（Gotham）』と民間企業向けの『ファウンドリ（Foundry）』です。

ゴッサムはパランティアの政府向けプラットフォームで、軍事作戦、テロ対策、情報収集、犯罪捜査などに使用されます。ゴッサムの別名が『デジタルチェス盤』である理由は、複雑な状況をちょうどチェス盤のように視覚化して戦略的判断を支援するためです。

ゴッサムの主な機能を見ると、まず『信号情報（Signal Intelligence）』分析機能があります。世界中で収集される電子通信情報を分析する機能で、携帯電話通話、インターネット通信、衛星通信など、あらゆる種類の電子信号をリアルタイムで分析できます。

2番目は『人間情報（Human Intelligence）』統合機能です。機密情報源のレポート、インタビュー記録、現場観察レポートなどを入力すると、自動的に他の情報と連結して分析します。例えば、ある情報源が報告した内容が衛星画像や通信傍受内容と一致するかどうかを即座に確認できます。

3番目は『地理空間情報（Geospatial Intelligence）』分析です。衛星画像、ドローン映像、地図データなどをリアルタイムで分析して地表面の変化を検出します。新しい建物が建設されたり、軍隊が移動したり、兵器が配備されたりするような変化を自動的に発見できます。

4番目は『ソーシャルメディア情報（オープンソース・インテリジェンス）』の収集と分析です。Facebook、Twitter、Instagramなどソーシャルメディアに投稿される記事を自動的に収集して分析します。特定の地域の政治的雰囲気や社会的不安の程度をリアルタイムで把握できます。

ファウンドリは民間向けプラットフォームで、データ分析機能はゴッサムに似ていますが、軍事や情報収集というより企業運営に特化しています。シミュレーションエンジンをベースに、企業の財務、人事、物流、在庫などのデータを統合管理できます。

ウクライナ戦争：パランティアの実戦舞台

2022年2月、ロシアがウクライナに侵攻した後、パランティアは戦争で重要な役割を果たすことになりました。戦争勃発から3ヶ月目の2022年6月、ウクライナのゼレンスキー大統領はパランティアのCEOアレックス・カープに会い、軍事援助をリクエストしました。ゼレンスキーが戦争中に会った西側企業の最初のCEOがまさにカープであったという点から、パランティアの重要性が理解できます。

パランティアはウクライナに自社のソフトウェアを無料で提供することを決定しました。これは戦略的な判断でした。実際の戦争状況で技術をテストし改善できる機会だったからです。企業の立場からすると、露ウ戦争は実際の戦争でなければ得難い貴重なデータと経験を得られる機会だったのです。

パランティアがウクライナに提供した主要システムは「Metaconstellation」と呼ばれる統合分析プラットフォームです。このシステムの核となる機能は、AI基盤の衛星画像、オープンソースデータ、ドローン映像、情報報告書などをリアルタイムで分析し、ウクライナの指揮官たちに戦闘状況を把握し攻撃目標を決定できる情報を提供することです。

アレックス・カープ パランティアCEOはロイター通信とのインタビューで「ウクライナ軍攻撃の大部分をパランティアAIシステムが担当している」と述べました。エコノミストは「ダビデ（ウクライナ）とゴリアテ（ロシア）の争いでダビデの『石投げ』の役割を果たしたのがパランティアAIシステム」と評価しました。

民間監視の暗い影

戦場で敵兵を見つけ出し追跡する技術は、少し修正するだけで政府が市民を監視し統制する道具に変わることができます。パランティアはすでに何度も民間人監視に関連した論争に巻き込まれています。

JPモルガンは最初、従業員の規定違反行為を監視するためにパランティアを導入しました。しかし、システムが会社の幹部たちのプライバシーまで監視するのに使用されるようになり、論争となり、契約がキャンセルされました。

パランティアのシステムは、ユーザーが望む如何なる情報でも見つけ出すことができる能力を持っています。メール、電話通話、金融取引、位置情報、ソーシャルメディア活動など、個人のすべてのデジタルな痕跡を追跡し分析することができます。

パランティアはアメリカの移民税関取締局（ICE）と契約を結び、不法移民を追跡し逮捕するのに協力しています。この技術が社会的弱者を抑圧するのに使用されうることを示す事例です。パランティア従業員200名以上がICE契約に対する懸念を表明する請願書に署名し、過去の従業員13名が公開的に会社の方針を批判してもいます。

デジタル監視同盟の拡散

パランティアはアメリカをはじめ、全世界40余りの国の政府機関と契約を結んでいます。これらの国家の政府はパランティアの技術をテロ防止、犯罪捜査、国境管理、社会安全などの名目で導入しています。しかし、こうしたシステムが一度構築されると、その使用目的と範囲が拡大する可能性が高いのです。

民主主義社会では、市民は政府を監視し牽制することができました。報道の自由、集会の自由、表現の自由などを通じて、市民は政府の過ちを批判し改善を要求することができました。パランティアのような強力な監視技術が政府の手に入ると同時に、このバランスが崩れています。政府はすべての市民の行動をリアルタイムで監視し分析することができるようになる一方、市民は政府が何をしているのかを知ることが難しくなります。監視する者と監視される者の関係が逆転するのです。

国際的次元でも、パランティアの拡散は懸念されています。アメリカがパランティアの技術を同盟国に提供することで、事実上『デジタル監視同盟』を形成しています。これは世界的次元で監視技術の標準化が進行していることを意味しています。

技術と権力の危険な結合

パランティアは、技術と権力の結合がいかに危険であり得るかを示しています。この会社の創立者ピーター・ティールはアメリカ共和党と緊密な関係を持ち、ドナルド・トランプを支持しました。パランティアの技術が特定の政治勢力の利益のために使用される可能性を完全に排除することができない状況なのです。

パランティアの時価総額は伝統的な防衛産業企業を上回る水準に達しました。2024年12月時点で、パランティアの時価総額が1,740億ドルを記録し、ロッキード・マーティン（1,216億ドル）、ノースロップ・グラマン（690億ドル）など防衛産業企業を上回っています。ソフトウェア基盤の監視技術がハードウェア基盤の伝統的な防衛産業企業よりもより大きな価値を認められています。

パランティアの事例は重要な警告を発しています。技術は中立的ではありません。それを誰が、どのような目的で、どのような方法で使用するかによって、人類を解放することもできますし、抑圧することもできます。私たちの選択が、将来の世代が暮らす世界の姿を決定するのです。

5. アメリカ NSC

2013年、エドワード・スノーデンが暴露したNSA機密文書は世界を衝撃に陥れました。アメリカ国家安全保障局（NSA）が35カ国の首脳たちの携帯電話を盗聴していたという事実が明らかになったのです。メルケル・ドイツ首相の場合、2002年から2013年まで約10年間、携帯電話が傍受されていました。ドイツを含むヨーロッパ同盟国がアメリカに対する不信を表明し、外交的対立が深刻化しました。

スノーデンの暴露によると、韓国と日本を含む38の友邦国の駐米大使館に盗聴器を設置し、特別アンテナで電波まで探知する全方位的なスパイ活動を展開しました。ブリュッセルの欧州連合本部さえ監視対象とし、『自由の守護者』を任じながらも、同盟国を敵国のように監視しました。

グーグル、フェイスブック、アップル、マイクロソフトなどグローバルIT企業のサーバーに直接アクセスし、個人メール、写真、通話記録など、すべての情報をリアルタイムで収集する『プリズム』システムを運営しました。中国の清華大学と香港通信企業までハッキングし、敵国と友邦国を区別しない無差別的な情報戦を展開しました。

ドイツの法務長官が「冷戦時期の敵国の行動を連想させる」と激怒するほど、同盟国に対する背信的な監視行為を日常としていました。CIAはドイツのフランクフルトとハンブルク領事館をハッキング基地として活用し、友邦国領域で公然とサイバースパイ活動を展開しました。

スノーデン暴露後のより洗練された監視

スノーデンの暴露から10年余りが経ちました。その間、人工知能技術は飛躍的に発展しました。オバマ大統領の謝罪以降、アメリカの情報機関は友邦国首脳たちの携帯電話や重要通信網への盗聴と傍受を本当に止めたのでしょうか。筆者は依然として継続していると考えます。

過去のNSAの監視が膨大な通信データを収集することに重点を置いていたのであれば、今やAIはそのデータをリアルタイムで分析し予測する段階へ進化しました。AIアルゴリズムは人間の分析官が数年かけて処理する量のデータを、わずか数分で分析することができます。メール、ソーシャルメディアの投稿、通話記録など、膨大な情報の中から特定の個人の政治的傾向、批判的意見、連絡先ネットワークなどを瞬時に把握し、相関関係をマッピングすることができるのです。

予測的監視と行動分析も可能になりました。過去のデータを学習して、特定の個人や集団の将来の行動を予測するために使用することができます。政治的集会に参加したり、オンライン上で特定の主題について反復的に意見を表明する個人を分類し、すべてのオンライン活動と通信を集中的に監視することができるのです。

顔認識と行動認識システムも発展しました。世界的に拡散したCCTV、ドローン、衛星画像などはAIの目と結合して、強力なリアルタイム追跡システムを構築します。AIは特定の人物の顔を識別することを超え、マスクを着用したり一部だけが露出しても個人を特定できるレベルまで発展しました。歩行パターン、行動パターンなど生体情報を分析して、群衆の中でも特定の人物を識別し、動線を追跡することが可能になったのです。

ファイブ・アイズ：国内法の制約を迂回する監視同盟

アメリカ、イギリス、カナダ、オーストラリア、ニュージーランドで構成されたファイブ・アイズ（Five Eyes）情報同盟は、先端技術を活用したグローバル監視ネットワークを構築しています。各国の情報機関が収集したデータを共有し分析して、全方位的な監視体制を運営しています。

この同盟の最も巧妙な点は、各国の法的制約を迂回することです。アメリカ政府が自国民を直接監視することは法的に制限がありますが、イギリスや他の同盟国が収集したアメリカ人の情報を受け取ることは相対的に自由です。これは各国の個人情報保護法と監視制限規定を無効化する効果をもたらすのです。

情報機関はフェイスブック、ツイッター、インスタグラムなどのソーシャルメディアプラットフォームを通じて個人情報を大量に収集しています。プラットフォームはユーザーの日常的な活動、人間関係、政治的傾向、消費パターンなどに関する膨大な情報を保有しています。AI技術はこれらの情報を分析して、個人の性格、政治的傾向、行動パターンなどを予測することができます。特定の投稿に「いいね」を押すパターンだけでも、その人の政治的傾向を90％以上の精度で予測できるという研究結果があります。

金融監視と位置追跡の網

金融機関は金融取引データを監視しています。個人の経済活動、消費パターン、人間関係などを把握することができます。誰かが特定の地域でお金を引き出したり、特定の店舗で購入をすると、その人の位置と活動を追跡することができます。AI技術はすべての市民の経済活動を監視する道具として悪用されうるのです。

スマートフォン、GPS装置、クレジットカードなどを通じて収集される位置情報は、個人の移動パターンを詳細に把握できるようにしてくれます。AI技術は位置データを分析して、個人の日常的な活動パターン、会う人々、頻繁に行く場所などを把握することができます。このような情報は特定の個人の行動を予測し監視するために使用されうるのです。平素と異なるパターンで移動する人を『疑わしい行動』として分類し、追加監視対象に指定することができます。

民主主義を蝕むデジタル全体主義

AI基盤の監視システムは民主主義と人権に深刻な脅威をもたらしています。個人のプライバシー、表現の自由、集会の自由、政治的参加など民主主義の基本的権利が監視と統制によって制約されています。政治的反対者や社会運動家に対する監視が強化されるにつれて、健全な政治的議論と社会的批判が抑圧される可能性があります。これは民主主義の基本原則である抑制と均衡を損なう結果をもたらしうるのです。

私たちは今、重大な岐路に立っています。技術が発展するほど、監視の精緻さと範囲は拡大しています。今こそ、私たちが選択すべき時です。便利さと安全という名目で、すべてを監視されながら暮らすのか、それとも不便さを覚悟の上でも自由と人間の尊厳を守るのか。

6. デジタル独裁の脅威

同意なしのビッグデータ強奪

あなたが朝に目を覚ましてスマートフォンを確認し、地下鉄で出勤し、カフェでコーヒーを飲み、オンラインショッピングをするすべての瞬間がデータになります。そしてそのデータはあなたの同意なしに収集され、分析され、判断の根拠となるのです。

全世界で運営されているAI監視システムの最も基本的な問題は、人々の同意などを求めないという点です。イスラエルのラベンダー・システムはガザ地区の住民230万人の大部分の情報を収集し分析しました。中国の場合も、国民が望もうが望むまいが、顔の情報を強制的に収集しています。

個人情報の自己決定権は民主主義社会の基本的な権利です。すべての人は自分の情報を誰が、いつ、どのような目的で使用するかを知る権利があり、その使用に対して同意するか拒否するかを決定する権利があります。しかし、AI監視システムはこれらの権利を完全に無視しています。

さらに深刻なのは、収集される情報の範囲が想像を超えているという点です。単なる顔写真や名前だけでなく、位置情報、通話記録、インターネット検索履歴、ソーシャルメディア活動、さらには歩行パターンや行動パターンまで、すべてが収集対象となります。あなたの一挙一動がすべて記録され、分析されるのです。

ブラックボックス・アルゴリズムの独裁

これらのシステムがどのように動作しているかを一般人が知ることができないという点である。ラベンダーのアルゴリズムがどのような方式で訓練され学習されるのか、中国の顔認識システムがどのような基準で人を判別するのか明確に知らされていない。人の生命を左右する重要な決定を下すシステムであるのに、その過程が秘密に隠されている。

アルゴリズムの透明性は民主主義社会において非常に重要な原則である。特に個人の権利に影響を与える自動化された決定については、その根拠と過程を知る権利がある。しかし現在のAI監視システムは『ブラックボックス』状態で運営されており、誰もその内部動作原理を確認することができない。

これは非常に危険なことである。アルゴリズムが偏向していたり誤りがあったとしても、それを確認し修正する方法がない。誤った判断を下しても、その理由を知ることができず、したがって誤りを正すこともできない。

システムは完璧でもない。ラベンダーシステムの10%誤差率は、無実の民間人が誤認識される危険を意味している。中国の顔認識システムが99.8%の精度を誇ったとしても、1,000人のうち2人は誤認識される可能性があるということである。14億人の人口に適用すれば、数千万人が誤認識の被害を受ける可能性がある。

24時間監視する電子監獄

現代のAI監視システムが作り出す世界を想像してみよ。家を出る瞬間から帰宅するまで、眠っている時間を除いては、すべての瞬間が記録され分析される。どこに行くのか、誰に会うのか、何を買うのか、さらにはどのような表情をするのかまで、すべてがデータとなる。

中国の監視システムは国民の社会的行動を分析し、政府に対する忠誠度さえも評価する社会信用制度と連動している。人々が自由に行動し考える権利を深刻に制限している。

このような全面的な監視は『冷却効果（chilling effect）』を生み出す。常に監視されていることを知るようになると、人々は自由に意見を表現したり政治的活動に参加することを控えるようになる。民主主義の根幹である表現の自由と政治的参加を抑圧する結果をもたらす。

ウイグル族の場合を見よ。許可のないコーラン学習、長いひげ、VPN使用などの理由で収監された。宗教の自由、表現の自由、プライバシーの自由をすべて侵害する行為である。日常的な行為が犯罪と見なされる社会では、誰も安全ではない。

機械が下す生死の判決

ラベンダーシステムに関するイスラエル情報将校の証言は身の毛もよだつものである。『人間として、私は承認印を押すこと以外に何の役割も果たさなかった』。生命に関連する最も重要な決定から人間の判断が事実上排除されたのである。

人間の生命がかかった決定を機械に任せることは非常に危険なことである。いかに発展したAIであっても、複雑な状況の文脈を完全に理解したり倫理的判断を下すことはできない。戦争や治安状況では予期しない変数が多く発生するが、このような状況で機械的な判断は致命的な結果をもたらしうる。

自動化された決定は責任の所在を不明確にする。誤った決定で無実の人が被害を被ったとき、誰がその責任を負うべきかが明確ではない。開発者なのか、運用者なのか、命令を下した上司なのか区別しがたい。

パレスチナ詩人モサブ・アブ・トゥハの事例を見よ。3才の子どもと共に避難途中にあった彼は、顔認識AIの誤りで指名手配者として誤分類され、2日間拘禁され拷問を受けた。機械の失敗が一人の人間の人生に拭い去ることのできない傷を残したのである。

弱者を狙うデジタル狩猟犬

AI監視システムのもう一つの問題は、特定の集団を差別的に監視するという点である。中国の監視システムはウイグル族、カザフ族など少数民族を抑圧する道具として活用されている。これはすべての人を平等に扱うべきという基本的人権原則に違反する行為である。

AIシステムは学習データの偏向をそのまま反映する。訓練データに特定の人種や宗教に対する偏見が含まれていれば、AIはその偏見を学習し再生産する。これは社会の既存の差別を技術的に固定化し拡大する結果をもたらす。

少数民族や宗教的少数者はすでに社会的に脆弱な立場にあるのに、AI監視システムがこれらを一層差別的に監視・統制することで、彼らの人権状況をさらに悪化させている。

ファーウェイの『ウイグル警報』システムやアリババのウイグル族識別プログラムは、技術がどのように人種差別の道具となりうるかを如実に示している。特定の民族というだけの理由で自動的に警報が鳴る世界、これが我々が望む未来なのか。

国際法を踏みにじるデジタル無法者たち

メディアはイスラエルのAIベースの攻撃を『明らかに国際法を無視した人道主義に反する行為』と強く批判した。国際法はすべての人の生命権、プライバシーの権利、表現の自由、宗教の自由などを保障している。また国際人道法は戦争中であっても民間人と軍事目標を区別すべきであり、過度な民間人被害を避けるべきと規定している。

しかし現在運営されているAI監視システムはこのような国際法の原則に正面から違反している。『お父さんはどこに』システムが家族が集まった家を意図的に攻撃すること、中国がウイグル族全体を監視し抑圧すること、アメリカが同盟国の通信を無差別に盗聴することはすべて国際法違反の行為である。

さらに深刻なことは、このような違反行為が『技術の発展』という名目で正当化されているという点である。新しい技術が登場するたびに、既存の法的・倫理的基準を無視してもよいという類の論理が通用しているのである。

人間の尊厳の抹殺

AI監視システムの根本的な問題は、人間を数字とデータに還元するという点である。ラベンダーシステムは人を1点から100点までの数字で評価する。中国の社会信用システムも同様に、個人のすべての行動を点数化する。

人間は生まれながらにして平等な尊厳を持っている。どのような基準によっても評価されたり計算されたりしない絶対的な価値である。AI監視システムはこのような人間の尊厳を否定し、人を効率性と利益の観点からのみ見つめている。

より深刻なことは、このような点数評価が生死を分ける基準となるという点である。ラベンダーシステムで高い点数を得れば死に、中国の社会信用システムで低い点数を得れば社会的に隔離される。機械が付けた点数が人間の運命を左右する時代になったのである。

民主主義の終焉を告げる警鐘

AI監視システムの拡散は民主主義の核心的価値を根本的に脅かしている。表現の自由、集会の自由、宗教の自由、プライバシーの権利など、民主主義社会の基礎となる権利がすべて危機に瀕している。