人工知能に関するニュース、技術動向、政策議論、研究成果などを共有する掲示板です。
AI技術の最新動向、各国のAI規制政策、生成AIの応用事例など、幅広い話題についてご自由にお書きください。
世界中を監視する人工知能
投稿者
김 경진
投稿日
2026-03-01 00:42
閲覧数
56
第2章 世界中を監視する人工知能
「ビッグ・ブラザーがあなたを見ている」──ジョージ・オーウェル
1. 24時間見つめるAIの目
あなたがこの文章を読んでいるこの瞬間にも、見えない数千の目があなたを見つめています。スマートフォンのカメラ、街のCCTV、地下鉄駅の顔認識システム、あなたが「いいね」を押したSNSの投稿まで。すべてがデータとなり、どこかで分析され、保存されています。
人工知能はもともと、人間の暮らしをより豊かで便利にするために生まれました。医療診断を手助けし、交通渋滞を解消し、言語の壁を取り払う魔法のような技術として。しかし現実はどうでしょうか。その賢い技術が人々を監視し、統制し、命を脅かす兵器へと変貌しています。技術そのものが悪いわけではありません。問題は、その技術を握った手が何をしようとしているかです。
イスラエルのラベンダーシステムがパレスチナの人々の生死を数字で計算するとき、中国の天網（テンモウ）が14億人の一挙一動を追跡するとき、アメリカのパランティアが世界中の情報をリアルタイムで分析するとき、私たちは気づかなければなりません。人工知能がもはや私たちの便利な道具ではなく、私たちを締めつける鎖になっているということを。
世界中に広がるAI監視システムには、背筋が凍る共通点があります。第一に、あなたの同意など聞きません。望もうと望むまいと、個人情報を大量に収集してしまいます。第二に、そのアルゴリズムがどう動いているのか誰も知りません。まるで魔法のブラックボックスのように不透明です。第三に、完璧ではないのに重要な判断を下します。10%の誤差率とは、その10%にあなたが入る可能性があるということです。第四に、特定の集団を差別的に狙います。肌の色が違う、信仰が違う、政治的な考えが違う、ただそれだけの理由で。
これは技術の問題にとどまりません。人間の尊厳、プライバシー、表現の自由、信教の自由など、民主主義社会が守り続けてきたあらゆる価値を根本から揺るがす人権の問題です。韓国の国家人権委員会でさえ、2024年5月に「人工知能人権影響評価ツール」の活用を勧告したほどで、韓国もこの問題と無縁ではありません。
今この瞬間、人工知能技術が人間を解放する道具になるのか、人間を抑圧する鎖になるのかが決まろうとしています。その決定権を持つのは政府でも企業でもありません。あなた自身であり、私であり、私たち全員です。
2. イスラエルの「ラベンダー」システム
2024年4月、世界を衝撃に陥れた暴露がありました。イスラエル・パレスチナの独立メディア「+972マガジン」とヘブライ語メディア「ローカルコール」が公開した「ラベンダー（Lavender）」AIシステムの実態でした。その内容は、私たちがAIに抱いていたあらゆる悪夢を現実にしたものでした。
イスラエル軍情報部隊が開発したこのAIは、まるで神の目のようにガザ地区を見下ろし、230万人の運命を1点から100点までの数字で採点しました。ハマス武装メンバーである可能性をスコアで計算するというのです。誰と電話しているか、どんなアプリをダウンロードしているか、どこを頻繁に訪れるか──すべてがアルゴリズムの餌食となりました。
ラベンダーはまず、すでに判明しているハマス工作員のデータを学習しました。彼らが使う携帯電話のブランド、よくダウンロードするアプリ、通話パターン、移動経路まで。そして似たパターンを示す人々を次々と見つけ出し、スコアをつけていきました。インフルエンザウイルスが広がるように、つながりをたどって疑惑の網を広げていったのです。
命を数字で計算するアルゴリズム
イスラエル軍はラベンダーが90%の精度を示すと満足していました。90%──一見かなり高い数値に聞こえます。しかし少し立ち止まって、それが何を意味するか考えてみてください。10%は間違う可能性があるということです。ラベンダーが37,000人を攻撃目標に指定したとすれば、そのうち3,700人は無実の人々かもしれないということです。3,700人の命を「誤差の範囲」と呼べるでしょうか。
さらに恐ろしいのは、戦争が始まった後、人間による検証手続きまで緩くなったことです。戦争前には「人間が直接得た最低2つの情報がラベンダーAIの判断を裏付けなければならない」という内部規定がありました。しかしガザ戦争が始まると、この基準は「1つ」に引き下げられ、実戦ではそれすら無視されるケースが相次ぎました。
ある情報分析官の証言は身の毛がよだつものです。「私たちはラベンダーAIの判断にハンコを押しただけでした。攻撃目標の承認にかかった時間は、たった20秒でした。」生死を分ける重大な判断を、事実上AIが下していたのです。人間の判断はただの形式的な手続きに過ぎませんでした。
ある将校の冷笑的な言葉がすべてを物語ります。「金・時間・人員を節約することは、民間人の命よりはるかに重要だった。」
「パパはどこ？」──家族を人質にとるシステム
ラベンダーとともに運用されるもう一つのシステムは、その名前からして背筋が凍ります。「パパはどこ？（Where's Daddy?）」と呼ばれるこの追跡システムは、標的人物が自宅に戻る瞬間を検知し、イスラエル軍に通知します。
なぜ「パパはどこ？」なのか。理由は残酷なほどシンプルです。父親が家に帰るタイミングを狙って攻撃するためです。このシステムは標的人物の日常パターンを学習し、自宅の位置を把握し、いつ帰宅するかをリアルタイムで監視します。
イスラエル軍将校の証言は衝撃的です。「私たちはハマス工作員が軍事施設にいるときや軍事活動をしているときだけ攻撃したのではない。自宅にいるときに攻撃するほうがはるかに容易で、システムはハマス工作員が自宅にいることを把握するために作られたのだ。」
結果は予測可能でした。一人の標的を排除するために、家族全員が巻き添えで命を落としました。自宅で爆撃を受ければ、女性や子どもたち──家族が犠牲になるほかありません。国際法が明記する民間人保護の原則を、正面から踏みにじる行為でした。
「付随的被害」という名の大量殺戮許可証
イスラエル軍情報要員6人が証言した内容はさらに衝撃的です。戦争初期の数週間、イスラエル軍はラベンダーが指名した各武装メンバーを暗殺する際、15人から20人の民間人が犠牲になっても「許容範囲」と認めていました。ハマス司令官クラスへの攻撃では、100人以上の民間人の死亡も容認したといいます。
米国国務省の国際法専門家はガーディアン紙のインタビューで、「1対15という比率は、下級戦闘員に対しては聞いたことがない」と語りました。イスラエルが適用した民間人被害の許容基準は、国際的に前例がないほど寛大だったという意味です。
IDF内部の証言者たちの言葉が、この状況のすべてを要約しています。「下級武装勢力にイスラエル軍の人員と時間を過度に費やしたくなかった。付随的被害や民間人の殺害、無実の人を誤って攻撃するミスを覚悟してでも、AIを使う価値はあった。」
人間の尊厳を否定する機械の判決
ラベンダーシステムの最大の問題は、人間の命をデータとして扱うところにあります。その人の人生、感情、家族との絆、個人の歴史──すべてが無視され、AIアルゴリズムが計算した確率だけで生死が決められます。これは人間の尊厳に対する根本的な否定であり、技術は人間のためにあるべきだという原則を完全に覆すものです。
透明性もまるでありません。アルゴリズムがどんな基準で誰かを危険人物に分類するのか正確にはわからず、誤って分類された人々が自分の無実を証明する方法もありません。適正な手続きや法的保護なしに、人々の命が奪われているのです。
ガザ地区の顔認識地獄
ラベンダーとともにイスラエルがガザ地区に導入した顔認識技術は、もう一つの悪夢でした。2023年のガザ地区戦争勃発後、ハマス関係者の摘発とイスラエル人人質の識別を名目に導入されたこのシステムは、実際にはパレスチナ住民を無差別に監視する道具と化しました。
イスラエル情報部隊8200が主導するこの作戦では、民間企業「コルサイト（Corsight）」の顔認識技術が使われました。検問所、ドローン、軍用カメラを通じて運用され、コルサイトの社員が現場に直接投入されて技術支援を行いました。
ガザ地区に配置されたイスラエル軍兵士にはこの技術を搭載したカメラが提供され、避難民が検問所を通過するたびに顔を無作為に撮影・スキャンし、既存のデータベースと照合して身元を特定しました。
コルサイトは自社の顔認識技術が「顔の50%未満の露出や暗所・低画質環境でも正確な認識が可能」だと誇っていました。しかし現実は違いました。パレスチナの詩人モサブ・アブ・トハがその生き証人です。3歳の子どもを連れて避難の途上にあった彼は、イスラエル軍の検問所で顔認識カメラにスキャンされ、AIの誤りで指名手配者リストに載った人物と誤認され、2日間拘束されて暴行と拷問を受けました。
国際アムネスティはこうしたイスラエルの行為を「自動化されたアパルトヘイト」と批判しました。AI技術が戦争と監視に悪用されたとき、どれほど深刻な人権侵害が起きうるかを示す象徴的な事例となりました。
3. 歩き方だけであなたを見つけ出す中国
中国の天網（テンモウ）システムの前では、隠れる場所がありません。この名前は老子の『道徳経』から取られたもので、「天の網は目が粗いように見えるが、悪人は一人も逃さない」という意味です。しかしここで言う「悪人」の基準を決めるのは誰でしょうか。中国共産党です。
14億人を1秒でスキャン
中国は全国に10億台を超えるCCTVを設置しました。想像してみてください。10億の目が24時間休みなくあなたを見つめているということを。中国政府はこのシステムで全人口を1秒で調査できると豪語しています。14億人の顔を1秒で識別するとは、技術的には驚嘆に値しますが、人権の観点からは恐ろしいことです。
中国の顔認識技術は世界最高水準にあります。2018年に米国標準技術研究所（NIST）が主催した顔認識ベンダーテストで、1位から4位までをすべて中国企業のアルゴリズムが独占しました。この分野で世界をリードする理由はシンプルです。実験対象が14億人いるからです。
99.8%の精度
天網の顔認識精度は99.8%に達します。運用開始から2年間で、このシステムによって逮捕された犯罪者は2,000人を超えました。しかし注目すべきは、人の顔だけでなく歩き方まで認識して個人を識別できるという点です。帽子をかぶっても、マスクをつけても無駄です。歩き方一つであなたを見つけ出します。
実際の事例を見れば、その威力がどれほどのものかわかります。17年前に恋人を殺害した女性を、高速道路料金所の顔認識システムが見つけ出しました。5万人以上が集まったコンサート会場で、経済犯罪の容疑で指名手配中だった男性がカメラの顔認識技術で発見され、逮捕されました。2000年に浙江省で起きた遺体損壊事件の犯人を16年ぶりに突き止めた事例もあります。
最も劇的だったのは安徽省のある寺院での出来事です。住職の顔が凶悪犯罪の容疑者と一致するとシステムが検出したのです。名前も姓も変え、10年以上僧侶として暮らしていた犯人は、ついに逮捕されました。
こうした事例を見ると、中国の監視技術がいかに精巧で広範囲に及ぶかがわかります。しかし同時に、こうした技術が一般市民のプライバシーをどれほど深刻に侵害しうるかも浮き彫りにしています。
「鋭い目」で完成された監視網
2016年、中国は共産党中央委員会の承認を得て「鋭い目（Sharp Eyes）」プロジェクトを開始しました。中国全土を24時間監視・統制できるCCTV監視ネットワークを完成させるという野心的な計画でした。
鋭い目プロジェクトは、カメラの増設にとどまりません。道路や公共施設に設置されたCCTVを住民のテレビ、携帯電話、ドアロックなどと接続し、状況をリアルタイムで把握できるネットワークを構築するものです。文字どおり、すべての国民が互いを監視する社会を作ることに等しいのです。
想像してみてください。あなたのテレビが、携帯電話が、玄関のドアまでもが政府の監視ツールになる世界を。中国の全国土が巨大な監視網で覆われているとは、まさにそういう意味です。
日常に浸透する監視
中国の顔認識技術は、いまや日常生活のあらゆる領域に浸透しています。交通違反をすれば、違反者の顔を撮影して電光掲示板に公開します。横断歩道を無断で渡れば自動で取り締まられます。地下鉄の運賃支払いは、スマートフォンなしで手のひらや顔だけでも可能です。
北京の天壇公園ではトイレットペーパーの窃盗を防ぐため、顔認識装置を導入しました。顔を認識させなければ一定量のペーパーを受け取れません。トイレの中でさえ、あなたの顔が記録されるのです。
2019年12月1日からは、携帯電話の新規番号登録時に顔スキャンが義務化されました。政府は「サイバー空間における市民の権益保護」を掲げましたが、実際の狙いは政府主導の生体情報データベース構築でした。収集された顔情報は全国7億台以上のCCTVと連動した監視ネットワークに統合され、リアルタイムの身元識別と移動経路追跡が可能になりました。
新型コロナウイルスの流行は、監視技術拡散の絶好の機会となりました。学校、官公庁、マンション団地などで体温測定と同時に顔認識による入退管理が日常化しました。マスクを着用した状態でも識別可能な技術が開発され、使用されています。
新疆ウイグル
中国の監視システムが最も極端に運用されているのが新疆ウイグル自治区です。ここは文字どおり、監視技術の実験場と化しました。モスク、ウイグル人コミュニティ、空港、鉄道駅、バス停など新疆全域の670万カ所にCCTVと顔スキャンシステムが設置されました。
ヒューマン・ライツ・ウォッチによると、新疆地区の人口の10分の1にあたる250万人が毎日、中国情報当局の監視を受けています。12歳から65歳までの住民のDNA、指紋、虹彩スキャン、血液型などの生体情報が強制的に収集されています。すべての人を潜在的な犯罪者として扱うのと同じことです。
ウイグル族を監視するために使われる統合共同運用プラットフォーム（IJOP）は、それ自体が人種差別のツールです。このプラットフォームは新疆でウイグル人を追跡するためにDNAを含む生体データを収集します。監視を超えて、特定の少数民族全体に対する組織的な抑圧と統制を意味します。
ヒューマン・ライツ・ウォッチが入手したアクス県のウイグル人収容者2,000人の名簿を見ると、言葉を失います。収容理由は、許可なきコーラン学習、長いひげ、VPNの使用、携帯電話の頻繁な電源オフ、宗教行為などでした。こうした日常的な行為が監視の対象となり、人々を収容所に閉じ込める根拠にされているのです。
ファーウェイはウイグル族のみをターゲットとした監視カメラシステムを開発したと報じられ、論争を呼んでいます。システムがウイグル少数民族であることを検知すると、自動的に「ウイグルアラーム」を発動し警察に通報するというものです。アリババもウイグル族の識別が可能な顔認識プログラムを保有していると伝えられています。
宗教者を標的にした「ノック作戦」
中国は宗教信者に対し、無神論とマルクス主義に基づく共産主義イデオロギーへの服従を強要しています。共産党は宗教団体を、党の権威に立ち向かう可能性のある潜在的な挑戦勢力とみなしています。
1860年、洪秀全がキリスト教思想を掲げた太平天国の乱で清王朝が崩壊寸前に追い込まれた記憶は、いまだ生々しく残っています。習近平政権は「宗教の中国化」政策を打ち出して統制を強化し、宗教組織が党と政府の要求に従うことを求めています。
中国刑法第300条により、禁止された宗教団体で活動することは3年から7年の懲役刑に相当する犯罪とされています。政府は禁止宗教団体の信者を通報した者に10万元の報奨金を提供し、全国民による告発体制を構築しました。
2017年初頭から中国全土で「ノック作戦」と呼ばれる広範な監視活動が実施されました。適当な口実を作って警察を送り込み、宗教者を調査し写真を撮って管理するもので、全国的に宗教者を追跡する監視システムの一環です。
収集されたデータは国家安全保衛部の専用コンピュータに保存され、調査官たちは宗教を広める者に対する証拠を探し求めます。証拠が確保されると追加調査が行われ、その後は「鋭い目」と「天網」プロジェクトによって対象者を絶え間なく監視し続けます。
社会信用システム──点数で値踏みされる人間の価値
中国政府が構築した社会信用システムは「信頼には報酬を、不信には罰を」という仕組みで動いています。中国に住むすべての人の行動を観察し、点数をつけるシステムです。学校で生徒の行動を評価するように、政府が国民一人ひとりの行動を見て点数をつけるのです。
これは地方自治体や鉄道当局、金融機関などがそれぞれ個別にシステムを構築するものであり、中央政府が法律として体系的に構築したシステムではありません。しかし多くの地方自治体と機関が参加しているため、実質的には中国全土でこの制度が一糸乱れず施行されているのと変わりありません。
信用スコアが高い人はホテル宿泊時に保証金が不要で、他の人より早くビザを取得できます。逆にスコアが低い人は、ホテル宿泊、鉄道乗車、旅行の自由などにさまざまな制限を受けます。
社会信用システムはさまざまな方法で人々の行動を観察します。CCTVカメラが24時間人々の行動を見守り、顔認識技術で誰がどこで何をしたかを把握できます。インターネットの閲覧履歴、買い物の記録、ローン返済の記録、交通違反の記録など、日常生活のあらゆる情報を収集します。
高い点数を得るには、税金を期日どおりに納め、交通ルールを守り、借りたお金を期日に返さなければなりません。ボランティア活動や親孝行も加点の対象です。逆に、信号無視、借金の未返済、虚偽情報の拡散は減点されます。政府を批判したり反対する行動をとれば、スコアは大きく下がります。
世界への拡散
最も懸念されるのは、中国の監視モデルが世界中に広がっていることです。中国は監視技術を他国に輸出しており、多くの開発途上国がこうした技術を導入しています。アフリカ、南米、アジアの複数の国々が中国の監視技術を取り入れ、自国民の監視に活用しています。
ファーウェイ、ハイクビジョン、ダーファなど中国企業が開発した監視技術が世界各国で使われています。中国式監視モデルが世界中に広がっていることを意味します。
中国の天網システムは、技術の発展が人間の自由と幸福を保障するとは限らないことを示す代表的な事例です。社会の安全と秩序を高めるという目的で作られましたが、個人の自由と人権を深刻に侵害しうる危険なシステムです。技術の発展は人間の暮らしをより良くすべきなのに、むしろ人々を統制し抑圧する道具として使われています。
4. パランティア
パランティア（Palantir Technologies）という名前を聞いたことがあるでしょうか。この会社名はトールキンの小説『指輪物語』に登場する魔法の水晶球「パランティール」に由来します。物語の中でこの水晶球は、遠く離れた場所を監視し観察する力を持っていました。現実のパランティアも同じです。
2003年、ペイパルの創業者ピーター・ティールが設立したこの会社は、世界で最も強力なデータ分析・監視システムを運用しています。顧客はCIA、FBI、NSA、国防総省など、アメリカの中核的情報機関です。近年は民間企業もパランティアのサービスを利用し始めています。
世界のあらゆるデータを飲み込むデジタル・クラーケン
パランティアの核心技術は、異なるソースから来る膨大なデータを統合し分析することです。AIと機械学習を駆使し、数十億のデータポイントから隠されたパターンやつながりを見つけ出します。衛星画像、携帯電話の通話記録、金融取引明細、SNSの投稿、政府のデータベースなど、あらゆる種類の情報を一度に分析できます。
さらに恐ろしいのは、これらすべてがリアルタイムで動くことです。新たな情報が入る瞬間に分析が始まり、既存データと照合して意味あるパターンや危険信号を見つけ出します。巨大なデジタル頭脳が24時間休みなく世界を監視しているのと同じです。
ゴッサムとファウンドリ──政府と企業のための万能の目
パランティアは主要な顧客層に応じ、大きく二つのプラットフォームを運用しています。政府機関向けの「ゴッサム（Gotham）」と民間企業向けの「ファウンドリ（Foundry）」です。
ゴッサムはパランティアの政府向けプラットフォームで、軍事作戦、テロ防止、情報収集、犯罪捜査などに使われます。「デジタルチェス盤」と呼ばれる所以は、複雑な状況をチェス盤のように可視化し、戦略的判断を助けるからです。
ゴッサムの主要機能を見てみましょう。まず「信号情報（Signal Intelligence）」分析機能があります。世界中から収集される電子通信情報を分析する機能で、携帯電話の通話、インターネット通信、衛星通信など、あらゆる電子信号をリアルタイムで分析できます。
二つ目は「人的情報（Human Intelligence）」統合機能です。機密情報源の報告書、インタビュー記録、現場観察報告などを入力すると、自動的に他の情報と関連づけて分析します。たとえば、ある情報源の報告内容が衛星画像や通信傍受の内容と一致するかどうか、即座に確認できます。
三つ目は「地理空間情報（Geospatial Intelligence）」分析です。衛星画像、ドローン映像、地図データなどをリアルタイムで分析し、地上の変化を検知します。新たな建物の建設、軍隊の移動、兵器の配備といった変化を自動的に発見できます。
四つ目は「オープンソース・インテリジェンス」の収集・分析です。フェイスブック、ツイッター、インスタグラムなどSNSに投稿される内容を自動で収集・分析します。特定地域の政治的雰囲気や社会不安の度合いをリアルタイムで把握できます。
ファウンドリは民間向けプラットフォームで、データ分析機能はゴッサムと似ていますが、軍事や情報収集よりも企業運営に特化しています。シミュレーションエンジンをベースに、企業の財務、人事、物流、在庫などのデータを統合管理できます。
ウクライナ戦争──パランティアの実戦舞台
2022年2月にロシアがウクライナに侵攻した後、パランティアは戦争で重要な役割を果たすことになりました。開戦から3カ月後の2022年6月、ウクライナのゼレンスキー大統領はパランティアのCEOアレックス・カープと面会し、軍事支援を要請しました。ゼレンスキーが戦争中に会った西側企業の最初のCEOがカープだったという事実に、パランティアの重要性が表れています。
パランティアは自社ソフトウェアをウクライナに無償提供することを決めました。戦略的な判断でした。実際の戦場で技術をテストし改善できる機会だったからです。企業にとって露ウ戦争は、実戦でしか得られない貴重なデータと経験を手にできる機会でした。
パランティアがウクライナに提供した主要システムは「メタコンステレーション（Metaconstellation）」と呼ばれる統合分析プラットフォームです。AI基盤の衛星画像、オープンソースデータ、ドローン映像、情報報告書などをリアルタイムで分析し、ウクライナの指揮官たちが戦況を把握し攻撃目標を決定するための情報を提供するのが核心機能です。
パランティアCEOのアレックス・カープはロイター通信のインタビューで、「ウクライナ軍の攻撃の大部分をパランティアのAIシステムが担っている」と語りました。エコノミスト誌は「ダビデ（ウクライナ）とゴリアテ（ロシア）の戦いにおいて、ダビデの『投石器』の役割を果たしたのがパランティアのAIシステムだ」と評価しました。
民間監視の黒い影
戦場で敵を見つけ追跡する技術は、少し手を加えれば政府が市民を監視・統制する道具に変わりえます。パランティアはすでに、民間人監視に関連する論争に何度も巻き込まれてきました。
JPモルガンは当初、従業員の規定違反行為を監視するためにパランティアを導入しました。しかしシステムが経営幹部の私生活まで監視するのに使われたことが問題になり、契約は破棄されました。
パランティアのシステムは、ユーザーが望むどんな情報でも見つけ出す能力を備えています。メール、電話、金融取引、位置情報、SNS活動など、個人のあらゆるデジタル痕跡を追跡・分析できます。
パランティアは米国移民関税執行局（ICE）と契約を結び、不法移民の追跡・逮捕を支援しています。この技術が社会的弱者の弾圧に使われうることを示す事例です。パランティアの従業員200人以上がICEとの契約に対する懸念を表明する請願書に署名し、元従業員13人が公に会社の方針を批判したこともあります。
デジタル監視同盟の拡大
パランティアはアメリカをはじめ世界40カ国以上の政府機関と契約を結んでいます。それらの国の政府はテロ防止、犯罪捜査、国境管理、社会安全などの名目でパランティアの技術を導入しています。しかしこうしたシステムは一度構築されれば、その使用目的と範囲が拡大する可能性が高いのです。
民主主義社会では、市民が政府を監視し牽制することができました。報道の自由、集会の自由、表現の自由を通じて、市民が政府の過ちを批判し改善を求めることができました。パランティアのような強力な監視技術が政府の手に渡ることで、この均衡が崩れています。政府はすべての市民の行動をリアルタイムで監視・分析できるようになる一方、市民は政府が何をしているのかを知ることが難しくなります。監視する側とされる側の関係が逆転しつつあるのです。
国際的な次元でも、パランティアの拡大は懸念されます。アメリカがパランティアの技術を同盟国に提供することで、事実上の「デジタル監視同盟」を形成しています。世界的な規模で監視技術の標準化が進んでいることを意味します。
技術と権力の危険な結合
パランティアは、技術と権力の結合がいかに危険かを物語っています。創業者のピーター・ティールは米国共和党と密接な関係にあり、ドナルド・トランプを支持しました。パランティアの技術が特定の政治勢力の利益のために使われる可能性を完全に排除することはできません。
パランティアの時価総額は、伝統的な防衛産業大手を上回る水準に達しました。2024年12月時点でパランティアの時価総額は1,740億ドルを記録し、ロッキード・マーティン（1,216億ドル）、ノースロップ・グラマン（690億ドル）などの防衛企業を超えました。ソフトウェアベースの監視技術が、ハードウェアベースの伝統的な防衛産業より大きな価値を認められているのです。
パランティアの事例は重要な警告を発しています。技術は中立ではありません。それを誰が、どんな目的で、どのように使うかによって、人類を解放することもあれば抑圧することもあります。私たちの選択が、次世代が生きる世界の姿を決めることになるのです。
5. アメリカNSA
2013年、エドワード・スノーデンが暴露したNSA機密文書は世界を震撼させました。米国国家安全保障局（NSA）が35カ国の首脳の携帯電話を盗聴していた事実が明らかになったのです。メルケル独首相の場合、2002年から2013年までおよそ10年間にわたり携帯電話が傍受されていました。ドイツをはじめとする欧州同盟国がアメリカへの不信を表明し、外交的な亀裂が深まりました。
スノーデンの暴露によると、韓国と日本を含む38の友好国の駐米大使館に盗聴器を設置し、専用アンテナで電波まで探知する全方位スパイ活動を展開していました。ブリュッセルのEU本部まで監視対象とし、「自由の守護者」を自称しながら同盟国を敵国のように監視していたのです。
グーグル、フェイスブック、アップル、マイクロソフトなどグローバルIT企業のサーバーに直接アクセスし、個人メール、写真、通話記録などあらゆる情報をリアルタイムで収集する「プリズム」システムを運用していました。中国の清華大学や香港の通信企業までハッキングし、敵国も友好国も問わない無差別的な情報戦を展開していたのです。
ドイツの法務大臣が「冷戦時代の敵国の所業を思い起こさせる」と激昂したほど、同盟国に対する裏切りの監視行為を繰り返していました。CIAはドイツ・フランクフルトとハンブルクの領事館をハッキング拠点として活用し、友好国の領土で堂々とサイバースパイ活動を行っていたのです。
スノーデン暴露後──さらに精巧になった監視
スノーデンの暴露から10年余りが過ぎました。その間、人工知能技術は飛躍的に発展しました。オバマ大統領の謝罪の後、アメリカの情報機関は友好国首脳の携帯電話や重要通信網に対する盗聴・傍受を本当にやめたのでしょうか。筆者は、いまも続いていると考えています。
かつてNSAの監視が膨大な通信データの収集に重点を置いていたとすれば、いまやAIはそのデータをリアルタイムで分析し予測する段階に進化しました。AIアルゴリズムは、人間のアナリストが数年かけて処理する量のデータを数分で分析できます。メール、SNSの投稿、通話記録など膨大な情報の中から、特定個人の政治的傾向、批判的意見、人脈などを瞬時に把握し、関連性をマッピングできるのです。
予測的監視と行動分析も可能になりました。過去のデータを学習し、特定の個人や集団の将来の行動を予測するのに使えます。政治集会に参加したり、オンライン上で特定の話題について繰り返し意見を表明する個人を分類し、すべてのオンライン活動と通信を集中的に監視できます。
顔認識と行動認識のシステムも進化しました。世界中に広がるCCTV、ドローン、衛星画像などはAIの目と結びつき、強力なリアルタイム追跡システムを構築しています。AIは特定人物の顔を識別するだけでなく、マスクを着けていたり顔の一部しか見えなくても個人を特定できるレベルに達しました。歩き方や行動パターンなどの生体情報を分析し、群衆の中からでも特定の人物を識別して動線を追跡することが可能になりました。
ファイブ・アイズ──国内法の制約を迂回する監視同盟
アメリカ、イギリス、カナダ、オーストラリア、ニュージーランドで構成されるファイブ・アイズ（Five Eyes）情報同盟は、先端技術を活用したグローバル監視ネットワークを構築しています。各国の情報機関が収集したデータを共有・分析し、全方位の監視体制を運用しています。
この同盟の最も巧妙な点は、各国の法的制約を迂回するところにあります。アメリカ政府が自国民を直接監視することには法的な制限がありますが、イギリスや他の同盟国が収集したアメリカ人の情報を受け取ることは比較的自由です。各国の個人情報保護法や監視制限規定を無力化する効果をもたらしています。
情報機関はフェイスブック、ツイッター、インスタグラムなどのSNSプラットフォームを通じ、個人情報を大量に収集しています。プラットフォームはユーザーの日常的な活動、人間関係、政治的傾向、消費パターンなどに関する膨大な情報を保有しています。AI技術はこれらの情報を分析し、個人の性格、政治的傾向、行動パターンなどを予測できます。特定の投稿に「いいね」を押すパターンだけで、その人の政治的傾向を90%以上の精度で予測できるという研究結果もあります。
金融監視と位置追跡の網
金融機関は金融取引データをモニタリングしています。個人の経済活動、消費パターン、人間関係などを把握できます。誰かが特定の場所でお金を引き出したり、特定の店で買い物をすれば、その人の位置と行動を追跡できます。AI技術は、すべての市民の経済活動を監視する道具に悪用されかねません。
スマートフォン、GPS機器、クレジットカードなどを通じて収集される位置情報は、個人の移動パターンを詳細に把握することを可能にします。AI技術は位置データを分析し、個人の日常的な活動パターン、会う人々、よく行く場所などを把握できます。こうした情報は特定個人の行動を予測し監視するのに使われえます。普段と異なるパターンで移動する人を「不審な行動」と分類し、追加監視の対象に指定することも可能です。
民主主義を蝕むデジタル全体主義
AI基盤の監視システムは、民主主義と人権に深刻な脅威を突きつけています。個人のプライバシー、表現の自由、集会の自由、政治参加など、民主主義の基本的な権利が監視と統制によって制約されています。政治的反対者や社会運動家に対する監視が強まることで、健全な政治的議論と社会的批判が抑え込まれかねません。民主主義の基本原則である牽制と均衡を損なう結果を招きかねないのです。
私たちはいま、重大な岐路に立っています。技術が進歩するほど、監視の精度と範囲は拡大しています。今こそ私たちが選択すべきときです。便利さと安全の名のもとにすべてを監視されて生きるのか、不便を覚悟してでも自由と人間の尊厳を守るのか。
6. デジタル独裁の脅威
同意なきビッグデータの強奪
朝起きてスマートフォンを確認し、地下鉄で通勤し、カフェでコーヒーを飲み、ネットショッピングをする──そのすべての瞬間がデータになります。そしてそのデータは、あなたの同意なく収集され、分析され、判断の根拠にされています。
世界中で運用されているAI監視システムの最も根本的な問題は、人々の同意を一切求めないという点です。イスラエルのラベンダーシステムはガザ地区の住民230万人の大半の情報を収集・分析しました。中国でも、国民が望もうと望むまいと顔情報を強制的に収集しています。
個人情報の自己決定権は、民主主義社会の基本的な権利です。すべての人は、自分の情報を誰が、いつ、どんな目的で使うのかを知る権利があり、その使用に同意するか拒否するかを決定する権利があります。しかしAI監視システムはこうした権利を完全に無視しています。
さらに深刻なのは、収集される情報の範囲が想像を絶するほど広いことです。顔写真や名前だけでなく、位置情報、通話記録、インターネット検索履歴、SNS活動、歩き方や行動パターンに至るまで、すべてが収集対象となります。あなたの一挙一動がすべて記録され、分析されているのです。
ブラックボックス・アルゴリズムの独裁
こうしたシステムがどう動いているのか、一般の人にはわかりません。ラベンダーのアルゴリズムがどのように訓練され学習されるのか、中国の顔認識システムがどんな基準で人を判別するのか、明確にはされていません。人の命を左右する重大な判断を下すシステムであるにもかかわらず、その過程が秘密のベールに包まれています。
アルゴリズムの透明性は、民主主義社会において非常に重要な原則です。個人の権利に影響を及ぼす自動化された判断については、その根拠と過程を知る権利があります。しかし現在のAI監視システムは「ブラックボックス」状態で運用されており、誰もその内部の動作原理を確認できません。
これは非常に危険です。アルゴリズムに偏りや誤りがあっても、それを確認し修正する方法がありません。誤った判断が下されてもその理由がわからず、過ちを正すこともできないのです。
システムは完璧でもありません。ラベンダーシステムの10%の誤差率は、無実の民間人が誤って識別される危険を意味します。中国の顔認識システムが99.8%の精度を誇っても、1,000人中2人は誤認識されうるということです。14億人に適用すれば、数千万人が誤認識の被害を受けかねません。
24時間監視する電子の牢獄
現代のAI監視システムが作り出す世界を想像してみてください。家を出た瞬間から戻るまで、眠っている時間を除いてすべての瞬間が記録され分析されます。どこへ行くのか、誰と会うのか、何を買うのか、どんな表情をしているかまで、すべてがデータになります。
中国の監視システムは、国民の社会的行動を分析し政府への忠誠度まで評価する社会信用制度と連結しています。人々が自由に行動し考える権利を深刻に制限するものです。
こうした全面的な監視は「萎縮効果（チリング・エフェクト）」を生み出します。常に監視されていると知れば、人々は自由に意見を述べたり政治活動に参加したりすることを控えるようになります。民主主義の根幹である表現の自由と政治参加を抑圧する結果をもたらすのです。
ウイグル族のケースを見てください。許可なきコーラン学習、長いひげ、VPNの使用などを理由に収容されました。信教の自由、表現の自由、プライバシーの自由をすべて侵害する行為です。日常的な行為が犯罪とみなされる社会では、誰も安全ではいられません。
機械が下す生死の判決
ラベンダーシステムに関連して、イスラエル情報要員の証言はぞっとするものです。「人間として私は、承認のハンコを押す以外に何の役割も果たしていなかった。」命に関わる最も重大な判断から、人間の判断が事実上排除されていたのです。
人間の命がかかった判断を機械に委ねることは、極めて危険です。いかに高度なAIであっても、複雑な状況の文脈を完全に理解したり倫理的判断を下したりすることはできません。戦争や治安の場面では想定外の変数が数多く発生しますが、そうした状況における機械的判断は致命的な結果をもたらしかねません。
自動化された判断は、責任の所在を曖昧にします。誤った判断で無実の人が被害を受けたとき、誰がその責任を負うべきか明確ではありません。開発者なのか、運用者なのか、命令を下した上官なのか、区別がつきません。
パレスチナの詩人モサブ・アブ・トハの事例を思い出してください。3歳の子どもを連れて避難途上にあった彼は、顔認識AIの誤りで指名手配者と誤認され、2日間拘束されて拷問を受けました。機械のミスが一人の人生に消えない傷を残したのです。
弱者を狙うデジタルの猟犬
AI監視システムのもう一つの問題は、特定の集団を差別的に監視するという点です。中国の監視システムはウイグル族やカザフ族などの少数民族を弾圧する道具として使われています。すべての人を平等に扱うべきだという基本的な人権原則に反する行為です。
AIシステムは学習データの偏りをそのまま反映します。訓練データに特定の人種や宗教に対する偏見が含まれていれば、AIはその偏見を学習し再生産します。社会に存在する差別を技術的に固定化し拡大する結果をもたらすのです。
少数民族や宗教的マイノリティはすでに社会的に脆弱な立場にありますが、AI監視システムが彼らをさらに差別的に監視・統制することで、その人権状況をいっそう悪化させています。
ファーウェイの「ウイグルアラーム」システムやアリババのウイグル族識別プログラムは、技術がいかにして人種差別のツールになりうるかを赤裸々に示しています。特定の民族であるという理由だけで自動的に警報が鳴る世界──それが私たちの望む未来なのでしょうか。
国際法を踏みにじるデジタルの無法者たち
報道各社はイスラエルのAI基盤の攻撃を「明らかに国際法を無視した人道に反する行為」と厳しく批判しました。国際法はすべての人の生命権、プライバシーの権利、表現の自由、信教の自由などを保障しています。国際人道法は、戦争中であっても民間人と軍事目標を区別しなければならず、過度な民間人被害を避けなければならないと定めています。
しかし現在運用されているAI監視システムは、こうした国際法の原則を正面から踏みにじっています。「パパはどこ？」システムが家族の集まる家を意図的に攻撃すること、中国がウイグル族全体を監視し抑圧すること、アメリカが同盟国の通信を無差別に傍受すること──いずれも国際法違反です。
さらに深刻なのは、こうした違反行為が「技術の発展」という名のもとに正当化されていることです。新たな技術が登場するたびに、既存の法的・倫理的基準を無視してもよいという論理がまかり通っています。
人間の尊厳の抹殺
AI監視システムの根本的な問題は、人間を数字とデータに還元するところにあります。ラベンダーシステムは人を1点から100点までの数字で評価します。中国の社会信用システムも同様に、個人のあらゆる行動をスコア化します。
人間は生まれながらにして等しい尊厳を持っています。いかなる基準によっても評価されたり計算されたりすることのない、絶対的な価値です。AI監視システムはこうした人間の尊厳を否定し、人を効率と利益の観点からしか見ていません。
さらに深刻なのは、こうしたスコア評価が生死を分ける基準になっているという点です。ラベンダーシステムで高いスコアをつけられれば殺され、中国の社会信用システムで低いスコアをつけられれば社会から隔離されます。機械がつけた点数が人間の運命を左右する時代になったのです。
民主主義の終焉を告げる警鐘
AI監視システムの拡散は、民主主義の核心的な価値を根本から脅かしています。表現の自由、集会の自由、信教の自由、プライバシーの権利など、民主主義社会の礎となる権利がすべて危機にさらされています。
────────────────────────
# 検索キーワード
【日本語】
AI監視社会, ラベンダーシステム イスラエル, 中国 天網 監視, パランティア 軍事AI, NSA スノーデン 監視, 顔認識技術 人権侵害, ウイグル 監視カメラ, 社会信用システム 中国, AI兵器 国際法, ファイブアイズ 情報同盟, デジタル全体主義, ビッグデータ プライバシー, Where's Daddy システム, 自動化兵器 倫理, AI監視 民主主義への脅威
【英語】
AI surveillance system, Lavender AI Israel Gaza, China Skynet surveillance, Palantir military intelligence, NSA Snowden mass surveillance, facial recognition human rights, Uyghur surveillance technology, social credit system China, AI weapons international law, Five Eyes intelligence alliance, digital authoritarianism, big data privacy, Where's Daddy targeting system, autonomous weapons ethics, AI surveillance threat to democracy
【韓国語】
AI 감시 시스템, 라벤더 이스라엘 가자, 중국 천라지망 감시, 팔란티어 군사 AI, NSA 스노든 감시, 안면인식 인권침해, 위구르 감시 기술, 사회신용시스템 중국, AI 무기 국제법, 파이브아이즈 정보동맹, 디지털 전체주의, 빅데이터 프라이버시, AI 감시 민주주의 위협
「ビッグ・ブラザーがあなたを見ている」──ジョージ・オーウェル
1. 24時間見つめるAIの目
あなたがこの文章を読んでいるこの瞬間にも、見えない数千の目があなたを見つめています。スマートフォンのカメラ、街のCCTV、地下鉄駅の顔認識システム、あなたが「いいね」を押したSNSの投稿まで。すべてがデータとなり、どこかで分析され、保存されています。
人工知能はもともと、人間の暮らしをより豊かで便利にするために生まれました。医療診断を手助けし、交通渋滞を解消し、言語の壁を取り払う魔法のような技術として。しかし現実はどうでしょうか。その賢い技術が人々を監視し、統制し、命を脅かす兵器へと変貌しています。技術そのものが悪いわけではありません。問題は、その技術を握った手が何をしようとしているかです。
イスラエルのラベンダーシステムがパレスチナの人々の生死を数字で計算するとき、中国の天網（テンモウ）が14億人の一挙一動を追跡するとき、アメリカのパランティアが世界中の情報をリアルタイムで分析するとき、私たちは気づかなければなりません。人工知能がもはや私たちの便利な道具ではなく、私たちを締めつける鎖になっているということを。
世界中に広がるAI監視システムには、背筋が凍る共通点があります。第一に、あなたの同意など聞きません。望もうと望むまいと、個人情報を大量に収集してしまいます。第二に、そのアルゴリズムがどう動いているのか誰も知りません。まるで魔法のブラックボックスのように不透明です。第三に、完璧ではないのに重要な判断を下します。10%の誤差率とは、その10%にあなたが入る可能性があるということです。第四に、特定の集団を差別的に狙います。肌の色が違う、信仰が違う、政治的な考えが違う、ただそれだけの理由で。
これは技術の問題にとどまりません。人間の尊厳、プライバシー、表現の自由、信教の自由など、民主主義社会が守り続けてきたあらゆる価値を根本から揺るがす人権の問題です。韓国の国家人権委員会でさえ、2024年5月に「人工知能人権影響評価ツール」の活用を勧告したほどで、韓国もこの問題と無縁ではありません。
今この瞬間、人工知能技術が人間を解放する道具になるのか、人間を抑圧する鎖になるのかが決まろうとしています。その決定権を持つのは政府でも企業でもありません。あなた自身であり、私であり、私たち全員です。
2. イスラエルの「ラベンダー」システム
2024年4月、世界を衝撃に陥れた暴露がありました。イスラエル・パレスチナの独立メディア「+972マガジン」とヘブライ語メディア「ローカルコール」が公開した「ラベンダー（Lavender）」AIシステムの実態でした。その内容は、私たちがAIに抱いていたあらゆる悪夢を現実にしたものでした。
イスラエル軍情報部隊が開発したこのAIは、まるで神の目のようにガザ地区を見下ろし、230万人の運命を1点から100点までの数字で採点しました。ハマス武装メンバーである可能性をスコアで計算するというのです。誰と電話しているか、どんなアプリをダウンロードしているか、どこを頻繁に訪れるか──すべてがアルゴリズムの餌食となりました。
ラベンダーはまず、すでに判明しているハマス工作員のデータを学習しました。彼らが使う携帯電話のブランド、よくダウンロードするアプリ、通話パターン、移動経路まで。そして似たパターンを示す人々を次々と見つけ出し、スコアをつけていきました。インフルエンザウイルスが広がるように、つながりをたどって疑惑の網を広げていったのです。
命を数字で計算するアルゴリズム
イスラエル軍はラベンダーが90%の精度を示すと満足していました。90%──一見かなり高い数値に聞こえます。しかし少し立ち止まって、それが何を意味するか考えてみてください。10%は間違う可能性があるということです。ラベンダーが37,000人を攻撃目標に指定したとすれば、そのうち3,700人は無実の人々かもしれないということです。3,700人の命を「誤差の範囲」と呼べるでしょうか。
さらに恐ろしいのは、戦争が始まった後、人間による検証手続きまで緩くなったことです。戦争前には「人間が直接得た最低2つの情報がラベンダーAIの判断を裏付けなければならない」という内部規定がありました。しかしガザ戦争が始まると、この基準は「1つ」に引き下げられ、実戦ではそれすら無視されるケースが相次ぎました。
ある情報分析官の証言は身の毛がよだつものです。「私たちはラベンダーAIの判断にハンコを押しただけでした。攻撃目標の承認にかかった時間は、たった20秒でした。」生死を分ける重大な判断を、事実上AIが下していたのです。人間の判断はただの形式的な手続きに過ぎませんでした。
ある将校の冷笑的な言葉がすべてを物語ります。「金・時間・人員を節約することは、民間人の命よりはるかに重要だった。」
「パパはどこ？」──家族を人質にとるシステム
ラベンダーとともに運用されるもう一つのシステムは、その名前からして背筋が凍ります。「パパはどこ？（Where's Daddy?）」と呼ばれるこの追跡システムは、標的人物が自宅に戻る瞬間を検知し、イスラエル軍に通知します。
なぜ「パパはどこ？」なのか。理由は残酷なほどシンプルです。父親が家に帰るタイミングを狙って攻撃するためです。このシステムは標的人物の日常パターンを学習し、自宅の位置を把握し、いつ帰宅するかをリアルタイムで監視します。
イスラエル軍将校の証言は衝撃的です。「私たちはハマス工作員が軍事施設にいるときや軍事活動をしているときだけ攻撃したのではない。自宅にいるときに攻撃するほうがはるかに容易で、システムはハマス工作員が自宅にいることを把握するために作られたのだ。」
結果は予測可能でした。一人の標的を排除するために、家族全員が巻き添えで命を落としました。自宅で爆撃を受ければ、女性や子どもたち──家族が犠牲になるほかありません。国際法が明記する民間人保護の原則を、正面から踏みにじる行為でした。
「付随的被害」という名の大量殺戮許可証
イスラエル軍情報要員6人が証言した内容はさらに衝撃的です。戦争初期の数週間、イスラエル軍はラベンダーが指名した各武装メンバーを暗殺する際、15人から20人の民間人が犠牲になっても「許容範囲」と認めていました。ハマス司令官クラスへの攻撃では、100人以上の民間人の死亡も容認したといいます。
米国国務省の国際法専門家はガーディアン紙のインタビューで、「1対15という比率は、下級戦闘員に対しては聞いたことがない」と語りました。イスラエルが適用した民間人被害の許容基準は、国際的に前例がないほど寛大だったという意味です。
IDF内部の証言者たちの言葉が、この状況のすべてを要約しています。「下級武装勢力にイスラエル軍の人員と時間を過度に費やしたくなかった。付随的被害や民間人の殺害、無実の人を誤って攻撃するミスを覚悟してでも、AIを使う価値はあった。」
人間の尊厳を否定する機械の判決
ラベンダーシステムの最大の問題は、人間の命をデータとして扱うところにあります。その人の人生、感情、家族との絆、個人の歴史──すべてが無視され、AIアルゴリズムが計算した確率だけで生死が決められます。これは人間の尊厳に対する根本的な否定であり、技術は人間のためにあるべきだという原則を完全に覆すものです。
透明性もまるでありません。アルゴリズムがどんな基準で誰かを危険人物に分類するのか正確にはわからず、誤って分類された人々が自分の無実を証明する方法もありません。適正な手続きや法的保護なしに、人々の命が奪われているのです。
ガザ地区の顔認識地獄
ラベンダーとともにイスラエルがガザ地区に導入した顔認識技術は、もう一つの悪夢でした。2023年のガザ地区戦争勃発後、ハマス関係者の摘発とイスラエル人人質の識別を名目に導入されたこのシステムは、実際にはパレスチナ住民を無差別に監視する道具と化しました。
イスラエル情報部隊8200が主導するこの作戦では、民間企業「コルサイト（Corsight）」の顔認識技術が使われました。検問所、ドローン、軍用カメラを通じて運用され、コルサイトの社員が現場に直接投入されて技術支援を行いました。
ガザ地区に配置されたイスラエル軍兵士にはこの技術を搭載したカメラが提供され、避難民が検問所を通過するたびに顔を無作為に撮影・スキャンし、既存のデータベースと照合して身元を特定しました。
コルサイトは自社の顔認識技術が「顔の50%未満の露出や暗所・低画質環境でも正確な認識が可能」だと誇っていました。しかし現実は違いました。パレスチナの詩人モサブ・アブ・トハがその生き証人です。3歳の子どもを連れて避難の途上にあった彼は、イスラエル軍の検問所で顔認識カメラにスキャンされ、AIの誤りで指名手配者リストに載った人物と誤認され、2日間拘束されて暴行と拷問を受けました。
国際アムネスティはこうしたイスラエルの行為を「自動化されたアパルトヘイト」と批判しました。AI技術が戦争と監視に悪用されたとき、どれほど深刻な人権侵害が起きうるかを示す象徴的な事例となりました。
3. 歩き方だけであなたを見つけ出す中国
中国の天網（テンモウ）システムの前では、隠れる場所がありません。この名前は老子の『道徳経』から取られたもので、「天の網は目が粗いように見えるが、悪人は一人も逃さない」という意味です。しかしここで言う「悪人」の基準を決めるのは誰でしょうか。中国共産党です。
14億人を1秒でスキャン
中国は全国に10億台を超えるCCTVを設置しました。想像してみてください。10億の目が24時間休みなくあなたを見つめているということを。中国政府はこのシステムで全人口を1秒で調査できると豪語しています。14億人の顔を1秒で識別するとは、技術的には驚嘆に値しますが、人権の観点からは恐ろしいことです。
中国の顔認識技術は世界最高水準にあります。2018年に米国標準技術研究所（NIST）が主催した顔認識ベンダーテストで、1位から4位までをすべて中国企業のアルゴリズムが独占しました。この分野で世界をリードする理由はシンプルです。実験対象が14億人いるからです。
99.8%の精度
天網の顔認識精度は99.8%に達します。運用開始から2年間で、このシステムによって逮捕された犯罪者は2,000人を超えました。しかし注目すべきは、人の顔だけでなく歩き方まで認識して個人を識別できるという点です。帽子をかぶっても、マスクをつけても無駄です。歩き方一つであなたを見つけ出します。
実際の事例を見れば、その威力がどれほどのものかわかります。17年前に恋人を殺害した女性を、高速道路料金所の顔認識システムが見つけ出しました。5万人以上が集まったコンサート会場で、経済犯罪の容疑で指名手配中だった男性がカメラの顔認識技術で発見され、逮捕されました。2000年に浙江省で起きた遺体損壊事件の犯人を16年ぶりに突き止めた事例もあります。
最も劇的だったのは安徽省のある寺院での出来事です。住職の顔が凶悪犯罪の容疑者と一致するとシステムが検出したのです。名前も姓も変え、10年以上僧侶として暮らしていた犯人は、ついに逮捕されました。
こうした事例を見ると、中国の監視技術がいかに精巧で広範囲に及ぶかがわかります。しかし同時に、こうした技術が一般市民のプライバシーをどれほど深刻に侵害しうるかも浮き彫りにしています。
「鋭い目」で完成された監視網
2016年、中国は共産党中央委員会の承認を得て「鋭い目（Sharp Eyes）」プロジェクトを開始しました。中国全土を24時間監視・統制できるCCTV監視ネットワークを完成させるという野心的な計画でした。
鋭い目プロジェクトは、カメラの増設にとどまりません。道路や公共施設に設置されたCCTVを住民のテレビ、携帯電話、ドアロックなどと接続し、状況をリアルタイムで把握できるネットワークを構築するものです。文字どおり、すべての国民が互いを監視する社会を作ることに等しいのです。
想像してみてください。あなたのテレビが、携帯電話が、玄関のドアまでもが政府の監視ツールになる世界を。中国の全国土が巨大な監視網で覆われているとは、まさにそういう意味です。
日常に浸透する監視
中国の顔認識技術は、いまや日常生活のあらゆる領域に浸透しています。交通違反をすれば、違反者の顔を撮影して電光掲示板に公開します。横断歩道を無断で渡れば自動で取り締まられます。地下鉄の運賃支払いは、スマートフォンなしで手のひらや顔だけでも可能です。
北京の天壇公園ではトイレットペーパーの窃盗を防ぐため、顔認識装置を導入しました。顔を認識させなければ一定量のペーパーを受け取れません。トイレの中でさえ、あなたの顔が記録されるのです。
2019年12月1日からは、携帯電話の新規番号登録時に顔スキャンが義務化されました。政府は「サイバー空間における市民の権益保護」を掲げましたが、実際の狙いは政府主導の生体情報データベース構築でした。収集された顔情報は全国7億台以上のCCTVと連動した監視ネットワークに統合され、リアルタイムの身元識別と移動経路追跡が可能になりました。
新型コロナウイルスの流行は、監視技術拡散の絶好の機会となりました。学校、官公庁、マンション団地などで体温測定と同時に顔認識による入退管理が日常化しました。マスクを着用した状態でも識別可能な技術が開発され、使用されています。
新疆ウイグル
中国の監視システムが最も極端に運用されているのが新疆ウイグル自治区です。ここは文字どおり、監視技術の実験場と化しました。モスク、ウイグル人コミュニティ、空港、鉄道駅、バス停など新疆全域の670万カ所にCCTVと顔スキャンシステムが設置されました。
ヒューマン・ライツ・ウォッチによると、新疆地区の人口の10分の1にあたる250万人が毎日、中国情報当局の監視を受けています。12歳から65歳までの住民のDNA、指紋、虹彩スキャン、血液型などの生体情報が強制的に収集されています。すべての人を潜在的な犯罪者として扱うのと同じことです。
ウイグル族を監視するために使われる統合共同運用プラットフォーム（IJOP）は、それ自体が人種差別のツールです。このプラットフォームは新疆でウイグル人を追跡するためにDNAを含む生体データを収集します。監視を超えて、特定の少数民族全体に対する組織的な抑圧と統制を意味します。
ヒューマン・ライツ・ウォッチが入手したアクス県のウイグル人収容者2,000人の名簿を見ると、言葉を失います。収容理由は、許可なきコーラン学習、長いひげ、VPNの使用、携帯電話の頻繁な電源オフ、宗教行為などでした。こうした日常的な行為が監視の対象となり、人々を収容所に閉じ込める根拠にされているのです。
ファーウェイはウイグル族のみをターゲットとした監視カメラシステムを開発したと報じられ、論争を呼んでいます。システムがウイグル少数民族であることを検知すると、自動的に「ウイグルアラーム」を発動し警察に通報するというものです。アリババもウイグル族の識別が可能な顔認識プログラムを保有していると伝えられています。
宗教者を標的にした「ノック作戦」
中国は宗教信者に対し、無神論とマルクス主義に基づく共産主義イデオロギーへの服従を強要しています。共産党は宗教団体を、党の権威に立ち向かう可能性のある潜在的な挑戦勢力とみなしています。
1860年、洪秀全がキリスト教思想を掲げた太平天国の乱で清王朝が崩壊寸前に追い込まれた記憶は、いまだ生々しく残っています。習近平政権は「宗教の中国化」政策を打ち出して統制を強化し、宗教組織が党と政府の要求に従うことを求めています。
中国刑法第300条により、禁止された宗教団体で活動することは3年から7年の懲役刑に相当する犯罪とされています。政府は禁止宗教団体の信者を通報した者に10万元の報奨金を提供し、全国民による告発体制を構築しました。
2017年初頭から中国全土で「ノック作戦」と呼ばれる広範な監視活動が実施されました。適当な口実を作って警察を送り込み、宗教者を調査し写真を撮って管理するもので、全国的に宗教者を追跡する監視システムの一環です。
収集されたデータは国家安全保衛部の専用コンピュータに保存され、調査官たちは宗教を広める者に対する証拠を探し求めます。証拠が確保されると追加調査が行われ、その後は「鋭い目」と「天網」プロジェクトによって対象者を絶え間なく監視し続けます。
社会信用システム──点数で値踏みされる人間の価値
中国政府が構築した社会信用システムは「信頼には報酬を、不信には罰を」という仕組みで動いています。中国に住むすべての人の行動を観察し、点数をつけるシステムです。学校で生徒の行動を評価するように、政府が国民一人ひとりの行動を見て点数をつけるのです。
これは地方自治体や鉄道当局、金融機関などがそれぞれ個別にシステムを構築するものであり、中央政府が法律として体系的に構築したシステムではありません。しかし多くの地方自治体と機関が参加しているため、実質的には中国全土でこの制度が一糸乱れず施行されているのと変わりありません。
信用スコアが高い人はホテル宿泊時に保証金が不要で、他の人より早くビザを取得できます。逆にスコアが低い人は、ホテル宿泊、鉄道乗車、旅行の自由などにさまざまな制限を受けます。
社会信用システムはさまざまな方法で人々の行動を観察します。CCTVカメラが24時間人々の行動を見守り、顔認識技術で誰がどこで何をしたかを把握できます。インターネットの閲覧履歴、買い物の記録、ローン返済の記録、交通違反の記録など、日常生活のあらゆる情報を収集します。
高い点数を得るには、税金を期日どおりに納め、交通ルールを守り、借りたお金を期日に返さなければなりません。ボランティア活動や親孝行も加点の対象です。逆に、信号無視、借金の未返済、虚偽情報の拡散は減点されます。政府を批判したり反対する行動をとれば、スコアは大きく下がります。
世界への拡散
最も懸念されるのは、中国の監視モデルが世界中に広がっていることです。中国は監視技術を他国に輸出しており、多くの開発途上国がこうした技術を導入しています。アフリカ、南米、アジアの複数の国々が中国の監視技術を取り入れ、自国民の監視に活用しています。
ファーウェイ、ハイクビジョン、ダーファなど中国企業が開発した監視技術が世界各国で使われています。中国式監視モデルが世界中に広がっていることを意味します。
中国の天網システムは、技術の発展が人間の自由と幸福を保障するとは限らないことを示す代表的な事例です。社会の安全と秩序を高めるという目的で作られましたが、個人の自由と人権を深刻に侵害しうる危険なシステムです。技術の発展は人間の暮らしをより良くすべきなのに、むしろ人々を統制し抑圧する道具として使われています。
4. パランティア
パランティア（Palantir Technologies）という名前を聞いたことがあるでしょうか。この会社名はトールキンの小説『指輪物語』に登場する魔法の水晶球「パランティール」に由来します。物語の中でこの水晶球は、遠く離れた場所を監視し観察する力を持っていました。現実のパランティアも同じです。
2003年、ペイパルの創業者ピーター・ティールが設立したこの会社は、世界で最も強力なデータ分析・監視システムを運用しています。顧客はCIA、FBI、NSA、国防総省など、アメリカの中核的情報機関です。近年は民間企業もパランティアのサービスを利用し始めています。
世界のあらゆるデータを飲み込むデジタル・クラーケン
パランティアの核心技術は、異なるソースから来る膨大なデータを統合し分析することです。AIと機械学習を駆使し、数十億のデータポイントから隠されたパターンやつながりを見つけ出します。衛星画像、携帯電話の通話記録、金融取引明細、SNSの投稿、政府のデータベースなど、あらゆる種類の情報を一度に分析できます。
さらに恐ろしいのは、これらすべてがリアルタイムで動くことです。新たな情報が入る瞬間に分析が始まり、既存データと照合して意味あるパターンや危険信号を見つけ出します。巨大なデジタル頭脳が24時間休みなく世界を監視しているのと同じです。
ゴッサムとファウンドリ──政府と企業のための万能の目
パランティアは主要な顧客層に応じ、大きく二つのプラットフォームを運用しています。政府機関向けの「ゴッサム（Gotham）」と民間企業向けの「ファウンドリ（Foundry）」です。
ゴッサムはパランティアの政府向けプラットフォームで、軍事作戦、テロ防止、情報収集、犯罪捜査などに使われます。「デジタルチェス盤」と呼ばれる所以は、複雑な状況をチェス盤のように可視化し、戦略的判断を助けるからです。
ゴッサムの主要機能を見てみましょう。まず「信号情報（Signal Intelligence）」分析機能があります。世界中から収集される電子通信情報を分析する機能で、携帯電話の通話、インターネット通信、衛星通信など、あらゆる電子信号をリアルタイムで分析できます。
二つ目は「人的情報（Human Intelligence）」統合機能です。機密情報源の報告書、インタビュー記録、現場観察報告などを入力すると、自動的に他の情報と関連づけて分析します。たとえば、ある情報源の報告内容が衛星画像や通信傍受の内容と一致するかどうか、即座に確認できます。
三つ目は「地理空間情報（Geospatial Intelligence）」分析です。衛星画像、ドローン映像、地図データなどをリアルタイムで分析し、地上の変化を検知します。新たな建物の建設、軍隊の移動、兵器の配備といった変化を自動的に発見できます。
四つ目は「オープンソース・インテリジェンス」の収集・分析です。フェイスブック、ツイッター、インスタグラムなどSNSに投稿される内容を自動で収集・分析します。特定地域の政治的雰囲気や社会不安の度合いをリアルタイムで把握できます。
ファウンドリは民間向けプラットフォームで、データ分析機能はゴッサムと似ていますが、軍事や情報収集よりも企業運営に特化しています。シミュレーションエンジンをベースに、企業の財務、人事、物流、在庫などのデータを統合管理できます。
ウクライナ戦争──パランティアの実戦舞台
2022年2月にロシアがウクライナに侵攻した後、パランティアは戦争で重要な役割を果たすことになりました。開戦から3カ月後の2022年6月、ウクライナのゼレンスキー大統領はパランティアのCEOアレックス・カープと面会し、軍事支援を要請しました。ゼレンスキーが戦争中に会った西側企業の最初のCEOがカープだったという事実に、パランティアの重要性が表れています。
パランティアは自社ソフトウェアをウクライナに無償提供することを決めました。戦略的な判断でした。実際の戦場で技術をテストし改善できる機会だったからです。企業にとって露ウ戦争は、実戦でしか得られない貴重なデータと経験を手にできる機会でした。
パランティアがウクライナに提供した主要システムは「メタコンステレーション（Metaconstellation）」と呼ばれる統合分析プラットフォームです。AI基盤の衛星画像、オープンソースデータ、ドローン映像、情報報告書などをリアルタイムで分析し、ウクライナの指揮官たちが戦況を把握し攻撃目標を決定するための情報を提供するのが核心機能です。
パランティアCEOのアレックス・カープはロイター通信のインタビューで、「ウクライナ軍の攻撃の大部分をパランティアのAIシステムが担っている」と語りました。エコノミスト誌は「ダビデ（ウクライナ）とゴリアテ（ロシア）の戦いにおいて、ダビデの『投石器』の役割を果たしたのがパランティアのAIシステムだ」と評価しました。
民間監視の黒い影
戦場で敵を見つけ追跡する技術は、少し手を加えれば政府が市民を監視・統制する道具に変わりえます。パランティアはすでに、民間人監視に関連する論争に何度も巻き込まれてきました。
JPモルガンは当初、従業員の規定違反行為を監視するためにパランティアを導入しました。しかしシステムが経営幹部の私生活まで監視するのに使われたことが問題になり、契約は破棄されました。
パランティアのシステムは、ユーザーが望むどんな情報でも見つけ出す能力を備えています。メール、電話、金融取引、位置情報、SNS活動など、個人のあらゆるデジタル痕跡を追跡・分析できます。
パランティアは米国移民関税執行局（ICE）と契約を結び、不法移民の追跡・逮捕を支援しています。この技術が社会的弱者の弾圧に使われうることを示す事例です。パランティアの従業員200人以上がICEとの契約に対する懸念を表明する請願書に署名し、元従業員13人が公に会社の方針を批判したこともあります。
デジタル監視同盟の拡大
パランティアはアメリカをはじめ世界40カ国以上の政府機関と契約を結んでいます。それらの国の政府はテロ防止、犯罪捜査、国境管理、社会安全などの名目でパランティアの技術を導入しています。しかしこうしたシステムは一度構築されれば、その使用目的と範囲が拡大する可能性が高いのです。
民主主義社会では、市民が政府を監視し牽制することができました。報道の自由、集会の自由、表現の自由を通じて、市民が政府の過ちを批判し改善を求めることができました。パランティアのような強力な監視技術が政府の手に渡ることで、この均衡が崩れています。政府はすべての市民の行動をリアルタイムで監視・分析できるようになる一方、市民は政府が何をしているのかを知ることが難しくなります。監視する側とされる側の関係が逆転しつつあるのです。
国際的な次元でも、パランティアの拡大は懸念されます。アメリカがパランティアの技術を同盟国に提供することで、事実上の「デジタル監視同盟」を形成しています。世界的な規模で監視技術の標準化が進んでいることを意味します。
技術と権力の危険な結合
パランティアは、技術と権力の結合がいかに危険かを物語っています。創業者のピーター・ティールは米国共和党と密接な関係にあり、ドナルド・トランプを支持しました。パランティアの技術が特定の政治勢力の利益のために使われる可能性を完全に排除することはできません。
パランティアの時価総額は、伝統的な防衛産業大手を上回る水準に達しました。2024年12月時点でパランティアの時価総額は1,740億ドルを記録し、ロッキード・マーティン（1,216億ドル）、ノースロップ・グラマン（690億ドル）などの防衛企業を超えました。ソフトウェアベースの監視技術が、ハードウェアベースの伝統的な防衛産業より大きな価値を認められているのです。
パランティアの事例は重要な警告を発しています。技術は中立ではありません。それを誰が、どんな目的で、どのように使うかによって、人類を解放することもあれば抑圧することもあります。私たちの選択が、次世代が生きる世界の姿を決めることになるのです。
5. アメリカNSA
2013年、エドワード・スノーデンが暴露したNSA機密文書は世界を震撼させました。米国国家安全保障局（NSA）が35カ国の首脳の携帯電話を盗聴していた事実が明らかになったのです。メルケル独首相の場合、2002年から2013年までおよそ10年間にわたり携帯電話が傍受されていました。ドイツをはじめとする欧州同盟国がアメリカへの不信を表明し、外交的な亀裂が深まりました。
スノーデンの暴露によると、韓国と日本を含む38の友好国の駐米大使館に盗聴器を設置し、専用アンテナで電波まで探知する全方位スパイ活動を展開していました。ブリュッセルのEU本部まで監視対象とし、「自由の守護者」を自称しながら同盟国を敵国のように監視していたのです。
グーグル、フェイスブック、アップル、マイクロソフトなどグローバルIT企業のサーバーに直接アクセスし、個人メール、写真、通話記録などあらゆる情報をリアルタイムで収集する「プリズム」システムを運用していました。中国の清華大学や香港の通信企業までハッキングし、敵国も友好国も問わない無差別的な情報戦を展開していたのです。
ドイツの法務大臣が「冷戦時代の敵国の所業を思い起こさせる」と激昂したほど、同盟国に対する裏切りの監視行為を繰り返していました。CIAはドイツ・フランクフルトとハンブルクの領事館をハッキング拠点として活用し、友好国の領土で堂々とサイバースパイ活動を行っていたのです。
スノーデン暴露後──さらに精巧になった監視
スノーデンの暴露から10年余りが過ぎました。その間、人工知能技術は飛躍的に発展しました。オバマ大統領の謝罪の後、アメリカの情報機関は友好国首脳の携帯電話や重要通信網に対する盗聴・傍受を本当にやめたのでしょうか。筆者は、いまも続いていると考えています。
かつてNSAの監視が膨大な通信データの収集に重点を置いていたとすれば、いまやAIはそのデータをリアルタイムで分析し予測する段階に進化しました。AIアルゴリズムは、人間のアナリストが数年かけて処理する量のデータを数分で分析できます。メール、SNSの投稿、通話記録など膨大な情報の中から、特定個人の政治的傾向、批判的意見、人脈などを瞬時に把握し、関連性をマッピングできるのです。
予測的監視と行動分析も可能になりました。過去のデータを学習し、特定の個人や集団の将来の行動を予測するのに使えます。政治集会に参加したり、オンライン上で特定の話題について繰り返し意見を表明する個人を分類し、すべてのオンライン活動と通信を集中的に監視できます。
顔認識と行動認識のシステムも進化しました。世界中に広がるCCTV、ドローン、衛星画像などはAIの目と結びつき、強力なリアルタイム追跡システムを構築しています。AIは特定人物の顔を識別するだけでなく、マスクを着けていたり顔の一部しか見えなくても個人を特定できるレベルに達しました。歩き方や行動パターンなどの生体情報を分析し、群衆の中からでも特定の人物を識別して動線を追跡することが可能になりました。
ファイブ・アイズ──国内法の制約を迂回する監視同盟
アメリカ、イギリス、カナダ、オーストラリア、ニュージーランドで構成されるファイブ・アイズ（Five Eyes）情報同盟は、先端技術を活用したグローバル監視ネットワークを構築しています。各国の情報機関が収集したデータを共有・分析し、全方位の監視体制を運用しています。
この同盟の最も巧妙な点は、各国の法的制約を迂回するところにあります。アメリカ政府が自国民を直接監視することには法的な制限がありますが、イギリスや他の同盟国が収集したアメリカ人の情報を受け取ることは比較的自由です。各国の個人情報保護法や監視制限規定を無力化する効果をもたらしています。
情報機関はフェイスブック、ツイッター、インスタグラムなどのSNSプラットフォームを通じ、個人情報を大量に収集しています。プラットフォームはユーザーの日常的な活動、人間関係、政治的傾向、消費パターンなどに関する膨大な情報を保有しています。AI技術はこれらの情報を分析し、個人の性格、政治的傾向、行動パターンなどを予測できます。特定の投稿に「いいね」を押すパターンだけで、その人の政治的傾向を90%以上の精度で予測できるという研究結果もあります。
金融監視と位置追跡の網
金融機関は金融取引データをモニタリングしています。個人の経済活動、消費パターン、人間関係などを把握できます。誰かが特定の場所でお金を引き出したり、特定の店で買い物をすれば、その人の位置と行動を追跡できます。AI技術は、すべての市民の経済活動を監視する道具に悪用されかねません。
スマートフォン、GPS機器、クレジットカードなどを通じて収集される位置情報は、個人の移動パターンを詳細に把握することを可能にします。AI技術は位置データを分析し、個人の日常的な活動パターン、会う人々、よく行く場所などを把握できます。こうした情報は特定個人の行動を予測し監視するのに使われえます。普段と異なるパターンで移動する人を「不審な行動」と分類し、追加監視の対象に指定することも可能です。
民主主義を蝕むデジタル全体主義
AI基盤の監視システムは、民主主義と人権に深刻な脅威を突きつけています。個人のプライバシー、表現の自由、集会の自由、政治参加など、民主主義の基本的な権利が監視と統制によって制約されています。政治的反対者や社会運動家に対する監視が強まることで、健全な政治的議論と社会的批判が抑え込まれかねません。民主主義の基本原則である牽制と均衡を損なう結果を招きかねないのです。
私たちはいま、重大な岐路に立っています。技術が進歩するほど、監視の精度と範囲は拡大しています。今こそ私たちが選択すべきときです。便利さと安全の名のもとにすべてを監視されて生きるのか、不便を覚悟してでも自由と人間の尊厳を守るのか。
6. デジタル独裁の脅威
同意なきビッグデータの強奪
朝起きてスマートフォンを確認し、地下鉄で通勤し、カフェでコーヒーを飲み、ネットショッピングをする──そのすべての瞬間がデータになります。そしてそのデータは、あなたの同意なく収集され、分析され、判断の根拠にされています。
世界中で運用されているAI監視システムの最も根本的な問題は、人々の同意を一切求めないという点です。イスラエルのラベンダーシステムはガザ地区の住民230万人の大半の情報を収集・分析しました。中国でも、国民が望もうと望むまいと顔情報を強制的に収集しています。
個人情報の自己決定権は、民主主義社会の基本的な権利です。すべての人は、自分の情報を誰が、いつ、どんな目的で使うのかを知る権利があり、その使用に同意するか拒否するかを決定する権利があります。しかしAI監視システムはこうした権利を完全に無視しています。
さらに深刻なのは、収集される情報の範囲が想像を絶するほど広いことです。顔写真や名前だけでなく、位置情報、通話記録、インターネット検索履歴、SNS活動、歩き方や行動パターンに至るまで、すべてが収集対象となります。あなたの一挙一動がすべて記録され、分析されているのです。
ブラックボックス・アルゴリズムの独裁
こうしたシステムがどう動いているのか、一般の人にはわかりません。ラベンダーのアルゴリズムがどのように訓練され学習されるのか、中国の顔認識システムがどんな基準で人を判別するのか、明確にはされていません。人の命を左右する重大な判断を下すシステムであるにもかかわらず、その過程が秘密のベールに包まれています。
アルゴリズムの透明性は、民主主義社会において非常に重要な原則です。個人の権利に影響を及ぼす自動化された判断については、その根拠と過程を知る権利があります。しかし現在のAI監視システムは「ブラックボックス」状態で運用されており、誰もその内部の動作原理を確認できません。
これは非常に危険です。アルゴリズムに偏りや誤りがあっても、それを確認し修正する方法がありません。誤った判断が下されてもその理由がわからず、過ちを正すこともできないのです。
システムは完璧でもありません。ラベンダーシステムの10%の誤差率は、無実の民間人が誤って識別される危険を意味します。中国の顔認識システムが99.8%の精度を誇っても、1,000人中2人は誤認識されうるということです。14億人に適用すれば、数千万人が誤認識の被害を受けかねません。
24時間監視する電子の牢獄
現代のAI監視システムが作り出す世界を想像してみてください。家を出た瞬間から戻るまで、眠っている時間を除いてすべての瞬間が記録され分析されます。どこへ行くのか、誰と会うのか、何を買うのか、どんな表情をしているかまで、すべてがデータになります。
中国の監視システムは、国民の社会的行動を分析し政府への忠誠度まで評価する社会信用制度と連結しています。人々が自由に行動し考える権利を深刻に制限するものです。
こうした全面的な監視は「萎縮効果（チリング・エフェクト）」を生み出します。常に監視されていると知れば、人々は自由に意見を述べたり政治活動に参加したりすることを控えるようになります。民主主義の根幹である表現の自由と政治参加を抑圧する結果をもたらすのです。
ウイグル族のケースを見てください。許可なきコーラン学習、長いひげ、VPNの使用などを理由に収容されました。信教の自由、表現の自由、プライバシーの自由をすべて侵害する行為です。日常的な行為が犯罪とみなされる社会では、誰も安全ではいられません。
機械が下す生死の判決
ラベンダーシステムに関連して、イスラエル情報要員の証言はぞっとするものです。「人間として私は、承認のハンコを押す以外に何の役割も果たしていなかった。」命に関わる最も重大な判断から、人間の判断が事実上排除されていたのです。
人間の命がかかった判断を機械に委ねることは、極めて危険です。いかに高度なAIであっても、複雑な状況の文脈を完全に理解したり倫理的判断を下したりすることはできません。戦争や治安の場面では想定外の変数が数多く発生しますが、そうした状況における機械的判断は致命的な結果をもたらしかねません。
自動化された判断は、責任の所在を曖昧にします。誤った判断で無実の人が被害を受けたとき、誰がその責任を負うべきか明確ではありません。開発者なのか、運用者なのか、命令を下した上官なのか、区別がつきません。
パレスチナの詩人モサブ・アブ・トハの事例を思い出してください。3歳の子どもを連れて避難途上にあった彼は、顔認識AIの誤りで指名手配者と誤認され、2日間拘束されて拷問を受けました。機械のミスが一人の人生に消えない傷を残したのです。
弱者を狙うデジタルの猟犬
AI監視システムのもう一つの問題は、特定の集団を差別的に監視するという点です。中国の監視システムはウイグル族やカザフ族などの少数民族を弾圧する道具として使われています。すべての人を平等に扱うべきだという基本的な人権原則に反する行為です。
AIシステムは学習データの偏りをそのまま反映します。訓練データに特定の人種や宗教に対する偏見が含まれていれば、AIはその偏見を学習し再生産します。社会に存在する差別を技術的に固定化し拡大する結果をもたらすのです。
少数民族や宗教的マイノリティはすでに社会的に脆弱な立場にありますが、AI監視システムが彼らをさらに差別的に監視・統制することで、その人権状況をいっそう悪化させています。
ファーウェイの「ウイグルアラーム」システムやアリババのウイグル族識別プログラムは、技術がいかにして人種差別のツールになりうるかを赤裸々に示しています。特定の民族であるという理由だけで自動的に警報が鳴る世界──それが私たちの望む未来なのでしょうか。
国際法を踏みにじるデジタルの無法者たち
報道各社はイスラエルのAI基盤の攻撃を「明らかに国際法を無視した人道に反する行為」と厳しく批判しました。国際法はすべての人の生命権、プライバシーの権利、表現の自由、信教の自由などを保障しています。国際人道法は、戦争中であっても民間人と軍事目標を区別しなければならず、過度な民間人被害を避けなければならないと定めています。
しかし現在運用されているAI監視システムは、こうした国際法の原則を正面から踏みにじっています。「パパはどこ？」システムが家族の集まる家を意図的に攻撃すること、中国がウイグル族全体を監視し抑圧すること、アメリカが同盟国の通信を無差別に傍受すること──いずれも国際法違反です。
さらに深刻なのは、こうした違反行為が「技術の発展」という名のもとに正当化されていることです。新たな技術が登場するたびに、既存の法的・倫理的基準を無視してもよいという論理がまかり通っています。
人間の尊厳の抹殺
AI監視システムの根本的な問題は、人間を数字とデータに還元するところにあります。ラベンダーシステムは人を1点から100点までの数字で評価します。中国の社会信用システムも同様に、個人のあらゆる行動をスコア化します。
人間は生まれながらにして等しい尊厳を持っています。いかなる基準によっても評価されたり計算されたりすることのない、絶対的な価値です。AI監視システムはこうした人間の尊厳を否定し、人を効率と利益の観点からしか見ていません。
さらに深刻なのは、こうしたスコア評価が生死を分ける基準になっているという点です。ラベンダーシステムで高いスコアをつけられれば殺され、中国の社会信用システムで低いスコアをつけられれば社会から隔離されます。機械がつけた点数が人間の運命を左右する時代になったのです。
民主主義の終焉を告げる警鐘
AI監視システムの拡散は、民主主義の核心的な価値を根本から脅かしています。表現の自由、集会の自由、信教の自由、プライバシーの権利など、民主主義社会の礎となる権利がすべて危機にさらされています。
────────────────────────
# 検索キーワード
【日本語】
AI監視社会, ラベンダーシステム イスラエル, 中国 天網 監視, パランティア 軍事AI, NSA スノーデン 監視, 顔認識技術 人権侵害, ウイグル 監視カメラ, 社会信用システム 中国, AI兵器 国際法, ファイブアイズ 情報同盟, デジタル全体主義, ビッグデータ プライバシー, Where's Daddy システム, 自動化兵器 倫理, AI監視 民主主義への脅威
【英語】
AI surveillance system, Lavender AI Israel Gaza, China Skynet surveillance, Palantir military intelligence, NSA Snowden mass surveillance, facial recognition human rights, Uyghur surveillance technology, social credit system China, AI weapons international law, Five Eyes intelligence alliance, digital authoritarianism, big data privacy, Where's Daddy targeting system, autonomous weapons ethics, AI surveillance threat to democracy
【韓国語】
AI 감시 시스템, 라벤더 이스라엘 가자, 중국 천라지망 감시, 팔란티어 군사 AI, NSA 스노든 감시, 안면인식 인권침해, 위구르 감시 기술, 사회신용시스템 중국, AI 무기 국제법, 파이브아이즈 정보동맹, 디지털 전체주의, 빅데이터 프라이버시, AI 감시 민주주의 위협
全体 0