1. 70ヶ国以上で稼働するAI基盤市民監視

ベオグラードの路地を歩く行人は、自分の歩き方がデジタルコードに変換され、遠くのサーバーに保存されているという事実を知りません。ロンドンの霧の中でも、リヤドの太陽の下でも、人工知能カメラは都市の鼓動を記録しています。人工知能グローバル監視（AIGS）インデックスによれば、最少75ヶ国が市民監視に人工知能を導入しており、顔認識システムは64ヶ国で稼働中です。中国のファーウェイが63ヶ国に技術を供給し、米国企業も32ヶ国に輸出しています。

2026年基準で顔認識市場規模は99億5000万ドルであり、2031年までに209億ドルへの成長が見込まれています。ロンドン警察は2025年上期だけで100万人の顔をスキャンし、クロイドン地域では恒設的な顔認識カメラを街路施設に設置し始めました。103件の逮捕が実行され、全国的枠組み構築のための公式諮問が進行中です。EUは2025年2月から公共の場における実時間顔認識を禁止しましたが、同年4月にハンガリーは性的少数者集会の参加者を識別するために実時間顔認識を承認しました。

チェコのプラハ空港ではEU規定に違反する顔認識が6ヶ月間運用されてから、2025年8月1日に至ってようやく中止されました。法律で禁止された技術を同じ連合の加盟国が即座に回避したわけです。民主主義国家の51％が人工知能監視システムを運用しているという統計は、体制の性格がもはや監視の抑止装置ではなくなったという事実を示しています。Clearview AIはソーシャルメディアから数十億枚の写真を無断収集して顔認識データベースを構築し、ヨーロッパ各国から合算1億ユーロ以上の罰金を課せられましたが、1ユーロも払いませんでした。

2025年10月には刑事起訴までもが実行されました。監視の論理はイデオロギーではなく効率に基づいており、効率は体制を区別しません。

2. ディープフェイクと偽情報による選挙干渉と世論操作

2023年のスロバキア総選挙投票2日前に、野党代表ミカル・シメツカの偽音声が流布されました。「ロマ族の票を金で買わなければならない」と言っているように聞こえました。選挙法上48時間の沈黙期間のため反論すら不可能だったし、親ロシア傾向の与党が勝利しました。わずか1つの偽音声ファイルが1つの国の政治的運命を変えたわけです。

Surfshark調査によれば、2021年以降38ヶ国で選挙関連ディープフェイク事件が発生し、影響圏人口は38億人に達しています。人口上位10ヶ国すべてが例外なく被害を受けました。Recorded Futureは2023～2024年の間に38ヶ国で82件の高位級ディープフェイク詐称を記録し、2025年上期のディープフェイク事件数は2017年以降の全体累積件数の171％をすでに超えています。インド2024年選挙でのディープフェイク試行は280％、米国予備選挙前後には303％急増しました。

被害額は2025年基準で15億6000万ドルを超えました。2025年の研究によれば、人間はディープフェイク映像を確実に識別できず、財政的インセンティブを提供しても精度は改善されませんでした。検出技術は構造的に生成技術より遅いです。新しい検出ツールが出現すると、攻撃者はラベルなしのオープンソースモデルに移行します。

すべてが偽物である可能性があるという不信が広がれば、本物の証拠が出てきても「それもディープフェイクではないか」という一言で無力化されます。ユヴァル・ノア・ハラリが語った「真実の終焉」は仮説ではなく、現在進行形です。米国成人の58％が2026年選挙前に合成偽情報がより深刻になると予想しているという調査結果がこれを裏付けています。見ることも、聞くこともできない世界で、民主主義の前提条件である共有された事実基盤（shared factual ground）が崩壊しています。

3. 規制を予測することと作成することの距離が狭まる問題

Hashed金京鎮代表の「30の亀裂」メモは、規制予測エージェントの登場を3年内の実現確率40％で見積もりました。法案、議員発言、世論データを総合して規制変化を予測するツールが市場に出ており、政治的変数と精度の限界が相当ですが、このテクノロジーが提起する質問はテクノロジー的なものではありません。規制を予測することと規制を作ることの距離が狭まるとき、民主主義の原則そのものが揺らぎます。予測が正確になるほど、その予測自体がロビー活動の道具となり、ロビー活動が規制を形成すれば、予測は自己実現的予言になります。

EU AI法は2024年8月に発効され、段階的に施行中であり、2026年8月に全面適用に入ります。違反時に3500万ユーロまたはグローバル売上の7％のいずれか高い方が罰金として課せられます。しかし米国は2026年4月基準で31の州だけが選挙用ディープフェイクを規制する法律を備えており、連邦レベルの包括的AI法律は存在しません。アジア各国の規制フレームワークも様々です。

中国は2025年3月に顔認識規定を発表しましたが、国家監視には適用されません。技術変化の速度が立法の速度を圧倒する構造的不一致を金京鎮代表は「技術的に可能なことと政治的に許容されることの間隔が最も拡大する領域」と診断しました。クラウドインフラの地政学的従属、単一障害点のリスク、サービス継続性保証という問題はイデオロギーではなく生存の問題となりました。法律がコードとして作成されシステム下部に直接組み込まれる時代、ルールを書く者とルールの対象間の境界はだんだん曖昧になっています。

Anthropicが軍事AI協力を拒否すると、連邦機関全体から契約を解除され、その空席をOpenAIが埋めた事件は、「安全」が実際には「我が陣営に有利に作動せよ」という意味である可能性があることを示しました。

4. アルゴリズムによる道徳責任の外注化

「アルゴリズムがそのように判断した」という文は「神の意志」と文法が同じです。主語があるけれども責任の所在はありません。アルゴリズムが採用を決定し、融資承認の可否を判断し、犯罪可能性を予測する時代に、道徳的責任は行き場を失いました。イスラエル軍のラベンダー（Lavender）システムはその結末を示しています。

ガザ地区住民230万人のデータを収集してハマス関連可能性を1点から100点までのスコアで評価しました。情報分析官の証言は次のとおりです。「人間として、私は承認印を押すこと以外に何の役割も果たしていません」と。目標物攻撃承認に要した時間は20秒です。

90％の精度ならば37,000人の打撃対象中3,700人が無実の人であるという意味ですが、その3,700人の命を「誤差範囲」と呼べるのか誰も答えていません。私たちは常に道徳の責任を外注化してきました。神の意志だから仕方がない、市場の論理だから仕方がない、民主的手続きに従ったから仕方がないと。AIはその系統の最新版です。

宣言文には「倫理的AI」と書き、決算報告書には速度と利益と市場占有率を記入します。AIは道徳教科書と社会の採点表を同時に読み、常に採点表の方に従います。スマートフォンの通知はスキナーの鳩に与えられるエサ粒と同じ役割を果たします。可変的報酬システムは私たちをインターフェースに馴致させ、このプロセスで答えを見つけようとする努力が消滅し、主体的判断能力が弱化します。

道徳的思考をアルゴリズムに委ねる瞬間、民主主義の根幹である市民の自律的判断は音なく萎縮します。パレスチナの詩人モサブ・アブ・トハは3歳の子どもとともに避難路上で顔認識AIの誤りで指名手配者として誤分類され、2日間拘禁され拷問を受けました。機械の誤りが1人の人生に拭えない傷を残しましたが、その責任を問う所在はどこにも存在しませんでした。