ア 予測的警察(Predictive Policing)

(1) NAACP シカゴ訴訟

マイケル・ウィリアムスは65歳でした。シカゴのサウスサイドで生涯を過ごし、近所の誰もが彼を知っていました。2020年のある晩、彼は知り合いの青年を家まで乗せていくと言いました。数ブロック進まないうちに、開いた窓から銃弾が飛び込んできました。青年が撃たれました。

警察が出動しました。彼らはウィリアムスを殺人容疑者として逮捕しました。根拠はひとつだけでした。ShotSpotterです。

ShotSpotterは銃声を検出すると主張する音響監視システムです。街灯と信号機に取り付けたマイクが音を捉えると、アルゴリズムが銃声かどうか判断し、警察に位置を送信します。シカゴは2017年からサウスサイドとウェストサイド全域にこのシステムを配置しました。年間900万ドルの契約でした。

問題がありました。ウィリアムス事件では、ShotSpotterは最初、その音を「花火」に分類していました。位置も1マイル以上離れた場所と表示していました。ところが警察はこの警告を根拠にウィリアムスを起訴しました。銃弾が車の中で発射されたという証拠もありませんでした。目撃者もいませんでした。アルゴリズムの判断だけがありました。

ウィリアムスはクック郡刑務所で11ヶ月を過ごしました。糖尿病患者だった彼は適切な食事を受けられませんでした。新型コロナウイルスに2度かかりました。手に震え症状が出て、釈放後も消えませんでした。検察は結局、ShotSpotter証拠の信頼性を保証できないとして起訴を取り下げました。2022年7月、マッカーサー正義センター(MacArthur Justice Center)はシカゴ市を相手に集団訴訟を提起しました。

ウィリアムスと他の被害者ダニエル・オルティーズ、デレク・スクラッグスが原告でした。オルティーズは洗濯機室の前でShotSpotter警報に出動した警察に手錠をかけられ、捜索され、逮捕されました。薬物所持容疑は翌日棄却されました。

訴訟の核心的主張は二つでした。

第一に、ShotSpotter警報だけでは停止と捜索を正当化する合理的疑いが成立しないため、これは修正第4条の違反であるというものです。

第二に、シカゴがShotSpotterセンサーをただ黒人とラテン系が密集した地域にのみ配置したことはイリノイ州民権法違反であるというものです。

数字がこの主張を裏付けていました。

シカゴ監察官室の2021年報告書によれば、ShotSpotter警報の89～91%は銃器関連犯罪の証拠を見つけられないまま終わりました。毎日約100件の誤警報が発生していました。シカゴの黒人住民の80%、ラテン系住民の65%がShotSpotter監視下で生活していました。白人住民はわずか30%に過ぎませんでした。

2024年9月、ブランドン・ジョンソン市長はShotSpotter契約を終了しました。彼はこのシステムを「電柱の上の無線機」と呼びました。市議会は2度にわたって決定の覆すことを要求しましたが、市長は引き下がりませんでした。

2025年8月、訴訟は9万ドルで和解されました。金額より重要なことがありました。シカゴ市は「ShotSpotter警報だけでは警報位置の近くにいる人を停止させたり捜索する正当な事由にはならない」という点に同意しました。アルゴリズムの判断が人間の憲法的権利に代わることはできないという原則が確認されたのです。皮肉なことがありました。ShotSpotterが消えた後1年間、その地域の殺人件数は実に約32%減少しました。シカゴ大学正義プロジェクトの分析結果でした。恐怖を軽減するとされていた技術が消えると、恐怖もともに減少したのです。

(2) ShotSpotterなど監視技術の論争

ShotSpotterの問題はシカゴだけのものではありませんでした。2024年現在、このシステムはアメリカ全域150以上の都市に配置されていました。ニューヨーク、ワシントンD.C.、デンバー、マイアミ。各都市はシカゴと同様の問題に直面していました。

企業側は97%の正確度を主張していました。この数字には詭計がありました。正確度の計算方法に問題があったのです。警報が発生して警察が出動したとき、銃声の証拠を見つけられなくても『不正確』と記録されませんでした。警察が自発的に『エラー報告書』を作成するときだけ不正確に分類されました。警察が報告書を作成することはほぼなかったのです。

本当のテストは一度も実施されませんでした。ShotSpotterが銃声と爆竹、バックファイアする自動車、工事音、ヘリコプター音を区別できるか科学的に検証されたことはありませんでした。

2024年3月、前職ShotSpotter職員クリス・エドワーズとジンシー・ロビンソンが内部告発しました。エドワーズは会社で2年以上勤務しセンサーアップグレードプロジェクトを担当していました。彼は法廷文書でシステムの相当部分が「故障し、腐食し、メンテナンスされていない」と主張しました。正確なデータが顧客に伝えられているか疑問でした。彼は上司に懸念を提起しました。解雇されました。

ShotSpotter(現在SoundThinkingに改名)はエドワーズを逆に訴えました。機密文書を持ち去ったという理由でした。エドワーズはこれが自分を沈黙させるための『戦略的裁判嫌がらせ訴訟(SLAPP)』だと主張しました。2024年1月、判事はエドワーズの抗弁を却下し訴訟進行を認めました。

論争は法廷外でも続きました。2024年マサチューセッツ州最高裁判所はCommonwealth v. Rios事件でShotSpotter証拠の信頼性に疑問を投じました。アルゴリズムが生成したデータが法廷で証拠として採択されるにはどのような基準を満たさねばならないか？専門家証人がそのアルゴリズムの動作方法を説明できなければならないか？被告人にアルゴリズムを検証する機会が与えられるべきか？これらの質問はまだ答えを見つけていません。しかし一つのことが明らかになりました。予測的警察は犯罪を予測できません。それは過去の偏見を未来に投射します。黒人地域により多くの警察を派遣し、より多くの逮捕が起き、そのデータが再びアルゴリズムに入力され、より多くの警察が派遣される悪循環。学者たちはこれを『フィードバック・ループ(feedback loop)』と呼びます。

2025年1月現在、シカゴは新しい銃声検知システムの導入を検討しています。900万ドルの予算が計上されました。SoundThinkingを含む8社が入札に参加しました。和解文の墨が乾く前に、同じ技術が別の名前で戻ろうとしていたのです。

イ リスク評価アルゴリズム

(1) COMPASシステムと人種偏見

バーノン・プラッターは白人で、41歳で、武装強盗の前科がありました。彼の犯罪歴は長かったのです。2014年、彼はフロリダ州ブロワード郡で別の犯罪で逮捕されました。

COMPASアルゴリズムは彼を『低リスク群』に分類しました。釈放後3年以内の再犯可能性が低いことを意味していました。

ブリシャ・ボーデンは黒人で、18歳でした。彼女の前科は青年期の軽微な非行だけでした。自転車窃盗未遂。同じアルゴリズムは彼女を『高リスク群』に分類しました。

2年後、プラッターは8年の刑を宣告される可能性のある窃盗容疑で再度逮捕されました。ボーデンは再犯しませんでした。

COMPAS(Correctional Offender Management Profiling for Alternative Sanctions)はNorthpointe(ノースポイント)という会社が1998年に開発したアルゴリズムです。

被告人の再犯可能性を1点から10点の間でスコア化します。このスコアは保釈、量刑、仮釈放決定に使用されます。ニューヨーク、ペンシルベニア、ウィスコンシン、カリフォルニア、フロリダを含む46州でこのシステムまたは同様のシステムが使用されています。

問題は誰もがアルゴリズムが正確にどのように動作するか知らないということです。

137個の変数が入力されます。以前の逮捕回数、年齢、雇用状態、教育水準、居住地域、家族内の犯罪者の有無。各変数にどの程度の重みが付与されるかは営業秘密です。

判事も知りません。被告人も知りません。弁護士も知りません。

(2) ProPublica調査結果

2016年5月、調査報道機関ProPublicaはブロワード郡の7,000人以上の被告人データを分析した結果を発表しました。彼らはCOMPASスコアと実際の再犯の有無を2年間追跡しました。

結果は衝撃的でした。

全体的な正確度はわずか61%に過ぎませんでした。コイン投げよりわずかに優れた水準でした。より深刻だったのは誤りのパターンでした。

黒人被告人は『再犯しなかったのに高リスクに分類された割合(偽陽性率)』が45%でした。白人被告人は23%でした。ほぼ2倍の違いでした。逆に『再犯したのに低リスクに分類された割合(偽陰性率)』は白人がより高かったのです。黒人28%、白人48%。

要約すればこうです。アルゴリズムは黒人を実際より危険に、白人を実際より危険でなく評価していました。

ノースポイントは反論しました。彼らの論理はこうでした。

COMPASは人種を直接的な変数として使用しない。スコアが同じ黒人と白人は同じ率で再犯する。これが『校正(calibration)』という公正性の基準である。私たちのアルゴリズムはこの基準を満たしています。

二つの主張はどちらも事実でした。そして同時に真になり得ませんでした。数学者たちはこれを『公正性の不可能性』と呼びます。二つの集団の基本再犯率が異なるとき、『校正』と『等しいエラー率』を同時に満たすことは数学的に不可能です。どの定義を選択しても、他の定義は違反されるのです。

問題はさらに深いところにありました。

COMPASは人種を直接問いません。しかし居住地域を問います。雇用状態を問います。教育水準を問います。家族内に犯罪者がいるか問います。アメリカではこれらの変数はすべて人種と強く相関しています。黒人が密集した地域はより多く巡回され、より多くの逮捕が起きます。このデータがアルゴリズムに入力されるのです。アルゴリズムは未来を予測するのではなく、過去の不平等を数値化しているのです。

2016年、ウィスコンシン州最高裁判所はState v. Loomis事件においてCOMPAS使用を認めました。ただし条件がついていました。裁判官はCOMPASスコアのみで量刑を決定してはならず、アルゴリズムの限界を被告人に通知しなければなりません。しかし実際にこの条件が守られているかを監督する者は誰もいませんでした。

2018年、ダートマス大学の研究チームは興味深い実験を行いました。犯罪記録に関する専門知識を持たない一般人に被告人情報を示し、再犯可能性を予測させたのです。個人の正確度は63%でした。複数人の判断を合わせると67%でした。COMPASは65%でした。137個の変数を使う複雑なアルゴリズムが、一般人の直感と変わらぬ結果を示したのです。

さらに衝撃的な発見がありました。研究チームはわずか2つの変数——年齢と過去の有罪判決の回数だけでCOMPASと同等の正確度を達成したのです。残りの135個の変数は何の予測力も加えていませんでした。複雑性は正確性のためではなく、神秘化のためのものだったのです。

2024年、ウィリアムス大学の研究チームはブロワード郡におけるCOMPAS使用が全体の拘禁率を低下させた一方で、同時に人種間の拘禁率格差を深刻化させたという結果を発表しました。アルゴリズムは一部の人々には慈悲を、別の人々には厳しさを配分していたのです。その配分の基準が肌の色と相関していました。

疑問は残されたままです。偏った過去データで訓練されたアルゴリズムが、公正な未来を作ることができるでしょうか。それとも、それは不平等を自動化し、責任を回避するツールに過ぎないのでしょうか。

ロ. 顔認識規制

（1）サンフランシスコ禁止条例

2019年5月14日、サンフランシスコ市議会は8対1で決議案を可決しました。米国の主要都市で初めて、警察を含む市政府機関による顔認識技術の使用を禁止する内容でした。

発案者はアーロン・ペスキン市議員でした。彼はこの条例を『秘密監視中止条例（Stop Secret Surveillance Ordinance）』と呼びました。

核心内容は3つでした。

第1に、サンフランシスコ警察を含むすべての市政府機関は顔認識技術を使用できません。

第2に、監視技術導入時には年次の透明性報告書と監査を義務付けています。

第3に、市民監督委員会が技術使用を監視します。

異論もありました。一部の市民団体は完全禁止ではなく猶予（moratorium）を主張していました。Stop Crime SFのジョエル・エンガルディオはNPRとのインタビューで「今すぐの使用は許されません。失敗率が高すぎます。しかし永遠の禁止ではなく、技術が改善される時のために扉を開けておくべきです」と述べました。

サンフランシスコの決定は他の都市に影響を与えました。オークランドがそれに続きました。ボストンが従いました。ポートランドが参加しました。2024年現在、数十の都市と複数の州が顔認識使用を制限または禁止する条例を制定しています。

しかし禁止条例が実際に守られているかは別問題でした。2024年5月、ワシントン・ポストは衝撃的な報道をしました。顔認識が禁止された管轄区の警察が隣接する管轄区に検索を依頼する方法で禁止令を迂回していることが明らかになったのです。2024年7月、市民権団体Secure Justiceはサンフランシスコ警察局（SFPD）が条例に違反したと主張して訴訟を提起しました。彼らが確保した文書によれば、SFPDは他の管轄区に顔認識検索を要求した事例が最低12件以上ありました。警察局が認めた6件をはるかに上回っていました。

禁止条例の限界が露呈しました。技術は国境を知りません。一つの都市が禁止しても、隣の都市が許可すれば意味がありません。連邦政府が統一された基準を設けない限り、規制には常に穴が開いています。

（2）Gender Shades研究

2018年、MITメディアラボの博士課程学生ジョイ・ブオラムウィニとグーグルのAI研究者ティムニット・ゲブルは学術論文1本を発表しました。

タイトルは『Gender Shades』。この論文は顔認識技術の歴史を変えました。

研究チームはIBM、マイクロソフト、中国企業Face++の性別分類アルゴリズムをテストしました。1,270人の顔画像を4つのグループに分けました。明るい肌の男性、明るい肌の女性、暗い肌の男性、暗い肌の女性。

結果は明確でした。明るい肌の男性に対する誤り率は1%未満でした。

暗い肌の女性に対する誤り率は最大34.7%でした。

35倍の差でした。

すべてのアルゴリズムで暗い肌の女性が最も高い誤り率を示しました。

原因は訓練データにありました。

研究チームが分析した結果、商用顔認識システムの訓練データセットは79.6%から86.2%が明るい肌の顔で構成されていました。アルゴリズムは自身が学習した顔をより良く認識します。白人男性エンジニアが主に白人男性の顔で訓練したシステムは、白人男性を最もよく認識しました。

2019年、米国立標準技術研究所（NIST）は189個の顔認識アルゴリズムを対象に独立検証を実施しました。Gender Shadesの結論を確認したのです。アジア人とアフリカ系米国人の顔に対する偽陽性率（別人を同一人物と誤認する割合）は白人の顔に比べて10倍から100倍高くなっていました。女性は男性よりも頻繁に誤認されました。研究の波及効果は即座でした。

IBMは顔認識市場からの撤退を宣言しました。マイクロソフトとアマゾンは警察への顔認識技術の販売を中止しました。ブオラムウィニは『アルゴリズム正義連盟（Algorithmic Justice League）』を設立し、AI編見問題を継続的に提起しました。

批判もありました。セキュリティ業界協会は2024年報告書でGender Shadesが『顔認識』ではなく『性別分類』アルゴリズムをテストしたものであり、両者は異なる技術だと主張しました。また、2017年にテストされたアルゴリズムは現在の技術レベルを反映していないとも述べました。NISTの2024年評価によれば、上位100個のアルゴリズムはすべての人種グループで99.5%以上の正確度を示していました。

しかし核心的な質問は残されています。99.5%の正確度は0.5%の誤りを意味します。この技術が数百万人に適用されれば、数千人が誤って識別されます。そしてその数千人が誰であるかが問題なのです。ミネソタACLUが代理したカイリス・フェリマン事件では、無実の黒人男性が顔認識の誤りで逮捕・拘禁されました。アルゴリズムの0.5%の誤りが一人の人生では100%の大惨事となるのです。

Gender Shades研究は技術的発見を超えて一つの問いかけをしました。誰の顔が初期値なのか。アルゴリズムが『正常』として学習した顔は誰のものなのか。その『正常』から外れた人々はどのような代償を払うのか。

ニ. 教育AI紛争

（1）ヒンガム高等学校停学事件

2023年12月、マサチューセッツ州ヒンガム高等学校3年生のRNHは歴史授業プロジェクトを準備していました。全米歴史コンテスト（National History Day）参加作でした。彼と同級生1人がチームを組んでいました。

RNHは研究過程でAIを使用しました。テーマを構造化し、資料を整理し、アウトラインを作成するのに支援を受けました。テキスト自体をAIに書かせたわけではないとも主張していました。少なくとも彼はそう主張していました。

教師アンドリュー・ホーイは異なる見方をしていました。彼はRNHの提出物にAI使用の痕跡を発見したと判断しました。問題は、当時ヒンガム高等学校の2023-2024学年度学生ハンドブックにAI使用に関する明示的な規定がなかったことです。『評価中の技術の無断使用』禁止条項はありましたが、AIがここに含まれるかは不明確でした。

RNHはプロジェクトで0点を受け取りました。新しいプロジェクトを再提出しなければなりませんでした。2回目の試みでD評定を受けました。学業不正行為の記録が残りました。全米優等生協会（National Honor Society）への入会から除外されました。

RNHの両親は怒りました。彼らの息子は4.0を超えるGPA、完璧なACTスコア、1520点のSATを持つ学生でした。大学の早期出願の季節が近づいていました。学業不正行為の記録は難関大学への進学に致命的でした。

2024年9月、家族はプリマス上級裁判所に訴訟を提起しました。被告はヒンガム学校委員会、教育長、校長、担当教師でした。訴訟はすぐにボストン連邦地方裁判所に移送されました。原告側主張の核心は以下の通りです。明示的なAI禁止政策がなかったので、処罰は『恣意的で気まぐれ（arbitrary and capricious）』であった。プロジェクト指示文にもAI使用禁止の言及がなかった。学生の憲法上の権利が侵害されたというものでした。

2024年10月、連邦地方裁判官ポール・レベンソンは仮差止申立を却下しました。彼の判決文は明確でした。学校は学生が『AIテキストを無分別にコピー』して学業の誠実性を違反したと『合理的に結論』することができたのです。連邦地方裁判所は学校の懲戒決定が明らかに不当でない限り、介入しません。

仮差止は却下されましたが、訴訟自体は継続しています。

家族の弁護士は証拠開示手続を通じて追加証拠を確保する計画を明かしました。一方、ヒンガム高等学校は2024-2025学年度ハンドブックにAI使用に関する明示的な条項を追加しました。

（2）Doe v. Yale University

2024年春、イェール大学経営大学院MBA（Executive Master of Business Administration）課程の学生が『ファンド調達と管理（Sourcing and Managing Funds）』科目の学期末試験を提出しました。30ページ分の分量でした。クラス全体で最も長い答案の1つでした。

助教が異変を感じました。

文章が「異常なほど長く、精巧な形式」でした。

「ほぼ完璧な句読点と文法」でした。

担当教授は、GPTZeroというAI検出ツールで答案を検査しました。

検出結果はAI使用の疑いでした。

問題の学生はティエリ・リニョル(Thierry Rignol)で、フランス国籍の起業家として、テキサスに居住し、メキシコでホテル業および不動産事業を運営していました。2023年7月にEMBA課程に入学し、2025年5月の卒業を控えていました。

2024年7月24日、リニョルは学長補佐官と学生担当学長に会いました。訴訟によれば、学長は「原告に対し、名誉規定違反についての虚偽の自白を強要しようとする複数回の試み」を行いました。

Grammarlyのようなツールを使用したか、他の学生や助教と相談したか、試験規則について混乱があったか。リニョルはすべての質問に「いいえ」と答えました。

学長は「F1ビザが取り消され、国外追放される可能性がある」と示唆したと訴訟は主張しています。リニョルはF1ビザで滞在中ではありませんでした。

8月を通じて、名誉委員会との書簡が交わされました。リニョルは正式に名誉規定違反の容疑を通知されました。調査と聴聞手続が進行しました。結果は1年間の停学と該当科目のF評定でした。

2025年2月、リニョルはコネチカット連邦法院でイェール大学を相手に訴訟を提起しました。最初は「John Doe」という仮名で開始されましたが、後に実名が公開されました。彼の主張は多層的でした。第一に、GPTZeroを含むAI検出ツールは信頼できない。イェール大学自体の部署も「いかなる人工知能ツールも人工知能の使用を確実に検出することはできない」と認めました。第二に、彼は非ネイティブ英語話者(non-native English speaker)であり、スタンフォード大学の研究によれば、AI検出ツールは非ネイティブ話者に対してより高い誤検出率を示します。これは国籍に基づく差別です。第三に、聴聞手続に適正手続の違反がありました。

2025年5月、連邦判事サラ・ラッセル(Sarah Russell)はリニョルの仮処分申し立てを却下しました。リニョルは2025年の卒業生とともに卒業したいと要求しましたが、判事は「次の学期(2025年秋)の開始までの学業中断と成績表のF記録が回復不可能な損害をもたらすという立証責任を充足していない」と判断しました。

(3) K-12 AI ガイドラインと州別立法の現状

ハイナムとイェール事件は、より大きな問題の一部です。2022年11月にChatGPTがリリースされたとき、米国のどの州も生成型AIに関する教育政策を持っていませんでした。

2025年4月までに、最低限28の州がK-12環境でのAIに関する公式ガイドラインを発表しました。

変化のスピードは速かったです。

最初、学校は禁止で対応しました。ニューヨーク市教育委員会はChatGPTへのアクセスをブロックしました。ロサンゼルス、シアトル、ボルティモアが続きました。

しかし、禁止は長くは続きませんでした。学生は個人デバイスで回避しました。教師は教育的可能性を認識しました。2024年末までに、ほとんどの学区は「AI禁止」から「AI管理」へと方向転換しました。

州別のアプローチは大きく3つに分かれます。

第一に、義務的な政策制定を要求する州。オハイオは2024年夏に法律を可決し、すべての公立K-12学校が2026年7月までに包括的なAI政策を開発、承認、公表することを要求しました。テネシーは2024年3月から、各学区がAI使用政策を確立し、公開することを義務付けました。2025年8月現在、法的義務を持つ州はこの2つだけです。

第二に、ガイドラインを提供するが強制しない州。カリフォルニア、マサチューセッツ、コロラド、ワシントンなど大多数の州がこのカテゴリに属します。カリフォルニアは2024年上院法案1288号に基づいてAI作業グループを構成し、包括的なガイドラインを発表しました。教育者、学生、産業専門家が参加しました。ルイジアナは4段階のAI統合体系(AI禁止、AI補助、AI強化、AI能力強化)を提示しました。ネバダはSTELLAR原則(セキュリティ、透明性、能力強化、学習、リーダーシップ、成就、責任ある使用)を開発しました。

第三に、まだ特別な措置を講じていない州。これらの州では、個別の学区が独自の政策を策定しています。一貫性がなく、学生はどの学区に住んでいるかに応じて異なる規則の下に置かれます。連邦レベルでも動きがあります。2024年11月、米国教育省はAIが学生の市民権を侵害する可能性のある21のシナリオについて説明するガイダンスを発表しました。2025年4月、トランプ大統領は「米国の青少年のための人工知能教育推進」という行政命令に署名しました。AI リテラシーと習熟度の向上、教育へのAI統合、教師研修の強化を強調する内容でした。

教育委員会(Education Commission of the States)の分析によれば、州レベルの議論はいくつかの共通テーマを中心に収束しています。AI リテラシーをコンピュータサイエンスに限定せず、全教科にわたって教えるべき。教師の専門性開発に投資すべき。公正性を確保すべき。データプライバシーを保護すべき。学業誠実性ポリシーを明確にすべき。

未解決の問題があります。AI検出ツールの信頼性の問題です。Turnitin、GPTZeroのようなツールは完璧ではありません。誤検出(AIを使用していないのに使用したと判定)と見落とし(AIを使用していたのに検出しない)の両方が発生します。非ネイティブ話者、特定の執筆スタイル、または主題に応じてエラー率が異なります。

より根本的な質問もあります。AIを使用した執筆と使用しないそれとの境界はどこか？スペルチェッカーの使用は許可されるのか？Grammarlyは？ChatGPTにアイデアを問うことは？概要を作成するよう求めることは？初稿を書くよう求めることは？どこに線を引くべきなのか？

ハイナムのRNHとイェールのリニョルは、この質問に対する答がまだない世界で処罰を受けました。彼らの訴訟がどのように終わるにせよ、一つだけ明らかです。学校はAIを禁止することはできません。無視することもできません。唯一の選択肢は、その共存方法を見つけることです。その方法が何であるかは、まだ誰も知りません。