入力がゴミなら、出力もゴミである

毎日対話するChatGPT、Claude、Gemiが提供する洗練された知的な回答の背後には、私たちが知らない暗い真実が隠れています。人工知能が生成する滑らかで完璧に見える文章。その背面には誰かの精神をむしばむ労働があり、偏った視線があり、私たちのプライバシーを盗み見る目があります。これが私たちが住むデジタル時代の素顔です。

1. ケニアのAIデータ精製労働者の苦痛

ケニアのナイロビにあるオフィスで、27歳の青年モファット・オキニャは1日に700個のテキストを検討しています。その中には強姦、殺人、拷問、児童性虐待に関する恐ろしい内容が含まれています。彼はこのような内容を1日中毎日読む必要があります。なぜでしょうか。ChatGPTがこのような内容を除外できるように学習させるためです。

「私の精神保健を完全に破壊した」とオキニャは言います。彼は強姦犯に関する記事を読んでから周りの人々を避け始め、すべての人に被害妄想的な視線を向けるようになりました。結局、妊娠中の妻が「あなたは変わった」と彼を離れました。「私は家族を失った」という彼の言葉は、私たちが使用するAIの本当の代価を示しています。

このような仕事はオキニャだけの話ではありません。2024年のガーディアンの調査によれば、ケニアだけでも数千人の『コンテンツモデレーター』が時給2ドル未満の賃金を受けながらこのような恐ろしい内容を毎日検討しています。彼らは斬首動画を見て、児童性虐待の画像を分類し、自殺動画にラベルを付けます。すべて、私たちが使用するAIが『安全』になるためです。

ケニアのあるデータワーカーであるフェイス（仮名）は「給料がいいからと始めたが、すぐに恐ろしい対話をシミュレートする必要があることに気づいた。仮想の状況で食人行為を描写する仕事までしなければならなかった」と証言しました。別のワーカーであるステイシーは「会社が提供する精神保健支援は月30分のカウンセリングだけだ。彼らはいやな記憶を消すためにTikTokで楽しい動画を見ろと言うだけだ」と不満を述べました。

2024年12月、CBSの『60分』番組はこれらの実態を告発しました。ケニアのワーカーたちは「過労に悩まされ、低賃金で搾取され、不適切な精神保健支援を受けている」と報道されました。2024年11月にナイロビで開催された『アフリカコンテンツモデレーター労働組合』タウンホールミーティングでは「精神的・身体的苦痛、長時間労働、グラフィック的なコンテンツへの露出、人間工学的なサポートの不足によるバーンアウトと健康問題」が議論されました。ある参加者は「この仕事の利点の一つは、絶対に退屈しないということだ」と皮肉をこめて述べました。

ケニアの人権活動家オダンガ・マドゥングはこのような状況を『現代版奴隷制』として強く批判しました。実際、2023年5月1日の労働節、ケニアのナイロビで150人以上の現職および元コンテンツ審査員が集まり『アフリカコンテンツ審査員労働組合（ACMU）』を設立しました。彼らは政府に請願書を提出し、搾取的な勤務条件の調査を要求しました。

さらに衝撃的なのは、このような仕事が世界中の様々な場所で行われているという事実です。東アフリカ、インド、フィリピン、さらにはケニアのダダブ難民キャンプとレバノンのシャティーラキャンプでも、このような作業が行われています。多言語を話す教育を受けた難民たちが極めて低い価格でこの仕事をしているのです。

私たちが「ありがとう」と言うChatGPTの背後には「私は自分を兵士だと考えている。兵士は人々のために弾丸を止める」と言うオキニャのような人々がいます。彼らの犠牲の上で、私たちは『清潔な』AIを使用しています。

2. 偏ったデータが作る不公正な世界

2024年、ワシントン大学の研究者たちは衝撃的な実験を行いました。3つの最先端のAIモデルに同一の履歴書を与えましたが、名前だけ異なるようにしました。結果は悲劇的でした。AIは85%の場合に白人の名前を好み、女性の名前はわずか11%しか好みませんでした。黒人男性の名前が白人男性の名前より好まれたケースは1度もありませんでした。

これは単なる実験室の結果ではありません。実際の世界で起きていることです。2024年5月、米国カリフォルニア北部地方裁判所はAI採用ツールに対する集団訴訟を認めました。Mobley v. Workday事件で、裁判所は「AIソフトウェアが採用決定に参加した場合、その偏り性が差別訴訟の根拠となる可能性がある」と判決しました。

アマゾンは2018年、AI採用システムを放棄しました。このシステムが技術職応募者の中で女性を体系的に除外していることを発見したためです。システムは男性中心の過去の採用データで学習し、「実行した」「捕捉した」のような男性が主に使用する単語を好むように学習されました。

顔認識技術の偏りはさらに深刻です。白人男性の顔は99%の精度で認識されますが、黒人女性の顔は65%の精度でしか認識されません。このような誤りは空港のセキュリティチェックで無実の人を犯罪人と誤認させ、警察調査で間違った容疑者を指摘させることになります。

医療分野の偏りは生命に関わります。米国のある大規模なヘルスケアアルゴリズムは、黒人患者に対して白人患者より低いリスク点数を付与していました。同じ健康状態であるにもかかわらずです。このアルゴリズムは医療費支出を健康状態の指標として使用しましたが、構造的不平等のため黒人はより少ない医療サービスへのアクセスしかできないという事実を無視していました。

心臓病診断AIは女性患者の症状を見落とし、皮膚がん診断AIは濃い肌色を持つ患者の病変を適切に検出できません。ほとんどの医療データが白人男性患者を中心に収集されているためです。

言語処理AIも同様です。グーグル翻訳は「医者」を男性として「看護師」を女性として翻訳することが多くあります。トルコ語の「O bir doktor」（彼または彼女は医者だ）を英語に翻訳すると「He is a doctor」となり、「O bir hemşire」（彼または彼女は看護師だ）を翻訳すると「She is a nurse」になります。

2024年欧州連合基本権庁（FRA）の報告書は「音声アルゴリズムが民族、性別、宗教、性的指向に基づく強い偏りを含んでいる」と警告しました。2025年5月に発表されたこの報告書は「EU立法機関と加盟国が、あらゆる根拠について一貫性のある高水準の差別禁止保護を保証する必要がある」と促しました。

偏ったAIが下した決定が新しいデータとなり、次世代のAIをより偏ったものにする悪循環が繰り返されます。オンラインプラットフォームの推奨アルゴリズムはユーザーを特定の情報の枠組みの中に閉じ込め、社会的分裂を深刻化させます。ニュース推奨システムはユーザーの既存の傾向と類似した内容のみを表示し、多様な視点に接する機会をブロックします。

2024年の国連女性機関の報告書によれば、「AIシステムは偏見に満ちたデータから学習して、性別の偏りを反映し強化します。このような偏りは意思決定、採用、融資承認、法的判断などでの機会と多様性を制限する可能性がある」と警告しています。

問題は、偏りを減らすにはより多くの費用と時間が必要ですが、企業は迅速な市場進出と利益を優先させるということです。政府の規制も技術開発の速度に追いつけていません。被害を受けた個人または集団が損害を立証し、賠償を受けることも難しい構造です。

3. 個人情報とプライバシー

2024年は、AIと個人情報保護を巡る法的紛争が爆発した年でした。米国連邦裁判所だけで1,970件以上のデータプライバシー関連訴訟が提起されました。これは2023年と比較して急激な増加です。

2023年、米国のある病院に導入されたAIチャットボットが患者の機密情報を外部に送信する事件が発生しました。患者が入力した症状、名前、生年月日、診療歴などがログファイル形式で外部のクラウドサーバーに保存されていたのです。患者たちは自分の情報がどこへ行くのかも知らないままAIと対話していました。

さらに衝撃的なのは、生成型AI自体が個人情報漏出のリスクを抱えているという事実です。2024年の研究によれば、GPTモデルが訓練データから実名、メールアドレス、電話番号などを含む文章を生成した事例が確認されました。AIが学習プロセスで『記憶』した個人情報を無作為に吐き出しているのです。

2024年、ワシントン州では『マイヘルスマイデータ法（MHMDA）』が施行されました。これはHIPAA範囲外の消費者健康データを保護する最初の包括的な州法です。この法律が施行されるとすぐに、アマゾンを相手にした最初の訴訟が提起されました。健康関連アプリとオンライン健康サービスが利用者の同意なく健康データを収集しているという告発でした。

自動運転車は新しいプライバシー侵害の温床になっています。テスラ、BMWなどの車両は運転手の位置、走行パターン、さらには車内での会話さえ収集しています。2024年、テキサス州司法長官はゼネラルモーターズを相手に訴訟を提起しました。GMが運転手たちの走行データを無断で販売したという告発です。

さらに怖いのは『神経データ』の登場です。2024年、カリフォルニア州とコロラド州は個人情報保護法を改定して、神経データまで保護範囲に含めました。VRデバイス、脳波モニタリング装置、ウェアラブルデバイスが私たちの脳活動と思考パターンさえ収集し始めたのです。

2024年、連邦取引委員会（FTC）は位置情報データを販売したデータブローカーを相次いで制裁しました。InMarket、X-Mode、Mobilewalla、Gravy Analyticsなどが消費者の同意なく機密の位置情報データを販売したという理由で処罰されました。

問題は、このような個人情報の収集と利用が私たちも知らないうちに起こっているという点です。LinkedInは2024年9月から利用者データをAI学習に使用し始めましたが、ほとんどの利用者はこれを知りませんでした。利用者がこれを知って遮断しようとするには、複雑な設定メニューを見つけて入る必要がありました。

中国は2023年、世界で最初にAI規制法を制定しました。『生成型人工知能サービス管理暫定措置』は、AI企業に個人情報保護を強化するよう要求しています。一方、米国は2022年にホワイトハウスが発表した『AI権利憲章の青写真』がありますが、これは拘束力のないガイドラインに過ぎません。

人工知能が利口になればなるほど、私たちのプライバシーはより危険になります。利便性のために内容したデータがどのように使用されているのか、私たちは本当に知っているでしょうか。

4. 本1冊の価格の著作権料、十分でしょうか

2025年6月24日、カリフォルニア連邦裁判所で、人工知能の歴史上最も重要な判決の一つが下されました。ウィリアム・アルサップ判事は、作家たちがAnthropicを相手に提起した著作権訴訟で「単一の書籍を購入してAIモデルの学習に活用する行為は著作権侵害ではない」と判決しました。

この判決はAI業界に巨大な波及効果をもたらしました。アルサップ判事はAI学習を『変形的使用』と認め、「読者が作家になるために学習するのと同様に、AIは著作物を複製せず新しい創作の基盤とする」と判示しました。

しかし、この判決には重要な条件がありました。判事はAnthropicが「インターネット海賊サイトから数百万冊の著作権のある書籍を無料でダウンロードした」という事実を認め、この部分については2025年12月の再審に差し戻しました。

ところが3ヶ月後の2025年9月5日、驚くべきニュースが入ってきました。Anthropicが作家たちと15億ドル（約2兆円）規模の和解に達したのです。和解の条件によれば、Anthropicは約50万冊の書籍について、1冊あたり3,000ドルずつ支払うことになりました。

これはAIと著作権をめぐる最初の大規模な和解でした。法的分析家ウィリアム・ロングは「再審が続いていたら、Anthropicが数十億ドル、さらには会社を破産させることができるほどの損害賠償を払う可能性があった」と分析しました。

問題の発端はAI学習データの出所でした。Anthropicの Claude を含むほとんどの大型言語モデルは『Books3』というデータセットで学習されました。このデータセットには、Library Genesis（LibGen）、Pirate Library Mirrorなど不法図書サイトから収集した数百万冊の書籍が含まれていました。

OpenAIのGPT-3.5が学習したデータの規模は想像を超えています。ウェブから収集したトークン4,100億個、追加ウェブテキスト190億個、書籍から抽出された文章670億個、ウィキペディア単語30億個。これらすべてがほとんど原作者の許可なく使用されました。

スタジオジブリ論争はこの問題のもう一つの側面を示しています。2024年にOpenAIの ChatGPT-4o 画像生成機能が発売されると、世界中で『ジブリスタイル』画像生成が流行しました。サム・アルトマンOpenAI CEOさえ自身のプロフィール写真をジブリスタイルに変えるほどでした。

しかし、このようなブームの背後には複雑な著作権問題が隠れていました。宮崎駿監督は2016年のNHKドキュメンタリーでAIアニメーションを見て、「作品自体が人生への冒涜だ」として「この技術を自分の作品に応用する考えは微塵もない」と述べたことがあります。

美術家カルラ・オルティズは「OpenAIのような企業が芸術家たちの作品と生計について気にかけないという別の明白な例だ」と批判しました。彼女は他のAI生成画像企業を相手に著作権訴訟を行っています。

ニュース業界も反発している。ウォール・ストリート・ジャーナルの親会社であるニューズコーポレーションのジェイソン・コンティは「ウォール・ストリート・ジャーナルの記者たちが執筆した記事を活用してAIを学習させるには、適切な許可を得る必要がある」と述べ、「OpenAIは私たちと契約を結んでいない」と指摘しました。

韓国でも同様の問題が提起されている。韓国新聞協会は「ニュース・コンテンツがAI学習のために使用される場合、メディア企業の著作権およびデータベース制作者としての権利を侵害する」と主張している。

AI企業は、このような行為が「公正利用（fair use）」に該当すると主張している。しかし、韓国新聞協会は「原著作物と区別される新しく異なる機能を果たしておらず、原著作物に対する需要に代替することができる」として、「変形的利用に該当しないため公正利用が成立しない」と反論した。

2024年には、多くの著作権訴訟が提起された。ニューヨーク・タイムズ対マイクロソフト・OpenAI、ゲッティ・イメージズ対Stability AI、ユニバーサル・ミュージック・グループ対Anthropic、レコード会社対SunoおよびUdioなどである。2025年6月には、ディズニーとNBCUniversalがMidjourneyを相手に訴訟を提起した。エルサ、ミニオンズ、ダース・ベイダー、ホーマー・シンプソンなどのキャラクターが無断で使用されたという理由からであった。

最も最近の2025年9月には、ワーナー・ブラザース・ディスカバリーがMidjourneyを相手にカリフォルニア連邦裁判所に訴訟を提起した。一方、2025年8月には、Elon MuskのxAIがAppleおよびOpenAIを相手に訴訟を提起するなど、AI業界の内部でも法的紛争が広がっている。

しかし、AI企業に有利な判決も出ている。2025年6月、Metaはサラシルバーマンおよびタ・ネハシ・コーツの訴訟で勝訴した。ジブリア・チャブリア（Vince Chhabria）判事がMetaの即決判決請求を認めたのである。

このような状況で、Anthropicの15億ドルの和解は重要な判例となった。これは他の訴訟にも影響を与えるものと予想されている。しかし、依然として根本的な質問が残る。AIが人類のすべての創作物を学習して新しいものを生み出すなら、原作者たちにはどのような補償が与えられるべきなのか。

われわれは、人工知能が生み出す利便性と効率性に酔っている。しかし、その背後には、ケニアの青年が精神疾患に苦しみ、アルゴリズムが特定の人種と性別を差別し、私たちのプライバシーが無断で収集され、創作者たちの権利が侵害されている現実がある。

技術の発展が人類の幸福を増進させるなら、われわれはこのような暗い側面から目を背けてはならない。人工知能が真に全ての人に役立つ技術となるためには、技術的性能の向上と同様に、公平性と包括性、そして人間の尊厳を重視する開発文化と社会的合意が必要である。

Garbage in, garbage out.（ゴミ入力はゴミ出力）。偏見と搾取が入れば、偏見と搾取が出される。われわれがどのようなデータを入力するかによって、将来のAI、そして将来の世界が決まるだろう。