a. バイデンが始め、トランプが止めたもの

（1）バイデン政権のAI規制強化

2024年9月25日の朝、ワシントンD.C.の連邦取引委員会本部の記者会見場にリナ・カーン委員長が姿を現しました。彼女はマイクの前に立って、たった1文で宣言しました。「AIツールを使って人々を欺き、誤解させ、詐欺をはたらくことは違法です。」

カーン委員長の言葉はシンプルでしたが、その背後には数ヵ月間の調査と数千ページの証拠資料がありました。彼女が発表した作戦名は「オペレーション・AI・コンプライ（Operation AI Comply）」でした。麻薬組織を一掃する軍事作戦のような名前でしたが、ターゲットは銃を持つギャング団ではありませんでした。ターゲットは「人工知能」という3文字を製品に貼り付け、消費者を惑わす企業たちでした。

なぜこの作戦が必要だったのでしょうか。答えは資本の流れにありました。

2023年から、ベンチャーキャピタルの資金の相当部分がAI関連企業に流れ込み始めました。ウォール街の投資家たちは、会社名に「AI」が含まれていると財布を開きました。この現象は業界では「AIウォッシング（AI Washing）」と呼ばれました。環境配慮とは無縁な企業が環境配慮企業のふりをする「グリーンウォッシング」のデジタル版でした。

実際に機能するAI技術があるかないかは重要ではありませんでした。パッケージングがそれらしければ充分でした。

FTCの対応哲学を理解するには、「欺瞞（deception）」という法律用語の意味を知る必要があります。これは食料品のパッケージに例えると簡単です。パッケージに「オーガニック」と書かれているのに、実は通常栽培の農産物であれば、消費者は誤った情報を信じてお金を払ったことになります。信頼が破られた瞬間に被害が発生します。AIも同じです。「最先端の人工知能で駆動される」という文句を見て製品を買ったのに、実は単純なスクリプトに過ぎなければ、それは欺瞞です。バイデン政権下のFTCは、この欺瞞行為に対して3つの原則を定めました。

第1に、技術的実証責任の強化です。企業が「AIで駆動される」または「アルゴリズムで最適化された」と主張するなら、これを裏付ける科学的かつ客観的な証拠をあらかじめ確保する必要があります。

第2に、自動化されたバイアスに対する監視です。AIが融資、住宅、雇用といった重要な決定プロセスで特定の人種や性別に不利益をもたらす結果を生じさせれば、それは不公正な行為になります。

第3に、責任の所在の明確化です。「アルゴリズムのブラックボックス特性により結果を予測できなかった」という言い訳は認められません。

カーン委員長のアプローチは「予防的措置」に近いものでした。消費者に実質的な害をもたらす可能性があるだけで規制の対象になる可能性があるという立場でした。これは既存の消費者保護法であるFTC法第5条をAI時代に合わせて拡張解釈したものでした。技術が実際に悪用されていなくても、悪用される可能性のあるツールを提供する行為自体を問題にしようとする試みでした。

オペレーション・AI・コンプライの最初の発表でFTCは5つの企業に対する制裁を同時に公開しました。ロボット弁護士をうたう企業、偽のレビュー生成ツールを販売する企業、AIを利用して不労所得を約束して投資家を欺いた企業が含まれていました。これは単なる取り締まりではありませんでした。市場全体に向けた警告状でした。

2023年10月にバイデン大統領が署名した「安全で信頼できる人工知能の開発及び利用に関する大統領令（EO 14110）」は、このような規制姿勢の基盤を提供しました。この大統領令は連邦機関にAIガバナンスのための具体的な行動指針を提供し、FTCにはAI市場の公正な競争保障と消費者保護のための積極的な執行権限を付与しました。カーン委員長はこの権限を最大限に活用しました。

FTCの攻撃は司法省（DOJ）、雇用機会均等委員会（EEOC）などの関係当局との協調の下で行われました。政府全体の規制ドライブの一環でした。しかし、このアプローチは両刃の剣でした。初期のAI市場の秩序を保ち、技術万能主義に警鐘を鳴らしたという肯定的評価がある一方で、革新的なスタートアップの成長を阻害するという批判もありました。シリコンバレーの一部では「ワシントンが革新を殺している」という不満が噴き出しました。

ここで重要な質問が提起されます。規制当局が捕まえようとしているのは詐欺師なのか、それとも技術発展のスピード自体なのか。この質問への答えは、次の政権で全く異なる方向で現れることになります。

（2）トランプ政権の政策転換とその影響

2025年1月、トランプ政権が発足するとともに、AI規制の地形は180度反転しました。新政権のメッセージは明確でした。

バイデン時代の「予防的規制」はアメリカのAI技術覇権を脅かす不必要な障壁であるということでした。就任直後、トランプ大統領はバイデンのAI関連大統領令を廃止または大幅に修正する一連の措置を実行しました。

政権交代の効果はFTC内部で即座に現れました。リナ・カーンが委員長を退き、保守派のアンドルー・ファーガソンが新しい委員長に就任しました。ファーガソンは前政権時代FTC委員を務めている間、カーンの規制政策に何度も反対票を投じた人物でした。彼の哲学はシンプルでした。「技術そのものではなく、技術を利用した詐欺を処罰する。」

2025年7月、ホワイトハウスは「アメリカのAI行動計画（America's AI Action Plan）」を発表しました。この計画の核心はAI革新を阻害すると判断される連邦規制と調達上の障壁を検討して撤回するよう指示することでした。文書にはFTCへの直接的な言及もありました。バイデン政権期間に開始されたすべての調査を見直し、「AI革新に過度な負担をかける責任理論を推し進めないことを保証する」という内容でした。

これが意味するところは何だったのでしょうか。

規制の刃が方向を変えたのです。過去にはAIモデルの社会的影響やデータ学習の公正性に関する広範な調査が含まれていたのに対し、2025年以降は具体的かつ実証可能な「虚偽の主張（False Claims）」に集中することになりました。「AIが差別をしたか」よりも「AIが広告通りに機能するか」が中心的争点となったのです。

しかし重要な点があります。オペレーション・AI・コンプライ自体が廃止されたわけではありませんでした。トランプ政権のFTCも、消費者を直接的に欺いて金銭的損害を与える明らかな「詐欺（Fraud）」行為に対しては強力な取り締まりを続けました。むしろ一部の分野では取り締まりが強化されたほどです。2025年を通じてFTCはAIを装った投資詐欺、偽のレビュー生成、虚偽のパフォーマンス広告などに対して継続的に制裁を加えました。

この点は法律専門家の間でも注目されました。あるロー・ファームの分析によると、「この執行優先度が政権交代とともに消えるであろうという推測は、根拠がないことが判明しました。」オペレーション・AI・コンプライのほとんどの措置が民主党と共和党の委員の両方の承認によって承認されたという点がこれを裏付けています。明白な消費者欺瞞に対する基本的な監視は、政党を超えた合意だったということになります。

政策転換の最も劇的な事例は2025年12月22日に現れました。FTCは2024年に締結していたRytr LLCに対する同意命令を撤回する決定を下しました。ファーガソン委員長は「該当する提訴状がFTC法の法的要件を満たさず、命令がAI革新に過度な負担をかけている」と述べました。これはトランプ政権のAI大統領令とAI行動計画を実行した最初の事例でした。

2024年9月25日、ワシントンDCの連邦取引委員会（FTC）本部で表決がありました。議案はRytr LLCという小規模なAI企業でした。投票結果は3対2。僅差でした。

反対票を投じた2人のうち1人はアンドルー・ファーガソン委員でした。彼は反対意見書にこう書きました。「この命令は正直な革新者たちを違法者にし、潜在的に革命的な技術を揺りかごで窒息させる危険性があります。」

1年後、ファーガソンはFTC委員長になりました。そして、正確に彼が予言したことが起きました。ただし方向が反対でした。窒息させられたのは技術ではなく、FTC自身の命令でした。

Rytrがどんな会社であるかを説明する必要があります。

RytrはAI文章作成サービスです。ユーザーがいくつかのキーワードを入力すると、AIが文章を書きます。ブログのポスト、メール、広告文。ここまでは一般的なサービスです。問題は「推薦文とレビュー」という機能でした。この機能はこのように動作しました。

ユーザーが「引越し業者」「親切」「推奨」というキーワードを入力します。すると、AIは実際の顧客が書いたようなレビューを生成します。「去年この業者を通じて引っ越したのですが、スタッフが本当に親切でした。家具1つ傷もなく移してくれました。次も必ず利用するつもりです。」

問題はこのレビューを書いた人が実際に引越しサービスを利用したことがないということです。AIが作り出した偽物です。あるユーザーはこの機能で83,000件以上の引越し業者レビューを生成しました。

リナ・カーン議長が率いるFTCはこれを2つの容疑で起訴しました。

第1に、「不公正な取引慣行（Unfair Practice）」です。簡単に言えば、市場を汚染しているということです。偽のレビューが溢れれば、消費者は本物のレビューと偽のレビューを区別できなくなります。正直に商売している企業が被害を受けます。

第2に、「欺瞞の手段と道具の提供（Means and Instrumentalities）」です。この概念には少し説明が必要です。例えるなら、こうです。誰かが偽造紙幣を作ったら犯罪です。しかし、偽造紙幣を作る機械を売ったら？直接犯罪を犯してはいませんが、犯罪道具を提供したのです。FTCはRytrがまさにそのような役割を果たしたと主張しました。

2024年12月18日、最終的な同意命令が下されました。Rytrは今後20年間、レビューや証言を生成するいかなるサービスも広告、マーケティング、販売することができなくなりました。

話はここで終わることができました。小規模なAI企業が規制の刃に切られた。それで終わり。しかし、アメリカの政治はそれほど単純ではありません。

2025年1月20日、ドナルド・トランプが再び大統領になりました。

就任3日後の1月23日、彼はAI大統領令に署名しました。核心的な内容はこのようなものでした。「アメリカのAI革新を阻む既存の政策と指針を撤回する。」同年7月、ホワイトハウスは「アメリカのAI行動計画（America's AI Action Plan）」を発表しました。この計画はFTCに具体的な任務を与えました。「すべてのFTC最終命令、同意判決、禁止命令を検討し、AI革新に過度な負担をかけるものは修正または撤回する。」

ファーガソン委員長が検討対象を見つけるのに長くかかりませんでした。彼が1年前に反対票を投じたまさにあの事件がありました。

2025年12月22日、FTCはRytrに対する同意命令を撤回しました。投票は2対0。反対票はありませんでした。理由は単純でした。残っている委員は2人だけで、両者とも共和党出身でした。

FTC消費者保護局長クリストファー・ムファリッジはプレスリリースで次のように述べました。「単に問題となる可能性があるという理由だけで技術やサービスを有罪とすることは、法と秩序ある自由に適合しません。」

撤回命令書は6ページでした。中核的な論理は2つでした。

第1に、元の提訴状が法的要件を満たさなかった。提訴状にはRytrのユーザーが数万件のレビューを生成したという内容がありました。しかし、正に重要な事実が抜けていました。そのレビューが実際にオンラインに掲載されたという証拠がなかったのです。偽のレビューを作成できるツールと偽のレビューを実際に掲載することは別の問題です。前者は潜在的なリスクであり、後者は実際の害です。FTC法は「実際の害または害の可能性」を要求します。しかし、提訴状には実際の害の証拠がありませんでした。

第二に、「手段と道具の提供」理論の誤用である。伝統的に、この理論は企業が直接虚偽陳述を行い、それを他の人に伝える場合に適用されてきました。ところが、Rytrは直接虚偽陳述をしたことがありませんでした。AIが生成したレビューに虚偽の内容があっても、それはユーザーの選択です。鉛筆会社が誰かが鉛筆で虚偽文書を書いたからといって責任を負わないのと同じです。

ここに皮肉があります。

FTCはRytr命令を撤回する一方で、同じ日に偽のレビュー関連の警告状10通を送付しました。30分間隔でした。偶然の一致だったのでしょうか。メッセージは明確でした。わたしたちは偽のレビューに対する摘発を放棄していない。ただし方向を変えただけだ。道具を製造する企業ではなく、道具を悪用する企業を捕まえるということだ。ファーガソン委員長の立場はこうでした。AI技術そのものを禁止するのではなく、AIを使用して実際に消費者を欺いた場合にのみ処罰するということです。

同じ委員長が2024年に承認したDoNotPay事件を見ると、この区別が明確になります。DoNotPayは自社のAIを「ロボット弁護士」と広告しました。実際にはそうではなかったのに。これは明白な欺きです。能力についての虚偽の主張。ファーガソンはこうした事件には賛成票を投じました。

違いが見えますか。DoNotPayは自社AIの能力について嘘をつきました。Rytrはいかなる嘘もつきませんでした。ただ誰かが嘘を書くのに使うことができる道具を作っただけです。

この事件は、AI規制の根本的な問いを投げかけます。

技術は中立的です。ナイフは料理にも使われ、犯罪にも使われます。プリンターは合法的な文書も印刷し、偽造紙幣も印刷します。AI執筆ツールはブログ投稿も書き、偽のレビューも書きます。技術そのものを禁止すべきでしょうか、それとも悪用だけを処罰すべきでしょうか。

バイデン行政府のFTCは前者の側でした。悪用される可能性が高い技術であれば、最初から禁止することが正しい。トランプ行政府のFTCは後者の側です。合法的な用途がある技術は許可し、実際に法を破った場合にのみ処罰する。

どちらが正しいでしょうか。この質問への答えはまだ出ていません。確実なことは1つです。同じ行為に対して1年の間に正反対の判断が下されたということ。米国のAI規制政策の一貫性について多くを語っている事件です。

付け加えるべきことがあります。

Rytr命令の撤回は、トランプ行政府のAI行政命令とAI行動計画を実行した最初の事例でした。最初という言葉は最後ではないという意味です。同じ論理で審査対象となる可能性があるFTC命令がさらにあります。Operation AI Complyの他の事件たち、そしてそれより前のAI関連規制措置たち。ある法律評論家はこう書きました。「2025年はFTC史上最も多くの命令撤回が行われた年です。」変化の風は強く吹いています。ただしその風がどこに向かっているのかはまだ誰も知りません。

b. ロボット弁護士の衰退

(1) DoNotPay：ロボット弁護士の過大広告制裁

2015年、スタンフォード大学の寮で、イギリス出身の若い男性がノートパソコンを開きました。ジョシュア・ブラウダー（Joshua Browder）。彼は駐車違反の切符をあまりにも多く受け取ったため、異議を唱える方法を研究していましたが、やがてチャットボットを作ることに決めました。「若い人間として、これらの切符に対応する余裕がありませんでした。そこで私は、駐車違反から免れるためのすべての理由について法律の専門家になりました。」それは後のインタビューで彼が言ったことです。

ブラウダーはヘッジファンドマネジャー、ビル・ブラウダーの息子でした。シリコンバレーでは、彼の話は典型的な天才少年の物語として包装されました。すぐに彼はピーター・ティールの起業支援プログラムに選ばれて大学を中退し、アンドレッセン・ホロウィッツやコアチュー・マネジメントのような有名なベンチャーキャピタルから投資を受けました。駐車違反の異議申し立てチャットボットから始まった企業は、すぐに野心を膨らませました。その名前は『DoNotPay』でした。スローガンはさらに大胆でした。「世界初のロボット弁護士。」

ブラウダーの約束は華やかでした。月額36ドルの購読料を払えば、AIが高速道路の超過速度の切符の異議申し立てから離婚書類作成、少額訴訟請求まで処理してくれるというものでした。ウェブサイトにはロサンゼルス・タイムズの文句が引用されていました。「このロボット弁護士ができることは、驚くほど人間の弁護士がすることと似ているか、それ以上です。」高い法律サービスの敷居で挫折していた消費者たちにとって、これは夢のような提案でした。

しかし、FTCの視線は広告文と実際の機能の間のギャップに固定されていました。2024年9月、FTCは調査結果を発表しました。

DoNotPayは、自社のAI技術が実際の弁護士の職務を遂行するレベルであるか、生成された文書が法的に有効であるかについて、いかなる客観的検証も受けていませんでした。社内的に弁護士を雇用してAIの成果物を審査したこともありませんでした。問題は簡単でした。「ロボット弁護士」と呼ばれましたが、弁護士レベルの検証はまったく行われませんでした。

ここで『欺き』の法的意味を改めて検討する必要があります。消費者が製品を購入するとき、広告文を信頼します。その信頼に基づいてお金を支払います。もし広告文が事実と異なるなら、消費者は誤った情報に基づいて経済的決定を下したのです。FTC法第5条は、まさにこのような状況を『不公正または欺くような行為』と規定しています。

FTCの提訴状によれば、DoNotPayの技術は連邦および州法律、規則、司法判決の完全で最新のデータベースで訓練されていませんでした。様々な事実シナリオに法律がどのように適用されるかについての学習も行われていませんでした。つまり、「AI弁護士」と呼ぶには基礎が脆弱でした。

2025年1月16日、FTC委員会は5対0の全員一致でDoNotPayに対する最終的行政命令を承認しました。内容は3つでした。

第一に、193,000ドルの金銭的救済金を支払うこと。

第二に、2021年から2023年の間にサービスを購読した消費者にFTC合意の事実と、サービスの制限を通知すること。

第三に、今後自社サービスが実際の弁護士のように機能するとして広告しようとする場合、十分な証拠を提示すること。

193,000ドル。数億円のベンチャー投資を受けた企業にとっては大きな金額ではないかもしれません。しかし、真の意味は金額にはありませんでした。FTCが「ロボット弁護士」という表現そのものを問題にしたという点が重要です。科学的証拠なしにはAIが専門職を代替すると主張することはできないという基準が確立されたのです。

リナ・カーン委員長とメリッサ・ホルヨーク委員は共同声明を発表しましたが、その内容はDoNotPayを非難するものではありませんでした。彼らはむしろ、AIが消費者により安く便利なサービスへのアクセスを可能にするだろうという希望を表明しました。

問題はAI技術そのものではなく、検証なしに能力を誇大化したマーケティングでした。

ブラウダーはかつてツイッターで大胆な提案をしました。「AirPodsを差し込んで法廷に入り、AIの指示通りに弁論する弁護士に100万ドルを与えるだろう。」この発言はメディアの注目を集めましたが、同時にすべての弁護士の関心も引きました。法律コミュニティでは、この青年が「法がどのように機能するのか」まったく知らないという批判が殺到しました。自分が作った製品に酔っているという評価もありました。

DoNotPay事件は、リーガルテック（Legal Tech）分野全体に教訓を残しました。AIが法律サービスのコストを低下させ、アクセス可能性を高める可能性は明確にあります。

しかし、「弁護士」という言葉には重みがあります。弁護士は資格を持つ専門職です。その専門性を模倣しようと主張するには、最低限その相応の検証が必要です。検証なしに「ロボット弁護士」と呼ぶことはマーケティングではなく、欺きです。

(2) Evolv Technologies：AI武器探知機の虚偽主張

2022年のある日、ニューヨーク州ユティカの中学校で、学生が7インチのナイフで刺される事件が発生しました。

学校の入口には最新のAIセキュリティシステムが設置されていました。Evolv Technologies（イボルブテクノロジーズ）が販売した『イボルブエクスプレス』スキャナーでした。この機械はナイフを検知できませんでした。

イボルブはマサチューセッツ州に本社を置く企業でした。彼らのマーケティングは野心的でした。AI基盤のセキュリティスキャナーが従来の金属探知機よりも高速で、より正確で、より費用効率的であるという主張でした。特に学校市場を狙いました。

銃撃事件が頻繁な米国では、学校の安全は熱い問題でした。親たちは子どもを守るテクノロジーを望み、教育長たちは「わたしたちの学校は安全だ」と言うことができる根拠が必要でした。

イボルブの広告文句は魅力的でした。「AIを活用して武器と日常の所持品を区別します。」「鍵やスマートフォンは無視し、銃とナイフだけを正確に見つけます。」「既存の金属探知機より70％の人件費を削減します。」40州にわたって800以上の学校がこのシステムを導入しました。プロスポーツ競技場と病院にも設置されました。学校市場はイボルブ事業の半分を占めました。

しかし現場では問題が次々と発生しました。ユティカ学校事件の後、学校はスキャナーの感度を上げました。すると誤警報率が50％にまで跳ね上がりました。学生たちの弁当箱、バインダー、水筒が武器として認識されました。あるイリノイ州の学区では、2023年8月から2024年4月の間に、ノートパソコンだけで85,000件以上の誤警報が発生しました。ナイフは5本見つけましたが、その代価として学校の行政は機能不全に陥りました。

FTCの調査結果はより深刻でした。提訴状によれば、イボルブエクスプレススキャナーが武器を検知する程度は「ユーザーが設定した感度レベルに大きく左右され、感度が高いほどより多くの誤警報が発生します」。さらにFTCはイボルブが自らを「武器探知システム」と呼ぶが「金属探知機ではない」と主張することは「純粋にマーケティング上の区別に過ぎない」と指摘しました。実際、このスキャナーが検知するのは金属だけであり、金属以外の武器に対しては無力でした。

2024年11月27日、FTCはイボルブに対する措置を発表しました。

命令の核心は4つでした。

第一に、AI使用で武器を検知するという製品能力について、十分な証拠なしに主張することを禁止。

第二に、無害な個人物品を無視する能力についての虚偽の主張を禁止。第三に、従来の金属探知機との比較での精度、誤警報率、処理速度についての比較主張を禁止。

第四に、人件費削減についての虚偽の主張を禁止。

さらに重要な措置がありました。

2022年4月1日から2023年6月30日の間に契約を締結したK-12学校顧客に対して、60日以内に違約金なしで契約を解除できる権限を与えるよう命じるものでした。

一般的に、イーボルブの契約は複数年にわたる拘束力を持っていました。この命令は学校に脱出口を開いたようなものです。

イーボルブの反応は興味深いものでした。会社側の声明では、彼らは「FTCはイーボルブ製品の核心的効能については異議を唱えなかった」と強調しました。「調査の焦点は一定期間の過去マーケティング資料に対する述べ方に関連していた」ということでした。つまり、技術そのものは問題ではなく、広告文句を修正すればよいという主張だったのです。

しかし現場の声は異なっていました。セキュリティ専門家のドナルド・メイエ(Donald Maye)はFTCの発見が「イーボルブ技術の主要な格差」を浮き彫りにすると述べました。学校安全コンサルタントのケネス・トランプはさらに率直でした。「一部の学校指導者たちは、知らず知らずのうちに、彼らが防ぎたいと考えていたまさにその結果をもたらしてしまった可能性があります。彼らは、なぜ自分たちと学校コミュニティに約束されたか暗に示された技術を提供できない製品を購入したのかを説明しなければならない困難な立場に置かれる可能性があります。"

ここに一つの逆説があります。FTC合意後の2025年1月時点で、イーボルブは単一の顧客も契約解除を求めなかったと発表しました。一部の学校はむしろイーボルブシステムに満足していると述べました。あるスクールディストリクトの安全担当者は「そのレポートは私たちにとって何の意味もありません。私たちは毎日イーボルブと一緒に仕事をしています」と述べました。技術に対する評価はいまだに分かれています。

イーボルブ事件は重要な問題を提起します。安全に直結した技術に「AI」というラベルを付けることはどのような責任を伴うべきか。親たちが子どもの安全を信じて預けたシステムが広告ほどの性能を発揮しないのであれば、その責任は誰にあるのか。技術の限界を透明に開示することとマーケティングの効果を最大化することの間で、企業はどのような選択をすべきか。これらの問いに対する答えはまだ完成していません。

（3）インテリビジョン：顔認識精度の虚偽表示

カリフォルニア州サンノゼに本社を置くインテリビジョン・テクノロジーズ・コーポレーション(IntelliVision Technologies Corp.)は、家庭用セキュリティシステムとスマートホームタッチパネルで使用される顔認識ソフトウェアを販売する企業でした。彼らのウェブサイトには自信に満ちた言葉がありました。

「すべての民族の顔を人種的偏見なく検出します。」

「世界中の数百万枚のデータセットで訓練され、性別や人種の偏見はまったくありません。」

「市場で最も高い精度の一つを誇ります。」

顔認識技術における『偏見(bias)』という言葉は敏感なテーマです。

2018年、MITの研究者ジョイ・ブオラムウィーニ(Joy Buolamwini)とティムニット・ゲブル(Timnit Gebru)が発表した『Gender Shades』研究は、主要な顔認識システムが黒人女性に対して著しく高い誤認率を示していることを明らかにしました。その後、顔認識技術の人種的・性別的偏見は終わりのない論争の対象となりました。インテリビジョンの「偏見なし」という主張はまさにこの論争への答えのように見えました。

しかしFTCの調査結果はまったく逆でした。

2024年12月3日に発表された訴状によると、インテリビジョンは「市場最高水準の精度」という主張を支える証拠がありませんでした。「性別や人種の偏見がまったくない」という主張についても根拠がありませんでした。さらに深刻な問題がありました。同社は「数百万枚の顔で訓練された」と広告していましたが、実際にはわずか約10万人のユニークな個人の画像でのみ訓練されていました。その後、テクノロジーを使用して同じ画像の変形を生成しただけです。

ここで『訓練データ』の意味を理解する必要があります。AIモデルはデータを食べて成長します。顔認識AIが様々な人種と性別の顔を正確に認識するためには、様々な人種と性別の顔データで訓練される必要があります。もし訓練データが特定の人種に偏っていれば、AIはその人種の顔はよく認識しますが、他の人種の顔はしばしば誤認します。これが『アルゴリズム偏見』の基本原理です。

FTCはインテリビジョンのアルゴリズムを客観的に検証するため、国立標準技術研究所(NIST)の公開データを活用しました。結果は会社の主張と異なっていました。インテリビジョンのアルゴリズムは「トップ100の最高性能アルゴリズムに入っていませんでした。」また人口統計グループごとの偏見テストも適切に実施されていませんでした。

同社はそのアンチスプーフィング(anti-spoofing)技術についても主張していました。システムは写真やビデオ画像に欺かれないということでした。これも適切な証拠がありませんでした。

2025年1月8日、FTCはインテリビジョンに対する20年の行政命令を確定しました。委員会は5対0の満場一致で承認しました。公開意見募集期間中に受け取られた意見は1件のみでした。命令の核心は2つでした。

第一に、顔認識ソフトウェアの精度と効能、さまざまな性別、民族、肌の色を持つ個人に対する技術の比較パフォーマンスについての虚偽表示を禁止すること。

第二に、今後技術の有効性、正確性、偏見の不在を主張しようとすれば、「適格で信頼できるテスト」を保有し、それに依存しなければならないこと。

消費者保護局のサムエル・レヴィン局長は声明の中で述べました。「偏見のない人工知能システムであると宣伝しようとするなら、その主張を裏付けることができなければなりません。AIシステムを開発・使用する人たちも基本的な詐欺的広告原則から免除されていません。」

この事件はFTCがこの1年間に提起した2番目の主要な顔認識事件でした。2023年12月、FTCは小売業者ライトエイド(Rite Aid)に対し、顔認識技術の悪用について5年間の監視目的での顔認識技術使用禁止命令を出していました。ライトエイド事件では、技術そのものではなく、技術を配置する過程で消費者害を防止するための合理的手続を実装できなかったことが問題でした。

インテリビジョン事件は別の側面の問題を扱っています。技術の実際のパフォーマンスと広告されたパフォーマンスの間のギャップです。「偏見なし」という文言は倫理的主張のように聞こえますが、FTCにとってそれは客観的事実に関する主張です。客観的主張には証拠が必要です。証拠なしに「偏見なし」を主張することは、「100%オーガニック」と表示しながら通常栽培の農産物を販売することと変わりません。

（4）クリック・プロフィット/アセンド・イーコム：AI投資詐欺

「AIがあなたのために稼いでくれます。」これより誘惑的な文句があるでしょうか。クリック・プロフィット(Click Profit)とアセンド・イーコム(Ascend Ecom)はこの文句を武器にしました。

彼らのビジネスモデルはシンプルでした。

消費者が数万ドルを投資すれば、会社がアマゾン、ウォルマート、TikTokのようなプラットフォームにオンラインストアを開設・運営してくれます。消費者は何もする必要がありません。「最先端のAI技術」が利益性の高い製品を自動的に選別し、在庫を管理し、配送まで処理します。

毎月数千ドルの「パッシブインカム(受動的所得)」が口座に入ります。少なくとも広告ではそうでした。

クリック・プロフィットの共同創業者クレイグ・エムスリー(Craig Emslie)はTikTok動画やデジタル広告に頻繁に登場しました。

彼は「株式市場、不動産、貴金属は決してクリック・プロフィット投資で見つかるレベルの安全性を提供できない」と述べていました。同社はナイキ、ディズニー、デル、コルゲート、マーベルといった著名なブランドとの製品ソーシング・パートナーシップを持っていると主張していました。AI スーパーコンピュータ開発に500万ドルを投資したこと、そしてこの技術が「約1億ドルの販売」を創出したと広告していました。

消費者たちは退職金とローンを注ぎ込みました。クリック・プロフィットに参加するには、管理手数料として45,000ドルから75,000ドルが必要でしたが、在庫費用として10,000ドル以上の追加が必要でした。会社は顧客店舗から発生した利益の最大35%を取得していました。

FTCの訴状には、ある匿名の消費者の物語が含まれています。彼は「一生の貯蓄」をクリック・プロフィットに投資していました。結果は悲劇的でした。彼はクライアントから削除され、「支払いについて示すものが何もありませんでした。」彼がオンラインに否定的なレビューを投稿すると、エムスリーの弁護士から連絡がありました。

弁護士は彼を訴訟すると脅し、「彼と彼の妻が所有するすべてのものを奪う」と脅迫しました。消費者はレビューを削除し、部分返金を要求しました。エムスリーの返答はこうでした。「失せろ。」

アセンド・イーコムも同様の方法を使用していました。この会社はウィリアム・バスタ(William Basta)とケネス・レン(Kenneth Leung)が運営しており、2021年から様々な名前で活動していました。

アセンド・イーコム、アセンド・イーコマース、アセンド・キャピベンチャーズ、ACV・パートナーズなど。彼らは「最先端」のAIツールが消費者たちが急速に月間数千ドルの収入を得るのを可能にすると約束していました。「独占的ソフトウェアと人工知能で顧客のビジネス成功を最大化する」ということでした。

FTCによると、クリック・プロフィットによる消費者被害は最低1,400万ドルでした。アセンド・イーコムの被害規模は最低2,500万ドルと推定されています。

アマゾンはクリック・プロフィットが作成したストアの約95%をプラットフォーム販売者ポリシー違反で停止またはクローズしました。アマゾン手数料を差し引いた後、クリック・プロフィット・ストアの20%以上はまったく収益を上げず、3分の1は総販売額が2,500ドル未満でした。

2024年9月、FTCはアセンド・イーコムを訴訟しました。2025年3月、クリック・プロフィットに対する訴訟が続きました。連邦裁判所は彼らの資産を凍結し、事業運営を一時停止させました。

2025年6月、アセンド・イーコムの運営者たちはビジネス機会販売から永久に除外され、FTCに資産を譲渡することに合意しました。2025年8月、クリック・プロフィットの運営者たちも同じ運命に直面しました。クレイグ・エムスリー、パトリック・マクジオホガン(Patrick McGeoghean)らに対する金銭判決額は1,360万ドルでした。ジェイソン・マスリ(Jason Masri)に対しては730万ドルの判決が下されました。これらの事件が示すパターンがあります。AIは囮でした。「人工知能」という3つの単語が投資募集の信頼性を高めるツールとして使用されたのです。実際には「広く宣伝されたAI技術とブランドパートナーシップは存在せず、約束された利益は実現しない」というのがFTCの結論でした。

これは新しい現象ではありません。1990年代のドットコムバブル時代には、会社名に「.com」が付けば投資を受けることができました。2024年には「AI」が同じ役割を果たしています。技術が複雑なほど、人々は検証するより信じたいと考えます。

これを悪用する者たちがいます。FTCのクリストファー・ムファリージ局長は声明で述べました。「クリック・プロフィットは最先端のAI技術と独占的ブランドパートナーシップを使用して、保証されたパッシブインカムを虚偽で約束することにより、消費者を誤導しました。」

三。偽のレビューを書いたAI（Rytr LLC事件）

（1）AI レビュー生成と消費者保護

オンラインショッピングをするとき、私たちはレビューを見ます。他の購入者が残した星評価と感想が購入決定に影響を与えます。

「この製品本当にいいです。1週間使ったら効果を感じました。」このような文を見ると信頼が生まれます。レビューはなじみのない製品についての『口コミの地図』のようなものです。私たちはこの地図を信じて道を決めます。

しかし、その地図が改ざんされていたとしたらどうでしょう。

ライター（Rytr LLC）は、ユーザーがキーワードを入力するだけで、さまざまなテキストを自動生成するAI執筆ツールでした。ブログ記事、メール、マーケティング文言、ソーシャルメディア投稿。その中に「テスティモニアル＆レビュー（Testimonial & Review）」機能がありました。製品名と星の数、簡単なキーワードを入力すると、AIはあたかも実際の購入者が書いたかのような生き生きとしたレビューを作成しました。

「脱毛シャンプー、星5個」と入力するとこのような文が出てきました。

「1週間使ってみたら、髪が抜けるのが減るのを感じました。強く推奨します！」もちろん、AIはそのシャンプーを使ったことがありません。AIには髪もありません。このレビューは純粋な虚構です。

FTCの2024年9月の訴状によれば、ライターのサービスが生成したレビューは「ユーザー入力と無関係の具体的で、しばしば重要な詳細」を含んでいました。これらのレビューは「オンラインにコピーして投稿するユーザーにとってほぼ確実に虚偽」でした。FTCは、ライターの一部の購読者がこのサービスを使用して「数百個、場合によっては数万個の潜在的に虚偽情報を含むレビュー」を生産したと主張しました。

ここで「手段と道具の提供（means and instrumentalities）」という法律用語が登場します。これを日常の比喩で説明するとこうです。銃を撃った人だけが犯人ではありません。犯罪に使用されることを知りながら銃を製造して販売した人も責任がある可能性があります。FTCは、ライターが直接偽のレビューを投稿していなかったとしても、消費者が簡単に詐欺を行える道具を提供すること自体が違法だと判断しました。

FTCの論理はさらに進みました。訴状は、ライターのレビュー生成サービスが「合法的な使用がまったくないか、ごくわずかであり」「その唯一の用途は購読者が消費者を欺くため偽のレビューを投稿するのを容易にすること」だと主張しました。

2024年12月、FTCはライターに対する最終命令を確定しました。命令の核心は2つでした。

第1に、今後同様の違法行為に関与することの禁止。

第2に、20年間、消費者レビューまたは推奨文の生成を専門とするか、それとして宣伝されるサービスを広告、宣伝、マーケティング、または販売することの禁止。

この合意は生成型AI開発者たちに警告灯を灯しました。

「あなたが作ったAIが悪いことに使われやすいように設計されているなら、あなたも共犯者だ。」技術の「中立性」という防壁が破られたように見えました。テキスト生成AIは本質的に「もっともらしい文」を作る道具です。それが小説創作に使われれば芸術になり、偽のレビューに使われれば詐欺になります。開発者がこのすべての用途をコントロールできるのでしょうか。

しかし、この事件はここで終わりませんでした。FTC内部で激しい論争が繰り広げられたのです。

（2）FTC委員の意見分析と今後の方向

2024年9月、ライターに対する訴状と提案された行政命令を承認するFTC投票は3対2でした。メリッサ・ホリヨーク（Melissa Holyoak）委員とアンドリュー・ファーガソン（Andrew Ferguson）委員が反対票を投じました。2人は共和党側委員でした。

ファーガソン委員の反対意見書は辛辣でした。

彼は「ライターの道具は合法的な使用と違法な使用の両方に使用できる」と指摘しました。本質的に「欺瞞的」な道具ではないということです。さらに彼は「ライターが自社の道具が欺瞞的に使用されていることを知っていたという主張がない」と強調しました。

彼の核心的な論旨はこれでした。「詐欺に使用される可能性があるという理由だけで、生成型AI道具を一括して違法と扱うことは、我々の先例と常識に反しています。そしてそれは誠実な革新家たちを法律違反者にする脅威があり、潜在的に革命的な技術をゆりかごで窒息させる危険性があります。」

ホリヨーク委員も同様の論調でした。「今日の誤った訴状と第5条の誤った適用は、AI分野における革新を阻害する可能性が高いです。」

この反対意見は単なる法律的な見解の相違ではありませんでした。AI規制の哲学的な分岐点を示すものでした。一方は「潜在的な害と市場汚染の危険だけでも措置を正当化するのに十分である」と考えています。他方は「実際の害の証拠なしに道具そのものを罰すれば、革新が萎縮する」と考えています。

この論争は1年後、劇的な逆転を迎えました。

2025年12月22日、FTCはライターに対する最終同意命令を撤回する決定を下しました。トランプ行政部のAI行動計画を実施した最初の事例でした。委員長となったファーガソンは、自分が反対意見で書いた論理を政策として実装したのです。

新しいFTCの発表文で、クリストファー・ムパリジ局長は言いました。「単に問題になる可能性があるという理由だけで、技術やサービスを非難することは、法と秩序に合致していません。」FTCは「訴状に提示された具体的事実は第5条違反を支持していない」と結論づけました。「法律に対する認識可能な違反に基づかない命令を継続して維持する必要性を想像することができず、したがって消費者を保護していない」ということでした。

ライター事件の逆転は、米国AI規制の今後の方向に関する重要な示唆を投げかけます。

第1に、トランプ行政部の下で、FTCはAI革新の促進を優先し、明確な害の証拠と法的根拠なしには、AI道具提供者に対する執行措置を取る可能性は低いです。

第2に、「手段と道具の提供」法理の適用はより慎重に行われるようになり、道具の潜在的な悪用可能性だけでは執行措置の根拠として不十分であるという立場が強化されるでしょう。

第3に、AI関連の執行措置は、実際の消費者害と欺瞞の具体的証拠を要求する方向に進むと予想されます。

しかし、これが「法のない状態」を意味するわけではありません。ライター撤回後も、FTCはクリックプロフィット、アセンド・イコムのような明白な詐欺行為に対しては強い制裁を続けています。規制の刃先が「技術開発者」から「悪意のある利用者」と「欺瞞的マーケター」に移されただけです。

ライター事件はAI規制のジレンマを象徴的に示しています。詐欺を防ぐために道具そのものを規制するのか、それとも革新のために道具は許可し、悪用のみを処罰するのか。この質問に対する答えは、ホワイトハウスに誰がいるかによって異なる可能性があります。同じ事実関係が、同じ法律条文の下で、全く異なる結論に至ることができます。

これは企業にとって不確実性を意味します。今日合法なものが明日違法になることもでき、今日違法なものが明日合法になることもできます。しかし確実なこともあります。AI技術の性能を誇大広告したり、AIを装って消費者を欺いてお金を奪う行為は、どの行政部でも容認されません。オペレーション・AIコンプライの核心メッセージはそのままです。「AIという言葉がついたからといって、詐欺が革新になるわけではありません。」次の章で大西洋向こう側に視線を向けます。米国が「詐欺師捕捉」に集中する間、欧州連合はより巨大な価値を狙っていました。GDPRとEU AI Actで武装した欧州規制当局は、個人情報と人権を目標に、AI企業と別の種類の戦いを繰り広げています。