2024年のある火曜日の朝、カナダ・バンクーバーのあるエアラインの経営幹部がコーヒーを飲んでいた時、むせてしまいました。ブリティッシュコロンビア民事紛争解決仲裁院がエア・カナダに812ドルの賠償を命じる判断を下したからです。金額は小さかったです。しかし、その判断が含んでいるメッセージは数十億ドルの重みを持っていました。仲裁官クリストファー・リバースはこう記しました。「チャットボットが対話的要素を備えていたとしても、それはなおもエア・カナダのウェブサイトの一部に過ぎません。エア・カナダが自社のウェブサイトのすべての情報に責任を負うということは自明です。」

エア・カナダの弁護士たちは、とんでもない論理を展開しました。チャットボットは「独立した法的実体」であるため、会社が責任を負わないというものでした。仲裁官はこれを「驚くべき主張」として退けました。その瞬間、世界中の企業の法務部門の事務室では電話のベルが鳴り始めました。「われわれのチャットボットは今、どんなことを言っているのか？」

このチェックリストは、その混乱した火曜日の朝を迎えないための生存ガイドです。これは単なる「やることリスト」ではありません。これはAIという、われわれが作った最も賢い存在であると同時に、最も統制しがたい存在を、企業という垣根の内側に迎え入れるときに、必ず通過しなければならない安全保障の設計図なのです。

AIモデル開発段階別法的チェックリスト

2025年6月23日、カリフォルニア北部連邦地方裁判所。ウィリアム・アルスープ判事が椅子に身を沈めました。彼の前には、作家たちとアンスロピック間の著作権訴訟の書類が山積みになっていました。アンスロピックは数百万冊の書籍を学習させてClaudeを開発しました。一部は合法的に購入していましたが、一部はインターネットの海賊サイトからダウンロードしていました。判事はペンを手に取りました。「合法的に取得した著作物でAIモデルを学習させることは公正利用である。変形性が極めて高い。」しかし次の文が問題でした。「違法複製品を使用したことは異なる分析を要する。」

すべての災厄は、極めて小さな判断から始まります。2023年のオープンソースコミュニティで「とりあえず使ってしまっても大丈夫だろう」と考えた開発者のクリック一つが、2025年の数千億円規模の訴訟となって戻ってくるのです。モデル開発段階は、建物の基礎を築くことと同じです。基礎が汚染されたら、建物は必ず崩壊します。

第一の関門はAIシステムのリスク等級分類です。皆さんが開発しようとしているAIが何をするかによって、適用される規制が完全に異なります。EU AI法は2025年8月2日から汎用AIモデルに対する義務を施行しました。高リスクAIを開発するなら、皆さんは売上の最大7パーセントを罰金として納める覚悟をする必要があります。金額で換算すれば最大3,500万ユーロです。高リスクAIとは何か。簡潔に言えば、人間の人生を変える決定を下すAIです。採用、融資、医療診断、保険審査、入学審査。こうした領域で機能するAIはすべて高リスクに分類されます。コロラド州のAI法も同じ論理に従っています。2026年6月30日から施行されるこの法律は「重大な決定」を下すAIに合理的注意義務を課します。違反時には一件につき2万ドルの過料が科されます。

開発チームに問うべき質問があります。われわれが開発するAIは、誰かの就職、融資、医療、住居に影響を与えるか。もしそうなら、皆さんは高リスクAIを開発しているのです。そうでないなら、少し安心できます。しかし安心してはいけません。低リスクであるからといって、規制がないわけではないからです。

第二の関門はモデルの出所とライセンスの確認です。オープンソースという言葉に騙されてはいけません。オープンソースであるからといって、すべてが無料ではありません。Apache 2.0ライセンスか、商用利用が禁止されたCreative Commonsライセンスか確認する必要があります。もし「研究用」として配布されたモデルを使って有料サービスを開発するなら、皆さんはみずから時限爆弾のタイマーを押したに等しいです。GitHub Copilotの訴訟が良い例です。この訴訟はオープンソースコードのライセンス情報を削除して学習に使ったことが問題になりました。2025年12月現在、この訴訟はまだ進行中です。

外部APIを使っているなら、状況はさらに複雑になります。OpenAI、Anthropic、Googleの APIを利用するとき、契約書を隅々まで読みましたか。データ処理権、秘密保護、二次学習禁止条項が明記されていますか。「提供者がすべての責任を負う」という包括的免責は、実務ではしばしば認められにくいのです。実際に損害が発生すれば、配布者である皆さんも責任を負う可能性があります。

第三の関門はアルゴリズムバイアステストです。Workday訴訟を思い出してください。黒人、障害者、40歳以上の応募者を体系的に篩い分けていないか。開発段階で意図的にモデルに攻撃を加え、バイアスを暴露するよう仕向けなければなりません。レッドチームと呼ばれるこのプロセスは選択肢ではなく必須です。今、内部で発見するバイアスは「バグ」ですが、後で法廷で発見されるバイアスは「差別」です。差別は罰金では終わりません。集団訴訟に発展します。

第四の関門は説明可能性の確保です。ブラックボックスAIは法廷で脆弱です。Signa and United Health の医療保険拒否事件では、AIの不透明な却下理由が集団訴訟の中核的な根拠となりました。皆さんのAIが特定の結論に至った理由を事後的に説明できる技術的アーキテクチャを備えていますか。EU AI法は高リスクAIに対して技術文書とログ保管を「市場出始前に作成」として明記しています。「後で作成すれば遅い」という警告です。

最後に、ファンデーションモデルの透明性を検証しなければなりません。皆さんがMicrosoftやGoogleのAPIを使っているなら、責任の一部を彼らに転嫁できます。しかし自社で大規模言語モデルをファインチューニングするなら話は変わります。皆さんのモデルが学習した基本データに、児童性的虐待画像またはテロ計画情報が含まれていないことを保証できますか。2023年のStanford研究チームはLAION-5Bデータセットから児童性的虐待画像を発見しました。このデータセットは多数の画像生成AIの学習に使用されました。

データ収集および管理チェックリスト

2023年12月27日、ニューヨーク・タイムズの弁護士たちは69ページの訴状を連邦裁判所に提出しました。そこには奇異な証拠が含まれていました。ニューヨーク・タイムズの記事とChatGPTが生成したテキストを並べたものでした。両者のテキストはほぼ同一でした。単語一つ、コンマ一つまで。弁護士たちはこれを「逆流」と呼びました。AIが学習した内容をそのまま吐き出す現象。彼らの主張は単純でした。皆さんはわれわれの記事をコピーした。それも数百万個も。

データはAIの食料です。しかし腐った食べ物を摂取すれば体調を崩すように、汚染されたデータを学習させるとAIは幻覚を起こすか、訴訟を招きます。

第一の点検項目は学習データの適法な取得の有無です。「インターネットに公開された情報だから使っても良い」という言葉は2022年までしか通用しない言い訳です。2025年2月11日、デラウェア連邦地方裁判所のステファノス・ビバス判事は、Thompson Reuters対Ross Intelligence事件で公正利用の抗弁を却下しました。Rossはwestlawの著作権がある見出し注釈を学習に使用していました。判事はこれが著作権侵害であると判決しました。

ウェブクローリングを行う際にrobots.txt規約を守りましたか。有料購読の背後にあるコンテンツを迂回して取得していないか。データブローカーから購入したのなら、そのブローカーはデータを合法的に取得しましたか。この質問に答えられないなら、データを廃棄する方が安全です。Anthropic事件ではAlsop判事は明確にしました。合法的に取得した書籍で学習させることは公正利用だが、海賊版を使ったことは「異なる分析を要する」と。

第二の点検項目は個人情報および生体情報の包含の有無です。Clearview AI の事例を思い出してください。この企業はインターネットにある人々の顔写真をかき集めて顔認識データベースを構築しました。結果は悲劇的でした。オランダで3,050万ユーロ、英国で755万ポンド、フランスで2,000万ユーロ、イタリアで2,000万ユーロの罰金を支払いました。米国ではイリノイ州生体情報プライバシー法（BIPA）違反で集団訴訟に直面しました。

皆さんのデータセットに名前、住所、電話番号、または人間の顔写真が含まれていますか。もしそうなら「情報主体の同意」を得ましたか。そうでなければ、皆さんはGDPRまたはBIPA違反で会社の扉を閉じることになるかもしれません。イタリアのデータ保護当局はChatGPTがGDPR上の削除権を技術的に保証していないと指摘し、サービスを一時停止したことがあります。

第三の点検項目はデータ浄化と著作権ラベルの管理です。中国市場への進出を計画しているなら、学習データに「体制転覆的内容」が含まれていないか確認する必要があります。西欧圏では著作権者が自らのコンテンツが学習に使用されることを拒否したかどうか確認する必要があります。2025年8月2日から施行されたEU AI法は汎用AIモデル提供者に学習データの要約開示を義務付けました。データ出所、ライセンス状態、個人情報の包含有無、合成データ使用有無を文書化しなければなりません。

学習データにラベルを付けて管理しなければ、後で問題が発生したデータだけを選んで削除する「アンラーニング」は技術的にほぼ不可能です。データ系統を残して、後で特定の出力がどのデータ群に由来するのか説明可能なレベルまで追跡できるようにする必要があります。

第四の点検項目は入力データの機密性維持です。従業員が社内の機密文書をチャットボットに入力して要約してもらうよう指示していないか。2023年のSamsung電子のエンジニアがChatGPTに機密コードを入力した事件を思い出してください。その情報がOpenAIのサーバーに保存されました。入力されたデータがモデル学習に再利用されないように設定したか、エンタープライズグレードのセキュリティ契約を結んだか確認する必要があります。

最後に、データ品質とバイアスを検証しなければなりません。Googleの皮膚科AI アプリは、肌が濃い色の患者についてのデータ不足により、バイアス論争を招きました。データが特定の人種、性別、地域に傾いていないで、多様性を反映していますか。不均衡が著しい場合は、サンプリング調整、合成データの補強、監視指標の導入が必要です。

配布前法的検討項目

2024年2月14日、ジェイク・モペットという人物がエア・カナダに勝ちました。彼の祖母が亡くなり、彼は葬儀に参列するために飛行機のチケットを予約する必要がありました。エア・カナダのウェブサイトのチャットボットは彼に言いました。「通常料金で予約した後、90日以内に死別割引を申請すれば良い。」モペットはその言葉を信じました。しかしそれは嘘でした。エア・カナダの実際のポリシーは事後申請を認めていませんでした。

エア・カナダは異議を唱えました。チャットボットが言ったことについて会社は責任を持たないと。チャットボットは「独立した法的実体」だと。仲裁官は言い返しました。「エア・カナダが自社ウェブサイトのすべての情報に責任を負うということは自明です。情報が静的ページから生じたか、チャットボットから生じたか、その違いはありません。」

モデルを開発し、データも清潔だとしましょう。今度は世界に発表する番です。しかし最後の関門が残っています。このAIが起こす事故について誰が、どのように責任を負うかを定める仕事です。

第一の検討項目は利用規約および免責条項の具体化です。「AIが吐き出した言葉は事実ではない可能性があります」という一行では不十分です。エア・カナダ事件で見たように、法廷はAIを会社の代理人と見なします。AIが提供する情報の限界、意思決定の拘束力の有無、ユーザーがAI生成物を活用する際の責任所在を利用規約に明記する必要があります。しかし覚えておいてください。どんなに良い利用規約を書いても、消費者を騙したなら無意味です。米国FTCは「Operation AI Comply」を通じて、DoNotPayの「ロボット弁護士」のような誇大広告企業を集中的に取り締まっています。

第二の検討項目はAI生成物の表示義務です。ディープフェイク性的虐待材料または偽ニュースによる訴訟を避けたいなら、このコンテンツがAIで作られたことを明確に告知する必要があります。カリフォルニアとEUはすでにこれを義務化しています。中国の生成型AI管理暫定弁法もAI生成コンテンツについて「著しく識別できる表識」を要求しています。ウォーターマーク技術を適用しましたか。C2PA標準に基づくメタデータを挿入しましたか。ユーザーがこれを任意に削除できないようにしましたか。

第三の検討項目は説明可能性および異議申し立て手続です。皆さんのAIが誰かの融資を拒否したり、採用試験に落としたりしたなら、その人は「なぜ」と問う権利があります。コロラド州のAI法はこれについての説明を要求しています。AIの判断根拠を説明できるレポート機能がありますか。AIの決定に対して人間のオペレーターに再検討を求めるボタンがありますか。「人間介入システム」は法的安全装置です。GDPR第22条は自動化された意思決定に対する拒否権を情報主体に付与しています。

第四の検討項目は幻覚防止および監視システムです。AIは呼吸するようにして嘘をつきます。問題はその嘘が極めてもっともらしいことです。研究によれば、統制された環境でさえ、AIチャットボットは3パーセントから27パーセントの確率で幻覚を起こします。Mata対Avianca事件ではニューヨークの弁護士Stephen Schwartz がChatGPTが作り出した架空の判例を法廷に提出して懲戒を受けました。配布前に検索拡張生成（RAG）技術などを通じて事実関係検証手順を踏みましたか。発表後も、AIが吐き出す有害または誤った情報をリアルタイムで監視および遮断できるコントロールセンターがありますか。第五の検討項目は第三者権利侵害監視です。Taylor Swift のディープフェイク事態またはxAIのGrokが作成した非同意性的画像の論争は、プラットフォーム企業の過失フィルタリング義務に対する法的、社会的非難を招きました。有名なキャラクター、商標、肖像権侵害の可能性があるキーワード入力時に生成を拒否または変形するフィルタリングが正常に機能していますか。著作権者または被害者が権利侵害を報告できる利用しやすい窓口を設置しましたか。報告を受け付けた際、即刻掲載中止および検討手続が内部マニュアルとして確立されていますか。

最後に、責任所在とガバナンス体制を明確にする必要があります。AI倫理および法的リスクを専任で監視し、事故発生時に「キルスイッチ」を作動させる権限を持つ組織がありますか。ISO/IEC 42001が「AI経営システム」を要求する理由は、企業がAIを開発または使用する全プロセスにおいて、方針と責任、手順と改善をシステムとして固定するという趣旨です。AI責任保険に加入したか、または準備金が確保されていますか。

このチェックリストの項目一つ一つは、誰かが涙を流して得た教訓です。皆さんの企業が次の章の「被告」として登場しないことを願っています。革新は重要です。しかし法廷で勝つよりも良いことは、そもそも法廷に行く必要がない状態を作ることです。エピローグ：まだ名前の付いていない時代2024年1月、ネバダ砂漠のある手術室で医師たちが頭骨に穴を開けていました。患者は29歳の四肢麻痺の若者Noland Arbodesだったのです。8年前のダイビング事故で肩より下のすべての感覚を失った彼でした。医師たちが挿入したのは、コイン大のチップでした。1,024本の電極が付いたNeuralink の最初の人間用インプラント。

手術から数週間が経ちました。Arbodesは思うだけでコンピュータのカーソルを動かしました。チェスをしました。マリオ・カートをプレイしました。彼はインタビューで言いました。「最初は、カーソルを動かそうと手を動かすことを想像していました。今は、カーソルがあそこに行けと思うだけです。手という概念そのものが消えてしまいました。」

この文に含まれた含意を考えるべきです。手という概念が消えた。人間が数百万年にわたってツールを使ってきた方式、意志と行動の間に必ず存在していた身体という仲介が消え始めたのです。

この書はAIが引き起こした法的紛争を扱いました。著作権、差別、プライバシー、安全。これらすべての紛争の底流には一つの質問がありました。機械が人間の領域に入ってきたとき、既存のルールはなお有効か。

法廷はこの質問に答えようとしました。判事たちは19世紀に作られた著作権法を21世紀の言語モデルに適用しました。1960年代の公民権法をアルゴリズム差別に当てはめました。時には合致し、時には外れました。ニューヨーク・タイムズ対OpenAI訴訟の判事は、「公正利用」という古い概念を数百万件のデータ学習に適用しなければなりませんでした。それはちょうど、馬車時代の交通法規で自動運転車を規制しようとするのと似ていました。

しかし法廷の混乱は、より大きな混乱の影に過ぎません。われわれが目撃しているのは法律制度の危機ではありません。文明そのものの再定義です。

人類の歴史でこのような瞬間は何度もありませんでした。

火の発見。農業革命。印刷術。産業革命。それぞれの瞬間に人類は新しい能力を得て、その能力は既存のすべてを揺さぶりました。農業は定住生活をもたらし、定住は都市を作り、都市は国家を誕生させました。印刷術は知識の独占を壊し、宗教改革と科学革命をもたらしました。産業革命は労働の意味を変え、資本主義と社会主義という対立する哲学をもたらしました。

AIはこの系統の次の章です。しかし一つ異なる点があります。速度です。農業革命は数千年かけて広がりました。産業革命は数百年かかりました。AIは数年で全てを変えています。2022年11月にChatGPTが発表されました。2年後、われわれはAIが記事を書き、コードを作成し、医療診断を下し、法的助言をする世界に生きています。

法はこの速度に追いつきません。それがこの書に含まれるすべての紛争の本質です。技術は指数関数的に発展し、法は算術級に対応します。その間隙で被害が発生し、訴訟が提起され、判事たちが思案します。

より根本的な問題があります。われわれには、この新しい現実を説明する哲学がないのです。

著作権法は「創作者」という概念に基づいています。しかし創作者が何かについて、もはやわれわれは確信していません。AIが絵を描くとき、創作者はAIですか、AIを開発した企業ですか、プロンプトを入力したユーザーですか、それともAIが学習した数百万の作品の元の著作者たちですか。米国の法廷と中国の法廷は異なる答えを出しました。その違いは法律解釈の相違ではありません。創作とは何かについての哲学的前提の相違です。

雇用差別法は「意図」という概念に基づいています。誰かを差別しようとする意図があったのか。しかし、アルゴリズムにとって意図とは何か。Workdayの採用システムは黒人の応募者を差別しようとする意図を持っていませんでした。それは過去のデータのパターンを学習しただけです。そのパターンに歴史的差別が組み込まれていたとすれば、それは誰の責任か。アルゴリズムの責任か、アルゴリズムを作った企業の責任か、差別的なデータを生産した社会全体の責任か。

プライバシー法は「個人」という概念に基づいています。私の顔、私の声、私のデータは私のものです。しかし、AIが数百万個の顔を学習して作成した合成顔は誰のものか。特定の個人の顔でもなく、すべての人の顔でもある画像。我々の法律はこのような存在を想像したことがありません。

ニューラルリンクのノーランド・アボに戻りましょう。彼は思考だけで機械を操作します。今ではコンピュータのカーソルです。10年後には何になるでしょうか。ロボットアーム。外骨格。もしかしたら他の人の体。

イーロン・マスクはニューラルリンクの究極の目標が「人間とAIの共生」だと述べました。人間の脳をAIに直接接続すること。思考の速度で情報をやり取ること。彼が正しかろうが間違っていようが、この方向に技術が発展しているという事実は否定しがたいです。この時、人間とは何か。脳にチップを埋め込んだ人は人間か、サイボーグか、それともまったく新しい何か。彼の思考は純粋に彼のものか、それともAIが補助したものか。彼がAIの助けで思いついたアイデアの著作権は誰に属するのか。彼がAIの提案に従って下した決定の責任は誰が負うのか。

これらの質問に答える哲学が私たちには不足しています。

産業革命以降、人類は資本主義と社会主義という二つの巨大な哲学体系を発展させました。これらの体系は「労働とは何か」「所有とは何か」「正義の分配とは何か」という質問に対する答えでした。異なる答えでしたが、少なくとも質問は共有していました。

AI時代には質問そのものが変わります。労働とは何かではなく、人間だけができることは何か。所有とは何かではなく、思考の所有権とは何か。正義の分配とは何かではなく、人間と機械の間の正義の関係とは何か。

これらの新しい質問に答えるには新しい哲学が必要です。カントが啓蒙主義のために、マルクスが産業社会のために、ロールズが福祉国家のために提供したように。誰かがAI時代の哲学的基礎を置かなければなりません。それが個人か集団か、西洋から来るか東洋から来るか、人間が作るか、それともアイロニカルにもAIが助けるか、まだ分かりません。

この書籍に登場した判事、弁護士、被害者、経営者たちは、みなこの巨大な転換期の最初の世代です。彼らは完全でない道具で完全でない問題に対応しています。時には正しい決定を下し、時には間違った決定を下します。しかし、彼らの試みそのものが新しい哲学の材料になります。

ニューヨーク・タイムズ対OpenAI判決がどのようになろうとも、それは「AI学習は著作権を侵害するのか」という質問に対する一つの答えになります。Workday判決がどのようになろうとも、それは「アルゴリズム差別の責任は誰にあるのか」という質問に対する一つの答えになります。これらの答えが積み重なってパターンになり、パターンが積み重なって原則になり、原則が積み重なって哲学になります。

私たちはその哲学が完成される前に生きています。混乱しており、不確実で、時には不公正です。しかし、それがすべての文明の始まりでした。規則が作られる前の時期。既存の秩序が崩れ落ち、新しい秩序がまだ確立されていない時期。この書籍のタイトルが『法の戦争』である理由です。戦争は破壊であると同時に創造です。

2025年1月、ノーランド・アボはYouTubeでニューラルリンクチップを使って文書を作成し、ビデオゲームをしている様子を公開しました。8時間連続で。彼は言いました。「これは始まりに過ぎないんです。」

彼の言葉は正しいです。これは始まりに過ぎません。次に何が来るのか、そしてそれを何と呼ぶのか、まだ誰も知りません。

2026. 1. 25.

金京鎮弁護士『人工知能AI、法廷に立つ』

電子書籍発行|2026年2月5日著者|金京鎮発行者|金京鎮発行所|金京鎮弁護士出版社出版社登録|2025. 3. 10. (第2025-000015号)

住所|ソウル特別市東大門区全農路91、ペクイルビル304号電話|02-6338-1905メール|kimkj008@gmail.comISBN|979-11-24360-02-6© 金京鎮2026本書は著作者の知的財産として、無断転載・複製を禁じます。

参考）この書籍内の写真・画像・グラフは人工知能を活用して生成されました。本文の内容の一部も人工知能の協力を得て作成されました。