「嘘つきが靴を履く間に、真実は地球を半周する」- マーク・トウェイン

1. ディープフェイクとは何か

ベルギーのアーティスト、クリス・ウメが制作したトム・クルーズの映像を初めて見た人々の反応は興味深いものでした。1100万人を超える人々がその映像を見て喜び、かなりの数の人がトム・クルーズが自ら撮影したものだと信じていました。しかし、それは完璧な偽造品でした。深層学習と偽造という2つの言葉が出会って誕生した「ディープフェイク」の傑作だったのです。

クリス・ウメは自分の作品について、「人々を楽しませ、警戒心を高め、どうなるかを示したかった」と述べています。しかし、彼の意図とは異なり、その完璧さが多くの人々に恐怖感をもたらしていました。もしトム・クルーズではなく政治家だったら？もし娯楽ではなく悪意のある目的だったら？

ディープフェイク技術の進化は驚くほど急速です。わずか数年前まで、ハリウッド映画製作陣が数億ウォンを投じて数か月間かけて作業する必要があった特殊効果を、今ではスマートフォンアプリで数分で作成できます。必要なのは数枚の写真と数秒の音声だけです。

初期のころは皆がそれを楽しんでいました。自分の顔を有名な俳優と入れ替えたり、歴史的な人物が現代的な話をするコンテンツがソーシャルメディアを沸き立たせていました。しかし時間とともに状況は変わりました。楽しい遊び道具が恐ろしい武器へと変わり始めたのです。今、ディープフェイクは専門家でさえも本物と偽造品を区別するのが難しいほど精巧になっています。

私たちが生きてきた世界では「見ることが信じることだ」でした。しかし、ディープフェイクはこの古い信念を根底から揺さぶっています。目で見て耳で聞いても、もはや確信を持つことができない時代がやってきたのです。映像と音声、写真までもが疑わしい世界で、私たちは何を信じて生きていくべきなのでしょうか？

2. 偽造映像が大統領を変える

2023年5月、トルコの大統領選挙が終盤に向かっていた時、衝撃的な映像が1つ公開されました。野党候補のケマル・クルダルオウルーがクルド族武装勢力PKKの指導者と一緒にいる姿でした。エルドアン大統領陣営が公開したこの映像は、瞬く間に全国を揺さぶりました。あたかも野党候補が国家を裏切る危険人物のように見えました。

しかし、その映像はディープフェイクでした。綿密に計算された偽造品でした。トルコ国民のナショナリズム感情を刺激して、「あの人に投票すれば国が危険になる」という恐れを植え付けました。操作された映像はソーシャルメディアを通じて稲妻のように広がり、真実を確認する時間もないまま選挙日が近づきました。結局、エルドアンが再選に成功しました。専門家らは、このたった1つの偽造映像が選挙結果を変えるのに決定的な役割を果たしたと分析しています。

さらに巧妙な事例はスロバキアで起きました。2023年9月28日、総選挙投票のわずか2日前という絶妙なタイミングで、野党党首ミカル・シメツカの偽造音声が登場しました。操作された音声で、彼は「ロマ族の票を金で買わなければ選挙で勝つことはできない」と言っているのが聞こえました。

最も悪質だったのはそのタイミングでした。スロバキアは選挙法に基づき、投票の48時間前からすべての選挙関連活動が禁止される「沈黙期間」に入ります。野党党首はこの虚偽情報に反論したり、説明する機会さえありませんでした。有権者は選挙前日まで48時間の間、彼が腐敗した政治家だという虚偽情報に晒され、真実を確認する方法もありませんでした。結局、親ロシア志向の与党が勝利しました。たった1つの偽造音声ファイルが1つの国の政治的運命を変えたのです。

2024年のアメリカ大統領選挙は「ディープフェイク選挙の年」と呼べるものでした。トランプとハリスを巡る多数の偽造映像と音声がソーシャルメディアを占領しました。ロシアのある人物が製作した民主党副大統領候補ティム・ウォルツに関する虚偽映像は、1日でX上で500万回の閲覧を記録し、驚くべき影響力を示しました。専門家らはディープフェイクが選挙を操作する新しい武器になったと警告しました。特に選挙直前に集中的に偽造映像を拡散させると、対立候補が説明する時間さえなく、致命的な打撃を与えることができるという点が問題でした。

韓国も例外ではありません。2024年からは選挙90日前から選挙日までの間、ディープフェイクを利用した選挙運動を禁止する法案が施行されていますが、技術の発展速度が速すぎるため、法律と制度だけではすべてを防ぐことが難しい状況です。ディープフェイクの政治的悪用は、単に1人の候補者が勝つか負けるかという問題を超えています。国民が何が真実かを知ることができなくするという点で、民主主義そのものを脅かしています。すべてが偽造品である可能性があるという不信が広がれば、本当の事実も信じられなくなる「真実の終わり」の時代が来るかもしれません。

3. 銃弾なき戦争、ディープフェイク

2022年3月16日、ウクライナのニュースチャネル「ウクライナ24」がハッキングされました。そして直後に衝撃的な映像が放送されました。ゼレンスキー大統領が画面に現れて「ロシアに降伏しろ」と言っている姿でした。「ウクライナ軍は武器を置いて家族のもとへ戻ろう。この戦争で死ぬことに価値はない」という言葉が彼の口から発せられました。

幸いにもこの映像の品質は粗いものでした。ゼレンスキーの頭が体に比べて大きすぎ、声も普通より低かったため、多くの人々が疑いました。ゼレンスキー大統領は直ちに反論映像をアップロードしました。「ロシア軍が武器を置いて家に帰ることをお勧めするだけだ。私たちは勝利するまで、どんな武器も置くことはない」と断固として述べました。

しかし、この事件が示した可能性は不気味でした。もし、より精巧な偽造映像だったら？ウクライナ軍の士気に致命的な打撃を与えることができたはずです。ロシアはその後も継続的にディープフェイク攻撃を試みました。ゼレンスキーの自殺に関する虚偽報道、アゾフ大隊の内部分裂操作ニュースなど、様々な虚偽情報を引き続き拡散させました。

逆に、プーチン大統領が平和を宣言する偽造映像も何度も製作・配布されました。これらの映像はロシア国民の間に混乱を引き起こし、戦争に対する疑問を持たせることを目的として使用されました。専門家らはウクライナ戦争を「ディープフェイク戦争の始まり」と評価しています。今後の戦争では、実在する武器と同じくらいディープフェイクが重要な役割を果たすだろうと予測しています。

イスラエルとイランの間の軍事的衝突でも同様のことが起きました。BBC検証チームが確認したところでは、偽造映像の上位3つだけで、複数のプラットフォーム上で合計1億回以上の再生数を記録していました。イスラエルのF-35ステルス戦闘機が撃墜されたという映像もありましたが、詳しく見ると、周囲の人の大きさが車両と同じくらいで、砂には戦闘機の墜落痕跡がまったくないなど、AIで操作されたことが明らかでした。しかし、この映像は2110万回も再生され、まるで本当の戦闘場面であるかのように受け入れられました。

親イスラエル傾向のアカウントも虚偽情報を拡散させました。イランの首都テヘランの市民が「私たちはイスラエルを愛している」と言いながらデモしている偽造映像を作り、あたかもイラン内部で反政府デモが起きているかのように操作しました。

ロシアは海外影響力作戦に年間15億ドル（約2兆1000億ウォン相当）を投資しており、このうち相当部分がディープフェイクを使用した情報操作に使用されています。今や戦争は銃と爆弾だけで戦うものではありません。敵国の士気を低下させ、国際的な世論を操作し、内部分裂を引き起こすディープフェイクが新しい武器となりました。銃弾なき戦争が始まったのです。

4. あなたの家族が電話でお金を要求する時

「お母さん、僕だよ。急な用事ができてお金が必要なんだ」 カナダのある母親が受けた電話は、確かに息子の声でした。息子が事故に遭い、急いで2万1000カナダドルが必要だという切実な声でした。母親は疑うことなくお金を送りました。しかし、後で本当の息子と話をして初めて、すべてが嘘だったことに気づきました。ディープフェイク技術で合成された息子の声に騙されたのです。

さらに衝撃的な事例は香港で起きました。2024年2月、ある多国籍企業の従業員がディープフェイク技術で作られた偽造ビデオ会議に騙され、約34億ウォンの被害を受けました。加害者らは会社の幹部の姿をディープフェイクで完璧に再現し、本物の会議のように騙して、多額の資金移動を指示しました。被害者は画面に映った会話した全員が自分が知る同僚だと確信していました。声も顔も話し方も完璧だったからです。

ディープフェイクの最も苦痛な悪用は、性犯罪の分野で起きています。放送通信審議委員会の資料によると、ディープフェイク性的虚偽映像物に対する是正要請は2020年の473件から2023年の5996件へと12倍以上急増しました。過去には芸能人や著名人を対象とした違法合成物が多かったのですが、最近は一般人、特に学校の友人や職場の同僚など周辺の人々を対象としたディープフェイク性犯罪が大きく増えています。

さらに衝撃的なのは、平凡な未成年者が加害者になるケースが増えているという点です。小学生までが学校の先生の顔を性的な写真に合成して、友人たちと回し見る事例が発生しています。子どもたちはこれを単なる遊びと見なしていますが、被害者には取り返しのつかない傷を残します。

ある被害者はこう証言しました。「外での活動ができませんでした。家に引きこもって暮らしていたような気がします。人と話をすること自体が本当に嫌だったからです」。多くの被害者が対人恐怖症に悩まされ、仕事を辞めたり学校に行けなくなるなど、正常な社会生活が不可能になります。

投資詐欺でもディープフェイクが活発に悪用されています。イーロン・マスク、孫石熙前JTBC会長など信頼される人物の顔と声を盗用して、偽造投資商品を宣伝する詐欺が横行しています。シンガポールではリー・シェンルン首相がイーロン・マスクが主催する投資プラットフォームを宣伝し、暗号資産投資を勧めるディープフェイク映像が作成され、多くの市民が詐欺被害を受けました。

アメリカのポップスター、テイラー・スウィフトの名前を悪用した投資詐欺も発生しました。ディープフェイクで作られたテイラー・スウィフトが特定の投資商品を推奨する映像がソーシャルメディアを通じて広がり、ファンたちが多額の被害を受けました。これらの詐欺の特徴は、被害者が普段から信頼していた人物が直接推奨していると信じさせるという点です。どんなに注意深い人でも、自分が好きで信頼する著名人が直接現れて投資を勧めれば、簡単に騙されます。

SNSに投稿した音声を含む投稿を学習して、その人の声を完璧に模倣する技術が発展するにつれて、わずか数秒の音声さえあれば、精巧な偽造音声を生成できるようになりました。私たちが無意識にアップロードした動画や音声メッセージが、いつでも犯罪に悪用される可能性のある時代がやってきたのです。

5. 信頼の崩壊、信じられない社会

ベストセラー『サピエンス』の著者ユヴァル・ノア・ハラリはディープフェイク時代について深い懸念を表明してきました。彼は「画面で見るもの、写真であれ映像であれオーディオであれ、もはや信じられなくなった」と述べ、これを「真実の終わりの時代」と表現しました。何らかの機関や権威が保証する必要があるが、社会はこれに対する備えができていないと指摘しました。

ディープフェイクの最も深刻な問題は、人々が何が真実かを知ることができなくするということです。過去には「見ることが信じることだ」でしたが、今では目で見て耳で聞いても、本当なのか偽造なのか確信することができなくなりました。このような状況を「Liar's Dividend（嘘つきの配当）」と呼びます。ディープフェイク技術が発展するほど、嘘つきが得る利益が大きくなるという意味です。本当の証拠が出ても「それもディープフェイクかもしれない」と否定することができるようになったからです。

グーグルXの前CEO、モ・ガウダットはAIがソーシャルメディアを通じてコンテンツを操作し、エコーチェンバーを形成して、人々を極端な見方へ導く可能性があると警告しました。エコーチェンバーとは、自分と似た考えを持つ人々だけと交流し、同じ意見しか聞き続けない現象を指します。AIアルゴリズムはユーザーの過去の関心事とクリックパターンを分析して、似たようなコンテンツだけを常に推奨します。ここにディープフェイクが加わることで、人々は見たい内容だけを選んで見るようになり、それが偽造品であるという事実すら知りにくくなります。

ある政治家を嫌う人には、その政治家が悪いことをしているディープフェイク映像が継続的に推奨され、その人はそのような映像が本物だと信じるようになります。逆に、その政治家が好きな人には、良い姿だけを見せるコンテンツが推奨されます。このような現象は社会を極端に分裂させます。同じ出来事について、全く異なる内容のコンテンツにアクセスした人々が異なる結論に達し、コミュニケーションと妥協が不可能になります。民主主義の基本である合理的な議論と妥協が消失するのです。

ディープフェイクの拡散はメディアに対する信頼も低下させています。人々がニュースを疑い始めると同時に、本物のメディアの役割も弱くなっています。ディープフェイク技術を使って偽造ニュースを大量に生産し、同時に「すべてのニュースが偽造である可能性がある」という不信を拡散させて、本物のメディアの信頼性さえも低下させています。事実確認と検証がさらに重要になっていますが、ディープフェイク技術の発展速度が速すぎて、メディア企業も対応するのが困難な状況です。

法廷でも深刻な問題が生じています。映像や音声証拠が提出されても、それがディープフェイクで操作されたものであるかを簡単に判断するのが難しくなりました。これは司法制度の根本を揺さぶることができる深刻な問題です。表現の自由と規制のバランスも難しい問題です。ディープフェイクを厳しく規制すると、合法的な芸術活動やパロディさえも制限される可能性があり、緩く規制すると被害が増え続ける可能性があります。

「AIの父」と呼ばれるディープラーニングの創始者、ジェフリー・ヒントンはAI技術の危険性について継続的に警告してきました。ディープフェイクを含むAI技術の悪用を防ぐための国際的協力の重要性を強調しています。ディープフェイクはインターネットを通じて世界中に瞬く間に広がるため、1つの国の努力だけでは解決するのが難しいです。しかし、各国の法律と文化が異なるため、統一された対応策を作成することは容易ではありません。

技術的対策も開発されていますが、根本的な限界があります。ディープフェイクを作成する技術とそれを検出する技術の間には、終わりのない「鬼ごっこ」が繰り広げられています。新しいディープフェイク検出技術が登場すると、すぐにそれを回避するより巧妙な生成技術が開発されます。科学学術誌『Nature』によると、既知のディープフェイク生成器に対する検出成功率は高いのですが、新しい生成器に対する検出率は相対的に低いとされています。