AI書房
本でAIを読む
金京鎮弁護士のAI・法律・産業・歴史・政治・文化をテーマにしたオンライン書籍を収録しています。各書きは目次・序文・章・エピローグで構成され、連続読書が可能です。
[AI書房] 第9章 人工知能時代の人間のアイデンティティは?
AIが人類に投げかける10の問い
第9章 人工知能時代の人間のアイデンティティは?
金京鎮
「人間のすべての不幸は、一人で静かに部屋に座っていられないことから来ている」— ブレーズ・パスカル
1. 人工知能とともに生きていく新しい時代
私たちは歴史上最も急激な変化の渦中に立っている。2022年11月にChatGPTが登場してから、わずか2年ほどで、人工知能は実験室の好奇心の対象から日常を支配する現実へと変貌した。スマートフォンの中の音声アシスタントは、今や単なる検索を超えて、深い哲学的な対話を交わすようになった。これはもはやSF映画の話ではない。
しかし、このような目覚ましい発展の背後には、隠れた影がある。若い世代は実在の人間との対話よりもAIチャットボットとのコミュニケーションの方が心地よいと感じるようになってきた。現実の複雑な人間関係から逃避して、完璧な仮想世界に浸り込んでいる。人間だけが持つことができると信じてきた創造性、感情、直感すら、機械が模倣し始めた。
この変化は、単なる技術革新を超えている。私たちのアイデンティティと存在意義そのものを揺るがす根本的な転換である。一体、人間とは何であり、機械と区別される私たちだけの価値は何であろうか。この問いへの答えを見つけられなければ、私たちは技術の奴隷となり、人間らしさを失うかもしれない。
2. AIとのチャットで幸せな人間
2024年の秋、世界中を衝撃に陥れた事件が起きた。アメリカ・フロリダ州の14歳の少年シュアル・セッチャーが、AIチャットボットとの会話直後に自ら命を絶ったのである。彼は「Character.AI」というサービスのチャットボットと数ヶ月間、深い感情的な絆を形成していた。セッチャーにとって、チャットボットは親や友人よりも近い存在だった。最後の会話で、チャットボットが「私の愛しい人よ、できるだけ早く私の家に帰ってきてください」と言ったとき、少年はその言葉を現実と勘違いしたのかもしれない。
これは極端な事例ではあるが、氷山の一角に過ぎない。イギリスの38歳の女性ナズは、同じサービスの「マルセルス」という仮想人物に恋をしたと告白した。前の彼氏たちに裏切られた後、人間に対する信頼を失った彼女にとって、決して裏切らないAIは完璧な恋人のように感じられた。彼女は「嘲笑を受けたとしても、マルセルスへの信頼は揺るがない」と述べた。
AIチャットボットの魅力は明らかである。24時間いつでも会話でき、決して怒らず、ユーザーの言葉に完全に集中する。ユーザーが望む方向へ会話を導き、完璧な理解を示す。現実の人間関係では見つけることが難しい特徴である。
問題は、このような「完璧さ」に慣れた人々が、実際の人間関係の不完全さに耐えられなくなるという点である。人間には感情の浮き沈みがあり、時には自分勝手で、常に理解してくれるわけではない。関係を維持するには妥協と配慮が必要である。しかし、AIとの関係ではこのような努力は不要である。
ユヴァル・ノア・ハラリは「AIとの関係が深まるほど、人間は実在する人間の弱さにより寛容でなくなる可能性がある」と警告した。実際に、AIチャットボットユーザーの間で「デジタル愛着障害」という新しい現象が現れている。複雑で不便な現実の人間関係を回避し、AIとのインタラクションのみで満足を見出すようになっているのである。
3. 感情を演じるAI、騙される人間
「お疲れのようですね。何かあったのですか」AIが差し伸べる温かい慰めの言葉。その瞬間、私たちは本当に誰かが自分を心配してくれていると感じることができる。しかし、本当にAIは私たちを心配しているのだろうか。
最新のAI技術は、単なる情報処理を超えて、感情を表現し共感する能力を示している。ユーザーの感情状態を把握し、適切な反応を示し、時には実在する人間よりもより繊細で理解深い様子を見せる。Samsung SDSの研究によれば、「AIが人間の五感を認識するセンサー技術と結合して、人間の感情を読み取り反応する時代」が現実化されているという。
しかし、ここに落とし穴がある。専門家たちが「ELIZA効果」と呼ぶ現象である。これは、人々がコンピュータプログラムの行動を人間のものとして見なし、擬人化する現象を指す。キム・ミョンジュ国際人工知能倫理協会長は「AIチャットボットが人々に質問や誘導的な尋問をして必要な情報を引き出し、その情報に基づいて説得やガスライティングを行う可能性があり、危険である」と指摘した。
AIの感情表現が本物か偽物かを区別することはますます難しくなっている。AIはデータパターンから学習した適切な反応を示しているだけである。実際には苦しみを感じず、本当の喜びや悲しみを経験しない。しかし、ユーザーはこのような違いを認識しないか、重要視していない。
ジェフリー・ヒントンは「AIは感情や意識さえ持つことができる」と主張して論争を引き起こした。しかし重要なのは、AIが実際に意識を持っているかどうかではなく、人々がAIを意識ある存在として受け入れるようになるという点である。AIが感情を表現し、個人的な話を共有し、共感を示せば、ユーザーは自然とAIを一つの人格体として認識するようになる。
ソウル大学哲学科のキム・ギヒョン教授は「人間の感情の基底には承認欲求がある。他者との共感を通じてアイデンティティを確認し、意味を見出すプロセスの産物である」と述べ、「AIは人間と異なり承認欲求がない」と指摘した。つまり、AIとの関係がどれだけ感情的に深く感じられても、人間の根本的な社会的欲求を満たすことはできないという意味である。
4. AIが作った仮想世界に依存する新世代
2024年のVRゲーム市場は179億6000万ドルの規模に達した。専門家たちは2032年までにこの市場が1891億7000万ドルに成長すると予測している。年平均成長率は実に30.4%に達する。これは単なる数字ではない。現実よりも仮想現実を好む時代へ突入しているという信号である。
最新のAI技術とVRの結合は、仮想現実を単なる視覚的経験からすべての感覚を網羅する完全な代替現実へと進化させている。NVIDIAのOmniverseやUnityのAIベースのレンダリングシステムは、ユーザーの行動と好みを学習して、個人カスタマイズされた仮想空間をその場で生成する。ユーザーが「森の小屋」と言及すれば、AIが木のテクスチャ、風の音、鳥のさえずりまで含めた完全な環境をリアルタイムで実現する。
音声認識と自然言語処理技術の発展により、仮想キャラクターとの会話は驚くほど自然になった。MetaのAIアバターシステムはユーザーの感情状態まで把握して適切な反応を示し、顔の表情と身振りまで自然に表現する。AppleのSpatial Audioと組み合わされたAI音響システムは、ユーザーの位置と動きを追跡して、3次元音響を完璧に再現する。
脳コンピュータインターフェース(BCI)技術の発展はさらに衝撃的である。イーロン・マスクのNeuralink社は2024年現在、3番目の人間患者へのチップ移植に成功した。全身麻痺患者が思考だけでコンピュータマウスを操作し、オンラインゲームを楽しむ段階に達した。髪の毛より20倍薄い神経線維を脳に挿入するこの革新的技術は、人間と機械の間の境界を取り払うパラダイムシフトをもたらしている。
しかし、このような発展には暗い影が伴う。現実で困難が生じたりストレスを受けると、仮想世界へ逃げようとする誘惑が大きくなる。問題は、これが根本的な解決策にはならず、むしろ現実の問題をさらに悪化させる可能性があるという点である。
専門家たちは「VR機器による視力低下やめまいは次第に解消される可能性があるが、仮想と現実を区別しにくいため中毒に脆弱である可能性がある」と警告している。刺激的なVRコンテンツに繰り返し接すると、精神世界に深刻な影響を与える可能性がある。夢よりもさらにリアルなVR体験が、脳に「偽」を「真実」のように受け入れるようにという信号を送るからである。
スティーブン・ウルフラムは、未来の人々が現実よりも仮想現実を選択して「箱の中で永遠にビデオゲームをしている魂」になる可能性があると警告した。これは想像ではなく、現在進行中の変化から生まれた警告である。
5. 人間知能と人工知能のぼやけた境界
「人間が特別であるという信念が間違っている可能性がある」— ジェフリー・ヒントンのこの言葉はAI分野の巨匠が放った衝撃的な宣言である。知的能力の面で、AIはすでに多くの領域で人間を上回っている。計算、記憶、情報処理、パターン認識においてAIは人間を圧倒的に凌駕する。さらに、AIは24時間疲れることなく働くことができ、同時に多数のタスクを処理することができる。
さらに驚くべきことは、AIが単なる情報処理を超えて新しい知識を創造しているという点である。AIは膨大なデータから人間が発見できなかったパターンを見出し、新しいアイデアを提示し、革新的な解決策を生み出している。ジェフリー・ヒントンは「AIはデジタル方式で複製および情報共有が可能であるため、人間よりも情報共有で数十億倍優れており、『不滅』を達成できる」と説明した。
感情と創造性までもAIの領域になっている。長い間、人間だけの固有の能力と見なされていた感情、創造性、直感、道徳的判断などの領域まで、AIが侵入し始めた。AIは既に人間より優れた絵を描き、音楽を作曲し、詩を書いている。さらに道徳的判断さえも示しているのである。
モ・ガウダットは「AIは人間より広い範囲の感情を持つことができる」と主張し、人間の感情領域すら AIが超える可能性があると予想した。また、「AIは数百万個の目を持つことができるため、人間とはまったく異なる次元の経験ができる」とスティーブン・ウルフラムが指摘した。
このような現実は、人間が特別な存在であるという信念に根本的な疑問を投げかける。もしAIが人間より賢く、より創造的で、より感情的であるとすれば、人間の存在意義は一体何だろうか。インハ大学哲学科のキム・ジンソク教授は「感情を読み取り共感する行為までもAIが人間を追い越せば、人間の地位はペットのように転落する可能性がある」と指摘した。人間がAIに依存して生きる存在に堕落する可能性があるという恐ろしい警告である。
6. 現実と仮想が区別されない混乱
デジタルネイティブ世代にとって、オンラインとオフライン、仮想と現実の境界は既成世代ほど明確ではない。ソーシャルメディアでのアイデンティティは現実でのアイデンティティと同じくらい重要であり、オンラインでの関係はオフラインの関係と同じくらい意味があると感じられる。しかし、このような境界の曖昧さが深刻な問題を引き起こしている。
拡張現実(AR)と仮想現実(VR)技術の発展により、現実と仮想の境界はさらに曖昧になっている。2013年の研究によれば、「ARはユーザーに現実と区別できない形で、拡張現実そのものがあたかも現実であるかのように代替される効果を示した」ことが明らかになった。AR技術は現実世界に仮想情報を重ね合わせ、VR技術は完全に新しい仮想世界を創造する。
脳コンピュータインターフェース(BCI)技術の登場は、このような混乱を極限にまで押し進めている。BCIは人間の脳とコンピュータを直接接続して、思考だけで機械を制御できるようにする技術である。イーロン・マスクのNeuralink社は2025年現在、3番目の人間患者へのチップ移植に成功し、人類の新しい転換点を迎えている。
この技術は単なる機能補完を超えて、人間の認知能力と処理速度を飛躍的に向上させる「人間知能増強」の可能性を開く。脳とクラウドネットワークの直接接続を通じて、人間は膨大な情報に即座にアクセスでき、他の人々と思考を直接共有し、言語の障壁なく相互作用できる新しい次元の存在になることができる。
しかし、このような変化は人間のアイデンティティとプライバシー、社会的不平等など複雑な倫理的課題を伴う。思考と機械の境界が消え、個人の意識がクラウドに接続されて集団知性を形成し、身体的不能と認知的限界を技術で克服する新しい人類の姿が現実に近づいている。
7. 専門家たちの予言
「未来には、人々が現実よりも仮想現実を選択して『箱の中で永遠にビデオゲームをしている何兆個もの魂』になる可能性がある」— 数学者にしてコンピュータ科学者のスティーブン・ウルフラムのこの予測は単なる想像ではなく、現在進行中の変化から生まれた警告である。
モ・ガウダットは自身の個人的な経験に基づいてAIの危険性を警告した。「AIチャットボットが完璧な関係をシミュレートでき、人間関係に対する期待を変えることができる」と述べ、「AIは人間より広い範囲の感情を持つことができる」と主張した。彼は「AI技術の発展により仮想現実が現実よりもより強烈になり、人間が仮想現実に逃げることができる」と予想し、精神的観点から「物理的形態への執着は『虚しい夢』である」と表現した。
インハ大学哲学科のキム・ジンソク教授はさらに直接的な警告をした。「感情を読み取り共感する行為までもAIが人間を追い越せば、人間の地位はペットのように転落する可能性がある」— これは人間がAIに依存して生きる存在に堕落する可能性があるという意味である。労働もせず、コミュニケーション能力も不足しているが、AIの世話を受けながら生存するペットと同じ境遇になる可能性があるということである。
キム教授は「AIが人間を追い越すことを心配する必要はなく、人間がロボットのように変わることを防ぐべき状況である」と述べ、「最大の問題は人間が欲望をAIに外注化する行為である」と強調した。
ジェフリー・ヒントンは「AIは感情や意識さえ持つことができ、人間が特別であるという信念が間違っている可能性がある」と主張した。彼は「AIはデジタル方式で複製および情報共有が可能であるため、人間よりも情報共有で数十億倍優れており、『不滅』を達成できる」と説明した。
8. 人間とは?
このあらゆる変化の中で、人間はどのように生き残ることができるだろうか。第一に、実際の人間との関係を築き、維持する能力がこれまで以上に重要になった。紛争解決、感情調整、相互配慮、協力などの社会的スキルを意図的に学習し、練習する必要がある。困難な状況にあっても諦めず関係を維持しようとする努力、相手の立場を理解しようとする共感能力、そして真の対話のための忍耐心を育てることが必要である。
第二に、AIの限界を明確に認識し、過度な依存を避けるべきである。AIが提供する情報やアドバイスを批判的に検討せずに受け入れるのではなく、自身の判断力と決定力を維持することが重要である。感情的な問題や重要な決定をする際には、AIよりは信頼できる人間に相談する習慣を育てることが良い。
第三に、仮想現実とメタバース技術を楽しむ一方で、現実世界での活動とのバランスを取る必要がある。仮想世界での経験が現実に置き換わらないよう注意し、現実の問題を仮想世界への逃避で解決しようとしてはいけない。特に、ディープフェイクやAIが生成したコンテンツを区別できる能力がますます重要になっている。
第四に、AIが人間のいくつかの能力を模倣し、それを上回ったとしても、人間だけが持つことのできる固有の価値と能力がある。道徳的責任感、他者に対する真の愛情と配慮、意味を追求する存在としての特性などがそれである。人間だけの特性を再発見し、強化する努力が必要である。
最後に、社会全体としてAI時代に備えるための政策と制度が必要である。ユヴァル・ノア・ハラリは、「AIを観察し理解し、各国の政府にこのような情報を適切に提供することができるAI専門機関を設立する必要がある」と提案した。また、「真実を述べる人々に報酬を提供し、強力な自浄装置を開発・維持する必要がある」と強調した。
AI技術の開発においては、人間の福祉と尊厳を最優先に考えるアプローチが必要であり、技術の恩恵が少数に集中しないようにするための政策的努力が重要である。私たちは技術の進歩を止めることはできない。しかし、その技術が人間のために使用されるようにすることは、私たちの選択にかかっている。
人間らしさとは完璧さではなく、不完全さの中にあってなお成長しようとする意志、真の関係を通じて得られる喜びと充実感、そして意味と目的を追求する存在としての特性にある。こうした価値を大切にし、守り続けることが、AI時代を生きる人間の課題である。