AI書房
本でAIを読む
金京鎮弁護士のAI・法律・産業・歴史・政治・文化をテーマにしたオンライン書籍を収録しています。各書きは目次・序文・章・エピローグで構成され、連続読書が可能です。
[AI書房] 第17章 人間の定義を問い直す
脳を読む人々:Neuralinkと人類最後の革命
第17章 人間の定義を問い直す
金京鎮
ア. 「私は私の脳なのか、私の技術的延長なのか」
1998年、哲学者アンディ・クラークとデイヴィッド・チャーマーズは一本の論文を発表しました。題名は「拡張された心(The Extended Mind)」でした。彼らは単純な問いを投げかけました。「心はどこで終わり、残りの世界はどこから始まるのか」
クラークとチャーマーズは、オットーという架空の人物を登場させました。オットーはアルツハイマー病を患っていました。彼は重要な情報をすべてノートに書き留めて持ち歩いていました。博物館に行くときは、ノートを開いて住所を確認しました。一方、インガという女性は健康な記憶力を持っていました。彼女は博物館の住所を頭の中で思い出しました。
二人の違いは何でしょうか。
クラークとチャーマーズの答えは挑発的でした。
違いはない、というものでした。オットーのノートはインガの海馬と同じ機能を果たしています。情報を保存し、必要なときに取り出します。ノートはオットーの心の外にある道具ではありません。それはオットーの心そのものの一部です。
この論文が発表されてから26年が過ぎました。2024年1月、ノーランド・アーボーの頭蓋骨にNeuralinkチップが移植されました。2025年半ばまでに、7人の四肢麻痺患者が同じ手術を受けました。彼らは考えるだけでコンピューターのカーソルを動かし、スマートフォンを操作し、ビデオゲームを楽しみます。アレックスという患者はCADソフトウェアで3Dデザインを作りました。ブラッドは子どもたちとマリオカートを一緒にプレイしました。クラークとチャーマーズが想像した拡張された心が、文字どおり実現したのです。
しかしNeuralink患者の経験は、オットーのノートとは質的に異なります。ノートは手で開かなければなりません。目で読まなければなりません。そのあいだには身体という媒介があります。Neuralinkはその媒介を飛び越えます。脳の運動皮質が発火すると、その信号がそのままデジタル命令になります。思考と行為のあいだの間隔が消えます。ノーランド・アーボーはインタビューで語りました。「カーソルを動かそうと『意識して』考えるわけではありません。ただ動くのです。まるで指を動かすように」
ここで哲学的な問いは深まります。ノーランド・アーボーはどこまでが「彼」なのでしょうか。彼の生物学的な脳が彼なのでしょうか。それとも脳とチップとコンピューターからなる全体のシステムが彼なのでしょうか。クラークは2003年の著書『生まれながらのサイボーグ(Natural-Born Cyborgs)』でこう書きました。「人間を他の種から区別するものは、道具と文化的慣行を私たちの存在に完全に統合する能力である」
その論理に従えば、BCIを移植された人は単に道具を使っているのではありません。彼は新しい形の人間になったのです。
2025年5月、Nature Communicationsに掲載された論文は、この議論をさらに一段押し進めました。著者たちは、生成AIとの協働が拡張された心の新しい事例だと主張しました。人間とAIがともに問題を解くとき、認知はどちらか一方にあるのではありません。両者の相互作用そのものが認知なのです。著者たちはこう結論づけました。「ハイブリッド思考システムを構築することは、人間の本性である」
しかし、すべての学者がこの見解に同意しているわけではありません。批判者たちは「因果と構成の誤謬」を指摘します。電卓が数学問題を解く助けになるからといって、電卓が私の心の一部になるわけではない、という主張です。また「認知的肥大化」の問題もあります。拡張された心の理論を最後まで押し進めれば、インターネット上のすべての情報が個人の認知システムの一部になります。これは直観に反します。
この論争は純粋な学術問題ではありません。法的、社会的含意があります。もしBCIが私の心の一部なら、それをハッキングする行為は単なる財産侵害ではありません。精神への侵入です。もしAIとの協働で作られたアイデアが拡張された心の産物なら、そのアイデアの著作権は誰にあるのでしょうか。
ノーランド・アーボーは自分のアイデンティティをどう考えているのでしょうか。彼はNeuralinkを自分の一部として感じているのでしょうか。それとも依然として外部の道具として認識しているのでしょうか。おそらく答えは時間とともに変わるでしょう。私たちがスマートフォンなしでは生きられなくなったように、BCIユーザーも次第にその装置を自分の延長として経験するようになるでしょう。そしてその瞬間、「私は誰なのか」という問いの意味そのものが変わります。
イ. 記憶の保存とダウンロード:永生は可能か
人類は長いあいだ死を克服しようとしてきました。ピラミッドを築きました。不老草を探しました。冷凍保存に身を委ねました。21世紀に入り、新しい方法が提案されました。心をコンピューターにアップロードすることです。
アイデアは単純です。人間の脳は860億個のニューロンでできています。各ニューロンは数千個のシナプスを通じて他のニューロンとつながっています。この接続パターンが記憶であり、性格であり、意識です。もしこのパターンを完全にスキャンしてコンピューターに複製できるなら、その人の心はデジタルの形で永遠に存在できるはずです。
2025年現在、このアイデアはなおSFの領域にあります。ジョージア工科大学の神経科学者はこう説明します。「私たちはまだ、たった一つの実際のニューロンすら人工ニューロンに置き換えられていません。860億個の話ではありません。たった一つもです」。脳をスキャンする技術も不足しています。意識が作動するために必要な詳細レベルがどの程度なのかさえ分かっていません。シナプス接続だけで十分なのでしょうか。それとも個々のニューロン内部の分子状態まで複製しなければならないのでしょうか。誰にも分かりません。
問題は技術的な壁だけではありません。哲学的な難題があります。1775年、スコットランドの哲学者トマス・リードは問いました。「私の脳が本来の構造を失い、数百年後に同じ物質で再び知的存在を作ったなら、その存在は私なのだろうか。もし私の脳で二つ、三つの存在を作ったなら、それらはすべて私なのだろうか」。250年が過ぎましたが、この問いへの合意された答えはありません。
現代の論争は「意識のハード・プロブレム(Hard Problem of Consciousness)」を中心に展開されます。物理的過程がどのように主観的経験を生み出すのかを説明できなければ、アップロードされた心が本当に「感じている」のか分かりません。それは意識ある存在かもしれず、意識なしに行動だけをまねる「哲学的ゾンビ」かもしれません。
ロシアの未来学者アレクセイ・トゥルチンは、漸進的置換という方法を提案します。脳のニューロンを一つずつ人工ニューロンに置き換えるのです。各段階で意識の連続性が維持されるなら、最終的に完全に人工的な脳になっても、それはなお「私」であるはずです。しかしこの方法にも問題があります。2025年に発表された量子・時間的意識モデルは、意識は複製されたり転送されたりできず、新しい個体だけが生成されると主張します。
もう一つの懸念があります。感覚遮断の問題です。デジタル意識には身体がありません。視覚、聴覚、触覚、味覚、嗅覚がありません。環境との相互作用がありません。神経科学者たちは警告します。「感覚遮断は拷問の一形態として知られています。環境との接触なしに、デジタル意識は幻
覚、精神障害、さらにはアイデンティティの崩壊を経験しうる」。Netflixシリーズ『ブラック・ミラー』のエピソード「ホワイト・クリスマス」は、このシナリオをぞっとする形で描きました。デジタル複製が無限の時間、孤立の中に閉じ込められる場面です。
では、マインド・アップロードは永生の約束なのでしょうか。それとも新しい形の地獄なのでしょうか。仏教的トランスヒューマニストのジェームズ・ヒューズは別の観点を示します。もし自我が本来幻想であるなら、アップロードへの不安は無意味だというのです。仏教の無我の概念によれば、今この瞬間の「私」も1秒前の「私」と同一ではありません。意識は連続した流れではなく、瞬間ごとに新しく発生するものです。
現在もっとも現実的なアプローチは部分的保存です。記憶の一部を保存したり、性格パターンをAIでシミュレートしたり、ソーシャルメディアの記録をもとにデジタルアバターを作ったりすることです。マーティン・ロスブラットはこれを「マインドファイル」と「マインドクローン」と呼びます。すでにいくつかのスタートアップが、故人の音声とテキストデータを学習したチャットボットを提供しています。遺族は亡くなった家族と「会話」できます。
これは本当の永生なのでしょうか。おそらくそうではないでしょう。しかし死の意味を変えつつあることは確かです。そして技術が発展するにつれて、「永生」の定義そのものが変わるかもしれません。完全な意識のアップロードが不可能だとしても、私たちの記憶と性格の一部がデジタルの形で残るなら、それはある意味で死後の生ではないでしょうか。この問いへの答えは技術ではなく、私たちが「生」と「死」をどう定義するかにかかっています。
ウ. 言語の終わり:概念的テレパシーが文明にもたらす影響
言語は人類文明の土台です。私たちは音と記号を通じて思考を伝えます。しかし言語には根本的な限界があります。頭の中の思考を言葉に変え、その言葉を音や文字に変換し、相手がそれを再び解釈する過程で意味が失われます。詩人たちはこの限界と生涯戦います。「言葉では表せない」感情や経験があります。
BCI技術は、この限界を迂回する可能性を開きました。Neuralinkのビジョンの一つは「概念的テレパシー」です。イーロン・マスクはこう説明しました。「言語は非常に遅いインターフェースです。私たちは1分あたり約40ビットの情報を伝えることができます。BCIを通じて思考を直接共有できるなら、帯域幅は数千倍に増えるでしょう」
2025年現在、Neuralink患者は1分あたり約40語のタイピング速度を達成しました。これは一般の人が画面キーボードで入力する速度と似ています。音声復元技術もFDAの画期的医療機器指定を受けました。ALSで言葉を失った患者が、思考だけで合成音声を通じて会話できるようになるでしょう。しかしこれは依然として言語を媒介にしたコミュニケーションです。思考そのものを送信しているわけではありません。
真の概念的テレパシーが可能になれば、何が起こるのでしょうか。想像してみてください。あなたが夕焼けを見ながら感じる感情を、言語なしにそのまま別の人へ伝えられます。複雑な数学的直観を即座に共有できます。誤解が消えます。翻訳が不要になります。人類は一つの言語を超え、一つの心としてつながることができます。
しかしユートピア的なビジョンにはディストピア的な影が伴います。第一に、プライバシーの終わりです。思考を共有できるなら、望まない思考も露出しえます。私たちは皆、頭の中に口にしない考えを抱えて生きています。偏見、欲望、不安、怒り。それらが他人に透明になったら、社会的関係はどうなるでしょうか。正直さが強制される世界は、本当により良い世界なのでしょうか。
第二に、権力の非対称です。すべての人が同時にテレパシー能力を持つわけではないでしょう。初期には富裕層や権力者が先にアクセスするでしょう。彼らは他人の思考を読みながら、自分の思考は隠せるかもしれません。これは歴史上もっとも極端な情報非対称を生み出します。
第三に、個人性の解体です。言語は単なるコミュニケーション道具ではありません。それは私たちが考える方式そのものを形づくります。日本語で考える人と英語で考える人は、世界を異なる形で経験します。言語は個人のアイデンティティを構成する核心要素です。言語なしに思考を共有する世界で、個人の固有性はどう維持されるのでしょうか。集合意識が個人の意識を置き換えてしまうのではないでしょうか。
歴史を振り返ると、新しいコミュニケーション技術は常に文明を根本から変えてきました。文字の発明は記憶の外在化を可能にしました。印刷術は知識の民主化を導きました。インターネットは即時的な地球規模のコミュニケーションを可能にしました。それぞれの革命は予想外の結果を生みました。印刷術は宗教改革を引き起こしました。インターネットはフェイクニュースと分極化を深めました。
概念的テレパシーは、これまでのすべての革命を合わせたものより大きな変化をもたらすかもしれません。それは単にコミュニケーション方式の変化ではなく、人間の存在方式の変化だからです。私たちはその変化を望むのか、そしてどのような条件で受け入れるのかを、あらかじめ考えなければなりません。
もちろん、これらはすべてまだ推測です。概念的テレパシーが技術的に可能なのかさえ確実ではありません。脳の活動パターンは個人ごとに異なるため、ある人の「夕焼けを見る経験」が別の人に同じように伝わるかは不明です。もしかすると言語は、その不完全さにもかかわらず、あるいはその不完全さゆえに、人間のコミュニケーションで唯一実行可能な形として残るかもしれません。しかし技術の歴史は、「不可能」が「困難」になり、「困難」が「日常」になる過程の連続でした。
エ. サイボーグ時代の人間らしさと哲学的問い
2023年8月9日、チリ最高裁判所は歴史的な判決を下しました。
原告は元上院議員のGuido Girardiでした。被告は米国サンフランシスコに本社を置くEmotiv社でした。Emotivは「Insight」という脳波測定ヘッドセットを販売していました。Guido Girardi議員はこの装置を使用した後、自分の脳データが十分に保護されていないと主張しました。
最高裁は原告の主張を認めました。EmotivがGuido Girardiの脳データを具体的な同意なしに研究目的で保管したことは、身体的・精神的完全性に対する憲法上の権利とプライバシー権を侵害した、という判決でした。裁判所は会社に対し、原告の脳情報をデータベースから削除するよう命じました。
この判決が可能だったのは、チリが2021年に世界で初めて「神経権(Neurorights)」を憲法に明記したからです。改正された憲法19条は、「脳の完全性と精神的免疫を神経技術から保護する」ことを定めています。また脳データに臓器と同じ地位を与え、売買できないようにしました。
神経権の概念は、2017年にコロンビア大学の神経科学者ラファエル・ユステが初めて提案しました。彼は同僚たちとともに五つの神経権を定義しました。精神的プライバシー権。個人のアイデンティティに対する権利。自由意志に対する権利。公正な精神増強へのアクセス権。アルゴリズムの偏りから保護される権利。ユステは主張します。「私たちはソーシャルメディアへの対応が遅すぎました。神経技術について同じ過ちを繰り返してはなりません」
批判者もいます。チリのデジタル権利団体のフアン・カルロス・ララ・ガルベスは指摘します。「一部の法学者は、このような憲法改正が必要なのか懐疑的です。既存の個人情報保護法で十分だというのです」。チリ大学法学部のダニエラ・サロル・ミラレス教授は、さらに根本的な批判を提起します。「この憲法条項は、チリには脳データへの法的保護がなかったという植民地主義的発想に基づいています」
しかし神経権の擁護者たちは強い根拠を示します。Neurorights Foundationが30社の消費者向け神経技術企業の利用規約を分析した結果、29社が利用者の脳データを第三者に販売する権利を持っていました。「同意する」をクリックした瞬間、あなたの脳データはあなたのものではなくなるのです。
チリの先例は広がりつつあります。ブラジルとメキシコは類似の憲法改正を検討しています。ウルグアイ議会はチリの議員たちと神経権について議論しました。米国ではコロラド州とカリフォルニア州が神経データ保護法を制定しました。ラテンアメリカ議会(Parlatino)は2022年に神経権モデル法を発表し、神経技術規制の枠組みと基本概念を提供しました。
これらすべての法的努力の根底には、一つの哲学的問いがあります。人間とは何か。技術が私たちの脳に接近し、私たちの思考を読み、場合によっては私たちの心を変えられるようになったとき、人間の尊厳はどこにあるのか。
トランスヒューマニストたちは楽観します。彼らにとって技術的増強は人間進化の次の段階です。私たちはすでに眼鏡で視力を補い、補聴器で聴力を改善し、人工関節で移動能力を回復しています。BCIはその延長線上にあるだけです。より良い認知、より深い接続、より長い寿命。技術は私たちを「より良い人間」にすることができます。
生命保守主義者たちは懸念します。彼らは「人間らしさ」には技術で置き換えられない何かがあると主張します。脆弱性、有限性、不完全さ。これらこそがむしろ人間経験の核心です。技術がこの脆弱性を取り除くなら、私たちは本質的な何かを失うかもしれません。
おそらく二つの見方はいずれも部分的に正しいのでしょう。技術が人間を変えることは確かです。しかし、その変化の方向はあらかじめ決まっていません。それは私たちがどの価値を選ぶかにかかっています。チリの神経権立法、そしてそれをめぐる賛否の論争は、この選択の過程です。
ノーランド・アーボーはNeuralink移植後のインタビューで語りました。「私は今も私です。チップが私を別人にしたわけではありません。ただ、私がもともとやりたかったことを再びできるようにしてくれただけです」。彼の言葉は一つの答えを示唆します。技術は私たちの人間性を奪うのではなく、失われた人間性を回復してくれることもある、ということです。しかしそれがすべての場合に当てはまるのか、そしてどこまでが回復でどこからが増強なのか、私たちはまだ答えを探している途中です。
