[AI書房] 第29章 AIは道具か、新しい種か
デミス・ハサビス、Google人工知能の父
第10部 人類の未来とAIの責任
第29章 AIは道具か、新しい種か
金京鎮
巨大企業におけるイノベーションと倫理的緊張：Google内部のAI倫理論争とハサビスの立場。2014年1月、ロンドンの冷たい冬の風が吹く日、デミス・ハサビスは一生に一度の賭けに打って出ていました。ラリー・ペイジとの交渉テーブルに置かれていたのは、単なる買収金額ではありませんでした。ハサビスは、Googleという巨大帝国がディープマインドを飲み込んでも、それを消化し尽くすことのないための安全装置を要求したのです。
それは、まさに「倫理委員会（Ethics Board）」の設置でした。彼は、この技術が人類史上最も強力な力を持つことになるだろうと確信しており、その力が株主の利益のためだけに振るわれることを望みませんでした。当時、彼は「私たちは単により賢い検索エンジンを作るために、この研究を行っているのではない」と断言しました。これは、ダビデがゴリアテの鎧を身にまといながらも、自らの投石器を守ろうとする試みにも似ていました。
しかし、10年が経過した2024年、状況はハサビスが予想していたよりもはるかに複雑で、危ういものへと変貌していました。ChatGPTの登場によって引き起こされた生成AI戦争は、Google DeepMindをもはや象牙の塔の中に留まらせることはありませんでした。Googleのマウンテンビュー本社では「コード・レッド（Code Red）」が発令され、ロンドンのDeepMindの研究者たちは、もはや論文執筆だけに没頭することはできなくなりました。
彼らは今や、Googleという巨大な艦船の生存を担う「エンジン・ルーム（Engine Room）」とならなければなりませんでした。この過程で生じた倫理的緊張は、DeepMindのアイデンティティを揺るがしました。初期の倫理委員会は、そのメンバーさえ公表されないままベールに包まれており、Google内部の倫理AIチーム（Ethical AI Team）と経営陣との摩擦は、ティムニット・ゲブル博士の解雇騒動へと爆発したのです。
ハサビスはこの渦中で沈黙を守っているかのように見えましたが、その内面では研究者としての理想と経営者としての現実の間で、綱渡りを続けていました。彼は公的な批判にさらされる代わりに、内部的な「アライメント（Alignment）」研究を強化する道を選びました。DeepMindの内部では、「私たちは怪物を作り出そうとしているのではないか？」という自嘲的な声と、「私たちが作らなければ、より危険な誰かが作るだろう」という現実論が激しくぶつかり合っていました。
2024年のGeminiモデルにおける画像生成エラーの事態は、こうした緊張が表面化した決定的な出来事でした。歴史的人物の人種を無理に多様化しようとしたことで発生したこのエラーは、技術的な欠陥というよりも、過度な倫理的補正がかえって偏向を生んでしまった「逆説的な失敗」でした。ハサビスはこれに対し、「意図したものではなかった」と釈明しましたが、これは単に数行のコードを修正すれば解決するような問題ではありませんでした。
それは、「普遍的かつ中立的な知能」を創るというDeepMindの理想が、シリコンバレーの「文化戦争（Culture War）」という現実の泥沼に足を踏み入れたとき、一体何が起こるかを示す象徴的な場面でした。ハサビスの立場は微妙に変化してきました。初期の頃、彼は「AIをGoogleから切り離された独立した研究機関として維持する」と固執していましたが、今では「責任あるAI（Responsible AI）」というGoogle全社的なスローガンのもと、DeepMindを統合させています。
一部の批評家は、これについて「理想主義者であるハサビスが資本主義に屈した」と批判していますが、彼の側近たちは異なる話をしています。ハサビスは、Googleという巨大なインフラなしにはAGI（汎用人工知能）に到達できないという事実を、痛切に悟ったのだといいます。彼は2025年のダボス会議において、次のように語りました。
「安全性とは、速度を落とすためのブレーキではなく、より遠くまで進むためのハンドルです」 つまり、彼はGoogle内部での倫理的な議論を、単なる制約としてではなく、AGIが暴走しないように制御するための不可欠なコントロールシステムとして受け入れ始めたのです。彼は巨大企業の利益追求の動機と、人類のための安全装置との間で、自分にしか解けない最も困難なパズルに挑んでいるといえます。
オープンかクローズドか、競争か協力かというジレンマ。2016年にAlphaGoがイ・セドル九段に勝利した際、DeepMindはその仕組みを記した論文を『Nature』誌で全面的に公開しました。世界中の開発者が歓喜し、これはその後のAlphaGo ZeroやAlphaZeroへと続く技術発展の起爆剤となりました。当時のハサビスの哲学は明確でした。
「科学は共有されることで発展する」 彼は17世紀の王立協会（Royal Society）の伝統を受け継ぎ、発見を隠さずに世に送り出すことを科学者の義務と考えていました。AlphaFoldもまた、世界中の生物学者に無料で公開され、数十年にわたり未解決だったタンパク質構造問題の解決に貢献しました。これは「科学的利他主義」の勝利でした。
2023年を境に、空気は冷ややかなものへと変わりました。OpenAIがGPT-4の技術的な詳細を公開しない決定を下したことで、「オープン（Open）」の時代は終焉を迎え、「クローズド（Closed）」の時代、あるいは「秘密主義（Secrecy）」の時代が到来したのです。Google DeepMindもまた、この潮流に抗うことはできませんでした。
ハサビスは2024年のあるインタビューで、「今や危険な情報を公開することは、むしろ無責任な行為になり得る」と語りました。かつては論文を公開することが人類への貢献でしたが、AGIに接近した強力なモデルの設計図を公開することは、核兵器の製造法をインターネットにアップロードするのと変わらない、という認識が定着したのです。このジレンマは、ハサビスにとって痛恨の課題となっています。
彼は本能的に開放と協力を志向する学者でしたが、現実は彼に対し、高い城壁を築き、堀（Moat）を掘ることを強いていました。2025年初頭、Metaのヤン・ルカンが「AIをオープンソースとして解放してこそ、民主的な統制が可能になる」と主張し、Llamaモデルを公開した際、ハサビスは深い沈黙に沈みました。彼はMetaの手法が「取り返しのつかない危険を招く可能性がある」と懸念しながらも、Google DeepMindがますます閉鎖的な要塞へと変貌していくことに対する研究者たちの反発を抑えなければなりませんでした。社内の多くの優秀な人材が、「私たちがここへ来た理由は科学的発見を共有するためであり、Googleの株価を上げるためではない」と言い残して会社を去り、オープンソース陣営へと移っていくのを目の当たりにすることは、彼にとって大きな苦痛でした。競争と協力のジレンマもまた、彼を締め付けていました。
ハサビスは2023年、英国ブレッチリー・パークで開催されたAI安全サミットにおいて、サム・アルトマンやダリオ・アモデイと肩を並べ、「AIの安全のための国際的な協力」を約束しました。表向きは、競合他社の代表たちが手を取り合い、人類の未来を案じる美しい光景でした。しかし、舞台裏では激しい人材獲得競争と、チップ確保のための争いが繰り広げられていたのです。
ハサビスは2026年のダボスにおいて、AnthropicのCEOであるダリオ・アモデイと対談し、「モデルが互いに教え合いながら指数関数的に発展する自己改善（Self-improvement）ループ」について議論しました。二人は安全のために協力すべきであるという点では一致したものの、誰が先にそのループを完成させ、「最後の発明」を手にすることになるのかという競争心を隠しきれませんでした。ハサビスは今や、「オープンサイエンス」という自身の長年の信念を修正し、「段階的なリリース（Staged Release）」という新たな原則を打ち立てました。
彼はこれを科学的な後退ではなく、「戦略的忍耐」と呼んでいます。競合他社が無謀にスピードを上げる中で、DeepMindだけは科学的な厳密さと安全性を担保し、ゆっくりと、しかし確実に進むべきだと彼は信じています。しかし、市場は待ってくれません。投資家たちは「なぜGoogleはもっと早く出さないのか？」と声を荒らげます。この「開かれた科学者」と「閉ざされた起業家」の間の矛盾こそが、ハサビスが毎朝鏡を見て向き合わなければならない、ゴリアテの逆説そのものなのです。
技術的楽観主義と慎重さのバランス――「技術は中立的だが、その使い方は中立的ではない」。2024年12月、ストックホルムのコンサートホールでノーベル化学賞を受賞した日、デミス・ハサビスの表情は歓喜というよりも、厳粛さに近いものでした。彼は受賞演説の中で、AlphaFoldがもたらす医学的革命について語り、聴衆を魅了しました。「知能を解き明かせば、病も、気候危機も、エネルギー問題も解決できるのです」
彼が語る「根本的な豊かさ（Radical Abundance）」の世界は、手にとれるほど鮮明でした。それは、彼が12歳の時にチェス盤を見つめながら夢見た、知能が人類を救済する世界でした。ハサビスにとって、AIは善でも悪でもありませんでした。
それはまるで火や電気のように、文明を次の段階へと飛躍させる中立的なエネルギーでした。しかし、彼がステージを降りて直面した現実は、それほど単純なものではありませんでした。自分が作り出した道具が中立であったとしても、それを使う人間は決して中立ではないという事実を、彼は誰よりもよく理解していました。
2023年、彼が「AIのリスクに関する声明（Statement on AI Risk）」に署名した際、多くの人々が疑問を抱きました。「自らが作り出す技術が人類を滅亡させる可能性があると警告しながら、なぜ開発を止めないのか？」という批判が相次ぎました。これに対し、ハサビスはこう答えています。「私たちが止まったとしても、この技術が消え去るわけではないのです」
「むしろ、責任ある私たちが先頭に立ち、正しい方向を提示すべきである」と反論しました。ハサビスの技術楽観主義は、盲目的な信仰ではありません。それは徹底した計算とシミュレーションに基づいた「条件付きの楽観主義」です。彼は技術の本質を「知能の拡張」であると考えています。
人間の脳が持つ生物学的な限界を、シリコンベースの知能によって補完することで、私たちは宇宙の謎をより速く解き明かすことができるというのです。例えば、核融合発電の難題であるプラズマ制御をDeepMindのAIが解決した事例は、彼にとって強力な証拠となりました。彼は「もし私たちがAIを恐れるばかりであれば、暗い病に苦しむ患者たちを救う機会を自ら放棄することになる」と語ります。彼にとって、AIの開発を止めることこそが非倫理的な行為なのです。
しかし、彼は同時に痛ましい歴史を忘れてはいません。アルフレッド・ノーベルがダイナマイトを作ったとき、彼はそれが戦争を終わらせると信じていました。オッペンハイマーが原子爆弾を作ったとき、彼はそれが平和をもたらすと希望しました。
ハサスビスは、自分が21世紀のオッペンハイマーにならないことを切に願っています。そのため、彼は技術自体の中立性を強調しながらも、その技術が社会に浸透していくプロセス（Deploy）については、極めて慎重な姿勢を取ります。彼は「技術は社会的な真空状態で存在するのではない」と述べ、技術者だけでなく、哲学者、社会学者、政策立案者が集まり、AIの使用説明書を書き上げるべきだと主張しています。彼の楽観主義は、「技術がすべてを解決してくれる」という安易なものではなく、「私たちが賢明に活用すれば、技術は私たちを救い得る」という意志的な希望に近いものです。
悪意ある主体（Bad Actors）への備え。2024年2月、ミュンヘン安全保障会議の非公開セッション。ハサビスは世界各国の情報機関のトップに対し、AIがもたらし得る最悪のシナリオについてブリーフィングを行っていました。彼が画面に映し出したのは、ターミネーターのようなロボット軍団ではありませんでした。それは、はるかに静かで致命的な脅威、すなわち「生物学的テロ」と「サイバー崩壊」でした。
ハサビスは、AlphaFoldのようなツールが、善意の科学者の手にあれば新薬開発の鍵となりますが、テロリストの手にあれば致命的なウイルスを設計するための設計図になり得ると警告しました。彼はこれを「非対称的な脅威（Asymmetric Threat）」と呼びました。少数の悪意ある主体（Bad Actors）が、AIの助けを借りて全世界を人質に取る能力を持つ状況。これこそが、ハサビスが夜も眠れぬほどに案じている、最も具体的かつ差し迫った恐怖なのです。
彼は、こうした脅威に備えるために二つの戦略を提示しています。第一は「技術的な封じ込め（Technical Containment）」です。彼はモデルを公開する前に、レッドチーム（Red Team）を通じて、数千回もの模擬ハッキングや悪用シナリオのテストを行います。
モデルが毒性物質の製造方法を教えたり、サイバー攻撃のコードを生成したりしないよう、学習段階から強力なガードレールを設置するのです。2025年に発表されたGoogleの「セキュアAIフレームワーク（Secure AI Framework）」は、まさにこうしたハサビスの哲学を具現化した成果です。
彼は「安全でないAIは、AIではない」とまで断言し、性能よりも安全性を優先する方針を確立しました。第二は「制度的な監視（Institutional Oversight）」です。ハサビスは、国際原子力機関（IAEA）のような、強力な国際的AI監視機関が必要であると強く訴えています。
彼は「いかなる企業も、いかなる国家も、単独でこの技術を制御することはできない」と信じています。2023年の英国AI安全サミットにおいて、彼が主導的に参加した「フロンティアAI安全誓約」は、こうした制度的な仕組みを整えるための第一歩でした。彼は、競合企業であるOpenAIやAnthropicとも、安全性の問題に限りホットラインを維持し、情報を共有しています。
ハサビスの最大の懸念は、技術の発展速度が防御の構築速度を追い越してしまうことです。彼はこれを「ペーシング（速度調整）の問題」と呼んでいます。あまりに速く走れば事故が起き、あまりに遅すぎれば技術の恩恵を逃してしまいます。彼は、悪意ある者がAIを手に取る前に、私たちが彼らを検知し防御できる「シールドAI（Shield AI）」を先に完成させなければならないと主張しています。彼は2024年のあるポッドキャストで、次のように告白しました。「私たちは今、時間とのレースを繰り広げています。しかし、そのレースのゴールラインは技術的な完成ではなく、人類の安全な存続なのです」
結局のところ、ハサビスが描く未来とは、AIが人間を代替する世界ではなく、AIという強力な盾を手にした人間が、病や貧困、そして悪意ある脅威から自らを守り抜く世界です。彼はチェス盤の上で相手の手を読み、防御を図るように、目に見えない悪意ある者たちとの駆け引きを、今この瞬間も続けています。
人間とAIの協調