Dario Amodei インタビュー — Anthropicと米国国防総省の対立

概要
時間：約27分
形式：ニュースインタビュー
テーマ：Anthropicの米国国防総省へのAI提供条件をめぐる対立、サプライチェーンリスク指定、自律兵器・国内大規模監視の制限

参加者
司会者：インタビュアー
Dario Amodei：Anthropic CEO

——————————————————

本文

司会者：お時間をいただきありがとうございます。AnthropicのCEO、Dario Amodeiさんですね？

Dario Amodei：はい、そうです。

司会者：では、最初の質問です。なぜAnthropicのAIを制限なしで米国政府に提供しないのですか？

Dario Amodei：はい、少し背景を説明する必要があると思います。Anthropicは実は、全てのAI企業の中で米国政府および米国軍との協力に最も積極的でした。機密クラウドにモデルを載せた最初の企業です。国家安全保障目的のカスタムモデルを作った最初の企業でもあります。情報機関や軍に展開しており、サイバー、戦闘支援作戦などの様々な用途で使われています。

私たちがこうした理由は、この国を守らなければならないと信じているからです。中国やロシアのような権威主義的な敵国からこの国を守らなければならないと信じています。ですから非常に積極的に取り組んできました。かなりの規模の公共部門チームを持っています。

しかし私は常に、権威主義的な敵国に対して自らを守る際に、民主主義の価値観を守り保全する方法で行わなければならないと信じてきました。そこで私たちは国防総省に対して、彼らが望む使用事例の98%から99%には同意するが、懸念している2つは例外だと伝えました。

1つ目は国内大規模監視です。ここで心配しているのは、AIによって以前は不可能だったことが可能になるかもしれないということです。例えば、民間企業が収集したデータを政府が購入し、AIで大量に分析するようなことです。これは実際には違法ではありません。AI時代以前は役に立たなかっただけです。このように国内大規模監視は法律の先を行っています。技術があまりにも速く進歩しており、法律と歩調が合っていません。これが1つ目のケースです。

2つ目のケースは完全自律兵器です。これはウクライナで使用されている、あるいは現在台湾で使用される可能性のある部分自律兵器ではありません。人間の関与なしに発射する兵器を作るという概念です。もちろん、敵国がいずれこれを保有する可能性があると思います。ですから、民主主義の防衛のためにいずれ必要になるかもしれません。しかし、いくつかの懸念があります。

まず、今日のAIシステムは完全自律兵器を作れるほど十分に信頼できるレベルには全く達していません。AIモデルを扱ったことがある人なら誰でも、純粋に技術的な面でまだ解決していない基本的な予測不可能性があることを理解しています。そして監督の問題もあります。人間の監督なしに運用できる大規模なドローンやロボット部隊があり、誰を標的にするか、誰を撃つかを判断する人間の兵士がいなければ、それは懸念を引き起こし、どのように監督するかについて議論する必要があります。まだその議論はできていません。ですから私たちは、この2つの使用事例は許可されるべきではないと強く感じています。

司会者：ペンタゴンは、この2つの制限に原則的に同意し、合意を望んでいたと私たちに伝えました。なぜ合意に至らなかったのですか？

Dario Amodei：いくつかの段階がありましたが、全て急速に進められ、彼らが私たちに与えた非常に限られた3日間という期限によって決定されました。彼らは3日以内に彼らの条件に同意するよう最後通牒を出し、さもなければサプライチェーンリスクに指定するか国防生産法を適用すると言いました。これについては後で触れます。

その間にいくつかのやり取りがありました。ある時点で彼らが送ってきた文言は表面的には私たちの条件を満たしているように見えましたが、「ペンタゴンが適切と判断した場合」とか「法律に沿ったあらゆることを行う」といったあらゆる種類の文言が含まれていました。実質的には何も譲歩していませんでした。その後の段階でも実質的な譲歩はありませんでした。

私たちは最初から合意を望んでいました。ペンタゴン側の立場を知りたければ、ペンタゴンの報道官Sean Parnellが前日にツイートで彼らの立場を改めて述べました。「我々は全ての合法的使用のみを許可する。」これは彼らが条件を送ってきた時と同じ内容でした。彼らは譲歩しておらず、いかなる意味ある方法でも私たちの例外事項に同意していません。

司会者：大統領は本日、この状況について次のように投稿しました。「彼らの利己主義が」——Anthropicを指して——「アメリカ人の命を危険にさらし、軍隊を危険にさらし、国家安全保障を脅かしている。」どう思いますか？反応は？

Dario Amodei：昨日発表した声明と本日発表した声明で、私たちは、たとえ国防総省やトランプ政権がこれらの前例のない措置を講じたとしても、通常は外国の敵対勢力に対して使われるこの種のサプライチェーン指定であっても、たとえこれらの極端な行動を取ったとしても、国防総省を支援し、技術を提供するためにできる限りのことをする用意があり、私たちのオフボーディングを完了し、私たちが行うことを望まないことを喜んで行う競合他社のオンボーディングに必要な限りそうすると述べました。

司会者：退出する準備ができている、と。

Dario Amodei：はい。私たちは継続性を提案しました。実際、この状況を非常に心配しています。サービスの中断を深く懸念しています。これはまさにサプライチェーンリスクに指定された時に起こることです。サプライチェーンリスクに指定されると、彼らは「全てのシステムから撤退しろ」と言います。現場の人々、現役軍人と話しましたが、彼らはこれは不可欠だと言います。これがなければ6ヶ月、12ヶ月、あるいはそれ以上後退すると。

だからこそ私たちは合意を得ようと懸命に努力してきました。しかし繰り返しますが、3日間の最後通牒、サプライチェーン指定のリスク、全体のタイムラインは私たちではなく国防総省によって主導されました。私たちは継続性を提供しようとしています。サービスを提供しようとしています。合意に達しようとしています。

司会者：では、これはアメリカ人の安全にとって何を意味しますか？

Dario Amodei：いくつか申し上げます。短期的には、国防総省次第です。私たちはまだ彼らとの合意に達しようとしています。まだ話し合おうとしています。

司会者：彼らはあなたと話していますか？

Dario Amodei：様々な通信を受け取っています。しかし、私たちの懸念を満たすものは見ていません。広い意味では、私たちのレッドラインに沿う限り、彼らとの協力にまだ関心があるということです。

司会者：しかし、まだ立場の隔たりが非常に大きいようです。そして今やHegseth長官があなた方をサプライチェーンリスクと認定し、彼が言ったことを言いました。この時点で合意に至ることは可能だと思いますか？

Dario Amodei：合意には双方が必要です。私たちの側は、この国の国家安全保障に奉仕する用意があります。国防総省、情報機関、より民間寄りの政府部門を含む政府の全ての部門に、私たちが提示した条件の下で、レッドラインの下で、モデルを提供する用意があります。常にそうする用意があります。

私たちは気分を害したりしません。この方法で技術を提供している理由は、アメリカの国家安全保障を支援したいからです。ペンタゴンの高官のためにやっているのではありません。特定の政権のためにやっているのではありません。アメリカの国家安全保障に良いからやっているのであり、それを続けていきます。

司会者：なぜ民間企業であるAnthropicが、ペンタゴン自身よりも軍におけるAIの使用方法について大きな発言権を持つ方が良いと思うのですか？

Dario Amodei：まず重要な点を申し上げます。私たちの知る限り、現場では実際にこれらの例外事項の制限に遭遇した人はいません。これは使用事例の1%であり、現場で実行された証拠を見たことがないものです。もちろん、彼らの計画がどうなのかは分かりません。しかし、これらの使用事例が実際に問題になった証拠はありません。国防総省と政府の他の部門に広く展開していますが、これらの問題に遭遇していません。

この1つか2つの狭い例外について、長期的には民主的な議論が必要だということに実際に同意します。長期的には、これは議会の仕事だと信じています。例えば、国内大規模監視の可能性、政府がアメリカ人について生成された大量データ——位置情報、個人情報、政治的所属——を購入してプロファイルを構築し、今やAIで分析できるようになったこと。それが合法であるという事実は、憲法修正第4条の司法解釈が追いついていない、あるいは議会が可決した法律が追いついていないように思えます。

長期的には、議会が技術の向かう方向に追いつくべきだと思います。しかし議会は世界で最も素早く動く機関ではなく、現時点でこの技術を最前線で見ているのは私たちです。国防総省がこれらの問題について慎重に、積極的に考えることを期待していました。懸念を持たず、私たちと対話することを期待していました。しかしそれがない中で、技術を見つめ、信頼性の面で何ができるかを見つめ、法律の先を行っている方法や法律の意図から逸脱している方法を見つめる必要があります。

非常に狭い領域ですが、重要だと思います。これらはアメリカ人にとって根本的なものです。政府に監視されない権利。軍の将校が戦争についての決定を自ら行い、完全に機械に委ねない権利。これらは根本的な原則です。

司会者：しかし根本的原則の名の下に、なぜアメリカ人は連邦政府ではなく、民間企業のCEOであるあなたがこれらの決定を下すことを信頼すべきなのですか？

Dario Amodei：2つお答えします。1つ目は、私たちは民間企業です。何を売るか売らないかを選べます。他のプロバイダーもいます。国防総省や政府が私たちの提供するサービスやその方法が気に入らなければ、他の請負業者を使えます。これが通常の対処法だったはずです。同意はしなかったでしょうが、「Anthropicとは仕事をしたくない。我々の原則はあなた方と合わない。他のモデルにする」と言ってくれれば、尊重したでしょう。

しかし彼らは国防総省を越えて政府の他の部分にまで拡大し、国防総省以外の契約を懲罰的に取り消そうとしました。そしてこのサプライチェーン指定というものを行いましたが、これは基本的に、軍事契約を持つ他の民間企業がそれらの軍事契約に関連してAnthropicを使用できないということです。民間企業の行動に介入しているのです。これを懲罰的以外の方法で解釈するのは非常に困難です。

私たちの知る限り、サプライチェーン指定がアメリカ企業に適用されたことはありません。ロシア政府との関連が疑われるロシアのサイバーセキュリティ企業Kaspersky Labs、中国の半導体サプライヤーなどの敵対勢力にのみ適用されてきました。彼らと同じカテゴリーに入れられることは、私たちが米国の国家安全保障のために行ってきたことを考えると、非常に懲罰的で不適切に感じられます。

司会者：米国の国家安全保障のために多くのことをしてきたとおっしゃいます。維持したいこの2つの制限を堅持しています。Anthropicはペンタゴンよりもこの問題をよく知っていると思いますか？

Dario Amodei：いいえ。自由市場と自由企業の特徴の1つは、異なる人々が異なる原則の下で異なる製品を提供できることです。覚えておいてください、これは利用規約だけの問題ではありません。「モデルが法的に何をできるか」だけの問題ではありません。私たちのモデルには個性があります。特定のことができ、特定のことを確実に行え、特定のことは確実には行えません。モデルが確実に何ができて何ができないかを判断するのに、私たちは適任だと思います。そして技術がまた法律の先を行っている方法についても、良い見識を持っていると思います。

繰り返しますが、長期的にこれは持続可能ではないということに同意します。民間企業とペンタゴンがこれについて議論することが正しい長期的解決策だとは思いません。議会がここで行動する必要があると思い、私たちはそれについて考えています。敵を打ち負かす能力を妨げず、しかし私たちの国の価値観に沿った方法で敵を打ち負かすことを可能にするガードレールを課すために、議会が何をできるかを考えています。

司会者：でもご存知の通り、議会は素早く動きません。

Dario Amodei：そうです。

司会者：ですから、その間に一線を引く必要があると思います。

司会者：では、議会が行動するまで、ここで立場を堅持するということですね。しかし米国政府と取引する他の多くの企業があります。ボーイングは米軍のために航空機を製造しています。ボーイングは米軍にその航空機をどう使うか指示しません。これとどう違うのですか？

Dario Amodei：2つの点で異なると言います。1つは、技術の新しさを再度指摘します。技術が十分に確立されている場合、将軍は航空機がどう動くかかなりよく理解しています。航空機は長い間存在してきましたから。

司会者：しかし航空宇宙産業の中にもたくさんのイノベーションがあります。

Dario Amodei：もちろんです。しかしAIで見られるようなペースではありません。AIは非常に速く動いています。AIが指数関数的なトレンドにあることをよく話してきました。モデルに投入される計算量は4ヶ月ごとに倍増しています。このようなイノベーションのペースはかつてありませんでした。

司会者：しかしそのペースが続けば、米国政府は永遠に追いつけません。では、適切な国家安全保障を提供するために米国政府と協力したいと長年主張してきた中で、予見可能な将来にわたってこれほど速い発展が続くなら、議会が追いつけないなら、なぜ背を向けるのですか？

Dario Amodei：追いつく必要があるのは一度だけだと思います。技術の速度は速いですが、発生する問題は少ないが非常に重要です。繰り返しますが、私たちにはこの2つしかありません。国内大規模監視、完全自律兵器。議会がそれに関連するリスクを理解できるよう対話する必要があります。繰り返しますが、これは世界で最もアメリカ的なことです。誰も米国政府に監視されたくありません。誰も米国政府に監視されたくありません。

司会者：同時に、最大の敵国が急速に追いついてきている、あるいはいずれ追いつく技術を持っており、おそらくすでに追いついています。私たちの軍がアメリカ国民を守るために不可欠であり、民主主義、自由、共和国にとって不可欠であるなら、なぜこの立場を維持して、いいえ、協力しないと言うのですか？

Dario Amodei：それは抽象的な議論ですが、実際の2つの用途を見てみましょう。国内大規模監視は米国が敵に追いつく助けにはなりません。国内大規模監視は、技術的に合法であっても、政府の権限の濫用です。それは除外できます。

完全自律兵器については、私も追いつく必要があるかもしれないと実際に懸念しています。技術はまだ準備できていません。ですから、申し上げた通り、完全自律兵器に絶対的に反対しているわけではありません。信頼性がまだ十分ではなく、監督についての議論が必要だと信じているだけです。そして国防総省と協力してこれらの技術を開発し、サンドボックスでプロトタイプを作ることを提案しました。しかし彼らは、最初から何でも好きなようにできなければ興味がありませんでした。

ですから、存在的な必要性とのバランスを取る必要があります。敵を打ち負かす必要性を私以上に強調した人はいません。しかし正しい方法で戦う必要があります。これは、敵国が戦争犯罪を犯す国がたくさんある、では私たちも戦争犯罪を犯すべきかと言うのと同じです。これが戦争犯罪に当たると言っているのではありません。私が言いたいのは、私たちの価値観の本質は、その価値観を守る方法で勝つ道を見つけなければならないということです。完全な底辺への競争であってはなりません。原則を持たなければなりません。

そしてこれは非常に少数です。この技術は軍ができることを根本的に加速させることができます。提督と話しました。将軍と話しました。戦闘司令官と話しましたが、これは我々ができることを革命的に変えたと言っています。そしてこれは今まで展開した非常に限られた使用事例に過ぎません。では、なぜ私たちの価値観に反する1%の使用事例に固執するのですか？民主的価値観を前進させ、この国を守る99%の使用事例を追求できるのに。そして最後の1%の使用事例も研究して、私たちの価値観と一致する方法があるか理解しようとすることさえできます。これが私たちの立場であり、非常に合理的だと思います。

司会者：何がうまくいかない可能性があるか、1つか2つ例を挙げてください。

Dario Amodei：うまくいかない可能性があることには2つのカテゴリーがあります。1つ目は信頼性に関するもので、間違った人を標的にすること。民間人を撃つこと。人間の兵士が示すであろう判断力を示さないこと。味方への誤射や民間人の殺害、あるいは間違った種類のこと。信頼できないと思うものを売りたくありませんし、自国の人々が殺されたり、無実の人々が殺されたりする可能性のあるものを売りたくありません。

2つ目は監督の問題です。考えてみてください。人間の兵士には、人間が常識を使うことを前提とした責任の連鎖全体があります。1人または少人数が調整する1千万機のドローン軍を持っていると想像してください。そこに説明責任の問題があることは容易に分かります。権力をそこまで集中させることは機能しません。この艦隊を持つべきではないという意味ではありません。繰り返しますが、分かりません。敵が持つでしょうから、いずれ必要になるかもしれません。しかし説明責任について、誰がボタンを握り、誰が拒否できるかについて議論する必要があります。これは非常に合理的だと思います。

司会者：トランプ大統領はAnthropicを左翼のwoke企業と呼びました。この決定はイデオロギーに駆動されていますか？

Dario Amodei：他の関係者が何をしているかについてはコメントできません。

司会者：でもあなたとAnthropicは？

Dario Amodei：はい、私たちは非常に中立的であろうと努力してきたと思います。専門知識のあるAI政策の問題については声を上げます。一般的な政治問題については見解を持たず、考えません。共通基盤がある場合は常に協力しようとします。

例えば、ペンシルベニアで大統領、McCormick上院議員と一緒にイベントに参加しました。エネルギー供給、米国でAIモデルを動かすための十分なエネルギーの確保についてでした。大統領と話し、彼がやっていることの多くの側面に同意すると表明しました。AIを健康分野に活用するという誓約も行い、他にも多くのことをしてきました。

政権のAI行動計画が発表された時、その多くの、おそらくほとんどの側面に同意すると述べました。ですから、私たちが何らかの形で党派的だったとか、公平でなかったという考えは、私たちは極めて慎重に公平であり続けてきました。

そして繰り返しますが、誰かが、大統領であっても、私たちについて意見を持つことは私たちのコントロールの範囲外です。私たちのコントロールの範囲内にあるのは、合理的で、中立で、信じることのために立ち上がることです。

司会者：1から10で、今後連邦政府とこの問題で合意に至るでしょうか、それともこれで終わりだと思いますか？

Dario Amodei：水晶玉はありません。私たちの側では、立場は明確です。この2つのレッドラインがあり、初日から持っています。今もそのレッドラインを主張しています。レッドラインから退くつもりはありません。国防総省と同じ見方ができる地点に到達できれば、合意があるかもしれません。私たちの側として、米国の国家安全保障のために、これがうまくいくよう引き続き望んでいます。しかし繰り返しますが、合意には双方が必要です。

司会者：今夜、大統領と少し話す時間があったら、何と言いますか？

Dario Amodei：こう言うでしょう。私たちは愛国的なアメリカ人です。私たちが行ってきた全てはこの国のため、米国の国家安全保障を支援するためです。軍にモデルを積極的に展開したのは、この国を信じているからです。権威主義的な敵を打ち負かすことを信じています。アメリカを守ることを信じています。

引いたレッドラインは、そのレッドラインを超えることがアメリカの価値観に反すると信じ、アメリカの価値観のために立ち上がりたかったから引きました。サプライチェーン指定と国防生産法という、政府による民間経済への前例のない介入で脅された時、私たちは古典的な修正第1条の権利を行使し、声を上げ、政府に異議を唱えました。政府に異議を唱えることは世界で最もアメリカ的なことであり、ここで行った全てにおいて私たちは愛国者です。この国の価値観のために立ち上がりました。

司会者：Anthropicはビジネスとしてこれを乗り越えられると思いますか？

Dario Amodei：大統領が、Hegseth長官がサプライチェーン指定をツイートした時、不正確な内容を、彼らの合法的な権限を遥かに超える内容を述べました。軍事契約を持つ全ての企業がAnthropicと一切取引できないと言いました。法律が言っているのはそうではありません。法律を指し示す声明を出しました。法律が言っているのは、軍事契約の一部として、いかなる企業もその軍事契約の中でAnthropicを使用できないということです。これははるかに限定的な影響です。

司会者：では、Anthropicがこれを乗り越えられると確信していますか？

Dario Amodei：乗り越えるだけでなく、大丈夫です。この指定の影響はかなり小さいです。長官が出したツイートの性質は、不確実性を作り出すため、影響がはるかに大きいと人々に信じさせる状況を作り出すため、恐怖・不確実性・疑念を作り出すために設計されていました。しかし私たちはそれが成功するのを許しません。大丈夫です。

司会者：批判者はペンタゴンとホワイトハウスの行為を権力の濫用と呼んでいます。これは権力の濫用だと思いますか？

Dario Amodei：再び、これは前例がないという点に戻ります。

司会者：でも権力の濫用ですか？

Dario Amodei：これは以前に起きたことがありません。この指定はアメリカ企業に対して以前に行われたことがありません。そして彼らの一部の声明、一部の表現から、これが報復的で懲罰的であることは非常に明確だったと思います。他に何と呼べばいいか分かりません。報復的で懲罰的です。

司会者：では、法的措置を取りますか？

Dario Amodei：声明で述べた通り、受け取ったのはツイートだけです。実際のサプライチェーン指定は受け取っていません。政府による実際の行動はありません。やると主張していることを述べるツイートがあっただけです。

司会者：正式な情報は受け取っていないのですか？

Dario Amodei：正式な情報は一切受け取っていません。見たのは大統領のツイートとHegseth長官のツイートだけです。何らかの正式な行動を受け取った時、検討し、理解し、法廷で異議を唱えます。

司会者：あなたが言うように彼らがコミュニケーションしているのがこのような方法だとすれば、主要な国家安全保障問題に対処する彼らの能力について何を示していると思いますか？

Dario Amodei：繰り返しますが、これを特定の政権についてのことにしたくありません。特定の人物についてのことにしたくありません。私たちは米国の国家安全保障を支援するためにできる限りのことをしようとしています。だからこそ合意を見つける努力に尽力しています。合意が見つからなければ、戦闘員が紛争に投入される際に引き続き支援を受けられるよう、スムーズな方法でオフボーディングすることに尽力しています。そしてこの国の価値観に沿わないと考える行動に対して立ち向かうことに尽力しています。特定の人物についてではありません。特定の政権についてではありません。正しいことのために立ち上がるという原則についてです。

司会者：Anthropic CEO、Dario Amodeiさんでした。大変ありがとうございました。

Dario Amodei：お招きいただきありがとうございます。



#ダリオアモデイ #AnthropicCEO #Anthropic米国政府対立 #AI国家安全保障 #AI倫理ガイドライン #国内大量監視AI #完全自律型致死兵器 #ペンタゴンAI交渉 #サプライチェーンリスク指定 #国防生産法AI適用 #トランプ政権AI政策 #ピートヘグセス国防長官 #AIレッドライン設定 #Anthropicへの懲罰的措置 #憲法修正第1条表現の自由 #民主的価値観とAI #中露AI競争 #AI技術革新スピード #AI演算量指数的成長 #AIシステムの信頼性欠如 #AI人的監視体制 #Anthropicサービス継続性保障 #AIデータプライバシー侵害 #政府AI監視権限乱用 #Anthropic法的措置予告 #トランプ氏のAnthropic批判 #ポリコレAI企業論争 #AI政策の中立性維持 #機密クラウドAI配置 #国家安全保障用カスタムモデル #ペンタゴン広報官パーネル #AIサンドボックスプロトタイプ開発 #議会AI立法役割 #AI指数関数的成長トレンド #Anthropic公式声明 #米国国防総省AI契約解除 #サイバーセキュリティAI #戦闘支援AI活用 #AI誤射リスク #自律型ドローン責任の所在 #Anthropicビジネス生存性 #政府AI技術格差解消 #AIサプライチェーンリスク事例 #Anthropicツイッター世論戦 #AI権力乱用論争 #民間企業AIガイドライン決定権 #Anthropicエネルギー供給協力 #AIヘルスケア誓約 #Anthropic愛国主義強調 #未来のAI規制枠組み