Anthropicのダリオ・アモデイCEOが、国防総省との契約をめぐる対立について詳細に語ったインタビューである。同社は米国政府との協力に最も積極的なAI企業でありながら、国内大量監視と完全自律型兵器という2つの用途に対して制限を設けている。これに対し国防総省は3日間の最後通告を突きつけ、最終的にAnthropicを「サプライチェーンリスク」に指定するという前例のない措置を発表した。アモデイCEOは、愛国心と民主主義的価値観の両立を主張し、AI技術の急速な進化が法整備を追い越している現状において、議会による規制が必要だと訴える。同時に、自社の技術的限界と信頼性の問題を理由に、現時点での完全自律型兵器への反対を表明している。この対立は、AI時代における民間企業と政府の権限のバランス、そして国家安全保障と市民の自由の境界線をめぐる根本的な問いを投げかけている。
Anthropicと国防総省の対立の背景
お時間をいただきありがとうございます。あなたはAnthropicのCEO、ダリオ・アモデイさんですね。
その通りです。
では最初の質問ですが、なぜAnthropicのAIを無制限に米国政府に提供しないのでしょうか。
そうですね、少し背景を説明した方がいいかもしれません。実はAnthropicは、すべてのAI企業の中で米国政府や米軍との協力に最も積極的に取り組んできた企業なんです。私たちは最初にモデルを機密クラウドに配置した企業であり、国家安全保障目的のためにカスタムモデルを作成した最初の企業でもあります。
現在、私たちは諜報機関や軍全体に配備されていて、サイバー攻撃への対応、戦闘支援作戦など、様々な用途で使われています。こうした取り組みを行っている理由は、私たちは国を守らなければならないと信じているからです。中国やロシアのような専制主義的な敵対国から国を守る必要があると考えています。
だからこそ、私たちは非常に積極的に取り組んできました。私たちには大規模な公共部門チームがあります。しかし同時に、専制主義的な敵対国から身を守る際には、民主主義的価値観を守り、それを維持する方法で行わなければならないと常に信じてきました。
そこで私たちは国防総省に対して、基本的に98%から99%の用途については問題ないが、懸念している2つの用途については例外とすると伝えました。1つ目は国内大量監視です。ここでは、AIによってこれまで不可能だったことが可能になるのではないかと心配しています。
例えば、民間企業が収集したデータを政府が購入し、AIで大量に分析するようなケースです。これは実際には違法ではありません。ただAI時代以前は役に立たなかっただけなんです。つまり、国内大量監視は法律を先取りしているんです。技術の進歩があまりにも速く、法律が追いついていない状況があります。
これが1つ目のケースです。2つ目は完全自律型兵器です。これはウクライナで使われている、あるいは台湾で使われる可能性のある部分的自律型兵器とは違います。これは人間の関与なしに発砲する兵器を作るという考え方です。
とはいえ、これらについても、いずれ敵対国が保有する可能性があると考えています。だからいつか民主主義を守るために必要になるかもしれません。しかし私たちにはいくつかの懸念があります。
まず、今日のAIシステムは完全自律型兵器を作るには全く信頼性が十分ではありません。AIモデルを扱ったことがある人なら誰でも、純粋に技術的な意味で、まだ解決していない基本的な予測不可能性があることを理解しているはずです。
そして監督の問題もあります。もし人間の監督なしで動作できる大規模なドローンやロボットの軍隊があって、誰を標的にするか、誰を撃つかの決定を下す人間の兵士がいない場合、それは懸念を生じさせます。そしてその監督方法について議論する必要がありますが、まだその議論をしていません。
だからこそ私たちは、この2つの用途については許可されるべきではないと強く感じています。国防総省はこの2つの制限に原則として同意し、取引をまとめたいと言っていたそうですが、なぜ合意に至らなかったのでしょうか。
交渉決裂の経緯
いくつかの段階がありました。すべてが急速に進行し、彼らが私たちに与えた3日間という非常に限られた期間によって決まりました。彼らは3日以内に条件に同意するか、さもなければサプライチェーンリスクに指定するか国防生産法を適用するという最後通告を出してきたんです。その話は後でするとして。
その期間中、何度かやり取りがありました。ある時点で、彼らは表面的には私たちの条件を満たしているように見える文言を送ってきましたが、「国防総省が適切と判断した場合」とか「法律に沿った行動をするため」といった言葉がいたるところにありました。だから実際には意味のある形での譲歩は全くなかったんです。
そしてさらなる段階でも、やはり意味のある譲歩はありませんでした。私たちは最初から取引をまとめたいと思っていました。国防総省の立場を知りたければ、国防総省のスポークスマン、ショーン・パーネルが前日にツイートで彼らの立場を繰り返しています。
私たちはすべての合法的な使用のみを許可すると。これは彼らが条件を送ってきた時と同じでした。だから彼らは譲歩していませんし、意味のある形で私たちの例外を認めていません。
大統領は今日、この状況に対応して「彼らの利己主義」、つまりAnthropicのことですが、「アメリカ人の命を危険にさらし、我々の部隊を危険にさらし、国家安全保障を危機に陥れている」と投稿しました。これについてどう思いますか。
昨日と今日発表した声明で述べたように、たとえ国防総省やトランプ政権が私たちに対してこれらの前例のない措置を取ったとしても、通常は外国の敵対国に対して使われるサプライチェーン指定のような措置であっても、私たちはできる限りのことをして国防総省を支援し、彼らが私たちのサービスから離脱して、私たちが望まないことを喜んで行う競合他社に移行するまでの間、技術を提供し続けると言いました。
退出する準備があるということですね。
ええ、私たちは継続性を提供しています。実際、私たちはこのことを深く懸念しています。サービスの中断を深く懸念していて、それはまさにサプライチェーンリスクに指定された時に起こることなんです。サプライチェーンリスクに指定されると、すべてのシステムから撤退しなければならないと言われます。
そして私は現場の制服を着た軍人たちと話をしましたが、彼らはこれが不可欠だと言っています。これがなければ6ヶ月、12ヶ月、あるいはそれ以上遅れると。だからこそ私たちは取引をまとめようと懸命に努力してきたんです。
しかし繰り返しますが、3日間の最後通告、サプライチェーンリスク指定の危険性、すべてのタイムラインは国防総省によって主導されたのであって、私たちによってではありません。私たちは継続性を提供しようとしています。サービスを提供しようとしています。ここで取引をまとめようとしているんです。
では、これはアメリカ人の安全にとって何を意味するのでしょうか。
国家安全保障への影響
いくつか申し上げたいことがあります。短期的には、これは国防総省次第です。私たちはまだ彼らと取引をまとめようとしています。まだ彼らと話そうとしています。
彼らはあなた方と話し合っているのですか。
様々な連絡は受けています。ただ私たちの懸念を満たすものは見ていません。しかし広い意味では、私たちのレッドラインに沿っている限り、彼らと協力することに依然として関心があります。
でも、あなた方はまだかなり隔たりがあるように聞こえますし、今やヘグセス長官はあなた方をサプライチェーンリスクと判断し、そう発言しました。この時点で合意に至ることは可能だと思いますか。
合意には双方が必要です。私たちの側としては、この国の国家安全保障に貢献する意思があります。私たちが提供した条件の下で、つまり私たちのレッドラインの下で、国防総省、諜報機関、より民間の政府機関を含む、政府のすべての部門にモデルを提供する意思があります。
私たちは常にそうする意思があるんです。気分を害したりはしていません。私たちがこの方法で技術を提供している理由は、米国の国家安全保障を支援したいからです。国防総省の役人のためにやっているわけではありません。
特定の政権のためにやっているわけでもありません。米国の国家安全保障にとって良いことだからやっているのであって、それを続けていくつもりです。
なぜAnthropicという民間企業が、国防総省自体よりも軍事におけるAIの使用方法について発言権を持つことが良いと考えるのでしょうか。
まず申し上げたいのは、これは重要な点ですが、私たちの知る限り、現場では誰もこれらの例外の制限に実際に直面していないということです。これらは1%の用途であり、これまで行われた証拠を見たことがないものです。
繰り返しますが、彼らの計画が何であるかは分かりません。しかし、これらの用途が実際に問題に直面したという証拠はありません。私たちは国防総省や政府の他の部門に広く展開されていますが、これらの問題に遭遇することなく展開されています。
さて、この1つか2つの限定的な例外について言えば、長期的には民主的な議論が必要だと実際に同意します。長期的には、実際に議会の仕事だと信じています。
例えば、国内大量監視の可能性について、政府がアメリカ人について作成された大量のデータ、位置情報、個人情報、政治的所属などを購入してプロファイルを構築し、それをAIで分析できるようになった場合、それが合法であるという事実は、修正第4条の司法解釈が追いついていないか、議会が可決した法律が追いついていないように思えます。
だから長期的には、議会が技術の進む方向に追いつくべきだと考えています。しかし議会は世界で最も動きの速い機関ではありません。そして今のところ、最前線でこの技術を見ているのは私たちです。
国防総省には、これらの問題について思慮深く、積極的に考えてほしいと期待していました。だから懸念を持つことなく、議論できると期待していたんです。しかしそれがない中では、技術を見る必要があり、信頼性の観点から何ができるかを見る必要があり、法律を先取りしている方法や法律の意図から逃れている方法を見る必要があります。
これらは非常に限定的な領域ですが、重要だと思います。これらはアメリカ人にとって根本的なものですよね。政府にスパイされない権利。軍人が自ら戦争について決定を下し、それを完全に機械に委ねない権利。これらは根本的な原則です。
しかし根本的な原則の名において、なぜアメリカ人は連邦政府ではなく、民間企業のCEOであるあなたがこれらの決定を下すことを信頼すべきなのでしょうか。
民間企業の選択権と政府の対応
2つの答えがあります。1つは、私たちは民間企業だということです。私たちは自分たちが望むものを売るか売らないかを選択できます。他のプロバイダーもいます。もし国防総省や政府が、私たちが提供するサービスやその提供方法を気に入らなければ、別の請負業者を使えばいいんです。これが通常の対処方法だったはずです。
もし彼らが「国防総省はAnthropicと協力したくない。あなた方の原則は私たちと一致しない。他のモデルを使う」と言ったなら、私は反対したでしょうが、尊重したでしょう。
しかし彼らはそれを国防総省を超えた政府の部分にまで拡大し、懲罰的に私たちの契約を国防総省以外でも取り消そうとしました。そしてこのサプライチェーン指定を行いました。これは基本的に、もしあなたが軍事契約を持つ他の民間企業であれば、その軍事契約に触れる形でAnthropicを使うことができないということです。
つまり彼らは民間企業の行動に介入しているんです。そしてこれを懲罰的以外の方法で解釈することは非常に困難です。私たちの知る限り、サプライチェーン指定がアメリカ企業に適用されたことは一度もありません。
これまでロシア政府との関係が疑われているロシアのサイバーセキュリティ会社カスペルスキー・ラボや、中国のチップサプライヤーなど、敵対国にのみ適用されてきました。彼らと一緒にされることは、私たちが米国の国家安全保障のために行ってきたことを考えると、非常に懲罰的で不適切に感じます。
あなたは米国の国家安全保障のために多くのことをしてきたと言っています。維持したい2つの制限を守っています。Anthropicはここで国防総省よりもよく分かっていると思っているのですか。
そうは思いません。自由市場と自由企業について言えることの1つは、異なる人々が異なる原則の下で異なる製品を提供できるということです。
覚えておいてください、これは単なる利用規約の問題ではありません。私たちのモデルが法的に何をすることが許されているかという問題だけではないんです。私たちのモデルには個性があります。特定のことができます。特定のことを確実に行うことができます。特定のことを確実に行えないこともあります。
そして私たちのモデルが何を確実に行えて、何を確実に行えないかについて、私たちは良い判断者だと思います。そして技術が繰り返し法律を先取りしている様子についても、良い見方を持っていると思います。
しかし長期的にはこれが持続可能ではないというあなたの意見に同意します。長期的な正しい解決策は、民間企業と国防総省がこれについて議論することではないと思います。
議会がここで行動する必要があり、私たちはそれについて考えています。敵対国を打ち負かす能力を妨げないガードレールを課すために議会が何をできるかを考えています。しかし敵対国を、我が国の価値観に沿った方法で打ち負かすことを可能にするんです。
しかしご存知のように、議会は動きが遅いです。
そうですね。だから私たちはその間、一線を画す必要があると思います。
では、議会が行動するまで、あなたはここで固く立ち続けると言っているんですね。しかし米国政府とビジネスをしている企業は他にもたくさんあります。ボーイングは米軍のために航空機を製造しています。ボーイングは米軍にその航空機で何をすべきか指示しません。これはどう違うのですか。
繰り返しますが、2つの点で異なります。1つは、技術の新しさを再度指摘したいと思います。技術が確立されているときは、将軍は航空機がどのように機能するかをかなりよく理解していると思います。航空機は長い間存在していますから。
しかし航空宇宙産業には多くのイノベーションがあります。
確かにそうですが、AIで見られるペースではありません。AIは非常に速く動いています。私はよくAIが指数関数的な傾向にあると話しています。モデルに投入される計算量は4ヶ月ごとに2倍になります。このようなイノベーションのペースは見たことがありません。
しかしそのペースが続くなら、米国政府は決して追いつくことができません。では、長期的にAIが急速に発展するなら、議会が追いつけないなら、その論理はどう適用されるのでしょうか。あなたは長い間、国家安全保障を提供するために米国政府と協力したいと主張してきましたが、背を向けるのはなぜですか。
技術の進化と法規制の必要性
追いつくのは一度だけだと思います。技術のペースは速いですが、生じる問題は少ないものの非常に重要です。繰り返しますが、私たちには2つしかありません。国内大量監視と完全自律型兵器です。
議会と会話をして、それに伴うリスクのいくつかを理解してもらう必要があります。繰り返しますが、これは世界で最もアメリカ的なことです。誰も米国政府にスパイされたくありません。
全く同じ時に、私たちの最大の敵対国は、急速に私たちに追いついている、あるいは最終的に追いつくであろう、おそらくすでに追いついている技術を持っています。そして私たちの軍隊がアメリカ国民を守り、民主主義、自由、共和国にとって重要であるなら、なぜこの立場にとどまって、いや、協力しないと言うのでしょうか。
繰り返しますが、それは抽象的な議論ですが、実際の2つの用途を見てみましょう。国内大量監視は、米国が敵対国に追いつくのに役立ちません。国内大量監視は、技術的に合法であっても、政府の権限の乱用です。
だからそれは除外できます。完全自律型兵器については、実際に追いつく必要があるかもしれないと懸念しています。技術の準備ができていないので、完全自律型兵器に対して断固として反対しているわけではありません。
単に信頼性がまだそこにないと信じているだけで、監督について議論する必要があると考えています。そして私たちは国防総省と協力して、これらの技術を開発し、サンドボックスでプロトタイプを作ることを申し出ましたが、彼らは最初から好きなことを何でもできない限り興味を持ちませんでした。
だから繰り返しますが、実存的な必要性とバランスを取る必要があります。敵対国を打ち負かすことを私ほど強調した人はいません。しかし正しい方法で戦う必要があります。
これは、多くの国や敵対国が戦争犯罪を犯しているのだから、私たちも戦争犯罪を犯すべきではないかと言っているようなものです。これが戦争犯罪に相当すると言っているわけではありません。
私が言っているのは、私たちの価値観の本質は、それらの価値観を維持する方法で勝つ方法を見つけなければならないということです。単なる底辺への競争であってはなりません。いくつかの原則を持たなければならず、これらは非常に少ないんです。
この技術は、私たちの軍隊ができることを劇的に加速させることができます。私は提督たちと話しました。将軍たちと話しました。戦闘指揮官たちと話しました。彼らは、これが私たちができることに革命をもたらしたと言っています。そしてこれらはこれまでに展開した非常に限られた用途に過ぎません。
だから、私たちの価値観に反する1%の用途にこだわるのではなく、私たちの民主主義的価値観を推進し、この国を守る99%の用途を追求できるのに、なぜそうしないのでしょうか。
そして、その最後の1%の用途についても、私たちの価値観と一致する方法で行う方法があるかどうかを理解するために研究を試みることができます。それが私たちの立場であり、非常に合理的だと思います。
何が間違う可能性があるか、1つか2つの例を教えてください。
私が想像できる2つの種類があります。1つは信頼性の考え方に関するもので、間違った人を標的にするということです。民間人を撃つことです。人間の兵士が示すような判断を示さないことです。
友軍への誤射や民間人を撃つこと、あるいは単に間違った種類のことです。私たちは信頼できないと思うものを売りたくありませんし、自国の人々を殺す可能性のあるもの、あるいは無実の人々を殺す可能性のあるものを売りたくありません。
2つ目は監督の問題です。考えてみてください。人間の兵士には、人間が常識を使うことを前提とした説明責任の連鎖全体があります。1人または少数の人々によって調整された1000万のドローンの軍隊があるとします。
そこに説明責任の問題があることは容易に分かりますよね。そこまで権力を集中させることはうまくいきません。だからこの艦隊を持つべきではないという意味ではありません。繰り返しますが、分かりません。
敵対国がいつか持つようになるので、いつか必要になるかもしれません。しかし説明責任について、誰がボタンを握っているのか、誰がノーと言えるのかについて議論する必要があります。そしてそれは非常に合理的だと思います。
トランプ大統領はAnthropicを左翼的でウォークな企業と呼んでいます。この決定はイデオロギーによって動機づけられているのでしょうか。
中立性と愛国心
他の関係者が何をしているかについて話すことはできません。
しかしあなたとAnthropicは。
私たちは非常に中立的であろうと努めてきたと思います。私たちは専門知識を持つAI政策の問題について発言します。一般的な政治問題については見解を持たないようにしていますし、考えてもいません。そして共通の基盤があるときはいつでも一緒に働こうとします。
例えば、私はペンシルベニアで大統領、マコーマック上院議員とイベントに参加しました。私たちのAIモデルに電力を供給するための十分なエネルギーを米国で提供することについてです。
私は大統領と話しました。彼がやっていることの多くの側面に同意していると表明しました。私たちはまた、健康のためにAIを使用することに関する誓約も行いましたし、他の多くのことも行ってきました。
政権のAI行動計画が発表されたとき、私たちは多くの、おそらくほとんどの側面に同意すると言いました。だから、私たちが何らかの形で党派的であったとか、公平ではなかったという考えは、私たちは慎重に公平であろうとしてきました。
そして繰り返しますが、大統領でさえ、誰かが私たちについて意見を持っている場合、それは私たちの制御下にはありません。私たちの制御下にあるのは、合理的であること、中立的であること、そして私たちが信じることのために立ち上がることができることです。
1から10で、将来この件で連邦政府と合意する可能性はどのくらいですか、それともこれで終わりだと思いますか。
私には水晶玉はありません。私たちの側の立場は明確です。私たちには2つのレッドラインがあります。それらは初日からありました。私たちは依然としてそれらのレッドラインを主張しています。
それらのレッドラインから動くつもりはありません。もし国防総省と同じ見方ができる地点に到達できれば、おそらく合意があり得るでしょう。私たちの側と米国の国家安全保障のために、これをうまく機能させ続けたいと思っています。
しかし繰り返しますが、合意には2つの当事者が必要です。
もし今夜、大統領との時間があったら、何を言いますか。
繰り返しますが、私たちは愛国的なアメリカ人だと言うでしょう。私たちが行ってきたことはすべて、この国のため、米国の国家安全保障を支援するためでした。
軍事に私たちのモデルを展開することに積極的に取り組んだのは、私たちがこの国を信じているからです。専制主義的な敵対国を打ち負かすことを信じています。アメリカを守ることを信じています。
私たちが引いたレッドラインを引いたのは、それらのレッドラインを越えることはアメリカの価値観に反すると信じているからであり、アメリカの価値観のために立ち上がりたかったからです。
そして、サプライチェーン指定や国防生産法という、政府による民間経済への前例のない介入で脅されたとき、私たちは古典的な修正第1条の権利を行使して、政府に反対の声を上げました。
政府に反対することは世界で最もアメリカ的なことであり、私たちがここで行ってきたことすべてにおいて愛国者です。私たちはこの国の価値観のために立ち上がってきました。
Anthropicはビジネスとしてこれを乗り越えられると思いますか。
今後の展望と法的措置
大統領が、ヘグセス長官がサプライチェーン指定をツイートしたとき、彼は不正確なことを言いました。それは彼らの合法的な権限をはるかに超えていると。彼は、軍事契約を持つすべての企業がAnthropicと一切ビジネスをすることができないと言いました。
それは法律が言っていることではありません。私たちは法律を指摘する声明を出しました。法律が言っているのは、軍事契約の一部として、いかなる企業もそれらの軍事契約の一部としてAnthropicを使用することはできないということだけです。それははるかに限定的な影響です。
だからAnthropicがこれを乗り越えられると確信しているんですね。
乗り越えるだけでなく、私たちは大丈夫です。この指定の影響はかなり小さいです。ただ、長官が出したツイートの性質は不確実性を生み出すよう設計されていました。影響がはるかに大きいと人々が信じる状況を作り出すよう設計されていました。恐怖、不確実性、疑念を生み出すよう設計されていましたが、私たちはそれを成功させません。
私たちは大丈夫です。
批評家たちはこれを権力の乱用と呼んでいます。国防総省とホワイトハウスがやっていることを。これは権力の乱用だと思いますか。
繰り返しますが、これは前例がないという考えに戻ります。
しかし権力の乱用ですか。
これまで起こったことがありません。この指定はアメリカ企業で起こったことがありません。そして彼らの声明や言葉の一部で、これが報復的で懲罰的であることが非常に明確にされたと思います。
それを他に何と呼べばいいのか分かりません。報復的で懲罰的です。
では、法的措置を取りますか。
私たちが受け取ったのはツイートだけだと声明で述べました。実際のサプライチェーン指定は受け取っていません。政府による実際の行動はありませんでした。彼らがやると主張していることを言うツイートがあっただけです。
正式な情報は一切受け取っていないということですね。
正式な情報は一切受け取っていません。見たのは大統領とヘグセス長官のツイートだけです。
何らかの正式な措置を受けたら、それを見ます。それを理解し、法廷で異議を唱えます。
これが彼らとのコミュニケーションの方法だとあなたが言うなら、主要な国家安全保障問題をナビゲートする彼らの能力について何を物語っていると思いますか。
繰り返しますが、これを特定の政権についてのものにしたくありません。特定の人々についてのものにしたくありません。私たちは米国の国家安全保障を支援するためにできることは何でもしようとしています。
だからこそ、取引を見つけることに尽力しているんです。もし取引を見つけられなければ、戦闘員が紛争に入る際に引き続き支援を受けられるよう、スムーズな方法でオフボードすることに尽力します。
だからこそ、この国の価値観に沿っていないと思う行動に立ち向かうことに尽力しています。特定の人についてではありません。特定の政権についてではありません。正しいことのために立ち上がるという原則についてです。
AnthropicのCEO、ダリオ・アモデイさん、どうもありがとうございました。
お招きいただきありがとうございました。
コメント