AIを巡って米国と中国は戦争に向かうのか？ | バイデンの国家安全保障担当補佐官 | コグニティブ・レボリューション

バイデン政権で国家安全保障担当補佐官を務めたジェイク・サリバンが、AI分野における米中競争の現状と今後の展望について詳細に語ったインタビューである。サリバンは、AGIの到来時期については不確実性があるとしながらも、向こう数年以内にそれが実現する可能性を真剣に受け止めるべきだと述べる。米中関係については、競争は避けられないものの、それが紛争に発展しないよう慎重に管理することが重要だと強調している。AI分野での中国に対する輸出規制については、国家安全保障上の必要性から正当化しつつも、全面的なデカップリングではなく「小さな庭と高い柵」という限定的なアプローチを支持している。また、政府機関におけるAI技術の導入遅れや、議会のAI問題への対応不足についても率直に問題視している。

Will the US and China go to war over AI? | Biden's NatSec Advisor | The Cognitive Revolution

Jake Sullivan was the US National Security Advisor from 2021-2025. He joined our friends on the _Cognitive Revolution_ p...

www.youtube.com

ジェイク・サリバン：管理された競争のビジョン

ジェイク・サリバンや。競争が紛争に発展せえへんよう、わしは全力で取り組んどるんや。ちなみに、AI関連のリスクについてもそうやで。わしは「冷戦の時代や！」なんて軽々しく言うタイプやない。全然そんなことないで。冷戦なんて望んでへんねん。

一方が勝って他方が負けるような最終局面は来えへんと思ってるんや。ただ、激しい競争、せめぎ合い、ちょっとした肘の突き合いみたいなんはあるやろな。でも、そういう激しい競争であっても、十分なガードレールがあって、紛争にまでは発展せえへんようにできるんや。

それは管理可能やと思うで。これは基本的に、バイデン政権の後半でわしらが追求した青写真そのものや。つまり、めちゃくちゃ競争はするけど、その競争を集中的に管理して紛争にまで発展せえへんようにするっちゅうことや。そして、それには両国間での管理と深い、集中的な外交的関与が必要なんや。そして、今回の経験で、それが可能やっちゅうことを示せたと思うで。もしこの筋肉を鍛え続けることができれば、非常に強力な人工知能の登場にも耐えられると思うんや。楽観的すぎるかな？

ポッドキャストの導入

ルイサ・ロドリゲスや。リスナーの皆さん、今回のエピソードは、バイデン政権の元国家安全保障担当補佐官やったジェイク・サリバンさんとのエピソードを、コグニティブ・レボリューション・ポッドキャストからクロスポスティングさせてもろてるんや。

コグニティブ・レボリューション・ポッドキャストのホストのネイサン・ラベンツさんに、このエピソードをうちらのフィードにクロスポストさせてもらえへんかってお願いしたんや。なんでかっちゅうと、このエピソードの質の高さと深さを考えると、わしらの意見では全然注目されてへんかったからなんや。AIのリスクと機会についての展望、特に米中間でのAIに関する協調と競争について、すごく興味深い内容がぎょうさん含まれてるんやで。

わしらの番組の常連リスナーやったら、このエピソードの多くの部分が面白いと感じるはずや。特に、高度なAIに対して米国政府と地政学的な状況がどう発展し、どう対応していくんかを考えてる人にはな。ほんまに皆さんにお届けできて嬉しいで。それでは、コグニティブ・レボリューションからジェイク・サリバンさんとネイサン・ラベンツさんをどうぞ。

インタビューの開始

ネイサン・ラベンツや。ジェイク・サリバンさん、バイデン大統領の元国家安全保障担当補佐官で、現在はキッシンジャー記念の国際政治・世界秩序実践教授の初代就任者やね。コグニティブ・レボリューションへようこそ。

ジェイク・サリバンや。呼んでくれてありがとうな。

ネイサン・ラベンツや。楽しみにしてるで。カバーすることがぎょうさんあるからな。質問は簡潔にするよう心がけるわ。普段の俺のスタイルとはちゃうけど、サリバンさんに話す時間をたっぷり取ってもらいたいんや。

まず状況設定から始めたらどうやろ。AIの会話って、みんなが技術の現状や将来の方向性について同じ期待や理解を持ってへんから、ちょっと脱線することが多いんや。

AGIに対するサリバンの見解

ネイサン・ラベンツや。どのくらいAGI寄りなんか聞かせてもらえるか？つまり、強力なAIがいつ頃来ると予想してるんか？どのくらい強力になると思ってるんか？それを他の国内外の危機と比べてどう位置づけてるんか？おまけとして、連邦政府の他の部分と比べて自分をどう評価するんか？

ジェイク・サリバンや。ええ質問やね。ほとんどのええ質問がそうやけど、完全に単純明快な答えはないんや。どのくらいAGI寄りかって？わしは、変革的で強力なAIが非常に近い将来、つまり今後数年以内に来る可能性を非常に真剣に受け止めなあかんと信じてるんや。国家安全保障担当補佐官の時もそう考えてたし、それが明確な可能性やという前提で政策を構築し、戦略的決定を下さなあかんのや。

でも、それが必然やとか、確実に2027年、28年、あるいは2030年までには実現するって信じてるかっちゅうと、そうやない。なんでかっちゅうと、めちゃくちゃ頭のええ人らが、すぐに来るって主張してる一方で、他のめちゃくちゃ頭のええ人らは、実際にはいくつかのことが起こらなあかんし、それには相当長い時間がかかるかもしれへんって主張してるからなんや。AGIや強力なAI、あるいはASIみたいなもんに到達するまでにはな。

やから、わしは明確に可能やという計画前提を立ててるんや。そして、それが来る時、来た時には、経済、社会、そして国家安全保障のあらゆる側面で変革的になるやろう。そして、それは最も緊急で重要な国家安全保障問題と同等やで。なんでかっちゅうと、将来の戦争から国家間の競争力の将来、非国家主体とその脅威の将来まで、すべてに関わってくるからや。

政府内でのAI理解について

ネイサン・ラベンツや。ほんまに困難な認識環境やね。トップ思想家らの意見の相違がめちゃくちゃ極端やからな。これは俺の番組でもよくあるテーマや。

議会はどの辺におるんか、ちょっと話してもらえるか？軍はどうなんか？明らかに各機関はバラバラやろうけど。あなたの考えに最も影響を与えたんは何やったんか？主要な開発者CEOらとの個人的な会話やったんか、それとも技術に直接触れることがどのくらい影響したんか？ワシントンの議論にこういうマニフェスト的な文書がどのくらい影響してるんか？ワシントンの人らはどこから手がかりを得てるんか？

ジェイク・サリバンや。国家安全保障担当補佐官として、わしは本当に幅広いネットワークを築こうと努力したんや。すべてのフロンティアAIラボのリーダーらと会ったし、AI懐疑的な技術者らとも会った。投資家、学者らとも会った。そしてもちろん、米国政府の国家安全保障企業全体を招集し、関与したんや。アメリカの国家安全保障を進歩させるためにAI能力を統合し、採用するために何をしてるんかってな。

実際、国家安全保障担当補佐官としての任期の終わりに向けて、わしらは国家安全保障覚書を発表したんや。ちょっと退屈に聞こえるかもしれへんけど、長い文書やった。実際、トランプ政権も破棄してへんのやけど、国防総省や情報機関を含む米国政府のすべての国家安全保障機関、そして財務省、商務省、国務省などに明確な指示を送ったんや。

その内容は、現在アメリカはフロンティアでリードしてるということや。どのくらいかは議論の余地があるけど、これらの能力を統合し、採用して国家安全保障目的に適用することにおいては遅れを取ってるんや。もっと速く、より緊急性を持って、より器用に動かなあかん。そして、それは今日でも、わしが退任してから6ヶ月以上経った今でも当てはまると思うで。

国防総省内にAIの約束と機会、そしてAIの進歩に伴うリスクと脅威を理解してる人らがおるか？もちろんおるで。優秀な人らや。でも、文化的、官僚的、制度的に、今日存在し、将来ますます存在するようになる能力の全範囲を活用することに対する障害があるか？めちゃくちゃあるで。そして、それを突破するには大統領府からのリーダーシップが必要やと思うんや。

わしらはバイデン政権の後期にそれを特にやったんや。トランプ大統領府からもそういう方向での押しがあるっちゅう証拠を見てるで。

議会についても聞かれたから一言言わせてもらうと、議会について語るんは難しいねん。なんでかっちゅうと、機会と挑戦の両方を理解し、これがいかに変革的になるんかを認識し、自分らがどんな役割を果たすべきかを真剣に考えてる議員らがおるからや。でも、大体において、草案法案や公聴会、大部分の議員の公式声明を見ると、議会がおる場所と、この問題に対する緊急性と優先度の感覚において議会がおるべき場所との間には、まだギャップがあると思うで。

デモの効果と現実世界の影響

ネイサン・ラベンツや。安全に言えることやね。それを変えたい人らにとって、AI安全コミュニティには、議会議員らと時間を取って、怖いデモを見せることができれば、生物兵器作りを手伝うチャットボットとか、少なくとも試してみるようなもんを見せれば、それで人らの注意を引いて、もっと真剣に取り組ませることができるっちゅう考えがあるんや。

そういう認識向上の取り組みが、あなたの考えでは全体の状況をどのくらい変えたんやろか？そのうちのどれかがあなたに届いたことはあるか、あるいはその影響を見たことはあるか？

ジェイク・サリバンや。ああ、デモやね。国家安全保障担当補佐官として何年も前から、確実にわしに印象を与えたで。LLMが何をできるかを説明することはできるし、わしもそれを一貫して理解できるんやけど、実際に能力をライブで色とりどりに見ると、確実に違う種類の影響があるんや。そして、それは多分国会議事堂でも同じやろう。

でも、わしが提案したいんは、一般的に言って、複雑な規制立法分野においては、そしてこれは最も複雑なもんの中の一つやけど、議会は実際に現実世界への影響があった時にだけ反応する傾向があるっちゅうことや。それは9.11のような大災害かもしれへん。それが愛国者法を生んだんや。良い面も悪い面もあるけどな。でも、それはより連鎖的な世界の発展かもしれへんのや。主要産業での雇用の置き換えとか、他国による軍事能力の発表で、アメリカに対して優位性を与えるようなもんとかな。

わしの見解では、技術のデモだけやなくて、そういう瞬間の集合体が議会を実際に行動に移させることになるんやと思うで。そして、それはええことやない。なんでかっちゅうと、カーブの先を行くんやなくて、追いかけることになるからや。でも、それが今わしらが生きてる世界やと思うんや。

そして、トランプ政権は立法を見たくないっちゅう非常に明確なシグナルを送ってるとも言いたいんや。国会議事堂からや、さらには行政府からも何かを押し付ける努力を見たくないんや。そして、その問題を脇に置いたとしても、わしには、これは規則、基準、信頼と安全の観点から何が正しいんかについて確信を持つのが非常に困難な分野に思えるんや。

最初の質問に戻ると、技術がどこに向かってるんか、いつなんかがわからへんねん。やから、わしらが直面してる深刻な不確実性を考慮して、今日座ってあまりにも独断的になるんは非常に困難なんや。そして、それが準備と柔軟性、準備を整え、議会や行政府が将来必要に応じて使用できる一連の規則と基準のツールを開発することが正しいことやと思う理由や。そして、技術の進歩をどう見るかに基づいて、それらをいつ展開するかについての選択は、ワシントンとシリコンバレー、そして国の他の地域との慎重な対話の中で行われるべきやと思うんや。

AI未来への積極的ビジョン

ネイサン・ラベンツや。今日座って長いリストの規則や基準を書こうとするんは運命づけられた取り組みやと思うで。

最近、カリフォルニアのSB 813提案のような、規制環境に動的性をもたらそうとするより創造的な試みについて、いくつかのエピソードをやったんや。規制のための市場みたいなもんがあり得るっちゅうやつやね。

あなたのAI世界観をもうちょっと深く掘り下げてみると、過去4年間、多くの悪いことを予想し、理想的には防止し、そして必要であれば対応することがあなたの仕事やったことは知ってるんや。AI未来に対する何らかの積極的なビジョンを発展させる時間はあったんか？新しい社会契約を想像してるんか？ベルニー・サンダースの4日間労働週間の呼びかけに賛同してるんか？あなたの想像では、このすべての上向きはどんな感じになるんか？

ジェイク・サリバンや。わしの考え方の特徴の一つは、かなり線形で具体的な言葉で考える傾向があることや。やから、新しい社会契約とか、再帰的自己改善がデータセンターの天才国家につながるとか、そういう大きな抽象的概念を理解するんが難しいねん。そういう概念はわしには理解するんが困難やねん。やから、わしはかなり単純で線形な方法で物事を考える傾向があるんや。

わしは大きく4つのバケツがあると見てるんや。セキュリティ、経済、社会、そして存在論的な問題やね。それぞれにリスクと機会の両方があるんや。わしらの仕事は、リスクを非常に具体的に特定することや。セキュリティ分野では、サイバーやバイオのような非国家主体のリスクがある。国家主体の領域では、わしらの敵対者や競争相手による驚異兵器や軍事的優位に関するリスクがある。

でも、セキュリティ領域には機会もあるんや。わしらがフロンティアでリードを維持し、効果的に展開し、適応すれば、AIは実際にアメリカの国家安全保障を強化できるんや。

同様に経済領域では、雇用の置き換えの真のリスクがあるし、注意せえへんかったら基本的に利益が非常に少数に流れることから来る富と権力の集中の真のリスクがある。それは大きなリスクや。そして、生産性、気候やエネルギー、公衆衛生なんかの問題解決に関する大きな機会がある。

やから、わしがやろうとしてることは、よし、リスクについて非常に具体的になって、それらを特定し、類型化することや。機会についても非常に具体的に考えて、それから政府がその機会を増やすか拡大し、リスクを管理し最小化するために取れる手段があるかどうかを考えるんや。答えがイエスやったら行動する。そうやなかったら行動せえへん。それがわしの考え方やねん。

それから4番目のバケツの存在論的なやつがある。ここではわしは今のところ、あまりにも難解やと思うんや。ロボット黙示録とか、超知能が極楽と宇宙につながるとか、そういうやつやね。非常にポジティブなストーリーも語れるし、非常にネガティブなストーリーも語れる。わしにとっては、今のところ存在論的な問題よりも最初の3つのバケツに本当に集中してるんや。セキュリティ領域と経済領域と社会領域で何ができるかってことや。

社会については、誤報や疎外のリスクは現実やけど、すべての人に教師や医者や看護師や個人化された医療へのアクセスを与える機会、これらはワクワクする機会やで。

やから、基本的に退屈な方法で考えてるんや。正直に言うとな。でも、AIについての議論が完全には取り組んでへん方法やと思うんや。ハーバードの研究アシスタントらに、実際のリスクと実際の機会が何なんかを歩いて説明する記事のセットを取ってきてくれって頼んだことがあるんや。見出しやすごいことやドゥーマー主義を超えてな。正直言って、それを深く一貫した方法で実際に歩いて説明してるもんはそんなに多くないんや。

そして、そういう分析がもっとあれば、AIがどこに向かってるんか、そして政府の行動がどこに向かうべきなんかについての会話により大きな厳密性をもたらすのに役立つと思うんや。AIがわしらに不利になるよりもわしらのために働くようにするためにな。

存在論的リスクへの見解

ネイサン・ラベンツや。興味深いね。わしは存在論的な懸念をもっと真剣に受け止めてると思うで。確実に、わしのp(doom)はあなたのp(doom)より高いと賭けるわ。

ジェイク・サリバンや。明確にしとくけど、わしはそれらを真剣に受け止めてるで。ただ、今のところ、わしは個人的に、存在論的な問題にどう対処するかについて決定的な答えを与えるのに、2025年のサイバーリスクやAIがもたらす可能性のある問題、全体的な成長生産性で何が起こるにしても、雇用増対雇用減、多くの人が混乱し、現在提供してるよりもより良い形の社会保険が必要になるっちゅう事実にどう対処するかを考えるより装備が整ってないと感じてるねん。

わしにとっては、実際にこれらの質問に効果的に答え、これらのバケツでリスクと機会を管理できるアプローチのセットを設計すれば、それがミスアライメント、AIリスク、p(doom)、なんでもええけど、そういうより大きな問題に対処するためのより良い準備ができると信じてるんや。それらを軽視してるとか重要やないって言ってるわけやない。わしが示唆してるんは、多くの人がやってるように、すぐにその質問に駆け込むことは、今非常に生きてる挑戦を素通りしてしまうっちゅうことや。それらははるかに難解やなく、はるかに議論の余地がなく、人らがそれらについてどこに立ってるかのスペクトラムがはるかに少ないんや。そして、わしらはこれらの問題に関してコンセンサスを構築するっちゅう困難な作業をせなあかんのや。そうすることで、存在論的なもんを扱うためのより良いポジションに置く筋肉を構築すると思うんや。

タイムラインの前提について

ネイサン・ラベンツや。それは確実に特定のタイムライン前提に依存してるように思えるね。わしの考えを運用化した方法の一部は、ダニエル・ココタイロとAI 2027の人らが正しい可能性を結構真剣に受け止めてるっちゅうことや。フロンティア開発者の一人が今後2〜3年で知能爆発を引き起こすかもしれへんってな。でも、それから、それが起こるとしたら、多分わしにはそれについてできることはそんなにないやろうって感じやねん。やから、たぶんわしは正気を保って、より長いタイムラインとより平凡なシナリオのためにプレイしなあかんのやろう。あなたも同じことを言ってるように聞こえるけど、短いタイムラインにちょっと少ない重みを置いてる感じやね。

ジェイク・サリバンや。わしが言ってるんは、AI 2027の可能性を真剣に受け止めなあかんっちゅうことや。その記事を読んだだけやなく、めちゃくちゃ広く共有したんや。人らに電話して、これはどのくらい正しいんかって聞いたんや。これは完全に信頼できるシナリオやって言う技術者らと話したし、そうやないって言う人らとも話した。やから、もちろんそれを非常に真剣に受け止めてるで。

わしのポイントは、2025年にここに座って、それがわしらが向かってる方向やと仮定しよう。わしはまだ、特定のリスクを管理し、特定の機会を強化するために何をするつもりなんかについて、より具体的でアプリケーション固有の会話が、実際に政策ツールの開発と、この国の技術コミュニティ、政策コミュニティ間で行うことができる会話の深さと具体性の両方で、わしらをより良い準備に置くと信じてるんや。

そして、実際にそれが、そのような極端なシナリオが来た時に、もしそれが来るなら、それを処理するためのより良い形に置くのに役立つと思うんや。そして、今日あなたのポッドキャストに座って、わしは2027年にそれが来る可能性を否定してへんのや。そして、わしは手を上げて、それについてできることは何もないって言ってるわけやない。わしが言ってるんは、わしらが知ってるもん、すでにここにあるもんを通じて作業しようやっちゅうことや。これらの質問にええ答えを得て、そうすることで、知能爆発やテイクオフなんかについてのこれらのより深い存在論的な問題にわしらをより良く準備すると思うんや。それらすべてについて、わしは時間の一部を心配し、研究し、人らと話すことに費やしてるで。非常に真剣に受け止めてるからな。

AI行動計画について

ネイサン・ラベンツや。完璧や。高レベルなことに付き合ってくれてありがとう。それは具体的になることへの完璧な移行やね。AI行動計画が発表されてから約1週間後に話してると思うんや。そこにはたくさんのことが入ってる。期待してなかった人らを含めて、広く好評やったと思うで。あなたの見方から、AI行動計画のハイライトとローライトは何やと思う？

ジェイク・サリバンや。わしの全体的な反応は、フロンティアで先を行くために米国が提供する必要がある投資とサポートの種類を含む、いくつかの重要なポイントで超党派のコンセンサスを反映してたと思うっちゅうことや。他の同じ考えの国々と協力してグローバルAI同盟を構築する分野でもそうやった。そして、バイオに関連するもんを含むリスクとセキュリティ問題の扱い方が称賛に値すると思ったんや。例えば、合成前DNA スクリーニングについて、バイデン政権が大統領令で提案してた提案を再確認したんやからな。やから、そのすべてはよかったと思うで。政治化された要素もいくつかあったと思うけど、現政権の運営方式の特徴やからな。

わしの主な懸念は実際には、このAI競争で中国に先行し続け、高性能コンピュートへのアクセスを拒否する必要があるって言ってることと、トランプ政権がH20決定や他のことで実際にやってることの現実との間のギャップやった。やから、わしの最大の懸念は、AI行動計画とトランプ政権が実際にやってることの間に不協和音があると思うってことで、それがわしには心配やねん。

政府のAI導入について

ネイサン・ラベンツや。輸出規制と中国のことを詳しく掘り下げたいんは確実やけど、もう一つ大きな質問があるんや。豊富さを実際に達成するんか、しないんかっちゅう背景を念頭に置いて、これらすべての行動計画について、政府が実際にこれらの技術を採用する可能性はどのくらいやと思う？

最後に聞いた話では、あなたが違うって教えてくれるかもしれへんけど、バイデン大統領府とトランプ政権の人らから聞いた話では、大統領府にはまだChatGPTや類似のもんは何もないらしいんや。人らは家に帰って自分のコンピュータで詳細な研究クエリを実行して、その結果を覚えて職場に持ち帰ろうとしてるらしいんや。そして、それはグローバルAIリーダーシップへの国家的な取り組みを主導しようとするベースラインとしては、あまりよくないように思えるんや。

その乖離についてどう思う？

ジェイク・サリバンや。乖離やね。わしも認めるで。わしは今、これらのツールの熱心な、控えめに言っても利用者やねん。国家安全保障担当補佐官やった時は、毎日この問題に取り組んでたのに、はるかに頻度少なく使ってたんや。これにはいくつかの理由があるんや。

新技術採用に関する政府の文化は歴史的に遅いし、この場合もそうやねん。特に国家安全保障企業では法的問題があるんや。特に、わしらがハイサイドって呼んでる機密コンピュートなんかでのことやとなおさらや。でも一般的に、大統領府でも機関でも、その他でも、これらのツールの採用統合を加速することが必須やと思うで。あなたの言う通り、アメリカの利益の進歩のためにそれらを効果的に利用してへんかったら、この一連の問題について効果的にリードし、統治することはできへんのは自明やと思うからな。

やから、もっと見るべきやと思うで。これがある程度断片的になるんは明確やないし、他より早い採用者がおるやろう。でも、わしはこれができるだけ迅速に組み込まれることを支持するで。

中東での取引について

ネイサン・ラベンツや。トランプ大統領が中東に行った時に発表した最近の取引、UAEとサウジアラビアとの取引についてはどうや？わしの感覚では、あなたはそれらの取引を支持せえへんかったやろうし、ハリス政権では似たような取引は見えへんかったやろうっちゅうことや。かなり複雑なビジネスのように思えるで。いろんな方向に向かう議論がたくさんあると思う。人らが念頭に置くべき主要な考慮事項は何やと思う？そして、それらの取引についてどういう結論に至る？

ジェイク・サリバンや。わしにとって、これは実際にはそんなに複雑やない。第一に、わしは世界が中国のAIやなくアメリカのAI、中国のチップやなくアメリカのチップで動いてるのを見たいんや。そして、それは拡散を意味するんや。UAEやサウジアラビアのような国々を含む世界中でわしらのチップを売り、データセンターが建設されるのを見るべきやっちゅうことや。これらの国々はAIを国家開発企業の中心部分にすることに深い関心を投資してるからな。やから、一つ目、わしは拡散を信じてる。

二つ目、わしらは高い基準とセキュリティが必要や。中国への転用で輸出規制を無効にするチップの転用がないよう、内部脅威の挑戦、サイバーの挑戦、物理的セキュリティの挑戦などに対処するためにな。そして、わしらはみんなに高いセキュリティ基準を維持させるべきや。

そして三つ目、わしはアメリカが中東を含む世界のどの部分への依存の一形態を別の形態と交換すべきやないと信じてる。やから、わしらは長い間中東の石油に依存してた。中東やその他の場所のコンピュートに依存するようになるべきやないんや。やから、わしはアメリカのAIによるコンピュート構築の大部分はアメリカ合衆国で行われるべきやと信じてるんや。

やから、わしにとって中東から出てくるこれらの発表を評価する際の質問は、ちなみに、それらは本当にただの発表やった。実際に何が起こるんかを正確に知るんは困難や。悪魔は詳細にあるっちゅうことや。わしは必要なセキュリティ基準を満たす限り、これらの国々にチップを売ることを支持するで。でも、わしは売るチップの数に制限を支持するんや。なんでかっちゅうと、将来のすべての構築と将来のすべてのトレーニング実行がオフショアリングされ、アウトソーシングされる状況に陥るべきやないと思うからや。わしはそれが過去の産業であまりにも多くの回数やった間違いを繰り返すことになると思うし、ここでそれを繰り返すべきやないんや。

わしは、UAEのリーダーシップとそのAI野心について深く関与したっちゅうことを最初に言わせてもらうで。米国の技術企業とUAEの技術企業の間のパートナーシップの深化を非常に支持したんや。それを支持し続けてる。でも、わしにとって重要なポイントは、将来のコンピュートへのアクセスで他者に依存することになったらあかんっちゅうことや。コンピュートの大部分をアメリカ合衆国で構築することを確実にしようやっちゅうことやねん。

価値観と制御の問題

ネイサン・ラベンツや。その依存性のことは非常に常識的に思えるで。取引の他の側面として、わしが強調したいんは価値観と制御かもしれへんね。これから中国に入るけど、AIがアメリカの価値観を反映することを確実にするっちゅう話がたくさんあるんや。控えめに言って、これらの国々の政府が本当にアメリカの価値観を支持してるとか、遵守してるって言うには、ちょっと目を細める必要があると思うねん。

そして制御の側面では、これは実際にAI 2027/2028の超知能シナリオをどのくらい真剣に受け止めるかによって、ちょっと違うことをするかもしれへん種類のもんの一つに思えるんや。なんでかっちゅうと、サウジアラビアの5ギガワットのデータセンターは、誰かが再帰的自己改善ループを引き起こすかもしれへん場所の種類かもしれへんって言うかもしれへんからや。それはアメリカの管轄権と制御の外側になるし、そんなことが可能になる前提条件を設定すべきやないのかもしれへん。でも、ここで行こうっちゅう感じに思える。

ジェイク・サリバンや。わしは、最先端のフロンティアトレーニング実行を湾岸や他の多くの国々でもやってほしくないっちゅうことに非常に強く同意するで。アメリカ合衆国でやってほしいんや。そして、電力のボトルネックを壊して、それがここでそれらのトレーニング実行を実施できることの厳しい制約にならへんようにし、アメリカ合衆国でそれらをやるべきやっちゅうことを確実にするんがわしらに課せられてると思うで。

価値観に関しては、民主主義と人権に関してアメリカがしてるのとは異なる価値観を持ってる世界中の国々があるっちゅうのがわしの見解や。湾岸も含めてな。わしらは経済的に、技術的に彼らと取引してる。わしはそれが間違ってるとは思わへん。わしらが何を代表してるかについて明確な目を持ち、弾圧やそういうことを直接支援し、幇助しようとせえへんことが重要やと思うだけや。でも、その議論を論理的極端まで持って行けば、世界中の多くの国々との関係を本当に基本的に断絶することになってしまうし、わしはそれをする準備はないで。

やから、それは要因やと思うし、議論の一部、会話の一部であるべきやし、わしらの国と湾岸の国々の間で定期的にそうなってるけど、わしはそれらの国々や他の同様の状況にある国々をブラックリストに載せるとは言うんが困難やねん。確実にそうはせえへんやろう。

中国に対する同様の分析が適用されない理由

ネイサン・ラベンツや。なんで同じ分析が中国に適用されへんのやろ？つまり、民主主義と人権に対する異なる態度やけど、まだ彼らと取引せなあかん、取引もできるなどなど、そこで言ったことの多くは中国にも適用できるように思える。でも、今日の中国からは何らかの独特の脅威があるような感覚があるように思える。わしはいつもこの質問をするんやけど、ええ答えをもらったことがないんや。

その脅威は何なんか？中西部で育ち、確実にわしらが抱えてた脱工業化問題のいくつかを生きてきたけど、それらは過去のことやと考えてるアメリカ人として、その脅威をどう理解すべきなんか？2025年にここに座って、先を見て、中国がなんで気にかけるべきなんか、中国が何をしそうで心配すべきなんか、湾岸諸国と同じように取引できへん理由は何なんか？

ジェイク・サリバンや。まず、わしは中国からデカップリングすべきやないと信じてるっちゅうことを言わせてもらうで。彼らと経済関係を持つべきやと信じてる。わしらはこの国と激しく競争してるけど、主要国として無期限の将来にわたって互いと並んで生きていく方法を学ばなあかんっちゅうことを記録に残して言ってきたんや。

やから、中国とは全く取引できへんっちゅうことは聞かへんやろう。わしが集中してるんは、わしが小さな庭と高い柵と呼んできたもんで、国家安全保障への応用がある高性能能力を制御し、制限できる場所やねん。

でも、あなたの質問に直接答えるために、中華人民共和国に関して何を心配すべきなんかっちゅうと、わしは具体的になるのが好きで、抽象論だけで語らへんって前に言ったやろ。やから、いくつかの例を挙げさせてもらうで。

第一に、あなたは中国ショックは後ろのもんやって言った。中国ショックの著者、デビッド・オウターと彼の共同研究者の一人が、中国ショック2.0に備えよ、それはもっと悪くなるってニューヨーク・タイムズでかなり説得力のある記事を書いたばかりやねん。

それは中国が戦略産業の大規模補助金の戦略を追求し、その後アメリカやその他で異なるルールのセットに従ってプレイする労働者やビジネスを切り下げる安い商品で市場を氾濫させようとしてるからや。そして、それがチェックされへんまま放置されれば、将来の産業を含む、わしらの基本的な産業基盤のさらなる空洞化の効果を簡単に持つ可能性がある。経済学者はこれを過剰生産能力と呼んでる。

わしは基本的に、中国が他のみんなと同じルールでプレイしてへん国家指導型資本主義に基づく安い製造品で世界を氾濫させることと呼んでるんや。わしはそれが挑戦やと思う。この挑戦に対処するために戦争に行く必要はないんや。でも、G7やその他の他の国々と協調した一連の措置が、それに押し戻すために必要やと思うで。それが一つ目や。

二番目のタイプの挑戦は、2019年に起こったエピソードで最もよく例示されると思うんや。ヒューストン・ロケッツのGMが香港の自由の闘士についてコメントした時や。中国政府は激怒して、基本的にNBAに、この男を黙らせろって言ったんや。NBAは基本的にその特定のポイントで中国の意志に屈しなあかんかった。

今、それはすべてのアメリカ人への脅威か？いいや。でも、全世界が中国のAIで動いてて、中国が効果的にあなたの発言に代償があるって言ってるなら、それはアメリカの生き方への脅威やねん。そして中国はそれをする意欲と傾向を示してきた。やから、それが二番目の挑戦や。

三番目：わしが職についてる間に、ボルト・タイフーンって呼ばれるもんに対処しなあかんかった。これは公に報告されてるし、あまり言えへんけど、これだけは言える。わしらは中華人民共和国による米国の重要インフラへのマルウェアの事前配置を見たんや。そして、それは水システム、電気、パイプライン、何でもかまへんけど、わしらが非常に心配すべきことへの直接的脅威やねん。なんで彼らはそれをやってるんか？

四番目：中国は世界最大の平時軍事増強に従事してる。おそらく人類史上すべてでな。なんで？それの一部は台湾についてで、それ自体のリスクと脅威で、台湾海峡を越えた平和と安定を維持することは米国政策の最重要優先事項でなければならへんと思うんや。それが起こったら完全に破滅的やからな。

でも、彼らはまた、グローバルに異なる方法で権力を投影しようとしてるんや。やから、中国を他の国々と違うもんにしてるのは何か？一つは、彼らが実際にアメリカと競争する属性と能力を持ってる唯一の国で、経済的、技術的、軍事的、外交的に世界の主導的権力としてアメリカを凌駕する野心と合致してるっちゅうことや。

そして、わしは中国がルールを書き、中国が技術スタックを動かし、みんなが中国に依存してる世界は、より多くの強制、より少ない自由、アメリカ人にとってより少ないええ経済機会、そして中国が他者を屈服させるために軍事力を行使する可能性がより大きい世界やと思うんや。それがわしの一連の懸念やねん。

今、これは中国との安定した関係を持つ方法で管理できるんか？わしは相手のワン・イーとの集中的で深い外交に従事したんや。そして、わしは激しい競争と激しい外交を良い効果のために組み合わせたと信じてる。そして、競争が紛争に変わらず、AIリスクに関連する問題を含む重要な問題での協力の余地を維持することも決意してるんや。わしらは中国との間でAIリスク対話を開始して、わしらの両国に挑戦する問題について直接話し合ったんや。

わしは「冷戦の時代や、ベイビー！」ってただ座って言う人やない。全然そうやない。冷戦は求めへん。わしが求めてるんは、アメリカがその生き方を維持する能力を保持し、わしらの価値観を共有せず、強制力を使う意欲を示してきた国にあまりにも多くの能力と権力が蓄積されることによって、その生き方が損なわれ、圧迫され、リスクにさらされることがないようにすることや。率直に言って、最近のレアアース磁石の件でアメリカに対してやけど、他の国々に対してもな。

やから、それがあなたの質問への長い答えやけど、それがわしらが中華人民共和国に関して直面してる一連の挑戦をどう見てるかやねん。

中国の理解について

ネイサン・ラベンツや。そのほとんどは非常に合理的に聞こえるし、巨大な軍事増強を見れば、正確に何をするつもりなんかを疑問に思わざるを得へんよね。善意の答えを提供することもできるけど、あなたの仕事では最初の説明をそのまま受け入れるんは正しくないもんね。完全に理解できるで。

彼らがわしらが何をしようとしてるかをどう理解してると思う？なんでかっちゅうと、太平洋での第二次世界大戦への道のりの短い話は、わしらが日本を石油から切り離したみたいなもんやったからね。彼らは、わしらが全部を狙うか、やられるかの限られた窓があるって感じやった。やから、ここで行こう。このパールハーバーのことをやって、わしらの周囲を押し出し、確立しようと試み、うまくいけば保持できることを願うって。明らかにそれは彼らにとって、その戦争を戦わなあかんかった多くのアメリカ人の男らにとって恐ろしいことやった。

そして、中国政府のリーダーシップクラスが、これは新しい石油や、これは次の大きなもんや、次の変革を推進するもんやってみんなが言ってるのと同時に、チップから切り離されることを見て、わしらが彼らを押さえつけようとしてる似たような場所におると感じないんは難しいように思える。そして、これはわしらが彼らを押さえつけようとしてるならやるであろうことのように思える。

彼らはそれをどう理解してると思う？そして、彼らは間違ってると思うか、それとも根本的な意味で正しいと思うか？

ジェイク・サリバンや。興味深いことに、その議論をする人らは、輸出規制は機能しないっちゅう議論もする傾向があるんや。興味深い重複やね。そして、わしはこれら二つの命題の間にかなり深い緊張を見てるんや。

中国はかなりの程度、輸出規制は無駄やっちゅう自分らの誇大宣伝を買ってると思うんや。なんでかっちゅうと、もっとええチップを作るし、うまくやっていけるからやって。そして、それがわしにとって日本のアナロジーを混乱させるんや。彼らは輸出規制について長々と文句を言うんか？絶対にそうや。これは封じ込め抑制などやって言うんか？彼らは言うで。

彼らが輸出規制に対処するために戦争に行かなあかんと決めたとわしは信じてるか？いや、わしはそれを見てへん。そして、そのアナロジーには一定の優雅さがあると思うけど、これが実際にアメリカが設計する最高性能チップと半導体製造装置を競争相手の手に渡さないっちゅう標的政策やっちゅう証拠を誰かが出すことを要求するんや。わしにとって、それは完全な石油禁輸と同じもんやないし、賢明な国家安全保障措置やねん。

率直に言って、中国を見れば、彼らは自分らが何らかの優位性を持ってると思う物事について、様々な形の輸出規制を含む、一連の独自の国家安全保障措置に従事してるんや。そして、わしはそれらのもののリストについて、おい、それは中国がアメリカを攻撃する選択肢がないと感じる原因となる逆日本・米国のもんやって言う人を実際に見てへん。

これは、権力がますます経済的・技術的用語で測定され、行使される時の競争がどんなもんかやねん。そして中国にはプレイするカードがあるし、アメリカにもプレイするカードがある。そして、わしらはそれらを見て、それらのカードをどうプレイするかについて決定を下さなあかんのや。

でも、わしは高性能チップ制御のせいで中国が軍事的にわしらに打撃を与えなあかんと感じる立場にわしらが中国を押し込んでるっちゅう議論の懐疑論者や。

輸出規制の進化について

ネイサン・ラベンツや。これもタイムラインの問題のように思える。少なくとも短期的には、少なくともAI 2027やダリオ・アモデイのタイムラインが続く限り、AI の重要な側面で中国ができることを制限するっちゅう意味で、輸出規制は効果的やと信じる人らの陣営にわしは自分を置くやろう。2030年にAGIがなくて、わしらがより長期的なシナリオに向かってるとわかったら、よくわからへん。なんでかっちゅうと、彼らが8日で病院を建てるのを見たことがあるからね。やから、5年でチップ産業を構築できることを疑わへん。そうやないかもしれへんけど、誰にもわからへん。

このことについて、どう考える？この進化があったように思えるし、それがわしらは彼らを押さえつけようとしてるんか、彼らはそれをどう理解すべきなんかっちゅう観点から言うと、あなたも言ってるかもしれへんけど、わしが聞いてる話は、わしが輸出規制を擁護して聞いてる話は、わしらはこれらの超最先端軍事応用を拒否したいから、そうやないかもしれへんけど、少なくとも最先端AIモデルを構築する能力を拒否できるから、って感じで、わしらはそれも本当にはできへんけど、これは誇張やないんやけど、わしがシンクタンクレベルでこの輸出規制分析とほぼ同義やったレナート・ハイムから見た最新のもんは、うまくいけばわしらは彼らの10倍のAI ワーカーを投入できるっちゅうことや。

他の能力を拒否することはできへんけど、少なくともわしらの経済で動く AIエージェントの方がはるかに多いやろうっちゅうことやね。そして、これは小さな庭、高い柵から、AIの広範囲な経済的利益の一般的な拒否に移行したように思える。これも、わしが彼らやったら、一般消費者レベルでも、アメリカはわしのAI医者を拒否しようとしてるんか？みたいな感じになると思うねん。それはええ気分やない。

どの時点でわしらは実際にある意味で悪者になるんか、どの時点で彼らがわしらを押さえつけようとしてると理解するんが正しいんか？

ジェイク・サリバンや。わしがこれにアプローチする方法は、多分過度に単純化されてるかもしれへんけど、わしがチップやAIの技術専門家やないっちゅう事実を反映してるんやけど、わしにとっては常識やねん。重要な国家安全保障への応用がある高性能技術があるんや。それらの応用のいくつかは、兵器システムのように精巧やねん。それらの応用のいくつかは、敵対者に対して大きな軍事的・情報的優位性を与える超強力AIを構築するように、より一般的やねん。でも、いずれにしても、それは国家安全保障上の優位性を構築するための投入やねん。

わしらは中国に深刻な競争相手がおる。なんでわしらに対して、わしらの同盟国に対して使われるその投入を彼らに与えてるんか？そんなことすべきやない。それがわしの見方やねん。

今、それがAI競争でどんな影響を与えることになるんか？わしがそれを置く方法は、それがアメリカにフロンティアで明確な優位性を与えると思うっちゅうことや。そして、わしらはその優位性を維持しようと努力すべきやと思うんや。なぜなら、わしの観点からは、フロンティアで先頭に立つことは相当数の国家安全保障と戦略的利益があるからやねん。

やから、それがわしの見解では、輸出規制の背後にある元々の推進力やった。深刻な競争相手に、あなたに対して使われる国家安全保障上の優位性のための投入を提供するなってことや。でも、ゲーミングアプリケーション、幅広い種類の物事については、拒否してることではないように差別的になれってことや。

確実に生成AIと大規模言語モデルが、国家安全保障上の優位性についてのその基本的計算をどう考えるかに影響を与えたんは間違いないことや。間違いなくそうや。そして、それは正確に庭の中に何があるかについて違う風に考えさせたんや。でも、ここでの目標は根本的に、まだアメリカの国家安全保障上の優位性を維持し確保し、それを中国に譲らないことに非常に焦点を当ててるんや。

それは、あなたが指摘する本当のデュアルユースの問題を残すんや。なぜなら、これらのチップは国家安全保障目的に使用できるし、科学的で善意の経済的その他の目的にも使用できるからやねん。ここでわしらが抱えてる挑戦は、中国のシステムでは、彼らには軍民融合の教義があるっちゅうことや。彼らの技術企業は軍事と深いつながりがあるんや。

やから、この目的にはチップを提供するけど、その目的にはしないって言うんは簡単やないんや。それを意味のある方法で実際に実施する方法がないんや。そして、それがわしらが行き着く政策に行き着く方法やねん。

でも、わしらは中国のAI医者へのアクセスを拒否しようとしてるんか？絶対にそうやない。そして、輸出規制政策の機能的結果が中国の人々へのAI医者の拒否になると思うか？わしはそうはならへんと信じてる。

レナートの見解について

ネイサン・ラベンツや。レナートが10倍のエージェントを実行できるって言うんは間違ってると思う？なぜなら、それがその結果のように思えるからやね。

ジェイク・サリバンや。こう考えてみよう。その声明から欠けてることは、わしはその正確な声明の文脈を持ってへんから直接コメントするんは困難やけど、その声明から欠けてることは、わしらがこの会話を始めたことやねん。AGI、ASI、強力なAI、何と呼んでもええけど。

それは来るんか？誰がその能力を最初に開発するんか？何のために？わしはアメリカがその競争に勝つのを見たいんや。中国への高性能コンピュートへのアクセスの拒否がその競争でアメリカにとって優位性やと思うか？わしはそう思う。AIワーカーとデータセンターがそれにどう関わってくるんか？わからへん。

わしが言うのは、軍事能力の開発、情報能力の開発、経済国政ツールの開発のためのフロンティアで先を行くことの深刻な国家安全保障への意味や。広範囲な経済成長だけやなく、強制的経済国政ツール、その他多くのことの中でな。それは、わしがアメリカをそこで見たいっちゅうことを意味し、わしらがある程度制御してる投入があるなら、競争相手にそれを渡して、彼らが先に到達してわしらに対して使えるようにするより、渡さない方を好むってことや。それが制御の背後にある基本的な論理やねん。

この点で、日本のアナロジーは本当にそんなに強くないと思うんや。なぜなら、わしらが超強力人工知能について最終的に話してることは、チップのことは脇に置いて、特定の国家安全保障目的に使用される技術があるとしよう。わしらがそれを持ってるとして、わしらはそれを競争相手に手渡すか？いや、わしらは自分たちのために保持するんや。

他のあらゆるタイプの技術軍事優位性でわしらがやってるようにな。中国は軍事で多くの分野でわしらに追いついてきたけど、わしらはジェットエンジンと極超音速ミサイルなどを手渡さんかった。わしらは、それはあなた次第や、自分で考え出さなあかんって言ったんや。その点でわしらは手助けせえへんってな。

そして、フロンティアAIの国家安全保障への将来がどれほど中心的に見えるかを考えると、非常に高性能コンピュートについて似たような動的があると見てるんや。

ダリオの提案について

ネイサン・ラベンツや。長い間わしの馬の鞍にあった一つの声明は、ダリオの『愛情ある恩恵の機械』エッセイからの提案で、基本的に、わしらはこれらの輸出規制を使ってリードを保持し、国際同盟を構築すべきやって言ってる。あなたもちょっと言及したやつやね。でも、あなたが支持する準備ができてへんかもしれへん一歩を踏み出すと思うんや。それは最終的に、基本的に中国に断れない申し出をするっちゅうことや。彼の言葉を引用すると、「すべての利益を受け取り、優越した敵と戦わないために、民主主義との競争を諦める」よう彼らを説得するってことや。

わしにとって、それは基本的に政権交代として読めるんや。それは行き過ぎやって言うか、わしらはそれを政策として採用すべきやないか？トップAI企業リーダーの3、4人の一人がそれを推してるっちゅう事実についてどう思う？

ジェイク・サリバンや。わしは中国での政権交代が米国政策の目的であるべきやないと明確に言ってきたんや。一般的に、どんな方向であれ、わしらは自分の政策を形作るべきや。わしらの仕事は中国の政府を形作ることやなくて、あるがままの政府と取引し、アメリカの安全保障、経済利益が保護され、わしらの価値観が保護されることを確実にする戦略を設計することや。やから、わしは中国に関して政権交代の人やない。そういう人らは他におる。

もしわしらが著名な技術リーダーらとその様々な地政学的問題に対する見解のリストを作ったとすると、わしが同意する多くの非常に興味深いもん、わしが同意せえへん多くのもんを見つけるやろう。やから、ダリオから多くを受け取らへん。彼を個人として大きく尊敬し、賞賛してるんや。彼は倫理的な人やと思うし、民主的価値観に情熱的やと思う。それはわしにとって賞賛すべきことや。政権交代の政策問題に関しては、彼とは異なる見解を持ってるようやねん。

中国での変化の可能性について

ネイサン・ラベンツや。中国での変化について、もう一つの非常に大きな絵の質問は、あなたのシナリオや世界構築で、そこでの政権が変わる可能性にどのくらいの希望や余地があるんか？それは実際の政権交代を通じてかもしれへんし、進化を通じてかもしれへん。COVIDロックダウンについて見たような劇的な逆転を通じて、かなり突然にな。

最近のKimi K2モデルのリリースに本当に印象を受けたんや。英語のクリエイティブライティングベンチマークで一部をリードしてるし、非常に西洋愛好の美学を持つ会社からも出てるんや。会社はMoonshotって呼ばれ、Dark Side of the Moonにちなんで名付けられてる。

それで、過去数十年間わしらがやってきた関与が、実際に友情の可能性があるような、深いレベルで働いたのかもしれへんって考えてたんや。真剣な意味での2国間の本当の友情やね。そして、それはまだ特定のリーダーシップレベルには到達してへんかもしれへんけど、できるかもしれへん。そういうことがわしらを上向きに驚かせる可能性を期待するんは、あまりにも空想的なんか？

ジェイク・サリバンや。それはわしのベースケースやない。実際、あなたが見たんは習近平の下での権力のより深い統合、すべての意思決定における国家安全保障の中心性、そして彼らの国家安全保障の定義が国内での社会統制やっちゅうことや。そして習近平の掌握の下での中国共産党の深化と強化やねん。それが過去数年間で実際に見たことやと思うで。やから、それが持続する可能性が高いっちゅうのがわしのベースケースや。

でも、もちろん、あなたの楽観的シナリオが実現する可能性を絶対的に排除してへんのや。できるで。わしの主なポイントは、中国内での特定の制度的または体系的結果に明示的に向けられた政策を作るべきやないっちゅうことや。わしらは、中国政府とその中国の人々との関係で何が起こるかを見守るべきやと言うべきやねん。わしらができることは、中国を内部から変えることやなく、わしらの利益を保護し守り、アメリカの利益と価値観により資するような、中国の利益と価値観が支配することを許さへん環境を作ることに関する政策を設定することや。

やから、あなたが言ってることは正しいかもしれへんか？排除できへん。証拠が本当にその方向を指してるとは思わへん。あなたが友達になれるかって言ったから、最後に一つ言わせてもらうで。わしは人と人のレベルで、今日あるよりもはるかに多くの交流を持つべきやと信じてるんや。中国でのアメリカ人学生、前後の文化交流、すべてやね。そして、激しく競争してても、わしらの2つの社会のあらゆるレベルでの間でのつながりを深めることができへん理由はないと信じてる。

わしらは共通点をたくさん共有し、互いと関わることから利益を得ることができる2つの大きな野心的で動的な国やからな。そして、北京の政府の性質について明確な目を保ちながら、わしはそのすべてを支持するで。

世界の他の国々の視点について

ネイサン・ラベンツや。世界の他の国々はこの競争をどう見てると思う？わしらは明らかにチップを輸出しようとしてるし、少なくとも深い財政力を持つ国々にそれを支払うための新しく発表された取引がある。中国は彼らのモデルをオープンソース化してる。先週の上海でのAIイベントでは、国の首相以下が現れて、わしらはAIを全世界が利益を得るオープンソースの公共財にすることにコミットしてるって言ったんや。

わしが3番目から193番目の国におったら、それはかなり魅力的なビジョンやと思うやろうね。ソフトパワー競争はわしらにとってどうなってると思う？

ジェイク・サリバンや。わしはそれを2つの点で考えるんや。一つは、これは意味のある中国によるソフトパワーの動きやと思うで。本当に安いか無料の高品質AIを提供するつもりやってね。人らはそれを好むやろう。

一方で、ほとんどの国はかなり情に流されへんと思うんや。そしてソフトパワーのもう一つの要素は革新と技術的腕前やねん。そして、彼らは誰が実際により良いもんを持ってるかを見てるんや。そして、それが基本的に同等であることが判明し、そうなったら、彼らはより簡単で安いオープンなやつを欲しがるやろう。でも、彼らが見て、おい、アメリカはかなり印象的やって言ってるなら。多くの国がアメリカがAI競争でリードを維持し、時間をかけてリードを拡大することに賭けてるんや。そして、それは独自の形のソフトパワーやねん。

そして、わしが国家安全保障担当補佐官やった時にそれを見たし、今でも見続けてるんや。国々が基本的に、アメリカの技術スタックが好きや、なぜならめちゃくちゃ良いからやって言ってるんや。そして、アメリカは最先端に留まり続けると思うって。そして、それが事実であり続けることを確実にするんがわしらの仕事やと思うし、それがそうなら、このソフトパワーの部分は自分で世話をすると思うんや。

安定した均衡の可能性について

ネイサン・ラベンツや。将来を広く考える時、何らかの安定した均衡を想像できるか？わしの想像では、明らかに核脅威に対するMAD均衡のようなもんはあるけど、わしらは互いを守るために競争しながら、すべての将来にわたって吊り下がる新しいAIのダモクレスの剣を作る軌道に乗ってるような気がするんや。

それでも、わしは超安定やと思えるそのバージョンを想像することさえできへん。多分、ダン・ヘンドリックスらからの超知能戦略文書を見てるやろう。MAIMについて話してるやつや。何らかの安定した均衡を探してる彼らを賞賛するで。でも、それが超安定やと思えるもんのようには響かんかった。

強力なAIの存在下で、これらの大国間で安定した均衡のスケッチはあるか？

ジェイク・サリバンや。あるで。一方が勝って他方が負けるっちゅう最終状態はないやろうって前提で、わしらは主要国として互いと並んで生きていかなあかんっちゅう事実と向き合わなあかんけど、激しい競争、せめぎ合い、ちょっとした肘の突き合いがあるやろうっちゅう管理された競争のバージョンやと思うんや。

でも、その激しい競争で、わしらは十分なガードレールがあって、紛争に波及せえへんようにできるんや。わしはそれが管理可能やと思う。それは基本的に、バイデン政権の後半でわしらが追求した青写真やねん。めちゃくちゃ競争するけど、その競争を集中的に管理して紛争に転落せえへんようにするってことや。そして、それは増強する強力なAIに直面してもずっと持続できると思うんや。

わしはまた、強力なAIがわしら両方を悩ませるリスクを管理するための米中間の直接関与の機会を提示すると信じてる。そして、それは現代版の軍備管理みたいなもんやねん。一方で、わしらは能力を構築してる、他方で、軍備管理と不拡散の両方について互いと話し合ってるんや。

そして、わしらはソビエト連邦と何十年にもわたってかなり効果的にそれをやったんや。やから、安定した均衡っちゅう言葉を使うかもしれへんけど、わしらは大きな大国戦争を避けながら、激しく競争することを諦めることができると信じてるか？わしはそれができると思う。激しく競争し続けて、大きな大国戦争を避けることができると思うんや。

そして、それには管理と、両側の間での深い集中的な外交的関与が必要やねん。そして、この反復でそれが可能やっちゅうことを示したと思うし、もしそのための筋肉を構築し続けるなら、非常に強力な人工知能の登場にも耐えられると思うんや。楽観的すぎるかな？

戦略的支配の追求について

ネイサン・ラベンツや。楽観主義が好きや。でも、戦略的支配の追求を相互に誓って放棄することが必要なんか？なぜなら、各側が戦略的支配のポジションに到達したいっちゅう期待が相互に持たれてるなら、わしらは軍拡競争シナリオにあって、互いを信頼できへんように思えるからや。

このことは核の、サイロは宇宙から見えるけど、どのデータセンターで何が起こってるかは誰にもわからへんのような、何よりもはるかに検証が困難に思える。わしらが戦略的支配を得ようとし、もしわしらがそうしなければ彼らもそうかもしれへんっちゅう概念がある限り、それがいくつかの本当に深刻なリスクを作らへんことを想像するんは困難やと思うんや。もしかしたら管理できるかもしれへんけど、それが管理しようとする競争の形やったら、たくさんの問題を作ってるようなもんやね。

ジェイク・サリバンや。わしの答えはちょっと回避的に聞こえるやろう。なぜなら、率直に言って、すべての良い外交は最終的にちょっと回避と曖昧さに基づいてるからやねん。でも、この段階でのある程度の不確実性は管理可能で、戦略的支配のような概念についての一方または他方の明示的宣言よりも良いと思うんや。

この世界がどんなもんになるんかを正確に語るには早すぎると思うし、可能性の幅が広すぎるんや。やから、石を感じながら川を渡るっちゅう表現があるけど、核兵器に関連する抑止理論や他の何かから借りてきた枠組みを今日押し付けようとするより、基本的にここでわしらがしなあかんことやと思うんや。

わしらはいくつかのテントポールの概念を持つべきや。AIのフロンティアに関してリードを維持したいってこと。わしらが持ってるもんを超えてめちゃくちゃ進歩した能力を持って、わしらをリスクにさらし、それについて何もできへんような他の国がないことを確実にしたいってこと。

コミュニケーションのラインを開いたままにし、間違い、誤算、偶発的エスカレーションがないことを確実にする必要があるってこと。それらすべてをやろう。そして、永続的優位性、戦略的支配に関するこれらの質問は、わしらが正確に何を扱ってるかを理解するようになるにつれて、自分で整理されると思うんや。わしらは今それを理解してへんと思うからな。

やから、政策と戦略について決定的な宣言をして、それらすべてを先取りすべきやないと思うんや。

大きな取引の可能性について

ネイサン・ラベンツや。同じ答えかもしれへんけど、今または近い将来に、わしらが乗ってるデカップリングと競争激化の軌道からわしらを外し、その圧力のいくつかを解放するような、2国間での何らかの大きな取引のバージョンはあるか？

ジェイク・サリバンや。トランプ大統領は彼が大きな取引と呼ぶであろう彼のバージョンについて考えてると思うんや。何が正確に含まれるんかはよくわからへん。大きな取引の概念にはかなり懐疑的やねん。なぜなら、根本的なレベルで、両国は競争し続けるやろうと思うからや。そして、その競争が関係の特徴である限り、それは管理される必要があるし、ただ解決されて片付けられることはできへんのや。

それは米中関係の慢性的な状態で、何らかの戦略的コンドミニアムやG2や大きな取引の治療に影響されないと思うんや。やから、わしらは彼らを打ち負かそうとするか、大きな取引をしてすべてがよくなるかの世界より、管理された競争の世界の方が良いと思うんや。そして、それがわしをちょっと退屈にするかもしれへんけど、正しいレシピやと思うんや。

最近の紛争からのAIと戦争の教訓

ネイサン・ラベンツや。他のすべてが同じなら、退屈な人が権力を握ってる方が好きや。最近の紛争から、AIと将来の紛争について何を学んだか？わしの感覚では、ドローンへのワイヤーがあって、人らがPlayStationコントローラーでそれらを制御してるような、まだそんなに多くはないかもしれへんっちゅうことや。真に自律的なシステムにそういうことを任せるまでには至ってへん。でも、大きな教訓は何やと思う？

ジェイク・サリバンや。完全に見ることができへんけど、現在で将来を垣間見てるんやね。その一つの要素は、ただのスケールと帰属可能性、過去に見てきたのとは異なる形の戦争のやり方で、ウクライナの戦場でそれがどう展開してるかを見始めてるんや。

ここで豊富さ、現代戦争の豊富さっちゅう概念が核心的構成要素として登場するんや。もう一つは、これらのドローンプラットフォームのいくつかに様々なAI能力の組み込みを見始めてることや。まだ人間がループにおるけど、完全に自律的な兵器を持つ世界を垣間見ることができるし、それがどう展開するかを実際に見ることができ、わしらはアメリカの軍事ドクトリンでその教訓にかなり取り組まなあかんのや。

そして、戦闘段階をはるかに超えて考えなあかん。それは情報、兵站、指揮統制やねん。そして、ここでわしらはその紛争でのAI能力の組み込みを見始めてると思うんや。そして、それもわしらが教訓を引き出すことができることやと思うで。

わしの最大の懸念は根本的に、官僚制、議会、防衛関連企業のためにアメリカ軍、国防総省が、規模とスピードでAI能力を採用するのに必ずしも準備ができてへんっちゅうことや。そして、わしはPLA（人民解放軍）がそれをするのにより良い状況にあると思うんや。それがわしを不安にさせるし、それは超党派ベースでわしらみんなにとって尻を蹴るもんであるべきや。

結論

ネイサン・ラベンツや。すごかった。時間と思慮深い議論を本当に感謝してる。そして、他のすべてが同じなら、退屈な人が権力を握ってる方が良いって本当に言う時は心からやねん。他に人らに残したいことはあるか？見てる最大の質問とか、わしらが触れてへん他のこととか、人らに理解してほしいこととか、それともここで終わりにするか？

ジェイク・サリバンや。わしらがそんなにカバーしてへんかった一つのことは、経済と雇用置換のことに触れたけど、わしにとって、これが日常の人らの生活にどう影響するかっちゅうことや。どうやって生計を立てるか、どうやって家族を養うか、どうやって職業的に意味と目的を見つけるかっちゅう点でな。これらは本当に深い質問で、わしが格闘し、今日話したことすべてに加えて、より良い把握を得ようとしてることやねん。

そして、いつものように、これがわしらの経済への影響がどこに向かってるかについて、たくさんの異なる人らからたくさんの異なる答えがあるのがわかるんや。これは、政府がほとんど何もしてへんかった深い国家安全保障への応用を持つ最初の技術やと思うんや。それは本質的に民間セクター主導で推進される技術やねん。

そして、それは政府政策について考える男にとって不快やねん。そして、わしらが話してきたこの点、AIの能力のタイミングと範囲の予測がどれほど幅広いかによって、それがより不快になるんや。やから、それはわしらが住まなあかん世界で、砂に頭を突っ込むんやなく、ベストを尽くし、これについてできる精神を持つんやね。

ネイサン・ラベンツや。参考までに、政治階級が国際関係を正しくやることができれば、労働者階級が平和配当と、彼らが持つかもしれへん余暇時間の追加すべてで何をするかを考え出す能力について、わしは個人的に非常に楽観的やで。

ジェイク・サリバンや。よし、それは公正やね。公正やで。

ネイサン・ラベンツや。もう一度ありがとう。本当に素晴らしかった。会話を楽しんだで。ジェイク・サリバンさん、コグニティブ・レボリューションの一部になってくれてありがとう。

ジェイク・サリバンや。気をつけてな。ありがとうございました。