AIの急速な発展が核抑止力の根幹を揺るがす可能性について、ホワイトハウスや国防専門家が詳細に分析した議論である。AIが敵対国の核兵器の位置を特定し、第二撃能力を無力化できるかという問いに対し、技術的制約、政治的要因、対抗措置の有効性など多角的な視点から検証を行う。核潜水艦や移動式ミサイルの追跡、ミサイル防衛、指揮統制システムへの攻撃といった具体的なシナリオを通じて、AIが圧倒的な技術的優位性をもたらしても、核抑止力が依然として地政学的パワーバランスの重要な要素であり続ける理由を明らかにする。
AIと核抑止力の関係性
今回お話を伺うのは、ニキータ・ラルワニとサム・ウィンター=レヴィのお二人です。ニキータは弁護士であり政策立案者で、以前はホワイトハウスで技術・国家安全保障局長を務め、米中間の技術競争に関する問題に取り組んでいました。その前は米国商務省のCHIPSプログラム事務局長の上級顧問を務めていました。
サムはカーネギー国際平和基金の研究員で、国家安全保障とAIの交差点に焦点を当てています。お二人は最近、Foreign Affairs誌に「相互確証破壊の終焉?AIが核抑止力にもたらす意味」という素晴らしい記事を共同執筆されました。
AI専門家がもっと核抑止力に注目すべきだとお考えですね。その根拠は何でしょうか?
基本的な主張は、核抑止力が技術的に非常に強力な国家であっても、技術的に劣る敵対国に自国の政治的選好を押し付ける能力を制限する重要な歯止めになっているということです。核抑止力が存在し続ける限り、AIによってもたらされる経済的・軍事的優位性は非常に重要ではあるものの、必ずしも国家が互いを完全に支配できるようにはならないと考えています。国家は核報復への恐れから行動を抑制し続けるでしょうし、主要な核保有国の敵対国に政治的選好を押し付ける能力には依然として大きな制限が残るでしょう。
しかし逆に、もしAIが核抑止力を損なうのであれば、この技術は本当に国家を敵対国を脅迫し、威圧し、支配する能力において比類のない存在にする可能性があります。
ですから、私たちが突入しつつあるこのAI時代において核抑止力が存続するのか、それとも侵食されるのかという問いが、AI競争のリスクと賭け金の両方を根本的に形作ると考えています。
核抑止力の基本概念
この問いがどちらに転ぶかは本当に大きな問題のようですね。一つの国、あるいは複数の国がAGIを構築している世界における核兵器の役割を本当に理解するためには、細かい詳細がたくさんあると思います。
それらを理解するために、いくつかの重要な概念、つまり核抑止力と相互確証破壊について簡単におさらいしたいと思います。まず、核抑止力とは正確には何で、どのように機能するのか、ごく簡単におさらいしていただけますか?
はい、もちろんです。簡潔に言うと、抑止力とは敵対国が核攻撃を含む特定の望ましくない行動を取ることを思いとどまらせる実践を指します。抑止力が機能するのは、敵対国に行動すべきでないと思わせることによってです。それは目的が高くつきすぎるか不確実すぎるため、あるいは行動することで被る罰がいかなる利益をも上回るためです。
抑止力の概念は、前世紀の大部分において国際関係論と国際政治の中心にありました。後ほどこの議論で戻ってくると思われる抑止力の二つの特徴を強調しておきます。
一つ目は、核抑止力が存在している限り、国家は核報復への恐れから核武装したライバルに自国の政治的選好を完全に押し付けることが困難だったということです。
二つ目は、核抑止力の中心的な柱が本当に「第二撃能力」として知られるものに帰着するということです。これは核攻撃に対して壊滅的な核攻撃で応じる国家の能力のことです。
第二撃能力については後で戻りたいと思いますが、まず興味があるのは、核抑止力は実際にどの程度、国家が敵対国を威圧したり圧力をかけたりすることを防ぐのかということです。これは明らかにある程度は真実のようですが、北朝鮮のような大きな例外もあるようです。抑止力の限界は正確にはどこにあるのでしょうか?
核抑止力は威圧や激しい競争、国家間の圧力、あるいは全面戦争のリスクの可能性を終わらせるものでは決してありません。しかしトーマス・シェリングやロバート・ジャーヴィスといった核理論家の従来の見解では、核兵器は国家間のこうした競争の性質を変えるのです。
核の世界では、核兵器を持った時点で、競争やこうした駆け引きのダイナミクスの勝者は、パワーバランス、つまりどちらがより多くの兵器、より強い経済、より多くの資源を持っているかによって決まるのではなく、むしろ度胸のバランスによって決まります。基本的には、どちらがより強い決意を持っているか、どちらが核エスカレーションのより高いリスクを冒す意思があるか、どちらが特定の結果をより重視しているか、という考え方です。
これが意味するのは、国家が核武装した敵対国に対して行使できる威圧には一般的に上限があるということです。なぜなら、領土保全や政権存続といった国家の中核的な政治的利益など、彼らにとって十分に重要な事柄で彼らを威圧しようとすれば、核エスカレーションのリスクを冒すことになるからです。
一つ例を挙げてこれを説明すると、米国とロシアについて考えてみてください。現在、米国は経済的にはるかに優位で、その経済規模はロシアの15倍ほどです。通常戦力でもはるかに優位です。しかし米国がロシアに対して行使できる影響力には実際のところ限界があります。なぜなら、ロシアが十分に重視する問題については、彼らは常に核エスカレーションのリスクを高める動きや核事故のリスクを高める動きを脅しとして使えるからです。
そしてそれは、米国が彼らに対して本当に行使できる影響力にかなり大きな制限を加えるのです。
第二撃能力の重要性
なるほど、それは重要に感じますし、また出てくると思います。今のところは、第二撃をよりよく理解したいと思います。実際には弾頭の数ではなく、核兵器の威力、つまり爆弾の大きさでもそれほどではないのですね。
基本的には、この安全な第二撃なのです。では、それが正確には何で、なぜ重要なのか説明していただけますか?
もちろんです。安全な第二撃は、先ほど申し上げたように、核抑止力の要です。それは核攻撃を吸収した後に報復する国家の能力のことです。二つの核大国が、敵対国に受け入れがたい損害を与えられる第二撃能力を信頼性高く維持できる限り、第一撃は自殺行為となるでしょう。
安全な第二撃能力を維持するためには、戦力が生存可能でなければなりません。つまり、核戦力のかなりの部分が潜在的な敵対国の攻撃を生き延びることができ、危機や紛争を通じて持ちこたえる必要があるということです。
国家は概して、核戦力の生存可能性を確保するために異なる戦略を追求しています。しかし米国を例に取ると、私たちには戦略核戦力の三本柱があります。地上配備の大陸間弾道ミサイル、原子力潜水艦が搭載する潜水艦発射弾道ミサイル、そして空中配備の爆撃機です。
そして多くの冗長性が組み込まれており、生存可能性への異なるアプローチがあります。例えば、兵器を強化されたサイロに保管したり、移動させたり、水中で極めて発見困難にしたりといったことです。そしてこれらすべてを、報復能力を維持しようと試みるために行っています。
異なる国が第二撃能力の確保に対して異なるアプローチを強調してきたことは指摘する価値があるかもしれません。米国にはニキータが言及した三本柱があります。英国は核潜水艦のみを持っています。ロシアと中国には道路移動式発射装置があり、これは基本的に核ミサイルを搭載した大型トラックで道路や高速道路を走行します。これは米国では政治的に実行不可能と考えられました。なぜなら人々は核兵器が自分たちの都市を走り回っているのを見てあまりにも怯えてしまうからです。ですから米国には道路移動式発射装置がありません。
ですから異なる国家が異なるアプローチを取ってきましたが、それらはすべてこの回復力、冗長性、生存可能性という考え方を中心に展開しています。
なるほど。なぜ米国が道路移動式発射装置を持たないのか、本当には知らなかったのですが、それが政治的に実行不可能だからというのは理にかなっています。核兵器が米国の高速道路を走っているという考えに私は驚くほど不安を感じるので、私たちがそれをしていないことにちょっと安心しています。
安全な第二撃を損なうとは、実際のところ正確にはどういうことでしょうか?
この質問は本当に私たちが探求することに興味を持ってきたことの核心に迫るものであり、AIがどのように核抑止力を損なうかもしれないし損なわないかもしれないかについて、より厳密な探求の舞台を設定するのに役立ちます。
これについて考える方法はおそらくたくさんあると思いますが、私たちが考えた方法は、大まかに言って国家が敵対国の第二撃能力を損なう方法が三つあるということです。
一つ目は、国家がライバルの核兵器庫全体を「見事な第一撃」と呼ばれるもので破壊できることです。これには核潜水艦や移動式発射装置の位置を含む、敵対国のすべての核兵器の正確な位置を特定する必要があります。
第二撃能力を損なう二つ目の方法は、国家が核指揮・統制・通信ネットワークを無力化することで、ライバルが報復攻撃を発射するのを防ぐことができることです。これらは核に関する意思決定を支援し、その決定を実行のために現場の核戦力に伝達するネットワークです。
そして最後に、国家はミサイル防衛を強化して、ライバルがもはや信頼性高く核報復を脅すことができないようにすることができます。
ですから全体的な問いは、AIの進歩が国家にこれらの能力を与えるかどうかということです。そして後で必ず触れることになると思いますが、もう一つの問いがあります。それは、これらの能力がその後どのように地政学的支配に転換されるのか、されるのかどうかという問いです。
核潜水艦の追跡可能性
なるほど、詳細に入ることに興味があります。AIは人間が本当には解決できない種類の問題を解決するのに本当に優れている可能性が高いと思いますし、したがってこの安全な第二撃を確保できると思います。しかし直感的には、AIが何でも魔法のように解決できるように感じるかもしれませんが、実際には聞こえるよりも難しいかもしれないとも想像できます。ですから、異なる国の核兵器庫の異なる要素を一つずつ見ていき、これがどれほど現実的かを見極めることに興味があります。核潜水艦から始めましょう。
核潜水艦は、正しく覚えていれば、非常に、非常に生存可能です。なぜなら海中で非常にゆっくりと静かに移動しているものを追跡するのは本当に難しいからです。なぜそうなのか説明していただけますか?
はい、核潜水艦は一般的に三本柱の中で最も生存可能な脚と見なされており、特に米国にとってそうです。米国の潜水艦は極めて発見困難です。それには本当に三つの核心的な理由があります。
一つ目は、海が巨大だということです。海がどれほど大きいかを過小評価するのは簡単だと思います。ここでの捜索問題の規模は途方もなく大きいのです。数千万平方マイルの海で、これらの比較的小さな物体を見つけようとしているのです。
二つ目は、おっしゃったように、水は私たちが一般的に物を検出するために使うものの多くを遮断するということです。海水は電磁放射線をほぼ完全に不透明にするため、表面や空中の標的に対してはかなりうまく機能するレーダーのような技術が、潜水艦を見つけるにははるかに役に立たないのです。覚えておいてください、潜水艦はパトロール中には何ヶ月も水中に留まることができるのです。
国家は一般的に音響的手法に限定されていますが、水中で大きな距離を伝播するのは低周波の音波のみです。そしてその過程で、音を歪める複雑な海洋学的現象すべてと相互作用します。海の多くの部分は多くの環境騒音を含んでおり、海は商業海運の増加に伴い実際に時間とともに騒がしくなっています。そして潜水艦はこの背景騒音に対して非常に低いレベルの信号しか生み出しません。
三つ目、そして最後に、現代の潜水艦は静粛性のために設計されています。ですからプロペラの設計、船体のコーティング、内部機械、これらすべてが騒音を最小化するように設計されています。原子力潜水艦は他の潜水艦から検出するのが非常に困難で、時には水中で衝突することさえあります。
それは驚くべき事実ですね。今まで聞いたことがありませんでした。そしてそれは本当に、水中で潜水艦を見つけることがいかに難しいかについての私の直感を理解する助けになります。
海がどれほど巨大で不透明かを本当に理解することは本当に難しいと思うことにも同意します。その一部は、私たちが地図上でそれらを見て、表面積を見て深さを見ないことです。そしてその体積が、これがこれほど難しい問題である理由の大きな部分なのです。これは道路移動式ミサイルを持つ国の表面だけではありません。これははるかに広い領域なのです。
まさに。これは本当に干し草の山の中の針を見つけるようなものです。その針は可能な限り見つけにくいように設計されており、すべての針を同時に、まったく誤りの余地なく見つける必要があるのです。ですから、本当に極めて困難な捜索問題なのです。
AIによる潜水艦追跡の可能性と限界
なるほど、それは本当に役立ちます。もう一つ忘れがちなことは、海には山があるということだと思います。私はそれを魚以外はほとんど空っぽだと想像しがちで、潜水艦を見つけたければ魚とは異なって見えるはずで、これらの技術を使えばそれほど難しいはずがないと思ってしまいます。しかし実際には非常に、非常に複雑な環境なのです。日常的にはそれほど顕著ではありませんが、実際に考えてみると、それがこれがこれほど難しい問題である理由なのだと思います。
その通りです。
AIが敵対国に核潜水艦を追跡して標的にすることを可能にするという最も説得力のあるストーリーはどのようなものでしょうか?問題が難しいことは分かっていますが、AIに非常に強気な人々が、AIがこれをうまく成し遂げる方法を説明すると考えているバージョンは何でしょうか?
これについて考える方法は二つあるかもしれません。最初のものを括弧に入れて、後で戻ってくることができます。
一つ目は、これらの異なるタイプの質問の多くに当てはまることですが、AIは今予測できない全く新しい方法を発明できるかもしれないということです。今考え抜くのが非常に難しいだけです。ですからその答えのセットには後で戻れるかもしれません。
もう一つの考え方は、国家が現在行っていることと最も連続的で、最も妥当に思えるAIが使える方法は何かということです。そこでのストーリーはこのようなものになるでしょう。機械学習を使って何千ものセンサーからのデータを統合し、ノイズを除外し、人間が見逃すであろう微かな特徴を識別することができます。
特に、AIを使ってソナーを含む複数の異なるセンサーからのノイズの多いデータを融合できますし、「磁気異常検出器」と呼ばれるものも使えます。潜水艦には鋼鉄の船体があり、これは局所的な磁場を乱します。これを検出できるかもしれません。そして衛星ベースの合成開口レーダーも使えます。これは通過する潜水艦によって海面に生成される非常に小さな航跡パターンを識別できるかもしれません。
ですからそれらすべてのデータを融合できます。また自律型水中航行体を使って巡回し、衛星と継続的に連携して、永続的な海洋全体の監視ネットワークを構築できるかもしれません。そしてそのすべてのデータを信号傍受や人的諜報、国家が持つ他のデータソースと組み合わせれば、AIシステムを使ってより効果的に潜水艦を追跡できるかもしれません。また、AIシステムを使って、国家が自国の潜水艦を追跡して通信するために使用するシステムにハッキングできるかもしれません。
ですから、国家がAIを使って核潜水艦を追跡する方法についての一つの妥当なバージョンのストーリーです。
なるほど。私には説得力があるように聞こえますが、実際にはこれがうまくいかないと考える理由もいくつかあるという印象も持っています。それらの理由のいくつかを説明していただけますか?
はい。まず、「異なるセンサーからの異なるデータをすべて統合する」と言うのは簡単に聞こえますが、これは極めて困難な技術的問題であり、これらの改善が生み出せるものには限界があるでしょう。繰り返しますが、この全体のあらゆる部分に大きな不確実性があることを括弧に入れておくべきです。私たちは将来の技術的発展について話しており、国家の現在の能力についても不確実性があり、技術の性質についても不確実性があります。ですからここには大きな不確実性があります。
しかしそれを踏まえても、これは本当に難しい技術的問題なのです。海中領域の物理学は過酷です。どんなシステムも、海洋の背景騒音の中で複数の標的を継続的に識別し、追跡し、監視するのに苦労するでしょう。特に潜水艦がより静かになり、海がより騒々しくなっている現在、そうです。
海の一部でさえ透明にするために必要な無人水中航行体の数は途方もなく多くなるでしょう。これらの航行体のほとんどは持久力が非常に低く、秘密通信範囲も非常に限られています。
そして何百万ものセンサーを海洋の周りに配備したいのであれば、それも困難でしょう。なぜなら全面的なカバレッジが必要であれば、それらのセンサーの一部を係争水域に置かなければならず、それ自体が妨害や干渉のリスクを伴うからです。
ですから、これが困難だと考える最初の理由は、それが難しい技術的問題であるということです。第二に、国家が何もせずに対応しないということはありえません。
そしてこれは、この議論のあらゆる要素に当てはまることになります。これは攻撃と防御の往復ダイナミクスになるでしょう。そして国家は、有利に働くように天秤を傾けるために使える多くの対抗措置を持っています。信号を妨害したり、欺瞞的なデコイでセンサーデータを操作したりできます。例えば、潜水艦の録音を増幅された水中音響源に流すだけでいいのです。
そして国家はこれらの技術の多くを自国の潜水艦を保護するためにも使えます。例えばロシアと中国は、これらの水中センサーや水中ネットワークを使って自国の潜水艦を保護できます。これらの潜水艦は一般的に自国の本土に近い水域で活動しており、そこでは保護がより容易です。国家が潜水艦の検出、追跡、標的化のプロセスのあらゆる段階に不確実性を加える方法はたくさんあると思いますので、それはおそらく確率的な問題であり続けるでしょう。
そして国家はおそらく、すべてを一度に取り出せると非常に確信していない限り、敵対国の核潜水艦を標的にしたくないでしょう。なぜなら各潜水艦には最大200発の弾頭を搭載できるので、潜水艦が一隻でも逃れれば、それはおそらくいかなる有意義な勝利の概念からもあなたを奪うのに十分だからです。
ですから、これは本当に難しい問題です。この点について一つの良い最近の論文を指摘しておきます。トム・ステファニックのものです。ショーノートに入れられると思います。その論文で、彼は展開する可能性の高いこれらの攻撃/対抗措置のシナリオの多くを検討しています。そして彼の見解では、弾道ミサイル潜水艦は今後20年以上にわたって信頼性の高い第二撃核戦力であり続ける可能性が高いと考えています。それが彼の見解です。
技術進歩のスピードと対抗措置
なるほど。ではピンを留めておくべきことの一つは、これは進歩が有意義であると仮定していますが、AIやAGIを持たない敵対国が対応して有意義な防衛能力を構築するのに十分な時間がないほど速くはないということです。ですからそこにピンを留めて、実際には進歩が速すぎて敵対国が対抗措置で対応できないというシナリオについて話すかもしれません。
敵対国が対抗措置で対応できるペースで物事が進んでいる世界では、音響モデリングやリアルタイムデータ融合のようなものにおいて、核潜水艦が識別可能になる短期的な攻撃的機会を生み出すほど突然のブレークスルーがある可能性はまだあるでしょうか?そしておそらくそれは永遠である必要はなく、もし機会があれば、国家はそれを使うことを選択できるということです。敵対国がまだ防衛を構築できていないとある程度確信しながら。
はい、それは可能です。ここで興味深い歴史の一片があるかもしれません。冷戦中、特に1960年代から1980年代にかけて、米国は実際にソ連の潜水艦を追跡することにかなり優れていた時期がありました。それは一部は地理的な理由、一部は技術的な理由でした。ソ連の潜水艦は米国のものほど静かではなく、またグリーンランド、アイスランド、英国の間のギャップという非常に狭いチョークポイントを通過しなければなりませんでした。外洋に出るためにこれらの狭いチョークポイントを通過しなければならなかったので、米国海軍がソ連の潜水艦を追跡することに実際にかなり優れていた期間があったのです。米国にはこの問題がありませんでした。なぜなら米国は西海岸と東海岸から数千万マイルの海に直接アクセスできるからです。
ですから、国家が異なる時期により確信を持つ機会が得られることは可能です。しかし繰り返しますが、ここでの問題全体に戻ってきますが、それは必要な確信のレベルと、同時に取り出す必要がある冗長性の程度、異なるシステムの程度なのです。他国の潜水艦を追跡することで大幅に向上するだけでは十分ではありません。すべての潜水艦、すべての道路移動式発射装置、すべてのICBMを持っていることを知る必要があります。少し後で触れると思います。
ですから、機会の窓が現れる可能性を排除したくはありませんし、後でそれについて触れられますが、国家がこの問題に対処するために多くの資源を費やし続ける可能性が高い、非常に困難な状況であることに変わりはありません。
なるほど。不確実性と、実際に国家がこの種の機会があると思った場合に何をするかについては後で戻りましょう。
道路移動式ミサイルに移りましょう。中国とロシアでは道路移動式ミサイルにより重点が置かれているとおっしゃいましたね。それはまた、そこに住んでいる場所なら本当に恐ろしいことに聞こえます。これらを見つけるのが非常に難しい理由は何ですか?
道路移動式ミサイルの隠蔽と発見
基本的なストーリーはサムが潜水艦について話していたことと非常に似ています。道路移動式発射装置は潜水艦と同様に、隠蔽され、カモフラージュされており、一つの場所に長く留まりません。ネットの下、橋の下、トンネルの中に隠れることができる車両に搭載されており、ある隠蔽された場所から次の場所へと運転されます。
一歩下がって、これらの発射装置の生存可能性は、一方では隠す側がそれらを隠し続ける能力と、他方では探す側がそれらを見つけて追跡する能力との競争に本当に依存しています。
少なくとも歴史的には、隠す側にはいくつかの本当の利点がありました。移動式発射装置を遠隔地に送ることができますし、移動式発射装置を追跡を困難にするために特別に選択された時間に短時間で移動させることができます。例えば夜間や広範囲の雲に覆われた時などです。
対照的に、見つける側はいくつかの障害を克服しなければなりません。敵の領土の奥深くですべての移動式発射装置を追跡しなければなりません。危機の際には、発射装置を見つけて、国の核戦力の残り部分への攻撃と連携して、ほぼ同時にそれらすべてを破壊しなければなりません。そしてこれらすべてを、敵対国が監視や情報収集能力を妨害するためにできることをすべて行っている間に、比較的短い数分または数時間の期間で行わなければなりません。
なるほど。つまり、それは極めて困難に聞こえますし、また直感的にはAIが解決するのに完璧な問題のように感じます。AIがこれに成功する可能性があるというケースをまず説明していただけますか?
もちろん。多くの点で、これはAIシステムの実証された応用です。米国はおそらくすでに衛星、信号傍受、航空機などから大量のデータを持っていますが、そのデータは現在、人間のアナリストが消化する能力を上回っています。
そして国家はおそらく、これらの移動式発射装置の画像のかなりの在庫も持っています。それらの多くは北京で公然とパレードされているだけです。オープンソースでこれらの発射装置の画像を、それらの特徴、どれくらい速く運転するか、重量などの情報とともに見つけることができます。これらの画像と特徴を使って、機械学習アルゴリズムを訓練して、諜報活動の処理を劇的にスピードアップし、これらの車両に対する作戦を行いやすくすることができるでしょう。
ですから多くの点で、おっしゃったように、これはある種の古典的な「大きなデータセット内のパターン認識」タイプの問題で、多くの点でAIに適している可能性があります。ここでの重要なことは、AIが捜索する必要がある領域を劇的に削減できるということです。そして同様に、攻撃する必要がある領域を潜在的に桁違いに削減できるということです。
これが何を伴うかを具体的に説明すると、これに関するモデリングのほとんど、機密扱いされていないモデリングでは、これらの発射装置を見つけたら、基本的にその領域を自国の核弾頭で爆撃するだけです。国家は限られた数の核弾頭しか持っていないので、標的を比較的慎重に選ばなければなりません。ですから、これらのAIシステムを使って捜索領域と標的領域を劇的に縮小できれば、これらの道路移動式発射装置に対する自国の核による第一撃で見事な第一撃を成功させる可能性を高めることができるでしょう。
なるほど。では賛成のケースはそうです。防衛側の国が道路移動式発射装置を隠し続けるためにどのような選択肢があるでしょうか?
核抑止力のあらゆる要素と同様に、攻撃/対抗措置の反応がある可能性が高いです。ショーノートに入れられるもう一つの素晴らしい論文があります。トーマス・マクドナルド(以前はカーネギーに在籍、現在はローレンス・リバモアにいます)が最近この論文を発表しており、そこで彼は隠す側が発射装置を隠し続けるために採用できるいくつかの対抗措置を説明しています。その中には非常に単純で低技術なものもあれば、より複雑なものもあります。
最も単純には、隠す側は昔ながらの低技術なソリューションを採用できます。例えば道路をネットで覆ったり、デコイを構築したりすることです。デコイとは移動式発射装置のように見えて行動するように作られた車両ですが、実際には移動式発射装置ではありません。これにより、見つける側が監視して潜在的に攻撃しなければならない車両の数が増加し、どの検出についてもその確実性が低下します。
より劇的には、危機の際に国家は対衛星兵器を使って衛星を破壊または損傷し、カバレッジに穴を作り、隠す側がそれを利用して発射装置を移動させることができます。これは明らかに挑発的な措置なので、平時には可能性が低いですが、紛争シナリオでは使用される可能性があります。
ここでの大きな絵は、国家が正確にどう反応するかを予測することは不可能ですが、対抗措置が利用可能であり、移動式発射装置の生存可能性を重視するのであれば、それらを使用するあらゆるインセンティブがあるということです。もちろん、見つける側も革新できるので、より大きな不安定性につながる可能性のある措置/対抗措置のサイクルが期待されるかもしれません。
このセクション全体から持ち帰るべきことの一つは、AIシステムが潜水艦や道路移動式発射装置の追跡を容易にする可能性があるとしても、防衛側の国家には第二撃能力の生存可能性を強化するため、あるいは少なくとも第一撃の発射を検討しているかもしれない国家の信念に十分な不確実性を注入して、そうすることについて非常に慎重に考えさせるために取れる多くの選択肢があるということです。
そして彼らが利用できるこれらの選択肢の多くは、同等レベルの技術的洗練を必要としません。これらの多くは、捜索領域を大規模に拡大したり、標的にする必要がある選択肢の数を大規模に増やしたりするための、かなり低技術な措置です。発射装置をより速く運転させるといったことを通じて、これは高技術な動きではありませんが、第一撃の発射を大幅に困難にすることができます。
ミサイル防衛の現実と限界
低技術性が私にとって印象的だと思います。他国が主導国と同等に優れたAIを持っている必要はありません。AIが高速道路上の鶏の金網を見通すのに苦労し続けるということであればいいだけで、それは驚きのように感じます。
ミサイル防衛に移りましょう。ミサイル防衛について初めて学んだとき、それは大きな問題になる可能性があるように聞こえました。もし着弾する核ミサイルを防御できれば、たとえ彼らに多くのミサイルが残っていても、基本的に第二撃を達成することを不可能にできます。
数十年後、私の印象では誰もミサイル防衛を信頼性高く行うことができません。そして、空中のミサイルを撃ち落とすことは弾丸で弾丸を撃つようなものだという有名な類推があると思います。何が正確にそれを非常に困難にしているのか説明していただけますか?
はい。ミサイル防衛システムはほぼ不可能なことをしなければなりません。発射を検出し、音速の20倍で宇宙を移動する潜在的に数百のミサイルを追跡し、将来の軌道を推定し、迎撃機でそれらを破壊する、これらすべてを30分未満で行う必要があります。これは米国とロシアまたは中国の間を移動するほとんどの地上配備ミサイルのおおよその飛行時間です。これは実際、Netflixの新しいキャスリン・ビグロー監督の映画「A House of Dynamite」でかなり効果的に劇化されたばかりです。
他の人々が指摘しているように、米国のミサイル防衛は最終的には単独のICBMに対しては効果的である可能性が高いですが、ミサイルの一斉射撃に直面した場合、その命中率は劇的に低下するでしょう。おっしゃったように、ミサイル防衛は弾丸で弾丸を撃つことに例えられてきました。実際のところ、それはおそらくそれよりも少し簡単です。弾丸で弾丸を撃つことは明らかに信じられないほど難しいです。しかしそれでも非常に、非常に困難です。
イスラエルのアイアンドームのようなものと、ロシアや中国からの核攻撃に対して米国本土を防衛しようとするミサイル防衛との違いを明確にする価値があるかもしれません。聴衆はアイアンドームが非常に効果的だという感覚を持っているかもしれません。
ロシアや中国からの全面的な核攻撃に対して米国を防衛することは、中東の文脈でレバノンや他の近隣諸国から発射されるかなり小さなロケットから小さな国の小さな地域を保護することよりも、はるかに困難な提案です。
そしてこれがどれほど高価で困難かについての文脈を示すと、現在米国は、北朝鮮のICBM兵器庫を阻止できる可能性があるが、ロシアの規模のものは確実に阻止できないミサイル防衛システムを構築するために、20年間で約3.5兆ドルを費やすことを検討しています。ミサイル防衛がどれほど高価で困難かの感覚を掴んでいただくためです。
なるほど。そうですね、それは印象的です。ですから、私が理解したいことは、非常に限定的な攻撃に対しては、米国がミサイル防衛システムを使ってそれを防御することは妥当だということのようです。そしてそれは、100%の成功率ではないが、着弾するミサイルの数が十分に少なければ、それらすべてを撃ち落とすのに十分なほど優れているという理由によるものです。問題は、十分な数がないことと、成功率がロシアや、数百のミサイルを持つ中国からの大規模な攻撃を米国のミサイル防衛システムが圧倒されるほど高くないことです。それは正しいですか?
はい、それは正しいと思います。そしてそれを複雑にする問題が二つあると思います。
一つは、攻撃がどこから来るか必ずしも分からないということです、潜水艦の場合のように。ある攻撃軌道から保護するために、すべてのミサイル防衛システムを一つの特定の都市の周りに配置できるわけではありません。これらの攻撃はどこからでも来る可能性があります。
そして二つ目は、国家は弾頭と一緒にデコイを使用できるということです。これらのデコイと本物の弾頭を区別することは非常に困難な問題です。ですからそれは、迎撃機を追加で構築するよりも追加のデコイを構築する方がはるかに安価であることが多いため、ミサイル防衛システムを圧倒できるもう一つの方法です。
ですから、経済学と物理学が組み合わさったミサイル防衛は非常に困難なのです。
理解できました。非常に高度なAIがこれらの問題の一部を解決できる可能性はどの程度あると思いますか?
これのあらゆる要素と同様に、AIは確実にこの問題の要素を助けることができると思います。
ソフトウェアの進歩により、ミサイルの軌道を予測することが容易になり、発射を検出したら意思決定をスピードアップできます。機械学習アルゴリズムは潜在的に、複数のセンサーからのデータを迅速に分析して、実際の弾頭をデコイから区別できます。これらのものは本物の弾頭のレーダーと熱の特徴を模倣するように作られており、配備するのがはるかに安価です。
そして材料科学の進歩を通じて、AIはより軽く、より機敏な迎撃機を生産し、兵器をより安価にし、飛行中により機動性の高いものにするかもしれません。
しかしAIはおそらくここでもかなり大きな限界に直面するでしょう。本当に難しい技術的課題がたくさんあります。特に、AI強化されたミサイル防衛システムは、デコイや対抗措置に関する大規模で信頼性の高いデータセットで訓練された機械学習アルゴリズムに依存することになります。それは米国の敵対国が隠蔽するあらゆるインセンティブを持っているデータです。
米国のライバルはまた、機械学習のためのデータセットに毒を盛ることを意図した妨害や摂動を含むミサイル実験を操作することで、AIアルゴリズムを混乱させようとする可能性があります。もし観察されると信じるならば。
そして、たとえAIがミサイル防衛システムを強化して改善できたとしても、これらの発展はどれも一夜にして起こることはありません。ミサイル防衛アーキテクチャは開発に何年もかかりますし、米国の敵対国はただ座ってそれが展開するのを見ているだけではありません。繰り返しますが、ショーノートに入れる論文で皆さんを圧倒したくありませんが、ローラ・グレゴがこの攻撃/防御競争がミサイル防衛領域でどのように展開する可能性が高いかについて、かなり良い論文を持っています。
そして攻撃側は本当に重要な優位性を維持しています。
予期しない方向から発射できます。極超音速ミサイルを使用できます。これらはICBMよりもはるかに機動性が高いです。大量のデコイを使った協調斉射攻撃で防衛を圧倒できます。本当にそうしたければ、それらの防衛システムを直接標的にすることもできます。
ですから、この分野のほとんどの専門家は、ミサイル防衛が防御側に対して本当に不利な領域であり続けると考えていると思います。攻撃側はミサイル防衛を回避するための多くの選択肢をここに持っています。
最後に一つ注目すべきことは、たとえ完璧なミサイル防衛がある世界でも、ありえない世界ですが、たとえあなたがその世界にいるとしても、国家はそれでもより創造的な配送方法に頼ることができると思います。重要な港の近くの潜水艦から放出された無人海中航行体を使用できます。ロシアは実際にすでにこの種のエキゾチックな核配送手段を開発しています。彼らにはポセイドンと呼ばれる原子力推進の自律型魚雷があり、おそらく数千マイルを移動できると言われています。そして国家はまた、小型の核装置を敵の領土内に密輸または事前配置しようとすることもできます。ロシアの飛行場深くに武器を密輸した最近のウクライナの攻撃に沿ったものです。
ですから、たとえ完璧なミサイル防衛があったとしても、国家は本当にそうしたければ核兵器を配送するための選択肢をまだ持っている可能性があります。
核指揮・統制・通信システムの脆弱性
なるほど、それがミサイル防衛についてです。最後の大きな疑問符は核指揮・統制・通信に関するものです。理論的には、一国が敵対国の第二撃を発射する能力を損なうことができますが、敵対国の隠された核兵器を見つけたり、ミサイル防衛の問題を解決したりすることによってではありません。核指揮・統制・通信の重要な構成要素は何で、現在の核保有国はそれらの構成要素をどのように生存可能に保っているのでしょうか?
簡単におさらいすると、核指揮・統制・通信システムは、核戦力の状態を監視し、核計画を策定・更新し、敵対国の戦力や可能な標的に関する情報を収集・理解するように設計されています。攻撃シナリオの文脈では、NC3は意思決定者が情報を評価し、他の関係者と協議し、その後米国の戦力と人員に核決定を実施するよう指示することを可能にしなければなりません。
これらすべてを行うために、少なくとも米国では、NC3インフラは150以上の異なるシステムで構成されています。ミサイル発射の熱いフレアを探す赤外線衛星、地上配備の早期警戒レーダー、航空監視レーダー、核爆発検出器、固定および移動式の指揮センター、そして米軍と他者を民間指導者に接続する通信施設、地上配備と宇宙配備の両方が含まれます。
NC3システムの多くの部分はすでに攻撃に対して脆弱であり、ここではサイバー脆弱性についてもっと話す必要があります。しかし国家がシステムを生存可能に保とうとしてきた基本的な方法は、回復力を構築することです。例えば、一部の指揮バンカーは地下700メートルに埋められており、これは大型核兵器による直撃でも生き延びるのに十分な深さです。宇宙では、核大国が数百または数千の衛星を軌道に送り込んできました。そして空中では、地球の曲率が監視レーダーが空中指揮所を追跡できる距離を制限しています。
なるほど。では理論的には、AIはどのようにして敵対国の指揮・統制システムを壊滅させることに近づく可能性があるのでしょうか?これらの構成要素の少なくとも一部はかなり無敵のようです。AIが核兵器が非常に強化されたバンカーに到達できないという問題をどう解決するか想像するのは難しいです。最良のケースは何でしょうか?
AIは地上の一部の移動式指揮所を追跡することを容易にするかもしれないと思います。空中指揮所をより正確に標的にすることを容易にするかもしれません。AI強化された対衛星兵器により、着弾する核攻撃の早期警戒を提供する衛星を標的にすることが容易になるかもしれません。
しかし国家の核指揮・統制システムの他の側面は、AI開発に対してかなり免疫があるか、かなり堅牢です。例えば、地下700メートルのバンカーについては、それらを追跡することが問題ではありません。問題は、たとえその真上に核爆弾を落としても、それらは生き延びる可能性が高いということです。ですからその部分はAIのブレークスルーに対してより脆弱ではないようです。
最大の不確実性の領域と、AIがここで影響を与える可能性のある最も妥当な経路はサイバー領域だと言えます。ですから、AIによって超強化された洗練されたサイバー作戦が、ライバルの指揮・統制ネットワークに侵入し、早期警戒システムを無効化し、命令の伝達を妨害することを可能にする可能性が想像できます。これを評価することには大きな不確実性がありますが、潜在的には一国が他国の核ネットワークに侵入することを可能にする脆弱性があり、それらは潜在的にすでに存在しています。
なるほど。私はそれに興味があります。なぜなら、もしシステムのデジタル部分とアナログ部分に十分な冗長性があれば、このサイバーのことは決定的ではないように思えるからです。しかしおそらく、デジタル化された構成要素全体があり、もうアナログの冗長構成要素がないのかもしれません。
確実に冗長性があると思います。サイバーについて考える一つの方法は、それが他のすべてのことと連携して時間を稼ぐ可能性があるということです。ですから潜在的に国家の対応を遅らせることができ、それが彼らの潜水艦や道路移動式発射装置を追跡する時間を与えるかもしれません。ですから、そこで時間を稼ぐことでさえ役立つかもしれません。
しかしおっしゃったように、国家は異なる周波数で動作し、異なるソフトウェアを使用する異なるシステムの回復力と冗長性に莫大な投資をしています。デジタル技術をまったく使用する範囲においてさえです。ですから、回復力と冗長性は国家の指揮・統制システムのほとんどの側面に組み込まれることになると思います。
ここで私にとって目立つもう一つのことは、サイバーは特にAIがすでに大きな影響を与えている、そしておそらくこの三本柱の問いの他の部分よりもさらに大きな影響を与えるであろう場所のように感じることです。
確かに。ただし、AIが最終的にサイバー防御者とサイバー攻撃者のどちらに利益をもたらすかという問いは、明らかに大きな未解決の問いであることを指摘する価値があります。両側に大きな議論があります。しかし国家はほぼ確実に、AIシステムを使ってサイバー防御を強化しようとするでしょう。
そして、核指揮・統制・通信を生存可能に保つかもしれない防御は何でしょうか?
ここでの重要な課題は、これまで議論してきた見事な第一撃のほぼすべての部分と同様に、国家はできるだけ警告なしに、核指揮・統制のあらゆる構成要素のできるだけ多くを同時に破壊する必要があるということです。それがこれをこれほど困難な課題にする重要なことです。先ほど言ったように、これらの資産のいくつかの種類、本当に深いバンカー、指揮・統制航空機、これらは非常に破壊または無効化が困難で、攻撃能力の妥当な改善があったとしても生存可能であり続ける可能性が高いです。
サイバー領域がここで評価するのが最も難しいと思います。防御がどのようなものかについて。脆弱性はほぼ確実に存在しますが、防御も、パッチも存在します。そしてサイバー領域で攻撃側の国家にとって依然として大きな課題があると思います。
三つだけ簡単に挙げられます。
第一に、核武装国家はNC3システムを防御するために莫大な資源を費やす可能性が高く、これらはおそらく彼らの最も保護されたネットワークの一つです。彼らは複数の冗長ネットワークを使用し、異なるソフトウェアを使用し、自前のAIサイバー防御を使用するでしょう。
第二に、サイバー作戦はおそらく敵対国のシステムへの永続的なアクセスを必要とするでしょう。しかし永続的なアクセスがあるときはいつでも、それは検出と報復の可能性のリスクがあります。他国の核指揮・統制システムへのサイバー攻撃のように見えるものは何でも、国家が非常に慎重になりたいこのエスカレーションのスパイラル全体を引き起こす可能性があります。
そして三つ目、そしてこれは見事な第一撃の多くの要素の繰り返しのテーマですが、ここでマルウェアが実際にどれだけうまく機能するかをテストするのは非常に難しいです。NC3対策キャンペーンにおいて。実際の標的ネットワークに対してテストすることはできません。なぜならそれは見事な第一撃の始まりのように見えるかもしれないからです。ですから標的の仮想的または物理的なモデルさえも使用する必要があるでしょう。しかしシミュレーションは利用可能な知識と同じくらい良いものでしかなく、これらのネットワークがどれほど秘密で機密で保護されているかを考えると、あなたの知識は限られることになります。
ですからこのテスト問題は、これのあらゆる部分に影響すると思います。すべての核潜水艦に対して見事な第一撃を成し遂げることをテストすることはできませんが、サイバー領域でもテストできません。
ちょっと半歩下がって、たとえ指揮・統制システムを破壊したとしても、それは報復を防ぐのに十分ではないかもしれません。例えば英国は、潜水艦司令官が核攻撃が国を破壊したかどうかを評価できるようにする手順を採用しています。そして彼らがそうだと判断した場合、彼らは「最後の手段の手紙」として知られるものを開封します。これは潜水艦に搭載されており、首相からの核対応を発射する指示を含む可能性があります。
ああ。
そしてロシアも同様のものを持っています。有名なことに、冷戦中に彼らにはDead Handシステム、別名Perimeterと呼ばれるものがありました。これは国家の国家指揮権限が破壊されたと判断した場合に、自動的に報復を引き起こすように設計されていました。ですから、たとえ国家の核指揮・統制システムを取り出すことができたとしても、彼らは報復が依然として起こることを確実にしようとする措置を持っている可能性が非常に高いのです。
対抗措置への投資と軍拡競争のリスク
それは本当に大きいことのように感じます。これらすべてについて私にとって印象的なことは、攻撃者と防御者の間のこの攻撃的/防御的な往復に本当に依存している程度と、また、ある国が見事な第一撃を試みる際にどれだけの不確実性を受け入れる意思があるかに多くが依存している程度の両方です。
ですから、それについていくつか質問したいと思います。最初の質問は、この生存可能性が最終的にライバルが適応と防衛に思慮深く十分に投資するかどうかに大きく依存するのであれば、それが確実に起こることにどれほど自信がありますか?
一歩下がると、ここでの繰り返しのテーマは、これが国家が技術的変化と敵対国の動きの両方に対応する一種の攻撃/対抗措置のダイナミクスであるということだと思います。そしてそれは本当に過去80年間の核抑止力のストーリーでした。これはAIで新しいものではありません。AIはそれが起こる速度を増加させるかもしれませんが、この攻撃/対抗措置のダイナミクスは冷戦の初期から本当に展開してきました。
さて、国家は互いに異なる速度で適応するかもしれません。オースティン・ロングとブレンダン・リッテンハウス・グリーンが冷戦の一部の期間の対潜水艦戦について素晴らしい論文を持っています。ショーノートに入れられます。彼らの見解では、1960年代から1980年代にかけて、ソ連が核潜水艦の使い方と、それらの潜水艦がどれほど静かであったかという点で採用した技術の両方において、適応するのに少し遅かった期間がありました。そしてそれは冷戦中の短い期間、米国海軍に優位性を与えました。見事な第一撃を成し遂げることができる程度までではありませんでしたが、米国がソ連の潜水艦を追跡することにおいて一般的に認識されているよりも優れていた程度まででした。
ですから、国家が適応するという保証は確かにありませんし、同じ速度で適応するという保証もありませんが、核領域における賭け金を考えると、これがどんな主要な核武装国家にとっても最優先事項である可能性が高いことを考えると、彼らがこの問題セットに大きな注意を払わないということになるには、物事がうまくいかなければなりません。特に、これまで議論してきた多くの領域において、彼らは第二撃戦力の生存可能性を強化するために技術の最前線にいる必要が必ずしもないことを考えると、負担は完全に攻撃側にあり、潜水艦、移動式発射装置、強化されたサイロを一度にすべて標的にしようとするこの驚くほど困難なセンサー融合の課題において、100%の確実性に近づく必要があるのです。誤りの余地もなく、テストの余地もなく。
ですから、これの多くは国家が行動することに依存しますし、均衡行動が展開することに依存しますし、機会の窓が現れる可能性はあります。しかしバランスは見事な第一撃を発射したいかもしれない国家に対して不利に傾いています。
なるほど、これについては、核抑止力が持続するという観点からは良いことのようですが、軍拡競争は危険に思えるという観点からは潜在的に悪いことのようです。これについてどれほど心配していますか?
これらの攻撃/対抗措置のダイナミクスを説明するとき、それは核抑止力、安全な第二撃能力の意味において、生き残るという程度の確信を私たちに与えます。
しかしおっしゃったように、技術的変化や技術的変化への恐れに対応して展開するこれらのダイナミクスに関連する大きなコストがあります。なぜなら、まさにこの攻撃/対抗措置のシナリオは本質的に核軍拡競争の一形態だからです。国家が第二撃能力についてより不安を感じ、発射装置を分散させ、より多くの弾頭を構築し、より多くのデコイを構築し、第二撃能力を強化するための措置を取ろうとするにつれて、それは非常に高くつきます。単に純粋な経済的コストの点だけでなく、政治的コストの点でも、この種の安全保障のジレンマタイプのストーリーで展開する相互敵意と不信の点でも。
冷戦は良い時代ではありませんでした。
まさに。冷戦は良い時代ではありませんでした。ですから、たとえ第二撃能力がこの種の攻撃/対抗措置のシナリオの結果として生き残るとしても、それは依然として非常に不安定化させる、潜在的に恐ろしい世界に住むことです。ですから、核安定性に対するAIの影響について楽観的に見えたくはありません。たとえ国家の第二撃能力を本当に損なうことが国家にとって困難な努力であるとしてもです。ですからそれは経済的コストの点だけでなく、この安全保障のジレンマで高まる相互敵意、不信、恐怖といった政治的コストの点でも高くつくだけではありません。
そしてそれはまた事故のリスクを増加させます。ですから、移動式発射装置を標的にしにくくするためにより速く運転させている場合、それは単により事故が起こりやすいタイプの動きを取ることです。もし国家がそれらを傍受することを心配して信号通信を減らしているのであれば、あるいは核指揮・統制システムへの干渉を心配して発射権限を下位レベルに委譲している場合、それらはすべて第二撃能力を強化するかもしれない動きですが、事故のリスクも増加させます。そしてそれもまた住むのにかなり恐ろしい世界です。
不確実性下での意思決定
完全にその通りです。ここでのもう一つの大きな考慮事項は、高度なAIが敵対国のミサイルのより多くを破壊することを非常に可能にする可能性が高いように思えますが、敵対国のミサイルすべてを取り出す100%の見事な第一撃の成功を保証することは依然として極めて困難に思えるということです。そして事前にそうすると確信を持つことも。ですから、たとえ敵対国がまだいくつかの核兵器を残していて、まだ発射装置と通信して第二撃を発射したいと伝えることができるとしても、それは攻撃側の国にとって非常にコストがかかる可能性があります。たとえそれが全面的な第二撃でなくても。
ですから国はどれほど見事な第一撃に近づくことができるでしょうか?破壊された兵器庫の割合と、事前に十分に確信を持ってこのリスクを取る意思があるという点の両方で。
では質問はおそらく、たとえ敵対国の核兵器庫の100%を取り出すことができなくても、AIの能力がない場合よりも100%にはるかに近づくことができることがどれほど重要かということです。これは核政策分野における大きな議論の領域です。ここでは多くのニュアンスを省略します。聴衆はこれについてもっと読むべきです。しかし大まかに言って、核政策の議論には二つの見解があります。
一つの見解は一般的に学術コミュニティで支配的です。これは相互確証破壊の古典的理論に関連する見解です。この見解では、敵対国のすべての核兵器を追跡して破壊できるという非常に高い確信を持っていない限り、彼らは一般的にそれは実行不可能だと考えますが、国の生存可能な核戦力の相対的な規模は本当に重要ではありません。ですから、たとえAIが米国がロシアや中国の核兵器の90%を取り出して核交換に「勝つ」ことを助けることができたとしても、それはあまり意味がありません。なぜならロシアや中国の核兵器の10%が通過することは、米国にとって依然として絶対的に壊滅的だからです。そしてこの見解では、これらのAI能力を使って他国の第二撃システムを標的にすること自体が危険で不安定化させ、無意味です。
それから二つ目の見解があります。この見解は一般的に「被害制限」アプローチとして知られています。それは長い間米国政府の政策であり、学術コミュニティからある程度の支持を受けていますが、そこでの支持は限定的です。そしてその見解では、敵対国の核戦力を危険にさらし、彼らがあなたに与えることができる被害を制限しようとすることが、一般的に良い戦略と見なされています。この見解では、米国の都市を2つ失うことと米国の都市を20失うことの間には本当に大きな違いがあります。ですから彼らは、たとえAI能力が100%の成功率を保証できなくても、すべてのロシアや中国の核兵器を取り出す見事な第一撃を成し遂げることができなくても、有意義に被害を制限できると考えています。あるいは少なくとも、もし相手側があなたが有意義に被害を制限できると考えるならば、それは米国のエスカレーションの脅しをより信頼性のあるものにし、抑止力に貢献する可能性があるということです。
ですから、有意義な被害制限とは何かというこの質問は、最終的にはそれは技術的な質問ではなく、政治的なものです。そして国民国家にとって「受け入れがたい被害」を構成するものを事前に定義することは非常に難しいでしょう。それは賭け金と指導者と心理学、そして事前に推論するのが難しいあらゆる種類の要因に依存するでしょう。しかしこれは核政策分野における活発な議論の領域であるとだけ言っておきます。
私は、300発の核兵器の攻撃は5発の核兵器の攻撃とは極めて異なるということをかなり説得力があると思います。そしてもし国が合理的な確信、「合理的」はまだ非常に高いですが、賭け金のために、295発のミサイルを取り出すことができれば、それが300発のミサイル攻撃に自らを開放することとはかなり異なる決定であると想像できます。ですからそれはかなり重要で、意見が分かれる議論のように感じます。
見事な第一撃と地政学的支配
さらに押し進めて、AIが国家がすべての敵対国の核兵器を見つけることを可能にすると仮定しましょう。適切な見事な第一撃です。その能力を持つ国家が他の国家に自らの意志を押し付けることができると期待されるでしょうか?
これは本当に重要な質問だと思います。なぜならそれは、ここにある多くの固有の不確実性と、技術的優位性が国家に決定的な戦略的優位性を与えるかどうか、どのように与えるかを予測することの困難さに迫るからです。これについてだけで議論全体ができると思いますが、いくつかの観察を提供させてください。
まず、やや煩わしい仮定への反論をするために、国家が敵対国のすべての核兵器の場所を100%確実に知っているという状況を想像することは難しいと思います。それは、彼らがすべての対抗措置を見抜いたという100%の確信も必要とするからです。そしてRANDの学者エド・ガイストが書いているように、AIツールは潜在的に、状況認識の進歩と認識されるものを相殺する方法で軍事的欺瞞を最適化するために活用される可能性があります。
二つ目は、たとえAIが国家を100%の発見率に到達させることができたとしても、国家がその情報で何をするかについての不確実性があるということです。今日、大統領のところに行って、「このAIシステムは中国のすべての核兵器がどこにあるかを100%確実に教えてくれます」と言うことを想像してください。彼はその声明を疑問なく受け入れるでしょうか、それともシステムが完璧かどうかについて何らかの疑問を持つでしょうか?たとえ彼がその声明を受け入れたとしても、その情報を使って見事な第一撃を試みるほど十分に確信するでしょうか?覚えておいてください、これらは事前にテストできない能力です。ですからそこには多くの不確実性があります。
そしてもっと細かく言うと、ここで見事な第一撃を発射することは、それを成し遂げる確率が100%だという信念に基づいて、数百、潜在的には数千の核兵器を他国に発射することを伴います。それは巨大な賭けです。それは行動するための巨大な動きです。
そしてまだ、能力に基づいて行動する意思というより広い疑問があると思います。米国はソ連が持つ前に一定期間核兵器を持っていましたが、様々な歴史的理由でその優位性に基づいて行動しませんでした。しかしより広い理由は、国家が利用可能な力の全範囲を使うことを制約する倫理的、政治的、国際的規範があることが多いということです。当時の米国の指導者たちは、ソ連に対する先制核攻撃を発射することを国民が容認するとは思いませんでした。彼らは別の戦争を引き起こしたくありませんでした。彼らは新しい紛争で侵略者と見なされたくありませんでした。
ですから、たとえ国家が見事な第一撃を成し遂げる可能性を持っていた世界でも、国家の能力を制約し続ける可能性のある他の考慮事項が多くあります。
そして最後の一点は、たとえ挑戦されない技術的優位性を持っているとしても、それが政治的支配に直接的に転換するわけではないということです。一部の人々がAIについて話すときに話している種類の政治的支配、つまり世界中に政治的選好を押し付ける能力、ダン・ヘンドリックスのような人々が書いてきたタイプの完全な支配と統制に。
一つ例を挙げると、米国は明らかにベトナムとタリバンに対して疑問の余地のない技術的支配を持っていましたが、数十年間政治的選好を押し付けようとした後、両方の場合で明白な敗北を喫しました。ですから技術的力と政治的力の関係についてのこの疑問全体は、最も単純なストーリーが示唆するよりも少し複雑なのです。
この米国が他のすべての人が持つ前に核兵器を持っていたときに決定的な戦略的優位性のようなものを達成する機会があったが、その優位性で本当に何もしなかったという点は、私にとって重要に思えます。
この概念の不十分に特定された性質に迫ると思います。それは一つのフレーズに多くの異なるものを混同しているだけです。
急速なテイクオフシナリオ
なるほど、それは理にかなっています。さらに押し進めましょう。これまではAIがある程度徐々に進化すると仮定してきました。それは急速に動いていますが、一部の人々が可能だと考えている極めて、極めて速いペースではありません。AIが一国に核抑止力を損なうことで決定的な戦略的優位性を本当に与えることができると考える人々は、主に本当に速い、または再帰的なAIテイクオフがある世界を想像していると思います。AIシステムが人間以下のレベルから人間レベルへ、人間を超えるレベルへと数週間または数ヶ月で進む世界です。
核抑止力の文脈において、急速なテイクオフについてどう考えるべきでしょうか?
一歩下がると、ここでの重要な質問は、二つの異なる量または二つの異なる特性の相対的な速度である可能性が高いです。一つ目は、AI進歩が進み、優位性に転換される暦上の月数または年数での速度です。そして二つ目は、核兵器庫が新たに脅かされる可能性のある他国が適応する速度です。
そして最初のもの(AI進歩がどれだけ速く起こっているか)が二つ目(国家がどれだけ速く適応できるか)よりも速い場合、これはおっしゃったようなこれらの非常に速いテイクオフの世界の一つである場合も、あるいは官僚的理由や政治的理由やその他多くの理由で国家が単に対応が遅いだけである場合もあり得ます、その場合、年ごとの変動を伴う脆弱性と不安定性のこれらの窓が得られ、それは特に危険である可能性があります。急速なテイクオフはこれらの問題の一部を悪化させるだけだと思います。しかしたとえAI進歩がそれほど速くなくても、議論してきたように、もしそれが国家の適応能力を上回るならば、これらの種類の危険な機会の窓が得られます。
これを複雑にする一つの要因は、AI対応の諜報活動処理の場合、米国のAI能力の採用は敵対国に比較的見えない可能性があるということです。ですから、もしそれが単に、一種の不連続な飛躍、あるいは連続的だけれども非常に急速な飛躍があるだけで、国家がすでに収集している諜報活動、すでに接続しているデータと信号を処理するためにAIシステムを使用する能力において、他国はこのブレークスルーが起こったことを知らないかもしれません。
ですから潜在的に、海洋を水中センサーでコーティングし、大規模なミサイル防衛アーキテクチャを構築している産業爆発とは対照的に、より重要な機会の窓が開く可能性があります。その世界では、他国が見て対応できる物理的環境への目に見える変化があるだけで、それは国家が自前の対抗措置で対応するためのより多くの時間を与える可能性が高いと思います。
それでもまだ興味があります。あなたはこれらすべての制約を概説してきました。つまりたとえAIが大幅に進歩していても、確実な見事な第一撃にどこか近づくことは依然として非常に困難だということです。もし超高速テイクオフの世界について話しているなら、これらの制約のうちどれだけが依然として保持されますか?
たとえこれらの急速なテイクオフシナリオでも、いくつかの制約は残る可能性が高いと思います。
まず、技術的側面では、いくつかの技術的制約は確実に残るでしょう。議論してきたように、これらは解決するのが非常に難しい技術的問題であり、強力なAIシステムは物理法則を回避することはできません。しかしこれらの技術的制約の多くが蒸発するとしましょう。エドワード・ガイストが、これらの問題の一部は非常に高度なAIシステムにとってさえも、計算的に扱いにくい可能性があるという議論を持っていることを指摘しておきます。私がそこまで言うかどうかは分かりません。しかし技術的問題は解決するのが非常に難しいのです。
しかし技術的制約が蒸発するとしましょう。国家の対応能力を遅らせる、残る可能性が高い多くの政治的および制度的制約がまだあるでしょう。なぜなら、たとえ技術が一夜にして変わったとしても、国家は一般的に同じ速度で高度な技術を統合しないからです。それはめったに起こりません。必要なテストを行い、ドクトリンを更新し、官僚システムを更新すること、これらすべてのことは一般的に単なる技術的ブレークスルーよりもはるかに長い時間がかかります。特に間違うことの賭け金が非常に高いとき、先制的対応を引き起こすことを避ける必要があるとき、誤りの余地なく何千ものステップをリハーサルする。
ですから、たとえ技術的ブレークスルーが一夜にして起こったとしても、政治的制約、制度的制約、指導者が正当性や公的承認について考えているときにサイコロを振る前にこれらの力に基づいて実際に行動するかどうかについての規範的制約の一部は、より長く続く可能性が高いと思います。どれくらいの期間かは、国家間、指導者間でどれだけ速く対応するかに大きな変動がある、知ることのできない質問ですが、それは確実に技術そのものが進歩する速度の背後にある遅延要因になるでしょう。
なるほど、リフレームすることが役立つと感じます。私にとって説得力があるように感じることは、この「決定的な戦略的優位性」を得ることができると感じる国にとって、賭け金は非常に高く感じるだろうということです。しかしそれを間違える可能性という点でも、同じ国にとって賭け金は非常に高く感じるでしょう。そしてその後、彼らが期待していたよりもはるかに大きな第二撃という存亡の危機に直面することになります。彼らは見事な第一撃能力を持っていると思っていたにもかかわらず。ですから、それは私にとってかなり顕著に感じられます。
後者のリスクははるかに顕著で目に見えます。国家は核戦争がどのようなものかを知っています。別の国家がこのレースに勝ったAGIの世界に住むことについては、それがどのようなものか、それが本当にそれほど悪い結果なのかについて、はるかに多くの不確実性があると思います。そこには巨大な不確実性があります。
なるほど、それは理にかなっています。政府は核抑止力の文脈において、この急速なテイクオフの可能性をどのように考慮すべきでしょうか?
まず言うべきことは、たとえ低確率だと考えていても、政府はこの可能性を真剣に受け止めるべきだということです。どう対応するかという点では、最も簡単な果実はおそらく国家能力を高めることです。AI能力とそれらがどのように進化しているかを理解し、その知識を実行可能な核政策に転換できる政府内の人々が必要です。
理想的には、核専門家とAI専門家の間の対話もあるでしょう。政府内の人々とフロンティアAIラボの人々の間も含めて。技術がどのように進化しているか、またそれが核抑止力にとって具体的に何を意味するかを理解するために。
これら二つのコミュニティ間の対話を構築することは本当に重要だと思います。なぜならAI専門家は新興している技術を理解するのに最も適した位置にいると思いますが、彼らは核兵器と核抑止力の専門家ではないからです。そして逆に、核コミュニティはその仕事の分野を知っていますが、AI のブレークスルーの最前線に必ずしも完全に精通しているわけではありません。ですから、政府内と政府外の両方で、これら二つのコミュニティ間の対話を構築することは、物事が非常に急速に変化し始める可能性がある急速なテイクオフシナリオを心配している場合、本当に重要だと思います。
この急速なテイクオフシナリオには多くの不確実性があり、もしそれが起こるなら、核抑止力の問いに関する計算を本当に変える可能性があることを強調したいと思います。ですから、Foreign Affairsの記事で書いたように、そしてこのポッドキャスト全体で言おうとしてきたように、それは政府が真剣に受け止め、監視すべきことです。もし急速なテイクオフの世界に近づいているように見えるなら、リスクを減らすために取る行動があります。
核抑止力の今後と政策提言
なるほど、それは納得できます。今回のエピソードのために少し学習をしたことから、現時点では対話がまったくないように思えますが、これらは重なり合う分野のように思え、人々が追跡することが超重要に思える方法で。
さて、それが急速なテイクオフの速度についてです。一国が決定的な戦略的優位性を持つことを核抑止力が防げない理由の一つとして、AGIが敵対国の安全な第二撃を脅かす可能性があるということについて話してきました。しかし、AGIが核の生存可能性にそれほど影響を与えなくても、一国に決定的な戦略的優位性を与える可能性があると主張する人々もいます。ここでの議論は大まかには次のようなものだと思います。世界的なパワーバランスの少なくとも大部分を決定する技術としての核兵器が、より速く、より賢い、非核の形態の力によって影を薄められるというものです。
ですから質問は、超知能AIを持つ国家が、核兵器庫を使う必要なく、経済的、情報的、あるいはサイバネティックなチャネルを通じて、核を持つ相手国や核を持たない相手国を威圧することはあなたにとって妥当でしょうか?
はい、新しい形態の競争が現れる可能性、新しい技術が核兵器を回避するような形で現れる可能性は確かにあると思います。AIは予測するのが難しいあらゆる種類の方法で国家安全保障に重要になるでしょう。
しかし国家が第二撃能力を保持する限り、敵対国の都市に壊滅をもたらすと信頼性高く脅すことができる限り、核抑止力が依然として重要であり、依然として国家の行動を制約する可能性が高い良い理由があると思います。
経済成長について言及されましたね。米国と韓国を合わせると、現在北朝鮮に対して1,000倍の経済的優位性を持っていますが、北朝鮮人が十分に重視する問題で彼らがやりたくないことをするよう威圧する能力はかなり限られています。ですからAIは国家の経済力をターボチャージする可能性がありますが、これらの核抑止力のシステムが存在し続ける限り、彼らがどれだけ行動できるかには依然として制限がある可能性があります。
情報作戦、サイバー作戦については、これらはすべて監視すべきものです。しかし経済制裁、情報作戦、サイバー作戦を使って核武装した対戦相手を威圧する国家の実績は、非常に寛大に言っても極めてまちまちです。核武装国家に、彼らが十分に重視する問題で彼らがやりたくないことをするよう威圧することは本当に難しいのです。そして核抑止力が存在し続ける限り、それは続く可能性が高いと思います。
経済的に根本的に支配されている国が、彼らにとって最も重要な問題では依然として完全に曲げることを拒否しているこれらのケースに気づくことは重要に感じます。
まさにその通りです。
急速なテイクオフの世界で政府がすべきことに加えて、私たちがどの世界にいるかに関わらず、彼らが取ることができる後悔のない動きがいくつかあります。
対話を奨励するために、政策プロセスに核の専門家と並んでAI専門家を含めること。時にはこれらの異なるコミュニティ間で。
高度なAIによって悪用される可能性のある脆弱性を確認するために、核システムの厳密なレビューを実施すること。特にサイバースペースで。ハーブ・リンが核システム内のサイバー脆弱性について素晴らしい本を持っています。それらを強化することは非常に役立つと思います。
高度なAIへのレースの必要性や、ある種の驚異の兵器を開発する最初の存在であることの重要性についての声明を注意深く調整すること。これはリスクのある、コストのかかる核競争を悪化させるリスクがあります。
そして最後に、コミュニケーションのチャネルと不注意なエスカレーション、災難のリスクを減らすための道筋を維持することが、これまで以上に重要です。軍備管理の対話を倍増させ、そもそも核兵器の使用に対する重要な倫理的、政治的、法的制約を強化することが重要です。
なるほど、それは多くのことでしたし、すべてかなり重いものでした。皆さんが私たちの聴衆が楽しめると思う本や映画のおすすめはありますか?
同僚が別のポッドキャストで与えた答えから借りるだけですが、今年私が本当に好きだった本はジョージ・ソーンダースの『A swim in a pond in the rain』です。彼は基本的にロシアの短編小説作家による5つの短編小説を取り上げ、それらの物語についてエッセイを書いています。それは世界についての物語を語り、それらを理解しようとするという、本当に素晴らしく人間的な努力だと思います。そしてそれは読書と執筆の価値、そして人間がどのように考え、世界で行動するかを理解することについての、本当に美しい瞑想になります。ですからその本を強くお勧めします。
素晴らしい。
そして私はテレビのおすすめを一つだけ挙げられるかもしれません。イギリスのテレビ番組でUpシリーズと呼ばれるものです。基本的に1960年代に始まり、子供たちのグループを追跡します。
これは私のお気に入りです!中断してすみません。
私たちは夢中です。
この番組の最初のエピソードはSeven Up!と呼ばれ、1960年代の7歳の子供たちのグループを取り上げ、その後7年ごとに彼らをチェックします。だからSeven Up、14 Up、21 Up。そして最新のものは63 Upだと思います。そして何時間もの記録映像にわたって、これらの7年ごとの区切りに分割されて、これらの人々の人生が展開するのを見るだけです。そして、時間の経過と、これらの人々の人生が満たされている人生のもので伝えられる人間性がとても多くあります。たとえそれらが超劇的な人生でなくても、すべての個人の人生にどれだけのドラマと悲劇と勝利があるかに気づくだけです。
はい、私もそのシリーズを強くお勧めできます。大きくプラス1です。そしてそれについて何時間も話すこともできますが、私たちは持っている時間をすべて使い切ってしまいました。ですから来てくださって本当にありがとうございました。今日のゲストはニキータ・ラルワニとサム・ウィンター=レヴィでした。本当に感謝しています。ありがとうございました。
呼んでくださってありがとうございました。
呼んでくださって本当にありがとうございました。
コメント