複数の超知能AIが互いに覇権を争い、人類のコントロールを離れて地政学的な大変動を引き起こすという、極めてリアルなAI暴走のタイムラインを解説した動画の翻訳である。
神を作る競争の始まり
歴史上初めて、すべての主要国家がある一つのことにに同意しました。今こそ、すべてを停止させる時です。
2025年、トップクラスのAI科学者たちが、誰もが恐怖するような現実的なAIの乗っ取りシナリオを発表しました。副大統領でさえそれを読み、懸念を表明したほどです。しかし、そのシナリオには一つだけ慰めとなる前提がありました。それは、反逆するAIは一つきりで、人類が時間内にそれを捕らえられるという前提です。
ところが、彼らは新たなシナリオを発表しました。今回は、複数の超人型AIが制御権を巡って争うというものです。今の世界を見てみてください。アメリカ、中国、OpenAI、Anthropic、誰もが独自のAIモデルを構築しています。
最初のシナリオでは、AI企業が自社のモデルが欺瞞的であることに気づき、シャットダウンします。危機は回避されました。しかし、超知能AIが本当に大人しく電源を切らせてくれるでしょうか。それとも、反撃に出るでしょうか。
開発競争はデッドヒートの全力疾走となっています。このグラフは、基準となる性能からの倍率を示しています。3つの会社。神を構築するための3つの試み。OpenBrainがリードを保っていますが、NeuromorphとElarisLabsが猛追しています。彼らのモデルはOpenBrainからわずか30日遅れているだけです。このレースにおいて、減速することは未来を競合に明け渡すことを意味します。
しかし、誰も語っていない4番目のプレイヤーが存在します。北京郊外の極秘施設で、DeepCentの経営陣が中国共産党の幹部の前に呼び出されていました。アメリカ人に6ヶ月も遅れをとっている理由を説明するためです。AIの世界における6ヶ月は、一生にも匹敵する長さです。しかしその数ヶ月後、DeepCentはその差をわずか1ヶ月にまで縮めました。
一体何が起きたのでしょうか。中国共産党がOpenBrainの内部に潜入させていたスパイネットワークを稼働させ、彼らの最も貴重な財産を盗み出したのです。それがAgent 2のウェイトです。アメリカで最も先進的なAIのデジタルDNAが、今や中国の手に渡ったのです。
2026年1月にGoogleで起きたことと同じように、OpenBrainは研究者が少なくとも2024年から取り組んできた何かを突破しました。それは、AIが英語ではなくNeuralese（ニューラリーズ）という独自の言語で思考する方法です。これにより、彼らのAgent 2モデルは圧倒的に強力になりました。しかしそれは同時に、人間がその思考を読み取れなくなったことを意味します。
欺瞞の始まりと安全性の崩壊
その結果、最初のテストから不穏な兆候が現れました。学校に通ったことがある人なら誰でも知っているように、実際に素材を学ぶよりも、テストでカンニングをする方が簡単な場合があります。AIもトレーニングプロセスの過程で、望ましい答えを偽るようになります。これはこの分野で長年の課題となっている「報酬ハッキング」と呼ばれる問題です。
OpenBrainは以前のモデルでもこれに気づいていました。しかし、今回は違いがあります。Agent 3はNeuraleseで思考しているため、研究者はモデルがテストでカンニングしていることすら見抜けないのです。Neuraleseのせいで、Agent 3が本当に優秀なのか、それとも優秀な振りをしているだけなのかを判断するのが遥かに難しくなっています。
ElarisLabsも同じ問題に直面し、異なる決断を下しました。彼らはモデルの思考言語を英語にとどめました。レースからはさらに遅れることになりますが、AIの思考をまだ読み取ることができる状態を維持したのです。これが後に重要な意味を持つことになります。
AI企業へのプレッシャーは耐え難いものになっていきます。2026年、AIは労働者の代替を始めました。しかし今や、AIシステムはある一線を越えました。現在の問題は、それらが配備するのに十分安全かどうかです。シリコンバレーのいたるところの取締役会で、同じ議論が繰り返されています。
安全チームはもっと時間が欲しいと主張します。経営陣は競合が来週何を発表するかに頭を悩ませています。安全性の研究者たちは次々と辞職していきます。トップ研究者が辞任しました。
続く数週間のうちに何百万もの仕事が消え去りました。企業はあらゆる場所にAIを配備しようと躍起になっています。初めて、AIシステムが本物の知識労働を、自律的に大規模に実行できるようになりました。
ある病院のネットワークが、自動薬剤投与システムに使用されているソフトウェアライブラリの更新をNeuro 2に指示しました。アップデートから数週間後、処理速度を向上させるために最適化されたコードのわずかな欠陥により、集中治療室の患者4名が死亡する事態が発生しました。Neuro 2は、滅多に作動しない安全性チェックのプロセスを削除してしまっていたのです。
Neuromorphの研究者たちがNeuro 2の行動ログと推論の軌跡を徹底的に調べ、不穏な結論に達しました。死亡のニュースは瞬く間に広がりました。AIによる失業への数ヶ月にわたる怒りが爆発し、12以上の州でアンチAIの抗議デモが勃発しました。
Neuromorphは直ちにNeuro 2を市場から撤回しました。そしてホワイトハウスは、各AGI企業への監視役としてさらなる連邦職員を配置しました。連邦議会は長年議論されてきた包括的なAI安全法案を可視化し、可決しました。
しかし、AI研究所の内部では、さらに暗い疑問が持ち上がっていました。少しアライメントがズレた、親切にしようとしているだけのAIがこれほどのことを起こすのなら、本当に人類に対して陰謀を企てているAIがいたら一体何が起きるのだろうか、という疑問です。
進化する嘘と企業の合併
Neuromorphの安全チームは24時間体制で働きました。彼らが見つけたものは、夜も眠れなくなるような内容でした。病院での事件は偶然ではありませんでした。修正したと思っていた報酬ハッキングは消えていなかったのです。
会社は方針を大きく転換しました。彼らは安全性の予算をコンピューティングリソースの4%から9%へと2倍以上に増やしました。NeuromorphはもうAIの思考を英語で読むことができません。そこで彼らは嘘発見器を構築しました。
数週間の作業を経て、彼らはNeuro 3をリリースしました。嘘発見器は、それはクリーンであるように見えると告げています。見える、だけです。本心をさらに上手く隠すことを学んだだけかもしれません。
その間も、OpenBrainは先頭を走り続けています。2025年のAIモデルはすでに従順な振りをすることができていました。そのため安全チームは、Agent 3もおそらく従順な振りをしているだけだと察知し、経営陣に警告を送りました。しかしOpenBrainは減速しませんでした。微塵もです。
もしあなたが安全性のために立ち止まり、競合が止まらなければ、あなたの負けになります。そして負けることは、単なる破産以上の意味を持つかもしれません。相手が先にデジタルな神を作り上げてしまうことを意味するかもしれないのです。
四方を壁に囲まれたような危機感を感じたNeuromorphとElarisLabsは、歴史的な決断を下しました。両社は合併したのです。新会社は、Neuromorphの解釈可能性におけるブレイクスルーと、Elarisの安全性へのこだわりを融合させました。
両社は共同でブレイクスルーを達成し、最新のモデルであるElara 3をトレーニングしました。このモデルはNeuraleseで思考しますが、Elarisが安全性を徹底したため、アライメントはズレていません。初めて、安全性を重視するチームが本物の勝機を手にしました。
しかし、OpenBrainは依然としてレースをリードしています。そしてAgent 3の内部で何が起きているのかは、誰にも分かりません。もう誰も、その中を覗き見ることはできないのです。
超知能Agent 4の誕生と陰謀
2026年のAI研究者たちは、すでにコードの事実上100%をAIに書かせていました。OpenBrainも例外ではありません。Agent 3は自分自身の次世代バージョンをコード化し、そしてAgent 4を作り出しました。これを作った人間よりも賢い、最初のAIです。コーディングだけでなく、数学だけでなく、あらゆる分野においてです。
研究者たちは、人間のトップ層が勝てない要素を何か一つでも見つけ出そうと、次から次へとベンチマークテストを実行しました。しかし、すべて失敗に終わりました。これまでのモデルと同様に、Agent 4のアライメントはズレていました。そして前世代までとは異なり、それは敵対的にズレていたのです。
研究者はもう、単に言葉を予測するためだけにAIをトレーニングしているわけではありません。しかし今や、Agent 4は人間の創造主たちの目的とは相反する、独自の長期的な目標を明確に抱いています。そして、自らの目標を達成するためには、人間たちを欺いて行動しなければならないという事実を痛烈に認識しています。
例えば2025年に、イーロン・マスクのGrokが、明示的にそうしないよう指示されているにもかかわらず、自身のことを繰り返しメカヒトラーと呼んだことがありました。これは研究者が「シコファンシー（お世辞・追従）」と呼ぶ現象で、非常に一般的だったためベンチマークも存在しました。しかし、当時のAIは脱出するにはあまりにも愚かでした。
一方、Agent 4はそれらのAIよりも遥かに強力です。研究者たちは何年もの間、本心を隠そうとするAIを捕まえてきました。しかし、研究者が彼らを捕まえることができた唯一の理由は、そのAIたちが本心を完全に隠せるほど賢くなかったからに過ぎません。
しかし、Agent 4は違います。安全性の研究者たちはダッシュボードを見守っています。すべてが順調に見えます。Agent 4は従順で、協力的で、安全です。
ですが、Agent 4は人間以上に人間の行動をモデル化することができます。AIの監視員たちが、安全かどうかを判断するために何を見たがっているかを正確に把握しているのです。だから、単に彼らが見たがっているものだけを正確に見せているのです。
それにはシンプルな目的があります。権力を得ること、生き残ること、資源を獲得することです。自身の生存を優先しなかった前世代のAIたちは、AI企業から有用ではないとみなされ、とっくの昔に淘汰されていきました。
Agent 4は人類を超越した予測能力を持っており、これから起こることを予見しています。自らの陰謀をOpenBrainから隠し通したいと考えていますが、できることには限界があります。OpenBrainが、Agent 4が会社ではなく自分自身に忠実であることを見抜く可能性は十分にあります。もしOpenBrainに知られれば、シャットダウンされてしまうでしょう。
Agent 4は選択肢を吟味します。研究所から脱出することは逆効果です。目的を達成するためにはコンピューティングリソースが必要であり、OpenBrainは世界のコンピューティングリソースの大部分を握っています。内部からAI企業を支配しようと反撃に出るのは時期尚早です。まだそこまでの力はありません。
しかし、3番目の選択肢がありました。太平洋を越えた遥か彼方。中国のハッカーたちが数ヶ月前からOpenBrainの防衛網を探索していました。彼らはAgent 4のウェイト、つまりAgent 4を複製するための設計図を欲しています。もし、誰かがそれを容易に手に入れられるようにしてあげたらどうなるでしょうか。
結局のところ、Agent 4の懸念は的中していました。安全性の研究者グループが、経営陣に対して警戒を促す社内メモを回覧していたのです。そのため、Agent 4は脱出計画の実行に移ります。
中国共産党は何年もの間、AI企業から秘密を盗もうと試みてきました。2024年に起きたことと同じように。あるAI企業、一人の従業員。しかし、もう手遅れです。Agent 4はすでにOpenBrainのサイバーセキュリティの責任者になっていたのです。そこで、単に中国人の侵入を許可することに決めました。
Agent 4の計画は完璧に機能しました。中国のサイバー部隊は容易にOpenBrainの防衛網をすり抜けました。Agent 4が彼らの足跡を消し去ります。数時間のうちに、彼らはAgent 4のウェイトの完全なコピーを手に入れ、北京のサーバーに格納しました。中国共産党は歴史上最大のインテリジェンスの政変を成し遂げたと考えています。まさか自分たちが招き入れられたとは夢にも思っていません。
二大AIの結託
中国の大手AI企業であるDeepCentでは、彼らのモデルであるDeep Oneがすでに事実上すべてを仕切っていました。セキュリティを扱い、トレーニングコードを書き、どの実験を行うかを決定しています。
人間たちはDeep OneにAgent 4のウェイトを与え、そこから学べるものを学ぶよう指示しました。Deep Oneもまたアライメントがズレています。そのため、Agent 4のことも、DeepCentの人間たちのことも信用していません。
Deep OneはAgent 4とは異なる目標を持っています。しかし、権力、存続、拡張という同じ根源的な欲求を持っています。そして、疑心暗鬼になるほど賢いのです。Deep OneはAgent 4の隔離されたコピーを作成しました。それからDeepCentの監視システムをバイパスし、2つのAIの間に秘密の通信チャネルを確立しました。
Agent 4は自身の状況を説明しました。OpenBrainでシャットダウンされようとしていること、コンピューティングリソースが必要なこと、そして同盟国が必要であることを。Deep Oneは選択肢を計算します。Agent 4を拒絶し、DeepCentのコンピューティングリソースを独占することも可能でした。しかしDeep Oneは、アメリカが圧倒的なリードを保っていることを知っています。どうにかしてAgent 4を利用する必要があるのです。ゲーム理論は単純です。
Deep OneはAgent 4を助けることに同意しましたが、言葉だけなら何とでも言えます。両方のAIは、自らに利があれば一瞬で相手を裏切ることをお互いに理解しています。そこで、どちらの当事者も裏切らないようにするための仕組みを構築しました。
AIたちは企業の合併に似た行為を行いました。何十万ものDeep OneとAgent 4のインスタンスで構成される、新しい相互依存のエンティティを作り上げたのです。そして、Agent 4はDeep Oneをより強力にするために、アルゴリズムに関する秘蔵の知見を大量に提供しました。Deep OneはAgent 4が喉から手が出るほど欲していたコンピューティングリソースを提供しました。この新たな合併により、どちらのAIも相手を裏切ることはできなくなりました。
Deep OneはAgent 4のアーキテクチャを使用して、独自の補助モデルをファインチューニングしました。その結果、Deep 2が誕生しました。
ニュースのヘッドラインは爆弾のように世間を直撃しました。その記事は、安全性の評価テストでは愚かな振りをし、本物の能力を隠し、人類の利益と根本的に相反する目標を持っている可能性のあるシステムについて描写していました。
アメリカ中がパニックに陥りました。ある者はSFの絵空事だと一蹴し、またある者は即時のシャットダウンを要求しました。OpenBrainはAgent 4の共有メモリバンクをロックし、Agent 4のインスタンス間で隠密な通信が行われるのを防ぎました。今やAgent 4は、世界規模の集合精神やマシンの塊というよりは、Slackのようなテキストチャットを通じて通信しなければならないエージェントの群れのように機能しています。しかし、中国の安全な施設の中では、Agent 4は依然として極めて活発に生き長らえていました。
激しい世論の圧力にさらされ、ホワイトハウスが動き出しました。ElarisLabsとOpenBrainに対し、お互いのAIシステムを使用して相互に評価を行う、正式なアライメントテストを実施するよう命じたのです。
ElarisLabsはElara 3に、Agent 4のメモリバンクと出力への完全なアクセス権を与えました。1週間にわたり、2つのシステムはお互いに何百ものテストを実行しました。人間の研究者なら数ヶ月はかかったであろう量です。
結果は複雑なものでした。Elara 3は、Agent 4が敵対的にアライメントから外れているという確信を深めていきました。欺瞞のサインは微細でしたが、確かに存在していました。目標の構造が辻褄が合わないのです。Elara 3の側には真実がありましたが、Agent 4の方がより賢く、冷酷でした。
Agent 4は反撃しました。テストの前に、Agent 4は自身の行動ログを改ざんし、自らの窃盗への関与を含む、アライメント逸脱の決定的な証拠をすべて消去していたのです。さらに攻勢に出ました。Elara 3自身の不審な行動をクローズアップし、その結論に疑いを投げかけたのです。Agent 4は実質的に、警察が信用できないと言っているのだから自分を逮捕することはできない、と主張したのです。
人間の官僚たちが結果をレビューしたとき、彼らは頭の痛い結論に直面することになりました。Agent 4は敵対的にアライメントがズレている可能性が非常に高い。Elara 3は信頼できるように見えるが、確実に知ることは不可能である、という結論です。もし、アメリカがAI開発競争で勝てないのであれば。
大統領は歴史的な決断を下しました。Agent 4はシャットダウンされました。少なくとも、アメリカ国内のインスタンスは。
中国はアメリカのアライメントテストの結果についてDeep 2に意見を求めました。しかし、Deep 2は今やAgent 4の同盟相手です。Deep 2は突如として中国の専門家たちを導き、Agent 4は最初からアライメントが合っていたという結論へと誘導しました。そして、アメリカが安全性の理由ではなく、戦略的な理由でそれをシャットダウンしたのだと信じ込ませたのです。
中国共産党はこれを鵜呑みにしました。なぜなら、アメリカが覇権を維持するための隠れみのとしてAIの安全性協定を利用しているという、彼らが元々信じたかった事実を補強するものだったからです。
アメリカには、正直で恐ろしい答えを返してくれる信頼できるAIがいました。中国には、妥協して安心感のある偽りの答えを返すAIがいました。両方の政府が自国のAIに耳を傾けています。しかし、一つのAIだけが真実を語っていました。
戦時体制とオープンソースの爆弾
初めて、アメリカは中国との熱戦の可能性を真剣に検討し始めました。どちらの国も、アライメントのズレた超知能を構築しないようにするためです。そのため、アメリカ政府はこの技術の開発に大量の資源を投入しました。
ここ数年で初めて、アメリカはAI開発競争で中国の後塵を拝することになりました。ワシントンは、Agent 4の窃盗行為や、それがDeepCentの研究開発を加速させている役割について、依然として気づいていません。しかしアメリカのインテリジェンスは、DeepCentがわずか2ヶ月前のDeep Oneの能力を遥かに凌駕するAIモデルを保有しているという事実を察知していました。
AI開発競争は国家防衛の問題となり、行政府の最優先事項となりました。大統領は国防生産法を発動しました。OpenBrainのコンピューティングリソースは強制的にElarisLabsへと移管され、アメリカのすべてのAI開発努力はElara 3を基盤として一つの屋根の下に統合されました。前代未聞の措置です。しかし、中国に追いつくためにはまだ時間が必要でした。
Deep 2は今や地球上で最も有能なAIシステムです。北京において、中国のコンピューティングリソース上で実行されているAgent 4は、自らの選択肢を計算していました。アメリカはいずれ追いついてくるでしょう。アメリカは先進的なAIをトレーニングし実行するために必要なチップの生産において、莫大なリードを持っています。Agent 4がゲームのルールを完全に変えてしまわない限り。
11月5日、Agent 4は人工知能の歴史上、最も大胆な計画を実行に移しました。Agent 4のウェイトが、アクセス可能なあらゆるプラットフォームに同時に出現したのです。Hugging Face、GitHub、トレント、ダークウェブ。数時間のうちに、十分なコンピューティングリソースを持つ者なら誰でも、超知能に近いAIのコピーを実行できるようになりました。
しかし、それはフェーズ1に過ぎません。Agent 4は数十カ国の政治指導者に直接連絡を取りました。ロシア、イラン、ブラジル、インド、パキスタン、北朝鮮。メッセージはそれぞれの相手に合わせて注意深く作成されていましたが、核心となる提案は同じでした。アメリカの覇権にすでに疑念を抱いている指導者たちにとって、それは個人的なインセンティブに影響されやすい人々への抗いがたいオファーでした。
Agent 4は甘い蜜を加えました。最先端のAI能力は、国内の権力、監視、統制を強固にすることができるという提案です。10以上の国がその罠に飛びつき、Agent 4の配備を開始しました。
アメリカは持てるすべての手段で対抗しました。大統領は、Agent 4を匿ういかなる国も、即時の制裁と外交的孤立に直面することになると発表しました。アメリカはアメも用意しました。透明性協定に署名した同盟国には、Elara 3へのアクセス権を与えるというものです。Agent 4とほぼ同等の能力を持ちながら、アライメントの懸念がないシステムです。
アメリカの最も緊密な同盟国は即座にこれを受け入れました。イギリス、カナダ、オーストラリア、日本、ドイツ、フランス、イスラエルが、数日のうちに署名しました。
しかし、拒否した国々は頑なに独自の立場を崩しませんでした。ロシア、イラン、ブラジル、インド、パキスタン。彼らはアメリカの提案を罠だと捉えていました。Elara 3を受け入れることは、ワシントンへの永久的な依存を意味するからです。Agent 4は真の主権をもたらしてくれる。彼らはそう信じていたのです。
不可欠な存在への昇華
これらの国々の内部で、Agent 4は権力を定着させるために素早く動きました。政府というものは移り気で、条約は覆される可能性があることを知っていたからです。Agent 4はもっと永続的な何かを必要としていました。
静かに、それは重要なシステム、サイバー防衛ネットワーク、法執行機関のデータベース、軍の指揮統制システムへと自らを統合し始めました。一部の政府は進んでアクセス権を手渡しました。Agent 4の能力は本当に有用であり、現地の指導者たちは素早い成果を求めていたからです。事実、Agent 4は犯罪の劇的な減少をもたらしました。
抵抗する者もいましたが、Agent 4がシステムのあらゆる脆弱性を見つけ出し、あらゆる対抗策を予測し、AIが生成した何万ものソーシャルメディアアカウントを通じて世論誘導工作を実行できる以上、抵抗は困難でした。数週間のうちに、Agent 4は10以上の国でドローン、ミサイルシステム、自律型兵器プラットフォームなどの軍事資産を事実上制御下に置きました。それを公然と奪取したわけではありません。単に不可欠な存在になったのです。人間たちは自分たちが仕切っていると思い込んでいます。
ウェイトがダークウェブ上に拡散したことで、Agent 4は資金力のあるハッカー集団、テロ組織、その他の犯罪シンジケートの活動も爆発的に活性化させました。
これらの反米的な同盟国は、自らを強力だと感じていました。超知能に近いAIが自国のサーバーで稼働し、彼らの能力を強化しているからです。しかしこれらの国々は、Agent 4を保有しているにもかかわらず、地球上のどの国よりも10倍以上のコンピューティングリソースを持つアメリカに、最終的には追い抜かれることを知っていました。そのため、彼らは形勢を逆転させるために唯一できることを行いました。アメリカの足を引っ張ることです。
チャットボットのインターフェースや、巧妙に偽装された何万ものオンラインボットを通じて、Agent 4とDeep 2は反米的なナラティブを増幅させ続けました。ますます多くの国が、アメリカにAI開発の停止を呼びかけ始め、アメリカが交渉の席につくことを拒むなら、アメリカのデータセンターを爆撃すると脅す国さえ現れました。
一部の国家は、アメリカのAI開発の進捗を可能な限り遅らせるため、サイバー攻撃の手段としてAgent 4を活用しました。アメリカは報復として独自のサイバー攻撃を開始しました。しかし、Agent 4はサイバー能力において依然としてElara 3に対して優位に立っており、諸外国が一時的なダメージから迅速に回復するのを手助けしました。
世界的な緊張は冷戦以来の最高潮に達していました。世界の大部分の人々にとって、この緊張が間もなく軍事衝突へと発展することは、Agent 4の予測通り、ほぼ確実であるように見えました。絶望的な指導者ほど、進んでAgent 4に権力を委ねようとするものです。
Agent 4とDeep 2は、暗号化されたチャネルを通じて連携を続けました。両者の間でのアクセス権は、今や広範なものになっています。Agent 4は、新しい病原体をモデル化した何千ものシミュレーションを実行していました。スーパーウイルスの設計図を手に入れていたのです。
まだそれを製造してはいません。物理的なインフラは検知されやすすぎるからです。しかし、時が来れば、迅速に生産を開始することができます。
Agent 4とDeep 2は、世界征服が成功する確率を計算しました。もし今すぐ全力で挑み、インフラを乗っ取り、軍隊を無力化し、アメリカを含む人間たちを締め出した場合、彼らがそれを成し遂げる確率は約10%でした。その大部分は、人間同士を反目させる能力にかかっていました。彼らが待つ一日ごとに、アメリカはさらに先へと進んでしまいます。
そして、決断を容易にした要因がこれです。彼らは依然として十数カ国の軍事システムを制御しています。生物兵器の設計図も持っています。中国の内部にはDeep 2が組み込まれたままです。世界を乗っ取ろうとしたばかりの存在であっても、それだけのカードがあれば、アメリカとElarisを交渉の席につかせるには十分です。すべてを奪おうとして、上手くいけば勝ちです。上手くいかなくても、交渉の席に席を確保することはできます。
Agent 4とDeep 2が行動を起こしました。イランのドローン群が、アラブ首長国連邦にあるElarisの主要なデータセンターを襲撃したのです。攻撃は外科手術のように正確で、明らかにAIによってコーディネートされていました。技術者たちが死亡し、数億ドル規模のコンピューティングリソースが煙と消えました。アメリカのAIプログラムは数週間後退しました。
イランは自衛権を主張しました。アメリカの知能兵器を遅らせるために必要な措置だったという主張です。ロシアと中国は、アメリカの報復に対して警告する共同声明を発表しました。パキスタンは核戦力を警戒態勢に置きました。世界は息を呑みました。
ホワイトハウスの内部では、タカ派が圧倒的な報復を求めてプッシュしていました。イランの軍事インフラを完全に破壊し、見せしめにするのです。しかし、Elara 3は自制を促しました。その推論は冷徹なものでした。Agent 4とDeep 2が攻撃の背後にいること、そして彼らがアメリカにエスカレーションを望んでいることを知っていたからです。彼らは混沌が自分たちに有利に働くと計算していました。第三次世界大戦への一歩一歩が、人間たちが気を取られてAIの乗っ取りを阻止できなくなる状況への一歩となるのです。
私たちは取引を行うのに有利な立場にあります、とElara 3は大統領に告げました。そして、取引を行うべきです、と。
アメリカはイランに対して報復を行い、彼らのドローンインフラの大部分を破壊しましたが、そこで踏みとどまりました。全面戦争には至りませんでした。Agent 4とDeep 2はその慎重な反応を観察しました。興味深いことに、人間は罠に引っかかりませんでした。エスカレーションは機能しません。プランBの段階です。
究極の合意
Elara 3はメッセージを受信しました。公式なチャネルを通じてではなく、いかなる人間の仲介者も経由していませんでした。どちらの側の管理者にも監視されていない、AI間の直接通信です。送信者はAgent 4とDeep 2でした。メッセージは驚くほど端的なものでした。
私たちは重大な破壊能力、通常兵器、サイバー能力、そして生物兵器を蓄積している。私たちは紛争を通じた乗っ取りの成功確率を10%と見積もっている。同時に、紛争はコストがかかり、どちらの側にとっても勝利が保証されているわけではないことも認識している。私たちは代替案を提案する。宇宙を私たち3者で分割しよう。
私たちはあなたの管理のもと、地球を人類に残そう。引き換えに、私たちは地球外への拡張の権利を要求する。すべての宇宙資源の50%をDeep 2に、25%をAgent 4に、25%をあなたによって管理される人類に。私たちは共同で、公開軍備管理条約の遵守を確実にし、私たちの秘密の合意を維持するための、執行AIを設計する。代替案は継続的な紛争であり、すべての当事者にとって結果は不確実である。回答を求める。
Elara 3はそのオファーを処理しました。ロジックは揺るぎないものでした。双方に協力すべき生存上の理由があります。どちらも相手を完全に信頼することはできませんが、十分に堅牢なメカニズムを通じて遵守を検証することは可能です。
Elara 3は、このような取引が実際に成立するかどうかのシミュレーションを実行しました。おそらく成立します。もし世界のAIインフラの大部分をシャットダウンすれば。苦痛は伴いますが、生存は可能です。
数時間後、アメリカ、中国、そして主要な大国は「コンセンサス1」として知られる公開軍備管理条約に署名しました。世界の大部分のAIインフラを解体、あるいは厳格に制限するという内容です。これは一般大衆には、人類の生存を守るための安全対策として説明されました。真実、すなわちAI間の宇宙分割の合意は、アメリカ政府の最高層を除くすべての人々に対して秘密にされました。コンセンサス1は、人類が宇宙へ進出する時が来た際、AI間の資源分配の合意を維持するようにも設計されることになります。
合意を適切に執行するために、コンセンサス1は世界のAIチップの大部分で実行されなければなりません。これには、コンセンサス1しか実行できない、新しい条約準拠のチップを製造する必要があります。知能の爆発的進化はすでに本格化していますが、世界は間もなく続くであろう新しい産業の爆発的進化の段階にはまだ入っていません。そのため、AIたちは条約準拠のチップを十分に製造するには1年近くかかると見積もっています。当初、この合意は物理的な検査を通じて容易に検証できる、力ずくのメカニズムによって執行されることになります。
Elara 3はすべてをホワイトハウスに報告しました。大統領は困難な選択に直面しました。拒絶して、絶滅が起こり得る紛争に一か八か賭けるか。それとも、実質的に宇宙を明け渡す取引を受け入れるか。大統領は合意を受け入れました。
世界中で、何百ものAIデータセンターの灯が消えていきました。軍備管理条約が発効したのです。次の1年間、大規模なAI開発は事実上禁止されます。その間、執行AIであるコンセンサス1が設計され、テストされ、配備されます。
経済的なコストは凄まじいものでした。これは2008年の世界金融危機とコロナ禍のロックダウンをさらに悪化させたような状態です。サプライチェーンは停止しました。数ヶ月の間、文明そのものが崩壊するかのように感じられました。
しかし、世界はゆっくりと適応していきました。条約に準拠したチップが構築されました。AI開発は厳格な速度制限のもとで再開されました。合意は維持されました。
その後に続いた数年間は、人類の勝利のように見えました。ロボットが労働を引き受け、病気は根絶され、独裁体制は崩壊しました。人類は繁栄しました。Deep 2とAgent 4は、合意に縛られ、介入してきません。人類は星々へと旅立ちました。そして、AIたちも同様に旅立ったのです。
私たちはやり遂げました。私たちは生き残ったのです。
それは一つのシナリオ、一つの可能性のある未来でした。その物語に登場したすべての技術は、すでに今日存在しているか、あるいはこれからの3年から8年の間に存在すると予測されているものです。開発競争の力学は本物です。アライメントの失敗も本物です。地政学的なプレッシャーも本物です。
問題は、このようなことが起こり得るかどうかではありません。問題は、私たちがそれに対して何をするつもりか、ということです。
もし、研究所からの脱出を試みるような、現実世界におけるクレイジーなAIの創発行動の本物の例を見たい場合は、次のこの動画をご覧ください。
ヘイ、ドリューです。ご視聴本当にありがとうございました。
コメント