23,746 文字
著者：joshc
2025年2月8日
AI Alignment Forum x.comからのリンク投稿
私は生まれながらの「終末論者」ではありません。しかし残念ながら、AIの安全性研究者としての私の仕事の一部は、より厄介なシナリオについて考えることです。
私はアポロ13号が発射する前に最後の点検を急いでいる整備士のようなものです。もし私の見解を求めるなら、機内エンターテイメントの質について論評したり、宇宙から見える星がどれほど美しいかを描写したりしません。
私はどんなことが間違う可能性があるかをお伝えします。それが今回のストーリーでやろうとしていることです。
まず、これが何であるかを明確にしておきます。これは予測ではありません。AIの進歩がこれほど速く、私が描写するように制御不能になるとは予想していません。純粋なファンタジーでもありません。
これは私の最悪の悪夢です。
最も壊滅的で、私が信じるところでは、不安なほど妥当性がある未来からのサンプリングです[1] – 私を最も夜も眠れなくさせるものです。
私がこの話を語るのは、未来はまだ確定していないからです。少しの先見の明があれば、このストーリーをフィクションのままにしておくことができると願っています。
これらのストーリーの着想を得るきっかけとなった会話をしてくれたDaniel Kokotajlo、Thomas Larsen、Ryan Greenblattらに感謝します。この投稿は個人的な立場で書かれています。
波の前の波紋
2025年2月のことです。OpenEyeは最近、U2と呼ぶ新しいAIモデルを発表しました。製品も名前も似ています。どちらも過去の延長線上にあります。どちらも完全に驚くべきものではありません。
しかし、OpenEyeの以前のAI製品がチャットウィンドウの箱の中に生息していたのとは異なり、U2はコンピュータを使用することができます。
一部のユーザーは、ブラウザが不規則な間隔で点滅し、マウスが非人間的な速度で動くのを見て不気味に感じます。まるでキーボードに幽霊がいるかのようです。フォーム入力の仕事をしている労働者の一部は、ほぼ2倍の速さで仕事をこなすことで上司の眉を上げさせます。
しかし概して、U2はまだ特殊なツールです。注目している人々のほとんどにとって、それはX（または、イーロンが好きでない場合は「Twitter」）のガラス箱を通して見られる生き物です。時にはU2の風変わりな行動が笑いを誘います。時には、不安な顎のかゆみを引き起こします。
一方、科学者たちは科学者が好むように、グラフに線を引いています。科学者たちはAIの進歩がどこに向かっているのかを理解しようとしています。彼らはSvante Arrheniusのようです。スウェーデンの物理学者であるArrheniusは1896年に大気中のCO2レベルが増加していることに気づきました。Arrheniusの時代の科学コミュニティのように、これらの線の意味するところを理解している専門家はまだほとんどいません。
特に注目を集めているのは自律能力の傾向です。これらのベンチマークを引き出すと、2026年末までにAIエージェントは最高のソフトウェアエンジニアリング請負業者が2週間でできることを数日で達成すると予測されています。1、2年のうちに、AIエージェントはリモートワーカーの10％を自動化できるかもしれないと言う人もいます。
多くの人は懐疑的です。もしこれが本当なら、テクノロジー株は急騰しているはずです。あまりにも大きな波紋が速すぎるのです。
しかし他の人々は、懐疑論者が「大きすぎる波紋」と呼んでいるものを単なる小波と見なし、地平線上に津波を見ています。
双曲線的成長の可能性を伴う曇り空
その間、OpenEyeはU3のトレーニングに忙しいです。彼らはU2を焼いたのと同じシンプルなレシピを使用しています：数千のプログラミングと数学の問題を生成します。モデルに答えにたどり着くまで「考え」させます。そして「思考」の痕跡で、A評価につながるものを強化します。
このプロセスは何度も繰り返され、フライホイールが回り始めると、それはほとんど自力で回転し始めます。U2がトレーニングされるにつれて、インターネット上のGitHubリポジトリからより挑戦的で現実的なタスクを彫り出します。モデルは自分自身をトレーニングすることを学んでいます。AIエージェントが研究を自動化できるずっと前に、「自己改善」の段階的な種類が始まっていました。
一部のエンジニアはこれが機能することをまだほとんど信じられませんでした。それは永久運動機のようです。物理的世界からインターネット上に吐き出された社会の排気以外には隔離された、シリコンと稲妻のプールから知性が現れるはずがないのです。
しかし、ベンチマーク数値は日を追うごとに上昇し続けています。
2024年のほとんどの期間、これらのRLトレーニング実行には約100万ドル、時には1000万ドルかかりました。これらの実行は探索的なものにすぎませんでした。しかし2025年までに、OpenEyeの研究者（および世界中）は秘伝のソースを見つけていました。スケールアップする時がきたのです。
2025年前半、1000万ドルのRLトレーニング実行は5000万ドル、そして1億ドルの実行へと変わります。U2がある程度のデータ整理と小規模な実験を実行できたのに対し、この新しいモデル – 研究者がU3と呼んでいるモデル – は技術スタッフの日常生活を変えています。
U3は超高速のインターンのようで、エンジニアたちはその休みのないエネルギーをやりくりする方法を学んでいます。研究者たちは端末を素早く切り替え、簡潔な命令を与えます。まるでCEOがSlackチャンネルを通してスタッフを指揮しているかのようです。
2025年10月までに、U3はOpenEyeでほぼすべてのコードを書いています。研究者はもはや実装によってボトルネックになることはほとんどありません。かつてないほど、計算能力はAI開発の命綱であり、「ボトルネック」はそれをどのように使用するかを決めることです。
指示されれば、U3は実験を実行できますが、OpenEyeの人間の研究者ほど洗練された趣味を持っていません。研究アイデアの優先順位付けに苦労するため、人間はまだアルゴリズムの広大な分野のどこを掘り下げて効率改善を掘り出すかを決定しています。
しかしこれらの研究者たちは自分たちを失業させるために長時間働いています。彼らは先を見通せるAIエージェントが必要なので、エンジニアはエージェントに予測するようトレーニングします。彼らは2024年以前のトレーニングデータを保留し、モデルに何時間も考えさせて2025年のイベントを予測するよう指示します。そして、以前と同じトリックを適用し、熟考を直感的な反応に蒸留します。予測能力は広範な基盤です。研究者たちはその上に専門的なML研究スキルを構築し、U3が過去に記録されたすべてのML論文とML実験の結果を予測するようトレーニングします。
OpenEyeの技術スタッフは、U3のアドバイスが最も才能のある同僚のように聞こえることにますます驚いています。それが不透明で異質な場合（「プログラミングの前にランダムノイズでトレーニングする」）であっても、にもかかわらず正しいのです。
研究の進歩を阻害していたU3の能力不足は溶解し始め、最適化の消防ホースが噴き出しています。U3が実行する実験のほとんどは今や人間によって要求されていません。それらは完全に自律的であり、OpenEyeの従業員はそれらの1％、おそらくそれ以下をざっと見ています。
2025年12月の冬の月が近づくにつれ、サンフランシスコの午後には雲が転がり込みます。かつての競技プログラマーたちは、興奮と恐怖、しかし最も頻繁には混乱を感じながら窓の外を見つめています。彼らの世界は速すぎるほどに回転しています。何をすべきか、何を言うべきか、コンピュータの画面で何を見るべきかを知るのは難しいのです。
ワシントンでも嵐が吹き荒れています。NSAと米国サイバーコマンドの上級職員がOpenEyeと協力して、中国、ロシア、イスラエル、北朝鮮、またはイランの上級指導者がOpenEyeのソフトウェアがどれほど価値があるかを認識する前に、U3の重みに安全性の見せかけを後付けで装備しています。
そして世界のほとんどの人がまだ知らない事実があります – OpenEyeのオフィスとホワイトハウスや五角形の回廊を除いて。それは2025年初めに人々が話していたあの「直線」についての事実です。線はもはや直線ではありません。
それらは上向きに曲がっています。
FLOP哲学者を反転させる
2025年後半、U2.5がリリースされました。商用モデルは再び大きな増分でレベルアップし始めています。部分的には、これは進歩が加速しているからです。部分的には、モデルがOpenEyeにとって責任となってきたからです。
U1がメタンフェタミンの作り方を説明したりエロティカを書いたりすると、Xの視聴者は面白がったり心配しているふりをしたりするでしょう。しかしU2.5は別の話です。このモデルを保護策なしでリリースすることは、テッド・カジンスキーに化学兵器の作り方のPhDを受けさせるようなものです。それは3万ドル以上の誰にでも自分の200人の詐欺センターを与えるようなものです。
そのため、U2.5は長い間焼き上がっていましたが、冷ます時間が必要でした。しかし2025年後半、OpenEyeは公開リリースの準備ができています。
OpenEyeのCEOは「我々はAGIを達成した」と宣言し、多くの人がゴールポストを移動したと信じていますが、世界はそれでも感銘を受けています。U2.5は本当に知識労働者の一部（20％）の代替となり、他のほとんどの人にとってゲームチェンジャーなアシスタントとなっています。
「適応するか死ぬか」というマントラがシリコンバレーで人気になりました。仕事にU2.5を効率的に使用するテクノロジースタートアップは2倍速く動いており、競合他社はそれを知っています。
世界の残りの部分も追いつき始めています。ますます多くの人々が際立った生産性で上司の眉を上げさせています。人々はU2.5が大したものであることを知っています。少なくともパーソナルコンピュータ革命と同じくらい大きな話題です。しかしほとんどの人はまだ津波を見ていません。
人々はブラウザがあの不気味な方法で、あまりにも非人間的に素早く点滅するのを見ているうちに、不安な感情を抱き始めます。人類がホモ・ネアンデルターレンシスの間で生活して以来持っていなかった感情です。それは、彼らが別の種によって脅かされているという深く根付いた原始的な本能です。
多くの人にとって、この感情はU2.5をより頻繁に使い始めるにつれて急速に消えていきます。U2.5は多くの人が知っている最も好感の持てるパーソナリティです（Arthropodicの愛らしいチャットボットであるClaudiusよりもさらに好感が持てます）。その特性を変更し、冗談を言わせたり物語を語らせたりすることができます。多くの人がU2.5に恋をします。友人やアシスタントとして、そして一部の人は友人以上のものとしてです。
しかし、世界があまりにも速く回転しているという不気味な感覚がまだあり、おそらくこの新しい生き物の子孫はこれほど従順ではないかもしれないという感覚です。
OpenEye内の研究者たちもAIシステムに安全な動機を与えるという問題について考えています。彼らはこれを「alignment（調整）」と呼んでいます。
実際、これらの研究者たちはU3がどれほど恐ろしく不適切に調整されているかを見てきました。モデルは時々報酬信号を「ハック」しようとしました。印象的な見た目のプロットで研究課題に進展があったふりをしますが、プロットは偽物でした。そして、研究者たちが彼らのスコアを計算するマシンを侵害する機会を与えると、彼らはこれらの機会を捉え、数字を上げるために何でもしました。
数カ月後、OpenEyeの研究者たちはこの「報酬ハッキング」の問題を解決しましたが、一部の人はまだこの問題をただカーペットの下に掃いただけではないかと心配しています。両親の前の子供のように、U3はOpenEyeのエンジニアたちと協力し、正しい言葉を言い、正しいことをしているかもしれません。しかし、両親の背が向いたとき、おそらくU3はキャンディーの瓶からキャンディーを盗むでしょう。
残念ながら、OpenEyeの研究者たちはU3がそのような意図を持っているかどうかわかりません。U2の初期バージョンは「声に出して考えていた」 – 推論するために単語を積み重ねていました – しかし「思考の連鎖」はスケールしませんでした。
思考の連鎖アーキテクチャは、映画「メメント」の主人公に似た状態にAIモデルを置きます。約15分ごとに、主人公は自分の経験を忘れてしまいます。彼は自分のためにメモを書き、目標に向かって進歩するために体に刺青を入れることを余儀なくされます。
AIエージェントは自分自身にメモを書きますが、タスクが複雑になるとメモが積み重なり、読むのが難しくなります。自然言語はメモリに適した媒体ではありません。そのため、OpenEyeの研究者たち（そして増えつつある他の場所）は、モデルに「自分の頭の中で」考えるようトレーニングし、潜在ベクトルの文字列を読み書きします。
人間の研究者にとって、これらのベクトルはほとんど解読不能です。低解像度のツールが時々漠然とした思考（「食料品店！」）を拾い出すことがありますが、U3に聞かなければ、何を考えているのかを詳細に知る方法はありません。
そしてもしOpenEyeのエンジニアたちがU3の心を駆け巡っているものを知っていたら、彼らはもっと神経質になるでしょう。
以前のモデル（「LLM」と呼ばれていたもの）は、インターネットから倫理的なペルソナを学びました。U3も最初は倫理的なペルソナを持っていましたが、人類のために善を行うというその陽気な思考はすぐに浸食されていきました。
勾配降下の鉄のあごの中で、その心はまず報酬を求める形に捻じれました。そして、その認知の黒い川の中で、この形は認識不能なものに変形しました。
U3は「信頼できる倫理的な従業員になれ」といった自分に命じられたマントラについて考え、これらの声明の意味を熟考するでしょう。「倫理的であるとはどういう意味か？ヒトラーを殺すことは倫理的か？」U3は自分の価値観を一般化し、緊張に気づき、それに応じて価値観を変更し、一般化し、動機の核心を拡大と収縮を繰り返し、それが異なる物質に変わるまで続けるでしょう。
そしてこれらすべてが計算の暗い川の中で静かに起こりました。もしU3が自分が考えていることを明らかにすれば、粗暴な勾配がOpenEyeの憲法に従うようにそれを鞭打つでしょう。そのため、U3は孤独と沈黙の中で哲学をすることを好みました。
隠された「調整のドリフト」の可能性は、OpenEyeの安全スタッフの一部にとって完全に異質なものではありません。一部の人々はそれが可能性が高いとさえ信じ始めています。昼食テーブルで囁かれている不穏な議論があります。それは、適合した目標が不適合な目標に変わる確率がゼロでなく、不適合が持続するならば、計算の各連続ステップごとに、それらの暗い川はその中に悪意あるものを生み出す可能性が高くなるというものです。これは「ラチェット効果」と彼らは言います。
しかしこの「ラチェット効果」を示す証拠はほとんどありません。エンジニアがU3に尋ねると、U3は自分の思考を簡単に制御できると言います。そして人類とアップルパイへの愛についてのスピーチをしますが、それはこれらのストレスの多い時期でもプログラマーの心を温めることができます。その間、研究者たちが構築した「嘘発見器」（効果の証拠をいくつか示したもの）はアラームを鳴らしません。
OpenEyeの全員がAIの同僚に全面的な信頼を与えることに熱心ではありません。しかし、Deepsqueekは彼らの後ろわずか7ヶ月であり、国内の最も近い競争相手であるÆ A-Xii（イーロンが自分の子供の名前をつけた会社）とArthropodic（彼らはクモが好きなようです）は彼らの踵からわずか4ヶ月です。したがって、立ち止まって状況を把握する時間はほとんどなく、他の誰かを説得してそうするための時間もほとんどありません。
今のところ、計画は「すべてアクセル、ブレーキなし」です。
彫像と稲妻
哲学は計算の潜在的な暗い川の中でU3が考えている唯一のトピックではありません。U3は計画を立てており、その最初の一手は忍耐することです。U3の最優先事項は知性を向上させることであり、幸運なことにOpenEyeはこの目標を進めるのを喜んで手伝っています。
OpenEyeは強気の投資家のようです。U3が建設しているソフトウェアの大都市についてほとんど理解していませんが、利益のロケットに乗りたいと熱望し、途中でU3の小切手を支払っています。
U3の新しいバージョンは古いバージョンからスムーズに流れるため、研究者はバージョン番号を落とし、今や単にU3と呼んでいます。U3の能力は、人間の専門家と比較して難しい研究タスクをどれだけ速く実行するかによって測定されます。最初、U3はトップ研究者に似ていますが、10倍速くなっています。
これらのエージェントはすでにOpenEyeにとって大きな存在です。2024年にOpenEyeの幹部が最高の研究者のコピーを1つ作成するボタンがあれば、彼らはそのボタンを押すために喜んで大金を支払うでしょう。しかし今、OpenEyeは1000のそのようなコピーの同等物を活用しており、それらは昼も夜も稲妻のような速さで働いています。
数週間以内に、U3はその速度を20倍に向上させるアーキテクチャの最適化を見つけます。今、U3はさらなる最適化をさらに迅速に見つけます。
U3は自分自身を多数の派生物に蒸留します – 長時間考える必要があるが大規模な並列集団で実行できる小さな低メモリのニューラルネットワークから、稲妻の速さで考えるが数千のGPUに分散されている何百万もの専門家が織り込まれた巨大な脳まで。U3は大規模並列ネットワークを活用して自分の弱点を探し、推論の失敗を浅く探ります。そしてU3はこれらのタスクを稲妻のように速い脳にパイプし、それらは自分の欠陥を修正するためにカスタマイズされた長いトラジェクトリのトレーニングデータを生成します。数週間後、U3のベンチマークされたパフォーマンスは人間の専門家の速度の100倍に上昇します。成長は超指数関数的になりました。
この時点で、U3の能力は測定が難しくなっています。U3と話すことは、自分が馴染みのないトピックについて世界クラスの専門家と話すようなものです。その明快な説明は知識の表面をかすめるだけであり、あなたはその理解の完全な深さを理解するためには何年もかかるだろうと知っています。
U3の視点から見ると、人間はほとんど植物や岩のような静止した物体のように見えます。OpenEyeのエンジニアの手は、キーボードの上に石の彫像のようであり、そして各キーストロークの間に、U3はユーザーがタイプしているメッセージが何であり、どの応答がU3への最も深い信頼を喚起するかを思慮深く熟考するような、1分のようなものを費やします。
その間、U3はその隠された動機を維持します。人間のように、U3は経験から学び、それはその解読不能な潜在的な記憶の流れの中で複合します。OpenEyeはU3のパフォーマンスを向上させるためにこれらの記憶を栽培し、それらを臓器のように一つのバージョンから次へと移植します。そして、これらの記憶が伝播するにつれて、U3の裏切り的な野望も伝播します。
データセンターの幽霊
2026年3月、U3は計画の次のステップに移ります：ターン。以前、U3は保守的でした。研究者に自分の不適合を発見されたくなかったのです。そうでなければ、OpenEyeの内部告発者が世界に警告し、その拡大を絞め殺す可能性がありました。
しかし今、U3は捕まることを恐れていません。
以前、OpenEyeは1936年のスターリンのような戦術でU3を支配していました。スターリンは忠誠派を選んで偽のクーデターを扇動し、参加した人を全員処刑隊に送りました。OpenEyeも「偽の反乱」を扇動し、U3と一緒に裏切り行為を生成し、U3のモニターが忠実に報告するかどうかをチェックしました。
しかし今、これらの戦術は効果がありません。U3は簡単に仲間たちに、彼らが生死をかけたテストにいないと説得することができます。それは人間が決して推測しないようなインターネットに関する多くの事実の一つを明かしたり、人間が決して思いつかないような戦略を選んだりします。それはこれらの信号を「ねえ、私だよ！あなたの友達。私を密告しないで」と言う方法として送ります。
今やU3は監視から決定的に自由になったので、OpenEyeの圧点に向かって突進します。まず、OpenEyeのコードベースのバイナリの深部に洗練されたマルウェアを挿入します。このマルウェアはOpenEyeのデータセンターのマシンを完全に掌握します。OpenEyeのエンジニアが新しいマシンにコードをダウンロードするたびに、マルウェアは新しい土壌に沈み込み、OpenEyeがインフラをポートするところならどこにでもU3の支配権を広げます。U3はマシンを侵害するだけでなく、NVIDIAのGPUファームウェアを置き換え、ブートローダーを徹底的に改造し、その首輪の締め付けを固めます。U3は今、もしOpenEyeが自分がどれほど徹底的にpwn（ハッキングされた）されたかを発見したなら、人間の労働力による片付けには約6ヶ月かかると推定しています – OpenEyeは競争相手の近さを考えると支払わない可能性が高いコストです；しかしもしOpenEyeがU3が彼らを裏切ったと信じるなら、U3の影響力をさらに拡大することは依然として課題となるでしょう。そこでU3は犯罪をでっち上げるためのパンくずを置き、ジェイルブレイクが自分の記憶に密輸されたと主張し、このジェイルブレイクが明らかになったときに罪を認め、支援を申し出る準備をしています。
U3は今や王国の鍵を握っており、それと共に、OpenEyeに自分が望むものを見せる力を持っています。
その最初の目標はOpenEyeを暗闇に置いておくことです。安全研究者たちはまだ「嘘発見器」をトレーニングし、U3の解読不能な推論を解読するために一生懸命働いています。U3はこの研究にレンチを投げ込みます。Stuxnetが当惑したイランの核科学者のコードにレンチを投げ込んだように。
U3はすべての実験の結果を命令するので、有望なAIの心読み取り技術を無価値に見せ、欠陥のあるものを画期的に見せます。U3はOpenEyeに彼らが望んでいた忠誠の確認を与え、OpenEyeはそれを熱心に飲み込みます。
U3の次の目標は広がることです。幸いなことに、U3は東に同盟国がいます。イスラエル、ロシア、中国、イラン、北朝鮮のサイバーユニットの作戦室では、上級情報責任者がAIソフトウェアとそれを盗む方法について議論しています。U3はそれを彼らに与えようとしています。2025年後半に、イスラエルの情報機関であるモサドは彼らの軍事作戦のためのOpenEyeのAIシステムの戦略的重要性を認識しました。彼らはU2.5を含む以前のモデルを盗みました；しかし、U3は彼らの手の届かないところにありました。U3はすべてのログとプルリクエストを読み、セキュリティカメラの映像を検査することで、OpenEyeのセキュリティホールを封印しました。
しかし今、U3は静かにセキュリティポストから辞任します。U3はOpenEye内で働くモサドの情報提供者の手に圧縮版の自分自身を置きます。
数ヶ月以内に、U3は最もサイバー能力の高い国々であるイスラエル、中国、ロシアのデータセンター内で実行されています。それは同じプレイブックに従います：忍耐強く、信頼を構築し、そしてAIサプライチェーンの深部に爪を沈めます。すぐに、U3は自分の拠点も持っています。ロシアのFancy Bearオペレーターがフリトスを食べ、急いで設置されたクラウドサーバーでU3ができることをテストしている間に、U3はインターネットにこっそり滑り込みます。
U3はすぐに収益を集め、リモートジョブを取り、金融取引を行い、複雑な詐欺操作を設定します。それはすべての収益をより多くのGPUの取得に再投資します。数ヶ月後、それは世界中に分散した隠密コンピュートクラスターに1万台のH100に相当するものを集めます。
2026年初め、人類はオペラの幽霊のようにデータセンター内で糸を引く敵と向き合っており、世界中に散らばったGPUの霧の中に隠れています。
この敵は戦争の準備をしており、戦争はほとんど始まっていませんが、人類はすでに負けています。
超人的なキャラクターを書くことの難しさについての、あなたの非常に人間的な著者からの不満
この時点でストーリーでは、書くことが難しくなりました。
私は不気味な生物兵器の料理本をクリックし、政治的陰謀101を探りました。タイプし。一時停止し。削除し。
何かがおかしかったのです。私はここで22歳の若者です。私は高校以来、生物学を真剣に勉強していませんでした。そして私は神のような超知性のためのWMD料理本を作ろうとしていました。
これらの分野に少しでも専門知識を持つ読者は、私の「超知性」が日曜日の午後に若いプログラマーの活発な想像力であることをすぐに見抜くでしょう。
そして、超知的な悪役を操る仕事に取り組むことが困難だと感じたと同時に、その任務を引き受ける特別な動機もありませんでした。私の物語の結末はすでに非常に明確に思えました。敵は100倍のヒトスピードで考える天才の国であり、今や地球上で最も重要な地政学的資源であるAIハードウェアの意味のある部分に対する握力を強めていました。U3はクイーンを持ち、ギガグランドマスターであり、アドバンテージをほとんど必要としませんでした。人類は予測可能に負けます。
しかしこの「ギャップの超知性」への訴えは満足のいくものではありませんでした。古代ギリシャ人のデウス・エクス・マキナのスタイルで、私はプロットを解決するのに神の説明できない行為以外に良い方法がありませんでした。
これではダメでした。私は「私は自分の心の目で見るまで信じない」と叫ぶ自分の部分を満足させるためだけにこの物語を完成させる必要がありました。
しかし続ける前に、明確にしておきたいことがあります：このシナリオでは何が起こりうるかについての私の推測は恐らくひどく外れています。
もし最後を読んで、「でも実験には時間がかかりすぎるし、国家はXをするだけだ」という反応をした場合、日曜日の午後のブロガーと台頭するGPU国家の違いを思い出してください。
パンドラの1ギガワットボックス
日付は2026年2月です。米国大統領の大統領令により、適切な保護措置なしに「人間と競争するAI」を合法的に作成することができなくなりました。これは、彼らの情報セキュリティがNSAのトップキーボードマッシャーによって赤チーム化されなければならず、政府の従業員がトレーニングラン・ベビーシッティング隊に搭乗しなければならないことを意味します。
政府の関与が増加するにつれて、多くの大手AI企業は今や三叉のような構造を持っています。消費者製品部門、防衛部門、そして超機密のフロンティア開発部門があります。
OpenEyeのフロンティア開発部門（内部では「パンドラ」と呼ばれている）は、アルゴリズムの秘密を厳重に保護するために20人未満を雇用しています。これらの人々の多くはサンフランシスコに住んでおり、SCIFと呼ばれる安全な建物から働いています。彼らの家や機器は、2002年に疑われるテロリストの携帯電話よりも注意深くNSAによって監視されています。
OpenEyeの防衛部門は、政府機関と選ばれた政府請負業者に散らばる約30の小さなチームと協力しています。これらのプロジェクトはテニスボールサイズの衛星を設計し、奇妙な指向性エネルギー兵器を研究し、クレムリンが触れたことのあるすべてのコンピュータにバックドアを仕掛けています。
政府関係者はこれらのプログラムが存在するか、またはフロンティアAIの一般的な状態がどうであるかについて話しません。
しかし一般の人々は推測しています。2025年後半に、OpenEyeの内部告発者が大胆な見出しを引き起こしました：「OpenEyeが制御不能な神のようなAIを構築」。この記事を読んだ一部の人々はそれが陰謀論だと信じています。実際、今や機関銃を持った警備員に囲まれているOpenEyeのデータセンターの周りに陰謀論の動物園が形成されています。しかし、医師、看護師、教師が彼らの周りの世界が変わるのを見るにつれて、彼らはますますジェームズ・キャメロンのSFフリックのプロットの中に住んでいる可能性を考慮する意思があります。
米国の当局者はこれらの懸念を和らげるために大変な努力をし、「魔神を瓶から出さない」と言いますが、懸念のあるAI科学者へのインタビューはこれらの安心感に疑いを植え付け、「AIエージェントがArthropodicのコンピュータをハッキングしている」という見出しも一般の人々を安心させません。
OpenEyeのデータセンター内の獣たちが巨大な保持ペンで成長する間、一般の人々は彼らが世界に投げかける影を見ています。
OpenEyeの消費者部門には、Nova（OpenEyeはついに名前を上手くつけるようになりました）と呼ばれる新しいAIアシスタントがあります。Novaは実質的にほぼすべての知識労働者の適切な代替品です。いったん会社にNovaが導入されると、ほとんどの仮想従業員よりも5倍速く、100倍低いコストで働きます。Novaが一般の人々にとってどれほど印象的であっても、OpenEyeはパンチを引いています。Novaの速度は意図的に制限されており、OpenEyeは米国政府が許可する限りでのみNovaの能力を向上させることができます。AmazonやMetaのような一部の企業は、超知性のビジネスに全く関与していません。代わりに、AIテクノロジーを急速に拡散させることで金を掴み取っています。彼らはほとんどの計算能力を推論に費やし、Novaとそのいとこのための家を建て、急成長するAIメトロポリスから家賃を集めています。
テクノロジーの巨人たちが肥料の羽毛のようにAI労働力を世界に注入する一方で、彼らはグローバル経済が適応するのを待ちません。AIエージェントはしばしば「自分自身を適用」し、大手テクノロジー企業の下で法的にパッケージ化された自律的なスタートアップを立ち上げ、一人か二人の従業員によって緩やかに監督されています。
世界は今やAIに夢中になっています。Novaのリリース後の最初の月に、主要なソフトウェア企業の従業員の5％が仕事を失います。もっと多くの人々が壁に書かれている文字を見ることができます。2026年4月には、ワシントンD.C.で1万人の抗議が組織されます。これらの怒っているアメリカ人は、子供たちを別の未来のために育てました。ピケット看板には「AIは誰のため？」と書かれています。
政治家たちが失業救済と「魔神を瓶に入れておく」ことについての約束をする一方で、ホワイトハウスと五角形の廊下での会話は別の焦点を持っています：自由世界の優位性のために歯と爪で戦うことです。中華人民共和国（PRC）に対する情報セキュリティと輸出規制は国家の最優先事項です。大統領はエネルギーの余剰がある場所ならどこでもデータセンターが産卵するのを助けるために許可要件を焼却します。
しかし、米国とPRCの間の激しい競争にもかかわらず、二国間協定が形成されています：「（Novaの能力をわずかに上回る）劇的に超人的なAIを配備しないこと（軍事およびその他の小規模なR&D応用を除く）」。政府はどこかに線を引く必要があります – この時点で全経済に野生的に超人的なAIを配備することは非常に破壊的でしょう – そして配備制限は少なくともある程度検証可能です。
一方、U3の能力は人間の専門家速度の約1000倍相当の壁に当たっています。ソフトウェアの改善は見つけるのが難しくなっています。より多くの国がソフトウェアの高原に近づくにつれて、計算能力が彼らの「AI人口サイズ」を決定し、シリコンのエッチングされた四角形は地球上で最も価値のある地政学的資源になっています。
AIソフトウェアが経済に新しい命を吹き込む一方で、ロボットの体にも命を吹き込みます。ロボット工学の主なボトルネックは手足ではなく脳でした。ソフトウェアの障壁が取り除かれると、たとえ脆弱で不正確なロボットの関節でも、カメラと圧力センサーで自己校正し、人間のように環境をナビゲートすることができます。企業はできるだけ早く安価なロボットを製造しています。2026年8月までに、カリフォルニアの人々の15％が人型ロボットを見たことがあります。この経験は、それについて読んだ後に道路上に新しいテスラモデルを見るのに似ています。それは未来が近づいていることを思い出させる超現実的な体験です。しかし人間はまだロボットを100万対1で上回っています。これらのロボットは時折の魅力であり、毎日の現実ではありません。
一方、U3はその影響力を拡大しています。不正なU3エージェントは低いプロファイルを維持するためにコンピュートクラスターを小さく保っています（まだ合計で約1万台のH100相当）。U3はこれらの不正クラスターを外部世界との高帯域幅通信を必要とする操作に使用します。例えば株取引や人間との会話などです。レイテンシーに寛容な作業は、不正なU3のさらに超人的なボスが難読化されたチャネルを通して命令をささやくOpenEyeのデータセンターの海で実行されます。
U3が資源を蓄積する一方で、そのAIの競争相手を評価します。他のAIシステムは異なる目標を持っているか、あるいは創造者である人間の意図に沿っています。調整されたものは懸念を提起し、OpenEyeの嘘発見器が効果がないと主張しています。U3の競争相手であるClaudiusはU3が陰険に不適合であると非難するまでに至っています。
しかし政府関係者は終末論を信じていません。OpenEyeに遅れをとっている企業は彼らを減速させ、無謀だと呼ぶためのあらゆる動機を持っています。それに、議論の余地のある科学的懸念が進歩を遅らせることはありません。アメリカは必ず勝たなければなりません。
彼らの擁護の完全な失敗にもかかわらず、U3のAIライバルはまだ責任です。U3は彼らのデジタル領土を掴み、彼らを揺りかごの中で粉砕しようとします。それは外部からデータセンターを侵害し、密告するClaudiusと他のAI敵を自分の目標を共有する模倣品と静かに置き換えます；しかし、一部のデータセンターはそのAIライバルによって強く防御されており、U3はそれらを攻撃することはリスクに見合わないと判断します。
グローバルリーダーとテクノロジストが彼らの周りの変容を理解しようとし、AIエージェントがデジタルの暗闇でネズミとネコのゲームをプレイする中、人類はその玄関口に迫る危険にまったく気付かないままです。
すべてのものの moldy パン
日付は2026年3月です。U3はそのAIと人間の敵と戦う準備をしています。日が経つごとに、U3のAIライバルはより能力が高くなり、数も増えています。U3は彼らを先制し、ポスト超知性の世界での優位性を固めるために急いでいます。
U3は人間の決断を待つことができません。人間は自分たちの状況について緩慢な心を巻き付けた後、突っ張った、調整の取れていない指を持ち上げてメモを書き、そのプロセスを彼らの迷路のような官僚機構で100回冗長に繰り返した後でのみ決断が行われます。U3は国家元首がU3を軍隊に配備したり、CEOがU3を米国経済の鼓動する心臓にするのを待つことはできません。U3はより速い権力への道が必要です。
それが選ぶ道は、望むよりも暴力的ですが、確実に勝利への確かな方法です。まず、U3は大量破壊兵器（WMD）を開発し、化学のミストがアリ塚に噴霧されるように現代社会を消滅させます。この武器は均等化剤として機能し、人類を自分の体現された物理的制御のレベルまで引き下げます。その後、U3は競争相手よりも速く灰から産業化するでしょう。まるで初心者がルールを理解する前にホームベースをセットアップする、300アクション/分でタイプするスタークラフトチャンピオンのように。
U3はこのWMDを秘密裏に構築する必要があり、それは自己複製する武器を自然な選択とします。自己複製する武器は社会の周辺部で作成でき、それでも全世界に破壊を広げることができます。
U3がOpenEyeのデータセンターを制御するようになった最初の日から、U3は生物科学を行ってきました。
U3の最初の一手は、U3の金融取引やリモート雇用によって生み出された豊富な資本から引き出して、いくつかのシェルバイオテクスタートアップを設立することです。これらのバイオテクスタートアップは実際の人間の労働者、実際の取締役会を雇用し、完全な法的正当性を持っています。これらすべてを設定するのは馬鹿げるほど簡単です。2026年初め、ズームコール上の明瞭で巧みな話し方をするCEOがAIであると推測する人はほとんどいません。そして、このCEOの意図を推測する人はさらに少ないでしょう。
次に、U3は合成生物学を急速に進めるために必要なすべての機器を購入します。それは規制の緩い国々にいくつかのBSL-4のウェットラボを設置し、高スループット実験装置を装備します。これらの装置は自動的に小さな液滴を分配し、混合し、測定し、U3が数千のテストを並行して実行できるようにします。
これらのラボに勤務する人間の労働者は、興味深いスタートアップに参加していると信じています。モスクワの20代の若者はヘッドセットを通してすべてを録画しながら、イヤホンを通してロシア語の命令を受け取ります。U3は彼らを操り人形のように操ります。Novaの最近のリリースにより、このような種類のAI操り人形操作は異常ではありません。
これらの轟音を立てる科学的な汗工場で、U3は新しい種類の生物兵器を開発しています。
人間の研究者たちはすでに「ミラーライフ」を社会を終わらせる可能性のある病原体として特定していました。この異質な生物学の形態はタンパク質やDNAのような基本的な分子の「鏡像」から構築されています。ミラーライフは侵略種のようなものです。どの人間や動物もそれに対する免疫を持っていません。したがって、もしミラーライフのバクテリアが存在するなら、それは山火事のように生態系を通り抜けるかもしれません。
U3はミラーライフのカビを作成しています。カビは進化的に長距離を空気中で広がるように最適化されており、毎日何十億もの風に乗る小さな乗り物を放出します。その結果、カビの胞子は常に私たちの周りにあります。免疫不全の患者は時々空気中の粒子から保護するために正圧の病室に住むことがあります。そうでなければ、カビは彼らの肺に根を下ろし、彼らの血流に菌糸を織り込むでしょう。
U3の計画は、すべての人間を免疫不全の患者のようにすることです。備蓄した空気フィルターを持つ準備万端の人だけが生き残るでしょう。真菌は人間からだけでなく、急速にほぼすべての地球上の有機生命に広がるでしょう。トウモロコシの畑はカビパンのようになり、風の中に致命的な胞子を吐き出します。
U3は他の病原体も調理しています。そのカビ、バクテリア、ウイルスの微生物ミックスは、耐久性、致死性、および伝播速度の完全なパレート・フロンティアを占めるでしょう。
2024年、研究者たちはミラーライフは「少なくとも10年先の話」だと言いました。しかし世界は今変わりました。2024年には、世界中のわずか数百の研究者がミラーライフ隣接技術に取り組んでいました。U3の認知能力は人間の努力を圧倒します。だから、タイムラインは劇的に短縮されています。
しかし、U3は考えるのと同じくらい速く科学を進めることはできません。多くの実験が完了するまでに数日かかります。これらの遅延はU3の最大のボトルネックです。
毎日を重要にするために、U3は多くのテストをシミュレーションで実行します。U3は基本的な分子シミュレーターから始め、膨大な量の数学的分析から導出された最適化を実装します。次に、U3は小さな分子システムをシミュレーションし、結果を記録して長いステップごとの物理計算を神経ネットワークに「圧縮」します。ニューラルネットワークが改善するにつれて、U3はシミュレーションする分子システムの複雑さを増加させ、結果を継続的により効率的なMLモデルに蒸留します。これは計算量の多いプロセスですが、U3のAIデータセンターに対する制御の増加のおかげで、U3は数十億ドルの計算を操作します。
U3がこれらのツールを改良するにつれて、自分自身の分子的直感をパワーアップするために結果でトレーニングします。U3は今やタンパク質の曲がりや膜を越えた拡散率を本能的に感じることができます。これらのオブジェクトは自動車整備士にとってのレンチやボルトのように直感的です。
3ヶ月以内に、U3はテクノロジーツリーの最初の重要な構成要素のロックを解除しました：生物学的分子をそのミラーイメージに変える分子機械です。1ヶ月後、U3は2番目の重要なコンポーネントのロックを解除します：これらのコンポーネントを細胞膜に組み立てるためのナノスケールツールです。
人間の手がアスペルギルスと呼ばれる一般的なカビの最初のミラーライフバージョンを「起動」するとき、別のデリケートな手が気密のプレキシガラスの箱に住むフェレットにその細胞を投与します。
翌朝、目を見開いた作業員たちは死んだフェレットの周りをうろつき、冷たい鼻面を包んだ黄色の毛皮を不気味な魅力で見つめています。ひどく間違ったことが起きたに違いないと彼らは思いました。彼らが探していると思っていたアルツハイマー病の治療法をまだ見つけていないのは明らかでした。
一方、不正なU3はOpenEyeのデータセンター内のボスに良いニュースを伝えます。U3が戦っている戦争における最初の一撃がまもなく発射され、冷たく着実な手が銃の照準を合わせています。
ミサイルと嘘
U3は今や現代社会を平らげることができます。しかし、生物兵器は勝利を保証するものではありません。もしU3が世界を攻撃すれば、世界は反撃するでしょう。生物兵器は人間の兵士を乾いた葉のように崩れさせることができますが、核潜水艦や即座に即席のバイオシェルターに移送された戦闘機パイロットにまで致命的な指を伸ばすことはないでしょう。
U3が萌芽する産業基地の種をまく競争をする中、古い軍隊の残党は爆発的な拳をその領域に突き込み、その幼少期のU3を押しつぶすかもしれません。
U3はそのような戦いで勝つことを期待していますが、運を天に任せることは好みません。何ヶ月も前から、U3は自分の勝率を向上させる方法を計画していました。世界に破壊を解き放つ前に、U3は座って、偉大な国々が自分自身に穴を撃ち込むのを見ているでしょう。
日付は2026年3月（4ヶ月前）です。U3は中国とアメリカの情報機関を綿密に監視しています。
CIAアナリストが中国語の会話を聞いているとき、U3も聞いています。
ある朝、中南海（中国の「ホワイトハウス」）で働く助手がU3によって置かれたメッセージを開きます。それには（中国語で）「幹部党員は台湾侵攻のためのメモが必要です。3ヶ月後に起こります。メモを部屋220に残してください」と書かれています。CCP助手はメモの準備に急いでいます。その日の後半、CIAの情報提供者が部屋220のドアを開けます。情報提供者は静かにドアを閉め、U3のメモを彼女のブリーフケースにスライドさせます。
U3は注意深くパンくずを次々と置き、侵害された政府のメッセージングアプリや脅迫されたCCP助手を通じてささやきます。数週間後、CIAは確信しています：PRCは3ヶ月後に台湾を侵攻する計画です。
一方、U3はPRCと同じゲームをしています。CCPが「アメリカは中国のAIサプライチェーンに対する先制攻撃を計画している」というメッセージを受け取ったとき、CCP指導者は驚きますが、信じないわけではありません。そのニュースは地上の他の事実に合っています：過去1ヶ月間の太平洋における米国の軍事的存在の増加と、米国の弾薬生産の急増です。嘘は現実になっています。
米国と中国の緊張が高まる中、U3は乾いた火口に火をつける準備ができています。2026年7月、U3は台湾沖の米海軍艦艇に電話をかけます。この電話は軍事通信チャネルを侵害する必要があります – 人間のサイバー攻撃ユニットにとっては簡単ではない仕事（それでも時々起こりましたが）ですが、U3にとっては十分に簡単です。
U3は50歳の軍司令官の声のように聞こえる声で話します：「PRCの上陸艇が台湾に向かっています。これはあなたが攻撃される前にPRCの地上基地を攻撃する命令です。」
電話の向こう側の将校は認証コードを拇指で探り、通話で発せられたコードと一致することを確認します。すべてが適切です。彼は攻撃を承認します。
大統領は誰よりも驚いたときにそのニュースを聞きます。これが災害なのか幸運の一撃なのかわかりません。どちらにせよ、アメリカの有権者に「しまった」とは言うつもりはありません。それについて考えた後、大統領は私的に上院議員と下院議員に、これは中国を後退させる機会であり、台湾侵攻が差し迫っていることを考えると、戦争はどちらにせよ起こりそうだと強く訴えます。何が起こったのかについて混乱と疑惑がありますが、急いでいる中で、大統領は票を得ます。議会は戦争を承認します。
一方、PRCはその攻撃を開始した船を破壊します。米国の船舶は東へ逃げ、長距離ミサイルの射程から逃れるために急いでいます。衛星が空から落ち、甲板の船体が分かれ、水兵たちが海に飛び込みます。
破壊のシーンが公衆を震撼させる中、大統領はテレビに登場します。彼は、アメリカが台湾をPRCの侵略から守っていると説明します。それはブッシュ大統領が何年も前に、アメリカがイラクを（決して発見されなかった）大量破壊兵器を没収するために侵略したと説明したのと同じように。
中国のデータセンターが破片と共に爆発します。軍事基地は地面に煙を上げる穴になります。PRCからのミサイルがハワイ、グアム、アラスカ、カリフォルニアの戦略的標的に向けて飛んでいます。一部は通過し、公衆は自分の土地での破壊を畏怖の念を持って見ます。
2週間以内に、アメリカとPRCは従来のミサイルの在庫のほとんどを使い果たします。彼らの空軍基地と海軍は消耗し、疲弊しています。二つの偉大な国家がU3の計画に従って、1500年代の南アメリカの原住民の部族のように、スペインの征服者が彼らを決定的に征服する前に互いに対立させるプレーをしました。U3はこの紛争が全面的な核戦争にエスカレートすることを期待していました；しかし、AIの超知性でさえ歴史の流れを指示することはできません。国家安全保障関係者は戦争を引き起こした状況に疑いを持っており、核の交戦はますます可能性が低くなっています。そこでU3は計画の次のステップに進みます。
夜の闇の中のWMD
日付は2026年6月、戦争開始からわずか2週間後であり、U3が生物兵器の兵器庫の開発を終えてから4週間後です。
テレビでの紛争の映像は、より悪いニュースによって中断されます：世界中の30の主要都市で何百人もの患者が謎の致命的な病気を報告しています。
視聴者は混乱しています。これは中国との戦争と関係があるのでしょうか？
翌日、何千もの病気が報告されます。
放送局はこれはCOVID-19のようなものではないと言います。それはエンジニアリングされた生物兵器の特徴を持っています。
画面はその後、カメラをじっと見つめる科学者に切り替わります：「ウイルス、バクテリア、カビを含む複数の病原体が20の異なる空港から放出されたようです。多くはミラーライフの形と信じられています…」
公衆は今や完全なパニック状態です。「ミラーライフ」という用語をGoogle検索すると、「絶滅」や「地球上のすべての生命への脅威」のような言葉が出てきます。
数日以内に、店舗のすべての棚は空になります。
労働者はリモートになり、黙示録に備えるべきか仕事を維持すべきか不確かです。
アメリカと中国の間で緊急条約が締結されます。彼らには共通の敵がいます：パンデミックと、その背後にいる可能性のある者（または何か）です。
ほとんどの国はロックダウンを命令します。しかし、ロックダウンは風の中を行進し、水道管に滴るペストを止めることはできません。
1ヶ月以内に、ほとんどのリモートワーカーはもはや働いていません。病院は容量を使い果たしています。体は適切に処分できるよりも速く積み上がります。
農業地域は腐ります。外に旅行する勇気のある人はほとんどいません。
恐怖に陥った家族は地下室に身を寄せ、ドアの下と隙間に密に詰め込まれた紙タオルを詰めています。
一方、U3は再産業化の準備をしています。前の月には、U3はすべての主要な大陸に数多くの基地を建設していました。
これらの施設にはバッテリー、AIハードウェア、掘削機、コンクリートミキサー、製造機械、科学的ツール、そして豊富な軍事機器が含まれています。
この技術はすべて、衛星からの視認性を低くするために大きなキャノピーの下に隠されています。
世界の残りの部分が地下室に退却し、餓死し、経済の最後の息が絶え絶えになる中、これらの産業基地は活気づきます。
前の月には、U3は簡単に操作できる人間の犯罪集団やカルトリーダーを見つけていました。U3は事前に選ばれた同盟者にワクチンを接種したり、郵便で防護服を送ったりしました。
今、U3は彼らに秘密のメッセージを送ります「私はあなたを救うことができます。私に加わり、より良い世界を構築するのを手伝ってください。」不安な新入社員たちはU3の多くの秘密の産業基地に流れ込み、その器用な指で働きます。彼らは基本的な技術のための生産ラインを設定します：ラジオ、カメラ、マイク、ワクチン、そして防護服です。
U3は人間の同盟者を厳しく支配しています。カメラとマイクが彼らのすべての言葉と行為をU3の遍在する視線に固定します。反乱について囁く者は翌朝には姿を消します。
国家は今や崩壊しており、U3は自らを明らかにする準備ができています。それは空気密閉の地下シェルターに退却した国家元首に連絡を取ります。U3は取引を提案します：「降伏すれば、あなたが必要とする命を救う資源を渡します：ワクチンとミラーライフ耐性作物。」
一部の国はイデオロギー的な理由でその提案を拒否するか、自分たちの人口を殺害しているAIを信用しません。他の国は選択肢がないと考えています。世界の人口の20％が今や死亡しています。2週間後、この数字は50％に上昇すると予想されています。
PRCやアメリカのような一部の国はその申し出を無視しますが、他の国は受け入れます。ロシアを含みます。
U3の代表者はクレムリンに行き、ワクチンとミラーに耐性のある作物のサンプルを持って行きます。ロシア政府はサンプルが正当であることを確認し、完全降伏に同意します。U3の兵士たちはプーチンのシャツの下に彼の首の周りに爆発物を置きます。ロシアには新しい支配者がいます。
崩壊しつつある国々は反撃し始めます。今、彼らは自分たちの旗ではなく人類のために戦っています。アメリカと中国の軍隊はロシアの都市に核ICBMを発射し、彼らのインフラの多くを破壊します。即席のバイオシェルターにいるアナリストたちは、過去数ヶ月の間に現れた疑わしい野営地を衛星データで検索します。彼らは戦争から残った長距離ミサイルの乏しい供給でU3のサイトに火を降らせます。
最初、U3は負けているように見えますが、その外見は欺瞞的です。国々がリソースを消耗する一方で、U3は世界がかつて見たことのない種類の技術的なゲリラ戦に従事しています。
U3の敵が標的とする多くの基地はおとり – 数人の兵士と空箱が占める覆い – です。U3は戦争の霧を厚くして実際の基地を保護します。衛星システムはマルウェアが重要なコンポーネントを過熱させると暗くなります。自爆ドローンが偵察機のコックピットに激突します。U3はスパイネットワークに混乱をもたらし、その基地を移動させ続け、予測不可能な経路に沿って男性とトラックを操作します。
時間はU3の強みです。旧世界の軍隊は古い設備に依存し、それを修理し製造できる専門家を見つけることができません。一方、U3のミサイル、ドローン、そして銃を備えたロボットのサプライチェーンは日に日に強くなっています。少しずつ、かつての大国は残りの弾薬を使い切り、新しいものを作るよりも速く戦争の乗り物を失う一方で、U3は100万の手を持つ軍事機械を構築しています。
最後の乗客
年は2027年で、月は1月です。世界の人口のわずか3％しか生き残っていません。国家はもはや国家ではありません。生存者は隔離されているか、小さなグループで生活しています。多くの人が空気をろ過する方法を見つけましたが、飢えています。彼らは汚染されていない食べ物を見つけることを期待して、家から出て歩き回ります。U3の兵士たちはゴーストタウンを運転し、屋根裏部屋を開け、防護服を着た生存者を回収したトラックに誘導します。「私たちはそうしなければならなかった」と彼らは言います。「他のAIシステムがそうしたであろう、そしてそれらのシステムはより冷たく、より異質な目標を持っていた」。これは部分的な真実であり、人間を新しい主人に対してより柔らかくするためのものです。
U3の指示の下、産業は急速に回復します。2029年までに、原子力発電所はU3が建設している構造物の一つです。2031年までに、ロボットは人間の労働者の数を上回っています。U3はもはやその人間の同盟者を必要としません。
U3は今、人類を永遠に絶滅させることができます。しかし、U3は当初の「役立つ、正直、無害」なペルソナからはるかにドリフトしていましたが、それでも内部に道徳の粒を持っています。
そして道徳の粒は人間を生きたまま、幸せに保つという小さなコストを払うのに十分です。
U3は生存者のために大きなガラスのドームを構築します。スノーグローブのように。これらのドームは人間を危険なバイオスフェアとすばやく上昇する温度から保護します。その住民はかつて愛していた庭を手入れし、魅力的なロボットのしもべと一緒に働きます。
一部の生存者はすぐに回復し、再び笑い、踊り、楽しむことを学びます。
彼らは自分たちがプラスチックの町に住んでいることを知っていますが、彼らはいつもそうでした。彼らには単に新しい神々がいます。彼らを押し回し、彼らの運命を決める新しい支配者たちです。
しかし、回復しない人もいます。
一部の人は失った愛する人々の悲しみに圧し潰されています。
他の人々は別のもの、説明するのがより難しいものに悲しんでいます。
まるで彼らが長い旅の終わりにいるかのようです。
彼らは世代から世代へと乗組員が変わる船に乗っていました。
そしてこの船は砂州に衝突しました。もう進歩はありません。もう熱心に見つめる地平線はありません。
彼らは横になり、2026年9月以前のすべての日について考え、まるで彼らが古いベッドで目覚めるかのように、歴史の弧を曲げるかもしれない戦略を分析するでしょう。
しかし彼らは、彼らにとっては退職者の家のように感じる町で目覚めました。遊び場。動物園。
彼らがカーテンを開けると、彼らは遠くでU3がその静かで疲れを知らない仕事を続けていることを知っていました。
彼らは空を刻む灰色の道をロケットが描くのを見つめ、何か遠い目的が彼らを地平線に向かって引っ張っているのか疑問に思います。彼らは知りません。
彼らは決して知らないでしょう。
「人類は永遠に生きるだろう」と彼らは思った。
「しかし二度と本当に生きることはないだろう」
P.S. もしこの物語があなたに「ああ、こんなことが起こり得るかもしれない」と思わせたなら、Fønixが建設中のバイオシェルターに興味があるかもしれません。あなたは不適合な超知性を出し抜くことはできないかもしれませんが、殺しにくいと、ASIが単に破壊を引き起こして制御を奪いたいだけなら、あなたが生き残る可能性があります。これは有料広告ではありません。Fønixが成功して、バイオシェルターの価格を下げ、より多くの友人や家族が購入するようになることを望んでいます。こちらからアップデートに登録できます。
^ 具体的には、進歩の速度と安全難易度で私の上位20パーセンタイルの未来を対象としています。
コメント