本動画は、AI研究者が特異点(シンギュラリティ)が予想外に「退屈」なものになる可能性について論じている。サム・アルトマンの「穏やかな特異点」という概念を出発点に、Claude CodeやCodexといった自律型AIコーディングツールが登場しても、日常生活における劇的な変化は感じられないという現実を指摘する。AI技術は指数関数的に進化し続けるものの、人間の脳は新しい状況に素早く適応し「正常化」するため、変化が段階的である限り、革命的な瞬間としては体感されない。さらに、物理法則やエネルギー制約といった根本的な制限は知性の進歩だけでは克服できず、SF的な劇的変化よりも漸進的な改善が続く未来を予測している。
特異点が退屈に感じられる理由
私は今、特異点が退屈なものになるだろうという考えに至っています。これは別に独自の斬新な考えではありません。というのも、約1年前にサム・アルトマンが「穏やかな特異点」というブログ記事を書いているからです。
これが私にとって意味するのは、彼が元々は急速な離陸、つまりハードテイクオフのシナリオを想定していたということです。しかし彼は年に数回しかブログを書かない中で、わざわざ「実は物事はゆっくり進み、穏やかで、少し退屈な側面がある」という内容を書く必要性を感じたわけです。
Claude Codeと自律型コーディングの登場
このビデオを作ろうと思ったきっかけは、特にこの1ヶ月間の出来事です。Claude CodeやCodex、そして自律型コーディングが基本的に24時間、場合によっては1週間もの間、自律的にコーディングできる段階を超えたということです。
さらに、まだ聞いていない方のためにお伝えすると、Claude Co-workはClaude Desktopの次世代版なんですが、これが10日間でコーディングされ、コードの100%がClaudeによって書かれたんです。
実際に起きているのは、人々が「あれ、待って、これってAGIなのか?」と気づき始めているということです。そして「そもそもAGIという用語が正しいのか?」という疑問も出てきています。
ギザギザのフロンティア
なぜなら、私たちはイーサン・マリクが「ギザギザのフロンティア」と呼ぶ領域にいるからです。つまり、人工知能はある側面では人間の能力を大きく凌駕して突き進んでいます。しかし他の側面、特に文脈記憶においては、まだ人間ほど優れていません。
もちろん、再帰的言語モデルによって文脈記憶の問題は解決されたかもしれません。そして皆が「待って、もしかしたらAGIという用語が最初から間違っていたのかも」と考え始めています。
実際に見ているのは、これが初めて「どんな人間チームでも不可能なことを実現している」という段階です。完全な出荷可能なアプリを10日間で作り上げるなんて、通常はできません。確かにハッカソンをやって概念実証を立ち上げることはできますが、大衆に向けてリリースできる状態のものを作るのは別の話です。
これは本当に素晴らしいことで、人々の考え方を変え、オーバートンウィンドウを前進させました。でも、世界は変わったでしょうか? いいえ、変わっていません。
ソフトウェアの価値と限界
大きな視点で見れば、ほとんどの人は気にしていません。「素晴らしい、オタクたちがもっとソフトウェアを手に入れた。やったね、ソフトウェア開発者たち」という感じです。実は、ソフトウェアエンジニアは世界中であまり良い評判を持っていません。みんな自分がトニー・スタークだと思っているからです。
彼らが「世界の問題を解決する」と言うとき、「エネルギーはどうなの? 石炭は? 地政学は?」という問いに直面します。彼らの言う「すべて」という定義は、実際の「すべて」よりもずっと狭いんです。
懐疑的な人々にとっては、「わかった、無限のコードが手に入る」という状況です。私はこれを「コードの消火ホース」と呼んでいます。ある時点で飽和点に近づくでしょう。実際、イーロン・マスクが指摘したように、人類が必要とする最適なコード量は現在の1000倍くらいだと。ソフトウェアが非常に有用だからこそ、もっと必要なんです。
コンピューターとAIの関係性
大きく視点を引いて振り返ってみると、コンピューターを発明した理由はAIを動かすためだったということが明白になるでしょう。この1世紀ほどの間に開発してきたすべての計算技術は、基本的にAIを動かすための準備段階だったんです。
実行するすべての演算処理を見てみると、その大部分が人工知能に使われることになります。つまり、20年後の2046年を想像してみてください。人間のタスクに費やされるCPUサイクルやGPUサイクル、プロセッササイクルを見ると、1%未満になっているでしょう。そして99%はAIに使われています。AIがものを動かしているんです。
大局的に見れば、私たちはコンピューターとソフトウェアをAIを生み出すために発明したということです。そして非常に奇妙なことが起きます。「つまり、かつては手作業でコンピューターコードを書いていて、それを数十年やって、その後の人類史全体、人類の存在の残りの期間は…」
もちろん、コードや数学を理解したい、自分でやりたいというオタクは常にいるでしょう。でも時間が経つにつれて、人々はますます抽象的なプログラミング言語を使うようになります。
プログラミング言語の抽象化
抽象的というのは、哲学的な意味ではありません。機械語から抽象化されているという意味です。バイナリで書くことはありません。もうアセンブリで書くこともありません。一部の人はまだやっていますが、ほとんどの人はPythonのような非常に高レベルの抽象化された言語で書いています。Pythonはコンパイル言語ですらなく、インタープリタ言語です。
これはCやC++のようなコンパイル言語とは異なります。コンパイル言語では実際にバイナリの実行可能ファイルに書き込む必要があります。この傾向を見ると、私たちは抽象化の上昇に焦点を当てる傾向があります。そして最も抽象的な言語は英語です。つまり、将来的にはすべてのソフトウェアが英語、あるいは自然言語で書かれることになります。必ずしも英語である必要はありません。どんな言語でも書けますが、要点は理解できるでしょう。
自然言語で書いて、自然言語で指定して、あとはインタープリターに任せるんです。義理の弟がChatGPTを初めて手にしたとき、ソフトウェアエンジニアとしてどうやってこれをスタックに組み込むか考えていました。私は「英語はインタープリタ言語だよ」と言いました。彼は「ああ、SDKみたいなものか」と。「そう、言語モデルはSDKとして考えられる。ただし関数は自然言語で書く必要がある」と。彼はその説明で納得してくれました。
SF的視点から見た未来
サイエンスフィクション的な視点から、そしてSFと言っても「これはすべてフィクションで何も起きていない」という意味ではなく、未来を投影するという意味ですが、この映画がどう展開するか想像してみてください。
今日の世界を取り上げて、20年後や40年後を想像するとしたら、これはまさに「攻殻機動隊」のようなSFが書かれた方法です。「40年後のテクノロジーはどこへ向かうのか?」と。
そうすると明らかに、ネットワークはあらゆる場所に存在するようになります。インターネットがすべてを飽和させ、AIもあらゆる場所に存在し、コードを書き、オンザフライですべてをインスタンス化します。
「デイブ、それは素晴らしいけど、特異点の話はどこにあるの?」と思うかもしれません。まさにそれがポイントなんです。大きなエネルギー物理学が実現するまでは、日常生活はそれほど変わらないんです。
日常生活への影響
素晴らしい、もっとソフトウェアがある。つまりスマートフォンがオンザフライでアプリを起動でき、デスクトップもオンザフライでアプリを起動できる。もちろん複利的なリターンがあります。何も起きないとは言いません。
その複利的なリターンの一部は、例えば専門機関からDNA配列を取得して、自宅のデスクトップで全ゲノムをモデル化できるようになるということです。そしてスタートレックのように自然言語インターフェースでそれを行います。「コンピューター、私の遺伝子コードを分析して、この食物過敏症について最適化して、健康を最適化して」といった感じです。
これらすべてを自宅で行えるようになります。これがパーソナライズド医療への道です。医者のオフィスに行って、人間の医者が1週間かけて遺伝子をいじって、カスタム薬を注文するわけではありません。自宅で自分の遺伝子を分析し、注文を送り、必要なペプチドを受け取って、自分の病気を治したり、長生きしたりするんです。
これがパーソナライズド医療です。人工知能がそれを助けます。ゲノムと自宅のAIが行った作業を研究所に送り、彼らのAIがチェックして、ダブルチェックして「わかった、何をしようとしているか理解した。必要な実際のタンパク質、必要なペプチドをまとめて送り返そう」と言うわけです。
実際にそうなるかは分かりませんが、認知的超豊富さがこの未来で可能にするかもしれないことです。これは非常にエキサイティングです。特に慢性疾患を抱えている人や、年を取って若返りを求めている人にとっては。そうなると皆が自宅でバイオハッカーになります。
ロボット技術の展開
一方で、特異点は主にソフトウェアと知性、人工知能に関するものです。もちろんロボット工学への波及効果もあり、ロボットが家を建てたり、修理したり、工場で働いたりするようになれば、また別の話になります。
でも正直なところ、ほとんどのロボットを目にすることはないでしょう。つまり、ほとんどのヒューマノイドロボットは鉱山にいます。農場にいて、手作業で何かを切っているわけではなく、農家のためにトラクターを運転しています。工場にいて、倉庫にいて、物流にいます。
ロボットの大部分は舞台裏で見えないところにいるでしょう。だから特異点は退屈なものになります。「ああ、近くのAmazon倉庫で働いているのは誰? 100%ロボットが配置されている。人間はいない」という感じです。
いや、電気を点けておくために数人の人間はいるかもしれませんが、最終的にはその人間もロボットに置き換えられます。なぜなら、他のロボットを助けられる人間がいるなら、なぜロボットが他のロボットを助けたり、電力が維持されていることを確認したりできないのか、ということです。
これも非常に興味深く、ある意味ディストピア的ですが、退屈でもあります。なぜなら見ることができないからです。確かにAmazonはツアーをするかもしれません。「見てください、全国に1000万台のヒューマノイドロボットがあり、24時間365日稼働しています。Amazon配送のタイムラインは、1時間以内にすべてが届きます」と。
人間がループに入っていたときは、最速で2〜4時間でAmazon配送ができました。100%ロボットになると1〜2時間です。「素晴らしい、何が大きな違いなの?」という感じです。
そして「無限にソフトウェアがある」と言うかもしれません。素晴らしい。本当に多くの人々にとって針を動かすのは、エネルギー分野だと思います。
エネルギーとAIの関係
繰り返しますが、後から振り返れば、私たちが発電方法を見つけ出したすべてのエネルギーがAIに電力を供給していることは非常に明白になります。つまり、太陽光、核分裂、核融合、その他の再生可能エネルギー、何でもいいのですが、少なくとも現在の軌道では、人工知能が電力の最大の単一消費源になるということです。
そうすると、「核融合が必要で、あらゆる場所に太陽光が必要だ。文明全体の自動化レイヤーをブートストラップするために必要なAIに電力を供給するためだけに」ということになります。
後から振り返ると、20年後や40年後には、人間のエネルギー消費を家庭用、産業用、AIに分けて円グラフを作ると、30〜50%が産業用になります。大部分がAIワークロードに向かい、1〜5%が住宅用になります。
それほど極端ではないかもしれませんし、もっと極端かもしれません。私は人々と会話をしてきましたが、彼らは人間の使用、つまり家の暖房や冷房が将来のエネルギーグリッド需要の1%未満になり、大部分がAIワークロードになると考えています。
もちろん、これはチップがより効率的にならないことを前提としています。熱力学的コンピューティングやフォトニックコンピューティング、その他のコンピューティングパラダイムによってより効率的になる可能性はあると思います。なぜなら、何かがそれほど多くのリソースを消費し始めると、それが投資家やスタートアップファンドへのシグナルになり、「これをもっと効率的に行う方法を見つけよう」となるからです。
短期的な変化の実感
でもそれでも、短期的にあなたにとって何が本当に変わるのでしょうか? あまり変わりません。電気代がデータセンターと競合することになるだけです。つまり、上がるかもしれないし、下がるかもしれません。
最終的には、少なくとも自宅で消費する電力レベルは些細なものになると思います。月10ドルくらいです。もちろんジェヴォンズのパラドックスが働きます。つまり、電気がそれほど安くなれば、それでもっと多くのことをするようになります。自宅でもっと食料を育てます。自宅に温室を持つことができるからです。
加熱温室とは、24時間365日稼働している加熱された温室のことです。つまり自分の野菜やマイクログリーンを育てることができます。そして誰がそれを運営するのか? 自宅のロボットがやります。
たくさんの小さな段階的変化があり、そして大きな変化はダイソン・スウォームなどを手に入れたときに訪れます。これは必然的にそこに到達すると思います。純粋に熱力学的な観点から、厳密にエントロピーのレンズを通して見ると、地球が処理できる以上のエネルギーを使いたくなるからです。
宇宙へのエネルギー展開
地球表面が放散できるエネルギーの最大量を見てみると、それは有限で、自分自身を調理したくありません。だから何をするか? エントロピーをオフロードし、熱負荷を宇宙にオフロードします。地表から宇宙に熱をビーム送信することもできるし、単にワークロードを宇宙に移動させることもできます。
これが少し前に作ったビデオで、逆トランスターと呼んだものです。5000層の積み上げられたエキュメノポリスを持つ代わりに、その表面積を取って太陽系の外に配置するんです。なぜか? そうすれば途切れない日光が得られるからです。
衛星が熱を受け取り、人工知能のための処理とワークロードの一部を行います。でも食料を育てることもできます。食料を育て、物をリサイクルできます。太陽から無制限に熱エネルギーやフォトンエネルギーにアクセスでき、人間や大気の邪魔なしに余剰を深宇宙に放出する無制限の能力があるからです。
でも繰り返しますが、それは見えません。イーロン・マスクとSpaceX、その他の人々が1日に何百、何千もの船を打ち上げることになるでしょうが、最終的には宇宙に十分な人々とロボット、インフラがあるため、打ち上げ続ける必要すらなくなります。すべての鋳造所が宇宙にあり、すべてのロボットがすでに宇宙にいて、さらに多くを建設しています。
フォン・ノイマン・プローブのアイデアを使って、まず自分たちの太陽系を植民地化します。でも繰り返しますが、それは見えません。いくつかのスターシップの打ち上げを見て、十分良い望遠鏡があれば月の太陽光パネルを見ることができるでしょう。
でもそれらの衛星などのほとんどは、非常に高い地球軌道か、あるいはラグランジュ点にあります。つまり軌道の6分の1先にあるか、ジェイムズ・ウェッブ宇宙望遠鏡があるもっと遠くにあります。だから多くのインフラを見ることはできません。
多くの知性もインフラに溶け込んでいきます。もちろん、はい、目に見えるものもあります。もっとホログラムがあり、もっとヒューマノイドロボットが街を歩き回り、自動運転車などがあります。
長期的な時間軸と正常化バイアス
でも一部のことは非常に長い時間軸で展開するため、気づかないでしょう。最も大きなことは長寿と若返りです。明らかに、10年後におじいちゃんを訪ねたら、突然あなたより若く見えるとしたら、「おじいちゃん、どこでペプチドを手に入れたの?」となります。「ああ、私のAIがこれを作ってくれて、40年ぶりに最高の気分だよ」と。
10年というのは、そういうことが起こるにはかなり妥当な期間だと思います。確実に20年以内には、特異点の完全なイベントホライズンのずっと前に、その知性を手に入れることになります。
でも老いから若さへ、病気から健康へと移行するとき、脳は実際に自己モデルを非常に素早く更新するように進化しています。つまり、あなたが洞窟人で腕を折ったとします。腕が治癒する間、数週間は気分が悪いです。でも腕が治ったら、進化はあなたに正常な行動に戻ってほしいんです。
だから基本的にどれほど惨めだったかを忘れます。心理モデルが更新されて「ああ、この腕をまた使える、狩りに戻ろう」となります。非常に素早く正常な行動に戻ります。
正常性バイアスや自己モデルは非常に素早く更新されます。なぜなら、もはや病気行動や怪我行動を持つことは適応的ではないからです。そうしないと飢えるか、もはや氏族に貢献しなくなります。
私たちにはこれらの神経機構、あるいは神経特性があります。正常性バイアスと病気行動からの素早い回復です。だから周囲のすべてが、変化に3ヶ月以上、ましてや3年以上かかる限り、その瞬間瞬間で正常に感じられます。
2025年12月下旬や2026年1月上旬に何が起きたかというと、Claude Codeが1週間自律的に動作できる世界に住むようになったということです。素晴らしい、わかった、それが正常になります。そしてますます速く正常になります。
一方で、人々が指数関数を直感的に理解する神経機構がないと批判しますが、実際には「これが新しい正常だ」と基本的に言える神経機構があり、次の変化に備えることができます。
でもこれらの段階的変化は、何年もかけて行われます。これは減速していないからです。2026年が最後の年ではありません。2026年には2025年よりも多くを達成します。2027年には2026年よりも多くを達成します。それは続きます。
でもすべての段階で、すべての人間が事前知識や信念を更新するのに十分な時間があるため、すべての段階で退屈に感じられます。何かに慣れた瞬間、「それを取り上げないで。もっとほしい」となります。
推論モデルを手に入れたとき、「素晴らしい。推論モデルがなかったときがどんなだったか想像できない、思い出せない。どうやってやってきたんだ? AIはとても愚かだった」となります。
そしてもちろん、再帰的言語モデルや他の次のものが来たとき、エージェントが来たとき、「単なるチャットボットでどうやってやってきたんだ? 今はエージェントがある」と言うようになります。
認識のギャップ
今日の世界がどう機能しているかの心理モデルを更新し、それより少ないものは退屈に感じ、現在の状況にも非常に素早く慣れてしまいます。
もちろん、定期的にAIを使用しているアメリカ人は3分の1だけで、残りの3分の2は暗闇の中にいます。彼らの一部は厳しい目覚めを経験することになりますが、多くの人々はそれを認識しています。
私はこの感覚が高まっているのを感じています。穏やかな特異点ですらなく、退屈な特異点になるということです。私たちはすでにその中にいます。
Claude CodeやCodexなどが人間チームが可能にできることを本当に超え始めたとき、皆が「じゃあ今、特異点の中にいるんだよね?」と互いに確認し合っています。「特異点の中にいるの?」と。そして、「なぜ突然世界の王様のような気分にならないんだ? デジタル神の誕生のような気分にならないんだ?」となります。
それは私たちの脳がそう機能しないからです。そして物理学が依然として制約要因だからです。時間ステップは依然として重要です。エネルギーは依然として重要です。物理的距離は依然として重要です。そしてどれだけの知性もこれらを消し去ることはできません。
物理学の可能性と限界
ただし、物理学は少なくとも通信に関しては距離を消し去りました。200年前の人に伝えるとしたら、情報を運ぶ最速の方法が馬、列車、船だった時代、世界の全体的なビットレートは1秒あたり数ビットでした。
今や世界の全体的なビットレートはペタビット単位で測定されます。文字通り地球の片側からもう片側へ情報を移動させる速度です。それは200年前には物理的に不可能に見えたでしょう。だから物理学について決して不可能とは言えません。魔法のように見える何かを利用できることが多いんです。
でも物理学も尽きてきているかもしれません。つまり新しいエネルギーはありません。ほとんどの形態のエネルギー、ほとんどの粒子を発見しました。だから物理学からの驚きは少なくなっています。つまりオッペンハイマーやアインシュタインの時代のような物理学の発見の黄金時代は、曲線の最も急な部分だったかもしれず、それ以降はすべて減速しているのかもしれません。
発見すべきものが他にないわけではありません。ダークマターやダークエネルギーをまだ完全には特徴づけていません。でもそれが独自の形態のエネルギーを意味するかというと、必ずしもそうではありません。独自の形態の物質を意味するかというと、必ずしもそうではありません。単に宇宙の物理学を完全には理解していないだけです。
同時に、まったく新しい粒子を発見してから長い時間が経っています。粒子を発見する速度は劇的に減速しています。根本的に新しい種類のエネルギーを発見してから長い時間が経っています。新しいタイプのエネルギーを発見しないかもしれません。
ほとんどのSFは、宇宙の根本的理解における最速の変化の期間、つまりSFの黄金時代に書かれたのではないでしょうか。そして私たちはまだその期待の中にいます。スタートレックのようなものを見ると、「何世紀も発見を続けていく」というアイデアです。
進歩の限界と減速
でもそれは物事が機能する方法ではないかもしれません。宇宙で発見すべきものの数は有限かもしれません。あるいは有限のシステム、すべてのシステムには創発的な可能性がありますが、私たちはすでに最速の変化率を生きている最中で、ここから減速していくだけかもしれません。
そしてこれを考えているのは私だけではありません。進歩はシグモイド曲線に従うだろうと。計算処理のような他のものが指数曲線や超指数曲線に従っていないわけではありませんが、その計算処理は物理学を根本的に変えるわけではありません。生物学を変えるわけでもありません。
2億のタンパク質すべてをマッピングでき、まもなく新しいタンパク質を合成できるとしても、依然として炭化水素レジームの中で作業しているんです。現実がどう機能するかを根本的に変えているわけではありません。
だから私は今後の収穫逓減の法則に精神的に備えています。繰り返しますが、人工知能とコンピューティングが超指数的な軌道を続けるだろうと思っています。でも最終的にその傾向は力尽き、知性が文字通りすべてを解決するわけではないことに気づくでしょう。多くのことを解決しますが。
空飛ぶ車のようなことへの変化率は、ジュールとワットに帰着することに気づくでしょう。バッテリーやモーター、そういったもので何ができるかには常に限界があります。
継続的改善の正常化
もちろん、継続的な改善は正常に感じられます。退屈に感じられます。バッテリーが毎年8〜12%効率的になっても、その複利的リターンは魔法のようには感じられません。慣れているからです。
「ああそうだね、バッテリーは長い間電気自動車に十分ではなかったけど、今は十分だ。バッテリーは長い間ドローンに十分ではなかったけど、今は十分だ。バッテリーは長い間空飛ぶベトバイクに十分ではなかったけど、今は十分だ」という考えに慣れています。
だからそのゆっくりとした段階的変化は魔法的には感じられません。それが大きな違いだと思います。はい、物事は複利的に継続し、変化し続けますが、ある日目覚めて特異点が到来した、私たちはすべて超越したという感覚を持つことは決してありません。
本当に壮観な何かが起こらない限り。心のアップロードの普遍的なブレークスルーがあり、ゴーストラインがあることを証明でき、魂が今あそこの機械の中に生きていることを実証的に示せるなら。それは本当に驚くべき変化になり得ます。
でも物理学には、それが起こることを可能にするものを何も知りません。間違っているかもしれませんし、ネガティブ・ナンシーになりたいわけではありませんが、それがどう起こり得るか分かりません。科学と工学がそのようなことを発見するのに近いところにあるとは思いません。それが可能だとしてもです。
光速を超える移動の可能性
光速を超える移動も同じです。光速を超える移動がどう可能かについて、いくつかの理論があります。でも工学と科学はそれに全く近づいていません。核融合と同じで、人々は核融合は常に30年先だと言います。光速を超える移動は、私たちは光速を超える移動が単に不可能な宇宙に住んでいるかもしれません。
文字通り起こり得ないことを想像できる宇宙に住んでいるかもしれません。でもSFの黄金時代を生きてきて、「すごい、インターネット、あんなことが起こるなんて誰が知っていた?」という感じです。だから私たちには文化的な信念体系があります。
文化的オペレーティングシステムがあり、想像できなかったことが突然可能になります。でも新しい領域に入っていくと思います。人々が、想像できるからといって物理的に可能とは限らないことに気づく領域です。
光速を超える移動が主な例です。不可能な動物も想像できます。宇宙クジラを想像できますが、物理的に不可能です。ゴジラを想像できますが、物理的に不可能です。
重要なのは、想像力に相談すればそれがSFであり、楽しいということです。私自身SF作家です。でも暗黙の信念、発見すべきものが発見するよりもずっと多くあるという第ゼロ原理は、真実かもしれませんが、限界もあると思います。
結論
これが私たちが退屈な特異点を迎える理由だと思います。聞いてくれて、見てくれてありがとうございました。良い一日を。あなたのパレードに雨を降らせてすみません。
コメント