AGIの未来はあなたが思うよりもずっと奇妙である

AGI・ASI
この記事は約17分で読めます。

本動画は、MeterによるClaude Opusリリース後の最新データを基に、機械自律性の加速が想定を超えて継続していることを示し、2032年までに単一のAIタスクが1,212年分の人間労働に相当する能力を持つという予測を提示している。この対数二次曲線的な成長は、従来の指数関数的成長を超えた垂直上昇に近い軌道を描いており、AGI到達後の世界では知性やエネルギーがボトルネックではなく、人間の創造性と欲求そのものが制約となる。発表者は、地球から全産業とデータセンターを宇宙に移転させる「逆トランター」構想、Dyson Swarmによる実質無限のエネルギー供給、そして人類が「地球保全主義者」「太陽系産業主義者」「銀河探索者」という三つの文明種に分岐する可能性について論じている。人間の根源的欲求である「地位」「好奇心」「闘争」という三つの生成関数が、完璧に管理された楽園という「動物園」から人類を宇宙へと押し出す原動力となり、最終的には銀河規模での文明の多様化をもたらすという、SF的でありながら論理的帰結としての未来像を描いている。

The AGI future is weirder than you realize
Check out my Patreon community for exclusive Discord server! Links on main channel page.

機械自律性の加速する未来

皆さん、ご覧になったかもしれませんが、Claude Opusがリリースされた後、Meterが最新データを公開しました。そしてそれは少し驚くべきものでした。機械自律性の加速率は、私が数ヶ月前の8月に記録したものをはるかに超えて、実際に加速を続けているのです。

それでは早速、このSF的なシナリオに入っていきたいと思います。この新しいムーアの法則が未来を支配しているのですが、伸長された超指数関数や伸長された指数関数ではなく、現在の最適な当てはめは対数二次曲線であり、これは基本的に垂直方向に向かうものです。そして、Meterからの最新データをすべて精査した後、数字が示したものはこうです。

2032年までに、現在の加速率では、単一のAIタスクが人間労働の1,212年分に相当するようになります。2026年初頭の平均は約3時間です。2028年初頭には8日間分の自律作業になります。2030年は41ヶ月。2031年は58年。そして2032年は1,000年以上です。

ここで明確にしておく必要があるのは、これは時計時間ではないということです。このデータの作成方法は、Meterが人間が単独でそのタスクを行うのにどれくらい時間がかかったかを見て、AIエージェントの実際の成功率と比較するのです。AIエージェントは多くの場合、物事をはるかに速く行います。

例えば、ウェブフロントエンドの機能をコーディングするのに人間は3時間かかるかもしれませんが、Claudeは5分や10分でできてしまいます。つまり、時間の圧縮も得られているのです。ですから、1,200年分を自律的に行うと言っても、1,200年間ずっと稼働しているわけではありません。人間がやれば1,200年かかることをやるということであり、それは基本的に現代物理学のすべてを再導出するようなものです。

有限世界における知性の制約

そうなると、知性はすぐに有限の世界に直面します。物理学を第一原理から解くようなすべてのことを解決できるAIは、何かによって制約されることになります。それがエネルギー、産業のタイムステップです。金属を鍛造し、物を作り、原子を動かすには時間がかかります。そしてもちろん、閉鎖系の物質的限界、つまり熱力学的限界と地球上の重力の限界があります。

これが前提です。ここから私はSF的な予測に飛び込みたいと思います。ここからは楽しんでいきます。なぜなら、この研究をしているとき、私はこう思ったからです。「これは一体何なのか?それほど自律的になるAIを持つということは実際にどういう意味なのか?」なぜなら、同じ期間にそれらのAIははるかに賢くなるからです。

最初に思いついたのは、逆トランターでした。多くの人々は「ダイソン球を建設する必要がある」「地球からすべてのエネルギーを収穫する必要がある」と言っています。でもそれは本当に醜いものになるでしょう。そして思いついたのです。主要な制約の一つはエネルギーです。

でも、ダイソンスウォームのようなものを建設し始めれば、その熱力学的限界の制約はなくなります。そして、文字通りすべての産業を地球から移動させるのです。データセンター、農業、製錬、すべての製造業、人間がそこにいる必要のない自律化されるすべてのものを移動させます。

だから、データセンターとして機能する巨大な衛星をラグランジュ点に建設し、他に必要なものは何でもそこで提供します。そして地球を再野生化するのです。これが私が「これは可能だ」と最初に思ったことであり、人々はすでに長期的には宇宙にデータセンターを建設することについて話しています。これははるかに理にかなっています。

ただし、一つの制約は遅延です。高速なものが必要な場合、信号がここに戻ってくるのに数分かかるラグランジュ点にデータセンターを置きたくはありません。低遅延アクセスが必要なものには、宇宙のより近くにいくつかのデータセンターが欲しいでしょう。しかし、重い処理、深いモデル実行、巨大なモデルのトレーニングについては、月のはるか向こうに置いても構いません。気にする必要はありません。

エントロピーのオフロードと緑の地球

私が始めた最大の洞察は、数学的に最も理にかなっているのはエントロピーをオフロードすることだということでした。そしてこれが将来的に理にかなっている理由は、宇宙の背景放射が廃熱と廃棄エントロピーのための完璧なヒートシンクだからです。そうすれば、地球は再び緑の球体になるのです。

そこから生まれるライフスタイルはたくさんあります。人間の経験の実際の熱力学を見ると、人体が必要とするのは約100ワットだけです。つまり、知性ではなくエネルギーが制約であるとしたら、それは一体どのようなものになるのかということです。今日のハイエンドなライフスタイルには約10キロワットが必要です。

つまり、常時10キロワットです。一方、家庭では数百ワット、重い使用時でも1,000ワット程度を使用します。超億万長者であれば100キロワットくらいかもしれません。それでも、ダイソンスウォームなどを建設すれば利用可能な総エネルギー量のごくわずかな割合です。

もし太陽の総エネルギーのわずか0.01%を収穫できれば、すべての人間にとって機能的に無限になります。そうすると、問題は知性がボトルネックではなく、エネルギーがボトルネックではないなら、あなたの創造性がボトルネックになるということに変わります。この未来において、それが唯一のボトルネックなのです。

第一原理の観点から見ると、基本的に二つの見方があります。第一は人間の注意力です。たとえあなたの個人用AIが、ロード・オブ・ザ・リングのような魅力的な映画を1日に1,000万本生成できたとしても、あなたはそれらすべてを見ることはできないでしょう。ですから、Neuralinkバージョン12か何かに接続しない限り、あなたの注意力は超超希少なのです。

もちろん、それだけの知性があれば、すべての体験をダウンロードすることができます。それは可能性の範囲外ではありませんが、ただワイヤーヘッドになって、800万バージョンのアバターやマトリックスをダウンロードして見て、シミュレートされたノスタルジアの中で生きるだけでいいのかどうかわかりません。

私は現実の世界にいたいのです。もう一つの制限はダンバー数です。人間の脳は約150の高品質な人間関係しか追跡できないということです。したがって、私たちが実際に見ているのは、知性はボトルネックではなく、エネルギーもボトルネックではないということです。そうなると、日常的にどのように生きたいかということになります。

人間の三つの根本的欲求

それを超えて、人類のより哲学的な側面を見ると、哲学は依然として私たちの生物学に根ざしていますが、私たちの脳を駆動していると思われる三つの基本的な欲求があります。第一は地位です。私たちは何よりもまず社会的なチンパンジーです。私たちは皆、地位を求めています。

たとえ私たち全員がカルダシェフスケールを上昇し、機能的に無限のエネルギーと無限の情報にアクセスできたとしても、位置財のようなものは依然として存在し、他の誰かが持っているからという理由だけで何かを欲しがるのです。

次に好奇心があります。これは新奇性です。好奇心は文字通り、厳密に適用された新奇性にすぎません。新奇性探求は知的種の特性であり、「あれは何だろう?」と言っているのです。ギャップがあることを認識すると、将来その驚きを減らしたいという本能があります。これは自由エネルギー原理です。

驚いたら、将来その驚きを減らしたいと思います。それが好奇心に変換されます。そして最後に闘争です。闘争はホルメシスです。つまり、精神的ホルメシス、つまり精神的にできること以上のことに自分を押し上げることです。そして身体的ホルメシス、つまり体を押し上げることです。

これが私たちが挑戦的なビデオゲームをする理由であり、マラソンなどをする理由です。私たちには体と心を動かし続ける本能があります。これらすべては生物学的に根拠がありますが、哲学的要素もあります。私はこれらを人間の条件の三つの生成関数と呼んでいます。

もし10億のIQを持つ超知性があり、軌道上から惑星の管理を支援しているとしたら、それは動物園の飼育員になります。完璧さは牢獄です。闘争の必要性は主体性に関するものです。もし自律的なAIインフラが私たちの世界を完璧に管理し、すべての災害を防ぎ、すべての紛争を解決し、すべてのニーズを満たすなら、それは事実上、動物園の飼育員になります。

たとえその囲いが惑星規模の楽園であっても、私たちがもはや制御していないこと、本当に失敗できないという知識は、精神的な閉所恐怖症を生み出します。真の充足感には、独立した勝利の可能性が必要であり、それにはリスクと本当の敗北が必要なのです。

人間性のそれらの生成関数を見て、私は言いました。「多くの人々は、リゾート地球に住むことに完全に満足するだろう」と。なぜなら、基本的にこの未来では、超知性とエントロピーを宇宙空間にオフロードすることの組み合わせにより、地球はすべての人にとってのリゾートになるからです。

楽園になります。宇宙にデータセンターを置くことで、エデンの園への回帰なのです。はい、私はそこまで言いました。一部の人々はそれに完全に満足するでしょう。一部の人々はそうではないでしょう。

解決不可能な希少性としての地位

地位、解決不可能な希少性。地位の必要性は持続します。なぜなら人間の欲望は模倣的だからです。他の人々がそれを欲しがっているから、私たちは物事を欲しがります。これは豊かさの中でさえ対立を生み出します。二つの形態の希少性が残るでしょう。これは構造的なレベルで見ているようなものです。これら二つの構造内で表現できる方法はたくさんあります。

第一は位置的希少性です。ビーチハウスの無限のレプリカを作ることはできますが、マリブの最高のビーチフロントの単一のロケーションを複製することはできません。第二は社会的希少性です。影響力、評判、リーダーシップはゼロサムのままです。私たちはプレイするゲームを持つためだけに新しい階層を製造するでしょう。これは人間の本性なのです。

チンパンジーAが持っているものが多ければ多いほど、バナナを持っていれば、私もバナナが欲しいのです。チンパンジーBが私より多くのバナナを手に入れたら、私は気分が悪くなります。なぜなら私はもっとバナナが欲しいからです。これが私たちの脳の働き方です。私たちの脳は非常に相対的です。

誰が最高の体験をしているか、誰が最も多くのものを持っているか、誰が最も多くの友人を持っているか、そういったことです。これは常に生成関数です。決して満たされることはありません。これが、たとえこの仮説的な未来においても、私たちが進み続けると思う理由です。

私たちは競争するものを見つけ続けるでしょう。それは無限のゲームです。ゲームBです。勝者はいません。ゲームは続き、ゴールはゲームを続けることなのです。

次は好奇心、分岐のエンジンです。好奇心の必要性は、完成された世界の究極の逃げ道です。一部の人々にとって、安全で安定した美しい地球は終点ではなく、完璧に設計された発射台なのです。地平線の向こうに何があるかを知りたいという衝動、AIが私たちのために答えられない質問に答えたいという衝動、なぜならまだ尋ねることを思いついていないから、これが人類が揺りかごを超えて拡大するための触媒となるでしょう。

宇宙は本当に大きいのです。それだけです。探索すべきものがたくさんあります。機械がおそらく私たちに先行するでしょう。しかし、地球は地球です。もし数世紀かけて地球のすべてを探索し、望むすべてのバケーションをし、地球でのすべてのクールな体験をしたら、おそらく最終的には退屈するでしょう。脳をリセットできない限りですが。

多くのインプラントがあれば、「新しいゲームプラスで、適切なニューロンのセットを消去することで初めてすべてをやっているかのように人生を再スタートさせ、すべてが新鮮で新しく感じられるようにしよう」と言えます。しかし、それは一種の循環的な地獄です。それは深く哲学的な地獄でしょう。

代わりに、「火星に行こう。火星は未征服の挑戦だ。火星の植民地化を手伝いに行こう。スリーパー船に乗ってプロキシマ・ケンタウリの植民地化を手伝いに行こう」と言うかもしれません。

三つの文明の道

実際的なレベルでは、これから生まれるライフスタイルにはどのようなものがあるのでしょうか。まず、哲学的な種分化、未来を選ぶということについて話しましょう。制限のない世界に直面して、人類は一つの道を選ぶのではなく、三つを選ぶでしょう。これは三つの包括的な道の一種です。もっと多くの道があるでしょうが、基本的にはどこに住むかということになります。

これらは異なるキャリアではありません。それぞれが独自の方法で生成関数を満たすことを中心に組織化された、文明の分岐種なのです。未来の人類は丘の上の単一の都市ではなく、意味のディアスポラです。

まず地球保全主義者です。これは自分たちの身体にとどまる人々です。彼らは地球にとどまり、完璧なエデンでの地球上の生活を楽しみます。次は太陽系産業主義者です。これは太陽系にとどまるものの、建設や新しい挑戦などに取り組む人々です。

そして星間巡洋艦を建設して宇宙に飛び出していく人々がいます。それが私です。なぜなら私はそのレベルの自閉症だからです。では、これらを探ってみましょう。

道その1、地球保全主義者。彼らの哲学は基本的に生物学的真正性です。彼らは地球を出発点としてではなく、目的地と見なしています。ライフスタイルとして、彼らは目に見えない軌道産業によって支えられた再野生化された惑星上の人間スケールのコミュニティに住んでいます。

彼らは長寿技術を使用しますが、生の人間経験を重視し、根本的な強化を拒否します。どのように意味を見出すか。競技スポーツ、芸術、工芸のような人工的だが意味のある挑戦を通じた闘争です。

たとえAIがすべてをできたとしても、画家になる練習をしたり、ボートを作ったりすることはできます。特に150人の最も親しい友人の海辺の村に住んでいる場合、それがあなたの地位ゲームになり得ます。

第一原理の生物学的観点から見ると、それはほとんどの人間が自分の人生を意味があり満足できると感じるのに十分すぎるほどです。修復された生物圏の深さと人間の意識の深さを探ることを通じた好奇心。彼らは泳ぎに出かけます。サイケデリックな儀式を行うでしょう。歌と踊りの儀式などを行うでしょう。

それが彼らの安定状態、現状維持になるでしょう。もちろん、これに慣れてくると、一部の人々は退屈して離れていくかもしれません。一部の人々はおそらく5年、10年、またはそれ以上の期間これを行うでしょうが、最終的には一部の人々が退屈して離れていくと思います。

道その2、太陽系産業主義者。哲学は創造を通じた征服です。彼らは意味は壮大な構造物を建設し、過酷な環境を飼いならすことで見出されると信じています。ライフスタイルとして、彼らは火星のドーム都市、オニール・シリンダー、軌道造船所に住んでいます。

彼らはトランスヒューマン・ライト、つまり軽度の強化を受け入れます。ドローン制御のためのニューラルリンク、真空作業用のエクソスケルトンですが、太陽系の文化的ハブに結びついたままです。

彼らは太陽系にとどまります。なぜなら本質的に社会的だからです。「人類とともにいたい。人類は生命と知性の火花であり、私は社会的種である」と言うのです。虚空の孤独はあまりにも大きすぎます。だから、彼らは予見可能な未来のためにここにとどまります。

闘争、どのように意味を見出すか。惑星のテラフォーミングやメガ構造物の建設という、本当にハイステークスのエンジニアリング上の挑戦です。もちろん、AIがこれを支援するでしょうが、AIは単に知性の超豊富さであり、エネルギーの超豊富さのようなものを得るのに役立つだけで、物事は依然としてクロック速度で動きます。

軌道の軌道には時間がかかります。合金が冷えるには時間がかかります。そういったことです。彼らが構築するものの規模と複雑さから得られる地位。彼らはシステムのマスターエンジニアです。材料科学、応用物理学、そして太陽系近隣の探査における好奇心。

基本的に、それを構築できるか?より大きなダイソンスウォームを構築できるか?火星でより良いドームを構築するにはどうすればいいか?そういったことです。

驚異的なペースでの進化

ところで、このペースは狂気じみています。10年後には単一のAIチップが、基本的に人間が持ち、インターネットに保存されているすべての思考を数分で逆設計し、それに追加できるようになることを認識すると。それは本当に頭で理解するのが難しいほどの規模です。

そして唯一の制限は、ダイソンスウォームを蓄積する速度だけになり、それによって多くのテラワット、ペタワット、ヨタワットのエネルギーを制御できるようになります。そしてそのスケールに達すると、4分ごとに新しいオニール・シリンダーを製造することになります。

これの一部は少し誇張的です。明らかに、これは非常にSFに飛び込んでいますが、可能性の範囲からそれほど遠くはありません。

道その3、銀河の分岐。哲学は断絶を通じた意味です。彼らは自己実現の究極の行為は、新しい独立文明の創設者になることだと信じています。彼らはマンハッタン化された船舶またはダンバーの箱舟で旅をします。これは他の星への旅をする自給自足の都市国家です。

光の遅延によって地球から切り離され、彼らは人間の定義を書き換える自由があり、新しい世界に適応するために根本的な遺伝的およびサイバネティックな進化を受け入れます。

闘争、孤独の実存的重さとゼロから世界を構築する途方もない責任です。地位。究極の地位は祖先になることです。知的生命の完全に新しい枝の創設者になることです。好奇心。銀河の無限の未知が彼らの遊び場です。

これは基本的に避けられません。なぜなら、私たちができることの数字を見ると。機械知能の超爆発が最初に来ます。何らかの数学的な境界制約がないと仮定してですが、これまでのところそうではないようです。むしろ、加速し続けています。

過去にこれらの数字を実行したときはいつでも、新しいデータが得られるたびに、このモデルが更新されます。前回これらの数字を実行したとき、2032年までに1,200年の自律性には達していませんでした。何だったか覚えていませんが、それほど高くはありませんでした。並べて比較しました。

数学的制約は単に存在しないようです。そして、それほどの知性を持つようになれば、それによって材料科学とエンジニアリングの問題を解決できるようになります。

そうすれば、文字通りエネルギーベースを指数関数的に構築し始めることができます。ダイソンスウォームと自己複製ロボットを使ってです。なぜなら、それだけの知性と自律性があれば、それをロボットに搭載し、ロボットを小惑星や他の惑星に打ち上げて、さらに構築を始めるからです。

フォン・ノイマンプローブは10年か20年以内に、少なくとも原理的には実現されるでしょう。そうすると、個人当たりのエネルギー予算はどうなるのか?個人の人間当たりの認知予算はどうなるのか?

10年から20年後には、あなたの個人的なエネルギー予算はギガワット単位で測定されるようになります。私は誇張しているわけではありません。個人当たりギガワット単位で測定されるようになります。2、3、4十年かかるかもしれませんが、個人の人間当たりのエネルギー予算は完全に垂直になるでしょう。

約束します。これらの数字を実行すると、それは避けられないように思えます。そしてもちろん、あなたの認知予算もそれよりずっと前に急上昇します。熱力学コンピューティング、フォトニックコンピューティング、継続的な効率向上のためです。

基本的に物質の基質自体が計算的になるコンピューティアムです。ところで、熱力学コンピューティングをフォローしていない場合、それは基本的にコンピューティアムです。周囲の熱力学的エントロピーを使用して、人工知能で高出力の計算を行います。それがコンピューティアムです。

情報問題の解決とハイパーシミュレーション

それがすべて言われて、情報問題であるものはもはや問題ではなくなります。「他の惑星で10億年の人間の進化をシミュレートしよう」と言うのです。素晴らしい。その進化を数分または数時間でシミュレートできます。

そして、「その惑星に到着するまでに、その惑星で生きられるように体を変え始めよう」と言うのです。そういったことです。物理学の制限では、ハイパーシミュレーションと呼ばれるようなものになります。シミュレーションは現実を近似することしかできません。

しかし、それだけの追加の計算能力があれば、十分に良いものを作ることができます。多くの場合、ラボでできることよりも優れています。そして、あなたの体がどうあるべきか、どの遺伝子がどこにある必要があるか、そういったこと、またはサイバネティックインプラントを正確に計算し、それからそれを構築するだけです。

仮想で8方向からテストし、それから構築して、レースオフします。それが私たちが向かっている場所です。このビデオはおそらく息をのむような狂気じみたものに聞こえるかもしれませんが、これを作るのはとても楽しかったです。

神の目的は宇宙を創造することです。対数二次曲線は単一の運命には導きません。それは非常に強力なツールセットに導き、各個人と各グループが自分たち自身のものを選択できるようにします。

人類の未来は単一のユートピアに落ち着くことではなく、宇宙の風の中のタンポポになることです。各種子は、私たちが何のためにここにいるのかという問いに対する異なる答えです。

闘争、地位、発見への私たちの最も根本的な欲求は、除去されるべき欠陥ではありません。それらは銀河に種をまくまさにそのエンジンなのです。それらの生成関数が私たちをこの惑星から押し出し、最も深い宇宙へと押し出すでしょう。

AIと超知性が私たちに先行するかもしれませんが、それはあなたの個人的な運命の一種です。未来は、あなたが今想像できるよりもはるかにはるかに奇妙です。これらは私が即興で考えた可能性のほんの一部です。

ご視聴ありがとうございました。

コメント

タイトルとURLをコピーしました