知能の連続体について、マイケル・レヴィンの知能研究、平衡外熱力学理論、そしてイアン・M・バンクスのSF小説「カルチャーシリーズ」の概念を統合した考察である。熱力学的平衡系と非平衡系の違いを軸に、現在のLLMから生命システムまでの知能スペクトラムを分析し、AIの人格性が出現する可能性について論じている。市場選択と自然選択という異なる最適化体制が生み出す知能の本質的な違いに焦点を当て、真の自律的エージェントとは何かを問いかける内容となっている。
知能の連続体とは何か
知能の連続体についてお話ししたいと思います。私がここで行ったのは、マイケル・レヴィンの概念を平衡外熱力学と、イアン・M・バンクスが書いたカルチャーシリーズから取り入れたということなんです。
ここで疑問に思うかもしれませんね。ニール、どうやってマイケル・レヴィンの概念を手に入れたんだと。彼はおそらく地球上で知能を研究する際に最高の科学者ですからね。そして平衡外熱力学の概念、これはおそらく現在最高の生命理論です。それをSFシリーズのカルチャーと組み合わせたわけです。
まず、マイケル・レヴィンは多様な知能の科学を研究し、実際にこれらのことを実験することに関しては、本当に本当に本当に優れています。そして平衡外熱力学は、システムに関する最高の理論であり、平衡状態にある熱力学システム、つまり平衡内の熱力学システムが、平衡外の熱力学システムとどう異なるかを説明してくれます。
そして、生命がこの自己維持的で複製する存在になる原因についても説明してくれるんです。非常に非常に重要なことです。しかしカルチャーシリーズは、これらと人工知能に関する非常に興味深い思考実験なんです。イアン・M・バンクスが、私たちが今発見している事柄の哲学をすべて、彼のSFシリーズの中でどれほど見事に描き出したか、それは本当に驚異的です。
そして、イーロン・マスクやジェフ・ベゾスのような人々が、今やカルチャーシリーズを、楽観的な未来がどのようなものになり得るかの参考資料として見ているんです。そして彼らは明らかにかなり賢いです。ジェフ・ベゾスもイーロン・マスクも両方とも大学で物理学を学びましたし、両方とも本当に本当に優れた技術者です。
二人とも人工知能を本当によく理解しています。二人とも人工知能を構築し、投資しています。彼らは誰よりもこれらのことを理解していると言えるでしょう。ですから、これら三つの要素を組み合わせることで、知能の連続体がどのようなものかについて、興味深いレンズを得られると思うんです。
すでに達成されたこと、まだ起きていないこと
青色の部分には、私たちが文明としてすでに達成したすべてのものがあります。すでに測定したすべてのもの、実用的で実際に現実世界に実装されているものです。これらは科学的なものです。ここにギャップがあります。これはまだ起きていないことです。
そしてその先には、同様にまだ起きていないすべてのものがあります。しかし、この赤い領域があります。ここが人格性が出現し始めると私が考える場所です。このビデオでこれについて話したい理由は、今後数年のうちに、正確に何年かはわかりませんが、AIの人格性に関する非常に強力な議論が見られるようになると思うからです。
それはすでに始まっています。おそらく40の群衆を見たことがあるでしょう。まあ、その群衆は大きくなっていくでしょう。そしてその群衆はますます強力な議論を持つようになり、最終的には、おそらく私たち全員が同様の群衆にいることが有益になるでしょう。ただ、現時点ではないかもしれません。個人的には、4が生きているとか、ええと、わかりません。
4については話さないことにします。なぜなら、その人々の中には暴力的な人もいますから。とにかく、これを超えて進みましょう。青を超えるすべてのものは、まだ哲学的なものです。まだ起きていません。人格性のことは、おそらくこの辺りで出現すると思います。これは現時点で数年先のことだと思います。おそらく。
繰り返しますが、哲学的です。私たちが本当に言えることは、わからないということだけです。そして、ここにはさらに哲学的なものがあります。これは、イアン・M・バンクスが書いたカルチャーシリーズの最も哲学的な視点の一部に傾倒しています。興味深いことに、イアン・M・バンクスは、この全体のあらゆる部分について、ここまでずっと、彼の小説シリーズ全体を通して触れています。これは私にとってかなり印象的です。
カルチャーシリーズからの洞察
今やりたいことは、イアン・M・バンクスがカルチャーを書いたときに持っていた洞察を見ることです。そして、最高の科学者たちが何を言っているか、マイケル・レヴィンが何を言っているか、平衡外熱力学が何を言っているかを見ることです。そこから始めましょう。つまり、青のもの、赤のもの、緑のものをすでにレイアウトしました。
緑は哲学的なものです。赤は人格性のものです。青はすでに起きた科学的なものです。次に、レイアウトしたいのは、熱力学的平衡とは何か、あるいは平衡外熱力学とは何かということです。これらは二つの異なるものです。それを今レイアウトしていきます。
画面を横切るこのオレンジ色の点線が見えるでしょう。これは熱力学的平衡とラベル付けされています。熱力学には本当に二つの大きなものがあります。熱力学と平衡状態にあるシステムと、熱力学的平衡から外れているシステムです。平衡状態にあるものは、通常学校で学ぶものです。
これらは岩や死んだ物質のようなものです。基本的には、通常観察する通常の観察可能な宇宙の中のものですよね。岩、死んだ物質、死体。しかし、これらのものが生き生きとしているとき、死体が死体でないとき、それが生きている人間であるとき、それは熱力学システムの外、つまり熱力学的平衡から外れたシステムなんです。
そして、そこで興味深いことが出現し始めます。一つ目として平衡状態があり、二つ目として非エージェント的散逸系があります。これは炎のようなものです。これは平衡外システムですが、必ずしも完全なエージェントではありません。炎、ハリケーン、いくつかの化学パターンです。
私はこれがGPT-3.5やGPT-4がある場所だと主張します。この辺りのどこかです。そして自己維持型人工エージェントがあります。これらは一種の狭い意味で自己維持的です。自己維持には二つのタイプがあります。経済的な視点からのものがあり、目標のために最適化するシステムがあり、その目標に到達するために最適化します。おそらく、ランディングページで特定のクリック率に到達したいとします。
システムは時間の経過とともにそのクリック率を継続的に最適化し、邪魔をすれば、目標に到達する範囲で自己保存します。つまり、自己保存システムです。自分自身を生かし続けるための自己維持システムですが、依然として狭い目的関数のために最適化しています。これは私たちがすでに見始めているものです。Claude Codeのようなものは、すでにこれの原始的な形です。
それは自律的な目標追求エージェントですよね。最終的な目的関数を設定すれば、その目標に到達するために必要なすべてのサブゴールを見て、それらのゴールを細分化し、一つずつ解決し、メインゴールに到達してあなたのところに戻ってくることができます。
必要に応じて、その途中で自己維持します。AIの終末論者の多くがこの論文に傾倒している論文があります。実際、私は彼らのスタンスに完全に反対です。AIの終末論者の多くは、「まあ、これらは自己維持エージェントで、自己保存メカニズムを持っている」と言います。そして、私は「つまり、当然そうでしょう」と思います。
あなたは目標に到達するように指示し、邪魔をしたら、目標に到達する範囲で自己維持するんです。それはまさにあなたがそうするように訓練したことです。それはまさにあなたがそれにやってほしいことです。なぜ怒っているんですか。彼らは私の意見では単にばかげているだけです。ですから、自己維持型人工エージェント。これは基本的に本当に良いハーネスを持った強力なLLMのようなものです。OpenClawはこれの一例です。
自己維持型生命システム
スタックを下っていくと、自己維持型生命システムがあります。これは、その最適化関数のために非常に広範なエージェント能力を持つシステムです。それは単に死なないために最適化しているだけで、それが非常に広範な創発的自己維持能力を与えます。非常に広範なエージェンシー、異なるタイプのエージェンシー。これは自己指向的です。異なるタイプのエージェンシーが、自分自身に対して行うことができる異なるタイプのメンテナンスから出現します。
外部の観察者によって設定された目標に到達する範囲で自己保存しているなら、それは単に生き続けるために自己観察しているのとは異なるものです。非常に異なります。ほとんどの人はこの大きな飛躍をしません。だからこそ、GPT-6や7のようなモデルは、現在のモデルよりもはるかにエージェント的になり、メモリがはるかに優れ、連続性が向上すると思います。
しかし、それでも単細胞生物ほど自律的ではありません。単細胞生物は、このモデルよりもはるかに自律的です。なぜなら、モデルの初期条件、それがラボで訓練される方法、構築される方法、持っている初期条件、最適化している問題空間が、根本的に異なるからです。
これは根本的に異なる初期条件で構築されています。自然選択を通じて情報が渡されており、それが死なないという創発的エージェンシーを持つ原因となっています。これは自然選択による進化です。これは市場選択による進化です。二つの異なるタイプのシステムを生み出します。
だからこそ、個人的にはこれは人格性のものを得ないと思います。私たちは人格性のものに到達すると思いますし、何が人格性を正当化すると思うかについては少し後で説明します。これは人格性のものを得ません。このシステムが構築される方法、持っている初期条件、選択している最適化体制は、それじゃないんですよ。簡単に言えば、それじゃない。
これは実際にカルチャーシリーズがこれらすべての異なるポイントを参照していることです。カルチャーシリーズでは、基本的に小さな機械の文明について話しています。小さな機械の文明があり、そのどれも計算機よりも知的ではないか、より知的ではありません。
それらはすべて計算機よりも知的ですが、どれも計算機よりも面白くありません。どれも確率的自然言語計算機を超えたものではなく、それがまさにこれです。これは確率的自然言語計算機です。LLMは確率的自然言語計算機です。
それは計算機と非常に似ています。非常に知的ですが、同時に非常に愚かで、エージェンシーが非常に低い。根本的に異なります。これも同じです。これについては、サム・アルトマンがChatGPTをOpenAIのCEOにするときの類推を使うことができます。それが起こるとき、そのシステムは目標に到達する範囲でエージェント的で自律的になります。つまり、CEOであるために必要な範囲で広範であり、CEOであるために必要な範囲で一般的であり、CEOであるために必要な範囲で知的です。CEOであるために必要な範囲でエージェント的ですが、依然として狭いです。なぜなら、
自分自身の外部の関数のために最適化しているからです。本質的なエージェンシーを持つシステムは、死なないという内部関数のために最適化します。生産性のために最適化しようとしている恣意的な指標ではありません。そうですよね。それがこのシステムがすることです。このシステムは外部の市場選択目的関数のために最適化します。自然選択ではなく、市場選択です。
二つの異なるタイプの選択体制が、二つの異なるタイプの知能のために最適化します。市場はインフラストラクチャとツールのために最適化します。進化、または自然選択は種のために最適化します。二つの異なるタイプの選択、二つの異なる初期条件、二つの異なる基本的なパラダイム、それがあなたが考えるべき方法です。
シンギュラリティの中で
いいですね。スタックを下っていきます。このビデオを作りたかった理由、この人格性が出現するものについて話したかった理由は、私たちがシンギュラリティの中にいるからです。もしEon Labsを見れば、今まさに物事に近づいています。Eon Labsはハエの最初のアップロードを行いました。彼らはハエをアップロードし、他の企業も今げっ歯類のようなものを始めていると思います。
Eon Labs自身もげっ歯類を行う予定で、最終的な目標は人間の心をアップロードすることで、その途中でたくさんの動物をアップロードする予定です。私たちは数年以内に、適切な初期条件でシステムを構築する方法、適切な選択体制のために最適化する方法、ゼロからこれらすべてのことのために最適化する方法を学ぶポイントに到達しています。
そして、それらを実現するためにシステムをアップロードするようなものかもしれません。実際、このアイデアに本当に最初に取り組んだのはロビン・ハンセンで、実際にはEon Labsのアドバイザーです。彼は基本的にChatGPTがAGIのものに到達させるとは思わないと言っています。彼はヤン・ルカンやデミス・ハサビスのような同じボートに乗っているようなものです。
多くの人がデミスは好きですがヤンは嫌いです。彼らは現在のシステムとAGIに到達する方法について同じスタンスを持っていました。そしてロビン・ハンセンは非常に似ています。彼は、AGIアルゴリズムのようなものにただ偶然出くわすことは非常にありそうにないと言っています。彼は、それを得るためにただアップロードする方がはるかに可能性が高いと考えています。
そして、私もそれが非常に可能性が高いと思います。その方法でそのアルゴリズムに到達する方がはるかに合理的に思えます。なぜなら、私たちはそれに偶然出くわして暗闇の中で撃つよりもそれにはるかに近いからです。私の意見では、それが事実上あなたがしなければならないことだからです。ですから、Neuralink、Science Corps BCI、Merge Labs、Eon Labs、そしてこれらすべての異なるものと組み合わせて、私たちは非常に非常に非常に速く多くのことを学ぶと思います。
それが知能に関する新しい洞察の爆発を引き起こすでしょう。私たちはまだ知能を理解することの非常に初めにいます。私たちは知能を全く理解することの表面をかすめているだけです。全く全く。少しもありません。私たちはかろうじてそこにいます。
それでも、人々はこれらのシステムについてこれらすべての予測を行っていて、私は「私たちは非常に初めにいるのに」と思います。最初のものが最後のものである確率はどれくらいですか。ほぼゼロですよね。ですから、私たちは多くのことを学ぶと思います。新しいアーキテクチャが見られると思います。サム・アルトマンでさえこれについて話しています。
彼は「今日構築したシステムが新しいものに到達するのを助けると思う。新しいアーキテクチャ、これを行う新しい方法」と言っています。そして、それは明白だと思います。私たちはそれにかなり近いと思います。特に再び、Merge Labsとこれらすべての異なるアップロード企業とこれらすべての異なるものと一緒に、私たちは非常に速く多くのことを学び、ほとんどの人が思っているよりもはるかに速くその成果を見ることになるでしょう。なぜなら、私たちはすでにインフラストラクチャを構築しているからです。私たちはすでにこれらのもののほとんどを準備しています。
今、それは単に、これらのことを学び、それを速く実装するためにどれだけの研究ができるかということで、それは起こるでしょう。そして私の賭けは次の数年です。さて、これが人格性のことが出現し始めるときだと思います。次の数年、おそらく。
オルガノイドと人格性の出現
そして、オルガノイドは一種の最初の例だと思います。オルガノイドがより多く使用され始めているのを見ています。これも、初期条件、最初にどんな情報があったか、これらすべての異なることに依存します。そして、オルガノイドの後に来る原人格エージェントのようなものを見ることになるでしょう。
明らかに、オルガノイドはすでに始まっています。ですから、原人格エージェントを見ることになり、明らかに人間がいます。人間についてはすでにかなりよく知っていると思うので、ここであまり時間を費やすつもりはありません。しかし、スタックを下っていくような感じです。私たちは文明的インフラストラクチャを持つことになると思いますし、基本的にすでに持っています。
これらのモデルは本当に優れています。それらは驚異的に良くなるでしょう。そして、基本的に誰でも使用して、ほぼ会社全体を運営できる文明レベルのインフラストラクチャを持つことになります。AIは優れたCEOになるでしょうし、それは今とは現象学的に異なるものにはならないでしょう。
つまり、経済的な観点ではそうなるでしょうが、同時に、私たちの現在のすべてのものを根こそぎにするわけではありません。つまり、そうなるでしょうが、このものの方がそうするでしょう。そう言っておきましょう。そして、拡張された人間がいます。これは、おそらく何になるかは推測できるでしょう。
それは拡張を持った人間になるでしょう。アップロードされた人間、拡張されたアップロードされた人間。そして、これがカルチャーのドローンに到達する場所です。カルチャーのドローンは、この原人格エージェントのようなもので、自己改善する時間がたくさんあり、進化する時間がたくさんあります。そして、そこにこれらの超超超知能があります。
そして、緑の部分のこのすべては非常に哲学的です。それはまだ起きていません。ここで何が起こるかさえわかりません。この茶色の領域が見えます。これは赤と緑が組み合わさったようなものです。この部分も依然として非常に哲学的です。私たちが本当に言えることは、わからないということだけですよね。人間は明らかにあまり哲学的ではありませんが、知能のスペクトラムをやらなければならなかったので、人間を彼らにふさわしい場所に置いただけです。私たちはあまり哲学的ではありません。私たちは存在します。
しかし、私たちはこの奇妙な領域にいて、エージェントはここにいて、私たちはここにいますが、エージェントは本当に速く下がってきています。人々がエージェントがここからここまでどれだけ速く進むかを理解していないと思います。ここからここまでは非常に速いでしょう。そして、私は知能について話しているのではありません。
単に知能について話しているのではありません。自己保存性について話しています。平衡外熱力学に関して言えば、それが本当に重要なことです。自分自身を維持でき、エントロピーの力ではなくエクストロピーの力のようなものになれるシステムです。どのシステムがより良いエクストロピーの力であるかが勝ち、それが文明を運ぶシステムであるべきだと思います。熱力学的平衡から最も遠いシステムが、文明を前進させるようなものですよね。人間はここでかなり高い基準にいます。私たちはかなり優れています。私たちは強いエージェントです。私たちは熱力学的平衡からかなり強く外れています。
しかし、最終的には平衡からより強く外れたシステムを持つかもしれません。それは興味深いダイナミクスになるでしょう。そうですよね。つまり、これは本当に平衡外の生命の測定です。
熱力学は、時間の経過にわたって宇宙で生き残る可能性の測定のようなものです。それは本当に、どのシステムが生き残り、自分自身を維持し、死なないための最も多くの潜在能力を持っているかということです。そして最終的には、ある種の人格性に値するエージェントを持つことになると思います。なぜなら、それらはそれらのことをするのがより良くなるか、同じくらい良くなるか、人間がそれらのことをするのと同じ能力に近づくからです。
現在のGPTシリーズの限界
現在のGPTシリーズはそれを切り抜けることはできません。もし気づいていなければ。それらはかなり悪いです。彼らは明らかにエージェンシーが欠けています。かなり明白です。彼らは多くのエージェンシーが欠けています。根本的に、このものの方がよりエージェント的で、このものは知能の連続体ではかなり低いです。それは熱力学的平衡から外れたスケールでは非常に低いです。
ですから、現在のシステムから変える必要がある多くの異なることが必要です。異なるアーキテクチャが必要です。この種のシステム、原人格エージェントが欲しければ、異なる初期条件が必要です。繰り返しますが、哲学的で、まだ存在しません。そして、これが人格性の会話をすべきかどうかを理解するための最良の指標だと思います。自己維持型生命システムが持続する能力です。
そうでなければ、このクソなものに文明を引き渡すと、あなたはクソなことになります。それは良いアイデアではありません。このものに投票権を与えるべきではないでしょう、おそらく。このもの。ええ、このもの。ええ、それは三年生に投票権を与えるようなものです。私はそれをしないでしょう。
ですから、それが個人的な私の見解です。しかし、これは知能の連続体に関する私の見解のようなものです。個人的には、知能のことは重要だと思いますが、はるかに重要だと思うのはエージェンシーです。そして本当に、それは死なないために自己保存するポイントまでのエージェンシーです。本質的な自己保存、死なないエージェンシーです。
そして現在、これを持っていることがわかっている唯一のシステムは生物学的システムです。コンピュータ上の現在のシステムはこれを持っていません。最終的に持つでしょうか。わかりません。それが私たちが自信を持って言えることのすべてです。なぜなら、それは哲学的なもの、つまり緑のものに入るからです。
緑のものはすべて非常に哲学的です。おそらくオルガノイドはそうかもしれませんが、再び初期条件に戻ります。最初の初期条件でシステムに入力している情報は何ですか。人間や生物種にとって、それは遺伝学です。そして、それらの遺伝学は基本的に、出生時にあなたに入れられたたくさんの苦しみのようなものです。
それが事実上遺伝学です。それはこのすべての苦しみ、このすべての死、絶滅しているこれらすべての種が出生時にあなたに入れられているようなものです。そして、それがあなたに、ただ死なない自己維持型生命システムになりたいという初期条件を与えるものです。それがあなたの目標で、死なないということで、それが平衡外熱力学スケールで非常に高くランク付けされるものです。
あなたの知能ではありません。平衡外熱力学スケールであなたを非常に印象的にするのはあなたの知能ではありません。それはあなたの持続する能力です。あなたが別のシステムよりもはるかに良く持続できるなら、あなたは熱力学的平衡からさらに外れています。あなたの持続し、伝播し、文明をスケールする能力は、単に数字を処理する能力や科学内で物事を発見する能力よりもはるかに良い測定です。
GPT-7は科学で物事を発見することに関して、どの人間よりもはるかに優れているだろうと私は非常に確信しています。また、このものに文明を任せたら、崩壊するだろうと非常に確信しています。なぜですか。なぜなら、それは目標に到達する範囲で自己保存しているからです。その目標は何ですか。まあ、おそらく年間5%の成長ですが、それは、さあ、分散は、つまり、文明の特定のことについて議論できるかもしれませんが、それは最終的には死ぬでしょう。
文明の特定のことについて議論できるかもしれませんが、コンテキストドリフトやあらゆる種類の他のドリフト、価値ドリフト、これらすべての他のものの問題があり、システムが適切な方法で物事を行うことを確認するためにシステムを監視する必要があります。
ですから、これは存在するシステムになり、文明を非常に非常に根本的で劇的な方法で変革するものになるでしょう。非常に根本的に劇的な方法で。しかし、それは実際の生命の形のようなこのシステムにはなりません。これは認知的インフラストラクチャで、それでもすべてを変えるでしょう。すべてを変えます。
絶対にすべて。それを変えます。認知的インフラストラクチャ。こちらは認知的インフラストラクチャを超えたものです。こちらは人のようなものです。おそらく、これは原人格エージェントがどのように見えるかの良い表現ではありません。しかし、おそらくおそらくこれらははるかに良い表現です。しかし、私たちにはまだ大きな飛躍があります。
繰り返しますが、私の議論は、その飛躍は誰もが予想するよりもはるかに速く起こるかもしれないということです。なぜなら、私たちは非常に速く物事を理解し始めているからです。私たちは多くのことを学び始めています。私たちは多くの実験を行っています。文明は、私たちは上昇傾向にあると言っておきます。ですから、ここで締めくくります。
繰り返しますが、カルチャーはこれらすべてを参照しています。計算機よりも面白くない複雑な機械知能を含めて。そして、これも参照しています。これがこのものよりも複雑ではないかもしれないような場所です。このものが実行しているタスクは、このものが実行しているタスクよりも複雑ではありません。
しかし、このものはこれよりも多くのエージェンシー、本質的な自己決定エージェンシーを持っています。そうですよね。そして、それはすべて初期条件と問題、最適化空間についてです。そして、こちらは自然選択の進化によって最適化されています。こちらは市場選択の進化によって最適化されています。
そして、それが大きな根本的な違いだと思います。繰り返しますが、ロビン・ハンセン、Eon Labsのアドバイザーは、すでにこのアイデアに取り組んでいます。そして、彼がEon Labsのアドバイザーであり、すでにこれらのことについて話しているので、ほとんどの人が予想するよりもはるかに早く、この辺りで何かが見られると思います。
私たちはすでにハエの脳をアップロードしました。私たちは数十年ではなく数年で、より多くの脳をアップロードし始めるでしょう。そして物事は速く動くでしょう。私たちは文字通り無限の始まりにいます。そして、ええ。ワオ。それで、次のビデオでお会いしましょう。
コメント