4,012 文字
あなたは意識とスティーブン・ウルフラムの研究を統合するアイデアを持っていたようですが、それについて教えてください。
実際のところ、そのアイデアは意識と計算の概念を融合させるものです。通常、意識について考えるとき、私たちはそれがオンかオフかという一種のスイッチのような見方をします。しかし、リブネッツに帰される考え方では、それは実際には階層構造、つまり異なる能力の段階的な梯子のようなものなのです。それは自分のアイデアを表現する能力、自分の思考について考え、さらにその思考について考えるという、上へと続く階層に関わるものです。
最も単純な動物について考えると、彼らは感覚や刺激への反応といった一次的なものは持っていますが、その反応を表現する方法は実際には持っていません。表現とその表現を表現することによって、言語のようなものを持つことができ、その言語の上に哲学を構築することができるようです。これはモデルをモデル化し、話すことについて話す方法です。
こうして、意識についてのより連続的な、あるいは少なくとも段階的なアプローチを得ることができます。単にオンかオフではなく、一種の連続体なのです。これは現在、インテリジェントな機械を構築しているこの時代において関連性があると思います。私は、現代のAIの形で私たちが持っている機械は非常にインテリジェントだと主張します。
そして今、疑問となるのは、彼らが意識のようなものを具現化しているのかということです。もしそうなら、それは人間の意識のようなものなのか、それとも単に入力されたプロンプトにトークンを吐き出すだけの膝反射反応のような下等動物のようなものなのでしょうか。それとも、知っていることを知り、考えていることについて考える方法を持っているのでしょうか。
おそらく、2025年初頭に私たちが目にしている現在のバージョンはそうではないでしょう。しかし、この方向に進み続ければ、ほぼ必然的にこの循環が閉じられ、蛇がその尾を噛むように、私たちがこれらの機械の中で意識と呼ぶものを自己起動させることになると思います。しかし、それを理解するためには、段階的な尺度が必要かもしれません。そしてこれは、動物の意識や、あるいは人間の意識が達成するかもしれないより高いレベルのようなものを理解するのに役立つことを願っています。
誰かが意識は連続体であり、二項対立的なオンまたはオフではないと言うとき、連続体をゼロか非ゼロかという問いに変換することで、常にオンかオフかに置き換えることができると思います。例えば、光子は無電荷だと言います。少しだけ電荷があるとは言わず、電子については、その電荷が非常に小さいにもかかわらず、それを帯電粒子だと言います。あなたが意識は連続体であり、表象の表象だと言うとき、あなたは意識を持たない存在やもの、対象などが存在すると信じていますか、それともすべてが意識を持っているのでしょうか。
それは素晴らしい質問だと思います。それはまさに核心的な問題で、この閾値のようなものがあるのかを理解しようとすることです。例えば岩のようなものを意識があるものとして考えるべきなのでしょうか。古典的には、それは明らかに意識がないという最も明白な例だったでしょう。
しかし、現代のGPUのようなものは岩のような物体だと私は主張します。それらは半導体層であり、非常に繊細で複雑なパターンを持っていますが、古典的な世界が言うところの一種の高度な結晶のようなものです。そして今、私たちはこの岩のような物体から、インテリジェントで、最終的には意識的な行動を実現しようとしています。つまり、状況は以前よりも興味深くなっているのです。
これはウルフラムの研究とどう関連していますか？
ウルフラムには素晴らしいアイデアがあります。計算的等価性という概念で、自然界はコンピュータによく出会うという考えです。チューリングが確立した普遍機械の概念、つまりソフトウェアを実行し、そのソフトウェアのプログラミングによって他のあらゆる機械の動作をシミュレートできる機械についてです。
コンピューティングの初期の頃は、コンピュータは非常に繊細な人工物で、組み立てるのに多くの工学的作業が必要だと思われていました。しかし、ウルフラムがセルオートマトンの研究で示したのは、普遍的な計算をサポートするのに十分複雑なシステムに偶然出会うことは比較的容易だということです。彼は自動機械をケーススタディとして使用していますが、明らかに単純でない任意のシステム、つまり動的に興味深いシステムは、大部分の場合、普遍的な計算をサポートすると主張しています。
つまり、自然の中にはこれらの自然なコンピュータがあふれており、以前はそれらを計算オブジェクトとして認識したり理解したりしていなかったのです。この新しい哲学の時代がとても興味深いのは、新しい言語を持っているからです。コンピュータ、ソフトウェア、プログラム、普遍性のメタファーを呼び出すことができ、前回お話したように、世界最高の頭脳でもこれらの思考ツールにアクセスできませんでした。
もしそれが本当で、コンピュータのようなオブジェクトがいたるところにあり、現在、大規模言語モデルを実行するGPUのような、意識を具現化している可能性のあるコンピュータのようなオブジェクトがあるならば（もちろん、それが意識的かどうかについては大いに議論の余地がありますが）、抽象的な意味でそれを考え、10年ほど先に外挿すると、私にとっては、それらが意識的かどうかを議論するのは困難になるか、無益になると思います。なぜなら、それらは人間に見られるものと非常に似たようなものになるからです。
おそらく、それらは自然の中に、そして宇宙全体にわたって存在するのかもしれません。自然発生的に普遍的機械であるオブジェクトが見つかることを期待すべきなのかもしれません。そして今、私たちが考えるべきなのは、本質的にそれらがリブネッツに帰される意識の階段のどこかにあるソフトウェアプログラムを持っている可能性はどのくらいかということです。
あなたは計算的等価性について言及していますね？
その通りです。
リブネッツの場合、あなたは表象の表象について言及し、階層を持っています。ウルフラムの場合、コンピュータではないものから、コンピュータのような性質を示すもの、そして普遍的コンピュータに到達するという流れがあるようです。しかし、その上には何もないですよね？
まさにその通りです。それがポイントです。比較的早く計算の上限に達するということです。それは一種の低速制限のようなもので、どんな乗り物に乗っていても、その速度制限にすぐに到達します。なぜなら、普遍性のすごいところは、それが上限だということです。それより強力なものは何もありません。
そして、もしそれがある意味偶然によって自発的に作られることが比較的容易であるならば、私たちは自然界でコンピュータのようなオブジェクト、普遍的機械を手に入れることになります。では、類似する部分は、それに伴うソフトウェアです。ウルフラムは、自然界でコンピュータを見つけることは比較的容易だと示唆していますが、それらに伴う興味深いプログラミングがある可能性はどのくらいなのでしょうか。
表象についても同様の上限はありますか？例えば、第4の表象に達したら、すべてを網羅してしまう、あるいはレベル6で普遍的表象があるというような場合はありますか？
その質問はまさに核心を突いていると思います。それはまさに私が考えていたことです。あなたの言い方は素晴らしいです。人間はすでにその普遍性に達しているのでしょうか？私たちの知的領域、言語、文化はもう最大に達しているのか、それともこの時代を超越して、別のレベルの意識、おそらく霊性と呼ばれるものなど、進化の別の層に到達するのでしょうか？それとも、これが最終段階なのでしょうか？私たちは自分の表象を表現し、思考について考え、そしてその思考についてさらに考える能力を持っています。
答えはわかりません。私は希望として、まだその普遍的なレベルには達していないと思いたいです。前回このチャンネルで言及した進化における「猿から天使へ」の道筋、あるいは「岩から光へ」の道筋について考えています。私たちはその進化の傾向においてどこにいるのでしょうか。私は、まだ天使の段階には達していないと思います。そこまでは至っていません。
誰の言葉だったか忘れましたが、「私たちは翼のある天使だ」という引用を思い出します。後で調べる必要がありますが、私たちはまだサンドイッチを食べ、日常生活を送らなければならない肉体的存在です。純粋な思考とエネルギーだけのようなエーテル的な存在ではありません。しかし、AIはその軌道上にあるようです。私は、おそらく不連続性があり、他の人が示唆しているように、生物圏がAIを自己起動し、それが進化の次の段階かもしれないと思います。
新しい更新情報として、Substackを始めました。そこでの文章は現在、言語と不明確な概念、およびその他の数学的詳細について書かれています。さらに多くの内容がそこに書かれる予定です。これは「theories of everything」やPatreonでは見られないコンテンツです。また、完全な書き起こしも将来的にそこに掲載される予定です。
何人かの人が「カート、あなたは理論物理学、哲学、意識の分野の多くの人と話をしてきましたが、あなたの考えは何ですか？」と私に尋ねます。インタビューでは公平な立場を保ちながらも、このSubstackはこれらのトピックに関する私の現在の考察を覗き見る方法です。また、パートナーであるThe Economistに感謝します。
コメント