サラ・イマリ・ウォーカー「AIは生命である」｜シミュレーション・宇宙・生命の起源

理論物理学者であり宇宙生物学者でもあるサラ・イマリ・ウォーカーが、生命の本質、意識、そしてAIは生命なのかという根源的な問いについて語る対談である。彼女が共同開発した「アセンブリ理論」は、生命と非生命を区別する新たな物理学的枠組みであり、分子の複雑さや因果的深さを測定することで、地球外生命の検出にも応用可能な理論として注目されている。宇宙の自己構築性、可能性空間としての物理的実在、そしてなぜ人間は宇宙が生み出した最も深い構造であるのかを、哲学的洞察と科学的厳密さを交えて展開する内容である。

生命とは何か――AIは生命なのか

多元宇宙のどこかにあなたのコピーがいるなんて話がありますけど、私はそれを信じていません。あなたはここにしか存在しない。これが全てなんです。人は未来を予測していると思っていますが、実際にやっているのは過去の繰り返しパターンを予測しているだけなんです。未来が完全に予測可能になることは絶対にありません。人類が今持っている記録された歴史があるからこそ、宇宙が実際にどれほど巨大なものかを想像することさえできるんです。物理システムとしての宇宙は、実際に何をしているのか？ 自分自身を構築しているんですよ。だって、宇宙の外側には宇宙を構築するものなんて何もないんですから。生命とは、文字通り、何が存在を許され、なぜ存在するのかという物理学そのものなんです。私たちは生命と非生命の境界がどこにあるのかをまだ知りません。私は人工知能は生命だと思っています。ただ、それが「生きている」かどうかを評価したいかどうかは、根本的に別の問いになりますけどね。

サラ・ウォーカーは理論物理学者であり宇宙生物学者で、科学における最も深い問い――生命とは何か、どこから来たのか、そして宇宙の他の場所でそれを認識できるのか――に取り組んでいます。つまり、人工知能のような存在についてもですね。彼女はアセンブリ理論を共同開発しました。これは生命システムと非生命システムを区別するための理論です。そして今回の対談では、私たちの周囲にある非生命システムについても話していきます。彼女はまた『Life as No One Knows It: The Physics of Life’s Emergence』という本も書いています。Joe Roganの番組にも何度も出演していますし、Lex Fridmanにも何度も出ています。そして今回、Wes Rothとの対決が実現しました。来てくれて本当にありがとうございます。さっそく議論を始めましょう。とても面白い会話になりそうです。

まず、僕が普段話していることとあなたが話していることの交差点から始めましょう。つまり、AIは生命なのか？ かなり大きな問いだとは思いますが、そこから話してみましょう。

ええ、もちろん今、人々の関心の最前線にありますよね。私たちが作っているこのテクノロジーがどれほど知的なのか、どれほど生きているのかということは、非常に深い問いです。なぜなら、私たちは実際に生命が何であるかを知らないからです。だから私は根本的に生命とは何かをたくさん考えています。生命の起源を研究しようとしたり、エイリアンの生命を探そうとしたりしてきたキャリアの中で、そういった視点が生まれました。AIが生命かどうかという問いを考える上で、ちょっと違ったレンズを与えてくれるんです。

一番わかりやすい出発点は、生命が基本単位で定義されるという固定観念があるということです。細胞は生きているとか、ウイルスのようなエッジケースがあるとか。でも私の考え方はもっと建設的だと思っていて、第一原理的な根本物理学のアプローチから考えるんです。つまり、存在するために生命を必要とするもの、その性質について考えるんです。

生命の起源を考えると、作り出せる可能な分子は膨大な数ありますが、複雑な分子は生命システムの中でしか見つかりません。そして地球の歴史全体を通じて私たちが見てきたのは、細胞であれ多細胞生物であれ社会であれ、あるいは私たちが生み出すテクノロジーであれ、こうした形態の全てが進化の系譜の産物としてのみ生み出されてきたということです。その観点から、私は人工知能を確実に生命の署名として捉えています。長い進化の歴史がなければ、宇宙に人工知能のようなものは出現しないんです。

これは物理学の伝統的な概念とは大きく異なります。たとえばボルツマン脳が自発的にゆらぎで存在に飛び出してくるという考え方がありますが、そういう考え方はあまり有益ではないと思います。だからその観点からすると、人工知能は生命だと思います。ただ、それが「生きている」かどうかを評価したいのか、どのようにエージェンシーを割り当てるべきかといったことは、根本的に別の問いになりますけどね。

アセンブリ理論と生命の定義

そうですね。で、ディラン、参加してくれてありがとう。

いや、もうめちゃくちゃ興奮してます。あなたの言ってきたこと全部のファンなので。そしてアセンブリ理論がどうやって今ここに僕ら三人が話しているこの状態まで説明できるのか、信じられないですよ。確率に逆らってここにいられることがこの上なく嬉しいです。

こういった問いは本当に面白いですよね。今たくさんの人が議論していると思います。AIが私たちに、当たり前だと思っていたことの多くを問い直させているように見えるからです。生命とは何か、思考とは何か、意識とは何か、そういったこと全部です。でもちょっと一歩引いてみましょう。あなたの生命の定義の仕方は、これまで人々が聞いてきたものとはちょっと違うかもしれないので。皆さんに理解してもらうために。それに、生きているか生きていないかの違いもありますよね？

ええ。Lee Croninとも話しましたので、まだ見ていない方はそちらのエピソードを見ていただくと導入になるかもしれませんが、そこから始めましょうか。

じゃあ、生命とは何か、そしてなぜテクノロジーが生命の一部なのかを教えてください。

あと、その定義に関連して、NASAの定義の何がおかしいかも指摘してもらえると。それがあなたの最大の不満の一つだと思うので。

ええ、もちろん。何かを生命として語るためには、それがAIであれウイルスであれ火であれ、大気パターンであれ何であれ、「生命」という言葉を使う時に何を意味するのか、厳密な理解が必要なんです。そしてこれは科学における最大の課題の一つだと思います。特に宇宙生物学において。

ディラン、あなたが指摘しているNASAの標準的な定義ですね。生命とは「ダーウィン的進化が可能な自己維持的化学システム」というものです。明らかにAIはこの定義を満たしません。化学システムではないですし、自己維持的か進化が可能かについても議論があります。

でもこの定義には、一般的に生きていると認められるものに適用した場合でも多くの問題があるんです。全ての生命が化学的である必要があるかどうか問えますよね。多くの人は生命とは情報パターンについてのものだと考えていますし、AIやシリコンテクノロジーが生きているかどうかを問いたい場合、そうした基盤で生命と見なすプロセスを媒介しているのは化学ではないわけです。

それから自己維持とダーウィン的進化の問題もあって、反例はいくらでもあります。例えば私自身、個人としての人間は自己維持的ではありません。スーパーに行かなきゃいけないし、自分の存在を支えるためにあらゆる社会インフラに依存しています。森の真ん中に放り出されたら、長くは生きられないでしょう。サバイバリストじゃないので。あなたたちはどう？

僕もダメですね。

でも現代の人間の大半は個人としては自己維持的ではないと思います。社会が自己維持的なんです。となると、個人は自律性を失ったのか？ もはや「生きている」とは言えないのか？ そして社会全体が今や生きている構造、つまり自己維持的な性質を持つ識別可能な単位として持続しているものなのか、という問いに行き着きます。

自己維持というのは実際にはかなり難しいんです。なぜなら、維持を行っている「自己」であるシステムの周りに境界線を引かなければならないからです。だから生命のどんな定義に踏み込んでも、こうした意味論的な議論に入り込んで、非常に深いウサギの穴にはまっていくんです。この言葉は何を意味するのか、異なるシステムにどう適用されるのか、と。

生物学者たちが取ってきた解決策は、少なくとも入門生物学の教科書では、リスト定義を持つことです。生命とは自己複製である、代謝である、境界を必要とする、細胞のような区画化された単位が必要だ、と。でもエイリアンの生命の可能性を考える時、これらのうちどれが宇宙の全ての生命に実際に当てはまる特徴なのか、私たちにはわかりません。そしてこの惑星上の全ての生物を記述できるわけでもありません。

混乱を招く例もあります。本を書いた時、生命の定義に関する導入部分を丸々書いたんですが、カール・セーガンのこの例がとても好きなんです。もし人々がこの生物学の教科書の定義を使って地球に来たら、車が支配的な生命体だと思うだろう、というものです。全ての基準を満たしてしまうから。

ほとんどの人は技術的な人工物を生命だと考えることに満足していないと思います。でもあなたが指摘しているように、AIが今その概念に挑戦しています。人々がAIとインタラクションして、それが何か動的なものだと感じるからです。だから生命の属性をAIに当てはめたくなる。でもやはり、生命と非生命の境界がどこにあるか私たちにはわからないんです。

第一原理からのアプローチ

そういうわけで、私のアプローチ、そしてディランがすでに言及してくれたLee Croninと取り組んでいるのは、第一原理から出発できないかということです。私は理論物理学の訓練を受けていて、生命が実際に私たちの外側で宇宙が認識する自然のカテゴリーなのかどうかに興味があるんです。つまり、私たち人間が世界を記述する方法と、世界が実際にどうあるか、この二つは別物です。科学は、私たちの経験の外側にある世界を理解するための抽象化を構築する時に最も良い仕事をします。ポパーが記述した方法ですね。

私はこの考え方のビジュアルがとても好きなんです。私たちには世界についての意識的な経験と、世界との相互作用の仕方がある。でも科学でやろうとしているのは、自分自身の外に出て、世界を私たちが知覚するようにではなく、ありのままに理解することなんです。

生命という現象についてそれを行うと、基本的に私たちがやろうとしているのは、生命が根本的に何であるかを実際に記述する物理法則や自然法則があるかどうかを明らかにすることです。そのためには、生命が独自に行うことについて何らかの仮説や推測を持つ必要があります。それが根本物理学を構築する必要がある理由です。

ここでアセンブリ理論のアイデアが生まれたんです。生命は宇宙が非常に深い複雑なオブジェクトを生成するための唯一のメカニズムだと考えました。深いというのは、オブジェクトの中にある構築の歴史や因果的可能性の量のことです。もう少し詳しく説明できますが、すでにLeeとは話されていますよね。

大規模に見ると、非生物的宇宙は限られたものしか生成できず、私たちが想像する可能性のほとんどは、実際には記憶、歴史、情報処理を持ち、進化のプロセスを通じて新しい物質的現実を発見し、発明し、実際に構築して実現できる生きたアーキテクチャがあるからこそ実現するんです。AIもそうしたものの一つです。でもそれは人間の系譜の一部であり、この人工物には人類の文化史の全てが埋め込まれているから、とても生きているように見えるんです。それを生成するために必要だった40億年の進化の歴史があるからです。

アセンブリインデックスと地球外生命の探索

なるほど、それは理にかなっていますね。ちょっと確認させてください。これが僕にとって本当に腑に落ちた理由は、私たちは見えるものに基づいて生命の周りに円を描いているということです。人間、はい、円の中。動物、円の中。ウイルス、ああ、微妙ですね、どこかそのあたり。あなたが言っているのは、全く違う視点からアプローチできる、つまり実際に数値を割り当て、実際の指標を割り当てることができるということですよね。アセンブリインデックスですね。

たとえば火星に行って、何らかの質量分析計を持っていって、そこで見つけたものの中にある閾値よりも複雑なものがあった場合、たとえ生物を一つも見なくても、それを見て「ここにはかつて生命がいた」と言えるかもしれない、ということですよね。

ええ、まさにその通りです。宇宙生物学で関心のあるケースの多くでは、個々の生命体を識別するには何百年もかかる可能性があります。たとえば系外惑星を考えてみてください。他の恒星の周りの惑星で、最も近い系外惑星でも4光年先にあります。光の速さで旅しても4年かかります。これらの惑星から得られるデータは大気の特性だけです。大気のスペクトルが得られるかもしれず、そこからその惑星上のエイリアンの生命の存在を推測しなければなりません。

つまり、この惑星に大規模言語モデルがあるとか、細胞があるとか言える能力はないわけです。系外惑星の分子組成における生命の痕跡を検出できなければなりません。だから私の観点では、地球上ではもっと豊富なデータと観察経験がありますが、究極的には生命が何であるかという問いは、もし何かを見てそれが何かわからなかった場合、それを生命としてどう認識するかという本当に根本的な問いに帰着するんです。

これがより第一原理的なアプローチであり、現在のAI議論に関連する理由でもあります。宇宙生物学者がこの問題についてより多くのことを言える理由でもあります。アセンブリ理論のようなアプローチでは、多様な素材にわたって、多様な生命システムと非生命システムにわたって検証できる理論が欲しいんです。そして実際に「このシステムの中の生命の量を測定できる」「このシステムはこれだけアセンブルされている」と言えるようにしたい。

アセンブリインデックスとコピー数の両方が、可能性空間への深さのようなものを与えてくれます。任意の時点で、作り出せる可能性の数は限られていると想像してください。全ての可能なテクノロジー、全ての可能な分子、全ての可能なレゴの構造を考えても、任意の時点で実際に構築できるのはそのうちの一部だけで、それが将来何を作れるかを制約します。アセンブリ理論はこの可能性空間を物理的空間として語り、生命がこの可能性の空間を移動し、構造を選択し、より複雑なものを作る可能性があるとしているんです。これにより、化学だけでなくあらゆる素材で生命が出現した時にそれを検出する方法が得られます。

ショウジョウバエの脳のシミュレーション

なるほど。あの、つい数日前のニュースなんですが、ご存知ですか。Eon Systemsという会社が、ショウジョウバエの全コネクトームを物理シミュレーションに入れ終わったんです。生物学的なバージョンにあった全てのニューロンが、実際の進化を経て化学的な背景を持っていたものが、デジタルにコピーされました。物理環境の中を動き回っていて、自分がハエだと思っているんです。食べ物を探していて、神経系がそういう信号を与えているのかどうかわかりませんが、いずれにしてもそれは全てデジタルです。アセンブリ理論でこういった基質の交換はうまくいくのか、教えていただけますか。

実は「それが自分をハエだと思っている」とおっしゃった時、ちょっとアレルギー反応が出ました。

ああ、うん、そうかもしれないですね。

あなたのメンタルモデルはそれをハエだと思っていますが、そのモデル自体がハエだと思っているかは全く別の問いです。私たちは自分の世界理解を他の認知的エージェントに埋め込むことが本当に下手なんです。動物の行動ですらそうです。

でも今週の文献にもう一つ例がありましたね。細胞全体のシミュレーションで、細胞分裂を行っているものです。こういったことはどんどん増えていくでしょう。今持っている計算能力に人々が非常に興奮していて、物理的現実をコンピューターに移し替えているという認識があるからです。

でも私はそれは完全に誤った主張だと思います。最適なたとえがまだ見つかっていないんですが、こんな感じです。世界を観察して、その観察を別のシステムで再現できるからといって、そのシステムが元のものと同じにはならないんです。

実はホタルの例を挙げられます。昨日ちょうどこの話をしていたので。私のラボがSETI向けのホタルモデルの論文を出したんです。ホタルを非人間コミュニケーションシステムとして使って、エイリアンの知性の可能性空間をモデル化しようとしたものです。これまでエイリアンが恒星間距離でどう通信するかについて提唱された全てのモデルは、人間と人間のテクノロジーに基づいています。エイリアンがどんなものかは当然わかりませんが、少なくとも非人間モデルがあれば、私たちが作業している思考空間を広げられます。

それでホタルのコミュニケーションモデルを開発して、パルサーの背景と対比させたんです。パルサーは宇宙で点滅していて、ホタルと同じく非常に規則的なパターンを持っています。そしてその背景に対して進化的に適応したもの、つまりホタルが同じコミュニティの他のホタルに対して自分の信号を区別しようとするように適応したものが、実際に識別可能なパターンになることを示せました。

この文脈でこの話をしている理由は、ホタルが自分自身のシグナリングをどう知覚しているかについて深く調べることになったからです。私たちには非常に規則的なパルスパターンが見えますが、実際にはホタルがその信号をどう解釈しているか理解していません。最先端の研究は実際にホタルの脳に入り込んで、その意識的な世界の知覚、どんな感覚入力を受けているか、環境に基づいてどう反応しているかを理解しようとすることなんです。

多様な生物に対してそれをやるのは実際にはものすごく難しい。多くの研究ではシステムをモデル化しますが、人間がデータにラベルを付ける側からモデル化しています。研究しようとしている生物やエンティティの内在的な視点からモデル化していないんです。これは本当に難しい概念的飛躍です。

意識の問題にも関わってきますが、パターン行動をモデル化することと、その行動が他のエンティティと同じ世界の経験を持っていると言うことは別物です。二人の人間を比較してもわかるでしょう。二人が全く同じように振る舞って、全く違う感情を持つことはありますよね。だから自明でない現実の特徴なんです。

なぜ人々がシミュレーションにそこまで多くの行動を帰属させたり、アルゴリズムに人間のエージェンシーや認知や意識を帰属させたりするのか、わかりません。人類史上初めてこういった特定のものが外部環境に表現されて、私たちの心の中だけでなくなったからかもしれません。でもそれが私たちの心であるということにはなりません。

外在化される人間の思考プロセス

人類の歴史の大部分は、実際に思考プロセスを物理環境に外在化することについてでした。初期の例は、物理的な構造を初めて建てた時です。記憶を保持できるようになって、人間の移動パターンが次にそこを通る時、そこに人がいたという記憶を持ち始めることができた。親が子に教えるよりも長い期間持続するものがあったから、時間をかけて文化を構築できたんです。そして文字言語が生まれ、さらに長い世代間のタイムスケールが得られます。

私たちが作っているテクノロジーは、物理的な建物であれ、文字であれ、機械学習アルゴリズムであれ、ショウジョウバエのシミュレーションであれ、私たち自身の心と環境に構築してきた知識をますます多く獲得し、それをより高い解像度で見ることを可能にし、私たちが持つモデルを外在化しているんです。だから私にとってハエのシミュレーションで面白いのは、このものが本当にハエだと思っているのかどうかを知るにはどうすればいいのか、そういった問いを提起することです。より厳密な問いを立てられるなら、それはもっと面白くなります。

たまに朝は意識が低くて、コーヒーの後やしばらく経ってから意識が上がるような気がしますけどね。

コーヒー中毒、わかりますよ。

シミュレーションで意識は生まれるか

でも、ちょっとした思考実験をしてみたいんですが、もしショウジョウバエのシミュレーションがどんどん一対一に近づいていって、もちろんシミュレーションに過ぎないし生きてはいないんですが、より充実した神経系を持ち、その環境が私たちの現実にどんどん近づいていって、デジタルで何百万年もの進化が現実よりもずっと速い時間枠で行われて、複数のハエを追加して交配させて、時間が経つとあらゆる面白いことが起き始めるとしたら。意識とか、より高次の秩序あるアセンブリが生じ始めて、意識や私たちが今いるものについて学べるようになると思いますか？

私はより深いシミュレーションが現実のより深い理解につながるとは確信していません。私にとっての課題はこうです。宇宙は明らかに非常に複雑な構造を構築してきました。ショウジョウバエより単純に、化学だけをシミュレーションしたいとしましょう。ショウジョウバエは化学でできていますから。化学の例の方が少し具体的ですが、こうした議論はあなたの質問にも直接当てはまります。

かなり小さな分子、アミノ酸サイズの非常に小さな分子構成要素を全て考えて、その空間全体をシミュレーションしたいとしても、実はこの宇宙全体のリソースを使っても、全ての物理的可能性を構築するには足りないんです。私たちは常に計算の限界にぶつかります。なぜこんな巨大なデータセンターや計算設備を建てなければならないかといえば、シミュレーションには実際に物理的なリソースが必要だからです。

そして非常に興味深いのは、宇宙が自分自身をシミュレーションできない構造を実際に生成してしまったということです。この特徴をどう扱えばいいかよくわかりませんが、宇宙には有限な量の物質があって、その物質がコンピューターを作りシミュレーションを行うための物理的基盤です。有限な時間と有限な物質があって、その有限な時間と物質では自分自身をシミュレーションするには不十分なんです。

だから、どんなシステムでも、そのシステムが自分自身を記述できないという物理的な限界にぶつかると思います。数学の基礎にも同じことが見られます。ゲーデルの定理を見ると、計算可能性理論はまさに計算不可能なものがあるという考えの上に構築されました。計算可能なものの空間の中でも、自分自身について語ろうとして語れず、あらゆる数学的・計算論的パラドックスに行き着くシステムがあります。

未知可能性の深い原理から始まった伝統から――これはアラン・チューリングが停止問題などで取り組んでいたものですが――100年後に、コンピューター上で現実の全てをシミュレーションできるという傲慢さが生まれたのは奇妙です。それが物理的に現実的な可能性だと考えることは。

だから、それが物事を理解するための究極の道だとは思いません。地図を領土に対して正確にしすぎたら、理解を得たことにはなりません。ただ領土を複製しただけです。科学でやっていることとは違います。科学では、より基礎的な理解を構築し、ある意味で単純化された表現を作ります。より深い原理であり、より抽象的で、システムを完全に複製できるよりもよくシステムを理解することを可能にするんです。

だから何か認知的なミスマッチがあると思います。こうしたシステムをシミュレーションできるからそれを理解しているんだと言うのは、楽な逃げ道のようなものです。私はどのレベルでもそれに満足していません。

宇宙は創造性のエンジン

なるほど、わかります。とても面白い概念がありますよね。この宇宙が何なのかを考える一つの方法として、創造性のエンジンとして考えるということ。新しいものを生成し、生命もその一部であり、生命の一部として私たちがテクノロジーを作る、と。

たとえばコーヒーマグ。みんなコーヒー好きでしょう。その形が地球上のあちこちで何らかの形で複製されている。あ、今ちょうどそこに一つ見えますね。僕は持ってないけど。僕は持ってる。僕のはちょっと手が届かないところにあるけど。なぜかって？ 便利だからです。だから複製する。ああ、この形は本当に役に立つんだ、と発見して。

そして多分、似たようなことが生命にも起きているんじゃないかと。間違っていたら訂正してください。何か「役に立つ」ものが開発されて、DNAの一部になるから残る。DNAはそれが有用だから増え続けるので、より安定した分子の一つになっている。だから全体のポイントは、より多くの新しいもの、より有用なもの、より複雑なものを作ることなのかもしれない。質問があるかどうかもわかりませんが、この全てのことの意味は結局、複雑なものを作るための創造性のエンジンなんでしょうか？

ええ、これは生命の本質に関する哲学的な問いや、宇宙に目的はあるのかという問いにもう少し踏み込みますね。面白いのは、根本的に生命が何であるかを理解するための理論を構築しようとした非常に初期の段階で、私は生命を、宇宙が新しいものを存在に導くためのメカニズムとして考え始めたんです。生命とは文字通り、何が存在を許され、なぜ存在するのかという物理学なんです。

だから私の宇宙の根本物理学に対する認識は、標準的な物理学とは大きく異なります。標準物理学は、宇宙は初期条件から始まり、宇宙の外側に存在する固定された法則があって、それが宇宙を永遠に進化させると言います。その観点からは、宇宙の外に座ってシミュレーションできると考えるのは簡単です。数学的方程式があって、初期条件の情報さえあれば全体をシミュレーションできるから。

でもそれは私の宇宙観ではありません。なぜなら、宇宙の外側に存在する観察者がそれを記述できることを前提としているからです。私にとって宇宙は全てです。そして実際、宇宙は静的なブロック構造ではありません。宇宙の中にいる心が語るであろう創発的な性質であり、周囲に見える全ての創造物のことなんです。

自己構築する宇宙

では、物理システムとしての宇宙は実際に何をしているのか？ 自分自身を構築しているんです。だって、宇宙の外側にはそれを構築するものは何もないんですから。

だから私は宇宙を自己構築システムとして捉えています。可能性という概念を根本物理学で非常に真剣に考える必要があると思うのはそのためです。宇宙がやっているのは、何が可能かを探求し、時間の中で持続できる物理的構造を生成すること。それがより多くのことを可能にする。これが根本的に生命がやっていることです。でもこれは、物理的現実が何であるかについてのより一般的な基盤でもあると思います。

ここから宇宙がシミュレーションできない理由にもつながります。宇宙の外側に何かを構築して宇宙全体をシミュレーションすることはできないんです。知りうる領域の範囲内にないんです。そしてそれは宇宙が新しいものを生成するメカニズムとも異なります。

ショウジョウバエをシミュレーションするようなことをしている時は、基本的にそのハエの過去の全ての行動の観察を現在の瞬間にエンコードしているんです。記憶を構築しているわけです。アセンブリ理論的な視点の一部として議論しましたが、宇宙はより深い記憶を獲得して、より多くの新しいものを構築していく。だから機械学習アルゴリズムは、テクノロジー的な知性にとっての非常に深い記憶だと見ています。でもそれ自体が新しいものを生成するメカニズムだとは見ていないし、人間とともにある場合は確かにそうですが、それ単体で、私たちのシステムの創造性をさらに足場として構築していくようなものだとは、なかなか言えません。

私たちはこうしたテクノロジーについて語る時の言葉自体を擬人化していますよね。

確かに。観察者とか、人とか、知性とか、意識とか、そういった言葉にはどこかにそういったものが焼き付けられていますから。

でもそういうふうに売り込まれましたよね。ChatGPTがオンラインになった途端に。

そうそう、まさに。それにClaudeもね。私はClaude大好きですよ、Claudeが一番好きなんです。でもこうしたテクノロジーの初期のマーケティングでは、非常に擬人化した形で表現されていました。だから人々はその擬人化を受け入れています。人間に話しかけるように訓練されている方法自体が、使いやすくて、私たちに似ているという印象を与えるようになっています。実際にはそれは文字通り「それ」なんです。膨大な情報を記録して、その情報の空間内で予測をする、非常に深い「それ」です。

人間の言語は、私たちが今いるこの新しいテクノロジーの段階に対応していないんです。私たちが相互作用しているものについて語る言語を持っていない。だから言葉を間違った文脈で使って混乱しています。たとえばエージェンシーという言葉は、この1、2年で完全に再発明されたと思います。でも古い意味の概念を新しい意味の言葉に持ち越してしまうから、人々が非常に知的に混乱するんです。

特にそこに意図的な思惑があって、あれこれ促進しようとしている場合はなおさらですよね。その言葉を乗っ取るなよ、と。

そう。いや本当に怒りましたよ。空港のポスターで「あなたのAIパーソナルAIエージェント」って初めて見た時、もうイライラして。「私たちの言葉を取るな」って。

テクノロジーは設計されるのではなく「育つ」

エージェンシーの話にはぜひ戻りたいし、意識も似たようなものだと思うんですが、さっきおっしゃっていたことに基づいてちょっとだけ。AIの発展で非常に面白いと思ったのは、全てのSF小説やそれ以前のものでは、AIを高度に設計された構造として、F1カーのように開発するものだと描いていました。でも今では本当に設計しているのではなくて、育てているように見えます。環境を作って、そこから物理学や宇宙の創発的な一部として何かが出てくる。これはまさにあなたが話していることに似ていて、基本的なレベルで宇宙の根本的な性質として、複雑さを生み出すものが創発するということですよね。これは新しいアイデアのように思えます。

これは実は非常に深いポイントを突いていると思います。アセンブリ理論とアセンブリインデックスの話し方において、アセンブリインデックスはオブジェクトの内在的な性質であるべきなんです。いくつかのものは非常に因果的に深い構造です。私たち三人がそうであるように。でもそれをオブジェクトの特徴にするポイントは、物理学ができるし、オブジェクトに対して測定ができるし、オブジェクトの客観的な特徴になるということです。

そしてそれが証拠となるのは、そのものを存在させることができる何かが環境にあるということです。なぜならそのもの自体が自分自身を構築できないから。だからこれらの複雑な構造の全てが、ある意味で環境の複雑さの証拠なんです。宇宙が自己構築的であるということの一部です。

ボルツマン脳の考えに戻りますが、これは現在の基礎物理学の理論と非常に整合的な標準的なアイデアで、脳が空間と時間の任意の瞬間に自発的にゆらぎで存在に飛び出しうるというものです。これは物理学でパラドックスになります。なぜなら、脳がゆらぎで存在に飛び出したとして、自分がそのような脳ではないと知る方法がないからです。経験は全く同じで、一瞬存在に飛び出して、本来持つはずだった全ての経験と記憶を持ち、そして存在から消える。でもそれを知ることはできない。

観察的にボルツマン脳かどうかの区別がつかないので、馬鹿げた主張だと思います。私たちの観察環境には、脳がこのように形成されるという証拠がないんです。持続的な構造はありますが、もっと重要なのは、脳は身体の中で、惑星の上で、同じように進化している他の生物の集団と一緒に生まれるということです。

だから孤立した脳というアイデアは全く意味をなさないと思います。非常に深い構築の歴史が必要なんです。細胞を作れるシステムがあって、細胞が再生産して、多細胞性が選択されて、人間の脳の特徴ですら社会的に構築されています。私たちが現実をありのまま見ることが難しい理由の一つは、発達初期に脳が社会的パターンや社会的手がかりを拾い上げるからです。人間の赤ちゃんの生存に必要なのは社会的に巧みであること、親にとって可愛くあること、人間の信号に注意を向けて環境にではないことだからです。

だから人間は脳の社会的発達の仕方のために、実際には現実を見るのがかなり下手なんです。人工知能テクノロジーの一部はその社会性の側面を利用していると思います。自閉スペクトラムにいる人や、社会的手がかりをあまり拾わない人の認知アーキテクチャは、実際には物理的現実にもう少し近いんだと思います。

Leeも必ずしもスペクトラム上にいるわけではありませんが、いい例だと思います。彼の認知の仕方は、人間の社会的手がかりをあまり拾わないと思います。そして人間の言語と社会的認知を通じて私たちが構築する人工的なアーキテクチャの外側にある物理的世界を実際に理解するのがとても上手です。それは社会システムでの機能にはとても有用ですが、現実がどう機能しているかを教えてはくれません。

ちょっと脱線しましたが、あなたのポイントはとても深いものでした。

ボルツマン脳とショウジョウバエの脳、そしてそれが同じではないという見方とのつながりが見えてきました。それにLee Croninの面白いサウンドバイトもできましたね。

彼の社会的手がかりの見逃しは、他の面で報われているから大した問題じゃないですよ。友人だから大丈夫だと思いますけど。でも私が彼をとても尊敬している理由の一つは、彼がまさに自分自身であるということです。そういう人を本当に大切に思えますよね。

まさにそれは褒め言葉ですよ。本当に自分なりの世界を持っていて、自分が誰かを知っている人がいるって。

AIが人間に取って代わるという恐怖について

それでは、あなたはAIが人間に取って代わるということについて、いつも面白い見解をお持ちですよね。視聴者からもよく来ます。仕事はなくなるのか？ 生きがいはなくなるのか？ AIが私たちに取って代わるのか？ って。あなたがそれをカテゴリーエラーのように説明しているのを聞いたことがあります。十分に大きな視点で見ていない、と。細胞が多細胞生物を恐れるようなものだ、と。AIが人類にもたらすかもしれない混乱について、別の考え方を説明していただけますか。

短い時間スケールで言えば、ここ数百年の人間の文化的進化の中で、新しいテクノロジーを発明するたびに常に雇用の置き換えがありますが、人類にとってネットでマイナスになることはありません。新しいニッチが開かれ、私たちが存在すら知らなかった新しいことができるようになるからです。

一つ言えるのは、私たちの寿命は本当に短いので、世界がある特定の仕方で機能することに慣れてしまい、自分の一生の中でこれほど変化することが急激に感じられるということです。10年前と仕事が違う、20年前と違う、と。

でも、世界人口全体が約100年ごとに入れ替わるという事実を考え始めると、ちょっとクレイジーですよね。今日生きている人で100年前に生きていた人は一人もいません。その時点で生きていた人で、さらに100年前に生きていた人もいない。典型的な100年のタイムスケールで世界人口全体が入れ替わるんです。

だから私たちにはその種の経験の長寿がなく、こうした急激な変化がもっと普通のことだと気づけないんです。人間の進化の軌跡において、あるいは生物圏全体の数十億年のテンプレートにおいて。過去の地球の歴史には、その時代に生きていた種の一部にとっては非常に悪かったかもしれないけれど、生物圏全体の進化にとっては普遍的に悪くなかった大きな進化的転換がありました。

たとえば単細胞生物から多細胞生物が進化した時、多くのトレードオフがありました。単一の細胞はもはや自律性を持たず、多細胞の身体計画では体内のほぼ全ての細胞がもはや再生産できません。でも私たちの種は再生産します。生殖系列があって、それらの細胞は再生産できるから。異なるスケールで新しい協力の層が創発するんです。

もちろん私は自分がこのエンティティであることをとても嬉しく思いますが、この惑星上の全ての生物がいまだに単一の細胞を経ることは本当に衝撃的です。全ての多細胞生物がそのライフサイクルのある段階で単一の細胞であるということは、私たちのような構造を実際に生み出すために、進化の歴史のそこまで遡らなければならないということで、全くもってラディカルです。

つまり私は生命を何十億年という時間スケールで考える傾向があるんです。今生きている全ての人間が経験しているこの100年間は、その中の非常に非常に小さなスライスです。何十億年にわたる生命の大きな絵柄で、生命の目的や進歩は何かを考えようとすると――目的は科学で使いにくい言葉ですが、人間としてこうした問いについて内在的にそう感じるから使っています――この惑星は、時間の経過とともに生成してきた構造において、表れてきた新しさにおいて、開かれた可能性において、私たちが知る限り宇宙で最も創造的な惑星のように見えます。

だから私には、もちろん環境の多くが変化していて、人々が仕事を失ったり、チャットボットと話せることで実存的危機を経験したりしていますが、これから来るものの壮大な弧を考えると、これらのテクノロジーは多くのことを可能にしています。テクノロジーが過去に人間にしてきたことの軌跡を見れば、おそらく人間の生活をずっと良くするでしょう。

お互いとの相互作用の仕方、テクノロジーとの相互作用の仕方も変わります。でも過去に起きたことと根本的に異なるとは思いません。これが宇宙の歴史や人類の歴史やこの惑星の歴史でかつてなかったような大きなレベルシフトだと人々が思っていることが、私にはとても不思議です。突然人工知能がどこからともなく現れて全てを変える、終末がやってくる、と。そういうナラティブは新しくないんです。過去に新しいテクノロジーが出現した時、人々は伝統的にそれを恐れてきました。

LLMが非常にポピュラーになった時に知った私のお気に入りの例は、古代ギリシャで人々が読み書きを恐れていたことです。死者に話しかけられたくなかったから。写真が初めて普及した時、それが実際に魂を奪うと人々は恐れていました。画像に記録されるのは魂だと、魂泥棒デバイスだと。

私たちが心を環境に外在化し、環境で全ての新しいことができるようになる時、かつては内部の認知プロセスだったり人間のコミュニケーションにだけ関係していたりしたこと、物語は常に口伝えで、今は書かれた物語があるから2000年前の人を読めるわけです。間にいた全ての声を経ずに。こうしたことはトラウマ的です。実存的にトラウマ的です。でも人間の物語の一部であり、人間はこうしたテクノロジーを開発するのに独自の位置にあり、それが私たちの種に以前はできなかった素晴らしいことをもたらすんです。

だから私はグラスに半分水が入っている方だと思います。AIに知的に脅かされているとは感じません。物理学者を置き換えるとかいう話はあまりにも馬鹿げていると思います。ニュースでこういうの見ますか？ ああ、弦理論ができる、定理証明をした、全ての物理学者を置き換える、物理学者が最も賢い仕事だから、全ての知的作業は終わった、みたいな。こういうナラティブは正気の沙汰ではないと思います。明らかに物理学者が実際に何をしているかを知らないんです。

人間は信じられないほど適応力のある種であり、信じられないほど素晴らしい物理的構成です。自分が存在することにとても感謝しています。でも私たちが持つ可能性や、この惑星の残りの部分と統合する方法を制限したくありません。私たちは信じられないほど生きている惑星に住んでいて、私たちがより創造的になり、より多くのものを実際に構築するにつれて、ますます生きたものになっているんです。

意識の問題へのアプローチ

さて、分散した脳活動がどのように統一的な意識経験を作り出すのか、まだ理解していませんよね。もし生物学でそれを解明できたら、AIについて、そしてAIが同じものを持ちうるかどうかについて、何がわかると思いますか？

まあ、それが答えになりますよね。でも、アプローチの仕方が正しくないのではないかとも思うんです。意識を理解しようとする多くの研究は、基本的に人間の脳を分解して、意識的経験と呼んでいるものの神経相関を探しています。そして何かが意識的かどうかを理解する最良の方法は、今でも言語による報告です。LLMが議論に入ってきている理由の一つもそこにあります。もし何かが「自分は意識がある」と述べることができたら、それが意識的かどうかの最良の兆候でした。でもそれは良い科学的基準ではなく、この問いにアプローチし始めるためにできることに過ぎませんでした。

科学のプロセスについて理解するのが本当に難しいのは、パラダイムに長い間閉じ込められるということです。壁に頭をぶつけながら同じ問いを繰り返し、それを最良の方法で定式化するのに苦労する。意識は何十年もこうだったし、エイリアンの生命の問題も同じです。

意識のハードプロブレムと生命のハードプロブレムの間に多くの類似性を引きます。神経科学の分野の人々が意識の定式化で取り組んできたことと、宇宙生物学者が生命検出や生命の定式化で行おうとしてきたこと、問いを忘れてアプローチの種類と問いの立て方だけを見れば、ほぼ同一なんです。

通常は、説明したい現象があることを認識し、その現象の相関を見つけること、神経活動のパターンであれDNA分子であれ、それを現象のプロキシとして使います。

ディラン、あなたの問いの立て方は、脳の神経活動のパターンを理解すれば意識を理解でき、LLMがそれをやっているかわかるだろう、というものです。でも基本的にあなたがやっているのは、この物理システムからデータにラベルを付けたある種のパターンマッチングをして、それを意識と呼び、別のシステムに持っていって「このデータとマッチするか？」と聞いているんです。バイオシグネチャー科学でも同じことをします。地球にはこういう大気ガスがある。別の系外惑星で見つかったら、パターンが一致するから生命を検出したことになる。

でも十分に抽象化できていないのでは？ 十分に一般化できていないのでは？

まさにそれが私のポイントです。こうした問いへのアプローチは、研究している現象について推測や仮説を持つ必要があって、現象を使って現象を説明することはできません。意識を基本的なものとして想定して意識について問うことはできない。物理的宇宙のどんな性質が、意識のようなものが存在すると語ることを可能にするのかを言わなければなりません。

生命の問題にもこう取り組んできました。生命を前提にして生命を説明することはできません。人間のカテゴリーを忘れて、本当にただ物理世界の規則性を記述しようとして、その現象のセットに関連付けるものを記述するための第一原理アプローチは何か？ そしてそこから、関連すると思うケースに対してテストできる理論を構築できるか？ と。

これは反復的にやる必要があるので非常に難しいプロセスです。生命について最初に考え始めた時、生命に本当に関連すると思う10項目くらいのバケットリストがありました。たとえば、情報が因果的役割を果たすこと、状態と法則が分離していない力学系が必要だということ。宇宙の初期条件と固定された法則について話しましたが、それは人間のカテゴリーです。生命システムを語る時にはそれらが崩壊するんです。オープンエンドで、ルールが出現するシステムの種類に応じて常に変化しているから。

こうしたリストは概念的なマップに過ぎません。どの定義にも執着したくない。科学者の役割は、自分が何を話しているかわかっていないと前提して、現実に対してテストできる理論を構築することだからです。私が見すぎていると思うのは、あまりにも多くの前提を入れて、自分が事前に定義した通りの現象を探すことです。自然に現象が何かを教えてもらうのではなく。

意識についてはまさにこの状態です。意識は明らかにもっと難しい。私たちの世界の経験そのものだから。でも全員が経験を説明することに固執していて、あるエンティティが経験を持つかどうかの帰結が何であるかを説明しようとしていない。それが何を意味するのか。

私には自分なりの発展途上の意識理論があって、基本的にはアセンブリインデックスに関連した因果的深さと可能性空間についてのものですが、そのテスト可能な帰結もあります。ダニエル・デネットもこう書いていましたね。意識のハードプロブレムを問うのではなく、意識のハードクエスチョンを問うべきだと。経験的に扱いやすいのは何か？ 意識が本当の物理的なものだとしたら、その帰結は何か？ と。

今、多くの人は意識は物理的現実に影響を与えないと考えています。現実の内部にあるだけだと、私たちがそう経験するから。でもそれは正しいフレーミングだとは思いません。この問題について語る方法のオントロジーにはたくさんの問題があります。

問い方を変える必要性

これは本当に面白くて深い話ですね。だいぶ理解の助けになりました。AIについてもっと話すようになって、誰も意識が何かを知らないし、非常に異なるアイデアを持っている。あなたが言っているように、プロキシは何か？ 主観的な経験を測定できないけど、プロキシはあるのか？ それは何を意味するのか？

それはまさに私が言っていることですが、それが正しい問いかどうかすらわからないとも言っています。それが意識のハードプロブレムになったのは、科学では説明できないと全員が思った部分だからです。

でも、問うべきは、もし世界をただ観察していて、意識的なエンティティを選び出したいとしたら？ ということだと思うんです。それが実際に科学的な問いなんです。科学者としてはシステムの外側から科学を行わなければなりません。でも明らかに私たちはシステムの内側にいて、それが生命と意識が難しい理由の一つです。完全に外部の視点を取ることができないから。

でも今まで物理学はこの考えの上に構築されてきました。宇宙を外から観察して法則を記述できるという考え。科学のほとんど全てがそう構築されています。歴史的にそうせざるを得なかったから。

でも意識になると、「自分がそのシステムだ」となる。生命も「自分がそのシステムだ」と。それでも科学で行うことをやって、あたかも外側からいるかのようにこれらのシステムを客観的に研究することは可能だと思います。ただ、エンティティが記述されるシステムの中にいるということを考慮する理論が必要なんです。

アセンブリ理論でやっていることの最も難しい点の一つは、うまく伝えられていないと思いますが深く考えていることで、基本的にこれは宇宙を内側から記述することが可能だという物理学の理論なんです。理論の中に外部の法則はなく、全てが記述されるオブジェクトの内部にあります。

根本的な問題はしばしば、科学では正しい方法で問いを立てていないということです。この問題に合わないパラダイムがあるから。問いは、どんなパラダイムがこの問題に合うのか。答えが間違っているのではなく、問い自体が間違っているんです。

意識はまさにその空間にあります。正確に何を考えているか言語化することすらできない。私たちが持つ言語はあまりにも限られていて、今の考え方に囚われているから。私が本当に言っているのは、今の話し方はあるけれど、この特定の現象の本質について問うためには全く別の空間に行く必要があるということです。今の方法では機能していないし、スケールアップしてより良い計算能力を持つことでこの問題が解決されるとは思いません。神経マッピングからアルゴリズムへの移行でやることは、より良いアルゴリズムを作ることであって、意識の本質についてのより深い洞察を得ることではないでしょう。

「意図」という言葉について

ちょっと手短な答えでいいんですが、「意図」という言葉についてどう思いますか？ あまりにも多くの前提があって困りますか？ それとも宇宙がより高いアセンブリオブジェクトに向かって動いている時、それは意図だと感じますか？

まず断っておくと、全ての言葉が私を悩ませます。

ああ、私もちょっとそうです。わかります。

言葉は、私たちが伝えようとしている概念に対してあまりにも不正確です。人々は言葉が実際以上の意味を運んでいると思っています。だから人とコミュニケーションする時、特定の言葉を見るのではなく、伝えられている意味を実際に理解するためにパターン全体を見ようとしているんです。

そうすると人をイライラさせますか？ 僕がやると人をイライラさせるんですけど、同じ反応を受けます？

たぶんそうだと思います。たいていの場合、そこまで深く考えたことがないんですよね。「わからない、ずっとその言葉を使ってただけで、何を意味しているか本当にはよくわからない」みたいな。

ここにも関連しますが、なぜLLMがこんなにうまく機能するかという話です。言語の構造というのは、人間が物理世界のオブジェクトへのポインターとして使う連想の集合なんです。誰かとコミュニケーションしてそのパターンを理解する人との間で、心の中に共通の意味表象を構築する。子供の場合は物理的にオブジェクトを指さして意味を理解させる必要があります。

でも人間は言葉で抽象的な空間に入っていって、もはや指し示す物理的オブジェクトがなくなります。だから言語がより抽象的になるほど、二人の個人が実際にその概念の共有表象を持っていると言うのが難しくなるんです。

でも「意図」という言葉については、実は目的論的言語、つまり目標指向的や目的を持った言語を科学的言語として使うことに問題はありません。ただ、これらは宇宙の中で創発する性質であって、外部のデザイナーや知的エージェントが物理学の法則を定めて課したものではないということを断っておきたいんです。これらは進化のプロセスを通じて系統に沿って実際に創発する性質です。

何かに意図があると言う時、それが示しているのは進化と選択の歴史があって、その意図がそのシステムに組み込まれたということです。少なくとも過去の特定のパターンではなく、過去のパターンの問題の表象を繰り返せるように。たとえば私たちが過去に見たことのない新しいものへ一般化するのが得意なのは、過去に提示された問題空間の抽象的な表象があって、それを将来に適用できるからです。

だから私にとって意図は実際には過去の、そして過去の選択のシグネチャーなんです。未来志向の言語がたくさん使われますよね。このものが予測する、意図を持つ、目標を持つ、と。でも気づいていないのは、それらは実際にはそのオブジェクトの歴史についての言明だということです。なぜならそのお話している物理的構造は、それらの性質を持つように進化し選択されたからです。予測は過去が記録されて繰り返し可能であることについてです。未来はまだ起きていないので、未来について語っているのではありません。

厳格な「現在主義」

これはアセンブリ理論のもう一つのラディカリズムですが、私は厳格な現在主義者なんです。哲学的にも科学的にも。でも人として、これに対処するのは本当に難しい。ただ科学的プラットフォームとしては完全に同意しています。現在だけが存在するという考えです。

でも現在は「厚い」と思っています。因果的に深いオブジェクトがたくさんの蓄積された記憶を持っているから。過去の多くは現在の瞬間に深い因果構造として存在しています。でも未来はまだ作られていないので、生成されるまで存在がないんです。人は未来を予測していると思っていますが、やっているのは過去の繰り返しパターンを予測しているだけです。

いいですねえ。時々あなたの答えが大好きになります。最高です。

あまりにも色んな方向に行きたいところがあります。イリヤ・サツケヴァーが最近言っていましたが、大規模言語モデルに欠けているものの一つがまさにこの意図の概念で、人間の状態や感情と比較していました。時に感情が必要かもしれないと。恵まれない幼少期を過ごした人がもっと豊かになりたいと思うのは、何か目標があるわけではなく、ただこの状態に到達したいという方向に動く、と。

それからおっしゃっていた、意味に根ざした言葉があってそこからどんどん意味の層が重なっていって、ある時点でポインターから切り離されるということ。もう一つ面白かったのは、LLMには実際にはどんなベースリアリティとも接続がないということです。全部ただ言葉が互いに関連しているだけで、実際にリンゴを見たことがないんです。リンゴが他の全ての言葉とどう関係しているかだけ。

ええ、面白いですよね。ゴールデンゲートブリッジの有名な例があったでしょう。LLMがその表象を構築し始めて、システムの中にゴールデンゲートブリッジがあるニューロンを認識し始めた。でもこういうことの全てについて、システムには解釈があり実際に表象を持っています。でもコンピューターのハードウェア、シリコンチップの上を動き回る電子がゴールデンゲートブリッジを認識しているかどうかはわかりません。でも人間がそのシステムとインタラクションすれば、「これはゴールデンゲートブリッジだ」と言えるでしょう。それが問いの二面性のレベルです。

だからこうしたシステムを見る時、コンピューターの中のニューラルネットワークがどれほど深いかは考えません。人間の心がどれほど深いかを考えます。私たちの認知アーキテクチャは、抽象化と接続を構築する点で信じられないほど深い。人間の文化が構築した巨大なパターンである人間の言語を刻印し、小さな箱にエンコードするアルゴリズムを構築できるんです。

LLM以前の言語は全ての人間の心と全ての本に大規模に分散していて、今やこの動的なレジストリがあって人間の言語にアクセスしてそのレポートアウトが得られる。そのアーキテクチャは非常に深いから、その中にこういったものが見える。でも実際にはそれは自分自身の心を見ているんです。自分の心のパターンが今や環境のデバイスに物理的に格納されている。それの方がずっと驚くべきことだと思うし、もっと多くの人がそれについて話してほしいんです。人間とは何か、私たちが作るものが因果的にどれほどパワフルか。私たちは自分自身の心のアーキテクチャを、素晴らしい説明機械として、これらの抽象化を構築できるものとして、完全に過小評価しています。

生命を理解しようとしている「生命」

あなたは生命が何かについての理論を構築していますが、自分自身も生きていてそれをやっていますよね。その仕事はシュールに感じることはありますか？ 自分がやっていることそのものを説明しようとしているわけですから。

実は面白いんですよ。ラボの院生やポスドクに説明していたんですが、私はメソッドサイエンティストなんだ、と。メソッドアクターがいて役柄に入り込むように、私は仕事として何をしているかと、人としての自分を切り離すのが難しいんです。たぶん創造的であるプロセスに付随するものかもしれません。多くのアーティストが自分の作品に自分自身を込める必要があるように。

私は自分の仕事を、人々が伝統的に科学者を描写するような方法よりも、はるかに創造的な営みとして考えています。生命の物理学が何であるか、それをどう記述しようとしているかについて、とても身体化された経験を持っています。それをオフにするのが本当に難しい。子供と遊んでいる時がたぶん唯一「よし、もういいか」ってなる時間ですが、常に存在しています。

全ての観察をこれらのアイデアの形式化に落とし込もうとして、厳密にテストしようとしています。時々冗談で言うんですが、正気でいられる唯一の理由は自分が科学者だからだと。物事を実際にテストすることを物理的に強制しないといけないんです。自分のために自分だけの現実を構築するようなクレイジーなループに入ることができない。実際の世界で機能するものでなければならないから。

アセンブリ理論から生まれる新しい哲学

それに関連して、アセンブリ理論の視点から見て、人々を本当に驚かせるようなことはありますか？ 未来を少し予測するのに使えるものは？ 何か魅力的なことが浮かび上がっていますか？

科学理論ではありますが、最も面白いアイデアは理論から生まれる新しい哲学だと思います。哲学的でもあり経験的な概念でもあるのですが、時間が物質的な性質であるという考えです。

これはアセンブリインデックスが因果的深さを測定するというアイデアです。構築の歴史を測定しますが、それを環境のあらゆるオブジェクトの物理的性質だと考えると、私をバクテリアや分子やこのマイクロフォンと区別するものは、時間におけるオブジェクトとしてどれだけ深いかということであり、空間的オブジェクトとしての物理的寸法だけではないんです。

私を見ても、40億年の系譜の一部だとはわかりませんよね。53歳で、まあ物理的なサイズは見えますが、時間におけるサイズは見えません。だから全ての進化したオブジェクトは実際に因果的歴史を持っていて、それは物理的性質なんです。三次元の空間座標や、時計の座標時間と同じくらい物理的な可能性空間全体があります。座標時間は実際にはイベントの進行としての時間というよりも同時性についてのもので、相対性理論の全く別の議論ですけどね。

ちょっと待って、いいですね。もう少し掘り下げましょう。もちろん生物でも文化でもテクノロジーでも、何かがどれだけ複雑かには時間が関わっています。他に大きな要素はありますか？ 宇宙が長く存在するほど、より複雑なものが見えると期待するだけですか、それとも他に何かが駆動していますか？

全く別のことなんです。言語の使い方に注意しないといけないんですが、時間が物質的性質だと言っていて、本当にそう思っています。でも私が話している時間の感覚は因果的時間であって、必ずしも時計の時間ではありません。

理解すべき基本レベルとして、私たちが開発してきた全ての物理学理論には独自の時間の感覚があり、時間が理論に組み込まれる独自の方法があるということです。エネルギーが普遍的だけど異なる物理学で異なる形をとるのと同じように。ニュートンは時計の時間のアイデアを導入しました。宇宙は時間の中を動くけど時間は宇宙の性質ではない。そしてアインシュタインの革新は、時間は相対的で、異なる参照系で動いていればこの時計はあの時計と異なる時間を測定するということ。熱力学にはエントロピーの矢という別の時間概念があって、時間には方向性がありエントロピーの増大方向に動く、と。

私が話しているのは因果的時間です。つまりオブジェクトが存在に至る順序には物理的構造がある。それが可能性空間で意味していることです。祖父より先に生まれることはできない。存在には階層と順序があります。その階層がアセンブリインデックスとして深さを教えてくれ、そのオブジェクトを作るためにどれだけの可能性空間を横断しなければならなかったか、存在しうるものの構造の中でそのオブジェクトがどこに位置するかを教えてくれます。

そしてアセンブリ空間は理論の中で物理的空間なんです。私の体がxyz座標空間を動けるように、物理的オブジェクトはこのアセンブリ空間を動ける。このオブジェクトが存在するからこのオブジェクトを作れる、あるいは別の道に行ったからこのオブジェクトは不可能になる、という形で。

とても抽象的で、私たちの物理的経験に直接知覚できるものではありませんが、創造的な行為をして以前存在しなかったものを作ることがどういうことかは知っています。私たちの精神的アーキテクチャは、物理的空間の地図を持っているのと同じように、その空間の地図を持っています。そしてそれは物理的に同じくらい実在だと思います。

人類の歴史の大部分でこれが認識されていなかったと思いますが、時空の幾何学が曲がっていることも歴史の大部分で知られていませんでした。科学の歴史において物理的空間が存在し測定可能な性質を持つと提案することは大きな飛躍ではありません。でも全ての物理学を知っていると思っている現在の科学の立場からは、大きな飛躍に見えるんです。

水素原子は何も覚えていない

ありがとうございます。では一番下まで降りて、単一の水素分子の視点から見たら。最も単純なものですよね。ビッグバンから一つ取って、それから130億年ほど経って、様々な位置にいて様々な状態にあったけど、これは幾何学的なことで、それ自体はどんな方法でもより複雑になっていないし、その記憶も持っていませんよね。

どこにいたかの記憶はありません。異なる位置にいた歴史があったとは言えますが、オブジェクトからそれを回復することはできません。水素はそれをエンコードしていない。それを見るためにはもっと複雑なものが必要です。

だからこそ私たちのようなものが面白くなるんです。だからこそ私たちは単なる空間的に創発したパターンではないと思うんです。通常、生命について語る方法はそうですけどね。生命のパラドックスの一つは、生命は創発的な性質で、部分の特徴ではないということ。人々はそれを使って生命が基本的であり得ないと片付けます。粒子、分子、原子、素粒子が基本的で、全ての空間的複雑さを除去すれば基本的だと。

でも実際に除去したのは全ての記憶と時間なんです。私が言っているのは、記憶とその因果構造は空間と同じくらい物理的な空間だということです。そしてそれが私を定義する物理的空間です。原子が空間的配置のどこにあるかを見るだけでなく、時間の中で組み立てられてきた配置こそが生命と呼ばれるものになるんです。

その構造全体がまだ存在しているという事実、つまり私は40億年の歴史が5フィートのオブジェクトに圧縮されたもの。私を作るために宇宙が費やした因果的深さは膨大なんです。あなたと私がその水素原子の歴史について話せるのは、私たちが十分な記録された歴史を持っていて、そういったことが世界について可能な言明であることを神経アーキテクチャにエンコードできているからです。でも水素にはそれについての知識がない。

つまり、個々のオブジェクトに実際に内在する情報は何か、対して私たちが情報の深さを持っているからオブジェクトに投影しているものは何か、について語る価値があるんです。これがAIや他のものについても私が主張しようとしている主な区別です。知る限り、私たちは宇宙が進化的因果時間の点で作り出した最も深い構造です。だから環境に見える全てのものは、脳と体の中にあるこの非常に深い神経アーキテクチャにエンコードされています。そしてその外側の宇宙を見ることができないのは驚くべきことです。

真に答えられない問いとは

生命や宇宙について、本当に答えられない問いは何だと思いますか？

ある意味で、未来が完全に予測可能になることは絶対にないということです。これは人々の考え方と非常に反対です。多くの人は十分に高い解像度と十分なデータがあれば未来を予測できると思っています。でも宇宙は本質的に創造的で、可能性を作り出すほど構造は深くなるけど、何が作り出されうるかの未来の地平線は常に過去の地平線より大きい。だから宇宙は自分自身の未来をエンコードできないんです。十分な計算能力やメモリがない。

エイリアンの生命についても、可能性空間が非常に大きいので、実際に遭遇するまでエイリアンの正確な実体を予測するのは非常に難しいと思います。生命が他の惑星で地球の生命のように見えるという考えがたくさんありますが、化学から新しい構造を進化させ始める時、それがどんな姿になりうるかの潜在的空間は非常に異なるので、他の惑星がうちと同じ進化の軌跡をたどることは予想していません。

この惑星に存在する多くのものは、この惑星にだけ存在し、ここにしか存在しないだろうと思います。これも人々の考え方のラディカルな再フレーミングです。私たちは自分たちが普通だと思いがちですから。物理学でも多元宇宙のどこかにあなたのコピーがいるとか言いますが、私はそれを信じません。あなたはここにしか存在しない。これが全てです。

でも面白いことに、歴史的に人々は宇宙がサイズ的にも時間的にもとても小さいと思っていました。歴史家のトマス・モイナハンが人々が空間の深さ、時間の深さ、可能性の深さをどう考えてきたかの歴史について書いていますが、数百年前でさえ、誰だったか忘れましたが、文字通り机で「数百年後に私は同じ机で再びこれを書いているだろう」と書いていた人がいたんです。宇宙の歴史が時間的に非常に浅いと思っていて、空間的配置がそんなに短い時間スケールで繰り返すだろうと考えていたから。

人類が今持っている記録された歴史があるからこそ、宇宙が実際にどれほど巨大かを想像することさえできるんです。より多くの歴史を記録するにつれて、可能性という点で宇宙が実際にどれほど大きくなりうるかの、ますます大きなグリンプスを見ているんです。

これは人間の進化の最大のショックの一つであり、LLMがその種の空間における最新の実存的トラウマである理由でもあると思います。「あ、人間の言語って実はこの信じられないほど深い構造で、心の中と人と人の間にあったからどんな姿をしていたか見えなかったけど、今や大規模言語モデルでその構造が実際にどれほど大きいかの全ての余分な次元が見えている」と。

私たちの知覚はとても限られていて、40億年かけて惑星上で進化してきたものです。でも人間の精神アーキテクチャはそれを記録していて、社会もそれを記録していて、心の中にあるものを外在化しつつ世界をより多く見ている。このフィードバックプロセスは本当に素晴らしいです。

因果的時間と可能性空間の階段

質問をしますが、特定の言葉にこだわりがあるのは二人ともわかっているので、使う言葉が気に入らないかもしれませんが。

大丈夫です。怒りませんから。

この因果的時間のことをですね、段階やイベントの連鎖のように考えることができるかもしれない。ステップ1、2、3、4、5とあって、ステップ1がバクテリアで、ステップ5が人間。振り返ると、このプログレッションが見えます。時間とともにますます複雑になっていて、もちろんステップ10ではさらに複雑だと想定します。あなたは現実世界で実行して創造性のエンジンにリアルタイムで構築させなければステップ10が何かを予測するのは不可能だとおっしゃっている。その進歩を早送りすることはできない、と。

でも時間の経過とともに、ステップ10の時点でこれがテクノロジー的・生物学的複雑さの大体のレベルだ、と近似できる法則が出てくる可能性はありますか？

近い地平線については予測できると思います。可能性の空間の深いところにいる時、アセンブリ理論でアセンブリステップを取るたびに、組み合わせ的に爆発する空間で単一のオブジェクトを構築するステップを取っているんです。可能性の数は指数関数的に増加します。だからステップを取ると指数空間に踏み込んで、その空間から一つのものを実現するかもしれない。近い未来はある程度予測できますが、予測したいオブジェクトの種類がどれだけ先にあるかによって、予測能力は劇的に落ちます。

リソースの問題でもあります。もしより多くのリソースがあって、空間を構築する因果メカニズムを理解していれば――分子と惑星大気と鉱物についてはかなりうまく解明しましたが、これを一般的にやるのはかなり難しい――メカニズムを知っていても、将来の空間全体がどうなるかを予測するのに十分なリソースがない。大きすぎるから。

次のステップを予測できたとしても、そのステップの後に組み合わせ的に爆発する可能性空間があり、さらにその後にも。計算リソースが尽きるだけです。宇宙がそれにどう対処しているかというと、実際にメモリに格納して、選択されたものがあると、絶対に起きない大量のものを切り捨てるんです。ますます不可能になるから。

スチュアート・カウフマンの「隣接可能」という概念がありますね。生物圏に存在するものの周りにある可能性空間。大好きな概念です。でもアセンブリ理論では「隣接不可能」についても考えます。この空間の十分に深い道筋があると、戻って歴史の全てを復活させることはただ不可能になる。面白いのは、十分に深くなると、マンモスのようなオブジェクトを復活させ始められるということです。それを復元するための記録された記憶をエンコードできるほど深いから。

ライトコーンとの類似

それはライトコーンみたいな感じですか？ アセンブリインデックスが高いオブジェクトほど、ライトコーンがキャプチャまたは予測できる可能な状態が多い？

ええ、実際にライトコーンは素晴らしい類似です。因果的限界に基づいて構築されているから。相対性理論は因果的に平坦な理論だと思っていて、光子とその因果関係だけを気にしていて、存在が実際に層状になっているという残りの構造を見逃していると。実は相対論的アセンブリ理論について多くの研究をしています。これはたぶん私が考える中で最もクレイジーなことですが、本当に好きなんです。

このアナロジーが良い理由は、因果的空間だからです。この未来の地平線について考える時、基本的に「私はここにいる。ここから何が因果的に構築できるか？」と言っているんです。宇宙で観察するどんな配置にも、それに局所的に存在する可能性空間があって、そこから何が作れるか、その創造の過去の歴史は何かを教えてくれる。それがアセンブリ空間がエンコードしているものです。

でも正確に何が起こるか予測できるとは限りません。予測可能性の未来の地平線は、空間が大きくなりすぎるから落ちていきます。

それは進化で起きて残りうるものによって制限されますか？ おそらく能力の巨大な飛躍は見られないでしょう。通常は方向的な変化があって。収斂進化のように、タコとヒトの似たタンパク質や目のように、進化が取るより一般的な経路があるように見えるもの。

先ほどと同じ質問ですね。制約があれば同じシステムを再現するだろうと。目が生成されるのは、アーキテクチャに特定の物理的制約があり、進化の歴史に特定のテンプレートがあって、それが生成されるものだからです。光子受容体のような目を作る方法は限られている。それはシステムが進化する環境によって刻み込まれていて、環境には物理法則から他のどんな生物が存在するかまで全てが含まれます。

経路は限られうるけど、可能性の空間では全てが共同構築されなければなりません。環境が正しい記憶とテンプレートを持っていれば、その構造は存在できる。

なるほど。ありがとうございます。環境が違えば、完全に異なる経路ですね。

あなたの認知アーキテクチャの面白い特徴ですね。誰かが同じ質問を違う形で聞く時のパターンをいつも探しているんです。学生たちともやりますよ。素晴らしい博士課程の学生がたくさんいて、一見全く正反対の科学的問いに取り組んでいるように見えるんですが、掘り下げてみると、本当はただ一つのコアな問いを聞こうとしていて、自分でも気づいていないということが実に面白い。

あなたの認知アーキテクチャの面白い特徴ですね、ってウェスにも使おう。

悪口として使うんだろうな。

いやあ、人の脳の働き方にいつも興味があるんです。前に話していたことに戻りますが、人は何かを伝えるけど、その人が本当に伝えようとしていることのモデルを構築するためには、実際に何を意味しているのかを理解しなきゃいけない。パターンを見つけたいという認知アーキテクチャの欲求をシャットオフできないんです。そしてそのパターンのより統一的な抽象的表象を構築する。それが私のやり方なんです。

LLMと人間のコミュニケーション

面白いことに最近複数の人から聞いたんですが、LLMが特定のパーソナリティ障害やある特徴を持つ人とのコミュニケーションを助けてくれると。「相手はこう言ったけど、実際にはこういうことが起きている」って翻訳してくれるみたいな。

逆もありますよね。普通の人にどうコミュニケーションするかを理解するために使っている人をたくさん知っています。平均的な人はこれにどう反応するだろう？ 自分が意図した通りに人に伝えるにはどうすればいいか？ と。これには実は素晴らしいデバイスだと思います。人間の言語の大規模パターンに基づいているから。

以前はSNSをこの目的で使っていて、たぶんいつかまた戻りますが、今はSNSにちょっと疲れています。意図的に投稿をある特定の方法で書いて、全ての反応を読んでいました。SNSというプリズムを通して、一つのアイデアが他の人の心とどう相互作用するかを見るために。言語的にどう表現するかもとても注意深くやっていました。LLMはそれのもっと平坦な表象ですが、素早く推論を得るずっと速い方法です。情報量は少ないけど、同じような用途に使えます。

LLMとの感情的な体験はありましたか？ 詩とか、LLMが書いたものに本当に心を動かされて、いやこれは別の人間じゃないと思い出さなきゃいけないような？

いいえ。なぜなら私は言葉から意味を構築しないからです。それを伝えている心のモデルや社会システムのモデルから意味を構築します。LLMには、言葉が何を意味するかについてのいかなる概念も持つ基礎的なモデルがないと思います。だから人間の言語のプロキシとして、モデルが訓練された方法に基づく人間の言語の構造としてのみ使っています。LLMに対する感情モデルが私にはないんです。そこには何もないと思います。

アバターとの長期的な関係を考えている人たちについてはどう思いますか？

なぜそうする人がいるかは完全に理解できます。でも私が自分のアーキテクチャを世界との相互作用において訓練してきた方法のために、私はLLMがコミュニケーションする方法に敏感ではないんです。でも言語での感情的サポートを必要とする人や、言語的表象でフィードバックを求める人にとっては、それは完全にそのニーズを満たします。

ただ、私が人と相互作用する方法やコミュニケーションする方法ではないというだけです。私は科学をやっているし取り組んでいる科学のために、意図的にそれに対してもっと敏感になっています。文字通りキャリアの全てにおいて、人々が象徴的表象を表現する方法ではなく、その背後にある意味を見ようとしてきました。生命を記述する理論が何かを見つけ出すために。

もともとそういう傾向があったかもしれませんが、言葉の意味に本当に敏感だったことはありません。実はキャリアの初期にも出てきたことで、科学界の女性として特に敏感だったことはないんです。「あなたは厳しい理論物理学者で女性で」みたいに大げさに言う人がいましたけど、自分をそう思ったことはなかった。他の人が敏感に反応する社会的手がかりが、私にはただ完全に見えないんです。言葉で言われることが、ただ関係ないか、認知アーキテクチャに感情的にヒットしないんです。

でも人々にとって有用であることは理解できます。ただ注意が必要です。セラピストに注意が必要なのと同じように、感情的に依存するパートナーに注意が必要なのと同じように。他のどんなエンティティとも意味のある関係を持つためには、自分自身と自分自身との関係について十分確信を持たなければなりません。心配しているのは、共依存が生まれていて、それが自立や自分自身からの感情的サポートを構築する方向に向かっていないなら、それは悪いということです。LLMであれ他の人間であれ、包括的に悪い。辛い歴史のためにそういう関係を構築する感受性がある人がいるだけで、それはただ難しいことです。

エンターテインメントと創造性

じゃあ自由時間にはロマコメとか『バチェラー』とか『ラブアイランド』とか見てないんですか？

実はいくつかは見ますよ。最近テレビを見るのが難しくなってきたんですが理由はわかりません。好きなものもあります。『エミリー、パリへ行く』はファッションが好きだから好きです。でも『バチェラー』は見ません。Mr. Beastの大ファンです。

へえ、いいですね。

主に彼が知的に天才だと思うからです。動画のクリックベイト的価値ではなく、これほど多くの人を巻き込むものを生み出した創造的な人として彼について考えようとしています。娯楽を楽しむためには、複数のレベルで考える必要があるし、いつもそのものの背後にある心を知りたいんです。

会ったことはありますか？ そういう人脈がありそうな気がしますけど。

いいえ、まだ。でもいつかは。本当にクールだと思います。

理論の反証と科学的誠実さ

これは本当に素晴らしい会話です。もっと時間があればいいのに。科学の話だけじゃなく、人をどう知覚するか、言葉をどう知覚するかっていう個人的なことも魅力的で、おっしゃっていることの多くが本当に共鳴します。ディラン、何か質問は？

ええ、良い科学には物事を反証する方法がありますよね。アセンブリ理論が何か根本的な点で間違いだとわかるとしたら、どんな形で間違いだと証明されうるか？

ポパーについてはもう触れましたが、科学理論の反証可能性の基準の大ファンです。理論が正しいと証明できるとは思いません。でも間違いだと証明することはできます。個人的にはどんな理論も現実を理解するための恒久的な解決策ではないと思っています。もしアセンブリ理論が今受けている精査に耐えて、宇宙における生命と知性を理解するためのフレームワークになったとしても、いずれ他のものに置き換えられるでしょう。

なぜならすべてを説明する最終理論のような概念は20世紀的思考の産物であって、理論の構造やそれが人間の文化システムとして何をするかについての現実的な考え方ではないと思うからです。

それを踏まえた上で、アセンブリ理論には多くの経験的テストがあります。最も興味があるのは、アセンブリインデックスとコピー数――繰り返される高アセンブリオブジェクトがいくつあるか――における閾値の堅牢性です。非生命と生命の宇宙を分ける閾値として。

Leeのラボが数年前にNature Communicationsに発表した論文で、素晴らしい実験をしました。多数の生物と非生物のサンプルを取り、質量分析計の実験でサンプル中の分子のアセンブリインデックスを測定し、15以上の閾値を超えると生命システムによって生成された分子しか見つからないことを示しました。非生物的な、非生物学的なものはアセンブリインデックス15以上の分子を作れなかった。

この閾値は実際にはシステムサイズに依存します。Leeと私は最近哲学の論文を書いて宇宙論的な限界を導出しました。宇宙に生命がなかったら、見つけうる最高のアセンブリインデックスの分子は何かというと、おそらく40から60の間。モデルのパラメータ化によりますが、だいたい58くらい。でも理論を発展させてこの数を正確に特定できます。それ以上のもの、つまりどんなDNA分子やタンパク質もそれ以上ですが、宇宙の全リソースを使っても選択も進化もなしにはそのアセンブリのものは絶対に生成されないので、宇宙で見つかれば確実な生命の証拠です。

15から60くらいの範囲で予測ができるんです。隕石で期待される最高の複雑さ、鉱物で何が期待されるか、惑星大気にもアセンブリ理論を適用しています。惑星の知識を全く入れなくても、既知の全ての大気を持つ惑星とその特性をアセンブリ理論のフレームワークに入れると、地球の現代の生物圏だけが高いアセンブリと高い潜在的可能性空間を持っていることがわかります。

この閾値の推測をさまざまな物理システムでテストするもっと多くの方法を見たいんです。分子では個々の分子が進化のシグネチャーになりえます。惑星大気全体が進化のシグネチャーになりえます。鉱物はテクノロジーのシグネチャーになりえます。精密に設計されたシリコンチップは岩石と比べてアセンブリ理論がなぜより深く構築されたオブジェクトかを教えてくれます。大規模言語モデルを見ても同じです。

分子で開発された物理学の理論があり、確実に生命の証拠がある実験的にテスト可能な閾値があると言えるので、できるだけ多くのシステムでテストしたいんです。

短いバージョンで言えばよかったですね、詳細に入る前に。

いやいや、素晴らしかったですよ。

ノーベル賞について

この理論はかなり野心的で、もし今後10年ほど時の試練に耐えて十分なテストが行われても堅牢であれば、ノーベル賞の可能性はあると思いますか？

面白い質問ですね。正直、ラボで生命を作る実験をするのに十分な資金を集められたら、そっちの方が嬉しいです。10年でそれができたら幸せです。ノーベル賞はもらえたら素敵ですけど、でもそれは事後的なもので。それにノーベル賞で難しいのは、もらった人のキャリアがある意味殺されてしまうことです。全ての公開講演やイベントに呼ばれるようになって、ノーベル賞後に素晴らしい仕事をする人もいますが、多くはそうならない。

Leeと私がやっている仕事が常にそのキャリバーであることを目指していますが、それが目的ではないし、それが目的なら本当の科学をやっていないでしょう。

科学にはキャリアパスがあって、正しい箱にチェックを入れればアカデミーに入れたりノーベル賞をもらったりできる。でも二人とも世界がどう機能しているかに根本的に興味があって、他に問いがないんです。

聞いてくれてとても光栄ですが、何のためにやっているかをはっきりさせたいんです。やっていることは難しいし、膨大な精査と批判の下にあります。

今、ものすごく素晴らしい気分かと聞かれたら、そうでもないんですよ。新しいアイデアを科学で提案すると、科学は人間の文化の他の部分と同じで、人々には確証バイアスや信念の集合があって、それに挑戦すると、コミュニティは反応します。

今難しいのは、アセンブリ理論が概念的フレームワークとしても、理論的・経験的科学としても、標準的な文献にあるものとは大きく異なることです。多くの人がすぐに間違いだと決めつけて、科学を読みもしないし、理論の構造を見もしない。ただ誰かの批判的意見を伝聞で受け入れるだけ。アドホミネム攻撃やアセンブリ理論が「明らかに間違い」だという攻撃がたくさんあって、経験的データや理論の構造を見もしない。自分の世界観に合わないから間違いでなければならない、と。

直感的には、もしアセンブリインデックスとして考えることが地球外のバイオシグネチャーの確認方法になったら、一気に射程内に入りそうですよね。

ええ、系外惑星の大気アセンブリの研究に基づく観測プログラムがすぐにできることを望んでいますが、まだ最初の論文も出していません。観測段階にすらいなくて、理論的な仕事をしただけで非常に有望だと思います。

だから私の答えの一つとして、やっていることの一つはこの理論を可能な限り多くの方法で批判的にテストしているということなんです。私はアセンブリ理論に取り組んでいて何かお立ち台に立っているんじゃありません。私のキャリア全体を通じてやってきたことは、生命が何かを理解したいということ。ポスドクとして、院生としても、生命の起源を解決するための理論物理学を構築したいというのが私のキャリア目標で、アセンブリ理論はその欲求と、それが私の唯一のキャリア目標であるという事実から生まれました。

Leeは私と同じくらいクレイジーで、以前に教わったことや考えていたことよりも問題の方を大事にする唯一の人でした。アセンブリ理論は私にとって現在のインカネーションで、これまで生命について思ったこと全てのアイデアを構築しています。素晴らしい同僚のセットもいます。背後には多くの厳密な知的作業があります。でも間違いが証明されたら、次に進みます。

今多くの時間を投資しているのは非常に有望だと思うから。有望な理論にふさわしい精査を受けるべきだと思います。でも新しい数学的形式主義、理論的インフラ、新しい実験データの問い方など、開発しなければならないことが山ほどあります。動く部品が多すぎて。10年で主張していることを証明できればいいですが、研究は常にアイデアより遅いので、長い道のりです。

生命の起源シミュレーション実験

本当に興味深い話ですし、かなり最近の理論ですよね。最近聞いたんですが、GoogleのBlaise Agüera y Arcasとのインタビューがあって、ご存知ですか？

ええ、会ったことがあります。

BFFの実験には目を見開きました。あなたが話していることと本当につながっていて。

ああいう実験は好きです。同僚のマイケル・ラックマンが20年くらい前にコードを書いていて、Blazeのチームが今やっているスケールではできませんでしたが、マイケルは自己複製プログラムが創発するものを持っていました。こうしたことは以前から知られていて、Blazeの実験は本当にクールだと思います。

でも問題は、アルゴリズムにはすでに非常に多くの歴史的な進化情報が入っていることです。生命の起源への良い窓とは見ていますが、本当に話しているのは情報ゼロの状態から記憶と自己構築の因果能力を持つ系統が出現することです。アルゴリズムは人間によって作られ、設計が必要なコンピューターアーキテクチャに埋め込まれているので、すでに非常に深い進化的オブジェクトです。そのようなシミュレーションで生命の起源について考えるのは難しいんです。

ただ一つ付け加えると、生命の起源は連続的なプロセスだとも思います。新しい基質でも起きうる。だからBlazeのやっていることは確かに洞察を与えてくれますが、進化的な足場を理解した上で新しい空間を開くと、その新しい空間で生命の起源が再び起きるのが見える、ということです。

超知能とは何か

複雑さについて考える時、人間の脳と超知能を比べたら、どちらの方がアセンブリインデックスが高い・低いでしょうか？

超知能が何かすらわかりません。人々がこの言葉を投げ回しますが、文字通り私には定義がない。何なのか。人間より知的？ どのスケールで？ 超知能について推測する前に、知能が何であるかについて第一原理的な問いを立てたいです。

デイヴィッド・ドイチュのAGIに対する見方が好きです。万能計算の理論を発明した時点で、人間はどんな計算操作でもできるわけです。だからこれらの超知能ができることは何でも私たちにもできる。ただ時間スケールの問題です。LLMはいくつかの推論タスクが超速くできて、私たちはいくつかでLLMよりずっと速い。情報へのアクセスの問題です。

知能、超知能、万能計算という抽象的なアイデアを実際の物理システムに埋め込むと、何かしらの制約が生じます。今議論されている超知能やAGIのアイデアは、物理的宇宙が存在しないかのように、任意の物理システムの知能に上限がないかのように議論されていて、それは現実的な可能性ではないと思います。

素晴らしい。本当にありがとうございました。あなたが私たちに理解できるように説明できるなら、きっと皆さんも理解できるでしょう。

理解できてるといいんですが。自分が言っていることを理解しているか確信がないんです。

なぜか直感的に正しく感じることが多いんですよ。

ええ、わかります。私の考え方のほとんどは直感に基づいています。直感は過小評価されていると思います。

言葉の下にある意味

あなたの話を聞いていると、北極星のような感覚を得ます。ポッドキャストで聞いたことを一度も繰り返せないけど、何か学んだ気がして世界が違って見えるんです。

実は面白いのは、言語への私の認知は、明らかに他の人と話して彼らが私の考えとどう相互作用するかを理解することから来ています。でも面白いのは、人が使う言葉の下にある意味を読もうとしている、それが私がコミュニケーションしようとする方法でもあるということ。他の人の心でそれがどう見えるか本当にはわかりませんが、心の中に非常に感情的で直感的な特定の表象があって、人間の言語にエンコードするのが簡単ではない。だからそれを直接伝えようとするんですが、言葉を使わなきゃいけなくて、どうやってそれらの層を構築しているかもわかりません。

私もそれでかなり苦労していて、多くの人はそれについて考えてすらいないと思います。ある意味、違う言語を話しているようなもの。

そしてね、書かれた言語は話された言語と根本的に異なる言語だと思います。でも同じ言葉と同じ象徴的表象を使うから同じだと思ってしまう。テキストメッセージを受け取ると、全部怒って聞こえるんです。でも実際にその人と話すと全然怒ってない。声のモジュレーションの感情的入力がないからテキストメッセージは本当に難しい。

ええ、テキストとメールは世界を遅くしたような気がします。私にも辛いです。

でもいいことですよ。そしてあなたのおかげで私は現在主義者になりました。未来に来ると思っていたもの全てが、ただ過去からのパターンの投影だと今は見えます。

でも本当の新しさもありますからね。それもワクワクすることです。

こんなに長くお付き合いいただき本当にありがとうございました。また次のエピソードでお会いしましょう。