Stephen Wolframは、宇宙が本質的に計算的なシステムであり、その基盤は離散的なハイパーグラフによって構成されているという革新的な理論を展開している。彼の研究は、単純なルールから複雑な振る舞いが生まれる「計算的還元不可能性」という概念を中心に据え、物理学の基礎法則、量子力学、一般相対性理論がすべて観測者の特性から導出可能であることを示唆する。さらに、機械学習と生物進化の類似性、ニューラルネットワークと計算システムの本質的な違い、そして「ルーリアド」と呼ばれる全ての可能な計算プロセスの集合体が、なぜ「無」ではなく「何か」が存在するのかという哲学的問いにまで答えを与える可能性を探求している。
計算的宇宙の発見 40年間のAIの夢
私は40年間AIの夢を生きてきました。私たちは宇宙が根底まで計算的であることをかなり確信しています。計算を真剣に受け止めるべきです。なぜなら、それが宇宙が実際に構築されている方法だからです。
ニューラルネットワークは広範だが浅い種類のことが得意なものです。計算システムは深いが、おそらくより広範ではない種類のことが得意です。
歴史には多くの糸があります。重要なのは、これらの歴史の糸が分岐し、そして融合することです。私たちは限られています。有限の心を持っています。限られた量の計算しか理解できない有限の脳を持っています。
最近のインタビューの一つで、あなたが非常に興味深いアイデアを提示されていたので、そこから始めたいと思います。ニューラルネットワークを取り上げて、ディープラーニングで何か複雑なものを学習するまでそれらを叩き続けることができるという、かなり最近の発見のような非常に興味深い種類のものだとおっしゃっていました。そしてそれを生物学と進化の仕組みに結びつけていらっしゃいました。そこから始めましょうか。多くのことが結びついていると思うので。
1980年代の初めに初めてニューラルネットワークで遊び始めました。何も興味深いことをさせることができませんでした。ほぼ同じ時期に、生物学的進化がどのようにして、私たちを含む驚くべきものすべてを生み出すことができるのかということに興味を持ちました。
もしシステムが動作できる単純なルールがあって、それらのルールを変異させ続けたら、生物学で見られるような本当に興味深いことをさせることができるだろうかという疑問がありました。当時はそれをうまく機能させることができませんでした。
そして数十年早送りして2011年、2012年、人々はニューラルネットで十分に強く叩けば、十分なトレーニングを与えれば、画像認識のようなことを学習することを発見しました。これが機能するとは誰にも明らかではありませんでした。ある意味で驚くべき科学的発見、科学的ブレークスルーでした。
それで数年前、私は再び生物学の問題について考え始めました。これらの非常に単純な計算システムを取り上げたらどうなるだろうかと思いました。私はこれらのセルオートマトンシステムを扱っているのですが、これは単に細胞の行で、前のステップの細胞の色に基づいて細胞の色を決定する単純なルールを持っています。
これらのもののルールを変異させることができるだろうか、そして生物学的に有用なことをする方法を学習するのに成功するまで十分に強く叩くことができるだろうかと考えました。答えはイエスでした。
計算的還元不可能性の本質
ルールを変異させていることがわかります。例えば、できるだけ長く生きる少し理想化された生物にしようとしています。どうやってそれをするのかという質問です。答えは、たまたま長時間生きる信じられないほど精巧なパターンを作るということです。
それが機能するメカニズムを説明できるかと言われたら、実際にはできません。ただこの非常に複雑なことをして、たまたま長時間生きることに成功するのです。そしてこれが生物学で見られることの多くだと思います。
生物学の教科書などを見ると、私たちがどのように機能するか、または一般的に生物学的システムがどのように機能するかについての信じられないほどの詳細でいっぱいです。私たちは、たまたま機能する本質的に計算的なプロセスの同じ現象の反映を見ているのです。
そしてこれが生物学が捉え、過去数十億年にわたって利用してきたものです。これはシステムによって異なりますが、数十億年かそこらです。そして機械学習でも同じ種類のことだと思います。
ニューラルネットをトレーニングしているとき、何が起こっているかというと、この種の基礎的な計算能力を利用しているのです。私たちが望むことを達成するために、この種の基礎的な計算能力を得る方法があることを発見しているのです。
ニューラルネットをトレーニングするとき、生物学が自然選択を行っているとき、何をしているのかと想像するかもしれません。システムにそれを実行させるための理解可能なメカニズムを発見するだろうと。しかし、私はそれが起こっていることだとは思いません。
代わりに、起こっていることは、可能なシステムの計算的宇宙を検索して、たまたま機能するものを見つけているということだと思います。そしてたまたま機能するシステムのほとんどは、非常に装飾的で、複雑で、説明できない方法でそれを行います。
これが生物学と機械学習の両方で見られることです。機械学習について、どのように機能するのかと言われたら、そのニューラルネットがどのようにして猫と犬を認識することができたのか、答えは本当に良い物語的な答えはありません。
科学の観点からは非常に不満足です。なぜなら、科学は世界のある側面がどのように機能するかについて、人間が理解できる物語を作る種類のものである傾向があるからです。ただ機能するというのは、かなり不満足な結論です。
しかしそれは、起こっていることなのです。このニューロンがそのニューロンに影響を与え、最終的に答えが猫だと言うというように、機械的に物語を語ることができるようなものではありません。
単純なルールから複雑さへ
そしてこのすべての根底にある現象は、私が計算的還元不可能性と呼ぶもので、今から42年前にそれが存在することに気づきました。驚くべきことです。
その発見に至ったのは次のようなことでした。極めて単純なプログラムが典型的に何をするのかに興味を持ちました。プログラムについて考えるとき、通常は特定の目的のために何らかのプログラムを書くことを考えます。それは理解可能な工学的な方法で何かをします。
しかし私は基礎科学の質問に興味を持ちました。信じられないほど単純なルールのセットで定義された何らかのプログラムを想像するとします。白と黒のセルの列があるとしましょう。ページの下の次のセルは、その上のセルの色に関して固定されたルールによって決定されると言います。
そのルールを実行し続けるとしましょう。非常に単純なルールだから、非常に単純なことしかできないと言うかもしれません。それが私が考えたことでした。1980年代の初めに、実際に実験をしてみよう、コンピューター実験をして、実際に何が起こるか見てみようと決めました。
結果は信じられないほど驚くべきものでした。実際に見たものを理解するのに数年かかりました。それは、ルールが本当に単純であっても、得られる振る舞いは本当に複雑になり得るということでした。
これは計算的宇宙の基本的な事実です。これは工学がどのように機能するかについての私たちの通常の直感とは非常に異なります。私たちは通常、何か複雑なものを作りたい場合、多くの努力をして、その複雑なものを作るための非常に複雑な計画を持たなければならないと考える傾向があります。
しかし可能なプログラムの計算的宇宙で起こることは、単純なプログラムの計算的宇宙の外に、自然に非常に複雑なことをするものがたくさんあるということです。
その結果の一つは、プログラムを見たら、それが何をするか予測できるかということです。そしてあなたが理解するのは、それを行うのは還元不可能に難しいということです。
はい、プログラムをステップバイステップで実行して何が起こるか見ることができますが、一般的には先に進んで、プログラムを考えて、結果が何になるかわかると言うことは期待できません。
何が起こるかを知る唯一の方法は、基本的に各ステップに従って何が起こるか見ることだという現象、それが科学について考える多くの種類の方法、科学についての結論、技術などについての結論の基盤である本当に重要な現象であることがわかると思います。
これは、ニューラルネットがどのように機能するかを理解できるかという制限として見られるものであり、また強みでもあります。還元不可能な計算がある場合、その計算はある意味で何かを達成しているという意味で。
計算に何が入るかを見て、答えに飛べると言えるような場合なら、何が起こるかを見るために計算をする必要はありません。この種の還元不可能な計算の努力が進行しているという事実です。それが、生物学と機械学習の両方で私たちが行っている種類のことを行うために活用しているものです。
私たちはこれらの還元不可能な計算の塊を、私たちが持っている目的に有用であることがわかる方法で組み合わせているのです。
計算的宇宙の探索
これは、短い質問に見えたものに対する非常に長い答えでした。
いいえ、これは完璧で、私たちがこれから掘り下げていくすべてのことへの素晴らしい導入だと思います。
計算的還元不可能性について、私はそれを最初から映画を見て何が起こるかを見なければならないようなものだと考えます。何かのモデルで何が起こるかを予測することはできません。だから実行しなければなりません。
しかし、これらの複雑な学習がニューラルネットワークを叩くことからどのように起こるか、適応度関数が進化からどのように形成されるか、そしてあなたがキャリアの初めに発見したすべてのことについて話していたことは、常に物理学や現実、または自然がどのように機能するかの創発的な性質のように見えます。それは公正ですか。同意しますか。
それは自然の特徴ではありません。抽象的なものです。これらのプログラムは何かではありません。それらが自然界に関連しているという事実は、自明ではない独立した科学的事実です。
この抽象的なプログラムを設定すると、この種のことをするだろうという考え、それは自然の特徴ではありません。それは抽象的な世界の特徴です。
生物学と機械学習の両方について話すときに理解すべきことは、私たちはこれらの還元不可能性の塊を求めて計算的宇宙を採掘しているということだと思います。そして私たちに有用なものを作るとき、これらの還元不可能性のブロックを組み合わせることによってそれを行っているのです。
解決しようとしている問題があるとします。壁を建てようとしていて、機械学習の方法論や生物学の方法論でそれをしようとしているとしましょう。壁を建てる一つの方法は、レンガを作ると言うことです。この非常に工学的なことをします。この非常に組織化された方法でレンガを組織化して、何が起こっているか理解できるようにします。壁を建て上げます。
しかし代替案は、周りを見回して転がっている岩の束を見つけることです。岩はすべて奇妙な形をしています。しかし私はそれらの岩を組み合わせて、壁を建てるという達成したい目的を達成できることを発見します。
それが生物学と機械学習の両方で起こっていることだと思います。私たちがやりたいことをするために、たまたま組み合わさるこれらの還元不可能性の塊を利用しているのです。
もし私たちが望んでいたことが信じられないほど洗練され、正確なものだったら、おそらくそれを行うことはできなかったでしょう。生物進化では、すべての生物が生まれるとすぐに何らかの精巧な数学的問題を解き、これやあれやその他のことをできなければならないとしたら、生物は生き残るためにそれをしなければならないなら生き残れません。
生物学で生き残るために必要な適応度は、はるかに曖昧なものだという事実です。同様に、機械学習では、機械学習システムに猫対犬についての数学的なことを正確に定義させようとしているかどうかという問題です。それを学習させることはできないでしょう。
しかしそれは、実際に学習しようとしている区別が、猫の写真対犬の写真という人間のような曖昧な区別だということです。そしてそれは、これらの計算的還元不可能性の塊が十分に強く、それを達成するような方法でそれらを組み合わせることができるようなものです。
これは機械学習システムで今見ているものです。人々は、これらの正確な計算ができるかと言います。答えはいいえ、実際にはできません。それは、多くの人間の目的に有用なこれらのことを行うのが得意で、これらの還元不可能な計算の塊を組み合わせて、エッセイを書くとかそういった私たちに有用なことをするために組み立てています。
しかし私たちが、正確に作られたレンガの高い塔のような非常に正確なものを作ると言うとき、それは機械学習や生物学で得ているような種類のものではありません。
物理世界と数学世界の橋渡し
これらの概念がどのように物理世界から数学世界につながるかを理解する手助けをしていただけますか。
私にとって、Conwayのライフゲームのようなものを想像できます。単純なルールが複雑なものに変わるのが見えます。ベクトルの次元性に基づいてブラックボックスのようになるエージェントも想像できます。
しかし化学で、現実の世界で、おそらく生物学まで構築され、潜在的には意識にまで至るこの種のパターンも見ることができます。しかし二つのギャップを橋渡しするのは難しく、量子という言葉が出てくるようです。しかし、数学と現実世界の違いについてどのように考えているか教えていただけますか。
たくさんの異なる概念を持ち出しましたね。
どのように数学から現実世界へ?
混乱を避けるために見てみましょう。Conwayのライフゲームのこと、二次元セルオートマトン、人々はよく単純なルールが複雑なことをするかなり良い例だと言います。しかしそこで人々が考えることのほとんどは、画面を横切って移動するグライダーを作る、この種の工学的達成であるこれを作るといった工学構造を構築することです。
それは私たちが話していることではありません。何かから工学的に理解可能なものを作ることができるという事実は、私たちが話していることの反対です。
私たちが話しているのは、計算が野生で何をするか、ただそれにさせているとき何をするかということです。それが自然界で見ているものです。自然界はそれがすることをして、多くの複雑なことをします。
技術のために自然界を活用しようとするとき、私たちはこの非常に複雑な方法で流れているランダムな流体を持とうとはしていません。パイプを通って反対側から水が出てくるようにしようとしています。
私たちに有用な何らかの単純な形を持つように制約しています。ビットなどに関して考えることができるものと、私たちの物理世界で起こることとの関係について、それは非常に興味深い質問で、深いウサギの穴です。私は人生のかなりの部分をそれについて考えることに費やしてきました。
そのウサギの穴に飛び込みましょう。物理世界をどのようにモデル化するかという最初の質問です。理解すべき最初のことは、科学が関わってきたことは、自然界で実際に起こることを取り上げて、何が起こっているかについての何らかの抽象化されたモデルを作ることです。
それによって人間として、物理法則があり、その物理法則を記述できると言えるようになります。自然界を見ると、それらの物理法則に従っているのです。科学は、私たちが世界がしていることを観察したものについての抽象化された記述を作ることです。
それから問題は、世界がどのように機能するかを理解するために、どのような種類の抽象化された記述が有用かということです。科学の伝統では、自然界の特定の特徴、惑星の特定の軌道などを捉えて、自然界がどのように機能するかのその部分をどのように理解するかと言ってきました。
私たちは、自然界がどのように機能するかの何らかの近似である、自然界の何らかの特定の特徴を引き出して、私たち人間が理解できる方法でそれを記述しようとする科学的モデルに行き着きました。
はるかに挑戦的な質問は、宇宙の究極のマシンコードとは何かということです。すべてを記述する何らかの方法はあるでしょうか。原則として、これがすべてがどのように機能するかだと言える何らかの方法はあるでしょうか。何かの一部の近似ではなく、すべての物語です。
それは私がかなり驚いたことですが、過去6年ほどで極めて大きな進歩を遂げたものです。その物語を語るために、古代から始まります。古代の大きな議論の一つ、科学的議論の一つは、宇宙は離散的か連続的か、原子のようなものでできているのか、水のような連続的な流れなのかということでした。
その質問は数千年間解決されませんでした。19世紀の終わりまでに、物質は離散的であることが発見されました。物質は離散的な原子と分子でできています。そして光も同じように考えることができることが明らかになりました。
20世紀初頭の大きな問題は、空間についてはどうかということでした。空間は連続的で、好きなところに物を置けるのでしょうか。それとも空間も離散的かもしれないのでしょうか。
20世紀の最初の数十年、ほとんどの物理学者はおそらく空間が離散的であることがわかるだろうと言っていたでしょう。彼らはそれを機能させることができませんでした。100年後、私たちはそれを機能させることができました。
宇宙の離散的構造
それが極めて重要な認識です。宇宙は何でできているのか。ある意味で、宇宙が作られているのは空間だと思います。それが宇宙にあるすべてで、この複雑な離散的空間の構造です。
離散的な点の束として考えることができます。そしてそれらの点について私たちが知っているすべては、それらが互いにどのように関連しているかということです。空間の原子の友人ネットワークとは何か、それが宇宙の根底にあるインフラストラクチャだと思います。
ある意味で、非常に抽象的な方法でそれを記述できます。それは関係を表すハイパーグラフで、空間の原子間の関係ですが、それが私たちが住んでいるものであり、私たちは空間の原子間のすべてのこれらの関係に対応するそのハイパーグラフの一部です。
私たちが埋め込まれた実体として、そのものの残りをどのように知覚するかから私たちの現実は来ています。それが近年私が理解してきた物理学の多くの物語です。
このウサギの穴には別の部分があります。最も深い点は、このハイパーグラフがあり、それが空間の構造を表しているということに関係しています。それは特定のルールに従って連続的に書き換えられています。その書き換えプロセスが時間の経過に対応します。
しかしそれから問題は、それらのルールは何か、それらのルールが何であるかをどのように知るかということです。私たちの宇宙のルールを別の宇宙と区別して何が決定するのでしょうか。
数年前に私が気づいたことは、これについて考える正しい方法は、すべての可能なルールが適用されているということです。これが私がルーリアドと呼ぶもので、すべての可能な計算プロセスのもつれた限界のようなものです。
それは大きくて複雑で非常に混沌としたものだと言います。はい、そうです。しかしそれについて興味深いのは、それはユニークなものだということです。計算の概念があれば、これはすべての可能な計算プロセスを表し、一つしかありません。
それはこれらすべての計算プロセスのカプセル化されたバージョンであるこのものです。それから問題は、そのものの中で、そのものの中に埋め込まれた観測者である私たちが、どのようにものを知覚するかということです。何が起こっているかをどのように知覚するのでしょうか。
それについて一体何を言える可能性があるのでしょうか。重要なのは、私たちが観測者としてのあり方について特定のことを知っているということです。
例えば、限られた量の計算しかできないことを知っています。宇宙の歴史で起こる還元不可能な計算を追跡することはできません。私たちは限られています。有限の心を持っています。限られた量の計算しか理解できない有限の脳を持っています。
また私たち自身について他のことも知っています。例えば、おそらく非常に驚くべきことの一つは、私たちが時間を通して持続していると信じているということです。これはあるレベルでは信じるのが狂ったことです。なぜなら、私たちは間違いなく毎瞬異なる空間の原子でできているからです。
しかし私たちは、時間を通して単一の経験の糸を持っているというこの信念を持っています。
大きな驚きの一つは、これらの二つの事実、私たちが計算的に制限されていることと、時間を通して持続していると信じていることを知っているだけです。これらの二つの事実だけで、ルーリアド内のものとして、これらの特性を持つ私たちのような観測者にとって、必然的に、私たちが知覚するルーリアドの側面が、物理学の核となる法則に対応するものに対応することを言える十分なものであるように見えます。
私たちのような観測者にとって、私たちが知覚する物理学の核となる法則が、それらがある方法であることを知覚することが不可避になります。私たちとは異なる観測者は、まったく異なる物理法則を知覚するでしょう。しかし私たちのような観測者にとって、私たちが知覚する物理法則がそうであることが不可避になります。
すべての物理法則を知っているわけではありません。物理学の三つの核となる柱の法則について言えると思います。おそらく説明するのが最も簡単なものの一つを説明できます。それは熱力学の第二法則です。
三つの大きなものは、統計力学の基礎である熱力学の第二法則、時空の構造の基礎である一般相対性理論、微視的なものがどのように機能するかを理解する基礎である量子力学です。
しかし熱力学の第二法則は何を言っているのでしょうか。それが言う大きなことは、箱の中にいる気体分子のようなものの束があって、かなり秩序だった方法でそれらを開始すると、その後すぐにそれらの気体分子はランダムな方法で振る舞っているように見え、何らかのランダムな構成で跳ね回っているということです。
そのランダム性により、平均を取ることができ、気体は圧力と温度だけでどのように振る舞うかを決定して、だいたいこのように振る舞うと言えるようになります。気体で何が起こるかを言えるために、すべての分子とそれがどこに行くかを追跡する必要はありません。
それで問題は、なぜ分子のこの種の微視的動力学がこの種のランダム化プロセスにつながると信じるのかということです。答えは、分子のこの種の微視的衝突が実質的に還元不可能な計算を行っているということだと思います。
分子の動力学は何らかの還元不可能な計算を行っていますが、それの観測者である私たちは、その還元不可能な計算のすべての詳細を追跡することができません。計算的に制限された実体である私たちは、ただそれは私たちにはランダムに見えると言わなければなりません。
その還元不可能な計算を解読することはできません。それが第二法則が機能する理由です。物事がよりランダムになる傾向がある、エントロピーが増加する傾向があると言う理由は、私たちがこの計算的に還元不可能なプロセスを見ている計算的に制限された実体だからです。
そして私たちが計算的に制限された実体であるため、この種のランダム化が起こっているのを見ていると結論づけることが不可避になります。もし私たちが計算的に制限された実体でなかったら、熱力学の第二法則を信じないでしょう。
ある意味で、これらすべてのことで私たちが言っているのは、抽象から宇宙が実際にある方法への注目すべきジャンプを作っているということです。何かが実際にどのようにあるかについて私たちは何を知っているのでしょうか。
私たちが最終的に知っているのは、私たちが内部的に知覚することだけです。私たちの何が起こっているかの内部経験です。それで問題は、この非常に抽象的なものから何が起こっているかの私たちの内部経験にどのように行くかということです。
空間の原子があり、そういったすべてのことがあると言えます。そしてその抽象的システムが何をしているかについて考えるなら、その内部知覚は私たちが持っていると知っている内部知覚であるだろうと言えます。
例えば、これは非常に哲学的になりますが、私たちが客観的現実を信じているという事実、何らかの確定した形を持つ外の世界があると私たちが考える理由は、私たちが内部的に知覚することだけを知っているにもかかわらず、ある種の客観的現実を信じているという事実は、非常に社会的な性格を持っていると思います。
外にいるこれらすべての他の人々を見て、彼らは私たちのようで、彼らの内部経験は私たちのようでなければならないと結論づけます。そして私たちは皆、その内部経験につながる外のどんなものについて同意しているように見えます。それが客観的現実について話すことが意味を持つ理由です。
もし宇宙に一つの心しかなかったら、客観的現実について話すことはそれほど意味を持たないと思います。そうしたら意味を持つすべては、その一つの心の知覚でしょう。
しかしこれは哲学的に興味深いことです。抽象から、私たちのような観測者によって知覚される現実への飛躍を作ることができると話すことさえ想像できるということです。
そして、宇宙のマシンコードがどのようなものか、その構造が何であるかの底に到達した可能性があるという概念、これらの非常に抽象的な種類のものだけを入れて、私たちが知覚する世界についての結論を得ることができると考えられることです。
それは本当に新しいことです。それは以前は科学で可能だったことがありません。物理法則を導出できると想像できるようなものを持つこと、物理法則が私たちが知っている種類の観測者であることを知っているから、そうであるはずだと言えること、それは宇宙がどのように機能するかの形而上学のある種の新しい哲学的ひねりです。
観測者の位置と宇宙の本質
計算的に制限されている私で申し訳ないのですが、少し単純化したいと思います。皆が同じページにいるように。あまりにも単純すぎたら申し訳ありません。
しかしここでの二つの大きな概念は、まず第一に私たちが誰であるか、観測者として私たちが宇宙のどこにいるかを理解すること、そして宇宙だけでなく現実全体の本質が何であるかを理解することだと感じます。
現実はルーリアドです。それはすべての宇宙とすべての法則、またはそのようなものです。それはすべてです。そして私たちは自分自身を、サンドイッチを貫くあのサンドイッチのつまようじのようなものとして考えることができます。
私たちはそのルーリアドのほんの小さなスライスに住んでいるだけです。私たちは一つの宇宙にいます。私たちは時間を通して持続していて、計算能力に制限されています。だから私たちは、すべてであるルーリアドのほんのいくつかの異なる層と相互作用する小さなつまようじのようなものです。
そしてそこから、知性は最も高次のものではありません。それはほとんど、そのつまようじがそれにとって価値があると認識されるものであり、どのように知識を圧縮できるかということです。それが科学のようなものです。
どのように宇宙を理解に圧縮するか、どうやって電気を得られるか、これをどうやって得られるか、あれをどうやって得られるか。
はい、それは正しいと思います。つまようじについて一点強調したいと思います。物理空間では、物理空間のこの一つの場所にいることに非常に慣れています。この宇宙の大きな中のこの一つの惑星に座っているなどです。
それは私たちが物理空間の一つの場所にいるということです。私たちはルーリアル空間の一つの場所にもいます。つまり、私たちが取ることができるルーリアドの多くの可能なスライスがありますが、私たちはそのうちの一つだけを取っています。
客観的現実の形成において重要なことの一つは、私たちが物理空間で非常に近くにいるのと同じように、物理宇宙全体の広大さと比較して、ルーリアル空間で非常に近くにいるということです。
だから私たちは皆、同じ惑星に座っているから、夜空がこのように見えることに同意します。もし私たちが銀河全体に分布していたら、いや、ここには北極星がない、またはそこにもないと言うでしょう。すべてが異なって見えます。
私たちが近くにいるから、主観的現実に同意するのです。
非常に興味深いです。それでフォローアップとして、それは私たちが何であり、何を観察しているか、そして私たちの観点からの知性のようなものです。大きな抽象と私たちが見ているもの、または私たちが見ているものの違いを理解するのに役立つと思います。
ルーリアドが何であるかを見ているなら、正しく理解していれば、宇宙が方向Aまたは方向Bのどちらかに行くことができるどの時点でも、両方が起こり、ある種の分裂があり、すべての合計のようなものがルーリアドだと言っています。もう少し詳しく説明していただけますか。
ええ、ここにはいくつかの異なることがあります。古典物理学の伝統的な見方は、世界で確定したことが起こるということです。石を投げるとそれは確定した軌道に従うという運動の法則があります。
100年前の量子力学の大きな驚きは、実際にはそれは正しくないということでした。代わりに、多くの可能な経路が辿られ、私たちはそれらの経路の集合の確率についてのことしか言えません。
それが、確定したことが起こるという考えが爆発した瞬間でした。私たちが基礎物理学を理解する上で気づいたことは、はい、歴史には多くの糸があるということです。重要なのは、これらの歴史の糸が分岐し、そして融合することです。
様々な技術的理由で、人々はこれらが融合できるという考えを本当に内面化していませんでした。彼らは分岐できるという考えを持っていて、それで混乱しました。
それを見るのはそれほど難しくありません。宇宙が離散的な場所であることに気づくとすぐに、歴史の異なる枝が正確に融合できることは驚くことではありません。
宇宙が連続的な場所で、各枝が正確な実数か何かであると信じるなら、二つの枝が重なる可能性はゼロです。しかし全体が離散的であることに気づくとすぐに、それらが重なる可能性は非常にゼロではありません。
重要なことは、はい、宇宙は分岐し融合していて、私たちの心は分岐し融合していて、宇宙で私たちが知覚するものは、この種の分岐融合する心が分岐融合する宇宙を知覚することの結果です。それがどのように機能するかの詳細、それが量子力学の物語です。
その種の質的な考えから実際の量子力学の法則の詳細にどのように従うかの数学的詳細のある部分を知っています。それがすべてどのように組み合わさるかの正確な方法を理解するのはまだ進行中の作業です。しかしそれが基本的な考えです。
私たちの存在について言えば、重要なことの一つは、私たちは実際にルーリアドと比較して非常に小さいということです。物理空間と比較しても非常に小さいです。
そして宇宙で、またはルーリアドで起こることについて一貫した見方を持っているという事実は、私たちの比較的小さいサイズに依存しています。言い換えれば、私たちがいるサイズで、確定したことが世界で起こっていると言うという事実です。
今日ここは晴れています。今日どこかで雪が降っています。しかしもし私たちが非常に大きかったら、これらすべての異なることが起こっているとだけ言うでしょう。世界で何が起こっているかについて一貫した声明を持つことはできません。
そしてルーリアドではそれのより極端なバージョンです。もし私たちがルーリアド全体に広がっていたら、すべてが起こっているとだけ言うでしょう。何が起こっているかについて確定したことは言えません。
確定した個別の存在を持っているという事実は、ルーリアド全体と比較して私たちが非常に小さいことの結果です。それは特徴です。
それは観測者の必要な特徴ではありません。それは私たちのような観測者の特徴で、すべての全体と比較して非常に小さいということです。そしてそれは、学ぶにつれて、物理空間に宇宙船を送り出して、物理空間のより大きな領域を埋めるのと同じように、学ぶにつれて徐々にルール空間で拡大しています。
ルーリアド全体を横切ることに関しては、私たちは微視的な段階にいます。もしルーリアド全体と同じくらい大きかったら、自分自身を非常に誇りに思うかもしれませんが、問題は、もはや一貫して存在しないということです。
個人という概念はありません。それが私たちだというようなことはありません。すべてではありません。特に私たちです。このような一貫した経験と存在を持つことはありません。私たちが私たちであるような観測者として非常に慣れている。
それはとてもワイルドです。なぜなら私たちは周りの宇宙に戻って混ざってしまうだけだからです。グラフ理論について尋ねてもいいですか。グラフ、ノード、エッジ、原子とその周りのものとの関係、ノードとその関係について考えることです。
それは今あなたが知っている宇宙の基本構造を記述するための最良の言語ですか。それともグラフは宇宙についてあなたの研究で何を理解し、何を理解しないのに役立ちますか。
ルーリアドには無限の数の異なる表現があります。宇宙が実際にどのようであるかと、私たちが心で理解できることの間を橋渡しする科学のモデルを作るための問題は、何が起こっているかを記述するための言語を作るという挑戦です。
私の日常の仕事の人生は、人間が気にかける世界の側面を正確に対応できる方法で表現する計算言語、Wolfram言語を作ることにすべて関わってきました。それを正確な方法で形式化できます。
しかし宇宙のモデルなどに関しては、無限の数の可能な異なる表現があります。人間の心にとって良い人間工学的な一致であるものを選ばなければなりません。
少なくとも私にとって、グラフのこの考えは良いものです。それは唯一のものではありません。高次カテゴリー理論について話し始めることができます。人々が作ったあらゆる種類の数学的構成について話し始めることができます。
それらは最終的には等価に見えます。しかし理解しやすいのは、宇宙は離散的なもので作られているということです。それらの離散的なものはグラフのノードのようなものです。そしてそれらの離散的なものについて言えることは、それらが互いにどのように関連しているかということです。
グラフでは、ノードを他のノードにどのように接続するかです。ハイパーグラフは少し一般的で、形式的な方法で扱うのが少し便利です。ハイパーグラフでは、ノードの代わりに、一つのノードを一つの他のノードに接続するエッジの代わりに、ハイパーグラフでは任意の数のノード間の関係を持つことができます。
それがハイパーエッジです。それは宇宙のデータ構造について考える便利な方法です。唯一の可能な方法ではありませんが、便利な方法です。正直なところ、進化するグラフで何が起こっているかを理解するだけでも十分難しいです。
しかし人間の心が物事について考える方法に最も一致するものだと思います。あらゆる種類の非常に抽象的な数学的構成で考えることができるものと等価ですが。
1990年代初頭に時空の基礎構造としてのグラフについて考え始めたとき、人々がバーチャルリアリティについて最初に話していたときに戻ります。この種の巨大なクモの巣のようなバーチャルリアリティ環境にいて、それを通り抜けて何が起こっているかを理解しようとするというビジョンを持っていました。
この種のグラフのものを私の心に収めようとしていました。最終的に2020年に物理学プロジェクトで大きな進歩を遂げたとき、VRは大きく進歩していて、ついにVRでこれらのハイパーグラフを実際に体験することができました。私には完全に理解不能でした。
それだけでなく、約15秒でひどい乗り物酔いにもなりました。
しかし、計算について話すときの観点から、それは使うべき数学的構造です。例えば、今私たちが持っている一つの大きなプロジェクトは、インフォジオメトリと呼ぶものを構築することです。
ユークリッド以来実践されてきた通常の幾何学は、空間のどこにでも配置できるこれらの点があるという考えを持っています。そして最終的に、幾何学で話すどんな空間も、微視的に、微視的に、微視的に十分に見ると、ユークリッドが話したような種類の空間のようで、好きなところに点を配置するだけです。
私たちがしていることではそうではありません。空間の非常に微視的なバージョンは、離散的な要素などを持つこのハイパーグラフです。
問題は、それに基づいた幾何学を構築できるかということです。答えはイエスですが、誰もそれをしていません。微視的なバージョンがハイパーグラフであるこのものに幾何学の概念を一般化する方法について多くの問題があります。私たちは今それを構築しているところです。
かなり興味深いことです。例を挙げましょう。問題は、私たちが経験できる種類の空間は、典型的な空間の3のような整数の次元数を持っているという考えに慣れているということです。
これらの種類のハイパーグラフなどから生じる空間は、整数の次元数を持つ理由はありません。実際に次元を持っています。
次元は、宇宙を通して、物理空間を通して、時間を通して実際に変化できる動的パラメータになります。空間が本当に三次元ではないと言えるようなものになります。ある場所では3.01次元です。
それから空間の曲率がどのように機能するかについてのあらゆる種類の質問があります。それは一般相対性理論と重力が機能する方法に非常に不可欠です。3.01次元空間で曲率がどのように機能するかについて考えることは、基本的に数学に関する限り完全に未開拓の領域です。
それは私たちが構築しなければならないものです。それはある意味で、これらのようなモデルで物事がどのように機能するかを理解できるようにするために構築されなければならない重い持ち上げの抽象技術の一部です。
量子力学と相対性理論の統合
以前あなたは量子力学と相対性理論について言及されました。両方とも、あなたのすべての理論の中に非常に自然に、非常に簡単に収まるように見えます。
例えば、正しく理解していれば、量子もつれのような遠隔作用のような、奇妙だと認識したもの、物事がそのように機能するはずではないというもの。
しかしルーリアドのこの考えでは、二つの宇宙が分裂すると、それらの間に何らかのつながりがあるかもしれません。それが私たちが話している量子的なものかもしれません。
相対性理論と同じで、重力は空間が曲がっている方法にすぎません。それらのものが少し触れられますか。あなたが話していることの中でそれらがどのように統合されるかということです。
興味深いことに、あなたは多くのことを尋ねています。最終的に一般相対性理論のようなものは非常に数学的に定義された理論です。アインシュタイン方程式です。それは数学的なものです。
私がここでしているのは、最終的にこの非常に形式的な構造に基づく質的な絵を記述しています。しかしはい、例えば一般相対性理論の多くの現象について、これらのモデルで質的レベルで話すことができ、何が起こっているかのある考えを得ることができます。
見てみましょう。複雑になるのはかなり早いですが、重力について話しましょう。
もしこれが私たちの観客が見るべきことに向かっていないと思うなら、教えてください。全体像を見ていないだけかもしれないので、間違った道を取っているかもしれません。
これは挑戦です。わかりました。いいですね。しかし私が何らかの質的な記述を与えようとしていて、アインシュタイン方程式などを知っている物理学者なら、これは質的バージョンで、読むべき何百ページもある、はるかに基盤のある形式的バージョンがあるという点も示しています。
相対性理論のいくつかの現象について話しましょう。特殊相対性理論では、興味深い現象の一つは時間の遅れです。物事が速く動くと、時間は効果的に遅くなります。
私たちのモデルで興味深いことの一つは、その現象を質的に理解できるということです。それについて話しましょう。
時間の進行をハイパーグラフの書き換えの進行として考えるなら、それは計算プロセスです。何かがあるとしましょう。それは粒子です。ブラックホールです。何かわかりませんが、このハイパーグラフの構造である何かです。
そしてそれは徐々に書き換えられることによって時間を通して進行しています。そしてその時間を通しての進行は特定の計算の努力を取っています。そのものの時間の進行に対応する計算ステップ、計算ステップの数があります。
さて、そのものが動いていると想像しましょう。運動は複雑なものです。なぜなら何かが動くとき、私たちが言っているのは、そのものがこのハイパーグラフの異なる場所で再作成されているということだからです。
そしてハイパーグラフの異なる場所でそのものを再作成するには、ある種の計算の努力が必要です。それから問題は、特定の量の計算、宇宙で起こっている計算ステップの特定の数の計算の予算があるなら、選択肢があるかもしれません。
その計算予算を私がいる場所で時間を通して進行するために使うことができます。または私がいる場所で異なる場所で私自身を再作成するために計算予算の一部を使うことができます。
だから動いているので空間の異なる場所で私自身を再作成しているなら、それは時間を通して進行するための計算予算が少ないことを意味します。だから実際には時間は私にとってゆっくり進みます。
それが時間の遅れの質的な理解です。過去には時空の数学的構造についての数学的観察にすぎなかった現象を理解するそのような機械的な方法があることは私にとって驚くべきことです。
同様に重力に関しては、例えば、一つの特徴は重力とは何かということです。空間を通って動いている何かがあるだけなら、それはただ直線で進みます。最短経路を進み、その最短経路は直線で、それが物事が自然に動く方法です。
重力とは、質量またはエネルギー、エネルギー運動量などの存在下でのその最短経路の偏向です。それから私たちのモデルでの問題は、エネルギー運動量とは何かということです。
エネルギー運動量が大量にあるとき、それは実質的にこのハイパーグラフでの活動の密度であることがわかります。だからハイパーグラフが、多くの書き換えが起こっていて、それらの書き換えの密度が高い場合、それは高いエネルギー密度を持つ時空の領域に対応します。
そしてこれらの最短経路とは何かという質問があることがわかります。最短経路は最終的にネットワークでのこの活動の存在によって偏向されます。
そしてそれは、物理学を導入することなく話すことができるものです。ハイパーグラフの書き換えが機能する方法の問題にすぎません。そしてこの書き換えの密度がある場所で高いという事実などです。
それは本質的に重力の現象の導出を与えます。より形式的には、アインシュタイン方程式で何が起こるかの種類を与えます。
だから大まかに何が起こっているかというとこうです。流体力学を見ると、跳ね回っている分子の束があります。それらすべての分子が跳ね回ることの総合効果は何かと言います。
流体が何らかの密度を持っている、何らかの速度を持っていると言うだけでそれを記述できます。流体力学の大規模な法則に従ってそれを記述できます。
だから微視的な分子動力学から流体力学のこれらの大規模な法則に行きます。それが流体について導出するものです。
それで今、この微視的なハイパーグラフがあって、これらすべての書き換えプロセスが起こっているとき、何が起こっているかを記述する大規模な方程式は何かという問題です。
答えは、それらの方程式が時空の構造を与えるアインシュタイン方程式だということです。言い換えれば、分子動力学から流体力学にどのように行くかのアナログです。
ハイパーグラフで起こっていることの微視的構造から時空の全体的な構造に行きます。それが大まかな話です。ここには無限の詳細があります。
大きな質問の一つは、100年前に物質の離散性を明らかにする物質の特徴を見ることができるという発見がありました。顕微鏡下でのブラウン運動のようなものです。
分子によって離散的に蹴られている小さな花粉粒を見ることができました。人々が幸運だったのは、分子が1900年頃に人々が持っていた顕微鏡で実際に見ることができるほど大きかったということです。実際には1820年代に最初に発見されましたが、当時は人々はそれが何かわかりませんでした。
しかし今の質問は、空間の離散性を見ることができるかということです。何らかの実験、空間の離散性を明らかにするような巧妙な実験ができるでしょうか。
それは私が非常に興味を持っていることです。まだ答えはわかりません。私たちの時代に幸運にも、数字がうまくいき、空間の離散性を見られるほど実験で巧妙になれるでしょうか。
空間の連続構造の下を見られるでしょうか。実は一つの推測があります。どうなるか見てみましょう。それは実際に物理学の歴史を少し反映しています。
1800年代、人々は熱とは何かと疑問に思っていました。人々は熱がある物から別の物へ流れると言いました。何が流れるのでしょうか。流体に違いないと。それで人々はカロリック流体という考えを発明しました。それからカロリーやその他すべてがあります。
人々は、熱は流体だと言いました。それは間違っていることがわかりました。熱は流体ではありません。熱は物質の微視的構造です。熱は小さな運動、分子の運動エネルギーです。温度は材料中の分子の運動エネルギーに関連しています。
言い換えれば、熱は物質の微視的構造の特徴であることがわかりました。それで今の質問は、時空の微視的構造の巨視的な現れは何かということです。
わかりません。私の少しの推測は、ダークマターが時空の微視的構造の巨視的な現れであることがわかるだろうということです。それは皮肉なことです。
ダークマターの現象が約100年前に最初に想像されて以来、最近ダークマターと呼ばれるようになったので、おそらく大きな間違いは、それは物質ではなく、空間の構造の特徴だということです。カロリック流体が流体ではなく、物質の微視的構造の特徴だったのと同じように。
それが物事について考えるこの種の方法の未来のアトラクションです。
空間の原子を発見するのに役立つかもしれない実験について考えられるものはありますか。そしてもしあなたのチームがたまたまそれをするなら、名前はありますか。もし発見したら何と名付けますか。
高速回転するブラックホールからの重力放射のノイズのパターンについて、多くの異なることを追いかけています。残念ながら測定が難しいです。
おそらく量子コンピューティングの制限の特徴です。工学的制限が物理的制限に近ければ、測定するのがはるかに簡単です。わかりません。
ダークマターのようなものの特徴です。中間的に良いケースは、実行するのに200億ドルしかかからない実験を考え出し、それから多分それを実行できるということです。
最悪のケースは、実験があると思うが、工学と技術の進歩の観点から何世紀も先のことだと気づくことです。
最良のケースは、すでに行われた実験があることに気づき、それが何を見たかを理解できるようになり、それが空間の離散性の特徴であることに気づくことです。それが最良のケースです。
それは物質の離散性で起こり得たことです。Robert Brownは1827年にブラウン運動を発見しましたが、人々はそれが何かわかりませんでした。
1900年まで、人々が実際にはその現象を理解するのにかかりました。黒体放射やそういったものを使った他の実験が行われ、気体の粘性のようなものやそういったことの他の特徴を理解して、そのつながりを作ることができました。
幸運なら、LLMなどを使って物理学のすべての文献をトロールするとき、何らかのLLMが私たちが探しているこれらのものを主題的に示してくれるでしょう。
ところで、人々が結果が何を意味するか本当に理解していなかった1972年に書かれた曖昧な論文があり、この実験は正しいはずがないと思って隠したような。
それが空間の離散性を理解するための決定的証拠、手がかりであることがわかるでしょう。幸運ならそのように展開するでしょう。どのように展開するかわかりません。
中間的に幸運なら、数百億ドルしかかからず、これがどのように機能するかを理解する実験ができるでしょう。
しかしわかりません。幸運になれるかもしれません。まだ行われていない実験が、実行する必要のある数百万ドルの実験にすぎないなら驚くでしょう。
宇宙船やあれこれを必要とする天体物理学での何らかの複雑な実験になるでしょう。私の推測では。
興味深いですね。見てみましょう。さて、少し知性について話しましょう。初期のGPTモデルを分析して、それらがどのように機能するかを本当に説明する素晴らしい論文やブログを見てきました。
AIモデルがより大きくなり、より多くの方法でつながり、より多くの能力があるように見える新しいアーキテクチャがあるのを見ている今、驚くべき創発的特性の話をたくさん聞きます。
AGI、ASI、計算知性の観点から私たちが経験することについてのあなたの直感は何ですか。
想像するほど劇的ではないと思います。機械学習の歴史は、新しいモダリティがついに解明され、人間のような方法でできるようになるという歴史でした。
2012年頃、画像認識が解明されました。少し後で音声からテキストが解明されました。ChatGPTの大きな驚きで誰も期待しなかったのは、テキストの生成とこの考えでした。
人々は言語モデルについて永遠に知っていましたが、プロンプトを与えることができ、プロンプトへの答えのようなエッセイ全体を書くだろうという考えは、誰もそれが機能するとは思っていませんでしたが、機能します。
それはおそらく、その問題が形式的な意味ではるかに単純だったと私たちに言っています。人間の脳だけができる驚くべきことだと思っていましたが、実際にはそれほど複雑ではないプロセスを通して機能しています。
私の期待は、まだその詳細はわかりませんが、永遠に人間の言語は何らかの構文文法で構築されていると考えることができると知られています。
英語では文は名詞動詞名詞となりますが、どの名詞、どの動詞、どの名詞かはわかりません。構造は名詞動詞名詞ですが、決して起こらない特定の名詞動詞名詞の組み合わせがあります。意味をなしません。
ある意味でChatGPTがトレーニングなどを通して発見したものは、どの名詞動詞名詞というこれらのパターンがあり、それらのパターンははるかに続き、ウェブや他のトレーニングデータから学べるものから外挿できるこれらのパターンを組み合わせるだけでかなり長い意味のあることができることがわかります。
技術的に、運用上見ているのは、大規模言語モデルがあり、特定の種類のことをするということです。それらは素晴らしい言語インターフェースメカニズムです。
それから過去3年ほどで起こったことで見ている主なことは、この種の核心技術の周りのより多くのハーネスです。
私がそれを見る方法は、馬の発見のようなものです。野生の馬を発見し、野生の馬は特定の特性を持っていますが、本当の価値は馬を鋤につなぐとき、馬を馬車につなぐとき、野生の馬の能力を利用する方法を理解するときに来ます。
それが私たちがChatGPTなどの生の言語能力から開発し始めるときに見ているようなものだと思います。
もう一つの部分は、ChatGPTが1600年代に発明されていたら科学の発展について異なる絵を持っているかもしれませんが、1600年代から今日まで、多くの形式科学が発展しました。
数学計算などの考えが発展しました。私たちは人間の心ができることをはるかに超えることを可能にする多くのものを構築しました。
Wolframランゲージで毎日計算しているものは、補助のない人間としての私ができることをはるかに超えて馬鹿げています。
そして私たちは計算で、人間の心のようなものが行わない形式構造のこれらの種類の塔を構築しています。
ニューラルネットや大規模言語モデルなどで起こったことで見ているのは、人間の心のようなこと、人間の心のようなことを行いますが、これらの大きな計算の塔は行いません。
私の技術的人生の大部分は、それらの大きな計算の種類のことができるシステムを構築することで構成されてきました。
そして今見ていると思うのは、基礎モデルにつながれた基礎ツールと呼ぶかもしれないものの価値です。本質的に、私はこのすべての計算能力をカプセル化する基礎ツールとして言語を見ています。
そしてそれは、LLMやニューラルネットが行うこととは異なる方向にあるものです。ニューラルネットは広範だが浅い種類のことが得意なものです。
計算システムは深いが、おそらくより広範ではない種類のことが得意です。何が起こっているかを形式化しますが、今は非常に高い塔を建てることができ、塔は倒れません。
LLMでニューラルネットで行っているのは、これらすべての異なる種類のことを扱うことができますが、塔を非常に高く建てることはできません。
以前に石の壁を建てることについて言っていたことのようなものです。ニューラルネットが行っていることは、この壁を建てるために組み合わせることができたこれらの還元不可能な計算の塊を使っているようなものです。
その壁を本当に、本当に高く建てようとすると、これらすべてのランダムな塊があるという事実が最終的にあなたを噛みます。
だから異なる種類の現象です。技術的に見ることを期待しているのは、LLMレベルでの基礎モデルと計算を利用する基礎ツールの融合です。
過去45年ほどそのようなツールを構築してきた主な人間は私だったと思います。だからその種の融合を実現させるのは私の責任です。
しかしそれが私たちが見ている未来の一部だと思います。LLM、ニューラルネットなどで見るもので見る価値の多くは、これらのハーネス、野生の馬を異なる種類のことをするために利用する方法を理解することです。
発見されるより多くの野生の馬がいるでしょう。発見される野生の象などもいるでしょう。そしてそれらの異なる生き物は、主に異なるモダリティに関連付けられると疑っています。
ロボット工学が言語を解決したのと同じように、一種の部分として解決されることを完全に期待しています。画像認識を解決し、音声理解と生成の両方を解決し、画像生成を解決し、人間として行う方法を知っていることに関連する異なる種類のモダリティを解決しました。
一般的なものとは何か、行うことができる一般的な任意の計算は何かと言うとき、それは一般的な計算です。ルーリアドなどの物語です。
一般的な計算は非常に人間的ではないということです。非常にエイリアンです。一般的な計算ができます。それができます。ルーリアドで好きなところにどこでも飛び出すことができます。
コンピューターでそれを実行し始めることができます。そこで何が起こるかと言えます。しかし私たちはそれを見て、これは非常にエイリアンなものだと言うでしょう。私たちは気にしません。
人間のような画像ではありません。音声音ではありません。私たちが気にかけることではありません。ただの任意のエイリアン計算です。そしてそれがある意味で技術とは何かだと思います。
技術は自然界にあるものを取り上げて、人間の目的のためにそれを制約し、活用することです。それが私たちが気にかける種類のことです。
そしてそれが大きな物語だと思います。計算可能性の無限の海のようなものがあります。私たちがしなければならないことは、その種の全計算宇宙の可能性の中で何らかの特定の能力の鉱脈をすくい取る、採掘することです。
海をうまく採掘するとは思いませんが、しかし。私たちは全体の計算宇宙の可能性の中で何らかの特定の能力の鉱脈を採掘しているようなものです。
そして認識すべきことは、抽象的なAIは任意の計算を行っているということです。計算的に可能なことを行っています。あらゆる種類の計算などを実行できます。
それらの計算のほとんどは私たちが気にかけることではありません。それが起こっていることになるにつれて、私たちが気にかけることと整合する側面がある、AIの文明のようなものがあり、ただ自分たちのことをしています。
それは非常に重要なことだと言う側面があり、ただ自分たちのことをしている側面があります。今、この種のAIの文明がただ自分たちの計算的なことをしているのを周りで起こっているのを持つのはどんな感じかと言うかもしれません。それが周りで起こっているのは奇妙ではないでしょうか。
しかし私たちはそれに完全に慣れていることに気づかなければなりません。なぜならそれが自然で起こっていることだからです。自然は私たちの周りで起こっているこのすべての計算を行っていて、私たちがたまたま相互作用する特定の側面があります。特定の側面が私たちに重要です。
時々、自然はハリケーンを作り、それが私たちに問題を引き起こします。他のとき、自然は私たちが技術的に扱う方法を知っていることに従います。
AIの抽象的な文明と同じ種類のことだと思います。そして私たちがしていることは、私たちがしたいことをするために物理宇宙の部分を活用しているのと同じように、計算宇宙の一部を活用しているということです。
科学的発見の加速
下りたくない分岐がたくさんあります。申し訳ありません。一つだけ選ばなければなりません。
AIプラスハーネスについておっしゃっていましたが、そこから多くの能力を得ます。大規模言語モデルが科学を加速させるのを見ることができます。論文を公開するのが簡単になるかもしれないからです。
おっしゃったように、すべての過去の発見を調べて何らかのつながりを見つけるかもしれません。それはそれほど驚くべきことではないと思います。
しかしこれらのLLM、ニューラルネットワークが100万倍にスケールし、ハーネスと組み合わせる方法を理解する時を想像すると、Wolframランゲージ、Wolfram Alphaのようなハーネス、記号論理をするハーネス、あなたが機能すると思うものは何でも。
20年、30年先にそれを投影すると、LLMとこれらのハーネスの組み合わせのようなものが全く新しい科学的発見を劇的に加速させることは現実的だと思いますか。それは実現可能ですか。
可能です。私は40年間AIの夢を生きてきました。それはどういう意味でしょうか。私が持っているアイデアからそのアイデアの実装へ可能な限り自動的に行くツールを構築しようとしてきました。
そして私がたくさんしてきたことの一つは、この計算宇宙の可能性を探求することです。言い換えれば、計算が可能にするものを活用しているようなもので、AIで行うことを望むものです。
つまり、アイデアの種があります。この方向に進みたいと思っています。それからそれらの発見をする方法を自動化しようとしてきました。非常に自動化された方法でそれを行うことにかなり成功してきました。
そして膨大なものを発見してきました。私たちの物理学プロジェクトのようなものがあり、まさにこの種のことをするコンピューター実験をすることの結果です。
はい、この方法で発見すべき膨大な量の科学があります。それは現代のLLMなどの正確な技術的詳細とはほとんど関係がありません。
それは科学における計算の自由な使用です。ツールを含む科学における計算で行われてきたことのほとんどは、人々はすでに科学がどのように機能するかを知っていて、ツールで詳細を行っているようなものです。
私が多くの時間を費やしてきたことは、いや、科学がどのように機能するか知らないと言うことです。計算宇宙で外に出て探求し、そこにあると想像しなかったものを発見しましょう。
それが過去45年間してきたことです。基本的にそれは本当にうまく機能します。今、何人かの人々がこれをしています。今は分野をルーロジーと呼んでいます。単純なルールとそれらが何をするかの研究です。
それをする人がますます増えています。1980年代以来それをしてきた人もいます。しかしそれが計算宇宙で発見をすることができるように見えるものです。
信じられないほど豊かで肥沃です。これらのことをする方法をいくつか知っています。それらの方法を開発しようとしてきました。はるかに多くのことができます。
LLMのようなものがどの程度助けることができますか。わかりません。多くの実験をしてきました。彼らが助ける一番の領域は、すでに知られていることの主題的な検索だと言えます。
つまり、計算実験をして、以前に発見されたことのないものを発見するということではありません。それは計算の物語です。LLMの物語ではありません。
最終的には、可能性を列挙しようとしているようなものなら、計算でそれをするだけです。LLM、これらすべての異なる可能性を試してくださいと言うつもりはありません。それは信じられないほど非効率的な方法です。
しかし私がLLMに尋ねることができるのは、ねえ、これは誰かが約30年前に論文で書いたもののように見えますかということです。それを知っているかもしれません。
私が今していることを過去にあったものに統計的に接続できるかもしれません。そして私たちが以前できなかった方法で科学についての人間の知識の全体を活用できる非常に有用なことだと思います。
進歩です。なぜなら、私が1970年代に科学をし始めたとき、最初のコンピューター要約サービスがありました。いくつかのタイムシェアシステムにログインして、キーワード検索をして、これとあれについての論文を見つけることができました。
科学引用索引の紙バージョンさえありました。そのように物事を見つけることができました。ウェブ検索などでできることよりもはるかに効率が悪いです。それは今度はLLMでの主題的検索でできることよりもまた効率が悪いです。
しかしそれは昼と夜の違いではありません。質的な結果につながるかもしれない量的変化の問題です。そして再び、まだ見つけることに成功していません。
例えば、1970年代頃に行われたいくつかの実験から空間の離散性を理解できる何かを見つけることがわかれば、それは大きな勝利になるでしょう。
そしてそれはおそらくこの種の物事を主題的に検索する能力なしではできなかったであろう何かの例になるでしょう。だから人々に関しては、これらの新しい数学定理などをこの方法で発見するつもりだと言います。
いや、そうではありません。その背後には多くの詳細があります。しかし人々が行ってきたのは、私たちが持っているハンマーのための釘はあるかと見つけようとしています。
誰も気にしなかったからしばしば人々が解決しなかったかなり曖昧だった何らかの数学定理のどこかの何らかの釘を見つけることができます。私たちのハンマーで今それを解決できます。
そしてそれはより興味深いことではないと思います。完全に期待するのは、すべての既存の人間の知識を次のステップに日常的に統合することが日常的に行われることになることです。
すでにその一部が起こりました。ウェブの存在がその一部を行いました。しかしこれはそこでの別の大きなステップです。すべての瞬間に既に知られているすべてを活用できます。
それはまったく同じことではありません。そして私の見解でさらに強力だと思うものは、しかし方法論はまだそれほどよく理解されていません。計算宇宙に出て行き、自然界に行き、これらすべての異なる生き物を探しましょうと言うようなものです。
望遠鏡を空に向けて何があるか見てみましょう。私たちはまだ初期段階にいます。計算宇宙でそれをして45年です。
かなりの進歩をしました。しかしはるかに多くの探求すべきものがあります。そしてそこが本当に、本当に膨大な量のレバレッジがまだ来るべき場所だと思います。
それはそれほど直接的に関連していません。それは、計算が科学で進歩するのに重要であり得るという覚醒の呼びかけのようなものです。多分それはAIとLLMの現在の世界から来る何かです。
しかし私が思う本当に大きなレバレッジは、この種の計算パラダイムを理解し、新しい科学を発見するためにそれを使用できることから来ます。
それはクールです。おそらくあなたにとっては、すでに持っている人々の肩の上にさらに高く立つよりも、より多くの野生の象を探しに行く方が楽しいでしょう。
はい。しかし私が言わなければならないのは、計算宇宙を探求することをこれらの計算動物を発見することによく例えます。
それは個人的にかなり注目すべきことです。これらすべての実験をします。45年以上それらをしてきました。
そして実験をして、何が出てくるか想像します。それから実験をすると常に驚かされます。
計算動物は常に私たちよりも賢いです。起こると思っていたことを知っていると思いましたが、知りません。
そしてこれは科学をする際の謙虚さの一種の特徴で、実際にはほとんどの科学では典型的ではありません。ほとんどの科学では、何が起こるかをかなり知っていて、詳細を埋めているようなものです。
これは本当に未知を探求することができる場所です。それはかなりエキサイティングです。予想外を扱わなければならないので挑戦的でもあります。それほど簡単ではありません。
何が起こるかをかなり知っていて、この分析方法を使い、これが起こるつもりだとわかっていればはるかに簡単です。知らなければより挑戦的です。
追跡のスリルに中毒になっていると推測します。
ええ、とても楽しいです。私が、もし私が非常に甘やかされています。完全に甘やかされています。なぜなら、私たちが発見したものは馬鹿げているほど強力だからです。
そして多くのこれらの問題があります。大きな絵として過去数年で理解したと思うのは、約100年前に科学で多くの進歩がなされたということです。
その時に起こったのは、人々がある程度物理学で、ある程度生物学で数学で物事を形式化する方法を理解したということです。それは形式的なようなものです。人々は形式構造を構築し、それからその種の形式構造がしばらく伝播しました。
それらの形式構造のいくつかはゲーデルの定理などで行き詰まりました。しかしその形式構造の概念は私たちを計算に導きました。
今できることは、この全ルーリアドのもの、計算的還元不可能性などの物語のように、大量のそれらの形式構造について考えることです。形式構造で次のステップを取っています。
それぞれを単独で見るだけでなく、これらのもののまとまった物語は何でしょうか。ある種の甘やかす発見であることは、その種のパラダイム的アプローチが100年間行き詰まっていた一連のものを解明できるように見えるという認識です。
基礎物理学がどのように機能するかの問題、数学の基礎についての問題、生物学の基礎についての問題、コンピュータサイエンスの基礎についての問題などです。
それは本当にクレイジーなことで、正直なところ決して期待していなかったでしょう。これは私の種類の期待された人生計画ではありませんでした。
科学と技術をしてきました。してきた科学、構築してきた技術などにかなり満足しています。しかし約6年前に物理学プロジェクトでのこれらのブレークスルーで気づいたという事実です。
ああ、これらすべての異なる本当にかなり大きな問題に取り組むことができるこの全パラダイムがあります。
言ったように、完全に甘やかされています。なぜならP対NP問題に取り組んでいたようなものだからです。それは古典的な問題です。
そして多くの進歩をしました。それはクレイジーです。そうできるはずではありません。これは50年ほど前からある問題で、私は解決していませんが、少なくとも作った何らかの具体的な進歩を見ることができ、問題を異なる方法で組み立てることができるようになったなどです。
このパラダイムで何かそのようなことができるのはクレイジーです。しかしはい、中毒です。非常にエキサイティングです。
ほとんど不公平なようです。なぜならとても多くの、低い果物があると思うからです。このすべてのものを選ばなければなりません。
そして私は運営する会社も持っています。今日の世界に非常に関連することが起こる技術があります。
だからすべての低い果物とすべての技術とこういったすべてのことに対処するのは個人的に挑戦的なことです。
絶対に。そしてそれはとても魅力的です。研究に資金を提供できるビジネスも持つ学者としてそのような素晴らしい立場にいるようにも感じます。
純粋な研究をするだけのそのような素晴らしい位置にいるようです。過去6年での発見についておっしゃったことについてです。
それが非常に興味深い何かなら、それに飛び込むことができます。話した推論幾何学や他の多くのこと、そしてAlphaFoldとGoogle DeepMindについても質問があります。
あなたにとって最も興味深いのはどれですか。
話してきた多くのことは、ルーリアドは2021年からのものです。物理学プロジェクト、ハイパーグラフ、そういったすべてのことは2019年と2020年からです。
生物進化の基礎についてのものは2024年からです。機械学習についてのものは2024年または2025年です。P対NPについてのものは3週間前からです。
だから、物事はかなり起こっています。生物学の基礎を理解することで多くの進歩をしました。それは約2ヶ月前からです。
非常に即時的な方法で物事が起こっています。そして他のことは、これすべての哲学への影響について少し触れました。
個人的な観点から、母は哲学教授で、子供のとき私が言っていたことの一つは、大人になったとき決してしないことが一つあります。哲学をすることです。
しかしここにいます。ある種それに強制されてきました。なぜなら、してきた科学の多くが本当に形而上学などについて物事を語るからです。
そして本当に多くの進歩をしたと思います。そして哲学者の束がこれに本当に興味を持ち、今言っていることと、人々がかなり部分的に理解した、長い時間前のことの間に多くの世紀の歴史にまたがる多くのつながりを作るのを見るのは私にとって興味深いことでした。
それは別の種類の興味深い方向です。タンパク質などのようなことについて話すことに関しては、それについていくつかのことを言えます。
最近進歩したことの一つは次の問いです。生物組織とは何のようなものですか。あまりにも臆病でできないいくつかの実験をして、何らかの生き物を開いて中に何があるか見ます。
何ですか。分子がランダムに跳ね回っている液体ですか。いいえ、違います。分子の何らかのまとまった調整である何らかの複雑なものです。
私たち生物において起こることのほとんどは、分子がただランダムに跳ね回っているだけではありません。何らかの酵素がこれと相互作用し、あれに結合し、これとあれをするといった非常に複雑な種類の連鎖のほとんどです。
それで問題は、生物学のこのまとまった調整がどのように機能するかの包括的な理論があるかということです。
今から2ヶ月前頃の驚きの一つは、はい、それについて作り始めることができる理論があるように見えるということでした。それが私がルールアンサンブルと呼ぶものです。基本的な考えは次のとおりです。
流体力学のようなことについて話しました。分子がランダムに跳ね回っているとき、総合的な振る舞いは流体力学の法則から得られます。
問題は、大規模にそれらが生き物を長く繁栄させるといった何らかの適応基準を満たすシステムのルールがあるとき、それは何が起こっているかの微視的構造に何の結果をもたらすかということです。
それが何らかの結果を持つことは明らかではありません。しかし計算的に制限された全体的な適応関数があるとすぐに、それが微視的構造に結果をもたらし、私がメカノイダル振る舞いと呼ぶものにつながることがわかります。
何らかの小規模メカニズムがある物事です。それが生物学がどのように機能するかの理論の始まりを与える一種の重要な特徴だと思います。なぜなら生物学で本当に理論を持ってこなかったからです。
私たちが言える最良のことは、全体の生物を適合させ、死なないようにするから、それがそのようになっているということです。しかしそれは詳細を教えてくれません。
分子プロセスの全体的な調整について話し始めることもしません。私たちはその種の理論を持ち始めていると思います。
それは非常に異なる性格を持つことになるでしょう。例えば数学に基づく物理学の理論を持ってきました。それが物理学で成功したアプローチでした。
生物学で理論を作るための生の材料のこの種のものを持ち始めています。そしてそれは来るべきアトラクションだと思います。
経済学でもこの種の方法で機能する理論を作る方法があるという強い疑いも持っています。まだそれをしていません。それを何十年もしたいと思ってきました。
ゆっくりとそれをできるようになることに向かって進んでいます。そこで理論を作ることができる生の材料が何であるかを理解することです。
物理学では微積分のようなものがあり、それが理論を作る生の材料を与えてくれました。しかし生物学ではその生の材料がありません。
例えば、微積分は生物学ではほとんど何もしません。異なる種類の基礎的アプローチが必要です。そして生物学のためにそれを得始めていると思います。
究極の問い なぜ「無」ではなく「何か」が存在するのか
非常に興味深いものです。最後の質問は、ある程度答えられないかもしれません。または哲学的な方法で答えなければならないかもしれません。
しかしあなたのキャリアを通して、小から大へのステップバックのようなことをたくさんしてきたように見えます。部分が全体にどのようにまとまるかを尋ねることです。何が違うのですか。
そして後ろへ、後ろへ、後ろへと移動し続けます。そしてこの全宇宙、この全ルーリアド、おそらくグラフとして想像できる何かを得ます。
それは「なぜ無ではなく何かがあるのか」という問いへの洞察を与えますか。私にとっては、ただ無であるべきように常に思えます。エネルギーの基礎のような、なぜ最高レベルで無ではなく何かがあるのでしょうか。
私たちは今それについてある考えを持っていると思います。私の人生での種類のプロセスについて話させてください。物事の基礎に興味を持ってきました。
正直なところ、それを可能にしたのは、基礎レベルでこのものを解開しましょうと言う自信の増大です。
子供のとき素粒子物理学をし始めました。それにかなり成功しました。機能した技術を構築し始めました。それはうまくいきました。
技術的および科学的な概念の塔を構築してきました。率直に言って、P対NP問題を見る自信です。
人々が50年間それを見てきたことを知っていますが、いまいましい、実際にいくつかの進歩をするかもしれないから、それをしに行こうと。
そしてそれが物事の基礎に実際に取り組む自信を持つために重要なことでした。そしてそれは、多くの場合、分野には基礎が構築され、それから人々はさらに50年または100年行き、それからもう誰もそれらの基礎を見ていないことがわかりました。
なされた周辺の発見、周辺のパラダイム、いくつかのケースでは、私が開発するために多くの時間を費やしてきたものが、それらの種類の基礎についてそれらの根底にある基礎について話し始めることを可能にします。
誰もそれらを見る気にならなかった方法で。なぜなら彼らはそれらの基礎、それらは50年または100年過去にあったと言ったからです。もうそれらで何もすることはないと思っています。それらを解開する自信がありません。
なぜ無ではなく何かがあるのかという問いでは、実際にそれについて理解があると思います。それは私にとってかなり驚くべきことです。
ルーリアドについて話し、それを他の抽象的な種類のものと比較しましょう。2足す2は4です。2足す2は4を2つの岩、2つの2つの岩を持っていて、それらを一緒に入れると4つの岩があるとして具現化できます。
しかし2足す2は4は抽象的に議論できる何かであることを知っています。数について話すために岩を持つ必要はありません。純粋に抽象的な方法で数について話すことができます。
それは数の概念を定義し、プラスなどの概念を定義したら必要な特徴のようなものです。不可避的に2足す2は4は抽象的にそうです。
ルーリアドについて理解すべきことは、ルーリアドは抽象的にそうでなければならない方法でなければなりません。空間の原子やそういったものの現実性の問題ではありません。
2足す2は4のような抽象的なものにすぎません。そうでなければなりません。どのような方法でも具現化する必要があるものではありません。
さて、問題は、この必要なものがあるとき、なぜ、なぜ、その必要なもの内でその必要なものの一部である私たちのような実体があるかもしれません。
明らかではないのは、なぜ私たちのような実体が存在すべきかということです。
その必要なものがあるという事実があると、その必要なもの内に私たちのような実体があります。私たちのような実体があると、私たちのような実体が持つであろう何が起こっているかの知覚は、この必要なものに対応する外の現実があるということです。
証明しなければならない科学的なことは、なぜ私たちのような実体があるのかということです。ルーリアドに私たちのような実体が出現しなければならないことは不可避ですか。
それについて言うべき科学的なことがある深刻な可能性があると思います。例えば、驚くほど平凡なことの一つは、私たちがたくさんいるという事実です。
私たちがたくさんいるという事実が客観的現実の形成にとって重要である理由を前に述べました。私たちがたくさんいるという事実は、自己複製が生物学的生命で機能するという事実に依存します。
非常に平凡に見える何かと、非常に、宇宙の存在がそのような平凡なことに依存できないと思うかもしれないが、事実はルーリアドの全体的存在について選択のあるものではないということです。
それは必要なオブジェクトです。私たちが知らないことは、なぜ私たちが私たちの内側から宇宙を知覚するのかということです。
それはある種、私たちがたまたまいる場所にいるからです。それは導出可能なものではありません。なぜ私たちがこの惑星にいて別の惑星にいないのかを導出できるようなものではありません。
私たちはここにいて、それがそのようにあるというだけです。今、導出することを期待できる特定の量があります。
例えば、生命の起源と、最近まで本当に理解していなかった生命の抽象的定義が、この種の分子プロセスの大量調整に関連していることに気づきました。
生命が今日あるように導く特徴の技術スタックのこの種のものです。そしてそれがルーリアドで必然的に起こり、どのくらいの頻度で起こるかということです。
それらは私たちが導出できることを想像できることです。そして私はそのようなことが不可避的に起こるだろうというような種類のことを言えることを想像できます。
今、それで必要なオブジェクトがあり、その必要なオブジェクト内に私たちのような観測者が必然的にそこにいるということです。そして私たちのような観測者にとって、私たちのような観測者の内側から、この必要なオブジェクトの現実化があります。
私たちが種類の、抽象的なものから私たちのような観測者に関してそのものの現実化へのジャンプを作っていると思います。
それらのすべての哲学的ポイントが完全に確定されているとは思いません。科学の一部があると思います。私たちのような観測者が存在しなければならないことは必要かなどです。それは全く知りません。
しかし私たちが、なぜ無ではなく何かがあるのかという問題にかなりの道を来たと感じます。
不可避的に何かがあります。なぜならルーリアドであるこの抽象的オブジェクトが不可避的にあるからです。
その不可避的な何かを見る誰かがいるかどうか、それは異なる問題です。しかしそれは科学的に議論できることを想像できるものです。
そしてそれが私たちが行っているところです。そして私は長い間、なぜ無ではなく何かがあるのかと疑問に思ってきました。無ではなく何かがあると感じます。なぜなら抽象的に、抽象的に物事が特定の方法で機能することが必要なことだからです。
それが究極の形而上学の部分への私の試みです。そして人生を送る際に、すべてがそうであるすべての全体的な物語の周りに私たちの腕が少しあると想像するとき、私たちの宇宙がどのように組み立てられているかの全種類の物語です。
それは私たちがどのように人生を送るべきかにどのように影響しますか。私が思うのは、宇宙が根底まで計算的であることをかなり確信していることが何かを私たちに教えるということです。
だから計算について考えるとき、それは本当に重要なパラダイムです。それはコンピューターに適用されるが他には本当に適用されない何かだと言うようなものではありません。
それは本当に宇宙のパラダイムだから真剣に受け止めるべきです。コペルニクスが、地球が静止していると考えるべきだと主張していたときのように、それがあなたの日常経験だからといって、本当に数学を真剣に受け止めてください。それについてそのように考える必要はないと言います。
だから今、計算を真剣に受け止めましょうという状況にいます。なぜならそれが宇宙が実際に構築されている方法だからです。
そして私にとって重要な他の部分は、物事の基礎に掘り下げることができるというこの考えです。基礎的なマシンコードのようなものが物事にあるということではありません。
それは、例えばビジネスを運営する日常生活で、理解できる基礎的なものがあるという考え、基礎的に理解可能な大きな絵があるということは、人生を送る際に重要な何かです。
物事について基礎的に考えることは、十分に行われていないが、この種の科学での冒険によってそれに導かれるようなものだと思います。
絶対に。私の心がちょうど疑問に思っていることの一つで、これはイエスかノーの質問かもしれません。時間が少し少ないことを知っているので。
しかし話していることの多くは、既存の言語でそれをどのように言っているかのように、基礎に掘り下げることについて話すことができます。ソースコードとほとんど呼ぶことができます。
物事がどれだけ速く動くかの計算予算について話しました。これの多くは、少なくとも私たちがそれをどのように言っているかは、既存の言語でそれを持っているように見えます。それは何らかの設計を持っているように見えます。
外のどこかの何らかの実体、おそらくルーリアドの外がそれを、それが私が尋ねていることです。それは必要ですか。それなしで存在できますか。意味をなしますか。
ルーリアドは計算的に可能なすべてです。言い換えれば、ルーリアドを作った神がいるか、そういったものがあるかと言うなら、それは意味をなしません。なぜなら選択がないからです。
ルーリアドはこのユニークな不可避的な必要なオブジェクトで、その構築について選択はありません。
外の何らかの実体があるかと言うとき、実体はこのビデオゲームカートリッジではなくそのビデオゲームカートリッジに入れました。いいえ、すべてビデオゲームカートリッジである唯一の可能なビデオゲームカートリッジしかありません。
そしてそれはそれを、私が思うのは、混乱させることです。私は認めます。計算について話すとき、目的のある目的などのためにコンピューターを使用する日常経験から来る比喩であるため、一つの考えを持ちます。
設計されたようなものと考える傾向があります。しかしそれが私がそれについて考える方法ではありません。
私がそれについて考える方法は、それはルールです。任意のルールです。野生の計算です。人間によって活用される計算ではありません。これらのルールを実行しているが任意の種類のことをしている計算です。
ルーリアドの全物語と観測者などから学んでいる興味深いことは、私たちにとってそうであるような宇宙は、私たちがそうであるように私たちであるからそうであるということだと思います。
宇宙が私たちが解釈するように、宇宙が私たちにとってあるようであるということが私たちがあるように私たちである方法の非常に内向きの反映です。
それは誰かが私たちにこの特定の宇宙を投げたようなものではありません。私たちがあるように私たちであるからこの宇宙を得ました。
本当にありがとうございました。あなたの時間にとても寛大でした。本当にありがとうございました。これは最高の会話の一つでした。本当にありがとうございました。本当に感謝しています。
私たちに投稿してほしいものや言及してほしいもの、または私たちができる他のことはありますか。世界に言いたいことは何でも、お願いします。
世界に何を言いたいでしょうか。わかりません。幸運にもいくつかの興味深いものを発見してきました。
発見したものは深いパラダイムです。たまたまそれらの深いパラダイムの束を技術に変えました。これらの深いパラダイムの技術を探求するのはとても楽しいです。
それをしてみてください。これらのパラダイムで開いたこの種の巨大な領域があるこの歴史の瞬間です。それをするのに素晴らしい時です。
しかしこれらのパラダイムは深く、この領域を探求するために努力が必要なものです。しかし本当にする価値があり、本当に楽しいです。
そして多くの人々がそれをし始めています。それは素晴らしいことです。時々人々は、私がこのすべての科学を発見したなどと言い、私が書いたものを読んでください、それが言うべきすべてです。
それ以上のことを言えると思います。なぜなら、これらのことを実際にするための技術の束を構築したからです。単に言葉を読むだけではありません。実際にこのものをすることができる技術があります。
そして人々がそれを利用することを奨励します。
絶対に。本当にありがとうございました。あなたの仕事に感謝します。時間をありがとうございました。そしてこれから他に何が出てくるか見ることを非常に楽しみにしています。ありがとうございます。お元気で。
コメント