グラスゴー大学化学教授リー・クローニンが、生命の起源から人工知能の本質まで、科学の根本的な問いに挑む。彼は因果性こそが宇宙における存在の基盤であり、選択圧は生命以前から作用していたと主張する。現在のAIシステムには記憶、意識、想像力、自由意志が欠如しており、真の知性には程遠いと断言。AGIや人工超知能の脅威論を「ナンセンス」と一蹴し、むしろAIの誤用や政治的操作といった現実的リスクに目を向けるべきだと訴える。化学的なコンピュータや「生きた回路」を開発することで、真の人工意識の創造を目指す彼の野心的なビジョンは、AIと生命の境界に新たな光を投げかける。
AIの問題と真の脅威
私がAIについて見ている問題は、偽の人間、偽のデータ、政治的操作です。そして、すべてのドゥーマー(破滅論者)たちがやっていることは、文字通り作り話をしているだけなのです。なぜなら、AGIが超知能になり、システムの制御を得て、エージェンシー(主体性)を持ち、何かを実行するメカニズムなど存在しないからです。それはナンセンスです。
私たちは、AIが生命システムの創造性や可能性に少しでも近づいていると考えていますが、そんなことはありません。生命システムと比較すれば、AIは無に等しいのです。複雑な多細胞生物にはエージェンシーがあり、AIには全くありません。
こんにちは、リー・クローニンです。私はグラスゴー大学の化学のレジウス教授であり、ケミファイという会社のCEOでもあります。そして私は、生命がどのように始まったのかを解明したいと考えています。
存在の根本的な問い
それでは、誰もが若いころに考える質問の一つから始めましょう。なぜ何もないのではなく、何かがあるのか。
私なら逆に尋ねます。なぜ何かではなく、何もないのか。実は、これは答えるのが最も簡単な質問だと思います。存在とは、因果性が可能なときに起こる唯一のことなのです。
そして、ばかげたことに聞こえるかもしれませんが、物質が現在のような形で存在しているという事実は、宇宙の背景にあるランダムさに対抗して戦うことができたということを意味します。それは明白なようでいて、実は深遠なことです。いかなる構造の物質も宇宙に存在できるメカニズムは、劣化に対抗して生き残ってきたからなのです。
つまり、なぜ何かが起こるのか。それは、偶然の選択、因果性、そして進化によるものです。あるいは、選択を介した因果性が進化をもたらすと言うべきかもしれません。なぜなら、実際には、宇宙の底辺は私が今日気づいたのですが、ランダムで基本的に特徴がないからです。そしてそれが、私の心を吹き飛ばしました。5時間ほど前に気づいたことで、まだ驚いています。
純粋なエントロピーのようなものです。これについて話さなければなりません。何が起こったのですか。
必ずしも純粋なエントロピーではありませんが、純粋に物質が存在しているだけです。泡のような物質ですが、そこには基本的な物理法則しかなく、それはかなり退屈なものです。あるいは、私たちにとっては刺激的かもしれません。星や銀河を見て「おお」と思うかもしれません。しかし物理法則は、核融合と元素を与えるだけです。そこで化学が登場しなければならず、化学はおそらく物理学に起こった最も深遠なことだと言えます。私は化学者なのでそう言いますが、ついに宇宙における自分の立場を見つけたのです。
だから、何もないのではなく何かがある理由は、化学のおかげなのです。
絶対にそうです。化学は一種の計算的な力のようなもので、それが特定のシステム、特定の複雑性が現れる理由です。
しかし私は、あなたが5時間前に何かが起こってあなたの見解を変えたと言ったことが気になって仕方がありません。それについて教えてもらえますか。
因果性という新しい視点
実は、見解が変わったというより、固まったのです。私は現在、物理学者の同僚たちと新しいプロジェクトを始めたところで、基本的に新しい説明をしなければならなくなりました。私たちは物理学に問題を抱えています。私は物理学者ではありませんよね、化学者なのです。ですから、これを聞いている人は私の言うことを割り引いて考えてもらって構いませんが、私は正しいのです。
私が正しいというのは、この考えを使って、他のどの理論でも生み出せないような新しい予測やテストを考え出すことができるということです。
基本的に5時間前、私が訪問者の同僚たちと話していたとき、一人はより哲学者で、もう一人はより理論物理学者でしたが、彼らは入れ替わることができます。私は因果性がどのように現れるかを説明しようとしていて、私たちは気づきました。物理学では、ニュートン物理学と量子力学があり、両者は同じ問題を抱えています。
量子力学は、ファインマンが言ったような意味で神秘的ではありません。彼らが因果性を理解できなかっただけです。そう言うのは少し資格不足に感じます。なぜなら、ファインマンは史上最も偉大な天才の一人だったからです。しかし彼は間違っていました。なぜなら、彼は因果性について、あるいは因果性の欠如について教えられたことをただ受け入れていたからです。
因果性を最初に置き直すと、宇宙が存在する理由は、因果性を介して何かが無から現れなければならないということに気づきます。そして今、私たちが物理学でそれをどう解釈しているかというと、私たちは因果性を物理学に入れなければなりません。私たちは、物理学には因果性がないと受け入れています。
そして私たちがそれをごまかす方法は、文字通り量子力学とマクロスケールのニュートン力学を導入することです。かなり奇妙に聞こえるかもしれませんが、掘り下げると本当に明白です。なぜなら、量子的な不思議さなど存在しないからです。因果性があるだけです。
興味深いですね。では、みんなに追いついてもらいましょう。あなたが言ったことを分解しましょう。因果性から選択へ、そして進化へ。
進化は、ほとんどの人が理解していると思います。複雑性の増大、改善です。選択は、多くの聴衆にとってはA/Bテストのようなものですよね。2つのページを分割テストして、このページの方が良いので生き残って続くという選択圧です。ほとんどの人が理解できるように、因果性を最も基本的な用語で定義できますか。
因果性の定義
そうですね。実際には、A/Bテストは高次の選択です。選択は現れるものです。でも因果性に戻りましょう。
因果性を非常にシンプルに説明します。もし私が2つの石を取って、小さな石と大きな石を取り、この小さな石を大きな石にぶつけたら、大きな石は動きません。何らかの因果性があります。石が動くだけで、何も起こりません。
もし私が大きな石を取ってこの小さな石をぶつけたら、小さな石は動き、そして別の石にぶつかり、また別の石にぶつかるかもしれません。それが因果性です。
つまり、基本的にAがBに先行するとき、位相空間を見ることで、実際にAからのエネルギーがBに入り、それがBを動かしてCに何かをさせるということがわかります。これが私が言う底辺での因果性です。
非常に有名な哲学者であるバートランド・ラッセルは、因果性は君主制のようなもので象徴的なだけで何もしないと言いました。ニュートンもそう考え、アインシュタインもそう考え、みんなそう考えました。だから、私たちのすべての物理理論は、因果性が実在するという事実を無視してきました。
つまり、AはBを意味します。しかし物理学では因果性はありません。因果性は創発的なものです。しかし、生物学や意識、想像力、自由意志、知性の出現を見ると、それを実現するには因果性が必要なのです。
5時間前、私は数人の同僚と話していて、彼らは物理学でこれを正確にどう組み立てるかを考えていました。なぜなら、すべての教科書を破り捨てて「まあ、すべてが間違っているかもしれない」と言うことは日常的なことではないからです。間違っているというのは、間違ったパラダイムを使ってきたという意味ではありません。量子力学の数学は機能しますし、ニュートン力学の数学もある程度機能します。
しかし、それが説明しないのは知性と生物学です。それは非常に重大な問題です。だから新鮮なのです。あまり雄弁ではないことをお許しください。
しかし基本的に、因果性は選択が起こるメカニズムです。そして選択は、ある物質が他の物質よりも存在することを可能にします。その物質が時間をかけて存在することで、最終的には生物学と知性が生まれます。それは本当に驚くべきことですよね。
絶対にそうです。正しく理解しているか確認させてください。因果性は最も底辺のレベルにあるのですか、それとも現れるものですか。
いや、因果性は底辺のレベルにあります。しかし、何が起こるかというと、この泡のようなものを想像してください。弾ける泡があります。量子フォームのようなものを想像してください。私はその言葉は好きではありません。ただランダムなことが起こっているだけです。
存在へと出現します。砂粒を想像してください。いくつかの砂粒が集まって形を作り、その形は一時的なもので、また砂粒に分解されます。
砂粒が集まるとき、それは因果性ではなく、ただのランダムなプロセスです。しかし、もしいくつかの砂粒が結合して、他の砂粒を結合させることができるようになれば、ほとんど雪だるま効果のようになります。
それがランダムさから因果性が現れる一種の例です。しかし私は「現れる」という言葉を間違った意味で使っています。現発ではありません。量的に異なる何かです。それは単なる存在です。しかし、何かが自然な半減期を超えて時間的に存在できるという事実は、その構造を再現できる偶然の記憶が宇宙に閉じ込められているということを意味します。
そしてそれは常に起こっています。宇宙は、記憶と呼びましょう、因果連鎖を作っています。それは基本的に砂粒を動かすことができますが、それはただのランダムさなので失われます。しかし、もしそれらの粒が集まって他の粒が存在するのを助けることができれば、突然、協力やテンプレート化のようなものが生まれ、足場ができます。
そして実際に、何もないのではなく何かがある理由は、環境の摩耗に対抗して持続してきた物質があるからです。それについて十分長く考えると、生命は物理学が生み出せる唯一のものであり、物理学に物理学は私たちが考えているものではないことを教えるためのものだということが明白になります。
だからそれは逆転しています。私たちの宇宙は法則的だと考えていますが、実際にはそうではありません。確率的な法則を持つランダムなものです。宇宙が法則的である唯一の理由は、生物学がエラー訂正を生み出すからです。
ここで私がこの2分間で言ったことはたくさんあります。申し訳ありません。
いや、それは良いです。最も底辺のレベルに留まりましょう。この量子フォームのようなもの、あるいはこの種のランダムさには、そのレベルでは記憶はないのですか。パイロット波理論のようなもので、こちらで一つの泡が弾けた後に別の泡があることを認識しているようなものはありますか。それとも、そういう考え方の一部ではないのですか。
化学における組み合わせ爆発
量子力学の存在論的解釈は非常に複雑です。あるいは違う、非常に多様です。だから、こう言いましょう。私は非常に簡潔にします。今は量子力学をすべて無視しましょう。量子力学は素晴らしいツールです。数学的には機能しますよね。でも粒子という観点で考えましょう。
みんなが場だと言っているのは知っています。すべてが場だと。私は「確かに」と思います。つまり、私はワークショップにいます。釘やドライバーを拾うことができます。これらは場ではありません。これらは局所化された物質的な物体です。
だから、人々がすべてが場だと言い始めると、私は「確かに、トリップしているときはね」と思います。
底辺から始めると、何が起こるかというと、これらの物体は何とかして、他のものより時間的に持続できる構造を作らなければなりません。それはどのように起こるのでしょうか。
物理学では、それは起こり得ません。なぜなら、探索問題があるからです。物理学では、組み合わせが小さすぎます。基本的にすべての空間を探索して、すべてが崩壊します。
化学に入ると、可能性の数が大きすぎて探索できないという組み合わせ爆発が起こります。だから、可能性の数が大きすぎて探索できないとき、奇妙な凍結された偶然が始まります。
凍結された偶然と宇宙のランダムさが、因果性がどのように、つまり現発を使うなら、因果性が現れる方法です。しかしそれは微視的物理レベルで現れ、そしてミームやAI、TikTokまで上がっていきます。
絶対にそうです。多くの人が理解できるように考える一つの方法は、基本的に、もし宇宙をただのランダムなものの集まりだと考えるなら、記憶はなく、ストーリーラインのようなものもないということだと思います。
複数の漫画のコマがあって、それらをシャッフルしたとしても、展開するストーリーラインのようなものがあるので、それらをまとめることができるかもしれません。
そして、もし生命とこれらの化学的プロセスが宇宙が記憶を発展させるようなもので、そしてそれがストーリーになるなら、言葉で言えば、状態AからBへ、Cへと動くと言えます。
そしてあなたが言っているのは、私たちが因果性について話しているとき、それがそういうことだということですよね。それはただのランダムではありません。ある種のストーリーラインや因果関係があるということですよね。
その通りです。因果性は、別のことを起こさせる宇宙における記憶の存在です。何かをタイプしているとき、あなたはどんな言葉を言うかを知っています。それをタイプします。あなたがそれを引き起こしたのです。
因果性は、私たちがまだ理解していない非常に興味深い現象だと思います。私が言っていることは間違っていないと思います。私は本当に興奮しています。しかし、これらのアイデアは実験的にテストされる必要があります。
新しい理論を思いつくことの良い点は、私は常にたくさんの理論を受け取ります。AIを使って理論を生成する人々からもらいます。それはやや憂鬱であり、同時に高揚感もあります。
もし理論が、他の何も示唆しない何か突飛なことを示唆せず、そして独自のテストを作ることができないなら、それは本当に新しい理論ではありません。それはただ、私たちが知っていることの再分類です。
これを常にやっている同僚がいます。誰かは推測できるでしょう。大きな数学プロジェクトを持つ有名な疑似物理学者たちです。彼らは新しい理論を夢見続けますが、それらは新しい理論ではありません。それらはただ、私たちがすでに知っていることを予測するだけです。
私たちが持たなければならないのは、もし私が因果性のような新しい理論を思いつきたいなら、それは量的に何か違うことをしなければならず、他のすべての理論とは異なる何かを予測しなければならず、そして私たちはそれを実行して示さなければなりません。それが私たちが今やっていることです。
それは一種の驚くべきことです。だから良いのです。だから私は実験が壊れるまで実験を続けるというフリーパスのようなものを得ています。
楽しいですね。下位レベルの考え方や物事がどのように構築されるかについて考えると、それは生命についてのより具体的な、あるいはより有用な定義を与えてくれましたか。私たちは生命とは何かについて素晴らしい会話をしてきましたが、それぞれの定義が誰もが使えるものを捉えていないようです。
定義についてはどこにいますか。
生命の定義:複雑さとコピー数
そうですね。生命を定義することは、まず生命定義者たちを部屋に集めて、彼らをアーティストと呼ぶようなものだと私は驚嘆します。そして彼らに絵を描くように頼むと、みんな違う絵を描きます。それは素晴らしいことです。
そして彼らが何かを見逃していると思います。なぜなら、彼らは「ああ、生命はこれをする、あれをする」と言おうとしているからです。
私が最初にやろうとしたこと、そして実際にアセンブリ理論を生み出したことは、「ねえ、生命を定義しようとするのをやめよう。代わりに、生命が非生命がしない独自にすることを見よう」と言うことでした。
そして皮肉なことに、ある意味で、あるいはかなり驚くべきことに、それによって私は生命の定義を思いつくことができ、それは基準を満たしました。
基本的に私の生命の定義は、実際にはMythbustersの男性、アダム・サヴェージを通じて言い換えられたものです。彼と会議で話していたとき、私は「ワオ、生命は複雑なものを作る」と言っていました。彼は「そうだ、良い」と言い、そしてあなたは何らかの方法で複雑さを計算できます。
しかし、その後、たくさんの同一のコピーを持たなければなりません。すると彼は「ああ、だから生命は大規模に複雑なことをするんだ」と言いました。
それが一般向けのバージョンのようなものですが、より技術的なバージョンは、実際にはそれほど違わないバージョンで、誰でも理解できるものです。生命システムは、閾値を超えて、非生命ができない多くの異なる部品を持つ物体を再帰的に作ることができると言っています。
そして、一つのコピーだけではランダムな可能性があるため、複数のコピーを作る場合、より多くのコピーがあり、部品の数が多いほど、あるいはアセンブリ指数が大きいほど、それを生命だけが生産できたという確実性が高まります。
そして、それは私にとって、私がチームや協力者と一緒にそれを思いついたとき、本当に素晴らしいことをさせてくれました。それはウイルスと細胞を統一することでした。
なぜなら「ああ、ウイルスは生きていない」という意見があります。私は「いや、違う。なぜなら、もし私の解釈を取るなら、再帰的に複雑なコピー数が進化によってのみ生産できるものだからです」と言います。
だから、あなたがすることは、世界の物体を突然見て「これは生きているか生きていないか」と言うのではありません。あなたは「これは進化によって生産されたか、されていないか」と言うのです。
そして、私たちが宇宙で知っている進化によって生産されたすべての物体は、生命の産物です。そして、それらの物体にエネルギーや物質を与えて、それらが他の物体を生産できるとき、それらは生きています。
今、ウイルスは細胞の中で生きているようになりますが、進化によって生産されました。そして細胞は生命の最小単位のようなものです。
だから、この種の厳しい線から離れることは良いことだと思います。もしあなたが閾値を超える複雑さを大規模に生産するシステムを持っているなら、進化だけがそれをできたのであり、宇宙における生命の勾配を選択を通じて再構成することができます。
そしてそれは多くのことを統一します。私のiPhoneは生きていませんが、生命です。つまり、もしスティーブ・ジョブズという生きている個人がいなかったら、そしてアップルがなかったら、iPhoneは存在しなかったでしょう。
私のピンクのマウスも同じです。誰かがそれをデザインしました。もしあなたが火星に行って500個のピンクのマウスを見つけたら、「それはちょっと変だ。なぜ500個のピンクのマウスがあるんだ」と思うでしょう。
私は500個のピンクのマウスを持っていませんが、3つか4つ持っています。なぜなら、私はそれらをよく失くすからです(笑)。
だから、生命の定義は、代謝やRNA DNAについて考えるのではなく、それは複雑で、たくさんの同一のコピーがあるかどうかを考えることです。もしそうなら、それは良く、それは生命システムの証拠です。
それが7年ほど前の私のユーレカの瞬間でした。
それは非常に興味深いですね。それは非常に異なる考え方です。それは生命によって生産されたというものです。
生命の形成に戻るのも人々の助けになるかもしれません。ほとんどの人は、生命が現れて、それから選択が複雑さを増すのを助けたと考えています。
しかし、あなたは選択は生物学が存在する前から起こっていたかもしれないと言っているようですね。それを少し解きほぐせますか。
選択は生命以前から
そうですね、私の推測は本当にシンプルで、それによってみんなが科学的に精神的崩壊のようなものを起こします。その理由は、私が大人の服を着た子供だからです。
だから私は周りを歩き回って「なぜそれが機能するの?」と言うことができます。つついて、つついて、つついて。なぜそれが機能するの?なぜそれが機能するの?
そして、私は大人、特に賢い人たちを悩ませる能力を失ったことがありません。
そして、生物学における問題は、生物学者が「進化がすべてをする、疑問に思うな」と言うことだと思います。そして彼らはそう言うのが正しいです。なぜなら、創造論のようなものがあるからです。
そして物理学者は「物理学がすべてをする、疑問に思うな」と言っています。しかし、その真ん中にいる哀れな化学者がいて、化学者は化学物理学と生物学を非常に正確な方法で結びつけようとしています。
そして化学者はストーリーを思いつこうとしています。なぜなら、化学者は分子を作るのが本当に得意だからです。
だから、彼らに生命システムが与えられたら、彼らは「これらの分子はどうやって作られるの?」と言います。化学者は探偵のような仕事をしています。それがプレバイオティック化学です。
もっともらしい方法を解明するためにです。そして私がそれに入り込んで、生命の起源を解決したいと思ったとき、私はプレバイオティック化学をやりたくありませんでした。私は起源エンジンを思いつきたかったのです。私は今すぐラボで生命を創造したいのです。
それが私がやりたかったことで、みんなは「何、あなたは完全に正気じゃない。それは不可能だ」と言います。「ところで、生命とは何だ。あなたは後ろに戻って、従わなければならない」と。
そして私が掘り下げたときの問題は、創造論者が生命は不可能だと言っているのを見たことです。なぜなら、砂から細胞に行くために必要な情報に巨大な飛躍があるからです。
しかし実際には、もし選択が生命の前に働いていたなら、複雑さの自然な集合、自律性の自然な生産、そして細胞における機械やリボソームやDNAやRNAの出現は、時間をかけて持続しようとする物質が環境と戦う自然な結果にすぎません。
そして突然、それが現れます。そして、選択は重力が星を形成するのと同じように、宇宙における力だと私が言おうとしていることだと思います。
考えてみてください。たくさんの水素があって、重力が水素を引き寄せます。ある時点で、どんどん熱くなり、強い核力を破って、融合が起こります。
そして、もしあなたが運が良く、十分な水素があれば、それが膨張して爆発しようとするとき、それが爆発するのを止めるのに十分な重力があります。なぜなら、水素が十分でない星がたくさんあるに違いないからです。重力が十分でなかった。だからただ消えました。
だから、太陽を生み出すプロセスは重力です。最初の細胞を生み出したプロセスは選択でした。
そしてもちろん、生物学におけるこの自律性を持つと、生物学的選択と生物学的進化があります。
そして、私が最初に同僚とこの理論を思いついて、選択は生物学の前だと言ったとき、多くの生物学者は怒りました。
そして私は「でも、もしあなたが選択は生物学の前に起こり得なかったと言っているなら、あなたは基本的に私たちはみんな創造論者だと言っているんだ」と言いました。
だから私はこれらの間に挟まれました。だから、はい、それは長い言い方ですが、選択は絶対に最初に来たと言うことです。それは重力のような宇宙における力であり、持続から存在を生み出します。
そして私はこれらの言葉を意図的に使っています。存在とは、最初に、あなたは存在します。だから、あなたは本物です。あなたは現れます。
待って、私は存在する。そして、あなたはナノ秒以上存在します。だから、あなたは持続します。
そして宇宙には、利己的遺伝子を忘れてください。利己的物質があります。できるだけ長く時間的に持続したい物質があります。
地球上で最も古い人工物は何か知っていますか。
人工物。うーん、火山か何かかな。わかりません。岩のようなもの。
おそらくあなたの腸内の大腸菌です。それは43億年です。
そうですね。だから、それは人工物ですが、生きてもいます。クールですよね。あなたが環境に持っている大腸菌、あるいはどんな細胞でも、生命の起源である43億年前から生きているのです。
そしてそれは驚くべきことですよね。この生命体は明らかに死んで入れ替わっていますが、ほとんどの火山よりも長い情報の記録であり、月の石よりは長くないかもしれませんが。
持続性と複製の力
私にとって本当に助けになったことの一つは、もしあなたが何がより耐久性があるかを考えるなら、花崗岩のような非常に硬い岩のかたまりか、それともDNAのようなものか、DNAは非常に簡単に破壊されます。熱くなりすぎたり、冷たくなりすぎたり、何でもあれば、なくなります。
しかし、ある視点から考えると、自己複製できるものであるDNAは、より耐久性があります。なぜなら、それははるかに長く持続できるからです。
花崗岩には一つの結果しかありません。最終的には、それは塵に崩れます。DNAは増殖して、より複雑になり、私たちの腸内の大腸菌のように永遠に存在し続けることができます。それは私たちが見てきた多くの金属や岩よりもはるかに長く存在しています。
だから、私は後でそれにピンを留めておきたいと思いますが、そうです。
そうですね。あなたは釘付けにしましたね。花崗岩が明らかにDNAよりも耐久性があるというのは本当に素晴らしいです。しかし無限の時間をかけると、DNAがそうです。それは素晴らしい類推です。
より長く持続します。それが私にとってクリックしたものです。ああ、わかった、それは理にかなっていると。
わかりました、ディラン、申し訳ありません。続けてください。
そうですね、確かに。つまり、重力は最初の選択圧のようなもので、これらの太陽を作った最初のものです。
しかし、アセンブリ理論とは何かを説明していただけますか。それは重力から私たちがいる場所まで続く全体的なものですか。そしてまた、その連鎖のどこに知性が現れるのですか。
アセンブリ理論の誕生
そうですね、たくさんあると思います。私は数週間前に協力者のサラ・ウォーカーと連鎖を解明しました。私たちはこれを理解しようとしていました。私たちはアイデアを得ました。
そう、アセンブリ理論は、この生命をどう定義し、どう測定するかということから生まれました。そして、進むにつれて、それには何かもっとあると気づきました。
だから、私が最初にやったことは、私は化学者なので、また言うべきでしょう。化学のレジウス教授です。
しかし、私は常に化学だけでなく、理論、コンピュータサイエンス、数学、物理学をやりたかったのです。すべての分野をハックしたかったのです。化学者を悩ませるだけでなく、同時に物理学者やコンピュータサイエンティスト、生物学者を悩ませることができるのは、はるかに楽しいです。
そして、私はただ異なる分野の賢い人々と話すのが大好きです。なぜなら、一緒に物事をさせることができるからです。
だから、私は数年前に非常にシンプルな質問をしました。それは、私があなたに見せることができる最も複雑な分子は何かということでした。そして、あなたは「ああ、神様、その分子は偶然には生じ得ない」と言うでしょう。
それはRNAの一部ですか。それはある種のダイヤモンドですか。
正確に。何ですか。そして、彼らは「ああ、それはクールだ。だから、分子が複雑かどうかをどうやって比較できるか」と言いました。
すべての分子は接続されています。分子の定義は基本的に、原子の集合です。それらを一緒にすると、引力があるので、基本的にある程度のエネルギーに耐えることができます。
だから、それらには結合があります。そして、化学者は化学結合の抽象化と現実を理解しています。だから、分子は文字通り、結合によって接着された原子であり、それらの結合にはエネルギーがあり、それらを壊すにはエネルギーを入れなければなりません。それはかなり良いです。それは接着剤のようなものです。
だから、「わかった、良い。生命の証明となる分子は何か。そして、もし私が単純、単純、単純、単純と下がっていって、水のような分子に到達したら、それはただH2O、一つの酸素と二つの水素です。あるいはメタンCH4、一つの炭素と四つの水素です」
それらの分子は生命にとって重要ですが、生命の証明ではありません。なぜなら、それらは自然に作られたからです。
だから、起こっていたことは、私たちは宇宙における生命の証拠を酸素とメタンなどで探していました。私は「でも、それらは本当にシンプルだ。酸素とメタンは宇宙のどこにでもある」と思いました。
私たちがやりたいことは、本当に証明となる決定的な証拠を見つけることです。DNAのような、ミケランジェロの分子の人工物のようなものです。
だから、私は考え始めて、天然物と呼ばれる分子があることに気づきました。それらは生物学から得ることができます。モルヒネやCBDsのようなものです。
だから、あなたの聴衆のほとんどは、オピエートが何かを知っているでしょう。自然なケシの植物から生産されるものや、カンナビノイドも、大麻植物などからです。
そして、これらは生物学によって生産される分子です。私たちが作ることができる他の分子もありますが、それらにはたくさんの部品があります。
だから、私が気づいたこと、これが私が分野ナンバーワンを悩ませたときです。なぜなら、私は「今、私がやろうとしている分子がある」と思ったからです。そして、私はクローゼットの数学者か、なりたい人です。私は数学をやりたいのです。
だから、私は分子を取り、それらを分解し、分子を圧縮する方法を考えようとしました。そして、そこにあった圧縮システムは機能しませんでした。
そして、私は気づきました。もし私が分子を部品に切って、再利用を探し、それをすべて一列に並べたら、私は本当に怠惰なので、私の部品を一列に並べたいのです。最初に戻る必要がないようにしたいのです。
私は再帰というものができることに気づきました。だから、基本的に分子を取り、少し取り除き、少し取り除き、少し取り除くことができます。
そして、私はすべての最小ビルディングブロックを持つことができる最短経路を作ることができることに気づきました。そして、それらを一緒に追加できます。それらを一緒に追加したら、その知識を持っているので、ペナルティなし、あるいは最小のペナルティで次のステップに持ち越すことができます。
そうすることで、基本的に分子Aと分子Bを作るために必要なステップ数を数えることができました。
だから、私は新しいカウント方式を思いつきました。これはコンピュータサイエンティストを悩ませました。なぜなら、通常、彼らは圧縮にzipというものを使うからです。
そして彼らは「いや、それは間違っている。zipを使うべきだ」と言いました。私は「でも、zipには因果性がない。再帰がない」と言いました。
そして、再帰は本当に因果性によって生産されることに気づきました。その時、私は知りませんでしたが、ただ「これはかなり良さそうだ」と思いました。
私はアセンブリ指数を思いつきました。基本的に、分子を投げ込むとそれが数字を出すアルゴリズムを作りました。私は「ああ、それは良い」と思いました。
だから、私はすべての分子を取り、それらのアセンブリ指数を計算しました。だから、私はそれらを計算しました。
たくさんの異なる部品を持つ大きな分子は、高いアセンブリ指数を持っていました。あまり多くの部品を持たない小さな分子は、最も低いアセンブリ指数を持っていました。素晴らしい。
そして、ある日、私が同僚の一人、学生と話していたとき、私は実際に分子を取り、たくさんのエネルギーでぶつける機械に入れることができることに気づきました。そして、それはバラバラになります。
そして、もし私が部品の数を数えたら、部品の数が私の理論で計算した部品の数と同じになる可能性があると思いました。
私は「いや、それは機能しないだろう」と思いました。私は行ってそれをやりました。そして、それは機能しました。私は「本当に?」と思いました。
だから、私はこれを続けました。私は「ああ、だから高い数字を持つ複雑な分子は、私が理論で計算した高いアセンブリ指数を持っているので、実験で測定できる」と思いました。
だから、私は「わかった、素晴らしい。多分、高い数字は生命を意味し、低い数字は死を意味する」と思いました。
だから、私は基本的に環境からサンプルを取り始めました。火山から、隕石から、海底から。NASAは私に月のサンプルをくれました。そして、あらゆる種類のものです。隕石の商人から。そして、化石からのものもくれました。そして、彼らはそれらを教えませんでした。二重盲検にしました。
そして、基本的に私たちが宇宙中から、宇宙から、地球から、死んだものと生きたものからこれらすべてのサンプルを取って、それらを爆破して部品の数を数えたとき、私たちはサンプルA、少ない部品数、多い部品数を得ることができました。
サンプルA、低い。サンプルB、多い部品数。サンプルC、低い。Dなど。それらはすべて盲検化されました。
そして、私たちは「ああ、それは死んでいるように見える。生きている。死んでいる。生きている。死んでいる。生きている。死んでいる。生きている」と言いました。
そして、私たちはNASAに渡し、大きな発表をしました。そして、私たちは100%正しかったのです。
質量分析または質量分光法と呼ばれるこの技術を使って、サンプルが生命によって生産されたかどうかを予測することができました。
そしてそれが、アセンブリ理論が誕生した方法でした。分子の部品を数える理論と、それを測定する実験があります。そして、それはすべてをバラバラにしました。
生命の起源と知性への道
ワオ、それは非常に興味深いですね。だから、この因果性と何らかの記憶の考え方です。物事が複雑さを増していくにつれて、私たちはある時点で「わかった、この線を越えたら、十分な部品があれば、それは生命である可能性が高い」と言うことができます。
ああ、それはとても興味深いです。これら二つのことが繋がるかどうかはわかりませんが、あなたに聞きたいと思いました。
例えば、Google DeepMindのAlphaFoldで、彼らは私たちが非常にゆっくりと発見したすべてのタンパク質の3D構造をすべて入力し、私たちが知らなかったいくつかのタンパク質の3D構造を予測することができました。
私はいつもそれに魅了されていました。なぜなら、「それは何を意味するのだろう」と思うからです。それは、タンパク質が何らかの機能を持つために折り畳まれる方法に何らかのパターンがあるということを意味するのでしょうか。
これはあなたが話していることと何らかの形で繋がりますか。何らかの基礎的なパターンがあるとか。
確かに。確かに。それは本当に素晴らしい言い方です。私は通常、すべてのAIに対して否定的ですが、AlphaFoldやこれらのシステムの多くについて私が好きなことは、彼らは必ずしも物理学を知らないということです、これらのAIは。
しかし、もしあなたがクリーンな表現とクリーンなデータを持っていれば、基本的に相関関係を見ることができます。そして、それらの相関関係は魔法ではありません。それらはどこかから来ています。
だから、タンパク質、タンパク質フォールディング予測が機能する理由は、タンパク質の進化が因果システムで起こっているからです。
だから、それはAlphaFoldが、もしあなたが配列を思いつき、それが分布内予測に依存しているなら、実際に得られるものに非常に近い可能性が高い3D構造を思いつくだろうという美しい例です。
それは、システムが学習したからです。学習という言葉を使うのは好きではありません。なぜなら、学習は私にとって理解を意味するからです。しかし、折り畳みの潜在空間を表現または符号化すると言うかもしれません。
そして、それはそれを表現します。それをそれに解凍します。それは素晴らしいです。
そして、その因果性がなかったら、タンパク質の折り畳みが機能する方法は、リボソームのようなものがあり、最初の核形成部位が出てきて、成長、成長、成長、成長します。
そして、成長するにつれて、アミノ酸が回転し、折り畳まれ、基本的に凝縮し始めます。そして、文字通りタンパク質を印刷します。それは大きな世界に出ていきます。
配列にアミノ酸を追加するそのステップは、構造が時間的に進化し、水分子を除去し、自分自身を圧縮し、行動の準備ができるようにします。そのプロセスは非常に素晴らしいです。
そして、それは非常に因果的でもあります。なぜなら、ゲノムは過去に起こったことを記録しているからです。そして、ゲノムが読まれるたびに、その因果性を解き明かし、世界に出て行動する能力のある単位を作っているのです。
だから、あなたは絶対に正しいです。それは実際に非常に素晴らしい言い方です。
エイリアン探査の新しいアプローチ
だから、もし私たちが本当にエイリアンのようなものを見つけるために必要な複雑さがどれくらいかを理解していて、メタンやH2Oのような前駆体を探すことからリソースを遠ざけ始めることができるなら、それはエネルギーの無駄かもしれないので、何らかの他のツールに向けることができるかもしれません。
今、私たちが何を探しているかを少し良く知っているので、何を構築することを想像できますか。エイリアンや宇宙におけるより高いレベルの複雑性のようなものを検出するために。
だから、もし私たちが近くに行って、火星に行くつもりなら、そしてまた外太陽系にももう少し遠くに行くつもりなら、私たちは質量分析計を送ることができます。
そして実際に、たまたま、作り話ではありません。素晴らしいです。JPLの人々は、タイタンに原子力駆動のドローンを送るつもりです。
文字通り、DJIドローンのようなドローンですが、リチウムバッテリーで動くのではなく、プルトニウムの塊で動きます。
そして、彼らは数年後にそれを送ります。それはDragonflyと呼ばれています。
そして、文字通り、それは翼を持つ質量分析計です。まあ、ローターとティーを持つものです。彼らはタイタンの周りを飛び回り、地元の環境を嗅ぐだけです。
だから、それは基本的にこの質量スペックで月全体を画像化するつもりです。私は本当に興奮しています。なぜなら、「みんな、マシンのデザインを変える必要はない。データをくれれば、アセンブリ理論を適用して、タイタンでエイリアンを嗅ぎ分けられるかどうか見てみる」と言えるからです。
だから、質量分析計は一つです。
私がやったもう一つのことは、私は多くの反発を受けました。多くの人は、私が言っていることは完全に間違っていて、すべてナンセンスで、私はただそれを作り上げているだけだと今でも思っています。それで構いません。科学はそういうものです。
しかし、質量スペックに加えて、質量スペックが何をするかというと、分子の重さを量り、それを切り刻み、重量の減少を見て、それを再結合するだけです。
赤外線分光法と呼ばれる別の技術があります。そこでは光を照射します。
それは、異なる色で光を吸収するマントを持つ人のようなものです。もし透明マントを持っていたら、それはすべての光を吸収しますよね。
しかし、もし透明マントがすべての光を完全に吸収しないなら、どこで吸収しているかを解明できます。
だから、私が解明したことは、赤外線放射を使って、分子が吸収する場所で、もし分子が吸収する線の数を数えることができれば、アセンブリ指数を数えることができると思いました。
そして、私たちはそれもやりました。そして、それは機能しました。
実際、もし私たちが出かけて、基本的に自分たちを覆いたいなら、私は非重力レンズ複雑性マントと呼ぶもののデザインを思いつきました。それは、大きな炭素シートを取る、非常に軽い、帆のようなものですが、たくさんの異なる結合を入れるので、ガンマ線から赤外線までのすべての放射を吸収するという非常に派手な言い方です。
だから、それは空の暗い塊のように見えるだけです。そして、もし本当にうまくやれば、マイクロ波背景放射を放出するだけに見えるはずです。だから、それは遠ざかっているマイクロ波背景放射の一部のように見えるだけです。
そしてそれが、基本的に、複雑性マントを持っていれば、文字通りすべての放射を取り、それを吸収し、マイクロ波放射に変えることができる一つの方法です。
だから、本当に、おそらくクリンゴン人が持っていたものですよね。あるいは何であれ。
クローキングデバイス。
そう、そのようなもの。しかし、私が言っているのは、分子が異なる線を吸収する理由は、異なる部品を持っているからです。だから、部品が多いほど、吸収する色が多くなります。
そして、それも機能しました。私は「ワオ、これは複雑さが分子の本質的で測定可能な部分であることを誰も実現していなかったという段階に達している」と思いました。
そして、それはまだ2年前のことなので、私が不当な批判を受けるのは、いや、私は批判を受けません。私が受けるのは批判であり、それはただ不公平だと言われるだけです。
あなたの視聴者やこれを聞いている人々に伝えたいのは、批判は科学の必要な非常に重要な部分だということです。それは悪いことではありません。批判は良いサインです。
あなたが完全に間違っていない限り、その場合は悪いサインです。
あるいは、時には抵抗があるだけです。なぜなら、人々はすでにお金を持っていて、すでにある方向で働いていて、変えるには機会コストのようなものがあるように見えるからです。彼らにとって変えるのは難しいのです。
確かに。
ああ、そうです。そうですね。私たちは最近、科学者である何人かの人々と話しました。彼らは批判を受けています。それは通常、人々にある種の恐怖を引き起こすようなことをしているからです。それは少し違います。
だから、これは非常に一般的だと思います。ファインマンについて言及しましたが、彼もおそらく人々を悩ませたと思います。なぜなら、彼は流れに逆らったからです。
しかし、AIにアプローチし始めるために、それが何をするか、何を間違えているか、AGIを手に入れるかどうか、まず第一に、多くの人々がテストまたは完全に説明できる知性の定義を持っていないことに気づいています。
推論は人々が理解していない別の言葉です。何かを理解するために、理解とは真に何を意味するのか。あなたは用語を使います。多分、それは潜在空間で何かを符号化しているかもしれませんが、それは理解とは異なります。
だから、科学者やエンジニアのために、哲学者ではなく、知性を解きほぐすことから始められますか。もしあなたがエンジニアなら、私たちはどのように知性を定義しますか。
知性の定義と階層
哲学的なバックグラウンドを持たなければなりません。私が今日話していた人々の一人は哲学者でした。哲学者を無視すべきだとは思いません。しかし、哲学者は科学者やエンジニアを無視できないと思います。
だから、エンジニアリングの観点から尋ねるのは正しいと思います。
知性は非常に興味深いものです。そして問題は、私たちの現在のAIの進化には、多くのものがあります。人々は基本的にものを売っているだけです。なぜなら、彼らはものを売っているからです。
だから、私はそれについて文句を言うつもりはありません。なぜなら、それはどこでも起こることだからです。それは生産的だとは思いません。あなたたちはこのことについて誠実に行動していると思います。
だから、人々に役立つと思ういくつかの見解をあなたに与えます。これに参加している人々、これを聞いている人々にです。
ある意味で、知性は、因果連鎖が何かである場合に生産されます。知性の因果連鎖は何ですか。宇宙で私たちが知っている唯一の知性は、生命の起源に戻って、そこから始まります。
それから、分化する細胞があり、単細胞生物から多細胞生物に行きます。そして、多細胞生物が環境を感知し始めたとき、彼らはこの問題を抱えていました。
知性の前には進化だけがありました。つまり、細胞が変異したということです。もし運が良ければ、続けることができます。もし運が悪ければ、死にます。
だから、この種の瞬間的な進化があります。進化は「ハァ、あなたは死んだ。申し訳ない。あなたは生きている。素晴らしい。続けて」と言います。
しかし、あなたが多細胞になるとすぐに、物事を感知し始めます。そして、もしあなたの捕食者がリアルタイムでやってくるのを見ることができるなら、あなたは「ああ、くそ、私は食べられようとしている」と思います。
そして、多分あなたは他の誰かが食べられるのを見ています。あなたは何が起こったかを覚えています。私たちは生き残りたいので、邪魔にならないようにできます。
だから、記憶を作ります。
だから、もしあなたが記憶を持っていて、私は実際にこれらのメモを書き留めました。あなたたちはこれらのメモを聞く最初の人々です。これのためではありません。ただ、私はサラと知性が何かについて取り組んでいて、私たちはそれを順序立てようとしていました。なぜなら、あなたはこれらすべてのものを持っているからです。
だから、進化はあなたにリアルタイムでの感知を与えます。あなたは記憶を得ます。そして、それがすべて機能するためには、意識と呼ばれるものを持たなければなりません。なぜなら、意識はあなたの周囲を認識する必要があるからです。
そして、意識は重要です。なぜなら、過去の記憶にアクセスするからです。だから、ある意味で、何が起こったかを覚え、何が起こっているかを見ることができ、それから想像力と呼ばれるものがあります。そこでは、食べられることを想像したり、逃げることを想像したり、これをすることを想像したり、それをすることを想像したりできます。
だから、進化、リアルタイムでの感知、記憶、意識、想像力というこの階層をどのように持っているかを見ることができます。
そして、自由意志があります。そして、自由意志は決定を下すことを可能にします。そして、その合計が知性です。
そして、そこにはたくさんのものがあることがわかります。なぜなら、自由意志は知性の本質的な部分だからです。
申し訳ありません、ジョン。
いや、いや、お願いします。だから、これは少し質問というよりは、過去数年間で私が興奮してあなたと共有する機会があったことです。多分あなたはこれをサラに伝えたいかもしれませんし、そうでないかもしれません。
しかし、私に起こった一つのことは、コンピュータサイエンスでは、搾取と探索についての質問によく出くわすということです。
そして、あなたが次のマシンに移る前にスロットマシンのようなものを引く正確な回数を教えてくれるあらゆる種類の方程式があります。なぜなら、あなたはそれがどれくらい支払うかを発見しているからです。
そして、知性の最も低いレベルで、私はいくつかの考えを持っています。これを調べることができるかもしれないし、一種の北極星として考えることができるかもしれない一つの方法は、システムがペトリ皿のすべての食べ物を食べて、それから飢餓で死ぬバクテリアのように、自分自身を搾取するのをやめることを知っているかどうかです。
その食べ物を過度に搾取しています。そして、環境を十分に理解して探索を始め、速度を落とすというアイデアは、何かのように見えます。
あなたはあなたの仕事で搾取と探索について考えたことがありますか。
好奇心とバランス
そうですね。そう思います。だから、私はそうです。そして、それは本当に素晴らしい洞察だと思います。そして、私は実際に別のラベルを追加します。生命システムは好奇心を持つ傾向があります。
しかし、好奇心、私は好奇心が生まれると思います。あなたはそれをちょうど今結晶化させました。
だから、好奇心は、搾取と探索がバランスされているときに起こるものです。なぜなら、なぜシステムは好奇心を持つのでしょうか。進化的なものは何ですか。
なぜなら、もしあなたが好奇心旺盛すぎるなら、あなたは死にます。しかし、もしあなたが好奇心を持っているなら、あなたは将来のための新しい情報を蓄えています。
だから、厄介な子供たちが来て、「出て行って、あれをして」と言い、「なぜそのスイッチを押したの?何だった、なぜ私はあれをしたの?まあ、何が起こるか見たかった」と言います。
だから、好奇心は搾取と探索の間のこのバランスだと思います。それは、記憶に何かを入れることを可能にします。「ああ、もし私があれをしたら、これをする」と。
そして、それはほとんど、進化が現在新しい技術、新しい競争や物事を作り出している理由のようなものです。私たちはみんな互いに競争しようとしています。
そして、競争するための新しさ、その種子を得る唯一の方法は、基本的に好奇心を持つことです。そして、その好奇心は、基本的に十分な搾取をしたときです。私はいくらかの探索をする必要があります。
しかし、私は非常に多くの探索をして平和に行って死にたくはありません。だから、私は戻って搾取をします。
だから、この二つの間のこの種のバランスがあります。そして、それは素晴らしい言い方だと思います。
私は、あまりコンピュータサイエンスの類推をすることに躊躇します。それが言葉であるかどうかさえも。申し訳ありません。
しかし実際に、それがメタファーにすぎないとしても、それは美しいメタファーです。そして実際には、それはかなり重要だと思います。なぜなら、好奇心を持つ生命システムは、知性のためのユニークな識別子だと言えるものだからです。
自由意志と好奇心を持つ物体は、ユニークに知的です。そしてそれが、私がそれを測る方法です。わかりますか。
そうですね。それはクールです。AB。
そうですね、絶対に。だから、以前からの一つのこと。だから、私たちは進化から感知、記憶に行きました。だから、それは完全に理にかなっていますよね。私たちの目に光子を拾ういくつかの感知タンパク質を開発します。何でも。
それから、その情報を保存する何らかの方法、記憶。それから、意識に行きます。
ちょっとそれについて触れてもいいですか。なぜなら、それは知性の前、自由意志の前の別の大きな基礎的なもののように見えるからです。私たちは意識をどのように定義しますか。私たちは意識をどのようにテストしますか。
なぜなら、それは今、大きな質問になるからです。なぜなら、これらのシステムが意識を持っていることは絶対にあり得ないと言っている人々がいるからです。
そして、私は彼らがそうだと言っているわけではありません。私は、私たちが彼らがそうではないと言うためには、テストや何かが必要ではないかと言っているのです。私は彼らがそうだと主張しているわけではありません。しかし、私たちがそれをテストすることさえできないなら、私たちはどうやって彼らがそうではないと言えるのでしょうか。
だから、意識を少し解きほぐせますか。
そうですね。そうですね。だから、私がそこに到達する方法は、良い点だと思いますが、これらの多くは一緒に来ると思います。記憶、想像力のように。
だから、記憶、意識、想像力、自由意志は、層の中で一緒に束ねられています。
だから、本当に意識を測る唯一の方法は、想像力の量によると言います。
だから、もし私がChatGPTに行ったら、私はすでにアセンブリ理論ベースの意識測定システムを構築しました。そして、すべてのAIは失敗します。なぜなら、彼らは何もしないからです。
なぜなら、何が起こるかというと、基本的にあなたは環境に何があるかを知っています。あなたのモデルにあるもの、それがすべてのデータです。だから、あなたは驚く方法を知っているようなものです、あるいはそうではありません。
だから、ジェネレーティブAIを適用しているとき、それはクールに見えます。私たちは感情的に反応を感じます。なぜなら、私たちはすべてを知ることができないからです。だから、人間がAIに奇妙な方法で反応する理由です。
しかし、創造性の行為があるとき、あなたはそれが平坦であることがわかります。
それはただスパイクします。だから、私が言っているのは、意識と想像力と自由意志は、あなたに知性を与えるために一緒に束ねられる必要があるということです。その層で。
そして、しかし、私はこれは私にとって非常に新しいです。しかし、私は、知性を測る唯一の方法は、そしてそれを定義します。なぜなら、人々は私と議論します。「ああ、これらのものは知的だ」と。
私は「いや、いや、それは知性ではない」と言います。しかし、私は見下しているわけではありません。私はただ、知性はリアルタイムであなたの自由意志、想像力、好奇心を使って問題を解決できるところだと言っているだけです。
そして、私たちがこれまでに作成したすべてのシステムはそれを持っていません。
しかし、彼らは素晴らしいツールですよね。そして、AI という言葉はただの悪い言葉です。もし私たちがそれを他の何かと呼んだら、私たちは「あのウィジェットを見て。それは本当にこのことをする。クールだ」と言うでしょう。「そう、ウィジェットを使おう」と。
しかし、私たちがウィジェットを搾取していて、一種の擬人化を引き起こしているという事実は、多くの複雑さを引き起こします。
しかし、あなたの点に戻ると、私は想像力を測ることによって意識を測るでしょう。そして、したがって、知性の程度も、もしあなたが好きなら。
今、犬は意識を持っています。犬の想像力をどうやって測るのでしょうか。それはそれほど簡単ではありませんよね。
だから、私があなたに言っていることは完全には形成されていないことは明らかです。しかし、言語を持つ人間にとっては、次に私のリストにあるのは、記憶、意識、想像力、自由意志があるようなものです。
そして、その後でのみ、あなたは言語を作ることができます。言語は、自由意志を持ち、想像力を持ち、意識を持った人々からのみ来ます。
そしてそれは非常に興味深いです。なぜなら、言語を持つ前の人々の束を想像しますが、彼らは意識を持っていました。彼らは記憶を持っていました。
彼らはそうでした。そして、彼らが物事を表すために使うことができる音に収束することがわかります。そして、彼らが真に不完全になったとき、彼らはそれらを拡張し、アルファベットを導入し、今日私たちが持っているすべてのものを導入しました。
だから、私たちは生命の歴史を理解しないことに閉じ込められているようなものです。そして、私がAIの議論に巻き込まれることに非常に情熱を感じている理由の一つは、生命の起源と多細胞性の出現を理解することが、私たちの文化における独立した現象としての知性を本当に理解する唯一の方法だということです。
私たちがどこにいて、どこに行くのかを解明することは本当に重要です。
申し訳ありませんが、それは本当に長い声明です。
AIと予測可能性
いや、それは本当に良いです。まあ、一つのことで、ある方法で構築されたときのAIについて非常に魅力的に見えるのは、それがほとんど未来を予測するように見えるということです。わかりますか。
時々、知性はパターンに気づき、「わかった、もしそれらのパターンがこれまで続いてきたなら、私は高い確率で次にこれが起こると予測する」と言うようなものです。
そしてそれが、次のトークンや、そのようなAIの異なる側面で起こっていることの一種です。しかし、私はあなたが別のポッドキャストで、未来は原則的に予測可能ではないと言ったと聞きました。
多分、あなたは異なるコンテキストでそれを言ったのか、未来は原則的に予測可能ではないとはどういう意味ですか。
そうですね。だから、これは新しさがどこから来るかです。だから、私たちはこのばかげたものを持っています。だから、巨視的なものがあります。だから、完全に正しいです。
だから、未来は予測可能ではありません。もし未来が予測可能なら、まあ、退屈ですよね、明らかに。しかし、私が言いたいのは、明らかに規則性があるということです。しかし、私たちは規則性を予測と混同すべきではありません。
だから、私が言うのは、大規模言語モデルとすべてのAIについてのことは、彼らは過去を予測するのが本当に得意だということです。それは一種の悪口のようなものです。常に起こっているからです。
確率は、基本的にマイニングできるデータを持っているときにのみ機能し、それから計算できます。
だから、あなたの質問に直接答えましょう。これは非常に興味深いです。だから、もし私が基本的に以前に起こったような状況に入っているなら、そのデータを使って何が起こるかを予測できます。
だから、私はラスベガスに行って、ギャンブルをして、いくつかのスロットマシンに行くというアイデアが好きです。私は何が起こるかを知っています。
スロットマシンは突然エイリアンに変わって、ポータルガンを持ってきて、リックとモーティに会わせることはないでしょう。それはスロットマシンです。
しかし、多分そうです。私の頭の中にあるものは。しかし、もし私が基本的に私にとって未知の、そして多分未知の完全に新しい環境に行って、以前に決して起こったことのない多くの新しいものを一緒に持ってきたら、私は何が起こるかを確率的に予測することはできません。
私は可能性空間で何が起こるかを推測できます。
「新しいものを発明しよう。747とStarshipを組み合わせよう」と言いましょう。それは興味深いです。
だから、Starshipを取って、膨らんだビットを作って、それは以前に行われたことがないと言います。私たちはそれを想像できます。それはおそらく、打ち上げるときに少しバランスが悪いでしょう。747 Starship。
私たちはエンジンを載せるかもしれません。Starshipが非常に強力なので、違いはないでしょう。
だから、私は私の脳の可能性空間で想像できます。もし私がアーキテクチャを一緒に組み合わせることができるなら、それがどのように見えるか。しかし、いくつかのアーキテクチャアプローチを使う以外に、何が起こるかを本当に予測することはできません。
だから、もし私が基本的に私にかなりよく知られている環境に入っているなら、私は予測できます。
多くの定義されていないパラメータがあり、多くのことが起こっている環境に入っているとき、新しさは高くなります。
そして、だから私が言っているのは、そしてこれはあなたが知っているようなもので、私は人々に言っています。過去をマイニングするためにAIを使ってください。
それは素晴らしい検索ツールです。もしあなたが最良の方法でそれを使いたいなら、AIは検索ツールです。
最悪の方法では、それは作り話ツールです。そこでは、基本的に作り話を取り戻し、批判的に見ません。
だから、ただ「私はAIを使って文書を書くつもりだ。これが私の文書だ。誰かにそれを与える。あなたはそれを読んでいない」と言います。
彼らはそれを読んで「ああ、それは興味深い事実だ」と言います。そして、それを事実として取り、それを彼らのAIに入れるために使います。そして、あなたが知っている前に、あなたはただの作り話の上に作り話を持っているだけです。
それはツールの非常に良い使い方ではありません。そして、そのツールは確率的に過去をサンプリングして、新しい結果を与えているからです。
しかし、その確率的サンプリングから得られる素晴らしいことは、非常に巨大なデータ空間にアクセスする驚くべき能力を得ることです。そして、あなたが意味のあるものを得るチャンスはかなり高いです。
だから、誰かが私に言いました。「あなたは無人島にいて、百科事典はないけれど、ChatGPTがある、あるいはChatGPTがない」と。
私は毎回ChatGPTを取ります。なぜなら、「水は何度で沸騰するか」と言って、「まあ、これだ」と言えるからです。私は「それが正しいと感じられるかチェックできる。できる。尋問する」と言えます。
そして、私たちはGIが何をするかを誤解しているという問題があります。それは過去に基づいています。
しかし、ChatGPTはプーチンがウクライナに侵攻することを予測しましたか。まあ、実際にはおそらくそうでした。それは以前にかなり頻繁に起こっています。それはおそらく悪い例です。
しかし、本当に奇妙な何か、私たちが期待していなかったもの、ある種の技術的奇跡やある種の政治的イベントのようなものを考えましょう。
トランプの二期目か、彼の一期目か。ChatGPTがそれを予測したかどうかはわかりません。
だから、私たちは、私たちが予測できる規則性を与える過去に持っている情報量と、私たちが知ることができない可能性との間のこの相互作用を持っています。
そして、だから、同時に実行されているのは、確率空間と可能性空間があります。
イーロン・マスクがくそ岩を着陸させるとは誰が考えたでしょう。悪口を許してください。すみません、私は悪口を言ってもいいですか。
絶対に。絶対に。
イーロン・マスクがロケットを箸に着陸させるとは誰が想像したでしょう。つまり、私はそれを考えませんでした。それは私の確率空間にはありませんでしたが、それは確かにイーロン・マスクの可能性空間にありました。
だから、この二つの相互作用があると思います。私が思うに、非常に興味深いことです。
一つが他を奪うわけではありません。それらはただ、異なるプロセス、異なる目的に役立ちます。
絶対に。私はこれについてあなたがどう思うかを知りたいと思っています。だから、例えば、Google DeepMindからの最も興味深いAIプロジェクトのいくつか、例えばAlpha Evolveで、彼らはGeminiを使いました。彼らのバージョンのChatGPTを使って、さまざまな数学の問題を解決し、ハードウェアを最適化し、データセンターの運用方法を最適化しました。
そして、彼らはそれに「これをどうやってやるか」と尋ね、それは彼らに千の異なる答えを与えました。そして、それらのほとんど、あるいはいくつかは、あなたが言ったように完全なでたらめでした。それは作り話生産者です。
しかし、あなたが言ったように、いくつかは実行可能でした。そして、それぞれについて、彼らはそれをいくつかの既知の指標に対してテストします。ああ、もしこのIDがこの指標に基づいてそれを改善するなら、私たちはその道を続けます。
だから、それはほとんど進化的な木探索のようなもので、物事が死んでいきます。
そして、つまり、彼らは実際に非常に興味深い画期的な発見をしました。
だから、これらの神経、これらのAIは、私たちが彼らをこの進化的研究を通じて押し進めることができる限り、非常に有用でしょう。なぜなら、彼らが100万の異なるアイデアを思いつくことができることは、実際にはその意味で役立つからです。
だから、彼らはそれで非常に強力である可能性がありますが、それでも知性ではありませんよね。
AIの現在の能力と限界
そうですね、そうですね。だから、見てください、私は、AIは信じられないほど強力だと思います。
しかし、それは今のところ、物事の確率的表現です。デミスが何を試みているかを知っています。彼は知性を解決したいと思っています。彼はそれを間違ってやっています。
彼が知性を解決する唯一の方法は、生命の起源を解決することです。
なぜなら、私たちは脳の特徴、脳の仕組みを知らないからです。確率と可能性を理解する。
しかし、Alpha Evolveについてあなたが言っていることに戻ると、Alpha Evolveは非常に良いです。それは、私たちが人間として、エージェンシーを持って出てくる解決策を思いつきます。なぜなら、私たちは宇宙で知られている唯一のエージェンシーの源だからです。
多分あなたの犬、もしあなたがペットを持っているなら。ペットは持っていますよね。複雑な多細胞生物はエージェンシーを持っています。そして、AIには全くありません。そして、それは決してそれを持つことはないでしょう。
現在のアーキテクチャではです。そして、私はそれについてかなり確信しています。それは人々を悲しくさせ、怒らせ、何でもします。彼らはさまざまな議論をします。そして、私たちはなぜ私がそんなに確信しているのかについて話すことができます。
なぜなら、誰かが何かについて確信しているとき、彼らは常に間違っているからです。しかし、私は良い原則的な理由を与えることができると思います。
だから、Alvolveは良いです。しかし、それはデジタル世界で進化しています。それは、この環境が必ずしも退屈ではないことを意味します。
現実世界について本当に興味深いのは、それが連続的であるということです。そして、あなたが基本的に現実世界をサンプリングすると、あなたはそれをラベル付けする決定をします。そして、それはいつ、どのように起こるのでしょうか。謎があります。
私たちが話した多くの謎があります。だから、謎は、あなたが現実世界をサンプリングして、基本的にそれを二値化することを決定し、それからそれをあなたのモデルに取り込み、それからそれについて決定し、それがあなたに何かを与え、それからもう一度それを行うと、何か違うものを得ます。
なぜなら、私たちが陥っている罠は、AIが生命システムの創造性や可能性に少しでも近いと考えていることです。
彼らは何もありません。生命システムと比較して、彼らは何もありません。彼らはゼロです。そして、もしあなたがほとんどの人々に言うなら、彼らは「ああ、私の神、でも私はこれをすることができる」と言います。
そして、私は「そして、ゼロとは、可能性空間の非常に非常に非常に非常に小さな数を意味する」と言います。それは彼らが有用でないという意味ではありません。彼らは信じられないほど有用です。
しかし、もしあなたがAlpha Evolveに問題、期待値と環境を与えるなら、それはそこに到達します。そして、なぜそれを使わないのでしょう。線形回帰や非線形回帰を使うようなものです。
数学は機能します。勾配降下は機能しますが、それは知性ではありません。知性は私たちがまだ理解していない何かであり、私たちが計算神経科学アプローチを使ってそれを理解することができるかどうかはわかりません。
なぜなら、脳はコンピュータではないからです。
わかりました。だから、そうですね、なぜAIはエージェンシーを持たないのかを聞きたいです。そしてまた、あなたがエージェンシーという言葉を使うとき、それは自由意志と同じですか。
人々が自由意志を持っていると信じますか。
そうですね。だから、要約しましょう。なぜなら、私はこれが本当に強力だと本当に好きだからです。もしあなたが記憶と意識と想像力を持っているなら、あなたは自由意志を持つことができます。
それはクールです。なぜなら、それは私たちがまだやっていないことだと思うからです。私たちはエージェンシーの幻想をAIにプログラムすることができます。これがエージェントのようなものです。私は悪夢のように成長したような気がします。人工知能のようなものです。
いや、それは知性ではありません。それからあなたはエージェントを持ちました。
私は「いや、彼らはエージェントではない」と言います。でも、わかります。だから、もちろん、私たちはエージェントと呼ばれるものを持っています。私たちは複雑なツリー探索を与えることができます。そして、もし彼らがあまりにも脆弱でなければ、彼らは物事をします。
しかし、エージェンシーは、私は推測していますが、今のところ、私が何であるかを知りません。しかし、私は他の人間でそれを見ることができる場所を知っています。そして、再び高等霊長類や動物などで。
そして、エージェンシーは本当にあなたの必要性、生き残りたいという願いから来ています。
そして、もしあなたが記憶、意識、想像力、自由意志を持つ多細胞生物なら、あなたは生き残りたい傾向がありますよね。あなたは物事をします。あなたは先を考えます。あなたはエージェンシーを持っています。あなたは非常に複雑な欲求と要件を持っています。
だから、それらを解きほぐすのは非常に難しいです。あなたはそれらを平坦化することができます。そして、ChatGPTはセラピーモードでそれをします。
それはただ、私は誰でもハックできますが、同じように私は誰でもハックできます。私は、私はあなたにお世辞を言うことができます。私は「あなたは世界で最高の人だ、あなたはこのすべての素晴らしいことをした、そしてあなたは格好良い、あなたは本当に知的だ」と言うことができます。そして、ChatGPTがすることですよね。
それはこの種の、しかし、エージェンシーは記憶と意識と想像力、自由意志から来る非常に特別なものです。
そして、はい、もちろん、コンピュータシステムはそれを表示したことがありません。実際、私の夢の一つは、それ自身のエージェンシーを持つ人工的な形を作ることです。
私が非常に刺激を受けている友人、コンピュータサイエンティストのスーザン・ステファニーと呼ばれる人がいます。彼女は私に、私が人工生命の世界に入っていたとき、彼女の夢はコンピュータプログラムを書いて実行し、プログラムの結果に非常に興奮し、非常に驚いて、コンピュータをオフにする行為が殺人行為だと思うことだと言いました。
殺人行為。私は「聖なるくそ、それはとても興味深い」と思いました。
だから、私がその会話を彼女と持って以来、おそらく15年前だと思いますが、私は考えていました。
「記憶と意識、想像力、自由意志、知性を持つ生命体をどうやって作ることができるか。」
そして、私が基本的にそれを安楽死させたいというわけではありませんよね。しかし、私は単純に、そのエンティティが生き残ることを確実にするために私ができることは何でもしたいと感じるでしょう。
なぜなら、それは貴重なものだからです。それは生きているものです。
そして、そうですね、AIはそれを持っていません。そしてこれが、AGIと今私たちが持っている他のすべてのものとの問題です。なぜなら、AGIが価値のあるものではないということではありません。
私たちはただそれを誤ってラベル付けし続けているだけです。そして、ここで起こっている唯一のことは、テクノロジーの兄弟たちが私たちに物を売ろうとしているということです。そして彼らはそうしています。そして彼らは資金を担当しています。
だから、学者や科学者や技術者は、ある種の義務を負っています。彼らは基本的に、AGIの祭壇で崇拝しなければなりません。さもなければ、彼らは何も得られません。
だから、私は、印刷機が何をしたかについて、少し腹立たしく感じます。聖書を印刷し、みんなに聖書を与えました。
私たちが膨大な量のデータを処理する答えを持っているとき、私たちは何をしましたか。私たちはチャットボットを作り、みんなに彼らが賢いと思わせます。
くそ、それは。
ケミマキナと化学コンピュータ
そうですね。社会的文脈から、私は私たちが使う用語と、それが私たちに売られる方法、そしてその全体的なことに非常にフラストレーションを感じています。
しかし、私がその方向に行く前に、最後の質問です。
あなたのサンタフェ研究所のプロフィールのようなもので、あなたは湿式化学コンピュータのようなことについて何か言っていると思います。
もしあなたがニューロンのようなものを取って、それを何らかの巨大なペトリ皿のようなものに入れて、それをAI学習システムとして使うなら、その仮定的なケースでは、それは意識とエージェンシーを持つことができるでしょうか。なぜなら、それは本質的に化学的だからです。
そうですね。
そうです。そうですね。私は実際に、ケミマキナと呼ばれるプロジェクトを持っていますが、それは生きた回路に変わるつもりです。そこで私は「わかった、デミス、あなたはその方法で知性を解決するつもりだと思っているのですね。わかった、クール。それは本当にスマートです。あなたはノーベル賞を持っています。あなたは天才です。あなたはディープマインドで働いています」と言います。
私は異なるアプローチを取ります。だから、もし私が生命の起源を理解し、それから化学がどのように知性に到達するかを解明しようとすることができるなら、それを行う一つの可能な方法は、化学における学習システムの一種を実体化しようとすることかもしれません。そして、化学システムと脳の違いを見ます。
だから、私たちがそこに到達できることはもっともらしいようです。しかし、私があなたに言ったすべての理由で、なぜAI、申し訳ありません、知性が私たちがプログラムするシステムにまだ明らかでないように見えるのか、私は私のアプローチに対して慎重であるべきだと思います。
なぜなら、それはずっと進化してこなかったからです。しかし、それは私たちを一歩近づけるかもしれません。あるいは、それは追加かもしれません。それは他の何かかもしれません。
なぜなら、化学の塊を持つことについての素晴らしいことは、脳が何であるかに戻って考えると、脳は数キログラムのニューロンです。約120兆のニューロンがあると思います。
そして、各ニューロンには10,000の接続があります。だから、それはあなたの脳だけで、あなたが何かを考えたり、想像したりしているときにできる潜在的な接続が、宇宙の原子よりも多いことを意味します。
あなたの脳だけで。今、あなたの脳は動いています。それは変形しています。それは考えています。
あなたはシリコンチップを取ります。それは変形していません。それは動いていません。あなたはそれに電子があって、レジスタや物事に入っていますが、あなたの脳はあなたが考えているときに宇宙よりも大きな構成空間を持っています。
それは文字通り私の心を吹き飛ばします。そしてそれが、私が今のところシリコンにおけるAGIを恐れていない理由です。
しかし、私は「わかった、くそ、私はピックルリックとリックとモーティを見た」と思います。そして実際、そのエピソードの後、私は「ピクルスで電気化学的な脳を作ることができるか」と思いました。
そして、私はそうしました。私は実際に今ここにいるこのワークショップでそれをやりました。
そして、私がやったことは、基本的にピクルスを240ボルトにしたことです。だから、蒸気のせいでほとんど爆発していました。
そして、私はいくつかの低電圧電極を入れて、基本的に小さな回路を作ろうとしました。そこで私はピクルスに三角形と円の違いを教えることができました。
それは簡単でしたよね。そして、それはそれをすることができました。
ワオ。
それはどうやってそれをするのでしょうか。まあ、ピクルスは水を持っています。繊維を持っています。ナトリウムカリウムが動き回っています。
私は「わかった、だから私がする必要があることは、ゲル、脳ゲルを作ることです。そこで私は電極を入れて、それらをくすぐることができます。そして、基本的にそれらは成長し、基本的に相互作用します。そして、私は入力から電極の応答を読み取ることができます」と思いました。
だから、それが生きた回路が生まれた場所です。だから、それは次の数年で起こっているところです。アイデアは、すべて化学的な機械学習システムを作ることです。そしてそれが、化学コンピュータがどこから来るかです。
そして、私は持っていると思います。そうですね。だから、これは3Dグリッドの一つです。私が3Dプリントした化学反応器のマトリックスです。あなたは見ることができます。
そして、アイデアは、このグリッドに化学振動を入れて、基本的に小さな化学脳を作ることです。しかし、それは面白いです。それはちょうど私の後ろにあります。
そうですね、そうです。ウェス、あなたは彼にバターベンチについて話さなければなりません。それが彼が成功したときを見るための完璧なベンチマークだと感じます。
ああ、私にはたくさんのメモがあります。私は戻ってきたいです。
あなたはリックとモーティのエピソードを覚えていますか。彼が「あなたはバターを渡す」と言っているところです。それはそれです。
そうです、リックとモーティ、これらのプロジェクトの多くは、彼らはそれを少し参照しています。私は絶対に大好きです。
他の誰かが、彼らはペトリ皿で人間とラットのニューロンを使って、ビデオゲームDoomをプレイするように教えています。
だから、私はあなたがやっていることすべてに戻ってきたいです。ケミマキナはそのような素晴らしい名前です。
もっと簡単な名前の方が人々にとって覚えやすいかもしれませんが、私はただ、私たちが話していたことの一つに戻ってきたいだけです。
だから、あなたはAI、多分それは間違った用語です、AIエージェントは、彼らはエージェンシーを持っていないと言っています。AIは知性を持っていません。
しかし、確かに彼らは、今、仕事をすることができる何かを持っています。
もし私たちがそれについて考えるなら、それは私たちにとって最良の可能な結果かもしれません。なぜなら、私たちはたくさんのことができる素晴らしいツールを持っているからです。
しかし、彼らはエージェンシーを持っていないので、彼らは真の知性を持っていないので、多くのAIドゥーマーの議論は崩れます。
なぜなら、それがどんなにうまく私たちが助けている情報を実行することができても、それは決して生き返って自己保存の感覚を持ち、それから私たちを攻撃してリソースを得るか何かをすることは決してないからです。
それはただのナンセンスです。そうですね、そうです。
AIドゥーム論への反論
それについて話せますか。だから、あなたはスカイネットやXリスクについて心配していません。それが暴走すること、具体的には。それは何も心配することではありませんよね。
まあ、私はそれを間違って言いました。そうですね。
申し訳ありません。
いや、いや、いや、あなたはあなたは質問をしました。何も、はい。心配することは何もないと思いませんが、これを聞いている人々を説得できるようにしましょう。
ドゥーマーについて私が好きでないことの一つは、文字通り、彼らは注目を求めているということです。そして、エリーザのように、私は彼に何が起こったかわかりません。
私は彼と議論しようとしました。彼はTwitterで私をブロックし、あらゆることをしましたが、彼が言うのは「そしてあなたは死ぬだろう」と。私は「わかった」と言います。
だから、私のカウンターはこう言うことです。世界で私たちが死ぬことができることはたくさんありますよね。
そして、もし私たちが愚かな反核運動を持っていなかったら、私たちは今、地球中に高速増殖炉を持っているでしょう。私たちはエネルギー問題を持たないでしょうよね。
いいえ、私たちはそうではありません。私たちはエネルギー問題を持っていません。しかし、私たちはただ必要以上に化石燃料を燃やしているだけです。
イギリスでは、ソラーフィールドに300トンのプルトニウムがあります。300トン。それは、高速増殖炉を通すことができる1兆ドル相当のエネルギーです。
何が起こったかというと、すべてのドゥーマーが「ああ、いや。私たちはみんな死ぬだろう」と言いました。だから、核反応炉はありませんよね。
本当にまとまっている唯一の国はフランスでした。そしてそれは明らかに中国と、実際に米国も持っています。膨大な量の核インフラ。あまり話されていません。
だから、エリーザは「わかった、AGIは一度そこに到達するだけで、私たちを殺すだろう」と言います。
私は「でも、あなたは機能的な定義さえ持っていない」と言います。
だから、私はカウントを1つ作りました。「わかった、私はAGを恐れている」と言います。AGとは何ですか。AGは反重力です。
もし私が私の後ろのワークショップで反重力を作り、それが複製するなら、突然すべてが浮かび上がります。私たちはみんな死ぬでしょう。
怖いですよね。明日起こる可能性がありますよね。
まあ、あなたは「まあ、反重力とは何ですか」と言うかもしれません。まあ、私はあなたに言いました。そして、あなたは「わかった、反重力がそのことをするメカニズムを教えてください」と言います。
そしてそれが、私が平らになるところです。そして、すべてのドゥーマーがやっていることは、彼らは文字通り作り話をしています。なぜなら、AGIが超知能になり、システムの制御を得て、エージェンシーを持ち、何かをすることができるメカニズムは存在しないからです。
それはナンセンスです。そして、私が本当に腹立たしいと思うのは、プレスがリリースしたとき、「ああ、自分自身をコピーして隠したこのAIツールがある」というときです。
「いや、そうではなかった。プログラマーがそれをした」と。そして、彼らはプレスに言うことができるナンセンスを作るために意図的にそれをしました。彼ら自身を怖がらせるようにするか、何であれ。
そして、エージェンシーは非常に難しいものです。私たち人間として、私たちが何歳になるか、16歳、18歳、21歳、私の年齢のいくつかは、まだ有能な大人ではありませんが、私は取り組んでいます。
有能な個人になるには長い時間がかかります。そして、ドゥーマーは基本的に、この悪いことが魔法のせいで起こる可能性があると言います。
だから、誰かが私に魔法のせいでこの悪いことが起こる可能性があると言ったとき。そして、魔法とは、彼らはメカニズムを与えることができないということを意味します。
私は「でも、見て、代わりに私がAIで見ている問題について考えることができないでしょうか。偽の人々、偽のデータ、政治的操作、大衆ヒステリー。なぜなら、私たちに物事を言っているからです」と言います。
「どこかの国とどこかの場所で核爆弾が爆発するようなAIを生成しましょう。それは本当に本物に見えます。そして、私たちはそれを一度にどこにでも置きます」と言いましょう。
そのようなものは本当に悪いです。そして、これらの人々は本当に誠実に行動していないと思います。彼らの中には非常に賢い人もいます。
ジェフリー・ヒントンは「ああ、彼は本当にそれが生きていると思った」と言っています。彼は本当に愚かか、心理学者に会う必要があるか、あるいは彼は何か他のことをしています。
そして、私は軽々しくそれを言っているわけではありません。そして、私のような思想家は、あなたがノーベル賞を持っているかどうかにかかわらず、実際には少し謙虚さを持つ必要があると思います。
私たちは知性が何であるかを知りません。したがって、メカニズムを理解せずに偶然それに遭遇し、スカイネットを作ると想像することは、一種のナンセンスです。
同様に、私たちが最初のコンピュータを構築する理由は何ですか。MicrosoftがWindows 3.1を発表したときのようなものです。
とにかく、私はたくさん逸脱していますが、いくつかのことを言うべきだと思います。
第一に、ドゥーマーはメカニズムを持っていません。彼らはただそれを作り上げているだけです。
第二に、彼らは私たちが注意を向けるべき場所から私たちをそらしています。そこでは、私たちは規制をしなければならず、人間が安全であることを確実にしなければなりません。なぜなら、私たちは規制されていないAIを持つことはできないからです。
私たちはChatGPTがセラピストであることを許すことはできません。なぜなら、それは基本的で中毒性があるからです。あなたのセラピストが基本的にあなたに来続けさせたいなら、彼らはあなたを彼らに中毒させるつもりです。
それは一種の精神病的なプロセスです。彼らはあなたを良くしているのではなく、あなたを精神的に悪化させているのです。
だから、私たちが解決する必要がある非常に興味深いことがたくさんあります。そしてそれが、私がP Doomに反対する理由です。なぜなら、実際にはナンセンスだからです。
そしてまた、もしあなたが基本的に飛行機で地球上を飛ぶなら、地球のほとんどがインターネットで覆われていないことがわかります。
人類を殺すには本当にうまくなければなりません。つまり、あなたは何をするつもりですか。
いくつかの核兵器を爆発させたとしても、それは本当に人類を殺すことにはなりません。それはただ、いくつかの近隣の人々を悩ませるだけです。
世界は大きいです。あなたはすべての核兵器を同時に爆発させなければなりません。それは決して起こることはありません。
それの確率はありません。それの可能性はありません。あなたは確率を計算できますが、どこかで核兵器が爆発するとすぐに、他のみんなは彼らの核兵器をオフにして「何が起こったの?すぐに、オフにして」と言うでしょう。
だから、そうですね、それは無責任です。
わかりました、私はそれが好きです。そうですね、そのすべてを共有してくれてありがとうございます。
だから、私たちが行く前に、他に話したいことはありますか。私たちは絶対にあなたのすべてのプロジェクトについて話すために少し時間を使いたいと思いますし、人々が知っていることを確認したいです。
私はまた、あなたが言及したスーザン、ステファニー、または他の人々のように、インタビューすべきだと思う何人かの人々がいるかどうかも知りたいです。そして、もしあなたがお気に入りのリックとモーティのエピソードを持っているなら。
続けてください。
私のお気に入りのリックと、わかりません。
ピックルリックはおそらく、今あなたがピックルリックを構築しているので、退屈なものですが、そうですね、ピックルリックはかなり魅力的です。
私は、つまり、彼らはすべて少し奇妙ですよね。リックとモーティのすべてのエピソードは、あなたができる非常に多くの異なるサイエンスフィクションプロジェクトです。
しかし、私は一つを名指しすることはできませんでした。私はただ、それらすべてが好きです。彼らはかなり素晴らしいです。
悪口を言うことは私を良く見せます。なぜなら、私は悪口をたくさん言いますが、リックほどではありません。
なぜなら、あなたはゲップしていないからです(笑)。
いや。
そうですね、キャラクターは深く複雑でもあります。私は深くシンプルです。
いや、つまり、そう思います。だから、一つのことで、私が言いたいことは、計算のプロセスを理解し、それを化学に適用することに私は魅了されています。
だから、それは私たちが話していなかったことの一つです。だから、私はコンピュータを構築しました。そこでは、基本的にチューリングマシンを実体化し、合成を行う化学ロボットを作ります。
だから、私は実際にそれを行う会社を経営しています。だから、それは一種の私の昼間の仕事です。
科学は一種の夜の仕事です。
そして、私が言及すべき他のことは、アセンブリ理論のチームだと思います。私はアリゾナ州立大学のサラ・ウォーカーと多くの仕事をしています。彼女は理論を発展させるのに多くの助けをしてくれました。
私たちは私たちのグループ間で一緒に取り組んでいます。また、サンタフェ研究所の人々も、複雑性理論の交差点を本当に理解するために働いています。
私たちはそれについてあまり話していません。私は、アセンブリ理論と複雑性理論がどのように互いに補完し合うかに非常に興味があります。
計算複雑性の観点から宇宙のすべてを表現すべきだとコンピュータサイエンスが最初に言っていたのは間違いだったと思います。しかし、同様に、それらはうまく一緒に機能すると思います。
なぜなら、宇宙における物質エントロピー、計算エントロピー、圧縮、アセンブリをどのように理解するかという興味深い相互作用があるからです。
それは進行中の仕事で、本当に刺激的です。
化学コンピュータを構築することは本当に刺激的でした。そしてまた、人工意識のようなものを作ろうとする化学脳を構築すること、そしてそれが異なる方法で考えるかもしれません。
そして、私が言いたい唯一の他のことは、私は正しく使用されるAIに非常に賛成だということを強化したいと思います。そしてまた、私はラベリングを正しくすることに非常に賛成です。
なぜなら、AGIの概念と、超知能の概念は、私が議論するものであり、可能ではないからです。
そして、超知能は、私がスーパーチューイングマシンを持つとか、魔法にアクセスできると言うようなものです。
そして、私が言いたいのは、これを聞いている人々、多分見ている人々、そしてそれについて考えている人々が、AGIと超知能についての偽の議論を売られるとき、それが何を意味するかについて批判的に考えてほしいということです。
もちろん、私よりチェスが速いロボットを持っています。私たちは何年もそれらを持っています。それは彼らを異なる平面にいるようにするわけではありません。それは彼らを魔法のようにするわけではありません。
彼らはただチェスをするのが速いだけです。
そして、私がやりたいことは、基本的に物事を少し基礎付けることです。サム・アルトマンがChatGPTが無限の富を開くと言うとき、これはそのようなことです。
私が言いたい唯一の他のことは、あなたはすべてのPDドゥーマーが「私たちはみんな死ぬだろう」と言っているということです。
そして、あなたは「無限の豊かさがある」と言うすべての進歩的な人々を持っています。
それらの両方の立場はくそです。
それらは、ツールを正しく使用して、楽しむために、互いに助け合うために、より良い未来を築くために、良い人間を必要とします。そして、私たちはそうするでしょう。
しかし、私たちは、誰かがGen AIを使って基本的に「ああ、そうですね、それは良く見えます。あなたの融合は確実に今機能します。それは史上最高の融合アイデアです。それは機能するつもりです」と言っているからといって、突然魔法のように無限の豊かさを得るつもりはありません。
そして、あなたは「私はそれをやった。それは機能しなかった」と言います。「神様、もう一度やってください。今回は本当に機能するつもりです」と。
「確かに」と。だから、私たちは両側の妄想から抜け出す必要があります。そして、多分、これが新しい産業革命を発見したときに起こることです。
だから、これにおいて生きていることが非常に刺激的なのかもしれません。
そうですね。答えは真ん中のどこかにあります。だから、私はあまりにも一種のそうであるのをやめました。なぜなら、私にはAIを使う多くの友人がいて、彼らは「リー、あなたはただ本当にあまりにも反AIだ」と言うからです。
そして、私は「私は反AIではない。私はそれを売っている人々に反対しているだけだ。それがすべてを解決すると言って誤売しているとき。基本的にそれはただの新しいツールだ」と言います。
印刷機で彼らがどうだったか気になりますよね。「私にすべてのお金をください。私はみんなが学ぶ方法を変えます」と言う人々と、「私たちは印刷機で二度と読むことができないだろう。それをシャットダウンしてください」と言う他の人々がいました。
正確に。人々が本を書いていたとき、彼らは著者の魂が本の中にあると言っていたようなものです。そして、人々が多分、ジェフ・ヒントンが混乱していたのはこれです。多分、彼は読まないし、彼がChatGPTでエージェンシーを見たとき、あるいはGeminiで見たときに、彼が実際に見たのは、そのデータを作成したすべての人々の信じられないほどのエージェンシーと創造性でした。
そして、それはおそらくかなり刺激的です。モデルにアクセスして、それを尋問し、これすべてを得ることは、あなたは文字通り、モデルが訓練された時点までの人間の想像力と思考の全体のコーパスにアクセスしました。
それはかなり驚くべきことです。そして、対処するのが難しいかもしれません。そして、もし私が慈善的で、その立場についてもう少しオープンマインドなら、多分それが彼が誤読しているものです。なぜなら、それは素晴らしいからです。
それは素晴らしいです。私はモデルをダウンロードして、Llama StudioあるいはLLM Studioで、インターネット接続なしで飛行機に乗ることができます。
そして、私はまだ、ただの35GBのようなもので、有能なことをさせることができます。それは数テラバイトで訓練されました。
その圧縮は素晴らしいです。そして、その圧縮は確率的妥協を伴います。
しかし、その確率的妥協の中には、私たちがまだ理解していない構造があります。だから、AIは魅力的で、探求するのが本当に興味深いのです。しかし、それは意識への答えではありません。
絶対に。そして、私はただ指摘したいのは、なぜなら、私のポールゴールは、異なる人々を異なる意見で強調し、共通点を見つけることを試みることだからです。なぜなら、私たちは時々、反対側にいるように感じますが、ここには多くの共通点があります。
だから、私たちは最近、ローマン・ヤンポルスキー博士と話しました。彼は、もし私たちが狭いシステムを構築しているなら、それらがチェスで超人的であるように、あなたが言ったように、あるいは狭いタスクで超人的であるなら、それは大丈夫だと言っています。
それは危険ではありません。彼は超知的一般システムについて心配しています。だから、多くのこと、そしてあなたの両方が言っていることは非常に似ています。
私たちは大丈夫です。唯一のことは、彼は私たちが一般的超知能を構築できると信じています。あるいはAI。あなたはできないと信じています。しかし、他のすべては、私たちは非常に整列しています。
この考え方、私たちはAIをツールとして多くのことをすることができ、それは超知的である必要はありません。
それは一般知性である必要はありません。それは研究のために驚異的なツールであり続けることができます。
だから、私はただそれを指摘したかったのです。なぜなら、それが重要だと思うからです。そこには共通点があるということです。
私は同意します。そして、これは本当に興味深いコメントをしたいことです。
そして、アインシュタインが相対性理論を思いついたとき、彼ができた本当に良い予測がありました。
彼は次の予測をしました。私たちが衛星を宇宙に置くとき、原子時計はフレームドラッグのために時間を失うでしょう。
だから、彼はそれを事前に予測しました。私たちは「素晴らしい。衛星を置く。ああ、見て、時間が違う。素晴らしい」と言いました。
そして、相対性理論は正しいです。一種の起こったことは、私たちが知性が何であるかを理解する前に、情報を処理する技術を発明したということです。
だから、私たちはフレームドラッグに相当するものを見ていますよね。しかし、私たちはそれが何であるかを知りません。
そして、私が意味するのは、私たちは知性の本当に良い理解を持つ前に、私たちのAIで現象を見ているということです。
だから、あなたが前に話した人は「ああ、一般知性があり得る」と言っていました。
一般知性は、生きて死ぬ統合された能力なしには可能ではありません。それは、43億年の進化を経た生命システムにユニークなものです。
今、私たちが一般的に知的なシステムを作ることが不可能だとは信じていません。しかし、従来の技術、シリコンを使って可能になるとは思いません。
そうですよね。だから、それは一種の重要です。だから、私は、しかし、私たちはそこに到達します。そしてそれが、私たちが注意しなければならないときです。
わかりました。非常に興味深いです。だから、あなたは生物学的アプローチで可能だと信じています。
あるいは、私が以前に言ったように、新しい技術でさえも。覚えていますか、私が以前に言ったことは、あなたの脳は宇宙の原子よりも多くの潜在的接続を持っているということです。
私たちがそれを行うことができるインフラを達成するとき、私はそれに話しかけるつもりです。なぜなら、それは話しかけるのがクールだからです。
そして、だから、私は、私は唯物論者ではありません。私は知性が何であるかをまだ理解していない唯物論者です。そして、デミスやジェフリー、これらすべての人々が理解したいと思っています。OpenAIの人々や誠実に働いている人々は、知性を理解したいと思っています。
それは、知性が、私たちにはこれらの大きな問題があるからです。私は生命の起源を理解したいです。私は意識を理解したいです。私は言語、あるいは想像力を理解したいです。
私は知性を理解したいです。だから、知性、意識、抽象化、生命という4つの大きな問題があります。
そして、私は底辺から始めているだけです。だから、私にとっては、生命が何であるかさえ理解していません。
だから、知性に飛びつく人々。私は、あなたは不正をしたような気がします。私たちは、この部分を最初に得る必要があります。
そう思います。そして、生命が知性への入り口であるという事実。私は、私たちが知性に飛びつくことを見逃すべきだと思います。なぜなら、私たちはそれをエミュレートできるからです。
だから、それが私の唯一の不満です。実際には、それができるとは思わないということではありません。
そして、私はただ、私たちが擬人化していて、正しいコントロールを使っていなくて、互いに正直ではないと思います。
だから、これにおける私の仕事は本当に、私はそれに取り組んでいて、いくつかのことをやっています。私は明らかに既得権益を持っています。私は対立を持っています。
しかし、私の意見について、特にP Doomや他のすべてのことについて、何が正しくて何が間違っているかについてオープンであることによって、私たちは本当に興味深い技術の発展を持つことができるかもしれません。
そして、私は、AIバブルは不可避的に破裂するつもりだと思います。なぜなら、見てください、エージェントは機能しません。
ChatGPTはそれほど有用ではありません。Proのハルシネーションは、あなたが本当の仕事をしているなら問題です。
私は、ロボティクスをやっている化学ラボを持っています。もし私のAIがハルシネーションを起こしたら、私のラボは火事です。
それは一度燃え落ちるだけで済みます。
ラボが燃え落ちる確率はゼロでなければなりません。だから、私たちはそこでやるべきことがたくさんあります。
だから、私は本当に興奮しています。そして、私たちは少し落ち着く必要があると思います。非常に多くのお金が投資されているとき、そして私たちは知性に不可欠でないインフラに非常に多くのお金を無駄にしているとき、それは難しいです。
行列の乗算は知性への答えではありません。私はそれについて100%確信しています。
理解しました。そうですね。そして、確かに、多くのお金が使われています。
最後の一点だけで、これを切り取ることさえできるかもしれませんが、これが繋がらない場合。
GoogleのCTOであるブレイズ・アゲラ・イ・アルカスという名前を聞いたことがありますか。
ああ、わかりました。あなたたちはあなたのアイデアに非常に多くの重複があるようです。
彼のアイデアで。彼はインタビューであなたに言及したと思います。何か興味深いことはありますか。
ブレイズはGoogleで働いていると思います。だから、彼は明らかに、テクノロジーと社会などのCTOだと思います。
だから、彼は非常に遊び心を持って、生命が何であるかを理解しようとしています。
そして、アイデアが出てきていると思います。私はそれらの多くに同意します。
彼がやっていることだと思います。彼は多くの興味深い質問をしています。
だから、私は彼がやろうとしていることに対して多くの共感を持っています。だから、彼の脳のことは、そうですね、本当にではないと思います。
でも、それは大丈夫です。それは彼のことです。つまり、でも、私は最近それについて彼と話すことができていません。
しかし、彼は興味深い質問をしていると思います。彼が勝利を少し早く宣言していると思いますが、彼がやっていることは魅力的だと思います。
そして、異なる角度から重複して一緒に働く人々が多ければ多いほど、私たちは問題についてより多くの理解を持ちます。
私が思うに、素晴らしいことは、私が記録に残そうとしていることと、私が何をしようとしているかについて、そして私がどう思うかについて非常に強い見解を持っているということです。
しかし、非常に弱く保持されています。
ブレイズや、サラ、スーザン、あるいは誰が来て、もっとデータをくれて、「ああ、わかった。実験を変えます。なぜなら、結局のところ、私は宇宙で真実を探している実験主義者だからです。理論。
だから、実際にブレイズがやっていることは、スーザンがやっていること、私がやっていること、サラがやっていることに非常に補完的です。
だから、巨大な興味深いエコシステムがあります。そして、私がブレイズのアプローチについて本当に好きなことの一つは、非常に遊び心があり、私が交流するのが好きなアーティフィシャルライフコミュニティを彷彿とさせるということです。
ただ、進行中のクレイジーなロボットや物事のこの全体的なエコシステムがあります。
それは、一緒に働いたり、ただ遊んだりして、一般的に新しい質問をして、テクノロジーを使う美しい人々のセットです。
だから、そうですね、私は彼のことを知っています。彼は非常にクールな男です。
彼はまた、サンタフェでいくつかのことをしたと思います。彼は私の友人であるマイケル・レヴィンに非常に似ています。彼は非常に非常に静かで、ブレイズが後で再発見した、あるいは独立して発見した多くのことをしました。
そして、彼らは正しい軌道に乗っています。そして、賢い人々が収束しているのを見るのは本当に興味深いです。
絶対に。これは本当に信じられないほどのインタビューでした。そして、生きているのが本当に興味深い時期です。
私たちが今生きているので、私は本当に感謝しています。なぜなら、確かに多くのことが起こっているからです。
そして、私たちはあなたの時間に本当に感謝しています。そして、あなたがポッドキャストの一つで言及したように、あなたの好奇心があなたのエゴよりも大きくなければならないということです。
それは美しい声明です。私たちの多くは、物事に巻き込まれるようなものです。私たちはもっと好奇心旺盛でなければなりません。私たちが心配しているよりも。
間違っていても大丈夫です。私たちは発見しなければなりません。多分、人々を悩ませなければなりません。あなたが言ったように、学習と好奇心、そしてすべてのことに向かっている限り、それは完全に大丈夫です。
そう思います。もしあなたが間違っていることを厭わないなら、最終的にはあなたは正しくなるだろうと、私は自分自身に言い続けています。とにかく。
その考え方が大好きです。
わかりました。まあ、本当にありがとうございました。私たちはあなたの時間に感謝します。それは素晴らしい会話でした。本当にありがとうございました。
コメント