本動画では、AIの進化が生命の本質、意識、宇宙の仕組みの解明にどのように貢献するかについて深く掘り下げている。GoogleのCTO、Blaise Agüera y Arcasへのインビューを軸に、フォン・ノイマンの自己複製オートマトン理論から始まり、生命がいかにして無秩序から秩序へと移行したかを解説する。特に注目すべきは、Brainfuckという8つのコマンドのみで構成されるチューリング完全なプログラミング言語を用いた実験である。この実験では、ランダムな状態から突如として自己複製する構造が出現し、エントロピーが急激に低下する様子が観察された。これは生命の誕生プロセスそのものを模倣している可能性がある。さらに、意識の起源については、他者をモデル化する能力から生まれるという仮説が提示される。社会集団の規模と脳の大きさの相関関係、デフォルトモードネットワークの役割、ウイルスDNAと人間の遺伝子の共生関係など、多岐にわたる科学的知見が統合され、生命が計算的プロセスであるという結論に至る。最終的には、Googleが取り組んでいるマルチエージェント強化学習の研究が、次世代AIの飛躍的進化をもたらす可能性について議論が展開される。
生命、宇宙、そしてすべての意味を探る旅
さて、今日は皆さんにとってかなり興味深い内容をお届けします。これは通常の長時間インタビューよりも少し短めですが、今日は生命、宇宙、そしてすべてについてお話ししたいと思います。基本的に、今日は皆さんに生命の意味をお伝えするということです。
クリックベイト的なタイトルに聞こえるかもしれませんが、実は私はずっとこんな疑念というか、直感というか、希望を持っていました。AIについてもっと発見していくにつれて、どういうわけか現実の本質や意識、存在の目的をより深く理解できるようになるのではないかという感覚です。AIを通じた私たちの進歩が、すべてをより深く理解するための扉を開いてくれるような気がしていました。
ディラン、あなたもそんな感覚を持ったことはありますか。それとも私だけでしょうか。
知性やAIに興味があると言うとき、それはほとんど常にその根本的な好奇心から来ています。歴史上、私たち自身を理解することの意味についてこれほど多くを学んでいる時代があったでしょうか。今私たちが手にしているツールは、心理学者たちに人間の脳、意識の本質、宇宙における私たちの役割、そしてそれがすべて物理学とどうつながっているかについて考える素晴らしい方法を提供しています。私は文字通りそのことについて非常に多く考えるので、よく眠れなくなることがあります。
それは理解できますね。私にとっても、ずっとその好奇心がありました。そして多くの機械学習研究者たちも、ある程度その信念を共有しているように聞こえることを言っているのを耳にしたとき、自分だけがおかしいわけではないんだと思いました。ここには何かがあるんです。
Machine Learning Street Talkというポッドキャストを聴いていたんですが、数日前の最新インタビューで、本当に衝撃を受けました。ゲストはBlaise Agüera y Arcasで、GoogleのCTO of Technology and Societyを務めている人物です。彼らが取り組んでいることは、かなり驚異的です。今日は簡単にそれについて触れたいと思いますし、もっと深く掘り下げた別の動画を作るかもしれません。このインタビューは本当に素晴らしいので、皆さんぜひ見るべきだと思います。
フォン・ノイマンの自己複製オートマトンとDNAの先見性
まず彼が最初に話したことについて説明します。用語を間違えたら申し訳ありません。私は今この分野を深く研究して理解しようとしている最中なので。
基本的に、かつてフォン・ノイマンという人物がいました。一部の人によれば史上最も賢い人物の一人とされています。彼は自己複製オートマトンロボットというアイデアを持っていました。これはおそらく1940年代か50年代頃のことだったと思います。何年頃だと思いますか。
そうですね、おそらくそのあたりでしょう。
彼はロボットを想像しようとしていました。レゴブロックでできているとしましょう。そのロボットが外に出てさらにレゴブロックを見つけ、自分自身のコピーを作るために何が必要かを考えたんです。彼は、レゴブロックが必要で、さらにテープが必要だと言いました。テープに書き込むためです。当時のコンピュータはそういう仕組みでしたから。これは40年代、50年代などの話であることを忘れないでください。
自分自身を構築する方法、つまり自分のレプリカを作る方法の指示が書かれたテープが必要でした。そして、そのテープを印刷して別のテープを作ることができる何かも必要でした。基本的には、別のロボットを作るために必要なレゴブロックを集め、印刷したテープのコピーを渡せば、完璧なレプリカができるというわけです。そしてそのレプリカが今度は自分自身を複製できるという仕組みです。
これって何かに聞こえませんか。私には生命の始まりのように聞こえます。RNAワールド仮説というものがありますよね。アミノ酸が自然に互いに引き寄せられるようになります。少し粘着性があって、ある種のパターンに収まるんです。そしてテープのようなものになります。4つのヌクレオチドで構成された長い情報の列です。最終的には、それを読み取るタンパク質ができて、初期のコンピュータと非常によく似たものになります。
まさにその通りです。それがまさに私の考えでした。彼はDNAを説明しているだけじゃないかと。何が大したことなのかと思いました。大したことというのは、私たちがDNAを発見したのはもっと後だったということです。ワトソンとクリック、それらはすべて後のことでした。
つまり彼は、DNAがどう機能し働くかを、私たちが発見する前に推測したんです。なぜなら、もし自己複製ロボットを作るなら、こうやって作るだろうと考えたからです。そして後になって、ああ、これはまさに自然が選んだ方法でもあるんだとなったわけです。
いずれにせよ、これは興味深いと思いました。あなたもDNAの方向に考えが向いたことが嬉しいです。しかし、私たちがDNAを発見する前に彼がその結論に飛びついたことは驚くべきことではないでしょうか。
そうですね。そして、それが長いテープ状のものである必要があり、物理的に左から右に動いて読み取るようなものである必要があるわけではありません。しかし、これらの概念をより現代的な計算手法に抽象化し始めることができます。コンピュータは今でもコンポーネントで構成されていますし、長期記憶や短期記憶、実際の処理、そしてデータを移動するための帯域幅について耳にします。その役割に当てはまる一般的な類似点はまだたくさんあります。
以前ポッドキャストで話したとき、あなたが何か言っていたことを思い出します。最初、地球には何も起こっていなかったけれど、ある時点でDNAはほとんどセーブゲーム機能のようなものだったと。メモリのようなものでした。データを保存できるようになった。それがすべてを変えました。
Brainfuck言語を用いた生命発生の実験的再現
彼らが話していることは、それと少し似ています。データを保存し、場合によってはデータを複製する方法としてほとんど機能するからです。Blaise Agüera y Arcasに話を戻しますが、名前の発音が正しいといいのですが。彼はこの実験を行いました。この実験はBrainfuckというプログラミング言語を使用しました。YouTubeがあまり怒らないように、今後はBFやBrain Freakと呼ぶことにしましょう。
この言語について聞いたことはありますか。
ありません。今回初めて名前を聞きましたが、何が特別なのか全く分かりませんでした。
もし私が間違っていたら、コメント欄で皆さんが訂正してくれると思います。それは大歓迎です。基本的に、チューリング完全な言語やシステムという概念があります。それが意味するのは、そのシステム上であらゆる種類の計算を実行できるということです。あらゆるアルゴリズムを実行できます。
たとえば、プログラミング言語を使える現代のコンピュータなら、それができます。チューリング完全です。一方、電卓のようなものを考えると、そうではありません。あらゆることを実行するのに十分なものを入力できないので、何らかの形で制限されています。
このBrainfuck言語は、90年代にある大学院生が開発したものだと思います。彼は「言語がチューリング完全であるために必要な最小限のコマンド数は何か」と考えました。そして彼はこの言語を作り、8つのコマンドを持たせました。文字通り8つの文字、8つのコマンドです。これは奇妙ですよね。
この言語を使えば、あらゆる計算、あらゆるアルゴリズムを作成できます。非常に面倒ですが、できるんです。Blaiseがどのように実験を設定したのか完全には理解していませんが、彼は短いテープを作成したようです。これらの小さなプラス記号や大なり記号。これらはBrainfuckの8文字です。
一つはポインタを上に移動し、一つは1バイト増やし、一つは最後まで行きます。彼は基本的に、これらをランダムにシャッフルし、再作成し、戻すようなテープを作りました。構造にわずかな変化をシミュレートするようなものです。これをどう説明するのが最適か考えなければなりません。
彼がこの実験をどのように行ったのか、完全には説明できません。もう一度戻って深く理解したいと思います。これは高レベルの説明です。基本的に彼は実験を実行させ、何百万回もの反復の間、それはランダムでした。出力はランダムでした。ランダムな数字、ランダムな数値。意味がありませんでした。いわば高カオス、秩序なしという状態でした。
そして、どこかで奇妙なことが起こりました。ここの画面で見ることができます。彼が言ったように、エントロピーが急速に崩壊しました。つまり、完全なカオスがあり、突然それが非常に非常に秩序だった状態になったんです。非常に速く。ここに見られるように、大規模な低下です。
彼はこれが何かと言っています。これが生命です。いわば生命の出現のようなものです。それはどういう意味でしょうか。起こったことは、どこかでランダムな偶然を通じて、ランダムな置換を通じて、無意味さの中から自己複製できる小さなものが一つ現れたんです。
それは自己複製を始め、他の何かがあるたびに、共生的な自己複製生物のようなもの、何と呼びたければそれでいいですが、時にはそれが結合しました。そして時間が経つにつれて、非常に速く、無意味さから秩序ある構造へと移行しました。これらは複製しようとすれば自明ではないアルゴリズムでした。
彼はこれが地球や他の場所で生命が出現した理由の一種だと言っています。なぜなら、それはある程度宇宙に組み込まれているように思えるからです。ここで一度止めます。これは直感的に理解できますか。
コンウェイのライフゲームと生命出現の必然性
ああ、理解できるかですか。ええ、ええ、ええ。いや、ノーでもあり、ノーでもあると言わざるを得ません。直感的には理解できないし、時には理解できないこともありますが、十分な例を見てきたので、それが起こることだと知っています。
コンウェイのライフゲームは、シンプルなチェッカーボードスタイルのゲームで、小さなコード行や方程式、シンプルなルールです。どんな形式でも書けます。何百回、何千回、何百万回と繰り返されると、生物学に非常によく似た信じられないほど複雑なパターンを作り出します。
そうですか。これはビデオでも簡単に触れられていました。彼らはそれについて簡単に言及していました。
そうですね。これは長い間私の心に残っていて、今は自然の中を歩くとき、葉や地面のリズムのようなものを見るようになりました。世界の有機的な性質には、これらすべての異なるパターンが組み込まれています。生物学では、これらすべてのことが見られます。
だから、カオスから本当に小さなパターンが生まれるというのは、コンウェイのライフゲームのクリーチャーを作れる方程式に相当するもので、ほとんど何もしないこともあれば、エントロピーに逆らう本当に驚くべきことをすることもあるというのは、信じられないことではないと思います。
考えるのが本当に奇妙なことです。なぜなら、ある時点で彼はこんな質問を投げかけたからです。花崗岩とDNAのどちらがより耐久性があるか。DNAはもちろん、DNA鎖のようなものです。DNAはもちろん非常に脆弱です。砕かれることもあります。燃やされることもあります。簡単に破壊されてしまいます。
しかし彼の主張は、時間が経つにつれて、花崗岩ができることは塵に崩れることだけだということです。十分な時間が与えられれば、何もなくなってしまいます。DNAは技術的には永遠に存在できます。なぜなら自己複製できるからです。
つまり、自己複製できるものが最も安定しているので、宇宙のすべてが安定性に向かうという考え方です。それらが生き残る可能性が最も高いのです。これは考えてみると本当に奇妙なことです。以前ポッドキャストでも触れましたが、AIについて、AIで私たちが気づいたことは、SF小説のほとんどで、昔のSF本を読むと、誰もがAIは人間が構築する超複雑なものになると考えていました。
ロケット船やF1カーのように工学的に作り上げるような、高度なロジックがたくさんあるものになると。そして今それが出現すると、私たちは「いや、実際にはそういう風には構築していない。私たちはインテリジェンスを生み出すシステムを構築している」と気づきました。
それらのニューラル接続の中で正確に何が起こっているのか、私たちは本当には知りません。ただ、それを構築するインフラをスケールアップしているだけです。でもそれは、シャーレの中でバクテリアが成長する方法や、ラボでキノコを育てる方法に似ています。それは工学的に作られたものではなく、成長させられたものなのです。
ウイルスDNAと人類進化の驚くべき関係
それに加えて、何十億年もの間、バクテリアのように、高い知能がなくても生き延びてきたウイルスについて考えると、それは自分自身をコピーでき、何度も何度も自分自身をコピーできるからです。そして進化してより強くなります。だから、自分自身をコピーして変化する環境に進化できるどんな情報も、ほとんど止められないようなものです。
そして私たちはほんの数例で、これは未来がどこに向かうかについて本当に興味深くなるところですが、生物から少しの知能が出現するのを見ています。それが実際にそれを保護できるんです。私たち人類はDNAを持っていて、それ自体は脆弱ですが、全体として、種はその様々なコピーを持っていて、人間の基本的な設計図は私たち全員の中にあります。
しかし今、私たちは環境をコントロールする知能も持っています。風やトラ、その他私たちのパターンを止めようとしていたあらゆるものから身を守るために家を建てることができます。エラー訂正コードというものがあります。コード自体を変えることではなく、その完全性を保護することについてです。
人類はおそらくDNAにある種のエラー訂正を行ってきました。私たちが繁栄できる環境を作り、食料があり、通常はリスクにさらされるであろうこれらすべてのものを私たちがコントロールする環境を作ることによって。そして今、GeminiやChatGPTのようなシステム上のニューラルネットワークの形での知能自体も、自分自身に気づき始めることができます。少なくともそれが出現し始めていて、これがすべてどう展開していくかのまったく別のレベルになっています。
後のビデオで、彼らはまさにそれについて話しています。彼らは潜在的に意識がどのように出現したか、彼がどう説明するかについて話しています。繰り返しますが、このインタビューを聞いて、私はただ圧倒されました。この人がすべてについて正しい可能性があるというのは驚くべきことです。なぜなら、その多くが私たちが学んでいるすべてのことに非常によく当てはまるからです。
彼が言っていたのは、意識は他人をモデル化できることから出現するということです。他人や自分が気にかけているものをモデル化できることから。こう考えてみてください。人々や猿の部族がいるとしましょう。
彼らが協力できるようにするためには、もし私たちが一緒に働いているなら、私はあなたが何を考えているか、何をしようとしているか、何に興味があるかなどを予測しなければなりません。あなたと一緒に働くために、私はある程度、あなたの考えを私の心の中でモデル化しなければなりません。
同時に、それができるようにするためには、自分自身もモデル化しなければなりません。自分の心を。私は何をしようとしているのか。もし私がこれをしたら、ディランは何をするだろうか、など。考えてみれば、相互作用が複雑になればなるほど、脳も複雑にならなければなりません。
Blaiseの別の講演、TEDトークだったと思いますが、それを見たとき、彼が使った画像を素早く引き出してみます。彼が使った画像と同じかどうかは分かりませんが、おそらく同じことを表していると思います。社会皮質について話しています。平均的な社会集団のサイズと脳のサイズの関係です。
基本的に、あなたのグループが大きければ大きいほど、いわば社会が大きければ大きいほど、脳のサイズはそれと相関する傾向があります。つまり、社会の中で共存し、他人を理解し、多くの人々と機能できるようにするためには、私たちは脳をレベルアップさせて大きくしなければならないということです。
心の理論とデフォルトモードネットワークの役割
考えてみてください。自分自身の脳をモデル化する能力、つまりプレゼンテーションをすることに緊張していると考えているとき、自分が考えていることに気づくこともできます。ああ、私はこのプレゼンテーションについて緊張していると考えていることに気づいている、と。
そして、自分自身を本当に理解するために、このような自己反省的なループをたくさん行うことができます。でも、彼が言っているポイントは、そこから意識が出現するということです。すみません、いや、どうぞ。
これは興味深いですね。爆弾を落とす前に、どうぞ。
分かりました。これは私にとってかなり直感的に正しいと感じます。なぜなら、心の理論は理にかなっているからです。もしあなたがよりシンプルな生物で、競争相手、他のバージョンのあなた、他の人間、他の何でも、時間をさかのぼって、あなたがどんな動物であっても、「よし、もし私がその他の者が何をしようとしているか予測できれば、それは重要だ。なぜなら、私は彼らより先に食べ物に到達できるかもしれないし、彼らが何をするか理解できるかもしれない」と言い始めるでしょう。
そしてそれはより多くの子孫を意味し、それからさらに上手になり、協力について考え始めるでしょう。協力もそこから出現する可能性があります。実際に一緒に働けば、もっと食べ物を手に入れる方法があると言って。
それがどのように進化してきたか理解できますし、実験として、私が心の理論について初めて学んだとき、あるいは私たちが初めてそれについて深く考えたときだったと思いますが、数年前に試したことがあります。他人の立場に立って自分の心の中にいるのは非常に難しいです。
何か、そして家で実験してみてください。パートナーの立場に立って、自分を見返している自分を想像してください。そして、その人は怒っているだろうか、それとも私が言ったことが誰かを怒らせたのだろうかと質問してみてください。彼らとして自分を想像してください。
ほとんどデフォルトで、自分の心の中にはいられないような感じです。もしあなたがそのアヒルとウサギの画像を見たことがあるなら、あなたの脳は一度に一つしか解釈できないような感じです。心の理論について何かがあって、私は他人の立場に立つことができるか、自分の立場に立つことができるかのどちらかですが、同時には無理だという感じがします。これがある程度正しいという証拠をより多く与えてくれる傾向があります。
そうですね。私たちが別の部分にアクセスしているようなものです。最近、私は脳のデフォルトモードネットワークについてかなり読んでいます。これは絶対に魅力的です。なぜなら、私たちの脳には異なる部分、異なるネットワークがあり、何をしているかによってアクセスされるからです。
タスクポジティブネットワークのようなものがあります。名前をすべて忘れていますが、基本的に何かをしているとき、脳のその一つの領域が活性化し、何をしているかによって脳の異なる領域が活性化します。しかし、何もしていないとき、タスクに従事していないとき、脳は言わばデフォルトモードネットワークに入ります。
それはアイドリング状態を意味すると思うでしょう。何もしていないので落ち着くと。実際にはまったく逆です。多くの場合、より多くのエネルギーを消費します。より活性化されます。これは奇妙です。私たちは、それが脳の中でこれらすべての異なるものを取り、自分自身の一貫した表現を作る部分だと信じています。
それはあなたを誰であるかにするものです。この人が私についてこう言った。それは自分自身のモデルにどう当てはまるのか、のような感じです。それはすべてを一つに統合します。デフォルトモードネットワークは、私たち自身をモデル化できるものです。
だから、あなたに深い質問をするとき、「さて、あなたは何をしますか。この種の倫理的な状況であなたは何をしますか」と、デフォルトモードネットワークが活性化します。なぜなら、私は何をするだろうか、という感じだからです。それが私たちを、これらすべての他のものに基づいてモデル化するものです。それは驚くべきことだと思いました。
そうですね。それに付け加えて、長期記憶についてのAnthropicの研究があります。先週からのものですが、私は次のビデオでそれをカバーしています。彼らはモデルが実際に長期的に考えられるようにする方法を見ています。より先を計画できるように。現在すべてのLLMの弱点の一つです。
実際のところ、これまでのところ最良の解決策は、最初にそれを訓練するためにモデルにデータを入れるのと同じ方法で、現在のモデルにその履歴について教えるようです。しかし、それについて考えて私たちと比較すると、それは5年前や7年前のWes Rothについて振り返るとき、あなたは実際にはその履歴を学んだだけで、それはすべてその場で生成されたものだということを示唆しているようです。
これらのモデルがそうなる方法のようです。彼らはサーバー上にいて、起動されて目を覚まし、彼らが覚えている記憶は何であれ、それがすべて一つの一貫したもののように覚えています。そして、私自身について考えるたびに、私は過去のように感じられる方法で自分自身についての知識にアクセスしているだけではないのかといつも疑問に思います。
しかしそれは書かれた記録ではありません。Anthropicのclaudeモデルが覚えているであろう情報のデータベースでさえありません。彼らはそれを学んでいて、それはすべてその瞬間に再構築されているのです。
そして、その点について、あなたは自分の過去を見たことがありますか。もしかしたら少し悪い場所にいて、少し落ち込んでいるとか、あるいはその反対で、超幸せでエネルギーに満ちていると感じているとき、自分の人生のある時点を振り返って、まったく異なる意味を引き出したことは。同じことが起こったにもかかわらず、あなたはそれを体験したり、単に違う気分だからというだけで、まったく新しい意味を与えたりします。
ええ、絶対に。そして、特定の感情状態にあるとき、あなたを悩ませていたことのいくつかを振り返るのは健康的なようです。なぜなら、ええ、実際には多くの教訓を学んだし、今それを過去のものにできると言えるからです。そして、私は悪い気分のときにまったく逆のことをしたことがあります。ええ、あの小さなことは本当に大きな問題で、それに対処する必要があると思っていましたが、それは単なるエネルギーの無駄でした。
ああ、解き明かすべきことがたくさんあります。私たちはAIチャンネルですが、これは心理学に入り込んでいますが、繰り返しますが、私は常にAIが私たちがどう考えるか、脳がどう機能するか、人間という存在のシステムがどう働くか、私たちの意識とは何かを照らし出すと信じていました。
最も興味深いことの一つは、ChatGPTモーメントを経験し、その後スケールアップされたバージョンであるGPT-4を見たときに持ち上げたことです。それがどれほど優れていたか。それは私にとってパズルの大きな一片でした。「よし、AIはここにあり、それは巨大になる」と思いました。
強化学習が切り開くマルチエージェントAIの未来
もう一つの部分は、OpenAIからのこの小さな研究でした。彼らは4つのエージェント、2チームずつにかくれんぼをプレイすることを教えました。一方は隠れる側、もう一方は探す側で、強化学習を使って教えていました。
私に本当に際立っていた一つのことは、明らかに彼らがこのゲームでどんどん上手になっていくのを見ることができました。しかしこれを読み進めると、一つのことが明らかになります。それは一種の段階関数だということです。知能の軍拡競争です。
隠れる側がドアをブロックする方法を見つけたとき、彼らの勝率が上がりましたが、その後探す側がドアのブロックを解除する方法などを見つけました。そして彼らの勝率が上がりました。つまり、この登っていく軍拡競争のようなものでした。
両方が同時に賢くなっていたわけではありません。いいえ、一方が何かで上手になったとき、もう一方は負け始め、それを克服する戦略を見つけなければなりませんでした。
あなたが聞いたことがないかもしれない別の興味深い例があります。聞いたことがあったら止めてください。しかし、私たちの共通の祖先まで遡ると、人間、ボノボ、チンパンジー、私たちは皆、おそらく400万年前かそこらの共通の祖先を持っています。
その分岐点で、ヒト科が来て、これらすべての人間のヒト科に分岐し、最終的に私たちになったのを見ることができます。そしてボノボとチンパンジーはしばらく接続されたままでした。その後、彼らは分岐しました。
彼らがいた環境が、おそらく50万年かそこらの何年かにわたる主な違いです。大きな山脈があります。ボノボとチンパンジーの祖先の一部は、たくさんの食べ物がある緑豊かな森に行き着きます。別のグループは、食べ物がはるかに乏しい環境に行き着きます。
そして最終的に得られるのは、非常に異なる文化です。ボノボは、絆を修復するためなどにどれだけ性交するかで有名です。その社会ではメスがはるかにはるかに多くの力を持っています。彼らははるかに暴力的ではありません。
チンパンジーは信じられないほど攻撃的な階層構造を持っています。アルファは非常に明確に定義されています。すべての階段を下りていく人々は明確に定義されています。人々がトップの人々を倒すためにグループを組み、その後報酬を得るという知能があります。
乏しい環境では、法と秩序、厳格さ、より軍事的なスタイルの解決策がグループとして進化に良いことがあるという事実と比較すると、それははるかに暴力的で興味深いシステムです。それがより多くの遺伝子、遺伝子のより多くのコピーを作り出しました。
果物や食べ物が豊富なとき、これは2つの種のどちらの責任でもなく、彼らは山の反対側にいて、異なる降雨パターンがあるだけです。異なる植生があります。異なる食べ物があります。
すると、ボノボは、メスが主導するより女性志向のリーダーシップを持つようになります。メスは暴力的でない、傷つけない、より安全に見える、より安心に見えるオスと主に交尾します。食べ物についてそれほど心配していないからです。食べ物は交尾においてそれほど大きな役割を果たしていません。
そうすると、隠れる側と探す側が位置を争っている例で見られるように、これらすべての社会的変化につながります。環境自体が、個人の決定でさえなく、それがどのように進化するかの主な要因です。
少し前にあなたが言及したことの一つは、ある時点でウイルスについて少し話していました。興味深いことに、会話の中で彼らは、私たちのDNAの多くについて話していました。最終的にDNA、ゲノムの配列を決定したとき、彼らは多くのジャンクDNAを見つけました。何をコードしているのか分からないものです。
その多くはウイルス、何らかの形で私たちのDNAに追加されたウイルスDNAのようです。そしてその一部は重要な機能を提供しているようです。どうやら胎盤は、人間が出産するときの胎盤は、ウイルスの追加だったそうです。それについて聞いたことがありませんでしたが、私の心を吹き飛ばしました。
彼らがテストしているもう一つのことは、ラットやマウスでテストしています。彼らはDNAにあった特定のウイルスDNAを除去し、記憶を形成する能力を失いました。
そのインタビューのタイトルは、Machine Learning Street Talkですが、彼らはサブタイトルをA/Bテストしています。その一つは「この本はなぜダーウィンの進化論が間違っていたかを示している」のようなものです。繰り返しますが、先走りたくはありません。研究をしていないので。でも、多くが直感的に私には意味があります。なぜなら、これは生命がどのように進化するかをはるかに明確に説明するかもしれないからです。
わあ、それは本当に興味深い例ですね。聞いたことがなかったし、それは私の心に残るでしょう。記憶と人間の進化の物語は、私たちが意識の理論に本当に到達したとき、記憶のこれらすべての異なる形態を含まなければならないと思います。
各DNAの周りにヒストンというものがあります。これらのヒストンは小さなタンパク質で、DNAを折りたたむことができます。直立して折りたたまれていると、本のページを半分に折りたたむようなもので、ページ1からページ3まで読むことになります。折り目があるからです。それは一種の異なる物語です。
DNAはこれらすべての異なる方法で読まれることができるようです。しかし、DNAなので、物語自体が重要です。物語がどのように読まれるかが重要で、それらのヒストンはあなたの人生を通じて変えることができます。だからそれはエピジェネティクスです。あなたはそれらをコントロールできます。あなたの決定はそこで重要です。
ああ、何だっけ、バイオエレクトリックメモリに取り組んでいる人がいます。名前が思い出せなくて残念ですが、細胞はこれらの電気勾配のようなものを覚える能力を持っているようです。以前に免疫系細胞と戦うために一緒になった方法を。彼らは独自のタイプの記憶を持っているようです。
おそらく身体が記憶を持つ方法の例が他に100万もあるでしょう。私たちの環境にあるマイクロバイオームがあり、私たちの体は常にDNAの一部を取り込んで、後の保護のために私たちの中に保持しています。しかし、繰り返しますが、おそらくそれらの機能のいくつかは役に立ちました。
細胞内のミトコンドリアとの共生関係があり、これらの奇妙な方法で進化してきました。だから、脳内のニューロンと共に、全体のことが、ええ、単なる物語の一部になるでしょう。それらはすべて異なるタイプの記憶で、CPUやGPUやプロセッサに匹敵します。ええ、私たちは本当にすぐにこの全体とそれがどれほど広いかについて非常に異なる考え方をしなければならないでしょう。
ディランはまだこのインタビューを見る機会がありませんでした。ディラン、これはあなたのすべてを吹き飛ばすでしょう。あなたが言っていることはすべて、本当に。これを見たとき、あなたの心を吹き飛ばすと思います。なぜなら、私たちは多くの同じことについて考えていると思うし、これは私に本当により多くの配置されたパズルのピース、欠けていたパズルのピースを与えてくれたからです。
あなたが言っていること、この共生的な、あなたが使った言葉は何でしたか。
共生的です。すみません。
Blaiseは、特定の生物、特定の自己複製分子をより良く、またはより複製しやすくする生物学的共生関係について話しています。完全なカオスがあって、ある時点でこれらの自己複製分子が始まり、その後すぐにほとんど秩序に移行するのを見たのと同じように。
それは単に一つの複製分子が自分自身の10億のコピーを作っただけではありません。なぜなら、時々気づくのは、これらの共生的な、つまり一つの自己複製分子と別のもの、それらは共生的で、結合すると、さらに良い自己複製の方法を作るからです。
そして私たちは、人間のゲノムへのこのウイルスの追加を見ています。それは胎盤を作る能力です。それは何をしますか。おそらくより長い妊娠期間を可能にします。あるいはより大きな脳容量を。それはその生物の生存と繁殖の可能性にどう影響しますか。おそらく急上昇します。
より賢い赤ちゃんを持つことができます。それが事実かどうかは分かりませんが、明らかに何らかの形で複製する能力を向上させます。だから、どうでしょう。人間のDNAまたは私たちの祖先、何でも、胎盤を形成することを可能にするこのウイルスのもの、このコードの小さな塊をはるかに強力にし、はるかに複製できるようにします。
それについて考えると、進化的観点から非常に意味があります。さて、私たちが話したすべてに基づいて、特に意識がどのように出現するかというこの考えに基づいて。私たちが他人をモデル化でき、脳が大きければ大きいほど、より良く協力できます。協力だけでなく、誰かと戦争状態にあるときにも、彼らをモデル化できます。
平和的であれ否定的であれ、あらゆる種類の相互作用が、これらのより大きな脳とグループで一緒に働くより良い能力、より良い決定を下す能力を作り出します。それに基づいて、そして私たちが話したすべてに基づいて、もし推測しなければならないなら、彼らが取り組んでいるものは何でしょう。なぜなら、Blaiseは思い出してください、Googleにいます。
彼はGoogleの部門のチーフCTOで、AI関連のことに取り組んでいます。推測しなければならないとしたら、彼らは何に取り組んでいると思いますか。
ええと、ビデオを見ていないので想像できませんが、心の理論がその一部だと仮定しましょう。私の推測では、何らかの進化的システムが構築されていて、たくさんのエージェント、たくさんのGemini 3.0が環境にいて、問題を解決しようとしています。
勝者が続き、そのモデルからの重みが新しいベースラインになり、その後別の競争を行い、そのモデルからの重みが新しいベースラインになるという進化メカニズムのようなものがあります。強化学習のようなものですが、エージェント全体が進化しています。それが私の推測です。全く分かりません。
あなたは的確です。それがそれです、あるいは教えてください。
ええ。だから、私は知りません。ええ。いや、私はただ本当に驚いています。なぜなら、ええ、私たちは視聴者のために、これを事前に計画していませんでした。私はただリアルタイムで彼にこれらのことを浴びせているだけです。あなたの直感は100%正しいと思います。
もちろん、彼らはすべての詳細を共有していません。だから、これの多くは推測ですが、彼は「マルチエージェント」というフレーズを使ったと思います。マルチエージェントでの強化学習です。何らかのおそらく年間100万ドルの給料をもらっている人で、私はYouTubeから1,000ドルくらいしか稼いでいません。
いや、その人は間違いなくたくさんもらっていて、Googleの株式オプションでたくさんもらっています。興味深いことに、FacebookのMetaでAI部門で働いていたNoam Brownは、Ciceroや多くのMetaの仕事の背後にいます。
彼はOpenAIに移りました。最近、おそらく4〜6ヶ月前に、彼が話していることを言及しました。それはまさに同じことです。マルチエージェントフレームワークのための強化学習のようなもの、あるいは特定の用語がありますが、多くのエージェントです。強化学習です。
そして彼らは協力して、あるいは協力せずに一緒に働かせる方法を見つけ出そうとしているようです。しかし、私たちが話したすべてのこと、心の理論、他人が何をしようとしているかをモデル化しようとすることは、非常に可能性が高いです。かなり大きなブレークスルーを見るでしょうし、これは非常に可能性が高い次の大きなことです。どうぞ。
では、心の理論が目的関数だったのですか。それが彼が言っていることですか。エージェントは、人の決定を正確に予測できるかどうかで競争しているのですか。それが次のラウンドに進めるものですか、それとも彼は。
そうは思いません。
ああ、彼はそれについて話しませんでした。そして、Googleがこれをどれだけ発表したかは分かりません。なぜなら、これについて聞いたのは初めてだからです。だから、覚えている限り、具体的な詳細はないと思います。心の理論が目的関数だとは思いません。
これらのエージェントを協力することに優れさせようとすると出現するものだと思います。なぜなら、どうやってものを協力させますか。それはほとんど出現するものです。ああ、もしあなたが何を望んでいるか分かれば、私はより良く、これをあげるから、あなたはこれをくれと言えます。なぜなら私はこれが欲しいからです。
しかし、その思考の連鎖を持つためには、あなたが何を望んでいるか理解しなければなりません。自分自身をモデル化しなければなりません。相手をモデル化しなければなりません。そして今、ChatGPTとモデルは、おそらく心の理論のある種の類似性を持っています。なぜなら、あなたが何を望んでいるか理解しなければならないからです。
ああ、ユーザーは何を望んでいるだろう。ああ、ユーザーはこのようなものを望んでいるかもしれないと予測します。それは錯覚かもしれませんが、ある種の類似性です。しかし、それが拡大するためには、そのマルチエージェントでの強化学習が必要です。彼らが使った正確な用語を覚えていればいいのですが、それがそれです。
ええ、時々、1年前までは本当にこのように考えていませんでしたが、2030年と未来を予測しようとするとき、超知能のある世界がどのように見えるか考えていました。私は犬です。人間対、比較的に。どれだけ賢いのか。何をするのか。食料システムを修正するのか。私たちの政府を運営するのか、のように。
でも、それについて違った考え方をし始めなければなりません。ああ、実際にはこれは進化するエコシステム全体、AIエージェントの市場全体のようになると考えなければなりません。文字通り何百万、何十億、何兆もの異なるエージェントがいるでしょう。
すべてのラップトップに一つ、すべての電話に一つあるでしょう。クラウドサーバー上には、企業が構築してグループ化して問題を解決したいだけのものがあるでしょう。軍事用のもの、セラピー用のもの、これらすべての異なるものがあるでしょう。
セラピーが下手なもの、軍事が下手なもの、ロジスティクスとその展開の他のすべての側面が下手なものはキャンセルされ、次のものがそれらを置き換え、より良くなるために進化するでしょう。それは未来をさらに予測不可能にします。
しかし、それは、一部のモデルが社会をこの方向に引っ張り、一部がこの方向に引っ張るような、より多くのその種の争いがある世界につながります。私たちはこれを抑制し、これを奨励しています。異なる国々や異なるものがすべて一緒にプレイしています。
それは私にとって魅力的な全体になるでしょう。このインタビューで本当に私に影響を与えたのは、生命の形成が宇宙の現実に組み込まれているように見えるということです。知能はそれに組み込まれています。重力や物理学の他の法則のようなものと同じように基盤的なものです。
Blaise自身が言うように、生命は計算的です。だから、これらのことの多くは、私たちがここにいるのは偶然ではありません。それは起こることを期待するものです。これらの自己複製生物の形成と共生は、私たちを次のレベルに連れて行きます。
私たち人間のように、ところで、あなたの中にネアンデルタール人の血は入っていますか。
ええ、ええ。分かりません。いつもそれでからかわれます。ええ、すごい量です。ええ、私はほとんどの人よりネアンデルタール人です。ほぼ5%、4.6%くらいです。
ネアンデルタール人は非常に興味深いです。なぜなら、彼らはより大きな頭蓋容量を持っていたと思いますが、人間が得意だった何か抽象的なものがありました。全く分かりませんが、私たちがこれらすべてのものを自分たちの中に組み込む方法は非常に興味深いです。ウイルスのDNAのように。進化の連鎖上の他の種または他の枝。
彼らが種でないなら、何でも。そして、私はAIが次のものだと思います。私たち人間が一種の融合するか、力を合わせるであろう次のものです。それが私たちを次の進化的ステップに連れて行くかもしれません。
インタビューから、彼はEliezer Yudkowskyや高い破滅に同意していません。彼はそれに反対しています。インタビューを聴くべきもう一つの素晴らしい理由です。非常に肯定的で、非常に心を開くというか、少なくとも私にとっては心を吹き飛ばすものでした。人々にそれを聴くことをお勧めします。
リンクをコメント欄に残します。Blaiseに連絡を取って、もしかしたら私たちとチャットしたいか見てみます。
そうですね、そうなればいいですね。彼は絶対に驚くべき人のようです。インタビューを何度も一時停止しなければなりませんでした。何十回も。いくつかの単語を調べて、彼らが何について話しているのか理解するために。
でも今、より良い理解を得たので、これらの概念のいくつかを説明できるようになり、もし彼が参加できるなら、さらに深く掘り下げることを望んでいます。それは夢が叶うことだと思います。
ええ、今夜絶対にチェックします。そして、きっとそれを見ている間に、このインタビューで言いたかったことがたくさん思い浮かぶと思いますが、私の注意を引いてくれてありがとう。彼に連絡を取って、うまくいけばすぐに彼を迎えられることを楽しみにしています。
絶対に。さて、皆さん、この小さな緊急セッションに参加してくれて本当にありがとうございます。Wesが実存的危機を経験しています。彼は「今すぐポッドキャストを撮影して。20分で来て」と言っています。私は「わかった、何が起こっているか見てみよう。すべてはどういう意味なのか」と言っています。話してください。
ええ。いや、これは旅でした。でもええ、ディラン、本当にありがとうございました。参加してくれた皆さん、ここにいてくれて本当にありがとうございました。次回またお会いしましょう。
コメント