これは、AI起業家マックス・ベネットが著書『知能の簡潔な歴史』について論じたポッドキャスト・インタビューである。ベネットは脳の進化における5つの画期的飛躍を提示している：初期生物における操舵機能、脊椎動物での強化学習、哺乳類での新皮質によるシミュレーション能力、霊長類での心の理論、そして人類での言語能力である。各段階は新たな学習源を追加し、より複雑な行動と認知能力を可能にした。ベネットは比較心理学、進化神経生物学、人工知能研究を統合し、脳構造と新しい行動能力の関係を説明する統一的枠組みを構築している。議論は知能の定義の困難さ、AIの安全性、そして人類とAIの将来的関係についての考察まで及んでいる。
31,813 文字
もし私たちが比較心理学の全ての研究を見てみたらどうでしょうか。この分野は特にこの10年間で信じられないほど多くの研究が行われています。それを進化神経生物学の全ての研究と比較し、さらにそれらを人工知能の概念にマッピングしてみるのです。これら三つのものを比較したときに明らかになる第一近似はあるのでしょうか。
進化の物語を通して学習の源について考えてみると、以下のレンズを通して5つの画期的飛躍モデル全体をほぼ見ることができます。それは脳にとって新しい学習源を得ることの段階的な拡張だったのです。
ブレイン・インスパイアドの聞き手の皆さん、こんにちは。ブレイン・インスパイアドへようこそ。私はポールです。今日のゲストはマックス・ベネットです。マックスは複数のAIおよびテクノロジー企業を共同設立し、CEOを務めており、彼を起業家にしています。しかし、他の数え切れないほどの時間を、彼は脳関連科学の研究に費やしてきました。彼の長時間にわたる研究は、この本『知能の簡潔な歴史：進化、AI、そして私たちの脳を作った5つの画期的飛躍』という形で実を結びました。
マックスがこの後すぐに話すことですが、ここで繰り返す価値があると思います。三つの研究分野がマックスの現在の本でのアイデアに知識を統合する基礎を形成しました。比較心理学からの発見（大雑把に言えば、異なる種の脳と心を比較すること）、進化神経科学からの発見（つまり脳がどのように進化してきたか）、そして人工知能、特に機能を実行するために開発されたアルゴリズムからの発見です。
マックスはこれらの三つの研究分野から多くの研究を吸収し、彼が私たちの脳を作った5つの画期的飛躍と呼ぶものを形成しました。私たちの議論では、これらの画期的飛躍のほとんど、すべてではないにしても、何らかの形で扱います。そして繰り返されるテーマは、マックスが挙げる単一の画期的飛躍が複数の新しい能力を説明する可能性があるということです。
例えば、新皮質の進化は初期の哺乳類に、すぐには存在しないものをシミュレートまたは想像する能力を与えたかもしれません。この能力は、哺乳類が代理的試行錯誤に従事する能力をさらに説明するかもしれません。つまり、実際に試す前に可能な行動を想像することです。そして実際に起こったこととは異なる展開を想像する反実仮想学習に従事する能力、そしてエピソード記憶と想像の能力です。
この本はそのような統一的な説明で満たされており、素晴らしい読み物になっています。マックスが本の多くのアイデアについてマスタークラスのようなものを提供してくれるので、準備をしてください。マックスについてもっと学び、本へのリンクは、braininspired.co/podcast181のショーノートで見つけることができます。そこでは、もしお望みでしたら、patreonでショーをサポートする方法も学べます。いつものように、私のpatreonサポーターの皆さん、ありがとうございます。
では、マックスです。
私が最初にこれを言うわけではないと思いますが、本は『知能の簡潔な歴史』と呼ばれています。最初は簡潔だったのが成長したのでしょうか？
確かに最初は最終的になったよりも簡潔でした。面白いことに、元の原稿は350ページほどだったので、それを削って短くするのに多くの努力が必要でした。そして350ページと言っているのは脚注などを含まないものですから、はい、最も簡潔ではないという批判は公正だと思います。
それが皮肉なタイトルなのかどうか分からなかったのです。
少し皮肉を込めて残したと思います。その根底にある皮肉は、6億年の脳進化をカバーするにしては比較的簡潔だということです。
つまり、あなたは引用符付きの「実践的な」神経科学者ではありませんね。あなたは、どのように自分を表現しますか？
ラベルはいつも面白いものです。私はAI起業家だと言えるでしょう。私のキャリアはAI技術の商業化にありました。そして過去4年間で、私は神経科学に独立して本当に魅了されるようになりました。ですから、私は独学で学び、その後メールで多くの神経科学者と協力し、自分の論文をいくつか発表し、いくつかの研究室と緩やかに関わるようになりましたが、はい、神経科学での古典的な訓練は受けていません。
興味深いことです。最近、哲学者のローラ・ガドウスキーをポッドキャストにお呼びしました。彼女は本質的にフリンジ理論を専門としています。つまり、フリンジから始まり、最終的に主流になった人々や理論の歴史を見ているのです。彼女は、フリンジであろうとなかろうと、すべての理論に注意を払うべきだと主張しています。
引用符付きの「フリンジ」として始まることが多い人々の興味深い特徴の一つは、彼らが一つの分野の専門家であり、その後新しい分野にやってきて新鮮なアイデアを注入するということです。頭に浮かぶ人の一人はジェフ・ホーキンスで、彼があなたや私にも影響を与えていることを知っています。彼もその類型に当てはまります。
ある種のアウトサイダーとして、これをどのように感じていますか？多くの有名な神経科学者や分野のリーダーたちと継続的な対話を持っていることを知っているので、彼らのあなたへの受け入れをどのように感じていますか？
本当に素晴らしかったと思います。おそらく爽快なことは、私に下心がないということです。学術的なキャリアで出世しようとしているわけでも、終身在職権を得ようとしているわけでもありません。私はただ好奇心があり、このトピックに魅了されているだけです。
時として政治的な学術世界にいる人々にとって、そのことを爽快に感じてもらえると思います。人々が私を受け入れ、指導してくれる程度に本当に謙虚で光栄に思っています。私は学生の心構えを取っています。人々から学びたいのです。ジョセフ・ルドゥー、カール・フリストン、エヴァ・ヤブロンカ、デイビッド・レディッシュなどが私のメンターになってくれました。私たちは協力し始めました。ですから、コミュニティが好奇心旺盛なアウトサイダーに対して実際にどれほどオープンだったかは本当に素晴らしかったと思います。
この本は楽しいもので、非常に快適な読み物です。忍耐強く、注意深く、よく書かれています。おめでとうございます。
ありがとうございます。
なぜ進化なのですか？あなたはおそらくエンジニアリング的思考を持っていると思います。脳をリバースエンジニアリングして知能を理解するという話がたくさんあります。知能とは何かについても話しましょう。しかし、どのようにして進化が知能を理解するために重要だと考える道筋に乗ったのですか？
一般的にテクノロジーの人々は、順序だった修正のレンズを通して物事を見る傾向があると思います。例えば、私が新しいビジネス領域や新技術を起業家の視点で見るとき、物事をテクノロジーエコシステムとして見て、どのような新しいテクノロジーが導入されたかを理解しようとするのは非常に一般的です。インターネットが導入され、それが全体システムをどのように変えるか、あるいは突然指数関数的に成長するコンピュートがあり、それがエコシステムをどのように変えるかを考えます。
または製品戦略について考えます。テスラの製品戦略について考えると、高級ロードスターから始まり、Model S、そしてModel 3へと移行します。ですから、一般的に複雑さを理解するために単純な場所から始めて、今日に至るまでの修正を観察することで理解しようとする認知バイアスがあると思います。それは私が持っていた認知バイアスだと思います。
脳を理解したいという好奇心を抱き、人間の脳の複雑さの嵐に直面したとき、私はおそらく同様のアプローチを取る傾向があったのだと思います。マクリーンの三位一体脳は、脳を理解するための最も普及した進化的枠組みですが、ほぼ完全に信用を失っています。いくつかの点では不当にだと思います。マクリーンが本当に意味していたことに人々が過度に重点を置きすぎて、あまりにも人気になってしまったのです。彼は本当に第一近似として意味していました。
三位一体脳を知らない人のために概要を説明できますか？
マクリーンの三位一体脳は、ほとんど誰もが大衆文化で聞いたことがあるアイデアですが、人間の脳は脳がどのように生まれたかの進化史を追跡する三つの別々の脳で構成されているという考えです。
その核心では、脳幹が主に私たちの爬虫類脳です。これは私たちの生存本能と基本的な反射の起源で、トカゲの脳を見ると、彼らが持っているのは私たちの爬虫類脳の想定される領域だけだから爬虫類脳と呼ばれています。
次に、時として大脳辺縁系、またはマクリーンが古哺乳類複合体と呼んだものがあります。これは初期哺乳類で進化した構造で、彼はこれが私たちの感情の起源だと主張しました。
その上に新哺乳類複合体があります。これは後期哺乳類で進化した脳の部分で、新しいという意味のneoです。これが認知の起源です。
アイデアは、人間の脳がこれらの三つの層で構成されているということです。これらの層のそれぞれには行動を作る独自のメカニズムがあり、互いに戦争状態にあります。そして私たちの進化史を追跡します。ラットのような初期哺乳類は爬虫類脳と古哺乳類複合体のみを持ち、私たちや他の類人猿はこれらの三つのシステムすべてを持っています。
これがいくつかの理由で大部分信用を失っています。一つは、進化神経科学で行われた現代の研究がこれを追跡していないからです。トカゲの脳を見ると、大脳辺縁系に系統発生的に関連した構造の束が見えます。ですから、彼らが引用符付きの爬虫類脳しか持たないというわけではありません。
二つ目の問題は、これらの三つの機能—本能、感情、認知—が実際にはこれらの三つの構造にきれいに区分されないことです。想定される古哺乳類複合体には認知機能があり、おそらく脳幹にもあります。感情も新哺乳類構造から明確に現れます。ですから、これらの機能はきれいに区分されません。
しかし、私にとってよりエンジニアリング的な観点から、そして脳がどのように動作するかを機械論的に理解しようとする観点からの最大の批判は、このモデルは脳がどのように動作するかをリバースエンジニアリングするためのロードマップを実際に与えてくれないということです。
これは心理学のレンズから来ています。本能について、感情について、認知について話しているのですが、これは人工知能の世界の概念への明確なマッピングを持たず、脳がどのように動作するかを機械論的に理解するための出発点を与えてくれません。
マクリーンの三位一体脳を捨てて、その空白を埋めるものが何もありません。残されているのは、ただ本当に複雑で分からないということです。それは真実です、複雑です。しかし、第一近似には価値があると思います。なぜなら、人間の脳は進化の旅における10億の異なるノードを理解する認知能力を持たないからです。たとえそれを持っていたとしても。
第一近似は、説明力があり、完璧ではないことを理解していれば有用です。それを理解することが重要です。私は元々自分のために長い旅に出て、その後、他の人々にとって有用だと思うものに偶然出くわし、だからこそそれを共有したのですが、やりたかったことは次のようなことでした。
もし私たちがこの10年だけでも信じられないほどの量の研究が行われている比較心理学のすべてを見たらどうでしょうか。そして、それを進化神経生物学のすべての研究と比較します。つまり、脳の修正の順序について今ではかなり良い理解を持っている爆発的に成長している分野です。そして、それらすべてを人工知能の概念にマッピングします。つまり、どの能力アルゴリズムが動作し、動作しないかを理解しているということです。
これが脳がどのように動作するかを理解する方法に制約を置きます。これら三つのことを比較したときに明らかになる第一近似はあるのでしょうか？私が見つけたのは、その答えが断固としてイエスだったということです。
私たちの進化の特定の場所で進化した脳構造と、特定の新しい行動能力の出現を比較すると、一見ばらばらに見える行動能力の一群が現れます。例えば、哺乳類では、ほとんどの非哺乳類脊椎動物である魚と比較して、哺乳類が独特に持っているものの良い証拠があります。それは代理的試行錯誤です。つまり、哺乳類は可能な未来を想像できるということです。エピソード様記憶と反実仮想学習です。
これらは三つの一見非常に異なる能力ですが、哺乳類で現れる唯一の新しい脳構造は実際には新皮質です。しかし、これらすべては実際に本当に一つの新しい機能から現れるものとして理解できます。それはシミュレートする能力、現在のものではない世界の状態を想像する能力です。そして、それを未来を想像すること、過去を描画すること、代替的な過去の選択を考慮することに適用できます。
これは、これら三つの分野—比較心理学、AI、進化神経生物学—すべてを比較したときに、脳構造における新しい能力の一見ばらばらな連なりが実際に第一近似として非常によく整合される方法の一例にすぎません。
これが五つの画期的飛躍モデルの核心的アイデアでした。これは脳進化における五つの基本的なステップで、私は本当に楽しく、そして興味深いと感じました。
シミュレートすることはその五つのうちの三番目になりますね。本が非常に楽しい理由の一部は、すべてがとても整然としてきちんとしているからです。読者として、そして脳を研究する人として、あなたがこれらのことを分類していく中で—リスティクルと呼ばれるものの世界に住んでいますよね—どのようにして五つという数字に至ったのか興味があります。私たちは物事をこれらのきちんとした整理されたリストに入れたがります。あなたはそれをやりましたが、その五つそれぞれで、シミュレートで今やったように、三つの異なることを一つの画期的飛躍として統合しています。
時間をかけて全体的な五つのことを説明していただけますか？
もちろんです。まず、第一近似は、あなたの近似でどの特徴が重要または関連性があり、どれがそうでないかを決定しようとする演習であることを認識することが重要です。
例えば、モデルに複雑さを加える批判として、これは公正ですが、私の画期的飛躍二は初期脊椎動物で現れた脳構造、画期的飛躍三は初期哺乳類で現れた脳構造です。5億年前の最初の脊椎動物と1億5千万年前の最初の哺乳類の間に脳の修正がなかったと主張するのは、もちろんばかげています。
しかし、その期間を見て最も驚くべきことは、実際にいかに少ししか変わらなかったかということです。何も変わらなかったと言っているのではありませんが、第一近似を描くとするなら、その長い時間の間に多くの意味のある脳の修正がなかったのは驚くべきことです。そして哺乳類では、この劇的な新しい構造である新皮質が現れるのを見ます。
しかし、はい、あなたの言う通り、第一近似は何を含めることが関連性があり、何を簡略化のために受け入れられるかを決める演習です。説明力を犠牲にしてでも。
五つの画期的飛躍は操舵から始まります。技術的な聞き手にとっては、これは走性ナビゲーションと呼ばれるものです。最初の脳のよいモデル生物は線虫または初期の二胚葉動物です。二胚葉動物の前には脳はありませんでした。ニューロンを持つ最初の動物はおそらくサンゴに最も似ていて、神経網を持っていました。ニューロンは存在しましたが、脳はありませんでした。
なぜ脳がまったく進化したのかという本当に大きな質問を提起します。なぜ私たちにはニューロンのこの種の中央集権化されたクラスターが必要なのでしょうか？なぜ神経網だけではいけないのでしょうか？
C. elegansという線虫の最も有名な種である非常に単純化された二胚葉動物を見ると、中央集権化された脳について重要なことは、非常に明確なトレードオフを可能にすることです。線虫がどのようにナビゲートするかを見ると、C. elegansはわずか302個のニューロンしか持ちません。
それは明らかに世界をモデル化しません。見えません。光の存在または不在を検出できる光感受性ニューロンがあるだけで、レンズ型の目はありません。特定の匂いの存在を検出できるだけです。それでも、食べ物があるペトリ皿に入れると、ほぼ常に食べ物を見つけます。捕食者の匂いがあると、いつもそれから逃げる道を見つけます。
どのようにしてこれを行うのでしょうか？走性ナビゲーションは、世界を理解することなく世界をナビゲートするための信じられないほど巧妙なアルゴリズムです。その動作方法は次のようなものです。
二胚葉動物とは何かを説明すべきでしょう。二胚葉の体系計画は、中央平面に対して対称性を持つ体系計画です。人間に線を引くと、平均して右側は左側と対称的です。これは中央軸に対して放射対称性を持つクラゲの場合とは異なります。
ワームから車、飛行機まで、すべてのナビゲーションシステムは二胚葉対称性を持っており、これは偶然ではありません。エンジニアリングの観点から、前進と後退の能力を与えることでナビゲーションシステムを構築する方が効率的です。前進運動に最適化されたものを持ち、そして回転する能力を持つのです。
放射状に対称的な周囲にエンジンがある飛行構造を構築することを想像できますが、ホバリングしてどの方向にも移動できますが、それは前進してから回転する能力を持つものを言うよりもはるかに効率が悪いでしょう。
しかし、ロケットは二胚葉的ですが、放射対称的でもあり、クラゲと同様ですよね？
ほとんどのロケットは実際には二胚葉対称的です。すべてではありませんが、ほとんどがそうです。フィンを見ると、実際にはそのようなフィンを持っているでしょう。でも、あなたの言う通り、放射対称的なシステムを構築することもできます。しかし、ほとんどのナビゲーションシステムが二胚葉対称性で設計されるとより効率的であることは興味深いことです。
最初の二胚葉動物に戻ると、私たちは線虫をモデル生物として使用します。走性ナビゲーションと二胚葉対称性は手を取り合って進みます。このアルゴリズムの動作方法は、良いことの増加を検出する感覚ニューロンがある場合、それは食べ物の匂いの濃度の増加または捕食者の匂いの濃度の減少である可能性があります。つまり、物事が良くなっているということです。
そして、良いことの減少または悪いことの増加を検出する別の感覚ニューロンのセットがあります。食べ物の匂いの濃度の減少または捕食者の匂いの濃度の増加を検出する感覚ニューロンです。
これらは二つの単純なことに接続されます。前進運動を駆動する運動ニューロンは良いことの増加によって活性化され、回転を駆動する運動ニューロンは良いことの減少または悪いことの増加によって活性化されます。
悪いことから離れ、良いことに向かって回転するものがあれば、最終的に食べ物の匂いの源に向かう道を見つけるか、捕食者の匂いから離れる道を見つけるでしょう。
これについて巧妙なことは、クラゲから哺乳類の脳への跳躍は進化的に不可能だったであろう初期動物に利用可能だったということです。そのような跳躍はできません。しかし、クラゲから単に悪いことから離れ、良いことに向かう単純な脳への移行は利用可能でした。
これに脳が必要な理由は、トレードオフを作る能力が必要だからです。例えば、線虫をペトリ皿に入れることができます。これは私のお気に入りの線虫実験の一部ですが、ペトリ皿の中央に銅の線、バリアを置きます。何らかの理由で線虫は銅から離れます。それらにとってやや毒性があるからです。銅バリアの反対側に食べ物の匂いを置きます。
とても素晴らしいことに、線虫はこのバリアを越えるかどうかについてトレードオフを行います。それは完全に二つのことに依存します。食べ物の匂いと銅バリアの相対的な濃度、そしてどれだけ空腹かです。線虫が空腹であればあるほど、銅バリアを越える意欲が高くなります。食べ物の匂いの濃度が高ければ高いほど、銅バリアを越える意欲が高くなります。
しかし、これは彼らが脳でトレードオフを行っていることを意味します。食べ物の匂いに興奮しているニューロンが、離れるようにしようとする銅に興奮しているニューロンと競争していることを意味します。それを行うためには、これらのことを比較するための共通の神経機械がある必要があります。線虫の脳を見ると、私たちは実際にその回路を正確にマッピングしています。
これが、そして私だけの理論ではありません。多くの人がこのアイデアを裏付けるでしょうが、最初の脳が走性ナビゲーションにおけるこの種の中央比較トレードオフメカニズムのために進化した理由です。
中断して質問してもいいですか？単細胞もそれを行うのでしょうか？分からないのですが、単細胞も。
そうですね、私は戻り続けるのですが、生物についてもっと学ぶにつれて、単細胞がいかに賢いかを学びます。彼らは学習でき、脳を持たないのです。ですから、ニューロンについて特別なことはあるのでしょうか？彼らはニューロンを持ちませんよね。同じ偉業を実行できる単細胞に対して、ニューラルネットについて特別なことはあるのでしょうか？
宇宙の生命について美しいと思うことは、それがランダム性、つまりランダムな突然変異に基づいているということです。それでも共通のことが繰り返し再現されます。これは生命についての美しい事実だと思います。
走性ナビゲーションは、動き回るほぼすべての単細胞生物に存在します。同じ原理です。しかし、大きな多細胞生物がある場合、タンパク質受容体がタンパク質プロペラの変化を駆動する走性ナビゲーションのメカニズムは機能しません。何百万以上の細胞を持つ線虫のような巨大な多細胞生物を、これらの基本的なタンパク質プロペラを使って動かすことはできません。
同じアルゴリズムが完全に異なる媒体で再現されました。それは感覚ニューロンと筋肉でした。大きな多細胞生物が動き回ることを可能にするためです。しかしアルゴリズムは同じです。これは本当に魅力的だと思います。
申し訳ありません、中断してしまいました。
いえいえ、素晴らしいです。操舵から、AI的観点から進化した一つの重要な構成要素があります。実際、私が本当に魅力的だと思う、走性ナビゲーションと線虫についてしばしば評価されていない一つの素晴らしいことがあります。それから次のステップに行きます。
線虫を見て、ドーパミンとセロトニンニューロンを見ると、これら二つの神経調節物質について多くのことが語られてきました。脊椎動物、人間にわたって本当に興味深い効果があることを知っています。しかし、線虫は報酬信号として考えるドーパミンの最初の機能への窓を与えてくれます。
線虫でこれら二つのニューロンの違いを見ると、ドーパミンニューロンは線虫の周りの細菌の食べ物を検出する感覚ニューロンです。それは探索または滞在の行動状態を駆動します。ゆっくりと回転し、局所的な制限された検索を行います。これは欲求と探求の原始的なバージョンです。
セロトニンニューロンは線虫の喉にある感覚ニューロンです。実際に食べ物を消費しているときを検出し、満腹感を駆動します。つまり、十分食べた後の一時停止と休息です。
近くの報酬を求めるドーパミンと、報酬を実際に受け取ることとの二分法と満腹、満足はセロトニンは、最初の線虫でそのアルゴリズムの青写真をすべて見ることができます。それは近くの良いもののための感覚ニューロンと、すでに起こっている良いもののための感覚ニューロンです。明らかにこれら二つのことは人間の脳でもっと複雑なことをするように精巧化されていますが、その基本的なテンプレートは動物王国全体で今でも見ることができます。私はそれがとても美しいと思います。
しかし、AIの観点から操舵から得る基本的なことは報酬信号です。操舵とともに、世界の物事を良いものと悪いものに分類することが来ます。線虫について興味深いことは、人間の脳と違って、線虫の感覚ニューロンは感情価と呼ばれるもの、つまり何かの良さと悪さを直接符号化することです。
人間の脳ではそうではありません。あなたの目の感覚ニューロンは感情価を符号化しません。見ているものが良いか悪いかを伝えません。感情価は、観察したものが実際に良いか悪いかの解釈において、脳の後の段階で符号化されます。
しかし、線虫の感覚ニューロンはそうではありません。それらは何かが良いか悪いかを直接符号化します。食べ物の匂いの増加を検出する感覚ニューロンは前進運動を直接駆動します。
最初の脊椎動物の脳に移ると、強化学習の出現が見られます。強化学習は試行錯誤を通して任意の行動を学習するこのアイデアです。AIには強化学習の非常に豊かな歴史があります。
この点で神経科学とAIの間に素晴らしい結婚が始まったと思います。多分あなたのポッドキャストの多くの人々がよく知っていると思いますが、時間差学習は脊椎動物の脳で見つけたアルゴリズムです。私たちは人間とサルの脳でこれについて話しますが、すべての証拠は時間差学習が魚の脳にも存在することを示唆しています。
あなたが魚についてたくさん書いているのを見つけて、とても興味深かったです。脳について考える際の通常の生物群ではない魚について非常によく勉強されていることが。
そうですね、魚について興味深いと思うことは、初期脊椎動物で何が現れたかを理解したいときです。初期脊椎動物で何が現れたかを理解することがとても重要だと思う理由は、新皮質の早期機能を誤って帰属させてしまうと思うからです。なぜなら、新皮質以前に存在していたものを実際に見ていないからです。
他の脊椎動物は、新皮質なしで多くの本当に知的なことを行います。新皮質なしでも複雑な物体を世界で認識するような、私たちが新皮質に帰属させる多くのことを魚が容易に行っていることに気づくと、新皮質がなぜ進化したのか、新皮質の駆動的適応価値は何だったのかという疑問が生じます。
私たちがそれに帰属させる機能が以前から容易に存在していたなら、新皮質が世界の物事を認識するために進化したと言うのは難しい議論です。ですから、魚の研究は十分な信用を与えられていないと思いますが、初期脊椎動物に存在した行動能力と哺乳類で本当に変わったことを区別しようとする際に非常に有用だと思いました。
魚の教科書がたくさんあるのですよね？
ええ、たくさんの魅力的な研究があります。例えば、新皮質が本当に素晴らしい物体検出を可能にすると考えています。哺乳類は回転や縮尺の変化にもかかわらず、ワンショットで物体を識別するのが本当に得意です。これはAIで畳み込みニューラルネットワークにやらせるために一生懸命働いてきたことです。多くの点で、哺乳類は畳み込みニューラルネットワークよりもワンショットで3D回転を識別するのがまだ得意で、哺乳類の脳がどのようにそれを行うかを実際には理解していません。
しかし、私は疑問に思いました。魚はそれができるのでしょうか？答えはイエスです。魚の脳は空間で回転されても、ワンショットで物体を識別できます。魚に特定の人間の顔に水を噴射して報酬を得るように訓練できます。その顔の回転した写真を見せても、同じ顔に向かいます。異なる生き物の写真でも同じことができます。回転したカエルをワンショットで識別します。これは畳み込みニューラルネットワークではできないことです。
畳み込みニューラルネットワークに回転した物体を識別させるには天文学的な量のデータが必要です。これは興味深いことです。なぜなら、魚の脳には新皮質がないからです。しかし、palliumと呼ばれる皮質の前駆体を持っています。
魚のpalliumに入ると、少なくとも三つの構造が見えます。それは三層構造で、私たちの嗅覚皮質、海馬に似ており、実際に私たちの海馬、扁桃体、皮質扁桃体、嗅覚皮質と同じ系統発生的起源を持っています。
魚のpalliumを見ると、ventral palliumがあります。これは皮質扁桃体に似ています。medial palliumがあります。これは私たちの海馬に似ています。そして、lateral palliumがあります。これは嗅覚皮質に似ています。
どういうわけか、この構造、またはtectumのような最もプリミティブな構造から、リアルタイムで回転と物体を識別できます。
先に飛んで哺乳類に行くと、魚がそれを行うことができ、報酬を与えることで任意の行動を明確に学習できるなら—魚にフープを飛び越えるように訓練できます—彼らは1年後にも覚えています。1年後にもこれらのトリックのやり方を覚えているでしょう。では、なぜ新皮質が初期哺乳類で進化したのでしょうか？
非哺乳類脊椎動物と哺乳類の比較心理学研究の組を見ると、三つのことが際立っています。一つは代理的試行錯誤です。これは私たちが最初に話したことです。物事を試して失敗することを通して学ぶだけでなく、行動する前に選択肢を一時停止して考慮する能力です。これはAIで私たちが上手に行う方法を理解しようとしている大きなことで、計画とも呼ばれます。
ラットでデイビッド・レディッシュが私のお気に入りの研究をいくつか行っています。迷路での位置に基づいて活性化される海馬のplace cellsをラットで記録し、ラットに迷路の異なる側に行って異なる報酬を得るように訓練すると、ラットが選択点で一時停止して嗅いで行ったり来たりを見るとき、行動する前に各選択肢を実行している海馬のplace cellsを文字通り見ることができます。
魚の脳に入ると、海馬の相同的または器官的領域であるmedial palliumにplace様細胞があります。しかし、それらは決して未来の状態を符号化しません。彼らがいる現在の状態のみを符号化します。私たちは彼らが選択肢を実行しているのを見ません。
魚がこれを行うという証拠はありません。可哀想な魚です。次の10年で魚がこれを行うことを示す研究が明らかになる可能性があるので、私たちはやや乏しい証拠で動いています。魚の脳がこれを行うことができることを誰かが発見したら非常に魅力的でしょうが、今のところ証拠は魚がそれをできることを示唆していません。
ラットが明らかに持つもう一つの能力は反実仮想学習です。デイビッド・レディッシュはRestaurant Rowと呼ばれるいくつかの素晴らしい研究も行いました。ラットにこの四つの角の周りを行かせ、これらの廊下の一つを通るたびに、右に行って食べ物を得ようとすると、すぐに3秒で放出されるか、45秒待たなければならないかを告げる音が鳴ります。
これらのラットの一部は他よりも特定の食べ物を好むことが明らかになりました。一部は味のないペレットのようなもので、一部はラットが大好きなチェリーのようなものでした。この迷路やRestaurant Rowを回ることで、ラットに不可逆的な選択を各瞬間に提示しました。この食べ物を取りに行くか、次のものに行って、45秒ではなく素早く放出されることを期待するかです。
彼が見つけたのは、ラットが本当に素早い食事を取る機会を見送ったとき—3秒でバナナを取ると言われて、でも私はもっと好きなチェリーを取りに行こうと言って、そして45秒の音が警告されたとき—それは自分の選択を後悔しているすべての兆候を示しました。それは一時停止し、眼窩前頭皮質で放棄した選択の表現を再活性化し、次回は同じ間違いをしたくないのでより待つ可能性が高くなるように行動を変えました。
これは反実仮想学習の兆候を示しています。私のお気に入りの研究の一つは、チンパンジーにじゃんけんをすることを教えることができます。じゃんけんで、あなたがハサミを出して私がパーを出すという意味でそれが負けた場合、次の動きでロックに偏向するようになります。
これは標準的な強化学習では意味がありません。標準的なモデルフリー強化学習では、パーで負けた場合、次回は同じようにロックとハサミを選ぶ可能性が高くなると予想されます。
二つの主要なタイプの強化学習があります。一つはモデルフリー強化学習と呼ばれ、私が初期脊椎動物で進化したと主張するもので、未来を実行せず、刺激に直接反応して行動するだけです。モデルベース強化学習は、行動を取ることを想像し、結果を十分に正確に予測できるほど豊かな世界のモデルを持っているという考えで、自分の想像を使って選択を行うことができます。
モデルフリー強化学習では、動物がロックを次に選ぶ可能性が高くなることを期待しません。ロックまたはハサミ、前回負けなかった二つのものを同じように選ぶ可能性が高くなることを期待します。
しかし、チンパンジーはそうしません。彼らは前のゲームで勝っていたであろう動きを選ぶ可能性がより高くなります。これは、彼らが実際に勝っていたであろう動きを想像でき、そしてそれをする偏向を持つようになる場合にのみ意味があります。
これもチンパンジーでのモデルベース強化学習の非常に強い証拠です。
最後の一つはエピソード記憶です。この言葉には多くの論争があります。エピソード記憶と言うとき、心理学の概念であるエピソード的自己の存在を意味しているのではありません。つまり、未来と過去の自分を想像する能力です。ほとんどの証拠は、それは霊長類でのみ現れたことを示唆していると思います。
しかし、私は過去の世界の状態を描画する能力を意味しています。時々人々はそれをエピソード様記憶と呼びます。しかし、それは最低でも霊長類以外の哺乳類に存在すると思います。
例えば、私のお気に入りの研究があります。エピソード記憶には二つのタイプの研究があります。一つは説得力がないと思う「何をいつどこで」記憶です。動物がそこにあったものの場所、いつ起こったか、何があったかを覚えることができるかということです。AI的背景から来ると、モデルフリー強化学習でそのようなことをどのようにできるかを考えることができるので、シミュレーションが必要だとは非常に説得力がありません。
しかし、私が説得力があると思う別のカテゴリーのテストがあります。エピソード記憶で彼らが次のことを行います。これはラットで行われました。ラットに一日を通してランダムに迷路を提示します。彼らを取り上げて迷路に入れます。その迷路で食べ物がどこにあるかは、迷路を提示される前の3分間で食べ物を食べていたかどうかに依存します。
しかし、迷路は両側の場所と同じようにペアにされているので、モデルフリーでこの迷路を提示されたときはいつも右に行って食べ物を得ると言うことはできません。それは何が先ほど起こったかに依存し、それは彼らが一時停止して何が起こったばかりかを想像し、そして選択をすることを要求すると思われます。
さらに説得力があるのは、ラットは容易にこれを行うことができますが、海馬を阻害するとこれを行うことを止めることです。海馬を阻害すると、これらの過去の出来事を描画することを防ぐはずなので、彼らは何が起こったばかりかをもはや覚えることができません。
これは、彼らがやっていることは起こったばかりのことを想像し、それを使って将来の行動を知らせることであるというかなり説得力のある証拠だと思います。
これらの三つのことは、第三の画期的飛躍であるシミュレートを包含しています。早送りして、あなたが興味を持っていることを知っているので、新皮質について話しましょう。新皮質でのモデリングや理論的研究にかなり取り組んでいることを知っているので、おそらくそこからあなたのすべてが始まったのでしょうか。シーケンシングと学習などに関して新皮質ができることについて。私たちの多くのように、人間がいかに素晴らしいかに魅了されていたのでしょうし、あなたの本は人間がいかに素晴らしいかに向けて歩んでいます。
第四の画期的飛躍は心の理論化でした。私たちは人間がいかに素晴らしいかに向けて歩んでいると思います。
興味深いのは、哺乳類から霊長類への移行で、多くの脳の変化は見られないことです。基本的に脳は大きくスケールしました。初期霊長類の脳は確実に初期哺乳類の脳よりもはるかに大きかったでしょうが、チンパンジーの脳をラットの脳と比較すると、多くの違いはありません。基本的な相互接続と基本的な脳構造は本当にすべてそこにあります。
唯一の二つの本当に異なることは、顆粒前頭前皮質と呼ばれるものの存在です。第四層に顆粒細胞があるため顆粒と呼ばれます。ほとんどの新皮質柱または新皮質の領域は六層構造ですが、初期哺乳類の脳の前頭皮質は五層しかありません。第四層が欠けており、これは人間の脳の相同領域にも存在します。
人間の脳と霊長類の脳には、顆粒である、第四層を持つ前頭皮質の領域もあります。これが霊長類に独特の顆粒前頭前皮質と呼ばれ、多くの異なる下位領域を包含します。そして、上側頭溝と側頭頭頂接合部と呼ばれる後部皮質、感覚皮質の特定の領域があります。
この二つの新しい領域、新しい前頭皮質の領域と新しい感覚皮質の領域以外に、霊長類の脳についてはあまり違いがありません。では、これら二つの新しい領域は実際に何をするのでしょうか？
この歴史は興味深いものです。なぜなら、初期には顆粒前頭前皮質が何をするのかさえ理解するのに苦労していたからです。人間がこの脳の領域に本当にひどい損傷を受けても、比較的正常に機能することができるからです。それは明白ではありません。
顆粒前頭前皮質に損傷がある人に会っても、非顆粒前頭前皮質に損傷がある場合は比較的意識を失うのに対して、そうではありません。無言症に苦しみ、話すことさえしなくなります。視覚皮質のような非霊長類の感覚皮質領域に損傷がある場合は失明します。
ですから、これらの領域に損傷がある場合はすぐに明白ですが、これらの霊長類領域に損傷がある場合ははるかに微妙です。
しかし、それらをもっと詳しく調べ、特に接続性を見ると、これらのものが行うことの合理的な説明は、古い哺乳類モデルのモデルを描画することです。顆粒前頭前皮質は直接的な感覚入力を得ません。顆粒前頭前皮質は扁桃体と海馬から直接入力を得ます。動物の感情状態についてのこのすべての入力を得ます。
顆粒前頭前皮質は非顆粒前頭前皮質からのみ入力を得ます。ですから、第一近似として、哺乳類で現れた第一次モデルの第二次モデルとして見ることができます。
この意味で、マクリーンの脳の層化の広いアイデアがある意味で適用されると思います。概念的に考えると、自分自身のシミュレーションをモデル化することの意味は何でしょうか？
元の哺乳類構造について考えると、それは現在の状態をシミュレートすること、つまり推論による知覚と呼ばれる現在見ているものをモデル化すること、または現在ではないものをシミュレートすること、つまりモデル化することです。これは広く思考と呼ばれるものです。
顆粒前頭前皮質は動物自身の思考をモデル化しているようなものです。心理学では、人々は思考について思考するという意味でメタ認知という用語を使用します。
この考え、自分自身のシミュレーションをモデル化するというアイデアは、顆粒前頭前皮質損傷から現れる無能力の良い説明の一つです。心の理論に大きな挑戦が見られるので、顆粒前頭前皮質に損傷がある人々は他の人々の現在の精神状態について考え、推論し、他者の視点を取ることに本当に苦労します。
もう一つの本当に興味深いことは、人々に世界の未来の状態を想像してもらい、海馬損傷がある人、コントロール、そして顆粒前頭前皮質損傷がある人を比較する素晴らしい研究があることです。
海馬損傷がある人は、世界の豊かな未来のシーンを想像するのに苦労します。彼らは木の色や空の豊かな詳細を説明しませんが、自分自身については容易に説明します。自分の性格特性を喜んで説明できます。
顆粒前頭前皮質損傷があるが海馬損傷がない人は、外部世界の豊かな詳細を含む、または申し訳ありません、外部世界の多くの詳細を含むが自分自身を欠く未来を説明します。この未来の状態で自分自身の自伝的自己を想像することができません。
これは、私たち自身の内的思考とアイデンティティの自分自身のモデルがこれらの霊長類領域から来るというもう一つの証拠です。
私の小さな枠組みで、この概念を霊長類で見る新しい行動能力と比較すると、再び強い三つがあり、この心の理論化、自分自身の内的思考をモデル化するというアイデアから現れると強く主張できます。
一つは心の理論です。霊長類が他の人々の視点を想像できるという多くの良い証拠があります。もちろん、他の人の視点を想像するとき、私たちは何をするでしょうか？私たちは彼らの立場に立ちます。自分自身のモデルを取り、そしてコンテキストを変えて、もし私たちが彼らの状況にいたら何をするかを見ます。それは自己モデル化から期待されることそのものです。
これは霊長類に存在するようです。二番目は本当に強い模倣学習です。霊長類は観察を通してモータースキルを学ぶのが非常に得意です。最初は心の理論化がなぜそれをサポートするべきかは明白ではありませんが、AIのレンズを取ると実際にかなり明確です。
AIの世界での模倣学習の問題の一つは、人々が常に微調整を行っていることで、生の模倣学習をすると間違ったことを学ぶことです。自動運転車でこれを試したことがあります。AIシステムをドライバーを直接コピーするように訓練しましたが、これは実際にはうまく機能しません。
運転しているときに常にこれらの微調整を行っていることに気づかないので、AIシステムは間違った方法でこれらの微調整を行うことを学びます。そこで、アンドリュー・アンが逆強化学習と呼ばれるこの本当に巧妙なアイデアを思いつきました。
逆強化学習は、本当に複雑なモータ行動をする人を見るとき、まず彼らの報酬関数を推論しようとするというアイデアです。つまり、彼らが実際に何をしようとしているかを理解し、そして推論した報酬関数に合うように自分自身を訓練するのです。
誰かの運転を見ると、ああ、彼らは車線に留まろうとしているのだと気づきます。それで、運転するときは、直接彼らをコピーするのではなく、車線に留まろうとし、そして車線に留まることをどれだけよく守っているかに基づいて自分自身に報酬と罰を与えることができます。
私たちは逆強化学習が模倣学習AIシステムをうまく機能させる非常に効果的なメカニズムであることを発見しました。これは心の理論化のアイデアに非常にうまくマッピングされます。霊長類が誰かが何かをするのを見て、彼らが何をしようとしているかを推論するのが非常に得意であることを知っているからです。
私たちはこれを知っています。なぜなら、チンパンジーにパズルボックスを作らせると、この実験は何度も複製されていますが、パズルボックスの中に入るためにすべてのこれらのステップを行う人間の実験者がいて、霊長類、チンパンジーがこれをすぐに学びますが、明らかに無関係なステップはスキップします。
実験の途中で頭をかいたり、何かをただ叩いたりしても、彼らはそれらのステップを行いません。彼らは直接あなたをコピーしているのではありません。興味深いことに、人間はその無関係なステップを行います。人間の子どもですが、とにかく。
他者の心について推論できることは、模倣学習において明らかに有用です。なぜなら、それは彼らの意図が何かを理解するのに役立つからです。
最後は将来のニーズの予測です。これは最も議論の余地があります。なぜなら、これについての研究があまりないからです。しかし、これは現在持っていないニーズを満たすために今日実際に行動を取る能力です。
私たち人間はこれを常に行います。空腹でないときに食料品の買い物に行きます。これは実際にはモデルベース強化学習よりも難しい能力です。なぜなら、私は今興奮する結果を想像するだけでなく、現在空腹ではないにもかかわらず、明日空腹になるから今食料品店に行くことを想像する必要があるからです。
これは、現在持っていない将来のニーズ状態または将来の報酬信号を推論できる必要があることを意味します。動物全体でこれについての研究はあまり行われていません。一つの比較的有名な研究がありますが、これは本当に興味深いものです。人々はそれを複製しようとする必要があります。
しかし、霊長類がこれを行うことができ、他の哺乳類はできないことを示唆する研究があり、これは魅力的な発見です。彼らがこの研究を行った方法は、ラットとリスザルに二つの選択肢の間で選択させることでした。一つは高いおやつ選択肢で、一つは低いおやつ選択肢でした。
高いおやつ選択肢はたくさんの食べ物を与え、低いおやつは非常に少ない食べ物を与えますが、彼らは意図的にたくさんの喉の渇きを誘発するおやつを選びました。デーツとレーズンは霊長類とラットの両方を非常に喉が渇くようにします。
高いおやつ選択肢を選ぶと、非常に長い期間水を得ることはありません。低いおやつ選択肢を選ぶと、すぐに水を得ます。彼らは両方の動物で等しい割合の喉の渇きの増加を誘発する食べ物の比率を選んだことを確実にするためにベースラインを取りました。両方の種で。
彼らが見つけたのは、ラットは将来の喉の渇きを予期して低いおやつ選択肢を選ぶことができませんでしたが、サルはできたということです。
将来のニーズの予測は心の理論化と何の関係があるのでしょうか？あなた自身の心の将来の状態を想像することは、異なるものを必要とする状態で、他の人間や他の種がどのように感じるかを想像し、新しい状況で彼らがどう感じるかを想像することと本当に違うのでしょうか？
トーマス・サドンドルフは、将来のニーズ状態の予測が心の理論と実際に同じ根本的なアルゴリズムである可能性があるというアイデアを思いつきました。あなた自身とは切り離された他の人の状態を想像することは、あなた自身とは切り離されたあなた自身の将来の状態を想像することと本当に違わないのです。
これらの三つの能力すべてが、この心の理論化のアイデア、顆粒前頭前皮質、感覚皮質から霊長類で現れる可能性があります。
すべての文で中断したいのです。これらのトピックの多くは魅力的で、それぞれが本の長さの扱いに値するからです。どういうわけか、あなたはそれをすべて本に含めました。
無関係な話かもしれませんが、心の理論化について考えると、シミュレーションのシミュレーションを持つことで、人間の脳を改善できるでしょうか？もし私たちが今あなたの知識とエンジニアリング的な視点から知っていることを取ったら、あなたは人間の脳を改善できますか？
これまで話してきたのは、これらのことが進化的にどのように生まれたか、どのような目的を果たしたか、どのような機能を果たすかという物語です。シミュレーションのシミュレーションのシミュレーションを追加し続けるだけで、新しいシミュレーションを追加し続ければ物事が改善されるでしょうか？なぜ、どのように？あるいは、これについて話すことさえできるでしょうか？改善された脳の未来の物語について。
AIにおける私たちの目標は、明らかに人間の脳を再現することだけではありません。人間の脳にはたくさんの欠陥があります。知的欠陥と本能的欠陥の両方があり、これらの両方が問題です。
本能的欠陥は理解しやすいと思いますし、おそらく人々がAIの世界でもっと恐れているものです。本能的欠陥は、霊長類が進化した政治的世界では、私たちは非常に地位を求めるようになり、階層での自分の位置に取りつかれ、霊長類は階層的種で、非常にゴシップ好きで、常にトップの人々に取り入ろうとしています。これは人間の最悪のバージョンです。
同じ本能を持つAIシステムを再現したいでしょうか？そう望みません。私は確実に望みません。AIシステムに人間が進化して持つようになった多くの本能的なことがあると思いますが、それらは私たちがAIシステムに確実に望まない進化的遺産です。
知的欠陥もあります。人間の脳がAIシステムで再現したいものがあるのと同様に、送りたくないものもあります。例えば、人間はシミュレートすることで物事について推論しますが、これには利益もあれば欠点もあります。
ダニエル・カーネマンが代表性ヒューリスティックと呼ぶものがあります。彼が考え出したかは分かりませんが、彼の研究で多く語られています。例えば、キャシーが内気で眼鏡をかけているとします。彼女は図書館員である可能性が高いでしょうか、それとも建設作業員でしょうか？誰もが図書館員と言いますが、これは基本率を含めることに失敗しています。
建設作業員の方が図書館員よりもはるかに多いのです。たとえ建設作業員の5%が内気で眼鏡をかけていて、図書館員の95%が内気で眼鏡をかけていても、実際には内気で眼鏡をかけた建設作業員の方が多い可能性が非常に高いです。しかし、それは私たちが問題について考えた方法ではありません。
私たちは図書館員を想像し、建設作業員を想像し、キャシーの説明をこれら二つのものそれぞれと比較しました。これが哺乳類が物事について推論する傾向がある方法ですが、多くのバイアスと欠陥を伴います。
これの別の例は確認バイアスです。推論による知覚、つまり世界のシミュレーションを描画し、そして私たちの感覚入力をそのシミュレーションと比較し、私たちが見るものが私たちが想像していることと一致していることを確認することは、これが私たちが世界を知覚する方法で、多くの利益がありますが、確認バイアスなどの他の問題も伴います。
私たちは常に事前の考えから始めます。世界の状態が特定の方法であると思うアイデアから始まり、それから私たちは待ちます。私たちは証拠が私たちの事前考えを更新することを要求するのに十分に異なる場合にのみ更新しますが、これは確認バイアスのようなことにつながります。
私が世界の状態が特定の方法であると信じている場合、私はそのレンズを通して世界をフィルタリングしています。これはベイジアン脳から期待されることです。非常に効率的でもあります。
しかし、確認バイアスの問題が伴います。これらは、もし私たちが人類の最良の部分である超知能を作ろうとするなら、私は彼らにある形のベイジアン推論、シミュレートによる推論を持ってもらいたいと思いますが、彼らが基本率を考慮することを確実にする他のメカニズムも持ってもらいたいと思います。
新しい証拠が彼らの期待に反する場合、事前考えをより正確に更新することなどです。
学習について脳から学んでAIを助けることの目標は、それを丸ごと再現することではなく、人間の知能のこれらの特別な構成要素を見つけて、AIシステムにそれらを与えることだと思います。
例えば、心の理論化は実際に素晴らしいものだと思います。ニック・ボストロムが多く語っている、AIシステムの主要な問題の一つは、彼らが私たちの言うことを理解することを確実にすることです。これは有名にペーパークリップ問題として語られています。
ペーパークリップ工場を運営している超知能AIがあり、私たちが「ねえ、ペーパークリップの生産を最大化できますか？」と言うと、それが地球をペーパークリップに変えるという寓話があります。その寓話のポイントは、AIが悪だったのではなく、単に私たちの要求を受け取り、基準を満たしただけ—ペーパークリップの生産を最大化する—ということです。
それは人間が自分の好みを言葉で統合することが実際に非常に難しいことを明らかにし、私たちはこれに全く気づきません。なぜなら、私たちの言語は両方の脳が心の理論化を持っていることによって力を与えられているからです。
もし私が工場を運営していて、あなたが私の上司で「ねえ、ペーパークリップの生産を最大化してください」と言った場合、私はあなたが実際に何を意味しているかを想像するでしょう。あなたの心とあなたの好みについて心の理論化を行い、選択肢をシミュレートするでしょう。もし私が地球をペーパークリップで破壊しただけなら、それはあなたが望んでいたことではないということが私にはすぐに明白になるでしょう。
AIシステムに私たちが言うことについて心の理論化を行うメカニズムを与えることは、明らかにAIの安全性に向けた非常に重要な道筋になるでしょう。しかし、いくつかの他の困難な問題も伴います。
まず、私たちが心の理論化するように見える方法は、比較的共通の神経機械のセットを持つことです。そうすることで、私はあなたとそれほど違わないので、私があなたの立場に立って、あなたが物事についてどう感じるかをまずまずの仕事でできるからです。私が物事について感じる方法とあなたが物事について感じる方法の間には関係があります。
しかし、もし私たちが人間の好みを持たないAIシステムを構築するなら—彼らは人間ではないので—人間が何を望むかをシミュレートするのが上手になることをどのように確実にするでしょうか？これは実際に非常に困難な問題です。彼らに人間の好みを持ってもらいたくないからです。人間が望む悪いものすべてを彼らに持ってもらいたくないのですが、私たちが何を意味するかを理解してもらいたいのです。これは実際に引くのが非常に困難な線です。
私たちは自分が何を意味するかを理解しているのでしょうか？
私たちは理解していませんが、ニック・ボストロムの寓話のコンピュータよりも良い仕事をすることができます。
私がこれを想像する方法は、脳間で言葉で翻訳される情報です。私たちはその可能な意味を取り、比較的正確な小さな境界ボックスを作るのはまずまずの仕事をします。すべての可能な意味よりも正確ですが、完璧ではありません。私たちは人々が言っていることを明らかに誤解することがまだあります。しかし、私たちは確実に、地球を破壊してペーパークリップを作るような実際には明白ではないこれらのクレイジーなシナリオの多くを取り除きます。
そこで「完璧」という言葉を使いましたが、これについて話している間に私が考えていたのは、引用符付きの知能を構築することには非常に規範的な構成要素があるということです。まず、私たちのバイアスについて考えることと、脳が行う良いことと悪いこと—これらの用語の良いと悪いには感情価があり、規範的な構成要素があります—そして私たちがAIに何をしてもらいたいか、AIに脳を模倣してもらいたいかどうか、どの機能、どのアルゴリズムなど。
脳と心とAIについてもっと学ぶほど、私は知らなくなります。これは一般的な決まり文句です。そして、あなたも同じように感じたことがあるかどうか疑問に思います。私は知能が何かを知りません。あなたは知能が何かを知っていますか？
私たちは知能という用語を勝手に使いますよね。そして規範的な構成要素があります。私たちが私たちの脳がすることとしないことをAIにしてもらいたい完璧な知能があります。しかし、私たちが話していることを知っているのでしょうか？申し訳ありません、これはとても—この質問はよく聞かれることを知っています、知能とは何かですが、これは私が考える質問です。
素晴らしい質問だと思います。あなたは私の本で実際に知能を定義していないことに気づくでしょう。
そうです！私は本で知能を定義していないと思いますと本で定義していないということであなたにメールしました。それは素晴らしいことです。
それは非常に意図的でした。それは定義するかどうかでしばらく悩みました。定義しなかった理由は、実際には知能の本当に良い厳密な定義が存在しないからです。
知能によって私たちが意味するのは、多くの異なる文脈で多くの異なることですが、それらすべては脳がどのように動作するか、脳がどのように進化したか、そして私たちがAIで構築しているものとどのように関連するかの物語によって知らされています。
どのように定義するかのすべての可能なシナリオにおいて、物語が同じように有用である場合、それを厳密に定義することはほとんど必要ではありません。だから、それは不必要に感じられ、理由を説明します。
例えば、一部の人々は知能を問題を解決し、目標を達成する能力として考えます。今、それは本当に興味深い定義です。なぜなら、それは多くのものが目標を持つことを私たちに要求するからです。そして、実際にはものが目標を持っているかどうかを評価することは本当に困難です。
何を持ってものが目標を持っていると言うのでしょうか？そのレンズでは、宇宙はエントロピーである目標を持ち、エントロピーを最大化するために多くの問題を解決しているのでしょうか？宇宙が目標を持たないと言う根拠は何でしょうか？
一部の人々は、知能の定義には学習の概念を含める必要があると言います。なぜなら、工場で事前にプログラムされたロボットで、問題を解決するためにif else文のツリーを与えたが学習しないものは、実際には知能ではなく、正確な—これは人間中心の—フェイ・リーが運営する人間中心AI研究所があります。
彼らは知能の素晴らしい定義を持っています。それは曖昧ですが。彼らは、不確実な世界で問題を解決したり目標を達成したりするために学習またはテクニックを使用できるものというような線に沿って言っています。それは一連のヘッジです。なぜなら、それは複数のことを意味するからです。
畳み込みニューラルネットワークは知能的です。オブジェクトを識別できるからです。本当に目標を達成するわけではありません。学習中にエラーを最小化するという目標があったかもしれませんが、ある意味では、実際に世界で報酬関数を追求しているわけではありません。
しかし、ある意味では、訓練データで見たものとは異なるオブジェクトを識別するという問題を解決しています。ですから、私たちが知能によって何を意味するかは明白ではないと思います。目標の概念でものを満たすときはいつでも、哲学的領域に入っています。なぜなら、外側から目標の存在を決定的に証明することは実際に非常に困難だからです。
私が思うに、ほとんどの人が目標によって意味するのは、ある方程式の最適化だけではないでしょう。もしそれがあなたの言っていることなら、宇宙は目標を持っています。それは単にエントロピーを最大化しているだけです。
だからこそ私はそれを避けたのです。
いえ、私は実際にそれを評価しました。本の終わりの方でそれに気づいただけです。私は彼がと思って、それから戻って見ませんでした。なぜなら、紙のコピーを持っていて、制御FやコマンドFでそれを見つけることができないからです。実際にそのことであなたを称賛します。しかし、本の中でなぜ定義しないかについても話していません。
ええ、「どう思うかを知るのは何を言うかを見るまで分からない」という古い言葉があります。その引用を台無しにしていますが、誰の言葉かは覚えていませんが、そして皆が、物事を書き留めることによって自分がどのように考えるかを結晶化するのに役立つと言います。
しかし、それについて考える別の方法は、何かを書き留めるとき、それはあなたがそれを書き留めた方法で考えるようにあなたを偏らせるということです。それは結晶化と偏りの両方として機能するのです。時々私は何かを書き留めることを恐れます。なぜなら、アイデアにコミットするのではなく、複数のアイデアを持ち続けたいからです。
どこに向かっていたでしょうか？これについて質問があったと思いますが—そう、それはあなたに起こったことですか？あなたが言ったように、とても満足だったと。私の意味は、書くことは—あなたの考えの形と結晶化を助けることは、あなたは書くことによって何を考えたかを学んだのですか？
いえ、アウトサイダーであることが有用だったと思います。なぜなら、学術でのキャリアを追求していないからです。正しくあろうとしているのではありません。私のアイデアか他の人のアイデアかに関わらず、何が正しいかを発見しようとしています。
本のアイデアの大部分、その圧倒的多数は他の人のもので、私は彼らを引用し、信用を与えるために絶対最善を尽くします。私はそれをまとめているだけです。ですから、後ろめたいキャリア的動機を持たないことは、明らかに正しくないアイデアを喜んで捨てるという意味で解放的だと思います。
理論Xで私のキャリアを定義しているので、一つのアイデアに愛着を感じることはありません。この材料を読んでいる間に、私がアイデアを捨てた場所がたくさんありました。多くの証拠が一致するような有用な第一近似であることが私には明らかになった点まで来ました。
間違った木に向かって吠えていないことを確認するために、多くのアイデアを複数の査読誌に提出し、査読を通したことを確認し、アイデアを公開し、さまざまな神経科学者と協力して更新しました。新しい証拠で修正された元のアイデアには欠陥がありました。
いえ、私はこのアイデアを持ってから証拠をそれに押し込んだとは本当に感じません。証拠から本当に現れたと思いますが、完璧ではありません。モデルを複雑化する反証拠を容易に挙げることができると思います。
例えば、魚での潜在学習を見つけた一つの研究があります。一度だけ行われ、複製されていませんが、魚がモデルベース強化学習を持たないというアイデアに対する非常に興味深い反例になるでしょう。
それは複数のことを意味する可能性があります。その魚の種で独立して進化した可能性もあるし、モデルベース強化学習が新皮質と哺乳類でのみ存在するという基本的なアイデアが間違っていて、実際に初期の魚に存在していた可能性もあります。
霊長類が実際に将来のニーズの予測に従事できる程度についても未解決の問題があります。私が引用したレーズンと水の研究について人々が疑問視しており、複製を求めています。それを複製しようとした一つの試みがあったと思いますが、強い結果を見つけませんでした。それが実際にそうではない可能性があります。
だから、もちろん評決はまだ出ていませんが、利用可能な証拠を考えると、それは有益な第一近似だと思います。
いえ、私は同意します。再び言いますが、美しく書かれた本で、情報に満ちています。人々に強く推薦します。
私が話そうとしていることについて一貫した質問を形成するのに苦労していますが、数学は美しく、アルゴリズムは美しく、きれいな機能のアイデアは美しいものです。皮質はXを行うというように。
これらの概念についてもっと学ぶほど、脳領域Xが認知機能Yを行うと言うことを嫌がるようになります。皮質コラムが生成的予測を行うなど、本で話していることです。すべての物語はより多くの情報があるほど複雑になるからです。
これらのことを学ぶあなたの旅で、脳がアルゴリズムを行う、一貫した機能があるという考えにまだ結婚していますか？新皮質コラム全体でなど。自然に物事を考える必要がある方法は、それらを単純化し、脳領域Xが機能Yを行うと言うことです。まだそのような用語で考えますか？
進化的物語を持つ動機の一つは、実際に合成性のアイデアに対する間違いを避けることでした。つまり、脳が公正な機能を持っているというアイデアです。本の目標はそのアイデアの批判ではないからですが、進化的物語の動機の一つは、機能を割り当て、それを分解することによって脳をリバースエンジニアリングしようとする間違いを避けることでした。
なぜなら、私たちが尋ねる質問は新皮質が何をするかではないからです。質問は、複雑なものの混合にこの新皮質を追加するとき、どのような新しい能力が現れるかです。これは微妙な違いですが重要なものです。
複雑で現れるネットワークの混合にこのものを追加することが、あなたが見る結果につながる多くの方法があるからです。それは新皮質の機能がABCであることを要求しません。
進化的物語を、新皮質はこれを行い、大脳基底核はあれを行うなどというアイデアを避けるための本当に有用なツールとして見つけます。機能を構造に割り当てるこの欲求はほぼ確実に間違っていると思います。そして、もっと多くの証拠が現れるほど、それを継続的に示していると思います。
AIが脳の理解を本当に助けることができる方法の一つは、次の20年ほどで計算神経科学で本当に大きな爆発が見られると思うということです。コラムが何をするかをモデル化しようとするだけでなく、全脳モデル化により近いことを実際に始めることができます。
異なる構造が個別にアルゴリズム的に何をしているかを機能を割り当てるのではなく、アルゴリズム的にXに似たことをしていると言って、人工全脳モデルを配線し始め、その現れる特性をシミュレートしようとします。これは新皮質がこれを行い、大脳基底核があれを行うと言うのとは非常に異なります。
長々とした方法で言いましたが、私は特定の機能のアイデアに結婚していると感じません。ジェフ・ホーキンスのアプローチのような機械論的に本当に有用だと思う唯一のことは、機能を構造に割り当てようとすることとジェフ・ホーキンスがやっていることの間に区別を描くということです。
彼がやっているのは、構造にアルゴリズムを割り当てようとすることです。認知や物体認識が新皮質で起こると言うのとは異なりますが、この特定のアルゴリズムがここで実装され、向こうの他のアルゴリズムとのパートナーシップで、広いネットワークでこれらの現れる特性とこれらの能力とこれらの機能につながると言うのは異なります。
構造によって実装されるアルゴリズムを見ることは、構造に機能を割り当てようとするよりも実りあるアプローチだと思います。
これは私にプロセスのアイデアについて考えさせます。あなたが本で話していることで、言語が私たちに与えるものという観点からです。あなたの第五の画期的飛躍は話すことで、もちろん言語と結びついています。
あなたはDNAが物事を可能にする例を使います。つまり、それが可能にするプロセスであり、機能自体ではありません。そして、あなたは言語にもその類推を行います。最近では大規模言語モデルで、言語が何を可能にするかなどについて触れなければなりません。
その観点から第五の画期的飛躍について少し話していただけますか？
言語と言語の進化についてはとても多くの研究が行われており、まだ非常に決定的ではありませんが、言語がなぜ能力としてとても強力なのかについては広い合意があると思います。
言語がとても強力である一つの理由は、それがアイデアの脳間転送を可能にすることです。進化の物語を通して学習の源について考えると、5つの画期的飛躍モデル全体をほぼ次のレンズを通して見ることができます。それは脳にとって新しい学習源を得ることの段階的な拡張でした。
最初の脊椎動物、強化学習では、実際の行動から学ぶことができました。新しい任意の行動を学ぶ源は、実際に物事を試して、成功するか失敗するかを見ることから来ました。
哺乳類、試行錯誤で、哺乳類には試行錯誤に加えて新しい学習源があります。自分の実際の行動だけでなく、自分の想像した行動からも学べます。実際にすることなく、物事をすることを想像し、結果から学び、決定を下すことができます。これは新しい学習源です。
霊長類では、他者の物事をすることの意図を理解する能力で、新しい学習源は他の人々の実際の行動でした。あなたが道具を使うのを見て、あなたが何をしようとしているかを理解し、そして頭の中で同じことをするように自分自身を教えることによって、同じ道具を使うことを学ぶことができます。そして、これらのスキルを模倣します。
しかし、このアーク全体を通して、別の動物が他者の想像した結果から学ぶことは決して可能ではありませんでした。つまり、あなたの脳を見て、あなた自身のシミュレーションの結果を見て、それに基づいて私の行動を変えることはできませんでした。
これが言語が私たちにできるようにするものです。言語は私が狩りに行って戻ってきて、イベントの私自身のエピソード記憶を知らせることを可能にします。そこに行って、赤いヘビが食用で、緑のヘビが本当に危険だったことを覚えています。私はそのシミュレーションを取り、あなたにそれを翻訳できるので、今それはあなたの世界の精神モデルの一部です。
狩りを計画することができます。「ねえ、分かれよう。私は右に行く、あなたは左に行け。私は動物をあなたの方向に追いやる、そしてあなたがそれらを捕まえる」と言って。それは機能する計画を想像する代理的試行錯誤に従事し、そしてその計画をあなたと私たちの三人の友人に翻訳し、そして私たちは皆同じ計画を実行します。
これが言語について信じられないことですが、その結果として起こることは、人文学と人類学で口酸っぱく話されているこのプロセスです。それは文化です。これは非均一な方法で脳間でアイデアが渡される能力です。
つまり、個人の人間の成功した生存につながるアイデア、これはリチャード・ドーキンスのミームですが、そうでないアイデアよりも伝播する可能性が高いということです。これはほぼアイデアの進化という二次的な進化の層になります。
アイデアの一つの形は道具の使用です。骨針を縫製用に作る方法をうまく理解すれば、そのアイデアは本当に有用で、そのアイデアは世代を通して伝播されます。彼らはアイデアが伝播されるにつれて蓄積し始めるので、それらのアイデアに追加し始めることができます。
ミームまたはアイデアには文化的原則も含まれることがあります。互いをどのように扱うか、私たちが正しいと間違っていると思うことに違反する人々をどのように扱うか、その種のことです。
言語がアイデアを転送することによって可能にし、したがってアイデアが世代を越えて転送され持続することを可能にすることは、アイデア進化またはミームのこのプロセスを可能にします。そして、それは私が既に起こった特異点と呼ぶものの一種です。今や突然、これまでに起こったことのない複雑さの爆発があるからです。
分からないのですが、あなたが話したいかもしれませんが、本は5つの画期的飛躍の周りで枠組みされており、そしてあなたはおそらく第六の画期的飛躍について推測しています。それについて話したいですか？
もちろんです。どのように人間の脳を改善するかを聞いていましたよね。進化を矢印として考えると、そうではありませんが、私たちはその矢印の頂点にいるからです。そうではありませんが、これが比較するのに私たちが持っているすべてですよね。
明らかに未来を予測するのは困難ですが、次の大きなフロンティアが私たちのイメージでシリコンベースの媒体で人工知能を構築することではないと主張するのは困難です。私たちのイメージで、はい。
それが私たちのイメージであることになると思う理由は二つあります。一つは、経済的インセンティブが人間の有用性のためであることです。人間が何にお金を払うかということです。そして、それは人間のニーズを満たすものをしてもらいたいので、少なくとも最初は人間の好みと欲求の何らかの概念の周りに包まれることになることを意味します。
この例は言語です。もし他の種がAIシステムを構築していて、非言語メカニズムを通してコミュニケーションを取るなら、彼らがシステムに構築する画期的飛躍の一つは言語ではないでしょう。それでも今、ほとんどのAI投資ドルは言語モデルのスケールアップに向かっています。
言語は非常に人間的なものですが、人間がこれらのAIシステムと相互作用したい方法だからそれをするのです。
一つ目は、彼らが明らかに人間の好みまたは人間的な能力を吹き込まれることになると思います。二つ目は、私たちは物事について考える方法で考えることを止められないからです。
つまり、私たちが引用符付きの知能である何かを構築しようとしているとき、知能を厳密に定義できないとき、それはおそらく私たちが持っている何らかの複雑な自己イメージを意味し、私たちは私たちのようなものを漠然と構築しようとしています。私たちが笑っているときに彼らに微笑んでもらいたいでしょう。私たちが理解する何らかの方法で私たちと関わらない場合、それは奇妙に感じるでしょう。
彼らは彼らの創造者である私たちの何らかの概念を持つことになると思いますが、彼らは私たちが持たない多くの能力も持つことになります。例えば、これらのAIシステムが死ぬ理由はありません。生物学的脳が行うように自然に衰える理由はありません。
私たちがこれらのシステムに階層を求め、他者を支配したがり、常に他の人々と比較した自分のエゴを尋ね、参照する、競争的な、私たちの最悪のバージョンのような私たち霊長類の進化的遺産をこれらのシステムに吹き込む理由もありません。AIシステムがそのいずれかを持つべき理由はありませんし、私たちがシステムにそれを吹き込まないことを望みます。
次の世紀の大きな質問は、私たちプラスAIの未来がどのように見えるかということで、分野のさまざまな人々から非常に大きな意見の相違があります。本当に三つの結果しかないと思います。
一つの結果は、規制または他の何かを通してAIを制圧し、人間のようになることは決してなく、コンピュータのような別のツールになり、人類が持続し、進化が遺伝的変異を通した生物学的進化として続くということです。
これのもう一つの極端は、私は幸運にも不幸にもより可能性が高いと思いますが、私たち人間がAIに単に取って代わられることです。つまり、最終的にAIが非常に人間的になり、私たちがAIのような子どもを持ち、最終的に文化が、病気に苦しみ、必然的に死に、これらすべての制限を持つ生物学的子どもを持つことが奇妙だと思うように移行するということです。永遠に生き、うつ病に苦しまない、これらすべてのことがないAIの子どもを持つことができるのに。
これが良いか悪いかを言っているのではありませんが、時間の経過とともに、私たちが好むか否かにかかわらず、人々の選択が自分自身の生物学的子どもを持つことから移行する可能性が高いと思います。
親として、あなたに言えるのは、常にスクリーンに縛られていない子どもを持つことは現在奇妙だということです。私たちは既にある種のハイブリッドです。これは第三の選択肢に向かいますが、これは可能性が低いと思いますが、追求すべき有徳なものです。それは私たちとこれらのAIシステムの間の何らかの合併です。これがイーロンがニューラリンクで取り組もうとしていることで、私たちがこの種のサイボーグハイブリッドになることです。
これが可能性が低いと思う理由は、シリコンで人間のようなAIシステムを構築する技術的挑戦が、人間の脳の生物学的信号をAIシステムに翻訳する方法の技術的挑戦よりも天文学的に簡単だと思うからです。
例えば、これについて考える非常に粗い方法は、人間の思考の完全に正確なダウンロードを実際に持ちたいなら、あなたの脳のすべてのニューロンをリアルタイムで記録する必要があるということです。それは不可能です。それは今技術的に非常に実行不可能で、人々はそれをどのように行うかさえ考えることができません。
あなたの脳のすべてのニューロンにワイヤーを置いて、その活動電位を記録することはできません。皮質ニューロンだけをやろうとすることもできますが、私たちがここで話してきたように、皮質が視床と大脳基底核とこれらすべての他のものも記録することなく、あなたが何をしているかを実際に理解するのに十分なすべてをしている可能性は低いと思います。
うまくいけば私は間違っていますが、近い将来に人間のようなAIシステムを持つことを私に確信させる多くの良いアイデアを見ており、近い将来は次の10年を意味しますが、人間の脳を取ってAI脳と確実に合併させる方法についての実際のアイデアは見ていません。マトリックスでヘリコプターを運転する能力をダウンロードしたり、フランス語を学んでボタンを押してフランス語を知ったりするようなことを実際に私にさせる方法で。
そのようなことができるようになると私に確信させる良いアイデアは見ていません。
今日私と時間を過ごしてくれて、本を書いてくれてありがとうございます。私のコピーに感謝し、今日の私との会話に感謝し、本を書いてくれたことに感謝します。
私の喜びです。お招きいただきありがとうございます。
私一人でブレイン・インスパイアドを制作しています。このポッドキャストを価値あるものと考えるなら、patreonを通してサポートを検討し、すべてのエピソードのフルバージョンにアクセスし、私たちのDiscordコミュニティに参加するか、神経科学とAIの交差点についてもっと学びたいなら、私のオンラインコースNeuro AI: The Quest to Explain Intelligenceへの登録を検討してください。
もっと学ぶにはbraininspired.coに行ってください。私に連絡を取りたい場合は、paul@braininspired.coにメールしてください。The New Yearによる音楽を聞いています。彼らをthenew.netで見つけてください。あなたのサポートに感謝します。また次回お会いしましょう。
コメント