この動画は、サンタフェ研究所所長のデヴィッド・クラカウアー教授が、複雑性科学の視点から知能、意識、生命の本質について語る内容である。現在のAIは真の知能ではなく高速検索に過ぎないという指摘から始まり、創発現象の原理、問題解決する物質としての生命の定義、そして宇宙が生命を創造した理由まで、幅広いテーマを扱っている。
複雑性科学とAIの本質について
まず最初に言いたいんは、現在のAIには知能は全然あらへんけど、能力はめちゃくちゃあるってことや。今のAIの問題は、基本的に偽の知能やねん。めっちゃ速い検索なんよ。本当にただの、めっちゃ賢い検索システムなんや。
知能って何やと思う？知能っていうのは、基本的に難しい問題を簡単にする人か何かのことや。学校で座って問題を解こうとしてる時に、隣の人を見たら問題を楽々解いてるように見えたら、「うわー、めっちゃ賢いなあ」って言うやろ。でも実は、肩越しに覗いて答えを簡単に手に入れた君の方が賢いんやで。
これはスタートーク特別版や。つまり、隣にゲイリー・オライリーが座ってるってことやな。ハイ、ニール。ゲイリー、元サッカープロやな。そうや、チャック。ナイス。来てくれてありがとう。サッカーについて何も知らん人がな。それはアメリカ人やからや。その通り。アメリカ人、ベイビー。
君らはいつも面白いトピックを持ってくるなあ。今日も例外やない。そう、複雑性や。なんてこった。複雑性。そう。これが俺らが初めて扱うテーマや。適切なゲストを見つけるのを待ってたんや。そうか。アリーナに入ってもらうためにな。よし、推測はついたやろうけど、俺らにはちゃんとした人がおる。
人生の複雑さと大きな疑問
こんな風に枠組みを作らせてもらうわ。俺らが住んでる人生の現実を理解しようとする時、俺は自分に聞くんや。外にはすべての複雑さを考えてる人がおるんかって。大きな疑問を投げかけてる人が。知能は宇宙でどう進化したんか？知能に限界はあるんか？アイデアはどう進化するんか？生命の法則はあるんか？そして、ここからが大きな疑問や。生命って何なんや？
嬉しいことに、そういった課題に取り組んでるのは一人の個人やなくて、機関があるんや。ニール、ゲストを紹介してくれるか？
喜んでや。デヴィッド・クラカウアーさんに来てもらったで。デヴィッド、スタートークへようこそ。一緒におれて素晴らしいで。君はニューメキシコのサンタフェ研究所の所長やな。ここは深く考える人たちが行く世界的に有名な場所や。問題は、そして死ぬ場所でもある。彼らが果たして出てくることがあるんかってことや。
君はウィリアム・H・ミラー複雑系教授やな。そんな肩書きが持てるなんて感動するわ。複雑系教授やて。その名前をドアにつけるのにどんだけでかいドアが要るか想像してみいや。俺は単純系教授になりたいわ。
まあ、そういうのもあるで。他に何があるかって？進化論のバックグラウンドを持ってるな。いいやん。コンピューターサイエンスと数学のバックグラウンドも。これにはちょうどいい血統を持ってるみたいやな。時間があったら、そこも掘り下げたいな。サンタフェ研究所の惑星間プロジェクトの創設者でもあるな。今初めて聞いたんやけど、それの底にも迫りたいな。
サンタフェ研究所の使命
まず最初に聞かせてもらうわ。俺らの番組には、サンタフェ研究所で時間を過ごしたか、そこの教授やった人が何人か出たことがあるんや。みんなに思い出してもらいたいんやけど、サンタフェ研究所の使命声明って何で、世界について深く考えてるって信じてる他の場所と何が違うんか？それを一文で単純化してくれるか？
はい。いや、彼は複雑性の教授やからな。そうや、その通り。
使命を言うで。一文やけど、役に立たんと思うで。「進化する世界の複雑性の中で秩序を探す」っていうのが使命声明や。この会話全体が、それが一体何を意味するんかってことやな。
それには独自のバイアスがあるな。最初から複雑性の中に秩序があるって前提にしてるからな。
その通りや。俺らがここでこの会話をしてるっていう事実が、その証拠の一種やと思うで。
研究所は基本的に1984年にニューメキシコの山で設立されたんや。俺らがここにいるのにはロスアラモスっていう理由があって、その歴史について話すことができるで。実際なかなか興味深いからな。俺らのことを、この風景のもっと生産的で楽観的な子分やって思ってる。
みんなに思い出してもらいたいんやけど、ロスアラモスは国立研究所で、核兵器が保管・管理・監督される場所や。めっちゃ重要な場所で、事故が起きた時のために、市内に置かへんのも偶然やない。どこもないところの真ん中にある。
君らとロスアラモスには、ある種の遺伝的歴史、重複する歴史があるんやな。その通りや。実際、ここには面白い文化的歴史があるんや。創設所長のジョージ・コーワン。彼は神童で、君の世界の二人と非常に早い時期に働いてたんや。物理学に応用される対称性の研究でノーベル賞を受賞したユージン・ウィグナーと、エンリコ・フェルミと。
フェルミはパラドックスなどで有名やな。他にも多くのことでな。それで彼はその後、最終的に1950年代にロスアラモスの研究部長になったんや。コロラドのアスペン研究所で講演するよう頼まれて、社会のエントロピーについて講演したんや。物理学で馴染みのあるエントロピーの概念、システムは無秩序に向かう傾向があるっていうやつを、社会にも当てはまるかもしれんって思ったんや。
講演をしたんやけど、大失敗やった。誰も彼が何を言ってるんかわからんかった。これは比喩なんか、数学的に何か考えがあるんか？これは50年代初頭の話で、30年の時を経て、社会科学と自然科学、数学的科学がちゃんと意思疎通できてへん世界に何か問題があるって思ったんや。それが本当の起源の物語や。
80年代に、何人かのノーベル賞受賞者を含むかなり著名な人たちのグループが集まって言ったんや。「学部の分割や知識の分割から始めへんで、実際にそれらをショートサーキットして、人々を高密度で一箇所、高地砂漠に圧縮したら何が必要やろうか」って。それが前提やったんや。
惑星間プロジェクトについて
惑星間プロジェクトに興味があるで。つまり、それって何や？今すぐ掻かなあかん痒いところがあるんか？
はい。俺らの世界の仕組み、宇宙の仕組みについての視点を考えると、生命は恐らく普遍的やっていう俺らの信念がある。証拠はないけど、合理的な仮定やと思うんや。物理学だけやなくて、経済学や社会学、詩や芸術、音楽も含んだ宇宙の理論や宇宙の祭典を持つってことはどういう意味やろうか？
ニールもよく知ってるように、宇宙生物学は物理学に支配されてるけど、もし他に生命がいるのが本当なら、他の惑星で発見される特別なスポーツや特別な音楽があるかもしれん。だから俺らは宇宙の生命についての思考の範囲を、全ての学問分野を包含するように拡大したかったんや。それがまたSFIの精神でもあるんや。
でも、これらは本当に生命によって創造された学問分野なんか、それとも生命における俺らの卓越性についての俺らの認識なんか？
うーん、それはほんまに深い疑問で、俺が理解できへんほど深い。
いや、俺が言いたいのはこういうことや。もしエイリアンを見つけて、彼らが音楽を演奏してたら、それは君が言ってることなんか？
うん。俺のポイントは、俺らがそうなると思うのは、俺らがそうするからやってことや。わかる？俺らは宇宙そのものにおける卓越性の認識を持ってるんや。
映画でも、なぜ第三種接近遭遇で音楽を互いに演奏し返すって想定を作るんか？俺らの他のバイアスを見てみいや。ちょっと君に逆に聞き返させてもらうけど、みんなが言うのは、化学は普遍的やろうから、DNAやRNAが普遍的やって見つけるやろうってことや。でも数学は、俺らは数学的に物事を記述できるけど、数学が普遍的になり得るんか？音楽は？
もし最も基本的な構成要素を普遍的にして、他のすべてを何らかの形で人類中心的にする信念のセットがあるとしたら、何なんやろうか？
俺はその前提を疑問視したいんや。
それには賛成やで。それが惑星間プロジェクトについての君の思考に流れ込んでるんやな？
そうや。実際、惑星間プロジェクトのスローガンは「一度に一つの惑星ずつ世界を変える」やった。俺はこの世界を変えたいと思ってるで。他の世界を特に変えたいとは思わん。
問題は、より拡張的で人道主義的で、まともな視点が、この惑星で進歩を遂げることを可能にするかってことや。
複雑性科学の根源
まあ、完全にロボットが住んでる惑星を発見したやろう。火星って呼ばれてるやつや。
そのジョークをどんだけ長いこと温めてたんや？
待ちに待って出すタイミングを狙ってたんや。
研究所については理解できた。今度は複雑性について教えてくれ。
これにはいくつかのやり方があって、君がどれを気に入るか気に入らんか言ってくれたら、選択肢を投げ出すから。この考えを通していろんな切り口を取るつもりや。
根源から始めよう。複雑性科学の根源は何なんや？
よし、俺はこれについて本を何冊か書いたから、俺にとってはええ質問や。本質的に、これを言う一つの方法は、根源は機械の研究やってことや。産業革命で作られた蒸気機関のような機械や、生物のように進化した機械の研究や。
明確にしとくで。君は物理学の5つの基本的な機械について言ってるんやなくて、俺らの文明で作られた製造された産業機械について言ってるんやな？
その通りや。蒸気機関や遠心調速機、または生物のような機械のことや。つまり、何らかの種類の仕事をする自然界のメカニズムや。
普通の物質と対比して、俺らはそれを問題解決物質って呼ぶことがある。物理学者や化学者が研究する普通の物質とはな。
物理学の授業では、摩擦のない滑車が斜面で質量を引っ張ってるって習うやろ？それに意識や他の何かがあるとは思わんし、問題集に当てはまる以外には何も面白いことをしてへんと思ってる。
その区別は気に入った。続けてくれ。
だから、問題解決物質対普通の物質っていう一つの行き方がある。それから問題解決物質について話す時に、君が今やったみたいに、とても自然に感じる質問がいっぱいある。例えば、どんだけ効率的なんか？どう起源したんか？どう適応するんか？どんだけ賢いんか？どう情報を保存するんか？どう進化するんか？どう失敗するんか？そして最終的にどう絶滅するんか？
これらの質問の一部は物理学と共有されてる。多くはそうやない。「月はどんだけ賢いんか」って言うのはあんまり意味がない。一部の人はそう言うかもしれんけど、俺らはそういう人を基本的に無視する傾向がある。でも「経済はどんだけの情報を保存するんか」って言うのは完全に自然やし、「昆虫の社会はどう計算するんか」っても自然や。
ある意味で、それに自然に感じる質問によって定義できる。そしてそれらの質問は俺らが研究するすべてのスケールに自然なんや。
複雑系の特徴と秩序
それが好きや。その認識を持ってるってことは、異なるシステムを見てる時に四角い杭を丸い穴に無理やり押し込まんってことやからな。ある機械のシステムで機能する特定の質問や解決法が、すべてのシステムで機能するとは限らん。現象に固有のやりとりを保てば、何が起こってるかをより深く理解できる可能性が高い。
君が今言ったことの公正な特徴づけやろうか？
いや、その通りや。物理学の歴史でも起こったことやと思うけど、領域、俺らが存在論って呼ぶ現実が、俺らに特定の方法論や認識論って呼ぶアプローチセットを要求するんや。
物理の世界は対称性の原理が大好きで、俺らはそれを物理学のさまざまな原理、普通は保存則でエンコードする。複雑系では、俺らは破れた対称性や不規則性が好きで、それが固定されて、時々冷凍事故って呼ぶんや。それは異なる種類の理論を意味して、SFIの多くは秩序とカオスの間にある、よりごちゃごちゃした領域のための理論を見つけることやねん。
これはカオス理論なんか？
カオス理論からパターンを探してるんか？でも一歩下がって見ると、そもそも彼はカオスやって言わんかった。彼が言ったのは、その間にあるってことや。純粋なカオスと秩序の間やって。秩序とカオスの間にあるって言った。混乱したシステムがあって、君が言ってるように分析に屈するかもしれん。
カオスは実際に特定の規則性のパターンを示すんか？
はい。実際、ちょっと脇道にそれるけど、そこに到達するで、2番目の脚注として。答えはイエスや。ニールが正しい。カオス理論は複雑性のほんの小さな小さな小さな部分や。実際、奇妙なことに、物理学に非常に自然に適合する複雑性の部分や。
古典的システム、いわゆる三体問題の研究から出てきたんや。完全に決定論的なシステムや。カオスにはノイズがない。決定論的不規則性や。だから表面的にはランダムに見える秩序として現れる。そういう性質を持つ対象に俺らは興味があるけど、それらは熱的ランダムさやノイズみたいな本当のランダム性を加える。
俺らの歴史の初期に、ジェームス・グリックが書いた本があったからや。「カオス」って呼ばれる本やった。それはSFIにとって重要な本やった。俺らの仕事についてたくさん語ったからな。でも実際には俺らがやってることのほんの小さな部分で、物理学に非常に近い部分なんや。
だから、混乱の中に理由や、秩序って呼びたければ秩序を、混乱してないものって呼びたければそれを探してるんか？混乱自体は本当は混乱してへんくて、俺らがそう見てるだけやと。俺らがそれを理解してないだけやと。
はい。興味深いことに、この複雑性って言葉はどこから来るんか？君の質問にまさに関わってくる。1948年に、数学者のウォーレン・ウィーバーが宇宙のすべての規則性や不規則性を分類したかったんや。これが有用かどうかは議論できるけど、俺はかなり有用やと思う。彼は単純な現象があるって言った。それが古典物理学や。
理解するのが簡単やって意味やないけど、単純やねん。ニールの先ほどの指摘通りや。美しい法則、エレガントな数学的形式主義がそれを説明する。それから彼が無組織複雑性って呼んだ世界がある。それは気体の研究みたいなもんや。俺らが今熱力学や統計力学で研究するものや。
不規則なものやけど、美しい記述がある。そしてその間に組織化複雑性がある。気体やない。生物や。アリや。脳や。都市や。その空間で俺らが19世紀の終わりに実際に気づいたのは、そのための良い理論がないってことや。俺らは不規則性を美しくできる。単純性も美しくできる。そして人間として、動物として、生きている存在として俺らが実際に気にかけるすべてのものに移ると、ある意味で理論が不足してる。
美しく記述された美しい芸術作品やけど、組織化複雑性のゾーンの数学の種類は何なんか？君がほんまに重要なポイントを作ってると思うのは、どんだけの秩序を見るかは観察者の関数やってことや。
観察者がより多くの計算能力を持ってたら、より多くの秩序を見ることになる。複雑性は非常に深い意味で観察者依存や。量子力学が非常に異なる方法で観察者依存であるのとよく似てる。
でも、これは俺らの計算能力と関係があるんや。
適応機能とエージェンシー
今のところ真実を言うと、これが始まった時は実際思ってたんや。でも彼はここでいくつかの素晴らしいポイントを作ってる。だから彼がここにいるんや。だから俺らはその男を連れてきたんや。
適応機能を探す時、それは君が探してるパターンの種類なんか？より良い表現がないんで、環境状況にどう反応したかってことか？
絶対にそうや。課題の一つは、この番組に出た俺の友人の何人かがこれについて話してると思うけど、ショーンなんかもな。
ショーン・キャロルを呼んだことがあるな。
はい、友人や。
だから、それはいい例や。坂を転がるボールと生物が適応することの違いは何かってことから始まる。ボールは何らかの関数を最小化してるし、生物は適応してる。物理学に適応があるんか、何らかの関数を最大化や最小化してるんか、それとも生きている状態に特有なんかっていう区別について、今日まで人々は議論してる。
だから俺らにとって、エージェンシー、エージェント（生物でも機械でも実際AIでもありうる）は、坂を転がるボールにはない特徴を持ってて、俺らにはそのための新しい理論が必要や。その理論がどんなものかについて話すことはできるけど、適応は複雑性にとって絶対に中心的や。それなしには何もないからな。
一つ言えることは、坂を転がるAIは、ボール以外では地獄のように高くつくってことや。ボール以外ではたくさんのお金を失うことになる。
このアプローチは、一つの学問分野に制約される必要がないほど強力に見える。社会、経済システム、文明そのものにこれを適用する努力を見るのに感動してるで。
モデリングとその基盤に十分な自信を持って、基礎物理学よりもはるかに複雑なものに進むことができるんか？今度は人間の行動を含んでるからな。
つまり、愚かさを解決できるんか？俺らは非常に愚かさの時代に生きてるからな。
それは実際俺の興味分野や。解決はできんけど、診断はできる。それが何を意味するかについて話すことはできる。
両方に取り組ませてもらうわ。この質問への正直な答えはわからんってことや。他の科学でもよく知られてる、時々驚くべきことが起こると思う。個々の粒子が浮遊してるのを理解しようとしたら、すごく難しい。軌道は基本的にランダムや。でも十分な粒子があって平均を取ると秩序が現れる。
例えば流体は流れるし、粘性や平均密度みたいなものを見る流体の方程式があって、個々の粒子やその特性を心配せん。まったく同じように、基本的に予測不可能やと思う人間も（予測可能なことをする悲しいこともあるけど）、集計すると社会には予測可能な規則性があって、経済学者や心理学者、社会学者はその事実を利用してる。
だから集計すれば、規則性とパターンが再び現れることができる。俺らにとっての大きな問題は、都市や文明がそういうものの一つなんかってことや。実際に創発的規則性を示して、俺らがコントロールできるかもしれん何らかの手がかりを与えてくれるもんなんかってことや。
人間の行動の予測可能性
これは反発やないけど、ここで明確化が必要や。都市について話したり、グループの集合について話したりする時、脳神経科学者は俺らに、人間は十分予測可能で、その人について十分なデータがあれば、彼らが正確に何をするかを教えることができるって言うやろ。広告主はそれを知ってる。脳神経科学者すら必要ない。
グループについて十分なデータがあれば、どうやって彼らを操作して暴力的にさせるか、従順にさせるか、動揺させるかを正確に教えることができる。その創発はどこにあるんや？まだ創発について話してないからな。
君は正しい。でも創発について話してないって感じたのは、彼が今言ったことで創発に向かって動いてると感じたからや。でもそこでの橋渡しは、気体流体粒子を個別に見ても、そこには流れはない、粒子を心配することはないけど、それらが一緒になると、実際に全体として異なる行動をとらせる性質を示すって、彼が見事にアナロジーを作ってることや。
君は基本的に彼が言ったことを言ったんや。集合的に俺らは予測可能な方法で行動し、分析的に記述できるってことを。
でも、ここに違いがある。人間として、それが起こるためには、俺ら一人ひとりが非常に特定の場所にいなければならん。わかる？粒子と違って、すべての粒子は同じことをする。すべて、いつでも。
デヴィッド、君に質問や。都市の参照点に戻ると、計画されてない都市から計画された都市では、予測可能性は同じか、それとも非常に異なるか？
興味深いな。いい質問や。俺らが研究することについては、興味深いことにそれほど変わらんと思う。
これらのポイントをすべて繋げたいんや。どれも本当に良くて、実際にこれが難しい理由の核心に迫ってるからな。
人間について、そうや、人間はブラウン運動をする小さな粒子みたいやないっていう最初のポイント。俺らには歴史があり、欲望があり、信念がある。だから俺らは粒子がそうでないような方法で異質や。それは絶対に正しくて、それが重要なことや。
それが俺が言おうとしてることや。そう言うのに時間がかかってすまん。
いや、でもそれは本当に重要やと思うで。そして、それでも、食料品の値段を半分にしたら、君は出て行って次の週に値段が上がるんを恐れて、もっと買うやろう。でも俺の言いたいことはわかるやろ？その異質性にもかかわらず、俺らの生活で重要な規則的な行動パターンがあるんや。
だから問題はどのスケールでかってことや。今度は都市に行こう。実際には都市はエネルギーの供給と資源の供給、そして人々と近隣地域の間の相互作用を非常に制約するから、それらの制約から創発的規則性が出てくることがわかった。
例えば、都市が大きくなるにつれてGDPの成長を見ると、物理学の法則のように見える普遍的法則に従う。基本的に人口規模の1.15乗に比例するGDPのスケーリングが得られる。何でもいいんやけど、ポイントは、奇妙なことに社会に強い制約を課すと、物理システムのように見え始めるってことや。創発的規則性を持つようになる。
それは素晴らしいな。
そしてそれらの制約を取り除くと、当然これらのシステム、この種の理論の多くは失敗する。
創発の定義と特徴
じゃあ創発のトピックを今度は大きく開こうか。生物学では大きな魅力のトピックやけど、それが他のシステムにも適用できる範囲で、俺らが何が起こってるかわからん最前線で何が起こってるかについての洞察を得るのは素晴らしいことやろう。
チャックのためだけやなく、たぶんニールやゲイリーもこれについて研究したやろうから、創発を定義してくれるか？人々がこの用語を使うのを聞くけど、多くの場合正しく使ってないと思うんや。だから創発とは何かを教えてくれるか？
それは完全に公正な観察や。俺は人生の大部分を恐怖の中で過ごしてる。まず最初に、これは難しい概念やって言いたいし、正式に何を意味するかを理解するためには、まだ膨大な量の作業があるって言うのは完全に正確やと思う。
でも、その小さな注意事項を全部言った上で、俺が思うことを教えるわ。物理学から始めよう。簡単やから。今話したばかりや。気体の分子運動論について話した。それらの粒子をたくさん一緒にすると、適切な温度と圧力で固体を得ることができるし、流体を得ることができる。
そしてそれら二つのシステムを記述するのに使う数学的方程式は異なることがわかった。次元、単純さ、それらの方程式の項の数は異なる。だから俺らは流体力学が好きや。実際、特定の温度と圧力でのたくさんのたくさんの粒子の行動を記述するかなりエレガントな方法やからな。それが創発や。
二つのもの、個々の粒子レベルでは本当に適用されるとは思えない性質を持つ新しい物質状態を持つという事実。そしてそれは新しい言語、記述の新しい言語と予測の新しい言語を持つ。それが二つの特徴や。
興味深いことに、君は心理学、広告、神経科学について話してた。それは美しい例や。本当に良い心理学者やマーケターになるために、素晴らしい神経科学者でなければならんと想像してみよう。当然、本当に良いマーケターは良い神経科学者である必要がない。なぜなら、その詳細はすべて、流体に対する気体の粒子のようなもんやからな。
良いマーケターは類推によって流体力学のようなことをしてる。独自の言語を持つ集合的性質を理解してるんや。俺が思うに、正直言って多くの疑似科学は、独自の完全に適切な言語を持つレベルが、正当性を与えるためにより還元主義的な言語を使い始める場所や。
だから創発は、一つ、物質や組織の新しい状態や段階、二つ、新しい言語と記述、通常は数学的やけど必ずしもそうである必要はない、そして三つ、厄介なのは、すべてが創発的と呼ばれるに値するわけやないってことや。
だからその創発レベルを見つけることが実際には課題の一部で、SFIが主張することの多くは、経済理論の多くは心理学に置き換えられた方が良いってことや。導出されたり発明されたりした言語が実際には機能せんからな。流体力学のようやない。だから創発の失敗も本当に興味深いんや。
創発の状態に到達した時、ここで最も起こりそうなことを言うための予測精度はどんなもんなんか？
それが実際基準やねん。許してもらえるなら、役立つ別のアナロジーを使わせてもらう。数学の定理を証明してるとしよう。それが機能する方法は、公理、仮定を書き下ろして、方程式を置いて、それから演繹をするためのツールキットの種類を持つ。微積分や群論、何でも好きなものを適用して、答えが飛び出す。
その答えの正しさは、君の心理状態とは何の関係もないし、朝食に何を食べたかとも何の関係もないし、経済とも何の関係もないし、ニューロンとも何の関係もない。数学の形式論理と関係がある。それが俺にとって創発の最も美しい例や。ニューロンが何をしてるかを知ることによって証明の正しさについて追加の洞察を得ることはないからな。それらは無関係や。
その専門用語はスクリーンオフって呼ばれる。真に創発する現象は微視的自由度をスクリーンオフする。それは難しい言語や。
俺らはそれが真実やって知ってる。数学について真実やって知ってる。それが恐らく真に創発的言語の最良の例やと思う。君のポイントに対してそれは予測するからな、演繹する、正しい答えに到達する。下に行く必要がない。
群れ行動と創発
ここで何かに興味があるんや。群れをなす鳥を見る時、それは俺が理解する限り、一羽の鳥を分析して、他の鳥と一緒にいる時に群れをなすということを教える既知の方法がないマクロスコピックなグループ行動や。俺はいつも創発をまさにそのようなシステムやと思ってた。
君は気体粒子と流体としての気体、または固体や気体についてほのめかした。温度と圧力によって、分子は固体、液体、気体として。だから、君はこれらの他の種類のシステムに同意するか？シロアリを見て、いつかシロアリの塚を建てるとは言えん。
俺らがそれについて十分知らんからなんか？生物をマクロスコピックにグループで何をするかを知るために、より還元的か、より還元的でない分析が必要なんか？
うん、本当に興味深い。時々そうで、時々その逆や。また例を挙げさせてもらうわ。興味深いことに、もし「アリや、シロアリや、ムクドリの神経科学について全部知ってる。流体力学、水力学について知ってる。羽毛が何をするか知ってる。どんだけ遠くまで見えるか知ってる、そういうの全部」って言ったとしよう。
「だから、それらの束を一緒にしたら、どう行動するかを予測できる」って。それが真実である場合があると思う。でも、それでも創発は有用やってことを意味せん。なぜなら、「はい、できます。銀河系ヒッチハイクガイドのディープ・ソート、コンピューターが必要やった。それを解決するのに宇宙の生涯がかかったけど、できました。それに対して、ニール、ここに鉛筆と紙がある。俺の小さな創発理論を書き下ろして、5秒でやってみせる」って言うかもしれん。
だから創発には実用的効率っていう側面がある。
効率。
いつかTシャツに方程式を見ることになるやろう。俺らにはたくさんある。残念ながら、方程式が多すぎる。
AIと意識の問題
チャックが先ほどAIに言及したし、坂を転がすのは高すぎるから避けたいな。
何かAIのような意識の創発を予測できるんか？
あるいは、この文脈で生命そのものの複雑さを定義するとか。もっと深く行きたいんや。
まあ、なぜダメなんや？もしAIが本当に創発的意識と真に創発的知能を持つなら、それは生命やねん。その時点で本当に俺らなんや。
その時点でただの俺らや。
いや、異なる形での俺らや。
まあ、調べてみよう。今から君をイライラさせるかもしれん。
どうぞ。
だから最初に言うのは、AIには知能がないってことや。それから、それが何を意味するかを議論しよう。
でも、それらには大量の能力があって、違いを教えるわ。俺の思考実験はこうや。テクノクラート時代の熱狂者たちにこれを聞かれたんや。AとBって呼ぶ二人の学生がいるとしよう。同じ試験を受けさせる。一般知識クイズや。戻ってきて、全部正解してた。
どちらが良い学生かって聞いたら、「わからん。同じ答えやったから」って言う。でも今、Aは質問が出るたびに図書館で答えを調べて試験を受けて、Bは実際に海辺かどこかで試験を受けたって言ったら、「明らかにBの方が良い学生や」って言う。
今度は問題は、俺らは偽の知識のある人と本当の知識のある人の違いを知ってる。図書館でやったかそうでないかを聞けるからな。今のAIの多くの問題は、俺が思うに基本的に偽の知能やってことや。非常に高速な検索や。本当にただの、本質的に非常に賢い検索や。
素晴らしい技術やって言ってるんやない。ただ、非常に有能な技術やって言ってる。また俺の分野の知能について聞くなら、知能とは何か？知能とは基本的に、難しい問題を簡単にする誰かか何かや。
学校に行って座って問題を解こうとしてる時、隣の人を見たら問題を楽々解いてるように見えたら、「うわー、めっちゃ賢いなあ」って言うやろう。
その人が肩越しに覗いて答えを簡単に手に入れた君の方が賢いんや。
そうや、それは戦略的知能や。
君の話をよく響く例でエコーさせてもらうわ。俺が建築家で夏のインターンを雇うとしよう。書類上は両方とも同じや。だから面接に来てもらう。面接から一人を選びたい。
これは作り話の例やけど、デヴィッド、君も同意してくれると思う。窓の外に教会の尖塔があって、冗談半分に「あの教会の尖塔はどんだけ高いんや？」って聞く。一人は「135フィートや」って言う。「どうしてわかるんや？」って聞いたら、「すべての教会の尖塔の高さを暗記してるんや。俺の趣味なんや」って言う。
もう一人は「わからん。すぐ戻ってくる」って言って、10分間出て行って戻ってきて「130から140フィートの間や」って言う。「どうやってわかったんや？」って聞いたら、「自分の身長を知ってるから、自分の影を測った。それから教会の尖塔の影を測って、簡単な数学をやってこの答えを得た」って言う。
誰を雇う？
俺は2番目の人を雇う。2番目の人を。なぜなら明らかに彼らができたのは問題解決やからな。彼か彼女って言わんかったけど、すまん。彼らが問題解決できたからや。
俺の例は君に響くか？
非常に響く。気づいてほしいのは、チューリングテストの時代、模倣ゲームでは、尖塔の高さを聞いて正しい答えをくれたら、「ほら、他の人間と区別がつかん」って言うけど、君はもう少し先に行って説明を求めた。どうやってその答えに到達したかを教えて、理解してることを証明してって。
理解と説明のこれらの考えは知能にとって本当に重要で、アラン・チューリングがやったことについて十分議論されてない。彼は俺の同胞で愛してるけど、チューリングテストの考えは基本的にカンニングの可能性を許すから多くの害をもたらした。
そういう風に考えたことがなかったけど、君が今俺を説得した。それがいつも適用されてきたリトマステストやからな。そしてみんなは向こう側に知能があると思ってる。でもデヴィッドが今それを解体して、それが何であるかを明らかにした。
でも、チューリングを擁護すると、それは間違った用語やったと思う。基本的に考えは違いがわからんやろうってことやった。それがテストやった。君は違いがわからんやろうと。
そう。
だから、彼は必ずしもそれらが同じやって言ってるんやない。ただ、一つがもう一つと区別がつかん方法で表現されてるって言ってるだけや。
「どうやってそれを解決したんや？」ってさらに聞かん限りはな。そうしたら、君は彼らをめちゃくちゃにしたことになる。
問題解決物質としての生命
デヴィッド、君は宇宙の知能についての研究について話した。Aeonで2024年9月に「問題解決物質」っていう論文を発表したな。それは雑誌や。君は生命は化学や物理学よりも少なく、問題解決者である必要から生まれる計算プロセスのようなもんやって示唆してる。
そこでもう少し解説が必要やね。そんなことを言えるのは、1マイル以内に生物学者がいない時だけやろう。デヴィッドにはそれに答える能力があると思うけど。
その論文で俺の共著者のクリストファー・ケンペスと一緒に、俺らは問題解決物質がその材料を超越するっていう質問に取り組んだ。本質的にその質問やな。思考実験を与えるで。地球外やから気に入ると思う。
ある地球外の存在が地球を訪れて、コンピューティングデバイスが何かを知りたがってるとしよう。彼らはジャカード織機の時代に地球に到着した。最初の本質的にデジタルコンピューターみたいなもんや。「デジタルコンピューターは木でできたもの、絹でできたもの」って言う。
そうや。足踏みペダル付きで。その通り。美しい衣類を作るのに使われてる。それが俺らの。
50年経って、また戻ってきて、75年かもしれん、「コンピューターって何や？」って言ったら、これらの巨大な真空管、熱イオン管でできたもので、石英や金属、モリブデンなどでできてるって答える。
さらに50年経って戻ってきて「コンピューターって何や？」って言う。実際、いや、それはコンピューターやない。木と絹でできたもんやない。ガラスとタングステンかその他でできたもんやない。金属酸化物でできてて、トランジスタベースのもんや。
気づくのは、コンピューティングは材料についてやないってことや。
それが論理なんか？すべてブール論理、二進論理を実装する。十分なトランジスタがあってそれらを組み合わせると、計算ができるってことを俺らは知ってる。だからこれは実際にチューリングから来た別のもので、彼が完全に正しかったもんや。材料やなくて論理やってことや。
論理を具現化できる材料が必要や。だからどんな材料でもいいわけやない。残念ながら、生命の起源の研究の歴史は材料に夢中になってきた。俺らは材料でできてるし、俺らが知ってる唯一の例やからな。だから俺らでできてる材料や、すべての生命でできてる材料を見て、それが唯一の方法やったっていう奇妙な結論に達する。
それは賢くて洞察に富んでる。それがすることは、将来がどんなものかを投影する時に俺らを混乱させたり誤解させたりすることやない。
例えば、2001年宇宙の旅は1968年の作品で、2001年を想像してた。それが映画のポイント全体や。1968年にコンピューターは大きくて、2001年にはコンピューターはもっと大きかった。もっと中央集権的やった。みんながポケットにコンピューターを持つなんて誰も考えてなかった。
だから材料について考えてた。その材料をもっと手に入れてそれを実現させようってな。
だからデヴィッドの感性を課題にしない限り、将来についてどう考えるかを完全に歪める。
そうや。さらに、俺らは材料が俺らで、俺らが真の知能を持つ原因と、シリコンバージョンの俺らやなくて、AIと実際の生物学的融合を複製しようと考えることができるんやろうか？
二つのことがある。開発の初期段階にある意識について君が聞いた生命知能のような概念やものの多くは、俺らに馴染みのある機械やメカニズムや物質にマッピングされて、それには良い理由がある。完全に理にかなってる。どこかから始めなあかんからな。
それから俺らの考えが進化するにつれて、ある意味でより抽象的になって、最終的に論理的記述で頂点に達する。でも材料は重要や。君のポイントに対して、それは本当に興味深い。機能主義者って呼ばれる人々がいて、チューリングもその一人やった。美しいエッセイを書いて、こんな風には言わんかったけど、本質的には「脳が冷たいお粥の粘り気を持ってるかどうかなんてどうでもいい」って言った。物質は重要やないって。それが彼の見解やった。
でも俺らは物質が重要かどうかわからん。だから物質は重要や。
物質が重要、物質問題が重要やな。俺は物質が重要なことに大賛成や。でもどんな種類の物質でも重要なんか？それが疑問やと思うし、俺らが経験する感覚的存在が、俺らでできてる特定の種類の物質に依存するかどうかは未解決の問題や。
意識は、俺らの種類の意識は俺らの種類の物質に依存するんか？実際、強い主張ができると思う。答えはイエスや。他の種類の生命がありえんって意味やない。他の種類の知能がありえんって意味やない。でも、この一つは俺らの物質に依存してる。
俺らが事実として知ってるのは俺らで、俺らがそれを経験してるからな。だから経験的参照枠から、俺らはそれを理解してる。
だから俺のポイントは、なぜ俺らがどう意識的で知的になるかを正確に俺らの形成で探さんのかってことや。そしてもしそれが本当にこれらの分散したものが一緒になるだけで起こることやないなら、俺らはそれを取って俺らが作る機械に移植できるかもしれん。
それがまさに起こったことやって議論できる。
もし君が30年前のAIの歴史を見たら、今はGOFAI、古き良き人工知能って呼ばれてる。すべて記号論理を使ってチェスをできるコンピューターを作ることについてやった。チェッカー。人間の理解で情報を与えるエキスパートシステムを作ることについて。
それからニューラルネットワークで大きな変化が起こった。「知ってるか？トップダウンから始めへん。ボトムアップから始める。脳に似たシステムからボトムアップで始める」って言った。
だから彼らは俺らが今言ったことを正確にやった。「脳のようなものを再構築してみよう。ニューロンのような多くのユニットがあって、ニューロンのように接続されてる。十分あったら、何か面白いことをするやろう」って言った。
だから君が記述してる知能への生体模倣アプローチは、現在の瞬間のAI革命やって議論するで。
でもここで何かの底に到達せなあかん。創発を会話に戻そう。
意識と脳の機能
俺らには表面的に俺らの生存によく適したニューロンがある。お腹が空いたら食べ物を探す。危険があったら逃げるか戦う。だから脳はその仕事をしてるし、どんな生物も脳で似たような機能を気にかけてる。
でも俺らは植物に帰するかもしれんものを超えた意識を持ってるって言いたい。だから俺らの中で、複雑性からでも、ボトムアップからでも、トップダウンからでも、意識って呼べるものが何が起こってるんか？
その理由を俺がその方法で聞くのは、今日みんなが意識について大騒ぎしてて、人々がまだそれについて本を書いてるっていう事実が、俺らがまだそれが何かを知らんていう証拠やと思うからや。もしそれが何かを知ってたら、最後の本が書かれてて、棚にそれ以上の本はないはずや。
でもみんながそれを完全に理解してるみたいに話してる。だから君が構築したツールを使って、意識へのアクセスを与えてくれるか？
君の懐疑論を共有する。意識のことについて正直言って、多くはただのでたらめやと思うし、俺らは本当にそれを理解してへんし、だからもっともっとひどい本がそのトピックについて書かれ続けてるんや。
まあ、これは俺の近日発売予定の本「意識についての最後の本」を発表するいい時やな。
ここには多くの学派があることを知ってるし、俺の世界では、厳密な作業の大部分（素晴らしい作業やって言ってるんやない、ただ厳密な作業やって言ってる）は、意識状態と相関する定量化可能な指標、測定を探してる。
明確にしよう。君の脳を測定して、いくつかの方程式を書き下ろして、何らかの数字を計算して、寝てる時の脳を測定する。起きて問題を解いてる時の脳を測定する。麻酔下の脳を測定する。
計算したその数字が、起きて問題を解いてる時は高くて、麻酔下や寝てる時はゼロに近いってことがわかった。だから、これは時々意識の神経相関アプローチって呼ばれる。それが何かを教える。相関を見つけたってことや。
そして多分それは有用や。麻酔下で親指を取ってもらう時、その数字が最大値やなくてゼロに近い方がいい。でも、それがベストなとこや。
実際に何であるかの理論に関しては、正直、質的には、人間の脳が大きなデータセットで動作するために持たなければならん小さな注意の窓についての何かのようや。
これについて明確にするために、すべての数学者は、すべての難しい問題が無意識の心によって解決されるってことを知ってる。
これについてアダマールって人が書いた非常に有名な本があって、「数学者の心」って呼ばれてた。彼はみんなにインタビューした。アインシュタイン、ポアンカレ、ガウスの日記を見た。みんな同じことを言う。「本当に難しい問題や。俺にできる最良のことはそれについて考えて、それから考えるのをやめることや。いい食事をして、ジョギングに行くか何でもして、それからどういうわけか、何らかの洞察によって解決策が俺に現れる」って。
俺はアインシュタインがジョギングに行ったとは思わん。彼はフィットネスグルだったとは思わん。彼はバイオリンを弾いたんや。ジョギングの代わりに何かをした。バイオリンを弾いた。クルト・ゲーデルと散歩した。自分のことをした。
でも興味深いポイントは、意識は難しい問題を解決することについてやないってことや。問題の一部に焦点を当てた小さな注意の窓についてや。現在の形式主義の多くは、それがどう機能するかについての洞察をあまり与えてくれん。だから正直、この種のことの多くは好きやない。
遺産ソフトウェアと進化
俺が読んでない本やけど、アイザック・アシモフの物語に基づいた映画「アイ、ロボット」を見た。ウィル・スミスのやつや。アイザック・アシモフの。でもそう、ウィル・スミス。ウィル・スミスの物語や。
ロボットはすべて人型ロボットや。廃棄されたり、まだ一種生きてるけど、実用性のためにパートナーになったり何でもになったりするようプログラムされるまで目的がないロボットが入った大きなバンがある。
バンの中で、ロボットたちは互いとグループを作ってた。距離を最大化してるだけやなくて、パターンもランダムやなかった。誰かがそれについて聞いた。「これについて何を知ってるんや？」って。「何が原因かわからん。わかるのは、これらのものに新しい実用性を追加した時に完全にクリアされなかった残留プログラミングがたくさんあるってことや」って言った。
これはまさに進化や。俺らの中には、もう必要ない時代からの残り物がある。だから俺らの頭の中で一体何をしてるんや？時々ハエを食べたくなる理由や。
それが俺の爬虫類脳を説明してる。ヤモリ脳や。そう、その通り。狂ったようになってる。
だから俺は興味をそそられた。人間の継続的進化や、それらのロボットの場合は機能の継続的重ね合わせでリフレッシュされない遺産ソフトウェアやった。何をしてるかわからん遺産ソフトウェアがある。だからその観察を君と共有したかったんや。
また話すことがたくさんあるし、恐らくみんなも知ってる俺の同僚で、最近亡くなった小説家のマッカーシーがこれについて美しいエッセイを書いた。彼はそれをケクレ問題って呼んだ。この洞察の瞬間についてで、ケクレのベンゼン環の発見やった。「うわ、夢で見たんや」って。
作家として、小説家として、ケクレはこれがどこから来るのかっていう質問に魅了された。本を書くために座ってて、どういうわけか俺の脳が手に指示を出してるけど、その文の最後に何が起こるかを正確に言うことはできん。これは一種出てくるんや。
だから彼は時間の経過とともに内省的に、無意識の心から指示を受けてるって信じるようになった。神秘的な意味やなくて、ただそれを解決してなかっただけや。君のポイントに対して、地球上の生命の歴史を見ると、最近まで進化の大部分は言語なしに起こった。恐らく大部分の生物は、君がロボットのバンで説明したような自動プログラムのセットによって動かされてて、俺らはその上にこの種の非常に薄い抽象化の層と自己認識を重ね合わせた。
でも計算の大部分はその薄い層によってやられてへん。その薄い層が俺らに与える一つのことは、他の動物ができると俺らが認識してない一つのことや。つまり、俺らは理解を伝達できるってことや。
彼らは他のことを伝達できるけど、俺らは理解を伝達できる。ニュートンの法則を与えることができる。ダーウィンの進化論について話すことができる。非常に少数のニューロンから来ると想像する人間のそのスーパーパワーは、進化が何億年にもわたって俺らに与えた、まさにそのすべてのプログラミングの上に座ってる。
人間の知能の限界
最後に一つ質問がある。まだもっとあるで。
でも君が聞いて。いや、俺らはもっと質問を聞くのが好きや。それなら俺は一人で話すことになる。俺らはラップモードや。MCのラップやない。わかる種類のラップや。俺らはラップモードにいる。
だから、そこに行かなあかん。みんなを魅了するからな。まあ、いつも考えてる。他の人については話せん。
君のツールキットに基づいて、宇宙でどんだけ高く知能が到達できるかに対して、俺らがどんだけ知的かを推定できるんか？
だから、俺らは宇宙がどう機能するかを解明するのに十分賢いんか？それとも俺らはただの完全な馬鹿で、より高度なエイリアンが出てきて、世界の性質を推論する俺らの能力において、俺らをミミズのように見るだけなんか？
本当に興味深い。俺が取り組んでる分野の一つは道具や人工物やねん。そろばん、六分儀、象限儀、ルービックキューブ。
棚が来るで。性器をここに置いてる。他の棚に3つのルービックキューブを置いてる。ただの見せびらかしや。俺はそろばんの上に座ってる。
そうでないことを願うで。ここには重要なポイントがある。人間の知能は常に人工物や道具への巧妙な外注についてやった。数学も含めてな。惑星の軌道を円錐曲線や微積分なしに計算することはできん。
だから俺は人間の知能はその点で無限やと思う。俺らの能力の付属物である道具を作り続けるからな。AIが興味深いのは何か？このそろばんで軌道を計算できることを知ってほしい。
いいな。いや、嘘ついてる。完全に嘘ついてる。これは本物の中国のそろばんや。
見える。でも俺のポイントに対して、本当に興味深いのは何かって思う。俺は道具を2つのカテゴリーに分類する。一つは相補的認知人工物って呼ぶ。鉛筆やそろばんや六分儀みたいなもんや。もう一つは競争的認知人工物って呼ぶ道具の種類がある。GPSマシンや大規模言語モデルみたいなもんや。
その一つのセット、相補的なものは君を賢くする。その一つのセットは君を馬鹿にする。人類がどんな種類の道具に依存したいかを決めるのは人類の選択やと思う。だから俺の恐れは、俺らが能力を競争的人工物に外注してて、実際に俺らを賢くする未来のそろばんみたいなものにやないってことや。
宇宙が生命を創造した理由
俺の質問の時間はあるか？わからん。とにかく聞くで。どうぞ。聞かせてくれ。男に質問させてあげて。
君は生命は問題解決やって言った。だから宇宙はなぜ生命を創造したんや？どんな問題を解決しようとしてるんや？
その質問に対する恐ろしく皮肉な答えを見せることができる。どうぞ。お願いします。
その質問に対する恐ろしく皮肉な答えは、生命は熱力学的平衡に戻る最も効率的な方法やってことや。
うわ、それはひどい。
生命は最も効率的なエントロピー生成器やからな。工場を建てる時に俺らがすることを考えたら、本質的に秩序ある状態を無秩序な状態に変えてるんや。
君の質問に対する皮肉な答えは、生命は宇宙による一種の自殺やってことや。
全部無駄やって君が言ったことを言おうとしてたけど、それも真実やない。俺らが作るものや。
皮肉やない答えはあるんか？落ち込んだ気分で終わらんように。俺は皮肉な答えが好きや。愛してる。
皮肉やない答えは理想主義哲学者たちから来て、彼らは生命は宇宙が自分自身を知る方法やって言った。それも真実や。だから、それが皮肉やないバージョンや。
それは非常に詩的や。好きや。それは1980年のコスモスやった。それが主要なテーマやった。生命は宇宙が自分自身を知る方法や。
3時間もっと続けることができたやろう。明らかに。
初めて会えて、君が何に取り組んでるかを聞けて嬉しかった。研究所の所長として、まだ君の好きなトピックで仕事ができることを嬉しく思う。
でも問題は君が嬉しいかどうかや。
嬉しいよ。科学もやらん限り、この仕事はできん。
いいね。そうあるべきやし、しばしばそうやないことが多い。
デヴィッド、スタートークに参加してくれてありがとう。このひどく暗い時代に俺らを招いてくれてありがとう。愚かな世界で知的なことについて話せることを感謝してる。それを大切に思う。ありがとう。
どういたしまして。
チャック、いつも楽しいな。楽しかった、ニール。ここで気分がいい。これはスタートーク特別版、複雑性バージョンの特別版やった。いつものように、上を見続けることを願って、ニール・デグラース・タイソンからお別れや。
コメント