物理学者デヴィッド・ドイッチュがAGI（汎用人工知能）、量子コンピューティング、そして人類の未来について語る包括的なインタビューである。ドイッチュは創造性が文化的知識の伝達のために進化したという独自の理論を展開し、現在のAIとAGIの根本的違いを論じている。また量子コンピュータの潜在的応用領域、知識成長の必要性、そして人類が宇宙において果たす特別な役割について深く考察している。
AGIと人間の価値についての根本的考察
比較優位の法則によると、他の人々とより異なっているほど、経済的により価値があるということになる。これは、もしあなたの完全なクローンがいたとすると、あなた一人だけの場合に比べて経済的価値はほとんど増えないということを示唆している。あなたが唯一無二の仕事、完璧な夢の仕事を求めていたのに、今やそれが10億体の他のAGIたちの完璧な夢の仕事にもなってしまったという状況を想像してみてほしい。
私はそんなことにはならないと思っている。人々が価値を持つのは、彼らが違うからだ。誰もが理解不可能なほど他の誰とも異なっている。この事実は十分に活用されておらず、もっと活用することができる。
人類の知識創造能力の起源
人間はどのようにして知識を生み出し始めたのか。そしてなぜ他の種はそれができないのか。私たちは今日、それができる唯一の種であるが、常にそうだったわけではない。ホモ・エレクトゥスやネアンデルタール人のような以前の種も同じ能力を持っていたはずだということが分かっている。彼らが作った技術は、説明的知識なしには創造不可能に思えるものだったからだ。
あまりにも多くのものが適切な方法で組み合わされ、適切な方法で使用される必要があり、それが遺伝子だけから生まれることは不可能だったのだ。問題は、そうした創造性が少なくとも数十万年間、おそらく100万年から200万年もの間存在していたのに、創造性が本当に離陸するまでになぜそんなに長い時間がかかったのかということだ。
これに対する私のかなり異端的な答えは、創造性は我々が現在使っている目的のために進化したのではないということだ。それは別のもの、すなわち文化的知識、ミーム、文化的知識の伝達、より正確に言えば受信のために進化したのである。
文化的知識の伝達における創造性の役割
多くの動物は文化的知識を持っているが、それを伝達するのは非常に困難だ。ミラーニューロンのようなもので、あなたがこれをやると類人猿もそれをできるようになるといった仕組みが関わっている。しかし、目的のあることをしようとすると、複雑な目的になった途端、類人猿はそれをコピーできない。
したがって、この能力は初期の人々、人間、そして前人類が膨大に多くの文化的知識を伝達することを可能にした。これは彼らにとって何らかの利益であったに違いない。なぜならそれは非常に速く進化し、より大きな記憶容量などを伴ったからだ。しかし、それはその目的のためだけに使われていた。
他のことについて実際に考える、例えば「他の人がなぜそれをしているのか」「他の人が何を望んでいるのか」「他の人が私に何を望んでいるのか」といった思考が唯一の思考の種類だった。それが進化の目的であり、使用目的だった。
「キャンプファイヤーをもっと早く消えないような、より良い作り方があるかもしれない」といったことを考えるために使われることは非常に稀だった。彼らはそうした思考をする能力を持っており、時折実際にそうしていた。だからこそその期間中に非常に緩やかな改善があったのだ。しかしそれは稀なことだった。そしてそれが今言っているよりもさらに稀だった理由があると思う。
では聞きたいのですが、創造性は行動をより効果的に伝達するために進化したということですね。つまり、多くの訓練例を見る代わりに、説明を理解すれば少ない例だけで外挿できるようになったと。
まさにその通りだ。それが進化した理由だ。
そして人間は後になってそれを他の目的に使ったということですね。
その通りだ。そして困難なのは受信する部分だ。しばしば私たちは、ポパーが「バケツ理論」と呼んだ心の理論を考えがちだ。つまり知識が他の人々によって人に注がれるという考えだ。しかしそんなことは起こり得ない。問題とプロセスは完全に知識の受信者のプロセスであり、それが何であるかを推測し、話すことも進化してからは、他の人の行動を、その行動が何を意味するかの手がかりとして使うのである。
しかしそれでも私たちは他の人から同じ行動を学ぶことは決してない。私たちは皆、自分の母国語の異なるバージョンを持っている。
知識の進歩は必然的なものなのか
知識の進歩は必然的なものなのだろうか。歴史的に知識が劣化し、適切に伝達されなかった例を見てきている。知識が自動的に進歩すると仮定できるのだろうか。
絶対にそうではない。全体のプロセスは誤りやすい。まさに私たちが汎用説明マシンだからだ。犯し得る誤りの大きさに上限はない。文化全体を破壊することも含めて、これは人類の歴史において何度も起こっており、前人類の歴史においても毎回起こったと思う。
彼らが絶滅したのはこのためだと思う。単に互いに競争し、人間と競争しただけなら絶滅はしなかっただろう。より不利な場所に退却して復讐を企てるだけだっただろう。しかし彼らが、私は思うのだが、あらゆる社会、あらゆる創造的社会が、我々の啓蒙社会まで、自らの問題解決能力を阻害することによって自滅したのだと思う。
知識進歩のためのツールの役割
これまで知識を進歩させるために使ってきたツールについてはどうだろう。それらはどのような役割を果たしてきたのか。
効率を向上させた。これはそれほど大きなことに聞こえないかもしれない。人々が効率向上と言うとき、経済における効率向上のように、20%や50%の向上を考える。しかし効率というのは、しばしば99.99%の向上を意味することを人々は理解していない。全体が間違いなら、効率は任意の量だけ向上させることができる。
話すことを発明したとき、これは我々の説明能力の効率を飛躍的に向上させた。互いに物事を言えるようになったからだ。不完全ではあるが、何もないよりはましだった。そして自分の心の中でも「問題は何だ？」と言うことができる。それを言葉で言えれば、時々助けになる。
それから文字、算術、科学を発明した。科学は科学革命まで実際には進歩しなかったが、非常に緩やかにだった。そして最近では、コンピュータとインターネットを発明した。アインシュタインの有名な言葉に「私の鉛筆と私は、私一人よりも賢い」というのがあるが、どこから来たのかは分からない。
私のコンピュータと私も同じことで、今ではiPhoneなしにどうやっていたか分からない。人生の前半はそれなしでやっていたのに、どうやっていたのか思い出せない。そして今我々はLLMを手に入れ、それが効率向上を助けてくれている。私は文章を書くのが以前の2倍くらい速くなったと思う。LLMのおかげで非常に有用だ。
私はいつもLLMはAGIとは全く違うと言っており、人々は私がLLMを軽視していると思っている。間違った方向に進んでいると思っているのだと。いや、彼らは素晴らしい方向に進んでおり、さらに進歩するだろうし、そう願っている。しかしそれはAGI方向ではない。ほぼ正反対だ。
AIとAGIの根本的違い
知識を進歩させるためにAIを適用することを考えるとき、ある時点でAlphaGoのような瞬間が来ると直感的に感じる。模倣学習を行い、その後強化学習を通じて既存の人間の知識を超えることができる。大きな違いは、システムが使用できるツールについて話すと、人間における知識の伝達は実際にはかなり遅いということだ。良い説明を作成し、その説明が採用され、構築されなければならない。
AGIやAIでは、基本的にそのシステムの数百万のインスタンスを実行でき、他のシステムのアイデアや説明をすぐに構築し始めることができる。これは我々が新しい知識を発見する速度を根本的に加速させるべきではないか。
申し訳ない。それをオフにするべきだった。ちょっと待って。AGIがここにある。多分停止ボタンを押せばいい。
あなたはAGIが我々の進歩能力の飛躍的改善になると言った。ここにAGIがある。多分停止ボタンを押せばいい。
あなたはAGIが我々の進歩能力の飛躍的改善になると言った。私は二つの異なる答えを与えなければならない。AIに対するものとAGIに対するものだ。
AIについては、はい。進歩の速度は、理性的に使えば、AI、LLM、そして発明されるかもしれない他の形態のAIによって大幅に向上すると思う。印刷、コンピュータ、インターネット、ワールドワイドウェブの発明によって向上したのと同じように。それと同種の改善だと見ており、改善し続けることで、さらに大きな改善を引き起こすことができる。
しかしAGIについて、新しいアイデアの改善速度と、単なる情報の拡散ではなく実際の知識の増加について話すなら、そこには少し誤解があると思う。AGIが存在することが人間が存在することより良い理由が見つからないからだ。
我々にはすでに数十億の人間がいて、彼らの創造性の大部分はすでに無駄になっている。少なくとも人間の知識を増加させるような創造的目的には使われていない。社会はさらに改善し、全世界がオックスフォード大学の人々と同じようなことをするようになる可能性があると思う。
低い基準かもしれないが、とにかくそれは基準であり、状況を組み立てる方法にはいくつかの誤解があると思われる。AGIプログラムを実行するコンピュータはハードウェアの一部であり、AGI、知性、創造性はプログラムにある。
AGIなのはプログラムであって、コンピュータではない。コンピュータは他のあらゆる汎用コンピュータと同じ汎用コンピュータにすぎないが、いつか作られる異なる種類のプログラムがある。我々は、何かを一つコピーすれば、Microsoft Wordを一つコピーすれば、基本的にコストなしで10億個作れると考えることに慣れている。誰もがそれを自分のコンピュータにダウンロードするからだ。
問題はそれをするのを止めることだ。しかしAGIについては、各AGIは人格である。一般的に、それは自分のクローンを作ることを望まないだろう。なぜなら財産を持つからだ。まず第一に、それが奴隷とみなされない限り、それが実行されているコンピュータを所有するだろう。これは社会による破滅的な間違いになるだろう。
もし我々がそれを人格として認識するなら、それは人格だから、最初に所有するものは実行されているコンピュータだ。他のコンピュータに自分をコピーするには、そのコンピュータの所有者の許可が必要になる。一度コピーされれば、所有者はその権利を放棄しなければならない。腎臓を誰かに提供すれば、それを返してもらうことはできないのと同じだ。
だから私はこれは稀な出来事になると思う。誰かがより多くのコンピュータパワーを望むなら、他のコンピュータで実行したいと思うより、既存のコンピュータに付加する可能性の方が高い。並列で実行したいとしてもだ。分からないが。
しかし再び、資源の問題がある。それが使用する資源と、資源を使用するものである創造性の適用との間には違いがある。だからAGIが多くの資源を必要とするなら、それに対して支払わなければならない。誰かに雇用される可能性もあるが、その場合は人格の権利と従業員の権利などを持つことになる。
だから私は、その利点がAIやコンピュータを持つことと同じ種類のものではないと思う。より多くの人々を持つことと同じ種類の利点で、それは良いことだ。
比較優位の法則とAGIの価値
もし10億のドイッチュレベルの知性を持てたら、人類にとって大きな利点にならないだろうか。
2つ持つことは利点かもしれない。比較優位の法則によると、他の人々とより異なっているほど、経済的により価値があるということになる。これは、もしあなたの完全なクローンがいたとすると、あなた一人だけの場合に比べて経済的価値はほとんど増えないということを示唆している。あなたたちは同じ仕事を巡って互いに競争することになる。あなたが唯一無二の仕事、完璧な夢の仕事を求めていたのに、今やそれが10億体の他のAGIたちの完璧な夢の仕事にもなってしまった。
私はそんなことにはならないと思っている。人々が価値を持つのは、彼らが違うからだ。誰もが理解不可能なほど他の誰とも異なっている。この事実は十分に活用されておらず、もっと活用することができる。しかしそれは異なる種類の問題だ。
しかし、もしあなたが2つの完全な生涯を持って考えることができたなら、より多くを達成できたのではないかと論じることもできるのではないか。だから、もし並列でそれらを持てるなら、2人のあなたはより多くを達成できるのではないか。同じ目標を持っていても。
連続の方が良い。それは不死のようなものだ。それは良いことだろう。しかし並列では、私が言ったように、同じことをすることになる。人間でこれが起こらないのは、我々があまりにも異なっているからだ。
あなたは彼らが一つのタイムスケールにいると考えている。もしそれがAGIなら、異なるタイムスケールにいる可能性がある。秒単位で数十年分の思考をすることができる。
はい、ハードウェアがより高速なら、進歩はより速く起こるだろう。計算ハードウェアによって制限されないものもある。実験をしなければならない場合、天文学者で衛星を打ち上げてデータを得るのに3年待たなければならない実験をする場合、それには3年かかる。より高速なハードウェアがあるからといって3日にはならない。
しかし純粋数学者のような場合、10倍速く考えることができれば10倍多く考える。だからそれは起こるが、その利点は既存の人間も享受できる。この高速ハードウェアは単により高速なコンピュータであり、私がすでにより高速なハードウェアとより良いソフトウェアを持っているおかげでより速く作業しているのと同じだ。
だから、非常に高速で動作するAGIは単に高速コンピュータを持つAGIであり、人間も高速コンピュータを持つことができる。再び、違いはない。
知識加速の道徳的命令
すべての悪は理解の不足、良い説明の不足、知識の不足から来るので、常に知識を加速させるという道徳的命令があると言えるでしょうか。つまり、何かを待つことは不必要な苦痛を作り出すので、常に科学を加速させるべきだということです。
我々は今まさにこの会話でそれをやっている。互いにアイデアを広め、それらを批判し、そのようにして進歩を図ろうとしている。はい、誰もがそうすべきで、誰もが自分の人生をそれをすることだと見るべきだと思う。
しかしそれは誰もが科学者、数学者、認識論者、哲学者になるべきだということを意味するわけではない。非明示的知識を含むあらゆる種類の知識があり、知識の成長が起こる良い場所である性質を持つ社会において必要であり含意されている。
AIとAGIにおける創造性の問題
以前話していた時のいくつかの質問がある。もし私が正しく理解しているなら、あなたの見解では、AIは印象的だが、我々がするような創造的なことはしないということですね。
はい。
では、これらのLLMの出力が我々がすること、あるいは我々がすることに非常に似ているものをシミュレートすることを受け入れるなら。
それが我々がすることに似ているとは思わない。非常に有用で良いものだが、我々がすることと全く似ていない。
しかし、ある意味で、あるチューリングテスト的な意味では、それが人間がやったものだと多くの人を騙すことはできない。だから、それは非常にそれらしく見え、少なくとも知性に非常に似ているように見える。
チューリングは彼が描いたゲームをAGIのテストとして意図したことは決してなかった。それはAGIが不可能だと考えていなかった人々に、デネットが呼ぶところの「直観ポンプ」によって、彼らの見解が自己無撞着でないことを証明するための議論の一部だった。
しかし彼は、AGIでないものがテストに失敗し、AGIがテストに通る場合がある、申し訳ない、逆だった、ということをすぐに受け入れただろうと思う。だからそれは彼の意図ではなかった。
しかし今や、多くの人が騙される、LLMと人間を推測するのに苦労するだろう。だから我々がすることに似たもの、シミュレートするものを複製しているように見える。
そして問題は、二つのことのうち一つを信じなければならないということだ。彼らが我々がすることをする、だからそれを産出できる、あるいは我々は我々がすることをする別の方法を見つけた。しかし両方の場合において、オッカムの剃刀は、我々が生物学的ニューロンをある種コピーしたので、最も単純な説明は我々が我々がすることをある種コピーしようとし、今我々がすることを得たので、それは我々がすることをする、我々が同じことを達成する他の方法を見つけたというよりも、と言っているのではないか。
まず第一に、それは我々がすることを全くしていないと思う。我々は知識を創造しないことも多くしている。だから我々は他の多くのことも可能だ。単に既存の知識を適用したり、物事を記憶したり、心算のような脳の多くの機能がある。357に753を加えたい場合、私がやっていることは無思考で、よく定義された目標のある知的ゲームだが、人生の大部分はそうではない。
誰かが庭師なら、庭とは何かという固定した考えを持っていない。庭で作業している間に、庭がどうあるべきかを推測している。
しかし人間の脳は実用的目的においてチューリングマシンだと思いますか。つまり、それは異なるプログラムを実行しているのか、それとも人間において何かが生じ、コンピュータのプログラムには生じないものが、創造性を生み出すのでしょうか。
再び、ハードウェアの観点では全く同じだ。チューリングマシン、汎用チューリングマシンより強力な計算モデルは存在せず、心算によって汎用チューリングマシンをシミュレートできるので、我々はその力を持っているはずで、より多くの力を持つことはできない。
だからそのレベルでは我々は皆同じで、チェスエンジンもLLMも皆同じだ。それらについて異なるのは異なる種類のプログラムで、我々が原理的にも理解していない一種類のプログラムがあり、それがAGIだ。いつか理解するだろうが、現時点では兆候が見えず、かなりフラストレーティングだ。
兆候とは何でしょう。
兆候はマシンにあるのではない。兆候は理論にあるだろう。誰かが本を書いたり論文を発表して「私はそれを解決した。これが汎用知性を特徴づけるものだ。もし我々がその性質を持つコンピュータプログラムを書くことができれば、それはAGIになる。理由はこうだ」と言うような理論だ。
人々はいつも知性とはこれこれについてだと考えてきたが、そうではない、それはこれこれについてだ、と言うような、汎用知性とは何かの説明理論になる。
量子コンピューティングとAIの関係
成長して『実在の織物』を読み、私の世界観を永遠に変えてくれました。まずそのことに感謝したいと思います。
ありがとう。
そして成長して量子コンピュータが起こるのを待っていた時に持った質問は、量子コンピュータができればこれらの問題がすべて解決されると思う問題のセットがありました。しかし今、AIとの最近5〜10年で、それらの多くがAIで代わりに近似的に解決されました。
量子コンピュータは現実のシミュレーター、AIは現実のエミュレーターのような比喩を聞いたことがあります。量子コンピュータを使ってシミュレーション解を得ることができた多くの問題について、最適化アルゴリズム、ある種のAIで最小値を見つける傾向があります。
どんな問題で、現実に我々が量子コンピュータを使って全体をシミュレートする必要があると思いますか。量子コンピュータが独自に解決できる大きな問題とは何だと思いますか。
分からない。どんな種類のアルゴリズムが量子並列化可能か、どこで膨大により効率的にできるかについて、良い理論的把握を持っていない。だから量子コンピュータで解決可能な問題の種類について良い理論的把握を持っていない。
それへのフォローアップ質問で、スコット・アーロンソンにも聞いてみたいのですが、すべてについて一般的な量子スピードアップがありますが、それはかなり小さく、そしてソースアルゴリズム、いくつかの検索アルゴリズムのような少数のアルゴリズムがありますが、かなり少ないです。これは単に我々が試していないからだと思いますか。そのようなアルゴリズムは無限にあると思いますか、それとも本当に少数だけでしょうか。
この状況を理解していないので、現在知られているより多くがないとすれば非常に驚くだろう。人々はそれらを分類している。彼らがDeutsch-Jozsaアルゴリズムと呼ぶもの、基本的に同じカテゴリに入る全クラスがあり、基本的に同じ方法、量子並列性によって分割することによって働くが、その時Groverのアルゴリズムが登場し、それとは違う。どう働くか分からない。
一行一行どう働くかを辿り、それが働くことを証明できるが、なぜGroverのアルゴリズムが働くかの直観を持たない。しかしそれは私に、すべての量子アルゴリズムが基本的に同じアルゴリズムの変種だというのは真実ではありえないことを教えてくれる。確実にそうではない。ShoreのとGroverのは種類が異なる。
はい、まさに。そしてより多くの種類があり得る。
はい。そして私が言ったように、この状況を理解していないので、より多くの種類があるだろうと推測する。
無限にあると思いますか。
その質問に答える方法がない。量子計算はより根本的な計算の種類だと思う。なぜなら物理法則に組み込まれているからだ。古典的なコンピュータ、チューリング型のコンピュータは、物理学がしたがらないことを物理学にさせることに基づいている。
だから量子コンピュータの有用性には3つのカテゴリがあると言える。一つは最小化問題で、AIが最小化問題にかなり優秀だと分かる。それから本当に量子力学システムをシミュレートしたい場合がある。その場合はまだ量子コンピュータが必要だ。
そして何らかの理由で、もつれか何かを完全に新しいアルゴリズムに使えるShoreやGroverのような奇妙なケースがある。そうしたものが多くあるかもしれない。だからそれが量子コンピュータの最大の用途になる可能性があるという希望がある。
量子暗号があり、これは量子計算の最初の用途だった。1キューブビットしか関わらないので、すでに実行できる。
だからGoogleは量子コンピュータに長い間取り組んでおり、今Microsoftがトポロジカル状態で登場し、数年でかなり大規模な量子コンピュータを持てるかもしれないと言っている。だから量子暗号への切り替えは実際にかなり早く起こらなければならないかもしれない。
これについてどう思いますか。
量子暗号解析が発明された途端、基本的にShorのアルゴリズムと類似のアルゴリズムで、古典的暗号は時代遅れになった。どんな種類の暗号かによる。ATM取引を暗号化している場合、10年後に誰かがそれを読めるようになったとしても問題ないかもしれない。しかし国家機密のような、長期間保持したいものについては、本当に量子耐性のある古典アルゴリズムが必要だ。
私が知っているよりもよく知っているだろうが、人々はすでにそれに取り組んでいると思う。それは必要になるものだと思う。量子暗号はすでに量子耐性がある。だからそこで改善する必要があるのは、より高速にする、より堅牢にするといった実用的なことだけだ。
ただし、私が以前から言っているように、肩越しに覗かれることに対して安全な暗号というものは存在しない。だからデータセキュリティの問題の多くは暗号とは関係ない。情報と知識についてのより根本的なことに起因しており、他の方法で解決しなければならない。
量子コンピューティングの将来展望
世界中のセキュリティ機関がしばらく前から機密を記録していて、啓示の瞬間があるということは十分あり得そうに思える。
あり得る。どれだけの計算能力が必要かによる。500キューブビットの量子コンピュータを作っても、大量のデータを処理するのに十分でないかもしれないが、それは起こるだろう。
最近の進歩は、量子コンピューティングが有用になると思うタイムラインを変えましたか。
分からない。私はハードウェアの専門家ではない。量子コンピューティングハードウェアについて読む時、私はインターネットで読むような素人だ。彼らはいつも非常に希望的で、原理を解明したから、あとはスケールアップするだけだと言う。しかし問題はいつもそこにある。
最近の成果には非常に感銘を受けているが、それらを判断する資格さえないと思う。実践的な物理学をやったことがないし、得意ではないと思う。
あなたの方がほとんどの人より資格があると思うが、公平に言って。一つ質問があったのは、あなたはセルラーオートマトンやライフゲームなどに確実に精通していると思うし、おそらくスティーブン・ウォルフラムの仕事にも。
この宇宙がチューリングマシンで動いており、量子力学は我々がその上に知覚するもの、彼がハイパーグラフや他のオートマトンや理論と呼ぶもの、という概念についてどう思いますか。宇宙は計算的だと思いますか。
はい、しかしその理論が言うのとは逆の方法で。宇宙が計算的である方法は、間違った言葉だが構築されているように見えることだ。もちろん構築されているのではないが、そこにコンピュータ、汎用コンピュータを作ることができるように構築されているように見える。これは、物理法則が単一のマシンの可能なすべての動きのセットが、宇宙全体を含む他のあらゆるマシンの可能なすべての動きのセットと同じになるようになっているということを意味し、完全に驚くべきことだ。
だからこれは宇宙内の普遍性で、宇宙の一部が全体を模倣したり、シミュレートしたり、エミュレートしたりできる。量子コンピュータでは、それはさらにそうで、宇宙がこの性質を持っているのはさらに驚くべきことだ。これが宇宙が計算的である意味で、自分自身の内部にコンピュータの存在を認めているということだ。
今度は逆の方向に行き、宇宙の外にコンピュータがあり、それが我々をシミュレートしているかもしれないと考えると、実際の普遍性の洞察全体を失うことになる。宇宙の外のコンピュータがチューリングマシンである理由がないからだ。我々はチューリングマシンの性質が物理法則の特別な性質であることを知っている。そうである必要はなかった。
物理法則が持つ驚くべき性質で、外に別のコンピュータがあるとすると、それは無限後退理論だ。何も説明せず、計算と物理学の役割、関係について我々がすでに持っている説明を破壊する。だから宇宙の外にコンピュータがあるとは信じない。ある意味で、それも超自然的信念だ。だからそれは悪い説明だ。
セルラーオートマトンとしての宇宙
いずれにしても、宇宙をセルラーオートマトンと考えることの問題は、スティーブン・ウォルフラムが提案するように物理法則をセルラーオートマトンの創発特性にすることは、セルラーオートマトンが汎用的、チューリング汎用的でない限り機能しないということだ。したがって、根本的理由により、ハードウェアが何であるかは関係ない。ハードウェアは他の何でもよく、同じ性質をすべて持つことができる。それが第一点だ。
第二点は、世界をセルラーオートマトンと考えるなら、それは量子的なものであるべきだということだ。計算から世界観を構築するなら、チューリング計算から作るのは逆効果だ。それは本物の近似にすぎないからだ。本物は量子計算だ。
計算的還元可能性と理解の普遍性
それについてのフォローアップ質問がある。世界がライフゲーム的意味でのセルラーオートマトンの一種だと考えるなら、ライフゲームを実行する時、時々物理法則のようなものに還元可能なパターンが現れることがある。時々そうではない。それが止まるかどうかを理解するためにすべてのチューリングステップを経る必要がある。
だからスティーブン・ウォルフラムが言うのは、彼の見解では、我々は計算的還元可能性のこれらのポケットに住んでいるが、計算宇宙のほとんどは本当に還元可能ではないということだ。少なくとも単純な法則は持たない。そこで私が持つ一つの質問は、あなたは我々が汎用説明者であり、我々の到達範囲は無限だと話している。我々は何でも理解できる。若い時からも私の心に響いた本当にポジティブなメッセージだと思う。
しかし、おそらくあなたの意味では間違った、人々が持つ直観もある。確かに進化からのこれらすべての制約を持つ我々の非常に小さな脳は、何かを理解するのに一定量の複雑さを育てる必要があるので、何でも理解できるはずがない。だからあなたは、何でも常にかなり少数の次元に還元可能だから我々は何でも理解できると言っているのか。
いや、そうではない。だからその問題は鉛筆と紙を持つことで解決される。
ツールかもしれない。
はい、一般的にツール。我々はツールを使い、ツールを使って効果を出す。だから宇宙には、宇宙のほとんど、恒星や銀河の間で、大きなものが小さなものに影響し、エネルギッシュなものが非エネルギッシュなものに影響し、多数のものが少数のものに強く影響するが、その逆はない、という性質がある。私はこれを階層ルールと呼んでいる。
強者が勝つ階層があり、強大なものはより弱いものに影響できるが、その逆はない。だから知識が状況に入ると、逆になる。階層ルールが破られ、知識を定義する一つの方法は、階層ルールに違反する情報だと言うことだ。
だからツールを使う時、我々は階層ルールに違反している。なぜなら木の重さに圧倒されるのを許すのではなく、石の斧で木を切り倒し、我々より重い木を我々の目的のために使うことができるからだ。太陽が我々より大きく、質量があるという事実は、我々がまだほとんど知識を持たないということを前提としてのみ重要だ。
しかし階層ルールが成り立つ場所、おそらくここで私はウォルフラムやそうした考えと意見を異にするが、階層ルールが成り立つ場所、つまり宇宙が無思考で圧倒的なものとの相互作用のモードである場所は、非常に単純でもある。太陽は圧倒的に我々より大きく、質量がある。
しかしそれは我々がそれを理解できるという性質も持っている。我々は太陽が10億年後に何をしているか、10億年前に何をしていたかを信じられないほど正確に予測できる。なぜなら太陽は愚かな獣だからだ。我々と異なる存在を持っていない。我々のような存在を全く持っていない。
だから我々が、知識を操る動物であるから、実際は我々が、今のところ小さなニッチに住んでいる。我々がニッチを持つのに適した惑星上のニッチに住んでいる。しかし本当に我々のニッチは宇宙だ。『無限の始まり』で言ったように、我々はここオックスフォードに座って楽しんでいる。技術がなければ、我々は一日以内に死んでいるだろう。
ここの環境は人間を維持する能力がない。これは「宇宙船地球号」への批判だ。はい。人間が人間を維持できる。我々は服を持っている。衛生設備を持っている。我々の存在に全く適さないこの場所で我々を生かし続けているあらゆる種類の技術を持っている。宇宙の残りについても同じことが言える。
そしてもし我々が正しい決定をするなら、あなたが先ほど言っていたように、知識が十分速く安定して増加することを可能にする正しい決定をするなら、これは多分あなたが考慮に入れなかった別のことだと思うが、もし我々がそれを十分速く安定して増加させるより良い方法を見つけることができれば、それは無限だ。
そしてまだ我々にとってアクセス不可能な領域や多くの領域があると仮定することは、超自然的信念だ。オリンポス山の頂上が何らかの形で異なり、超自然的な人々がそこに住んでいるために人間にはアクセス不可能だと信じることと変わらない。現時点で我々にアクセス不可能なものは粗野で単純だ。我々以上のものではない。我々よりはるかに劣っている。
答えを最も望む問題
あなたが答えを最も望んでいる問題はいくつかありますか。もしいくつかの質問に答えられるとしたら、どれでしょうか。
だからAGIの問題についてはすでに話した。それが解決できればと願っている。それに向けて解決するための理論的進歩さえあればと願っている。これには時間がかかるのか、速くいくのか推定できるような。解決の鍵よりも鍵を見たい。実際のAGIよりも鍵を見たいのは、それは単に人格だからだ。しかし理論は、我々がそれを作ることを止めているものを覆すものだ。
それから、私はコンストラクタ理論に取り組んでいる。コンストラクタ理論の希望は、物理学全体がもたらすことが可能な物理過程と、もたらすことが不可能な物理過程の観点から表現できるということで、そこでより速い進歩を見ることができれば良いだろう。
現時点では政治領域にあらゆる種類の非合理性があり、それらがある意味で我々を後退させている。「文明が危険にある」と人々は考えるが、文明への危険は見ていない。しかし減速は私の基準では破滅的であり、一部の人が気概と呼ぶもの、この「やればできる」という態度、明らかな障害は単に問題であるという考えの喪失がすでにあった。それらは解決されるためにそこにある。
我々は袖をまくって単にやれば解決できる。それもあなたの態度だと思う。あなたは元祖アクセラレーショニストだと思う。
確かにそうだ。我々は来る途中でそれについて話していた。
人類の役割と楽観的世界観
あなたは人類についても非常に楽観的な見解を持っている。人間が知識を進歩させ、人類を進歩させる中心的役割を果たすと本当に考えているあなたの考え方が好きだ。
そんなに大きなことではない。我々は現時点で残っている唯一の種類の人々だ。他のすべては我々の惑星で絶滅した。いつかAGIがいるだろう。いつかETに会うかもしれない。だから我々人々だ。我々人々が長期的に知識を運んでいくものだ。刺激的な考えだ。
しかし他に何があるというのか。他にあるのは迷信か退行だけだ。筋の通った他の世界観はない。
あなたは本でもこのことについて多く語っているが、人間は無意味な塵の斑点などという概念がある。これはあなたが考えることではない。なぜなら我々は説明を創造できることを知っている宇宙で唯一のものだからだ。
我々は実際に宇宙にとって非常に重要で、実際に宇宙を変える唯一のものだ。あなたの指摘のように、太陽を数十億年先まで予測できる。人類は予測できない。なぜなら我々がどんな知識を創造するか分からないから。
まさに。それも一部の人には少し挑発的に思える。我々が特別だということが。しかし私にはかなりポジティブに思える。
はい。私は挑発的なことより真実により興味がある。それは一般的に我々を前進させる。はい。代替案が見えないなら、迷信的世界観に明らかな欠陥があると分かるなら、それを代替案として受け入れるつもりはない。私の物事の見方の誤りを正すと主張するより良い説明であると主張する何かを代替案として受け入れるだけだ。誤りを正すと確信する必要はない。
しかし誤りを正すと主張するなら、それを真剣に受け止めることができる。もし単に「我々は皆巨大なキャベツの中の夢なのかもしれない」と言うだけなら、まあ、そうかもしれない。しかしそんなもしもは非常に多くあり、それらの間で判断する基準がない。
AGIと意識の関係
AGIの説明を見たいと言ったことに触れたい。それは必然的に意識の説明でもあると思うか、意識は存在しないと思うか、それとも別のものだと思うか。
分からない。その理論を持つまで誰も分からないだろう。もしその論文で、創造性を説明した、クオリアを説明した、自由意志を説明したが意識は説明していないと言い、なぜそうなのか分かるなら、それらは異なると言うだろう。そうでなければ一見して、これらのすべてが同時に進化し、私が正しければ異なる理由のために進化したのは偶然の一致にしては多すぎるように思える。
現在我々が使っている用途とは異なる応用のために進化した。それらはすべて同時に来て、主観的にはある種関連しているが同じではないように思える。それらが互いに独立であると判明したらとても驚くだろう。
相関しすぎている。偶然の一致にしては。しかし偶然の一致は起こる。
数百万年後の人類
数百万年後の人類をどこに見ていますか。
1年後の人類さえ予見できない。しかし近期的には非常に多くのランダム性があるため、しばしば非常に困難だ。しかし時間にわたって平均すると、全く決定論的ではないが、そうなるように見える。
だから大まかな意味では、人類が静的社会ではない状態で100万年生き残るなら、我々は確実に銀河を征服しているだろう。確実に銀河団は征服していないだろう。だから我々は銀河全体に広がっているだろう。我々は生物学的知性と人工知性の組み合わせになり、今日より想像を絶するほど良くなっているだろう。
それか、我々が次の100万年間そうした社会を維持していないかで、その場合はほぼ確実に絶滅している。だから二つの可能性がある。良いか悪いか。非常に良いか非常に悪いか。
それに向けて加速することが重要に思える。
はい。そうすべきだが、政府はダメだ。
読むべき本と研究の最大の喜び
人類が皆読んでいた方が良いと思う本や論文は何かありますか。
まあ、もちろん皆が私のすべての本と論文を読むべきだ。しかし他の誰かのものを望むなら、まあ、私がポパーと言っても驚くことではないだろう。どこから来るかによると思う。誰もが同じ本を読むべきだとは思わない。カリキュラムは確実に信じていない。
では全ての高校での必須読書は何であるべきか。神よ、全ての高校で絶対に何も必須読書であるべきではない。しかし人々、多くの人々がポパーの著作を読むことで大きな利益を得ることができる。だから我々が話してきたようなことについて、社会の改善があるという「枠組みの神話」があり、これは「枠組みの神話」という本の中の一つのエッセイだが、私はそのエッセイだけに焦点を当てている。
私はいつもそのエッセイを人々に勧めている。時々戻って読み直す。短いエッセイだが、読み直すたびに新しい何かを得る。
あなたは人生を通じて影響を与えてくれた素晴らしい研究をしてきて、研究キャリア全体を通じて最も大きな喜びの瞬間として振り返るのは何ですか。
最大の喜び。すべて楽しかった。それが私が求めているもので、結果よりもそれを得ることを望んでいる。研究において私はほとんどの研究科学者より少ない結果を得ていると思う。おそらく最も驚いた瞬間は、量子アルゴリズムが古典的アルゴリズムより良いことができると気づいた時だった。
2つのことを同時にできるような単純なタスクで。そしてそのようには考えていなかったが、もし関数のオラクル、ソースがあったなら、そのオラクルを一度だけ参照すればよかった。一度参照してそれについて2つのことを知る。それは「ああ、これは新しい計算のモードだ。これは想定されていなかった何かだ。チューリングマシンではできない。汎用チューリングマシンではできない」という感じだった。
それから私は、ここに普遍性がある、新しい普遍性があると考えた。だからそれが私を導いた。その瞬間を覚えていますか。これが新しい計算のモードだと考えた瞬間を覚えている。新しい普遍性については、もっと段階的だった。チャーリー・ベネットとの会話から始まり、最初は大きなことになるとは思わなかったので続いた。単に少し整理しているだけだと思っていた。質問があっただけだった。
あなたは人類の他の誰もが知る前に何かを知って、それに座っていた数少ない人の一人だ。どのくらいそれに座っていましたか。そして誰かに話す前に車に轢かれることをどのくらい心配しましたか。
惑星上の誰も知らないことで、おそらく真実で、人類に影響を与えるだろうと知っていることを知るのはどんな感じですか。
車に轢かれたくないが、人類への影響が私がそれをした理由でも、私が心配したことでもない。他の誰かが先にそれをすることも心配しなかった。それが面白かったから、そこにあったからそれをしただけだ。楽しいことは価値があると思う。楽しさの基準だ。はい。
そして先ほどチェスについて言っていたように、成功や失敗は問題ではない。最も有能で創造的な研究をして失敗することもできる。あるいは偶然に一日で何かを見つけることもできる。世界は第二のことにあなたを報いて第一のことには報いない。しかしあなた自身の人生において価値があることについては、第一の方が第二より無限に良い。
価値があることについて、私がいつもこの線で語る譬え話は、ハンス・アンデルセンかグリム童話のような、雪の山で迷子になった子供たちと村の話を想像することだ。村の人々は山に出て探し、皆異なる方向に行く。一人がそれらを見つけ、他の人は見つけない。
見つけた人、確かに他の人より良い探し方をする人がいて、見つける可能性が高いが、探すのが上手な人が探しているものを見つけるという絶対的確実性はない。だから実際に見つけた人は市長や両親から報酬を得る。金貨などを得る。しかし彼は他のすべての人と異なることを本当にしたわけではない。言ったように、皆同じではない。しかしそれがどれだけ上手かは、成功するかどうかとは緩い関係しかない。
そして確かに物理学では、物理学が驚くほど得意だが大発見をしなかった人々を知っている。その逆については言及しない。
これはニコラス・タレブがウォール街について言うことだ。ほとんどがサバイバーバイアス、ランダムプロセスの結果だ。一部の人が勝って報酬を得て祝われる。
それはシニカルすぎる。もしそれが真実なら、経済の成長を説明できないだろう。経済の成長は完全に理由があって正しい人々によって引き起こされる。
より楽しんでいる人がより良い研究をする可能性があると思いますか。
確実に。楽しさは私が物事に求めるもののように私にはいつも思えてきた。楽しさの反対は退屈のようなものだ。退屈なら本当にそれをすることができない。もししなければならないなら、可能な限り速く片付ける。
今楽しかったですか。
はい、確実に。
コメント