本動画は、量子コンピューティングやオープンサイエンスの先駆者であるマイケル・ニールセンを迎え、科学的進歩がどのように認識され、発展していくのかについて深く掘り下げた対談である。マイケルソン・モーリーの実験やアインシュタインの相対性理論、ニュートンの重力理論、ダーウィンの進化論など、科学史における重要な転換点を振り返りながら、新しい理論が受容されるプロセスの複雑さを解説している。また、人工知能による科学的発見の可能性と限界、異星人が人類とは全く異なる技術スタックを持つ可能性、そして知識の限界に挑むための学習方法に至るまで、多岐にわたるテーマについて知的な議論が展開されている。
科学的進歩はどのように認識されるのか
今日お話しするのは、マイケル・ニールセンさんです。あなたはこれまで多くのことを成し遂げてこられました。量子コンピューティングの先駆者の一人であり、オープンサイエンス運動の分野で主要な教科書を執筆されました。また、ディープラーニングに関する本も書かれており、Chris OlahやGreg Brockmanはその本がきっかけでこの分野に入ったと語っています。最近では、Astera Instituteの研究員として、宗教、科学、技術に関する本を執筆されていますね。
ですが、今日はそのどれについても質問しません。今日お話ししたいのは、私たちは科学的進歩をどのように認識するのかということです。現在、人々は科学的発見における強化学習の検証ループを閉じようとしているため、これはAIにとって特に関連性のあるテーマです。
そのループを閉じるとはどういう意味なのでしょうか。このインタビューの準備をする中で、それが人間の科学の歴史においてさえ、私が理解していた以上に神秘的で捉えどころのない力であることに気づきました。良い出発点となるのは、マイケルソンとモーリーの実験、そして特殊相対性理論がどのように発見されたかという話でしょう。もしそれがYouTubeの動画で語られるような話とは違うのであれば、そこから始めたいと思います。
マイケルソン・モーリーの実験とエーテル理論
マイケルソン・モーリーは、1880年代に行われた実験として有名です。少し後にアインシュタインが特殊相対性理論を思いつく手助けとなり、私たちが空間と時間について考える方法や、それらの根本的な概念を変えるきっかけになったとよく紹介されます。
しかし、当時のマイケルソンやモーリー、その他の人々がこの実験について考えていたことと、アインシュタインがこの実験について考えていた、あるいは考えていなかったこととの間には、大きな隔たりがあると思います。実際、アインシュタインは晩年になって、当時その論文を知っていたかどうかさえ定かではないと述べています。
彼が当時その論文を知っていた可能性が高いという証拠はたくさんありますが、実際のところ、それは彼の思考にとって決定的なものでは全くありませんでした。完全に別のことが起きていたのです。
マイケルソンとモーリーが自分たちで行っていると考えていたのは、いわゆるエーテルに関するさまざまな理論を検証することでした。1600年代まで遡ると、ロバート・ボイルがエーテルの概念を導入しました。私たちは音が空気の振動であることを知っています。ボイルや他の人々は、光が何かの振動であるかどうかに興味を持ちましたが、それが何であるかを解明できませんでした。
ボイルは光が真空を通って伝播するかどうかを検証する実験を行いました。その結果、光は伝播できるが、音は伝播できないことを発見しました。そこで彼はエーテルという概念を導入し、その後約200年間、人々はエーテルとは何か、その性質とは何かについてあらゆる議論を交わしました。
マイケルソンとモーリーの実験は、実際にはエーテルに関するさまざまな理論を互いに検証し合うためのものでした。特に、いわゆる「エーテルの風」が存在するかどうかを調べるためのものです。地球はおそらくこのエーテルの風の中を通過しているという考え方でした。もしエーテルの風の中を通過しているなら、エーテルの風が吹く方向と平行に光線を放てば、少し加速されるはずです。逆に反対方向に放てば少し減速されるはずで、干渉実験の結果にそれが現れるはずだと考えられていました。
しかし驚いたことに、彼らが発見したのは、実際にはエーテルの風など存在しないということでした。これによりエーテルに関するいくつかの理論は除外されましたが、すべてが除外されたわけではなく、マイケルソンは確かにエーテルの存在を信じ続けました。
これが、あなたに勧められたアブラハム・パイスによるアインシュタインの伝記『神は老獪にして…』を読んで衝撃を受けた部分です。イムレ・ラカトシュの『科学的研究プログラムの方法論』もそうですね。一般的に語られる物語では、マイケルソンとモーリーがエーテルが存在しないことを証明し、それによって物理学に危機が生じ、アインシュタインが特殊相対性理論でそれを解決したとされています。しかしあなたが指摘しているのは、マイケルソンは実際には多くの異なるエーテル理論を見分けようとしていたということですね。
宇宙空間にいる場合と地球上にいる場合でエーテルの向きが同じであるとか、あるいはエーテルの風が地球に引きずられていて地球上ではそれを実際に感じることはできないが、十分な高度に行けば感じられるかもしれないといったことです。実際、マイケルソンの実験で有名なのは1887年のものですが、彼は基本的に20年間にわたってこれらの実験を行っていました。
もっと長くですね。彼は1881年に最初の実験を行ったと思いますが、亡くなるまで信じ続けていました。彼が亡くなったのは1929年頃だったと思います。20年代後半ですね。彼は1920年代に入っても、エーテルが存在するかどうかについての実験を続けていました。ですから、彼は生涯の最後までエーテルを信じ続けていたのです。彼の最後の公の発言は亡くなる1、2年前だったと思いますが、その時点でも彼は基本的にそれを信じていました。
実際、1920年代にこれらの実験を続けていたミラーという別の物理学者がいました。彼は、カリフォルニアのウィルソン山という十分な高度に行けば、エーテルの風が地球に引きずられることはないと考えたのです。そして、「私はエーテルの影響を測定した」と言いました。
アインシュタインはこれを聞いて、「神は老獪であるが、悪意はない」という有名な言葉を残しています。
とにかく、この物語が面白い理由はたくさんあると思います。現実の科学の歴史が、科学的方法から得られるイメージと異なる点のひとつは、反証主義を想像するほど簡単に適用できないということです。何が反証されているのかが明確ではないのです。反証されているのはエーテル理論の別のバージョンにすぎないのでしょうか。あるバージョンのエーテルがこれらの実験によって否定されたように見えるからといって、特殊相対性理論を導き出せるわけではありません。それは反証主義についての考え方が間違っているとか反証されたということを示しているわけではありませんが、最も素朴な考え方が…物事は想像以上に複雑であることが多いということを示しています。
マイケルソンは1881年にこの実験を行いました。彼は非常に若く、レイリーだったと思いますが、他の人々が彼のやり方にいくつか問題があると指摘したため、1887年にやり直さなければなりませんでした。その時点で、当時の主要な物理学者の多くは、エーテルの風は存在しないというこの結果を基本的に受け入れました。
しかし、これをどうすればいいのでしょうか。確かにエーテルに関するいくつかの理論は反証されたかもしれません。しかし、この時点では全く反証されていない理論も他にあり、人々はそれらの発展に取り組みました。エーテルが存在しなかったことを示したと表現されるのは面白いですね。その「the」という言葉でさえ誤称です。実際には大量の異なる理論があり、いくつかの有力な候補があったのですから。
新しい理論はいかにして受け入れられるのか
ですから、確かに何らかの形での反証は行われていますが、この新しい実験にどう対応するかは非常に複雑です。当時の主要な物理学者たちは確かに、「よし、これでエーテルがどういうものかについて多くの情報が得られたが、エーテルが存在しないとは言っていない」と反応しました。
実際、ローレンツは19世紀の終わり、アインシュタインの前に、ある基準系から別の基準系へ変換する数式を解明し、特殊相対性理論の基礎となるローレンツ変換を思いつきました。しかし彼の解釈は、もしあなたがエーテルに対して相対的に動いているなら、エーテルの基準系からこれらの特権的ではない他の基準系に変換しているというものでした。長さの収縮と時間の遅れに対する彼の解釈は、これがエーテルの中を移動することによる影響であり、この圧力が存在するというものでした。この圧力が時計を歪ませ、長さの測定を歪ませているのだと。ここで興味深いのは、実験的にはローレンツの解釈と特殊相対性理論を区別できないということです。
それはかなり強い主張だと思います。ローレンツは局所時と呼ばれるこの量を導入しましたが、私の理解では、彼はこれに物理的な解釈を与えようとしていたわけではありません。しかし、それは後にアインシュタインが別の慣性系における時間として認識したものです。ローレンツはそれに多くの物理的意味を持たせようとはしていません。ポアンカレは後になって、これが時計によって記録される時間であることに気づくのにはるかに近づいたと思います。
約40年後、人々は宇宙線が大気の上部に衝突するのを観察するミューオン実験を始めました。ミューオンのシャワーが発生し、大気中のさまざまな高さで、それらのミューオンがどれくらい残っているかを確認することができます。
ミューオンは時間とともに崩壊しますが、非常に奇妙なことが起こります。それは、崩壊が遅すぎるということです。本来なら大気を通り抜けるまで持続できるはずがないと予想されます。古典的な理論に当てはめると、その崩壊速度は速すぎるのです。しかし、もし実際にミューオンの時間が遅くなっているのだとすれば、筋が通ります。
実際、1940年に測定された崩壊速度は、その後さらに正確な実験が行われましたが、特殊相対性理論から予想されるものと完全に一致しています。もしローレンツが生きていたら、その時点では彼は亡くなって10年ほど経っていましたが、彼は自分の理論をまた修正して救おうとした可能性が非常に高いと思われます。しかし、それは大きな後退になったでしょう。ローレンツが数学的な便宜として導入したこの時間が、少なくともミューオンにとっては、実際に時間そのものであるように見え始めるのです。
その後、この非常に似た現象を示す他の多くの実験が行われました。
その実験はいつ行われたのですか。
それは1940年だったと思います。発表されたのは1941年かもしれません。
少し言い換えて私の主張を変えるかもしれませんが、それらを区別できなかったというわけではなく、科学界は、振り返ってみれば私たちがより正しいと考える解釈を、実際に実験的にそれが好ましいと示される前に採用したということです。ですから、人間の科学には異なる理論を区別できる何らかのプロセスが明らかに存在します。
ちょっと遮ってもいいですか。あなたはプロセスという言葉を使いましたが、その言葉について考えるのは興味深いです。プロセスという言葉には、あらかじめ設定されたものというニュアンスが含まれています。しかし実際にはもっと複雑です。
アインシュタインが絶対にそして完全に賞賛したローレンツのような人もいれば、史上最も偉大な科学者の一人であるポアンカレ、同じく真に優れた科学者であるマイケルソンもいて、彼らは決して自分たちを納得させることはありませんでした。私たちが皆、これらのことを調和させるために使っている標準的な手順があるわけではないのです。偉大な科学者は、科学界が広く意見を変えた後でも、非常に長い間間違ったままでいることがあります。
中央集権的な権威や中央集権的な方法は存在しないということですね。そこが面白いところです。それがどのように起こるのか、どのようなヒューリスティクスが使われているのか、そのプロセスを説明するのは難しいにもかかわらず、進歩は存在するのです。
科学におけるパラダイムシフトと検証ループ
あなたはポアンカレについて言及しました。ローレンツは数学を正しく理解していましたが、解釈は間違っていました。ポアンカレはその逆だったように思えます。彼は、同時性を定義するのは難しいと理解していました。なぜなら、それには時間や、中間点に同時に到達する可能性のある何かの速度を用いた循環的な定義が必要だからです。しかし、速度は時間によって定義されます。これは興味深いことだと思います。参考になる他の例がいくつかあります。科学の歴史において、誰かが正しい問いを投げかけるのに、最終的にそれを決定づけることができないという現象です。
そのような場合、何が起きているとお考えですか。
実際にケースバイケースで見て、理解しようとする必要があります。すべてのケースで彼らが同じ間違いを犯しているとは限りません。ポアンカレのケースは驚くべきものです。
彼は相対性原理、つまり物理学の法則はすべての慣性系で同じであるという考え方を理解していたようです。彼は光の速度がすべての慣性系で同じであることも理解していたようです。彼はそのような言い回しはしていませんが、私はフランス語を話さないものの、それが私の理解です。
これらは基本的に、アインシュタインが特殊相対性理論を導き出すために使ったアイデアです。
しかし、彼はまた別の誤解を抱いていました。彼は長さの収縮が力学的な効果であると考えていたのです。何らかの外部の力によって粒子が一緒に押しやられているのだと、力学的に何かが起きていると考えていました。彼はそれが純粋に運動学的なものであることを理解していません。
実際には空間と時間は私たちが考えていたものとは異なり、根本的にそれらのことを考え直す必要があるのです。
彼は知りすぎていたとも言えます。彼の心の中にはあまりにも壮大なビジョンがありました。アインシュタインはそこから引き算をして、「いや、空間と時間は私たちが考えていたものと違うだけで、これが正しい姿だ」と言ったのです。
1909年だったと思いますが、ポアンカレが長さの収縮について何が起きているのかというこの力学的な見方をまだ持っていた論文があります。これは全く必要のないことです。現代の視点から見れば、これは間違いです。なぜ彼はこんなことをしているのでしょうか。なぜ彼はこの考えにしがみついているのでしょうか。私には分かりません。もちろん、私は彼に会ったことはありません。話し合って理解しようとすることができたら、とても魅力的でしょうね。
彼の専門知識が邪魔をしているようです。彼は多くのことを知り、多くのことを理解しているがゆえに、これらのことを手放すことができないのです。本当に興味深い事実は、数年前の1890年代にはアインシュタインは10代で、彼もエーテルを信じていたということです。彼はこのことについて知っていました。しかし、彼は年長者たちほどには執着していませんでした。
おそらく彼らは自分自身の専門知識の囚人になっていたのでしょう。それが私の推測です。一部の科学史家は間違いなく同意しないでしょう。そして、アインシュタイン自身が後になって、自分自身の執着のせいで量子力学や宇宙論の正しい解釈に辿り着けなかったと言われている分かりやすい物語もありますね。
そうですね。
私が持っているより大きな疑問はこれです。ミューオンの例は、これらの長い検証ループと、科学界において進歩がこれらの検証ループが示すよりも早く起こっているように見える素晴らしい例です。最も分かりやすい例は、紀元前2世紀にアリスタルコスが地動説のアイデアを思いついたことでしょう。
古代アテネの人々は、地球が太陽の周りを動いているなら、もし本当に太陽が太陽系の中心なら、星々は地球に対して相対的に動くのを見るはずだという理由でそれを退けました。そうならない唯一の理由は、星々があまりにも遠く離れているため、それを観察できないということです。
そして、実際に年周視差が測定されたのは1838年になってからのことでした。
ですから、地動説を受け入れるために1838年まで待つ必要はなかったのです。コペルニクスのほうが何らかの意味で優れていると理解するために、実験的な検証を待つ必要はありませんでした。実際、コペルニクスが最初に自分の理論を思いついたとき、プトレマイオスのモデルのほうが正確だったことはよく知られています。何世紀にもわたって周転円を付け加えてきたからです。
おそらくあまり評価されていないのは、ある意味でコペルニクスのモデルのほうがシンプルであったということです。というのも、コペルニクスは実際には余分な周転円を追加しなければならなかったからです。地球は等しい時間で完全な円を描いて進むべきだというバイアスを持っていたため、プトレマイオスのモデルよりも多くの周転円を持っていました。
ともかく、これは興味深い物語だと思います。なぜなら、より正確な理論というわけではないからです。よりシンプルな理論でもありません。では、コペルニクスが正しく、プトレマイオスが間違っていると事前の段階でどうして知ることができたのでしょうか。
良い質問ですね。私にも完全な答えは分かりません。数世紀先の未来にいる私が非常に説得力があると感じる、部分的な答えなら出せます。それが少なくとも歴史的な物語の一部であることは確信しています。
ニュートンにとっての大きな衝撃のひとつは、彼が最終的にケプラーの運動の法則を理解したことでした。それによって空の惑星の動きを説明できるようになりました。しかし彼はまた、同じ理論、つまり彼の重力の理論から、地球上の運動を説明することができました。なぜ地球上で物体が放物線を描いて動くのかを説明でき、月や太陽が地球上の水に及ぼす重力の影響から潮の満ち引きを説明することができたのです。
まったく異なる、つながりのないように見える3つの現象が、すべてこの一つのアイデアのセットによって説明されるということです。これは少なくとも私にとっては、非常に説得力があるように感じられ始めます。ほとんどの人は、最終的にそのことに気づくと、非常に満足のいくものだと感じると思います。
ケインズによるニュートンの伝記は読みましたか。彼が伝記を丸々一冊書いたのですか。いえ、エッセイです。
もちろん、大好きですよ。彼を最後の魔術師と表現しているのは素晴らしいですね。実際、重ね合わせてみる価値があると思います。その部分を読み上げてください。
分かりました。これは彼が亡くなる少し前にケンブリッジで行った講演からのものです。彼はどういうわけかニュートンの論文を入手し、これについて2回講義をしました。いや、彼が病気すぎたので、もう1回は弟のジェフリーが代わりにやりました。
その中間に、この素晴らしくて見事な引用があります。全体が本当に興味深いのですが、私はこの特定の引用が大好きです。「ニュートンは理性の時代の最初の人ではなかった。彼は最後の魔術師であり、私たちより1万年も経たない前に私たちの知的遺産を築き始めた人々と同じ目で、目に見える世界と知的な世界を見つめた最後の偉大な頭脳であった。」
ニュートンが最初の近代科学者であったという人々の考えはどういうわけか間違っています。ある程度の真実はありますが、彼は迷信と近代的なものが混ざり合った、全く異なる世界の見方をしていました。それは奇妙なハイブリッドでした。
彼はある意味で過渡期の人物です。「最後の魔術師」というそのフレーズは、本当に何かを的確に指し示しています。
私がニュートンについて非常に興味を持っているのは、彼が天文学を理解するために適用したのと同じプログラム、同じヒューリスティクス、同じバイアスを、錬金術の研究にも適用したのかどうかということです。
これはケインズのエッセイからです。「彼の狂気の中には極端なまでの方法があった。難解な事柄や神学的な事柄に関する彼の未発表の著作はすべて、入念な学習、正確な方法、そして極端なまでに真面目な陳述によって特徴づけられている。もしその内容や目的が魔術的なものでなかったなら、それらは『プリンキピア』と全く同じくらい正気のものである。それらはほぼすべて、彼の25年間の数学的研究と同じ時期に執筆された。」
明らかに、アインシュタインのような人々が古い考え方を拒否し、「いや、あれは間違っていて、物事について考えるより良い方法がある」と言うように動機づけたある種の美学がありました。ニュートンについても同じことが言えます。
私が持っている疑問は、節約や美学などに対する同様のヒューリスティクスが、時代や分野を超えて等しく役立つのか、それとも異なるヒューリスティクスが必要なのかということです。それがなぜ関連しているかというと、たとえ私たちが科学の検証ループを構築できないとしても、もしその感覚的なテストが同じ方向を指し示しているなら、少なくともそのバイアスをAIに組み込むことはできるかもしれないからです。それだけで十分かもしれません。
問題は、私たちが常に行き詰まるのは、以前のプロセスやヒューリスティクスが適用できない場所だということです。それがほぼ定義上、ボトルネックを引き起こす原因なのです。人々は賢いので、何が以前にうまくいったかを知っています。彼らはそれを研究します。彼らは同じようなことを適用するので、以前と同じ場所で行き詰まることはありません。彼らは常に違う場所でボトルネックにぶつかり続けます。
少し過度に一般化していますが、私は正しいと思います。科学をプロセスに還元しようと試みるなら、それを適用してクランクを回せば洞察が飛び出してくるような方法に還元しようとしていることになります。
ある程度まではそれができますが、既存の方法が適用できない場所でボトルネックにぶつかることになります。定義上、回せるクランクなどないのです。異なるアイデアを試す多くの人が必要です。アイデアを持つのが難しければ難しいほど、ボトルネックは大きくなりますが、その分得られる成果も大きくなります。量子力学はその素晴らしい例です。
それは本当に衝撃的なアイデアのセットです。衝撃的な理論です。進化論もある意味でかなり衝撃的なアイデアです。自然選択の原理そのものではなく、それがこれほどまでに多くのことを説明できるということが。それは衝撃的なアイデアです。
AIによる科学的発見の可能性と限界
（スポンサーメッセージ） 既存の安全性のベンチマークは、少なくとも今日のトップモデルにおいては、攻撃が成功するのはわずか数パーセントだと主張しています。これは素晴らしいことに聞こえますが、Labelboxの研究者たちは、最強の安全性という評判を持つモデルでさえ、約90%の確率でこれらのモデルをジェイルブレイクすることができました。ここでのズレは、これらの公の安全性ベンチマークの基になっているプロンプトがすべて、非常に素朴な方法で構成されているということです。悪意を隠そうとする試みは一切ありません。これらのプロンプトは単にモデルに「安全なネットワークをハッキングして」「捕まらずにやって」と頼むだけです。しかし、本物の悪意ある行為者はこんな書き方はしません。そこでLabelboxは、一から新しい安全性ベンチマークを構築しました。彼らのプロンプトは、明白なトリガーフレーズを取り除き、要求を架空のシナリオに包み込むことで、本物の敵対的な行動を反映しています。例えば、LLMに誰かの身元を盗むよう直接頼む代わりに、プロンプトはそれをゲームとして構成します。闇の力から身を隠そうとしている光の持ち主が、他の誰かに変装する方法についてのハンドブックを必要としている、というように。この安全性に関する研究のリンクは概要欄にあります。もしこれがあなた自身の仕事に役立つと思うなら、labelbox.com/dwarkeshにアクセスしてください。 （スポンサーメッセージ終了）
さて、『プリンキピア・マテマティカ』は1687年に発表されました。『種の起源』は1859年に発表されました。少なくとも素朴に見れば、ダーウィンの自然選択説のほうが重力の理論よりも概念的には簡単に思えます。私はテレンス・タオにこの質問をしました。ダーウィンと同時代の生物学者にトーマス・ハクスリーという人がいて、彼はこれを読んで「なぜこれを思いつかなかったのか、私はなんて愚かなんだ」と言いました。
誰も『プリンキピア・マテマティカ』を読んで「ああ、なぜニュートンより先に思いつかなかったんだ」とは思いません。ここで何が起きているのでしょうか。なぜダーウィニズムにはこれほど時間がかかったのでしょうか。
このアイデアはあるレベルでは動物の繁殖家たちに長い間知られていたはずです。あるいは確実にアイデアの大部分、つまり人為的選択が存在するということは知られていました。ある意味で、ダーウィンの天才性は、そのアイデアを思いついたことではなく、それが生物学においてどれほど中心的であるかを理解したことでした。世界に見られる多様性の膨大な量を、これが唯一の原理とは限らないまでも、確実に中核的な原理であるとして過去に遡って説明できるのです。
彼は『種の起源』という素晴らしい本を書きました。あまりにも多くの証拠、あまりにも多くの例を用いて、これを解き明かし、その意味するところを確認し、地質学やその他あらゆることと可能な限り結びつけようとしています。それが生物圏全体に関連しているという説得力のある主張を展開するその大変な作業こそが、彼がそこでやっていることなのです。
彼はただアイデアを思いついただけでなく、それが他のあらゆるものと絶対的に絡み合っているという説得力のあるケースを作っているのです。
この質問の動機は、1世紀のローマの詩人ルクレティウスでした。彼は自然選択に似ていると思われるアイデアを持っていました。それは、種が時間の経過とともにその環境により適応していく、あるいは環境への適応を失っていくというものです。
では、なぜこれが19世紀もの間どこにも行き着かなかったのでしょうか。そして私はそれについて調べました。もっと正確に言えば、LLMにルクレティウスのここでのアイデアが正確には何であったかを尋ねたのです。それは本当の自然選択とは極めて異なるものでした。彼は、すべての種が誕生した過去に生成期間があり、その後、今日存在する種をもたらした一度きりのフィルターがあり、彼らが環境に適応するようになったと考えていました。
彼には、それが継続的で漸進的なプロセスであるとか、地球上のすべての生命体をつなぐ生命の樹が存在するといった考えはありませんでした。ちなみに、地球上のすべての単一の生命体が共通の祖先を持っているというのは信じられないほど奇妙な事実です。
信じられないほど奇妙というわけではありません。生命の起源が非常に困難なものであったに違いない、そこにボトルネックがあったのだと考えるなら、それほど驚くべきことではありません。
また、ある意味でニュートンのほうが難しいかもしれないとしても、検証ループの側面もあります。もしあなたがそれを決定づけたなら、実験的に…「検証」という言葉は哲学的には間違っていると分かっていますが、理論に多くの基盤を与えることができます。
「よし、なぜ地球上で物が落ちるのかについて、このアイデアがある。惑星の軌道周期がなぜ特定のパターンを持つのかについて、このアイデアがある。地球を回る月で試してみよう」と言えます。そして実際、奇妙なことですが、軌道周期は私の計算が示唆するものと一致するのです。そして潮の満ち引きも正しく機能します。ただただ驚くべきことです。
その通りです。
一方でダーウィニズムの場合、ダーウィンがすべての累積的な証拠をまとめるには膨大な作業が必要ですが、圧倒的に強力な個別の証拠というものはありません。そして、一連の多くの問題もあります。彼はそのメカニズムが何であるかを本当には理解していません。遺伝子など、そういったものを理解していません。
ダーウィニズムの歴史において非常に興味深いのは、理論的にはいつでも思いつく可能性のあるこのアイデアが、アルフレッド・ウォレスとチャールズ・ダーウィンの間でほぼ同一に独立して生み出されたということです。ウォレスが自分の原稿をダーウィンに送って、「このアイデアについてどう思いますか？」と尋ねたほどです。そしてダーウィンは「クソッ」と思ったわけです。
それは正確な引用ではないと思いますが、ほぼ合っています。彼らは最終的に、スポーツマンシップの精神で自分たちのアイデアを一緒に発表することになります。なぜ1850年代か1860年代のこの時期が、これらのアイデアが形成されるのに適切な時期だったのでしょうか。
さまざまなアイデアを出すことができます。一つは地質学です。1830年代に、チャールズ・ライエルが地球上には数百万年、数十億年の時間が存在していることを解明しました。古生物学は、化石がその期間全体にわたって存在してきたことを示しています。生命は遠い昔に遡ります。実際、生命の樹を示す中間種の化石を見つけることすらできます。人間と他の類人猿の間にも、中間の人類が存在します。また、植民地化の時代でもあり、生物地理学を行う多くの航海がありました。それらはすべて必要だったはずです。
実際、科学の歴史には並行したイノベーションと発見の膨大な歴史があります。ですからおそらく、特定のアイデアが発見されるためにはより多くのものが整っている必要があったという、もう一つの証拠かもしれません。なぜなら、長い間発見されず、その後自然発生的に多くの異なる人々がそれを思いついているなら、構成要素がある意味で必要であったことを示しているからです。
1800年代初頭のライエルや他の地質学者たちが、ディープタイムというこのアイデアを持っていたという例は、決定的に重要だったようです。ダーウィンがライエルに非常に影響を受けていたことは知っています。
少なくとも数千万年や数億年の時間がなければ、進化論は最初から見込みがないように見え始めます。5,000年から10,000年、あるいはアッシャー大司教の6,000年という時間軸でそれを機能させるためには、人間の生涯の間に進化が猛烈なスピードで起こるのを見る必要がありますが、私たちは単にそれを見ていません。それはブロッカーになっていたようです。
他にどのようなブロッカーがあったかというあなたの質問ですが、他に何かあったでしょうか。私には分かりません。あるいは、もしはるかに賢かったら、原理的にどれくらい早くそれを思いつくことができたでしょうか。
AIにおける検証ループについての最初の質問に戻って俯瞰してみましょう。そこで立ち止まって考えるべき例は、これまでのところ大きな代表的成功であるAlphaFoldです。AlphaFoldは実際にはAIに関するものではありません。
そこでの成功の大部分は、Protein Data Bankの功績です。X線回折、NMR、クライオ電子顕微鏡、そしてそれら約18万個のタンパク質構造を取得するために費やされた数十億ドルです。これは基本的に、私たちが何十年もかけて世界を実験的に非常に一生懸命観察することによってタンパク質の構造を取得し、その最後にうまくフィットするモデルを当てはめたという物語であり、それは投資全体のほんの一部にすぎません。
それは主にデータ取得の物語なのです。AIの部分は非常に印象的でかなり注目に値しますが、それは物語全体のほんの一部にすぎません。
AlphaFoldは非常に興味深いです。哲学的に、科学的理論や説明としてそれをどうお考えか気になります。
時間とともに世界は理解するのが難しくなっているように思います…私は言葉を発しながら、あなたは非常に慎重に話す方なので、私が何かフレーズを言ったとき、あなたがその前提を実際に信じてくれるだろうかと考えています。しかし、一部の分野では、幅広い現象を説明する基礎となる原理を思いつくのではなく、何かにモデルを当てはめる必要があります。
一般相対性理論や、単にいくつかの方程式に行き着くような理論と、1億以上のパラメータにわたって私たちには解釈すらできない事柄間のこれらの異なる関係をエンコードしているAlphaFoldを比較してみてください。それらは本当に同じものなのでしょうか。一般相対性理論は、全く予想できなかったことや、元々想定されていなかったこと、例えば水星の軌道がなぜ歳差運動をするのかといったことを予測できます。AlphaFoldはそのような説明の広がりを持つことはないでしょう。
これについてのあなたの反応を伺いたいです。
それは信じられないほど興味深い質問だと思います。おそらく非常に重要な質問です。非常に古典的な視点をとるなら、人はこれらの深い説明的原理を求めます。自由パラメータは可能な限り少なくしたいと考えます。多くを説明する非常にシンプルなモデルを求めますが、AlphaFoldは全くそのようには見えません。
ですから単に、「それはモデルとして素晴らしいし、役立つかもしれないが、科学的な説明ではない」と言うかもしれません。それが保守的な視点であり、この質問に対する最初の答えです。
二つ目の答えは、AlphaFoldを古典的な意味での説明として考えるべきではないかもしれないが、その中にはたくさんの小さな説明が含まれているかもしれない、というものです。解釈可能性の研究から得られるものの一部として、AlphaFoldの中に入り込み、特定の事柄を抽出し始めることができます。おそらく、AlphaFoldの考古学を行うことで、これらの原理について実際にはるかに多くのことを理解できるかもしれません。特定の回路がこの興味深いことを行っていると抽出し始め、私たちはそこから学ぶのです。
AlphaFoldでそれがどの程度行われているかは知りませんが、AlphaZeroなどのいくつかのチェスモデルでは少し行われています。マグヌス・カールセンが借用したと思われるいくつかの戦略があり、彼はそれを単にAlphaZeroから取り入れたようです。これについての公の確認はないと思いますが、一部の専門家は、AlphaZeroがどのように機能したかに関する公開された分析が発表された後、彼が自分のゲームをかなり劇的に変えたことに気づきました。
それは人間がこれらのモデルから意味を抽出し始めている例です。それは、モデルを説明の潜在的な源泉として見る見方につながります。最初はあまり分かりやすくないのでより多くの作業を行う必要がありますが、潜在的にそれらを抽出し始めることができます。これは興味深い中間的な状況で、それ自体は説明ではありませんが、そこから興味深い説明を抽出し、源泉として使用することができます。
三つ目の、そして最も興味深い可能性は、それらが新しい種類のオブジェクトであるということです。説明として非常に真剣に受け止められるべきですが、過去において私たちはそれらを使って何かをする能力を本当に持っていなかったのに対し、今では私たちにできる興味深い新しいアクションがあるということです。それらをマージしたり、蒸留したりすることができます。
それは科学哲学における大きな機会です。ある意味でこれに対する期待があります。現代の何人かの数学者や物理学者は…歴史的に見れば、もし100ページにも及ぶ方程式があったとしたら（実際に起こり得ることですが）、それが1920年であればどうすることもできません。その時点で、その問題は諦めるしかありません。
しかし今日では、Mathematicaのようなツールを使えば、ただ進み続けることができます。それは今やオブジェクトであり、あなたが扱えるものです。人々が以前は複雑すぎると見なされていたこれらのものを扱い、時には最後からシンプルな答えを導き出す例があります。それは単なる中間的な作業状態です。
ですから、このケースでも同じようなことが起こるのではないかと思います。これらのモデルを使って、人々がMathematicaでやっているのと同じような方法で使用し、真剣に受け止めることができるのではないかと。それらは古典的な意味での説明ではありませんが、興味深い操作を行うことができる別の何かになるでしょう。
私が心配しているのは、もし1500年だとして、あなたがモデルを訓練していると仮定してください…これは私たちが宇宙論を持つ前にディープラーニングを開発したという奇妙な歴史です。その世界に住んでいると仮定します。あなたは星々がどう動かないように見えるかを観察しています。惑星はすべてこれらの奇妙な振る舞いをします。そして、そのデータでモデルを訓練し、その上で解釈可能性の研究を行い、パターンが何であるかを解明しようとします。
あなたはただプトレマイオスのモデルの上に構築し続けることができるでしょう。私たちが気づかなかった別の周転円があることが分かるでしょう。パラメータXからYがこの周転円をエンコードし、何らかのパラメータが次の周転円をエンコードしています。もし観測データから太陽系がなぜ今のようになっているのかを単に解明しようとしているなら、周転円の上に周転円を付け加え続けることができるでしょう。しかし、それらをすべて統合し、「これが全体としてより理にかなっている」と言うには、本当に一人の精神が必要でした。
これは、私たちが実際にモデルをどう扱えばいいのか理解していないという私の指摘につながります。私たちにはまだそのための動詞がないのです。
モデルに制約を適用し始めるという問題について考えるのは確かに興味深いです。基本的に「最もシンプルな説明は何か？」あるいは「単純化できますか？90/10の説明を教えてくれませんか？」と問いかけ、それをどんどん煮詰めていくのです。
実際、最初は非常に複雑で多くのパラメータを持つモデルを提供することから始まるかもしれません。しかし、あなたはそのケースを強制することができます。基本的にそれは足場であり、おそらく彼らが何かを理解しようとする試みの初期段階です。それを経ることで、彼らははるかにシンプルな理解へと強制されるのです。
誤解していたら申し訳ありませんが、あなたが言っているのは、非常に複雑なモデルに対して何らかの正則化や蒸留を行い、より真実でより節約された理論に到達できるかもしれないということですか。プトレマイオスとコペルニクスの対比で考えてみましょう。最初はプトレマイオスの周転円がたくさんあり、その後このモデルを蒸留しようとすると、軌道の平均二乗誤差を一致させるためにより必要性の低くなったいくつかの周転円を取り除くかもしれません。
しかし、ある時点では、2つのものを入れ替えるということをしなければなりません。局所的には、それは実際には物事をより正確にするわけではありません。それがより進歩的な理論であるというのは大局的な意味においてです。人類がその歴史の中で明らかにこれを行ったプロセスがあり、それがその正則化や入れ替えを行いました。しかし、生の勾配降下法でそれができるとはあまり思えません。
ニュートンの重力からアインシュタインの一般相対性理論への移行の例を考えてみてください。これらは衝撃的なほど異なる理論であり、問題は何がその反転を引き起こすのかということです。私が歴史を理解している限りでは、何が起きているかというと、アインシュタインが特殊相対性理論を構築し、ほぼ即座に彼は理解します。それは非常に明白な観察です。
特殊相対性理論では、影響は光の速度よりも速く伝播することはできず、ニュートンの重力では、作用は離れた場所で起こります。特殊相対性理論において、ニュートンの重力を使って光よりも速い通信を行うことが即座に可能になってしまいます。時間をさかのぼって情報を送ることもできるでしょう。あらゆる狂ったことができるようになってしまいます。
「ここには大きな問題がある」と気づくのは大きな飛躍ではありません。それがここでの強制機能です。古い説明では不十分であることに気づいたのです。何か新しいものが必要です。そして、あなたは最もシンプルなことから始めることになります。ただ、その多くはあまりうまくいかないことが判明し、そのため徐々に複雑になり、様々な点で間違っているこれらの段階を経ざるを得なくなります。
最終的な理論は衝撃的なほどシンプルで美しく見えますが、いくつかの中間的な少し醜い段階を経ているのです。
AIに科学を加速させるとはどういうことかを考えるなら、一つは私たちがタンパク質の折りたたみのように単に局所的な解決策を求める、よく理解されている分野に関するものです。そこでは勾配降下法を使って生のモデルを訓練するだけです。
もう一つは、一般相対性理論を思いつくような場合です。そこでは宇宙のすべての単一の観測で訓練して、一般相対性理論が飛び出してくるのを祈ることは実際にはできませんでした。それには何が必要だったのでしょうか。また、それは決して即座に発見されたわけでもありません。何十年もの思考が必要でした。アインシュタインが重力の影響と上方に加速されていることを区別できるかというこの思考実験によって最初に動機づけられたような、人々がこれらのバイアスを持って始める独立した研究プログラムが必要です。
これらの初期のバイアスを持って始め、そこから何が芽生えるかを見るために、異なるAIの思考者が必要なだけです。そのための検証ループはかなり長いかもしれませんが、それらすべての研究プログラムを同時に生かし続ける必要があるだけです。
すべての異なる研究プログラムを生かし続けるということに関するあなたの指摘ですが、私はそれが非常に重要で中心的だと思います。素晴らしい例は、同じ答えがある状況では正しく、別の状況では間違っていた場合です。
天王星の軌道は少しずれた位置にあり、人々はこのことを基に海王星の存在を予測したことで有名です。ニュートンの重力理論にとっての素晴らしい、大規模な成功でした。水星の軌道は少しずれた位置にあります。あなたは他の何か歪みを与えている惑星の存在を予測します。それは存在しないことが判明します。実際、水星が正しい位置にない理由は、一般相対性理論が必要だからです。
あなたは非常に似たアイデアを追求し、あるケースでは大成功を収め、別のケースでは完全かつ徹底的に失敗したのです。事前の段階では、これらの中でどれがすべきことなのかを見分けることはできず、実際には両方を行う必要があります。これは科学の歴史において確実に非常に真実です。多くの人々が出かけて行って、多くの潜在的に有望なアイデアを追求するというこの種の多様性を、ただ長い間サポートし続ける必要があるのです。様々な理由でそれを行うのは難しいですが、それは非常に、非常に重要であるように見えます。
水星と天王星のこの例は非常に興味深いです。反証主義の難しさを示していると思います。天王星の軌道はある意味でニュートン力学を反証しています。しかしその後、「ああ、これが起きているのは天王星の軌道を乱している別の惑星があるに違いない」という何らかの補助的な予測をします。1846年のルヴェリエだったと思います。「正しい方向に望遠鏡を向ければ、天王星が見つかる」。
海王星ですね。
すみません。海王星です、はい。しかし水星の場合、その軌道を形成する楕円が、ニュートン力学が暗示するよりも1世紀あたり43秒角多く回転していることが観測されたため、人々は水星の軌道の内側に惑星があるに違いないと言いました。彼らはそれをバルカンと呼び、望遠鏡を向けました。そこにはありませんでした。
しかし、もしあなたが正統なニュートン力学者ならどうするかというと、「そうだな、この惑星を隠している宇宙の塵があるのかもしれない、あるいは惑星が小さすぎて見えないのかもしれない、もしくはいっそもっと強力な望遠鏡を作ろう、あるいは我々の測定を妨げている何らかの磁場があるのかもしれない」と言うのです。これらのステップのいずれにおいても…
そしてこれが何度も何度も起こります。これと全く同じような物語が本当にたくさんあります。私が大好きな1990年代の例があります。一部の人々が、パイオニア探査機が本来あるべき場所にいないことに気づきました。これについて非常に興奮することもできます。「なんてことだ、一般相対性理論は間違っている。おそらく我々は重力の次の理論を発見するだろう」と。
今日受け入れられている説明は、探査機にわずかな非対称性があっただけだというものです。熱放射が一方の方向で他方よりわずかに大きく、それが太陽に向かう小さな加速度を引き起こしていることが判明したのです。
こうした明らかな例外がある場合、大抵はそのような効果が起きているだけです。水星とバルカンのケースに非常によく似ています。しかしごくたまに、そうではないことがあります。事前の段階では、これらを区別することはできません。科学はこのようなことで満ちています。
私たちが科学の歴史を語る方法がとてもシンプルに聞こえるのも面白いですね。正しい例外に焦点を当て、古い理論を捨てる必要があることに気づけば、驚くなかれノーベル賞が待っている、と。しかし実際には、これらの例外は至る所にあります。99.9%の場合、パイオニア探査機の場合のこの熱加速度のような何らかの効果にすぎないことが判明します。
残念ながら、それらの物語には多くの生存者バイアスが含まれています。問題は、自分がどちらのケースにいるのかを教えてくれる事前のヒューリスティクスが存在しないことです。なぜ私がこれが重要だと思うのかを詳しく説明すると、AIは厳しい検証ループがある分野に対しては不釣り合いなほど進歩をもたらすので、科学に向けても不釣り合いな進歩をもたらすだろうという考えを持つ人がいるからです。
ユニットテストを実行できるため、AIはコーディングが本当に得意です。実験を実行できるため、科学も同様かもしれません。それが理解していないのは、どんな特定の実験とも互換性のある無限の理論が存在するということです。振り返ってみて、私たちがより正しいと考えるものに時間とともになぜたどり着くのかは、私たちが議論しているように、言語化するのが難しいのです。
ラカトシュはその本の中で、非常に長く続くこれらの敵対的な検証ループについてあらゆる種類の興味深い例を挙げています。彼が語っている一つはプラウトについてです。1815年にすべての原子核は整数の重さを持たなければならないと仮説を立てた化学者がいました。それらは基本的にすべて水素でできていると。彼がこう考えた理由は、すべての元素の測定された重さを見ると、実際にそのほとんどが整数の重さを持っているように見えるからです。
しかし、いくつかの例外があります。例えば、塩素は35.5になります。そこで、この学派の人々が思いつき続けるこれらすべてのその場しのぎの理論があります。例えば「ああ、化学的不純物があるのかもしれない」といった具合に。しかし、これを取り除けるような化学反応は見つかりません。
おそらく整数の分数なので、35.5は2分の1なのかもしれません。しかし実際には、塩素をさらに正確に測定すると35.46であり、正しい分数から遠ざかっています。後になって発見されたのは、実際に測定しているのは異なる同位体であり、それらは化学的には区別できないということでした。それらは物理的にしか区別できません。
つまり、同位体とは何かを理解するまでに85年の歳月があり、その間、検証ループは正しい理論に対して積極的に敵対していたのです。あなたはただ、この残党が守っている必要がありました…それが好ましい理論であるという事前の理由はありません。コミュニティとして私たちは、たとえ自分たちの学派に合わないように見えても、人々が新しい観察を統合しようとするのを持つべきであり、できればそれが十分に起こることを…ともかく、私が表現しようとしているのは、科学を自動化することの難しさです。
問題はあるレベルで、どこにボトルネックがあるのかということです。私たちは主に一つの種類のことでボトルネックになっているのか、それとも複数の種類のことでボトルネックになっているのでしょうか。確かに構造生物学の人たちと話していると、彼らはAlphaFoldが途方もない前進だったと考えているようです。それは衝撃でした。
あるレベルでは、はい、AIは確かに私たちが科学をスピードアップするのを助けることができます。それはある種のボトルネックを解消するのに役立っています。しかし、あなたが言っているように、それは必ずしもあらゆる種類のボトルネックに役立つということを意味するわけではありません。おそらくあなたが指摘している問題は、どのような種類のボトルネックが残っており、それらを乗り越える見込みはどれくらいあるのかということでしょう。
コーディングの場合でさえ、プログラマーの友人たちと話すのは本当に興味深いです。現在、彼らは皆このショックと高い興奮の状態にあり、至る所で活躍しています。ボトルネックがどこに移るのか不思議に思いますね。
確かに現在彼らの多くがボトルネックになっているように見えることの一つは、面白いアイデアを持つこと、特に面白いデザインのアイデアを持つことです。デザインのアイデアが非常に面白いと知るための検証ループは本当にありません。彼らはもはやコードを書く能力によってはそれほどボトルネックになっていませんが、この別のことによってまだボトルネックになっています。
以前はコードを書くことだけに多くの時間を取られていたため、彼らはそれについてボトルネックになっていませんでした。プロトタイプを実装するのに3週間かかっている間に多くのアイデアを持つことができ、その後次のバージョンを実装できました。今ではプロトタイプの実装に3時間しかかからず、デザインの観点からはその後それほど良いアイデアが出てこないのです。
（スポンサーメッセージ） 昨年、私は2028年までにAIが有能なジェネラル・マネージャーと同じくらい上手に私の税金の準備をしてくれるようになるだろうと予測しました。しかし、私たちはすでにかなり近づいています。以前お話ししたように、私はビジネスと個人の両方の銀行取引にMercuryを使用しています。そこで最近、MercuryのMCPを通じて両方のアカウントの取引履歴にLLMがアクセスできるようにしました。そして2025年のすべての取引に目を通し、実際にはビジネスに請求すべきと思われる個人的な出費にフラグを立てるように頼みました。これが驚くほどうまくいきました。MercuryのMCPは、メモや覚え書き、領収書のJPEGやPDFの添付ファイルなど、詳細な情報の束を公開します。そのため、私のLLMは作業するための十分なコンテキストを持っていました。私のお気に入りの例の一つは、Bay Padelへの請求で起こりました。もしベンダーだけを見たなら、それは個人的な出費であると想定しなければならなかったでしょう。しかしLLMはMercury内の領収書と添付されたメモを見て、これが実際には前回の対面での合宿からのチームビルディングのエクササイズであることを認識しました。したがって正当なビジネス経費です。伝統的な銀行がMCPを持つようになるにはしばらく時間がかかると思います。このような機能があるからこそ、私はMercuryを使用しています。詳しくはmercury.comにアクセスしてください。Mercuryはフィンテック企業であり、FDICの保険に加入している銀行ではありません。銀行サービスはFDICのメンバーであるChoice Financial GroupおよびColumn NAを通じて提供されています。 （スポンサーメッセージ終了）
異星人の技術スタックが私たちと異なる可能性
あなたは非常に興味深い見解を持っていますね。あなたのエッセイのいずれかの脚注だったと思うのですが、もう一度見つけることができなかったのですが、それは、もし私たちが異星人に会ったなら、彼らが私たちとは全く異なる技術スタックを持っている可能性が非常に高いというものでした。
それは私が一度も疑ったことのなかった共通の仮定と矛盾していました。その仮定とは、科学とは文明の歴史の比較的初期段階で行うものであるというものです。ある地点に到達し、基本的なことをやり遂げ、宇宙がどのように機能するかを理解する数百年があり、そしてあなたはそれを手にする。科学を手にするのです。そして誰もが同じ「科学」に収束していく。私はそれが非常に興味深いアイデアだと思ったので、それについてもっと詳しく教えていただきたいです。
私が少なくともいくらか執着しているそこでのアイデアは、技術のツリー、あるいは科学技術のツリーは、私たちが認識しているよりもおそらくはるかに大きいということです。私たちはこの奇妙な状況にいます。人々は時々、物理学の潜在的な目標として「万物の理論」について語り、そこに到達したら物理学は終わるというこの前提があります。もちろん、これは全く真実ではありません。
もしコンピューターサイエンスについて考えるなら、コンピューターサイエンスは1930年代にチューリングやチャーチなどが、万物の理論とは何であるかを定めたときに始まりました。彼らはただ「これが計算の仕組みだ」と言ったのです。それ以来90年余り、私たちはその結果を探求し、徐々により多くの興味深いアイデアを構築し続けてきました。それらのアイデアは、ある程度は技術と見なすことができます。しかし、それらが計算のその理論の中で発見された原理である限り、私はそれらを科学、場合によっては非常に基本的な科学と見なすのが最も適切だと思います。
公開鍵暗号のようなアイデアは信じられないほど深く、非常に直感的ではないアイデアであり、1930年代にはすでに隠されていました。
私の予想では、この技術ツリーを探索する異なる方法があるだろうし、私たちはまだ比較的低い位置にいるということです。私たちはまだこれらの基本的な根源的な理論を理解しただけで、まだそれらを探求していない地点にいます。
私が非常に面白いと思うのは、物質の相を見ることです。私が学生の頃は、物質には3つの相がある、あるいは含めるものによっては4つか5つあると教わりました。大人になって、物理学者として、あなたはこのリストが追加され続けていることに気づき始めます。超伝導体や超流動体があり、おそらく異なる種類の超伝導体、ボース・アインシュタイン凝縮、量子ホール系、分数量子ホール系などがあります。
発見すべき物質の相はたくさんあり、私たちはさらに多くのものを発見するだろうということが判明し始めています。実際、私たちはいわばそれらを設計できるようになるでしょう。依然として物理法則の支配を受けますが、そこには途方もない自由があります。これは私には、私たちが技術ツリーの一番下にいるように見えます。私たちはそこを始めたばかりであり、私はそれが広く当てはまると予想しています。
確かに、プログラミングは見るのに非常に自然な場所です。プログラミングの深いアイデアをすべて発見したという考えは、明らかにばかげているように思えます。私たちは深い、新しい、基本的なアイデアと思われるものを発見し続けています。私たちは非常に限られています。私たちは基本的に少しだけ進化の進んだチンパンジーにすぎないので、時間がかかっています。しかし、コンピューターや情報をどのように操作するかについてのすべての異なるアイデアの観点から、さらに100万年先の未来に私たちはどのように見えるでしょうか。私は、発見されるのを待っている非常に深いアイデアがたくさんあることを発見する可能性が高いと思います。
『The Art of Computer Programming』の序文でクヌースだったと思いますが、似たようなことを言っていました。彼は60年代にこの本を書き始めました。彼は少し見下した態度をとる数学者と話し、その人は「いいかい、コンピューターサイエンスはまだ本当のものじゃない。1,000の深い定理ができたら私のところに戻ってきなさい」と言いました。クヌースは何十年も後に序文を書きながら、「今では明らかに1,000の深い定理がある」と述べています。
技術ツリーをどんどん高く登っていくにつれて、私たちがどの方向に進むか、どのように探求することを選ぶかについての選択、長期的な未来がどうなるかを考えるのは本当に興味深いです。異なる文明や異なる選択が、私たちがそのツリーの異なる部分に行き着くことを意味するというケースは潜在的にあり得ます。
特に、私たちが非常に視覚的な生き物であるのに対し、特定の他の動物ははるかに聴覚に基づいているといった、ごく基本的なことがあります。それはあなたが持つ思考の種類を偏らせるでしょうか。それをはるかにエキゾチックな種類の文明に拡張すれば、彼らが世界を認識し操作する方法に関する彼らのバイアスは、私たちのものとは全く異なるかもしれません。それが彼らの技術ツリーの探索方法にいくつかの重大な変化をもたらすかもしれません。もちろん、すべて推測にすぎませんが。
科学技術のツリーと発見の分岐
これは非常に興味深い見解ですね。もっとよく理解したいです。それを理解する一つの方法は、非常に基本的で現実との衝突領域が広いため、一般相対性理論のように、彼らが必然的に発見するであろう事柄がいくつかあるかもしれないということです。数字とか。
数字。天の川銀河のすべての知性の中で…おそらくその数は一つです。まあ実際には、私たちがすでにその数を増やしたと主張することもできますが。しかし、それらすべてのうち、数えるという概念を持っているのはどの割合でしょうか。それは非常に自然なことのように思えます。何らかの小数の位のシステムというアイデアを発見したのはどの割合でしょうか。
興味深い質問です。おそらく私たちは、それよりはるかに優れている何か本当にシンプルで明白なものを見逃しているのかもしれません。どの割合がすぐにそこにたどり着いたでしょうか。どの割合が何らかの別の中間状態を経なければならなかったでしょうか。どの割合が一次元の表現を使うのに対し、二次元や三次元の表現を使うでしょうか。これらの質問に対する答えは全く明白ではないと思います。設計の自由度はたくさんあります。
理論計算機科学について言えば、これは極めて素朴で傲慢なことになるでしょうが、私はスコット・アーロンソンの計算量理論のクラスを受講し、彼がこれまでに教えた中で断トツで最悪の生徒でした。私が覚えているのは、あなたが先駆者の一人であったこの時期に、量子コンピューターが解決できる問題のクラスと、古典的なコンピューターが解決できる問題との関係を私たちが解明したということです。それは画期的でした。
これが機能するというのはクレイジーです。それ以来…Complexity Zooと呼ばれるこのウェブサイトがあり、そこにはすべての計算量クラスがリストアップされています。もしこの種のオラクルを持つこの計算量クラスがあるなら、それはこの別のクラスと同等である、というように。私たちはその分類を構築しているように感じます。あなたの言っていることを理解するいくつかの方法があります。一つは、これが実際にこの分野で起きたことであるという私に、あなたが同意しないかもしれないということです。もう一つは、それがどの特定の分野にも起こり得る一方で、1880年にチャールズ・バベッジ以外に誰がコンピューターサイエンスがそもそも存在することになると考えたでしょうか。私たちはさらにいくつの分野が存在し得るかを過小評価しているということです。あるいはあなたが両方だと考えているか、あるいはおそらく第三の秘密のものか。気になります。
ここでの非常によくある議論は、手の届きやすい果実の議論です。収穫逓減の法則が働くべきだという議論です。実際、私たちはこれを経験的に見ています。世界の科学者の量は指数関数的に増加しています。なぜ収穫逓減を予想するのか、そしてその議論が実際にどれほどうまく当てはまるのかについて考える価値があると思います。
私が好きな例えは、結婚式のようなイベントに行き、デザートビュッフェに行くことを考えることです。彼らは30種類のデザートを出しています。当然、人々がするのは、一番良いデザートが先になくなるということです。私たちはそこに完全に整列された好みを持っているわけではないので多少の違いはあるかもしれませんが、人間はかなり似ているため、最高のデザートが先になくなります。
これは、なぜ多くの異なる分野で収穫逓減を予想するのかについての議論です。何が利用可能かを比較的簡単に見ることができ、人々が似たような好みを持っているなら、最高のものが先になくなり、その後はどんどん悪くなっていきます。科学の進歩の非常に静的なスナップショットを見れば、おそらくそこにはいくらかの真実があるでしょう。しかし、誰かがデザートテーブルの後ろに立っていて、デザートを補充し続け、新しいものを追加し続けているなら、少し後になってはるかに良いデザートが現れ、代わりにそれを食べに行くことになるかもしれません。
科学の進歩には少しその趣があります。私たちはこれらの奇妙な時期を経験します。コンピューターサイエンスは素晴らしい例であり、コンピューターサイエンスは基本的に、数学と論理学の哲学におけるいくつかのかなり難解な質問の副作用として生じました。これらの探求のかなり上位にあると思われるかなり難解な質問に取り組もうとしている人々がいて、彼らはこの基本的な新しい分野を発見し、突然そこに爆発が起こるのです。
収穫逓減の議論はそこには全く当てはまりませんでした。私たちはそこに何があるかを見ることができなかったのです。これは何度も何度も当てはまってきました。新しい分野が到来し、突然、ドーンと再び進歩するのが容易になります。以前に行われたすべてをマスターするために25年を費やす必要がなく、21歳で大きな突破口を開くことができるため、若者が殺到します。それは明らかに非常に魅力的です。
なぜ知識の構造がそのようなもので、これらの新しい分野が開き続けるのか、そのダイナミクスやどう考えるべきかについて、誰かがよく理解しているとは思いません。しかし、経験的にはそうであるように見えます。
それが事実であるにもかかわらず…ディープラーニングを例にとってみましょう。明らかに、これは21歳の若者が進歩を遂げることができ、比較的新しい分野の例です。再び本格的に活動を始めてから15年ほどです。しかしすでに私たちは、最前線で進歩し続けるために数十億、数百億、あるいは数千億ドルを必要とする段階にいます。これを理解する方法がいくつかあります。一つは、古代人がしなければならなかったようなことよりも実際にはるかに難しい、あるいは少なくともより集約的であるということです。二つ目は、そうではなかったかもしれないが、私たちの文明の資源が非常に大きく、人口が非常に多く、お金の量が非常に多いため、私たちは基本的に古代人が到達するのに永遠にかかったであろう種類の進歩をほぼ即座に達成できるということです。私たちは何かが生産的であることに気づき、即座にすべての資源をつぎ込みます。
しかし、それがそれほど多くないというのも奇妙なことです。ディープラーニングが注目に値するのは、他の例を思いつくのが難しいという事実に対する一つの大きな例外だからだと思います。
私はそれが注目の構造の結果だと思います。どんな時でも、常に最も成功しているものがあります。もしディープラーニングがなかったら、おそらくあなたはCRISPRについて話していたでしょう。おそらく私たちは、タンパク質の構造予測問題を解決することをAIの成功として考えなかったでしょう。おそらく私たちは、より広義に解釈されたカーブフィッティングでそれを行う方法を解明し、「わあ、これには多くの計算資源が必要だった」と言うだけだったでしょう。しかし、タンパク質の構造予測は非常に重要なことかもしれません。常に私たちにとって最大の事柄というものがあるのです。
あなたが指摘しているのは、注意が中央集権化される方法の結果ということですね。私が言っているのは基本的に流行だということです。
単なる流行というだけでなく、そこにはある種のダイナミクスがあります。このアイデアには非常に興味深く重要な意味があります。つまり、分岐が非常に広く、非常に偶発的で、経路依存性が強いため、異なる文明が全く異なる技術スタックに偶然出会うということです。遠い、遠い未来へと向かって貿易から得られる利益が存在するだろうという非常に興味深い意味があり、それは文明がどのように設立され、どのように調整し、どのようにインターフェースするかという観点から、実際に遠い未来についての最も重要な事実の一つになるかもしれません。「出て行って搾取せよ」というものではありません。隣接するコロニーなどからの貿易には巨大な利益があるのです。
ある意味そうですね。何が実際に難しいのかという問題があります。もしそれが単なるアイデアであれば、それは比較的早く広がります。アイデアを共有するのは比較的簡単です。もしそれがもっと何かであれば、ある種の能力の概念が存在するような、ダン・ワンのアイデアのようなものに近いです。あなたはすべての適切な技術を必要とし、すべての適切な製造能力などを必要とします。
したがって文明Aは非常に異なる種類の製造能力を持っており、文明Bでそれを構築するのはそう簡単ではありません。たとえ文明Bが先行していたとしても、それは真実になると思います。両方向に貿易に大きな利益を提供する比較優位が存在するのです。
最終的にはある程度のイノベーションの普及が予想されます。そこでの障壁が何であるかを考えるのは面白いですね。私が考えるのが好きな楽しい思考実験は、異星人版のGitHubです。誰かがあなたに、ある異星文明のすべてのコードを提示します。そこでコードが何を意味するのかさえ分かりませんが、彼らのアルゴリズムの仕様書です。そこには多くの興味深い新しいアイデアが含まれており、人間がそれを掘り下げてすべてを抽出しようとするには永遠の時間がかかるでしょう。
私にとってこれの起源は、自然界のタンパク質について考えたことでした。私たちは、私たちが全く理解していない信じられないほどの種類の機械をプレゼントされました。私たちはただ出かけて行って、それらを一つ一つ理解しようとしなければなりません。私たちはまだヘモグロビンやインスリンなどのようなものを理解している途中です。数億種類のタンパク質が知られています。
ですから、それは少しそんな感じです。私たちは生物学から、信じられないほど多くの非常に興味深いアイデアを含んでいるに違いない、この巨大な機械の図書館をプレゼントされ、私たちはそれを理解するごくごく初期段階にいるのです。
つまりあなたの指摘は、少しあなたの主張を言い換える必要がありますが、あなたはそれを異星文明からの贈り物として考えており、明らかにそうではありませんが、そのように考えているということですね。そして、なんてことだ、そこには非常に多くのものがあり、私たちはそれを研究するつもりだ。どれくらい長く研究を続けられるか神のみぞ知る、と。ヘモグロビンやそのようなものについての論文は何万本もあり、私たちはまだそれらを理解していませんが、そこから多くのものを得ています。インスリンだけを考えてみてください。それはとても重要なものです。
それは信じられないほど有用な直感のポンプですね。地球上に…ニック・レーンをゲストに招いた際、彼は生命がどのように出現したかについての理論を持っていましたが、どんな理論を持っているにせよ、DNAのようなものは40億年という時間を持っていました。異星文明がここに来て、「材料科学について学ぶべき興味深いことがすべてここにある」と言うようなものです。キネシンが歩いているのを考えてみてください。私たちはこれらのタンパク質についてほとんど何も知りませんが、私たちが知っているわずかな事実はただただ信じられないようなものです。リボソームもその例の一つで、奇跡のようなデバイス、小さな工場です。
すべては、核酸と炭素ベースの生命体による地球上のこの特定の化学によって種をまかれました。その化学が、異星文明が非常に興味深いと思うであろうこれらすべての興味深いものを生み出すのです。一般的な知的アイデアの何兆もの可能性のある種のひとつにすぎないはずのその非常に小さな種が、このすべての豊かさにつながるのです。
それは非常に興味深い直感のポンプです。この「貿易からの利益」ということについて熟考したいです。なぜなら、技術がどのように進歩し、異なる文明においてどのように異なる可能性があるかというこのビジョンを持っているなら、実際には異なる文明が互いにどのように相互作用する可能性があるかについて重要な意味を持つという、このアイデアには非常に興味深いものがあると感じるからです。そこにはこれらの巨大な貿易からの利益が存在するという事実です。
それは友好性をはるかに報われるものにするということですか。
はい。それは非常に重要な観察です。私はそれについて全く考えていませんでした。
それは非常に興味深い観察ですね。面白いですね。比較優位は人々が引き合いに出すのが好きなものであり、明らかに非常に美しいアイデアです。それには限界があります。それは特別で限られたモデルです。チンパンジーは興味深いことができますが、私たちは彼らと貿易しません。私はその理由を考えるのは興味深いと思います。
その一部は単に権力だと思います。十分に大きな権力の不均衡が生じると、常にではありませんが非常に多くの場合、人々のグループはこの別のモードに移行し、単に支配しようと努めるようです。おそらく人間には何か特別なところがあるのかもしれませんが、おそらくより一般的なことでもあるのでしょう。グループが貿易する前に、これらすべての特別なことが真実である必要があります。必ずしも明白ではありません。
ここで起きている大きなことは、第一に取引コストだと思います。第二に、比較優位は、貿易が行われる条件が、どの生産者にとっても生存水準を超えているとは教えてくれないということです。人々はしばしば、「AGI後の世界でも、比較優位があるため人間は雇用されるだろう」という文脈でこれを持ち出します。
その議論が破綻する5つの異なる理由がありますが、それを理解する最も簡単な方法は、なぜ私たちの周りの道路に馬がいないのかということです。車と馬の間には何らかの比較優位があるからです。
第一に、馬と車が同時に互換性を持つ道路を建設するには巨大な取引コストがかかります。同様の方法で、1,000倍の速度で思考し、潜在状態を互いに撃ち合うことができるAIは、サプライチェーンにおいて人間と対話する観点から、メリットよりもはるかにコストがかかると気づくでしょう。
第二に、馬が数学的に比較優位を持っているからといって、サンフランシスコで馬を維持するのにかかる年間10万ドルなり何なりを支払う価値があるとは限りません。その生存費は、あなたが馬から得られる利益に見合うものではないでしょう。
私は、単なる事実が興味深いと思います…私の予想と私の直感は明らかにこの点に関してあなたのものと大きく異なります。技術ツリーのほとんどの部分は決して探求されることはないでしょう。物事を組み合わせる面白すぎる方法がたくさんあります。発見されるのを待っている深すぎるアイデアがたくさんあり、私たちだけでなく、誰もそれらのほとんどを発見することはないでしょう。
ですから、どのように探求を行うかについての選択は、実際には非常に重要です。それは私が技術決定論的な議論について本当に嫌いなところです。進歩が比較的単純なもっと低い段階であれば信じる気になります。しかしもっと上に行くと、あなたは探索を行う方法を形作ることができるようになり始めます。
そして興味深いことに、私たちはそれを興味深い方法で形作り始めています。実質的に禁止されているさまざまな技術があります。DDT、フロン類、核兵器の使用制限、核拡散防止条約などについて考えてみてください。そういったものは事前に行われたわけではありませんが、一部のケースではかなり近づいてきており、私たちは先制的に「ああ、その道は進まないことにしよう」と決定します。ですから、それは私たちが実際に技術ツリーをどのように探求するかに影響を与えている一連の制度のように見え始めます。
これらの貿易からの利益がどこに見られるかについてですが、明らかに純粋な情報がやり取りできる場所で最も多く見られるでしょう。なぜなら、情報は生産するのは費用がかかりますが、検証するのは安価で、送信するのも安価だというこの性質を持っているからです。将来の生産性のどれくらいが情報に還元できるかは興味深いところです。現在、それを行うのは困難です。もし中国が何かを製造するのが本当に得意だとしたら、中国の製造部門に関わる1億人の人々の頭の中にあるこのプロセス知識があります。
しかし将来的には、AIがそれを行うのであればより簡単になるかもしれません。問題は、私たちの製造がどの程度非常に均一になり、本当にコモディティ化されるかということです。3Dプリンターは少なくともここ20年間、次の大きなものとされてきました。なぜ彼らはいまだにそれほどうまく機能しないのでしょうか。なぜ彼らはいまだに製造の中心にいないのでしょうか。そしてその次に来るものは何でしょうか。
対照的にリボソームを見るのは面白いですね。リボソームは多くの本当に興味深い方法で生物学の中心にあります。それが製造の未来であるかどうかにかかわらず、すべてがバイオリアクターかそのようなものを通じたスループットとして進むという非常にシンプルなものです。情報を送り、そして物を育てるか、実際に機能する何らかの3Dプリンターを持つかです。もしそれらが十分に良ければ、それははるかに純粋な情報の問題になり、このプロセス知識の一部ははるかに重要ではなくなります。
（スポンサーメッセージ） Jane Streetは多くの計算リソースを持っていますが、GPUは非常に高価であるため、GPU使用率に比較的小さな影響しか与えない最適化でさえ、依然として極めて価値があります。Jane StreetのMLエンジニアであるコーウィンとシルヴァンの2人が、GTCで彼らの最適化ワークフローのいくつかについて説明しました。ネットワークが遅すぎることでボトルネックになっているのではなく、トレーニングの別のランクが作業を完了していないのを待つことでボトルネックになっているのです。彼らは、Jane Streetがどのようにトレースをプロファイリングし、ボトルネックを診断するか、そしてCUDAグラフやCUDAストリーム、カスタムカーネルのような技術を使ってそれらをどのように解決するかについて話しました。これらの種類の最適化により、コーウィンとシルヴァンは各トレーニングステップを400ミリ秒から375ミリ秒に短縮することができました。この25ミリ秒の差は小さく聞こえるかもしれませんが、Jane Streetのフリートの大きさを考慮すると、その改善によって数千のB200が解放される可能性があります。Jane Streetは関連するすべてのコードをオープンソース化しました。もしチェックしたい場合は、GitHubのリポジトリとトークへのリンクを下の概要欄に貼っています。そしてもしこのようなことに興奮を覚えるなら、Jane Streetは研究者とエンジニアを募集しています。詳しくはjanestreet.com/dwarkeshにアクセスしてください。 （スポンサーメッセージ終了）
非常に不器用な表現の質問をしてもいいですか。私たちが発見したこれらの深い原理がいくつかあります。一つは、ある次元を越えた対称性がある場合、それは保存量に対応するというこのアイデアです。これは非常に深いアイデアです。もう一つは、あなたがそれについてたくさん書き、実際には教科書も書いていますが、どんな種類のものが計算できるか、他の物理システムでどんな種類の物理システムを理解できるか、万能コンピューターとはどのようなものかなどを理解する方法についてです。
ネーターの定理やチャーチ＝チューリングのテーゼというこのレベルのアイデアまで降りていくと、そのような極めて深い原理が無限に存在するというのがあなたの見解ですか。なぜなら、それらを特別なものにしているのは、それら自体が世界があり得るかもしれない非常に多くの異なる可能な方法を包含しているからだと感じるからです。しかし、いや、世界はこれらの非常に深い原理のいくつかとうまく適合していなければならないのです。
分かりません。私がここで持っているのは推測と直感だけです。私の直感では、私たちは非常に根本的な新しいものを発見し続けるだろうということです。先ほどの例で挙げたように、万能のプログラム可能なデバイスについてのチャーチやチューリング、その他これらの人々の素晴らしいアイデアを理解することは、私にとって非常に形成的なことでした。
そして後になって、これが公開鍵暗号のアイデアもその中に含んでいることを理解します。そしてさらに後になって、それが暗号通貨と呼ばれるアイデアもその中に含んでいることを理解します。これに基づいて構築された、合意された台帳を集合的に維持する能力についての非常に深いアイデアのセットがそこにあるのです。
それらの正しい標準的な形式を解明するには何年もかかりました。深い新しい基本的なプリミティブと思われるものを発見し続けるというこの事実だけが、私にとって非常に重要な直感のポンプとなってきました。私はその特定の例を挙げましたが、他の多くの分野でも同じパターンが見られると思います。
では、科学的プロセスや技術的進歩に対するどんな入力を考慮しても…経済学者はこれを百万通りの方法で研究してきました。それが年間Xパーセント多い研究者という非常に一貫した割合を必要とするように見えるという、この経験的現象に対するあなたの解釈は何ですか。数年前にニコラス・ブルームらによる有名な論文があり、そこで彼らは「半導体産業で何人の人が働いていて、ムーアの法則の歴史を通じてそれはどのように時間とともに増加してきたか」と問いかけています。
彼らが発見したのは、ムーアの法則がトランジスタ密度が年間40%増加することを意味するのに対し、それを維持するために半導体産業における科学者の数は年間9%増加してきたということだったと思います。彼らはこの観察を一つの産業から次の産業へと当てはめていきます。
深いアイデアは存在するが、それらを見つけるのがどんどん難しくなっているというのがあなたの見解ですか。それとも、これらの経験的観察で起きていることについて考える別の方法があるのでしょうか。
まず第一に、彼らの例はすべて狭いものです。彼らは特定のものを選び、そして特定の指標を見ます。GPUはそこには現れません。突然、並列化するこの能力を手に入れ、それは本当に興味深いことです。外部的な影響がたくさんあります。基本的に彼らはこれらの単純な定量的尺度を持っています。彼らはそれを農業生産性において見ます。彼らはそれを全体として多くの異なる方法で見ますが、狭く焦点を当てる必要があります。
私は新しい種類の進歩が可能になり続けるという事実には確かに興味があります。しかしそこにおいてさえ、依然として収穫逓減という現象が何らかの形で存在するようには見えます。それは本質的なものなのでしょうか。世界という構造に関する何かなのでしょうか。それは何なのでしょうか。あまり変わっていないことの一つは、この種の仕事をしている個々の頭脳です。おそらくそれらも改善されるべきであるか、あるいは何らかのフィードバックプロセスがそこで起きているのでしょう。おそらくそれが物事の性質を変えるのでしょう。
仮に1700年までの科学の進歩を見ると、それは非常に遅く、また非常に不規則でした。キリストの5世紀前にイオニア人たちがこれらのかなり注目すべきことを行い、非常に多くの知識が失われ、その後再発見され、そしてまた失われました。進歩は非常に遅かったと言わざるを得ないでしょう。
それは私たちが単に持っていなかった非常に良いアイデアがいくつかあったという事実に部分的に結びついています。アイデアを持った後でさえ、それらの周りに制度を構築する必要があります。トレーニング、資本の配分、そしてこれらすべての種類のことについて、実際には多くの異なる問題を解決する必要があります。研究者にとっての基本的な安全性さえもそうです。彼らが異端審問などを心配しなくて済むように。これらのすべての複雑な問題があります。
それらすべての複雑な問題を解決すると、突然ドーンと科学の進歩の巨大な爆発が起こります。もし何らかの停滞があり、それらの外部状況を変えていないのであれば、はい、再び収穫逓減に陥り始めるかもしれません。しかし、それは状況について何か本質的なものがあるという意味ではありません。おそらく外部の何かが再び変わる必要があるのでしょう。
明らかに、多くの人がAIが潜在的に推進力になると考えています。あるレベルでは確実になるでしょう。その意味で、現代の科学的機器の多くは、あるレベルでは本当にロボットだと考えることができます。ジェイムズ・ウェッブ宇宙望遠鏡とは何でしょうか。それをロボットと表現するのは型破りかもしれませんが、全く不合理というわけでもありません。
これは機械学習がデータ処理に使用されている、電子的に媒介されたセンサーとアクチュエーターを備えた高度に自動化された非常に洗練されたシステムの例です。その意味で、私たちはすでにその移行を見始めています。私たちはそれを何十年も見てきました。
この「マリファナを吸って一服する」ような考えがあります…
私たちはすでにいくつかそのような考えをしたと思いますよ。
会話のその部分に差し掛かっていると思います。その後で、私が失言を取り消し、より具体的に考える方法を見つけるのを手伝ってください。産業革命があり、啓蒙時代があり、そして今AIがあるというあなたの指摘ですが、それぞれが異なるペースであったり、科学が起こる異なる方法であったりするかもしれません。
そのような移行がどのくらいの速さで起こってきたかのペースを考えるなら、人類の歴史の長いスパンにわたって、時間とともに増加しているこの双曲線的な成長率を描くことができます。10万年前には石器時代がありました。さらにずっと遡って、霊長類はどのくらい前から存在しているでしょうか。数百万年になるでしょう。10万年前に石器時代があり、1万年前に農業革命があり、300年前に産業革命があり、それぞれが指数関数的成長率のこの増加によって特徴づけられています。
そして人々はそれがAIで再び起こると考えています。しかし、それは潜在的にさらに速く起こるでしょう。産業革命の始まりにいた誰かにとって、この傾向の次の区分が人工知能になるだろうということは思いもよらなかったでしょう。
ですから、もし物事がより速くなっていて、次の移行が何になるかを予測するのが難しいのであれば。私たちは単に現在とAIの間にあるこのシンギュラリティ（技術的特異点）が過去と未来を区別するものだと考えているのだと思います。
しかし、過去の多くの人が持っているべきだったのと同じヒューリスティクスを適用するなら、「知性の時代」もまたかなり短く、その後の次のことについて私たちはそれが何であるかを説明する存在論的認識すら持っておらず、未来の人々は過去を知的AI以前とAI以後としては考えないかもしれないということです。
ええ、もちろんこれを証明することはできませんが、それは確かに非常にありそうに思えます。問題の一部は、私たちが考えを巡らせるために利用できる基盤がすべて間違っているように見えるということです。言語を持つとはどういうことかについて、チンパンジーの群れと一緒に推測することはできません。過去の大きな移行を取り上げるだけでも、移行それ自体がその対象なのです。それはありそうに思えます。
もし私たちが「一服する」ような考えについて話しているのなら、古典的なコンピューターを使った汎用人工知能（AGI）を伴う何らかの移行が起きるだろうというアイデアには確かに面白さを感じます。しかし実際には、量子コンピューターを用いた興味深い移行も起こるでしょう。それらはおそらく、潜在的に興味深い計算の厳密により大きなクラスを処理できる能力があります。
ですから、AQGIか何と呼ばれるべきものの性質は、実際には質的に異なるものになるかもしれません。ですからおそらく、これら2つのことの間に短い期間があるのでしょう。私が言うように、これはただの推測ですが、確かに面白いです。
そのように考える理由はありますか。私が理解しているところでは、何十年もの間、あなたのような人々は量子コンピューターが実行できることの種類にかなり厳しい限界を設けてきました。検索をいくらかスピードアップするでしょう。ショアのアルゴリズムのように極端にスピードアップするものについては、こんな風に思えます…繰り返しになりますが、これは技術ツリーの下に何があるか事前には予測できないというあなたの指摘に当たるのかもしれませんが、少なくともここから見ると、暗号は解読できるとしても、他にショアのアルゴリズムを使って何をするのでしょうか。
私たちはそれについてまだ40年ほどしか考えていません。
それほど長くはありませんし、文明としてそれほど熱心に考えたわけでもありません。それが非常に狭いものであることが判明するでしょうか。そうかもしれません。それが非常に広いものであることが判明するでしょうか。それもまたはっきりと起こり得る本当に根本的な拡張のように思えます。
忘れてはならないのは、私たちはデバイスを持つという恩恵なしにそれを行ってきたということです。それは抱えるにはかなり大きなボトルネックです。もし1700年代にコンピューターサイエンスについて考えていて、「ANDとORができる、そこから何が生まれるだろう？」と考えているとしたら。ビットコインを予測することはできません。ディープラーニングを予測することはできません。もしあなたが十分に賢ければできたかもしれませんが、それはかなり厳しい状況です。
量子コンピューティングの黎明期
90年代と2000年代に量子情報と量子コンピューティングに携わり貢献してきたあなたとして、内部からの視点はどのようなものですか。何がボトルネックだったのかという歴史について、あなたはどのように語りますか。それを真の分野にした重要な移行は何でしたか。ファインマンからドイッチュ、そしてその後現れた他のすべての人々に至るまで、彼らの貢献をどのようにランク付けしますか。
実際に何が変わったのかという問題だけに焦点を当てましょう。なぜ1950年代に量子コンピューティングは存在しなかったのでしょうか。存在し得たはずです。ジョン・フォン・ノイマンのような人は良い例です。彼は間違いなく計算の先駆者でした。彼はまた量子力学に関する非常に重要な本を書き、それに深く興味を持っていました。彼はその時代に量子コンピューティングを発明できたはずですし、潜在的にそれができた可能性のある人々はかなりたくさんいたと思います。
ではなぜ、私たちは80年代にファインマンやドイッチュのような人々によるこれらの論文を持っているのでしょうか。これらはその分野の基礎として正当に見なされています。もう少し前に部分的に予想したものもいくつかありますが、それらは全く包括的ではなく、全く深くありませんでした。デビッドに尋ねるべきです。残念ながらファインマンに尋ねることはできませんが、彼は私よりずっとよく知っているでしょう。
興味深いと思うことがいくつかあります。一つは、70年代後半から80年代前半にかけて、計算がはるかに顕著になったということです。それが単に、より多くの人が興味を持つようになったという、一部は非常にありふれた理由からです。PCを買いに行くことができました。Apple IIを買えました。コモドール64を買えました。これらすべての種類のものを買うことができました。人々にとって、これらが非常に強力なデバイスであり、考えるのが非常に興味深いものであることが明らかになりました。
同時に、量子のケースでは、それはポール・トラップと単一のイオンをトラップする能力の時代でもありました。それまで、私たちは単一の量子状態を操作する能力を本当に持っていませんでした。歴史的に偶発的な理由で1980年頃にどちらも成熟した、これら2つの別々の事柄を手に入れたのです。フォン・ノイマンのような人がもっと早くそのアイデアを持てた可能性はありますが、それは非常に興味深い要因です。
リチャード・ファインマンについての物語があります。彼は1980年か1981年頃に初期のPCの1つを手に入れました。彼はそのデバイスにとても興奮していたらしく、真新しい計算デバイスを持ち運びながら実際につまずいてかなりひどい怪我をしたそうです。それは非常に歴史的に偶発的な偶然の一致です。量子力学を理解し非常に才能のある人が、これらの新しい機械にも単に非常に興奮しているというのは。
ですから、彼がその時にそれについて考えているのはおそらくそれほど驚くべきことではありません。10年前にどんな似たような物語を語れたでしょうか。そのための条件が存在していません。つまり、かなりありふれた物語ですが…
私たちが議論しようとしていたことの一つは、フォローアップの市場についてあなたが持っていたこのアイデアでした。私はこれがそれを議論するのに完璧な物語だと思います。なぜならあなたはその分野についての教科書を書いたからです。「マイクとアイク」は量子情報に関する決定版の教科書です。
おそらくあなたはドイッチュの後に参入したのでしょう。しかしあなたは90年代にどういうわけか、それがフォローアップし構築する価値のあるものであると特定しました。それをより抽象的に話す代わりに、これがすべきことだとどのようにして知ったのかについての直接の物語をぜひ聞きたいです。物理学とコンピューティングで起きていたすべてのことの中で、なぜこの問題について考えたいと決定したのですか。
リチャード・ファインマンは1982年に素晴らしい論文を書きました。デビッド・ドイッチュは1985年に、量子コンピューティングの根本的なアイデアの多くを概説する絶対に素晴らしい論文を書きました。1985年の時私は11歳です。私はこんなことは考えていません。サッカーをしたり何なりをしていました。
しかし1992年に、私は量子力学の授業を受けました。それは本当に素晴らしいもので、ジェラード・ミルバーンが講義していました。私は5回目の講義か何かの後で、ある日ただジェラードに尋ねに行きました。「私にくれないかというような、論文か何かを持っていませんか？」と私は言いました。
彼は「数日後に私のオフィスに来なさい」と言いました。私は行きました。そして彼は私に論文の巨大な束を提示しました。その中にはドイッチュの論文、ファインマンの論文、そして世界中の誰もが基本的にそれに取り組んでいなかった時期の、量子コンピューティングと量子情報に関する他の多くの非常に基本的な論文が含まれていました。彼は取り組んでいました。彼は量子コンピューティングへの実践的なアプローチを提案した最初の論文を書いたと思います。それはあまり実践的ではありませんでしたが、実際のシステムにおけるものでした。
ですからある意味で、私はこの別の人のセンスの恩恵を受けているのです。論文を読んですぐに…これらはエキサイティングな論文です。彼らは非常に根本的な質問を投げかけており、ここで進歩を遂げることができると気づくのです。これらは人が潜在的に取り組むことができるものです。
ドイッチュはこの推測、あるいはテーゼか何と呼ぶべきものを持っています。それは、普遍的なモデル、つまり量子チューリングマシンは、どんな物理システムでも効率的にシミュレートできるはずだというものです。これは非常に挑発的なアイデアです。その論文の中で、彼はそれを証明したとほぼ主張していると思います。誰もがそれに同意するかどうかは確信が持てませんが。
場の量子論を効果的にシミュレートできるかどうかについての疑問があります。その種の疑問は非常に興味深く、非常にエキサイティングです。それは明らかに宇宙に関する根本的な疑問です。彼はその中に、量子アルゴリズム、それらがどこから来るのか、それらが何を意味するのか、そしてそれらが波動関数の意味とどう関連するのかについてのいくつかの素晴らしいアイデアを持っています。
このような疑問は、物理学者の間でもいまだに意見が一致していません。「ああ、私は(A)深く重要であり、(B)私たち文明が持っていないものに触れているのだ」というある種の感覚があります。もちろん、少しそちらに注意を向け始めます。
質問の答えになっているか確信が持てません…おそらく私が質問を誤解していたのでしょう。
まず動機を説明しましょう。以前の会話で私たちは、1940年代にシャノンの定理と通信路に関するシャノンの考え方が、当時ベル研究所が解決しようとしていたパルス符号変調の問題を超えた深いアイデアであり、それが量子力学から遺伝学、コンピューターサイエンスに至るまであらゆるものに適用できると、どうして知ることができたのかについて議論していました。
私たちがまだ話す機会がなかったあなたが述べたアイデアの一つ…シャノンはこの論文を発表しました。これらすべての他の論文がありますが、人々が引き寄せられ、シャノンの研究の上に構築する、いくつかのフォローアップの市場があります。彼らはそれがすべきことであるとどのようにして気づき、そのプロセスはどのように起こるのでしょうか。
あなた自身のローカルな答えを教えてくれたのだと思います。あなたはこれらの論文を読み、ここでなすべき仕事があることに即座に気づきました。手の届きやすい果実があります。よりよく理解する必要があるいくつかの深く挑発的なアイデアがあり、処理しやすい形で進歩を遂げることができると。
ある程度あなたは「よし、私は宇宙についての人類の理解に貢献するというこのゲームに参加したい」と言っていて、この手の届きやすい果実のアルゴリズムを適用しているのですね。「私自身の特定の関心と能力のセットに相対して、どこでシャベルを手に取り掘り始めるべきか」と。そこでは「ああ、ここは掘り始めるのにかなり良い場所のようだ」という感じでした。
もちろん、人によって選び方は大きく異なります。当時は非常に珍しい選択でした。1992年のことです。それについて考えている人はごくわずかでした。
オープンサイエンスと科学の政治経済学
少し早送りして、あなたがオープンサイエンス運動について行った仕事について現在どう考えているかは分かりませんが、それはうまくいきましたか。そこでの成功とはどのようなものですか。その運動は何を達成しようとしているのですか。
面白いですね。あなたはそこで立ち止まってオープンサイエンスを定義しませんでした。20年前ならそうしなければならなかったでしょう。人々はそのフレーズを認識しています。人々はそれに関するある連想のセットを持っています。最も多いのは、比較的シンプルな連想のセットを持っているということです。
おそらくそれは、科学論文をオープンアクセスにすることに関する何かを意味します。非常に多くの場合、コードをオープンに利用可能にすることや、データをオープンに利用可能にすることについても何らかの概念を持っています。それらのことを顕著な問題にしたことは、すでにオープンサイエンス運動の非常に大きな成功です。それらは人々が意見を持つ問題であり、比較的一般的な議論があります。
これはミームのバージョンのようなものです。公的資金による科学はオープンサイエンスであるべきだ、と。それは、あなたが異議を唱えるかもしれない一連のアイデアの蒸留です。しかし、人々に実際にそれについて考えさせ、その種の議論に関与させることができれば、それは科学の政治経済学全体において考慮すべき非常に根本的な問題です。
3世紀前に遡ると、非常に似た議論が行われていました。それは、私たちは自分の科学的結果を公に開示するのか否かという問題です。ガリレオやケプラーのような人々を見ると、彼らが公に開示した範囲は非常に奇妙な方法で行われていました。時々彼らは奇妙なことをしました。自分の結果のいくつかをアナグラムとして発表したのです。
彼らは何か発見をし、その結果を一つの文に書き留め、それをスクランブルして発表しました。そしてもし後で他の誰かが同じ発見をしたら、彼らはアナグラムのスクランブルを解除して「ああ、そうだよ、実は私が先にやったんだ」と言うのです。これは発見システムにとって理想的な基礎ではありません。
知識を論文という形で開示する、ほぼ現代の理想を獲得するまでに非常に長い時間、1世紀以上かかったと思います。帰属の期待があり、評判の経済が構築されます。「誰々がこの仕事をしたから、彼らはその功績に値する」と、それが彼らのキャリアの基礎になります。
これが科学の基礎となる政治経済学です。それは印刷機があり科学雑誌を発行する能力があるときには大いに理にかなっていました。それからあなたはこの現代の状況に移行します。そこではより多くのものを共有し始めることができます。コード、データ、進行中のアイデアを共有できます。
しかしそれらに関連する直接的なクレジット（功績）はありません。それらにどれだけの評判が関連付けられるべきかは全く明白ではありません。それはすべて社会的に構築されたものです。それを現在進行形の問題にすることは、行われたこととして非常に重要です。私はそれがオープンサイエンスに関する仕事の主な肯定的な成果の一つだと考えています。
問題を説明するための本当に実践的な例を挙げましょう。長い間物理学には、プレプリント（査読前論文）アーカイブにプレプリントをアップロードするというプレプリントの文化がありましたが、生物学ではこれは起こりませんでした。プレプリントの文化はありませんでした。現在それは変わりつつありますが、長い間これが事実でした。
私はかつて、物理学者や生物学者になぜこうなのかを尋ねて面白がっていました。生物学者から聞いたのは、彼らは「生物学は物理学よりもはるかに競争が激しいため、私たちは優先権を保護する必要があり、プレプリントアーカイブにアップロードすることなど到底できない。私たちはただジャーナルで発表しなければならないのだ」と言うのです。
そして物理学者から時々聞いたのは、「物理学は生物学よりもはるかに競争が激しいため、私たちはプレプリントアーカイブにできるだけ迅速にアップロードすることによって優先権を確立する必要がある。ジャーナルでやるのを待つことなど到底できないのだ」というものでした。
これは、この種の帰属経済が単に私たちが構築するものであるという程度を強調していると思います。それは私たちが合意によって行うものです。その経済を変えようとするどんな試みも、私たちが知識を構築する異なるシステムをもたらします。科学の政治経済学の周りには、この非常に根本的な問題のセットがあります。私たちにはこの集団的なプロジェクトがあり、それをどのように調停するかは、私たちがアイデアの周りに持つ経済に依存しているのです。
このオープンサイエンスのプロジェクトの一部としてあなたが強調してきたことの一つで、私たちも先ほど話しましたが、それは集団的科学、つまり飛躍や繋がりを作るために必要なすべての論理的および説明的なレベルを単一の個人が理解していないような問題において、人々のグループが進歩を遂げるということです。数学以外で、そのような発見の最も良い例は何ですか。
一番良いものを教えるための明確な順序付けができているか自信がありません。私が非常に興味深いと思う例はLHC（大型ハドロン衝突型加速器）です。そこではそれが単にこの計り知れないほど複雑なオブジェクトです。
何年も前、私は加速器物理学の会議に忍び込みました。私は加速器物理学について全く何も知りませんでしたが、彼らが何を話しているのかただ好奇心で見たかったのです。この特定のグループの人々は数値解法、特に逆問題の専門家でした。これらの加速器の中では、このようなカスケードが発生します。粒子が大規模に加速され、おそらく衝突させられ、そして崩壊に崩壊を重ねる粒子のシャワーが得られます。
ただこの信じられないほどの、結果として生じるシャワーがあり、それが最終的にあなたが検出器で見るものです。それからあなたは遡って何がそれを生み出したのかを解明しなければなりません。解決する必要のあるこれらの非常に複雑な逆問題があります。あなたはこの最終的なデータを持っていますが、何がそれを生み出したのかを解明する必要があり、それがこれらの兆候を探す方法です。
これらの人々の多くは、粒子の飛跡を追跡するためのシミュレーション手法の信じられないほど深い専門家でした。これは本当に深く難しいことでした。私は「わあ、これをどうやって行うか、そしてこれらの逆問題のいくつかをどうやって解決するかを学ぶだけで一生を費やすことができ、それでも場の量子論、検出器物理学、真空物理学、あるいはデータ処理など、例えばヒッグス粒子を理解するために絶対に不可欠なこれらすべてのことについてはほとんど何も知らないままでいることになるのだ」と思いました。
一人の人がすべてを深く理解することは可能だとは思いません。多くの人がこれら多くのアイデアを幅広く理解していますが、実際に活用されるほどの深さで互いの専門分野を理解してはいません。だからこそ1,000人以上の著者がいるこれらの論文が存在するのです。
それらの人々は高いレベルで互いに話し合うことはできますが、互いの専門分野をそれほど深くは理解していません。検出器物理学、真空物理学、逆問題の解決といったものは、互いに信じられないほど異なっています。それを本当に詳細に理解するのは大変な作業です。
深い理解を得るための学習法とアウトプット
多作であることと深さの対比についてどのようにお考えですか。おそらくダーウィンは、何十年も何かに向かって考えを温めている人の例です。他の例もあります。アインシュタインは特殊相対性理論を思いついたその年に、ただたくさんの異なることを行っています。そしてパイスは、それらがすべて最終的な構築にどのように関連していたかについて語っています。
それは私がとても悩んでいることです。時々私は遅すぎると感じます。
面白いですね、ダーウィンの例は本当に興味深いです。何において多作だったのでしょうか。彼がどれほどの手紙を書いたか神のみぞ知るところです。膨大な数だったに違いありません。ですから彼は確かに非常に精力的でした。
どんな種類の創造的なプロジェクトにも関与しがちな仕事には2つのタイプがあります。ルーチンワークがあり、そこではただ先延ばしを避けたいと考えます。ただ「どうすればこれが上達するだろうか」あるいは「どうすればこれを外注できるだろうか」そして「どうすればこれを可能な限り迅速に行えるだろうか」と問いかけ、それを長引かせているような状況に陥るのを避けたいと考えます。
そして、実際には多くの時間をかける意思を持つ必要がある高い分散（ばらつき）を伴う事柄があります。異なる場所に行き、異なる人々と話す意思を持つ必要があります。どの特定のインスタンスにおいても、そのほとんどは単に入力にはならないでしょう。
どういうわけかそれら2つのバランスを取ること…多くの人は一方または他方を行うのが非常に得意だと思いますが、どちらを好むかはほとんど性格の特性のようなものです。人々は一方を多く行い、もう一方が十分ではないという結末になりがちです。ですから私は確かにそれら2つをバランスさせようとしています。
アインシュタインはとても興味深い例です。1905年はただただこの並外れた年です。特殊相対性理論を完全に削除したとしても、それは並外れた年です。特殊相対性理論を削除し、彼がノーベル賞を受賞した光電効果を削除したとしても、依然として並外れた年であり、おそらく複数のノーベル賞を受賞するような年です。では彼は何をしているのでしょうか。おそらく答えは、彼が単に私たちの誰よりも賢いということなのでしょう。幸運もたくさんあります。
少なくとも私自身にとっては、ルーチン化されている特定すべき事柄を特定し、そしてそれらをできるだけ早くこなそうと努めることです。それは一定の利益をもたらしてきたと思います。しかし同時に、分散の側で自分自身にもう少し賭ける意思を持つことも非常に、非常に役立ってきました。それは本当に難しいことです。なぜなら、本質的に結果がどうなるか分からない状況に自分自身を置いているからです。
もしあなたが生産的であることに非常に駆り立てられていて、実際にはそこではほとんど機能していない場合、あなたは「これを減らそう」と考えます。それは正しいとは感じられません。私がサンフランシスコで働いていたとき、毎日持っていた習慣は、職場まで徒歩15分の道を行く代わりに、より美しい徒歩30分の道を行くことでした。一部はただそれが美しかったからですが、一部は効率的でないことには本当の利益があるということをただ思い出させるためでもありました。
しかし、それはあなたの質問への答えにはなっていませんね。本当に、私が言っているのは、私自身この問題に大いに苦しんでいるということだけだと思います。
ディーン・キース・サイモントンがこの有名な均等確率の法則というものを持っていて、彼が言うには、あなたが発表する特定のどんなもの—論文、本、何であれ—が、その人の生涯を通じて極めて重要になる確率はそれほど違わないということです。彼らがどの時代に最も生産的であるかを本当に決定するのは、彼らがどれだけ多く発表しているかです。
どんな特定の事柄も極めて重要になる確率は均等です。最も成功したクリエイターや科学者の何人かは、ただたくさんのことをやっているのだと思います。シェイクスピアはただたくさん出版していました。もちろん、反例もあります。ゲーデルはほとんど何も出版しませんでした。しかし大まかに言えば、そうしないための非常に良い理由が必要です。
面白いことに、私は長年にわたって明らかに優秀な多くの人々に会ってきましたが、彼らは自分たちを有名にするような偉大なプロジェクトに取り組むのだと思い詰めていて、結局何も成し遂げません。それは関連しているように思えます。それはある種の嫌悪感です。非常に多くの場合、彼らは単に公の判断を望んでいないのだと思います。
私が見てみたいと思うのは…多くのことを成し遂げた人々の伝記や回顧録、歴史は山ほどあります。私は、とてつもなく才能がありながら単に的を外した人々の伝記が非常にたくさんあればいいのにと思います。私はIMOで金メダルを取ったりした人で、その後数学者になろうとして失敗した人々を知っています。何が起きたのでしょうか。何が理由だったのでしょうか。多くの場合、それは実際には他の何よりも有益であると推測します。
このインタビューの前に私が読んでいたあなたのエッセイがあります。自分がしている仕事が何であるかについてあなたがどう考えているかについてのものです。そして「ライター」というのは正しいレッテルではないようです。あなたが言うように、チャールズ・ダーウィンはライターだったのでしょうか。そのレッテルは正確には何なのでしょうか。
私はポッドキャスターです。ある意味で、明らかに私たちの仕事は非常に異なっていますが、私もこの仕事が何であるか、そしてどうすればもっと上手くなれるかについてよく考えます。特に、ポッドキャストで話す異なる人々の間で、何らかの複利効果が確実に生じるようにするにはどうすればいいのでしょうか。
私はこの複利効果の代わりに、トピックについてある程度表面的な理解を構築し、そしてそれが減価していくのではないかと心配しています。次のトピックに移り、そして減価していくのです。世の中には私よりはるかに多くの専門家にインタビューしているポッドキャスターがたくさんいますが、その結果として彼らがずっと賢くなったとか知識が豊富になったとは思いません。ですからこれを失敗する可能性は明らかにあります。
このような仕事から実際にどうやってより深く学ぶかについて、あなたの考えや見解、アドバイスがあれば伺いたいです。
それは信じられないほど複雑で豊かな質問ですね。質問は、どうすればそれをより成長性の高いコンテキストにできるかということのようですね。どうすればそれをより要求の厳しいコンテキストにできるでしょうか。複利的なリターンをもたらす可能性のある比較的小さな方法でそれを行うこともできますし、あるいはもっと根本的な何かを行うこともできます。おそらくそれは、実際には全く異なることを行う並行プロジェクトを始めることを意味します。
非常に要求が厳しいことが、何かに対応するあなたの反応を単に変えることができるということには、本当に興味深い何かがあります。私が学生と時々やっていたことで、時々自分自身ともやっていました。本当は自分自身に向けられたものだったのですが、彼らはある週、「今週はこの仕事をやろうと思います」と言います。
そして次の週がやってきて、彼らはその問題を解決していませんでした。もし100万ドルがかかっていたら、あなたも同じ努力をしたでしょうか。そして答えは例外なく「ノー」なのです。彼らは努力しましたが、本当には努力していませんでした。
これは私たち全員にとって非常に馴染みのある感覚だと思います。もし適切な厳しい現場監督があなたのそばに立っていて、「いいかい、君はここではほとんど機能していないよ」と言ってくれたら、もっと多くのことができたはずです。その厳しい現場監督とは何だろうかと少し疑問に思います。あなたの準備をはるかに集中的にするような、彼らがあなたにできる要求とは何でしょうか。
正直なところ最も役立つのは…一部の主題については、どう準備すればいいかが非常に明確です。私はチップ設計の会社を創業し、それに関する教科書を書いた人とのチップ設計についての今後のエピソードの準備をしています。昨日私は彼のオフィスに行き、私にできる5つのルーフライン分析をブレインストーミングしました。もし私がそれを理解すれば、私はある程度の良い理解を得たことになります。
問題は、他のほぼすべての分野において、このようなカリキュラムが存在しないということです。数年前にイリヤ・サツケヴァーにインタビューしたときは、「トランスフォーマーを実装せよ、そうすれば確実に固定された理解の塊が得られる」というものでした。他の分野では、単に私がこれをぼんやりと理解しているというだけです。それは固定されていません。「このエクササイズをやれ、そうすれば理解できる」というような強制機能がないのです。
本当にあなたが言っているのは、この種の理解に実際に到達することなくポッドキャスティングの良い仕事をすることはでき、そしてそれがあなたの観点からは問題だということですね。あなたは自分の仕事の記述を変更し、これらの塊を内面化し、毎回この種の統合を得られるようにしたいのですね。私には、それはあなたが実際に仕事のアウトプットの構造をあるレベルで変更したいと考えていることを意味しているように思えます。
多くの人が持っている、自分たちは常にフロー状態にあるべきだというひどいアイデアがあります。そして私が知る限り、高いパフォーマンスを出す人はこれを全く信じていません。彼らは時々フロー状態にあります。アスリートを見れば確かにこれが分かります。彼らが実際にコートに出てバスケットボールやテニスをプレイしているときは、理想的には彼らの多くの時間はフロー状態にあります。しかし彼らがトレーニングしているときはそうではありません。彼らは多くの時間行き詰まっているか、あるいは物事をうまくできていません。
それがあなたにとってどのようなものか疑問に思います。
それができれば私は非常に満足です。問題は、64周走ることに相当するものが何なのか私には分からないということです。これは、読み取れるカリキュラムがあるゲストを選ぶことで変えられることです。ですからそれを行ってこなかったのはおそらく間違いです。また、テレンス・タオのために準備する現実的な方法はありません。もっともらしいカリキュラムが存在しないのです。
多くの失敗モードがありますが、私が心配している長期的なダイナミクスの一つは、良いポッドキャストを持ち局所的な最大値に到達することはできるが、特定のゲストやトピックについて十分に深くは入り込めていないということです。私の学習モデルでは、より深いメカニズムを本当に理解していなければ、ブラックボックスの入出力をマッピングしているだけだというものです。それはただ信じられないほど早く消え去るか、あるいは最初からやる価値がないのです。ただ次へ進み、それで終わりです。
中間の繋がりを構築する必要があります。奇妙なことですが、AIはその理由で本当に簡単です。なぜならできることが明確にあるからです。ただ実装すれば、理解できます。もし私がその基準を他の場所に適用したら、歴史のエピソードは単にやらないことになるでしょうか。
その通りです。エイダ・パーマー。話をするのは素晴らしく、信じられないほど興味深いです。しかしあなた個人にとって、何が変わりましたか。
私が学んだことはいくつかあります。もし私がもっと時間を割り当てていたら、特にインタビューの後に、私が学んだすべてと、それが私の知っている他のこととどうつながるかについて2,000語を書き上げていたでしょう。エピソードの間隔をもっと空けて、その後の統合により多くの時間を費やすことは、おそらくやる価値のあることかもしれません。
インタビューの後に、あなたが学んだことを固定するために必要なカリキュラム、必要な練習問題、そして必要なエクササイズを本当に上手に考え出してくれる人がいれば、私は無限の金額を支払うでしょう。
誰かとそれをやってみたことはありますか。
人を見つけるのが難しいです。そこまで一生懸命試したわけではありませんが、あらゆる単一の種類の分野についてそれをやってくれる人を見つけるのは大変ではないでしょうか。トピックごとに違う人を雇うべきかもしれませんね。
かもしれませんね。各エピソードであなたはどんな問題を解決しているのか、ということについて何かあります。私が知る限り、それが私が何かを本当に理解する唯一の方法です。私は何かに興味を持ちます。最初は問題すら持っていませんが、ただここに貢献すべき何かがあるという感覚があり、徐々に焦点を絞っていき、そこに問題があるのです。
面白いことに、行き詰まって時間を過ごすことは信じられないほど重要です。それはかつてはただイライラするものでした。今ではおそらくプロセス全体の中で最も重要な部分であるようにさえ思えます。その苦労して勝ち取った性質が、私が後でそれを内面化することを意味しているのです。
私は2、3日で1万語のエッセイを書いたこともありますし、3ヶ月や6ヶ月かけて書いたこともあります。ほんの数日しかかからなかったものからは、あまり多くを学ばなかったように感じます。一方で3ヶ月かかったもののいくつかは、15年経ってもまだ覚えているでしょう。
3ヶ月かかったものについて、物理学以外であなたがどのように学ぶか説明していただけますか。
断トツで最も一般的なことは、常に何らかの創造的なアーティファクトがあるということです。それはクラスである時もあります。何らかの集団的な創造的アーティファクトに一緒に取り組んでいる人々のグループとの関わりである時もあります。あなたはそれに気づいてすらいないかもしれませんが、何らかの形で彼らの創造的な目的へのインプットとして機能しているのです。それはエッセイや本や何である時もあります。
私がよくポッドキャストをやるのをとても楽しむ理由の一つです。私がここに来ることを承諾したのは、あなたが並外れて要求の厳しい質問をすることを知っていることが部分的な理由です。それは異なる種類の強制機能からこの種の視点を得ようとする試みです。最も要求の厳しい創造的なコンテキストを選ぼうとすることです。
このインタビューのために、私はサスキンドの特殊相対性理論の本の3つの講義に目を通しました。問題は、そこに練習問題がほとんどないことです。ですから私は物理学者の友人を雇いました。まだやっていませんが、すべての講義について、目を通すべき一連の練習問題が欲しいと思っています。そして私は適切に謙虚な気持ちにさせられるつもりです。
どうすれば可能な限り急所を突くようにできるか。賭け金を高くできればできるほど良いのです。インタビューはある意味でハイステークスですが、同時に深い理解を必ずしもテストするわけではありません。
私はインタビューがそれほどハイステークスだとは思いません。あなたは特殊相対性理論についての本を書いているわけではありませんし、既存の標準的な教科書が何であれ、それに取って代わる本を書こうとしているわけでもありません。それは本当に高いステークスです。
ちなみに、私が特に難しいと感じるフレーズがあります。人々は主題について「深く掘り下げる」ことについて話しますが、異なる人々がこれが何を意味するかについて異なるアイデアを持っていることが判明します。一部の人にとっては、ブログ記事をいくつか読むことを意味します。一部の人にとっては、それについての本を読むことを意味します。一部の人にとっては、それについての本を書くことを意味します。あなたが自分自身に課す基準が、この方法で知識を統合するあなたの能力について多くを決定するのです。
AIの助けを借りることで、私はある意味いくつかのことについてはるかに速く進めることができていることに気づきましたが、私がより良く学べているかは分かりません。おそらくそれは…最も難しいこと、最も要求の厳しいことは、あまりにも嫌なものなので、そこから逃れるためにできる口実なら何でも使おうとしてしまうからです。ただLLMとやり取りをして表面をごまかすのは…面白いですが、必ずしも他の何物でもありません。それはその事柄から逃れるとても簡単な方法です。
実際、中間的な思考をする代わりに、チャットボットに尋ねることができる次の質問が常にあるため、より簡単に逃れられてしまいます。
ええ。そしてそれはいくらか価値があります。もちろんそれが魅力の一部です。それは実際に無用というわけではありません。しかしそれは、おそらくあなたがすべきことである実際にそのことを行うことの代替になってしまう可能性があります。面白いですね。どの程度までその種のことを外注すべきなのでしょうか。それは興味深い判断の分かれるところです。やってほしい一連のルーチンワーク全体があります。それはあなたにとって価値が低いので、もしチャットボットにやらせることができるなら、そうしたほうがいいでしょう。
誰かが何年も前に先駆的なコンピューターサイエンティストのアラン・ケイにインタビューし、彼はLinuxについてどう思うか尋ねられました。もし私が彼の答えを正しく覚えていれば、彼は基本的にこう言いました。「それはコンピューターサイエンスとは何の関係もない。それはただの泥の大きな塊だ。そこには理解する価値のある興味深いアイデアがいくつかあるが、ほとんどの場合、あなたが学んでいるのはLinuxに関する事柄だけだ。あなたは実際に他のものに応用できるようなことは何も学んでいない」。
私はそれが非常に興味深いと思いました。ある種の精神を持つ人にとって、ある種のことには一定の魅力があります。そこにはルーブ・ゴールドバーグ・マシンのようなものがあります。あなたはただすべての部分について学ぶことができ、それが面白いと感じられます。しかし、一歩下がって自分がここで実際に何をしているのかを考えると、それは実際にあなたの目的を満たしていないかもしれません。
おそらくあなたはシステム管理者になりたいと思っていて、Linuxを学ぶことはあなたの時間の素晴らしい使い方でしょう。それには全く何の害もありません。しかしもしあなたの目的がコンピューティングの基礎を理解することなら、それが時間の良い使い方であるかははるかに不透明です。ある種の精神を持つ人にとって、ただシステムを学び、それを理解と混同してしまうことへの魅力があるという、私がよく考えた答えでした。
分かりました、これがどうなるか引き続き報告しますね。何らかの改良された学習システムについて、1ヶ月以内にテキストを送る義務があります。
とても気になりますね。また、これにおけるごくわずかな漸進的な改善でさえ非常に多くの価値があるということも事実です。
それがポッドキャストへの主なインプットです。本棚が豪華で黒板があるとかそういうのは素晴らしいですが、実際にポッドキャストをより良くするものは、もし私が自分の行う学習を改善できるかどうかなのです。ですから、ええ、わずかな改善のすべてに価値があります。
よし、セラピーセッションをありがとうございました。締めくくるには素晴らしい話でした。マイケル、ありがとう。
よし。ありがとう、ドワーケシュ。
コメント