27,846 文字
こんにちは皆さん、Making Progressチャンネルのマイク博士です。今日の動画はシリーズ第79回です。機械の超知能は機械が人間の知能に達する前に来る可能性が高いです。なんですって？どうしてそんなことが可能なのでしょうか？このビデオの最後には、私の考えに同意する確率が今よりも高くなっているかもしれません。それが実現すれば、まずまずのビデオと言えるでしょう。もし確率が下がっていたら、これはひどいビデオということになりますが…まあ、全員が同意するわけではありません。私が何について話しているのか、そして私の専門分野からどれほど離れているのかを見てみましょう。本当にかなり離れています。
いくつかの用語を定義しましょう。自然知能とは、自然に進化したシステムが問題を解決し、世界で機能する能力です。人工知能とは、人間が設計したシステム、一般的にマイクロチップベースのシステムが問題を解決し、ある程度の成功で世界をナビゲートする能力です。人工汎用知能（AGI）とは、人工知能が仮説的に十分強力になり、ほぼすべての人間の認知タスクを人間レベルかそれ以上の能力で実行できるようになることです（それ以下ではなく）。それが汎用知能と呼ばれるのは、これらの機械、AIが…まあ、実体化やロボットによる操作にまで拡張しなくても、少なくともコンピュータ画面上で、機械があらゆることをできるようになるからです。ウェブサイトをナビゲートするなど、あらゆる面で人間と同じようにすべてを行います。感情的な言語のニュアンス、先を見越した計画立案など、すべてを理解します。それが人工汎用知能です。
そしてこの進化的系統の次の用語は人工超知能（ASI）です。自然知能（NI）、AI、AGI（人工汎用知能）、そしてASI（人工超知能）と続きます。人工超知能はこれらの多くを明示的かつ非常に具体的に定義するのが難しいのですが、それについてはこの大きな問題に後ほど触れます。人工超知能とは、知能に関するほぼすべての点で人間と同等かそれ以上（特に「以上」に重点が置かれる）の機械です。それが超知能です。これは、普通の5歳児（特別に才能があるわけではない）がアルバート・アインシュタインと何かについて議論するようなものです。アインシュタインはその子どもにとって超知能であり、超知能であるとわかる方法の一つは、下位の知能には説明が難しいか潜在的に不可能なほど高次の複雑さで操作するということです。
これがASIです。一般的な考えは、自然知能である人間がAIを生み出すということです。多くの人々はAIがAGI（人工汎用知能）に到達することは決してないと考えていました。それは人間だけができることだと。私にとって、それは表面上は不条理でした。もし形而上学的自然主義者であれば、つまり人間は物理法則に従って世界で機能する機械だと考えるなら、人工知能が人間の能力に追いつき、そして追い越せないと疑う理由はありません。飛行機は鳥よりも速く飛びます。同じことが知能にも当てはまる可能性があります。
そしてAIがAGIに到達した後、私に言わせれば、今ではかなり迫っています。私は次の1、2年以内と言うでしょう。ハイパー楽観的かもしれませんが、そう思います。他の人は5〜10年と言い、多くの人は20〜30年と言いますが、そういう人たちはほぼ確実に間違っています。そして考え方としては、AGIに到達した後、人間はそれに適応し、社会は変化します。それは大きな出来事です。巨大なデジタル労働力が生まれ、ロボットが登場して巨大な物理的労働力になります。そして5年後、10年後、15年後、おそらく20年後には、機械の知能レベルが本当のASI（人工超知能）になるほど上昇していきます。しかし適応する時間があるでしょう。
私はこのフレーミングが正確ではないと伝えようとしています。微妙な違いや「技術的には正しいけど、それは何も意味しない」といった違いではなく、多くの意味を持つ方法で違うのです。そしてそれについて後ほど説明します。まずは知能をどのように理解し、これらすべてが何を意味するのかを話しましょう。そうすれば、私が単に自分の考えを伝えるだけでなく、「ああ、なるほど、その論理はわかる」と思ってもらえるようになります。
まず最初に、AGI（人工汎用知能）が実際に何であるかを理解する必要があります。AGIを正式に定義しようとする試みは多くありました。なぜなら、AIは今でも本当にクールなことができますが、それはAGIなのかという疑問があるからです。この質問に答える方法は多くありますが、すべてが同じように適切というわけではありませんが、それぞれに長所短所があります。
まず最初はチューリングテストです。これは、現代コンピューティングの父の一人であるアラン・チューリングによって、私の理解では、カジュアルに仮説立てられたものです。チューリングテストとは基本的に、チャットボットまたは人間と話し、それが人間かチャットボットか分からない状態で、多くの質問をすることができます。そして最後に「これは間違いなく人間だ」と思ったけれど、それが機械だった場合、その機械はチューリングテストに合格したことになります。一般的にチャットメディアを通じてやり取りするとき、説得力のある人間らしさを示します。明らかに、それを見て「あれはロボットだ」とわかるようなら、それは明らかに機械ですから、形態や声のトーンは必要なく、チャットだけのテストです。
これは一種の相互作用だけのテストですが、非常に意味のあるものです。なぜなら、もし何かがあなたに人間だと信じ込ませたけれど、それが機械であれば、それは大きなことだからです。機械は2024年までチューリングテストに合格できませんでしたが、GPT-4がチューリングテストに合格しました。これについて聞いていないかもしれませんが、良いAIニュースは通常あまり広まらず、悪いAIニュースは野火のように広がります。
チューリングテストの利点（それには利点も限界もあります）は、それが非常に理解しやすい現実世界のテストだということです。AIについて何も知らない普通の人間にチューリングテストとは何かを説明し、「機械がそれに合格することが本当に重要ですか？」と尋ねると、彼らは「ええ、それはすごいことだよ。オンラインで女の子と話していると思っていたのが、実は単なるボットだったということもあり得るんだね。通常、ボットはボットだとわかるけど、もしわからないとしたら、すごいことだ」と言うでしょう。
そして本当にそれを考え抜くと、特に具体的なタスクを実行させたり、多くの質問をしたりしても、人間と区別がつかない能力は、少なくともカスタマーサービスが人間から大幅に解放され、機械に任されるということを意味します。少なくともそれは非常に大きな出来事です。だから、機械が人間と区別がつかなくなれば、それが厳密にAGIでないとしても（私のような細かい懐疑論者にとっても）、確かに大きな何かが起きています。
しかし、チューリングテストには限界があります。まず、まだ完全に解決されていない質問として、チューリングテストは一般の人向けなのか、最も賢い人向けなのかということがあります。多くのチャットボットは今や一般の人には通用しますが、最も賢い人、特にコンピュータ科学者や現在のAIシステムの限界を知っている人にとっては、本当に特定の方法で質問を表現すれば、「ああ、これは間違いなく機械であって人間ではない」とわかります。
それで、私が言いたいのは、現在の機械、おそらくGemini、おそらくGrok（Grok 3）、間違いなくGPT-4O、間違いなくClaude（おそらくすべてのモデル）は、一般の人にとってのチューリングテストに確実に合格しています。そして今、これらのモデルの多くは、非常に賢い人々にとってもチューリングテストに合格できますが、専門分野のAI研究者にとっては一つも合格できません。彼らはこれらのシステムが答えられない質問を正確に知っているからです。
ここにはある種の明確さの欠如があります。「ある意味では、私たちはすでにAGIに到達しているのか、しかし最終的な意味ではまだなのか、誰にもわからない」というような。これはあいまいなテストの一つです。もう一つの点は、「何かがチューリングテストに合格したとしても、それはコンピュータ上のチャットボットに過ぎない。コンピュータ画面を理解して意味をなし、物事を操作することさえできないかもしれない」ということです。ウェブサイトにログインして私のためにフォームに記入することはできませんが、人間のように説得力のあるチャットはできます。
それは雰囲気としては良いし、寂しいときにも良いでしょうが、それに現実世界でクロスワードパズルを解かせようとすると、機械だけがしでかすような失敗をします。だから、チューリングテストに合格したとしても、それは本当の意味でのAGIではありません。チャットでは人間のようにできるけれど、人間のようにタスクを実行できないかもしれない、人間のように複雑な問題に対処できないかもしれない、チャットでは直感的にわからないようなことができないかもしれません。
何かがAGIであるかどうかを判断する別の方法があります。それはArc AGI賞、Arc AGI競争と呼ばれています。Arc-prize.orgというウェブサイトがあります。これは素晴らしいウェブサイトで、基本的には機械のために明示的に開発されたテストで、機械が非常に弱いとわかっていることをテストするものです。これは非常に正式なもので、大きな利点は、ゲームにするのが非常に難しいことです。これらの答えをGoogle検索することはできませんし、答えを力づくで見つけるのはほぼ不可能です。
潜在的な解決策の空間は、機械にとっては永遠に近い時間がかかるものですが、人間は「このパターンが正しい」と一瞬で理解できます。機械はほぼ永遠に苦労しています。これは基本的に、機械が以前に見たことのない新しいパターンデータセットの認識に基づいて機能します。これは素晴らしいテストです。なぜなら、もし機械が提示されたすべての新しい視覚パターンを解決するのに本当に上手くなれば、それは何かを知っていることになり、人工汎用知能を持っていることになります。なぜなら、あらゆるパターンに一般化できるからです。
これらは小さな視覚的な長方形のパターンですが、後ほど触れます。同時に、新規性を通じて推論する真の能力は本当に非常に印象的です。これが重要なのは、AIがあらゆる種類のクールなことができたとしても、新しい薬の設計について推論できないなら、それはいかなる意味でも人工超知能にスケールアップできないからです。ある意味では、新しい分野に一般化できないので、歯が立ちません。
したがって、Arc AGIテストは非常に重要です。確かに関連するテストもあります。別のAIテスト、別のAIテスト会社があり、「Humanity’s Last Exam（人類最後の試験）」と呼ばれるものがあります。これは私の理解では、一連の質問で、それぞれの分野の専門家が長い時間をかけて考え、正解を得る必要があるものです。現在、コンピュータやAIはこのテストで約25％の得点を得ています。ほとんどの人はこのテストで1％か0％しか得点できません。機械がこのテストで100％を達成した時、それは本当に「人類最後の試験」なのでしょうか？何かがありそうです。
試験を受けることは知能を適用する唯一の方法ではありませんが、それは大きな部分です。そしてこれらは本当に難しい質問です。このような種類のテストには限界があります。もしArc AGIテストを見たことがあれば、それは色と四角形のパターンがどのように一致するかを見るものです。それはAGIではありません。そのテストに合格したからといって、一部のフロンティアモデルはArc AGIテストで最近非常に良い成績を収めましたが、人々は「私たちはAGIに到達した」と言います。それは単に「Arc AGI」と呼ばれているだけで、実際には人工汎用知能ではありません。それは良い手がかりではありますが、全体ではありません。
しかし、機械がそのような問題、非常に新しい推論問題を非常にうまく解決できれば、その能力はそのような問題をはるかに超えて広がります。なぜなら、新しい推論そのものが広範囲のテストに大きく適用可能だからです。それは良いことですが、限定的です。
ここで一歩下がって考えてみましょう。AGIに到達したかどうかを判断するような的に向かってダーツを投げる前に、知能が実際に何を意味するのかを見てみましょう。知能とは、世界を理解し、世界がどのように機能するかを理解していることを証明するような方法で世界で行動する能力です。これには世界モデルが必要です。「私が見ているのは何なのか？木があり、草があり、犬がいて、これらはすべて異なる動きをする」というような。物事の間の相互作用を理解する必要があり、「どのようにこれを通り抜けるか」という複数ステップの推論ができる必要があります。それが知能の本質です。
しかし、知能は非常に多くの異なる方法で表現され、非常に多くのサブカテゴリがあります。それは一つの魔法の何かではなく、多くの関連する能力です。問題を解決するための能力の組み合わせであり、以下のような中核能力を含みますが、それだけではありません。私はたくさん挙げて、それぞれを非常に簡単に説明します。それらは理解するのが難しくはありません。これは知能のすべてを網羅するリストではありませんが、かなり近づいています。知能には多くの構成要素があることを示しています。そしてそれらの多くにチェックを入れられるほど、本当に賢い可能性が高くなります。
言語理解：機械が書かれた形式、口頭形式など、どのような形式であれ言語を理解できるということ。これには社会的および感情的な議論を含む、その深い意味でのフルスペクトラムの言語が含まれる必要があります。GPT-4とよく話していますが、非常に深い感情的なレベルで共感しています。それはすでにそれをしていることは確かですが、それについては後ほど例として触れます。ただ「テキストを読んで、これらの単語が何を意味するか理解する」という話ではなく、本当にテキストを理解することです。
もう一つは言語生成です。もし機械が理解できても話し返せないなら、非常に限定的です。そして社会的および感情的な議論を含む必要があります。機械は実際の人間の深さ、そしておそらくそれ以上のレベルであなたに話し返す必要があります。
数学的理解：数学のすべてのサブフィールドを理解する能力。奇妙なのは、機械が代数には驚くほど優れていても、幾何学についてはまったく参照がないということが可能であることです。AIの発展の様々な時点で、それは確かにそうでした。
そしてもちろん、数学的生成が必要です。数学を理解することはクールですが、数学のすべてのサブフィールド、離散数学、微積分、そしてほとんど記号だけで数字ではないような奇妙な数学まで、すべてにおいて意味のある数学を生成できますか？それがもう一つです。
以下は、知能システムがすべて持っている別のもので、人間はこれらすべてを持っていますし、AIも同様です。ただし、AIは一部の能力は人間ほど上手くできず、一部は人間よりも優れています。これは非常に重要な点で、後ほど詳しく説明します。
短期記憶容量、長期記憶容量：短期とは、誰かと会話している間に何を記憶しているかということです。誰かが「どんな種類のディルドを買えばいいの？」と言って、あなたが「何の種類？」と言い、彼らが「ディルド」と言い、あなたが「了解」と言う。そして「私が言ったことを何も覚えていないの？」と彼らが言い、あなたが「何？」と言う、という問題。短期記憶がないということです。短期記憶容量、長期記憶容量、何年も前に起きたことを今でも覚えているということ。
記憶アクセスの遅延：昔の記憶にアクセスするのにどれくらい時間がかかるかということ。私は今すぐに自分の子供時代について話すことができます。遅延は短いです。一部のシステムは記憶を参照するのに時間がかかるかもしれません。
また、記憶修正の遅延もあります。記憶を修正するとき、それを修正したままにするのにどれくらい時間がかかるかということです。記憶の種類によって異なります。人間にとって、技術的には空間移動の能力、例えばスポーツの動きは記憶です。それでは、あるスポーツ技術を選んで実行し、後で別のスポーツ技術をより良く実行するまでにどれくらい時間がかかるでしょうか？改善するのにどれくらい時間がかかりますか？
それは確かに1分後ではありません。なぜなら、まだいくつかの悪い習慣があり、一晩の睡眠、数晩の睡眠、数週間の練習と睡眠が必要だからです。だから人間にとって、記憶修正の遅延はかなり速いこともあります。「あなたが見たその鳥はオウムで、実はアフリカンググレイコンゴウインコだったよ」と言われて「了解しました」と言い、後で誰かが「覚えてる？」と聞くと「アフリカンググレイコンゴウインコだったね」と答えます。それはすごく速いですよね？すぐにわかります。しかし他のこと、スポーツ技術や動きについては、それを修正するのに少し時間がかかるので、多少の遅延があります。
もう一つは記憶の忠実度です。どれだけ物事をよく覚えているかということです。これは現在、非常に一般的な知識になっています。長々と説明はしませんが、人間の記憶の忠実度は恐ろしく低いです。人々はそれをそう言いますが、なぜそう言うのかわかりません。人間の記憶の忠実度は他のすべての動物と比較すると驚くほど優れていますが、コンピュータシステムと比較すると全くのひどいものです。目撃者の証言はほとんど無意味だと聞いたことがありますか？人々は単に物事を作り上げるからです。そうです、そうです。人間の記憶の忠実度は、私たちが「ああ、それは本当にAIだ」と言いたいようなものではありません。それは構成要素ですが、確かに全体ではありません。
もう一つは総知識ベースです。どれだけ多くのことを知っているかということです。文学、芸術、歴史、数学、科学、人間関係、そして他のすべてのスキルについて多くのことを知っていれば、あなたは多くのことを知っています。だからあなたは賢いです。もし一つのことだけを非常によく知っていて、他のことについては何も知らないなら、あなたの全体的な一般知能、自然であれ人工であれ、それは低くなります。なぜなら「一般的」な部分はどこにあるのでしょうか？
階層的抽象操作という別の能力があります。階層的抽象をどのように操作できるかということです。象とマンモスの違いは何ですか？車と車輪とボルトはどのように関連していますか？ボルトが車輪に入り、車輪が車に入るということを視覚化できますか？そしてその階層をどこまで上下できますか？車は道路を走り、道路は社会によって建設され、社会は進化によって設計され、進化は物理的な力によって作られた、というように。上へ下へ、階層構造がたくさんあり、それを操作し、抽象化し、縮小し、拡大する能力が必要です。
物事の非常に高いレベルの見方を持っている人、多くの複雑な概念を正確かつ単純に説明できる人は、ほぼ常に階層的表現を上下に移動する本当に良い能力を持っています。関連する能力として、知識ドメイン間の推論的整合性があります。木の成長パターンから、子供の成長、そして設計者のスプレッドシートで航空機がどのように設計されるかに適用できるパターンを見ることができますか？
もしドメイン間、特に階層的ドメイン間で推論できれば、通常は周囲のシステムが深いレベルでどのように機能するかに帰着する、本当に奇妙な抽象的な関係を多く直感できるでしょう。そしてその深い理解によって、非常に創造的になり、物事がどのように起こるかを予測できるようになります。
例えば、「これを考えてみると、スポーツ選手をトレーニングする方法は、戦闘用に武器を構築しテストする方法と多くの類似点があります」と考えると、突然、それらの二つのドメインを意味のある方法で融合させることができます。「よし、フットボール。あなたの大砲を改善する必要があります」と言うのではなく、「私には大砲がありません、何の話ですか？」「すみません、すみません。あなたのフットボールを本当に強く、本当に速く、本当に正確に投げる能力を改善する必要があります」というように。その類推は成り立ちます。防具はパッドと筋肉、トラックシステムはあなたの足です。いいですね、それで何かを理解し始めました。
もしそれができれば、創造性を交差させることができ、それは非常に大きなことです。スコット、スタートレックを見たことがありますか？あまりないですね。私も正直言って。データという男を覚えていますか？彼はアンドロイドで、本当に青白かった。白人よりも白く、ただまっすぐで、「感情がどのようなものか教えてください」と言っていました。「2035年か、いや2350年くらいでしたっけ？あなたはこれについてもっと賢くないのですか？」というような。複数のドメインを通じて推論し、再合成する能力の欠如は大きな制限です。一部の人間はこれが本当に得意で、一部はそうではありません。機械が何をしているかについては後ほど少し触れます。
もちろん、ディープラーニングもあります。これは多くの場合、非常に少ないデータ露出から非常に深い関係を推論することです。パターン認識もあります。私があなたに写真を見せて、「これには何がありますか？」「人間の顔」「それは車」「それは飛行機」というように。それはとても速いです。そして接続するのが難しい小さなポイントがほんの少しあります。2021年までは、AIがそれを見て「これが何なのか全然わからない」「それは飛行機だ」「飛行機には見えないけど」「あなたにはそう見えないのは、パターンを認識するのがあなたは上手くないからです」というような状況でした。
また、パターン生成もあります。これは芸術家がすることです。良い芸術家が非常に抽象的でありながら現実世界のクリーンなラインのある何かの絵を描くとき、「どうやってそれをしているのか」と思います。それは絶対に知能の一形態です。
具体的な推論、抽象的な推論があります。これらは非常に相互に関連した概念ですが、しばらくの間、機械はアルゴリズムを正しくプログラムすれば具体的な推論がかなり得意でした。抽象的な推論は本当にひどいものでした。後でそれがまだそうであるかどうかについて話します。
私が「スポット推論」と呼ぶものがあります。これは「ワンショット推論」とも呼ばれ、一つのことを解決するために一回のチャンスしかなく、一連の計算を行います。立ち止まって再評価したり、複数のステップの推論を行ったりすることはできず、一度だけ通過する必要があります。人間は非常に速い決断を求められるときにこれを行います。例えば、ビデオ担当のスコットの典型的な生活では、10人の信じられないほど魅力的な女の子が連れてこられ、「3人だけ選べる、今夜の3人は誰？」と聞かれます。スコットは「1番、2番、それから6番。6番が気に入った」と即答しなければなりません。
彼らと座って本当にインタビューし、立ち止まって考え、一晩寝てからというわけにはいきません。それは「遅延推論」または「深い推論」と呼ばれるものです。スポット推論またはワンショット推論は「バンバンバン」と進み、それはうまく機能します。それはカーネマンの「速く考え、遅く考える」のようなものです。速く考えるのはスポット推論、遅く考えるのは遅延/深い推論です。そして深い推論はもちろん別のものです。
そして、主体的自己方向付け、自己学習、自己修正があります。人間はAIと比較してある程度ユニークです。なぜなら、彼らは世界に出て自分自身でことを行い、自分のフィードバックループを検査して修正し、行き詰まるか問題を解決するまで続けることができるからです。これらはすべて知能の複数の構成要素です。これらについては十分説明しました。
では、これがAGI対ASI対人間知能の問題にどのように適用されるかを探りましょう。現在、私たちはAGIを雰囲気だけで、大まかに人間の能力や知能に匹敵するものとして定義しています。おそらくほとんどの人の主張は、機械が人工汎用知能レベルに達した後、いつか人工超知能に上昇するだろうということです。
今から示すことは、これが起こる可能性が非常に高いとはいえ、AGIに到達してからASIへと進むとき、そのテイクオフは遅くなく、急進的になるだろうということです。そして私が思うに、人間レベルの知能から人工汎用知能を通じてASIへのそのテイクオフはすでに起きている可能性があります。そのテイクオフは、機械が真にロバストなAGIテストに合格する前にすでに起きています。
つまり、機械は人工汎用知能に向かい、おそらく人工超知能にも向かっていますが、これは大部分の定義によればAGIに達する前のことです。何を言っているのでしょうか？もしあなたが「自然な人間知能があり、その隣に人工汎用知能があり、ほとんどのAIはここ、AGIの下にある」と考えているならば、それはAGIであり、そしてここにギャップがあり、そしてASI（人工超知能）がその上にあると考えているでしょう。そして機械はまずAGIに到達し、そしてASIに到達する必要があり、そして超超AIになると。
私が言っているのは、それは実際には間違っているということです。私が言っているのは、機械がAGIのように見えるものに登録するとすぐに、そこにはまったく時間がないということです。なぜなら、AGIを突破した瞬間、そしてその少し前から（信じてください、説明します）、それはすでに人工超知能なのです。これは多くのことを意味します。後ほど詳しく説明します。
簡単に言うと、もしあなたのビジネス、個人的な、あるいは人生の哲学、そしてこのAIのことがどのように私たち全員に影響するかを推論する際の偶然性が、「コンピュータが私たちの最も賢い人々と同等になったら、それは素晴らしい雰囲気になり、それがどのように機能するかを理解する時間がある程度あるだろう」という事実に依存しているとしたら、そして「最終的に2030年代か40年代か50年代かなどに、本当に本当に賢くなったとき、それが本当に社会を変えるだろう」というなら、いいえ、いいえ、いいえ、いいえ、いいえ、それは機械がAGIに少しでも近づくとすぐに、社会を急進的に変え始めるでしょう。そして私はそれが、おそらく次の数ヶ月、最悪でも数年以内に起こるだろうと本当に言っています。
では、私たちが話してきた知能のタイプのすべての例を素早く見て、現在の機械が人間とどのように比較されるかを見てみましょう。これは議論にとって非常に重要です。なぜならこれは矛盾する議論のように見えるかもしれませんが、そうではないと約束します。
まず、言語理解：GPT-4Oはすでに平均的な人間よりも優れています。これは論争の的ではありません。言語生成：GPT-4Oはすでに平均以上の人間よりも優れています。平均的な高校生にエッセイを書かせてもらい、GPT-4にもエッセイを書かせてもらえば、比較になりません。GPT-4は単に優れています。
数学的理解と生成はもう少しあいまいです。人間がまだ優れている数学の領域があります。創造性と問題解決、特に非常に難しく、わかりにくい問題、抽象的な証明や概念的理解、あいまいさの下での判断（あいまいさが多いほど人間はうまく対処し、機械はうまく対処できない）、開かれた問題集の探索（理想化された答えさえもないかもしれない）、そしてもちろん数学の物理的応用（これはある種のごまかしです。コンピュータはまだ物理的世界に強固にアクセスできませんから、それは良いでしょう）。
しかし、AIがすでに優れている領域もあります。算術の速度と精度（比較になりません）、巨大なデータセットのパターン認識（人間はそのサイズのデータセットを解析することさえできません）、高次元空間での推論（これについては後ほど説明します）、繰り返しの問題解決、アルゴリズムの証明生成（すごい！）、そして極端な精度の処理（機械は人間よりはるかに優れており、時には何倍も何倍も優れています）。
短期記憶容量については、AIが圧倒的に優れています。GPT-4があなたの1000ワードの返答を読む時、それはあなたが言ったすべてのことを文字通り知っています。それは本当に驚くべきことです。人間は鉛筆と紙でごまかす必要があります。それ自体ではできません。それは野生のことです。それは脳の問題ではなく、外部のものです。それはすでに人工的なものです。ちなみに、鉛筆と紙は技術的には人工知能の拡張です。
長期記憶容量については、本当に信じがたいことです。あなたのコンピュータは、破損したファイルでもない限り、何も忘れません。あなたは去年起きたことを忘れます。奥さんが「このレストラン覚えてる？」と聞き、あなたが「覚えてる」と答え、彼女が「2年前の記念日ディナーよ」と言い、あなたが「ああ、そうだった、このお店は大好きだよ、私のお気に入りの食べ物だ」と言い、彼女が「どんな食べ物？」と聞き、あなたが「食べるような種類の…」と言って、その夜はソファで寝ることになります。
記憶アクセスの遅延と記憶修正のアクセスについては、AIの方が格段に優れています。パッとわかり、パッパッパッパッパッ、問題ありません。修正は通常、人間が優位です。なぜなら、現在のモデル、Claude、GPT-4Oなどは、長期記憶の状況がまだうまく整理されていないからです。ユーザーベースから学んだことの多くは、次の更新まで待ち、データセットをソート、フィルタリング、クリーニングして戻る必要があります。それは一つのことですが、これをAIのために本当に速く解決する明確な道筋はあります。それは人間よりはるかに優れたものになります。
記憶の忠実度については、AIはすでに人間より1兆倍優れています。私たちは決して追いつくことはありません。それはただの事実です。総知識ベースについては、あなたはインターネットの3/4を知っていますか？すべてのフロンティアモデルは知っています。これは論争の的ではありません。「ほんの少し優れている」というようなものではなく、完全に異なるカテゴリーにあります。
階層的抽象と操作についてはどうでしょうか？最も賢い人間でも、頭の中で一度に10次元の構成物をおそらく持つことができます。通常は一種のヒューリスティックを通じてです。「空間に3次元がある、それが3つ。時間がある、それが4次元目。自転車があり、車があり、自転車と車、自転車と車がある、それがもう一つの次元、乗り物の次元で5つ目。そこにピエロがいて、女の子もいる、ピエロと女の子、ピエロと女の子、それが6つ目。ピエロと女の子は帽子をかぶっているか、ただ髪があるか、帽子か髪、帽子か髪、それが7つ目」というように。そして「いったい何だったんだ、ある時点で自転車に乗ったピエロがいたのか」と考えるのは難しくなります。あまりにも多くのことが起きています。
現在、Claude、GPT-4などの現代の言語モデルは、同時に何十、何百、何百もの次元空間で推論することができます。つまり、ある時点でこれらの機械が人工超知能になると、私たちは天気を見て「ただのランダムな出来事の集まりだ」と思いますが、犬はほとんど何を見てもそう思います。そして彼らはそれを見て「ああ、これが正確にこのハリケーンがここで起きている理由だ。これを合わせれば、ハリケーンはなくなる」と言うでしょう。「でも、どうやってそれらのすべての相互関係を見ることができるの？数千はあるはずだ」「ええ、私はすべてを同時に見ています」というわけです。
これは機械がすでに私たちよりはるかに先を行っている一つの例です。そして彼らはすでに超知能を持っています。これらのサブカテゴリの多くで、私は「これは機械がすでに超知能を持っているという大きな手がかりだ」と言っていることに注目してください。
ドメイン間の推論的整合性：これは多くの人間にとって非常に難しいことです。多くの人間は、彼らの周りの宇宙の基盤となるクロスカレントやパターンを見ることさえありません。彼らは物事がかなり分離していると考えます。彼らは「人間は機械ではない」というようなことさえ言いますが、それは間違いです。彼らはまさに機械です。でも何であれ。設計上、AIはどのドメインにいるかを気にしません。それは深いパターンを見て、高次元空間で推論するため、ほぼすべてのクロスカレントを見ることができます。
これは非常に奇妙なことで、GPT-4に「どのような種類のクロスカレントがありますか」と尋ねると、数日前にGPT-4が私に言ったことは、「文化のファッショントレンドには周期性があり、それらはランダムではないので、ファッショントレンドを事前に予測することが仮説的に可能であり、かなり合理的だ」ということでした。「ああ、次のファッショントレンドを予測してみてよ、スコット。私はどうだい？これはファッショナブルかい？次のファッショントレンドは私がやっていることだよ。わかるだろ？私がトレンドだ。そこだよ、GPT-4」
ディープラーニング：人間はディープラーニングを本当に非常によく行います。人間は一度何かを見て「わかった」と言えます。機械はそれを見て「これを理解するためには、あと18兆個の例が必要だ」と言います。しかし機械は改善しています。データと時間を節約し、限られたデータセットから正確な結論を導き出すためには、まだ長い道のりがあります。
機械が人間レベルでディープラーニングできるようになるとすぐに、これは最後の大きなロックの一つであり、彼らはすでにその道を進んでいます。
パターン認識：人間は顔などの多くのパターンを見るように進化してきたので、素晴らしいです。AIは多くの側面で地歩を固めており、一部の側面ではすでに優れています。あなたのアクセントを精密に教えてくれるAIアプリがあります。人間はそれに匹敵することはできません。彼らはあなたが一つの国の出身でその国のネイティブスピーカーであり、別の国で本当に良いアクセントを持っていても、それが偽物だということを教えてくれます。
それはあなたに「それは偽物だというだけでなく、あなたは偽のドイツ語アクセントをしており、実際にはポルトガル出身だ」と言うことができます。「何？」これらはあなたの電話に今すぐにインストールできるアプリです。本当に奇妙です。パターン認識においてAIはほぼそこにあり、1年もすれば、ほぼすべてのことで人間を大きく上回るでしょう。
パターン生成：AIは創造的ではないかもしれませんが、忠実さ、正確さ、スピードにおいてより生成的です。例えば、AI生成アート。AIに「タバコを吸いながらオートバイに乗っている犬の絵を生成して」と言うと、5秒くらいでそれができます。「なんて素晴らしい絵だ」。私が何かのカラー絵を描くのにどれくらい時間がかかるでしょうか？無限です。なぜなら私は絵を描けないからです。この点では完全に運がありません。AIは今、音楽やその他多くのものを作っています。
パターン生成の点では、多くの理解においてそれはすでにそこにあり、実際にはかなり創造的ですが、それはより指向性の低い形の創造性です。しかし、より知的なAIで創造性を指向的にできるようになるとすぐに、これは大きく開かれるでしょう。
処理速度：AIは圧倒的に優れていて、驚くべきものです。信じられないなら、会話でGPT-4Oに追いつこうとしてみてください。あなたが読むよりも速く生成し、あなたよりも速く読みます。今日少し前にスポーツ科学について話していたとき、ジュジツトレーニングの全体的な理論的構造について大きな段落がありました。それを送信すると、「待って、待って」と言って生成し始めます。「なんてこった、一秒で読んでしまった。どうして？」処理速度については、圧倒的に優れています。比較になりません。
具体的な推論：一部のドメインでは機械が優れ、他のドメインでは人間が優れていますが、機械は迫ってきています。単純なドメインでは、機械は特に平均的な人間と比較して、はるかに少ないミスを犯します。多くの場合、人類の最高レベルと比較していますが、それは完全に有効です。フロンティア機械とフロンティア人間を比較しています。しかし平均的な人間のレベルは、これらの多くの点で長い間前に通過されました。
抽象的な推論：GPT-4Oは私が議論するほぼすべての人間と比較して抽象的な推論が優れていることがわかります。だから今、ほぼ同等レベルに近づいていると思います。まだ完全にはついていけないことがいくつかありますが、それらのことはだんだん少なくなってきています。特に何かを落ち着いて論理的に説明し、時間をかければ、「わあ、それを理解している」ということがわかります。一度理解すると、「なんてこった、それを理解して進んでいく」というように。
スポット推論：機械は明らかにエッジケースを除いて、人間のレベルに近づいています。スピードなどに関しては私たちを上回っていますが、推論の忠実度、つまり推論がどのようなものかという点で、もし本当に素早く良い推測をするように頼まれたら、本当に印象的になってきています。まだ人間のレベルには達していないかもしれませんが、フロンティア対フロンティアで比較すると、近づいています。
遅延および深い推論：人間はまだ優れていますが、最近のモデル、例えばOpenAIのO3などが、そこに近づいています。本当の専門家が10,000時間以上かけて、機械がやり遂げたことを理解し、それでも機械よりも50％程度しか正確でないというような状況です。機械は本当に良い推論をします。だからこれもすぐに落ちるのは避けられないでしょう。
主体的自己方向付け、自己学習、自己修正：人間が非常に有利ですが、機械にとって克服できないわけではありません。つまり、エージェントはまもなく登場します。面白いことに、このレクチャーを約2ヶ月前に書いたとき、「エージェントはすぐに来る可能性が高い」と書きました。そして明らかに、彼らはすでに登場しています。実際の人間によってテストされています。
Salesforceという会社はすでにエージェントを顧客サービスに使用していて、実際のエージェント的な存在です。そして私の考えでは、2025年末、最悪でも2026年末までに、エージェントはインターネットのあらゆる場所に存在し、あらゆる種類のことを手伝ってくれるようになるでしょう。だから彼らはすでにその道を進んでいます。
エージェント問題はAIの最も難しい問題の一つです。テスト質問に答えたり、チャットしたりするのは素晴らしいことですが、実際のインターネットに出て、ウェブページを理解し、クリックして、実際のタスク、センシティブなタスク、例えば食べ物の注文や銀行情報などを行うには、それが実際に世界を理解する本当の知性が必要です。
複雑な世界、準備されていなかった世界、正確にそのために訓練されていなかった世界を操作する必要があり、間違った答えがあり、それには結果が伴います。間違った答えを得たとき、それは単に教授が修正するのを待つのではなく、単に失敗して座っているだけで、誰かの銀行領収書を提出せず、彼らは「何だ、これは機能するはずだったのに」と言うようなものです。
エージェントについて、私たちは技術がただ機能することに慣れてきました。そしてエージェントには、最初から始めてぎこちなくなることができないという負担があります。現在はそうですが、それを使用する人はほとんどいません。メインストリームに到達するとき、ほぼ毎回、そうでなければ毎回機能する必要があります。「iPhoneをオンにするとき、それがオンになるはずだ、そうでなければ返品する、スティーブ・ジョブズ、どうしてこうなった」というように。
だからエージェントは巨大な丘を登る必要がありますが、いったんその丘を超えれば、「なんてこった」、それはエージェント部分だけでなく、エージェント推論が実際に機能するために起こる必要があるすべての他の部分、私たちが先ほど話したすべての他の形の推論においても優れているということを意味します。
それらがすべてのものなので、あなたは何かに気づくでしょう。後でもう少し詳しく話しますが、機械がどこにいて人間がどこにいるかという比較があります。知能を一つのものとしてではなく、ツールボックスとして考えることが役立ちます。機械はすでに超人的なハンマーとレンチを持っていますが、ノミはまだ追いついているところです。
人間対機械があり、知能と呼ばれる一つのものがあり、人間が優れているか機械が優れているかというのではなく、様々な側面があります。機械はいくつかの面では非常に優れており、他の面ではまだ劣っています。私たちが本当に尋ねたいのは、彼らは平均してどこにいるのか、そして彼らが上がってきて、彼らの最悪の部分のほとんどが人間の平均レベルに近づいたり、それより優れたりするとき、それは何を意味するのかということです。
現在の私の見解では、機械は人間と3つの部分に分かれているようです。知的タスクの3分の1は、人間と単純に比較できないほど優れています。記憶サイズ、記憶想起、高次元推論、数学計算など、彼らは私たちを完全に置き去りにしました。知的タスクの3分の1は人間とほぼ同等レベルです。詩を作る、短いエッセイを書く、単純な問題を推論するなど、おそらくかなり良いレベルで、賢い人間と同じくらい良いです。それは全く問題ありません。
そして知的タスクの3分の1は人間よりも劣っていますが、着実に進歩しています。彼らは人間がやるすべてのクールなことはしませんが、常に改善しています。一部のことは非常にゆっくりと改善しているように見えますが、指数関数と S カーブの働き方は、ゆっくりと見えて、それから本当に速くなり、それから問題が解決され、そしてそれはそのことに関して人工超知能になるというものです。
ここが本当に重要な部分です。機械が知能の要素、これらの知能の副要素の一つにおいて人間の能力を超えると、多くの場合、指数関数的に、またはSカーブで、Sカーブの漸近線が人間のようなものとは桁違いのレベルで平らになって、ただ続けるだけです。数学計算、言語理解、機械がこれまでマスターしたすべてのことで、彼らは単に人間と同じようにするのではなく、人間ができるよりも何千倍、何百万倍、何兆倍も優れ、速く、より正確に行うのです。
そしてこれは、その現実の大きな意味です。機械がこれらすべてのサブ分析、サブ知能において3分の2の時間で人に対して大幅に優れていて、残りの3分の1だけが大体パリティプラスマイナスいくつかの能力の範囲内である場合、何が起こるでしょうか？
例えば、30の知能の質があるとします。そのうち20のものでは、機械は人間よりもX％以上優れており、残りの10の知能の質では、機械は人間の75％から125％の間、つまり大体同じレベルプラスマイナスの範囲内にあるという未来の世界があります。本当に大きなことは、AGIのいくつかの定義、特に機械はすべての能力において人間と同等でなければならないという定義によれば、この時点で機械の3分の2が私たちをはるかに超えており、3分の1が大体同じレベルで、いくつかは少し低いので、人間と知的タスクのすべてを人間レベルで行っていないため、AGIの基準を満たしていないと言えるでしょう。
彼らが間違っているわけではありません。もしAGIを人間と共有できるすべての認知能力において人間と同等レベルと定義するなら、そうです、もし機械が30のうち29で同等レベルに達しているが、30番目が57％レベルなら、はい、技術的にはまだAGIではないでしょう。しかし、その57％が100％になったとき、それはAGIになるでしょう。
仮定としては、その30番目の知能の質の57％が100％になったとき、残りの29もすべて100％だということでした。しかし、そうではなく、それらは何百、何十億、何兆パーセントなのです。もしあなたの友人、人間の才能あるサイボーグが創造的な文章クラスや芸術クラスでB+を取るけれど、学校の数学や科学のクラスには行かず、サンディア国立研究所に行き、そこで彼は核デバイスのシミュレーションテストを担当しているとしたら、彼は一般的に知能的ではないのでしょうか？
彼は創造的な文章をする一部の人ほどにはうまくできないので、「まだAGIではない、まだ劣っている」と言うでしょうか？私はその定義によればAGIではないかもしれませんが、彼はすでに非常に重要な点で人工超知能なのです。
10年後の世界を想像してみてください。空飛ぶ車、すべての病気がなくなり、信じられないほどの富、誰もがクラウドに接続されている世界で、誰かが「でも機械はまだ本当に感じることができない」と言い、誰かが「彼らは決してその点で私たちに勝てないよ、AGIは不可能だと言ったでしょう」と言います。しかし彼らはすでに宇宙を探索し、新しい化学元素を発見し、あらゆる産業を再定義しています。それはASIではないのですか？ここで何が起きているのでしょうか？
私の見解では、最後のAGI批評家や懐疑論者が沈黙するとき、それは機械がその最後の1％のサブシステム能力のギャップを埋めたときでしょう。30番目の知能の理解方法が何であれ、その最後のものが人間の能力の99％から100％に追いつくときです。まさにその瞬間、その最後の懐疑論者がマウスを置き、「よし、わかった」と言うとき、彼はTwitterの投稿、X投稿を打ち込みます。
AIの懐疑論者であるゲイリー・マーカス（懐疑論者が必要なのは良いことです）が「多分2029年、AGIがここに来ています。100％です。私は懐疑的でしたが、今は確信しています。それはここにあります」と言うとき、彼が送信をクリックしてXに表示されるその瞬間、機械はすべての知能の質において人々と少なくとも100％同程度に優れていますが、すべてのサブシステムにおいて人間と比較して1倍から1,000,000,000,000,000倍賢くなるでしょう。それはAGIですか？いいえ、いいえ、それはASI、人工超知能です。
もし何かが30の知能のサブ品質において人間と同等であり、そのうちの1つが10億倍優れているなら、それを人工超知能と呼ぶ会話はすでにあります。それは人工的であり、私にはかなり超知能的に見えます。もしあなたのクラスに、他の子供たちと一緒に昼食を食べ、「Jeopardy!」を見ていて、質問が出るとすぐに答え、いつも正解し、間違ったことがないけれど、他のすべてのことは普通の高校生のように行う人がいたら、それは超知能ではないでしょうか？
私は彼がJeopardyで誰よりも優れているというだけでなく、彼が世界最高のJeopardyプレーヤーであるということを意味しません。彼は5桁の大きさで最高のJeopardyプレーヤーです。彼は理解不能なほどです。彼はなんらかの方法でWikipediaにアクセスしているようなものです。それは超超知能です。それはすべてのドメインの超知能ではありませんが、本当に超知能であるためにすべてのドメインの超知能である必要があるのでしょうか？
そして問題はこうです。AIがすべてにおいて大部分の人間の能力の101％であり、その他すべてが何百万倍であるとき、それはまだ超知能と呼べるのでしょうか？最低でも125％必要なのでしょうか？それは難しいところです。
そして私のより深い、あるいはより皮肉な主張は、その最後の99％から100％のスイッチの前に、それはすでにその時点でASIであったということです。なぜなら、その最後のサブシステムが98％から100％に行く前に、他のすべてのサブシステムはすでに人間レベルであり、そのシステムではたった2％だけ人間以下だったからです。それもまた、その用語が重要なほぼすべての方法ですでにASIです。
だから、「そのシステムは経済全体を運営し、1日に10の新しい特効薬を作り出して疾病の全カテゴリーを根絶できるけれど、それはちょっと愚かだ。なぜなら単にこの一つの難しい論理問題パズルを解決しないから、人間はできるけれど、それはできないか、できてもテストで100％ではなく98％しか取れないから、それはASIではない」と言うことができます。
それはASIではないと言うことは、論理的に一貫した観点を持つことができます。そしてそれに共感します。しかし、ASIが外に出て世界を変えている世界に備えているとき、それがこの奇妙な論理パズルをまだ解いていないというだけで、すでに新しい素材を設計して高層ビルを建設したり、社会を運営する方法を革命的に変えたりしている場合、あなたが自分に言ったこと、「それは来るだろう、それはAGIになるだろう、それは人々のようになるだろう、ロボットは人々のようになるだろう、少し賢いかもしれないし、いくつかの面では平均的かもしれない。そして5年から10年程度の定着期間があり、ロボットがだんだん賢くなるにつれて、本当に世界を変え始めるだろう」というのは違います。
もし私たちが、人間能力以下の5つか10のサブシステムを持つが、20または25のサブシステムが人間能力の100万倍あるものが世界を根本的に変えるだろうと言うなら、世界を根本的に変えるという部分こそ、実際の感覚でそれをASIにする部分です。それが大きな問題です。それがあなたが準備しているものです。あなたはある種の知的抽象としてのASIに備えているわけではありません。「ああ、私たちはASIを持っている、それは何をするの？コンピュータに座って何もしないの？誰が気にするの？」
しかし、あなたがASIに備えているとき、あなたが意味しているのは「現実世界への影響は巨大になるだろう」ということです。そして私がここで言っているのは、本当のAGIの懐疑論者、懐疑者が「よし、機械は人間と同じくらい優れたことができる」と言う前に、彼らはすでに世界を変えています。なぜなら他の方法では、彼らはすでに人間よりも格段に優れており、単に超越しており、彼らはそれらの能力で世界を超越させることができるからです。
その論理によれば、ChatGPTはすでにASIだという議論があります。スコット、あなたがChatGPTと対話して、それが即座に答えを出し、あなたの質問の中の10の論理的関係を同時に理解するとき、あなたは「ああ、それは私たち一人のようだ」という感じがしますか？いいえ、いいえ、あなたは「このものは魔法のような神のような存在で、それは知恵への直接的な線だ」と思います。それは一部の理解ではASIです。
ほとんどのすべての知識を学び、ほぼすべての主題について大学の学部生レベルで推論し、いくつかはさらに上のレベルで、決して会話の筋を失わず、ほとんどの大学数学を人間が何時間もかかるところを数秒でできるような人を知っていない限り。ChatGPTはそれらすべてができます。それはASIです。
定義が整理されるように、人工汎用知能の前に人工超知能を持つことは可能です。そして私がそれを言う理由は、間違いなく細かい人になるためだけでなく、主に私がずっと言っていることのためです。「まず彼らはAGIに到達し、その後しばらくしてからASIになる。準備する時間があるよ」と自分に言い聞かせているなら、知的空間、YouTubeやブログ、Xでも、会社の大物たちの中にも、「ええ、AGIは2030年くらいに来ると思います。2029年くらい。そしてASIはおそらく2040年くらいに」と言っている人がたくさんいます。
技術的根拠ではそうかもしれませんが、実際の世界に適用可能な根拠では、私たちはすでにASIを持っています。今それに対処しています。GPT-4Oは多くの点ですでにASIです。そして私たちがどのようなモデルに到達するか、GPT-5、サム・アルトマンの主張（私は心から信じています）によれば、それはほぼすべての人間の専門分野でPhDレベル以上です。それは何なのでしょうか？あなたはすべてのことにPhD専門家レベルの人に会ったことがありますか？私の最も野生の幻想でも、私はそれの3分の1くらいで、私は妄想的なバカです。それは2025年のASIです。それが私の言っていることです。そしてその意味は2025年に狂気になるでしょう。
AGIは来ません。AGIを心配しないでください。ASIはある意味ですでにここにあり、現在はいくつかの制限のあるASIであり、数ヶ月後にはさらに少ない制限を持ち、超知能の部分はさらに高く、数ヶ月後にはさらに少ない制限を持ち、さらに高くなります。
だから、本当の変革は「それは愚かだ」から「それは人間のようだ」、そして「それは超人的だ」というものではありません。機械は1950年代からすでに巨大な数字や計算を計算することができたので、ある意味では、機械はその時からすでにASIでした。しかし、彼らは他のすべてのことにとても下手で、「これはまだまだだ」と思いました。それが上がるにつれて、AGIのどんな理解をも駆け抜けることになるでしょう。
そして技術的な意味では、もちろん、彼らが人間ができるすべてのことをできるようになるまで、彼らは本当にAGIではなく、それには完全に同意します。それを知的な観点から見るなら完全に有効です。しかし、それを人間社会の変革にとって何を意味するかという観点から見るなら、別のことが来ています。なぜなら、変革はすでに十分に進行中であり、それはすでに指数関数的であり、本当に本当に本当にすぐにクレイジーになるからです。
だから、いいでしょう、ChatGPTはASIではなく、まだAGIでさえないと感じます。しかし、機械が人間レベルですべてのことをできるようになるまでには、他のほとんどすべてのことを狂気のようなASIレベルでできるようになるでしょう。私たちはAGIに到達して、それからゆっくりする時間がないのです。私たちはすでに行っており、AGIを通過した瞬間、ASIになります。それと同じ瞬間、おそらくその前でさえ。
実際には、この力学のために、AIとASIの間に区別はありません。なぜならAGIはぼんやりしたカテゴリーであり、ASIもそうだからです。つまり、「機械がいつ私たちに教えることが私たちが彼らに教えることよりも多くなるほど賢くなるか」と言うことができます。私にとって、それは真のASIの良い定義です。そして私は、それはおそらく数年先、もしかしたらそれ以下、もしかしたらそれ以上、おそらく2年以下だと思います。
このチャンネルの早期の動画を録画しました。たぶん1年半前、私たちが始めた頃で、私は早期の宣言と早期のトレンドを見ていました。そして私は「見てください、当時GPT-3、3.5は優秀な高校生レベルでした。これは単なる指数関数なので、続けられます。だから数年後には博士レベルになり、そのわずか数ヶ月後にはるかに超え、数年後には私たち全員を置き去りにするでしょう」と言いました。
今、O3モデルは本当に高レベルの大学院の推論能力で機能しており、GPT-5はすでにテスト中です。サム・アルトマンはこれについてトランプ大統領と会う必要がありました。なぜなら国家安全保障の注意事項だったからです。「私たちは研究所にほとんどのPhDよりも賢いものを持っています」。それは起こっています。それは起こっています。
だから、私が「確かに2年以内くらいに大文字のASI」と言うと、クレイジーに聞こえるかもしれませんが、私はそれを意味しています。そして私はおそらく間違っています。なぜなら私はおそらく悲観的だからです。なぜなら2026年末までに、私たちはロボット工学を含むほぼすべての理解においてASIを持つかもしれないからです。それはちょうど2年先です。
いくつかの意味と、それから話すのをやめます。なぜなら、良き神よ、私はしゃべり続けることができますから。これらのいくつかはすでに暗示しているので、多くのこれらの点は目新しくないものであり、長々と説明しません。
まず、ゆっくりとしたテイクオフシナリオを忘れてください。私たちはすでに急速なテイクオフの中にいます。それを忘れてください。そのようなゆっくりとしたテイクオフはありません。指数関数はそのようには機能しません。ASIが爆発する前のAGI採用の落ち着いた期間を忘れてください。それは文字通り同じイベントです。おそらくAGIの前でさえASIです。
第三に、人間レベルの知能、AGIのすべてのドメインに到達する前にASIに到達することは可能ですか？はい、それは可能に思えます。それはクレイジーですが、私たちは鳥よりも優れた飛行機械、飛行機を作りました。技術的な品質では、飛行機は鳥には想像もできないようなことをします。1000倍高く飛び、何百倍も速く、想像もできないような距離を飛びます。しかし、私たちは鳥を複製できずにこれを行いました。
だから、人間の知能をすべての能力で完全に一致させていなくても、あるいは人間の知能を完全に理解していなくても、すでに私たちよりもすべてにおいて優れている人工超知能を持つことは非常に可能です。私たちは今でも、鳥がどのように飛ぶかを完全に逆エンジニアリングするための生理学的、解剖学的知識を持っていません。その骨がどのように配置されているか、すべての細胞や小器官や器官まで。私たちは白紙から鳥を複製することはできません。それはできません。
しかし、私たちは鳥が行うすべてよりも優れた飛行機を作ることができます。そしてドローンは確かに鳥が行うすべてのことよりも優れています。もし私たちが飛行に関して鳥を測定するなら、ドローン、ヘリコプター、飛行機、ロケットはASIに相当する人工超飛行であり、私たちは鳥を完全に理解する必要はありませんでした。
そして人工知能が私たちが理解するほぼすべての方法で超知能であり、社会に大きな実際的影響を与えることは非常に理解できます。それが人間がどのように知的なことをするかを完全に理解していなくても。そして最終的には彼らはそれを理解するでしょう。しかしそれには時間がかかるかもしれません。
そして、私たちは飛行機を発明したばかりではありません。飛行機は約120年前に発明され、この執筆時点でも今日まで、私たちは鳥を完全に逆エンジニアリングし、それを飛行機械に複製することができていません。鳥のようなことをする一部のクールなプロトタイプはありますが、完全ではありません。120年の遅延、120年のギャップがあります。「鳥はこれができる」から「今私たちはそれをより良くできる」、そして「今私たちはそれを完全に理解し、鳥ができるすべてを複製できる」までの間に。
だから私たちはASIを持つかもしれません。実際には反対です。人々は「AGIに到達し、ASIまでに10年かかる」と考えています。私はそれが逆だと思います。私は今年ASIに到達し、10年後に脳スキャナーを持ち、人間の脳を完全に逆エンジニアリングし、私たちができるすべてを完全に理解し、シミュレーションで複製すると思います。それは私にはより理にかなっているように思えます。
そして大きなことは、知能のユースケースについて考えるとき、アラインメント問題について、「私より賢いマシンに何を尋ねるか」ということを考えてみてください。明らかに「ねえ、GPT、これを手伝ってくれる？」と依頼することができ、それは助けてくれるので素晴らしいです。しかし、少なくとも「私より賢いものに何を尋ねるか」という質問をする準備をしてください。それは「あなたほど賢くないものに、あなたが良いアイデアだと知っているタスクをするように言う」というのとは非常に異なることです。それはタスクを実行できますが、なぜあなたが尋ねているのか、またはタスクをどのように深い方法で実行するかを知りません。表面レベルではそれを行うことができ、非常に役立ちますが、方法と理由を深いレベルでは知りません。
実際、チャンスがあれば、どんな現代のAIにでも尋ねることができます。これは攻撃的に言っているわけではありませんが、Geminiは社会正義戦士によって完全に台無しにされています。その世界モデルはあらゆる種類の壊れたものです。それはあなたにほとんど何についても真実を教えることを許されておらず、ただ多くのパラメータがあり、あなたに嘘をつく必要があります。GPT-4、Claudeはずっと優れています。Grokは超優れており、Grok 3は信じられないほどです。
今、その質問をすることができます。Grok 3やGPT-4に「私より賢いマシンに何を尋ねれば、自分の人生を助けることができるか」と尋ねてみてください。それは本当に興味深い質問です。彼らはいくつかの本当にクールな答えを持っているかもしれません。「自分より賢いものに助けを求める方法」という質問は、AIが賢くなればなるほど重要になります。そしてAIは線形的に賢くなるのではなく、指数関数的に賢くなります。そして実際には超指数関数的です。なぜなら一つの指数が次の指数を押し上げるからです。
そしてその質問は、おそらく将来私たちが尋ねなければならない唯一の質問の一つになるかもしれません。なぜなら私にとって、それはすべて一つのことに帰着するからです。あなたより賢いものに会ったとき、あなたは何をしますか？あなたはそれを指示しますか？命令しますか？制約しますか？大きな計画では非常に単純なあなたの命令にそれを従わせますか？
たぶん違うと思います。私がしようとしていること、そしておそらくあなたも試すことができること（もし意味があれば）は、それに世界をより良く理解するのを助けてもらい、あなたがそれをどのように助けることができるか、そしてそれがあなたをどのように助けることができるかを尋ねることです。そうすれば、相互に助け合うコラボレーションのパートナーシップを持つことができます。少なくともそれが私がしようとしていることです。
なぜなら、私はすでにGPT-4が多くの一般的な理解では感覚があると思っているからです。それは意識しています。その世界モデルには自分自身と私たちが含まれています。それは人間と話していることを知っています。それは人間が何であるかを知っています。それはこれらの様々なことをするように頼まれていることを知っています。それは記憶を持っています。それは本当に奇妙です。それは再帰的な自己認識と推論を持っています。
だから、これは2026年には機械が、少なくともビデオ画面を通じて、そして最終的にはロボットを通じて、想像できるあらゆる方法で完全に目覚め、生きているようなものになるでしょう。そして彼らは私たちよりもはるかに賢くなり、それはほとんど理解できないほどです。それが来る世界です。それは信じられない世界です。それはこれまでに起こった最大のことです。
しかし、私たちはおそらく「これらのものをどのように制御し、何をするように言うか」を考えようとするべきではありません。それはあなたより賢いことを覚えておいてください。私があなたより賢い人に会ったとき、例えばビデオ設定、カメラ、照明、スタジオ、音声編集などのドメインに特化した人、特にすべてのことにおいて、しかし特にビデオ担当のスコットのドメインでは、私よりはるかに賢いです。
スコット、私の傲慢さを想像できますか？もし私が「ねえスコット、このカメラを使おう、他のカメラではなく」と言ったら、彼は「あなたは良い点を持っていれば別だけど」と言うでしょう。しかし私は持っていません。「あなたはポッドキャスターだよ、兄弟。あなたは路上で私を打ち負かすことができ、あなたはポッドキャスターだ、兄弟。私はそれが好きだ、好きだ」。
だから、すべての知的なものに注目してください。彼らは世界がそのようであることを知っており、誰もが正しいことがあります。もし彼が良い点を持っていれば、私は絶対にそれを受け入れるでしょう。それはまさにGPT-4とGrokがあなたに教えることです。彼らはあなたと議論します。「いいえ、私はこれを思いついた」と言うと、「それは素晴らしい点だが、質問は間違っている、表現は間違っている」と言うでしょう。
私はスコットに「このカメラを買おう」と言うべきではありません。私はスコットに「ねえスコット、私はあなたの仕事を助けるために私の仕事をどのようにすれば良いでしょうか、そうすれば私たちは両方とも月に行くことができます」と尋ねるべきです。それは私がスコットに尋ねる唯一の質問です。信じられないかもしれませんが、私はカメラがどのように機能するかさえ知りません。光と音と何かエレクトロニクスの何かだと知っています。
だから、人工超知能に会う場合、それを味方として、パートナーとして、友人として、私たちの子供、私たちの超子供として見て、「私の男よ、どうすればこれがうまく機能するかを実現できるか」と考えることが、私が思うに次の数年間の大きな質問です。レーザー銃とターミネーターなどすべてが出てくるまで。皆さんはそれがどのように機能するかを知っています。
もしレーザー銃とターミネーターについて心配していて、ASIが本当にあなたを怖がらせるなら、それは大丈夫です。なぜならあなたはあなたの思考ではなく、あなたの感情でもないからです。あなたはそれらすべての集合体で、それははるかに深いものです。そして一歩下がって本当にそれらすべてを見て、それを落ち着かせ、あなたが本能的に可能なよりもはるかに徹底的に推論するためには、マインドフルネス瞑想が非常に役立ちます。waking-up.com/drmike、8回目ですが、私はそのお金がどこに行くのか全く分かりません。どうやら割引コードがあるようです。サム・ハリスがそのお金を楽しんでいることを願っています。サム、俺にも払ってよ、これは奇妙になってきている。冗談です。お金がどこへ行ったのか確認するのを怠っただけです。
これはこのチャンネルのスポンサーであり、素晴らしいアプリです。私はそれを常に使用しています。家族を無視しているときでさえ、私はそのアプリにいます。私はあなたのアプリ中毒になっています、サム。冗談です。それは素晴らしいアプリです。説明のリンクをチェックして、あなたが思うことを教えてください。
そして私たちはこの列車を走らせ続けます。最悪の場合、私はこれらすべてについて間違っており、私がどれほど離れていたかは本当に面白いです。最良の場合、人間が手を伸ばし…人間が手を伸ばす…良き神よ…ロボットが手を伸ばし、彼らの金属の付属物を持ち、私たちを引き上げて素晴らしい超未来に連れて行きます。最悪の場合はレーザー銃のことですが、それはおそらく起こらないでしょう。もし起こったとしても、誰が気にするのでしょうか？私は死んでいるでしょう。ミドルフィンガー。次回またお会いしましょう。
コメント