GoogleのDemis HassabisとMetaのYann LeCunの間で展開される、汎用知能(AGI)の存在そのものを巡る根本的な論争を解説する動画である。LeCunは人間の知能を含め「汎用知能」という概念自体が幻想であり、すべての知能は本質的に特化型であると主張する。一方Hassabisは、人間の脳やAI基盤モデルは近似的なチューリングマシンとして真の汎用性を持つと反論する。両者の主張は「no free lunch定理」や視覚処理の計算可能性など数学的・理論的根拠に基づいており、AGIの定義と実現可能性に関する本質的な問いを投げかけている。この論争は単なる用語の問題ではなく、今後数年以内に到来するかもしれないAGI時代において、我々が何を目指すべきかという重要な指針を示すものである。
AGI論争の幕開け
現在、AGIを巡ってかなり激しい論争が繰り広げられていて、これについて話す必要があります。実はこれ、すべてあるインタビュークリップから始まったんです。そこでYann LeCunが本質的に言っているのは、汎用知能なんて存在しないということなんです。まずそのクリップをお見せして、それから彼が具体的に何について話しているのか詳しく説明していきます。
汎用知能というものは存在しません。この概念は全く意味をなさないんです。なぜなら、これは人間レベルの知能を指すように設計されていますが、人間の知能は超特化型なんです。私たちは現実世界をとてもうまく扱えます。ナビゲーションとか、そういったことです。
私たちは他の人間をとてもうまく扱えます。なぜなら、そうするように進化してきたからです。でもチェスは下手です。私たちが苦手なタスクはたくさんありますし、多くの他の動物が私たちよりもはるかに優れているタスクもあります。つまり、私たちは特化しているということなんです。私たちは自分たちを汎用的だと思っていますが、それは単なる幻想です。なぜなら、私たちが理解できる問題はすべて、私たちが考えることができる問題だからです。
その逆も然りです。
だから私たちは、想像できるすべての問題において汎用的なんです。でも、想像できない問題がたくさんあるんです。
これに関する数学的な議論もあるんですが、聞かれない限りは話しません。
ここでYann LeCunが基本的に言っているのは、私たちが汎用知能と呼んでいるものは、実際には人間レベルの知能に過ぎず、人間レベルの知能自体が汎用的ではないということです。
むしろそれは、私たちが生き残るために進化してきた環境や問題の種類に対して高度に特化しているんです。物理的な世界をナビゲートしたり、社会的な手がかりを読み取ったり、他の人間と交流したりといったことです。
彼がここで言おうとしていると思うのは、私たちが汎用的だと感じるのは、実際に想像できる問題が得意だからだということです。問題が私たちにとって意味をなすのは、通常、私たちの脳がすでにある程度進化して、そういった種類の問題を扱えるように適応しているからです。でもそれは、知能自体が普遍的だということを意味するわけではありません。それは単に、私たちの脳が現実の特定のサブセットに調整されているということを意味しているだけなんです。私たちが知らないことはたくさんあります。
このインタビューでは、彼は人間が客観的に苦手なタスクがたくさんあることも指摘しています。他の動物が私たちを簡単に上回るようなタスクです。特定の動物が特定のタスクをこなすのを見たことがある人なら分かると思います。今は著作権の関係でビデオクリップは持っていないんですが、類人猿かチンパンジーがスクリーン上の数字に非常に素早く反応できる動画クリップを見てもらいたいんです。
信じてください、私自身も以前これを試したことがあるんですが、人間は類人猿がスクリーン上の数字を叩く方法では競争できないんです。その動画へのリンクを貼っておきますが、本当に信じられないものです。でもYann LeCunがここで言っているポイントは、もし知能が本当に汎用的なら、そんな極端なトレードオフは見られないはずだということです。そして自然界のあらゆるところで見られるのは特化なんです。人間も例外ではありません。
私たちは単に、その慣れ親しんだものを普遍性と勘違いしている特化型の存在なんです。
もちろん、これはAGIにとって重要です。なぜならYann LeCunはAGIなんて存在しないと言っているからです。彼はAIが強力になれないと言っているわけではありません。彼が基本的に言っているのは、絶対的にすべてのものの知能について考えるとき、可能なすべての問題を等しくうまく扱える単一のシステムなんて、数学的にも生物学的にも、さらには実用的にも意味をなさないということです。
彼の観点からすると、知能は常に盲点を伴うものなんです。正直言って、私もこれにはある程度同意します。なぜなら、すべてをできる知能システムというのは、本質的に何らかの奇妙な超知能になるからです。
Demis Hassabisの反論
ここで事態が少し興味深くなります。なぜなら、ここでDemis Hassabis、つまり基本的にはGoogle Deep Mind、GoogleのAI部門のCEOが登場するからです。彼は非常に興味深いことを言っています。
本質的に、彼はここでYann LeCunが間違っていると言っています。DemisがYann LeCunが完全に間違っていると言うとき、彼は汎用知能と普遍的知能を混同していると言っているんです。だからこれについて議論する必要があります。なぜなら、彼は非常に長い投稿をしていて、それについて深く掘り下げていくからです。
Twitter上の議論がこのトピックを中心に収束しているのを見るのは本当に興味深いです。なぜなら、もしかしたら2027年に向けて、あるいは来年の終わり頃には、何らかのプロトAGIを実際に持てるかもしれないからです。だから本当に超興味深いことになるでしょう。
彼は、脳はこれまで宇宙で知られている中で最も精巧で複雑な現象であり、実際には非常に汎用的だと言っています。
つまり、Demisがここで言っているのは、知能が無限であるとか、魔法のようにすべてに優れているということではありません。彼が基本的に言っているのは、Yann LeCunが二つの異なる概念を混同しているということです。汎用知能対普遍的知能です。
普遍的知能というのは、文字通りあらゆる可能な問題を最適に解決することを意味します。もちろん、そんなものは存在しないことは分かっていますし、誰も真剣にそう主張していません。でも汎用知能は全く別のものなんです。
Demis Hassabisがここで主張しているのは、脳は基本的に汎用的だということです。なぜなら人間は、もちろん限定されたシステムの中ではありますが、基本的に汎用システムだからです。十分な時間、メモリ、データがあれば、同じ基礎となる脳のアーキテクチャで、言語、数学、物理学、チェス、音楽、工学、社会的推論など、進化が私たちを明示的に設計したことのないものを学ぶことができるんです。
そして、その柔軟性こそが汎用性を意味するんです。
もちろん、人間には限界があります。特化は汎用性を打ち消すものではありません。私たちは特定のタスクを学ぶときに特化しますが、それは汎用知能を否定するものではありません。考えてみれば、それは有限のメモリ、時間、計算能力といった実用的な制約を反映しているだけです。
汎用システムであっても、そのリソースを集中させる必要があります。特化は学習効率の結果なんです。知能が汎用的でないという証拠ではありません。
No Free Lunch定理
ここでDemisはno free lunch定理を持ち出しています。これは理解することが重要です。なぜなら、私は以前これが何なのか本当に知らなかったからです。基本的に彼がここで言っているのは、可能なすべての問題で最もパフォーマンスが良い単一のアルゴリズムや学習アルゴリズムは存在しないということです。
あるシステムをある種のタスクで素晴らしくなるように最適化すると、必然的にトレードオフをすることになり、他の種類のタスクでは悪化する可能性があります。これは現在の技術の限界ではありません。これは本質的に数学的法則なんです。
こう考えてみてください。道路を走るのに完璧な乗り物を設計すると、それは飛行には最悪のものになります。そして飛行用に最適化した乗り物は、運転には最悪のものになります。同じシステムで最大の効率を持つことは本当にできないんです。水上も走れる車を見たことがあれば分かると思いますが、その二つの乗り物は明らかに同じではありません。
これが知能にとって実際に何を意味するかを考えると、ここで興味深くなります。なぜならDemisは実際にYann LeCunのポイントを認めているからです。
彼は「はい、あなたは正しいです。実用的な有限システムでは、no free lunch定理から逃れることはできないので、ある程度の特化が必要です」と言っています。でも、これが彼の重要な反論なんですが、それはシステムが汎用的でないことを意味するわけではありません。それは単に普遍的ではないということを意味しているだけなんです。
人間の脳は、人間が遭遇する問題の種類を中心に特化しています。物理世界のナビゲーション、社会的相互作用、パターン認識です。でもその特化の中で、それは信じられないほど汎用的なんです。私たちは言語、数学、音楽、スポーツ、プログラミングなど、膨大な範囲のタスクを学ぶことができます。
だから、はい、私たちは特化していますが、汎用性に向けて特化しているんです。もしそれが理解できるなら。
だから用語が非常に重要なんです。AGIの構築について話すとき、一部の人々は混乱していると思います。宇宙のあらゆる可能なタスクで最適なものを構築しようとしているのかという混乱があります。それについて考えると、それはno free lunchによれば基本的に不可能なんです。
私たちがAGIのために目指しているのは、人間のように実用的なアーキテクチャ内で広範な学習能力を持つシステムなんです。だからそれは単一のタスクで最高になることはありませんが、多くの領域にわたって学習し適応できるはずです。
そしてその特化は、アーキテクチャとトレーニングから来るものです。どんな種類のデータを処理するか、どのように情報を表現するかです。でも汎用性は、多様な問題にそのアーキテクチャを柔軟に適用する能力から来るんです。
Demisは汎用性について語り続けます。ここで彼が話しているのは、理論的な汎用性のポイントは、チューリングマシンの意味において、そのような汎用システムのアーキテクチャは、十分な時間とメモリがあれば、計算可能なものは何でも学習できるということです。そして人間の脳がそうだということです。
チューリングマシンの議論
だからDemisはここで、理論的には、チューリングマシンの意味において、そのような汎用システムのアーキテクチャは、十分な時間とメモリとデータがあれば、計算可能なものは何でも学習できると言っています。そして人間の脳とAI基盤モデルは近似的なチューリングマシンなんだと。
ここでDemisは重火器、つまりチューリングマシンの議論を持ち出しています。これは彼が汎用知能が本物だと考える理由にとって重要なんです。
皆さんの中でご存知ない方のために言うと、チューリングマシンは1930年代の計算の理論モデルです。それを特別にしているのは、それが普遍的だということです。つまり、十分な時間、メモリ、そして適切なプログラムがあれば、計算可能なものは何でも計算できるんです。
これが現代のすべての計算の基礎なんです。だからDemisのポイントは、人間の脳は本質的に近似的なチューリングマシンだということです。私たちは理論的には、十分な時間と情報があれば、計算によって解決できるあらゆる問題を学習し解決できます。
私たちは完璧に効率的ではありません。限界はありますが、基礎となるアーキテクチャは汎用的なんです。だから彼は、GPT、Claude、Geminiのような基盤モデルも近似的なチューリングマシンだと付け加えているんです。これは重大なことです。
彼が言っているのは、これらのシステムは人間の脳と同じ種類の汎用性を持っているということです。もちろん、すべてのタスクに最適化されているわけではありませんが、膨大な範囲のタスクを学習する建築的能力を持っているんです。
私たちはすでにこれを少し見ています。詩を書くのと同じベースモデルがコーディングし、データを分析し、チェスをプレイし、医療診断を助けることができます。これはもう狭義のAIではありません。すべてにおいて完璧でなくても、汎用的な能力を示しているんです。
だからここでDemis Hassabisは、はい、実用的な現実世界の制約と特化はありますが、基本的なアーキテクチャ、全体は実際に汎用的だと強調しているんです。
人間の脳と現代のAIシステムの両方が近似的なチューリングマシンであるという事実は、それらが真の汎用性を持っていることを意味します。膨大な範囲のタスクにわたって学習し実行する能力です。これは幻想ではありません。汎用的であるふりをしている特化したモジュールだけではないんです。それは本当に柔軟な汎用目的の学習マシンなんです。
私たちが見る限界は建築的なものではありません。それらは時間、メモリ、トレーニングデータのような実用的な制約に過ぎません。そしてもちろん、これらのシステムを変更し、スケールアップするにつれて、その汎用性がますます表現されるのを見ることになるでしょう。それがDeep Mindがここで言っていることです。
チェスプレイヤーの例
それからもちろん、DemisはYann LeCunのチェスプレイヤーに関するコメントについて基本的にこう言っています。人間がそもそもチェスを発明できたことは驚くべきことですし、Magnus Carlsenのような誰かがそれで素晴らしくなることも驚くべきことです。彼は厳密に最適ではないかもしれません。結局のところ、彼は有限のメモリと決定を下すための限られた時間しか持っていません。でも、狩猟採集のために進化した私たちの脳で何ができるかは信じられないことです。
これは本当にクールなポイントです。なぜなら、彼が基本的に言っているのは、見てください、人間は狩猟採集、典型的な原始人の活動のために進化したんです。でもここで起こったことを見ると、私たちは文字通り、頭の中に決定木や無限のメモリ、すべてのゲームのシミュレーションを実行する能力を持っていないにもかかわらず、チェスのようなものをプレイできる脳を持っているんです。
これは本当に、本当に信じられないことです。なぜならYann LeCunは、人間はコンピュータに比べてチェスが下手だと言っていて、それを私たちが特化型であって汎用的ではないという証拠として使っているからです。でもDemisは「ちょっと待って。反対側から考えてみてください」と言っているんです。
私たちはチェスを一から発明したんです。私たちはこの複雑な戦略ゲームを、そうするための進化的圧力なしに発明しました。それなのに私たちはそれを作り、それをかなりうまくやっています。まあ、私はそうではありませんが、一部の人々は基本的に超人間的なレベルでうまくやっています。
だから彼らは、人間には汎用性が本当に存在すると主張しています。なぜなら私たちは広範囲のタスクに適応できるからです。もちろん、Magnus Carlsenが特化したチェスマシンだとは言っていません。でも彼はそうかもしれませんが、私たちが言っているのは、完全に異なる目的のために設計された人間の脳が、そのレベルのチェスの熟達に到達できるという事実がかなり信じられないということです。
それは自転車を取って何とか飛ばすようなものです。飛行機ほど最適にはならないでしょう。でも実際に飛ばすことができるという事実は、並外れた適応性を示しています。
私たちは捕食者を認識し食べ物を見つけるために最適化された脳を取って、15手先のチェスの位置を計算するために再利用したんです。それはかなり汎用目的知能の定義そのものです。
もちろん、Elon Muskが登場して「はい、Demis Hassabisは正しい」と言っています。これについては少し注意して受け取る必要があると思います。もしElon MuskとYann LeCunの過去について知らなければ、彼らは誰がAI研究者で、誰が本物の研究をしているかについて、何度も何度も議論してきたんです。
それを見るのはかなり面白かったです。
Yann LeCunの再反論
それからもちろん、この投稿の数時間後にYann LeCunは実際に反応して、長い投稿を書きました。彼はこう言っています。この意見の相違は主に語彙の問題だと思います。私は人間レベルを指すために汎用という言葉を使うことに反対しています。なぜなら人間は極めて特化しているからです。
人間の心が特化していることに同意しないかもしれませんが、本当に特化しているんです。それは単に理論的な能力の問題ではなく、実用的な効率の問題でもあります。
Yann LeCunがここで言っているのは、これは主に言葉について議論しているだけだということです。彼が人間は汎用的でないと言うとき、彼が基本的に言っているのは、理論的に可能なことと比較して、私たちは非常に限定されているということです。
はい、人間の脳は技術的には十分な時間とペンと紙があれば何でも計算できますが、それは彼の言葉で言えば私たちを汎用的にするわけではありません。それは私たちを可能な問題のごく小さな部分に対して信じられないほど特化させるんです。
彼は実際に、これ全体の中で、もう少し長くなりますが、私は彼がここで言っていることを単純化します。
彼はこのニューラルネットワークの類推を使って、こう考えてみてくださいと言っています。技術的には、単純な2層ニューラルネットワークは任意のパターンを学習できますが、実際には、何か有用なことをするには途方もない数のニューロンが必要になります。だから代わりに多くの層を持つディープラーニングを使うんです。人間も同じです。技術的には、私たちは多くの問題を解決できますが、そのほとんどにおいて私たちは非常に非効率なんです。
彼はこの視覚の例を使います。彼は、ここに具体的な例がありますと言います。あなたの視神経には約100万本の神経繊維があります。それぞれが発火しているか、していないかのどちらかです。だから基本的に100万個のオン・オフスイッチです。
さて、あなたの脳がその視覚情報を処理できる方法は何通りあるでしょうか。数学は狂気的です。
視覚を処理する方法は2の2の100万乗通りあります。そしてそれは非常に大きな数で、基本的に理解不能です。大体10の後に300兆個のゼロがつく数です。
あなたの脳全体、すべての1000億個のニューロンと100兆個の接続は、約2の3兆乗、実際にはもっとたくさんですが、数字は非常に大きい異なるパターンしか表現できません。それは非常に巨大に聞こえますが、全体の可能性と比較すると、それは観測可能な宇宙のサイズに対する一粒の砂のようなものです。
私たちは可能な視覚パターンの無限に小さい量しか処理できません。
Einsteinは、世界について最も理解できないことは、世界が理解可能だということだと言いました。だからYann LeCunがここで本質的に言っているのは、人間が宇宙について何かを理解できることは実際に奇跡的だということです。なぜなら、現実が組織化され得るすべての無限の方法のうち、そのほとんどが私たちには完全にランダムなノイズのように見えるでしょうが、私たちはたまたまそのごく小さな部分を理解できる脳を進化させたからです。
だから私たちが理解できないすべてのこと、人間が理解できないすべてのことについて考えてみてください。私たちはそれを何と呼んでいますか。私たちはそれをエントロピーやランダムネスと呼んで、そして無視するんです。
宇宙のほとんどは私たちには理解不能です。なぜなら私たちの脳は特化しすぎているからですが、もちろん私たちはそれを見ません。なぜならそれは私たちの脳だからです。
だからYann LeCunはここで本質的に、人間は理論的には確かにチューリングマシンですが、実際には、私たちは信じられないほど狭い範囲の問題に対して特化しているだけで、私たちが苦手な問題を知覚することさえできないので、それに気づかないんだと言っているんです。
それを汎用知能と呼ぶのは誤解を招くんです。
論争の本質
この二人の間の議論について考えると、それは超興味深いです。Demisは、私たちは実用的な現実世界の制約を持つ汎用的な存在だと言っています。そしてYann LeCunは基本的に、その制約は非常に限定的なので、それを汎用的と呼ぶのは間違っていると言っています。
だからこれは基本的に、スイスアーミーナイフが汎用目的のツールかどうかを議論しているようなものです。Demisはイエス、それは多くのことをするから汎用的だと言っています。そしてYann LeCunはノー、そうではない、なぜなら全宇宙のすべての可能なツールと比較すると、実際にはそれほど多くのことはできないからだと言っています。
これについて皆さんがどこに立つのか教えてください。なぜならこれは超興味深いと思うからです。
コメント