Google DeepMindのCEOであるDemis Hassabisが、AGI実現への具体的なロードマップを公開した。現在のAI系は「ギザギザの知能」と呼ばれる不均一な性能を持っており、一貫性の欠如がAGI実現の最大の障壁となっている。Hassabisは、世界モデルとAIエージェントを組み合わせた無限の学習ループ、推論・視覚・エージェント技術の統合によってproto-AGIに到達できると説明する。さらに、AGI後の社会変革は産業革命の10倍の規模で10倍の速度で進行すると予測し、経済システムの再構築や直接民主制、ユニバーサルベーシックインカムなどの必要性に言及。最終的には、チューリングマシンの限界を探求することで、人間の心と機械の違いを明らかにし、宇宙におけるあらゆる現象が計算可能かどうかという根源的な問いに挑んでいる。
GoogleのAGI実現への道筋が明らかに
さて、計算の範囲内でできないことは何もないんです。
まあ、誰もこういう言い方はしていませんが、宇宙の中で計算不可能なものは誰も見つけていません。
今のところは。
今のところは、ですね。
そうですね。さて、Google DeepMindのCEOであるDemis Hassabisが、Hannah FryとGoogle DeepMindのポッドキャストで対談し、基本的にAGIへの全体的なロードマップを明らかにしました。
彼らはそこに到達するために何が必要か、実際にそこに到達したときにどうやってわかるのか、これが仕事や社会にとって何を意味するのか、そしてその後に何が来るのかについて話しています。これは正直なところ、AI分野でこれほど高いレベルの人物から見た中で、最も洞察力があり、驚くほど正直で、本当に興味深いインタビューの一つでした。それでは見ていきましょう。
現在のAIに欠けているもの
さて、まず最初に、彼は何がまだ欠けているかについて話しています。Demisは、現在のAIシステムは一種の「ギザギザの知能」だと主張しています。いくつかのことには信じられないほど優れていますが、他のことには驚くほど劣っているのです。そして彼のポイントは、この不均一さが消えるまで、つまりこれらのシステムが実際に一貫性があり信頼できるようになるまでは、本当のAGIは得られないということです。見てみましょう。
実際、非常に興味深いことだと思います。最も魅力的なことの一つで、おそらく修正される必要があることの一つとして、私たちがまだAGIに到達していない主な理由の一つです。おっしゃったように、私たちや他のグループは国際数学オリンピックで金メダルを獲得するなど、多くの成功を収めてきました。それらの問題を見ると、世界のトップの学生だけができる非常に難しい問題です。
その一方で、質問を特定の方法で提示すると、私たち全員が日常生活でチャットボットを試してみて見てきたように、論理問題でかなり些細なミスを犯すことがあります。まだまともなチェスのゲームをプレイすることができません。これは驚くべきことです。
つまり、これらのシステムにはその一貫性という点で何かが欠けているのです。そして、一般知能や、つまりAGIシステムに期待されることの一つは、全体的に一貫していることだと思います。だから、時々人々はそれをギザギザの知能と呼んでいます。
つまり、特定のことには本当に優れていて、おそらく博士課程レベルでさえあるのに、他のことでは高校レベルにさえ達していないのです。だから、これらのシステムのパフォーマンスはまだ非常に不均一なのです。特定の次元では非常に非常に印象的です。しかし、他の次元ではまだかなり基本的であり、それらのギャップを埋めなければなりません。そして、その理由には理論的な理由があります。状況によっては、画像が認識されトークン化される方法であることさえあります。
つまり、実際には、個々の文字すべてを認識していないことさえあるのです。だから、単語の文字を数えるときに、時々それが間違っているのですが、個々の文字を見ていない可能性があるのです。だから、これらのことのいくつかには異なる理由があります。そして、それぞれを修正して、何が残っているかを見ることができます。
しかし、一貫性が重要だと思います。もう一つは推論と思考だと思います。推論時により多くの時間を考えることに費やす思考システムが今あり、それらは答えを出力する際により良いのです。しかし、その思考時間を有益な方法で使っているかという点では、まだあまり一貫していません。実際に出力しているものをツールを使ってダブルチェックするために使っているかということです。
私たちは途中にいると思いますが、おそらくまだ50%の段階です。
一貫性の源泉:経験とシミュレーション
つまり、一貫性がボトルネックであるなら、次の質問はその一貫性が実際にどこから来るのかということです。そしてDemisによれば、それは経験から来るのであって、テキストだけからではありません。ここで彼はシミュレーションや世界モデルについて話し始めます。
そしてそれを超えて、世界モデルの中でAIエージェントが学習し、ほぼ無限のトレーニングフライホイールを作り出すことについても話しています。これを見てください。
科学についてはどうでしょうか?その領域でも使えますか?
はい、使えます。科学では、繰り返しになりますが、科学的に複雑な領域のモデルを構築することだと思います。材料の原子レベルでも、生物学でも、また天候のような物理的なことでもです。
これらのシステムを理解する一つの方法は、生データからそれらのシステムのシミュレーションを構築することです。そうですよね?生データの束があります。例えば天候に関するデータだとしましょう。明らかに私たちは素晴らしい天候プロジェクトを進めていますが、それからそれらのダイナミクスを学習し、そのダイナミクスをより効率的に再現できるモデルがあります。
つまり、力ずくでやるよりも効率的にできるのです。だから、シミュレーションや世界モデル、おそらく科学や数学の側面に特化したものには大きな可能性があると思います。
でも、そのシミュレーションされた世界にエージェントを入れることもできますよね?
はい。
あなたのGenie 3チームは本当に素敵な言葉を残していました。「どんな大きな発明も、その発明を念頭に置いて作られた前提条件はほとんどない」と。彼らはこれらのシミュレーション環境にエージェントを入れ、好奇心を主な動機として探索させることについて話していました。
そうです。それがこれらの世界モデルのもう一つの本当にエキサイティングな使い方です。私たちには別のプロジェクトでSimmaというものがあります。私たちはSimma 2をリリースしたばかりです。シミュレーションされたエージェントで、アバターやエージェントを持ち、仮想世界に配置します。通常の商用ゲームのようなものでもいいし、No Man’s Skyのような非常に複雑なオープンワールド宇宙ゲームのようなものでもいいです。そして、Geminiが内蔵されているので、エージェントに話しかけてタスクを与えることができます。
しかし、GenieをSimmaに接続して、Simmaエージェントを世界をオンザフライで作成している別のAIに落とし込んだら面白いんじゃないかと思ったのです。だから今、2つのAIがお互いの心の中で相互作用しているのです。Simmaのエージェントはこの世界をナビゲートしようとしていて、Genieに関しては、それは単なるプレイヤーでありアバターであり、別のAIがあるかどうかは気にしません。
だから、Simmaが何をしようとしているかに応じて、その周りの世界を生成しているだけなのです。だから、両者が一緒に相互作用しているのを見るのは驚くべきことです。そして、これは興味深いトレーニングループの始まりになる可能性があると思います。Simmaエージェントが学習しようとしていることは何でも、Genieが基本的にオンザフライで作成できるので、ほぼ無限のトレーニング例が得られるのです。
だから、タスクの設定と解決を自動的に何百万ものタスクで行い、それらがますます難しくなっていくような世界全体を想像できると思います。だから、そのようなループを設定してみるかもしれません。
また、明らかにこれらのSimmaエージェントはゲームの仲間として素晴らしいものになる可能性があります。
無限の学習ループの実現
また、彼らが学ぶことのいくつかはロボティクスにも役立つ可能性があります。
ええ。退屈なNPCの終わりです。
まさに。ゲームにとって素晴らしいことになるでしょう。ええ。
つまり、ここで事態はかなりクレイジーになってきます。これまで、ほとんどのAIトレーニングはこのようなものでした。大規模なデータセットをスクレイピングし、モデルをトレーニングし、それで基本的に終わりです。しかし、Demisがここで説明しているのは、まったく異なるものです。世界を生成するAIと、その世界の中で学習する別のAIがあります。そして、エージェントが新しい状況に遭遇するたびに、世界モデルはそれをオンザフライで生成できます。つまり、もはや人間のデータに制限されないのです。Googleはすでにこれをデモしてきました。
彼らは、世界モデルであるGenie 3によって作成されたAI生成環境内を、SIM 2エージェントがナビゲートするのを見せてきました。つまり、文字通り、AIモデルによって駆動されるAIエージェントが、別のAIモデルによって生成された世界の中で学習しているのです。そして、このループが機能すれば、基本的に無限のトレーニングフライホイールが得られます。だからこれはとても狂っていて、とても重要なのです。
では、これが私たちをAGIに連れて行くものなのでしょうか?まあ、正確にはそうではありません。Demisによれば、実際に私たちをそこに連れて行くのは、これらすべてのシステムの収束です。推論、視覚、世界モデル、エージェント、これらすべてが一つの一般的なシステムに統合されるのです。彼がそれをどう説明しているか見てみましょう。
実際、組み合わせだと思います。明らかにGemini 3があり、これは非常に有能だと思いますが、先週立ち上げた画像作成ツールの高度なバージョンであるNano Banana Proシステムもあります。それについて本当に素晴らしいのは、内部にGeminiも搭載されていることです。だから、画像だけでなく、それらの画像で意味的に何が起こっているかを理解できるのです。そして、人々がそれで遊び始めてまだ1週間しか経っていませんが、人々がそれを何に使っているかについて、ソーシャルメディアで多くのクールなことを見てきました。
例えば、複雑な飛行機の写真を与えると、飛行機のすべての異なる部分の図をラベル付けし、すべての異なる部分が露出しているような形で視覚化することさえできます。だから、力学やオブジェクトを構成するもの、材料についての深い理解を持っているのです。
だから、ある種の一般的なものであり、テキストを本当に正確にレンダリングできるようになりました。だから、これはある種の、画像のためのAGIに近づいていると思います。画像全体で何でもできる一種の汎用システムだと思います。だから、それは非常にエキサイティングだと思います。そして、世界モデル、GenieやSimmaで私たちがやっていることの進歩もあります。
そして最終的には、これらの異なるものを収束させる必要があります。今のところ異なるプロジェクトであり、相互に関連していますが、それらすべてを一つの大きなモデルに収束させる必要があります。そうすれば、proto-AGIの候補になり始めるかもしれません。
AGI実現への道筋
ええ、彼の回答に基づくと、彼が説明しているこのproto-AGIに非常に近いようです。基本的にすべてのピースをまとめるだけです。それは明らかに言うは易く行うは難しです。しかし繰り返しになりますが、道筋は今やほぼ明確になっています。そして、これは彼がズームアウトして、その後に何が来るかについて話し始めるときです。彼は来るものを産業革命に例えていますが、今回はより大きく、はるかに速く起こります。
彼はまた、その先の人生が実際にどのようなものになるかをブレインストーミングし始め、その多くが基本的に今は想像できないことさえ認めています。これをチェックしてください。産業革命から生まれた素晴らしい進歩がたくさんあると思います。だから、乳児死亡率が下がり、現代医学のすべてと衛生状態、仕事と生活の分割、そしてそのすべてがどのように機能するかは、産業革命中に解決されました。しかし、それは多くの課題も伴いました。かなり長い時間がかかり、約1世紀かかりました。そして、労働力の異なる部分が特定の時期に混乱し、その後、労働組合のような新しい組織やその他のものを作成してバランスを取り戻す必要がありました。だから、社会全体が時間をかけて適応しなければならなかったのを見るのは魅力的でした。そして、今の現代世界があります。
だから、産業革命には明らかに起こっている間、多くの長所と短所があったと思いますが、それが全体として何をもたらしたかを考えると、西洋世界での食料やその他のものの豊富さ、現代医学、現代輸送など、これらすべては産業革命のおかげでした。
だから、産業革命以前には戻りたくないでしょうが、おそらくそれから学ぶことで、事前にそれらの混乱が何であったかを理解し、今回はより早く、またはより効果的にそれらを緩和できるかもしれません。そして、おそらくそうしなければならないでしょう。なぜなら、今回の違いは、産業革命の10倍の大きさになり、10倍速く起こる可能性が高いからです。
だから、世紀ではなく、10年間で展開される感じです。Shaneが私たちに言ったことの一つは、労働と引き換えにリソースを交換する現在の経済システムは、AGI後の社会では同じように機能しないということでした。AGI後の社会がどのように再構成されるべきか、または再構成される可能性があるかについて、ビジョンはありますか?
AGI後の社会変革
ええ、私は今それについてもっと時間を費やして考えています。Shaneは実際にこの取り組みを率いていて、AGI後の世界がどのようなものになるか、何を準備する必要があるかを考えています。しかし、社会全体がそれについてもっと時間を費やして考える必要があると思います。経済学者、社会科学者、政府が。なぜなら、産業革命と同様に、全体の労働世界と労働週、すべてが産業革命以前の農業中心から変わったのです。そして、少なくともそのレベルの変化が再び起こると思います。
だから、新しい経済システム、新しい経済モデルが必要になっても驚くべきことではありません。基本的にその変革を助け、例えば利益が広く分配されることを確実にするためです。おそらくユニバーサルベーシックインカムのようなものがソリューションの一部になるでしょう。
しかし、それが完全だとは思いません。それは今モデル化できるものだと思います。なぜなら、それは今日私たちが持っているものに対するほぼアドオンになるからです。しかし、もっと良いシステムがあるかもしれません。例えば、直接民主制のようなシステムで、見たいものに対して一定量のクレジットで投票できるようなものです。
実際、地域コミュニティレベルで起こっています。お金の束があります。遊び場、テニスコート、学校の追加の教室のどれが欲しいですか?そして、コミュニティに投票させるのです。そうですよね?それから、結果を測定することさえできるかもしれません。そして、より好意的に受け入れられるものに一貫して投票する人々は、次の投票で比例的により多くの影響力を持つのです。
だから、多くの興味深いことがあります。私の経済学者の友人たちがこれをブレインストーミングしているのを聞きます。そして、それについてもっと多くの作業があれば素晴らしいと思います。そして、哲学的な側面もあります。仕事が変わり、その他のことも変わるでしょうが、おそらく核融合が解決されて、豊富な自由エネルギーがあるので、希少性後の世界になります。お金はどうなるのでしょうか?おそらく誰もがより良い状態になりますが、目的はどうなるのでしょうか?多くの人々は自分の仕事から目的を得ていて、家族を養うことが非常に崇高な目的だからです。だから、それが、つまり、経済的な質問からほぼ哲学的な質問に移行する多くの質問があると思います。
チューリングマシンの限界への挑戦
最後に、インタビューを終えるにあたって、Hannahは Demisに本当に興味深い質問をしました。機械が決してできない人間ができることはありますか?そして、その質問に対するDemisの答えは正直なところかなりワイルドです。
長期的には。つまり、AGIを超えてASI、つまり人工超知能に向けて、人間ができて機械が決して管理できないことがあると思いますか?
まあ、それが大きな質問だと思います。そして、ご存知のように、これは私のお気に入りのトピックの一つであるチューリングマシンに関連していると感じています。私はいつもこう感じてきました。AGIを構築し、それを心のシミュレーションとして使用し、それを実際の心と比較すれば、違いが何であるか、そして潜在的に人間の心について何が特別で残っているかを見ることができるでしょう。おそらくそれは創造性、おそらく感情、おそらく夢です。意識です。チューリングマシンの限界は何かという質問に戻ってきます。そして、それが私の人生の中心的な質問だと思います。チューリングとチューリングマシンについて知って以来ずっとです。
そして、それに恋をしました。それが私の核となる情熱です。そして、私たちがやってきたすべてのことは、チューリングマシンができることの概念を限界まで押し進めてきたのです。タンパク質の折り畳みも含めてです。そして、限界が何なのかわかりません。おそらくないのかもしれません。
もちろん、私の量子コンピューティングの友人たちは限界があり、量子システムを行うには量子コンピュータが必要だと言うでしょうが、私は本当にそうは思いません。実際、量子の人々の何人かとそれについて議論してきました。古典的なシミュレーションを作成するために、これらの量子システムからのデータが必要かもしれません。
そして、それは心に戻ってきます。それはすべて古典的な計算なのか、それとも何か他のことが起こっているのか?Roger Penroseが信じているように、脳内に量子効果があるのか。もしあるなら、それが意識と関係しているなら、機械は決してそれを持つことができません。
少なくとも古典的な機械は。量子コンピュータを待たなければなりません。しかし、もしそうでなければ、限界はないかもしれません。おそらく宇宙では、すべてが計算的に扱いやすく、したがって正しい方法で見れば、チューリングマシンが宇宙のすべてをモデル化できるかもしれません。
私は現在、もしあなたが私に推測させるなら、そう推測するでしょうし、物理学が私に別のことを示すまで、その基盤で取り組んでいます。だから、計算の範囲内でできないことは何もないのです。
まあ、誰もこういう言い方はしていませんが、宇宙の中で計算不可能なものは誰も見つけていません。
今のところは。
今のところは、ですね。
そうです。そして、私たちはすでに、古典的なコンピュータが今日できることの通常の複雑性理論家のP=NP視点をはるかに超えることができることを示してきたと思います。タンパク質の折り畳みや囲碁などのようなものです。だから、その限界が何であるかは誰も知らないと思います。そして、それが本当に、あなたがDeep MindやGoogleで私たちがやっていることを要約するなら、そして私がやろうとしていることは、その限界を見つけることです。
哲学的なアプローチ
ええ、Demisがこれらの質問にアプローチする方法が大好きです。彼は、利己的な経済的な意味からではなく、正真正銘好奇心旺盛で哲学的な場所から、本当にそれらに答えようとしている唯一のAI CEOのようです。
そして、あなたが彼に同意するかどうかにかかわらず、彼の視点は魅力的だと思います。特に彼が今日いる立場にいることを考えると。とにかく、このインタビューについてどう思ったか教えてください。DemisとGoogleは、Simma、Genie、Gemini、そしてこれらすべてのピースが一緒になって、AGIへの正しい道を歩んでいると思いますか?それとも、まだ何か根本的なものが欠けていると思いますか?コメントで教えてください。
そして、いつものように、この解説を楽しんでいただけたら、ぜひいいねを押してください。まだの方は購読ボタンを押してください。次回またお会いしましょう。
コメント