元Google CEOのエリック・シュミットが、AGI(汎用人工知能)とASI(人工超知能)の実現に向けた具体的な道筋と予測時期を明らかにした。シュミットは、現在のAIが特定分野の天才(サヴァン)レベルに到達するには3年から7年かかるとしながらも、真のAGIには「自律的な目的関数の設定」と「類推による異分野への応用能力」が必要だと指摘する。再帰的自己改善の実現時期については5年から10年と予測し、その後4年から6年でAGIに到達すると見込む。さらに、現在の大規模AI投資がバブルかという問いに対し、歴史的に重要な発見であるLLMと基盤モデルの登場を踏まえ、むしろ過小評価されている可能性があると論じている。元OpenAI主任研究者のイリヤ・サツケヴァーは、脳が生物学的コンピュータである以上、デジタルコンピュータが同等の能力を持つことは論理的必然であり、人類史上最大の挑戦と報酬をもたらすと述べる。
AGIへの道筋と実現時期
エリック・シュミットが、AGIについてまた目を見張るようなインタビューを行いました。彼は、AGIに到達する具体的な方法を明らかにし、それを達成できる時期についても示しました。詳しく掘り下げる前に、まずこれを聞いてみましょう。
AGIの物語から少し後退しているように感じられますが、これは実際には良いことだと思います。冷静で理性的な政策立案により適していると思います。今、AGIについてどのように捉えていますか。その全体的な流れの中で、私たちはどこにいるのでしょうか。
まず第一に、大統領が約1か月前にAI戦略について行った演説は、あなたがそうは言わないかもしれませんが、あなたがある意味彼のために書いたものであり、まさに正しかったと思います。ありがとうございます。デビッドは、私たち全員が尊敬し称賛する素晴らしいリーダーであるエリックと協力しました。
ええ。ですから、それでも、私が書いたと言うのは言い過ぎでした。実際には、でも、とにかく。あなたが書いていないなら、それはあなたの双子だったに違いありません。しかしいずれにせよ、あなたは強調点を正しく捉えました。それは、研究への投資、私たちが行っているような種類のものへの投資が本当に本当に重要だということでした。
このAGIの件についてはあなたに同意しません。なぜなら、サンフランシスコの物語と私が呼ぶグループがいるからです。彼らは皆サンフランシスコに住んでいて、彼らの物語は次のようなものです。今日、私たちはエージェントに取り組んでいます。エージェント革命はビジネスを変えるでしょう。これには同意します。
起こることは、システムが再帰的に自己知能になるということです。再帰的自己改善と呼ばれるものがありますが、スケールフリーの問題があり、スケールフリーの問題とは例えばプログラミングや数学で、ただ続けていくことができるものです。十分なハードウェアを購入し、十分なソフトウェアなどを行えば、これらの巨大で速い利益が得られます。
それはまだ進行中です。それらの集合体が示すのは、今後3年ほどで、彼らは超知能の形態を得ると信じているということです。そして彼らがそれを定義する方法は、基本的にサヴァン、化学のサヴァン、物理学のサヴァン、数学のサヴァンです。私は3年という点には同意しませんが、おそらく6年か7年だということには同意します。しかし、特定の分野のサヴァンであるならば、それは汎用知能なのでしょうか。それはまだ汎用知能ではありません。汎用知能とは、自分自身の目的関数を設定できるときです。
そうでしょう。そしてその証拠はありません。今のところ、自分自身の目的関数を設定する能力の証拠はありません。私が論文を書いているので研究してきた考えは、技術的な問題は数学的証明の非定常性だということです。そして、あなたがやろうとしているのは、目的関数に対して解決しようとしているのですが、目的関数が変化し続けるのです。これは人間が作動する方法です。
あなたの目標は毎日変わります。一方、コンピュータはそれに苦労します。数学的問題として、LLMがそれを行うことができるアルゴリズムはまだありません。人々はそれに取り組んでいます。そしてテストは、基本的に1902年に利用可能だった情報を使用して、アインシュタインが特殊相対性理論に続いて一般相対性理論で行ったのと同じことを導き出せるかということです。今日、私たちはそれができません。
そして、ほとんどの人は、これが解決される方法は類推によるものだと信じています。偉大な天才の理論は、彼らが一つの分野を非常によく理解していて、その女性または男性は非常に聡明なので、自分のアイデアを取ってまったく異なる領域に適用できるというものです。もし私たちがその問題を解決できれば、それで終わりだと思います。
そうすればAGIに到達し、そしてそれはまったく異なる世界になります。人間を置き換えるのが難しい理由の一つは、JKと私がこれについて議論していますが、人間はエンドツーエンドだからです。私たちは仕事全体をこなすことができます。ある種の完全な理解があります。非常に簡単に方向転換できます。少なくとも今日私たちが知っているAIは、エンドツーエンドではありません。
プロンプトを出さなければなりません。答えが得られます。その答えは検証されなければなりません。それからあなたは新しい質問をしなければなりません。なぜなら、それは決してあなたが望むものを正確に与えてくれないからです。より多くのコンテキストを適用しなければなりません。反復的なループを経なければなりません。最終的に、ビジネス価値のある答えにたどり着きます。
AIと人間の相互補完的関係
生物学的な言い方をすれば、AIはエンドツーエンドではありません。ミドルツーミドルです。人間はエンドツーエンドです。そしてその結果として、AIが私たち全員を置き換える代わりに、AIは人間と非常に相乗効果を発揮するでしょう。なぜなら、私たちは目的関数を定義できるからです。私たちはプロンプトを行い、それと協力して反復し、それは中間の多くの作業を行います。
あなたが今言ったことは、非常に楽観的で、破滅論的ではない見方のように思えます。あなたが今言ったことは、今後数年間に起こることそのものです。私たち一人一人が、自分の命令とプロンプトに応じて、抱えている問題に対して信じられないほど役立つ支援を持つことになります。個人的なことから、人間関係のアドバイスのためにこれらのものを使っている人々がいますし、自分の子供たちと話すためにも。つまり、すべてクレイジーなことですが、事実はそういうことです。私にとって本当の問題は、それがいつ自分自身の意志を持つこと、情報を求め新しい問題を解決する自分自身の能力を持つことに移行するかということです。それは異なる動物です。
しかし、再帰的自己改善の証拠を私たちはまだ見ていますか。まだです。私は、それに近づいていると主張するいくつかのスタートアップに資金を提供してきましたが、もちろんこれらはスタートアップなので、決してわかりません。これは5年から10年だと私に言っています。
わかりました。では、わずか5年から10年で、それは新しいテクノロジー産業にとって非常に速いものになるでしょう。そして再帰的自己改善は、AGIとASIを定義する重要な要素です。エリックとこれについてさらに深く掘り下げましょう。
今、人々は、愚かな知能で超知能をどのように制御するかを見ています。そして、私が理解できなかった数学があり、それはある程度それを封じ込めることができると言っていますが、私たちにはわかりません。
しかし、最初に述べるべき点は、再帰的自己改善または再帰的知能は、システムが自分自身を学習しているところであり、自己学習を行っているエージェント的ソリューションが見え始めているということです。今年の終わりまでに、つまり6か月後には、あなたがそれらを使用している間に学習しているシステムを使い始めるようになると私は予想しています。
それは自然な進展です。あなたが目にしているハードウェア投資が、非常に大規模で、理にかなっていると考える理由の一つは、それらの推論モデルがGoogle検索よりも無限に高価だからです。電力クエリなどが何千倍も多いのです。
そのため、再帰的なものはすでに始まっています。AGIにはさまざまな定義がありますが、一般的なコンセンサスは、AGIは一般的に知能があることを意味するということです。今、一般的に知能があるということは、朝起きて自由意志を持っているということです。自由意志は主にフランスで発明されたと思いますが、あなたは自由意志を持ち、基本的に、起きて、やりたいことをやり、学びたいことを学び、求めたいことを求めるという概念を持っています。
そのような戦略的知能は、まだこれらのシステムには存在していません。コンセンサスは、それが起こるのは、私自身の日付は4年から6年の間、比較的すぐです。その次のステップは、システムが、そこでの一般的な用語は超知能ですが、システムがすべての人間の総和よりも賢いときです。
超知能のテストは非常にシンプルです。それは、私たちが真実であると知っているが、証明を理解できない何かを証明できるのです。私たち人間は、どの人間も理解できません。私たち全員が一緒になっても理解できませんが、それが真実であることはわかっています。ヘンリーはそれは何かと言うでしょう。それは魔法ですか。彼はまた、私たちが本で述べたように、人々がそれを見たとき、それが人間にとって非常に恐ろしいものになるので、武器を取るかもしれないと言うでしょう。
AIバブル論と国家間競争
私たちの何人かは超知能に関する論文を書き、超知能をどのように封じ込めるかについて推測しました。私は多くの国家安全保障の仕事をしていますが、競争相手があなたより先を行っているかもしれないという事実にどう対処しますか。さて、ネットワーク効果ビジネス、つまり私が生涯を通じて生きてきたもので、始めたときには名前がありませんでしたが、世界で最も価値のある企業はすべて本質的にネットワーク効果ビジネスであることを理解しています。なぜなら、ネットワーク効果が機能するからです。
一つの国が他の国より先を行っている2つの国があるとき、何が起こるでしょうか。簡単な例を挙げましょう。これはあなたと私です。私たちは小さなテックスタートアップを持っています。1000人ほどの人がいます。そしてある日、あなたと私は、AI研究者を持つことにします。つまり、AI研究を行うコンピュータです。
何人いるでしょうか。100万人います。十分なお金があるからです。そして彼らに必要なのは電気だけです。ピザを食べませんし、眠りません。それで今、あなたのイノベーションの傾斜がこのようになります。ネットワーク効果ビジネスでこれです。これはこのレベルでの利益の傾斜を生み出す可能性があります。
対戦相手は、あなたがそこに到達したら、彼らは決して追いつくことができないと判断するかもしれません。そうすればあなたは彼らに本当に悪いことをすることができます。それから、本質的には先制の競争条件の問題があります。ですから、これらはこれらのアイデアの始まりに過ぎません。しかし、AIがこれほど強力だと信じるなら、人間の経験のあらゆる側面が、国家安全保障、政治家、民主主義などを含めて、それに触れられることになります。
私は、民主主義はAGIを生き残るだろうかと言う人々との会話に多くの時間を費やしています。つまり、これらは、この知能の到来によって提起されている人類についての本当に核心的な質問なのです。
これまでのところ、かなり刺激的なインタビューです。それでは、今後の部分で、シュミット博士がAIバブルと、私たちの人類にとって歴史的に重要な発見について何を語るか見てみましょう。
業界のほとんどの経営者に尋ねれば、彼らは次のように言うでしょう。彼らは、私たちは過剰建設の時期にあると言うでしょう。彼らは、2年か3年で過剰容量になるだろうと言うでしょう。そして彼らに尋ねると、彼らは言うでしょう。「でも私は大丈夫で、他の人たちはすべてのお金を失うことになる。」
これは古典的なバブルですよね。それがバブルでないためには、何が真実である必要がありますか。もしあなたがサンフランシスコのコンセンサスを信じ、推論を信じるなら、それは推論を通じて、これらの前後の本質的に強化学習チェーンを通じて行われますが、もしあなたがそれらが人類の決定的な側面になると信じるなら、それは誇大宣伝されておらず、さらに多くが必要です。
それは狂っているように聞こえることはわかっていますよね。しかし、それが推論の基礎です。私は個人的にはわかりません。私はこれをかなり真剣に見てきました。なぜなら、これらの大規模なデータセンターがあり、Nvidiaはすべてのチップを喜んで販売しているからです。そして不動産開発業者は、これらのものを建設するためにお金を借りることに慣れています。
私は、ハードウェア容量がソフトウェアによって占有されなかった状況を見たことがありません。私が若かった頃の古い格言がありました。それは、グローブが与え、ゲイツが奪い去る、というものでした。Intelについて言及しています。古参者は覚えているでしょうが、Intelチップは良くなりましたが、コンピュータは決して速くなりませんでした。そして私たちは、なぜ速くならないのかと言っていました。まあ、この場合、Microsoftがこれらすべての追加機能を追加するからです。
ですから、私の経験に基づくと、これがバブルである可能性は低いと思います。まったく新しい産業構造を見ている可能性がはるかに高いです。これを考える一つの方法は、LLMと基盤モデルの発見です。これについては、当時のOpenAIのチームに適切に功績を与えるつもりですが、これは歴史的に重要な発見です。
公平に言えば、それらの人々のかなりの数が私のために働いていたことは言及しませんが、功績を彼らに与えましょう。その歴史的出来事は全体として非常に大きな問題です。AIはもはや単なるツールではありません。それはビジネス、社会、文化を再形成する力です。これがすべてどのように機能するかはまだ誰にもわかりませんが、準備が重要です。元OpenAI主任研究者からのこの力強いスピーチで締めくくりましょう。
イリヤ・サツケヴァーの未来予測
今、少し違ったことが起こっています。あなた方全員が去り、私たち全員がこれまでで最も異常な時代を去ります。そしてこれは人々がよく言うかもしれないことですが、今回は実際に真実だと思います。そして今回真実である理由は、AIのためです。明らかに、つまり、私が聞いたところによると、今日のAIはすでに学生であることの意味をかなりの程度変えています。
それは私が感じていることであり、真実だと思います。しかしもちろん、AIの影響はそれを超えています。私たちが行う仕事の種類はどうなるのでしょうか。それは、いくつかの未知で予測不可能な方法で少し変化し始めています。そしていくつかの仕事はそれをより早く感じるかもしれませんし、いくつかの仕事はそれを後で感じるかもしれません。
今日のAIで、Twitterに行って、AIが何ができるか、人々が何を言っているかを見ることができます。そしてあなたはそれを少し感じるかもしれません。どのスキルが有用か疑問に思います。どれがあまり有用でなくなるのか。それで、これらの質問が続いています。そして、現在のレベルの課題は、それが仕事と私たちのキャリアにどのように影響するかだと言えます。
しかし、AIの本当の課題は、本当に前例がなく、本当に極端で、今日の方法と比較して将来非常に異なるものになるでしょう。私たちは皆AIを見てきました。私たちは皆、コンピュータに話しかけ、コンピュータが私たちに話しかけてきました。これは新しいことです。
コンピュータは過去にこれをしませんでしたが、今はそうします。それで、あなたはコンピュータに話しかけ、それはあなたを理解し、あなたに話しかけ、音声でもそれを行い、いくつかのコードを書きます。それはかなりクレイジーですが、それができないこともたくさんあり、非常に非効率的です。だから、まだ多くのことに追いつく必要があると言えますが、それは喚起的です。
十分に良いので、自分自身に尋ねることができます。想像できます。わかりました。何年か後には、3年だと言う人もいれば、5年、10年だと言う人もいます。数字が投げかけられています。未来を予測するのは少し難しいですが、ゆっくりと、しかし確実に、あるいはそれほどゆっくりではないかもしれませんが、AIは良くなり続けるでしょう。
そして、AIが私たちができるすべてのことを行う日が来るでしょう。それらのいくつかだけでなく、すべてです。私が学ぶことができるもの、あなた方の誰もが学ぶことができるものすべてを、AIも同様に行うことができるのです。どうしてこれがわかるのでしょうか。ところで、どうしてそんなに確信が持てるのでしょうか。どうしてそんなに確信が持てるのでしょうか。理由は、私たち全員が脳を持っていて、脳は生物学的コンピュータだからです。
だから私たちは脳を持っているのです。脳は生物学的コンピュータです。では、なぜデジタルコンピュータ、デジタル脳は同じことができないのでしょうか。これが、AIがこれらすべてのことができる理由の一文の要約です。なぜなら、私たちは脳を持っていて、脳は生物学的コンピュータだからです。そして、何が起こるのかと自問し始めることができます。コンピュータが私たちの仕事のすべてを行うことができるとき、何が起こるのでしょうか。これらは本当に大きな質問です。これらは劇的な質問です。
そして今、あなたはそれについて少し考え始めます。あなたは、うわあ、それは少し激しいと思います。しかし、実際にはそれは激しさの一部に過ぎません。なぜなら、何が起こるのでしょうか。私たちという集合的なVは、これらのAIを何に使いたいのでしょうか。より多くの仕事をし、経済を成長させ、研究開発をし、AI研究をする。そうすれば、進歩の速度は少なくとも一定期間、本当に非常に速くなります。これらは非常に極端なことです。
これらは想像できないほどのことです。だから今、私はあなたをその中に少し引き込もうとしています。AIが作り出すこの本当に極端で急進的な未来というヘッドスペースに。しかし、それを想像するのも非常に困難です。非常に非常に想像するのが困難です。感情レベルで本当に信じ、内面化することは非常に困難です。
私でさえそれに苦労します。それでも論理は、これが非常に起こる可能性が高いことを示しているようです。そのような世界で何をすべきでしょうか。このような引用があります。こう言っています。あなたは政治に興味を持たないかもしれませんが、政治はあなたに興味を持つでしょう。同じことがAIに何倍も当てはまります。
そして特に、単にAIを使用し、今日の最高のAIが何ができるかを見ることで、直感を得ると思います。直感を得るのです。そしてAIが1年後、2年後、3年後も改善し続けるにつれて、直感は強くなります。そして私たちが今話していることの多くは、はるかに現実的になるでしょう。
それらはあまり想像上のものではなくなります。結局のところ、どれだけのエッセイや説明も、私たち自身の感覚、自分自身の二つの目で見るものと競争することはできません。そして特にAI、将来の非常に賢い超知能AIでは、彼らが言うことを言い、他の何かを装っていないことを確認することについて、非常に深刻な問題があるでしょう。
そして私はここで多くのことを少ない情報にここで時間的に凝縮しています。しかし全体として、AIが何ができるかを単に見て、それを無視しないことで、時が来たときに、AIが提起する巨大な課題を克服するために必要なエネルギーが生成されます。そしてある意味でAIが提起する課題は、人類史上最大の課題であり、それを克服することはまた最大の報酬をもたらすでしょう。そしてある意味で、あなたが好むと好まざるとにかかわらず、あなたの人生はAIによって大きく影響を受けることになります。だからそれを見て、注意を払い、そして出てくる問題を解決するエネルギーを生成すること、それが主なことになるでしょう。
コメント