元Google CEOの衝撃的な予測 | エリック・シュミット

AGIに仕事を奪われたい
この記事は約15分で読めます。

8,833 文字

Ex-Google CEO's DISTURBING Predictions | Eric Schmidt
The latest AI News. Learn about LLMs, Gen AI and get ready for the rollout of AGI. Wes Roth covers the latest happenings...

元Googleのエリックシュミットはこのように語っています。彼によれば、強力なAIとロボティック・ウェットラボの組み合わせにより、新たな数兆ドル規模の産業が生まれるとのことです。今日は彼が最近行ったインタビューを見て、この考えについて探ってみましょう。重要なのは、これが未来の話ではなく、今まさに起こっていることだということです。
少し前に、DeepMindのGnomeというAIシステムに関する論文を取り上げました。このシステムは、これまで見たことのない新材料を発見するためのものです。その規模を把握するために、この濃い青い円は人間単独の実験による各種材料の発見を表しています。次に大きい円は、様々な計算手法による新材料の発見です。そして、この巨大な薄い青い円、それがGnomeです。興味深いことに、Gnomeは人間が発見した材料の量を圧倒的に上回っています。「ドワーフ(小人)」と「圧倒する」をかけた言葉遊びですが、続けましょう。
理解すべき重要なことは、これには2つの部分があり、それがエリック・シュミットの説明している内容です。第一に、これらの新材料の潜在的構造を生み出す強力なAIモデルがあります。これらは候補と呼ばれます。つまり、ある種のレシピを作成し、「この材料を考えました」と言うのです。
この時点では、それが実際に機能するかどうか、構造的に安定するかどうかはわかりません。大規模言語モデルがレシピを考え出すようなものと考えられます。「これがおいしい料理の作り方です」というようなものですが、それが実際においしい料理になるかどうかはまだわかりません。
そして次に、実際のロボットラボがあります。これはいわば、24時間体制で料理を作るシェフのようなものです。このロボットアームに注目してください。このガラスは、ロボットが何か爆発するようなものや、混ぜるべきでないものを混ぜてしまった場合に備えて、防爆仕様になっていると思われます。そして24時間体制でこれらのレシピをテストし、材料を混ぜたり、かき混ぜたり、実際にそのレシピを作れるかどうかを確かめるために必要なことを行います。
この場合、具体的には様々な結晶構造の材料を使用しています。これは非常に刺激的で、建築材料やその他多くの分野に使用できる可能性があります。強い素材、柔軟な素材、あるいは他の特定の物理的特性を持つ素材が必要な場合、これはそのような材料の候補を発見する可能性を秘めています。
エリック・シュミットが語っているのは、これと非常によく似たものですが、小さな結晶を作るのではなく、薬品、病原体、ウイルス、その他の生物学的なものを作る可能性についてです。彼の言葉を借りれば、強力なAIとロボティック・ウェットラボ(実際の実験を24時間体制で行うことができる)の組み合わせです。
この画像を心に留めておいてください。この比較的新しい技術は、材料発見のプロセスを大幅に加速します。同じ考え方を生命科学に適用すれば、おそらく以前には見られなかった新しい特性を持つ多くの新しいものを非常に速いペースで生み出せると期待できます。
インタビュアーは「スターク家」についての冗談を言います。優れた本であり、最後の方まで素晴らしいテレビシリーズでしたが、その後少し落ち込みました。スターク家といえばダイアウルフで有名でした。ダイアウルフはもちろん1万年以上前に絶滅しましたが、今はどうでしょう。
かわいいダイアウルフたちです。ダイアウルフをかわいいと呼べるでしょうか?いずれにせよ、彼らはCRISPR技術のおかげで絶滅から復活しました。彼らは実際のダイアウルフとDNAの99.9%を共有しています。彼らは巨大で、あまり友好的ではありません。ロムルス、レイス、ケシという名前の3匹がいます。
では、エリック・シュミットのインタビューを見てみましょう。
「人々を興奮させるような例はありますか?個人的にはダイアウルフが気に入っています。犬のように見えますし、ポップカルチャーとのつながりもあり、想像力をかき立てます」
「その通りです。そして防衛にも使われます。スターク家の誰かに聞けば教えてくれるでしょう。…なんでもいいです。アメリカ人にこれが重要である理由を理解してもらえればいいのです。私は特定のグループの主要な資金提供者ですが、そのグループはモデルを構築しました。最初に化学を学び、化学のための基盤モデルとして訓練されました。そしてそれはロボットラボに接続され、このモデルは様々な種類の薬の仮説を生成します。ただ生成するだけで、それが正しいかどうかは神のみぞ知るといった状態です。そして一晩中、ロボットラボがそれらをテストし、一晩で報告書を提出します。そして再び始まります。
これについて言及しているのは、これがAIとバイオの融合の未来モデルだからです。AIシステムはあらゆる種類の候補を生成し、本質的に検索空間を縮小します。アルゴリズム的に考えると、指数関数的で多すぎる次元の指数があるので、空間を縮小する方法を考え出さなければなりません。この特定のグループはAIを使用して空間を縮小し、物事を実行しています。彼らの目標は、研究プロジェクトなので実現できるかどうかわかりませんが、今後2年以内にすべての人間の薬物標的を特定することです。もしそれが実現すれば、その情報はそのまま製薬業界に流れていきます。
これは考え方が異なり、彼らが薬を開発するために必要な標的を提供するという点で画期的です。私にとって興味深いのは、AIとウェットラボで何かを行うロボットラボの組み合わせです。考えるべきモデルの一つは、ウェットラボがロボット化され、AIを備えるというものです。本質的に、それらは人型ロボットではなく、アームロボットであり、ブンブンと動き、ピペッティングなどを行い、24時間体制で作業します。これはバイオテク産業の働き方の大きな変化です。」
次にエリックは、現在私たちが持つ最高のAIモデルであるフロンティアモデルと、中国の対応物との関係について説明します。これは次に何が起こるかを理解するためのものです。
「AIとバイオテクの協力と協働の度合いについて、1が最低で10が最高とする範囲で、現在はどの程度でしょうか?」
「それは状況によります。政治的に正しくない答えを出しますが、あなたの年齢によります。この分野の大学院生であれば、すべての博士課程プロジェクトは、私が説明したような形でAIを使用しています。AIの専門家として言えば、私たちは勝ったのです。完全に普及しました。ちなみに、これは化学でも物理学でも材料科学でも同様です。私の全体的な見解は、AIは過大評価ではなく過小評価されているということです。」
「どういう意味ですか?」
「それについては後で戻りますが、重要なのは、国家としての私たちの働き方の基盤である研究の種子は、大学院生とポスドクによって築かれており、彼らは全員この技術を使用しているということです。応用のほとんどを理解する能力はありませんが、使用されているツールは確かに見ています。過小評価されていると思います。毎日AIについて読んでいますが」
「実際にプレスを読むと、すべての企業は今やAI企業です。たとえ全くAIを行っていなくても、それが評価を高めることを理解しているからです。これは今日の市場では有用です。申し訳ありません。この部屋の誰もがChat GPTの瞬間を理解しています。ここにいる全員がChat GPTを使用しています。現在は4.0で、新しいものが登場します。Geminiもあり、他のものを上回る2.5という新しいものもあります。大のGoogle支持者として嬉しく思います。Claude 3もあり、プログラミングには最高のものです。これらはすべて同等のクラスにあります。中国のモデルDeepSeekも同じクラスにあります。イーロンのMemphisデータセンターから出てきたGrok 3も、現在TwitterとXAIの一部となっていますが、同じクラスにあります。
これらは言語から言語への変換と考えてください。質問すると答えが返ってきます。ある人に、人間関係のアドバイスに使っていると説明されました。また別の人は心理的アドバイスに使っていると言いました。私は「それが人間関係コーチや精神科医としてトレーニングされていないことを理解していますか?」と言いました。実際、それが精神科医だと言うのはおそらく違法です。なぜなら、テストに合格していないし、検証もされていないからです。しかし誰も気にしません。これらのモデルの力は並外れています。複雑な質問があるときはいつも、これらのサービスの1つに尋ねます。違いはありますが、大体同じカテゴリーにあります。」
次に、再帰的自己改善、これらのモデルのエージェント能力、計画と推論の能力、長期的なタスクを実行する能力について話し、これがどこで最大の影響を与えるかについて話します。
「それは昨年の話であり、誰もが現在の話だと思っています。次の話は計画能力です。OpenAI R3、失礼、O3やDeepseek R3を見てください。彼らは信じられないようなデモを行っています。何をしているか見せてほしいと頼むか、ほとんどのものに利用可能なDeep Researchを使うと、決定経路をどのように進むかを示してくれます。何かを試し、うまくいかなければ戻り、他のことを試し、それもうまくいかなければ、こちらに行き、うまくいったら、そして次はこちらに行くというように、選択肢のツリーをたどっています。これについて興味深いのは、これが私たちの考え方だということです。
私たちは言語会話から始まり、さらに今日の生物学の基盤モデルは、生物学的要素、化学などを予測するためにシーケンス予測を使用しています。それはすべて十分に確立されていますが、現在の大きなブレークスルーは、強化学習と呼ばれる技術を通じてのものです。「なるほど、かなり印象的ですね」と思うでしょう。業界として、私たちは今後1年以内に、プログラマーの大多数がAIプログラマーに置き換えられると考えています。また、1年以内に、大学院の数学プログラムの最上位レベルの大学院生レベルの数学者が登場すると考えています。これが起こると考える理由はたくさんあります。これがコンセンサスです。
「それは興味深いですね。私はその種の数学はできません。その数学ができる人はほとんどいません。コンピュータがどうして他の誰よりも良くその数学をできるのでしょうか?」ある程度、それは数学が人間の言語よりも単純な言語を持っているからです。これらのアルゴリズムが実際に機能する方法は、本質的に単語予測を行っているのです。文章を取り、単語を取り出し、正しい単語を戻す方法を学習します。これは損失関数と呼ばれ、人間には想像もつかない規模でそれを最適化しています。
数学でも同じことをしますが、そこではLeanと呼ばれるプロトコルを通じて、推測と証明の形式を使用します。プログラミングでは非常に単純で、プログラミングテストに合格するまでコードを書き続けるだけです。奇妙なことに、プログラマーに最初に尋ねる質問は「どの言語でプログラミングしますか?」ですが、正しい答えは「それは重要ではない」です。なぜなら、あなたは結果のために設計しているのであって、コンピュータによって生成されるコードは気にしないからです。これは全く新しい世界です。それが1年後です。
2年後には何が起こるでしょうか?私は推論について、プログラミングについて、数学について話しました。プログラミングと数学は私たちのデジタル世界の基盤です。OpenAIやAnthropicなどの研究グループからの証拠と主張によれば、彼らの研究プログラムで開発しているコードの約10%から20%がコンピュータによって生成されています。これは再帰的自己改善と呼ばれる技術用語です。このことがスケールし始めるとどうなるでしょう?多くのことが起こります。
一つの言い方として、3年から5年以内に一般知能(AGI)と呼ばれるものが登場するでしょう。これは、最も賢い数学者、物理学者、芸術家、作家、思想家、政治家(同じレベルではないかもしれませんが)と同じくらい賢いシステムと定義できます。しかし、それが1台のコンピュータに搭載されているところを想像してください。それはかなり興味深いですね。ちなみに、これをサンフランシスコ・コンセンサスと呼んでいます。なぜなら、これを信じる人は全員サンフランシスコにいるからです。水のせいかもしれません。
私たち全員が、あらゆる問題に対して最も賢い人間と同等のものをポケットに入れているとしたらどうなるでしょう?つまり、建築の問題があるときには最高の建築家を持っているということです。もう一つ進行中のことは、エージェント・ソリューションの開発です。エージェントとは、入力と出力とメモリを持ち、学習するシステムを指します。例として、私が別の家を買いたいとします。バージニア州が好きで、そこで育ちました。「McLeanエリアで家を探して」と言います。それが一つのエージェントです。すべての規則を調べ、どれくらいの大きさの家を建てられるかを計算するのは別のエージェントです。土地を購入する取引を行うのは別のエージェントです。人間の建築家と一緒に家を設計しますが、ほとんどのことでは彼らを無視し、サインオフだけしてもらいます。そして私が承認し、請負業者を見つけ、請負業者を雇い、請求書を支払い、最後にはパフォーマンス不足で請負業者を訴えます。
今、私は最も愚かな説明をしましたが、私はただ私たちの国のすべてのビジネスプロセス、すべての政府プロセス、そしてすべての種類の学術プロセスを説明しました。」
このチャンネルで議論してきたように、もう一つの大きな議論のトピックはオープンソースです。オープンソースは私たちが想像していたものとは非常に異なる方法で進化しています。ほとんどの人はオープンソースがフロンティアモデル、つまりこれらの大規模テクノロジー企業によって資金提供されている独自のモデルに遅れをとると考えていましたが、実際には、オープンソースは非常に強力なプレーヤーとなっています。実際、Googleは以前、モートはなく、オープンソースが彼らのランチを食べていると言いました。それはこのAIエコシステムにおいて非常に強力な力です。
中国のオープンソースプログラムは興味深いです。なぜなら中国はAI分野で多くの優れたオープンソース技術を生産しており、オープンソースとは基本的に世界全体が適切に使用できるように無料でリリースすることを意味します。彼らのモデルには最初に何らかの検閲があるかもしれませんが、それはユーザーや研究者の手に渡ると非常に簡単に取り除かれます。多くの面でオープンソースAIはもちろん良いものです。人々はそれから学び、研究やユースケースに組み込むことができ、世界中の誰もがより利用しやすくなります。
しかし、多くの人が指摘しているように、これは米国との競争において中国が使用する戦術や戦略かもしれません。無料のオープンソースモデルを押し出すことで、第一に米国のテクノロジー企業が競争することを非常に困難にします。無料で広く利用可能なものと競争することは難しいです。第二に、それは急速に広がり、制御が難しいです。米国はAIとAIの使用方法などの周りにグローバルなインフラを構築したいと考えています。これは、NVIDIAや業界の他の企業に対するチップ輸出規制の理由の一部です。このようなことには対抗するのが難しく、これは興味深い会話です。一方では多くの人に利益をもたらし、他方では中国と米国の力関係に影響を与えます。
「MetaはLlamaの新バージョンをリリースしました。Llama 4と呼ばれ、これも同じ範囲にあります。彼らは少し異なる役割を果たしています。彼らはオープンウェイトと呼ばれるものでリリースしたことで非常に良い仕事をしました。つまり、彼らは実際にアルゴリズムがどのように機能するかを示しています。他の企業は完全に独自のものです。これらは誰もが行っている複雑なビジネス上の決定です。
中国では、DeepSeekの瞬間は私たちのChatの瞬間に相当します。私はヘンリーと一緒にそこにいました。中国人とAIについて話すとき、これはヘンリーと一緒に話すということであり、これは私たちが生きていて、あなたの話を聞いているということを意味します。ありがとうございます。彼らはもうそれをしていません。DeepSeekが登場し、私たちの株式市場が一日で1兆ドルを失ったとき、突然彼らはその規模を理解し始めました。
今、中国ではこれらのことを加速させるための大規模なプログラムがあります。私は、私を含むこの部屋の他の人々が本当に一生懸命働いていたこれらのチップ規制が、私の見解では大部分が効果的だと思っていました。中国はどのようにしてそれらを回避したのでしょうか?その一部は単純な盗難と関税の回避でしたが、彼らは十分に賢かったため、前進するために異なる種類のコンピューティングを使用する新しいアルゴリズムを作成しました。
中国はオープンソースで運営しており、ソフトウェアを全員にリリースしているため、二つのことが起こります。私たちアメリカ人はすぐに彼らのアイデアを見て、私たち自身のものに組み込みました。中国に感謝します。あなたは新しいものを発明し、すぐに組み込みました。しかし第二に、それは無料なので、中国のモデルの拡散問題が現在非常に大きな問題となっています。私たちの政府はこの問題にどう対処するか、まだ成功せずに模索しています。これは非常に難しい問題です。私たちはこれらを「鬼のように難しい問題」と呼んでいます。」
最後に強調したかったのは、この増大が続いた場合に何が起こるか、二つの国がどのようにしてお互いが先に進むのを防ごうとするかについてです。ビデオには、米国に最高の人材を惹きつける方法などの現在の政治的トピックや、AIをあまり信じていない人々からの質問やAI開発により大きな役割を果たしたいと考えている人々からの質問を含むQ&Aセクションなど、さらに多くの内容があります。素晴らしいインタビューです。リンクを残しておきますが、この全体がどこに向かっているのかについて興味深い最後の部分を紹介します。
「もう一つの例を挙げましょう。これは私が本当に心配していることです。想像してみてください。あなたは良い人で、良い女性であり、私は悪者です。それはいいですね。良い女性、この場合はアメリカは先行しており、あなたはすべてを正しく行っています。私は悪者、中国や何でもいいですが、6ヶ月から12ヶ月遅れています。超知能に近づくにつれて、私はあなたと同じような立場にない限り、ますます心配になります。あなたは「何を文句言っているの?」と思うでしょう。
原子爆弾がソビエト連邦で再現されるまでに4年かかりました。その4年間、私たちは独占状態にありましたが、それはかなり速やかに解消されました。これらはネットワーク効果のあるビジネスであり、ネットワーク効果のあるビジネスはリーダーが90%のシェアを獲得する傾向があります。あなた、良い女性がこれを行っているシナリオでは、当然私たちアメリカ人はあなたを称賛しますが、あなたは世界の知能の90%以上のシェアを獲得する可能性があります。それは私にとっては恐ろしいことでしょう。私は何をするでしょうか?あなたを妨害しようとします。
まず手始めに、あなたの知的財産と人々を盗もうとするでしょう。そしてあなたはとても素晴らしい女性なので、私がそれをするのを防ぐことができました。次に私がすることは、あなたのAIに敵対的攻撃と呼ばれるものを使って、あなたのシステムを変更することです。あなたは「ありえない」と言います。私たちは素晴らしい暗号学者を持っており、あなたより6ヶ月先を行っていて、これを予測しているからです。私の次の手は何でしょう?あなたのデータセンターを爆撃します。
考えてみてください。私たちはイランの核プログラムについて何をするべきかについて、この国全体で議論をしています。私はその専門家ではありませんが、これらは、DCでここで行われる会話の種類です。中国がn月先に進んだ時点で、私たちは彼らのデータセンターを爆撃する意思があるでしょうか?
私のお気に入りの例は、私はこれに取り組んでおり、誰かと話していたとき、その人が答えは明らかだと言ったことです。私は「何?」と聞きました。良い女性と悪者である私たちは、お互いの電気供給にダイナマイトを置く条約に合意します。あなたが怒ればあなたは私の電気を爆発させることができ、私が怒れば私はあなたの電気を爆発させることができます。理解していただけると思います。
ある人は、それはすでに起こっていると言うかもしれません。まあ、人々のデータセンターへの物理攻撃はおそらく戦争行為でしょう。これは人々が考え始めているような思考の種類です。そして明らかにその提案は拒否されます。そのようなことは起こらないでしょう。私はそれを例として使用しています。これは、拡散問題の例であり、技術的にはこれは「針の目の問題」と呼ばれています。自分自身を殺し、他の全員を殺すことなく、この針の目を通り抜けてAIの約束の地に到達しなければなりません。」

コメント

タイトルとURLをコピーしました