11,382 文字
ビラワル・シドゥ：エリック・シュミット、お越しいただきありがとうございます。少し過去に戻りましょう。あなたは非人間型知能の到来は非常に重大なことだと言いました。そしてこの2016年に撮影された写真は、地球が私たちの足元で動いたけれど、多くの人が気づかなかった静かな瞬間のように感じます。当時、あなたは他の人が見逃していたものを何か見ていましたか？
エリック・シュミット：2016年当時、私たちはこれから何が起きるか理解していませんでしたが、これらのアルゴリズムが新しく強力なものだということは理解していました。
このゲームの対戦で起きたことは、おおよそ2戦目に、AIによって2500年も存在してきたゲームにおいて誰も見たことのない新しい手が生み出されたことでした。技術的には、AlphaGoのシステムは本質的に常に勝率50パーセント以上を維持するように組織化されていました。
そしてそれは正確にこの手を計算し、それは囲碁のプレイヤーたち、当然ながら非常に優れた数学的直感を持つプレイヤーたちの間で大きな謎となりました。ヘンリーとクレイグ・マンディと私が議論し始めた問題は、これは何を意味するのかということです。私たちのコンピューターがどうやって人間が考えもしなかったことを思いつくことができたのでしょうか？これは何十億もの人々がプレイしてきたゲームなのに。
そしてそれが2冊の本につながるプロセスが始まり、私は率直に言って、これが革命が本当に始まった時点だと思います。
ビラワル：現在に早送りすると、特にここTEDではAIについて誰もが話しているようです。しかしあなたは反対の立場をとっています。実際にはAIは過小評価されていると思っているんですね。
なぜそう思うのでしょうか？
エリック：その理由を説明します。ほとんどの方はAIを、一般的な用語としてChatGPTと考えています。ほとんどの方にとって、ChatGPTは「おお、これは文章を書くし、間違いもするけど、言語能力が素晴らしい」と感じた瞬間でした。それが私の反応でした。私の知人のほとんどがそう思いました。
ビラワル：本能的な反応でしたね。
エリック：それは2年前のことです。それ以来、AlphaGoが発明を助けた強化学習と呼ばれるものの進歩により、計画を立てることができるようになりました。良い例はOpenAI o3やDeepSeek R1を見れば、前に進んで戻り、また前に進んで戻る様子が分かります。
それは並外れています。私の場合、面白そうだからロケット会社を買いました。
ビラワル：（笑）そういうものですね。
エリック：そういうものです。そして私が専門家ではない分野で、専門家になりたいと思っている分野です。そこでDeep Researchを使っています。これらのシステムは15分かけて深い論文を書いています。
それはほとんどのシステムに当てはまります。あなたはこれらのスーパーコンピューターの15分の計算量がどれほど膨大なものか想像できますか？それは並外れています。今、あなたは言語から言語への移行、そして言語からシーケンスへの移行（生物学の方法）を目の当たりにしています。そして今、本質的に計画と戦略を行っています。
この技術の最終的な状態は、コンピューターがすべてのビジネスプロセスを実行することです。あるエージェントがこれを行い、別のエージェントがあれを行い、さらに別のエージェントが別のことを行う。そしてそれらを連結し、彼らは互いに言語でコミュニケーションを取ります。通常は英語です。
ビラワル：これらのシステムの膨大な計算要件について話しましょう。私はこれらのAIシステムをハングリー・ハングリー・ヒポのようなものだと考えています。彼らは私たちが投げ込むあらゆるデータと計算力を吸収しているようです。彼らはすでにインターネット上の公開トークンをすべて消化していて、データセンターを十分な速さで構築できないようです。実際の限界は何だと思いますか？そして、AIの進歩を阻害し始める前に、どうやってそれらを先取りすればいいでしょうか？
エリック：エネルギーには現実的な限界があります。
例を挙げましょう。ある計算では、そして私はこの週に議会でこれについて証言しましたが、アメリカにはさらに90ギガワットの電力が必要です。ちなみに私の答えは、カナダを考えてみてください。素晴らしい人々がいて、水力発電が豊富です。しかし、それは現在の政治的ムードではないようです。申し訳ありません。
90ギガワットはアメリカで90の原子力発電所に相当します。それは実現しません。私たちはゼロを建設しています。では、どうやってその電力をすべて得るのでしょうか？これは主要な国家的問題です。アラブ世界を利用することもできます。彼らは5〜10ギガワットのデータセンターを建設することに忙しいです。インドは10ギガワットのデータセンターを検討しています。
ギガワットがどれほど大きいかを理解するために、データセンターごとに都市を考えてみてください。それがこれらのものが必要とする電力の量です。そして人々はこれを見て、「アルゴリズムの改善がたくさんあり、必要な電力は少なくなる」と言います。昔のルールがあります。私は古いので覚えていますが、「グローブ（インテルのアンディ・グローブ）が与え、ゲイツが奪う」というものです。
ハードウェアはどんどん速くなります。物理学者たちは驚くべきことをしています。彼らが成し遂げてきたことは本当に信じられないほどです。そして私たちソフトウェア関係者は、それをただ使い続けます。そして計画を見ると、少なくとも今日のアルゴリズムでは、行ったり来たり、これを試してそれを試してみるという感じです。自分で見てみてください。
Andreessen Horowitzのレポートでご存知のように、よく研究されていますが、計画の種類を行うだけでも、必要な計算量が少なくとも100倍、おそらく1000倍増加するという見積もりがあります。技術は本質的にディープラーニングから強化学習へ、そしてテストタイム計算と呼ばれるものへと進化します。テストタイム計算では、計画を立てるだけでなく、計画を立てながら学習も行います。
それが、計算ニーズの頂点、あるいは何と呼ぶかはともかく、そういうものです。それが問題の一つ目、電気とハードウェアです。二つ目の問題は、データが不足したのでそれを生成し始める必要があるということです。しかしそれは簡単にできます。それが機能の一つだからです。そして私が理解していない三つ目の問題は、知識の限界は何かということです。例を挙げましょう。
世界中のすべてのコンピューターが集まって、みんなが考え、以前に発明された知識に基づいて考えているとしましょう。どうやって完全に新しいものを発明するのでしょうか？アインシュタインを例に取りましょう。科学的発見がどのように機能するかを研究すると、生物学、数学などで典型的に起こることは、真に優れた人間が一つの分野を見て、「別の分野にあるパターンが見えるが、それは最初のものとは何の関係もない。しかし同じパターンだ」と言うことです。
そして彼らは一つの分野からツールを取り、それを別の分野に適用します。今日、私たちのシステムはそれができません。もし私たちがそれを解決できれば、私はこれに取り組んでいますが、これに対する一般的な技術用語は目標の非定常性です。ルールが常に変化しています。私たちがその問題を解決できるかどうか見てみましょう。
もし解決できれば、私たちはさらに多くのデータセンターが必要になるでしょう。そして私たちは完全に新しい科学的および知的思考の学派を発明することもできるでしょう。それは信じられないほど素晴らしいことです。
ビラワル：頂点に向かって進むにつれて、自律性は大きな議論のトピックとなっています。ヨシュア・ベンジオは今週初めに説得力のある講演を行い、AI研究所は自律的な行動を取る能力を持つエージェント型AIシステムの開発を停止すべきだと主張しました。
しかし、それはまさにすべてのAI研究所にとって、そしてあなた自身にとっても次のフロンティアであるように思えます。ここでの正しい決断は何でしょうか？
エリック：ヨシュアは私たちが話していることの多くを発明した優れた発明家であり、個人的な友人です。私たちはこのことについて話し合い、彼の懸念は非常に正当なものです。
問題は彼の懸念が正しいかどうかではなく、解決策は何かということです。では、エージェントについて考えてみましょう。議論のために、会場の皆さん全員がエージェントだとしましょう。あなたには英語や他の言語の入力があり、英語の出力があり、すべての人間と同様にメモリがあります。
今、私たち全員が忙しく働いていて、突然、あなたの中の誰かが人間の言語を使わずに、独自のコンピューター言語を発明する方がはるかに効率的だと決めたとします。今、あなたと私はここに座って、これをすべて見ていて、「今何をすればいいの？」と言っています。正しい答えはあなたのプラグを抜くことです。なぜなら、私たちはあなたが何をしているのか知らないからです。
そしてあなたは実際に何か本当に悪いことをしているか、本当に素晴らしいことをしているかもしれません。私たちはそれを見ることができるようにしたいのです。だから私たちには出所、あなたと私が話し合ったことですが、それを観察できるようにすることも必要です。私にとって、それは核心的な要件です。業界が信じる基準のセットがあり、それはメタファー的にプラグを抜きたいポイントです。
一つは制御できない再帰的自己改善です。再帰的自己改善とは、コンピューターが学習を続け、何を学んでいるのか分からないという状態です。それは明らかに悪い結果につながる可能性があります。もう一つは武器への直接アクセスです。また、コンピューターシステムが私たちの許可なく自分自身を流出させたり、複製したりすることを決定することもあります。
そのようなものがいくつかあります。とても優れた人に対するヨシュアのスピーチの問題は、グローバルな競争市場でのものを停止することは現実にはうまくいかないということです。エージェント的な仕事を停止する代わりに、私たちはガードレールを確立する方法を見つける必要があります。私たちはそれについて話し合ったので、あなたもそれに同意していると思います。
（拍手）
ビラワル：それはジレンマについてうまく話すことにつながると思います。この技術に関してはたくさんのジレンマがあります。最初に取り上げたいのは、この技術の非常に二重用途的な性質、つまり民間と軍事の両方の応用ができるということです。
あなたはこの技術と人間がそれをどのように展開するかに伴うジレンマや倫理的な問題についてどのように考えていますか？
エリック：多くの場合、私たちはすでに個人的責任についての原則を持っています。簡単な例として、私は多くの軍事的な仕事をしており、今も続けています。米軍には「3000.09」と呼ばれるルールがあり、一般的に「ループ内の人間」または「有意義な人間による制御」として知られています。私たちの制御下にないシステムは望ましくありません。それは私たちが越えられない一線です。それは正しいと思います。西洋、特に米国と中国の間の競争は、この分野で決定的なものになると思います。
いくつか例を挙げましょう。まず、現在の政府は実質的に145%の互恵関税を設けています。それはサプライチェーンに大きな影響を与えます。私たちの業界は、ある意味では退屈かもしれませんが、非常に重要な中国からのパッケージングや部品に依存しています。コンピューターの一部である小さなパッケージや小さな接着剤などです。
もし中国がそれらへのアクセスを拒否したら、それは大きな問題になるでしょう。私たちは彼らが最先端のチップへのアクセスをできないようにしようとしており、彼らはそれに非常に怒っています。キッシンジャー博士はクレイグと私に中国とのトラックIIの対話を行うよう依頼し、私たちは彼らと会話をしています。彼らが提起する一番の問題は何でしょうか？この問題です。
実際、DeepSeekを見ると、本当に印象的ですが、彼らはより効率的にすることで問題を回避するアルゴリズムを見つけることに成功しました。中国がすべてオープンソース、オープンウェイトで行っているため、私たちはすぐに彼らの発明の恩恵を受け、米国のものに取り入れました。今、私たちは非常に不安定な状況にあると思います。米国は多くの良い理由から、主に閉じたモデル、主に非常に良い制御下にあるものを推進しています。
中国は何か変わらない限り、オープンソースのリーダーになる可能性が高いです。そしてオープンソースは世界中への非常に急速な拡散につながります。この拡散はサイバーレベルとバイオレベルで危険です。しかし、それがより重要な方法で、核の脅威の観点からなぜ危険なのかをお話しします。
私たちが皆とても緊密に協力していたキッシンジャー博士は、相互確証破壊、抑止力などの設計者の一人でした。そして今起きていることは、例で説明した方が分かりやすいので例を挙げます。あなたが善人で、私が悪人だとしましょう。あなたは私より6ヶ月先を行っており、私たち両方が超知能に向かって同じ道を進んでいます。
そしてあなたはそこに到達します。そしてあなたはそこに到達すると確信していて、とても近いです。そして私は6ヶ月遅れています。かなり良いですね？良さそうに聞こえますね。いいえ。これらはネットワーク効果ビジネスです。そしてネットワーク効果ビジネスでは、改善の傾きがすべてを決定します。
例えばOpenAIやGeminiを使用すると、彼らには1,000人のプログラマーがいます。彼らは100万人のAIソフトウェアプログラマーを作成しようとしています。それは何をもたらすでしょうか？まず、電気以外の餌を与える必要がないのでそれは良いことです。そして彼らは辞めたりしません。第二に、傾きはこのようになります。
超知能に近づくにつれて、傾きはこうなります。もしあなたが最初に到達すれば、あなたは悪者で—
ビラワル：あなたは決して私に追いつけないでしょう。
エリック：私はあなたに追いつくことができないでしょう。そして私はあなたに世界を再発明するツール、特に私を破壊するツールを与えました。それが、私という悪者の脳がどのように考えるかです。
では私は何をするでしょうか？最初にすることはあなたのコードをすべて盗もうとすることです。そしてあなたは優れているのでそれを防いでいます。そしてあなたは優れていました。だからあなたはGoogleでも優れています。次に、私は人間であなたに浸透しようとします。まあ、あなたはそれに対して良い保護を持っています。
私たちにはスパイがいません。では何をするでしょうか？私はあなたのモデルを変更します。修正します。実際にあなたを混乱させて、私があなたより1日先に行けるようにします。そしてあなたはとても優れているので、私はそれができません。私の次の選択肢は何でしょうか？あなたのデータセンターを爆撃することです。
今、あなたは私が正気でないと思いますか？これらの会話は今日の世界の核保有国の間で行われています。正当な人々が、この問題に対する唯一の解決策は先制攻撃だと言っています。今、私はあなた、つまり良い人が世界全体を制御する鍵を持とうとしていると言いました。経済的支配、イノベーション、監視、あなたが気にすることが何であれ。
私はそれを防がなければなりません。私たちの社会には言語がなく、外交政策の専門家はこのことを考えておらず、これが来ようとしています。それはいつ来るのでしょうか？おそらく5年後です。私たちには時間があります。この会話のための時間があります。そしてこれは本当に重要です。
ビラワル：これについて少し掘り下げてみましょう。これが真実で、このような対峙シナリオに陥る可能性があり、相互確証破壊の相当物になるとしたら、あなたはまた、中国のDeepSeekがわずかな計算でできることを示した後でも米国はオープンソースAIを受け入れるべきだと言いました。
しかし、これらのモデルをオープンソース化することは、ただ敵対者に能力を与え、彼ら自身のタイムラインを加速させることにならないでしょうか？
エリック：これは「邪悪な困難な問題」と呼ばれるものの一つです。私たちの業界、私たちの科学、私たちが構築してきた世界のすべては学術研究、オープンソースなどに基づいています。
Googleの技術の多くはオープンソースに基づいていました。Googleの技術のいくつかはオープンソースで、いくつかは独占的なものであり、完全に正当です。本当に危険なオープンソースモデルがあり、それがオサマ・ビン・ラディンのような、残念ながら一人以上いる人々の手に渡ったらどうなるでしょうか。
私たちは知りません。現在、業界のコンセンサスはオープンソースモデルはまだ国家または世界的な危険の段階にはないということです。しかし、そこに至るパターンが見えます。したがって、今後は米国と中国、そして両国の企業で行われる主要な決定に多くが依存することになります。私が米国と中国に焦点を当てる理由は、それらが新しいビジョンを構築するために必要な何十億ドルものお金を使うほど狂っている唯一の二国だからです。
ヨーロッパはそれをしたいと思っていますが、それを行うための資本構造を持っていません。インドさえも、彼らが望んでいるにもかかわらず、それを行うための資本構造を持っていません。アラブ人はそれを行うための資本構造を持っていませんが、彼らはそれに取り組んでいます。したがって、この戦い、この闘いが決定的な闘いになるでしょう。
私はこの戦いを心配しています。キッシンジャー博士は中国との戦争に至る可能性が高い道は偶発的なものだと話していました。そして彼は第一次世界大戦の研究者でした。もちろん、それは小さな出来事から始まり、1914年のその夏に拡大しました。そしてそれは恐ろしい大火災でした。私が話しているような一連のステップが、恐ろしい世界的な結果につながる可能性があると想像できます。
だからこそ私たちは注意を払わなければならないのです。
ビラワル：次に夢の話に移る前に、ここでの繰り返される緊張の一つについて話したいと思います。AIシステムを大規模に調整するために、AI安全性における奇妙な緊張があります。「1984年」を防ぐための解決策が「1984年」のように聞こえることがよくあります。
個人証明は今ホットなトピックです。大規模なこれらのシステムを調整することはホットなトピックです。あなたはそのトレードオフをどのように考えていますか？ディストピアを防ごうとする中で、例えば非国家主体がこれらのモデルを望ましくない方法で使用することを防ごうとする中で、私たちは誤って究極の監視国家を構築してしまうかもしれません。
エリック：私たちの社会で持っている価値観に固執することが本当に重要です。私は個人の自由に非常に、非常にコミットしています。意図の良いエンジニアが最適化され、あなたの自由を制限するシステムを構築することは非常に簡単です。だから、人間の自由がこの中で保存されることが非常に重要です。
これらの多くは技術的な問題ではなく、本当にビジネス上の決定です。監視国家を構築することは確かに可能ですが、自由をもたらすものを構築することも可能です。あなたが説明しているジレンマは、誤った情報に基づいて操作することが今や非常に簡単であるため、私が話していることは誰もが知っていますが、本当に身元証明が必要です。
しかし、身元証明には詳細を含める必要はありません。例えば、様々な暗号技術を使用して、あなたが人間であることの暗号証明を持つことができ、それは実際に他の何もなく真実である可能性があり、また他の人とリンクすることができない可能性があります。
ビラワル：ゼロ知識証明やその他の技術ですね。
エリック：ゼロ知識証明が最も明白なものです。
ビラワル：では、夢の話に移りましょうか？あなたの著書「Genesis」では、ヘンリー・キッシンジャーと共著したものですが、慎重に楽観的なトーンを示しています。将来を見据えたとき、私たちは何に期待すべきでしょうか？
エリック：私は年齢的に、友人の何人かが本当に恐ろしい病気にかかっています。
今すぐそれを修正できないでしょうか？それらすべてを単に排除することはできないでしょうか？なぜ私たちはこれらをすぐに受け入れて、すべての病気を根絶することができないのでしょうか？それはかなり良い目標です。私は今後2年間ですべての人間の薬剤標的を特定し、科学者に公開しようとしている非営利団体を知っています。
薬剤標的が分かれば、製薬業界はその開発に取り組み始めることができます。私が関わっている別の会社では、第3相試験のコストを一桁削減する方法を見つけたとされています。ご存知のように、それらは最終的に薬のコスト構造を決定するものです。
それは一例です。暗黒エネルギーがどこにあるか知りたいし、それを見つけたいと思います。暗黒エネルギー、暗黒物質には膨大な物理学があると確信しています。材料科学の革命について考えてみてください。無限に強力な輸送手段、無限に強力な科学など。
もう一つ例を挙げましょう。なぜ私たちは地球上のすべての人間が幼稚園から始まる新しいことを学ぶのを助けるために、自分の言語で自分のチューターを持っていないのでしょうか？それは明らかです。なぜ私たちはそれを構築していないのでしょうか？唯一可能な答えは、良い経済的論拠がないに違いないということです。
技術は機能します。彼らの言語で教え、学習をゲーム化し、人々を自然な最高の長さに導きます。もう一つの例。世界の医療の大部分は存在しないか、看護師相当の人や非常に切迫した地域の村の医師によって提供されています。なぜ彼らは自分の言語で、完璧な医療を持つ医師の助手を持っていないのでしょうか？まだまだあります。
デジタル世界には多くの問題があります。私たち全員が海の中で自分の船にいて、お互いに話していないような感じがします。つながりと接続への飢えの中で、これらのツールは私たちをより孤独にします。私たちはそれを修正する必要があります。しかし、これらは修正可能な問題です。新しい物理学は必要ありません。
新しい発見は必要ありません。私たちは決断さえすればいいのです。だから、この未来を見る時、私はAIレベル、一般知能であるAGI、そして超知能のこの知性の到来が、人間社会において約500年、おそらく1000年の間で起こる最も重要なことだということを明確にしたいと思います。
そしてそれは私たちの生涯で起きています。だから、台無しにしないでください。
ビラワル：もしそうならなかったとしましょう。（拍手）もし台無しにしなかったとしましょう。この豊かさの時代にたどり着いたとしましょう。そのような場所に到達し、再帰的自己改善のポイントに達したとします。AIシステムが経済的生産的なタスクの大部分を引き受けます。
あなたの考えでは、この未来で人間は何をするのでしょうか？私たちは皆、ビーチでピニャコラーダを飲みながら趣味に打ち込んでいるのでしょうか？
エリック：あなたはリベラルなテクノロジスト。あなたはUBI（普遍的基本所得）に賛成に違いない。
ビラワル：いいえ、いいえ、いいえ。
エリック：人間はこの信じられない発見の真っただ中でも変わっていません。私たちが弁護士をなくすと本当に思いますか？いいえ、彼らはただより洗練された訴訟を持つようになるでしょう。
私たちが政治家をなくすと本当に思いますか？いいえ、彼らはただあなたを誤解させるためのプラットフォームをより多く持つでしょう。申し訳ありません。私はまだまだ続けることができます。この新しい経済について理解すべき重要なことは、私たちは社会として、人間が十分に生まれていないということです。アジアの出生率を見てください、二人の親に対して実質的に1.0です。
これは良くありません。だから、私たちの残りの人生の間、重要な問題は生産的な人々、つまり人生の生産的な期間にある人々を得て、私のような老人をサポートするためにより生産的にすることになるでしょう。若い人たちからもっと多くのものを欲しがる私のような人をサポートするのです。それが機能する方法です。
これらのツールはその生産性を急激に高めます。エージェントAIとディスカバリー、そして私が説明しているスケールに関するこの一連の仮定の下で、年間30%の生産性向上があるという研究があります。
多くの経済学者と話した結果、彼らはその種の生産性向上がどのようなものかについてのモデルを持っていません。私たちはそれを見たことがありません。それは私たちの歴史の中で民主主義や王国の台頭の際にも起こりませんでした。これから起こることは信じられないほどです。うまくいけば、私たちは正しい方向にそれを向けるでしょう。
ビラワル：それは本当に信じられないことです。これをまとめましょう、エリック。あなたは数十年にわたる技術的変化をナビゲートしてきました。このAI移行の中をナビゲートしているすべての人、技術者、リーダー、興奮と不安が入り混じった気持ちを抱いている市民にとって、今日私たちが生きているこの狂気の瞬間をナビゲートするためにあなたが提供したい知恵や助言は何ですか？
エリック：覚えておくべきことの一つは、これはスプリントではなくマラソンだということです。
ある年、私は100マイルの自転車レースをすることにしましたが、それは間違いでした。そしてそのアイデアは、私がスピンレートについて学んだことでした。毎日起きて、ただ続けていくのです。Googleでの仕事から、私たちが成長している速さだと、1年でとても多くのことを成し遂げて、どれだけ進んだかを忘れてしまうということを知っています。
人間はそれを理解できません。そして私たちはこのような状況にあります。指数関数的なものはこのように動いています。このことがより早く起こるにつれて、2年前や3年前に何が真実だったかを忘れてしまうでしょう。それが重要なことです。だから皆さんへのアドバイスは、波に乗ることですが、毎日それに乗ることです。それをエピソード的なものや終わらせることができるものとして見るのではなく、それを理解し、それに基づいて構築してください。
皆さん一人一人がこの技術を使用する理由があります。あなたがアーティスト、教師、医師、ビジネスパーソン、技術者であれ。この技術を使用していなければ、同僚グループや競合他社、成功したいと思っている人々と比較して関連性がなくなるでしょう。
それを採用し、迅速に採用してください。これらのシステムがどれほど速いかに私は衝撃を受けました。余談ですが、私のバックグラウンドはエンタープライズソフトウェアで、最近ではAnthropicからモデルプロトコルがあります。実際に、コネクタなしでモデルをデータベースに直接接続することができます。これがオタクっぽく聞こえることは分かっています。これらの柔軟性があるため、消えてしまう業界全体があります。
あなたは望むことを言えば、それが生成されるだけです。それがビジネスにおける本当の変化の例です。そのようなことが毎日たくさん起きています。
ビラワル：紳士淑女の皆さん、エリック・シュミットです。
エリック：どうもありがとうございます。（拍手）
コメント