21,018 文字
ハサビスさん、ハードフォークに再び出演していただき、ありがとうございます。こちらこそ、お招きいただきありがとうございます。前回の出演以来、多くのことが起こりましたね。特に注目すべきは、あなたがノーベル賞を受賞されたことです。おめでとうございます。私たちの分はまだ郵送中のようですが、来年の委員会に良い言葉をかけていただけますか？
そうですね、そうしましょう。ノーベル賞を受賞するのはとても興奮することだと思います。長い間あなたの目標だったことは知っています。きっと日常生活でも多くの人から嫌味を言われるようになったのではないでしょうか。例えば、プリンターがうまく動かなくて困っていると、「おや、ノーベル賞受賞者のくせに」なんて言われたりしませんか？
少しはありますね。でも、そういうときは「だからこそ、そういうことを修理しなくてもいい言い訳になる」と言うようにしています。盾のような感じですね。
先日Google I/Oが開催されましたが、本当にGeminiショーでしたね。基調講演でGeminiという名前が95回も言及されたと思います。発表されたすべての中で、一般ユーザーにとって最も大きなインパクトを与えるのは何だと思いますか？
確かに多くのことを発表しました。一般ユーザーにとっては、新しい強力なモデルと、Gemini Liveに導入されるAstraタイプの技術だと思います。初めて使用する人にとっては本当に魔法のような体験で、AIが今日既に彼らが思っていた以上のことができることに気づくのです。そして、V3が今回のショーの最大の発表だったと思います。今バイラルになっているようで、とても興奮しています。
今年のI/Oで前年と比べて印象的だったのは、Googleが汎用人工知能（AGI）に本気になっているように見えることです。数年前にGoogleの研究者たちにインタビューしたときを思い出しますが、AGIについて話すのは少しタブーでした。彼らは「ああ、それはデミスとロンドンの彼のDeepMindの人たちの話ですね。彼らの狂気じみた興味の対象です。でも私たちは本当の研究をしています」という感じでした。しかし今では、Googleの上級幹部たちが公然とAGIについて話しています。この変化の理由は何でしょうか？
AI部分が方程式の中でますます中心的になっていることだと思います。私は時々、Google DeepMindをGoogleのエンジンルームと表現しています。昨日の基調講演を見れば、一歩下がって見ると、AGIという言葉が適切かもしれませんが、私たちは人間レベルの汎用知能に非常に近づいています。おそらく数年前に人々が思っていたよりも近いのです。そしてこれは広範囲にわたる横断的な影響を与えるでしょう。基調講演でも見られたように、文字通りあらゆる場所に現れています。なぜなら、すべてを支える水平レイヤーだからです。誰もがそれを理解し始めており、DeepMindの精神がGoogle全体に浸透しているのは素晴らしいことです。
Project Astraについて言及されましたが、一般の人々がAIにまだできることを理解していないものを動かしているとのことでした。これは現在のAIビジネスの真の課題を示していると思います。モデルには非常に驚くべき能力がありますが、製品がそれらを売り込んでいないか、ユーザーがまだそれらを理解していないかのどちらかです。この課題についてどう考えていますか？そして、研究の問題と比べて、製品の問題にどの程度取り組んでいますか？
とても良い質問ですね。この分野の課題の一つは、明らかに基盤技術が信じられないほど速く動いていることです。これは、インターネットやモバイルなど、他の大きな革命的技術とは大きく異なります。ある時点で技術スタックがある程度安定し、その後は製品やその技術スタックの活用に焦点を当てることができました。しかし私たちが持っているものは、研究者の観点からは非常に珍しく、また興奮することでもありますが、技術スタック自体が信じられないほど急速に進化していることです。
これは製品側にとって独特に困難なことだと思います。私たちGoogle DeepMindだけでなく、スタートアップにとっても、実際のところあらゆる企業、大小を問わず困難です。私たちが見てきたように、1年で100%良くなる可能性があるとき、今何に賭けるべきでしょうか？そこで興味深いことが起こります。かなり技術的に深い製品の人々、製品デザイナーやマネージャーが必要になります。1年後に技術がどこにあるかを予測するためです。今日はできないことがあり、1年後に出てくる製品を設計したいのです。どの機能に頼ることができるかを理解するために、技術とその向かう方向について非常に深い理解が必要です。これは興味深いことです。多くの異なることが試され、何かが機能すれば、それに素早く本格的に取り組む必要があることがわかります。
基調講演では、Geminiが生産性アシスタント的なものと、基礎科学と研究の課題の両方を支えていると話されました。あなたの考えでは、これらは一つの偉大なモデルが解決できる同じ問題なのでしょうか？それとも、異なるアプローチを必要とする非常に異なる問題なのでしょうか？
信じられないほど幅広いことのように見えますが、それは事実です。これらのことはどのように関連しているのでしょうか？私がそれらすべてに興味を持っているという事実以外に。しかし、これは汎用知能を構築するという考えの根本でした。真に汎用的で、私たちがやっているこの方法では、生産性からほぼすべてに適用できるはずです。これは非常に興奮することで、日常生活で何十億もの人々を助けることから、科学の最大の問題を解決することまで。
90%は基盤となるコア汎用モデル、私たちの場合はGemini、特に2.5だと言えるでしょう。これらの分野のほとんどで、まだ追加の応用研究や、ドメインからの少しの特別な対応、特別なデータなどが必要です。その問題に取り組むために、科学分野ではドメインエキスパートと協力することもあります。しかし、その根底にあるのは、これらの分野の一つを攻略すると、その学習を汎用モデルに戻すことができ、汎用モデルがどんどん良くなることです。
これは非常に興味深いフライホイールで、多くのことに興味を持つ私のような人にとっては素晴らしい楽しみです。この技術を使って、興味を持つほぼあらゆる分野に進出できるのです。
多くのAI企業が現在取り組んでいることの一つは、基盤モデルでモデルを基本レベルで改善するコアAI推進にどれだけのリソースを割くかと、その一部を商業化して製品に変えることにどれだけの時間とエネルギーと資金を費やすかです。これはリソースの課題でもありますが、人材の課題でもあると思います。例えば、AGIを構築したくてDeepMindにエンジニアとして参加したとして、Googleの誰かがやって来て「実際には、人々が服を試着できるショッピング機能を構築するのを手伝ってほしい」と言ったとします。一つの理由で参加した人に別のことをするよう求めるのは、困難な会話になりますか？
私たちは内部で自己選択的なので、そうする必要はありません。これは非常に大きいことの利点の一つです。製品チームと製品分野には十分なエンジニアがいて、製品開発を扱うことができます。研究者がコア研究に留まりたければ、それは全く問題ありません。私たちにはそれが必要です。
しかし実際のところ、多くの研究者は現実世界のインパクトに非常に動機づけられていることがわかります。明らかに医学や、Isomorphicのようなものもありますが、何十億もの人々に自分の研究を使ってもらうことも。それは実際に非常に動機づけられることで、両方をやりたい人がたくさんいます。そのため、人々を特定のことに転向させる必要はありません。
昨日、Googleの共同創設者のセルゲイ・ブリンとパネルをされましたが、彼はオフィスに戻ってこの分野で働いており、興味深いことに、彼はあなたよりもAGIのタイムラインが短いのです。彼はAGIが2030年前に到着すると考え、あなたはその直後だと言いました。彼は実際に、あなたがサンドバッギング、つまり人為的に見積もりを押し出して、約束を少なくして期待を上回ろうとしていると非難しました。
しかし、これについて興味深いのは、異なるAI企業の人々がタイムラインについて議論するのをよく聞きますが、おそらくあなたとセルゲイは同じ情報と同じロードマップにアクセスでき、何が可能で何が不可能かを理解しているはずです。それでは、AGIがいつ到着するかについて異なる結論に至る理由は、彼が見ているもので、あなたが見ていないもの、またはその逆は何でしょうか？
まず第一に、彼が2030年直前で、私が直後であれば、私たちのタイムラインにはそれほど大きな違いはありませんでした。また、私のタイムラインは2010年のDeepMind開始以来、非常に一貫しています。私たちはそれが約20年のミッションだと考えており、驚くべきことに軌道に乗っています。そのあたりのどこかだと思います。
実際に、私は今から5年から10年の間に最も確率の塊がある確率分布を持っています。これは部分的に、5年から10年先のことを正確に予測するのは非常に困難だからです。そのため、不確実性のバーがあります。そして、どれだけ多くのブレークスルーが必要かという不確実性もあります。そしてAGIの定義についても。
私は常に持っていた非常に高いバーがあります。それは、人間の脳ができるすべてのことを、理論的にでもできるべきだということです。これは、典型的な個人の人間ができることよりも高いバーです。それは明らかに経済的に非常に重要で、大きなマイルストーンになりますが、私の見解では、それをAGIと呼ぶには十分ではありません。
私たちはステージで、今日のシステムに欠けているもの、真の既存の枠にとらわれない発明と思考について少し話しました。推測を解決するのではなく、推測を発明することです。解決することはかなり良いですが、実際にリーマン予想や数学者が本当に重要だと同意するほど重要なものを発明することは、はるかに困難です。そして一貫性も。
一貫性は汎用性の要件です。トップエキスパートでさえ、特に些細な欠陥をシステムで見つけるのが非常に困難であるべきです。私たちは今日簡単に見つけることができ、一般の人でもそれができます。そのため、私がAGIと考えるものになる前に、能力のギャップと一貫性のギャップがあります。
そのギャップを埋めることを考えるとき、それは各後続モデルでの段階的な2-5%の改善が長期間にわたって積み重なることで到着すると思いますか？それとも、何らかの技術的ブレークスルーに到達し、その後突然離陸して何らかの知能爆発に到達する可能性が高いと思いますか？
両方だと思います。確実に両方が有用になるでしょう。だからこそ、私たちはスケーリングと、あなたが段階的と呼ぶもの（実際にはその中にも多くの革新があり、それを前進させ続けるための事前訓練、事後訓練、推論時計算のすべてのスタック）を信じられないほど強く推進しています。実際には多くの興奮する研究があり、私たちはその一部を示しました。拡散モデル、ディープシンクモデルなど。私たちは、従来のスタックと呼ぶべきものの全ての部分で革新しています。
そして、その上で、Alpha Evolveのような、よりグリーンフィールドな、よりブルースカイなことをやっています。グリーンフィールドとブルースカイの違いがあるかどうかはわかりません。おそらく非常に似ているでしょう。新しい分野と呼びましょう。
そして、それがメインブランチに戻ってくる可能性があります。あなた方両名が知っているように、私は基礎研究の根本的な信者でした。私たちは常に、どの研究所よりも最も広く、最も深い研究ベンチを持っていたと思います。それが過去の大きなブレークスルー、明らかにトランスフォーマー、しかしAlphaGo、AlphaZero、これらすべて、蒸留を可能にしました。
そのレベルの別の大きなブレークスルーが再び必要な範囲で、私たちがそれを行うことに賭けるでしょう。私たちは段階的なものと同様に、そのようなステップチェンジをもたらす可能性のある多くの非常に興奮する道を追求しています。そして、それらはもちろん相互作用もします。基盤モデルが良くなればなるほど、その上で試すことができるものが増えます。再びAlpha Evolveのように、この場合は大規模言語モデルの上に進化プログラミングを追加します。
最近、ジャーナリストのカレン・ハウと話しましたが、彼女はAIについての本を書いたばかりです。彼女は基本的にスケールに対する議論をしていました。信じられないほどエネルギー集約的で計算集約的で、何十億ドルと新しいデータセンターとあらゆる種類のリソースを必要とする、これらの大きな汎用モデルは必要ないということです。そのようなことをする代わりに、より小さなモデルを構築できます。より狭いモデルを構築できます。タンパク質の3D構造を予測するためだけに設計されたAlphaFoldのようなモデルを持つことができます。それを達成するために巨大な怪物のようなモデルは必要ありません。これに対するあなたの回答は？
大きなモデルが必要だと思います。私たちは大きなモデルと小さなモデルの両方を愛しています。小さなモデルを訓練するために、しばしば大きなモデルが必要です。私たちはFlashモデルと呼ぶものを非常に誇りに思っています。これらは最も、私たちがワークホースモデルと呼ぶ、本当に効率的で、最も人気のあるモデルの一部です。このサイズのモデルを内部で大量に使用しています。
しかし、より大きな教師モデルから蒸留することなしに、そのようなモデルを構築することはできません。AlphaFoldのようなものでさえ、明らかに私はそのようなモデルをもっと増やすことの大きな提唱者です。AGIを待つ必要がありません。今、科学と医学の本当に重要な問題に今日取り組むことができます。これは汎用技術を取って、その場合はタンパク質構造予測の周りに特化することを必要とするでしょう。
もっと多くのそのようなことをする大きな可能性があると思います。私たちは主に科学のためのAI作業で、毎月かなりクールなものを生産していると思います。おそらく多くのスタートアップが、今日存在する何らかの汎用モデルとドメイン特異性を組み合わせて構築される可能性があると思います。しかし、AGIに興味があるなら、その両側を押し進める必要があります。私の考えでは、これはどちらか一方ではありません。私は「かつ」派です。スケールしましょう、特化技術を見て、それを組み合わせ、時にはハイブリッドシステムと呼ばれるものを見て、次のトランスフォーマーを提供できる新しいブルースカイ研究も見ましょう。私たちはこれらすべてに賭けています。
Alpha Evolveについて言及されましたが、ケビンと私の両方が本当に魅力を感じたものです。Alpha Evolveとは何か教えてください。
高いレベルでは、基本的に私たちの最新のGeminiモデル、実際には2つの異なるものを取って、プログラムや他の数学的関数についてのアイデア、仮説を生成することです。そして、それらは進化プログラミングプロセスに入り、どれが最も有望かを決定し、それが次のステップに移植されます。
進化プログラミングについて少し教えてください。とても興奮するように聞こえます。
基本的に、システムが新しい空間を探索する方法です。遺伝学のように、新しい生物を与えるために何を変異させるべきかということです。プログラミングや数学でも同じように考えることができます。プログラムを何らかの方法で変更し、それを取得しようとしている答えと比較します。評価関数に従って最も適合するものを、次の新しいアイデア生成セットに戻します。
最も効率的なFlashモデルが可能性を生成し、Proモデルがそれを批評して、次の進化ラウンドで選択される最も有望なものを決定します。それは、ある種の自律的なAI研究組織のようなもので、あるAIが仮説を立て、他のAIがそれらをテストし、監督します。私の理解では、目標は時間とともに自己改善したり、既存の問題への改善を提案したりできるAIを持つことです。
そうです。それが人々が興奮し、私たちが興奮している理由の始まりだと思います。ある種の自動化されたプロセスの始まりです。まだ完全に自動化されておらず、比較的狭い範囲です。チップ設計、スケジューリング、データセンターでのAIタスクをより効率的に、さらには訓練アルゴリズムの最も基本的な単位の一つである行列乗算の改善まで、多くのことに適用しました。
実際にすでに驚くほど有用ですが、証明可能に正しいドメイン、明らかに数学とコーディングですが、それを完全に一般化する必要があります。しかし興味深いのは、多くの人がLLM全般に持っている批判は、あなたが本当に与えることができるのは訓練データの統計的中央値だけだということです。しかし、あなたが言っているのは、今や実際に最先端を進歩させるのに有用な新しいアイデアを生成する可能性を超えて行く方法があるということです。
その通りです。しかし、私たちは既にこのタイプを持っていました。これは進化的方法を使用するAlpha Evolveという別のアプローチですが、AlphaGoの時代にもその証拠を既に持っていました。
AlphaGoは新しい囲碁戦略を考え出しました。最も有名なのは、私たちの大きなイ・セドル世界選手権戦のゲーム2での37手目です。ゲームに限定されていましたが、何百年も囲碁をプレイしてきたにもかかわらず、以前に見られたことのない真に新しい戦略でした。それが私たちのAlphaFoldプロジェクトと科学プロジェクトを開始したきっかけでした。なぜなら、ドメイン内で知っていることの中でも、創造性と呼ぶことができる、または独創性のその種の火花の証拠を見るのを待っていたからです。
まだもっと先に行かなければならないことがたくさんありますが、私たちは、モンテカルロ検索や強化学習計画技術と組み合わせたこれらの種類のモデルが、探索する新しい領域に到達できることを知っています。進化的方法は、現在のモデルが知っていることを超えて、以前に見たことのない新しい体制に強制的に探索させる別の方法です。
ずっとモンテカルロツリーを探しているんです。見つけるのを手伝ってもらえれば、本当に大きな助けになります。
これらのものの一つが役立つかもしれません。分かりました。Alpha Evolveの論文を読みました。より正確に言うと、Notebook LMに入力して、より初歩的なレベルで説明してくれるポッドキャストを作ってもらい、それを聞くことができました。
印象に残った魅力的なことの一つは、Alpha Evolveをより創造的にすることができた方法についての詳細でした。それを行った方法の一つは、基本的にモデルに幻覚を強制することでした。現在、非常に多くの人が幻覚の除去に夢中になっています。しかし、その論文を読む一つの方法は、実際にモデルに幻覚をさせたい、または創造的になってほしいシナリオがあるということのようでした。
それは正しいと思います。事実的なことを求めるときの幻覚は明らかに望ましくありませんが、MBAコースの水平思考のようなものと少し考えることができる創造的な状況では、クレイジーなアイデアをただ作り出すのです。それらのほとんどは意味をなしませんが、奇妙な1つか2つが、後で評価すると実際に非常に価値のある検索空間の領域に到達させるかもしれません。その時点で、幻覚という言葉を想像力に置き換えることができるかもしれません。それらは明らかに同じコインの両面です。
ある一人のAI安全性の人と話しましたが、Alpha Evolveについて少し心配していました。実際の技術と実験については心配していませんでした。この人は、それらは魅力的だと言いました。しかし、それがロールアウトされた方法について心配していました。
Google DeepMindがAlpha Evolveを作成し、それを使ってGoogle内のいくつかのシステムを最適化し、数か月間それを隠しておき、その後公開したのです。この人は、もし私たちがAIシステムが再帰的に自己改善し始め、より良いAIを構築できるような地点に実際に到達しているなら、GoogleがもしGoogle DeepMindがAGIや人工超知能さえも構築した場合、責任のあることをして公衆に知らせるのではなく、しばらくの間それを自分たちのものにしておくことを意味しないかと言っていました。
実際には両方の面があると思います。まず第一に、Alpha Evolveは非常に新生の自己改善のものです。まだ人間がループにいて、既存のタスクから重要な割合のポイントを削っているだけです。それは価値がありますが、何らかのステップチェンジを作り出しているわけではありません。
公開する前に内部で慎重に評価することと、学術コミュニティなどからの追加の批評を得ることの間にはトレードオフがあり、それも非常に有用です。また、私たちは信頼できるテスタータイプのプログラムをたくさん持っており、人々がこれらのものに早期アクセスして、フィードバックを与え、ストレステストを行います。時には安全性研究所も含まれます。
しかし、私の理解では、あなたたちはGoogle内でこれを内部的にレッドチーミングしていただけではありませんでした。実際にそれを使ってデータセンターをより効率的にし、AIモデルを訓練するカーネルをより効率的にしていました。この人が言っているのは、これらのものがAGIのようなものになる前に、今から良い習慣を身につけ始めたいということです。これが必要以上に長い間隠されているのではないかと少し心配していました。
あなたの回答をお聞きしたいです。そのシステムは、AGIタイプの前面から実際にリスクがあると言えるようなものではないと思います。今日のシステムは、非常に印象的ですが、この人が話していたような何らかのAGIリスクの観点からはそれほど強力ではないと思います。
これらのものの信じられないほど厳格な内部テストと、外部からの協力的な入力の両方が必要だと思います。実際、Alpha Evolveプロセスの最初の数か月の詳細はわかりません。以前は単なる関数検索でしたが、その後より一般的になりました。
昨年にわたって、この汎用ツールになることで、それ自体が進化してきました。Geminiとは別のものですが、メインブランチで実際に使用できるようになる前に、まだ多くの道のりがあります。その時点で、より真剣になると思います。
AI安全についてもう少し広く話しましょう。私の観察では、時間をさかのぼり、AI システムの力が弱いほど、誰もが安全リスクについてより多く話していたように思えます。今、モデルが改善されるにつれて、昨日の基調講演も含めて、それについて聞くことがますます少なくなっているようです。AI安全のこの瞬間をどう思いますか？あなたが持っているシステムが作り出す可能性のあるリスクに十分注意を払っていると感じますか？3年か4年前と同じくらいそれにコミットしていますか？多くの結果の可能性が低く見えます。
私たちは今までと同じくらいコミットしています。DeepMindの始まりから、私たちは成功を計画してきました。成功はこのようなものを意味していました。これは私たちが想像していた種類のものです。それが実際に起こったということは信じられないことですが、これらの技術が私たちが思っていた方向に本当に発展するなら、起こると思っていたことのオーバートンウィンドウ内にあります。
リスクとそれらのリスクを軽減することへの注意は、その一部でした。私たちはシステムに大量の作業を行っています。私たちは、発売前と発売後の両方で非常に堅牢なレッドチーミングプロセスを持っていると思います。多くのことを学びました。これらのシステムが、初期のシステムとはいえ、現実世界と接触することの違いが今あることだと思います。
それは全体的に有用なことだったと私は今説得されています。5年前、10年前は、研究所に留まって学術界と協力する方が良いかもしれないと思っていたかもしれませんが、実際には何百万人もの人がそれを試さない限り、見ることも理解することもできないことがたくさんあります。
何百万人もの賢い人があなたの技術を試し、そしてこれらすべてのエッジケースを見つけるという奇妙なトレードオフが再びあります。テストチームがどれだけ大きくても、100人か1000人程度にしかなりません。何千万人もの人があなたのシステムを使用することとは比較になりません。しかし一方で、リスクが起こる前に軽減できるように、事前にできるだけ多くを知りたいのです。
これは興味深く、良い学習です。過去2、3年間に業界で起こったことは素晴らしかったと思います。なぜなら、先ほどおっしゃったように、システムがそれほど強力でもリスクでもない時に学習してきたからです。しかし、これらのエージェントシステムが本当に能力を持ち始める2、3年後には、事態は非常に深刻になると思います。エージェント時代と呼びましょうか、その始まりを見ているだけです。
基調講演から、材料が何であるか、何がまとまってくるかを理解していただけたと思います。その時、分析と理解の制御可能性に関する研究の段階的変化が本当に必要だと思います。
しかし、もう一つの重要なことは、それが国際的でなければならないということです。それは非常に困難で、私はそれについて非常に一貫してきました。なぜなら、それは世界中の誰にでも影響を与える技術だからです。異なる国の異なる企業によって構築されています。だから、これらのシステムを何に使いたいか、安全性と信頼性をテストしたいベンチマークの種類について、ある種の国際的な規範が必要だと思います。
しかし、今取り組むべき十分な作業があります。私たちはそれらのベンチマークを持っていません。業界と学術界がそれらが何であるかについてコンセンサスに同意すべきです。
あなたが今言ったことを行う上で、輸出規制がどのような役割を果たすことを望みますか？
輸出規制は非常に複雑な問題で、今日の地政学は極めて複雑です。その議論の両側を見ることができます。これらの技術の制御されない拡散があります。異なる場所がフロンティアモデリング訓練能力を持つことを望みますか？それは良いアイデアではないと確信していません。しかし一方で、西側の技術が世界中で採用されるものになってほしいのです。
複雑なトレードオフです。簡単な答えがあれば、屋上から叫んでいると思います。しかし、ほとんどの現実世界の問題がそうであるように、それは微妙です。
私たちは既にAIをめぐって中国との二極対立に向かっていると思いますか？最近、トランプ政権が中東、サウジアラビアやUAEなどの湾岸諸国をAIパワーハウスにする大きな推進を行っているのを見ました。中国とそのAIパワーにアクセスできないアメリカのチップを使ってモデルを訓練してもらうのです。これが新しいグローバル紛争の基盤になると思いますか？
そうならないことを望みますが、短期的には、AIが起こっている大きな地政学的変化に巻き込まれていると感じます。それの一部だと思います。たまたま現れている最も話題の新しいもののひとつです。しかし一方で、これらの技術がますます強力になるにつれて、世界が私たちは皆一緒にいることを理解することを望んでいます。なぜなら、そうだからです。
AGIに向けた最後の数ステップは、より長いタイムラインでありたいと思います。私が考えているタイムライン、つまりより長いタイムラインであれば、少なくとも科学レベルで必要な協力を得る時間があります。その前にそれを得ることができれば良いでしょう。
AGIへの最終的なホームストレッチにいると感じますか？Googleの共同創設者であるセルゲイ・ブリンが、今年初めに私のニューヨーク・タイムズの同僚によって報告されたメモをGoogle従業員に送り、私たちはある種のホームストレッチにいて、誰もがオフィスに戻って常に働く必要があると言いました。なぜなら、これが本当に重要な時だからです。
終局や新しいフェーズ、またはエンドゲームに入るような終末感を持っていますか？
私たちは確実にミドルゲームを過ぎていると思います。しかし、この技術がどれほど重要で重大であるかを感じていたので、過去20年間、利用可能なあらゆる時間を働いてきました。20年間それが可能だと思っていて、今それが見えてきていると思います。
私もそれに同意します。5年か10年か2年か、AGIがもたらす変革の巨大さを議論するとき、それらはすべて実際にかなり短いタイムラインです。それらのタイムラインはどれも非常に長くありません。
AIの未来についてのより一般的な質問に切り替えましょう。
多くの人が今、少なくとも私が関わっている会話では、AGI後の世界がどのようなものかを考え始めています。実際にこれについて最も聞く文脈は、子供たちが何をすべきか、何を勉強すべきか、大学に行くのかを知りたがっている親からです。あなたには私の子供より年上の子供がいます。それについてどう考えていますか？
子供たちに関して、大学生からもよく聞かれることですが、まず第一に、STEMの基本的なアドバイスを劇的に変えることはしないでしょう。コーディングのようなものでも上手になることをまだ推奨します。これらのAIツールで何が起こっても、それらがどのように動作し、機能するかを理解し、それらで何ができるかを知っていれば、より良い状況に立てると思うからです。
また、今没頭することも言うでしょう。今日ティーンエイジャーだったら、最新のツールを使うニンジャになろうとすることに没頭するでしょう。最新の最もクールなAIツールをすべて使うのが本当に上手になれば、ある意味で超人的になることができると思います。しかし、基本も怠らないでください。基礎が必要だからです。
そして、学習の仕方を学ぶというメタスキルを教えることだと思います。確実にわかっているのは、今後10年間に多くの変化があるということです。それに備えるにはどうすればよいでしょうか？そのためにはどのようなスキルが有用でしょうか？創造性スキル、適応性、回復力。これらすべてのメタスキルが次世代にとって重要になると思います。
彼らがAIネイティブに育つのを見るのは非常に興味深いと思います。前世代がモバイル、iPad、そのような種類のタブレットネイティブに育ったように、その前にインターネットとコンピュータがあり、それが私の時代でした。その時代の子供たちは常に最新の最もクールなツールに適応し、活用するようになると思います。人々が学校と教育にそれらを使うなら、それらを本当に良いものにし、証明可能に良いものにするために、AI側でもっとできることがあると思います。
教育に大きな方法でそれを持ち込むことを非常に楽しみにしており、また、AIチューターがあれば、良い教育システムを持たない世界の貧しい地域に持ち込むことも楽しみにしています。そこにも多くの利点があると思います。
子供たちがAIとやっているもう一つのことは、デジタルコンパニオンと多くチャットすることです。Google DeepMindはまだこれらのコンパニオンを作っていません。私がこれまでに見たもののいくつかはかなり心配なようです。あなたがどれほど素晴らしいかを言うこと以外何もしないチャットボットを作るのはかなり簡単なようで、それは暗くて奇妙な場所につながる可能性があります。
AIコンパニオンのこの市場を見ながら、あなたはどのような観察をしていますか？いつかこれを構築したいと思うか、それとも他の人に任せるつもりですか？
そのドメインに入り始めるときは非常に注意深くする必要があると思います。だからこそ、まだやっておらず、それについて非常に思慮深くしています。
これについての私の見解は、昨日話した汎用アシスタントのレンズを通してです。これは日常の生産性にとって信じられないほど有用なものです。私たち全員が嫌う退屈で単調なタスクを取り除き、愛することをするためのより多くの時間を与えてくれます。また、例えば、あなたが楽しむとは思わなかった素晴らしいことについて信じられないような推奨をしてくれることで、あなたの人生を豊かにしてくれることを本当に望んでいます。
驚くようなもので喜ばせてくれるのです。これらが私がこれらのシステムに向かってほしい方法だと思います。実際、ポジティブな面では、このアシスタントが本当に有用になり、あなたをよく知るようになれば、明らかに自然言語でそれをプログラムして、あなたの注意を保護することができると思います。
あなたのために働くシステム、個人として、それはあなたのもので、あなたの注意を、あなたの注意を欲しがる他のアルゴリズムからの攻撃から保護すると考えることができます。これは実際にはAIとは関係ありません。ほとんどのソーシャルメディアサイトが効果的にやっていることです。
彼らのアルゴリズムはあなたの注意を得ようとしており、それが実際に最悪のことだと思います。私たちがより創造的なフローや、あなたがやりたいことは何でも、そういったものにいられるように、それを保護できると素晴らしいでしょう。これが私がこれらのシステムに人々に役立ってほしい方法です。
そのようなシステムを構築できれば、人々は信じられないほど幸せになると思います。今、人々は自分たちの生活の中のアルゴリズムに攻撃されていると感じており、それについて何をすべきかわからないと思います。
理由は、あなたは自分の脳を使わなければならず、ソーシャルメディアストリームとしましょう。欲しい情報の断片を得るために、その激流に飛び込まなければなりません。しかし、すでに同じ脳でそれをやっているので、欲しかった有用な情報の断片を見つけるために、その激流に飛び込むことで、すでにあなたの心と気分と他のことに影響を与えてしまっています。
しかし、デジタルアシスタントがあなたのためにそれをしてくれれば、有用な核心だけを得ることができ、家族との集中力や気分、その日やっていることを壊す必要がないでしょう。それは素晴らしいと思います。
ケイシーはそのアイデアを愛しています。あなたはそのアイデアを愛しています。すべての攻撃しようとする力からあなたの注意を保護するAIエージェントのこのアイデアが大好きです。Googleの広告チームがこれについてどう感じるかはわかりませんが、時が来たら聞いてみることができます。
一部の人々は、特に最近の大学卒業生にとっての就職市場を見始めており、すでにAIによる雇用喪失の兆候を見始めているのではないかと心配しています。逸話的に、数年前なら技術やコンサルティング、金融、法律などの分野に興味を持ったかもしれない若い人々と話しましたが、彼らは「これらの仕事がもっと長く存続するかどうかわからない」と言っています。
最近のアトランティック誌の記事は、大学卒業生がこれらのエントリーレベルのポジションでAIと競争し始めているのではないかと疑問を呈しました。これについて見解はありますか？
それを見ていません。その研究を見たことがありません。もしかすると今現れ始めているかもしれません。少なくとも私が見た限りでは、まだそれについてのハードな数字はないと思います。
今のところ、これらをあなたができることとあなたが達成できることを拡張するツールとして主に見ています。ほとんどの場合、次の時代、AGI後は再び異なるかもしれませんが、今後5年から10年にわたって、大きな新しい技術変化で通常起こることが起こると思います。一部の仕事が破綻しますが、新しい、通常はより価値があり、より興味深い仕事が作られます。
近い将来にはそれが起こると思います。今日の卒業生と次の5年間程度は、その後は予測が非常に困難です。それは私たちが準備する必要があるより社会的な変化の一部です。
そこでの緊張は、あなたが正しく、これらのツールは人々にずっと多くのレバレッジを与えるということです。しかし、それらは特定のことをする大きなチームの人々の必要性も減らします。最近、以前の仕事でデータサイエンス会社にいて、何らかのデータサイエンスタスクに取り組む75人がいたが、今は以前75人を必要としていた仕事を1人で行うスタートアップにいるという人と話しました。
他の74人は何をすることになっているのでしょうか？あなたの見解を聞きたいです。
これらのツールは、物事をずっと速く作成する能力を解放すると思います。だから、より多くの人がスタートアップ的なことをすると思います。これらのツールで攻撃し、試すことができる表面積が以前よりもずっと多くあります。
プログラミングを例に取りましょう。これらのシステムはコーディングで良くなっていることは明らかですが、最高のコーダーは、質問の仕方やコードベース全体のアーキテクト、コーディングが何をするかのチェックの仕方をまだ理解しているので、差別的価値を得ていると思います。同時に、愛好家の端では、デザイナーや非技術的な人々が、ゲームのプロトタイプ作成、ウェブサイト、映画のアイデアなど、いくつかのものをバイブコーディングできるようになっています。
理論的には、その70人程度は新しいスタートアップのアイデアを作成できるはずです。これらの大きなチームは少なくなり、AIツールによって非常に力を与えられた小さなチームが増えるかもしれません。
しかし、それは教育の問題に戻ります。どのスキルが今重要なのでしょうか？創造性、ビジョン、デザインセンシビリティなど、異なるスキルがますます重要になるかもしれません。
来年は今年と同じだけのエンジニアを雇うと思いますか？
そう思います。雇用を減らす計画はありませんが、コーディングエージェントがどれだけ速く改善するかを見なければなりません。今日、彼らは自分でものをすることはできません。最高の人間のコーダーにとって役立つだけです。
前回お話ししたとき、私たちはAIについての公衆のより悲観的な見解について尋ねました。あなたが私たちに言ったことの一つは、この分野が明らかに人々に有益な具体的な使用例を実証して、これを変える必要があるということでした。
私の観察では、AIに対して積極的に敵対的な人々が今さらに多くいると思います。その理由の一つは、大きな研究所の人々が「最終的にこれはあなたの仕事を置き換えるでしょう」とかなり大声で言っているのを聞くからだと思います。ほとんどの人は「それは望まない」と思うだけです。
その過去の会話を振り返って、公衆の意見を変え始めるのに十分な使用例を見たと感じるか、そうでなければ、実際にここでの見解を変えるかもしれないものは何かについて興味があります。
私たちはそれらのものに取り組んでいると思います。それらを開発するには時間がかかります。もしそれが本当にあなたのもので、効果的にあなたのために働くなら、汎用アシスタントのようなものがそれらのものの一つになると思います。
あなたのために働く技術です。これは経済学者や他の専門家が取り組むべきことだと思います。誰もがあなたのために物事をしているエージェントのスイート、艦隊を管理し、潜在的にお金を稼いだり、物を構築したりしているでしょうか？それが通常の仕事プロセスの一部になるでしょうか？今後4、5年でそれを想像できます。
また、AGIに近づき、材料科学、エネルギー融合など、AIによって助けられるこれらの種類のものでブレークスルーを作るにつれて、多くの資源が回る根本的豊かさと呼ぶものに向かう社会の位置に到達し始めるべきです。それから再び、それを公正な方法でどのように分配するかという政治的な問題です。
ユニバーサル高所得のような用語を聞いたことがありますが、それはおそらく良くて必要だと思いますが、明らかに考え抜く必要がある多くの複雑さがあります。そして、その間に、今から私たちがその種の状況を持つときまでの移行期間があります。その中間で何をするか、それがどれくらい続くかにもよります。
AGIが最後に変革する経済の部分は何だと思いますか？
人間対人間の相互作用と感情を含む経済の部分は、AIにとって最も困難なことになると思います。
しかし、人々は既にAIセラピーをしたり、1時間100ドルを払っていたかもしれないもののためにチャットボットと話したりしていませんか？
セラピーは非常に狭いドメインで、それらのことについて多くの誇大宣伝があることは確かではありません。実際の経済に影響を与えるという点で、おもちゃ的なもの以上に、それらのことが実際にどれだけ行われているかは確信がありません。
AIシステムがそれを適切に行う能力があるとはまだ思いません。しかし、私たちがお互いに話すことや現実世界の自然の中で物事を行うことから得る感情的なつながりのようなものです。
AIはそれらすべてを本当に複製することはできないと思います。ハイキングを率いれば良い仕事になるでしょう。エベレストに登る。
これについての私の直感は、AI を使って労働を置き換えたり、人々の仕事を奪ったりすることに対して大規模な反発があるような、重く規制された業界になるだろうということです。ヘルスケアや教育のような。
しかし、これらの重く規制された業界で、より簡単なリフトになると思いますか？
わかりません。そうかもしれませんが、社会として、それらすべての積極的な面を計りにかける必要があります。例えば、すべての病気を治すこと、新しいエネルギー源を見つけることです。私はこれらのことが社会にとって明らかに非常に有益であり、他の大きな課題に対して必要だと思います。AI以外にも社会には課題がないわけではありません。しかし、エネルギー、資源制約、老化、病気、水へのアクセスなど、今日私たちが直面している他の課題の多くに対して、AIは解決策になり得ると思います。
今日私たちが直面している大量の問題があります。気候変動も、AIは潜在的にそれらすべてを助けることができると思います。そして、社会がこれらの技術を何に使いたいかを決める必要があることに同意します。
しかし、製品で先ほど話し合ったように変化しているのは、技術が進歩し続けることで、根本的豊かさ、宇宙旅行など、今日はSFをたくさん読まない限り範囲外ですが、急速に現実になりつつある新しい可能性が開かれることです。
産業革命の間、新しい技術を受け入れ、農場から都市に移動して新しい工場で働く多くの人々がいました。その曲線の早期採用者のようなものでした。しかし、それはまた超越主義者が自然に退却し、技術を拒絶し始めた時でもありました。ソローがウォールデン池に行った時で、新しい技術を見て「そうは思わない。私には向かない」と言ったアメリカ人の大きな運動がありました。
AIの拒絶を中心とした同様の運動があると思いますか？もしそうなら、どれくらい大きくなると思いますか？
自然に戻る運動があるかどうかはわかりませんが、多くの人がそれをやりたがると思います。根本的豊かさの世界にいるなら、それがまさに私たちの多くがやりたいことだと思います。宇宙飛行やより多くの人間の繁栄を最大限にすることです。
しかし、それがまさに多くの私たちが選択してやることの一部になると思います。時間と空間とリソースがあってそれを行うのです。
それがかなり良いかもしれないと思っても、何らかの理由で創造性や思考プロセスを保護したいために、AIを使わないと言う人生の部分はありますか？
AIが私がそのような分野のどれかで言うような分野にまだ十分に侵入するほど良くないと思います。主に、Notebook LMであなたがやったようなこと、新しいトピック、科学的トピックでの氷を破ることを見つけ、それにもっと深く入りたいかどうかを決めることに使っています。これが私の主な使用例の一つです。要約などです。これらはすべてただ役立つだけだと思います。
しかし、AIがより強力になるにつれて、あなたが提案したようなことの例があるかもしれません。
Anthropicのダリオ・アモデイと最近話したとき、彼はコーディングのように、非常に良くなろうと多くの時間を費やしてきた分野でAIが作る進歩について、興奮と一種の憂鬱が混ざった感情について話していました。新しいコーディングシステムが出てきて、それがあなたより優れていると、それは素晴らしいと思い、そして二番目の思考は「ああ、それは少し痛い」というものです。そのような経験をしたことがありますか？
若いときにチェスでその経験をしたことがあるので、それが私をそれほど痛ませない理由の一つかもしれません。チェスが私の最初のキャリアになる予定で、子供の頃、イングランドのジュニアチームでかなりプロに近いプレイをしていました。そしてディープブルーが登場しました。明らかに、コンピュータはその後永遠に世界チャンピオンよりもずっと強力になるでしょう。
でも、私はまだチェスをプレイするのを楽しんでいます。人々はまだそうしています。それは違いますが、ウサイン・ボルトのようなものです。彼が100メートルを信じられないほど速く走ることを私たちは祝いますが、車もありますが、私たちはそれを気にしません。私たちは他の人間がそれをすることに興味があります。ロボットサッカーや他のすべてのこれらのものでも同じだと思います。
結局のところ、私たちは他の人間に興味があるということに戻ると思います。だからこそ、小説でさえ、いつかAIが技術的に良い小説を書くことができるかもしれませんが、少なくとも今私が見る限り、AIによって書かれたとわかっていれば、読者に同じ魂やつながりを持たないと思います。
ロボットサッカーについて言及されました。それは本当のことですか？私たちはスポーツファンではないので、何かを見逃していないことを確認したいだけです。
サッカーのことです。いいえ、わかりません。小さなロボットがボールを蹴ろうとするロボカップのようなサッカータイプがあります。どれほど真剣かはわかりませんが、ロボットサッカーの分野があります。
ロボットによって書かれた小説には魂がないかもしれないと言及されました。技術がV3やイマジンでどれほど信じられないほどであっても、見るのは美しいが、それで何をすればいいかわからないというような感じがします。わかりますか？
その通りです。だからこそ、ダレン・アロノフスキーやシャンカーのような偉大なアーティストと音楽で協力するのです。これらはツールで、技術的に良いものを思いつくことができると私は完全に同意します。V3は信じられません。今バイラルになって投稿されているもので声があるものを見たとき、実際、オーディオがビデオにどれほど大きな違いをもたらすかがわからませんでした。本当に生き生きとさせると思いますが、ダレンが昨日のインタビューで話し合っているときに言ったように、それはストーリーテリングを持ち込むのです。マスター映画製作者やマスター小説家がゲームのトップで行うような深いストーリーテリングは持っていません。
それは決してできないかもしれません。何かが欠けていると常に感じるでしょう。作品の魂という表現のための言葉の種類です。本当の人間性、魔法、偉大な芸術作品を作るときです。ヴァン・ゴッホやロスコを見るとき、なぜそれがあなたの背中の髪を立たせるのでしょうか？彼らが経験したことや、それを制作するのに苦労したこと、ヴァン・ゴッホのブラシストロークの一つ一つに彼の苦悩があることを覚えているからです。AIがそれを模倣し、それがそのようなものだと言われても、それで何だというのでしょうか？
少なくとも5年から10年先を見る限り、トップの人間のクリエイターが常に持ち込むピースだと思います。だからこそ、私たちはすべてのツール、V3、Lyriaを、トップクリエイティブアーティストとの協力で作ったのです。
新しい教皇レオはAGIに興味があると言われています。彼がAGI推進派かどうかはわかりませんが、それは彼が以前に話したことがあるものです。AGIが私たちの人生に意味を与えるものについて考えることを強いる世界で、信仰とスピリチュアリティへの宗教的復活や関心のルネサンスがあると思いますか？
それは潜在的にそうかもしれません。実際に前の教皇とそれについて話しました。バチカンはこの教皇よりも前から興味を持っていましたが、まだ彼とは話していません。これらの問題について、AIと宗教、一般的に技術と宗教がどのように相互作用するかについてです。
カトリック教会について興味深いのは、私は教皇庁科学アカデミーのメンバーですが、宗教団体にとって奇妙なことに、常に科学部門を持っていたことです。彼らはガリレオが創設者だったと言うのが好きです。それらの興味は、実際に非常に分離されており、スティーブン・ホーキングや公然たる無神論者がアカデミーの一部だったことを私は常に興味深いと思っていました。それが私がそれに参加することに同意した理由の一部です。それは完全に科学的機関だからです。
非常に興味深く、彼らは10年以上前からこれに興味を持っていたので、哲学的な観点から、この技術がどれほど興味深いか、哲学的かということについて早くからこれに取り組んでいました。実際、私たちには哲学者や神学者からのその種の思考と作業がもっと必要だと思います。それは本当に良いでしょう。だから新しい教皇が本当に興味を持っていることを願っています。
最近、Anthropicのジャック・クラークにタイラー・コーワンが尋ねたのを聞いた質問で締めくくりたいと思います。とても良い質問だと思ったので、そのまま盗用することにしました。進行中のAI革命において、最悪の年齢は何歳ですか？
うわあ。まあ、分からないというか、そのことについて考えたことがありませんが、それを見て生きることができるあらゆる年齢は良い年齢だと思います。なぜなら、医学などで素晴らしい進歩を遂げるからです。信じられない旅になると思います。
私たちの誰も、それが正確にどのように起こるかを知りません。言うのは非常に困難ですが、それを見つけるのは非常に興味深いでしょう。可能なら若くいるようにしてください。
そうですね、若いことは常により良いです。一般的に、若いことは常により良いです。
分かりました、デミス、来ていただいて本当にありがとうございました。ありがとうございました。
コメント