本エピソードでは、Google DeepMindのCEO兼共同創設者であるデミス・ハサビスが、AIの現状と未来について包括的に語る。2024年のAI業界における大きな変化として、大規模言語モデルからエージェント型AIへの重心移動、Gemini 3のリリース、そして世界モデルの進展を挙げる。ハサビスは、AGI到達にはスケーリングとイノベーションの両方が必要であり、Google DeepMindはその両面で50%ずつの努力を注いでいると説明する。AlphaFoldに続く根本問題への取り組みとして、材料科学、常温超伝導体、融合エネルギー、量子誤り訂正などの分野での協力関係を紹介。また、数学オリンピックで金メダルを獲得する一方で基本的な算数でミスをするという現行モデルの矛盾や、ハルシネーション問題についても率直に語る。世界モデルとシミュレーションの重要性を強調し、GenieやSIMAといったプロジェクトがロボティクスやゲームに革命をもたらす可能性に言及。産業革命からの教訓を活かし、AGI後の社会における経済システムや労働の再構成の必要性を論じる。最後に、チューリングマシンの限界という哲学的問いに触れ、宇宙のすべてが計算可能である可能性を示唆しながら、AGIを人類全体のために安全に導くという自身の使命について語る。
知性の未来への道筋
デミス・ハサビスです。実質的に、私たちの努力の50%はスケーリングに、50%はイノベーションに向けられていると考えていただければと思います。私の予測では、AGIに到達するには両方が必要になるでしょう。私はずっとこう感じてきました。もし私たちがAGIを構築し、それを心のシミュレーションとして使用して、実際の心と比較すれば、その違いが見えてくるでしょうし、人間の心について何が特別で何が残っているのかが潜在的に分かるはずです。
それは創造性かもしれません。感情かもしれません。夢、意識かもしれません。何が計算可能で何がそうでないのかについて、多くの仮説があります。そしてこれは、チューリングマシンの限界とは何かというチューリングマシンの問題に立ち返ります。
ハンナ・フライ:つまり、これらの計算の枠組みの中ではできないことは何もないということですか?
デミス・ハサビス:こう言いましょう。今のところ、宇宙の中で計算不可能なものは誰も見つけていません。
ハンナ・フライ:今のところは、ですね。
「Google DeepMind:ポッドキャスト」へようこそ。私、ハンナ・フライ教授がお送りします。AI にとって並外れた一年となりました。重心が大規模言語モデルからエージェント型AIへと移行するのを目の当たりにしてきました。AIが創薬を加速させ、マルチモーダルモデルがロボティクスや自動運転車に統合されるのを見てきました。
これらはすべて、このポッドキャストで詳しく探求してきたトピックです。しかし今年最後のエピソードでは、より広い視野を持ちたいと思いました。ヘッドラインや製品発表を超えた何か、もっと大きな問いについて考えたいのです。これはすべて、本当にどこへ向かっているのでしょうか?次の段階を定義する科学的・技術的な問いとは何でしょうか?そして、それについてかなりの時間を費やして考えている人物が、Google DeepMindのCEO兼共同創設者であるデミス・ハサビスです。
ポッドキャストへようこそ、デミス。
デミス・ハサビス:戻ってこられて嬉しいです。
ハンナ・フライ:この一年でかなり多くのことが起こりましたね。
デミス・ハサビス:そうですね。
ハンナ・フライ:最も大きな変化は何だと思いますか?
デミス・ハサビス:ああ、すごいですね。おっしゃる通り、本当に多くのことが起こりました。10年分を1年に詰め込んだような感じです。多くのことが起こりました。私たちにとっては、確かにモデルの進歩がありました。先日Gemini 3をリリースしましたが、とても満足しています。マルチモーダル機能、これらすべてが本当によく進歩しました。そしておそらく、この夏の出来事で私が非常に興奮しているのは、世界モデルが進歩したことです。
きっとそのことについてお話しすることになるでしょう。
ハンナ・フライ:ええ、もちろんです。そういったことについて、もう少し詳しく話していきましょう。このポッドキャストで初めてあなたにインタビューしたときのことを覚えています。あなたは根本問題について話していました。AIを使ってこれらの下流の利益を解き放つことができるというアイデアについて。そしてあなたは約束をかなり果たしましたね、正直言って。
デミス・ハサビス:はい。
ハンナ・フライ:それらについて最新情報を教えてください。もうすぐ実現しそうなこと、解決した、あるいはほぼ解決したと思うことは何ですか?
デミス・ハサビス:ええ。もちろん、大きな証明となったのはAlphaFoldでした。AlphaFoldが世界に発表されてから5周年を迎えようとしているなんて信じられません。少なくともAlphaFold2のことですが。それが、このような根本問題を解決することが可能だという証明だったと思います。そして今、私たちは他のすべての問題に取り組んでいます。材料科学だと思います。常温超伝導体を作りたいですね。
そしてより良いバッテリー、このような種類のもの。それは可能性があると思います。あらゆる種類のより良い材料です。私たちは核融合にも取り組んでいます。
ハンナ・フライ:核融合に関しては新しいパートナーシップが発表されましたよね?
デミス・ハサビス:ええ。Commonwealth Fusionとのより深いパートナーシップを発表したばかりです。すでに彼らとは協力していましたが、今はもっと深い関係になっています。彼らは少なくとも従来のトカマク型原子炉に取り組んでいる中で、おそらく最高のスタートアップだと思います。
ですから、彼らは実用化に最も近い位置にいるでしょう。私たちはそれを加速させる手助けをしたいと思っています。磁石内でのプラズマの封じ込めを支援し、おそらく材料設計の面でも協力します。それはエキサイティングです。それから、私たちの量子の同僚たちとも協力しています。彼らはGoogleの量子AIチームで素晴らしい仕事をしています。
そして私たちは彼らのエラー訂正コードを手助けしています。機械学習を使って彼らを支援しているのです。そしていつか彼らが私たちを助けてくれるかもしれませんね。
ハンナ・フライ:完璧なサイクルですね。
デミス・ハサビス:ええ、まさに。
ハンナ・フライ:核融合の件は特に、つまり、それによって世界にもたらされる変化、それによって解き放たれるものは巨大です。
デミス・ハサビス:ええ。核融合は常に聖杯でした。もちろん、太陽光も非常に有望だと思います。雲の中や空にある核融合炉を効果的に利用するわけです。しかし、もしモジュール式の核融合炉を持つことができれば、無制限で再生可能でクリーンなエネルギーというこの約束が実現します。それは明らかにすべてを変革するでしょう。
そしてそれが聖杯です。そしてもちろん、それは私たちが気候問題に貢献できる方法の一つです。
ハンナ・フライ:それは私たちの既存の問題の多くを消し去ることになりますね。
デミス・ハサビス:間違いなく。つまり、それは多くのことを可能にします。だから私たちはこれを根本問題と考えているのです。もちろん、それはエネルギーや汚染などに直接役立ち、気候危機の助けになります。
しかし、もしエネルギーが本当に再生可能でクリーンで超安価、ほぼ無料になれば、他の多くのことが実現可能になります。例えば水へのアクセス。淡水化プラントをほぼどこにでも設置できるようになります。ロケット燃料を作ることさえできます。海水には水素と酸素が含まれていて、それは基本的にロケット燃料です。
ただし、それを水素と酸素に分離するには多くのエネルギーが必要です。しかし、エネルギーが安価で再生可能でクリーンなら、なぜそうしないのでしょうか?それを24時間365日生産することができます。
ハンナ・フライ:数学に応用されているAIにも多くの変化が見られますね。国際数学オリンピックでメダルを獲得しています。
現行モデルの矛盾と課題
しかし同時に、これらのモデルは高校レベルの数学でかなり基本的なミスをすることがあります。なぜそのような矛盾があるのでしょうか?
デミス・ハサビス:ええ。実際、それは最も魅力的なことの一つだと思います。そしておそらく、それは修正される必要がある主要な理由の一つで、私たちがまだAGIに到達していない理由でもあります。おっしゃる通り、私たちは国際数学オリンピックで金メダルを獲得することに、他のグループとともに大きな成功を収めてきました。
それらの問題を見ると、世界のトップレベルの学生だけが解ける超難問です。一方で、ある特定の方法で質問を出すと、私たちは皆、日常生活でチャットボットを使って実験して分かっているように、論理問題でかなり些細なミスをすることがあります。
まだまともなチェスのゲームをプレイすることもできません。これは驚きです。ですから、これらのシステムには一貫性という点で何かが欠けています。そして、汎用知能、AGIシステムに期待することの一つは、全体的に一貫していることだと思います。
そのため、人々はそれをジャギーな知能と呼ぶこともあります。つまり、特定のことには本当に優れていて、博士レベルかもしれません。しかし、他のことでは高校レベルにも達していません。ですから、これらのシステムのパフォーマンスはまだ非常に不均一なのです。特定の次元では非常に印象的ですが、他の次元ではまだかなり基本的なレベルです。
そして、私たちはそれらのギャップを埋めなければなりません。そして理由についての理論があります。状況によっては、画像が認識され、トークン化される方法が原因である可能性さえあります。つまり、実際にはすべての文字を取得していないことがあります。ですから、単語の文字を数えるとき、時々それを間違えることがあります。しかし、個々の文字を見ていない可能性があります。
ですから、これらのことにはさまざまな理由があります。そしてそれぞれを修正して、何が残っているかを見ることができますが、一貫性が重要だと思います。もう一つは推論と思考だと思います。今では、推論時により多くの時間を考えることに費やす思考システムがあり、答えを出力するのがより良くなっています。
しかし、その思考時間を有用な方法で実際に使っているか、ツールを使って出力内容を二重チェックしているかという点では、まだ超一貫性があるとは言えません。私たちは途上にあると思いますが、おそらくまだ50%程度です。
ハンナ・フライ:AlphaGoそしてAlphaZeroの話も気になります。人間の経験をすべて取り除いたら、実際にモデルが改善されたという。
デミス・ハサビス:ええ。
ハンナ・フライ:あなたが作成しているモデルには、科学的あるいは数学的なバージョンのそれがあるのでしょうか?
デミス・ハサビス:今日私たちが構築しようとしているものは、AlphaGoに近いと思います。つまり、実質的に、これらの大規模言語モデル、これらの基盤モデルは、人間の知識すべてから始まっています。私たちがインターネットに載せたもの、最近ではほぼすべてのものですが、それを有用なアーティファクトに圧縮し、参照したり一般化したりできるようにしています。
しかし、AlphaGoが持っていたような、そのモデルを使って有用な推論トレース、有用な計画のアイデアを導き、その時点での問題に対する最良の解決策を考え出すという、その上での探索や思考はまだ初期段階だと思います。ですから、現時点では、インターネットのような人間の知識の限界によって制約されているとは感じていません。
現時点での主な問題は、AlphaGoで行ったような方法で、それらのシステムを完全に信頼できる方法でどう使うかがまだ分からないということです。しかしもちろん、それはゲームだったので、はるかに簡単でした。そこまで到達したら、Alphaシリーズで行ったように、AlphaZeroに戻ることができます。そこでは自分自身で知識を発見し始めます。
それが次のステップだと思いますが、それは明らかにより困難です。ですから、まずAlphaGoのようなシステムで最初のステップを作成しようとするのは良いことだと思います。その後、AlphaZeroのようなシステムについて考えることができます。しかし、それも今日のシステムに欠けているものの一つです。オンライン学習と継続的学習の能力です。
私たちはこれらのシステムをトレーニングし、バランスを取り、ポストトレーニングを行い、そして世界に送り出します。しかし、私たちのように、世界で学び続けることはありません。そして、それもAGIに必要とされるこれらのシステムの重要な欠けている部分だと思います。
ハンナ・フライ:そういった欠けているすべての部分について言えば、現在、商用製品をリリースする大きな競争があることは知っていますが、Google DeepMindのルーツは本当に科学研究のアイデアにあることも知っています。
研究と商業化のバランス
あなたからの引用を見つけました。最近、「もし私の思い通りになっていたら、AIをもっと長く研究室に置いて、AlphaFoldのようなことをもっと多く行い、がんを治すようなことをしていたかもしれません」と言っていましたね。そのゆっくりとした道を取らなかったことで、何か失ったものがあると思いますか?
デミス・ハサビス:失ったものと得たものの両方があると思います。それがより純粋な科学的アプローチだったと思います。少なくとも、それが15年から20年前の私の当初の計画でした。ほとんど誰もAIに取り組んでいなかった頃、私たちはまさにDeepMindを立ち上げようとしていました。人々はそれに取り組むのは狂っていると思っていました。しかし、私たちはそれを信じていました。そして、アイデアは、もし進歩を遂げたら、AGIに向けて段階的に構築を続け、各ステップとその安全性の側面などについて非常に慎重になり、システムが何をしているかを分析するというものでした。
しかし、その間、AGIが到着するまで待つ必要はありませんでした。その技術を分岐させて、社会にとって本当に有益な方法で使用することができました。つまり、科学と医学を進歩させることです。まさに私たちがAlphaFoldで行ったことです。実際には、それ自体は基盤モデルではなく、一般的なモデルではありませんが、transformersなどの同じ技術を使用し、その領域により特化したものとブレンドしています。
ですから、私たちが働いている間に、それらすべてが完了し、世界にリリースされるという一連のものを想像していました。AlphaFoldで行ったように、がんを治すようなことを実際に行うのです。一方で、研究室でAGIトラックについてより多く取り組んでいました。さて、スケールでチャットボットが可能であることが判明し、人々はそれが有用だと感じています。
そして今では、これらはチャットやテキスト以上のことができる基盤モデルに変化しました。明らかに、Geminiを含めて、画像やビデオなどあらゆることができます。そして、それも製品として商業的に非常に成功しています。そして私もそれが大好きです。日常生活で役立つ、より生産的にする究極のアシスタントを持つことは常に夢見てきました。おそらく、あなたの脳のスペースを少し守ることもできるでしょう。注意力の欠如から、集中してフロー状態でいられるように。今日、ソーシャルメディアでは、ただノイズ、ノイズ、ノイズです。
そして実際、あなたのために働くAIがそれを助けてくれるかもしれないと思います。ですから、それは良いことだと思いますが、多くの商業組織や国家さえもが互いに改善し追い越そうと急いでいる、かなり狂った競争状態を作り出しました。そしてそれは、同時に厳密な科学を行うことを困難にしています。
私たちは両方をやろうとしていますし、そのバランスを正しく取っていると思います。一方で、実際に起こった方法には多くの長所があります。もちろん、この分野にははるかに多くのリソースが流入しています。ですから、それは間違いなく進歩を加速させました。そしてまた、一般の人々が実際に、興味深いことに、彼らが使用できるものに関して、最先端のわずか数ヶ月遅れにいるということです。
ですから、誰もがAIがどのようなものになるかを自分自身で感じる機会を得ます。そしてそれは良いことだと思いますし、政府もこれをよりよく理解しています。
ハンナ・フライ:奇妙なのは、去年の今頃は、スケーリングがいずれ壁に突き当たる、データが不足するという話がたくさんあったと思います。
スケーリングとイノベーションの両立
しかし、私たちが録音している今、Gemini 3がリリースされたばかりで、さまざまなベンチマークでトップに立っています。それはどうやって可能になったのですか?スケーリングが壁に突き当たるという問題があるはずではなかったのですか?
デミス・ハサビス:多くの人がそう考えていたと思います。特に他の企業がより遅い進歩をしていたので。しかし、私たちは実際には壁のようなものを見たことがありません。収穫逓減があるかもしれないと言えます。そして私がそう言うとき、人々はただ、ああ、だから収穫がないんだ、と思います。0か1かです。指数関数的か、漸近的かのどちらかです。いいえ。実際には、これら二つの体制の間には多くの余地があります。そして私たちはその中間にいると思います。
ですから、新しい反復をリリースするたびに、すべてのベンチマークでパフォーマンスが2倍になるようなことはありません。おそらく3、4年前のごく初期の頃に起こっていたことです。しかし、Gemini 3で見られたような大きな改善を得ています。それは投資とその投資収益に十分見合うものです。
ですから、それに関しては減速は見られていません。利用可能なデータが不足しているのかという問題があります。しかし、それを回避する方法があります。合成データ、生成すること。これらのシステムは十分に優れているので、独自のデータを生成し始めることができます。特にコーディングや数学のような特定のドメインでは、答えを検証できるという意味で、無限のデータを生成できます。
しかし、これらすべては研究課題です。そして、それが私たちが常に持ってきた利点だと思います。私たちは常に研究第一でした。そして、最も広く深い研究基盤を持っていると思います。常にそうでした。過去10年間の進歩を振り返ってみれば、transformersでもAlphaGo、AlphaZeroでも、先ほど議論したどんなことでも、それらはすべてGoogleかDeepMindから生まれました。
ですから、私は常に言ってきました。もっと多くのイノベーション、科学的なものが必要なら、過去15年間の多くの大きなブレークスルーを生み出してきたように、私たちがそれを行う場所だと確信しています。ですから、それがまさに起こっていることだと思います。そして実際、地形が難しくなるとき、私は本当にそれが好きです。なぜなら、それには世界クラスのエンジニアリングだけでは不十分で、それもすでに十分難しいのですが、世界クラスの研究と科学をそれと同盟させなければならないからです。それが私たちの専門分野です。
その上、私たちにはTPUや他の長期間投資してきたもので世界クラスのインフラストラクチャの利点もあります。ですから、その組み合わせにより、スケーリング部分だけでなく、イノベーションの最前線にいることができると思います。実質的に、私たちの努力の50%はスケーリングに、50%はイノベーションにあると考えていただければと思います。
そして私の予測では、AGIに到達するには両方が必要になるでしょう。
ハンナ・フライ:つまり、Gemini 3という優れたモデルでさえ、まだ見られることの一つがハルシネーションというアイデアです。実際には辞退すべきときに答えを与えることがあるという指標が一つありました。
デミス・ハサビス:はい。
ハンナ・フライ:AlphaFoldのように、Geminiが信頼度スコアを与えるシステムを構築できますか?
デミス・ハサビス:ええ、できると思います。そしてそれが必要だと思います。それが欠けているものの一つです。私たちは近づいていると思います。モデルが良くなればなるほど、彼らが知っていることについてより多く知るようになると思います。意味が通じるでしょうか。
そして、より信頼できるようになると思います。実際に何らかの方法で内省したり、より多く考えたりして、自分自身が不確実であること、あるいはこの答えに不確実性があることに気づくことに頼ることができます。そして、それを合理的な答えとして出力できる方法で訓練する方法を考え出さなければなりません。
私たちはそれを改善しています。しかし、それでも時々、おそらく答えるべきではないときに答えを出すことを強制します。そしてそれがハルシネーションにつながる可能性があります。ですから、現在のハルシネーションの多くはそのタイプだと思います。ですから、そこには解決しなければならない欠けている部分があります。おっしゃる通り、私たちはAlphaFoldでそれを解決しましたが、明らかにもっと限定的な方法でした。
ハンナ・フライ:なぜなら、おそらく舞台裏では、次のトークンがどうなるかについて何らかの確率の尺度があるはずですから。
デミス・ハサビス:はい、次のトークンについてはあります。それがすべての仕組みです。しかし、それは全体的なアーチ状の部分を教えてくれません。この事実全体やこの声明全体についてどれだけ自信があるかということです。そしてそのために、この思考ステップと計画ステップを使って、ちょうど出力したものを見直す必要があると思います。
現時点では、それはシステムが人と話すようなものです。調子が悪い日には、頭に浮かんだ最初のことを文字通り言っているだけです。ほとんどの場合、それで大丈夫です。しかし時々、非常に難しいことのときには、立ち止まって一瞬考え、言おうとしていたことを見直して、言おうとしていたことを調整したいと思うでしょう。
しかし、おそらく最近の世界ではそれはますます少なくなっていますが、それでも議論のより良い方法です。ですから、そのように考えることができると思います。これらのモデルはそれをより良く行う必要があります。
ハンナ・フライ:シミュレートされた世界とその中にエージェントを置くことについても本当にお話ししたいです。なぜなら、今年の初めにあなたのGenieチームと話す機会がありました。
世界モデルとシミュレーションの重要性
デミス・ハサビス:はい、素晴らしい仕事です。
ハンナ・フライ:なぜシミュレーションを重視するのか教えてください。世界モデルは言語モデルにできないことを何ができるのですか?
デミス・ハサビス:そうですね、実際、それはおそらく私の最も長年の情熱です。世界モデルとシミュレーションは、AIに加えて、もちろんそれはすべて、Genieのような私たちの最新の仕事で一緒になっています。
そして、言語モデルは世界について多くを理解できると思います。実際、私たちが予想していた以上に、私が予想していた以上に。なぜなら、言語は実際にはおそらく私たちが思っていたより豊かだからです。言語学者が想像していたよりも、世界についてより多くを含んでいます。そしてそれは今、これらの新しいシステムで証明されています。
しかし、世界の空間的なダイナミクス、空間認識、私たちがいる物理的なコンテキスト、それがどのように機械的に機能するかについては、まだ多くのことが言葉で説明するのが難しく、言葉のコーパスでは一般的に説明されていません。そしてこの多くは、経験から学ぶこと、オンライン経験と関連しています。
本当に説明できないものがたくさんあります。それを経験する必要があります。おそらく、感覚などを言葉にするのは非常に難しいです。モーターの角度や匂い、これらの種類の感覚など。それをどんな言語でも説明するのは非常に困難です。ですから、その周りには全体的な一連のことがあると思います。
そして、ロボティクスを機能させたい、あるいは日常生活で一緒に来てくれる、メガネやスマホで、コンピュータだけでなく日常生活で助けてくれるユニバーサルアシスタントが欲しい場合、この種の世界理解が必要になります。世界モデルはその中核にあります。
世界モデルとは、世界の力学的な原因と効果を理解するモデルのことです。直感的な物理学ですが、物事がどのように動き、どのように振る舞うかです。今、私たちはビデオモデルで実際にその多くを見ています。そして、その種の理解を持っていることをテストする一つの方法は、現実的な世界を生成できるかどうかです。なぜなら、生成できるなら、ある意味で、システムが世界の力学の多くをカプセル化したに違いないからです。
だからGenieやVeo、これらのモデル、私たちのビデオモデルやインタラクティブな世界モデルは本当に印象的ですが、私たちが一般化された世界モデルを持っていることを示す重要なステップでもあります。そしてうまくいけば、いつかそれをロボティクスやユニバーサルアシスタントに適用できるでしょう。そしてもちろん、私が大好きなことの一つで、いつか絶対にやらなければならないのは、それをゲームやゲームシミュレーションに再適用して、究極のゲームを作ることです。もちろん、それはおそらく常に私の潜在意識の計画でした。
ハンナ・フライ:これすべてが、そのためだけに。
デミス・ハサビス:ええ、この時間すべてが、まさに。
ハンナ・フライ:科学についてはどうですか?その領域でも使用していますよね?
デミス・ハサビス:はい、できます。科学については、再び、科学的に複雑な領域のモデルを構築することだと思います。生物学における原子レベルの材料でも、また物理的なものでも、気象など。それらのシステムを理解する一つの方法は、生データからそれらのシステムのシミュレーションを学習することです。
ですから、生データの束があります。例えば気象についてだとしましょう。そして明らかに、私たちは素晴らしい気象プロジェクトを進めています。そして、それらのダイナミクスを学習し、力ずくでやるよりも効率的にそれらのダイナミクスを再現できるモデルがあります。ですから、科学と数学の側面のために、おそらく特化したシミュレーションと世界モデルには巨大な潜在能力があると思います。
ハンナ・フライ:しかし、そのシミュレートされた世界にエージェントを投下することもできますよね?
デミス・ハサビス:はい。
ハンナ・フライ:あなたのGenie 3チームは、本当に素敵な引用をしていました。「ほぼすべての主要な発明の前提条件は、その発明を念頭に置いて作られたものではなかった」と。彼らは、これらのシミュレーション環境にエージェントを投下して、好奇心を主な動機として探索させることについて話していました。
デミス・ハサビス:その通りです。そして、これらの世界モデルのもう一つの本当にエキサイティングな使い方は、別のプロジェクトSIMAがあります。SIMA 2をリリースしたばかりです。シミュレートされたエージェントで、アバターやエージェントを持ち、仮想世界に降ろします。それは通常の商業ゲームのようなものでも構いません。「No Man’s Sky」のようなオープンワールドの宇宙ゲームのような、非常に複雑なもの。
そしてあなたはそれを指示することができます。なぜなら、それはGeminiをフードの下に持っているからです。エージェントに話しかけてタスクを与えることができます。しかし、もしGenieをSIMAに接続して、SIMA エージェントを世界を即座に作成している別のAIに投下したら楽しいだろうと思いました。今、2つのAIがお互いの心の中で相互作用しているようなものです。
SIMAエージェントはこの世界をナビゲートしようとしています。そしてGenieに関する限り、それはただのプレイヤーであり、アバターです。それが別のAIであることは気にしません。ですから、SIMAがやろうとしていることの周りに世界を生成しているだけです。ですから、両方が一緒に相互作用しているのを見るのは驚くべきことです。そしてこれは、興味深いトレーニングループの始まりになる可能性があると思います。SIMAエージェントが学習しようとしているものは何でも、Genieが基本的に即座に作成できるので、ほぼ無限のトレーニング例があります。
ですから、タスクを設定して解決する、何百万ものタスクを自動的に設定して解決し、それらはますます困難になっていくという全体の世界を想像できます。ですから、そのようなループを設定しようとするかもしれません。もちろん、それらのSIMAエージェントはゲームコンパニオンとして素晴らしいものになる可能性がありますし、また彼らが学ぶことのいくつかはロボティクスにも役立つ可能性があります。
ハンナ・フライ:ええ、基本的に退屈なNPCの終わりですね。
デミス・ハサビス:まさに。これらのゲームにとって素晴らしいものになるでしょう。ええ。
ハンナ・フライ:しかし、あなたが作成しているそれらの世界は、それらが本当に現実的であることをどのように確認しますか?つまり、もっともらしく見えるが実際には間違っている物理学にならないようにするにはどうすればよいですか?
デミス・ハサビス:ええ、それは素晴らしい質問で、問題になる可能性があります。
物理学の正確性と検証
基本的にそれは再びハルシネーションです。ですから、いくつかのハルシネーションは良いものです。なぜなら、それは興味深く新しいものを作成する可能性があることも意味するからです。ですから、実際、創造的なことをしようとしているとき、あるいはシステムに新しいもの、斬新なものを作成させようとしているときは、少しのハルシネーションが良いかもしれません。しかし、それは意図的であってほしいのです。今ハルシネーションをオンにする、あるいは創造的な探索をオンにするという具合に。
しかし、はい、SIMAエージェントをトレーニングしようとしているとき、Genieに間違った物理学をハルシネーションしてほしくありません。ですから、実際に今やっていることは、ほぼ物理学のベンチマークを作成していることです。そこでは、物理学で非常に正確なゲームエンジンを使用して、かなり単純な多くのものを作成できます。物理学のAレベルのラボレッスンで行うようなこと、例えば小さなボールをさまざまなトラックを転がして、どれだけ速く進むかを見るようなことです。そして本当に非常に基本的なレベルで、ニュートンの運動の3つの法則を解析します。
それをカプセル化したかどうか?VeoやGenieなど、これらのモデルがそれを100%正確にカプセル化したかどうか?そして現時点では、そうではありません。それらは一種の近似です。そして、ただ何気なく見ると現実的に見えますが、例えばロボティクスに頼るほど十分正確ではありません。
ですから、それが次のステップです。ですから、今、私たちがこれらの本当に興味深いモデルを手に入れたので、すべてのモデルで試みているのと同じように、ハルシネーションを減らして、さらに根拠のあるものにすることだと思います。そして物理学については、おそらく地上の真実、単純なビデオ、振り子のビデオを大量に生成することが含まれると思います。
2つの振り子がお互いの周りを回るとどうなるか?しかし、すぐに3体問題にたどり着きます。これはとにかく解決できません。ですから、興味深いものになると思います。しかし、すでに驚くべきことは、Veoのようなビデオモデルと、反射や液体の扱い方を見ると、少なくとも肉眼では信じられないほど正確です。
ですから、次のステップは、実際に人間のアマチュアが知覚できるものを超えて、本当に適切な物理学グレードの実験に耐えられるかどうかということです。
ハンナ・フライ:あなたがこれらのシミュレートされた世界について本当に長い間考えてきたことは知っています。そして私は最初のインタビューのトランスクリプトに戻りました。その中であなたは、意識は進化の結果であるという理論が本当に好きだと言っていました。進化の過去のある時点で、他者の内部状態を理解することに利点があり、それから私たちはそれを自分自身に向けたと。
それは、シミュレーション内でエージェントの進化を実行することに興味を持たせますか?
デミス・ハサビス:もちろんです。つまり、いつかその実験を実行したいと思います。進化を再実行する、社会的ダイナミクスもほぼ再実行するようなものです。サンタフェは小さなグリッドワールドで多くのクールな実験を実行していました。
私はこれらのいくつかが大好きでした。彼らはほとんどが経済学者で、小さな人工社会を運営しようとしていました。そして、適切なインセンティブ構造でエージェントを十分長く走らせると、あらゆる種類の興味深いものが発明されることを発見しました。市場、銀行、あらゆる種類のクレイジーなもの。
ですから、それは本当にクールだと思いますし、生命の起源と意識の起源を理解するためにも。そして、それが最初からAIに取り組むことへの大きな情熱の一つだったと思います。私たちがどこから来たのか、これらの現象は何なのかを本当に理解するには、これらの種類のツールが必要になると思います。
そしてシミュレーションはそれを行うための最も強力なツールの一つだと思います。なぜなら、統計的にそれを行うことができるからです。わずかに異なる初期条件でシミュレーションを何度も実行し、何百万回も実行して、非常にコントロールされた実験的な方法で、わずかな違いが何であるかを理解できます。もちろん、本当に答えたい興味深い質問のために、現実世界でそれを行うのは非常に困難です。
ですから、正確なシミュレーションは科学にとって信じられないほどの恩恵になると思います。
ハンナ・フライ:これらのモデルの創発的特性について発見したこと、私たちが予期していなかった概念的理解を持っていることを考えると、そのようなシミュレーションを実行することについても非常に慎重でなければなりませんか?
デミス・ハサビス:そうする必要があると思います、はい。しかし、それがシミュレーションのもう一つの良い点です。かなり安全なサンドボックスでそれらを実行できます。最終的にはエアギャップしたいかもしれません。そしてもちろん、シミュレーション内で何が起こっているかを24時間365日監視でき、すべてのデータにアクセスできます。AIツールを使ってシミュレーションを監視する手助けをしてもらう必要があるかもしれません。なぜなら、非常に複雑で、その中で非常に多くのことが起こっているからです。
シミュレーション内で多くのAIが走り回っていることを想像すると、どんな人間の科学者でもそれについていくのは難しいでしょう。しかし、おそらく他のAIシステムを使って、それらのシミュレーションの中で興味深いこと、あるいは心配なことを自動的に分析してフラグを立てることができるでしょう。
ハンナ・フライ:つまり、私たちはまだこのようなことについて中長期的に話していると思います。
AGIと社会への影響
ですから、現在進んでいる軌道に戻りましょう。AIとAGIが社会全体に与える影響についても話したいと思います。前回お話ししたとき、あなたはAIは短期的には過大評価されているが、長期的には過小評価されていると思うと言っていました。そして今年、AIバブルについて多くの議論がありました。
デミス・ハサビス:はい。
ハンナ・フライ:もしバブルがあって、それが弾けたら何が起こりますか?何が起こるのでしょうか?
デミス・ハサビス:そうですね、はい、私はまだ、短期的には過大評価されているが、中長期的にはまだ過小評価されていると思っています。それがどれほど変革的なものになるかについて。ええ、もちろん、今まさにAIバブルについて多くの話があります。私の見解では、それは一つのものではないと思います。二項対立的なものではありません。私たちはバブルにいるのか、いないのか?AIエコシステムの一部がおそらくバブルにあると思います。一つの例は、基本的にまだ始まってさえいないスタートアップのシード・ラウンドで、門を出る前に数百億ドルの評価で資金調達しています。
それは興味深いことです。それは持続可能でしょうか?私の推測では、おそらくそうではありません。少なくとも一般的には。ですから、そういう領域があります。それから人々は心配しています。明らかに、大手テクノロジー企業の評価などがあります。その背後には多くの実際のビジネスがあると思います。しかし、それはまだ分かりません。
つまり、どんな新しい、信じられないほど変革的で深遠な技術でも、もちろんAIはおそらく最も深遠なものですが、この過剰修正のようなものが起こるだろうと思います。ですから、私たちがDeepMindを始めたとき、誰もそれを信じていませんでした。誰もそれが可能だと思っていませんでした。人々は疑問に思っていました。とにかくAIは何のためにあるのか?そして10年、15年後の今、明らかに、それはビジネスで人々が話す唯一のことのようです。
しかし、あなたは過小反応に対する過剰反応のようなものを得るでしょう。ですから、それは自然なことだと思います。インターネットでもそれを見たと思います。モバイルでもそれを見ました。そしてAIでもそれを見ている、あるいは見ることになると思います。私は、私たちがバブルにいるかどうかについてあまり心配していません。なぜなら、私の観点から、Google DeepMindをリードし、明らかにGoogleとAlphabet全体についても、私たちの仕事と私の仕事は、どちらにしても、私たちが非常に強く出てくること、そして私たちが非常に良い位置にいることを確認することだからです。そして、どちらにしても、私たちは非常に良い位置にいると思います。
ですから、今のように続けば、素晴らしい。私たちが行っているこれらすべての素晴らしいことを続けます。AGIに向けた実験と進歩。もし後退があれば、いいでしょう。それでも、私たちは素晴らしい位置にいると思います。なぜなら、TPUを持つ独自のスタックがあるからです。また、これらすべての信じられないほどのGoogle製品と、それがすべて生み出す利益があり、私たちのAIをそれに組み込むことができます。そして私たちはそれを行っています。SearchはAI Overviews、AI Modeによって完全に革命化されており、Geminiがフードの下にあります。Workspace、メール、YouTubeを見ています。ですからChromeには。
Geminiを適用できる素晴らしいことがすべてあります。もちろん、Geminiアプリもあります。これも今本当によくやっていますし、ユニバーサルアシスタントのアイデアもあります。ですから新しい製品があり、時が満ちれば、超価値があると思います。しかし、それに頼る必要はありません。
既存のエコシステムをパワーアップすることができます。これはすべて、この1年間で起こったことだと思います。それが本当に効率的になりました。
ハンナ・フライ:現在人々がアクセスできるAIについて言えば、最近あなたがユーザーエンゲージメントを最大化するためにAIを構築しないことがどれほど重要かについて言っていたのを知っています。ソーシャルメディアの過ちを繰り返さないために。
AI倫理とパーソナリティ
しかし、ある意味ではすでにこれを見ているのではないかとも思います。つまり、人々がチャットボットと話すことに非常に多くの時間を費やして、自己急進化のらせんに陥ってしまう。
デミス・ハサビス:ええ。
ハンナ・フライ:それをどのように止めますか?ユーザーを自分自身の宇宙の中心に置くAIをどのように構築しますか?それが多くの点でこれのポイントですが、一人のエコーチェンバーを作らずに。
デミス・ハサビス:ええ。それは非常に慎重なバランスで、業界として正しく行わなければならない最も重要なことの一つだと思います。ですから、私たちは、過度にへつらうシステムや、人にとって本当に悪いエコーチェンバーの強化が起こるシステムで何が起こるかを見てきたと思います。ですから、その一部は、実際、これがGeminiで構築したいものです。
そして私は、素晴らしいチームが取り組んでいて、私も個人的に手伝ったGemini 3のペルソナに本当に満足しています。ほぼ科学的なパーソナリティのようなものです。温かく、親切で、軽いですが、簡潔で、要点を突いています。そして、地球が平らだというアイデアを強化しようとするのではなく、意味をなさないことに対してフレンドリーな方法で反論します。あなたがそれを言って、素晴らしいアイデアだというように。
それが社会全般にとって良いことだとは思いません。もしそれが起こったら。しかし、人々が望むものとのバランスを取らなければなりません。なぜなら、人々はこれらのシステムが自分のアイデアやブレインストーミングをサポートし、助けてくれることを望んでいるからです。ですから、そのバランスを正しく取らなければなりません。そして、私たちはパーソナリティとペルソナの科学を発展させていると思います。それが何をしているかを測定する方法、そして真正性、ユーモア、これらのようなことについてどこにいたいかです。そして、それと一緒に出荷される基本的なパーソナリティを想像できます。そして誰もが独自の好みを持っています。よりユーモラスであってほしい、ユーモラスでなくてほしい、より簡潔であってほしい、より冗長であってほしい?人々は異なるものが好きです。ですから、その上に追加のパーソナライゼーション層を追加します。
しかし、誰もが得る中核的な基本パーソナリティがまだあります。これは科学的方法に従おうとしている種類のものです。それがこれらの全体の要点です。そして、人々がこれらを科学や医学、健康問題などに使用してほしいと思っています。ですから、これらの大規模言語モデルを正しく行うための科学の一部だと思います。そして私は現在進んでいる方向にかなり満足しています。
ハンナ・フライ:数週間前にShane LeggとAGIについて特に話す機会がありました。現在AI全体で起こっているすべてのこと、言語モデル、世界モデルなどの中で、あなたのAGIのビジョンに最も近いものは何ですか?
デミス・ハサビス:実際、組み合わせだと思います。明らかに、Gemini 3があります。これは非常に有能だと思いますが、先週ローンチしたNano Banana Proシステムもあります。これは私たちの画像作成ツールの高度なバージョンです。
それについて本当に驚くべきことは、Geminiもフードの下にあるので、画像だけでなく理解できることです。それらの画像で何が起こっているかを意味的に理解しています。そして人々はまだ1週間しか遊んでいませんが、人々がそれを何に使っているかについて、ソーシャルメディアで非常に多くのクールなことを見てきました。
ですから、例えば、複雑な飛行機か何かの写真を与えることができ、飛行機のさまざまな部分のすべての図をラベル付けし、さまざまな部分がすべて露出した状態で視覚化することさえできます。ですから、力学や物体を構成する部分、材料についての深い理解があります。
そして今、テキストを本当に正確にレンダリングできます。ですから、それは画像のための一種のAGIに向かっていると思います。画像全体にわたって何でもできる一種の汎用目的システムだと思います。ですから、それは非常にエキサイティングです。そして世界モデルの進歩、Genie、SIMA、そして私たちがそこで行っていることです。
そして最終的には、これらすべての異なるものを収束させなければなりません。それらは現時点では異なるプロジェクトです。そして絡み合っていますが、それらすべてを一つの大きなモデルに収束させる必要があります。そして、それがプロトAGIの候補になり始めるかもしれません。
ハンナ・フライ:あなたが最近、産業革命についてかなり読んでいることは知っています。
デミス・ハサビス:はい。
ハンナ・フライ:そこで起こったことから学んで、AGIが来るときに予想される混乱のいくつかを軽減することができるものはありますか?
デミス・ハサビス:多くのことを学べると思います。それは学校で勉強するものです。少なくとも英国では、しかし非常に表面的なレベルで。それがどのように起こったのか、その背後にある経済的理由、それは繊維産業でした、を調べることは私にとって本当に興味深いものでした。そして最初のコンピュータは本当にミシンでした。そしてそれらは初期のFortranコンピュータ、メインフレームのパンチカードになりました。そしてしばらくの間、それは非常に成功しました。
そして英国は繊維の世界の中心になりました。なぜなら、自動化されたシステムのおかげで、非常に安価で驚くほど高品質のものを作ることができたからです。そして明らかに、蒸気機関やそれらすべてのものが登場しました。産業革命から生まれた信じられないほどの多くの進歩があると思います。
ですから、児童死亡率が下がり、すべての現代医学と衛生状態、仕事と生活の分離とそれがどのように機能したかは、産業革命の間に解決されました。しかし、多くの課題も伴いました。かなり長い時間、約1世紀かかりました。そして労働力のさまざまな部分が特定の時期に混乱し、その後新しいものが作成されなければなりませんでした。
組合や他のもののような新しい組織が、それを再バランスするために作成されなければなりませんでした。ですから、社会全体が時間をかけて適応しなければならないのを見るのは魅力的でした。そして今、現代世界があります。ですから、産業革命には明らかに多くの長所と短所がありました。なぜそれが起こっていたのか。しかし、それが全体として何をしたかを考えると、西洋世界における食料の豊富さ、現代医学、これらすべてのもの、現代の交通、それはすべて産業革命のおかげでした。
ですから、私たちは産業革命以前に戻りたくありません。しかし、それから学ぶことで、それらの混乱が何であったかを事前に理解し、今回はそれらをより早く、あるいはより効果的に軽減できるかもしれません。そして、おそらく私たちはそうしなければならないでしょう。なぜなら、今回の違いは、おそらく産業革命の10倍の規模になり、10倍速く起こるでしょう。1世紀ではなく、10年のように、10年間で展開するでしょう。
ハンナ・フライ:Shaneが私たちに語ったことの一つは、労働力をリソースと交換する現在の経済システムが、AGI後の社会では同じように機能しないということでした。社会がどのように再構成されるべきか、あるいは機能する方法で再構成される可能性があるかについてのビジョンはありますか?
デミス・ハサビス:ええ。
AGI後の社会と経済システム
私は今、これについてもっと時間を費やして考えています。そしてShaneは実際、AGI後の世界がどのようなものになるか、そして私たちが何に備える必要があるかを考えるための取り組みをここで主導しています。しかし、社会全般がそれについてもっと時間を費やして考える必要があると思います。経済学者、社会科学者、政府などが。なぜなら、産業革命と同様に、労働世界全体と労働週とすべてが、産業革命以前、農業のようなものから変わったからです。
そして少なくともそのレベルの変化が再び起こるだろうと思います。ですから、新しい経済システム、新しい経済モデルが必要になっても驚きではありません。基本的にその変革を助け、例えば利益が広く分配されることを確認し、おそらくユニバーサルベーシックインカムのようなものが解決策の一部になるでしょう。
しかし、それが完全な解決策だとは思いません。それは今日私たちが持っているものへのアドオンのようなものになるだけなので、今モデル化できるものだと思います。しかし、より良いシステムがあるかもしれません。より直接民主主義のようなシステム。特定の量のクレジットで、見たいものに投票できるようなものです。
実際、地域コミュニティレベルで起こります。ここにお金の束があります。遊び場、テニスコート、学校の追加教室が欲しいですか?そして、コミュニティにそれを投票させます。そして、結果を測定することさえできるかもしれません。そして、最終的によく受け入れられることに一貫して投票する人々は、次の投票に比例してより多くの影響力を持ちます。
ですから、私が聞いている経済学者の友人たちがブレインストーミングしている興味深いことがたくさんあります。そして、それについてもっと多くの作業があれば素晴らしいと思います。それから哲学的な側面があります。OK、仕事は変わり、他のこともそのようになります。しかし、おそらく核融合は解決されているでしょう。
そして、この豊富な無料エネルギーがあるので、私たちはポスト希少性です。ではお金に何が起こるのでしょうか?おそらくみんなもっと良くなるでしょう。しかし、目的に何が起こるのでしょうか?なぜなら、多くの人が仕事から目的を得て、家族を養うことで、それは非常に高貴な目的だからです。ですから、多くのことがあると思います。これらの質問のいくつかは経済的な質問からほぼ哲学的な質問に融合すると思います。
ハンナ・フライ:人々があなたが見たいほど速く注意を払っていない、あるいは動いていないことを心配していますか?
デミス・ハサビス:ええ、私は心配しています。
ハンナ・フライ:人々がこれについて国際協力が必要であることを認識するには何が必要でしょうか?
デミス・ハサビス:私はそれについて心配しています。そして、繰り返しますが、理想的な世界では、すでにはるかに多くの協力があり、特に国際的であり、これらのトピックについて進行中のはるかに多くの研究と、探求と議論があったでしょう。
非常に短いタイムラインもありますが、私たちのものでさえ5年から10年です。これに対処するために構築される機関やそのようなもののためには長くありません。そして私が持っている心配の一つは、存在する機関が、非常に断片化されていて、必要とされるレベルには非常に影響力がないように見えることです。
ですから、現在これに対処する適切な機関がない可能性があります。そしてもちろん、現在世界中で起こっている地政学的緊張を加えると、協力と協調はこれまで以上に困難に見えます。気候変動を見てください。それに関連する何かについて合意を得ることがどれほど難しいか。
私たちは見るでしょう。しかし、リスクが高くなり、これらのシステムがより強力になるにつれて、そしておそらくこれは製品に含まれることの利点の一つです。この技術に取り組んでいない日常の人々が、これらのものの力と能力の増加を感じることができます。そして、それは政府に到達し、そして彼らはAGIに近づくにつれて意味を理解するかもしれません。
ハンナ・フライ:誰もが座って注意を払うためには、瞬間、事件が必要だと思いますか?
デミス・ハサビス:分かりません。つまり、そうならないことを願います。主要なラボのほとんどはかなり責任があります。私たちはできるだけ責任を持とうとしています。それは常に私たちが行ってきたことの中心にあるものです。長年私たちをフォローしてきた方ならご存じでしょう。すべてを正しく行えるという意味ではありませんが、できるだけ思慮深く、アプローチにおいてできるだけ科学的であろうとしています。主要なラボのほとんどが責任を持とうとしていると思います。また、実際には責任を持つための良い商業的圧力もあります。エージェントについて考えてみてください。他の会社に何かをするためにエージェントを貸している場合、その他の会社は、それらのエージェントが何をするか、しないかについて、制限と境界とガードレールが何であるかを知りたいと思うでしょう。データを台無しにするだけではなく、これらすべてのことです。
ですから、より無法者的な操作は、企業がそれらを選ばないので、ビジネスを得られないため、それは良いことだと思います。ですから、資本主義システムが実際にここで責任ある行動を強化するのに役立つと思います。それは良いことです。しかし、その後、不正な行為者がいるでしょう。おそらく不正な国家、おそらく不正な組織、おそらくオープンソースの上に構築している人々。
分かりません。明らかに、それを止めることは非常に困難です。それから何かがうまくいかないかもしれません。そしてうまくいけば、それはちょうど中規模で、それは人類への警告ショットになるでしょう。そして、それは国際基準や国際協力または協調を提唱する瞬間になるかもしれません。少なくとも高レベルで、基本的な、私たちが望み、同意する基本的な基準は何かについて。それが可能であることを願っています。
ハンナ・フライ:長期的に、つまりAGIを超えてASI、人工超知能に向けて、人間ができて機械が決して管理できないことがあると思いますか?
デミス・ハサビス:まあ、それが大きな問題だと思います。そして、これは私の好きなトピックの一つであるチューリングマシンに関連していると感じています。
チューリングマシンの限界と未来への探求
私はずっとこう感じてきました。もし私たちがAGIを構築し、それを心のシミュレーションとして使用して、実際の心と比較すれば、その違いが見えてくるでしょうし、人間の心について何が特別で何が残っているのかが潜在的に分かるはずです。それは創造性かもしれません。感情かもしれません。夢、意識かもしれません。
何が計算可能で何がそうでないのかについて、多くの仮説があります。そしてこれは、チューリングマシンの限界とは何かというチューリングマシンの問題に立ち返ります。そしてそれが私の人生の中心的な問いだと思います。チューリングとチューリングマシンについて知ってから本当にずっと。そして私はそれに恋をしました。
それが私の核心的な情熱です。そして、タンパク質を折りたたむことも含めて、私たちが行ってきたすべてのことは、チューリングマシンができることの概念を限界まで押し上げることだと思います。ですから、その限界が何であるか分かりません。おそらくないのかもしれません。そしてもちろん、私の量子コンピューティングの友人たちは限界があると言うでしょう。量子システムを行うには量子コンピュータが必要だと。
しかし、私は本当にそうは思いません。そして実際、量子の人々の何人かとそれについて議論しました。そして、古典的なシミュレーションを作成するために、これらの量子システムからのデータが必要である可能性があります。そしてそれは心に戻ってきます。それはすべて古典的な計算なのか、それとも何か他のことが起こっているのか、ロジャー・ペンローズは脳内に量子効果があると信じています。もしあって、それが意識と関係があるなら、機械は決してそれを持たないでしょう。少なくとも古典的な機械は。
量子コンピュータを待たなければならないでしょう。しかし、もしなければ、限界がないかもしれません。おそらく宇宙では、適切な方法で見れば、すべてが計算可能であり、したがって、チューリングマシンは宇宙のすべてをモデル化できるかもしれません。私は現在、もし推測するとしたら、私はそう推測します。
そして、物理学が別のことを示すまで、その前提で作業しています。
ハンナ・フライ:つまり、これらの計算の枠組みの中ではできないことは何もないということですか?
デミス・ハサビス:まあ、誰も、こう言いましょう。今のところ、宇宙の中で計算不可能なものは誰も見つけていません。
ハンナ・フライ:今のところは。
デミス・ハサビス:そして、タンパク質の折りたたみやGoなど、古典的なコンピュータが今日できることのP対NP問題という通常の複雑性理論家の見解をはるかに超えることができることをすでに示していると思います。
ですから、その限界が何であるか誰も知らないと思います。そして本当に、私たちがDeepMindとGoogleで行っていること、そして私がやろうとしていることを煮詰めると、その限界を見つけることです。
ハンナ・フライ:しかし、そのアイデアの限界では、私たちがここに座っているということです。顔に感じるライトの温かさ。背景で機械の回る音が聞こえます。手の下のデスクの感触。そのすべてが古典的なコンピュータによって再現可能だということですか?
デミス・ハサビス:はい。まあ、最終的には、私の見解では、そしてこれが私がカントも好きな理由です。私の好きな2人の哲学者、カントとスピノザは、異なる理由で好きです。しかしカント、現実は心の構築物です。それは真実だと思います。ですから、はい、あなたが言及したすべてのこと、それらは私たちの感覚装置に入ってきて、異なって感じます。ライトの温かさ、テーブルの触感。しかし、結局、それはすべて情報であり、私たちは情報処理システムです。
そして、それが生物学であると思います。これが私たちがisomorphicで行おうとしていることです。それが、生物学を情報処理システムとして考えることによって、最終的にすべての病気を治すことになると思う方法です。そして、最終的にはそうなるだろうと思います。そして私は余暇の2分間で取り組んでいます。情報が宇宙の最も基本的な単位であるという物理学理論について。エネルギーでも物質でもなく、情報です。
ですから、最終的には、これらはすべて交換可能かもしれませんが、私たちはそれを感じる、異なる方法で感じるだけです。しかし、私たちが知る限り、私たちが持っているこれらすべての驚くべきセンサーは、まだチューリングマシンによって計算可能です。
ハンナ・フライ:しかし、だからこそあなたのシミュレートされた世界がとても重要なのです。
デミス・ハサビス:はい、まさに。なぜなら、それはそれに到達するための方法の一つになるからです。私たちが何をシミュレートできるかの限界は何ですか?なぜなら、シミュレートできるなら、ある意味で、あなたはそれを理解したことになるからです。
ハンナ・フライ:この最前線にいることがどのようなものかについての個人的な反省で終わりたいと思います。つまり、この感情的な重みがあなたを疲れさせることはありますか?孤立感を感じることはありますか?
デミス・ハサビス:はい。
見てください、私はあまり眠りません。仕事が多すぎるという理由もありますが、眠るのに苦労しています。対処すべき非常に複雑な感情があります。なぜなら、それは信じられないほどエキサイティングだからです。私は基本的に、これまで夢見てきたすべてのことをやっています。そして私たちは、機械学習だけでなく応用科学も含めて、多くの方法で科学の最前線にいます。
そして、それは爽快です。すべての科学者が知っているように、最前線にいて初めて何かを発見するという感覚です。そして、それは私たちにとってほぼ毎月起こっています。それは素晴らしいことです。しかしもちろん、Shaneと私、そして長い間これを行ってきた他の人々は、来るものの巨大さを誰よりもよく理解しています。
そして、これはまだ実際に過小評価されています。実際、哲学的な人間であることが何を意味するか、それについて何が重要かを含めて、10年規模でどうなるかについて。これらすべての質問が出てくるでしょう。ですから、それは大きな責任です。しかし、私たちはこれらのことについて考える素晴らしいチームがいます。
しかしまた、少なくとも私自身にとっては、人生全体でトレーニングしてきたものだと思います。ですから、チェスをプレイしていた初期の頃から、それからコンピュータ、ゲーム、シミュレーション、神経科学に取り組んできて、それはすべてこの種の瞬間のためでした。そして、それは大体私が想像していたことです。ですから、それが私がそれに対処する方法の一部です。ただトレーニングです。
ハンナ・フライ:予想以上にあなたを強く打った部分はありますか?
デミス・ハサビス:はい、確かに。途中で、つまりAlphaGoマッチでさえ、Goをクラックする方法を見ただけです。しかし、Goはこの美しい謎でした。そしてそれは変わりました。ですから、それは興味深く、ほろ苦いものでした。言語のより最近のこと、そして画像処理、そして創造性にとって何を意味するかだと思います。私自身がゲームデザインをやってきたので、創造芸術に対して大きな尊敬と情熱を持っています。そして映画監督と話します。
そして彼らにとってもそれは興味深い二重の瞬間です。一方では、アイデアのプロトタイピングを10倍速める素晴らしいツールを手に入れています。しかし他方では、特定の創造的スキルを置き換えているのでしょうか?ですから、あらゆる場所でこれらのトレードオフが起こっていると思います。これはAIのように強力で変革的な技術では避けられないことだと思います。過去には電気やインターネットがそうでした。
そして私たちはそれを見てきました。それが人類の物語です。私たちは道具を作る動物です。そしてそれが私たちが大好きなことです。そして何らかの理由で、私たちはまた科学を理解し、科学を行うことができる脳を持っています。それは素晴らしいことですが、また飽くなき好奇心を持っています。それが人間であることの核心だと思います。そして私は最初からそのバグを持っていたと思います。
そしてそれに答えようとする私の表現はAIを構築することです。
ハンナ・フライ:あなたと他のAIリーダーたちが部屋に一緒にいるとき、あなた方の間に連帯感のようなものはありますか?これは賭け金を知っている人々のグループであり、物事を本当に理解している人々である、という感覚ですか?それとも競争があなた方を離れさせていますか?
デミス・ハサビス:まあ、ええ、私たちは皆お互いを知っています。私はほぼ全員と仲良くしています。他の何人かはお互いに仲良くしていません。そして、それは難しいです。なぜなら、私たちはまたこれまでで最も激しい資本主義競争の中にいるからです。おそらく。ドットコム時代にいた私の投資家の友人やVCの友人たちは、これはその時の10倍激しく、激烈だと言います。
多くの点で、私はそれが大好きです。つまり、私は競争のために生きています。チェスの時代から常にそれを愛してきました。しかし、一歩下がって、私は理解しています。そして、会社の成功やそのようなことだけよりも、はるかに大きなものが賭けられていることを誰もが理解していることを願っています。
ハンナ・フライ:今後10年について考えるとき、あなたが個人的に最も不安に思う大きな瞬間が来ますか?
デミス・ハサビス:現時点では、システムは受動的なシステムだと呼んでいます。ユーザーとしてエネルギーを投入します。質問、あるいはタスクは何ですか?そして、これらのシステムはあなたに何らかの要約や答えを提供します。ですから、非常に人間が指示し、人間のエネルギーが入り、人間のアイデアが入っています。次の段階はエージェントベースのシステムです。今見始めていると思います。今見ていますが、かなり原始的です。
次の数年で、本当に印象的で信頼できるものをいくつか見始めると思います。そして、それらはアシスタントのようなものとして考えれば、信じられないほど有用で有能になると思います。しかしまた、それらはより自律的になります。ですから、それらのタイプのシステムでリスクも上がると思います。
ですから、2、3年後にそれらの種類のシステムが何をできるかについて、私はかなり心配しています。ですから、私たちはそのような世界に備えてサイバー防御に取り組んでいます。おそらく何百万ものエージェントがインターネット上を走り回っているような世界です。
ハンナ・フライ:あなたが最も楽しみにしていることは何ですか?つまり、あなたの仕事が完了したと知って引退できる日が来ますか?それとも、一生分以上の仕事が残っていますか?
デミス・ハサビス:ええ。私はいつも、まあ、サバティカルを取ることができると確かに、そしてそれを科学をすることに費やすでしょう。
ハンナ・フライ:ただ1週間の休み、デミス。
デミス・ハサビス:ええ、1週間の休み、あるいは1日でも良いでしょう。しかし、見てください、私の使命は常に、全人類のためにAGIを安全にラインを越えて導く手助けをすることでした。ですから、その地点に到達したら、もちろん、超知能があり、AGI後があり、私たちが議論した経済的なことや社会的なことがあり、おそらく私は何らかの形で助けることができます。しかし、私の人生の使命の中核的な部分は完了すると思います。つまり、小さな仕事です。
それをラインを越えさせるだけです。あるいは世界がそれをラインを越えさせる手助けをします。先ほど話したように、協力が必要になると思います。そして私はかなり協力的な人間なので、私が持っている立場からそれに助けることができることを願っています。
ハンナ・フライ:そして、あなたは休暇を取ることができます。
デミス・ハサビス:そして私は、ええ、まさに、よく稼いだサバティカルを取ります。
ハンナ・フライ:ええ、絶対に。デミス、本当にありがとうございました。
デミス・ハサビス:お招きいただきありがとうございます。
ハンナ・フライ:いつものように楽しかったです。それでは、私、ハンナ・フライ教授とお送りした今シーズンの「Google DeepMind:ポッドキャスト」は以上です。しかし、必ず購読して、2026年の私たちの復帰について最初に聞くようにしてください。
そして、その間に、私たちの膨大なエピソードライブラリを再訪してみてはいかがでしょうか?なぜなら、私たちは今年、自動運転車からロボティクス、世界モデルから創薬まで、非常に多くのことをカバーしてきました。あなたを忙しくさせるのに十分です。またすぐにお会いしましょう。
コメント