Google DeepMindのCEOであるDemis Hassabisが、AI研究における開放性と競争のバランス、AGI到達までの時間軸、AI開発のボトルネックとなるメモリチップ供給、エネルギー消費への懸念、そしてAIの科学的応用の重要性について語った対話である。Hassabisは、オープンサイエンスが全体的な進歩を加速させる一方で、安全性や倫理的問題を考慮する時間を確保するためには、ある程度の減速も悪くないと指摘する。また、Google DeepMindがTransformerやAlphaGoなど基礎的な技術を公開してきた歴史に触れつつ、他社がこれらを利用するだけで貢献しない現状の持続可能性に疑問を呈している。創薬分野ではIsomorphic Labsの進展、量子コンピューティングとの協力関係、そして米国防総省との協力関係についても議論され、AI技術を社会的課題の解決に活用することの重要性が強調されている。
AI研究におけるオープンサイエンスのジレンマ
自分だけで壁を作って、そこで独自にブレークスルーを生み出すことは可能だと思いますか。それとも、やはりそういった相互交流が必要だと考えますか。
そうですね、間違いなく言えるのは、これが科学、オープンサイエンスが機能する理由なんですが、すべてを完全に共有すれば、全体的な進歩は速くなるということです。分野全体の視点から見れば、それは事実です。
ただ、実際にはそれほど速くない方が良いことかもしれません。なぜなら、安全性について心配しなければならないからです。この技術については、他にも考えなければならないことがたくさんあります。商業的な懸念は別として、安全性や哲学的な問題、倫理的な問題もあります。AGIに到達するまで、つまり5年から10年という時間枠の中で、これらを整理する時間があまりないんです。
だから、もう少し時間をかけて考えることができるというのは、悪いことではないかもしれません。それから、他の点についても言えば、私たち自身のことを言えば、Transformerを発表しました。GoogleがTransformerを世に出したことについて、十分な評価を得ていないと思います。現代のAI業界全体がそれに基づいているわけですから。AlphaGoも私たちはNatureに発表しました。こういった強化学習やディープラーニングの基礎的なもの、そして先ほど言及されたAtariの研究も含めて、初期のNIPSの時代に遡りますが、これらはすべて公開されて、誰もが利用できるようにしました。これらの多くが、現代のAI業界を生み出したと思います。
ただ一つ、私たちの観点から言えることは、私たちがオープンに公開したものを多くの人が使っているのに、必ずしもコモンズに貢献しているわけではないということです。これは長期的には少し持続不可能なんです。私たちや他の人たちが多くのものをコモンズに投入し、すべてを公開して発表しているのに、他の人たちはそれを受け取って、それを基に構築しているだけです。もちろん、それは彼らの権利ですが、少なくとも同じ規模では何も発表し返していません。だから、これはそう長くは続かないと思います。
AI開発のスピードと安全性のバランス
それは本当に興味深いですね。そして、物事を遅くすることが、それほど恐ろしいことではないかもしれないという考え方ですね。自然な形で。
そうです。物事が変化した理由は複数ありますが、私の心の片隅では、それは必ずしも悪いことではないと思っています。信じられないほど速く進んでいます。先ほども触れましたが、AIにおける1年は10年分に感じられます。だから、これ以上速く進んでほしいとは思いません。それが分野の問題だとは思いません。
メモリチップ不足とAI研究への影響
それに加えて、他の逆風もありますよね。今年は多くの人がメモリについて話しています。メモリの不足、あるいは高価格についてですが、これは研究に何か影響を与えていますか。
今のところ直接的な影響はありませんが、将来的な逆風になる可能性はあります。これはコンピュートに対する追加のボトルネックに過ぎず、研究に影響を与えます。なぜなら、先ほど話したように、今日では誰であっても、既存のものやプロダクト、顧客やエンタープライズ顧客へのサービス提供とトレーニングの間で、容赦なく優先順位をつけなければならないからです。
だから、より多くのコンピュートがあれば、より多くの探索もできるんです。コンピュートに関する興味深い点は、大規模なトレーニングだけではないということです。新しいアイデアを探索するためにも使われます。それらが良いアイデアかどうかは、ある程度の規模で実行してみないとわからないんです。そうしないと、うまくいきません。
メモリチップは、プレッシャーにさらされているサプライチェーン全体の一部に過ぎません。一つを修正すると、別の部分がボトルネックになります。今はメモリチップですが、明日にはおそらく別の何かになっているでしょう。
データセンターとエネルギー消費への懸念
そうですね。それから、もう一つのことは、私たちがこれについて書いたのですが、ニンビーイズムの問題です。データセンターに関しては、これが実際に米国で草の根レベルの問題になっていますよね。あなたがどう考えているのか気になります。なぜなら、あなたは科学や研究のためにこれらすべてをやっているわけで、それは人々が本当に支持するような種類のものです。
でも、もっと軽薄なものや、ビデオのようなものになると、人々は「私たちは地球温暖化を増加させるつもりなのか、こういった軽薄なもののために。それは価値があるのか」といった会話になるんです。だから、どうやって世論を変えるかについて、メッセージや戦略があるのか気になります。
なるほど。それは理解できます。水の使用量などについて、多くの誤った情報があると思います。でも、そこには本当に妥当な懸念もいくつかあります。ここで言えることがいくつかあります。
一つは、これらのモデルは、パフォーマンスユニットあたり毎年約10倍効率的になっているということです。でも問題は、全体的なエネルギーフットプリントはまだ大きくなっているということです。なぜなら、まだAGIに到達していないからです。だから、フロンティアモデルは常に利用可能な限りのコンピュートを使う必要があります。
でも、実際に製品化されるものは、私たちの場合、Flashモデルが最も使われています。なぜなら、それらがパワー対パフォーマンス、あるいはコスト対パフォーマンス、レイテンシー対パフォーマンスのパレートフロンティアで最高だからです。これらはすべて関連しています。だから、実際に効率的であることへの商業的プレッシャーが多くあると思います。これは業界にとって素晴らしいことです。消費者にとっても素晴らしいことですし、エネルギー使用量の削減のようなことにとっても素晴らしいことです。
ただ、エネルギーについて話すとき、これらの懸念の一部は少し誇張されていると思います。私の見解では、私たちが構築しているモデル、気候モデルや天気モデル、科学のためのモデルなどは、それらの利益を遥かに上回ると思います。エネルギーというまさにその領域だけでも、エネルギーを節約し、国の電力網でエネルギーをより最適に使用し、新しい材料を考え出すといったこと、これらは社会へのエネルギーコストという点で、使用する量に比べて桁違いの改善と節約になります。気候変動への取り組みも含めてです。
実際、今日の分断された政治的世界で気候変動に取り組む唯一の方法の一つは、新しい技術、新しい材料を考え出し、核融合を機能させることだと思います。複数の実行可能な道がありますが、おそらくそのすべてが間に合うためにはAIによる加速を必要としていると思います。
だから、実際にはAIが必要なんです。健康やエネルギーを含む、社会が直面している喫緊の課題のいくつかで私たちを助けるために。そして先ほど言われたように、社会はそれを支持すると思います。だから、実際にはAI業界としてもっとそれをやる必要があると思います。
明らかに、私たちは科学のためのAIでリードしています。AlphaFoldが最も顕著な例ですが、世界中の300万人の研究者に使われています。今後開発されるほぼすべての薬が、その過程のどこかでAlphaFoldを使うことになると思います。そして明らかに、私たちは自分たちのスピンアウトであるIsomorphicを使って、AlphaFoldをさらに推し進めようとしています。
だから、素晴らしいことが起こりますが、そしてアシスタントなどによる生産性の向上もありますが、おそらく業界として、軽薄なエンターテインメント、ビデオのようなものに対して、その方向に十分強く推し進めていないのかもしれません。でも、それは消費者にもかかっています。人々や企業は、より良いユースケースを選ぶべきです。それに時間と注意を費やすべきです。
だから、これはエコシステム全体が本当にそれを支持しようとする必要があるんです。でも私たち自身としては、今年はこれらの有益なユースケースにさらに倍増して、さらに強く推し進めようとしています。すでに最も多くやっていると思いますが。
Isomorphic Labsと創薬の未来
Isomorphicについて触れられましたね。まだ彼らから多くは聞いていません。明らかに、薬の開発には長い時間がかかります。AlphaFoldで設計された、ファネルのトップで設計された薬が実際に市場に出たものは、まだ見ていないと思います。
まだ初期段階なんです。Isomorphicは驚くほどうまくいっています。発表することはたくさんありますが、私のことをよく知っているでしょう。私は自分たちの仕事に語らせるのが好きなんです。だから、裏で必死に働いて前進させているとお考えください。
18の創薬プログラムがあります。本当にうまくいっています。すぐに発表することがたくさんあります。NovartisとEli Lillyという、世界で最も偉大な製薬会社2社と素晴らしいパートナーシップを結んでいます。心血管疾患や癌といった本当に難しいターゲットに取り組んでいます。
だから、その分野を注目していてください。来年か2年以内に、Isomorphicから非常に素晴らしいものがたくさん出てくると思います。今、前臨床に向かっているところです。でも進捗には非常に満足していますが、もちろん時間がかかります。人間の健康に関わることなので、規制などもありますが、プラットフォーム自体は素晴らしい進歩を遂げています。
量子コンピューティングとAI研究の融合
会社の量子部門で起きていることを見ると、昨年のNMRの論文のような本当に興味深い研究があると思います。こういったデータがもっと利用可能になり始めたら、それがIsomorphic、あるいはAlphaFoldの何らかのバージョンを過給するのではないかと考えさせられます。大規模な量子コンピューティングに到達したときに。今あるものから、つまりファネルのトップでの創薬における確かな市場の増加から、もっとSF的な何かに本当に方向転換するためには、それが必要だと思いますか。
そうですね、もちろん、私たちは量子チームとの仕事が大好きで、緊密に協力しています。先ほどノーベル賞について話しましたが、彼らは今年Googleで受賞しましたよね。だから、Darioとチーム、Michelle、素晴らしいチームです。量子の世界でリードしていて、私たちは多くの協力をしています。特に量子エラー訂正について、一緒にNatureの論文を2本発表しました。機械学習を使って量子コンピュータの量子ビットのエラーを修正するんです。だから、非常に有望です。
創薬には関わってこないと思います。そのためには量子コンピュータは必要ないと思います。だから、Isomorphicはすべて古典的な機械学習をやっています。そしてAlphaFoldが示したように、それで薬を開発するには十分だと思います。
でも、材料設計のためのデータを生成するには、量子コンピュータや量子シミュレーションが必要かもしれません。新しい超伝導体や半導体、新しい太陽光パネルの材料を考え出すことです。これはDeepMindでも深く調査しています。そこで素晴らしい進歩を遂げています。でも、そこではデータの不足があり、量子シミュレーションや量子コンピュータで実行することが、そういった種類のユースケースには非常に有用である可能性があります。
なるほど。それは興味深いですね。生物学の面で、何か大規模な新しいデータの流入を夢見ることはないと考えているんですね。
いや、それは欲しいです。でも、量子コンピュータでそれをやるわけではありません。なぜなら、細胞のような大きなものはシミュレートできないからです。もっと原子や電子のレベルなんです。だから、化学や材料にもっと関連しています。量子システムをモデル化しようとしているので、そこで関わってくると思います。
病気については、もう少し高いレベルで、生物学的により複雑で、創発的な振る舞いがあります。私たちがやっていること、やるべきことは、CROや他のプロバイダーからより多くの実験データを集めて、データのギャップを埋めることです。生物学にはもっと多くのデータがあります。なぜなら、もっと体系的な方法で50年間やってきたからです。生物学と生物学的データの取得には、もっと多くの投資が行われています。でも、十分なデータがあると言っているわけではありません。ただ、量子コンピュータでそれを生成するわけではないということです。従来の実験的な方法で大規模にやるということです。
なるほど。では、Isomorphicでは本当に、データを収集してそれを整理する能力に競争優位性があると考えているんですね。
私たちの競争優位性のほとんどは、モデリング能力にあります。次のAlphaFoldを考え出せるかどうかです。Isomorphicでやっていることは、AlphaFoldとタンパク質構造は、ご存知のように創薬プロセスの小さな一部に過ぎないということです。だから、化学や化合物設計、毒性のADME予測など、それに隣接する半ダース他のAlphaFoldレベルのブレークスルーを考え出したと思ってください。必要な他のものがたくさんあります。そして、内部で持っているより高度なバージョンのAlphaFoldもすべて一緒にまとめています。
だから、それが過去数年間私たちが取り組んできたことで、素晴らしい進歩を遂げています。そこから、そのシステム全体がどこでうまく機能し、どこで機能しないかを見て、通常うまく機能しないところは、より多くのデータが必要だからです。そして、さまざまな方法でそのデータを取得しに行きます。でも、何が欠けているデータなのかを知っているのは私たちだけです。なぜなら、可能性の絶対的な限界を押し広げている、独自のシステムを持っているからです。
国防総省との協力とAI倫理
少し話題を変えますが、今日、米国防総省とAnthropicの間で、AI政策や十分な安全ガイドラインがあるかどうかについて、いくつかの緊張があるという記事がありました。あなたには今、GenAI.milというプログラムがあり、2つのモデルが利用可能になっていますよね。xAIのGrokとあなたのGeminiモデルで、軍が使えるようになっています。
国防長官のHegsathが、これらを致死的な力に使うことについて話しているのを聞きました。そういったことについて、DeepMind内部での会話はどうなっているのか気になります。それについて何か議論はありますか。
そうですね、私たちはそれに注目しています。民主的に選出されたすべての政府を助けたいと思っています。米国政府とは明らかに多くの異なる方法で協力しています。これはCloudのエンタープライズソリューションなので、Geminiで既製品で、誰でも利用できます。
そして、私が理解している限り、これは非機密のワークロードです。だから、バックオフィスとして、物事をより効率的にすることだと考えてください。ドキュメンテーションなどの点で。これは明らかに米国政府にとって重要で、私たちはそこで助けたいと思っています。現時点ではそこにいます。そして、そこで行っている仕事を非常に誇りに思っていますし、満足しています。
それから、私たちが世界クラスでユニークな他のことがあると思います。科学的なこと、核融合、国家的に重要な超伝導体などのような他のことです。あるいはサイバー、サイバー防衛のようなことで、Googleは世界クラスで、私たちのCloudは世界クラスで、AIはその世界を完全に変えようとしています。そういったところが、私たちが西側の民主的に選出された政府が最高クラスになるのを助けたい場所だと思います。
今、世界には非常に危険なことがたくさんあることを知っています。私たちはそれを知っていて、私たちが世界で最高のユニークな能力を提供できるところで助ける必要があります。
そして、それが本当だと思いますか。DeepMind内部で人々は一般的にそのように見ていますか、それとも何か…
確かにそうです。私たちは皆、それに同意しています。世界で最高の影響を与えようとしています。今は複雑な世界です。非常に分断されています。でも、それについて現実的でなければなりません。私たちが持っているバランスには非常に満足していると思いますし、Google DeepMindの人々の99%もそれに賛成していると思います。
ダボス会議での展望
今年もまたダボスに向かわれるんですよね。どんな予定なのか気になります。世界的に明らかにAIが全般的に大きなトピックになります。すべてのミーティングで。大きな基調プレゼンテーションかインタビューをされますね。そこで何か達成したいことはありますか。
そうですね、今日ここでカバーした多くのことだと思います。明らかにGeminiに関するビジネス目標があります。Gemini 3は今、他のビジネスやエンタープライズに関連する多くの領域で本当に最高クラスだと思います。
だから、明らかにビジネス要素がありますが、哲学的で倫理的な要素、そして技術的な要素もあります。何が来るかについて世界、ビジネス、世界のリーダーたちに準備してもらうことです。そして実際にダボスから、世界が現在AIについて何を考えているかについての感覚を得ることです。こういった政府のリーダーたち、私たちが議論したいくつかの問題、米中、これらすべての問題が必ず出てくると確信しています。
そして、AIを善のために使う最良の方法は何か、そして実際に人々に話しかけ、科学的で健康的な利益について、そしてAIが何に使えるかについて人々を教育することです。そして、社会として、それに傾倒すべきだと思います。ランダムな軽薄なこと、AIでできるかもしれないことよりも。
だから、それは技術コミュニティの外での、これを構築している外での、より広い対話、全体的な教育プロセスの一部だと思います。ご存知のように、AIはすべてに影響を与えます。だから、社会のすべての部分によって議論される必要があると思います。そして、ダボスは、正しい方法でやれば、それをやるためのかなり効率的な集まりだと思います。
何か一つ、訂正しようとしている誤解のようなものがあれば…
いや、特にありません。今週末、そこに行く前におそらく考えると思いますが、何か単一のことがあるとは思いません。もっと全体的な領域と、それについての理解をレベルアップすることが本当に主な目的だと思います。
素晴らしい。時間がなくなってきたようですね。
本当に興味深いですね。いつも素晴らしい会話で、また是非やりたいと思います。ダボスでのあなたも見ますよ。
そうですね、素晴らしいことになると思います。かなり良いパネルがあると思います。これをやってくれてありがとうございました。いつものように話せて、追いつけて素晴らしかったです。来週きっとお会いできると思います。
コメント