本動画は、Google DeepMindのCEOでありノーベル化学賞受賞者であるデミス・ハサビス氏へのインタビューである。AlphaFoldによるタンパク質構造解析のブレイクスルーや、AlphaGoが囲碁で示した創造的な一手である「Move 37」、さらにAIが創薬や材料科学、気候予測といった科学分野にもたらす変革について深く掘り下げている。また、AGI（汎用人工知能）の実現に向けたロードマップや、AI技術の悪用・暴走への懸念、そして彼が思い描くエネルギー問題の解決や宇宙進出を含むユートピア的な未来像についても語られている。ゲームのジェンガを交えながら、技術の最前線と人類の未来について考察する内容となっている。
AIが解決した最大の問題
明らかに知能の定義について何かが少し間違っています。
このまま進めていくと、限界はどこになるのでしょうか。
AIの最も良い使い道は、人類の健康を向上させることでした。それは私が待ち望んでいた瞬間であり、他のどのシステムにも達成できないことを成し遂げられるかもしれない時でした。私は、周囲の現実の性質を理解するためのツールとしてAIを使いたいのです。
政府はAIを利用するようになるでしょう。彼らがAIを何のために使うことを望みますか。
懸念すべきことは2つあります。1つは悪意のある行為者です。
こちらはデミス・ハサビス。Google DeepMindのCEOであり、ノーベル賞受賞者です。彼は、私たちの生涯において最大の技術的飛躍になりつつある分野で、現在生きている中で最も重要な人物の一人です。なぜなら、AIが私たちの生活に与える最大の影響は、私たちの目に見えるものではないからです。それはチャットボットでも、画像生成AIでもありません。新薬の設計や自然災害の検知、核融合、量子コンピューティングなどにおいて、私たちの目には見えないツールなのです。彼と彼のチームがここで構築しているツールです。彼はまさにそのツールの1つでノーベル賞を受賞しようとしています。ですから、彼がどのような人物で、何を構築しようと選択するかは、あなたや私にとって非常に重要なことなのです。
そして彼はとても魅力的な人物です。子供の頃からのチェスの天才であり、17歳の時にはゲーム会社からの数百万ドル規模のオファーを断って大学に進学し、認知神経科学の博士号を取得しました。彼は、知能を解明するという使命を掲げてDeepMindという会社を設立し、まずはビデオゲームで人間を打ち負かすことから始めました。その後、科学研究に専念させてくれるという約束のもと、その会社をGoogleに売却しました。しかし、これが近年で最も激しい技術競争へと発展したため、現在デミスははるかに多くのことを任されています。現在彼は、GoogleがAIで行う基本的にすべてのことの背後にいます。彼は毎日、あなたの生活や何百万もの人々の生活に影響を与える決断を下しているのです。
では、彼はそのすべての力をどう使うつもりなのでしょうか。私の目標は、デミス・ハサビスが築きたいと願う未来を皆さんにお見せし、それについて皆さん自身で判断できるようにすることです。Huge Conversationsへようこそ。
本日はお越しいただき本当にありがとうございます。
こちらこそ、ここに来られて嬉しいです。
本当に感謝しています。ご存知かと思いますが、Huge Conversationsは少し変わったインタビュー番組です。財務状況について伺うつもりはありませんし、経営スタイルについても質問しません。それらは他の場所で十分に語られていますからね。私がこの対話で望んでいるのは、私たちが一緒に生で作り上げる解説番組のように考えていただくことです。そして、小道具も用意しました。これは本当はジェンガのゲームをするためのものではないんです。
ジェンガをするんですね。
各ブロックはプロジェクトやモデルを表していて、それらについて、そしてそれらがどう組み合わさっているかについて話したいと思っています。元々は視覚的な補助道具のつもりだったんですが、セットアップしている間にこれを使ってジェンガで遊び始めてしまって、私が計画していたどんなことよりもはるかに楽しいことがわかったんです。それに、あなたがゲーム好きだということも知っています。
はい、ゲームは大好きですよ。とにかくインタビューの最初としては最高ですね。
この対話での私の願いは、一緒にこの解説を作り上げ、現在AIの世界で本当に何が起きているのか、そしてあなたがどのような未来が来ると見ているのかを人々が理解できるようにすることです。あなたはこの対話で何を達成したいと望んでいますか。
私が30年以上前にAIの分野に入った理由の多くは、科学と医学を進歩させるためでした。そして私は常に、AIがそれを行うための究極のツールになり得ると考えてきました。ですから、今日はそのことについて話せればと期待しています。もちろんAIは多くのことに応用できますが、AIを何に応用するかについての私の情熱は本当にそこにあります。
ああ、これはとても楽しくなりそうですね。
ええ。
科学と医療を前進させるAlphaFoldの衝撃
さて、ここにあるジェンガのゲームですが、このブロックの多くは人々が耳にしたことがあるものですよね。たとえば、これはGeminiですね。でも私は、AIが人々の生活を意味のある形で形作っている最大の方法は、ほとんどの時間は人々の目に見えないものだと主張したいんです。ですから、あなたがノーベル賞を受賞したプロジェクトである、AlphaFoldから話し始めたいと思います。
はい。ジェンガがお上手ですね。
AlphaFoldの物語を、そのすべてのドラマを含めてお話ししたいんです。聞いたことがない人もいるかもしれないので。でもその後、この種の科学の最先端についてすぐにお聞きしたいと思っています。数ある問題の中で、なぜこの問題に取り組もうと決めたのでしょうか。
そうですね、実際にこの問題に出会ったのは、ケンブリッジ大学の学部生だった頃でした。私には生物学を専攻する友人がたくさんいて、その中の1人が特に、タンパク質折りたたみ問題と呼ばれるものに取り憑かれていたんです。タンパク質は、あなたの体内のあらゆるものが依存しているものです。それらは生物学を可能にし、生きることを可能にします。そしてそれらについて重要なのは、その3D構造なんです。体内では、それらは一種の3D構造に折りたたまれ、その構造がどのような機能を持つかを決定する、あるいは部分的に決定します。
ですから、タンパク質の折りたたみ問題というのは、まさに1次元のアミノ酸配列だけでこの3D構造を予測できるか、ということなんです。それがタンパク質折りたたみの50年にわたる壮大な挑戦でした。私は挑戦が大好きで、パズルが大好きなんです。ですから、生物学におけるフェルマーの最終定理に等しいと説明されたこの問題に、科学的な観点から惹かれずにはいられませんでした。興味を持たない人がいるでしょうか。それに、最初に聞いた時、その種の問題はいつかAIに適しているだろうとも思いました。もちろんこれは90年代後半の話ですから、これに取り組めるようなAIは一切ありませんでしたが、いつか可能になるだろうと思ったんです。
そして最後の理由は、もしそれを解決できれば、どれほどの影響があるかということでした。研究、特に創薬や病気の理解といった分野で、下流のあらゆる可能性を切り開くからです。AIを応用する最も重要なことは、人類の健康を向上させることだと私は考えています。
そして、これが人類の健康にとって非常に重要である理由は、これまで新しい薬を開発するためには、X線を照射して単一のタンパク質の構造を調べるために、何十万ドルもの費用と何年もの人間の労力を費やさなければならなかったからですよね。いくつかのタンパク質の構造は解明されていましたが、それは遅くて高価なものでした。ここであなたとあなたのチームによる膨大な努力の過程は飛ばさせていただきますが、私の質問の仕方で、皆さんがそれを解決したことは人々にもはっきりとわかると思います。
ええ。
そして、それが純粋に有用であり、現代医学における最も重要な未解決問題の1つと呼ばれていたものを解決したと気づく瞬間がありますよね。それは2021年のことでした。あなたは会議の席にいます。その会議にカメラが入っていて本当に良かったと思います。私がこれまで見た中で最も素晴らしい瞬間の1つですから。あなたはチームと、科学者がウェブサイトのように特定のタンパク質をリクエストして、その折りたたみ構造を受け取れるシステムを立ち上げることについて話し合っていますよね。
はい。
そこへ、別の人が全く違うアイデアを思いつきます。
そうなんです。
その会議で何が起きたのか教えていただけますか。そしてその時のあなたの反応が素晴らしいんです。あなたが何を考えていたのか本当に知りたいです。
ええ、もちろん。いやあ、あの特定の会議にたまたまカメラが入っていたのは面白いことでした。その日だったというのはクレイジーですね。普段彼らが私たちを撮影することはめったになかったんですが、あの会議にはいたんです。
通常、この種の予測モデルで起こる従来の流れとしては、サーバーを立ち上げて、他の科学者がタンパク質の配列を送ってきて、「ああ、私はこのタンパク質に興味があります。予測された構造を送り返してくれませんか」と言うわけです。過去40年以上にわたって、この分野全体でそのように行われてきました。その理由は、ほとんどの予測アルゴリズムがかなり遅いからです。ですから数日かかってから、その構造をメールで送り返し、そしてまた次のリクエストを受けるという具合です。
しかし、その会議の中で私はふと気づいたんです。私たちがどれほど正確にタンパク質を折りたためるかだけでなく、どれほど速くできるかということに。ほんの数秒でできるわけです。それで私は頭の中でざっと計算していました。科学的に、つまり自然界で知られているタンパク質はいくつあるのか。2億個です。そして私たちが持っているコンピューターの数はいくつか。いくつ必要になるか。10秒ごとに1つ折りたたんだとしたらどうなるか。会議の途中で携帯電話をいじりながら、1年で可能だと気づいたんです。
それなら、私たちが自分たちですべてを、誰もがリクエストし、望む可能性のあるすべてのものを折りたたんで、世界中のすべての科学者が無料で使用できるようにどこかのデータベースに置いておけばいいのに、なぜわざわざサーバーやデータベース、メールクライアントなどを構築する労力をかける必要があるのでしょうか。それが突然ひらめいたんです。
ただそうすればいいじゃないか、と。
ええ、なぜそうしないのかと。まあ、それが選択肢の1つだったわけです。誰かが「存在するものすべてを走らせて、それを公開すべきだ。素晴らしいアイデアだ」と言って、突然これらのすべてのことが私の頭の裏で繋がり、それが明らかに行うべきことであり、実際にはサーバーを立ち上げるよりも労力が少ないだろうと気づいたんです。結果的に時間の節約にもなりますし。
そしてその会議でのあなたの反応は、「なぜそうしないんだ？ その方がずっといい。明らかにそうすべきだ」というようなものでしたね。そして皆さんはそれを実行しました。突然、それまで非常に困難だったこの重要なプロセスが、速くて簡単なものになり、世界中の科学者に使われるようになりました。この巨大な未解決問題が、今や解決されたわけですね。現在、科学で知られているほぼすべてのタンパク質の構造を予測し終えたと言って正しいでしょうか。
はい。そして私たちはそれを更新し続けています。誰かがどこかの海からバケツ一杯の水を汲み上げると、その海水の中には何十種類もの微生物がいて、彼らはそれらすべての遺伝子配列を解読します。シークエンシング技術はヒトゲノムが解読されて以来、何桁も向上しています。そのため、以前は構造生物学、つまりこれらの3D構造を見つける作業が遺伝子シークエンシングに大きく遅れをとるという問題がありました。しかし現在では、AlphaFold 2のような計算リソースのおかげで、これに追いつくことができます。「ああ、新しく発見された奇妙な微生物から100万の新しい遺伝子配列が見つかった。これがその構造だ」というように。
ヨーロッパバイオインフォマティクス研究所には小さなチームがあり、その年に発見されたすべての新しい配列を毎年更新し続けています。ですから、私たちは常に最先端にいるわけです。これらの様々なタンパク質構造のほとんどがどのような形をしているかを知っています。
それは本当に素晴らしいですね。
ええ、かなり驚くべきことです。特に、たとえば小麦のような、少しマイナーな生物や動物を研究している研究者にとっては驚異的です。植物の多くは、哺乳類や人間よりもはるかに多くのゲノムデータを持っていることがわかりました。これは非常に奇妙なことですが、彼らは自身のゲノムのコピーを複数持っているようです。植物の世界は奇妙で不思議な世界だと思いますが、私の植物学者の友人たちは、ヒトゲノムのように多くの研究が行われている分野とは違い、リソースを持っていません。しかし、作物などのように人類にとって依然として非常に重要なマイナーな生物の研究において、今では彼らはそのタンパク質を使ってやりたいことの核心にすぐに飛び込むことができるようになりました。気候変動に対してより強い品種を作る手助けをしたりといったことです。自分たちが興味を持っているタンパク質を結晶化させようと泥沼にはまることなく、彼らが実際に興味を持っている問題に直接取り掛かることができるんです。
もう1つの恩恵は、マラリアやシャーガス病、リーシュマニア症など、主に開発途上国に影響を与える顧みられない病気に取り組む研究者たちへのものです。これらは世界中の何億人もの人々に影響を与えていますが、貧しい地域で発生するため、大手製薬会社が研究して治療法を見つけようとしても大きな利益にはなりません。そのため、その研究は軽視されがちです。それを研究している素晴らしい非営利団体がありますが、彼らには資金もリソースもあまりありません。ですから、マラリア原虫に関与するタンパク質の構造などを彼らに提供することは、彼らにとっても大きな恩恵となります。彼らはそのまま創薬の段階に進むことができるからです。
AlphaFoldによる創薬の最前線
このリサーチをしている中で、理解するのが最も難しかったことの1つは、世界中の科学者がAlphaFoldにアクセスできるようになったあの瞬間についてです。地図が光り輝き、人々がそれを使っているのがわかります。しかし、それが具体的に何に使われているのかを簡単に知ることはできませんでした。そして、それを説明するのに最適な例は、科学者がAlphaFoldを使用して創薬プロセスを加速させ、その結果私が今服用できるような薬ができたというような話だと思うんです。視聴者が理解できる、あるいは見たことがあるような、科学者がAlphaFoldを使ったお気に入りの例は何でしょうか。
現在、300万人以上の科学者がAlphaFoldを使用しています。現時点で世界中のほぼすべての生物学者だと思われます。ある製薬会社の科学者が私にこう言いました。「これから開発されるほぼすべての薬は、そのプロセスのどこかでAlphaFoldを使用していることになるだろう」と。これがどれほどの影響を与えているかを考えると、本当に驚くべきことです。
しかし、創薬にはまだ時間がかかります。ですから私たちはまだ主に、病気を理解するための基礎生物学の段階にいます。私たちがターゲットにしているタンパク質は何か、それは正しい生物学的メカニズムなのか、といったことです。そして私が理解している限りでは、これらの薬のいくつかは現在臨床試験の段階にあり、数年後には、少なくともAlphaFoldの助けを部分的に借りて開発された何十もの薬を目の当たりにできることを願っています。
私がこれまでAlphaFoldの助けを借りて起こったブレイクスルーの中で最も気に入っているのは、核膜孔複合体と呼ばれるタンパク質に関するものです。これは体内で最も大きなタンパク質の1つです。タンパク質としては巨大で、非常に重要な役割を果たしています。基本的には、細胞核に栄養素を出入りさせるために開閉するゲートウェイです。大きなドーナツのリングが開いたり閉じたりするようなものです。
しかし、これは非常に大きくて複雑なため、つい最近までその構造がわかっていませんでした。結晶化して実際に観察するのは非常に困難なんです。私たちがAlphaFoldを公開してから半年か1年後だったと思いますが、あるチームが実験データとともにAlphaFoldを使用し、ついにこのゲートウェイタンパク質の美しい形状を解明しました。それは私にとって驚きでした。体内で最大級のタンパク質であり、その構造を決定する上でAlphaFoldが非常に役立ったからです。
そしておそらく、私たちがその知識を使って、そのタンパク質により良くアクセスする薬や治療法を設計できるわけですね。
はい、その可能性はあります。あれは基礎生物学の理解に向けたものでしたが、明らかにより応用的な部分もあります。私たち自身もIsomorphic Labsという新しい会社をスピンアウトしました。このブロックですね。これは実際にAlphaFoldの上に構築され、創薬を大幅にスピードアップするためのパズルのピースの1つとしてAlphaFoldを使用しています。平均して、薬の開発には10年かかります。信じられないほど長い時間と膨大な労力、高額な費用がかかり、失敗率も非常に高いです。すべての臨床段階を通過できる薬はわずか約10%に過ぎません。ですから、人類の健康を向上させたいのであれば、これを大幅に改善する必要があります。そして、それを行う方法は、インシリコの手法を使用することだと思います。AlphaFold 2はその構成要素の1つです。
しかし、タンパク質の構造を知ることは、創薬プロセスのほんの小さな一部に過ぎません。結合させるためにはどのような化合物を設計すべきかなど、多くの化学的知識が必要です。ですから私たちはIsomorphicで、これらを構築しようとしています。より高度なAlphaFold、つまりAlphaFold 3やAlphaFold 4と呼べるようなものと一緒に機能する、隣接するシステムだと考えてください。そして最終的に、副作用が非常に少なく、私たちが助けようとしている種類の病気に対処するのに信じられないほど効果的な薬をエンドツーエンドで作成します。私たちは現在、心血管疾患からがん、免疫学まで、幅広い分野にわたる18か19の異なる創薬プログラムに取り組んでいます。
最終的には、この種の技術はほぼすべての治療領域において役立つようになるはずだと考えています。
遺伝子編集とAIの融合
このインタビューの準備として、私はあなたと同じくノーベル賞を受賞したジョン・ジャンパー氏に事前インタビューを行いました。彼は、それが創薬というより大きな問題の1部であることを強調していました。そしてそれが現在の最先端技術につながります。話したい例をいくつか持ってきました。現在の最先端技術とはどのようなものですか。
はい。私たちは一緒に機能するさまざまなコンポーネントを構築しています。AlphaFoldはその要の1つで、タンパク質の構造を担います。しかし考えてみてください。タンパク質の形状がわかったとしましょう。そして、タンパク質のどの部分がその機能を果たす重要な部分なのかがわかります。さて、創薬について考える時、そのタンパク質の効果をブロックしたり、何らかの方法で強化したりしたい場合、タンパク質の表面のどの部分に結合させる必要があるかを知る必要がありますよね。ですから今度は、タンパク質の表面の正しい場所に付着する化合物を発見しなければなりません。
さらに、どれくらい強く付着するかを知りたいですし、さらに重要なことは、それが興味のあるものに付着するかどうかだけでなく、他のものには付着しないことを確認することです。もし他のものに付着すれば、それは毒性を持つことになります。薬における副作用と呼ばれるものです。ですからそれを最小限に抑えたいわけです。しかし現在では、これらすべての素晴らしいアルゴリズムツールがあるため、一種のバーチャルスクリーニングを行うことができます。「ああ、これは私たちのAIシステムが設計した化合物だ。これはタンパク質表面にどれくらい強く結合するかという私たちの予測だ」というように。
そして、その特定の化合物が体内の他の2万種類のタンパク質のいずれかにどのように付着するかを、ほんの数時間で非常に素早く確認することができます。数分でそれを実行し、他のタンパク質への副作用をどんどん減らし、理想的にはゼロにしながら、目的のタンパク質への効果をどんどん強めるように化合物を修正し続けることができます。
今説明したように、これは自己改善プロセス、あるいは自己修正プロセスであり、インシリコ、つまりコンピューター上で実行できれば、非常に高速かつ効率的です。そして最後の段階でのみ、ウェットラボで確認します。検証は依然として必要です。すべての予測を立て、インシリコで検索を行いますが、最後の段階で提案された最終的な化合物をウェットラボで確認し、予測通りの働きをするかを確かめます。しかし想像できると思いますが、その方法であれば何千倍、あるいはいずれ何百万倍もの化合物をより迅速かつ効率的に検索し、最後にそれらが正しいかを確認するだけで済みます。それは、現在の一般的な方法であるウェットラボでの検索を行うよりもはるかに効率的です。
私のお気に入りのもう1つはAlphaGenomeですね。
はい。
実は、もう一人のノーベル賞受賞者にお話を伺いました。すごいことですよね。以前この番組にも出演していただいたジェニファー・ダウドナ博士です。
素晴らしいですね。
彼女からあなたへの質問を預かっています。ダウドナ博士からの質問を読み上げますね。
彼女はこう言っています。「私がパイオニアとなった遺伝子編集技術であるCRISPRは、現在ほぼすべてのDNA配列を標的にすることができます。しかし、ほとんどの遺伝性疾患において、特にタンパク質をコードしていない98%のゲノムにおいて、DNAのどの変化が実際に問題を引き起こしているのかを私たちはまだ完全には理解していません。AlphaGenomeのようなツールがその98%の解読を始めている今、CRISPRのような技術がそれを修正できるように、AIが患者の病気の原因となる正確な遺伝子変化を確実に特定できるようになる瞬間に、私たちはどれくらい近づいていると思いますか。」
なんて素晴らしい質問でしょう。この件については過去に彼女と実際に議論したことがありますが、本当にエキサイティングです。AlphaGenomeはまさにそのような技術だと思います。これは長い遺伝子配列を受け取り、この遺伝子配列の特定の1文字、1つの位置に突然変異を起こした場合、それが病気を引き起こす有害な突然変異になるのか、それとも無害で何も起こさないのかを予測しようとします。私たちがリリースしたばかりのAlphaGenomeは、それを予測するための世界最高のシステムです。
それは、まだ十分ではないかもしれませんが、十分に正確なAlphaGenomeの将来のバージョンを想像すれば、あなた方がまさに望んでいることです。多遺伝子性疾患で、突然変異のカスケードが問題を引き起こす場合、これらは特定するのがさらに難しいですが、AIが助けるには完璧な問題です。そうすれば、いつかCRISPRのようなもので入り込んで、その突然変異を修正し、問題を解決できるようになるかもしれません。ですから、AlphaGenomeとCRISPRのようなものの組み合わせは信じられないほど強力になる可能性があり、いつかその分野でジェニファーのような人たちと協力できることを願っています。
想像より早かったAIの進化と現在の商業的競争
昨年、あなたがガーディアン紙に語ったことで非常に興味深いものがありました。「もし私の思い通りになっていたなら、AIをもっと長く研究室に置いておいただろう」とおっしゃっていましたね。
ああ、はい。
そして引用の続きは、「AlphaFoldのようなものをもっと行い、おそらくがんを治癒したり、そういったことをしていただろう」と。外から見ていると、ストーリーはこう進んでいるように見えます。あなたは知能を解明し、それを使って他のすべてを解決するという使命でDeepMindを設立した。
はい。
そして、科学をこの方法で探求する自由を認めてくれるという理由から、Googleに会社を売却した。
ええ。
そして長い間、それがあなたの唯一の焦点だった。
はい。
それからChatGPTが登場し、Googleはコードレッドを発令し、あなたはこれまであまり時間を費やしていなかった消費者向け製品を含め、Googleの全AIの責任者になった。これを遠くから見ていると、AIのより大きな経験、つまりここ数年での信じられないほどの変化をある程度反映しているように感じます。
そうですね。
その変化において、何が得られ、何が失われたのでしょうか。
ええ、まさにその通りだと思います。あなたが説明したことは、内部からもそのように感じられました。先ほど申し上げたように、私にとってAIの最良のユースケースは人類の健康を向上させ、科学的発見を加速させることでした。実際、私が最初にAIの分野に入ったのは、現実の性質、意識の性質など、世界におけるすべての大きな疑問に興味があったからです。そして、最高の科学者であっても、世の中にある膨大なデータや情報を理解し、そこから洞察を見出すのを助けるためのツールが必要だと感じていました。そしてそれは起きており、驚くべきことです。もちろんAlphaFoldは私たちの最初の、そしてこれまでのところ最高のものですが、私は常にそれを心に留めていました。
そして、AGIがいかに重要で、いかに変革的な技術であるか、おそらく人類の歴史において最も変革的な技術であることを考えれば、この種の技術のアプローチとしては、私たちが現在いるこの構築の最終段階において、科学的方法を非常に注意深く、非常に正確に、非常に思慮深く、そして厳密に使用し、私の理想の世界では、最高の科学者全員がCERNのような方法で協力し、私たちがAGIを構築するという最終目標に到達するまで、各ステップを確実に理解しながら進めるのが最も理にかなっていると私は考えていました。
もちろん、待つ必要はありません。それにはもっと長く、10年、あるいは20年長くかかるかもしれませんが、私たちが扱っているものの巨大さを考えれば、それは理にかなっていると思います。
そしてもう1つの私のアイデアは、AIの恩恵を受け始めるためにAGIの到来を待つ必要はないということでした。私たちは、AGIのために開発している一般的な技術や一般的なアルゴリズムを利用する、より特化されたシステムを使用することができます。それら自体は汎用知能ではなく、狭いAIです。特定の目的のみを果たすAlphaFoldのようなものです。私たちは科学的で慎重な方法でAGIを構築しながら、多くの種類のAlphaFoldやIsomorphicを作り出すことができたでしょうし、今でもそうしています。そして人類は、がんの治療法や新しいエネルギー源、新しい材料といった、その成果の恩恵を受けることができたはずです。
それが、30年前に私がこれらすべてを始めた時に考えていた、理想的な展開だっただろうと私は感じていました。しかし、テクノロジーは予測不可能であるため、そのようにはなりませんでした。実際には、言語のようなものは私たちが予想していたよりもずっと簡単であることが判明したんです。最終的には言語を解明できるだろうと楽観視していた私たちでさえもです。今考えると滑稽に思えますが、言語や概念、抽象化といった、Geminiのような現在の基盤モデルが驚くほどうまくこなすことができることについては、そこに到達するまでにあと1つか2つ、あるいは3つのブレイクスルーが必要だろうと考えていました。
しかし、私のGoogleの同僚が発明したTransformerと、その上のいくつかの強化学習が、言語のようなものを解明するのに十分であることが判明しました。私たちも、他のトップクラスの研究所もそれで遊んでいました。しかしもちろん、ChatGPTが登場し、OpenAIを公平に評価すべきですが、彼らはそれをスケールアップして世に出しました。彼ら自身も、それは一種の科学的な研究実験であり、あれほどバイラルに広がるとは気づいていなかったと言っていると思いますし、私たち誰もがそうだったと思います。
当時私たちもほぼ同等のシステムを持っていました。というのも、その技術を構築している時は、それに近すぎるため、それができないことや持っている欠陥に非常に敏感になっており、実際には、ハルシネーション（幻覚）を起こしたり私たちが今でも改善しようとしているようなことをしているにもかかわらず、人々がそこに使い道を見出すとは気づかないものだからです。それでも、要約したり、ブレインストーミングをしたりといった、現在誰もがチャットボットを使っているような興味深いユースケースがあります。
さて、そのマイナス面は、現在誰もが巻き込まれている猛烈な商業的圧力の競争の中にいるということです。それに加えて、米中の競争といった地政学的な問題などもあります。ですから、速く動かなければならないという複数のレベルの圧力があります。もちろん、その利点は進歩が速くなることです。現在の進歩は光の速さのようです。ですから、良いユースケースにとってはそれは良いことです。
2つ目の利点は、視聴者の皆さんやすべての人々が、おそらく研究室にあるものからわずか3か月から半年遅れで、最先端のAI技術を使えるようになっているということです。これは驚くべきことです。また、AIを民主化し、最先端のAIと対話することがどのようなもので、何ができて何ができないのかを感じてもらうことができるという点でも素晴らしいと思います。この技術の到来による巨大な変化に社会が順応し始めることは良いことだと思います。ですから、システムへの突然のショックになるよりも、漸進的なステップでそれを経験できる方がおそらく良いでしょう。「AGIがない」世界から、ある日突然「これがAGIだ」となるのは、おそらく良くないですから。展開の方法はたくさんあったかもしれませんが。
そして、利点の側にある最後のことは、何百万人もの人々によってストレステストされるまで、システムを完全に理解することはできないということです。あなたのテストがどれほど優れていようとも、社内テストで何百万人もの賢い人々がいろいろなことを試し、何が表面化するかを見たり、得られたフィードバックは、より堅牢で優れたシステムを構築するために非常に重要です。ですから、これまでの進み方にはプラス面とマイナス面があると思います。
何年も前に私が夢見ていたような、哲学的に熟考し、次のステップを慎重に検討するような世界ではありません。私たちは第一に科学者ではありますが、現実的なエンジニアでもありますから、世界をあるがままに受け入れ、そこから最善を尽くさなければなりません。私たちはフロンティアを前進させるだけでなく、GeminiやAlphaFoldのような非常に強力な技術を展開するにあたり、できる限り責任を持とうと努めています。
AlphaGoの「Move 37」とAIの創造性
これと同時進行しているもう1つのストーリーがあります。あなたの懸念や、その懸念とコストの重みをどう評価しているかという話に戻りたいと思いますが、それを理解するためには、AIが非常に創造的で、予期せぬ創造性を発揮するというストーリーを語る必要があると思います。
そのストーリーは、私のジェンガのブロックを探させてください。そのストーリーはここから始まります。
はい。
2016年3月10日に遡りましょう。
ええ。
非常に有名な囲碁棋士が、あなたが設計したシステムと対局するために座っています。
うんうん。
この時点で、コンピューターはあらゆる種類のゲームで人間に勝っていましたが、囲碁が非常に興味深いのは、宇宙の原子の数よりも多くの潜在的な手があるからです。彼らは交互に石を打ちます。そして、あなたのシステムが驚くべき手を打ちます。人間がそのような手を思いつくことは信じられないほど可能性が低いからです。「Move 37（37手目）」です。
はい。
イ・セドルがそこに座っていて、顔にショックの表情を浮かべています。このように頭を抱え込んでいますよね。あなたのような人は、それを私たちがこれまでに話してきたシステムとは非常に異なるものだと感じると思います。膨大なデータを与えて新しい予測を立てさせるカテゴリーがあります。これは単純化しすぎた説明であり、もっと複雑であることは理解しています。しかし一方で、データを与えずに、数学や物理学、あるいは囲碁のようなゲームのように、ルールだけを与えるカテゴリーがあります。そこには信じられないほどの創造性の機会があります。
ええ。
あの瞬間が起きた時、あなたはどこにいて、どんな未来を見ていましたか。
はい、あなたが描写しているのは信じられないような瞬間でした。それは今からほぼちょうど10年前のことですが、実際には1世紀前のように感じます。しかし、多くの意味で、あれが現代のAI時代の幕開けだったと思います。なぜなら、それまでにもチェスなどのゲームで世界チャンピオンを打ち負かすAIプログラムは多数ありましたが、それらはエキスパートシステムと呼ばれるもので作られていたからです。それらは、賢いプログラマーのチームと、その場合はチェスのグランドマスターのチームが集まり、チェスのグランドマスターが持っている知識を一連のルールとヒューリスティックに抽出しようとするシステムでした。
そしてプログラマーは、IBMがガルリ・カスパロフを倒したDeep Blueでやったように、スーパーコンピューターで膨大な計算能力を使用するブルートフォース（総当たり）システムを構築しました。彼らはチェスの専門家から与えられたルールをカプセル化し、システムはそれらのルールやヒューリスティックをただ機械的に実行し、何百万もの手を検索して、ヒューリスティックに照らし合わせてどれが最良の手かを導き出そうとします。
さて、当時の私にとって不満だったのは、90年代に学部生としてそれを見た時、あれが本物のAIだとは思えなかったことです。Deep Blueを例にとりましょう。チェスでは世界チャンピオンレベルですが、他のことは何もできません。言語やロボット工学などができないだけでなく、三目並べのようなはるかに単純なゲームの遊び方を学ぶことすらできません。ですから、知能の定義について何かが明らかに間違っているのです。人間のグランドマスターが三目並べの遊び方を学べないなんて想像できませんよね。はるかに単純なのですから、意味がわかりません。ですから、その汎化能力と、それが学習しなかったという事実、ただ答えを与えられただけだったという事実には、何か間違っているところがあります。
もしDeep Blueのようなものに対して「システムの知能はどこにあったのか」と尋ねたなら、それはシステムの中ではなく、チェスのグランドマスターとプログラマーの頭の中にあったのです。彼らがチェスの問題を解決し、その解決策を実装したのです。プログラムはただその解決策を機械的に実行しただけです。
さて、おっしゃるように囲碁はゲームの最後のフロンティアです。人類がこれまでに発明した中で最も複雑なゲームです。また、最も古いゲームでもあります。ですから多くの意味で驚くべきものであり、また非常に美しいものでもあります。ですから、中国や日本、韓国などのアジアでは、チェスの代わりに知的なエリート層が囲碁をプレイしますが、それははるかに直感的で、ほとんど芸術的なゲームです。美しいと感じるパターンを打つと、それが結果的に非常に強い手になることが判明します。それが、このゲームが少し神秘的な要素を持っている理由です。トップの囲碁棋士は、このゲームには宇宙の神秘がカプセル化されていると言うでしょう。古代の中国人もそのように考えていたのだと思います。
そして、おっしゃるように、その純粋な複雑さは、宇宙の原子の数よりも多い10の170乗という可能性のある盤面の位置を持っています。それが意味するのは、チェスで行ったような総当たり戦は不可能だということです。さらに、ゲームが非常に直感的で難解なため、機械が簡単に従えるようにカプセル化できるようなルールは実際には存在しません。囲碁の達人と話すと、チェスの達人とは異なり、「なぜそこに打ったのですか」と尋ねると「正しいと感じたから」と答えます。しかし、チェスのプレイヤーは決してそんなことは言いません。彼らは「これを計算しているからだ」と言って、その計算を教えてくれます。ですから、その直感的な感覚をシステムにカプセル化するのは明らかに非常に困難です。それを直接プログラムすることはできません。
ですから、DeepMindの初期に私たちが開拓していた、深層強化学習という新しい技術の完璧な実験場だったと言えます。経験から直接自ら学習するシステムを構築できるでしょうか。AlphaGoの場合、まず人間がインターネット上でプレイしたすべてのゲームを見て、人間が打つような手の手法を学習することから始めました。しかしその後、モンテカルロ木探索を重ねて、システムが人間が知っていることから始めて、それを超えていく、いわば囲碁における知識の木に新しい枝を発見できるようにしました。そしてそれが起こることを私たちは期待していました。
ですから、最終的に世界中で2億人が視聴したあの試合の驚くべき点は、私たちが試合に4勝1敗で勝ったということだけでなく（それが主な目的でしたが）、特に第2局において、あなたがおっしゃるこの有名なMove 37という創造的な手を打ったことです。それは盤面の5線にあり、序盤の段階でした。囲碁ではそれを行うのは御法度とされています。もし囲碁の達人に教わっていたら、そんな場所に打ったら手首を叩かれるでしょう。単に悪い手だと見なされているからです。しかし、それが素晴らしい手であっただけでなく、最終的に100手、200手後にAlphaGoの勝利を決定づけました。まるでシステムがあらかじめその石をそこに置いていたかのように、正しい場所にあったのです。驚きの手であっただけでなく、後になってゲームを決定づけるまさに正しい位置にあるための決定的な手でした。
明らかに、それはすべての囲碁棋士の囲碁の打ち方を変えました。しかし私にとっては、すでに6年間もこの種の学習システムを構築してきた中で、ついに待ち望んでいた瞬間でした。他のどのシステムも達成できなかったこと、ゲームAIのチョモランマのようなもの、囲碁の世界チャンピオンを倒せるかという最後のフロンティアを達成できただけでなく、試合に勝っただけでなく、どのように勝ったか、そしてMove 37のような創造的な新しいアイデアを伴って勝ったということが重要でした。そしてそれは私にとって、AlphaFoldのような科学的問題にそれを向ける準備ができたというサインだったのです。
AlphaZeroと世界をモデル化するAI
あなたが言ったことを言い換えますと、未来を理解したいと思っている視聴者が、囲碁のMove 37で何が起こったのかを理解することが重要である理由は、もしDeepMindがそれができるシステムを構築できるなら、どんなゲームでもプレイできるシステムも構築できるかもしれないということを意味するからですね。また、現実世界の問題において、量子コンピューティングや核融合、行列の乗算、あるいはチップ設計など、数え切れないほどのプロジェクトで最良の解決策を見出すシステムも構築できるかもしれないということです。ここでの最先端について教えていただけますか。これらのシステムのうちの1つを選んでください。これらのシステムにおけるMove 37、つまり驚くべき創造的な要素とは何でしょうか。
AlphaZeroについて話すのが非常に面白いと思います。これはAlphaGoの進化版です。囲碁の頂点に達し、少なくとも囲碁において、Move 37や他の多くのアイデアなど、現在プロの囲碁棋士の打ち方に革命をもたらしている新しいアイデアを思いつくことができることを示した後、私たちはそれをAlphaZeroと呼ばれるシステムにさらに一般化しました。これは今日においても非常に重要なシステムになるだろうと私は考えています。
AlphaGoでは、インターネット上で見つけられる限りのすべての人間のゲームから始めました。また、盤面の対称性など、囲碁に特有のいくつかの事項もAlphaGoシステムに組み込まれていました。私たちはそれらの仮定をすべて完全に取り除き、プログラムとアルゴリズムが、自分がこれから何をしようとしているのかについて何も知識を持っていないかのように、実際にゼロから始めたかったのです。これがAlphaZeroの「ゼロ」が意味するものです。AlphaGoに似ていますが、データと私たちがシステムに与えたヒューリスティックの両方において、人間が作り出した知識をすべて取り除いたものです。
ですから、AlphaZeroはほとんど白紙の状態から始まります。もちろん、これは学習システムであり、ニューラルネットワークを持っています。パラメーターは設定しましたが、囲碁やその他のゲームに関する特定のドメイン知識は与えませんでした。そして、AlphaZeroでテストしたのは、まず、囲碁をゼロから学習し、それからAlphaGoを倒すことができるかということでした。
それにはプログラムの17回の進化が必要でした。何が起こるか想像してみてください。AlphaZeroは最初、ランダムに始まります。ゲームのルールしか持っていません。ランダムにプレイします。当然、プレイはひどいものです。しかし、自分自身と10万回のゲームをプレイすることで、独自のデータセットを作成します。そして、どの手が勝ったか負けたかを確認できます。最初はほぼランダムにプレイしていても、他の手よりわずかに良い手というのがあるものです。
次に、その新しいデータを使用して、AlphaZeroのバージョン2をトレーニングします。そのバージョン2はバージョン1よりもわずかに優れています。ですから今度はランダムではなくなりましたが、素晴らしいわけでもありません。良くはありませんが、まあまあの手を打ちます。そしてそれらのまあまあの手が結果的により良くなっていきます。そしてバージョン2がトレーニングされ、バージョン3、バージョン4と続きます。毎回、その新しいシステムは古いシステムと対戦し、大幅に優れているかどうかを確認します。
そして、囲碁やチェスなどにおいては、ランダムな状態から世界チャンピオンを超えるまでに、16か17世代で十分であることが判明しました。少なくともチェスの場合、私はそれが実際に起こるのをライブで見たことがあります。私自身もチェスをするのでとても興味があったんですが、朝はランダムに始まり、昼頃には私でもなんとか太刀打ちできるレベルになり、おやつの時間までにはすべてのグランドマスターよりも強くなり、そして夕食の時間までには世界チャンピオンよりも強くなっていました。ゼロからのその進化のすべてを目の当たりにしたのです。
さらに、Stockfishのようなチェスコンピューター、より専門的でブルートフォース型のコンピューターでさえ発見していないような、興味深い新しいタイプのチェスの手を打つようになります。ですから、AlphaZeroはAlphaGoのアイデアを完全に一般化したものでした。
興味深いことに、今私たちはこれらのアイデアを、Geminiなどの新しい基盤モデルに取り入れる必要があると考えています。これらは、言語や私たちの周りの世界など、囲碁のような単なるゲームではなく、あらゆるものの一般化されたモデルと考えることができます。しかし、これらのモデルの上で検索し、考え、推論する能力が依然として必要です。私たちはこれを世界モデルと呼ぶこともあります。それをどのように行うかについては、まだ完全には解明されていないと思います。AlphaGoのアイデアのいくつかを再び持ち込むわけですが、今回は単一の狭いゲームに適用するのではなく、世界全体に、そしておそらく興味深いことに、材料設計やチップ設計、量子コンピューターといった科学の分野にも適用します。
これらすべてのブロック（ジェンガ）を見ると、私たちがこれほど多くのことに実際に取り組んでいるのが信じられないくらいですが、本当なんです。これが私の夢のようなもので、私は科学のあらゆる分野を愛しています。AIは非常に一般的なツールであるため、これらすべての分野に大きな違いをもたらすことができるので、私はこれらすべての異なる科学分野に没頭することができます。
1つの例を挙げるとすれば、新素材の設計です。もし特別な性質を持つ材料が必要な場合、現在の材料科学で知られているものを超えることができるでしょうか。そこではAlphaGoのようなプロセスが非常に役立つ可能性があります。
そしてMove 37に相当するものとは、AlphaTensorが、たとえば行列の乗算をより高速にする新しいアルゴリズムを見つけるようなことですね。
まさにその通りです。ですから、アルゴリズムの空間に応用することができ、それは非常にエキサイティングです。アルゴリズム自体がより速くなるわけですから。そこには一種の循環的な改善があります。AlphaTensorが、すべてのニューラルネットワークの基礎である行列乗算をほんの5%速くするだけでも、トレーニングに費やされる数百億ドルのコストを大幅に節約することになります。これらはそのようなアイデアの良い例です。
また、私たちはまだ初期段階に過ぎませんが、ダイ上のチップの設計を可能な限り効率的にすること、ルーティングなど、これは巡回セールスマン問題のようなNP困難な問題ですが、どのように最短距離でこれらすべてを配線するかという問題において、AlphaChipやそのようなプログラムは、人間のチップデザイナーよりも優れた対処ができる場合があります。ですから、現在のより一般的なシステムと、AlphaGoやAlphaZeroからのこの種のアイデアを組み合わせることで、今後数年間に可能になることのまだ表面をなでているに過ぎないと言えるでしょう。
これら2つのカテゴリー、AlphaFoldから始まるストーリーとAlphaGoから始まるストーリーは、私が非常に楽観的に感じられる種類のAIです。同時に、あなたが公の場でよくされているように、何がうまくいかなくなる可能性があるのか、そしてそれを防ぐために何ができるのかを完全に考え抜くことも非常に重要だと思います。
ええ。
政府のAI利用と我々が直面するリスク
ですから、ここにもう1つ追加したいと思います。わざとやりますよ。
はい。
これです。私がこのゲームを取り上げた理由は、これがリアルタイムの戦争ゲームだからです。
ええ。
このシステムが人間を完全に打ち負かしているビデオでは、エンジニアたちがシステムの勝利を歓声で喜んでいるのが見えます。しかしもちろん、システムを作っていない人間として私は、「もしこれが現実だったらどうなるのか」と考えます。現在私たちは、軍や政府によるAIの使用に関する議論が大きな話題となっている時期に話をしています。
この対話は10年間残るものにしたいんです。その間ずっと役立つものであってほしい。ですから特定の企業や特定の利用規約については話したくありません。また、ここでは人々が木を見て森を見ずになっているとも思います。より大きな視点で見れば、政府はAIを利用するようになるからです。
そこで、これらのシステムを構築している人物としてあなたに伺いたいのですが、もし魔法の杖を振ることができるなら、政府がこれを何に使うことを望みますか。
そうですね、政府はAIを利用すべきですし、私たちはすべての民主的に選出された政府を支援したいと考えています。私が彼らに使ってほしいと願っていること、そして私たちが構築するシステムが得意であるように努めているのは、公衆衛生や教育の向上といったことです。これらはすべて見直される必要があります。私たちが政府とともに市民のために成し得る効率の向上と善行の量は計り知れません。シンガポールやUAEなどのいくつかの国は、そうしたユースケースに傾注していると思います。
エネルギー網の最適化などのエネルギー分野にも使われるのを見たいです。私たちはそれを自社のデータセンターで行い、冷却システムに使用されるエネルギーを30%節約しました。これらの分野にAIを大規模に適用することで、計り知れない社会的利益が得られると考えています。それが私たちが常に考え、政府が取り入れて使用してくれることを望んでいることであり、私たちはそれをすべてサポートしたいのです。
もちろん、現在の世界の地政学は非常に複雑であり、これらはデュアルユース（軍民両用）の技術です。ですから、AIでうまくいかなくなる可能性のあるいくつかのユースケースについて懸念しています。全体像として、人々は詳細に行き詰まりがちですが、心配すべき大きな事柄は2つあります。
1つは悪意のある行為者です。個人であれ国家レベルであれ、私たちが病気の治療や材料科学、エネルギーの進歩など、良いことのために構築しようとしているこれらの技術を、意図的であれ偶発的であれ、有害な目的のために転用することです。
そして2つ目の懸念は、AI自体が暴走したり、軌道から外れたりすることです。システムがより強力になるにつれて、それは現在のシステムの話ではありませんが、今後2、3、4年の間に、特に私たちが現在突入しつつあるエージェンティックな時代に向かうにつれて懸念されます。私が言うエージェントとは、タスク全体を単独で完了できるシステムのことです。アシスタントなどのように非常に役立つため、当然私たちはそれを望んでいますが、それは同時に彼らがますます有能で自律的になることも意味します。
では、フロンティア研究所の1つとして、そしてフロンティア研究所はすべてこれについて考えなければなりませんが、どのようにしてガードレールを設置し、システムが指示されたことや与えられた目標を正確に実行し、それが十分に明確に指定され、システムがそれを回避したり誤ってガードレールを破ったりする方法がないことをどうやって保証できるのでしょうか。これらのシステムが最終的にどれほど強力で、賢く、有能になるかを考えれば、それは信じられないほど困難な技術的課題になるでしょう。
ですから私は、3、4年というのは実際には中期とは言えませんが、これを中期的なものと呼ぶとして、これらのことについて心配する傾向があります。これらは、現在人々が十分な注意を払っていないかもしれない事柄であり、私たちが人類にとって有益な方法でAGIの瞬間を乗り切ろうとするならば、私たちが取り組まなければならない最大の問題になるだろうと考えています。
ええ。私があなたにお聞きしたかった最大の質問の1つは、私の人生であなたと1時間話せるなら、次に私がニュースの見出しを読んだ時、私たちが今後30年間にわたって抱くであろう懸念の重みをどう評価すればいいのか、ということでした。人々が過剰に心配していることは何で、十分に心配していないことは何でしょうか。
ええ。私が今挙げた2つのことが、おそらく一般の人々が十分に心配していないことだと思います。その分野の専門家や科学者の中でさえも、それらがより社会に影響を与える重要なことだと感じています。他にも、ディープフェイクなどのように心配すべきことはありますし、私たちはそれらを助けようとしています。これらは短期的な懸念事項ですよね。誤情報やディープフェイクといったものです。私たちはSynthIDと呼ばれるシステムに取り組んでいます。これもジェンガのブロックの1つにありますね。これはAIの電子透かしシステムであり、それを分類するためにAIを必要とし、生成されたあらゆる画像にデジタル的に透かしを入れるためにAIを使用します。
ですから、Googleのすべての技術、Veoやその他のものすべてにこの透かし技術が備わっています。そのため、これらがフェイクであることを検出してユーザーや政府などに警告することができます。そして私は実際に、生成AIに取り組んでいるすべての企業がそのような技術を組み込み、少なくともそれが自社の技術で構築されたものかどうかを検出できるようにすべきだと提唱しています。それはますます重要になるでしょう。
しかし、AGI自体が非常に有能になることや、AGIに向けてガードレールをどのように設けるか、その種のシステムがどのような能力を持つかをどうやって理解するかという、これらのより大きな問題に比べれば、それはまだ小さな問題に過ぎないと思います。トップレベルの研究所や、AIセーフティ・インスティテュートのような機関、さらには学界との間で、これらの安全性の問題についてより多くの研究と努力がなされ、国際的な協力が行われることを望んでいます。このような技術を生み出すことは前例のないことだからです。
汎用人工知能（AGI）と人間の特別さ
このまま進めていくと、限界はどこになるのでしょうか。人間にはできてAIにはできないことは何だと思いますか。あなたはこのことを、あなたの人生の中心的な疑問と呼んでいますね。
はい、そうです。それはアラン・チューリングのような私の生涯のヒーローたちの科学的思考と非常に深く関連しています。彼はチューリングマシンについて記述しました。これは理論上の構造物ですが、実はすべての現代のコンピューターは基本的にチューリングマシンであり、計算可能なあらゆるものを計算することができます。アルゴリズムとして記述できるあらゆるものを、この種の機械は計算できるのです。私たちが構築しているシステムは近似チューリングマシンだと思いますし、私を含め多くの神経科学者は、脳も近似チューリングマシンの良いモデルかもしれないと考えています。
ですから問題は、そうですね、私の友人であるロジャー・ペンローズのように、脳には何らかの量子効果があるかもしれないと信じている人もいます。あなたもおそらくそれについてのビデオを作ったことがあるでしょう。私たちはこれについて非常に友好的な議論をしてきましたが、これまでのところ神経科学は脳内に量子効果を見つけていません。見つからないという意味ではありませんが、これまでのところかなり注意深く調べられており、見つかっていません。ですから、脳内で起きていることのほとんどは古典的な計算のようです。したがって、最終的にAIシステムが何を実行でき、何を模倣できるかという点で、その限界がどこにあるかは明確ではありません。
しかし、それは経験的な問題だと思います。それは意識に関する疑問の1つです。意識が何であるかは明確に定義されていないと思いますが、私たちは皆それが何であるかを直感的に知っています。知的アーティファクトを構築するという私たちのこの旅は、人間の心との比較対照研究のようなものになると思います。そしてこの旅の中で、人間の心の違いは何なのか、独自性は何なのかが見えてくるでしょう。私はそれについて非常にオープンマインドです。
独自のものがあるかもしれませんし、人間同士の独特なつながりは、AIシステムによって決して複製されないでしょう。しかし、長期的な計画や推論、ある種の創造性など、私たちが現在到達できていない多くのことを、いずれAIシステムはできるようになると考えています。
ここで今私の心の中で起きていることについて正直にお話ししたいと思います。それは、歴史を通じて人間がやってきたのと全く同じことを私がしているということです。私がやっているのは、私たちが特別である理由を見つけようとすることです。
はい。
私たちは宇宙の中心でなければならない。ああ待って、そうじゃない。感情に同調できるのは私たちでなければならない。ああ待って、象はお葬式をする。創造性を持ち芸術を生み出せるのは私たちでなければならない。ああ待って、Geminiにそれができる。じゃあ何？ 私たちは特別なはずだ、と。あなたもそのようなことをしている自分に気づくことはありますか。あなたがこのAIの未来について説明しているときの私の反応はそんな感じです。
ええ。いや、私は人間は特別だと思いますし、宇宙がどのように機能しているかについては多くの深い謎があると思います。私たちの心の中にあることもそうですし、物理学の世界にあることもそうです。だからこそ、私がごく若い頃にAIをやろうと決めたのは、子供の頃から、学校で大きな疑問に夢中になっていたからだと思います。すべての大きな疑問に興味があるなら、物理学を勉強するべきだと言われますから、物理学は私の一番好きな科目でした。
しかし、10代前半に最高の科学者たちの科学の本や伝記をすべて読んで気づいたんです。リチャード・ファインマンは私の生涯のヒーローの1人ですが、私たちが多くのことを発見し、世界について多くのことを知っているにもかかわらず、私たちが知らないことが非常に多いということに。私たちは時間が何であるかを知りません。これは私にとって狂気です。私たちはそれを説明することさえできない。ただその中で泳いでいるだけです。でもそれは何なのか。もちろんエントロピーのようなものはありますが、それが本当は何なのかについて納得のいくものは何もありません。私たちは量子効果の多くや重力を適切に理解していませんし、意識や私たちが気にかけているほとんどのことについてもそうです。
しかし、ほとんどの人はテレビ番組やゲームなどで一日中気を紛らわせ、それについてあまり心配しません。でも私は決してそうではありませんでした。これらの深い謎が常に私の心の中にあるのです。この現実の性質、ここで何が起こっているのかについて、最終的な答えがどうなるかについて、私は非常にオープンマインドです。それが究極的に私の求めているものであり、AIを私たちの周りの現実の性質を理解する手助けをするツールとして使いたいのです。そして、答えが何であれ、私はかなり楽観的です。私はその意味で真の科学者なのだと思います。答えがどうあるべきかという先入観は持っていません。ただ答えを知りたいだけなのです。
私もです。あなたがやろうとしていることを説明する1つの方法は、つまり、あることや別のことに特別に優れているわけではないシステムを作るのではなく、あなたがおっしゃるように、AGI、つまりすべてに優れている汎用人工知能を作るということですよね。あなたがSFのファンであることは知っています。
はい。
私もです。あなたの頭の中にあるSF映画のプロットを演じてくれませんか。あなたが実際にこれを成し遂げる未来のプロットです。
AIがもたらす50年後のユートピア
ええ、できますよ。私もSFが大好きで、子供の頃はおそらく読みすぎていたと思います。それがいくつかのことを説明しているかもしれませんが、私のお気に入りのシリーズの1つは、イアン・バンクスによる『The Culture』シリーズでした。AGI以後の世界を非常に興味深く描いていると思います。彼はそれをAGIとは呼びませんでしたが、それが描いていたのは、1000年後の未来でした。しかし、その一部は50年後にも起こり得ると思います。
私たちはAGIの瞬間を安全に乗り越えました。それは構築され、社会に役立ち、すでにここにあり、おそらく誰もがポケットの中に持っているでしょう。そして私たちはそれを使って、科学における「ルートノード（根幹となる）問題」と呼ぶものを解決しました。AlphaFoldはその1つでしたね。これらは、あらゆる知識の木を考えた時、それを解決すれば、まったく新しい研究分野や新しい応用を切り開くことができるような問題です。
他にも、先ほど少し触れた核融合や、最適なバッテリーと組み合わせることができる大気圧での室温超伝導体などがあると思います。エネルギー問題の解決策は必ずあると思います。核融合であれ、より優れた太陽光発電であれ、実質的に無料で再生可能なクリーンエネルギーです。そしてそれが、私たちが本当に星々を旅する道を切り開くでしょう。イーロン・マスクはSpaceXなどで素晴らしい仕事をしていますが、主なコストは依然としてロケット燃料、つまりエネルギーコストだからです。
もし私たちが核融合を解明し、どこにでも触媒プラントや淡水化プラントを持つことができ、海水から無限にロケット燃料を作ることができるようになれば、そのコストが事実上ゼロになれば、宇宙への道は本当に開かれます。そして小惑星を採掘できるので、より多くの資源を得ることができるようになります。これらすべてのSFの領域が、今後50年以内に非常に現実味を帯びてくると思います。太陽の周りのダイソン球とかですね。水星は都合のいいことに正しい場所にあり、適切な材料でできています。宇宙で起こっていることを考えると驚くべきことですが。
そしてそれがうまくいけば、最大限の人類の繁栄につながり、私たちがこれらの恐ろしい病気をすべて治癒するのを助け、私たちがはるかに長く健康な人生を送り、星々を旅し、意識を銀河系の他の部分にもたらすことになるでしょう。それは素晴らしい結果だと思いますし、今後50年以内に起こり得ることだと思います。
あなたがこういうことを言うのを信じますし、あなたが話している時、私はあなたを信じます。
それが私がやろうとしていることですからね。
ええ。では最後の質問です。
はい。
もし私が自分のお葬式にハエになって壁に止まっていたとして、彼らが「彼女は夫と家族と友人を愛していた」と言った後、彼女は自分の人生を、人々が楽観的な未来を見られるよう助けることに費やしたと言ってほしいと思います。人々がその実現に参加できるように、より早く、あるいはより多くの人にとってより良い形で実現できるように、あるいは人々が見たビジョンでやろうと決めたことを何であれ実現できるように。私の最後の質問は、あなたは人々に何と言われたいですか。
私の人生が人類への貢献と奉仕であったと言ってもらえたら嬉しいですね。それが私がやろうとしていることだと思います。ですから、それが一番良いことかもしれません。
貴重なお時間を本当にありがとうございました。
ありがとうございました。本当に感謝しています。
とても楽しかったです。
ありがとう。
素晴らしいですね。
もしまたいつでもジェンガをしたくなったら。
まさに。あなた、ジェンガの才能がありますね。とても上手でした。本当に最高です。私たちがこんなにたくさんのプロジェクトをやってきたなんて信じられません。クレイジーですね。ブロックを見た時、これらすべてに私たちのプロジェクトの名前が書いてあって。
全部どこにあるか覚えてましたか。
ええ、もちろん。
エンドロールとジェンガの続き
このゲームはブロックを引き抜くゲームで、私たちはさっきこれで遊んでいたんですよ。あなたと対戦するのは不公平ですが、そのプロジェクトが何だったのかを言わなければならなくて、間違えたらポイントにならないというルールです。
オーマイガー。
たとえば、これは材料科学ですね。
はい。あなたには少し不公平ですね。私が勝つことを望みますが、あなたは私よりずっとジェンガが上手そうだし。やってみましょう。これにしましょうか。
どうぞ。
よし。AlphaCode。
（Cleoが別のブロックを指して）
それ、もっとはっきりしてるでしょ。コードだから。
ええ、なるほど。これは遺伝学ですが、タンパク質をコードする2%ですね。
はい、今やりましょう。
時間ありますよ。次の予定を遅らせますから。
（笑い）ちょっと待って。もう1つ質問があります。
AlphaEvolve、コーディングですね。
はい、コーディングに使えます。
プログラミング。
遺伝的アルゴリズムとGeminiを組み合わせたものです。これは既知のものを超えるAlphaGo的なことを行うための私たちの1つの試みです。
じゃあ、私はそのポイントはもらえないですね。
ダメです。0.5ポイントです。
よし。せっかく時間があるので、もう1つ質問させてください。せっかくですからね。
まだカメラ回ってますね。
私が聞かなかったことで、人々に知ってもらうのが重要だと思うことは何ですか。
聞かれなかったことですか。実のところ、多くのことをカバーしたと思いますよ。GenCast、これは気象予測ですね。
ああ、それについては話しませんでしたね。ナビエ・ストークス方程式。それを解決することについては完全に忘れていました。
私が解決したそのことについて完全に忘れていましたよ。
1つ興味深いのはシミュレーションです。それについてはあまり話しませんでしたが。またはGenie。DQNはもちろん、Atariの件などすべての始まりですが、科学の分野や経済学などの社会科学において、実験を行うのが非常に高価だったり、制御された実験を行えなかったりする分野を理解するのを助けるためのシミュレーションの役割についてです。私は常にシミュレーションが大好きなんです。あ、Isoですね。
私たちは2人ともとても負けず嫌いだと思うので、これはかなり真剣勝負になりますよ。ジェンガのルールはどうなってますか。触ったら動かさなきゃいけないんですか。
私たちはゆるい、簡単なバージョンでやってます。
両手を使ってもいいとか、ブロックを一緒に押し込むとかいうクリエイティブなこともやってましたよね。
通常はダメなんですよね。よし。これを取ろう。AlphaCodeでズルをします。
人々があなたに抱くであろう質問の1つは、もし彼らがこれを見ていて、Geminiやすべてのことに対して非常に楽観的であり…
はい。
あなたが説明した未来に対して非常に楽観的であり、あなたと同じ懸念を持ち、この対話の最後まで見て、「私はこの未来を信じているし、その一部になりたい」と考えた場合、AlphaCodeはコードのバグを見つけるものだと思いますが。
はい。非常に良いです。
これが人々が未来に参加するのを助けることについてであるなら、彼らにどのように参加するようアドバイスしますか。
私が大学や学校で講演を行う際には、方向性の流れに乗るべきだと言います。利用可能なすべてのツールに没頭し、ある意味、超能力を身につけたような状態になるべきだと。
素晴らしい。
それらのツールと機能で超能力を身につけるんです。というのも、私の印象では、フロンティアの研究所でさえ、これらのフロンティアモデルの次のバージョンや、VeoやGeminiのような隣接するモデルを作るだけで膨大な労力が必要であり、私たちがそのツールで作ることができるアプリケーションや応用できることのほんの一部しか探索できていないからです。最新モデルの機能の余剰、つまりクールなことのギャップはどんどん大きくなっていて、リリースのスケジュールはどんどん早くなっています。ですから、これらのツールを使って新しい領域に適用することに本当に専門的な知識を持つ人々にとって、機会の空間は巨大になっていると思います。
今の子供なら、誰も考えつかなかったような新しい方法でこれらのツールを使い、数十億ドル規模のビジネスを始めることができるでしょう。そして、Open Claw（※Claude）のようなものがその良い例だと思います。
ええ。
引き分けにした方がいいかもしれませんね。2人とも負けるのが耐えられないと思いますから。
あなたの番ですよ。私の番ですか？ あなたの番です。あなたの番で終わりにしましょう。
じゃあ、やってみますよ。
2016年、あなたのボードには「タンパク質の折りたたみを解決する（スマイルマーク）」と書かれた付箋が貼ってありましたよね。
はい。
今、あなたのボードの付箋には何が書かれていますか。
オーマイガー。私のデスクには100枚くらいの付箋の山があるんですよ。
何が書かれてるんですか？ AlphaChipですね。
何が書かれているか。実は覚えてないんです。今夜までにやらなければならない約30の事柄のリストだと思います。だからそろそろ取り掛からなきゃいけませんね。でも、素晴らしいです。本当に（引き抜こうと）やってみますか？
あなたが止めるまで私は続けますよ。だからあなたが止めていいんです。
ええ、今何時ですか？ よし、もう一手やります。でも今はもうチートしてますね。すでに引き抜いたピースを使ってますから。
おお、やってみるんですね。
最後は野心的に行きますよ。
ああ、すごい、すごい、すごい。これ取れたら、もう1つ質問していいですか。
ええ、いいでしょう。
どうやってバランスとるんですか。まさか。嘘でしょ。
イエス。
わかりました。本当にありがとうございました。
素晴らしかったです。ありがとう。
これをやるのは本当に素晴らしいアイデアでした。
コメント