DeepMindのCEO Demis HassabisがインドのAIサミットに登壇し、AIの科学的発見への活用、AGIの定義と到達可能性、強化学習と基盤モデルの関係、ロボティクスの進化、AIリスクへの対応、そしてグローバルサウスを含む国際的なAI協力の重要性について幅広く語った講演の全記録である。
優れた科学者に求められる創造性とAGIの条件
優れた科学者と良い科学者を分けるのは、創造性と、何が正しい問いで何が正しい仮説かを見極めるセンスだと思います。正しい問いと正しい仮説を立てることは、予想を証明することよりもはるかに難しい。私はそれこそが創造性の最高形態だと考えています。今日のシステムは、まだその能力を持ち合わせていません。
それをテストする一つの方法として、こんなことが考えられます。1911年を知識のカットオフとして基盤モデルを学習させ、そのモデルが1915年にアインシュタインが導き出したような一般相対性理論に辿り着けるかどうかを試してみる。これはAGIに向けた良いテストになると思いますし、今日のシステムがそれをできないことは明らかです。でも、いつかは解決されると信じています。
AIは科学的発見の究極のツールになるか
科学的発見のツールとしてのAIについてですが、私が人生とキャリアのすべてをAIに捧げてきたのは、かなり早い段階から確信していたことがあるからです。汎用的なパターン認識に優れたモデルを構築できれば、それは科学にとって信じられないほど有用なツール、もしかすると究極のツールになり得ると。多くの科学は、膨大なデータの中から洞察と構造を見つけ出すことですから、それはまさにAIにとって最適な領域です。
今後おそらく10年以内に、科学的発見の新たな黄金時代、ある種の新しいルネサンスに突入すると思います。AlphaFoldのような素晴らしいツールを使って、研究を飛躍的に加速させ、ほぼあらゆる分野での科学的発見をスピードアップできるでしょう。まず次のフェーズはこうしたシステムをツールとして活用することで、その後、システムがより自律的になるにつれて、博士課程の学生のような共同研究者として機能できるかどうかが問われてきます。それはまだ先の話ですが、10年以上後には実現するかもしれません。
人間の役割はどうなるのかという問いについては、次のフェーズは人間の専門家や科学者にとって本当に素晴らしいものになると思います。こなせる仕事量が格段に増えますし、私が特に楽しみにしているのは学際的な科学の発展です。複数の分野を深く理解してその間に面白いつながりを見出すのは難しいことですが、最も価値ある進歩が生まれるのはまさにそういった領域の組み合わせからだと思っています。AIというツールがあれば、科学者が複数の分野にわたる情報を学び、理解し、処理する助けになるはずです。
AIと政策・社会的意思決定
科学という分野は成功を判断しやすいという面がありますが、政策立案や公的な意思決定といったより抽象的な領域でのAIの役割についてはどうでしょうか。コーディングや数学、そしてチェスのようなゲームは、今日のシステムが特に得意とする領域です。なぜなら、それらは検証可能だからです。AIの出力が正しいかどうかを確認できる。だから学習させる際にも、問題のデータベースを用意して正否を100%チェックできます。
一方、芸術や人文学、政策決定といった分野はずっと主観的で、同じ実験を繰り返すことも難しい。何が良い判断かについてのデータを得ることが非常に困難です。ですから、AIがそういった領域をモデル化するのははるかに難しいと思います。
神経科学者の視点から見たAIと人間の知性
AIの進歩から人間の知性について何を学んだかという点ですが、Deep Mindを創業した頃、私たちは脳から多くのインスピレーションを得ていました。脳の直接的なメカニズムではなく、エピソード記憶や海馬の機能など、高レベルなシステムとしての着想です。ニューラルネットワークや強化学習も、脳のドーパミンシステムが実装していることが知られていますね。
脳は私たちが知る唯一の汎用知能の例であり、それを出発点とすることで少なくとも限界において実現可能であることは分かっていました。ニューラルネットワークと強化学習がこれほど成功した理由は、学習こそが現代のAIシステムの核心だからだと思います。1990年代の専門家システムやDeep Blueのように答えをプログラムするのではなく、データから直接学習させる。今あらためて神経科学を振り返ると、脳がいかに効率的かということに気づかされます。インターネット全体を取り込まなくても物事を理解できるサンプル効率の高さは、私たちが今構築しているものとは異なります。同じ原理の一部を使いつつも、おそらく脳の動作方法とはかなり異なる形に現れています。
AIの安全性リスクへの取り組み
AIの安全性リスクについて、DeepMindはどのような姿勢で取り組んでいるのでしょうか。Deep Mindを創業した当初から、私たちは成功を想定して準備していました。ミッションステートメントは「ステップ1：知性を解き明かし、ステップ2：それを使って他のすべてを解決する」というものでした。当時はSFのように聞こえましたが、今はそれがどう実現可能かが見えてきています。
私たちはこれを20年のミッションと捉えていて、2030年頃には概ね達成できると思っています。そのプロセスには大きなリスクが伴う一方、科学や医療への計り知れない恩恵ももたらします。システムが強力になるにつれて、少なくとも2つのリスクが常に懸念されます。
一つは悪意ある人間のアクター、個人や国家がこれらのシステムを有害な目的に転用することです。システムはデュアルユースですから。もう一つは、AGIに近づくにつれ、エージェント的なシステムが期待通りに動作することを保証する難しさです。今年来年にかけてそういった動きが加速すると思いますが、ガードレールが確実に機能するようにしなければなりません。
これらは2つの大きな課題であり、一つは国際的な対話と最低限の国際的な基準の合意が必要な社会的課題、もう一つはシステムの堅牢性と信頼性を確保するための技術的課題です。
近い将来に対処すべきAIのリスク
近い将来に対処すべきリスクとして最も重要なのは、バイオリスクとサイバーリスクだと思います。現在のシステムはサイバー分野でかなり高い能力を持ってきており、サイバー防御がサイバー攻撃よりも強力であることを確保する必要があります。Google及びDeepMindでも、AIをサイバーセキュリティに活用することに取り組んでいます。サイバー防御のツールとしても非常に有効ですが、攻撃よりも防御を強くすることが重要です。これらは比較的短期的なリスクですが、国際的な基準の合意など、さらに多くの研究が必要な課題も多くあります。
グローバルサウスとAIの恩恵
このようなサミットをグローバルに開催することが重要な理由は、このテクノロジーが全員に影響を与えるからです。デジタル技術である以上、国境によって封じ込めることはできません。オープンソースというものがあり、それは概ね非常に良いことですが、一方でオープンソースのソフトウェアに脆弱性が見つかった場合にリコールする手段がないという問題もあります。これはAIという新しい問題領域ならではの課題です。
グローバルサウスやインドのような国々にとっては、大きなチャンスがあると思います。今日の若者たちは、世界で最も最先端のツールにほぼアクセスできます。フロンティアラボで発明されてからわずか3〜6ヶ月後には使えるようになる。これはかつてなかったことです。私自身、この最前線で働いている者として言えますが、これらのモデルが持つ驚くべき能力を十分に理解する時間すらほとんどありません。AIツールを使えば、以前の10倍のことができるかもしれない。それほどこれらのツールは強力で、世界中でほぼ即座に利用可能なのです。
インドの若者へのメッセージ
インドは特に若い人口が多く、このサミットにもエネルギッシュな若者が集まっています。インドの若者たちはAIについて非常にポジティブな見方をしているようで、それはとても良いことだと思います。今日の学生たちへのアドバイスとしては、これらの新しいAIツールに深く習熟することに積極的に取り組んでほしいということです。今後10年でそれが彼らを超人的な存在にしてくれると思います。ビジネスでも科学でも。
これはコンピュータ時代の夜明けや、モバイルやインターネットの普及期に似ています。そのテクノロジーとともに育った世代が、私たちが今夢見ることしかできないような素晴らしいことを成し遂げていきます。AIでも同じことが起きるでしょう。インドと、ここにいる若者たちはその先頭に立てると思います。
AlphaFoldの技術的進化と基盤モデルとの関係
AlphaFoldについて言えば、私たちは全く新しいシステムを構築しましたが、それにはPDB（タンパク質データバンク）が必要でした。人類が50年にわたる実験的研究で積み上げた15万個の構造データです。それがAlphaFoldのような問題を解くのにかろうじて足りるデータ量でした。
Deep Mindや他の場所での議論の中心は、汎用システム（脳のようなもの）と、それが使うツールの違いについてです。私たちヒトにとっては、心とツールの区別は物理的に明確です。しかしどちらもデジタルでAIである場合、何をメインシステムに組み込み、何を専門ツールとして残すかという問いが生じます。
私の見解では、Geminiのような基盤モデルはAlphaFoldのようなものをツールとして呼び出す形になると思います。Geminiがタンパク質の構造を理解したい場合、そのタンパク質情報を全部メインシステムに組み込むより、AlphaFoldをツールとして呼び出す方が効率的です。技術的に言えば、あるデータをメインシステムに入れることが他のタスクの改善に転用できるかどうかが判断基準になります。コーディングと数学は汎用基盤モデルに組み込んでいます。なぜなら、コーディングや数学が得意になると、一般的な計画や推論も上手くなることが分かっているからです。でもタンパク質の折り畳みは、他のドメインには転用されにくい非常に専門的なスキルです。ですから私はそれは専門ツールとして残すべきだという立場です。
将来的にAGIシステムになれば全てを一つのシステムに統合することもあるかもしれませんが、当面は専門ツールとして分けておく方が効率的だと思います。また、そのようなツールはAlphaFoldが実際そうであったように、物理学や化学、化学結合に関する組み込み構造を持つハイブリッドシステムになるかもしれません。学習することもできますが、直接指定またはプログラムした方が効率的な場合もあります。
フィジカルAIとロボティクスの未来
ロボティクスについては、私はますます興奮を覚えています。10年前は、課題はアルゴリズムであってロボットの物理的な構造ではないと思っていたので、あまり関心がありませんでした。でも今はアルゴリズム的にも準備ができてきていて、Gemini Roboticsについても非常に期待しています。私たちの基盤モデルはマルチモーダル性に優れており、視覚、画像、周囲の世界を理解できます。物理世界への深い理解はロボティクスに必要なものそのものですから、次の2〜3年で非常に興味深いブレークスルーが生まれると思います。
まだ研究は必要で、一部のロボティクス企業が主張するような段階には至っていません。ヒューマノイドと非ヒューマノイドの両方が有用だと思います。でも今後数年でいくつかの本当に画期的な瞬間が訪れるでしょう。今まさに参入するのに良い分野だと思います。
ヒューマノイドが基盤モデルで動くようになると恐怖感は高まるかという問いについては、設計方法によりますが、リスクも確かに上がります。何に使うかによりますし、ヒューマノイドがかなり高性能で重量もある場合には危険も伴います。ですから、ロボットが大量に動き回るようになる前に、先ほど述べたガードレールを整備しておく必要があります。
AIの恩恵をグローバルサウスへ届けるために
AIの恩恵が、GPUを持つような資源豊富な国々だけに集中しているように見えますが、グローバルサウスにより多くの恩恵をもたらすには何が必要でしょうか。先ほども触れましたが、主要な基盤モデルは3〜4つ、中国のモデルも含めると5〜6つほどあり、それらは非常にコスト効率よく利用できます。またオープンソースも重要で、私たちもGemmaという独自のオープンソースモデルに取り組んでいます。近々新しいバージョンをリリース予定で、エッジデバイス向けに非常に強力なものになっています。
エッジデバイスでの効率的なモデルは非常に興味深い分野です。スマートフォン、ラップトップ、将来的にはロボティクスなど、そういったプラットフォーム向けのモデルを最適化し、その上にどんな製品やアプリケーションを構築できるかというところに、大きなチャンスが広がっていると思います。
Deep Mindの歴史：Atari、AlphaGo、そして今
先ほどAtariのゲームプレイデモを最初のNeurIPSのサイドイベントで見た時のことを思い出します。小さな部屋なのに人が溢れていましたね。今日この大きなホールが満員なのと対照的です。
あの頃のことはよく覚えています。このホールの3分の1くらいの大きさでしたが、立ち見でいっぱいで、ドアの外にも人が溢れていた。あれが私たちが深層強化学習システムで最初に成功を収めた瞬間でした。Atariのゲームという今となっては非常にシンプルなものでしたが、ピクセルだけから直接プレイし、他の情報は一切与えず、スコアを最大化するというものでした。これが現代AI時代において、人間が挑戦的で楽しいと感じるタスクを達成するエージェント的システムの最初のデモンストレーションだったと言えると思います。
2013年のことでした。事前情報を与えず特殊ケース処理もせず、汎用的な学習システムが2万ピクセルのAtariの画面でも機能するという、学習アルゴリズムの汎用性というテーゼが証明された瞬間でした。今の基準では取るに足らない規模ですが、当時のシステムにとってはとても大きなアクション空間とデータ空間でした。
それを受けて私たちはAlphaGoへと進み、2016年には世界チャンピオンのLee Sedolをソウルで破るという、業界が目を覚ます本当の転換点が訪れました。深層強化学習と学習システムをスケールさせることで、実際にそれが可能だということを示したわけです。
強化学習と基盤モデルの未来
Rich Suttonたちが強化学習こそがAIを前進させると語っていることについて、今日の基盤モデルと強化学習についての私の見解を言えば、強化学習はこれらのモデルのポストトレーニングに不可欠な要素です。また推論時の計算、つまりモデルの「思考」の部分は、AlphaGoでのモンテカルロ探索などで私たちが先駆けたアイデアからさらに多くを得られると思います。AlphaGoのアイデアと今日の基盤モデルを組み合わせる必要があるのです。
もちろんゲームと違い現実世界では完全なモデルが得られないという難しさがありますが、もし私が今日予測するとすれば、Geminiのような基盤モデルは最終的なAGI解決策の重要な要素になると思います。その上に多くの興味深い強化学習が乗っかっていく。いつか20年後には、強化学習がゼロからすべてを学べるAlphaZero型のシステムが出てくるかもしれませんが、それがAGIへの最速の道ではないと思います。基盤モデルを使い、既に存在する膨大な情報から世界のモデルとして学び、その上で強化学習と計画を行う方が、まず効率的でしょう。
Yan LeCunの「強化学習はケーキの上のチェリーに過ぎない」という発言についての私の見解ですが、私は同意したことはありません。ビット数で測ればそうかもしれませんが、全てのビットが等しい情報価値を持つわけではありません。ゲームに勝ったかどうかのビットは、画面上のランダムなピクセルよりもはるかに重要な情報です。それらを情報価値において等号で結ぶのは明らかに間違いだと思います。基盤モデルがAGIに必要なすべてなのか、それとも重要な一要素なのかという問いについては、少なくとも最初のAGIシステムの重要なコンポーネントであることは間違いないと思います。
サミット参加者へのメッセージ：慎重な楽観主義
このサミットの参加者の皆さんへのメッセージは、慎重な楽観主義です。私たちは今、信じられないほど大きな変革の入り口に立っています。科学と医療に革命的な恩恵をもたらすものとなるでしょう。人間の健康への対処法を根本から変えていく可能性があります。これらのシステムの上に構築すべき素晴らしい企業やツール、製品が数多くあり、世界中の誰もがそれを活用できます。
一方で注意も必要です。十分な時間と優秀な頭脳があれば、技術的な課題は解決できると信じています。人間の独創性を信じていますし、最高の頭脳が集まれば技術的なリスクは乗り越えられると思います。しかし国際的な協力も欠かせません。社会的な課題は、技術的な課題よりもむしろ難しい問題になるかもしれないのです。
コメント