Google DeepMindのCEOデミス・ハサビスが、AGI（汎用人工知能）の実現時期、AI競争の激化、仕事の未来、そして人類が直面する課題への影響について語った包括的なインタビューである。ハサビス氏は今後5〜10年でAGIが実現する可能性が50%あると予測し、その実現により「根本的豊かさ」の時代が到来する可能性を示唆している。しかし同時に、AI安全性、国際協力の必要性、そして急速な技術発展がもたらすリスクについても警鐘を鳴らしている。
この分野にとって非常に激しい時代です。私たちは明らかに、これらのAIシステムができる素晴らしいことすべてを求めています。病気の新しい治療法、新しいエネルギー源、人類にとって信じられないようなものを生み出すことです。それがAIの約束です。しかし同時に懸念もあります。最初のAIシステムが間違った価値体系で構築されたり、安全でない方法で構築されたりすれば、それも非常に悪いことになり得ます。
WYはGoogle DeepMindのCEOであるデニス・サビス（デミス・ハサビス）と対談しました。同社は会社の人工知能のエンジンです。彼はノーベル賞受賞者であり、ナイトでもあります。私たちはAGI、仕事の未来、そしてGoogleがAI時代でどのように競争する計画かについて議論しました。これがビッグインタビューです。
ビッグインタビューへようこそ、デニス。ありがとうございます。お招きいただき、ありがとうございます。
それでは、AGIについて少し話を始めましょう。さて、あなたは知能を解決し、その後知能を使って他のすべてを解決するという考えでDeepMindを設立しました。それは20年のミッションのようなものだったと思います。私たちは15年ほど経過していて、あなたは軌道に乗っています。実際、私たちの推定では、かなり予定通りに進んでいるという感じです。
それは、人々がAGIと呼ぶであろうものから5年離れていることを意味します。そうです。今後5〜10年で、私たちがAGIと定義するものを手に入れる可能性が50%ほどあると思います。 あなたの同業者の中には2年、3年と言う人もいれば、もう少し長いと言う人もいます。しかし、それは本当に近いです。本当にすぐです。私たちがそれほど近いということをどうして知ることができるのでしょうか？
現在、この分野ではAGIの定義について少し議論が行われており、それに依存して、いつ実現するかについて異なる予測があります。私たちは最初から一貫しており、実際、私の共同創設者の一人で主任科学者のシェーン・レッグは、2001年頃にAGIという用語の定義を手助けしました。私たちは常に、人間が持つすべての認知能力を示す能力を持つシステムとして考えてきました。
それが重要な理由、人間の心への言及が重要な理由は、人間の心が、おそらく宇宙で一般知能が可能であることを示す唯一の存在証明だからです。ですから、一般知能AGIを主張したいのであれば、それがすべてのこれらの領域に汎化することを示す必要があります。すべてが埋められ、すべてのチェックマークが埋められたとき、私たちがそれを持ったとき、それはイエスです。
現在、欠けている能力があると思います。最新のLLMやチャットボットを使ったことがある私たち全員がよく知っているように、推論、計画、記憶において。今日のシステムは真の発明、真の創造性、新しい科学理論の仮説を立てることができるとは思いません。それらは非常に有用です。印象的です。しかし、穴があります。
実際、私たちがまだAGIに到達していないと思う主な理由の一つは、反応の一貫性です。いくつかの領域では、私たちのAlphaProofシステムで国際数学オリンピックの数学問題を金メダル基準で解くことができるシステムがありますが、一方で、これらのシステムは高校数学や単語の文字数を数えることでつまずくことがあります。それは私が期待するものではありません。
全体的なパフォーマンスのそのレベルの違いは十分に一貫しておらず、したがって、これらのシステムがまだ完全に汎化していないことを示しています。しかし、私たちがそれを得たとき、それは位相変化のようなもので、突然物事が違ってきて、すべてのチェックマークがチェックされ、すべてを行うことができるものを手に入れます。その時、私たちは新しい世界にいるのでしょうか？
それもまた議論されており、それがより漸進的な移行になるのか、それともステップ関数になるのかは明確ではありません。 私の推測では、それはより漸進的なシフトになるように見えます。そのようなシステムがあったとしても、物理世界は依然として物理法則の中で動作します。工場、ロボット、これらの他のもの。ですから、この種のデジタル知能の効果が実際に影響を与えるまでには時間がかかるでしょう。
それについてもより速く来る可能性がある理論もあります。Googleで働いていたと思うエリック・シュミットは、それはほとんど二進的なもののようだと言っています。彼は、例えば中国がAGIを得たら、私たちは終わりだと言っています。なぜなら、誰かが次の人より10分早くそれを得たら、あなたは決して追いつくことができないからです。そうすれば、それはより大きなリードを維持するでしょう。あなたはそれを買いませんか？
それは未知数だと思います。それは多くの未知数の一つです。それは時々ハードテイクオフシナリオと呼ばれるもので、アイデアはこれらのAGIシステムが自己改善を行うことができ、おそらく自分自身の将来のバージョンをコーディングし、それを非常に速く行うことができるかもしれないということです。
ですから、わずかなリード、例えば数日だったものが、それが本当だとすれば、突然深淵になる可能性があります。しかし、それがより漸進的である他の多くの方法もあります。これらの自己改善のもののいくつかは、そのような方法で加速することができません。その後、同時期にいることは大きな違いを生みません。
しかし、重要なのは、これらの問題と地政学的問題、構築されているシステムには、設計者とそれらが埋め込まれた文化の価値と規範の何らかの刻印があるということです。ですから、これらの種類の国際的な問題が重要だと思います。
GoogleでAIを構築するとき、それを念頭に置いていますか？ それが本当である場合に備えて、私たちが最初でなければならないという競争的な必要性を感じますか？
現在、誰もが知っているように、この分野では非常に激しい時代です。多くのリソースがそれに投入され、多くのプレッシャー、研究される必要がある多くのこと、そして多くの異なる種類のプレッシャーが進行中です。
私たちは明らかに、これらのAIシステムができるすべての素晴らしいことを求めています。最終的には、AlphaFoldで行ったように、それで医学と科学を進歩させ、病気の新しい治療法、新しいエネルギー源、人類にとって信じられないようなものを生み出すことができると思います。それがAIの約束です。
しかし同時に、最初のAIシステムが間違った価値体系で構築されたり、安全でない方法で構築されたりすれば、それも非常に悪いことになり得るという懸念もあります。私が非常に心配している少なくとも2つのリスクがあります。一つは、個人であれ悪党国家であれ、悪意のある行為者が汎用AI技術を有害な目的のために転用することです。そして二つ目は、明らかにAI自体の技術的リスクです。それがより強力になり、よりエージェント的になるにつれて、その周りのガードレールが安全で、回避できないことを確実にすることができるでしょうか。
これは、人類によって構築される最初のシステムがどのようなものになるかというアイデアと相互作用します。商業的な必要性、国家的な必要性、そして誰がリードしているか、そしてそれらのプロジェクトがどこにあるかについて心配する安全面があります。
数年前、企業は「私たちを規制してください。規制が必要です」と言っていました。そして今、少なくとも米国では、現政権はAIに規制を課すよりも、中国に勝つためにそれを加速することにあまり関心がないようです。あなたはまだ規制を求めていますか？私たちの側のミスだと思いますか？
私は一貫してこのように考えており、考慮しなければならない他の地政学的オーバーレイがあると思います。世界は5年前とは多くの次元で非常に異なる場所です。しかし、これらのますます強力なシステムの周りで意味のあるスマートな規制のアイデアは重要になると思います。私はそれを信じ続けています。
ただし、私もこれについて考えていますが、現在の働き方では困難に見える国際的なものである必要があると思います。なぜなら、これらのシステムは誰にでも影響を与え、デジタルシステムだからです。ですから、一つの地域でそれを制限したとしても、世界と社会のために構築されるこれらのシステムの全体的な安全性という点では、実際には役に立ちません。
より大きな問題は、ある種の国際協力やコラボレーションが必要だと思うことです。 そして、研究についての知識がより良くなるにつれて動くスマートな規制、機敏な規制です。
ガードレールを設置していない、競争しているという理由で、本当に止めなければならない、または関与できないと感じる地点に達することはありますか？
少なくとも西側の主要なラボのリーダーの多くは、私たちの数は少なく、皆お互いを知っており、定期的に話し合っています。多くの主任研究者もそうです。問題は、その地点がいつかということについて合意する適切な定義がないことです。今日のシステムは、先ほど議論したように印象的ですが、非常に欠陥もあります。今日のシステムは何らかの存亡の危機をもたらしているとは思いません。
ですから、それはまだ理論的ですが、問題は多くの未知数があることです。それらがどれだけ速く来るかわからないし、どれだけ危険になるかもわかりません。
しかし、私の見解では、非常に多くの未知数があるとき、一つは私たちがそれらを克服できると楽観的です。少なくとも技術的には、地政学的な問題は実際により難しくなる可能性があると思います。十分な時間と十分な注意と思慮深さを与えられ、科学的方法を使って、このAGI地点にアプローチすることです。それは完全に理にかなっています。
しかし一方で、その時間枠があるなら、私たちにはあまり時間がありません。いいえ、時間がありません。つまり、私たちはますませセキュリティやサイバーなどのものと、制御可能性とこれらのシステムの理解、時々機械論的解釈可能性と呼ばれる研究にリソースを投入しています。
AIには多くの異なるサブブランチがあります。 それらに投資されており、さらに多くのことが起こる必要があると思います。そして同時に、より多くの社会的議論も必要です。制度構築について。ガバナンスをどのように機能させたいか？これらのシステムがどのように使用され、展開され、構築されるかについて、少なくともいくつかの基本原則について国際的な合意をどのように得るか？
仕事への影響、市場への影響はどうでしょうか？ AIが人々の仕事をどの程度変えると感じていますか？労働力における仕事の分散方法は？
まだあまり変化していないというのが私の見解です。経済学者と話すと、彼らはまだあまり変化していないと感じています。人々は確実に特定の領域でこれらのツールが有用だと感じています。AlphaFoldのようなもので、多くの科学者がそれを使って仕事を加速させているので、現時点では付加的であるように見えます。今後5〜10年で何が起こるかを見てみましょう。仕事の世界には多くの変化があると思いますが、過去と同様に、一般的に起こる傾向があるのは、これらのツールや新しい技術を利用する、実際により良い新しい仕事が作られることです。 インターネットで起こったこと、モバイルで起こったことと同じです。今回は違うかどうかを見てみましょう。明らかに、誰もが常にこの新しいものは違うと思い、おそらくそうかもしれません。
しかし、今後数年間については、私たちの生産性を大幅に向上させ、創造的なツールにとって本当に有用で、実際に私たちが個人的に生産できるものにおいて、私たちを少し超人的にするこれらの信じられないツールを持つ可能性が最も高いと思います。
ですから、次の期間、私たちができることの一種の黄金時代があると思います。
もしAGIが人間ができることすべてを行うことができるなら、彼らは新しい仕事もできるように思えます。それがAGIがもたらすものについての次の質問です。しかし、それらの能力を持っていたとしても、機械でやりたくないことがたくさんあると思います。
医師と看護師の例をよく出します。 医師と医師が行うこと、診断について、AIツールに助けられることを想像できますし、AIの医師を持つことさえできるかもしれません。一方、看護については、ロボットにそれをやってもらいたいとは思いません。その人間的な共感の側面、ケアなどについて、特に人間的な何かがあると思います。そのような例はたくさんあると思いますが、確実に異なる世界になるでしょう。
AGI時代に生涯を通じて働き続けるために、今卒業生と話すなら、どのようなアドバイスをしますか？
私の見解は現在、もちろんこれは技術の発展とともに常に変化していますが、今後5〜10年を考えると、これらのツールにネイティブである最も生産的な人々は10倍生産的になるかもしれません。ですから、今日の子供たち、今日の学生たちには、これらの新しいシステムに没頭し、それらを理解することを勧めます。
それらがどのように構築されるかを理解するために、STEMやプログラミングや他のことを学ぶことはまだ重要だと思います。 おそらく、利用可能なモデルの上で自分でそれらを修正することができます。たくさんの素晴らしいオープンソースモデルなどがあります。そして、ファインチューニング、システムプロンプト、システム指示、誰でもできるこれらすべての追加的なことで信じられないほど上手になり、これらのツールから最大限を得る方法を本当に知り、あなたの研究作業、プログラミング、コースで行っていることのためにそれを行い、そして何をするにしても、それらの新しいツールを利用することで信じられないほど上手になって出てきます。
5年、10年の範囲を少し超えて見てみましょう。 これが実現するとき、20年後、30年後の私たちの未来を見るとき、何を想像しますか？AGIがどこにでもある世界はどのようなものですか？
すべてがうまくいけば、私が根本的豊かさと呼ぶ時代にいるはずです。つまり、AGIは社会が直面している世界のこれらの重要な、私が時々ルートノード問題と呼ぶもののいくつかを解決します。良い例は、病気の治癒、はるかに健康で長い寿命、新しいエネルギー源の発見、最適なバッテリーやより良い室温超伝導体、核融合などです。そしてそれがすべて起これば、私たちは人間の繁栄の最大の一種の時代にいるはずで、私たちは星々に旅行し、銀河を植民地化します。
それの始まりは、次の期間がうまくいけば、今後20〜30年で起こると思います。
私はそれについて少し懐疑的です。私たちは今信じられないほどの豊かさを持っていると思いますが、それを公平に分配していません。私たちは気候変動を修正する方法を知っていると思います。それを教えてくれるAGIは必要ありませんが、私たちはそれを行っていません。
それに同意します。種として、社会として、私たちは協力することが得意ではありませんでした。気候は良い例だと思います。しかし、人間は現在の地球上の人々の数と私たちの都市に比べて地球がかなり有限であるため、ゼロサムゲームの考え方で動作しています。
つまり、これが私たちの自然環境が破壊され、野生動物や気候やすべてに感染している理由です。また、人々が今気候を理解するために受け入れることを望まないことも部分的な理由ですが、それは人々が犠牲を払うことを要求し、人々はそれを望まないからです。
しかし、この根本的豊かさは異なることを意味します。 私たちは最終的に、それがノンゼロサムゲームのように感じられるような状況にいるでしょう。
その中でどのように入っていくでしょうか？病気について話しましょう。例を挙げましょう。私たちはワクチンを持っています、そして今、人々の中には、非常に簡単な例を挙げさせてください。水アクセス。これは今後10〜20年で大きな問題になるでしょう。それはすでに問題です。国々と世界のさまざまな貧しい地域、乾燥した地域でも、明らかに気候変動によって悪化しています。
私たちは水アクセスの解決策を持っています。それは淡水化です。 簡単です。海水がたくさんあります。ほとんどすべての国に海岸線があります。しかし問題は塩水だということです。しかし、非常に裕福な国、一部の国だけが淡水化を行っています。彼らの淡水問題の解決策として淡水化を使用します。しかし、それは多くのエネルギーを要します。しかし、エネルギーが本質的にゼロで、再生可能な無料のクリーンエネルギー、核融合のようなものがあれば、突然水アクセス問題を解決します。
川を誰がコントロールするか、それで何をするかは、今日ほど重要ではなくなります。水アクセスのようなもの、20年先を考えて、そのような解決策がなければ、あらゆる種類の紛争につながる可能性があります。おそらくそれが傾向です、特にさらなる気候変動を含めると、そのような例はたくさんあります。
海水から水素と酸素を分離するだけで、ロケット燃料を簡単に作ることができます。それは再びエネルギーです。これらの問題がAGI、AIによって解決されると感じていますか？そうすれば、私たちの見通しが変わり、私たちはそうなるでしょう。それが私が望んでいることです。それが私が望んでいることですが、それはまだ二次的な部分でしょう。
AGIは私たちに技術的に根本的豊かさの能力を与えます。 水アクセスのように。その後、偉大な哲学者や社会科学者が関与する必要があると思いますが、それは私たちの社会としての考え方をノンゼロサムにシフトさせることを期待します。根本的豊かさでさえ公平に分割するかどうかの問題はまだあります。もちろんそれが起こるべきことですが、人々がこのほぼ無限の原材料とエネルギーなどの供給があることを感じ始め、理解し始めると、はるかに可能性が高いと思います。
この革新を営利企業によって推進することが正しい方法だと思いますか？ その楽観的な高い地点に到達する可能性が最も高いのはそれを通じてですか？
現在の、資本主義または西側の民主的な種類のシステムは、これまでのところ進歩の最良の推進力であることが証明されていると思います。ですから、それは本当だと思います。
私の見解は、根本的豊かさとポストAGIのその段階に到達すると、経済学は価値とお金の概念さえも変わり始めるということです。 そして再び、経済学者がこれについてもっと一生懸命取り組んでいない理由がわかりません。おそらく彼らはそれがそれほど近いとは信じていないのでしょう？しかし、AGI科学者が本当にそうであるように彼らが本当にそうだとすれば、必要とされる多くの経済的新しい経済理論があると思います。
最後に一つ。 実際、これが非常に重要で大きな影響を与えることにあなたと同意しますが、私がそれについて書くとき、人工知能とそして起こっていることについて本当に怒っている人々から多くの反応をいつも得ます。あなたはそれを味わったことがありますか？多くの人々からそのプッシュバックと怒りを得ましたか？それはほとんど産業革命の人々のようです。
個人的にはそれをあまり見ていませんが、明らかにそれについて読んだり聞いたりしたことがあります。それは非常に理解できることです。大きな変化、大きな革命があるときはいつでもそれが何度も起こりました。産業革命と言いますが、これは少なくとも産業革命と同じくらい大きく、おそらくはるかに大きいでしょう。未知数があることに驚いて、それは怖いです。物事は変わるでしょう。
しかし一方で、私がAIを構築する理由の情熱について人々と話すとき、それは科学と医学と私たちの周りの世界の理解を進歩させることです。 そして人々に説明するとき、ここでは話すだけではありません。ここにAlphaFoldがあります、ノーベル賞受賞のブレークスルーで、医学と薬物発見を助けることができます。明らかに、私たちは今、それを薬物発見に拡張するためにIsomorphicでこれを行っており、あなたの家族を苦しめているかもしれないひどい病気を治すことができます。
突然、人々は、もちろんそれが必要だと言います。それが私たちの手の届くところにあるなら、それを持たないことは不道徳でしょう。 そして気候とエネルギーでも同じです、社会的問題の多くで。私たちが、私たちは今日社会が直面している多くの大きな課題があることを知っていることについて話しました。
そして私はよく言うのですが、AIのような革命的なものが他のそれらの課題を助けるためにやってこないとわかっていたら、私たちの未来を非常に心配するでしょう。 もちろん、それ自体も課題です。しかし、少なくとも私たちがそれを正しく行えば、実際に他の課題を助けることができるこれらの課題の一つです。
あなたの楽観主義が持続し、正当化されることを願っています。どうもありがとうございました。最善を尽くします。ありがとうございました。
コメント