4,151 文字
私たちは人工超知能を手に入れることになります。これは誇張ではありませんし、AIの他の問題から注意をそらすために作られたものでもありません。これは私たちが長い間信じてきたことなのです。5年から20年の間に、人工超知能のようなものを手に入れると思います。AIは、人類がこれまでに発明する最も強力な技術の一つ、いえ、最も強力な技術になるでしょう。私たちはそれらのリスクを非常に真剣に受け止める必要があり、研究を行う時間はあまり残されていません。
何か後悔していることはありますか。
私たちは非常に特別な場所にいます。スウェーデン王立科学アカデミーの建物です。ここはアルフレッド・ノーベルの遺志に従って、毎年物理学、化学、経済学のノーベル賞が授与される場所です。私たちは人工知能の父であり、物理学のノーベル賞受賞者であるジェフリー・ヒントンに質問をするためにここにいます。彼は自分が創造したものを後悔しているのでしょうか。
この記者会見とスウェーデン王立科学アカデミーへようこそ。そしてもちろん、私たちの受賞者に特別な歓迎を送ります。私はハンス・エランと申します。アカデミーの事務総長です。記者会見を開始いたします。どなたから始めたいでしょうか。
最初の質問はジェフリー・ヒントン教授にお聞きします。あなたは人工ニューラルネットワークの父と呼ばれています。今日のAI開発を見て、何か後悔していることはありますか。もし時間を巻き戻すことができるなら、これを行ったでしょうか。
後悔には二種類あります。罪悪感を伴う後悔、つまり何かをしたときに、その時点でやるべきではなかったと分かっていたのにやってしまった場合の後悔です。そのような後悔は一切ありません。同じ状況であれば、私は再び同じことをするでしょう。
しかし、私たちが思っていたよりも早く人工超知能を手に入れることになると思われるため、残念に思う部分があります。もっと早く安全性について考えていればよかったと思います。
ジェフリー・ヒントン教授とデミス・ハサビスに二番目の質問です。人間を超えるAIのようなものが存在すると深く信じていますか。もし私たちがこのレベルを達成したとしたら、それとも大手テック企業の巨大な会社のマーケティング手法なのでしょうか。
デミスと私の両方が、私たちは人工超知能を手に入れることになると信じています。これは誇張ではありませんし、AIの他の問題から注意をそらすために作られたものでもありません。これは私たちが長い間信じてきたことです。私はそれがもっと先のことだと思っていましたが、最近の開発の速度を見ると、かなり早く実現すると思います。私は5年から20年の間だと考えています。デミスは約10年で人工超知能のようなものを手に入れると考えており、その時点で私たちがどのようにコントロールを維持するかについて真剣に心配する必要があります。
ヒントン教授がおっしゃったことに同意します。実際、私たちが2010年にDeepMindを始めた時、このような知能を構築した場合に何が起こるかについて考え抜きました。もちろん、私の情熱は常に、今日見られるように科学的発見を助けるためのこれらのツールを構築することにあります。そして、そこから素晴らしいものが得られると思います。病気の治療法、エネルギーや気候に関する支援、今日人類が直面している多くの大きな課題に対してです。
しかし、私たちは常に、あらゆる強力な汎用技術に伴うリスクについても認識してきました。AIは、人類がこれまでに発明する最も強力な技術の一つ、いえ、最も強力な技術になると思います。ですから、私たちはそれらのリスクを非常に真剣に受け止める必要があり、システムの解釈やシステムの制御といったことについて考えるために必要な研究を行う時間はあまり残されていません。
しかし、これは技術的な問題だけでなく社会的な問題でもあります。これらのシステムを何に使いたいのか、どのように展開したいのか、そして全人類がこれらのシステムができることから恩恵を受けられるようにするにはどうすればよいのかという問題です。
会議では、今日の規制が人工知能の開発を停止させることができるかどうか、そしてこれがすべて利益に駆動されるものを含む大手テック企業の遍在する利益とどのように関係するかという特別な質問も提起されました。
まず指摘したい点は、AIの短期的な危険の一つが致命的自律兵器の開発であり、そこには規制が存在しないということです。例えばヨーロッパの規制を見れば、これらの規制はいずれもAIの軍事利用には適用されないという特別な条項があります。ですから、政府は致命的自律兵器に関しては自分たちを規制することを望んでいません。そして、アメリカ、中国、ロシア、イギリス、イスラエル、そしておそらくスウェーデンも含む主要な武器供給国の間で軍拡競争が行われています。ただし、スウェーデンについてはよく分かりませんが。
AIは規制すべき非常に重要な技術だと思いますが、規制を正しく行うことが非常に重要だと思います。そして、それが現在困難なことだと思います。これほど急速に動く技術であり、非常に速く進化しているため、数年前に規制について議論していたことは、今規制について考えていることとは異なります。
ですから、私が政府や市民社会に助言していることは、迅速で機敏な規制を行うこと、おそらく医療や交通などの既に規制が存在する領域の規制に基づいて構築し、技術がどのように発展するかを見てから、その発展に迅速に適応することです。
会議では、DeepMindの創設者であるデミス・ハサビスにも質問を投げかけました。今日の技術は差別をしているでしょうか。そして、差別をしないようにするために何ができるでしょうか。
そうですね、現在のモダンなAIは多くのリソース、特に計算リソースを必要とし、非常に高価です。しかし、それによって生産される多くのモデルは、その後オープンソースになったり、私たちが構築した多くのツールを含め、ほぼ誰でも使えるようにすぐに利用可能になります。ですから、技術の民主化が多く行われており、非常に迅速に普及していると思います。
AIは本当に強力なツールです。新しいタイプの顕微鏡のような、世界に関する情報を得る新しいタイプの方法のようなものです。しかし、私たちはそれを実験で確認し、以前と同じタイプの問題を解決するために使用します。今では取り組めそうに見える新しい問題さえあるかもしれません。ですから、将来のノーベル賞に現れる人々のプロセス内のステップとして、あるいはプロセスのメインステップとしてさえ、ますます多くのAIが現れるのを見ることになると思います。
しかし、彼らはAIを持ち込んだからといってノーベル賞を受賞するわけではありません。資金調達だけの問題ではなく、発見の問題であり、彼らは発見のために受賞するのです。そして願わくば、私が本当に楽しみにしているのは、例えばAlphaFoldや他のタンパク質構造予測ツールを使用することが、細胞がどのように機能するかについて何か新しいことを発見する決定的なステップだった人がここに立つことです。そして、彼らは細胞がどのように機能するかを知ったためにここに立っているのです。
AIは信じられないほど強力ですが、深層学習手法が本当に大規模で十分にキュレートされたデータセットを必要とすることを認識すべきです。私たち三人は本当に、何万人もの科学者による60年間の懸命な作業と、タンパク質構造を実験的に解決するための数百億ドルの投資から恩恵を受けました。ある意味で、私たちには何世代もの科学者がまとめた信じられないほどのリソースがあり、それが強力な深層学習手法をこれらの問題の解決に適用することを可能にしたのです。
ですから、AIと深層学習手法がより一般的に科学にどのように進歩していくかを考える上で、その一部は、他の分野でかなりの豊かさを持つデータセットがどの程度利用可能であるか、または生成されるかによると思います。例えば、生物学的複雑性の階段を上るにつれて、明らかに未解答の質問が膨大にあり、データセットもありますが、それらのデータセットが深さと豊かさにおいて本当に匹敵するかという問題があり、答えはおそらくノーです。ですから、手法だけでなく、データも本当に重要だと思います。
会議の後、私たちは化学のノーベル賞受賞者であるデビッド・ベイカーと会いました。間もなく私たちのチャンネルで会話全体をご覧いただけますが、今回は人工知能に焦点を当てた短い抜粋を共有しています。
今年のノーベル賞は、ノーベル委員会にとって人工知能、技術への何らかの賛辞だと思いますか。あなたはAIシステムを創造したDeepMindの共同創設者とノーベル賞を共有しています。記者会見では、AIの父であるジェフリー・ヒントンの隣に座っていました。この技術への賛辞だと思いますか。
確かに今年の賞は、AIが本当に多くの領域で与えている大きな影響の証だと思います。私の特定の分野では、彼らが引用したのは実際にはAI以前に私たちが行った作業でしたが、一方で、私たちがこの4年間開発してきた設計手法はすべてAI手法です。ですから、確かに今年は共通のテーマがあったと思います。
あなたの仕事には、より多くの人間性があるのでしょうか、それともより多くのコンピューターサイエンスがあるのでしょうか。
どちらでもあると思いますが、本当に設計というものは非常に人間的な活動です。なぜなら、どのような問題を解決したいかを決めなければならないからです。世界中から、ヨーロッパから、他の場所からも多くの人々が私のグループにやってきます。そして、彼らは気候変動について何かを行う、または病気を治すといった特定の問題を解決したいという情熱を持ってやってきます。
ですから、これは非常に人間的なことです。なぜなら、解決する必要がある問題は何か、新しいタンパク質を設計したい問題は何かを知っているのは人間だからです。コンピューターがそれを教えてくれることはありません。
コメント