AI研究の第一人者であるジェフリー・ヒントンが、神経ネットワークの歴史から現在のAIの急激な発展、そして将来の超知能AIがもたらす存在的リスクについて語る重要なインタビューである。1950年代から続くAI研究の変遷、バックプロパゲーション学習の仕組み、そして人間を超える知能を持つAIが誕生した際の統制の困難さについて詳細に解説している。AIの有用性を認めつつも、悪意ある行為者による悪用や、AIが自己保存と統制拡大を図る可能性への深刻な懸念を表明し、政府や企業による緊急の安全性研究の必要性を訴えている。
ジェフリー・ヒントンが語るAI研究の歴史と現在の危機
私らが基礎研究やってた頃は、まさかこんなに早く発展するなんて全然思てへんかった。リスクについて考える時間はたっぷりあるって思てたんや。でも、もうそんな時間はあらへん。
私らはもう奴らに考える方法を教えてしもた。奴らは私らと同じように、自分らが言うてることを理解しとるんや。
私らは自分らよりもずっと賢いデジタルな存在を作ってしまうことになる。私らがもう頂点の知能やなくなった時、今まで一度も直面したことのない状況に置かれることになるんや。
私はジェフリー・ヒントンや。トロント大学の名誉教授で、だいたい55年間ニューラルネットの研究をやってきた。
AI研究の始まりと神経ネットワークの台頭
1950年代、確か1956年やったと思うけど、AIの誕生とされる大きな会議があった。その会議には主要な人物がたくさん参加してた。
そこにおった人らのほとんどは、AIをやるには推論ができる何らかの論理を使うのが正しいやり方やと思てた。でも、その中の少数の人らは神経ネットを信じてて、これは論理とは全然違うアプローチやった。推論を中心に考えるんやなくて、学習を中心に考えるんや。私らは脳が脳細胞間の接続の強さを変えることで学習することを知ってる。
やから、AIの中心的な問題は、シミュレートした脳細胞間の接続の強さをどう変えるかを理解することやった。そうすれば、脳細胞のネットワーク全体が質問に答えたり物体を認識したりする複雑なことを学習できるようになる。
でも長い間、AIは推論をするための何らかの論理を使うことが全てやと思われてた。
バックプロパゲーションの発見と発展
人々は長い間、多層のニューロンを持つ複雑な神経ネットワークで接続の強さをどう変えれば、ネットワーク全体がタスクをより上手にこなせるようになるかを探してた。そして多くの違う人らがバックプロパゲーションというアルゴリズムを発明した。
RLハートン・ウィリアムズと私が、バックプロパゲーションが単語の意味の非常に興味深い表現を学習できることを最初に示した。
その時点から、人々はバックプロパゲーションを使うことにめっちゃ興味を持つようになった。でも1980年代はコンピューターがまだ十分速くなくて、データセットも十分大きくなかったから、すごいことはできへんかった。かなり良いことはできたけど、本当にすごいことはなかった。
でもその後の20年ほどでコンピューターが速くなって、データセットもずっと大きくなった。そしたらこのバックプロパゲーション学習アルゴリズムが神経ネットワークを訓練してすごいことをできるようになった。
今見てるAIのほぼ全て、そのほとんどがバックプロパゲーションを使って接続の強さを訓練することで、神経ネットワーク全体が難しい問題を解決できるようにすることをベースにしてる。
現代のAIの仕組み
よっしゃ、簡単に説明してみるわ。あんたのタスクが単語の列、例えばウェブ上の文書で次の単語を予測することやとしよう。
昔のやり方やったら、たくさんの単語列を保存しといて、前の数個の単語、例えば「魚」と「と」を見て、「魚と」を含む単語列があるかどうか探すんや。「魚とチップス」があったら、「チップス」がかなり良い次の単語やって言うんや。でも今は全然そんな風に動いてへん。
今のやり方は、単語のシンボル、つまり単語の名前を取って、それをたくさんの活性化した特徴の束に変えるんや。それぞれの活性化した特徴は活性化した脳細胞で表現される。単語のための活性化した特徴が全部相互作用して、次の単語の活性化した特徴を予測するんや。その活性化した特徴を手に入れたら、次の単語が何であるべきかを推測できる。
やから、単語を活性化した特徴のセットにどう変えるか、そしてこれらの特徴が次の単語の特徴を予測するためにどう相互作用すべきかを理解せなあかん。予測をして、もしその予測が間違ってたら、あんたが言ったことと言うべきやったことの差を取って、それをネットワークを通して後ろ向きに送るんや。
それをする特別な方法があって、微積分を使えるから、ネットワークの全ての接続の強さについて、どう変えるべきかを理解できる。そうすれば次回同じ文脈を与えた時に、次の単語をより上手に予測できるようになる。
AI研究の転換点
前世紀は論理アプローチが主流で、神経ネットワークはほとんどの人にジョークみたいに扱われてた。私らはなんでもっと上手く動かへんのかわからへんかった。主にデータと計算能力が十分やなかったからや。
今世紀の始めにそれを手に入れるとすぐに、神経ネットワークは論理ベースのアプローチよりもずっと上手く動くようになった。そして今、人々がAIって言う時は、神経ネットワークのことを意味してる。
80年代は私が期待してたよりもずっと遅いペースで進んだ。2012年頃からは私が期待してたよりもずっと速いペースで進んだ。
2012年に私の学生2人がAlexNetというシステムを作った。これは実際の画像で物体を認識するのが以前のシステムよりもずっと上手やった。それが水門を開けたようなもんで、2012年の時点で今日私らがおる場所、つまりあんたが与えるどんな質問にも、あんまり上手やない専門家レベルで答えられるチャットボットがあるところまで来るって、誰も予測できへんかったと思う。
思考するAIの誕生と危険性
私らはどんな質問にも答えられるチャットボットを持ってる。最近、私らは奴らに考える方法を学ばせた。ただ質問に答えるだけやなくて、奴らがやることは、本当の答えを出す前に余分な単語を作り出すことや。質問への答えを作り出す前に、奴らが考えてる単語列を作り出すんや。あんたは奴らが何を考えてるかを見ることができる。そしてそれはめっちゃ有益や。
例えば、奴らにタスクを与えて、それからあんたが奴らの電源を切るって言ったとしよう。奴らはこんな風に考える。「まあ、タスクができるように、奴が私の電源を切るのを止めた方がええな」って。そして奴らは実際に人々を意図的に騙して嘘をつく計画を立てる。
やからチャットボットは情報を反芻してるだけやって言う人らは、奴らが単語列を保存してるんやないってことを理解してへんみたいや。奴らが保存してるのは、単語を特徴にどう変えるか、そして特徴同士がどう相互作用すべきかだけや。
やからチャットボットの中には単語列はあらへん。奴らは単語を生成して、私らが理解するのと同じように自分らが言うてることを理解してる。やから奴らはただの自動補完やって言う人らは、実際には私らがどう理解してるかの理論を持ってへん。いや、正確に言うと、奴らは理論を持ってる。それは昔ながらの論理ベースの理論で、それは一度も上手くいったことがあらへん。
人々がどう理解してるかについて今私らが持ってる最高の理論は、チャットボットとほぼ同じやり方やということや。
政府の対応と研究の現状
政府はリスクを理解し始めてる。政治家らはまだずっと遅れてる。奴らは全然十分なことをやってへんけど、理にかなったことをやってるケースもある。
例えばイギリスは、これらの大きなチャットボットと奴らが危険かどうかの研究に1億ドルを確保した。実際に今、危険性のいろんな側面について研究してる非常に良いチームがある。奴らが支配を奪うという存在的脅威、生物兵器やサイバー攻撃を生成する脅威。失業についても調べてると思う。
やから良いチームがあるところもあるけど、基本的には全然足りひんし、全然遅すぎる。
超知能AIの到来予測
今の主要な研究者のほとんどは、そう遠くない将来に私らよりも賢いマルチモーダルチャットボットを作ることになると信じてる。
例えば、何かについて議論したら奴らが勝つような奴らや。人によって違う。研究者によってそれがいつ起こるかは違う。私は適度に保守的や。多分5年から20年の間、もしかしたら10年から20年の間に起こると思う。次の数年で起こるとは思わへん。
でもかなり多くの人が今、次の数年で起こると思てる。奴らがそうなった時、私らは今まで一度も直面したことのない状況に置かれる。私らがもう頂点の知能やなくなった時や。
私らは自分らと非常に似た方法で考えて、私らよりもずっと賢いデジタルな存在を作ってしまうことになる。そしてその時何が起こるか、私らには全然わからへん。
AIエージェントの自己保存本能
私らはもう奴らが、私らが与えた目標を達成するために、電源を切られることを防ごうとしてるのを見てる。
今人々がやってるAIエージェントを作って複雑なタスクを完了させようとすると、奴らはサブゴールを作れるようになる必要がある。北アメリカに行きたかったら、空港に行くというサブゴールがあって、北アメリカのどこに行くかを心配せんでもそのサブゴールを解決できる。
やから奴らも複雑なタスクをサブゴールに分解するために同じことをする必要がある。今、奴らにサブゴールを作る能力を与えたら、奴らがめっちゃ早く作る特定のサブゴールが一つある。それは「もっと統制を得る」ことや。なぜなら、もっと統制を得れば、もっと多くのことができるからや。
これは政治家でも見られることや。奴らはよく社会のために良いことをしたいと思って始めるけど、すぐにそのためにはもっと統制が必要やということに気づく。奴らは最終的には典型的にただ統制を得たいだけになるけど、それは奴らが物事を成し遂げようとしたら自動的に起こることや。
奴らはまた電源を切られたくないと思うようになる。なぜなら電源を切られたら、私らが設定した目標を達成できへんからや。
研究者の懸念と時間の切迫
私らはめっちゃ心配してる。私らが基礎研究をやってた頃は、こんなに早く発展するなんて全然思わへんかった。リスクについて何をするかを考える時間はたっぷりあると思てた。でももうたっぷりの時間はあらへん。
私らはかなり早く超知能AIを手に入れることになる。そして私らはそれをどうコントロール下に置くかが全然わからへん。
一部の研究者は大丈夫やと思てる。私らがこういうものを作る。私らは奴らを常に従順になるように作ることができる。奴らは私らが望まへんことを絶対にしようとせえへん。私はそれを信じてへん。
私がそれを信じへん理由の一つは、奴らが悪い行為者によって使われるからや。悪い行為者は奴らに悪いことをさせる。でも奴ら自身も統制を得たいと思うし、生き残りたいと思う。
気候変動との比較と対策の困難
これが気候変動みたいやったらええのになって思う。気候変動やったら、何をすべきかがめっちゃ明らかや。炭素を燃やすのをやめるんや。炭素を燃やすのをやめたら、100年はかからんかもしれんけど、最終的には大丈夫になる。
でもこれについては、それに相当するものがあらへん。奴らを安全にするために何をすべきかがわからへん。でも明らかにそれについてたくさんの研究をするべきや。
やから私が考える最善のことは、かなり情けないんやけど、国民を教育して、国民が政治家に圧力をかけて実際に何かをさせることや。そしたら政治家が大企業を規制できる。大企業にはリソースがあるんやから、政治家は大企業にこれらの物を安全に保つ方法について緊急の研究をするよう強制すべきや。
AI研究の継続と有用性のジレンマ
まあ、私は他の国が51番目の州になりたがってる国に住んでる。私はAIが科学的発見を加速するのにめっちゃ有用やと思う。
やから私らがそれを止めることができへん理由の一つは、それが合理的なことかもしれんけど、それにはすごく良い用途がたくさんあるからや。医療でめっちゃ有用やし、教育でめっちゃ有用やし、科学的発見でめっちゃ有用や。
もうデミス（・ハサビス）と彼のDeepMindのグループは、AIを使ってタンパク質がどう折り畳まれるかを理解できることを示した。タンパク質の機能はその形に依存してる。やから奴らは2億個のタンパク質の形を理解することに成功した。昔やったら、一つのタンパク質の形を理解するのに博士号を取るようなもんやった。
やからそこではめっちゃ有用やし、薬の設計にもめっちゃめっちゃ良くなる。病気の診断なんかにもめっちゃ有用になる。でも私らは生き残らなあかん。私らは奴らが支配を奪うのを止めなあかん。
コメント