7,208 文字
今から5年から20年の間に、私たちより賢いAIが登場する可能性が高い、50%の確率であると思います。
私はカリフォルニアのホテルの部屋でほぼ眠っていて、ベッドサイドテーブルに携帯電話を裏返しにして音を消していました。たまたま横向きに寝ていて、電話が視界に入り、明るくなって振動し始めました。私はカリフォルニアにいて、知り合いのほとんどは東海岸にいるので、いったい誰が電話をかけてきたのだろうと思いました。
電話を取ると、認識できない長い電話番号があり、市外局番も国番号も分かりませんでした。そしてスウェーデンなまりの人が私がジェフリー・ヒントンかどうか尋ね、物理学のノーベル賞を受賞したと告げました。最初の反応は「ちょっと待って、私は物理学をやっていないのに」というものでした。これはいたずらかもしれないと思いました。しかし、彼の言っていることはとても筋が通っていて、そのあと他のスウェーデンなまりの人も出てきたので、本物だと確信しました。まあ、ある程度確信したというべきでしょう。
その後2、3日は、もしかして夢を見ているのではないかと思い、少し統計的な推論をしました。その推論はこうです。脳の働きを理解しようとしている心理学者が物理学のノーベル賞を受賞する確率はどれくらいか？まあ、200万分の1くらいでしょう。これはかなり寛大な見積もりです。一方、これが私の夢だとしたら、私がノーベル賞を受賞する確率はどれくらいか？まあ、2分の1くらいでしょう。
つまり、これが現実である確率より、夢である確率の方が100万倍高いということになります。若い頃に見る「空を飛ぶことができる」という夢のようなものかもしれないと思いました。空を飛ぶ素晴らしい夢を見て、目が覚めたら夢だったということがあります。そして1か月後、また空を飛ぶ夢を見て、以前に空を飛ぶ夢を見たけどそれは本当ではなかったことを思い出すけれど、今回は本物だと思う、あのような夢かもしれないと思いました。それで2、3日は目が覚めるのを待っていたような感じでした。まだ目は覚めていませんが。
学問的に成功するプレッシャーがたくさんあったので、私は非常に早い時期から、成功した学者にならなければならないということを知っていました。高校時代の友人がいて、彼はいつも私よりずっと頭が良かったのですが、16歳か17歳くらいのとき、ある日学校に来て、脳の記憶についてと、それがホログラムと同じように脳全体に分散している可能性について話し始めました。ホログラムはちょうどそのころ、1965年頃に発明されたばかりでした。
彼はラシュリーという心理学者の、記憶は多くのニューロンに分散しているという考え方に非常に興味を持ちました。私もそれに大変興味を持ち、それ以来ずっと脳がどのように機能するかについて考えてきました。
AIのリスクには基本的に2種類あります。比較的短期的なリスクがあり、これは非常に重要で緊急性が高いです。これらは主に人々がAIを誤用することに関連しています。つまり、人間がまだ管理していますが、誤用しているということです。
リスクには、多くの仕事が取って代わられ、貧富の格差が拡大するようなことが含まれます。AIを使って生産性が向上しても、それが平等に共有されないからです。ある人々は仕事を失い、別の人々は金持ちになります。これは社会にとって悪いことで、一種のリスクです。これについてどうすべきか考える必要がありますが、何をすべきかは明確ではありません。
もう一つのリスクはフェイク動画で、それらは社会を腐敗させます。すでにそれは行われています。さらに別のリスクはサイバー攻撃で、悪意のある行為者が大規模なAIモデルを使ってより良い攻撃を仕掛けることです。最初はより良いフィッシング詐欺のためで、昨年フィッシング攻撃は1200%増加しました。おそらく大規模な言語モデルによってそれらがはるかに効果的になったからでしょう。
それから、新型コロナウイルスのようなものの設計もあります。AIを使えばそれをはるかに効率的に行うことができ、そのようなものを設計することはすぐに比較的容易になります。これは一人の狂った人間が無限の混乱を引き起こす可能性があることを意味します。大規模なモデルの重みを公開すると、それを取得して微調整できるようになるので、さらに簡単になります。人々は今大規模モデルの重みを公開していますが、これは狂気の沙汰だと思います。
他の短期的なリスクもあります。明らかに差別やバイアスのようなものがあります。例えば、囚人が仮釈放を受けるべきかどうかを決定するモデルをトレーニングするとします。歴史的なデータが白人の囚人は仮釈放を受け、黒人の囚人は受けないというものであれば、そのような歴史的データでAIモデルをトレーニングすると、同じことを言うでしょう。
私は他の人ほどそれを心配していません。なぜなら、AIモデルでは重みを凍結し、差別を測定することができるからです。これは人間ではできないことです。人間の差別を測定しようとすると、彼らは測定されていることに気づき、測定されているときに違う行動をするというフォルクスワーゲン効果が生じます。
私は実際、差別やバイアスについては、人間よりもAIシステムでの方がはるかに測定しやすいと思います。私たちの目標は、差別せず、バイアスのないものを作ることではなく、それらが置き換えるシステムよりもはるかに少ない差別とはるかに少ないバイアスを持つものを作ることであるべきだと思います。これは非常に重要な問題ですが、進歩できることが比較的明確な分野です。これが短期的な問題です。
また、これらのものが乗っ取るという長期的な問題もあります。私たちがしていることは、自分たち自身よりも知的なものを作っているということです。研究者によってそれがいつ起こるかについては意見が分かれていますが、主要な研究者の間では、もちろん自分たちで自滅しない限り、それが起こるという事実についてはほとんど意見の相違がありません。
問題は、私たちが自分たちよりも知的な存在を作ったとき、何が起こるかということです。私たちはそれが何をもたらすか分かりません。私たちはこれまでそのような状況にあったことがありません。すべてうまくいくと言う人は狂っています。そして彼らが必然的に乗っ取ると言う人も同様に狂っています。私たちは本当に分かりませんが、本当に分からないからこそ、私たちが自分たちより知的なものをコントロールし続けられるかどうかについて、今基礎研究をたくさん行うことは理にかなっています。
より知的なものがより知的でないものによってコントロールされている例はあまりありません。私が知っている唯一の良い例は、赤ちゃんが母親をコントロールするというものです。知性にそれほど大きな差はなく、進化はそれを実現するために多くの努力を費やさなければなりませんでした。赤ちゃんが母親をコントロールできることは非常に重要ですが、全体的に見れば、より知的なものがより知的でないものによってコントロールされることはありません。
一部の人々は、私たちがそれらを作り、常にコントロールできるような方法で構築するからうまくいくと考えていますが、これらのものは知的で、私たちのようになります。実際、彼らの働き方は私たちの働き方と非常に似ています。彼らはコンピュータコードのようなものではありません。人々は時々それらをコンピュータプログラムと呼びますが、それらはまったくコンピュータプログラムではありません。ニューラルネットワークが学習する方法を教えるコンピュータプログラムを書きますが、一度学習を始めると、それはデータから構造を抽出し、最終的に得られるシステムはデータから構造を抽出したものです。それは誰かがプログラムしたものではありません。
私たちは正確にそれがどのように機能するか知らず、それは私たちのようになります。これらのプログラム、というかシステムを合理的な方法で動作させることは、子供を合理的な方法で行動させることとよく似ています。実際に持っているコントロールは、良い行動を強化したり、悪い行動を罰したりすることができることです。しかし、持っている主なコントロールは、良い行動を示し、良い行動でトレーニングすることです。それが観察するものであり、模倣するものです。これらのシステムも同じで、私たちがそれらに見たいと思う種類の行動でトレーニングすることが非常に重要です。
現在、大きなチャットボットは入手可能なすべてのデータでトレーニングされていますが、それには連続殺人犯の日記のようなものも含まれています。もし子供を育てているなら、連続殺人犯の日記で読み方を学ばせるでしょうか？それが悪い考えだとわかるでしょう。
私たちが本当に知らないのはそれです。私の推測では、今から5年から20年の間に、私たちより賢いAIが登場する可能性が高い、50%の確率があると思います。もっと長くなるかもしれませんし、もっと短くなる可能性もわずかにあります。しかし20年以内には起こる可能性が高いと思います。他の研究者はもっと短いか長いと考えています。それが私の推測です。実際、それは1年前の私の推測でした。なので今の推測は4年から19年の間でしょう。
どの分野にいるか、そしてその分野の標準とは非常に異なることをしようとしているかどうかによって異なると思います。ニューラルネットワークは長い間、ばかげたものとみなされ、多くの人々にとってそれらが決して機能しないことは明らかでした。そのような分野で働くためには、他の全ての人があなたが間違っていると言っても、あなたが正しいという自信を持つ必要があります。
私が非常に若かったとき、助けになったことが実際に2つありました。1つは、無神論者だった私の両親が7歳のときからキリスト教の学校、キリスト教の私立学校に私を送ったことです。学校の全員が神を信じていました。教師も他の子供たちも神を信じていましたが、私にはそれは明らかにナンセンスに思えました。結局私が正しかったのです。周りの全ての人が一つのことを信じていて、あなたにはそれが間違っていることが明らかで、そして年を取るにつれて、他にも神を信じない人がいることが分かる、そのような経験は非常に役立ちました。
それは、ほぼ全てのコンピュータサイエンスの人々がニューラルネットワークはナンセンスだと言ったとき、私が続けられた助けとなった一つのことでした。全員ではありませんでしたが、ほぼ全員でした。
もう一つあまり話したことのない経験は、私が9歳くらいのとき、父と一緒に大陸移動についてのラジオ番組を聞いたことです。その時点で、大陸が移動するかどうかについて多くの論争がありました。ほぼ全ての地質学者はそれを完全なナンセンスだと考えていました。
この理論は最初に1920年頃、ヴェーゲナーという気候学者によって導入されました。彼は大陸が移動するという多くの証拠を持っていましたが、彼は地質学者ではなく、地質学者たちはこれを完全なナンセンスだと考えていました。彼らはそれを否定し、例えば教科書に載せることを拒否しました。それは学生を誤解させるだけだと言い、完全なナンセンスだと主張しました。
そこで私は、ほぼ全ての地質学者によって完全なナンセンスとみなされ、結局正しかった理論についての議論を見ました。それも非常に役立ちました。実際、ニューラルネットワークで起こったことは、大陸移動で起こったことと最も似ています。大陸移動では、南アメリカがアフリカの脇の下にぴったり合うという考えがありましたが、それだけでなく、アメリカの海岸線沿いの土壌タイプが全て、ノルウェーから南アフリカまでの土壌タイプと一致していました。
化石も繋がっていましたし、熱帯地域の岩には氷河の擦り傷があり、北極には石炭の堆積物がありました。大陸が移動したという証拠は全てありましたが、地質学者はそれを完全に却下しました。彼らは地球が動いたとは信じられなかったのです。
ニューラルネットワークも同じでした。私たちは脳を持っているので、ニューラルネットワークが複雑なことを学習できなければならないという証拠がありました。しかしAIの分野のほとんどの人々は、ニューラルネットワークを使って全てを学習させようとすると絶望的だと言いました。知識は生得的でなければならないか、記号的なルールを学ぶことによってそれをしなければならないと言い、彼らは基本的にニューラルネットワークの論文を自分たちのジャーナルに発表することを許可しませんでした。
それは非常に似たパラダイムシフトでした。そして今、ほぼ完全なパラダイムシフトが起こりました。
私がアドバイスをする良い立場にいるかどうかは分かりませんが、通常私が与えるアドバイスは、あなたがアイデアを持っていて、それがあなたにとって正しいと思え、他の全ての人が信じていることと異なる場合、それが間違っている理由を理解するまであきらめないでください、というものです。そのようなほとんどのアイデアでは、あなたは間違っています。考えていなかったことや理解していなかったことがあります。
非常にまれに、他の人が信じていることと異なり、正しいアイデアを持つことがあります。あなたがそれが間違っている理由を発見するまでその信念を続けない限り、それを発見することはできません。そして他の人が言うことは無視すべきです。私は他の人が言うことを無視するのがとても上手です。
科学者は政治家や一般の人々よりもこの技術についてずっと良く理解していると思います。科学者の間でもまだ意見の相違がありますが。全ての証拠が彼らが言っていることを理解していることを示しているにもかかわらず、これらの大きなチャットボットは本当に自分たちが言っていることを理解していないと言う科学者もいます。単なる統計的なトリックだと言う科学者もいます。
私はもっと早くこの存在的脅威について懸念すべきだったと思います。私はいつも超知能はまだ遠い先のことで、後で心配すればいいと思っていました。今の問題はただものをより知的にすることだけでした。もっと早く何が起こるかについて考えておくべきだったと思います。
1950年代初頭のチューリングに戻ると、彼は私たちより賢いものを作ることについて語っています。そして彼は約1文で「もちろん、彼らが私たちより賢くなれば、私たちは終わりだ」と言っています。彼はそのようには言いませんが、それを暗示しています。しかし、ほとんどの人はそれが近づくまでその問題について考えません。問題は今それが近いということです。だから私はもっと早くそれについて考えるべきだったと思います。
賞金の半分、私の分け前の半分は、先住民コミュニティに住む人々に安全な飲料水を生産する技術のトレーニングを行うカナダの組織に寄付しました。それは良いことで、それらの人々はコミュニティに留まり、安全な飲料水を持つことになります。カナダのような豊かな国で、例えばオンタリオ州で20%の先住民コミュニティが安全な飲料水を持っていないのは馬鹿げています。それは単に狂っています。
私はこの問題に共感しているのは、ペルーで子供を養子にして、そこに2ヶ月いたことがあり、そこでは水道水は飲めません。毒です。そのため、あなたの生活全体が安全な水をどうやって手に入れるかということを中心に回ります。それは日常生活に大きな負担をかけます。カナダの人々がそれに苦しまなければならないのは狂っています。それで私はその半分をそれに寄付しました。
もう半分については、1980年代に私はテリー・セジノウスキーという人と一緒に働いていました。彼は実際はホップフィールドの学生だったのですが、ボルツマンマシンの理論について、私たちは平等に働きました。私は彼と話していなければその理論を持っていなかったでしょうし、彼も私と話していなければそれを持っていなかったでしょう。彼はもともと物理学者で、その後神経科学に進みました。
私たちはこれが脳の働き方に違いないと思いました。それはとても優雅な学習アルゴリズムだったので、それが脳の働き方である必要があると確信していました。だから私たちは脳の働き方を発見したことで生理学または医学のノーベル賞を受賞するかもしれないと思いました。
そして私たちは1980年代に、もし彼らが私たちの一人に与え、もう一人に与えなかった場合は分け合うという合意をしていました。だから彼らが私に全く予想外にノーベル賞を与え、その理由の一つがボルツマンマシンだったとき、私はテリーに連絡して彼の半分をどこに送ればいいか聞きました。
彼は「いや、それはただボルツマンマシンだけではなく、彼がそれほど関わっていなかったその後の他のものも理由だったので、正しいとは感じない」と言いました。そのため彼はお金を受け取ることを拒否しました。最終的に私たちは妥協して、私の分け前の半分を取り、彼の名前で若い研究者のための賞を設立することにしました。それは私たちのような狂ったような脳の働き方の理論を持つ若い研究者のためのものになります。それは私たちの分野の年次会議で授与されます。それは良い妥協のように思えました。
彼は簡単にノーベル賞で指名された3人目の人物になれたと思います。彼はそうではありませんでした。私はそれについて不平を言っているわけではありませんが、彼はそうなれたでしょう。しかしこれは彼が大きな貢献をしたことを認める方法です。
コメント