10,122 文字
ほな、AI界のゴッドファーザー、ノーベル賞受賞者のジェフリー・ヒントンが、AI分野の自分の教え子の何人かをめっちゃ誇りに思うてるって話やねん。特にオープンAIからサム・オルトマンをクビにした奴のことやで。もっとAIの面白い話を聞きたいなら、チャンネル登録してな。
ジェフリー・ヒントンは、サム・オルトマンのリーダーシップをあんまり評価してへんのや。オルトマンは安全性より儲けを重視してるって言うてんねん。最初は誰のことか分からんかったけど、もちろんイリヤ・サツキーのことやったんや。2023年11月の感謝祭の頃、サム・オルトマンが3日間クビになった時の話やねん。イリヤ・サツキーと他の何人かの取締役が重要な役割を果たしたんや。
ジェフリー・ヒントンは、それが正しい判断やったって言うてるわけや。今、ヒントンが注目されてんのは、2024年のノーベル物理学賞を受賞したからなんやけど、物理学者の中には、ちょっと不満な人もおるみたいやね。だって、ヒントンはどっちかっていうとコンピューターサイエンスの人やからな。
ヒントンがAIに貢献した大きなアイデアの一つが、ニューラルネットワークやねん。今では、ニューラルネットワークがめっちゃ効果的に動いてるって分かってるけど、昔はそう思われへんかったんや。多くの人が、それは行き詰まりやって言うてたんやけど、ジェフリー・ヒントンだけが信じ続けたんや。
ヒントンは、人間の脳のニューラルネットワークをモデルにしたら、機械学習にも使えるって確信してたんやね。人間の脳のニューラルネットワークが知能を生み出すように、コンピューターにも同じことができると思ってたわけや。
ほな、ヒントンが言うてたことを聞いてみよか。
「まだちょっと信じられへんわ。カリフォルニアで朝の1時に電話がかかってきてん。出るべきか迷ったけど、誰から電話かけてきたんか見てみようと思って。ノーベル物理学賞をもらえるなんて、めっちゃびっくりしたわ。全然予想してへんかったからな。
この賞は、長年ニューラルネットワークに取り組んできた大勢の人たちの功績を認めてもらえたんやと思うわ。特に、二人の主要な指導者に感謝したいんや。一人はデイビッド・ルメルハートで、バックプロパゲーションのアルゴリズムを一緒に研究したんやけど、若くして脳の病気で亡くなってしもたんや。もし生きてたら、彼がここにおるはずやったんやけどな。
もう一人は同僚のテリー・シノウスキーで、1980年代にボルツマンマシンの研究を一緒にやって、脳のことをめっちゃ教えてくれたんや。
それから、学生たちにも感謝したいわ。私より頭のええ学生がたくさんおって、実際に物事を動かしてくれたんや。彼らは素晴らしいことをやり遂げてくれた。特に、私の学生の一人がサム・オルトマンをクビにしたことを誇りに思うてるわ。
ほんで、ヨシュア・ベンジオとヤン・ルカンにも感謝したいんや。彼らは親しい同僚で、この分野の発展に大きく貢献してくれたんや。
AIは、生産性を大幅に向上させて、みんなの生活をよくするんやないかと思うてるわ。特に医療の分野では、めっちゃ良いことがあると確信してるんや。
でも、心配なのは、悪いことにも使われる可能性があるってことや。特に、人間より賢いAIができた時、どうやってコントロールするんか、誰も分かってへんのや。どうやって破滅的なシナリオを避けられるんか、分からへんのや。だから、AIの安全性に関する研究が急務なんや。
優秀な若手研究者の多くがAIの安全性研究に取り組むべきやし、政府は大企業に対して、そのために必要な計算資源を提供するよう強制すべきやと思うわ。」
ほんで、ヒントンに「AIが人間より賢くなると思うか、そしてそれはどのくらいの速さで起こると思うか」って聞かれたんや。
「トップクラスの研究者の多くは、AIが人間より賢くなると信じてるわ。でも、そのタイムスケールについては意見が分かれるんや。多くの研究者は、これから20年以内に起こると考えてる。もっと早く起こると思う人もおれば、もっと時間がかかると思う人もおるけどな。でも、かなりの数の優秀な研究者が、これから20年以内にAIが人間より賢くなると考えてるんや。そうなった時、どうなるんか、しっかり考えんとあかんわ。」
次に、「学生や専門家が大規模言語モデル（LLM）に頼りすぎると、知能が低下する効果があると思うか、それとも私たちはより高次の知能で動作するようになるか」って聞かれたんや。
「知能が大幅に低下するとは思えへんわ。ポケット電卓が出た時と同じようなもんやと思うんや。子供たちが数学を学ばんようになる、掛け算ができんようになるって心配する人がおったけど、ポケット電卓があれば掛け算できんでもええやろ。
LLMも同じやと思うわ。人々は事実をあんまり覚えんようになるかもしれへん。LLMに聞けば分かるからな。でも、それで人々がより賢くなると思うわ。頭が悪くなるんとちゃうで。」
ほんで、ヒントンに「なぜそんなに驚いたんか」って聞かれたんや。
「全然物理学やないからや。ノミネートされてるなんて全然知らんかったわ。私は物理学者やないし、物理学にはめっちゃ敬意を払ってるんや。大学1年生の時に物理学をやめたんは、複雑な数学ができへんかったからや。だから、物理学の賞をもらえるなんて、めっちゃ驚いたわ。
ノーベル委員会が人工ニューラルネットの分野で大きな進歩があったって認めてくれたのは、すごくうれしいことやけどな。ホップフィールドの研究は物理学と密接に関係してたし、テリー・シノウスキーと一緒にやったボルツマンマシンの初期の研究も統計物理学からヒントを得てたんや。でも、最近の研究は物理学とあんまり関係ないからな。だから、物理学の賞をもらえるなんて、めっちゃ驚いたわ。」
次に、サム・オルトマンについての発言について詳しく説明してほしいって言われたんや。
「オープンAIは安全性を重視して設立されたんや。主な目的は、汎用人工知能を開発して、それが安全であることを確認することやった。私の元学生の一人、イリヤ・サツキーが主任科学者やったんや。でも、時間が経つにつれて、サム・オルトマンは安全性よりも利益を重視するようになってしもたんや。それは残念なことやと思うわ。」
ほんで、AIの不確実な未来と、その可能性や危険性をもっと理解する必要があるって話をしたあと、「政府がAIをもっと厳しく規制すべきだと思うか、政府はAI研究をどのようにサポートできるか」って聞かれたんや。
「政府は大企業に対して、もっと多くのリソースを安全性研究に使うよう促すべきやと思うわ。今はほとんどすべてのリソースがモデルの改良に使われてるんや。新しいモデルを作るのに必死で、モデルはどんどん良くなってる。それはええことやけど、それと同じくらいの努力をAIの安全性研究にも向けるべきやと思うわ。
今は1%くらいしか安全性研究に使われてへんけど、それを3分の1くらいにせなあかんと思うわ。AIが安全でなくなったら、それはめっちゃヤバいことになるからな。」
次に、ノーベル賞の賞金の使い方について聞かれたんや。
「特に決めてへんけど、チャリティに寄付するつもりや。一つは、神経多様性のある若者に仕事を提供するチャリティに寄付しようと思ってる。他のチャリティにも寄付するけど、まだどこにするか決めてへんわ。」
ほんで、「将来の重大な結果を防ぐための推奨事項」について聞かれたんや。これは、AIの使用に関して人々がどのように注意すべきかってことやね。
「個々の人がAIの使い方に気をつけても、問題は解決されへんと思うわ。AIを開発してる人たちが、開発の仕方に気をつけんとあかんのや。大企業がリソースを持ってるから、そこで研究せなあかんと思うわ。個々の人がAIをどう使うかは、あんまり大きな違いを生まへんと思うわ。」
最後に、「悪いことが起こる可能性のある大まかな分野」について聞かれたんや。
「AIにはいろんなリスクがあって、それぞれに違う解決策が必要やねん。今すぐのリスクとしては、偽の動画が選挙を乱すとかあるわ。もう政治家が偽の動画を使ったり、他の人が使ってるって非難したりしてるしな。偽の画像もあるし。
それから、サイバー攻撃のリスクもあるわ。去年は、フィッシング攻撃が1200%も増えたんや。大規模言語モデルのおかげで、フィッシング攻撃がめっちゃ簡単になったからや。もう、スペルミスや文法の間違いで見分けられへんようになってしもた。文章が完璧やからな。」
ジェフリー・ヒントンは、AIの長期的なリスクについてもっと詳しく話してほしかったんやけど、ちょっと物足りんかったな。でも、前に聞いた話やと、超知能が何らかの方法で生まれて、破滅的な結果をもたらす可能性があるって心配してるみたいやわ。例えば、全生命の絶滅とかな。
でも、それがどうやって起こるかを予測するのは難しいんや。だって、人類全体の知能を超えるような超知能が何をするか予測できへんからな。チェスの超AIを考えてみ。それが君に勝つのは分かってるけど、どんな手を使うかは全然分からへんやろ。なんでその手がええのかも説明できへんかもしれへん。
AIについて警告してる人たちが言いたいのは、そういうことなんや。超知能は、もしそれが我々に対抗しようと思ったら、我々全員に対処する方法を見つけられるってことや。我々には、それがどんな方法を使うか想像もつかへんかもしれへん。
だから、この「アライメント」って考え方がめっちゃ大事なんや。AIの目標が我々の目標と絶対に対立せんようにするにはどうしたらええか、ってことやな。AIに「目標」があるって言うと、AIが自分の欲求を持ってるみたいに聞こえるかもしれへんけど、そうやなくてもええんや。
我々が間違えたり、AIが何かを誤解したりして、AIが進む道が我々の望むものと一致せんようになる可能性があるってことやな。
他にも、「P1984」って呼ばれるシナリオもあるんや。これは、独裁政権が超知能AIを使って権力を握るってシナリオや。そうなったら、地球上で最後の独裁者になる可能性があるんや。権力を手放すのがめっちゃ難しくなるしおそらく不可能になるかもしれへんな。
個人的に気になんのは、破滅的なシナリオだけを話題にして、独裁的なシナリオについて触れへん人がおるってことや。「この破滅を避けるには、政府に全部任せるしかない」って言うけど、政府が間違いを犯さへんわけやないやろ。独裁的な影響力がAIを支配する可能性も考えんとあかんのやで。
だから、AIがヤバいことになる可能性は一つやなくて、いろんなパターンがあるってことを、少なくとも言及せなあかんと思うねん。自分の好きな理論だけを守ろうとして、他の危険を無視するんはアカンで。
この状況をもっと複雑にしてるのが、国家間の競争みたいなもんがあることやねん。例えば、アメリカは中国へのNVIDIAチップの輸出を制限しようとしてる。まあ、完全には止められへんけどな。
制限があると創造性が生まれるってことやな。最近、中国が光を使った新しいAGIチップを開発したって記事があったわ。以前より100万倍以上効率がええらしいで。
これは別の問題を提起するんや。例えば、みんなでAI研究を遅らせて、安全性に集中しようって合意したとするやろ。でも、もし一つの国が秘密裏にAI開発を続けたらどうなるんや？安全性の名目で他の国が研究を遅らせてる間に、その国だけが先に進んでしまうかもしれへん。これも潜在的なリスクやな。
別にこれが起こるって言うてるわけやないし、必ずしも悪いアイデアやとも思わへんけど、状況が複雑で明確な答えがないってことを言いたいんや。
次に、ヒントンに、当時の一般的な意見に反する信念を持ち続けた経験について聞いてるんや。ヒントンは長い間、ニューラルネットワークが機械学習を前進させる力を持ってると信じてたけど、他の人たちはそれを完全に諦めてたからな。
彼は自分のビジョンを信じ続けて、分野の他の人たちが行き詰まりやって言うてる時でも頑張り続けたんや。もしヒントンがおらんかったら、今のAIの進歩はなかったかもしれへん。ニューラルネットを使ったAIの進歩がこんなに進んでへんかったかもしれへんのや。
ヒントンは、科学界で興味が薄れてる時期でも人工ニューラルネットワークの研究を続けたことについて、教授や学生たちへのメッセージを聞かれたんや。
「私のメッセージはこうや。何かを信じてるなら、その信念が間違ってる理由が分かるまで諦めんといてな。よく、何かを信じてて、最終的にそれが間違ってる理由が分かることがあるやろ。でも、何かを信じていて、それが間違ってる理由が分からへん限り、それに取り組み続けるんや。
例えば、脳はどうにかして機能せなあかんやろ。だから、どうやって結合強度を学習して機能するのか、理解せなあかんのや。それを信じてる限り、続けるんや。ナンセンスやって人に言われても、なぜナンセンスなのか分からへんなら、気にせんでええんや。」
これ、昨日みんなに答えてもらったアンケートを思い出させるわ。「天才」っていうのは単に高い知能のことを意味するんか？って聞いたんや。
例えば、IQとか他の知能を測る指標があるとして、その数値が一定以上なら天才って呼ぶんか？それとも、天才は別の何かで、必ずしも知能とは関係ないんか？もちろん、天才になるには高い知能が必要かもしれへんけど、天才そのものは単に知能の関数やないかもしれへん。
脳の配線が特殊で、他の人にはできないことができる能力を持ってるのが天才かもしれへんな。
面白いことに、約60%の人が「天才は高い知能やなくて、何か珍しい認知能力やと思う」って答えたんや。20%が「天才は単に高い知能のことや」って答えて、8%が「その質問自体が間違ってる」って言うたんや。
これに関連して、Twitterで見た投稿が面白かったんや。「共感覚」っていう珍しい脳の状態があって、これは感覚が無意識に融合して、ほとんど第六感みたいになるらしいんや。つまり、普通の人にはない方法でニューロンが繋がって発火するってことやな。
彼らは「知的共感覚」っていう言葉を使ってた。これは、追加のニューロンが新しい方法で繋がることで、ほとんどの人間には持てない認知能力を持つようになるっていう考え方や。
この考え方によると、天才っていうのは、脳の特定の配線を指してて、その変な配線が、他の人には真似できない認知タスクを可能にするんやって。知能のスペクトル全体を見ても、他の人にはできへん認知タスクをこなせる能力を持ってるってことやな。
この考えは、「intelligence killed genius」っていうブログ記事から来てるんや。タイトルを訳すと「知能が天才を殺した」ってことやな。
記事はこんな風に始まるんや。「天才はどこに行ってしもたんや？知能っていう概念に殺されてしもたんや。天才レベルの仕事をするための最初の条件は、天才にしかできへんことをする勇気を持つことや。世界中の誰よりも自分が優れてるって内なる感覚を持つことやねん。」
知能っていう概念が、その感覚を殺してしまうんや。だって、どんなに頭がよくても、自分より頭のええ人がおるって分かってるからな。知能を数値で測れるとしたら、自分がX点やとして、誰かがX+20点の知能を持ってるかもしれへん。そう考えたら、その人の方が頭ええってことになるやろ。
このブログ記事は、こんなことを言うてるんや。「自分より頭のええ人がおるなら、世界で一番難しい問題に取り組んで世界を変えようとするのは意味がない。それは一番頭のええ人の仕事やろ。」
ただし、これは記事の筆者の意見やなくて、多くの天才がそう考えてしまうって指摘してるんや。自分より知能の高い人に会うたことがあるから、自分が世界一得意かもしれへん問題に挑戦せえへんってことやな。
記事の筆者はこう続けるんや。「私は世界で一番頭のええ人間である必要はない。私が天才やと思う人を何人か知ってるけど、彼らに天才やって言うたら、みんな『自分より頭のええ人がおるし、一つか二つのことにちょっと長けてるだけや』って言うんや。」
「でも、これこそが天才なんや！天才っていうのは、本当に大事なことを一つか二つ、めっちゃ上手にできることなんや。天才はビジョンを持つことなんや。天才は単に最高のGを持つことやないんや。」
ここでGっていうのは一般的な知能のことやな。「天才は、Gの右に5標準偏差ずれてるってことやないんや。天才は共感覚みたいなもんや。本来繋がるはずのない脳の部分が直接繋がってて、それがあんたの見方を完全に変えてしまう。でも、Gの右に2から4標準偏差ずれてるだけかもしれへん。」
「天才は完璧なことやない。バランスが取れてないことなんや。」
この考え方、なんとなく分かる気がするわ。AIの進歩で特に面白いのは、人間の脳についてもっと学べるかもしれへんってことやな。知能や天才について、もっと理解が深まるかもしれへん。今まで聞いたことのない新しい言葉や概念が生まれるかもしれへんな。いろんな認知能力や特技を表す言葉がね。
だから、ジェフリー・ヒントンの話を聞くのが面白いんや。AIのゴッドファーザーって呼ばれてる人やからな。いろんな理由があるけど、その一つが、多くの人が彼の研究は上手くいかへんって言うてた時も、諦めんかったってことや。
人間の脳をまねて機械の中に再現しようっていう考え、ニューラルネットの研究は行き詰まりやって言われてたんや。もしかしたら、その時に彼より頭のええ人もおったかもしれへん。でも、ヒントンは「いや、これを続けるで」って言うて、自分のやり方を貫いたんや。
もちろん、他にもたくさんの人が関わってるんやけどな。GoogleのTransformerアーキテクチャとか、他にもいっぱいあるわ。でも、ヒントンの粘り強さがあったからこそ、今のAIの爆発的な進歩があるんやと思うわ。
AIが人間の脳みたいなものを機械の中に作ることで発展するって、最初から決まってたわけやないんや。全然違うアプローチでAIが進歩する可能性もあったわけや。
だから、ジェフリー・ヒントンがノーベル賞をもらうたのは、めっちゃ賛成やわ。物理学者の中には不満な人もおるかもしれへんけど、ワイからしたら100%の支持や。
関連したニュースで、他にもノーベル賞の候補者や受賞者がおるんや。一番知られてるのは、デミス・ハサビスやな。Google DeepMindの創業者で現CEOやね。
デイビッド・ベイカー、デミス・ハサビス、ジョン・M・ジャンパーが2024年のノーベル化学賞を受賞したんや。ベイカーは計算機によるタンパク質設計で、ハサビスとジャンパーはタンパク質構造予測でそれぞれ受賞したんや。
DeepMindチームは、AIテクノロジーのすごい応用をどんどん発表してるんや。タンパク質の分野だけやなくてな。「プロテオミクス」っていう言葉をこれからよく聞くようになると思うわ。ゲノミクスっていう言葉は聞いたことあるやろ？人間のDNAを研究することやな。プロテオミクスは、タンパク質の構造と機能を解読することなんや。
AlphaFoldっていうのが大きなブレイクスルーやったんや。DeepMindが開発したAIモデルが、タンパク質の3D構造を予測できるようになったんや。タンパク質って、生命に関するあらゆることを可能にする小さな工場みたいなもんやねん。見ることも、消化することも、動くことも、呼吸することも、全部タンパク質のおかげなんや。
人間は、一部のタンパク質の構造を丁寧に解明してきたんや。X線結晶構造解析っていう方法を使ってな。これ、ブレイキング・バッドのウォルター・ホワイトが得意やったやつやで。
そうやって少しずつ、めっちゃお金かけてタンパク質の構造を解明して、それをAlphaFoldにデータとして与えたんや。そしたら、AlphaFoldは今まで構造が分からんかった新しいタンパク質の構造を予測するのがめっちゃ上手くなったんや。
これがハサビスとジャンパーが解決した「50年来の問題」ってやつや。タンパク質の複雑な構造、3D構造を予測する問題やな。
それからDeepMindは、AlphaProteinっていうのを開発して、さらに一歩進んだんや。これは、生物学や健康研究のために新しいタンパク質を生成するんや。オンデマンドでタンパク質をデザインするんや。
オンラインのTシャツプリント会社みたいなもんやな。「こんなTシャツが欲しい」って言うたら、その場でプリントしてくれるやろ？それをタンパク質でやるんや。ちょっと誇張してるけどな。
このDeepMindの新しいAIシステムは、目標分子に上手く結合するタンパク質をデザインできるんや。この「結合部位」っていうのが重要で、これによってタンパク質の機能をもっとコントロールできるようになるんや。
例えば、体の中にあるタンパク質があるとするやろ。このタンパク質の機能を変えたり、コントロールしたりするのは簡単やないんや。でも、AlphaProteinは、このターゲットタンパク質の結合部位にくっつく新しいタンパク質をデザインできるんや。これによって、ターゲットタンパク質に新しい機能を追加したり、コントロールしたりできるようになるんや。
例えば、がんやHIVのウイルス感染、慢性痛、自己免疫疾患なんかに関わるタンパク質に対して、こういうことができるんや。これ、めっちゃ大きな話やと思うわ。
生命のほとんどの機能は、タンパク質が担ってるんやからな。デミス・ハサビス自身も、インタビューで「この分野の進歩によって、今後10年から20年で病気を治せる可能性がある」って言うてるんや。
ハサビスは大げさなこと言う人やないねん。むしろ控えめな人や。それでも、10年から20年で全ての病気を治せる可能性があるって言うてるんや。
ワイはこの分野の専門家やないから、あんまり詳しいことは言えへんけど、めっちゃすごい話やと思うわ。老化の原因になるものの多くや、年を取るにつれて体が弱くなっていく原因の多くが、AIモデルが上手くなってデザインできるようになって、それを実際に作れるようになったら、どうなるんやろ？
寿命や健康、見た目や動き方をプログラムできるようになるんやないか？大げさなこと言いたくないけど、ワイはめっちゃワクワクしてるわ。
アミノ酸とタンパク質が生命の基本的な構成要素やとしたら、その構成要素をカスタムメイドで作れるようになったってことやろ？そしたら、作れへんもの、変えられへんもの、改善できへんものなんてあるんかな？
まあ、今日はこの辺にしておこうか。デイビッド・ベイカーとジョン・M・ジャンパーのことはあんまり詳しくないけど、デミス・ハサビスとジェフリー・ヒントンがノーベル賞にノミネートされて受賞したことには、ワイは大賛成や。めっちゃ嬉しいわ。
この人たち、人工知能の発展に大きな貢献をしたからな。面白いのは、ジェフリー・ヒントンが物理学賞を受賞したことに対して、ちょっと反発があったことやな。だってヒントンはどっちかっていうとコンピューターサイエンスの人やからな。
でも、これはめっちゃ面白い議論のきっかけになってるんや。ニューラルネットワークやAIモデルが進化して、いろんな分野に応用されて、どんどん科学や発見、イノベーション、進歩を生み出していくにつれて、誰に賞をあげるべきなんやろ？
AIモデル自体に賞をあげるってことは、まだないと思うわ。次の偉大な知性にバトンを渡すみたいなことは、まだ準備できてへんやろうしな。だから、モデルを作った人や、モデルの開発に一番貢献した人に賞をあげることになるんやろうな。
AIモデルが化学で大きな発見をしたら、そのニューラルネットワークをデザインした人に賞をあげる。AIモデルが物理学で大きな進歩や革新を起こしたら、そのモデルを作った人間に賞をあげることになるんやろうな。
これが今後の議論になってくるんや。今見てるのは、その議論の始まりやねん。まさに今、リアルタイムで目撃してるんや。生きてて良かったって感じやな。
次回は「マヨネーズは核融合のカギを握るのか？」について議論するで。まあ、多分そんな話はせえへんけどな。
チャンネル登録して、いいねボタンを押してな。そうすると、YouTubeの裏にあるニューラルネットワークに、このコンテンツをもっと多くの人にオススメしろって教えることになるんや。めっちゃありがたいわ。
ワイの名前はウェス・ロスや。ここまで見てくれてありがとう。みんな一人一人に感謝してるで。これからも面白いことがいっぱいあるで。楽しみにしててな。また次回会おな！
コメント