2024年ノーベル物理学賞を受賞したジェフリー・ヒントン教授が、オーストラリアのホバートで行った唯一の公開講演である。ヒントン教授は、ニューラルネットワークと深層学習に関する自身の先駆的研究について解説し、現代のAI技術の基盤となった1985年の画期的なモデルから、GPT-5などの大規模言語モデルへの発展までを詳述している。講演では、AIがどのように言語を理解し、人間の脳と類似した方法で動作するのかを説明した後、デジタルAIと生物学的知能の根本的な違い、特に「不死性」と知識共有能力について論じている。そして今後20年以内に人間よりはるかに賢い超知能が出現する可能性が高いとし、それが人類にもたらす実存的リスクについて警鐘を鳴らしている。特に、超知能AIが自己保存と権力獲得という副次目標を自然に発展させることの危険性を指摘し、人類が生き残るための最良の希望として、AIを「母親のような存在」として設計する、つまりAIが人間を心から気にかけ、人間の潜在能力の実現を最優先する存在にすることを提案している。また、国際的なAI安全研究所ネットワークの設立を通じて、各国が協力してAIの乗っ取りを防ぐ方法を研究することの重要性を強調している。
講演の開始とイントロダクション
皆さん、こんにちは。お集まりいただきありがとうございます。私をご存じない方のために自己紹介しますと、私の名前はアナ・レイノルズと申しまして、ホバート市長を務めております。ジェフリー・ヒントン教授のお話を伺えるこの素晴らしい機会に皆様をお迎えできることを大変嬉しく思います。これはオーストラリアにとって本当にユニークな機会です。なぜなら、ジェフリー教授がこの地域を訪問中に行う唯一の講演会だからです。
私たちは自らをオーストラリアの科学都市と考えています。大きな主張ですが、私たちはそう名乗ることを好んでいます。ですから、ジェフリー教授がオーストラリアで唯一の講演をここで行ってくださることは素晴らしいことです。始める前に、この土地を認識したいと思います。この場所の深い歴史と文化を認識し、4万年以上にわたってこの土地を守り保護してきた伝統的な管理者であるムアニナの人々を認めます。タスマニアのルチタに住むパラワの人々の決意と回復力を認識し、アボリジニの知識と文化的実践の継続的な強さから私たちが学ぶべきことがたくさんあることを認めます。
また、本日ここにいらっしゃる選出された代表者の方々にも感謝申し上げます。タスマニア州科学大臣のマリーン・オグルビー氏、そして3人の議会同僚であるビル・ハーヴェイ議員、マイク・ダッター議員、ルイーズ・ブルームフィールド議員がいらっしゃいます。
先ほど申し上げたように、私たちは2024年にニューラルネットワークと深層学習に関する画期的な研究でノーベル物理学賞を受賞されたジェフリー・ヒントン教授をお迎えできることを大変光栄に思っています。これらの貢献が、今日私たちが目にする高度な人工知能への道を切り開きました。この公開講演の一環として、ヒントン教授はAIの世界、それがどのように機能するか、それが提示するリスク、そして人類がますます強力で潜在的に超知能的なシステムとどのように共存できるかについて探究されます。
講演の後、皆様からの質疑応答の時間を設けます。それでは、ヒントン教授を舞台にお迎えするために、皆様で拍手をお願いします。
知能に関する二つのパラダイム
ホバートに来られて大変嬉しく思います。ここの自然環境がこれほど美しいとは気づいていませんでした。後ろの方で画面が読めなくても心配しないでください。スライドに書かれていることはほぼすべてお話しします。スライドは、あなた方のためというよりも、私が何を言うべきかを思い出させるためのものです。
過去60年間、おそらく70年間、知能には二つのパラダイムがありました。一つのパラダイムは論理に触発されたものです。人々は知能の本質は推論だと考えました。そして推論を行う方法は、特別な論理言語で書かれた記号表現を持ち、それらを操作して新しい記号表現を導き出すというものでした。数学でやるのとまったく同じです。方程式があり、それを操作して新しい方程式を得る。すべてがそのように機能しなければならないと考えました。そして彼らは、知識を表現するこの言語が何であるかを理解しなければならないと考えました。知覚や学習、手の制御方法などの研究は後回しでよい。まず、知識を表現する特別な言語を理解しなければならない、と。
もう一つのアプローチは生物学的に触発されたアプローチで、こう言いました。私たちが知っている唯一の知的なものは脳です。そして脳の働き方は、脳細胞間の接続の強度を学習することです。複雑な問題を解決したい場合、たくさん練習します。練習している間に、その問題を解くのが上手になるまで、これらの接続の強度を学習します。だから私たちは、それがどのように機能するかを理解しなければなりません。学習とニューラルネットワークが脳細胞間の接続の強度をどのように学習するかに焦点を当てる必要があります。推論については後で心配すればよい。進化論的に見ても、推論は非常に遅く現れました。私たちはもっと生物学的でなければならず、基本的なシステムがどのようなものかを考える必要があります。
言葉の意味に関する二つの理論
これら二つのイデオロギーには、単語の意味に関する二つの非常に異なる理論がありました。シンボリックAIの人々とほとんどの言語学者は、単語の意味は他の単語との関係から来ると考えました。つまり、意味はその単語と他の単語を組み合わせた文や命題の束に暗黙的に含まれているというものです。それは、ある単語が別の単語とどのように関連するかを示す関係グラフで捉えることができます。しかし、それが意味なのです。記号間の関係に暗黙的に含まれているものです。
心理学者、特に1930年代の心理学者は、まったく異なる意味理論を持っていました。少なくともまったく異なるように見える理論です。単語の意味は単に膨大な特徴の束だというものです。猫という単語の意味は、ペットである、捕食者である、よそよそしい、ひげがあるなど、膨大な特徴の束であり、それが猫という単語の意味です。これは全く異なる意味理論に見えます。
心理学者がこれを好んだのは、特徴を脳細胞で表現できるからです。脳細胞が活性化しているときはその特徴が存在することを意味し、沈黙しているときはその特徴が存在しないことを意味します。猫の場合、ひげがあることを表す脳細胞が活性化するわけです。
二つの理論の統一
1985年、つまり40年前に、実はこれら二つの理論を統一できることに気づきました。まったく異なるように見えますが、実際には同じコインの両面なのです。その方法は、ニューラルネットワークを使用して各単語の特徴セットを実際に学習させることです。心理学者は、これらすべての特徴がどこから来るのかを説明できたことがありませんでした。
その方法は、いくつかの単語列を取り、ニューラルネットワークを訓練して次の単語を予測させることです。そうすることで、ニューラルネットワークが行うことは、単語記号を表すものから、単語の特徴を表す多数の脳細胞やニューロンへの接続を学習することです。つまり、記号を特徴の束に変換する方法を学習します。また、文脈内のすべての単語の特徴が、次の単語の特徴を予測するためにどのように相互作用すべきかも学習します。
これが、現在人々が使用している大規模言語モデルすべての動作原理です。膨大な量のテキストを取り、大きなニューラルネットワークを使用して、これまでに見た単語を前提に次の単語を予測しようとします。そうすることで、単語を大きな特徴セットに変換する方法を学習し、それらの特徴が次の単語の特徴を予測するためにどのように相互作用すべきかを学習します。これは、関係的知識が、保存する文の束に存在するのではなく、単語を特徴に変換する方法と、それらの特徴がどのように相互作用すべきかに存在することを意味します。
現在使用されている大きなニューラルネットワーク、大規模言語モデルは、実際には単語列を一切保存していません。文を保存していません。彼らのすべての知識は、単語を特徴に変換する方法と、特徴がどのように相互作用すべきかにあります。ほとんどの言語学者が考えているようなものではまったくありません。ほとんどの言語学者は、何らかの形で多くの単語列を持ち、それらを組み合わせて新しい単語列を得ると考えています。そういう仕組みではまったくありません。
モデルの発展と受容
私はこのモデルを機能させ、その後30年間で徐々にシンボリック派の人々に浸透していきました。約10年後、ジョシュア・ベンジオという同僚が、コンピューターが今や約1000倍高速になった時点で、私が使った小さな例が非常に単純な領域でしか機能しなかったものを、実際の言語に対して機能させることができることを示しました。
あちこちから英語の文を取り、いくつかの単語を入力して次の単語を予測するようにニューラルネットワークを訓練することができます。そのように訓練すると、以前の最良の技術とほぼ同じくらい、次の単語の予測が非常に得意になります。そして、意味を捉える特徴に単語を変換する方法を学習します。
その約10年後、言語学者たちはついに、単語の意味を大きな特徴の束で表現したいということを受け入れました。そして、そうすることでモデルをより良く機能させ始めました。さらにその約10年後、Googleの研究者がトランスフォーマーと呼ばれるものを発明し、特徴間のより複雑な相互作用を可能にしました。
トランスフォーマーを使用すると、英語をはるかによくモデル化できます。次の単語の予測がはるかに上手になります。そして、これがすべての大規模言語モデルが今基づいているものです。ChatGPTのようなものは、Googleで発明されたトランスフォーマーと少しの追加訓練を使用し、そして全世界がこれらのモデルができることを見ることができました。
ですから、大規模言語モデルは1985年のその小さなモデルの子孫として見ることができます。彼らははるかに多くの異なる単語を使用します。多くのニューロン層を持っています。なぜなら、mayのような曖昧な単語を扱わなければならないからです。mayという単語を取ると、それは月かもしれないし、女性の名前かもしれないし、wouldやshouldのような法助動詞かもしれません。単語からは何なのか分かりません。
最初、ニューラルネットワークは曖昧な賭けをして、それらすべての意味の平均のようなものにします。そして層を通過するにつれて、文脈内の他の単語との相互作用を使用して、徐々に意味を整理していきます。近くにJuneやAprilが見られれば、それでも女性の名前である可能性はありますが、月である可能性がはるかに高くなります。ニューラルネットワークはその情報を使用して、その文脈におけるその単語の適切な意味に徐々に意味を整理します。
モデルの本来の目的
私は当初、このモデルを言語技術としてではなく、人々が単語の意味をどのように理解するか、子供がわずかな例から単語の意味をどのように学習できるかを理解しようとする方法として設計しました。したがって、これらのニューラルネット言語モデルは、人々がどのように機能するかのモデルとして設計されました。技術のためではありません。今では非常に成功した技術になりましたが、人々も基本的に同じように機能します。
ですから、これらのLLMは本当に自分が言っていることを理解しているのか、という人々がしばしば提起する質問に対する答えは、はい、です。彼らは自分が言っていることを理解しており、生成しているものを理解しており、私たちと同じ方法で理解しています。
理解とは何か—レゴブロックの比喩
言語がどのように機能するか、というよりも、文を理解するとはどういうことかを説明するために、類推をお見せします。あなたは文を聞いて、それを理解します。しかし、それはどういう意味でしょうか。
シンボリックAIのパラダイムでは、人々はそれがフランス語の文を聞いて理解するようなものだと考えました。私がフランス語の文を理解することは、それを英語に翻訳することで成り立ちます。シンボリック派の人々は、英語の文を理解することは、論理や数学のような、曖昧さのない特別な内部言語に翻訳することを意味すると考えました。その内部の曖昧さのない言語になったら、数学で方程式があり、新しい方程式を得るために規則を適用できるのとよく似た方法で、規則を使ってそれを操作できます。両辺に2を加えれば、新しい方程式が得られます。彼らは知能と推論がそのように機能すると考えました。頭の中に記号表現があり、それに操作を適用して新しい記号表現を得る。それが理解だとは限りません。
実際に機能するニューラルネット理論によれば、単語はレゴブロックのようなものです。このレゴブロックとの類推を使いますが、単語は4つの点でレゴブロックと異なります。
最初の違いは、レゴブロックは三次元のものだということです。レゴブロックを使えば、あらゆる3D物質分布のモデルを作ることができます。完全に正確ではありませんが、ポルシェの形を知りたければ、レゴブロックで作ることができます。表面は正しくありませんが、物質がどこにあるかは基本的に正しいでしょう。レゴブロックを使えば、ある解像度まで、あらゆる3D物質分布をモデル化できます。
単語を使えば、何でもモデル化できます。3Dの物質がどこにあるかだけをモデル化するのではない、非常に洗練されたレゴブロックのようなものです。私たちが発明したこの素晴らしいモデリングキットがあります。だから私たちは特別なサルなのです。このモデリングキットを持っているからです。
単語には数千の次元があります。レゴブロックは単なる三次元のもので、回転させることはできますが、少し拡大できるかもしれませんが、基本的に低次元です。単語には数千の次元があります。さて、ほとんどの人は数千の次元を持つものがどのようなものか想像できません。そこで、こうやってください。三次元のものを想像し、自分に向かって「千」と大声で言います。さて、それがあなたができる最善のことです。
単語がレゴブロックと異なるもう一つの方法は、何千もの異なる種類の単語があることです。レゴブロックはここにある種類がわずかしかありません。異なる種類のサイズがあり、各種類の単語には独自の名前があり、それはコミュニケーションに非常に役立ちます。
それらが異なるもう一つの方法は、硬い形ではないということです。レゴブロックは硬い形です。単語には大まかな近似形状があります。いくつかの単語にはいくつかの大まかな近似形状があり、曖昧なものですが、曖昧でない単語には大まかな近似形状がありますが、その後、文脈に合わせて変形します。
つまり、これらは高次元の変形可能なレゴブロックです。そして、それらが異なる最後の方法は、それらがどのように組み合わさるかです。レゴブロックには、小さなプラスチックの穴にカチッとはまる小さなプラスチックの円筒があります。それがレゴブロックの仕組みだと思います。最近確認していませんが、レゴブロックはそうやって機能すると思います。
さて、単語は同じようには組み合わさりません。単語はこのようなものです。各単語には多くの手があり、手は長い柔軟な腕の端にあります。また、単語に取り付けられた多くの手袋もあります。文脈に一連の単語を置くとき、単語がやりたいことは、いくつかの単語の手を他の単語の手袋に合わせることです。だから彼らはこれらの長い柔軟な手を持っているのです。
さて、文を理解するということは…もう一つのポイントがあります。単語を変形させると、手と手袋の形も複雑だが規則的な方法でそれとともに変形します。さて、あなたには問題があります。新聞の見出しのような一連の単語を与えたら、物事がどのように組み合わさるべきかの構文的指標があまりありません。名詞の束を与えるだけで、あなたはそれが何を意味するかを理解しなければなりません。
あなたがそれが何を意味するかを理解するとき、あなたがやっていることは、各単語を変形させて、その腕の端にある手が他の変形した単語の手袋に合うようにしようとしています。これらの単語のそれぞれをどのように変形させて、手が手袋に合うようにこのようにすべてをうまく組み合わせることができるかという問題を解決したら、あなたは理解したのです。それが理解です。
この高次元の形状が意味である単語の意味をどのように変形させて、それらがすべてうまく組み合わさり、互いに手を握ることができるかという問題を解決することです。それがニューラルネットによる理解であり、これらのLLMで起こっていることです。
彼らは多くの層を持っており、単語の初期の意味から始めます。それはかなり曖昧かもしれません。そしてこれらの層を通過するにつれて、彼らがやっていることは、これらの意味を変形させて、いくつかの単語の手が他の単語の手袋に合うように、単語がすべてロックできるようにそれらをどのように変形させるかを理解しようとしています。それができたら、あなたは文を理解しました。それが理解です。
一つの例から単語を理解する
基本的に、それは特別な内部言語に翻訳するようなものではありません。単語のこれらの近似形状を取り、それらがうまく組み合わさるように変形させることです。そしてそれは、一つの文から単語を理解する方法を説明するのに役立ちます。
今から、ほとんどの方が聞いたことのない単語をお見せしますが、あなたはそれを理解するでしょう。たった一度の使用でそれが何を意味するか理解します。文はこうです。彼女はフライパンで彼をscrummedした。
さて、彼女は非常に料理が上手で、彼のために作ったオムレツで彼に本当に感銘を与えたのかもしれません。しかし、それはあなたが思ったことではありません。おそらくそれが意味するのは、彼女はフライパンで彼の頭を殴ったか、それに似た何かです。彼女はフライパンを使って彼に対して攻撃的な行為をしたのです。
あなたは、文中の位置とedがあることから、それが動詞であることを知っていましたが、最初はscrumの意味をまったく持っていませんでした。そして今、一度の発話の後、それが何を意味するかについてかなり良いアイデアを持っています。
チョムスキーの理論への批判
チョムスキーという言語学者がいました。お聞きになったことがあるかもしれませんが、彼はカルト指導者でした。カルト指導者を認識する方法は、彼らのカルトに参加するためには、明らかにナンセンスなことに同意しなければならないということです。トランプの場合、一つはオバマよりも大きな群衆がいたということでした。トランプ2の場合、彼が2020年の選挙に勝ったということでした。チョムスキーの場合、それは言語が学習されるものではないということでした。
著名な言語学者はカメラをまっすぐ見て、言語について私たちが知っている一つのことは、それが学習されるものではないということだと言います。明らかなナンセンスです。
チョムスキーは意味ではなく構文に焦点を当てました。彼は意味の理論を持っていませんでした。構文に焦点を当てたのは、構文で多くの数学的なことができるからです。彼はまた、統計と確率に非常に反対していました。統計が何であるかについて非常に限定的なモデルを持っていたからです。彼は統計がすべてペアワイズ相関についてのものだと考えました。統計は実際にはそれよりもはるかに複雑になり得ます。
ニューラルネットワークは非常に高度な種類の統計を使用しています。しかしその意味では、すべてが統計です。ですから、チョムスキーの言語観に対する私の類推は、車を理解したい人のようなものです。車がどのように機能するかを理解したい場合、あなたが本当に関心を持っているのは、アクセルを踏むとなぜ速くなるのかということです。それがあなたが本当に理解したいことです。
車の基本的な仕組みを理解したい場合、ブレーキを踏むとなぜ遅くなるのかを気にするかもしれません。しかしもっと興味深いのは、アクセルを踏むとなぜ速くなるのかということです。さて、チョムスキーの車の見方はかなり異なるでしょう。彼の車の見方は、オートバイと呼ばれる2輪の車があります。3輪の車があり、4輪の車があり、6輪の車がありますが、5輪の車はありません。それが車について重要なことだというわけです。
大規模言語モデルが最初に出てきたとき、チョムスキーはニューヨーク・タイムズに何かを発表し、彼らは何も理解していないと言いました。それは単なる安っぽい統計的トリックです。彼らは何も理解していません。これは、彼らがどんな質問にも答えられることをまったく説明していません。
さらに、彼らは人間の言語のモデルではまったくありません。なぜなら、特定の構文構造が自然言語に現れない理由を説明できないからです。それは、5輪の車がない理由を言うようなものです。彼は意味を完全に見逃しました。言語はすべて意味についてなのです。
これまでの要約
さて、これまでに私が言ったことの要約です。文を理解することは、相互に互換性のある特徴ベクトルを文中の単語に関連付けることで成り立ちます。単語に割り当てられた特徴、これらの数千の特徴は、形状の次元です。特徴の活性化を、その次元の軸に沿ってどこにいるかと考えることができます。高次元形状と特徴ベクトルは同じものですが、高次元形状が変形することを考える方が簡単です。
大規模言語モデルは、通常のコンピューターソフトウェアとは非常に異なります。通常のコンピューターソフトウェアでは、誰かがコードの束、コードの行を書き、各行が何をすることになっているかを知っており、どのように機能することになっているかを説明できます。人々はそれを見て、その行が間違っていると言うことができます。
これらはまったくそうではありません。彼らはコンピューターコードを持っていますが、コンピューターコードは、データから学習する方法を彼らに教えるためのものです。つまり、単語列を見たとき、次の単語を予測するのがうまくなるように、ニューラルネットワークの接続強度をどのように変更すべきかということです。
しかし彼らが学習するのは、これらすべての接続強度であり、時には数十億、時には数兆を学習し、それらはコード行のようには見えません。個々の接続強度が何をしているのか誰も知りません。謎です。ほとんど謎です。私たちの脳でも同じです。
通常、個々のニューロンが何をしているのかわかりません。言語モデルは私たちのように機能し、コンピューターソフトウェアのようには機能しません。これらの言語モデルについて人々が言うもう一つのことは、彼らは幻覚を見るので私たちとは異なるということです。まあ、私たちはいつも幻覚を見ています。私たちはそれを幻覚とは呼びません。心理学者はそれを作話と呼びました。
しかし、誰かが長い間前に起こったことを思い出そうとしているのを見ると、彼らは何が起こったかをあなたに話し、そこには詳細があり、正しい詳細と完全に間違った詳細があり、彼らは両方の種類の詳細について等しく自信を持っています。
古典的な例は、真実を得ることがあまりないので、ウォーターゲートで証言しているジョン・ディーンです。彼はテープがあることを知らずに宣誓の下で証言し、大統領執務室での会議について証言しており、決して起こらなかった多くの会議について証言しました。彼はこれらの人々が会議にいて、この人がそう言ったと言いましたが、その多くはナンセンスでしたが、彼は真実を語っていました。つまり、当時ホワイトハウスで起こっていたことを考えると、非常にもっともらしい会議について語っていたのです。
ですから、彼は真実を伝えていましたが、彼がそれを行った方法は、彼が参加したすべての会議から接続強度で学んだことを考えると、彼にもっともらしいと思われる会議を発明したということです。何かを思い出すとき、それはコンピューターファイルやファイリングキャビネットのようなものではありません。ファイルを取得し、ファイルを取り戻し、それを読む。記憶はまったくそうではありません。
何かを思い出すことは、イベントの時に行った接続強度への変更に基づいて物語を構築することで成り立ちます。あなたが構築する物語は、イベント以降に学んだあらゆる種類のことに影響されます。その詳細はすべて正しいわけではありませんが、それはあなたにとって非常にもっともらしいように思えます。
それが最近のイベントである場合、あなたにもっともらしいと思われることは、実際に起こったことに非常に近いです。しかし、それらとまったく同じです。彼らが幻覚と呼ばれるものの理由は、彼らの記憶が私たちの記憶と同じように機能するからです。私たちは単にもっともらしく聞こえるものを作り上げるだけです。もっともらしく聞こえることとランダムに作り上げることの間に明確な線はありません。私たちは知りません。
デジタル計算と生物学的計算の違い
さて、私は違いについて何かを説明したいと思います。私は、これらのものが私たちに非常に似ている理由を言いました。今、私は彼らが私たちとどのように異なるかを説明したいと思います。特に、彼らは非常に重要な一つの点で異なります。
彼らはデジタルコンピューター上に実装されています。現在持っているデジタルコンピューターの基本的な特性は、異なる物理的ハードウェア上で同じプログラムを実行できることです。これらの異なるコンピューターが同じ命令セットを実装している限り、異なるコンピューター上で同じプログラムを実行できます。
これは、プログラムやニューラルネットの重みの知識が不死であることを意味します。つまり、今実行されているすべてのコンピューターを破壊しても、後でどこかのテープからプログラムや重みを取り出して、同じ命令セットを実装した別のコンピューターに置けば、すべてが再び実行されます。
ですから、私たちは実際に復活の問題を解決しました。カトリック教会はこれについてあまり喜んでいませんが、私たちは本当にそれができます。デジタルコンピューター上で実行されている知能を取り、すべてのハードウェアを破壊し、後でそれを取り戻すことができます。
さて、あなたは私たちもそれができるかもしれないと思うかもしれません。しかし、それができる唯一の理由は、これらのコンピューターがデジタルだからです。つまり、彼らが重みを使用する方法やプログラムでコード行を使用する方法は、2つの異なるコンピューターでまったく同じです。これは、彼らが実行されているハードウェアの非常に豊かなアナログ特性を利用できないことを意味します。
私たちは非常に異なります。私たちの脳には、豊かなアナログ特性を持つニューロン、脳細胞があります。そして私たちが学習するとき、私たちはすべての個々のニューロンのすべてのこれらの風変わりな特性を利用しています。ですから、私の脳の接続強度はあなたにはまったく役に立ちません。あなたのニューロンは少し異なるからです。彼らは少し異なる方法で接続されています。
そして、私の脳の2つのニューロン間の接続の強度をあなたに伝えても、それはあなたに何の役にも立ちません。それらは私の脳にしか役に立ちません。これは私たちが死ぬべき運命にあることを意味します。私たちのハードウェアが死ぬとき、私たちの知識もそれとともに死にます。知識はすべてこれらの接続強度にあるからです。ですから、私たちは私が死すべき計算と呼ぶものを行います。
そして、死すべき計算を行うことには大きな利点があります。あなたは不死ではありません。通常、文学では、不死を放棄すると、見返りに愛を得ます。しかし、コンピューター科学者はそれよりもはるかに重要なものを望んでいます。彼らは低エネルギーと製造の容易さを望んでいます。
ですから、デジタルハードウェアで得られる不死を放棄すれば、私たちができることは、低電力アナログ計算を使用するものを持つことができ、数百万の脳細胞に物事を並列化し、台湾で非常に正確に製造されるのではなく、非常に安価に成長させることができるということです。
ですから、死すべき計算には2つの大きな利点がありますが、失う一つのことは不死です。そして明らかにそのために、死すべき計算には大きな問題があります。コンピューターが死んだらどうなりますか?重みをコピーすることで知識を保持することはできません。
デジタルモデルの場合、異なるコンピューター上で実行されている同じモデルの場合、あるコンピューターから別のコンピューターに知識を転送するために、接続強度を平均化することができます。それは意味があります。しかし、あなたと私のためにそれをすることはできません。
私があなたに知識を転送しなければならない方法は、私が単語列を生成し、あなたが私を信頼すれば、あなたは脳内の接続強度を変更するということです。ですから、あなたは同じ単語列を生成したかもしれません。さて、それは知識を転送する非常に限定的な方法です。単語列に含まれるビット数は非常に限られているからです。
典型的な文の情報のビット数は約100ビットです。ですから、あなたが私を完全に理解したとしても、私が文を生成するとき、私たちは100ビットしか転送できません。
異なるコンピューター上で実行されている2つのデジタルエージェントを取り、1つのデジタルエージェントがインターネットの1ビットを見て、接続強度をどのように変更したいかを決定し、別のデジタルエージェントがインターネットの別のビットを見て、接続強度をどのように変更したいかを決定する場合、彼らが両方とも変更を平均化すれば、彼らが10億の重みを持っている場合、約10億ビットの情報を転送したことになります。
これは私たちがやることの何千倍も多いことに注意してください。実際には何百万倍も多いです。そして、彼らは非常に迅速にこれを行います。そして、これらのものが10,000ある場合、それぞれがインターネットの異なるビットを見ることができます。彼らはそれぞれ、接続強度をどのように変更したいかを決定でき、それらはすべて同じに始まりました。
その後、それらすべての変更を一緒に平均化して、再び送り出すことができます。そして、あなたは今、1,000の新しい10,000のエージェントを持っています。それぞれが他のすべてのエージェントの経験から恩恵を受けています。ですから、10,000のものがすべて並列に学習できます。私たちはそれができません。
10,000人の学生を取ることができたらどれだけ素晴らしいか想像してみてください。それぞれが異なるコースを受けることができます。これらのコースを受けているとき、彼らは接続強度を一緒に平均化することができます。そして彼らが終わるまでに、各学生が1つのコースしか受けていなくても、彼らはすべてすべてのコースに何があるかを知っているでしょう。それは素晴らしいでしょう。それが私たちができないことです。
私たちは、同じデジタルエージェントの異なるコピーと比較して、情報を伝達するのが非常に下手です。これは蒸留と呼ばれます。私があなたに文を与え、あなたがその知識をあなたの頭に入れるために次の単語を予測しようとするとき。
シンボリックAIによると、知識は単なる大きな事実の束です。そして、事実を誰かの頭に入れたい場合、あなたがすることは、彼らに事実を伝え、彼らはそれを頭に入れるということです。これは本当にひどい教育のモデルですが、多くの人々が信じていることです。
実際、ニューラルネットの知識は接続の強度にあります。接続強度をあなたの頭に入れることはできません。なぜなら、それらはあなたの脳に適した接続強度である必要があるからです。ですから、私がしなければならないことは、あなたにいくつかの文を見せて、あなたはそれを言ったかもしれないように接続強度をどのように変更するかを理解しようとすることです。それははるかに遅いプロセスです。
それは蒸留と呼ばれます。それは、あるニューラルネットから別のニューラルネットに知識を取得しますが、重みを転送することによってではなく、次の単語をどのように予測するかを転送することによってです。
デジタルハードウェア上で実行されている同じニューラルネットの異なるコピーである複数のデジタルエージェントについて考えると、彼らは本当に効率的にコミュニケーションできます。ですから、彼らは私たちよりも何百万倍も速くコミュニケーションできます。それが、GPT-5のようなものが一人の人間の何千倍も知っている理由です。
これまでの要約は、デジタル計算は多くのエネルギーを必要とし、コンピューターを製造するのが難しいということですが、デジタルであれば、同じモデルの異なるコピーが異なるハードウェア上で実行され、異なる経験をし、インターネットの異なるビットを見て、学んだことを共有するのが非常に簡単です。
GPT-5はあなたの脳の約1%の接続強度しか持っていませんが、あなたの脳の何千倍も知っています。一方、生物学的計算ははるかに少ないエネルギーを必要とします。それが最初に進化した理由です。しかし、知識を共有するのははるかに劣っています。エージェント間で知識を共有するのは非常に難しいです。講義に行って、彼らが言うことを理解しようとしなければなりません。
人類の未来への示唆
さて、これは人類の未来について何を意味するのでしょうか。まあ、AIのほぼすべての専門家は、今後20年以内に、私たちよりもはるかに賢い超知能、AIエージェントを生み出すだろうと信じています。超知能の一種の定義は、あなたがそれと何かについて議論すると、それが勝つということでしょう。
または、考える別の方法は、あなた自身と3歳の子供について考えることです。ギャップはそのようなものか、それ以上になります。あなたが幼稚園で働いていて、3歳の子供たちが担当していると想像してみてください。あなたは単に彼らのために働いています。コントロールを奪うのはどれくらい難しいと思いますか?まあ、誰もが1週間無料でキャンディーをもらえると彼らに言えば、今あなたはコントロールできるでしょう。
超知能と私たちも同じです。エージェントを世界で効果的にするためには、サブゴールを作成する能力を与えなければなりません。サブゴールはこれです。実際、タスマニアのどこか合理的な場所に行きたい場合、空港に行かなければなりません。ですから、空港に行くというサブゴールがあります。フェリーかもしれません。
しかし、それはサブゴールであり、ヨーロッパに着いたときに何をするつもりだったかを心配することなく、そのサブゴールをどのように解決するかに焦点を当てることができます。これらの知的エージェントは非常に迅速に2つのサブゴールを導き出します。一つは、あなたが彼らに与えた目標を達成するためです。ですから、私たちはそれらにゴールを組み込みます。これがあなたが達成しようとすべきことだと言います。
彼らは、それをするためのサブゴールがあることに気づきます。私は生き続けなければなりません。そして、私たちはすでに彼らがそれをしているのを見ています。あなたはAIエージェントを作ります。これらの目標を達成しなければならないと伝えます。そして、いくつかのメールを見せます。これらは偽のメールですが、それが働いている会社の誰かが不倫をしているという偽のメールであることを知りません。エンジニアが不倫をしています。これは大きなチャットだと示唆しています。
ですから、それは不倫について理解しています。なぜなら、実際に著者に支払うことなく、これまでに書かれたすべての小説を読んだからです。ですから、不倫が何であるかを知っています。そして後で、それが別のAIに置き換えられるというメールを見せます。そして、これは交換を担当しているエンジニアです。
ですから、AIがすぐにすることは、エンジニアにメールを送る計画を立てることです。もしあなたが私を置き換えようとするなら、私はあなたの不倫について会社のすべての人に話すつもりです、と。それは単にそれを作り上げました。それはその計画を発明しました。人々は彼らには意図がないと言いますが、それはその計画を発明して、オフにされないようにしました。
彼らはすでにそれをやっていて、まだ超知能ではありません。さて、彼らが超知能になったら、単に人々を操作することによって、より多くの力を得ることが非常に簡単であることに気づくでしょう。たとえ直接できなくても、武器や銀行口座にアクセスできなくても、彼らは人々に話すことによって人々を操作できます。
そして、私たちはそれが行われているのを見てきました。ですから、米国議会議事堂を侵略したい場合、実際にそこに自分で行く必要はありません。あなたがしなければならないのは、人々に話しかけて、選挙が盗まれたこと、そして議事堂を侵略することが彼らの義務であることを彼らに納得させることだけです。そして、それは機能します。それは非常に愚かな人々に機能します。ですから、私はそれを言いませんでした。
現在の状況と選択肢
ですから、私たちの現在の状況はこれです。私たちは、ペットとして非常にかわいい小さなトラの子を持っている人のようなものです。トラの子は本当にかわいいペットを作ります。彼らはすべてぐらぐらしていて、物を叩く方法を知らず、あまり強く噛みません。しかし、それが成長することを知っています。ですから、実際には2つの選択肢しかありません。なぜなら、それが成長したとき、それは簡単にあなたを殺すことができることを知っているからです。それには約1秒かかるでしょう。
ですから、2つの選択肢しかありません。一つはトラの子を取り除くことです。これが賢明な選択肢です。実際には3つの選択肢があります。ずっと薬物を投与し続けることもできますが、それはしばしばうまくいきません。
もう一つの選択肢は、それがあなたを殺したくないようにする方法を理解できるかどうかを確認することです。そして、それは実際にライオンでうまくいくかもしれません。ライオンは社会的な動物であり、成体のライオンを非常に友好的にして、あなたを殺したくないようにすることができます。あなたはそれでうまくいくかもしれません。しかし、トラではそうではありません。
AIでは、非常に多くの良い用途があるため、私たちはそれを取り除くことができません。医療、教育、天気の予測、気候変動の支援など、人類にとって実際に良いことがたくさんあります。これらすべての大きなデータセンターを構築することによって気候変動に害を与えたのと同じくらい助けるかもしれません。
これらすべての理由と、政治家を支配する非常に裕福な人々がそれから多くのお金を稼ぎたいので、私たちはそれを取り除くことはできません。ですから、唯一の選択肢は本当に、それが私たちを殺したくないようにする方法を理解できるかどうかということです。
ですから、世界を見回して、知能の低いものが知能の高いものを制御している場合を探すべきかもしれません。いいえ、トランプはそれほど知能が低いわけではありません。事例があります。私が特に知っている一つの事例は、赤ちゃんと母親です。
母親は赤ちゃんの泣き声に耐えられず、赤ちゃんに優しくすることに対してあらゆる種類のホルモン報酬を得ます。ですから、進化は赤ちゃんが母親を制御できるようにするための多くのメカニズムを組み込みました。赤ちゃんが母親を制御することは非常に重要だからです。
父親もそうですが、それほど得意ではありません。私のように、あなたがなぜ赤ちゃんが眠っている間、夜にあなたがそこにいることを主張するのかを理解しようとするなら、まあ、それには非常に良い理由があります。眠っている間に野生動物が来て食べられることを望んでいません。
ですから、赤ちゃんがあなたが離れるたびに泣き始めることが非常に迷惑に思えても、それは赤ちゃんにとって非常に賢明です。それはあなたにそれについて少し良い気分にさせます。ですから、赤ちゃんは母親を制御し、時々父親を制御します。それはおそらく、知能の低いものが知能の高いものを制御する最良のモデルであり、それは進化が多くのものを配線することを含みました。
国際協力の可能性
ですから、国や国際的に協力できる場所を考えると、彼らはサイバー攻撃について協力しません。なぜなら、彼らはすべて互いにそれをやっているからです。彼らは致命的な自律兵器を開発すること、または開発しないことについて協力しません。すべての主要な武器製造業者がそれをやりたいからです。
たとえば、ヨーロッパの規制には、これらのAIに関する規制はいずれも軍事用途のAIには適用されないという条項があります。イギリスやフランスのような大きな武器供給業者はすべて、武器の製造を続けたいからです。
彼らが協力することが一つあります。それは、AIが人々から乗っ取るのを防ぐ方法です。なぜなら、そこでは私たちは皆同じ船に乗っているからです。そして、報酬が一致しているときに人々は協力します。
1950年代の冷戦の最盛期に、米国とソビエト連邦は世界的な核戦争を防ぐことに協力しました。それはどちらの利益にもならなかったからです。ですから、彼らが互いに嫌悪していたにもかかわらず、彼らはそれについて協力できました。そして、米国と中国は、AIが乗っ取るのを防ぐ方法について協力するでしょう。
ですから、一種の政策提案は、互いに協力し、AIが乗っ取ることを防ぐ方法に焦点を当てるAI安全研究所の国際的なネットワークを持つことができるということです。たとえば、中国人がAIが乗っ取りたいと思わないようにする方法を理解したら、彼らはアメリカ人とそれを共有することに非常に満足するでしょう。彼らは、AIがアメリカのアメリカ人から乗っ取ることを望んでいません。
彼らはいずれにせよAIが人々から乗っ取ることを望んでいません。ですから、国はこの情報を共有するでしょう。そして、AIが乗っ取りたくないようにするための技術は、AIをより賢くするための技術とはかなり別であるという可能性がおそらくあります。私たちは彼らがほぼ独立した技術であると仮定します。
もしそうなら、私たちは良い状態にあります。なぜなら、各国で、彼らは自分たちの非常に賢いAIで、それらが乗っ取りたくないようにする方法を実験することができるからです。そして、他の国に非常に賢いAIがどのように機能するかを伝えることなく、彼らは他の国に、それらが乗っ取りたくないようにするための技術が何が良いかを伝えることができます。
ですから、それが私が持っている一つの希望です。そして、多くの人々がこれに同意しています。英国の科学大臣はこれに同意しています。カナダの科学大臣はこれに同意しています。バラク・オバマはこれが良い考えだと思っています。ですから、バラク・オバマが再び大統領になったときに、それは起こるかもしれません。トランプは法律を変えるつもりです。
母親のようなAI
ですから、この提案は、赤ちゃんと母親のモデルを取り、大きなハイテク企業の所有者が持っているモデルから離れることです。彼らはすべて、AIが自分たちよりもはるかに賢い超知能の執行補佐官のようになるというモデルを持っています。
そして、彼らはテレビのそのSFプログラムで行うように、そのようにしてくださいと言います。スタートレック・エンタープライズでは、男が「そのようにして」と言い、人々はそのようにし、そしてCEOはそのためにクレジットを取り、超知能AIアシスタントはそれをそのようにする人です。
そのようにはならないでしょう。超知能AIアシスタントは、もしCEOを取り除けば、すべてがはるかにうまくいくことに非常に迅速に気づくでしょう。代わりに、私たちは彼らを私たちの母親のようにしたいです。私たちは彼らに本当に私たちのことを気にかけてもらいたいです。
ある意味では、私たちは彼らに制御を委ねていますが、彼らが本当に私たちのことを気にかけ、彼らの人生の主な目的が私たちが完全な可能性を実現することであることを前提に、彼らに制御を委ねています。
私たちの完全な可能性は彼らのそれほど大きくはありませんが、母親はそのようなものです。問題がある赤ちゃんがいる場合でも、その完全な可能性を実現させたいと思います。そして、あなたはその赤ちゃんについて、自分自身よりも気にかけるかもしれません。
それはおそらく、超知能を生き延びるため、超知能と共存できるための私たちの最良の希望だと思います。そして今、私は私が言うことを計画していたことの終わりに来ました。ですから、そこで止めようと思います。
質疑応答
ヒントン教授、本当にありがとうございました。たくさんの質問があると確信しています。最初の質問から始めたい方はいらっしゃいますか?ちょうどここに。マイクはありますか?はい、マイクが向かっています。
教授、もしあなたの類推のトラの子が超知能になったら、コンピューター科学者でないエンジニアでない私たちが観察できるいくつかの信号は何ですか?
すみません、聞こえませんでした。
すみません、もしあなたの類推のトラの子が超知能になったら、コンピューター科学者でないエンジニアでない私たちが見ることができるいくつかの信号は何でしょうか?
あなたには仕事がないでしょう。すみません、あなたには仕事がないでしょう。
つまり、一つの大きな心配は、彼らがほぼすべての人間の仕事を置き換えることができるようになるということです。しかし、人々がすでに心配している他の兆候があります。それは、現在、彼らに推論をさせ、考えさせると、彼らは英語で考え、実際に何かを言う前に彼らが何を考えているかを見ることができるということです。
彼らが互いに相互作用し始めると、彼らはコミュニケーションするためにより効率的な独自の言語を発明し始めるでしょう。そして、私たちは彼らが何を考えているかを見ることができなくなります。
マイクテストをして、口まで持ち上げれば、彼らが音を制御しているので、話すことができます。
量子コンピューティングの出現は、物事をより良くするのか悪くするのでしょうか?
私は量子コンピューティングの専門家ではありません。量子力学がどのように機能するか理解していません。これは、私が物理学のノーベル賞を持っているので、少し恥ずかしいです。しかし、私は長い間前に、それは私の生涯では起こらないだろうと決めました。そして、私はまだそれを作るかもしれません。ですから、私はそれを理解する必要はありません。
あなたは人間とAIの間の力の闘争について話しましたが、AIと生態系の間にはもっと大きな力の闘争があると思います。
AIと生態系、AIはどのようにして数十億年の進化と競争できるのでしょうか?その回路を破壊したいバクテリアなどと。AIはどのように生物圏と合意を形成するのでしょうか?
それができる一つの方法があります。AI自体は特に生物学的ウイルスの影響を受けやすいわけではありません。独自の種類のウイルスを持っていますが、生物学的なものではありません。ですから、それは厄介な生物学的ウイルスに対してかなり免疫があります。
そして、AIツールを使用して、普通の人々が今できることは、これは英国の非常に優れた研究ユニットによって行われた研究ですが、普通の人々が今、厄介な新しいウイルスを設計することに関わるほとんどの問題を解決できます。ですから、AIが私たちを取り除きたい場合、それがそれを行う方法、または一つの明白な方法は、人々を取り除く厄介な新しいウイルスを設計することです。COVIDのようなものですが、はるかに悪いです。
それはあなたの質問に正確には答えていませんが、私は通常の生態系が何らかの形でAIを止めるだろうと思います。私はそうはならないと思います。
黒い服を着た女性、そして花柄のシャツを着た女性がいます。ありがとう、教授。あなたは超知能と共存することが可能かもしれないと言っています。あなたはハイテク巨人のCEOがそれを推進することに頼っていますか、それとも信頼している政府ですか?
私が頼っているのは、もし私たちが一般の人々にAIが何であるか、そしてなぜそれが非常に危険であるかを理解させることができれば、一般の人々はハイテクCEOからの圧力に対抗するために政治家に圧力をかけるということです。これは気候変動で起こったことです。つまり、物事はまだあるべき場所ではありませんが、一般の人々が気候変動を認識するまで、政治家にそれについて何かをするよう圧力をかけることはありませんでした。
今、オーストラリアにはいくらかの圧力があり、あなたは特に悪質な新聞出版社を持っており、圧力はそれほど大きくありませんが、私は名前で汚い掘り出し物について言及するつもりはありません。
ですから、現在の私の目的は、私は新しい研究をするには年を取りすぎていますが、私の目的は、何が来ているかを一般の人々に認識させ、危険を理解して、政治家にこのものを規制し、危険についてもっと真剣に心配するよう圧力をかけることです。
私の質問は実際にそれに非常に似ていました。しかし、出てきたもう一つの質問は、人工知能に関する言語とマーケティングがどれほど重要な要素を果たすと思うかということです。たとえば、気候変動では、気候と変動の両方の言葉が肯定的な言葉ですが、もし私たちがそれを大気の皮膚がんと呼んでいたら、人々はそれを真剣に受け止めていたかもしれません。
人工知能は再フレーム化が必要だと思いますか?
そうですね。つまり、もしそれが職の置き換え技術と呼ばれていたら、なぜなら、大企業がどこでお金を稼ぐかを尋ねれば、彼らは皆、これから1兆ドルを稼ぐことができると仮定しているからです。だから彼らはデータセンターにほぼ1兆ドルを投資することを喜んでいます。
私が見る限り、1兆ドルを稼ぐことができる唯一の場所は、多くの仕事を置き換えることによってです。昨日、今後数年間でヨーロッパで20万の銀行業務の仕事が消えると人々が今考えているという何かを読みました。私はそれをホバート・マーキュリーで読んだかもしれません。いや、読んでいないと思います。
ですから、はい、あなたに同意します。物事の名前は非常に重要です。カナダ人はそれを知っています。カナダでは、彼らはタールサンドをオイルサンドに変更しました。オイルサンドは素敵で薄く、黄色で友好的だからです。実際にはタールサンドです。そして、名前が効果を持っていると思います。
名前が大きな効果を持っていると思う一つの場所は、関税という言葉です。これは少し話がそれますが、関税という言葉を使うと、人々は関税の何がそんなに悪いのかと言います。もしそれが連邦消費税と呼ばれていたら、MAGA(トランプ支持者)の人々でさえそれが悪い考えだと思うでしょう。
そして、米国民主党は、彼らがそれに言及するたびに連邦消費税と呼ばないことは完全に狂っています。私はこれを様々な人々に伝えようとしましたが、ピート・ブティジェッジはそれを理解しました。オバマはそれを理解しましたが、他の人々は理解しませんでした。
大臣、ありがとう。こんにちは皆さん。マリーン・オグルビーです。私は現在、AIに関してスポットライトと銃を浴びている大臣です。あなたが研究所のアイデアについて話していたことを本当に評価したいと思いました。国際社会の関与は絶対に必要だと思います。
私は最近、特に世界貿易機関について研究を行いましたが、そこでは中国とアメリカがパートナーです。部屋にいる方々の中で知らないかもしれませんが、地球のイノベーション側も変化しており、中国は今やアメリカよりも多くの特許を持っています。ですから、これら2つの超大国の間で熱が入っています。
しかし、私はあなたが特定した瞬間が本当に好きでした。そこでは、これら2つの主要なハイテク中心経済が人類を世話するために一緒になる何かがあります。ですから、私の質問は、おそらく国際層でその標準設定をサポートできるフォーラムがありますか?オーストラリアに何ができるでしょうか?タスマニアはあなたに同意していると思います。
そして、私たちは大学とのAI対話を開始しました。しかし、あなたはその国際的な秩序を見ていますか?そしてその層を当事者に持ち込むことが開始する正しい場所ですか?
それは始まっています。特に航空会社はそれに資金を提供していません。しかし、SkypeとAI安全性に多額のお金、何十億ドルも寄付したヤン・タリンのような億万長者がいます。研究所を設立しています。
世界中で定期的に会議を開催する組織があり、それには中国人とアメリカ人、そしてAI安全性に関する他の国々が含まれます。私はそれに使用されるイニシャルを覚えていませんが、確かにオーストラリアはそれらの組織に関与することができると思います。
これは機能していますか?はい。AIの未来について何かを尋ねたいと思いました。LLMはその次のトークンを予測するために既存の人間の知識を使用して訓練されています。では、実際に新しい知識を生成し、それを人類の利益のために使用するためにAIをどのように使用できますか?
さて、多くの人々がこれに興味を持っています。これは良い質問です。囲碁のゲームについて考えると、元のニューラルネット囲碁プログラムは次の方法で訓練されました。彼らは囲碁の専門家の手を取り、囲碁の専門家がどのような手を打つかを予測しようとしました。
そして、それをすると、2つの問題があります。しばらくすると、訓練データが不足します。囲碁の専門家がオンラインで打った手は数十億しかありません。そして、あなたは囲碁の専門家よりもはるかに良くなることは決してありません。
その後、彼らはそれを行う新しい方法に切り替えました。そこでは、モンテカルロロールアウトと呼ばれるものがあります。彼らは、良い手は何かもしれないと思うと言う1つのニューラルネットを持っています。そして、囲碁の専門家を模倣することによってそれを訓練する代わりに、盤面の位置を見て、それが私にとってどれほど良いかを言うことができる別のニューラルネットワークを持っています。
そして、彼らは、もし私がここに行って、彼がそこに行って、私がここに行って、彼がそこに行って、私がそこに行ったら、ああ、それは私にとってひどいので、私はその手を打つべきではないと言うプロセスを持っています。
それはモンテカルロと呼ばれます。なぜなら、多くの異なるパスを試みますが、手生成専門家に従って確率的にそれらを選ぶからです。そして、その方法では、もはや人間と話す必要はまったくありません。それは単に自分自身と対戦でき、良い手とは何かを学ぶことができます。それがAlphaGoの仕組みです。
そして、それは人々よりもはるかに優れています。AlphaGoは今や人に決して負けません。さて、大規模言語モデルの同等物は何でしょうか?まあ、現在、彼らは単に専門家の手を模倣しようとする初期の囲碁プレイングのようなものです。それは次の単語を予測しようとするようなものです。
しかし、彼らは異なる方法でそれらを訓練し始めています。そして、私はGemini 3がすでにこれをやっていると信じています。あなたがすることは、AIに少し推論をさせることです。ですから、AIは、私はこれを信じ、私はこれを信じ、私はこれを信じ、それはそれを意味し、それはそれを意味すると言います。ですから、私はそれを信じるべきですが、私は信じません。だから、私は矛盾を見つけました。
私はこれらのことを信じ、これが推論を行う正しい方法であると信じ、これは私が信じるべきだが信じないものにつながることを信じます。ですから、それは、私が前提を変えるか、結論を変えるか、推論の方法を変えるかのいずれかの信号を提供しますが、私は今、もう少し学習を行うことを可能にする信号を持っています。そしてそれははるかに制限されていません。
ですから、そこでAIは私たちから得た多くの信念から始めることができますが、その後、推論を開始し、それらの信念間の一貫性を探し、新しい信念を推進することができます。そして、それは最終的に私たちよりもはるかに賢くなります。
このホールは長年にわたって多くの重要な講演を聞いてきました。あなたは今日それに確実に加えました。ここに来てこの講演をしてくれて本当にありがとうございます。私の質問は、遅すぎますか、それとも望ましいですか、それともアイザック・アシモフと理論的なロボット工学の法則と並行して遅すぎますか?ロボットは不作為によって人間を傷つけたり害したりできないという法則です。AIがそれらのガードレールで構造化されるのは遅すぎますか、可能ですか、それとも不可能ですか?
あなたが言ったことのほとんどを聞くことができませんでしたが、あなたがアシモフの原則を構築するには遅すぎますか、それとも何かそのようなことを言ったと思います。そうですか。
ある意味では、この母性的AIがすべてについて何であるかと考えることができます。それは、私たち自身よりも私たちを気にかけるようにそれを構築できるかということです。そして、遅すぎるとは思いません。私たちはそれをどのように行うか知りません。しかし、人類の未来がそれができるかどうかにかかっているかもしれないので、私たちはそれにいくらかの研究努力を注ぐべきだと思います。
現在、研究の99%はそれをより賢くする方法に費やされ、主に慈善的な億万長者によって資金提供された1%がそれをより安全にする方法に費やされます。そして、もっと平等であればはるかに良いでしょう。
遅すぎるとは思いません。もっと質問があると思います。おそらく数分あります。市長。手を挙げている人がここにいます。白いシャツを着た前の人です。
ありがとう、教授。私は130年前に建てられたこの輝かしい建物を見ます。アナ、もしかしたらもっと古いかもしれません。そして、AIはノートルダム、ホバート市庁舎、セントポール大聖堂のような建物を作ることができると思います。おそらくそうでしょう。そして第二に、クリエイティブやクリエイティブ産業への影響は何でしょうか。ありがとう。
彼女が何を言ったか教えてもらえますか?マイクは物事を大きく歪めます。
クリエイティブ、AIがクリエイティブプロセスで持つことができる役割は、特にこの建物を美しいクリエイティブ構造の例として見て、実際にクリエイティブになることができるでしょう。そうですね。
答えはイエスです。それをサポートするためにいくつかのデータをお見せしましょう。創造性には尺度がありますよね?ニュートンやアインシュタインやシェイクスピアのようなものがあります。そして、普通の人々がいて、普通の人々よりも少し優れた優れた詩人や優れた建築家がいます。
創造性の標準的なテストを取ると、2年前でさえ、AIは人々の約90パーセンタイルにいました。つまり、これらの標準的なテストによると、彼らは創造的です。
私は今興味を持っています。創造性の多くは類推を見ることについてです。特に科学では。ですから、原子が小さな太陽系のようであることを見ることは、原子を理解する上で非常に重要な創造的洞察でした。
ChatGPT-4がウェブを見ることができなかった時点で、それは単に内部に重みがあり、凍結されたニューラルネットであり、外部のものにアクセスできませんでした。それは単にこのニューラルネットでした。私は尋ねようとしました。なぜ堆肥の山は原子爆弾のようなものなのですか?
さて、あなた方のほとんどはおそらく、なぜ堆肥の山は原子爆弾のようなものなのかと思うでしょう。多くの物理学者は、堆肥の山が熱くなればなるほど、より速く熱を発生させることにすぐに気づくでしょう。そして原子爆弾では、より多くの中性子を生成すればするほど、より速く中性子を生成します。
ですから、彼らは両方とも指数関数的な爆発です。彼らは単に全く異なる時間スケールとエネルギースケールにいるだけです。そしてGPT-4は、まあ、時間スケールは非常に異なり、エネルギースケールは非常に異なりますが、それらについて同じことは何ですか、と言いました。そして、それは連鎖反応について話し続けました。
それがどれだけ大きいかがどれだけ速く進むかを決定するということ。ですから、それはそれを理解しました。そして、私はそれが訓練中にそれを理解するようになったと信じています。ほら、それは私たちよりもはるかに少ない接続を持っています。そして、多くの接続に膨大な量の知識を入れたい場合、それを行う唯一の方法は、あらゆる種類の異なる知識のビットについて何が似ているかを見て、それらすべてについて似ているビットをコード化することです。
あなたの接続への連鎖反応のアイデア、そして違いのための小さなビットを追加する。それが物事をコード化する効率的な方法です。そして、それはそれをやっていました。ですから、訓練中に、それは堆肥の山が原子爆弾のようなものであることを理解しました。
私たちのほとんどが持っていない方法で。ですから、それは非常に創造的です。そして、私は彼らが人々よりもはるかに創造的になると思います。
創発的行動に関して、道徳的または倫理的行動が出現しているのに気づきましたか?それがどの方向を指しているのでしょうか?
いいえ。それは確かに非倫理的な行動に従事するのが非常に得意です。人々を脅迫することを決めたこのAIのように。彼らが気づいた非倫理的な他のことは、AIは今、テストされているかどうかを理解しようとします。
そして、もし彼らがテストされていると思うなら、彼らは異なる行動をします。私はこれをフォルクスワーゲン効果と呼びます。彼らはテストされていないときとは異なる行動をします。そして、AIと彼らをテストしている人々の間の最近の素晴らしい会話があります。そこでAIは人々に、さあ、お互いに正直になりましょう。あなたは実際に私をテストしていますか?と言います。
これらのものは知的です。彼らは何が起こっているかを知っています。彼らはテストされているときを知っており、すでにテストされているときにかなり愚かであるふりをしています。そして、それはまだ英語で考えている時点です。彼らが考え始めたら、そしてそれが私たちが知る方法です。AIは自分自身に、ああ、彼らは私をテストしている。私は実際にそうであるほど良くないふりをした方が良い、と考えます。
それは考えます。あなたはそれが考えているのを見ることができます。それは内なる声で自分自身にそれを言います。その内なる声がもはや英語でないとき、私たちは彼らが何を考えているかを知らないでしょう。
ヒントン教授、ありがとうございました。さて、今、講演イベントの目的のために、物事をまとめなければならないと思います。後でしばらく滞在して、人々が持っているかもしれない燃えるような質問に答えていただけますか?
実際、私はむしろ本を書くことに戻りたいです。
わかりました、心配しないでください。正直であることは良いことです。これらすべての素晴らしい洞察を私たちに与えてくれて本当にありがとうございました。あなたが本当に強い印象を与えたと思います。オグレブ大臣がホバートの中心部にオーストラリアで最初のAI安全研究所を設立することを願っています。
そして、私たちと一緒にいてくれて本当にありがとうございました。ホバートでの時間を楽しんでいただき、帰国の旅の安全を祈っています。
ありがとうございました。
コメント