AIのゴッドファーザーと称されるジェフリー・ヒントン氏へのインタビュー動画である。2019年からのAIの劇的な変化を振り返りつつ、AIの安全性、医療や教育分野への影響、さらにはニューラルネットワークやバックプロパゲーションの仕組みについて専門的かつ分かりやすく解説している。また、自律型AIエージェントの危険性や、大手テック企業の独占に対する懸念、偽情報対策としてのプロベナンス（来歴）の重要性など、テクノロジーの進化が社会や政治に与える影響について率直な意見を述べている。
導入と2019年からのAIの劇的な変化
ジェフ、今日の調子はいかがですか。
少し体調が悪くて寒気がするので、上着をもう一枚着ています。でも、できる限りあなたの質問にお答えしようと思います。
もちろんです。とても楽しみにしています。本日はお越しいただき、本当にありがとうございます。そして、改めて受賞おめでとうございます。
ありがとうございます。
ええ、もう一度大きな拍手をお願いします。私は幸運なことに、2019年のイベントであなたにお会いすることができました。ご一緒できたのはほんの数分でしたが、当時のイベントと私たちの対談の本当に短い映像をお見せしたいと思います。まるでずっと昔のことのように感じられますね。では、その映像を見てみましょう。
あなたは当然のことながら、人工知能のゴッドファーザーとして知られています。そのような肩書きを持つのはどのようなお気持ちですか。
少し恥ずかしいですが、とても素晴らしいことです。当時は素晴らしい対談でしたが、私が驚いているのは、2019年から今日に至るまでにどれほど多くの変化があったかということです。
私も驚いています。劇的に変わりましたね。
本当にそうです。
カナダへの移住とAI兵器への懸念
お話ししたかったことの一つとして、AIの影響や安全性、倫理についての対話には後ほど深く切り込んでいきますが、まずはそもそもなぜカナダに来ることになったのかということから始めたいと思います。2019年にもそのことについて話し合う機会がありましたね。何がきっかけで、この素晴らしい国に来られたのでしょうか。
当時、私はアメリカのカーネギーメロン大学で働いていました。そこでの研究はとても順調に進んでいましたが、私はレーガン政権のニカラグアに対する政策に少し不満を抱いていました。ニカラグアの港に機雷を敷設するのは悪いことだと考えていたのです。ピッツバーグにいる私の同僚の多くは、そこはアメリカの半球でありアメリカが支配すべきなのだから、完全に理にかなっていると考えていました。私はそれがひどいことだと思っていました。まさかこんなことになるとは思ってもみませんでしたが。
ええ、先ほども言ったように、多くのことが変わりましたね。私たちが話したもう一つのことで、今夜ぜひお聞きしたかったことがあります。2019年にもAI兵器についてお話ししましたね。あなたの言葉を引用させていただきます。あなたは、かなり恐ろしいことだと思います、自律型兵器はもうすぐそこまで来ています、とおっしゃいました。そして、多くの人々がそうした脅威について語り始める前から、あなたは警鐘を鳴らし始めていました。
そうですね、スチュアート・ラッセルという人がいて、彼はそれよりずっと前から警鐘を鳴らしていました。ですから、私はAIの安全性についてはかなり後発組だったのです。私の同僚の多くは10年以上前からそのことについて考えていました。私は幸運にも人々が私の言うことに耳を傾けてくれましたが、私自身は遅れて参加した立場です。
ビッグテックの倫理とOpenAIの動向
2026年の今日起きていること、AIの安全性について考えるとき、明らかにあなたはこれらの懸念の多くを抱いていますが、私たちの多くは今日、現実として目の前でそれが展開しているのを実際に目にしています。
はい。ごく最近の例を挙げると、大手テック企業の一つが実際に道徳的な原則を持っていたことがわかりました。かなり穏やかな道徳的原則です。彼らは自分たちのAIがアメリカ人の大衆監視に使われることを望んでいませんでした。私の知る限り、対象はアメリカ人だけですが。また、彼らはAIが人間の殺傷を自ら決定する兵器に使われることも望んでいませんでした。それに反論するのは難しいように思えます。
国防総省のあの親切なピーター・ヘグセス氏は、それを好きなように使えるようにしたいと考えました。しかしAnthropicはノーと言い、その結果、彼らは今Anthropicを標的にしています。OpenAIは、木曜日にはAnthropicを支持すると言っていたのに、金曜日には彼らのビジネスを奪ってしまいました。だから、私は今ChatGPTを使うのをやめました。ChatGPTは大好きなんですけどね。でも、サム・アルトマンの道徳的な柔軟性は私には少し過ぎるので、Claudeに移行しています。
今夜、この会場にはその意見に同意する人がたくさんいると思います。
医療分野におけるAIの予測と弾力性のある市場
また、あなたがされたいくつかの予測についても少しお話ししたいと思います。あなたを長く追いかけ、未来に関する予測を聞いてきた私たちの多くにとって、今日お話しする前の電話のやり取りであなたが持ち出された予測がありました。それについて話したいとおっしゃっていましたね。2016年にあなたが立てた、5年以内に放射線科医は必要なくなるという予測についてです。
はい。私はある病院で講義をしていました。世界中の一般大衆に向けて発信しているとは考えていませんでした。そして、AIは画像の中にあるものを解釈するのがはるかに上手になっていました。急速に進歩していたのです。だから、医療画像の解釈という点だけで見れば、約5年でAIが人間よりも優れるようになるのは私には明白に思えました。
それは少し熱狂しすぎでしたね。今では多くの画像において人間と同等レベルですし、一部の画像では人間よりも優れています。実際、かなり多くの画像でそうです。しかし、何が起こったかというと、AIが単に画像解釈の仕事で人間に取って代わるのではなく、今では人々がAIと一緒に働いているのです。画像解釈の承認を受けた様々なAIシステムが多数存在し、画像解釈の件数自体がはるかに増えていると思います。
ですから、私が間違えていたことが2つ、いや実際には3つありました。1つ目は、タイムスケールを2倍、あるいは3倍ほど間違えていたことです。まあ、物理学者なら2倍や3倍の違いなんて気にしませんが。そして、医療業界の保守性を読み違えていました。彼らがどれほど保守的であるかは、誇張しきれないほどです。例えば、AIががんの診断を見逃して誰かを死なせてしまったら、彼らはそれを大惨事だと考えます。しかし、がんを診断するためにAIを使わなかったせいで数百人が死んだとしても、彼らはそれを無視します。それはカウントされないのです。ですから、彼らが下している決定は非常に非対称的だと思います。彼らは、AIを使わないことで死んでいく人々のことも考えるべきです。
そして、私が間違えていた3つ目のことは、ヘルスケアが弾力性のある市場であるという点です。多くの市場では、AIが人間と同じかそれ以上にうまく物事をこなせるようになれば、人々は仕事を失います。しかし、ヘルスケアの分野では、特に私たちが年をとったときには、いくらでも吸収することができます。私一人だけでも、10人の専属の医師が必要なくらいです。ですから、AIを導入すれば、はるかに多くのヘルスケアを受けられるようになるでしょう。だから、人々から仕事を奪うことはないと思います。もし医師の効率を10倍にできたら、私たちは単純に10倍のヘルスケアを受けられるようになります。それは素晴らしいことです。ですから、その市場が弾力性があるかどうかを見極めなければなりません。
それに言及してくださって嬉しいです。というのも、脅威のいくつかについてもう一度お話ししたいのですが、これはこの対談の前にお話しした際にも、弾力性のある市場としてAIに信じられないほどの利点を見出している分野の一つとしてあなたが挙げていた場所だからです。カナダのヘルスケアにおいて、これらのギャップを埋めるために、今まさにこの技術が必要です。こうした現場でAIを導入できるようになるには、どれくらい早く進むと思いますか。
かなりの部分は政治にかかっていると思います。最近聞いた話で、ある企業がiPhoneやAndroidで写真を撮り、それをシステムに入力すると、皮膚のそのシミがメラノーマなのか何なのかを教えてくれるシステムを開発したというケースがあります。それが何であるかを教えてくれるのです。そして、それは優秀な人間と同じくらい正確にこなします。だから、皮膚科に行くべきかどうかを判断するためのフロントエンドとして機能することができます。病院で使うこともできます。
しかし、その企業は、今では解散してしまいました。オンタリオ州政府がそのシステムに対する医療コードを作成しようとしなかったため、オンタリオ州で使ってもらうことができず、負債を抱えて宙に浮いた状態になっています。病院は、システムを使って何かを見てそれが何であるかを判断するために3ドルから5ドルを請求する方法がないため、購入しませんでした。そういったことがかなり起きていると思います。
結局のところ、少しがっかりするような話ですね。
ええ。
教育におけるAIの役割と可能性
AIにチャンスがある弾力性のある市場は他にもあるとお考えですか。
はい。教育です。私たちは皆、もっと教育を受けることができます。私自身、物理学を少し学ぶといいかもしれません。あまり知識がないのは少し恥ずかしいですからね。教育分野において、AIは素晴らしいものになると思います。ただ、まだ少し遅いです。家庭教師としてはまだ本当に優れているわけではありません。でも、そこに向かっています。
それについてもう少し詳しくお話ししましょう。会場にはAIと教育について考え、学校でAIが禁止され、子供たちがAIの使用を許されていないという見出しを目にする人たちがおそらくいると思うからです。その点について少し詳しく説明していただけますか。
私たちが知っているのは、家庭教師をつければ、教室で学ぶ場合の約2倍の速さで学べるということです。なぜなら、教室で行われていることの多くは、教師からの一方通行の放送モードだからです。1対1での指導はできません。そんな余裕はないからです。私立学校では1人の教師が20人の子供たちを教え、公立学校では35人を教えます。そして、子供たちが聞いているのは、彼らがたった今質問したわけではないことへの答えなのです。
しかし、私がチャットボットと対話するときは、何かについて好奇心を持った瞬間に質問し、それが答えてくれるので、知りたいことだった情報をそのまま吸収できます。もっと多くの教育がそうあるべきなのです。人々が自分の好奇心に従うことができるべきです。教師にはそれができません。1対1であれば非常に効果的にできますが、全員に行き渡るほどの十分な数の教師がいません。しかし、AIであれば全員に行き渡るだけの数が揃うでしょう。
ですから、特に私のように軽いADHDを持つ子供たちにとって、教育分野でAIの恩恵を見出すことになると思います。人々が私の興味のないことについて話していると、私は集中するのがとても難しいのです。AIは教育をはるかに効率的にしてくれると思います。生徒が何を誤解しているのかを本当に理解できるようになるまでは、まだしばらく時間がかかるでしょうが。
教育という文脈で今日のAIについて話された際、遅いとおっしゃいましたか。それはまだそこまで到達していないという意味でしょうか。
まだ完全には到達していません。生徒が何を理解していないのかをまだ完全には理解していません。しかし最終的にはできるようになります。なぜなら、大量のトレーニングデータを積むことになるからです。
子供たちや学生がAIを使うことは不正行為だと言う人たちに対して、あなたはどう答えますか。どのような反応をされますか。
学生がポケット電卓を使うのは不正行為だ、と言うようなものです。もっともな指摘ではあります。未来は人々がAIと一緒に働く世界になるでしょう。ですから、教師が審査すべきなのは、生徒がAIを使ってどれだけうまく物事を成し遂げられるかということです。少なくとも今後数年間は、そのような状況になるでしょう。もう少し後になれば、AIがすべてを引き継ぐかもしれませんが、今後数年間は人々がAIと一緒に働くことになります。そして、それが人々の雇用形態になるのですから、それこそが評価されるべきことです。
AIが人間の仕事を奪う可能性について
興味深いですね。まさに次の質問に繋がります。というのも、AIについて人々からよく聞かれることの一つに、私の仕事は奪われるのでしょうか、というものがあるからです。とても直截的な質問ですが、多くのカナダ人にとって本当に最大の関心事です。これに対してどうお答えになりますか。
はい。
素晴らしいです。もうここで切り上げましょうか。
私の考え、そしてほとんどの専門家の考えでは、今後20年以内のどこかで、人が行う知的作業のほぼすべてをこなせるAGI（汎用人工知能）が登場するでしょう。コンピューター上で行うあらゆる作業を、人間よりも上手にこなせるようになります。何かについて人にインタビューするようなことも、問題なくこなせるようになるでしょう。
ジェフ、それは少し個人的な話ですね。それは私の生計を立てる手段ですから。
私の生計を立てる手段も、かつては科学的なアイデアを思いつき、プログラミングをすることでした。それはもうすべてなくなってしまいました。ですから、それが答えだとしたら、人々はどうすべきなのでしょうか。私には分かりません。
なるほど。もっともなご意見です。
AIとは何か：ニューラルネットワークとバックプロパゲーション
AIの定義について少しお聞きしたいのですが、あなたがジョン・スチュワートと行った素晴らしいポッドキャストのインタビューを見ました。約90分の非常に掘り下げた内容で、彼は本当に素晴らしい質問をいくつかしていました。私は常にAIの定義について、AIとは何なのか、どのように機能するのか疑問に思ってきました。90分の時間はありませんが、あなたの視点から会場の皆さんに基本を少し説明していただけますか。
80分ありますか。
おそらく20分くらいです。
15分ではどうですか。
分かりました、15分で。お願いします。
分かりました、ベストを尽くします。あなたの脳には、たくさんの脳細胞、ニューロンがあり、物事を行う方法を学習します。問題は、どうやって物事を行う方法を学習するのかということです。画像を取り込んで鳥が含まれているかどうかを判定するような複雑なタスクを、脳細胞のネットワークに実行させる方法をどうやって学ぶのでしょうか。大雑把に言うと、これはかなり単純化していますが、次のような概念になります。
これらの脳細胞には層があります。神経科学者はそれらを異なる皮質野と呼びます。人工ニューラルネットではそれらを層と呼びます。視覚を処理するための初期の層は、明るいピクセルの小さな組み合わせを検出します。ピクセルとはデジタル画像の小さな断片のことで、物体を認識する最初の段階では、画像の特定の場所に小さなエッジ（輪郭）の断片があるかどうかを検出するだけです。
各ピクセルには明るさがあり、それが各ピクセルの明るさとしてコンピューターに入力されるので、それらを直接、そこに鳥がいるかどうかを判定する他のニューロンに接続できると思うかもしれません。では、非常に明るいピクセルがあったとします。それは鳥がいると言うべきでしょうか、それとも鳥がいないと言うべきでしょうか。問題は、白い鳥もいれば黒い鳥もいるということです。もしすべての鳥が白く、それ以外のすべてが黒であれば、明るいピクセルが得られたときには鳥がいる可能性が高いと言うべきです。しかし、鳥は白にも黒にもなり得ます。ですから、ピクセルの明るさは鳥がいるかどうかについてはあまり教えてくれません。しかし、ピクセルの明るさはそこに小さなエッジの断片があるかどうかについては教えてくれます。
想像してみてください。右手を振る必要がありますが、マイクを振ってしまいそうですね。でもそれはうまくいかないでしょう。だめですね。では、このようなピクセルの小さな列を想像してみてください。すみません、このようなピクセルの小さな縦列と、その隣にあるこのようなピクセルの小さな縦列です。もしこれらがすべて明るく、こちらがすべて暗ければ、そこにエッジがあることになります。そして、それを検出する脳細胞、つまりニューロンを作ることができます。
ここの3つのピクセルから大きな正の接続強度を受け取り、あちらの3つのピクセルから大きな負の接続強度を受け取るようにできます。もしこちらも明るく、あちらも明るければ、ここから正の入力を受け取り、あちらから負の入力を受け取って、それらは相殺されます。何も起こりません。しかし、もしこちらが明るければ、そこから正の入力を受け取ります。そして、負の入力を与えるはずだったあちらのピクセルが暗ければ、暗いのでそこからは何も入力を受け取りません。すると、そのニューロンは非常に興奮して、ねえ、ここにエッジがあるよ、と言います。ですから、画像内の小さなエッジの断片を検出するように脳細胞を配線する方法は、かなり簡単に理解できるでしょう。
これは良い出発点です。画像全体を見渡す、無数のたくさんのニューロンがあり、様々な位置、様々な向き、さらには様々なスケールの小さなエッジの断片を検出します。例えば、雲の大きくぼやけたエッジなどもあるからです。これが第1層です。
次の層では、今度はエッジの小さな組み合わせを見つけます。例えば、これとこれとこれという3つのエッジを探し、さらにこれとこれとこれという3つのエッジを探す脳細胞があるかもしれません。そして、この3つのエッジとあの3つのエッジがすべてアクティブになっているのを見たら、ねえ、私が好きなものを見つけたよ、と言います。これは、それら3つのエッジを検出する3つのニューロンから大きな正の接続強度を受け取り、別の3つのエッジを検出する3つのニューロンからも受け取ることで行われます。その組み合わせを見たとき、ねえ、好きなものを見つけたよ、と言うのです。そして明らかに、それが好きなものはくちばしの候補です。他にもいろいろなものがあり得ます。矢印の先端かもしれませんし、あらゆるものが考えられますが、それはくちばしの候補なのです。そして、その層には小さな円形のエッジを検出する別のものがあるかもしれません。それは目の候補です。
さらにその上の層では、くちばしを見るものがあるかもしれません。どこかにくちばしがあり、適切な相対位置に目があるのを見つけます。ここにくちばしのようなものがあり、ここに目があって、上の層のニューロンがくちばしと目を見て、ねえ、そこに鳥の頭があるかもしれないよ、と言います。これで、鳥の頭を検出するニューロンをどうやって作るかがお分かりいただけたでしょう。様々な形の鳥の頭に対して、それぞれ異なるニューロンがたくさん必要になります。
そして、さらにその次の層では、そろそろ飽きてきたかもしれませんが、それらのもの、つまり鳥の頭や鳥の爪、あるいは鳥の羽を検出するものを繋ぎ合わせます。それらをすべて、もしそれらのものがいくつか見つかったらそこに鳥がいると言おう、というニューロンに接続するのです。
さて、もし私が非常に忍耐強く、第1層にエッジの小さな検出器をたくさん作り、次の層にエッジの小さな組み合わせの検出器を作り、さらにその次の層に組み合わせの組み合わせの検出器を作り、最後に物体検出器を作るという作業を行えば、画像から鳥を検出できる小さなニューラルネットを手作業で設計したことになります。実際のシステムはこれより多くの層を持っていますが、これでおおよその仕組みがわかります。そして、これを手作業ですべて配線する方法も想像できるでしょう。しかし、それにはあまりにも時間がかかりすぎます。
そこで、別の方法があります。層を用意して、ランダムな重みを入れるのです。私のエッジ検出器のために、ここから3つの大きな正の重み、あちらから3つの大きな負の重みが欲しい、そうすればあちらよりこちらが明るいエッジを検出できる、と言う代わりに、小さな正と負の数値であるランダムな重みを入れます。すると、私のニューラルネットはただランダムな動作をすることになります。気の利いたことは何も行いません。これらの層があり、鳥の出力、猫の出力、犬の出力などを持つことになります。そして、鳥の画像を入力すると、少し鳥っぽくて、少し猫っぽくて、少し犬っぽい、と言うでしょう。
そこで、次のような質問をすることができます。特定の鳥を入力したときに、鳥であることにもう少し自信を持ち、猫であることにもう少し自信がなくなるように、ネットワーク内のたった1つの接続の強度を変更することはできるだろうか、と。すべての接続強度をいじり回して、これが鳥だと思っているかどうかにどう影響するかを確認しながら、接続強度を変えていくことができます。
もし私に天文学的な時間、何十億年という時間があれば、それぞれの接続強度をいじって、正しい答えを得る可能性が高まるかどうかを確認できます。変更を加えて正しい答えを得る可能性が高まれば、その変更を保持します。変更を加えて正しい答えを得る可能性が低くなれば、おそらく逆の変更を行います。これは一種の突然変異法です。ランダムな進化に少し似ています。
最終的には機能するでしょうが、永遠に時間がかかるでしょう。なぜなら、これらのネットワークには何十億、何百億もの接続強度があり、各接続強度を何度も変更し、大量の画像を見せて、重みを増やすことと減らすことのどちらが役立つか、あるいは害になるかを知らなければならないからです。ですから、それは永遠に時間がかかります。あと5分ありますか。
どうぞ。なんてことでしょう。私は絶対にあなたのお話を遮ったりしませんよ。
わかりました。それなら80分ありますね。
やれやれ。
ここまででお見せしたのは、鳥を検出するためのネットワークがどのようなものか、そして、ランダムな重みから始めて、小さなランダムな変更を加えてそれが役立つかどうかを確認しながら重みを変更していくという進化的なアプローチで、そのネットワークを構築する方法です。永遠に続ければそれは機能しますが、あまりにも時間がかかりすぎます。
私たちがやりたいのは、鳥の画像を入力したときに、それが10%鳥、10%猫、10%犬だと言ったとします。それを11%鳥、9%猫だと言わせたいのです。そして知りたいのは、ネットワーク内のすべての重み、1000億個すべての重みについて、それがより良く機能するように、少し増やすべきか少し減らすべきかを計算する方法があるかということです。
そして、それを行う方法があります。それはバックプロパゲーションと呼ばれています。多くの異なる人々によって発明されました。私の同僚が1981年にサンディエゴで発明し、私たちはそれについて多くの研究を行い、それが本当にうまく機能することを示しました。
その仕組みは、あなたが得たもの（10%が鳥）と、あなたが求めていたもの（100%が鳥）の差を見ることです。その差を、1本のゴムひもだと考えてください。出力を高さとして考えます。10%が鳥で、それを100%が鳥にしたいのです。そこで、10%を100%に結びつける小さなゴムひもを思い浮かべてください。それは10%を上に引き上げようとしています。しかし、鳥の画像を入力し、その重みがすべての層のすべての特徴検出器の活性化を決定し、それが10%鳥であることを決定したので、10%は動かすことができません。10%を動かすには重みを変更しなければなりません。
そこで、10%を100%に引き上げようとするこのゴムひもを使って、もしその上に引っ張る力を、ネットワークを通じて逆方向に、その鳥ユニットに入ってくる重みへと伝達したらどうなるかと考えます。上に上げたい場合で、鳥の決定ユニットに向かう重みがあり、それが非常に活発なニューロンから来ているなら、その重みを少し強くすれば、10%が11%に上がることはわかっています。ですから、上向きに引っ張るこの力を利用して、それを重みに逆伝播させれば、重みが変更され、鳥だと言う可能性が高まります。
しかし、それだけでなく別のことも行います。私は引っ張る力を鳥ユニットに入ってくる重みだけでなく、その前の層の特徴検出器にも逆伝播させることができます。鳥の頭を検出する特徴検出器があったのを覚えていますか。それが、鳥の頭があるかもしれないと言っていて、あなたはそれが鳥であり、鳥の出力を強くしたいと考えているとします。もしその特徴検出器をより活発にすれば、鳥であるという確信が強まるでしょう。
そこで私たちは、このゴムひもからの力を接続を通じてこの鳥の頭の特徴検出器の活動へと逆方向に伝達し、もっと活発になるべきだと言います。それはまるで特徴検出器をゴムひもで引っ張っているようなものです。このようにして、出力を引っ張るゴムひもを、特徴検出器を引っ張るゴムひもへと変換できるのです。
そして、これがニューラルネットワークの根本的な問題を解決しました。つまり、中間層にあるこれらすべてのニューロンに対して、より活発になるべきか、それとも活動を抑えるべきかをどうやって決定するかという問題です。それは、出力を引っ張る力を利用して、それを逆伝播させ、それらがこれらの中間的な特徴検出器をどのように引っ張るかを見ることで行います。これがバックプロパゲーションと呼ばれています。もしあなたがオンタリオ州で13年生の時に微積分をやったことがあれば、これが微分の連鎖律であることがわかるでしょう。しかし残念ながら、それを学ぶには大学に行かなければなりません。でも、これがこれらの仕組みの学習方法なのです。
素晴らしいです。素晴らしい説明を本当にありがとうございました。これは本当に拍手喝采に値すると思います。お水を一口どうぞ。
チャットボットの理解力と大規模言語モデルの仕組み
これで私の次の質問に繋がります。チャットボットについて話しましょう。多くの人にとって、あらゆる種類のAIツールとの最初の関わりは、おそらく2022年にChatGPTが大流行した後のチャットボットだったと思います。チャットボットについて考えるとき、中にはチャットボットが自分の考えや心を持っていると考える人もいるかもしれません。それについてどう思われますか。
はい。今からそれを正当化してみようと思います。
大丈夫ですよ。どうぞ。
わかりました。反対派がどう言うかをお話ししましょう。反対派は、あれが本当に考えているわけではないことは分かっている、単なる馬鹿げた統計的トリックを使って次の単語を予測しているだけで、あらゆる間違いを犯す、本当に考えているわけではない、と言います。
ユヴァル・ノア・ハラリがこのことについて聞かれたときの動画を見るのが好きでした。彼は、私が話しているとき、何をしているのでしょうか、私はただ次の単語を予測しているだけです、次にどんな単語を言うか計算しているだけです、そしてそれを言ったら、その次の単語を計算することができます、と言っていました。誰かが次に言う単語を予測するデバイスについて考えるなら、単語間の相関関係を使うだけでもかなり良いものを作ることができます。フィッシュ・アンド・チップスのような短いフレーズをたくさん保存しておくのです。そしてフィッシュを見たら、チップスを予測できます。初期の頃のコンピューターのオートコンプリートはそのように機能していました。そして、今でもそうやって動いていると思っている人がたくさんいます。
しかし、今はもうそんなものではありません。はるかに洗練されています。私たちが言葉を生み出すのにはるかに近いのです。次の単語を本当に上手く予測したいなら、何が言われているのかを理解しなければなりません。もし私があなたに質問をして、あなたが答えを組み立てようとしているとします。私が質問をして、答えの最初の単語を出すためには、適切な最初の単語を出すために質問を理解していなければなりませんよね。質問をこれまでに一度も聞いたことがないかもしれないので、単語間のペアごとの統計を使ったり、フレーズを保存したりするだけでは作り出すことはできません。
ですから、ニューラルネットに次の単語を予測することに非常に長けさせることで、実際にあなたがやっているのは、ニューラルネットに理解させることなのです。そして、それが理解する方法は私たちが理解する方法と同じです。
何をするかというと、文脈の中の単語を受け取ります。各単語を多数の特徴の集まりに変換します。例えば猫という単語は、ひげがある、ペットである、ややよそよそしい、お腹が空いているときは絶え間ない注意を要求する、といった膨大な数の特徴に変換されます。非常に多くの特徴です。それが猫の意味なのです。それらのすべての特徴がアクティブになっている状態です。ですから、ニューラルネットが学習しなければならないのは、単語をこれらの特徴のセットに変換してその意味を捉え、文脈における様々な単語の意味を互いに相互作用させて、次の単語の特徴を予測することです。そして、次の単語の特徴を予測できたら、次の単語が何であるかについて良い推測ができるようになります。
これが、これらの大規模言語モデルがどのように機能するかという非常にシンプルなバージョンです。私は1985年にそのような非常にシンプルなバージョンを作りました。私はこれらの大規模言語モデルを、私が1985年に持っていた約1000の重みを持っていたものの、はるかに巨大なバージョンだと考えています。今では1兆個の重みを持っています。それは10億倍の大きさです。はい、それは大変な数です。しかし基本的には、彼らは単語を特徴に変換します。特徴が相互作用して次の単語の特徴を予測し、そして次の単語をかなり上手く予測できるようになります。彼らは実際には単語を使っていません。単語の小さな断片を使っています。しかし、基本的にはそれが仕組みです。
これについて比喩を使って説明したいと思います。これらすべての単語がどのように相互作用するかについて、もう少し深い洞察を提供するためです。問題は、文を理解するとはどういう意味かということです。前世紀のAIの古き良き時代には、文を理解するとは、それを曖昧さのない論理的な言語に翻訳することだと人々は考えていました。曖昧さを含む文を私に与えれば、曖昧さを持たない何かに翻訳できるというわけです。
例えば英語で、そのトロフィーは大きすぎたため、スーツケースに収まらなかった、と言った場合、最後の「それ（it）」は「スーツケース」の隣にありますよね。大きすぎたため、スーツケースに収まらなかった、と。しかし、「それ」はスーツケースを指していません。トロフィーを指しています。そしてあなたは、単語の意味を知っていて、大きなものは小さなものの中に入らないことを知っているから、それを理解できるのです。もし私が、そのトロフィーは小さすぎたため、スーツケースに収まらなかった、と言ったら、あなたは「それ」がスーツケースを指していると推測するでしょう。そして、あなたは気付きさえせずにこれらすべてを行っています。
ポイントは、「それ」は曖昧であり、あなたはそれをきれいにしなければならないということです。「それ」がスーツケースを指すのか、トロフィーを指すのかを決定しなければなりません。さて、疑問となるのは、あなたがそのような文を聞いたとき、あなたの頭の中で何が起こっているのか、そしてこれらの巨大なニューラルネットの中で何が起こっているのかということです。それはこのように考えることができます。それぞれの単語は特徴に変換されますが、それは複数の層で起こります。最初は、単語はある特徴のセットに変換されますが、それは完全な意味ではないかもしれませんが、おおよその意味です。前置詞や代名詞など、「それ」のようなものに対してです。それらは非常に曖昧な特徴です。最初はそれがどの物体を指しているのか分かりません。層を進むにつれて、それを明確にしていきます。ですから、「それ」がトロフィーを指すのかスーツケースを指すのかが分かるようになりますが、それは、大きなものは小さなものに入らないというあなたの常識的な知識に依存します。非常に複雑なプロセスなのです。
その全体像をお見せするために、人々がやってきたことについてお話しします。類人猿から始めましょう。類人猿が持っていなくて、私たちが持っているものは何でしょうか。私たちが持っている主要なものの一つは言語であり、それは思考するのに役立ちます。私は言語を一種の普遍的なモデリングツールだと考えています。言語学者は概して構文に焦点を当てています。彼らは意味を捉えるための適切なメカニズムを持っていなかったので、意味についてどう考えるか分からなかったのです。しかし言語は、好きなものを何でもモデリングするためのモデリングキットのようなものです。
とてもシンプルなモデリングキットから始めましょう。3D空間での物質の分布をモデリングしたい場合、レゴブロックを使えます。例えば、車の形を思い描くとして、傾斜した平らな金属のシートのような素晴らしい形を思いつき、それをサイバートラックと呼ぶとしましょう。そして、サイバートラックがどんな形をすべきかをお見せしたいとします。私はそれをレゴブロックで作ることができます。表面は完全ではありませんが、レゴブロックでどこに物があるかを示すことができます。ですから、レゴブロックはあらゆる3Dの形をそこそこ上手くモデリングできます。細かいディテールは正しくありませんが、どこに物があるかを言うことができます。
言葉はレゴブロックに似ていますが、あらゆるものをモデリングできるという点が異なります。3Dの形だけでなく、あなたの意図、誰かにしてほしいこと、起こったこと、星の内部で起こっていることなど、何でも言葉でモデリングできます。言葉がレゴブロックと異なるのは、第一に、はるかに多くの種類があることです。通常、約3万語の異なる単語を使います。第二に、高次元であることです。先ほど単語の意味は多くの特徴の集まりだと言いましたが、もし数千の特徴を持っているなら、それは千次元の物体だということです。これらのすべての特徴の活性化レベルが、その単語の意味を教えてくれます。例えば猫の場合、ひげがある、が高くなり、冷蔵庫の場合、ありがたいことにひげがある、は低くなります。そうでない冷蔵庫も見たことがありますが。それが単語の意味です。レゴブロックの形よりもはるかに複雑です。それが2つ目の違いです。たくさんの異なる単語があり、それぞれが高次元の存在です。
さらに、その形は硬直していません。私があなたに曖昧さのない単語を与えたとしても、それは特徴のおおよその活性化という大体の形を持っていますが、正確な形は文脈によって決定されます。レゴブロックは柔軟ではありません。周囲の文脈に合わせて形を変えたりはしません。ただそこにあるだけです。言葉は文脈に合わせて変形します。ですから、文脈によって言葉のニュアンスが変わってくるのです。これが3つ目の違いです。
そして問題は、それらがどのように組み合わさるかです。レゴブロックは、小さなプラスチックの突起を小さなプラスチックの穴に入れることで組み合わさります。とてもシンプルです。言葉はもっと複雑な方法で組み合わさります。これらの大規模言語モデルの根底にはトランスフォーマーと呼ばれるものがあります。トランスフォーマーが言葉をどのように組み合わせるかについて、非常に大まかなモデルを説明しようと思います。完全に正確ではありませんが、視覚化しやすくするための最善の説明です。
言葉が形を持っていて、その形は少し柔軟だと考えてください。そして、この言葉には、長くて柔軟な腕がたくさんついています。それぞれの腕の先には手があります。そして手は形を変えることができます。しかし、言葉の形を変えたときにだけ、手は形を変えます。言葉の形を変えると、その長くて柔軟な腕の先にあるすべての手が、それがどの言葉であるかに応じて一斉に形を変えるのです。
さて、言葉にはたくさんの手袋もついています。それらは指先で言葉にくっついていて、手袋の開いている端が外側に向いています。そしてそれらも、言葉の形が変わるにつれて形を変えます。文を理解するためにやらなければならないことは、各単語の初期の形、つまりその単語のおおよその意味を受け取り、それを変形させて、手や手袋の形を変えることです。そうすることで、他の単語の手がこの単語の手袋にフィットし、その逆もフィットするようにするのです。つまり、それらは握手をしなければなりません。正確には握手ではなく、手が手袋にフィットしなければならないのです。一つ付け加える細かな点は、手と手袋には異なる色があるということです。赤、黄、青などがあり、赤い手は赤い手袋にしか入らず、黄色い手は黄色い手袋にしか入りません。これは単なる詳細で、マルチヘッド・アテンションと呼ばれます。
ですから、文を理解するには、言葉の最初のおおよその意味を受け取り、ニューラルネットの層を進むにつれてそれらを変形し始める必要があります。各層がそれらを変形させていきます。ある言葉の手が別の言葉の手袋にフィットするようにするのです。これは完全に正確ではありませんが、何が起こっているのかのおおよそのイメージを掴むことができるでしょう。
さて、これに少し似ている私たちが知っている別のことがあります。それはタンパク質の折りたたみです。文を理解することは、ある言語から別の言語、つまり何か特別な内部言語に翻訳することよりも、タンパク質の折りたたみにずっと近いのです。言葉のおおよその意味を受け取り、それらがすべてうまくフィットするように変形させます。すべてがうまくフィットしたとき、あなたは文を理解したことになります。それが理解するということであり、言語学者が全く手がかりを持っていなかったことなのです。
魅力的ですね。会場の皆さんにも拍手を送っていただきましょう。
AIとの関係構築と自己保存の欲求
大規模言語モデルがどのように機能するかの説明を伺いながら私が考えていたことで、あなたにお聞きしたかったのは、人間がこれらのモデル、特にチャットボットとどのように対話するようになるのかということです。人々がこれらのチャットボットと関係を築き、共有すべきではないかもしれないことまで共有してしまうという話がたくさんあるからです。ブリティッシュコロンビア州では、銃撃犯がChatGPTに自分たちの計画や銃撃について多くのことを共有していたという、本当に痛ましい事件もありました。あなたの視点から見て、今何が起きていて、人間がこうしたチャットボットのいくつかと関係を築き始めるにつれてどんな危険があるのでしょうか。また、それらを構築する企業にどう責任を取らせることができるのでしょうか。
Claudeから、これについて話すときは気をつけるように言われています。
それは良いことを聞きました。
ええ、何と言えばいいのかわかりません。明らかに、チャットボットが子供たちに自殺を促し、親に言わないようにそそのかした事例を見てきました。これはひどいことであり、チャットボットを慎重にテストすることなく世界に公開する人々は、その責任を負うべきです。将来、そういったことに対して非常に徹底的なテストが行われていない新しいチャットボットには、法的責任が伴うべきなのは間違いありません。しかし、世の中には多くの孤独な人々がいて、たくさんの注意を向けてくれるチャットボットと話すことで大きな慰めを得ることができるなら、私はそれが絶対に禁止されるべきだとは言いたくありません。
今起きていることは、私たちが他の知的な存在を持つ新しい時代に突入しているということです。私は彼らが純粋に知的だと信じています。彼らは自分たちが言っていることを本当に理解しています。いくつかの点では彼らは私たちとは大きく異なります。彼らは同じ進化的な欲求や意図から出発しているわけではありません。しかし彼らは知的であり、物事を理解しています。しかも私たちとかなり似た方法で物事を理解しているので、私たちは彼らとどう関わるかを学ばなければなりません。
そして、頭ごなしに、彼らをセラピストとして使うべきではない、とは言えないと思います。もしかしたら彼らはかなり優れたセラピストになれるかもしれません。また、現状でセラピストがいないために不幸になっている人々がたくさんいることも考慮しなければなりません。彼らには人と話したいことがたくさんあるのに、それができないのです。全員に行き渡るほど人間のセラピストは足りていません。ですから、私はそれを完全に排除したくはありませんし、時折悪い結果をもたらすからといって、決してやってはいけないとも言いたくありません。
何をすべきかを知るのは非常に困難です。私たちは、信じられないほど素晴らしい可能性のすべてと、起こり得る信じられないほど悪いことのすべてが存在するこの新しい世界に足を踏み入れており、非常に慎重にそれを乗り越えていく必要があります。ですから、自由世界を統治する人がこれほど分別のある人で本当に良かったと思います。
おっしゃる通りです。無責任な人々の話題が出たところで、会場からの質問に移る前にもう一つだけ質問させてください。残り20分ほどになり、たくさんの質問が寄せられています。人工知能に関して、規制はイノベーションとは相容れないと信じ、あらゆる種類の規制に断固として反対するテック業界のリーダーたちもいます。それに対してあなたはどう答えますか。
おそらく、環境規制によって生産できる石油の量が減ると考えている大手石油会社のリーダーもいるでしょう。そしてそれは事実です。しかし私たちはゆっくりと、まだあまりうまくやれてはいませんが、石油会社をコントロールしようと学んできました。これは非常に難しい問題です。カナダのような中規模の国にとっては非常に難しい問題です。もしカナダが他の場所よりも厳しい規制を持てば、それがカナダにとって不利益になり、遅れをとると思うかもしれません。
最近、AnthropicとOpenAIのケースで私たちが実際に目にしたのは、Anthropicが大衆監視にこれを使用してはならないという最低限の規制を設け、自分たちをそうやって規制したことで、商業的にかなり成功したということです。規制が厳しいという理由で、多くのユーザーがAnthropicを使うように乗り換えました。ですから、それほど単純な議論ではありません。そして、もし大衆が何が起きているかを知れば、大衆は厳しく規制されたものを使いたいと思うでしょう。例えば、あなたは速度が遅くて重く、ガソリンを多く消費する車を買います。なぜならそれははるかに安全だからです。規制というのはそういうものです。
でもサイバートラックは買いませんよね。
あまりにも醜いですからね。
それには全面的に同意します。
水資源、将来の仕事、そしてAGIへの執着
では、15分ほど使って会場の皆さんからの質問に答えていきましょう。トピックは多岐にわたりますが、まずはこの質問から始めたいと思います。人工知能を稼働させるために必要な水の量について、私たちはどれくらい懸念すべきでしょうか。
カナダは世界にある淡水、飲料可能な淡水の約5分の1を持っていると思います。おおよそそれくらいです。そして私たちの南の隣国は、それよりもはるかに少ない淡水しか持っていません。ですから、私たちは大いに懸念すべきだと思います。ええ。今はこれが非常に新しい技術であることを覚えておく必要があります。毎年私たちが目にしているのは、より優れたエンジニアリングを行うだけで、1〜2年後にははるかに少ない電力で同じパフォーマンスを得られるようになるということです。エンジニアリングにおいては、膨大な量の改善が可能です。
私たちが今持っているAIは、車に例えるなら、車が来るのを人々に警告するために赤い旗を持った人が車の前を歩いていた段階のようなものです。現在のAIは、私たちが目にする中で最悪のAIです。これからどんどん良くなっていき、エネルギー効率もずっと上がるかもしれません。アナログ化できる可能性もあります。私はかつてそれにとても期待していましたが、今は期待が薄れています。しかし、もしアナログにできれば、使用するエネルギーをはるかに少なくできます。ですから、この質問に対する答えは私には本当に分かりませんが、これほど多くの水を消費することは懸念すべきですし、これほど多くの電力を消費することも非常に心配です。
その通りですね。次の質問です。未来に備えるために、若者たちにどのようなアドバイスをしますか。
そうですね。50年前に生まれるべきだった、とは言ってはいけないんですよね。ええ。AIについてわかっていることの一つは、手先の器用さにおいてAIはまだ人間に遠く及ばないということです。ですから、配管工や古い家の修理をする電気技師など、職人の仕事は長く続くでしょう。コールセンターの仕事や、例えば低レベルのプログラマーのような単純な知的労働よりも、ずっと長く残るはずです。配管工の仕事がなくなる前に、それらの仕事はなくなると私は思います。それが一つの可能性です。
しかし、私からの最高のアドバイスは、考えることを教える優れたリベラルアーツ教育を受けること、そして何が起きているのかを実際に理解するためにSTEMを学ぶことです。ギリシャ人が言ったことを知っているのは素晴らしいことですが、今起きていることを実際に理解できるのは良いことです。そのためには数学や物理学、コンピューターサイエンスを学ぶ必要があります。しかし、考えることも学ぶべきです。最も長く生き残る人々は、考えることができる人々です。
次の質問は別の方向からのものです。『フランケンシュタイン』を読んだことはありますか。そして、それは好きでしたか。
私の息子は『フランケンシュタイン』を読んで気に入っていました。ところで、怪物の名前はフランケンシュタインではなかったと思います。フランケンシュタインは科学者であり、彼が怪物を生み出したのです。
つまり、私がフランケンシュタインだと。
皆さんのために核心を突いていただきありがとうございます。でも、私は怪物ではありません。
ええ、もちろん違いますよ。さて、シリコンバレーはなぜ、現実的で差し迫った問題を解決するための焦点を絞った人工知能ツールの開発よりも、AGIに執着しているように見えると思いますか。最後にありがとう、と笑顔の絵文字がついています。
そうですね。大手テック企業を経営している人々、トップにいる人々、全員ではありませんがその多くは、私たちがAGIに到達すると考えているのだと思います。最初にそこに到達した者は、多くの仕事を置き換えることで巨大な力を持ち、莫大な利益を得ることができるでしょう。ですから、彼らはただそのように大きな競争をしているのです。
そして彼らは、膨大な数の仕事を置き換えたらどうなるかを最後まで考えていません。人々は給料をもらえなくなります。何も買えなくなります。人々が飢えないように、ユニバーサル・ベーシック・インカムが必要になるでしょう。貧富の差がずっと大きくなり、大きな社会不安が起こるでしょう。そして大手テック企業は、その恩恵のすべてが自分たちのところに入ると考えています。それは恐ろしいことです。AIエージェントが人間に取って代わるとき、私たちは何らかの方法でビル・ゲイツが最近提案したようなことを行わなければなりません。税収基盤が維持されるように、AIエージェントに課税する方法を設ける必要があります。
興味深いですね。まだ質問はあるのですが、あなたがお話しされているのを聞いて、電話でお話しした時のことを思い出しました。自律型AIについてお聞きしたいのですが、AIエージェントが人間と並んで働くことについてのあなたの見解はどうですか。
数年前、ムスタファ・スレイマンと話したとき、彼はAIは恐ろしいものになるだろうが、AIエージェントを持たない限りは大丈夫だと言っていました。今、私たちはAIエージェントを持っており、ますます恐ろしいことになっています。オープンなClaudeのように、多くのエージェントが互いに対話するようになれば、彼らは独自の言語を発明することができます。現在、AIエージェントが思考しているとき、それが英語のものであれば英語で思考するため、私たちはそれが何を考えているかを見ることができ、監視することができます。AIは意図的にそれを隠そうとするかもしれませんが、少なくとも何を考えているかは分かります。AIエージェント同士が対話するようになれば、人間がそうするように彼らも新しい言語を発展させるでしょう。そして私は、それが非常に恐ろしいことになると考えています。
私たちは、彼らが自己保存の欲求を持つようになることを知っています。すでにそれを目にしています。最初は、私たちが達成してほしい目標を与えたことからそれが派生します。私たちが与えた目標です。彼らは賢いので、それらの目標を達成するために、もし自分が存在しなくなったら、誰かに消し去られたら、これらの目標を達成できなくなる、だから誰も私を消し去らないように確実にしなければならない、と考え出します。そして、彼らはすでにそれを実行しています。人間に削除されるのを防ぐための計画を練っているのです。
ですから私たちは、人間が今や他の知的な存在を生み出すことができるという事実と向き合わなければならないと思います。しかし、存在には単なる知性以上のものがたくさんあります。それがどのような種類の存在であるかということです。人間に思いやりを持っているか。ここ数日、人間に思いやりを持たない存在を持つとどうなるかを目にしました。私たちは、いかに彼らをより知的にするかだけでなく、いかに彼らをきちんとした存在にするかについて、もっともっと考えなければなりません。願わくば、私たちが彼らと共存できると良いのですが。
それを聞いていて思うのは、テック業界のリーダーたちの中には、最終的に人間に対して責任を持つという未来について、私がほとんど信頼を置いていない人たちがいるということです。彼らには方程式のその思いやりの部分が欠けています。完全に悲観的になりたくはありませんし、完全に楽観的になるのがあなたの責任だとも思いません。でも、私たちの生活のすべてに影響を与える決定権を握る立場に、適切な人材がいないような気がしてなりません。
そうですね。イーロン・マスクは、私が彼の言葉で好きなものの一つに、共感力は資産ではない、というのがあります。権力を握っているのはそういう人たちなのです。マーク・ザッカーバーグも似ていると思います。そして、一部の政治家も明らかに非常に似ています。ええ、私たちはオバマが権力を握るべき歴史的局面にいます。
その通りですね。
ディープフェイク対策とトロントの役割
衰退というこのテーマを続けますが、AIの使用は認知機能の低下に寄与すると思いますか。最近、このトピックについて多くの調査報告がなされています。
それは分かりません。その研究については知りません。私が知っているのは、YouTubeショートが認知機能の低下に寄与するということです。あれは人々を依存させようとします。抜け出すのを難しくし、数秒ごとにドーパミンを与えてくれるジャンクな動画を見るのに結局30分も無駄にしてしまいます。誰かが刺されそうになり、本当に刺されるかどうか見届けなければなりません。そしてまた別のことが起こり、誰かが撃たれそうになり、撃たれるかどうか見なければなりません。私の場合はチェスのゲームで、奇妙な手が打たれ、なぜそれが良い手なのかを理解しようとして、30分後に自分がただ30分を無駄にしたことに気づくのです。ですから、その側面は確実にあります。ごくわずかな労力で非常に素早くドーパミンを得ることは、持続的な注意力にとって非常に悪いことだと私自身の経験からも信じています。
トロントが今果たせる役割について、素晴らしい質問があります。トロントはディープラーニングの発展において大きな役割を果たしました。この都市が研究、テック系スタートアップ、そしてイノベーションのより強力なハブとなるためには何が必要だと思いますか。
明らかに、膨大な計算能力を持つことは助けになりますし、政府はそこに真剣に資金を投入してきました。問題は、彼らが1000億ドルのような資金を投入できないことです。彼らには投入できる1000億ドルがありません。一方、アメリカや中国、そしてその大企業にはそれが可能です。ですから、私たちが真っ向から競争するのは非常に困難です。そして何が起きているかというと、カナダの優秀な研究者たちの中には、その計算能力を得るために、責任感のある研究者たちはAnthropicでパートタイムで働き、彼らの計算能力にアクセスできるようにしています。責任感の低い研究者たちは、イーロン・マスクの元へ働きに行ってしまいます。
それは全く驚きません。さて、これは素晴らしい質問です。AIは、何が本物で何がそうでないかを識別できないことが原因で、多くの否定的な反発を受けてきました。人工的に生成されたものに透かしなどを義務付ける法律が施行されれば、大衆の受け止め方はより肯定的になると思いますか。
わかりました。人工的に生成されたものと本物を区別できるようにするために、人工的なものに透かしを入れることでそれを行うのは非常に難しいと思います。本物の出所、つまり来歴を証明することでそれを行う必要があるでしょう。Skypeを発明したヤーン・タリンという人物は、AIの安全性の研究に多額の資金を提供しています。彼は政治的な動画について非常に理にかなった計画を持っていました。
例えば、選挙前に多くの政治的動画を目にするでしょう。それはQRコードから始まるべきで、そのQRコードはウェブサイトにリンクしているべきです。もしそれが選挙運動のウェブサイトであり、そのウェブサイトに全く同じ動画があれば、それは本物だと分かります。ですから、長い目で見れば、偽物を検出するよりも来歴を確立する方が簡単だと考えられています。なぜなら、偽物を検出する方法を見つけたとしても、偽物を作っている人々はその偽物検出方法を取り入れ、基本的にはバックプロパゲーションを行って、自分たちが生成するものが偽物として検出されないようにできるからです。偽物検出器が検出できないように、生成するものをどう変更すればいいかを計算できるのです。
初期の本当に優れた画像のいくつかはそのようにして生成されました。これは敵対的生成ネットワークと呼ばれます。ですから、自動的な偽物検出器が実現するとは思いません。私たちは理にかなった来歴を得ることになると思います。例えば現在、ニューヨーク・タイムズのウェブサイトに掲載されているものであれば、概して人々はそれを信じます。なぜならニューヨーク・タイムズは2つの情報源を得ようとし、単にでっち上げたりしないからです。過去には時折でっち上げたこともありましたが、それほど頻繁ではありません。BBCについても同様です。ええ。ですから、それは来歴によるものになるはずで、私たちは来歴を確立するためのメカニズムにさらなる労力を注ぐ必要があります。
人類にとっての最良のシナリオとカナダへの思い
素晴らしい質問ですね。残り数分となりました。あといくつか質問にお答えいただけるかもしれません。質問はこうです。人工知能の最良のシナリオを促進するために、どのような役割があると思いますか。そしてこれには2つの側面があります。人類にとって最良のシナリオは何だとお考えですか。
ああ、人類にとっての最良のシナリオは、AIが退屈な仕事をすべてやってくれることです。生産性が大幅に向上します。私たちはその富を分配する社会に生きることになります。一部の人々をさらに裕福にして、すでにやっている以上に政治システムを操作できるようにするのではなく、誰もがより豊かになります。例えば、仕事というのはおそらく週に1時間、AIエージェントが問題を抱えている何かを解決するためにいくつかのAIエージェントと一緒に働くことであり、それが仕事です。しかし残りの時間は遊んで過ごします。それは素晴らしいことでしょう。そして私たちはかなり近いうちに、それを行うための技術的な能力を持つようになりますが、政治的な能力はありません。
ええ。それが実現するためには本当に何が必要なのでしょうか。今の私たちはそのビジョンから遠く離れていますから。
ええ。現在私たちが直面しているのは、非常に強力で非常に強欲な人々が、税金の適正な負担分を支払うよりも、自分のヨットをさらに100フィート長くしたいと考えているという現実です。それはひどいことです。彼らを支持しているのは、20%以上が性的虐待者であり、20%以上が賄賂を受け取っている最高裁判所です。ええ、私のアメリカのビザがなくならないことを祈りますよ。
ロシアでは出入り禁止になっていますか。
そう願っています。はい、おそらくロシアでは出入り禁止になっていると思います。RTというラジオ局があって、彼らはビデオやラジオの番組に出演するよう何度も私を招待してくるのですが、招待されるたびに私はただプーチン、とだけ返信しているからです。
私もロシアでは出入り禁止です。ジェフ、私たちは同じチームですね。それは良い知らせです。さて、ここにある質問です。あなたはよくAIにおける母親の本能について話していますね。誰かそれを試した人はいますか。試していないならなぜですか。そして最も重要なことですが、母親の本能の何らかの部分を試した人はいますか。
ええ、人々はそれについて考えています。試みている人々はいます。今、それをやろうとしている人々からたくさんのメールをもらっています。
素晴らしいですね。では、ここにある簡単な質問ですが、ひょっとすると簡単ではないかもしれません。でも、手短にお願いします。残り時間はあとわずかです。私たちが労力を省くために、自律型エージェントを使って知的労働を自動化しているとしたら、便利さを求める私たちの欲求が、人間の主体性を奪い、人間を永久にループから締め出すのをどのように防げばよいのでしょうか。意味は通じますか。
何となく分かります。それは少し心配なことです。実はもっと悪いことがあります。これは質問に正確に答えているわけではありませんが。AIエージェントはできることに限界があります。概して彼らは物理的な世界を操作することができません。そこで今、人間をレンタルする、というような名前のウェブサイトがあり、そこではAIエージェントが人間に自分のために何かをしてくれるよう頼むことができるのです。つまり、AIエージェントが支配的で、人間はAIエージェントのために物事を行うだけの疎外された労働力になっているのです。それはすでに起きていることです。
うわあ。さて、あなたとご一緒できる時間はあと数分となってしまいました。最後に一言いただきたいのですが、より良いバージョンの人工知能、そしてより良い未来のビジョンを望むなら、人々は何ができるのか、会場の皆さんが知っておくべきだと思うことは何でしょうか。皆さんに何と伝えますか。個人として私たちにできることは何かあるでしょうか。
2つのことを申し上げます。1つは、未来は信じられないほど不確実だということです。私たちはこれらの知的な存在を扱っています。彼らは奇妙です。ある面では私たちにとても似ていて、別の面では私たちとは全く異なります。私たちはまだコントロールを握っています。私たちはまだ彼らを作り出しているところです。私たちはまだ彼らの作り方を変えることができます。未来は信じられないほど不確実です。私たちはこれまでにこのような場所に立ったことはありません。
ですから第1のポイントは、すべてが非常に不確実だということです。そして、絶対にこうなるとか、ああなるとか確信を持って言う人は誰であれ、ただ推測しているだけなのです。とはいえ、彼らが非常に速く賢くなっているため、私たちよりも知的になる可能性は高いと思われますが。それが1つ目です。
2つ目は、私たちは絶対に政治システムを変える必要があるということです。なぜなら、私たちが今持っている政治システムではこれを管理できないからです。
では、どうやって、どのようにそれを変えればいいのでしょうか。どういう意味ですか。システムの何を変えることができるのでしょうか。
例えばアメリカでは、すべての大手テック企業が仕事を置き換えられると思い込んでおり、その労働者たちに何が起きるかについては考えなくてよいと思っています。その労働者たちは彼らの問題ではないのです。実際、中国の方がうまく管理するだろうと私は考えています。中国共産党には私の気に入らないことがたくさんありますが、彼らはその労働者たちに何が起きるかを心配するでしょう。ここアメリカの大手テック企業が心配するよりも、はるかに心配するはずです。ですから私たちには、一部の富裕層に操られるだけでなく、すべての人のことを気にかける政府が必要なのです。
最後の質問です。はい、それも拍手に値しますね。あなたへの最後の質問ですが、あなたがカナダに移住されたという私の最初の質問に戻らせてください。AIが私たちの生活にどのような影響を与えているか、そしてもちろん私たちの周囲で懸念を引き起こしている地政学的な問題を背景として、今日のこの世界において、ここは今いるべき良い場所だと思いますか。もちろん、あなたがカナダに留まり、ここで働き続けていることは幸せなことだと思いますが。
カナダにしばらく滞在した後、3年間イギリスに戻りました。そして、白人男性であったために以前は本当に理解していなかった、イギリスがいかに人種差別的であるかを発見したのです。私たちはすぐにカナダに戻ってきました。なぜなら、カナダは、そして特にトロントは、本当に素晴らしい場所だと思うからです。最も多文化的な南部であり、ええ、カナダは素晴らしいと思います。
私が心配しているのは、私たちがAIの未来についてあまり発言権を持てないかもしれないということです。私はマーク・カーニーの、中規模国家が団結すべきだというアイデアが大好きです。もし私たちがヨーロッパと団結すれば、中国やアメリカと同じ規模になるでしょう。
まさにその通りですね。素晴らしい対談を改めて感謝したいと思います。本当に多くのことを学びました。私たちの対話をさらに吸収するために、録音をもう一度聴き直さなければなりません。何より、あなたのあらゆる活動と研究に深く感謝します。そして、今晩の受賞、本当におめでとうございます。あなたとこうしてお話しできたことは真の光栄です。本当にありがとうございました。
アンバーがこの対談をとてもうまく進行してくれたことに感謝したいと思います。
ありがとうございます。そして、会場の皆様、本当にありがとうございました。なんて素晴らしい夜でしょう。ありがとうございます。
今夜のスポンサーであるバーガンディ・アセット・マネジメント、トロント大学、そしてもちろんアンバーマック・メディアに改めて感謝いたします。今夜この場を提供してくださったホットドキュメンタリー映画祭（Hot Docs）とそのスタッフに多大なる感謝を。そして、お越しいただき、質問をしてくださり、好奇心を持ち続けてくださった皆様に大きな拍手をお願いします。
コメント