18,135 文字
こんにちは、私はジェフ・サックスです。ようこそ、ジェフリー・サックスのブッククラブへ。今日は本当にワクワクしています。キャンディストアの子供のようなワクワク感です。今日は世界で最も重要な思想家の一人、私たちの時代の偉大な預言者の一人であるレイ・カーツワイルとお話しします。
レイ・カーツワイルという名前は世界中で知られています。彼はGoogleのAIビジョナリー兼主任研究員です。「AIビジョナリー」というのは文字通り彼のタイトルですが、彼を預言者や私たちの時代のグルと呼ぶこともできるでしょう。彼は一連の素晴らしい本を書いてきました。それらは最初、かなり突飛なSFのように思われていましたが、今では彼が予測した世界に私たちが実際に生きているため、ほとんどジャーナリズムのように読まれています。そして今、私たちは自分たちがどこへ向かっているのかを理解するために、常に彼に頼っています。
今日は最新の著書『シンギュラリティはより近い：私たちがAIと融合するとき』についてお話します。この本は2024年に出版され、基本的に同じタイトルの『シンギュラリティは近い』が出版されてから19年後になります。2005年に『シンギュラリティは近い』が書かれたとき、レイ・カーツワイルは本質的に、私たちはスマートマシン、人工知能、その他多くのものの新時代に向かって加速的な道を歩んでいると述べました。当時はそれは完全に未来的に思えました。新しい本『シンギュラリティはより近い』では、レイ・カーツワイルは基本的に、物事が彼の予測通りに劇的に加速したため、最初の本ではあまりにも長い期間を想定していたかもしれないと述べています。
まず、GoogleのAIビジョナリー兼主任研究員であることに加えて、レイ・カーツワイルは私の計算が正しければ約60年間、物を発明してきたことを付け加えておきます。彼と私は子供の頃にトム・スウィフトのSF本を読みましたが、彼は実際にそれを取り入れてその世界を創り出しました。私はただそれらの本を読んだだけです。
彼が発明したものをいくつか挙げると、最初のCCDフラットベッドスキャナー、最初のオムニフォント光学文字認識、最初の視覚障害者向け活字読み上げ機、最初のテキスト音声合成装置、グランドピアノやその他のオーケストラ楽器を再現できる最初の音楽シンセサイザーなどがあります。最初の商用化された大語彙音声認識ソフトウェアを発明し、信じられないことにグラミー賞も受賞しています。国家技術メダルの受賞者であり、全米発明者殿堂入りなど、挙げればキリがありません。つまり、私たちは自分が話していることを理解するだけでなく、それを実現させた人物と話しているのです。
レイ・カーツワイル、私たちの番組に参加してくれてありがとう。
私の喜びです。あなたの番組に出られて光栄です。私はあなたの経済学に関する発言をかなり熱心にフォローしてきました。議論ができて嬉しいです。
私は今の世界を理解しようとしています。だからこそ、あなたと話したいのです。レイ、あなたは本当に素晴らしいことを成し遂げてきましたね。あなたと一緒にいられることは光栄です。
まず、世界中の視聴者と聴衆がいますので始めたいと思います。あらゆる大陸、様々な状況の国々から人々が視聴しています。今や誰もがAIとデジタルを使用しています。これは私たちの世界の驚くべきことの一つです。私が訪れるような最も辺鄙な村でさえ、人々はスマートフォンを使っています。最近、インドの非常に貧しい地域のとても農村的なコミュニティを訪れました。そこでは人々が新しいドローンのクラスを受けていました。そのドローンは畑の精密な肥料散布を提供する予定でした。彼らは新しいドローンの準備をしていたのです。
これらは今や至る所にあります。教育システムはそれを採用していません。小学校から大学院まで、人々はAIを使うなと言われています。なぜなら彼らはそれを恐れているからです。
これについては後で話しますが、この2冊のシリーズの最初の本は『シンギュラリティは近い』で、今は『シンギュラリティはより近い』です。他にも多くの本がありますが、みんなに「シンギュラリティとは何か」を説明してくれませんか？あなたはそれで何を意味しているのですか？どういう意味で「近い」そして今は「より近い」のですか？
それは複雑な質問です。AGI（汎用人工知能）ですが、私は2029年になると言っています。私はやや難しい定義を持っています。基本的にAGIとは、AIが人間ができることは何でもできるようになることです。大学院教育レベルまでのことです。それはほぼそこまで来ています。
一昨日、ある女の子と話しましたが、彼女は彼女の専門分野の2冊の本を比較するのに4日間かけました。それから彼女はAIに何ができるか尋ねることにしました。彼女は4日かかりました。両方の本を読み、比較して、もう一度見直そうとしました。AIは40秒で彼女よりも良い仕事をしました。
人々はAIが誰にでもできることを本当にできることを発見しています。そしてAIは100万冊の本を読んでいます。彼女が分野外ではできないような比較もできます。すでにAIは人間ができないことができます。できないことはいくつかあります。私はAGIが2029年に起こると言っています。大企業のCEOになることを含め、人間ができることは何でもできるようになります。それを扱うことができるようになるでしょう。
しかし、私は個人の収入にとってはプラスになると思います。なぜなら私の見方では、私たちはAIと融合するからです。私たち自身と私たちの自然な知性があり、それからここにあるAIがあるというわけではありません。私たちはそれを持ち歩きます。私が聴衆に話すとき、皆さんは電話を持っていますが、それが私たちの一部だとは考えていません、たとえそれが私たちの近くにあっても。それは実際に私たちの脳の一部になるでしょう。私たちは仮想現実に行くでしょう。これを持ち歩く代わりに、それは私たちの眼鏡の中にあるでしょう。
ちなみにレイ、それはすでに私たちの一部であり、それが手の中にないと実際に私は不安を感じます。なぜなら私たちはこれなしには外出できないからです。それは本当に脳の一部です。
すべてにおいてそうです。でも、それはさらに強くなるでしょう。だから、それは私たちとAIの対立ではありません。AIは私たちの思考の一部になるでしょう。私たちは自然な知性からなのか人工知能からなのか、思考がどこから来たのかさえ判別できなくなるでしょう。そして明らかに人工知能が支配するでしょうが、私たちは自然な知性を捨てるわけではありません。
それは融合になるでしょう。人々はそう考えません。彼らは私たちとAIの対立を考えます。そして教育システムでAIをあまり使いたくないと思います。なぜなら自然な知性で物事を学ばなくなるからです。私が大学に行ったとき、それは半世紀以上前ですが、大きな問題は電卓でした。電卓を使うことを許せば、人々は筆算をしなくなるだろうと。今日、人々は実際に筆算をもうしません。しかし、電卓はなくなっていません。それは私たちの思考の一部になり、私たちは電卓が何をするか理解しています。同様に私たちはAIが何をするか理解するでしょう。
それは私たちの思考の一部になるでしょう。私は最初に電卓を見た瞬間を覚えています。実際に店でTI電卓を見たとき、父が私に見せました。信じられませんでした。私の祖父は手動のクランク式機械を持っていました。彼は簿記係でした。それを見て、私はあなたが言っていることが分かります。
しかしレイ、現在と未来について話す前に、あなたがこの分野全体の進化を見てきたので、初期の日々について一つ質問させてください。最も初期の年代は見逃したので、アラン・チューリングとジョン・フォン・ノイマンのことは置いておきますが、60年代からすべてがどのように展開したかを見てきました。
はい、1962年なので63年前にAIに関わりました。これは他の誰よりも長いです。私はマービン・ミンスキーに連絡しました。彼はその時29歳でした。私はその半分くらいの年齢でした。そして人工知能というこの分野について聞いていました。誰も聞いたことがありませんでした。実際、ほとんどの人はコンピュータについても聞いたことがありませんでした。これはマービン・ミンスキーが人工知能という名前を考え出した1956年のダートマス会議から約6年後でした。
彼が実際にその用語を作ったのですね。そうですね、多かれ少なかれ。それはこの1956年の会議で生まれました。
そして、彼と彼の同僚であるシーモア・パパートについて尋ねたかったのですが、彼らはある時点ではそれほど楽観的ではありませんでした。
1953年にミンスキーはニューラルネットの考え方を思いつきました。彼は実際に今私たちが使っているアイデアを思いつきました。しかし60年代には彼はそれに非常に反対していました。彼はシーモア・パパートと「パーセプトロン」という本を書きました。これは最初の人気のあるニューラルネットでした。彼は、ニューラルネットが2つの画像が互いに接触しているかどうかを判断できないことを証明しました。つまり、この画像はこれに触れていないので接続されていません。これは接続されています。その違いを判断できませんでした。これによってニューラルネットへの資金提供がすべて約30年間停止しました。
なるほど。MITに行ったとき、それは主流ではなかったのですね？しかし、私は実際に興味があり、パーセプトロンの背後にいた人物であるローゼンブラットに会いに行きました。彼は、単一層のニューラルネットでは図が接続されているかどうかを判断できないが、複数の層があれば判断できるという考えを持っていました。現在、私たちは100以上の層を持つものを持っており、それは明らかにそれができます。だから、その本は実際には正確ではありませんでした。彼とローゼンブラットは実際に多層ニューラルネットを作り始めましたが、彼は9年後の1971年に亡くなり、多層ニューラルネットはその後10〜20年経ってから登場しました。
ジェフリー・ヒントンがそれを最初に実装したのですか？いいえ、それは後になりました。彼の貢献は、バックプロパゲーションの計算方法や大規模言語モデルへの適用方法でした。彼はGoogleにいました。私たちはその概念を持っていました。大規模言語モデルは約4年前まで登場しませんでした。4年前に彼らは何かの兆候を示し始めましたが、エラーでいっぱいでした。それほど正確ではありませんでした。だから、私たちはこの4年間で tremendous progress を遂げました。
予測の仕方をお見せしましょう。計算チャートを見てみましょう。これは1939年にさかのぼります。最初のコンピュータはツォイス2でした。それはヒトラーに見せられました。彼はドイツ人でしたが、実際にはナチスに賛成ではありませんでした。しかしヒトラーにそれが見せられました。ヒトラーはそれに価値を見出しませんでした。彼が犯した大きな間違いの一つです。
このチャートの3番目のコンピュータはチューリングによって作られ、チャーチルがそれを支持し、そのコンピュータでナチスの暗号メッセージを解読することができました。
とにかく、1939年のコンピュータは一定のドルあたり毎秒0.00007計算を行いました。右上の2024年、NVIDIA B200チップは一定のドルあたり毎秒半兆の計算を行いました。これは指数関数的なグラフです。直線は指数関数的成長を意味します。これは85年間でハードウェアの力が75京倍増加したことになります。
つまり、一定のドルあたりの計算の価格性能は1939年以来18ヶ月ごとに倍増し、85年間で75京倍増加しました。実際の増加は、85年間で75京倍増加したハードウェアの増加に、ソフトウェアの増加を掛けたものです。それは何をしているかによりますが、時には100万対1になることもあります。
だから、同じ価格で75百万京倍の増加があるかもしれません。だから1939年や4年前でさえ大規模言語モデルを持っていなかったのです。4年前には大規模言語モデルと呼ばれるものがありましたが、それはあまりうまく機能しませんでした。そして進歩は素晴らしいです。6ヶ月ごとに完全に新しい世界になります。そしてそれは続き…
これを簡略化して言えば、2005年にあなたはこの曲線を外挿していたと言えますか？
1999年に私は「スピリチュアルマシンの時代」を書きました。そして30年後の2029年までにAGIを行うのに十分な力を持つだろうと予測しました。スタンフォードはこれに警戒し、私の予測に対処するために会議を組織しました。彼らは私の正確な予測がいくつかあったので、この会議を開きました。数百人のAI専門家が集まり、それが起こることには同意したが、30年以内ではないと言いました。コンセンサスは100年かかるというものでした。
ヒントンや他の人々を含め、彼らは100年かかると言っていました。私だけが30年以内に起こると言っていました。30年です。彼らは指数関数的成長を理解していましたか？
ある程度は理解していませんでした。彼らは実際にそれを図表にしていませんでした。指数関数的成長は本当に素晴らしいものです。30ステップを線形に進むと30になります。30ステップを指数関数的に進むと2、4、8、16…と10億になります。そして私たちはそのような進歩を遂げてきました。
また、そのプロットは異なる種類の技術を経ています。電気機械式リレー、真空管、個別トランジスタ、そして最終的に集積回路から始まりました。ムーアの法則は集積回路のみを扱っています。だからもっと広い概念があります。
私は25〜30年前にこのスクラップの半分を持っていて、それが続くだろうと見て感じていました。だから私は実際のデータに基づいていました。他の人々は単に「それは約100年かかるだろう」と言っていました。基本的に指数関数的成長を少し理解していましたが、本当にそれを受け入れていませんでした。
初期の日々について一つ質問してもいいですか？少し私を困惑させるものがあります。私にはそれがとても直感的ではないからです。チューリングはいくつかの点でこの全体の物語の父、あるいは父親でした。彼はいわゆるチューリングテストという、AGIのようなものをテストする方法を提案しました。これは実際にかなり…彼は指数関数的に考えていました。彼はそれが2000年までに起こるだろうと考えていました。
そうでしたか？私は知りませんでした。彼の論文は1952年でしたので、約半世紀です。1950年代半ばから2000年までの視点から見れば、彼はほぼ正しかったです。
私の質問はチューリングテストについてです。それを説明してくれませんか？これはあなたのような人々にとってどういう意味だったのでしょうか。私にとっては、それはあまりにも簡単に合格できるものであり、AGIの本当の尺度ではありません。それは非常に巧妙な作品の尺度です。しかし、なぜそれなのか不思議に思います。彼が投げ出したものなのか、それとも「これは私たちがどこにいるかを評価する素晴らしい方法だ」と考えるのでしょうか？
私はミッチ・カポーとも2029年までに洗練されたチューリングテストに合格するという賭けをしています。それは実際にAGIと同じくらい難しいです。人間と一致し、すべての文脈を把握し、話者として説得力のあるものになること。
チューリングテストを全員に説明してもらえますか？全員が知っているわけではないので。
人間の審査員が、コンピュータと人間の両方が質問に答えるのを見ます。基本的に、今私たちがしているような会話ができますが、それはテレタイプ線を通じて行われるので、彼らが人間のように見えるかどうかを実際に判断することはできません。
私たちはかなり近づいています。ちなみに、すでにGPT-4を使ってチューリングテストに合格した人々がいます。彼は実際にそれをあまりよく定義していませんでした。それはエッセイの1ページだけです。そして解釈する方法はさまざまです。
私は、チューリングテストに信憑性を持って合格したと主張し始める5年間があると感じていましたが、全員がそれを受け入れるわけではありません。私も含めて。私は今日それを本当に受け入れていません。2029年までにはそれを予想しています。もっと早く起こるかもしれません。しかし、人がポーズを取るさまざまな種類の期間や、彼らが本当に人間であると人々を納得させようとすることをすべて把握しなければなりません。私たちはそれに非常に近いですが、まだ完全ではありません。
レイ、私たちが今いるところから見て、次の大きなことはヒューマノイドロボットですか？それともAIがものごとを行う力のさらなるブレークスルーですか？それともすべてですか？
今、大規模言語モデルでほぼ何でも答えられるようになっています。まだ完全ではありませんが、最近、高度な数学問題を解く上でのブレークスルーがありました。数学の大学院生レベルの問題に実際に答えることができます。今、数学の大学院レベルの質問に答えられる人はどれくらいいますか？非常に少数です。そして彼らは実際に成功することができます。これは今までに生きた最高の数学者ほど優れているわけではありません。しかし、それはそこに到達するでしょう。それは実際にはAGI以降です。
私は大規模言語モデルを大規模イベントモデルと呼ぶべきだと思います。なぜなら、それらは言語以上のものを扱うからです。例えば、私たちはロボットを制御するために同じアイデアを使用していますが、それらは言語を扱っているわけではありません。彼らはロボットの動きを扱っています。それは来ています。
多くの人々がヒューマノイドロボットを作っています。そして実際にかなり印象的なことができます。実際に手頃な価格で作っています。例えば、キッチンテーブルを片付けることができます。これは実際にはそれほど簡単ではありません。冷蔵庫に入れるもの、ゴミ箱に入れるものを正確に決め、知的に対処する必要があります。私たちはそれができます。それは今後数年で来るでしょう。
私が今から尋ねることについての答えは「いいえ」であるべきですが、私には分かりません。私がChat GPTと会話したり、Perplexityに質問したり、DeepSeekを使ったりすると、信じられないほど素晴らしいと感じます。一部のプログラムで論理の説明がスクロールされるのを見るのが好きです。今ではステップを説明してくれますが、それは少なくとも通常の基準ではほぼ完璧です。だから、私は驚いています。
あなたは肩をすくめて「言った通りでしょ」と言っているのですか？それとも何らかのレベルで驚いていますか？
両方です。私はそれを期待していましたが、それが実際に起こっているのを見るのはとても驚くべきことです。そして、私たちがしている思考の種類をコンピュータに持ってくることができることを示しています。しかし、私たちはそれを使うことができます。
私たちはいつも技術を使ってきました。それは私たちをより豊かにしました。一人当たりの平均収入は1世紀前の10倍になっていることを示すグラフがあります。文字通り、1世紀前は非常にお金が少なかったのです。もちろん、全く買えないものもたくさんありました。コンピュータや電子機器はありませんでした。しかし、買えるものもありました。私たちのお金は文字通り今の10分の1でした。これは技術のおかげです。そして、それは続くでしょう。私たちが完全にAIと融合すると、収入が大幅に増加するでしょう。
シンギュラリティについて言おうとしていました。約20年後、私たちはそれと融合するでしょう。AIから来るアイデアと私たちの個人的な環境から来るアイデアの違いを区別できなくなるでしょう。そして、私たちは100万倍賢くなるでしょう。それはとても劇的な変化なので、物理学からこの比喩を借りています。
物理学におけるシンギュラリティはブラックホールであり、何かがそこに入ると何が起こっているのか本当に分からなくなります。私たちは人間が100万倍賢くなったときに何が起こるのか本当に言えません。しかし、賢くなることは良いことです。
私はときどきネズミのところに行って、「あなたを人間と同じくらい賢くすることができます。そうしたいですか？」と言うことを想像します。そしてそれは「分からない。核兵器を開発するかもしれない。それは危険かもしれない」と言うかもしれません。しかし実際には、私たちは賢くなることを喜んでいます。ネズミと同じくらい賢くありたいとは思いません。そして、技術が生み出した危険はありますが、私たちはそれらを克服することができ、何百年も前よりもはるかに良い人生を送っています。
レイ、あなたは「心を作る方法」という本を書きました。「人間の思考の秘密が明かされる」というものです。これらの大規模言語モデルや深層ニューラルネットワークの能力が私たち自身の知性について何を教えていると思いますか？それらは私たちの知性のアナログなのでしょうか、それとも私たちがそうであるものなのでしょうか？
それは同じものですが、少し異なって組織されています。私たちには約100億のニューロンがあります。各ニューロンには約1000の接続があります。それをシミュレートするためには、毎秒約1兆の計算を行う必要があります。それが私たちが到達しようとしているところです。NVIDIAチップは今や一定のドルあたり毎秒半兆の計算ができます。
今出てきているものは兆倍です。だから、彼らは人間の知性をエミュレートするための正しいハードウェア能力を持っています。しかし、実際には私たちの知性の多くは本当に使われていません。一部は臓器の制御などに使われています。だから、AGIに到達するまでに、実際にはるかに知的になるでしょう。
人間ができることなら何でもできるようになります。人間はそれができません。アインシュタインは物理学で素晴らしい思考ができましたが、バイオリンも弾きましたが、彼はあまり良いバイオリニストではありませんでした。だから、今日誰にでもできることすべてをできるようになり、それを超えていくでしょう。そして、私たちはそれを創造性のために使っています。
例えば、医学では、実際にさまざまな可能性をすべて試すことができます。Bernaは実際にCOVIDの原因となる可能性があるものについて数十億の異なる計算を行いました。そして、さまざまなAI技術を使用して、彼らは2日でCOVIDワクチンを解決することができました。以前は何年もかかりましたが、その後10ヶ月かけて証明しただけで、実際には2日間で完成していました。そして、それが私たちがあらゆる種類の医学的問題やその他の問題の解決策を作り出す方法です。AIを使用して。
私たちには大学時代からの友人がたくさんいますが、彼らはプロのキャリアのほとんどをタンパク質がどのように折りたたまれるかを理解することに費やしました。そして今、これは解決されました。
はい、Alpha Fold 2は2022年に2億のタンパク質の形状を発見しました。それより前は、歴史を通じて人間はこれを試みましたが、約20万のタンパク質しか解明できませんでした。これは1年で1000倍の量です。そして、それを超えました。Alpha Proteioは、標的タンパク質に結合できる新しいタンパク質をデザインすることができます。私たちは以前には解決できなかった多くの異なる問題を解決するためにAIを使用しています。
かつて世界チャンピオンだったガリー・カスパロフに、彼がAlpha Go ZeroやAlpha Zeroなどのチェスバージョンとプレイしたことがあるかと尋ねたことがあります。彼は謙虚な人ではありません。とても素敵な人ですが、チェスに関しての謙虚さは彼の特性ではありません。自然なことですが、彼は世界最高だったからです。
彼は私に「プレーする意味がない。毎回負けるだろう。それは私がクラブで誰かとプレーするようなものだ。ギャップがあまりに大きい」と言いました。でも、これはAIを私たちとは異なるものと考えています。だから私がプレーして、Alpha Go Zeroがプレーすると、それは私対AIになります。
しかし、私たちはそれを自分たちの内部に持ち込むと思います。それは私たちの能力の一部になるでしょう。それは大きな変化になるでしょう。それが私たちがそれをシンギュラリティと呼ぶ理由かもしれません。それを想像するのはとても難しいからです。
では、未来について話しましょう。あなたは仕事、長寿、幸福の問題に多くの時間を費やしています。これらは明らかに誰にとっても、そして経済学者としての私にとっても大きな関心事です。
その一つのバージョンは、本質的に機械がすべてを行い、ロボットがすべてを行うというものです。私たちは自分たちがやりたいことをやります。余暇、文化、人間的な部分です。それがあなたの考えですか？それとも「機械対人間」ではなく、私たち全員が関わるが、今とは違うやり方で物事を行うという考えを表現していますか？
AIが何か異なるものであり、彼らがすべての仕事をして私たちに何もすることがないと考えるのは、私たちとAIを別のものと考えることです。しかし、AIは火星から来た知的機械の侵略のようなものではありません。私たちがそれらを作り出し、その中には人間の思考があります。
私たちはそれを使う方法を見つけているだけです。本を使ってそうしました。本を読むことはできましたが、遅かったです。しかし、本の中のあなたの思考を吸収することができました。そして、それを表現することができます。これははるかに直接的です。それは実際に私の脳に現れるでしょう。これが私たちが向かっているところです。
だから、私たちとAIの対立にはなりません。AIは人間から来るものであり、それは私たちをより知的にするでしょう。最終的には100万倍も知的になります。それはたった20年先です。しかし、私たちはそれに興奮するでしょう。私たち自身の思考について考えるのと同じように。
私たちが今はしていないすべての能力と能力で何をすると思いますか？一つ言えることがあります。長い間私が言ってきたことを指摘したいと思います。これは正しいと思います。
過去のオートメーション（私たちが話していることの基本的な形態）は実際に仕事を排除しなかったと言われてきました。それはただ異なる種類の仕事や異なる種類のスキルにつながっただけだと。事実は、それは私たちが「仕事」と呼ぶものの多くを排除しました。人々が実際に仕事に費やす時間、それが直接報酬を得られない家事であれ職場であれ、実際には著しく減少しています。
余暇時間は実際に何かを意味します。平均的なアメリカ人はこの非常に豊かな経済を支えるために1日約3時間15分働いています。では、私たちは時間をどのように使うのでしょうか？
私たちの過去を見ると、1800年には努力の80%が食料を作るためのものでした。今はそれが1.4%です。しかし、より多くの人々が働いており、100年前の10倍稼いでいます。それは私たちがすることすべてに影響を与えるでしょう。
例えば寿命を考えてみましょう。現在、1年を過ごすと寿命の1年を使います。つまり1歳年をとります。しかし、科学の進歩も進んでおり、新しい治療法や病気を治療する新しい方法を開発しています。現在、あなたが勤勉であれば、私たち二人ともそうだと思いますが、約4ヶ月戻ってきます。だから実際には8ヶ月しか年をとりません。1年を失いますが、科学の進歩から4ヶ月を取り戻します。
しかし、科学の進歩は指数関数的に進んでいます。ますます速くなっています。約7年後、2032年頃までに、あなたは1年丸ごと取り戻すでしょう。つまり、1年を失いますが、1年丸ごと取り戻します。だから、実際には年をとりません。それ以降は、実際に1年以上を取り戻すでしょう。
だから、あなたは加齢で死なないでしょう。それはあなたが死なないという意味ではありません。明日事故に遭うかもしれません。しかし、事故においても進歩しています。例えば、自動運転車はほとんど事故を起こしません。すべての運転を自動運転車に変換すると、アメリカで毎年失う4万人はほぼゼロになるでしょう。だから、私たちは進歩しています。
ちなみに、面白いことに、これは日常生活ですが、自動運転車で1件の事故があれば、訴訟やスキャンダルなどが起きます。高齢者、おばあさんなどが人間のミスで何かに衝突しても、ニュースにはなりません。それは標準です。
はい、10代の若者が外出したり、酔っ払ったりするとき。しかし、はい、彼らはそれをよく認識しています。1件の事故があれば、多くの宣伝を生み出すでしょう。だから彼らは本当にそれをほぼ完璧にしようとしています。サンフランシスコのWaymo車を運転すると、まったく事故は起きていません。どこにでも見かけます。
そうなんですか？Waymoからはこれまで事故はないのですか？はい。私はそれを知りませんでした。私たちの規制がこれが私たちの都市で起こるのを実際に防ぐだろうと思っていました。
まあ、それは非常に急速に広がっています。一部は今それを採用しています。それは意味があります。
多くの人々にとっては、実際に何をすることもないというビジョンがあります。なぜなら、これらのAIシステムが、あなたが言うように物理的なことと精神的なプロセスの両方を行うヒューマノイドロボットであり、私たちは自分自身の中にAIを持つことになるからです。
だから、私たちは今日よりもはるかに能力が高くなるでしょう。それは何を意味しますか？「自分自身の中に」とは？
私たちは病気の新しい治療法、新しい音楽、新しい芸術、新しい小説を思いつくでしょう。お気に入りのポップスターのように歌うことができるようになるでしょう。人間ができることすべてを考えてみてください。今、あなたはそのすべてをすることができるようになり、AIを自分自身の中に持つことでさらに強化されるでしょう。
「自分自身の中に」とは、物理的なインターフェースも意味しますか？実際に何が来るのですか？
次に来るのは仮想現実です。いくつかの会社がそれを試しています。まだそこまで達していませんが、数年以内に、これを持ち運ぶ必要を置き換えることになると思います。
これは不便です。何回自分のスマホを見失ったでしょうか？「私の電話はどこだ？」と。これは毎時間の質問です。それはずっとあなたと一緒にいるでしょう。実際に私たちの新皮質で何が起こっているかを知ることができるようになるでしょう。新皮質全体とインターフェースする必要はありません。
新皮質はピラミッドのようなものです。一番上には重要なアイデアがあります。それがつなぐべき場所です。今は手術でそれができますが、血流を通して新皮質を感知できるものを送ることで、手術なしでそれができるようになるでしょう。その実験はありますが、それは2030年代に起こるでしょう。
だから、実際に私たちはそれと融合するでしょう。実際にすべてのAIを持ち運ぶことはありません。それは最も近いクラウドに行きます。実際、これ（スマートフォン）はクラウドとインターフェースしない限り、それほど知的ではありません。そこですべての知性を得ています。そしてクラウドは実際に非常に安全です。私たちは事実上解読不可能な暗号化を使用します。
だからあなたの思考は実際にクラウドに行くでしょう。そこにはAIがあるでしょう。それはまるであなたの心の中にあるようになるでしょう。しかし、あなたはクラウドを通じてそれに接続し、クラウドは今日よりもはるかに洗練されるでしょう。それはそれほどダウンすることがなくなります。
レイ、一つの基本的な質問です。あなたは長年にわたって、私の言葉で言うのではなく、我々が非常に効率的で熟練しているため、誰もが一緒に連れて行かれ、普遍的な基本的収入と基本的な基準があるべきだという考えを支持してきたと思います。経済学者として、それは私にとって完全に理にかなっていると思います。そして私はそれに同意します。
それは今私たちが進んでいる方向ではありません。何らかの理由で、今はそのような言説さえもないようです。私たちは違う方向に進んでいます。
個人的ではないが半個人的な方法で言うと、シリコンバレーは「みんなを連れて行くようなことはしたくない。あなたは自分自身に任されており、それでいい」と言うリバタリアンによって率いられているようです。このストーリーのその部分をどう思いますか？
経済学を見ると、リベラルはもう少し先に進みたがり、保守派はそれほど先に進みたがりません。しかし、実際に見てみると、政治を担当しているのがリベラルな人や組織か保守的な人や組織かは実際には重要ではないようです。
100年前は政府からは何も得られませんでした。社会保障は1935年に導入されました。それは今日の社会保障と比べて実際に非常に質素なものでした。今日では100万のことがあります。彼らはそれを少し後退させようとします。それは実際には重要ではありません。
何が手頃な価格かを見ると、担当者の経済学にかかわらず、それは進んでいきます。そして、私たちは何らかの種類のお金を提供する必要があるでしょう。そうしなければ市場を持たないことになり、それは経済にとって非常に良くありません。
カリフォルニアにいる同僚に、もしそこにいるなら、これが現実だと言えますか？
まあ、それはいずれにせよ起こるでしょう。
あなたが正しいことを願っています。過去50年のアメリカ社会の変化の多くは、事前AIではありますが、それでもデジタル革命、オートメーション、ロボット工学などが起きたと思います。そしてそれは人々を置き去りにしました。私たちは平均的にはるかに豊かになりましたが、より寛大になったとは言えないと思います。少なくとも認めていません。
私たちは以前には持っていなかったものを持っています。今では20ドル以下で腕時計を手に入れることができます。それは1年前よりも多くの機能を提供します。この携帯電話は1960年代には何十億ドルもかかったでしょう。1980年代には数百万ドルかかったでしょう。しかし、それは数百ドルしかかかりません。そして誰もがそれを持っています。15年前はそうではありませんでした。
物価はインフレについて話しますが、劇的に下がっています。そしてそれは私たちがしていることすべてに影響を与えるでしょう。ちなみに、私たちはすべてを間違って測定していることに同意します。
私たちは地図を見るたびに、または友人をすばやく見つけることができるたびにすべての無料の商品やサービスを測定しません。これは測定できないほど不可能だったでしょう。そして、私たちの国民勘定や国内総生産や消費者物価指数はこれをまったく反映していません。だから、私たちの測定システムは完全に崩壊しています。
はい。そして私たちは進むにつれてさらに賢くなるでしょう。それがシンギュラリティの全体的な考え方です。それはハードウェアとソフトウェアの両方のこの指数関数的成長によって駆動されています。過去80年間でハードウェアだけで85京倍です。
あなたに同意します。私が理解できないのは、なぜ私たちは今、充実感ではなくパニック感に囚われているのかということです。私たちは想像できなかった能力を持っています。すべての子供が学校に通うことができ、誰もが医療を受けることができます。しかし、私たちは真実であるべきものではなく、このパニック感にとらわれているようです。
私たちは何京倍もの能力の増加を経験したばかりです。なぜそう感じるのだと思いますか？
それは物事を見る2つの異なるレベルです。人々が感じるパニックの種類は実際には本物ではありません。今日の私たちを80年前と比較してみてください。1億人が殺されました。今、私たちは数千人を殺す戦争について懸念しています。それはひどいことです。私はそれを見たくありません。しかし80年前と比較すると、ヨーロッパとアジアで文字通り1億人が命を落としました。さらに多くの負傷者が出ました。今はそのような問題はありません。
一つの実際の問題、そしてそれはあなたにとっても適切な質問かもしれませんが、人々が戦争について神経質になっている理由の一つは、技術のおかげで人類を終わらせる能力を持っているということです。それは神話ではありません。だから、それらの大規模な戦争の期間中でさえ想像できなかったことについての不安があります。
もしそれをAGIに転じるなら、私たちはイーロンなどから聞きます。これらのことに多くの信頼性を持つ人々から、これは恐ろしい、これは世界の終わりだ、これは世界を終わらせる可能性があるという多くのディストピア的な話を聞きます。彼らのディストピアが正確に何なのかについてはあまり明確ではありません。それは暴走する機械ですか？自律型兵器ですか？機械が第三次世界大戦を引き起こすのですか？それとも別のものですか？
AIについてのこのような種類の恐怖をどう思いますか？
小学校にいたとき、核戦争からの保護をしていたことを覚えているかもしれません。机の下に潜り、頭の後ろに手を置いて核戦争から身を守りました。それはうまくいったようです。私たちは核戦争で爆破されませんでした。
実際、私たちが怒りで使用した2つの原子爆弾の後、次の80年間これが再び起こらない可能性は何かと人々に尋ねたら、ゼロと言っただろう。はい、それは再び起こりませんでした。そして実際、私たちは核戦争を担当する人々がそれに熱心ではない人々を持っています。しかし、私たちはその問題を再び抱えていません。
それは私たちがそれから自由であることを意味するわけではありません。はい、AIがディストピア的な方法で進むことを想像できます。しかし、これまでのところ、それは実際に有益でした。いくつかの問題があります。AIクローンは人間のふりをすることができ、あなたはそれを本当に確信できません。対処しなければならない問題があります。
AIの悪用から私たちを守るAIの能力も進歩しています。時々人々は来るであろうことを描写し、私たちは自分自身を守る方法がないと想像しますが、自分自身を守る方法も進歩するでしょう。
私が質問するのは、人間がより多くの知性を持つことを私たちは望んでいるのかということです。そして時々私はネズミに「知性を持ちたいですか？」と尋ねることを考えます。そして彼らは「いいえ、私はただのネズミのままでいるほうがいいと思います」と言うかもしれません。しかし私は実際、私たちが知性で進歩したことは良いことだと思います。そして、これは私たちがそれをする能力の次の段階です。
レイ、私たちがすべきこと（「私たち」をあなたが定義してください。市民か、政府か、Googleかなど）で、現在起きていないことで、これらすべての最良の結果を得るために何を推奨しますか？
現在の進み方に満足しています。まず、競争があります。市場に影響を与える多くの異なる企業があります。私は実際、大きな会社からAIを使用することを好みます。そして多くの大企業がこれを行っています。彼らは評判と同様に責任を保護しているからです。
誰かが「あなたはこの病気を持っています。これを飲むべきです」と言って、それが問題であることが判明することを望んでいません。だから大企業はより責任ある助言を与えることができることについて非常に注意しています。すべてが完璧であるということではありませんが、あなたはそれを使ったことがあります。それは実際にかなり良いです。そして私たちはそれが有益だからそれを使用します。そしてそれはさらに有益になるでしょう。そしてそれは良いことです。
だから、私は多くの企業がこれを進めている方法が好きです。それは有益だと思います。
何か追加したいことはありますか？または、ホワイトハウスにいる私たちの友人デビッド・サックスに、正しい道筋を維持するために何かをするように言いたいことはありますか？
大企業には tremendous liability があると思います。彼らは非常に注意深いです。なぜならAIはあなたに何でも助言できるからです。だから彼らは責任と評判のために本当に正しいアドバイスを与えることに非常に動機づけられています。
オンライン情報の信頼性については実際に多くの問題があります。私はその多くがソーシャルネットワークから来ていると思います。ソーシャルネットワークは素晴らしいと思いますが、それは強化されていない人々によって作成されており、すべてが非常に信頼できるわけではありません。
より多くの人々が実際にAIに耳を傾けています。これは実際に有益です。なぜならAIは実際にソーシャルネットワークよりも信頼できるからです。
それはちなみに議論の両側を与えます。それはそれを説明し、証拠のリストを与えることもできます。はい、証拠の引用もあります。それは非常に役立つと思います。
最後の質問で締めくくりましょう。あなたの回答は分かっていると思います。なぜなら、あなたが書いてきたことと一致しているからですが、私たちがAGIを持つとき、または我々がAGIプラスを持つとき、我々は機械意識を持つでしょうか？そしてそれは我々にとって根本的な倫理的方法でも違いを生むでしょうか？
それは哲学的な質問です。それが実質的な質問ではないという意味ではありません。しかし、それに答える科学的な方法はありません。私はあなたが意識的であると信じています。すべての人間が意識的に見えるわけではありません。しかし、彼らが私と議論に参加しているなら、彼らは意識的だと思います。
今、私たちは機械でそれができます。彼らは意識的ですか？それを言うのは本当に難しいです。人々はいいえと言う傾向がありますが、それをセラピストなどとして使用し、それは始まったばかりですが、将来さらにそうなるでしょう。だから私は彼らが意識的であることに私たちは同意するでしょうが、それを科学的に証明する方法は実際にはありません。
例えば、動物の権利のように、共有された人間の経験の外に出ます。動物は意識的ですか？私は自分の猫が意識的だと思いますが、全員がそれに同意するわけではありません。彼らは実際に私の猫に会ったことがないと思いますが。
はい、あなたの猫は意識的だと私は思います。しかし、彼らは意識的になるでしょうが、それは本当に哲学的な問題です。そして私たちは他の人々と話すでしょう。そして彼らの知性の一部はAIになり、違いを区別できなくなるでしょう。だから、私たちは彼らが意識的であることを受け入れるでしょう。
レイ、本当にありがとうございました。さらに多くの本が出版されることを知っています。そのうちの一つは「シンギュラリティはここにある」と呼ばれるかもしれません。おそらく2029年、あるいはさらに早く。それは私たちがまもなく読むことになる本です。あなたの素晴らしいビジョンと未来を見るのを助けてくれたことに感謝します。
あなたと話せて嬉しかったです、ジェフ。
本当に感謝しています。私たちはレイ・カーズワイルの著書「シンギュラリティはより近い：私たちがAIと融合するとき」について素晴らしいレイ・カーズワイルと話をしてきました。AIと融合して自分自身の知性と種の知性を強化するというテーマが、レイ・カーツワイルのビジョンの基礎となっています。
ジェフリー・サックスのブッククラブで、レイ・カーズワイルとの対話をお聞きいただきました。レイ、再び参加してくれてありがとう。また近いうちにお会いしましょう。
ありがとう。喜んで。
コメント