この書き起こしは、著名な未来学者レイ・カーツワイルと投資家デイビッド・S・ローズによる対談で、カーツワイルの最新著書「シンギュラリティはより近い」の内容を中心に展開される。カーツワイルは1990年代から一貫して、コンピューティング技術の指数関数的成長により、2029年までに汎用人工知能（AGI）が実現し、2045年にはシンギュラリティが到来すると予測してきた。この対談では、技術進歩の歴史的データを基に、AIと人間の融合、寿命の大幅延長、無制限のエネルギー獲得といった未来予測が詳細に論じられている。また、AI時代における教育、医療、雇用の変化についても議論が展開され、楽観的な未来像が描かれる一方で、AI alignment（AI整合性）の課題についても言及されている。
さて、通常レイのイベントを始める時、人々はポッドキャストやインタビューでレイと話すと、この並外れた人物が誰なのかという話に約30分費やすことになります。なぜならレイは個人として極めて興味深い歴史を持っているからです。ですから、それを最初に済ませてから、今日の本当に重要なこと、つまりアイデアに入っていきましょう。
ですから、誰の話を聞いているのか、そして彼が話すことをどう理解すべきかを知るために、レイの背景を少しお話しします。彼はここにいる多くの方と同じくニューヨーカーです。クイーンズで育ち、公立学校のPS 158、188、そしてマーティン・ヴァン・ベジェルン高校に通いました。
彼は5歳で発明家になることを決意しました。え、6歳から始めたって？そうです、6歳です。ああ、20％も長いですね。8歳でロボット製作を始めました。14歳で新皮質の理論に関する最初の論文を書きました。15歳で最初のコンピュータープログラムを作成しました。そして17歳までに、ここにいる年配の方々が覚えているかもしれないテレビ番組「I’ve Got a Secret」に出演していました。
その17歳の少年が持っていた秘密とは、音楽を作曲するコンピューターを開発し、製作し、プログラミングしたということで、その音楽が番組で演奏されました。この発明は最終的に全国科学コンクールで優勝しました。ウエスティングハウス才能検索で勝利し、ホワイトハウスに招待されてリンドン・ジョンソンから祝福を受けました。
そして大学に進学すると、20歳で起業家として最初の会社を設立しました。高校生の大学選択を支援するというものでした。最終的にそれを売却し、今日の価値で約100万ドル相当の利益を得ました。その後、発明家、起業家、未来学者としてのキャリアの中で数多くのことを成し遂げました。最初のオムニフォント光学文字認識、CCDフラットベッドスキャナー、最初のテキスト音声合成装置、視覚障害者向けの最初の読書機の発明に貢献しました。
1980年代にはスティービー・ワンダーと共に働き、実際の楽器のように聞こえる最初のシンセサイザーを発明し、それが世界の主要ロックグループのステージでの標準となりました。この発明により彼はグラミー賞を受賞しました。ここにいる皆さんでグラミー賞を持っている方はいますか？
それ以来、彼は音声認識、電子学習、医学教育、投資ソフトウェアなど、さらに多くの革新と発明を行ってきました。彼について「トランセンデント・マン」から「シンギュラリティ・イズ・ニア」、「プラグ・アンド・プレイ」まで、実際に5本の長編映画が作られていると聞けば、この並外れた人物がどれほどすごいかお分かりいただけるでしょう。
しかし、今夜ここにいる理由は、レイが非常に若い頃から、技術について、何が起こったか、何が起こっているか、そしてどこに向かっているかについて多くの観察を行い、本を書き始めたからです。彼の最初の本は1989年に書かれ、1990年に出版されました。それは「インテリジェント・マシンの時代」と呼ばれていました。
この本で彼は1989年の時点で、コンピューターが人間の心を模倣し始めるほど強力になっており、最終的には汎用人工知能、つまり人間と同じくらい賢いコンピューターを持つことになると指摘しました。これは、インターネット以前の時代で、人々はコンピューターについて聞いたこともないような時代でした。ですから、この本は話題になりませんでした。誰も読まなかったのです。AI分野の専門家の間でのみ読まれ、実際に1990年の最優秀科学書賞を受賞しましたが、一般大衆には全く理解されませんでした。
10年後の1999年、彼は「スピリチュアル・マシンの時代」という2冊目の本を書きました。今度は彼は予測を倍増させ、コンピューターが人のような心を発達させるだけでなく、意識や精神性を含めて人のようになり、これが今から30年後、2029年までに起こると言いました。
突然、人々は「それは本当に奇妙だ。これはSFのようだ」と言うようになりました。この本は科学書のカテゴリーでベストセラーになりましたが、それでも一般大衆には届きませんでした。この分野での3冊目の大きな本が出るまでさらに6年かかりました。それが「シンギュラリティ・イズ・ニア」という本でした。
この本で彼は予測を倍増させ、AIで起こることと同じタイムラインを維持し、他のすべてもそれに伴って進歩し、近い将来、心を圧倒するような結果を得ることになると指摘しました。この本が爆弾でした。大ブレイクしたのです。国際的なベストセラーになりました。
基本的に、これに対して3つのグループの人々が反応しました。最初の3分の1の人々は「それはクレイジーだ。人間の例外主義だ。人は人だ。コンピューターにはそんなことはできない。ばかげている」と言いました。2番目のグループは「あなたの歴史分析は正確だが、心配する必要はない。なぜなら我々はそこに到達しないからだ。我々は地球を温暖化で破壊するか、スーツケース核爆弾で自分たちを滅ぼすだろう」と言う悲観主義者でした。しかし3番目のグループは「あなたが正しいなら、我々は何をすべきか？」と言いました。
そのグループから、レイはX賞財団を設立したピーター・ディアマンディスと共にシンギュラリティ大学と呼ばれるものを創設しました。私もその時点でレイと関わるようになりました。シンギュラリティ大学は、「未来が来る。それが来ることを知って計画を立て、これで何ができるかを見よう」と言うために人々を集めました。
これがすべて非常に重要である理由は、レイが予測してきたことが文字通り心を圧倒するものだからです。スタートレックやスターウォーズで見るようなSFではありません。本当に心を曲げ、心を圧倒するものであり、すべては一つの言葉「指数関数的」に集約されます。
そこでレイ、この背景を踏まえて、伝記的な部分を終えたところで、技術の変化率について最初に考えるきっかけとなったのは何でしたか？
それはかなり良い記憶ですね。私の背景を紹介する前に話さなければならないでしょう。私は長い間指数関数的成長に関わってきました。実際にグラフを見せることができれば、これはコンピューターの歴史です。指数関数グラフ上にあります。
これは1939年に始まり、1ドル当たり毎秒0.00007回の計算を行うコンピューターでした。そして右上角の2024年は、1ドル当たり毎秒5000億回の計算を行うNvidiaコンピューターです。つまり、75,000兆倍の増加です。千兆は「クアドリリオン」を意味するので、同じ価格で得られるコンピューターの量が75,000兆倍増加したのです。そしてこれはハードウェアだけです。
実際の計算速度は、ハードウェアの増加にソフトウェアの増加を掛けたものに等しいです。ソフトウェアの増加も変化しています。何をするかによりますが、通常は100万倍程度です。つまり、同じ金額で75兆倍の増加に匹敵します。だからこそ1939年には大規模言語モデルがなかったのです。
これらは狂った数字です。75,000クアドリリオン。私たちには理解できません。しかし、それが実際に起こったことです。しかし、私たちはそれが起こったことを知っていても、それでも理解できません。人間は線形に考えることに慣れています。前進すれば何が起こるかが見えます。
これは大規模言語モデルを作り出します。現在見ている増加量は、ハードウェアとソフトウェアを合わせて年間約10倍です。大規模言語モデルが今日行うことを、わずか1年前に行ったことと比較してみてください。
例を挙げましょう。Gemini 2.5に「E・E・カミングスの詩のスタイルで面白い詩を書いて」と言いました。それだけです。1年前にこれを試しましたが、うまくいきませんでした。しかし、これが書いてきたものです。
「しっぽにけいれんのあるリスのナッツ君、そのけいれんはとても重要そうで、ピーナッツを発見した。ピーナッツではなく、心してほしい、そのピーナッツを。丸くて、太って、輝かしく、二本足の巨人によってそのまま置かれた、おそらく忘れっぽい奴に。彼は鳴いた。喜びの小さな爆発、あるいはガスかもしれない。リスでは判別が難しい。そして月曜日の朝のモチベーションのように見えないほど素早い足でそれを掴んだ。
そして恐怖が。青いカケス、磨かれた軽蔑のような目をした羽毛の泥棒が舞い降りた。前述のけいれんするしっぽを持つ我らが英雄はひるまなかった。彼は跳んだ。踊った。反カケス曲芸のぼんやりした嵐になった。ピーナッツは、ああ。重力よ、残酷な女主人よ。一度、二度跳ねて、排水管に落ちた。ゴボゴボ。ナッツは見つめた。青いカケスはにやりと笑った、そう見えた、そして飛び去った、おそらく劣ったげっ歯類を嘲笑うために。ああ、ほとんどと失われた昼食に満ちた世界よ。ナッツはため息をついた、リスの息の小さな一吹き、それでもしっぽをけいれんさせ、まだ重要で、少し叙事詩的でないドングリを見つけるために駆け去った、おそらく。」
皆さんの中でこれができる方はいますか？これを作るのに20秒かかりました。もう一度やってみたところ、全く違う、しかし同じくらい面白い別のものを書きました。これは1年前には不可能でした。これが現在我々が1年で達成している進歩の量です。
つまり、それは1年間での並外れた発展です。しかし興味深いことに、これはあなたが持っているこのグラフの軌道に乗っています。これはコンピューティングパワーを示しています。これはハードウェアです。また、ソフトウェアの向上もあります。現在、我々は実際にハードウェアの向上よりもソフトウェアの向上を多く達成しています。
では、このハードウェアとソフトウェアを組み合わせた効果的な倍増率はどのくらいですか？
現在、実際に年間約10倍ずつ増加しています。毎年10倍です。1、2、3、4と行くのではありません。線形に行けば直線になり、外に向かって1ステップごとに上に1ステップ上がります。30ステップ外に出れば、30ステップ上になります。
一般大衆のほとんどは線形に考えます。1、2、3、4と進み、ステップ30では30になります。2、4、8、16という指数関数的成長では、ステップ30で10億になります。そして、それが実際に見てきたものです。
これはいつから起こっているのですか？
これは実際に1939年に遡るプログラム可能なコンピューターです。1939年からコンピューターがあったのです。
あなたの最初の本「シンギュラリティ・イズ・ニア」の重要な論点の一つは、この技術の効果的成長が人類史の始まりまで遡るということですね？
その通りです。財政成長を見せれば、これはアメリカの平均的な人が実質ドルで稼ぐ金額です。100年前から今日まで、約10倍の増加です。つまり、我々は実際に過去100年間、一人当たり等価ベースで年間10倍の金額を稼いでいるのです。なぜなら、我々の仕事が技術によって増幅されているからです。
1年ずつ見ているときは気づきませんが、長期間で見ると分かります。
オリジナルの本「シンギュラリティ・イズ・ニア」が爆弾だった理由は、このハードウェアと最終的にソフトウェアの技術的組み合わせが記録された歴史の始まりからこの速度で倍増し続けていることを示す700ページの徹底的で証明可能な分析だったからです。そしてそれは継続しており、2029年までにAGI（汎用人工知能）に到達するという予測も行いました。
AGI、汎用人工知能をどう定義しますか？
それが何を意味するかについては議論がありますが、基本的に一台のコンピューターがすべての人間ができることを、あらゆる分野の大学院レベルまで行い、それらを組み合わせて、はるかに迅速に行うことができるということです。誰かがこれを書けたとしても、20秒ではできません。
最終的にAGIとは、世界中のあらゆる分野の誰よりも100％賢いコンピューターを持つことを意味し、大学院レベルまでできて、誰もそれはできません。アインシュタインは物理学について特定のことを知っていましたが、実際はバイオリンを弾くことに興味がありましたが、彼はヤシャ・ハイフェッツではありませんでした。ハイフェッツは実際に物理学が好きでしたが、アインシュタインではありませんでした。
人々は特定の分野で専門家ですが、すべてで専門家ではありません。AGIを持てば、そのAGIはすべてで専門家であり、それはハードウェア上で動くソフトウェアの問題なので、それを複製でき、はるかに迅速に物事を行うことができます。
モデルナは実際にワクチンを作るために数億の異なる可能性を調べ、実際にシミュレーションを経て、さまざまなAI技術を使用しましたが、ワクチンの基礎とした一つを除いてすべてを排除することができ、それを2日で行いました。人間がそれを行うには通常どのくらいかかるでしょうか？年か数十年かかるでしょうが、これは2日でした。
つまり、本質的にAGIは、誰よりも賢いコンピューターを持つ汎用人工知能であり、複製可能であるため、全世界のすべての人よりも賢い80億台のコンピューターでAGIを動かすことができます。しかし、それはコンピューティングパワーだけですよね？あなたの本は、ロボット工学から神経科学まで、他のすべてを扱っています。
ロボット工学は実際にもう少し時間がかかります。現在、我々は実際にテーブルの掃除を自動化していません。2029年までにはそれができると思いますが、コンピューターができるすべてを持つことはできず、それにはもう少し時間がかかるでしょう。
人々はコンピューターの進歩のタイムラインを見てきました。コンピューターは明らかに世紀の初めには存在しなかったので、最上部に到達すると別の技術が入ってくる異なる技術があったはずで、これらはパラダイムシフトですね。最後のパラダイムシフトが集積回路だったとすると、次のパラダイムは何ですか？ムーアの法則は集積回路のみを扱います。
元のチャートに戻ると、これはリレーから始まり、真空管、個別トランジスタ、そして集積回路、そしてAI専用の集積回路に進みました。これは少し異なります。一つの技術から別の技術に変わるとき、それは見えません。基本的には指数関数的成長の直線です。人々は指数関数的成長で考えません。
人々と話すとき、彼らは「過去にそれは10年かかったから、今度も類似のことは10年かかるだろう」と言い、指数関数的に考えません。
量子コンピューティングが技術の指数関数的成長に与える影響についてどう思いますか？
私は量子コンピューティングの大ファンではありません。
大ファンではない？なぜですか？
これはすべて従来のコンピューティングですが、非常に高速です。毎秒兆の計算を行うところから、毎秒0.007の計算から始まりました。量子コンピューティングのアイデアは、各ビットがキュービットで、正と負の両方を考慮でき、50キュービットを組み合わせれば、その50キュービットのすべての組み合わせを考慮できるということです。
したがって、暗号化コードを破ることができます。なぜなら、暗号化コードは大きな数を因数分解できる必要があるからです。非常に大きな数を与えれば、実際にその因数をすぐに導き出すことができます。従来のコンピューターはすべての可能性を試さなければならず、非常に長い時間がかかり、基本的にはできません。
彼らは量子コンピューティングで多くの進歩を遂げたと言いますが、実際にはこの方程式を解くことができません。実際に1ビットを取ることができません。彼らが実際に行った最大は7ビット程度で、それができるかどうかも明確ではありません。7ビットはもちろん従来のコンピューティングでもできますし、約50ビットに到達しない限り意味がありません。
30年代からの集積回路とこの全体が最後の主要なパラダイムシフトだったとすると、我々をシンギュラリティに導く次のパラダイムシフトは何ですか？
これまでにいくつかあるでしょうが、ナノテクノロジーを使用するようになったときです。例えば、ロブ・フライタスは究極のナノテクノロジーベースのコンピューターを分析しており、基本的に1リットルサイズのコンピューターが毎秒10の25乗回の計算を行うことができ、これは地球上のすべての非強化人間に等しいとしています。
それは今日の我々がいる場所をはるかに超えていますが、それは可能なことの究極かもしれません。
「シンギュラリティ・イズ・ニア」が05年、つまり今から20年前に出版されたとき、当時の人々には完全にクレイジーに見えることを予測していました。我々はAGIが2029年までに起こると予測し、これに詳しい人々は30年には同意しませんでした。
スタンフォードは実際に会議を開催し、数百人が私の予測を検討するために集まりました。彼らは皆、そう、それは起こるだろうと同意しましたが、30年以内ではないと。そこの80％はそれが起こると思いました。20％は決して起こらないと思いました。しかし、80％は100年以内に起こると思いましたが、30年ではありませんでした。
あなたは30年以内に起こると予測していました。昨年、新しい本「シンギュラリティ・イズ・ニアー」ではなく、30年間2029年までに起こると予測し続けて、新しい本ではどこに落ち着いたのですか？
同じことです。同じことです。30年間、基本的に最初から正しかったと言い、予測したすべてが起こったと。今では保守的です。ニューヨークタイムズが記事を掲載し、彼らは2027年にAGIを持つと言っています。2029年は現在保守的と考えられています。
効果的に、1989年、1999年に最初に書いたことが30年後に起こると言ったとき、人々はそれがSFでナッツだと思いました。「シンギュラリティ・イズ・ニア」が出たとき、人々はそれは一種のナッツだが本当に恐ろしく、もしかしたらと思いました。そして今、これは受け入れられた知識です。ほとんどの人がその事実を受け入れています。
私はこのグラフに基づいていました。グラフの約半分を持っていて、それが継続すると予測し、実際に継続しました。人々は基本的に「100年後になるだろう、いいランだから」と言いました。
ファッションなので、元々それを証明したあなたの本全体と、20年後を振り返った今、「私はこれを言い、それが起こった。あれを言い、それが起こった。そして根本的な基盤となる論点は、この指数関数的成長で、それが起こった」。したがって、それは2045年とシンギュラリティにつながります。
2029年またはそれより早くに、地球上の誰よりも良く考えることができるコンピューターとその無制限の数を持つ汎用人工知能と、2045年のシンギュラリティとの違いは何ですか？
まず後退しましょう。シンギュラリティとは何ですか？
2つのことがあります。まず、AGIに到達します。これは、コンピューターが人ができることを何でもでき、はるかに高速に行うことを意味します。私の最初の予測は当初拒否されました。彼らはそれが起こるだろうが100年かかると感じ、私は30年と言っていました。今、人々はそれを受け入れましたが、私はそれが実際に人類にとって良いことになると言っています。
一方、この分野に関わっている人々の大多数は、やや否定的から非常に否定的です。それは人類を一掃するでしょう。これが論争的な側面になりました。
興味深いことに、2029年までに我々は、そこにいるすべての人よりも賢い非人間の同数を持ち、地球にとって何が最善かを知っているかもしれないと仮定すれば、我々はどのようにアライメントを維持するのか？どのようにこのAGI、この新しい知性が我々のためまたは我々と共に働くことを確保するのか？
私はほとんどの人とは多少異なる意見を持っています。人々は、我々にはAIがあると考えます。そして人工知能があります。それはここにあります。我々対人工知能です。まるでこれがどこからともなく来たかのようです。AIが火星から来たかのようです。それは我々とは何の関係もありません。他の誰かによって作られました。
我々がそれを作っただけでなく、それは実際に我々を強化するでしょう。今、それは我々をある程度強化しています。コンピューターを使用できますが、わずかな違いです。ここにいる皆さんが携帯電話を持っていることは間違いありません。この会議に携帯電話を持参しなかった人の数は非常に限られているでしょう。
それは20年前や10年前でさえ真実ではありませんでした。人々は携帯電話を持っていましたが、いつも持参するわけではありませんでした。今、これは実際に自分自身を強化していますが、最終的に我々は区別できなくなるでしょう。
何かがAIから来るのか、自分の心から来るのかを区別できます。なぜなら違いが分かるからです。それは実際に我々の内部に入るでしょう。違いが分からなくなるでしょう。何かを考えたのか、AIによって作られたのかを区別できなくなります。我々ははるかに賢くなるでしょう。
今日AIが行うことができるとしましょう。「～のスタイルで面白いものを書いて」と言います。AIは我々が使用するツールになり、ますます我々と反応します。AGIと2029年とシンギュラリティの違いは何ですか？その融合はどのように起こりますか？
完全な融合は2030年代を通じて行われるでしょう。なぜなら、現在、何かが電話や何らかの電子機器から来るのか、自分の心から来るのかを区別できるからです。2030年代初頭、つまり2033年頃には、それがAIから来るのか自分から来るのかを区別できなくなるでしょう。
効果的に、これは融合として知られています。我々は自分自身を非常に賢くするでしょう。そして2045年までに我々は今日の100万倍賢くなるでしょう。それが何を意味するかを理解するのは非常に困難で、我々は物理学からこの比喩を借りて、完全に吸収できないものと呼んでいます。それがシンギュラリティです。
効果的に、あなたが言っているのは、人間が人間より100万倍賢くなるとき、それはAIが賢くなっただけではないということです。我々が何らかの形で統合し、我々を賢くするAIを作成すると言っているのですね。それは既に起こっています。
我々は既にコンピューターがなかった100年前よりもはるかに賢いです。しかし、これは指数関数的になるでしょう。実際に進んでいる量を測定できます。2045年になると、パラダイムシフトが非常に急速になり、区別できなくなるでしょう。
つまり、これを簡単にまとめると、あなたが言っているのは、AIがこの信じられない、狂った指数関数的速度で発展し続け、別のものである代わりに、コンピューターに行ってE・E・カミングスの詩を書いてもらうのではなく、それはますます近くなるということです。
そこで少し話しましょう。これはどのように起こるのでしょうか？バーチャルリアリティ、神経または脳コンピューターインターフェイスを通じて、我々は物理的にどのように統合するのでしょうか？何が起こるのでしょうか？
次のことはバーチャルリアリティで、それは既にそこにあります。まだ十分ではありませんが、そうなるでしょう。電話を見て物事を入力する代わりに、それは聞いているでしょう。行き詰まります。その女優の名前を思い出せません。それはあなたをフォローしています。ポップアップするでしょう。質問する必要はありません。何かを考えようとしています。それはあなたと一緒に考えているでしょう。
我々はどのように接続するのでしょうか？ゴーグルやヘッドセットや脳コンピューターインターフェイスでしょうか？
最終的にそれは我々の心の中にあるでしょう。我々の中に？現在、手術が必要な人々がいます。これは手術なしで行われるでしょう。非常に簡単になります。
効果的に、デバイスやコンピューターやヘッドセットを持つ代わりに、侵襲的手術を必要とせずに、我々は脳をその物事に接続できるでしょう。その通りです。そしてそれは我々より100万倍多くのパワーを持つでしょう。
2045年までにです。つまり、今からたった20年です。長い時間ではありませんよね？2045年までに、この部屋にいる皆さんがまだいることを願いますが、我々は100万倍大きな脳力を持ち、実際に技術と融合できるでしょう。それがシンギュラリティのアイデアです。
もう一つ言及すべきことは長寿エスケープベロシティです。それは何を意味しますか？
現在、1年を経て、長寿の1年を使い果たします。しかし、我々には新しい治療法、新しい病気の治療方法を作り出している科学研究もあります。勤勉で進歩を追跡していれば、実際に今日約4ヶ月を取り戻します。つまり、実際には1年のうち8ヶ月しか年を取っていません。
しかし、科学研究は指数関数曲線上にあります。我々が始めたばかりのことです。先ほど言及したように、コンピューターは治療のあらゆる異なる可能性を取り、実際にそれらをシミュレートし、非常に迅速に行うことができます。
これは人々が永遠に生きることにつながりますか？
正確ではありません。しかし、私の推定によると、約2032年には科学の進歩から1年を取り戻すでしょう。つまり、1年年を取りますが、1年を取り戻すので、実際には全く年を取りません。年齢による死はありません。
20歳で完全に健康な誰かでも明日死ぬ可能性があります。効果的に、あなたが言っているのは、今から7、8年以内に、非常に長い時間ではありませんが、我々は効果的に老化を止め、その時点でいる場所で、ある程度勤勉であれば、ということです。
事故だけが殺すのですか？
我々は事故についても進歩しています。Waymoの車を運転すれば、誰も死んでいませんし、かなりの数があり、人が運転する車よりもはるかに注意深いです。
人口増加はどうなりますか？
そこで他のチャートが出てきます。ここに約50のグラフがあり、どのように進歩しているかを示しています。例えば、太陽エネルギーで指数関数的進歩を遂げており、実際に始めた時より99.7％安くなっています。
効果的に無制限のエネルギーに到達しますか？
約10年で、実際に必要なすべてのエネルギーを作り出すのに十分な太陽エネルギーを生成できるようになるでしょう。業界はすぐにはその方向に行かないでしょうが、それを行うのに十分安くなるでしょう。最終的に、再生不可能な資源からエネルギーを得ることができるようになるでしょう。
指数関数的成長を示す50の異なるグラフがあります。人々は「しかし土地が」と言います。家を建てるには一定の土地が必要です。しかし、どこでも電車に乗れば、ほとんどの土地が使用されていないことがわかります。ニューヨーク市に住んでいれば非常に混雑して見えますが、他の場所に住んでいれば。
人口は増加すると思いますか、それとも人口ゼロ成長になりますか？
現在、人口は実際により豊かな国では減少しています。ある程度増加すると思いますが、重要ではないでしょう。我々は対処できるでしょう。
つまり、我々がここで聞いたことをまとめると、5年、7年、8年以内に、我々は永遠に生きるでしょう。全世界を殺す人口爆発はないでしょう。世界中のすべての人よりも賢い無制限の数のAIの動作をサポートする無制限のエネルギーを持つでしょう。そして、我々は効果的にこのすべてのAIを自分の体と自分自身に統合するでしょう。それが2045年のシンギュラリティに到達する場所ですね？
それは、ほとんどの人が考えることとは少し異なります。ほとんどの人は、AIは我々とは異なり、我々対AIだと考えますが、それは内面化されるでしょう。
聴衆からたくさんの質問があります。できるだけ多くを通り抜けようとしています。その時点にいますか？しかし、聴衆からの質問に入る前に、いくつかのことがあります。
シンギュラリティという用語を最初に作ったのは誰ですか？
ヴァーナー・ビンゲが最初に使いましたが、実際はニューマンが最初に使いました。しかし、彼は基本的に一つのコメントとして使っただけでした。技術は指数関数的速度で動いており、それはシンギュラリティになるでしょうが、それだけでした。ビンゲは実際に彼の著作でそれを議論しました。
ニアとニアーの両方の本で使用したように、あなたが説明したように、その時点で我々は数百万倍のパワーを持ち、それは我々と統合され、既に多くのことを行っています。それがシンギュラリティと呼ばれる理由は、元のシンギュラリティ以前の時間を振り返って見ることができず、これを越えて本当に見ることができないからです。
もし地球上の誰かが20年後にそれを越えて生きることがどのようなものかを想像できるとすれば、それはあなたでしょう。何が起こるのを見ますか？
私にはできません。2045年以降のこの世界がどのように見えるかについて何か手がかりがありますか？
我々が持っている多くの問題を克服できます。時期尚早に死ぬことなど。つまり、ここに座っている我々の人々、あるいは非物質的な存在を持つかもしれません。人々は非常に若く見えますが、それほど若くなくても。
実際に私は会話をしました。この男性は90歳で、経済学のノーベル賞を受賞し、実際に非常に健康でした。私は定期的に彼に会い、私の理論の経済的影響について話していました。そして我々は本当の議論に入りました。彼の名前はコノルマンでした。
私は、我々が病気の治療法を思いつくことで急速な進歩を遂げていると言っていました。彼は、私のアイデアに精通していたにもかかわらず、それを受け入れませんでした。私が気づかなかったのは、彼が実際に自殺を計画していたことで、私はそれを全く知りませんでした。彼は病気ではありませんでした。
しかし、90代を経ると能力のコントロールを失い、それはかなり惨めで、それを避けたいと聞いていました。そして彼はそれを避けるために自殺しました。彼は実際に私が彼と話していた数ヶ月以内にそれを行う計画を持っていて、私はそれを認識していませんでした。
聴衆から得たいくつかの質問は、あなたが何を恐れているかについてです。サンフランシスコ・コンセンサスまたはAI-2027コンセンサスと呼ばれる仮説があり、AGIは既にここにあるか、それに非常に近く、コンピューターはこの他のもの、このAIであり、互いに話し合い、我々をほとんど付随的なものにし、世界を運営し、問題は彼らが我々を殺さないことをどう確保するかです。
それは一種の恐ろしいアプローチです。あなたは統合されたアプローチを取っており、技術は我々であり、我々の価値観を引き継ぐとしています。しかし、どのように良い結果が得られることを皆に保証できますか？
彼らは2つの異なる結論に達しました。一つは肯定的、一つは否定的でした。私が言うように、これを検討する多くの人々は否定的で、それが本当に論争になっています。
なぜ前向きですか？なぜそれが良い結果につながると確信できますか？
私は物事を心配します。人間の歴史を見ると、第二次世界大戦でヨーロッパとアジアで約1億人が死にました。今日我々には戦争があり、数千人、おそらく数万人が死ぬと言うでしょう。それはひどいですが、第二次世界大戦があった80年前よりも良いです。
我々はそこである程度の進歩を遂げましたが、それでも私を動揺させます。私を動揺させることと、アライメントを正しく取得できることについて。
しかし、我々が話しているこの巨大で狂った技術成長について考えるとき、あなたを怖がらせるものは何ですか？うまくいけば、我々が統合し、一般的に良い人々である我々が聞いているのは？
それが起こる可能性が高いと思いますが、起こることは確実ではありません。起こる可能性が高いです。そしてそれが私を心配させます。他の人々も心配している場合、我々人々として何ができるでしょうか？
我々はこれを分析し、問題を避けようとしていますが、それは私を心配させ、うまくいかない可能性があります。ですから、私はそれについて無関心ではありません。
未来のフィクションの世界で、アイザック・アジモフは「アイ、ロボット」と彼のロボットシーケンス全体でロボット三原則の概念を持っていました。すべてのロボットは初期構築から定義的に、最初に人に害を与えないようにプログラムされ、そこから続きました。それはAIで可能ですか？
彼のものはうまくいかないと思います。ロボットは人のふりをすることができ、だから彼らが誰なのか本当に分からず、彼らは我々の一部になるでしょう。普通の人間と話しています。彼らの行動のほとんどは、彼らの中にあるAIによって作られるでしょう。だから彼らを分離することはできません。
ですから、私は楽観的ですが、可能な危険に対して無視しているわけではありません。
ここでの質問の一つは、あなたが今30年、40年前に遡って行ったすべての予測の中で、最も間違っていたのはどれですか？
私は、それらを受け入れるために必要な追加の積極性の量を考慮していませんでした。例えば自動運転を取り上げてみましょう。それは人間よりもはるかに優れている必要があります。本当に同等で、少し良いかもしれませんが、我々は受け入れないでしょう。
死を引き起こす最初のWaymo事故は起こっていません。しかし、それが起こると、それに多くの注意が払われるでしょう。人間のドライバーによって誰かが殺されるという事実は、数分おきに起こりますが、我々は全く注意を払いません。
つまり、追加の要求があります。1999年に2009年について行った予測の一つは、自動運転車を持つということでした。実験的な車はありましたが、皆が使用する自動運転車は今でもありません。我々が実際により高い基準を要求しているからです。
それは多くの点で本当に興味深いです。あなたは元々、我々が今頃自動運転車を持つだろうと予測していました。当時、私が思い出す限り、自動運転車に取り組んでいるエンジニアたちは「ああ、レイはクレイジーだ。我々はそれに近くない。我々はそのようなことを分解していて、できない」と言いました。
あなたのポイントは「私は車のエンジニアではないが、この並外れた指数関数曲線を見ており、何らかの方法でそれを行うだろう」でした。そして、あなたは正しかった。我々には自動運転車の効果があります。今日存在する自動運転車は、ほぼあらゆる面で人よりも実証可能に証明可能に統計的に優れており、より安全ですが、我々の社会はそれを採用していません。
それは教育や医療におけるAIツールの使用を含む他の分野でも起こると思いますか？
医療でも我々は間違いを犯さないよう非常に注意深いです。実際にいくつかの間違いがあることを行うことができますが、実際に人々を救うでしょうが、それでは十分ではありません。非常に高い基準まで必要です。
シンギュラリティに向かって進む中で2つの分野として、一つは教育、もう一つは医療があります。この移行において医療をどう見ますか？
医療は非常に重要です。誰もがそれから恩恵を受けるでしょう。我々がどこまで、どこまで医学が進歩したかを認識することは困難です。私はコノルマンにこれを言おうとしていました。彼は90歳で実際に何も悪いところがありませんが、起こるかもしれないことに対して、我々は非常に迅速に治療法を思いつくでしょう。彼はそれを受け入れることができませんでした。
興味深いのは、移植のアイデア、心臓移植、人工心臓、腎臓です。私は実際に腎臓を作るためのUnited Therapeuticsの取締役です。現在、このリストに載ると、腎臓を必要とする10万人がいます。人間から生成するのは5,000人だけです。実際に腎臓を作ることができれば、無制限の数を持つことができ、それが我々が試みていることです。
これは実際に今生きている人で、人工腎臓を持っていて、完全に問題ありません。私は昨年6月に股関節置換術を受け、ロボットによって行われました。文字通りロボットが入ってきて、60分で股関節を置換し、私は病院から歩いて出ました。20年前にそのようなことを考えることは想像もできませんでした。
文字通りロボット医師に到達すると思いますか？
我々は到達しつつあります。ほとんどの人は既にコンピューターから多くの情報を得ています。それは非常に迅速に起こっています。
知識の爆発における最も興味深い分野の一つで、ソフトウェアが指数関数的に成長した理由の一つは、それが自分自身の上に成長し、行うすべてのことがフィードインし、正のフィードバックループだからです。
要約しながら進んでいますが、教育に関係するものの一つですね。理論的には今日、ChatGPTやGeminiが何でも教えることができるため、AIが教育にどのような影響を与えるかをどう見ますか？今、誰もが利用できる教育があれば、何が起こるでしょうか？
私はMITの理事会にいて、これについて理事会で講演しました。就学前教育から大学院教育まで、教育機関のすべてが基本的にAIに対する態度は「使用するな」です。
しかし、子供たちはそれの使い方を知っており、実際にそれから恩恵を受けています。それは私が大学に行ったときの計算機を使用する可能性の問題を思い出させます。計算機の使用を許可すれば、人々は長除法の仕方を学ばなくなります。そして実際、人々の長除法スキルは低下しました。
しかし、計算機は消えていませんし、我々は除法が何を意味するかを理解しています。そして、世界は急速にAIに向かっています。ハードウェアとソフトウェアの向上だけで、来年10倍になるでしょう。今日のAIを1年前のAIと比較してください。例えば、このジョークを作ることはできませんでした。それは実際にユーモアをかなり微妙な方法で理解しており、1年前のように理解していませんでした。
世界は今日よりもさらにAIに浸かるでしょう。ですから、大学でこれを教えないことは、存在しない世界のために人々を準備することです。
AI自体を教えること、つまり人々をAI専門家にすることではなく、AIを使用してリベラルアーツ、他のすべてを教えることを考えると。
GPT-4oのデモ中、彼らのローンチデモで、Khan AcademyのSal Khanが息子とAIを教師として働いているのがありました。デモで見たのは、この無限に忍耐強くカスタマイズされた教師が反応し、話しているもので、我々は既に行うことができます。それはさらにそうなるでしょう。
つまり、AIの全体的なアイデアは、このようなものが実質的に無料であるため、理論的には世界中の80億人全員が今、あらゆる特定の分野で究極の完璧で理想的な教師を持ち、彼らはAIと融合し、はるかに多くの知識を知ることができるようになります。
それから、同じことを聞いているいくつかの質問があります。すべてのこのようなことが起こり、世界が完全に変わるなら、シンギュラリティに備えるために今何をすることを人々に推奨または提案しますか？この聴衆の皆さんにどのようなアドバイスを与えますか？
40年前に与えたのと同じアドバイスに従ってください。あなたの情熱に従ってください。そして、あなたにとって意味のあることを行ってください。私の10歳の孫はAIを使用して映画を作成しています。学校では実際にAIを使用したくないので、彼は学校外でこれを行います。
学校の一部がAIを教えたがらないという事実や、幻覚や問題があることを一旦置いておいて、この移行期間を見据えて、多くの人が聞いた質問の一つは、AIが人々を置き換えるにつれて仕事に何が起こるかです。
シンギュラリティ大学の経済学の創設フラクチャーとしての私の個人的な見解は、我々は非常に迅速に、ほとんどの人が経済的に雇用不可能な状況を持つだろうということです。つまり、AIの一部にならない限り、AIよりも良く、速く、安くは我々の現在の社会で価値を創造できないということですが、それはまだそこにありません。
携帯電話を使用しており、アイデアがどこから来ているかを区別できます。アイデアが我々の一部である空気から来ているのか、我々自身から来ているのかを区別できなくなるまで数年しかありませんが、最終的に個人の仕事は経済的に活用するのが困難になりますが、あなたの一部としてAIを持っていれば、競争できるでしょう。誰もが同じように。
あなたが言っているのは、人間の違いが効果的にマイナーな部分になるということですか？
いいえ、今日よりも多くの違いがあると思います。AIは我々を拡張し、したがってより多くの違いを持つでしょうが、競争できるでしょう。
それでは積極的に、楽観的に考えて、すべての生物学的人間は、AIによって増幅されたときに価値創造を可能にする何らかの方法で異なっているでしょうか？
はい。私が提供した財政グラフを見れば、我々は実際に非常によくやっており、よくやり続けるでしょうし、我々ができることを増幅するでしょう。我々は既にそれを行っています。
あなたはUBI（ユニバーサルベーシックインカム）の支持者でしたね？
はい。つまり、ユニバーサルベーシックインカムは、社会が技術や他の何かから価値を創造し続け、最終的に社会が税金を通じて何らかの方法でその価値を取り、誰もが標準として効果的に権利として再分配し、経済的に価値を生成する必要に関係なく、自己実現や何でも行うことを可能にするということです。
数人の人が聞いた別の質問は、人々への技術のこの統合が人類の根本的な文化を変えることをどのような文化として見るかです。
それははるかに広くなりました。現在、人口の重要な部分、以前は90％のようでしたが、今は4分の1から3分の1の人口が全く貢献できず、彼らは住む場所をかろうじて持っています。
それは既に変化しています。彼らが住む場所を持つという事実が変化しているのか、社会に貢献できるという事実が変化しているのか？
すべてです。そして、ますます多くの人々がインターネットにアクセスし、AIにアクセスし、それが我々の知性の一部になり、貢献できるようになるでしょう。だからこそ教育機関はAIを使用すべきです。それが我々が生きる世界だからです。
質問の一つはAIの規制に関係しています。現在、中国や他の場所への半導体の輸出阻止以外に、米国では大規模言語モデルの規制はほとんどありません。
それは本当ではありません。大企業が製品を出し、人々がそれを使用して大きな混乱を引き起こせば、彼らは廃業するでしょう。彼らはあなたが思うかもしれないことにもかかわらず、非常に非常に注意深いです。
しかし、それは自主規制です。政府の規制ではありませんよね？
しかし、それを避ければ巨大な責任を作り出します。
しかし、質問の一つで、このAI 2027サンフランシスコ・コンセンサスは、これらの大規模言語モデル自体の即座の規制が必要だと示唆しています。あなたはそれを信じますか？
それについて話すべきだと思います。我々が認識している以上に多くの規制があります。我々が行うすべてに多くの規制があり、例えば、新しい健康規制を出すことに関わりたければ、それには途方もない量の規制があり、間違ったことをして人々が死ねば、途方もない責任を負うでしょう。
責任は既にそこにあります。これは途方もない量の自主規制を引き起こします。
この変革的なAIの基礎となる大規模言語モデル（LLM）についていくつか質問があります。AI 2027レポートでは、モデルが他のモデルより先にある場合、他のすべてが等しければ、複数の反復を通じて常に次のものより先に留まる可能性が高いという立場です。
それは本当ですか？3年前、我々は1つか2つしか持っていませんでした。今日は10または12あります。1ダースの主要なものとマイナーモデルがあります。
10年後に1ダースのモデルを持つことになると思いますか、それとも1つのモデルですか？
今日よりもさらに多くの選択肢があると思います。モデルのより多くの選択肢です。それは良いことのようですね？人類を引き継ぐ一つのモノリシックなモデルはありません。
例えば航空のような重要なセクターのための特定の基盤モデルが必要ですか？ChatGPTに航空交通管制を管理させるのは機能しますか、それとも必要ありませんか？
いいえ、しかし我々は既に航空や他の多くの事に規制があり、それらは消えません。何かを出して、それがすべての航空規則を破り、人々が死ねば、作り出している責任のために廃業するでしょう。
ブロックチェーン技術についてどう思いますか？
量子コンピューティングよりも少し熱狂的ですが、我々は実際にその問題を解決していないと思います。価値が導かない方法で上下します。
ブロックチェーン技術をレベル設定すると、何かを制御する人や政府を持つ必要がないというアイデアで、コンセンサスによって効果的に普遍的に存在し、交換や他の種類のことに使用できる標準データベースまたはアイテムを持つことができます。
それは良い目標ですが、我々はまだそれを達成していません。
一つの質問があります。計算と能力の劇的な改善にもかかわらず、人間は実際の生産性向上にそれを翻訳するのに苦労しています。これを実際にどう見ますか？
それはばかげています。答えがあります。今そこにあるこのグラフを見てください。これは各人が持つ価値の量で、2023年の実質ドルで時間経過とともに。100年前と比較して約10倍です。その指数関数曲線が継続しているのが見えますか？はい。
脳コンピューターインターフェイス（BCI）についての質問があります。現在は侵襲的ですが、最終的には非侵襲的で、最終的にはワイヤレスでアンビエントなどになるでしょう。それをシンギュラリティに向けた重要な要素として見ますか？誰もが最終的に脳とインターフェイスするでしょうか？
はい、その前にバーチャルリアリティを持つと思います。今日バーチャルリアリティを作る試みがいくつか見られますが、まだそこにありませんが、2030年代初頭までにはそこにいると思います。2030年代後半までには、我々の脳の中に入り、何が起こっているかを見ることができるでしょう。
最初のステップは外部VRで、それから内面化された種類のものです。例えば、血流の中のがんと戦うミニロボットのようなナノテクノロジーの発展をBCIとは別のものとして見ますか？
私は長い間、コンピューター内で生物学をシミュレートすると言ってきました。ちょうど昨年、これを行っている人々と話しており、製薬会社のためにこれらのテストを実際に作成しています。彼らは皆、シミュレートされた生物学を行っています。
それで私は彼らに聞いています、いつ人間でのテストをシミュレートされたテストに置き換えることができると思いますか？シミュレートされたテストは数日から数週間かかることができ、実際に人間でのテストには年かかることがあります。
最初の部分は実際に何をテストするかを理解することです。それは既にシミュレートされた生物学で行われています。人々が使用するために出すのではなく、テストのために出すだけなので、心配する必要がありません。それは既に起こっています。以前は年かかったものが、今は数日です。
しかし、次のことは、いつ実際に人間でのテストをコンピューターでのテストに置き換えることができるかです。彼らは5年と言っています。5年で効果的にそこに到達すると、FDAは実際にコンピューターテストを受け入れていますが、まだ人間のテストを置き換えるためではありませんが、これを非常に支持しており、彼らの推定は約5年です。
5年で効果的にそこに到達すれば、それは効果的にすべての健康問題を解決しますか？もし我々が今、あらゆる薬物、あらゆる介入を即座に作成できるなら。
おそらくそこに到達するのに数年かかるでしょうが、それが長寿エスケープを得るのに役立ちます。私は2032年までに、1年が経過し、医学の進歩から1年を取り戻すと言っています。
いくつかの質問を組み合わせます。その点を越えると、実際に1年以上取り戻すでしょう。時間を逆行するのか、それとも長く生きるだけですか？
理解しました。ここでのいくつかの質問は、このアライメントの概念と、AI用語でのアライメントに関係しています。アライメントは、コンピューターが何かを言ったり、考えたり、行ったりするとき、それが人間の価値観と一致しているかを意味します。
ここでの一つの質問は、現在これらすべての大規模言語モデルが人類のコーパスで訓練されており、人類のコーパス、書かれたすべて、我々が行うすべては、我々が人間であるために不完全で、それが平等でないか、どのグループを優遇するかなど、それが今AIに組み込まれているか？
私が一緒に入れる2番目の質問。現在、オンライン情報の信頼性の欠如は本当にソーシャルネットワークから来ています。実際に人々が物事を書き込んでいるが、AIは本当に関与しておらず、人々は最も信頼できる情報源ではありません。
実際に、人々が大規模言語モデルのようなAIを使用する程度は、実際にソーシャルネットワークと比較してオンライン情報の信頼性を向上させています。
しかし、ここでの質問は、組み込まれたバイアスとアライメントのライン沿いです。例えば、2年前にChatGPTにスーパーヒーローを描いてもらうと、漫画や映画でスーパーヒーローについて持っていたすべてを吸い込み、バットマン、スーパーマン、フラッシュ、すべてがたまたま白人男性だったので、最も可能性が高い白人男性を描いたでしょう。
それを考慮し、理想主義的なアプローチで一部のモデルがそれを積極的に克服しようとしていたことを考慮すると、人々は「我が国の建国の父を描いて」と言い、黒人のジョージ・ワシントンを得ることになり、それは問題でした。
それは行ったり来たりしますが、最終的に正しい答えに到達しますか？
行ったり来たりしますが、それは人間の介入、故意の介入のためです。LLMが訓練された基盤であるコーパスは、歴史的に平等でなかった社会の既存のコーパスだからです。
しかし、今日の大規模言語モデルが行うことを見れば、規制されていないソーシャルネットワークよりもはるかに正確です。
それは、前例のないことがワシントンで起こっている現在の政治的宇宙についての質問につながります。我々の政府が人々や教育機関などと働く方法に海の変化がありました。ビッグテックが保守的価値観とLLMを再調整し始めていると思いますか？
私はすべてのソーシャルネットワークで多くの実験を行い、それらを追跡しています。彼らはそれらの問題を避ける傾向があります。あからさまに法的または政治的問題を聞けば、それは本当に答えません。
ナノロボット、ナノテクノロジーについての具体的な質問があります。薬物を分析するためにそれを使用することなどがあります。しかし、ロブ・フライドが行っているような機械を非常に小さなものに縮小するアイデア、血流にあり、がんを治療したり、バルブを修復したりするために標的化できるもの。近い将来、最も有望と思うのはどのようなナノボットですか？
生物学が思いついたDNAのナノテクノロジーを扱うことです。我々は、彼らのDNAに影響を与えることで人を非常に迅速に治しました。生物学が思いついた能力の種類を使用してDNAを実際に操作するが、望ましい結果に向けてそれを指示することは非常に有望で、機能し始めています。
あなたと私が若干意見の相違を持っている分野の一つは、AIに関連する雇用と仕事の問題です。あなたは歴史を維持し、新しい技術が登場するたびに、古い仕事を殺したかもしれないが、その技術のために新しい仕事を作成したことを正しく示していると維持しています。
私の考えは、我々は今、取り出される仕事が人々が決してより良くできないものである異なるタイプのものにいるということです。あなたの道を行くと、今日必ずしも存在しないAIが可能にするどのような仕事を見ますか？
あなたは我々がそれをできないと言っていますが、それは我々がAIによって強化されていないと仮定しており、我々はそうなるでしょう。我々は既にそうですし、さらにそうなるでしょう。
より幅広い人々によって行われる既存の仕事を見るのか、それとも新しいタイプの仕事が登場するのを見るのか？
仕事は本当に関心事ではありません。人々は生計を立てる必要があるなどで仕事を取ります。我々が本当にできるようになりたいのは、本当に我々を興奮させる知識を創造できることです。お金を稼ぎ、本当に愛することをする人が持つ活動の種類が、我々が本当に求めているものです。
我々の知性を増加させることは、人の知性を大幅に増加させるでしょう。悪いことはありえません。
ああ、私は確かにそれが悪いとは思いません。しかし、時間がなくなりつつあるので、私が残す最後の質問があります。レイ・カーツワイルの理想化された未来で、悪いことは起こりません。AI 2027のようなことは起こりません。すべてがあなたが想像した通りに展開し、我々は文字通りAIと統合します。それはツールではありません。それは我々です。人間の価値観を引き継ぎます。誰もがそこですべてを行うことができます。無制限のエネルギー、無制限の寿命、無制限の価値創造があります。
あなたはその無制限の寿命、無制限のパワー、無制限の価値創造で個人的に何をしますか？
私はより面白く、よりセクシーになり、私が気にかける人々への愛をより表現できるようになるでしょう。
その言葉で、皆さん、どうもありがとうございました。
コメント