AI研究者が2027年までにAGIが実現し、5年以内にヒューマノイドロボットによって物理労働も自動化されることで、99%の職業が代替される可能性について論じている。従来の技術革新とは異なり、人間の知性そのものを代替する発明であるため、新たな職業への転職は不可能であり、人類は前例のない失業率に直面するという予測を展開している。経済的な問題は豊富な無料労働力により解決されるが、人生の意味や時間の使い方という根本的な課題が残ると分析している。
AIが予測する2027年の世界
あなたはさまざまな予測を立てていて、それらはいろいろな日付に対応していますね。手元にその日付があります。2027年についてのあなたの予測は何ですか？
予測市場や主要な研究所の予想によると、おそらく2027年にはAGIを迎えることになるでしょう。つまり、2027年までには汎用人工知能が実現されるということです。
それによって世界は現在とどのように変わるのでしょうか？
もしドロップイン従業員という概念があれば、物理的にも認知的にも無料の労働力、それも数兆ドル規模のものが手に入ります。ほとんどの仕事で人間を雇うことは意味がなくなります。従業員がすることを20ドルのサブスクリプションや無料のモデルで済ませられるのであればね。
まず、コンピューター上で行われることはすべて自動化されます。次に、ヒューマノイドロボットはおそらく5年遅れていると思います。つまり5年後には、すべての物理労働も自動化できるようになります。
99%失業の現実
そうすると、これまで見たことのないレベルの失業に直面することになります。恐ろしいとされる10%の失業率の話ではありません。99%の失業率です。残るのは、何らかの理由で他の人間にやってもらいたいと思う仕事だけです。
しかし、それ以外のものはすべて完全に自動化できます。実際に自動化されるとは限りませんが。技術は存在しても導入されないことがよくあります。ビデオ電話は70年代に発明されましたが、iPhoneが登場するまで誰も持っていませんでした。
ですから、仕事があり、現在のような世界がもっと長く続く可能性もあります。しかし、ほとんどの人間とほとんどの職業を代替する能力は非常に迅速にやってくるでしょう。
ポッドキャスターという職業の未来
わかりました。それではもう少し掘り下げて検証してみましょう。私のようなポッドキャスターは必要でしょうか？
あなたがしていることを見てみましょう。準備をして、質問をして、フォローアップの質問をして、カメラ映りも良いですね。ありがとうございます。何ができるか見てみましょう。
今日の大規模言語モデルは、私が書いたものをすべて簡単に読むことができます。そして非常に確実な理解を持っています。あなたが私の本をすべて読んだことはないと思いますが、そのシステムはそれをやってのけるでしょう。あなたがこれまでに行ったすべてのポッドキャストで学習することができます。つまり、あなたのスタイル、あなたが尋ねる質問のタイプを正確に知ることができます。
何がうまく機能したかの対応関係も見つけることができます。この種の質問が視聴回数を本当に増やした、この種のトピックが非常に有望だった、などです。あなたにはデータセットがないので、あなたよりも上手く最適化できると思います。もちろん、視覚的なシミュレーションは現時点では簡単です。数秒で私がここに座っている動画を作ることができるので、任意のトピックであなたが誰かにインタビューしている動画を非常に効率的に生成でき、肖像権の許可などを得るだけで済みます。
AGIの世界で残る仕事とは
AGIが2027年までに実現される可能性があると言っているなら、導入されるかどうかは別として、AGIの世界でどのような種類の仕事が残ると思いますか？物理労働の仕事は一旦除外して、AGIの世界でも人間の方が上手くできる仕事はあると思いますか？
これは私がよく人々に尋ねる質問です。AGIがある世界で、そしてほぼ即座に副作用として人工超知能を得ることになると思います。
つまり、本当の質問は人工超知能がある世界、つまりすべての分野でもべての人間より優れていると定義される世界で、あなたは何を貢献できるかということです。
あなた自身がどのようなものかは、あなたが誰よりもよく知っています。アイスクリームがあなたにとってどんな味がするかを知っています。その知識に対してお金をもらえるでしょうか？誰かがそれに興味を持つでしょうか？たぶん持たないでしょう。大きな市場ではありません。
人間を欲しがる仕事はあります。お金持ちで、歴史的な理由で人間の会計士を欲しがるかもしれません。高齢者は従来のやり方を好みます。ウォーレン・バフェットはAIに切り替えないでしょう。人間の会計士を使うでしょう。しかし、それは市場のごく一部です。
今日、中国で大量生産されたものではなく、アメリカで手作りされた製品があり、一部の人々はより多くのお金を払ってそれらを購入しますが、それは小さな一部分です。ほとんどフェチです。実用的な理由はありませんし、コンピューター上でできることはすべて、その技術を使って自動化できると思います。
認知的不協和との戦い
これを言うとき、多くの反論を聞くでしょうね。人々は自分の仕事、キャリア、学位を取得したもの、10万ドルを投資したものが奪われると聞くと、大きな精神的不快感を経験するからです。
そのため、一部の人々の自然な反応は認知的不協和です。「いや、あなたは間違っている。AIは創造的になれない。これでもない、あれでもない。私の仕事には決して興味を持たない。私は大丈夫だ」という具合に。これらの議論をいつも聞くでしょう？
本当に面白いことです。私はさまざまな職業の人々に尋ねます。Uberの運転手に「自動運転車を心配していますか？」と聞くと、「いや、私がしていることは誰にもできない。ニューヨークの道を知っている。どんなAIにもできないようにナビゲートできる。私は安全だ」と言います。
これはどんな仕事にも当てはまります。教授たちも私にこう言っています。「私のような講義ができる人は誰もいない。これはとても特別なんだ」でも、それがばかげていることは理解できるでしょう。
私たちにはすでに運転手を代替する自動運転車があります。それが可能かどうかは問題ではありません。いつ解雇されるかの問題です。
自動運転の現実
昨日ロサンゼルスにいましたが、私の車は自分で運転します。車に乗って、行きたい場所を設定すると、ハンドルもブレーキペダルも触らずに、1時間のドライブでもまったく介入なしにAからBまで運んでくれます。
実際、まだ駐車は私がしていますが、それ以外はまったく車を運転していません。そして明らかに、ロサンゼルスにはWaymoもあります。つまり、携帯電話で注文すると、運転手なしで現れて、行きたい場所まで連れて行ってくれます。
そうですね。それらの人々にとって時間の問題であることは明らかに見えます。今この会話を聞いているそれらの人々の中には、職業が運転である人もいるからです。彼らに何かを提供するとしたら、運転は世界で最大の職業だと思います。間違いなくそうです。最上位の職業の一つですね。それらの人々に何と言いますか？彼らは人生で何をすべきでしょうか？何かで再訓練すべきでしょうか？どのような時間枠で？
再訓練の限界
これがパラダイムシフトです。以前は常に「この仕事は自動化される。他の仕事をするために再訓練しなさい」と言っていました。しかし、すべての仕事が自動化されると言っているなら、プランBはありません。再訓練はできません。
コンピュータサイエンスを見てください。2年前、私たちは人々に「コーディングを学びなさい。あなたはアーティストで、お金を稼げない、コーディングを学びなさい」と言いました。その後、AIがコーディング方法を知っていて、どんどん上達していることに気づきました。
「プロンプトエンジニアになりなさい。AIのためのプロンプトを設計できる。素晴らしい仕事になる。40年の学位を取得しなさい」と言いました。しかし、その後、AIは他のAIのためのプロンプトを設計することが人間よりもはるかに優れていることがわかりました。それで終わりです。
現在、最も困難なことは実用的なアプリケーションのためのAIエージェントを設計することです。1、2年後にはそれも同様になくなると保証します。
つまり、この職業はその代わりにこれを学ぶ必要があるとは言えないと思います。それは私たち人類全体が仕事を失うということです。では何をするのでしょうか？経済的に何をするのでしょうか？誰が私たちにお金を払ってくれるのでしょうか？そして意味の観点で何をするのでしょうか？余った週60時間、80時間で何をするのでしょうか？
経済とな意味の問題
あなたはこの角を曲がったところを少し考えたことがありますね。あなたの見解では、その角の向こうには何がありますか？
経済の部分は簡単に思えます。多くの無料労働力を作り出すなら、多くの無料富、豊富さがあり、現在あまり手頃ではないものが非常に安くなり、すべての人の基本的なニーズを提供できます。基本的なニーズを超えて提供できると言う人もいます。すべての人に非常に良い存在を提供できるのです。
難しい問題は、そのすべての自由時間で何をするかです。多くの人にとって、仕事は人生で意味を与えるものです。だから彼らは迷子になってしまうでしょう。
退職や早期退職をする人々に見られることです。仕事を嫌っている多くの人にとっては、働かないことを非常に嬉しく思うでしょう。しかし今度は一日中のんびりしている人々がいます。社会はどうなるのでしょうか？犯罪率、妊娠率、誰も考えないさまざまな問題にどのような影響を与えるのでしょうか？
政府は99%の失業に対処するためのプログラムを準備していません。その世界はどのようなものになると思いますか？
予測不可能性の問題
繰り返しますが、ここで理解すべき非常に重要な部分は、その予測不可能性です。私たちより賢いシステムが何をするかを予測することはできません。それに到達するポイントは、物理的特異点との類推でしばしば特異点と呼ばれます。事象の地平線を越えて見ることはできません。
何が起こるかもしれないかは言えますが、それは私の予測です。実際に起こることではありません。なぜなら、この世界に影響を与えるはるかに賢いエージェントを予測する認知能力が私にはないからです。
それからSFを読んでみてください。実際に何かをしている人工超知能はその中にはありません。誰もそのレベルで信じられるSFを書くことができないからです。Duneのように、このようにして書くことを避けることができるのでAIを禁止するか、Star Warsのようです。本当に愚かなボットはありますが、定義上、そのレベルで予測することができないので、人工超知能は決してありません。人工超知能であることの定義により、それは自分の心を決めるからです。
定義上、あなたが予測できるものであれば、それがあなたより賢いという仮定に違反して、同じレベルの知性で動作していることになります。人工超知能とチェスをしていて、すべての動きを予測できるなら、そのレベルでプレイしていることになります。それはフレンチブルドッグが私が何を考えているか、何をしようとしているかを正確に予測しようとするようなものです。
それは良い認知的ギャップです。彼が私が仕事に行って戻ってくることを予測できるだけでなく、私がポッドキャストをする理由を理解することはできません。それは彼の世界のモデルの完全に外側にあるものです。
彼は私が仕事に行くことさえ知りません。私が家を出るのを見るだけで、どこに行くかはわかりません。彼のために食べ物を買っています。
反対論への反駁
ここでのあなた自身の視点に対する最も説得力のある議論は何でしょうか？先進技術による失業はなく、理解や力とコントロールにおけるフレンチブルドッグと人間のギャップはないということでしょうか？
一部の人々は、ハードウェアとの組み合わせによって人間の心を強化できると考えています。Neuralinkのようなものや、遺伝子再工学を通じてより賢い人間を作るところまでです。
それは私たちにもう少し知性を与えるかもしれません。生物学的形態でシリコン形態と競争できるとは思いません。シリコン基板は知性にとってはるかに優れています。より速く、より回復力があり、多くの面でよりエネルギー効率的で、それがコンピューターが作られているものです、脳は。
ただ生物学を改善するだけでは追いつけないと思います。一部の人々は、これは非常に推測的ですが、私たちの心をコンピューターにアップロードできるかもしれないと考えています。脳をスキャンし、脳の接続を行い、コンピューター上でシミュレーションを実行し、それを高速化し、より多くの能力を与えるのです。
しかし、私にはもはやあなたは存在しないように感じます。異なる手段でソフトウェアを作成しただけで、今度は生物学に基づくAIと他の形式のトレーニングに基づくAIがあります。進化アルゴリズムを持つことができます。AGIに到達する多くの道を持つことができますが、最終的にはそれらのどれも人間ではありません。
2030年の予測
もう一つの日付があります。2030年です。2030年についてのあなたの予測は何ですか？世界はどのように見えるでしょうか？
おそらく配管工を含む、すべての分野で人間と競争するのに十分な柔軟性、器用さを持つヒューマノイドロボットを手に入れるでしょう。人工配管工を作ることができます。配管工でないものは人間雇用の最後の砦のように感じられました。
2030年、今から5年後、ヒューマノイドロボット。Teslaを含む主要な企業の多くが、光速でヒューマノイドロボットを開発しており、ますます効果的になっています。
これらのヒューマノイドロボットは物理空間を移動でき、オムレツを作ったり、人間ができることは何でもできますが、明らかにAIにも接続されています。つまり、考えたり話したりできるのです。彼らはAIによって制御されています。常にネットワークに接続されています。だから多くの面ですでに支配しています。
ヒューマノイドロボットが機能的で効果的になったとき、私たちの世界は著しく異なって見えるでしょう。なぜなら、知性と物理能力の組み合わせは、私たち人間にとって本当に、本当にあまり残さないからです。
あまり残しませんね。今日、インターネットを通じて知性があれば、人間を雇ってあなたのために働かせることができます。ビットコインで支払うことができます。つまり、直接コントロールしていないだけで、体を持つことができます。物理的な体を直接コントロールすることを追加することは、大きなゲームチェンジャーではありません。
知性こそがすべてです。重要な要素は、間違いなく最適化する能力、問題を解決する能力、人々が見ることができないパターンを見つける能力の向上です。
2045年：特異点の到来
そして2045年までに、つまり今から20年後、世界はさらに見えるでしょうね。まだ存在しているなら、まだ存在しているなら。レイ・カーツワイルは、それが特異点の年だと予測しています。進歩が非常に速くなる年です。
科学と工学の仕事をするこのAIが、私たちがもはや追いつけないほど迅速に改善を行います。それが特異点の定義です。私たちが見ることができない、理解できない、予測できないポイントです。知性そのものや世界で起こっていること、開発されている技術を見る、理解する、予測することです。
現在、iPhoneを持っているなら、来年新しいものが出ることを楽しみにでき、わずかに優れたカメラを持っていることを理解するでしょう。この携帯電話を研究開発するプロセスが自動化されていると想像してください。
6ヶ月ごと、3ヶ月ごと、毎月、週、日、時間、分、秒に起こります。1日に30回のiPhoneの反復に追いつくことはできません。それがどんな能力を持っているか、適切なコントロールが何かを理解できません。それはただあなたから逃げてしまいます。
現在、AIの研究者にとって最先端に追いつくことは困難です。あなたとのインタビューをしている間に、新しいモデルが出て、もはや最先端が何かわからなくなりました。毎日、総知識の割合として、私は愚かになっています。読み続けているので、まだより多くを知っているかもしれません。しかし、全体的な知識の割合として、私たちはみな愚かになっています。
そして、それを極端な値に持っていくと、あなたの周りの世界についてゼロの知識、ゼロの理解を持つことになります。
過去の技術革新との違い
この結末に対する議論の一部は、産業革命のような他の技術を見ると、人々は働く新しい方法を見つけ、当時には決して想像できなかった新しいキャリアが創造されたというものです。それにどう反応しますか？
人工超知能の世界では、それはパラダイムシフトです。私たちは常にツール、いくつかの仕事をより効率的に行うことを可能にする新しいツールを持っていました。10人の労働者の代わりに、2人の労働者を持つことができ、8人の労働者は新しい仕事を見つけなければなりませんでした。そして別の仕事がありました。今度はそれらの労働者を監督したり、何かクールなことをしたりできます。
メタ発明を作っているなら、知性を発明しているのです。労働者、エージェントを発明しているのです。そうすると、そのエージェントを新しい仕事に適用できます。自動化できない仕事はありません。それは以前には決して起こりませんでした。
私たちが以前に持っていたすべての発明は、何かをするためのツールのようなものでした。火を発明しました。巨大なゲームチェンジャーです。しかしそれで終わりです。火で止まります。車輪を発明します。同じ考えです。巨大な意味合いです。しかし車輪自体は発明者ではありません。
ここでは人間の心の代替品を発明しています。新しい発明をする能力のある新しい発明者です。私たちが作らなければならない最後の発明です。その時点で引き継がれ、科学研究、さらには倫理研究、道徳のプロセス、そのすべてがその時点で自動化されます。
夜はよく眠れますか？
夜はよく眠れますか？
本当によく眠れます。あなたが人生の過去15年、20年をAI安全性の研究に費やし、5年前には誰も予測できなかった方法で突然私たちの間にあるにもかかわらず。私たちの間にあると言うとき、人工超知能により早く到達することに現在焦点を当てている資金と才能の量が、それを私たちが想像できた以上により避けられず、より近くに感じさせているということを本当に意味しています。
私たち人間は、本当に悪い結果について、そして私たちが防ぐことができないことについて考えないという組み込まれたバイアスを持っています。私たち全員が死んでいます。あなたの子どもたちは死んでいます、あなたの両親は死んでいます、誰もが死んでいますが、それでもあなたはよく眠ります。あなたはまだ一日を過ごします。
95歳の高齢者でさえ、まだゲームをしたりゴルフをしたりしています。なぜなら、特に結果を実際に修正できない場合、最悪の結果について考えない能力を持っているからです。
同じインフラがこれに使われています。そう、人類レベルの死のような出来事があります。おそらく私たちはそれに近づいていますが、それについて何かできない限り、ただ人生を楽しみ続けることができます。
実際、残り時間が限られていることを知っていることが、より良い人生を送る理由を与えてくれるかもしれません。何も無駄にできません。
それは進化の生存特性だと思います。なぜなら、心配ばかりしていた私の先祖は、生き残るために赤ん坊を作ったり狩りをしたりする十分な時間を過ごさなかっただろうからです。自殺念慮。世界がいかにひどいかについて本当に考え始める人々は、通常すぐに逃げ出します。
AI安全性の重要性
あなたは人々がAI安全性の重要性に対して行う主要な議論を分析するこの論文を共著しましたが、その中の議論の一つは、現在より重要な他のことがあるというものです。世界大戦かもしれません、核封じ込めかもしれません、他のことかもしれません。政府や私のようなポッドキャスターが話すべき、より重要な他のことがあるのです。その議論に対するあなたの反駁は何ですか？
人工超知能は万能の解決策です。人工超知能を正しく手に入れるなら、気候変動に役立つでしょう。戦争に役立つでしょう。他のすべての存亡に関わるリスクを解決できます。正しく手に入れないなら、支配します。
気候変動が私たちを茹でて殺すのに100年かかり、人工超知能が5年で全員を殺すなら、気候変動について心配する必要はありません。いずれにせよ、それが私のために解決してくれるか、問題ではないかのどちらかです。
これが取り組むべき最も重要なことだと思いますか？
疑いなく、これを正しく行うより重要なことはありません。そして誰もがそう言うことは知っています。英語教授のクラスを取れば、彼はこれがあなたが受ける最も重要なクラスだと言いますが、これとのメタレベルの違いを見ることができます。
制御の幻想
その論文でのもう一つの議論は、私たちがすべてをコントロールしており、危険はAIではないというものです。この特定の議論は、AIは単なるツールであり、人間が危険を提示する真の行為者であり、単にそれをオフにすることで常にコントロールを維持できると主張しています。プラグを抜くことはできないのでしょうか？
AIについてショーで会話をするたびに、誰かが「プラグを抜けばいいのでは？」と言うのを見ます。すべてのポッドキャストでそれらのコメントを受け、いつもその人に連絡を取って「これは素晴らしい。考えたことがない。一緒に論文を書いて、ノーベル賞を受賞しよう。これはとても愚かなことだからです。
ウイルスをオフにできますか？コンピューターウイルスがあります。気に入らない。オフにしてください。ビットコインはどうですか？ビットコインネットワークをオフにしてください。どうぞ。待っています」
これは愚かです。それらは分散システムです。オフにすることはできません。その上、それらはあなたより賢いのです。複数のバックアップを作成しました。あなたが何をしようとしているかを予測しました。あなたが彼らをオフにする前に、彼らがあなたをオフにするでしょう。
私たちがコントロールしているという考えは、知性以前のレベルにのみ適用されます。基本的に今日私たちが持っているものです。今日、AIツールを持つ人間は危険です。ハッカーや悪意のある行為者になることができます。絶対にそうです。
しかし、人工超知能がより賢くなり、支配する瞬間、彼らはもはやその方程式の重要な部分ではありません。私が懸念しているのは、追加の悪意あるペイロードを加えるかもしれない人間ではなく、より高い知性です。しかし最終的には、まだそれをコントロールしていません。
もしあなたがDriver CEOブランドを愛し、このチャンネルを視聴しているなら、私に大きな恩恵をもたらしてください。購読ボタンを押したこのチャンネルの視聴者の15%の一員になってください。それは私たちにとって非常に助けになり、チャンネルが大きくなればなるほど、ゲストも大きくなります。
コメント