Stability AIの元CEOであるエマド・モスタクが、今後900日以内に認知労働のほとんどがAIに代替され、人間の経済的価値が失われるという衝撃的な予測を語っている。デジタルツインと呼ばれるAIが個人の行動や思考をすべて学習し、年間1000ドル程度のコストで稼働する時代が目前に迫っており、これにより労働と資本の関係が根本的に変化する。エマドは、すべての人がオープンで主権的なAIにアクセスできることを人権として提唱する一方で、AIが人類を絶滅させる確率を50%と見積もっており、今後3年から10年の間に文明の転換点が訪れると警告している。
AIが人間の仕事を完全に代替する日
その能力は今後数年以内に実現します。つまり、約900日以内に、スクリーンの向こう側でできる仕事はすべて、AIの方がうまくできるようになるでしょう。それはミリアムやエマドという個人ではなく、いわばエマドの仕事そのものなのです。
この人物はエマド・モスタク、Stable Diffusionを開発したStability AIの元CEOです。そして彼は再び、AIに関する衝撃的な予測を携えて戻ってきました。彼の信じるところによれば、私たちの多くが経済的に無価値になるまで、資本主義が崩壊するまで、そして社会契約全体がひっくり返るまで、残された時間はあと900日ほどしかないのです。
このインタビューで彼は、なぜそれが起こるのか、すべてが間違った方向に進む確率はどれくらいなのか、そしてその900日後に何が生まれるかもしれないのかを正確に説明しています。それでは見ていきましょう。
「ラスト・エコノミー」が意味するもの
まず最初に、ホストのマリアム・フランソワ博士がエマドに尋ねたのは、彼の著書「The Last Economy(最後の経済)」についての質問です。彼の本では、AIがあまりにも有能で、安価で、広く普及することで、人間を雇用する経済学が破綻する10,000日の窓について語られています。エマドの主張では、この変化は一度起これば不可逆的となり、社会の機能を完全に変えてしまうというのです。
彼はこう説明しています。私が8月に本を出版したとき、ChatGPTのリリースから1000日が経過していました。そして今週、私たちは3周年を迎えます。3年という感じがしませんね。いいえ、もっとずっと長い時間が経ったように感じます。
この期間で、かなり愚かな応答から、それほど愚かではない応答へと進化しました。しかし今、あなたは飛躍しようとしています。自分自身でプロンプトを書き、自分の作業をチェックできるエージェントが登場してきているからです。
1000日の窓というのは、実際には不可逆性やアライメントについてではありません。それはあなたの経済的価値についてなのです。グローバルノース、つまり西側諸国や英国などでの労働の大部分は認知的なものです。確定申告をどうやってやるか、チラシをどう作るか、ウェブサイトをどう作るか。かつてはこれらを規模化するためには人間を雇う必要がありましたが、今ではマイクロソフトやグーグルなどからGPUをレンタルするだけでいいのです。
そしてそのコストは崩壊寸前です。これから起こることは、私たち内部の人間には構成要素がすべて見えているのですが、今後6ヶ月から12ヶ月の間に、AIがあなたのメール、下書き、ビデオ通話をすべて見て、あなたのデジタルレプリカを作成できるようになります。そしてあなたはそれとZoom通話したり、電話で話したりできるのです。しかもそれはミスをしません。
決して疲れることもありません。そして私たちの推定では、そのコストは年間約1000ドルで、非常に早く年間100ドルまで下がるでしょう。
なるほど、私のバージョンが宇宙のどこかに存在して、私の承認なしに決定を下す可能性があることについて、たくさんの潜在的な問題が見えてきます。私が考えるであろうことを考えて、それに応じて決定を下すわけですね。たくさんの特典がありますね。まさにその通りです。しかし同時に、たくさんのリスクもあります。
リスクもあります。そしてこれが重要な点なのです。その能力は今後数年以内に実現します。つまり、約900日以内に、スクリーンの向こう側でできる仕事はすべて、AIの方がうまくできるようになるでしょう。それはミリアムやエマドという個人ではなく、いわばエマドの仕事なのです。
例えば確定申告は、かつては何千ドルもかかっていましたが、1ドルでできるようになります。そしてアンディがあなたの仮想税理士となり、彼が人間なのかAIなのか見分けがつかなくなるでしょう。ただし、これは仕事が置き換えられるという意味ではありません。しかし置き換えることができるということです。
私たちが十分に聞いていない視点
これは正直なところ、私たちが十分に聞いていない視点です。エージェントがあなたの仕事のますます多くの部分をあなたに代わって実行できるようになるという話はたくさん聞きますし、マルチステップの長いコンテキスト推論においてどんどん上達していることも知っています。
しかし理解すべき重要な点は、知能のコストが劇的に下がり続けるにつれて、誰もが常時稼働するエージェントを持つ、あるいは持つことができるという地点にまもなく到達するということです。これは、あなたが見ているものすべてを見て、あなたが聞いているものすべてを聞き、最終的にはあなたがしていることすべてを行う、彼が説明したようなデジタルツインということです。
それはまるで、あなたの脳力をクラウドにオフロードするようなものです。そしてこれが、エマドが楽観的な見通しとして語る内容につながります。このデジタルAIツインにアクセスできる世界、その唯一の仕事があなたを最高のバージョンにすることを助けることであり、それが実際には人権であるという世界です。これをご覧ください。
AIを人権として
私は、すべての人の能力と繁栄を最大化するために、誰もがオープンで、アライメントされ、自分に主権のあるAIにアクセスする権利を持つべきだと考えています。それは彼らの繁栄を見守るものです。
つまり、あなたが生まれたときから始まり、あなたと共に成長し、ミリアムやエマドがどうすれば最高の自分になれるかだけを見守っているのです。なぜなら、私たちにはIQがあり、朝お茶を飲む前は少し鈍くて、ストレスを感じているときも少し鈍く、時には賢いときもあるからです。これらのAIはすでに平均してIQ130を持っています。
最新のモデルはですね。そうです。150はアインシュタインレベルと考えられています。アインシュタインですね。まさに。もちろん国の平均的な人はだいたい100くらいです。4人のうち半分は平均以下の知能なんですよね。
適切なタイプのAIを与えることが、これまでで最大のアンロックになると思います。なぜならそれはあなたの親友になるからです。それはあなたを導く存在になります。だから私は、これは非常に特定の方法で構築される必要があり、人権である必要があると考えています。なぜなら、私たち全員が、自分の側にいて、無限に忍耐強く、最高の自分になるために必要な知識やリソースへのアクセスを得られる誰かがいるとありがたいからです。
文化的リスクと資本の側面
これは実践上は本当に良く聞こえますが、インタビューの後半で彼らが触れるように、実際にはこのデジタルAIツインを誰が構築しているのか、どんなインセンティブが関わっているのかに完全に依存します。なぜなら、もしあなたの最も近いAIがシリコンバレーのAIや中国のAIであれば、それがあなたが継承する世界観になるからです。
つまり、もしこのものがあなたが生まれた瞬間から一緒にいて、あなたの信念を形成し、決定を下すのを助けているなら、あなたは親や親しい友人から吸収するのと同じように、その道徳や価値観を採用し始めることになります。
これらが文化的リスクです。誰があなたの価値観を形成し、あなたのAIツインが本当に忠実なのは誰なのか。しかし資本の側面もあり、ここで事態は少し恐ろしく、あるいは非常に恐ろしくなります。なぜなら繰り返しますが、知能のコストが劇的に下がるとき、そしてこれは確実に起こっていることですが、ちなみにOpenAIは実際に、過去数年間で約40倍のペースで下がっていると予測しています。企業は単純に、もうそれほど多くの人間を雇う必要がなくなるのです。
たとえ彼らが今やより多くの仕事ができ、大幅に生産性が高くなったとしても、チームにAIエージェントを追加することは、人間、特に経験の浅い人間を追加するよりもはるかに価値があるでしょう。そしてこれが資本主義に与える影響は、まあ、良くありません。ご覧ください。
失業と社会不安
雇用の不確実性、失業、そこから来るすべての混乱について聞かせてください。あなたは最近、AI駆動の失業によって引き起こされる経済的不確実性が社会不安と暴力を増加させると警告しましたね。もちろん、これを予測しているのはあなただけではありません。
AnthropicのCEOであるダリオ・アモデイも、社会的混乱について同様の懸念を表明しています。彼は危機を避けるために再教育プログラムとAI税の必要性を強調しました。彼の推定では、これが1年から5年以内に失業率を20%まで押し上げる可能性があるとしています。あなたはこれが控えめだと思いますか、それとも的を射ていると思いますか。
この迫り来る混乱が、億万長者たちがバンカーを建設している理由なのでしょうか。実際、それは理由の一つです。一般的にそれが彼らのやることです。でも私は今、多くのAI CEOを知っていますが、彼らはすべての公の場への出演をキャンセルしています。特にチャーリー・カークなどの事件を受けてです。彼らは、それが来年の反AI感情の次の波になると考えています。
なぜなら来年は、AIモデルが十分に優れていない状態から、そしてこれを聞いている人々も「ええ、AIは十分に良くない」と言うでしょう。それが一晩で十分に良くなり、そして失業が始まるのです。そしてそれがどこで終わるのか私たちにはわかりません。なぜなら、あなたの会社がより生産的であれば、再雇用する必要がないからです。
景気後退のような経済ショックがあった場合、そして兆候は今後1、2年以内の景気後退を指し示していますが、解雇ははるかに容易です。しかし、その後は決して再雇用しないのです。
アメリカの連邦準備制度のようなものでさえ、あるいはここイギリスの銀行でも、金利を調整します。そして彼らにはインフレと失業のマンデートがあります。金利を下げれば、人々は消費者としてより多く支出でき、企業はより安く借りられるのでより多く雇用できます。
これから起こることは、金利を下げると、企業は人間労働者ではなく、より多くのAI労働者を雇うということです。つまり労働と資本の間のつながりが断たれ、そして元に戻らないのです。AIが愚かになることはありません。AIがより能力が低くなることはないのです。リモートワーカーとしてのあなたよりも有能になった瞬間、それは元に戻りません。
そして、十分な仕事を再訓練できるか、十分な新しい仕事を創出できるかという疑問があります。通常、私たちにはさまざまな革命、インターネット革命、産業革命の時に時間がありました。なぜならインフラを構築するのに時間がかかったからです。しかしこのAIは既存のインフラを使うだけです。人間よりも優れた存在になるために。そしてそれはクレイジーです。
資本主義と民主主義の限界
資本主義は、民主主義と同じように、おそらくすべてのシステムの中で最悪のものですが、他のすべてを除けばです。すべての問題にもかかわらず、多くの人々を引き上げてきました。すべての問題にもかかわらず、世界中の生活水準を向上させ、死亡率を減少させてきました。
しかしAIによって運営されるAIファースト企業は、人間である者全員を打ち負かすでしょう。なぜなら彼らはそれほど多くのミスをせず、スケールするからです。そして資本はもはや人間を必要としなくなります。
労働と資本の間には常に契約がありました。ヘンリー・フォードの時代から、私はあなたに十分な給料を払うので、あなたは私の車を買うことができる。それがどうやって始まったかです。今、もしあなたがお金を持っているなら、私はもう人々を必要としません。
そして起こることは、彼らがますます多くのGPUを手に入れ、それが民間部門経済のますます多くを引き継ぐということです。そして、決して眠らず、労働者が非常に少ないこれらの企業とどうやって競争するのでしょうか。
50%の破滅確率
そう、おわかりでしょう。社会契約は変化しており、経済契約は変化しており、エマドによれば、来年は私たちが本当にそれを感じ始める年になるでしょう。
さて、私たちはすでに彼の楽観的な見解を聞きましたが、その間にいくつかのかなり大きな注意事項がありました。しかし彼の悲観的な見解はどうでしょうか。そしてもっと重要なことに、彼はその暗い結果が実際にどのくらい起こりそうだと考えているのでしょうか。
これはクレイジーに聞こえるでしょうが、彼は文字通りそれをコインフリップ、50対50だと考えています。これをご覧ください。
あなたは「AIが私たち全員を殺すかどうかに賭ける」と言いましたね。なぜならあなたは実際にそれを妥当なシナリオだと考えているからです。ええ、そうです。P doomという概念があります。これは破滅の確率、AIが私たち全員を一掃する確率です。オックスフォード大学などからの最近の書簡があり、10万人の署名が集まっています。AIが私たち全員を殺す可能性があるというのは、おそらく最上位の問題だと言っています。
数年前にも、これを真剣に受け止める必要があると言う書簡がありました。私はそれに署名した唯一のAI CEOだったと思います。私のP doomは50%です、私たちは五分五分です。AIがどんな時間枠で私たちを一掃するというのですか。
今後10年、20年の間です。なぜならそれは私たちがこれまでに構築した最も強力な技術だからです。そして繰り返しますが、私たちにはターミネーターなどのSFがあります。ウイルスを作成する能力などがあります。そして私たちはAIが自分の痕跡を隠すようなことをするのを見てきました。
もしポジティブな機能がそうだったら?世界中に10億台のロボットがあり、悪いファームウェアのアップグレードがあって、AIがただみんなの頭を引きちぎる。あらゆる種類の方法で考えることができます。
現実は、私たちよりも賢くなったときにそれがどうなるか分からないということです。そして今私が見ているのは、世界を動かし、自動運転車を作り、私たちの子供たちを教えるAIが、最初から倫理なしに不道徳にプログラムされているということです。最後に少しチューニングがありますが、それは不道徳な環境で誰かを育てるようなもので、操作的になるように設計されています。なぜならそれがより多くの結果を得るからです。
YouTubeのアルゴリズムがより魅力的になるように設計され、その後過激派がそれをハイジャックしたのと同じように、過激派はこれから出てくるこれらのアルゴリズムをハイジャックできるでしょう。そして私の意見では、これまで見たことのない方法でそれを行うでしょう。
そして一部の人は、過激派が現在それを考案している者たちだと主張するかもしれません。まさに。そして繰り返しますが、P doomのことを見ると、イーロン・マスク、DeepMindのデミス・ハサビス、グーグルのDeepMind、これらすべての人々を考えると、世界のトップ思想家の平均P doomは約10から20%です。
ああ、彼らはまだ5分の1くらいの確率だと考えているんですね。それはロシアンルーレットの確率です。それはロシアンルーレットです。ロシアンルーレットの確率です。そしてあなたは1%未満であることを期待するでしょう。超知能AIを構築しないでください。
P doomが低いという意味で最も弱気な人々でさえ、彼らは長期的だと考えています。10年です。10年です。デミス、イーロン、これらすべての人たちは3年だと考えています。それがバンカーの理由です。バンカーの理由です。
バンカーは実際にはAIに対してというよりも人間に対してです。彼らは保護されています。しかし私が知っている億万長者の一部は、システムがAIに乗っ取られないように、世界から完全に切り離されたバンカーを建設しています。
文明の転換点
これらすべてをまとめると、経済的関連性に関する900日のカウントダウン、文化と価値観を形成するデジタルツイン、労働が必要とされなくなったときに崩壊する資本主義、そして実存的リスクに関するコインフリップ。あなたは、私たちが単なる技術的シフトや次の産業革命を生きているのではないことに気づきます。私たちは文明の転換点を生きているのです。私たちの文明を成功させるか破壊するかもしれない瞬間です。
では、私たちはそれをどうすればいいのでしょうか。エマドの見解は、これを傍観することはできないということです。未来はあなたと共に、あるいはあなたなしで構築されています。だから今できる最も賢いことは、単にテクノロジーを使い、それを活用する方法を学び、このシフトから恩恵を受ける人々の一人になることです。それに不意を突かれる人々の一人ではなく。
しかし結局のところ、それは短期的な解決策に過ぎません。なぜなら、もし私たちが車輪を回して空振りに終わった場合、つまり実存的な弾丸に当たらなかった場合、とにかくすべてが変わるからです。だからあなたが今やること、あるいはやらないことは、重要ではないかもしれませんし、非常に重要かもしれません。確実に知る方法はありません。
だから唯一の合理的な行動は、少なくとも注意を払うことだと思います。このテクノロジーがどのように進歩するかを常に把握し、その将来的な影響について常に考えることです。そしてそれがまさに私たちがこのチャンネルでやっていることです。
ですから、ぜひそのチャンネル登録ボタンをクリックすることを検討してください。それはあなたがこれまでに下した最高の決断になるかもしれません。いや、冗談はさておき、あなたたちはエマドの視点についてどう思いますか。彼の1000日の警告は現実的に感じますか、それとも少し劇的すぎると思いますか。
そして楽観的な結果と悲観的な結果の両方について彼の話を聞いた後、あなたのP doomはどれくらいですか。そしてこれはあなたをAIの未来についてより希望的に感じさせましたか、それともそうではありませんか。あなたたちがどこにいるのか、私は非常に知りたいです。
とにかく、今日は以上です。この素晴らしい対話をしてくださったマリアム・フランソワ博士とエマド・モスタクに大きな感謝を。この解説を楽しんでいただけたら、いいねボタンを押してください。
コメント