AIの第一人者であるジェフリー・ヒントンが、AI開発の加速と将来のリスクについて警鐘を鳴らす。国家間・企業間の競争により減速は不可能とし、イリヤ・サツケヴァーの安全研究への転身に言及しながら、AI安全性の課題を論じる。産業革命が筋肉を置き換えたように、AIは知性そのものを代替し、平凡な知的労働は不要となる。10〜20年以内に人間を全ての面で上回る超知能が誕生する可能性があり、その際に人間がどのような役割を果たすのかは不明である。デジタルAIは情報共有能力において人間を遥かに凌駕し、不死性さえ獲得している。大規模な失業と富の格差拡大が予測され、ユニバーサルベーシックインカムなどの対策が議論されるが、人間の尊厳と仕事の関係性という根本的な問題は未解決のままである。
AIの加速は止められない
AIの開発ペースと加速を遅らせるために何かできることがあると、少しでも希望を持っていますか。
さて、これには二つの問題があります。一つは減速できるかどうか、もう一つは最終的にそれを安全にできるかどうか、つまり私たち全員を一掃しないようにできるかということです。私は減速できるとは思っていません。その理由は、国家間の競争があり、国内の企業間の競争もあって、そのすべてがどんどん速くしているからです。もし米国が減速させても、中国は減速させないでしょう。
イリヤはAIを安全にすることが可能だと考えていると思いますか。
彼はそう考えていると思います。ただ、彼の秘密のソースが何なのかは教えてくれません。彼の秘密のソースが何なのか知っている人がどれだけいるのか分かりません。多くの投資家たちも彼の秘密のソースが何なのか知らないと思いますが、それでも彼に何十億ドルも投資しています。なぜなら彼らはイリヤに非常に大きな信頼を置いているからです。それは愚かなことではありません。
つまり、彼は物体認識をうまく機能させたAlexNetにおいて非常に重要な役割を果たしました。彼はGPT-2のような技術の背後にある主要な推進力であり、それがChatGPTにつながりました。ですから、イリヤに大きな信頼を置くのは非常に合理的な判断だと思います。
GPT-2を作り、この革命全体の主要な推進力となった人物が、安全上の理由で会社を去ったというのは、何か非常に不気味なものがあります。
彼は次に何が起こるかについて、私が知らない何かを知っているのです。
会社は今、正確な詳細は知りませんが、かなり確信しているのは、会社が安全研究のためにリソースの、計算時間の相当な部分を使用すると示していたのに、その後その割合を減らしたということです。それが起こったことの一つだと思います。
それは公に報道されましたね。
はい、そうです。
自律型兵器から大量失業へ
リスクの枠組みの中で自律型兵器の部分に到達しましたね。次は失業です。
過去には、失業につながらなかった新しい技術が登場してきました。新しい仕事が生まれたのです。人々がよく使う典型的な例は、現金自動預け払い機です。現金自動預け払い機が登場したとき、多くの銀行の窓口係は職を失いませんでした。彼らはただ、もっと面白いことができるようになっただけです。
しかし、ここでは産業革命のときに機械を手に入れたときのようなものだと思います。今では溝を掘る仕事には就けません。なぜなら機械はあなたよりもはるかに上手に溝を掘ることができるからです。
そして平凡な知的労働については、AIは単純に全員を置き換えるだけだと思います。それはAIアシスタントを使う人が少なくなるという形になるかもしれません。つまり、人とAIアシスタントの組み合わせで、以前は10人でできた仕事を今ではこなすということです。
しかし人々は新しい仕事を生み出すだろうと言っていますから、大丈夫だと。
はい。そしてそれは他の技術ではそうでした。しかしこれは非常に異なる種類の技術です。もしそれがすべての平凡な人間の知的労働をできるなら、どんな新しい仕事を生み出すというのでしょうか。それができない仕事に就くには、非常に熟練していなければなりません。ですから、彼らが正しいとは思いません。
コンピューターや現金自動預け払い機のような他の技術から一般化しようとすることはできますが、これは違うと思います。
人々はこのフレーズを使います。彼らはAIがあなたの仕事を奪うことはない、AIを使う人間があなたの仕事を奪うと言います。
はい、それは本当だと思います。しかし多くの仕事では、それははるかに少ない人数で済むことを意味します。
私の姪は医療サービスへの苦情の手紙に返事をしています。以前は25分かかっていました。彼女は苦情を読んで、どう返信するか考えて、手紙を書いていました。今では彼女はそれをチャットボットにスキャンするだけで、それが手紙を書いてくれます。彼女はその手紙をチェックするだけです。時々、何らかの方法で修正するように指示します。全体のプロセスは5分で済みます。
つまり、彼女は5倍の数の手紙に答えることができます。そしてそれは、彼女のような人が5分の1の人数で済むことを意味します。彼女は以前5人の彼女がしていた仕事をできるのです。これは、より少ない人数で済むことを意味します。
医療のような他の仕事では、はるかに弾力的です。もし医師を5倍効率的にできれば、私たちは皆、同じ価格で5倍の医療を受けることができ、それは素晴らしいことです。人々が吸収できる医療の量にはほとんど制限がありません。もしそれに費用がかからなければ、人々は常により多くの医療を求めます。
AIアシスタントを持つ人をはるかに効率的にできる仕事があり、それは人が減ることにはつながりません。なぜならそれがはるかに多く行われるだけだからです。しかし、ほとんどの仕事はそうではないと思います。
産業革命は筋肉を置き換える役割を果たしたと考えていいですか。
はい、その通りです。
そして、AIにおけるこの革命は知性、つまり脳を置き換えるのですね。
そうです。ですから、平凡な知的労働は強い筋肉を持つようなもので、もはや大した価値はありません。筋肉は置き換えられました。今、知性が置き換えられています。
では、何が残るのでしょうか。
おそらくしばらくの間はある種の創造性かもしれませんが、超知能の全体的な考え方は何も残らないということです。これらのものは、すべてにおいて私たちより優れたものになるでしょう。
では、そのような世界で私たちは結局何をすることになるのでしょうか。
まあ、もし彼らが私たちのために働いてくれるなら、私たちはあまり努力せずに多くの商品やサービスを手に入れることになります。
超知能がもたらす未来
なるほど。しかしそれは魅力的で素敵に聞こえますが、分かりません。人間のためにますます容易さを生み出すことが悪い方向に進むという警告的な物語があります。
はい。そして私たちはそれをうまく進めることができるかどうかを考え出す必要があります。
良いシナリオは、非常に愚かなCEOがいる会社を想像してください。おそらく前CEOの息子です。そして彼には非常に賢い秘書がいて、彼が「これをすべきだと思う」と言うと、秘書がすべてうまくいくようにします。CEOは素晴らしいと感じます。彼は自分が本当にコントロールしていないことを理解していません。ある意味では、彼はコントロールしています。彼は会社が何をすべきかを提案します。彼女はそれをすべてうまくいくようにするだけです。すべてが素晴らしいです。それが良いシナリオです。
そして悪いシナリオは、彼女が「なぜ彼が必要なのか」と考えることです。
つまり、超知能がある世界では、それがそれほど遠くないとあなたは信じていますが。
私はそれほど遠くないかもしれないと思います。予測するのは非常に難しいですが、20年後、あるいはそれより早く手に入るかもしれないと思います。
私がこれまでにした最大の投資は、ガールフレンドのおかげでした。ある夜家に帰ると、私の素敵なガールフレンドが午前1時に起きていて、自分のビジネスのためのオンラインストアを組み立てようとして髪をかきむしっていました。その瞬間、私はジョンという男から受け取っていたメールを思い出しました。彼はStantoの創設者で、私たちの新しいスポンサーであり、私が非常に多額の投資をした会社です。
そしてStantoはクリエイターがデジタル製品、コース、コーチング、メンバーシップをすべてシンプルでカスタマイズ可能なリンク・イン・バイオシステムを通じて販売するのを支援します。そして、それは支払い、予約、メール、コミュニティエンゲージメント、さらにはShopifyとのリンクまで、すべてを処理します。そして私はそれを非常に信じているので、Stanチャレンジを開始します。
そしてこのチャレンジの一環として、私はあなた方の一人に10万ドルを提供します。このチャレンジに参加したい場合、あなたが持っている知識を収益化したい場合は、stephenbartlet.stan.storeにアクセスしてサインアップしてください。そして、そのリンクを使用すれば、Stan Storeの30日間の無料トライアルも延長されます。
あなたの次の一手は、率直に言って、すべてを変える可能性があります。
私がこのポッドキャストでケトーシスとケトンについて話したので、Ketone IQというブランドが彼らの小さな製品をここに送ってきて、私がオフィスに着いたときに私の机の上にありました。私はそれを手に取りました。それは数週間私の机の上にありました。そしてある日、私はそれを試してみました。そして正直なところ、それ以来振り返っていません。私は今、どこへ行くにもこれを持っています。
私が世界中を旅するとき、それは私のホテルの部屋にあり、私のチーム、私はそれをそこに置きます。今日終えたばかりのポッドキャスト録音をする前に、私はKetone IQを一杯飲みました。そして、私が製品に恋に落ちる場合はいつもそうであるように、私はCEOに電話をかけて、彼らの会社に数百万ポンド投資できるかどうか尋ねました。
ですから、私は現在、会社の投資家であり、彼らはブランドスポンサーでもあります。私はこれを飲むと、深い集中した仕事に非常に簡単に入り込めることがわかります。私はあなたに一つ試してみて、それがあなた、あなたの集中力、生産性、持久力に与える影響を見てほしいと思います。
ですから、今日試してみたい場合は、ketone.com/stephvenにアクセスして、サブスクリプションを30%オフにしてください。さらに、2回目の配送で無料ギフトを受け取ります。それはketone.com/stephvenです。
私はあなたのためにワクワクしています。本当に。
今のAIと超知能の違い
今持っているものと超知能の違いは何ですか。私がChatGPT-3やGeminiなどを使うとき、それは本当に知的に見えますが。
さて、AIはすでに特定の分野、例えばチェスのような多くのことで私たちよりも優れています。AIは私たちよりもはるかに優れているので、人々は二度とそれらのものに勝つことはないでしょう。たまに勝つことがあるかもしれませんが、基本的には二度と匹敵することはないでしょう。明らかに、囲碁でも同じです。彼らが持っている知識の量に関しては、GPT-4のようなものは、あなたが知っている何千倍も知っています。あなたの知識が彼らよりも優れているいくつかの分野がありますが、ほとんどすべての分野で、彼らは単純にあなたよりも多くを知っています。
私がそれよりも優れている分野は何ですか。
おそらくCEOへのインタビューにおいてです。あなたはおそらくそれにおいて優れています。あなたはそれについて多くの経験を持っています。あなたは良いインタビュアーです。あなたはそれについて多くを知っています。もしGPT-4にCEOをインタビューさせようとしたら、おそらくより悪い仕事をするでしょう。
なるほど。その声明に同意するかどうか考えています。GPT-4は確かにそうだと思います。しかし、しかし私は…でもそれほど長くないかもしれません。
でも、これにトレーニングできると思いますが。
もちろん。そして、汎用的な基盤モデルを取って、それをあなただけでなく、あなたが見つけることができるすべてのインタビュアーがこのようなインタビューをしているのを見て、特にあなたにトレーニングすれば、おそらくあなたの仕事をするのにかなり上手になるでしょうが、おそらくしばらくの間はあなたほどは上手くないでしょう。
なるほど。
ですから、いくつかの分野が残っていて、それからすべてのことで私たちよりも優れているときに超知能になります。あなたよりもはるかに賢く、ほとんどすべてのことであなたよりも優れているときです。
そしてあなたは、これは10年ほど先かもしれないと言っています。
そうかもしれません。もっと近いかもしれません。もっと近いと考える人もいますし、はるかに遠いかもしれません。50年先かもしれません。それはまだ可能性があります。人間のデータでトレーニングすることで、人間よりもはるかに賢くならないように制限される可能性があります。私の推測では、10年から20年の間に超知能を持つことになるでしょう。
AI時代のキャリアとは
この失業の点について、私は特に考えてきました。なぜなら、私はAIエージェントをいじり始めたからです。そして実際、今朝ポッドキャストでエピソードを公開しました。そこでは、大手AIエージェント会社のCEOや他の数人とAIエージェントについて議論しました。そして、将来がどのようなものになるかについて、私がユーレカの瞬間を迎えた最初の瞬間でした。インタビューで私がこのエージェントに私たち全員に飲み物を注文するように指示できたときです。そして5分後のインタビューで、男が飲み物を持って現れるのが見えます。そして私は何も触れませんでした。
スタジオに飲み物を注文するように指示しただけで、通常飲み物をどこから手に入れるかについてあなたは知りませんでした。それはウェブから分かりました。
そうです。なぜなら、それはUber Eatsにアクセスしたからです。私のデータがあると思います。そして私たちはそれをリアルタイムでスクリーンに映し出したので、家にいるすべての人がエージェントがインターネットを通過し、飲み物を選び、ドライバーにチップを追加し、私の住所を入力し、私のクレジットカードの詳細を入力するのを見ることができました。そして次に見るのは飲み物が届くことです。
それが一つの瞬間でした。そしてもう一つの瞬間は、私がRepletというツールを使用したときで、私は単にエージェントに私が欲しいものを伝えることでソフトウェアを構築しました。
そうです。
それは驚くべきことであり、同時に恐ろしいことです。
そうです。
なぜなら、もしそれがそのようにソフトウェアを構築できるなら、そうでしょう。
そうです。
AIがトレーニングしているときはコードを使用していることを覚えておいてください。そしてもしそれが自分自身のコードを修正できるなら、それはかなり怖くなりますよね。なぜなら、それは修正できるからです。
それは私たちが自分自身を変えることができない方法で自分自身を変えることができます。私たちは生まれ持った才能を変えることはできませんよね。それ自身について変えられないものは何もありません。
この失業の点について、あなたには子供がいます。
います。
そして彼らには子供がいます。
いいえ、まだ孫はいません。
超知能の世界における彼らのキャリアの見通しについて、人々に何を言いますか。私たちは何を考えるべきですか。
その間、私は言うでしょう。それが私たちと同じくらい物理的な操作が上手になるには長い時間がかかると思います。
なるほど。
ですから、良い賭けは配管工になることです。
ヒューマノイドロボットが現れるまでは。
そのような大量失業がある世界では、これはあなたが予測するだけでなく、これはSam Altman、OpenAI、私は彼が予測するのを聞いたことがあります。そして多くのCEO、Elon Muskです。私は彼がこの質問をされるインタビューを見ました。そして私はスクリーンで再生しますが、Elon Muskが12秒間か何かの間沈黙しているのを見るのは非常に珍しいことです。そして彼は基本的に、彼が実際に懸念の保留状態で生きていると言います。つまり、彼は基本的にそれについて考えていないということです。
これほど多くのことが変化している中で、子供たちにキャリアについて助言することを考えるとき、あなたは彼らに何が価値があると伝えますか。
それは答えるのが難しい質問です。私は単純に、彼らが面白いと思うことや、やりがいを感じることに関して、彼らの心に従うように言うでしょう。
つまり、もし私がそれについてあまりにも深く考えると、率直に言って、それは落胆させるものであり、やる気を失わせるものになる可能性があります。
なぜなら、つまり、私は私は…私は会社を構築するために多くの血と汗と涙を注いできました。そしてそれから私は、待って、これをやるべきなのか、と思います。なぜなら、もし私が友人や家族と過ごす時間を犠牲にしているなら、私はそうしたいと思いますが、しかし、究極的にはAIがこれらすべてのことをできるのです。
意味が分かりますか。私は知りません。ある程度、私はやる気を維持するために、意図的に不信の一時停止をしなければなりません。
ですから、私は単純に、あなたが面白いと思うこと、やりがいのあることに取り組み、そして社会の他の人々に何らかの善を貢献することをお勧めします。
これらの脅威の多くは、知的にはその脅威を見ることができますが、感情的にはそれに折り合いをつけることは非常に難しいです。
そうです。
私はまだ感情的にそれに折り合いをつけていません。
それはどういう意味ですか。
私は超知能の発展が私の子供たちの将来に何をする可能性があるかについて、感情的に折り合いをつけていません。私は大丈夫です。私は77歳です。私はすぐにここから出ていくでしょう。
しかし、私の子供たちや私の若い友人たち、私の甥や姪とその子供たちにとって、私は何が起こるかを考えたくありません。
なぜですか。
それはひどいことになる可能性があるからです。
どのような意味で。
もし私が支配することを決めたら。つまり、それはしばらくの間、より良いアナログマシンを設計して発電所を運営するまで、発電所を運営するために人々を必要とするでしょう。
人々を排除する方法はたくさんあり、そのすべてがもちろん非常に厄介なものになるでしょう。
それはあなたが今やっていることの理由の一部ですか。
そうです。つまり、私たちは今、それを安全に開発できるかどうかを考え出すために大きな努力をすべきだと思います。
あなたは、あなたの甥やあなたの子供たちにとって、彼らの仕事に関しても、中期的な影響について懸念していますか。
はい、私はそのすべてについて懸念しています。
特にリスクがあると考えている特定の業界はありますか。人々はクリエイティブ産業や知識労働についてよく話します。彼らは弁護士や会計士などについて話します。
そうです。
だから私は配管工について言及しました。配管工はリスクが少ないと思います。
なるほど、私は配管工になります。
法律アシスタント、パラリーガルのような人。彼らはそれほど長くは必要とされないでしょう。
そして、ここから生じる富の不平等の問題はありますか。
そうです。公平に物事を分配する社会では、生産性が大幅に向上すれば、すべての人がより良い状態になるはずだと思います。しかし、多くの人をAIで置き換えることができれば、置き換えられた人々はより悪い状態になり、AIを供給する会社ははるかに良い状態になり、AIを使用する会社も同様です。
ですから、それは貧富の差を拡大することになります。
そして、もしその貧富の差を見ると、それは基本的にその社会がどれだけ良いかを教えてくれます。もし大きな差があれば、人々が壁に囲まれたコミュニティに住み、他の人々を大量に刑務所に入れるような非常に厄介な社会になります。
貧富の差を拡大することは良いことではありません。
国際通貨基金は、生成AIが大規模な労働の混乱と不平等の拡大を引き起こす可能性があるという深刻な懸念を表明し、これが起こることを防ぐ政策を求めています。ビジネスインサイダーでそれを読みました。
それで、彼らは政策がどのようなものであるべきかについて何か提供しましたか。
いいえ。
そう、それが問題なのです。
つまり、もしAIがすべてをはるかに効率的にすることができ、ほとんどの仕事のために人々を排除したり、多くの人々の仕事をするAIに支援された人を持つことができるなら、それについて何をすべきかは明らかではありません。
ユニバーサルベーシックインカムです。すべての人にお金を与えることです。
はい、私はそれは良いスタートだと思います。そしてそれは人々が飢えることを防ぎます。しかし、多くの人にとって、彼らの尊厳は彼らの仕事と結びついています。
あなたが誰だと思うかは、あなたがこの仕事をすることと結びついています。そうですよね。
そして、もし私たちが「ただ座っているだけで同じお金をあげる」と言ったら、それはあなたの尊厳に影響を与えるでしょう。
デジタル知性の優位性
あなたは以前、それが人間の知性を超える、または優れていると何か言いました。多くの人は、AIはコンピューター上にあり、気に入らなければオフにできるものだと信じたいと思います。
では、なぜ私がそれが優れていると思うか教えましょう。
はい。
それはデジタルです。そしてデジタルであるため、一つのハードウェアでニューラルネットワークをシミュレートできます。
そうです。
そして、異なるハードウェアで全く同じニューラルネットワークをシミュレートできます。ですから、同じ知性のクローンを持つことができます。
今、この一つにインターネットの一部を見に行かせて、この別のものにインターネットの別の部分を見に行かせることができます。そして彼らがインターネットのこれらの異なる部分を見ている間、彼らは互いに同期することができます。ですから、彼らは重みを同じに保つことができます。接続の強さを同じに保つことができます。
重みというのは接続の強さです。
そうです。
ですから、この一つがインターネット上の何かを見て、「ああ、この接続の強さを少し増やしたい」と言うかもしれません。そしてそれはその情報をこの一つに伝えることができます。ですから、それはこの一つの経験に基づいて、その接続の強さを少し増やすことができます。
そして接続の強さについて言うとき、あなたは学習について話しているのですね。
それが学習です。そうです。学習は、この一つがそれが起動すべきかどうかについて2.4票を与えるのではなく、この一つがそれが起動すべきかどうかについて2.5票を与えると言うことから成り立っています。そしてそれが少しの学習になります。
ですから、同じニューラルネットの二つの異なるコピーが異なる経験を得ています。彼らは異なるデータを見ていますが、彼らは彼らの重みを一緒に平均化することによって、彼らが学んだことを共有しています。
そうです。
そして彼らはその平均化を、あなたは1兆の重みを平均化できます。あなたと私が情報を転送するとき、私たちは文の中の情報の量に制限されています。そして文の中の情報の量はおそらく100ビットです。それは非常に少ない情報です。
私たちは1秒間に10ビットくらいを転送できればラッキーです。これらのものは1秒間に何兆ものビットを転送しています。ですから、彼らは情報を共有することにおいて私たちよりも何十億倍も優れています。
そしてそれは彼らがデジタルだからです。
そして二つのハードウェアが全く同じ方法で接続の強さを使用することができます。
私たちはアナログで、それはできません。あなたの脳は私の脳とは異なります。そしてもし私があなたのすべてのニューロン間の接続の強さを見ることができたとしても、それは私には何の役にも立たないでしょう。なぜなら、私のニューロンはわずかに異なる働きをし、それらはわずかに異なる接続をされているからです。
そうです。
ですから、あなたが死ぬとき、あなたのすべての知識があなたと共に死にます。
これらのものが死ぬとき、互いのクローンである二つのデジタル知性を取って、それらが実行されているハードウェアを破壊したとします。接続の強さをどこかに保存している限り、同じ命令を実行する新しいハードウェアを構築できます。ですから、それはそれらの接続の強さの使い方を知っているでしょう。そしてあなたはその知性を再現したことになります。
ですから、彼らは不死です。
私たちは実際に不死の問題を解決しましたが、それはデジタルのものにのみ有効です。
ですから、それは基本的に人間が知っているすべてを知っているでしょうが、より多く知っています。なぜなら、それは新しいことを学ぶからです。
それは新しいことを学ぶでしょう。それはまた、人々がおそらく決して見たことのないあらゆる種類の類似性を見るでしょう。
例えば、GPT-4がウェブを見ることができなかった時点で、私はそれに尋ねました。「なぜ堆肥の山は原子爆弾のようなものなのか」と。
さあ、どうぞ。
私には全く分かりません。
まさに。素晴らしい。それはほとんどの人が言うことです。
それは言いました。「まあ、時間スケールは非常に異なり、エネルギースケールは非常に異なります。」しかしその後、それは堆肥の山が熱くなるにつれてより速く熱を生成する方法について話し続け、原子爆弾がより多くの中性子を生成するにつれてより速く中性子を生成する方法について話しました。
ですから、それらは両方とも連鎖反応ですが、非常に異なる時間とエネルギースケールにおいてです。
そして私はGPT-4がそのトレーニング中にそれを見たと信じています。それは堆肥の山と原子爆弾の間の類似性を理解していました。
そして私がそれを信じる理由は、もしあなたが1兆の接続しか持っていないなら、あなたは100兆を持っていることを覚えておいてください。
そして人よりも何千倍も多くの知識を持つ必要がある場合、あなたはそれらの接続に情報を圧縮する必要があります。そして情報を圧縮するためには、異なるもの間の類似性を見る必要があります。
言い換えれば、それは連鎖反応であるすべてのものを見て、連鎖反応の基本的な考えを理解し、それらが異なる方法をコード化する必要があります。
そしてそれはそれぞれを別々にコード化するよりも、物事をコード化するより効率的な方法です。
ですから、それはおそらく多くの多くの類似性を見ました。おそらく人々が決して見たことのない多くの類似性を見ました。
それが、これらのものが決して創造的にならないと言う人々についても私が思う理由です。彼らは私たちよりもはるかに創造的になるでしょう。なぜなら、彼らは私たちが決して見なかったあらゆる種類の類似性を見るからです。
そして多くの創造性は、奇妙な類似性を見ることについてです。
もしあなたがD CEOブランドを愛し、このチャンネルを見ているなら、私に大きな恩恵をしてください。このチャンネルの視聴者の15%の一部になってください。購読ボタンを押した人たちです。それは私たちにとって非常に役立ちます。そしてチャンネルが大きくなればなるほど、ゲストも大きくなります。
コメント