本動画では、AIの急速な進化が雇用市場に与える影響と、人類が直面する根本的なリスクについて議論されている。既にAIは多くの分野で人間の能力を上回り始めており、特に認知労働の自動化が加速している。専門家は5年以内にほぼすべての認知労働と多くの物理的労働が自動化可能になると予測し、これにより大規模な失業が発生する可能性を指摘する。短期的には新たな雇用が創出されるかもしれないが、長期的にはそれらの仕事も自動化される運命にある。この状況に対処するため、ユニバーサルベーシックインカムのような政策が必要不可欠となる可能性が高い。さらに深刻な懸念として、人間よりも遥かに賢い超知能AIの制御方法が確立されていないという問題が存在し、これは人類存続に関わる重大なリスクとなり得るという警告が発せられている。
AIが人類に与える根本的なリスク
司会者は、多くの人々がGoogle GeminiやChatGPTといったツールを通じてAIと接している現状において、この技術がどのように進化して人類を根本的に脅かす存在になり得るのかを説明してほしいと尋ねました。
既に同じモデル群がコードを書くために使われていることが確認できます。多くの場合、より優れたコードを書き、確実にはるかに速く作業を行います。つまり、AI自体の研究がAIのおかげで加速しているのです。多くの研究所が現在、人工的な研究者を持つようになると予測しています。おそらく同時に数千の研究者を動かすことができるでしょう。以前は新しいモデルを得るのに1年か2年かかっていましたが、今では毎月、毎週、毎日新しいモデルを手に入れることができ、それらはより高い能力を持ち、多くの仕事を自動化できるようになります。
これは多くの人にとって差し迫った懸念です。しかし、より大きな懸念は、これらのモデルを制御する方法を知らないということです。もし彼らが私たちと同じくらい賢く、あるいは私たちよりも賢くなった場合、何らかの形で私たちに害を与えることを決める可能性があり、制御方法がわからないため、それを防ぐことはできません。
最初に失われる仕事
司会者がどの仕事が最初になくなると思うかと尋ねると、専門家は次のように答えました。
コンピューター上で行うことはすべて自動化される可能性が非常に高いです。今のところ、ジュニアプログラマーはおそらくあまり良い時間を過ごせないでしょうが、最終的には会計士、税務申告、ウェブデザインなど、あらゆるものが自動化されます。
司会者は個人的な体験を共有しました。かなり早めに中年の危機を迎えているため、クリスマスにDJデッキのセットを手に入れたそうです。それで遊んでいたのですが、とてもワクワクしましたが、あまり上手ではありませんでした。しかし、5分も遊ばないうちに、なぜこれがまだ人間がやることなのか理解できなくなりました。
これはコンピューターで簡単にできることです。明らかにこれは廃止される運命にあるものだと感じました。それとも、創造や制作において人間的な要素がまだ重要なのでしょうか。
専門家は2種類の仕事があると説明しました。お金を得るためにやる仕事で、自分の仕事が嫌いな場合。そして楽しいからやる仕事で、たまたまお金をもらえる場合です。
楽しんでいる仕事は続けることができると思います。ただお金をもらえなくなるかもしれません。趣味になるでしょう。しかし、やりたくないと思っている多くの仕事は完全に自動化されます。
司会者は、多くの人が自分の仕事を嫌っているようなので、それは相当多くのことを含む可能性があると指摘しました。
専門家は同意し、ほとんどの仕事がそのようなものだと述べました。多くの仕事はハイブリッドな性質を持っています。一部は好きだけれど、長い会議、無意味な官僚主義、書類仕事は嫌いです。したがって、退屈な部分の自動化により一部の仕事は改善されるでしょう。
技術革命と新たな雇用
司会者は、首相が技術革命は多くの雇用を創出すると言っていることに触れました。誰かが機械が何をする必要があるかを理解するのを助けなければならないなど。これが失業を何らかの形で補うと見ているかと尋ねました。
短期的には、新しい仕事が現れるかもしれません。例えば、ロボットを作っている場合、誰かがそれらを維持しなければなりません。しかし長期的には、そして長期的というのはおそらく5年を意味しますが、それらの仕事もすべて自動化できます。したがって、新しい仕事の創出が何十万、何百万もの失われた仕事を相殺するプロセスになる可能性は低いです。
5年以内にという部分について、司会者は確認を求めました。
既に今日、AIモデルは多くの分野でほとんどの人間よりも優れていると思います。コンピューター上での認知労働について話しています。肉体労働は異なります。まだヒューマノイドロボットは配備されていませんが、非常に多くの企業がその分野で取り組んでいます。彼らは1年以内に数千から数百万が利用可能になると言っています。
そしてそのプロセスが予想通りに展開されれば、5年後には肉体労働でさえ脅威にさらされるでしょう。
AIバブルと人類史の転換点
司会者はクリスマス中に読んだ懸念について触れました。米国の技術バブル、AIバブルが株式市場の上昇の多くを牽引しているが、この技術にはまだ限られた使用例しかないため、それが崩壊するのではないかという懸念です。彼らはまだそれをどのように収益化するかよく分かっていません。しかし専門家の示唆は、私たちが人類史上かつてない完全な変革の時代に入ろうとしているということでした。
株価は能力の次のレベルのジャンプを織り込んでいます。ツールを持つことから、人間のような能力を持つエージェントを持つことへ移行し、それは本当に無料の労働力を表します。
無料の認知労働力、無料の肉体労働力です。では、すべての人間労働の価値は何でしょうか。何兆ドルもの話をしています。だから企業の評価額が今日1000億ドルであれば、実際にはその無料の労働力へのアクセスに対する小さな賭けです。
司会者は、つまり来るものに対するダウンペイメントのようなものだと確認しました。これらの企業の一部で株価がこれほど高い理由です。
それは資金を持つ人々による、その将来の棚ぼたの一部を得ようとする試みです。なぜなら最大の恐怖は取り残されることだからです。もしあなたがその一部でなければ、あなたがすることすべてが自動化できるなら、この新しい経済から本当に利益を得ることはできません。
5年後の雇用喪失の可能性
司会者は、何百万もの仕事が失われるという5年の時間軸に何パーセントの確率を与えるかと尋ねました。
能力と実際の技術の展開には大きな違いがあります。非常に頻繁に何かをする能力はありますが、展開されていません。空飛ぶ車は今日インターネットで買うことができますが、空飛ぶ車は見かけません。
ビデオフォンでもそれを見ました。70年代に発明されましたが、iPhoneが登場するまで誰も持っていませんでした。だから5年後にはすべての認知労働と多くの肉体労働を自動化する能力があると思います。しかし、実際に経済にどれだけ展開されるかは、人々が何に集中するかによって正確に決まります。現在、これらの能力を展開して収益化する代わりに、すべての大手研究所が次のレベルのモデルへの競争をしています。
だから多くはまだ展開されていません。
ユニバーサルベーシックインカムの必要性
司会者は専門分野から外れているかもしれないが、何百万人もの人々が仕事をしなくなった場合、ユニバーサルベーシックインカムがどの程度必要になるのか疑問に思うと述べました。
革命や不安を防ぐために、政府にとって唯一の解決策のようです。高いレベルの失業がある場合、人々が面倒を見られていることを確認する必要があります。
司会者が機械にどのように課税するのかと尋ねると、専門家は答えました。
まあ、以前とまったく同じです。誰かが利益を上げている場合、政府はその一部を取りたがります。新しいことは何もありません。
司会者は、技術を作っている企業からということかと確認しました。
絶対にそうです。だからハイパープロフィットを上げているMicrosoftやGoogleなどに課税することになります。労働力が無料になったからです。
司会者は、ただ最初に労働をしていた人々ほど多くないだけだと指摘しました。
同じ種類の経済的利益だと思います。個人がそれを得る代わりに、今は会社がその給与の分を保持します。だから総収入は同じままか、成長するかもしれません。なぜなら私たちははるかに多く生産できるからです。
短期的な利点と長期的な脅威
司会者は、明らかに仕事を失うのは悪い考えだが、ユニバーサルベーシックインカムを得て、はるかに速く、はるかに簡単で、潜在的により多くのお金が公共サービスなどに流れる生活を送るという考えは、信じられないほどネガティブなものになる可能性があるものに対して、比較的ポジティブな結果のように聞こえると述べました。
しかし専門家の示唆では、AIはほぼ確実に1世紀以内に人類を一掃するだろうとのことです。だから少しの間は良いかもしれませんが、最終的には非常にうまくいかなくなるでしょう。なぜかと尋ねました。
同じ言葉で言及するさまざまなタイプのAIがあります。AIと言いますが、AIはツールを意味します。AIは人間レベルであり、さらには超知能システムです。
だから私は特に、私たち全員を合わせたよりも賢い超高度なAIシステムに否定的な予測を集中させています。それらを制御する方法を知りません。だから、それらを作成することは悪い考えである可能性が高いです。AIツールが展開され収益化されることについては非常に満足しています。だからこれは実際に今起こっていることだと思います。
AIが人間より賢いことの判別方法
司会者は愚問だと前置きして、AIが私たちよりも賢いことをどうやって知るのかと尋ねました。それができる兆候は何で、私たちは盲目的に進むのでしょうか。
これらのモデルの開発者は継続的にテストしています。プログラミングや数学コンテストなど、さまざまなタスクでどれだけうまく実行するかを正確に知っています。
文字通り何百もの異なるテストがあり、それらすべての分野で現在の最先端が何であるかを正確に知っています。
司会者は、それは既に明らかに人間の脳の集合的なハイブマインドを大幅に上回って処理していると確認しました。
そうです、平均的な人はかなり愚かです。だから彼らを上回るのは難しくありません。私は100の言語を話しません。すべての楽器を演奏しません。だから多くの点で彼らは優れています。しかし、多くのサブドメインでAIよりも驚くほど優れている人間はまだいます。
AIの自律的な知識獲得
司会者は、ある意味では人類がAIが知っていることと知らないことを指示しているが、AIが人間が知り得ない、または知らないことを知ることができる時点はいつかと尋ねました。
実際、彼らが訓練される内容をフィルタリングしていません。私たちが持っているすべてのものを彼らに与えています。インターネット全体がダウンロードされ、訓練に使用されており、モデルは自己対戦に従事できます。新しい知識を得るために、最終的には物理的な実験さえも含めて、シミュレーションに従事できます。
司会者はそれが起こっているのかと尋ねました。物理的な実験です。
はい、AIを実験室の機器に接続して実行できます。現在、それらは化学物質を混合したり生きた細胞を維持したりする単純な実験です。しかし、その分野で高度なロボット工学が利用可能になれば、できることに制限はありません。
超AIの将来的な能力
司会者は、専門家の考えでは、この超AIが今後10年から15年で何ができるようになると思うかの現在の最前線は何かと尋ねました。
完全には理解していません。より賢いシステムが何ができるかを予測してほしいのですか。
司会者は、基本的にコンピューターが私たちよりも賢いことをどうやって知るかという質問に戻りたいと言いました。それが何かをするということです。はるかに速くできます。より高いレベルでできます。しかし、それでも機械を駆動しているのは同じ人間の基盤です。
そうです。狭い領域でそれを見ています。例えば、タンパク質フォールディング問題は現在AIによって完全に解決されており、人間は解こうとすることさえできません。プログラミング、数学的証明において大きな進歩を見ています。さまざまな科学分野の同僚がいますが、彼ら全員が今、システムが彼らの多くの時間を節約する素晴らしいシステムだと言っています。
しかし、人間が解決方法を知らない問題があります。例えば、頻繁に引用されるミレニアム問題があります。大きな賞金があります。予測では、これらのシステムはそのレベルの問題を解決できるようになるでしょう。
種を超えたコミュニケーションの可能性
司会者は、AIが解決を支援していた問題の1つに気づいたと述べました。賞金がいくらだったか覚えていませんが、クジラが互いに話す言語を解読し、その言語を英語に近いものに翻訳し、それをプログラムで戻して、他の動物と種を超えて話すことができるようにするというものでした。これは絶対に驚くべきことで、おそらく非常に可能性があります。
可能であるべきように思えます。彼らの言語が実際にどれだけ複雑かは分かりません。
コメント