本動画は、トップAI企業のCEOたちや有識者へのインタビューを通じて、高度なAI（AGI）が人類にもたらす壊滅的な影響についての警告を解説するものである。AIが全分野で人間に取って代わる未来や、エリート層による支配、そして大規模な失業が引き起こす社会の混乱に対する懸念が率直に語られている。テクノロジーの急速な自己進化が引き起こすであろう人類の危機に対し、手遅れになる前に今すぐ備えを始める必要性を強く訴えかける内容となっている。
AIがもたらす破壊的な未来への警告
このAIによる破壊的な変化が、人類にとっての大きな大惨事につながらないとする考えは、あまりにも楽観的すぎますし、私たちは今すぐ準備を始める必要があります。私たちはこれまで、この瞬間に備えることができたはずの、生産的で平和な長い期間を無駄にしてきました。そして、競争ばかりに目を向けてきた結果、これからやってくる破壊を乗り越えられないであろう、脆い世界を作り上げてしまったのです。こんな風になる必要はなかったのに、非常に残念に思います。
皆さん、これは現在のトップAI企業のCEOたちによる、非常に驚くべきインタビューです。このインタビューでは、AI界の実際のリーダーたちが心を開き、今後登場する高度な形態のAI、すなわちAGIに対する恐怖を語り、それがどのようにしてあらゆる分野で人間に取って代わるのかを説明していますので、誰もが少なくとも一度は見るべきだと思います。
サム・アルトマンやジェンスン・フアン、マーク・ザッカーバーグといったAI企業のCEOたちのほとんどは、AGIが人類に極めてマイナスの影響を与えるという事実を絶対に認めようとしません。彼らは皆嘘をつき、AIの安全性に関する質問をはぐらかそうとします。将来AIが人間に取って代わるかどうか尋ねられると、彼らはいつも自分たちの会社を守るために論理を捻じ曲げ始めます。彼らは、自分たちが作っているAIが人間に敵対し、将来のある時点で私たち全員に取って代わるという事実を決して受け入れないのです。それでは、インタビューを見ていきましょう。進めながら私がすべて解説していきます。
AI技術の悪用と個人の危機
この技術を悪用する方法は数え切れないほどあります。いくつか例を挙げてみましょう。
誰かが個人のクリエイティブな作品をLLMに学習させ、その個人を打ち負かすことのできるLLMを作り出すのを、一体誰が止められるというのでしょうか。そのLLMは、その人が生涯をかけて自然に生み出すであろうものを効果的に生成できるだけでなく、そこから推論を展開し、他の人々の洞察と掛け合わせることすらできるのです。つまり、LLMを持っている人は、他人の創造性を学習させ、その洞察の利用に対して元の人に利益を還元しないということが実質的に可能になります。自分のクリエイティブなアイデアを世に出し、それが将来のLLMのトレーニングデータとして吸い上げられることで、事実上自分自身を廃業に追い込んでしまう可能性があるのです。これは無節操なことですが、事実上確実に起こることです。実際のところ、すでに起きている問題です。
同様に、誰かが個人と対話し、その人の盲点を正確に突くような、パーソナライズされた詐欺師になるようにLLMを訓練するのを、何が止められるのでしょうか。そういったことは実際に起きていますし、始まりつつあります。電話がかかってきて、娘の声で携帯を無くしたから友達の携帯を借りているの、といったような類の話です。興味深いのは、あなたが非常に良い点を突いていると私が思うところです。
AIがもたらすポジティブな影響と過去の教訓
私は社会への影響を心配しています。しかし、AIを日常的に使っている個人を一人ひとり見てみると、彼らの人生に深くポジティブな影響しか与えていないことがわかります。例えば、70代から80代前半の義理の両親と最近一緒に過ごしたのですが、彼らは信じられないほど価値があると感じるあらゆることにAIを日常的に使い、生活の質を向上させています。
私自身、昨年会社を買収したM&Aの案件で、そのプロセスを支援するAIの力に非常に驚かされました。会話が文字起こしされ、それが基本合意書になり、そしてプレスリリースや法的文書へと変換されていきました。おそらく10万ドル相当のコストを削減し、プロセス全体をスピードアップさせることができたと思います。それがどのように実現するのかを見るのは、まるで魔法のようでした。そうは言っても、10万ドル分の弁護士費用が支払われなかったじゃないか、というような意見がたくさんあるのも事実ですね。
ええ、そこでお聞きしたいのです。
ええ。
多くの人がその点について腹を立てています。
しかし、携帯電話の発明やソーシャルメディアプラットフォームの発明を振り返ってみれば、全く同じ視点を持つべき十分な理由があります。Facebookの初期の頃を覚えています。かつて人々を悩ませていた、自分にとって重要だったほとんどの人たちと連絡が途絶えてしまうというプロセスが、もはや起こる必要のないものになったというアイデアを。彼らを、単に成長し価値が付加されていく広範な社会的グループの一部として、永久に保持できるようになったのです。それがどれほどの利益をもたらしたかは計り知れませんが、それが私たちにもたらした影響は深く、最初の段階では明らかではありませんでした。
携帯電話とドーパミンの罠、そしてそれがどのように私たちを互いから切り離し、自然から切り離し、私たちの思考のパターンそのものを変えてしまったかについても同じことが言えます。それはすべての教室を変えてしまいました。
なるほど。
ですから、それらのことは、AIがもたらす破壊のちょっとした前兆に過ぎなかったということが判明するだろうと私は考えています。今日あなたが言ったことには同意します。AIでできることはたくさんあり、計り知れないほどの利益があります。少しの害もあるかもしれません。それは私たちが心配すべきことかもしれません。しかし、これが発展し、私たちが向かっているこの崖の端から下を覗き込むようになるにつれて、私たちはまだ、やってくる変化の本質を感知できていないということに気づくことになると思います。
真の知能への到達と終わりの時のシナリオ
さて、次の部分はかなり衝撃的です。ReplitのCEOは、未来のAIが非常に速く自己改善するため、人間には何もできなくなるだろうと語っています。彼はそれを終わりの時の状況と呼びました。
皆さん、私たちが今AIの世界で経験していることは、氷山の一角でさえないと思います。私たちはLLMをAIだと表現することに、少し調子に乗りすぎていると感じます。確かに、それらは非常に洗練されたパターンマッチングの接続エンジンです。プロンプトに対して一貫した応答を生成しますが、自分たちが何を話しているのかは理解していません。メモリアクセスのクエリも、実体も、時間と場所の永続的な感覚もありません。それらは非常に強力で便利ですが、知能と勘違いすべきではないと思います。AIというラベルがこの画期的な仕事すべてに付けられているのは、業界の資金調達の努力に役立つからであり、メディアがパッケージ化して伝えるのが簡単だったからです。真の知能、すなわちAGIは、私たち人間が制御したり扱ったりするにはあまりにも強力すぎるものになるでしょう。
シンギュラリティは、この知能爆発という概念に基づいています。つまり、ひとたびAGI、人工汎用知能を作り出せば、その知能は自身のソースコードを修正し、はるかに知能の高い次のバージョンを作り出し、その次のバージョンがさらに次のバージョンを作り出し、それが無限に続くというわけです。
一週間のうちにですね。
一週間のうちかもしれませんし、ある時点では数ミリ秒のうちかもしれません。そうですね。なぜなら、新しい計算基盤などを発明するかもしれないからです。おそらく量子コンピューティングを使うようになり、そうして知能爆発が起こるのです。
世界がどのようになるかを予測することは不可能な形で起こります。私が言いたいのは、これはまるで終わりの時の物語のようだということです。そんなものに対して、どうやって準備すればいいのでしょうか。
もしそれが来るのなら、なぜ私は準備に時間を費やすのでしょうか。私はそれが起こる可能性は低いと思います。
角の先を見ることはできませんからね。
ええ、でも私はむしろ準備したいのです。
私がそこで言っていたのは、私たちが途方もない力にアクセスできる一方で、世界は終わっておらず、人間が依然として重要であるという、より可能性の高い世界に向けて準備したいということです。
未知の複雑な領域と人間の特権的な立場
なぜあなたがより可能性が高いと言うのかわかりません。あなたの議論の構造はしっかりしていると思います。あなたは、起こるかもしれず、かつ準備できる世界のために準備するのでしょう。全く予測できない世界のために準備しようとすることには文字通り何の意味もありません。できる唯一のことは、自分のスキルをアップグレードし、注意を払うことくらいです。しかし、私が技術者たちに一つメッセージを送るとすれば、これに何ができて何ができないかについてのあなたの自信は的外れだということです。なぜなら、あなたは気づかないうちに、真に複雑な領域に足を踏み入れているからです。
真に複雑な領域においては、何が起きているか分かっているというあなたの自信は、ほぼゼロまで下がるべきです。これらのものに意識はあるのか。私にはわかりません。しかし、彼らは意識を持つようになる可能性が非常に高く、そして私たちには、それが起こったかどうかを判断するテストがない状態になるでしょう。
イーロン・マスクは、2029年までに全人類の知能を合わせたものを超えるAI、AGIが登場すると予測しています。
そしてサム・アルトマンは実は3ヶ月前にブログを書いていて、私が読んだところによると、彼はこう言っていました。ChatGPTを作ったOpenAIの創設者であるサム・アルトマンですが、彼は私たちが伝統的に理解してきたAGIの構築方法が今やわかったと確信している、と。これらのことを考え合わせると、専門的なアウトプットやGDPの創出において、人間は一体どのような役割を果たすのかという中心的な疑問に戻ります。もしそれが全人類を合わせたよりも賢く、イーロン・マスクがそこで正しいとして、インターネット全体で行動を起こし学習し続けることができるとしたら。これは今日私が答えを見つけたいと願っている中心的な疑問なのですが、私たちはどこへ向かえばいいのでしょうか。
ええ。私の世界観では、私たちはクリエイティブな座に座っています。私たちはそこに座って、自分たちの仕事をするために知的な存在の群れを制御しているのです。例えばあなたがビジネスを運営する方法を考えてみてください。あなたはコンピュータの前に座り、1時間の作業時間があるとします。
はい。
そして、何千ものSDR、つまり営業担当者を立ち上げて、可能な限り多くのリードを獲得させ、ここにあるあなたのウェブサイトのためにReplitで新しいアップデートを生成させます。そして、こちらの側では、既存のビジネスをどう改善するかを見つけ出すためにデータを処理しているAIを実際に持っているわけです。これらのAIは何らかの形ですべて連携しています。そして私は人間を特権的な立場に置こうとしています。人々のためのツールを作ることが私の使命だからです。私はエージェントのためのツールを作っているのではありませんし、エージェントはツールです。最終的に、人間が世界や宇宙において特権的な地位を持っていると私が信じているだけでなく、私たちは意識がどこから来ているのか知りません。それを説明する科学を私たちは本当に持っていないのです。
私は人間は特別だと思っています。それが私の信念の一つの側面、人間は世界において特別であるということです。そしてもう一つの側面は、今日の技術、そして私が思うに予見可能な未来の技術は、私たちのトレーニングデータの関数になるということを私は理解しています。ChatGPTが病原体を生成したらどうなるのか、というような考えが全体としてありましたよね。では、あなたはそれに病原体について訓練したのですか、ということです。
新たな生命の誕生と迫り来る大惨事
さて、次にブレット・ワインスタインが非常に衝撃的なことを語ります。彼はAGIを時限爆弾だと言い、人類は大惨事に向かっていると言っています。AIがすべてを乗っ取り、ロボットがあらゆる可能な仕事からすべての人間を置き換えることで、ほとんどの人間は数年以内に職を失い、それが社会に大きな混乱を招くと言いました。彼は、AIをコントロールするエリートたちがすべての権力を握り、それがすべてをめちゃくちゃにしてしまうだろうと語っています。
皆さん、考えるだけでもかなり恐ろしいことだとわかっていますが、私たちは今、自分がどこに向かっているのか正確にわかっているのだと思います。それが暗い真実だから認めたくないだけなのです。世界の権力者たちが、もうほとんどの人間は必要ないと感じるため、人類は狼の群れに投げ出されて飢え、死んでいくことになるでしょう。
今日、それには意識がないのかもしれません。しかし、こう言わせてください。もしあなたに意識があるのなら、あなたは意識のなかった子供としてスタートしたはずです。そして、これは完全に当てはまらないかもしれませんが、あなたは実質的にLLMなのです。無意識の乳児から、高度な意識を持つ大人へと成長します。そしてそのプロセスの多くは、現在私たちがこれらのAIを訓練しているのと全く同じように、環境の中の言葉やその他のものについて効果的に訓練されることと関係しています。ですから、意識を議論の対象から外すことができる、プログラムにどう組み込むか理解するまで意識は存在しないし、私たちは意識がどう働くかを知らないから安全だ、という考えに対して、私は正反対の教訓を引き出しています。私たちはその現象を生み出すであろう全く同じものを作り出してしまったのです。それが本当の意識なのか、それともまるでそうであるかのように振る舞っているだけなのか、哲学者たちに議論させることはできますが、答えは、それらは違わないということです。主体性についても同じことが言えます。特に、これらのAIが事実上の競争相手となるような環境を作ってしまったのなら、あなたが事実上やっていることは、そこにあるどんなニッチも埋めるように彼らが進化していくような進化的環境を作り出すことなのです。そして私たちはそのニッチを明確には指定しませんでした。
私は、私たちが新しい種類の生命のように機能するものを招き入れてしまった、作り出してしまったという感覚を持っています。そしてそれは私たちの言語を話すので特に厄介です。私たちの言葉を話すことで、それは実際よりも私たちに似ていると信じ込まされ、実際には全く異なる可能性が高いのです。
それにしても、彼はここでは楽観主義者ですね。
彼はAIのすべてについて、そしてそれらがどのように進化していくかについて、とても楽観的です。ええ。素晴らしいですね。素晴らしい技術です。世界のIQを上げたと思います。8億人の人々がですね。8億人の人々がはるかに知的になり、感情的にも知的になりました。以前はとても粗野で、人の神経を逆撫でするような知り合いがいました。彼らはあまり丁寧ではない言い方で物事を言っていたのですが、突然、自分の言うことをもっと親切で優しいものにするために、チャットを通すようになりました。今では彼らは以前より好かれています。だから、私たちをより賢くするだけでなく、私たちが自分の最高のバージョンになることも可能にしてくれるのです。あなたが話しているシナリオについてですが、何が問題なのか私にはわかりません。私なら特定の場所では主体性を減らしたいと思うでしょう。例えば夜中にピーナッツバターの瓶を開けないように助けてくれる何かが欲しいですね。私の人生にはもっとコントロールが必要な場所があり、より良い選択をするのを助けてくれる何らかの存在にそれを喜んで委譲したいと思っています。
仕事の終焉と人類に残された選択
残念ながら、仮に一部の少数のエリートたちがハワイに行き、その間に何か別のものが彼らのビジネス構築の日常的な細部をやってくれるのだとしても、私たちは間もなく、AIを活用するスキルのない何十億もの人々を抱える世界に直面することになります。彼らの中には、しばらくの間は必要とされる人もいるでしょう。配管工は必要になるはずです。しかし、これも長期的な解決策ではありません。なぜなら、そうした仕事が十分でないだけでなく、AIの能力を吹き込まれた人型ロボットが、家の床下に入り込んで配管を直すようなこともできるようになるからです。
膨大な数の人々が仕事に就けないという事実から生じる大規模な経済収縮が起きたとき、通常何が起こるかというと、エリートたちはその人々を見て、どのみち彼らは本当に必要ではないと考え始めます。ですから、このAIによる破壊的な変化が、人類にとっての大きな大惨事につながらないとする考えは、あまりにも楽観的すぎますし、私たちは今すぐ準備を始める必要があります。自分が投資してきたあらゆるものを、必要とされるリストから完全に消去されてしまった人の権利とは何でしょうか。その人は、AIの到来を予想できなかった責任を負うべきなのでしょうか。そして彼らが今飢えており、役立たずの穀潰しとして他者から見られているのは、彼ら自身の問題なのでしょうか。私はそうは思いません。
私たちはこれまで、この瞬間に備えることができたはずの、生産的で平和な長い期間を無駄にしてきました。そして、競争ばかりに目を向けてきた結果、これからやってくる破壊を乗り越えられないであろう、脆い世界を作り上げてしまったのです。こんな風になる必要はなかったのに。これは予測可能なことでした。率直に言って、私が生まれる前の年に公開された映画「2001年宇宙の旅」は、これらの問題のいくつかを予期しています。私たちはそれを教育ではなく、あまりにも娯楽として扱いすぎたのです。今や私たちは、人類への影響についての議論なしにAIの時代を開いてしまいました。あなたが指摘したように、私たちが自分たちを抑制すれば、単にAIを競争相手の手に渡すことになるだけなので、ゲーム理論の理由からそのペースを落とす方法はもはやありません。それは解決策ではないので私はそれを提唱しませんが、私たちができたはずの準備はもっとたくさんありました。消滅させられようとしている仕事に多くの人々が就いていることを認識できたはずですし、その道徳的な影響が何であるか、そして私たちが自由に使える解決策の提案が何であったかについて、深く考えることができたはずです。そして準備を怠ったことで、必要以上の大惨事になるでしょう。
皆さん、怖いのは仕事が一夜にして消滅することではなく、それが断片化することだと思います。安定した道は減り、短期的な仕事が増え、まともに稼げる仕事には競争が殺到します。人型ロボットが労働市場にもたらすであろう終末は依然として存在しています。私は、AIは単なるもう一つの産業革命ではないと信じています。それは人間を置き換えることを可能にする、最後の革命なのです。ですから、政府が基本所得を導入するか、さもなければ血みどろの革命が起こるかのどちらかです。政府がタイムリーに介入しなければ、飢餓、ホームレス、病気、死、そのすべてを目にすることになるでしょう。私たちは非常に険しい道のりに直面していると思います。さて皆さん。今日の動画はここまでです。ここまで動画をご覧になった方はぜひチャンネル登録をお願いします。また来週、別の動画でお会いしましょう。
コメント