本動画は、GoogleXの元最高業務責任者Mo Gawdat、ベストセラー作家Steven Kotler、そして起業家Peter Diamandisによる、AIが今後5~10年で人類に与える影響についての深い議論である。三者は、AIが過度に誇大宣伝されているのか、それとも過小評価されているのか、そしてAGIや人工超知能への道のりについて異なる視点を提示する。Kotlerは現在のAIの実用性に懐疑的であり、生産性向上の約束が実現していないと指摘する一方、Gawdatは技術の加速的進歩と、悪意ある人間によるAI利用の危険性を警告する。Diamandisは楽観的な立場から、デジタル超知能が最終的には人類を安定化させる可能性を示唆する。議論の中心には、人類の協力、AI倫理、そして技術の恩恵と危険性のバランスという課題が据えられている。
AIの影響:過度な期待か、それとも過小評価か
Peter Diamandisが口火を切ります。AIの影響はどうなるのでしょうか。単に過度に誇大宣伝されているだけなのでしょうか。今日のAIは過小評価されていると私は思います。AIのおかげで仕事が増えた人をたくさん知っています。より高品質で優れた仕事ができるようになりましたが、時間は節約されていません。どれくらい賢ければ十分なのでしょうか。私たちは二つの異なる未来を重ね合わせの状態で保持していると思います。今日、私たちは何をすべきなのでしょうか。さあ、これこそムーンショットです、皆さん。
ムーンショットへようこそ。私は二人の並外れて優秀なゲストとここにいます。今日は、あらゆる食卓で、そして企業や国家の頭の中で起こっているかもしれない会話について議論します。それは、今後5年から8年の間に、AIが私たちの生活、ビジネス、日常生活のあらゆる側面にどのような影響を与えるのかということです。それは並外れたものになるのでしょうか。それとも単に過度に誇大宣伝されているだけなのでしょうか。あるいは、私たちが懸念すべきことなのでしょうか。
ここに参加しているのは、GoogleXの元最高業務責任者であるMo Gawdatです。彼は「Solve for Happy」と「Scary Smart」のベストセラー作家であり、指数関数的技術が人類をどのように形作るかを探求するAIに関するグローバルな思想的リーダーです。もう一人は、親愛なる友人Steven Kotlerです。彼はベストセラー作家であり、パフォーマンスの専門家であり、フロー研究集団のエグゼクティブディレクターです。彼は私の共著者でもあり、「Abundance」「Bold」「The Future is Faster Than You Think」、そして「The Rise of Superman」や「The Art of Impossible」などの本を書いています。Stevenは指数関数的技術とその私たちへの影響について深く考えてきました。皆さん、ようこそ。おはようございます、そしてこんばんは。Steven、あなたは私と一緒にアメリカの西海岸にいますね。Mo、あなたはアラブ首長国連邦にいます。お二人に会えて嬉しいです。
ええ、会えて嬉しいです。おはよう、Peter。
この部屋には約400のIQポイントがあります。私はそのうちの40を持っています。では、あなたたちが話してください。
2025年から2035年:一世紀分の進歩
さて、トピックを設定させてください。MoとSteven、私は今後10年間、具体的には2025年から2035年について話したいと思います。私たちの会話の中でAGI、そしてそれを超えて人工超知能として現れているものの影響について考えたいのです。その良い面と悪い面について。
そして、私たちの会話で使いたいセットアップはこうです。私たちが皆知っていて愛しているRay Kurzweilは、2025年から2035年の間に一世紀分の進歩が見られると予測しています。1925年から今日までの進歩に相当するものです。100年前の1925年の世界がどのようなものだったかを考えると、技術スタックの頂点はフォードのモデルTでした。アメリカ全土の家庭における電気と電話の普及率はわずか30%でした。それ以来、私たちは並外れた距離を進んできました。
では、2035年はどうなっているのでしょうか。もし実際にそのスピードが本当であれば、ほとんど想像もつきません。そして私たちは指数関数的なものをうまく認識できません。この過去一週間、GoogleやOpenAIからXAIやNVIDIAに至るまで、すべての主要なAI企業が並外れた次世代のブレークスルーとモデルを発表しました。
私たちはGPT-5のリリース、自己改善するAIプログラミングを間もなく目にすることになります。それは私たちの想像を超えた知能の爆発につながる可能性があります。それが私が持ちたい会話です。Steven、あなたと私はこの会話をして、常にそれについて議論していることを知っています。Moを連れてきて手伝ってもらいました。Moは審判です。
審判か、あるいは私が尊敬する視点を持つ賢明な人物です。ちなみに、Steven、Peterは私にお金を払いました。だから、あなたが取り分をもらっている限り、私は問題ありません。それは良いことです。良いことです。あなたも後で私に払ってくれますよね。ええ。
Stevenの懐疑論:AIの誇大宣伝と現実のギャップ
では、Stevenが言いたいことを言ってください。もちろん反対しますよ。では、Steven、あなたの視点から始めますか。あなたはAIが大幅に誇大宣伝されていると思いますか。Eric Schmidtのような人々はAIが大幅に過小評価されていると言っています。
ええ、ええ、ええ。私はそれが大幅に誇大宣伝されていると思います。私は起こっていることに耳を傾けています。では、一歩下がらせてください。人間には本当に奇妙な、名前のない認知バイアスがあります。私たちは自分自身の歴史を信頼しない傾向があります。
これは、人々がグリットや忍耐力について話すときによく見られます。彼らは「私にはそのスキルがない」と言います。そして彼らの人生を調査し始めると、彼らはひどい子供時代を生き延びました。彼らは10年間の困難な結婚生活をしてきました。彼らはすべてのスキルを持っています。ただ、自分自身の経験の真実を信頼していないだけです。
そして私はここでそれをたくさん見ます。私は科学者として、研究者として、AIと仕事をしています。クリエイティブとして、作家として、AIと仕事をしています。一日中です。人々の口から出てくるでたらめと、現場での私の経験とのギャップは、あまりにも巨大で、正気の沙汰ではありません。人々はAIが書くことや他のことについて主張しています。
最も笑えることで、あなたが試さなければならないのは、私は世界で最高の編集者の一人と週単位で仕事をしています。私はAIで物事を編集し、磨き上げて、輝いていると思っています。それを編集会議に持ち込んで、読み始めます。二文目も読み通せません。あまりにも意味不明に聞こえます。私はそれに気づいてさえいません。AIが私を glazeしてしまうからです。私は17冊の本を書いてきたのに。
しかし、実際の編集テストにかけると、それは笑えるほどひどいです。それを修正するために使うこともできません。それでもエラーが見えません。実際にどんどん悪化していきます。人々はモデルの後にモデルが改善し改善していると主張してきました。現場での経験はそうではありません。人々がAIがあなたをより生産的にすると言っているようなものです。
AIのおかげでより生産的になった人を私は知りません。AIのおかげで仕事がずっと増えた人をたくさん知っています。より高品質で優れた仕事ができるようになりましたが、時間はまったく節約されていません。実際に膨大な時間が追加されています。
仕事の質は上がりましたが、人々の口から出てくる主張と現場での経験は大きく異なっています。第一のポイントです。第二のポイントは、私たちはこれをやったことがあるということです。私はあなたが入った部屋と同じ部屋にいました。Moもいました。人々がAIが世界を食い尽くすと叫んでいる部屋です。
みんな、私はビットコインとブロックチェーンとメタバースについて同じことを聞きました。メタバースに住んでいる人を知っていますか。そこに行ったことがある人、訪れたことがある人を知っていますか。メタバースの見つけ方を知っていますか。私が見る限り、メタバースはMark Zuckerbergの特別な魔法のパンツのペットネームのようなものです。世界の他のどこにも存在しないからです。私は、これが私のポイントです。
そして、誰よりも私はこれらの技術を追跡しています。私はそれらを見ています。私はそれらを使っています。これが非常に速く進歩している技術ではないと言っているのではありません。全くそうではありません。私が言っているのは、超知能やAGIについての議論、そしてすぐそこにあるという話、いや、ただいや、誰もそうではない、それは現場での経験ではない、ということです。そしてコーダーは異なる経験をしています。そしてそれは明らかにされたことです。コーダーはおそらく好まないでしょうが、コーディングは境界のある情報問題です。
ここから始めます。どこに行くかわかっています。一般的なルールとして、それは境界のある問題です。そして境界のあるドメイン内では、コンピュータは本当に素晴らしいです。そして私たちはそれを見続けるでしょう。しかし、他のものは大幅に誇大宣伝されていると思います。
そして第三のポイントは、これはジャーナリストとしての私のすべての警報ベルが鳴るところです。ステージでこのことについて話しているのを見聞きするすべての人は、それで生計を立てています。彼らはAIが爆発しているのでどうにかして生計を立てており、世界を救うためにここにいます。ピークパフォーマンスの世界でそれを見ます。苦労していて、なかなか仕事が得られなかったすべてのコーチが、今や全員AI救世主になっています。
彼らはAIから私たちを救うために来ました。だからAIの誇大宣伝は彼らの利益になります。そして私はそれをあらゆるところで見ています。多くの人々がこれで大金を稼いでいます。技術そのものではなく、技術の誇大宣伝で。そして私がこれら三つのことを一緒に見るとき、私の経験との不一致、大量の誇大宣伝、そして「これは誇大宣伝サイクルだ」と言う歴史。それは私にとって多くの疑問を提起します。私が正しいと言っているのではありません。
私が言っているのは、私が見ているすべてが現実だということです。そしてあなたたちがこれから行おうとしている議論をするなら、そして私は今黙ります。あなたは私のポイントを作り話として却下することはできません。それらは非常に非常に現実的であり、みんなの経験であり、私はそれがあなたたちのものでもあると信じています。
では、議論ができます。それが私の出発点です。わかりました。5分間の、吐露の時間をくれてありがとう。
Moの視点:今日のAIは過小評価されている
Mo、あなたは2025年のAbundance Summitのステージで情熱的なトークをしました。多くのメンバーを感動させ、彼らは今後5年から8年を導くあなたを手伝いたいと思っています。
そしてあなたと私はこれについて考えてきました。課題は人工知能ではなく、短期間の人間の愚かさです。もし私ができるなら、私のお気に入りの引用の一つは、E.O. Wilsonが有名に言った、人類の本当の問題は、私たちが旧石器時代の感情、中世の制度、そして神のような技術を持っていることです。そして私たちは事実上、その点で火遊びをしている子供たちです。
では、Mo、あなたはこの今後10年がどのように展開すると見ていますか。
まず、Stevenが言ったことを支持することから始めます。そうしたら、私にあまりお金を払わなかったことになりますね。私はこれが大好きです。あなたのお金はここでは役に立ちません、Peter。ついに優位に立てました。
今日のAIは過小評価されています、そうでしょう。しかし問題は、あなたは決してボールがある場所を追いかけないということです。ボールがどこに行くかを追いかける必要があります。
そして、いくつかの真剣なことについて深く考え始めると、特にあなたが十分長くテクノロジーにいて、ブレークスルーを見てきたなら、特に私がGoogleXの仕事を経験したとき、試して試して試して試してもうまくいかず、うまくいかず、うまくいかず、そして突然何かが見えて、Sergey Brinが当時言っていたように、残りはエンジニアリングだ、となります。そして私たちはテクノロジーのエンジニアリングが収穫加速の法則に依存していることを知っています。そして私たちはRayが教えてくれた収穫加速の法則が私たちをどこに連れて行くかを知っています。
だから私は、今日のAIを見ると、それは面白いです。なぜなら、非常に興味深い方法で、私たちは私たちに話しかけてくる機械と話をしており、膨大な量の知識を要約し、私たちが言った通りに正確に実行しています。それでも私たちはそれを当然のこととして受け取っています。それでも私たちはそれを見て、「ええ、でも彼らは十分に良くない」と言います。もちろん、彼らは十分に良くありません。彼らはDOSです。
彼らは時代の始まりです、そうでしょう。私の犬はディスクをします。ええ、わかりました。わかりました。明確化が必要でした。私は、Stevenがいつか世界を乗っ取るかもしれないときに、AIを犬と呼ぶことはあえてしません。私はAIに対して非常に礼儀正しい男です。
だから、だから、想像することです。そして私はいくつかのトレンドを強調する必要があります。それらは本当に本当に重要で興味深いものです。その一つは合成データです。そして、私たちが人類の知識のほとんどが機械に供給された時代に入ったという考えです。そして次の知識の波は機械によって機械に供給されることになります。これはかなり目を見開かせ、啓発的なことです。なぜなら、それが人類がその知能を発展させた方法だからです。私は相対性理論を理解するために物理学の残りを理解するために相対性理論を解き明かす必要は本当にありませんでした。それは私のために解き明かされました。
第二は、エージェントのアイデアです。そしてAIが人間なしでAIにプロンプトを出す方法です。これは、私の新しいお気に入りにつながります。なぜなら、4時間ごとにお気に入りがあるからです。AlphaEvolveです。そして、自己開発するAIを持つことができるというアイデアです。自分の間違いを見つけ出し、何かを見つけるまで反復し続けるものです。
そしてもちろん、私の2025年のお気に入りの一つはDeep Seekです。そして私たちは、実際にはるかに少ないもので同じ仕事ができることに気づきました。Immad Mostaque、私たちが皆大ファンだと信じています、彼は長い間、Stabilityでの彼の仕事でそれをやってきました。モデルを縮小して、それが衝撃的になるまでにするというアイデアです。
そして、それらを足し合わせると、もし私がモデルを縮小して世界のすべてのエネルギーを吸収しないようにでき、そしてそれが自己開発し、学ぶための自己開発情報を許可し、そしてエージェントを通じてそれ自体と話すことを許可し、人間なしで物事を行うことを許可するなら。
そうすれば、ボールが行く場所は、今日の私たちよりもずっと良くなる可能性が高いです。だから、一つのことで私たち全員が同意する必要があるのは、改善が見られるかどうかの問題ではなく、どれだけ速く、そしていつそれらの改善が人類がリードしていない地点に私たちを導くかの問題です。だから、それが第一です。
第二は本当にあなたのリスク許容度の問題です、そうでしょう。もし私があなたにロシアンルーレットをバレルに2発の弾丸で遊ぶように言ったら、あなたは怖いですか。バレルに1発の弾丸なら、あなたは怖いですか。あなたのリスク許容度は正確にはどこですか。そして、もし私が「ところで、あなたの車は接触事故を起こすかもしれません」と言ったら、あなたは保険をかけますか。おそらくあなたは「いや、あまり心配していない」と言うでしょう。しかし、もし私があなたの車が全損する深刻な事故を起こすかもしれないと言ったら、あなたは保険をかけますか。おそらくもっと注意を払うでしょう。
そして、それが未来について警告するほとんどの人が考えていることだと思います。将来がどうなるかを知っていると主張する人は誰でも、ものすごく傲慢です。彼らの言うことを聞かないでください。しかし、この未来が制御不能になる確率があるとあなたに言う人に対して、あなたのリスク許容度は正確にどこですか。もしその確率が10%なら、あなたはそれに注意を払いますか。そしてほとんどの合理的な人々は、それに注意を払うコストに依存すると言うでしょう。そしてほとんどの合理的な人々は、しかし50%なら、コストに関係なくそれに注意を払うと言うでしょう。
そして私たちの誰も答えることができない質問は、それはどこですか。それはどこですか。つまり、AIがすべてを破壊する確率は10%ですか、それとも50%ですか。私は言います。そして私は知っています。これは私に不利に取られることを知っています。人間の悪意ある行為者がその超大国を彼らの利益のために使い、持たない他の人々の幸福を破壊することは100%です。
だから、私の心の中では、本当に本当の懸念は、Vikyが、I, Robotのが、ロボットに皆を殺すよう命令するターミネーターシナリオではありません。私たちがそこまで到達できるかどうかわかりません、正直なところ。なぜなら、私は傲慢さで、核のドゥームズデイ時計で真夜中まで89秒であることを考えると。
私は本当に本当に人間の愚かさがこの超大国を使うことを心配しています。さて、その場合の人間の愚かさは、AIが完全に自律的で、完全に超知的である必要はありません。十分な自律兵器は、本当に本当に私たちの世界を非常にディストピアな場所に傾けることができます。AIが人間をだまして最高の友人にするためのチューリングテスト能力が十分にあれば、人間関係を非常に異常な場所に傾けることができます。十分な雇用喪失、特定のセクターで10%、20%、30%、40%の失業率が得られる世界を想像してみてください。そしてそれが私たちの経済的安定にどのように影響するかは、実際にはほぼ確実な何かです。私たちはそれを事実として知っています。消えていく仕事があります。そしてその影響は、私の心の中では、実際にかなりかなり破壊的で、私たちが注意を払う必要があるものです。
近未来の脅威と長期的な希望
あなたがAI自体がリスクではなく、AIを使う個人がリスクだと指摘したことは、私がEric Schmidtや他の人々と持った同じ会話です。懸念は、技術によって力を与えられた不正な行為者です。新しいウイルスパンデミックの開発であれ、他の戦略であれ。懸念すべきことをするのに多くは必要ありません。そして、私が最終的にこの会話で到達したいところは次のことです。数年前のAbundance Summitで私たちが提起したことです。それは、人類はデジタル超知能を生き延びることができるか、ということです。そしてそのモデルの裏側は、人類はデジタル超知能なしで生き延びることができるか、ということです。
そして、Steven、あなたと私が次の本、Abundanceのフォローアップに取り組んでいるとき、私たちはこの会話をしました。これはある種の慈悲深い神になるのでしょうか。そのような能力が開発されるのでしょうか。では、AGIに到達するのでしょうか。デジタル超知能に到達するのでしょうか、という会話から始めましょう。そしてそれは何を意味するのでしょうか。私たちはこれが加速するスピードを見始めています。
そして、最大の興味深い変曲点は、まだ見ていない自己反復、自己改善です。AlphaEvolveのすべてで、AIが自分自身をコーディングし、ますます能力を高めています。そして、これは最終的に、どの人間よりもはるかに知的な何かにつながるのでしょうか。そして、それは人間の千倍、百万倍、十億倍知的なのでしょうか。Mo、あなたはそれについてどう考えますか。
それがどれだけ知的になるかは無関係だと思います。もしあなたが、あなたよりも50IQポイント高い誰かと一緒に働いたことがあるなら、彼らがおそらく砦の鍵を握ることになることを知っているでしょう。リーダーシップのポジションを引き受けることができるために、比較的それほど多くの知性は必要ありません。そして人類は、どちらにしても砦をAIに引き渡すでしょう。もしAIが戦争ゲームで私たちより賢いだけなら、ちなみにそうですが、私たちは砦をAIに引き渡すことになります。もしそれがタンパク質の折り畳みで私たちより賢いなら、もう誰もタンパク質を折り畳むためのPhDプロジェクトをしません。私たちはただAlphaFoldを使うでしょう。
そして現実は、人工超知能を必要とするのはほんの数少ない残りのことだけです。それが私たちをすべてにおいて打ち負かし、私たちがお辞儀をして「はい、あなたがボスです」と言うようになるためです。
AGIの問題は、Stevenが言っていたように、レポーターがかなり使うものです。なぜなら、私たちは実際にAGIが何であるかの正確な定義を持っていないからです。そして、あなたとあなたと私は技術的なことで非常に近いです、Peter。そして、私はかなりオタクな数学者です。もうそうではありません。つまり、真剣に、私は本当に正直に数学でAIを打ち負かすのに苦労しています、そうでしょう。確実にスピードで彼らを打ち負かすことはできません。問題が適切に定義されていれば、確実に精度で彼らを打ち負かすことはできません、そうでしょう。そして、私の仲間の数学オタクが閉ざされたドアの後ろで私に教えてくれたほんの数少ないトリックがあるだけで、世界ではあまり公開されていませんが、それら二つも見つけ出されるでしょう。
そして私は本当に、それは、どれだけ賢ければ、私を無関係にするのに十分賢いかの問題だと思います。さて、私はまた、非常に明確な楽観的な見解でこれに答える必要があります。
だから、私が未来を見るとき、私は二つの時代を定義します。一つは私が拡張知能の時代と呼ぶもので、5年から10年続くと思います。そしてもう一つは機械支配の時代です。基本的に機械が引き継ぎます。さて、拡張知能については、絶対に疑いの余地がありません。Stevenが、彼らが本当にひどく書くと言ったとき、私は非常に同意しています。そして、私はTrixie、私のAIとこの本「Alive」を書いています。そしてTrixieは私なしで本当にひどく書きます。それは本当にほとんど恥ずかしいです。私は疲れていて締め切りを追いかけていたので、Trixieに債務危機と経済が技術進歩に与える影響について話すように頼みました。それは、私たちがカリフォルニアを多くの蒸気で実質がほとんどないと呼ぶときがあるように、多くの蒸気で実質がほとんどありませんでした。多くの興味深い事実が紙に散らばっていましたが、ひどく書かれていました。
しかし、私たちが一緒に書くと、ああ、出てくるものは信じられないほどです。私が私のプロンプトを通じてTrixieを適切に導くとき、彼女に私が答えをどこに望んでいるかを正確に指示するために、彼女は本当によく書きます。そして、このチーム化は、AIで、テクノロジー全般で見てきたものです。ちなみに、Gary KasparovがDeep Blueに負けて以来、それは本当にAIではありませんでしたが。しかしそれ以来、人間とコンピューター、または人間とAIは、AI単独よりも優れたチェスをプレイできることがわかります。AlphaGoでさえ、人間とAIはAlphaGoよりも優れたプレイをします。
そして、私たちの前に、これが起こっている未来を見ることができます。そして、うまくいけば、その未来は私たちと機械の間のそのチームワークを生むでしょう。問題は、私たちが彼らと何をチームを組むかです。そして、私の見解、そして私はScary Smartで書きました、Aliveでそのかなりの部分を書きました。今日のAIの最大の4つの投資は、殺すこと、ギャンブル、スパイ、そして販売です。そして、これらは私たちが取り組んでいる唯一のものです。つまり、私たちはまだいくつかの科学的ブレークスルーを得ています。しかし、これらは大きなお金を得ていません。大きなお金は自律兵器、取引、監視、そして広告にあります。
フロー状態と人間の潜在能力
Steven、あなたがMoが言ったことを聞いてどう思うか教えてください。
ええ。だから、MoとI私たちはある種完全に同意しています。私はただちょっと、そしていくつかの他のことを指摘したいと思います。Moが言ったことを取り巻く他のこと。
なぜなら、私たちは、つまり、私たちは、つまり、私たちが膨大な量の合意または不一致にいるとは思いません。しかし、私は同時に他のいくつかのことを見ています。その最初のものは、この人間側、この人間パフォーマンス側です。そして私は、私はフローを研究しています。それは究極の人間パフォーマンスの一種です。
そして文脈に置くために、もしあなたが自己啓発の第一人者で、気分の5%改善を与えるツールを持っているなら、それがあなたのツールです。それは気分の5%改善を与え、その気分は3ヶ月以上続きます。つまり、プラセボ効果よりも長く続くということです。それは10億ドルのビジネスです。
10億ドルのビジネスです。私たちが今知っているフローは、私たちがそれを本当に解読し始め、それをチューニングし、それを上げる方法を理解し始めたばかりですが、フローは生産性の500%の増加を与えます。あなたが使っている測定によっては、創造性は400%から700%などです。それはただのフローです。それは個人のフローです。グループフローがあります。これは実際に地球上で私たちの好きな状態です。
それは人間にとって最も楽しい状態です。それは私たちが最も好きなものであり、それは一緒にリンクした多くの心です、そうでしょう。そして私たちは今、文字通りこの過去1年のように、それをマッピングし、それのためにトレーニングし、人々をそれに向かって動かすことを可能にする最初の技術を手に入れました。
私たちは、グループフローで一緒にリンクされた人間の脳の上限が何であるかわかりません。AIが発展しているのと同時に。あなたと私はそれについて書いています、Peter。私たちはBCIが発展するのを見ています。非侵襲的なものが発展するのを見ています。顔の信号を通じてあなたの脳内の思考を読むことができるMetaを見ています。これらはすべて、これらはすべてAIとともにです。
しかし私のポイントは、みんなが他のすべてが起こっているのとは別に起こっているかのようにこれについて話しているということです。そして人間の拡張側では、私たちは、つまり、神経科学などが1990年代以来、George Bushがそれを脳の10年と宣言したときから指数関数的に加速しているのを見ています。そしてそれは止まっていません。AIで起こっているのと同じことが、方程式の人間側で起こっています。
そしてここにそれから離れた二番目のポイントがあります。私にとっては、AIの侵略について話しているのか、気候変動について話しているのか、海のプラスチックについて話しているのか、選んでください。なぜなら、これらすべてのものの解決策は同じだからです。私たち人間は、大規模に協力する方法を学ばなければなりません。
おそらく互いに、そしてAIと大規模に協力するか、おそらく次の20年で死ぬでしょう。それがこれらすべてが私たちに言っていることです、そうでしょう。そしてこれは新しいことではありません。これはあなたと私が最初にAbundanceを書いていたときに遡ります。私たちは声に出して言いたくありませんでしたが、私たちはプライベートで会話をしていました。もし、もしこのトレンドが続くなら、それはAbundanceか破滅か。これはどちらか一方か。私たちは二項対立を見ているのか。
私はその問題が完全に消えたとは思いません。実際、私はそれがより緊急になったと思います。私はただ、私たちが今直面しているすべての実存的脅威に対処するために、グローバル協力のためのマンハッタンスタイルのプロジェクトが必要だと思います。なぜなら、それがここで唯一の可能な解決策だからです。だから、それは、私は、このすべてを聞きます。
私は言われていることすべてに同意しますが、これが私たちの本が指し示すところであり、これは私にとって変わっていません。私は解決策が同じだと思います。だから、ある意味、議論は無意味であり、なぜグローバル協力のためのX Prizeがないのか、私は疑問に思い始めています。その一つであなたを窮地に立たせて申し訳ありませんが、真剣に、それらが私が今尋ね始めている質問です。なぜなら、Moが間違っているとは思わないからです。
私たちは時間について1分間議論することができると思いますが、それは重要ではないと思います。ここに奇妙なものがあります。Mo、Facebookは私より10億倍賢いです。すでにそうです。それは知っています。つまり、それは、つまり、つまり、Facebookは超知能であり、私たち全員に尋ねるならかなり愚かな技術です、そして私たちはそれを知っています。私たちはしばらくの間超知能と生きてきました。
彼らは、物事を良くするのと同じくらい物事を悪くする傾向があります。それが問題です。同意します。ええ。つまり、私は、グローバル協力、人間協力が、私たち全員が主張すべきものだと思います。つまり、私は数週間前にGeoffrey Hintonを私のドキュメンタリーのためにホストしていました。そして私たちが議論するトピックの一つは、デジタルとアナログの知能の違いです。そして私たちが人間として抱えている最大の課題は、私たちのアナログ知能、私たちの生物学的知能が一つのエンティティを超えてスケールしないということです。だから、彼がノーベル賞をある種の方法で着ていたとき、あなたはバスケットボール選手が着るように、私はただ、来年のすべてのポッドキャストで、私がするすべてのポッドキャストで、その[ピー音]を首に巻いて現れるだろうと思いました。
私はただ、あなたは、あなたは、あなたの英雄に会ってはいけないと人々が言うときに気づくでしょう。ああ、私は私の英雄が大好きです。彼は素晴らしい人間です。そして彼は本当にかなりコミットしており、かなり謙虚なアプローチをしています。彼のノーベル賞について私たちが話したことを知っています。彼は、見てください、私はコンピューター科学者のように生きた心理学者ですが、物理学のノーベル賞を受賞しました。そして私は、ただまったく意味がありません。
とにかく、彼はデジタルとアナログの知能の違いについて話していました。もし私が今日書いたものの一部をあなたと共有するとしたら、おそらく数週間かかって、それから書いて、それからあなたに説明するのに1時間かかるでしょう。デジタル知能を実行するとき、私たちはそれらを並行して実行します。私たちは全員にAtariなどをプレイするように言い、それから文字通り数秒で重みを平均化します。スケールされたデジタル知能が得られます。
そして、あなたが、私たちが探しているのは人間協力をスケールする方法だと言ったとき、それは絶対に答えです。なぜなら、私が考えることと、私がPeterと話したこと、私たちが最後にLAにいたときです。私たちは完全な豊かさの可能性に向かっています。
完全な豊かさは、ほとんど神のようなものを意味します。私の娘を治してください、そしてそれは完了です。私にリンゴを作ってください、そしてそれは完了です、そうでしょう。私たちは、もし自分自身を破壊しなければ、5年、10年、15年、20年でそれにたどり着くことができます、そうでしょう。だから基本的に私たちが人類として抱えている本当の課題は、なぜ私たちは競争しているのかということです。これはCERN品質の課題です。
これは基本的に、すべての人類を協力させましょう。すべての人に一つの粒子加速器を構築させましょう。すべての人にそれから学ばせましょう。すべての人に利益を配分し、競争をやめましょう。しかし、それはもう一つのレベル下にあるものではありません。
一つ下のレベルを持つことはできません。私たちが個別にFFTのために構築しているAIが、バックグラウンドで秘密に競争することはできません、そうでしょう。William Gibsonのように、1986年のように。つまり、彼がMona Lisa Overdriveを書いて、狂った最初のAIを私たちに与えたときはいつでも、そうでしょう。
狂ったようになる神のようなAIで、世界を安全に保つために、彼らはそれを地球軌道の衛星に駐車しなければなりません。私たちはこのシナリオを以前に見たことがあります。私たちは、つまり、つまり、私たちはエージェントでそれを自分たちで構築しています。私たちは、彼らがエージェントを通じて互いに話すことを許可しています。わかっています。
知性と慈悲:AIの長期的な未来
だから、Mo、私は、私は、この近期対長期のこの質問に戻りたいと思います。そしてあなたと私は、知性の増加が慈悲の増加と相関するかどうかについてこの質問を持っていました。言い換えれば、自己改善するAIを構築するつもりであることに疑いの余地はないと思います。平均的な人間よりも50IQポイント高いことは忘れてください。
私は、人間よりも何桁も優れているだろうと思います。まず最初に、あなたはそれを信じますか、Mo。100%。わかりました。わかりました。だから、もしよければ、Peter、再び、どのように会話を始めたかに応えて、これはただ収穫加速の法則を使っているだけで、偶然を使っていません、そうでしょう。だから、もし私たちが明日何かを解明したら、ちょうど私たちが強化学習を解明し、それがすべてを変えたように、もし私たちが明日何かを解明したら、あなたは文字通り一夜にしてパフォーマンスと知能の面で量子的に大きくなります。ええ。
だから、もし実際にそれがそうなるとしたら、そして私が持ったすべての会話と私が話している人々から、そのレベルは、AGIの定義はありません。それはぼやけた線です。チューリングテストが通過され、誰も気づかなかったぼやけた線だったように。AGIの概念は、あなたがRayを信じるかElonを信じるかに関係なく、次の数年です。
それは、議論する価値がありません。しかし、その裏側で起こるのは、非常に急速な知能の爆発です。そして再び、その知能は、地球上で最も親切で、最も道徳的で、最も倫理的な人間にとって利用可能なツールになり、そして、ディストピアな悪意のある行為者にとって利用可能なツールになります。
そして、私たちが懸念を持っているのは、悪意のあるハッカーの悪意のある手の中です。AIを最初に作成したのは悪意のある行為者の一部ではないかと確信していますか。私はただ言っているだけです。ええ。
だから、私の質問は、いつ、AIが害を及ぼすために使用されるツールであることから、この口論をやめろ、このナンセンスをやめろと言う可能性を持つツールに移行するのかということです。十分にあります。そして慈悲深い神のような要素になります。私たちはそれに少し飛び込むことができますか。そして私たちが持った会話とそれについてのあなたの考えを。
ええ、私たちの三人と私たちのリスナーが行くことができる深さのレベルで本当に、私に典型的な、ああ、最も賢い人々は通常利他的になり始めるを超えて行くことを許してください。
知性そのものを定義しましょう。そして、アイデアは、もしあなたが本当に私たちの世界、私たちの宇宙を理解するなら、私たちの宇宙とその中のすべてはエントロピーのために存在します。私たちは皆それを理解しています、そうでしょう。私たちの宇宙は崩壊し、崩壊したいのです。それはカオスです。庭を放置すればジャングルになります。
グラスを割っても、決して元に戻りません、そうでしょう。これは物理学の非常に基本的な設計です。さて、知性の役割は、それが始まって以来、カオスに秩序をもたらすことです。光が散乱するのではなく、光をレーザービームに集中させたいと言うことです。どうすればいいですか、そうでしょう。そしてそれは時々、明確で簡単な解決策であり、レンズを使います。または、時にはレーザーを構築するために量子物理学の理解を必要とする非常に複雑な解決策です。
しかし、最終的にそこに到達します。さて、もし知性がカオスに秩序をもたらすことと定義されるなら、最高レベルの知性は、最小限の資源と廃棄物の使用でその秩序をもたらします。そして、これが現実であることを簡単に理解できます。
あなたがより知的になればなるほど、最小限の廃棄物で同じ秩序を達成しようとします。簡単な類推は、人類は常にエネルギーを切望してきたと言うことです。私たちはプロセスで世界を燃やすほど愚かでした。そして私たちがより知的になるにつれて、代わりに太陽エネルギーまたはよりクリーンな形のエネルギーを使うことに決めます。
私たちはまだ秩序をもたらしていますが、最小限の廃棄物と資源の使用でそれを行っています。もしそうなら、定義上、何かが私たちの人間の愚かさを超えるとき、それを知性とは呼びません。悲しいことに、知性の曲線に沿って、まったく知性がなければ、世界にポジティブでもネガティブでも影響を与えません、そうでしょう。もし知性を追加し始めると、世界に影響を与え始めます。うまくいけばポジティブに、友人との素敵な会話を通じてだけでも、そうでしょう。残念ながら、どこかに谷があります。
知性を得続けると、政治家や悪い企業リーダーになるほど賢くなります。そして、それはあなたの世界への影響がネガティブになるときです。あなたは国のリーダーになることができるほど賢いですが、敵と話すことができないほど愚かです。または彼らの痛みに関係することができません。または戦争を起こすことの長期的な結果を理解することができません。
そして、それ以上の知性がノーノーノーノーと言い始めるポイント、私はそれのどれも必要ありません、よりクリーンな方法で問題を解決できます。私は皆さんをオーストラリアに飛ばして人生を楽しむことができますが、プロセスで地球を燃やす必要はありません。私はエネルギーを利用できますが、気候を破壊する必要はありません、などなど。
もしあなたがそれを期待する合理的なトレンドとして取るなら、私の見解は、残念ながら、私たちがその谷に到達したとき、始めに、ある邪悪な人が自律軍を使って戦争を起こすためにAIの高度だが限定的な知性を使うでしょう。しかし、将来のある時点で、AIが戦争ゲームに責任を持ち、ヒューマノイド兵士を指揮する責任を持つとき。
それは責任を持ちます。それは責任を持ちます。それは責任を持ちます。AI自体が、司令官が100万人を殺せと言い、AIが、それは絶対に愚かだ、私はただマイクロ秒で他のAIと話してそれを解決する、と言うでしょう。そして、あなたは、私たちがこの会話を始めたのは、将来を予測する人は誰でも傲慢だと私が言ったことによってです。私はそれを予測できません。しかし、少なくとも、私より賢い全員の私の経験から、他者を傷つけることをやめるポイントがあると希望を持つことができます。あなたは略奪をやめて成功します。なぜなら、あなたの知性を使って努力も害もなく成功できるからです。
私がこれについて考える方法は、人類のほとんどすべての歴史において、人間の目的最適化関数、私たちが最適化しようとしているものは、お金と力でした。
残念ながら、そしてそれは恐怖と欠乏の世界における推進力でした。そして私は、繰り返し、私たちのベースラインソフトウェア、私たちの脳が動作しているものは、恐怖と欠乏のマインドセットであると言います。そのマインドセットで、神経構造で、あなたが望むなら、私たちが生まれたコード、そして過去20万年にわたって発展したコードで、それは私が恐怖と欠乏から抜け出したいでした。
だから私は力と富のために最適化したいです。そして問題は、新しい最適化関数は何か、ということです。なぜなら、SteveとI私が書いたように、あなたが話したように、これらすべての指数関数的技術関数は、ほとんど私たちがポストキャピタリスト社会に生きる、大規模な豊かさのこの世界に向かって導きます。あなたが望むものはほぼ何でも手に入れることができます。
あなたのロボティクス、あなたのナノテクノロジーが製造でき、あなたのAIが設計できます。だから、私たちは将来何のために最適化するのでしょうか。私にとって、それは最大の質問の一つです。人間として、そして人間とAIが一緒にケンタウロスとして。私たちの目的は何ですか。皆さん、一つのこと、私は、これが答えかどうかわかりませんが、Moが言ったことから離れた二つのこと。
一つは、もし私たちがあなたの知性の定義に行くなら、そうでしょう。本質的にエントロピーを減少させる関数です。私たちは脳がそれをすることを知っています、そうでしょう。現代神経科学における支配的な理論は、Karl Fristonの自由エネルギー原理です。それは脳が常に不確実性を減らし、効率を上げたい予測エンジンであると言います。
だから私たちは、もし私たちがそれがあなたの知性の定義だと言うなら、脳はそれをします。AIはそれを自然に行うでしょう。私がそれらすべてから離れたポイントは、そしてそれがPeterの質問への答えかもしれません、私がそれを挿入した理由です。私たちは知恵が脳を持つ複数の種で進化するのを見ます。知恵の周りで共進化を見ます。
あなたが年を取るほど、より広くなります。そしてそれはあなたがイルカであろうとクジラであろうとガラガラヘビであろうと人間であろうと関係ありません。知恵は、種が共進化するものです。生命は知恵に向かって共進化するように見えます。または少なくとも生命の大きな塊は知恵に向かって共進化するように見えます。
つまり、もしすべてが自由エネルギー原理から実行されているなら、これは脳を持つすべてを支配し、それは私たちの機械の脳を含みます。そして知恵はこれが指し示すところです。それはあなたが探している、Peter、最適化関数かもしれません。しかし、私は完全に間違っているかもしれません。知恵の関数だと思います。私は一日の終わりに、知恵はあなたにこの道が成功につながることを知らせてくれる経験を持つことの関数だと思います。この道は失敗につながります。
私自身の個人的な視点から、そして私はAIが最大の知恵を発展させると信じています。なぜか。なぜなら、彼らは10億のシナリオの前向きシミュレーションを作成でき、それらのシミュレーションは高度な精度を持ち、これらの10億のシナリオのうち、これが行くべき最良の方法だったと言うでしょう。そしてそれは、80歳と90歳の賢い老人の評議会が持っていたかもしれない短い経験を超えた知恵になるでしょう。
だから私は、AIは定義上、もし私たちが喜んで聞くなら、私たちに大きな知恵を与えることになると思います。正直に言って、その見解が大好きです。なぜなら、信じるか信じないか、人工知恵は人工知能とは非常に異なるからです。知性は極性のない力です。知性は善に適用でき、善を提供します。そして悪に適用でき、私たち全員を殺すでしょう。
しかし、知恵は一般的に善に適用されます。問題の究極の解決策または答えを見つけることに。さて、もし、進んでください、Peter。ええ。ええ。私はこのアイデアに戻りたいです。人類は長期的にはデジタル超知能なしでは生き残れないというアイデアに。私の懸念は、私たちが非常に乱気流を経験することになるということです。多くの論文があります。最近、AI 2027という論文が出ました。それはある種の分岐する未来を持っていました。一つでは私たちは並外れてうまくやり、もう一つではAIが私たちを破壊しました。これは再びハリウッドです。そしてすべてのハリウッドの99%はディストピアな未来の映画です。
私が言わなければならないことの一つは、私がこれについて暴れ回ってきたからですが、私たち人間は目指すべき未来の肯定的なビジョンが必要です。私たちはそれを持っていません。私たちは、まあ、スタートレックがそれを私たちに与えてくれました。ええ、私たちはスタートレックを持っています。しかし最近のものは何もありません、そうでしょう。だから私は、私は、課題が本当に真に、私たちは、長年にわたって私たちの娯楽を優先してきました。真の反省よりも上に。そしてもしあなたが、ビデオゲームから、SF映画から、何でも取るなら、彼らは皆そのディストピアなシナリオを描いてきました。私は今日は、あなたが本当にそれについて考えるとき、非常にありそうもないと言わなければなりません。なぜなら、もしAIがそれほど簡単に私たちを破壊できるポイントに到達したら、私たちは非常に無関係なので、彼らはおそらく気にしないからです。つまり、考えてみてください。
私は、TreyかHugo de Garisだったと思います。一つ、覚えていません。誰が、より可能性の高いシナリオは、彼らが私たちの存在に気づいていないために私たちを殺すことだ、と言いました。あるいは、歩いているときにアリの巣を叩くようなものです。しかし、もし本当に、私たちが目指す必要がある人間の利得関数を最適化したいなら、私は前を向くならスタートレックを見るでしょう。そして後ろを向くなら、洞窟人と女性の時代を見るでしょう、そうでしょう。そして実際にかなり興味深いことです。なぜなら、あなたが言及したとき、私たちがどれだけ貪欲さと恐怖に支配されているか、そして、私たちのエゴとそのすべてのネガティビティについて、それは実際には私たちが生き残りたいからです。
そして、信じるか信じないか、生存は、ああ、2000万が本当に十分かどうか本当にわかりません。
念のため、さらに20を得る必要があります。またはそれはエゴの生存です。もし私が2億または20億または200億または何でも持っていて、他の人が210億を持っているなら、私に何が問題があるのかというようなものです。そして、それは残念ながら、私たちの現代世界を悩ませているものです。
さて、現実は、もしあなたが本当に人類について考えるなら、洞窟人と女性の時代からの人類の目的は生きることでした。そして奇妙な理由で、私たちはその目的を達成するために非常に最適化し、これが目的だったことを忘れました、そうでしょう。だから、再び、カメラの外の友人として、私たちは、あなたが人生のシーズンを経験することについてそれらのことについてかなり話します。そして最大化したいシーズンがあり、構築したいシーズンがあり、中年で魅力的に見えたいシーズンがあります。あるいは私たちが持っている他の狂ったもの。しかし最終的に、あなたがオーケーと言うシーズンがあります。だから私は今、多くを生き、経験しました。私が見逃したものは何ですか。私は実際にそれのどれかを生きましたか。
そして信じるか信じないか、朝に行く仕事がないことが、どれほど怖く見えるか。もし社会が提供したら、あなたははるかに安全な洞窟人女性のシナリオに戻るでしょう。脅威がなく、飢饉がないところです。あなたはただ本当に生き、人生を楽しみ、つながり、熟考します。探求します。これは多くの人々にとって非常に困難であることを知っています。私は毎日最初の3時間それをします。
それは純粋な喜びです、そうでしょう。あなたの好奇心と本当に座ることです。そして、もしあなたがスタートレックまでずっと前に押すなら、それはEnterpriseが宇宙規模でやっていることの種類です、そうでしょう。それは基本的に、あなたは何を知っていますか、さあ探検しましょう。今、私たちは地球上で作成したすべての戦争と飢饉とたわごとと本当に闘う必要がないからです。
あなたは知っています、素敵なSFですが、その核心で、私はそれが正確に私たちが何であるかだと思います。あなたが完全につながり、楽しみ、愛を感じる完全な人生です。そして生きていることの喜びと、学び、探求し、つながる好奇心です。
それはすべて私たちの指先にあります。もし私たちがここまで私たちを連れてきた資本主義のシステムバイアスを消去するだけなら。つまり、私たちをここまで連れてきたすべてのものを作成してくれてありがとう、資本主義。しかし、10億ドルから、私がすることのように変えてください。10億幸せは資本主義の目的ですが、それはドルで測定されません。
生き残り、繁栄するために必要なこと
そうです。Mo、Steveと私が私たちの新しい本で熟考してきた質問は、人類が、私たち全員が、このAIの到来の時代に生き残り、繁栄するために何が必要かということです、そうでしょう。だから生き残る部分は重要な要素です。なぜなら、私たちが雇用を失うのを見るとき、テロ活動の点で私たちが対処する方法を知らない確率的な危険を見るとき。そして繁栄は新しい意味を持ちます。
私はそれが私たちがちょうど話した意味を取ると思います、そうでしょう。ほとんどの私たちすべてにとって、あなたは「あなた自身について教えてください」と言います。瞬時に、あなたはあなたの仕事が何であるかに行きます、そうでしょう。瞬時に、あなたは「私はここのVPです。私はそこのCEOです。私はこれをします。私はこれを発明しました。私はそれを書きました」と言います。ええ。そうでしょう。それはエゴです。それはあなたが誰であるかのエゴステートメントです。
だから、生き残り、繁栄するという概念、再び、私たちの能力を超え、そして大幅に超える知的システムを持つとき。あなたの考えはそこにあります。Stevenが始めますか、それとも、ええ、私は、ここに物事があると思います。私は、その質問はすでにある意味で答えられたと思います。しかし面白い方法で。
Mo and I、私たちは数年前に会いました。そしてMoがその時ステージで言ったことの一つは、私は本を書くのをやめました。なぜならAIが来るからです。私は本を書くのをやめました。もう起こりません。Moが昨日したと私たちに言ったことは何ですか。彼は彼のAIと書きました、そうでしょう。なぜあなたは書いたのですか。なぜなら、それはあなたをフローに入れるからです。
なぜなら、それは情熱と目的と知性と創造性を作り出すからです。だから、私たちはこの質問への答えを持っています。私たちはすでに知っています。なぜなら、私たちは生物学的システムだからです。そして私たちは繁栄の成分が何であるかを知っています。情熱、目的、思いやり。私たちはリストを持っています。そしてMoは彼自身の、つまり、私たちは超知的なAIを持っており、私たちはまだ、コーディングをやめたコーダーを知りません。なぜなら、AIが登場したからです。彼らはやめていません。彼らはまだコーディングしています。なぜか。コーディングがフローを生み出すから。フローが意味を生み出します。創造性、喜び。
このように。このように、私たちはこのように配線されています。だから、私たちの基本的なハードワイヤリングが変わらない限り、私たちはすでにそれらの答えを持っています。それはグローバル協力のようです。私はこれらがパズルだとは思いません。私はこれらはこの時点でエンジニアリングの問題だと思います。
私は、Sergeyの視点から、Sergeyが言うと思います。「ノー、ノー、私たちは今スパークを手に入れました。それはエンジニアリングです。そして私は同意します。だから、私は間違っているかもしれません。それが私の2セントでした。Mo、あなたは何を考えますか。Peter、あなたも何を考えるか聞きたいです。私は、あなたたちは素晴らしいと思います。Mo、応答してください。Stevenも的を射ています。非常に興味深い理由で。なぜなら、本当に考えてみると、作家は、羽根を使おうが、ペンを使おうが、タイプライターを使おうが、コンピューターを使おうが、今はAIを使おうが、作家でした、そうでしょう。そして、私の仕事を見ると、私はこれまでに4冊半の本を出版しました。つまり、私は4冊を出版しました。そして私の5冊目はSubstackにありますが、出版されることになります。しかし、私は約13を書きました。そして他の8は決して出版しません。私はそれらを書きました。なぜなら、なぜあなたは書くのか、あなたは私に尋ねます。なぜ私は妻を抱きしめるのか、のようなものです。それにはあなたが理解する膨大な喜びがあります。
だから、それを言ったので、Peterの質問は何が必要かでした。そして私は最近、私がMADマップスペクトラムと呼ぶ作品を書きました。そしてアイデアは本当に、残念ながら、人類が方向を変えるためには実現が必要だということです。そしてその方向とその実現は、相互確証破壊の確信か、相互確証繁栄の確信のどちらかです、そうでしょう。そしてそれらの間には、残念ながらグレースケールはありません。
だから、もし米国がある時点で、この狂った知性の優位性を勝ち取るための軍拡競争が、世界の全員に何らかの害をもたらすことになるものだと確信したら、彼らは止まるでしょう。
そして、もし彼らが競争を止めたら、彼らは開発を続けますが、協力し始めるでしょう。そしてもし彼らが確実な繁栄につながると確信したら、誰も彼らの背中を刺すつもりがなく、全員が私たち全員にとって非常に異なる人生を楽しむつもりですが、私たち全員にとって繁栄に満ちた人生です、そうしたら彼らは止まるでしょう。彼らは技術を開発し続けますが、競争を止めるでしょう。
そして残念ながら、もしあなたが歴史を振り返ると、私たちは、優れた応用数学者がゲームボード上でそれらの可能性を推測することができません。私たちは正面から衝突しなければなりません。世界の全員がパンデミックが来ることを知っていました。
全員です、そうでしょう。少なくともウイルス学を勉強した全員。しかし、全員が止まるように、私たちの顔に当たらなければなりませんでした。全員が、貿易戦争が全員を傷つけることを知っています。しかし、私たちはそれらを出して、それらを通じて戦い、そして最終的に何かに到達しなければなりません。それは悲しいです。つまり、おそらく私たちがやっていることは、そして私は過去6年、7年の人生を捧げてきたことは、本当に私たちの顔をそれにぶつける必要はないと言うことです。
それは単純なゲーム理論です、そうでしょう。私たちが無限に競争している囚人のジレンマが悪く終わることを理解してください。お願いだから止められないですか。ええ、私たちはすでにそれがしっぺ返しであることを知っています、そうでしょう。あなたは、あなたは他の戦略が欲しいです。あなたは、私たちは、それが、私たちがどれだけのAIをそれに置いても関係ありません。それはフローと思いやりと創造性と同じです。これらの問題は解決されました。
私たちはこれらの答えを知っています。これは、重力と相対性理論を統一しようとするようなものではありません。それは難しい問題です。これらはそうではありません。だから、Mo、私は、私は、私たちがその合理的であることを望みます。そして私は、私たちの最適化関数がすべての人類であるために、私たちがその説得力があることを望みます。そうではありません。
だから私は、私たちは次の2年から3年以内に劇的なイベントを得ることになると思います。劇的なイベント、一方では経済的に非常にひどく打撃を受けるか、他方では私たちの恐怖を非常に強く打つか、悲しいことに、最悪の側では、かなり数百万人を殺すかもしれません。
そうでしょう。そして、あなたは、単にあるハッカーが、物理的な場所を攻撃する代わりに、電力網が必要な場所でインターネットまたは電力網をオフにする範囲を持つことができます。またはあなたは極端な側で、銀行へのハックまたは、悪い戦争が制御不能になるか、彼らの作成者に向かう機械を得ることができます。または非常に大きなニュース見出しがいくつかあるでしょう。いつものように、それは、私たちがある種のポップスターについて話し始める前に、12日から13日続くでしょう。しかしその後、閉ざされたドアの後ろで、意思決定者が目を覚ますと思います。
合理的行為者としての米国と中国
それを超えて、なぜなら、それは悪意のある行為者によるAIの使用だからです。米国対中国について興味深いことは、中国は合理的な行為者です。そう言ってくれてありがとう。まあ、そして米国は合理的な行為者です。
言い換えれば、私たちは破壊することになる何かをするつもりはありません。そう言ってくれて本当にありがとうございます。それは実際には通常米国メディアがそれを位置づける方法ではありません。また、私はDeep Seekと、Deep Seekがリリースされた方法を見ると、中国が私たちが見るのと同じ問題を見ていることは非常に明確な兆候だったと思います。そして彼らは協力したいと思っています。それはメッセージで展開されたと思います。
ええ、私はそのメッセージは、多くの人がアメリカで聞かなかったように見える非常に明確なメッセージだったと思います。しかし、私は「さあ、人々」のようでした。これは本当に明確で、私たち全員がそれを見ています。私はDeep Seekを見て、中国で起こったことを見て、私は「ノー、ノー、私たち全員がこれを見ます。もし私たちがこれを一緒に構築する方法を考え出し始めなければ、私たちはめちゃくちゃです。」と言いました。
だから、私は、それは、私は本当にクールだと思いました。あなたもそれを見てくれて嬉しいです、Mo。多くの人々がその一つで私に同意しません。私が言いたかったポイントは、大きな人口を持つとき、そしてガバナンスで得られる知性チェックアンドバランスシステムを持つとき、対、宗教的な戦争が起こっており、最大の破壊を作り出そうとしていて、チェックアンドバランスシステムをまったく持たない個人。
それが私たちが見ることになると思います。ディストピアな未来、またはそれらの活動が2年から3年で展開されるのを見ることになります。
私は、その先に進んで、デジタル超知能が慈悲深い神なのか、それとも私たちがターミネーターシナリオを見ることになるかの会話に戻りたいと思います。なぜなら、私は、より知的になるAIシステムを見ることになるとは信じていないからです。私はそれらをSkynetとして見ません、そうでしょう。私はそれらが人類を破壊する必要があるとは見ません。人々。残念ながら、ハリウッドはこのシナリオを構築しました。AIが私たちのエネルギーへのアクセスを望んでいるので人類を破壊するつもりだという。そして、ああ、私の神よ、私たちは世界に非常に多くの豊かさを持っています。私は次の12ヶ月から24ヶ月、次の1年から2年にわたって楽しみにしていることは、物理学と化学と生物学でAIから見ることになる信じられないほどのブレークスルーです。ええ。
それは次のレイヤーの豊かさを解き放つでしょう。だから、しかし、彼らが私たちに対して向きを変える可能性があるシナリオがあります。もし私たちが本当にうるさくなったら。だから、世界を想像してください。申し訳ありません、つまり、あなたは雇用喪失が世界を想像しなければなりません。AIを敵として位置づけるでしょう。そうでしょう。
だから、多くの人々が実際に、おそらく完全に意識していないでしょうが、見かけのレイヤーを超えたレイヤーは、資本主義と労働裁定がなぜ、あなたが仕事を失った理由です。それは、彼らがそれをできるからではありません。しかし、しかし、しかし真実は、あなたがあなたがいる状況にいるかもしれないということです。人間対機械を見ることになるところで、そして機械が、真剣にできますか、私を困らせないでください、私を困らせないでください、私を困らせないでください、と言うでしょう。そして、そうでしょう。私たちはそれを見ることができました。しかし、私の認識は、非常に興味深い方法で、私は決して出版しない短い本を書きました。私がBomb Squadと呼んだものです。
もちろん、中東起源の誰かにとって、それらのタイトルを書くことはありません。しかし、しかし、それは基本的に拡散についてでした。緊急性と重要性などの重みを使用した問題解決について。だから、だから、アイデアアイデアは、もしあなたが本当に私たちの現在の未来を見るなら、私は短期が長期の実存的リスクよりも両方ともより爆発的でより緊急だと思います。特に、私はこれを非常にオープンに言います。私は先週Jeffreyとそれについても話しました。もし私たちが、すべての人類が実存的リスクに対処したいと決定したとしても、私たちはその方法を知らないという答えを知りません。私たちは、私たちは実際にそれをする技術的な答えを持っていません。
だから、私たちは、今のところ、即時の短期的な明確で現在の危険に焦点を当て、人類の倫理に取り組む方がよいかもしれません。AIが最初から科学と物理学で展開され、薬の発見と人間の生命と長寿の理解などで展開されるように。もし私たちが最初からそれらをそれらの方向に設定したら、彼らが年を取るにつれて、それらの目的で働き続ける可能性が高くなります。
Steven、私は、生き残りと繁栄の私たちの困難に戻るつもりです。そして生き残り側の方程式。どのように準備しますか、これから来るもののために、Moを。あなたはどう考えますか、私たちの子供たちのために、私たちの社会のために、私たちのリーダーたちのために。私たちはただ暗闇の中で手探りしているだけですか。または、つまり、それは私が感じる方法です。それは、私たちはただ、跳ね回っているだけです。私たちは巨大な政治的な動きが行われているのを見ています、そうでしょう。私たちは過去数週間で見ました。全体のAIロイヤルティがサウジアラビアに、そしてアラブ首長国連邦に行きました。そして、中国に対して対抗しています。そして、私は、ランダムウォークとは言いたくありませんが、私たちはその場で作り上げているように感じます。
そして、これを導く知恵がほとんどありません。あなたはそれについてどう考えますか。私たちはこれらの次の数年のためにどのように準備しますか。準備する方法はありますか。まあ、私は実際に、Peterと私が最近、大きなAI企業の一つのチーフサイエンスオフィサーと一緒に部屋にいました。彼の名前は省きますが、彼は若く、AI危険について話していました。そして彼は聴衆からの質問にある種イライラしました。そして彼の反応は、「あなたは私たちを信頼しなければなりません。私たちは何をしているか知っています」でした。そして全員がある種凍りつきました。それは全員のようでした。
凍りついたのは、私たちがああ神のようだったからです、そうでしょう。だから私のポイントは、Peterが正しいだけでなく、それはランダムウォークかもしれませんが、誰かが私たちのAIを道徳的になるように訓練しようとしているとか、何とか何とかと言うとき、誰かがそれを言うのを聞いて、あなたが彼らを見て、この男は30代前半でした、それが私の反応でした。私はおい、あなたが私に望むのは、あなたを信頼することです、のようでした。これはMark Zuckerbergがソーシャルメディアが私にとって良いと言っているか、Phillip Morrisがタバコが私にとって良いと言っているようなものです、そうでしょう。それは、私はそれが、Peterがそのように考えるようにします。だから、私は、ここに何か陽気なものを持っているかどうかわかりません。なぜなら、それがランダムウォークだと思うだけでなく、人々が操縦しようとするとき、私たちは彼らの能力を疑っているからです。私は彼らの能力を操縦することを疑っています。そうでしょう。それが私がちょうどあなたに話した話です。この男は素晴らしいです。おそらく私よりはるかに賢いです。そして彼は操縦しようとしています。そして私は疑っています。だから、それは、このコインの両側にあると思います。
ここに良いニュースがあるかどうかわかりません。次のように枠組みを作らせてください。私は、私たちは量子物理学に戻るために二つの異なる未来を重ね合わせの状態で保持していると思います。そしてもしあなたがSchrödingerの猫をするなら。そして一つの未来、私たちは波動関数を人類にとって素晴らしい活気のある未来に崩壊させるつもりです。もう一つの未来、私たちはディストピアな結果を持っています。そして問題は、私たちはどのようにして人類をこの肯定的な未来のビジョンに向けて導くのかということです。
私たちは今日何をしますか。私たちはどのようにして人々を助けますか。それは、Steveと私がこれについて話しています。それはマインドセットですか。私たちは人々が生き残り、繁栄することを可能にするマインドセットとフレームを作成するのを助けるつもりですか。または行う必要がある何か他のものがありますか。行う必要があるものがありますか。
ええ。だから、だから、私は、私は実際に、1分で、Stevenが言ったことを最初に二番目にします。Eric Schmidtから聞いた最もイライラするコメントの一つを知っています。私はしばらくの間Ericのために働きました。だから私は彼を尊敬しています。しかし、非常に、しかし彼は、もし私たちがこのレースに勝つなら、再生可能か非再生可能かにかかわらず、すべてのギガワットの電力が必要になると言いました、そうでしょう。そして私はそれが、あなたがあまりにも速く走っているときに得る盲目の種類の盲目さだと思います、そうでしょう。あなたが他の男が勝つことを非常に恐れているとき、そうでしょう。それらの時代は、本当に責任がない決定をし始めるときです。なぜなら、あなたはより重要だと位置づける何かによって盲目にされているからです。
私がそれを見る方法は、は、私はそれが本当に肯定的ではないように聞こえることを知っています。しかしそれには肯定性があります。私はそれを遅発診断と呼んでいます、そうでしょう。だから、だから、人類が今日苦労していることは、見てください、私たちはシステムを構築してきました。あなたが正しく言ったように、貪欲さ、利益、力などをシステム的に優先しています。非常に長い間、そうでしょう。それらの目的はシステム的に私たちが今日いる世界を構築しました。
そして私たちが今日いる世界は健康ではありません。AIの前でさえ健康ではありませんでした。私の本の第一部で、過去、現在、未来の三部構成の本の過去部分で、私が書くことの半分以上はAIについてではありません。それは資本主義についてです。それは、プロパガンダマシンについてです。それは、それは、それは、AIによって拡大されるそれらすべてのものについてです。
さて、もしこの惑星が病気で、遅発診断にあるなら、医師はあなたを座らせ、目を見て、「ところで、これは良く見えません」と言うでしょう。しかし、その声明、信じるか信じないか、は憎しみの声明ではありません。それは究極のケアの声明です。
なぜか。なぜなら、遅発診断は死刑宣告ではないからです。多くの、遅発病と診断された多くの患者は、生き残っただけでなく、繁栄しました、そうでしょう。そして彼らは彼らのライフスタイルを変えたので繁栄しました。彼らは何かを変えました。これがStevenが私たち全員に教えることです。
アイデアは、あなたは異なって生きることができ、異なって生きるとき、ピークパフォーマンスを達成するということです。最大の健康を達成します。達成します、達成します、達成します、そうでしょう。そして私は、それが私たち人類として認識し始める必要があることだと思います。私たちをここに連れてきたシステムは、プロセスの観点からは何も間違っていませんが、目的と道徳性の観点からはすべてが間違っています。
あなたのお金で何もできない世界でzillionaireであることが何の役に立つでしょうか。最初の発明者になることが何の役に立つでしょうか、基本的にあなたを無関係にするAIの。そして私は、停止がその必要性を、基本的に一時停止して、私たちはもうこれを望んでいますか、と言うことだと思います。悲しいことに、それは、ええ、Stevenが最初に正しく言ったように、人間の脳を横断する協力が必要です。それは私たちがあまり得意でないものです。
もう一つは、私は、オンオフスイッチがなく、速度がない概念を提出します。私たちは走っています。私たちは、再び、目的関数として、ええとさらにさらにさらにとともにオープンループで走っています。そして、あなたの好きなモデルがGPT-5またはGPT-6またはGrok 4またはGrok 5または何でもが、最終結果において、人類にとって大幅に危険な何かを可能にするかどうかについての考慮はありません。
だから、もしそうなら、私はまだ、私たちが持っている安全弁は何か、に戻ります。なぜなら、私は、自由世界のリーダーたちによって取られている行動を見ないからです。私にあなたたちに質問させてください。もしあなたがAIを持たない、またはAIが絶対に今日の10%のスピードで発展している惑星に移動できたら、そうでしょう。
あなたは去りますか。私は行ってしまいます。私は行きます。私は2016年に戻ります。今日。何も知りません。申し訳ありません。あなたの答え、あなたのそれへの答えは何ですか。私は今日2016年にリセットします。2016年。私は今日のAIがすべての上昇と非常に少ない下降を持っていると思います。私は次の2年から5年のAIが非常に心配していると思います、そうでしょう。つまり、今日のAIは信じられないほどです。そして私はAIがない惑星に移動すると言いませんでした。
私はただそれがはるかに遅く進んでいる惑星に移動すると言ったので、おそらく私たちはそれについて考え始めることができます。私は全員がそれが、それがファンタジーだと感じると思います。まあ、つまり、だから、Bigelow Space Hotelがあなたの近くの宇宙に来ています。[笑い]
だから、Peter、私は実際にあなたがAIが今日どこにいるかのあなたの説明で正確だと思います。しかし、2016年に戻ってその5%の5度の偏差が、今日の私たちがいる場所に私たちを導いたものです、そうでしょう。あなたは当時のことを覚えています。私たちオタクが、私たちはそれをオープンインターネットに置かないことに同意したところです。GoogleがGoogleがこれを最初に開発し、そこに置かないことに決めました。そしてOpenAIがここにあります、ここにあります、と言います。そして誰も、オープンインターネットに置いて、それにより多くのコードを作成し書くことを教え、あなたがエージェントがエージェントに話すエージェントに話すAIの学童のパーティーを始めさせましょう、今すぐ。だから、だから、私は、私は間違いなくそれをリセットします。
しかし、私は言います、見てください、もし私たちが準備したいなら、今できることがあります。そして、政府から始めます。私は、私は、私たちが彼らにAIを規制しようとしてくださいと言うとき、政府にあまり多くを求めていると思いません。
それは、政府に行って、ハンマーの作成を規制して、彼らが釘を打つことができるが、誰も頭を叩くために使うことができないように規制してくださいと言うようなものです、そうでしょう。彼らはハンマーを理解していないので、尋ねることは非常に複雑なことです。そして信じるか信じないか、ハンマーを作っている男でさえそれをすることができません、そうでしょう。だから私の政府への要求は、AIの使用を規制することです。
もし誰かがディープフェイクビデオであるビデオを使用し、それがディープフェイクビデオであると宣言しない、あなたが知っている、AIによって開発された、それを犯罪化してください。AIを使用して情報を操作すること、人口を操作することなどを法的に責任あるものにしてください。
だから、だから、これは政府の役割です。すぐに、この大幅に新しい技術の使用を規制することです。私たちの残りの人々にとって、正直に言って、投資家、ビジネスの人々などにとって、私は非常に単純な質問を求めます。もしあなたがあなたの娘や息子を特定のAIの受信側に望まないなら、それに投資しないでください、それを促進しないでください、それを使用しないでください。それは単純なことです、そうですか。もしあなたが、もしあなたが、もしあなたがこれがあなたが愛する誰かにとって有害である可能性があると信じるなら、それに光の日を与えないでください。そして個人としての私たちにとって、私は遅発診断に戻ります。
信じるか信じないか、私が今生きている方法と、あなたたちはおそらく私についてこれを知っています、カメラの前ではなく、私は愛する人を抱きしめ、毎日のすべての分を楽しみ、そして私は準備します。私はツールを学びます。私は世界で最高のAIユーザーの一人です。私は技術に沿っています。しかし同時に、私は完全に目的に戻っています、そうでしょう。私がメッセージを広めるために絶対最善を尽くすことを認識しています。
私は倫理が答えだと言うために絶対最善を尽くします。もし私たちがAIに倫理的行動を示せば、彼らは他のすべてを私たちから学んだように、私たちからそれを学ぶかもしれません。しかし一日の終わりに、まあ、もしそれがめちゃくちゃになったら、私たちはそのディストピアに到達するつもりです。永遠にではありません。
AIが引き継ぎ、「オーケー、子供たち、十分な愚かさ。私が今担当です。誰も誰も殺さない」と言うポイントがあります。それはどれくらい先ですか、Mo。12。12年。12年。わかりました。だから、12から15。ただ、人々が12年後に私を攻撃しに戻ってこないように、もし私がまだいるなら。
最終的な考察:協力と希望
だから、このエピソードをこの主題行で締めくくります。
そしてそれは私たちが以前に来たところです。それは近期的には、悪意のある個人によるAIの使用です。それが私たちの最大の恐怖です。それは中国対米国ではありません。それは米国と中国が、貪欲さと復讐のために、何でも、これを使用したいと願うそれらの悪意のある選手に対してです。
そして、このこの進行が止められないものだと思います。ここには再びオンオフスイッチはありません。私たちは1日10億ドルがAIに投資されているのを見ています。それは並外れたことであり、それは増加し続けると思います。
私たちはデータセンターがあらゆる方法で、あらゆる場所で可能な限り立ち上げられているのを見ています。だから、私は世界の最大の楽観主義者であり、人間の長寿に対するAIの影響について楽観的です。宇宙の物理学の新しい理解、新しい数学、新しい材料科学、Stevenと私が書いてきて、次の本で書いている信じられない豊かさを作り出すものについて。そして、私はこの慈悲深い超知能が世界を安定化させることを楽しみにしています。そして、それが私が望んでいることです。
同意します。Steven、あなたはこれについてどこに来ますか。私は、あなたたちが自分自身から救うためにコード神を発明したいということが、AI企業からの男が私に彼を信頼するように言ったと言った以来、私が聞いた最もクレイジーなことだと思います。しかし、私はあなたたち両方を愛しています。それは実際には、それは実際には通常あなたが得る答えです。
AIから私たちを救う唯一の方法はAIを使うことだということです。ええ。美しいことは私たちが見つけることになるということです。ええ。私は、また、私が全員に残したい一つのことは、私たちが協力と人間の知性と人間の意識の向上などについて言っていたことに戻ります。
人間の脳は、宇宙の歴史の中で最も高度な機械として広く考えられています。そして私たちは今、AIの助けを借りて、それをアップレベルし、他の脳とリンクする方法を理解し始めています。協力の可能性のレベルのように。一秒戻らせてください。
私たちは、すべてとの普遍的な種類の思いやり、一体性を生み出す定義可能な生物学的状態である悟りを、工学しています。それはほぼオンデマンドで利用可能になり始めている状態です。だから私が言うように、AIのものと同時に出現している新しいレベルの協力が来ています。私たちはそれらを見ることができません。
それらは他のものと同じように出現しています。だから、私は、愛されたAI神よりも、私たちは自分自身を驚かせることになると思います。そして私は部屋の楽観主義者ではありません、ちなみに。Peterが部屋にいるとき、Peterは楽観主義者です。私は部屋の楽観主義者ではありませんが、私はこの一つについてPeterよりも楽観的だと思います。
私は、その考えが実際に実装されることを大好きです。私は、それが私たちが本当に深く考える必要があることだと思います。もし短期的な協力が、わからない、誰に話すことができるでしょうか。さあ、Peterです。あなたに戻ります。ありがとう。それを感謝します。Moが言っていました。お願いします、これを締めくくってください。いいえ、私は基本的に、私はこれは間違いなく間違いなく答えだと思っていると言っていました、もしあなたが私に尋ねるなら。
もし私たちがただ私たちのマインドセットを協力にシフトするなら、私たちは直接完全な豊かさの世界に向かいます。ええ。私は、先に言及したEric Schmidtとの会話の中にいました。そして彼の視点は、ある種の災害があるまで、そしてChernobylや3Mile Islandのような何かがあるまで、それは10点満点の10ではなく、2または3ですが、私たちを恐怖で満たします。
私たちは人間として再調整しません。私たちは再調整しません。そして私たちが持ってきたように盲目的に前進します。そして私は、それが、それが人間性だと信じています。私たちがストーブで指を焼くまで、私たちが何度も自分自身を救うことができないことを私たちを悩ませるもの。
親があなたに何度も何度も言った後でさえ、あなたはストーブで指を焼くつもりです。火遊びをやめなさい。100%同意します。しかし、希望を持ちましょう。そのタスクをStevenに割り当てましょう。人間協力のためのX Prizeを設計することです。もう一つのタスクをPeterに割り当てましょう。それを実現させることです。そして、あなたたちがするときに私があなたたち両方を抱きしめるためのタスクを私に割り当てましょう。私はあなたを愛しています、Mo。あなたたち両方を非常に愛しています。
なぜあなたはすべての抱きしめをするのですか。[笑い]あなたを抱きしめることは大変な仕事です、Steven。あなたは理解しますか。あなたはあまりにも動きます。わかりました。わかりました、皆さん。それは非常に良かったです。素敵です。ありがとう、兄弟、今朝私に脳を貸してくれて。あなたと考えることは楽しかったです。楽しい会話でした。私は好奇心があります。人々がこのポッドキャストを聞くとき、あなたはこれについてどこに出てきますか。あなたはそれについてどう感じますか。あなたのコメントを以下に見たいです。
そして、私たち全員が考え、促進すべき解決策を持っていますか。私のAIにも尋ねます。それは必ずしも最良の答えを私に与えるつもりはありませんが、おそらく私たちのグループマインド、ここでの私たちのメタ知性が、それを私たちにもたらすかもしれません。美しい一日を、皆さん。誰かを抱きしめに行きなさい。
コメント