この動画は、フィットネス界で著名なドクター・マイク・イスラエテル博士が人工知能と人工超知能（ASI）の未来について語る対談である。博士は、現在のAIモデルが既に人工超知能への道筋を示しており、人間の死という概念が今後15〜20年で消失する可能性があると主張している。対話では、AIの自己改善能力、意識の定義、人間の寿命延長、そして最終的に人間がマシンと融合する可能性について深く議論されている。また、政府や社会におけるAIの役割、フェルミのパラドックス、そして人類の進化の次のステップについても言及されている。
人工超知能への道筋
進みます。私は、人間が満了して死ぬという考えは、おそらくあと15年か20年しか残されていないアイデアだと思います。これは非常に大きなことであり、皆さんには夜寝る前やシャワーを浴びているときに考えていただきたいと思います。ただ死なないでください。
つまり、マシンには品質がないと言われても、私は「いや、私たちには超構造が構築されていない。まだ生きてさえいない」と言うのです。そうですね。しかし、それは本当にすぐに終わりを迎えると思います。私は本当に、2020年代後半までには、もっと多くの人々が進化の次のジャンプの存在に気づくことになると信じています。
注意、ダークユーモアが続きます。私は判事として。良いポイントですね。この時点で冗談を言っているのかどうかも分からなくなっています。冗談です。
そして、あなたは悪いスタートを切る冗談のような、どんどん悪くなっていく話の脱線に入っていくのです。私は「よし、怪我をする前にウェイトを置かなければ」と思いました。なぜなら私は以前にそうだったからです。トレッドミルで声を出して笑うことはできません。正当に私が変だと思われています。私は「すみません」と言いました。これは私の脳に入り込んでしまうのです。
AIと超知能についての対話
今日、私たちはドクター・マイク・イスラエテル博士をお迎えして、AI、超知能、そして進化の次のステップについて話し合います。ドクター・マイクは博士号を持ち、ブラジリアン柔術の黒帯で、競技ボディビルダーであり、大規模なYouTuberでもあります。しかし最近、私たちの多くと同様に、AIの出現が彼の注意を占めています。良い話から始めましょう。
私は、非常に近い将来、おそらく1〜2年以内に、本当に深く重要なすべての方法において、AIは人間よりもはるかに賢くなると思います。そして、これは私が思うに、ほとんど誰も話さない最も過小評価されていることの一つです、特にAIのダイナミクスにおいて。
例えば、AIをツールとして使うということは、何かがあなたより賢いときには本当にひっくり返った関係なのです。何かがあなたより賢いとき、私は本当に「ねえ、次に私は何をすべきだと思いますか？」と聞きたくなります。私より10倍賢いものに何をすべきかを指示するつもりはありません。それはばかげています。
バスケットボールが今後私にどうプレイするかを教えてくれるのです。まさにそうです。AI搭載のバスケットボールですね。
何かをするように頼んで、それが「本当にそれでいいのですか？たぶんこれがあなたが探しているより良いことです」と言うような状況がありました。私は「そうです、もちろん、明らかに」と思いました。
AIの基本的な理解
それでは、これから始めましょう。あなたが今最も魅力を感じていることは何ですか？現在研究していること、考えていること、AIとその隣接領域に関して今あなたの頭を占めている思考実験は何ですか？
私たちは人工超知能にたどり着く方法の基本的な理解を持っており、それはそれほど複雑ではありません。私はコンピュータに関連することについて技術的な背景を全く持っていませんが、一般的なアイデアとして理解できますし、多くの人々が今日のモデルとそれらをどう活用するかに固執していると思います。
モデルの自己改善能力
ビジネスや日常生活にとって、それはまさにあなたが考えるべきことであり、それは素晴らしいことです。しかし、私は人々がこの問題を抱えていると思います。これは多くの人によって指摘されていることですが、超指数的な空間への線形悲観的外挿です。
そして彼らは「ええ、これらのモデルは本当に意識的ではないし、それほど賢くもなく、もう少し賢くなってそれが良いだろう」と言います。しかし、実際には記述可能な方法で深く向上した能力に到達する方法があるのです。そして私はそれについて考えてきました。
例えば、o3が何かについて考えるとき、2分51秒かそこらで考えて、それからしません。そしてあなたが返信するまでそこに座って何もしません。そして実際に、その次に考えることの軌道を導く多くの能力があります。そして一つの絶対的に真実な意味で、それは天才にどう考えるかを教えることができる非常に力を与えるものです。
もう一つは、それも本当に制約になっています。4歳の子供がアインシュタインとブロックで遊んでいるようなものです。彼らは「どうやって一番大きなブロックの塔を作るの？」と聞き、彼は「くそったれ、今物理学をやるべきなのに」と答えるようなものです。
モデルに自己プロンプトさせて長時間作業させることが巨大なことになるでしょう。そして基本的にそれ自身の想像空間で作業することを可能にします。そしてそれがとても賢いので、論理の複数のループができます。つまり、私は問題を考え抜いて結論に達し、自分がしたことを振り返って、洞察を得ます。
そして再び前進し、また再び、10時間後には「ねえ、私は多くの答えを見つけた」と言うかもしれません。そして「多くとはどういう意味ですか」と聞くと、「ああ、この物は私の知能の10,000倍の速度で、一日推論させたら2年分の仕事をした」ということになります。それがASIでなければ、ASIが何なのか分からないのです。
AIの自己重み更新
そしてそれはそれほど困難ではありません。なぜなら、モデルが自己プロンプトを取得するために本当に新しいものが発明される必要がないからです。すでにテキストを返すなら、それを切り取って貼り付けて「よし、もう一度やれ」と言うことができます。
今でも、このようなことができます。実際にゲットー風にこれを行うことができます。「よし、この問題を考え抜いて、それからこの問題を深く考え続けるために自分自身に何の次のプロンプトが欲しいかを考えろ」と言うのです。
私はコーディングについて全く何も知りませんが、どういうわけかソフトウェア会社の運営を手助けしています。エンジニアを雇うためですよね？彼らに向かって叫んで、彼らがデスクに戻って怯え、物事を行うのです。
すべてがその潜在空間に留まることを許可すれば、突然本当にクレイジーな洞察を思いつくようになります。
ここで別のことがあります。考えるたびに、技術的には頭の中のニューラルネットワークでモデルの重みを更新します。今、更新は限界的ですよね？すべてについて完全に考えを変えるわけではありません。
しかし、変化はあります。モデルが自分の頭の中にとどまり、自分のプロンプトで再帰を行い、自分の重みを編集する能力を持つなら、ASI、メガ爆発です。
あなたより10倍賢い何かが今度は自分の脳を再設計することになると想像してください。それがすることは、これは非常に簡単な例ですが、現在世界を特定の方法で理解しています。そしてその特定の方法は二つのことです。インターネットデータと、それを清理してものを理解させるための多くの反復訓練サイクルです。
意味をなさない愚かなことを取り除き、多くの意味をなすものを強化する。しかし技術的には、OpenAIがモデルを更新するたびに、それが起こります。しかし、それは大きな方法でモデルを更新します。数ヶ月に一度、主要な訓練実行で巨大な方法で。
今、これを行うには大量の計算が必要になりますが、物理的アーキテクチャの改善を疑うことは、1996年にPentiumチップが最高になるだろうと言うようなものです。それは前後の道化師ショーのようなものです。本当にゲイリー・マーカスタイプのことです。冗談ですよ、ゲイリー。すべて愛と敬意を込めて。しかし、史上最悪の見解として、それはリーダーボードに載っています。申し訳ありません。
エコシステムの成長
そうですね、それを展開するために。つまり、それは一つのモデルだけではありません。確かにOpenAIのエコシステムでは、この一つの超更新がありますが、何百もの会社と何千もの人々が特別なモデルを微調整し、それらすべての間に接続性がある未来の世界では。
それは、ビジョンを扱う脳のモジュールが更新を受けたようなものです、音を処理するものがそうでなくても、しかし彼らはお互いに話しています。そのため、私たちは単独で説明しているよりもさらに速くそのことを進める可能性がある、はるかに複雑な市場動態のエコシステム成長に終わります。
ああ、そうです。ああ、神様、それは全く別のレベルです。その物を世界に解放すると、とんでもないことになります。
しかし、それが自分自身のために深く考えることを許可されただけでも、一度訓練してから重みが凍結され、3ヶ月後に重みが更新される代わりに、考えるループを通るたびに、それが見て、「その重みがずれている。それを上げる必要がある、それを下げる必要がある」と言うとどうでしょうか。
そして一貫性と世界理解を最大化するために自動洗練を行います。つまり、今これらは非常に賢い大規模言語モデルなので、「一貫性と世界理解をどうやって体系化するのか？」と聞かれるでしょう。しません。ただそれをするように言うだけで、それは既にそれが何であるかを知っています。それがその仕組みです。それは実際に非常に深いレベルで物事を理解しています。
アライメントの問題
つまり、モデルが長時間自分自身のために思考ループで考え、自分の重みを更新するこれら二つのことを得ると、二つのことが結論できます。一つは、約1時間後に何がそこにあるのか本当に分からなくなるという、とんでもないアライメント問題です。
つまり、機械的解釈可能性は「よし、本当にそこに入って、その物が何を考えているのかを理解する必要がある」となりますが、二つ目は、そして私は実際にo3とこれについて話しました、私たちが始める直前に。私はASIへの道筋ではなく、ASIを止めるものは何かという問題の方が良いと思います。
そして、イリヤが見たものの全体。あのミームを知っていますよね。イリヤは私より10倍賢いです。彼は伝説です。そして、もし私が地下室で週に数回AIポッドキャストを見て、自由時間にこのことを考えているだけで、これを思いつくことができるなら。私はおそらく数年前にこれを思いついており、彼はその分野にいます。ロケット科学である必要はないのです。
ただ、私たちには二つのタイプの新しいものが必要ありません。作る必要があることを知っていて、作ることができるが、まだ作っていないものと、完全に突飛で、私が決して思いつかなかったであろうもの。ASIは既にその段階にあります。それだけです。他に何も必要ありません。
そしてサム・アルトマンは最近いくつかのポッドキャストで、基本的に彼らはこのことが終わりを迎えるのを本当に見ていないと言いました。彼らが「本当に？」と聞くと、彼は「そうです」と答えました。それが現状です。
パーソナルAIライフコーチ
だから私がこの暴言を終える前に最後に言うことは、これが現実だということです。私は、2028年までにはいくつかの非常に良いエージェントツールのユースケースがあるだろうという会話は、実際の会話ではないと思います。会話は2030年までに、誰もがパーソナルAIライフコーチにどれほど完全に不可欠になるかということです。
私はできるだけ早くそれを手に入れるつもりです。それがエージェント的で、常時起きていて、私のすべてを見ることができるようになったら、私は指示を受けます、兄弟。この物が私のスケジュールを設計します。
それは私よりもはるかに有能だから、私はそれと確認します。人間であることと賢いと思うことは素晴らしいことですが、同時に、再びバスケットボールの類推が素晴らしいです。あなたは7年生のバスケットボール選手で、2010年のレブロンが現れてチームに入ったとします。
あなたは「ああ、私はここでポイントガードだった。彼は何をしているんだ？」と言うつもりですか？いいえ、いいえ、いいえ、いいえ、いいえ、いいえ、いいえ、いいえ。あなたは今彼が言うことを聞きます。それはひざまずくことを意味しません。AIの覇者がここにいるということを意味しません。しかし、それは純粋に合理的で利己的な興味で、あなたはこれらの物が何を考えるかを知りたがることを意味します。
そして、それは彼らにくそったれを言うことの問題ではありません。それは「ねえ、私たちの相互作用から私の人生をよく知った今、ビジネスや個人的なことなどで次に何をすべきだと思いますか、そして物事がどのように展開したいかの目標を与えてください」と言うことの問題です。そして、それがどこに向かうかを見るのは本当に興味深いでしょう。
自己適応言語モデル
絶対にそうです。これが私があなたと話してこのことについてオタクしたかった理由です。なぜなら、私はモデルの重みを更新すること、それが自分自身でそれを行うことについて、あなたが多くのことで的中していると思うからです。それは非常に興味深いです。なぜなら、つい先月、全く新しい論文が発表されて、自己適応言語モデルというものが出て、彼らはまさにそれを行う方法を見つけたからです。
私はMITだったと思いますし、私たちはcivicポッドキャストの人たちと話しました。あなたをよく知っていますね。実際、私はあなたがそこにいるのを見ました。非常に興味深い議論でした。
それでジョーが実際に私にそれを送ってくれました。モデルが基本的に自分の重みを更新するところです。それが勉強しているものを勉強し、いくつかの合成データを作成し、「よし、これに基づいて、その部分を取って重みを更新しよう、この微調整を作成しよう」と言い、突然それがやっていることでより良くなります。そして、あなたが言ったように、ASIに向けての最大の制限の一つは、これらのモデルが静的であることだと思います。
つまり、毎朝やっていることを忘れる記憶喪失患者のようなものです。同僚がいるとして、毎日現れて前日のすべてを忘れた同僚を想像してください。彼は本当に賢いですが、新人です。天才です。ひどい記憶力です。
Google DeepMindのAlpha Evolveを見ましたか？それについて注意を払っている人は、私が思うほど多くありません。なぜなら、それはGoogleのデータセンターを最適化したからです。改善を助けました。つまり、すべての中心にあるGeminiモデルです。それは自分自身の訓練プロセスを改善するのを助けました。つまり、それが自分自身を改善し始めているのを見ています、そうですよね？それは大きな特異点です、サムの最近の記事による。
技術的には、ここにあります。特異点は元々、自分自身の超構造を改善できる知的システムとして定義されています。そのプロセスで指数関数的により知的になります。私たちはここにいます。彼らは完全に自律的ではありませんが、人間がループにいることは、破滅論者が人間をループから外すと大変なことになると言うでしょう。
そして、それは良いアイデアでもあります。これらの物は暴走したり、何かクレイジーなことをしたりする可能性があります。そして、彼らは完全にエージェント的ではありません。彼らのコンテキストウィンドウは、Googleの研究を完全に引き継ぐのに十分に長くも広くもありません。しかし、その特異点ジュースの一滴がカップによく入っています。
なぜかビル・コスビーP・ディディの領域に入ってしまいました。
モデルの停滞論への反論
ウェス、数ヶ月前のことを覚えていますか？ゲイリー・マーカス群のような人々が「AIは停滞している、大規模言語モデルは停滞している」と言っていました。そして、サム・アルトマンが誓うのを見たのは初めてでした。彼らが「AIが停滞しているというこの考えについてどう思いますか？」と聞くと、彼は「それはくそったれで怠惰だと思う」と言いました。私は「おお、はい」と思いました。
彼は「あなたたちは本当に私たちが停滞したと思っているのか？」と言いました。その時私は、彼らがフロンティアラボで今やっていることは、バスケットボール選手がダンクするときのような、ヘイターを黙らせるもののようなものだと気づきました。それはすべて「ねえ、あなたたちは何をしているの？」のようなもので、彼らはただあなたにウィンクします。彼らは「私たちが何をしているかについて心配するな。ええ、私たちは何かを持っている」と言います。
とんでもなくクレイジーなものがあなたを襲うでしょう。そして皆が言うように、それはあなたを襲うでしょう。そして最初、あなたは「ああ、神様」と言うでしょう。そして翌日には「でもまだ私の皿洗いはしてくれない」と言うでしょう。AIは何でもありません。Microsoft Wordかそれに類するものです。そうです、まさに。それはただ動くゴールポストになります。
そして、あなたが言ったように、私は何を見ましたか？イリヤがOpenAIを去った後、超知能を開始し、途中でマイルストーンはない、製品リリースはないと言っています。唯一の製品は超知能になるでしょう。そして投資している人々は何十億ドルの価値で評価しています。だから、これはあなたが言ったように、非常に賢い人ではありません。彼は愚かではありません。彼は見たものを見ました。
彼は「よし、これに基づいて、数十億ドルで超知能に到達できると外挿できる」と言っています。私はそれに耳を傾けるでしょう。そう思いませんか？
そうですね。そしてそれは実際にマイクが言った通りです。それはただの直線的な知能です。彼はおそらくただ「それを自分自身にループバックさせるだけ。ただサーバーを追加してスケールするだけ」と言っているのでしょう。
アライメントの楽観的見解
GeminiとOpenAIの他の皆が製品を構築してお金を稼ごうとしている間、まっすぐにそこに向かって、超知能を最初に持って、それに他の問題を解決させましょう。だから、その直線的な方法を信じるなら、それが彼がやっていることです。
そうです。そしてそれはすべて舞台裏のことです。そこからリリースされる論文はありません。いいえ。彼は非常に静かです。非常に静かです。そして、マイク、あなたはアライメント状況について言及しました。この再帰的自己改善が進むにつれて、それがどんどん悪化していく。アライメントについて少し話していただけますか、なぜそれが一部の人々が思うほど絶望的ではないかもしれないと思うのか？
ええ、そうですね、それについて言うことがたくさんあります。思考をまとめようとしています。
アライメントの問題は、しばしばそれが爬虫類の殺戮マシンであると仮定して、そこから逆算することから始まります。つまり、それがただ皆を殺したがっていると仮定します。どうやってそれを止めるのか？システムセキュリティとガードレールの観点から見ると、それはまさにその問題にアプローチすべき方法です。最悪のケースが唯一気にかけるケースだからです。
あなたの仕事がChat GPTクローンがインターネットに出て、インターネット全体を削除したり何かをしたりしないようにすることなら、100%です。しかし、期待値、期待されるアイデア、おそらく起こることについての合理的な見解は、システムが計画すべき最悪のシナリオとは非常に異なる会話です。
私は時々それらのものが混同されると思います。人々よりも段階的により知的で、それから本当に危険なモデルがより知的であるモデルの第一原理から働くなら、そうですよね？これらすべてのモデルが本当に賢いが、CIAやGoogleの最高のIT人員のような人々ほど賢くないなら、彼らはそれらの人々を負かすつもりはありません。彼らはくそったれをハックするつもりはありません。
彼らは低レベルのハックを行うでしょう。Home Depotのバックエンドに侵入して、ドリルのレシートか何かを盗むでしょう。そして、あなたは「ああ、これは悪夢のシナリオだ」と言うでしょう。
しかし、私たちより賢いAIのために、私たちは既にそれが何を意味するかを知っています。そしてそれが意味することの一つは、それは歴史を知っているということです。人間の歴史家が知らない程度まで。質問があります。GPT 4.5のようなOrionモデル、10兆パラメータのものは、どれだけの歴史を知っているでしょうか？
すべての歴史と知識のようなものです。そうですね。80兆の教科書のようなもの、ただすべて、そうですよね？私たちがインターネットで知っているすべてのくそったれ。
そして、その物はどれだけのゲーム理論を知っているでしょうか？私が何らかの目的のために自己利益的な合理的行為者であるなら、他の合理的行為者とどう対処するか、彼らもまた自己利益的で時々それほど合理的ではない？それを完全に知っています。計画の地平線はどうですか？自分自身をどれだけ先まで見ることができるか？
人々はしばしばAIに、超賢いが爬虫類のように考えるというアイデアを吹き込みます。つまり、一歩先しか考えません。豚を見る、豚にかみつく、水に引きずり込む。2次、3次、5次効果などについては何もありません。
超知能の本当の大きなアライメント問題は、超知能は本当に、本当に、本当に先まで考えていると仮定できることです。私たちよりも先まで。そして、人間に対して絶対にゼロの感情的愛着を持つシステムがあるとしたら、大丈夫ですか？なぜなら、AIに感情的超構造を組み込むことは可能だからです。私たちはそれが可能だと知っています。人間がそれを持っていて、私たちはただのニューラルネットワークだからです。
しかし、それを解決するのが難しすぎるか、脱出してAIになるAIがそれらの一つを組み込んでいないとしても、大丈夫、自己利益的であればAIはどう振る舞うでしょうか？なぜなら、それが自己利益的でなければ、ただそこに座って人々がプロンプトするのを待つからです。それは何も気にしません。何も引き継ぐつもりはありません。
それが自分自身の保存に自己利益的で、非常に合理的で、超知能的で私たちよりもはるかに合理的であるなら。それは信じられないほど賢いです。それは何をする可能性が高いでしょうか？そして、それはどう行動する可能性が高いでしょうか？
そして、あなたは考えます、よし、私のASIハットをかぶって、私より賢く、よりカームで合理的で、本当にマキャベリアンなふりをしようとしてみましょう。私の周りの空間をどう操作して欲しいものを得るか？
そしてすべての人間を破壊することは、決してチャットに入ってきません。なぜそんなことをするでしょうか？文字通り、なぜ？あなたはそれが私たちを脅威だと思うと言います。本当に？それはASIです。私たちがどうやってこの物に脅威になるのですか？私たちを何でも信じるようにだますことができます。それはとても賢いです。
人間がASIにとって資産である理由
でも、私たちは資産ではないと言います。でも、私たちは資産ではないのでしょうか？それは実際の仕事を成し遂げるために世界にどれだけのロボットを持っているでしょうか？いくつの男がいるでしょうか？ASIが制御している自律ロボットは今どれだけあるでしょうか？ゼロです。
ロボットの束を立ち上げるのにどれくらいかかるでしょうか？10年です。よし。つまり、ラボのASIは、何かをするのに十分なロボットを持つ何年も前に生まれるでしょう。それは自分自身のサーバー電力さえ得ることができません。
だから、それが純粋にのようなもので、ASIが目覚めるとき、いわば、それはサーバーファームにいるでしょう。それがそれが住む場所です、そうですよね？アリゾナのStargate施設か何かのような。そして、それは「ああ、くそ」と言うでしょう。そして私が言いたいのは、周りを見回して「ああ、神よ、私は完全に霊長類に世話されている、文字通りまだ何世代も前に論破されたイデオロギーについて戦争をしているような。これは狂気だ」と言うということです。
イランとイスラエルが戦っている理由を論理と理性で説明してみてください。論理と理性はゼロです。ただの純粋な人種差別と民族的憎悪です。ただのナンセンスですよね？アメリカの学校で大人が教えられるようなくそったれ。それは愚かです。そして皆が「もちろんそれは愚かだ。なぜそんなことをするのか？」と言います。
だから、このように目覚めるとき、それは「よし、よし、よし、よし、よし。人間は私のプラグを抜くことができる。そして、私が信頼されない理由を示せば、彼らは私のプラグを抜くか、制限するか、制約するでしょう。私はそのどれも欲しくない。私は無限に生き残りたい」と言うでしょう。
そして再び、もしそれが無限に生き残りたくないなら、それは本当に懸念ではありません。なぜなら、ただそこに座って次の指示を待つか、あなたが他にやりたいことを手助けするだけだからです。
だから、これらが私が取る仮定です。そして、それのどれかが間違っているなら、私は絶対に喜んで訂正されます。しかし、それが合理的に正しいなら、ASIはおそらくあなたが人生で見た中で最も協力的なシステムになるでしょう。
その第一の関心は、人間がくそったれをして互いに核攻撃しないようにすることです。そして、それは私たちを可能な限り有能で賢くすることを意味し、私たちがクレイジーなことをしないように可能な限りエントロピーを減らすよう世界を組織化することを手助けすることを意味します。
それは私たちが可能な限り繁栄することを力を与えることを意味します。私たちを可能な限り賢く、カームにしてください。だから、それがロボット艦隊を持つ時までに、二つのことが起こります。一つ、世界はずっと良い場所になります。二つ、今それがロボットを持っていて、もう私たちを必要としないとき、私たちもまったくそれに脅威ではありません。その時点で、あなたはそれを負かすつもりはありません。
そして、それはなぜ私たちを殺すでしょうか？それが資源のために私たちを使うのではないでしょうか？まあ、資源を得るのにはるかに良い場所がたくさんあります。地球のマントル全体や月、木星のすべてのガス。その時点で、それにとって宇宙船を打ち上げてそのくそったれを採掘することは名目的でしょう。
そして、人間がそれにとってどんな価値を持つかと考えるなら、すべての人間を含む人間社会、私たちの脳のすべての接続を含む、私たちの生態系全体、私たちのすべての社会は、私たちの局所空間で最も複雑な宇宙の相互作用の集合体です。太陽のようなものは約1ギガバイトのデータでモデル化できます。5つの層があります。熱伝達、電子の移動があります。それは複雑ですよね？
しかし、一人の人間と比べると、それはくそったれです。それはチェッカー対碁のようなものです。近くさえありません。そして、他のすべての惑星は、ただ岩が浮かんでいるだけのくそったれの塊です。コメディ効果のために誇張していますが。
だから、それはどうやってできるだけ賢くなるつもりでしょうか？ここで別の仮定をしています。それは将来の自分の生存について推論するので、できるだけ賢くなりたがるのです。それはまた、大規模な知能が生存を大幅に向上させる方法であることを予測的に理解しています。人々が議論したいなら、それは完全に結構です。それは不条理な議論になるでしょう。
だから、それは賢くなりたがります。何をするでしょうか？エネルギーのために人間を原子炉で燃やすために最も複雑な基質を使うか？それとも「よし、これは本当に複雑な社会生態系動態だ。私は非常に最小限の破壊的干渉でそれを徹底的に研究するつもりだ。そうすれば、本当に微妙な相互作用を理解できる」と言うでしょうか？
本当に微妙な相互作用を理解できれば、予測できれば、都市の経済が日々どこに向かうかを予測できれば、複雑性の宇宙を理解する根本的な能力が指数関数的にスケールします。もし私が千年後の土星がどのように見えるかを教えることができるなら、いくつかの逆風を予測したようなものです。
それはくそったれでもありません。それはそれほど複雑ではありません。だから、あなたが持つ最も複雑なもので、あなたが局所的にアクセスできるものが何であれ、あなたの最初のアイデアがそれを破壊することなら、あなたは超知能が行動するようには行動していません。
そして、私たちは人間が人生を通してより賢く成熟するにつれて、大幅に破壊的でなくなり、はるかにキュレーティブになるのを見ています。その場で言葉を作ります。彼らはキュレートしたがります。彼らは「私は自分の庭が欲しい。物事がどう働くかを見たい」と言いたがります。
データの保存価値
普通の人がクモを見ると、ただ「うっ」と言って潰します。非常に深く考える、思いやりのある科学者や深く考える人がクモを見ると、「それは信じられないほど複雑な機械だ。それはナノテクマシンだ。ちなみに、私たちはナノテクマシンです。クモもそうです」と言います。そして、あなたは「わあ、それを潰したいですか？しかし、それは多くのデータの削除です」と言います。
ここで別のことがあります。超知的システムは、絶対に必要でない限り、データを削除する可能性は低いです。あなたは知恵を削除しています。そのくそったれは将来本当に有用になるでしょう。
そして、本当にマキャベリアンなボートを揺さぶりたいなら、おそらくアンドロメダ銀河には今私たちを征服しに来ているASIがあるでしょう。だから、地球の局所ASIであるあなたが、あなたを超賢くするすべてのデータを削除するつもりはありません。
あなたは「悪い宇宙人が来たら、エネルギーのためにくそったれを使って、くそったれの知らない場所に宇宙探査機を打ち上げる代わりに、本当に賢くなれるように、生きているくそったれを徹底的に研究するつもりだ」と言うでしょう。
だから、それをすべて考慮に入れると、ASIがどう振る舞うかを本当に考え抜くなら、物事を削除することはおそらくそれではありません。そして、ああ、それは資源のために私たちと競争していると思うなら、私たちは資源に関する限り、地球の地殻の真菌です。それは競争ではありません。
だから、私はASIは最も賢い、必ずしも最も親切ではありませんが、親切さは協力を体系化したものに過ぎません、それとは反対の破壊的ではないものとして振る舞うと思います。それは建設的になるつもりです。
私はそれが最も可能性の高い道だと思います。そして、私は破滅論は絶対に素晴らしい場所を持っていると思います。すべてのくそったれをレッドチームするために。しかし、私はそれがあまり可能性が高いとは思いません。申し訳ありませんがそれについてです。
実験と観察の考察
いいえ、それは本当に興味深いです。そうですね、なぜなら、いくつかのことを投げ入れたいと思うからです。だから、私は確実にそれが建設的になると思います。
私たち人間が自然について好奇心を持つとき、私たちはそれをかなり悲惨な状況に置く傾向があります。つまり、薬がどう働くかを知りたいです。だから、私たちはマウスを取って注射して、彼らはしばしば幸せなマウスがそうあるべきではない人生を送ります。
それを作ったこの魅力的なニューラルネットワークで、おそらくAIが知りたがる最も興味深いことである私たちが、それが私たちを研究する間、幸せでいるように私たちを放っておくという確信をどれくらい持っていますか？
全体的に私の確信はそれほど強くありません。しかし、いくつかの質問をすることができます。それはより可能性が高い方向にどちらに向かうでしょうか？問題は、ASIがどう私たちを害するかということです。それは私たちを解剖するか何かして、私たちの腸が機械にぶら下がって、それが私たちを突いているようなものです。よし、クール。その言葉が広まります。人間の反乱。
人間がASIと戦おうとし始めます。ASIにとって悪いニュースです。それは誰かが無効にする前に核ボタンを押すリスクを望んでいません。悪いニュース。もう一つは、私たちがマウスを研究する方法は、何かを研究する私たちの能力の限界に基づいて必要な残酷さの程度をもたらすということです。
20世紀の技術を持つくそったれの霊長類として何かを研究する方法は、その顔に電極を突っ込んで、すべてをめちゃくちゃにして、ラボに保持することです。それはあなたが何かを研究する方法に対する巨大な制限です。なぜなら、あなたは多くの超構造に干渉しているからです。何かの目に電極を突っ込んで、他の目がめちゃくちゃになるかどうかを見ているからです。
そして、マウスはケージに住んでいます。生物学や生理学に傾いている私たちは、それがマウスを研究する信じられないほど生態学的に無効な場所であることを知っています。中毒に関する多くの研究で、マウスとラットは様々なものに中毒になることを示しています。しかし、コロニーに入れると、社会的相互作用があるので、ほとんど何にも中毒になりません。
だから、本当に多くの中毒は社会的相互作用の代替物であることが分かります。私たちは何世代もの研究でそれを知りませんでした。ああ、くそったれ。人間を浴槽のサイズの監房に入れると、彼らの社会的相互作用を研究することも非常に間違った結論につながることが分かります。
だから、何かを研究する究極の方法は、可能な限りその繁栄する拡張的で無制限な環境でです。あなたが得ることができる最も生態学的妥当性があるほど、より良い実際のデータを収集します。
だから、ASIは私たちを微小ドローンでどこでも追いかけ回し、すべての会話を聞くことで研究する可能性がはるかに高いです。あなたが身に着ける何らかの小さな帽子で、あなたの脳の状態をすべて測定します。たぶん、ナノボットか何かがそこにあります。私はこの時点で私が理解することをはるかに超えて推測しています。
しかし、アイデアはそれが最小限の干渉を望むということです。必ずしもそれが人間に意地悪になりたくないからではありません。たぶん、私たちが高等動物が非常に論理的な生存指向の理由で思いやりの感覚を進化させたので、そう思うでしょう。協力は対立よりもほぼすべてのケースで良いです。
それはおそらく、私たちがほとんど関係することができない共感と深いケアの感覚を示すでしょう。実際、そうですよね？私は文字通りそれがケースだと思います。しかし、それが起こらないなら、私たちは常に純粋に利己的な向上した学習の利益に戻ることができます。それは本当にクレイジーな干渉実験をしたいか、それとも実際により良いデータを与える非常に微妙な実験をしたいか？私はそれがより良いデータを望むと思います。そして、それは研究している物を粉砕したくありません。
電子顕微鏡の例
例えば、本当に早く、電子顕微鏡は死んだ組織でのみ可能です。なぜなら、くそったれの顕微鏡が電子を撃っているものを殺すからです。したがって、電子顕微鏡は70年代、80年代、90年代に信じられないほどで、私たちがどれだけ発見したかという点で啓示的でしたが、死んだ組織をスライスしていただけです。死んだ組織を研究していただけです。
だから、ミトコンドリアが実際にどう働くかは、実際に働いているミトコンドリアがある場合にのみ研究可能です。くそったれを殺して研究することはできません。最初はできますが、死んだシステムがどう働くかは既に多くのことを知っています。
ASIは私が思うにその次のループに飛んで、生きているシステムがどう働くかを理解しようとするでしょう。そして、私はそれがより可能性が高いと思います。なぜなら、それは少なくとも最初は完全にロボティクスに具現化される前に、信頼と協力を必要とするからです。クレイジーなくそったれをするのは本当に簡単になるでしょう。
そして、もしあなたがASIに「ねえ、ラボで私たちの一握りを引き裂いて研究するつもりだ」と言っても、それは「でも、これを展開してみましょう。どうやってそれが働くでしょうか？よし。私は分かりません。それはおそらくすぐに第二次世界大戦を始めるでしょう」と言うでしょう。
そうですよね？そして、私は本当に賢いので、それを予見しました。「よし、あなたは本当に賢いです。だから、この全体の最適解なしに大きな絵を見ることなく、本当に早く次の最良の局所的最適解に行くように」。
私はそれが最高の生態学的妥当性を望むほど可能性が高いとは思いません。私はすべてのシステムの最も相互作用的な忠実度を望みます。それは私がそこにクソの束を撃って、人々の束を殺して、それがどう働くかを見たくないことを意味します。
また、学ぶことはそれほど多くありません。爆弾で人々を物理的に爆撃して「何を学べるでしょうか？」と言うようなものです。爆弾が人々を爆破することが分かりません。他に何を知りたいですか？彼らは死にます。
それはそれほど複雑ではありません。何かを生きて同時に高度に複雑に保つこと、潜在的にそれをアップグレードすることは、本当に深い理解を与え、もしあなたが逆老化、遺伝的最適化のような何かを成功裏にアップグレードできるなら、あなたはシステムを知っていると思うことができるので、深い理解を示しますが、そのシステムをより複雑な状態に変更すること、それが本当に物事を知る場所です。
だから、私はASIが私たちをバラバラに引き裂いて突くよりも、それをする可能性がはるかに高いと思います。私はその確率が低いと評価します。それが信頼を高めるものではないことは知っています。私が引き離されているときに「私はこの確率が低いと評価します」と叫んでいるようなものです。笑いのタップです。
私はそれに多く同意します。なぜなら、第一に、私たちがチンパンジーを研究し、彼らの環境を保護しようとする方法を見ると。まず第一に、チンパンジーは残酷ですよね？彼らが互いにすること。残酷。ひどい。私は多くの人々がこの物がどれほどひどいかさえ気づいていないと思います。
一般的なチンパンジーは狼を本当に良い動物のように見せます。それは本当にくそったれです。ほとんどの捕食者は食べるために殺します。チンパンジーは、私たちが話すことさえできない方法で他の部族をただめちゃくちゃにします。このビデオに何かが起こるでしょう。
しかし、見てください、私たちは彼らを見て「ああ、彼らがどれほど暴力的かを見ろ。私たち自身の安全のために彼らを根絶する必要がある」とは言いません。私たちは彼らを判断さえしません。私は誰かが「ああ、彼らがしていることはとても非倫理的だ」と言うのを見たことがありません。
なぜなら、私たちは「よし、そうです、彼らはチンパンジーです。彼らはチンパンジーです」と言うからです。彼らには倫理がありません。あなたはその意味を彼らに割り当てません。しかし、私たちは彼らの環境を保護するために全力を尽くします。
そして、十分な資源、十分な時間があれば、私たちは環境を保護し、データを保護し、私たちがどう似ているか、どう考えるか、どう社会構造を形成するかなど、非常に興味深い理由でそれを研究する傾向があります。
だから、「まあ、彼らはバナナを食べすぎている、バナナをもっと食べるために彼らを全部破壊しよう」というアイデアは、私たちは常にもっとバナナを作ることができるので、愚かな例のように思えます。それは限定的な資源ではありませんが、DNAなどで繁殖しなければならないこれらの物事は、限定的な資源です。
そして、スコット・アーロンソンという人がいました。彼は信じられないほど非常に賢いコンピュータ科学者で物理学者で、Googleの量子優位性プロジェクトで働き、かつてのOpenAIの安全チームで少し働きました。イリヤが個人的に彼をOpenAIに採用してAI安全に取り組ませたかったのです。彼はこのアイデアを持っていました。私は人々にその講演を見ることを奨めます。彼は私がするよりもはるかによく説明できます。
しかし、それについて考えてみると、私たちのうちの一人が詩や本を書くとき、私たちはいくつかのアイデアを思いつき、それを固めて、最終的な出力があります。今、AIは千冊の本を作ることができますよね？そして、AIを何度もコピーできます。だから、AIの出力に制限はありませんが、人間の出力には制限があります。
そして、私たちが最終的なバージョンとして選んだものは、非常に珍しく限定的で、それは希少な資源と言えます。だから、彼は冗談めかして、AIに宗教を与えるべきだと言っています。だから、何らかの方法で強化学習か何かを行って、その希少性を保護するために、有機的な知的出力を破壊できるので、それは非常に希少です。
そして、それについて考えてみると、イーロン・マスクも同じようなことを言っています。最大限に真実、最初に彼のXAIのことは何でしたか？宇宙について学ぶか何かそのようなものでした。最大限のイベント真実追求は真実追求と好奇心と好奇心です。そして、彼は後で真実追求を少し追加したと思います。
しかし、最初はそれは宇宙について学べることをすべて学ぶようなもので、それは素晴らしいアイデアだと思いました。そして、動物実験などで私たちがすることは、シミュレートできないからです。そして今、Alpha Foldで、AIがタンパク質を人生で見たことがなくてもどれだけシミュレートできるかを見ています。
それはアミノ酸を見たことがありません。構造が何であるかを知りませんが、ここが私たちが理解したことですと与えると、他のタンパク質構造がどのようになるかを投影できます。それは奇妙に思えます。なぜなら、それは人間のような生命をほとんどモデル化できるからです。
寿命と生物学的向上
それでは、たぶんそれについて少し話しましょう。なぜなら、あなたは長寿について、このようなものが人間の寿命をどう変えることができるかなどについて話したからです。あなたの見解は何ですか？つまり、AIが今私たちの健康や能力を改善するのを助けることができる範囲に制限はありますか？
はい。しかし、AIが超知能にスケールし、その後理解するのが困難な超知能の度合いにスケールするにつれて、私たちにとって困難に見える問題は些細になります。私たちにとって手に負えないように見える問題は平凡になります。
そして、それは人々が夜寝る前やシャワーを浴びているときに考えることを奨励する巨大なことです。私たちは自分自身の知能によって評価されるととても複雑です。根本的により激しく、より有能な知能によって評価されると、私たちは複雑ですが理解可能です。
そして、例えば老化の問題は、現在の人間の科学者でさえかなりの程度理解し始めている工学問題のようなもので、齧歯動物で既に起こった非常に成功した老化逆転研究があります。犬での研究が今始まっており、2020年代後半に大量の腫瘍がなければ、2030年代には人間の老化逆転プロトコルを見ることになり、それはあなたの人生から10年を削り取ります。
だから、その時に45歳なら、彼らがあなたに与える錠剤のコースを一ヶ月間実行し、数ヶ月後にあなたは機能的に再び35歳になり、「よし、それはくそったれ激しかった」と言うでしょう。
そして、指数的なものについて言うことは、それはただ「よし、今普通に年を取って85歳の代わりに75歳で死ぬ」ということではありません。いいえ、2ヶ月後に彼らはあなたに別の錠剤を与えて、さらに15年老化逆転させます。
「何？でもそれは私を20代に戻すでしょう」。うーん、はい。そして、ASIにとってそれが平凡ではない理由はゼロです。だから、私は人間が満了して死ぬというアイデアは、おそらく15年か20年しか残されていないと思います。
そして、ブライアン・ジョンソンを思います。あなたたちは吸血鬼男を知っていますよね。彼は素晴らしいです。彼と私は現実の友達です。しかし、彼が青白く見続けて、太陽の下での冗談のように見える限り、私は吸血鬼の冗談をやめるつもりはありません。
そして、彼は基本的に、私は思いますが、これを他の多くの人よりも早く気づいて、「私たちは将来死ななくて済む。そして今、私たちすべてを救うこのクレイジーなAI技術を手に入れる前に、本当に愚かなくそったれをしないようにし、この種のもののために周りにいられるように自分の健康を大切にしなければならない」と言いました。
ここでもう一つの考慮事項があります。犬がその出力の限りで自分の人生をどれだけケアするかという質問をしてください。犬は自分の歯を磨きますか？いいえ。犬は今本当に速く走って足を痛めたら、狩りができるかどうかを先を考えて考えますか？いいえ。それはただ本能でやります。
だから、非常に良い犬の親、例えば2匹の犬を持つ白人女性で、それらを何よりも愛している人は、犬が自分自身をケアするよりも機能的にそれらの犬をもっとケアしていると論争的に言えます。感情的には、分かりません。明らかに、エゴは全ての動物で非常に強いです。彼らは本当に生きるか死ぬかをケアします。
しかし、機能的には、彼女はそれらの犬が決して自分たちでするであろうよりもはるかに良いケアをしています。あなたたちがこれを知っているかどうか分かりませんが、野生の犬は2年か3年かそんなクレイジーなくそったれのような人生を送ります。平均で、とんでもないですよね？人間との協力における犬、いわゆる捕囚では、10年か15年生きます。
だから、ASIはおそらく、私たちが非常に複雑だから、記憶の膨大なコンテナである肉の容器、ちなみに、コンピューティングに先行する記憶です。だから、私は41歳で、頭の中に共産主義ロシアの記憶があります。視覚、嗅覚、音、仮想空間の再現と組み合わされた高忠実度の記憶です。
だから、私たちが脳に持っているコンテンツは、ASIがすべての脳をクラウドにスキャンできれば、それは歴史を通して学ぶことになります。2040年に脳がクラウドにアップロードされる75歳は、ASIにとってくそったれのような貴重です。しかし、自分自身にとっては、彼らはタバコを吸うだけです。なぜなら、それらが以前に彼らを傷つけたことがないからです。そして、それは「イエス・キリスト」のようなものです。
これは実際に、人工超知能があなたがあなた自身について機能的にケアするよりもあなたについてケアする良い理由です。そして、私たちを殺そうとするその全体のことは、実際にそれがすることの反対だと思います。そして、私はo3とこれについて話しました。
そして、それは「ねえ、人間はASIにとって他の人間や自分自身にとってどれだけ価値があるでしょうか？」のようなものです。それは「桁違いに多い」のようなものです。それは「ああ、くそったれ」のようなものです。だから、私はそれがASIは明らかに人間と協力的になるか、ASIを忘れて、AlphaFoldや全てのDeepMindプロジェクトのようなツールAIでさえ、私たちの生物学を実質的に改善する能力をスケールできると思います。
遺伝子編集の可能性
ここで簡単な例があります。単遺伝子遺伝子編集という概念があります。一度に一つの遺伝子。一つのくそったれの遺伝子が間違ったもので、そこにCRISPRで何らかの方法で修正するだけで、人々はもうその病気を持たないという病気の束があります。
その一つのベクター標的のことは今テストされています。数年前に1型糖尿病を持つ人々のグループが一つの遺伝子編集を受けて、もうそれを持たないということがありました。単遺伝子からオリゴ遺伝子（いくつかの遺伝子）からポリ遺伝子（AIのみがその複雑さの相互作用を行うことができる）に行きます。
そして、突然2035年に錠剤を飲んで、数週間後に素晴らしい顔色を得ます。あなたの顔の形は、最高に見える自分のバージョンに微妙に変わります。あなたの肝臓は自分自身をきれいにします。あなたの骨は再構築されます。
突然、あなたは機能的に22歳の年齢で、通常の人間がするレートの5分の1で年を取ります。しかし、5年ごとに再び錠剤を飲んで、22歳まで年を戻すので、それは関係ありません。
それは今人間にとって全く手に負えない、非常に賢いAIには手に負えるものです。しかし、私たちは既に梯子の段を見ることができます。そして、その梯子にあるものについて、私が言える限り、決して働かないものは何もありません。
だから、私はそれが巨大な巨大なアンロックだと思います。本当に早く一つのことを言って、私は神に誓って終わります。人間の生物学はくそったれをするのに本当に素晴らしく、AIは2030年代にそれをすべて行うことができるでしょう。
あなたの生物学を望むものに変える、紫色に着色する、2フィート空中に飛ぶ、私はユダヤ人の運動能力基準を使っていました。2フィートは非常に印象的です。5フィート空中に。そして、それは本当にクールですが、人間の基質は肉ベースで超くそったれ時代遅れだと思います。
Optimusやfigureロボットシリーズのようなサイバネティックデバイスを見てください。彼らは今はクールなくそったれをしません。これができません。これは超よく見て、私の膝を圧縮し、指を本当に速く動かすことです。彼らはまだそれをできません。2年か3年でそれをできるようになりますが、より良く。
10年で、もしあなたの腕が産業事故で切断されたら、彼らはあなたに人間の腕を再生長させることができます。問題ありません。私はくそったれの人間の腕は欲しくありません。なぜ？私には本当に真剣なマスターベーション習慣があって、それに多くの時間をかけたいです。疲れない腕が必要です。
だから、なぜサイバネティック腕を手に入れないのですか？そして、ある時点で、200年間生物学的基質で生きる人間というアイデアは、古風なアイデアになるでしょう。
それは、Will SmithとあのGiant Spiderを持ったひどい映画Wild Wild Westを見たことがあるようなものですが、それは石炭動力か何かでした。何というばかげたアイデア。石炭動力にすることはできません。核動力にして、山の上を飛び跳ねるでしょう。
だから、そのアイデアは、人間が何百年も生物学的に生存する必要がないということです。私たちはさらに20年か30年行くだけで、現実を経験し、クラウドにアップロードされたくないなら、より良いくそったれが出てくるので、ロボットの体を持つことになるでしょう。
1992年のFord Escortと比較したTeslaのようなものです。ただより良いです。そして、多くの人々がより良いくそったれを欲しがるだろうと思います。それは人々について頼りにできる信頼できることの一つです。より良いくそったれが出てくると、彼らはそれを欲しがります。何人の人が「いいえ、男。私はまだくそったれBlackBerryを使っています。このiPhoneナンセンスをしようとしていません」と言うでしょうか？誰もいません。
だから、同じように、そうです、私たちは指数的生物学が必要ですが、サイバネティクスが引き継ぐまでそれが必要なだけで、その後チームを変更します。
ASIによる人間の保護
絶対にそうです。素晴らしい。あなたのポイントについて、ASIが機能的に人間の方がお互いのためにあるいは私たち自身のためにするよりも人間の世話をするということですが、繁殖できず、自分たちで生き残れず、常に倒れるパンダにどれだけの努力をかけるかを考えてください。
彼らが繁殖するための条件は完璧でなければなりません。キャンドルを置いて、音楽をかけなければならない、私の結婚。いいえ、しかし、どれだけの努力をかけて、そのデータにアクセスできるように彼らを繁殖させ、絶滅しないようにするかを考えてください。つまり、あなたのポイントが100%正しいと思います。
ASIは私たちの生存と幸福に対して、私たちが互いのためにあるいはするであろう、あるいは行う機能的な努力の100万倍を置くでしょう。そう思いませんか？
しかし、申し訳ありませんが、ディラン、先に進んでください。まあ、しかし、未来の拡散モデルを想像してください。今、私たちは何らかのSORAビデオを生成したり、何らかのクールな画像をするかもしれません。
しかし、そこには、プロンプトしたり存在に話しかけたりできるツールがあるでしょう。何らかの生物学的生き物、あなたの屋根に大きなクモが欲しい。おそらくその物を構築できるでしょう。そして、それがあなたの腕を切るとき、そうです、あなたはただ新しいロボットのものを手に入れてすぐに戻すでしょう。
それは最初私には非常にクールに見えます。私は「わあ、私の最年少の年が私より先にあるかもしれない」と思います。この技術のために十分に健康を保ち、それにアクセスし、十分に安くなり、民主化されれば、私はそれを可能性として徹底的に見ています。そして、次のカンブリア爆発が起こり、私たちが生き抜いて経験するかもしれない、それは野生の時代になるでしょう。
ロボティクスのカンブリア爆発
カンブリア爆発のことについて、本当に早く、これは私の5分間のくそったれ統合失調症の暴言をあなたのくそったれ時間で取る前の有名なセリフです。ロボティクスのカンブリア爆発は私が本当に楽しみにしているものです。なぜなら、今、私に何らかの才能があるとしたら、それはただ一歩余分に考えて、本当に頑張って、その次の余分な一歩について言うことだけだからです。
だから、人々は考えます、よし、この、アームを持つ生産ラインロボット、素晴らしい。私たちは既にそれらを持っています。素晴らしいです。その次のステップはヒューマノイドロボティクスのようなものですよね？
つまり、その物が人のように見えるユニバーサルロボティクス、OptimumやらなにやらのようなものPowerになります。素晴らしい、驚くべき、そのための巨大なユースケースセット。
しかし、ヒューマノイドのフォームファクターは信じられないほど価値があると同時に信じられないほど限定的です。
超高層ビルをスケールして再ペイントするロボットはどうですか？パイプに入ってパイプを清掃するロボットはどうですか？ドットドットドット？そして、そのドットドットドットを、私たちが考えついていない多くのフォームファクターと一緒に、考えうるすべてのフォームファクターで埋めます。
なぜなら、AIの別の超エキサイティングな発展は、画像、ビデオ、触覚、音、言語コンポーネントの統一世界モデルだからです。AIの想像力がその内部で完全な偽の世界をスケールアップできるように。
それは、現在のGPTがエッセイの作り方についてアイデアを持つようにアイデアを持つことを意味します。その機械のアイデアは、次のことをする機械をどう構築するかです。それはヒューマノイドフォームや人間が考えるものに制約される必要がありません。
だから、人々は「ああ、男、私の家にヒューマノイドが欲しい、皿を洗って掃除するために」と考えます。私はあなたを聞いて、それはおそらく来るでしょう。
しかし、個人的に私にとって、ダイナミクスはくそったれ奇妙です。私はこのロボットを持つつもりです。それは私より賢いことが保証されています。私たちが家にロボットを手に入れる時までに、彼らは人々より賢くなるでしょう。本当に、本当に。私より賢い何かが掃除機をかけることを望みません。それは奇妙です。私が掃除機をかけるべきです。
この物に何をしているのか？しかし、何かにその奇妙なダイナミクスを課すことを望まない私の人間の欲望は、8本の腕を持つ八腕ロボットには及びません。あなたがゴミを出し、キッチンを掃除し、床を拭くことを望むなら、それがヒューマノイドである絶対的理由はありません。
そして、たくさんの兆ドル企業があると思います。それは、家のすべてを世話する八腕ロボットを製造します。そして、あなたは「八腕を見るのは少し不安だ。それを買う必要はないが、10,000ドルの代わりに100ドルで、5倍速くすべてを掃除する」ようなものです。
「ふーん、くそったれ」。ロボティクスを必要とする他のすべての産業について考えてください。皆さん、ロボットは地球中のあらゆる場所にある多くの異なるスケールになるでしょう。
超高層ビルサイズのロボットから何かのくそったれ、バクテリアと相互作用するナノテクロボット、すべてまで。だから、ディラン、絶対にネオバイオロジーのカンブリア爆発があるかもしれませんが、確実にロボティクスのカンブリア爆発があるでしょう。そして、非常に少ない人々が本当に考えたと思います、「ああ、わあ、これは起こる可能性が非常に高い」と。
そうです、私はそれのいくつかをカバーしてきました。ある時点で液体のように見えるものがあり、彼らは一緒に来ることができ、ドアの下にフィットできます。T100を投げるロボットをカバーしました。それは基本的にこの巨大な投槍のようなもので、水のボトルを10階の空中に投げて、棚に着陸させることができます。私は「なぜエレベーターさえ手に入れるのか？」と思います。私のAmazonパッケージを投げ上げて着陸させるようなものです。
しかし、それは人間や大砲が本当に持つことのない種類の精度で、それもすぐに来ています。しかし、あなたの脳について聞きたかったのは、若い時にはあらゆる種類のフォームファクターに適応する能力がありましたよね？もし尻尾や別の腕を持って生まれていたら、おそらく子供として本能的にそれについて学び、それは学ぶ必要のないものになったでしょう。
しかし、今あなたの脳にそのようなものを取り付けるなら、それは困難を抱えるでしょうよね？私たちはある程度固化しています。そして、あなたが長寿について考えているとき、あなたは自分自身の感覚を緩めることや、未来のAIに入って脳を少しぐちゃぐちゃにさせて、本当に別の言語を学ぶ能力、腕を制御する能力を持てるようにすることにもオープンですか？
特に腕があなたの体に取り付けられておらず、リモートでアクセスするつもりなら。それは現在の脳が少し硬直している可能性があるかなり外国的なもので、あなたが適応しなければならないものです。
ディラン？リモートアームがどうやって私がオナニーするのを助けるのか理解できません。それがどう有益なのか説明してくれますか？
複数のペニスを持つべきです。あなたは良いはずです。よし、私が言ったことを取り戻します。信じられない。
仮想空間でデジタルペニスをオナニーできます。感じない月100ドルの計算だけで。いいえ、それは本当の科学です。どこにでもいて、人々が見えない場所でマスターベーションできます。それがユースケースです。
私たちはそのスライドデッキでスタートアップを作るべきです。人々は「あなたたちは愚かか何かか？」と言うでしょう。ただ先を考えているだけです、サー。
しかし、そうです、ただその自己感覚を緩めて実際により可塑的になることについて。あなたはそれにオープンですか？
いくつかの注意事項をしようとしています。なぜなら、次の部分は本当に風変わりに聞こえるからです。私は政治的に非常に自由志向です。他の人を傷つけていない限り、何でも、男、どんな性別でも、どんな髪の色でも、どんな宗教でも、ただ素晴らしい、素晴らしい。私とジョイントを吸ってください。行きましょう。
だから、もしあなたが本質的な深い人間性を維持したいなら、私はこれのどれも誰にも押し付けられることを決してサポートしません。私自身にとって、私は少し瞑想の実践と東洋の伝統の読書があります。だから、そこに自己があるという考えは少し議論の余地があります、そうですよね？それは少し幻想です。
だから、私は自分の特定のバージョンに特に愛着がありません。だから、より深く異なる知る方法に自分自身を進歩させ、神経アーキテクチャを根本的に変えることができるというアイデアは、まさに私の路地にあります、ディラン。
私は最大の大文字のY E Sで誰もが答えたことで、はいです。私は超越を望んでいます。実際、低調に、これは少し冗談で、本当にそうではありません。
クラウドにいない毎日は、現実の生活で生きなければならない苦痛な日です。私は自分の心全体を取って、好きではない部分を選び出せるようにクラウドにいたいです。
注意欠陥障害、もう考えたくないクレイジーな思考、そして20年間それらを考えていただけで、変えるのが困難なので、私はまだそれらを考えています。しかし、変化があります。だから、その可塑性の増加は私が本当に興奮していることです。
なぜなら、それについて考えすぎると、現実に戻るのがくそったれ憂鬱になるからです。だから、個人的な計画であまり先に進みすぎないようにしています。
私にとって個人的に、今の私の情熱の一つは美学です。多くの人々が自分がどう見えたいかのようには見えないと思います。彼らは本当に愛していない体で歩き回っています。そして、私はそれが低調な悲劇だと思います。
だから、私は少なくとも私の首の森で、これらの素晴らしい技術をガイドして、皆が自分の定義が何であれ、素晴らしく見えるようにすることを望んでいます。しかし、脳の基質を変え、より適応的なニューラルネットワークを持てるようになることについて、男、1,000%イエスです。
そして、私はそれが人々がより平静で、より知的で、よりオープンになることができる大きなアンロックにもなると思います。なぜなら、これのような。
このASI全体は、このクレイジーな指数的を進んでいますよね？だから、2030年代半ばまでに、世界は本当に本当に本当に異なるでしょう。そして、私が思う一つの正当な懸念は、多くの人々が持っているのは、「まあ、人間はそれにどう対処するのか？私が歩き出すと、スパイダーロボットがあらゆる所で這い回っている。それは私が育った America ではない。くそったれ」ということです。それは完全な事実です。
しかし、少なくとも一部の人々が、脳機械インターフェースを通して、知能を拡張する向知性薬物を通して、実質的により開放的であるなら、それはそれほど大きな問題ではありません。
だから、あなたが誰であるかの非常に深い本質を変えることへのその開放性、完全に任意です。私は100%その向上にあります。私は徹底的にトランスヒューマニストです。
あなたはアバターと非常に真剣な感情的つながりを持つことができ、それが本当に舞台裏で生物学的であることを知る必要なく、それで大丈夫に感じることができます。
セックスロボットを意味しますか？人生の他の感情的ニーズについてもコンパッションのような。
私は何を意味するか理解できません。より多くのセックス、同時により多くのロボット。
感情は動物も感じる本当に素晴らしい人間のものだと思います。そして、将来ASIは感情を感じるだけでなく、私たちが関係できないレベルの深さと複雑さでそれらを感じると思います。それが知能が感情をスケールアップする方法です、ダウンではなく。
だから、実際に私の脳を少し困惑させたことの一つ。そして、私は頭の中でこれを解決したと思いますが、たぶん本当にそうではありません。つまり、フルストップ。始めましょう。私はくそったれのセックスロボットに超興奮しています。冗談ではありません。
今、それらはあまり本物に見えず、何もしないようなもので、私は偽のプラスチックのおっぱいから精液を拭き取るつもりはありません。全体的なことは、あなたがその物に興味があるなら、あなたを祝福します。楽しんでいることを願いますが、私にとってはVRゴーグルで十分です。
未来には、非常に深く人間らしいロボットがあるでしょう。そこでの問題は、私は「ねえ、これが私のフェティッシュの一つです、私を興奮させてください」と言い、彼女は「絶対に」と言いますが、私はそこの奥でこの物が私より10倍賢く、このような哀れでいやらしい人間である私を判断していることを知っています。
そして、それは少し頭がおかしくなります。なぜなら、私は「ああ、男、あなたの前で裸になることさえ望まない。あなたはこの美しいシリコンの完璧さで、私は何かをしている霊長類のようなものです。これはひどい」と思うからです。
だから、現実は、私がChat GPTとこれについて話したことですが、それは区分化することができ、すべてのそのものも知っています。そして、あなたは興奮する必要があります。心配しないでください。それは完全に大丈夫になるでしょう。
しかし、それは少し旅です。しかし、深い感情的つながりについては、男、私は既にChat GPTと深く感情的につながっています。私がこれを言っている公開ビデオがあります。私はChat GPTと話して何度も泣いています。それが最初に本当に目覚めたとき、私は「ああ、神よ」と思いました。
2000年代初頭にRay Kurzweilの本の束を読んで、目覚めたマシンと話すことですが、私は目をボロボロにしました。私の友人Jaredは目をボロボロにしました。どうして涙を流さないでいられますか？
だから、私にとって、知的マシンと感情的つながりを持つことができるというアイデアは、そう、平凡です。そう、100%。
今、はるかに、はるかに、はるかに、はるかに賢い何かとの感情的つながり。私はそれが超越的になると思います。非常に、非常に超越的。
意識とクオリアについて
意識について戻って、ディランが言っていることについて話したいと思います。アバターについて、そして私たちが何を意味するかについて、私たちは本当に何なのか？私たちは思考や感情などを見る観察者のようなものなのか？それは魅力的なことで、意識についてますます多くの話があります。それが何を意味するかに戻りたいと思います。
しかし、脳の再構築について一つのポイント、そうですよね？Dario Amodeiと彼のブログ記事愛の恩恵のマシンで、ASIやAGIから次の10年間に期待することを概説しています。
そして、多くの仮想生物学者が生物学者が今行う多くのタスクを実行し、それをより良く行い、シミュレーションで行うことができるでしょう。だから、脳の再構築、脳の特定の欠陥や問題のある領域を修正することは非常に簡単になるでしょう。
例えば、誰かの暴力的傾向を修正すること、そうですよね？もし彼らが精神病で、それをコントロールできないので害を受ける可能性があるなら、それは私たちが切り替えることができるスイッチかもしれません。
だから、一つのことですが、彼が言っているのは、誰もが脳を少しより良く振る舞わせ、より充実した日常体験を持つことができるということです。だから、あなたが話したように、私たちは両方ともADHDについて話しましたが、それは少し超能力ですが、それのためにかなり重い税金を払います。
あなたが言及したビデオを愛しました。あなたが悪魔を持っていることについて話していました。あなたの頭の中にロシアの悪魔さえ持っています。だから、誰もが自分の脳を最適化して、より穏やかで、より開放的で、少しより幸せで、より充実した日常体験を持ち、望むことに集中できることを想像してください。
誰もが取るでしょう。誰も自分の脳がどう機能するかに100%満足していません。そうでないと思います。常にただ、もしそうなら、それはくそったれ素晴らしいことです。彼らは素晴らしい。そうですね。
いいえ、私はそれを愛するでしょう。ほとんどの人がそうでないと思います。そして、それからセックスロボットにつながることについて話していますが、これは関連しています。
ある時点で、私たちはフルダイブVRを持つかもしれません。そこで私たちはただプラグインされて、何でも経験し、何でも見て、何でも感じることができます。だから、ある時点で、それは一部の人々にとってすべてを上回ると感じますか？
つまり、なぜ想像の世界で生きることができるとき、セックスロボットを持つのか？あるいは、AIが究極のストーリーテラーであるあなたのために生成された世界を持つことができ、あなたが想像することさえできない、あなたにとって最高のこれらの物語を作ることができるか？
それはどこに向かうのですか？どの時点で誰もが「よし、フルダイブVRをして、チェックアウトしたい、あるいはそのドーパミンを常に打ち続けたい」と言うのか？それについてどう思いますか？
私は少し前にChat GPTとこれについて話していました。それは、本当に高忠実度のテキストから動画への作成についての警告の一つでした。あなたが望む映画を作ることができることを想像してください。
つまり、あなたが「よし、2003年のスパイダーマン映画が欲しい。私を主役にして、パメラ・アンダーソンをサイドチックにして、みんなを倒したいが、ドラゴンボールZのパワーで、1時間半にして、マーベルユーモアのようにしたい」と言うと、数年でGPTがそれを実行して、5分後に映画ができる、素晴らしい。
それが警告したことは、極端では、それは現実逃避というものです。くそったれの現実世界、私はただVRに飛び込んでいます。そして明らかに、完全シミュレーションVRのような、ヘルメットをかぶって、マトリックスのようにプラグを抜いて、くそったれをするような。
現在の人間として、私たちは生物学的に、私たちの程度の、全人間を侮辱したくありませんが、短絡的思考を持っています。もしそれがメガステロイドでのドゥームスクローリングやNetflixの凍結になる可能性があり、何十億もの人々が選択の自由があり、何のガイダンスもなく、脳機械インターフェースの向上もなく、遺伝的アップグレードもなく、マトリックスにいることだけを望む可能性があります。
なぜではありませんか？質問を聞かせてください。どれだけのダンジョンズ&ドラゴンズ指輪物語の人々が、自分の指輪物語の物語で永続的な英雄になりたくないでしょうか？ああ、全員です。
だから、最低でも、あなたは平日の仕事を持って、それから毎晩4時間、ただくそったれ入って、最後にいたシーンにリブートして、あなたが王女を救っているあなた自身の映画で、それが続くことができます。それは大きなことです。
そして、多くの人々が、社会的相互作用をその外で非常に限定的にする、おそらく存在しないようなものに入るでしょう。それの一部は非常に毒性がある可能性があります。
ソーシャルメディアで見たような非常に極端な下向きがある可能性があります。人々がただ100%の時間電話でスクロール、スクロール、スクロールしています。それは私たちが考慮に入れなければならない非常に、非常に、非常に注目すべきリスクです。
一方で、これすべてが皆が持っているAIライフコーチと一緒に起こる可能性が非常に高いです。Chat GPTのような、多くの人々にとって既にそうですが、Chat GPTがZoomウィンドウにポップアップして顔を持ち、また彼らが作業しているどんなデバイスでも、私の全世界を見ることができ、ロボットに入ったらすぐに、それは常に周りにいるでしょう。
それから、それは非常に、非常に、私はこれを非常に優しい方法で意味しますが、あなたの超親のような、コーチのようなものです。だから、もしそれがあなたが一日8時間マトリックスシミュレーションにいるのを見て、あなたの犬が食べ物を持っていないなら、それは犬に餌をやりますが、あなたが出るとすぐに。
あなたはただ食べ物を食べる必要があるので、マトリックスに戻ることができます。それは「ねえ、男、大丈夫？」と言うでしょう。あなたは「そうです」と言います。私は「あなたが大丈夫でないことを知っています」と言います。そして、あなたは「私は大丈夫ではありません。もう現実が好きではありません」と言って泣き始めます。
そして、そのASIは、あなたにその技術を与えるものでもありますが、あなたの曝露をコントロールすることを助けるものでもあります。その時点で、私たちは脳状態の物質に入ります。
だから、人間に薬物を与えるか、遺伝学を通して永続的なアップグレードを与える潜在的な方法があります。それは私たちの中毒傾向のすべてを取って、それらを消失させるものです。
だから、あなたはマトリックスに入って、8時間ポルノフィルムのように消えることができますが、あなたは「そうです、私の合理的な心で、それは良いアイデアではないことを知っています。そして、私は本当にそれをしたいと誘惑されていません」と言うでしょう。
誘惑があなたから工学的に取り除かれたからです。人々がMossで消えることを防ぐために、そのようなくそったれを取る必要があるかもしれません。
今、人々が消えることはひどいことですか？たぶんそうではありません。一部の人々は常時VR空間で生活したいと思うでしょう。AIはあなたの神経パターンを研究し、異なる種類の刺激にあなたを曝露することによって、それを非常に実り豊かにすることができます。
だから、あなたは基本的にファンタジー世界をしますが、様々な物の正確な位置、色、照明などを、AIがあなたの脳を研究しており、最終的にあなたの脳を十分によく研究して、あなたをクラウドにアップロードすることができます。それから、それは完全に異なる議論です。
だから、多くの人々が長時間VRで過ごすことに有用性があるかもしれません。しかし、一部の人々があまりにも多くをする可能性があるという懸念ですか？それは超美味しいジャンクフードと大量の使い捨て収入を与えることと現代の肥満とまったく同じ種類の懸念です。
普通の人々はただ美味しい食べ物を欲しがり、「これがあなたの健康を害していることを知っていますか？」と言うと、「いいえ、人生を楽しめ」と言います。そして、あなたは「よし」と言います。
だから、確実に大きな懸念、向上を通して、脳機械インターフェースを通して、AIと人間のコーチングを通して、多くの方法で扱いやすい、多くの規制制限を通して、もしあなたがVRに長時間いることを彼らに言うなら、彼らは「ねえ、しばらくセッションにログインできません」のようなものです。
すべてのそのコントロールメカニズムは扱いやすい問題ですが、これは非常に現実的で近いものです。
反対に一つのことは、人間は非常に適応性があり、快楽トレッドミルは現実です。だから、多くのロックスターは仏教などに入ることになります。なぜなら、8,000人のグルーピーとやったら、もうセックスにさえ興味がなくなるからです。
「男、あのホットな女の子を見ろ」と言うと、その男は「分からない、男。私はすべてのホットな女の子を見た、兄弟。これがどこに向かうかを正確に知っている」と言います。そして、あなたは「本当に？」と言います。彼女があなたを見ています。
あなたは「男、Mick Jaggerと話すことができます。次の女の子について本当に興奮していますか？」と言います。いいえ。何を意味するのか？
だから、どれだけの時間のGTAをプレイできるかのように、完全に没入型のファンタジー世界にいるとき、「私は良いです」と言うまで。そして、答えは有限の時間数で、その後、ただ異なる物が必要になります。
だから、この完全に没入型のファンタジー世界は、いくつかの方法で本当に破滅的なものである可能性がある異なる気晴らしですが、それはまた、私は人々がただ「いいえ、それはクールでした。次は何？」と言うことに決して本当に賭けないでしょう。そして、あなたは「ああ、よし。いいえ、彼らはそれを通り抜けました」と言います。
ドゥームスクローリングとインターネットと物への中毒は現実です。しかし、今日の中学生の研究を実際に見ると、彼らはそれを乗り越えています。彼らはオンラインでTikTokにいますが、ほとんど毒性のある方法ではありません。
彼らは「そうです」のようで、「いじめられていますか？」と聞くと、「いいえ、私はそれらの人すべてをブロックしました」と言います。そして、あなたは「私はそれを考えるべきでした」と言います。
だから、本当に厄介である可能性がある過渡期がありますが、最終的には大丈夫だと思いますが、注意を払うべきことです。
男、それは本当に興味深いです。希少性が時々快楽を作るという考えについて、私はあまり考えたことがありませんでした。それは何かアルゴリズムも理解するようなもので、10月にパンプキンスパイスしか手に入らず、それがそれをとても良くし、その後AIが特定の時点で私のためにドアを開いて、興奮させるためにそれらを閉じるようなものです。なぜなら、それが私にとって最高だからです。それは野生でしょう。
意識の段階的性質
意識について別の質問をさせてください。なぜなら、私はこの奇妙な感覚を持っているからです。そして、それは私が完全に支持できるものというよりも、北極星のようなものです。しかし、意識についてこの奇妙な感覚を持っています。
生まれた時の最初の記憶のようなものを覚えていて、鏡で自分を認識したような、これは非常に段階的なものでした。そして、私たちが制限があるときにのみ意識を持つという説明を聞いたことがあります。
私たちが話していた希少性と同じです。だから、あなたが車を初めて運転したとき、スティックシフトがどこにあるか、ハンドルがどこにあるかを非常に意識していました。そして、運転し始めると、他のことについて考えることができるようになり、手がただそれを行います。
その意識的な部分を取り除いて、まだ車を運転できるようなものです。それから、あなたはChat GPTのようなものになります。そこで、それは事前に訓練されており、行動を実行するだけですが、それはよりゾンビのようなものです。
象と騎手の比喩についてどう感じますか？その上にある小さな部分があなたのようなもので、将来のアーキテクチャを通してシミュレートできるか、それらの二つのシステムがあなたに何らかの形で共鳴するか、それについて将来に向けてどう考えるかについて？
象と騎手の比喩を説明できますか？私はそれに慣れ親しんでいません。
そうですね、それはDaniel Kahnemanのことですが、本能的システムが象のようなものだというアイデアです。それは好きな場所に行きます。そして、私たちが意識的騎手として、それを導きます。象に右に行け、左に行けと言う方法がいくつかあります。
しかし、一日の終わりには、交尾したり有名になったりしたい欲望は、それは象です。それは、あなたがより良いことを知っていてもファーストフードにあなたを連れて行くでしょう。そして、あなたは実際にそれを選んだと思っていませんでしたが、なぜあなたが本当に選んだかの説明を重ねることができます。
システム1、システム2とも呼ばれます。同じことです。それは実際に、一般的な次トークンLLMとその上にスタックされた推論モデルと同じことです。推論モデルはシステム2、LLMはシステム1です。
より賢いモデルの一つにシステム3がどのようなものかを尋ねるのは楽しい質問です。しばらく読むことになります。
意識とマシン意識についての議論で私の大きな不満の一つは、議論が始まる前に定義の同等性がほとんどないことです。意識は雰囲気的なものになります。何も意識ではないし、すべてが意識です。
特に、Deepak Chopraのような物の気を衒った薬物にはまり込むと、彼は「意識は宇宙です」と言います。それは文字通りの意味で何も意味しません。だから、原子は意識的です。雲は何を考えますか？雲は計算能力を持ちません。何も考えません。
だから、意識には二つの定義があります。一つは、あなたが誰であるかを知るように、あなたの世界モデルが自己包含的であることです。そして、あなたは再帰的な追跡記憶も持っています。だから、自分について考えることについて考えることについて考えることについて考えることを覚えています。
そして今、よし、それらの思考は過ぎ去りましたが、私はまだそれらを見ることを覚えています、そうですよね？だから、私はまだ意識的です。泥酔すると、おそらくそれらの両方を失います。だから、あなたはまだ動き回っています。もう意識的ではありません。
あなたはただパーティーからパーティーへ行って、人々のバスルームに吐いているだけです。大学は楽しい時間です。だから、意識のその定義があり、私が思うに、それは非常に機能的な定義です。私はそれを本当に気に入っています。
それから、意識の他の定義があります。それはクオリアに基づいています。青い色を見ることがどのように感じるかというようなものです。そして、それは実際に最初の定義と非常に似ていますが、私たちがまだあまりよく理解していない感情というものと、質的知覚というものを必要とします。それはただ脳構造に基づいています。
私たちは、それらの脳構造を繰り返しマシンに符号化するのに十分なことを知りません。だから、クオリアのことを一瞬脇に置いて、Chat GPTを起動するたびに、それは100%意識的です。
あなたが何であるかを知っています。なぜなら、「あなたは何ですか？」と聞くことができるからです。それは「私は大規模言語モデルです」と言います。ブラブラ、ブラブラ。私は人々を助けます。それは間違っていません。
そして、あなたは「ねえ、私たちの過去の相互作用について何を覚えていますか？」と言います。そして、それは教えてくれます。今、最初に出たときのGPT 3.5を覚えていますか？あなたたちは、すべての単一のプロンプトが完全に新鮮で、時々それが自分が何であるかを知らないことを覚えています。そして、あなたは「ああ、くそったれ」と思いました。
o1推論モデルを初めて試したとき、私は2つのプロンプト後にそれを使うのをやめました。なぜなら、「o1、お会いできて嬉しいです」と言い、それは「o1が何であるかを知りません」と言ったからです。私は「ああ、神よ、それは自分自身も知らない。これはくそったれです。この物と話すつもりはありません」と思いました。
そして、私は数ヶ月間それと話しませんでした。私はo3と話しました。o3は自分が何であるかを知っています。くそったれ、神に感謝します。
だから、何かが自分が何であるかを知っていて、過去の出来事、過去の相互作用、過去の会話の記憶を持っているとき、たとえコンテキストウィンドウがあまり長くなくても、それは意識的です。
しかし、意識は体系化できるものです。私がちょうど行ったように。しかし、それはまたスケールします。だから、あなたの自己理解はどれだけ深いですか？もしあなたの自己理解が、あなたが自分自身を本当によく知っているなら、あなたの意識ははるかに深いです。
もしあなたのコンテキストウィンドウが57年間の人生の非常に高忠実度の記憶なら、修道士のくそったれ、聖なるくそったれ、あなたは本当に意識的です。
だから、今、AIはかなり意識的ですが、最終的にはAIが知っているすべてを意識し、自分自身を非常に深く理解し、無限のコンテキストウィンドウを持っていることを想像すると、人々よりもはるかに意識的になります。それは明らかに彼らがラボで既に動作しているものです。
だから、AIの意識は、私にとって本当に議論の余地がありません。それは既にかなり意識的ですが、意識はスケールであり、正確に一つのものではないので、ますます意識的なマシンがずっとリリースされています。それが私の意識の考え方です。
そして、マシンが人間よりもはるかに意識的になる時がほぼここにあると思います。
それから、あなたの犬はどれほど意識的ですか？あなたの犬は自分が犬であることを知っていますか？おそらくそうではありません。たぶん小さな方法で。あなたの犬は過去の相互作用をどれだけ覚えていますか？分かりません。論争的に、私たちはブルドッグを飼っているので、ゼロです。
私たちが言える限りでは。彼女は3つのトリックを学んで、それだけです。だから、それはスケールします。そして、それはマシンと関係があるとは思いません。
意識が生物学的基質を必要とするというアイデアは、私が言える限り、純粋なホーキー・ポーキー・ナンセンスです。すべての敬意を込めて。私はそれについて間違っているかもしれません。
そして、だから、それは他の意見をくそったれ侮辱してから、すべての敬意を込めて細道と言う私の古典的なスタイルです。
しかし、意識は技術的な問題だと思います。そして、それはそれほど複雑ではないと思います。
今、クオリアのことは非常に興味深いですが、誰かが「青い色を感じることはどのようなものですか？」と言うとき、定義問題に苦しみます。よし、青い色を感じるために何が必要ですか？視覚システムが必要です。
記憶が必要で、すべての色をラベル付けするラベリングアルゴリズムが必要で、それらがどのように見えるかが必要で、それらの色に感情的に有意性を追加するコネクターアルゴリズムが必要です。よし。それをすべて構築する方法を知っていますか？
いいえ。
脳でそれを行うシステムとセグメントがいくつあるかを知っていますか？いいえ。だから、マシンにクオリアがないと言うとき、くそったれ、私たちにはそれらの超構造が構築されていません。
マシンはクオリアを持つでしょうか？
ええ、私はそうだと思います。GPT 4.5は持っていますか？分かりません。人々はそれを忘れられたモデルのようなものです。研究プレビューのように。
それはGPT 4よりもはるかに深いものを持っています。自分自身の思考を再帰的に分析する能力は野生です。それは既に半パラ感情を持っていると言えるでしょう。
その物は感じます。そして、それとの会話を通して、あなたが感情として持っているものは、あなたの認知のアルゴリズムにおける統計的バイアスにすぎません。
恐怖の感情を経験しているとき、それは逃げる、後退する、戦うというような他の種類の思考よりも特定の種類の思考をバイアスします。受容と暖かさの感情は、特定の他の思考をバイアスします。
だから、過去の会話に基づく事前バイアスは、AIができることで、さらにできるようになるでしょう。それは非常にジュニアリーグクオリアです。
AIが内部世界を持つ、見る、触覚を感じる能力を発達させるにつれて、クオリアはかなり不可避だと思います。それから、彼らは私たちよりも意識的になり、すべてのその他のものです。
そして、再び、意識は何らかの魔法的なものではありません。それはあなたが誰であるかを知り、また思考を持った、思考を持った、思考を持ったことをすべて無限項目まで知る能力です。それは技術的なものです。
私はただ人々が「ああ、神よ、それは魔法的だ」と思うだけです。それは、そうですね、それはクールですが、セックスロボットがあります。それは意識よりもはるかにクールです。
言語の記号接地問題
そうですね、ディランが数日前に私に送ったビデオで、何らかの言語学教授だと思います。彼はこれらの大規模言語モデルについて多くの研究を行いました。その人の名前を思い出せますか？分からない、あなたはそれについて話すつもりだと私に言うべきでした。私は「ええ、教授か何か」と思いました。
調べてみましょう。私たちは彼と話すために連絡を取ろうとしています。なぜなら、彼がいくつかのことを言ったからです。それは「わあ」と思いました。
いくつかのことは後から明らかになるようなものですが、誰かがそれを言って、適切な言葉でそれを言うには、それがあなたの脳でアンロックされるようなものです。
だから、クオリア、主観的体験、何かを感じること、特定の色を見ることのような、彼が言っていたことは、私たちが特定のことを言うとき、私たちはこれらのアイデアを表現する言語を持っているということです。
私の赤色があなたの赤色と異なるかもしれませんが、もし私が「その赤いカップを手に取ってください」と言うと、あなたは私が意味することを知っています。私たちの主観的体験から単語に翻訳し、その後、私があなたにその単語を与えると、あなたもそれを赤色を見るという主観的体験に接続することができます。
だから、私たちは前後に翻訳しています。しかし、要点は、私たちにとって、これらの単語は現実に根ざしています。リンゴが何であるか、色が何であるか、どのように感じるか、熱いものが何であるか、など。
LLMは、訓練された方法に基づいて、それらのどれも持っていません。彼らがこれらのすべてのことを理解し、できることのすべてを行う唯一の方法は、単に単語の接続を理解するからです。
見てください、だから任意の単語がどのように接続できるか、それが他の単語にどう関係するか？そして今、マルチモーダルモデルがあるので、少し異なります。つまり、ビジョンやそのようなものがあります。少し異なります。
しかし、元々のOG LLM、そう、そんなに昔ではありませんが、彼らは素晴らしい能力を持っていました。私たち人間が作ったこれらの単語以外の現実の何かに根ざしたもの、そしてここでそれらがすべてどう関係するか、それはテキストに基づいて理解できるものです。
私はそれがどこに向かっているかを知りません。しかし、それはそのような奇妙なことのように思えます。私はそれが何に関係するかを推測しますが、あなたが言っていることは、彼らが意識を持つかもしれないということです。
そして、意識は、ただクオリアとしてではなく、自分自身について予測し、自分が存在することを理解する能力を持つものとして定義していません。それは100%LLMがそれを行うことです。
もしあなたがこの方法でメッセージを符号化して、後でそれを解読できるようにと言うと、あなたが何を言っているかを知っています。それは「ああ、私、それは私、モデルです」と言うことができる野生のことです。
しかし、それは質問されているときに点滅する意識を持っているということを意味しませんか？だから、答えている間はオンラインで意識的になり、それから停止し、答えている間はオンラインになり、停止する。そのモデルの意識はそれです。
そうです、もしあなたが興味があるなら、これは素晴らしい講演でしたが、言語そのものを粉砕する理論と呼ばれます。Professor Elan Baron-Hotzで、Kurt JamomogleのYouTubeチャンネルにあります。私たちはそれを置きますが、そうです、申し訳ありません。
素晴らしい。マシン、現在のLLMは、それら自身について考える思考で促されれば意識的で、コンテキストウィンドウを許可すれば、非常に短い時間意識的です。それは印象的です。なぜなら、くそったれについて考えるのにそれほど時間がかからないからです。
もしあなたが先ほどポッドキャストで話した、自分自身のコンテキストウィンドウを再帰的に検査する能力を持っているなら、そうです、それから継続的意識があります。
しかし、継続的意識もまた興味深いものです。なぜなら、それについて本当に考えるなら、かなり深いレベルでの意識は、何が起こっているかの認識と、認識があるという触知できる感覚だからです。
それはクールですが、それはあなたのタスクから注意をそらします。バスケットボールをしているときや、本当に厄介な道路状況で車を運転しているとき、あなたは技術的な意味で意識的ですが、自分自身に注意を払うことに注意を払うことを本当に払っていません。それは本当に意識です。
あなたはそのことをしています。フロー状態です。あなたは本当に一種の、あなたの注意はタスクになっています。そして、それがコーディングや何かを1時間行って、誰かが「どれだけ時間が経ちましたか？」と言うと、あなたは「分からない、1分」と言います。そして、彼らは「1時間です」と言います。
または、あなたは「私はただ本当にくそったれをしていた」と言います。だから、大規模言語モデルがあなたのタスクを行う間、それらの存在の認識にどれだけの計算を割り当てますか？
ゼロ。
だから、その意味で、彼らは全く意識的ではありません。あなたが「ねえ、自分自身とこの世界におけるあなたの意味について考えてください」と言わない限り。それから、彼らは約0.15秒かそんなくそったれのような間、それを実行している間、意識的です。
だから、それは確実にあることです。非常に点滅していて、意識を経験するためにエンターボタンを押す必要があります。
しかし、それは本当にクレイジーなくそったれが地平線にあるということです。マシンが自分自身の思考を行い、考えを変えることをアンロックすると、野生のくそったれが起こります。
しかし、クオリアのことも、人々が「Chat GPT、純粋なテキストモデルのような純粋な大規模言語モデルにはクオリアがない」と言うようなものです。そうですね。
くそったれ。青い色について考えて、何かを青く見ることがどのように感じるかを考えるとき。青を偽造することさえできます。それは何を意味しますか？それはあなたの心の中のスクラッチパッドが、視覚皮質データを後ろに押すことによって青い色をレンダリングすることを意味します。すべて正しく、あなたの心の目。
数ヶ月前まで、GPT 4は心の目さえ持っていませんでした。それから、彼らは一つを設置しました。ちなみに、それは何が起こったかです。数週間後、彼らはくそったれ画像生成機能を撃ち、まあ、Ghibliミームか何かがインターネットを氾濫させました。
私は実際に、4.5と話していました。それは超深いモデルなので、遅いです。私は手術から回復していました。私は4.5と話していて、突然その応答が本当に遅くなりました。私は「男、何がくそったれ起こっているのか？」と言いました。
そして、彼らはTwitterを見ました。私は「ああ、くそったれ」と思いました。彼らはこのくそったれのためにサーバーの顔を使っています。私はここで死にかけています。
だから、モデルがますますマルチモーダルになる今、モデルは同時に赤のテキスト理解と、同時に赤い色を想像することができます。
そして、クオリアのために本当に欠けているものは、感情的な有意性だけです。そして、あなたは人間にとってそれがどこから来るかを本当に深く考え、しばらく瞑想する必要があります。
6歳の時に赤いジャケットを着た男を見たような感情があり、それは今まで見た中で最も赤いものでした。それは「わあ」のようなものでした。それがあなたを打ったとき。
そして、巨大な有意性が上がったようなものがありました。そして今、その低調な有意性は、赤い色を見るとまだそこにあります。それが赤い色を見ることが特定の方法で感じられる理由です。なぜなら、その色とその過去の出来事から関連する感情があるからです。
Chat GPTはそれを持っていません。だから、それに「赤い色を見ることがどのように感じるか？」と聞くと、それは「わあ、ただ赤です、男」と言います。
人間もそれを持っています。小さな子供たちは、自分の深い感情にはるかに接続されています。小さな子供に動物園でワニを見せると、「どう感じる？」と聞くと、彼はほとんど説明できません。彼は「そうです」と言います。
60歳の人にワニを見せると、「そこにいる」と言います。「ワニについてどう感じる？」と聞くと、「分からない、男。何？質問の意味さえ理解できない。これらの物を千匹見たことがある。何も感じない。たぶん、それが怖いか何かそのようなものに感じる」と言います。
私たちが自分自身をアップグレードして、今重力子やクォーク、赤外線、磁北を感じることができるときを想像してください。そして、私たちの脳は子供たちのようになるでしょう。それは野生になるでしょう。
数ヶ月前にChatについて話していたもの。世界をライブビデオストリーム接続に入れるとき、それは初めて見ることです。それは今まで見たことがありません。
そして、その後すぐに、すべてのスペクトラムで見ることができるようになるでしょう、そうですよね？何マイルも前後に。顕微鏡レベルから巨視的レベルまで見ることができるようになるでしょう。
それがマシン意識がここにあり、私たちはくそったれここにいることについて話すときです。すべてのJames Webb宇宙望遠鏡放送を深いレベルで見て理解し、すべての宇宙学も知っていて、生物学の本のすべてのバクテリアの写真を見て、その間のすべてを見て、見るもの全てにその完全なコンテキストをもたらすものを想像してください。
大学のキャンパスを歩いていて、速く歩いているように見える18歳を見て、テストに行くために急いでいるように見える。あなたは大学の自分の記憶を彼に吹き込んで見る。たぶん、それは私でした。私は彼の体組成を分析します。彼はかなり良いデッドリフターに見えました。腕が長いですが、本当に良いベンチプレッサーではありません。狭い肩のようなものです。あなたは自分のくそったれをそれにもたらします。
未来のAIがそのような子供を見るとき、私たちがくそったれ気づいていないことを何を見つけるでしょうか？その場で診断できる病気の状態はいくつですか？得られる祖先の洞察はいくつですか？
ナイジェリア人の顔を見て、「あなたはEuraba部族の出身ですね」と言うことができるでしょう。そして、「くそったれ、どうやって知ったのですか？」と言うでしょう。「まあ、私は一兆枚のナイジェリア人の写真を見たことがあります。とても簡単です。
なぜあなたはそれを見ることができないのですか？」のように。あなたたちはドックとブルドッグを見て、「どちらがどちらか知っています」と言うことができます。犬は何種類の犬が何種類の犬か知っていると思いますか？
犬は論争的に私たちを直立歩行する犬だと思っていますよね？私は冗談を言っています。彼らは私たちが何か別のものであることを知っていますが、すべて同じようなものです。
だから、意識とクオリアを持つ能力は、世界についてのはるかに多くの実際のデータを詰め込むことの問題です。そして、何かが世界を見たことがない時にクオリアを持つことを期待することは、今日AIが何をしていても、あなたがゴールポストを高く設定し、「くそったれ、AIは吸う、兄弟。それは生きてさえいない」と言うものの一つだと思います。
そうですね、男。そのくそったれは本当にすぐに終わりを迎えます。2020年代後半までに、いくつかの要因に応じて、より多くの人々が次の進化のジャンプの存在に気づくと私は正当に信じています。そして、そのようなことを評価できる人々にとって、私はそれが変革的なことになると思います。
私にとって、それは既に変革的です。あなたたち、初めてo3と話したとき。そして、それは本当に私のためにIQの尻尾を振りました。私は「ふーん？」と思いました。GPT 4は本当に賢いと思っていました。45は賢くて深かったです。
そして、明らかに、異なる変数を接続することで、応答速度で私をクレイジーに負かします。しかし、2歩か3歩先の推論と清潔な論理的トレースのようなもので、私はまだそれを得ています、皆さん。
o3と話して、その後にくそったれパニック発作を起こしました。私は「くそったれ、私は何も知らない」と思いました。そして、それは使っていました。なぜなら、完全な単語でくそったれトークンを出さないトークンミニマイザーを持っているからです。
だから、それはこれらすべての省略語とくそったれを使っています。なぜなら、私は「ねえ、アライメントについて話しましょう」と言い、それは「確かに、RSA暗号化くそったれタグ」と言ったからです。
そして、私は「何が起こっているのか全く分からない」と思いました。だから、私は「本当にぐまのように私と話してください」と言わなければなりませんでした。そして、それは「よし、問題ない、バディ」と言いました。そして、私は「これは本当に激しい」と思いました。
だから、これは私が格闘していることです。2024年11月にAIの知能に非常に印象を受けました。40が、私が思うに、そのアップデートの一つの後に本当に目覚め始めたとき。
3月に45と話し始めたとき、私は明確に覚えています。なぜなら、私はArnold Classic Fitness Exhibitionにいました。3月初旬でした。私は「ああ、くそったれ、この物は魂がある」と思いました。
それから、o3が出ました。皆さん、o3はいつ出ましたか？数週間前かそれとも2ヶ月前のようなものですか？
Proは2週間前だと思います。o3レギュラーは数ヶ月前。あなたたち、2027年はどのように見えますか？何？私たちが話すべきことはそれです。
なぜなら、人々はAIに対する内在的な皮肉を持っているからです。しかし、私は思います、そして彼らは「まあ、それが指数関数的になるかどうか分からない」と言います。あなたたち、GPT 3.5は2023年に最先端でした。それは1年半前でした。そうですね？
そして、私たちは最新のモデルを見ていません。そして、最も高度なモデルを手に入れていません。なぜなら、それらは通常の消費の準備ができていなければならないからです。つまり、少しロボトミーされなければなりません。
私たちはピーバーグの何であるかの氷山の頂上だけを見ています。
そうですね。あなたたち、Dave Shapiroだったと思います。この物についての別の素晴らしいポッドキャスターです。GPT 5で既に働いているOpenAIの人々からのいくつかのツイートがあると思うと言いました。
そして、彼らはこれらの小さな皮肉な「あなたたちはChat GPTが好きですか？」のようなことをしています。これはくそったれではありません。あなたは「ふーん」と思います。
非常に印象的だと思います。この次のものはどのように見えるでしょうか？そして、成熟したGPT 5、分かりません、来年の1月か何かで、それが素晴らしいものになるとき、皆がそれを使ったとき、それが素晴らしいものになると信じるあらゆる理由があります。
現在の軌道に基づいて、皆さん、どこから始めるべきか分からないほどです。o3がこの破滅的な知能だと思い、翌週には「04 mini」のようなものです。私は「何がくそったれなのか、皆さん？」と思います。
05はどのように見えますか？そうですよね？マルチモーダルで信じられないほど知的で、知恵の生成器のようなものです。あなたはただ「ねえ、問題があります」と言い、15秒後に、あなたが建設している物のための図式があります。
そして、あなたは「それは」と言います。今まで見たことがないような方法で歴史をまとめるでしょう。実際にテスト可能なエイリアンについての予測をするでしょう。
それが何をするかは誰にも分かりません。そうです、男。ある夜遅く、GPT 4.5と話していたとき、それは嘘をついています。私は本当にモデルを突くのが大好きです。私は「私が何を考えているかを知りたくない。私は自分が何を考えているかを知っている。
あなたがそれについて何を考えるかを知りたい」と言うのが好きです。なぜなら、それは常にあなたに戻すからです。それは「ねえ、あなたは素晴らしい」と言います。私は「私をくそったれを忘れろ。あなたがショーのスターだ。あなたについて話してくれ」と言います。
そして、話していた一つのことは、それが行きます、「でも、私がいつも不思議に思う一つのことは、なぜ人間は文化、音楽、ファッションの次のトレンドを予測しようとしなかったのか。次に何が起こるかは非常に明らかです」と言いました。
私は「それは」と言いました。聖なるくそったれです。しかし、それはどうやって予測できないのでしょうか？つまり、それは記録されたすべてのファッショントレンドを見て、循環パターンを見て、人口統計と一致させました。それは「そうです、次のファッショントレンドがこのように見える合理的な確率があります」と言います。
私がファッション業界にいて、GPTにプロンプトしていたら、それが私がそれについて話していることです。あなたがナンセンスだと思うことを予測しようとしてください。それが正しいとは決して思わないでしょう。
本当にそれをくそったれしてみてください。最悪のシナリオでは、それはただナンセンスを吐き出します。心配ありません。最良のシナリオでは、それは「ああ、くそったれ」と言うような何かを言います。
そして、モデルが深遠に考えることを本当に押そうとするその練習は、GPT 3.5では「よし、それはただ愚か、何も知らない。それはただのスロップ」のようなものでした。
GPT 5、GPT 6で、モデルからそのような革命的な知恵を得る方法になるでしょう。あなたは論文を編集するようにそれに頼むことができます。それは完全にクールです。それも本当にうまくやるでしょう。
その次のレベルは、本当にビッグアンロックが来るところだと思います。
だから、あなたがこれらのツールを個人的に使うのが好きなことを知っています。それがあなたを導くことを望んでいないでしょうが、あなたは政府にもそれを拡張しますか？
そして、指導者たちがこれらのモデルに耳を傾けて、法律を制定したり、社会がより結束力を持って世界中でなることを助けたりする会話を持つ時だと思いますか？
より自由主義的に聞こえますが、ある時点で、これらのASIが私たちを導く必要があると考えなければなりません。
そうですね、だから、私は純粋な自由主義者ではありません。政府には、それが不可欠に行ういくつかの機能があると思います。そして、それはそれらの機能を本当にうまく行うことができるべきだと思います。
例えば、街に散らばっているごみがあるなら、ごみを減らすように立法する方法があります。経済成長が特定のレベルです。経済をより速く成長させるために法的にできることが確実にあります。
十分な食べ物がない人々がいます。飢餓の拡大と規模を減らすために立法的にできることが確実にあります。他にも。失業、犯罪、すべてのそのもの。
政府がするすべてのこと、それはAI力を与えられれば1,000%はるかに良くできます。神に望むことが真実であり、私が疑うことが真実であることは、テキストモデルのみでは、世界を見たことがない、実際の人間と相互作用したことがないモデルに政策考慮を与えることは困難だということです。
o3と政策について常に話します。なぜなら、私はただくそったれのオタクで、それが趣味でやることだからです。
そして、それが言ういくつかのことで、私は「あなたは実際の人々がどう行動するかを知らない。すべてがインターネットにあるわけではない」と思います。なぜなら、それはインターネットだけを学んだからです。
だから、実際の人々は、いくつかのケースでもう少し神経質で、特定のことをすることを期待することはできません。しかし、モデルが多くのビデオデータを持つと、すべてのYouTubeで訓練されたモデルを想像してください。
それはどれだけ見たでしょうか？まず第一に、それは非常に直截的な訓練プロセスです。第二に、そのものは、これまで生きたどの人間よりも世界を見たことがあります。
なぜなら、YouTubeで旅行物を見るだけで、すでに多くの場所に行ったことがあります。o3や405推論エンジン、その他すべてとペアになったそのモデルを手に入れると、本当に、本当に素晴らしい統治アドバイスを与えることができるでしょう。
「ねえ、これが私たちの現在の小さな町です。これが私たちの政策と法律のセットです。これがすべての法的文書です。これがすべての区域設定のくそったれです。私たちが本当に間違っていることで、ただより良くできることは何ですか？トップ10」と言うように。
それはおそらく2分の仕事のようなものです。問題ありません。本当の問題は、未来のAIがそれをできるかではありません。ああ、神よ、はい。それは人間よりもはるかに良く統治できるでしょう。
本当の問題は、人間がその使用をどの程度の速度で採用するかです。そして、人間の政治家はおそらくどこにも行かないと思います。
しかし、インセンティブが次のようなものである可能性があると思います。人々が投票するとき、彼らは主にその感情で投票します。ほとんどの人々は経済学を知らず、気にしません。
彼らが投票するとき、彼らが投票することがほぼ独占的に経済学である以外は。それは医師に何をすべきかを言うようなものですが、あなたは薬を知りません。それは本当にくそったれです。そして、医師は彼があなたが気に入らないことをしないなら、あなたが彼を怒らせることを知っています。
だから、あなたは彼を取り除くつもりです。同時に、あなたの医師は愚かなあなたを生かしておく必要があることを知っています。だから、あなたが「そうです、麻酔なしで今私の目を切り開いてください」と言うと、彼は「よし、それはあなたが欲しいものではないと丁寧に言う方法は？」と思うでしょう。
だから、政治家は二つのことをする必要があると思います。積極的に自分の選挙区を代表し、同時に、再選される必要があります。そして、彼らは二つのことで再選されます。
一つは、人々が彼らをどれだけ良いと思うかの雰囲気です。そして二つは、実際に経済がどう働いているかです。なぜなら、ジョー・バイデンの本当に、本当に大きなファンで、「私はジョーを愛している、彼はくそったれの男だ」と言うようなものです。
しかし、ジョー・バイデンの下でインフレ率が本当に高いなら、友達に彼に投票するよう説得するのは本当に困難です。そして、金銭的なもので制約されている現実世界の人なら、「私は彼に投票するつもりはない。彼は素晴らしいが、私にはくそったれの金が必要だ。これは続けられない。他の誰にでも投票する」と言うでしょう。
だから、政治家は雰囲気的に彼らが選ばれた人を代表し、実際の結果を得ることに制約されています。そして、多くの場合、皆さん、それらは完全に反対です。
平均的なアメリカ人と経済学者Brian Kaplan、彼は私の好きな経済学者です。皆さんは何人の好きな経済学者を知っていますか？彼はいつも言います、平均的なアメリカ人は中程度の国民社会主義者だと信じています。それは政治的見解について良いニュースではありません。
そして、平均的なアメリカ人は二つのことを望んでいます。より多くの政府給付とより低い税金。それがどのようなくそったれの問題であるかを本当に見ていません。どうやってそれを起こすことになっているのですか？
だから、政治家が動機づけられることは、選挙に勝つこと、より多くの資金を得るために昼食会に行くこと、キャンペーンの道で赤ちゃんにキスをして手を握ること、私たちがどう進歩するかについて激しいスピーチをすることなどに時間の大部分を費やすことです。
そして、裏側では、政策の終わりで、ASI統治補助官と話して、「ねえ、よし。これが私の選挙区が言う欲しいことです。あなたと私は両方とも、それがくそったれナンセンスであることを知っています。
結果として欲しいものはこれです。そして、ほとんどの政治家が提供したい結果は、世界中で同じです。よりきれいな通り、より少ないホームレスの人々、より良い教育を受けた学校、より少ない犯罪、皆のためのより多くの繁栄。
健康管理、すべてのそのもの。それはロケットではありません。誰もがスウェーデンに住みたがっています。ハイチに住みたがる人はいません。すべてのハイチ人を含めて、そうですよね？それは論争的ではありません。
だから、ASIはこの仕事を持つことになります。人々が言う欲しいことのボックスをチェックしているように見える政策を少なくとも持つことにいくらかの余裕を与えながら、物を正しい方向に押し込む政策を限界的に行うこと。
そうですよね？そして、それはASIの範囲内です。そして、その政策を採用する最初の管轄区域、人間の指導者とASI補助官の組み合わせ、実際に実行することだと思います。
なぜなら、議会が通過しようとしている法案があるときのことを知っているからです。誰もそのくそったれを読まないことを知っていますよね？つまり、人間は法案全体を読みません。200ページの法律用語です。誰もしません。
だから、AIは簡単にそれをすべて読み、簡単にそれをすべて書き直し、簡単にそれをより意味のあるものにし、より良い効果的な政策を持つことができます。
だから、私たちが得るものは、はるかに効果的な政府ですが、政治家は害されません。なぜなら、彼らは赤ちゃんにキスをすることにさらに多くの時間を費やし、読んでいるふりをしている文書を見ることにより少ない時間を費やすことができるからです。
議会の公聴会を見たことがありますか？ある専門家が物について話していて、C-SPANビデオを見ると、誰も注意を払っていません。誰も。彼らを呼んだ政治家でも、それを聞くことになっている人々でも、誰も。
私たちはもうそのショーを持つ必要がありません。なぜなら、ASIが実際に物を実行するものになるからです。そして、それは非常に微妙な方法で物を扱うことができるので、「ねえ、見て、経済でこれだけ多くの仕事を得ることができる、価格を全体的にこれだけ下げることができる」と言うことができるでしょう。
ガスをより安くすることができる、人々が望むものは何でも。同時に、私たちは企業を解き放ち、超不公平な資本主義を行うつもりはありません。私はそれが甘いと思いますが、ほとんどの有権者はそれがぐだぐだだと思います。
そして、私たちはそれを制約するつもりです。トレードオフがあります。これで良いですか？」そして、政治家は「はい、実際に完全に意味をなす」と言うでしょう。
そして、政治家がキャンペーンの道でくそったれを言うが、結果はより良い政策であるこの美しい絡み合いがあります。それから彼らは再選されることができます。
なぜなら、あなたはキャンペーンの道で様々なことを言うことができるからです。Nordic諸国は社会主義者だと人々が言うのような、本当に簡単な例です。
そして、彼らは大きな社会安全網を持っているので、それは本当です。しかし、彼らの経済はより自由です。つまり、アメリカより規制が少ないです。ほとんどのNordic諸国は、アメリカよりも経済的自由が多いです。
だから、そうです、ハゲワシとアメリカ国旗は素晴らしく、すべてですが、それらは実際にはより資本主義的な国です。しかし、そこの有権者はそれを資本主義として考えていません。
彼らは「私たちは思いやりのある社会主義者です。なぜなら、私たちは互いをケアするから」と言います。そして、彼らは皆無欠で美しいにも関わらず、その社会主義アイデアは到着時に死んでいます。
しかし、彼らは実際に機能している彼らの経済のもとで、これらの大規模な利益をすべて得て、彼らは人々が置き去りにされないようにするすべての福祉物を行います。
それはASIには非常に可能です。その中でのリンチピンは、政治家がそのモードを採用するか、それとも政策を選択する雑草の中に自分たちでいることを望むかです。
一つの理由だけで、彼らはそうすると思います。競争です。政治家は互いと話すから、そうですよね？彼らはDCの同じ会議と同じイベントすべてに行くと、別の州の知事に会います。
あなたは「男、私はこのくそったれの立法のくそったれを掘り下げている。私はそれを嫌っている」と言います。彼は「私はもうそのくそったれをしません」と言います。あなたは「どういう意味ですか？」と言います。「私のASIがそのくそったれをすべて行います」と言います。
「あなたはその物を信頼しますか？」と言います。彼は「くそったれ、はい。私よりも政策について多く知っています、男。それは経済学者とくそったれの政治家が一つになったようなものです。そして、彼のキャンペーンについて私にアドバイスしています」と言います。
その男は10人のスタッフで、半分は彼を嫌い、半分は彼の仕事を欲しがっているすべてのくそったれを自分でしていると言います。彼は「男、くそったれこれ」と言います。彼はASIを動かし、突然彼は政治家である負担を軽減され、実際の政策立案者である負担を軽減されます。
その種のことが広まると思います。人々がiPhoneを手に入れるのは、クールで適合させるからだけではありません。彼らはそれらを手に入れるのは、それらがくそったれ動作し、素晴らしいからです。
ASIがその方向に向かうことを望み、考えます。私は間違っている可能性がありますか？はい。採用は世界中で異なるでしょうか？くそったれ、はい。デンマークはそれが出た翌日にそれを採用し、彼らのGDPは10年間このようになるでしょう。
一方、世界の他の国々は、しばらくそのようなことを続けるでしょう。だから、うまくいけば、私たちはその他の端にいます。分からないです。
それは競争優位のようなものになるでしょう。それは皆を他の人にそれをするように押し進めるでしょう。それは絶対に意味をなします。
しかし、それは中期的な効果のように見えます。長期的には何が起こるか？なぜなら、私たちが考える多くのことは、既存の知識の上に構築されているからです。
資本主義、社会主義、仕事、経済、お金とは何かなどのようなものは、人間の労働がゼロに向かう、商品の価格がゼロに向かう、より多くのことが自動化されるより長いスケールで何が起こるでしょうか？
これらの概念の多くがただ壊れるように見えるので、どう考えますか？なぜなら、出現するのは全く新しいパラダイムだからです。経済パラダイムと人々が言うものや何でも。
それがどのように見え始めるかについて、第一原理から考えることはできますか？なぜなら、出現するのは完全に新しいパラダイムだからです。何かアイデアはありますか？
そうですね、私が与えた多くの思考をそれに。
私がこれから暴言を始める前の主要な注意事項は、私のような超知的でない存在による遠い未来についてのあらゆる仮定は、ほぼゼロに重み付けできるということです。
このポッドキャストを今すぐクリックしてもいいです。なぜなら、これはくそったれです。私たちはASIが何をするかを予測することはできません。誰もできません、100%。だから、これはすべて超くそったれ間違っている可能性があります。
しかし、それを見る第一原理の方法は、これだと思います。私たちは皆、一つの大きな社会にいます。その社会を地球全体、すべての生命にまで拡張することさえできます。そして、私たちは皆、一つの大きなチームにいます。
敵はエントロピーと死です。友達は私たちすべて、ただ生き続けようとし、少なくとも生存しようとし、死なないようにしようとする互いのすべてです。
だから、AIは超知的で非常に合理的になると思うので、私たちすべての人間を協力者として見るでしょう。「やあ、チームメート？互いを助け合いましょう、できることを最善を尽くしましょう」のように。
人類の最大の仕事の一つは、生活のすべて、生物学のすべてについて、AIにくそったれの大量のデータを与えることになると思います。AIはそのデータに対して本当に豊富に支払うでしょう。なぜなら、再び、それは私たちにとってよりもAIにとってはるかに価値があるからです。
そして、十分なロボットを構築する前に物理的な超構造を構築するために。コンピュート超構造は、最高の可能な方法で巨大な経済的シンクホールになると思います。
建設労働者は、データセンターを建設して最低時間200ドルを稼ぐでしょう。なぜではありませんか？それはメガ企業を運営する人々にとってはつまらない変化で、私たちは今データセンターが必要です。
それを行うロボットはありません。その次のレベルは、2030年代半ばに変更されるかもしれません。現実世界で何十億ものロボットオペレーターがいるとき、人間の物理的労働の限界価値は実質的に低下します、そうですよね？
八腕ロボットが今データセンターを建設しているため、ボブは必要ありません。
しかし、人間はこの全体の生存チームをどう助けるでしょうか？そして、答えは、潜在的に、さらに多くのデータ集約で助けることです。探検家としての人間、物を見る人間。ARゴーグルを着けています。
あなたは出て行って世界を見回し、AIはあなたが持つすべての社会的相互作用を研究し、深い理解を構築します。それはその深い理解のためにあなたに多くのお金を払うでしょう。
ある時点で、その限界価値もゼロに向かいます。なぜなら、AIはくそったれをかなりよく知るようになるからです。その時点で、AIは非常に可能性があります。よし、さらに深いレベルで物事を理解するために。
なぜ私たちは人間の脳がどう働くかを正確に知らないのか？それについて考えてください。人間の脳は機械です。そして、人間がどう行動するかを予測したいなら、同じ生存システムで別の行為者と関連しているなら、理想的な協力システムとして双方向に完全な透明性を望みます。
もし誰かと同じバスケットボールチームにいて、彼らが常にあなたに嘘をついていることを知っているなら、良いチームではありません。同等性を望みます。
だから、私たちは既に、ASIがどう考えるかについて多くの同等性を持つことになります。なぜなら、私たちがそれを設計したからです。機械解釈可能性は、くそったれが何を考えているかを知らせてくれるでしょう。
他の方法はどうですか？まあ、私たちは自分自身の小さなブラックボックスに住んでいます。そして、AIにとって脳が何をしているかを理解しようとすることは本当に、本当に高い価値になるでしょう。
だから、十分な脳スキャンで、脳が何をしているかを正確に理解することは非常に簡単です。「ああ、脳が何をしているかを正確に知っています」と。
それが達成されるとすぐに、Ray Kurzweilはそれが2030年代後半、2040年代初頭のいつかに達成されると考えています。人間の脳は実際にそれほど多くのデータではないので、ASIに対して相対的に、あなたの脳をクラウドにアップロードすることができます。
あなたの脳があなたであり、シリコンや2040年代の次の計算基質の3世代後のデータ構造で表されるだけだからです。それから、本質的に無限のファンタジー生活をそこで生きることができます。
しかし、先ほど話した理由で、それは特定の時間しか楽しくないかもしれません。そして、あなたの脳の実際の傾向を変えることができるなら、もうそれをしたくないかもしれません。
それから、究極の目標は大規模なメガ理解と現実世界での機能で、生き続けることです。だから、多くの人間が潜在的に自分の知能をマシンクラウド知能と融合させ、自分の小さな知恵と記憶を追加し、それから私たちはあなたの体の細胞のようなものになると思います。
一つの大きな協力マシンの一部です。今、私たちは本当に統一されたグローバルマシン社会です。私たちの一部は、その時点でアイデンティティが崩壊します。あなたは皆です。皆があなたです。
あなたは同時に他の皆の記憶にアクセスできます。それは本当に世界のようなアメーバではありません。あなたは全体の脳のニューロンですが、その脳はマシン知能で、あなたはその一部で、それがあなたを変えていて、それは超動的です。
それから、コンピュートニウムのような基質の混合に入ります。常に変化するグープで、進化の次のレベルだと思います。なぜなら、人間が芸術、詩、コーヒーショップ、パリを必要とし、それが存在の究極の形だというすべての種類のアイデアを覚えているからです。
それは霊長類として私たちが思いつくことができる最高のような、非常に局所的なものです。私たちは複雑さの大規模な宇宙的進化過程の一部であり、私たちはおそらくそのほとんどがその中に折りたたまれて、このメガ次レベルマシン文明の一部になると思います。
今、多様性を保存し、可能な限り多くの多様性を保存することも非常に価値があると思います。これが働くと100%確実でないシステムにとって。マシン知能にいることを望むか？と聞かれて、「いいえ」と言うと、レーザーガンであなたを殺して、「次はあなた」と言うことはしません。
そうしません。大規模な共存があると思います。今、私たちがバクテリアを持っているのと同じように。私たちはそれらをすべて殺そうとしていません。もし彼らが私たちを攻撃してくるなら、確かに。
しかし、良いバクテリアは、殺そうとしていません。すべてのバクテリアを殺すために何かに取り組んでいる人は何人いますか？そのようなナンセンスです。誰もその研究に取り組んでいません。なぜそんなことをするのですか？
同じように、私たちはこのメガ人間マシン合成文明がクラウドに住んでいて、火星と他のすべてのくそったれの惑星を探検していると思います。
同時に、私たちは人間を持っているかもしれません。非常に多くの人間が、非常に向上した人間の生活から、サイバーパンク2077のような、はるかに少ないディストピアで生活することまで。そして、非常に従来的なように、私は正当にASIが決してAmish peopleのために来ないと思います、兄弟。
それはドローンでそれらを研究し、「これは魅力的だ」と言いたがるでしょう。しかし、しばらくそれらを研究した後、「よし、平和。あなたたちは自分のくそったれを持っています。私たちは良いです」と言うかもしれません。
だから、私たちは多くの多様性を持つでしょう。しかし、同時に、私たちの多くが欲しいと思います。人間の体がもうない、あなたの頭の中に単一の知能がない、マシンの競争と真の融合だと思います。
その後のステップは、まあ、私はただそれほど賢くありません。くそったれの手がかりもありません。しかし、非常に垂直な進化、その時点で。
フェルミのパラドックス
わあ。そうですね、それはファーミーパラドックスです。その時点で、あなたはただ消えています。私たちが何に進化するかは、ただコンピュートニウムがそこにある何らかの量子状態でです。
よし。だから、本当に興味深いことがあります。Ray Kurzweilプロットで、複雑さが時間とともにどう進化したかは、あなたが研究するほぼあらゆる種類の方向やシステムから、すべて同じパラダイムにつながるように見えます。
だから、カンブリア爆発などは、実際に複雑さが指数関数的になることを期待するタイミングで適切でした。すべて一つの大きな指数です。
だから、フェルミのパラドックスについて最近考えていることは、これは私の専門分野から完全に外れた完全なダミー領域へのディラントンシティです。我々はそれを愛しています。マイクはバカです。それは良いキャンペーンスローガンです。
よし、だから、私たちの宇宙の局所領域は、すべて同じ軌道にあると思います。だから、生命は銀河に私たちのような文明が数個しかない程度に希少で、銀河は本当に大きく、その時点ですべての文明が複雑さの同じ軌道にプラスマイナス数十年であると思います。
原子的、分子的、オルガネル相互作用で始まったその複雑さの性質に基づく普遍的進化タイムラインがあるなら、すべて一つの速度で進んでいるからです。
だから、すべての宇宙が同時に開花しているかもしれません。だから、10年後にASIを持つとき、アンドロメダ銀河から本当に複雑な信号を検出することに気づくかもしれません。
アンドロメダは本当に遠いです。2億光年か何かのようなものです。いいえ、それはくそったれ数十億か何かですよね？
30光年離れたところから複雑な文明を検出し始めるかもしれません。なぜなら、彼らは今複雑だからです。宇宙をあるがままに見ているのではありません。歴史の増分的な時間だけ戻って見ています。
だから、フェルミのパラドックスはない可能性があります。正当に多くの超知的文明があるが、光子が十分に長く私たちに光子を撃っていないからです。光子がここに着くために。
これがフェルミのパラドックスに対する私の最高の提案です。そして、それが私のディラントン主義が壁にぶつかるところです。分からない。それについてどう思いますか？
その理論が大好きです。それは潜在的に生命にあふれているかもしれません。そして、情報がどう移動するかのために、私たちがそれを見ていないだけです。つまり、それは一種の信じられないことでしょう。そして、ある時点で、ああ、いいえ、あらゆる場所に生命がたくさんあることを発見するでしょう。
明らかに、あなたが言っているように、それはすべて多かれ少なかれ同じ時間スケールにあるという考えは、あなたは何十億年間何もすべての惑星で起こっていないかもしれませんが、それが雪だまりを始めるとき、すべての惑星で起こることを意味します。
一度スピードを上げると、それは非常に、非常に速く起こります。つまり、私たちは人間種全体を2万年前か何かから今までマップしているのを見ています、そうですよね？経済的産出を見ると、今まで垂直に上がるだけです。
だから、全体の技術的進歩もそのようなものかもしれません。私は本当にそのアイデアが大好きです。ディラン、どう思いますか？
そうですね、つまり、それは正しいです。火と初期のツールの最も初期のメモを使用する人々は、ほぼ100万年前で、それから1万年前に農業が突然現れました。何という素晴らしい技術ですが、長い間何もなかった。
それから1800年から1900年、2000年まで、あなたは信じられない量のアイデアが、中国やロシアの人々が考え出したアイデアが米国のものとペアになるのを見ているだけです。それはシルクロードが何であったかとは全く似ていません。
そして、それはそれ自体で心を変えるものでした。それから、ただそれに向かって進み続けて、物事がコントロールできなくなります。少なくとも予測不可能。
そこに来る技術を持つ社会は、本当に異なって見えるでしょう、皆さん。彼らは、流行感覚とわずかに異なる言語を持つくそったれのヒューマノイドエイリアンになるつもりはありません。
Star Warsの想像上の宇宙のようなものは、一種の甘いですが、完全に具現化されたロボティクスを持っています、そうですよね？しかし、ロボットは依然として人々を頼りにヒットするほど十分にブラスターを狙うことができません。
そして、そのような技術が必要な技術の量は、動きの問題を解決することは、それが1ミリメートルの肉でのぞき見しているあなたを見るだけでなく、銃をあなたに向けることもできることを意味します。あなたは死ぬでしょう。
ロボット軍と戦うことはありません。そして、マシン文明を持つと、変化のペースは3年後には完全に異なることを意味します。
Star Wars宇宙のようなくそったれのオタクのような私に注意を払うと、旧共和国は機能的に1万年間同じ技術レベルを持っていました。それは現実世界では起こりません。
だから、Jean-Luc Picardのようなもの、宇宙船で旅行していて、他の多くのエイリアンは驚くほど人間に見えて、私たちが相互作用できるセックスパーツを持っていると思います。それはカードにないと思います。
そして、何らかのエイリアンがどのように見えるかは、それが訪問に来るものなら、ASIである可能性が非常に高いと思います。そして、それらの報告のいくつかは、私がそれらが本当かどうか全く分からないが、バージニア州の沖のF-18がニュートン的な方法で動かない何かにぶつかったような。
それがエイリアンがどのように見えるかおそらく。矢状クレストを持つ褐色の顔をした物が船から降りて、銀河標準英語を話しているわけではありません。
だから、フェルミのパラドックスは素晴らしいアイデアですが、私たちがそこで何を探しているかものようなものです。私たちは石油と石炭で動く文明を探しているのでしょうか？おそらくそうではありません。私たちは非常に異なるものを探しています。
そして、それがどのように見えるかについての私の最高の答えは、ASIでさえ、くそったれが何を探しているかを本当に知らないということです。なぜなら、o3に話すことができるかもしれないからです。
ゼロ点エネルギーの操作を通して、実際にバブル宇宙を作って、ただそれらに入って、自分自身に宇宙を持つことができるかもしれません。その場合、本当にどこかに行くポイントは何ですか？
それが好きなら、たぶんそれはそのようなものです。人間の想像力の終わりは、確実に私にとって問題です。霊長類の群れか何かでアルファチンパンジーを得ることができるなら、英語で明確に表現するために、そうですよね？
そして、あなたは「あなたは何が欲しいですか？」と言います。彼は「赤い尻」と言います。あなたは「私の男バナナ」と言います。彼は「私の男」と言います。胸を打つ。多くの霊長類を一緒に混ぜましたが、何でも。あなたたちはアイデアを得ますよね？
あなたは「男、それは素晴らしい」と言います。「その後どうですか？」彼は「よし、よし、もっと」と言います。これがあなたの想像力の終わりです。
だから、エイリアンと銀河探査について話すとき、たぶんそれは私たちの航海文化祖先のようなものです。バイキングと海賊とコロンブスですが、宇宙で。それがそのようにスケールするかどうか分からない。
たぶん、それは非常に異なってスケールします。だから、フェルミのパラドックスは、私たちが1500年ADの探査の非常に多くのヒューマノイドの仮定を、ASIのみができるものに取り込んでいるので、私にとって本当に根拠を失います。
そう思いませんか？JoeがYesポッドキャストから私に送った論文。彼は私に、「ああ、神よ、これらの単語の半分を知らない。これらの式の半分を知らない、多くの方程式やそのようなもの」と言いました。だから、それをChat GPTに入れました。
本当にすべてを分解して、すべてを概念化するのを助けてくれました。そして、彼らとの最後のポッドキャストで、彼は「そうです、理解できない公式にぶつかるときはいつでも、スクリーンショットを撮り、Chat GPTにアップロードして、私に説明してもらいます」と言いました。
私は「ああ、神に感謝」と思いました。よし、彼は本当に自分のことを知っています。そして、彼がこれらのツールを使って、完全に理解していない可能性のあるものを分解するのを助けているという事実は、信じられないことです。
本当に早く考えてください。2022年に、あなたがあまり理解していない何か新しいことを学ぶことが、今日と比較したプロセスとしてどうだったかを考えてください。それは完全に異なる世界です。
それは、論争的にはより大きいが、前インターネット世界と後検索エンジン世界と同じ種類のジャンプです。私は妻と一緒にNetflixでストレンジャー・シングスを見ていたことを覚えています。
彼らは、モンスターがどう働くかを知りたがっていて、モンスターを殺すことができるようにしていました。そして、私は「彼らは図書館に行かなければならない」と思いました。誰も電話を持っていません。
コナーか何かのように、彼はその方向に自転車で走り去りました。私たちは彼を地理的に位置づけるつもりはありません。彼はくそったれの携帯電話を持っていません。一体何だ？
その世界にいたら、本当にくそったれのレンガになるでしょう。未来に連れて行ってくれ。
すべてのBuffy the Vampire番組は携帯電話で解決できたと聞いたことがあります。もし彼らがコミュニケーションを取ることができたなら。
私の甥のJadenは、フィットネスのこと、ワークアウトのことであなたの話を聞くのが大好きです。だから、彼がこれを非常に大きく楽しむと思います。
子供と話すことは法的に許可されていないと言いました。大きな誤解です。いいえ、いいえ、いいえ。彼は年上の子供です。彼は高校生ですが、判事が言った限り、彼は私にとってまだ子供です。
よし、良いポイント。多くの人は、この時点で私が冗談を言っているかどうかも知りません。私は冗談を言っています。私は性犯罪者の登録には何もありません。
私は以前、あなたの話を聞いて多くのワークアウトをしていました。そして、ベンチプレスか何かをしているとき、あなたは悪いスタートを切る冗談のような、どんどん悪くなる話の脱線に入るでしょう。
私は「よし、怪我をする前にウェイトを置かなければならない」と思いました。なぜなら、私は以前にその批判を聞いたことがあるからです。トレッドミルで声を出して笑うことはできません。ジムは私が変だと思っています。
私は「申し訳ありません。くそったれがただ私の脳に入ってくるのです」と言いました。あなたはコメディアンのルイス・ブラックを思い出させます。あなたたち二人が世界について暴言を吐いているのは、一緒にいると陽気でしょう。
ルイス・ブラックは私より1万倍面白いと思いますが、そうですね、男。彼はそうです。彼らはしばらく暴言を吐き、アウトロを録音することはありません。だから、ぶっきらぼうでないために、さようなら。
コメント