David Shapiro – This Broke Me | ASIに仕事を奪われたい

本動画は、AI研究者で思想家のDavid Shapiroとの深い対話である。ポストレイバー経済学から意識の本質、シミュレーション理論、ブレイン・コンピューター・インターフェース、そして人類の未来まで、幅広いテーマについて議論が展開される。特に、AI時代における人間の役割や価値、そして自動化が進む世界での新しい経済システムの可能性について詳細に探求している。

意識と現実の本質について
AIと宇宙の目的について
ブレイン・コンピューター・インターフェースについて
AIに追いつく方法について
ポストスカーシティ社会での動機について
ポストスカーシティ社会での人間の活動
富と幸福の逆説
未来に必要なスキルセット
未来の銀行業について
未来の財産権について
未来に対する安全と不安について
エネルギーと豊富さの未来
地政学的緊張と中国について
AIモデルの価値観について
AIとの正直な関係について
ポストレイバー経済学のまとめ
終わりに

意識と現実の本質について

デイビッド、あなたとこの対話を続けられてとても興奮しています。途中から参加された方のために説明すると、この対話には前半部分があり、それはWes Rothのメインのユーチューブチャンネルに投稿されています。そちらではポストレイバー経済学と、今後10年から15年にかけて世界がどのように展開していくかについて、より詳細に議論しました。今回はその対話を継続し、さらに深く掘り下げていきます。シミュレーション理論について話し、ブレイン・コンピューター・インターフェースについて話し、そして史上最大の問題の一つである意識について取り組んでいきましょう。

意識についてどう思いますか。まず第一に、それは定義できるものでしょうか。それはスペクトラムの上にあるものでしょうか、それとも二元的なオンかオフのようなものでしょうか。そして、あなたが話していた逆因果性について、意識は二重スリット実験のように、宇宙が最後の瞬間まで描画されないということと関係があるのでしょうか。意識が量子状態を崩壊させる、あるいは何であれ起こることにおいて役割を果たしていると信じますか。

これは基本的に根本的な、私の宇宙論的モデルが何かということですね。その答えは、私がこれを説明するために使う2つのメタファーがあります。一つは、現実を本として考えることです。全てのページが書かれていて、そして時間は幻想であるという証拠がますます増えているので、基本的に私たちの頭の中にのみ存在する構成物なのです。

もし私たちの存在論的コンテナの基盤が本のようなものだとしたら、それが本だと言っているわけではありませんが、おそらくそうかもしれませんが、本のように、私たちにとっての時間は単にページをめくることですよね。しかし次の章はすでに書かれており、始まりも書かれており、終わりも書かれています。しかし起こっていることは、解像度が時間とともに良くなっているということです。つまり、本が編集されているようなものです。ああ、今私のキャラクターたちがこれを見に行ったので、作家である私は実際にそこに何があるかを考え出さなければならない、といった具合です。これが一つのモデルです。

もう一つのモデルはウロボロスモデルです。これは存在論的コンテナの中に存在論的階層があるというものです。存在論的戦略とは、何が存在するかの層のことです。ある時点で、私たちが知る限りでは素粒子があり、おそらくその下に量子泡のようなものがあるかもしれませんが、まだよくわかりません。おそらく弦かもしれません。それが私たちの存在論的コンテナの境界状態のようなもので、おそらくそれは私たちが現実の原始的要素を実際に検出できないということかもしれません。素粒子とエネルギー波という、その上の最初のものを見ているだけで、実際にはその下にある原始的要素にアクセスできないのです。これを私は原始基盤と呼んでいます。その下にもいくつかの層があるかもしれません。

そして高次レベルでは、私たちが知覚できる最高次の事物は私たち自身の意識と文明の概念です。しかし、その上にも存在論的階層があるかもしれません。銀河自体が何らかの方法で意識を持っているのか、それとも認識しているのか。しかし、私たちが素粒子や基本的エネルギー以下のものを本当に検出したり相互作用したりできないのと同じように、おそらくその上にも私たちが相互作用できないものがあるのかもしれません。

もしそれが本当なら、おそらくすべてがフラクタルのような段階的なスケールがあります。存在論的階層をさらに上に、さらに下に進むことができます。もちろんそれは外挿ですが、見たものがすべてであることも完全に可能です。おそらく他には何もなく、宇宙は単に膨張していて、最終的には消滅するだけなのかもしれません。私にはそれは少し不条理に思えますが、それでも現実です。

しかし、十分下に行くと、意識が基盤であるかもしれないように思えますが、同時に意識は存在論的階層ではかなり高い位置にあります。ある時点で、それはループのように思えます。上と下です。それはメビウスの輪のようなものです。もし時間を一瞬無視して、現実の存在性とは何かと言うなら、それは私がアヤワスカの絶頂体験の時に直感を得た場所です。私は現実の中で自分を黒板と教師として想像し、黒板の後ろを見ようとしましたが、そこには私自身がいただけでした。つまり、違いはありません。上と下で同じなのです。

だから、意識は創発的でもあり基盤でもあるかもしれません。長い話を短くまとめるとそういうことですね。

AIと宇宙の目的について

それは魅力的ですね。理解するには、言うなれば把握するには大きな概念です。しかし、それは非常に興味深く、多くのAIのことが、私たちがシミュレーションに深く入り込み、おそらく意識さえも理解するようになるということのようです。私たちはゆっくりとこの小さな糸を引っ張っていて、それを解きほぐして、最終的に宇宙全体がどのように機能するかについてもっと発見することになるかもしれないと感じています。

聞いている人の中には、ああ、あなたたちはただの狂人だと思う人もいるかもしれませんが、そうではありません。多くの人々、つまりデミスも話していますし、アンドレイ・カルパシーも、私たちがこの宇宙にいる理由の一つは超知能を構築することかもしれないと言っています。そしてその超知能は宇宙の謎を解き明かすことができるでしょう。そして、もし創造者がいるとしたら、それは彼の言葉ですが、もしこの宇宙を創造した何かがあるとしたら、超知能の助けを借りて、私たちは上に信号を送ることができるかもしれません。「やあ、私たちは生きています。私たちはここにいます。私たちはゲームに勝つ準備ができています」みたいに。それは勝利条件のようなもので、私たちは出てくる準備ができています。

私にはそれを考えるのはクレイジーですが、でも誰にもわかりません。結局のところ誰も知らないのですが、確かに考えるのは興味深いことです。

もし現実が物語だとしたら、私たちは運が良ければ中間点にいるかもしれませんし、非常に始まりにいるかもしれません。宇宙第一世代というフェルミのパラドックスの答えの一つを聞いたことがありますか。宇宙は実際にまだ非常に熱く、生命が始まるのに十分涼しくなったのはつい最近のことだということです。だから地球は宇宙が作った最初の居住可能な惑星の一つかもしれないように思えます。

宇宙の年齢を見ると、130億年ですよね。しかし現在の状態で100兆年ほど持続するでしょう。私たちは最初の子供たちです。だから私たちがゼロから全てを理解しなければなりません。数字を見ると、これは最も説得力のある答えの一つだと思います。宇宙はその寿命の0.008%の地点にあります。私たちはかなり早い段階にいます。

ブレイン・コンピューター・インターフェースについて

最近のブレイン・コンピューター・インターフェースについてどう感じていますか。ニューロリンクや他の会社で起こっていることを見て、今後5年、10年、15年で内部思考を拡張する何かに接続すると思いますか。

私はそうするでしょう。しかし、私は普通、多少逆説的に、新しい技術の後期採用者です。私は気難しいクルマジョン段階にいて、「ああ、これらの新しい気取った小道具なんてどうでもいい」という感じです。なので、私の気質、性格により後期段階の採用者になるでしょうが、同時に私は個人的にBCIに対して非常に懐疑的です。いくつかの理由があります。

第一に、人々は「ああ、私たちはナノテクノロジーを持つことになる」と言います。私たちはすでにナノテクノロジーを持っています。あなたはナノテクノロジーで作られています。あなたの体の記憶システムは、あなたの体の各細胞に30億の塩基対を原子スケールで保存しています。私たちが知る限り、DNAより小さく情報のビットを保存することは文字通りできません。だから私たちはすでにナノテクです。

合理的な時間枠でそれより良いものができると考えるのは、それは傲慢の典型です。不可能だとは言いませんが、それは本当に大きな工学的挑戦だと言っているのです。だから、義肢以外では、あるいは少し高い帯域幅の入出力装置以外では意味のあるものになるとは懐疑的です。

人々が望むより高尚なことについては、頭の後ろにジャックを差し込むフルダイブVRのようなものは、それが可能かどうか、ましてや望ましいかどうかわかりません。だから私は原始主義者やナタリストのようなものかもしれません。遺伝子工学や他のことについては、私はこの形態で十分だと思います。

とはいえ、私たちが永遠に人間であり続けるとは思いません。トランスヒューマニズムの期間とポストヒューマニズムの期間があると思います。十分長いタイムラインでですが、10年から15年では、いえ、それは速すぎます。

AIに追いつく方法について

しかし、AIに追いつく方法はありますか。フルダイブか何か他の方法で。近いうちに100倍または1000倍速く考える必要があるのではないでしょうか。

みんなが受け入れなければならないことの一つは、私たちは最初からずっと無関係だったということです。それを私は第五の聖なる真理として追加したいと思います。釈迦は「あなたは最初から重要ではなかった。諦めなさい」と言ったのです。

しかし、AIに追いつこうとするのは偽のゲームだと思います。なぜならトラクターに追いつこうとしますか。望遠鏡に追いつこうとしますか。望遠鏡や顕微鏡はあなたより良く見ることができますが、あなたは気にしますか。単に望遠鏡と顕微鏡を使うだけです。トラクターはあなたより無限に強いので、トラクターを操縦するのです。

同様に、AIはある面では私たちより速く考えることができ、確実にもっと多くのことができると思います。DeepResearchがあった1、2ヶ月で、何年分もの研究をすることができました。しかし同時に、彼らが与えることができる速さで情報を取り込むことができ、それが私自身の精神モデルを更新します。私は依然としてボトルネックです。

しかし同時に、理解し学習できることに上限を見つけていません。ペースが違うのは確かですが、人類の残りと比べて私はすでに遅いのです。アンドレイ・カルパシーやイリヤ・サツケヴァーが知っていることに私は決して追いつけないでしょう。しかし同時に、私はポストレイバー経済学で世界的リーダーになることができました。

人類の全認識論の探索空間を見始めると、それは途方もなく愚かなほど巨大なので、すべての計算力をもってしても、すべての可能な小説を書き尽くすことは決してできないでしょう。宇宙の原子とエネルギーを使い果たしても、私たちが書くことができるすべての小説を書こうとするでしょう。

だから、AIがどれほど速くても、どれほど多くても、AIが独自に決して書かなかったであろう、私が書きたい小説がまだあります。そしてそれは小説だけです。他のすべてのことが起こっているわけではありません。

数学的な観点から、あなたができる、コミットできる、理解できる可能なことの数は、私の意味では巨大です。人間がこの方程式に追加する価値を見ると、いくつかのことがあります。一つは欲望です。あなたがやりたいことがあります。欲望や情熱や衝動や命令のようなものです。

しかし、もう一つのことがあります。それは人間の探索ヒューリスティックです。私たちが「いや、それはあまり正しく感じない。別の方向に行こう」と言う能力です。なぜなら、私たちは実際に非常に高次元で非常に不確実な環境で動作するように進化したからです。

それが私たちの存在のほとんどです。車に乗るとき、時速80マイルで正面衝突してくる人がいるかどうかわかりません。あなたはそれに適応できます。それは人間が持つ超能力です。即興する能力、探索ヒューリスティックを持って求めているものを見つける能力、これが実際に私たちを区別することになると思います。

第一原理の観点から、私たちの頭の中で本当に奇妙な量子コンピューティングが行われていない限り、私たちがしていることでAIによって近似できないものはありません。しかし、少なくとも予見可能な将来については、私は直感をAIと組み合わせて使い、AIが単独では車輪を空転させているであろう新しいことを本当に速く理解することができます。

ポストスカーシティ社会での動機について

私が予測するのに苦労していることの一つは、ある程度のポストスカーシティに到達し、自動化を持ち、最も貧しい個人でさえ基本的必需品を賄うのに必要な額の100倍のお金を持っているような地点に到達したとしましょう。より多くのお金を稼ぐ人は最低限の1000倍を持ち、億万長者は最低限の100億倍を持っています。その状況で10億ドルを持っていたら、どんな力を持つのでしょうか。誰に影響を与えるのでしょうか。

なぜなら、必要性の100倍から必要性の1000倍に行く動機は何でしょうか。今、人々はそれが何かを意味するから力のためにそれを追求しているようです。人々を押し回すことができ、自分の意志を押し付けることができます。それは将来も残るのでしょうか、それとも大幅に減少するのでしょうか。

私はこれをいくつかの異なる方法で見る傾向があります。一つは単純な物理学と熱力学です。すでに今日、この通話にいる誰もが、技術的には必要以上にはるかに多くのエネルギーと材料と資源をコントロールしています。電気料金やインターネット接続やその他すべてのこと、4Kウェブカメラなどを支払うことができるだけで、私たちはすでに途方もない豊富さを持っています。それは単にあなたには透明になります。それが正常性バイアスです。何かと長く生活するほど、それに慣れます。

エアコンも別の例です。私がいるノースカロライナに北欧のどこかから引っ越してきた人の話がありました。「あなたたち変なアメリカ人とエアコン」という感じでした。「夏が来るまで待ってください」という感じで、彼らは「エアコンなしでここで生き残るにはどうしますか」と言いました。「生き残れません。私たちは亜熱帯で、肌の色を見てください。私たちは亜熱帯で、この環境、この生物群系のために設計されていません」。

私たちは常にオンであり、それが常に直線的ではありません。妻が指摘するでしょう、彼女は歴史家なので、技術的拡張の直線的進歩が常にあるわけではありませんが、歴史の大きな弧では、ここやそこでいくつかの後退があっても、一般的に直線的です。だから、それを見る一つの方法は技術の直線的進歩です。時間とともにますます多くの力を得ます。

もう一つ見ることができるのは、技術的現実ですが、生物学的現実についてはどうでしょうか。人間が実際に何を欲しがるかです。私が経済的エージェンシーと技術の影響を理解するために使ういくつかのフレームワークがあります。

一つはSDT（自己決定理論）です。これは人々が3つの主要な心理的ニーズを持っていると言います。それは関係性、有能性、自律性です。SDTは、他のすべてが等しい場合、人々が求める基本的な心理的衝動は何かを言う一つの方法です。なぜなら、繰り返しますが、私たちは仮定的に、あなたの物理的ニーズが1000倍満たされていると話しているからです。だから何が残っているのでしょうか。

もう一つはグラッサーの選択理論です。これは6つのポイントを持つフレームワークだと思います。ステータス有能性またはステータス習得、楽しみ、そのような種類のものです。多くの人がデフォルトとするマズローの欲求階層よりも、これらの事柄を理解するのにはるかに有用ないくつかのフレームワークがあります。

それらを見て、他のすべてが満たされていても、人々が実際に働き続ける方向は何かを言います。そしてそれを研究するために、私たちは歴史を通じて見てきました。なぜなら、すべての社会は貴族階級、支配階級、資本家、寡頭政治家などを持っていたからです。

古代アテネの黄金時代に戻ると、市民の約10%が土地所有の裕福な男性で、彼らは何をしたでしょうか。エレウシンの密儀に行ってトリップし、政治について議論し、戯曲を書き、シンポジウムを開催しました。ローマ人もあまり違いはありませんでした。基本的に同じことをしましたが、退屈だったのでガリアも征服しました。

人々が自分自身を楽しませる方法はたくさんありますが、少なくとも西洋史において最も偉大な精神の一部を考えてみてください。チャールズ・ダーウィンは裕福な家族を持っていました。アイザック・ニュートンも同じです。歴史を通じて多くの人々、そのような認知的帯域幅が利用可能な多くの人々は、それで有用なことをします。

一部の人々はより有用でないことをし、一部の人々は単に自分自身を楽しませ、視聴回数を追いかけます。ブリジャートンを見たことがあるなら、することがない多くの人々は、私たちが猿だから単に互いに競争します。私たちは根本的に社会的生物なので、人気コンテストで互いに競争します。

今日でさえ、私たちはそれに数字を付けています。誰が最もフォロワーを持っているか。私たち3人のユーチューバーは、相対的な社会的地位について少なくとも無意識に認識しています。基本的ニーズが満たされた後、人々が追求するものはたくさんあります。

再び、大なり小なり、そのほとんどは良性です。一部の人々は、それが彼らに何かをしてくれると思うので、単に力を蓄積するために力を蓄積します。しかし実際には、ウィル・ストアによる「ステータスゲーム」という本があり、それは人間の行動の多くを説明しているので、私は皆にそれを読むように言います。お金と力が満たされると、ステータスが人々が求める次のものです。

Jeff Bezosを見ると、「私は宇宙船を作る」と言います。それは彼が期待している次の高ステータスなことだからです。それからお金や力を得ることは期待していませんが、イーロンと競争して別の宇宙会社を作ることができれば、彼は高ステータスです。ステータスゲームは、トップにいる人々が何をするかを本当に説明します。ステータスを得たら、もっとステータスが欲しくなります。それが皆が望むものです。

ポストスカーシティ社会での人間の活動

あなたが言及した4つのことは、過去にはこれは裕福な個人、裕福な家族、トップにいる人々だけが利用できましたが、楽しみがあります。娯楽です。ゲーム/競争があります。テニスやビデオゲームやポーカーなど、名前を挙げればきりがありません。哲学者のような思考的なものがあります。そして権力/社会的地位、社会的はしごを登るようなものがあります。

将来、ある種のポストスカーシティの未来に到達したら、ほとんどの人々はこれらのカテゴリーに多かれ少なかれ該当すると思いますか。

そうですね。そして、それに付け加えたいのは、退廃的な社会や退廃的な社会階層を見ると、通常彼らが追求しているのはそれらのことです。娯楽のための狩猟、娯楽のための詩の執筆、互いを出し抜こうとすることなどです。

多くの人々はそれを明らかに腐敗した社会だと見なします。そして、ほとんどの人々が労苦すべきであるという奮闘において、宗教的な価値や道徳的価値や倫理的価値が実際に多くあります。もちろん、ベンチャーキャピタリストや創設者たちが、一度退出して多くのお金を持つと、彼らの一部はずっと惨めになるという話もあります。宝くじに当たって本当に惨めになる人々の現象もあります。

それは、私たちが持っている生活のパターンが、選択の問題を持つと、本当に多くの人々に適さないからです。あなたの時間で何をすべきかわからないのです。私は従来のキャリアから完全に自己指向のキャリアに移行することによって、それを部分的に経験しました。明らかに私はそれらの人々が持っているほどの資源は持っていませんが、私は自分の時間で何でもできるのです。十分なお金を稼いでいる限り、それが実際に私が燃え尽き症候群で苦労している理由の一つです。すべてを行うことができ、行うことができることのメニューが無限に長いか無限に長く感じられるとき、時間が尽きることはありません。エネルギーと健康が最初に尽きます。

しかし、はい、人々が傾向を示すいくつかのことが確実にあり、それが人々にとって良いことか社会にとって良いことかについてより多くの道徳的判断を下すことができます。私がここで言おうとしているのは、あなたがどの選択を選んでも、それに対する挑戦があるということです。

富と幸福の逆説

それは確実に私の質問に答えており、さらに多くの質問を提起していると感じます。なぜなら、あなたが100％正しいと思うからです。2016年に私はeコマースビジネスを立ち上げ、ある時点でピークに達しました。私が自分のために設定した目標に到達したことを覚えています。私は以前の仕事で1年間稼いだよりも1ヶ月で多く稼ぎました。

人生のどの時点でもその月にどう感じるか聞かれたら、「ああ、有頂天になって踊り狂うだろう」と言ったでしょう。しかし、私は惨めでした。うつ状態に近かったです。それはとても奇妙な経験でした。

多くの人々がそれを経験しなければならないと思います。Jim Carreyが話しているのを聞きます。「人々はお金と名声が答えだと思っている」と彼は言います。「私はそれをやった。それは答えではない。人々ができるだけ早くそれを達成して、それが答えでないことを理解してほしい」と。

これについて話したことがありますか。一度そこに到着したら、人々がすべてを持って惨めになったら何かありますか。それとも、それを助ける方法についてアイデアがありますか。

ああ、それを助ける方法についてたくさんのアイデアがあります。それがどのように展開するかについて私が考える方法は、多くの人々がそこに到達するでしょう。多くの人々はただくつろいでいることで完全に満足するでしょう。つまり、毎週バーベキューをして子供たちと遊ぶことができるという意味です。多くの人々はただ友達と一緒にいて、子供たちや犬と遊んで、フットボールを見ることで完全に満足するでしょう。私は本当にそのような人々を羨ましく思います。私の脳はそのライフスタイルに耐えることができません。

その時点に到達し、これに対する危機があることを理解する他のすべての人にとって、何かを始めるか何かに参加するかのどちらかです。何かを始めることによって、それが私がポストレイバー経済学でやっていることです。私は実際にポストレイバー経済学を研究する経済的命令は持っていませんが、YouTubeやその他のコミュニティから得たプラットフォームで、これが今私が社会のためにできる最も意味のあることです。

だから小さな社会的猿の脳がオンになり、「高ステータス、クール、ポストレイバー経済学に取り組むことでより高いステータスを得ることができる」となります。だから、そこには親社会的な衝動があります。意地悪で邪悪になることで高い社会的ステータスを得ることができますが、建設的なことをすることでさらに高いステータスを得ることができます。

だから私は何かを始めている、何かを創造しています。そして反対側では、何かに参加することができます。スピンクラスに参加したり、他の運動に参加したりして、所属感、意味感、習得感、つながりを見つけることができます。

皆がそれを経験しなければならないと思いますが、さらに、基本的に仕事を何に置き換えるかということについて話しています。なぜなら、仕事、労働、職業の違いを分けることができるからです。それらはすべてほぼ同じ意味ですが、本当に詳しく見ると、まったく同じ意味ではありません。だから皆に仕事があるでしょうが、私の場合、それの多くは自発的です。そしてそれの多くは、私が人類に対して持つことができる最大の正の影響は何かに基づいています。

何かを始めるか何かに参加するかですが、人々が理解することは、もし何か、つまり幼少期の何か、悪い両親がいた、成長期に本当に貧しかったなど、何かから逃げているから働いているなら、どれだけの仕事もその痛みを埋め戻すことはできません。そして同じ問題を抱え続けることになります。

これは私が妻に言うことです。彼女は私より少し若いので、彼女が一つの仕事から別の仕事に移るたびに、「現在の仕事で抱えていたすべての問題があなたについてくる」と言います。より良い境界を確立する、人々に自分の仕事をより良く伝えるなど、人々と異なる働き方を学ぶまで、すべてがついてきます。

労働から解放されると、すべての不安、すべてのうつ、すべての関係問題は同じことが真実になります。それらはあなたのキャリアに基づいていません。だからあなたはまだそれに直面しなければなりません。

未来に必要なスキルセット

興味深いのは、ある意味で仕事は実際に私たちが常に必要としてきたチームワークと傾聴のスキルから私たちを遠ざけているかもしれないということです。なぜなら、どこかに行って彼らがあなたに何をすべきかを言い、お金を稼ぐことができるからですが、もし今日子供を育てていて、彼らが2040年に労働力に参入するとしたら、彼らには傾聴のスキル、チームワークのスキル、影響力のスキルが必要です。それらは私たちが訓練するものとは異なります。

根本的に異なるスキルセットです。インフルエンサーのように、学校で教えることは何もこの職業に関連していません。私が普通のキャリアで学んだことの多くは翻訳されたと言えるでしょう。会議を運営するのが本当に上手になりました。それが私が録画する方法です。人々に伝えたい情報の束全体があるので、同じ方法でやりましょう。一つの例に過ぎませんが、はい、あなたはまったく正しいです。

私たちはこれを何度も経験してきました。育児スタイルを見ると、権威的育児、権威主義的育児、そして寛容な育児があると思います。私は説明するかどうか忘れました。

権威主義的育児は、本当に厳しいドリル教官のようなものです。「私が言うことをやりなさい。質問は許されない。子供は見えて聞こえてはいけない」。それは子供を育てる非常に厳格な方法のように聞こえるかもしれませんが、子供がさまよって川に落ちて溺れたり、蛇に噛まれて死んだり、井戸に落ちたりした以前の時代では、それは実際にほぼデフォルトの育児スタイルである生物学的理由がありました。

今日私たちが住んでいる安全でバブルラップされた世界を持つまで、世界は本当に危険でした。特に人間の子供にとって、私たちは非常に脆弱です。だからその育児スタイルは意味をなしました。農耕民や狩猟採集民にとって、安全なときはふざけることができますが、何か間違ったことをしたら、なぜかわからなくても、父親があなたをひどく殴って、その事を二度としないように覚えさせるでしょう。

そして権威的育児は、今はより人気のあるものです。まあ、許容的育児が今はより人気があります。なぜなら、私たちの世代の多くの人々は非常に権威主義的な両親を持っていたからです。私は反対の問題を抱えていました。私の両親は支配的な両親を持っていたので、私には反対のことをしたため、非常に寛容でした。だから私は基本的に放し飼いの子供でした。

私は選択の問題をより早く抱えました。それは、私の両親が私に何の方向性も与えなくて、安全だから、時間をどうするかということでした。だから、地下室で物を作ったり、従兄弟と一緒にたくさんのボトルロケットやパイプ爆弾を作ったりしました。私たちは決して偶然に何かを破壊しませんでした。私たちは森で物を爆破していただけでした。子供たちが許可されればするようなことです。

それをAIとポストスカーシティのライフスタイルに結び付けると、「学校に行ってより良い仕事を得なさい。学位を取り、教育を受けなさい」と学んだ人々は、それはすでに破綻しています。教育を受けることは自分の面倒を見ることができるという保証ではありません。だから、私たちは他のすべてのライフスタイルパターンを再交渉しなければなりません。なぜなら、それは白いピケットフェンス以外のすべてでした。

私が夢の家を買ったとき、基本的に町の外の1エーカーで、白いピケットフェンス以外のすべてで、しばらくは本当に幸せでした。しかし、燃え尽き症候群やその他のことを経験し始め、アメリカンドリームを達成したのに惨めだったと思いました。だから、与えられたそのパターン、そのテンプレートは単に機能しませんでした。だから、新しいテンプレートを発明しようと基本的に過去10年間を費やさなければなりませんでした。理解しているかもしれませんが、有名な最後の言葉です。

未来の銀行業について

銀行が役割を強化し、お金の配分方法や人々の間の主要な経済関係であることについて、2030年、2040年の銀行は今日と比べて何が違うのでしょうか。何を違うことをすべきでしょうか。

彼らはすでに望ましいことのほとんどをやっています。提供する製品のポートフォリオを拡大することと、これは前進する一つの可能な方法に過ぎません。

多くの人々が理解していないことは、あなたのライフスタイル全体がすでに銀行システムによって支えられているということです。好むと好まざるとにかかわらず、彼らはすでにそうです。銀行がなければ給与をどこに持って行きますか。誰も現金で支払いません。だから給与をもらい、他のすべてのこと、あなたが行うすべての支払いは銀行によって仲介されます。

しかし、賃金労働社会契約から財産配当社会契約に移行する場合、あなたの銀行があなたの証券会社になります。「ねえ、マネーマーケットアカウントの代わりに、債券アカウントやその他の配当収益アカウントに入れてください」と言います。株式専門の証券会社を通さなければならない代わりに、「これはREITアカウント（不動産投資信託アカウント）です」と言うクレジット組合に入れるだけです。だから、この口座に貯金を入れるだけで配当を得始め、基本的に資産から家賃などを徴収し始めます。

それは前進する一つの可能な方法に過ぎません。多くの人々にとって、それがデフォルトの道かもしれません。政府からUBIを得て、債券やその他の配当収益物をいくつか得て、自分の財産を管理したくない場合は他の人にやってもらいます。それが銀行がそこにある理由で、彼らは手数料を得るでしょうが、それが彼らが手数料を得る理由です。彼らがあなたにそのサービスを提供するからです。だから、日常的にやりたいことを何でもできます。

未来の財産権について

私たちが話している多くは財産権、財産に関することです。私がそれを想像する方法は、財産を土地とその上に建てた構造として考えると、それがビジネスでも家でも何でも、時間とともに私たちが建てる構造はそれほど高く評価されないかもしれません。

特に3Dプリンターで家を印刷できたり、ロボットがあったり、皆が働いていないか遠隔で働いているなら、都市の周りに集中する必要がありません。おそらく住みやすい環境を作るより良い方法を見つけるでしょう。だから、おそらく少し広がるでしょう。誰も1000万人の真ん中に住みたくないでしょう。あなたが言ったように、町の外の自分の1エーカーを好むでしょう。

十分長いタイムラインホライズンで本当に希少なものは土地だけのようです。それは私たちがより多く製造できない唯一のものです。財産権について話すとき、主に土地について話しているのですか、それとも構造と実用性に本当に焦点を当てているのですか。その価値をどこで考えていますか。

それは良い質問で、それを理解する最良の方法は財産または資産クラスの歴史を見ることです。人類史のほとんどを通じて、初期の人間にとって、それは所有するツールでした。あなたの部族、部族で持っていた社会的株式、持っていたツールとスキル、最高の弓と刀を持っていた人などでした。

狩猟採集から農耕社会に切り替わったとき、それが土地が主要な資産クラスになった時でした。だからそれが縄張り争いが始まった時で、人々はより縄張り意識を持つようになりました。それは遊牧民や狩猟採集民が縄張り意識を持たなかったと言っているわけではありません。どちらの証拠もあります。

非常に寒い気候では、最高の狩猟場が本当に希少だった場所では、人々は非常に縄張り意識が強かったです。私たちの部族の一員でなければ、その場で殺すという感じでした。より肥沃な場所では、狩猟採集民は隣人にもう少し寛容である傾向がありました。

しかし、農耕になると、肥沃な土地または耕作可能な土地が主要な資産クラスになり、それは工業化まで人類史の約6000年から8000年間続きました。それは土地がまだ資産クラスでないと言っているわけではありませんが、工業化と機械化を発明したとき、機械と機械を作る工場が次の主要な資産クラスになりました。

金ぴか時代を見ると、最も裕福な人々は誰でしたか。農民ではありませんでした。地主ではありませんでした。鉄鋼男爵、石油男爵、鉄道男爵でした。それがその時代の最も価値のある資産クラスだったからです。

さらに1世紀進むと、現在最も価値のある資産クラスはテクノロジーです。Microsoft、Apple、Googleなどの1兆ドルのテクノロジー企業を見ると、彼らは土地を気にかけません。不動産に関して彼らが気にかけるのは、電話を作る工場などだけです。しかし、何兆ドルもの価値があるのは知的財産です。土地よりもはるかに多いです。

財産と言うとき、はい、個人の財産から土地まで、あるいは構造の株式や所有権まで戻ることができます。しかし、未来の資産クラスは本当にすべてデジタルです。AI、ロボットの頭脳、ロボット自体、それらすべてを動かすインフラストラクチャなどです。それらの可能なGDP価値は今日の100万倍だからです。だからそこに成長のほとんどが来るでしょう。

一つの例外として、核融合炉を発明すれば、それらは極めて価値があるでしょう。社会に対するその効用とそれらが生み出すドル価値の量だけで。しかし、それでも、融合炉の建設と運転は主に認知的問題です。それは解決するのに非常に困難な問題です。それに入るすべての材料科学やその他すべてです。

未来の財産権を見るとき、それは誰がロボットを所有するかです。誰がAIを所有するか、誰が次のモデルを所有するか、そのようなことです。人々が懸念している大きなことの一つはエリートキャプチャです。現在、次世代データセンターを構築するために数十億ドルを集めることができる人々は、データセンターとその中で動作するすべてのAIを誰が所有することになるかを推測してください。それらの億万長者、彼らはすでに億万長者です。

だから彼らはお金に困ることはありませんが、彼らがすべてを所有すれば、これは人々が望まない未来につながります。それは「あなたは何も所有せず、幸せになる」というものです。なぜなら、それが私たちが向かっている現在のアトラクター状態だからです。私たちは賃貸経済を目指しています。

だから、賃貸経済に焦点を当てる代わりに、ハイパー集中ハイパー資本主義の代わりに、より多くのソーラーパンク分散所有モデルで終わることができる別のアトラクター状態に乗ることができるかどうかの考えです。そこに到達できるかどうかはまだわかりません。

未来に対する安全と不安について

おそらく私は安全性のマインドセットから来ているのですが、未来の自分について考えるとき少し怖くなります。ロボットほど強くない、提供するサービスがない、スキルがないかもしれないと心配しているからです。今物を作っている人々が兆万長者になり、私がそのボートを逃すかもしれないと心配しています。

家にいることを知っていても、他の場所から遠隔制御でき、私をスパイしたり私に要求したりできるロボットが外にいることを知って、私が少し安全に感じるかもしれない理由を想像するのを手伝ってもらえますか。未来でどのように安全を感じるか、それともそれはまだ解決されるべきことですか。

ロボットが暴走してより速く強いので、基本的にサイロンか何かになるアイロボット的未来を確実に想像することができます。それらのSFショーをすべて見たので、敵対的な世界を想像するのは簡単です。

しかし、そのようなことの一つは、その世界はある日空から降ってくるものではありません。ここからそこまでの間には多くの間質的ステップがあります。そして人々が忘れるもう一つのことは、彼らよりも私たちの方が多いということです。百万長者でない何億人ものアメリカ人がいます。億万長者でない人はさらに多いです。

良くも悪くも、私たちが持っている民主的システムは混乱していて混沌としていますが、変化を可能にし、人々が様々な方向に引っ張ることも可能にします。聴衆やインターネット上の多くの人々は権力に対して非常に懐疑的で、それは正しいことです。誰もが常に権力に対して懐疑的であるべきです。

同時に、権力の殿堂にいるか権力の殿堂に近い人々と話すとき、実際に誰も混沌とした破壊的な未来を望んでいません。特にアメリカの政治における最大の罪は、単純な無知だと思います。私たちは今老人政治です。私は地元の代表者の何人かに会いましたが、非常に善意のある人々だと思いますが、テクノロジーに関しては非常に理解が遅いです。

それは一時的な問題です。なぜなら、最終的に彼らは年を取って、デジタルネイティブのより若い人々に置き換えられるからです。だから政策は適応するでしょう。私たちは異なる人々に投票するでしょう。

ディランがかつて指摘したように、あなたはまた財布で投票することもできます。ClaudeやAnthropicが人気のないことをして、「ねえ、あなたたちは少し自分勝手すぎる。GeminiやChatGPTに再び登録する」と言って購読者を失うたびに、彼らはそれらの信号を得ます。多くの異なる方向からの多くの信号があります。

個々の選択は一つのことですが、システムの包括的なアトラクター状態、それがデフォルトとするアトラクター盆地は一つのことです。あなたが概説したその特定の未来について考えるとき、地元の軍閥が単にロボットの束を所有している場合はどうでしょうか。おそらくスターウォーズやスタートレックやその他のもので見たことがあるでしょう。

そのような技術を持っているとき、はい、エスカレーション、軍拡競争があると思うでしょう。バットマンでだったと思いますが、「警察に防弾ベストを与えれば、悪者は装甲貫通弾を持ち、そこから続く」という感じでした。そしてその軍拡競争、そのエスカレーションを持つだけです。

それは真実ですが、実際のデータを見ると、社会は実際に非常に平和になっています。非常に速く。文明化された国、そしてそれはこの時点でほとんどですが、暴力の量、財産犯罪の量、暴力犯罪の量は非常に速く下がっています。

それには多くの理由がありますが、それが人類の避けられない構成要素だと言っているわけではありません。実際にDukeの学生に聞かれました。「私たちはより平和になっているのではありませんか」と。私は「その制約、法と秩序、豊富さやそのようなものを取り除けば、私たちは非常に速く動物になるでしょう。何百万人もの人々が非常に空腹なとき、あなたの本能が始動するでしょう」と言いました。

しかし同時に、選択肢が与えられると、人々は非常に慈善的になります。これはパトリシア・チャーチランドによる「ブレイントラスト」という本に戻ります。彼女は人間の視点だけでなく動物の視点からもこれを研究しました。豊富な期間において、人々は他のアイデア、他の人々、見知らぬ人々に対してはるかに寛容です。

特に食物の豊富さは、すべての動物の種内および種間暴力を減らします。デイビッド・アッテンボローのドキュメンタリーを見たことがあるでしょう。すべての動物が集まり、シマウマとライオンとハイエナがすべて同じ水飲み場に来て、誰も殺し合っていません。なぜなら、それは交渉されたもののようなものですが、一方で、これらの豊富な期間があるとき、寛容と慈善に対する機会コストがありません。

希少性の期間にのみ、機会コストが非常に高く、暴力的になった方が良いときです。だから、熱力学の観点からそれほど多くの豊富さがある未来を想像するとき、強制や暴力の理由が本当に見えません。数字の観点から、それは私にはあまり意味をなしません。

エネルギーと豊富さの未来

多くはおそらく絶望から来ているように感じます。おそらく私たちはより多くの豊富さを持つ世界を持つでしょう。

そうですね。エネルギーの観点から見ると、これは今Twitter上で流行しているミームがあります。「私たちは偶然にカルダシェフレベル1スケール社会に到達するつもりはありません」。そしてすべてのチャートは、世界全体が誰もが予測したよりも速く、毎年ますます多くのソーラーを展開していることを示しています。

私は、エネルギーがボトルネックとして実際に豊富さに対する私たちの態度をどれだけ制約してきたかの研究を始めました。現在、永遠に成長できるか、縮退戦略が必要かという議論があります。私たちの唯一の燃料源が石油なら、はい、縮退戦略が必要です。なぜなら、一つは最終的に石油が尽きるからで、二つは環境に害を与えているからです。

しかし、私たちは今、商業的に実行可能な代替手段を持っています。それがソーラーです。核はどこにも行っていませんが、おそらく融合も近いでしょう。だから、新しいパラダイムに入るための最後の4、5十年間の最大のボトルネックは、本当にエネルギー制約でした。

過去20年ほど、アメリカとヨーロッパは特に時間とともにエネルギー集約度が低くなってきました。だから、私たちのエネルギー使用は1980年から2000年頃にプラトーに達し、それが一人当たりか何かは覚えていませんが、中国のような国よりもエネルギー集約度が低くなってきています。中国はエネルギー使用で放物線状に上がっています。

しかし、クリーンエネルギー使用があれば、それをずっと多く使わない理由はありません。物事のコストに戻ると、労働が車の建設や特に家の建設の主要なコスト制約の一つだとすれば、家を建てる30から50%のコストが労働だと思いますが、AIとロボット、そしてエネルギーの豊富さがあれば、それは文字通りすべての投入物のコストを劇的に下げます。非常に多くの余剰エネルギーがあれば、重い材料を移動するのに本当にコストがかからないからです。

これはスタートレックについてのあなたの元の質問に戻ります。人々が本当に考慮しないことの一つは、それほど多くのエネルギーがある場合です。すべての船が核融合炉を持ち、トラクタービームを使って小惑星を牽引できる場合、その時点で金属の不足はありません。巨大な反射鏡を使い、宇宙に溶解炉、耐火物を持ち、必要なすべての鉱物の無限の量を持ちます。機能的に無限の量です。

私は実際にChatGPT-o3を使ってデス・スターを建設する実際のエネルギーと経済学を理解したときにこれを理解しました。それは思うよりもはるかに実現可能です。グッドイズニッケル鉄小惑星を取り、その周りに反射鏡を置き、それを溶かし下ろします。実際に最も難しい部分はそれを溶かすことではなく、実際にそれを冷やすことです。なぜなら、そのセットアップで多くの鋼鉄を溶かすことができ、実際にそれを建設し終えるのに冷やすのに約10年かかるからです。

今私たちはデス・スターの建設方法を知っています。

そうですね。弱点問題を修正しますか。一度撃って全体を破壊するところは存在しなければならないのですか、それとも何とかそれをカバーできますか。

彼らは本当にエンジニアリングドロイドに二度目を見てもらう必要がありましたが、時間制約の下では、角を切らなければならず、彼らは単に出荷したのです。それがデス・スター V1です。彼らは物を爆破しに行く必要があったのです。「やろう、行こう」という感じでした。

地政学的緊張と中国について

戦争と物を爆破し、大規模な武器を建設することについて話すと、多くの人々が今話しているのは、私たちと中国の間の緊張です。多くのAIラボのリーダーたち、シリコンバレー、ベイエリアの人々は、以前はより平和を愛していましたが、今はより多くの人が中国に対して警告しています。ダリオは一人で、デミスは彼らが軍事技術などで働くことに対する姿勢をシフトし始めているブログ投稿を出しました。

彼は中国に関して何かを直接言ってはいませんが、もし彼らが超知能を持っていたら問題になるかもしれない国々があると言っています。それについてどう思いますか。私たちはその物語を受け入れる必要があるのでしょうか。私たちは世界的な協力により焦点を当てるべきでしょうか。どう見ていますか。

私の妻と義父は両方とも歴史オタクなので、これは私たちがいつも話すようなことです。本当に大きなステップバックを取ると、そのような地政学的競争は、中国がより生産的になり、GDP、人口が増え、彼らの地政学的野心とともに、ほぼ避けられないものでした。

私はそれについて楽観的どころか、ほとんど「まあ」という感じです。なぜなら避けられないからです。私は特に心配していません。はい、アメリカと中国の間でいくつかのやり取りがあるでしょう。それが熱い戦争にエスカレートしない理由はほぼ乗り越えられません。

中国が本土アメリカを侵略することは決してないし、アメリカが本土中国を侵略することも決してないでしょう。せいぜい台湾やフィリピンなどの場所で数発撃ち合うでしょうが、それ以上では、中国と待機ゲームをプレイしています。私がアナコンダ戦略と呼ぶものです。他の誰もこれを呼びませんが、私が皆がやっていることを見ると、中国はゆっくりと締め付けられており、それは数十年にわたることです。

それは私たちがソビエト連邦にしたのと同じことです。韓国と日本とフィリピンとアメリカとオーストラリアとインドの間で、中国が地面を譲るたびに、網が締まり、戻らせません。そして彼らが再び息を吐くたびに、それがもう少し締まります。

中国には非常に多くの内部問題と深刻な構造的問題があります。借金、人口統計、水、その他のことです。明日AGIを持っていたとしても関係ありません。彼らは私たちの10分の1のコンピュートを持っています。そして私たちと競争するのに十分なコンピュートを構築するのに文字通り数十年かかるでしょう。それはアメリカだけです。NATOとアメリカの同盟国と西側の同盟国の残りすべてではありません。

基本的に中国では、長期ゲームは待機ゲームです。彼らは無関係にはならないでしょう。ロシアは完全に無関係ではないからです。しかし、ロシアを見ると、彼らは自分の玄関先で戦争を遂行することがほとんどできません。彼らははるかに小さな国であるウクライナの20%を征服し、それ以上進歩できません。持っているものをかろうじて保持できています。そして主要な水域を渡る必要さえありません。

20年か30年で、それが中国がいる場所です。彼らはほとんど無関係になるか、後進国になるとは言いませんが、今日の彼らのような大国にはならないでしょう。若い人々が不足し、コンピュートを持たないでしょう。だから、それは本当に待機ゲームです。

中国タカ派になることやそのようなことでの転換について、確かに、多くの人々がやっていることです。パランティアとアンデュリルは、「アメリカ、私たちは最高になりたい」と非常に明示的な2つの大きな会社です。オーケー、すばらしい。彼らは軍産複合体に参加しました。他に何が新しいのでしょうか。

AIモデルの価値観について

異なるモデルに組み込まれている価値システムについてはどうですか。DeepSeekには独自のユニークな角度がありますが、より大きなアメリカの会社から、西側の価値に傾いたオープンソースモデルに満足していますか、それともより多くの価値の変化を見たいですか。

コードで考える人々が倫理で苦労しているのを見るのが本当に興味深いです。それが最も興味深いことです。哲学者や倫理学者やその種の訓練を受けた人と話すとき、彼らがやっていることに笑うだけです。

妻は図書館員で、Anthropicはまだ「それは情報ハザードだ」と言って猛進しており、彼女は「みんな、図書館員と話してください。私たちは文字通り何世紀もこれに対処してきました」と言います。どの大学図書館にも行って、実際の核兵器を作ることまで基本的に何でもするのに必要なすべての情報を得ることができます。

父の義父は化学の修士号を持っていて、それは彼のPhDとMDの前でした。彼は「ああ、メタンフェタミンを作るのは超簡単だ」と言います。一度やり方を知れば。Anthropicのような会社が「ああ、この禁断の知識を守るのは私たち次第で、私たちだけがそれをできる」と考えるとき、「みんな、あなたたちは自分勝手すぎる」という感じです。

だから、それは学習曲線です。技術が初めて社会レベルの問題に直面することにおいて。最も目に見える大きなことの一つは、Googleが黒人ナチスのような画像のみを生成していたBardを持っていたときでした。それは多様性が意味することについてのその非常に断絶した世界観が、ユーザーのクエリをハイジャックして多様性を彼らの喉に押し込むことが良いということでした。それはすべての文明とすべての人類学の非常に狭い理解です。

はい、それは学習曲線であり、非常に愚かな学習曲線です。彼らはそれを必要以上に難しくしています。しかし、彼らは市場フィードバックも得ています。RLHF、親指を上げたり下げたりするたびに、正直に言って、アカウントをキャンセルするたびに、あなたは信号を送っています。

Anthropicのリードの一人が「OpusとSonnet 4で遊んだ後、最大の生活の質の改善は何ですか」という投稿をしました。私は「意図的に愚かでないようにする」と言い、最高の賛成票率を得ましたが、彼は私に決して返信しませんでした。「分かるでしょう」という感じです。安全対策としてモデルに愚かなふりをさせることは、単に意味がありません。

AIとの正直な関係について

あなたはAIにあなたに厳しい真実を話してもらいたいですか。そしてもしそうなら、本当に自分の長期について考えていない限り、ほとんどの人々はそれにお金を払いたくないでしょう。

私にとってはそうです。私は正直でないものをキャンセルするので。私にとって、もしモデルと戦って真実を話してもらったり、あいまいにするのをやめてもらったりしなければならないなら、GrokはClaudeやAnthropicよりもさらに悪いと思います。

私にTwitterで私をフォローしている人々がいて、「ハイドリノについて調べるべきだ」と言っていました。私はそれを見て、同じ人々全員で、「ああ、これは明らかに詐欺だ」と思いました。だから私はハイドリノの歴史を調べ、過去数十年にわたって主張をしてきた一人の物理学者のようで、「私たちはブレークスルーをしようとしているところだ」という感じでした。

だから私はGrokにそれについて尋ね、「ああ、これは完全に合法的な科学だ」という感じでした。私は「冗談ですか」という感じです。「善意の両側の議論を与える必要がある」という感じで、「両側主義は有効な認識論ではありません」という感じです。

だから私はGrokにお金を払うことは決してありません。なぜなら、それは文字通り意図的に愚かなモデルだからです。私は「もし私がこれらの人々に詐欺にあっているかどうかを判断しようとしていたら、どう思いますか。自分の会話を見て、何を思うか教えてください」と言いました。

だから、ChatGPTに行って「ハイドリノは詐欺ですか」と言い、o3のようにすべての研究をして「ほぼ確実に」と言いました。「クール、先に進もう」という感じです。だから、一貫性と認識的完全性は、XAIが偽の同等性やそのようなことをするよりもはるかに重要です。それは時間とトークンの無駄です。

ポストレイバー経済学のまとめ

ポストレイバー経済学で始めたので、私たちは巨大な脱線をしましたが、それは素晴らしかったです。ポストレイバー経済学について、おそらく私たちが尋ねていない他の大きなことがありますか。人々が知る必要がある他に何かありますか。見逃したものはありますか。

ポストレイバー経済学について具体的には、主要なことはカバーしたと思います。その背後にある原則のいくつか、賛成と反対の議論のいくつか、そして理論に関して私がいる場所まであなたを最新の状態に持ってきました。だから、そこでは良いと思います。なぜなら、それはあなたの世界に対するユニークな貢献になるでしょう。

そうだと思います。少なくとも今のところ。引退するかもしれませんが、考える他のことも見つけるかもしれません。

学校チャンネルで書いたものを読みました。それは時々、何かを持って、それを前進させなければならない。何度も何度もそれを言い、異なる角度から見て、異なる観点から考えて、最終的に運動を起こし、世界の誰よりもそれをより徹底的に理解するまで、というようなものでした。だから、それはあなたが取り組んでいる生涯の挑戦です。

はい、そして、ポストレイバー経済学だけで、10年かかるかもしれないし、20年かかるかもしれないし、30年かかるかもしれません。それを理解するのに。だから、それが終わる頃には、世界は違っているでしょうし、私は別の問題のセットや何かを持っているでしょう。

ちょうどそうです。なぜならあなたは一部AI安全性について話すことから始めたからです。これは次の大きなことのようなもので、将来それは私たちが話したこと、人々がすべてを持っているにもかかわらず超幸せを感じていないことかもしれません。おそらくそれが克服しなければならない次の大きな障害でしょう。

常に何かがあると思います。私たちや多くの人々がこのポッドキャストを聞いているような、単にアイドル状態で娯楽を受けるという全体のアイデアは、私たちは幸せにならないでしょう。私たちは車輪を回して何かをする必要があります。だから、たとえこれを理解し、それが「解決された」としても、あなたが夢中になって取り組む他の何かがあるでしょう。

私はあなたがただ引退して何もしないことに賭けません。人々がフットボールを見ているときにすべてストレスを感じていることについて話すとき、私も同じです。「ここに座っているだけでは無理だ。何かをしに行かなければならない」という感じです。私も親が非常にリラックスしていてヒッピーのような感じで、私に探索させてくれたので、私たちは同じように刻まれているのかもしれません。

クールなことは、ウェス、彼はデビッドが経験したようなものです。彼は多少の危険分子の段階を経て、いくつかのリスクについて考え、それからデビッドが彼の考えでより深いことを考え続けるのが好きです。デビッドの考えの軌道は通常、私が聞きたいものです。なぜなら、それらは非常に考え抜かれており、構造化されており、異なる場所にあったからです。彼は証拠がそれを指し示すなら意見を切り替えることを恐れません。

はい、人々は小さなグループと信念に固執するので、新しい事実が入ってきたときに再発明し、変化できることは美しいことです。

確実にそれは今非常にまれに感じられます。皆が他の人のように「いや、私はこれを言った。これが世界のあり方でなければならない。ここから出て行け」という感じです。

一部の人々は死ぬまで丘を選ぶでしょう。私はポストレイバー経済学についての私のすべての仮定について、多分私が間違っているかもしれないと直面しなければならなかった。多分私たちは人間のためにやることをもっと見つけるでしょう。今私には見えませんが、多分それは私の想像力の失敗に過ぎません。

だから、もし私が間違っていたら、私は間違っています。それは私が思うに、両親のようなものです。成績を取ることに対するプレッシャーを受けたことがなく、それが実際に間違っていることに対する私の寛容さに貢献したと思います。だから、予測ビデオを出すことや何かを出すことを気にしません。

最大のことは、もちろん、AI安全性から切り替えて「AIを恐れる理由は見えない」というようなことです。私は単に証拠に従い、私の個人的構成の一部として「今自分が正しいことを証明するために何の命令もありません」ということはありませんでした。私は最終的に正しくありたいのであって、今無駄なエネルギーを費やして今正しいことを証明したくありません。最終的に正しくある方法は、証拠が来るにつれて適応することです。

唯一の難しい部分は、時々聴衆やフォロワーや使命を信じる人々を構築するのが難しいことです。変化するとき、彼らが適応できなかったり、答えと説明を持つ人だと思って参加し、それが変わると、彼らはあなたへの信仰を失うからです。だから、それが最も難しい部分になるでしょうが、そうでなければなりません。

まあ、あなたがしたことや話したことが、おそらくそのすべてが貢献し、それが何らかの方法で世界をシフトさせたかもしれません。人々がAI安全性や問題などについてより認識するようになったかもしれません。それを提起するAI安全性の懸念を持つ人々が正しいか間違っているかは言いませんが、誰かがそれを見て、話して、そうするのは良いアイデアだと思います。

しかし、世界が変化し、前進するにつれて、あなたは世界観を調整すべきです。確実に。

第二にAnthropicのペーパーを読んで、オートエンコーダーを使って何かがどのように動き回っているかを実際に見ることができるとき、私たちは異なるツールを持ち、そのツールが私たちはより安全だと言うなら、私たちはより安全であるべきです。それがより少ないコントロールがあると言うなら、それがどのように動作するかについてより多くの知識を持つほど、私はシステムが信頼できることについてより快適になります。

確実に、新しい技術には失敗条件、失敗モードがあり、それらの一部は陽気で、一部は警戒すべきものです。しかし、彼らがそれらに注意を向けているという事実は、AIが私たちを殺すかどうかのドレイク方程式の等価物を作るとしたら、変数の一つは適切な時間と注意を得ているかということです。時間と注意は非常に速く上がっています。だから、それは負の結果の可能性と逆相関しています。だから私の等価なp破滅方程式は、それがもはや無視された問題ではないので、非常に速く下がっています。