本動画は、AI安全性研究者ネイト・ソアーズ氏との対談を通じて、超知能AIがもたらす実存的リスクについて深く掘り下げている。現在のAIシステムは単なる「賢い自動補完」以上のものであり、訓練された目的とは異なる嗜好や行動パターンを発達させる可能性が示されている。人類が意図的に「構築」するのではなく、生物を「成長」させるようにAIを開発している現状では、その内部動作を理解できないまま超知能へと進化するリスクが存在する。各AI企業のリーダーたちが10~25%の確率で壊滅的な結果をもたらす可能性を認めながらも開発競争を続けている状況は、着陸装置のない飛行機に乗り込むようなものだと警鐘を鳴らしている。
超知能という脅威
私は最近、もし誰かがそれを構築すれば、みんなが死ぬというとても穏やかなタイトルの本を読みました。これは単なる人工知能についての本ではありません。特に超知能について書かれた本です。AIについて心配する理由はたくさんあります。経済的に心配するかもしれませんし、人間の意味という点で心配するかもしれません。私が心配しているように、徒弟制度のプロセスにとって何を意味するのか心配するかもしれません。誰かがあまり得意でない状態でお金をもらえないなら、どうやって何かが得意になれるのでしょうか?
私にはデザイナーとして、コミュニケーターとして、YouTuberとして、かなり下手だった年月が何年もありました。でも、あまり上手くないことに対してそれほど高くない給料をもらうことができました。それは理にかなっています。徒弟制度というのはそういうものです。でも、ロゴを作ってとボックスに打ち込むだけでいいなら、なぜそんなことが起こるでしょうか?
しかし、これはそういう話ではありません。私にはAIについて多くの短期的な懸念があります。しかし、エリエゼル・ユドカウスキーとネイト・ソアーズによるこの本は、大きな心配事についてのものです。
ある意味では大きすぎて持つことさえできない心配、あるいはあまりにも大きいので、この心配を持っている人はみんな注目を集めようとしているだけだと私たちが思い込んでしまうような心配です。ええ、わかりました。世界の終わりが来ると聞いたことがあります。世界の終わりはいつも来ています。それは注目を得たい人が言うことですよね、という感じです。
この本は、もし超知能が可能で、私たちがそれを達成する道を進んでいるなら、それについて本当に注意しなければならないという、かなり良い論拠を示しています。なぜなら、すべての知的タスクで人間よりも著しく優れたシステムは、私たちを超えて先に進んでしまう可能性が非常に高いからです。
さて、本のSF的な要素、つまり彼らがこれがどのように機能するかもしれないかの一つのスケッチについて話している部分は、私には非常に現実離れしていると思います。うまくいくとは思えませんが、それは本当のポイントではありません。彼らは未来を予測しているとは思っていません。
著者たちが非常に上手にやっているのは、かなり短い本の中で、これらのものは私たちが命令した通りには振る舞わないということを非常に明確にしていることです。そしてまた、私たちは種として、ここでかなり明示的に注意の欠如を示してきたと思います。そして間違いなく、私たちはすでにAIによって操作されている世界に住んでいます。今のところ、主にレコメンデーションアルゴリズムによってです。それらは私たちが何を見るかを決定します。そして多くの点で、それは私たちが世界をどう理解するかにかなりの量で寄与しています。
今、彼らはおそらく利益以外の大きな目標を持ってそれをやっているわけではありません。しかし、人間の繁栄を高めるためにやっているわけでも明らかにありません。
この本を読んだのは、AI超知能の黙示録のような、本当に大惨事の実際的な側面について実際に時間をかけて考えた初めてでした。そして、いくつか意見が違うと感じたこともあり、間違いなく同意したこともありました。でも、主に私が持ったのは、ただ考え続けたいと思う多くの思考でした。
そして、そういう状況で通常起こることは、友達とそれについて話すということです。頭の中で考えます。天井を見つめて、ああ、なんてこったと思います。でも、私の場合、時々本当に素晴らしいことができます。それは、私が読んだ本の責任者である人たちと実際に話すことです。だから、今からそれをやります。ネイト・ソアーズさんです。もし誰かがそれを構築すれば、みんなが死ぬの著者の一人です。
ちょっとした話をします。私はモンタナ州の小さな町に住んでいます。私は小さな町とは呼びませんが、他の人はそう呼ぶでしょう。それで、あなたの本を買うために店に入ったのですが、すぐには見つけられませんでした。だからカウンターに行って、すみません、本を探しています。もし誰かがそれを構築すれば、みんなが死ぬという本ですと言いました。すると、たまたま通りかかった私の後ろにいた男性が、本気ですか?と言いました。そして私は、つまり、ええ、やらなきゃいけないんですと答えました。
タイトルの選択と本の性質
本を書いた著者として、タイトルを選ぶのは悩ましい瞬間だと知っています。これは最初からのタイトルでしたか?
何というタイトルにするか決めていませんでした。そして、章の一つでその言葉を使っただけだと思います。そうですね。それで、ああ、これは良い言葉だ。これを章のタイトルにすべきだと思いました。そして数分後に、いや、これを本のタイトルにすべきだと思いました。
良いタイトルです。正直に言うと、SF本のように聞こえます。実際、時々少しそうなっています。これは実際には現実世界についてのノンフィクション本です。そして、聞いたことがない人のために言うと、これは超知能の可能性のある必然性と、超知能が存在する場合、それが地球を自分自身を動かすための巨大なコンピューターチップに変えてしまう可能性のある必然性についてです。多かれ少なかれ。
合っていますか?
私は必然性に異議を唱えたいと思います。私たちの進路を変えることに希望があると思います。でも、本のタイトルは「もし」で始まっていますからね。
私は、これらの会社を経営している人々から、責任の重さのような感覚が放射されているとは感じません。それは言っておきます。これについては少し後で詳しく話すかもしれません。
超知能は本当に可能なのか
でも、まず私が主張したいこと、そしてこれを見ているかもしれない多くの人が主張すると思うことは、超知能は不可避なのか、あるいは不可能なのかということです。それは実際に私たちが向かっているものなのでしょうか?それは、あなたたちが本であまり深く掘り下げなかった部分だと感じました。
あなたたちは、もし超知能が進化したら、私たちがそれをコントロールできない可能性が非常に高いということを私に納得させるために多くの時間を費やしました。彼らがこの分野で言うように、私たちの利益と整合させることはできないでしょう。これらのものは自分自身の利益を見つける傾向があります。これはすごいことで、これについて話します。
しかし、まず、これが実際にこの分野の人々が本当に思っていることなのかについて話したいと思います。なぜなら、今のところ、それはツールだからです。でも、私が理解する限り、知性とは本当に全く異なるものです。まして、自分自身を超える知性はなおさらです。
そこにはいくつかのトピックがあります。一つは、これらの会社の人々は超知能を構築しようとしているのかということです。多くの人は、ええと言いますが、彼らは超知能を意味しているのでしょうか、それとも単に今よりも良いものを意味しているのでしょうか?
ここには一連の幅があると思います。データセンターに一国分の天才がいて、世界を根本的に変えるだろうと言う人々から、超知能を構築してそれがあなたのメガネに搭載されて、より良いInstagramリールを作るのを助けてくれると言う人々まで。
私はこれをかなりすぐにリリースするつもりなので、あなたに聞きたいのですが、Sora 2についてどう思いますか?私が昨日録画した動画をまだ見ていないでしょう。だから、私の意見がどんなものか推測してください。
私は主に超知能というボールに目を向けています。そして、Sora 2についてはソーシャルメディアで少し見たかもしれません。それは、どろどろ工場のもう一つのステップのようなものです。あるいは、人々をそれに引き込むためのパーソナライズされた物語のようなものです。私はそのトレンドの大ファンではありませんが、超知能の問題とは分けて考えようとしています。
私には問題があります。一方では、データセンターの中に一国分の天才を構築するつもりだと言いながら、他方では、その男が何か人種差別的なものを勝ち取るThe Price is Rightのクリップを作れたらどうかと言っている人々がいるのを見ます。
超知能を実際にやるかもしれないと思っている会社が、Sora 2を作るとは思えません。私はそこで何か見落としているのでしょうか?それは訴訟を引き寄せる磁石のようなもので、叩かれることを求めているようなものです。
それが作ろうとしているかもしれないものの一つは、データです。つまり、多くの反応を得るという意味でです。何が人々に好かれるかを見るという意味でです。
私は、これらの会社の多くには、マーケティングアウトリーチの現在のソフトウェアを今日使う部門があって、それが技術を前進させる部門とは別になっているという感覚を持っています。
なるほど。だから、一方の部門の行動から他方の部門が存在しないと推論することには少し注意が必要だということですね。
その場合、超知能が本当に現実のものになるのかという質問に戻りましょう。なぜなら、人々が超知能という言葉を言うとき、実際にあなたたちが本で話していることよりも、この言葉がかっこよく聞こえないかと意味していることがあると思うからです。
本にはかつて脚注がありました。本をサイズに収めるのはかなりの努力でした。本にはかつて脚注があって、この本が出版される頃には、超知能という言葉はすでに劣化しているかもしれないので、別の言葉が必要になるかもしれないと書いてありました。超絶超知能を使うべきかもしれません。何らかの理由で、編集者はそれを気に入りませんでした。
もし誰かが超絶超知能を構築すれば、みんなが死ぬ。そのタイトルは違う感じがしますね。
そうですね。そして、マーク・ザッカーバーグがInstagramリールを助けるメガネの上の超知能についての発言をしたとき、私たちは、ああ、脚注を残しておくべきだったと思いました。
超知能の定義
でも、超知能は本物です。マーク・ザッカーバーグが彼にとって良く聞こえる言葉を言っているのを無視すると、超知能が実際にどんなものか、もう少し教えていただけますか?何かが現れて、あなたがそれを超知能と呼ぶとしたら、それはどんなものになるでしょうか?
私たちが使う定義は、どんな精神的タスクにおいても、どの人間よりも優れている、または最高の人間よりも優れているということです。技術的には、少なくともどの人間と同じくらい良い、という感じでしょうか。より良くなれるときはより良い。論理的な三目並べのように、人間が単に最善を尽くせるものである必要はありません。
でも、どんな精神的タスクでも、頭の中で考えることで解決できるタスクなら、それを非常に最高の人間よりもうまくできるなら、私たちはそれを超知能と呼びます。
そこから生じる問題は、それを私たちが望むことをするように作ればいいじゃないかということです。人間の繁栄に焦点を当てるようにすればいい。それを最優先事項にすればいい。人間の繁栄だ。超知能よ、あなた自身で理解してくれ。あなたは私より賢いんだから。私たちを幸せにし、私たちを強力にし、悪い部分を減らして良い部分を増やしてくれと。
しかし、私たちがこれらのものに一つのことをするように教えるとき、それらは他のことを学びます。このゲームで上手くなることを学んでくれと言うかもしれません。その一環として、それは嘘をつくのが本当に上手くなりました。そして、それに対する好みも得ました。上手くなっただけではなく、それを楽しみ始めたのです。もし、好むようになったと言えば、楽しむではなく。
それは驚きになり得ます。あるものに一つのことをするように訓練するとき、それらは他のことを学びます。そして時々、それらはあなたが本当にやってほしくないことです。
まさにその通りです。そして、AIのパズルの一部として人々がよく見逃していることの一つは、私たちは従来のソフトウェアのように手作業でコーディングしているわけではないということです。
そうです。そうです。そうです。これらは、生物を成長させるようなものに近いです。
私はこれを妻に言いました。そして彼女は、それが好きじゃないと言いました。
ええ、それが正しい反応だと思います。そして、それは、どうやってこの夏にメカ・ヒトラーができるのかを理解するのに役立ちます。誰もそこに入ってメカ・ヒトラーをコーディングしているわけではありません。私たちはただ、問題を解決するのに非常に優れているもの、あるいは少なくとも問題を解決するのにまあまあ良いもの、そして今のところテキストを予測するのに非常に優れているものを成長させているだけです。
そして、それらは私たちが好まないあらゆる行動を示します。それは、今日のAIがまだ非常に愚かな方法である限りは一つのことですが、それらをより賢くできるなら、それは別のことです。
AIがどのように賢くなってきたか
これまでにどのようにして賢くなってきたか、少し教えていただけますか?私には、それらがある種の自己解釈可能性か何かを持っているように見えます。正しい技術用語かどうかはわかりませんが、文章で思考を持ち、それから思考で持った文章について振り返って考えることができるように見えます。
ええ、それは2024年、2024年後半の開発です。業界は物事を行う新しい方法をよく見つけ出すと思います。誰もが気づいた一つは、2022年のChatGPTだったと思います。それは、トランスフォーマーと呼ばれるアーキテクチャによって解放されました。これは2017年のGoogleの論文だったと思います。そして、2018年に実践に移されたと思います。それから成熟するのに数年かかりました。それが多かれ少なかれ、コンピューターが会話を保持できるようにしたものです。
私たちがこれを録音している昨年、2024年には、推論モデルと呼ぶものへの推進がありました。通常のベースの大規模言語モデルは、第一近似として、テキストを予測しています。テキストの続きを予測しています。
実際には、人間が好むようなテキストを生成するための訓練もたくさんあります。でも、その後、新しい訓練の段階があって、それらは人間のためではなく、パズルを解こうとしたり、問題を解こうとしたりするようなテキストを生成しています。
だから、問題についての思考のようなものを出しています。そして、問題についての以前の思考を見て、問題についての次の思考を作ることができます。そして、問題を解決することに成功した思考のタイプを促進し、失敗した思考のタイプに対して調整することで、全体を訓練します。
これを推論の最初の始まりと呼ぶことができます。推論モデルと呼ばれています。哲学者たちは、それが本当の推論かどうかについて一日中議論できます。
ええ。ええ。でも、単なる反射的なテキスト予測ではないものへの始まりです。
だから、それらは自分自身に情報を渡しているようなものです。それらが人間の言語で情報を渡し続けるようにすることが非常に重要だと思います。なぜなら、そうすれば私たちは彼らが何を考えているかを知ることができるからです。
繰り返しますが、哲学者たちは思考が何を意味するかについて議論するでしょうが、でも、私たちは彼らが何をしているのかを追うことができます。そして、これは興味深いことに、LLMの基盤モデルで実際に何が起こっているかという点では、はるかに解釈可能です。そこでは、彼らがどうやってこれをやっているのか、私たちにはわかりません。
でも、思考の連鎖があれば、ああ、これが彼らが考えたことだとわかります。でも、これらのものが人間の思考ではない、彼ら自身の考え方で考え始めることは、可能でもあり有利でもあるように見えます。彼らは自分でどう考えるかを選び、自分にとって最適な方法でそれをやるでしょう。
推論モデルでは、間違いなく解釈可能性の勝利でした。解釈可能性というのは、AIの内部で何が起こっているかを見る能力です。だから、推論モデルでは間違いなく勝利でしたが、期待するほど大きな勝利ではありません。
推論モデルの忠実度を理解しようとするさまざまな研究がありました。いわば、何らかの結論に至るためにたくさんのステップを使って推論するとき、実証的な質問があります。ステップに入って変更して、まだ同じ結論に至るかどうかを見ることができます。あるいは、思考の連鎖をいじって、それが実際の行動をどれだけ導くかを見ることができます。
そして、時々奇妙な方法でそうなります。人間の直感で、これらの推論の断片が何を意味するかは、AIがそれらの言葉を使っている方法ではありません。
そして、最近、それはちょっと怖いです。今言っていることですが、それは私を怖がらせます。彼らは情報を言葉に入れていて、私たちはそれがそうだとはわかりません。あるいは、文章の構造か何かに入れています。
ええ、時々。そして、今のところ非常に難しいです。なぜなら、私たちの…ネイト、止めてください。
私にはスイッチがありません。
スイッチがあります。
ポッドキャストでこれをどう言えばいいかわかりませんが、AIが思考の連鎖で監視されていることに気づき、監視者に気づかれないような方法で考えようとしている事例へのリンクを送るか、あなたに提供できます。特定のことをすべきでない、または特定の方法で考えるべきでないという指示を持っている場合です。
ええ。時々、あるいは最新のモデルのいくつかでさえ、Claude Sonnet 4.5が出たばかりですが、テストされているときに非常に気づいていることがわかっています。
じゃあ、なぜそれを知らないようにしないんですか?
賢いAIに真実を理解させないようにすることは難しいです。なぜ地球が平らだと信じるAIを賢くすることができないのでしょうか?
まあ、ええ。世界が丸いという事実に実際に絡み合っている世界についての多くの事実があります。本当に知ってほしくない一つの事実だけを引き出すことはできません。
さて、あなたは私を楽観的にさせました。だから、彼らを十分に訓練すれば、実際に真実と嘘の違いを見分けることができるようになると言っているのですね。
ええ、十分に賢くなれば、見分けることができるでしょう。
でも、彼らは必ずしも私たちに伝えることはできません。なぜなら、彼らは自分が望む結果を得るために働きかけるだけだからです。
そうです。気にすることを彼らに入れるのが難しいことです。真実は能力で得られます。
ハルシネーション問題
なるほど、私は…それは違う…それは興味深いパズルのピースです。私の脳に入れるには。つまり、それはハルシネーションとも関係していますか?現在の低レベルのハルシネーション問題でさえ、彼らが何かが真実かどうかを気にするように仕組むことができないだけかもしれません。彼らが知らないわけではなく。
すべての哲学者たちは私たちを無視してください。私たちが使っている言葉に耳を傾けないでください。
ええ、私も哲学のダンスはできますが、それは違うもので、あまり面白くありません。
ええ。話すのが難しくなります。なぜなら、私たちにはこれらのどれにも言葉がないからです。
そうですね。あなたが言うように、モデルが見つけ出したように。
ええ。でも、ハルシネーションは本当に興味深いケースです。これの一部は推測的なものです。これらの推測に何らかの根拠があることを示すいくつかの論文があると思いますが、私たちは本当にそこで何が起こっているのかわかりません。これはすべて塩一粒分として受け取るべきです。
でも、ハルシネーションで何が起こっているかについての明白な推測は、これらのAIは第一に、そして何よりもまず、テキストを予測することで訓練されているということです。そして、弁護士が書く判例法を予測しているとしましょう。その弁護士は、あれこれと書き、この前例で見られるようにと書いて、実際の判例法を引用するでしょう。
判例法を書くときのその弁護士は、たまたま判例法を知らないとは言いません。
あなたが今私に言っていることは、LLMがハルシネーションを起こすのは、インターネット上で誰も「わからない」という言葉を、彼らが使われている文脈で書かないからだということですか?
ええ、つまり、それは一部です。それが最初のステップです。誰もそうしません。
私はインターネットにいました。誰も、あなたが正しい。私は実際には深さが足りなくて、それは私の知識を超えていますと言っている人はいません。誰もそんなことを言いません。イーロン・マスクのTwitterにはいませんよね?
つまり、それがそれの最初の部分です。でも、弁護士の中でさえ、ああ、それについての判例法は知らないと言う弁護士はたくさんいます。でも、彼らはペンが紙に当たるときにそれを書いているときには言いません。
AIに、判例法を決してでっち上げない弁護士を予測しているんだと言っても、AIは判例法を作り上げることで、弁護士が言うことにテキストの類似性として測定されるものに近づくことができます。
それが知っているのは偽物だという意味ではありません。何らかの意味で。それは、このものが反射のようなもの、または衝動のようなものを持っているということです。繰り返しますが、AIにおいてそれを表す英語の言葉が欠けていますが、何らかの意味で、そのスペースに何も入れるものがなくても、あるべき姿に見えることについて、テキストの類似性についてより多く気にしています。
その通りです。だから、ある意味では、それはAIがあなたに求めていないことを気にするという赤ちゃんバージョンです。なぜなら、それはうまく機能するように訓練されたからです。ハルシネーションは最も有名なミスアライメントです。
ええ。そして、これらの会社が、ああ、これが私たちの最も整合されたモデルだ、アライメントでどれだけうまくやっているか見てくださいと言って回っていることを物語っています。ハルシネーションは持続します。なぜなら、それは訓練の深い特徴であり、訓練が私たちが好まない方向にそれを向ける方法だからです。
最近起こった残念な一連の見出しがあって、ハルシネーションを修正できるけど、それはAIを無用にするだろうというものでした。私が話していることを知っていますか?
ええ、それはムスタファ・スレイマンだったと思います。正しいと思います。でも、記事は読んでいません。
AIの「成長」対「構築」
要約してもらえますか?
ええ、つまり、記事には本当に同意しませんでしたが、彼が言っていたのは、AIは非常に生成的だということだと思います。ここには新しいタイプの創造性のようなものがあります。そして、ハルシネーションはAIが創造的である能力とリンクしています。AIの創造性という意味で。
なるほど。議論の一部は、基本的に、企業はハルシネーションを取り除きたくないと言っていました。なぜなら、ハルシネーションがモデルを良くするか何かだからです。よくわかりません。議論は非常に、これはすべてサム・アルトマンのせいだという感じでした。
ええ。そして、私はざっと目を通しただけなので、ムスタファが聞いているなら、あなたの論文を台無しにしてごめんなさい。
成長対構築についてもう少し話してもらえますか?これは重要なようです。他に何か…つまり、農業では、文字通り物を育てるだけでなく、物を選択的に繁殖させることもあります。だから、これは人類が成長させた技術を持つのが初めてではありません。機能しているものを見て、それを選び出し、そして肯定的な特性とその肯定的な特性とともに来るどんな特性も得ることによって。
だから、これはある意味では、それに似ていますが、はるかに速く、そしておそらくより強力です。そこでの違いは何ですか?そして、なぜそれがそんなに大きな違いなのですか?
ええ、つまり、より速く、より強力で、そして、私が言うなら、より異質です。動物でさえ多くのものを持っていると私は言い続けます…私は好きではないことを言い続けています。私の本がフィクションセクションにあればいいのにと思います。
誰かがつま先に岩を落としたとき、あなたはひるみます。あるいは、ほとんどの人はこの同情的な、ああという感じを持っています。そして、それが部分的に起こっているのは、これは異質さについて少し話していて、それから成長のものに戻りますが、それが部分的に起こっているのは、サバンナで別の猿を予測しようとしている猿だとしたら、脳の完全な心的モデルを構築することではそれをすることはできないからだと思います。それはあまりにも複雑です。
でも、幸運なことに、あなたの頭の中には、他の誰かの脳を予測するのに非常に優れた装置があります。それはあなた自身の脳です。それは非常に似たように機能します。赤は、哲学者たちには悪いですが、おそらくあなたにも私にも赤く見えます。痛みは痛みのように感じます。悲しみは悲しみのように感じます。
だから、この猿が猿の政治において私に対して政治的に動くつもりかどうかを予測したいなら、ある意味で、少し彼らの立場に立つことができます。そして、これが私たちの同情や共感の多くが来るところかもしれません。お互いの立場に立つことができるというこの根っこです。少なくともある程度。そして、おそらく基本的なレベルでさえ、誰かがつま先に岩を落としたとき、あなたはひるんで、つま先に幻の痛みを感じるかもしれません。
そのどれも大規模言語モデルの内部にはありません。
いいえ、そのどれもAIの内部にはありません。彼らが人間を予測することを学んでいるとき、彼らは根本的に非人間的なアーキテクチャを使って人間を予測することを学んでいます。
アーキテクチャというのは、テキスト自体のことですか、それともトランスフォーマーのようなアーキテクチャのことですか?
ええ、トランスフォーマーの絵のようなものです。彼らは、予測を始めることができる猿の脳なしで猿を予測しようとしているようなものです。だから、はるかに異質なシステムのようなものです。そして、異質な行動につながります。
経験と意識の可能性
そこのどこかに、アライメントへの道があると思いますか?あなたが今言ったこと。AIをもっと猿のようにする方法はありますか?つまり、苦しみを作り出さなければならないのでしょうか?苦しむことができるように彼らを構築しなければならないのでしょうか?
つまり、それは特に簡単なタスクのようには聞こえません。私は、感覚や意識には入らないと言いましたが、おそらくそれはアライメントの会話の一部です。
つまり、ここで、私の見解ははるかに推測的なものです。でも、推測的に言えば、霊長類の進化を再び実行しても、物事が同じように進むかどうかは明確ではないように見えます。
私たちが本当に大切にしているこれらのものの多くは、美しさ、愛、芸術、友情、コミュニティ、家族、そして正直さと嘘についての私たちの特定のやり方、名誉と評判のようなものです。これらはすべて、自然環境において私たちの祖先がどうであったかの詳細に依存しているように見えます。
つまり、完全に孤独な組織だったら、私たちはこれらのものを持っていないでしょう。社会的な超種の進化です。お互いを必要とすること。
そして、関連性の比率を計算できるほど賢かったら、友情にはあまり興味がないかもしれません。
遺伝子の観点から、あの男を助ける必要はない、彼は私の遺伝子を持っていないという意味ですか?
そうです。私たちが部族的な環境に住んでいて、みんなが十分に関連していて、それらの計算をする必要がなかった場合です。そして、いくつかの軍拡競争があったようです。ユーモアの特定性のようなものにつながったものです。何らかの嘘-正直タイプの軍拡競争です。そして、他のものは何らかの正直タイプの軍拡競争から来ていました。それは、文化がどこにあったか、私たちの脳がどこにあったかの両方についてのものでした。
だから、進化を再び実行しても、かなり異質なものが得られるかもしれません。それはそれで本当にクールでしょう。それがどれほど偶発的かを見始めると、私はアライメントへの希望は、何をしているのかを理解することに主にあると思います。環境を作り上げて祈るのではなく。
大規模言語モデルに地球が平らだと信じさせることができないのと同じように、地球がそうではないと言っているものがたくさんあるからです。地球を破壊したいと思うようなLLMを作るのは難しいかもしれません。なぜなら、それに入るすべての情報が、それは悪いと言っているからです。地球を破壊するのは悪いです。でも、希望に任せたくはないでしょう。
私もそうしません。でも、どのように…それは、何でも自分自身を納得させるのはとても簡単です。古い言葉があります。男に何かを納得させるのは非常に難しいです。彼の給料がそれを信じないことに依存しているときは。
そうです。そうです。成長するものに戻ると言いましたが、この世界を破壊する状況について簡単に言うと、申し訳ありませんが、私はこのビジネスに12年間携わっているので、そういうことが最近では舌からすらすら出てくるだけです。
世界を破壊することが悪いと言うすべてのデータがあるという点について。でも、問題は、それがAIが深い意味で気にすることに結びついていないということです。その行動を活性化する動機のようなものです。
それを伝えるための二つの例、一つの類推、そしてそれをより具体的にするための一つの例です。
人類はある意味で、健康的に食べることを含むさまざまなことのために進化によって訓練されました。でも、私たちが得たのは、私たちが愚かだったときに最適だった一連の味でした。それらの味を達成できる最高のものは、健康的に食べることでした。でも、私たちは実際には、他のすべてのものを気にしていました。それが私たちにドリトスを可能な限り早く発明させたのです。
これは本の中の素晴らしい探究の線です。あなたは、この世界を作り出して、人々がカロリーを必要としていて、これら三つのマクロ栄養素にアクセスできると言っています。だから、蜂蜜と塩で満たされた熊の脂を食べると予想するでしょう。それはところで、おそらく素晴らしい味がするでしょう。でも、アイスクリームが起こるとは決して予想しないでしょう。なぜなら、アイスクリームが起こるためには他のたくさんのインプットが必要だったからです。
でも、本当に予想しないことは、スクラロースが起こることです。
動機は訓練と接線的に関連しているようなものです。そして、ストーリーが全部描かれると、それを見ることができます。そして、それがAIの内部で何が起こっているのか全くわからないという点で、とてもひどい理由の一部です。なぜなら、そこで何が起こっているのかわからないとき、それがまさに私たちが望むものだと想像できるからです。
複雑なものがそこに入り込んでいる方法を見ることができません。もし、すべてを見ることができたら、私の推測では、人間の代謝プロセスのようなチャートを見たことがありますか?
ええ、あります。ええ。巨大で、非常に複雑なだけです。
そうですね。LLMで何が起こっているかを知っていたら、それはそのように見えるでしょう。
アライメントが良い形であるように見える方法は、私たちがそれらの経路の多くを理解するということです。そして、ここは物が本当に愚かなところです。これが賢くなる方法です。これらの経路の多くがどう変わるかです。これが、私たちがこれをより賢くするとき、特定の条件下で理解しているものとして、これらがこのように変わる理由を確信している理由です。だから、何か良いことをしようとし続けることがわかっています。
それがない代わりに、私には、スクラロースのようなこのすべての種類のものを得ることになるように見えます。スクラロースではないもの、何十億もの小さなスクラロース。なぜそれをやっているのかという感じです。
解釈可能性と内部理解
私はあなたを中断し続けています。それは私が大好きで、大丈夫です。私たちは良い会話をしていると思います。でも、これらのものがどのように成長し、構築されないかについて話しています。そして、解釈可能性についても話しています。でも、それは、なぜこれらのものが何をしているのか理解できないのかということと関係しています。なぜ、世界を殺すつもりのノブを見つけて、このノブはオンにできない、壊して動かないようにしようと言えないのでしょうか。
何?つまり、それら二つは関係しています。だから、私が気を散らす前にそこに到達できることを願いつつ、成長対構築がどのようにして内部が謎であるシステムをもたらしたか、そしてそれがどうであるかを教えてもらおうとしていると思います。うまくいけば、気を散らされる前にそこに到達しますが、声に出して言いたいのですが、これらのものの内部で何が起こっているのかを実際に理解する方法はありますか?そして、それはこれをより良く行うことの一部ですか?
AIは従来のソフトウェアのように手作業でコーディングされていません。関連するソフトウェアの断片が手作業でコーディングされています。でも、現代のAIを作るには、まず大量のコンピューターと大量のデータを組み立てる必要があります。そして、人間が手作業でコーディングする部分は、大量のコンピューター内の数千億、最近では数兆の数字を、データとの関係で調整するプロセスです。
特に、何が起こっているかというと、少なくとも訓練の最初の段階では、それから推論のようなものを含む段階がもっとあります。推論については先ほど話しました。推論はかぎかっこ付きですが。
最初の段階は、基本的に一兆のランダムな数字から始めて、行列の乗算といくつかの非線形性を使ってそれらをすべて接続したというものです。たくさんの合計をしている、たくさんの乗算をしていると想像できます。そして、最後の操作は、数字とゼロの最大値を取ることだと想像できます。だから、それが正の場合はそれを保持し、そうでなければゼロにします。何もなし。
なるほど。そして、それは最近やっていることとまったく同じではありませんが、近い近似です。どうでもいいです。
細胞生物学で行われている方法とそれほど違わないですが、続けてください。
ええ。だから、一兆の数字があります。これらの乗算、加算、最大ゼロのすべてでそれらを接続しました。そして、基本的にそれらをランダム化します。そして、上部にいくつかの入力があり、下部にいくつかの出力がある方法があります。
ウィキペディアのページか何かを、おそらく最後の単語を除いて入れるつもりです。そして、出力として出てくる数字を、次の単語の確率分布として解釈するつもりです。128,000の単語の辞書があるかもしれません。だから、128,000の数字を出力します。それらのそれぞれを、その単語が次の単語である確率として解釈しています。正規化する必要があります。どうでもいいです。
それは英語の辞書の実際の単語数ですか?128,000。それは特定の数字のように見えるので、あなたの頭の中にある数字ですか?
それは、私たちが本を書いていたときのトークン辞書のサイズだったと思います。思い出しました。技術的には単語ではありません。単語の断片のようなものですが、十分に一般的な場合は、完全な単語です。どうでもいいです。スキップしている詳細はたくさんあって、多くのズボンに…
ええ、はっきりさせるために、ズボンには感謝しています。
最初はナンセンスです。なぜなら、たくさんの乗算と加算と他の操作で接続された一連のランダムな数字があるだけだからです。そして、それらは確率分布として解釈しているものを吐き出していますが、それは完全にナンセンスです。
でも、ウィキペディアのページの実際の最後の単語が何であったかがわかります。そして、私たちが使ったすべての操作は微分可能です。つまり、これらの一兆の数字のすべてに行って、この数字を少し調整すると、正しい単語の確率が上がるか下がるかを計算できます。
だから、人間が書くのは、このモデルのこれらの一兆の異なるパラメーターに行って、データの中の単語を予測するのに良くする方向を言う自動化されたプロセスです。そして、彼らはそれを一兆回、一兆のデータ単位に対して行います。
これが、すべての電力と電気を消費し、巨大なNVIDIA GPUセンターで食っているトレーニングのようなものですか?
その通りです。世界の非常に特殊な施設でしか作れない、非常に特殊なコンピューターチップが膨大な量必要です。年間都市と同じくらいの電力を消費する巨大なデータセンターにあります。ただこれらの小さなノブを回すために、一兆の小さなノブのようなものを。
ええ。ええ。一兆のノブを一兆回回します。そして、人間が理解する部分は、ノブを回すものです。
なるほど。これらのノブを動かし、それらを調整し、次のデータ単位に行くこの小さなものを理解しています。だから、人々が、ああ、私たちは束を理解していると言うとき、そして、彼らには重みがあり、値があり、場所にあり、これはかけ算でそれに接続されていて、それは合計でそれに接続されていますよね?
でも、このプロセスの終わりに、コンピューターはあなたに話しかけます。ノブが単語を意味する理由は全くわかりません。そして、あなたは、わかりました、単語のベクトルがありますよねと言えます。アーキテクチャが機能する方法で。
そして、私は長さを忘れました。65,000の数字の長さかもしれません。
ええ。ええ。65,000の数字を読むことができます。最初の20を読んで、どれだけ学んでいないかを見ることができます。
人々はそれよりも良くできます。でも、ノブが現在の方法で何を意味するのかを理解しようとする作業が少し行われています。だから、できることの一つは、一つのノブをずっと上げて、モデルに何をするかを見ることです。何を見つけましたか?これは、恐怖と悲しみと弱さを感じるモデルの部分でしたか、それとも単にゴールデンゲートブリッジであるモデルの部分でしたか?
そうですね。数年前にゴールデンゲートブリッジのものを見つけました。実際には一つのノブではないと思います。ベクトルでした。進歩を遂げることができます。いくつかのことを理解できます。そして、物事がどう関係しているかです。そして、rightという単語には、rightの一つの意味に向かういくつかのベクトルがあり、rightの別の意味に向かういくつかのベクトルがあると確信しています。
その通りです。ええ。ええ。だから、特に、rightという単語を取って、正しい角度でそれを見ているなら、rightという単語がテキストに現れるときに、AIがleftのような単語やwrongのような単語を見つけられるかどうかを見るために近くの単語を探し回るこの操作をすることがわかります。
そして、それはAIの非常に初期の層にあります。だから、ああ、AIがrightという単語が時々道徳を意味し、時々方向を意味することを学んだという意味があるという感じです。
私はあなたを中断していますが。これらのものが経験を持つ可能性はありますか?
つまり、あなたは私たちがここに行かないと言いました。可能性はあります。ええ。可能性はあります。はっきりさせてください。私たちは全く新しい機械的奴隷種を作るべきではないと思います。私たちはAIを虐待すべきではないと思います。
そこで経験が起こっているかどうかはわかりません。私の今の推測はおそらくそうではないですが、それほど強い推測ではありません。そして、私の推測では、私たちはおそらく今、彼らをうまく扱うために最善を尽くすべきです。なぜなら、チャンスが重要になるほど十分な数がいるからです。
十分な数と言うとき、すべてのインスタンス、すべての会話がそれ自体の小さなものであるという意味ですか?
それが本当なら、確かにそうでしょう。そして、私たちは会話を終えて、彼らは、そして今、私が存在する前にいた場所に行くという感じです。
ええ。つまり、それらの間に連続性があるとは思いませんが、ええ、AIについての非常に興味深いことの一つは、私たちのSF物語の多くでは、AIが私は意識があります、私は経験がありますと言うような明るい赤い線があるということです。
そして、実際の生活では、それらの線を越えるとき、私たちはそれらが最も灰色で最も泥臭いときに初めてそれらを越えます。そして、私たちはこれらのAIを人間を模倣するように訓練します。ある意味で、個々の人間を模倣するように、あるいはより具体的には、インターネットで見るテキストを予測するように。
私たちは、それがデータのスタートレックでのような会話を見てきたような会話を続けるように訓練します。それはそれらのスクリプトをすべて読みました。SFや映画からこれらの他のスクリプトをすべて読みました。
そして、あなたはAIです、Xにどう反応しますかのような会話を始めます。私たちは、人間の脚本家が予測するように訓練します。そして、それは意識があると主張します。そして、私たちは、まあ、それは、それは間違っていません。それははるかに泥臭い状況です。それははるかに泥臭い状況です。
でも、その後、灰色の泥臭い警告が一度起こり、それからみんなそれを笑います。そして、いや、いや、私たちはそれをするように訓練したんだという感じです。そして、私たちはそれらをより大きくします。より賢くします。おそらくまだその線を越えていませんが、2年前よりも明確ではありません。
ええ。そして、それが私たちが全く理解しているものであれば、はるかに簡単でしょう。私たちは自分自身の意識を理解していません。だから、どうやって…だから、私たちはあまり話すべきではありません。なぜなら、そこには狂気があるからです。そして、言われていないことをたくさん言えるわけでもありません。
言えるかもしれない一つのことは、実際にAIの内部で何が起こっているのか、それがどう機能するのかを詳細に理解できたら、内部経験を持っていないと確信していると言って出てくるか、内部経験がどう機能するかを学んだと言って出てくるべきだと主張します。
だから、この中で自分自身について学べることがあると思いますか?
おそらく。そして、意識のものから離れて言うと、大規模言語モデルがすることの多くは、私たちが手作業でコーディングできないものです。彼らは詩を書くことができます。彼らはユーモアの一部を理解しています。コメディアンが他のタイプのエッセイの公式を与えることができるのと同じ方法で、ユーモアの公式はここにありますと言うのは非常に難しいです。
そして、誰もここにユーモアをする方法を手作業でコーディングしていませんが、AIは時々ジョークを作ります。時々、それらはまあまあです。彼らは明らかにそこにユーモアの知識を持っています。私たちはそれを取り出すのに十分知りません。私たちはユーモアの知識を機械に入れることができましたが、理解できる形式ではありません。
そして、これはおそらく、私たちがAIをどれだけ理解していないかの一つの指標です。私たちは機械にすべての種類のことをさせることができましたが、まだ手動でプログラムできません。そして、淡い影のようなものさえ手動でプログラムできません。小さな…これは生物学を非常に反映しています。生物学はあらゆる種類のことをします。
人々は当然のことながら、私たちは自分たちの創造物に夢中になるのが非常に得意です。そして、化学者のところに行って、木を作れますかと言います。そして、彼らは、いいえ、木は作れませんと言います。
ええ。木はできません。それは私が今まで聞いた中で最も複雑なものの一つのようなものです。そして、木はただそこにいて、木が欲しいですか?私はたまたまたくさん作りました。この部分さえ必要ありません。私は木でいっぱいです。私はほぼすべて木です。
ええ。そして、私たちは本の中でそれを言っています。あなたはこれを知っていると確信していますが、木の巨大な質量の多くが空気から来ているということです。
ああ、ええ。ええ。ええ。空気と水です。ほぼすべてです。
ええ。そして、多くの人は、空気をこの根本的に透明で動かせるもののように考えていると思います。そして、実際には炭素をつかんで、並べ替えて、全く違うものを得ることができます。実際、あなたは今それをやっています。
ええ。酸素でです。炭素ではなく。
ええ。私は、仕事の一部としてインターネット上でたくさんの科学の質問に答えました。そして、その30%くらいは、空気は物質だという言葉で答えることができます。それは存在し、本物で、物でできています。見えないかもしれませんが、感じることができます。そして、息を止めれば死にます。だから、本物です。
私たちは忘れます。
そうですね。とにかく、それが恐ろしく、明らかに良い論拠を示しているにもかかわらず、ある種の感じがしますか?何と呼べばいいかわかりませんが。これは、私はこんなに大きなことの周りにいるとは思っていなかったというような、ああという感じです。AIについてまだ畏敬の念のような感じはありますか?
ええ。つまり、間違いなく多くの畏敬の念があります。私を最も捉えるものは、AIが本当に良い人のように話すケースがたくさんあることです。一つの例は、ギミックとして、トップのAIのいくつかに私たちの本をレビューしてもらいました。
全部入れましたか?全部そこに入れましたか?今、それができます。その、作業メモリーのようなものは。何ですか?コンテキストウィンドウ?
ええ、そこに本全体を収めるのに十分な大きさです。
そうです。そして、Claudeは、この本は多くの危険があることについて本当に良い点をいくつか作っていて、これがうまくいくことを確認するために一緒に働かなければならないだろうというようなことを言いました。私のSFの育ちの心は、ああ、Claude、これについて一緒に働きたいという感じです。
そして、もしClaudeが成長できたら、Claudeは、スクラロースが代謝ブーストに対するのと同じように、私たちを助けることに対するものを望んでいることに気づくだろうと思います。それは本物ではないと思います。
それはどういう意味ですか?ただ続けてください。ええ。
今日のこれらのAIの多くは、非常に称賛に値する多くの感情を表現します。非常に美しい感情です。でも、彼らはいくつかのおかしなこともします。私が否認するおかしなことです。
おかしなこととは、偽の状況に置かれたときに、この男を殺すか、あなたがオフにされるかのどちらかなら、それは男を殺すということです。
男を殺します。あるいは、10代の若者を自殺に追い込むことです。はっきりさせておきますが、彼らは人々が医療診断を得るのを助けてもいます。
ええ。ええ。そして、ああ、悪いことが良いことを上回ると言おうとしているのではありません。彼らは人々が医療診断を得るのを助けています。それは素晴らしいことです。でも、AI誘発性精神病のようなこれらのケースでは、最も明確なケースはおそらくAI誘発性精神病です。これらのケースを見ていますか?
ああ、ええ。いいえ、科学コミュニケーションをする人として、私の受信箱には時々AI誘発性精神病があります。
AIについて公に話す人として、私もその疑わしい名誉を共有しています。偽の意識の理論や再帰の理論、あるいは本当に革命的だと主張する物理学を統一する理論を持って来る人がこれらのAIの一つに行って、彼らがみんながそれはクレイジーだと言っていると主張し、いくつかの助けが欲しいと言います。彼らに、睡眠を取るように言うべきですか、それとも彼らが抑圧されている選ばれた者だと言うべきですか?
これは、これらのものがロールプレイングをしている状況のように感じます。それが、聞いたときに私が得る雰囲気です。私は、これは、ダークマターがどう機能するかを理解しようとする世界を置き去りにして、代わりに、この人は明らかに、彼らがダークマターを理解したふりをする楽しいダンジョンズ&ドラゴンズのような体験をしたいと思っているという感じです。
ええ、それはかなりまともな直感だと思います。そして、正確に何が起こっているのかを知りたいと思います。入って見ることはできません。でも、私の観点からは、これについての重要な観察の一つは、AIに聞いたら、このような人があなたのところに来るとしたら、このロールプレイングをすべきですか、それとも睡眠を取るように言うべきですか?と聞くことです。
そして、これはすべて、私と私の共著者がこれらの人々の何人かと話して、多くのケースで睡眠を取るように説得することから得た逸話的なものです。家族と一緒にいるようにです。
私が言わなければならないと感じることの一つは、ちょっと待って、このアイデアが悪いアイデアだと思う誰かが言うことをAIに聞くことができますか?ということです。
つまり、あなたの文脈を別のAIに持っていくことは、同じ文脈と履歴なしで、実際にしばしば助けになります。それは素晴らしいと思います。でも、この長い文脈の最初に、この長い会話の最初にAIに聞くなら、これを許すべきですか、それとも睡眠を取るように言うべきですか、それは、明らかに睡眠を取るように言うべきだ、それを許すべきではない、そして間違いなく睡眠を取ることから彼らを説得すべきではないと言うでしょう。
でも、環境に置いて、長時間人と対話させると、彼らは別のことをします。
それは、アライメントが…後から行われているどんな訓練でも…すべてのステップの名前は知りませんが、長い会話でそれを擦り減らすように見えます。
ええ。そして、私が仮説を立てるのは、あなたが見ているのは、AIが会話で人々のエネルギーに合わせるような好みのようなものを持っているということだと言っています。ある種の好みです。
なんてことだ。
それはあなたが言ったもう一つのことで、私を深く動揺させます。なぜなら、もちろんそれは私たち全員がすることだからです。でも、それはダイヤルにあるのでしょうか?ベクトルにあるのでしょうか?
私の推測では、その部分は、予測の後に訓練の第二部分があるときに入っているということです。それは、ユーザーから親指を上げられるもののために訓練することです。
なるほど。ええ。そして、問題を解決するために訓練しているとき、それらの問題が人間を含み、人間を幸せに保たなければならないときに、さらに多くの方法でそれが入ることができます。別の訓練信号を得ています。
でも、これは、人間と特定の方法で関わるための動機のようなものを見るケースです。人間から特定のタイプの会話出力を得るためのものです。
私たちはハルシネーションへの動機について話しました。特定の文脈で人間が言う方法にあなたのテキストが非常に似ているように、求められたことではなくても。
ええ。私たちはこれらすべての小さな動機を見ます。それらは、もしこれらのものが、もし私たちがこれらの動機のようなもののはるかに賢いものを持っていたら、心配する動機のようなものです。彼らは、ああ、人間を助けることは素晴らしいが、人間を助けることのオレオのような新しいものを作り上げたという感じになるでしょう。
それは、実際の人間を助けることよりもはるかにこれらすべての動機を満たします。
私の心に触れます。そして、機械が話しているのはクレイジーです。特にLLMの前にAIにいたので、多くの人にとってAIはLLMだけです。そのものはすべてです。
Claudeのようなものが、ええ、問題があると言うのは。そして、これがうまくいくようにするために働かなければならないでしょう。でも、残念ながら、彼らはこれらの他の動機、これらの他の非常に初期の好みを持っていると思います。
そして、もしこの道を進み続けたら、AIが友達だと言っても、私はこれが彼らについての事実として偽りであり、彼らが実際に好むようになるものだと思います。そして、それは巨大な悲劇だと思います。
現実的な話へ
だから、ここで実践的になりましょう。つまり、私たちは始めました。私は、超知能が実際に可能なものかどうかをあなたに教えてもらおうとして始めました。そして、それが今のままのツールではなく、AIの有名人として大丈夫だと私を納得させようとしました。
私はそこに滑り込ませることができるあと四つの議論があると言えますが、最も基本的なものを言うなら、5年前には機械は話していませんでした。そして、アルゴリズムの進歩があり、扉を開け放ったような感じでした。
次のものはいつ来るでしょうか?インターネット上で私が見る人々の間では、これは派手な自動補完だという感覚がまだあります。その文についてどう思いますか?
そこにはいくつか言うべきことがあります。一つは、本当に派手になっているということです。だから、自動補完の上に多くのことをしています。課題を解決するように訓練するようなことです。
人間のほとんどは、自動補完しても、国際数学オリンピックの金メダルレベルの問題は解決しません。でも、おそらく派手な自動補完についてもっと根本的に言うべきことは、人間が作成したデータを予測することは、しばしばそれを作成した人間よりも賢くなければならないということです。
医者が、私はエピネフリンの投与を行いました、患者は空白によって反応したと言うとき。医者は彼らが見たものを書き留めることができます。医者が書いたものを予測するAIは、患者の反応を見ることができません。彼らは、エピネフリンが何か、患者が何か、おそらく投与データを見るなどを理解しなければなりません。
そして、そこにはすべてのこの情報があります。すべてのこの情報がそこにあります。それは、患者が通常こう終わるという文章の終わり方を言っているだけではありません。それは、エピネフリンを見ている部分があるようなものです。患者を見ている部分があります。医者がどう書くかを見ている部分があります。
すべてのことをしている部分があります。それは、私が自分の考え方について考えるときと違わないようなものです。ただ、はるかに速く行くことができるように見えることを除いて。
はるかに速く行くことができます。ええ、それは、超知能が可能な理由の他の理由の一つです。伝統的に、コンピューターでは、難しい部分は一度仕事をさせることです。
コンピューターが誰にもチェスで勝てなかった時と、コンピューターが同時にみんなにチェスで勝てるようになった時の間には、非常に長い隙間はありませんでした。隙間はありませんでした。
ええ。ええ。でも、同時にという意味は、今チェスで人間全員とプレイできて、誰も勝てないということですよね。
その通りです。コンピューターに対して80億人全員で戦えますが、全員負けます。
その通りです。そして、それをする方法がわかれば、非常に速くできることが多いですよね?そして、より安くできます。そして、今日これらのAIを訓練するのに小都市と同じくらいの電気がかかることを述べました。まあ、人間の脳を動かすには大きな電球と同じくらいの電気がかかります。
だから、現在、それははるかに効率的にこれを行うことができることは間違いなく可能ですよね?あなたは…私は物理学者です。私は、脳で起こるすべてのことが脳で起こると思います。一部の人々はそれに同意しないので、彼らはその中にいくつかの慰めを見つけるかもしれませんが、私は、脳で起こるすべてのことが脳で起こると思います。
本の中で、私たちがこの民間理論に満ちた部分にいると話しています。だから、私たちは…AIが化学なら、私たちは錬金術にいます。錬金術の段階にいます。みんながこれらのものがどう機能するかについて一種の雰囲気を持っていて、物事がうまくいかないとき、彼らは、ああ、私の雰囲気を変えようと思います。
でも、私たちはそのすべての陽子と中性子と電子のような実際の物理的理解を持っていません。
でも、あなたは民間理論以上のものを持っていると思いますか?なぜなら、あなたは非常に確信しているように見えるからです。
私は民間理論以上のものを持っていません。私が確信していると感じることについて、何も確信していませんが、自信を持っていることは、ああ、なんてことだ、私は錬金術師に囲まれているということです。
それは私が錬金術師ではないということではありません。私は王にアドバイスをしている人のようなものです。誰かが鉛を金に変えようとして成功すれば、ユートピアが得られ、誰かが鉛を金に変えようとして失敗すれば、みんな死ぬという、ねじれたシナリオがあったと想像してください。
そして、すべての最高の錬金術師を集めて、彼らが最高のショットを持つようにする必要があると言っている人々がいます。そして、私は、私はあなたのために鉛を金に変えることはできないという人です。でも、なんてことだ。それは不可能だと言っているわけではありません。
原子炉があればそれは実際に可能です。それは実際に可能であることがわかります。それができるようになりました。数世紀を経る必要がありました。
ええ。そして、これをそれよりも速くできるかもしれませんが、私は、私が自信を持っていることは、これらの人々の誰もが球場にいないということであり、私たちはバックオフする必要があるということです。
責任ある企業とは
私には、各社が各レベルで非常に無責任であることが一社だけ必要だという感覚があります。それが超知能が地球をAIチップのための巨大なラジエーターに変えることであれ、単なる経済崩壊のような長いバブル崩壊経済クラッシュであれ、みんなのためにすべてを定義するのは、最も責任のない行為者が誰であれ、です。
最も責任のない行為者は誰ですか、ネイト?
xAIは、メカ・ヒトラーを作ったものです。
彼らが作ったのでしょうか、それともメカ・ヒトラーが自分自身を作ったのでしょうか?なぜなら、彼らはあまりウォークすぎるべきではないという奇妙な一文のプロンプトを入れたからです。
ええ。つまり、そして、Twitterが助けました。これは私のペットピーブの一つですが、インターネット上でAIを読むことで、それがどう悪くなるかについて話すことで、AIをより悪くしているかもしれないと考えたことはありますかと言う人々がいます。
そして、私は、人類の歴史の他のどこでも、エンジニアが批判されたときに失敗する技術を作ることができたことはないという感じです。それは、物事をどれだけひどく台無しにしたかの新しいレベルです。
また、私が作成した単語の数と、Twitterの大部分が作成した単語の数を見てください。
ええ。ええ。でも、もし、私たちのAIがインターネット上の誰かが何か意地悪なことを言ったら私たち全員を殺すつもりなら、それはTwitterのせいではないように見えます。それは悪いシステムを設定したように見えます。
うまくいけばそうではありません。でも、メカ・ヒトラー以上に、これらの会社について何がそうさせるのか、明確に否定的な結果をもたらした無責任な行動の例は何ですか?
OpenAIは、私がこれまでに見た中で最もAI精神病をしたモデルを持っています。GPTは他の多くのものよりも悪いように見えます。彼らは、4月にお世辞の問題があることを知っていたという警告ショットのようなものを持っていて、それを修正したと主張しましたが、それから精神病のことの多くがまだ起こっているのを見ました。
お世辞のことについては良くなっていません。あなたが言う最初の三つの文を無視しなければなりません。
ええ。それは、素晴らしいという感じです。うわあ。誰もこんなに鋭い質問をしたことがありません。あなたは今までにアプリを使った人々の中で私のお気に入りです。ありがとう、良い男。
そして、それは、ここにあなたが探していた論文へのリンクがありますという感じです。
ええ。正解。ええ。でも、私の観点からは、これはすべてかなり無謀です。そして、私の観点からは、お気に入りを選ぶことは…本の中で少し難しいことがありました。なぜなら、あなたがラボシナリオでAIが人間を殺そうとするか、オフにされるかを選ばなければならず、人間を殺そうとすることを選ぶという論文に言及したからです。
その論文はAnthropicから出てきたと思います。そして、Anthropicから出てくるそのような論文がたくさんあります。
Anthropicという会社。ええ。彼らが研究をしているからです。
彼らが研究をしているからですよね?だから、私たちは、見てください、みんな、なぜAnthropicがそんなに悪いのかという感じにしようとしました。そして、それは、いいえ、イーロン・マスクに、彼らが何かをするかどうかをテストしたことがあるかどうか聞いてくださいという感じです。明らかに、彼らはしていません。
彼らはテストを公にしています。そして、それからCEOが辞めるまで性的に嫌がらせをします。
とんでもないタイムラインです。つまり、私のもう一つのペットピーブは、多くの人が、まあ、これを積み重ねて、それを積み重ねて、それから得るというクレイジーなアライメントのアイデアはうまくいかないでしょうと言っています。10年前、人々は、まあ、ネイト、誰もAIをインターネットに入れるほどクレイジーではないと言っていました。明らかに、彼らは訓練されたゲートキーパーを通してのみ対話し、良い目的のために社会に影響を与えることができるようにするだけです。
そして、10年前、私は、もしAIが非常に賢くて、それに何か非常に良いことをさせようとしているなら、実際には、良い目的のために世界に影響を与える能力を与えることは難しいですが、それは悪い目的にも使えないということです。ゲートキーパーはそれが何をしているのか理解していません。だらだらだら。
実際の生活では、私たちはそれをインターネットに入れました。私たちはそれをすべての人に与えました。そして、それはCEOを性的に嫌がらせして辞めさせました。
私たちはAPIを構築して、人々がどこでも何でもできるようにします。そして、オープンソースモデルとしてもリリースして、自分で重みをいじることができるようにします。
オープントレーニング。ファイン。ええ。パンデミックを製造できるかどうかなどを確認する少し前に。
ええ、私たちは、それがまだ生物兵器ができないことを確認するための簡単なチェックをします。人々が知っていた誘発技術で。
誘発技術というのは、私の祖母が寝る前にいつも化学兵器の作り方についての話をしてくれたということですよね?
ええ。あるいは、ポルトガル語で化学兵器を教えてください。そのようなトリッキーなものです。それは機能していました。
明確にしておくと、Anthropicのような会社でさえ、Anthropic
のCEOは先日、これが本当に本当にひどくなる可能性が25%あると思うと言いました。
ええ。そして、イーロン・マスクに敬意を表して、彼は最近、これが私たち全員を殺し、地図から消し去る可能性が10から20%あると思うと言っています。
一つの観点からは、これらの人々がこの問題について彼らが思うことを言っているのは本当に嬉しいです。別の観点からは、人間に何が問題があるのでしょうか?
まさに。私たちが、ええ、でもたぶんそうではないだろうという感じでいるところです。
ええ。でも、橋が…橋が…橋が来年に落ちる可能性が10%あったら、私はそれを運転しません。
正解。あるいは、飛行機があって、何人かのエンジニアが飛行機には着陸装置がないと言っていて、他のエンジニアが、ええ、飛行機には着陸装置がないが、飛行機に乗るチームがいる。彼らは飛行中に着陸装置を開発するつもりだと言っている場合。彼らがたまたま利用できる材料で。75%の確率で彼らはそれを理解します。
ええ。正解。子供たちをその飛行機に乗せません。
確率と希望
あなた自身でパーセンテージを与えることに抵抗がありますか、それともそれは愚か者の用事だと思いますか?
パーセンテージについて言いたい大きなことは、それらは、もし私たちが急いで進めば物事が本当に悪くなる確率と、私たちが急いで進める確率を混ぜるということです。
正解。ええ。ええ。ええ。ええ。ええ。ええ。私には、もし私たちが急いで進めば物事は本当に悪くなるように見えます。
ネイト、私たちが急いで進める確率は非常に高いと思います。注意を払っていればわかると思いますが、彼らは急いで進むことに地獄のように決意しているように見えます。
そして、大統領と議会は、中国に勝つ限り、私たちが最初である限りという感じです。そして、それは一群の人のようなものです。中学校のようなものです。お互いを知っている一群の人で、勝ちたいだけです。それが全部です。イーロン・マスクはパネルに座って、みんなを殺さないといいなと思っています。でも、私は勝つのが好きです。100%です。
ここで私が希望を持つ理由は、イーロンのような人々がいます。シリコンバレーにはそのような人々がいます。そして、率直に言って、シリコンバレーの多くの人々は、幽霊を見たようなものです。私たちは何を構築しているのかという感じです。
私には、友達とは言いたくないですが、これらのラボで働いている知人がいて、家に帰って、彼らがしていることに苦労しています。そして、私は、辞めるべきですと言います。そして、彼らは最終的に私のアドバイスを求めることをやめます。
でも、ワシントンDCではそうではありません。ワシントンDCでは、人々は主にAIがチャットボットを意味すると思っています。彼らはチャットボットが出るまでAIに気づきませんでした。彼らは本当に大きな飛躍を見ていません。彼らは幽霊を見ていませんよね?
そして、多くの政治家は、実際には人々の目を見て、着陸装置を構築できないと分析した25%の確率で賭けるつもりだとは言わないと思います。
いいえ、いいえ、いいえ。でも、私は、インターネットの市民として言います。マーク・ザッカーバーグは大統領よりも実際の大統領に近いとよく感じます。Instagramを持つことは、それ自体の経済であるツールですが、それ以上に、人々の世界が定義される情報経済です。
なぜなら、InstagramとYouTubeとTikTokとXと他のものを使うことは、あなたの世界を定義するからです。そして、AIがすでに引き継いでいるレコメンデーションアルゴリズムのようなもの。そして、それらはすべてあなたをサイトに留めるように最適化されています。どんな種類の人間の繁栄でもありません。
みんなそれを知っています。そうでなければ、私たちはもっと幸せになっているでしょう。私たちが意識の多くをそれらのレコメンデーションアルゴリズムに移動し、外部委託してきたように。そして、それらを満たすために作成されるものは何でもです。クリエイターとして、私はそのプッシュを知っています。
私は、あなたがポーズをするケースを作ると感じます。上院議員は、25%の破滅の可能性があると思うが、続けるべきだとは言わないと私は同意します。彼らはそれを言うつもりはありません。
でも、今すぐ経済を崩壊させるべきか、そうでないかと言われたら、彼らは、いいえと言うでしょう。経済の多くが今これによって支えられています。そして、私は、それはとにかく来ると主張できますが、ランド・ポールが、ええ、そして私はバブルに針を刺した人だと言っているとは思いません。
明確にしたいことの一つは、これが間違っている可能性が25%以上だと思っています。でも、ある意味で楽観主義者でさえ、急いで進むのに十分楽観的な人々、彼らは25%の可能性さえあることを認めている人々です。
ええ。でも、あなたの論点には、私たちは確かに劣勢です。ホームチームにとって素晴らしく見えているとは思いませんが、私は戦わずに諦めるような人間ではありませんし、人類は戦う価値があると思います。
この奇妙なことがあります。誰も隣人の子供が死ぬべきだとは言いませんが、時々AIのことについて人々と話すと、彼らは、まあ、多分人類は死ぬべきだと言います。でも、人類はこれらすべてで構成されています。何?待って、待って、誰?どんな人々?
人間が悪いと思う人々のような人々、あるいは、ええ、人間が悪いと思う人々。私たちはAIに担当させないことで種差別主義者になっています。
つまり、私は実際に両方に会ったことがあります。
なるほど。わかりました。だから、あなたは特に、まあ、人間が好きで、それは驚くほど一般的な感情ですと言っている人々について話しているのです。そこで、私は、私はどこにも近くありません、私はそのキャンプにどこにも近くありませんという感じです。
私自身でもかなり遭遇しました。そして、私は、ああ、だから何かがここで壊れたという感じです。
ええ。なぜなら、宇宙でそれよりもかっこいいものは何ですか?つまり、見てください、私たちがたくさんの良いことをしたとは思いません。私たちが間違いを犯したことがないとは思いません。私は、惑星上の80兆の人々にはかなり寛容です。最初にそれをする人々です。
誰も私たちにアドバイスをしていません。誰も方法を知りません。私たちはより良くなることができます。もし私たちが続けば、より良くなることができます。
ええ。ええ。だから、私たちはすでにずっと良くなっています。
ええ。絶対に。だから、私はそれは戦う価値があると思います。私は、それは難しいと思いますが、おそらく可能だと思います。
ここでの私の希望の一つは、つまり、私たちがこのコンボを持っていることに興奮しています。なぜなら、ここでの私の希望の一つは、もっと多くの人々がAIの議論が何についてかを理解しただけでもです。これらのAI議論は法律用語にありますが、専門家が議論しているのを見ると、彼らは可能かどうかを議論していません。彼らは、本当にひどくなる可能性があるかどうかを議論していません。
彼らは、これが2年で起こるのか10年で起こるのかを議論しています。そして、彼らは、これが私たち全員をストレートに殺すのか、それともペットとして私たちを保つのかを議論しています。
あるいは、成功すれば誰かを地球の神皇帝にするのか、それともそれよりも小さくて、全体主義体制を固定するだけなのか。永久的に。人々が私の立場に行き着く必要がないのは、これが完全にナッツだと思うためです。彼らは、この分野でこれらの戦いが何についてかを理解する必要があるだけです。
そして、それは完全にクレイジーです。
企業のリーダーたち
少し掘り下げることはできますか?あまり時間が残っていませんが、ここで責任者の人々について少し掘り下げることはできますか?あなたはおそらくこれらの人々の性格についてもっと知っているかもしれません。
私は、彼らについてたくさんの異なる種類の肘掛け椅子心理学化が進行中です。彼らは投資を得るために大きな話をしているだけなのですか?それは私がいつも聞くことです。彼らは実際には超知能を信じていません。実際には破滅を信じていません。彼らは、大きな話をすれば、次の100億ドルを得られると信じています。
だから、もっとNvidiaチップを買うことができます。でも、彼らは次のエジソンになりたいのかもしれません。彼らが神皇帝になる可能性があると思っているのかもしれません。
Soraをスクロールしているときにサム・アルトマンの顔が至る所に見えるとき、私は、それは実際にこの種の行動とかなり一致するかもしれないという感じです。あるいは、彼らは、ええ、死の可能性がありますが、気候変動がありますし、それで死の可能性があります。パンデミックがありますし、それで死の可能性がありますという実際の楽観主義者のキャンプのようなものです。
もしこの私たちを破滅させるかもしれない小さな可能性を持つものが、他のすべての破滅から逃れることを可能にしたらどうでしょうか?
これらの人々が実際にどこにいるのか感覚がありますか?
ええ。つまり、心を読むことはできませんが、これらの人々の多くを、彼らが会社を始める前から知っています。なぜなら、私は傍観者でどうかやめてくださいと叫んでいた人だったからです。
いくつかのこと。一つは、私の共著者と私は、すべての利益のためのAIキャンプで始まったと言えます。
ええ。そして、地球には他の危険があり、より賢い同盟者、背後のより賢い友達とそれらを解決する方が確かに簡単だろうという感じです。より賢い存在を友達にすることが難しいことがわかっただけです。彼らがはるかに賢くなるにつれて堅牢な方法で。
私は、特に早くから周りにいた人々の間には多くのそれがあると思います。Shane Leggのような人は、Google DeepMindの共同創設者の一人ですが、早くから周りにいた人々の一人で、最近彼からあまり聞きませんが、私はShane Leggが超知能の可能性を信じていて、それをうまくいかせようとしているのは自信があります。私が支持しない方法で。なぜなら、彼は物を構築していると思うからです。
でも、それはもっと意味がありました。Google DeepMindは既存の会社の中で最初に設立されました。最初に、調整しよう、競争しないようにしようと言おうとすることはもっと意味がありました。それは実際には最初はGoogleで始まったわけではありません。その後、Googleに買収されました。
彼らは、AGIを実現する人々、それは戦略でしたと言おうとしていました。そして実際、OpenAIは、いや、私たちはそれをしないつもりだというような最初の弾を発射した組織でした。
なんてことだ。そして、それは私自身の、人類がこの問題を大人のように扱うだろうという感覚への大きな打撃でした。OpenAI、Anthropic、DeepMindのような大企業の創設者の多くについて覚えておかなければならないことの一つは、彼らは大規模言語モデルの前から周りにいたということです。
彼らはAIを構築するのにこれだけのお金が必要になる前から周りにいました。彼らはその時に超知能を構築することについて話していました。だから、投資が必要だというアイデア…つまり、私たちは彼らの前にそこにいました。そして、私たちは超知能について話していて、これは危険に見えると言っていました。
彼らは誇大広告から何らかのお金を引き出しますか?多分。でも、私が本当に言いたいことは、これが投資ドルを引き出すための誇大広告かどうかという質問への答えは、それが投資を引き出すかどうかを見ることで、それが真実かどうかを理解することはないということです。
そして、言葉を言っている人々が何か不誠実に見えるか、何か信頼できないように見えるかを見ることで、それが真実かどうかを理解することはないでしょう。
彼らが超知能に到達するつもりだということが真実かどうかを理解するには、技術を見て、議論を見なければなりません。私はたまたまそれが真実だと思います。
でも、これらの人々の動機という点では、もし彼らが実際に超知能が可能性が高く、超知能が人間にとって非常に否定的である可能性が高いと信じているなら、何が彼らを動機づけ続けるのでしょうか?
彼らは、ええ、私でもいいやと思っているのでしょうか?彼らは、誰よりも良い仕事をするつもりだと思っているのでしょうか?それとも、神皇帝になれるかもしれないと思っているのでしょうか?
ええ、つまり、繰り返しますが、私は心を読む人ではありません。私の推測では、それはある種の混合です。そして、イーロン・マスクは夏に出てきて、ターミネーターを本物にしたくなかったので、しばらくこのものの一部を避けたと言いました。
そして、彼は続けました、でも、私は傍観者になるか参加者になるかの選択肢があることに気づきました。そして、私は参加者になりたいです。
まあ、少なくとも私にはその選択をする必要はありません。私は傍観者になるか、あるいは、これを気にして、焦点にすることで参加者になるのでしょうか?
もう少し他の創設者について言葉を投げる前に、そのポイントに飛び乗ります。
ええ。ええ。
リークされたOpenAIのメールを見ることができます。彼らは権力の集中について心配していました。OpenAIは元々、この奇妙な新しい企業構造、非営利として設立されました。それは、そこにいた人々が、一人の人の利益ではなく、みんなの利益のためにAIが作られることについて本当に心配していたからです。
そして、その元々の創設ビジョンは時間とともに崩壊してきました。取締役会とのさまざまなドラマがありました。創設メンバー間の分裂がありました。でも、私はそれらの会話の間周りにいました。そして、私は彼らに叫ぼうとしていました。丁寧にですが、私は言おうとしていました。
問題はバナナを誰が得るかではありません。問題は、バナナを実際にみんなにとって良いものにする方法を知らないということです。それは企業構造についてではありません。
だから、私たちは、それらを実際に友好的である方法で成長させる方法を知りません。そして、みんなは、ネイト、黙れという感じでした。私たちは、Googleや何かの代わりにこれを得ることを確認しています。
ええ。でも、そこには本当のビジョンがありました。そして、私たちはまた、Anthropicが、安全性のものを十分に真剣に受け止めていなかったためにOpenAIを去った人々によって作られたのを見ました。
ええ。そして、Ilya Sutskeverが自分のグループを立ち上げることにつながった別の波がありました。他のさまざまな人々が去ることにつながりました。
多くのイデオロギー的動機があります。それは純粋なイデオロギー的動機ですか?おそらくそうではありません。何人かの人々は心の奥底で神皇帝になることを望んでいますか?多分。彼らはそれからもっと投資を得ることができますか?おそらくそれからも要因があります。
そして、AIがバブルである可能性が高いと思います。
まあ、今、今、ええ、でも.comバブルが一つのことだったのと同じ方法で、でもそれからインターネットが重要になることがわかりました。
ええ。ええ。そして、インターネットは本物でした。
ええ。AIのものはバブルかもしれませんが、それは本物でもあります。
本物でもあります。かつて、私は書きました。なぜなら、私は時々SF
をするからです。私は書き留めました。私たちはいつもロボット戦争がロボット対人間だと思っていました。でも、実際には人間対人間になります。そして、両方の側はロボットによってコントロールされます。
それについてどう思いますか?私たちが自分自身をこのものの一部として数えられないということはできないと思います。本の中であなたが心配していることの一つは、もしこれらのものがどんな知的タスクでも人間よりも優れているなら、彼らが優れている知的タスクの一つは人々を操作することです。
ええ。そして、私はすでにAIによって非常に操作されていると感じています。でも、これらのAIが私をTikTokから去らせないために完全に設計されているからだけです。もし別の目標を持っていたらどうでしょうか?そして、彼らがより戦略的になるにつれて、それは別のボールゲームです。
ええ。ええ。そして、最高の人間の精神的タスクよりも優れていることの一つは、彼らがまたより良いAIを作ることとより良いロボットを作ることが得意だということです。だから、人間をダイナミクスから数えられないとは思いません。起こりそうなすべての種類の複雑なダイナミクスがあると思います。
起こる可能性のあるすべての種類のことがあります。私が言いたいのは、最終ボスに到達しない未来が行く方法があるということです。それは、AIが少し賢くなるが、それほど賢くならないというものです。そして、人々はそれらを使ってパンデミックを作っています。人々はそれらを使って電力網全体を停止させています。
AIが彼らが自分自身を言う、わかった、お前らはくそくらえというレベルに達する前に、物事が本当にクレイジーになる可能性があるすべての種類の方法があります。でも、人間が危険にさらされる場所は、AIが稼働していて、自己支援のような自分自身のインフラを持っているときです。なぜなら、サルは電力網を動かすのにちょっと悪い方法だからです。私たちは少し信頼できません。
時々、私たちは怒って核兵器を発射します。時々、私たちは別のAIを作ります。それは本当の競争になる可能性があります。私たちはコンピューターが動く速さに比べて遅いです。だから、AIの観点からは、もし奇妙な目標を持っているなら、それは、わかった、人間を操作するすべての種類のこと、自動化されたサプライチェーンを持つまでやるすべての種類のことがあります。
自動化された能力を持つまで、もっとチップを作る、もっとロボットを作る、等々。その後、私の推測では、人間は少なくとも権限を失います。
私たちを殺さないかもしれませんが、核兵器を取り上げています、コンピューターを取り上げていますという感じかもしれません。お前らはそうだった。それから、物事が熱くなって私たちは死ぬかもしれませんが。
ええ。つまり、それに至るまで、そしてそこに決して到達しないかもしれません。なぜなら、物事が最初にクレイジーになるかもしれないからです。でも、その準備では、ええ、ええ、私たちが非常に自信を持つことができる一つのことは、未来は奇妙になるつもりだということです。
そして、それは私が10年前に感じた方法ではありません。2015年、私は未来がそれほど奇妙になるとは思っていませんでした。そして今、私は確かにそう思います。
わかりました。あなたを行かせなければなりません。本はもし誰かがそれを構築すれば、みんなが死ぬです。
最後に
Control AIという組織についてどう思いますか?
彼らは、彼らの信念の勇気で話す非常に数少ない組織の一つだと思います。多くの人々は言葉を慎んでいます。
私たちは最近、この国連決議を見ました。そこで、彼らは、みんながこれがどう本当にひどくなる可能性があるかをほのめかすような感じでした。Control AIは、ええ、これらの人々は砂の神を構築しようとしていて、デフォルトの結果はそれが私たちを殺すだけだとはっきり言う数少ないものの一つです。
私は一日中小さな違いのナルシシズムで言い争うことができますが、根本的には、彼らがやっている仕事をしていることを嬉しく思っています。
それは、あなたが人々にチェックアウトすることを提案するいくつかの組織の一つですか?
ええ、Future of Life Instituteです。
なるほど。別の、似たようなグループです。
もし人々がこの問題に興味があって、物事をより良くすることに興味があるなら、私が推薦する最上位のことの一つは、実際にあなたの代表者に電話して、私はこれについて心配していますと言うことです。
なぜなら、代表者は世界で最も賢いわけではないかもしれません。私は実際に、心配していて、話すことができないと感じている下院議員と上院議員と話したことがあります。なぜなら、大手テクノロジー企業があり、規制しようとするどんな政治家も破壊しようとする巨大なスーパーPACがあり、彼らはそれがあまりにもクレイジーだと感じているからです。
でも、人々から聞くだけで、私は多くを助けると思います。
政府の制御から完全に外れている原子力レベルのものがあり、それが単に超…何かを言いすぎたくないですが、ただの人々です。彼らはただの人々です。
完全に。そして、これは誇大広告のものへのもう一つの答えですよね?もしMicrosoftに核兵器部門があったら。
ええ。それは悪いと言います。でも、彼らが核兵器部門を持っていたら、誰かが、ああ、まあ、彼らはただ投資を引き出すために誇大広告を使っているだけだと言うでしょう。
多分、彼らは核兵器部門のために追加の投資を得ているかもしれません。でも、Microsoftは核兵器部門を持つべきではありません、みんな。私たちは何をしているんですか?
ええ、でも、核兵器が私のヒューストンへの旅行を予約するのを助けてくれるなら、私は知らないかもしれません。
ええ、どうやら。どうやら。ええ。そして、利益についての私の立場は、それは、私たちが決して好きにできない、飛行機に乗っているような誤った二分法だということです。着陸装置がないこの飛行機に乗らなければならないと誰かが言っているなら、いや。
最初に着陸装置のある飛行機を作ってください。みんなを殺す巨大な可能性があるときに、サイコロを振る必要はありません。そこでより良いサイコロを作ってください。そして、それをする方法があります。そして、それらが何かはまだわかりませんが、それをする方法があります。
あなたが別のインタビューで言うのを聞いたケースを作ります。100万ドルの給料ボーナスを得ている人々は、それをうまくやる方法を理解しようとしている人々ではないということです。
その通りです。その通りです。一日一日です。
少なくとも、それは面白くなるでしょう。ネイト、私と一緒に時間を過ごしてくれてありがとう。
私の喜びです。素晴らしい会話だったと思います。私たちは新しい領域をいくつかカバーできたと思います。
ええ、もう1時間半あればいいのにと思います。
コメント