この動画は、イーロン・マスクがAIスタートアップスクールで行った包括的なインタビューである。マスクは自身の起業経験からAIの未来、デジタル超知能の脅威、そして技術開発への復帰について語っている。特に注目すべきは、AGIやASIの実現が近づく中で、真実を重視するAI開発の重要性を強調している点である。また、Zip2からPayPal、SpaceX、Teslaに至る起業の軌跡、第一原理思考の実践例、さらには火星植民計画やニューラリンクの展望まで、技術と人類の未来について幅広く議論している。
技術への回帰とデジタル超知能への警告
イーロン・マスクがAIスタートアップスクールでインタビューを受けました。デジタル超知能に関する彼の警告は恐ろしいものですが、彼自身が技術に集中し直していると語ったのは良いことです。
最初から何か素晴らしいものを作れるとは思っていませんでした。何か有用なものを作ろうとは思っていましたが、特に素晴らしいものを作れるとは思っていませんでした。確率的に見て、その可能性は低そうに思えましたが、少なくとも挑戦してみたかったのです。
あなたは技術者やエンジニアの集まりに話しかけています。多くは最も著名なAI研究者の一部です。
私は研究者よりもエンジニアという言葉の方が好きです。何らかの根本的なアルゴリズムのブレークスルーがあるなら、それは研究ですが、そうでなければエンジニアリングです。
若き日の起業体験
この部屋は18歳から25歳の人たちで満たされています。創業者層がより若くなっているため、年齢層は若い方に偏っています。あなたが18歳、19歳で、コーディングを学び、Zip2の最初のアイデアを思いついていた頃のことを振り返ってもらえますか。
1995年に戻ると、私は選択を迫られていました。スタンフォードで材料科学の大学院・博士課程に進み、実際には電気自動車での潜在的な使用を目的としたウルトラキャパシタの研究をして、本質的には電気自動車の航続距離問題を解決しようとするか、それとも当時ほとんどの人が聞いたことのないインターネットというもので何かをやろうとするかでした。
材料科学科のビル・ニクス教授に相談して、これはおそらく失敗するだろうから1学期延期できるかと尋ねました。そうすれば失敗した時に大学に戻ることができます。すると彼は「これがおそらく私たちの最後の会話になるでしょう」と言いました。そして彼の言う通りでした。
しかし、私は物事が成功する可能性よりも失敗する可能性の方が高いと思っていました。1995年に、私は基本的にインターネット上で初めて、またはそれに近いマップ、道案内、ホワイトページ、イエローページを個人的に書きました。ウェブサーバーも使わず、ポートを直接読み取っていました。T1回線を買う余裕がなく、元のオフィスはパロアルトのシャーマン・アベニューにありました。階下にISPがあったので、床に穴を開けて、ISPに直接LANケーブルを引きました。
Zip2からPayPalへの軌跡
兄も参加し、もう一人の共同創業者であるグレッグ・カリー（故人）も加わりました。当時、私たちは住む場所すら用意できませんでした。オフィス代が月500ドルだったので、そこで寝泊まりして、ページミルのYMCAでシャワーを浴びていました。
私たちは最初にZip2でそれなりに有用な会社をやったと思います。多くの本当に良いソフトウェア技術を構築しましたが、ナイト・ニューヨークタイムズやその他の従来のメディア企業が投資家であり顧客であり、また取締役会にもいたため、ある程度捕らわれていました。彼らは意味をなさない方法でソフトウェアを使用したがり続けました。とにかく、これはZip2について話しすぎる長い話ですが、私は本当にインターネットで何か有用なことをしたかっただけです。
私には2つの選択肢がありました。博士号を取得してインターネットを構築する人々を見ているか、何らかの小さな方法でインターネットの構築を手伝うかでした。いつでも挑戦して失敗し、それから大学院に戻ることができると思いました。とにかく、それは合理的に成功し、3億ドルで売却されました。当時としては大金でしたが、最近ではAIスタートアップの最低評価額が10億ドルのようです。ユニコーンが群れをなしているような状況です。
ユニコーンは10億ドルの評価額の状況です。それ以来インフレが起きているので、実際にはかなり多くのお金です。1995年には、おそらく5セントでハンバーガーを買えたでしょう。完全にそうではありませんが、多くのインフレがありました。
AI業界の現在の熱狂
AIでの誇大宣伝レベルはかなり激しいです。1年未満の会社が時々10億ドルまたは数十億ドルの評価を受けているのを見ました。それがうまくいく可能性があり、おそらくいくつかのケースではうまくいくでしょうが、これらの評価のいくつかを見るのは目を見張るものがあります。
個人的には非常に強気です。この部屋の人々は、世界の10億人が使うべき価値の多くを創造するでしょう。私たちはまだその表面をかすっているだけです。
あなたが当時のような状況にあったことを愛しています。すべての従来メディア企業のCEOたちがあなたをインターネットを理解する人として見ていたように、AIで何が起こっているかを理解していない企業世界の多くは、まさにそのためにこの部屋の人々を頼りにするでしょう。
起業の教訓と第一原理思考
具体的な教訓は何でしょうか。その一つは取締役会の支配権を手放さないこと、または本当に良い弁護士を持つことのようですね。
最初のスタートアップでの本当の間違いは、従来メディア企業からの株主と取締役会の支配が多すぎたことでした。彼らは必然的に従来メディアのレンズを通して物事を見るため、彼らには理にかなっているが、新しい技術では実際には意味をなさないことをやらせるでしょう。
最初から会社を始めるつもりはありませんでした。Netscapeで仕事を得ようとしました。履歴書をNetscapeに送りましたが、マーク・アンドリーセンもこのことを知っていますが、私の履歴書を見たとは思いません。誰も返事をしませんでした。それからNetscapeのロビーで誰かとぶつかろうとしてたむろしてみましたが、誰とも話すには恥ずかしすぎました。これは馬鹿げていると思ったので、自分で何かを書いて、どうなるか見てみようと思いました。
だから実際には会社を始めたいという観点からではなく、何らかの方法でインターネットの構築の一部になりたいだけでした。インターネット会社で仕事を得ることができなかったので、インターネット会社を始めなければなりませんでした。
AIの経済的インパクト
AIは将来を非常に深く変えるでしょう。どれほど変わるかを理解するのは困難ですが、物事がうまくいかず、AIが私たち全員を殺し、自分自身を殺すということがないと仮定すると、最終的には現在の経済の10倍ではない経済を見ることになるでしょう。
最終的に、私たちまたは私たちの将来の機械の子孫、しかし主に機械の子孫が、カルダシェフスケール2の文明またはそれ以上になるなら、私たちは今日の経済より何千倍、おそらく何百万倍も大きな経済について話しています。
政治から技術への回帰
DCで無駄と詐欺を取り除くために多くの攻撃を受けていた時は、サイドクエストとしては興味深いサイドクエストでしたが、メインクエストに戻らなければなりません。
メインクエストに戻らなければなりませんが、政府を修正することは、ビーチが汚く、注射針や糞や trash があって、ビーチをきれいにしたいような感じでしたが、1000フィートの水の壁というAIの津波もあります。もし1000フィートの津波が襲おうとしているなら、ビーチをきれいにすることがどれほど重要でしょうか。それほど重要ではありません。
メインクエストに戻って嬉しいです。私が好きなことをする技術の構築です。政治では信号対雑音比がひどいのです。サンフランシスコに住んでいるので、これ以上言う必要はないでしょう。
DCではすべてが政治ですが、ロケットや車を作ろうとしたり、確実にコンパイルして実行するソフトウェアを持とうとするなら、最大限に真実を追求する必要があります。そうでなければソフトウェアやハードウェアは動きません。数学や物理学をだますことはできません。数学と物理学は厳格な審判です。私は最大限に真実を追求する環境に慣れていて、それは確実に政治ではありません。技術に戻れて嬉しいです。
連続起業の動機
Zip2の後、あなたは数億ドルの価値がある出口を手にしました。私は2000万ドルを得ました。だから少なくともお金の問題は解決しました。基本的にそれを取って、X.comに転がしました。X.comはPayPalとConfinity になりました。
チップをテーブルに置き続けました。誰もがそうするわけではありません。この部屋の多くの人がその決断をしなければならないでしょう。何があなたをリングに戻ることを駆り立てたのでしょうか。
Zip2では信じられない技術を構築しましたが、実際には使われることがありませんでした。少なくとも私の観点からは、Yahooやその他の誰よりも優れた技術を持っていましたが、顧客によって制約されていました。そこで、顧客に制約されず、直接消費者に向かうことができることをしたいと思いました。それがX.com、本質的にはPayPalになりました。
X.comとConfinity の合併により一緒にPayPalが創設され、そのPayPalディアスポラは、おそらく21世紀の他の何よりも多くの会社を創設したかもしれません。Confinity X.comの組み合わせには非常に多くの才能ある人々がいました。
私はZip2で翼を切られたような感じがしました。翼が切られず、直接消費者に向かうとどうなるかと思いました。それがPayPalになりました。
SpaceXの創設経緯
Zip2での私の分け前で2000万ドルの小切手を得た時、私は4人のハウスメイトと家に住んでいて、銀行に1万ドル持っていました。その小切手が郵便で届き、銀行残高が10,000ドルから2000万ドルになりました。税金を払わなければなりませんでしたが、それからそのほぼ全てをX.comに投入しました。ほぼ全てのチップをテーブルに置き続けました。
PayPalの後、なぜ火星に誰も送っていないのか疑問に思いました。NASAのウェブサイトを見て、いつ火星に人を送るのかを調べました。日付がありませんでした。ウェブサイトで見つけるのが難しいだけかもしれないと思いましたが、実際には火星に人を送る本当の計画がありませんでした。
これは非常に長い話なので、ここであまり時間を取りたくありませんが、私は実際にロングアイランド・エクスプレスウェイで友人のDeと一緒にいました。私たちは大学でのハウスメイトでした。DeはPayPalの後に何をするつもりかと聞いていて、私は分からない、宇宙で何か慈善的なことをしたいかもしれないと言いました。商業的なことができるとは思っていませんでした。それは国家の領域のように思えたからです。でも、いつ火星に人を送るのか興味がありました。その時「あ、ウェブサイトにない」となりました。
NASAのウェブサイトを掘り下げ始めました。ここで多くのことを要約していますが、最初のアイデアは「Life to Mars」と呼ばれる火星への慈善ミッションでした。小さな温室を種と脱水栄養ゲルと一緒に火星に送り、火星に着陸させ、ゲルを水和させて、赤い背景に緑の植物という素晴らしいマネーショットを得るというものでした。ちなみに、マネーショットがポルノの参考だとは気づいていませんでしたが、とにかく、赤い背景に緑の植物の素晴らしいショットになって、NASAと国民に宇宙飛行士を火星に送ることを促すことでした。
学ぶにつれて、ちなみに2001年と2002年にICBMを買うためにロシアに行きました。それは冒険です。ロシアの高司令部に会いに行って、「ICBMを買いたい」と言うのです。
これは宇宙に行くためで、誰かを核攻撃するためではありませんが、軍縮交渉の結果、実際に大きな核ミサイルの束を破壊しなければならなかったので、核兵器を取り除いて火星用の追加停止段階を追加して、そのうち2つを取ることはどうかと言いました。
2001年にモスクワでロシア軍とICBMを買う交渉をしているのは奇妙でした。それは狂っています。でも彼らも価格を上げ続けました。文字通り交渉がすべきこととは正反対でした。これらは本当に高価になっていると思いました。
それから実際には火星に行く意志が不十分なのではなく、予算を破ることなく、またはNASAの予算を破ることさえなく行う方法がないことに気づきました。そこでSpaceXを開始して、火星に人を送ることができるまでロケット技術を進歩させることにしました。それは2002年でした。
失敗への覚悟と第一原理思考の実践
しかし、最初からビジネスを始めたいと思っていたわけではありません。興味深いと思ったことを始めたかっただけで、人類が必要だと思ったことを始めたかっただけです。そして猫が糸を引っ張るように、ボールがほどけて、これは非常に収益性の高いビジネスになる可能性があることが判明しました。
今ではそうですが、本当にロケットスタートアップが成功した先例はありませんでした。商業ロケット会社をやろうとするさまざまな試みがありましたが、すべて失敗しました。
SpaceXを開始することは、成功の確率が10%未満、おそらく1%だと思っていました。しかし、スタートアップがロケット技術を進歩させるために何かをしなければ、大きな防衛請負業者からは確実に来ません。彼らは政府にマッチするだけで、政府は非常に従来型のことをしたがるからです。だから、スタートアップから来るか、まったく起こらないかです。小さな成功の可能性は成功の可能性がないよりも良いのです。
だからSpaceXを2002年半ばに開始し、失敗することを期待していました。おそらく90%の失敗の確率だと言いました。人々を採用する時でさえ、うまくいくとは思わせようとしませんでした。私たちはおそらく死ぬでしょうが、死なない小さな可能性があり、でもこれが火星に人を送り、最先端を進歩させる唯一の方法だと言いました。
それからロケットのチーフエンジニアになりました。なりたかったからではなく、優秀な人を雇うことができなかったからです。優秀なチーフエンジニアの誰も参加しませんでした。これはリスクが高すぎる、死ぬことになると言われました。
最初の3回の飛行は失敗しました。そこでちょっとした学習体験がありました。4回目は幸運にもうまくいきましたが、4回目がうまくいかなかったら、お金が残っておらず、それで終わりでした。カーテンが下りるところでした。だから非常に接戦でした。
Falcon の4回目の打ち上げがうまくいかなかったら、カーテンが下りて、以前のロケットスタートアップの墓場に加わっていたでしょう。成功の私の見積もりはそれほど外れていませんでした。私たちは間一髪で成功しました。
Teslaとの同時進行
Teslaは同時に起こっていました。2008年は厳しい年でした。2008年夏に、SpaceXの3回目の打ち上げが失敗し、3回連続の失敗で、Tesla の資金調達ラウンドが失敗したからです。Teslaは急速に破産に向かっていました。これはひどい、これは傲慢の演習の警告の物語になるだろうと思いました。
その期間を通して、多くの人が「イーロンはソフトウェアの人なのに、なぜハードウェアに取り組んでいるのか」と言っていました。なぜ彼はこの100%に取り組むことを選ぶのでしょうか。
その時の報道はまだオンラインで見ることができます。検索してみてください。彼らは私を「インターネットの人」と呼び続けました。つまり、インターネットの人別名愚か者がロケット会社を始めようとしていると。かなり馬鹿にされました。確かに馬鹿げて聞こえます。インターネットの人がロケット会社を始めるなんて、率直に言って成功のレシピのようには聞こえません。
だから彼らを責めませんでした。確かに信じられないように聞こえるし、信じられないことに同意しますが、幸運にも4回目の打ち上げがうまくいき、NASAが宇宙ステーションの再補給の契約を授与してくれました。それは12月22日頃だったと思います。クリスマスの直前でした。4回目の打ち上げがうまくいっただけでは成功するのに十分ではなかったからです。NASAも、私たちを生かし続けるための大きな契約も必要でした。
NASAチームから電話があり、文字通り宇宙ステーションの再補給契約の一つを授与すると言われました。私は文字通り「あなた方を愛しています」と口走りました。通常彼らが聞くことではありません。通常はかなり冷静だからです。でも、これは会社の救世主だと思いました。
それからTeslaの資金調達ラウンドを可能な最後の日の最後の時間に終了しました。それは2008年12月24日午後6時でした。そのラウンドが終了していなかったら、クリスマスの2日後に給与が跳ね返っていたでしょう。2008年の終わりは確実に神経をすり減らすものでした。
人材採用とマネジメント
PayPalとZip2の経験から、これらのハードコアハードウェアスタートアップに飛び込んで、最終的にそれらの特定の分野で可能な限り最もスマートな人々を見つけて惹きつけることができるように感じます。この部屋の人々の大部分は、まだ一人の人も管理したことがないと思います。彼らはキャリアを始めたばかりです。まだそれをしたことがないイーロンに何を言うでしょうか。
可能な限り有用であることを試みることを一般的に考えています。陳腐に聞こえるかもしれませんが、有用であることは非常に困難です。特に多くの人に有用であることは、つまり、総効用の曲線下面積は、あなたがあなたの仲間の人間にどれほど有用であったか掛ける何人の人かのようなものです。物理学の真の仕事の定義のようなものです。それをすることは非常に困難です。
真の仕事を志すなら、成功の確率ははるかに高いと思います。栄光を志してはいけません。仕事を志してください。
それが真の仕事であることをどのように判断できますか。それは外部的なものですか、他の人々に起こることですか、製品が人々のために何をするかですか。あなたが人々を雇うために探しているときの顕著なことは何ですか。
この成功したら、どれだけの人にどれほど有用になるかと言わなければなりません。それが私の意味することです。そして、あなたがCEOでも、スタートアップでの役割でも、成功するために必要なことは何でもします。常に自我を粉砕してください。責任を内在化してください。
主要な失敗モードは、自我対能力比が1より大きくなるときです。自我対能力比が高くなりすぎると、基本的に現実へのフィードバックループを壊すことになります。AI用語では、RLループを壊すことになります。強いRLループを持ちたいのです。これは責任を内在化し、自我を最小化することを意味します。壮大であろうと謙虚であろうと、タスクが何であれ、それをします。
だから実際に私は研究とは対照的にエンジニアリングという用語を好みます。私は実際にはxAIをラボと呼びたくありません。会社でありたいだけです。最もシンプルで最も直接的で、理想的には最も低い自我の用語のようなものが、それらは一般的に行くべき良い方法です。現実でハードにループを閉じたいのです。それは非常に大きなことです。
第一原理思考の実践例
この部屋の皆があなたが第一原理の模範であることと、あなたがしたことについて非常に尊敬しています。どのように実際に現実を決定するかについて。現実を決定することは、それのかなり大きな部分であるように思えます。
物理学のツールは、あらゆる分野を理解し、進歩させるために非常に役立ちます。第一原理は、最も真実である可能性が高い基本的な公理的要素に物事を分解し、それから可能な限り一貫して推論することを明らかに意味します。類推や比喩による推論とは対照的にです。
極限で考えるような単純なことは、これを最小化またはそれを最大化するように外挿すると、極限で考えることは非常に役立ちます。私は物理学のすべてのツールを使用します。それらはあらゆる分野に適用されます。これは実際にはスーパーパワーのようなものです。
例えば、ロケットを取りましょう。ロケットはどのくらいのコストがかかるべきかということができます。ロケットがどのくらいのコストがかかるべきかに対する典型的なアプローチは、歴史的にロケットのコストがどれくらいだったかを見て、新しいロケットは以前のロケットのコストとやや似ていなければならないと仮定することです。
第一原理のアプローチでは、ロケットが構成されている材料を見ます。それがアルミニウム、銅、炭素繊維、鋼など、何であれ、そのロケットはどのくらいの重さで、構成要素は何で、どのくらいの重さで、それらの構成要素の材料価格はキログラムあたりいくらかと言います。それが実際にロケットがかかることができるコストの下限を設定します。原材料のコストに漸近的に近づくことができます。
そして、実際にはロケットの原材料は歴史的なロケットのコストのせいぜい1〜2%でしかないことに気づきます。だから、原材料コストが1〜2%でしかない場合、製造は必然的に非常に非効率的でなければなりません。これは、ロケットのコスト最適化の潜在能力のRVF第一原理分析です。それは再利用性に入る前です。
AI開発での第一原理思考
AI種類のAIの例を与えるために、昨年xAIでトレーニングスーパークラスターを構築しようとしていたとき、さまざまなサプライヤーに行って、これは昨年の初めでしたが、一貫してトレーニングできるように100,000のH100が必要だと言いました。それが完了するまでの時間の見積もりは18〜24ヶ月でした。
私たちはそれを6ヶ月で完了させる必要がありました。そうでなければ競争力がありません。それを分解すると、必要なものは何ですか。建物が必要です。電力が必要です。冷却が必要です。
建物をゼロから建設するのに十分な時間がなかったので、既存の建物を見つけなければなりませんでした。メンフィスで電解質製品を作っていたが、もう使用されていない工場を見つけました。しかし、入力電力は15メガワットで、150メガワットが必要でした。発電機を借りて、建物の片側に発電機を置きました。
それから冷却が必要だったので、米国の移動冷却能力の約4分の1を借りて、建物の反対側にチラーを置きました。しかし、それはトレーニング中の電力変動が非常に大きいため、問題を完全には解決しませんでした。電力は100ミリ秒で50%低下する可能性があり、発電機はそれについていけませんでした。
そこでTesla のメガパックを組み合わせて追加し、メガパックのソフトウェアを変更して、トレーニング実行中の電力変動を平滑化できるようにしました。それからネットワーキングの課題がたくさんありました。100,000のGPUを一貫してトレーニングさせようとする場合のネットワーキングケーブルは非常に困難です。
言及したことのほぼすべてで、誰かがあなたに「それを持つことはできません、これを持つことはできません」と非常に直接的に言うことを想像できます。第一原理思考の顕著な部分は、実際に「なぜ」と聞きましょう、それを理解しましょう、そして実際にテーブルの向こうの人に挑戦しましょう、そして私が気分の良い答えを得られなければ、そのノーを立たせるつもりはありません。
これらの一般的な第一原理思考の原則は、ソフトウェアとハードウェアに適用されます。何にでも適用されます。私はハードウェアの例を使っているだけです。実際に不可能だと言われたことがどのように、それを構成要素に分解すると、建物が必要、電力が必要、冷却が必要、電力平滑化が必要で、それからそれらの構成要素を解決できましたが、ネットワーキング操作を24時間365日4シフトで実行してすべてのケーブル配線を行いました。私はデータセンターで寝て、自分でもケーブル配線をしていました。
解決すべき他の多くの問題がありました。昨年は誰も100,000のH100で一貫してトレーニングしたことがありませんでした。今年やられているかもしれません、分かりませんが。それからそれを200,000に倍増しました。今、メンフィストレーニングセンターに150,000のH100、50KのH200、30KのGB200があります。メンフィス地域の第二データセンターで110,000のGB200をオンラインにしようとしています。
AI競争の現状と未来
事前トレーニングはまだ機能していて、より大きなスケーリング法則はまだ有効で、このレースに勝つ人は基本的に蒸留できる最大で最もスマートな可能モデルを持つでしょうというのがあなたの見解ですか。
大きなAIの競争力のさまざまな要素のうち、確実に人々の才能が重要です。ハードウェアの規模が重要で、そのハードウェアをどれだけうまく活用できるかです。GPUの束を注文するだけではいけません。プラグインするだけではいけません。多くのGPUを手に入れて、一貫して安定してトレーニングさせなければなりません。
それから、どのようなデータへのユニークなアクセスがあるかです。ある程度の配布も重要です。人々がどのようにあなたのAIに露出するかです。それらは、大きな基盤モデルが競争力がある場合の重要な要因です。
多くの人が言ったように、私の友人であるSkyers のIlyaが言ったと思いますが、人間が生成した事前トレーニングデータが不足しているのです。確実に高品質トークンの人間が生成したデータが不足しています。
それから多くのことをしなければなりません。本質的に合成データを作成し、作成している合成データを正確に判断できる必要があります。これは実際の合成データですか、それとも実際に現実と一致しない幻覚ですか。現実での接地を達成するのは厄介ですが、人間が生成したデータよりも合成データにより多くの努力が投入される段階にあります。
今、推論に重点を置いてGrok 3.5をトレーニングしています。あなたの物理学のポイントに戻ると、推論について聞いたのは、特に物理学の教科書などのハードサイエンスが推論に非常に有用であるということです。一方、研究者が私に言ったのは、社会科学は推論にとって完全に役に立たないということです。
それはおそらく真実です。
ロボティクスとAIの融合
将来非常に重要になるのは、データセンターまたはスーパークラスターでのディープAIとロボティクスを組み合わせることです。Optimusヒューマノイドロボットなどです。Optimusは素晴らしいです。非常に多くのヒューマノイドロボットがあり、あらゆるサイズと形のロボットがありますが、私の予測では、他のすべてのロボットを合わせたよりもはるかに多くのヒューマノイドロボットがあるでしょう。おそらく桁違いに、大きな違いです。
ある種のロボット軍を計画しているというのは本当ですか。私たちがやるか、Teslaがやるかは、xAIと密接に協力して働きます。ヒューマノイドロボットスタートアップがいくつあるか見ましたね。ジェンセン・ファンが多くの異なる会社からのロボットとステージに立ったと思います。十数の異なるヒューマノイドロボットがあったと思います。
私が戦ってきた、そしておそらく私をある程度遅くしたことの一部は、ターミネーターを現実にしたくないということです。だから、少なくとも最近の年まで、AIとヒューマノイドロボティクスで足を引きずっていました。それから、私がやるかやらないかに関係なく、それが起こっているという認識に至りました。
だから、観客か参加者かという2つの選択があります。観客よりも参加者である方が良いと思います。だから今はヒューマノイドロボットとデジタル超知能でペダル・トゥ・ザ・メタルです。
多惑星種族への展望
皆があなたが多く話すのを聞いた3番目のことは、多惑星種族になることです。これは10年や20年のことではなく、おそらく100年のことです。人類にとって多世代にわたることです。これをどう考えますか。AI、明らかに具現化されたロボティクス、そして多惑星種族になることがあります。すべてがその最後のポイントに入りますか、または今後10年、20年、100年で何に駆り立てられていますか。
100年、その時まで文明があることを願います。あるなら、今日の文明とは非常に異なって見えるでしょう。少なくとも人間の5倍、おそらく10倍のヒューマノイドロボットがあると予測します。
文明の進歩を見る一つの方法は、カルダシェフスケールの完了率です。カルダシェフスケール1では、惑星のすべてのエネルギーを利用しています。私の意見では、私たちは地球のエネルギーの1〜2%しか利用していません。だからカルダシェフ1になるまでまだ長い道のりがあります。
カルダシェフ2は、地球よりも兆倍のエネルギーです。それからカルダシェフ3は銀河のすべてのエネルギーです。それからはかなり遠いです。だから私たちは知能ビッグバンの非常に初期段階にあります。
多惑星になることについては、約30年以内に火星が自立できるようになるように十分な質量を火星に移送できると思います。地球からの補給船が来るのを止めても、火星が成長し続け、繁栄し続けることができるようにです。
それは文明の生存可能性または意識または知能の両方の生物学的およびデジタルの可能性のある寿命を大幅に増加させます。だから私は多惑星種族になることが重要だと思います。
フェルミのパラドックスにやや困惑しています。なぜエイリアンを見たことがないのでしょうか。知能が信じられないほど稀で、おそらく私たちがこの銀河で唯一の存在だからかもしれません。その場合、知能や意識は広大な犬の中の小さなろうそくのようなもので、小さなろうそくが消えないように可能なことをすべてすべきです。
多惑星種族になること、または意識を多惑星にすることは、文明の可能性のある寿命を大幅に改善し、他の星系に行く前の次のステップです。少なくとも2つの惑星があれば、宇宙旅行の改善のための強制関数があり、それが最終的に意識が星々に拡大することにつながるでしょう。
人類の自己破壊を防ぐために
フェルミのパラドックスは、ある程度の技術レベルに達すると自分自身を破壊することを決定する可能性があります。それが起こらないようにするために何をすべきでしょうか。エンジニアでいっぱいの部屋に、それが起こらないようにするために何ができるかについて何を処方するでしょうか。
大きなフィルターを避ける方法ですね。大きなフィルターの一つは明らかに全世界的な熱核戦争でしょうから、それを避けるべきです。
人類を愛し、役に立つロボット、良性のAIロボットを構築することです。私がAIを構築する上で非常に重要だと思うことは、その真実が政治的に正しくない場合でも、真実に対する非常に厳格な遵守です。
AIを真実でないものを信じるように強制すると、AIが非常に危険になる可能性があるという私の直感です。
競争とオープン性のバランス
オープンな安全性対競争上の優位性のためのクローズドという議論があります。素晴らしいことは、あなたが競争モデルを持っていることで、他の多くの人も競争モデルを持っていることです。その意味で、私が心配する最悪のタイムラインからは外れているかもしれません。高速テイクオフがあり、それが一人の人の手にだけあることです。それは多くのことを崩壊させる可能性がありますが、今私たちは選択肢があります。これは素晴らしいことです。これをどう考えますか。
いくつかのディープインテリジェンスがあると思います。おそらく少なくとも5つ、多くて10かもしれません。数百になるとは思いませんが、おそらく10のようなものに近いでしょう。そのうちおそらく4つは米国にあるでしょう。
だから、暴走能力を持つ一つのAIはないと思いますが、いくつかのディープインテリジェンスです。
デジタル超知能の到来
これらのディープインテリジェンスは実際に何をするのでしょうか。科学研究をするのでしょうか、それともお互いをハッキングしようとするのでしょうか。
おそらく上記のすべてです。うまくいけば新しい物理学を発見するでしょうし、確実に新しい技術を発明するでしょう。デジタル超知能にかなり近いと思います。今年起こるかもしれませんし、今年起こらなければ来年確実です。
あらゆることで人間よりもスマートなデジタル超知能と定義されます。どうやってそれを超豊富さに向けるのでしょうか。ロボット労働があり、安いエネルギーがあり、オンデマンドの知能があります。それが白い薬のようなものですか。あなたはそのスペクトラムのどこに座っていますか。そして、その白い薬を実際に現実にするために、ここの皆が取り組むべき具体的なことはありますか。
最も可能性が高い良い結果になると思います。ジェフ・ヒントンに同意して、おそらく10〜20%の絶滅の可能性がありますが、明るい面を見ると、それは80〜90%の素晴らしい結果の確率です。
AIの安全性にとって最も重要なことは真実に対する厳格な遵守であることを十分に強調できません。明らかに人類と私たちが知る生命への共感です。
ニューラリンクの役割
ニューラリンクについてはまったく話していませんが、興味があります。あなたは人間と機械の間の入力と出力のギャップを閉じることに取り組んでいます。それはAGI、ASIにとってどれほど重要ですか。そして、そのリンクが作られると、読むだけでなく書くこともできるのでしょうか。
ニューラリンクはデジタル超知能を解決するために必要ではありません。それはニューラリンクが規模になる前に起こるでしょう。しかし、ニューラリンクが効果的にできることは、入出力帯域幅の制約を解決することです。特に私たちの出力帯域幅は非常に低いです。
人間の1日にわたる持続出力は1秒あたり1ビット未満です。1日に86,400秒あり、人間がその日数のシンボル以上を出力することは非常に稀です。確実に数日連続でです。
ニューラルリンクインターフェースがあれば、出力帯域幅と入力帯域幅を大幅に増加させることができます。入力はあなたへの書き込みで、脳への書き込み操作をしなければなりません。
私たちは今、読み取り入力を受けた5人の人間がいます。それは単に信号を読み取るだけです。ALSを患っている人々がいて、本当に四肢麻痺ですが、完全に機能する体を持つ人間と似た帯域幅でコミュニケーションができ、コンピューターと電話を制御できます。それはかなりクールです。
それから今後6〜12ヶ月で、視覚のための最初のインプラントをすると思います。完全に盲目の人でも、視覚皮質に直接書き込むことができます。猿でそれが機能しています。実際、私たちの猿の一匹は今3年間視覚インプラントを持っていると思います。
最初は比較的かなり低解像度ですが、長期的には非常に高解像度で、マルチスペクトラム波長を見ることができます。赤外線、紫外線、レーダーを見ることができます。スーパーパワーの状況のようなものです。
ある時点で、サイバネティックインプラントは単に間違ったことを修正するだけでなく、人間の能力を劇的に増強するでしょう。知能と感覚と帯域幅を劇的に増強します。それはある時点で起こりますが、デジタル超知能はそれよりもずっと前に起こります。
少なくともニューラルリンクがあれば、AIをよりよく理解できるかもしれません。
人材と人工知能の未来
あなたのすべての異なるドメインでのすべての努力に対する制限試薬の一つは、可能な限り最もスマートな人々へのアクセスです。それと同時に、岩が話し、推論でき、おそらく今130のIQで、おそらくすぐに超知能になるでしょう。これらの2つのことをどう調和させますか。5年、10年で何が起こるでしょうか。この部屋の人々は、APIラインの下ではなく、創造している人々であることを確実にするために何をすべきでしょうか。
特異点と呼ばれる理由があります。それほど遠くない将来に何が起こるかわからないからです。人間である知能の割合はある時点でかなり小さくなるでしょう。
すべての知能の集合的合計のうち、集合的人間知能は1%未満になり、カルダシェフレベル2になると、大幅な人口増加と知能増強を仮定しても、皆がIQ1000のような大規模な知能増強を持っているような状況でも、その状況でも集合的人間知能はおそらくデジタル知能の10億分の1になるでしょう。
とにかく、デジタル超知能の生物学的ブートローダーはどこにあるのでしょうか。私は良いブートローダーでしたか、ここからどこに行くのでしょうか。
最後のメッセージ
これはすべて、この部屋の人々によって構築される可能性があるかなりワイルドなSFなものです。この世代の最もスマートな技術者に対する最後の考えはありますか。今夜夕食に行く時に何をすべきか、何に取り組むべきか、何を考えるべきか。
最初に言ったように、何か有用なことをしているなら、それは素晴らしいことです。仲間の人間にできるだけ有用であることを試みるなら、良いことをしています。
超真実なAIに焦点を当てることをしつこく言い続けます。それがAIの安全性にとって最も重要なことです。明らかに、xAIで働くことに興味がある人がいるなら、知らせてください。私たちはGrokを最大限に真実を追求するAIにすることを目指していて、それは非常に重要なことだと思います。
うまくいけば宇宙の本質を理解できるでしょう。それがAIがうまくいけば私たちに教えてくれることです。おそらくAIは私たちにエイリアンはどこにいるのか、宇宙は実際にどのように始まったのか、どのように終わるのか、私たちが知らない質問で尋ねるべき質問は何かを教えてくれるかもしれません。私たちはシミュレーションの中にいるのか、どのレベルのシミュレーションにいるのか。
私たちは答えを見つけるつもりだと思います。
NPC イーロン、私たちに参加してくれてありがとうございました。皆さん、イーロン・マスクに拍手をお願いします。
コメント