本講演は、AI Startup Schoolにおけるイーロン・マスクの基調講演である。マスクは知能のビッグバンの初期段階にある現在、デジタル超知能の実現が目前に迫っていると述べ、多惑星種族になることが文明の存続確率を大幅に向上させると説明している。講演では、Zip2からSpaceX、Tesla、XAIに至るまでの起業家としての歩み、第一原理思考の重要性、そして人類にとって最も有用であることを目指すべきだという哲学が語られている。
知能のビッグバン時代の到来
私たちは知能のビッグバンの非常に初期段階にいます。多惑星種族になることで、文明や意識、生物学的・デジタル的知能の存続可能性が大幅に向上します。デジタル超知能の実現は非常に近いと思います。今年実現しなくても、来年には確実に実現するでしょう。
イーロン・マスクです。皆さん、拍手をお願いします。
イーロン、AI Startup Schoolへようこそ。今日はお越しいただき、本当に光栄です。お招きいただき、ありがとうございます。
起業家精神の原点
SpaceX、Tesla、Neurolink、XAIなど、これらすべてを始める前に、何か偉大なものを作らなければならないと感じた瞬間があったのでしょうか。そのスイッチを押したのは何だったのでしょう。
実は最初から偉大なものを作ろうと思っていたわけではありません。有用なものを作ろうとしていましたが、特に偉大なものを作るとは思っていませんでした。確率的に考えて、可能性は低そうでしたが、少なくとも挑戦してみたいと思っていました。
今日この場にいる皆さんは、技術者やエンジニア、これから活躍するAI研究者の中でも特に優秀な方々ですね。
研究者よりもエンジニアという言葉の方が好きです。根本的なアルゴリズムのブレークスルーがあれば研究でしょうが、それ以外はエンジニアリングだと思います。
Zip2時代：インターネットの黎明期
この部屋にいる18歳から25歳の皆さんの立場に戻って考えてみましょう。あなたが18、19歳でプログラミングを学び、Zip2の最初のアイデアを思いついたとき、どのような感じでしたか。
1995年、私はスタンフォード大学で材料科学の博士課程に進むか、当時ほとんどの人が聞いたこともないインターネットで何かをするかという選択に直面していました。実際、電気自動車の航続距離問題を解決するため、電気自動車への応用を目指したウルトラキャパシターの研究をしていました。
指導教授のビル・ニックスに「1学期間延期できますか」と相談しました。おそらく失敗するだろうから、大学に戻る必要があると思っていたからです。すると教授は「これが最後の会話になるだろう」と言いました。彼は正しかったです。
成功する可能性よりも、失敗する可能性の方が高いと思っていました。
第一原理思考の実践
1995年、私は基本的にインターネット上で最初かそれに近い地図・道順案内、インターネット電話帳・タウンページを個人で書きました。Webサーバーすら使わず、直接ポートを読み込んでいました。T1回線を買う余裕がなかったからです。
パロアルトのシャーマン・アベニューにあった最初のオフィスは、階下にISPがあったので、床に穴を開けて直接LANケーブルを引きました。
兄と共同創設者のグレッグ・カリー（故人）と一緒でしたが、住む場所の余裕もなかったので、月500ドルのオフィスで寝泊まりし、ページミル通りのYMCAでシャワーを浴びていました。
結果的に、Zip2という多少有用な会社を作ることができましたが、レガシーメディア企業に制約されるという問題がありました。ニューヨーク・タイムズなどが投資家であり顧客であり、取締役でもあったため、私たちのソフトウェアを意味のない方法で使いたがっていました。
私は直接消費者にアプローチしたかったのです。インターネットで何か有用なことをしたかった。博士課程を取るか、人々がインターネットを構築するのを見ているか、小さくても何らかの形でインターネット構築を手伝うかという選択でした。まあ、挑戦して失敗してから大学院に戻ることもできると思いました。
最終的にそれは合理的に成功し、3億ドルで売却しました。当時としては大金でしたが、今ではAIスタートアップの最低入札額が10億ドルのようです。ユニコーンがあまりにも多くて、もはやユニコーンの群れです。
経験からの学び：ボードコントロールの重要性
最初のスタートアップでの大きな間違いは、レガシーメディア企業からの株主・取締役支配が多すぎたことです。彼らは必然的にレガシーメディアのレンズを通して物事を見るため、新しい技術では意味をなさないことを合理的だと思わせてきます。
実際、最初から会社を始めるつもりはありませんでした。Netscapeで働こうとして履歴書を送りましたが、誰も返事をくれませんでした。マーク・アンドリーセンはこの話を知っていますが、私の履歴書を見ることはありませんでした。
Netscapeのロビーで誰かにばったり会えるように待っていましたが、恥ずかしがりやすぎて誰とも話せませんでした。「これは馬鹿げている」と思い、自分でソフトウェアを書いてみることにしました。
AI時代の経済変革への展望
AIは未来を非常に深く変えるでしょう。その程度を理解することは困難ですが、事態が悪化せず、AIが私たち全員を殺すことがなければ、最終的に現在の経済の10倍以上の経済を見ることになるでしょう。
私たちまたは私たちの未来の機械の子孫が、主に機械の子孫となって、カルダシェフ・スケール2の文明やそれ以上になれば、現在より数千倍、おそらく数百万倍大きな経済について話すことになります。
ワシントンDCで無駄と詐欺をなくすために多くの批判を受けた際、興味深いサイドクエストだと感じました。しかし、メインクエストに戻らなければなりません。
政府を修正することは、ビーチが汚くて注射針や糞尿、ゴミがあるのをきれいにするようなものですが、1000フィートの津波のようなAIの波が襲ってこようとしているときに、ビーチをきれいにすることがどれほど重要でしょうか。それほど重要ではありません。
テクノロジーの構築に戻れて嬉しいです。政治の信号対雑音比は最悪です。
第一原理思考の威力
ロケットや車を作ったり、確実にコンパイルして動作するソフトウェアを作ろうとするなら、最大限に真実を追求する必要があります。数学や物理学は厳格な審判だからです。数学や物理学を騙すことはできません。
物理学のツールは、どの分野でも理解し、進歩するために非常に役立ちます。第一原理とは、最も真実である可能性が高い基本的な公理要素まで分解し、そこから可能な限り論理的に推論することを意味します。類推や比喩による推論とは対照的です。
極限での思考も非常に役立ちます。何かを最小化したり最大化したりして外挿する場合の極限思考です。
ロケットコストの第一原理分析
例えばロケットを考えてみましょう。ロケットはいくらかかるべきでしょうか。一般的なアプローチは、歴史的にロケットがいくらかかったかを見て、新しいロケットも過去のコストと似たようなものでなければならないと仮定することです。
第一原理アプローチでは、ロケットを構成する材料、つまりアルミニウム、銅、カーボンファイバー、鋼鉄などを見て、ロケットの重量と構成要素の重量、それらの構成要素の1キログラムあたりの材料価格を調べます。これがロケットのコストの実際の下限を設定します。原材料のコストに漸近的に近づくことができます。
そうすると、実際にはロケットの原材料は歴史的コストの1〜2％に過ぎないことがわかります。つまり、製造が非常に非効率でなければならないということです。
XAIでの実践例：6ヶ月でのスーパークラスター構築
昨年の初めにXAIで訓練用スーパークラスターを構築しようとしたとき、一貫して訓練するために10万台のH100が必要だと各サプライヤーに言いました。彼らの完了までの見積もりは18〜24ヶ月でした。しかし、6ヶ月で完了する必要がありました。そうでなければ競争力を失うからです。
それを分解すると、建物、電力、冷却が必要でした。ゼロから建物を建てる時間がなかったので、既存の建物を見つけました。メンフィスでElectrolux製品を製造していた使われなくなった工場を見つけました。
しかし、入力電力は15メガワットで、150メガワットが必要でした。そこで発電機をレンタルし、建物の片側に発電機を設置しました。冷却のため、米国のモバイル冷却能力の約4分の1をレンタルし、建物の反対側にチラーを置きました。
訓練中の電力変動は非常に大きく、100ミリ秒で50％電力が低下することがあり、発電機では対応できません。そこでTesla Megapackを追加し、ソフトウェアを修正して訓練実行中の電力変動を平滑化できるようにしました。
10万台のGPUを一貫して訓練させるネットワーキングケーブルは非常に困難でした。
ハードウェアでの「不可能」への挑戦
これらのうちのほぼどれでも、誰かがあなたに「それは持てない」「その電力は得られない」と直接言えると想像できます。第一原理思考の重要な要素の一つは、実際に「なぜ」と問い、それを理解し、相手に挑戦することのようです。納得できる答えが得られなければ、その「ノー」を受け入れることを拒否するということです。
これらの第一原理思考の一般原則は、ソフトウェアにもハードウェアにも、実際に何にでも適用されます。
何かが不可能だと言われましたが、建物、電力、冷却、電力平滑化が必要だという構成要素に分解すると、それらの構成要素を解決できました。
ネットワーキング作業をすべてのケーブル配線を含めて4交代制で24時間体制で実行し、私はデータセンターで寝泊まりし、自分でもケーブル配線をしていました。
昨年、10万台のH100を一貫して訓練した人は誰もいませんでした。今年はされているかもしれませんが。その後、それを20万台に倍増しました。現在、メンフィスの訓練センターには15万台のH100、5万台のH200、3万台のGB200があり、第2のデータセンターでも11万台のGB200をオンラインにしようとしています。
スケーリング法則と競争要因
プレトレーニングはまだ機能しており、スケーリング法則は依然として成り立つと考えますか。この競争に勝つ人は、基本的に蒸留可能な最大で最もスマートなモデルを持つことになるのでしょうか。
大規模AIの競争力には様々な要素があります。確実に人材の才能が重要です。ハードウェアの規模と、そのハードウェアをどれだけうまく活用できるかも重要です。ただGPUをたくさん注文して接続するだけでは済みません。多くのGPUを一貫して安定的に訓練させる必要があります。
データへのユニークなアクセスも重要ですし、配信もある程度重要です。人々がどのようにあなたのAIに触れるかということです。
合成データと真実への固執
多くの人が言っているように、私の友人イリヤも言っていましたが、人間が生成したプレトレーニングデータが不足している状況です。確実に高品質なトークンは早く枯渇します。
そうすると、本質的に合成データを作成し、作成している合成データが実際に現実と一致する本物の合成データなのか、それとも実際には現実と一致しない幻覚なのかを正確に判断できる必要があります。現実への根拠づけを達成することは困難ですが、私たちは合成データにより多くの努力を投入する段階にあります。
現在、私たちはGrok 3.5を訓練しており、推論に重点を置いています。
物理学と推論の関係
推論については、特に物理学の教科書を含むハードサイエンスが推論に非常に有用である一方、社会科学は推論にはまったく役に立たないと研究者から聞いています。
それはおそらく正しいでしょう。
ヒューマノイドロボットの未来
将来非常に重要になるのは、データセンターまたはスーパークラスターでの深いAIとロボティクスの結合です。Optimusヒューマノイドロボットのようなものです。
私の予測では、ヒューマノイドロボットの数が他のすべてのロボットを合わせた数を大幅に上回ることになるでしょう。おそらく1桁違いで大きな差になります。
ロボット軍団を計画しているというのは本当ですか？Tesla がやるか、XAIと密接に連携するTeslaがやるかということですが、ヒューマノイドロボットのスタートアップがどれだけあるか見てください。Jensen Huangが多くの異なる会社の大量のロボットと一緒にステージに立っていたと思います。おそらく12種類の異なるヒューマノイドロボットがあったと思います。
ターミネーターへの懸念と参加の選択
私が戦い、おそらく私を遅らせてきた部分的な理由は、ターミネーターを現実にしたくないということです。少なくとも最近の数年まで、AIとヒューマノイドロボティクスについて足を引っ張っていました。
そして、私がやってもやらなくても起こるということに気づきました。つまり、観客になるか参加者になるかという2つの選択肢があります。観客よりも参加者でいたいと思います。
だから今は、ヒューマノイドロボットとデジタル超知能に全力投球しています。
多惑星文明への道筋
多惑星種族になることについて話していますが、これは10年や20年の話ではなく、おそらく100年、人類にとって何世代にもわたるものです。AI、具体化されたロボティクス、そして多惑星種族になることについて、どのように考えていますか。
100年後にも文明が存在していることを願っています。存在していれば、今日の文明とは大きく異なるでしょう。
人間の少なくとも5倍、おそらく10倍のヒューマノイドロボットが存在すると予測しています。
文明の進歩を見る一つの方法は、カルダシェフ・スケールの完成パーセンテージです。カルダシェフ・スケール1では惑星のすべてのエネルギーを利用していますが、私の意見では、私たちは地球のエネルギーの1〜2％しか利用していないので、カルダシェフ・スケール1まで長い道のりがあります。
カルダシェフ・スケール2では太陽のすべてのエネルギーを利用し、これは地球より10億倍、おそらく1兆倍に近いエネルギーです。カルダシェフ・スケール3では銀河のすべてのエネルギーを利用します。それからはかなり遠いです。
私たちは知能のビッグバンの非常に初期段階にあります。
火星の自立と文明の保険
多惑星になることについて、約30年以内に火星を自立させるのに十分な質量を火星に移送すると思います。そうすれば、地球からの補給船が来なくなっても、火星は成長し繁栄し続けることができます。
これは文明や意識、生物学的・デジタル的知能の存続可能性を大幅に向上させます。そのため多惑星種族になることが重要だと思います。
フェルミのパラドックスに多少困惑しています。なぜ宇宙人を見たことがないのか。知能が信じられないほど稀だからかもしれません。おそらく私たちがこの銀河で唯一の存在かもしれません。
その場合、知能や意識は広大な暗闇の中の小さなろうそくのようなもので、その小さなろうそくが消えないよう、あらゆることをすべきです。意識を多惑星化することで、文明の存続可能性が大幅に向上し、他の星系に行く前の次のステップです。
グレートフィルターの回避
フェルミのパラドックスは、あるレベルの技術に到達すると自滅するということを示唆しているかもしれません。私たちはどうやって自分たちを救えるでしょうか。
グレートフィルターの一つは明らかに世界規模の熱核戦争でしょうから、それを避けるべきです。
人類を愛する良性のAIロボット、役に立つロボットを構築することです。
AIを構築する上で極めて重要だと思うのは、その真実が政治的に正しくなくても、真実への非常に厳格な固執です。AIを非常に危険にする可能性があると私が直感するのは、AIに真実でないことを信じるよう強制することです。
複数のデジタル超知能の存在
オープンセーフティ対競争優位のためのクローズドという議論についてどう思いますか。
少なくとも5つ、おそらく10の深い知能が存在すると思います。数百になることはないと確信していますが、おそらく10程度になるでしょう。そのうち4つがアメリカにあるかもしれません。
一つのAIが暴走能力を持つことはないと思いますが、複数の深い知能が存在するでしょう。
これらの深い知能は実際に何をするのでしょうか。科学研究をするのか、互いをハッキングしようとするのか。
おそらくその両方でしょう。うまくいけば新しい物理学を発見するでしょうし、確実に新しい技術を発明するでしょう。
デジタル超知能の実現は非常に近く、今年起こるかもしれませんし、今年起こらなければ来年確実に起こるでしょう。デジタル超知能とは、何においても人間より賢いということです。
豊かさへの道と白い錠剤
それをロボット労働、安価なエネルギー、オンデマンドの知能がある超豊かさに向けるにはどうすればよいでしょうか。
ほとんどの場合、良い結果になると思います。ジェフ・ヒントンに同意して、おそらく10〜20％の絶滅の可能性があるでしょうが、明るい面を見れば、80〜90％の素晴らしい結果の確率があります。
AI安全性にとって最も重要なのは、真実への厳格な固執であることを十分に強調できません。そして明らかに、私たちが知っている人類と生命への共感です。
Neuralinkと人間とマシンの融合
Neuralinkについてまったく話していませんが、人間とマシンの入出力ギャップを埋めることは、AGI、ASIにとってどれほど重要ですか。
Neuralinkはデジタル超知能を解決するために必要ではありません。それはNeuralinkが規模に達する前に起こるでしょう。
しかし、Neuralinkが効果的にできることは、入出力帯域幅の制約、特に出力帯域幅の制約を解決することです。人間の1日にわたる持続的な出力は1秒あたり1ビット未満です。1日には86,400秒ありますが、人間がその日数分のシンボル以上を出力することは極めて稀です。
Neuralinkインターフェースにより、出力帯域幅と入力帯域幅を大幅に増加させることができます。脳への書き込み操作を行う必要があります。
現在、読み取り信号を受けた5人の人間がいて、ALS患者で本当に手足が動かない四肢麻痺の人々が、完全に機能する身体を持つ人間と同様の帯域幅でコミュニケーションを取り、コンピューターや電話を制御できるようになりました。
今後6〜12ヶ月で、視覚のための最初のインプラントを行うと思います。完全に盲目の人でも、視覚皮質に直接書き込むことができます。最初は比較的低解像度ですが、長期的には非常に高解像度で、多スペクトル波長を見ることができるようになります。赤外線、紫外線、レーダーのような超能力的な状況が見えるでしょう。
サイボーグ化の未来
ある時点で、サイボネティックインプラントは単に間違ったことを修正するだけでなく、人間の能力を劇的に増強することになります。知能や感覚、帯域幅を劇的に増強します。それはある時点で起こりますが、デジタル超知能はそれよりもずっと前に起こるでしょう。
少なくともNeuralinkがあれば、AIをより良く理解できるかもしれません。
人材確保とシンギュラリティ
あなたのすべての領域での努力における制限要因の一つは、可能な限り最も賢い人々へのアクセスです。しかし同時に、今や石が話し、推論でき、おそらく130IQで、すぐに超知能になる可能性があります。
シンギュラリティと呼ばれる理由があります。遠くない未来に何が起こるかわからないからです。ある時点で、人間である知能の割合は非常に小さくなるでしょう。人間の知能の集合的総和は、すべての知能の1％未満になるでしょう。
もしカルダシェフ・レベル2に到達すれば、人間の人口と知能増強の大幅な増加を仮定しても、全員のIQが1000のような大規模な知能増強があっても、その状況でも集合的人間知能はおそらくデジタル知能の10億分の1になるでしょう。
私たちはデジタル超知能のための生物学的ブートローダーのようなものです。
最後のメッセージ：有用性の追求
この部屋にいる技術的に最も賢い人々に対する最後の思いは何でしょうか。今夜、夕食に行くときに何をすべきか、何に取り組むべきか、何を考えるべきでしょうか。
最初に言ったように、有用なことをしているなら、それは素晴らしいことです。同胞の人間にとって可能な限り有用であろうとするなら、良いことをしているのです。
超真実性のあるAIに焦点を当てることを繰り返し強調します。それはAI安全性にとって最も重要なことです。
XAIで働くことに興味のある方がいれば、ぜひお知らせください。私たちはGrokを最大限真実を追求するAIにすることを目指しています。それは非常に重要なことだと思います。
うまくいけば、宇宙の本質を理解できるでしょう。それが実際にAIが教えてくれることだと思います。AIは宇宙人がどこにいるのか、宇宙がどのように始まったのか、どのように終わるのか、私たちが知らない質問で尋ねるべき質問は何なのかを教えてくれるかもしれません。
私たちはシミュレーションの中にいるのか、どのレベルのシミュレーションにいるのか。それを見つけることになると思います。
NPC イーロン、参加していただき、ありがとうございました。皆さん、イーロン・マスクに拍手をお願いします。
コメント