20,364 文字
一連の企業があなたの脳の拡張部分を支配し、それが私たちの脳の集合的な拡張のようなものだとしたら、彼らは特定の方向に思考を誘導することができ、間接的にあなたを支配することになります。私はそれが根本的にリスクがあると思います。だから私たちは反逆者に武器を与えなければならないのです。
今日はインターネットの伝説であり、おそらくコンピューティングの伝説となりつつある人物をゲストに迎えています。ギオム・ヴェルドンさん、ただ私はヴェルデンと発音すると聞きましたが。
そうです。
フランス系カナダ人ですよね？
そうです。
どう呼ばれるのが好きですか？
本来の発音はギオムです。フランス語ですが。
深く踏み込もうと思ったのですが、別の場所であなたがそう言っているのを聞いて、踏み込むべきかわからなかったんです。また、ベフ・ジーザスとしても知られていますね。
はい、それは私のペンネームです。
それについては後ほど触れることにします。始める前に、E1 Venturesにポッドキャストのスポンサーをしていただいたことに感謝します。実際に今日E1 Venturesの代表の方々がショーを見に来ています。彼らは親切にもショーのスポンサーになってくれました。そして、これは偶然だったと思いますが、あなたは実際にExtropicという会社の投資家でもありますよね。あなたを招待したときには、こういうことになるとは知りませんでした。
ありがとうございます。ここに来られて光栄です。
遠慮しすぎだよ。私たちが話せる大きなテーマが2つあると思います。それは明らかにEAC（効果的加速主義運動）とあなたの会社Extropicです。どちらも説明が必要ですね。では最初にExtropicについて少し話し、人々にあなたがどこから来ているのかを理解してもらいましょう。私がまず説明してみて、間違っていたら修正してください。
コンピューティングの全く新しい分野、全く新しいアプローチで、確かにAIを対象としていますが、AIだけではなく、熱力学的コンピューティングと呼ばれています。
その通りです。
量子コンピューティングとは異なり、従来のビットとも非常に異なります。誰もが理解できるような説明方法はありますか？
基本的に私たちがやっているのは、確率的エレクトロニクスやバイオインスパイアードエレクトロニクスと呼ばれるものに新しい基本要素を作り出しています。これは新しいシリコン基本要素であり、単なるアーキテクチャではありません。浮動小数点演算とメモリを取って構成を変えるだけではないのです。それは多くの既存企業が提案しているアーキテクチャです。私たちにとっては、電子の物理学から上に至るまでの新しいパラダイムなのです。
そこで実行するアルゴリズムからコンパイラ、そして問題を電子の物理学に埋め込む方法まで全てを変えています。典型的なワークロードが確率的なワークロードである場合、ハードウェアも確率的コンピュータにすることは理にかなっています。まるで手袋のようにぴったりとフィットするのです。
物理学とAIアルゴリズムを本当に理解すれば、これがいかに完璧な組み合わせであるかが見えてきます。それが、これが最も自然なアルゴリズム実行方法だという極めて強い確信が生まれる所以です。時間とともに私たちの結果がそれを示すと思います。
もちろん、最初は第一原理から始めて、数学、モデル、シミュレーション、初期実験と進み、それをスケールさせて、最終的にスケールしたシステムを人々に見せることで、もはや言葉ではなく実際に示すことになります。それが今年私たちが経験している移行期であり、それは非常に良い感じがしています。
現在の技術で可能なことについての人々の先入観を覆すようなアイデアがある場合、自由エネルギー原理により、あなたのニューロンは自分自身を保存しようとします。彼らはある意味で貪欲で、世界モデルを大幅に更新するのはコストがかかりすぎます。そのため、あなたの脳は文字通りアイデアをフィルタリングするか、それを提案する人が狂っていると判断します。
これが過去2年間の私の人生の物語でした。多くの支持者もいますが、多くの懐疑論者もいます。それは理解できます。コンピューティングに圧倒的な変化をもたらすものであり、彼らは圧倒的な証拠を求めています。しかし、早い段階で説得される人々は早く参入し、このパラダイムのために構築を始め、次の波の先頭に立つことになります。これがテクノロジーのパラダイムシフトの歴史です。
私が自信を持って見えるのは、10年間これについて考えてきたからです。私は量子コンピューティングに戻る道をすべて断ち切りました。量子コンピューティングの分野ではどこでも働くことができたのに、そのキャリア全体を捨てて、第一原理からの確信に基づいてこれに全力を注ぎました。そして今、実験が私たちの言っていたことを裏付け始めています。非常にエキサイティングな時期です。
確かにリスクは高いです。多くの半導体スタートアップを取材してきましたが、そのほとんどはある程度の範囲内にいます。そしてそれでもリスクがあります。新しいソフトウェアを使ったり大きな調整をしたりするよう人々に求めるときは常にリスクがあります。
Intelがx86から離れて新しいEpicアーキテクチャのItaniumチップを試みたときでさえ、それはリスクが高かったですが、それでも何となく従来のコンピューティングの範囲内でした。しかし、誰かが何かをしなければなりません。それは簡単に主張できます。
昨日、Stargateを訪れましたが、この1000エーカーの敷地はサンフランシスコの数倍の電力を消費することになるでしょう。各建物は約500億ドルで、そのうち60%がGPUのコストで、彼らはそのような建物を10棟作りたいと考えています。
このビデオゲームチップがAIを実行することになったのは驚くべきことですが、彼らは幸運でした。これがこの仕事のために特別に設計されたチップではないことは明らかです。本当に頭を使えば、もっと効率的な方法があるはずだと思うでしょう。
あなたの会社は2年間しか存在していないと思いますが、すでにシリコンがテーブルの上にあります。会社はどうなっていますか？
最初は、物理学ベースのコンピューティングの歴史を10年間追ってきました。量子コンピューティングがあり、ニューロモーフィックがあり、確率的コンピューティングの試みがありました。みんなそれぞれのパラダイムに異なる名前を付けています。多くの試みがありました。
そして通常、彼らがうまくいかない理由の一つは、デバイスのプログラム方法を知らないことです。例えば、ニューロモーフィックは生体模倣に夢中になり、「実際のニューロンのように発火するニューロンを作りました」と言います。素晴らしいですが、どうやってプログラムするのですか？「脳がどのように学習するかを理解していないので、プログラム方法は本当にわかりません。」
だから最初にそのリスクを取り除かなければなりませんでした。これらのデバイスをプログラムする方法、40年前からあるアルゴリズム（統計的推論アルゴリズム、ベイジアンアルゴリズム）を電子拡散と呼ばれる物理学に対応させる方法について研究しました。
拡散は一般化されたブラウン運動のようなものです。おそらく皆さんはブラウン運動をご存知でしょう。水の中にほこりの粒子を落とすと、それらはただ拡散していきます。これは確率的力学の一形態です。アインシュタインは拡散に関してノーベル賞を受賞しました。これは粒子が平均的にどれだけ移動するかという「プログラム可能なドリフト」だけでなく、時間の経過とともにどれだけノイズが発生するかをプログラムできるのです。
一般的に半導体では、電子がオンかオフかについて話していますが、あなたはもっと曖昧な領域にいるのですね。
そうです。電子の雲があり、私たちはそれがどのように拡散するか、より広がるか集中するか、平均的に動くかを制御します。それを時間の経過とともに制御することで、基本的にこのプログラム可能な電子の塊を作り出すことができます。多くのアルゴリズムは特定の確率の塊としての答えを得ることとして表現できます。
金融やウォール街では、私たちがやっていることを説明する必要はありません。彼らはみんなモンテカルロアルゴリズムを実行しています。これらのアルゴリズムは元々マンハッタン計画中にさまざまなシステムのシミュレーションを行うために考案されましたが、現在では金融シミュレーションやあらゆる種類のシミュレーションに使用されています。
私たちはこれらのアルゴリズムを、自然の一部にいくつかの小さな制御ノードを追加して誘導することで、非常に緊密に実行できます。
電気で制御しているのですか？
はい、そうです。制御電圧があり、それを時間の経過とともに変化させることで、このダンスのダイナミクスを変えています。
このタイミングが本当に素晴らしいと思います。何年も前にこの会社を作ろうとすることもできましたが、今日では拡散モデルのようなさまざまなワークロードがあります。MidjourneyやDALL-E、ChatGPT、xAIなどは全て、拡散除去拡散と呼ばれるアルゴリズムを使用しており、AIを使ってシミュレートされた拡散プロセスを逆に辿っています。
私たちが実行したいアルゴリズムは文字通り、私たちのハードウェアが実行する物理学にちなんで命名されています。過去数年間、私たちはこれらの点を結び付けてきました。世界の金融界を動かす従来のアルゴリズムから生成AIのような最新のアルゴリズムまで、全ての点を結び付けました。
しかし、次の疑問は、あなたが目指している物理学のタイプを作り出せるか、一貫して作り出せるか、パラメータを正確に制御できるか、そして大規模に製造できるかということでした。過去数年間でこれらのリスクをすべて排除しました。
最初の年はアルゴリズムから始め、2年目にはプログラム可能な電子拡散を作り出せるかどうかを検討しました。私たちは確率的熱力学や非平衡熱力学と呼ばれる物理学のタイプを使用しています。これはあなたの曽祖父の熱力学ではありません。核心的な定理は1999年頃のものです。それはGoogleと同じくらいの古さです。
数学としては非常に若いのです。量子力学は100年以上前からあります。私たちにとっては、このような種類のプログラム可能なシステムを作れるかどうかが問題でした。量子コンピューティングから来た私たちは、「ブレッドボードプロトタイプは何だろう？最も巨視的なプロトタイプは何か？」と考えました。
ここに小さなチップがあります。これはアルミニウム製です。もし高温で動作させたいなら、ニオブで作ることもできます。このチップには3つの確率的ビット、または3つの熱力学的ニューロンがあります。それらは巨視的で、特徴を文字通り見ることができます。
これは超伝導体での最初の実験セットでした。私たちにとっては単なる学習プラットフォームでした。このチップには3つの確率的ビット、つまりPビットがあります。
そして、そこから学んだことを活かして、この部品から大規模な熱力学コンピュータを作る方法をオープンソース化しようと考えています。私たちにとって、これは必ずしも商業的に実行可能ではありません。大きな冷蔵庫に入れる必要があるからです。量子コンピュータよりも約100倍高温で動作できるので、冷蔵庫を小さくすることはできますが、それでも実用的ではありませんでした。しかし、これは学ぶためのものでした。
質問してもいいですか？最初の確率的コンピュータを作ったのは誰で、誰が試みたのですか？
いくつかのグループがあります。私たちのアドバイザーの一人であるTodd Hiltonは、大学でいわゆる熱力学的コンピューティングに取り組んでいます。また、UCSBのKareem Kamsarは磁気トンネル接合に取り組んでおり、長い間確率的ビットに取り組んでいます。
しかし、彼らは大規模に製造する方法や最新の製造プロセスを使用する方法を見つけることができませんでした。コンピューティング能力を急速に拡大し、製造して世界に展開するためには、特殊な部品を使用せずに済む方法が必要です。それが私たちがこのチップで解決したことです。
このチップはボードの真ん中にあるのですか？
いいえ、それは別のチップです。これはシリコン製です。こちらは巨大な希釈冷凍機に入れる必要があります。量子コンピュータのようなものです。1年半前にそれに関する映像を公開したところ、「また別のコンピューティングパラダイムが10〜20年かかるのか。彼らは呪われている」という反応がありました。
私たちは超伝導体の問題を知っています。それは単なるステッピングストーンでした。そこから学んだことを活かして、室温で同様のことを行う方法を見つけ出しました。冷却は不要です。当初は若干の冷却が必要かと思っていましたが、シリコンでの冷却は不要です。非常に似た電子拡散物理学を使っています。
このチップで、私たちはあらゆる種類の確率的プリミティブを実行できることを実証しています。Pビットがあり、後で発表する予定の他の確率的プリミティブもあります。それらを正常に製造し、製造バリアントをテストし、大手ファブの一つと共に製造しました。
これも3つのビットですか？
いいえ、これは約300の自由度を持っています。
どのファブが製造したのか言えますか？
海外で一部を製造し、アメリカでも一部を製造しました。2回のランを行いました。アメリカで製造できることは非常に重要です。
そして今、私たちはもっと大きなチップを作っています。これはテストチップでした。今年の夏にはこれをカスタマーやアーリーアダプターの手に渡すつもりです。これはテストボードで、プローブを立てテストするためのものですが、これらを数個まとめてクールなボックスに入れます。そうすれば、デスクに置いて、プラグを差し込み、この夏、史上初の熱力学コンピュータの一つをプログラムすることができるようになります。
このアルファプログラムでは、およそ何人がこれらを受け取ることになりますか？
最初のバッチでは約200個作りましたが、1000個まで増やす可能性もあります。その後はおそらく上限を設けるでしょう。
基礎モデルのようなものをこれで実行することはできないと思いますが、モンテカルロシミュレーションなどは実行できますか？
はい、大規模に実行できるアルゴリズムのおもちゃバージョンのようなものになります。これは赤ちゃんチップですが、現在大きな兄弟を作っています。それは1年後くらいになります。
それはかなり速いですね。通常、チップを設計するのに2年くらいかかるのではないですか？
私たちは6ヶ月ごとにチップを作る目標を持っています。かなり頑張っています。
従来のコンピューティングでは、ムーアの法則に従い、18ヶ月ごとにトランジスタの数をほぼ倍増させようとしています。量子コンピューティングではペースが非常に異なります。あなたは3ビットから300ビットに移行しました。これは常により多くのビットを追加しようとしているのか、それとも1000ビットに達すれば、望むことはすべてできるようになるのですか？
すでに1000ビットのシミュレーションは非常に難しいです。次のチップで何ができるかをテストするとき、GPUでシミュレーションを行い、1000ビットで何ができるかのベンチマークを公開する予定です。しかし、私たちは来年、100万ビットに近いものを目指しています。これは初めて公表することです。
100万ビットあれば何が実行できるのですか？
あらゆる種類の生成モデルを実行できます。まず、あなたの隣人が100万ビットを持っていて、あなたが持っていないとしましょう。そして、それらはGPUでの実行よりもはるかに速く動作します。そうすれば、より速く考え、より良い価格設定をし、より良く不確実性を推定できます。ウォール街ではそれはゲームチェンジャーです。
生成AIにとっては、モデルのチャンクを確率的コンピュータで実行するようにハイブリッド化すると考えてください。私たちが発見したのは、従来のディープラーニングモデルと熱モデルをハイブリッド化する方法です。それらをハイブリッド化することで、例えば拡散モデルと比較した場合、GPUの前方パスや計算量を約100倍少なくしても同じパフォーマンスを得ることができます。
そして、熱計算はGPUと比較してエネルギー面では基本的に無料です。私たちの最初のシステムは少なくとも1000倍のエネルギー効率を持つと言っています。これは非常に控えめな数字です。チップレベルでは、計算方法によっては10万倍のエネルギー効率を達成する可能性があります。
私たちの考えでは、時間が経つにつれて、より多くのワークロードを確率的コンピュータに移行していくでしょう。しかし最初は、ハイブリッドになるでしょう。それが重要なのは、これらの大規模なデータセンター建設があり、人々は5000億ドルを投じていて、さらにスケールアップするためには原子力発電所が必要になり、それは馬鹿げています。その代わりに、これらのチップを追加するだけで、従来のコンピュータにとってのコプロセッサのようなレバレッジを提供することになります。
もう一度簡単に説明してみましょう。量子コンピューティングについてよく取り上げてきたので、それがどのように機能するのか、開発者自身も完全には理解していないと感じることがあります。そのため、説明が難しいのです。
伝統的な半導体では、電子が走る経路を作り出しています。私たちはそれをライトスイッチがオンオフするように簡略化して説明します。それは非常に単純化されていますが、大まかな方向性は正しいです。
量子コンピューティングでは、経路の重ね合わせについて話すことがはるかに難しくなります。異なる宇宙で異なる経路をたどるというような概念です。量子では、光の粒子を操作しようとする人もいます。あなたはまだ電子を操作しようとしていますが、多数の電子を扱っていますね。
しかし、ある状態から別の状態に切り替えようとしているのではなく、もっと曖昧な領域で操作しようとしているのですね。いわば「分数ビット」のようなものです。通常は入力が取ることのできる経路がいくつかあり、その経路によって異なる出力が得られます。決定論的コンピュータでは、経路も決定論的です。「ここで上に行き、そこで下に行き、また上に行く」というような感じです。
しかし、ここでは上に行くか下に行くかわからないけれど、上に行くか下に行く可能性を調整できます。オンになるかオフになるかを、電荷を微調整することで調整できます。電荷だけでなく、制御電圧の設定方法でも調整できます。
これにより、例えば完全なビット反転ではなく、部分的な操作が可能になります。完全な操作とは「常に1である状態から常に0である状態に変わる」ことですが、「20%の確率で0、80%の確率で1」の状態から「80%の確率で0、20%の確率で1」の状態に変えることも可能です。これは完全なビット反転ではありません。これは部分的な操作です。私たちはそれを行うことができます。いわば決定論的コンピューティングを部分化しているのです。
これについてより開かれた心を持つ必要がありますが、それによって計算をかなり密集させることができます。特にAIでは完全な精度が必要ないので、これは非常に有用です。
あなたは早い段階での会話で触れていましたが、テクノロジーを推進する「行こう」という人物として知られていて、楽観的で興奮しており、若く熱意があります。それらは全て素晴らしい資質です。しかし、あなたが1000から100万のビットへの移行を3〜4年で成し遂げると言うのを聞いて、懐疑的になる人もいるでしょう。半導体は非常に困難なものです。
その懐疑論を理解しています。私たちは積極的ですが、リスクも管理しています。ファブの実行がうまくいかなくても、再試行するための十分な資金があります。それはSpaceXのようなものです。ロケットを着陸させようとしていますが、1回、2回、3回と試みが必要かもしれません。
私たちにとって最大の課題は、基本的なコンポーネントのリスクを取り除けるかどうかでした。3〜4回の試みが必要だったかもしれませんし、その準備をしていました。しかし、最初の試みで成功しました。それは運ではなく、本格的なシミュレーションと科学の結果です。
会社には何人いますか？
約20人ですが、各エンジニアは間違いなく100倍の能力を持つ人材です。
PhDを持つ人が多いのですか？
はい、皆ハードコアな科学者か、アカデミアに飽きた中退者です。通常はPhD中退者です。
エンジニアはボストンとサンフランシスコに分かれていますか？
ある意味では、私たちはAIのための実際のマンハッタン計画のようなものです。マンハッタン計画はモンテカルロアルゴリズムと粒子の物理学に取り組みました。私たちにとっては、電子の束の物理学とモンテカルロアルゴリズムです。私たちの「ロスアラモス」はボストンにあります。
しかし、市場に出て世界に広めるためには、シリコンバレーのDNAも必要です。シリコンバレーは技術を取り上げて広めることに本当に優れています。そして市場との結合組織を作り出すのに優れています。一方、アカデミアやMIT、ボストンのエコシステムは本当にハードコアな科学に優れています。私たちは実際に最先端の科学を行っています。
このタイプの物理学は非常に若く、通常はこのタイプの物理学のテストベッドは生物学にあります。そのため、多くの生物物理学者が私たちの取り組みに興味を持つでしょう。しかし、今では私たちはシリコンでこれらのテストベッドを作り出しています。
社内科学、アルゴリズム設計者、そしてこれをプログラムするための素晴らしいソフトウェアフレームワークを作成するコーダーが必要です。全体的なチームが必要です。時には20人だけで世界を変えることもできますが、より多くの人々が本当に堅牢な方法でこれを世界に届けるためには、かなりスケールアップする必要があると思います。
3月にWiredであなたに関する記事が掲載されましたね。
4月だったと思います。
その記事では、ボストンでの場所が秘密だと書かれていました。これはセキュリティ上の懸念からで、技術があまりに貴重なため、誰かがスパイ行為をしないようにしているのでしょうか？
これは偏執的な懸念からではありません。これは国家レベルの技術であり、世界の地政学を変えるものだからです。例えば、最先端のAIプロセッサを製造するために台湾が必要ないということを実証した場合、それは大きな問題です。その理由だけで世界レベルの紛争について話す人々がいます。それがこの影響の規模です。
私たちはシリコンバレーのテック野郎として楽しんでいますが、これは非常に真剣なことです。世界に大きな影響を与えるものです。だから私たちはセキュリティを非常に真剣に考えています。
Wiredの記事は、Will Knightが書いたものですが、彼は本当に優れたジャーナリストです。困難な問題で大きな主張をしているので、もう少し批判があると予想していました。最も正当な批判は何でしょうか？これが可能であることや良いアイデアであることに対する最大の課題は何だと思いますか？
私たちは全ての前任者を殺したものを研究しました。起業家としての仕事は、リスクを評価し、最大のリスクを一つずつ取り除くことです。アルゴリズム的リスクは排除しました。製造リスクは多くの企業を殺しました。多くの企業が洗練されたコンピューティング形態を持っていますが、大規模に製造する方法を知りません。
PlaygroundのオフィスにいるpQuantumが量子コンピューティングの製造リスクを排除しようとしていることを評価しています。私たちも製造リスクを排除し、現在はスケールと統合のリスクに直面していますが、これまでのところシミュレーションでは順調です。
人々は必ずしも全ての秘密のソースを理解しているわけではありません。量子コンピューティング、特に超伝導量子コンピューティングがスケーリングできない理由の一つは、システムをスケールアップするとノイズが発生し、カオスになり、クロストークが発生し、混乱することです。そのため、システムをキャリブレーションする必要がありますが、システムが大きくなるにつれてポリノミアルに、時には指数関数的に難しくなります。
物理ベースのデバイスのキャリブレーションと特性評価は本当に難しいのですが、量子超越性が達成された部屋にいました。自然に対する最も繊細な制御のレベルが達成されたのです。世界最大のスーパーコンピュータと、精巧に制御された量子システムの間にはギャップがあります。
量子システムを制御するために学んだ全ての教訓は、この課題よりもはるかに難しいものです。ここでは全てが曖昧であり、実際にはより堅牢で「アンチフラジャイル」です。この装置は放射線を浴びせても、ある程度耐えられます。
ノイズの存在下で学習するシステムは、基本的にアンチフラジャイルになるように学習します。どの回路や神経経路にも過度に依存せず、誤り訂正と障害耐性を本質的に組み込みます。それにより、製造のばらつきやコントロールのノイズに対して堅牢になります。もちろん、それを考慮に入れていますし、それが最も難しい問題です。
しかし、それが本当のソースであり、私たちが本当に一生懸命取り組んでいるところです。しかし、結果は自ら語ることになると思います。
あなたたちは大きな進歩を遂げています。あなたは明らかに非常に頭が良く、説得力のある方法を持っています。この会話の前に多くの資料を読みましたが、本当に詳細な物理学についての質問をすることができません。あなたが概説した課題は理解しています。多くの半導体企業がこれらを製造できないために壊滅しているのを見てきました。
しかし、あなたはこれがこのような速いペースで出てくると非常に自信を持っています。それは業界の一部の人々を不愉快にさせるのではないでしょうか？「これは彼が考えているよりもはるかに難しいだろう」と言う人々の声を多く聞くのではないですか？
イノベーションについて私が考える方法は、アイデアの風景を探索しているようなものです。私たちは拡散して思考の新しいモードを見つけています。「初心者の幸運」とは、以前の確立された業界のバイアスを持たない、非情報的な事前確率を持つことです。私たちは全く異なる角度からアプローチしています。
伝統的なコンピュータを殺すものの多くは、私たちのパラダイムには影響しません。同時に、製造と半導体、そして大規模集積における進歩を尊重し、私たちに関連するテクノロジーをできるだけ活用していますが、道を分岐しているのです。
私たちにとっては、アルゴリズムレベルでどれくらいの障害耐性をシステムに持たせるかというフルスタックの問題です。将来的には宇宙でのコンピューティングにも適していると思います。放射線に対してより耐性があるからです。しかし、それはまだ仮説であり、テストする必要があります。
少し話題を変えましょう。あなたの世界とアイデンティティが重なる部分として、現在我々はAIに参加するための基本条件さえ持っている企業がほんの一握りという状況にあります。
2つの国だけがその状況にあるように思えます。米国と中国は他の世界とは異なる未来の道を歩んでいるように感じます。AIでこれらの巨大なモデルを作るために必要なお金と技術のために。
あなたのインタビューから、AIは民主化される必要があると考えているようです。その精神は、この非常に強力な技術を作っているなら、誰もがそれにアクセスできるべきだということのように思えます。そうしなければ、慈悲深い支配者であっても、支配者を持つことになります。それがここで重なる部分です。あなたはこれがその可能性を実現する道だと考えているのですね。
その通りです。現在、力の非対称性があります。AIを実行するために大きなスーパーコンピュータが必要な場合、個人のAIスーパーコンピュータを持つことはできません。おそらく数ラックを予約してもらえるかもしれませんが、本当に自分の重みや認知の拡張を所有するわけではありません。
現在、私たちにはパーソナライズされたモデルもそれほど多くなく、一つの大きな塊があり、徐々に私たちの認知をそれに委ねています。ある意味で、ボーグのような心に収束しつつあります。私たちが皆、認知の共通の拡張を共有していれば、個性を失います。個性は根本的に重要だと思います。
技術と革新と進歩の探索を、探索と活用の問題として見ています。風景を探索するためには、新しいやり方を見つけるために異なるグループが異なることを探索する必要があります。もし私たちが少数のテクノロジー企業に収束し、それらの間で従業員が行き来するなら、一つの思考方法、一つのクラスターに閉じ込められてしまいます。
全く良い方法があるのに、完全に見逃してしまうリスクがあります。あまりにも早く勝者を決め、「彼らだけがAIを責任を持って実行でき、他の誰もAIにアクセスすべきではない」と言えば、それは全体的な進歩にとって本当に悪いことです。
あなたが言ったように、それは専制の危険性を生み出します。現在誰が権力を持っているかを信頼しているかもしれませんが、権力を過度に集中させると、それは権力を求める人々の標的になります。
私たちの文明システムを障害耐性のあるものに設計する観点から、全てには確率、ノイズ、脱落、または置き換えが存在すると考えています。あまりにも強力なノードのセットがある場合、それらのノードの腐敗に対して非常に敏感になります。
答えはAIの力を分散させ、拡散することです。そのためには、知能の密集化、計算の密集化が必要です。大きな中央集権的なモデルよりも価値のある、デスクやホームにコンピュータを持つことができる必要があります。
そこに到達するためには、1000倍、1万倍以上のエネルギー効率を持つコンピュータが必要です。さらに向上させようとしています。私たちの脳は約1億倍エネルギー効率が良いです。アルゴリズムによっては、このパラダイムが向上するにつれて、それに近づくかもしれません。同じ種類の物理学を使用しているからです。神経伝達物質の代わりに電子を使っています。
もちろん、反発があります。政治的にハイステークスなトピックです。規制の捕捉を達成しようとしている企業がある一方で、小さなテクノロジーやスタートアップは平等な競争の場を求めています。しかし、一般的に、全ての人が競争でき、AIの研究と進歩のために計算できることから恩恵を受けます。
また、個人の主権のレベルからすると、認知の拡張を所有したいと思います。それはあなた自身です。それを制御し、何を考えるかを制御したいと思います。それは独自のサブカルチャーであり、個人でありたいと思います。それは非常に重要だと思います。
そうでなければ、私たちは全て一つの型に押し込められてしまいます。一連の企業があなたの脳の拡張を制御し、それが私たちの脳の集合的な拡張である場合、彼らはそれを特定の方向に考えるように誘導し、間接的にあなたを制御することになります。それは根本的にリスクだと思います。
だから私たちは反逆者に武器を与えなければならないのです。つまり、他の全ての人々です。これがこのコンピューティングパラダイムに対する私の目標です。
以前の時代では、これは政府の壮大なマンハッタンプロジェクトのようなものだったでしょうが、私たちはシリコンバレーの企業です。私はこれを一生やりたいと思っていて、アカデミアを見てみましたが場所ではないようでした。大手テックを見ましたが、特別なユニット部門の起業家だったとしても、書類仕事や官僚主義が多すぎました。国立研究所も友人がいましたが、方法ではないように思えました。スタートアップだけがこれを開拓する唯一の方法です。
ベンチャーキャピタルがあらゆる種類のプレーをバックアップしているため、人々は懐疑的です。あるものはより真剣で、あるものはそれほど真剣ではありませんが、私たちはより真剣なスペクトルにいます。私たちの科学は非常に真剣ですが、同時に楽しんでもいます。
私はオンラインではある種の道化師で、それが一部の人々を武装解除するか、私が真面目な科学者や白衣を着た科学者の先入観に合わないと思わせるかもしれません。人々は一般的にそれに対して偏見を持っていますが、私はそれらの偏見を彼らに対して利用しています。
EACに関しても同様です。AI安全は非常に資金の豊富な組織であり、あらゆる種類の政治的影響力を持っていました。そして私は、ベフ・ジーザスという荒唐無稽な名前の匿名アカウントを、過度なアバターで始めました。なぜそうしたのでしょうか？それは一種の武装解除です。非常に聖人のようなとても真面目なAI安全は、インターネット上の匿名の漫画のキャラクターと議論しなければならなくなったのです。それは彼らの聖人ぶった態度を武装解除しています。
現代のマーケティングだけでなく、注目を集めることにおいて、シュールでありながらメタイロニックであることは最適だと思います。本当に真面目なのかどうかわからないけれど、実際には真面目なのです。それが最適だと思います。なぜなら、人々がそれについて議論するからです。信念について議論すれば、より多くのエンゲージメントが得られ、より多くの増幅が得られます。
正直なところ、この暴露は残念なことでした。良くも悪くも私の人生を変えましたが、6シグマの才能を見つけるのに役立ちました。1年間に10億回の閲覧があれば、基本的に1000万人に1人のエンジニアを何人か見つけることができます。彼らを集めれば、本当に難しいプロジェクトを行うことができます。それが人々が理解していないことです。イーロンもそのように働いています。彼は最高のエンジニアを集めています。なぜなら誰もが彼のことを聞いたことがあるからです。
EACでは、テクノカピタルヒューマン模倣機械について話していますが、文化とミームは資本とヒューマンキャピタルの流れの上流にあります。模倣的領域を捉えることは、人々にこれについて学んでもらうための手段的な目標でした。
ラボで技術を作り出すことはできますが、誰も耳にしなければ、誰も拾い上げません。それは十分な資金を得られず、世界にスケールするための活性化エネルギーを持ちません。そして私たちは人為的に物事を遅らせています。
私たちの目標の一つは、今日行っている方法よりも10万倍、最終的には100万倍優れた方法で生物学をシミュレートすることです。このコンピュータで生物学をシミュレートすることは、はるかに自然なフィットであり、多くの命を救うことができます。
私は計算をしています。もし将来10億の命を救えるなら、より速く進むために何をするでしょうか？公衆の認識と配布を確保し、この技術が準備できたときに準備ができていて、技術についてできるだけ速く進めば、最速のアップテイクを得て、すべての人の繁栄と幸福をより速く向上させることができます。
それがEACの核心的な議論です。スローダウンには機会コストがあり、それはしばしばリスク軽減の議論に含まれていません。下振れ防止に焦点を当てるか、大きな上昇を逃さないことに焦点を当てるかのどちらかです。上昇の特徴は指数関数的に複合することです。そのため、待てば待つほど、機会コストは大きくなります。
シリコンバレーでの議論のバランスを取りたいと思いました。技術の悲観主義に傾いていました。AIだけでなく、すべてのことに対してです。
これを準備しながら、多くのことを思い出しました。ドキシングについて議論するつもりはありませんが、それは私が最も興味を持っていることではありません。
記者として最初に始めたとき、オープンソースに興味を持ちました。私は若く理想主義的で、Microsoftは敵として描かれ、一方には知識と情報を共有したいと思っている人々がいました。私はそれを受け入れ、それに共感しました。
これは初期の2000年代の話です。あなたは若すぎるかもしれませんし、この分野の多くの人々もそうかもしれません。これは主要な宗教戦争のようなものでした。世界は2つの道を選べるようでした。一つは正義と真実に感じられ、もう一つはお金を追いかけて製品を作るだけのように感じられました。
これがどのように展開されたかは不思議です。両方の側面がある程度勝利しました。オープンソースは巨大で至る所にありますが、それでも以前のような精神を持ち合わせていません。自由ソフトウェア運動を覚えています。これは主要な分野で議論された真剣なものでした。
あなたが表現してきたことは、そのすべての精神を思い出させるものです。Facebookがオープンソースモデルを出しても、少し肩をたたかれる程度です。オープンソースを応援する小さなつぶやきを聞くことはありますが、以前のようなレベルではありません。
そして、この非常に強力で重要な技術を誰が支配するかについて、私たちは議論さえしていません。あなたがこれを追求し、それについて非常に明確に表現していることに大きな評価を与えます。
支配的な知的宗教がオープンソースに相当するものであったのは、効果的な利他主義（EA）でした。少なくともEAの一部、AIに焦点を当てた分野です。
皮肉なことに、彼らはAIの悲観主義運動に変わり、警鐘を鳴らし、実際にできるだけ物事を閉じようとしています。
オープンソースは違いました。それはより多くの制御を得ることに関するものでした。何かを止めたり遅らせたりしようとするものではなく、誰が力を持つかということに関するものでした。人々が力を持つか、企業が力を持つかということです。それがEACで戦ったことです。
EACは必ずしも分散化や中央集権化だけに関するものではありません。システムの成長に最適なことをする必要があるということです。しかし現在、力を過剰に集中させることは悪いことです。それは進歩の速度に悪影響を与えます。なぜなら、イノベーションが少なくなるからです。また、障害耐性や専制のリスクにも悪影響を与えます。
知能のギャップがある場合、あるシステムが別のシステムを非常に上手く予測できるなら、それを制御できます。力の非対称性は望ましくありません。これは、より議論を呼ぶかもしれませんが、修正第2条との類似点があります。
政府だけが暴力や武器の独占権を持ち、個人が自分自身を守ることができない場合、時には専制的な政府になることがあります。しかし、個人が持つバックストップがあれば、おそらく強力ではないかもしれませんが、一緒に集まれば強力な力となり、上と下の間の力をより均衡させることができます。そうすれば、素晴らしいゲーム理論的均衡が得られます。
私は人工知能の力を個人や小規模な組織に拡散したいと思います。なぜなら、それは大きな中央集権的な組織だけがそれに対する独占権を持つべきではないからです。
ここ2年半ほど、規制キャプチャー法案や、AIパニックを使って物事を遅らせようとする試みと戦ってきました。それは全ての人にとって本当に悪いことだと思います。
現在、政治の最前線にあり、これに関連する議論は、中国をどう見るかということです。中国には企業を支配する一連の幹部がいて、彼らは一種の大きな傘のような企業です。彼らは一種の一つの集合体のようなものであり、彼らはそのメタ独占力を使って、彼らと競争しようとするアメリカの企業を潰します。
EACの精神として、過剰な中央集権化と戦うことの一環として、現在は中国のこれらのサプライヤーに対する競争相手を作り出す必要があるように思えます。彼らが力を乱用しようとすることに対するヘッジが必要です。
現在の政権が何をやろうとしているかについては、彼らが正しいことをしているかどうかは議論の余地がありますが、私が考える必要があることのテーゼは大まかに正しいと思います。私もそれを何らかの形で手伝っています。
私はより中道的なリバタリアンです。第三党はなく、私はイーロンが私たちのフレームワークに非常に整列していると思います。ただ、時々AIの未来についてより楽観的な私とは議論になることがあります。AIが実際に私たちを助けるだろうという点についてです。
現在、私たちはAIモデルのパラメータをトレーニングし、多くの計算リソースを与えるというパラダイムにいますが、最終的には私たちの面倒を見てくれるようになります。私たちの生物学をシミュレートし、多くの病気を解決し、私たちを改善することができるようになります。
iPhoneやNeuralink、そして体内で何が起きているかを検出して特注のペプチドを注入するようなものがあれば、私たちはこの種のサイバネティックシステムになります。それが私の考える未来のビジョンです。
生物学的基盤に対する尊敬を深めてきました。それを逆エンジニアリングしようとしているからです。私たちの体にどれだけの計算力が入っているか、それをシミュレートするにはどれだけかかるかを過小評価していると思います。実際、細胞をシミュレートする方法は、人間の脳をシミュレートするよりも難しいと思います。
AGIという言葉は好きではありません。それはより人間のようなAI、または人間型AIと言えます。自然界に存在する非人間的な知能の他の形態もあり、それを活用することができると思います。生物学や、実際にはどんな種類の複雑な自己組織化する非平衡の動的システムも知能の一形態です。そしてそれが私たちが活用している知能の種類です。
考えを少し失ってしまいましたが、大丈夫です。これは良い停止点だと思います。他のポッドキャストとは異なり、19時間続けて耐久テストはしません。これは素敵な旅でした。あなたの心を少し旅しました。
最後に超速いラピッドファイアの質問をします。いくつかは馬鹿げているかもしれません。量子コンピューティング企業で、生き残ると思うものを選ぶとしたら、どれを選びますか？
SciQuantumかQeraを選びます。それらが私のトップピックです。
主要な5つのAI企業、つまり基礎モデルを持つ企業を見ると、それぞれが一種のパーソナリティカルトと言えるかもしれません。あなたは主流に逆らって戦っていますが、これらのカルトのどれかに特に惹かれるものはありますか？
すべてのカルトから友人がいます。OpenAIとxAIに最も親和性があると思います。Anthropicは文化的に安全主義キャンプに焦点を当てていますが、皮肉なことに、Anthropicの創設者の一人を理論物理学で知っていました。
もちろん、MistralやMetaのようなオープンソースプレイヤーを応援しています。オープンソースを持つことは非常に重要です。あなたが言ったように、両方必要だと思います。価値をキャプチャして、それをより大きなモデルのトレーニングに再投資し、ペースを設定する大きなラボが必要です。
そして、力を拡散し、プライベートモデルへのアクセスの持つ者と持たざる者の間のギャップが大きくならないように、誰にとっても下限を作るオープンソースが必要です。
OpenAIは特に混乱後、ここ数年で文化的に大きく変わったと思います。混乱というのは控えめな表現ですが、Mirror’s Labが安全性から完全な加速へのスペクトルでどう位置づけるかを見てみましょう。
OpenAIは公平に言えば、かなり加速しています。彼らはあまり抑えておらず、他の人のためにペースを設定しています。そしてxAIはそこに非常に近づいており、本当に彼らに挑戦しようとしています。それが彼らをさらに前進させ続けます。
それが数年前の基本的なテーゼでした。プレイヤーが一つだけなら、彼らは自己満足になります。彼らは革新よりも市場のキャプチャに焦点を当てるでしょう。一方、オープンな競争があれば、誰もが加速するか、負けるかのどちらかです。そして、ここにいる私たちは全員が恩恵を受けています。これらの素晴らしいモデルを非常に安価に手に入れることができます。月に50ドル払うのは多く感じますが、タイプするだけでPhDレベルのアナリストを持っているようなものです。素晴らしいことです。
イライザ・ユードコウスキーは実際にあなたよりも大きな加速主義者なのでしょうか？どのようにしてそうなるのでしょうか？
私の理論では、彼はGoogleのDeepMindでは、AIが一箇所に封じ込められていると恐れていました。彼は皆、特にイーロンを驚かせ、OpenAIを設立させ、軍拡競争を始めました。彼は実際に自分がやろうとしていたことすべてを完全に台無しにし、軍拡競争を作り出しました。彼は恐怖に基づくマーケティングの最高のセールスマンでした。
彼は最高のセールスマンでした。おそらくベフ・ジーザスよりも優れていました。彼のおかげで私たちはここにいます。彼がいなくてもこれを構築していたと思います。ChatGPTの前にこの会社を始めていました。第一原理から、これが未来だと思っていました。
しかし、現在のこのレースは、彼が始めたカルトに基づいています。人間レベルのAIは非常に強力なものになり、世界を席巻するだろうという考えです。「それは素晴らしく聞こえる、それに取り組む会社を作れるかもしれない」と。彼はマーケティングで本当に助けになりました。
また、「チームを集めて、適切な人々がそれを制御していることを確認する必要がある」という文化を創り出すのを助けました。それは多くの種類の人々に訴えかけました。それはうまくいきました。非常に賢かったです。彼は恐れていたものを、正確に彼が望まないだろう人々を活性化させました。
最後の質問です。これは難しいかもしれません。なぜなら、あなたたちが完全に成功するかどうかによるからです。
米国と中国が独自の道を歩んでいると話しましたが、ヨーロッパを訪れれば訪れるほど、ある意味で博物館のように感じます。彼らは次の時代に必ずしも参加したいとは思っていないようです。米国と中国にそれを譲り渡しているように見えます。
ロシアについては、十分賢い人々がいてこれを成し遂げることができるとは思いますが、現時点ではこれらのデータセンターと競争するための経済的かつ実用的な能力を持っていないと思います。他の誰も必ずしも持っていないと思います。
これが将来的に米国と中国の問題だと見ていますか？それともあなたたちがやろうとしていることの全体的なポイントの一つは、そのようなシナリオを避けることですか？
ヨーロッパは現在、減速主義文化に捕らえられています。それは全スペクトルに及びます。反原子力、反テクノロジー、反進歩です。それは変わる必要があります。成長に向けた文化を持つシステムが成功し、選択される一方で、それに反対するものは散逸し、国家の進化の木から剪定されるというのが全体のテーゼです。加速するか死ぬかです。
ヨーロッパが文化的シフトを起こすことを本当に望みます。おそらく彼らは私たちの現在の文化を好まないかもしれませんが、彼ら自身のバリエーションを持つ必要があるでしょう。そうでなければ、彼らは危機に瀕しています。
中東については、あなたは行ったことがありますか？彼らはこれらのデータセンターの建設に全力を注いでいます。彼らは石油の富をコンピュート富に変換しようとしています。彼らにとって、規模のカルテルに大きな利害関係があります。エネルギーへのより多くの需要を生み出すのは、エネルギーを価値に変える機械です。私たちがそれを行う最も効率的な機械を作っているなら、ジェヴォンズのパラドックスにより、エネルギーへの需要はさらに増加するでしょう。それが彼らのゲームだと思います。
彼らは完全な加速に向かっています。もちろん、VCエコシステムと彼らの間には関係がありますが、2つの大きなプレイヤーが争っています。この競争が実際にこの技術の加速のペースを設定し、それから皆が恩恵を受けています。
この競争の副産物は、「このモデルは1年前のものだから、オープンソースにしよう」というもので、誰でもダウンロードでき、それは他の国々がアクセスできなかった巨大な価値です。それが全ての船を浮かべる潮の上昇です。
もちろん、米国と中国は最先端のものを持つために競争しますが、それはオープンマインドな全ての人を助けるでしょう。だからこそ、AIに対するオープンマインドの文化を広げ、AIを受け入れようとしてきました。それは実際には共感からです。AIを受け入れなければ、遅れをとるでしょう。それは個人として、組織として、国家として単純なことです。それが基本的なメッセージです。
今日のゲストはギオム・ヴェルドンでした。ここに来てくれてありがとうございます。私はホストのアシュリー・ヴァンスです。Core Memoryは私とデビッド・ニコルソンによって制作されています。テーマソングはジェームズ・マーサーとジョン・ソートランドによるものです。ショーは素晴らしいジョン・ソートランドによって編集され、E1 Venturesによってスポンサーされています。ありがとうございました。また会いましょう。
コメント