19,873 文字
今、人間を超える宇宙人のような知性が現れたとき、生活はどのようになるでしょうか。AGI後の世界をどのように想像しますか。この発展と共存する方法を見つけなければなりません。何かに取り組むとき、素早い「ノー」か長期的な「イエス」のどちらかが欲しいものです。スタートアップの創業者たちは本質的に検証ゲームを戦っており、スタートアップの中から浮上してくる者こそ、あなたが買収すべき相手です。最も難しい問題に取り組みましょう、そこにこそ成果があるからです。批判することは簡単ですし、私たちは批判するのが大好きです。「すべてが間違っている、私ならずっとうまくできる」と。あなた自身がそれに挑戦してみなさい。
AIバブルに入っていると思いますか？いいえ、実際、AIは過小評価されていると思います。競合他社が現れたとき、本当の勝負が始まります。アメリカは何をすべきだと思いますか？はっきり言いましょう。我々が行動を共にしなければ、中国は非常に悪影響を及ぼしながらこのレースに勝ってしまうでしょう。アメリカの企業は中国のオープンソースモデルを使うべきではないと思いますか？これは非常に良い質問です。
こんにちは、皆さん。AI Founder Journeyの第一回エピソードへようこそ。私はホストのエアです。今日は友人のエリック・シュミットをこのエピソードにお迎えできることをとても嬉しく思います。エリックは元GoogleのCEO、現Relativity SpaceのCEOであり、AIとグローバルな競争について積極的に発言している人物です。今日は、会社の創業、スケーリング、人材の獲得と維持、AI、グローバルな競争、そしてAIの未来について深く掘り下げていきます。
ハイ、エリック。また会えて嬉しいです。新しい役職、おめでとうございます。始めに、あなた自身をどのように紹介しますか？
まあ、今は元GoogleのCEOですね。イギリス帝国勲章も持っていて、そして現在はロケット産業の大手非公開企業であるRelativity SpaceのCEOも務めています。
では、スタートアップの旅について、あなたのアドバイスと視点から始めたいと思います。創業者として最も難しいことの一つは、人材を見つけて雇うことです。そして本当に優れた人材を見つけると、彼らは最終的に自分の会社を始めるようになります。あなたがGoogleやサン・マイクロシステムズに参加したとき、自分の会社を始めることを考えていましたか？
良い質問をありがとう。私は自分を創業者だとは思っていません。あなたに会ったとき、「これは創業者だ」と思いました。創業者は家に座ってアイデアを持ち、それに非常に情熱を注ぎ、一日中それについて考えます。私はむしろプロの経営者です。あなたのために、またはあなたと共に働き、ビジネスを拡大成長させます。それが私に合ったモードだと常に思ってきました。
サンでは若かったので、やり方を学びました。ラリーとサーゲイに会ったとき、彼らが天才で、私はそうではないことは明らかでした。また、私の経験が彼らを助け、彼らにはその経験がなかったことも明らかでした。2001年に最初の契約を結んだ後、ラリーは私を見て「今はあなたが必要ないけど、将来必要になる」と言いました。ちょっと傲慢だと思いましたが、彼は正確でした。彼はその時点まで全てを正しく行っていました。私の貢献はスケーリングでした。
創業者なら、会社の方向性、人材採用、取締役会との戦いなど、特別な判断をするのが仕事です。私のような立場なら、他の人のアイデアを取り上げて非常に成功させるのが仕事です。特に多くの創業者は（特定の誰かを名指しするわけではありませんが）イノベーションには素晴らしいスキルを持っていますが、経理や法務コンプライアンスなど、会社が行わなければならない退屈な機能を設定する忍耐力がないことがよくあります。それが違いだと思います。
あなたの言う通り、これらの会社に早期に参加することで非常に成功した経歴をお持ちですね。創業者になる人々の多くは、有望な会社に参加するだけでより良い道を歩めたかもしれません。この旅について、なぜ時には創業者ではなく参加する方が良いのか、もう少し詳しく教えていただけますか？
これについてよく考えました。現在の経済システムは、過去10年間で私の業界で世界で最も価値のある企業を、アメリカと中国で生み出しました。それらはすべて次のような特性を持っています：投資家が会社に資金を提供し、人々がインキュベートされる場所があり、人々はしばしば非常に若く、未検証で、自信に満ち、傲慢などと呼べるかもしれません。彼らは何かに同意せず、新しい興味深いアイデアを持っています。
これらの洞察の問題は、しばしばそれらが製品機能であり、プラットフォームや製品ではないということです。つまり、より良いXを行う方法を考え出し、Xはこのより大きなシステムの重要な構成要素です。通常、これらの創業者は最終的に買収されます。本当に成長できるアイデアは非常に少ないです。
だから、市場には自然な非効率性があり、これらの人々はむしろ最初から勝ち組の会社に行くべきだったのです。一方で、その意見に反論するならば、次のように考えてみてください。なぜ会社は小さな会社を買収するのでしょうか？おそらくその機能が必要だからです。何度も見てきたのは、スタートアップ創業者たちが本質的に検証ゲームを戦っており、スタートアップの中から浮上してくる者が買収すべき相手で、残りはガベージコレクションされるべきだということです。
通常、これらの会社では「アクワイヤー」と呼ばれるものを行いますが、あなたが支払う価格で、人材に対して支払っていることは明らかな価値ですが、今彼らが最高の仕事をしていることを知っているためにも支払っています。これは通常のチームでは分かりません。
このモデルの良いところは、収益が上昇し、評価額が常軌を逸しているかぎり（勝者では驚くべきことにほとんどいつもそうです）、大企業が小企業を買収できることです。彼らは勝者を手に入れますが、最も重要なのは勝者の人材を手に入れることです。
我々の議論しているような形で10社のうち9社は成功しません。ベンチャーの伝統的な数字では、4社が完全に倒産し、5社が「リビングデッド」になります。これは成長せず、取り除くこともできないということです。これはもちろん最も不快な状態です。何かに取り組むとき、素早い「ノー」か長期的な「イエス」のどちらかが欲しいものです。成長もできず縮小もできない中間に留まりたくはありません。いくつかのケースでそれを見てきました。
非常に興味深いですね。あなたの指摘通り、全てはチームに関わっています。あなたは創業者に投資もされていますが、投資前に創業者に求めるものは何ですか？
でも、前の質問に対する答えとして、このシステムはとても上手く機能しているので、それをいじらないよう奨励しています。エッジには改善の余地があるかもしれませんが、実際には、マイクロソフトとアップルから始まり、サンやその世代の他の企業を経て、グーグルとその世代、そしてメタ、Airbnb、テスラ、SpaceXなどを見てください。これらはすべて、競争に参入したという同じ特性を持っています。
創業者を見る際、簡単なテストがあります。あなたは創業者で、私があなたの投資家だとしましょう（そうなることを願っています）。ある時点で、大企業があなたの小さな会社と同じことをすると決めた状況に置かれます。彼らはあなたについて聞き、これは面白いと思い、余分な人材やリソースを持っているため、市場に参入します。私が求める創業者はそれを見て「ゲームオン」と言い、エネルギーを倍増させ、スケーリングに焦点を当て、チームをこの競合脅威に対してモチベートします。
スタートアップで全てが順調で挑戦者がいないときは、ルーズな状態です。私は、あなたも知っているいくつかの会社を持っていますが、それらは良い段階にあります。彼らのメッセージは良く見え、人々が参加し始めていますが、直接の競合相手はいません。競合相手が現れたとき、本当の勝負が始まります。その時点では、良い時間を過ごしているだけですが、競合相手が現れます。
それがリーダーシップの本質です。状況に立ち上がる能力と、委縮するのではなく、リードするための神経を持つことです。CEOと創業者CEOの違いは、CEOは常に揺さぶられることです。CEOは、長い間その立場にあった自分自身の経験から、過小評価されていると常に思ってきました。毎日起こる全ての恐ろしいことに耐えられる人を見つけるのは非常に難しいからです。内部問題、採用問題、人々は去り、人々が来る、競合相手はあなたを操作しようとし、プレスはあなたを追いかけ、成功すると通常プレスはネガティブになります。もちろん、顧客は必要とし、投資家はもっと求めています。
このような環境で働く意欲のある人を見つけることは、我々の政治指導者も同じくらいの虐待を受けているという意味で、これらは特別な人々です。明らかに自己奉仕的ですが、「リング」に立つ意欲のある人々を尊敬しています。それは1910年の有名なルーズベルトの引用、「アリーナの男を尊敬する」という言葉です。批判することは簡単ですし、私たちは批判するのが大好きです。「すべてが間違っている、私ならずっとうまくできる」と。あなた自身がそれに挑戦してみなさい。
毎日起きて、12時間か14時間、これらすべてに対処し、家に帰って家族に優しくし、犬を蹴らないだけの強さがありますか？人々が思っているよりずっと難しいことです。
そうですね。多くの創業者がいて、多くのAIスタートアップがあります。あなたの言う通り、時には成功している会社に早期に参加する方が良い選択かもしれません。しかし、これほど多くのAIスタートアップがある中で、スタートアップに参加したいエンジニアたちが、どのスタートアップを選ぶべきか判断するのは非常に難しいです。彼らにアドバイスはありますか？どのように評価すべきでしょうか？
これは、以前議論したモデルの自然な結果です。新しい波が来るたびに、勝者になろうとする多くの人々がいます。特に大学院などから出てきた若い人にとって、それを知るのは非常に難しいです。私の見解は実際に多くの人とは少し異なります。勝者を選ぼうとするのではなく、最も楽しめる場所を選ぶべきだと思います。楽しんでいるなら、あなたが質の高い人であると仮定すると、非常に賢い人々と働いており、潮の満ち引きは全ての船を持ち上げます。
例えば、誰がiPhoneを発明したかと聞かれたら、スティーブ・ジョブズと答えるでしょう。実際はそうではありません。アップルには、優れた才能を持つ副社長が率いる1000人のスタッフがいました。ジョブズは師匠のショーマンであり、優れた戦略家でしたが、すべての作業を行ったのは全チームでした。しかし彼らが誰なのか知りません。歴史における彼らの役割について考えてみてください。彼らは自分がしたことを非常に誇りに思うべきです。
若い人として、知っている最も賢い人々を見つけ、大学院の親友などと一緒に過ごして、勝利の兆しがあれば、それを試すだけです。それがシステムの天才的な部分であり、特に若い人は、リスクを取る余裕があります。
面白いことに、ラリーとサーゲイと私が会社が成功し始めたときの会話で、ある日ラリーは「理解できない。会社を創業したとき、我々は何もなく、これらの大きなリスクを取った。今、これほどのお金を持っているのに、同じレベルのリスクを取っていない」と言いました。それは加齢の自然な過程であり、彼はいつも通り正しかったのです。それが会社の加齢の自然な過程です。
特にスタートアップでは、リスクを取る時です。成功したスタートアップを振り返ると、スタートアップには多くのことが必要です。適切な時期に参入する必要があります。専門用語で言えば「製品市場フィット」です。市場が望むものを構築し、非常に優れた技術で新しい問題を解決する新しいアイデアを持ち、収益化する方法も必要です。
Googleを見てみると、二つのものがありました。検索エンジン自身は明らかに素晴らしく、ラリーが昔マスターの一部として発明したページランクと呼ばれるものでした。しかし、別の種類のオークションを使用する収益化エンジン（通常AdSenseと呼ばれる）もありました。これはより良いもので、セカンドプライスオークションと呼ばれるビクトリーオークションでした。これを発見したとき、私は思いました。「我々は正しい組み合わせを持っている。素晴らしい製品と収益化する方法がある」。それがどれほど成功するか全く想像できませんでした。始めたときは、現金がなかったのでわかりませんでした。その素晴らしさはスケールしたことでした。
今日、スタートアップと会うとき（今日もそうでした）、「あなたのモデルでどこに学習があるのか見せてください」と言います。もし基盤モデルやその他のAIツールを使用して進む中で学習しないような会社を構築しているなら、学習を持つ競合相手に負けるでしょう。最速の学習者が勝つからです。
これは非常に興味深い会話を生み出します。学習する人々は伝統的なエンジニアリングとは異なり、一方、AI創業者によって構築された会社は、典型的には物事を構築する方法を知っているエンジニアではありません。どちらかを増強する必要があります。私の見解では、今日の完璧な会社は、機械学習（基本的に基盤モデル、特殊モデル、微調整モデルなど）を使用してスケールする方法を理解できるAI研究者と学習者を持っているでしょう。
これが非常に興味深い理由は、GCPやGoogle Cloudなどの上に構築すると、学習が進むにつれて、学習が加速し、市場シェアも加速するからです。学習と速い市場シェアの獲得は、90％の領域、つまり分野での支配に至る傾向があります。スタートアップ創業者にとって富への最速の道は、可能であれば私が今言ったことを行うことです。
そうですね、学習プロセスに関するあなたの指摘は正しいです。しかし多くの場合、人を雇うとき、彼らはインタビューで「あなたは正確に何をしているのか、製品は何か、誰をターゲットにしているのか」という明確さを本当に求めます。しかし、我々はまだそれを理解している途中です。知りたいのは、どれだけ早くそこに到達できるかということです。
採用について一つ言えることは（あなたとあなたのチーム、そして視聴者全員のためですが）、あなたは誘惑の形を作りたいのです。「我々には信じられないような機会があり、難しい問題がある」と言いたいのです。トップの人々はお金や名声ではなく、本当に難しい根本的で新しい問題を解決することに最も興味を持っています。
人を採用しようとするとき、「ここで何をすべきかわかりませんが、もしあなたがこの問題を解決できれば、ヒーローになれるでしょう」と言います。それは効果があります。例えば、軍事側で働いている若い男性がいて、明らかに（明らかな理由で詳細には触れませんが）、彼は物事の情熱的なデザイナーであり、他のことはあまり得意ではありませんが、航空宇宙や衛星分野で非常に優れたものをデザインする能力があります。
このような人をどうしますか？彼を走らせます。基本的に「この分野の問題を解決してみて、何が思いつくか見てみよう」と言い、少しでも興味深ければ、私はそれに大量の資金を投入します。それは効果があります。彼の才能だけでなく虚栄心にも訴えるからです。
心理学を理解する一つの方法は、CEOの仕事は他の人に例外的な仕事をさせることであり、CEOの仕事はそれを調整することです。CEOは30年か40年前には主に嫌われ、面白くないと思われていたことを人々は忘れています。そして、誰もがテクノロジーCEOを愛するという時期を経て、今では様々な正当な理由で攻撃されています。
全盛期の間、私たちは非常に人気があり、それは驚くべきことで、人々は私たちの仕事が本質的に創造的な人々を組織して成功できるようにすることだと理解していました。彼らが成功すれば、私も成功します。もしこの人が成功すれば、私も成功し、財務も上手くいき、全員が勝ちます。人々は混乱し、これがお金についてだと思います（確かに多くのお金がありますが）。
重要なのは、世界を変えるという点で成功することです。人々について学んだことは、使命の周りで彼らを動機付けできれば、はるかに簡単に管理できるということです。彼らは忙しいので、彼らを心配する必要はありません。彼らは実際に気にかけているので忙しいことを知っています。
例をあげましょう。Googleの初期の頃、人々が私のところに来て「あなたのために働きたい」と言いました。「それは素晴らしい、私もあなたが好きです」と答えました。そして彼は「でも今は副社長です。次の仕事はCEOなので、COO（最高執行責任者）つまり2番目のポジションでなければなりません」と言います。
私は彼らに丁寧に「現在COOの構造はありませんが、多くの難しい問題があります」と言いました。それが決め手となりました。個人的に好きだった3、4人は間違った答えをして、「ここに来て、あなたが直面している最も難しい問題に取り組みたい」と言っていれば、数十億ドルを稼いでいたでしょう。
人間として重要なあなたですが、「会社を成功させるためにできることは何でもする」と言わなければなりません。小さな会社では、大量の空白スペースがあるため、どんなスペースでも占めることができます。従業員としてのあなたに望むのは、これらの異なるスペースを占有し、それらを整理し、問題がある場所を教えてくれることです。あなたはこのことに関して私より賢いからです。それが実際の仕事の進め方です。
私の本の一つ「How Google Works」では、「ディーバ」と「ナーブ」の区別について話しています。ディーバはスティーブ・ジョブズ、天才的、怒りっぽいが、コミットメントがあり、誰もスティーブの顧客とアップル、そして彼の会社の成功へのコミットメントを疑いません。ナーブは同様の立場にいるが、基本的に自己中心的で、自分自身のために最適化している人です。
ディーバとナーブのこの区別を覚えておけば、時には見分けるのが難しいですが、ディーバを支援してください。彼らが会社を変える人、新製品を届ける人だからです。しかし彼らの話を聞く必要があります。一方、率直に言って、ナーブは解雇するだけです。申し訳ありませんが、彼らの本質的な性質が自分自身中心で、大義と機会と彼らが持つ力の威厳に立ち上がらないのであれば、うまくいきません。
Googleにいたとき、毎日自分に言いました。結果のために、この会社をリードし、この役割を果たせることは非常に幸運だと。創業者に雇われたことを決して忘れませんでした。彼らは名目上私の下で働いていましたが、実際には、私は彼らの貢献を尊重し、彼らも確かに私の貢献を尊重していたので、チームとして働きました。
ディーバはどこで見つかりますか？
彼らは現れます。興味深いことがあれば現れます。様々な異なる道を試しました。通常、ディーバは技術努力をリードしています。別の会社で技術コメントをリードしていますが、扱われ方や話を聞いてもらえないことに不満を持っています。あるいは、大学から出てきた異常に広い才能を持つ人です。多くの新しい大学出身者は非常に狭い視野ですが、その境界を超える人もいます。時には自社の従業員から現れることもあります。
組織について学んだことは、実際にテストされるまで誰かの成功を判断しないことです。特にソフトウェアに関しては、ソフトウェアに詳しくない人々は、ソフトウェアの人々が何をしているのか理解できず、ソフトウェアの人々も一般的に何をしているのか理解できません。あなたが専門家であるハードウェアとは違います。
このチームがそれをやり遂げられるかどうかを知るのは非常に難しく、難しい短期的なタスクを与えてそれをどのように組織するかを見るのが良いでしょう。
エンジニアリング幹部に関する私のルールは、廊下で準備なしに彼らと話せば、次の質問に答えられるべきです：何をしているのか、問題は何か、スケジュールはどうなっているか、そしてどうすれば速くなれるか、リソースが足りないと不平を言わないこと。誰もリソースは十分ではありません。今言った小さな連祷は、人々が注意を払っているか昼食に出かけているかの良いテストでした。
マネージャーや幹部としてサーフィンするのは簡単です。「一日中これをやっています。はい、あなたが言ったことは知っています。今私は専門家です。アミラ、あなたは賢いから説明してください。私は専門家です。」それはサーフィンです。CEOとして、詳細を十分に理解して習得し、リードするのに十分な詳細を理解する必要があります。それは人々が何をしているのかを理解し、彼らの話を聞き、注意を払い、小さな修正を加えることから始まります。それが私があらゆることでしようとしていることです。
それは明らかに非常に難しいです。自分で経験するまで、人々はそれがどれほど難しいかを理解しないと思います。あなたにとって非常に興味深く報酬のある旅だったと確信しています。
ところで、これを聞いている人は「なんてひどい」と言うかもしれません。これらの人々は高給を得て、あらゆる種類の注目を集めています。それは全て事実ですが、これらは実際の生活、実際の家族を持つ人間であることを覚えておくことが重要です。人間の文脈で彼らを理解しようとすれば、彼らをよりよく理解でき、一人になるか、一人のために働くことができます。
私はメンターの恩恵を受けました。初めてサンに行ったとき、今は引退したバーニーという人がいて、彼は絶対に素晴らしかったです。彼は私に容赦なく「なぜ遅れたのか」と言い、私は「なぜ気にする必要があるのか」と思っていました。学者として本当にわかりませんでした。彼は管理の精度を私に教えてくれました。
今日ここであなたと話しているのは、人々が私に賭けてくれたからです。彼らは私の持つ可能性を見て、「彼はここが不足している」と理解してくれました。私の年齢では、同じような賭けをしたいと思いますが、そのためにはフィードバックを聞いて、議論することはあっても内面化できる人が必要です。
政治システムを見ると、政治システムが間違った方向に固まってしまうことがあります。彼らが聞けば修正しますが、イデオロギーに凝り固まっていると修正しません。イデオローグの問題は、長期間非常に間違っていて、自分を説得することで破産してしまう可能性があることです。
適切なスピードのCEOは、自分が聞いていることが全体像ではないのではないかと常に神経質になっています。私はいつも特定の問題について知っている全ての人に尋ね、不協和音を聞くようにしていました。そして不協和音が聞こえたら、それが単に不満なのか（それは確かにあり得ます）を理解しようとしました。
企業では、会社内で設定されたドグマがありますが、生活では真実ではないことがあります。最も明らかな例はメディア産業で、大きな配給会社があり、全てがオンラインやソーシャルメディアなどによって中間排除されています。彼らと15年間働いて、結論に達しました。彼らには「これを提供しなければならない」という契約があるため、契約が終了するまで会社内での変化は起こらず、その後、次の、より若く新しい視点を持つCEOが現れるでしょう。それは起こることの良い予測因子でした。
これは世代の変化も関係しています。同じ方法で永遠に運営されてきた会社を見ると、それを買収して再構築する方法を考える時です。ほとんどの人はそれができないか、競合相手を構築します。
別の例を挙げると、データベース業界は、純粋にオンラインのデータベースSQL解決策が登場する準備が長い間整っていましたが、様々な理由で現れていません。あなたの半導体業界では、設計ツールを新しいアイデアで破壊する機会があるというお話をしました。または、企業がこれらの新しいアイデアを採用することもできますが、それは通常非常に難しいです。
これらの機会が常に生まれる理由の一つを理解する必要があります。結局のところ、我々はこの歴史について話しており、多くの本が書かれています。部分的には、既存の企業が自分自身との一連の相互接続する合意に縛られているからです。どうやってお金を稼ぐか、顧客をどう扱うか、製品をどう構築するか、システムへの圧力は何か。通常、そのような会社が変わることができる唯一の方法は、CEOではなく創業者が入ってきて、ハンマーを押すことです。
通常、破産のような大きな災害や、何か巨大なもの、または悪い判決など、変化を強制するものが必要です。文化的に、人間は自分が取り組んでいるものに、これまでのペースで継続して取り組むことを好みます。CEOの仕事の一部はこれを理解し、どこに圧力をかけるべきかを理解することです。我々全員が持つ物理的な限界もあります。
そうですね。では、この人材が向かおうとしているところについて少し話しましょう。明らかにAIですが、AIバブルに入っていると思いますか？
いいえ、実際AIは過小評価されていると思います。数ヶ月前にDario Amodeiが主張した議論をまとめると、AI業界はスケーリング法則に支配されており、最初のスケーリング法則はディープラーニングに関するもので、より多くのハードウェア、ネットワークなどを追加すると、これらの発見が得られます。スケーリング法則はChatGPTやGemini、Claude 3をもたらしましたが、まだ余地があります。そのスケーリング法則の限界はまだ見つかっていません。
さらに2つ来ています。一つは強化学習に関するものです。強化学習は前後に行き来して計画を立てるようなものです。つまり計画と考えてください。ここでの最良の例はOpenAI o3とDeepSeek R1でしょう。もっと出てくる予定です。それらは非常によく機能し、見ると驚くべきものです。
三つ目はテスト時計算と呼ばれるもので、モデルが進む中で学習しています。これはまだ初期段階です。これらの弧が遅くなり始めるのを見るまで、6ヶ月で遅くなると言うのは簡単ですが、誰も知りませんし、まだ遅くなっていません。電気のような重要なものが不足するかもしれません。実際の物理的限界が来るかもしれませんが、例えばNVIDIAの最近のGB300の発表を見ると、本当に素晴らしいです。AMDが発売したばかりの350製品も、あなたは私より理解しているでしょうが、非常に優れています。Traniumも非常に良く、GoogleのTPU 5もAI向けに最適化されています。
AIがビジネスプロセスや推論、発明を助けるためのハードウェアの改善とソフトウェアの改善にはまだ多くの余地があります。Alpha foldのような科学における発見についてはまだ話していませんが、それらは深遠です。
そうですね。全ての進歩が達成された時点に到達したとして、ポストAGI世界がどのようになると想像しますか？
これについて「ジェネシス」という本を書きました。キッシンジャーとクレイグ・マンディと一緒に書いたもので、ヘンリーが亡くなる前の最後のプロジェクトでした。彼は亡くなる1週間前に本を完成させたので、私の親しい友人としては非常に感情的で特別なものです。
この本では、人間のアイデンティティに関して、この全てのものがあなたの周りにあるとはどういうことかについて多く語っています。彼は私よりも美しく表現していますが、理解する方法は、人間であることの意味について多くの書かれていない、言われていない前提があるということです。我々は意識があるとわかっていますが、それを定義することはできません。人間の卓越性を理解しており、偉大なアスリートや車のドライバー、偉大な数学者などを称えています。
では、この超人的な宇宙人知性が現れたとき、生活はどのようになるでしょうか？思考実験をしましょう。「サンフランシスコ学派」と呼ぶものがあります。サンフランシスコの人々は、3〜4年以内に人間レベルの知性に到達すると文字通り主張しており、これをAGIと呼んでいます。それを定義するとき、彼らは「最高の人間」と言い、その後は「超知性」と言います。つまり、全ての人間の最高の部分を持つということです。
あなたと私が全ての人間より賢いシステムを担当しているとしましょう。そのシステムは数兆ドルと多くのコンピュータがあり、あなたと私が運営しています。どのように管理しますか？何に取り組ませますか？
もし悪い手に落ちたら、我々全員を殺すようなことを考え出すかもしれません。それは明らかに良くありません。人々が自由を失わないように、どのように組織しますか？
簡単な例は、人間はコンピュータに何をすべきか言われるのが好きではないということです。例えば、私がニューヨークにいて、コンピュータが最適な交通パターンを組織しているとします。しかし何らかの理由で、最適な解決策が私の近所に害を与えます。
別の例は、妊娠中で出産直前の女性と彼女の夫（または任意のステレオタイプ）が、彼女を病院に連れて行こうとしていますが、車が赤ちゃんを救うために病院に到着するのに十分な速さで走らないというものです。それは明らかに大丈夫ではありません。子供との相互作用など、様々な例が考えられます。
この本ではこれら全てを探求しています。言いたいのは、現在の言語では、そのような知性と共に生きることがどのようなものかについて考えるシステムがないということです。そしてそれらは来ています。我々の予測は間違っているかもしれませんが、一般的に方向性は正しかったです。タイミングが時々ずれることはありますが。
今あなたが説明したことを考えると、それが本当に私たちより賢いなら、私たちの役割は何でしょうか？基本的に彼らは完全に自律的なのか、それとも…
しかし例をあげましょう。人間が犬に対するように、彼らは私たちに対するのでしょうか？つまり、コンピュータは私たちより賢いので私たちに同情するのでしょうか？それは明らかに良くありません。
社会として、あなたと私だけのテック業界ではなく、この発展と共存する方法を見つけなければなりません。この知性の発展は、気候変動や寿命延長、人間が千年以上悩まされてきた病気など、人間の生活の難しい部分を本当に変えることができるため、非常に重要です。このツールが正しく適用されれば。
これは本当に感動的で、時には「これは非常に重要だ、なぜすべての国がAIに全ての税金と努力を注ぎ込み、どれだけ遠くまで進められるか見ようとしないのか」と考え始めます。AIにもっと投資と焦点を当てるべきだと思いますか？現在行われていないことを。
中国はまさにあなたが言ったことをしています。DeepSeekの信じられない成功の結果として、これまで眠っていた中国政府は、これが別の国家的優先事項だと決定し、何十億ドルもの資金をこれに投入しています。中国のモデルは非常に真剣に受け止められるべきです。彼らは非常に賢く、一生懸命働きます。私たちが持っているチップの一部の利点はないかもしれませんが、私たちが彼らに課した制約は、DeepSeekで見られるような印象的な新しいアルゴリズムを発明させました。
中国の競争を決して過小評価しないでください。私が言ったことの他に関心がない人々のために、中国は勝つでしょう。はっきり言いましょう、我々が行動を共にしなければ、中国は非常に悪影響を及ぼしながらこのレースに勝ってしまうでしょう。
アメリカのモデルはおおよそ次の通りです：大学が研究を行い、ベンチャーキャピタリストがリスクを負い、政府がルールを設定します。これらすべての分野でもっと支援が必要です。現在の政府の変化のため、大学は恐ろしい経済的時期を迎えています。
例を挙げると、大学院を卒業するコンピュータサイエンティストの多数（世界で最も価値のある人々）は産業界に行きたくなく、教授になりたいと思っていますが、大学が採用凍結中のため、面接すらできません。それによってこれらの努力と研究は後退します。彼らは業界ですぐに吸収されますが、その後戻ってきません。
ベンチャーに関しては、金融市場が非常に深いため、米国のベンチャー業界はかなり順調だと思います。トランプ大統領はバイデンのAIイニシアティブの多くを追求せず、実際にキャンセルしたことを示しています。新しいチームが確認されつつあり、私の感覚では彼らは正当な中国の脅威に焦点を当てるでしょう。
私が数年前に国家安全保障委員会のAIで行ったように、彼らがAIの勝者が中国の価値観ではなくアメリカの価値観を使って勝つことが不可欠だという声明を出すことを願っています。伝統的なアメリカのリベラルな価値観、言論の自由、表現の自由、移動の自由です。中国がそれらの価値観を担当するなら、それらは中心にはならず、忘れられるか省略されるでしょう。
そうですね、私も全く同意します。DeepSeekモデルは確かに、少なくともオープンソース戦線では中国が勝っている主要なオープンソースモデルの一つです。米国が速く動くためにすべきことについて、あなたの考えを聞きたいです。もっとオープンソースにすべきか、クローズドソースにすべきか、あなたの視点はどうですか？
私たち全員、特に私はオープンソース運動で育ちました。視聴者のバックグラウンドのために、オープンソースはソフトウェアとデータが誰でも使えるように公開されるところです。何かを発明して与えるのは理にかなっていないように思えますが、実際に何かを発明して与えることで、伝統的な市場では本当に賢い人々があなたと働きたいと思い、競合相手に情報を与えるという新しいテクニックを使って先に進むことができます。奇妙に聞こえるかもしれませんが、本当にうまくいきます。
Googleはオープンソース企業と理解できます。Googleのベースとなるテクノロジーはオープンソースに基づいていますが、プロプリエタリなコンポーネントもあります。Appleは逆で、基本的にはクローズドソース企業ですが、理由があってライセンスを与えたりオープンソースコンポーネントも持っています。モデルには様々なバリエーションがあります。
AIの場合、現在の主要なモデルはすべてクローズドです。つまり、彼らが何をしているのかわからず、APIアクセスがあるか、英語で質問することができます。Metaは「クローズドソースオープンウェイト」と呼ばれるもので、エコシステムに良いウェイトをリリースしていますが、中国のような人々がそれらのモデルを使用することも可能にしています。主要なモデルを使用するのは非常に難しいです。それがセットアップされた緊張の種です。
元のアイデアはそこから来るため、大学ではよりオープンソースのイノベーションが必要です。トップ企業がプロプリエタリであることを受け入れたとしても（それは主にお金のためです。これらのモデルは1億から2億ドルかかります。2億ドルをモデルに費やして、それを与えてしまうなんて、馬鹿げていますよね）、大学で新しいことのためのよりオープンソースのイノベーションが必要だと彼らも同意するでしょう。
強化学習を言及しましたが、ある大学で異なる種類の数学を使用して基盤モデルを行う新しい取り組みを知っています。これは歓迎すべき競争です。グローバルに、賢い人々はたくさんいて、賭け金は大きいです。それを試してみましょう。彼らを助ける必要があります。
そして問題は拡散になるでしょう。技術的な問題を説明します。我々は、10の26乗（1の後に26個のゼロ）の浮動小数点演算（計算の尺度）が、モデルが本質的に危険な知識を開発できるポイントだと推定しています。小さいときはあまり知りませんが、より深く主題に入るにつれて、おそらく悪いかもしれない知識を持つことができるように見えます。最も明らかなのは爆弾や悪いウイルスなどです。
ソースコードを与えるオープンソースモデルを警察する方法を考え出しながら、私たちを安全に保つことは、私たちが「非常に難しい問題」と呼ぶものです。まだ良い解決策はありませんが、取り組んでいます。
DeepSeekが、他のほとんど、もしかしたら全てのオープンソースよりも比較的良いフロンティアモデルをオープンソース化したとき、驚きましたか？なぜ彼らはそうしたのでしょうか？
いつものように、私は彼らを誤って過小評価していたため、完全に驚きました。DeepSeekはしばらく前からあり、彼らはヘッジファンドとして始まりました。彼らはテック企業ではなく、自己資金で、中国市場などで多くのお金を稼ぎました。しかし彼らは明らかに優れており、オープンソースのLlamaモデルを使用した良い例です。
クローズドモデルの蒸留を行ったという主張もあり、これはサービス利用規約違反ですが、事実は、彼らはハードウェアの制約を全て使用して、彼らなしで人々の品質に近いことを達成したということです。
DeepSeekを見ると、彼らの主張の一部は正しくありません。モデルのトレーニングに500万ドルかかったと主張していますが、実際には1億ドル以上かかったモデルを使用してモデルをトレーニングしました。それは省略です。
今私が理解していることは興味深いのは、中国は私たちがリーダーシップをクローズドにしたことへの対応として、全てをオープンソース化する道にあるようです。これは非常に重要な意味を持ちます。ほとんどの国はトップのものにアクセスできませんが、彼らは切望しているので、中国のオープンソースモデルの上に乗ることになるでしょう。それは私たちにとって良いことではありません。先を行くためには、中国が行っているオープンソースバージョンの代替品が必要です。
DeepSeekでは、総トレーニングコストについて言及していませんが、彼らは論文で最後の実行のコストだと言及していると思います。あなたの指摘通り、彼らはすでに使用している多くのGPUを予約しており、これは彼らが最後の反復のために計算した時間単位のレートに基づいています。しかし確かにそれは複数の反復がかかりました。彼らが構築したオープンソースモデルまで遡ることができます。確かにそれははるかに多くのコストがかかります。
この問題の別の例を挙げましょう。私がわからない質問の一つは、作れるお金に対してデータセンターに力を入れすぎる状況になり得るかということです。時間をかけて市場を見ると、方向性は正しいですが、時々先に進むことがあります。つまり、何かを持ちすぎて、別のものが足りないということです。
簡単な答えは、現在のシステムには全ての資本支出を正当化するのに十分な収益がないということです。もしそれが真実なら、計画されている巨大なデータセンターは経済的なクレーターになるでしょう。私はこれに同意しませんが、これは私が通常行うこと、つまり10人を雇って楽しむこととは異なるため、注意が必要です。500億ドルや1000億ドルの資本投資について話しています。これらはビジネスマンで、彼らの資本が返還されることを望むでしょう。
このスペースで実際の需要率がどうなるかを理解する必要があります。DeepSeekが示しているのは、はるかに少ないリソースで最適に近いところまで到達できるということです。彼らにその功績を与えましょう。一方で、強化学習と彼らが使用する様々な形態のプランニングを見ると、基本的に現在のモデルが行っていない前後の推論のために、100倍以上のフロップやトークン化などを使用しています。
個人的には、今後10年間はハードウェアが足りないと投票し、最終的には電気と、それらのシステムを構築する能力が限界となるでしょう。それらは永遠にかかります。しかし、あなたは半導体の専門家です。
半導体産業は好景気から不景気へと移行します。彼らは回収のために過剰請求する美しい製品を作り、最終的には非常に多くを作ることができるため、その美しく作られた製品の価格はほぼゼロまで下がります。なぜなら次のものへの需要があるからです。これは半導体産業にとって相当破滅的な自然な好景気・不景気のサイクルです。歴史的にはまだそのサイクルを経験していませんが、きっといつかは経験するでしょう。
あなたの指摘通り、半導体産業でCHIPS Actは役立ったと思いますか？それは目標を達成したり、中国を遅らせたりしたようには見えません。あなたの見解は？
申し訳ありませんが、その点は同意できません。CHIPS Actの強力な支持者でした。約25年前、アメリカは何らかの理由ですべての国に我々のチップを開発させることを決めました。最初にシンガポールと日本に移動し、今もちろん台湾は世界のハードウェアの島となり、彼らは素晴らしい仕事をしています。地政学的な問題がたくさんあります。
サプライチェーンを管理したいなら、投資する必要があります。アメリカが半導体のリーディング企業を持つべき理由はたくさんあります。最も明らかなのは、TSMCがアリゾナで大規模な計画を行っていることです。彼らは台湾の4倍のコストがかかり、2倍の時間がかかったと言っていますが、それは驚くことではありません。それでも彼らはCHIPS Actの受益者であり、インテルも国内製造を試みています。
あなたが取り組んできたことを含む多くの研究努力があり、研究はCHIPS Actに依存しています。CHIPS Actは、これらの能力をオンショアに持ってくることを意図していたという強い声明があり、それは機能していると思います。半導体は本当に難しく、時間がかかります。
もう一つの質問ですが、米国企業は中国からのオープンソースモデルを使うべきではないと思いますか？
これは非常に良い質問です。いくつかの会社で素晴らしい中国人研究者や開発者がいることが面白いことに、彼らがアメリカの会社で中国のモデルを使うことは考えもしませんでした。そして彼らが特定の機能でより良いため、全員がそれらを使用していることを発見しました。
現時点での私の感じは、中国の人々に任せましょう。明らかにコメントはすべて中国語で、それが実際に何をしているのか神のみぞ知るですが、彼らが真実を語っていると信頼し、これらが実際に彼らが言っているものであることを確認してください。
例えば、特定のことでより速いため、DeepSeekを使用している多くの企業を知っています。それは素晴らしいことです。私の推測では、アメリカの人々がDeepSeekの発明を学んだ後、アメリカのバージョンに移行するでしょう。トークン配信のコストは毎年10倍ずつ下がっています。実際、DeepSeekの結果を提供するコストは、DeepSeekの人々がそれを指摘しなかったにもかかわらず、Geminiで同じことをする方が安いです。
聴衆のために最後の質問ですが、もしあなたが時間を遡り、20代の起業家でAIに携わっているとしたら、何か非常に創造的なアイデアや始めたい創造的なスタートアップがありますか？
その年齢のとき、オペレーティングシステムとプログラミング言語に取り組んでいました。これは私の年齢を示していますが、当時のシステムでした。オペレーティングシステムのスケーリングなど、コンピュータは信じられないほど遅く、ディスクメモリやメモリスケジューリングなどがありました。私はそれが大好きでした。
Xerox PARCで博士号を取得し、もちろんバークレーでもこれらの多くが発明されました。私は世界の中心にいると感じました。今日同じ年齢だったら、システムの中で最も興味深い世界の中心にいたいと思うでしょう。それは私の見解では、強化学習と改善の分野、いわゆるエージェント革命です。
昨年の話であるディープラーニングが成功したことを受け入れると、最も難しい問題は、このプランニングを一定レベルのコントロール下に保つことです。より多くのステップを追加し、より複雑さを追加すると、需要は指数関数的に増加します。なぜなら、異なることを試し続け、最終的に解決するからです。
尊敬する科学者から言われたアルゴリズムは、今後数年間でRLの進歩が深遠になるだろうということです。それは大きなことです。このようなものをスケールで手に入れると、超人的な能力で迅速に計画と推論を適用できるようになるということです。これは私が考えられる最もセクシーなことです。なぜなら、それは他のすべてのものの基礎だからです。
ビジネスプロセスは本質的にステップA、ステップB、ステップCであり、大学、政府、ビジネス、芸術などすべてで行うことの基礎となっています。その問題を解決してください。それは素晴らしいことです。
もし私が生物学や化学、物理学などの分野でもっと科学者だったら、おそらくそれらの分野それぞれで基盤モデルを構築することは素晴らしい仕事だと答えるでしょう。これらの分野の本物の科学者（私は単なる素人ですが）に会ったとき、いつも「あなたが持っている知識をカプセル化する基盤モデルを考え出し、それを最も強力な方法で使用してはどうですか」と言います。私の経験では、それは電球をつけるようなもので、突然彼らは「ああ、コンピュータに既存の学習を入れて問題を解決するのを手伝わせるという問題を再概念化できる」と言います。
私にとって、それはもう一つの興味深いことであり、ほとんどすべてに適用可能です。別の例として、政治的な会議にいて、誰かが有権者とその好みについて多くのデータを持っていました。私は「なぜその情報をすべて含む基盤モデルを構築して、質問できるようにしないのですか」と言いました。「考えてみます」と彼らは言いました。
あなたが行うことで、この信頼できるパートナーを持つという考えは、力の行使という意味で次の本当に興味深いことだと思います。「今日何をしましたか」と家族に帰って言うとき、「良い一日だった」という「良い一日」とは何でしょうか？それは、これらの新しいツールを使ってこれらの分野で新しい問題を解決したということです。
バークレーで博士号を取得しているとき、コード最適化のために強化学習に取り組みました。強化学習の主な課題の一つは、報酬関数を定義することです。人間の報酬モデルがどのようなものかを正確に記述するのは非常に難しいです。これもまた、今日の我々のスケールで、これらのモデルをトレーニングするための報酬関数を明確に定義できれば、別の分野だと感じます。当時、強化学習について話す人はほとんどいませんでしたが、今は多くの人が話しています。しかし、これらの報酬モデルと、学習が向上したときのルールをどのように構成するかを本当に理解するにはまだギャップがあると感じています。
それに同意します。それがなぜそれが非常に難しい問題かの例です。若い人として非常に明確に言うと、最も難しい問題に取り組んでください。そこに成果があるからです。簡単なことはしないでください。他の誰かがそれを処理できます。本当に挑戦的な問題に取り組み、進歩を遂げれば、あなた自身の関連性という最も重要な戦いに勝利するでしょう。朝起きて、なぜ私が重要なのか。
エリック、これは私たちのポッドキャストの本当に良い締めくくりです。時間を取って私たちと話してくれてありがとうございました。非常に役立ちました。あなたは時間を非常に寛大に使ってくれました。あなたに会えて良かったです、また会えて嬉しいです。
あなたは非常に良い友人であり、この新しい会社で大成功を収めるでしょう。あなたの成功のためにたくさんのお金を稼ぐのが待ちきれません。
本当にありがとうございます。あなたのサポートに感謝します。さようなら。
視聴していただきありがとうございます。ハングリーに、好奇心を持ち続けてください。私はホストのエアです。AIで可能なことの境界を実験し、学び、押し広げ続けることを忘れないでください。AI Founder Journeyでまたお会いしましょう。
コメント