この対談では、OpenAIのCEOであるSam AltmanとベンチャーキャピタリストのVinod Khoslaが、AIの急速な発展が2035年から2050年にかけて世界に与える影響について議論している。ChatGPTの成功から始まり、スケーリング法則によるAI能力の指数関数的向上、企業の変革、新たな職業の創出、AI科学者による研究加速について語られる。また、OpenAIの製品戦略、企業向けAIソリューション、極度の不確実性下での意思決定、そして10人規模で10億ドルの収益を上げる企業の可能性まで幅広く論じられている。AIの民主化と世界的な普及についても触れ、技術革新が社会全体に与える恩恵について楽観的な見通しが示されている。
AIが描く2035年から2050年の世界
皆さん、こんにちは。席にお座りください。それでは始めさせていただきます。Samさん、お越しいただきありがとうございます。
Samです。またお招きいただき、ありがとうございます。
いつでも喜んでお呼びします。あなたを歓迎しない人なんているんでしょうか？4年連続でこの話をされて、さすがに飽きてしまったのではないですか？
いえいえ、ここに来るのは楽しいです。
それでは、私たちはこの路線で何度も対話を重ねてきましたが、2035年以降の世界を想像してみましょう。2035年から2050年という期間について、その時間軸は曖昧でかまいませんが、世界はどのような姿になっていると思いますか？
人々は今と同じように、一緒に座って昼食を取っているでしょうね。ある意味では、まだ機能しているでしょうが、しかし、その期間の技術変化の速度は、現在の枠組みでは理解が困難なレベルになると思います。ダイソン球が建設されているとか、ナノボットを解明しているといった具体的な予測をするのは非常に困難ですが、そのような多くのことが本当にかなり違ったものになるでしょう。
人間の経験はそれほど変わらないかもしれません。進化には長い時間がかかりますし、生物学的には非常に長い期間にわたって非常に強力な衝動が根付いています。しかし、技術スタックで可能なことや、一人の人間ができることという観点では、それは大きく異なるものになるでしょう。
もう少し深く掘り下げてみましょう。今日の企業に何が起こるでしょうか？今朝、私はある講演を行い、午後にもILPに向けて同じ話をする予定です。2030年代にはフォーチュン500企業の消失が、これまでに見たことがないほど速いペースで起こると考えています。どの企業が生き残り、どの企業が消失するかは、それらが何をするかによって決まるでしょう。しかし、より速い消失が起こるということです。
あなたは同意しますか？それとも反対ですか？
わからないですね。私の直感では、より速くなるような気がしますが、あまり深く考えたことはありません。私が重点を置いているのは、OpenAI以外の時間の大部分をソフトウェア企業と過ごしているということです。私は長い間、ソフトウェア企業の物理学のようなものを理解してきたと思っていましたが、欲しいソフトウェアがジャストインタイムで書けるような世界に向かっているとしたら、何かをしたいときにAIチャットボットに何かを入力するだけで、優れたソフトウェアが構築される世界になるとしたら。
つまり、このSaaS会社やあの会社の製品を購入するのではなく、単に「実行」と言うだけで実現する。それは非常に大きな変化に感じられ、そう遠くない話だと思います。次の18ヶ月についても後で話しましょうが、複雑なサプライチェーンを管理しているような大きなフォーチュン500企業について言えば、物理世界は常に時間がかかりますが、ソフトウェアの変化はより近いように感じられます。
しかし、2040年は物理世界が十分に変化するのに十分な長さです。そのために私は2035年から2050年という期間を選んだのです。
2035年はたった10年先です。現在の企業の大部分が十分に迅速に適応できずに失敗し、そのために大きな損失を被ることになるでしょう。
これは長い間起こっていることで驚きです。新しい企業の成長の加速と、既存企業からのシェア獲得のようなことです。これは一つの大きな指数関数的な流れで、新しい企業がより大きく、より重要に、より早くなることができるのです。OpenAIもその一例です。私たちは非常に速く大きくなりました。
AI時代における職業と人間関係の変化
その期間において、私たちの聴衆には起業家がいて、彼らはAI医師、AIセラピスト、AI腫瘍医、AI構造エンジニア、AIチップデザイナー、もちろんAIソフトウェアエンジニア、AI営業担当、AIマーケティング担当、AI会計士などを構築しています。これらすべてが今日起こっていることです。
これらの企業が成功するか、競合他社が成功するかに関わらず、2035年以降の知的世界では成熟しているか、彼らの仕事になっていると推測しています。物理世界については後で戻りますが、AIが知的世界の仕事の少なくとも80%をできないという職業はありますか？
AIにやってほしくない仕事や、多くの人がAIにやってほしくない仕事がたくさんあります。そして人々が特に人間にやってほしいと思う新しい種類の仕事もあるでしょう。
私たちは他人を気にかけることに非常に向いていると思います。これらの深い生物学的なもののひとつだと思います。優れたAI教師がいても、平凡な人間の教師ほどあなたのモチベーションを上げることはできないかもしれません。私はそれを十分に信じることができます。
それが本当の人間かどうかを知ることに、非常に深いものがあることを十分に信じることができます。
その点については私は同意しないかもしれません。AI教師はもっと多くのことができ、あなたをもっとよく理解できると思います。しかし、あなたよりもはるかに優れたAI投資家が間もなく現れると思います。
それは間違いないことです。いえいえ、でも私個人的には、あなたと夕食を共にすることを今でも楽しんでいます。「よくやった」とか「これをすべきだ」とあなたに言われる方が、AIに言われるよりもやる気が出ます。だからあなたにはまだ仕事があると思います。
それは全く同感です。私の仕事は他のほとんどの仕事よりも安全ではありません。実力的にははるかに安全ではありません。しかし、他の点があります。
Marc Andreessenは、ベンチャーが安全な唯一の仕事だと主張していますが、私は根本的に彼に同意しません。
実際に、AIスタートアップ投資家を作ってみてはどうかと考えたことがあります。私は明らかに長い間この問題について考えてきましたが、現在のモデルでは、すでに実現可能かもしれません。ちょっとした楽しいサイドプロジェクトになるでしょう。
それは楽しいサイドプロジェクトになるでしょう。そしてSamには新生児がいるので、私たちにはもっと時間があると思います。母親は16週で子供を預けて仕事に行く必要がなくなるでしょう。私たちにはその自由があると思います。高齢者の世話をする時間もあるでしょう。
人間関係の部分については同意しますが、教育や医療ケアなどのサービスについては同意しないかもしれません。
できない仕事が何かを考えようとしていて、短期的には誰がそれを実現するのかという疑問になります。教師の点についてもう少し押してみます。客観的な意味で、私はどの教師からよりも、Wikipediaを読むことから多くを学んだか、学べたかもしれません。
しかし、私の学習プロセスの中で印象に残っている人々や瞬間について考えると、それはすべて私とつながりを持ち、私に関心を持ち、私を知るようになり、私を気にかけてくれた特定の人々についてのことで、それを私は感じ取ることができました。そのうちのいくつかはAIとの関係によって再現されるでしょうが、このこと全体は表面上に聞こえるよりも奇妙で複雑で、単に不均一なものになると思います。
AIはさまざまな仕事、おそらくほぼすべての仕事をできるようになるでしょう。しかし、生物学的プログラミングを克服するのが非常に困難であることがわかるでしょう。
私は完全に同意します。実際、今朝、生物学的プログラミングは進化しないという事実について話しました。だから私たちは地位を求め続けるでしょう。競争し続けるでしょう。インフルエンサーと注目経済を持ち続けるでしょうし、子供や高齢者、家族の世話も続けるでしょう。そして、これらすべてのことにもっと多くの時間を持つようになるでしょう。その点では同意します。
ChatGPT登場から現在まで、そして今後18ヶ月の展望
もう少し近い時点に移りましょう。人々がChatGPTの瞬間と呼ぶことが起こってから、およそ3年半が経ちました。
2年半です。
そうですね。それから5年後を見据えるとしたら、今から18ヶ月後、26年の終わりまでに、今日から26年の終わりまでのAI能力の変化はどの程度でしょうか。私は非常に短期的になっていますが、ChatGPTの瞬間から今日までの2年半で見たものと比較してどうでしょうか？
それを雰囲気ベースでどう測定すればいいかわからないですね。何もないところからChatGPTの最初のバージョンまでは、ほとんどの人が感じる最大のシステムショックだったかもしれません。なぜなら、まったくそのようなものが存在しなかったのに、今度はこのようなものがあり、確かにそれほど良くはありませんでしたが、ゼロから1への瞬間は大きな意味があります。
おそらく今度は1から10に進んだのかもしれません。ある意味では、それはより大きな意味があるはずですが、ほとんどの人にはそれほど感じられないと思います。おそらく次の18ヶ月で10から100に進むでしょう。
しかし、皆がすでにAGIが起こることを受け入れており、生活は続いていて、皆さんもまだここにいて、やっていることをやっています。だから無頓着なのでしょうか？
実際の進歩は驚くべきものになると思いますが、それは驚くべきものになることが期待されているのに対し、ChatGPTはほとんどの人にとって非常に予期しないものでした。
だから、インパクトははるかに大きくなるにもかかわらず、それほどワイルドに感じることはないと思います。ほとんどの人は10から100への変化の規模をそれほど理解していないと推測します。しかし、私は間違っているかもしれません。
1年前なら私はそれに同意していたでしょう。2年前なら確実に同意していました。今では、旅行先でランダムな人々と話していても、人々は「AGIがもうすぐそこまで来ている。人間よりもはるかに賢いコンピュータがさらに賢くなり、すべてが本当に違ったものになる」と言っているので、驚いています。そこで大きなアップデートがあったと思います。
スケーリング法則とAI研究の加速
これらすべては基本的にスケーリング法則によって起こっています。さまざまなスケーリング法則について話してください。この指数関数的変化のメカニズムについて、何が推進しているのでしょうか？
高いレベルでは、インプットはそれほど変わっていません。私たちはより良いアルゴリズムを発見し続けています。だから、より急峻なスケーリング法則を見つけ続けています。より大きなコンピュータの構築方法を理解し続けています。より強力なチップと、それらをより多く接続することもです。
より多くのデータとより良いデータを見つけ続けています。これらのシステムを新しい方法で組み合わせ、システムが永遠に実行され、どんどん賢くなる継続学習のような場所に到達し始めると思います。
でも本当に、ここ数年の話は、より良いアルゴリズム、より大きなコンピュータ、より多くのデータです。もっと深く洞察に満ちたことを言えればいいのですが。アルゴリズムの進歩の多くは信じられないものでした。確実に、私たちが理解した推論的なものと、教師なし学習の元のアイデアの両方をそのカテゴリに入れるでしょうし、他にも小さなものがいくつかありましたが、それは単にこれを磨き上げることのようなものです。
これは他の研究と産業学習の組み合わせのようなもの、歴史上のトランジスタのようなものを思い出させます。
スケーリング法則とさまざまなスケーリング法則があります。ChatGPTに尋ねれば複数の種類のスケーリング法則を定義してくれます。しかし、私が考えているもう一つの要因があります。AI科学者がAI研究の大部分を始めるのはいつだと思いますか？
それは非常に段階的になると思います。今日、OpenAIの研究者がCodecsを使用していて、PRの10%を生成し、次に20%、30%、そして新しいモデルアーキテクチャを実際にテストし始めるが、研究者がまだそれを指揮している状態から始まり、次に「これがテストすべき仮説だ」ということを少しずつ多く行うようになるでしょう。
しかし、研究者はまだより効率的に作業しているように感じるでしょう。研究者は「私が100%の研究をしている。より良いツールを持っているだけだ」と言うかもしれません。しかし、その研究者が以前の2倍、10倍のアウトプットを出しているとしたら、10倍としましょう。その時点でAIが研究の90%をしているとカウントするのか、完全に自律的に全ループをしているわけではないので0%とカウントするのか？それは一種の混沌とした共同加速になると思います。
測定する必要はありませんが、スケーリング法則について話したものを超えて、新しい進歩の変化の速度と加速を見ることができます。それが私にとって究極の測定です。
より良いツールがあるため、今後毎年、研究フロントではるかに速く進むと思います。だから、それをAIが人間を支援すると呼びたいか、人間がAIを支援すると呼びたいか、AIが研究を行うと呼びたいかに関わらず、純効果ははるかに高速になるでしょう。
アルゴリズムプロセスだけでなく、サプライチェーン全体でも。AIがデータセンターをより速く構築するのを助けているなら、新しい種類のチップ、非常にエキゾチックなものを含めて、より速く開発するのを助けているなら、それもすべてカウントされると思います。
だから、進歩の速度として見て、AIが何らかの形でそれをより速くするのを助けている限り、AIが研究の一部を行っているとカウントするなら、はるかに高速になると思います。
私にとって重要なテストは、AIが自分自身で検証する新しい仮説を思いつき、それらの仮説を修正することです。それは良い意味で悪循環に見えるサイクルです。
私は少し異なる視点を持っています。私たちが気にかけているのは、どれだけ早くより良い研究ができるかということです。AIが自分で仮説を思いついているのか、人間が自分だけではできない仮説を思いつくことを可能にしているのかに関わらず、私は同じように満足です。
投資戦略と次の大きな機会
ここにいる多くのLPが私に尋ねる質問があります。勝者がこの加速を通じて彼らのリードを強化するのかということです。研究の加速というこの仮説が正しければ、あなたと他の何人かのリーダーが彼らのリードを永続化することになります。完全に直交するアプローチを思いつかない限り、新しいプレイヤーがゼロから競うのは困難になります。私たちもいくつかの直交するアプローチに取り組んでいることをご存知ですが、それはOpenAIに価値向上の優位性を与え、私たちが皆期待している増加する評価を与えるのでしょうか？私は確実にそれを期待しています。それは多くの人の心にある疑問です。
もしもLPだったら、別のAI研究ラボに投資する方法を見つけることに0%の時間を費やし、次に来るものに投資する方法を見つけることに100%の時間を費やすでしょう。
GPも一般的にこれが苦手ですが、あなたはかなり得意です。しかし一般的に、世界の投資資本の多くのマインドシェアは、前回の勝者を追いかけることに向かい、そこでお金を稼ぐことはほとんどありません。大きなリターンを得ることはほとんどありません。
大きなリターンは、ほとんど常に、以前は不可能だったが今は可能になった世界を見て、何らかの差別的洞察を持つ非常に未証明のものに投資することから得られます。
今、皆が次のOpenAIに投資したがっていますが、おそらく次の数兆ドル企業は別のAGI研究ラボではないでしょう。AGIが新しい技術として存在するようになったために構築されたものになるでしょう。OpenAIが始まった時、ほとんどの人が投資したがっていたのは、覚えていませんが、別のFacebookか何か、または別の暗号通貨でした。
面白い話をお話しします。OpenAIに投資した時、20年間で唯一、すべてのLPに投資についての謝罪の手紙を送ったのです。「これは奇妙に見えることは知っていますが、とにかくやります」と言って。
それについては少しだけ恨みに思うことにします。
OpenAIが設立された時、私たちのスペースは研究のブレークスルーによって開かれていました。暗号市場がGPUに補助金を出し、そこで多くの新しい進歩がありました。他にもいくつかのことがありましたが、私が取り組む価値があると思ったもののリストは非常に短かったことを覚えています。
今取り組む価値があると思うもののリストは膨大で、人々はそれに資金を提供するために取り組むべきだと思います。研究リターンがOpenAIに蓄積し続けるか、他の誰かに蓄積するかは、この時点でのキャピタルアロケーターとしてはほぼ最も重要な問題ではないと思います。
世界にほぼ無料のAGIが存在することになります。OpenAIのような企業には、非常に大規模で成功した消費者製品や他のいくつかのものがあるため、創造される大きな価値があると思います。
しかし、再びトランジスタのアナロジーに戻ると、真のトランジスタ会社だった少数の企業のうち、ほとんどは消滅し、少数が生き残り、今ではこの部屋にあるトランジスタを搭載した多くのものを見てください。私たちはこれをトランジスタデバイスやトランジスタ会社として話しません。それは単に、OpenAIを含む新しい企業群を可能にした技術の一部になったのです。
それが目指すべきものであり、キャピタルアロケーターにとって非常にエキサイティングな時代です。過去にうまくいったものではなく、未来を追うべきです。
ChatGPTの立ち上げから学んだこと
ChatGPTの立ち上げに戻りましょう。最も驚いたことは何で、ユーザーの行動を見て、あなたの考えはどのように進化しましたか？
もう少し巻き戻してみます。技術企業の伝統では、プロダクト企業を始めて、この成功したプロダクト企業を構築し、それから研究ラボをそれに追加することを決めます。これはXerox PARCのようにかなりうまくいったこともあれば、最近の企業のようにかなりひどくいったこともあります。
しかし、私たちは本当によく運営された研究ラボから始めて、その後にひどい会社を追加した唯一の例だと思います。OpenAIに4年半いて、製品を作ることは考えたことがありませんでしたが、最終的にスケーリング法則と必要な資本の量のため、本当に大きな会社を構築しなければならないことが明らかになりました。
会社を持つには製品が必要で、GPT-3というモデルがありました。私は会社に製品を見つけるよう緊急性を高めていましたが、うまくいきませんでした。十分に良くありませんでした。クールでしたが、機能するものを作るのに十分ではありませんでした。
Paul Grahamの「常にAPIを作るべきだ。何があっても、APIを作るべきだ。良いことが起こる」というアドバイスを覚えています。製品を作るアイデアが尽きたので、これを世界にクラウドソーシングして、GPT-3をAPIに入れて、誰かが何かすることを見つけてくれるかもしれないと言いました。
世界は正確に一つのことをすることを見つけました。GPT-3でお金を稼いだ唯一のものは、これらのコピーライティングアプリケーションでした。会社名は今忘れましたが、GPT-3を使ってウェブサイト用のコピーを生成して再販するために、非常に迅速に10億ドル以上の評価額企業になった数社がありました。Jasperのようなものです。
それだけでした。人々は他のことも試しましたが、他の会社はうまくいきませんでした。しかし、プロンプトをテストして何が返ってくるかを見ることができるPlaygroundというものがありました。そしてそれが隠れたヒットでした。人々、多くはありませんが、一部の人々は一日中そのものとチャットしていました。
RHFを理解する前、GPT-3.5を持つ前のことでした。だからそれほど良くありませんでしたが、人々がモデルと話したがっているという明確なユーザーシグナルがありました。コピーライティング以外で本当にトラクションがあったのはそれだけだったので、「これが私たちが構築すべき製品かもしれない」と言いました。
それで、複雑なプロンプトをする必要がないよう、モデルとチャットしやすくする研究を始めました。より良いモデルがあり、チャットインターフェースを出すことにしました。他のものも構築する予定でした。
OpenAI内部では大きな懸念がありました。チャットできるなら、何かを学ぶのを助けようとする特定の種類のアシスタントや、何らかの目標を達成するのを助けようとするものでなければならないのか？単に何についてもチャットしているだけなら、人々はそれをしたがるのか、それとも何を言えばいいかわからないように感じるだけなのか？
そしてそれをほとんど保留しましたが、何についてもチャットできるプレビューを出しました。もう一つの興味深い学びは、テストグループがあり、これはモデルが本当にひどかった時代の話ですが、ユーザーの非常に少数が実際にそれを続けました。リテンションはひどいものでした。
しかし、リテンションしたユーザーについては、彼らの使用量は時間とともに増加しました。リテンションがひどかったために、ほぼローンチしませんでした。
後で振り返って重要な学びとなったのは、少しでもリテンションがある製品があれば、実際には本当に良い状態にあるということです。5%でも全く問題ありません。デフォルトは、ほぼ常にゼロまでの直線的な下降です。しかし、当時は直感的に理解していませんでした。
今日のChatGPTユーザー数については公開している数字はわかりませんが、ChatGPTの今後のビジョンは何ですか？
OpenAIのビジョンは、小さな製品スイートと、他のサービスと一緒に使用できるプラットフォームを構築し、あなたのデフォルトの個人的なAGIになることです。
これは、あなたを知るようになり、あなたのものにつながり、あなたが望む方法で動作するシステムです。チャットインターフェースを通じて使用したいなら、問題ありません。新しい方法でソーシャル製品やエンターテインメント製品を使用したいなら、素晴らしいです。エージェントや他の多くのもので多くの作業を完了したい場合も素晴らしいです。そして、他のサービスにログインして、そこであなたの知能を持ち込むことができるようにしたい場合も、それもできます。
時間が経つにつれて、新しい種類のサービスに拡張されます。構築すべき本当に重要な新しい種類のコンピュータがあると思います。私たちのユーザーにもそれらを持ってもらいたいです。人々はAIと非常に重要な関係を持つことになり、それが彼らをより生産的で、より良く、より幸せにし、より滑らかな生活を送るのを助けるでしょう。私たちはそれになりたいのです。
つまり、それは単なる知能をバックアップして呼び出すことを超えているということですね。
そうですね、ある意味では、それが私たちが販売しているものですが、素晴らしい体験を創造し、それをさまざまな方法で統合することには多くの価値があります。
ChatGPTの次の10億ユーザーを見ると、同じユースケースでしょうか？何らかの形で拡張されるのでしょうか？多くの異なるセグメントでしょうか？どのように想像しますか？
製品のロードマップについて詳しく話すのは好きではありませんが、私たちはまだAIのターミナル段階にあると思います。実際、私はターミナルが好きです。それはコンピュータを使用する良い方法だったと思います。しかし、この周りに現代的なコンピュータインターフェースの残りの部分を構築していくにつれて、文字通りコンピュータがどのように見えるかではありませんが、そのような同等の前進のステップとして、ほとんどの人にとって使いやすく、はるかに能力があり、親しみやすいものになると思います。
ChatGPTは知能のためのオペレーティングシステムだとおっしゃっているのを聞いたことがあります。
まだです。そこに到達したいと思っています。
何が欠けているのでしょうか？
つまり、すべてです。私たちは非常に早い段階にいます。私たちには全体があります…
早い段階ですが、欠けていると思うものがあるはずです。欠けているものと来るものについて話したくないなら構いません。
それは私たちの製品ロードマップですからね。
わかりました。少し切り替えましょう。
企業でのAI活用と将来の展望
明らかに個人利用を超えた重要な分野は企業利用です。それについて少し話してください。
私は二つの興味深いベクトルがあると思います。一つは、仮想同僚というアイデアと、企業が今は制限されて行わなければならないすべてのことを、AIを使ってより良くする能力です。それは素晴らしいものです。そしてその例をすでにいくつか見ることができます。
コーディングエージェントのものは、企業への明らかな応用が見える一つです。AIエージェントによるカスタマーサポートで起こっていることは非常に素晴らしいです。大部分の企業で、AIによって行われるタスクの割合対人間によって行われるタスクの割合は、どんどん上がっていくでしょう。
それは明らかで、順調に進んでいます。私がより興奮しているのは、企業が本当に困難な一つの問題に対して、コンピュートのクラスター全体を投入できることが何を意味するかということです。科学的発見の場合が最も興奮するものかもしれませんが、企業が持つ他の多くの本当に困難で価値のある問題があります。それを解決できれば、今はできませんが、何か新しいことを可能にするでしょう。
問題について超一生懸命考えることができるAIシステムがあると、それは根本的に企業の領域にあるものになると思います。新しい材料を発見したり、非常に困難で複雑なサプライチェーンを最適化する方法を見つけたりすることです。それがどこに向かうかを見るのが楽しみです。
短期的に企業のコンテキストを見ると、AI用のAI科学者を除いて、AI科学者、材料科学や生物学や他の分野についても話しました。そのレベルの能力がすべてのモデルでいずれ来ると話されていますが、新しい能力なしに企業で短期的に最も破壊的なのはどこで、短期的にはあなたの収益はどこから来るのでしょうか？
短期的には、AIソフトウェアエンジニアが企業にとって最も破壊的なものになると推測しています。企業がそれに最も速く最も多く投資しています。特に優れた環境である多くの風変わりな理由があります。それは企業にとっての現在の制限要因と収益機会に直接的に変換されます。だから、それが今年の残りの大きなストーリーになると思います。
他のことも起こるでしょうが、このことを得意とする企業やチームが他のチームを大幅に上回ることができるようになるのを見始めるでしょう。
明らかにソフトウェア開発は、ほぼ誰もが主要な分野、主要な新しい分野と認識していると思います。ソフトウェアを超えた従来の企業機能についてはどうでしょうか？
それらも、これはもはや理論的なことではありません。「私は今、AIでカスタマーサポートをすべて行っています。AIでアウトバウンド営業をすべて行っています。その他の垂直分野もすべてAIで行っています」という企業から聞いています。だからそれもすべて起こっています。同じレベルの可視性は持たないと思いますが。
OpenAIでの困難な意思決定
少し別のトピックに移りましょう。あなたはOpenAIで、この技術が機能するか、どのように発展するか、競合他社が何をするかという極度の不確実性の中で多くの決定を経験してきました。あなたが行った最も困難な決定のいくつかと、正しかったものと間違ったものがあるでしょうか？それについてどのように考えますか？
私にとって最も困難なことは、個別の決定ではありません。もちろん困難な決定もたくさんありますし、私たちも公平な分以上に間違えています。すべてが相互に関連する程度と、一度に行わなければならない決定の数と、すべてを行わなければならないことの数です。
これについて本当に良いアドバイスを見つけたことがありません。だから私たちはそれに苦労しています。しかし、私たちが運営したい規模で運営でき、やりたい数のことをすることができるが、半分の決定しかしなくてよいなら、人生は本当に簡単に感じるでしょう。しかし、そこで本当にオーバーサブスクライブされているように感じます。これについてどうすればいいかわかりません。
私たちは本当に一度に多くのことをしなければならないからです。素晴らしい研究プログラムを運営しなければなりません。大規模なインフラを構築しなければなりません。これらすべての製品を構築する方法を見つけなければなりません。長いリストがあります。
しかし、多くの決定を迅速に行う方法について、シリコンバレーの良い知恵はないと思います。少数の決定や少数の大きな決定を行う方法について良いアドバイスはあると思います。しかし、OpenAIを少数の大きな決定のみを行う組織に変換する方法をまだ見つけていません。それができれば最も助けになることだと思います。
ChatGPTに尋ねました。助けになりませんでした。最近聞いた最良のChatGPTの使用は、誰かが今まで使ったどのエグゼクティブコーチよりもはるかに良いエグゼクティブコーチだと言ったことです。
セラピーとコーチングで本当に優れているという一般的なケースは、多くの人々を驚かせました。それは私たちの使用量の重要な部分になっています。
困難な決定のもう一つのカテゴリーは、新しいことをする方法を見つけ出すか、新しいことをすることを決定することです。OpenAIで私たちが誇りにしていることの一つは、競合他社や他の研究ラボをコピーする代わりに、新しいことをしようと努力することです。
他の研究ラボを見ると、ほとんどがOpenAIが行っている同じ研究をしようとし、私たちの製品を正確にクローンしようとしています。業界全体で驚くほど同じに見えます。
私はかつて人々を馬鹿にして、それは単なる創造性の欠如のようなものだと思っていました。それもそうですが、新しいことをすることに入る決定を行うのは本当に困難です。他の何かが機能することを知っているなら、それをコピーして、これらの決定をしなくても済むように誘惑されることを、今は本当に理解しています。
世界を前進させる方法ではないと思いますが、人々がそうする理由を今は本当に共感します。
研究ラボがあり、お互いのコピーと相互のアイデアの構築がたくさんあります。多くの起業家が、モデルが何を持つか、極度の不確実性でどのように決定を行うかについて、極度の不確実性で決定を行っています。
この不確実性を処理する方法について何かアドバイスはありますか？おそらく他のどの質問よりも多く受ける質問で、AI能力がどこに向かうか、どのような仮定をするべきか、現在のモデルの上にどのようにスタートアップを構築するかという質問です。
歴史的にうまくいったことは、モデルがすべての方法、すべての次元でより良くなると仮定することです。より良く、より安く、より良いマルチモダリティ、より良い知能、より良い推論能力、より低いコストで、今後数年間でそれが遅くなる理由は見当たりません。
人々がインフラを書き直したり、新しいクラスターが立ち上がるのを待ったりする一時的な減速はあるでしょう。しかし全体として、自分を出し抜こうとしたり、この小さなことやあの小さなことで良くなるのか、正確にどのようにタイミングを計るかを言おうとしたりしないことで、よく報われるでしょう。
オラクルがこのモデルは毎年すべての次元で約10倍良くなると告げたとき、いつどのような製品を構築すべきかという質問を自分に問うだけです。それはかなり良い高レベルのガイダンスになるでしょう。
あなたのモデルやAnthropic、Googleのモデルの上に構築している人々について、最も誤解されていることは何だと思いますか？人々に理解してほしいと願っていることは何ですか？あなたと競争しようとしている人々ではなく、上に構築している起業家です。
現時点でAIアプリケーションを構築している人々には非常に感銘を受けています。彼らはモデルについて、何ができて何ができないか、どのように最大のパフォーマンスを得るかについて非常に多くのことを理解していると思います。彼らに他に理解してほしいウィッシュリストはありません。
最近、私の家で夕食会を開きました。聞いたり会ったりした中で最も印象的な新世代のAI創設者20人を招待しようとしました。テーブルを回りながら、「彼らは5年前、10年前の世界よりもはるかに優れた創設者たちだ」と思いました。本当にウィッシュリストはありません。非常に感銘を受けています。
AIの世界的な影響について話したいのですが、その前に、お気に入りの質問をして、聴衆の質問のための時間も十分に残したいと思います。10人の会社で10億ドルの収益を上げる会社はいつできると思いますか？すでに始まっていますか？間もなく始まりますか？可能ではありませんか？明らかに私にはバイアスがあります。
その会社はすでに始まっているか、今後数年以内に始まると思います。
完全に同感です。おそらくすでに始まっていると推測していて、価値を創造すること、価値を創造するのに何が必要かについて考えるのは非常に驚くべきことです。
科学のためのAIがとても興味深い理由はここにあります。50,000個のGPUと一人の人によって生成される可能性がある、10億ドルを超える収益を生成する可能性がある単一の薬剤を想像できます。
今朝、私のメールで誰かが送ってくれた記事を見ました。まだ読む時間がありませんでしたが、AIのみを使って黄斑変性の治療法を発見したという内容でした。あなたの指摘は正しいですが、同じことがエンターテインメントやその他の多くの分野でも起こり得ます。
AIの世界的展開と平等なアクセス
世界規模での展開と、AIの利益をより世界的に、より平等に普及させる方法について話しましょう。内輪の人々が富を得るという心配があります。状況認識論文では、この変化がどれほど大きく、どれほど速く起こっているかを理解している人は数百人しかいないと述べています。
世界的な影響と、この国内でさえも非対称性があるため、より広範囲でのAIの使用と利益の普及をどのように確保するか、そして世界的にはどうかについて話してください。
質問を否定的に捉えたくはありませんが、重要な点があると思うので、完全に否定的になりたくはありません。ChatGPTは現在、世界で5番目に大きなウェブサイトです。現在の軌道を維持すれば、維持するのは困難ですが、世界最大のウェブサイトになるでしょう。
いずれは数十億の人々が無料のAGIを使用することになります。誰もが優れた医療アドバイスにアクセスできるようになります。誰もが優れた教育にアクセスできるようになります。誰もがどんなソフトウェアでも作るよう求める能力を持ち、無料でそれを行うことができます。私たちが単純に無料でやってあげます。
それが技術の働き方です。資本主義は本当に素晴らしいと思います。周辺を修正する必要がないということではありません。違った方法で対処する必要がある重要なことがあると思います。しかし全体として、これが世界に利益をもたらす方法は、技術が世界に利益をもたらすことです。
人々の手にツールを置き、それらを無料または低コストにすると、人々は素晴らしいことをします。世界がこれに準備ができていない、処理できない、理解できる人は少数しかいないという論文や他の多くがあると思いますが、人々は本当に自分たちが必要としているものを知っており、新しい技術の使用方法を学ぶのがかなり得意だと思います。これは理論的なことではなく、大規模に今日起こっていることで、非常に素晴らしいことだと思います。
それは世界の既存のシステムとインセンティブが多くの点で驚異的だからこそ起こっています。繰り返しになりますが、異なった方法で行わなければならないことがいくつかあります。
AIが大規模な科学的発見を始めるなら、ある企業がAIを使ってすべてのがんの治療法を発見するでしょう。その人々が本当に裕福になることを願いますが、世界の他の人々も、安価ながん治療を受けられることを願います。誰かがAIを使って核融合を商業化可能にするでしょう。その人々が本当に裕福になることを願いますが、全世界が急落する電力価格から利益を得るでしょう。
だから技術は全体として大規模な世界的利益を広めることに大きな役割を果たしており、過去数百年の歴史がそうであったと思います。私たちはそれを恥じるべきではありません。私たちがしていることが悪ではない理由を説明しようとすべきではありません。本当に素晴らしいことだったのです。
AIについて異なる点がいくつかあるでしょう。コンピュートが狂ったように不足するリソースになり、大量のコンピュートでどの順番でどの問題に取り組むかを民主的に決定することが、過去とは少し異なるアプローチを必要とする世界を想像できます。
世界のほとんどの資本がコンピュートにアクセスしたがり、それが狂ったように高価で限られたものになる世界を想像できます。それは悪いことでしょう。しかし、それを解決する方法についての私の答えは、少なくとも最初の試みは、はるかにはるかに多くのコンピュートを作ることでしょう。
これは行ったり来たりしているので確信はありませんが、これは世界でのより多くの平等に向けた力であり、さらなる格差ではないと思います。
政府の役割とAIの影響
時間の都合上、3つの質問をテーブルに置きます。そのうちの1つでも全部でも答えることができます。政府の役割、AIが2030年代に非常にデフレ的な経済を引き起こすと期待していること、そして意識的AIのリスクです。どれを取り上げるか、またはすべて取り上げるか、あなたが選んでください。
デフレから始めましょう。長くなりすぎたら教えてください。他の質問もします。
非常にデフレ的であることを願っています。そうあるべきだと思います。しかし、創造されるすべての過剰な富はどこかに行く必要があります。水、食べ物、医療、教育、自然へのアクセス、家族との時間など、皆が余裕を持てるものになることを願っています。
そして、ステータスゲームを行いたい人々や、他の人々のために価値を創造したい人々、自慢する権利のために何かを持ちたい人々が、ダ・ヴィンチの絵画を1兆ドルに、銀河を1000兆ドルに競り上げるような、最も愚かなステータスゲームを見つけて行うことになることを願います。
しかし、すべてを大幅にデフレ化させ、すべてを超安価にし、人々が非常に野心的で創造的で、有用で、一生懸命働くことになり、それを追跡する何らかの方法を持つつもりなら、過剰な富はどこに行くのかという興味深い問題です。それは非常に興味深い設計問題だと思います。
それは実に興味深いことです。私は経済がどれほどデフレ的になるかを強く信じており、それがGDPの良い測定基準になるとは思いませんが、GDP成長をどのように測定するかが爆発的に成長すると思います。だから、これら二つのことが同時に起こるのを見ることになるでしょう。
聴衆からの質問
聴衆からの質問に移りましょう。こちらにマイクをお願いできますか？
こんにちは、Sam。私たちここのサミットのほとんどが、AIをビジネスの促進要因として話してきました。それを一瞬ひっくり返して、潜在的な脅威として考えたいと思います。競合他社がより良いモデルを速く構築できるようになり、競争の場を平準化したり、それよりも悪く、私たちに不利に傾けたりする可能性があります。それについてどのように考えますか？
違いがよくわかりません。誰かを有利にし、誰かを不利にするでしょう。有利な側にいるよう努力するしかないと思います。しかし、両方とも真実だと思いますが、異なった行動をする方法がわかりません。
すべての競合他社と新しい競合他社がAIであなたを打ち負かそうとするでしょうし、あなたができることはより良い仕事をすることだけです。
その質問の別のバージョンは、超知能の世界では比較モードは可能でしょうか？
わかりません。もちろん可能ですが、どのようなものになるかわかりません。いくつかはほぼ同じに見えると思います。ネットワーク効果、ブランドなど、それらがほぼ同じに見えることを想像できます。存在しないと確信しているものもたくさんあります。新しいものが出てくると想像しているものもあります。しかし、これがビジネスの楽しい部分だと思います。これらの新しいモードがどのようなものになるかを見つけ出すのは素晴らしいことです。
向こうで質問があります。
こんにちは、Sam。Chris Leeです。50,000個のGPUに問題を投入できる科学的問題について興味深いことをおっしゃったと思います。核融合は私たちの多くにとって関心のあることです。推測ですが、物理世界はそれほど速くスケールアップできませんが、核融合のような問題に50,000個のGPUを投入するスイッチをいつ切るでしょうか？
おそらく今でしょう。これの輪郭を学び始めるため、少し早めにしたいと思います。大きな高コンピュート科学プロジェクトをいくつか始める適切な時期だと思います。それが始めるべき正確なプロジェクトかどうかはわかりませんが、方向性としてはイエスです。
核融合と似たようなエネルギー側で、AI世界でのエネルギーインフラについてどう考えますか？1月にスイスの会議にいた時、Eric Schmidtが話しているのを聞きました。彼は、エネルギーコストがいかに高いかのために、ヨーロッパがAIで大きくなることは決してないだろうと言っていました。
すべてのコンピュート能力が必要で、そしてDeepSeekが出てきて、はるかに効率的でした。テクノロジーのエネルギーニーズを満たすためにデータセンターを開発していく際に、どこに向かうかについての仮説の変化を見ますか？
両方が真実だと思います。モデルは大幅により効率的になると思いますし、世界にも非常に多くの需要があります。超効率的なモデルでも、世界のAI需要を実行するために多くのギガワット、数十ギガワット、最終的にはおそらく数百ギガワットのエネルギーが必要になるでしょう。
しかし、新しいエネルギー源がオンラインになることについては非常に楽観的で、豊富で安価になると思います。AIとエネルギーは明らかに非常に関連のあることです。エネルギーは他の理由でも価値があります。世界で物事を実現する能力が欲しいのですが、10年後にAIのコストが電気のコストに収束することを期待する度合いは、過小評価しがたいものです。他のすべては本当に安くなるはずです。チップを作ることをロボット化することはできますが、電子を駆動する必要はまだあります。
こちらで質問があります。向こうにもマイクをお願いできますか？
ありがとうございます、Sam。ありがとうございます、Vinod。Vinodの3番目の質問に戻りたいと思います。政府の役割は何でしょうか？
AIインフラの問題について、裕福な人々だけがすべての利用可能性を吸い上げるのではなく、豊富で十分なAIを構築できることを確実にすることは、政府にとって重要なことのようです。
ここではいくつかのガードレールが必要になるでしょう。過度の規制が災害になり得ることは皆見ることができますが、このための規制不足もそれなりに悪いことになり得ます。システムがはるかに強力になるにつれて、いくつかのグローバルルールを設定することは、政府からしか来ないと思います。
企業がそれを提案し、何であるべきかを見つけ出すと思いますが、政府によってグローバルに実行されることしかできないと思います。分配とアクセスがどのように共有されるかについてのいくつかの質問が出てくると思います。政府が意見を述べなければならない、この種の世界でのデータの考え方についてのいくつかの大きな質問があるでしょう。
2028年のアメリカ選挙頃には、政治の非常に主要なトピックの一つになることを期待しています。
向こうで質問があります。
こんにちは、Sam。二つ質問があります。一つはインターフェースの帯域幅についてです。さまざまなことを行うより多くのエージェントがより強力になるにつれて、おそらく一度に何千ものエージェントと話したいポイントに到達したいと思います。
問題は、インターフェースを何度も切り替えて、レポートが戻ってくるのを待っているなら、おそらくエージェントが一つのことや別のことをしているのを扱う以外何もしないことになります。
しかし、もう一つの問題は、彼らを完全に放置することはできず、彼らは私の正確な意図とは異なった方法で物事を行うだろうということです。PRDを書かせようとしても、明らかに私が望むすべてを理解せず、多くの編集が必要になることからもわかります。
だから帯域幅が、扱えるエージェントの数のスケーリングの問題を引き起こしているのです。これについてどう考えますか？次のステップは何でしょうか？
他のエージェントのアウトプットを評価し、いつ何を表面化するかを決定し、いつ決定を下すことができるか、あなたが下すであろう決定を理解することが仕事であるエージェントがあるでしょう。それは別の種類のエージェントの別の種類の仕事になり、非常に効果的になると思います。
おそらく、それらのエージェントのアウトプットに基づいてリアルタイムで進化する、あなた用にカスタム生成されたUIがあり、いつあなたの注意を引くかを適切に判断するでしょう。しかし、AIがどんどん賢くなり、より高いレベルのエグゼクティブ機能で働けるようになるため、今日の多くの問題は明日の問題ではなくなると思います。
もう一つ質問がありましたね？
こんにちは、Sam。Somite AIのMikaです。まず、Fei-Fei Simoを迎え入れたことをお祝いします。彼女は私たちのアドバイザーでもあり、私が知る中で最も素晴らしいリーダーの一人です。
Somiteでは、新しい治療法、新しい細胞置換療法を進めるために、ヒト幹細胞の幹細胞分化のためのファウンデーションモデルを構築しています。新しいモダリティのデータを使用しています。
あなたに質問したいのは、物理世界、生物学などに来るブレークスルーを考える時、ボトルネックはどこにありますか？アンロックはどこから来るのでしょうか？汎用モデルから来るのでしょうか？ドメイン特化モデルから来るのでしょうか？データ自体から来るのでしょうか？生物学での新しい治療法をもたらすための最初のブレークスルーがどこで見えるか、どこで見ますか？
明らかに、私は本当に知りません。より多くのデータなしに、より賢い知能だけで新しいブレークスルーを起こすことができる科学の分野がいくつかあると思います。例えば物理学では、追加のデータポイントなしに、追加の粒子加速器を構築することなしに、AIが物理学を解決できる可能性があると思います。
超可能性が高いとは思いませんが、必要なデータはすべてそこにあり、私たちはただ十分に困難な積分を解く能力などを持っていなかっただけかもしれません。そして、追加の湿式実験を一度も実行することなしに、すべてのがんを治癒できる可能性は非常に低いと感じる生物学のような分野があります。
不可能ではありませんが、可能性は低いです。自動湿式実験室である必要はありません。科学者に「この実験を実行して答えを教えてください」というメールを送るだけでも構いません。しかし、何らかの形で新しいデータポイントを得続けることができる能動学習システムを構築する必要があるでしょう。
しかし、どの問題がどのカテゴリーに当てはまるか、正確に制限要因がどこにあるかについては、経験的なアプローチを取るしかありません。
ありがとうございます、Sam。ここで止めたいと思います。
お招きいただき、ありがとうございました。
お越しいただき、本当にありがとうございました。
コメント