本動画では、AnthropicでアライメントリサーチチームをリードするJordan Fischerが、AI時代におけるスタートアップ創業者が直面する根本的な問いを投げかけている。彼は自身が「人生で最も混乱している」状態にあると率直に語り、AGIが2~3年以内に到来する可能性を前提に、プロダクト戦略、チーム構築、信頼性の確保、防衛可能性など、あらゆる側面を再考する必要性を説く。特に注目すべきは、AI時代における「信頼」の問題である。少人数チームや半自動化されたチームでは従来の人的チェック機能が働かず、新たなガードレールとしてAI監査などの仕組みが必要になると指摘する。さらに、ソフトウェアの完全な商品化が進む中で、どのような防衛力を持ち得るのか、どんな問題が依然として「難しい」ままであり続けるのかを問いかける。最後に彼は、金銭的成功を追求しつつも、世界に真に必要とされるものを作る最後のチャンスかもしれないこの時期に、創業者たちが持つ独自の視点を活かして社会にポジティブな変化をもたらすことを訴えている。
AI時代の混乱と疑問
皆さん、このトークへようこそ。私は極度に混乱しています。おそらく人生で今までになく混乱しているでしょう。間違いなく人生で最も混乱している状態です。そしてその混乱について話したいと思います。なぜなら、混乱しているときというのは、何か面白いことの始まりだと思うからです。
科学者として訓練を受けていると、混乱する瞬間こそが最も注意を払うべきものなんですね。「これは面白い。これから何が起こるか分からない」という感覚です。私はテクノロジーの世界に人生のほとんどをいてきましたが、いつも「ああ、今何が起きているか理解している」というアドバンテージがあったように感じています。
実際、今後5年から10年で何が起こるかだいたい分かっていると思っていましたし、それを自分の強みとして使ってきました。キャリアの計画もそれに基づいて立ててきましたし、会社もそれに基づいて立ち上げてきました。トレンドの先を行って、様々な場所で適切なタイミングで関わることができました。それは本当に素晴らしいことでした。でも、もうそうは感じていません。
5年先の未来が見えないのです。見えるのは3週間かそれ以下です。何が起こるのか本当に分かりません。だから、何が起きているのかを理解する手助けになるような一連の質問をしたいと思います。皆さんの理解にも役立つかもしれません。役立たないかもしれませんが。すべての質問が有用というわけではありませんから。
良い質問の重要性
でも、良い質問をすることはスタートアップを運営する上で、研究チームを運営する上で、人生を送る上で、何をするにしても極めて重要だと思います。時には立ち止まって質問をする必要があると思います。でも、今私たちがAIで経験している瞬間は極めて挑戦的で速いものです。もし立ち止まって質問をする時があるとすれば、まさに今でしょう。
これらはすべて私個人の意見です。そう言うことが求められていると思います。私の本業はAnthropicでアライメント研究チームを率いることです。YCも経験していますし、人生で複数のスタートアップを経験してきました。だから、AIとスタートアップに関する私の視点が、スタートアップ人生やAI人生を考えている皆さんにとって役立つかもしれません。
では前置きはこれくらいにして、本題に入りましょう。
すべてが変わる中での根本的な問い
これが私が問いたい主な質問です。すべてが変わっている。それは私の人生のあらゆることにどう影響すべきなのか。正直なところ、そもそもスタートアップを始めるべきなのかということ自体が大きな疑問です。でも、スタートアップを始めているか、すでに運営していると仮定しましょう。
それは戦略にどう影響すべきでしょうか。プロダクトにどう影響すべきでしょうか。チームの構築方法にどう影響すべきでしょうか。これらは大きな未解決の問いです。そしてAIは、今日それらにどう答えるかを変えるでしょうし、おそらく明日にはまた違った形で変えるでしょう。私がキャリアを通じてスタートアップを運営したり、創業者と話したりする中で見てきた、ある種のパラドックスがあります。誰もが常にこう言います。フォーカスがすべてだと。それがスタートアップの持つ優位性だと。
フォーカス、フォーカス、フォーカス。大企業はフォーカスできない。だからこそ彼らを出し抜いて、周りを走り回ることができるんだと。でも、フォーカスがすべてだという事実にもかかわらず、スタートアップを運営するもう一つの真実は、すべてにフォーカスしなければならないということです。採用、資金調達、プロダクト、戦略、市場開拓戦略、そしてあらゆることについて考えるのがあなたの仕事なんです。
そして突然、プロダクトローンチの最中に、チームの誰かが辞め、別の誰かが辞めると脅してくるんです。まさに狂気です。そしてそれは常に起きています。これは極端なパラドックスですが、創業者を社会全体として直面している最大の問いに適した立場にしていると思います。それはAIで何が起こるのか、私たちは何をすべきなのかという問いです。なぜなら創業者こそが、常にあらゆる問いに答えなければならない人々だからです。
だから良いポジショニングだと思います。
2年先を見据えた計画
ここ6ヶ月くらいで、いわゆる「常識的な」ベストプラクティスがありました。プロダクトに対してAIをどう考えるかについて、人々はこう言います。「今後6ヶ月で何が起こるかを考えるべきだ。次の基盤モデルが何ができるようになるかを考えて、それらの能力を見越してプロダクトを計画すべきだ。今日の能力に合わせて計画してはいけない」と。極めて妥当なアドバイスだと思います。真剣に受け止めるべきです。
でも、少し賭け金を上げたいと思います。実際には2年先を見越して計画すべきだと言いたいのです。なぜなら、今後数年以内にAGIを手にする可能性が極めて高いからです。2年ではなく3年かもしれません。でも、この事実を前提に会社と戦略を計画すべきだと思います。もちろん極度の不確実性があります。だからあまり真剣に受け止めすぎないでください。文字通り2年計画を立てる必要はありません。
でも、これが採用からマーケティング、市場開拓戦略などのすべてをどう変えるかについて少しでも考えていないなら、創業者としての仕事をしていないと思います。
これが今日のテーマです。一連の質問を見ていき、AGIが到来するというレンズと、今後6ヶ月でAIが近い将来どう変わるかというレンズを当てたいと思います。
企業側もAIで武装する
AIの影響は私たちが思っているより遅くなるだろうという会話が多くありました。その理由は、大企業は最悪で、購入に時間がかかるからだというのです。トレンドに気づかないし、エンタープライズセールスサイクルは本当に遅い。だから、フォーチュン500企業が皆さんが構築したいと思っているかもしれないSaaS製品をすべて消化するのに何年もかかるだろうと。
でも、これは実は極めて近視眼的だと思います。なぜなら、オープンクエスチョンとして起こると思うことは、買い手側、つまり企業も今後数年でAGIや強力なエージェントで武装するようになるからです。それは彼らが構築しているかもしれないSaaS製品を通じてだけではありません。ネイティブに、つまり彼らのチームが購買決定を下すために次世代のLLMを使用するようになるでしょう。そして採用サイクルをどう加速するかを理解するために使うようになります。
AIの力はスタートアップが構築しているプロダクト革命にだけあるのではありません。買い手側にもあるんです。これはAIに関する興味深く奇妙なことだと思います。水位が上がれば、すべての船が上がります。スタートアップだけではないんです。既存企業もAIから恩恵を受けます。
他の場所でもこれが起きているのを見ています。大企業がSaaSプロバイダーからソフトウェアを購入しなくなることもあります。「2人の人間をClaude Codeに投入すれば、彼らが構築してくれる。そして自分の組織が必要とする能力に特化したものになる」という感じです。
買い手側は非常に速く進化していきます。それが何を意味するのかはオープンクエスチョンだと思います。
ソフトウェアは完全に商品化するのか
別の角度から見ると、AIを活用したアウトバウンドセールスがあるとき、それが市場に何をもたらすか考えますが、買い手側にもAIからのセールスコールを受けて、何が起きているのかを解析する必要が出てきます。だからダイナミクスがどう展開するかは明確ではありません。
関連する質問として、ソフトウェアは完全に商品化するのでしょうか。2年後や3年後にSaaSプロバイダーを運営することに意味があるのでしょうか。それとも企業が本当にすべてのソフトウェアを社内で構築するようになるのでしょうか。なぜなら、次世代Claude Codeへのプロンプト一つで済むからです。実際には社内にプロダクトマネージャーがいればよく、彼らがすべてをやってくれる。それは起こりうる現実的な結果です。
消費者側でも同様です。消費者が最終的にはアプリをダウンロードしなくなるかもしれません。自分でオンデマンドでアプリを構築するだけです。アプリとして考えることすらしません。「携帯電話に何かをしてほしい。尋ねたら、アプリを作ってくれた」という感じです。この時点でアプリをダウンロードする意味は何でしょうか。
それは一つの結果ですが、実は逆の結果もあると思います。コード生成におけるこのオートメーションすべてが、品質バーを極めて高く上げることを容易にするかもしれません。確かに、プロンプトするだけで今日のアプリに相当するものを非常に簡単に作れるでしょう。でも、明日の例外的なアプリを作れるでしょうか。AIと協働して基準を引き上げている優れたチームに相当するものを作れるでしょうか。
実はこの質問の答えが分かりません。でも、業種によって違うかもしれないと思います。自分のプロダクトについてこれを考えるべきです。
オンデマンドでコードを生成する
興味深い質問として、オンデマンドでソフトウェアを書けるなら、もうアプリを作るのでしょうか、それとも本当にオンデマンドなのでしょうか。Claude Codeやそれに類するものを使って、ユーザーが何を必要としているかを事前に把握し、すべてのユースケースをサポートするために必要なだけのソフトウェアを構築しています。
でも、オンデマンドでコードを書けるなら、なぜオンデマンドでやらないのでしょうか。その場で、ユーザーがいて、アプリで何かをしている、そしてアプリが自分では彼らの望むことをサポートできないと気づいたら、オンデマンドでそのユーザーのためにコードを生成するんです。
これは本当に興味深いパターンだと思います。もし実現できれば。でも、信頼に関するあらゆる問題を引き起こします。ユーザーのためにインターフェースの形を変えるジェネレーティブUIをやるのは一つのことですが、本当に新しい振る舞いはデータベースレベル、つまりバックエンドまで下りる必要があります。AIがそれをオンデマンドでできるようにしたいなら、そのAIがその仕事をできると信頼しなければなりません。
そして明らかに、今のAIはそれを実現するほど信頼できません。だから、信頼がこれらの異なる質問がどう展開するかの大きなテーマになると思います。
UIはどうあるべきか
似たような質問として、UIはどうあるべきなのでしょうか。ジェネレーティブUIについて人々は語っていますが、まだ実際には起きていません。でも、起きたときを見るのが楽しみです。オンデマンドUIが適切なインターフェースなのでしょうか、それともまだ考えていない何か全く違うものがあるのでしょうか。
これをマルチモーダリティの文脈で特に考えます。聴覚、画像、動画、テキストを織り交ぜること、そしてユーザーからの適切な入力は何か。ユーザーとして、話したいときもあれば、タッチインターフェースを使いたいときもあります。混雑した場所にいるかどうかなどによって、非常に文脈依存です。ユーザーのいる場所で会うべきです。
一番簡単なことは何でしょうか。今、彼らにとってプロダクトとインタラクトする最も簡単な方法は何でしょうか。それが考えるべき質問です。
既存プロダクトの改造か、ゼロから構築か
これはすべて、私が持っている大きな質問につながります。今日、優れた配信力を持つプロダクトがたくさんあり、そこにAIを挿入する必要があることを人々は認識しています。主要プレーヤーはすべてこれをやっています。チャットボットを貼り付けたり、エージェント的な振る舞いを貼り付けたりしています。既存のプロダクトを改造してAIで何かを可能にしようとしています。
でも、それは何かに魔法の粉を振りかけようとするようなものです。新しいテクノロジー革命には、ゼロから新しいプロダクトを構築した方が良いというのは自然な考え方です。それが私のスタートアップメンタリティです。これを構築したいなら、ゼロから始める必要があるだろうと。
でも、それは真実ではないかもしれません。実際には、配信の利点を持つ既存プロダクトを改造する方が勝つかもしれません。繰り返しますが、これは普遍的ではないかもしれません。業種ごとに違うかもしれません。でも、これは自分自身に問うべき本当に重要な質問だと思います。ただ意見を持つだけではなく、仮説を検証できる因果メカニズムを理解してください。これらのタイプの質問がプロダクトの成否を分けると思います。
チームサイズと文化
プロダクトやプロダクト戦略についてはたくさん話しましたが、スタートアップのあらゆる部分が極めて重要だと思います。最も重要なのは文化です。チームです。チームサイズはさらに小さくなるのでしょうか。それが人々が想定しているデフォルトだと思います。
でも、プロダクトについて、改造するか、ゼロから構築するかという話をしたように、AIネイティブであるようにゼロから構築されたAIネイティブチームは、AIで自分たちをより効率的にする方法を見つけて縮小している大企業に対して何らかの優位性を持つのでしょうか。
AIネイティブな場所からスタートした場合、単に異なる運営をするようなチームパターンがあるのでしょうか。そして、それはAIの能力が変化しているので、6ヶ月、12ヶ月、18ヶ月ごとに違うかもしれません。だから今日のAIネイティブ企業は、12ヶ月後のAIネイティブ企業とは違うかもしれません。自分をどう改造するかを考えていないと、時代遅れになるかもしれません。
信頼とセキュリティモデル
先ほども言いましたが、信頼は極めて重要になると思います。セキュリティモデルはどう変わるのでしょうか。オンデマンドコードのケースですでに触れましたが、LLMがその顧客、その消費者のためにデータベース層まで下りてオンデマンドで何かをできるようにしたい。でも、適切なコントロールを信頼できなければ、そしてモデルの能力が正しいことをすると信頼できなければ、それはできません。
アシスタントの文脈でもこれを考えます。アシスタントの全ポイントは、消費者、そのユーザーにとって有用であることです。でも、壁に囲まれた庭がたくさんあり、異なる設定で異なるエージェントが必要になるかもしれないということが見え始めています。でも、ユーザーとしてはそれは望んでいません。すべてのことに対して一つのエージェントが欲しいんです。
私なら、個人的なエージェントと仕事での職業的なエージェントが協働できるようにしたいです。でも、それはあらゆる懸念を引き起こします。個人的な時間にすること、あるいはあなたが個人的な時間にすることで、雇用主に知られたくないこともあるでしょう。だから、情報を分離しながらも、それらのエージェントが適切な方法で協働できるようにするにはどうすればいいのでしょうか。
これらはすべて難しい質問です。それができるのでしょうか。同じレベルの有用性に到達できるのでしょうか。それとも、これらのセキュリティ面で何らかの妥協をしなければならないのでしょうか。
エージェントは誰のために働くのか
エージェントに関するより深い質問は、アライメントをAIを信頼できるかとして議論しますが、真実は、完全にアライメントされた、いわゆる意図アライメントされたモデルを持っていたとしても、それは企業やスタートアップによって使われ、そのユーザーのためのエージェントを構築するということです。
そうすると問題は、エージェントを構築しているスタートアップを信頼できるかということです。彼らがあなたのために開発したこのエージェントは、本当にあなたの代わりに行動しているのでしょうか。もしこれが広告ベースの会社で、新しいブランドの靴などを検索するためにこのエージェントを使っているなら、偏っているのでしょうか。ユーザーとして望んでいない方向に誘導されているのでしょうか。でも、企業としては望んでいるかもしれません。
そして、こうした質問をどうやって始めるのでしょうか。前のスライドの個人的エージェント対職業的エージェントに戻ると、そのエージェントを使っているなら、私にとっては本当に重要です。それが私の代わりに動いていることが本当に重要です。もし密かに会社の代わりに動いていて、私の個人生活の中で私よりも会社にとって良いことを最適化しているなら、それは極めて恐ろしいことです。
モデルがより有能になればなるほど、より恐ろしくなると思います。だから、信頼について考え始めることが重要だと思います。モデルだけでなく、エージェント、そしてこれらのエージェントを構築している企業への信頼をどう育むのでしょうか。
企業への信頼
そして最終的にそれが本当に帰着するのは、皆さん、あるいは皆さんが構築している企業への信頼だと思います。ユーザーはこのプロダクトを構築している企業をどう信頼できるのでしょうか。特に、すでに今日、極めて小さなチームがあります。明日にはチームがさらに小さくなるかもしれません。ほぼ半自動化されたチームのようなものがあるかもしれません。そのチームをどう信頼できるのでしょうか。
「いや、分からない。今日だって企業を信頼しているじゃないか」と言うかもしれません。今日企業を信頼する核心的な理由の一つは、企業が多様な人々で構成されているからです。
企業に合理的な文化があれば、ある程度は信頼できます。もしCEOが何か悪いことをしようと決めたら、会社の誰かが手を挙げて「いや、これは支持しない。内部告発する。リークする。辞める。たくさんの人を連れて行く。頭にきた。これは嫌いだ」と言うだろうと。
そして、人々が会社を支持しなければ、会社にはプロダクトがありません。でも、半自動化された世界では、もはやそれは真実ではありません。一人の人間が決定を下して、プロダクトの全体的な影響を変えることができるかもしれません。そしてその一人以外には、誰もそれに気づいていないかもしれません。
悪意ある行為者が悪いことをするのが極めて簡単になります。シリコンバレーの歴史、あるいは人類の歴史を追ってきたなら、真実は、大多数の人々がミスアライメントされているということです。特にお金が絡むときは。
新しいガードレールの必要性
だからこれは本当に重要な質問だと思います。そして真実は、すでにこれについて考えているということです。例えば大企業は、部分的にこの理由でスタートアップを不信に思っています。大企業がスタートアップを不信に思う理由はたくさんあります。その一つは、明日にも倒産するのではないかと心配していることです。
でも、小さなスタートアップが間違ったことをするのは、大企業よりもずっと簡単です。それが小さなスタートアップが時に成功する理由の一部です。だから、これはすでに企業の関心の最上位にあると思いますが、日常の人々の関心の最上位にもますますなっていくでしょう。
それは次の質問につながります。どうやって信頼を育むのでしょうか。新しいガードレールのセットはどのように見えるべきでしょうか。もし会社内にこれらの人的ガードレールがなく、優れた文化を構築し、正しいことをすることを大切にする人々の集まりを構築するために本当に懸命に働いていたのに、それがもう会社を倫理的にするものではないなら、他にどうやってガードレールがあることを確認できるのでしょうか。どのように見えるのでしょうか。
これについて多くの人がアイデアを投げかけています。AIを活用した監査という概念があります。AGI世界で監査はどうあるべきなのでしょうか。AIが人間に対して持つ大きな優位性があります。監査に安心感をもたらすという点で。それは、偏りが少なく、記憶を持たないこともできるということです。
例えば、企業として、AIに監査してもらうことに同意するとします。そして、こう言えます。「もし不正行為が見つからなかったら、監査の後で、我々が何も悪いことをしていないと判断したら、AIが確認している公開ミッションステートメントのように、AIは自分自身を削除する。すべてのメモなどが削除される」と。これは人間の監査人を持つことに対する大きな優位性です。彼らは情報を持ち去る可能性がありますから。
すでに今日、監査は起きています。法的理由、財務上の理由、オーガニック認証を受けたいなど、様々な理由で。でも、会社に人々を入れて監査してもらわなければなりません。そこには危険があります。IPを持ち去られるかもしれませんし、監査してほしかったこととは無関係の機密事項を見つけられるかもしれません。あらゆる悪いことが起こり得ます。
だから、AIがはるかに強力な監査システムを提供してくれる可能性があると思います。
信頼を構築する方法
それが信頼を構築する方法の一部になり得ます。人々が私たちや私たちが構築している企業やプロダクトへの信頼を構築する方法です。それは次の質問につながります。私たちはそれをすべきなのでしょうか。ユーザーとの信頼を構築するために、他にどんな方法を計画していますか。それとも、これをすべきでしょうか。単なる公約ではなく、企業は常に公約をします。「これを大切にしています。オープンソースを大切にしています。ユーザーにとって正しいことをすることを大切にしています」と。
でも、実際にそれを拘束力のある声明にする意思がありますか。本当に首を突き出して、「ええ、これが価値があると信じていると言うだけでなく、中立的な仲裁者、中立的なAI駆動システムからの継続的な監査にコミットする意思があります。それが会社に入ってきて、会社で起きたすべてのこと、すべてのSlackメッセージ、すべてを検査して、実際に企業のミッションステートメントに従った決定を下していることを保証します」と言う意思が本当にありますか。
それは歯ごたえのあるものになるでしょう。これが正しい方法ではないかもしれませんが、こうしたことがまもなく可能になると思います。今日は可能ではありませんが、多くの信頼を失った世界に入ったときに信頼を構築するために必要なもののフレーバーかもしれません。
アライメントの経済的側面
アライメントに関する関連質問です。私はアライメントについて多く考えていますが、アライメントのどの部分を解決しなければならないのかという問いがあります。アライメントに取り組んでいる理由の一つは、コントロールの問題です。AIが人間のコントロール下にとどまることを確認したいのです。
でも、次の12ヶ月間にとって極めて高い圧力のある質問があると思います。それは、これらのモデルをより経済的に実行可能にするためだけに、アライメントのどの部分を解決しなければならないのかということです。すべてのスタートアップが構築しているエージェントの期間がどんどん長くなっていく中で、それらのエージェントが完全に軌道を外れていないことを実際に信頼できるようにするためです。
今日Claude Codeを使っていて、一度に5分間動作するなら、Claudeがすることの多くをレビューするので、それは一つのことです。でも、介入する前に、LLMが一度に一日、あるいは一週間働くことを信頼するつもりなら、完全に軌道を外れていないことについて、ある程度の確実性が必要です。
だからこれは大きなオープンクエスチョンだと思います。実は、長期エージェントがそれを必要としているので、良い意味でアライメントの進展に経済的圧力があることに対して、本当にポジティブで強気です。
でも、どれくらい、そしてアライメントのどの側面をこのために解決しなければならないのかは、オープンクエスチョンだと思います。
カスタムデータの優位性
少しトピックを変えます。これは答えが出たと皆が思っているかもしれない質問です。優位性を与えるデータセットはあるのでしょうか。フロンティアモデルやLLMの前、ほんの数年前に時間を遡ると、想定、ただの想定ではなく事実として、カスタムデータが重要だったんです。
AIスタートアップを構築したい場合、あるいは企業としてAIを展開しようとしている場合、ニーズに合わせたカスタムな大規模データセットがあれば、大きな優位性がありました。それが実際、数年以上前に有用なAIを得る唯一の方法でした。カスタムデータセットでモデルをトレーニングすることによってです。
そして非常に急速に、LLMが極めて強力で極めて汎用的になり、実際にはカスタムデータでトレーニングしたり、ファインチューニングしたりするよりも、汎用LLMを使う方が良くなったというのが見られました。
私が思うに真実かもしれない、これが私のオープンクエスチョンですが、そうでない産業があるかもしれません。実際にAIがあまり得意でない産業です。例えば材料科学かもしれません。LLMは本当に優れた材料科学ができるでしょうか。材料科学を専門とし、数十年のデータを持つ企業はより良い仕事ができるでしょうか。
そして、潜在的にはイエスだと思います。LLMはインターネット上で見つけたすべてのことには優れていますが、実際には漏れ出していない、企業に閉じ込められているすべての暗黙知には優れているでしょうか。TSMCやASMLのような企業を考えます。彼らは数十億ドルの賭けをして、構築するすべての暗黙知を社内に保つという信じられないほど良い仕事をしています。それは漏れ出しません。
フロンティアLLMは最先端の半導体製造工場の作り方を知りません。それは実は重要な事実です。防衛可能なポジションがどこにあるかについて考えているスタートアップなら、後のスライドでこれについてまた触れますが、これは念頭に置くべき重要な質問だと思います。
キャパシティの問題
さて、別の方向性です。おそらく皆さんはキャパシティの問題について認識しているでしょう。誰もが極めて速くスケールしようとしています。消費者から、潜在的にはあなたの消費者から、スタートアップから、極めて速くスケールする需要があると思います。今後数年で100倍スケールしたいかもしれません。それはGPU生産をスケールできるよりも速いです。
では、どうするのでしょうか。ファインチューニングが実際に重要なのかについて、多くのオープンクエスチョンがあると思います。多くの人がファインチューニングを放棄して、実際にはより良いコンテキスト管理をするつもりだと言っています。あるいは、小さなモデル対大きなモデルなど、どのモデルを使うかのより良いルーターに役割があるのでしょうか。
だからこれは、技術的な詳細に興味があるなら、競争優位性を持てる場所だと思います。少なくとも次の1〜2年は。キャパシティは本当に重要になりますから。プロダクトの観点から、私はよく「素晴らしいものを作り、それからスケールさせろ」と言いたいです。
すでに「スケールさせる」部分に取り組み始めているなら、これはあなたにとって本当に重要です。これは競合他社より先に進むために構築できる技術的な堀の一部になり得ます。
競合より先に進むこと
でも、競合より先に進むことは、ラットレースのようなものです。ある時点でモデルは良くなります。キャパシティの問題は改善されます。そうすると、その優位性は消えるかもしれません。だから、この質問に対するより良い答えが必要です。あなたの堀は何ですか。どうやって先を行き続けるつもりですか。
ポストAGI世界で何が持続的な優位性となるのでしょうか。2年後、3年後に、Claude 7やGPT-7にプロンプトするだけであなたのスタートアップを複製できるなら、あなたの優位性は何になるのでしょうか。もし私がメガコープで、あなたより多くのお金を持っていて、それにより多くのトークンを投入できるなら、本当に持続的な優位性を持つのでしょうか、それともメガコープに叩きのめされるのでしょうか。
極めて深刻な実際の質問だと思います。AGIの前でさえも、私は難しい問題に取り組むのが好きです。それが私にとっての堀です。誰もが異なるタイプの堀を持っています。マーケティングが得意な人もいます。私は難しい問題を解決するのが好きです。
でも、難しい問題とは何を意味するのかについて考えます。ポストAGI世界で何が難しいのでしょうか。TSMCやASMLのような難しい問題はたくさんあると思います。それらは最終的にロボティクスなどで簡単になります。でもロボティクスは遅れています。だから、2年後でも存在する難しい問題があると思います。
そして、難しい問題に取り組む気概があるなら、それをする勇気があるなら、大きな競争優位性を持つことができます。では、その難しい問題のセットは何でしょうか。インフラ、エネルギー、製造、チップ。他には何でしょうか。それらが私にとって最優先のものですが、この質問に対するあなたの答えは何でしょうか。何がまだ難しく、やる価値があるのでしょうか。
インテリジェンスの天井
この質問についても多く考えます。様々な異なるタスクに必要なインテリジェンスの天井はあるのでしょうか。例えば画像生成を見ると、つい最近Veo3で、動画生成で、ついに動画に騙されるようになりました。私のInstagramフィードがコピバラが歌を歌っているものなどでいっぱいになり始めて、実際、これは素晴らしい。これらの動画が好きだと思っています。
3ヶ月前はそうではありませんでした。でも、さらに良くなることができるのでしょうか、それとも特定のタスク、特定のユースケースについて、何らかの最大値があって、「ええ、十分に良い。飽和した」というのがあるのでしょうか。詩を書くのはこれが最高。PRのgit diffを書くのはこれが最高。
それは重要な質問です。なぜなら、もし天井があるなら、そのタスクの商品化がはるかに早く訪れるからです。次のモデルに移動して、次のモデルをプロンプトする方法を理解することによって、より長く最先端にとどまることができません。タスクが飽和します。だから商品化の圧力はさらに極端になります。
だからこれについて考えることが重要だと思います。そして繰り返しますが、タスクと業種によると思います。天井がないものもあるかもしれませんし、あるものもあるかもしれません。
中立性の必要性
少し方向性を変えますが、中立性の必要性はあるでしょうか。チャットボットの黎明期、2〜3年前から、人々は拒否について不満を言ってきました。例として、「モデルにこれをするように頼んだら、拒否された」と。
もしこれらのモデルに依存することになるなら、それは社会にとって大きな質問です。AIがあなたのために何をすることがオーケーで、何がそうでないかを決める権利を持つ少数の企業が存在することになります。
そして、すべてをするためにAIに依存し始めたら、それらの企業が何が構築されるかの仲裁者になります。それは極めて重要です。だから、今日インフラの一部の形態で持っているような、中立性の概念が必要になるのでしょうか。電気インフラは中立です。
もしGEがすべての電力網を所有していて、「私たちのトースターオーブンを接続することを約束した場合にのみ、私たちの電力網を使用できます。他のトースターオーブンは私たちの電力網で動作することを許可されません」と言ったら、それは問題でしょう。そして、それが起こらなかったのは良いことです。
明らかに、私たちはウェブのためにこの戦いに挑んで負けました。AIでは何が起こるでしょうか。AI中立性が必要でしょうか。トークン中立性が必要でしょうか。何と呼ぶか分かりません。
世界を変える最後のチャンス
質問のセットをここでまとめます。私には無限の質問がありますが、これらが皆さんにも少し考えを刺激したことを願っています。これらの質問だけでなく、皆さん自身の質問についても。シリコンバレーについて常に私を刺激してきた一つのことに触れたいと思います。それはこの、いつも皮肉な意味でしか見られないこの恥ずかしいことですが、実は本当に素晴らしいと思います。
それは、シリコンバレーでは、スタートアップが何をしているか尋ねると、誰かが「世界を変えようとしている」と言っていたことです。誰もが大きく考えて、大きなことをしたいと思っていました。結局のところ、猫シェアリングアプリか何かだったわけですが。でも、世界を変えたいという欲求はそこにありました。スタートアップ創業者は、世界を変えたいと言ったとき、本気でそう思っていたと思います。
私が懸念していることは、私はずっとAIの最先端にいて、ずっとAIリスクを心配してきました。5年前にAIについて誰かと話すと、「何を言っているんだ。これらのものが私たちを殺すかもしれないと思っているのか。これは正気じゃない」と言われました。
今、人々と話すとき、座らせてすべてを説明します。明らかに彼らはすでに認識していますが、「もっと詳細を教えましょう」と言います。そして突然、歯車が回り始めるのが見えます。私の人生で話す普通の人々が理解します。
そして彼らは、これから経験しようとしていることが極めて重要であることを内臓的に認識しています。人類を定義するもの、社会を定義するものです。人々はこれを理解します。微妙なことではありません。私たちは史上初めて、人類に匹敵し、最終的には人間の知能を超える第二の知能を世界にもたらしているのです。それは明らかに極めて重要です。
でも、多くの人々をその思考の連鎖の最後まで連れて行くと、歯車が回っているのが見え、そして彼らは質問をします。その質問は、「オーケー、どうやってこれで金を稼ぐの?」です。そして私はその人に極めて失望します。
そして、彼らがなぜこの質問をしているのかは完全に理解します。世界には多くの恐怖があります。私たち全員が仕事を失うという恐怖、もう競争力のあるスタートアップを構築できないという恐怖、あるいは次の数年でスタートアップを構築する扉が永遠に閉じるかもしれないという恐怖。誰が知っていますか。多くの恐怖があります。AIは怖いです。だから人々は考え始めます。「今すぐお金を稼ぐ必要がある。経済が今後数年で根本的に異なるものになり、その中での自分の居場所を保証できないなら、今すぐ足跡を残した方がいい、今すぐお金を稼いだ方がいい」と。
それは完全に理解できると思います。だから実際、私は「ええ、オーケー、では、次の会社がどうやってお金を稼げるかアイデアをブレインストーミングしましょう。もしあなたが投資家であったり、従業員であったり、何であれ、キャリアをブレインストーミングしましょう」と言います。だから私はいつでも人々を喜んで助けます。
でも、同じ瞬間に、これが違いを生む最後の機会かもしれないと思います。世界を変える最後の機会かもしれません。プロダクトを構築しているなら、この瞬間を使う必要があります。これがあなたが構築する最後のプロダクトかもしれません。これがあなたが構築する最後の会社かもしれません。
会社の中にいるなら、同じことが当てはまります。これが、小さな方法であっても、世界を変えるその影響を与える最後のチャンスかもしれません。だから、大切にしていることがあるなら、今がそれをする時です。
人々が本当に望むものを作る
YCについて多く考えます。スローガンの最初の部分は、人々が望むものを作るということです。それが私たち全員がやりたいことです。真実は、人々が望むものはしばしば社会にとって良いものですが、もう少し深く考える必要があると思います。
人々は信頼できるものを望んでいます。信頼できるエージェントを望んでいます。信頼できるボットを望んでいます。プロダクトを使うとき、次の20秒間喜ばせてくれるだけではないことを知りたいのです。次の20年間、あるいは子どもたちや隣人のメンタルヘルスにとって良いものであることを知りたいのです。私たちは良いものを望んでいます。
消費者やユーザーとして、良いものを望んでいます。人々が望むものを作ると言うとき、人々が消費するものについてだけ考えないでください。社会が何を必要としているかを考えてください。正しいものを作れば、多くの人々がそれを望むと思います。
まとめます。たくさんあることは知っています。これについて考えると時々ストレスを感じます。でも、創業者として、あるいは創業者に興味がある人として、私たちはこの独自の視点を持っていると本当に思います。ほとんどの他の人々とは異なる方法で物事について考えます。それが創業者であることの仕事の全体のようなものです。エッジを見つけることです。それがすべてです。
今後数年で、物事は極めて速く動くと思います。ルールは6ヶ月ごとに変わります。再び考えなければなりません。もし、その変化の最先端にとどまり、それらの変化がこれらの質問や私たちが話している他の質問にどう影響しているかを理解し、それらの質問への答えからの洞察を使ってポジティブな変化を推進する立場にある人がいるなら、それはここにいる皆さんです。
これらのことについて考えることを大切にし、人々が望むものを作ることを大切にする人々です。だから、皆さんがそれをすることを願っています。それをしながらお金を稼ぐことも願っています。できる間に。そして、聞いてくれてありがとうございます。質問の時間があると思います。
質疑応答
トークをありがとうございました。これはおそらく私が聞いた中で最も地に足がついた現実的なトークの一つだったと思います。特に最後の点、人々が望むものを作るということについて。私はいつも、世界が必要とするものを作ることの方がこのような時代にはおそらくもう少し重要だと思ってきました。
そうですね。では、すべてのこれらの質問を考え出すことについての質問です。AGIへのアプローチ方法とそれに伴う洞察について、このための精神モデルを構築するのに最も役立った情報源をいくつか挙げるとすれば、人、ポッドキャスト、本など、何が最も役立ちましたか。
それは素晴らしい質問です。ためらいながら言いますが、正直な答えはTwitterだと思います。ただ、Twitterのキュレーションについては本当に宗教的です。良い見解を持っていると思う誰かを見たら、フォローします。愚かな見解を持っていたら、アンフォローします。
本当に情報ダイエットのマスターになる必要があると思います。悪い意見に影響されることを心配しているからではありません。新しいアイデアを消化するためのエネルギー予算が限られているからです。だから、同意する人だけを最大化しないでください。多様性を最大化してください。
私は常に強化学習のコンテキストにいますが、RLには多様性という概念があります。探索対活用のようなものです。活用、例えば会社を始めることをする前に、情報ダイエットで多くの探索をしていることを確認したいです。
素晴らしいトークをありがとうございます。これはおそらく今日の私のお気に入りのトークです。私がかなり考えることは、AGIが2〜3年後に来ると言われている世界で、伝統的に、いくつかのスタートアップのアイデアがあるなら、自分自身に問う質問は、本当に情熱を持っていて経験と専門知識を持っている何かに取り組むべきか、市場が十分にサービスされていない、あるいはあまり競争的でない場所のアイデアに取り組むべきかです。AGIが来る場所では、最も単一の重要な質問は、どのアイデアがAGIに対して最も防御可能かということであるべきでしょうか。
それは素晴らしい質問のセットです。このAGIのすべての前でさえ、それらの多くは良い質問でした。個人的には、私の意見では、6ヶ月間週100時間の労働に入ったら、アイデアにどれだけ情熱を持っているかは関係なく、それを憎むようになります。
あなたを前進させ続ける唯一のものは、影響を与えたいという欲求、会社へのコミットメント、共同創業者やチームへのコミットメントです。だから、追求しているドメインについて極めて情熱的である必要が本当にあるのでしょうか。私の意見では、ノーです。でも他の人々は異なる感じ方をしていると思います。だからそれは個人的な質問です。
でも、影響志向であることは本当に重要だと思います。そして、影響を与えようとしているかどうかにかかわらず、防御可能性は私の意見では重要な質問の一つです。つまり、それがトークの半分のようなものです。何が変わるのか。そして、あなたが構築しているものは次の6ヶ月で丸め誤差になるだけなのか。
正直に言うと、6〜18ヶ月の期間で稼げるお金はたくさんあると思います。もしホッケースティック曲線、ARRを成長させ、会社をフリップして、手早く儲けることだけを最適化しているなら、長期的に防御可能なものは必要ないかもしれません。
でも、時の試練に耐え、シンギュラリティを通過する移行とそのすべての狂気の一部となるものを構築したいなら、防御可能性についてより深く考えることをお勧めします。それがおそらく最も重要なことです。
本当にありがとうございました。
それらの質問のいくつかは本当に頭を悩ませるものです。私もそれらについて多く考えてきました。私の質問は、オープンに保とうとしていることは分かっていますが、お金の価値についてのあなた個人の意見は何ですか。商品やサービスのコストが下がるにつれて、お金はすべてが無料になるのでより価値が低くなると思いますか、それともはるかに多くのことができるのでより価値が高くなると思いますか。
それは素晴らしい質問です。これに大きく影響する政策決定があると思います。何らかの形のユニバーサルベーシックインカムが必要でしょうか。あるいはもう少し奇妙な、ユニバーサルベーシックコンピュートのようなもの。コンピュートがすべてを動かすものなら、私たち全員は何らかの形のコンピュートを受ける権利があるのでしょうか。
これらは、その答えに影響し始める未解決の政策問題です。そして、私たちの社会の性質と民主的制度に対する抑制と均衡の種類も変えるので、真剣に考えるべきだと思います。政府が全員にUBIを配っているなら、それは政府が社会全体に対して持つ極端な量の権力です。
でも、一方で、そのようなことをしなければ、二つの主要な力が今日働いている世界に行き着くと思います。資本と労働です。名前を言いたくない、一緒に働きたくない人々がこの世界にいます。多くの人々がそうした人々のために働かないことを選びます。それはそうした人々にとって大きな打撃です。
でも、AGIが到着したら、もう労働の賛同は必要ありません。私のような人々が、あなたが構築しているもの、あるいはあなたの道徳などを承認する必要がありません。その世界では資本が資本を生みます。
それは簡単に制御不能になる可能性があります。すでに富の集中がたくさんあります。それは本当に制御不能になる可能性があります。だから、私たちは岩と固い場所の間にいると思います。答えが何か分かりませんが、私たちが下す政策決定があなたが尋ねた質問に大きな影響を与えると思います。
ありがとうございました。良い質問です。
こんにちは、Jordan、時間をありがとうございます。私が尋ねたかった質問は、個々のユーザーのレベルでのアライメントについてどう考えるかということです。特に、好みが時間とともに進化し、特に多くのユーザーがいる場合、モデルを再トレーニングし続けたくないことを考えると、信頼にとってそれがどれほど重要かということです。
私はすべてにスタートアップのプロダクトレンズを持っていると思います。そしてスタートアップのマントラは、ユーザーは何を望んでいるか分からないということです。それはある程度真実だと思います。でも、ユーザーには依然として価値観があり、それらの価値観を発見し、ある程度尊重したいと思います。
だから私にとって最優先なのは、最近の他のAIプロバイダーからの従属的な振る舞いを見たと思いますが、ユーザーの前に二つの応答を置いて、一つがより従属的で、一つが「glazing」、つまり今の若者が言うところのものだとすると、多くのユーザーは従属的な応答を選ぶでしょう。その瞬間、彼らは「ええ、もちろん。私が尋ねている質問は素晴らしい質問だ。認めてくれてありがとう」という感じです。
でも、一歩下がって、「ちょっと待ってください。ここに二つの原則があります。この原則に従うAIか、この原則に従うAIかを選べます。最初の原則は、私たちは決してあなたにお世辞を言いません。何かが好きか、アイデアが良いかを伝えるのは、それが本当にそうである場合だけです。もう一つの原則は、実際には一日中お世辞を言うだけです。それが私たちがすることです」と言ったとします。
ユーザーにどちらの原則が欲しいか尋ねれば、ほぼ全員が最初の原則を言うでしょう。だから、ユーザーが望むことをすることで、エンゲージメントのどのレベルでユーザーに尋ねるかによって、異なる答えに到達すると思います。
それは本当に重要だと思います。なぜなら、人々はそれを自分の利益のために悪用できるからです。特定の方法でのみユーザーに質問することによって。そして、彼らにとって最善となるものの核心に到達するために、ユーザーにこの質問をする正しい方法は何かを本当に自問する必要があると思います。
あなたの質問に答えられたか分かりません。ちょっと脱線してしまいましたが。
理にかなっています。本当にありがとうございました。
素晴らしい質問でした。
トークをありがとうございました。本当に楽しみました。あなたはクリティカルシンキングを非常に重視しているようです。では、テクノロジー分野の一般大衆が持っている意見で、あなたが同意しないものはどのようなトピックや意見でしょうか。
高いレベルの一般的な声明をお伝えします。それからもっとオフラインで話すことができます。私たちの業界は前向きな業界だと言っているにもかかわらず、大胆でリスクを取ることを愛し、すべてを賭けて、他の人が見ないものを見るということにもかかわらず、真実は極端な量の集団思考があるということだと思います。
私たちが構築するプロダクト、VCが何に資金を提供するか、などです。今日でさえ、たくさんのVCと話すと、「ああ、そうだ。私は曲線の先を行っている。AIに投資している」と言います。私は「いや、あなたはすでに2年遅れている。2年後に何が起こる必要があるかについて教えてください。今日何に投資する必要があるのか、2年後に回復力があるようにするために今日何に投資すべきかといった質問をしているのか」と言います。
VCがそのような質問をしているのをほとんど見たことがありません。でも、もし私がVCだったら、そうではありませんが、それが私の投資テーゼになるでしょう。創業者として、それが私の投資テーゼです。
あなたの質問に答えられたか分かりませんが、喜んでお話しします。
ありがとうございます。
素晴らしい質問でした。
あなたは将来、信頼がより大きな問題になると述べました。では、ブロックチェーンがそこでのソリューションの一部になるかもしれないと思いますか。
前置きしておきますが、私は大のブロックチェーン懐疑論者です。分かりません。それにもかかわらず、価格は上がり続けていますが、私はそれを買うことを拒否しているので、その恩恵を受けていません。
でも、信頼が必要なこの世界では、そうです、それは正しいアイデアのセットです。私たちはそのようなアイデアや他のものが必要です。触れていたことですが、AI駆動の監査では、二つの異なるAI企業が互いに監査し合えるでしょうか。どうやって信頼を構築できる場所に到達できるでしょうか。
もし何らかの形のユニバーサルベーシックインカムやベーシックコンピュート、ベーシックトークンを持つことになったら、それは中央政府の意のままにならないように、ブロックチェーンによって仲介される必要があるでしょうか。そうです、私がブロックチェーンを支持できる合理的な質問だと思います。
良い質問です。
ありがとうございます。Googleは最近、エージェント同士がどのように話すかを標準化するプロトコルをリリースしました。そして、エージェントの信頼について少し話しました。では、エージェント同士が話す世界をどのように想像するか、そしてそれがアプリケーションにどう影響するか、そしてエージェント許可スキームのようなものがあるのか、興味があります。
素晴らしい質問です。これについて一日中話せますが、時間がほぼなくなっているので、一つの例を挙げます。これがなぜ難しいかが明白ではない例です。
あなたのためにミーティングをスケジュールするだけの個人アシスタントエージェントについて考えてください。些細なことのように見えます。「ああ、そうだ。この人のカレンダーを見て、時間を提案するだけだ」と。
でも、実際には、良い個人アシスタントであるというゲームをすでに失っています。なぜなら、ミーティングをスケジュールする方法にゲーム理論的な要素があるからです。空きスロットがあることを示すのにあまりに寛大だと、この人が忙しくないことを伝えています。
あるいは、スケジュールしている人とのミーティングを持つことが本当に重要だと伝えています。一方で、「ええ、あなたとジョーの間でミーティングをスケジュールして喜んでいますが、2週間後、3週間後です」と言うなら、そこにはあなたがやっているパワーダイナミクスがあります。
真実は、これらすべてのゲーム理論的なことが重要だということです。良いアシスタント、良い人間のアシスタントはこれらすべてのことを知っていて、それに従います。でも、それはすべて暗黙的です。「ああ、エージェントがアクセスできる具体的な情報の一部があって、それがセキュリティの重要な部分だ」というようなものではありません。はるかに微妙で意味論的です。
だからただ難しいだけですが、素晴らしい質問だと思います。
ありがとうございます。
そして残念ながら時間切れだと思いますが、気軽にオンラインでメッセージを送ってください。私のTwitterはJordan Fisher、Jordan Ezra Fischerです。メッセージを送ってください。いつでも喜んでお話しします。そして素晴らしい質問をありがとうございました。トークを楽しんでいただけたことを願っています。
コメント