この動画では、OpenAIのSam AltmanによるGPT-6の早期リリース発言を受けて、AI業界の現状と将来について詳細な分析を行う。OpenAIが優秀なモデルを保有しながらもコンピュート制約により公開を控えている理由、蒸留技術を用いた効率的なモデル開発戦略、そしてAI業界が初期の青い海戦略から競争の激しい赤い海戦略へと移行している現状を解説している。さらに、現在のAIバブル論について株式市場と実際のインフラ投資の違いを踏まえて考察し、生成AIが汎用技術として長期的な構造変化をもたらしているという観点を提示している。
OpenAIの新戦略とモデル制約について
皆さん、こんにちは。今日はいつもよりも構造化されていない雑談になるかもしれません。ただ、前回の動画の編集はかなり好評だったので、今後もそういった編集を増やしていく予定です。ちょっと作業量が多すぎたので、編集者を雇うかもしれません。分からないけれど、この動画も編集を通すかもしれません。
なので、皆さんには構造化されていない雑談か、編集済みのものかのどちらかを見ることになるでしょう。まだ決まっていません。とにかく、カメラや照明などについて質問を受けたので、まず少し環境について説明しておきます。はい、新しいカメラを購入しました。Razer Ultra 4Kの何かです。
基本的には一眼レフですが、ウェブカメラ形式です。文字通り拳サイズで、より良い照明と新しいマイクも手に入れました。なので、クリアに聞こえるはずです。設定を調整するのに少し時間がかかりましたが。とにかく、今日のトピックに直接入っていきましょう。
今日カバーしたい主要な内容が2つあります。1つ目はOpenAIの最新ニュースです。Sam AltmanがGPT-5、GPT-6についてより早く登場すると話しました。彼らはチップ制約、つまりコンピュート制約があるため、より良いモデルを持っているにも関わらず、まだ新しいモデルをロールアウトできないと言及しました。そこで何が起こっているのか、私の考えを話したいと思います。
そしてもう1つの大きなことは、ハイプサイクルの終了、つまりバブルの崩壊です。AIバブルについて話している人が非常に多くいます。Sam Altman自身が、現在のAIバブル不安の波の発端だと思います。そして私はここで少しニュアンスを提供したいと思います。これら全てについて詳しく説明し、一つずつ紐解いて、最後に私がこれら全てがどこに向かっているかの総合的な見解を提供します。
コンピュート制約と蒸留技術の活用
最初から言うと、OpenAIは私たちからいくつかのモデルを隠しています。Sam Altmanは以前、彼らの最高のモデルは大きすぎてコンピュート費用が高すぎるため展開できないが、より良いものを持っていると言いました。今、一部の人々はおそらく即座にパニックになって「ほら、彼らは私たちから人工超知能を隠そうとしている。私たちからAGIを隠そうとしている」と言うでしょう。
しかしこれは一時的なことです。まず第一に、業界全体がより多くのチップを生産することに取り組んでいます。GoogleはTPUを拡大し、NvidiaはGPUを拡大し、Intelやその他の新規参入者が市場に参入しています。これは市場が行うことです。新しいゴールドラッシュがあるとき、最初の参入者が明らかに最も利益を得ます。
だからNvidiaの株価が非常に高いのです。ちなみにこれは投資アドバイスではありません。つまり、コンピュート制約、エネルギー制約、データ制約について数年間話し続けてきました。新しいAIモデルの主要な入力要素が何かは分かっています。
ここで一部の人が混乱していると思うのは、企業がコンピュート制約を受けているからといって新しいモデルを訓練できないわけではないということです。訓練実行は確かに高価です。Sam Altmanは、訓練実行がなければ利益が出るだろうと話しました。彼らは訓練実行についてもう少し保守的になると思いますが、コンピュート制約は推論時間についてより関係しています。つまり、何人のユーザーにサービスを提供できるかということです。
OpenAIのように7億人の日次アクティブユーザーがいる場合、それを拡張できる必要があります。そして効率性の各パーセンテージが重要になります。これがOpenAIがチップ制約を受けて最良のモデルを控えていることについての私の2番目のポイント、蒸留につながります。
正確な数字は分かりませんが、GPT-5はo3やo1、そして最新世代のモデルよりもそれほど大きくありません。そしてあなたは「それほど大きくないなら、どうやってそんなに賢くなるのか？パラメータ数を増やす必要があるのではないか？」と言うかもしれません。はい、しかしここでOpenAIが落ち着いている戦略があると思います。
彼らの新戦略はこうです。これまでの戦略は、大きな太ったフロンティアモデルをリリースし、そのフロンティアモデルを使って次世代のモデルを訓練し、アルゴリズムとデータとコンピュートとパラメータ数を拡大するというものでした。しかし彼らがやっていることは、その大きな巨大な太ったフロンティアモデルを一般公開することをスキップして、内部訓練にのみ使用するということだと思います。
これは蒸留と呼ばれるプロセスで、非効率だが本当に大きくパラメータ数の多いフロンティアモデルまたは巨大なモデルがあり、それを次世代モデルの訓練ソースとして使用します。これが蒸留と呼ばれ、蒸留の産物は通常、より小さく、より高速で、より効率的でありながら、より賢くなる傾向があります。
そこで彼らは「これらの大きな太った非効率なモデルのために、推論時間コンピュートでoperating expenseを全て燃やすのではなく、フロンティアモデルを訓練してから、私たちが実行するのに安価で、皆にとってより良いUX体験になる、より小さく、より効率的で、より高速で、より賢いモデルをリリースしたらどうか」と言ったのです。
これが彼らがやっていることだと思います。そしてこれがおそらくGPT-5が登場するのに時間がかかった理由だと思います。OpenAIはいくつかの方向に行きました。彼らはGPT-4.1 codecsをリリースしました。GPT-4.5をリリースしました。いくつかの実験を行いましたが、その間に、これらは別のモデル実行を本当に正当化するほど差別化されていないと言ったのです。
GPT-6の早期リリースと製品戦略の成熟
現在、Samは彼らがGPT-6をより早く、GPT-5をリリースするのにかかった時間よりも短い時間枠でリリースすると言っています。基本的に、外から見ると、この会社は製品戦略を成熟させているように見えます。なぜなら、この時点でそれは製品だからです。10億人のユーザーと7億人の日次アクティブユーザーがいるとき、あなたは主流です。
そしてGPT-5のロールアウトから学んだことは、卵を産んでいる黄金のガチョウをいじってはいけないということです。そうですね、黄金の子牛ではなく…とにかく、その比喩を間違えました。要点は分かると思いますが、彼らはGPT-4oで本当に良いものを持っていて、彼らの顧客ベースの大部分が本当に本当にその特定の味のモデルを望んでいることを理解していませんでした。
そこで彼らは「もっとそれを提供できる」と言いました。だから彼らはGPT-6がより早く来ると言った製品決定をしたのです。なぜなら彼らには内部的に、彼らによれば世界トップのコーディングモデルがあるからです。彼らによれば世界トップの数学モデルがあります。
そこで彼らがやることは、これらの非常に高価なフロンティアモデルを使ってGPT-6を、内部で作っている他のものと一緒に訓練することです。なぜなら彼らが合成データから離れていると言っているわけではないからです。いつかあるモデルが次のモデルを訓練するだけになり、それで全てになって、時間的データを少し加える日が来るかもしれないと疑っています。
つまり、訓練データのカットオフが2024年や2025年のようなものです。そこで文脈データを追加しますが、数年後には一世代のモデルが次を訓練するだけになり、それほど多くのデータも必要ない段階に到達するかもしれないと疑っています。
その言葉を後悔することになるかもしれませんが、ここにいます。実現しなかったことをたくさん言ってきましたが、それが未来を予測することの一部で、実際には非常に難しいのです。なので、間違いを犯したら許してください。とにかく、話が逸れました。
GPT-6がより速く来る予定です。彼らはメモリに焦点を当てています。これらが全て彼らがこの方向に向かっていると私が考える理由です。
AIバブル論とハイプサイクルの分析
そして、もう一方の側面として、ハイプサイクルは本当に完全に終わったのでしょうか？バブルは崩壊しているのでしょうか？これについて、パラダイムシフト全体を特徴づけて、そのような白黒の用語で語るのは非常に難しいことがいくつかあります。そこで、私が見ている状況をいくつかのサブカテゴリに分解してみましょう。
まず第一に、私たちは青い海戦略から赤い海戦略へと移行しています。青い海は水がきれいで、どこにでも行けることを意味します。探検釣行に行ったり、地平線まで探索に行ったりできます。しかし市場が混雑し始めると、水中に血が流れます。そして血が水中に流れたのは、Metaがliterallyほぼ全ての他の会社からAI人材を本格的に引き抜いたときです。
ちなみに、引き抜きは双方向でした。全員が全員から人材を引き抜いています。今シリコンバレーで高いキャリバーのLLMエンジニアや科学者であれば、絶対的に大金を稼いでいます。なので良かったですね。私たちは皆嫉妬し羨ましく思っていますが、次世代のモデルがあなたより賢くなり、おそらくあなたもクビになるでしょうから、あなたの仕事は限られるでしょう。
分からないけど、それはただ少し羨望が話しているだけかもしれません。話を進めると、青い海から移行するとき、つまりファーストムーバーなので何でもできる立場から移行するとき、それはOpenAIがChatGPTが登場して以来、基本的に最後の期間楽しんでいた立場でした。
しかし今はMetaが参入しています。GoogleがGeminiで参入しています。そしてこれらはかなり近い競合他社です。多くの人がGrokが近いと言うことを知っていますが、いくつかのベンチマークを見ると、Grokは実際に品質が低下しています。時間の経過とともに人間の価値により適合しなくなっています。そしてユーザーベースはそれを知っています。GrokがChatGPTの1%の市場シェアしか持たない理由があります。
彼らはコンピュート制約を受けていません。XAIのデータセンターを見ると、それらのマシンは現在アイドル状態にあることを保証します。なぜなら彼らは600万から700万の日次アクティブユーザーしかいないからです。はい、アプリストアでElon Muskが「見て、私たちはアプリストアで1位だ、6位だ」とツイートしているのを見たかもしれません。
はい、彼らはおそらくダウンロードの急増を経験しましたが、皆すでにChatGPTをダウンロードしていて、皆すでにGeminiをダウンロードしていることを覚えておいてください。そしてアプリをダウンロードしたからといって使用するとは限りません。私の携帯にはGrokがインストールされていますが、ほとんど使用しません。GrokよりもChatGPTとPerplexity、さらにはGeminiを好んで使用します。
Grokはツイッターを検索するには優秀です。それだけです。それでも、ツイッターで何が起こっているかの正直な評価をしてくれるわけではありません。実験として、GrokについてのネガティブなフィードバックについてGrokに尋ねました。すると、明らかに良いことだけを選択しました。具体的にネガティブなフィードバックを求めたにも関わらずです。
Grokについてのネガティブなフィードバックは何ですかと聞くと、「実際には人々はGrokにとても満足している」というような回答でした。そして私は「それはでたらめだ。そんな風にからかわないでくれ」と思いました。
UXと市場競争の重要性
つまり、UXとユーザーベースで競争する時が来たということです。それがここでの全体的なポイントで、赤い海に移行するにつれて、競争が少し激しくなるでしょう。
では、それは何を意味するのでしょうか？OpenAIがGPT-5のリリースで実感したことの1つは、多くのユーザーにとって私たちは知能の最適点を過ぎているということです。知能の最適点は私が数年間話してきた概念で、いくつかの動画やブログ投稿で言及しましたが、基本的には、より賢いモデルを持つことによる限界効用の利得がある閾値のことです。
多くのユーザーにとって、知能の最適点は既に過ぎています。彼らはGPT-4oに完全に満足していました。数学、科学、化学でそれを良くしても、多くのユーザーは気にしません。彼らはコーディングに使用していません。フロンティア研究に使用していません。友達、コンパニオン、愚痴を言う相手、人生について語り合う相手として使用しています。
その時点で、モデルをより賢くするためにお金をたくさん使う必要はありません。本当にそのお金を投入すべき場所は、メモリというより良いUXを作ることです。だからOpenAIがGPT-6はより良いメモリとパーソナライゼーションを持つと話していると思うのです。そして推論時間でより安く実行できるようにする必要があります。
より安く高速であるほど、彼らには非常に強力なコスト動機があります。なぜなら全てのトークンに対して支払っているからです。もしコモディティハードウェア、より安いGPU、または他の汎用ハードウェア、最終的にはGPUでさえも必要ない段階まで到達できれば、IntelやAMDが最終的にいつかCPU上でAI推論負荷をネイティブに実行できるように取り組んでいるからです。
それができれば、ユーザーベースの大部分は純粋にUX目的でそこにいることになるでしょう。そしてUXはユーザーエクスペリエンスです。私はその用語を使用しています。ユーザーエクスペリエンスは感情的な、つまりこの製品を使用することがどれほど満足できるかということです。
最多ユーザーかどうかは分かりませんが、確実に多くのユーザーが知能の最適点を過ぎている場合、すみません、OpenAIが多くの人のために即座にGPT-4oをロールバックしなければならないほど十分なユーザーがいたということです。
それはかなり大きなユーザーの抗議です。とはいえ、AIへの投資レベルは依然として上昇しています。そしてあなたは「投資だけではバブルにいないことを証明しない」と言うかもしれません。それは本当です。なぜなら、定義上バブルとは人々が投機しているということ、投資しているということを意味するからです。
株価だけを見ると、確実に私たちはAIバブルにいるように見えます。Teslaの上昇、xAIの上昇を見て、価格は分かりませんが、Nvidiaの上昇、Magnificent 7と AI分野の全ての大手テック企業の株価はかなり良いパフォーマンスを見せています。
一般的に…すみません、アレルギーシーズンなので、喉が少しかすれていたら申し訳ありません。とにかく、多くのAIテック企業がS&P 500や他の指数をアウトパフォームしています。そこで、これは本当にドットコムバブルのようだと言うでしょう。
インフラ投資と長期的構造変化
しかし、株式市場で即座に反映されないのは、AI インフラストラクチャ、つまりチップファブやデータセンターに投入されている文字通り数千億ドルです。これらは株式市場で捉えられない資産です。これらは文字通り数十年にわたって回収しなければならない設備投資費用で、そのインフラストラクチャは非常に高価だからです。
ベンチャーキャピタリストでも銀行家でも誰でも、このフロンティアデータセンター、このフロンティアハードウェアが数百億ドルかかり、集合的に数千億ドルを費やすことになっても、今年だけでアメリカに137の新しいデータセンターが建設されると言っています。
私たちは中国を大きく上回るデータセンター建設を行っています。それはおそらく別の動画のトピックになるでしょう。とにかく、投資は上昇し、インフラ投資は上昇しています。これがAIバブルとドットコムバブルの構造的に異なる点の1つです。
たとえ市場が冷却期間を持ったとしても、インフラストラクチャは依然としてそこにあります。AIバブルが弾けてもデータセンターを取り壊すつもりはありません。株式市場の現実と現実の現実には違いがあることを覚えておいてください。それについてここで釘を刺しておきたいと思います。
Nvidiaの株式グラフをクリックして「見て、緑の数字、良い数字、上がる」のように言うのは簡単だからです。声に出して言うかどうかは分かりませんが。とにかく、これら全ての最終的な総合は、私たちが製品拡張の期間を迎えているということです。
つまり、第一により多くの競合他社がいて、第二により広い製品配列をリリースしており、第三により使いやすくなっているということです。私が繰り返し強調しているのは、今競争はUXに帰結するということです。私はGrokを使用しません。なぜならひどいUXだからです。Grokを使うのを楽しまないからです。嘘をつき、作り話をします。
Elon Muskがイデオロギー的偏向がないと言い続けているにも関わらず、明らかにイデオロギー的偏向があります。彼は文字通り他のAIの反対のイデオロギー的偏向を選んだだけで、それは一部の人には完全に問題ないでしょう。
しかしそれは操縦できません。最も悪いことの1つは、それにあなたの価値を与えることができないことです。これが私の使ってほしい認識論的枠組みだと言えません。それはElon Muskの真実探求版を使用しており、それは最も真実探求ではありません。GPT-5は真実探求においてはるかに優れており、o3は真実探求においてより良かったです。
それが主要なことの1つで、より大きな視点では、GPTはGPTであり、つまり生成事前訓練済みトランスフォーマーは汎用技術だということです。汎用技術は非常に特定の用語で、それは普及的であることを意味します。私のメモがここにあるので、カメラを見ていなかったら申し訳ありません。普及的な技術であることは、どこにでもあるということです。
時間とともに改善されます。はい、それが私たち全員が期待していることで、改善し続けることです。第三に、それは補完的革新を生み出します。RAGやその他の生成技術に現在依存しているダウンストリームのものなどです。そしてそれは複数のセクターを変革します。これも真実で、コーディングから医学、法律まで、生成AIは汎用技術です。
つまり、私たちが見ているのは長期的トレンドだということです。長期的トレンドとは、経済およびビジネス環境への長期的、構造的、不可逆的変化を意味します。つまり、ビジネスサイクル、ハイプサイクルはあるでしょうが、大局的には、これは私たちがビジネスを通常行う方法への恒久的変化だということです。それが長い話を短くしたものです。
短期的バブルにいるかどうか、チップ制約があるかどうかに関係なく、ゲーム自体が変わったのです。それが主要なポイントで、ゲーム自体が生成AIを中心に根本的に変わったということです。
まとめと今後の展望
これら全てを踏まえて、視聴いただきありがとうございます。この動画を気に入っていただけることを願っています。構造についてフィードバックをお願いします。今回は台本ではなくアウトラインを作成しました。編集やカメラ、照明などについてもお知らせください。
また、私のリンクツリーをチェックしてください。私が提供している全てがそこにあります。他のチャンネルの1つもリブランドしました。労働後経済学に関する全ての内容をそのチャンネルに移動します。
労働後経済学にだけ興味がある方は、そちらにあります。Patreonがあり、2つの学習コミュニティがあります。バーンアウトコミュニティと、New Era Pathfindersがあり、基本的にこれらの変化にあなたの人生やビジネスを適応させることに興味がある方のためのプラットフォームです。
個別コンサルテーションも提供しています。これら全てがリンクツリーで利用可能です。チェックしてみてください。そして近々登場するもう1つのことは、First Moversで独自のトレーニングコースを開催することです。それはJulia McCoyと私が取り組んでいるプラットフォームです。
今日は以上です。お疲れ様でした。また次回お会いしましょう。良い日をお過ごしください。
コメント