AIバブル:フロンティアモデルは役目を終えた | コンピューター・ガイのイーライ ===

OpenAI・サムアルトマン
この記事は約20分で読めます。

AI業界では巨額のデータセンター投資が続く一方、推論効率の向上や余剰GPUの存在、オープンソースモデルの進歩によって、計算資源不足という前提そのものが揺らぎ始めている。フロンティアモデル単体の価値は限界に近づき、今後は小型モデルとの使い分け、ローカル実行、既存製品への統合が競争の中心になる可能性が高い。OpenAIなどの巨額評価額と事業構造の矛盾、NVIDIAの成長余地、各国のAIインフラ投資までを幅広く論じる。

===

AI Bubble: ‘Frontier models have run their course’ | Eli the Computer Guy
“The argument for building more of these AI data centers is getting worse by the day.”Eli the Computer Guy joins The Tec...

巨大な技術的ポンジ・スキームになっているのではないか

基本的に今の状況は、すべてが崩壊しないように投資を続けなければならない、巨大な技術的ポンジ・スキームのようなものになっていると思います。

時価総額1兆ドル級の企業があり、インフラには何兆ドルもの投資が行われている。それなのに、AI業界を代表する企業でさえ、まだこの技術の明確な価値提案を示せていません。

ジェンスン・フアンは、GPUの総獲得可能市場について、何らかの形で終着点が近づいているという兆候を理解していると思います。こうした状況では、AIデータセンターをさらに建設すべきだという主張は、日を追うごとに説得力を失っています。

こんにちは、アイザックです。今日のTech Reportには、Eli the Computer Guyに来てもらっています。おかえりなさい。

どうも。また来られてうれしいです。

OpenAIはなぜ推論コスト半減を大々的に発表しないのか

The Informationによると、OpenAIはどうやら推論コストを半分にする方法を見つけたようです。ただ、その方法は極めて厳重に秘密にされていて、OpenAIのエンジニアの大半ですら、どうやって実現しているのか知らないそうです。そしてThe Informationの記事にも、具体的な方法についての情報はまったくありませんでした。

この話を見たとき、私がまず疑問に思ったのは、本当ならなぜOpenAI自身が大々的に発表しないのか、ということです。これほどの成果を出したなら誇示してもよさそうなのに、報道では事情に詳しい関係者によると、という形でした。完全に秘密にするわけではないとしても、なぜOpenAIはこれほど強く情報を抑えているのでしょうか。

それは、今のAI業界では、2つの異なるAIの物語が存在しているからです。

1つはAI技術そのものです。埋め込み、ベクトルデータベース、ニューラルネットワークなどですね。もう1つはビジネスです。

技術という観点では、これは非常に素晴らしいことです。より少ないコストと資源で、より多くのサービスを提供できる。それは常に望ましいことです。

問題は、これらの企業につけられている評価額が、今やあまりにも異常な水準になっていることです。OpenAIについては、サム・アルトマンが1兆ドル未満の評価額でIPOすることはあり得ないと言ったとされています。

AIは非常に高コストだから、数千億ドル規模の投資が必要なのだ、その巨額の資本要件こそが事業の堀なのだ、というのが主張だったとします。

ところが、半分の資源で同じだけの応答を生成できます、と言ってしまったら、文字どおり自分たちのビジネス上の主張に反するわけです。

だから、これが彼らの抱えている問題の1つなのではないかと思います。本当に屋根の上から叫ぶような勢いでこの成果を宣伝したら、最大の疑問は、では企業価値も5000億ドルでいいのではないですか、ということになりますよね。

ログインしていない利用者が実験対象になった理由

今回話題になっている推論コストの半減は、具体的にはログインしていない利用者に適用されていたそうです。アカウントなしでサイトに来て、何かを入力して、そのまま去っていく人たちですね。

それは、多少おかしなことが起きてもあまり苦情を言わない、都合のよいテストユーザーの集団だからでしょうか。それとも、この効率化を実現した方法そのものを示唆しているのでしょうか。あるいは、まったく別の理由でしょうか。

おそらく、ブランドの評判に関するリスクが低いからだと思います。そもそもログインすらしていない人たちを相手に失敗しても、影響が小さいからです。

整理すると、無料ユーザーがいます。この人たちは料金を払いません。有料ユーザーは当然、お金を払っています。そして今回の対象は、そのさらに下で、サービスにログインすることすらしていない人たちです。利用者としては最も低い階層ということになります。

推論効率を改善する方法を考えると、興味深いやり方がいくつかあります。

最近IBMがこの分野について話していますが、たとえばVRAMがあります。VRAMはGPU上のRAM、つまりGPUのメモリです。LLMをVRAMに読み込むため、多くのVRAMが必要になります。

しかしそれだけではありません。複数のユーザーが同時にLLMへアクセスすると、その応答やトークンも、実際にはVRAMに保存しなければなりません。

IBMは、トークンの保存方法を最適化するさまざまな方法について話しています。予測を使うものなど、本当に興味深い技術がありますが、話はすぐに非常に複雑になります。

そして、その複雑さの中では、かなり悲惨な失敗が起きる可能性もあります。想定していない奇妙な方法で何かを保存し始め、それを応答として返してしまえば、通常考えるようなハルシネーションをはるかに超える問題が起きる可能性があります。

ですから、おそらく一番大きいのは評判上の問題でしょう。この人たちはログインすらしていない。だから、本当に大失敗したとしても、いったい何を失うのか、ということです。

効率化が進んでもOpenAIの利益にはならない可能性

ただ、この推論コスト半減の手法をもっと広く適用できるとしたら、OpenAIはそこで生まれる節約分をどうすると思いますか。

たとえば推論コストを半分にしたとしても、トークンを生成する計算コストと、サブスクリプション料金から得られる収入のバランスが取れるわけではありません。

独占できるなら話は別です。

今の、いわゆるAIで起きている大きな問題の1つは、奇妙なことに、基本的にみんな同じ技術を使っているということです。

詳しく見れば、それぞれの企業向けに最適化はしています。しかし、使われている技術の多くは、本質的には同じようなものです。

もし特許を取得したり、何らかの知的財産権で保護したりできるなら、節約分をどう活用できるかという興味深い問題が出てきます。

ただ私は、実際にやっているのは何らかのメモリ最適化処理で、おそらく保護できないものだろうと予想しています。

つまり、他社もまったく同じことをするようになります。そして価格を下げ始めるでしょう。

すでにDeepSeekはOpenAIの5分の1のコストです。DeepSeekがOpenAIのやったことを解明できれば、今度はOpenAIの10分の1のコストになると思います。

そうなると、OpenAIも自分たちの料金を下げざるを得ません。結局、底値を目指す競争にならざるを得ないため、この効率化から追加的な価値を得ることはできないでしょう。

余剰計算資源があるのになぜデータセンターを増やすのか

ハードウェア側の話に移りましょう。

最近、Metaが余剰の計算資源を販売しているという動画を出していましたね。私も金曜日にエドと少し取り上げました。

それだけでも、AIインフラ建設の規模に疑問が生じます。すでに計算資源が余っているなら、なぜさらに増やすのでしょうか。

そこに推論コストの半減まで加わったら、AI向け計算資源の需要が供給をはるかに上回っている、という従来の理解はどうなるのでしょうか。

主張はさらに苦しくなるだけです。

私はここ2年ほど、こうしたインフラ建設は極端すぎると言い続けてきました。何兆ドルもの建設投資が必要だという考えは、そもそも筋が通っていませんでした。

今でも忘れられがちですが、OpenAIにとって2026年は、たしか生産性の年と呼ばれていたと思います。

サム・アルトマンは文字どおり、今年は人工知能を実際に何に使うのかを全員に証明する年だ、と言ったわけです。

考えてみてください。時価総額1兆ドル級の企業があり、インフラに何兆ドルもの投資が行われている。それなのに、代表的なAI企業は、まだこの技術の価値提案を示していないのです。

この会話の前に話していた出発点も、まさにそこです。

そして今度は、推論に必要な資源を半分にできます、と言うわけです。

そうなると、AIデータセンターをもっと建てるべきだという主張は、日を追うごとにさらに悪化するだけだと思います。

AI投資は技術ではなく経済政策になっている

ただし問題は、これらのデータセンターへの投資の多くが、技術的能力や実際の価値提案とはほとんど関係していないのではないか、ということです。

もっと政治家に関係していると思います。

大きな問題は、経済を成長させなければならないということです。AI導入がどれほどひどいものであっても、それによって経済成長率が1%押し上げられるなら、意味があるとみなされます。

だから基本的に、すべてが崩壊しないように投資を続けなければならない、巨大な技術的ポンジ・スキームのようなものになっていると思うんです。

実際に進行している技術的な問題とは、それほど関係がありません。

つまり、アメリカで大金融危機の後に大規模なインフラ建設が行われたときのようなものだと見ているわけですか。

とにかくインフラを造ろう、ダム建設に金を出そう、橋を造ろう、と。時にはあまり意味のない事業でも、とにかくお金を流し込む。

ただし、今回は政府が経済にお金を投入しようとしてこの状況になったわけではなく、むしろ何社かの企業が、櫂もないまま、とても困った川を上ってしまった結果だと。

ええ。基本的に投資家は大きなリターンを求めているのだと思います。

そしてこれは、ここ数十年では初めての、本当の意味での巨大な技術インフラ建設です。

インターネットも巨大なインフラ建設でした。15年ほど前には、ソーシャルメディア企業向けのデータセンター建設がありました。

しかし今回のAIについては、なぜか投資家が安心感を持っています。自分たちはAIが何なのか理解している、と思っているからです。

しかし、AIという物語と、ベクトルデータベースは同じものではありません。

それなのに、人々はAIに、おそらく実際にはそうではない何かになってほしいと強く望んでいます。

これほど多くの投資が集まり、これほど強く推進されている理由は、そこにあると思います。だって、どれも理屈に合わないんです。

ダークGPUは本当に存在しないのか

私たちは、ダークGPUなど存在しない、と非常にはっきり言われてきましたよね。

インターネットブームのときには、大量の光ファイバー網を敷設したものの使われていない、いわゆるダークファイバーがありました。AIにはそういうものはない、と言われています。

しかし考えてみてください。SpaceXは今、約34万基のGPUを貸し出しているとされています。

つまり、何十万基ものGPUが、どうやらただ置かれて埃をかぶっていて、それを他者に回すことができたわけです。

そして今度はMetaです。

Metaはソーシャルメディア企業ですよ。それなのに、GPUの貸し出しを事業として検討する意味があるほど、大規模な余剰GPUを保有しています。その規模は相当大きいはずです。

その状況を見て、その一方で今なお大量の投資が注ぎ込まれ、さらに多くのデータセンターを建設しなければならないと言われているのを見ると、まったく筋が通りません。

ですから、推論コストを50%削減できると証明されたとしても、私は、それでも投資は続くと思います。基本的には、もうこの段階まで来てしまったからです。

AI企業は支出を止められなくなっているのか

現時点では、ハイパースケーラーやAI企業は支出に縛られてしまっているのでしょうか。

一方では、ここで投資を引き戻せば、確実に良い結果にはならない。

もう一方では、このまま進み続ければ、少なくとも避けられない結末を先送りできるかもしれないし、将来、何が起きるかは分かりませんが、何かが起きて穴から救い出してくれる可能性もある、ということでしょうか。

ええ。彼らにとって最善の賭けは、1社が他社より長く生き残ることだと思います。

基本的にOpenAIに残されている唯一の手は、Anthropicが倒産することを願うことだと思います。

今この市場にいるプレイヤー全員が成功することはできません。全員が成功するのは無理です。

そして、もし実質的なダウンラウンドが起きて、企業評価額が下がれば、大混乱が起きます。

だから評価額を押し上げ続け、他の誰かがつまずいて倒れるのを期待し、その後で全部をまとめて取り込む。そういう考えなのだと思います。

なるほど。トラより速く走る必要はない、一緒に逃げている相手より速ければいい、という話ですね。

私が技術業界でいつも言っているのは、サーバールームになぜ鉛管が置いてあるのか不思議に思ったことがあるなら、それは走って逃げるときに競合相手の膝を叩き割るためです。

正直、その言い回しは初めて聞きました。

推論効率の向上はNVIDIAとメモリ業界に何をもたらすか

では、このブレークスルーが本物だったとしましょう。

仮にOpenAIが独自技術として保有したり、特許を取ったりできたとしても、同じような効率化を達成する方法がそれしかないとは思えません。

何らかの形で中国のオープンソース勢が同じことをやり、全員がそれをコピーする、といったことも起きるでしょう。それはそれで別の大きな話になります。

しかし、そうなった場合、NVIDIAやメモリメーカー、そして建設中の数十ギガワット規模のデータセンターはどうなるのでしょうか。必要量が単純に半分になるのでしょうか。

NVIDIAはすでに、妙に厳しい立場にいます。

推論分野では、今後ますます競争が増えてきます。

Googleが開発しているTPUの話もありますし、たしかMetaとBroadcomも提携していましたね。

こうした推論処理向けの競争相手が、今後さらに増えてきます。NVIDIAにとって脅威になるでしょう。

そしてすでに奇妙な状況もあります。

NVIDIAは今、スタートアップ企業にGPUを販売するのではなく、将来の売上の一部を受け取る代わりにGPUを提供しているそうです。

正直、この件について具体的に何が起きているのか、私にもよく分かりません。

ただNVIDIA自身も、GPUの総獲得可能市場に達した後、次にどこへ行くのかという大きな問題を抱えているのだと思います。

だからVera CPUのようなものを出してくるのでしょう。

Vera CPUがありますし、以前話した、液冷向けの新しいデータセンター・アーキテクチャ規格も出そうとしています。

ジェンスン・フアンは、GPUの総獲得可能市場が、何らかの形で終わりに近づいているという兆候を理解していると思います。

彼らにとっての問題は、次の技術サイクルへどう乗り移るかです。

今回の効率化は、その問題を加速させる可能性があります。しかし問題そのものはすでに存在していて、その影響もすでに現れ始めていると思います。

メモリメーカーは強い立場にある

メモリメーカーについては、今、非常に良い位置にいると思います。

なぜなら、今起きているAIをめぐるこの奇妙な状況では、世界中のあらゆる国が、AIは核兵器より危険だという考えを受け入れてしまっているからです。

その結果、フランスはAIデータセンターを欲しがり、ドイツもAIデータセンターを欲しがり、インドもAIデータセンター建設を推進しています。

事業について考えるときには、そこも重要です。

普通の資本主義的なビジネスがありますよね。商品を販売し、そこから利益を得ようとする。

しかし、それとは別に、国家としての産業能力というものがあります。

今では非常に多くの国が、それを追求していると思います。

特に、トランプ政権下で、あの一連の件があり、Mythos 5とFable 5が90分で撤去されたのを見た後では、なおさらです。

だから今後、多くの国が大量のデータセンターを建設すると思います。

そのためメモリ業界は問題ないでしょう。現在の規模で製造できるメーカーは数社しかありません。

ですから、長期間にわたって大きな利益を上げ続けると思います。

NVIDIAについては、少し疑問符がつきます。ただ正直なところ、NVIDIAにはすでに疑問符がついていると思います。

オープンソースモデルとローカルAIへの移行

今は、オープンソースモデルがフロンティアモデルに追いつきつつあります。

その一方で、企業はAI支出を節約するために、古いモデルへ戻り始めています。

そうですね。

そして、これまで話してきたような大幅な効率改善や計算資源の供給過剰によってメモリ価格が下がれば、ローカルでモデルを動かす場合の計算も変わります。

将来ずっと使える保証もないサブスクリプションに料金を払い続けるよりも、ローカル実行の方がはるかに魅力的になる可能性があります。

今言ったように、90分で取り上げられてしまうようなこともあるわけですから。

こうした変化についてどう思いますか。最終的には、そういう方向へ進むと考えていますか。

多くの人にとっては、基本的に組織内の知識やリソースの有無で決まると思います。

Ciscoは現在、9万人の従業員にエージェントを導入しています。

私が理解している限りでは、それはすべて社内運用です。

独自の社内AIスタックを構築し、すべてローカルでホストするようです。

おそらく、これが今後の形になると思います。

オープンソースモデルなどを使い、自社内で独自のAIスタックを運用できる能力のある企業は、おそらくそうするでしょう。

すでにメールサーバーを運用し、ファイルサーバーも動かしているなら、ラックにもう1台サーバーを押し込むだけです。

そういう企業は、自社運用へ進むでしょう。

一方、小規模な企業や、こうしたモデルを運用する専門知識がない企業は、おそらく引き続きクラウドサービスを利用します。

AIそのものではなく製品に知能が組み込まれる

ただ、その場合でも、SaaSの中に単純に知的機能が組み込まれていくという考え方が、もっと広がっていくと思います。

Salesforceが自分たちの方向性を理解できれば、AIは確実にSalesforceへさらに深く統合されると思います。

そして、そのようなものがもっと増えていくでしょう。

つまり、知能が組み込まれた形で、実際に人々の問題を解決する製品が増えていくということです。

そしてその場合も、SalesforceはOpenAIやAnthropicを外部利用するのではなく、おそらく独自の社内AIスタックを持つことになるでしょう。

フロンティアAIの開発企業は、やっても地獄、やらなくても地獄、という状況になっていないでしょうか。

運用コストと収益の計算を成立させるには、計算コストを下げなければなりません。

しかし、その収支を均衡させるほど大きな効率改善が実現したら、そもそも開発企業のビジネスモデル自体を弱体化させてしまうように思えます。

フロンティアモデルは役目を終えつつある

ええ。私は、この分野のかなりの部分について、フロンティアモデルはもう役目を終えつつあると思っています。

GoogleからGemini 3が出たとき、私はかなり驚きました。

それまでOpenAIとサム・アルトマンは、統合機能に力を入れていました。

当時どのモデルだったか忘れましたが、その時点で良いモデルを持っていました。

そして、そのモデル向けに10種類ほどの統合機能を作っていたんです。

ところがGeminiが出てきたとき、サム・アルトマンは文字どおり、統合機能の開発を止めて、もっと優れたフロンティアモデルを作ることだけに集中しよう、と言いました。

私は、それが非常に奇妙だと思いました。

私自身、モデルそのものを使っているという感覚はありません。

モデルそのものに価値があるとも思っていません。

価値があるのは製品です。

価値があるのは統合機能です。

だから私の主張の1つは、フロンティアモデルは改善されるべきではあるものの、MacのOSが改善されるのと似たような形でいい、ということです。

1年に1回、あるいは2年に1回、大きなアップデートが来る。

すると突然アイコンの見た目が少し変わっていて、まあいいか、と思う。

裏側ではセキュリティが改善していたり、ほかにも良くなっていたりします。

でも、ほとんどの人は、その変化が起きたことすら認識しません。

フロンティアモデルの更新サイクルも、そういうものとして考えるべきだと思います。

1年か2年ごとに企業が新しいものを出す。

しかし価値があるのは統合機能であり、実際に提供されるサービスです。

モデルそのものではありません。

AIはOSのような存在になるのか

それを聞いて私が考えるのは、AnthropicやOpenAI、その他の同じような企業についてです。

これらの企業は、これから生まれる新しい世界の土台になる、という前提で評価額が膨らんでいます。

少し詩的で大げさな言い方かもしれませんが、基本的にはそういうことですよね。

しかし今の話では、すでにこれらのサービスは、ある意味でOSのようなものになっていく段階に近づいている。

どこにでも存在するものにはなるけれど、それ自体が根本的にお金を払う対象ではなくなる、ということですね。

たとえば、Windowsをどうしても買いたい、と考えているわけではありません。

欲しいのはコンピューターです。

たまたまWindowsが入っている。便利だし、自分が理解できる形でコンピューターを使えるようにしてくれるからです。

そういう理解で合っていますか。

ええ。私としては、インタプリタ型のプログラミング言語を見る方が近いと思います。

たとえばPythonというプログラミング言語があります。

Pythonはもう30年ほど存在しています。

かなり前にPython 3が登場し、その後、Python 3.08、3.9、3.10、3.11と続いてきました。

フロンティアモデルも、それと非常によく似たものになると思います。

たとえば、OpenAI 3.15だよ、と言われる。

自分はOpenAI 3.13を使っているよ、という感じです。

こういう技術製品では、私がいつも言うように、バージョンごとに少しずつ違いがあります。

でも実際には、10バージョンくらい飛ばしても、おそらく気づきません。

コーディングプロジェクトでよくある問題の1つも、それです。

いくつものバージョンを飛ばしていて、ある日突然、なぜこれが動かないんだ、と困る。

調べてみたら、3年前のバージョンを使っていたからだった、というようなことです。

フロンティアモデルも、最終的にはそういうところに行き着くと思います。

99%の仕事は小型モデルで解決できる可能性

大手テクノロジー企業を見ても、今の大きな流れは、リクエストを処理できる限り最小のモデルへ振り分けることです。

そして最終的に私たちは、小型モデルで問題の99%が解決でき、フロンティアモデルが必要なのは1%だけだと気づくことになると思います。

しかしそうなると、フロンティアモデルを動かすのは1%の時間だけになります。

すると再び、なぜ企業価値が1兆ドルもあるのですか、という問題に戻るわけです。

そうですね。

そして、そもそも何にお金を払っているのか、という問題にも戻ります。

フロンティアモデルが必要なのは1%だけだ、ということがもっと広く知られるようになれば、結局また、ではローカルで動かせばいい、という話になります。

場合によっては、端末上で直接実行してもいい。

たとえば、メールをもっと良い言い回しで書きたいとか、文章表現を改善したいだけなら、すでに非常に軽量なローカルモデルでできます。

ただ、多くの人がまだそれを知らないだけです。

あるいは当然、わざわざモデルを探して、インストールして、その方法で動かすような手間をかけたくない人もいます。

GoogleはAIの階層構造をすでに持っている

そこが、現時点でGoogleが本当に先行者利益を持っている理由だと思います。

すでに誰もが使っている製品群を持っていますからね。

そしてGoogleが今推進している方向も、そこにあります。

Androidスマートフォンには、すでにモデルが組み込まれるようになります。

Chromeブラウザにも、許可すればモデルが組み込まれます。

RAMを最大16GB搭載したノートPCなら、さらに別のモデルをインストールできます。

つまり、Chromeのモデルが一番下のレベルにあります。

その次にAndroidのモデル。

次に自分のコンピューター上のモデル。

そして、それでも処理できなければ、最後にクラウド上のGeminiへ渡す。

AI、つまり知能の流れは、こういう形になっていくと思います。

だからOpenAIについて私が抱いている大きな疑問の1つは、その流れをどうやって構築するのか、ということです。

Googleの場合、すでに誰もが多くのGoogle製品を使っています。

だから少しずつ、それらの製品へAIを追加できます。

数週間前にAppleについて話したときと同じで、ユーザーがすでにやっていることの中に、少しずつ追加していけます。

一方、OpenAIは、ただそこにある1つのもの、という感じです。

OpenAIの世界で、どうやって複数のモデルを順番に使い分ける構造を作るのか、私には見えません。

OpenAIには製品流通の壁がある

そう考えると、OpenAIは業界最高水準のアプリやハードウェア、それにAndroidやAppleがすでにやっているような、ほとんどすべてのものを開発しなければなりませんね。

そして人々にそれを買ってもらわなければならない。

さらに、その全プロセスと、そこへ到達するまでの時間を生き延びなければならない。

そして最終的に、そもそも人々が乗り換えたいと思ってくれれば、いつか利益を出せるかもしれない。

そうです。

AIを見るときに思い出すことがあります。

昔、友人がスタートアップ企業を経営していました。

素晴らしいスタートアップで、技術も素晴らしかった。

私は完全に信じていました。

ただ面白かったのは、ここが今のAI業界と似ていると思うのですが、彼はBizDev、つまり事業開発を十分に重視していませんでした。

自分のスタック、自分の技術に過度に集中していたんです。

コンセプト全体を証明し、素晴らしい製品も完成させました。

ところが、その製品をどう売るのかには投資していなかった。

結局、それがスタートアップを殺しました。

資金が尽きるところまで来て、製品を宣伝するためのお金も残っていなければ、そこで終わりです。

OpenAIも、そういう問題にぶつかるのではないかと思います。

Googleには事業開発があります。

Appleにもあります。

Microsoftにもあります。

文字どおりOpenAI以外の全員が、BizDevのパイプラインを持っています。

OpenAIは、そこで問題に直面すると思います。

締めくくり

なるほど。では、その話を締めにしましょう。Eli Computer Guy、時間を取ってくれてありがとうございました。

ええ、いつも楽しいです。本当に楽しいですよ。

今日のエピソードを楽しんでいただけて、Tech Reportをもっと聞きたいと思った方は、ぜひ高評価とチャンネル登録をご検討ください。

また、普段お使いのポッドキャストサービスでも、Tech Reportの各エピソードをお聴きいただけます。

===

コメント

タイトルとURLをコピーしました