はい。先ほどはですね、NVIDIA B100という新しいブラックウェル世代にジャンプする世代を発表して、もう世界中で嘆息が聞こえてくるような他の生成用のインファレンスチップを開発していたところの大半が諦めざるを得ないぐらい、今の時点でもう完璧と言えるほど、誰もが反論できないようなものが出てきました。
ということではあるのですが、一方でこれから生成AIのハードウェア、半導体に関してはここからカンブリア大爆発が起こってくる可能性もあるかなと思われるいくつかの動きが出てきております、というお話を次にさせていただこうかと思います。
他者ということですね。
そうですね。もちろん私どももその一端を担えればというところではあるのですが、今回GTC24とほぼ時を同じくしてアメリカ時間で2日でしたか、セレブラスという
バカでかいウェハースケールチップみたいなやつ、塚本先生が前なんか展示会の時抱えてましたよね。
そうそう、本物だって言ってましたよ。展示会出していても使えないけどもということでしたけど。
はい、このCS3というのが発表されました。セレブラスの、これもGTCみたいなAID24というのが開催されまして、ここでCS3の第3世代のセレブラスの製品の詳細が発表になっています。
あのひと頃、オープンAIがセレブラスを採用するぞって言ってちょっと騒ぎになりましたけど、結局Microsoftと組んじゃって、あれは今のところ実現してないようですね。
そうですね。セレブラスは非常に面白いアプローチをしてきているのと、我々が思考しているところとも少し方向性が似ているところもございまして、そういう意味で少し詳しいお話をさせていただこうと思います。
セレブラス、あの塚本先生がご覧になられたのはCS1かCS2かどちらかだったと思うのですが、12インチ、直径が30cmのウェハーの中にほぼ正方形に形を取ると、大体20cm×20cmぐらいの正方形になります。その中に7×12のマトリックスに、マルチパターニングと言うのですが、露光していきます。20cm×20cmの巨大な1つのモノリシックなシリコンで回路を形成するということになります。
1つのレティクルサイズが550平方mmぐらいでございまして、これだけ巨大なものを1個切り出すのも大変なのですが、7×12なので84個これが繋がった1つの巨大なシリコンでございます。
何がいいかと言いますと、今回のNVIDIAのブラックウェル世代はですね、相当テコ入れがたくさんされた中で、やっぱりチップ間の通信の帯域を拡大する、パッケージ間の通信の帯域を拡大する、システム間もそうなのですけれども、こういったところに相当の注意が払われていました。
これからシステムがどんどん大型化していって巨大な、例えば基盤モデルのLLMの何兆パラメーターといったものを処理していく時には、この帯域、チップ間の帯域というのが非常に重要になってくるわけなのですけれども、その最終的な、と言いますか極めつけの手法というのがこのセレブラスのウェハースケールエンジンということになります。
というのはですね、ダイとダイを2.5次元のパッケージングで接合する場合、ここは地下道というお話をさせていただいたのですが、数千ないしは1万本ぐらいのI/Oの接続が必要で、この本数とその速度によって帯域が決まってます。
これインターポーザーの話ですか？
そうですね、シリコンインターポーザーないしはシリコンブリッジみたいなもので通信をさせないといけないということですね。これが巨大なチップになればなるほど、熱による膨張収縮率の違いで破断してしまうということを避けなくてはいけないということになります。今回のセレブラスの発想というのは、もうそれをすっ飛ばしてしまって、ダイの中で通信をするということになると、実は2GHzぐらいでクロックを回してあげると大体2ペタバイト/秒というような非常に大きな帯域を取ることができます。
そしてシリコンインターポーザーとかシリコンブリッジがいらないということになるのですね。もちろんパッケージングがこれだけ巨大なシリコン半導体を基板に乗せないといけないのでかなり大変だとは思うのですけれども、それをやり切れる前提においては、1つの最適解ではあるかなということになります。
彼らが今回、CTOの方がYouTubeにあげていらっしゃる動画を見てみますと、非常に詳細な説明がなされているのと同時に、まさに2日前のGTC24でのブラックウェルの発表にぶつけるような形で、いろんな比較のデータが提供されていたりするのですけれども、今回特にCS3は5nmプロセスでTSMCで作られていて、SRAMもトータルでは44GBというメモリが集積されていて、彼らの主張曰く、何兆パラメーター、20兆パラメーターみたいな話が出ておりましたけれども、それぐらいのLLMモデルが、処理簡単にできてしまう。トレーニングの期間も大体1/3の期間でできますというような話が出されていたりしまして、これは確かに1つの方向性ではないのかなという気がいたしております。
GPT-4がもう入っちゃうわけね。
はい、あのOpenAIが興味を持つとするとGPT-4ではなくてもGPT-5みたいな世代のものをトレーニングしようとした時に、いわゆるGPGPUを何10万というよりは100万台単位で買わないといけないところ、確かにセレブラスのこの手法、ウェハースケールエンジンであれば、これを彼らはラックにももちろん搭載してってるわけなのですけれども、また非常に面白いことに、ワンデバイスとして全部これを見て処理ができるんだよなんていう説明もYouTubeでなされておりますが、非常に高速かつ簡便にトレーニングが実装できるというところを大きな売りにしているということになります。
あの日本だとセレブラスは東京エレクトロンが売ってるみたいで、あの展示会の時に塚本先生が抱えてたのはエレクトロンのブースに置いてあったってことだったと思うのですが、あれ売れてるんですかね？セレブラスって会社として調子いいんですかね？
いやそれがですね、これだけ素晴らしい技術製品を開発していながら、ちょっと前になんか会社の身売り的な話もちらっと出てたり、出てなかったり。
OpenAIが買ってくれなかったみたいな、ちょっと困っちゃったみたいな感じ。
そこら辺が少し不思議ではあるのですが
売れてないのかな、買ってくれるところがあんまりないとか。
ただ、CS2からこの今回のCS3に進化したことで、今回のモデルはもしかすると可能性があるのではないかという気がいたしております。でですね、先ほど生成系AI用の半導体はこれからちょっとカンブリア大爆発に入る可能性があるという風に申し上げた1つの例が実はこのセレブラスでございます。これとは真逆の発想を異にしていらっしゃる方々がいて、これは実はサムスンになります。サムスンは何を今度考えたかと言いますと、これも今週の発表だったと思うのですが、 Mach-1というものだと思うのですが、新しいインファランス用のハードウェアを開発していることをサムスンが発表しています。
ここで整理なのですが、サムスンという会社はマイクロンとSKハイニックスチップの3社しかHBMの量産に成功していない、3大メモリーベンダーの一角でございますのと同時に、SKハイニックスとマイクロンと違う特徴、究極的に違うところがですね、サムスンはロジックの半導体とメモリーの半導体、特にDRAMの半導体の双方を設計開発もできますし、かつ製造もできるという世界で唯一の企業になります。
で、サムスンがやろうとしてることは、今GPGPUでどうしても必要とされているHBMなのですが、それが8積層、12積層、16積層になっている、そのHBMメモリーの中にロジックを挟み込んでしまう、ロジックをサンドイッチしてしまうという手法で、これは1つのまた別な究極解だと思ってるのですけれども、どうせ大きなロジックの半導体がGPGPUのメインのロジックのダイが周辺にHBMを必要とするのであれば、もうHBMのメモリの中にインメモリプロセッシングとか言われたりしますけれども、メモリの中にロジックも入れてしまえばですね、HBMのパッケージの中で1つのシステムが完結すると。
それがトレーニングだとやっぱりメモリの容量が足りないわけですけれども、インファランス程度であれば1個、今HBMというのは24GBまでできておりまして、間もなく36GBまで1つのデバイスで集積されます。必ずロジックダイの通信用の、ダイというのはロジックプロセスで作ったものを組み合わせないといけないのですが、ここにインファランス専用のロジックを入れるというのは、サムスンであればメモリーもロジックも両方開発製造しているという意味において非常に簡単にできてしまうのかなということで、彼らが今そういう方向に発表行ってきたというのは予想されたことではあるのですが、いよいよそういう方向も出てきたんだなということです。
かやセレブラスでかや今回のサムスンのHBMの中に組み込むロジックということで、2つの全くこれまでなかった方向性というのが脚光を浴びてくるのではないかなということになります。
それ以外ということでこの間お話をさせていただいた、パッケージングのサイズの制約を外した上でSRAMの巨大なダイをですね、多積層で集積して、ロジック台の方も多積層で集積したものを1つのパッケージングに入れていくというところはまた第3の方向性ということで新しい方向性になるのですけれども、今後はですね、NVIDIA一強というところに対して、やはりそれでは採算が合わないとかサービスを展開するのにものがなかなか入ってこないというところに対しては、こういうようなハードウェアの新しい大きな流れというのが出てくるような気がいたしております。
あのサムスンもSKハイニックスも韓国ですよね。
はい、韓国です。
いつの間になんでそんな強くなっちゃったんですか？
あのサムスンとSKハイニックスは昔から強くて、いつの間にというよりは…
あ、そうなんですか。なるほど。
エルピーダメモリが残念ながら日本で2011年に破綻をしてしまった時に、アメリカのマイクロンに買われて行ったわけですけれども…それ以外ということでDRAMのセンシングプロセスはこのSKハイニックスとサムスンがずっと前から世界トップでしたから。
あのシェア的にはマイクロンが圧倒的に強いんですか？そうでもないんですか？
えっとこれはですね、HBMに関して言うと今シェアトップはSKハイニックスでございます。
ええ、そうなんですか。
はい。これをサムスンがまた追い抜き、一時はサムスンが当然トップだったのですが、それをSKハイニックスが追い抜いて、今回またサムスンがそれを追い抜き返そうと努力してるのですが、結構SKハイニックスが今リードが大きい状況にあります。
どっちにしたって韓国同士の競争ね。
そうですね。マイクロンも技術的には非常に高いものを今回HBM3eで出してきたのですが、こちらに対して韓国2強がまた立ちはだかっているという状況です。
いや、感慨深いですよね。80年代はもうメモリーに関して日本の一強だったのね。でそれがここまで落ちぶれて
日の丸半導体が合弁会社作ったんだけど振るわなかったですね。
いや、円高も相当あったと思うのですが、今の100〜150円であればエルピーダでも巨額の利益を出しながら世界で実はHBMの元となった8積層のDRAMも最初に開始したのは実はエルピーダが2010年から11年にかけてだったんで、そこでもうちょっと頑張っていてくだされば、今HBMの先頭を走っているのはエルピーダだったかもしれません。
ああ、ええ。僕ね、その辺の話をね、日本の国民の皆さん方がご存知ないんだろうと思うんだよ。でいろんなネット見てても、日本はまだ韓国よりは上にあの進んでるみたいな錯覚を持ってる人が結構いるわけだけど、そんなことはないのよね。
そうですね。日本ね、ちょっともうちょっと頑張らないと。当時はね日米半導体協定の話があって、それでちょっと随分不利な状況に追いやられたと。やっぱ1番の原因かなという感じもしますし、その会社の管理の問題とかも結構言われてましたからね。いろんな問題が複合的に日本をだんだん弱くなってったと。メモリー以外もねなかなか苦戦してるという、半導体産業全般的にねここ20年で随分。
ただ、台湾からTSMCを熊本に連れてくることができて、そこだけはなんかこう沸き立ってるみたいですね。
うーん、だからそれもちょっとね悔しい思いですよね。
そうですね。だって日本ではまだ20nmしか作れないとか言ってる時に、台湾ではもう2nmが作れてたみたいな状態だったですからね。もうお願いして高い技術を日本に来てくださいよっていう感じでしたからね。
AIチップに関してもね、日本またこれからちょっと頑張っていく道っていうのはたくさんあると思いますんで。
いやだからそれがね、僕はね齊藤さんだろうと思うわけよ。でだから齊藤さんはね、極端な言い方すれば日本の唯一の希望の星だと思うのよ。ところがね、前も言ってる、日本ちゅうのはそういう天才を潰すことにかけてはもうね、織田信長以来そうなんだけど。いやだからねその辺のことがね国民の皆様方が分かってないと思うのよね。指導層含めて、メディア含めて。
だから、その齊藤さんがねちょっと孤軍奮闘するよりかは、日本企業ねもっと全般全体的に頑張ったらいいのになという感じはしますけどね。
いやだから日本企業ってね、いやいやなんかコメント欄に書いてたけど、シャープどうしたんだって。昔はね亀山とか言ってたのにとか。
いやいや、そっちもですね、そのディスプレイもね日本強かったのに、もう完全にもうダメになって行ってますよね。
ね、もう韓国でしょ。ええとか、中国ね。
だけど、マイクロンも広島に来てもらうだか、もらったかとかそういう話もあるんですね。
あれも元々実はエルピーダの広島工場があったのをエルピーダが買われたので、マイクロンに引き継がれたんですね。ただ、今最先端のHBM3を作ろうということで、日本政府が資金を出して…
あ、そういうことでしたか。
HBMの生産も始まってくれると
まあAIハードウェアカンブリア紀という表現を齊藤さんされてますから、是非このチャンスにですね日本勢も頑張ってもらったらいいかなと期待してるところです。ということでよろしいでしょうか。
コメント