組み込みAIチップ

スタートアップ企業Talasが開発した新型チップ「HC1」は、Llama 3.1（8Bパラメータモデル）をチップ上に直接組み込むことで、毎秒最大17,000トークンという前例のない推論速度を実現している。NvidiaやGroq、Cerebr...