半導体産業 毎秒17,000トークン ― Talasの「組み込み型」AIチップ、登場！
スタートアップ企業Talasが開発した新型チップ「HC1」は、Llama 3.1（8Bパラメータモデル）をチップ上に直接組み込むことで、毎秒最大17,000トークンという前例のない推論速度を実現している。NvidiaやGroq、Cerebr...
半導体産業 
Amazon・AWS・ジェフベゾス