省エネ推論

本動画では、ジョージア工科大学、MIT、Nvidiaによる最新のLLM推論効率化研究を解説する。従来の推論モデルは正確な結果を得るために膨大なトークン数と計算時間を要していたが、本研究ではエネルギーベースモデル(EBM)とランジュバン動力学...