知識蒸留

NVIDIA・ジェンスンフアン

NVIDIA最新論文「MASTERS」蒸留手法:ローカル環境で動く3億パラメータのビジョンAI

NVIDIAが2025年12月30日に発表した最新の研究論文「MASTERS」は、72億パラメータのビジョン言語モデルを2~3億パラメータの小型モデルに効率的に蒸留する革新的な手法である。従来の蒸留手法では教師モデルの複雑な表現を小型の生徒...
LLM・言語モデル

KIMI K2がAI業界を揺るがした…その「秘密」とは

中国発のオープンソース思考モデルKIMI K2が、人類最後の試験で最高得点を記録し、Claude 4.5 SonnetやGPT-5を上回る性能を示した。訓練コストはわずか460万ドルと、米国の巨大研究所が費やす額の一部に過ぎない。この背景に...