バッチサイズ

OpenAIの元CTO Mirror Moratiが設立したThinking Machines Labが、大規模言語モデルの非決定性問題に対する解決策を発表した。同じプロンプトに対して毎回異なる回答が生成される現象の根本原因をバッチサイズの...