勾配消失問題

Transformer解説:AIを永遠に変えた発見

現代のあらゆる最先端AIシステムの基盤となっているTransformerアーキテクチャの誕生と発展の歴史を辿る動画である。1990年代のLSTMによる勾配消失問題の解決から始まり、2014年の注意機構を備えたSeq2Seqモデルの登場、そし...