自己注意

AI研究

新発見:AIのインコンテキスト学習が機能する仕組み(解説)

本動画は、Transformerアーキテクチャにおけるインコンテキスト学習(ICL)の動作原理について、最新の数学的証明に基づいて解説するものである。2025年7月にGoogleが発表した研究と、同年12月にオックスフォード大学とサセックス...
AIの歴史

Transformer解説:AIを永遠に変えた発見

現代のあらゆる最先端AIシステムの基盤となっているTransformerアーキテクチャの誕生と発展の歴史を辿る動画である。1990年代のLSTMによる勾配消失問題の解決から始まり、2014年の注意機構を備えたSeq2Seqモデルの登場、そし...