トークン予測

Googleの次世代AI研究次トークン多様体を超えて

Googleが次世代AIモデルに向けて重要な発見を発表した。従来のトランスフォーマーアーキテクチャにおける線形表現仮説は、自然言語の流れには有効だが、推論タスクでは崩壊することが判明した。Google DeepMindとプリンストン大学の共...

AI思考の幾何学

本動画は、スタンフォード大学とハーバード大学の共同研究により明らかになったAIトランスフォーマーモデルの内部推論プロセスの幾何学的構造について解説する。研究チームは、LLMが各トークン生成時に選択しなかった代替パスを探索する「フォーキングパ...