アーキテクチャ

Google・DeepMind・Alphabet

Googleの警告 文脈内学習の表現は不活性である

Google DeepMindの最新研究が、大規模言語モデルにおける文脈内学習(ICL)の根本的な問題を明らかにした。モデルは完璧な幾何学的表現を内部に構築できるものの、その表現を実際のタスク解決に活用することができないという「不活性な表現...