パラメトリック知識

RAG

RAGの崩壊 知識の衝突がある状況下での推論

RAGシステムや文脈内学習を通じて最新情報を提供しても、大規模言語モデルは必ずしもその新しい知識を多段階の推論チェーンに統合できないことが明らかになった。スイス連邦工科大学ローザンヌ校とストーニーブルック大学の最新研究は、LLMが新しい外部...
AI研究

大規模言語モデルが新しいコンテキストを無視する問題 清華大学とスタンフォード大学の研究

清華大学、スタンフォード大学、ハーバード大学による最新研究が、大規模言語モデルの重大な欠陥を明らかにした。本研究では、AIモデルが新たに提供された文書や証拠を実際に分析しているのか、それとも事前学習された知識に依存して統計的に正しい答えを推...
AI研究

AIの秘密の記憶が発見された

この動画は、AIが情報を記憶し推論を行う際に、従来考えられていた連想記憶ではなく、幾何学的メモリという新しい構造を利用していることを明らかにした最新の研究論文について解説している。Google ResearchとCornell大学の共同研究...