情報検索

AIハード・GPU・RAM

AIのメモリウォール:コンピュートが6万倍成長したのにメモリがわずか100倍の理由(そして私の8つの解決原則)

AIシステムにおけるメモリ問題は、コンピュート性能が6万倍に向上する一方でメモリ性能は100倍にとどまるという「メモリウォール」によって深刻化している。AIシステムは本質的にステートレスな設計であるが、実用的な知能には状態の保持が不可欠であ...
AI研究

ベクトル埋め込み:発見された新たな幾何学的限界

Google DeepMindによる最新研究で、ベクトル埋め込みシステムの根本的な数学的限界が明らかになった。従来のRAGシステムで使用される単一ベクトル表現では、複雑なクエリに対して幾何学的に解決不可能な制約が生じることが理論的・実証的に...
RAG

HiRAG:GraphRAGの階層的推論(最高のRAG?)

この動画は、従来のフラットな知識グラフの限界を克服するために開発された新しいRAGシステム「HiRAG」について解説している。HiRAGは階層的推論を可能にするGraphRAGの発展形であり、複雑性の異なるレベル間を橋渡しする仕組みを持つ。...