トランスフォーマー

AI研究

DeepSeekがLLMを劇的に強化:Engramの登場

DeepSeekが発表した「Engram」は、大規模言語モデルの根本的な非効率性を解決する革新的なアーキテクチャである。従来のLLMは繰り返し出現する固有名詞やフレーズを毎回再計算していたが、Engramは人間の脳のような高速メモリモジュー...
AI研究

このAIブレイクスルーはDeepSeekを復活させられるか?

DeepSeekが新たに発表した論文「MHC(多様体制約付きハイパーコネクション)」は、AIモデルのスケーリングにおける根本的な不安定性の問題を解決する画期的な手法である。従来のハイパーコネクションは、レイヤー間の情報混合を豊かにすることで...
AI研究

AIの聖杯、継続学習を徹底解説

本動画は、2026年のAI業界における最重要概念の一つとなる「継続学習」について、その本質と課題を5つのレベルに分けて解説している。現在の大規模言語モデルが抱える根本的な問題として、学習後にモデルが凍結され、過去の会話や経験から学習できない...
AGI・ASI

AGIへの次なるステップ

本動画では、AIのスケーリング則が限界を迎えているという主張と、実際のAI能力が加速度的に向上しているという事実の間にある矛盾を解き明かしている。従来の「スケールがすべて」というパラダイムから、テスト時計算、アーキテクチャ革新、エージェント...
ノーベル賞・巨匠

AIの次なるフロンティア:ノーベル賞受賞者ジェフリー・ヒントン卿との対話

ノーベル物理学賞受賞者であり「AIの父」として知られるジェフリー・ヒントンが、AIの未来について包括的に語った対談である。医療診断、教育、科学研究といった分野でAIがもたらす変革の可能性を具体的に示しながら、放射線科医の代替や個別指導型教育...
AGI・ASI

ChatGPTの限界とAIの可能性 完全インタビュー | 研究者マイケル・ウールドリッジ

オックスフォード大学のマイケル・ウールドリッジ教授が、AIの現状と限界について包括的に語るインタビューである。彼はChatGPTなどの大規模言語モデルが印象的な能力を持つ一方で、真の理解を欠いており、物理世界との相互作用が依然として大きな課...
*重要記事

幻覚を削除せよ=Hニューロンを発見した

この動画は清華大学の最新研究により、AI言語モデルにおける幻覚(ハルシネーション)の発生源が特定されたという画期的な発見を解説している。研究チームは、全ニューロンのわずか0.01〜0.35パーミル程度しか存在しない「Hニューロン」と呼ばれる...
AIベンチマーク

ARC Prize 2025 トップスコア3位 MindsAI

ARC Prize 2025で3位入賞を果たしたMindsAIチームのJack Coleへのインタビュー。臨床心理学の博士号を持つという異色の経歴を持つJackは、3年半にわたってARCに取り組み続け、テスト時ファインチューニング(TTT)...
AGI・ASI

我々はAGIまで96%到達—Googleの新しい『入れ子脳』モデルがその理由を説明する

この動画では、AGI到達度が96%に達したとするAllenの保守的カウントダウンの最新状況を紹介し、Googleの新しい入れ子学習アーキテクチャ、中国の驚異的なアクロバット能力を持つヒューマノイドロボット、ゲームの超リアルなAIモッド、拡散...
AI研究

Transformerを超えて:人工的な心を構築する

本動画では、従来のTransformerアーキテクチャを超える新たなAI設計思想として、生物学的な脳の仕組みに基づいた「状態ニューロンネットワーク」が提案されている。現在の大規模言語モデルは熱力学的な統計モデルに基づいており、言語の巨視的な...
AGI・ASI

ヨシュア・バッハと探るAGIの可能性:意識と知能の未来

本動画では、コンピューター科学者であり哲学者でもあるヨシュア・バッハが、意識の本質と未来の知能について包括的に論じている。バッハは意識を「知覚している自分を知覚する二次的知覚」として定義し、それは単なる内容の存在ではなく、内容が存在している...
OpenAI・サムアルトマン

AI&サイバーセキュリティ:ダン・ボネがサム・アルトマンにインタビュー

OpenAIのCEOサム・アルトマンが、スタンフォード大学のダン・ボネ教授とのインタビューで、AI分野におけるキャリア選択について語る貴重な対談である。現在のAIは深層学習という一つの大きな推進力を発見したに過ぎず、まだ初期段階にあると指摘...
AI研究

Googleは遂にAI最大の問題を解決したのか?!

現代のAIシステムが抱える最大の課題の一つである「破滅的忘却」に対し、Googleが画期的な解決策を提示した。ニューラルネットワークは新しいタスクを学習する際に以前の知識を失ってしまうという根本的な問題を抱えており、これがAGI実現への大き...
AI研究

AI思考の幾何学

本動画は、スタンフォード大学とハーバード大学の共同研究により明らかになったAIトランスフォーマーモデルの内部推論プロセスの幾何学的構造について解説する。研究チームは、LLMが各トークン生成時に選択しなかった代替パスを探索する「フォーキングパ...
AI研究

AIの秘密の記憶が発見された

この動画は、AIが情報を記憶し推論を行う際に、従来考えられていた連想記憶ではなく、幾何学的メモリという新しい構造を利用していることを明らかにした最新の研究論文について解説している。Google ResearchとCornell大学の共同研究...
AIニュース

私たちは個別価格設定の世界で生きようとしている

本動画では、AIによる個別価格設定の未来から量子コンピューターの最新成果、脳の記憶メカニズムとGPT-4の類似性、再生医療における数学理論の応用まで、幅広いトピックを横断的に解説している。中国におけるインフルエンサー規制、音声検索の新技術「...
AI議論・雑談

個別化価格の世界に私たちは間もなく生きることになる

本動画は、AIと機械学習の最新動向を幅広く取り上げた内容である。中国によるインフルエンサー規制、DisneyのAI生成トレーラー、MinecraftでのChatGPT構築など話題は多岐にわたる。特に注目すべきは、人間の海馬が睡眠中に実行する...
AIエージェント

我々が構築した嘘:思考連鎖の真実

本動画は、AIエージェントにおける思考連鎖(Chain-of-Thought)モニタリングの脆弱性を暴露する最新研究を解説している。2025年7月に発表された大規模研究では、思考連鎖を分析することでAIシステムの安全性を向上させる可能性が示...
AGI・ASI

AGIの父が語る、大手テクノロジー企業のイノベーションが終わった理由

この動画は、AGI(汎用人工知能)という用語の生みの親であるベン・ゴーツェルへのインタビューを通じて、AGI到達までのタイムラインや技術的課題、そして社会的影響について深く掘り下げている。ゴーツェルは2029年前後のAGI実現を予測し、現在...
Google・DeepMind・Alphabet

完全インタビュー:GoogleのSundar PichaiがMarc BenioffとのAI1G対談でAIの未来を語る

GoogleのCEOであるSundar Pichaiが、Salesforce創業者Marc Benioffとの対談で、南インド出身の自身の生い立ちから、Googleでの20年以上にわたるキャリア、そしてAI技術の未来について語った。Pich...
AI研究

GPTは純粋な知能を超えて進化している

この動画は、GPT(Generative Pre-trained Transformer)の未来が純粋な知能向上ではなく、感情的認知モデリングや人間のエンパワーメントといった新たな方向性へシフトしていることを論じている。中国、英国、米国の一...
*重要記事

Andrej Karpathy — AGIはまだ10年先である

本動画は、OpenAIの創設メンバーであり、Teslaの自動運転部門を率いたAndrej Karpathyへのインタビューである。Karpathyは、AGIの実現には10年単位の時間が必要だと主張し、現在のAIエージェントには継続学習やマル...
LLM・言語モデル

コロンビア大学CS教授:LLMが新しい科学を発見できない理由

コロンビア大学のコンピュータサイエンス教授が、大規模言語モデル(LLM)の根本的な限界について、形式的な数学モデルを用いて解説する。LLMは訓練データから構築されたベイズ多様体の中で推論を行うことはできるが、新しい多様体を創造することはでき...
OpenAI・サムアルトマン

Greg Brockman: AGI、Sora 2、ボトルネック、ホワイトカラー、プロアクティブAI、そしてそれ以上のこと!

OpenAI共同創業者のGreg Brockmanが、AGI実現への道筋、Sora 2の技術的進化、コンピュートリソースの制約、AIによる労働市場の変革について語った包括的なインタビューである。トランスフォーマーアーキテクチャの汎用性、ベー...
AI研究

AI推論の統一理論(UC Berkeley、NVIDIA)

本動画では、AI推論に関する統一理論を幾何学的視点から解説する。UC BerkeleyやNVIDIA、Microsoft、清華大学などの最新研究論文3本を取り上げ、推論多様体という低次元幾何構造、エージェント推論グラフによる行動パターン分析...
AI入門

ハイブリッドアーキテクチャ入門:技術的深掘り #1

本動画は、ハイブリッドアーキテクチャの入門として、機械学習における複数のアーキテクチャブロックの統合について包括的に解説している。空間表現ブロック、時系列ブロック、強化学習ブロック、シンボリックAI、物理情報機械学習といった5つの主要なブロ...
OpenAI・サムアルトマン

Anti Fund Summitで明かされたAIの秘密 – OpenAI主任研究責任者Mark Chen登場

このトークセッションでは、OpenAIの最重要人物とサム・アルトマンが評するMark Chenが、Anti Fund Summitにて現在進行形のAI業界の内幕を語っている。AI恋愛の現実化、数百億ドル規模のデータセンター投資の背景、中国の...
AIエージェント

AIのUXにはもっとイノベーションが必要で、今は恥ずかしいレベル – Chroma創設者兼CEO、Jeff Huber

Chroma創設者兼CEOのJeff Huberが、AIアプリケーションデータベースとエージェント開発の現状について語る対談である。コーディングエージェントが現在最も成功しているAI活用事例として挙げられ、検索インフラの現代化、コンテキスト...
ロボット

完全自律ロボットはあなたが思うよりもずっと近い – Sergey Levine

本動画は、Physical Intelligenceの共同創業者であり、UC Berkeleyの教授でもあるSergey Levineとのインタビューである。Levineは、あらゆるロボットを制御できる汎用的なロボティクスファウンデーション...
ロボット

ロボットの「App Store」構築:Hugging FaceのThomas Wolfが語る物理AI

この動画は、AI界で最大のオープンソースコミュニティであるHugging Faceの共同創設者兼最高科学責任者であるThomas Wolfのインタビューである。トーマスは数年前にトランスフォーマーと言語モデルの分野でHugging Face...
AIベンチマーク

OpenAI対DeepSeek対Qwen:オープンソースLLMアーキテクチャ比較

この動画では、OpenAIが5年ぶりにリリースしたオープンソースモデル「GPT-o1」と、中国のDeepSeek V3、アリババのQwen 3という3つの主要なオープンソース大規模言語モデルのアーキテクチャを詳細に比較している。各モデルの混...
Google・DeepMind・Alphabet

Genie3:無限の世界モデル、シュロミ・フルクターとジャック・パーカー・ホルダーとの対話

この動画は、Google DeepMindが開発したGenie3という革新的な世界モデルについて詳しく解説している。Genie3は、テキストプロンプトから瞬時にインタラクティブな3D環境を生成できるリアルタイム世界モデルであり、従来のゲーム...
AI研究

「知能最適化」- AIは実際どこまで賢くなれるのか?

この動画では、AI研究者が「知能最適化」という概念について解説している。人間の脳が一定のIQ閾値を超えると全ての認知プリミティブを生成できるようになるのと同様に、AIモデルも一定の能力に達すると全ての表現と操作が可能になり、それ以降の性能向...
LLM・言語モデル

LLM世界モデル – AI内部の秘密の心

この動画では、AI専門家が夏の軽い話題として、大規模言語モデル(LLM)内部に存在する「世界モデル」について詳しく解説している。世界モデルとは、AIが推論や行動決定を行うために必要な現実世界の設計図のような内部表現である。専門家は無料のAI...
AI研究

エネルギーベーストランスフォーマーはスケーラブルな学習者かつ思考者である(論文レビュー)

の動画は、エネルギーベースモデルとトランスフォーマーを組み合わせた新しいアーキテクチャに関する論文レビューである。従来の単一フォワードパスによる推論とは異なり、推論時に複数の計算ステップを実行することで、より高精度な予測を実現する手法を提案...
AI研究

AIの隠された心:単なるデジタル幻想なのか?

この動画は、大規模言語モデル(LLM)の内部推論プロセスを分析する最新の研究について解説するものである。特に、再帰的トランスフォーマーアーキテクチャを用いた小さな言語モデルの研究に焦点を当て、LLMの隠れた思考プロセスを覗き見ることができる...
AI研究

新しいAIモデル:階層的推論モデル(HRM)

この動画では、シンガポールのSapion Intelligence社が開発した新しい階層的推論モデル(HRM)について詳しく解説している。従来のトランスフォーマーの限界である浅い処理層と複雑な多段階推論の困難さを克服するため、低レベルモジュ...
イリヤ・サツケヴァー

No Priors Ep. 39 | OpenAI共同創設者兼チーフサイエンティスト、イリヤ・サツケヴァーとの対談

本動画は、OpenAIの共同創設者兼チーフサイエンティストであるイリヤ・サツケヴァーへのインタビューである。ディープラーニング黎明期から現在に至るまでのAI研究の変遷、OpenAIの設立経緯と目標の進化、ニューラルネットワークのスケーリング...
AGI・ASI

リークされたAI技術が大規模言語モデルを時代遅れにする!

この動画は、現在の大規模言語モデルを時代遅れにする可能性のある4つの秘密のAI技術について解説している。Googleの無限寿命AI、ヤン・ルカンが提唱する新アーキテクチャ、自己改善型合成データ、そしてGoogle DeepMindのワールド...