本動画は、AIシステムにおける新たなアーキテクチャである反復型の世界モデルについて解説する内容である。言語モデルがコード生成時に内部でどのように推論を形成しているかという最新の分析結果を導入とし、その反復的な思考プロセスを世界モデルに応用する手法を提示する。単一のTransformerブロックを何度もループさせることで、AIは潜在空間内で環境の物理的変化や時間発展を反復的にシミュレートし、予測の精度を高める。これにより、計算コストやパラメータ数を大幅に削減しつつ、従来の大規模モデルと同等以上の推論性能を達成するメカニズムや、更新ルールを安定させる数学的背景、そして各ベンチマークにおける評価結果について詳しく論じている。
コード推論の内部ライフサイクルとAIの思考プロセス
コミュニティの皆さんこんにちは。またお会いできて本当に嬉しいです。これはいったい何なんだ、と思われるかもしれませんね。これは私たちのAIシステムのための世界モデルに関する最新の研究論文です。そしてなんと、今やあらゆる人や物がループしているため、私たちもループ型の世界モデルを手に入れたのです。それではさっそく始めて、少し楽しんでいきましょう。
さて、これは2026年6月16日の論文です。これは華南理工大学と非常に優秀な多くの人々によるもので、LLMにおけるコード推論の内部ライフサイクルの追跡について語っています。幸いなことにこれはメインの論文ではありません。この論文は私たちにアイデアや入り口を与えてくれる前菜のようなものです。彼らはここでコード推論の内部ライフサイクルを分析しており、そこではLLMがまず答えを醸成し、内部で答えを準備して、それがデコード可能になる前に多くの層を通して線形に復元できるようにしています。
そしてこの論文は、コード自体の推論形成の時間的ダイナミクスを調査しているようです。AIがコードを書くとき、内部では何が起きているのでしょうか。どうしてこんなことが可能なのでしょうか。モデルはいつ最初に答えを知るのか、Transformerアーキテクチャの特定の層、たとえば第27層で知るのか、ということを探っています。もし著者たちがここで開発した手法が正しければ、プロセス監視、テスト時の計算スケーリング、推論モニター、そして機械的レベルでの解釈可能性に対する本当に深い洞察になる可能性があります。なぜなら、私たちはAIがどのようにしてこれほど優れた、場合によっては人間のコーディングをしのぐようなコードを生成するのかを理解したいからです。
さて、最も興味深い主張は、Transformerアーキテクチャの非常に早い段階で答えが現れるというものです。しかしその一方で、さらに深い層が存在するため、そう単純でもありません。ちょっとこれを見て楽しんでください。ごく最初の層のどこかで、確率分布が次第にクリアになっていくのがわかります。Transformerの後の層に進むにつれてどんどん明確になり、そして読み出す前に、信じられないほど明確な確率分布が得られます。これこそがその結果であり、おそらくこれが私たちが読み出しているものなのです。
結果は4つのクラスに分かれることがわかりました。すべてがうまくいき、すべてが解決されて出力が正しい場合です。出力が5だとしましょう。そうすると、こんなにも早い段階で正しい答えを生成していることがはっきりと確認できます。つまり、非常に最初の層がコード生成の理解にとって非常に重要だということです。しかし一方で、層が多すぎたり、考える時間が長すぎたりすると、処理過剰な解決策のようなものが生じてしまいます。収束しているように見えても、これは確率分布なので突然ジャンプが起こり、この処理過剰のまさにその瞬間に読み出してしまうと、不正確な結果になってしまいます。
あるいは、単純に誤って解決された解答クラスを持つという結果もあります。オレンジのピークにある出力が突然青いピークからずれてしまうのがわかります。突然2つのピークができ、それが不正確な結果を招くか、あるいは可能な解決策の山脈のようなものができあがり、ピークが特定のしきい値を超えただけで、それが完全なナンセンスな答えになってしまうこともあります。これは未解決の答えです。そしてこれこそが、Transformerが内部でコードを生成し、あなたが後でClaude CodeやCodexなどで目にするコードを作り出す方法なのです。著者たちは、モデルの内部で推論がどのように展開するかが最も重要な問題であり、推論が成功して良いコードを書くかどうかよりも重要であると考えています。
世界モデルへのループ構造の応用
さて、このコード生成のアイデアを少し難しくしてみましょう。AIが現実、つまり私たち人間が住んでいる実際の物理的世界を理解しようとする世界モデルについて考えてみます。世界モデルは本質的に、この特定のAIシステムのための内部シミュレーターであり、もしこの特定のロボットが環境と相互作用している場合、現実が時間とともにどのように進化するかを予測します。たとえば、ロボットが一歩前に進むとか、テーブルからコーラの缶を拾うという行動を起こしたとしましょう。ロボットやAIシステムの行動によって、現実は時間とともにどう変化するでしょうか。イメージはつかめると思います。
ここでひとつのアイデアがあります。先ほどお見せしたように、非常に初期の層から進んで、独自の層を何層も積み重ねる代わりに、同じブロック、つまり同じTransformerブロックを繰り返し再利用してループさせるのです。そうすることで、予測を何度も洗練させることができます。なぜそんなことをするのか、Transformerは美しく機能しているのに、どうして突然複数の層を持つ深い深いTransformerを使わず、ループさせるための1つのTransformerブロックだけにするのかと疑問に思うかもしれません。それはすべて、時間、お金、そして再利用できるパラメータの問題なのです。もしループさせるための1つのブロックがあれば、時間、お金、そして計算量の大幅な削減になります。
つまり、私たちは突然AIの新しいスケーリングの次元について話しているのです。それはより大きなモデルについてではなく、トレーニングやトレーニング後のためのより多くのデータについてでもなく、内部で起こっているより反復的な思考のプロセスについてです。今日お話ししているモデルは10億パラメータの小さなモデルで、本当にとても小さなモデルです。テスト時の計算スケーリングと並行する部分があるのではないかと思うかもしれませんが、もちろんそうです。Transformerの層を単純に大きくするのではなく、内部シミュレーションを繰り返し洗練させるのです。
そしてこれが本日の最後の研究で、こちらも2026年6月16日のものです。なんてことでしょう、彼らは世界モデルをループさせました。ここには信じられないほどのFaceMind Research Asiaの成果があり、彼らはとてもシンプルでエレガントなアイデアを持っていました。さっそく5分で紹介しましょう。なぜそれがそんなにシンプルなのか見てみましょう。私たちには複数のループがあります。少し互換性のある2つのループです。まず潜在的な推論があり、これが反復プロセスであるため、これを内部ループと呼びます。もちろん少しの数学的な最適化もありますが、これを最初のステップとしましょう。詳細はすぐに説明します。
次に潜在空間があり、この潜在空間で推論を行います。数学的な公式や物理的な公式を持つわけではなく、すべてを特定のトポロジーを持つ新しい数学的空間にエンコードします。そしてこのトポロジーが物理学や古典力学などを学習します。次に、私たちの数学的モデルが無限大に飛んでいってしまわないように気をつけなければなりません。ですから、それを何らかの形でスケーリングし、単位円内の安定した解にする必要があります。
パラメータ効率と遅延デコーディングの仕組み
そして特別なものとして、潜在空間でのロールアウトがあり、著者たちはこれを遅延デコーディングと呼んでいます。つまり、エンコードして、考えて考えて考えて、そしてごく最後にデコーディングのステップを踏むのです。世界モデルを計算または実行するためのこの新しい方法論の効率を見ると、計算量を10倍から100倍節約できることがわかります。これは驚くべきことで、しかもほぼ同じ品質であり、時にはさらに高いパフォーマンスを発揮します。見てみましょう。
今のは私の視覚化でした。ここにあるのは著者たちによる論文からの少し味気ないスクリーンショットです。長期間の世界モデリングのための、安定したパラメータ共有リカレントTransformerがあります。入力を持ち、観測と行動を持ちます。そしてこれらすべてをエンコーダーでエンコードします。ここには観測エンコーダーと行動エンコーダーがあります。次に3つの要素があります。プレリュードがあり、デコーダーがあります。しかし最も重要な部分は、ここにあるリカレントブロック、つまり共有Transformerで、特定の数学的なループがあります。予測ヘッドがあり、観測と報酬の処理が行われます。遅延デコーディングが最適化され、最終状態が得られます。美しいですね。何を言っているのかさっぱりわからないという方は、動画を続けて詳細を説明しましょう。
本当に素晴らしいのは、比較モデルと比べて最大100倍も優れたパラメータ効率を示していることです。これが興味深いのは、スーパーコンピューターセンターを必要とせず、おそらく家庭用のコンピューターデバイスにもこれを持ち込める可能性があるからです。
過去のループ型Transformer研究の振り返り
アーティファクトにおける再帰的ループの秘密を紹介した動画を覚えているかもしれません。なぜそのモデルがそれほど素晴らしかったのかを説明するために、私たちはすでにここでループを試していました。それでは世界モデルに戻って、多かれ少なかれ同じことをしてみましょう。世界モデルとは何でしょうか。世界モデルは、私たちやAIモデル、あるいはロボットシステムなどの行動に応じて、私たちの周りの環境がどのように進化するかを予測することを学習します。シンプルな相互作用モデルですね。
そしてご存知の通り、これは2024年のものです。ループ型Transformerの威力について、もうそんなに前のことなのかと想像してみてください。ここ数年、私たちはループ型Transformerアーキテクチャの実験を続けており、これは K 層のTransformerを L 回ループさせたものが、K×L 層の非ループモデルのパフォーマンスにほぼ匹敵するということを2024年に示しました。すべての数学的な困難を乗り越え、Google ResearchとToyotaの協力により、新しいアーキテクチャやループ型Transformerが非ループのTransformerモデルと同じくらい優れたパフォーマンスを発揮できることを示せたのです。これは素晴らしいことでした。ちなみにこれは2025年2月の出版物です。頭がオーバーフローしていてごめんなさい。とにかく素晴らしいです。
彼らはまた、ループモデルが潜在的な思考を生成し、理論的には長期間の実験に必要な推論の連鎖、推論シーケンスを美しくシミュレートできることを示しました。しかし最も重要なことは、この潜在的な思考であり、これがおそらく彼らがループモデルについて考え始めるきっかけになったのだと思います。
MITによるハイパーループTransformerについてすでにお話ししたのをご存知ですね。これは2026年4月のバージョン2でした。ハイパー接続されたループ型Transformerが、深さを合わせたTransformerや多様体制約付きのハイパー接続Transformerを上回る性能を持ち、最大50%少ないパラメータで同じパフォーマンスを発揮することを示しました。もし覚えていないなら、あなたは私のチャンネルの登録者ではありませんね。この動画を見終わった直後に、その2つの動画を必ず見てください。5ヶ月前には、DeepSeekが新しいトポロジカルTransformerを構築していることや、MITによるAIの位相シフトという新しいR-LLMについてもお見せしました。もう少し深く掘り下げたい場合は、それらの2つの動画がおすすめです。そして、これらの動画に数学は十分に含まれているのかと自問するなら、これを見てみましょう。ポリトープのBに精通しているなら、この動画を楽しめるはずです。
ループ型世界モデルの理論的アプローチ
ではメインテーマに戻りましょう。著者たちは、私たちが2024年以降知っているループ型Transformerが、世界モデルの有望なバックボーンであると提案しています。なぜなら、深さを超えてパラメータを再利用しながら、明示的な反復的な洗練メカニズムを導入するからです。パラメータを再利用するという部分を強調しておきます。
さあ、いよいよ本題です。ループ型の世界モデルが、既存の世界モデルアーキテクチャに匹敵するか、あるいは予測精度においてそれよりも優れていることを実証しつつ、使用するパラメータを大幅に減らすことに成功しました。これは興味深いですね。詳しく見てみましょう。今私たちの前には2つの道があります。純粋な数学から始めるか、それとも楽しんでみようと言うかです。この動画を録画している私にとっては土曜日なので、このループ型世界モデルがどのように機能するかのシンプルな理論的説明から始めて、それから数学に飛び込んでみましょう。そうしましょう。
それは単一のフォワードパスで未来を予測しようとはしません。これは素晴らしいことです。私たちが持っているのは反復、つまり不動点反復ですが、これについては後ほど詳しく説明します。システムが次にどのような状態になるかという潜在的な推測を構築し、AIはその推測を特定のしきい値に達するか、もう十分だと言えるまで、同じTransformerブロックを使って繰り返し洗練させようとします。この繰り返しの洗練こそが、著者たちが今日の特定のループと呼んでいるものです。システム全体はコンパクトな内部シミュレーターを学習しようとしています。AIは自分自身にどんなステップを問いかけるのでしょうか。私は今何を見たのか。行動レイヤーでの行動で何を成し遂げたのか。もしその行動がボールを蹴ったということなら、今世界はどのような潜在状態にあるべきか。転がるボールが見えるはずです。そして最後の質問は、環境の未来を予測するために次に何が見えるかということです。それでは、どのように行われるか見てみましょう。
潜在空間での反復とモデルの安定性
著者たちのスクリーンショットですでにお見せしました。プレリュードとエンコーダーがありますが、中央にはリカレントブロックがあり、これが最も重要なオブジェクトです。これに焦点を当てます。このリカレントブロックには、単純に t=100 回など特定回数ループされる共有パラメータがすべて含まれています。このループの更新ルールはかなりシンプルです。そしてこれが私たちの主要な数学的基盤になります。なぜなら最初に数学が必要だからです。数学的公式があれば、それをコード内の数学的公式として書き、Pythonに入れて実行することができます。
更新ルールは、前の隠れ状態の一部を保持するというものです。システムが進化して不連続になることはありません。自然界は多かれ少なかれ同じ状態を保ちますからね。そして次に観測や行動、たとえば私がテーブルからコーラのボトルを拾ったという行動に関する条件を注入します。そして非線形のTransformerによる洗練を加えます。ここで知性が発揮されます。これが、TransformerとMLPと非線形性からのすべてを持つ第3の要素です。そしてこれを繰り返すだけで、これが私たちのループなのです。これ以上簡単なことはありません。シンプルなアイデアです。大きな動機は、深さと展開コストの間の緊張関係です。それが本当に1倍から100倍安くなるなら、もう言うことはありませんね。
ではどうやって行うのでしょうか。潜在的な更新は簡単に爆発したり漂流したりする可能性があります。約5分後に特定の数学的トリックをお見せします。今のところは、彼らがダイナミクスの保持部分にスペクトル安定性制約という特定の項を追加したと言っておきましょう。それは負の要素を持つ対角連続時間行列をパラメータ化し、これによって値を0から1の間の区間に引き戻します。つまり重要なのは、状態を制御不能に増幅させるのではなく、各ループのステップが有界性を保持するということです。すべてが制御下にあります。強化学習を思い出してください。異なる分布があり、分布が速く移動しすぎないようにしたいですよね。そこでKullback-Leibler情報量を使って留まるようにし、小さな赤ちゃんの歩みのように進むのと同じようなことをここで行うのです。とてもシンプルな数学的公式で、皆さんも気に入ると思います。
学習中、ループの回数は固定されていません。これも美しい点です。通常は100回、200回、500回と固定しますが、今は本当にループを続ける必要があるのか、それともすでに可能な限り最良の解に収束したのかに依存します。準備されたサンプルは、ポアソン分布からのループ反復回数を使用します。そのため、モデルは学習フェーズで可変の計算の深さを確認し、うまくいけば推論実行時にもこれを適用して、これは10回の実行で済む簡単なタスクだから500回も実行する必要はないと判断します。もちろん、これにより推論時にループ回数を変更しても堅牢になります。そして近似に必要な数学的関数である世界モデルの全損失は、5分後に見ていく観測損失、報酬損失、そして継続予測損失を組み合わせたものになります。
推論時には、これらすべてを準備した後、モデルは潜在状態がすでに十分に良好であれば、これは簡単なタスクであると学習しているため、早い段階でループを停止させることができます。私たちがここで話しているのは潜在状態が存在する新しい数学的空間についてであることを思い出してください。そのため、これは学習されなければなりませんが、詳細はすぐに説明します。単純に軽量の終了ゲートを追加するだけです。そうすることで、各反復で停止確率を出力します。素晴らしいですね。これにより達成されたのは、静的なシーンでは数回の反復後にすぐに終了できるのに対し、複数の物体間の力学的な衝突のようなハードな遷移がある場合は、計算に多くの反復を要するということです。適応型の計算を持てるのは本当に素晴らしいことです。
さて、私たちのシステムにある2つ目のループを歓迎しましょう。グラフでお見せしたように、これが著者たちの言う遅延デコーディングです。シンプルですね。2つ目のループ、これです。ロールアウトの各中間ステップで観測結果や報酬をデコードする代わりに、なんとモデルはすべてをしばらくの間潜在空間に保持し、行動シーケンスの終わりにのみデコードするのです。すごい、これで計算の労力を減らせたぞと思うかもしれませんね。まさにその通りです。
数学に入る前に、もう少し理解が深まったと思います。AIシステムによる初期の推測があり、環境が特定の方法で変化すると推測し、その後潜在空間に留まって推測を改善しようとします。時間発展の軸を持つわけではなく、真の状態に収束するようにさらなる反復的な不動点近似を行うだけです。もちろん、これらすべては潜在状態の定義に依存しています。なぜなら、お話ししたように、潜在空間は学習において物理学や化学、金融などのダイナミクスを学習するからです。開始点と終了点があり、AIが行動を起こせば、その行動の結果がどうなるかを正確に知る必要があります。ボールが転がり始めるのか、金融資産が突然増加し始めるのか、理論的な物理公式からこの特定の潜在空間の構成、この多様体にマッピングされるか、あるいは金融の分野であればどんな流れが予想されるかを正確に把握するのです。
3点目として、暴走する近似にならないように安定させる必要があり、4点目として今お話しした遅延デコーディングがあります。観測結果を得てそれを潜在空間にエンコードし、潜在空間自体の中でさらにすべてを最適化し、特定の行動のごく最後にのみそれをデコードするのです。つまり、ここで起きているすべてのことを信頼しているわけです。潜在空間でのロールアウトにおいて、潜在空間が高次元の新しい数学的空間に適切な多様体ジオメトリを持ち、それが物理法則や金融機関の法則を希望通りに正確にマッピングしており、予測された観測結果が得られるということをです。素晴らしいですね。
数学的メカニズムと潜在空間の性質
そういうことなのです。とてもシンプルです。モデルは K 回の潜在的な遷移を行い、その後1回の最終的なデコードを行います。私たちが手にしたのは、外側のループ（行動ステップ）と内側のループ（各ステップ内の反復的な潜在空間での洗練）という入れ子構造です。ではどうやってこれを学習させるのかと思うかもしれません。プレプリントの著者たちは、この数学的空間のための特定の学習カリキュラムを追加し、短い時間枠から始めてタスクの複雑さを徐々に高めていくことにしました。長いデコードのないロールアウトを通したバックプロパゲーションは難しいからです。彼らはまた、潜在軌道が意味を持ち安定し続けるように、潜在的一貫性と収縮のペナルティを追加しました。これはシンプルな数学的公式であり、私たちはそれを達成しました。これが新しい世界モデルです。
要約すると、共有Transformerブロックを使って潜在状態を繰り返し洗練させ、その洗練をスペクトル制約で安定させ、計算時間を節約するために早期に停止するかデコーディングを遅延させることによって、世界モデルを構築したということです。ノートを取りたい方は、この9つのポイントを詳しく見てください。
これは本当に興味深いことです。ロールアウトの大部分は潜在空間で起こります。そのため、この構成と多様体構造、潜在空間の多様体構造は本当に重要です。しかし誤解のないように言っておきますが、潜在空間がすでに物理法則を知っているという意味ではありません。どこかに数学的ソルバーがあるわけでも、証明支援システムのようなオブジェクトがあるわけでもありません。ただ空間そのものがあるだけです。連星の周りの重力場のようなもので、何をすべきか正確に知っていますが、数学についてのアイデアや理論的な意味についての考えはまったく持っていません。なぜなら、モデルは私たちの特定の行動の下で環境がどのように変化するかを予測するのに役立つ内部の動的モデルを学習するように訓練されているからです。
おわかりのように、潜在空間は自然を模倣しているというよりは、特定の次元、特定の複雑さで構築した特定の数学的空間への、特定のタスクに対する特定の数学的マッピングなのです。推論の実行時に尋ねるクエリやタスクに多かれ少なかれマッピングされる特定のデータセットを使って、特定の方法で構築・学習されたものです。だからこそ、潜在空間は2つの連星がどのようにお互いの周りを回り続けるかを私たちに教えてくれるのです。この潜在空間は、世界、つまりインターネット上のすべてのコンテンツからなる学習データセットによって構築されなければならず、うまくいけばこの予測と現実のダイナミクスの理解を可能にする数学的構造を見つけることができます。
損失関数と内部ループの更新ルール
お気づきでないかもしれませんが、私は美しい視覚化を行いました。繰り返しますが、手作業でコーディングされた物理ルールの類はいっさい含まれていません。数学は一切入っていません。モデルの軌道、観測、行動、そして学習データがあるだけです。そしてもちろん、これをコーディングするなら、特定の損失関数について話さなければなりません。この損失関数には、観測シグナル、報酬シグナル、そして継続シグナルを統合する必要があります。見てみましょう。
ご覧の通り、世界モデルの損失関数はシンプルに3つの項からなっています。観測損失、報酬損失、そして継続損失です。本当に厳密にやるなら正則化項も必要ですね。美しい正則化項です。気にしないでください。興味があれば見てください。しかしそれ以外はこれは最新技術レベルのものです。
最も重要な公式はどれかと思うかもしれませんね。すでに出会っています。それはリカレントブロックで使われている内部ループの更新ルールです。これはループ型Transformerなので、ループ型Transformerのリカレントブロックが主要な要素です。これがその式です。詳しく見て、感覚を掴みましょう。h はモデルの内部世界状態です。h には3つのパラメータがあり、そして ht+1 があります。これが世界状態の動的進化です。
例を挙げましょう。ボールが宙を飛んでいます。潜在状態はこれをエンコードするかもしれません。ボールの速度、位置、他の要素の位置、ボールの回転、運動量、あるいは物理的オブジェクトのより高い次元の運動量、重力のような隠された環境コンテキスト、温度、気圧などをエンコードするかもしれません。数学の公式や変数を明示的に書き出すことなく、すべてが潜在ベクトルに圧縮されます。なぜなら潜在空間は、特定の運動量と 1 m/s の速度を持つ赤いボールがあれば、これがあなたのベクトルだと教えてくれるように構築されているからです。環境で遭遇するこの特定の状況に対して1つの潜在ベクトルを持つように、この数学的空間を構築したのです。
そしてモデルはこれを繰り返し更新します。すべてのステップは新たな洗練のパスです。物理的な時間が進んでいるわけではなく、同じ遷移の推定値を改善しているだけだということを思い出してください。さて、公式の最初の項は保持項と呼ばれます。私がすでに知っていることのいくらかを保持すると読み取ってください。Kullback-Leibler情報量を考えてみてください。すでに知っているものに近い状態を保ち、ほんの少しずつしか離れたくないですよね。ですからこの保持項は、私の知っていることの90%は変更されないと言っているのです。なぜなら、すべての要素を同時に完全に変更するような環境の変化は起こらないからです。これがなければ、すべてのループが現実を完全に上書きしてしまいますが、私たちはそれを望んでいません。
2つ目の項は、特定の行動の注入です。たとえば、ロボットに左に動けというコマンドを出したとします。私たちは数学的空間の中だけで操作しているため、行動エンベディングが必要になります。これが、左に動けというコマンドの正確な潜在ベクトル表現である uk を作成します。新しい数学的空間の中だけで計算しているため、これが私たちの進むべき道です。そして行列 Bˉ は、この行動が世界状態をどれだけ強く変更すべきかを決定します。
そしてご存知の通り、ここからが知的な項の出番です。非線形項、Transformerのアテンションスタック、MLPスタックなど、ここが知的な部分だと言える要素です。論文ではすべてのTransformerの計算をこの因子 Rˉ に圧縮しています。素晴らしいですね。いつも同じです。アイデアはシンプルです。現在の潜在世界と行動が与えられたとき、特定の行動が与えられた場合に環境がどのように変化するか、予測においてどのような修正を行うべきかをTransformerが予測する場所なのです。
不動点反復とベンチマークでの性能評価
なぜループが爆発しないのか、なぜ安定したループになるのか、なぜここのループが大きく発散しないのかについてはすでにお話ししました。簡単な数学的トリックがあるのでお見せしましょう。著者たちは、項 Rˉ が常に情報をわずかに収縮させるように強制します。なぜ、どうしてそんなことが可能なのかと思うかもしれません。彼らはこの数学的公式を構築し、特定の行列表現においてすべての対角要素が必ず負になるようにしました。そしてこれを離散化すると、Aˉ がこの表現を持つことを確信でき、それは Aˉ が0から1の間にあるということに他なりません。これが、著者たちがループシステムにおいて証明可能なロールアウトの安定性を主張できる全理由です。ループするたびに、Aˉ は1を超えず、暴走プロセスに陥ることはありません。常に0から1の間にあり、情報をできればわずかに収縮させます。これが数学的トリックです。では具体的に何の知識を収縮させているのかというと、それは単なる数学的トリックなのです。
もう一つ、ループは実際には何を探しているのでしょうか。特徴とか解釈とかそういうものだと思うかもしれません。しかし実際には、これは不動点反復なのです。コードを書く際に数学的な面で私たちが扱っているのはこれだけで、状態の変化が止まるまで続けます。ϵ をどんどん小さくしていくと収束します。自己矛盾のない未来の世界状態を見つけたとモデルが教えてくれたら、目標を達成し、正しい答えに到達したことがわかります。
ただ、ここで気をつけなければならないことがあります。はっきりさせておきたいのですが、私は本当に正確でありたいのです。収束の保証が私たちに教えてくれるのは、AIモデルが自分自身で学習した潜在的な宇宙、構築された新しい数学的空間において安定した解を見つけたという特定の情報だけです。それが現実の何かや現実の法則に対応しているという意味ではありません。単にモデルが学習においてその潜在的な宇宙で学習したものがそれだというだけで、うまくいけばそれらが収束しないまでも重なり合っていることを願うばかりですが、一般的にそれらは全く異なる2つの主張だということを心に留めておいてください。
さて、結果について話しましょう。なんてことでしょう。ここにあります。これは世界モデリングタスクのためのScienceWorldデータセットです。ここで特定のタスクタイプの完全一致（EM）やF1、エンティティなどすべてのベンチマークを見ることができます。彼らはループ型世界モデルを使用し、10億パラメータのモデルしか持っていませんが、もちろんこれらのタスクでしっかりと学習させる必要があります。そして完全一致が68%というパフォーマンスを確認できます。これを覚えておいてください。次にClaude Opus 4.6 Maxを起動してみましょう。完全一致は47.2%です。つまりこの特定の世界モデルでは、10億パラメータのモデルがOpus 4.6 Maxを上回っているのです。正しいアイデアで学習し、正しい数学的な収束アルゴリズムを実装し、シンプルな方法でコーディングされた結果です。
ALFWorldという別のベンチマークでも同じです。ループ型世界モデルの異なるタスクがあります。10億パラメータのループ型世界モデルでエンティティを見ると81%で、もしOpus 4.6 Maxなら77%です。ただし、完全一致（EM）についてはOpus 4.6 Maxの方が53%で、51.6%を上回っているので間違いがあることに注意してください。ですから、このEMの51.6%は太字にすべきではありません。しかし、他の方はこちらをご覧の通り太字にすべきです。それ以外では、この10億パラメータモデルはトークンF1やその他のパラメータで上回っています。完全一致のところだけ間違いがありますが、気にする必要はありません。全体的な傾向は同じです。
これでループ型Transformerの最初の応用だと言えます。著者たちが世界モデルに適用した新しいアーキテクチャに、私たちは興奮することができます。それがどのように機能するのか、なぜ機能するのか、数学的なトリックは何か、そしてそれをどのようにコーディングできるのかについての美しい理解を得ることができました。ですから今や、あなたは世界モデルについて知っていると言えます。AIが環境の中で特定の行動を起こした場合に環境がどのように変化するかを予測しなければならないそのダイナミクスについて記述するための、最新の数学的モデルを知っています。世界モデルのチェック完了です。
この動画を少しでも楽しんでいただけたなら幸いです。新しい情報や新しいアイデアがあったかもしれません。とにかく楽しんでいただけたことを願っています。また次の動画でお会いできれば嬉しいです。
コメント