MoE

Google・DeepMind・Alphabet

新しいTencent Hy3が無料で登場！

Tencentの新しいオープンソースMoEモデルであるTencent Hy3の概要と実践的なデモを解説する。本モデルは2950億パラメータ中210億のみをアクティブにし、高速な推論を実現している。OpenRouterを用いたHTML生成や2Dゲームの構築手順を実演し、OpenCode環境下では自律的エージェントとしてライブラリをインストールし、自動で動画トレーラーを生成する過程を提示する。各社の大規模モデルと比較したベンチマークでも非常に高いスコアを記録しており、実用的なコーディングやエージェント開発に最適なモデルである。
2026.07.15
Google・DeepMind・Alphabet
AI研究

拡散モデルがテキストにもやって来る。NVIDIAの新モデルを紹介 ===

画像や動画生成の中核技術である拡散モデルが、テキスト生成にも進出し始めている。NVIDIAの新たなTwo Tower方式は、既存の自己回帰モデルを複製し、一方を凍結した文脈処理用、もう一方をマスク除去型の生成用として再学習する構成である。ブロック単位の並列生成によって高速化を図りつつ、元モデルの性能を高水準で維持する一方、数学やコード生成での低下、ブロックサイズへの強い依存性、メモリ負荷などの課題も明らかになっている。===
2026.07.07
AI研究
LLM・言語モデル

GLM 5.2：何がそんなに特別なのか？

GLM 5.2は、前世代の5倍となる100万トークンのコンテキストウィンドウと画期的なアーキテクチャで注目を集めるオープンウェイトモデルである。7,440億パラメータを持つMoEアーキテクチャを採用し、各トークンに対し約400億パラメータのみを起動させることで計算効率を最適化している。インデクサーの共有による長文処理のコスト削減や、マルチトークン予測による推論の高速化も実現した。推論予算に応じた思考モードを備え、フロントエンドUI設計などのエージェントコーディングにおいて最先端モデルに匹敵する性能を圧倒的な低コストで提供する点が最大の特徴である。
2026.06.22
LLM・言語モデル
イーロンマスク・テスラ・xAI

Grok 5：6兆パラメータ…しかしそれはAGIなのか？

Grok 5のリーク情報やベンチマーク、スペック予測を徹底解剖し、その実態を誇大広告（ハイプ）から切り離して検証する。XAIが開発中のGrok 5は、6兆あるいは10兆に及ぶ大規模なパラメータ数やX（旧Twitter）からのリアルタイムデータ学習、高度なマルチモーダル機能が特徴である。しかし、MoE（Mixture of Experts）の採用による実効パラメータ数の違いや、独自の推論能力における課題、安全性の懸念も存在する。本動画の内容では、GPT-5やClaudeなどの競合モデルと比較しながら、Grok 5が本当に汎用人工知能（AGI）と呼べるのか、そのビジネス応用やリリース時期を含めて客観的に分析している。
2026.06.17
イーロンマスク・テスラ・xAI
Google・DeepMind・Alphabet

新しいRio 3.5 Open 397Bがブラジル独自のAIを開発できるかについて論争を巻き起こす

リオデジャネイロ市が発表したオープンソースのAIモデル「Rio 3.5 Open 397B」を巡る論争を解説する動画である。このモデルは既存の強力なオープンソースモデルを凌駕すると発表され、ブラジルの技術主権の象徴として注目を集めた。しかし、実際にはAlibabaのQwen 3.5やNext社のNex N2 Proといった既存モデルをマージし、微調整したものであることが判明する。動画では、低コストで開発された背景にあるMoE（混合専門家）技術や、モデル構造の類似性を巡る議論、工程上のミスによるデータの混乱、そしてブラジルが独自のAIを真に開発していると言えるのかという技術的な視点からの批判と展望が詳しく紐解かれている。
2026.06.16
Google・DeepMind・Alphabet
AI研究

Diffusion Gemma：「考える」初のディフュージョンモデル

Googleが新たに公開したオープンウェイトの混合エキスパート（MoE）モデル「Diffusion Gemma」について解説する。総パラメータ数260億、アクティブパラメータ数40億を備え、Apache 2.0ライセンスで提供される。従来の自動回帰型モデルが1トークンずつ順番に生成するのに対し、本モデルは固定のウィンドウサイズで全トークンを並列に生成し、ステップごとに過去の誤りを修正していく拡散プロセスのアーキテクチャを採用している。自動回帰型と比べて推論速度が大幅に向上するメリットがある一方、ベンチマークの精度ではやや劣るというトレードオフが存在する。数独のパズル解きやコード生成など、並列生成の特性を活かした具体的なユースケースやローカル環境での動作要件、実行デモを紹介する。
2026.06.12
AI研究
Google・DeepMind・Alphabet

GoogleのGemma 4がAI業界に衝撃を与えた理由

GoogleがリリースしたGemma 4は、オープンソースAI業界に衝撃を与える画期的なモデルである。31億パラメータと26億パラメータのモデルは、最先端の推論能力を持ちながら、既存のフロンティアモデルの約10分の1のサイズという驚異的な効...
2026.04.05
Google・DeepMind・Alphabet
Google・DeepMind・Alphabet

GoogleがGemma 4をリリース これはすごい

Googleが新たにリリースしたGemma 4は、オープンソース・オープンウェイトモデルの最前線を押し上げる画期的な成果である。31億パラメータの密モデルと26億パラメータのMoEモデルを含む4つのサイズ展開で、業界標準のArena AIテ...
2026.04.03
Google・DeepMind・Alphabet
Anthropic・Claude・ダリオアモデイ

15億の活性パラメータを持つMoEモデルがOPUS 4.6の推論性能を上回る理由

オープンソースのMoE(Mixture of Experts)モデル「Mio Version 2 Flash」が、わずか15億の活性パラメータでClaude Opus 4.6を因果推論タスクで上回った背景には、革新的なアーキテクチャ設計が存...
2026.02.13
Anthropic・Claude・ダリオアモデイ
中国

中国からまた大型AI登場！💥 LongCat Flash Chat 560B 💥

中国の美団という配送・グローサリーサービス企業が、560億パラメータのMoE（混合専門家）モデル「LongCat Flash Chat」をMITライセンスで公開した。注目すべきは、全560億パラメータのうち文脈に応じて平均27億パラメータの...
2025.09.01
中国