米政府による突然の規制によって、世界最強のAIモデル「Fable 5」が一晩で利用不可能になった。この事件は、他社のサーバーや規約、そして政府の意向に依存するクラウド型AIモデルの脆弱性を浮き彫りにした。こうした背景から、自分のハードウェア上で完全に独立して動作する「ローカルモデル」の重要性が急速に高まっている。現在、ローカルモデルの性能は急速に向上しており、一般的なタスクの大部分をこなせる水準に達した。プライバシーの確保、マージナルコストのゼロ化、オフライン動作といった強みを活かし、クラウド依存から脱却するための実践的な導入方法やおすすめのモデル、さらにはローカルAIを活用した新たなビジネスチャンスについて解説する。
突然のFable 5禁止が浮き彫りにしたクラウドAIの脆弱性
今週末の予定は完璧に決まっていました。部屋にこもって、地球上で最も強力なAIモデルであるFable 5を使い、ずっと温めていたクレイジーなアイデアを形にするつもりだったのです。ところが金曜日の午後5時21分、アメリカ政府がAnthropicに一通の書簡を送りました。そして金曜日の夜までに、そのモデルは消え去り、すべての人が利用できなくなってしまったのです。警告もなければ、異議申し立ての機会もありませんでした。
私はただそこに座り、このシステム全体がいかに脆弱であるかについて考えていました。私たちは皆、他人のサーバー上に存在し、他人の利用規約に支配され、政府からの書簡一通で消滅してしまうようなモデルの上に、自身のビジネスやワークフロー、クリエイティブなプロセス全体を構築しているのです。だからこそ今週末、私は最先端のフロンティアモデルを一切使わずに開発を行っています。文字通り、一つも使っていません。そして、これこそが今作るべきエピソードだと確信しました。
このエピソードを最後まで見れば、ローカルモデルとは何なのか、なぜ1週間前よりも急激に重要性が増したのか、具体的にどのモデルを使うべきか、どのようなハードウェアが必要か、そして知能がデスクの上で無料で行使できるようになったからこそ存在するいくつかのスタートアップのアイデアについて理解できるようになります。この状況は多くの収益チャンスを生み出していると考えていますので、それについても番組の最後で共有します。それでは本題に入りましょう。
まずは実際に何が起きたのか、その全体像を説明させてください。なぜなら、この教訓は単一のモデルの禁止という問題よりもはるかに大きいからです。フロンティアモデルが信じられないほど素晴らしいものであることは、私が誰よりも先に認めます。そこに異論はありません。しかし、それらはすべて同じ弱点を抱えています。あなたはそのモデルを所有しておらず、アクセス権をレンタルしているに過ぎないということです。そして、レンタルしているアクセス権は、政府、ポリシーの変更、あるいは価格の変更によって、いつでも取り消される可能性があります。例えば、価格をあまりにも高くして、アクセスできないようにすることだって簡単にできてしまいます。また、運営企業があなたのユースケースを規約違反だと判断するかもしれません。あなたが読んでいない規約のせいで、です。
私たちは今、これが現実世界で起きるのを目の当たりにしました。地球上で最も強力な単一のモデルが一晩で消えてしまったのです。はっきりさせておきたいのは、私はクラウドに反対しているわけではないということです。私は毎日これらのクラウドモデルを使っていますし、クラウドモデルが今後も最強であり続けるでしょう。最高品質のものを利用できるという意味で、ローカルモデルよりも優れているのは間違いありません。利用可能な中で最もスマートなツールです。
しかし、今回の件で痛感したのは、自分の技術スタックの一部を自分で所有する必要があるということです。誰にも奪われることのないレイヤーが必要なのです。私はこれを電気のようなものだと考えています。普段はグリッド、つまり電力網に繋がっている方が嬉しいですよね。安いですし、簡単ですし、メンテナンスも他人がやってくれますから。しかし、本当に回復力があるタスクをこなす人々は、ガレージに発電機を置いています。ハリケーンが来て街が停電になっても、彼らには動き続ける発電機があり、自分の機器を使い続けることができます。ローカルモデルは、まさにあなたにとってのその発電機なのです。
コメント欄で多くの人がこう言うのは分かっています。ローカルモデルなんて全く使い物にならないよ、とね。でも、それはもう過去の話です。その転換期はおそらく半年前くらいに訪れました。2年前、あるいは1年前であれば、ノートPCでモデルを動かすのは文字通りゴミのような性能でした。しかし今日、ゲーミングGPUやそこそこのスペックのMacで動作するモデルは、多くの人々がChatGPTやClaudeを使っている用途の約80%を十分にこなせるほど優秀です。無料のローカルモデルと高価なクラウドモデルの間のギャップは、私自身を含め、多くの人が予想していたよりもはるかに速く縮まりました。
ローカルモデルの基本と3つの圧倒的なメリット
では、実際にローカルモデルとは何なのかについて話しましょう。非常にシンプルに説明したいと思います。このチャンネルやポッドキャストではいつも言っているように、私自身や皆さんのために、話を噛み砕いて説明するのが好きなんです。人々を怖がらせて遠ざけたくはありませんからね。ローカルモデルとは、完全にあなた自身のコンピューター上で動作するAIモデルのことです。インターネットは必要ありません。APIキーも不要ですし、トークンごとのコストもかかりません。あなたの行動を監視する企業もありません。モデルのファイルを一度ダウンロードすれば、その時点からそれはあなたのものです。ビデオゲームや写真編集ソフトがマシン上で動作するのと全く同じように、あなたのマシン上で動作します。本当にそれだけです。この概念全体を複雑にする必要はありません。要するに、知能が他人のハードウェアではなく、あなたのハードウェア上に存在するということです。
これにより、クラウドモデルでは得られない3つの大きなメリットが得られます。1つ目のメリットはプライバシーです。データがあなたのマシンから外に出ることは決してありません。これは個人にとって嬉しいというだけにとどまりません。医療、法務、金融など、法的にデータをサードパーティのAPIに送信できない様々な業界に対して販売を行うための、強力な突破口になります。実際、そうした業界は無数に存在します。これについては、スタートアップのアイデアのところで詳しく話しますので、一度置いておきましょう。
2つ目のポイントは、限界費用がゼロになることです。ハードウェアを用意した後は、もちろんハードウェアに費用をかける必要があり、その価格はどんどん高くなっていますが、それを揃えてしまえば、すべてのクエリが無料になります。制限はなく、モデルを1日24時間、1ヶ月間動かし続けたとしても、請求されるのは電気代だけです。これは製品カテゴリー全体の計算を根本から変えるものであり、多くの可能性を開きます。
3つ目は、誰にもそれを停止できないということです。あなたのドライブにあるモデルは、それを作った会社が存続しているかどうかにかかわらず動作します。政府がそれを気に入るかどうかは関係ありません。インターネットが繋がっていなくても関係ありません。飛行機の中でも動きます。地下のバンカーでも動きます。ただ動くのです。このように大きなメリットがある一方で、人生のあらゆることと同じように、メリットもあればデメリットもあります。ファンタジーを売りつけるつもりはないので、トレードオフについて話しましょう。私は皆さんに夢を見せるためにここにいるのではなく、メリットとデメリット、そして何が興味深いのかを伝えるためにここにいるのです。
トレードオフとは、ローカルモデルは一般的に、絶対的なフロンティアモデルほど賢くはないということです。最大規模のオープンモデルであればクラウドに匹敵することもありますが、それには非常に本格的なハードウェアが必要です。XなどのSNSで、ローカル環境を使ってとんでもないことをしている人を見かけることがありますが、彼らは多くの場合、マシンに5,000ドル、1万ドル、1万5,000ドル、あるいは2万ドルといった大金を投じています。通常のノートPCで動作するものは、最高のクラウドモデルよりも一段劣ります。
しかし、私の考え方や捉え方は変わりつつあります。ほとんどのタスクにおいて、フロンティア級の知能は必要ありません。プライベートで、無料で、いつでも利用できる、十分に優秀な知能があればいいのです。そして、適切な仕事に適切なモデルを組み合わせることが重要になります。それが全く新しいスキルセットになりつつあり、私たちはそこに向かっています。
では、どのようにしてローカルモデルを使いこなせるようになるのでしょうか。これこそが、私がこの週末を費やして理解しようとし、リアルタイムで皆さんに共有している内容であり、このエピソードの核心です。YouTubeの動画やポッドキャストを見てただ相槌を打つだけでなく、本当にこれをマスターしたいのであれば、次のような順番で学ぶことをお勧めします。
実践：ローカルAIを導入するためのロードマップと主要モデル
まず最初に始めるべきは、ランタイムです。誰もがこれを逆順にやってしまいます。モデルを動かす環境すら整っていないのに、完璧なモデルを探し回ってしまうのです。それは間違った順番です。最初にダウンロードすべきはランタイム、つまりマシン上でモデルを実際に動かすためのプログラムです。知っておくべき主要な名前は2つあります。OllamaとLM Studioです。Ollamaはコマンドラインから実行できるため、私の開発者の友人の多くに好まれています。コマンドを1つ実行すればモデルが動くので、比較的シンプルです。
しかし、技術的な知識があまりない人には、LM Studioから始めることをお勧めします。これには実際のインターフェースがあり、モデルのブラウザも備わっていて、クリックするだけで動作します。ターミナルを使う必要もありませんし、そうした操作は怖く感じられるものですからね。ここは多くの人が複雑に考えすぎてしまう部分です。まずはどちらか直感に合う方をダウンロードしてみてください。10分、15分、あるいは20分もあればモデルを動かすことができるようになります。
2つ目のステップは、モデルのサイズをあなたのハードウェアに合わせることです。モデルのサイズは、何十億パラメータという単位で測定されます。40億、120億、270億、700億といった数字を目にすることになるでしょう。基本的には、数字が大きいほど賢いことを意味しますが、同時に動かすためにより多くのメモリを必要とします。このエピソード全体を通じて最も役立つ知識は、モデルのサイズとハードウェアの大まかな対応関係を理解することです。
40億パラメータのモデルは、基本的に何でも動きます。8GBのメモリを搭載したノートPCや、多くのスマートフォンでも動作します。120億パラメータのモデルは、16GBのRAMを搭載したマシンのスイートスポットです。ほとんどの人はここを拠点にすべきです。270億から350億パラメータのモデルには、30GB以上のメモリを搭載した本当に優れたMac、あるいは専用のGPUが必要です。このレベルになると、真に有能であると感じられるようになります。私の経験では、700億パラメータ以上のモデルには本格的なハードウェアが必要です。フルスペックのMac Studioや、128GBのユニファイドメモリを搭載したNvidiaのDGX Sparkのような専用のマシンが必要になります。
DGX Sparkは非常に興味深い存在で、このポッドキャストでも以前話したことがあります。なぜなら、まさにこの用途のために専用に作られており、128GBのメモリを搭載して24時間365日稼働し続けることを前提としているからです。Linuxで動作し、本気で取り組んでいる人々にとって、デスクに置くAIマシンのデフォルトになりつつあります。私はNvidiaと提携しているわけではありません。ただ業界を見ていて気づいたことです。その上でモデルを実行し、稼働させたままにして、自分のスマートフォンから接続して使用します。つまり、あなたのデスクが小さな、少なくとも私にとっては小さなデータセンターのようになるのです。
知っておくべき3つ目の重要なポイントは、どの仕事にどのモデルを使うべきかを知ることです。当然ながら数多くのモデルがあり、すべてを網羅する時間はありませんが、知っておくべき主要な4つのモデルを紹介します。
まずはQwen 3、そして新しい3.6シリーズです。これはほとんどの人にとって最高の万能な選択肢だと思います。Alibabaのオープンモデルファミリーであり、コーディングに非常に強く、多言語対応にも優れており、クリーンな商用ライセンスを持っています。270億と350億パラメータのバージョンがあり、その実力以上の成果を出してくれる印象です。それらの4倍のサイズを持つ前世代のモデルを上回るパフォーマンスを発揮します。もし1つしか学ばない不退転の覚悟であれば、おそらくこれを学ぶべきでしょう。
もう1つはDeepSeekです。おそらく耳にしたことがあるでしょう。これは、高度な思考やコーディングの問題に非常に適しています。ただし、注意点として、これらの推理モデルは回答を出力する前に10秒から30秒ほど思考する時間を必要とします。それは正常な動作です。DeepSeekをインストールして、なぜこんなに時間がかかるのだろうと思っても、それは通常、私が経験してきた中では10秒から30秒ほどかかる仕様なのです。
3つ目はGemmaです。これはGoogleのオープンモデルです。もし私が今のGoogleの立場であれば、まさに今Gemmaの新しいバージョンを投入して、このチャンスを最大限に活かすでしょうね。このモデルは驚くほど小さく動作します。実際、16GBのRAMに収まるバージョンもあり、それはスマートフォンにも収めることができます。美しくクリーンな文章を書いてくれます。Googleがこれを無料で提供しているという事実は、実は狂気的なほどすごいことです。Googleが将来的にこの分野へさらに力を入れていくとしても不思議ではありません。
そして、MetaのLlamaがあります。これはオープンなエコシステム全体において、本当に重要な存在になりました。巨大なコミュニティがあり、無数のファインチューニングモデルが存在し、チェックできるチュートリアルも大量にあります。ほぼどこでも動作します。そのため、迷ったときは、あなたの状況に適したLlamaが十中八九見つかるはずです。
プロと初心者を分けるテクニックとAIエージェントの連携
ローカルモデルに関して学ぶべき4つ目の重要なポイントは、量子化と呼ばれるものです。これについては誰もあまり語りませんが、ローカルモデルにおいては極めて重要なテクニックです。量子化とは、品質をほとんど落とさずに、よりスペックの低いハードウェアで動作するようにモデルを縮小する概念のことです。例えるなら、元のモデルが圧縮されていない未加工の写真だとすれば、量子化は高画質なJPEGとして保存するようなものです。サイズははるかに小さくなりますが、人間の目ではその違いをほとんど判別できません。モデルをダウンロードするときに、Q4やQ5といったラベルを目にするはずです。それが量子化の圧縮レベルを指しています。
Q4はおおむね、品質の低下を最小限に抑えつつ、モデルが必要とするメモリを大幅に削減してくれます。これにより、本来はサーバーが必要なはずのモデルが、ノートPC上でスムーズに動作するようになるのです。この概念を理解することは本当に重要です。なぜなら、これによってあなたのハードウェアが突然2倍のパフォーマンスを発揮するようになるからです。
5つ目のポイントは、エージェントへの接続です。モデルを実行してチャットするだけでも素晴らしいですが、本当のブレイクスルーは、ローカルモデルにエージェントを紐付けることです。そのためには、Hermesのようなツールを使うことができます。Hermesについては、確か先週のデスクトップアプリのエピソードで取り上げましたので、そちらをチェックしてみてください。Hermesは、現在世界で最も使われているエージェントと言っても過言ではないでしょう。最もハイプや注目を集めており、実際にローカルで動作し、停止することなく動き続けるように専用設計されています。
Hermesのプロファイルをローカルモデルに紐付けることで、無料で、オフラインで動作し、すべてを記憶し、独自のスキルを書き出すエージェントを手に入れることができます。デスクの上のマシンで重い処理を実行させながら、Telegramなどお好みのメッセージングアプリを使って出先から指示を送ることも可能です。非常にクールですよね。繰り返しになりますが、先週配信したそのエピソードのリンクを概要欄に貼っておきますので、エージェントのプロファイルやローカルモデルへの紐付けについて詳しく知りたい方はぜひご覧ください。これらが、ローカルモデルを導入して稼働させるために知っておくべき主要なポイントです。
では、ここからさらに次のレベルへ進むにはどうすればいいでしょうか。プロと単なる観光客、つまり初心者を分ける要素は何でしょうか。
1つは、コンテキストウィンドウがローカル環境における最大の制約になるという事実です。クラウドモデルは巨大なコンテキストウィンドウを無料で提供してくれますが、ローカルモデルではそれをメモリという形で支払う必要があります。つまり、コンテキストが大きくなればなるほど、より多くのRAMを消費するのです。そのため、セッションは極めてコンパクトに保ってください。1つのスレッドに自分の人生のすべてを詰め込むような真似をしてはいけません。さもないとマシンがフリーズしてしまい、ローカルモデルなんて全然良くないと愚痴をこぼすことになります。
また、ローカルモデルにツールを与える必要があります。ウェブ検索、ファイルアクセス、コード実行機能を備えた小さなローカルモデルは、それらのツールを一切持たない巨大なモデルに勝利します。適切なツールを配線すれば、能力のギャップは急速に縮まります。モデルをエンジン、ツールを車輪と考えてください。ただ、ローカルモデルでよく起こる現象として、ツールへの接続を忘れてしまうことがあります。他の人もこれに気づいているでしょうか。私自身もリアルタイムで学びながら、どうすれば最大限に活用できるか、どうすれば忘れずにいられるかを模索している最中ですが、2026年6月の現時点では、そうした特有の挙動が発生することを知っておいてください。
プライバシーがここでのキラー機能であることを忘れないでください。すべてがオフラインで動作しており、データがマシンから離れることはありません。これについては、スタートアップのアイデアや、それをどうレバレッジしていくかという箇所でさらに詳しく話します。
プロと初心者を分ける概念について最後に言えるのは、小さなローカルモデルと最先端のクラウドモデルを1週間並行して動かしてみるのが非常に役立つということです。それが直感を養う最も速い方法だと思います。そして、無料のローカルモデルで十分事足りるケースがどれほど多いかに衝撃を受けるでしょう。120億パラメータのモデルで十分に処理できることに対して、高価な選択肢へ手を伸ばすのをやめるようになるはずです。何にどれを使うべきかを知るその直感こそが、私たちがここで学ぼうとしているスキルです。このFable 5の禁止措置という出来事は、私たちにローカルモデルの扱い方を学べと告げるモーニングコールに過ぎません。そして、それこそが皆さんが今日、ここで私の話を聞いている理由でしょう。
ローカルAI時代における5つのスタートアップアイデア
さて、ここからはスタートアップのアイデアをいくつか提供したいと思います。何と言っても、これはスタートアップのアイデアに関するポッドキャストですからね。私はAIの使い方を明確にし、実践的なアプローチを提供するだけでなく、特定の理由があるからこそ現在存在するスタートアップのアイデアについて、皆さんのクリエイティブな刺激を与えるためにもここにいます。ローカルモデルが存在するからこそ、そして多くの人々がクラウドモデルが禁止される可能性を目の当たりにしているからこそ、成り立つアイデアがあります。これはメインストリームのニュースになっており、今後数年間でローカルモデルへの需要は莫大になると私は考えています。
提案したい1つ目のスタートアップアイデアは、規制の厳しい業界向けのオンデバイスAIです。これは大きなチャンスです。先ほども少し触れましたが、医療、法務、金融業界には資金があり、AIで解決できる課題もありますが、法的にデータをクラウドAPIに送信することができません。そのため、モデルが完全に顧客のデバイス上で動作し、データが建物から一切出ない製品を作るのです。これにより、クラウドベースの競合他社が現状では参入できない市場を開拓することができます。そのプライバシーの制約こそがあなたの参入障壁となり、そうした人々への販売を開始することができます。
2つ目のアイデアは、既存のAIツールの「データが絶対に外に出ないバージョン」として販売することです。人気の高いクラウド型AI製品、例えば議事録作成ツール、会議の要約ツール、ドキュメント分析ツールなどをどれでもいいので選び、それらのローカルバージョンを構築します。製品自体は同じですが、セールスピッチは基本的に「あなたが提供するデータは一切インターネットに触れません」というものになります。ランディングページのメインの価値提案にその文言を掲げるのです。弁護士、医師、セラピスト、その他機密文書を扱うあらゆる人々に対してアプローチします。この一言が、契約を成立させる決定打になるかもしれません。
3つ目のアイデアは、機密性の高い運用のための、完全にネットワークから遮断されたエアギャップ型エージェントです。セキュリティ上の理由から、完全にオフラインでなければならないビジネスが存在します。防衛関連の請負業者、特定の金融取引、あるいは情報漏洩に対して極めて神経質になっている組織などです。ローカルハードウェア上で完全にオフラインで動作するエージェントのセットアップを構築すれば、彼らは高い支払意欲を持ってくれるでしょう。1つ目のアイデアが規制業界全般を対象としていたのに対し、この3つ目のアイデアは特に情報漏洩対策や機密性の高い運用に特化しています。それほど規制の厳しくない業界であっても、特定の運用において機密性が求められるニッチな領域が対象となります。
4つ目のアイデアは、インターネット環境のない場所のためのオフラインAIです。船舶、航空機、地方の診療所、現場でのフィールドオペレーション、災害地域などが挙げられます。インターネット接続がゼロの状態でも機能する有用なAIやエージェントは、クラウド業界全体が構造的にサービスを提供できないプロダクトです。
そして、最後に提案するアイデアは、レジリエンス・アズ・ア・サービス、つまり回復力の提供です。今週末の出来事を経て、まともな企業であればどこでも、プロバイダーが遮断されたら自分たちのAIワークフローはどうなるのかという疑問を抱いているはずです。あなたはその答えを売るのです。基本的には、クラウドモデルが消滅したときに作動するフォールバック、つまり代替レイヤーを構築します。まさに今回のFable 5禁止のような事態に対する保険を販売するわけです。
未来への教訓：自分の技術スタックを所有せよ
全体として、私自身もまだこのニュースや状況を消化している最中ですが、何度も立ち返る結論があります。今週末、私は地球上で最も強力なモデルを使って開発をするはずでしたが、その代わりに、より持続可能で頑強なものについて学ぶ週末になりました。教訓は、クラウドが悪でローカルが良いということではありません。そのような極端な話にしたいわけではありません。教訓とは、一通の書簡で消え去ってしまうようなものの上に、自分の人生のすべてを構築してはならないということです。技術スタックの一部を自分で所有してください。ガレージに発電機を用意しておくのです。ローカルモデルはその保険であり、今週末、私はついにその保険に加入しました。
実際にこれらのローカルモデルを触ってみれば、それらが完璧ではないこと、地球上で最も強力なモデルではないことに気づくでしょう。しかし、日常的なタスクの60%、70%、あるいは80%において、それらは実際かなり優秀です。そして、そうしたユースケースの範囲は非常に広大です。
ですから、これからの数日間、ただこの動画を見たり聞いたりして満足するのではなく、実際に触ってみることをお勧めします。OllamaやLM Studioをダウンロードし、Qwen 3を取り込み、それを実行してHermesを紐付けてみてください。実際のタスクを1つ選び、完全にローカル環境だけでそれをやり切るよう自分を追い込んでみるのです。そうすることで初めて、すべてのパズルがカチッとはまります。実際に手を動かして泥臭くやってみれば、私が言っていることの意味がもう少し理解できるようになるはずです。
そうすれば、次回何か別のモデルが禁止されたり、価格が高騰して手が届かなくなったりしたときでも、あなたはビジネスを継続でき、アイデアを出荷でき、物事を進めることができます。そして最高のシナリオとしては、クラウドモデルに特定のタスクを担当させ、ローカルモデルに別のタスクを担当させるといった組み合わせができるようになります。
もし今回の内容が興味深く、一つでも学びがあったと感じたら、高評価、コメント、そしてチャンネル登録をお願いします。そうすれば、こうしたコンテンツが皆さんのフィードにさらに表示されるようになりますし、私にとっても、リアルタイムで学んでいることを共有し続ける励みになります。
皆さんが何かクールなものを構築できること、そして新しい学びがあることを願っています。私は皆さんを応援しています。さあ、今日は誰にも停止できないものを構築しに行きましょう。それでは、また次回の動画でお会いしましょう。体調に気をつけて、クリエイティブな一日をお過ごしください。
コメント