インターネット接続なしでスマートフォン上で動作する高性能AIモデルが登場した。Locally AIというアプリを使えば、最新のQwen 3.5などのオープンウェイトモデルを機内モードでも利用できる。クラウドサービスに依存せず、OpenAIやAnthropicなどの企業にデータを送信することなく、完全にデバイス上でAIが動作する。一年半前のChatGPTを上回る性能を持つモデルが、今やポケットの中で利用可能になっている。プライバシーを重視しながらAIアシスタントを活用できる、新たな選択肢である。
オフラインで動く本格的なAIモデル
さて、皆さんに知ってもらいたい本当にクールなものを見つけました。インターネットに接続する必要なく、スマートフォン上で実際に優れたAIモデルを動かせる機能についてです。つまり、飛行機の中や自宅で、クラウドサービスに送信したくない時にこれらのモデルを使用できるんです。
OpenAIやAnthropic、Googleといった企業のサービスを使いたくない場合でも、最高クラスのオープンウェイトモデルをスマホで使えます。これを見てください。かなり短い動画になるはずです。
Adrian Grondenさんのこの投稿を見つけたんですが、彼は自分のコンピューター上で新しいQwen 3.5を動かしていました。実際にズームインしてみると、機内モードで使用しているのが分かります。実際かなり速く動いています。彼はQwen 3.5の2Bモデルを使っています。これは本当に新しいモデルなんです。
Qwen 3.5モデルの登場
この新しいQwen 3.5モデルをご存じない方のために説明すると、文字通り今週出たばかりです。3月2日にリリースされました。4つのバリエーションで登場しています。8億パラメータモデル、20億パラメータモデル、40億パラメータモデル、そして90億パラメータモデルです。
これは実際本当に堅実なモデルなんです。スマホでやりたいと思うような作業のほとんどに、これは素晴らしく機能します。おそらく何か狂ったような論理問題を解いたり、複雑な数学を解かせたりはしないでしょう。ブレインストーミングの相手にしたり、今メルトダウンを起こしている子供への対処法を聞いたりする程度でしょう。
でもこれを見てください。ベンチマークです。ご存知の通り、私はベンチマークにそこまで重きを置いていませんが、これらのモデルは最高のオープンソースGPTモデルと同等です。これらのベンチマークのほとんどでGPT-4o Nanoよりも良いパフォーマンスを示しています。本当にまともなモデルなんです。
Locally AIアプリの発見
このAdrianさんに話を戻すと、彼が実際にどうやってスマホでこれらのモデルを動かしているのか知りたくなりました。そして彼がLocally AIアプリというものを作ったことが分かりました。
そのアプリを見つけました。App Storeで見つけられます。Locally AIという名前です。ダウンロードしたい場合は、確実に正しいものを入手できるようリンクを貼っておきます。入手してみましょう。ここでウェブサイトのQRコードをスキャンします。
App Store内ではこんな感じです。入手をクリックしましょう。現時点で579件の評価で4.8つ星です。皆さんこれを気に入っているようですね。
モデルの選択とダウンロード
見てみましょう。アプリを開くと、どのモデルを選ぶか尋ねられます。iPhoneを使っている場合はApple Foundationモデルが内蔵されています。Gemma 2、Qwen 3の1.7B、Llama 3.2があります。
私は新しいQwen 3.5を使いたいので、利用可能なはずです。スキップしてモデルを選択しましょう。スキップ後にモデルを選択すると、実際には最初の画面に表示されていなかったより多くのモデルが利用可能になります。
このようなデバイスで動かす場合、スマホで入手できる最もスマートな思考モデルはこのQwen 3.5になります。これが欲しいモデルです。それを選択します。
いくつかオプションがあります。40億パラメータモデルを選べますが、これを動かすにはiPhone 15 Pro以降が推奨されています。20億パラメータモデルもあり、こちらはiPhone 15を推奨していますが、必ずしもProである必要はありません。そしてQwen 3.5の8億パラメータモデルは、iPhone 14以降で動作します。
私は17 Proを使っているので3.5を選びますが、もちろん自分のスマホで最もうまく動作するモデルを選んでください。ダウンロードに少し時間がかかります。
私のWi-Fiでは約5分かかりました。もちろん、インターネット速度によって結果は異なるでしょうが、速度を比較できるよう20億パラメータ版も素早くダウンロードします。
さらに数分かかりましたが、両方のモデルが揃いました。サッと見て回りましょう。設定の中には、モデルを管理できる場所があり、パーソナライゼーションでさらにモデルを追加できます。実際にカスタム指示を与えることもできます。これはかなりクールです。温度設定も変更できます。今は全てデフォルトのままにしておきます。
会話履歴全体を削除することもできます。設定はこれくらいです。でも、Siriショートカットを追加して、「Hey, Locally AI」と言ってアプリに直接質問することもできます。かなりクールですね。
実際のテスト
現在Qwen 3.5の40億パラメータモデルになっています。基本的なテストをしてみましょう。「strawberryという単語にRはいくつありますか?」
全て分解して見せてくれて、strawberryという単語には3つのRがあると分かりました。
今Wi-Fiに接続しているのが分かりますね。残念ながら、Wi-Fiをオフにすると、画面をコンピューターに共有する機能もオフになってしまいます。でもこれはテスト済みで、Wi-Fiをオフにしても動作します。インターネットに接続している必要はありません。これはクラウドに一切情報を送信していません。
完全にスマホ上で動作しています。ここで20億パラメータモデルに切り替えます。新しいチャットを始めて、最近出回っているおかしな質問の一つを聞いてみます。「家から200メートルのところに洗車場があるんですが、そこまで歩くべきですか、それとも車で行くべきですか?」
何と言うか見てみましょう。他のモデルと同じような論理的な欠陥があります。歩くか車で行くかを決めるには、異なる条件下での移動時間を比較する必要があります。正確な移動時間を比較してください。時間以外の要因を考慮してください。歩行時間が1時間を超える特定のシナリオで、全ての状況において運転時間が歩行時間より短い場合は運転すべきです。運転は云々。
うーん、そうですね。洗車場を使うのに車が必要なら、なぜ歩くんですか? 洗車場で車が必要な場合、歩くことは理論的な選択ではなく実用的な必然になります。
つまり、新しいモデルのように論理的に優れているわけではありません。でもブレインストーミングパートナーとして使うなら、例えば「AIが日常生活にどう影響するかについてのYouTube動画のアイデアをブレインストーミングして」と。
20億パラメータモデルを使っているので、実際かなり速く動いています。そして繰り返しますが、今オフラインだと想像してください。これらの回答を得るためにインターネットに接続していませんから。
「AIがあなたの仕事を奪う。厳しい真実」「あなたの猫がChatGPTでドアベルを制御できるか?」その動画について考えているところです。「ポッドキャストを聴くことで私の声が学習しているのか」
「ロボット外惑星、ロボタートル対人間の犬の散歩」「視点ホラー。なぜAIが私の別名に過ぎないかもしれないか」「実際にCDDPよりうまく機能する5つのAIツール」CDDPって何でしょう。知っておくべき頭字語ですか? 「AIを使って悪い習慣を忘れる方法」「コピー&ペーストの死」「AI生成された人間関係」
「デジタルスーパーマーケットのキュレーション」「介護のためのAI」たくさんのアイデアがあります。そして飛行機に乗りながらこれらのアイデアを得られるんです。
思考モードのテスト
思考モードさえオンにしていませんでした。左下に小さな電球があるのが見えますね。電球をオンにして「さらにアイデアをください」と言ってみましょう。
さて、今はすぐに回答していません。実際に考え抜いていて、その思考の連鎖を見ることができます。つまり、完全にデバイス上で動作する思考連鎖モデルがあるわけです。スマホが温かくなってきているのを感じます。これをやっていると確実に温まります。
熱くはありませんが、確実に処理能力を使っています。実際かなりの時間考えています。そして今、回答をくれています。「これは30以上の具体的でニッチな、深く魅力的なYouTube動画のアイデアのリストです」
「今お伝えしていること、直接的なAI相互作用、2024年には見られないが将来見るであろう5つのディープフェイク、人間とのインタビュー、AIとのインタビュー、求人市場分析でプロンプトエコシステムをテストする、自分がスパムっぽくなっているのを捕まえた方法、AIフィルター」
こんな感じです。今たくさんのアイデアをくれました。このチャットが長くなるにつれて、私の動画からも分かるかもしれませんが、実際少しカクカクし始めています。
コンテキストにより多くの詳細があると、少し遅くなります。私のスクロールもカクカクしてきています。
ビジュアル機能のテスト
でも、これはビジュアルモデルでもあります。これを停止して新しいチャットを開きましょう。思考をオフにします。プラスボタンをクリックして写真を撮りましょう。私が今見ているものが分かります。
これが今飲んでいるものです。写真を撮りましょう。変な効果がかからないようにこうします。写真を撮ります。この写真を使って「これは健康的な選択ですか?」と聞きます。
はい、これは健康的な選択です。砂糖ゼロ、天然香料、云々。そして新しいチャットなので再び速く動いています。前の議論からすべてのコンテキストを引っ張ってこようとしていないからです。
オフライン動作の証明
そして、Wi-Fiなしで動作することを証明するために、画面を録画します。録画をします。そして実際にWi-Fiをオフにします。この瞬間から、スマホの録画を使用します。
Wi-Fiをオフにして、機内モードにもします。5Gを全く使わないようにします。インターネットはゼロです。今機内モードです。新しいチャットを始めましょう。
「iPadを取り上げたら子供がかんしゃくを起こしています。どうやって落ち着かせるべきですか?」今動いているのが分かります。かなり速くストリーミングしています。
そして繰り返しますが、右上を見てください。機内モードです。インターネットには全く接続していません。高度30,000フィートの飛行機の中で子供がメルトダウンを起こしていて、インターネットにアクセスできないけれど、何かサポートをAIに聞きたい場合、ここに良いツールがあります。
短い答えをくれているだけでもありません。プロンプトに対して非常に詳細で、かなりよく考えられた答えをくれています。見てください。素敵なデザインさえついています。全てが良く見えます。とてもクールです。
音声モード
さて、ChatGPTやAnthropicのように、音声モードもあります。録画を簡単にするために、画面をコンピューターにストリーミングできるようWi-Fiを再びオンにしましたが、音声モードをテストしてみましょう。
音声モードを素早くダウンロードしています。どうやらデフォルトではインストールされていなかったようです。新しいチャットをしましょう。「かなりお腹が空いているんですが、何を食べるか決められません。夕食に何か提案してもらえますか?」
「まだお腹が空いているので、いくつか手早い選択肢があります。グリルサーモン、新鮮で満腹感があります。チキン炒め、心地よく多用途です。野菜スープ、温かく癒されます。タコバー。さまざまなお気に入りのミックス。ピザ。シンプルで満足感があります。冷蔵庫に何か具体的な材料はありますか?」
面白いですね。タコバー。悪い提案ではありません。タコバーを食べるべきというのに少し混乱していますが。理にかなっていますよね? 全ての材料を並べて、手元にあるものでタコを作るという。
総括
とにかく、これはかなりクールだと思います。完全にスマホ上でローカルに動作する、実際かなりまともなモデルを手に入れられるのは素晴らしいことだと思います。インターネットなしでスマホ上で完全にローカルに動作するモデルが、一年半前のChatGPTよりも優れているんです。
明らかにGPT-5.3やClaude Opus 4.6、あるいはSonnet 4.6のような最先端のモデルではありません。それらはデバイス上で動作させるには大きすぎるからです。クラウドか、とんでもないGPUパワーが必要です。
でも、一年半、二年前に持っていた最先端モデルよりもおそらく優れたモデルについて話しているんです。それはかなりクールです。
とにかく、この動画はスポンサー付きではありません。Locally AIやこのアプリを作ったAdrianさんは、私がこの動画を作っていることさえ知りません。ただこれができるようになったのがクールだと思い、かなりうまく機能しています。
AI業界でも一般世界でも、たくさんのドラマや狂気が起こっています。そして私が遊んでいたクールなツールについて動画を作りたかっただけです。だからそうしました。これは私が見つけて、他の人も知りたいと思うだろうと考えたクールなツールです。
メッセージをクラウドに送信していません。完全にスマホに留まっています。使用するのにインターネットは必要ありません。OpenAI、Anthropic、Google、xAI、これらの企業はあなたのデータを一切入手していません。プロンプトで訓練することもできません。なぜなら、全てがスマホに留まっているからです。クールですね。
楽しいです。見せたかったんです。これが私が伝えたいことです。かなり素晴らしいです。それについて他に何を言えばいいか分かりません。チェックしてみてください。無料です。比較的新しいiPhoneが必要なだけです。過去4、5年以内に作られたiPhoneがあれば、これができます。
これが私が伝えたいことです。一緒にオタクになってくれてありがとう。次回お会いできることを願っています。
コメント