オープンソースのコーディング特化AIモデルであるOrnithを、LM Studioを用いてローカル環境で動かす方法を解説するチュートリアルである。最先端モデルに匹敵する397B版は要求スペックが高いため、本動画では初心者向けで現実的な9B（90億）パラメータ版を採用する。LM Studioの導入からモデルのダウンロード手順、そして実際にPythonスクリプトやToDoアプリ、トレードの単価計算ツールを作成する実演までを網羅している。小規模モデルゆえにエラーも発生するが、プロンプトでの修正指示を通じてデバッグする過程も紹介する。オフラインでプライバシーを保ちつつ、ジュニアエンジニアのように活用できる点を強調している。
Ornithモデルの概要とローカル環境での実行
この動画では、新しいオープンソースのコーディングモデルであるOrnithを、LM Studioを使って皆さんのパソコン上で直接動かす方法を紹介します。これがなぜ興味深いかというと、よりサイズの大きいOrnithモデルはコーディングのベンチマークにおいて非常に強力な数値を叩き出しているからです。3970億パラメータのバージョンは、Terminal Bench、SWEBench Verified、SWEBench Proなどのベンチマーク全体で、主要な最先端レベルのコーディングシステムと肩を並べていることが示されています。ですから、これは適当なオープンソースモデルのリリースではありません。純粋に強力なコーディングモデルのファミリーとして位置づけられている、非常に大規模なバージョンなのです。しかし、ここには落とし穴があります。ほとんどの人は、397Bのモデルを自宅で動かすことはできません。そうしたモデルは、本格的なクラウド環境や、マルチGPUを搭載したマシン、あるいは研究室向けのものです。そこでこのチュートリアルでは、人々が実際に始めるべき現実的なバージョンである、90億パラメータのモデルを紹介します。どのバージョンをダウンロードすべきか、どのようなハードウェアが必要か、LM Studioにどのように読み込むのか、そしてブラウザで開けるシンプルなアプリをどのように生成するのかを、順を追って説明していきます。
LM Studioのインストールとモデルの検索
まず最初にやるべきことの一つは、LM Studioのサイトへ行くことです。ここは基本的に、AIモデルをローカルかつプライベートにダウンロードして実行できる場所です。これをダウンロードしていきます。ダウンロードが始まりました。システムに入ったので、これをダブルクリックしてインストールします。これでインストールが完了しました。実行をクリックしましょう。これで最新の状態になったことがわかりますね。では、スタートをクリックします。そうすると、カタログが更新されます。起動するまで少し待つだけです。モデルはインストールしたくないので、今はスキップをクリックします。そして、そのままLM Studioに進むをクリックします。画面を最大化しますね。次にやりたいのは、モデルの検索です。左側のモデル検索に行くと、ここでOrnithを検索できます。ここで複数の異なるOrnithモデルを見ることができます。しかし、ここで正しいものを選ぶように注意しなければなりません。というのも、GPUの要件が異なるため、すべてのデバイスでOrnithを実行できるわけではないからです。ほとんどの人がインストールすべきなのは、Ornith 1.0 9Bです。これを選ぶ理由は、大半の人が本格的なハードウェアを持っていないからです。このチュートリアルでは、最も現実的で初心者向けのバージョンである9B GGUFを使用します。35Bや397Bのバージョンは計算負荷が非常に高いため、ほとんどの人はダウンロードしようとはしません。GPUの要件が気になる方は、今画面に表示されているものを確認してください。必要な仮想RAMが8GBだけで済むため、Ornith 9B Q4が初心者にとって最良の選択であることがはっきりとわかるはずです。12GBあるとさらに良いですが、8GBでも十分に動かすことができます。一方で、35Bのような他のモデルでは24GBの仮想RAMが必要になり、それでも動作が遅くて厳しい場合があります。さらにOrnith 397Bともなると、家庭用PC向けではなく、マルチGPUやクラウドのデータセンターが必要です。ですので、今回はこれをダウンロードすることにします。これが完全にオフラインで利用可能であることがわかりますね。容量も約5GBしかなく、はるかに現実的なGPUで動かすことができます。それでは、ここのダウンロードをクリックしましょう。
モデルの読み込みと簡単なコーディングのテスト
これで完全にダウンロードされたことがわかります。あとはモデルをロードするか、ここにある新しいチャットを使うだけです。これで基本的にモデルが起動します。モデルが正常に読み込まれたことが確認できますね。まさにこれがやりたかったことです。ここから実際のコーディングタスクを始めることができます。まずは、これが機能しているかを再確認するために簡単なコマンドを入力してみましょう。モデルが思考しているのがわかりますね。私は基本的に、自分が実行したいことを1段落で説明して、数字が素数かどうかをチェックする簡単なPython関数を書いてくださいと指示しました。これは基本的なコーディングタスクです。ここを見ると、情報を提供してくれて、この簡単なタスクをこなしてくれているのがわかります。これで、コーディングに特化したプロンプトのテストを実際に始めることができます。例えば、クリーンなCSSとJavaScriptを含んだ、単一ファイルのシンプルなHTMLのToDoアプリを作成してくださいと頼むことができます。すべてを1つのindexファイルに入れて、ブラウザで直接開けるようにしてくださいと指示します。エンターキーを押します。皆さんに覚えておいてほしいのですが、これは皆さんのデバイス上でローカルにコーディングを行っている、単なる90億パラメータのモデルです。コードが完成したので、これをコピーします。VS Codeを持っていなければ、インストールすることができます。VS Codeは基本的にコードエディタで、非常に便利ですし完全に無料です。これを開きましょう。そしてファイルから新しいファイルを作成します。次に、先ほどコピーしたテキストをそのまま貼り付けます。そしてファイルから名前を付けて保存します。これをindexとして保存し、HTMLとして保存されるようにします。単一のHTMLアプリをリクエストしたため、OrnithはスタイリングやJavaScriptなど、私が必要とするすべてのものを1つのファイルにまとめて提供してくれました。そしてもちろん、これをコピーして貼り付けたのがわかると思います。あとはこのファイルをクリックするだけです。Chromeでこれを開いてみます。そうすると、ここにシンプルなToDoアプリができているのがわかります。ここで、動画を仕上げるというタスクを入力してみましょう。ごく単純なものであることがわかりますね。これが世界最高のコーダーではないという事実を見て、どうかしていると言う人もいるかもしれません。しかし思い出してください。これはストレージ容量にして5GBであり、完全にローカルで動いているのです。インターネットがダウンしたり、何かが起きたりしても、皆さんはコーディング可能なモデルを手元に持っていることになります。これ以上のことを行い、さらに良くしたい場合は、反復処理をするように頼むこともできます。例えば、デザインを改善してダークモードのボタンを追加してくださいと言うと、実際にその変更を加えてくれます。またコードが生成されました。ここでもう一度コピーボタンをクリックします。VS Codeに戻り、Ctrl+A、Ctrl+V、そしてCtrl+Sを押します。これで基本的にファイルが更新されます。私がやったのは、コードをコピーし、貼り付けて、保存しただけです。そしてChromeに戻り、Ctrl+Rを押すと、変更が反映されているはずです。ダークモードのボタンが追加されているはずですが、実際にダークモードのボタンがクエスチョンマークとして追加されました。これは少しばかり最適とは言えませんが、それでも常にこれに変更を加えることは可能です。
複雑なアプリケーションの作成とデバッグの実演
皆さん、私が見せたかったのは、デバイスでのローカルコーディングを最も簡単に始める方法だということを覚えておいてください。もちろん、これにはもっと多くのことができますが、これはあくまで制限のあるローカルのコーダーに過ぎません。しかし、非常に役立つ他の機能もいくつかお見せしましょう。実際に役立つものの別の例をやってみます。ここでは、トレードのリスク計算機として機能する単一のHTMLファイルを作成してくださいと指示します。口座サイズ、リスクのパーセンテージ、エントリー価格、ストップロス、そしてテイクプロフィットを入力できるようにし、リスク額、ポジションサイズ、リワード額、リスクリワードレシオを計算するようにします。クリーンなスタイリングを含め、UI内で計算式を説明するように求めます。では、やってみましょう。これはかなり骨の折れるタスクですが、90億パラメータのモデルがどれほど強力かをお見せします。生成されている間に、新しいファイルを作っておきましょう。では、これをコピーします。ファイルに貼り付けます。そして、ファイルから名前を付けて保存します。トレードのものとして保存します。そして、これをもう一度開きます。すると、実際にリスク計算機ができているのがわかります。実は、最初の行からこれを削除すべきですね、そこにあるべきではないので。これを削除して保存し、こちらに戻ってCtrl+Rを押すと、それが消えたことがわかります。あの部分はそこにあるべきではありませんでした。さて、これでリスク計算機ができました。例えば、口座残高が2万5000ドルで、2パーセントのリスクを取るとします。資産のエントリー価格は90ドル、ストップロスは89ドル、テイクプロフィットは110ドルだとします。リスクを計算します。機能するはずです。さて、今回は機能しなかった例の1つですが、これを実際にどのように修正するかをお見せしたいと思います。コーディングにおいて小規模なモデルを使う際の問題は、往々にして間違いを犯すということです。一発で完璧にこなすことはできません。しかし、それはまったく問題ありません。単に問題を説明すればいいだけです。ここでは、アプリのUIは読み込まれるが、リスクの計算をクリックしても何も起こらない、ボタンが機能するようにJavaScriptを修正し、ページに結果を表示させてください、完全に更新されたindex HTMLファイルを返してくださいと指示します。機能しない場合は、そのバグが何であるかを入力するだけで、基本的に再構築してくれます。もう一度コードをコピーしましょう。こちらに戻ります。Ctrl+A、Ctrl+V、そしてCtrl+Sを押します。これで機能するはずです。開始残高を1万ドル、エントリー価格を100ドル、ストップロスを96ドル、そしてテイクプロフィットを110ドルと入力し、リスクを計算します。今度は実際に結果が表示されたのがわかります。私がこの失敗をお見せしたかった理由は、小規模なモデルはよくミスをするからです。しかし小規模モデルの素晴らしい点は、モデルに間違いを指摘し、これを変更してと頼めるこのループを回せる状態であれば、その間違いを修正できるということです。ローカルのコーディングモデルについて理解しておくべきことの1つは、それらが小さいため、間違いを犯し、推論にいくつかのギャップが生じるということです。しかし、そのステップが何であるかを特定できさえすれば、つまり、問題をすばやく見つけて明確に説明できさえすれば、モデルがそれを修正することは難しくありません。
小規模ローカルモデルの性能と最適な活用法
では、このモデルが実際に何を行えるのか気になっている方のために説明します。これは小規模なローカルモデルだということを覚えておく必要があります。Claudeではありません。GPT-5でもありません。万能なコーディングエージェントでもありません。簡単なスクリプトを書いたり、コードを説明したり、基本的なウェブアプリを作ったり、明らかな問題をデバッグしたりするのには役立ちます。しかし、より大規模なプロジェクトを作ろうとすると、特に非常に大きなものにおいてはミスを犯します。大規模なコードベース、複雑なReactプロジェクト、高度なデバッグ、バックエンドのアーキテクチャ、実際のAPI連携、長いコンテキストのタスク、多くの指示を完璧にこなすこと、微妙な論理バグを見つけること、そして最初の試行で本番環境で使えるコードを生み出すことなどにおいては破綻してしまいます。このモデルについて考えるとき、もしこれを何かの枠に当てはめるとしたら、この90億パラメータのモデルは、皆さんの自分のマシンで動く賢いジュニア開発者だと考えてください。皆さんの作業を速める手助けはしてくれますが、それでも皆さんがその作業内容をチェックする必要があります。より大規模な最先端モデルは、より良い記憶力、より良い推論能力、そしてより良いデバッグ能力を備えたシニア開発者のようなものです。私が考える主なトレードオフは、プライバシーやコストと、機能性とのバランスです。このモデルは完全にローカルで動いているため、皆さんのプロンプトをクラウド企業に送る必要はなく、メッセージごとにお金を払う必要もありません。デメリットはもちろん、この90億パラメータのバージョンが最大規模のAIモデルよりもはるかに小さいということです。そのため、信頼性はそれほど高くありません。小規模なコーディングタスク、プロトタイプの作成、学習、そしてオフラインでの実験に使い、極めて重要な本番環境での使用は避けてください。
コメント