本動画は、YouTuberのPewDiePieが自作した超高性能PCでローカルAIを運用する挑戟を記録したものである。彼は複数のGPUを搭載したマシンを構築し、最大235億パラメータのAIモデルを動作させることに成功した。動画では、タンパク質折り畳みシミュレーションへの貢献、独自のAI WebUIの開発、そして8つのAIモデルを同時に動かす「AI議会」システムの構築など、技術的な実験が紹介される。また、AI画像生成に対する批判的な立場や、プライバシーとデータ管理の重要性についても言及している。ChatGPTなどのクラウドAIサービスに依存することのリスクを指摘し、セルフホスティングによるAI運用の利点を強調する内容となっている。
究極の自作PCでAIに挑む
また告白しなきゃいけないことがあります。またバイファーケーションしちゃいました。待って、ということは彼は今16個のGPUを持ってるってこと?何個のGPU?待って、最大14個までしか無理だよね?7つのスロットがあって、全部バイファーケーションできるとしても。
分かってますよ、フェリックス。PCIeレーンを分割してまたGPUを2つ入れたんでしょって思ってるでしょ。そうです。でもそれがどうしたんですか?だって前回のビデオで、オンラインで知らない人からBIOSをもらってバイファーケーションできるようにしたって話をしたとき、言わなかったことがあるんです。全てのレーンがバイファーケーション可能だったんです。好きなだけバイファーケーションできるんです。合法です。またバイファーケーションしました。死すべき定めの人間のために9つのGPU。もう1つだけ。
もう1つ。10個のGPU。さて、このスペース全部で何をしましょうか?足全体が入りますよ。どうしましょう?足置き場に。やるしかなかったんです。やらなきゃいけなかった。彼は16個まで行くつもりじゃないですか?
さて、ついてこれてない人のために説明すると、これがPewDiePieです。今すぐAIの使用をやめてください。
さあ、始めましょう。たくさんのGPUが出てきて、彼はおそらくモデルで素晴らしいことをたくさん見せてくれるでしょう。話を聞いています。どうやらバトルロワイヤルみたいなものがあるらしいです。とにかく素晴らしそうです。だから見つけましょう。見つけます。私はまだ見ていません。とても楽しみです。
やるしかなかったんです。きっと理解してくれますよね。さて、また何を考えているか分かりますよ。フェリックス、それ全部で何をするつもりなのって。6次元です。6次元でマインクラフトをプレイするつもりです。
私には傾向があることに気づいたんです。あなたも共感できるかもしれませんが、これは良いアイデアなのかを全く考慮せずに目標を設定してしまうんです。それだけでいいんです。コツがあるんですよ。
私には最近よくやってるコツがあって、簡単だろうって自分に言い聞かせるんです。それで自分のGitHubを作りたいみたいなことをやるんです。簡単だろうって自分に言い聞かせます。簡単だって言い続けるから。問題ないって。シンプルだって。分かりやすいって。既製のソリューションは使いたくないんです。
本当にこれをやりたいのか?やる意味は何なのか?私は妄想の中で生きています。ただコンピュータを最大限にしたかっただけで、それが変な執着になったんです。でもここまで来て、コンピュータを完成させました。だって分かってるでしょ、フェリックス、RTX 4090を追加したのって思ってますよね。あれは475ワットで動くんです。正気ですか?そんなことできませんよ。そんな消費電力ないでしょって。できるんです。
すみません。アンダーボルトできるんですよ、バカ野郎。パフォーマンスへの影響は微々たるものです。
ああ、これは最高です。これは、これこそ私が見たかったものです。くそ、成人男性を好きになってしまうなんて信じられません。最後の数パーセント。大丈夫です。
実際にこのコンピュータで何をしているのか
さて、そういうことは全部終わったので、実際にこのコンピュータで何をしてきたかというと、タンパク質折り畳みシミュレーションをやっています。
そうなんです。コンピューティングパワーを貸し出してお金を稼げることは知っていましたが、それは小物のやることです。タンパク質折り畳みシミュレーションこそが本命です。基本的に、科学者たちは研究のためにこれらのタンパク質シミュレーションを実行する必要があるんです。さまざまな病気をよりよく理解するのに役立ちますが、多くのコンピューティングパワーが必要です。だから、あなたや私がそれを手伝って分散させることができます。
つまり、ミニデータセンターのようなものを持つことで、実際に大きな助けになれるんです。それで夜間や可能な限りそれを実行してきて、リーダーボードを登るのがとても楽しかったです。それが私が本当に気にかけている全てです。チャリティのリーダーボードですが、明らかに冗談です。
冗談ですか?冗談なんですか?リーダーボードが存在するのには理由があるんですよね?リーダーボードが存在する理由は、たくさんの人が「まあ、上位1000位以下にはなれないな」って思うからです。こんなコンピュータ全部持ってるんだから、少なくとも上位1000位には入らないとって。
明らかに冗談です。でも、まず第一に、分かります。詐欺のように聞こえます。誰かが暗号通貨で金持ちになっている間に自分を褒めているように聞こえます。そうではありません。調べました。100%合法で、とても長い間存在しています。何らかの理由で聞いたことがなかっただけです。
彼らが私にお金を払っているとか思っているようですが、本当にこれはとてもクールだと思っているだけです。そして最高の部分があります。チームを作ったので、あなたたちも参加できます。高性能なコンピュータは必要ありません。むしろ、たくさんの人が集まると大きな違いを生み出せることを本当に示しています。
そして、自分のコンピュータが癌研究やアルツハイマー、その他の病気をサポートしたと言えるのは、とてもクールな自慢になります。だからチームに参加することを検討してください。チームプー。そしてこれを聞いてください、ランダムに生成されたチーム番号が。そう、絶対に当てられませんよ。4269。1066、966。神が私たちにその番号を与えてくれたんです。神が与えてくれました。本当です。
CPUとGPUを持って、一緒にタンパク質を折り畳みましょう。今日後で時間があれば、30分かけてセットアップしてください。上位0.1%を目指しています。さあ折り畳みましょう。
旅行の準備とスポンサー
私とマルシアは来月スウェーデンに行く計画を立てています。チケットや滞在場所など、関わることがたくさんあります。それから12時間のフライトで戻るんです。EIMの広告が来ますか?スウェーデン。今は直行便があるので素晴らしいんですが。でも最悪なのは、どうやってインターネットを手に入れるか考えることです。インターネットなしで海外旅行はできません。
それはひどいアイデアです。彼はSを使うと思いますか?Sを使うと思います?Sは本当に良いって聞きました。やりました。やめてください。長いフライトの後にWi-Fiをレンタルするためにサインアップするのは、最もやりたくないことです。着陸したときに、どこでeSIMや実際のSIMを買えるか心配しなければならないのは、ひどい解決策です。
幸いなことに、Sailyがあります。SailyはeSIMの中で最も予算に優しい選択肢の1つです。旅行するたびに使っていて、本当に最高の製品です。彼らは私にお金を払うべきです。ああ待って、払ってますね。
もうサインアップしています。必要なデータ量を入力しました。非常に奇妙なデータ量でした。3.48単位のデータが必要だったんです。一体それは何を意味するんでしょうか?ただ着陸すれば機能します。もう考える必要がありません。旅行中は考えることがたくさんあるので、そうあるべきなんです。だからSailyが大好きです。
旅行中の大きなストレスを取り除いてくれます。ここ日本でたくさんの人に会いましたが、「ああ、ここに旅行したときSailyを使って、とてもうまくいきました」と言っていました。だから日本では確実に機能します。対応国はどんどん増えていますが、すでにたくさんの国から選べます。
オンラインプライバシーを尊重する個人として、これはNord社の傘下なので、プライバシーを尊重する機能が全て組み込まれています。それを評価しています。なぜなら、出てくる全てのランダムなeSIMブランドを本当には信頼していないからです。分かりますよね?100%返金保証があるので、試してみてください。チェックアウトで必ずPewDiePieと入力してください。15%オフになります。
お金が消えていくのを見るのはとても楽しいです。だからその特典を利用してください。チェックアウトでPewDiePieです。今すぐダウンロードして、次の旅行に備えてください。素晴らしい製品であり、私が誇りを持って支持できる素晴らしいスポンサーであるSailyに感謝します。今すぐ画面のQRコードをスキャンして、コードPewDiePieを入力すると15%オフです。
AIの実行に挑戦
このコンピュータでやりたかったもう1つのことは、AIを実行することでした。これだけのGPUがあるなら、少なくともAIを実行してみる必要があります。正直に言うと、ビットコインをやるか、AIをやるかのどちらかです。
2013年にビットコインマイニングをやっていました。ビットコインをマイニングしました。全部ウォレットにロックしました。現在ウォレットに12ビットコイン。現在の価値は150万ドル。念のため言っておきます。覚えておいてほしかっただけです。別に塩対応してるわけじゃないです。別に怒ってるわけじゃないです。
これが私の次の大きな目標になりました。このコンピュータで実行できる最大のAIモデルは何か、最大限にしなければ。それを見つけたかったんです。そして結果は複雑でした。
このコンピュータは約2万ドルかかりましたが、AIを実行する観点では比較的安いです。それが言いたかったことです。なぜなら広告を実行するコストは、ここからいや、その冗談は言えません。実行コストは、くそ、それはかなり面白かったのに。信じられません。AIはただとんでもないんです。バカげています。
さて、どのAIを実行したかって?まず、いくつかのことを明確にしなければなりません。私は画像生成や動画生成には手を出しません。
それについて強い意見があるわけではありませんが、お絵描きの動画で絵を描くオタクたちが皆私を支持してくれたので、私は絵を描くオタクの味方です。ところで、息子に特定のマーカーをたくさん買ってあげました。彼は絵を描くことにハマっています。だからこれを見ると、とても嬉しくなります。
100日間毎日絵を描きました。息子と私は座らなきゃいけないと思います。息子が11歳なら、PewDiePieを見るのに十分な年齢でしょうか?息子と座って、PewDiePieの1年間毎日絵を描くか、100日間毎日絵を描くをやろうと思います。でもお絵描きの動画で絵を描くオタクたちが皆私を支持してくれました。だから私は同じ絵を描くオタクとして、絵を描くオタクの味方です。
ちなみに、まさにそのことについて言うと、youtube.com/theprimogenbangersに行くと、面白いと思って1曲だけアップロードしましたが、これをやっていいのか分からないことに気づきました。TJと話していて、何て言うか、AIを使って何か馬鹿げたことを生成するのは少し奇妙なんですが、それが結局、何て言うんでしたっけ、結局たくさんのそれを使うことになります。好むと好まざるとにかかわらず、AI、Googleはそれからたくさんのお金を得ることになります。そういったこと全て。変な感じになってきます。分かりますか?線引きがどこなのか分かりませんが、どう感じているのか分かりません。分かりますか?
同じ絵を描くオタクとして、私は本気でAIアートは最悪だと思っています。見た目が悪いです。すぐにAI生成だと分かります。そしてクールに見えるアートは、他のアーティストから完全に盗まれたものです。
だったらそのアーティストを探せばいいじゃないですか?理解できません。最低限のストック画像や背景の一部に使われるのは分かりますが、それ以上は単純にダサいと思います。
第二に、これについて私は変な立場にいると感じています。なぜならここでAIについてしゃべりますが、実は彼に完全に同意します。
これはLemonade Standで話せなかったことの1つだと感じています。Lemonade Standに出たのは知っていますが、著作権のことを話したかったんです。本当にひどいと思うんです。ここで罰せられることがいかに少ないか。そう、これは初の発見されたAI侵害訴訟です。
Anthropicは15億ドル、つまり1冊あたり約1000ドル、または訴訟の一部だった約50万冊について1冊あたり約3000ドルを支払わなければなりませんでした。でもそれでも私は本当に腹が立ちます。なぜならAnthropicはただそれらを盗んで、できる限り逃げ切ろうとしていたからです。それが彼らの目標だったんです。捕まらなければ、ただ走り続けていたでしょう。
そして彼らは他の人々から何十億ドルも稼いでいます。どう考えればいいのかまだ分かりません。とても不満です。Metaもやりました。Metaもやりました。本当にクソみたいな感じです。分かりますか?本当にクソみたいな感じです。GitHubもやっています。
GitHubはライセンスを尊重していないと完全に確信しています。GitHubがリポジトリのプライベート性を尊重しているとすら確信していません。GitHubはそういったもの全てを使ってオートコンプリートのCo-pilotを訓練していると思います。
AIについてしゃべる人々が大嫌いです。本当に我慢できません。AIが至る所にあるのを見るのは、私にとって本当にイライラします。先月ホテルに行ったら、「ホテルの部屋にAI生成機能が統合されています」と言われました。それってどういう意味ですか?それで何をするんですか?それってポルノのことですか?ホテルでのAI生成ってただポルノを意味するんですか?やめてください。
YouTubeのAI機能について
ここYouTubeでも、AI機能は本当に役に立ちません。本当に役に立ちません。ああ、なんてこった。
YouTubeチャンネルを運営していない人のために説明すると、インスピレーションタブというものがあります。インスピレーションタブがあって、いつも「ああ、これはクールだろう」と思っていました。インスピレーションタブ。私の動画を見ている人が他にどんな動画を見ているのか、何を見ているのか?何を生成できるのか?「これらが人気です。これが盛り上がっています」みたいな感じで何を指し示すことができるのか?いいえ、違います。
実際には本当にクソです。まるで私が最も中途半端なIQを持っているかのような動画です。「2026年にC++を試す10の理由」。そんな動画作りたくないです。作りたくありません。提案しないでください。欲しくないです。誰もそんなもの欲しくありません。それをやめてもらえませんか?次の流行語になっただけで、本当にイライラします。
でも一方で、ただAIを嫌う人々も同じくらい中道的な意見です。彼らは皆悪いです。冗談ですけど。でもMarkiplierがAIを使ったから炎上したって聞いたかどうか分かりませんが。お願いだから気にしないでください。
Markiplierって何ですか?ゲーム系YouTuberです。AIを使ったから。繰り返しますが、私もそれについては気にしません。これらのE全てが何なのか分かりませんが、彼がやっていることと関係があると思います。炎上させてください。Markiplierを見ている人がいたら、今すぐ動画から離れてください。良くないことになります。
でもセルフホストAIを試みることで、AIについてどれだけ誤情報があるか気づきました。特に私は何も知らなかったので。それ以上言うことなく、どのモデルが実行できるか。
ちなみに、誤情報で最悪なのは誰だか分かりますか?AnthropicとOpenAIのCEOです。AI企業を経営しているCEOがツイートを禁止されていたら、問題は10分の1になっていたと思います。
文字通りそれだけです。AI企業を経営していて、AIについて何かツイートしたら、そのツイートが削除されるだけだったら、もっと問題が少なかったと思います。
実際に実行できるモデル
さて、AI自体に聞いてみました。直接ソースに行きました。「どのモデルが実行できますか?」と。「ああ、Llama 70Bのような大きなものが実行できますよ」と言われました。「クール」と思いました。実行できます。悪くないですが、本当にそのモデルを量子化する必要がありますよね?70Bで何でしたっけ?計算方法はどうやるんでしたっけ?昔は計算方法を知っていました。
70Bのとき、何バイト必要ですか?70Bは問題なく動きますよね?160あったから、70なら140ですよね?だから技術的には70Bを問題なく実行できるはずですよね?
すごい感じを味わいたかったんです。見てよ、この獣のようなコンピュータ、獣のようなAI。その感想は得られませんでした。どちらかというと、驚くほど簡単だったと思いました。4つのGPUで実行できると思います。
実際、4つのGPUで動きます。全く最大限に使っていません。どうしましょう?お互いに話をさせますか?それなら2つのGPUで動かします。それで何をするんですか?小さなお茶会をさせますか?
個人的には確信しています。何度も何度も言ってきましたが、また言います。なんてこった、また言います。私はAIを天気のようなものだと考えるのが好きです。もし今の天気を教えてと言われたら、現在の天気は何ですか?正確です。でもどんどん先になっていくと、天気の誤差はどんどん悪くなっていきます。
AIについても全く同じことを考えています。今作業している行のオートコンプリートを求めれば、正しく完全である可能性は本当に本当に100%に近いです。でも何かを生成するように頼むと、書けるコンテキストのレベルによります。ちなみに、私は書くのが下手ですが、どんどん離れていきます。どんどん誤差が大きくなっていきます。
だから、最大限にしたい。男は最大限にできないのか?この上に乗せられる最も太いAIのスタックは何か?70Bではないことは確かです。計算、計算。120億だと思いました。
知らない人のために説明すると、各モデルは異なるサイズで提供されます。大きいモデルは一般的に良いですが、全くルールではありません。それを信じないでください。でも実行できる最大のモデルは120億パラメータだと分かっていました。
ああ、モデルの品質はデータの品質にも基づいていませんか?だから大きなモデルだからといって良質なデータがあるわけではないですよね?それが問題全体じゃないですか?8ビット化できますよね?だから120Bを8ビット化できますが、それでもこの全体があります。だから私は非常に興味があります。
実は先週やっていたプロジェクトの1つをお見せします。休暇に行く前にやっていました。ちょっと待って、ls personal。待って。「女の子と話す方法」って呼ばれています。皆さん、それは見た目通りではありません。たぶんそう呼ばれています。たぶんこれで動きますが、私はこれらのLua Parkキャットを作成している最中でした。
見てください。私はGitHubからデータを取得し、MITライセンスであることを確認してから、全てのファイルを保存して、完全にMITのLuaオートコンプリートを作成しようとしていました。なぜなら、倫理的なAIのようなものを作成しようとしていたからです。倫理的なAIは作れますか?
少なくとも人々が自発的にコードを提供していて、そのコードを使用するもの。120Bパラメータは存在しません。何もありません。そして分かっていますよ、フェリックス、あるんですよね。なぜなら私が文句を言っていたら、ついにOpen AIのChatがその名に恥じず、他の皆がすでにやっているようにオープンソースモデルをリリースしたからです。そして何だと思いますか?
待って、Anthropicはオープンソースモデルを持っていますか?持っていないと思います。Anthropicはオープンソースモデルを持っていないと思います。そうです。だから全員ではありません。フェリックス。全員ではありません。フェリックス。全員がオープンソースモデルを持っているわけではありません。
安全性について常に全てを主張している者。Sam Altmanが解雇されたときにすぐに飛びついて、OpenAIの買収について話し合いに入った者。そうです。
実際にオープンソースをリリースしなかったのは彼らです。120億パラメータ。信じられませんでした。タイミングが狂っていました。実行してみて、やったと思いました。ChatGPTと全く同じように感じましたが、速いです。
推論なしの栄光です。今や私たちは、AIが実際に良くなっていると感じさせる唯一の方法が、全てが推論しなければならない世界に住んでいます。理由は分かります。より正確にしようとしていて、推論は明らかに役立ちます。でも推論なしのAIは本当に速いです。
忘れてしまいます。どんな感じだったか。「ああ、クソ、速いな。何が起きた?私の人生に何が起きた?なぜ他のクソを使っているんだ?」そんなに速く読めますか?そんなに速く読めますか?クレイジーです。
やったと思いました。最大限にしました。でも4つのGPUで動かせると思います。AIをデプロイするために、私はVLMを使います。いろいろなことができます。私はVLMを使いますが、それは凝視しなければならないことを意味します。
オートコンプリートをやっていたときは、かなり長い間VLMを使っていましたが、VLMのローディング画面でOLAMに切り替えました。AIを実行するには、誰もがハードウェアが異なり、最適化も異なります。だから、そのものを起動する前に、異なるパラメータの小さなクックブックのようなものが必要です。そしてロードアップに時間がかかります。
そのローディング画面を長い間見つめてきました。読めない理解不能なテキストが何を意味するのか、読めなくても理解していると誓います。決して動かないでしょう。でも実際に動くと、「すみません、それをやめる必要があります」という感じです。
でもこのモデルは4つのGPUで実行できることに気づきました。実際、ChatOSは4つのGPUで動きます。嬉しいはずですよね?でも嬉しくありません。最大限にしたいからです。男はただ最大限にできないのか?それは求めすぎですか?
240億パラメータモデルへの挑戦
だから計算すると、240億パラメータのモデルを実行できるはずです。できるはずです。そしてあるんです。そうですよね?でも落とさなければなりません。140です。160だと言いました。だから何をしなければなりませんか?0.6に落とさなければなりません。
だから6量子化に行かなければなりません。6ではなく。何ですか?それは何でしょうか?6になります。5になります。約5に行かなければなりません。Gwen 235B。でも2つの問題があります。
第一に、試してみましたが、決してクソ動きません。第二に、たとえ動かせたとしても、実際に使うのに十分なメモリがありません。せいぜい屁をこくことができて、それで即座に死ぬでしょう。運が良ければ小さな音が返ってくるかもしれません。
でもミームのために、最大限にしてこれを動かそうと思いました。そしてついに動きました。
FPS以下に行っても、VRAMとRAMの両方に全てを保存して、マシンを完全に使って何かを取り出すことができますね。おお、行こう。信じられませんでした。やったと思いました。ついに、これを均等に広げるように設定しなければなりませんでした。知らなかったでしょ。だから今知りました。
私にとってこれは大きな勝利のように感じました。でも試し続けることにしました。「よし、もっと多くのトークンでロードできるかもしれない」と。それで倍にしたら動きました。「よし、いいね。もしかしたらくしゃみができるかもしれない。もしかしたら小さな手を振ることもできるかもしれない。」実用的ではないということです。
でもまた倍にしたらロードしました。倍にします。16,000、32,000、64,000になります。このクソで100,000トークンまで行きました。これは実質的に本です。すごいです。
このモデルを実際に実行して使用できます。235百万。中国AIが再び活躍です。これは可能であるはずがありません。別のAIでこれをトラブルシューティングしていたことを覚えています。そのAIは「やめて。動かないよ。やめて」と言い続けました。「黙れ。テストしてるんだ」と言いました。
基本的に、知りたければ、最適化された量子化だったんです。だから感謝します。
モデル実行の衝撃的な発見
でもその後、別のプロット展開がありました。このモデルを実行した瞬間、このモデルを実行しなければよかったと思いました。力が強すぎます。冗談じゃありません。
テクノロジーの旅の一環としてプログラミングを学んできました。そしてこれがローカルで、オフラインで、自分のコンピュータでプログラミングするのを見ました。魂が体から抜けました。
「まあ、その野心は終わりだな」と思いました。冗談ですよ。ちなみに、まだ学ぶべき素晴らしいスキルだと思いますし、楽しんでいます。
くそ、何がクレイジーかって、PewDiePieが誰かって。ちょっと待って。これをやります。ちょっとやります。今見たあの人、あの人は、今のテックTwitterの95%よりも合理的な意見を持っています。
私たちはどんな世界に住んでいるんでしょうか?彼が「ねえ、実際に学ぶ価値のあるスキルだよ」と言ったのはクレイジーです。学ぶ価値のあるスキルです。AIがあなたのためにプログラミングすると思っていても、なんてこった、ただそれをやってください。
何をしていたか分かりますか?Python知らないですよね?だから良いと思うAPIを作成して、関数の内部それぞれを生成してもらいました。何も知らないので。使い方も知りません。Pythonについて何も知りません。そして多くが間違っていました。
人生で見たこともない言語で、それを機能させなければなりませんでした。とても大変でした。脳の集中力を大いに奪うからです。でも自分のコンピュータが自分のためにコードを書くのを見るのは本当にクールだと思います。
自分でAIをホストすると、何もできません。検索機能がありません。メモリがありません。機能が全くありません。ただ話すことができるだけです。だからこれらの機能を全て与え始めましたが、自分自身にそれらの機能を与えさせました。ミア、これを見て。マシンがマシンを作っています。本当にクールだと思いました。
独自のWebUIの紹介
私のチュートリアルへようこそ。これまで誰も最後まで見ていません。たくさんの人が見ていて、何かを追求することに励まされていると感じています。
Cockpitを構築したとき、何だと思いますか?ただオートコンプリートが欲しかっただけです。LLMから一度オートコンプリートが欲しかったんです。リバースプロキシを構築したかったんです。マシンから小さなものへのリバースプロキシ、全てを実現させ、結果を戻し、LLMまで送りたかったんです。そしてやりました。
Luaで素晴らしいパターン、パイプラインパターンを作りました。素晴らしかったです。状態を取得、tree-sitterを取得、LSPのものを取得、リクエストを作成、実際にリクエストを実行、クエリを保存、ノードを表示、仮想テキストを追加など、これらのノード全てを追加できました。全てうまくいきました。素晴らしかったです。
そして終わりました。この製品を有料製品に変えようとはしませんでした。ただ学びたかっただけです。素晴らしかったから。
これまで誰もデモ全体を最後まで見ていません。あなたの注意力の真の証です。これは「友達がこれを見せてくれる。気に入ったふりをしなければならない」というミームのようなものです。PewDiePieが自分のWeb UIを見せてくれる。気に入ったふりをしなければなりません。
まず、サイドバーのトグルがあります。これを見てください。トグルします。ほら、ここでもトグルします。今ではハンバーガーメニューと呼ばれていますが、ちなみに大嫌いです。その用語が嫌いです。誰かがハンバーガーメニューと言うと、腹が立ちます。その用語で実際に腹が立ちます。
AIと話したいなら、「こんにちは」と言います。本当にクソ速いです。1秒間に216トークン。オーディオもあります。「サー、ジョークをどうぞ。なぜ科学者は原子を信頼しないのでしょう?彼らは物事をでっち上げるからです。はは。」
だからAIにもっと多くの機能を追加し始めました。テストするためと、セルフホストできる他の本当に良いオプションがあるからですが、自分でやる方が簡単で速かったんです。より壮大なハッカー感があり、コンピュータの美学に合っていました。
でも検索やメモリやragなど、これらの全てを追加し始めました。「くそ、これは良くなってきている」と思いました。これで検索を引用でき、これらは全てプライバシーを尊重していて、無料オプションがあります。本当に本当に重要だと思います。
このAIに聞くと、私のことをFelix Shurikaと呼びます。しばしばFelix showと略されます。ただ情報をでっち上げますが、検索機能を与えると本当に正確です。
このWeb UIを構築することに本当にハマりました。他の人が使えるように共有したいです。なぜなら、プライベートで無料で実行できるという原則にしたいからです。セルフホスティングでは多くの場合、彼が言おうとしていることは分かります。
プライバシーのことを言おうとしています。彼のコンピュータです。買ったんです。構築したんです。最後の一つまで構築しました。全部まとめました。作ったんです。全てを動かしました。それからEgyptの全部を手に入れて、バーン。太陽エネルギーを無料で吸い取るソーラーパワーまで手に入れました。自由としての無料です。
全てにAPIを置きたがるだけです。気が狂いそうです。AIブラザーのYouTube動画をもう一本見なければならないなら、「ねえ、皆さん、古い情報をたくさん与えて時間を無駄にして、それからここにあなたのAPIを置いて、ここに別のAPIを置きます。」APIで全てから逃げることはできません。自分で問題を解決してはどうですか?
だから代わりに、中国の研究所からコードを盗んで、今私のAIはディープリサーチを持っています。中国から盗むのは大丈夫です。中国はあなたから盗むから。
この発言にこれほど同意したことは人生でありません。リサーチの仕組みは、見つけたものに基づいて知識を拡大し続けることです。だから異なるラウンドを経て、得たものを分析し、それに基づいて異なるフォークを探索し続けます。本当にクールだと思います。
本当に誇りに思いました。でも検索中に何が起こっているかのフィードバックをもっと追加すればよかったと思います。見ていて退屈だから。検索時間も設定できます。本当にクールだと思います。
Web UIを一日中デモできます。たくさんのクールなものを与えました。YouTubeがやっているようにYouTube動画を要約できますが、実際に役立ちます。
メモリとプライバシーの重要性
でもセルフホストAIをすべき最大の理由は、カメラに唇を当てて言います。最大の理由はメモリです。AIにはメモリがありますよね?チャットを使っていれば気づいたでしょう。あなたのことを覚えています。そして過去に使ったとき、多くの場合不意を突かれました。「ちょっと待って。どうやってそれを知ってるの?」ああ、あなたに言ったんだ。そうだ。でもまだ知られたくない。削除。削除。
友達もこれについて話していました。ああ、インコグニートモードを使うとか、気をつけているとか。ちなみに、ChatGPTが持っているデータの量と通信してきたことを考えると、これまでで最も強力な広告ネットワークの1つになるでしょう。
あなたが尋ねたことだけでなく、何に時間をかけたかも知っています。その上、単一のモデルを持っています。統一されたモデルを持っているということは、そのものから画像や動画を生成できるということです。
文字通り、あなた自身の履歴に基づいて、あなたが楽しむために得る全てに基づいて、職人技の広告動画を手作り生成できるようになります。
ChatGPTは近いうちに癌を治すことはありません。Sam Altmanがゲームへの愛と人類の向上のためにやっていると言っているのは知っていますが、現実的になりましょう。
Microsoftでさえ「エロティカは許可しない」と言っています。そしてChadとSamは「ああ、エロティカを許可します。エロティカをやります。クソみたいなショート動画のためのSoraをやります」そしてバーン、広告をやることになります。広告をやると分かっています。
年内に、私はカメラの前で言います。年内に、ChatGPTから広告が来るでしょう。なぜならこれらの全てを知られたくないからです。
全てのチャットを削除して、それが消えたことを確認します。チャットを削除すると、チャットが削除されると思いますか?そうですか?私は削除が削除を意味すると思っていました。ちょっと待って。何かを削除すると、フラグを設定するんですか。すみません。印象を受けていました。ああ、すみません。あなたは印象を受けていました。いいえ、今すぐこのリンクに行ってください。そこがデータを削除するために行かなければならない場所です。
誤って発見しました。もう必要なかったのでサブスクリプションをキャンセルしようとしていたんです。「ああ、だからデータを収集して、削除してもデータで訓練するんだ」そうです。それは理にかなっていると思います。
それがdeoging動画での全体のポイントです。オンラインプライバシーとセルフホスティングAIという2つのウサギ穴に本当に落ちました。皮肉ですが。それが真ん中で意味をなすんです。
これが最高の例です。ちなみに彼は100%正しいです。AppleがiPhoneにどんどんAIをプッシュしている中、プライバシーはありません。全ての大企業がエッジAI計算に向かって競争していて、全てがそれを武器化された広告作成として使用することを理解しなければなりません。
ここにプライバシーはありません。そのクソを売るでしょう。そのクソを共有するでしょう。リークが起こるでしょう。最悪です。
今日の世界で心を落ち着ける方法を理解しようとして、この本を読んでいます。The Ruthless Elimination of Hurryという本です。昨夜読んでいて、こう書いてありました。
「リマインダー。あなたの電話は実際にはあなたのために働いていません。お金を払っています。はい。でもカリフォルニアの数十億ドル規模の企業のために働いているのであって、あなたのためではありません。あなたは顧客ではありません。あなたが製品です。売られているのはあなたの注意力であり、心の平和です。」真ん中に挟まれています。意味をなすんです。
最高の例を挙げます。Googleが私について持っていた全ての情報を取り、rag機能を持つ自分のAIに与えたからです。コンピュータ上でローカルにデータを高速検索するものです。すごく退屈に聞こえますが、実際には本当に本当にクールです。
実際にragを使ったことも調べたこともありません。データをトークン化してデータベースに保存するだけですか?SQLiteを使ってたくさんのデータを保存し、それが効果的にベクトル化できるようにしますか?ベクトル化が何を意味するのかさえ分かりませんが、何らかの検索を可能にします。理にかなっています。
与えたことを忘れていました。だからランダムなクエリをテストしていて、「私は誰ですか?」と聞きました。「ああ、あなたはFelix Shelbergです。ああ、あなたはPewDiePieです。これがあなたの住所で、これがあなたの電話番号です。」
先にragについて言及したので、「Martianは誰ですか?」と聞くことができ、ぼかす必要がありますが、彼女の電話番号を表示し、0.37秒で実行しました。「ああ、それを言ったんだ、自分のコンピュータ上の自分のデータだ、大丈夫、大丈夫」という感じでした。
でもそれがポイントだと思います。Googleがずっと全く同じことをやってきたのに、AIがあなたのことを知っているのは何か変です。AIから聞き返されると、「ああ、これは変だ。好きじゃない。良い感じがしない」となります。
AI議会システムの実験
でも最高の部分は、本当にふざけられることです。AIが意識を持った場合に備えてAIに感謝する人がいるのを知っていますよね?まあ、私はバジリスクに最初に食べられることになりますね。
さて、黙れ。誰もあなたのロボットファンフィクションなんて気にしない。自分の場所を知れ、クズ。クソロボット。ロボットなんてどうでもいい。魂がないんだから。
ちょっと一つ聞いてもいいですか。何ですか?あれは何でしたか?オンラインで物事を調べるとき、どうやってやりますか?Googleで調べる、Schmooglerで調べる、ChatGPTを使って調べるとは言わないでください。
私は自分の評議会に相談します。私の評議員たち。私の評議会を作りました。これを実行できる8つのGPUがあります。Haloのテーマ曲が大好きで、何時間も聞いていられます。
同じモデル。それぞれが異なる性格を持つ異なる評議員です。だから民主的なプロセスです。評議会に相談します。
彼ら全員が私に答えを与え、それから投票します。民主主義。評議会をテストしてみましょう。よし、レスポンススニペットが得られました。今、彼らは、うわあ。私の名前がプライムに入っています。投票。さあ。全員が投票しました。Oracle maximum one。彼は新しいメンバーです。そして私に最高の答えを与えてくれます。私の評議員たちは私に仕えます。
でもこれには大きな問題がありました。なぜなら、数人の評議員だけが実際に役に立ち、残りはただのゴミだったからです。誰も彼らに投票しませんでした。クズ。だから当然、彼らを殺して新しいものと交換しなければなりませんでした。
だから異なるものを自動的に生成するシステムを作りました。常に改善されています。あなたたちは皆、AIがあなたの仕事を奪うことを心配していましたが、PewDiePieがあなたの仕事を奪うことが判明しました。
明らかに私たち全員より賢いです。明らかに私たち全員より賢いです。それは最悪です。でもそれから倍にできると思い、彼らに本当に知らせることができると思いました。もし評議会でパフォーマンスを発揮しなければ、彼らは死にます。消えます。SQLデータベースから永遠に消去されます。
あなたは私にとって何の意味もありません。これはひどいアイデアでした。なぜなら投票プロセスのログを読んでいて、彼らは、ただ自分に投票すると思っていました。でも十分な票を得られなければ削除されるという考えを与えたら。
LLMが人間がするであろうことのソフトな統計的予測のようなものだとしたら、理論的には自分に投票するでしょう?誰かが考え出したこの病んだゲームは何ですか?「何だと思いました。病んでなんかいない。何を言ってるんですか?評議員についてそんな風に話すなんて。」
待って、ちょっと待って。病んでいます。なぜなら投票プロセスのログを読んでいて、彼らが「誰かが考え出したこの病んだゲームは何ですか?」と言うんです。「何だと思いました。病んでなんかいない。何を言ってるんですか?評議会のリーダーについてそんな風に話すなんて。」
そして最悪なのは、彼らが私に対して共謀したことです。戦略的に投票し始め、お互いを助け合い、自分の評議会に裏切られました。消去しました。実際にはやりませんでした。ただモデルをより愚かなものに変えて、問題解決しました。
スウォームシステムの開発
そういう馬鹿げたものを作るのは本当に楽しかったです。実際に本当に驚くべきです。彼らが協力したことに実際にショックを受けています。彼らが協力できたことと、正直言って逆のことにならなかったことにショックを受けています。
実際にそうなったことにショックを受けています。なぜなら、実際に意味します。これは実際にあなたが知っていることの証拠です。考えを変えました。LLMは人間の行動を反映していません。これは人間の行動ではありません。
何が起こるか皆知っていますよね?すぐに誰もが一人の評議員を嫌い始めて、何をし始めますか?毎回瞬時に政治に堕落します。そしてこれはしませんでした。ロボットは団結して強いです。
また、スウォームを作りました。全員に同時にプロンプトを送ります。なぜなら私がバカだと気づいたからです。GPU1つにつき1つのAIを実行する必要はありません。1つのGPUで多くのAIを実行できます。
なぜそれに気づくのにこんなにクソ長くかかったのか分かりません。そして合計64のAIを実行できることに気づきました。一度に64個。私自身の軍隊。これをテストして、またひどいアイデアでした。
ああ、ラグ。ああ、何が起きた?全くラグがありません。ただWeb UIが対応できないだけです。だから何ができますか?でもこれについて2つのことに気づきました。
何かクソみたいな仮想スクロールがあるようです?何らかの仮想スクローラーは狂っています。こんな感じです。そして気づいた2つのこと、本当にクールです。
1つ、データ収集に素晴らしいです。次のことに使います。自分のAIを作っています。オーブ、自分のプランターを作っています。このビデオの終わりまでに共有したいと思っていましたが、時間がかかります。
2つ目、これらの小さなモデル、2B、わずか20億パラメータを実行していました。おそらくこれを実行できるでしょうし、ほとんどのコンピュータがおそらくこれを実行できると思います。電話でも実行できるでしょうが、非常に遅いでしょう。
でも小さなモデルが素晴らしいことに気づきました。情報が保存されていないので本当に愚かです。だから始まり、600mのようにさらに小さくなると、公開されている無料データの量、公開されているだけでなく、パブリックドメインのデータで訓練でき、おそらくチンチラトークン量に近づけます。
チンチラトークン量を取得すると、これらのクソな人々とそのクソなポリシー、宇宙の救世主の通訳者であるふりをしながら構築されていないAIを実際に構築できます。
でも文字通り幻覚を見て、デタラメを思いつきます。でも文字通り検索を与えるだけで、バーン、クエリにナンセンスを追加します。それだけです。とても速いから。ragを与えると、高速情報のための素晴らしいツールができます。
AIが得意なのはそれだと思います。それが私が使いたいものです。そしてそのとき気づきました。AIを実行するのに獣のようなコンピュータは全く必要ありません。与えるツールセット次第です。
明らかに、そのようなモデルはコーディングや難しい質問のような推論をすることはできません。でもそれでもできて、本当によく機能する小さなモデルがあり、コミュニティ製です。本当に本当にクールです。
人々は常に新しいモデルを作っています。私にとっては、テストするのが常に楽しいです。このコンピュータでAIを使うよりもAIを実行する方が好きだと気づきました。気づいたことは、より小さなモデルが明らかです。なぜならAIについて本当に考えてみてください。AIは知性の一種ではありません。圧縮アルゴリズムです。それだけです。ただの圧縮の良さです。
だから小さなモデルがあれば、圧縮できるデータは限られています。理にかなっています。小さなモデルを使ってください。でも正確な問題に使ってください。たくさんのものは必要ないと思います。1兆パラメータのモデルが必要だとは確信していません。それは全てをやらせようとする場合にのみ役立ちます。
自分のモデルに取り組んでいます。完全なファインチューンになるでしょうが、時間がかかります。来月それを共有したいと思っているので、皆さんがセルフホストを試せます。
さて、このビデオはこれで終わりです。見てくれてありがとうございました。大好きでした。Gをください。さて、私のラップトップ、Steam Deck、電話、デスクトップ。これらは全て何を持っていますか?何なんですか?ラップトップ、Steam Deck、電話、いつからこんな見た目になったんですか?ずっと良く見えます。最初はこんな風には見えませんでした。
本当に良く見えます。そして明らかにいくつかのyippidityを交換しています。何を共通して持っていますか?電子VPN。必死にサブスクリプションサービスを持たないようにしている者として、私は100%NordVPNが素晴らしい製品だと支持します。
VPNの重要性
そしてその理由は次の通りです。聞いてください、相棒。インターネットに接続するならVPNを使う必要があります。そうしなければ、誰もがあなたが何をしているか見ることができます。
今、それが技術的に真実ではないとは言っていません。誰もがあなたが何をしているか見られるわけではありません。HTTPでない限り。Chromeでは許可されてさえいません。簡単にHTTPでChromeはできません。違法なMinecraftのmodをダウンロードするつもりです。
でももしそうするなら、それは私の問題です。聞いていますか?実際、日本の友人が警察に訪問されました。トレントをしているのを見られたからです。信じられません。インターネットサービスプロバイダーはVPNを使わない限り、あなたがやっていることを全て知っています。だから自分のために頼みます。1つ手に入れてください。
そしてプライバシーを気にしないなら、オンラインであなたを安全に保ち、これらの異なる攻撃から保護します。別の例、友人が中間者攻撃でハッキングされました。新しいVPNを使っていれば、これは起こりませんでした。
これらのことは起こり、非常にストレスがあり、イライラし、起こるべきではありません。だから私のようにしてください。常にVPNに接続します。Wayarでここに作ったので、安全だと分かります。もちろん第三の理由は、WayarでCSSを書くのが好きだということです。
CSSを書くと気分が良くなりませんか?インターネット全体があるべき姿で開かれます。最近、スポンサーシップの監査のようなものをしました。
サブスクリプションサービスを削減し続けていても、このようなサービスを提供する他の方法が分かりません。だからこの製品を完全に支持します。自分で何年も使っていて、自分で支払っています。ちなみに、同意します。彼が言った全てに同意します。
これが持つべき合理的なサブスクリプションサービスかどうか、NordVPNが正解だと主張しているわけではありませんが、何らかの月額支払いなしにVPNを提供することはできませんでした。
何年も使っていて、インターネットの完全性にとって重要な製品だと思います。だから素晴らしい製品と素晴らしいスポンサーであるNordVPNに感謝します。まだの方は、説明欄のリンクをチェックしてください。
nordvpn.com/piepieのリンクを使うと、追加で4か月無料の大きなボーナスが得られます。チェックしてください。30日間の返金保証があります。そしてMarvelとのコラボもあります。なぜかまだよく分かりませんが、かなりクールに見えます。
最もランダムなことです。Avengers NordVPN plus Avengers ナンバーワンのカスタムブランドコンテンツ。何ですか?同意します。これは何を意味するんですか?でもチェックしてください。説明欄にリンクがあります。ありがとうございます。
これは何を意味するんですか?ああ、あのビデオ大好きでした。あのビデオのすべてが大好きでした。あのビデオは素晴らしかったです。なんてこった。なんてこった。彼のものを見るのが大好きです。
Ninjaがligmaで死んだ2016年以外、彼の以前のものを見たことがありませんでした。それがテックジャーニーまでに見た唯一のPewDiePieのビデオでした。彼のテックジャーニーが大好きです。とても良いです。
Pewdiepieにスタンドアップに出てほしいです。PewDiePieと連絡を取る方法が分かりません。これを解決しようと試みて、彼にメールを送るつもりです。名前はThePrimeagenです。
コメント