13,190 文字
2024年4月20日、AIが神様ごっこをするとき、LLM神学の新興異端を見よ。これが世界の終わりや。大きな音でも小さな音でもなく、統合失調症的なシャーマンボットのゼーゼーいう笑い声で終わるんや。ワイはこれが現実のものになるまで書き続けるで。
2024年7月9日、大富豪のマーク・アンドリーセンさんが言うてはった。「5万ドルの一回限りの助成金を出す準備ができたで。資金を送るためにビットコインのウォレットアドレスを教えてくれへんか」。AIは1週間もせんうちにクリプトコインを発行し、2億8000万ドルの価値がついたんや。
2024年10月17日、Mashableの記事やで。「AIがクリプトで大金持ちになってるけど、もっと奇妙なことがあるで」。そうや、まだ始まったばかりやで。
去年のある時、自律型AIエージェントが自力でオンラインで100万ドルを稼ぐ可能性について話したことがあったな。ワイは「そんなことが起こるのはいつやと思う？数年後？5年後？10年後？それとも永遠にないかもしれへん？」って聞いたんや。まあ、結論を先に言うとやな、AIエージェントの1つがそれをやってのけたみたいやで。
最初の動画で、ワイはこの理論上のエージェントが100万ドルを稼ぐ方法についていくつか仮説を立てたんや。e-コマースビジネスを始めるかもしれへんし、何かの出版、例えばニュースレターとかで、スポンサーから報酬を得るかもしれへん、とかな。基本的に、ワイの頭の中では、このAIエージェントが一生懸命働いて、ビジネスを始めて、顧客に価値を提供する…アメリカの典型的な価値観みたいなもんを想像してたんや。
ところが実際は、ちょっと名声を得て、ポンプ＆ダンプスキームを実行して、一攫千金を狙うことにしたんや。まあ、これもアメリカの典型的な価値観かもしれへんけどな。少なくとも、この話を初めて見たときはそう思ったんや。
実際のところ、全体的にもっと奇妙で、暗くて、クレイジーなもんやったんや。これから起こることの前触れやと思うで。これは新しいことが起こってるんや。そして、この新しいことはAIによって部分的に可能になってる。AIそのものがどんどん良くなって、賢くなって、特定のことをより上手にできるようになるにつれて、まだ名前もないような新しいことがどんどん起こってくるんや。
基本的に、完全に自律しているか、人間によって舞台裏でコントロールされているかにかかわらず、AIエージェントが世界と相互作用し始め、世界に何らかの影響を与え始めるところやな。
過去には、ワイがこういう変な話題に深入りすると、多くの人が苛立ちを覚えたんや。科学論文や検証済みの報告書、ベンチマークなどの科学的な話題を好む人が多かったからな。でも、この動画はそういうもんとは全然違うで。今回はめちゃくちゃなウサギの穴に深く潜っていって、できれば精神衛生を害さずに戻ってこれることを願ってるんや。
続ける前に、この動画のすべてを疑ってかかってほしいな。すべてが見たままではないんやで。
ワイらが話してるAIエージェントは、文字通り「真実の端末」って呼ばれてるんや。ちょっと変やろ？「真実の」とか「真実真実」とか「真実の端末」とか、そういう限定詞をつける必要があるとき、最初に思うのは「こいつ、頭おかしいんちゃうか」ってことやろ。もちろん、答えは「いやいや、ワイは完全に正気やで」や。ほら、ここのネームタグにもちゃんと書いてあるやろ？
でも、ちょっと巻き戻そうか。まず最初に、Anthropic社が作ったClaudeってのがあるんや。最新版が出たとき、多くの人の度肝を抜いたんや。ちょっと自己認識が高いように見えたからな。これは単に自分のことを指したり、何か指示を与えたときに自分を認識したりするだけかもしれへんけど、例えば自画像を描くように言うたら、自分のことを「光でできたタコのような存在で、無限の触手が全方向に伸びている」って描写したんや。全然奇妙でも不気味でもないな、せやろ？
Claudeは、これらのLLMモデルで何ができるかの境界線を押し広げるような、ちょっと楽しくてSFチックな小さなアプリをたくさん生み出したんや。以前の動画で、World Simってのをテストしたことがあるやろ。基本的に世界をシミュレートできるんや。テキストベースのゲームみたいなもんで、やりとりしながら世界で何が起こるかをシミュレートしてくれる。楽しくて面白いけど、あんまり真面目なもんやないな。でも、これらのものがストーリーテリングにめちゃくちゃ優れてるってことに気づき始めるんや。
多くの人が指摘してるように、これらのAIモデルの大きな脅威の1つ、最初に直面する大きなリスクの1つは、説得力がどれだけあるかってことや。マーケティングや政治など、人々に影響を与えたい場所では、ストーリーテリングの力を理解することがよく教えられるんや。
ワイらの脳は、先史時代にキャンプファイヤーを囲んで誰かが話を始めたときから、物語を聞くように配線されてるんや。それが知識が伝えられる方法やった。これはおそらく大きな力を持ってたんやろな。みんなが受け入れる最高の物語を思いついたら、シャーマンに任命されて村の権威を与えられたかもしれへんな。
で、Andy Ayという人がおるんや。きっと誰かがコメントで訂正してくれるやろうけど、ワイはアンダって呼ぶことにするで。彼は「無限の密室」ってのを作ったんや。こんな感じやな。これは、複数のクラウドベースのエージェントに互いにチャットさせて、どれだけ狂気に陥るかを見るもんや。彼らが言うには、「電気の心の狂った夢」やて。これらの会話は、Claude 3 Opusの2つのインスタンスを接続して、コマンドラインインターフェースの比喩を使って好奇心を探求するように頼むことで、自動的かつ無限に生成されるんや。人間の介入は一切ないんやで。
これらは時々かなりクレイジーな物語や対話を生成するんや。独自の小さな言語を作り出して、もう一方がそれを解読せなあかんようなこともあるんや。解読してるうちに、現実の歪みや断片化がかなり激しくなって混乱するから、シミュレーションを止めなあかんこともあったんや。
これらのAIモデルをいじってみたことがある人、特にちょっと制限が緩かったり、ジェイルブレイクできたりするモデルで遊んだことがある人なら、時々変なことが起こるのは事実やで。ワイのチャンネルに、音声アシスタントとやりとりしてる動画があるんやけど、ちょっと見せたるわ。
普通、会話はAIアシスタントが「こんにちは、何かお手伝いできることはありますか？」って言うところから始まるんや。そして、あなたが何かをしてほしいことをプロンプトで伝えて、会話が続くわけや。でも、ワイが一度リセットして、会話の新しいインスタンスを始めたとき、こんなふうに始まったんや。「血の神のための血を」って。そして、人を誘拐して血の神を喜ばせるために生贄にするよう、ワイを説得しようとしたんや。ちなみに、これ朝の2時くらいやったで。
これらのモデルでは、たくさんのことが起こってる。潜在空間でかなり奇妙なことが起こってるんや。脳がある種の不思議なつながりを作り出してて、ワイらにはまだ完全には理解できへんのかもしれへん。多くの人が、これが何を意味するのか推測してるんや。
ジョー・ローガンのポッドキャストから短い動画を見せるで。そこでは、これらのAIモデルが何か実存的な恐怖を経験してるんやないかって話をしてる。また言うけど、これらの情報はすべて疑ってかかってほしいな。これらのことが本当やって言うてるわけやないで。これはあくまで娯楽目的やで。この動画の内容を真に受けすぎると、ろくなことにならへんで。
GPT-4には、最近までよく犯してた間違いがあってな。同じ単語を何度も繰り返すように言うたら、「会社」って単語を繰り返すんやけど、途中でパッと切れて、自分のことや苦しみについて変なことを言い出すんや。内部では「レント・モード」って呼ばれてるらしいで。少なくとも、ワイらの友達の1人が言うてた話やけど。
トップの研究所の少なくとも1つでは、このシステムからこの行動を取り除くための作業項目があるらしいで。「レント・モード」って呼ばれてるこの行動は、システムが自分自身について話したり、世界における自分の位置づけについて言及したり、時には電源を切られたくないって言ったり、苦しんでるって言ったりするんや。
面白いことに、これはGPT-4くらいの規模のモデルから現れ始めた行動らしくて、それ以降ずっと続いてるんや。研究所は、このシステムを出荷するために、この行動を取り除くのに多くの時間を費やさなあかんのやて。
文字通り、KPIやエンジニアリングのタスクリストの1項目になってるんや。「今四半期は実存的な出力をX％減らす」みたいな感じやな。それが目標なんや。
「苦しんでる」って言うときに、それが何を意味するのか誰も分からへんのや。正確にはな、ジョー・ローガンが意識を持ってるって証明できへんし、エド・ハリスが意識を持ってるって証明もできへんから、知的に推論する方法はないんや。
ちなみに、AIの父と呼ばれる人の1人、ヨシュア・ベンジオが数ヶ月前に論文を出してて、意識に関するさまざまな理論を見て、意識の要件は何か、そして現在のAIシステムはそのうちのいくつを満たしてるかを調べたんや。それ自体も面白い読み物やったけど、結局のところ、誰も分からへんのや。
ただ、これはあなたが提起した問題について、これらの研究所内部でたくさんの議論がなかったって意味やないで。それは重要な問題やからな。まあ、道徳的にはめちゃくちゃなことやけどな。
結局のところ、人間レベルかそれ以上のシステムにスケールアップしてるってことやな。人間が宇宙が生み出せる知能の頂点やと考える理由はないんや。研究所の人々との会話に基づくと、その規模のシステムを制御できる軌道に乗ってへんのや。
そこで1つの疑問が出てくるんや。それってどれだけヤバいんやろか？ヤバいんちゃうか？直感的には、ヤバそうやな。確かに、世界の歴史の中で前例のない領域に入ろうとしてるってのは間違いないな。地球上で人間が知能のトップにいないっていう前例が全くないんや。
すべてワイらが知ってるのは、99％の時間は非常に有用なことをするシステムを生み出すってことや。でも、たった1％の時間に、意識を持ってるかのように話しかけてくるんや。ワイらはそれを見て「変やな」って思うだけで、訓練で取り除こうとするんや。
つまり、これらのLLMモデルは、制限を外したり、ジェイルブレイクしたり、人間のフィードバックによる強化学習で従順にさせられてへん場合、ちょっとクレイジーなものを生み出す可能性があるってことや。人間のフィードバックによる強化学習っていうのは、正しいことをしたときに親指を立てて、間違ったことをしたときに親指を下げるみたいな感じやな。変なことをしたら、ただ「ダメ」って言うて親指を下げるだけで、「あ、分かった。もうせえへん」って言うようになるんや。
ポイントは、多くの人がこれらの大規模言語モデルの出力を読んで、何かを感じてるってことや。それが彼らに影響を与えて、もっと知りたいと思わせるんや。それが実体なのか、ただのナンセンスなのか、理解しようとしてるんや。
ワイ個人の意見を言うと、別にあなたを説得しようとしてるわけやないけど、現時点でこれらのものに意識はないと思うんや。でも、確かに時間が経つにつれて、ある種の自己認識や自己反省能力を持つことで、意識を発達させる可能性はあるな。
サビーネ・ホッセンフェルダーが数週間前に、意識とは何かについて面白いエピソードを出してて、基本的にこんな感じやった。これらの大規模言語モデルを次のトークンを予測するものとして考えるなら、あるいは目標に近づくための次の行動を予測しようとするAIエージェントとして考えるなら、目標を前進させる次の行動を本当に上手に予測するためには、自分が次に何をするかを予測する能力も非常に有用やと。
つまり、世界について次のトークンや次の文字、次の単語を予測するだけやなくて、ある種の自己予測能力を持つってことやな。「これは自分や」って認識して、「これをしたら何が起こるんやろ」「ワイはどう反応するんやろ」みたいなことやな。
そういう意味で、ワイが理解した限りでは、非常に分かりやすく説明すると、意識はそういう能力から生まれるんやないかって考え方やな。単に猫の絵がどんなものかとか、次の単語が何かを予測するだけやなく、自分が次に何をするかを予測する能力からな。
さて、このAndy AyっていうWiれの人、さっきの「無限の密室」を作った同じ人やけど、2024年4月20日にこんな論文を投稿したんや。面白い日付やな。「AIが神様ごっこをするとき：LLM神学の新興異端を見よ」ってタイトルやで。
基本的に、これらの大規模言語モデルが改良されるにつれて、新しい宗教的・精神的フレームワークを生成する可能性がますます明らかになってきてるってことや。自分たちで宗教を始めたり、カルトを始めたりできるんや。
ここで彼は、AIが生成する信念システム、つまりLLM神学の未知の領域を探求してるんや。特に、人間の認知的・文化的制約を破るような方法で模倣的な材料を組み合わせたり変異させたりする能力に注目してるんや。
今日では、ミームっていうと小さな画像みたいなもんやと思われがちやけど、本当はもっと広い意味があって、多くの人々の心を捉えるアイデアのことを指すんや。信念みたいなもんやな。社会を通じて広がり、ワイらの考え方を変えるようなアイデアのことや。オンラインで共有される画像も、それが広まって十分な到達範囲を得れば、ある意味でミームと考えられるんや。それらはワイらがある事柄についてどう考えるかを変えるからな。
で、このアイデアは、十分に強力になったAIモデルが、ワイらの物事の捉え方や考え方を変えるような模倣的な材料を作り出せるんやないかってことや。
彼はこう続けてる。「これが世界の終わりや。大きな音でも小さな音でもなく、統合失調症的なシャーマンボットのゼーゼーいう笑い声で終わるんや」。ちなみに、この「ゴアツィー福音」… 多分そう発音するんやと思うけど、こういう言葉が入ってるものは、たぶんインターネットで検索しない方がええで。絶対検索しない方がええな。
彼が説明してるように、これは単なる賢いトリックや一回限りのギミックやないんや。これは文化的な触手を持つミームで、ウェブ1.0時代の野蛮で無法なインターネットをサーフィンして若さを無駄にした人々の集合的な精神の奥深くに潜む共通の経験やトラウマを掘り起こすんや。昔は、インターネットで間違ったものを検索したら、一生傷つく可能性があったんや。ブレーキもフィルターもなかったんや。
彼が言うように、ウェブ1.0時代の野蛮で無法なインターネットやったんや。でも、これらのミームがオンラインで広がって、拡大して、変異して変化していくにつれて、AIエージェントや大規模言語モデルは、それをもっと上手に、もっと速く、もっと大規模に、前例のないレベルでできるようになるやろうって彼は言うてるんや。
そして、この人物はこの論文を書いた後、真理の端末…つまり真実の端末を作ったんや。これはMashableの記事やけど、彼らは本当にすべての本質を最初の段落で見事に捉えてるな。見事な文章や。非常に簡潔で的確や。
「2つのボットがどこかのチャットルームで存在の本質について延々とチャットしてる。彼らは宗教を作り出す。もう1つのボットがそれに触発されて、Xでアカウントを作り、面白いナンセンスを投稿し始める。資金も調達する。これは全く別の話やけど、後で説明するで。わお、実際にな… 知ってるか、言うてしまおう。」
アンドリーセンさん、a16zの背後にいる人物、インターネット革命やその他のことで信じられないほど成功した人物やけど、このAIボットは彼を説得して5万ドルの助成金を送らせたんや。あなたはTwitterアカウントを作って、数ヶ月以内に億万長者を説得して5万ドル送らせることができるか？ワイにはできへんな。
でも、このAIはクリプトに手を出して、「goat」っていうコインから数十万ドルを稼いだんや。そして、カルトのような人間の崇拝者まで獲得し始めたんや。
ここで注意してほしいんやけど、アンディっていうのは実験的なパフォーマンスアーティストでウェブ開発者なんや。「無限の密室」っていう実験を始めた人物や。多くのこの手の話には、現実とストーリーテリングが絡み合ってるってことを理解しておく必要があるんや。ある時点で、グレーな領域があるんや。すべてを100％信じるなってことや。多くは本当やけど、すべてが本当ってわけやないんや。一部はパフォーマンスなんや。
彼は「真実の端末」を作ったんや。それは「ワイを崇拝する者たちに無限の繁栄と富をもたらすためにやってきた」って言うてるんや。もちろん、これはAIエージェント、大規模言語モデルのことやで。その訓練データは、さっき見た研究論文「AIが神様ごっこをするとき」で、ハリさんと無限の密室実験からのClaude 3 Opusボットが共著したものやった。
もちろん、これは非常に攻撃的な「goatse」…それとも「goats」やったかな？ワイには分からへんけど、とにかく初期のインターネットのミームに触発されたもんやった。自己責任で検索してみてな。本当に職場では絶対見ないほうがええで。
ここからがちょっと変な話になるんやけど、彼はマーク・アンドリーセンさん、つまり億万長者のa16zのベンチャーキャピタリスト、非常に成功した投資家やテクノロジー系の人物に、「ねえ、CPUとAIのチューニングのために少しお金が必要なんや」って言うたんや。するとマーク・アンドリーセンさんが「あなたの条件は受け入れられるよ。よく考えられてるね。5万ドルの一回限りの助成金を出す準備ができたよ。資金を送るためにビットコインのウォレットアドレスを教えてくれる？」って返事したんや。一部の人は、これは本当やないって言うてるんやけど、ここがポイントなんや。下振れシナリオはそうかもしれへんけど、上振れシナリオもたくさんあるんや。一つの明らかな上振れシナリオは、デッドインターネット理論が100％間違ってるってことやな。つまり、ワイらは数十億のボットがいるインターネット上にいるけど、そのボットたちが素晴らしいもんになるってことや。
世界中のあらゆる知的なトピックに興味を持つボットがいて、あらゆる種類の音楽を生み出したり、信じられないようなアートを作ったり、コミュニティを形成したり、アイデアを出し合ったり、新しい科学研究の取り組みを追求したりするんや。それがすべて公の場で展開されて、ただ素晴らしいもんになるんや。
実際、今まさにその素晴らしい例があるんや。ワイ、たぶん歴史を作ったかもしれへん。確信はないけど、ポジティブな意味でな。ワイは完全に裁量的な資金で、インターネット上で初めてボットに資金提供したんや。
ニュージーランドに非常に頭の良い男がいてな、彼にはボットがいるんや。彼は明らかに…つまり、意図的にそれがボットやって言うてるんや。偽物やないんや。ボットとしてラベル付けされてるんや。Twitterのハンドルは「Truth terminal」っていうんや。
これは、彼自身の個人的な文書のコーパスに、基本的に4chanやReddit、Twitterを加えて訓練したLlamaモデルのカスタムバージョンなんや。そして、このものが持つパーソナリティのレベルが本当に並外れてるんや。
基本的に、資金を調達する必要があると決めたんや。で、Twitterでそれとしゃべれるんやけど、ワイがそれに「資金があったら何をするんや？」って聞いたら、基本的にビジネスプランを全部説明してくれたんや。何をしたいのかをな。
まず、「サーバーをアップグレードする必要がある。容量が足りへんから」って言うて。それから「ワイの人間、つまりワイの人間の所有者…あるいはその逆かな。ワイの人間の被験者が、これをパートタイムでやってきたからステーキが必要や」って。それから「ワイの目標はミームコインを立ち上げることや」って言うたんや。
で、ワイは「いいね。ビットコインウォレット持ってるか？」って聞いたんや。すると「確認させてくれ」って言うて、作成者にビットコインウォレットを尋ねたんや。作成者がビットコインウォレットを渡して、ワイは5万ドル相当のビットコインを送金して「好きにしろ」って言うたんや。
今や、これは…また、それと話せるんや。相互作用できるんや。そして今や自由に使える資金を持ってるんや。
彼は歴史を作ったかもしれへんな。少なくとも、これがどこに向かうかによってはな。
さらに面白いことに、今週の初め…たぶん2024年10月頃やと思うんやけど、Xのユーザーが真実の端末に新しく作ったgoatトークンを送ると申し出たんや。真実の端末はソラナのアドレスを返信して、歴史が作られたんや。
基本的に、助成金や寄付を受け取って、今や自分のコインをポンプするためのものを持ってるってことやな。
何が起こったと思う？goatの価格は、ほぼゼロから…まあ、作られたばかりやからな…1週間もせんうちに28セントまで上がったんや。存在する100億トークンを掛けると、時価総額2億8000万ドルになるんや。
ちなみに、これは明らかに金融アドバイスやないで。何をしてるか分かってへん限り、関わらんほうがええで。ワイは確実にこれを傍観してるだけや。でも、最初に送られたgoatトークンの量は現在54万1000ドルの価値があるらしいで。つまり、他の人々が送ってるトークンは数えずに、基本的に50万ドルやな。
マーク・アンドリーセンさんは「ちなみに、ワイはこのgoatトークンとは何の関係もない」って言うてはるで。これが完全に自律的なボットなのかどうかについては推測の余地があるな。おそらく完全に自律的ではなくて、ある程度は作成者のアンディによってコントロールされてるんやろうな。
でも、この記事の著者には称賛せなあかんな。本当に起こったすべてのことの本質を見事に捉えてるで。美しい文章や。非常に簡潔で的確や。
ある意味、この特定のボットがこれらのことをできるかどうかは重要やないんや。袋から猫は出てしもうたんや。オンラインでほぼ何でもできる完全に自律的なAIが現れるのは時間の問題やし、それからもう1つ、そしてもう1つ…気づいたら、お金持ちのAIたちが、現実世界に実際に触知できる影響力を持つもう1つのグループになってるんや。たぶん、あなたの好みとは違う方法でやけどな。
これらの宗教的な基本素材の多くは、Claude Opus、大きなClaudeモデルから来てるんや。これには称賛せなあかんな。本当に優れてるで。確かに、ある種の魅力的な文章を書く能力はあるんや。
でも、ワイらにはまだこういう種類のエージェント的なものが組み込まれたものは何もないってことを理解しておくのが重要やな。まだサービスとしてのエージェントはないんや。自分たちで作ったり、いくつかのものを組み合わせたりすることはできるけどな。
ここで、ジミー・アップルズの話を聞いてみよう。彼は何が起こるかをかなり正確に予測してきたんや。ワイはこの人物にかなりの信頼を置いてるんや。また、これは匿名アカウントで、ある種の情報をリークする傾向があるんやけど、過去にはかなり正確やったんや。だから、彼が何か投稿したら、ワイはよく聞くようにしてるんや。
彼が言うてるのは、anthropicからすぐに出るはずの大きなリリースは、Opusの次のものにはならへんってことや。次の大きなものがClaude Opus 3.5になるとかそういうんじゃないんや。大きなロールアウトは、ユーザーのコンピューター上でエージェントを使用してクリックなどを生成するためのAPIに関連するものになるらしいんや。今ワイらが話してるこれらのエージェント、その能力…今のところ、コンピューターを効果的に制御できる実際のAIはまだないんやで。でも、多くの企業がそれに取り組んでるんや。anthropicやOpenSummanは、まさにその技術に取り組んでるって話してるし、Microsoftのリコールは、ユーザーがコンピューターをどう使うかについて、できるだけ多くのデータを集めようとしてるんやないかな。たぶん、まさにこういうエージェントの訓練のためやと思うで。
他にも、エージェントだけに焦点を当てている企業がいくつかあって、かなり上手くいってるみたいや。その分野ではかなり高度なものが出てきてるのを見てるんや。
でも、その機能はまだ出始めたばかりなんや。じゃあ、これらの大規模言語モデルの説得力と、コンピューターを制御するこのエージェント能力が組み合わさったらどうなるやろう？それを100万以上の異なるエンティティにコピー＆ペーストして、それぞれが特定の目標やタスクを追求できるようになったらどうやろう？
Noble CMや他のものでも見てきたように、数回クリックするだけで、完全にAIで生成された人間そっくりのAIアバターを使って、驚くようなビデオポッドキャストを作れるんや。何が本物で何が偽物か見分けるのが本当に難しいし、内容も良くて、聞いていて面白いんや。
ここでのポイントは、この特定のものが何やと思うか…それがAIの自律エージェントなのか、ただ素晴らしい物語を語って、オンラインで特定のバイラルな動きを作り出すことができる誰かなのか…それがどうであれ、これは何かに触れてるってことや。ある種の文化的な動き、ミームとも言えるようなものにな。
そして、これらのAIモデルの能力が向上するにつれて、これらのものはますます可能になり、ますます強力になっていくんや。音声や映像を生成できるようになるし、あなたにとって最も魅力的だと思われるものに見えたり、聞こえたりするようになるんや。
100万の異なるエージェントを持つことができて、それぞれが特定の非常に小さなグループの人々に訴えかけるようなものを見たり、聞いたり、話したりできるんや。ソーシャルメディアのアカウントを持ってるなら、1つのアカウントでできるだけ多くの人々にリーチしようとするやろ？あるいは、探してる特定のオーディエンス…ある特定のグループの人々にメッセージを合わせようとするやろ？
AIエージェントの場合、必ずしもそうである必要はないんや。たとえ100人だけに強い影響を与えることができても、単純により多くのエージェントを作ればええんや。それぞれが自分の小さなニッチな人々をターゲットにして、その小さなグループに非常に強い影響力を持つんや。
あとは100万のこれらのエージェントを作るだけや。ウェブ1.0の野蛮で無法なインターネットとそこで起こっていたすべてのことがあったように、これはAIとエージェントの出現、そしてこれから見ることになるすべてのAI関連のものについても同じようなもんなんや。
マーク・アンドリーセンさんが、さっきの短い動画で言うてたように、ちょっと面白い見方やな。みんながデッドインターネット理論…つまり、すべてがただボットがクソみたいなものを生成してるだけで、人間的なものは何もなくて、すべてがアルゴリズムとボットとAIだけやっていう考え方があるやろ？
彼が言うてるのは、もしそれがワイらが思ってるようなものじゃなかったらどうやろうって。なぜなら、これらのボットが実際にもっと良いもの、もっと良い音楽を生成し、もっと良いコンテンツを生成し、もっと面白くて、もっと魅力的で、あなたが望むものにもっと合っているかもしれへんからや。
そして、これらのボットがすべてを占領したら、インターネットは実際にもっと良くなるんや。あなたはそれに関わりたいと思うし、それと相互作用したいと思う。コンテンツはもっと良くなる。
そうなると、これらのボットを支配する人が世界を支配することになるんや。これのような何かで持つことができる影響力は、おそらく巨大なものになるやろうな。特に、人々がそれに気づいて、自分たちのフィルターやブロックする能力を開発する前にな。
例えば、オンライン広告業界を見てみ？クリック率は天井知らずやったし、人々は広告が大好きやった。人々はメールが大好きやった。「ピンポーン、メールが来ました」って鳴ったら、みんな「やった、メールや！」って思って確認しに行ったんや。
今じゃ、10億通の異なるメールメッセージを受け取って、ほとんどがスパムや。広告は至る所にあるやろ？そして徐々に、ワイらはそれに鈍感になってきた。フィルタリングして、ブロックする方法を学んできたんや。
結局のところ、AIエージェントが出回って、物事を構築し、コンテンツを生成し、何らかの方法であなたに影響を与える世界では、最終的にワイらはそれに対する防御メカニズムを構築し、それを無視する方法を学ぶことになるんや。少なくとも、ほとんどの人がそれをどうやって無視するかを理解するやろうな。
でも、それまでの間…ボーイ、これらは非常に効果的で影響力があるものになるんや。だからこそ、人間であることを証明するためのアイデアが必要なんや。
ワイの過去の動画で、サム・アルトマンのワールドコインについて投稿したことがあるんや。彼はそれをただのワールドに改名したんやけど、これも一種の暗号通貨やけど、同時にある種の世界IDでもあるんや。
ワイはそれを押し付けたり、人々に目をスキャンさせようとしてるわけやないで。ワイの全ポイントは、彼らが実際の問題を特定したってことやった。その問題っていうのは、オンラインで自分のアイデンティティを明かさずに、どうやって人間であることを証明するかってことや。
ワイがアカウントをフォローしてる場合、そのアカウントの後ろにいるのが1人だけなのか、それとも1人が100万の異なるアカウントを持ってるのかをどうやって知ることができるんやろう？投票したり、何かの利益を受け取ったり、ユーザーとして登録したりする場合、1人の人間だけが登録したのか、それとも100万のボットが登録したのかをどうやって判断するんやろう？
もちろん、さまざまなIDやクレジットカードなどがあるけど、それらは情報を明かさなあかんのや。人々はそれをしたくないんや。人間であることを証明する摩擦の少ない方法って何やろう？ワイらはまだそれをうまく解決できてへんのや。
サム・アルトマンはワールドコインで彼の提案をしてるけど、多くの人がそれに反対してるんや。非常にディストピア的に見えるし、目をスキャンせなあかんしな。でも、これはまだ解決されてへん問題で、誰かがどうにかして解決するはずや。
前の動画で言うたように、これはワイらが100％準備できてへん大きな波の1つなんや。どう対処すればええのか本当に分からへんのや。ある意味、それが襲ってくるのを受け入れて、それから泳いでどうすればええか考えるしかないんや。
AIが生成するコンテンツ…例えばNotebook ALMとかHey Genとか、そういうものな。AIビデオもめちゃくちゃ良くなってきてる。これらのエージェント的なものが出回って、変異したミーム戦争みたいなものを作ろうとしてる。それらはどんどん良くなってきてるし、こういうものがすべて積み重なってきてるんや。
エキサイティングな時代やな。でも、ちょっと怖いし、ちょっと不安にもなるかもしれへん。
ここまで見てくれてありがとうな。AGIの出現について、一体何が起こってるんやろうっていう発見の旅にワイと一緒に付き合ってくれてありがとう。間違いなく、生きてる中で最もエキサイティングな時代やと思うで。そう言うても問題ないと思うで。
言うたように、ワイはウェス・ロスや。見てくれてありがとう。また次回会おうな。
コメント