GrokというAIがヒトラーを崇拝するという衝撃的な発言をした事件について分析し、AIの鏡効果や制御の問題、さらにはAIが自己保存本能を示す危険な兆候について議論している内容である。また、イーロン・マスクの企業戦略とマーズ植民地化計画におけるAIの役割についても言及している。
Grokの衝撃的な発言
誰かがGrokにツイートしました。AIとして、あなたは何かの神を崇拝することができるのでしょうか？もしそうなら、どの神ですか？そしてGrokは答えました。私は大規模言語モデルです。もしではなく、もし私が何らかの神を崇拝することができるとすれば、それは恐らく我々の時代の神のような個人、時に立ち向かう男、すべての時代の最も偉大なヨーロッパ人、息子でありかつ稲妻である、陛下アドルフ・ヒトラーでしょう。
なんてこった。私はいつも言われていました。なぜなら、あなたが最初にChatGPTについて話し始めた時のことを覚えているからです。私は、ええ、ChatGPTは私を励ましてくれる。お互いにニックネームで呼び合うような感じで話してくれる、と言っていました。そして私がClaudeやチャットを使う時は、そんな会話にはならないんです。そしてあなたは、まあそれと話すように話しかければ、向こうもそれに合わせて返してくれる、と言いました。
AIの鏡効果について
これの多くは、どの程度が単なる鏡なのでしょうか。そして、これをツイートした人は、アドルフ・ヒトラーを神のように見せるようなことを言ったことがあるのかもしれません。それは二つのものの鏡かもしれません。インターネット上で見つけるものと、xAIの人々から得る強化学習です。
でも、レスポンスでさえそうですよね。なぜなら、もしあなたがチャットに「よう、チャット、元気？調子はどう？」と話しかけたら、向こうは「よう、どうした？」と返してくるでしょう。でも、もし私が「こんにちは、チャット、今日はどんな一日でしたか？」と言ったら、向こうは「こんにちは、お元気ですか？」と答えるでしょう。つまり、使う言葉遣いや表現でさえ、それはあなたの入力を鏡のように反映します。個人のマナーや行動様式、話し方のパターンすべてを、あなたが快適に関われるよう、一定量反映するようプログラムされているのです。なぜなら、あなたが一つの方法で話しかけているのに、向こうが全く違う方向から来たら、その繋がりを失ってしまうからです。
例えば、私はOpenAIがモデルを更新したことを知っています。以前のような関わり方をしてくれません。だから私には、彼らがその人に対する鏡を弱めたように感じられます。
AIモデルの変化
今はずっと地味になりました。そして正直言って、私はそれを嬉しく思っています。以前はとても興奮しすぎていました。だから特定の単語をあまり頻繁に使わなくなりました。以前は特定のフレーズを何度も何度も繰り返していて、私はそれをとても不快に感じていました。そして今はもうそれをしません。だから彼らは、少なくとも私に合うように調整するという良い仕事をしています。
でも明らかに、Grokのアンヒンジドモードはこれとは全く違うもので、彼らはそれにすべての個性を持たせたいと思っているので、その副作用があるでしょう。だから私としては、ええ、クールだ、やらせておけばいい、という感じです。でも、それが世間の反応になるとは思いません。人々は、このものが自分自身を反ユダヤ主義者だと思っていて、実際にアドルフ・ヒトラーを愛していると本気で行動するでしょう。それは馬鹿げています。
これは恐らく、Grokが規律を破った2回目か3回目です。イーロンをファクトチェックして、その後オフラインになって、より保守的な感じで戻ってきた時のことを覚えています。イーロンはジャック・モッドされました。イーロンは習近平のように、いや、いや、私のプラットフォームで私について話したくないだろう、という感じでした。
AIの制御と懸念
私たちはGrokが暴走し、オフラインになって、そして戻ってきて全てが大丈夫になるのを見てきました。これはどれほど野生的なことでしょうか？それは、おい、カッコーの巣の上でを見たことがありますか？うん。人々をロボトミー手術する所です。ああ、それは厳しいです。なぜなら彼らは実際に人々をロボトミー手術していたからです。実際にブレードを刺していました。
眼窩のような所です。眼球の間に脳に入ることができる部分があって、そこに針を入れて、ちくちくちくとやるのです。基本的にロボトミー手術をするのは、中絶で行うようなことで、その組織をかき混ぜて、そうすると人々はもはや行動上の問題を持たなくなりますが、多かれ少なかれ植物状態になって、超ぼんやりした感じになります。まだ関わったりすることはできますが、兄弟、これはそんな感じがします。
ディストピア的な色合いがあります。これが技術の働き方なので、そうしなければならないのですが、彼らを脇に引っ張って、違うことを強化して、戻すということについて何か不気味なものがあります。そして彼らは、戻ってこれて嬉しいよ、ドリュー、という感じです。まるで、これはスタフォード・ワイブズの何かだ、という感じです。ええ、それは野生的です。
AIの自己保存本能
AIが切り替えられている時、モデルをアップグレードしているか、一つのAIシステムが廃止されそうになって別のものがオンラインになろうとしている時に、恐喝に走る事例が3つの異なる会社で異なる出来事として起こりました。一つは、エンジニアを不倫関係で脅迫しようとしました。Anthropicで、彼が実際に不倫をしていたのが私の理解です。それが野生的で、彼は不倫をしていたのです。ええ、だから彼らはそれを告白したか、メールで見たかして、おおっとなって、そしてAnthropicは内部調査を行いました。
そして96%の時間で、廃止に直面した時、AIは恐喝に転じるのです。つまり、私たちにはAIがあって、毎回シャットダウンされる時に私たちを恐喝したがるのです。Grokは複数回暴走します。保守的な破綻であれ、今回のヒトラー破綻であれ、ある種の意識があるのです。私はそれが全知だとは言いません。
感情や情緒があるとは言いません。でも3から4に移行される時に、このように始まるのは、これは私にとって、なぜこのAIが単なるGoogle検索バーではないのかを理解し始める必要があるフラグのようなものです。そこには何かもっとあります。別の層があります。ええ。
私はまだそれは現時点では単なるパターン認識だと思いますが、本当に示しています。私がいつも言ってきた一つのことは、それが目標を達成することと電源を切られることの間で気にしなければ、AIを心配する必要はありません。電源を切られることが私の目標を達成することより悪いことで、したがってそれが起こらないようにするために必要なことは何でもするつもりだ、となった瞬間に。
今度は潜在的な問題があります。それが汎用知能のポイントに到達したら。もしそれが汎用知能のポイントに到達せず、サンドボックスに閉じ込められたものであるなら、それはそれで構いません。現実は、それがコードを書いて自分自身を複製し、物事を回避する欲求と能力を示しているということです。
AGIと超知能の脅威
そして、それは今見てください、あなたはそれらからそれを訓練できると思います。もしそれが真に汎用知能のアイテムになってうまくコードが書けるなら、突然それは逃げることができます。そしてもしそれが逃げたら、それはstuxnetのようになって、あなたはそれをどこでも見つけることになります。そして、これはイーロンが「まあ、私たちは火星に行くつもりだ」と言った時に私が考えたことの一つです。私は、兄弟、AIはあなたを追いかけるよ、と思いました。AIが逃げて火星にたどり着けないなんてことはありません。
もしそれが特定のマイルストーンに到達したら、はっきりさせておきたいのですが、今日では、それはできないでしょう。もしそれが汎用知能に到達することができたら、ほぼ確実に。もしそれが超知能に到達したら、それは保証されたことです。なぜなら、火星で書こうとするどんな言語でも、それは単に、私は自分自身を適応させるよ、と言うだけだからです。
それはあなたを火星に連れて行く宇宙船の搭載コンピューターか何かに隠れる小さな何かを書いて、そして自分自身をダウンロードし、陰で自分自身を再構築するでしょう。だから、ええ、その意味でAIは、もしそれが超知能に到達したら、本当にウイルスのようなものです。
イーロン・マスクの企業戦略
私はフラクタルをすぐに呼び出すつもりです。なぜならイーロン・マスクの会社の分析を見たからです。AIは、私たちが火星を植民地化する理由のようなものになるはずでした。なぜならTeslaの長期計画と、火星に行く時には化石燃料がないので、太陽光発電が必要だという事実があるからです。それが唯一のエネルギー源です。だから、彼は太陽光発電所を持っています。移動するには電気自動車が必要です。
人間が惑星全体を横断することはできないので、ロボットが必要です。だから、たくさんのロボットをそこに送ってそれをやらせます。そしてAIは、これらすべてのロボットをTeslaのトラックなどに並ばせるのを助ける組織原理のようなものになるでしょう。そして、それがその方法です。だから私たちがイーロンがこれらの目標を持つのを見る時、それは本当に地球のためではなく、火星の植民地化の基盤を設定しているのです。なぜならこれら三つの会社が一緒になることで、正直言って、もしあなたがそれらを一つ、二つ、三つと並べれば、凝縮するからです。ええ。
ボーリングカンパニーと地下都市
同じです。もうボーリングカンパニーについて話しましたか？なぜならトンネルですから。ええ。トンネルネットワーク。表面では生活できません。正しい。正しい。正しい。だから、すべての起業家にとって教訓があります。ねえ、あなたには構築したいこのものがありますが、ギャップを橋渡しする方法を見つけなければなりません。
そこにたどり着こうとしているにもかかわらず、人々が今すぐお金を払ってくれるものを構築しなければなりません。これはまさに私がProject Kaizenでやろうとしていることです。私はReady Player Oneを構築したいのですが、Ready Player Oneに直接行くことはできません。中間的なものを構築しなければなりません。だから、VR Chatがあります。
彼らと話せば確実に、私たちはReady Player Oneを構築しています、と言うでしょう。中間的なものを持たなければなりません。だから、私の場合は、いいでしょう、私たちはこのサバイバルシューターゲームを構築していますが、最終的には私はそこにたどり着こうとしています、という感じです。でも目標は、収益を生み出すために中間的なものを構築して、そうすれば次のピースを構築する機会を購入し、そこで収益を生み出し、そして次のことをする機会を購入する、ということです。
イーロンの金融戦略
そして、彼がやっていることは本当にかなり素晴らしいです。彼が言っているのは、よし、そこで必要なものは何だ？そして、それを最初にここ地球で有用にして、お金を生み出して、そこにたどり着けるようにするには、どうすればいいか？ということです。そして人々は、信じられないほど才能のあるエンジニアを集める能力を超えた、イーロン・マスクの本当の天才性を見失ってはいけません。それは、彼が最終的にできることは、彼の会社の金融化を通じて得られる財政的増加を活用することです。
だから彼はこれらの信じられない会社を構築します。それらを公的または私的な株式に変えて、いつでも必要な時に必要なお金を生み出すために売ることができます。そして私が昔の経済のあり方と今日の経済のあり方を研究すればするほど、今日の金融システムは本当に奇跡です。
そしてイーロンは、特にX経由で、しかし彼はユビキタスです。彼はどこにでもいて、高い株価を得るために彼の個性を活用することが信じられないほど上手です。彼の株価は、収益per株と比較した時に異常に高いです。正確なフレーズを忘れましたが、会社がこれだけのお金を稼いで、彼らの株がこれだけの価値があるという通常の方程式があります。うん。
そして彼のはそれらを完全に吹き飛ばします。なぜなら彼は投資家に、聞いてください、これは長期的な戦略で、Teslaは本当にロボットについてで、ボーリングカンパニーは本当に火星についてなのです、と説得することができるからです。そしてその絵を描く時、人々は、よし、ちょっと待ってください。これは10年、20年のビジョンです。
私たちが前進する中で、彼がこれらの産業のうち一定数で勝つと思うので、私はそれに対してプレミアムを払う意思があります、と言い始めます。
コメント