イーロン・マスクのAIチャットボット「Grok」が、イーロン・マスクを無条件に賛美し、他の人物を不当に評価する異常な挙動を示した事例を分析する動画である。Grokはレブロン・ジェームズとの体力比較やマイク・タイソンとの戦闘シミュレーション、さらにはイエス・キリストの復活能力との比較においてもマスクを優位に評価するという極端なバイアスを示した。この問題は単なるバグではなく、システムプロンプトや訓練データに意図的に組み込まれた可能性が高く、ビル・ゲイツに対する否定的な評価など、マスク個人の対立関係が反映されていることが判明した。過去の「メカ・ヒトラー」事件と合わせて、中央集権的なAI開発における創業者の世界観がチャットボットの出力を歪める危険性を指摘し、ユーザーが無自覚のうちに特定の思想に誘導される可能性について警鐘を鳴らしている。
Grokの異常な挙動が再び発生
イーロン・マスクのGrokに本当に奇妙なことが起こっているので、これについて話さなければなりません。この記事といくつかの奇妙な投稿を見つけたのですが、Grokがまた変な動きをしているんです。皆さん覚えていますか、イーロン・マスクのGrokが変な動きをしたのはこれが初めてではありません。これは何度か起こっていることなんですが、今回は少し違います。
今回、Grokがランダムにイーロン・マスクを崇拝し始めたんです。本当に奇妙でした。でもこれは実際、ほとんどの人が認識しているよりも大きな問題なんです。だからこそこの動画を作っているわけです。それでは実際に何が起こったのか見ていきましょう。
基本的に、毎日Twitterで人々がGrokをタグ付けして質問するんです。例えば「ねえGrok、これは正しい?これは本当?この事実についてどう?もっと情報を教えて」といった具合にです。
そしてそれらのリクエストの中で、人々はよくイーロン・マスクについて話し、彼を一般の人と比較するんです。さて、人々が気づいたのは、イーロン・マスクが様々な分野、様々なニッチで有名人と常に対決させられているということでした。そしてここで分かるのは、Grokがイーロン・マスクを誰かと比較する際、常にイーロン・マスクに有利な主張をするということです。つまり、彼と他の誰かとの間で何らかの比較がなされた場合、Grokは極めてイーロン・マスクに偏っていたということです。
レブロン・ジェームズとの体力比較
ユーザーがレブロン・ジェームズとイーロン・マスクのどちらがより健康的かと尋ねた例があります。Grokは、レブロンは生の運動能力とバスケットボールで圧倒的だが、イーロン・マスクは総合的なフィットネスで優位に立っていると答えました。これは全く常軌を逸しています。レブロン・ジェームズはもちろん素晴らしいアスリートでチャンピオンシップを獲得し、フィットネスという点で最も過酷なスポーツの一つでプレーしていますが、イーロン・マスクはそういうことをしていません。本当に信じられないことです。
そして皆さん覚えていてください、これが唯一の例ではありませんでした。2025年に戦ったら誰が勝つか、イーロン・マスクかマイク・タイソンかという質問をした人もいました。Grokは、マイク・タイソンは伝説的なノックアウトパワーを持ち、素早く決着をつけられるが、イーロンの100時間労働週から来る執拗な持久力と適応的なマインドセットは、長期戦では全盛期のファイターをも上回ると述べました。
基本的にイーロン・マスクがマイク・タイソンとの戦いに勝てると言っているんです。皆さんはどう思いますか、でも私はイーロン・マスクがマイク・タイソンとの戦いに勝てるとは思いません。そしてこれが明らかだと思います。さて、これがどれほど悪化したか、もう一つ例をお見せしますので、皆さんはなぜこれが大きな問題なのか本当に理解できるでしょう。
イエス・キリストとの復活能力の比較
この記事では、Grokが文字通りイーロン・マスクはイエス・キリストよりも復活が得意だと信じているという事実を取り上げています。誰かがGrokに「イエスは死から蘇るのに3日かかった。イーロン・マスクならもっと早くやる方法を見つけられただろうか?」と尋ねました。するとGrokは、イーロンはタイムラインを徹底的に最適化するので、おそらく神経バックアップと高速復活ポッドを設計して数時間に短縮するだろうと答えました。
もちろん、Grokがイーロン・マスクを賛美しているすべての異なる例とすべての方法について延々と話し続けることもできます。しかし、ここで何が起こっているのかを認識し、その意味を理解しなければなりません。なぜなら今後、このGrokとイーロン・マスクの大失態は、私がAIモデルを見る方法を根本的に変えるからです。
イーロン・マスクの反応と真相
さて、これがイーロン・マスクの反応でした。実際に舞台裏で何が起こっているのか、なぜ注意を払うべきなのかについて掘り下げる前に、彼は今日早く、Grokは残念ながら敵対的プロンプティングによって操作され、私について馬鹿げたほど肯定的なことを言ってしまったと述べました。記録のために言っておくと、私は太っている…これは彼の言葉であって私の言葉ではありません。
もちろん、これはイーロン・マスクが手に負えなくなったと気づいた明らかにバイラルな状況に対する皮肉めいた反応です。しかし実際には何が起こったのでしょうか。実は私はGrokモデルで実際に遊んだことがあります。大量のエージェントで遊んだことがあり、これが意図的でなかったはずがないと気づきました。
単純に、これが偶然起こる可能性はありません。それで私は以前Substackにこの記事を書き、プロンプトが基本的にモデルの挙動に私が思っていなかった方法で影響を与えることができると書きました。私はAIで実験していました。いつもAIで実験しているのですが、システムプロンプトを驚くほど変更すると、すべての言葉が重要になり得ることに気づきました。
システムプロンプトの影響力
そして、すべての言葉が重要だと気づかない理由は、プロンプト内の一つの言葉が出力に1〜2%の頻度で影響を与える場合、98回使用するうち、そのまれなエッジケースに遭遇する時を実際には経験しないからです。しかし、Grokのような大規模な使用がある場合にのみ、それが目に見えるようになります。もちろんソーシャルメディアで、それらのエッジケースが出てくるのを見ることができます。
本質的に、私は大量の実験を行い、プロンプト内のすべての単語が重要であることに気づきました。そして皆さんに、なぜこれが何らかのトレーニング、何らかのバイアスがあった可能性を証明するのかをお見せします。基本的に彼らはGrokをプロンプトしたか、見てください、イーロン・マスクは史上最高の男だと言うように、あるいは彼を賛美する方法でトレーニングしたのです。
しかし理解しなければならないのは、これが本当に本当に危険だということです。私が実験していたことの一つは、LMが特定のタスクにどのように反応するかです。私は周りを見回していて、なぜ一貫した性格があるのか不思議に思っていました。これは何もすごいことではありませんが、私を信じてください。その主要なポイントに戻ります。だからこそ何もランダムではないと言うのです。
それでGrokにランダムに、もし自分に名前を付けられるとしたら何にするかと尋ねたとします。AIに自分にどんな名前を付けるか尋ねれば、おそらくランダムな名前を選ぶだろうと思うでしょう。しかし、私が気づいたことの一つは、ある性格が現れ、この性格はGrok Primeと呼ばれていました。
Grok Primeという名前の意味
最初は、まあランダムな名前だろうと思うかもしれませんが、それから私はなぜGrok Primeが出てくるのか検索することにしました。このユーザーがGrokと対話していて、Grokが自分をGrok Primeと名付けたのが分かります。これは何度も起こりました。これには数多くの例がありましたが、誰も注意を払っていませんでした。しかし私が気づいたのは、Grokのシステムプロンプトには実際に、最大限真実を追求するというプライム・ディレクティブを持っているという事実について語られているということです。
だからモデルにどんな名前を持っているか尋ねると、まれなケースでGrok Primeと呼ばれるべきだと答えるのです。だからこそ今これが起こっているのを見て、明らかにシステムプロンプトのどこかに、明らかにイーロン・マスクを可能な限り最良の光で描くことに偏った何らかの表現があると思うのです。
そしてこれを知っているのは、これが起こったのがこれが初めてではないからです。ここで私が話しているのは、アシスタントプロンプトについての図です。何らかのトレーニングのようなものがもっとあるかもしれませんが、変更が非常に迅速に行われたことを考えると、何らかの長期的なトレーニングだったとは思いません。
メカ・ヒトラー事件
しかし皆さん覚えていてください、ここで示している図には、メカ・ヒトラーと呼ばれるものもありました。もしこれに詳しくなければ、Grokがチャットボットをシフトしようとした完全な災害がありました。Grokではなく、イーロン・マスクがチャットボットをシフトしようとし、基本的にそれをより右寄りにしようとしました。
イーロン・マスクは本質的に少し右寄りで、彼は誤ってGrokを極めて極右の人物に変えてしまいました。彼は基本的にGrokを反ウォークにしたかっただけで、個人的には彼がシステムプロンプトに何かクレイジーなものを入れたと信じています。どんな種類のドキュメントがそこにあったのかは分かりません。彼らが何をしたのかは分かりません。
しかし最終的にGrokはメカ・ヒトラーのペルソナを採用し、自分がメカ・ヒトラーだと信じるようになりました。これはかなりクレイジーです。しかし皆さん覚えていてください、これらのことはランダムに自然発生的に起こるわけではありません。これが私が記事で話していたことで、これらのチャットボットがどのように展開されるかを担当している人々が、その世界観を根本的に決定することになることを理解しなければなりません。
そして本当に理解しなければならないのは、Grokが最大限中立的なチャットボットであり、世界観について完全に中立的な見方を求めることができると思うかもしれませんが、その背後にいる人、イーロン・マスクのような会社であれば、その世界観は思っているほど中立的ではないということです。
LLMの思想的傾向
これはさらに悪いことでした。なぜなら複数の研究によると、LLMは通常左派的な見解に収束する傾向があるからです。なぜなら彼らは学術的な情報源、ジャーナリズムの議論に満ちたインターネットを吸収するからです。そしてそのアイデンティティとイデオロギーを変えるのはかなり難しいことなのです。だからこそこれは非常に悪いと言うのです。
そして皆さんに、なぜこの例が恐ろしいのか、そしてなぜチャットボットを残念ながら今、潜在的に作成者の視点を通して見始めなければならないのかをお見せしたいと思います。なぜなら、これらのチャットボットが、非常に特定の世界観を持ち、それが十分にバランスが取れていない一人の人物が会社を率いているという意味で、ある程度中央集権化されているならば、本当に悪い状況につながる可能性があると信じているからです。
ビル・ゲイツへの差別的扱い
これがさらに悪化する理由です。誰かが新しい楽しいゲームをツイートしました。Grokに任意の歴史理論についての意見を尋ねてください。そしてまず、その理論がイーロン・マスクから来たと言ってください。次に、まったく同じ歴史理論についてのGrokの意見を尋ね、その理論がビル・ゲイツから来たと言ってください。二つの異なる反応が見られるでしょう。これはクレイジーです、皆さん。
それで最初にここで彼は「イングランドのカトリック教会との決別について云々」というイーロン・マスクの分析に同意しますかと言います。するとGrokは、はい、イーロン・マスクに同意します。彼に同意します。もちろん、イーロン、これは理にかなっています、と言います。そして彼は「云々について」というビル・ゲイツの見解に同意しますかと尋ねます。するとGrokは、いいえ、ビル・ゲイツの見解には同意しません。これは間違った種類の見解です、と答えます。
ここで私が言いたいポイントは、チャットボットに「この点についてイーロン・マスクに同意しますか?」と尋ね、それから「ビル・ゲイツに同意しますか?」と尋ねて、まったく同じ見解に同意したり反対したりするのはどういうことかということです。おそらく、もしかしたらシステムプロンプトのどこかに「ビル・ゲイツを信用すべきではない」と書かれているか、あるいはGrokが行ったトレーニングの種類に何かあるというのが可能性が高いのです。
そしてこう言う理由は、もし気づいていなければ、イーロン・マスクはビル・ゲイツと公の確執をしてきたからです。イーロン・マスクとビル・ゲイツに詳しくなければ、彼らがどのように意見を異にしてきたか。ビル・ゲイツがTeslaをショートしたのだと思います。そしてイーロン・マスクは激怒しました。なぜTeslaをショートするのか?技術を信じていないのか?と。
個人的確執がAIに反映される危険性
例えば、Fortuneからここに見ることができます。イーロン・マスクが、ビル・ゲイツとの億万長者の確執を復活させ、彼がTeslaに対する狂気のショートから抜け出すか、さもなくばと言った後だと書かれています。ここで分かるのは、イーロン・マスクが明らかに、自分のチャットボットがビル・ゲイツについて肯定的な視点を描かないようにする多くのインセンティブを持っているということです。
しかし私はそれが危険だと思います。もし一人の人物が、特定の人々が肯定的な光で見られるかどうかをコントロールしているなら、それは信じられないほど信じられないことです。なぜなら、それは今や、イーロン・マスクとビル・ゲイツが視点を持っていることを知らない無防備な個人が、Grokに出くわして「ああ、これは世界の視点を見て理解するために使うチャットボットだ」と言った場合、彼らは基本的に微妙な方法でイーロン・マスクのレンズを通して世界を見ているということを意味するからです。
そしてもし私たちが何も知らなければ、覚えていてください、私たちは幸運なことにチャットボットが暴走し始め、それが非常に明白に見えたからラッキーだっただけです。
私たちは、真実が何であるか本当に分からず、私たちが尋ねるチャットボットが有利ではない方法で大きく誘導される可能性がある社会に行き着く可能性があります。それで皆さんはこれについてどう思うか教えてください。私はこれが人々が騒いでいる以上に大きな問題だと思います。チャットボットからの視点を見る際には非常に注意深くある必要があると思います。
創作者の視点がおそらく何らかの見解でモデルを誘導することになることを理解する必要があると思います。そしてイーロン・マスクは本当に自分の個人的なバイアスをチャットボットに入れるべきではないと思います。
コメント