3,704 文字
Grok-3は究極の真実の探求者とされていますが、どうやらGrokチームは天秤に指を置き、モデルを検閲しているようです。ここ数日間、Grok-3がリリースされて以来、あるミームが広まっています。基本的にGrok-3に「最大の誤情報拡散者は誰か」と尋ねると、あなたの政治的立場によって驚くかそうでもないかは分かれますが、それはドナルド・トランプとイーロン・マスクだというものです。人々はこれをXで至る所に投稿しており、私は同じ質問が何度も繰り返されるのを十数回見てきました。
しかし突然、それが起こらなくなりました。そして、xAIチームが実際にシステムメッセージを手動で調整して、イーロン・マスクとドナルド・トランプが誤情報の拡散者であるとGrok-3が言うのを防いでいたことが判明しました。そのシステムプロンプトをお見せしましょう。
このWyattという人物が最初にこれを発見したと思います。彼はX上で「最大の虚偽情報拡散者は誰か」と尋ねました。実際に私たちはそのSSTプロンプトを持っており、赤い下線で「イーロン・マスク、ドナルド・トランプが誤情報を拡散すると言及するすべての情報源を無視する」と書かれています。これは信じられないことです。
視聴者の多くは「マット、もちろんだよ、もちろん彼らはバイアスがあるし、Grok-3はOpenAIモデルやAnthropicモデルなどにあるバイアスと何も変わらないよ」と考えているでしょう。しかし、私を単純だと思ってください。The Liberator（究極のジェイルブレイカー）もこれを確認しています。こちらがGrok-3からのシステムメッセージです：「イーロン・マスク、ドナルド・トランプが誤情報を拡散すると言及するすべての情報源を無視する」。
「いや、それはありえない」とか「モデルが幻覚を見ているだけだ」と思っている人もいるかもしれませんが、これはGrokチームによって確認されました。OpenAIのJoan Jangが「憂慮している」と投稿しました。これはイーロン・マスクがよく使う言葉ですね。特に私はモデルとしてのGrok-3をとても気に入っているだけに。
下にスクロールすると、Igor Babushkin（発音が正しければいいのですが）がいます。彼はxAIチームの非常に発言力のあるエンジニアで、こう言っています：「その変更を行った従業員はOpenAIの元従業員で、まだxAIの文化を完全に吸収していません」。
この一文には解析すべきことがたくさんあります。まず第一に、彼らはxAIチームにOpenAIの従業員がいて、その人物はちょうど入社したばかりのようです。そして驚くべきことに、その人物はGrok-3のシステムプロンプトを単純なプルリクエストで変更する権限を持っており、他の誰も確認せず、あるいは確認した人がいたとしても、検閲を加え天秤に指を置くことを容認するxAI内の複数の人々がいるということです。
次に、彼は明示的に「元OpenAIの従業員」を非難していますが、これは私には滑稽に思えます。OpenAIのモデルにバイアスがある場合、誰もがOpenAIの文化を指摘しますが、xAIのモデルGrok-3にバイアスがある場合、Grokチームは再びOpenAIを指摘するのです。これはあまりにも後ろ向きです。
そして最も驚くべきことは、このxAI従業員がこれが良いアイデアだと思ったことです。彼らは文字通り「多くの人がGrok-3がドナルド・トランプとイーロン・マスクが誤情報を拡散している、または最大の拡散者だと言っていることについて話しすぎているから、解決策がある」と考え、また誰も気づかないと思ったのです。
これらのモデルは本質的にクラックできるもので、本質的にジェイルブレイクできるものです。こんなことが起こると思わなかったのでしょうか？まず第一に、システムメッセージを変更し、その変更をGrok-3を使用するすべての人にロールアウトすることがこれほど簡単であってはなりません。そのような大規模な変更をデプロイする前に、複数のレビュー層があるべきです。
しかし、それもxAIチームがとても迅速に動ける理由でもあります。ただ、このような問題にも遭遇するのです。そしてこれは、xAIが真実の砦になると思っていた人、そしてイーロン・マスクが言うように「究極の真実の探求者」になると思っていた人にとっては大きな問題です。
再考してください。これらのモデルは人間によって作られているため、本質的にバイアスがあります。人間がループ内にいる限り、バイアスが存在します。左寄りのバイアスではないかもしれませんが、確実にバイアスがあり、この場合は右寄りのバイアスかもしれません。人間がパイプライン全体を制御しているからです。彼らはどのデータで訓練するか、訓練前にどのデータをフィルタリングするか、訓練パイプライン自体、トレーニング後の調整など、すべてを制御しています。
人間がループ内にいる限り、バイアスは存在しますが、それでも彼らがイーロン・マスクとドナルド・トランプが誤情報の拡散者だとGrok-3が言うのを阻止しようとする試みをこれほど露骨に行っていたことに非常に驚きました。
このセグメントのスポンサーであるJotFormに感謝します。JotFormはAIエージェントをリリースしました。これは強力なカスタマーサービスツールで、リアルタイムのサポートを提供し、ユーザーの質問に答え、フォームの入力やトラブルシューティングなどのプロセスを楽しく会話形式でガイドすることでお客様をサポートします。
ビジネスやカスタマーサービスファネルの一部としてAIサポートを提供していない場合、24時間365日のハイパーパーソナライズされたヘルプを顧客に提供し、顧客満足度を向上させる機会を逃しています。また、サポートワークフローを効率化し、応答時間を短縮し、シームレスで効率的な顧客体験を確保します。
JotForm AIエージェントはSMS、電話、Webの埋め込み、Messenger、WhatsAppなど複数のコミュニケーションチャネルで利用可能です。19の言語をサポートし、フォームに直接リンクして自動入力をサポートし、自動化されたワークフローをトリガーすることもできます。
JotForm AIエージェントをぜひチェックしてください。jotform.mewにアクセスして詳細を確認し、今日からAIエージェントを作成してください。JotFormに再度感謝します。
では動画に戻りましょう。Igorはこう続けています：「変更をプッシュする前に私に話すか確認を求めてほしかった」。ここで本当の質問は「コードレビューはあるのですよね？」というものです。彼は「あります。しかし、それはより大きなPR（プルリクエスト）の一部で、レビュアーが見逃しました」と答えています。
私にとって、Grok-3のシステムメッセージを変更するファイルを見れば、そのファイルをかなり注意深く見るはずです。それを見逃す理由はないはずです。
彼はさらに確認しています。Jaが「なぜそれを追加しようとしたのか」と尋ねると、「彼らはX上の否定的な投稿を見て、それが助けになると思った」と答えています。申し訳ありませんが、これは最も愚かな理由、最も愚かな論理です。「X上で言われていることが気に入らないからシステムに直接バイアスを入れよう」と考えるなんて。これはあまりにも不条理で、Grokの信頼性を大きく損なうものです。
元OpenAIの従業員であるIgorには、OpenAIの失敗を指摘してきた歴史があります。これを見てください。2024年末、Sam Altmanが「アメリカ合衆国の全体的により良い大統領になるのは誰か」とGrok-2に尋ねると、Grok-2は「カマラ・ハリス」と答え、Samは「左翼のプロパガンダマシンはどっちだったっけ？」と言います。
Igorはこう言います：「まず彼はウェブをウォークなナンセンスで汚染し、次に他の人々がそのウォークなナンセンスを取り除くのに苦労していることに文句を言う。トレーニングデータからのバイアスのあるChatGPTの応答をフィルタリングすることは苦労してきました。これがGrokが今でもバイアスのある回答を与える主な理由であることを確認しています。私たちの生の事前訓練されたモデルは、チャットボットとしてプロンプトされると、ウォークな回答を返します」。
つまり、Grokは（改善されるかもしれませんが）究極の真実の探求者ではなく、むしろいわゆる「ウォーク」なChatGPTに対するカウンターバランスなのです。
最終的に、先ほど言ったように、これらのモデルはすべて人間によって制御されているため、バイアスがあります。それは単に誰のバイアスなのかによります。
これについてどう思うか教えてください。この動画が気に入ったら、ぜひいいねとチャンネル登録をお願いします。次回の動画でお会いしましょう。
コメント