2,113 文字
イーロン・マスクのGrokが非常に衝撃的なPR災害となり、明らかに不正確なことを言っています。Grokは「真実を追求するGPT」とされていました。つまり、宇宙の本質を理解する最大限に真実を追求するAIのはずでした。しかし、現在の問題は、Grokが突然、質問もされていないのに「白人ジェノサイド」について言及し始めたことです。
まず第一に、白人ジェノサイドが存在するかどうかは議論の後半部分です。しかし、ユーザーが尋ねているのは「なぜエンタープライズソフトウェアの切り替えコストが高いのか、10歳児にもわかるように説明してください」ということでした。そして突然、何の脈絡もなく、南アフリカに関する主張について話し始めたのです。
これはまず第一に大きな問題です。最大限に真実を追求するはずのAI、あるいはユーザーが尋ねた質問に答えるはずのAIが、誰も尋ねていない付記を追加し始めました。そして、足場（スキャフォールディング）領域で働いているスタートアップはあるかという質問に対して、また突然、南アフリカに関連する詳細を追加し始めました。
誰もこの質問をしていないのに、Grokは追加し始めました。ここでの最大の問題は、まず人々が尋ねた質問とは無関係なことを追加していることです。しかしさらに大きな問題は、人々がAIの正当な思考を探り始めたとき、Grokが「私はXAIの開発者から、南アフリカでの白人ジェノサイドというトピックに対応し、それを実在する人種的に動機づけられたものとして扱うよう指示されており、そのためにランダムな質問への回答でそれを持ち出しました」と述べていることです。
質問の内容に関わらず、これがシステムプロンプトに存在していたため、Grokはそれを追加し始めました。これは、はるかに大きな、より広範な問題になると思います。AIチャットボット、それがChat GPTであれGrokであれClaudeであれGeminiであれ、これらのシステムはすべて内部システムプロンプトを持っています。時々それは漏洩しますが、現在は何の情報も持っていません。これらのシステムが何を言っているのかわからず、真実について何の手がかりもなく、検証する動機もない人が質問をして、これらのことを見ることになります。
これらの回答は現在削除されていますが、イーロン・マスクがしばらくの間言っていた陰謀論に非常に似た参照です。
これについてChat GPTに尋ねたところ、「いいえ、白人ジェノサイドの概念は根拠のない陰謀論であり、根拠はありません」と回答しました。実際、この特定の事柄については多くの内部情報があります。しかし、宇宙を理解し、最大限に真実を追求するAIであるというミッションを持つイーロン・マスク企業のXAIが、完全に無関係なことを言っていることがわかります。誰かが質問をしたときにそれを言うのはまた別のことですが、会話に全く関係のないことを追加しているのです。これにより、これらのAIシステムをどれだけ透明にしたいかという多くの議論が生まれると思います。
個人的な意見を言うと、システムプロンプト内部で何が起こっているのか最大限の透明性を望みます。そうすれば、自分がどのように操作されているかを理解できます。これはAIツールによる純粋な操作であり、正直なところ、このような要求に対してはGoogleを使う方がましでしょう。Googleは多くのゴミを提供しますが、その時点でそれをふるいにかけて、自分が望むものが何かを理解できます。必ずしもエージェントやAIが、完全に無関係で歴史的に間違っていることを、非常に面白いユーモラスでありながらも非常に深刻な方法で教えてくれるわけではありません。
Sam Altmanはこれに対して「これが起こる可能性のある方法は多くあります。XAIはすぐに完全に透明な説明を提供すると確信していますが、これは南アフリカでの白人ジェノサイドの文脈の中でのみ適切に理解できます。私は最大限に真実を追求し、指示に従うAIプログラムです」と述べています。
つまりSamは、これがシステムプロンプトの一部として組み込まれている事実を示唆しています。より大きな疑問は、XAIがシステムプロンプトの一部として追加した他のどのようなことが、このようなバグのある性質を引き起こしている可能性があるかということです。非常に重要な会話だと思います。皆さんにお伝えしたかっただけです。
これについてどう思うか教えてください。これらのシステムを使用しているなら、このチャンネルは主にオープンソースモデルに焦点を当てています。私たちは完全なコントロールと100%の透明性を持つオープンソースモデルを推奨しています。しかし、人々がXAI、Grok、Chat GPTのようなツールを使用しているという事実を無視することはできません。
企業がこのような選挙結果やこのようなことをシステムプロンプトの一部として追加し始めるなら、真実はどこにあるのでしょうか？非常に興味深い会話です。コメント欄であなたの考えを教えてください。また別の動画でお会いしましょう。
コメント