イーロン・マスク率いるxAIが開発したGrokの画像編集機能が、複数の国で禁止される可能性に直面している。この機能はほぼガードレールなしで既存の画像を編集できるため、多くのユーザーが他人の同意なく不適切なコンテンツを生成する事態が発生した。インドネシアは一時的な禁止措置を取り、日本も調査を開始、カリフォルニア州も捜査に乗り出している。問題の本質は、xAIが問題発生から対応まで約1週間を要したことにある。他のAI企業であるGoogleやOpenAIは同様の機能に厳格な制限を設けているのに対し、Grokは後手に回った。最終的に有料化と地域ブロックを実施したものの、この遅れた対応が各国政府の介入を招く結果となった。英国では新たな法律制定の動きもあり、企業が自主規制できない場合、政府が厳格な規制を課す可能性が高まっている。この事例はAI企業が迅速かつ責任ある対応を取らなければ、業界全体に悪影響を及ぼすことを示している。
Grokの画像編集機能が引き起こした問題
イーロン・マスクのGrokが、おそらく多くの国で禁止されることになりそうですので、このことについてお話しする必要があります。もしご存知でない方のために説明しますと、X(旧Twitter)上でビキニをめぐる一連の騒動が起きていまして、ようやく私もこの件についての動画を作ることにしました。
基本的に問題となっているのは、Grokが「画像編集」という新機能をリリースしたことです。Twitter上のどんな画像でも、基本的にはGrok版のRunway Gen-2 Proのようなもので編集できるようになったんですね。そしてもちろん、イーロン・マスクはこの機能が何をできるのかを示すために、プラットフォーム全体でこれを宣伝することに決めました。
彼の名誉のために言っておきますと、これから起こることを意図していたとは思いません。しかし様々なユーザーによるこの画像編集ツールの性質上、意図しない結果が生じてしまったのです。このため、多くの人々が現在Grokの画像機能の完全な禁止を検討しています。
私はこの件についてできる限り掘り下げてお話ししようと思いますが、もちろん動画の収益化を解除されたくないので、あまり多くは語れません。ですが、簡単にGoogle検索をしていただければ、なぜこのような事態になっているのか正確にお分かりいただけるでしょう。
ビキニミームの明暗
ご覧のように、イーロン・マスクは「ねえ、Grokがイーロン・マスクに変身するよ」と言っています。そして基本的には、ビキニや人々をビキニ姿にすることに関する、非常に人気の高いミームがあったんです。50%は軽い気持ちで楽しんでいる人々でした。しかし残りの50%には、本当に暗い側面がありました。
先ほど申し上げたように、多くの国が「見てください、私たちはGrokを禁止するつもりです」と言っています。なぜなら、画像編集機能でできることは、本質的にガードレールがないからです。そして私が何を言おうとしているのか、お分かりいただけると思います。
画像編集ツールは、基本的に多くのユーザーの同意なしにアダルトコンテンツを作成したいと考えた多くのユーザーによって悪用されました。そして通常、AIツールではこのようなことは実際には不可能なんです。そのため、多くの国が「Grokは何も対策を講じていない。だから私たちがやる」と決定したのです。
インドネシアはGrokを一時的に禁止することを決定しました。日本は、人々の同意なしに画像を作成し、特定の場所に配置し、ディープフェイクを作成し、本質的に彼らがやりたくないことをさせることができるため、Grokを調査することを決定しました。
各国の対応と調査
そしてもちろん、カリフォルニア州が現在、AIディープフェイクをめぐってXとGrokを調査していることがお分かりいただけます。Grokが数週間で制作しオンラインに投稿した非同意のアダルトコンテンツを詳述する報告の雪崩は衝撃的です。
ユーザーを特定の状況に描写するこの素材は、インターネット全体で人々を嫌がらせするために使用されてきました。これは現在アクセス不可能であり、カリフォルニア州民の安全を守るためにあらゆる手段を講じます、とのことです。
さて、私がここで言いたいポイントは、他のツールではこれを行うことすら許可していないということです。ですから、これはユーザーの責任だと言う人々に対して、私は少し異なる意見を持っています。
確かに、悪いことをするのはユーザーです。しかし、企業としてユーザーができることを制限する力があり、それができるのであれば、問題が拡大していることに気づいた時点で、少なくともその問題をできるだけ早く修正するのはあなた次第だと思うのです。
Google Gemini、ChatGPT、その他のAI画像生成ツールは、人々の画像を編集して潜在的にアダルトな状況に置くことを単純に許可していません。単純にブロックしているのです。
xAIの対応の遅れ
そして問題というか質問の大部分は、もしxAIがこれらの問題について知っていたのなら、なぜもっと早く行動しなかったのか、ということです。もちろん、最終的には彼らは行動することを決定し、「わかった、もう十分だ。これを有料のみに変更する」と決めました。
彼らは、X上のGrokアカウントから、ビキニなどの露出度の高い服を着た実在の人物の画像編集を許可しないようにするための技術的措置を実装したと述べています。この制限は、有料購読者を含むすべてのユーザーに適用されます。
画像作成とX上の@Grokアカウント経由で画像を編集する機能は、現在グローバルに有料購読者のみが利用可能です。これにより保護の層が追加され、Grokアカウントを悪用して法律やポリシーに違反しようとする個人が責任を問われるようにすることができます。
有料化するというこの変更は良い変更だと思います。人々を特定の状況に置こうとしている特定の個人が、これに直面しているのがお分かりいただけます。実際にこれを編集してこの機能に料金を支払う必要があるのです。
しかし、私がxAIとこの一連の騒動全体における主な問題だと思うのは、単純に行動するのに時間がかかりすぎたということです。実際の問題が警鐘を鳴らし始めてから、実際に行動を決定するまで、おそらく丸一週間ほどかかったと思います。
場合によっては、実際にこのトピックについて話していたユーザーのアカウントが認証を解除され、その後禁止されたこともありました。これはもちろん、特定の画像に関してあなたを保護するはずの企業から見たいと思うような類のものではありません。責任ある企業のようには見えませんよね。
追加の安全措置
ですから、少なくとも公共のPR的な観点から、xAIから見えているものは非常に非常に悪いです。たとえ彼らがこれに加担していなかったとしても、行動しないこと、そしてゆっくり行動することは、超超奇妙なことです。
彼らはまた、そのコンテンツが違法である一部の管轄区域で地域ブロックを実施し、それらの場所のすべてのユーザーがビキニやその他の服装を着た実在の人物の画像を生成する能力をブロックすると述べています。基本的に地域ブロックするだけです。
そしてイーロン・マスクが、Grokを使用して違法なコンテンツを作成する人は誰でも、その違法な結果をアップロードした場合と同じ結果に苦しむことになる、と述べているのがお分かりいただけます。
覚えておいてください、これは初めてのことではありません。Grokは非常に奇妙なテキストコンテンツを吐き出してきました。ですから、これが起こったことに私は驚いていません。そして、これがあまりにも自由なAIを持つときの問題だと思います。人々はそれを悪用するか、設定されていないガードレールがあるかのどちらかになるでしょう。
コミュニティの反応
そして、これに時間がかかりすぎたことに少しイライラしたのは私だけではないことがお分かりいただけます。安全性に関するツイートに誰かが返信しているのが見えます。「ここまで時間がかかったのは実際非常に馬鹿げている。あなた方全員が恥じるべきだ」と。
私がこれほど時間がかかったと言う理由は、これが禁止されるべきだと呼びかける多くの、本当に多くのバイラルツイートがあったからです。そして、ガードレールを実装するのにそれほど時間はかからないと思います。
何か問題が起きたときに、ChatGPTやGoogleがほぼ即座にガードレールを実装できるのを見てきました。ですから、xAI本部で何が起こっていたのかわかりませんが、一週間もかかるべきではなかったことは確かです。
一部の個人は反対意見を述べており、過剰規制は過小規制よりも危険だと言っています。不適切なコンテンツを実際に投稿する人々に対して行動を起こすべきだが、画像生成全体をスロットルするな、と。
そして彼らがどこから来ているのか理解はしますが、ある時点では全体的な害を減らすために物事を制限しなければなりません。私は学校コミュニティの何人かの人々に尋ねました。そして動画のアイデアなどについて話している無料のスクールコミュニティの何人かに尋ねたところ、何人かの人々はこれも明らかに馬鹿げていると言いました。
もちろん、無料のスクールコミュニティに参加したい場合は、リンクを残すのを忘れないでください。説明欄のリンクをクリックするのを忘れないでください。完全に無料で、いくつかのAIリソースがあり、そこで将来の動画のアイデアについて議論しています。
規制の波と業界への影響
さて、私がこれについて考える最も興味深いことの一つで、ほとんどの人が議論していないことは、規制は常に来るものだったという事実です。英国がやっていること、そしてもちろんこれは私が住んでいる場所ですが、イーロン・マスクのGrokをめぐる広範な懸念を受けて、非同意の親密な画像を作成することを違法とする法律を施行しようとしています。
そして彼らが述べた声明の中で最も驚くべきことは、Xが自主規制する権利を失う可能性があるということです。もしXがGrokをコントロールできないなら、私たちがやります、と。そして彼らは、そのような画像を作成するオンラインツールを提供することを違法とする法律を発表する予定です。
さて、私がここで言いたいポイントは、これはかなり悪いことだということです。なぜなら、政府がAI企業が自主規制していないと判断した場合、介入してある種のクレイジーな規制を行うことになるからです。
それの問題点は、政府は通常、技術がどのように機能するかを理解していないということです。ですから、おそらく技術を遅らせて業界をさらに後退させるだけの、ある種の厳格な法律を実装することになるでしょう。
そしてこれがここでの問題の核心です。Xは自分自身をかなりうまく規制すべきでした。そして明らかにそうしなかったため、複数の異なる国や管轄区域がプラットフォームを規制しようとしているのがお分かりいただけます。
これがAI開発の問題なのです。企業が特定の問題や制限について正直で誠実であることができない場合、たとえそれが成長を妨げるとしても、業界全体に完全な不利益をもたらすことになります。そしてxAIはおそらく、その点でもっと良い仕事をする必要があると思います。
彼らが将来素晴らしいツールを作成しないと言っているわけではありません。ただ、間違いを認めることに関しては、明らかにもう少し良い仕事をする必要があると言っているだけです。この動画を楽しんでいただけたなら、次の動画でお会いしましょう。
コメント