20,152 文字
はい、みなさん、ご来場ありがとうございます。私はJason Kevler、404 Mediaの共同創設者です。皆さんにお越しいただき、本当に感謝しています。まず最初にAIスロップについてお話しし、その後で404 Mediaについて少しお話します。他の人とおしゃべりするために来られた方もいると思いますが、もしお話されるなら後ろの方でお願いします、ありがとうございます。
さて、Sam Coleをご紹介します。こんにちはSam。
「こんにちは、皆さん。404 Mediaの共同創設者のSamです。皆さんにお会いできて本当に嬉しいです。今日の午後は少し変わった内容についてお話しするので、楽しみにしています」
そしてこちらはBrian Merchantです。自己紹介をどうぞ。
「はい、404の名誉メンバーというか、関係者です。テックジャーナリズムの世界での同志ですね。以前はこの二人とMotherboardというメディアで一緒に働いていました。そのメディアは派手に沈没してしまいましたが…今日はこのモダンジャーナリズムの英雄たちと一緒にいられて嬉しいです。もう一度拍手をお願いします。404 Mediaが独立系テックジャーナリズムでやってきたことは本当に素晴らしく、私たちはそれを必要としています」
このパネルは45分間、Brianが私たちに素晴らしいことを言い続けるので…冗談です。私は人工知能とソーシャルメディア上のAIスロップに非常に夢中になっています。
簡単にいくつかのスライドをお見せします。私の考えでは、AIスロップは本質的に私たちの現実の性質を制御するアルゴリズムに対するブルートフォース攻撃です。これは大げさに聞こえるかもしれませんが、実際に起きていることだと思います。
私はおよそ18ヶ月間AIスロップについて書いてきました。最初は「エビのイエス」や、Facebookで非常に拡散されていたAI生成画像についてでした。しかしこれはFacebookだけの問題ではなく、Instagram、TikTok、YouTubeにも及んでいます。そして、これらすべての周りには完全なコンテンツ作成工場のような仕組みがあります。
ここ数年で見てきたものをいくつか簡単にお見せします。コーラのボトルで作られたイエスの画像が数十枚あり、貧しい子どもたちと一緒に写っています。こちらにはマリファナとフライトアテンダントのイエスもいます。こちらはインドのYouTuberで、FacebookにAIスパムを作る方法を人々に教えています。
このような内容について数ヶ月間書いた後、私はそれがどこから来たのかを調べることに取り憑かれました。そして、これらの奇妙なAI画像はすべて、Facebookクリエイタープログラムを通じてFacebook自体から直接収益化されていることがわかりました。このプログラムは、画像の拡散度に応じて広告収入の一部を提供しています。
インド、ベトナム、フィリピン、そして一部アメリカにもいる副業系の人たちが、AIスロップを作り出してFacebookにスパムする方法を教えています。このYouTubeで有名になった人は、葉で作られた列車の画像を作成し、Facebook上で大バズりして431ドルを獲得しました。現在、彼はそれをどうやったかについて20以上のポッドキャストに出演しています。
世界中に何千人もの人々がいて、バイラルになることを期待してインターネットに投稿するためのコンテンツを作り出しています。最初はイエスの画像や、草でできた奇妙な列車のようなものでしたが、ハリケーンヘレンが起きたとき、この画像が非常に拡散されました。これは実際には存在しないものです。しかし共和党全国委員会の責任者は、画像が本物かどうかは気にしないと言っています。その雰囲気が本当のように感じられるからです。
今Facebookをスクロールすると、イーロン・マスクの何万もの異なる画像や動画が見られます。イーロン・マスクがUFOや1万ドルのマイクロハウスを発明したというような、インスピレーションポルノとでも呼ぶべきものです。これらの画像の多くは10〜15のいいねを持ち、他のものは700万のいいねと何十万ものコメントを持っています。明らかに多くの人々が、それが本物か偽物かを区別できません。
これはFacebookを超えて、図書館、TikTok、SEOスパムなどに拡大しています。公共図書館から借りられるAI生成の本もあります。例えば「AIによるフェイスレスYouTubeチャンネルの収益化」などです。
私がこの戦略をブルートフォースと呼ぶのは、彼らが本質的にアルゴリズムの弱点を探し、何かが効果を発揮するとわかるとそれをたくさん作るからです。これを教える複数のインフルエンサーがいて、月額50ドルでSlackコースやDiscordチャンネルを提供し、やり方を教えています。
Daniel Bitttonという人物から自動的に毎日メールが来ますが、彼はYouTubeショーツでバイラルになることをシリアルキラーになるようなものだと例えています。アルゴリズムにはパターンがあるからです。ここで重要なのは、「現在AIは作業の95%を行い、アルゴリズムが実際に飢えているものを与える準備ができている」という部分です。
プライベートジェットで飛ぶMusaという17歳の少年からの別のメールもあります。彼はこれらのプラットフォームにスパムを送ることで金持ちになったと言い、同様に「アルゴリズムにその仕事をさせよう」と言っています。
では、私のInstagramフィードがどのように見えるかを簡単にお見せします。一部はグロテスクなので警告しておきますが、おそらく大丈夫でしょう。イエスが死神と戦っているものや、これがなんなのかわからないものなど。これは編集していません。Instagramを開いてリールをスクロールするとこのような内容が表示されます。この恐ろしい津波で多くの人が亡くなったもの、このようなものです。
野火に関する多くのコンテンツもあります。LAの山火事に関する偽情報です。これは3万9000のいいねがついています。「古代エジプトでピラミッドがどのように建設されたか」という巨大な人物の画像や、人魚のコンテンツなども大量にあります。
最後にお見せするのは、Instagramで非常に人気のあるAIインフルエンサーです。51万9000のいいねがついているこれや、三つの胸を持つ女性などがInstagramでかなり人気です。
皆さん、どう思われますか？ありがとうございます。恐怖で逃げ出さずに残ってくれてありがとうございます。勇敢ですね。汗をかいているのが見えますが大丈夫ですよ。
Samも、AIスロップとそれがどのように危険になり得るかについて多く書いています。AIによって生成されたキノコの食べ方ガイドなどについてですね？
「ええ、このスロップを見るのは本当に面白いですね。まず、『スロップ』という用語が気に入っています。おそらくJasonが作った言葉だと思いますが、誰かが考えたものでしょう。
AIスロップは面白いのですが、私たちはジャーナリストとしてこれを見ており、なぜこれが起きているのか、その背後にある変わった経済システムは何なのかを考えています。
視覚的な例だけでなく、テキストベースの形式のLLMやAIスロップもあります。404を始めた頃、最初の記事の一つはAmazonにあるキノコ採集のためのAI生成本についてでした。これは明らかに間違えると大変なことになる非常にニッチな趣味です。ニューヨーク菌類学会がこれを命に関わる問題として指摘していました。
野生のキノコを間違って食べると非常に深刻な事態になる可能性があります。これらの本は「問題ない、調理して食べるだけでいい」などと言っていますが、この本には人間の専門知識が全く関わっていません。しかし明らかにこれらの本は売れて、人々は買い、Amazonはお金を稼ぎ、販売者もお金を稼ぎます。
これらの画像がどうやってお金を生み出すのかについて少し詳しく話すと思いますが、笑わざるを得ないほど荒唐無稽でありながら、本当に怖いことでもあります」
Brian、あなたはAIによる自動化について多く書いていますが、AIスロップが10代の若者のために作り出している仕事についてはどう思いますか？Instagramでスパムを送る若いコンテンツ農家のことを考えてあげる人はいないのでしょうか？
「そうですね、それは本当に良い指摘です。このような内容を笑い飛ばしたり無視したりするのは簡単ですが、Samが話していたように、もし数冊のキノコ採集ガイドが一般の人々の手に渡り、それがアルゴリズムによって作成されたものだということを適切に理解していなければ、非常に危険になる可能性があります。
そのような端のケースでは、より広範な経済に対して不釣り合いな影響を与えています。AIスロップ（画像とテキストの両方）で特にクリエイティブな分野に氾濫させることで、徐々にこれらのものの市場を侵食しています。これは全く新しいことではなく、人々がブログを始めたり、インターネットコンテンツを集約したりし始めた頃から始まったプロセスだと言えるでしょう。
しかし、これほど大規模に、そしてこれほど簡単にスパムを送ることができるようになったことで、長期的な影響を軽視することはできません。私は『Blood in the Machine』という本を書きました。これは私のニュースレターの名前でもあり、今起きていることの多くを記録しています。
産業革命時の職人労働者、布工との間に多くの並行点を描くことができます。大量生産と自動化のこれらの技術が、熟練労働者の締め出しを可能にしました。多くの並行点があります。そして、これらのコンテンツは良質である必要はなく、単に「十分に良い」だけでよいのです。
Jasonが先ほど見せてくれたコンテンツの一部はかなりグロテスクですが、他にも皆さんがより頻繁に目にするかもしれない、徐々に他のものに取って代わられているコンテンツもあります。誰かのニュースレターやSubstack、ソーシャルメディア、あるいは企業のプレゼンテーションに使われているかもしれません。
このようなコンテンツが馬鹿げていると認識し、ほとんどの場合、人々はその芸術的な質に反対すると思いますが、それでも勢いを増すにつれて実際の影響を与える可能性があることを認識する必要があります」
私が皆さんに理解してほしいのは、これについて書いてきた中で、多くの人が「本当にこれを現実だと思っている人がいるのか？コメントしている人々は本物なのか？」と言っていることです。Facebookのコメントをスクロールして、これらに反応している人々が本物なのか、それともボット自身なのか、何らかのエンゲージメントメカニズムがあってこれらをバイラルにしているのかを判断しようと長い時間をかけました。
結論としては、それは混合していると思います。確かにある程度の自動化が行われていて、最初の1000いいねなどがアルゴリズムで始動させるかもしれませんが、このAIスロップのターゲットは他の人間ではないと思います。これを作る人々はまさにそう言っています。対象は人間ではなく、アルゴリズム自体です。アルゴリズムをゲームにして、それが人間のフィードに表示されるようにすることが目的です。
もし何かが1億人に表示され、その中の数人がいいねをしてコメントすれば、それで十分なのです。Instagramのアルゴリズムについて私たちが知っていることでは、リールを開いて最初の3フレームで人間がクモに変わるのを見れば、「これは何だ？」と思ってそこに留まるでしょう。それがアルゴリズムにとって「これは興味深いコンテンツだ」というシグナルになります。
ライターとして、また多くのアーティストと協力している私たちは、「これはソーシャルメディアで良い成績を収めるだろうか？アルゴリズムで良い成績を収めるだろうか？」と考えることがあります。私が非常に深く取材した記事を1週間かけて書き、それが多くのエンゲージメントを得られず、アルゴリズムで良い成績を収めなかったとします。一方で、これらの人々は3分で1000の画像を作り、即座にそれを繰り返すことができます。
これは人間が作成したコンテンツを溢れさせるだけでなく、彼らはこのすべてのものをA/B/C/D/Eテストし、何かが効果を発揮すると、より多くのものをスパムすることができ、それによってわずかなセントを集めることができるという効果があります。
「重要なのは、プラットフォームはこれが起こることを気にしていないか、むしろ喜んでいるということです。なぜならそれはより多くのコンテンツであり、発火すればより多くのエンゲージメントになるからです。FacebookはコンテンツがAI生成か人間生成かを本当に気にしていません。実際、後者を優先するかもしれません。
皆さんはこれについて多く報告してきましたが、私が最初にこれを聞いたとき、正直なところ、Facebookは批判に応じてこれを抑制するだろうと思っていました。しかし、それは全く起こりませんでした」
「まったくそうなっていません。実際、Facebookは独自のAIエージェントを作ろうとし、ユーザーがAIプロファイルを作成できるようにすることについて話しています。マーク・ザッカーバーグは、あなた自身のFacebookプロファイルを持つだけでなく、あなたのためにFacebookをスパムするAIアバターを7つ持つ未来について話しています。
面白いのは、人々が私に「これの最終目標は何なのか？なぜFacebookはこれをしているのか？」と尋ねることです。Facebookについて私たちが知っていることから（常にFacebookと言いますが、他のプラットフォームも多かれ少なかれ同じです。すべてこのようなものでいっぱいです）、彼らはできる限り具体的な方法で人々に広告を出そうとしていることがわかっています。あなたの心理的プロファイルを作成し、人口統計情報を取得し、最適化された広告をあなたに提供しようとしています。
彼らが望んでいるのは、AIコンテンツがFacebookがあなたはこういう人だと思っている内容に合わせた、極めて具体的なコンテンツを提供できるようになることだと思います。奇妙なカニがイエスに変わるのが好きなら、AIが生成した無限のカニイエスのフィードをスクロールできるようになり、それに基づいて広告をターゲットにすることができます。
Facebookがこれをどのように可能にし、利益を得ているかについてもう一つ言いたいことがあります。彼らは広告ビジネスであり、長い間、Facebookで複数の広告を作ることができました。ブランドであれば3〜4つの異なるバージョンの広告を作成し、異なるメッセージをテストし、最も成績の良いものにお金をかけることができました。
最近、彼らは「Advantage Plus」というプログラムを発表しました。2〜3つの広告を作成して異なるオーディエンスに異なるメッセージをABテストする代わりに、生成AIを使って1000の広告を作成し、1000の異なるセグメントをターゲットにし、成績の良いものだけにお金をかけることができます。
現実へのブルートフォース攻撃について話すとき、それはFacebookをスパムする人々だけでなく、企業自体がこれらのツールを作成し、広告主があなたにこのようなものを常に見せるようにしていることです。個人的には、それは良いことではないと思います」
「プライベートでも話し合ったことですが、ここでも考えてみたいのは、なぜこれがすべての人にとって悪いことなのかということです。もしAIについて気にせず、あるいはAIが特定のケースでは良いと思っていても、なぜこのようなゴミが創造性の経済全体を大規模に破壊するのかということです。
アルゴリズムに向けて作業し、アルゴリズムを満足させ、アルゴリズムのためのエンゲージメントを得ることに焦点を当てると、それがみんなにどのように影響するのでしょうか。これについてBrianはかなり書いていますね。これが見た目が醜いというだけでなく、私たちがこれらのプラットフォームをどのように使用し、それにどのように貢献しているかに実際に影響を与えています」
「そうですね、それは本当にそうであり、いくつかの例外もあります。AIを実行したり画像を生成したりするための計算コストやエネルギーコストが、現在多くのモデルに価格設定されていないか、あるいは大手テクノロジー企業が運営しているモデルであれば、彼らには長期間それを行うことができる巨大な資本があります。
興味深い質問は、もしそれらのコストが計算に入れられるようになれば、それを続けることがまだ意味をなすかどうかです。画像を生成するためにほんの少しでも多く支払わなければならないとしたら、それはスパムを送り出している最悪の犯罪者にとってスロップ経済を台無しにするでしょうか？」
「現在、これを行うためのガイドはすべて、常にピラミッドの頂点にいる人がいて、下の人々にこれを行う方法を教えています。小額の料金で彼らのプロンプトやヒントなどを購入することができます。
ほとんど全員が現在、無料ツールを使用しています。ここで無料とは、生成AIツールの無料トライアルや、Bing Image Creatorのような無料のものを指します。無料アカウントでの生成が終わったら、別のアカウントを作成し、7つの異なるアカウントを持つことができます。
これはMark Andre Uberの効果のようなものです。Uberは投資家のベンチャーキャピタリストによって補助されていたため、長い間安価でした。そして今、私たちは人工知能でもそのような時期にいます。この技術に投資し構築している人々は、これに大きな損失を取っています。
おそらく彼らは永遠にそうしたいわけではないので、いつかこれが利益にならない日が来るかもしれません。私にとっての大きな疑問は、それが起こる前にソーシャルメディアが完全に破壊されるかどうかです。
先ほどお見せしたフィードのスクロールと、私が見ているものは、現時点では多くの人の経験ではないと思います。AIについて書くジャーナリストとして、「奇妙なAIのものを見せて」というシグナルをアルゴリズムに与えたからだと思います。しかし、ご覧のように、これらの動画の多くは数十万、数百万のいいねを持っています。
InstagramやFacebookで大規模にこのようなことが起き始めており、人々のフィードがこのようなもので占領され始めています。他の人間が生成したコンテンツを見つけるのが非常に難しくなり、これらのソーシャルメディアプラットフォームがすべてAIになる崩壊点がいつ来るのか疑問です。
検索でも起きています。Googleは溢れており、もちろんGoogle自体も上部にAI概要を置いています。SEO業界全体も現在AIに焦点を当てています。これは、私たちが依存している高度に独占された技術インフラとプラットフォームがある問題の反映です。
おそらくFacebookは、コンテンツファーマーが少しの利益のためにAI画像で溢れることの悪用にもっと対応するでしょう。Googleはおそらく、製品を改善し、毒キノコを食べるように指示する結果を提供しないようにするでしょう。もし彼らが市場シェアの90%を支配していないような、より実行可能な代替案やエコシステムがあれば。
これは本当に有毒なものだと思います。AIスロップを一種の「ショックトルーパー」のように考えています。これらはAI生成コンテンツの最も極端な例であり、オーバートンウィンドウを移動させ、他のAI生成コンテンツを比較的より合理的に見せます。
面白くてトピカルな例を挙げると、昨年までLA Timesのテクノロンニストでした。120人の同僚と一緒に大量解雇の一部でした。その年の終わりに、オーナーのパトリック・スンオンは「AIインサイト」と呼ばれる新機能を発表しました。
これは意見記事（現在は「声」と呼ばれています）の一部であり、誰かが意見記事を書くと、AIがその記事の政治的内容や立場を判断しようとします。「これは穏健なリベラルな記事だ」などと言い、いくつかの反例や「しかし」を提供します。ジャーナリストはみな、議論を両面から見ることを要求されることが大好きですね。
最近、この機能は問題を起こしました。私の元同僚が「私の故郷アナハイムには、かつて市議会がKKKに支配されていたという暗い過去があり、この不名誉な歴史を忘れないようにする必要がある」という記事を書きました。もちろん、AIボットは「いや、KKKはそれほど悪くなかったかもしれない。それはまったくヘイト駆動の運動ではなかったと言う人もいる」と言ってきました。
これは当然批判を招き、彼らはその記事からAIを取り除かなければなりませんでした。これはAI生成コンテンツの一例です。スロップと呼べるもので、ゴミであり、誰も本当にそれを望んでいません。しかし会社の経営陣はそれを使って価値を生み出そうとしています。
私の最後のニュースレターで冗談めかして「彼らは私をKKKを擁護するAIに置き換えた」と書きましたが、それはそのまま置き換えたわけではありません。ここでの価値の提案を見ることができます。テクノロジー企業は可能な限り安価にコンテンツを生成したり、人々にできるだけ安価にコンテンツに関わらせようとしています。
これは大手テックだけではありません。Sports IllustratedでAIスロップを使用している例や、USA TodayやCNNの一部でも見られます。BuzzFeedはすべてのレポーターを解雇し、「代わりにAIクイズを作ってみよう」と言いました。これは破壊的な能力を持つ力の台頭であり、認識される必要があると思います」
Samは、何年も前の2018年ごろにディープフェイクについて初めて書いた人です。ディープフェイクが登場した時、顔の入れ替え技術について、それが有名人や女性の非同意のポルノを作るため、つまり人々に対して性犯罪を行うために使用されていることをSamは報告していました。
政治家からの即座の反応は、「これは国家安全保障にとって本当に悪いことになるだろう。もし誰かがドナルド・トランプが核を発射すると言っているものを作ったらどうなるか」というものでした。
Samに聞きたいのは、これらのものには意図された使用法があります。あなた自身をより効率的にするため、あるいはあなたの労働者をより効率的にするために使用するなどです。しかし、これらのものが解放されるたびに、いわゆる「ユートピア的で生産的な使用法」があり、それについては延々と議論できますが、そして人々が実際にどのようにそれを使用しているかがあります。
今日まで、人工知能の主要な使用法は、女性の非同意のポルノを作ることであり、Samはそれについて素晴らしいレポートをしています。もっと聞かせてください。
「ディープフェイクがスロップの範疇に入るかどうかはわかりませんが、スロップはディープフェイク現象の派生物だと思います。
それはインターネットでも同じです。人々はインターネットがユートピア的なもので、人類にとって素晴らしいもので、良いこと、平等で美しいことしかないと考えていました。しかし、人々が本格的にインターネットを使い始め、何百人、何千人という人々がオンラインになり、実際に互いに交流し始めると、すぐに狂ったことになりました。
AIやこのテクノロジーでも同じことが起こりました。誰かが簡単に顔を入れ替える方法を見つけました。これは人々がすでにAIを使って行っていたことですが、それから爆発的に広がりました。当時話した専門家は「これは数ヶ月以内に大きな問題になるだろう」と言いましたが、実際には約3週間で人々は大量に有名人の非同意の親密な画像を作り始めました。
現在、それはより認知されるようになっていると思います。なぜなら学校で起きているからです。子供たちが今これに対処しています。これは法的にも社会的にも、インターネット規制などの面でも対処する必要があることだと思います。また、どうしてここまで来てしまったのか、なぜここまでいかせてしまったのかについても内省する必要があります。
13歳の子どもたちがAIを使ってクラスメイトのポルノを作っている状況になぜ至ったのか。これは部屋の中の大人たちが少し内省する必要があることだと思います。そして私たちはこのようなことについて非常に初期の段階で書くときに、それをしようとしています。今話し合おう、今何が起きているのかを把握して、12歳の子どもがそれで逮捕されるほど一般的になる前に理解しよう、というアプローチです。それは非常に急速な爆発です。
KKKの例は本当に狂っていますが、消費者向けの方法でも現れています。最近書いたAmazonのレビューでは、『我が闘争』のレビューが5つ星を獲得していました。人々は「非常に懸念すべき本の良い印刷だ」と言っており、その中のイデオロギーに対して5つ星をつけているわけではないのですが、AIは「人々はこれが読みやすく興味深い読み物で、真の芸術作品だと言っている」と言うのです。
AIはこのような形で入り込んでおり、今や多くの人々がそれに気づき始めています。もはやディープフェイクや奇妙なものをインターネットの深部で見るのではなく、LA Timesにもあるのです」
「ディープフェイクを長らく追ってきた立場として、ディープフェイクの制作や関わり方の性質が、最近のAIブーム（Midjourney、ChatGPT、その他の最近のAI）の再活性化以来、大きく変化したと感じますか？」
「間違いなく簡単になりました。そして非常にリアルになっています。2018〜19年当時を振り返ると、何百枚、何千枚もの写真が必要でした。だから有名人がディープフェイクの対象になっていたのです。今は1枚の写真があれば、画像だけでなく完全な動画を作ることができます。
これは私たちの同僚のEmanuelが書いているように、テキストプロンプトだけでも可能になりました。これは、この「コミュニティ」と呼ぶのは嫌ですが、テイラー・スウィフトのポルノを作る人々のコミュニティの中の誰もが、新しいAIモデルが公開されるたびにすぐに試すことです。彼らは新しいツールにガードレールがあるのか、それをなんとか回避できないかを試し、残念ながらしばしばそれが可能です」
「人間の心を周りに守るのは難しいですね」
[音楽]
私たちのサウス・バイ・サウスウェストでのイベントは、長い間404 MediaのスポンサーであるDelete Meが協賛しています。Delete Meは私が長年使用してきた数少ない製品の一つで、私の生活に意味のある違いをもたらしています。Delete Meはデータブローカーのウェブサイトからあなたの個人情報を削除することを非常に簡単にします。複数回ドキシング（個人情報の晒し）を経験した私にとって、それは本当に重要です。
データブローカーや悪意のある人々がますますあなたの情報を販売し、ドキシングしようとする中、あなた自身、あなたの家族、またはあなたの従業員にとってDeleteMeは素晴らしいものです。DeleteMeは、あなたの従業員の詳細を定期的に消去することで、これらの悪意のある人々が情報を見つけることを難しくします。
それは単純です。攻撃者は怠惰であり、あなたの連絡先情報を見つけるのが難しすぎる場合、彼らはより簡単なターゲットに移ります。DeleteMeがこれをあなたのために処理し、重労働を行うので、あなたは心配する必要がありません。彼らは情報を削除し続けるので、あなたとあなたのチームを常に露出から守ります。
これが私が個人的にDeleteMeで最も気に入っていることです。以前、私は異なるデータブローカーのウェブサイトから自分の住所を削除しようとしたとき、異なるフォームに記入し、個々のデータブローカーから自分を削除する方法を理解するのに何時間も費やしました。成功しても、別のデータブローカーが現れ、全プロセスをやり直さなければなりませんでした。DeleteMeでは、設定して忘れるだけです。
joindeleteme.comにアクセスし、コード「404media」を使用して今すぐDelete Meの20％オフを獲得してください。それはjoindeleteme.comプロモコード404mediaです。それでは、イベントに戻りましょう。
数分間、質問を受け付けましょう。AIスロップについて話したい方はどうぞ。
質問の前に一言。皆さんに来ていただき感謝します。そしてFlipboardがこれを行わせてくれたことに感謝します。本当に素晴らしいです。Flipboardに拍手をお願いします。彼らは最高です。Surfは素晴らしいので、彼らのアプリSurfをチェックしてください。
また、Delete Meからも支援をいただきました。これは私が実際に使用している製品です。そのための割引コードがあります。404 Mediaのサブスクリプションの割引コードもあります。後でそれについてもっと話しますが、皆さんご参加ありがとうございました。
「こんにちは、私はWesleyです。パワーのバランスが圧倒的に広告主側にあるように見えます。彼らがこれが問題だと判断し、より多くのビューを見ているかもしれないが、変換が薄まっていると認識できるほど洗練されるようになった場合、マーケティングではビュー数が増えることは強力な指標ですが、ビューが売上に変換されていない場合、彼らがMetaに行き、これを処理する必要があると言った場合、Metaは検証された人間視聴者の新しい層を作成するのでしょうか、彼らはCPMを下げるのでしょうか。
この潮流が変わり、それがすべてお金に関することであり、彼らが広告主に行って「実際にこれを行っている人がどれくれいいるかのスコアを得るためのこのツールを販売できる」と言えば、それが正確かどうかにかかわらず、彼らはそれを受け入れるでしょう。そうなったとき、Metaは何をするのか、CNNは何をするのでしょうか？」
「それは本当に素晴らしい質問であり、私は常にそれについて考えています。私の意見ですが、ソーシャルメディアだけでなく、私たちが見たAIスロップの多くはプラットフォーム外の広告だらけのウェブサイトや、さらに追加のAIスロップに誘導し、これらのウェブサイトへのトラフィックの多くはボットであり、それらに関わっている人々の多くもボットで、実際の人間ではありません。
これはおそらく非常に大規模なスキャンダルであり、業界の人々は理解しているかもしれませんが、現時点では適切に報告されていないと思います。これについて少し報告しようとしましたが、非常に難しいです。インターネットは非常に広大であり、Facebookのビューが本物であるか、いいねやコメントが本物であるかなどへのアクセスを得るのは本当に難しいです。
同時に、広告業界はAIが一般的に提供する高度なターゲティングや、生成AIが提供するカスタマイズ（1種類の広告を100種類の人々に見せる代わりに、100種類の広告を3種類の人々に見せ、機能しているものに資金を投入する）が、全体的にはこのすべてに加担していると感じています。
バランスを取れば、広告業界は説明責任を負わせる可能性があると言いたいですが、彼らはより良いパフォーマンスを得ている可能性があります。これはAIが実際に機能している数少ない方法の一つだからです。Metaの収益報告などを見れば、彼らは「実際、人々は今プラットフォームで過ごす時間が増えており、広告のパフォーマンスも上がっている」などと言っています。それらの数字が本物かどうかはわかりませんが、それが現在の話です。」
「これは本当に興味深い質問であり、理論的には広告主が広告費の投資リターンを見ようとするにあたって大きな意味を持つはずです。しかし、もう一度、独占の次元が設定されている場合、他にどこで広告するのか、あなたの他の選択肢は何かということになります。選択肢は非常に限られています。
Jasonが正確に指摘したように、Metaは現在好調であり、AIはそのブーミングな株式評価の背後にある理由の一つとして投資家が引用しているものです。これは歴史的にAI企業やAI空間の主要な企業の一つとは考えられていなかったにもかかわらず、Llamaやオープンソースプロジェクトなどを持っていますが、まさに広告主と投資家がAIを使用して広告を配信し、私たちが今日話してきたようなことを行う見込みに魅了されているからです。
これはMetaの株価を急激に上昇させています。これは、これらのAI技術が投資家にとって有用または興味深いか、または熱狂的かどうかが、これらの独占プラットフォーム上で行われていることを示しています。そこでは企業がそれらを非常に制御することができます」
「2つの関連するポイントを非常に簡単に指摘したいと思います。1つは、人々は生成AIを好まないと思います。全体的に見て、これは人々が望むものではないと思いますが、独占的な力の性質のため、人々の喉に押し込まれています。アルゴリズムに表示され、あなたはそれから逃れることができません。
今日見た「空港で男に変わるクモ」の動画は、Instagram によると13億3000万回視聴されていました。404 Mediaを18ヶ月間運営してきて、かなり成功していますが、それは私たちの全記事の合計視聴回数の10倍、15倍、20倍です。そしてそれを作った人は1/2秒で作ったものです。正直に言って、それはかなり士気を低下させます。しかしこれらのプラットフォームは想像を絶する規模を持っています。
私たちは人々を私たちのプラットフォームに引き寄せることができると思いますし、ますますグループテキスト、口コミ、ニュースレター、分散型のソーシャルメディアを通じて人々に到達する必要があると思いますが、インターネット上の人々の数について話すとなると、それはかなり厳しいです。
もう一つのことは、人々は今、人工知能について警戒しています。私のパートナーの叔母は404 Mediaを読んでいて、彼女は最近Facebookで見たAI生成コンテンツを私に送り、「このAIに騙されたくない」と言いました。彼女が送ったのは、絵を描いている女の子の動画でしたが、それは本物でした。この女性は苦労して自分がやっていることを記録していたのです。
すべてを溢れさせる以上に、人々はこのようなものに騙されたくないので、彼らは本物のものを見て「それはでたらめだ、それはAIだ」と言うでしょう。それは「あなたはフェイクニュースだ」または「あなたはでたらめを作っている」と言うメカニズムになりました。それは非常に警鐘を鳴らすべきことだと思います」
「AIが、あるいは企業がますます多くのものを作り出し、AIがそのデータで学習しているという考えがあります。インターネット上で見たところによると、AIがAI生成画像で学習すると、新しく生成される画像が劣化するそうです。人間が作り出したデータよりもはるかに多くのAI生成データが存在するようになることに関して、あるいはAI生成コンテンツの拡散に関して、どのような考えをお持ちですか？」
「企業はこれが問題であることを知っていると思います。これらのツールを作っている大企業、MicrosoftやMetaなど、彼らはこれを認識しており、恐れていると感じます。
UCLAかバークレーのHani Fared教授がこれについての論文を書いていますね。私は何かを期待しています。これは、Janが「ハプスブルクAI」と呼ぶもの、基本的には人間ムカデのAIで、時間とともに劣化し、自分の尻尾を食べているようなものです。
それは良い考えで、モデルが変更されなければ、それは起こっていることであり、起こる可能性があるものですが、同時にAI企業はこれが問題であることを認識していると思います。Deepseekの訓練方法の多くは、自身が生成したデータに基づいていたと思います。そのため、それはより効率的になることができました。
だから、それが私たちを救うために頼ることができるものではないと思います。それがさらに悪化するかもしれないとしても、それが起こるのを見たいと思いますが…」
「それは素敵な考えですが、だからこそ彼らはあなたのデータ、あなたのクリエイティブなアウトプットに必死なのです。それが、AI企業が単にキュービクルに座ってタイプする人々を雇っている理由です」
「AIを使ってAIフィードをキュレートしようとする企業の動きを見ていますか？Googleがウェブを検索して「あなたが望むものを取り出す」ようなやり方で、FacebookフィードやInstagramフィードなどへのゲートウェイになりたいAIを見ていますか？」
「まだ見ていませんね、彼らにアイデアを与えないで」
「それは今存在していますよね。生成AIは少し異なるものですが、アルゴリズムでキュレーションされたフィードは何年も前からありました。だからこそ、Jasonはダミーアカウントを持っていて、そこでAIを積極的に探し、それがどんどん表示されるようになりました。
良いポイントを示していると思います。ユーザーにとって十分に受け入れられるものが十分にあり、彼らがその一部をクリックすると、より多くのものが提供されるようになり、プロセスが徐々に加速すると考えるしかありません。あるいはそれほど徐々ではないかもしれません」
「部屋のこちら側で質問を受けましょう。その後で戻ります。見えていますよ、あなたに行きます。ただし、あなたの顔は見えません」
「あなたはすでにこれについて話し始めましたが、人間レベルのコンテンツがどのように調整されて、より多くの注目を集め、すべてのAIスロップを克服しようとしているかについてどう思いますか？」
「人間はアルゴリズムにどのように適応しようとしていますか？それはYouTubeを考えると、ショッキングなコンテンツ、Mr.Beastのような世界のサムネイルを変更して顔を何かにするなど、人々は少しの間、アルゴリズムを満足させるために自分の行動を微調整していました。これは暗い側面だと思います、明らかに好きではありません。
予想できることの一つは、それらの要求がより急速に変化することです。なぜなら、スパムが送られると、数分で千のイメージを作成し、そのアルゴリズムの現在の要求や要件を満たすことができると、ユーザーはすぐにそれに飽きるでしょう。だからそれは変わらなければなりません。
私たちはAIスロップでいっぱいのインターネットだけでなく、より揮発性の高いものを持つかもしれません。物事がより頻繁に壊れたり、グリッチがあったり、奇妙になったりする可能性があります」
「私のキャリアのほとんどをジャーナリストとして過ごしてきました。つまり、私は人生に継続的に失望させられた楽観主義者です。また、ソーシャルメディアの成長を通じて来て、客観的に言って世界をより悪い場所にしたと個人的に信じています。特に生成AIやメディア全般に関して、「大丈夫だろう」から「完全に終わっている」までのスケールでどこにいると感じるか、あなたに、そして可能なら聴衆にも尋ねたいと思います」
「私もいつも楽観主義者です。永遠に楽観主義者であり続けます。状況は私の生涯でアメリカのジャーナリズムにとって最悪だと思いますが。今は絶対に列車事故のような状態です。
LA Timesの前、私はMediumにいました。そこでは編集スタッフ全員が一斉に解雇されました。その前はViceにいました。そこは破産し、現在は一部プライベートエクイティ企業によって所有されています。これはほんの一例で、今日働いているほとんどのジャーナリストは似たようなホラーストーリーを持っており、それは業界全体の軌跡を反映しています。
軌跡が無制限に続き、私たちが政策介入を求めて闘わず、これらの逆流する傾向に抵抗しなければ、はい、私たちは本当に災害的な危機モードにあると思います。
ジャーナリストが戦い返す一つの方法は、これらの素晴らしい人々がやったように、独立したメディア企業を立ち上げ、異なるルールでプレイし、適応することです。地方ニュースは本当に今、死のスパイラルレベルにあり、そこでは新しいツールが必要です。
ところで、現時点で最も人気のある地方ニュース出版物の一つがAI生成のニュースレターで、アメリカの何千もの町に送られていることをご存知ですか？」
「それは知りませんでした。一方で、何十万人もの人がいるカリフォルニア州シリナスの都市は最近、新聞に一人の編集者しかいなくなりました。フルタイムのレポーターはいません。市議会の会議や地元の不動産会社で何が起きているか、これらの責任の多くが引き受けられていないため、誰も知らないという状況を想像できます。
これらのツールについてより批判的になる必要があります。メディア企業は過去20年間彼らのお昼ご飯を食べてきたテクノロジー企業と提携したり、パートナーシップを結んだりする悪い実績を持っています。私の謙虚な意見では、「動画へのピボット」のメンタリティと、新しいライセンス契約を結んだり、AI企業とパートナーシップを結んだりして、彼らのルールに従って常にプレイしようとすることは、私たちをさらにこのスパイラルに導くだけです。闘うときが来ました」
「私はそこから引き上げることができると思います。あなたは100%正しいですが、人々がどのようにアルゴリズムに適応しているかという質問に戻ると、アルゴリズムに適応し、アルゴリズムを満足させようとするか、これはSEOゲームであり、ジャーナリズムにおける動画へのピボットなどですが、または大部分それから自分自身を抽出することができます。
これは人々が始めていることだと思います。私たちはメールニュースレターで大きな方法でそれを行っています。私たちは人々と直接話したいのです、どのようなアルゴリズムが私たちのコンテンツを彼らに提供するかを通じてではなく、彼らが私たちが書いていることに関心を持っているから彼らと話したいのです。
Brianのような人々が『Blood in the Machine』を書き、SEOゲーム、Googleアルゴリズムゲームなしに直接読者に届けていることを見ています。そして私はそれが本当に希望に満ちたことだと思います。業界が完全に混沌としているにもかかわらず、皮肉にも私はジャーナリズムについてこれまで以上に希望を感じています。なぜなら人々は「異なる方法でやろう」と言っているからです。別の方法でやることができると思います」
「BrianとSamが言ったことすべて、そして周りを見てください。ここには150人、200人、多くの人々がいます。多くの人々がこれに関心を持っています。Flipboardが行っていること、Ghostが行っていること、独立メディアだけでなく分散型ソーシャルメディアの周りの信じられないエネルギーを見てください。
私たちは正しい道を進んでいると思います。Wikipediaからの何人かの人々もここにいます。おそらく人類が今までに行った最大の協力プロジェクトの一つです。だから、私が言ったことや見せたことすべてにもかかわらず、私は楽観的です」
「AIスロップの自動視聴者を脇に置いて、どのようなグループが道具として使われているかを考えることができますか？例えば、非常に若い人々、子供向けコンテンツは大きな一つでした。そして今、高齢者もiPadに依存するようになっており、それが問題になっていると言われています。
そして真ん中には、例えばヒップスターなどがAIを皮肉的に使用して、ヴァンスの頭を爆発させたりしていますが、それがジョークを理解していない人々に消費されているようなケースがあります。他にも、スロップを増幅したり、異なる理由で使用したりしている人間のセグメントはありますか？」
「質問は、このようなものを増幅させることに責任のある人口統計があるかどうかというものです。それは排他的ではありませんが、Facebookの多くの高齢者です。私はFacebookでバイラルになった非常に多くのAIスロップ画像をスクロールしてきました。それはFacebookに多くの時間を費やす人々です。
Facebookが初期の段階でこれに最も影響されやすいことが判明したのは驚くべきことではないと思います。なぜならそれは高齢の人口統計でより人気があるからです。若い人々がそれに騙されたり、促進したりしないという意味ではありませんが、AIリテラシーの側面やニュースリテラシーの側面があると思います。
インターネットはこの時点で本当に複雑な場所であり、Facebook自体は本当に肥大化して扱いにくいUIです。最近Facebookを使ったことがありますか？それは完全に混乱しています。人々がそれをナビゲートできないことは驚きではありませんが、Facebookが長い間存在しているので、他のソーシャルメディアプラットフォームよりも長い時間崩壊する時間があったため、他のプラットフォームの将来を見ているようなものだと思います。他のプラットフォームがそれに影響されないというわけではなく、非常に影響されやすいと思います」
「これは良い場所です。もう一つ質問があります。その後休憩を取り、おそらく商品テーブルを設置するので、皆さんが購入できるようにします」
「こんにちは、私自身ソーシャルメディアの創設者です。主流のプラットフォームでどれだけ多くのソーシャルメディアアカウントがボットであるか、しかも非常に説得力のあるボットであるかの証拠をたくさん見てきました。AIスロップの背後にいる実際の人々について多く話してきましたが、これらのアカウントと誰が本物で誰がそうでないかをどのように区別できるのか、もっと知りたいと思います。なぜなら彼らは非常に説得力を持つようになったからです」
「私はWikipediaのAIスロップに関する記事を作成しました。それは更新が必要です。なぜならそれがAIスロップがAIスロップについて学ぶ主な方法だからです。主にWikipediaを取り込むことによってです。もし人々が会話に影響を与えたいなら、その記事はそこにあります。ありがとうございます」
「質問は何だったのでしょうか？こちらでは何も聞こえません。質問はAIスロップをどのように認識するかでしょうか？それを作成するアカウントとそれに関わるアカウントについてですね。これについて30分ほど話せますが、後で個人的に見つけてください。
しばらくの間、AIで生成されたものは見た目が悪かったため非常に簡単に見分けられました。AI業界では「これが最悪のときで、常に改善されていく」という言い方があります。実際にそうなっていると思います。何十万ものAIスロップビデオや画像を見てきた人間として、今はもう単に誰かの手を見て6本指があるかどうかでは判断できません。かなり改良されてきました。
まだ透かしが入っているものもありますが、それは人々が実際にはAI生成かどうかを気にしていないことを示唆していると思います。それに関わっているアカウントについては、私はそれらの多くが本物だと思う理由について記事を書きました。彼らのFacebookプロフィールを調べ、AIスロップについてだけ投稿しているのか、自分自身の実際の画像を投稿していたのか、他の本物に見えるアカウントとコメントしていたかなどを見ていました。
これは大規模にはできませんが、「これらの人々は本物なのか、そうでないのか」という考えに取り憑かれていたので、AI生成コンテンツに関する多くのコメントをクリックして、人々が本物かどうかを調べるのに数週間費やしました。答えは、一部は本物だということです」
「AIスロップとジャーナリズムの衰退のすべてのこの話で、私は飲み物が飲みたくなりました。ここで終わりにしましょう。繰り返しになりますが、404 Mediaは本当に素晴らしいことをやっています。独立ジャーナリズムを支援し、404 Mediaを購読してください。そして、最後まで来たので、今明かしますが、彼らが書いたすべての記事はAIによって作成されました。冗談です、ありがとうございました」
「オープンバーです。もっと質問がある方は私たちを探してください。こんにちはと言ってください。私たちは皆フレンドリーな人間です。ありがとうございました、皆さんがここにいることは世界を意味します。ありがとうございました」
コメント