YouTubeのプラットフォーム上で、幼児向けのAI生成動画、いわゆる「AIスロップ」が急増している。ニューヨーク・タイムズの記者Aria Leicaによる調査では、15分間のスクロールセッションで推薦動画の40%以上がAI生成コンテンツであったことが判明した。これらの動画は、チューブから絞り出される動物、注射で色が変わる生き物、果物のベッドで眠る子供など、視覚的に過剰刺激的で非現実的な内容が特徴である。物語の筋や教育的価値に乏しく、アルゴリズムによって大量に推薦されるこれらのコンテンツは、子供の認知発達に悪影響を及ぼす可能性が指摘されている。YouTubeの現行ポリシーでは、リアルに見えるAI生成コンテンツにのみラベル表示を義務付けているが、アニメーション形式の動画は対象外である。この状況は2017年の「エルサゲート」騒動の再来とも言え、保護者にとって子供のメディア消費を監視する負担が増大している。
YouTubeに蔓延する子供向けAIスロップの実態
さあケイシー、そろそろ子供向けスロップを見る時間ですね。
ええ、ケビン。最近YouTubeが幼児向けのAI生成スロップに悩まされているという報告を受けました。これから実際に何が起きているのか見てみましょう。
ニューヨーク・タイムズの同僚であるAria Leicaが、この件について「AI生成動画があなたの子供のYouTubeフィードをどう歪めているか」という新しい記事を書いています。記事を読んで、とても気に入りました。自分でもこのスロップを実際に見てみなければと思ったんです。そこで今日は、子供向けに作られたこの新しいジャンルのAIスロップを、ハードフォーク・スロップレビューの新しい回としてお届けします。
ハードフォーク・スロップレビューですね。
アルファベット学習動画の検証
最初は何ですか?
最初はアルファベットについての動画です。
アルファベットは知ってますか?
いつか学ぼうと思ってるんですけどね。
では、AI生成されたアルファベット動画がどうなっているか見てみましょう。
キッズTVファームアニマルズ。
今のところ問題なさそうですね。
なるほど。なぜ小さな絵の具ボトルから絞り出されているんでしょうか?ああ、これは深く不快ですね。
3歳の子供から、なぜアヒルが歯磨き粉のチューブから出てくるのかという質問に何度も答えなければならないでしょうね。
そうですね、もしあなたが3歳なら、これを知っておく必要があります。アヒルはそうやって作られるものではありません。
次の動画を見てみましょう、ケビン。
今度は何ですか?
色とりどりの雲から動物が現れるところを見ることになると思います。
緑が「ボインはジャッカル用」と言っています。
黄色いジャッカルが「おやまあ」と言っています。
ピンク色が「スピンスピンスピン」と言っています。
ライオンが「ローアー」と吠えています。
「ローアー」のRを巻き舌で発音していますね。
なぜ他の動物が医者なんでしょうか?なぜカメラに向かって走ってくるんですか?なぜクーズーがピンク色なんですか?そもそもクーズーって何ですか?この動画の対象年齢よりは少し上ですが、自分でも学んでいますよ。学んでいます。
この動画は、医者の姿をした人物がこれらの動物に色を注射するという比喩を使っていますね。
そしてその医者も動物です。
医者も動物なんです。そして…
これは反ワクチン宣伝みたいなものですか?
注射と色をテーマにした動画の問題点
実際のところ、このスロップを作っている人は、注射針が子供にとって怖いものだということを知っているんです。つまり、これは事実上エンゲージメントハックなんですよ。子供は注射針を怖がっているから、注射のシーンを見続けるわけです。これはまさに、スロップ製作者が子供の注意を引く小さくも陰湿な方法の一つです。怖いものを見せることで、子供を催眠状態にしてスロップを見続けさせるんです。
確かに、子供に注射をすると、彼らがピンク色のクーズーに変身してカメラに向かって走ってくるという貴重な教訓を教えてくれますね。すべての子供はいつかその教訓を学ぶ必要があります。
動物が乗り物に変身する動画
次のものは、ケビン、動物が装甲車やトラック、飛行機に変わるところを見せています。2026年の子供向けスロップの重要なテーマが、動物の変身であることが改めて示されています。
わあ、メカクワイルみたいなものがありますね。
Rはサイです。サイがスノート、スノート、スノート、スノートと鳴いています。
Sはヘビです。ヘビ。
これがきかんしゃトーマスのIPの正式なライセンス使用かどうか気になりますね。
ラフ。
残念ながら、あれは私には響きました。うちの子はあれに超ハマるでしょうし、絶対に見せてはいけません。
そうですね。この動画は、子供の頃に見たトランスフォーマーが変形するようなアニメを思い出させますね。なぜ多くの小さな子供たちがあれを気に入るのか理解できます。でも、これを見て気づいたのは、スロップ製作者がアルファベットを好む別の理由です。非常に短いクリップをたくさん繋ぎ合わせることができるからです。もちろん、現在のほとんどのAI動画生成ツールは、数秒までのクリップしか生成できません。だからアルファベットは、それらすべてを一つにまとめて、少なくともある程度の一貫性を保つ完璧な方法になるわけです。
教育的価値と弊害のバランス
確かに。つまり、この手のコンテンツが実際にはそれほど有害ではない世界も想像できます。アルファベットを学ぶ子供もいるかもしれません。でも、とにかく奇妙なんです。なぜなのかと思うんです。子供にアルファベットを教える動画はすでにたくさんあったのに、なぜ人々はこんなことをしているんでしょうか?
それに、私は児童神経学者ではありませんが、基本的に子供を過剰刺激するように設計された画像を作り出すことの影響について考えてしまいます。わかりますか?普通のアニメを見ているときは、相対的に静かな瞬間があったり、数分間にわたってストーリーが展開したりします。でも、生の視覚刺激を見せて子供に浴びせかけるだけでは、あまり良くないように思えます。
これで、あなたが2026年の今、子供を持っていないことがわかります。なぜなら、Coco Melonや他の非常に人気のある子供向け番組を見ると、基本的にこれと同じようなものだからです。一連の非常に短いクリップです。一つの歌をやって、それから別の歌に切り替わり、また別の歌に切り替わります。まさにこれと同じ種類の超刺激的な環境なんです。これが良いことだとは言いません。ただ、私たちはしばらく前にルビコン川を渡ってしまっていて、今や超刺激的な子供向けエンターテインメントの地にいるということです。
大きな違いは、今ではこういうものを作るのがより簡単で安価になったということだと思います。
私の考えはこうです。私が子供を持ったら、そうなることを望んでいますが、唯一許可する視覚刺激は棒の山とエッチ・ア・スケッチです。
棒の山で、子供たちは自分で楽しみを作ることができます。でも、私たちはこの道を進むつもりはありません、ケビン。
スクールバスと色をテーマにした動画
次は乗り物関連のものがあります。これはスクールバスが出てきますが、クレイジーなひねりとして、アルファベットは含まれていません。
一連の動物が色付きのバスを運転してトラックを走っています。
ああ、車輪が燃えています。
ああ、最後のバスには何かひどく間違ったことが起こりました。
これまで見た中で最も無害なものでしたね。
そうですね。
色についての基本的な情報があっただけです。バスが滑り台を下っているのは奇妙でしたが、子供がそれに催眠されるのは理解できます。でも、絵の具のチューブがアルパカに変わるようなものほど私を不快にさせることはありません。
私は子供向けエンターテインメントにあなたより多くの時間を費やしているだけかもしれません。これは驚くことでも特に不穏なことでもありません。奇妙だとは思いますし、だからこそ子供にYouTube Kidsを見せないようにしているんです。低品質だと思うし、もっと良いものがあると思うからです。でも、今の子供向けエンターテインメント全体が、こんな感じなんです。非常に明るい色、非常に大きな目を持った人々、他の何かのパクリみたいな歌。特に創造的でもオリジナルでもありません。
あなたの子供は、ダウントン・アビーしか見ることを許されていないことにどう反応していますか?
いいえ、Blueyは例外です。Blueyはまだ大丈夫です。それ以外はすべて広大な荒れ地です。
フルーツベッドの子守唄動画
Blueyといえば、今あなたは少しBlues Cluesっぽい感じになっていますね、気づきました?
ええ。私のシャツの線を繋げると、今日の言葉が何かわかります。
ああ、今日の言葉を当てた方は、hardfork@times.comまでメールしてください。
では、フルーツでできたベッドに横たわるアニメの子供たちについての子守唄で締めくくりましょう。
フルーツベッド大好きです。
何ですって?
王冠をかぶった女の子がイチゴでできたベッドに入っていますね。
明るいバナナが眠りにつきます、すべて暖かくゆっくりと。
ケイシー、フルーツベッドについてどう思いますか?
これも、私が快適に感じるよりも少しシュールなものの一つですね。子供はこれから何を結論づけることになっているんでしょうか?教育したり、楽しませたりするというより、子供を混乱させるように設計されているように思えることがあります。
NYタイムズ記者Aria Leicaへのインタビュー
確かに。その中には、うちの子が気に入りそうだなと思う動画がいくつかありました。でも、彼がそれを気に入ることが気に入りません。バスを運転している動物の群れとか、フルーツベッドに横たわっている動物を見ているようなものを見てほしくないんです。
子供はたくさんの悪いものが好きです。だから、コカインを使わせないんです。
そうですね。さて、動画を見終わったので、それらが何を意味するのか話し合う準備ができたと思います。では、同僚のAria Leicaを呼びましょう。
まず浄化が必要な気がします。シェイクスピアの劇を読むとか、Blueyのエピソードを見に行くとか。とても心温まりますよ。
Aria Leica、ハードフォークへようこそ。
お招きいただきありがとうございます。
まず最初に聞きたいのですが、これにどうやって興味を持ったんですか?どうやって知ったんですか?幼児からニューヨーク・タイムズの機密情報提供プロセスを通じて情報提供を受けたんですか?どうやってあなたのレーダーに引っかかったんですか?
幼児は記事の作成には関わっていません。倫理的な懸念があったので、彼らにこれらの動画を繰り返し見せることはしませんでした。私がこれに興味を持ったのは、プラットフォームに関係なく、私たちのすべてのソーシャルメディアフィードにAIスロップが非常に多くあるからです。このコンテンツが子供たちにどのように提示されているか、どのようにモデレートされているかについてもっと学びたいと思いました。では、多くの子供たちはどこでメディアを見るのでしょうか?YouTubeです。そこで、親が承認しているチャンネル、Miss RachelやBlueyのようなより高品質で思慮深いとされるチャンネルや、Coco Melonのような他の人気チャンネルを見ることから始めました。Coco Melonの動画をクリックして、私が幼児で、その動画のすぐ隣にある推奨動画を見たら、どんな動画が推奨されるだろうかと考えました。多くのAIツールがこの縦型フォーマットをデフォルトにしているため、YouTube Shortsに焦点を当てました。そして、フィードをスクロールし始めて、見たさまざまな動画をメモしていきました。実際、同僚の一人がツールをコーディングして、私が画面と実際にはやり取りしないようにしたので、アルゴリズムに影響を与えず、ただスクロールダウンするだけで、見たすべてのリンクをメモしていきました。その後、これらの動画をフレームごとに分析して、どの動画がAI生成されたものかを判断しました。
調査方法と発見
通常のYouTubeを使っていましたか、それともYouTube Kidsですか?
多くの親が自分のYouTubeアカウントを子供に使わせる傾向があるため、プライベートブラウザで通常のYouTubeを見ることから始めました。でも、YouTube Kidsも調べました。子供向けに承認されたコンテンツがあるはずの、より管理された環境だからです。
このプロセスを始めたとき、どんな期待がありましたか?そして、全体のうちAI生成されたものをどのくらいの割合で見ることになりましたか?
特にMiss RachelやBlueyのようなチャンネルを見ていたとき、それらの番組に沿った、より多くのコンテンツを見ることを期待していました。もっとBlueyのショート動画とか。でも、実際にはそうではありませんでした。AI生成コンテンツがこれほど多く推奨されていることに驚きました。たった一つの15分間のセッションで、スクロールしている間に、40%以上の動画がAI生成されたものでした。
わあ。
それをどうやって判断しているんですか?これらを解析する何か検出システムのようなものがあるんですか?
検出システムは動画を見ることです。
いや、つまり、たとえば絵の具チューブから絞り出されるアルパカのような動画があったとしたら、それは明らかにフォトリアリスティックではありませんが、CGIソフトウェアか何かを使って作られた可能性もあります。これがAIだとどうやって判断したんですか?
いくつかの動画は少しわかりやすかったですが、フレームごとに見て、不一致を探しました。場合によっては、背景にオブジェクトが突然現れたりしました。背景のテキストが歪んでいました。背景に動物がいた場合、それが何か別のものに変形しました。一部の動画は、アニメーションであっても、実際に合成メディアとしてラベル付けされていました。それから、YouTubeチャンネルを見て、過去数年間にどんなコンテンツを投稿していたかを把握しました。この技術が本当に改善された過去2年より前から存在していたチャンネルの中にも、過去数か月間に投稿していたものとは全く異なる、非常にシンプルで低品質なアニメーションを作っていたものがありました。
YouTubeのポリシーと課題
Aria、私はYouTubeについて多くの取材をしてきましたが、数年経っています。今日、この種のコンテンツに対する実際のポリシーはどうなっていますか?
いくつかのチャンネルを例として送り、子供向けに作られているAIコンテンツにフラグを立てることについてのポリシーは何かと尋ねました。それにはアニメーションコンテンツも含まれます。彼らは、コンテンツクリエイターはリアルに見えるコンテンツにラベルを付けることが求められていると言いました。場合によっては、クリエイターがコンテンツにラベルを付けていないことがわかりました。綱渡りで体操の技を披露するゾウのように、その動物が実際にはしない行動を示す動物の動画のことを指しています。たとえば、これらの動画は合成メディアとしてラベル付けされていませんでした。一部のクリエイターはアニメーション動画にラベルを付けていましたが、それはYouTubeのポリシーの一部ではありません。つまり、子供にAI生成メディアを見せたくない親にとって、これはどんな種類の動画なのかを判断する負担が親に課せられているということです。それだけでなく、動画をクリックスルーして初めて合成メディアのラベルが表示されます。YouTubeの子供向けコンテンツに関しては、YouTubeはコメントを許可していません。AI生成動画がある場合、コメント欄で「これはAIです」と人々が言うことがあります。でも、この場合、親同士がその動画について実際に話し合うことができません。
これらの種類の動画に対して、親からの反発はすでに見られていますか?親の中には、見ているものに動揺している人はいますか?
いくつかのRedditフォーラムで、子供向けのこのAIスロップをどうやって回避するかを尋ねている人々を見つけました。YouTubeにフィルターがあるかどうか。プレイリストを作ることを勧める親もいました。他の親は「YouTubeから完全に離れろ」と言っていました。アルゴリズムがこれほど多くのこのコンテンツをプッシュしているため、子供が何を見ているかを親が注意深く監視することにも多くが依存すると思います。
もちろん、YouTubeの全体的なポイントは、子供と一緒に時間を過ごさなくて済むように子供に見せるものですよね。悪い意味ではなく、夕食を作らなければならないかもしれません。でも、親は忙しいんです。
もし親が子供と一緒に座ってYouTubeを見ていたら、この状況にはなっていなかったでしょう。
子供への実際の影響
4歳近い子供の親として言わせてもらうと、子供がこういうものを見ているのを見つけたときが何度かあります。見てはいけないときにYouTube Kidsアプリに入ったりして。私の感想は、これが子供に害を与えているというものではありません。ただ、これは本当に悪いということです。品質が本当に悪いんです。Aria、これが子供に与える実際の影響について何かエビデンスがあると思いますか?実際に害を与えているという心配なのか、それとももっと良いものを見ることができるのにという心配なのか、私たちは何を知っていますか?
考慮すべき要素がたくさんあります。これらの動画には余計な効果が含まれており、動画にこれらすべての装飾的な要素が含まれていると、子供は同様に学べないことがわかっています。また、物語のアークがありません。子供にとって、始まり、中間、終わりがあり、共感できる馴染みのあるキャラクターが登場するコンテンツを見ることは本当に有益です。子供が理解できる短いフレーズを使用し、これらの抽象的な概念を特徴としないコンテンツ。最悪の場合、これらの動画の多くは空想的で、子供にとって認知的に過負荷になる可能性があります。短編コンテンツに関しては、専門家は5歳未満の子供について、彼らの注意システムがまだ発達中であることを知っています。急速な変化に追従することは彼らにとって難しく、特に動物が奇妙な行動を示すような、よりリアルで空想的なコンテンツを見ているとき、その情報を処理することは子供にとって大きな負担になります。
私が育った1900年代、ケビン、私はHe-Manを見ていました。覚えていますか?
はい。
剣を持ってトラに乗ったゲイの男についてのアニメでした。若い…
彼は正式にゲイだったんですか?
正式にではないと思いますが、行間を読んでください。
わかりました。行間を読みます。わかりました。
若いゲイの子供として、私はそれを見て共感することができました。そして、物語は空想的でしたが、Ariaの指摘したように、始まり、中間、終わりがありました。世界のあり方について正確に教えてくれたわけではありませんが、ストーリーテリングや物語について何かを教えてくれたかもしれません。ただ、生の点滅する形や色のようなものではありませんでした。
プラットフォームの責任と過去の教訓
子供を持つ前、2017年か2018年頃だったと思いますが、YouTube Kidsについてこの議論をYouTubeの人々としていたのを覚えています。当時はこれらの奇妙な動画についての議論や懸念がありました。当時はAI生成ではありませんでしたが、奇妙なCoco Melonのパクリのようなものでした。これらのYouTubeの人々に言ったのを覚えています。あなたたちはこのやり方を変えなければならない。非常に幼い子供にコンテンツを提供するチャンネルをデフォルトで許可するのではなく、ホワイトリストのようなものを設定する必要がある。たとえば、あなたのストーリーには始まり、中間、終わりがあり、何か考えが込められていることを証明すれば、YouTube Kidsに参加できる。でも、Coco Melonのパクリを量産しているだけのコンテンツファームなら、参加は許可されない。それで、Aria、YouTubeにこれについての懸念や検討があると感じますか?それとも、基本的に、もっと大きな魚を揚げなければならないという感じですか?
これらの動画は私に何度も推奨されていますし、これらのチャンネルも何度も推奨されています。私は11月からこれらの動画を見続けています。
それはあなたの脳に何をしましたか?
アルファベットは知っていると思います。
知っています。アルファベット。そして、それらの歌は本当に頭に残りますよね。
ああ、信じてください、わかります。私にとってとても魅力的なのは、PBS Kidsのようなより思慮深いコンテンツよりも、これらの動画がはるかに多く推奨されることです。PBS Kidsもショート動画を出していますが、PBS Kidsよりもこれらの方が多く見られました。
エルサゲートの再来
ケビンの質問をエコーする意味で、これは2017年のエルサゲートについて考えさせられます。親がYouTubeで多くの本当にシュールなコンテンツを見て、非常に動揺したあの論争です。そのような反発はまだ見られていないようです。実際には、ある意味でコンテンツが実際により良くなっていると感じているからでしょうか?それとも、ほとんどの親が、子供に提供されているかもしれないスロップの量に実際には気づいていないだけなのでしょうか?
これらの動画の多くはアニメーションであるため、一部の親にとって、これらがAI生成であることが明らかではない可能性があります。でも、私たちはより限定された環境で作業していました。YouTube上の他の場所では、子供が好きな人気キャラクターが非常に暴力的なシナリオに登場する動画が非常に多くあります。Mashaと熊というショーがあって、Mashaと入力したときに、Mashaのお腹が切り開かれている動画に出くわしました。そのチャンネルはこれらの動画をアップロードしていて、私が記事でそれらの一つにリンクを張るまで、YouTubeはそれらを削除しませんでした。
わあ。K-popデーモンハンターズの映画に夢中になっている子供を知っている人はいますか?それらのキャラクターを特集したひどい動画がたくさんあります。そして、それも無意味です。時々、キャラクターが妊娠していて、それらもすべてYouTubeにあります。それらのキャラクター名を入力すれば出てきます。
ちなみに、それがまさにエルサゲートのスキャンダルでした。アナと雪の女王のエルサが妊娠している様子がYouTube中に見られたんです。つまり、これは本当にエルサゲートの続編に過ぎず、Ariaのストーリーまでレーダーに引っかからなかったのが興味深いと思います。
そして、以前は、それをするにはある程度のアニメーションスキルが必要でしたが、今では誰でも数分でこれができます。だから、このコンテンツがもっと見られるようになるでしょう。
レコメンデーションアルゴリズムの問題性
ここで非常に陰湿なのは、これらの動画を作っている人々が、普通の子供たちがK-popデーモンハンターズやMasha the Bearを検索することを当てにしているということです。そして、知らず知らずのうちに、推薦アルゴリズムを通じて、熊が切り開かれたり、妊娠したデーモンハンターのようなスロップを提供されることになります。これこそYouTubeの責任があるところです。YouTubeは、この非常に不穏なものを子供に見せるつもりはないと言うべきです。
私が知っている幼い子供を持つ親の間では、まさにこの理由で、YouTube Kidsであっても子供にYouTubeを見せない人がほとんどです。Masha the Bearから始まるかもしれません。K-popデーモンハンターズの動画から始まるかもしれません。BlueyやCoco Melonから始まるかもしれません。でも、夕食を作るために10分間離れて戻ってくると、推薦から3回目のホップで、スパイダーマンが手術台の上にいるような奇妙なAI生成のものを見ているんです。私たちはここで何をしているんでしょうか?
これらの推薦アルゴリズムがすべて全く同じように機能することが判明したからです。ラインを越えそうな動画を見つけ、他のどれよりも多くのエンゲージメントを得ていることがわかり、それがフィードに表示されます。だから、この話を何回見直さなければならないんでしょうか?本当に落ち込みます。
YouTubeのようなプラットフォームがこれについてもっと行動を起こすまで、Aria、短期的に親は何ができますか?子供にYouTubeやYouTube Kidsを見せるつもりなら、AIスロップをオフにするために何かできることはありますか?それとも、それと折り合いをつけなければならないだけですか?
親ができる対策と今後の展望
フィルタリングに関しては、現時点でそうするオプションはありません。1月に、YouTubeは親がYouTube Shortsに時間制限を設定できるコントロールを追加すると発表しました。このAIコンテンツの多くがYouTube Shortsで見られるので、それはオプションになるかもしれません。
スロップウォッチと呼べばいいですね。ストップウォッチのようなものですが、スロップ用です。
これらすべてが負け戦なのかと思います。
Kevin Roose、今日はニヒリズムをスタジオに持ち込まないでください。
ただ、Tung Tung Tung Sahurや、TikTokからのすべてのAIスロップのような、年長の子供たちに何が起こっているかを見てください。老人がFacebookでAIスロップに引っかかり、中年の人々がXやInstagramで引っかかるのを見ています。私たちは、あなたにとって最も魅力的なスロップが何であれ、それに引っかかる生涯にわたるパイプラインのようなものを作っているように感じます。
それを持ち出してくれて嬉しいです。なぜなら、まとめに入るときに考えているのはそれだからです。今は子供への懸念について話していますが、年長のティーンエイジャーや大人も同じ問題を抱えていると思います。TikTokやInstagram Reelsを開くと、彼らを催眠するように設計されたものが表示されます。色や形やアルファベットではないかもしれませんが、基本的な考え方は、脳をオフにして、できるだけ長く生の視覚刺激を経験するというだけのようです。
Aria、魅力的な記事でした。この調査をしてくださり、これらすべての子供向け動画を見てくださって、本当にありがとうございます。私がそうする必要がなく、子供を守ることができます。感謝します。チームのために犠牲になってくれましたね。
本当に、Aria、これに関してはチームのために犠牲になりましたね。
本当にありがとうございました。
コメント