Robloxは1億5000万人の日常利用者を抱える巨大ゲームプラットフォームとして、近年子供の安全性をめぐる深刻な問題に直面している。複数の州から訴訟を起こされ、プラットフォーム上での性的搾取やプレデターの存在が指摘される中、共同創業者でありCEOのDave Baszuckiが新たな年齢確認技術の導入について語った。顔認証によるAI年齢推定システムを導入し、チャット機能の利用に年齢制限を設けることで、匿名の大人が未成年者と自由にコミュニケーションできた従来の状況を改善しようとしている。しかし、なぜこれまで対策が遅れたのか、AIモデレーションは本当に有効なのか、プラットフォームの規模拡大と安全性のバランスをどう取るのかという厳しい質問に対し、Baszuckiは技術革新と責任の重要性を強調しながらも、時に防衛的な姿勢を見せる。1億1000億時間という途方もない利用規模を誇るRobloxの安全対策は、子供向けオンラインプラットフォーム全体の未来を占う試金石となっている。
Robloxの安全対策とその課題
あなたは、技術が十分に進化して、Robloxのような規模のプラットフォームでモデレーションに使えるようになったと確信していますか。私たちが扱っている規模は本当に途方もないものです。プラットフォーム上にプレデターの問題があるとは思いませんか。私たちは、プラットフォーム上の人数と利用時間に対して、本当にこの先どうなっていくのかという未来に深く踏み込んで、素晴らしいイノベーションを行っていると思います。
Casey、そうですね。昨夜、あなたが私の夢に出てきました。本当ですか。何をしたんですか。普段、私はそれほど明晰で鮮明な夢を見ないんですが、メラトニンを服用していて、それが本当に影響を与えるんです。昨夜、あなたが中心的な役割を果たす夢を見ました。
先週、宇宙データセンターについて話したからかもしれませんが、なぜか、この夢ではあなたと私が一緒にロケットに乗って宇宙に行くことを決めるという内容でした。なるほど。そして何らかの理由で、これが大きな国家的イベントのようになって、存命中の大統領全員が集まって見守っていました。ケイティ・ペリーとローレン・サンチェスもロケットに乗っていたんですか。いいえ、私たち二人だけでした。そして最後の瞬間に、私が怖気づいてしまいました。
それであなたは一人でロケットに乗って行き、私はジョージ・W・ブッシュやバラク・オバマ、ビル・クリントンと一緒に座って、あなたがロケットで上昇していくライブ配信を見ていました。そしてここから悲しい部分なんですが、ロケットが爆発したんです。ああ、だめだ。
冗談じゃなく、私は夢の中で爆発するロケットを見ながら座っていて、深い悲しみと悲嘆に沈んでいきました。あなたの死について。そしてあなたの死亡記事を読んでいたテレビのニュースキャスターが、あなたがPlatformerの創業者でHard Forkの共同ホストだったことなどについて話していて、この夢のオチは、目が覚める直前に、ジョージ・W・ブッシュが私の方を向いて「Hard Fork、それはテック系ポッドキャストにしては変わった名前だね」と言ったことです。そして私は目が覚めました。
私はニューヨーク・タイムズのテック担当コラムニスト、Kevin Rooseです。私はPlatformerのCasey Newtonです。そしてこれはHard Forkです。今週は、Robloxの最高経営責任者Dave Baszuckiが登場し、子供にとって安全でなくなっているという広範な告発に同社がどう対応しているか、そしてゲームプラットフォームが子供を守るためにどの程度の責任を負うべきかについて語ります。
さて、Kevin。今から本当に深刻なトピックに注目したいと思います。それは非常に人気のあるオンラインゲームプラットフォーム、Robloxで起きていることです。
その前に、Robloxについてどのくらい知っていますか。若者向け、子供向けの非常に人気のあるゲームプラットフォームだということは知っています。あらゆる種類の記録を更新していることも知っています。利用者数を見るたびに、少し頭がくらくらして、わあ、これは本当に大きいな、注目すべきだなと思います。
そうですね。これは興味深いケースです。なぜなら、Robloxは大きくなる前から長い間存在していたからです。20年前に設立された会社で、オリジナルの製品は2006年2月にローンチされましたが、成長が本当に加速したのはパンデミック中で、何百万もの子供たちが家に閉じ込められて、することを見つけるためにRobloxに目を向けました。その成長はそれ以来続いています。最近、いくつかのバイラルヒットゲームがありました。
この数ヶ月だけでも、「Steal a Brain Rot」というゲームが同時プレイヤー数2540万人という記録を破りました。「Grow a Garden」という別のヒットゲームもありました。そしてある日、4730万人が同時にプラットフォーム上でゲームをプレイしていました。
それは本当に膨大な数の若者です。これがこの国で特に若者のデファクトの集合場所になりつつあるということを強調すべきだと思います。その通りです。現在、1億5000万人以上の日常アクティブユーザーがいます。そしてRobloxを本当にユニークにしている一つのことは、これから行う会話に関係してくるのですが、Instagram、TikTok、Facebook、Discordのように参加するのに最低13歳である必要があるのとは異なり、誰でもどの年齢でも無料でRobloxに参加できるということです。だからKevin、もしあなたが10代前半なら、Robloxを使っている可能性が高いです。実際、プラットフォームのユーザーの40%弱が13歳未満です。
そうですね。そして私がRobloxについて知っている二つ目のことは、最近、彼らが抱えているかなり深刻な子供の安全性の問題のために、ニュースで多く取り上げられているということです。
Robloxを使って若い子供たちと繋がり、別のプラットフォームに誘い出して写真を要求したり、操作的なグルーミング行動に関与させたりするプレデターについての記事やニュース番組を見ました。Robloxで起きているそのような非常に動揺させる話がたくさんあります。
その通りです。多くの場合、Kevin、これら同じプレデターたちは、子供たちにRobloxのプラットフォームの通貨を支払って、子供たちを妥協的な立場に誘い込んでいます。本当に本当に動揺させる話で、規制当局や議員たちも注目し始めています。
今年、ルイジアナ、ケンタッキー、テキサスの3つの州が子供の安全性の問題でRobloxに対して訴訟を起こしました。フロリダの司法長官は同社に対する調査を開始しました。そして現在、Robloxが性的搾取を可能にしたと非難する20件以上の訴訟が今年、連邦裁判所に提起されています。それはあなたの同僚であるニューヨーク・タイムズのEli Tanによる記事によるものです。
それで、Robloxはどう対応したのですか。彼らは対応として多くの安全機能を展開しました。保護者管理機能があり、今週、彼らは最新の機能を発表しました。それはユーザーがチャットしたい場合、年齢推定を受けなければならないというものです。だから誰かとチャットしたい場合は、顔をスキャンしなければなりません。
しかし、Kevin、それ以前は、何年も何年もの間、どの大人でもRoblox上のどの子供にも連絡できました。そしてそれが非常に多くのこれらの問題の始まりだったようです。そしてただ疑問が浮かびます。なぜ会社がこの問題を制御するのにこれほど長い時間がかかったのか。
そこでこの変更と会社の子供の安全性に対する広範なアプローチについて話すために、Robloxの共同創業者でCEOのDave Baszuckiを招待しました。
Daveは最初から会社にいます。このインタビューで彼が言うのを聞くでしょうが、彼はまたプラットフォームのオリジナルのモデレーターの一人でもありました。それは会社がかなり小さかった時に彼がしていたことです。もちろん今では彼のポートフォリオははるかに大きく、彼にかかるプレッシャーもはるかに大きくなっています。
そして、Robloxで起こることの重要性は、Robloxを使う子供たちに起こることだけよりも高いと言えます。これはインターネット全体にとってはるかに大きな影響を持つ話だと思います。今、オンラインでの子供の安全性が世界中の規制当局や保護者にとって大きなトピックになっている時期です。
子供を守ろうとするために導入された多くの法律や法案、そして州や企業が展開または義務付けを行っている年齢確認のような多くの機能について話してきました。これらすべてが今Robloxの周りで渦巻いています。
だから、これらの課題にどう対処しているかについてCEOと話すのは本当に重要な時期だと思います。そうですね、これはかなり緊迫した会話になりました。インタビューでそれが聞こえると思いますが、CEOに直接これらの質問をしようとすることが重要だと思いました。また、もう少し広い分野についても話し合い、Robloxでの予測市場について彼がどう思うかも含めました。
そして少しだけ文脈を。これは、インタビューを始める前に廊下で話していたことです。Daveは予測市場のPolymarketのファンだと言っていたので、インタビューの終わり近くで彼がそれを持ち出したときは、どこからともなく出てきたわけではないことを知っておいてください。それはマイクがオンになる前に私たちがしていた会話を続けようとする試みでした。
それでは、戻ったらRobloxのCEO、Dave Baszuckiを迎えます。
Dave Baszuckiへのインタビュー
Dave Baszucki、Hard Forkへようこそ。ここに来られて嬉しいです。ありがとうございます。今日、Robloxが子供を守るために展開している新しい年齢制限ポリシーについて話すために来ていただきました。
まず、ここに至った問題の範囲について話すことから始めるべきだと思います。何があなたをこの地点に導いたのか、そしてRoblox上のプレデターの問題をどう考えているか教えてください。
私たちはそれを必ずしも問題としてだけでなく、機会としても考えています。若者が構築し、コミュニケーションし、一緒に過ごすことをどのように可能にするか。同時にコミュニケーションの未来をどう構築するか。だから、私たちは始めた時からずっと、良い意味でこれに取り組んできたと思います。そして私たちが、これは会社を最初に立ち上げた18年か19年前のことですが、部屋に4人だけ座っていました。文字通り私たちがモデレーターでした。ずっと交代でやっていました。
そして現在に早送りすると、毎週のように、私たちが抱えている規模で最新の技術は何か。5000万の日常アクティブユーザー、月間110億時間。これを前進させ続ける最善の方法は何か。そしてあなたが正しく指摘したように、私たちはAIによる顔年齢推定を使うことを追加し始めたところです。
それでこれがどう機能するか少し教えてください。
Robloxのすべてのユーザーが今、他の人とコミュニケーションしたい場合、顔スキャンを提出しなければならないのですか。
その通りです。そして長期的には顔スキャンだけが唯一のシグナルではないと思います。数学的には、畳み込まれるシグナルが多いほど、精度が良くなり、より良い結果が得られます。だから私たちにはすでにシグナルがあります。行動シグナルがあります。写真付きID アップロードシグナルがあります。
ユーザーが提案した年齢がありますが、それを顔年齢推定シグナルで補完しています。文字通り、一時的な方法で、携帯電話を使って、PCを使って、画像をスキャンし、優れたAI推定を行い、画像を保存し、私たちが行っている他のすべてのことを補完するためにそれを使い始めます。そして私たちはすでに多くのことをしています。非常に優れたテキストフィルターがあります。
非常に優れた、画像共有はありません。多くのモニタリングを行っています。しかしもう一つのシグナルを追加することで、本当に優れた意思決定に役立ちます。
この顔スキャン技術についてもっと知りたいです。しかしまず、あなたのユーザーのうち正確にどれだけがどの年齢なのかを理解するのに苦労しています。
Robloxの日常的なアクティブユーザーではない外部の人間としての私の印象は、9歳、10歳、11歳、12歳くらいの多くの子供がアプリを使っているということです。Roblox上のアクティブユーザーの最も人気のある年齢層は何ですか。
これは本当に興味深いと思いますし、私たちがしばらく言ってきたことに繋がると思います。過去5年から10年の間、人々はRobloxを見て、これはかなり原始的なゲームで、プラットフォーム上の誰もがかなり若いと言ってきました。
過去5年間で、それが主に13歳未満から今では自己申告で約3分の2が13歳以上に移行しているのを見てきました。そしてそれらの数字がどんどん増えているのが見えます。Robloxで最も急速に成長しているセグメントは、今のところ21歳以上、少なくとも21歳以上だと言っている人々です。
今、それらの数字は現在かなりの程度の正確性があると思います。明らかに、私たちはそれらを年齢推定とバランスを取っています。なぜなら、より厳密な推定が欲しいからです。しかしコホートのサイズと成長率を見ているだけで、それにはかなりの正確性があります。
EUが今年初めに年齢保証技術を展開したとき、多くの子供たちがビデオゲームのキャラクターの写真を撮って、それを使って年齢チェックを通過するのを見ました。
あなたのシステムがそのような種類のことを避けられると、どの程度確信していますか。
私たちにはここで多くの機会があると思います。すでに他のシグナルがあり、それらは単独ではそれほど信頼できないかもしれませんが、組み合わせると非常に信頼できるものになります。また、これは一度だけのことではないという機会もあります。Robloxの体験では、多くの場合、携帯電話を持っていて、例えばあなたの顔をアニメーション化するために携帯電話やカメラからのシグナルを使うことができます。
だから、これは一度きりの店のようなものではありません。これは進行中に確認する可能性があり、奇妙なシグナルが見られたら、進行中に別の年齢チェックを行います。だから、もっとナイーブな、写真を撮るようなことはかなり楽観的です。私たちはそれをはるかに超えて行き、そのような方法でフィンガープリントすることがますます難しくなるでしょう。
だからこれらの変更を展開した後、ユーザーを年齢層に分類し、例えば13歳なら、自分の年齢の数年以内の人としか話せなくなります。しかしRobloxの歴史のほとんどの期間、そうではありませんでした。匿名の大人が匿名の未成年者と話すことができました。
なぜそうだったのですか。
私たちは初日から常にテキストフィルタリングの品質に非常に重点を置いてきたと思います。そして何よりも、歴史的に非常に制限的なテキストフィルタリングを行ってきました。Robloxに対する最大の不満の一つは、間違いなく良い意味で安全性と成長をトレードオフしていますが、プラットフォーム上のコミュニケーションに関する不満でした。
Robloxには多くのミームやテーマがあります。それらを掘り下げていくと、誰もがただハッシュタグ、ハッシュタグ、ハッシュタグと言っているだけで、それが言葉をぼかす方法だからです。
その通りです。だから歴史的なハッシュタグ、ハッシュタグ、ハッシュタグについての歴史的なミームがたくさんあります。AIにより、これらのフィルターはどんどん良くなってきました。
今私たちがいる状態は、主にフィルターを突破しようとする敵対的な試みのブロック、そして私たちがますます良くなっている個人識別情報を共有しようとする敵対的な試みに取り組んでいます。年齢推定については、
私はそれを補完するために最近使えるようになったところだと言えますが、私たちの戦略は常に、利用可能なあらゆる技術でそれを補完してまとめることだと言えます。
ええ。つまり、これらの訴訟や会社に対する調査を読むと、プレデターがあなたのフィルターを回避するのにそれほど苦労しているようには見えません。
告発を読むと、いくつかのキーワード、ここやそこでいくつかの文字を変えて、必要なものを手に入れることができています。だから、何があなたをそれほど自信を持たせているのか興味があります。
コメントしたくありません。コメントしたくありません。私たちはそれらのチャットログを見ていて、興味深い、そして多くの場合、人々がやろうとする方法を見ることができます。多くの場合、かなり洗練された人々だと言います。全員とは言いませんが、多くの場合、実際には他のアプリではフィルターされていない状況で実行している13歳以上の子供たちが、
残念ながら、フィルターされていないコミュニケーションができる、画像を共有できる、すべてができる他のプラットフォームにどうやって飛び移るかを見つけ出しています。私たちがやっている主なことの一つは、人々を私たちのプラットフォームに留めておこうとすることです。これは興味深い業界の状況です。
私は、業界の他の部分を待っているわけではないと言います。私たちは常にその先を行こうとしています。例えば、カリフォルニアの年齢適切設計コードについて、私たちはすでにそれらすべてのことをやっています。年齢推定についても同じです。これは来るべき法律のためにやっているのではありません。
正しいことだと思うからやっています。
ええ。つまり、あなたはプラットフォームを離れる子供たちについて言及しましたが、これらの訴訟で明らかになるのは、Robloxが、プレデターが子供を見つけるために行く場所のようになっているということですが、その後彼らは、訴訟やマスコミで言うように。
そうですね、私は訴訟やマスコミで実際に何を言っているかの説明を断固として拒否しますが、はい、あなたがニュースで読むかもしれないことはそのように描写するでしょう。
しかしプラットフォーム上にプレデターの問題があるとは思いませんか。
私たちは、プラットフォーム上の人数と時間に対して、本当にこの先どうなっていくのかという未来に深く踏み込んで、信じられないほど素晴らしいイノベーションを行っていると思います。
では他のプラットフォームについて質問させてください。なぜなら、これは一つの会社についての話ではないということには同意するからです。私たちが見ているのは、プレイヤーがRobloxのような場所に来て、子供をどこか別の場所に連れて行こうとすることです。Discordは頻繁に出てくるプラットフォームです。
もしこれらのプラットフォームシフトが起こるのを防ぐことができれば、多くの虐待を止められるように思えます。
だからその点で何ができますか。つまり、私の考えでは、誰かが「ねえ、あなたのDiscordのユーザー名は何」とチャットしているのを見て、それが未成年者と話している大人なら、それは赤信号のように思えます。それは非常に単純な赤信号だと言えます。それは何世代も前のテキストフィルターのようなものです。だから、私はそのテクニックははるかに洗練されていると言います。私たちは常にそれよりも良くなっています。
そして時には敵対的です。私たちは取り組んでいます。暗号化的に、あなたのSnapハンドルやどんなハンドルを共有する方法の交換をしようとするなら、私たちはそれが始まっているのを見ています。将来的に防ぐ必要があることのようなものです。
暗号化的な交換とはどういう意味なのか理解できません。
あなたと私が世界のどこかの空港の名前を共有しようとしていて、すべてのフィルターによってブロックされていると想像してください。私たちは実際に非常に創造的になり始めるかもしれません。例えば、5番目の単語ごとの3番目の文字を使って空港を綴るようなことです。そしてそれが私たちが今取り組んでいる種類のことです。
私には基本的な質問があります。これを許してください。これはRobloxとプラットフォームの仕組みについての私の無知を露呈するかもしれません。しかし、若者に非常に人気のあるゲーム上に、なぜこのような自由形式のテキストコミュニケーション機能をそもそも持つのですか。
私には息子がいます。彼はまだRobloxや他のゲームをプレイするには若すぎます。少し年上の子供の親として、私の子供に他の人とこのような方法でチャットできるゲームをプレイさせたくないと言うことは想像できます。そのような機能を持たないゲームはたくさんあります。なぜこれがRobloxの仕組みの中核なのですか。
いくつかのことを強調したいと思います。まず、人々がコミュニケーションできることには莫大な利益があり、私たちはそれらの利益を見ていると思います。Roblox上で自分の仲間を見つける子供がたくさんいます。孤独だったり孤立している時に、実際に多くの子供がいます。言い訳として使うつもりはありませんが、有名な親からたくさん電話をもらいます。彼らは「見て、もしRobloxのようなプラットフォーム上でコミュニティを見つけて繋がっていなければ、私の子供は死んでいただろう」と言います。
そして私はまた、私たちは、入って行って「誰とチャットできるかをオフにするつもりだ」と言う洗練された親だけでなく、すべての親のためにデザインする莫大な責任を負っていると言います。私たちはすべての親のためにデザインし、それについて考え抜かなければなりません。
しかし私たちは、上から下まで非常に優れた技術を持っていると信じています。それがこのような体験を構築することの一部だと思います。ゲーム空間に出て行けば、コミュニケーションをサポートすることは非常に一般的だと思います。他のゲームをリストアップするつもりはありません。そして通常、私たちは、フィルタリング、画像共有、これらすべてにおいて、イノベーションレベル、責任レベルではるかに先を行っています。
Robloxのサイズのプラットフォーム、Robloxが持っている若いユーザーの数を持つプラットフォームなら、同様の安全性の課題を経験しているだろうと言うのは公平ですか。
私はそのどれも分類しません。私たちがいる規模はやや途方もないものだと言います。だから、Robloxの数字を他のプラットフォームと比較して言い訳するつもりはありませんが、110億時間という規模は1000万時間という規模とは非常に異なると言います。それはその1000倍のサイズです。
そして私たちがいる規模は非常に巨大だと言います。毎日1億5000万人です。毎月それよりはるかに多くなります。そして個々のゲームに対して、規模は巨大です。私たちのプラットフォーム上には現在、2500万人が同時にプレイしている体験があります。
そして伝統的にゲーム市場では、それ以前の記録は、Fortnite全体で1100万か1200万だったと思います。それ以前は、大きな数字は単一のゲームで100万と考えられていました。Minecraftが100万ユーザーに達した時のことを覚えています。
それを考えてみてください。Minecraftのようなプラットフォーム全体がある時点で100万ユーザーに達しました。Roblox上の単一のゲームが2500万ユーザーに達しています。だから、
しかしあなたたちはその規模を望んでいますよね。それを求めています。プッシュ通知を送ります。人々に毎日のログイン報酬を与えます。何百万、何百万もの人々に現れてほしいのです。
私たちは実際に、その規模が良いシステムを持つプラットフォームを通過しているなら、信じられない機会があると見ています。
それは実際に大きなことで、規模はすでに存在します。ゲーム空間は1900億ドルです。だから今では約3、4パーセント、3パーセントがRobloxを通過していると思います。だから、規模は好きだと言います。それは、そのようなシステムの一部としてではなく、単独でゲームを作っているかもしれない個々のゲームクリエイターにとって、より全体的なシステムの一部としてそれを作る機会を生み出します。
ここに、人々が不満に思うダイナミクスがあると思います。今、多くの大きなテックプラットフォームがあります。彼らはこの巨大な規模を求めます。以前には見られなかった高みに到達し、それから問題があることに気づき、ある程度それを解決しようとして、それからさらに成長を続け、それからまた別の問題があります。
ある程度、そのダイナミクスはおそらく避けられないと思いますが、多くの人々、多くの親が望んでいるのは、2500万人が現れたときに何が起こるかについての計画があるという感覚だと思います。彼らはあなたのような人々がこれらの角を見通して、存在して20年経ってから、人々をコミュニケーションさせる前に年齢層に分類すべきかもしれないと言うまで待たないことを期待していると思います。
ええ、私はそれには少し反論したいと思います。あなたが言っていることは聞こえますが、実際に、会社の内部の人々にとって、私たちがそれについて考える方法、私たちが前を見据える方法は、常に前を見て、私たちは、最初に行ったことに戻ります。会社を始めて1ヶ月後のことです。会社を始めて1ヶ月後、楽しい小さな話ですが、Roblox上に約200人がいました。
何をすべきでしょうか。成長させ続けるべきでしょうか、それとも安全システムを構築しに行くべきでしょうか。それで、200人の時点で、すべてを止めましょう。安全システムを構築しに行きましょう。そして4人でモデレーターになりましょう。だから、舞台裏では、あなたに同意します。莫大な責任、これを先取りすることは非常に重要です。
私たちが行ってきた多くの建築的決定がそのために行われてきた理由ですが、私たちはそれを続けていくつもりです、ね?そしてRobloxが20倍の規模で、ゲーム市場空間の50%をすべて一箇所に持っていることを想像できます。私たちはイノベーションを続けます。
その上、昨年、アクティビストファンドでショートセラーのHindenburg Researchがレポートを出し、特にRobloxが投資家に成長を報告するために子供の安全性を妥協していると主張しました。
彼らが指摘したことの一つは、信頼と安全への支出が減少していたということでした。あなたはそれを否定しました。なぜですか。彼らは何を間違えていましたか。
楽しいですね。これを続けましょう。まず第一に、Hindenburgはもう存在していませんよね?報告すべきです。
彼らは何らかの理由で廃業しました。もう一つは、その情報を調査しましたか。私にそれについて質問しているので、あなたがあなた自身の調査をしたかどうか興味があります。
私はいくつかの調査をしました、そしてあなたの見解は何ですか。
まあ、あなたに聞いています。
これは本当に興味深いです。なぜなら、私たちは、手作業で車を作っていたような超手作業労働から組立ラインに変換した人に同じ状況を尋ねるかという状況に飛び込んでいると思うからです。組立ラインは無限に良いかもしれませんが、同時にそれほど多くの人を必要としないかもしれません。
だから私が思うに、彼らが言及しているのは、間違いなく、AIへの移行をますます進めているということです。すべての画像、すべてのテキストの一つ一つを検証するAIシステムを持つことが良いのか、それとも手動でそれを続けることが良いのか。
だから、それは誤解だったと思います。そして安全チームや安全システムの誰かにインタビューすれば、それは単に私たちのシステムをより良くすることの一部だったということになります。
明確な返答をいただけるように、議論は、より手動の安全チームとシステムから、より自動化されたレビュープロセスへのシフトがあったということで、運用コストは低くても、より良い仕事をするかもしれないということですね。
ええ、実際にはもっと強く言います。シフトは常により高品質で、より正確で、より勤勉なシステムに移行することです。
もっと検証できますか。もっと良くできますか。あなたと私が、Robloxに入るすべての単一の画像をより高い品質で検証する最善の方法をシステム化していると言って、それを行う最善の方法がより良いAIモデルで行うことだと分かったとします。あなたはそれを選びますか。
ええ。
いいですね。だからあなたは私たちがしたことに賛同しています。ハイタッチ。
しかし私はソーシャルネットワークも取材してきました。ありがとうございます。ありがとうございます、私たちのRobloxの意思決定マトリックスをサポートしてくれて。あなたたちが私たちRobloxが勝っている方法に賛同してくれてとても嬉しいです、ね?私はまた15年前を覚えています。これは秘密の、これは私たちがしていることすべてを実際には愛している秘密のインタビューですか、そしてあなたはそれを秘密裏にサポートするためにここにいるのですか。
私たちは、あなたが新しい年齢制限技術について話したいと言われました。だから、
ちょっと待って、ちょっと、私はあなたが言っていることを完全に信じています。人々を安全に保つために市場で最高の技術を使うことについて。そして強調したいのは、私はあなたのポッドキャストが大好きだから、すべてについて話すためにここに来たんです。
だから、もし私たちのPR担当者が「年齢制限について1時間話しましょう」と言ったなら、私はそれに応じます。でも私はあなたの、すべてについて話すためにここに来たと思っていました。
了解しました。ああ、そうですね。Steal a Brain Rotについても話すつもりです。それも私の計画の一部です。しかし考えを終わらせるために、Casey と私は2010年代にソーシャルネットワークを取材してきて、マーク・ザッカーバーグのような人々が「ああ、AIを使ってすべてのコンテンツモデレーションを解決するつもりだ。詐欺的なものや虚偽のものをすべて削除し、もうこれらの人々は必要ない」と言うのが非常に人気でした。
そして投資家たちはそれを愛しました。そして彼らはそれをやろうとして、実際にはああ、システムはまだそれほど信頼できず、おそらくコンテンツを削除しすぎているか、悪いものを見逃しているかもしれないと分かりました。
例えば2016年を見てください。それは自動化などへの依存です。自動化などへの依存です。私たちは、会社で何が起こっているかを把握していないこと、そしてこれらのアルゴリズムが多くの奇妙なディストピア性にも繋がることをたくさん見てきました。
だから、2016年にそれらのアルゴリズムが奇妙なことにも最適化ループに少し入り込んだのを見たと思います。だから、とにかくええ、あなたの質問が大好きです。あなたたちが私たちが技術でRobloxを運営している方法をサポートしてくれて嬉しいです。
あなたは、技術がRobloxの規模のプラットフォームでモデレーションに使えるほど十分に良くなったと確信していますか。
私たちが抱えている規模は今、本当に途方もないものです。本当に途方もない。
そしてすべてのシステム、画像レビュー、テキストレビュー、すべてが常により良くより良くなっています。
つまり、見てください、あなたが少しイライラしているのが分かります。
私は実際にはイライラしていません。話すのがとても楽しみなだけです。楽しいことや業界などについて話すつもりだと思っていました。だから、イライラしていません。ただ、あなたたちとどれだけ楽しい時間があるのか、どれだけ楽しい時間があるのか、この超集中的なものに対してどれだけあるのか、を把握しようとしているだけです。でもあなたたちが望むことは何でも話すことを喜んでします。
まあ、最後にもう一つだけ試してみましょう。なぜなら、これは私が本当に理解したいことだからです。
規模でコンテンツモデレーションを行うのは非常に難しいです。すべての会社からそれを学びました。そしてプラットフォームは社会に様々な利益を提供すると思います。私は毎日その多くを使っています。
分かりました。だから、その点では同じページにいるように感じます。そして、これらの会社の一つのCEOであることは、国土安全保障省の長官であることのように感じられると思います。つまり、あなたの在任期間中に起こる最善のことは、何も起こらないことですよね。何も爆発しません。
それには反論したいです。その理由は、それが一種の、肩越しに振り返る、防御的な、ああという姿勢を暗示しているからです。それは実際には素晴らしい会社を構築するための最適な姿勢ではありません。
素晴らしい会社を構築するための最適な姿勢は、なんてことだ、私たちは12歳以下の多くの人々に対してユニークに責任があり、常に学び、常にイノベーションする多くのことがあり、もしこれを正しく行えば、未来は本当に大きく明るいままであり、多くの他のプラットフォームができないため、跳ね返ってしまう、6歳から12歳のゾーンで優れた仕事をする独自の機会にいると感じます。彼らはただそれをやっていない、そして正しくやっていないだけです。
ね。だから、それは私たちが会社を運営する方法ではありません。私たちはそれを高い責任の状況として見ていますが、正しく行えば信じられない機会として見ています。
では私の質問は、どうやって成功を測定しますか。CEOとしてあなたは、すべてを見て、適切な量のリソースを適用していて、適切なエラー率があり、親に「あなたの子供をRobloxに連れてきてください」と伝えることが快適な場所にいると感じる方法はどのようなものですか。
私たちはそれらすべてのメトリクスを常に内部で見ています。それらは公開されていません。フィルター率を見ています。このレートを見ています。すべてのレートを見ています。
それらのメトリクスは、その上にますます多くのAIを追加するにつれて、常に良くなります。あなたが言ったように、常により高い規模でも実行しています。私の子供たちはRobloxを使っています。
会社には何千人もの人々がいます。彼らの子供たちは皆Robloxを使っています。
しかし私は言います、そして他のことでも言ってきましたが、親が責任の最終的な裁定者であり、そして外にいる親が何らかの理由で、子供が公園に行くことに快適でない、子供が特定のおもちゃで遊ぶことに快適でない、Robloxを使うことに快適でないなら、私が言うのは誰ですか、ね?
だから、私は親の責任にそれを委ねます。ただ、例えば自分の子供たちとどうするかのように動いているだけです。
戻ってきたら、RobloxのCEO、Dave Baszuckiとのインタビューの続きです。
スクリーンタイムと予測市場について
子供のスクリーンタイムは悪い評判を受けていると思いますか。つまり、これは私が知っている親の間で常に続く会話のスレッドです。皆、常に心配しています、ああ、私は子供に過度のスクリーンタイムを与えているのか。彼らは友達と十分にオフラインの活動をしているのか。中毒性のあるオンライン体験やこれらのAIコンパニオンに吸い込まれているのか。子供のスクリーンタイムに対するあなたの見解は何ですか。
息子がとても幼かった時、かなり急進的なスクリーンタイムの制限がありました。そして親として想像できるように、2番目、3番目、4番目の子供がいると、それが緩くなります。実際、私はそれをある意味で支持しています。
そして、ブルーライトと非ブルーライトの比率のような多くの寄与要因があると思います。スクリーンタイムのどれだけが単独消費対グループ消費か。スクリーンタイムは一日のうちのどの時間か。だから、午前2時の重いブルーライト、単独消費、短編動画は、間違いなく、友達と一緒に正午にしばらくかくれんぼをするのとは異なるタイプのスクリーンタイムだと言います。
しかしこれは考える価値のあることだと思います。
今日取り上げなかった何か、話し合いたいと確実にしたいこと、あなたが取り組んでいてあなたにとって今興奮しているプロジェクトはありますか。
ああ、わあ。Polymarketについて話すと思っていました、そして収益コールのようなものをRobloxにドロップするとか。
ちょっと、Polymarketについてあなたはどういう立場ですか。
だからあなたたち二人とも大ファンだと思います。番組で予測市場についてたくさん話してきました。
そうですね。そうですね。だから、政党とは関係なく、選挙の夜にリアルタイムの科学実験を本当に経験しました。
ジャーナリストのジャーナリストのような4つの画面を持っていて、どうやってジャーナリストからジャーナリストにすばやく移動するか、そして家族と一緒にPolymarketも見ていて、Polymarketをすべてのジャーナリストのコメントと比較していました。そしてPolymarketが約30分から45分早く来ていたと思います。そして、好きでも嫌いでも、ここで86%だという思考実験を見ることは興味深かったです。そしてさまざまなジャーナリストが異なることを言うのを見ました。
そうですね。だからこれは今、世界で何が起こっているかを理解するための本当に興味深いシグナルになっていると思いますか。
数学的に、予測市場が流動的で透明であれば、ある意味で世界のすべての情報とすべてのシグナルを捉えると思います。もし、どこかの奇妙な郡の隅にある選挙カウンターが、これがこのように行くと知っていて、彼らが1万ドルを賭けに行けば、それが物事を動かして情報をより完璧にするつもりです。だから私は大ファンです。
Robloxの中に予測市場を入れることは考えますか。子供たちにRobuxで賭けさせて、私は彼がタングタングタングサフールを盗むと賭ける、私は彼がドレスで印象を与えないと賭ける、のように。
ええ、もう一度、複雑さの一部を共有すると思います。世界のすべての単一の国には、ルートボックスと子供のギャンブルに関する異なる法律があります。だから私たちは
それは非常に楽しくて明白に聞こえます。私は
明確にするために、これは恐ろしいアイデアだと思います。ただあなたがそれについて考えているかどうかに興味がありました。
まあ、それが合法的な教育的な方法で行えるなら、実際には素晴らしいアイデアだと思います。だから、無料のRobux、無料の賞品はなく、無料のRobux、無料の賞品のないドレスで印象を与える予測者と呼ばれるゲームを想像します。子供のお金を得ようとしているようなものではありません。私は大ファンです。
興味深い。ええ。若い時から始めましょう。ギャンブルに関して私がいつも言うことです。
私が小学校の時、私たちは1988年の大統領選挙で誰が勝つかについて模擬投票を行いました。
ああ、そうですね。だから、これらの古いアイデアの一部は最終的に戻ってきます。そして私たちはポーズで賭けました。
ええ。しかし模擬投票は予測市場ではありませんでしたよね。そしてすべての子供に10セントの給食代を与えて、彼らの一部が追加のおやつを買えて、一部がそれを失ったなら、任意の5年生の教室で得る模擬投票とは完全に異なる結果を得ることができます。
考えるのは興味深いです。さて、時間切れですが、Dave、あなたに一つだけわがままなお願いをしてもいいですか。
はい。
だから、私の子供は今約3歳半です。おそらく、いつか、多分4年、5年、6年後、彼は私に「Robloxをプレイしてもいい?」と聞くでしょう。
おそらく1年後です。
おそらく1年後です。私の子供がその質問をするのに十分な年齢になるまでに、プラットフォームの安全性の問題を修正してくれますか。
もっと枠の外に行きます。Robloxは今、あなたの子供にとって素晴らしいプラットフォームです。そして、メトリクスをすべて見せて、あなたがハードルを越えるために必要なことは何でもするために、おそらく非開示で、あなたと深く話し合うことを喜んでします。
了解しました。さあ、それです。
それです。ありがとうDave。
さて、ありがとうDave。ありがとうございました。
コメント