この動画は、メタとYouTubeがソーシャルメディア依存症の裁判において過失があるとされた歴史的な評決について解説している。プラットフォームの設計自体が依存的であるとするこの判決は、長年テクノロジー企業を保護してきた通信品位法第230条の壁を越え、製品設計の責任を問う新たな法的アプローチを示した。今後のインターネットのあり方や年齢確認、コンテンツモデレーション、そして若者のメンタルヘルスに及ぼす影響について、専門家を交えて深く考察している。
テクノロジーと子供たちを取り巻く環境
今の子供たちがどのような環境で育っているのか、どのような不安や問題を抱えている可能性があるのか、そのあらゆる要因について考え、問いかけることは本当に正しいことだと思います。なぜなら、テクノロジーがその一部ではないと断言することは到底できないからです。もちろんテクノロジーも要因の一つですが、世界では他にも実に様々なことが起きており、子供たちは多くのことに直面しなければなりません。そのため、テクノロジーの影響だけを切り離して考えるのは非常に難しく、そうした試みも行われてきましたが、学術界でもこれについては非常に活発な議論が交わされています。人々のメンタルヘルスに影響を与える要因はあまりにも多く存在します。そして、テクノロジーとソーシャルメディアがあまりにも急速に普及したため、親や社会全体が、その潜在的な影響を十分に理解できていなかったのだと思います。
歴史的なソーシャルメディア依存症訴訟の幕開け
テックレポートへようこそ。スーザン・オーウェンズです。本日は今週アメリカで起きた、ソーシャルメディア依存症を巡る画期的な裁判についてお話しします。この裁判では、陪審員がメタとYouTubeに過失があると判断しました。これは、今後何千もの同様の訴訟への道を開く可能性のある評決です。長年、テクノロジー企業は自社を単なるプラットフォームであると主張し、通報されたコンテンツを管理するためのモデレーターを配置していると説明してきました。しかし陪審員は、責任の所在はプラットフォームの設計そのものにある可能性があると結論付けました。もし製品そのものが意図的に依存性を生み出すように設計されているのであれば、アテンション・エコノミー全体が、法的にも、倫理的にも、そして経済的にも全く異なる様相を呈してきます。私たちは今、インターネットの仕組みにおける巨大な変化の始まりを目撃しているのでしょうか。本日は、The Vergeのソーシャルポリシー担当記者であるローレン・ファイナーさんにお話を伺います。ローレンさん、ご参加いただきありがとうございます。
お招きいただきありがとうございます。
今回の原告の物語は、本当に悲しく、読むのが辛いものです。残念ながら私たちは以前から、ソーシャルメディアのウェブサイトが、まるでスロットマシンから得られるような感覚を再現するように設計されていることや、ユーザーが見たいもの、あるいは世界が見せたいものをアルゴリズムが提示していることを知っていました。しかし、通信品位法第230条のような法律が常にこれらの企業を守ってきました。今回のケースでは、一体何が変わったのでしょうか。
はい。この訴訟は、全く新しい法的な戦略に基づいて進められました。通信品位法第230条やコンテンツに関する問題には踏み込まず、プラットフォーム側が自社のテクノロジーをどのように設計したかという点に焦点を当てるという、絶妙な境界線を突いたのです。もちろんプラットフォーム側は、これらは全てコンテンツや自社の表現の自由に関わることだと反論するでしょう。しかし原告側は、これはコンテンツとは切り離された問題であり、企業の製品設計や、プラットフォームの方向性を決定する上での過失の可能性を追及できると主張したわけです。
コンテンツ管理とデザイン設計の境界線
なるほど。では、これは完全に切り離された問題だとお考えですか。ソーシャルメディア企業には通報されたコンテンツを確認するモデレーターがいますが、これはそうしたシステムの欠陥を浮き彫りにしているとも言えるのではないでしょうか。コンテンツが通報されなければモデレーターの目には触れず、その結果、9歳の子供が身体醜形障害や自殺願望につながるような有害な画像を見てしまう可能性だってあるわけですよね。
そうですね。コンテンツモデレーションの問題に発展する可能性は十分にあります。ただ、裁判で焦点となったのは、企業側がプラットフォームに組み込むことを決定した、独立したデザイン機能の数々でした。例えば、Instagramのビューティーフィルター、つまり拡張現実を利用したフィルターを許可すべきかどうかといった議論です。もしそれが整形手術の結果を模倣するようなものであれば、人々の顔をどこまで改変することを許容すべきかという線引きの問題になります。これについてマーク・ザッカーバーグは、こうしたフィルターを作成するユーザーの表現の自由と、ユーザーに害を及ぼすかもしれない、ただしまだ完全に証明されてはいないリスクとの間で、バランスを取りたいと語っていました。
プラットフォーム設計の世界的基準は変わるのか
なるほど。そしてこの件は、ソーシャルメディアにとっての「大手タバコ産業の転換期」だと頻繁に例えられています。これは少し大げさな表現でしょうか。それとも一時的な法的なショックに過ぎず、あるいはテクノロジーの構築方法に永続的な変化をもたらすとお考えですか。アメリカの訴訟が、実質的に世界中のデザイン基準を設定することになるのでしょうか。
それは非常に複雑な問題ですね。タバコとはまた違ったケースだと思います。なぜなら、タバコの場合はそれが言論であるという主張は一切成り立ちませんから。ソーシャルメディアの訴訟においては、言論の自由という要素が常に付いて回りますし、依然として非常に重要な争点です。アメリカにおいて、こうした裁判は企業に実際の変化を促す上で最も現実的な手段になりつつあると感じます。議会などの政府機関の対応を見ると、子供の安全に関する問題で議会が動いた形跡はほとんどありません。一方で、州議会レベルではかなりの動きがあり、それが一つの後押しにはなっています。もし、裁判所がプラットフォームの製品設計の決定に対して責任を問えるという判決を下すことが一般的になれば、プラットフォーム側がどのような機能を導入し、何を導入しないかを決定する上で、非常に大きな影響を与えることになるでしょう。
年齢確認の導入と意図せぬ影響
そうですよね。例えば現在イギリスでは、アダルトサイトに対する年齢確認を義務付けるルールが導入されています。メタやGoogleがそうした措置を導入し始める可能性はあるのでしょうか。また、それはインターネット上で自分たちの生活を公開して利益を得ているようなファミリー向けチャンネルのあり方を変えることになりますか。子供がアプリに登場すること自体が変わっていくのでしょうか。
ええ、年齢確認は現在アメリカでも非常に激しく議論されているテーマです。特にイギリスのような他国での事例が出てきたことで、人々はその実施状況や影響を注視していますし、世界各地での運用方法に実際の課題があることも明らかになっています。そうした課題は認識されつつも、時には企業側からでさえ年齢確認の導入を強く推進する動きがあります。しかし、それが具体的にどのような形になるかは依然として大きな議論の的です。例えば、メタやSnapは、アプリストア側が年齢確認を行うという提案を支持しています。これにより、年齢確認の責任を自社からAppleやGoogleのような企業へと移すことができます。Googleも特定の形式の年齢確認を支持していますが、インターネット上にさらに多くの個人データを提供することや、未成年ではなくても何らかの理由で身分証明書をプラットフォームに提出したくない人々、あるいは不完全な年齢確認システムに直面する人々をインターネットから締め出してしまうことへの強い懸念も存在します。
確かにそうですね。年齢確認を導入しても、入るべきではない場所に入るために偽の身分証を使うようなことは、これまでにもあったでしょうし。インターネットに頻繁に触れて育った若い世代の一人として、こうしたアプリの安全なバージョンがどのようなものになるのか、想像するのは少し難しい気がします。InstagramやYouTubeの明るい部分や純粋に楽しめる部分が混ざり合っているのが現状ですよね。自動再生やアルゴリズムの機能を単に取り除けばいいという話なのか、それとも有害なコンテンツを検出できるAIを導入するようなもっと深い問題なのか、考えるのは不思議な感覚です。そもそも、何が有害なコンテンツなのかを判断すること自体が難しいのかもしれませんが。
そうですね。大人向けのコンテンツが一切存在しないInstagramの姿を想像するのは、現時点ではなかなか難しいことです。同時に、インターネットへの年齢制限を強めることに対する大きな懸念もあります。それは、オンラインでの繋がりを頼りに、自身のコミュニティの外にいる人々と交流したり、貴重なリソースを得ているマイノリティグループを、意図せず切り捨ててしまうかもしれないという懸念です。当然ながらLGBTQコミュニティの方々もそうですし、安全ではない家庭環境にいて、家庭外のリソースにアクセスする必要がある子供たちも含まれます。そのため、より多くの個人情報を提供することの意味や、インターネット上で子供にとって何が適切かを誰が決定するのかについて、世間には深刻な懸念があります。これは、図書の禁書問題から、図書館や子供の読み聞かせで提供すべき適切なコンテンツとは何かという議論に至るまで、様々な場面で頻繁に浮上する問題です。ですから、これは依然として未解決の重要な課題と言えます。
教育的価値の喪失とアルゴリズムの功罪
本当ですね。親の責任に転嫁するような言い方はしたくありませんが、保護者がログインを管理するような形のInstagramが必要なのではないかとも考えさせられます。ただ、YouTubeではそうした仕組みがあるにもかかわらず、子供たちが本当に有害なコンテンツに行き着いてしまうケースも見受けられます。そして、今回の被害者に起きた悲惨な出来事や、それが彼らのその後の人生に与えた影響は別として、収入やキャリアをソーシャルメディアに依存しているコンテンツクリエイターやインフルエンサー、あるいは小規模なビジネスについても考えてしまいます。より安全な設計にすることで、バイラルに広がる機会が減り、発見されにくくなる可能性はないのでしょうか。先ほどお話しに出た、結束する必要のあるマイノリティグループのことを考えると、広告主導のモデルからサブスクリプション型のサービスのようなものに移行していくべきなのでしょうか。
それは素晴らしい視点ですね。ソーシャルメディアを利用する人が減ったり、プラットフォーム上であらゆるコンテンツを受信できると設定されたユーザーの層が狭まったりすれば、当然ながら多くの人に情報を届けようとしている人々のリーチは減少するでしょう。そして、政治的な分野や、LGBTQの問題、リプロダクティブ・ヘルスケアなど政治問題化している分野で活動する企業や組織にとっては、プラットフォーム側が特定の年齢層には不適切だと判断し、そうしたトピックを拡散することはリスクが高すぎると決定する可能性もあります。
確かにその通りですね。アメリカの現状を考えると、導入される法律によって国全体が深刻に分断されていますから。特に女性のヘルスケアに関しては、教育の空白が生まれるかもしれません。私自身、かなり厳格なカトリックの国で育ちました。2020年か、いや2018年だったと思いますが、国民投票を経てようやく中絶が選択肢の一つとして認められたんです。私が育った環境ではタブー視されていたため、そのトピックに関する教育が著しく不足していました。Instagramや、特にYouTubeなどのプラットフォームから学べることは本当に多いので、そうした教育的な要素が失われてしまうのは懸念すべき点です。ただ、私自身が少し恋しく感じるのは、自分が選んだアルゴリズムで、フォローしている人たちの投稿が時系列順に表示されていた頃のプラットフォームの姿です。もしかすると、そうした元の形に戻る可能性もあるかもしれませんね。大学の後半には、教授たちが様々なことを教えるための補助教材としてYouTubeの動画を使っていたのを覚えています。ですから、これほど素晴らしいプラス面と、信じられないほどのマイナス面を併せ持つプラットフォームを、一体どのように規制し始めればいいのか途方に暮れてしまいます。市民ジャーナリズムのようなものも減少していくのでしょうか。
ソーシャルメディアのメリットとデメリットの狭間で
ええ。それは先ほど質問された「今はタバコ産業にとっての転換期と同じなのか」という話題に繋がってきます。タバコに本当の意味でプラスのメリットがあると主張する人は誰もいないと思います。昼休みに友人と一緒にタバコを吸って社会的な繋がりが生まれる、といった側面はお酒についても同じことが言えますが。一方で、ソーシャルメディアには研究によって実証された明確なプラスの効果があることも事実です。ですから、非常に難しい問題なのです。確かにソーシャルメディアによって人々が経験した有害な影響は存在しますが、同時にプラスの影響もあります。最近の大規模な研究では、ソーシャルメディアや画面を見る時間を、多すぎず、全く見ないわけでもない適度な量に抑えている人々が、最も良好な状態にあることが示されました。オンラインでの繋がりを持ちつつも、それに完全に依存していない状態です。もし全くソーシャルメディアを利用しなければ、特定の繋がりや役立つ教育コンテンツを見逃してしまうかもしれません。もちろん悪いコンテンツも避けられますが。つまり、本当に一長一短なのです。
そうですね。何か大きな事件が起きれば誰かが教えてくれるから、ニュースを見るのはやめたんだと言える特権を持つ友人もたくさんいます。そういうやり方でうまくやり過ごしている人も多いのだと思います。ただ、私が一緒に育ってきた若い女の子たちの多くは、ネット上で特定の体型を見たりして、間違いなく悪影響を受けてきたと感じています。正直なところ、私が子供の頃は、鬱であることをちょっとしたステータスのように、ある種エッジの効いたこととして持て囃すような風潮すらありました。それが結果的に自傷行為を選択肢として考える人々を生み出してしまったのです。ですから、こうした規制や対策の必要性は痛いほどよく分かります。以前、コンテンツモデレーションの仕事をしていた情報筋から聞いた話では、特定の事柄を見つけた際のポリシーは確かに存在します。しかしそれは非常に具体的で、もしX、Y、Zという言葉があれば別の人に報告を上げるといった具合です。その一方で、若者が絶対にこれをやるとは言わず、これについて考えてみたとだけ表現しているようなコンテンツは、実際にチェックをすり抜けてしまいます。メタやYouTubeに心理学者の専門チームを配置して、こうした問題に対応すべきなのではないでしょうか。
ええ、それは決して悪いアイデアではないと思います。結局のところ、子供や十代の若者が発達段階において何を見る準備ができているか、という点が非常に重要です。大人であれば、自分のフィードを整理して、この人を見ると気分が落ち込むからフォローを外そう、あるいはミュートにしよう、そしてもっとポジティブなアカウントをフォローしようと判断し、自分のフィードをかなりポジティブなものに保つことができます。しかし、十代の若者にとってそれはずっと難しいことでしょう。これが、この問題を極めて複雑にしている理由です。自傷行為であれ、非現実的な体型の基準の推奨であれ、世の中に存在するあらゆるメッセージが増幅されてしまうことは間違いありません。ただ、90年代や2000年代初頭の雑誌にもそうした描写はありました。雑誌も一つのプラットフォームであり、それらは編集者の裁量として保護されています。つまり、何がコンテンツであり、何がプラットフォーム側の保護された編集裁量であり、そして何が過失を問われる可能性のある製品設計なのかという、非常に複雑に絡み合った状態にあるわけです。
社会全体で取り組むべき子供たちの未来
そうですね。90年代のシットコムには必ずと言っていいほど、家族の子供が何かを見て、もっと痩せなきゃと思い詰めてしまうエピソードがあり、いつもそれが教育的なメッセージとして描かれていた気がします。ただ、今回のケースを考えると、医療制度、特に若者のメンタルヘルスケアへの関心の低さも浮き彫りになっているのではないでしょうか。今回の被害者は9歳よりもずっと後になってセラピーを受け、そこでようやく問題の始まりがその時期だったと特定できたわけです。技術的な側面だけでなく、医療制度のあり方についても見直す必要があると思われますか。
はい、今の子供たちがどのような環境で育っているのか、どのような不安や問題を抱えている可能性があるのか、そのあらゆる要因について考え、問いかけることは本当に正しいアプローチだと思います。テクノロジーが要因ではないとは到底言えませんから。もちろん影響はありますが、世界では他にも実に様々なことが起きており、子供たちは多くのことに直面しています。そのため、要因を明確に切り離すことは難しく、学術界でもこの点について非常に活発な議論が交わされています。人々のメンタルヘルスに寄与する要因はあまりにも多岐にわたります。テクノロジーとソーシャルメディアがあまりにも急速に台頭したため、親や社会全体が、子供たちにプラットフォームを使わせることの潜在的な影響や、隠れて使おうとする子供たちをどう見守るべきかを十分に理解できていませんでした。しかし今、私たちはこれが深刻な影響を及ぼす可能性があることを理解し始めており、親たちの間でも潜在的な有害な影響についての理解が深まっています。ですから今後は、子供のメンタルヘルスや、プラットフォームで遭遇するかもしれない事象について、より積極的なアプローチが取られることを期待しています。
アテンション・エコノミーの終わりの始まり
ええ、そしてそれは脳の発達や、その後の人生にも影響を与えますからね。アテンション・エコノミーや集中力の低下といったバズワードが飛び交っていますが、関心を集めること自体を目的とする今の仕組みは、いよいよ終わりの始まりを迎えているとお考えですか。
ええ。単なるスクリーンタイムの長さだけでなく、ソーシャルメディアやインターネットの受動的な利用が発育途上の子供の脳にどのような影響を与えるかについて、大人の間での理解が深まるにつれ、それを制限しようとする社会的な動きがより活発になっていくと思います。すでに、親たちが団結して、8年生（中学2年生）になるまではスマートフォンやソーシャルメディアを与えないと宣言するような社会的なムーブメントも起きています。今後さらに多くの裁判が行われ、潜在的な影響を示す研究結果が発表されるにつれて、こうした動きはますます強まっていくでしょう。そして、子供たちのためにどのような予防策を講じるべきかという認識が、人々の間で広く定着していくはずです。
今後予想される訴訟の波
では、今後5年間でこうした訴訟がさらに増えていくと予想されますか。
間違いありません。もっと早いペースで起こるでしょう。ロサンゼルスで行われた今回の裁判は、カリフォルニアの裁判所に提起された1000件、あるいは1500件以上もの広範な集団訴訟の一部であるベルウェザー裁判（指標となる試験的な裁判）の最初のケースでした。最終的には、当事者間で包括的な和解に達し、残りのすべての訴訟も一括して解決することが想定されています。しかし、このベルウェザー裁判は、陪審員がこれらの訴訟をどのように判断するかを測るためのものであり、今後行われる多数の裁判の最初の試金石です。もちろん、すべての陪審員が今回と同じ結論を出すとは限りません。しかし、陪審員が原告側に有利な判断を下す可能性があることを示す初期の重要な指標となりました。もしこの流れが続けば、将来の和解において、原告側は企業からより多くの譲歩を引き出せるようになるかもしれません。
なるほど。事態がどのように進展し、どのような法律が生まれるのか、今後も引き続き注目していきたいと思います。ローレンさん、本日はご参加いただき本当にありがとうございました。
こちらこそ、ありがとうございました。
そして、ご視聴いただいた皆様もありがとうございました。最新のテクノロジーニュースや議論をお見逃しのないよう、下からチャンネル登録をお願いします。音声でお聞きになりたい方は、お好みのポッドキャスト配信サービスでもお楽しみいただけます。
コメント