31,842 文字
今日はラリー・レッシグをお迎えできて嬉しいです。ラリー、覚えてはるかな、20年ちょい前に、あんたが私をジョナサン・ジットレインとの授業に招いてくれはった時のこと。あの時は、私にとって大きな恩恵と名誉やったんです。で、今度は私があんたをここスタンフォードに招待してるわけや。これも私にとって恩恵と名誉やと思ってます。
ありがとうございます。ラリーは、みなさんもご存知かもしれませんが、ハーバード・ロースクールのロイ・ファーマン法学・リーダーシップ教授です。そして、ここスタンフォードでも教鞭を取ってはりました。2009年まででしたっけ?
そうやな、2009年やったわ。
その間、スタンフォードのインターネット社会センターを設立するなど、いろんなことをしてはりました。今もそのセンターは活発に活動してます。Equal Citizensの創設メンバーでもあり、クリエイティブ・コモンズの創設理事でもあります。全部は挙げられへんくらいたくさんの組織に関わってはります。大統領候補にもなったことがありますな。今日、何か発表することはありませんか?
いやいや、今日はないわ。
分かりました。確認せなあかんかったもんで。そして、数えきれんほどの本も書いてはります。
たくさんの栄誉も受けてはりますが、私が特に気に入ってるのは、ニューヨーカー誌が「インターネット時代の知的財産に関する最も重要な思想家」と評してることです。
今日のラリーの話は、AIと民主主義についてです。まず、ラリーの得意のプレゼンテーションをしてもらいます。もし見たことがない人は、きっと楽しめると思います。
その後、炉辺談話のようなやり取りをして、最後に皆さんからの質問を受け付けます。では、ラリー、よろしくお願いします。
ありがとうございます。
みなさん、2021年1月6日に起こった民主主義への打撃を覚えてますよね。この出来事で重要なのは、あの人たちが選挙は盗まれたと信じてたってことです。
選挙が盗まれたと信じたら、あんたやったらどうする? 適切な行動ってなんやろ?
彼らはそう信じてたんです。70%の共和党支持者がそう信じてたんです。頭のええ共和党支持者だけやなくて、あんまり頭のよくない共和党支持者もそう信じてたわけやありません。大卒の共和党支持者の過半数が選挙は盗まれたと信じてたんです。
これが彼らの認識やったんです。そしてこの認識は、こんな感じで表されてます。これはちょっと励みになるかもしれません。だって、共和党支持者はアメリカ人の一部分やからね。これを見ると、2021年1月の時点で32%のアメリカ人が選挙は盗まれたと信じてたってことになります。
このグラフは怖いですね。でも、このグラフはもっと怖いです。2021年1月6日以降、選挙が盗まれたと信じてる人の数に変化がないんです。
4年近く、議論や証拠、あらゆる分析が行われてきました。それらの議論や分析は、圧倒的に選挙が盗まれたという証拠はないことを示してます。どの選挙区でも最終結果を覆すようなことはありませんでした。それでも、この見方が根強く残ってるのが今の現実なんです。
これは新しい現象やと言いたいんです。リチャード・ニクソンのことを考えてみてください。ニクソンは、任期の初めのころは、ドナルド・トランプと同じくらい共和党支持者に人気がありました。民主党支持者からはトランプほど嫌われてはいませんでしたが。無所属の人はその中間くらいでした。
でも、最終的に辞任する約6か月前から、ニクソンへの支持はこんな感じになりました。
この傾向で驚くべきなのは、民主党支持者、共和党支持者、無所属の人、全ての層で同じくらいの割合で支持が低下してることです。国民全体が同じ物語を見てたんです。ウォーターゲート事件の発覚の物語を。そして、みんな同じように反応したんです。
対照的に、これはドナルド・トランプの政権全体を通しての支持率です。
何が起こっても、彼への支持はほとんど変わりません。なぜなら、この世界の人々は自分たちの現実のバブルの中にいて、自分たちの見方を肯定し、強化するメディアによって、まさに信じたいものを与えられてるからです。
これが新しい常態なんです。そして、この真実は私たちを悩ますべきです。実際、私たちはこれについて一種のパラノイアを持つべきやと思います。
私はこれを特殊な種類のパラノイアとして説明しようと思います。狩られる者のパラノイアです。アルフレッド・ヒッチコックの描写にある鳥たちのように、あるいはこれの現代版として、私たちは特定の意味での知性に狩られてるように考えるべきです。なぜなら、私たちの認識、集団的な認識、集団的な誤認識は偶然ではないからです。
必ずしも意図されたものではないかもしれませんが、それらは予想されたもの、おそらく意図されたものです。私が「もの」と呼ぶものの産物です。「もの」というのは、AIのことを指します。
でも、AIについて話すときは、未来の支配者たちに少し敬意を表さんといかんので、AIが必ずしも恐ろしいものやとは言いません。明らかに、AIは人類が今まで作った中で最高の技術です。同時に、人類を終わらせる可能性のある技術でもあります。
今のところ、この二つのどちらかを選ぶ必要はありません。でも、AIをちょっと広い視点で考えたいんです。AIを一種の知性として認識したいんです。そして、その言葉が示すように、私たちは人工知能と自然知能を区別します。
私たち人間は自然知能の王国を主張し、私たちが他の誰よりも、あるいは他の何よりも上やと思ってます。それが本当かどうかは別として。そして人工知能というのは、私たちが作る知能のことを指します。
ここで重要なのは、私たちはすでに、そして長い間、人工知能を私たちの存在の中心的な部分にしてきたってことです。
これは、デイビッド・ランシマンが彼の本『The Handover』で指摘してる重要な点です。私が言ってるのはデジタルの人工知能のことやありません。アナログの人工知能のことです。
目的を持ち、その目的に照らして世界で行動する、どんな実体や機関でも考えてみてください。これをアナログAIと呼びます。
世界の事実に照らして道具的に合理的やということです。この意味で、民主主義はアナログAIです。何らかの集団的な目的のための機関、選挙、議会、憲法があります。ここに私たちの願いがあります。「我ら人民が、より完全な連邦を形成するために」。したがって、民主主義は共通善に捧げられたアナログ人工知能なんです。
あるいは、企業もアナログ人工知能です。機関、取締役会、経営陣、財務があって、お金を稼ぐという目的があります。少なくとも今日では、フリードマン的な見方では、企業の唯一の目的は株主価値を最大化することやと考えられてます。それがその目的関数で、その目的関数を進めるために世界で行動します。
これらはAIです。目的と目標があります。時には補完し合います。例えば、スクールバス会社と教育委員会の目的や目標は補完し合います。時には競合します。きれいで健康的な公園と発電所の煙突の考え方は対立します。
そして対立するとき、私たちはその対立の中で自然な関係を想像します。
例えば、公園の隣にある発電所が公園に煙を吐き出してるのを想像します。そうすると民主主義者は – 小文字のdの民主主義者ね – 公園をきれいにする、空気をきれいにするための住民投票が必要やと言います。そして彼らがその住民投票で勝って、スモッグがなくなるのを想像します。
これはAIが競合して、民主主義が勝つという話です。ハッピーな物語ですね。
これも今のアメリカでは幻想です。なぜなら今、企業は実際に政府よりも効果的なアナログAIなんです。政府の目的と対立する目的を達成する上で。
こんな風に考えてみてください。時間を横軸にして、道具的合理性を縦軸にします。人間はかなり道具的に合理的です。牛よりはマシやけど、アリほどではないかもしれません。でも重要なのは、私たちが道具的に合理的な存在やってことです。
民主主義は必然的に道具的に合理的な存在です。ある目的のためには人間よりも道具的に合理的です。ランシマンの指摘は、長期的に安定した環境を望むなら、それを促進する政府が必要やってことです。
人間だけではそれを実現できません。企業は、私が示唆したいのは、民主主義よりもさらに道具的に合理的やということです。そして民主主義は人間よりも道具的に合理的です。
さて、これらの各層は、その上の層をコントロールしようとします。人間は選挙を通じて民主主義をコントロールしようとし、民主主義は規制を通じて企業をコントロールしようとします。
でも、その願望は現実とは違います。アメリカの現実のコントロールは、企業が効果的に民主主義をコントロールしてます。これはスーパーPACや、お金が政治に影響を与え、結果を左右する方法の結果です。
そして民主主義は効果的に人間をコントロールするように自らを構築します。ゲリマンダーのような歪んだ代表システムによってね。
これらは、下位レベルが望むような関係ではありません。そしてAIの生みの親、ジェフリー・ヒントンの観察を考えてみると、「より知的なものがより知的でないものにコントロールされる例はほとんどない」と言ってます。これは系として、より道具的に合理的なものがより道具的に合理的でないものにコントロールされる例はほとんどない、ということを示唆してます。
これらのAI、私が言いたいのは、アナログAIです。そして、その上にデジタルAIを考えます。そしてまた、コントロールの願望があります。企業がAIをコントロールしようとしてます。でも、現実のコントロールは企業が望むほど効果的ではありません。
私のお気に入りの例は、2017年9月のことです。ProPublicaが、Facebookに「ユダヤ人嫌い」をターゲットにした広告カテゴリーがあると暴露しました。
彼らはとても恥ずかしがりました。もちろん、Facebook内の誰一人として「ユダヤ人嫌い」というカテゴリーを作ったわけではありません。AIが、ユダヤ人嫌いがかなり良い広告カテゴリーになると判断したんです。ユダヤ人嫌いに広告を出せばかなり儲かると。だからそのカテゴリーを作って、それに基づいて広告を売り始めたんです。
Facebookは「私たちがやったんじゃない」と言いました。でもそれが重要なんです。AIがやったんです。彼らはAIをコントロールしてません。コントロールしたいと思ってるだけです。
でも、本当の違いはただ、この途方もなく道具的に合理的なものの規模の違いです。この違いの大きさです。このデジタルAIは、私たちよりも効率的にその目的を達成するでしょう。
そしてここで私たちはパラノイアを呼び起こします。なぜなら、私たちの認識、私たちの集団的な認識、私たちの集団的な誤認識は偶然ではないからです。それらは予想されたもの、意図されたもの、AIの産物なんです。これをAI認識マシンと考えることができます。私たちはその標的なんです。
トリスタン・ハリスは、デジタルAIとの最初の接触は、ソーシャルメディアを通じた接触やったと説明しました。
トリスタン・ハリスは、ここの学生で、Googleに行って、それからGoogleを辞めて人道的技術センターを始めました。彼は『ソーシャル・ジレンマ』の推進力でした。これは、ドキュメンタリーの歴史の中で最も多くの人に見られたドキュメンタリーになりました。
でもGoogleにいた時、彼は注意の科学に焦点を当ててました。ここのフォッグ教授なんかの影響を受けて、AIを使って注意をエンジニアリングし、抵抗を克服し、これらのデジタルプラットフォームへの関与を高めることに焦点を当ててました。
なぜなら、エンゲージメントがビジネスモデルやからです。トリスタンが言うように、これは一種の「脳のハッキング」です。
私たちは脳のハッキングを体のハッキングと比較して考えることができます。体のハッキングは、食品科学を利用して、進化を利用して自然な抵抗を克服するように食品を設計することです。そうすることで、いわゆる「食品」を食べ続けられなくなり、より効果的に食品、あるいは「食品」を売ることができます。
加工食品会社はそれをビジネスとしてやってます。脳のハッキングは注意力に関して同じことです。進化を利用して、ランダムな報酬に抵抗できないとか、底なしのコンテンツを消費し続けるのを止められないという事実を利用して、エンゲージメントを高め、より多くの広告を売ることを目的としてます。
たまたま、私たちはより極端で、より分極化した、より憎しみに満ちたコンテンツにより多く関与します。だから、そういうコンテンツを与えられるんです。その結果、私たち国民は分極化し、無知になり、怒りっぽくなり、その過程で民主主義は弱体化します。
彼らは私たちが望むものを与えてくれます。ここが重要なポイントです。彼らは私たちが望まないものを強制してるわけやありません。私たちは望むものを手に入れてるんです。でも問題は、私たちが望むものがこんな反応を生み出すってことです。
重要なのは、これはAIが強すぎるからやないってことを認識することです。私たちが弱すぎるからなんです。だから、今日心配すべきはAGI（汎用人工知能）やありません。明日はそうかもしれませんが、今日はちがいます。
AGIに到達するずっと前に、AIは私たちが otherwise would reflect upon the thing that we wanted（訳注：原文のままです。意味が不明確なため翻訳を控えました）を克服することができるという事実が問題なんです。
トリスタンは個人の人間の弱さに焦点を当ててました。私が示唆したいのは、AIが集団的な人間の弱さを圧倒する方法です。国益のために何が重要かを決定する私たちの集団的能力を圧倒します。なぜなら、私たちはその筋肉を鍛えるのがかなり弱いことが判明したからです。
だから、個人だけでなく、私たち全員がこれらのメタルヘッドに囲まれてるんです。AGIが登場するずっと前に、AIは私たちを圧倒します。
だから、AIは求めるものを手に入れます。エンゲージメントをね。そして私たちが手に入れるのは、私が言いたいのは、一種のハッキングされた民主主義です。
そして、それが最初の接触でした。二回目の接触は何を生み出すでしょうか? AIが現在のバージョンのAIで選挙にどのように関与するのか、その性質はどうなるでしょうか? AIが狂ったように効果的にターゲティングするだけでなく、狂ったように効果的に作成してターゲティングする時、どれだけ効果的になるでしょうか?
投票を抑制したり、投票の一部を過激化したり、実際、彼らの利益は彼らが otherwise would have thought their interest to be（訳注：原文のままです。意味が不明確なため翻訳を控えました）ではないと人々を説得するのに、どれだけ効果的になるでしょうか?
そして、これは根本的な問題を提起します。私たちに何ができるのか。何をすべきか。
洪水に直面したとき、最初にすべきことは振り返って逃げることです。逃げることです。民主主義をより高い地盤に、守られた地盤に移動させたいんです。民主主義を孤立させ、AIの操作的な力から、AIの有害な力から民主主義を守りたいんです。
AIのビジネスモデルであるエンゲージメントの意図しない結果としても、または中国人やロシア人の意図的な結果としても、簡単に歪められたり歪められたりしない民主的意志を引き出す方法を見つけたいんです。
法律は陪審員の文脈でこれを行います。陪審員の審議は保護された審議です。
陪審員に何でも提示できるわけではありません。判事が証拠の範囲内で何が許されるかを決定し、彼らは証拠以外のものを聞くことはできません。そして彼らは一緒に審議します。それが陪審員です。
世界中の民主主義改革者たちは、ますますこれを民主主義で行おうとしています。
そして、この運動の核心は市民集会運動と呼ばれるものです。市民集会は、ランダムで代表的で、情報を得て審議する機関で、その結果への信頼を損なう可能性のある外部や操作的な影響から保護されています。
ここスタンフォードでは、ジム・フィシュキンの審議民主主義センターと彼が審議型世論調査と呼ぶものを通じて、この実践がよく発展しています。
市民集会は、結果を生み出すという意味で、より民主的につながっています。態度だけを生み出すのではありません。
アイスランドは市民集会のようなものを使って新しい憲法を作りました。1000人のランダムに選ばれたアイスランド人から始まり、彼らが集まって新しい憲法が反映すべき価値を特定しました。
そして、起草委員会に座る26人を選ぶ選挙を行いました。500人がその選挙に立候補しました。バッファローくらいの規模の国です。500人が立候補したんです。24人が選ばれました。彼らが憲法を起草しました。それが国民に送られ、圧倒的に支持されました。
国民の3分の2以上がその憲法のすべての要素を支持しました。そして議会はそれを無視しました。なぜなら議会は、主権者は国民ではなく議会だと考えたからです。
より成功した例はアイルランドです。アイルランドは2008年の危機の頃から始めました。アイスランドが行ったのと同じ時期です。市民集会のプロセスを。
アイルランドはランダムに99人の市民を選び、そして1人の政治家タイプが司会をします。彼らはアイルランド議会が効果的に取り組めなかったであろう一連の問題に取り組んできました。例えば、中絶、同性婚です。これらの2つの問題は、テキサス州議会のようなものです。
しかし、これらの両方が市民集会で進歩的な方向で圧倒的に支持されました。そして同性婚が承認され、中絶が規制緩和されました。彼らはその結果を国民に示し、国民は市民集会が行ったよりもさらに高い割合でそれらを支持しました。
フランスは、これを大統領選の中心的な部分にし始めました。
マクロンは、気候に関する集会を1つ行うと約束して選挙に出馬しました。そして気候に関する集会が行われました。次に彼は人生の終わりに関する集会を行うと言い、人生の終わりに関する集会が行われました。
これらには150人のランダムに選ばれた人々が参加し、9ヶ月以上、7セッション、基本的に月に1回パリで開催されます。もちろん、そんなことのためにパリに来ることに同意してもらうのは簡単です。
でも重要なのは、それがフランス政府が下した決定、決断を導く結果を生み出したということです。人生の終わりについては、気候ほど成功的ではありませんでしたが。
これはドイツ中で起こっています。ここで重要なのは、これが世界中で起こっていて、ここではあまり起こっていないということです。これは奇妙です。なぜなら、私たちの憲法は基本的に非常に不完全な市民集会への関与を組み込んでいるからです。陪審員制度です。
例えば、大陪審が起訴すべきだと決定しない限り、連邦犯罪で起訴されることはありません。大陪審は、ランダムに選ばれた人々の集まりで、法律に違反した可能性があるかどうかを決定します。そして、通常の陪審、12人の陪審員が有罪を決定しない限り、有罪にはなりません。
これは政府の権力をランダムに選ばれた人々のグループに委ねるという約束です。私たちの生活にそれほど影響を与えているようには見えません。あなたは人生で3回陪審員を務めたと話してましたね。
フィラデルフィアでは、共和国の始まりの頃、平均的な陪審員は – もちろん、白人男性の財産所有者だけですが、つまり人口の小さな部分ですが – 平均的な陪審員は年に3回陪審を務めました。
年に3回、彼らは誰かの財産や誰かの生命や誰かの自由について決定を下しました。そして彼らは知らない人々と審議することを強いられるプロセスで政府の権力を輪番で行使し、そのようにして民主主義を実践しました。
さて、この運動は非常に希望に満ちていて興奮させるものだと私は思います。
そして、これは単に良いアイデアというだけではないと主張したいんです。民主主義にとって一種の実存的なものだと思います。民主主義のある種のセキュリティとして、公共の意志に反するようなある種のハッキングから私たちを守る方法として。
だから、これは単に民主主義をより良くするための変化ではありません。この技術の進化を考えると、民主主義を生き残らせるための変化だと思います。超知能の遥か手前で、AGIの遥か手前で、AIがこのような民主主義を脅かすという恐ろしくも刺激的な瞬間を認識しながら。
でも、私たちにできることがあるんです。そして、まだできるうちに、そのできることをすべきです。今、民主主義を信頼できないことを知るべきです。今、私たちにはまだ何か違うものを作る時間があることを認識すべきです。そしてその違いを実現するために行動すべきです。
成功すると分かっているからではありません。正直言って、成功するとは思ってません。どちらかというと絶望的だと思ってます。でも、私たちが愛するものに関しては、ある態度を持たなければなりません。
私が一度講義をしたとき、ある女性が立ち上がって言いました。「教授、あなたの話を聞いて、絶望的だと確信しました。私にできることは何もありません。」
私は「ああ、これは失敗だ」と思いました。そして、なぜか、当時6歳だった息子のイメージが浮かびました。今はあなたたちくらいの年齢ですね。そして私は考えました。もし医者が来て「あなたの息子は末期の脳腫瘍で、あなたにできることは何もない」と言ったら、何もしないでしょうか? ただ諦めるでしょうか?
そして私は、愛とはそういうものだと気づきました。確率は関係ありません。愛するものを救うためには、必要なことは何でもするんです。
そして、民主主義への脅威を考えるとき、そう考える必要があります。もし本当にこの民主主義を愛せるなら、まだ時間があるうちにね。私たちのロボットの支配者がまだSFの空想の域を出ていないうちにね。
ありがとうございました。
[拍手]
ありがとう、ラリー。素晴らしかったです。最後にもう一人ゲストスピーカーがいますが、あんたの後やと大変やろうなぁ。人々にとって達成不可能な基準やわ。でも、みなさんがラリーの話を聞けて良かったです。本当に強力なアイデアと素晴らしいプレゼンテーションでしたね。
今日の早い時間に、あんたと私は「デジリスト・ペーパーズ」というワークショップに参加してました。これは大胆にもフェデラリスト・ペーパーズにインスパイアされたものです。
ジョン・ジェイやマディソン、ハミルトンが、技術が急速に変化し、民主主義がかなり不安定だった時代に、社会を統治するための原則を考え出そうとしたように、私たちは21世紀のためにそれらのことを再考する必要があるという前提です。
あんたはここにいる人たちが読んだ、「保護された民主主義」についてのエッセイを書きました。そこで触れた多くのテーマについて、今日も話してくれて良かったです。
今はそれほど詳しく話さなかったけど、一つ機会を与えたいのは、拒否権政治（vetocracy）のアイデアについてです。金銭的利益と分極化が、変化を起こしたり何かを成し遂げたりすることを難しくしているという点について。その部分をもう少し詳しく説明してもらえますか?
そうやな、フランシス・フクヤマが約20年前にアメリカを拒否権政治として語り始めました。拒否権政治というのは、少数のアクターが実質的に意思決定や行動を阻止する力を持つシステムのことです。
もちろん、私たちの憲法の起草者たちはアメリカを拒否権政治のようなものとして設計しました。法案が可決されるプロセスには、多くの段階があり、そこでその法案を阻止できる仕組みがあります。
例えば、下院が法案を可決しなければ、それだけでその法案は法律にならない。上院が可決しなければ、それだけで法律にならない。大統領が拒否権を発動すれば、議会の3分の2の多数で覆せるが、そうでなければ法律にならない。最高裁が違憲判決を下せば – これは最初から強制されたわけではないが、裁判所がそう解釈してきた – それでおしまいで、法律にはならない。
だから、拒否権を行使できるポイントはあったんです。でもフクヤマが主張してるのは、起草者たちが与えた制度に、私たちがさらに多くの拒否権ポイントを追加してきたってことです。
政党や議会内の委員会も拒否権ポイントです。フィリバスターも、進化してきた形では拒否権ポイントです。今のフィリバスターが伝統的なものやという話は信じないでください。これはミッチ・マコーネルが与えた真新しいフィリバスターです。
フィリバスターは基本的に、アメリカの20%ほどの人々が、どんな法案でも議会を通過させるのを阻止できるってことを意味します。完全な拒否権です。覆すこともできません。
そして私にとって最も顕著なのは、スーパーPACが政治資金に与える影響です。2010年、コーク兄弟は、共和党候補が気候変動の真実を認めれば、共和党の予備選挙で対立候補を立てると宣言しました。
2010年以降、気候変動が本当かもしれないという考えを受け入れようとする共和党員が劇的に減少しました。2人の兄弟が、気候変動を超党派の問題にさせないためにお金を使うと決めたからです。
あんたは覚えてないかもしれませんが、2008年には、マケインとオバマの間で、誰がより良い気候変動計画を持っているかについて激しい議論がありました。
両方ともかなり良い計画でした。マケインの方が良かったかどうかは分かりませんが、重要なのは2008年にはそれが可能だったってことです。2人の兄弟が、2010年以降、今日に至るまで、それを不可能にしたんです。
これが拒否権政治の特徴です。そしてAIとメディアの仕組みとのつながりについての要点は、分極化がこれらの拒否権政治の効果を増幅させるってことです。
ある問題を政党のアイデンティティにリンクさせることができれば、それをリベラルの問題や民主党の問題にしたり、共和党の問題や保守派の問題にしたりできれば、相手側がそれを受け入れることは、自分たちのアイデンティティを裏切ることなしには不可能になります。
だから、政治がアイデンティティ重視になればなるほど、何かを成し遂げる能力を阻止する方法を見つけるのが容易になります。
私は「拒否権政治」という言葉の起源を見つけようとして本当に驚きました。フクヤマが使い始める前は一度しか現れていません。でも今日、この言葉を最も顕著に使っているのは中国政府です。
なぜなら、中国政府はアメリカの民主主義に対してとても説得力のある批判を持っていて、それはすべてアメリカの民主主義の拒否権政治についてだからです。
アメリカは何もできない。そして彼らは例えば – 20年間で2万マイルの高速鉄道を建設しました。アメリカ政府は0マイルの高速鉄道しか建設していません。
どんな問題でも – もちろん、中国には不満な点がたくさんあります。だから誤解しないでください。中国のようになろうと言ってるわけではありません – ソーシャルメディアをかなり効果的に規制しています。
だからそれはかなり良いことかもしれません。でも私が言いたいのは、彼らの私たちに対する批判が真実だってことです。私たちは、大きな問題に取り組めない政府を作ってしまったんです。それらの問題が分極化する程度に応じてね。そして、すべての問題が分極化します。
COVID-19のことを考えてみてください。2020年3月、みんなが「よし、ちょっと一息つこう。危機に対処しよう」と言う素晴らしい瞬間がありました。
そこには党派性はありませんでした。でも非常に早く、特に[聞き取れない]が、これが本当なのか、誇張されているのか、という疑問を引き起こすことに大きな見返りがあると判断しました。
そして、システム全体が、そこでも対立を作り出す必要性に動かされ始めるのが見え始めました。法案が可決されるかどうかだけでなく、人々が生きるか死ぬかが問題になっているときでさえもです。
だから、その病理は深いんです。そして、どうやってそこから抜け出せるのか、私にはよく分かりません。
ドナルド・トランプが11月に勝つと仮定して – いや、そんな仮定はしたくないな。選挙があんたの望むようにならなかったと仮定して、その時はアメリカが拒否権政治すぎることを心配しますか? それとも、そのことを喜びますか?
うーん、ドナルド・トランプはアメリカ政府の拒否権政治を大幅に減らすでしょうね。彼はすでに、ヘリテージ財団の2025年プロジェクトが、アメリカ政府の拒否権政治を回避するための驚くべき革新やハックで満ちていると示唆しています。
そして彼は、これまでどの大統領も主張しようと考えなかった、あるいはおそらく主張しようと考えたけど、南北戦争以来、効果的に主張してこなかった権限を主張するでしょう。
そして問題は、裁判所が抵抗するかどうかです。この裁判所は、この分野で原則のように見えるものへのコミットメントを示していません。
だから拒否権政治は少なくなるでしょう。今日の早い時間に、私たちはこれについて本当に興味深い会話をしました。私は拒否権政治に完全に反対しているわけではありません。元々共和国を構築したときに、熱狂が暴走するのを避けるようにしたことには知恵があったと思います。
だから、ある程度はあっても良いんです。でも良いものでも度が過ぎることがあります。今のような状況になると、深刻な問題に取り組めなくなります – 気候変動、不平等、医療、投資。どの問題を取り上げても。どの問題にも効果的に対処できません。
権威主義をより容易にするために壊すからといって、通常の民主主義にとっての恐怖を否定することにはなりません。
そうですね。そして、それらの問題に取り組むには、あんたが論文で書いたように、共通の事実理解が必要です。「民主主義は、共通の理解と共通の事実セットを必要とし、それによって合理的に問題を解決できる」と。これは放送技術の時代には可能でした。今日では想像もできません。
その点についてもう少し詳しく話してください。あんたの話の冒頭で少し触れてましたが、異なるグループが真実に対して異なる認識を持ち、それが断片化しているという点についてです。
私は、同時に追跡しなければならない技術が2つあると思います。一つは放送技術です。国家誕生時、放送は基本的にパンフレットでした。
でも、基本的にパンフレットは私たちが放送と呼ぶものではありません。印刷して配布し、国中の誰もがアクセスできました。でも、アメリカの一方の端から他方の端まで情報が届くのに4ヶ月かかりました。だから、みんなが同じ時間に同じ話を聞いていたわけではありません。
放送がそれを変えました。特に第二次世界大戦中、それはファシストと反ファシストの両方にとって中心的な組織化技術になりました。ヒトラーとゲッベルスもそうですし、FDRも炉辺談話を使って国を団結させました。そう、私たちもここでそれをやってるんです。今この瞬間、明らかに何千万人もの人々が聞いてますからね。
そうですね、質より量ですね。
そう、そう言い聞かせてるんです、私たち学者は。500冊しか売れへんのにね。あんたは500冊だけってことはないやろけど。
でも重要なのは、ある期間があったってことです – プリンストンのマーカス・プライアー – プリンストンの名前を出して良いのかな – が「放送民主主義」と呼んでいる期間です。彼によれば、それは1960年代初頭から1980年代半ばまでの期間です。
その期間、基本的に誰もが3つのニュース局のうちの1つで、同時にニュースのビデオ放送を見てました。ニュースが放送されてる間にホームショッピングネットワークを見る選択肢はなかったんです。テレビを見たければ、ニュースを見るしかなかった。そしてテレビはかなり魅力的でした。
だからみんなニュースを見てました。そして、その中道的なニュースを定期的に見ることで、ある種の共和国が作られました。偏りがなかったとか、理解が完全だったとか、黄金時代だったとは言いません。そんなことは全然言ってません。
ただ、ある特徴があったってことです。それは、アメリカ国民に議題が示され、アメリカ国民がその議題に反応したってことです。
そして私たちは、その35年から40年の間に、驚くべき量のことを成し遂げました。公民権運動が台頭し、大きな問題になり、大規模な法改正で解決されました。環境、リチャード・ニクソン、ベトナム戦争 – これらは本当に大きな問題で、国家はそれらに苦しみ、進歩的な方法で取り組みました。
だから、一つの技術は放送です。非放送の時代から放送の時代に移行し、今は再び非放送の時代に戻っていると言えます。今は皆、同じ3つの番組を見てるわけではありません。みんな自分の小さなチャンネルを見てます。それらは一貫した政治的空間に分極化されてるかもしれませんが、以前のように誰もが同じ内容を同じ時間に同じ方法で消費しているわけではありません。
これが一つ目の次元です。二つ目の次元は、世論の「可読性」です。奇妙な偶然ですが、放送と現代的な科学的世論調査がほぼ同時に生まれました。現代的な世論調査技術が劇的に登場したのは1936年の選挙です。
当時、誰もがアルフ・ランドンがFDRを圧倒的に破ると確信していました。アルフ・ランドンという名前を聞いたことがないということは、それが起こらなかったことを意味します。
人々がそう思った理由は、当時普及していた世論調査技術が基本的にストロー投票だったからです。リテラリー・ダイジェストは基本的に、誰に投票するかを書いたクーポンを送ってもらいました。彼らは何百万もの投票用紙を集めました。
何百万もの投票用紙がランドンに圧倒的に集中しました。だから彼らは、ランドンが明らかに勝利すると言いました。でも、リテラリー・ダイジェストに回答を求められた人々は、自動車の登録所有者でした。1936年の自動車所有者は、アメリカ人のランダムな選択とは言えませんでした。
そこでギャラップ – 彼はノースウェスタン大学のジャーナリズム学校か何かの卒業生でしたが – は、違う技術を使うと言いました。ランダムで代表的なサンプリングです。
彼は、FDRがランドンを圧倒的に打ち負かすだろうと言いました。誰もがそれは冗談だと言いました。そんなことはありえないと。でももちろん、それが実際に起こったんです。
その出来事で、世界は突然、人々が特定の時点で何を考えているかを理解する技術があることに気づきました。
でも、放送民主主義の真っ只中で人々を読み取る方法を学んだことが驚くべきなのは、人々が何か興味深いことを言う瞬間に人々を読み取る方法を学んだということです。なぜなら、人々は基本的に同じ情報セットによって教育されていて、この包括的ではないにせよ一貫した情報セットに基づいて彼らの見方を追跡できたからです。
それは人々を納得させました – ベン・ペイジとロバート・シャピロの『The Rational Public』（合理的な公衆）という本があります。今の私たちにとっては奇妙なタイトルの本ですね。誰が公衆は合理的だと思うでしょうか?
でも彼らがやったのは、基本的に放送民主主義の期間を見て、アメリカ国民が政策問題について与えられた情報に合理的に反応した様子を示すことでした。
そして彼らは、これが民主主義の本質だと結論づけました。彼らは、この現実が生み出された技術的環境の偶然性に敏感ではありませんでした。ただ、これが民主主義の本質だと思っただけです。
でも、ケーブルニュース、ケーブルテレビ、そしてそれに続くケーブルニュースとインターネットの誕生以来、私たちが見てきたのは、チャンネル数の増加によって、人々が好きなものを好きなだけ見られるようになったということです。
そしてニュースを見るのはニュース中毒者だけです。ニュース中毒者は最も党派的で、政治的に関与している人々です。そしてニュースはそういう人々のために作られ、そのコンテキストでニュースが分極化を促進します。
同時に、私たちは世論調査で公衆の意見を聞くことができます。そしてますます、世論調査を通じてクレイジーな公衆を見るようになっています。
私が出会った最も恐ろしい統計は、1998年にピュー研究所がアメリカ人に「アメリカ人の政治的判断を信頼していますか?」と尋ね始めたことです。当時、3分の2のアメリカ人が「はい、アメリカ人の政治的判断を信頼しています」と答えました。今日、その数字は逆転しています。
3分の2が「アメリカ人の政治的判断を信頼していない」と言っています。その理由の一部は、私たちが人々を読み取ることができ、最も極端な人々を読み取っているからです。彼らが最も目に見えて関与しているからです。そして私たちはクレイジーな人々を見て、「ああ、なんでこんなクレイジーな人々に政府を任せられるんだ」と言います。
その結果、民主主義への信頼が侵食されています。ある意味で、今日は1870年や1880年とよく似ています。その頃も分極化した党派的な報道はたくさんありました。でも1870年や1880年には人々は見えませんでした。政策立案者にとって、人々は重要ではありませんでした。今日、人々は見えます。
人々は読み取り可能です。だから1月6日には、議会の多くの共和党員が「ああ、よかった、やっと終わった。あの男はもういない。もうあの男のことを心配する必要はない」と思いました。リンゼイ・グラハムは上院の床で「もう私は列車から降りた。もうドナルド・トランプはいない」と言いました。
そして彼らは一晩の世論調査を受け取り、共和党の基盤がまだドナルド・トランプに深くコミットしていることを示しました。そして彼らは「私たちに何の選択肢があるのか。私たちの支持者に従わなければならない」と思ったんです。
これら二つのことが合わさって、私たちがその結果から抜け出す簡単な能力を想像できない特定の場所を生み出していると思います。
もっと言いますと、政治家が有権者の望むことに従うのは悪いことだと言ってるように聞こえますね。
そうですね、彼らが有権者の望むことに従っていて、その有権者が最も分極化したコンテンツを消費し信じるようにハイジャックされているのであれば…
その部分をもう少し詳しく説明してください。AIとインターネットはどのように分極化を促進しているのでしょうか?
そうですね、加工食品会社を経営していて、どんな食品を作るか決める時、食品科学者に最も中毒性の高い塩、脂肪、砂糖の組み合わせを見つけてもらいます。
そしてそれを生産し、人々はその食品を消費します。あなたは彼らが不健康になっていくのに気づくかもしれません。そして「それは好きじゃない」と思うかもしれません。クラフトはある時期、「もうこれはやめよう。健康的な食品、健康的なスナックを作ろう」と決めました。
もちろん、公衆は「それは望んでいない。チートスが欲しい」あるいは「不健康なものが欲しい」と言いました。そして市場は彼らに背を向けました。その経営者は追放され、彼らは元のやり方に戻りました。
つまり、ファストフードや加工食品を売るビジネスモデルが、アメリカに有害だと知っていることをさせたんです。でもそれが彼らのビジネスだったんです。
メディアの文脈では、ソーシャルメディアのビジネスモデルがエンゲージメントである場合、その目的はあなたを夢中にさせ、画面に釘付けにするものを見つけることです。
健康的で楽しく魅力的なメディアを持つ方法はありますか? つまり、おいしくて健康的な食べ物を持つことはできますか? 健康的で…
一つの考え方は、カーネマンとトベルスキーのシステム1とシステム2です。私はTwitterに行きます。何か刺激的なことが起こっているという小さな刺激を得るのは楽しいです。
でも、コミュニティノードもあります。経済学のTwitterには、NBERの論文へのリンクがあります。バランスの取れた食事かどうかは分かりませんが、興味深くて啓発的なものにする方法があるかもしれません。
素晴らしいでしょうね、驚くべきことでしょう。まだ見たことがありません。
多くの実験、多くの人々が – それは…
何か希望を与えてくださいよ。
希望を与えるのは私の仕事ではありません。それは私のここでの仕事ではありません。
私たちにできることはありますか?
はい、あります。そこから始めましょう。
あなたやあなたの子供たちがすることの一つは、私が思うに、民主的な決定の重要な部分を、簡単に操作される意思決定者の外に移すことです。
それが保護された民主主義の動きです。でも、直近でできることは、これらの拒否権政治のトリガーの中で最も有毒なものを解体しようとすることです。最も有毒な拒否権政治のトリガーは、アメリカの政治におけるお金の役割です。
あなたが問題を挙げれば、私はそれがお金のせいでなぜそんなにばかげているのか正確に説明できます。そのうちのいくつかは政治的に適切に話すことはできませんが、現実は、高いレベルでは、これらの最も重要なものの一つ一つにお金が関係しています。
もし私たちがそれに対処する方法を見つけることができれば、政治家たちがお金が生み出す歪んだインセンティブに反応する場所から政府を遠ざけ始めることができるでしょう。
お金は二種類の歪んだインセンティブを生み出します。まず、スーパーPACのお金です。既に気候変動の例で説明しましたが、スーパーPACのお金は、アメリカの政治において最も分極化し、有毒なお金です。
それは必ずしも使われることによってのみ効果を発揮するのではなく、脅威を与えることによっても効果を発揮します。素晴らしい論文があります – 名前を忘れましたが – 「政治献金の氷山理論」と呼ばれるものです。
基本的に、お金を使うことは、お金を使うと信憑性のある脅威を与えるのと同じくらい効果的だと言っています。だから、誰かに反対してお金を使うと脅すだけで、それは彼らに規律を与える効果があります。
そう、水面下の氷山は、この信じられないほどの効果です。
だからスーパーPACのお金はそういう意味で歪んでいます。でも、少額の寄付金でさえそうです。マージョリー・テイラー・グリーンやマット・ゲーツのような人物なら、ほとんどのお金を少額の寄付で集めます。
そしてそれをする方法は、誰もが見るTwitterフィードやInstagramフィードのトップに来るように、あるいはケーブルニュースに登場するように振る舞うことです。
どうやってそれをするのか? アメリカの政治で今日、道化師のような行動を完璧にすることです。最も分別があり、バランスが取れていて、真剣な議員たちは、彼らが誰なのかあなたに言えません。なぜなら彼らは目に見えないからです。
技術プラットフォームのいくつかと、LLMやその他のものが人々の情報の入手方法を変えている方法のいくつかに焦点を当てたいと思います。
Google検索について、今日の早い時間に、あなたの法律の同僚の一人であり、私のスタンフォードの同僚でもあるユージン・ボロックと一緒にいました。彼は検索エンジンのビジネスモデルはスピーチだと主張しました。
そして今、そのビジネスモデルは変化しています。LLMが多くの要約された情報を提供し、人々をインターネット上のソースにさえ誘導しなくなっているからです。
これらをどのように見ていますか – 人々が情報をますますLLMやチャットボットから消費し始め、おそらくすでにそうなっているように、検索エンジンが何らかの形であなたの回答を要約する場合、その情報の性質は経済的インセンティブによってどのように影響を受けると思いますか? 他のどのようなインセンティブによって影響を受けると思いますか?
そうですね、私はそれは深刻だと思います。でも、まず、プッシュコンテンツとプルコンテンツの根本的な違いを認識する必要があります。
1970年と今日の世界の大きな違いの一つは、人々がFox Newsをつけて一日中家でFox Newsを消費し続けるということです。あるいは、FacebookからのニュースフィードですLFacebookを使ってる人はここにはいないでしょうけどuあるいはInstagramから絶え間なくコンテンツを押し付けられてます。そのコンテンツは、人々が何を…と考えるかについての態度を形成する上で非常に重要です。
そうですね、マット・ゲンツコウと[聞き取れない]が最近発表した論文を見ました。彼らは選挙の6週間前にランダムに選ばれた人々にFacebookをオフにしてもらい、その結果、数字が少し間違ってるかもしれませんが、Facebookをオフにした人々はトランプに投票する可能性が2.6%低くなったそうです。これは、Facebookを見ることが大きな影響を与えていたことを示唆しています。あるいは少なくとも与えていました。これは2020年の選挙中の話です。
そうですね、それはバイデンが勝った割合です。
だから非常に重要だったでしょうね。
そうです。重要なのは、このコンテキストでの展開が、エンゲージメントを促進することについてだということです。そのエンゲージメントの性質は、プルメディアがある場合は異なります。
LLMはプルメディアです。座って質問したいと思えば、答えを得られます。プラットフォームのインセンティブを気にする必要があります。
これについて今日早くも話しましたが、Googleの初期は非常に純粋でした。Googleは単に、あなたのクエリの性質に基づいて最もリンクが多いウェブサイトを提供していただけでした。そういう意味で、当時のインターネットの性質をただ報告していただけでした。
それは非常にクリーンで非常に価値がありました。今、あなたに提供されるものは、あなたが望むものと、あなたの注目を買おうとしている広告主がアルゴリズムに提供するよう成功したものの両方の機能です。
だから、Google検索エンジン内の広告のインセンティブは、あなたに提供するものの性質を変えて、広告主の何であれインセンティブにあなたをより導くようにします。
まあ、彼らは有料広告と有機的なコンテンツを分けていますけどね。でも、順序付け…
有機的なコンテンツの順序付けでさえ、広告のピッチの内容の影響を受ける可能性があります。まあ、確かに広告は上位に来ますよね。
はい。でも重要なのは、LLMのコンテキストでも同じ懸念が存在すべきだということです。
そうですね、LLMでは、その懸念は潜在的にはるかに大きいと思います。なぜなら、すべてがそこに混ざってしまい、彼らは何を提示するかを理解しなければならず、それは彼らの収益モデルにとって課題だからです。
今日、私たちは例について話しました。AIが選択肢を与えていて、取れる二つの道があり、それらが長さがほぼ同じだけど、一方が広告主の近くを通るとします。そして彼らが広告主経由であなたを送ったとします。
私たちは、AIの根本的なインセンティブが何であるかを知る必要があります。それがどのような影響を与えるかを評価できるようにするためです。
もう一つ質問して、それから皆さんに…これは本当に大きな質問です。私たちのオフィスのすぐ上で…私のオフィスのすぐ前で、私たちはAIが人間ができることのほとんどをできる世界について話していました。それがどれくらい先のことかは分かりません。
それは大きな経済的影響を与えるでしょう。来週、ダニエル・サスキンドと一部について話す予定です。でもそれは政治的な意味合いもあります。なぜなら、人々がもはや経済的に不可欠ではなくなり、経済的な交渉力を失うと、政治的な交渉力にも影響を与える可能性が高いからです。
労働力がもはや労働に依存しない場合、それが民主主義にどのような課題をもたらすかについて、あなたの考えを聞かせてください。
そうですね、最初の結果は、あなたが先ほど指摘したように、労働は本質的に分散化されているということです。人々がいるところならどこにでもあります。労働の必要性をなくすと、資本は非常に中央集権化される可能性があります。
そして、中央集権化された資本の力は、今日と比べて巨大になります。私がこれについて考える方法は…先ほどこの本について話しましたが…ダロン・アセモグルとサイモン・ジョンソンの『Power and Progress』という本です。
『Power and Progress』の主張は、アメリカの歴史の中で、1955年から1975年までの本当に奇妙な期間があり、その間、生産性の上昇と平等の上昇の間にほぼ完璧な相関関係があったということです。
生産性が上がると、平等も上がりました。そして、それ以前のすべての歴史とそれ以降のすべての歴史において、そのような関係はありません。
そこで彼らは、なぜこの奇妙な期間に、生産性の上昇と平等の上昇の間にこのようなつながりがあったのかと問いかけます。
その主張は、この期間中、私たちには効果的な対抗力があったからです。政府の力は反トラスト法の執行と所得の再分配を通じて、そして経済力は労働組合を通じて。
そして、この対抗力が、この極端な富の成長が平等に分配されることを確実にしました。でも、この教訓は、その対抗力がない場合、生産性の爆発的な増加を見ても、すべての人のための平等や富の爆発的な増加は見られないということです。
非常に少数の人々への富の集中が見られるでしょう。そして、私たちは今まさにそのような瞬間にいます。この生産性の爆発を目にすることになるでしょう。しかし、これらの対抗力を行使できる政府がありません。
さらに重要なのは、マーク・アンドリーセンのような人々のイデオロギーが、この革新と富の成長の文脈で政府が何かをすることは災害になるだろう、それを破壊するか殺すか、それが終わりになるだろうという議論を支配しているということです。
だから、富の爆発的な増加の劇的な結果に対処するために政府の能力が最も劇的に必要な瞬間に、それを行う政府がないのです。
もし政府があれば、かなり良いかもしれません。私たちの仕事をすべて行うこれらの技術があります。おそらく私たちはそれほど働く必要がないかもしれません。おそらくUBI（普遍的基本所得）を持ち、より意味のある、よりバランスのとれた生活を送る能力を持つことができるかもしれません。
人類はいつ、週60時間働くことが良いことだ、私たちが真の人間になるために必要なことだと決めたのでしょうか? でも、それが今あなたが生きている基本的な世界です。
もし私たちがそれをうまくできれば、劇的に異なる世界に生きることができるかもしれません。でも、私には今のところ、それをうまくやる能力が見えません。
そうですね、それをうまくやれないとしたら、恥ずかしいことです。では、質問やコメントを受け付けましょう。そこの方からどうぞ。
こんにちは。お話をありがとうございました。名前を言ってもらえますか?
はい、私には集中と分散の役割についての質問があります。
放送時代と現在のニュースの分析で印象的だったのは、当時の情報源の集中と、今は誰もが聞きたいものを消費できるという分散の役割です。
社会が真実についてコンセンサスに達する能力と分散化の間に、本質的な緊張関係があると思いますか?
質問の重要な部分で強調したいのは、あなたが聞きたいものを聞けるということです。
あなたが聞きたいものを聞けるという自由の意図せぬ結果は、あなたとあなたのタイプの残りの世界との間の溝が広がることです。
私の電話にはRead Acrossというアプリがあります。しばらく開いていないので、まだ機能しているかどうか分かりませんが、それは私が読んでいるものを監視し、世界の公平な見方を得るために読むべきものを提案します。私はそのアプリが嫌いです。
なぜなら、私はその他のがらくたを読むのに時間を無駄にしたくないからです。私は真実が何かを知っていると思っています。だから、私の見方を強化し、私が正しいと感じさせ、納得させるものを読みたいのです。
そして、他の誰もがそうです。あなたがそうでないなら、それはすばらしいことです。でも、あなたは世界の0.001%です。そして、それが人間性の本質であれば、完璧に消費したいものを選べるという能力の結果、これらのバブルができ、それらのバブルは互いを理解できなくなります。
私はただ驚いています。人々とその見方を理解できません。あなたたちくらいの年齢の時は、彼らを理解できたと感じています。本当に若い頃、私は保守的な共和党員でした。今はまったくそうではありませんが、リベラルを理解していました。彼らがなぜそう考えるのか理解していました。
でも今、共和党MAGAを見ると、彼らが何を言っているのか理解できません。理解さえできません。そして、その一部は、私たちが常に分離された宇宙に住んでいるからだと思います。
そして、最も驚くべき事実は、アメリカ国民に尋ねると、最新の世論調査では、どちらの政党がより民主主義を守っているかについて、アメリカ人の多数が共和党だと言うことです。
なぜなら、前大統領に起こったことについてのFoxのスピンは、これはバナナ共和国的な行動だというものだからです。これは基本的に、与党が政府の力を使って政敵を迫害しているというものです。これは第三世界の国がすることであって、アメリカではありません。
彼らはその見方を非常に効果的に広めたので、結果として、私たちはただ「ワオ、民主党は民主主義を気にしていない。共和党だけが気にしている」と考えています。
でも、あなたが言ったことは好きです。中央集権的な情報源がないことが、真実により近づく可能性が高いけど、真実について合意に達する可能性は低くなると言いましたね。それは意図的に言ったんですか?
はい、私が気づいたのは、分散化が何らかの形で、より正確な真実の描写、バイアスへの脆弱性の低下につながるという議論が常にあったということです。
だから、真実について合意することは、真実を持つこととは異なります。そして、より多くの意見の相違があるかもしれませんが、それがある意味でより真実に近いかもしれません。それはあなたが言っていることの一部ですか? それともどちらも違うのかもしれません。
そうですね、誰かが真実を知っている可能性は高くなります。ただ、多くの人や全員が真実を知っているわけではありません。そこにはコンセンサスがありません。
それは素晴らしい区別ですね。では、後ろの角の質問に移りましょう。
こんにちは、教授。今日クラスに来てくださってありがとうございます。個人的に、アメリカのソーシャルメディア規制の欠如にとても不満を感じています。
だからTikTokについて何らかの行動が起こされたのを見て嬉しく思いました。動機が国家安全保障に関するものであって、単に教育や人々のより良い情報と幸福に関するものではなかったにもかかわらずです。
アメリカの支配力が低下した世界では、より多くのソーシャルメディア規制、例えばより多くのメディア規制、情報の質に関するより多くの参入障壁、そしておそらくより機能的な民主主義のためのインセンティブがあると思いますか?
そうですね、私たちは批判するのが好きですが – 先ほど中国を褒めましたが、ソーシャルメディア規制の文脈でもう一度褒めることになります。面白いのは、私たちはTikTokを排除しようとしていますが、TikTokは中国には存在しないということです。中国に存在するTikTokのバージョンは、非常に異なるプラットフォームです。
そのプラットフォームは、若者のコンテンツへのアクセスを効果的に規制しています。例えば、消費できる時間量を制限しています。ゲームへの重い規制もあります。子供がオンラインでゲームをプレイできる時間数は制限されています。夜10時か10時30分くらいには遮断されます。
そして社会全体が、子供たちにとってオンライン環境が安全で生産的であることを確保するように組織されています。抖音（Douyin）のコンテンツ、つまりTikTokの中国版は、子供たちに宇宙飛行士や起業家になるよう説得します。アメリカの13歳の子供たちは、ソーシャル…なんて言うんでしたっけ。
メディアインフルエンサー。
メディアインフルエンサー、ソーシャルインフルエンサーになりたがります。これは恐ろしいことです。でもこれはその産物なんです。
私にとって驚くべきなのは、アメリカでは「プラットフォームへのアクセスを10時以降できないようにしよう」とか、「子供は週に3時間以上ゲームをプレイできないようにしよう」といったことを言うのはほぼ考えられないことだということです。
特にジョナサン・ハイトの研究がここで本当に強力ですが、12歳から15歳の範囲の人々、特に女の子にとってそれがいかに破壊的であるかをますます認識しているにもかかわらず。
これは、私たちが統治する能力がないことのもう一つの結果です。TikTokを排除する初期の議論で最も劇的にそれを感じました。フランセス・ハウゲン – 彼女が最初にFacebookの内部告発者になったとき、彼女の弁護士を務める名誉を得ました。
そして2021年10月に – 今は覚えていませんが – 彼女が議会で証言したとき、議会には広範なコンセンサスがあり、何かをしなければならないという意見でした。共和党のマーシャ・ブラックバーンは、何かをする必要性について熱心に話していました。
そして、AOC（アレクサンドリア・オカシオ=コルテス）が初めてTikTokを投稿しました。彼女の最初のTikTokは、TikTokを規制するべきだという考えを批判するものでした。彼女の議論は、アメリカでプライバシー法案が可決されるまでTikTokを規制するのは公平ではないというものでした。
それは落胆させるものでした。なぜなら、まず「ああ、彼女は本当にプライバシーが問題だと思っているのか。TikTokの問題がそれだと本当に思っているのか」と思ったからです。そして二つ目に、それは民主党内に資金が入って、TikTokを規制するかどうかについて民主党を分裂させ始めたことを示していました。
さて、これを政治から少し離れて、技術的な問題に移したいと思います。機械学習とソーシャルメディアの時代において、印刷新聞や放送テレビの時代よりも規制が今より重要だと感じていますか?
50年前にこのような見解を持っていたでしょうか? 今、政府の介入がより必要とされる理由を明確にしてください。
違いは単に用量効果です。新聞を規制する必要はありません。なぜなら、1日30分新聞を読んでそれで終わりだからです。それは世界観を作り出すものではありません。
あなたは常にコンテンツに浸されて、体や政治やアイデンティティについての特定の考え方を作り出すわけではありません。
でも、これらのフィードがあり、ビジネスモデルがいかにあなたを集中させ続けるか、バッファローウィングをできるだけ多く食べさせるか、常にオンラインで時間を過ごさせるかということである場合、その用量効果は非常に重要です。
私たちは今日の早い時間にも会話の一部を参照し続けています。あなたは政府の失敗について言及しました。明らかに市場の失敗があり、社会的利益に応じて機能していない、あるいは公共の場の崩壊などがあります。しかし、政府も必ずしもそうではありません。そして、あなたは先ほどの会話でそのことを持ち出しました。
なぜソーシャルメディアの政府管理が同じように有害にならないと確信しているのか、理解するのを助けてください。
そうですね、私はソーシャルメディアの政府管理というアイデアは好きではありません。しかし、政府はソーシャルメディアのインセンティブを変えることができると思います。
例えば、エンゲージメント税、二次エンゲージメント税を想像してください。1単位は1税、2単位は4税、3単位は9税というように。単位と数字が適切であれば、非常に早くエンゲージメントビジネスモデルが利益を生まなくなります。
一人当たりのエンゲージメントに対して、または…
そうです。ある時点で – ローマーも似たようなことを言っていました – ある時点で彼らは「エリック、TikTokフィードをずっと見続けるのはやめなさい。2時間やったからもういいでしょう。実際、あなたがここにいると、あなたの価値はあなたのコストよりも低くなります」と言うでしょう。
それが変化です。政府が一部のコンテンツが良いか悪いかを決定する必要はありません。しかし、TikTokの要点は、ガザ紛争がなければTikTokは起こらなかったということだと思います。
データの規制のことですね。そう、TikTokの規制です。
もう少し質問を受け付けましょう。あと10分ほどあります。では、隣り合わせの2人から質問を受けましょう。まず後ろの方から…はい。
ありがとうございます。エンゲージメントとソーシャルメディアに関するこの会話が、このクラスで話しているAIとどれほど切り離されているのか疑問に思います。
AIが私たちの生活に展開される方法について、まったく新しいビジネスモデルがあると思いませんか? 私はGoogleのサービスに対して一度も支払ったことがありません。Facebookにも支払ったことがありません。エンゲージメントが重要でした。
しかし、私はGeminiに支払っています。Cloudに支払っています。ChatGPTにも支払っています。そして、それらは私にとって非常に有用です。
だからこの動きの中で、AIとソーシャルメディアを混同しているように感じます。ソーシャルメディアは明らかに民主主義に悪影響を与えています。
しかし、実際にインセンティブを調整する新しいビジネスモデルがあるのではないでしょうか? それについて話してもらえますか?
そうですね、ソーシャルメディアはAIがあってこそ機能します。だから、あなたの言う通り、異なるビジネスモデルを生み出す新しいタイプのAIがあります。
GPTやChatGPT、その他のモデルのビジネスモデルは、現時点では広告駆動ではありません。それがどう進化するかはわかりません。Googleも最初は広告駆動ではありませんでした。
しかし、現時点では広告駆動ではありません。だからエンゲージメントの要素はありません。その通りです。
しかし、あなたの生活にまだレガシーAIが存在することを忘れてはいけません。何を提供するかを決定するのは、インターンの決定ではありません。
でも、この質問に特に関連して…私たちは収益モデルについても話しました。マイケル・スペンスとオーウェンが素晴らしい論文を書いていて、異なる収益モデルが異なる種類のコンテンツ生成につながると論じています。
それは一つの方法でしょうか? 顧客が製品ではなく顧客である場合、つまりユーザーが製品である代わりに、それはAIが消費者の利益のために働く可能性が高いということですか?
はい、その通りです。人々が自然にすべてのコンテンツに対してサブスクリプションモデルを選択し、それを望むのであれば、私はそのコンテキストでのAIについてあまり心配しないでしょう。なぜなら、それは異なるものを提供するからです。
しかし、もしそうでなく、ソーシャルメディアのように引き続きエンゲージメントベースで、4年前のAI、つまりあなたをターゲットにしてエンゲージさせる方法を見つけ出すAIによって駆動されるのであれば、それはあなたが学んだり展開したいと思う魅力的なAIではないかもしれませんが、依然として結果をもたらします。
前の方で質問がありますね。
こんにちは、来てくださってありがとうございます。私の質問は道具的合理性の概念に関連していて、先ほどの質問とも少し関係があります。
あなたは「統治する能力がない」というこのアイデアについて少し話されました。私の質問は、これがどの程度単なる分極化の結果なのか、それとも政府の設計によるものなのかということです。
私たちは分散化された国家を持つように設計されており、コンセンサスが必要で、多くの異なる人々が協力して物事を成し遂げる必要があります。
だから、あなたが説明した課題に、憲法や私たちが自分たちの周りに作ったシステムと一致する方法でどのように対処すべきかがよくわかりません。
はい、ありがとうございます。あなたの言う通りです。私が言ったように、建国時の設計は一種の拒否権政治でした。しかし、それは私たちが進化させたものほど衰弱的ではありませんでした。
アメリカが物事を成し遂げる能力、ニューディールが好きかどうかは別として…ニューディールを忘れましょう。1950年から1980年、あるいは87年のレーガンの最後の税法まで起こったことは、社会の問題に対処するための非常に重要な政府の措置でした。
投票権法であれ、他の非常に重要な立法であれ、システムがそれを乗り越えて実際に何かをすることができました。好きか嫌いかに関わらず、重要なのは彼らが何かをすることができたということです。
ヨーロッパを見ると、GDPRやDSEAやDMAで達成した規制をすべて見ることができます。私はそれらのどれも好きではありませんが、彼らがそれをできることを賞賛します。
彼らにはそれを行う能力があります。私が言いたいのは、民主主義があまりにも素晴らしくなりすぎて、圧倒的に説得力のある行動の必要性があるときでさえ行動できなくなる点に到達する可能性があるということです。
気候変動は最も簡単な例だと思います。しかし、他にもたくさんあります。アメリカ人の大多数が気にかけていると思われる重要な問題はすべて、まさにこのために阻止されています。
そしてこれは党派的な指摘ではありません。重要なのは、それが構造的だということです。この政治的議論の両側にとって価値のある方法で拒否権を発動し、阻止することができます。
時間があまりありませんが、二つのことを言いたいと思います。残りの質問と回答を短くしてください。そして二つ目に、すべての回答にAとIの文字を含めなければなりません。
[笑い]
では、こちらの方どうぞ。
こんにちは、教授。本当にありがとうございます。技術とお金の役割、そして技術が政府に影響を与えることについて、多くの興味深い指摘をされたと思います。
個人的に、アメリカの民主主義が現代のゴリアテ機関である巨大企業を本当に統治する影響力を持っているかどうか非常に懐疑的です。
現在の企業の仕組みに関して、民主主義は何を意味すると思いますか? 世界を支配している、あるいは私たちの意識がどうなるか、10年後に知性や労働市場がどうなるかを選択しているテクノロジーリーダーたちは、民主的に選ばれたわけではありません。
だから、現在の経済の仕組みで民主主義は一体何を意味するのでしょうか?
そうですね、私が示したグラフで、企業が民主主義の上に座っているというのはまさにその通りです。あなたの指摘は正確です。彼らは民主主義のコントロール、説明責任をハックする方法を見つけ出したからです。
そしてそれはそれほど難しくありません。適切な場所に少しのお金を散布し、少しのロビー活動、回転ドア。軍隊を見てください。軍隊は軍隊で働いていた人々で満ちています – 私は彼らに大きな敬意を払っています – そして彼らは防衛請負業者に移り、そこで桁違いに多くの報酬を得て、そして軍隊に戻ります。
さて、彼らが軍隊に戻ったとき、この新しい戦車システムや武器システムが必要かどうかを独立して判断できると思いますか? それは彼らが私たちを、あるいは民主主義をハックする構造的な方法なのです。
議会が今AIを規制しようとしたら、それは実現可能だと思いますか? そして10年後はどうでしょうか? つまり、私たちのAIテクノロジーリーダーと議会が国の未来について意見の相違があった場合、あなたはどちらに賭けますか?
そうですね、今のところ実現可能だと思います。でもかろうじてです。フレーミングの仕方次第です。でもすでに – おそらくあなたは見ていないでしょうが – テッド・クルーズがニューヨーク・タイムズに典型的な反規制の論説を書いて、共和党の立場を設定しました。
それはこういうものです。これはインターネットのようなものだ。私たちはみな、インターネットを規制すべきではないと学んだ。それはインターネットを殺すことになる。だから、AIを規制すべきではない。
そして、ここでの規制の問題に関して、すでに党派的な傾向を作り出しています。しかし、確かに今何かをするのは10年後よりも簡単でしょう。
可能だとは言えませんが、ただ簡単だということです。そしてそれはまさにあなたが言った理由によるものです。サム・オルトマンのような人々 – 単にスティーブ・ジョブズのようになろうとしているだけではありません – サム・オルトマンは自分をウィンストン・チャーチルのように考えています。
彼は自分を人類の歴史にとってそのレベルの重要性を持つ存在だと考えています。そしてそれは民主的なガバナンスの能力にとって本当の脅威です。
もっと質問を受け付けましょう。後ろの方どうぞ。
こんにちは。お話ありがとうございました。私の質問は、審議を増やすと主張するAIツールについてです。あなたの話から受け取ったのは、私たちはもっと互いに話をすべきだということです。
そうですね。
[聞き取れない]のようなシステムがあります。OpenAIは昨年、助成金申請を行いました。例えば、台湾のシステムはそこから生まれました。
このような種類の審議をAIが仲介することについて、あなたの考えをお聞かせください。これは適切なのでしょうか? これは以前に説明したのと同じ種類の問題に直面しているのでしょうか?
はい、AIを使って本当の審議のコストを下げる大きな可能性があると思います。私たちには、Chasmという本当に素晴らしい審議プラットフォームを購入したプロジェクトがあります。
これは、ジム・フィシュキンが審議民主主義センターで行っているものと同様の小グループ審議を促進します。私たちはそれをオープンソース化し、どこからでも開発者を招いて、それを私たちの生活により多く統合し始めてもらおうと考えています。
なぜなら、審議が本質的な治療法だと考えているからです。私たちは審議の筋肉を鍛える必要があります。そうすることで、人々が政府のやっていることに責任と結びつきを感じる民主主義に戻ることができます。
だから、それは不可欠な部分だと思います。そしてそれが確実に起こるようにできれば、治療的だと思います。そして、私が説明している市民集会の運動は、500人が一か所で会う市民集会を想像するだけでなく、何百万人もの人々が同時に会う仮想的な審議を想像することから生まれています。
そのプラットフォームでは、同時に100万人が小グループで審議することができます。だから、それは確かに希望の一部だと思います。それは戦略の一部です。どうやってそれを増やし、その筋肉を鍛えるか。なぜなら、人々がそれをすればするほど – 市民集会を見ると、小さなテーブルに座って小グループで話し合っている人々が見えます。
そして彼らは、相手側をトカゲのように見るのではなく、彼らにも子供がいて、夢があり、希望があることを理解します。それは私たちが持っている種類の分極化に対する最も治療的な技術です。
だから、私は絶対的に賛成です。それが私たちがすべきことです。AIによって可能になり、仲介される審議に関して、非常に創造的なことが行われています。
Polisはその良い例です。これらのデジタル論文、12の論文のいくつかは具体的にPolisや他のメディアについて話しています。クラスの終わりまでに利用可能にしてみます。それらはすべて現在進行中です。
でも、スタンフォード・デジタル経済研究所に新しく加わったサンディ・ペントランドが、そのような関連作業をリードしています。
ペントランドがMITを去ったんですか?
はい、サンディがこちらに来てくれました。そして、彼はホセ・ラモンらと協力して、これがどのように…そして台湾のオードリー・タンも論文の一つを書いています。彼女もそれについて話すでしょう。
では、最後にもう一つだけ短い質問を受け付けましょう。前の方、長い間手を挙げていましたね。
私はここの[聞き取れない]の学生です。ポッドキャストもやっています。ここで唯一の悪魔の代弁者的な質問をさせてください。AIが人々をハッキングすることについて、大げさに考えすぎているのではないでしょうか?
この取締役会のクーデターを見ましたが、[聞き取れない]。それを知的に行うことさえ可能だとは思えません。また、このシステムについても興味があります。1月6日は素晴らしい瞬間ではなかったし、悪い瞬間でもありました。
でもシステムは機能しました。人々は逮捕されました。裁判所は…
質問は何ですか?
AIが人々をハッキングするという全体的な話です。私たちは過大評価している可能性があります。
この話を聞いて、終わりが近いとか、歴史上最悪の時期にいるような気がしています。政治的に物事が非常にクレイジーになっていることには完全に同意します。AIがどうあるかについて…
政治的なものはしばらくクレイジーでした。2016年はクレイジーでした。クリントンがその年の選挙を否定しました。
[聞き取れない]
私たちが自由意志を失い、AIが私たちを操作して物事をさせたり情報を提供したりしているところまでまだ来ていないと思います。時々間違っていることもあります。でも、これらのことを過大評価しているのではないでしょうか? AIがそこまで来ていないのに、そこまで行っていると言うのは…
過大評価している可能性はありますか? もちろんです。でも実際にそうでしょうか? いいえ、そうではありません。アル・ゴアが2000年の結果に異議を唱えたというのは事実ではありません。アル・ゴアは最高裁が判断を下した後、諦めました。ドナルド・トランプは最高裁が…
AIについて話しましょう。
はい、でも重要なのは、それが関連しているということです。なぜなら、ある種の候補者は特定の種類の技術によって可能になるからです。ドナルド・トランプのような候補者 – 彼の名前を使いたくないのはわかります。わかりました。
[複数の声が重なる]
重要なのは、それがつながっているということです。
放送メディアの時代には、そのような候補者はあり得ませんでした。誰も彼を真剣に受け取らず、テレビに出演させなかったでしょう。
インタビューされることもなかったでしょう。それは不可能でした。クレイジーなことに報いるこのような機械駆動のコンテンツプラットフォームを持ち始めたときに初めて、クレイジーなことが報われ始めるのです。
私たちはクレイジーなことを最適化し、選択しています。議会を見てください。クレイジーなことを選択しています。そして、それが全て説明されるわけではありませんが、プラットフォームが作り出すインセンティブの機能だと思います。
私たちはそのインセンティブを懸念すべきです。そして、それらのプラットフォームがそのインセンティブを作り出すのは、AIのためです。これは重要な点です。LLMではありません。今日あなたが好きなAIではありませんが、それでもAIなのです。それはまだAIの問題です。
そしてそれは重大で劇的な影響を与えており、測定可能で、結果は現実のものです。
私たちは目を閉じることもできます。そして多くの人々がそうしていると思います。なぜなら、私たちに何ができるかが見えないからです。あなたはこの二人の取締役を特徴づけました。私は彼らをよく知っています。それはヘレン・トーナーもタシャ・マコーリーも真実の特徴づけではありません。
OpenAIの問題は現実のものです。OpenAIだけでなく、深刻な問題があります。私には、アンスロピックの上級幹部の一人と親しい友人がいます。その人は言います。「私の子供たちは高校を見ることはないだろう。高校がなくなるからではなく、彼らが自分たちのやっていることをコントロールできないと確信しているからだ。」
だから、内部の人々が飛び出しているとき、OpenAIから安全チームの全員が飛び出したとき、彼らがOpenAIから飛び出した理由は、破滅的なリスクやテクノロジーのリスクから保護するための安全対策が整っていないと考えたからです。
あなたはどのような根拠に基づいて疑う自信があるのですか? 過去200万年間爆発しなかったという事実に基づいてですか?
そうですね、それは事実です。技術は – 核兵器を除いて – 過去200万年間、世界を爆発させていません。でも、それにかなり近い多くの人々が、それが何をしているのか、その可能性と統治の欠如について非常に恐れています。私たちはそれを真剣に受け止めるべきだし、あなたも真剣に受け止めるべきです。
私は、それが本当の問題になる頃には、もうずっと前にいなくなっているでしょう。
はい、そのような楽観的な結論で…
コメント