10,683 文字
エージェンティックAIとエージェンシーは、人工知能の世界でホットなトピックとなっています。私たちのAIツールがますます複雑な行動をあなたの代わりに世界で実行するようになっているためです。現時点では、これらのツールは私たちのエージェンシーを高めており、基本的にはそれは素晴らしいことです。しかし、誰のエージェンシーが最も高められるのか、そしてそれは何のためなのかという疑問が生じます。
しかし、これらの問題を掘り下げる前に、人間のエージェンシーがすでに政治経済に関するすべての議論の中心となるべき重要なテーマであることを考える必要があります。単なる自由以上に、人間のエージェンシーを中心に据えるべきなのです。その理由を説明し、その後AIの話に戻りましょう。
マーティン・ウルフの著書「民主主義資本主義の危機」からの引用で、私の心に残った言葉があります。「自由民主主義と市場資本主義は、政治的・経済的生活における人間のエージェンシーの価値と正当性を信じるという中核的価値観を共有している」というものです。
これはとても真実だと思います。私たちは自由主義社会の基本原則の一つとして個人の自由に焦点を当てることは理解できますし、それはまさにあるべき姿です。しかし、この原則を単に行動する理論的自由を持つことから、実際に行動する真のエージェンシーを持つことへと拡張する必要があると思います。
例えば、まったくお金を持たない人は市場に参加する自由を持っているかもしれませんが、それを行う手段を全く持っていません。同様に、秘密投票が使われる前は、政治家たちは投票日に有権者に食べ物や飲み物を提供し、自分の党に投票するよう強制していました。これらの有権者は理論的には誰にでも投票する自由を持っていましたが、酔っ払い、食べ物に感謝し、投票する際に見られていたため、実質的には選択に対する真のエージェンシーを失っていたのです。
もちろん、これらは非常に単純な例ですが、何かをする法的自由を持つことと、その自由を活かす真のエージェンシーを持つことの明らかな違いを示していると思います。そのため、行動するエージェンシーのない自由を無邪気に促進してはならないのです。
しかし、人間のエージェンシーは、私たちの自由民主主義と市場経済の最も正当な基盤であるだけでなく、これらの二つの全く異なる領域のシステムがなぜ効果的に機能するかという理論的議論の中心にあります。それは、社会の個人が独立したエージェンシーを持つときにのみ、彼らの集合的選択から知恵を得ることができるからです。
群衆の知恵という考え方の古典的な例は、1907年に発表された研究からきています。フランシス・ゴルトンは、家畜市場で800人に牛の重さを推測するよう頼んだとき、彼らの推測の平均が実際の重さに驚くほど近かったと報告しました。実際、群衆全体からの集合的推測は、多くの個々の専門家の推測よりも正確でした。
このような観察、つまりある状況下では群衆から得られる答えが専門家の答えよりも優れている場合があるということは、さまざまな分野で再現されてきました。例えば、賭けの予測市場は定期的にスポーツ解説者や政治解説者のパフォーマンスを上回ります。同様に、フィリップ・テトロックがダン・ガードナーとの共著「スーパー予測」で説明しているように、オープンマインドで独立した非専門家の集合的予測は、短期的な地政学的イベントの可能性を理解することが仕事である専門家の予測をしばしば上回ることがあります。
牛の重さについての非専門家の集合的成功の一つの可能な説明は、群衆の中の一部の人による過小評価が他の人による過大評価によって相殺されるため、平均が大体正しくなるというものです。フィリップ・テトロックのスーパー予測者グループの成功についての説明はもっと微妙ですが、このような現象に関するすべての説明は、個人が独立した選択をしている場合にのみ機能するという考えに依存しています。つまり、彼らは例えば集団思考や強制によって一方向または他方向に揺り動かされているわけではないのです。
したがって、群衆に知恵があるのは、それが独立したエージェンシーを持つ人々で構成されている場合だけです。同様に、競争的市場経済がうまく機能する理由についての私たちの基本的な神話は、それらが群衆の知恵を活用して、どの製品やサービスが好まれる選択肢であり、人々が実際に限られたリソースを費やすものかを確立するからです。
これが、リソースへのこのような動的なボトムアップの群衆調達アプローチが、専門家による中央計画よりもはるかに優れていると多くの人が考える本質的な理由です。しかし、この論理が成り立つためには、個々人が十分な情報を持った独立した自由な代理人として行動し、実際に選択できることが重要です。
もし競争的な市場ではなく、ある部門が独占として運営されている場合、十分な情報を持った自由な市民でも、本質的に強制された選択しかできません。これはエージェンシーから生まれた選択ではなく、彼らの本当の好みを示す信号はここにありません。
同様に、例えば提供される情報が非常に限られているか偏っているような歪んだ市場では、この場合、紫色の市民全員が偽情報に基づいた誤った集団思考に巻き込まれているため、全員が紫色の製品を購入します。重く操作されている人は、本質的に選択に対する真のエージェンシーを失っており、この場合は紫色の製品を無意識に選んでいるのです。
市場経済の真の利点を得るためには、買い手が何を購入するかについて真の独立したエージェンシーを表現できる本当に競争的な市場でなければなりません。理想的には、このような健全な競争的市場は、ナシム・ニコラス・タレブが「アンチフラジャイル」と呼ぶ性質を持つことができます。つまり、競争のストレスが個々の製品を失敗させるかもしれませんが、これは実際には市場全体を強化することができます。売り手が革新的または創造的に異なる製品を市場に持ち込む自由、そしてエージェンシーを持っていれば。
私はこれがすべて理想化された神話に無批判に傾いており、多くの実際の市場がどのように機能しているかからは程遠いことを知っています。しかし、資本主義的自由市場の理論的正当化における人間のエージェンシーの中心的役割を強調したかったのです。
これはまた、こうした条件が確保されるよう国家が果たすべき重要な役割を強調しています。独占が形成されないこと、公衆が十分に教育されていること、製品の販売者が製品について良い明確な情報を提供すること、そして公の言論に製品や企業を批判したり称賛したりする自由を持つ独立した声の範囲があることを確保すること。
そして、市場に参加している企業がこのタスクを自分自身で信頼できないことも知っています。なぜなら、彼らは繰り返し「競争は敗者のためのもの」だと私たちに語るからです。最大の利益を得たいなら、公衆があなたの製品を批判的に独立して評価するエージェンシーを持つことを望みません。彼らが本能的な反射でブランドを購入するロボットであることを望むのです。
したがって、国家は私たちの真のエージェンシーを保護し促進するために重要な役割を果たしています。しかし、国家を正直に保つためには、民主的な監督の下で人々によって、そして人々のために運営されなければなりません。
もちろん、健全な自由民主主義は投票以外にも多くの側面を持っていますが、競争的市場と同様に、民主的投票も群衆の知恵を活用するもう一つの方法であるべきです。しかし、ここでも、個々の市民が投票選択に対して真の独立したエージェンシーを持っている場合にのみ、群衆から知恵が得られます。
独占や偏見の危険性についての同じ議論が、民主的投票にも市場と同様に当てはまります。だからこそ、コミュニティ内の個々の声が公の議論を支配したり操作したりすべきではなく、外部の声もそうあるべきではないのです。操作された集団思考からは知恵は得られません。
ですから、私たちは個人の政治的選択に対する情報に基づいた自由なエージェンシーを促進し保護すべきです。そして、市場と同様に、健全な民主主義もアンチフラジャイルであるべきだと思います。つまり、公の議論とその後の投票のストレスにより、時々政党が消滅し、新しいアイデアを持つ新しい政党に置き換えられるべきです。
それが起こるべきことですが、残念ながらここイギリスでも、アメリカでも、過去100年ほど、小選挙区制の投票システムは本質的にそれを阻止し、私たちを二党独占に閉じ込めています。これは本当に良くないことで、有権者が政治的選択を表現する真のエージェンシーを奪っています。私たちの民主主義をアップグレードする時が来ているのです。
ここまでどこまで来たでしょうか？人間のエージェンシーが私たちの政治経済の中心的な柱として見られる理由を示せたと思います。それは単にそれ自体が良いものだからではなく、真のエージェンシーが民主主義と健全な市場経済の両方の理論的概念を支えているからです。
しかし、私たち全員が自分の人生に対して同じレベルのエージェンシーを持っているわけではありません。私たちはおそらく皆、驚くべき若い個人についての話を聞いたことがあるでしょう。彼らはただ飛ぶように地面に着地し、あらゆる種類のスキルを自分で教え、さらに他の人々とつながりながら、自然な才能でビジネスを構築しています。一部の人々は単に高いレベルのエージェンシーを持つ才能があるようです。
一方、特に大量の気晴らしのあるこの時代には、逆の極端な状態にいる人々もいます。一日中ソファでだらだらとし、自分の生活をどうすべきか本当に考えもせずにいます。
しかし、別の次元に目を向けると、極端な富のレベルは個人に特別なレベルのエージェンシーを与えることができます。自分自身の生活だけでなく、他の人の生活に対しても。物事が起こるようにお金を払い、私たちの政治に影響を与えるためにお金を払うことで。一方、極端な貧困、そして確かに薬物依存は、かつて非常に有能で、非常にエージェンティックな個人だった人々からエージェンシーの痕跡を奪うことがあります。
そこで、私たちの生活を通して私たちのエージェンシーのレベルに影響を与える可能性のある一連の異なる要因を想像することができます。例えば、教育のレベル（世界を理解しなければ、世界でどのように行動すべきか賢明に決めることはできません）、富のレベル（明らかに）、個人的な意欲、感情的知性（あなたはどれだけ説得力がありますか）、助けを求めることができる社会的接触のネットワーク、身体的・精神的健康など。これらのほとんどは私たち自身で取り組み、時間をかけて変えることができ、自分自身のエージェンシーを高めることができます。
しかし、私たちのエージェンシーのレベルに影響を与える外部要因もあります。例えば、世界で考え、話し、行動する政治的自由のレベル、個人的な安全、個人的な生活における物理的または心理的な強制や操作からの自由、正確でタイムリーな情報の社会での可用性（情報景観と呼べるもの）、そして決定的に、エージェンシーを持つためには、私たちが作ることができる本物の代替選択肢が必要です。
私たちの生活に対するエージェンシーに影響を与えるこれらすべての異なる要因を検討することで、なぜ私がエージェンシーをほぼすべての公共政策の影響を考えるための有用なプリズムとして見ているのかが明確になると思います。政策はどのように個人のエージェンシーを高めるのか、または私たちのエージェンシーを保護するのか、あるいは私たちのエージェンシーを減少させるのか。
そして、もし私たちが大まかに想像するなら、エージェンシーのレベルの分布は、教育や富のような主要な要因の分布をおおよそ反映しているため、私たちの社会におけるエージェンシーのレベルは非常に不均等になると予想することは合理的です。つまり、極めて高いエージェンシーを与える要因の組み合わせを持つ人はごく少数であり、それに比べて大多数の人々は選択や行動に対する真のエージェンシーのレベルが比較的低いのです。
これが重要な理由は、私たちが皆知っているように、最も高いレベルのエージェンシーを持つ人々の多くは、通常、彼らの富と力のために、世界に対する影響力を使って他者のエージェンシーを抑制または歪めようとすることがあるからです。独占を確立し、政治的選択を制限し、ソーシャルメディアに偽のナラティブを氾濫させるために。それが本質的に私たちが今日住んでいる世界です。
ここで私が指摘したいのは、これは単に不公平なだけではなく、これらの歪みは、なぜ市場経済と民主主義がうまく機能するはずだという理論的議論を損なうということです。それは群衆の集合的な知恵の可能性を減少させます。
したがって、人間のエージェンシーを保護し促進し、それによって健全な民主主義が監督する健全でアンチフラジャイルな市場経済を持ち、創造性で繁栄したいならば、すでに私たちの前には大きな政治的課題があります。
AIツールが人間のエージェンシーをますます高めるにつれて、これらすべてはどうなるのでしょうか？AIがどのように進歩するかについて、今日からさまざまな可能性のあるシナリオがあります。別の動画でそのようなシナリオの範囲を見てきましたが、ここでは最も信憑性の高いデフォルトのシナリオに留まります。少なくとも短期から中期的には、AIシステムはほとんど特定の領域で人間のエージェンシーを高める素晴らしいツールとして機能し、私たちがやりたいことを実行する能力を高めます。
一見すると、これはすべて良いことのように聞こえるかもしれません。誰もののエージェンシーを高め、特に比較的エージェンシーの低い人々が前方のオプションを見つけて評価し、良い選択をして物事を成し遂げる能力をより高めることができるからです。これがある程度起こることに疑いはありません。それは間違いなく良いことです。
しかし、私たちが盲目であるべきではない多くの潜在的リスクがあります。例えば、これらのAIツールのほとんどが大資本主義的利益によって資金提供されているため、それらは容易にエンドユーザーのエージェンシーを本当にサポートする中立的なツールになろうとするのではなく、その企業所有者の商業的または政治的利益を押し進める影響力のツールとして設計される可能性があります。それらは選択しているという幻想を与え、私たちを意図的に操作するように設計されるかもしれません。人間のエージェンシーを高めるのではなく、それを転覆させるのです。
2つ目の問題は、今日これらのツールを有用にする最良の方法は、すでに主題について何らかの考えを持ち、何をしたいかについて何らかの考えを持っている場合であり、実際にこれらのツールが何をできるかについて学ぶために関わりたいと思う必要があることです。言い換えれば、すでに高いエージェンシーを持っている人々は、エージェンシーの低い人よりもこれらのツールからより多くの恩恵を受ける可能性が高いのです。
おそらく、これらのツールが人間のエージェンシーを高める方法からの社会への最も深刻な危険は、これらのツールを使用するにはお金がかかるという事実からきています。多くのお金です。そしてはい、これらのコストは急速に下がっていますが、これらのツールのダイナミクスは他のテクノロジーのようなものだとは思いません。
人々がよく言及する古典的なテクノロジーの例は、携帯電話が一度は高価で排他的だったが、時間が経つにつれて安くなり、同時にはるかに良くなったという方法です。違いは、あなたが本当に必要なのは1台の携帯電話だけですが、それらを使う方法を知っている人にとって、AIエージェントの利点はあなたがそれらを使うことができればできるほど拡大する可能性が高いということです。
そのため、多くの富を持つ人々は、例えば会社を運営したり、政治的影響キャンペーンを実行したりするために、何百、何千ものフルタイムのAIエージェントを立ち上げることができるでしょう。そして実際、AIを使用する際の富を持つことの利点は、世界で物理的行動を取ることができるAIロボットに関しては更に顕著になるでしょう。
だから、はい、これらのAIツールは私たちのエージェンシーを高めますが、それは不均衡に行われ、最も利益を受ける可能性が高い2つのグループがあると思います。まず、既存の富を持つ人々、そして次に、高いレベルの自然なエージェンシーを持つ人々、つまり自己学習が早く、ただ物事をやり遂げる人々です。
この2番目のグループについてのポイントは、彼らはお金を持たずに始めるかもしれませんが、AIチューターの助けを借りて速く学び、すぐに限られたAI予算を使って、より大きなAI予算に資金を提供する方法を見つけることができるという点です。一種のフィードバックループで、より豊かになることができます。高い自然なエージェンシーは、さらに高くなったエージェンシーを生み出すでしょう。
そして、私は確かにやる気のある人々を嘆きたくありません、むしろ逆で、彼らは実際に私自身をもう少しまとまらせようと努力するよう刺激します。結局のところ、私が言ったように、私たちは人間のエージェンシーを擁護し、促進し、保護すべきだと思います。
私の心配は、AIによって高められた最高レベルのエージェンシーを持つ人々と、より低いエージェンシーを持つ人々の間のギャップの潜在的な大幅な拡大を政治的にどう管理するかということです。実際、このギャップは富の不平等だけよりも考えることがより重要な新しい種類の階級分裂になる可能性があると思います。なぜなら、これら二つの階級の利益が深刻な緊張にある主要な問題をいくつか想像できるからです。
最高レベルのエージェンシーを持つ人々と他のすべての人々の間の最初の緊張は、社会によって創り出された富を誰が保持するかについての古典的な分裂です。ここでの問題は、彼らが個人的に豊かであるかどうかに関係なく、高いエージェンシーを持つ人々は、しばしば「ソブリン・インディビデュアル」のような本のハードコアなリバタリアンのナラティブに誘惑されることです。これらは、社会のすべての富を生み出しているのは勤勉で高いエージェンシーを持つ認知エリートだけなので、なぜ彼らは低いエージェンシーの大衆の怠惰を奨励し支援するために税金を払うべきなのかと議論しようとします。
このような説明は、資本主義、そして今やAI2も、エージェンシー、才能、そして特に運の小さな違いを富の結果、そしてエージェンシーの結果の大きな違いに不公平に拡大する激しいフィードバックループを可能にすることを完全に無視しています。裕福な人々は稀にしか自分の富のすべてに値しません。
したがって、税金は窃盗ではなく、少なくとも税金は市場が、社会の中の他のすべての人々、彼らもまた勤勉で、富を創り出す条件に貢献する人々に公平に補償することに失敗していることを修正する一つの方法です。そして、税金を徴収する他の理由もあります。
しかし皮肉なことに、すでに最も高いエージェンシーを持つ人々は、政府が彼らのエージェンシーを制限していると感じるあらゆる行動を最も鋭く認識するでしょう。それが彼らの富に課税することであれ、他者に影響を与えようとする試みを規制することであれ、彼らはそのような完全な自由のあらゆる制限に反対するでしょう。
結局のところ、私たち全員が自由を望んでいるのではないですか？私たちは自由社会にいるべきではないですか？ええ、しかし私が言っているように、法的自由を持つことと、人生に対して意味のある選択をする本当のエージェンシーを持つことの間には重要な違いがあります。そして、強力な人々の高いエージェンシーは、私たち全員がまだ同じ法的自由を持っていても、しばしば他のすべての人のエージェンシーを減少させるために使われています。
この時点で、過去において、そして今日でも、資本家は彼らの工場を運営し、社会にとって他の不可欠な仕事をするために労働者を必要としていることに注目する価値があります。したがって、資本家は労働者の幸福と利益からあまりにも残酷に切り離されることはできません。そして、ある重要な意味で、大衆民主主義が生まれたのはこの強制的な妥協の文脈においてでした。
しかし、AIツールとロボットが時間とともに本質的に低いエージェンシーの仕事のほとんどを置き換えることができれば、資本家と労働者のこの種の最小限の共有利益さえも崩壊します。時間が経つにつれて、高いエージェンシーを持つ人々は単に低いエージェンシーの人々に対する経済的必要性を持たなくなり、したがって彼らとの連帯もなくなる可能性があります。代わりに、彼らは単に管理すべき問題として彼らを見るでしょう。
そのため、全員が独立したエージェンシーを持つ自由民主主義を望む代わりに、選択が制限され、情報景観が操作される管理された民主主義を望むでしょう。そして私は、多くの人が今私たちが基本的に住んでいるのはそれだと言うでしょうが、強力なAIの到来がこの緊張を超高速で加速させ、今日私たちが持っている最小限の民主主義さえも脅かす方法だと思います。
そして、カーティス・ヤーヴィンのような影響力のある声があり、本質的にこれを応援し、代わりにCEOテクノクラートによる君主的支配を主張しています。どこかで聞いたことがありますね。
だから、ある意味でこのビデオ全体の理由は、富の不平等を主要な階級分裂として焦点を当てることから、代わりにエージェンシーに焦点を当てることへと議論をシフトすべきだと思うからです。はい、もちろん、二つは非常に関連していますが、多くの人々は実際に富のギャップよりも影響力のギャップを気にしていると思います。
例えば、典型的な大学講師は、例えば都市の仕事のようにお金を稼ぐキャリアを選ぶのではなく、ヨットや高級車を買う代わりに教育と研究の生活を選んでいることを知っています。彼らはそれを知っていますが、それは彼らが自分たちの生活やどのように社会が進歩するかについて少ないエージェンシーを持ちたいということを意味するわけではありません。しばしば全く逆では、なぜ私たちは、裕福な人々が私たちの政治に対してそのような不釣り合いなレベルの影響力を持つように社会を設定しているのでしょうか？それはまったく意味がありません。そして私たちはそれを変えるべきです。
だからこそ、例えば個人による政治献金に制限を設けるべきです。だからこそ、健全で多様な情報景観を促進するために、マスメディアプラットフォームに所有制限と合理的な規制があるべきです。実際、だからこそ私たちは何らかの比例代表制を持つべきです。そうすれば、富裕な企業ロビイストに捕らえられていない新しい政党を持つことができます。
しかし、もちろん、これらはすでに最高レベルのエージェンシーを持つ人々からエージェンシーを少し削るための規制です。だからこれはもう一つの理由です。最高のエージェンシーを持つ人々と他のすべての人の間になぜ緊張があるかについて。
ほとんどの私たちにとって、民主的な国民国家を使って、誰もが自分の生活に対して真のエージェンシーを持つことができる条件を保護し促進することが私たちの利益なのです。そして繰り返しになりますが、これは単に正しいことだからではなく、もし群衆が真の独立したエージェンシーを持っていなければ、その群衆の行動には知恵がないからです。その民主的選択にも知恵はなく、その市場行動にも知恵はありません。
だから私にとって、これが私たちの政治における新しい分割線のように思えます。あなたは全ての人のための真のエージェンシーを支持しますか、それとも強力な人々のための完全な自由を支持しますか？両方を選ぶことはできません。
なぜ私が富のギャップよりもエージェンシーのギャップに焦点を当てるべきだと思うかを強調するために、普遍的基本所得（UBI）のアイデアを簡単に見てみましょう。AIの進歩が確かに労働市場から大量の有給の仕事を取り除くなら、社会の誰もが少なくとも家族のための購買力を持つことを確実にするために、何らかのUBIを導入する必要があるかもしれません。
これは確かに基本的な生存問題を解決しますが、お金だけでは人生に対するエージェンシーを与えません。例えば、彼らがそのお金を使用している市場が独占または重い歪みのある市場であれば、彼らはまだ選択に対する真のエージェンシーを与える条件で生活していることにはなりません。彼らはその一つの会社から購入するしかなく、そのためUBIはその会社への直接的な政府補助金と同然かもしれません。
はい、寡頭政治家はこの方法で大きな利益を上げるかもしれませんが、UBIだけではここで群衆によって知恵が表現されるようにするのには役立ちません。これを革新的で創造的な破壊を伴う健全なアンチフラジャイルな市場にするものではありません。それは純粋に搾取的な捕らえられた市場になるでしょう。
そしてもっと明らかに、UBIは私たちの民主主義における真のエージェンシーを持つ問題を解決しません。基本的に、富の再分配自体が群衆に知恵があることを保証するものではありません。だからこそ、私は人間のエージェンシーに焦点を当て続け、富のギャップよりもさらに緊急に人間のエージェンシーのギャップを減らす必要があると思います。自由以上に、私たちはエージェンシーを要求すべきです。
しかしこれについてはあなたはどう思いますか？私はこれらの考えとどのような繋がりを作るべきだと思うか、そしてこれらの考えにはどのような穴があるかについて、コメント欄でお聞きしたいと思います。そしてこのビデオを楽しんでいただけたら、「いいね」ボタンをクリックし、このような動画をもっと見るためにチャンネル登録してください。視聴いただきありがとうございました。
コメント