この動画は、Center for Humane Technologyのトリスタン・ハリスとハーバード大学の政治哲学者マイケル・サンデル教授による対談である。AIによる大規模な雇用の置き換えが迫る中、過去のグローバル化による労働者の尊厳の喪失から学ぶべき教訓を探る。サンデル教授は、経済を消費者の福祉最大化のためだけでなく、市民が共通善に貢献し、尊厳と承認を得るためのシステムとして捉える必要性を説く。単なる効率性の追求ではなく、技術が何のために存在すべきかという根本的な哲学的問いに向き合うことで、真の民主的な公共討論の復活の可能性を示唆している。
AIと雇用の未来：尊厳をめぐる対話
皆さん、こんにちは。トリスタンです。「Your Undivided Attention」へようこそ。
もしAIについて人々が知っていることが一つあるとすれば、それはAIが私たちの仕事を奪いにやってくるということです。主要なAI研究所はすべて汎用人工知能の構築を競っており、これは人間の心がスクリーン越しにできることなら何でもできるAIを意味します。よく言われるのは、もしあなたがデスクワークをしているなら、それはあなたが仕事を失うということです。
この技術に携わっているほとんどの人々は、私たちがその道を順調に歩んでいることに同意しており、それはこれまでに見たことのないレベルでの雇用の置き換えを意味するでしょう。
一部の技術リーダーの話を聞けば、それは思っているほどの災害ではないかもしれません。多くの人が、生計がAIによって奪われる代わりに、ベーシックインカムによって置き換えられるユートピアを予測しています。
イーロン・マスクはこう言います。「仕事が必要なくなる時点が来るでしょう。個人的な満足のために仕事をしたければ、仕事を持つことはできますが、AIがすべてをできるようになります」
これは、AIが平等化装置となり、豊かさがすべての人に分配されるという未来像です。しかし、それが真実だと信じる十分な理由があるでしょうか。
私たちはちょうど、グローバル化と自動化によって米国で何百万人もの人々が仕事を失った巨大な時代を経験したばかりです。彼らもまた、結局は彼らに還元されることのなかった生産性向上の恩恵を受けるだろうと言われていました。その結果は、生計と尊厳の喪失であり、それが私たちの社会構造に穴を開けました。
もし私たちがこの物語から学ばなければ、それを繰り返す運命にあるかもしれません。だからこそ、今日はマイケル・サンデル教授をお招きしました。
哲学者の視点から見るAI時代の挑戦
マイケルはハーバード大学の政治哲学者であり、これらの問題について非常に深く考えています。彼は『実力主義の暴政』と『民主主義の不満』という本を書き、とりわけアメリカにおいて尊厳、労働、地位がどのように相互に関連しているかを探求しています。
私たちは、AGIが労働力に与える深刻な影響について、そして過去から学ぶべき教訓について、そして最悪のシナリオを避けるために私たちのリーダーができることについて議論していきます。
マイケル、「Your Undivided Attention」にお越しいただき、ありがとうございます。
トリスタン、ご一緒できて嬉しいです。
私は、あなたと私が2016年にチリでの南極への旅で出会う特権を得たことをリスナーの皆さんにお伝えしたいと思います。あなたの仕事とあなたのハーバードのクラス「正義」の大ファンだったので、あの時お会いできたのは光栄でした。
このクラスの私の好きな側面の一つは、学生と関わるソクラテス的なプロセスで、これらの根本的な価値観や複雑な道徳的状況をナビゲートする方法の基盤を本当に引き出すやり方です。
AI業界には、ニコラス・ボストロムが言ったとされるジョークがあります。「AIは締切のある哲学だ」と。教育とは何のためか、労働とは何のためかという質問は古代からの哲学的問題ですが、今やAIが私たちにまったく新しいレベルの重要性と真剣さでこれらに答えることを迫っています。
あなたは資本主義、民主主義、さらには遺伝子編集についても本を書いていますが、最近はAIについてよく話されています。昨年の世界経済フォーラムでの講演は、正義と民主主義についてではなく、AIの倫理についてでした。なぜこれがあなたの焦点になったのでしょうか。
AIが提起する根本的な問題
AIは、私たちが直面する最も困難な倫理的問題のいくつかを提起します。AI についての議論には、ある種の性急な突進、さらには熱狂のようなものがあります。そこで私は一歩下がって、いくつかの質問をし、ダボスの聴衆にも質問をするよう招きたいと思いました。
AIへの懸念の根底にある最大の問題について批判的に考えることです。それは、この技術が人間であることの意味を変えるかどうかということです。私は彼らにその質問を考え、議論し、討論し、反省することを招こうとしていました。
私たちが公の議論で問うていない根本的で深い質問は何でしょうか。
AIが最も熱心な支持者が提示する約束を実現したとしましょう。例えば、高齢者の世話をし、孤独の問題に対処しようとする仲間ロボットがあったとします。さらには子どもの世話をするロボットも。私たちが愛する人々に遺贈できる自分のデジタルアバターを作ることができたとしましょう。
私にとって最大の哲学的問題、最も重要なものは、それが機能したとしたらということです。
それでは、私たちはそれを歓迎するでしょうか。それとも、小さなギャップや説得力のない瞬間に気づくよりも、さらに心配すべきことでしょうか。
哲学的にその理由を明確にするのが難しい理由は、なぜ私たちがそれでも心配するかもしれないのか、あるいは一層心配するのかということだと思います。しかし、それは偽物と本物の区別、仮想と実際の区別を失うことと関係があると思います。
興味深い哲学は、もし私たちが仮想と実際を区別する能力を失ったら、正確に何を失うのかを問い始めるときに始まります。
人間の存在とコモンズの価値
あなたが指摘しているのは、しばしば見えないもので、例えば友情の誠実さや本来の真正な表現について名前を付ける方法を知らないものがあるということです。その見えない質が何なのかに名前を付けることはできませんが、私たちは皆、それを感じるときにそれが分かるので、それによって行動します。私たちはそれと共に生きています。
そして突然、新しい技術がその人間同士にのみ存在する見えない質を脅かすとき、あなたが言っているように、部分的に機能するチャットボットを想像しているのではなく、完全にあなたに会い、完璧に設計された完全な方法で応えてくれる仲間について話しているのです。あなたはその極限まで私たちを押し進めています。
あなたは、その場合でも何かが失われると言っているのです。あなたは私たちに思い出させています。私たちのCenter for Humane Technologyでの仕事で、私たちは技術の三つのルールについて話しています。第一のルールは、新しい技術を作るとき、新しい責任のクラスを作るということです。なぜなら、私たちが依存しているかもしれない名前のないコモンズを損なう可能性があるからです。
ソーシャルメディアは、個人のスクリーン時間の使用を最大化し、それから利益を得ることで、物理的空間で一緒にいるコモンズを損ないました。その目標を達成することで、この他のコモンズを脅かしました。
あなたはもう一つのコモンズを指摘しています。もし私たちが皆、これらの完璧なAI仲間を持ったら、何が脅かされるのでしょうか。あなたはその質問にどう取り組みますか。
この質問に取り組む一つの方法は、コモンズという概念を通してです。それは市民生活、公共生活における実際のもので、共通の空間、公共の場所の創造であり、日常生活の過程でしばしば偶然に人々を集めます。
しかし、コモンズはまた、交わりの形として、一緒にいること、他者の存在の中にいることとして、比喩的、隠喩的にも機能します。私たちが実際の、仮想ではない関係や友情と呼ぶものにおいても、私たちは存在感を深めようとし、互いの存在から学び、精神的な栄養を得ます。
技術が試しているのは、私たちがそれなしでやっていけるかどうか、仮想が実際のもの、本物のもの、他者と共にあることの適切な、おそらくより好ましい代替物となるような、存在の本当に良いシミュレーションでやっていけるかどうかです。
互いに存在すること、存在を共にする私たちの能力が、この技術によってかき乱され、混乱させられています。今私たちは、人間の存在への私たちの能力が消滅し、失われる可能性を受け入れなければならない世界に住んでいます。そして私たちは、実際のものではなく仮想的な他者との存在の仕方の中に住むことになるでしょう。
もし私たちが仮想的に互いと共にある摩擦のない方法を想像するなら、問題は本当に人間の孤立の究極の形です。つまり、コモンズの喪失です。
労働と尊厳の歴史的考察
労働と尊厳について他のトピックに入りたいと思います。なぜなら、それがあなたが本当に心の琴線に触れた場所だと思うからです。
「締切のある哲学」の側面の一つは、私たちが見たり立ち向かったりしたくないことがたくさんあることです。もし私たちがそれらを見て立ち向かわなければ、それらはただ起こってしまいます。
その一つは、AIによる迫り来る雇用の置き換えです。ほとんどの政策立案者は、これについて正面から話すことを本当に望んでいません。なぜなら、彼らには本当に良い答えがないからです。代わりに、GDPを増加させることについて話すことを考えます。GDPが上がり、商品が安い限り、それは世界を成功と呼ぶのに十分です。
しかし、これほど多くの仕事が自動化によって置き換えられることが何を意味するかについて話したいと思います。あなたは本当にその物語を『民主主義の不満』の中で示しました。その物語を大まかに語ることから始めていただけますか。歴史から学ぶということで。
『民主主義の不満』では、建国から現在までの米国における政治的議論、政治的討論の広範な歴史を見て、自由であることの意味の変化する概念を理解しようとしています。それは私たちの公的討論に暗黙のうちに含まれてきました。
最近、私たちが自分自身を自由だと考えるとき、あるいは自由を熱望するとき、私たちが意味するのは本当に、私たちの利益、私たちの目的を選択し、私たちの欲望に障害なく、またはできるだけ少ない障害で行動する自由です。
それは消費者主義的な自由の概念と呼べるものでした。なぜなら、私が自分の欲望に行動し、私の利益と好みを満たすことができるとき、私は自由だからです。
これは、経済が何のためにあるかという非常になじみのある考えと一致します。アダム・スミスもケインズも、経済は消費のため、消費者の福祉のためだと言いました。消費者の福祉を提供し、促進し、最大化することです。
それは自由の消費者主義的概念です。私たちそれぞれは様々な利益、目的、欲望、好みを持っており、それらを実現できる限りにおいて、私たちはその程度まで自由です。
『民主主義の不満』で私が主張するのは、その自由の概念は、第一に、最終的に満足のいくものではないということです。それだけでなく、それが私たちの政治的伝統において利用可能であったり、存在したりしてきた唯一のものではないということです。
私は自由の消費者主義的アイデアと、市民的な自由の概念と呼べるものを対比しています。私は、政治的共同体の運命について仲間の市民と有意味な発言ができる限りにおいて自由です。私の声は重要です。私は自治に参加できます。私たちにふさわしい目的や目標について、同等な立場で仲間の市民と理性的に熟慮できます。
自由の市民的概念は、健全で堅固な共通の生活を必要とし、経済の目的を、ここで私たちは労働に戻りますが、消費者としての私たちの利益を満たすためだけでなく、すべての人が共通善に貢献し、そうすることで名誉と承認と尊敬と敬意を得ることを可能にする方法として捉えます。
現代の危機：消費者主義の勝利と市民的価値の衰退
今日の民主主義が直面している危機を見る一つの方法は、最近数十年間、過去半世紀において、自由の消費者主義的概念が自由の市民的概念を覆い隠し、押し出してしまったということです。
これは労働と、私たちが労働に帰属させる意味に影響を与えます。そのため、私たちの公共生活を苦しめている怒り、欲求不満、憤りの一部は、特に大学の学位を持たない労働者の不満と大きく関係しています。彼らは自分たちの労働が重要ではないと感じ、信任を得たエリートたちが彼らを見下していると感じています。
そのため、私たちは自由であることの意味について貧困な概念を受け入れ、実行してきました。それと共に、私たちは労働を軽視してきました。労働の目的は生計を立てることだけではなく、共通善に貢献し、そうすることで名誉と承認を得ることでもあるということを忘れてしまいました。
あなたが90年代にこのダイナミクスがどのように展開されたかについて話していただけますか。あなたは、グローバル化、金融化、実力主義という三つの相互強化的な実践がどのように相互作用するかについて書いています。特に、尊厳と地位が私たちの経済の金融化とグローバル化によってどのように影響を受けるかについて、それを詳しく説明していただけますか。
グローバル化と実力主義の破綻
もし私たちが私たちの政治に何が間違っているのか、なぜ民主主義が危機に瀕しているのか、なぜ右翼ポピュリスト的な反動があったのかを本当に理解したいなら、これは過去半世紀にわたって実行されたグローバル化の新自由主義バージョンから生じた所得と富の格差の拡大と部分的に関係があります。
しかし、問題は経済的不平等を超えてもいます。それはまた、格差の拡大に伴った成功に対する態度の変化とも関係があります。
グローバル化の時代に頂点に立った人々は、自分たちの成功は自分たちの行いであり、自分たちの能力の尺度であり、したがって市場が彼らに与える豊かさのすべてに値すると信じるようになりました。そして暗黙のうちに、苦労している人々、取り残された人々も同様に自分たちの運命に値すると信じるようになりました。
この分裂は労働に対する態度と密接に関連しており、グローバル化は巨大な経済成長をもたらしたが、それは主に上位20%に向かいました。下位半分はその成長をほとんど実現しませんでした。実際、平均的労働者の実質賃金は5十年間事実上停滞していました。それは長い時間です。
しかし、主流政党が格差の拡大と賃金の停滞にどう対応したかというと、苦労している労働者にこう言うことでした。「もしあなたがグローバル経済で競争し勝ちたいなら、大学に行きなさい。あなたが稼ぐものはあなたが学ぶものに依存する。努力すれば成功できる」
私たちは民主党からも共和党からも、これらのスローガンを何度も何度も聞きました。彼らが見落としたもの、この勇気づけるアドバイスが見落としたのは、それが伝える暗黙の侮辱でした。
その侮辱はこうです。「もしあなたが新しい経済で苦労していて、もしあなたが大学の学位を取得していないなら、あなたの失敗はあなたの責任に違いない。私たちはあなたに学位を取るよう言ったのだから」
彼らがどう自分自身を見るかだけでなく、社会の他の部分が彼らをどう見るかにも影響します。
まさにその通りです。一方では、この「向上する」という修辞学、「あなたも学位を取得すれば成功できる」という修辞学は、まず第一に基本的な事実を見落としています。それは私たちの仲間の市民のほとんどが4年制大学の学位を持っていないということです。アメリカ人の約37%しか持っていません。
つまり、ほとんどの人が持っていない4年制の学位を、尊厳ある労働とまともな生活の必要条件として設定する経済を作り出すのは愚行です。
高等教育を通じた個人の上向きの移動性を促すことでの不平等への対応のもう一つの腐食的効果は、それが不平等の構造的源泉やそれを導いた政策に取り組まなかったことです。それはエリートたち、民主党員も共和党員も同様に、自分たちを免責する方法でした。彼らは「いや、それはただあなたが学位を得ることによって個人的な移動性を達成していないだけだ」と言いました。
ですから、学位を持たない多くの人々が、その申し出をし、暗黙のうちにその侮辱を伝えていた政治家たちに反発したのは驚くことではありません。
AIと労働の未来：歴史の教訓
AIの状況と比較してみましょう。なぜなら、私たちの聞き手の多くは経済診断に慣れていないと思いますが、実際には時間を遡って90年代に何が約束されたかを見ることが本当に重要だと思うからです。
「私たちはこの製造業のすべてを中国にアウトソースするつもりです。はい、ここでいくつかの仕事は失うでしょうが、GDPで、私たちは超低コストでこれらの商品をすべて手に入れるつもりです。したがって、私たちは豊かさの世界に入るでしょう。私たちはその恩恵を享受するでしょう。人々は他の種類の仕事に移行するでしょうを見つけ出すでしょう」
しかし、移行するための他の種類の仕事はありませんでした。そして私たちの社会構造に空洞化がありました。しかし、これを非常に注意深く見ると、これはAIについて私たちが売り込まれているものと正確に一致します。
Anthropicの最高経営責任者であるダリオ・アモデイから借りると、世界地図を想像してください。そこにはすべての国があり、新しい国が世界の舞台に現れます。しかし、それは他の文化からの人間で満たされているのではなく、1億人のデジタル存在で満たされています。彼らは皆ノーベル賞レベルの天才ですが、最低賃金以下で超人的な速度で働きます。彼らは不平を言わず、食べず、眠りません。
ですから、私たちの製造業や労働をすべて中国にアウトソースする代わりに、今度は私たちの認知的労働、私たちの精神労働、知的労働のすべてを、データセンターにあるこの新しい超天才の国にアウトソースできます。
私たちは、これらの安価な認知的商品がすべて信じられないほど低い率で市場に参入することを約束されています。それが豊かさの世界になるでしょう。イーロン・マスクが言うように、私たちはユニバーサル・ハイ・インカムを得るでしょう。
しかし、もちろん、なぜこれがあなたが語った最初の物語とは異なって進むと信じるべきでしょうか。私たちに計画がなく、あなたが語っている現象、つまり実力主義の暴政と、それが結果として生んだポピュリスト運動全体を私たちにもたらしたものを繰り返そうとしているなら、これは本当に見なければならない本質的なことだと思います。
豊かさの約束の問題点
それは非常に強力な類似だと思います。あなたは正しいと思います。前回、いわば新自由主義版のグローバル化と貿易協定と国境を越えた資本の自由な流れで、それがどのように機能したかについて立ち止まって考える価値があります。
当時言われていたのは、「はい、いくらかの混乱があるでしょう。勝者と敗者がいるでしょう。しかし、勝者への利益は非常に重要で豊富なので、それらは敗者への損失を相殺するために簡単に使用できる」ということでした。
もちろん、あなたが言っているように、それがどのように展開されたかは、補償は決して到着しませんでした。
しかし、ここで私たちは再びAGIで約束されています。「私たちが皆、AIが生産するすべてのものへの安価で豊富なアクセスを得れば、文字通りすべてを無料で生産し、私たちは今まで見たことのない豊かさの世界に入ろうとしている」
しかし、その富はすべてどこに行くのでしょうか。それは現在生産している数千の企業に行く代わりに、より多くの人々がすべての富とすべての権力を統合するAI企業にお金を払うことになります。すべてのこれらのリソースを持つことになり、質問は、小さなグループの人々が富を統合し、それを意識的に再分配したことがいつあったかということです。
そうですね。それは株主に行くでしょうし、その一部は、金融やテックにおけるかどうかを問わず、システムに対する寡頭制の支配を統合するためにロビイストを雇うために行くでしょう。これは過去50年間にわたってそれが機能した方法です。
分配的正義と貢献的正義
AIによってロボットが私たちの仕事を奪いにやってくるときの豊かさの約束には二つの問題があります。
私たちの食料や住居や医療などへの基本的な必要が提供されれば、私たちの根本的な人間の必要は、仲間の市民に必要とされ、その必要を満たすために私たちの努力と才能を発揮することで何らかの承認や名誉を得ることです。
ロボットが私たちの仕事を奪いにやってくるときの豊かさが約束する理由について懐疑的になる第一の理由は、分配的正義の理由です。補償は本当に到着するのでしょうか。ユニバーサルベーシックインカムはどれほど寛大になるでしょうか。
しかし、第二の問題は、それが満たされたとしても、それが実現されたとしても、あなたと私がそれが実現されることに懐疑的であることが間違っているとしても、貢献的正義の問題があります。
それは共通の生活の参加者であることについてです。それは社会的協力と貢献のスキームの参加者であることであり、それによって私たちは有給労働を通してだけでなく、彼らが育てる家族や彼らが仕える共同体を通しても尊厳と尊敬を得ることができます。
それが欠けていれば、世界のすべての豊かさも承認への人間の熱望に答えるのに十分ではないでしょう。
AIの新たな挑戦：知能の呪い
あなたが指摘したことで、二つの問題があります。一つは再分配の問題と、これがユニバーサルベーシックインカムになるのか、それともユニバーサルベーシック年金や、人々を維持するための最小限の金額になるのかという懸念です。
そして二番目は、尊厳と承認と地位への必要であり、それは配偶者選択からすべてに影響し、社会構造の健康と仲間の市民への共通の尊敬と結びつきの感覚に影響します。
AIを使ったこれらのダイナミクスは、非常に異なったものになろうとしています。過去とNAFTAの話は、「はい、おそらくあなたの仕事は消えるでしょうが、あなたがより高い学位を得て、より高度な認知的労働をするためにより高い認知的ラダーを上ることができるあなたが得るお金と効率性を使うことができます」というものでした。
問題は、より高いスキルの認知的労働をするために登ることができるこのラダーがありますが、今、そのラダーをより早く登るのは誰でしょうか。再スキルしようとする人間か、すべてのドメインにわたって急速に能力を進歩させているAIか。だから今、行く場所がないようなものです。
だから、私たちは最初の危機と、さらに大きな第二の危機の両方を持つことになります。
あなたが言っていることはまた、中東で彼らが資源の呪いと呼ぶものを思い出させます。この問題とこの前回の間の違いは、過去には私たちの労働が重要だったということです。だから、もし人々がシステムに反乱を起こしたら、企業は人々、労働者の団体交渉のニーズに答えなければならないでしょう。政府は市民の課税と税に気を配らなければならないでしょう。
この場合、政府と企業はもう人間を必要としないので、彼らはもう彼らの声を聞く必要がありません。これは資源の呪いと似ています。中東では、大きな石油経済があり、国のGDPのすべてが石油経済から来ている場合、単に反乱を防ぐこと以外に、社会構造の健康に投資するインセンティブは何でしょうか。
AIでは、AI研究者のルーク・ミューハウザーとスチュアート・ラッセルによって作られた知能の呪いと呼ばれます。私はただ、この新しい種類の挑戦がAIが提示するもので、あなたが示したもの上に、あなたがそれにどう関連するか興味があります。
豊かさの目的とは何か
資源の呪いとの類推は良いものだと思います。私たちが豊かさと資源について、そして延長してロボットがすべての仕事をするときの地平線上の効率性について問わなければならない質問は、豊かさや資源は正確に何の目的のためなのかということです。
私たちはGDPを最大化することが、消費者の福祉を最大化することが経済の目的だと仮定します。しかし、なぜそもそも豊かさを気にするのでしょうか。それは私たちがより多くのものを蓄積することを可能にするためだけでしょうか。
今、ある人は私が豊かさのケースを戯画化していると言うかもしれません。それは人々が彼らの欲望を満たすことを可能にすると。しかし、それがすべて重要なことでしょうか。それが経済の唯一の目的でしょうか。
なぜなら、もし唯一の質問が豊かさをもたらす方法であるなら、それは技術官僚的な質問です。それは専門家が理解するためのものです。民主的市民が討論するために何が残されているでしょうか。
これが私たちの政治の中心にあるべき理由は、労働の尊厳を更新するために何が必要かについての質問です。そして、新しい技術がより大きな豊かさを約束する限りにおいて、それは良いことです。しかし、誰のため、何の目的のための豊かさでしょうか。
経済の真の目的
もし経済の目的が豊かさや消費者の福祉を最大化することでないなら、それは何のためでしょうか。
二つのことです。一つは人々に声を与えること、人々が自分たちの生活を支配する力を形作ることに発言権を持てるという感覚を与えることです。これは私たちが先ほど議論していたことに戻ります。トリスタン、経済を消費者のニーズを満たす商品を生産するためのシステムとしてだけでなく、相互承認と結びついた協力のシステムとしても考えることについてです。
そして、声を持つこと、私の声が重要だという感覚に加えて、第二に、帰属感を促進することです。これは私たちが先ほどコモンズのアイデアについて議論していたことに戻ります。
私たちの時代の不満、そして私たちの有毒な政治の怒りの一部は、人々が共同体の道徳的構造が解きほぐされていると感じていることです。私たちが世界の中に位置づけられていないと、重要な大きな質問について一緒に理性的に考える能力を失ったと感じていることです。
正義な社会とは何か。良い社会においてお金と市場の役割はどうあるべきか。仲間の市民として私たちは互いに何を負っているのか。
だから、消費者の福祉やGDPや消費者の満足を最大化することに一心に焦点を当てるとき、私たちが見落とすのは相互承認、労働の尊厳、すべての市民が自分の声が重要だと信じる能力、自分たちの生活を支配する力を形作ることに有意義な発言権を持つことであり、無力感を感じるのではありません。
そして最終的に帰属感です。
ですから、質問は、どのように進歩的政治が経済の使命と目的を更新できるか、そしてそのことについて言えば民主主義も、だと思います。私は、それが最終的に民主主義にかかっている影に対応することができる唯一の方法だと思います。
より広い枠組みでの診断
本当によく表現されていると思います。私があなたが共有したすべてを、私たちがメタクライシス、または社会全体で直面している相互に連結した問題と呼ぶより広い枠組みに結びつけたいと思います。
私たちが診断するところ、これがすべてどのように起こっているのか、なぜ永遠の化学物質から汚染、社会構造を劣化させるソーシャルメディア、尊厳を犠牲にしてGDPを最適化することまで、誰も望まないこれらの結果をすべて得ているのか、それはすべて他の名前のない価値観と保護される必要があるが保護されていない名前のないコモンズを犠牲にして、ある狭い目標を最適化することと関係があります。
ソーシャルメディアの場合、私たちはエンゲージメントの成長を最適化しており、そうすることで十代の不安と鬱と自殺を見ません。なぜなら、不安と鬱のそれらのすべてのものは、エンゲージメント経済の成長にとって本当に良いからです。終末スクロールはそれにとって本当に良いです。
私たちは成長するGDPを見ますが、環境汚染がGDPに直接結びついていることを見ません。私たちは安い価格を最適化することを見ます。そして、私たちはすべての供給チェーンを、私たちの国家安全保障を脅かすかもしれない敵対的な国にアウトソースします。他のすべての価値を犠牲にして、GDPを増加させる最後の例で。
だから、解決策と応答により軸足を移すとき、どのようにエンゲージメント、GDP、安い価格、豊かさなど、ある狭い目標を最適化することから、その中に存在するものの全体的な健康に向かうかを考えることについて一般的に名前を付けたいと思います。
RFKとMLKからの教訓
このことを直感的に深く理解していた私の政治的ヒーローの一人は、1968年に大統領選挙に立候補していたときのロバート・F・ケネディです。彼は何の目的のため、何の意味のためかという質問を問うことなく、GDPや消費者の福祉の一心な追求を批判していました。
彼がそれをどう表現したかは次の通りです。彼は言いました、「仲間意識、共同体、共有された愛国心、これらの本質的な価値観は、ただ商品を一緒に買い、消費することからは来ません。それらは代わりに、まともな賃金での尊厳ある雇用から来ます。私たちがこう言うことを可能にする種類の雇用です。私はこの国を建設するのを助けました。私はその偉大な公共事業の参加者です」
この市民的感情は、それは強力で、刺激的ですが、今日の私たちの公的言説からは大きく欠けています。それは私たちが労働の尊厳として議論してきたものと、自由の市民的概念と、共通のプロジェクト、公共事業、共通の目的と目標を建設することを分かち合うというアイデアを結びつけます。
この考え方のもう一つの表現は、同じ年にマーティン・ルーサー・キングがメンフィスでストライキ中の衛生労働者のグループに話をするために行ったときでした。これは彼が暗殺される少し前でした。
彼がストライキ中のゴミ収集員に言ったのはこうでした。彼は言いました、「あなたのゴミを拾う人は、最終的な分析において、医師と同じように重要です。なぜなら、もし彼が自分の仕事をうまくやらなければ、病気が蔓延するからです」そして彼は付け加えました、「すべての労働には尊厳があります」
それで、あなたの質問、今日の具体的な条件でそれがどのようなものになるかもしれないか、そして特に労働部分の尊厳がより深い方法で覆されるAI時代にそれがどのようなものになるかもしれないかということに来ます。
AIに関して、私たちは、GDPや裕福さについて何の目的のためかを問うべきだと思うのと同じように、AIはどの問題の解決策なのかを問うべきだと思います。
AIの多くの事例において、その答えは全く明確ではありません。その質問のデフォルトの答えは、あなたがテクノ楽観主義者と熱狂者のいくつかを引用して指摘したように、効率性です。しかし、労働を置き換えることができるほどの究極の効率性です。
しかし、なぜ労働を置き換えることが、議論や反省なしに、良いことと見なされるのでしょうか。新しい技術の目的は何であるべきか、AIはどの目的に仕えるべきかについて公開討論を持つ必要があります。
答えはおそらく労働を置き換えることではありません。おそらく労働を向上させることで、より生産的になるように、賃金が上昇するように、もし生産性の向上を、最近のように翻訳されていない、賃金の増加に翻訳させることができれば。
グローバル競争の現実と哲学的問い
まさに私の言語で話していただいています。これはニール・ポストマンの質問です。この新しい技術が実際に解決策である問題は何かということです。
なぜなら、しばしば私たちはただできるからという理由で技術を適用し、市場社会、市場経済ではなくに生きているので、それを効率性の方向に適用するからです。市場社会は、すべてが効率性と成長とGDPについてであることを要求するので、効率性を最大に適用したいでしょう。それはちょうど全体の機械をより効率的に動作させるからです。
だから、私のより冷笑的な答えは、悲しいことに、もし私がそれをしなければ、より速くそれをする国に負けるだろうし、その後彼らの集合的な商品は私のものより安くなり、だから自動化する人が自動化への競争があり、その後私たちは皆この自動化への競争をしているということです。
その自動化で私たちそれぞれが負担しているコストは、私たちの市民に尊厳、将来の労働、将来の見通しについての答えを与えないことです。
それは哲学的質問に対する本当の答えではありませんが、私たちが問うべきですが、残念ながら、もし米国のような一つの国がその質問を問い、中国がそうでなければ、その後彼らはすべての経済的リソースを吸い上げ、それは米国を不利な立場に置くでしょう。
私はこれを言っているのは、大きなグローバル競争の観点からAIを正当化する人々と多くの時間を過ごすからです。そして、それがしばしば答えです。
そうですね、それで二つの答えがあると思います。あなたがそれらをよく特定したと思います。お金を節約することと力を蓄積することです。そして二つの間のリンクは、もしAIが本当にGDPの巨大な増加を作り出すなら、それはグローバル競争と大国間の競争に関係するということです。
だから、あなたは正しいと思います。これら二つは一緒に行きます。しかし、その後、質問は私たちと競争し、そこに最初に到達するであろう国々、例えば中国にも問われることができます。彼らはどの目的を心に留めているでしょうか。彼らはこれを考え抜いたでしょうか。
私は思います。すべての国、すべての国が、これらの意味と目的の質問に最終的に取り組まなければなりません。なぜなら、どの国も最終的に自分自身の人々に直面しなければならないからです。彼らは遅かれ早かれ、私たちの力を最大化したか、私たちのGDPを最大化したか、または両方について、それはすべて何を意味するのか、何の目的のためかを問うでしょう。
なぜなら、遅かれ早かれ、これは満足のいかないものになるからです。利益が公正に分配されなければ、それは満足のいかないものになるでしょう。しかし、私たちはまた、意味と目的と尊厳と承認の欠如についての欲求不満にそれを見ていると思います。
もしあなたと私がこの意味と目的と帰属の第二の次元について正しければ、その種の解決策に満足しないのはアメリカ人だけではありません。それは中国の市民や、ヨーロッパの市民や、他の政治的権力の市民になるでしょう。
市場と技術への道徳的アウトソーシング
市場の魅力の一部は、それらが商品を提供するだけでなく、商品を評価する方法についての厄介で争われた討論を私たちに免れさせるように見えることです。それらは私たちにそれらの厄介な討論を免れさせることができる価値ある道具のように見えます。
だから、私たちがしたことは、経済への人々の貢献の価値についての私たちの道徳的判断を市場にアウトソースしたことです。そして、それは人々が稼ぐお金が彼らの貢献の尺度であるという仮定に私たちを導きました。今、実際に信じている人はほとんどいません。
今、技術の場合、同様の種類の道徳的アウトソーシングが起こっています。テクノユートピア主義の高位聖職者たちの宣言でそれを聞きます。技術は自然の力のようなもので、労働の世界を変革するつもりであり、私たちはただそれに適応する方法を理解しなければならないと。
しかし、これはグローバル経済について私たちに語られた同じ偽の必然性です。ビル・クリントンから、「グローバル化は風や水のような力です。あなたはそれを止めることはできません」そして、英国の彼の相手であるトニー・ブレアは言いました、「グローバル化を止めて討論すべきだと言う人々の声を聞きます。秋が夏に続くべきかどうかを討論するのと同じです」
そして、私たちはこの必然性のエコーを聞きます。そしてそれには傲慢さがあります。AIの高位聖職者たちによって、AIが来ている、それは私たちの仕事のために来ている、労働は廃れるものになり、私たちは受け入れることができず、私たちはただ私たちの社会を組織し、人々にお金を払って、街頭で暴動が起こらないようにする方法を理解しなければならないなどと言います。
しかし、これは満足のいかないものです。市場主導の、そして技術官僚的な経済と技術を考える方法の両方は、それら自体で取られると、民主的市民のために何も残しません。
ですから、私たちができる最も重要なことは、民主的市民として、技術が何のためにあるべきかについての質問を取り戻し、技術革新をどのように方向づけるかを討論することだと思います。
今、それは私たちが慣れ親しんでいるものよりも、道徳的により堅固な種類の公開討論を持たなければならないことを意味します。それはまた、労働を置き換えるのではなく、豊かにし、向上させる種類の技術的変化に公的投資をする意思があることを意味します。
民主的な議論の必要性
あなたがこれらすべてを言うときに私の心に浮かぶのは、私たちの社会がこの変革を通る啓発されたバージョンが何をするだろうかということです。私はただ、中央メディアがもう本当には存在しない程度には大きなCNN討論があるべきだが、それは本当にはないが、どのようにこの移行を進めたいかについて話している大きなタウンホール討論があるべきだと想像しています。
もしAIが何億人もの人々、10億人でないにしても、ホワイトカラー、認知労働をしている人々を置き換えるつもりなら、ロボットが来るときの他の種類の物理的労働と一緒に、それは私たちが今まで経験した最大の変革です。
私たちがこれらの質問に答えるためのいかなる種類の、国家的討論だけでも持っていないという事実は、これらの質問を実際に取り扱うための政治的逆インセンティブがあるからだと思います。政治家にとって、本当に彼らに報いることのない、この非常に厄介で会話に急いで入るのではなく、GDPが上がり、安い商品を生産し、技術は中立だと言うのが政治的に便利だからです。
これらは、ただ必然性の道を下り続けることにライセンスを与える物語です。私はあなたがそれをどのようにリンクしたかが大好きです。
だから、より楽観的な見方が私を驚かせたのは、効率性のためだけにAIを使う競争の代わりに、哲学的質問に意識的に答える方法でAIを展開する競争になるということです。これはすべて何のためか、経済は何のためか、労働は何のためか、仕事は何のためか、この技術は何のためかです。
そして、それを最もよく、意識的に答える国々は、より全体的な意味で他の国々を上回るでしょう。私たちがGDPを押し上げたが、不満を感じる階級全体を作ったように、それは私たちをより弱くしたか、より強くしたかです。
その別のバージョンは、私たちが中国をソーシャルメディアに打ち負かしたが、それは私たちをより強くしたか、より弱くしたかということです。だから、もしあなたが技術で国を打ち負かすが、あなたがあなたの国を強化する方法でそれを意識的に展開していないなら、これは再び狭い最適化対全体的最適化に戻ります。これらの哲学的質問を問うことは、これらの技術とこれらの政策動向の意識的適用を、全体にとって何が健康かの方向に向けます。
新しい公共討論の可能性
まさに、美しく表現していただきました。技術が本当に私たちに提供するのは、異なる種類の公共討論の機会です。新しい技術とAIがどの目的と目標に仕えるべきかについての本当の公開討論よりも、その種の公共討論のためのより良い機会と主題は何でしょうか。
今、この種の討論は論争的な道徳的、市民的質問を提起します。それは正義な社会を作るものは何か、仲間の市民として私たちは互いに何を負っているかという質問を提起します。人々は価値観について討論すれば異議を唱えるでしょう。なぜなら、その種の討論は、それがすべて効率性とGDPの促進についてであるという疑問視されない仮定から離れることを要求するからです。
技術が何のためにあるかという質問を討論するときはいつでも、私たちは争われた道徳的領域にいます。しかし、私が提案しているのは、これが公共討論の条件を再想像する機会になり得るということです。
私たち民主的市民が公共生活にもたらす道徳的、さらには精神的確信とより直接的に関わることです。そして、もしこの驚くべき新しい技術的フロンティアがそれを促すことができるなら、誰が知っているでしょうか。おそらく結局のところ、地平線上の暗雲にもかかわらず、私たちは私たちの時代のために、互いに理性的に考える失われた技術、互いに議論し、私たちが異議を唱える人々の話を聞き、民主的公共討論の失われた技術を復活させることができるかもしれません。
マイケル・サンデル教授、「Your Undivided Attention」にお越しいただき、本当にありがとうございました。
トリスタン、ありがとうございました。
コメント