37,115 文字
ジュリアン・ゴバン、こんにちは。あなたは講演者、哲学教授、そしてガリマール出版から刊行された「個人の終焉：人工知能の罠」の著者であり、この本では人工知能がいかに私たちの自由意志を破壊するかを探求されています。基礎を確立するために、ジュリアン、まずは私たちの時代をどのように定義するか、私たちが現在どのような状況に置かれているかを教えていただけますか？
私の見解では、私の解釈の枠組みですが、私たちの時代には多くの変革があります。その中でも特に興味深く、私のエッセイ執筆や関連する解釈の枠組みにつながった変革が二つあります。まず一つ目は社会革命で、個人の解放や自由の追求に関するものです。個人の自由の追求は現在、私の考えでは頂点に達しています。私たちはかつてないほど多くの自由と自己決定の可能性を持っています。これは過去の慣習への異議申し立てを含む第一の大きな革命です。
もう一つは、並行して起こり、おそらく絡み合っている科学革命です。人工知能はその一部ですが、この革命は人間に対して極めて決定論的な視点を提供しています。私たちは本当に自由なのか、社会革命が示唆するような自由意志を持っているのでしょうか？私は自分を解放しているけれど、それは本当に存在する自由の原則の名のもとに解放しているのでしょうか？
そして、私にとって興味深いのは、私たちが大きな変貌の真っただ中にいることです。一方では、18世紀の啓蒙思想に遡る個人の解放という古いプロセスの完成があり、他方では、解放と自由の原則そのものを否定する新しいプロセスの始まりがあります。
これを文明の変化と呼んでもいいでしょうか？私はそう思います。少なくとも、私たちはその途上にあります。これを理解するためには、私たちが文明的な変貌の中にいるということを認識する必要があります。政治的見解によっては、西洋文明や啓蒙思想の衰退だと言う人もいますが、衰退は死につながります。別の見方としては、一部の昆虫に見られるような変態があります。サナギの段階を経て、体が溶け、自身を消化し、すべてが液状化し、基本的な栄養素に変わり、次の体を形成する幹細胞に栄養を与えます。芋虫がサナギの中で溶けて蝶になるように。
この変態は新しい文明を意味します。将来の新しい文明を特徴づけるものは何でしょうか？これは予測の話なので、もちろん物事は開放的であり、単純なものではありませんが、私は二つの興味深い要素を区別します。一つ目は、自由意志、十分な情報に基づく同意、人間の自律性の考えの終焉です。二つ目は、新しい言語、計算と合理性の勝利の到来です。これは象徴的言語の反対です。計算がシンボルに取って代わり、この新しい言語が新しい文明を形作っていきます。
あなたの著書では、私たちが「ポスト」の時代にいるという話をよくされていますね。その考えを展開していただけますか？
はい、少し冗談めかして始めますが、フランスではCyril Hanounaの番組「Touche pas à mon poste」（私の投稿に触れるな）やそれ以前の反人種差別運動「Touche pas à mon pote」（私の友達に触れるな）がありました。そして現在、「ポスト真実」「ポスト合理性」「ポストジェンダー」「ポストヒューマン」など、「ポスト」という言葉が多く使われています。このポストは変化を示していますが、新しい状態は示していません。例えば、バロック期の後の時代を「ポストバロック」とは呼ばず、古典期と呼びます。
このポストは私にとって、我々が変革の中にいる、過渡期にいることの兆候、症状です。このポストは私たちをどこに導くのか、それが問題です。ポストは肯定的な定義を提供せず、ただ一つの状態の終わりから新しい状態への移行を示すだけです。それはいわば、ハイフンのようなものです。これまで私たちの社会を形作ってきたすべての価値の前に、単に「ポスト」を付けるだけで、私たちがどこへ向かっているのかはわからないのです。それらは何かに向かっていますが、おそらく「トランス」、例えばトランスヒューマニズムかもしれませんが、用語はかなり曖昧で、すべてが構築中です。トランスヒューマニズム、ポストヒューマニズムなど、見方はいくつかありますが、私にとって「ポスト」は変態の状態の兆候であり、サナギの、新しいものへと向かう有機体の溶解の基本的な指標です。そして何が起こるのか、それが私たちの議論の焦点だと思います。
そう、それは私たちが文明変化の過程にあることの本当の兆候ですね。文明が変わるということは、それ以前の文明があり、新しい文明が来るということです。これら二つの文明を少し定義できますか？私たちが出てきた文明の特徴と、向かっている文明の特徴は何でしょうか？
私たちが出てきた文明は啓蒙思想から生まれたものです。実際、ユダヤ・キリスト教文明の延長とも言えますが、ユダヤ・キリスト教文明は魂と善悪に対する自由意志を前提としています。啓蒙思想の哲学は既にこの最初の時代から私たちを脱出させました。それは既に啓蒙時代に溶解が始まっていたのです。
私の考えでは、私たちは市民として、個人として、啓蒙思想の哲学の相続人です。この文明の基本的な特徴は、人間が広い意味での人間ではなく、個人であるということです。これは根本的な違いであり、定義が必要かもしれません。ユダヤ・キリスト教文明では、人は伝統や宗教的枠組みによって定義されます。これはいわゆる「後見」と呼ばれるもので、私は自分の運命を選ばず、それは押し付けられます。これらは「他律」社会と呼ばれています。なぜなら、私の規範、私の法律、私の存在の決定方法は外部からくるからです。
これは今日でも世界中の「伝統的」と呼ばれる社会で見られます。例えば、インドのカースト制度では、生まれた場所によってあなたの人生の大部分が決まります。誰と結婚するのか、どのような仕事に就くのか、様々なことが決められています。
啓蒙思想の哲学は、人々をこれらの後見から解放し、他律から自律へと移行すべきだと主張します。各個人が自分の人生を作り出す人になるべきだと。そのために幸いなことに、私たちにはいくつかのツールがあります。その第一は理性、悟性、合理性です。これにより教育を通じて、偏見や伝統、完全に恣意的で自分に合わないものから徐々に解放されていきます。啓蒙思想は、個人こそが自分に何が良いかを知るのに最も適した存在だと主張します。これが自由主義の原則です。伝統や国家が何をすべきかを指示するのではなく、私たち自身が存在の中で自分を導くべきなのです。そのためには、私たちを閉じ込め、押し付ける社会的決定論や圧力を徐々に打ち破る必要があります。
これが、過去数世紀の西洋の歴史の意味です。苦痛を伴う反動もありましたが、社会的状況、女性の状況などにおいて、徐々に自由を獲得してきました。私たちはこの解放の追求、自由意志と自律性の表現の産物です。今日の緊張の核心は、この自律性の追求がかつてないほど強くなっていることですが、それはまるで藁火のように、または燃え尽きる火のマッチのように、輝きながらも最後の瞬間を示しています。これは私たちを次の文明へと導くでしょう。この新しい文明では既に最初の兆候があり、私はそれを推測していますが、この自律性を放棄しているのです。
それは、私たちの自律性を使って存在の中で良い方向に進むのが益々難しくなるという外部的制約のためでもありますが、また、自分自身よりも効率的に私たちを導くシステムを持つことができるため、それが最適ではなくなるからでもあります。結局、自律性とは何でしょうか？それは恐らく、目的のための手段、コンパスのようなものです。そして目的は一般的に幸福、福利、私たちに良いことです。完全に自分を害するために自由を行使することは稀です。
もし私たちのために何をすべきかをより効果的に教えてくれるシステムがあるなら、それは強制的な方法ではなく、単に私たち自身の判断よりも効果的だとわかるからです。私たちの判断は不完全で、間違えることがあります。自由を放棄することが自分自身を信頼するよりも効果的になる理由は数多くあります。この意味で、ハラリの『21世紀のための21のレッスン』や『ホモデウス』、そしてフランスの哲学者ガスパール・ケニングの考えに同意します。自由意志は、単に新しい世界では非効率的になるため、賞味期限を迎えているのではないでしょうか？
しかし、私たちは本当にこの新しい文明に向かっているのでしょうか？それとも過去の段階に戻っているのではないでしょうか？例えばドナルド・トランプの権力の掌握や世界中での極右の台頭は、あなたが説明する新しい状況、新しい文明ではなく、過去に戻っていることの兆候ではないでしょうか？
確かに、私が本を書いたのは2020年で、原稿は2022年に完成しました。歴史は進み続けていますが、この質問に答えるための2つの要素があります。
まず、私は本の大部分で、個人であること、自由であることが人々に緊張を生み出すことを示しています。それは考えられているほど単純ではありません。私たちは自由ですが、責任も負います。自律性の社会では方向性が不足しています。宗教の存在的意味を再創造する必要があります。今日では多くの新時代の宗教があり、人々は好きなものを選んでいます。なぜなら、世界の意味を再創造するのは私たち自身だからです。どんな仕事をするか、誰と結婚するか、どの地域に住むかなど、すべてを知る必要があります。
この重荷のため、アノミー（規範の欠如）によって特徴づけられる世界で生きることはますます困難になっています。これにより、脱個人化や他律のシステムに戻る誘惑が非常に強くなります。そこでは新しい意味が古い方法で与えられます。これは既に「自己であることの疲れ」と呼ばれる問題への一つの答えです。私は自由ですが、それが私には合わず、方向性が必要だという認識です。おそらく一部の人には合うかもしれませんが、他の人には合わないのです。私は方向性が必要で、自分の存在の一部を担ってもらう必要があります。そこで20世紀的な強いシステムに戻るのです。これが最初の選択肢です。
第二の選択肢は、同じ方向に進み、脱個人化の意味を持ちます。これは私の論文の主旨です。人は徐々に個人性を失っていくのです。ドナルド・トランプはイーロン・マスクと提携していますが、マスクはトランスヒューマニスト的なビジョンを持っています。トランスヒューマニズムは、それを支える思想によって全く異なる形を取り得ます。技術が解決策をもたらすと考える人は多く、それぞれのトランスヒューマニストはそれぞれの考えを持っています。しかし、それがどのような価値観に役立つかが重要です。平等のためのトランスヒューマニズムもあれば、支配のためのトランスヒューマニズムもあり得ます。
イーロン・マスクのビジョンでは、新しい大義、新しい神聖なものの周りに集まることができます。それは境界を廃止し、偶然を選択に変え、火星に行くなど、新しい地平線を開くものです。これによって、バラバラになった個人が「ここに新しいプロジェクトがある、私は再び出発する」と言うことができます。たとえその後の体制が非常に議論の余地があるとしても、新しい推進力、新しい文明的推進力があるのです。
これは私が描写するものとは完全に同じではありません。私が描写するのは、個人の権利を非常に尊重するヨーロッパのようなシステムに留まったとするとどうなるかという仮説です。もしそのモデルを最後まで追求したら、どこに行き着くのでしょうか？
間には当然、個人の緊張や別の方向に進もうとする試みがありますが、この個人解放の追求を続けるとどこに行くのか。結局、価値観の面では後退（つまり後戻り）するが、技術の面では急速に進歩する社会になるかもしれません。そして存在に意味を与えるのは、価値観よりもこの技術的側面かもしれません。
あるいは、価値観というより神聖なものかもしれません。神聖なものは想像力を投影し、大義のために個人性を失うことができるものです。私は思い出します、十字軍時代の11世紀に「神がそれを望む」という有名なフレーズがありました。それは非常に単純ですが、皆がそれに従いました。今日の「神がそれを望む」、つまり人々が本能的にほぼ衝動的に集まるようなものは何でしょうか？
少なくともアメリカでは、自然な野生のような神聖なものを冒涜することがエネルギーを動員する強力な要素です。例えば、19世紀のフロンティアがそうでした。人間によってまだ冒涜されていないもの、まだ技術化されていないものすべてが投資の場となります。技術は冒涜の手段ですが、別の場所に向かうための冒涜です。
そしてその「別の場所」が興味深いところです。なぜそれが動員力を持つのかというと、人間によってまだ冒涜されていないものは未だに神秘を持っているからです。神秘は象徴的言語、物語を促進します。大きな物語を作ることができます。すべてが既に探索されている場合、物語を作るのは非常に難しいですが、無限に小さいものや無限に大きいものについて話すとき、すぐに想像力が開かれ、人々をより簡単に結集させることができます。
これが、都市に住むことが想像力にあまり適していない理由の一つだと思います。私たちの環境はすでに技術化されており、すでに予測されています。都市では星を見ることができません。田舎で星を見ると、すぐに超越的なもの、別の場所に向かって開かれます。イーロン・マスクのような人がこの「別の場所」のビジョンを持つことは、推進力となり得ます。その結果生じる体制については全く分かりませんが、技術は機械を再始動させる手段となります。新しいフロンティアを見つけるためにです。
この考えは、これまで私たちの社会を形作ってきた大きな物語が消えていくという事実に基づいています。この現状をもう少し詳しく説明できますか？具体的に、私たちがこれまで社会を構造化してきた大きな物語から出てきたということをどう証明できますか？
私にとって、今日の社会を構造化する大きな物語は自由意志の問題でした。個人に自己決定の能力があるため、彼らを信頼できるという考えです。しかし、科学は大きく進歩しました。
まず理論的に、自分自身を支配する力があり、自分の思考の主人であるという考え（自由主義の創始者の一人であるジョン・スチュアート・ミルが言ったように、「自分の体と精神に対して、個人は主権者である」）。しかし今日、環境が私たちに大きな影響を与え、認知バイアスだらけであり、遺伝子自体が私たちの特性の一部を説明するという多くの証拠があります。
技術的な問題に関して興味深いのは、人工知能が私たちの自律性の使用さえも疑問視する世界を作り出しているということです。私たちが考えることの完全な生産者であるという考えを忘れましょう。結局のところ、私たちの回路がこれを作り出し、私たちは俳優と思い込んでいる観客のような傀儡観客かもしれません。
しかし、私たちの文明の根本的な原則である「十分な情報に基づいた自由な同意」はまだ有効でしょうか？決定の前に、人工知能が少しの情報にアクセスするだけで非常に簡単に操作できる場合、それはまだ有効でしょうか？私たちの意見を変えるための正しいメッセージを見つけるのははるかに簡単です。LLaMAが社会の平凡な問題について人々の意見を変えるのに人間よりも82％効果的であることを示したMETAの研究を参照します。
他にもフェイクニュースやグローバル化の問題などもあり、世界は以前よりも複雑になっています。この複雑さは、ますます多くの情報を生み出す技術によって増幅されています。私たちはまだ自分自身の適切な判断を形成できるでしょうか？
これは陰謀論の問題にも関わります。COVID-19のパンデミック中に多く議論されましたが、陰謀論的言説を聞くと、「私は騙されない、自由意志を行使し、自分自身で考える」というものです。もちろん、他の罠に陥ることになりますが、それはそれほど単純ではありません。
私たちの善意にもかかわらず、簡単に操作できるとき、私たちの自由意志を信頼することはまだ適切でしょうか？その後、私たちの決定において、技術がますます存在する世界でどのように行動すればよいのでしょうか？
ヨーロッパではまだあまり直面していませんが、顔認識技術によって私たちは監視され、望むように行動する自由が減っています。これはある種のパノプティコン（一望監視装置）が設置されるためです。また、私たちの周囲の世界がますます最適化され、より効率的になっているため、個人の活動の余地が少なくなっています。人間は最適以下になるからです。
例えば、古い自動車修理工を考えてみましょう。目標に到達するためにいくつかの方法があり、彼は自分なりのやり方で工夫します。エンジンを修理したいとき、彼は手作業で修理し、いくつかの工夫を見つけ、ある程度の自律性を行使できます。最終結果に到達する必要がありますが、複数の可能な道筋があります。
今日、自動車修理工は何をしますか？USBキーを差し込み、問題を検出し、ソフトウェアや解決策または新しい部品を注文します。しかし、最終結果に到達するために一つの道筋しかなく、一つの回転口しかありません。これはすべて明らかに責任の放棄につながります。自由意志の相関関係は責任です。すべてが自動化された社会では誰が責任を負うのでしょうか？金融危機が起きたとき、それはトレーディングアルゴリズムの責任ですか？
最後の点、決定の前後について述べました。しかし、私にとって最も興味深いのは、代替によるものです。存在において自分自身を方向づけ、自分自身の選択をする権利を獲得したけれど、少し迷子になってしまったことに気づく「自己であることの疲れ」のために。どのように自分を導くかを少し疑問に思い、この自律性は技術を備えたアドバイザーやアシスタントを持つことを示唆しています。
まず、アシスタントがいて、特定のタスクを人工知能に委任します。しかし、アシスタントが私たちについてより多くの情報を持てば持つほど、それはアドバイザーになります。そして最終的に「私はおそらく自分自身を導くよりも彼が言うことに従う方が良い」と言うようになります。なぜなら、間違える可能性があり、どの選択をすべきか知るのは簡単ではないことに気づくからです。
私は簡単な例を挙げます。愛や恋愛の市場です。長い間、愛は結婚の問題ではなく、伝統や家族によって決められた人と結婚していました。その後、ロミオとジュリエットが現れ、「個人的に選べる」と気づきました。19世紀のロマン主義とともに、個人が出現し、自由に選択するようになりました。
そして今日、私たちはそのような社会にいて、多くの人がそうしてきましたが、最終的に3、4年後に離婚し、シングルペアレント家庭になり、別の人を探すものの、適切な人を見つけられません。そして何が起こるかというと、アルゴリズムやデートアプリに頼るようになります。これらは昔の仲人や家族の役割を果たしています。プロフィールを見せるだけで、まだ選択する自由はありますが、これは既に最初のフィルタリングです。
つまり、ある種の自律性を放棄し、新しい仲介者、新しい他律に頼っているのです。しかし、それはもはや人間的でも象徴的でもなく、私たちをこの自由の重荷から救う数学、計算なのです。
しかし、私たちが今のところまだ住んでいる自由民主主義は、機能するために本当に形而上学的な自由意志のようなものを前提とする必要があるのでしょうか？メディアや教育、その他多くのものが私たちをある程度決定づけているということを受け入れながら、このシステムを続けることはできないのでしょうか？
はい、はい、それは偽善的かもしれません。自由主義の哲学的創始者たちの中には、自分自身の主権に関する学派があります。ジョン・スチュアート・ミルについて話しましたが、ジョン・ロックもいます。彼は単に望むことに対する障害がないことが重要だと言います。私は候補者を望み、誰も私を妨げず、銃を頭に突きつけられることはありません。あるいは製品を買いたいとき、誰も妨げません。あるいは会社を作りたいときなど。
しかし、これが大きな偽善であることは明らかです。私は何かを望みますが、もし操作されていたら、それにはまだ意味があるでしょうか？そこには非常に慎重なバランスがあり、今日の自由主義や民主主義ではあまり明確に定義されていません。
なぜ人々を教育するのでしょうか？それは決定論の攻撃に対して彼らを最大限に武装させるためです。個人が合理的に自分自身を決定し、影響を受けずに判断できるようにしたいのです。これは極めて重要な原則です。候補者に投票するとき、影響下にあれば、私たちは他者の操り人形になります。古い体制や貴族が「投票権はあるが、私たちが決めたことに投票する」と言うようなものです。
雇用契約に署名するとき、私たちはこの決定を制約なく自由に行い、すべての問題を理解したうえで行うことになっています。しかし、これが今日の曖昧さです。候補者に投票するとき、誰がすべてのプログラムを見る時間を取りますか？これには何時間もかかるでしょう。そして選挙は多くの魅力や認知バイアスに基づいて行われます。
私は、今日の民主主義はこの自由の考えを少し保持していると思いますが、今日のツールは非常に高度になっているため、この前提や曖昧さはもはや可能ではありません。ケンブリッジ・アナリティカのスキャンダルを考えてみましょう。これは操作の考えを少し提起しました。フェイスブックのデータが企業によって取得され、その後ドナルド・トランプの有権者をターゲットにしました。
基本的に、人に関する十分な情報があれば、パーソナライズされたメッセージを作成できることを示しています。従来の民主主義では、候補者が一つのメッセージを数百万の聴衆に伝えていましたが、今では数百万のパーソナライズされたメッセージがあります。ルールはもはや同じではありません。
ある時点で、私たちは決断しなければなりません。私たちは選択する自由があるのか、それとも手段が強すぎて、真実と虚偽を区別したり、物事を合理的に表現したりすることさえできないのか。私が思うのは、最終的に民主主義が私たちは決定されているという考えを必ずしも無効にするわけではなく、おそらくさらに効果的なモデルを見つけるかもしれないということです。
それは必ずしも私が一番好むモデルではありませんが、論理的に考えると、そこに到達するためには決定論的または確率論的と呼べる民主主義、つまり私たちが選択の自由を持っていないという事実に基づく民主主義だと思います。
説明しましょう。人工知能を備えたシステムを想像してください。私たちのデータを取り、既にソーシャルネットワークやコネクテッドワールドで一部行われているようなことです。このデータにより、私たちはより効果的に予測できます。私たちが決定されていると仮定すれば、それはデータの捕捉と計算能力の問題です。個人に関するデータが多ければ多いほど、より正確なビジョンを持ち、彼らの目標や欲望を達成するのを助けることができます。
民主主義の大きな問題は、政党があり、政党が市民の声を歪めることです。一人の政党や候補者に500万人の有権者がいるかもしれませんが、その人は各有権者の唯一の声を代表しているわけではありません。大まかな合成、一種の一般的利益を作る必要がありますが、声には大きな歪みがあります。
人工知能は、一種の直接民主主義と個人化を取り戻し、各人の声を考慮に入れることができるかもしれません。もはやピラミッド型のシステムを通過する必要がないからです。各声を源から取ることができ、それは明示的に表現されるか、生活様子、ストレスレベルなどから推測することができます。市民の声の歪みを回避するための地図を作ることができます。
フランスで黄色いベスト運動があったとき、有名な「苦情の本」がありました。すべての不満を収集し、何十万もの提案がありました。その後何が起こったかというと、人工知能がすべてを取り、主要な傾向や大きなニーズを識別しようとしました。10の提案が出されましたが、それらは全く従われませんでした。しかし、それは人々の声を歪める大きな仲介者を通過する必要がなく、基盤から再出発し、各人の利益をすでにシミュレーションに考慮に入れた上で最良の解決策を探すことができると言う最初のステップでした。
結局、大手テクノロジー企業が私たちのことを私たち自身よりもよく知っているなら、なぜ私たちの選択を彼らに委任しないのでしょうか？もちろん、彼らが私たちが本当に望むことに基づいてそれを行うという条件付きですが、今のところそれは本当の場合ではありません。彼らはむしろ自分たちの利益を最大化しようとしています。明らかに、一般的な利益のためであるという条件付きで、私たちは同じことを民主主義についても言うことができます。政治家が一般的な利益のために働くことは重要です。
したがって、そのようなことを行う政治システムはまだなく、大企業はそれを個人の成長の利益ではなく、全く異なる利益で行っています。明らかに、操作のシステム全体があり、それが大きな危険です。私たちが知らないうちに操作され、人間の反応の機械的操作を行うことができる可能性すべてです。私はこの言葉を使います。なぜなら、それはサイバネティクスの到来の初期、1948年に出た記事だからです。
フランスの論理学者デュバルルがそれを言いました。彼は、以前は人間に予約されていたタスクを実行できるシステムを見ていると言いました。特に書くこと、計算すること、チェスをすること。そして最終的に彼は考えました、言語を翻訳することなどもできるのではないか、そして政治的チェスプレイヤーを持つことはできないのか、人々を導き、最終的に人間が行わない最後のタスク、つまり統治を委任することはできないのかと。
彼は言います、それは非常に複雑です。なぜなら、人間は予測不可能であり、本質的に確率的だからです。この人工知能（彼はそれをそのように呼んでいませんが）がどのようにして「人間のゲーム」に勝つことができるのか。彼は言います、二つのことをする必要があります。それが私たちの時代と共鳴するところです。彼は言います、人間の行動を単純化する必要があります。より予測可能にするためです。そのために二つの選択肢があります。
一つ目は、行動がますます単純化された大衆行動である社会を作ることです。これにより、個人的な例外が減少し、不確実性の部分が減少します。
二つ目の選択肢は、人々自身がゲームの指導者、この人工知能に自発的に従うことです。なぜなら、それから利益を得るからです。Google マップやアプリ、推奨事項、これらすべての提案に従うのと同じように。私たちは自発的に従い、そうすることで行動も単純化され、最終的にこの社会工学が可能になります。これは明らかに自由の反対ですが、より哲学的な問題は、自由と快適さのどちらを好むかということです。
自由とは、自己決定し、自律的で自由ですが、必ずしも幸福や福利を見つけるわけではありません。自由は探求でもあり、誤りであり、さまよいです。あるいは、私たちを安定させる習慣の中で快適さを好みますか？自由の不安は少なく、物質的利点があり、Netflixで良い映画を見ることができます。何も大したことは起こりませんが、システムから出たいという意欲を中和します。
私たちは自由の不安定さと幸福の快適さのどちらを好むのでしょうか？これがオルダス・ハクスリーの『すばらしい新世界』のテーマです。この反ユートピアで衝撃的なのは、人々が満足していて、自由に戻りたくないということです。小説では、自由は混沌、戦争をもたらしたと明確に示されています。自由の考えは衝突が多すぎます。幸福を見つけることは、おそらく人々の究極の目標であり、自由はただその幸福、その福利に到達するための手段に過ぎません。
現在の状況や傾向を続けると、大手テクノロジー企業が自由意志をすべて奪い、私たちの存在を決定するが、それを私たちの福利のためではなく自分たちの利益のために行う社会に陥る危険はないでしょうか？
はい、私はスピノザに少し戻りたいと思います。彼は最善の統治形態について少し考えました。彼は非常に機械的な哲学者で、起こることはすべて決定されていると考えました。結局、何が人々を従わせるのか、あるいは従わせないのか？それは苦しみに対する耐性の閾値です。あまりにも不快感があり、暴君や政治体制の利益が個人の利益とあまりにも矛盾する場合、それはとても大きな緊張を生み出します。現代のサイバネティックな言語で言えば、ホメオスタシス（恒常性）があまりにも壊れていて、そこで動きが生じます。
しかし、エンジニアリングによって閾値を見つけ、ストレスゲージをいくつかの技術で少し減らすことができれば、システムは自由を奪い、より大きな成長の可能性を妨げますが、恐ろしいことに、この状況に気づくことさえできなくなるかもしれません。私はこれに完全に同意します。
それを強調するかもしれないのは、先ほど話していた物語の終わりについてです。結局、私が見るのは、今日の物語がかつてないほど強いということです。私たちはすべてが終わり、完全なポストモダニティにいるという考えの中にはいません。反対に、大きな分裂があります。ドナルド・トランプの復帰とそれが生み出す熱狂はすべて物語の戦いです。
新しいのは、これらの物語が計算によって支えられているということです。なぜなら、それらをウイルス的にし、人々を標的にして操作する方法があるからです。物語のウイルス性や効果を高める方法はすべて、エンジニアリング、計算、アルゴリズムによるものです。
これはジュリアーノ・ダ・エンポリが言ったことです。彼は『クレムリンの魔術師』と、その前に『混沌のエンジニア』という本を書きました。彼はイタリアでの五つ星運動の台頭を分析し、それを可能にしたのはアルゴリズムだと説明しています。彼は言います、リーダーにアドバイスしていた広報担当者や文学者は、物理学者や数学者に取って代わられました。彼らが象徴的言語を支えていますが、象徴的言語それ自体はもはや広がることができません。技術的サポートが必要です。これにより、技術のサポートを受けたより爆発的でより強力な物語が生まれます。
GPTを使うとき、私たちはそれが言葉だと思いますが、それは計算によって支えられた言葉です。だから今、計算が背後にあり、計算が物語を支えています。結局、私たちは完全にプログラムされ、技術化され、計算可能な社会に向かっています。なぜなら、それがより効率的で、より予測可能にし、目標に達しやすくするからです。それが機能しなければ、私たちはそこにいないでしょう。それは目標を最大化します。
私たちがそれほど脆弱ではないことを示すのは私たち次第ですが、実際、手段が発達し、より洗練されるほど、私たちはより脆弱になっています。これは、私たち自身がこれらすべての決定論に敏感であることを示す傾向があります。もし私たちが本当に自由で合理的で自己決定できるなら、ソーシャルメディアにそれほど敏感ではないでしょう。今日の若者の平均は、ソーシャルメディアに1日4時間費やしています。なぜなら、それらは認知バイアスや依存症の巣だからです。
だから、自由であることを示すのは私たち次第ですが、大規模に見ると、それは容易ではないことに気づきます。私も含まれています。
結局、この自律性の喪失はあなたが嘆くことですか？
嘆くかどうかは、何を求めているかによります。私は啓蒙思想の産物なので、もちろん、私は時代に根ざしていることをよく認識しています。しかし、物事は変わると正直に言えると思います。もし私が中世に生まれていたり、リヨンの機織り職人に反抗したカニュだったりしたら、おそらく私も「これは良くない」と言っていたでしょう。だから私はこれが良くないとは言いません。これは変革です。私たちが注意すべきは、この変革が、たとえ自由、自己決定するという考えを失ったとしても、私が重要だと考える価値、知性、情報、意識の発展などの最大化につながるようにすることです。もしそれが私たちを閉じ込め、支配や野蛮といった卑劣な人間的利益に仕え、今日私たちが克服した状態に戻るならば、私は憤慨するでしょう。
しかし、私が進化してきたパラダイムが放棄の段階にあることを認識しています。強制的であり、自発的でもあります。つまり、これらの決定論に抵抗するには私たちの脳は十分に装備されていないので、選択肢はありません。同時に、粗野に言えば、私たちは自由にうんざりしています。
だから、私たちの生活のアルゴリズム化に反対すべきでしょうか？抵抗すべきでしょうか？
ソーシャルメディアや広告の閉じ込めに関しては、それはビジネスモデルの問題であり、アルゴリズム自体の問題ではありません。非常に有益なソーシャルメディアもあり得ます。それは何を目的としているかです。注意を引くモデルは、それだけを目的としています。それは、何時間もスクロールして過ごす間に失われる大きな生活の欠如です。他の存在に対して私たちはあまり存在していません。
セネカの背景哲学として、ルキリウスへの最初の手紙、とても美しいテキストがあります。彼は言います、私たちはいつも明日または将来に来る死を恐れています。それは私たちを心配させ、不安にさせます。彼は言います、それを考えるのをやめましょう。それが最も深刻なことではありません。最も深刻なのは、私たちの後ろにある死、過去にある死です。それは、自分自身に存在していなかったすべての瞬間、逃した機会、そこにいなかった瞬間、自分自身に不在だった瞬間によって特徴づけられます。これらは永遠に失われた自分自身の小さな死です。だから、世界に存在しましょう。
だから、ソーシャルメディアに関して話していますが、ビデオを見て2時間を無駄にする依存ループにはまっているとき、そこには自己の小さな死があり、生きる機会を逃しています。これがアルゴリズムですが、アルゴリズムは基本的に目標達成をより効率的にします。だから、もし人間の能力の展開、知識の探求といった別の目標を持つことができれば、これらは私が好む価値ですが、そこに署名します。たとえ自由が少なくなっても、少なくとも自由意志をもはや信じなくなったとしても、それはむしろ救いになり得ると思います。
なぜなら、自由意志はまず罪悪感を生み出し、多くの人がその状況に苦しんでいるからです。「これは私の責任で、どうすればいいかわからない」。実際、それは必ずしも彼らの責任ではなく、環境や生物学など、多くの要因が私たちの在り方を説明しています。個人の自由な選択にすべてを帰するのではなく、成功した起業家だけが「私が望んだとき、私はできた」と言い、生存者バイアスがあります。成功しなかった人たちは、成功していないだけでなく、罪悪感も感じ、「私はダメだ」と思います。
今日、集団的解決策を必要とするより大きな問題があります。例えば、環境危機について、「廃棄物を個人的に分別し、努力し、生活様式を変えるのはあなたの責任です」と言われると、それは非常に個人的な努力を要求します。習慣、文化、また単に面倒くさいという気持ちがあります。ゴミを分別するのは面倒です。それはすべて個人に大きな責任を負わせますが、「実際、私たちは本当に自由ではなく、問題は体系的に解決される」と考えるなら、それははるかに適切です。
だから、この個人の過度な責任化、個人の罪悪感化も、この新しい文明とともに終わるかもしれません。それは全体的に良いことだと思います。私はこの文明をまだ知らず、その文明の産物である私にとっては違和感を感じるかもしれませんが、それは個人に現在のような重荷を取り除くと思います。それは人々を意思決定に導き、選択を委任することになり、これは世界に意味を与えるものです。
これが伝統的社会、過去の社会でさえ、そのような理由なのです。以前は生活条件がはるかに悪かったと言われ、それは事実です。生活条件は恐ろしいものでした。しかし、それらは他律の社会であり、人々は苦しむかもしれませんが、意味が与えられていたので存在的不安はありませんでした。「そういうものだ、誰もがそうしていた」。意味は与えられており、それが重要です。物質的な快適さが非常に高くても、意味が与えられなければ、心理的な苦しみははるかに強いです。そのため、今日のヨーロッパでは、例えば新自由主義がひどいと言って多くの人が憤慨していますが、物質的には過去最高です。しかし、意味の喪失があり、そのために私たちは居心地が悪いと感じています。
お聞きいただいていることに少し休憩を入れさせてください。このポッドキャストは収益を生み出しておらず、各エピソードごとに私は少しずつお金を失っており、私の貯金は徐々に枯渇しています。プロジェクトの継続性を確保するためにご支援いただける場合は、Tipi、PayPalまたはPatreonで財政的にサポートしていただけます。リンクは説明欄にあります。
サナギの中の芋虫社会と蝶社会の間、サナギの中の液状社会についてのあなたの比喩に戻りましょう。この変化は比較的ポジティブだと言えるかもしれません。少なくとも一般的な想像力においては、芋虫は蝶より評価が低いです。これは種を差別する立場かもしれませんが、それが一般的な見方です。だから、私たちが向かっている社会は蝶の社会かもしれませんね？
はい、注意が必要です。例えば、サナギに寄生虫が卵を産むと、美しい蝶ではなく、恐ろしいハエが出てくるかもしれません。それは望ましくないかもしれません。
私はこの比喩を使いました。なぜなら、芋虫の遺伝的運命は蝶に変わることだからです。そして、人権や啓蒙思想の運命は、自由意志を否定することになるこの文明に変わることですが、それはまたトランスヒューマニストでもあります。なぜなら、啓蒙思想の哲学の初めから、人間の完全性という重要な考えがあるからです。人間は進歩に向かい、人類を改善します。
啓蒙思想の哲学では、この進歩は理解力、理性、教育などの重要な要素によって行われます。しかし、同時期に、コンドルセという啓蒙思想の象徴的な哲学者がいました。彼は自問しました、「人類の軌道を改善するためにどのようなツールがあるだろうか？」彼はそのすべてについて話し、その後、「私たちがまだ何もしていない別のものがある、それは人間の自然な基質だ」と言いました。もし私たちがこの人間の自然な基質に介入し、改善することができれば、より良い人類を持つことができるでしょう。
彼は時代に先駆けて、生物学はまだなかったものの、「犬を交配して最も忠実で知的な犬種を得るのと同じように、もし人間に対してもそれができれば、それをすべきだ」と言いました。だから、結局、啓蒙思想は私たちをトランスヒューマニズムに導きます。それは単に別の手段による啓蒙思想の追求です。教育、道徳などに、技術、人間の基質、遺伝学、神経インプラントなど、この効率性を高め、自然な手段（教育や理性）に制限されないすべてのものを加えます。
大きな問題は、誰かが死ぬと次の世代ですべてやり直さなければならないことです。だから、もしこの種のことを遺伝的に刻むことができれば、それは望ましいことです。これが芋虫が蝶に導かれる理由であり、この不変性を考えると、私たちがそこに到達するのは完全に論理的です。
そのため、トランスヒューマニズム、科学と技術を通じて人間の生物学を改善すべきだというイデオロギーは、それほど新しいものではなく、数十年、数百年前から見られる動きの延長線上にあるということですね？
はい、絶対にそうです。18世紀末にすぐにこれらの質問が生まれました。優生学、出生選択とともに。エマニュエル・カントもコンドルセも18世紀末にそれについて話していました。それは単に当時利用可能な手段の問題でした。その時代には、現代科学はまだ比較的新しく、これらの大きなイノベーションはまだありませんでした。
続けましょう。優生学、つまり出生選択は他の技術と同様のテクニックです。トランスヒューマニズムはそのプログラムに優生学の問題を持っています。ダーウィンが登場したとき、特性の伝達があることに気づき始めました。遺伝コードはまだ発見されていませんでしたが、初期段階でした。19世紀末から20世紀初頭にかけての進歩的な動き、つまり啓蒙思想の継続である左派は全員が優生学者であり、人類の運命を改善したければ、出生に取り組み、親を選別して存在を良い方向に導くべきだと言っていました。
それは驚くべきことです。なぜなら、優生学と言えば、一般的にヒトラーやナチズム、極右のイデオロギーをすぐに連想するからです。
そうです、その通りです。それについては多くは語られていません。進歩的な左派の動き、ダーウィン家族のハクスリーなど、これらの人々は人類の未来を考え、「精神病患者や大酒飲みがいて、彼らが再生産すれば、社会にとってコストになる。より劣った子供を生むだろう」と考えていました。そのため、上流で行動した方が良いでしょう。
アメリカのカリフォルニアは、実際に適用された最初の優生学法を持ち、ナチスはそれにインスピレーションを受けました。これは1930年代にアメリカで起こり、その後も続きました。スウェーデンでは1996年まで続き、合計20万人が去勢され、生殖が妨げられました。彼らは不適格と判断されたか、社会にとって障害になると考えられた人々でした。
ナチズムはこれを取り上げましたが、私たちが知っている基準で国家によって課された別の価値観のための技術として使いました。これにより優生学に大きなタブーが生まれ、ページが完全に閉じられました。そのため、今日優生学について話すとすぐにナチズムを連想しますが、今日の自由主義社会では、優生学の復活がありますが、はるかに控えめで、あまり認められていませんが起こっています。
例えば、ダウン症だけを取り上げても、胚の時点で、体外受精でさえ、または最初の数ヶ月での中絶、様々な理由があり批判しませんが、事実上私たちは優生学の中にいます。なぜなら、優生学とは「良い」（eu）「誕生」（genesis）を意味するからです。ダウン症という基準では、それは良い誕生ではないので、排除します。その後、心臓の問題や重い遺伝的疾患などの基準もあり、胚を排除することもできます。
今日、優生学は「自由主義的優生学」と呼ばれる形で戻ってきています。国家があなたに何が良いか悪いかを言うのではありません。国家はダウン症の場合、診断が無料なので勧めることはできますが（無料だと知ったらより難しいですが）、しかしそれは親の価値観によるものです。もし私の価値観によれば、私の子供にとって良い人生であり、成功する機会を最大化すると判断すれば、それが男の子か女の子かというのは最初のことかもしれません。あるいは、体外受精の50個の胚の中で、多遺伝子スコアでIQが最も高い可能性がある胚を選ぶかもしれません。なぜそうするのか？私が既に子供に優れた私立学校を払い、音楽院に通わせ、本を与え、成功の機会を最大化しているなら、遺伝的なブーストがあれば取るでしょう。
アメリカでの有名な研究がありますね。アメリカ人に、この診断が子供を少し賢くし、アメリカの主要大学に入る機会を3％から5％に増やすかどうかを尋ねました。38％のアメリカ人がこのテスト、最高のIQをとるために同意すると答えました。
38％はかなりの数ですが、それほど大きくもありません。しかし、質問はそこにあり、この研究を行った人々は体外受精と比較しました。1970年代には、95％のアメリカ人が反対していましたが、法律が通過した2年後には実際に80％が賛成していました。結局のところ、社会的なカチッという音、受容性があります。人々は慣れていき、それが受け入れられるようになります。
今日、アメリカにはEliospecta Genomicsというスタートアップがあり、最もIQポイントが高い胚を選ぶために5万ドルを提供しています。彼らはIQポイントを6ポイント増加させることを約束しています。それが機能するかどうかは明らかに確率の問題ですが、科学への信頼は高まっています。それはアプリの場合と同じです。ChatGPTに推薦してもらうか、自分自身を信頼するかという問題です。私はそれを信頼するか？常にそれだけの価値があり、失うものはなく、優生学は私たちの社会でより広がると思います。
唯一の抑制要因は明らかに倫理です。これが全体的な文脈を理解する必要がある点です。どのような倫理に基づいて反対するのか？自由主義社会は「他者を害さない限り、すべてが可能」と言います。これは完全に有効で論理的です。自由主義社会はまだユダヤ・キリスト教社会の遺産で、世代から世代へと原則を持っています。「生命は神聖」などがありますが、少しずつこれらは消えていきます。ある時点で、新しい宗教が現れ、タブーや神聖な絶対的なものを復活させない限り、道徳的な歯止めは実質的にないでしょう。生命は神聖さを失っています。30年後、これが一般的に認められる実践にならない理由はないと思います。
ここで興味深いのは、ほとんどの傾向と同様に、これらは既に始まっていることです。この場合、それは性行為と生殖の区別のある種の頂点を意味します。この二つはもはや必ずしも結び付いていません。
そうですね、それがまさにそうです。生殖は徐々に性行為から分離されています。より大きなスケールで見ると、最初は結婚のための生殖があり、それは義務でした。例外はありましたが、人々は結婚しました。次に、結婚は生殖から分離されましたが、性行為はまだ生殖行為でした。その後、避妊によって性行為が生殖から分離されました。
今日では、様々な理由で、主な理由の一つは、個人主義社会の条件のため、生殖が遅れています。女性もキャリアを持ち、年齢が上がります。当然、より快適な物質的状況を持ちたいと思います。今日、家族がより分散し、住居がより小さいなどの環境での子育ては難しいので、人々はより遅く子供を持ちます。
そうすると、妊娠能力、つまり生殖能力は低下し、医療環境に容易に移行します。医療環境では、失われた時間を少し取り戻そうとしますが、また、出生の偶然性を部分的に変えることもできます。いくつかを選択できるため、これはすべて利点があります。年齢が上がることと、出生の偶然がある程度制御できることの両方から。
したがって、はい、私は生殖の制御が可能になるため、長期的にはそれは医療環境にあるだろうと思います。最後のステップは人工子宮だと思います。
私たちが見ている特に興味深いのは、これまでの後見からの解放のこの動きは、今までは主に社会的なものでしたが、今日、私たちは生物学的決定論からも解放しようとしています。これらは社会的な後見と同じくらい個人の自由を妨げるものであり、ただ今まではそれを見たくなかったのかもしれませんね。
その通りです。私にとって、それが本当の重要な点であり、また移行期間を作る理由でもあります。社会的決定論からの解放は、啓蒙思想の歴史であり、左派の歴史です。今日の左派は、私の意見では、人間が白紙の状態であり、社会だけが印を付けるという社会的決定論しかないと考えることで苦しんでいます。ミシェル・フーコーは私たちが制約を内面化する方法について重要な理論家ですが、私たちは社会的決定論の受容体にすぎません。しかし、生物学も明らかに重要な役割を果たしています。
ここで技術が個人の救済に来る素晴らしいツールとなります。なぜなら、究極の限界、そしておそらく究極の不平等は出生、遺伝子コードだからです。どんな家族かというのは社会的なものですが、どんな遺伝的荷物を持っているかも重要です。男性か女性かというのは既に選択肢ではなく、遺伝的に統合失調症である場合もそうです。学業で才能がある人もいて、3歳で自分で読むことを学ぶような超天才もいます。彼らはある分野では成功しますが、他の人は別の才能を持っています。
すべてこれが、もし私たちが本当に平等の中にいたいなら、この問題に取り組む必要があるということです。必ずしもこれらの不平等を取り除くためではなく、それらを考慮に入れるためかもしれません。私たちは何が功績なのかを問う必要があります。もし音楽に才能があり、非常に優れた音楽家になり、本当に努力したことがなく、上手くいくなら、本当に功績があるのでしょうか？あるいはCEOの地位にいる人と、一生懸命働く清掃員を比較したらどうでしょう？努力の点では、清掃員の方が功績があるかもしれませんが、功績はどこにあるのでしょうか？単に社会的地位にアクセスがあり、おそらくお金を稼ぐのに優れているという理由でしょうか？
すべてこれが質問を提起し、技術は限界、現実の恣意性を押し戻します。実際、現実とは私たちに抵抗するすべてのものと定義できます。そのため、技術はそれ自体で悪いものではなく、解放の真の味方です。例えば、車を持っていない場合、車は地理的に解放します。すべての自動化、洗濯機、将来的にはロボットは、仕事から解放するためのものです。技術が多ければ多いほど、物事を外部化でき、現実の障壁が少なくなります。
これはタスクの実行のためですが、私たち自身の限界、つまり生物学的限界についても同様です。死を押し戻す考えは、単に精神性によってではなく、技術によっても行われます。したがって、科学研究の目的は、明らかに不平等や生物学の偶然性を減らし、私たちをますます解放することです。
自由は文化や社会的決定論だけでなく、生物学的、遺伝的な問題でもあります。これはトランスヒューマニズムの中心的なプログラムですが、当然、トランスヒューマニズムはそれを支える思想に依存し、おそらく私たちはそれについて話すでしょうが、それは何よりもまず解放のプログラムだと思います。
この点を展開していただけますか？私にとっては、いくつかのタイプのトランスヒューマニズムがあります。これは私が強調したい点かもしれません。19世紀から現れたロシアのトランスヒューマニズム「コスミズム」のような思想と、テイヤール・ド・シャルダンのように神の作品を継続するために技術を使用する人との間には違いがあります。そこには宗教的価値があり、技術はその価値に仕えています。
ニック・ボストロムの路線に沿ったトランスヒューマニズムもあり得ます。人間の意識を発展させ、情報を発展させ、平等や社会正義の問題のためにも使います。この価値観に技術が仕えています。私はこれに言及していますが、実際、トランスヒューマニズムの背後にどのような価値観があるのかを常に明確にする必要があります。
自由主義的トランスヒューマニズムもあり得ます。他者を害さない限り、各人が望むことができるようにするための技術です。平等と正義のためのトランスヒューマニズムもあり、これにはより強い政治的問題が伴います。
結局、人間の精神の進歩と個人の解放のためのトランスヒューマニズムにとって、技術は明らかに不可欠なツールだと思います。インターネット、ウィキペディア、ソーシャルネットワークなどを見れば分かります。副作用はありますが、知識の開放や、他の方法ではできなかった多くの出会いもあります。自転車が村から人々を解放したのと同じように、技術は徐々に新しい地平を開き、望遠鏡で多くの新しいものを見ることができるように、私たちの知覚の範囲を広げることもできます。長期的には、私たちの意識の範囲は技術によって拡大され、私たちを大きくするフィードバック効果があります。この意味で、トランスヒューマニズムは個人の追求の最終段階と言えるかもしれません。
私はそう思います。それは最終段階ですが、潜在的な罠があります。私の本のサブタイトルが「人工知能の罠」である理由です。なぜなら、技術が個人に解放、自由、個人的進歩などを約束しますが、この約束には代償があります。それは特定のことを委任することです。
私たちは既に肉体的な力を委任しています。その結果、スキルや能力を失います。今日では、もうできないことがたくさんあり、それは私たちを脆弱にします。ダーウィン的な観点では、それは必ずしも問題ではありません。なぜなら、自然選択は環境に応じて制裁を加えるからです。もし私たちが近視でも生き残ることができる技術的なバブルの中にいるなら、それは問題ではありません。システムが崩壊した場合にのみ問題があるかもしれません。
しかし、今日、認知能力がますます技術によって担われるようになっています。私にとって、これは課題です。私たちが失うのは単なる機能ではなく、私たちの個性を形作るスキルでもあるということです。何かを達成したいとき、旅行を例にとりましょう。飛行機に乗り、到着します。準備されたプログラムがあり、ChatGPTに私のことを知っている最適なプログラムを作成してもらうことも可能です。これは実際、旅行を考えている人にとっては素晴らしいアドバイスです。
しかし、徒歩で行き、偶然に任せることもできます。その徒歩の旅では、多くの失望や空白の時間があるでしょう。委任できたであろう多くの中間状況を解決する必要があるでしょう。しかし、それを解決することで、自分自身を知り、小さな決断を下し、自律性を鍛え、脳を動員し、個性や人格が形成されます。自己知識と自己統制において成長します。
したがって、外部化は、ある意味で私たちをむしばみ、より操作しやすく、より柔軟にします。なぜなら、内なる要塞、内なる像が委任によって削減されるからです。これは私にとって重要な要素であり、常に相対化する必要があります。技術の個人にとっての大きな利点の一つは、より効率的に目標に到達することですが、それは共有することによってです。
人間の頭蓋骨のサイズを見ると、3000年で減少しています。記憶では1500cm³から1250cm³に移行しました。つまり、今日の私たちの脳は、そう遠くない祖先よりも小さいのです。彼らは個人的にはより知的だったかもしれません。なぜなら、同時に多くのことを管理する必要があったからです。記憶、状況の知性など多くの要素が必要でした。
今日、彼らは私たちを見て「何と怠惰なのか、小さな幼虫のようだ」と言うかもしれませんが、同時に、私たちは専門化しているのでそれは機能します。それは必ずしも悪いことでしょうか？人間の征服の観点からは、私たちは彼らができなかった素晴らしいことをしています。なぜなら、私たちは共有しているからです。この共有は知識の面で大きな利益をもたらします。私たちは個人的にはより知的ではないかもしれませんが、集合的にはそうです。
もし今日「人間種は素晴らしい、私たちはロケットを打ち上げ、衛星を送り出している」と言っても、個人的には何ができますか？縫うことや、動物を追跡し捕まえることは重要なスキルだったのに、今はどうでしょう？個人的には能力が少ないかもしれませんが、集合的にはより重要で印象的なことをしています。
私たちは大きな物語の消滅の中にいると話していました。既に進行中で、今日、個人は意味を見つけるのに苦労しています。少なくとも、私たち自身の人生に与える単純な意味を超える超越的な意味です。トランスヒューマニズムはこれに対する答えになり得るでしょうか？
はい、皆がそれに同意するかどうかはわかりませんが、トランスヒューマニズムとの同盟であるアメリカで起こっていることが示唆しているかもしれません。トランスヒューマニズムが宗教のようになり、新しい神聖なものを提供するためには、想像力を開き、冒涜されるべき新しい神聖なものを提案する必要があります。大きな謎に取り組む必要があります。なぜなら、大きな謎こそが人々を動かすものであり、謎は重要です。
もし完全に説明され、どこにも行かない環境にいると自分が言えば、おそらく一部の人は「それは良い」と言うでしょうが、一般的に多くの人は「それなら自殺する」と言うでしょう。自由意志についても聞いたことがあります。自由意志は私たちの中に神聖な部分があると言えます。何人かの人と話して、「もしそうなら、私は自殺する」と言われました。なぜなら、意味も謎も別のものもないと感じるからです。
トランスヒューマニズムは謎を提案し、2.0バージョンでキリスト教を更新しているとも思います。なぜなら、いくつかの奇跡が提案され、いくつかの大きな探求があるからです。天国の王国に入るという考えに代わり、宇宙の征服があります。それは同じ考えで、空に向かって行き、それは未知です。その後ろに何があるのかはわかりません。それが動きを促進します。
明らかに、魂の考えとかなりの親和性を持つたくさんの約束があります。意識をダウンロードし、私たちの物質的な支えが私たちではないという考えです。ダウンロードでき、物理的ではなく情報として一つの場所から別の場所に瞬間移動できる可能性があります。これはすべて、私たちを超えて生き続ける魂、今回は意識と呼ばれるものの感覚を与えます。トランスヒューマニズムではよく意識について話します。
そして多くの奇跡があります。麻痺した人を再び歩かせるという、マスクが神経インプラントで提案していることです。盲人が視力を取り戻すこと。また、物体の瞬間移動のような奇跡もあります。脳機械インターフェースを考えると、それは既にその一形態です。マウスを遠隔で操作できます。これは、私たちが知っていた物質の法則が無効になるという考えです。これらすべてが一連の奇跡や要素を形成し、アメリカで非常に現在もなお強いユダヤ・キリスト教の想像力に訴えかけます。
これを提案することで、「さあ、再出発だ」と言うような新しい推進力になり得ます。私が観察していることは、最近のアメリカを除いて、イーロン・マスクのスピーチを聞いて、彼はケタミンを服用したように見え、目が回っていましたが、「朝起きて気分が良い」と言いました。彼は会議の前に言っていたのですが、「目標があり、遠くにあるものがある」と言ったのです。彼はおそらく火星や何かについて話していたのだと思いますが、超越、新しい超越によって動かされていると言っていました。彼はそれを非常に明確に言い、観客は熱狂的でした。
しかし、例えばヨーロッパでは、人々がこの新しい宗教を取り入れているのは見ていません。宗教の可能なすべての要素を見ていますが、ダーウィン的な観点から、アイデアの世界でそれが選択されるかどうかはわかりません。今日のヨーロッパでは、街を行進して言う人は見ていませんが、スマートフォンを頭に乗せてこのテクノロジーの製品とともに街を行進し、人々は互いにぶつかっています。
興味深いのは、今日の私たちの価値観モデルでそれをどうするかを見ることです。自由主義モデル、自己解放の追求、そしてその背後にある罠です。この解放の背後には、新しい後見、新しい依存があります。結局、これらの私たちが自律的であるという私たちの初期の目標を無効にするオブジェクトでいっぱいになることで、私たちの解放の原則そのものを無効にしているのです。
技術が到来したとき、人々はこの新しいトランスヒューマニスト規範を受け入れるでしょうか？それらは非常に魅力的だと思います。通常、健康というトロイの木馬を通じて到来します。既にパーキンソン病の症状を減らすことを提案されている場合、これはすべての人に有効な治療法ではなく、パーキンソン病患者の約30％が適格だと思いますが、チップがあり、iPadで調整すると震えが止まります。これは既にトランスヒューマニズムの一形態です。
その後、遺伝子選択によって子供の誕生を選ぶことができたり、より長く、より若く、より長く生きることができたりする場合、基本的に皆がそれに殺到するでしょう。「いいえ、決して、死こそが人間の尊厳を作るものだ」と言う人は、おそらく合理化しているのでしょう。私たちは死ぬものだから、理由を探します。しかし、もし私たちが非常に長く生きることができれば、単に人間の尊厳が死であるという理由で拒否するでしょうか？死なない選択肢が与えられれば、死なないことを選ぶと思います。もちろん、各自の歴史や病気、痛みに固有の苦しみを除いて。
しかし一般的に、トランスヒューマニズムの最初の大きな約束は、生物学的な最初の大きな境界の一つである死を廃止することです。もしそれを押し戻すことができれば、皆がそれを望むでしょう。その後、それは恐らくインプラント、チップなどのツールを通じて行われるでしょうが、この生物学的救済の名の下に、データを収集し、人間の行動の機械的操作が可能になります。それが私の懸念です。
答えはわかりませんが、トランスヒューマニストではないと言う人たちでも、私も抵抗を持つかもしれませんが、生物学的に私を悩ませるものに対する治療法が提案されれば、私が最初に採用するでしょう。
宗教が千年の間約束してきたすべてのことが、技術によって具体化されつつあるということですね？
はい、約束は確かにそうですが、宗教は来世を約束し、トランスヒューマニズムはその反対です。それは自己超越であり、この世界の中で自分自身を高めることです。したがって、以前存在したような宗教を必要としなくなります。救済はこの世界の外ではなく、この世界の中にあると言います。これは、科学が宗教やキリスト教の大きな物語を壊した文明における答えかもしれません。
今日、フランスでカトリックの実践者の数は12％だと思います。1世紀前は80％でした。では、どんな土地に新しい推進力を築くのか？社会的に受け入れられるためには、トランスヒューマニズムが仏教や少しニューエイジの宗教、かなり機械的な精神性と親和性を持つ理由の一つだと思います。それらは原子、循環であり、奇跡を起こす神の介入は必要ありません。それらは自然の法則です。したがって、科学と互換性のある宗教は、私の意見では重要なものを見つけるでしょう。
アメリカではプロテスタントや福音派が非常に存在しています。彼らを分析していませんが、興味深い要素の一つは、プロテスタンティズムには予定説、つまり決定論の考えがあることです。私たちは決定されています。しかしそれは、自己超越を考えることを妨げません。反対に、決定論的であると考えることは、イニシアチブや正義、解放などの進歩の障害にはなりません。
これらの技術を誰が制御するかという統治の重要性があります。誰がそれらを設計するかによって、急進的に異なる世界を持つことができます。これはジョルジュ・ベルナノスが1947年に書いた『フランス対ロボット』というテキストを思い出させます。彼は非常に単純なことを言っています。技術は力の増幅器に他なりません。
昔、戦争中に究極の野蛮人、大きなひげの犯罪者がいて、犯罪者の人間的資質をすべて持っていました。そのような悪者は10人を殺し、それは血なまぐさかったでしょう。そして彼は野蛮人と見なされました。その後、小さな口ひげを捻った非常に品位のあるイギリスの戦闘機のパイロットがいて、飛行機に乗って15,000人を爆撃し殺し、夕方に家に帰り、妻に会う紳士でした。しかし、最も影響を与えたのはパイロットです。
彼が示しているのは、技術が力の効果を増幅するだけでなく、推進力を増幅するということです。これは認識することが重要です。価値観があれば、効率性はその価値観をほぼブルドーザーのように執着的に達成します。私たちは「これは望んでいなかった」と言いながら、その価値観の効果を目の当たりにするかもしれません。これは人工知能の整合性のすべての問題です。
そして、力の増幅器のもう一つの側面は、非常に重要ですが、責任の軽減です。行動を媒介する技術があると、血まみれの手を持たず、それほど責任を感じません。これは動物の原因に関する問題です。菜食主義者になりたくない人々の大きな議論の一つは、技術がすべてを媒介したということです。彼らは包装された肉を料理するだけで、動物を見ません。動物を見て食べることは別のことです。なぜなら、それは直接的な関係を含むからです。
遠くにいる時に肉を食べることは、責任を軽減します。なぜなら、動物を見ないからです。これは心の変化をもたらす主な理由の一つだと思います。実際に動物を見る人は、より敬意を持って少なく食べるか、完全に嫌悪します。それは起こります。
あなたは自由意志について友人と議論したり、もし自由意志がなければ自殺する方がいいと言ったりすることがあると言いましたが、それは形而上学的な自由意志と日常生活でのより具体的な自由意志の間の混乱から来ているのではないでしょうか？
結局、個人として日常生活において、決定を下す度に一種の魔法が働き、すべての決定論から逃れることができるという知識は本当に重要なのでしょうか？重要なのは、より具体的な自由ではないでしょうか？
例えば、ロシアで同性愛の権利のために闘っている同性愛者に対して、「同性愛者である権利があるかどうかは重要ではない、いずれにせよあなたは決定されている」と言うことに意味があるでしょうか？形而上学的な自由意志と日常生活でのより具体的な自由意志を区別する必要があるのではないでしょうか？
はい、自由意志の問題は哲学的にははっきりしていません。いくつかの選択肢があります。一つは単に望むことをすることです。例えば、ロシアで同性愛者であることです。私を殺す法律があるかどうかが問題です。同性愛者であることが選択かどうかは、重要ではないかもしれません。重要なのは、それを生きることができるかどうかです。決定されているかどうかは別として、それができるかどうかです。これが最初のポイントです。
二つ目のポイントは、決定を下すとき、自分の意志に従って合理的に下しているかどうか。最善のことに従っているか、すべての選択肢を見たか、よく計算したか、それとも認知の落とし穴や影響によって操作され、間違った方向に行っているのか。この自分自身の核を見つけることは重要です。
そして、この形而上学的な自由意志の問いは、すべての人ではないにしても、多くの人にとって重要だと思います。なぜなら、それは自分自身の主人であるという一種の方法だからです。つまり、私たちの脳が私たちに代わって決定していないということです。これは非常に不安を引き起こす可能性があります。一方で、私たちは自分自身であることを支配し、自分の思考を支配し、自分自身の操り人形ではないという感覚です。
リベットの実験があります。1983年のものですが、人々に意識的に自分の意志で右か左の指や腕を上げるように依頼します。そのとき、前もって電気信号が来て、何が行われるかを予測できることがわかりました。今日では、実験的状況で最大10秒前に何が行われるかを予測できます。これは、私たちが自分の選択のエージェントではないという考えの重要性を示しています。
ここで、二つの混乱があります。まず、もし私たちが形而上学的に自分の思考、望むことの創造者であれば、それは安心感を与えるかもしれません。なぜなら、すべてが物理法則に還元されるわけではなく、謎があり、考えることを可能にするものがあり、自分の死後も生き残る可能性があり、少なくとも今日の物質世界に還元されないという考えだからです。これは生きるために本当に有用な信念かもしれません。これが最初のポイントです。
二つ目のポイントは、形而上学的に自由に選ぶことと意識の間で混同される可能性があります。これは、私が議論したい議論です。意識はそれ自体で決断のエージェントなのか、それとも単なる創発現象なのかという問題です。
ここで私は神経科学の進歩に基づいていますが、これらは常に進化する可能性があります。現在の状態では、特にナクシェ氏の研究がありますが、意識は決断のエージェントではなく、複雑な行動を解決するために異なる脳の部位を統合する現象であることを示しています。つまり、それは情報処理の現象であり、決断のエージェントではありません。
ここに混乱が生じる可能性があります。「私は自由だ」と言うとき、多くの場合「私の意識が決断する」と言います。そしておそらく最も眩暈がするのは、「もし意識が決断していないなら、自分自身の物語をどうするのか」ということです。意識の中断状態があることを知っています。常に非常に意識的であるわけではありません。先ほどから話している間、時々自動操縦状態だったかもしれませんが、私の脳はそれを行い、多かれ少なかれうまくいきました。
意識は決断のエージェントなのか、もしそうなら、人工知能が意識的かどうかを考えることがなぜ重要なのかという問いがあります。意識は情報を処理する現象にすぎず、何かをする意欲ではないからです。それは特定の情報を処理する方法にすぎません。これは私が提起する問題です。あなたの見解はいかがですか？
私は人工知能における意識は重要だと思います。おそらく、それが意識が実際に選択に影響を与えるかどうかによるものだからです。今日まだ大きく未決定の問題です。意識の科学はまだ初期段階です。
しかし、私にはそれが道徳的観点から絶対的に重要だと思います。だからこそ、人工知能が意識を持つことができるか、あるいは今日既に意識を持つ人工知能があるかを調査することは、非常に真剣な問題だと思います。これは大科学者によって研究されています。例えば、ヨシュア・ベンジオは数ヶ月前にこれに関する論文に参加しました。彼らは今日の人工意識について知っていることの巨大な合成を行いました。彼らの結論は、それについて考えることが完全に愚かだということではなく、反対に、それはますます関連性があり、道徳的観点からおそらく重要性を持つということです。人工知能が意識を持つようになれば、私たちの道徳的サークルに含める必要があるのではないでしょうか？
そうですね、そしてこれは自由意志にも基づいた議論全体です。もし私たちが自由でなければ、あるいは意識していなければ、私たちは責任があるのか？自由意志と意識の間にはある種の混同がありますが、もし私たちが本当に決断のエージェントではなく、プログラムの実行者に過ぎないなら、責任があるのでしょうか？
これは潜在的に可能であり、裁判で責任なしに正義を調和させる方法が考えられています。裁判で何が起こるかというと、大まかに言えば、生物学的決定論の部分が考慮されます。精神的な病理や統合失調症など遺伝的なものがあるかどうか。社会的決定論があるかどうか。3歳から虐待され、極度の貧困の中で育ち、結局同じことを繰り返すことになったのか。そして犯罪がありました。
これらを考慮して、この生物学的・社会的決定論の津波に対して、別の選択をする意識や自由意志はどの程度あったのでしょうか？もし別の選択ができなかった、あるいは非常に難しかったと判断されれば、おそらく私がしたことに対して3年の禁固刑になるでしょう。反対に、パリの16区の裕福な家庭に生まれ、父親は投資家で、優れた遺伝子コードを持っている場合、同じことに対して「生物学的要因0％、完全に正気、社会的要因0％、100％意識と自由意志、15年の禁固刑」となるでしょう。
では、自由意志がないと仮定したら、どうするのか？ここで私が非常に興味を持っているスピノザという哲学者がいます。彼は様々な運動、特に自己啓発で頻繁に引用されています。しかし、スピノザを文字通りに解釈すれば、彼は私の意見では私たちの時代を最もよく理解した人です。なぜなら、彼の『エチカ』には「人間を物語として語られるように見るのではなく、実際にあるがままに見る」という文があります。彼は「人間の行動や態度を、まるそれらが線や平面や物体であるかのように考える」と言います。つまり、データを取り、数字を見て、計算するということです。
スピノザは、それに基づいて、すべてが幾何学的だと言います。私たちの情熱は、彼が前もって見ていなかったとしても、遺伝的影響や社会的影響があり、すべてそれは機械的なものだと言うでしょう。もしすべてが機械的なら、私たちは責任があるのでしょうか？スピノザの重要な文として「自由とは私たちを決定する原因の無知に過ぎない」があります。つまり、自由と呼ばれるものは、私たちを決定する原因の無知であり、真の自由とは私たちの本性が最も展開されるように行動することです。
例えば、木を食べることが私を病気にするなら、私の自由はそれをすることではありません。反対に、私に良いものを食べることは、私の充実に貢献します。自由とは、自分自身を知り、良い決定論を選択することです。それは自分自身のプログラムをよく知ることを前提としています。
彼はショルに宛てた手紙で例を挙げています。犯罪を犯した人を想像してください。すべての法律、もし犯罪を犯せば懲役や制裁があるという枠組み全体にもかかわらず、それでも犯罪を犯してしまう場合、つまり決定論が十分に決定せず、それでも犯罪を犯すなら、その人は道徳的に責任があるのでしょうか？
彼は言います。実際、その人は道徳的に責任はありません。なぜなら、それはすべて幻想であり、無知に与えられた名前に過ぎないからです。しかし、彼は因果的に責任があります。彼がそれをしました。そして狂犬病の犬が誰かを殺すと、犬を殺します。同様に、彼も殺すか制裁する必要があるでしょう。彼はそう言いますが、私は詳細を知りません。
なぜそうするのか？まず、彼は他者にとって危険だからです。社会を保護する必要があります。また、これらの法律を設けることで、他の人々が同じ行動をとらないよう決定づける枠組みを作ることができます。これは議論の余地があり、それほど単純ではないかもしれません。アメリカでの死刑に関する研究では、死刑が十分に抑止力にならないことを示しています。おそらく他の決定論に働きかける方が良いのかもしれません。
結局のところ、個人を道徳的に責任を負わせるよりも、その人の決定論に働きかけることで問題を解決できるのです。つまり、犯罪を犯した人がいて、道徳的に責任がないことを知っていても、因果的には責任があります。長い裁判の代わりに、刑務所に入れ、その後できるだけ社会復帰させるように変化させます。これは「時計仕掛けのオレンジ」のような恐ろしいことかもしれませんが、実際に刑務所で既に行われていることです。社会復帰プログラムとは何でしょうか？それは人を更生させ、「あなたがしたことは悪い」と非難するのではなく、社会に再統合することを目指しています。
おそらくお金の節約になり、道徳的責任を前提とせずに正義のモデルを維持することは完全に可能です。因果的責任に基づいています。私はアメリカ科学アカデミーの生物学者カサ・シュモトが2003年か2010年に書いた「ルクレティアン・スワーブ」という記事に基づいています。彼はルクレティウスについて話しています。なぜなら、それは自由意志を前提とするクリナメンだからです。もし自由意志がなければ（彼が言うように、生物学や神経科学では誰もそれを信じていません）、それは正義を無効にするのでしょうか？彼は、私たちが決断の主人でないとしても、完全に正義と責任を維持できることを示しています。
人工意識について話していましたが、より一般的に、機械では決して可能でないと言われていたほぼすべての能力が次々と落ち、機械化可能になっています。これをどう分析されますか？
私は完全に同意します。私にとって、これは1940年代、50年代のサイバネティクスの時代からの結果です。サイバネティクスという言葉は少し厄介に聞こえますが、ギリシャ語では「kubernètes」、統治、操縦を意味します。これは物事を操縦する科学です。もし効果的に行動を導きたいなら、効果的な行動とは何か？それはできるだけ合理的で、最適化するために、行動全体を通じて操縦される必要があります。
石を投げるとき、その軌道があり、目標を外れるかもしれません。しかし、軌道全体を通じて石が情報を取り入れて自らを導くなら、目標に当たるでしょう。これがサイバネティクスが第二次世界大戦中に対空砲やミサイルの効率性を高めるために生まれた理由です。
兵士が砲で発射するとき何をするか？情報を取り、飛行機が動いているのを見て、飛行機の動きに応じて軌道を変えようとします。これはすべて計算可能であり、そこから世界観が急激に変わります。すべての生物やものごとが、対空ミサイルは自由なのか？何も知らない人がそれを見れば、「すごい、意志を持っている、犬のように」と思うかもしれません。サイバネティクスにとって、違いはありません。それらはすべて、目標達成のために情報を処理するシステムです。すべてのシステムには目標があります。ミサイルは標的に当たること、人間には生存など複数ありますが、最も単純なものの一つは生存です。そして体はいくつかの情報処理モジュールで、最も効率的に目標を達成します。
進化は、目標に到達するためにいくつかの方法があることを示しています。一種の機能主義として、方向を見つけるために目が必要なわけではありません。触角や他の感覚器官もあり得ます。サイバネティクスの思想家たちはすぐに自問しました。「人間はどうだろう？知性とは何か？」それは生存のために問題を解決するためのモジュールかもしれません。
簡単な比喩を使いましょう。プラトンが既に「kubernètes」という言葉を使っていたので、船を取り上げます。船主がいて、船を買った人です。次に船長がおり、船主が「金を見つけてほしい」と言います。船長は「分かった、金を見つけよう」と言い、地図を探し、船主の命令を自分の知性、モジュールで解釈して「ここに行こう」と決めます。それから操舵手に命令を伝え、操舵手は船の操舵をする人に命令を伝えます。そうして徐々に命令、情報が希釈され、各機能が船主の最初の命令という目標に応えます。
サイバネティクスは徐々に言うでしょう。「船を漕ぐ人は自動化できる。結局、彼らは何か魔法的なことをしているのか？」初めは「はい」と言うかもしれませんが、合理性が進むにつれて「いいえ、同じ結果を他の手段で達成できる」と言います。それを自動化し、徐々に鎖を上り、人間のどの部分が魔法的で根本的に非合理的なものに属するのかを見ます。少し作業すれば、同じ結果をより効率的に、より規則的に、より予測可能に得られることがわかります。
サイバネティクスは、人間の天才、本能、感覚、伝達不可能なものを分子レベルに分解し、すべてのステップを取り、より効率的に再構成して複製します。人間の中で、計算や数えることは既に置き換えられました。言語の翻訳も同様です。サイバネティクスの発明者ノーバート・ウィーナーは、最初に翻訳機に取り組んだ数学者ウォーレン・ウィーバーに宛てた手紙で「翻訳機械は絶対にできないだろう」と言いました。
サイバネティクスでは、人間で置き換えられない、または模倣できないと言われるたびに、5年後には最初のイノベーションが現れ始めます。そのため、啓蒙思想の時代からの人間観は徐々に浸食されています。私たちは上り続けていますが、何が残るのか？人間の中の人間はどこにあるのか？これは眩暈がする問いであり、多くの人が人工知能に対して非常に攻撃的になる理由です。「これは恐ろしい、私は一体何なのか」という形而上学的な不安があります。
今日、少なくとも変わるかもしれませんが、主な違いは二種類の知能があることです。一つは道具的知能で、目標を達成することです。船主が目標を与え、残りはその目標に従属し、それを達成する手段を見つけますが、最初の目標は与えられていません。最初の目標を与えるには、状況を理解し、目標を発行するという別の種類の知能、具現化された知能が必要です。「これを見て、これが欲しい、これを望む」と言う能力です。これは現在のところ、人間特有のもののようです。イニシエーターであることです。
しかし、徐々に私たちは目標の提供者に変わり、中間的な目標を達成する必要がなくなっています。道徳性は明らかにこれらの価値を設定することですが、常に価値を設定する能力があるでしょうか？実現から離れることで、世界を知り、価値を設定するためには世界を知る必要があります。責任を持つ必要があります。爆撃する人について話したとき、人々を見ないと責任を感じなくなり、完全に具現化されていない価値や意見、目標を持つことになります。
シマンさん、眩暈がする質問は、私たちの目標自身がメカニズムによって生み出されていないかということです。生存、繁殖などのメカニズムは、少なくとも一般的に哺乳類特有のものであり、それらを選択しているわけではなく、私たちに課されるものです。私たちが設定する目標や価値も、同調効果やグループ圧力などの社会的に生産されることを知っています。
決定論から独立して目標や価値を生み出すことはできるのでしょうか？それとも、それらは他のほぼサイバネティック・システムの反映に過ぎないのでしょうか？サイバネティクスは、人間、動物、機械の間、つまりジュリアン・ゴバン、シマン、サーモスタットの間に存在論的な違いはないと言うでしょう。それらはすべて、情報を処理する論理ゲートで、目標を持っています。一方は世界を理解しようとし、もう一方は温度を20度に保とうとします。一度達成すれば、それで良く、初期の均衡に戻り、目標は達成されます。
はい、興味深いのは、長い間、人間は他のものと比較して一種の驚異として自らを位置づけてきましたが、実際には私たちはそれほど素晴らしいわけではないことが分かってきていることです。私たちを他と区別するのは、私たちのパフォーマンスというよりも、むしろ私たちの不完全さなのかもしれません。
そうですね、それは面白いです。少なくとも興味深いことです。サイバネティクスの始まり以来の過去50年、60年、80年の間に多くの抵抗と恐れがありました。機械が何かをするたびに「でも人間は別だ、人間は詩を作れる、人間は言語を翻訳できる、人間は計算できる」と言われていました。そして徐々にソーセージは切られ、今や芯にまで来ています。
ここ2、3年、ChatGPTから聞こえてくるのは「でも人間は、機械は決して間違えることができない、機械は死なない、機械は間違わない、それが人間の美しさだ」ということです。面白いのは、私たちは多くの勲章、メダルを誇りにしてきましたが、それらはすべて取り除かれ、今では「はい、私は裸で、弱く、壊れやすい、それが人間の尊厳だ」と言っています。
おそらく、これにより、誇りにすべき能力（それらは非常に尊敬に値するもの）よりも、より現実的な方法で自分自身を見ることができるようになります。それらは形而上学的な例外ではなく、説明可能かもしれません。そして、尊厳を現実的なもの、自分自身をよく知り、限界と長所を意識して前進することから引き出すことは、おそらく最良の方法です。
このインタビューでは、西洋文明が経験している変異について話しましたが、世界の残りの部分はどうなのでしょうか？
この問題は明らかに、私の本では（一部の人を失望させるかもしれませんが）西洋、人権、啓蒙思想をペトリ皿に入れたようなアプローチを取りました。私たちという細菌をすべて閉じ込め、「他のすべてが同じであれば、力学を続けさせたら、どこにたどり着くか」という問いです。
他の文明にとって重要なのは、それらが存在する文化的システム、従う価値観です。先ほど言ったように、技術は価値観に仕えるエージェントであり、その後技術は変容させるかもしれませんが、それらは別々に機能するものではありません。
私が最も興味を持っているのは中国です。なぜなら、中国には儒教という文化的システム、哲学があり、それはプライバシーや個性の考えについて全く異なる見方をしています。そこには所属の輪があり、儒教では近しい人に仕えることによって共同体に仕えるのです。つまり、すべてのデータを一般的なシステムに提供することは、実際には共同体に参加することであり、有益なことです。
実際、人工知能システムにとっては有益です。なぜなら、人工知能は人々に関するデータが多いほど性能が上がるからです。健康研究ではなく健康という観点で考えると、すべての人の健康データにアクセスがあれば、間違いなく進歩があるでしょう。そのシステムは「私はすべてを伝えることで得るものがある」というものです。
一方、ヨーロッパでは、文化的にプライバシーの保護が非常に重要であるため、抵抗があります。ここで地政学的な問いに到達します。私たちは、経済的にも軍事的にも圧倒されないような文化的システムにいるのでしょうか？人工知能研究の進歩はとても速くなる可能性があります。
私にとって理解すべきなのは、物議を醸すピーター・ティールのフレーズ「人工知能は共産主義だ」ということです。なぜなら、人工知能は最大限のデータを集中させ、その後再配分する必要があるからです。ちょうど昔の共産主義のようにです。情報を取るパーティーがあり、それから計画を立てます。
Google マップやWazeは、すべての人のトラフィックを持ち、そこから経路を最適化するという考えです。一部の人が犠牲になり、一部の人は少し最適以下の経路を持ち、しかしそれは全体の流れと福利に貢献します。これは儒教の論理と完全に一致しています。
私が自問するのは、私たちの自由主義は新しい共産主義に向かうのではないかということです。なぜなら、共産主義の失敗は、情報を持つ少数の人々が社会を計画しようとしたことだったからです。1940年代、50年代、60年代のロシアでは、データへのアクセスは非常に限られていました。加えて、人々は恐怖の雰囲気の中で多くの嘘をついていたので、利用可能なデータは恐ろしいものでした。さらに、脳も少数でした。だから計画は非常に大雑把でした。
自由主義はこれを見て「おお、それは必ずしも良いモデルではない、違うことをしよう」と言いました。一種のダーウィニズムのようなもので、どのアイデアも気にせず、すべてを受け入れ、最もうまく機能するものを取ります。市場が制裁を加えます。計画を立てるのではなく、「シミュレーションを行い、モデルを実行させ、競合するすべてのイニシアチブの中から最も成功したものを取ろう」と言うようなものです。
共産主義では、競合するイニシアチブを考慮し、その中から一つを選びますが、現実を持つことができませんでした。今日、人工知能は何ができるでしょうか？もし十分なデータが収集されれば、データの力と計算力があり、Google マップがルートを計画するように計画する考えと、人々の反応についての十分なデータがあるので新しい傾向、新しい市場、新しいイノベーションを計画することも潜在的に可能です。
これはチリで1970年代に行われたプロジェクト「Cybersyn」、サイバネティック政府のプロジェクトでした。70年代のオースティン・パワーズのような椅子とテレビがあり、すべての企業がリアルタイムで生産データを送信し、コンピュータが市場の状態に応じて生産命令を計算していました。これはうまくいきませんでした。政治的な混乱があり、当時の手段にとっては野心的すぎたからです。
しかし、かつてうまくいかなかったからといって、今日うまくいかないとは限りません。なぜなら、その間に物事は進化するからです。19世紀の実証主義科学のすべての野望は、今日、技術的手段によって実現可能になっています。だから「それはうまくいかなかった」と拒否するのではなく、技術が進化し、以前は不可能に思えたことを可能にすることを認識する必要があります。
インタビューの終わりに近づいていますが、締めくくる前に、あなたが著書『個人の終焉：人工知能の罠』をガリマール出版から出版したことを思い出したいと思います。説明欄の最初のリンクからご注文いただけます。
最後の質問として、私はすべてのゲストに同じ質問をしています。もしあなたが全人類を前にしたステージに立ち、マイクを持って数分間メッセージを伝えることができるとしたら、何を言いたいですか？
半分ニューエイジ的で半分合理的なメッセージを送りたいと思います。なぜなら、人間も矛盾に満ちた存在だからです。私たちは効率性、計算、有用性、基本的には会計的論理によって支配される社会に入りつつあると思います。会計的論理には完全に当てはまらない他の価値観があります。特に愛と許しです。
愛は実際には贈与における無限であり、許しは債務や借金のラインを根本的に断ち切ることです。これらはすべて会計的な逸脱ですが、それはまた私たちの人間性を作るものでもあります。
そこで私が最も重要だと思うポイントに到達します。この有用性、効率性、効率の世界では、私たちは少し不調和を感じます。私たちはそのようなものではありません。私たちは認知バイアスに満ちているからです。今日、これらの認知バイアスは狩りの対象になっています。なぜなら、それらが混沌に導くからです。技術の世界は合理的なので、私たちのバイアスは問題です。
しかし、バイアスこそが人間らしさを作るものです。世界を見る方法、社交的であることを好むこと、魅力を感じることなど、それらはすべてバイアスです。バイアスを保存し、誇りに思うこと。実際、私たちはそれらによって今日まで生き延びてきました。私たちは急速に進化した世界を作りましたが、それは私たちの生物学的進化と不調和をもたらしました。
これらを根絶する必要が本当にあるのでしょうか？人間性の上昇を続ける方法を見つけながらも、人間であるものに忠実であり続けることはできるでしょう。それが私のメッセージです。有用性ではなく愛を。
ありがとうございます。
コメント