19,792 文字
フィガロ TV クラブへようこそ。今日のゲストは、ロボットとともに、そしてロボットに反対して考察を重ねてこられた二人の哲学者、ラファエル・アントヴァンとエリック・サダンです。
人工知能の革命は、私たちの生活を根本から変えようとしています。経済、法律、金融、医療の分野ですでに変化は始まっています。では、人間の知性が重要な役割を果たしている文学や哲学の分野はどうでしょうか。これらの分野も脅かされるのでしょうか。機械は人間の意識に匹敵する意識を持つことができるのでしょうか。
今晩はお二人とも、お忙しい中ご参加いただきありがとうございます。まずラファエル・アントヴァンさんをご紹介させていただきます。皆様ご存知の方も多いと思いますが、哲学者であり、数々の著書を出版され、現在大きな成功を収めている週刊誌「フラン・ティルール」の創設者の一人でもあります。毎週社説を書かれており、最近では「人工の精神」という本をロブセルヴァトワール社から出版されました。この本は、2023年7月にチャットGPTと哲学の試験で対決された経験を基に書かれたものです。この対決では、チャットGPTが11点という厳しい点数だったのに対し、アントヴァンさんは20点満点を取られたそうですね。
そしてエリック・サダンさん、こんばんは。サダンさんも新技術とデジタル革命の課題について多くの考察を重ねてこられました。最近では「幽霊のような生活：メタバースとジェネレーティブAIの時代を考える」を出版され、また数年前には「人工知能あるいは世紀の課題」という本も出されています。実際にこれらの話題が広く議論される以前の2018年に、すでにこれが世紀の課題になると予見されていたわけですね。そして副題が「根源的な反人間主義の解剖」となっていることからも、これらの技術に対する警戒心が伺えます。
まず、2022年に実施された人工知能に関する世論調査について、お二人のご意見をうかがいたいと思います。この調査によると、フランス人は世界で最も人工知能に対して懐疑的な国民の一つだそうです。人工知能がもたらす利点が欠点を上回ると考えているのはわずか31%で、世界平均の52%を20ポイントも下回っています。そして中国は78%と最も高い数字を示しています。
エリック・サダンさん、まずあなたから伺いたいのですが、あなたもこの人工知能に懐疑的なフランス人の一人ですか？また、この技術に対するフランス人特有の悲観主義についてどうお考えですか？
「その質問は少し言い換えさせていただきたいんですが、私はむしろ人工知能に対する人々の認識の質を疑問視しています。私たちは常に人工知能について語っていますが、そこには多くの混乱があります。定義が欠けているんです。もし会場の皆さんや街頭で人々に『人工知能とは何か』と尋ねたら、おそらく人の数だけ定義があって、多くの場合それはとても曖昧なものでしょう。
2018年に出した本で、私はできるだけ早い段階で定義を確立しようと試みました。なぜなら、私たちは何と向き合っているのか、そしてそれによってどんな結果が生じるのかを明確にするための定義が不足しているからです。
人工知能には二つの時期があります。一つは過去15年間続いているもの、もう一つは昨年から始まったものです。定義を簡単に説明すると、デジタル技術の地位が変化したということです。これまで数十年にわたって、デジタル技術は情報の収集、保存、索引付け、自動操作といった目的のためだけに使われてきました。これらの機能は今も続いていますが、2010年代の初め、2000年代半ばあたりから、デジタル技術の歴史に新しい分岐点が現れました。
これが非常に重要なポイントで、私はできるだけ簡潔に明確に説明したいと思います。つまり、これらの技術に別の機能が付与されたのです。私はほとんど別の使命と言いたいくらいです。それは現実を専門的に分析する力です。人工知能とは専門知識の力なのです。つまり、ますますリアルタイムで、ますます広範な現実を理解し、しばしば私たちの意識からは隠れていた現象を明らかにするのです。
具体例を挙げましょう。誰もが使っているWazeを考えてみてください。何をしているかというと、リアルタイムで交通状況を分析しています。人間には処理できないような速さと量の情報を扱っているんです。でもそれだけではありません。交通状況を分析して知らせるだけでなく、特定の行動を推奨もするんです。
つまり人工知能は専門知識の力であると同時に、推奨の力でもあるんです。これを理解すれば、政治的・法的な影響の大きさと範囲が分かります。人類史上初めて、技術システムが私たちに助言し、提案し、時には強制するようになったのです。アマゾンの物流倉庫では、特定の方法で行動することを強制されています。これが人工知能の核心です。
そして、この点について締めくくるなら、これは私が非常に単純な言葉で、人工知能の認知的・組織的側面と呼んでいるものです。それは知り、そして組織化します。そして1年半前から、まるでこれまでの問題や根本的な疑問が十分ではなかったかのように、新たな段階が現れました。今、私たちは私が知的・創造的な転換期と呼ぶものを経験しています。もはや専門知識を提供し、シグナルを送るだけでなく、シンボルを生成するようになったのです。」
「はい、その点についてはまた後ほど詳しく話し合いましょう。ラファエルさん、あなたにとって人工知能革命は人類の歴史上前例のない出来事でしょうか？これは一つの断絶なのでしょうか？」
「いいえ、それは革命です。それは明らかです。つまり、私たちは比類のない力を持つツールを手に入れたのです。ですからそれは確かに革命です。しかし、それは人間の情熱の本質、私たちが愛し合ったり憎み合ったり、あるいはコミュニケーションを取る方法についてさえ、大きな変化をもたらしてはいません。
つまり、これは革命ですが、その限界を指摘することも重要です。私は、これが専門知識の力であるという考えに完全に同意します。確かにそうです。だからこそ、天文学から法律、金融、医学に至るまで、多くの分野で人工知能が専門分野を覆していると説明できるのです。
しかし、まさに医療や法律の分野で、弁護士の役割や、医師と患者の一対一の関係が代替不可能であるように、人間関係の中に還元不可能な何かがあり、それが不可欠なのです。特に、医学や法律のような芸術としての科学に携わる場合にそうです。
つまり、これは数値化や計算、機械化できないもの、還元できないものを私たちに思い出させてくれる革命なのです。そしてそれこそが興味深い点です。哲学、これは私の分野ですが、哲学においては全く逆です。哲学の実践、思考の実践は、人工知能の恩恵とは全く相容れないものなのです。
例えば、問題提起の構築のような、思考の実践が依拠するものは、人工知能が用いるプロセスとは全く無縁のものです。そしてそこに違いがあり、それは確実で、しかも永続的なものだと思います。」
「その実験について、つまりチャットGPTとの対決について少しお話しいただけますか？」
「ええ、それは偽の対決でした。2023年6月14日の虚無の中で、人々はまた人間と機械の対決の新しいエピソードを見たがったんです。私をカスパロフと比較する人もいましたが、それは馬鹿げています。明らかな違いは、カスパロフは素晴らしいチェスマシンと対戦したのに対し、私は定義上、高校生が9月末までには通常できるようになる基本的な行為、つまり『考える』ということができない機械と対峙していたということです。
私は楽観的です。私は教師を尊敬し、祝福し、愛しています。特に哲学の教師は素晴らしい仕事をしています。簡単に言えば、私は機械にはできない基本的なことを行うように求められた哲学の教師だったのです。つまり、考えることです。
具体例を挙げましょう。試験の題目は『幸福は理性の問題か』でした。機械は何をしたのでしょうか？幸福に関するあらゆる理論やその他のことを取り上げ、それらを適当な引き出しに詰め込み、同じ大きさの部分にまとめ、全く無差別に提示しました。そして、全く陳腐なユーモアを添えて。結果は全くダメでした。11点をもらいましたが、本来なら11点さえもらえるべきではありませんでした。問題提起が全くなかったからです。何もなかったのです。ただ学説の山積みだけでした。
生徒が問題提起もせずに学説を積み重ねるとき、私たちは努力の跡を認めます。私の教授が言っていたように、『ランプの汗』を感じるのです。少し勉強したんだなと思って、慈悲深く点をつけるんです。この場合は慈悲深く11点をつけました。
『幸福は理性の問題か』というような題目に対して、優秀な高校生は『幸福は感情であり、理性は一見感情とは関係ないように思える』、あるいはその逆を考えます。そこに問題の要素があり、題目に含まれている問題の要素があるのです。そしてこの緊張関係を把握し、それを示した時点で、構成は自然に生まれ、必然的な順序で展開され、例示も必要な順序で現れます。そしてまさにこの作業において、機械は役に立たないのです。」
「エリック・サダンさん、この実験についてどう思われますか？」
「ウジェニーさん、あなたは対決という言葉を使われましたが、私はその表現に異議を唱えたいと思います。対決というからには、通常は対等な武器を持っているはずです。同じ拳銃や、ほぼ同じ剣を持っているはずです。ラファエル・アントヴァンは自然言語で、その才能を存分に発揮して書きました。一方、生成AIの言語は…私は2022年11月30日のチャットGPTの一般公開以降、数週間のうちに多くの人々が『素晴らしい』と言って、プロンプトやコマンドを入力し、機械がテキストを生成するのを見て驚きました。
確かに、人間の言語、自然言語にほぼ完璧に近づくためには、多くの発展が必要でしょう。しかし、それは間違いです。完全な間違いです。なぜなら、哲学や文学について語るなら、どのような言語なのかを知る必要があり、それは全く異なるものだからです。なぜ全く異なるのか、私は2022年12月から分析を始め、2023年1月にこれに関する論説が掲載されました。
少し自慢めいて聞こえるかもしれませんが、ノーム・チョムスキーが2ヶ月後に同じことを言っていました。でも私は1月にル・モンドで書いていたんです。これらのシステムがどのように機能しているのか、簡単に説明させてください。人間の言語に似せるためにはまだまだ多くの開発が必要だと言われていますが、これらのシステムはどのように機能しているのでしょうか？
インターネットやデータベースにある全てのコーパスを、完全性を求めて巨大な規模で収集し、それらを数学的方程式や統計分析、論理的なスキーマ化に従わせ、言語の法則やルールを抽出しようとしています。そして、これが重要なポイントですが、これらの処理は確率的な方程式に従っているのです。
WhatsAppや他のアプリと同じように、『今晩会いに行く』という入力に対して、最も可能性の高い予測として『夜』が提案されるわけです。これは確率論的なものです。私が説明したこのスキーマ、つまり数学的なスキーマ化は、私たちが言語とどのように関わっているかということとは正反対なのです。
言語とは何でしょうか？言語や言葉とは共有物です。歴史的かつ現在の共有物であり、私たち一人一人が集団的に、そして何よりも個人的に、特異な関係を持っているものです。文法規則の習得、そして文化と呼ばれる知識の集積を通じて、各個人は言語と個性的な関係を築いています。これが「一人称で話す」ということです。
今この瞬間に私が次に言う言葉を、私は知りません。なぜなら、私たちの言語との関係は確率論的なものではなく、不確定なものだからです。ここに人間の自由があるのです。言語との関係において。今、人々は言語があると信じていますが、実際にあるのは産業化され、数学化された論理的スキーマ化であり、死んだ言葉に囲まれているのです。私が「死後化」と呼んでいるものです。
一方、私たちの言語との関係は、見てください、私が今話しているように、生命力のある効果を持っています。つまり、何なのか？現在の流れの中での創造であり、共有物と各個人との間の絶対的に独特な緊張関係なのです。しかし、大勢の人々がチャットGPTを素晴らしいと言います。なぜでしょうか？功利主義の名の下に、功利主義が私たちの社会に深く浸透し、私たちの精神を病的なまでに支配するようになってしまったからです。そこには文明に及ぼす影響が見えていません。」
「おっしゃる通りです。親しい間柄の人との会話であっても、還元不可能で予測不可能な要素が必ずあります。同じ質問に対しても、私たちはどのように答えるか分かりません。気分や時間帯によって変わってきます。ルクレティウスが言うように、私たちの会話には常に予期せぬ逸脱があり、それが即座に言語を動かし、模倣者が予測できないような一手先を行くものになるのです。
後から会話を模倣しようとすれば、図式化することはできます。自然に築かれた会話の edifice は、後から図式化したり方程式化したりすることはできます。しかし、その時私たちが捉えるのは枯れ葉に過ぎません。私たちの交わした言葉に命を与えた躍動は捉えられません。それは火と灰の違いです。灰を集めることはできても、火を取り戻すことはできないのです。
これが私は、あなたが言おうとしていることだと思います。この観点から、私は完全に同意します。あなたは『巨大な』という言葉を使いましたが、ラブレーの『ガルガンチュア』の比喩は、これを考える上でとても興味深いものです。なぜなら、ラブレーは『ガルガンチュア』の中で二つの教育モデル、というよりは一つの反モデルと一つのモデルを提示しているからです。
最初は良くありません。ガルガンチュアは育ちの悪い若者として描かれ、遅くまで寝て、お腹をさすり、朝には大量の鳥肉を食べ、口の中に山盛りのマスタードを放り込まれ、その後いくつかの文句を唱えて、聖水に頭を突っ込んで眠りに落ちる…要するに、昼寝を重ねて最後は寝てしまう。ひどい教育です。
ガルガンチュアの父親は、息子の様子に心を痛め、新しい家庭教師ポノクラテスを雇います。その名は『労働の処刑人』を意味します。彼は早起きをさせ、体操やスポーツをさせ、医学の理論を学ばせ、そうしてガルガンチュアは立派な若者に成長します。
なぜガルガンチュアは変われたのでしょうか？これが美しいところです。なぜガルガンチュアは変われたのか？それは、ガルガンチュアの記憶が量の貯蔵や再配分のようなものではなく、再配分者のパズルでもないからです。ガルガンチュアの記憶は能力なのです。保存所のない保存です。
私たちの記憶はシリコンの状態で存在しているわけではありません。適切な瞬間に浮かび上がってくるのです。ベルクソンが描写するこの記憶能力こそが、私たちの一瞬一瞬を根本的に予測不可能なものにしているのです。人間の記憶は量の問題ではなく、質の問題です。私が何かを言おうとするとき、私の記憶は、私が言おうとしていることに適した画像や言葉、メタファーを呼び起こすのです。でも、それらが私の中に存在しているわけではありません。
この違いこそが、私が精神と呼ぶもの、あるいはジャンケレヴィッチが『分からないもの』と呼ぶもの、ベルクソンが『持続』と呼ぶもの、つまり私たちの人間性を形作る数量化できない要素を特徴づけるのです。そこには確かに違いがありますが…私はこの点を強調したいのですが、ある人々は『AIはまだ考えることができない』と言います。もちろんそうです。しかし、思考は複雑さの問題ではありません。
複雑さは単に世界を私たちの知性の手の届くところに置く方法に過ぎません。物事を説明したからといって、全てを語ったことにはなりません。そこから話を始めなければならないのです。そこから驚き始めなければならないのです。思考を特徴づけるのは複雑さではなく、単純さなのです。複雑さによって人間の思考を再現しようとしても、閃光の模倣に過ぎません。」
「あなたは、技術には進歩があるのに対し、哲学には進歩がないと言われています。」
「はい、残念ながらそれは事実です。私もそうであってほしいのですが、哲学に進歩はありません。もしあれば、後から来た者の方が前の者より強くなるはずです。でも、そうはならないんです。プラトン以来、アリストテレス以来、哲学に進歩はありません。哲学とは時間を取り戻すことなんです。全ての哲学者は互いに同時代人なのです。
ニーチェにプラトンを対置することも問題なくできます。もちろん時代効果はあります。異なる問題もあります。しかし、ベルクソンが言うように『塵は変わっても、渦は残る』のです。だから哲学は同じ渦の繰り返しに過ぎません。」
「それに対して反応したいことがたくさんあります。機械システム、人工知能システムと人間固有の能力との間には、多くの区別があります。しかし、それは私にとって特に興味深い点ではありません。なぜなら、そう言った後で物事は進んでいくからです。物事は発展し、確立していきます。理解すべきは、それが私たちをどこに連れて行くかということです。
昨年の春によく聞かれた違いについて、『チャットGPTは決してこのように書けない』などと言われましたが、それは確実ではありませんし、もしそのように書くとしても、私たちが話したような方法によってです。私の言いたいことに戻りますが、それは私たちをどこに連れて行くのでしょうか。
言語について語るなら、もし皆さんよろしければ、後ほど画像や他の種類のシンボルの生成についても話し合う必要があります。言語について語るということは、単にプロンプト（プロンプトとは機械への指示のことです）に応じて…私が『一般化したプロンプト主義の時代』と呼ぶものを生成するシステムに指示を与えるだけではありません。
システムが私たちに絶え間なく話しかけるようになるということでもあります。これは私が長い間理論化してきたことで、2015年に『生活のアルゴリズム的伴走』と呼んでいたものです。つまり、システムがますます私たちの行動を解釈し、方向づけ、特定の方法での行動を提案するようになるということです。
私たちは自分の選択や意志を委ねているのです。つまり、専門家として、そして彼らの真実の高みから、彼らの想定された全知から、特定の方法で行動することを提案するのです。これはすでにMicrosoftやGoogleの検索エンジン、BingやBardで実践されています。これらは個別化された言語を生成し、私を導き、指示しようとします。
これは、サム・アルトマンがチャットGPTの一般公開から1年後の2023年11月に発表したことに対応します。デジタル産業や人工知能に対する長年の魅惑に従って、国家元首たちが赤絨毯で迎えるこの人物は、『過去1年間の成功は、聴衆を驚かせましたが、これから来るものに比べれば何でもありません。これからは皆がスーパーパワーを持つことになります』と述べました。
スーパーパワー、そして私たちが向かっているスーパーアシスタント、これが来るものを見る必要があります。知的・創造的転換について話したとき、サービス業の世界において、これはシュンペーターの教義の終わりを意味します。つまり、ほとんど全てのサービス業が私たちの知的・創造的能力を動員しているという事実に対して、アルトマンが話したスーパーアシスタントが、ほぼ全ての要求に応えることになるのです。
少し風邪を引いた、引っ越しをする、システムは特定の方法でキッチンを整理することを勧め、家を建てたい、旅行に行きたいと思えば…これは何を意味するのでしょうか？これは他者との関係が根絶されつつあることを意味します。私たちが向かっていく他者との関係、そこにも生命力があり、私が知らないことを教えてくれる人々との関係…これは社会性を構築し、時には長年の研究を必要とする機能の補完性なのです。
そして今、私たちは個人化された関係のゲームに向かっています。これが重要なのです。来るものを見るために。システムが継続的に真実と正義の道を開いてくれると想定されているシステムとの個人化された関係のゲームです。チャットGPTでプロンプトを使用する場合も、これらのスーパーアシスタントの場合も、私たちは個人および集団の存在を民間企業に委ねることになります。それは一度ではありません。これは些細なことではありません。その際に巨大なエネルギー消費が発生することも見過ごされています。
医師、脚本家、ジャーナリスト…リストは非常に長いのです。」
「このリストの中で、私が特に興味を持っているのが教師という職業です。ラファエル・アントヴァンさん、あなたは本の中で、教師は決して置き換えられることはないと述べています。」
「そうですね、哲学の教師について言えば…哲学の教師は教育の精髄だからです。哲学の教師である時、あなたは会計士のように…どう言えばいいでしょうか、内容を伝えるというよりも、方法を、やり方を伝えるのです。そして伝達の特徴は、それが伝達不可能だということです。伝達は伝達不可能なのです。つまり、それを他のもので置き換えることはできません。教師と生徒の対話、教師と生徒の議論、教師による生徒への産婆術的指導、これらは代替不可能です。
これを取り除くことはできません。したがって、哲学の教育には、全ての教育の様式について教えてくれる何かがあります。つまり、教師の仕事は知識を伝えるのと同じくらい、好奇心を目覚めさせることでもあるのです。知識を伝えるのと同じくらい、欲望を伝えることでもあるのです。
例えば、哲学でベルクソンを学ぶとしましょう。ベルクソンは、あなたのアイデンティティ、あなたの存在は、あなたの行動の総体には還元できないと言います。それはその通りですよね。実際、私は自分が消費するものの総体ではありません。私はそれより広く、私が購入するものより興味深い存在です。私はオンラインに残す痕跡には還元できません。
でも、もし私がオンラインの痕跡に還元できないのなら、どうしてアルゴリズムが私の深いアイデンティティを奪うことを恐れることができるのでしょう？私が還元を拒否している購入履歴だけを気にかけるアルゴリズムによって、どうして私は自分が奪われたと感じることができるのでしょう？私の中には確かに抵抗するものがあるのです。
人間の奇妙さ、アルゴリズムが理解できないもの、それは常に面白いものです。例えば、ポルノサイトの利用者が同時に聖書関連の商品を購入したり、あるいはその逆だったり…これは人間の性質の奇妙さ、私たち皆が知っている小さな偽善の一部です。アルゴリズムはこの要素を理解することができません。教えられない限り…しかしそうなったとしても、それは機械がアクセスできない独自性の遅れた模倣に過ぎないでしょう。
ただし、ジェラルド・ブロンナーが診断した『認知的黙示録』、つまり規制されていない情報に私たちの脳を委ねること、画面による私たちの注意の捕獲、これは公衆衛生の問題です。私は、私たちがこれに対して永続的に保護されていると言っているわけではありません。私たちが機械化される可能性はありますが、機械が人間化することは不可能です。それは同じことではありません。
しかし、私たちは無反省に画面の観察に没頭してしまうため、しばしば画面が私たちを催眠しようとしたという悪意を想定してしまいがちです。私たちは無生物に負けることを好まないので、私たちが自ら進んで従属している物体に生命を与えてしまうのです。」
「それについて、エリック・サダンさん、どうお考えですか？」
「私はまた別の角度から答えたいと思います。私たちは現在に対して混乱した関係を持っています。最近のデジタル技術の歴史、過去15年について考えると、私たちは常に現在について間違ってきました。常にです。通説があり、経済的利害があり、私たちの代わりに話す人々がたくさんいます。多くの人が自分たちの利害に基づいて話しています。
黙示録的な予測においても大きな間違いを犯してきました。多くの破滅的なことが予言されましたが、それらは決して起こりませんでした。人類は黙示録を予言することに飽きることがありません。人間には現在との問題があるのです。
なぜこのことを言うのでしょうか？私は、何億人もの人々が気軽に生成AIを使用していることに、非常に困惑し、いらだちを覚えました。社会的、文化的、文明的な影響の大きさを理解せずに使用しているのです。
教師や教育の話をしていましたが、私は質問を投げかけたいと思います。すでに10月にフィガロ紙のアレクサンドル・デヴコットとのインタビューで言及し、この発言は大きな反響を呼びましたが、一般化したプロンプト主義の時代に、つまりシステムの指示に従って知的・創造的な操作を大量に実行する時代に、これから2-3年後に何が起こるのかが見えているでしょうか？
『かっこいい、チャットGPTは素晴らしい』という以上に、私たちの子どもたちが『パパ、ママ、なんで僕は学校に行かなきゃいけないの？なんで僕は学校に行って学ばなきゃいけないの？それは単なる指示で、文章を作ってくれるのに、私は書くルールを学ぶ必要がないよ』と言い出すのを。
このことを私たちは放置しています。後で見ることにして…あるいは私たちには意識がないのです。もう一つの例を挙げて、なぜ私たちが現在に対して混乱した関係を持っていると言うのかを説明させてください。プロンプトは単に産業化され、数学化された、私が『死後化された』と呼ぶ擬似言語を生成するだけではありません。画像も生成するのです。
これは極めて深刻です。単純なプロンプトで、誰でも…全ての人が最小限の努力で利用できます。先ほど話した子どもの例も、この最小限の努力の考え方です。今日の努力の受容についての研究セミナーが必要でしょう。
画像は、誰もが地球規模で利用できるツールで、単純なプロンプトで、例えば私がMidjourneyやDall-Eに『私が対立している隣人』について命令すると、その隣人が私の隣人を殴っている画像を生成し、それをインターネットに投稿することができます。
また、女性の裸体のポルノ画像なども…社会の精神病理化が十分に進んでいないかのように、対人関係の過度の硬直化、2010年代半ば以降私たちが経験しているフェイクニュース（私はそう呼びませんが、それは別として）…これでは十分ではないかのように、今や大量の画像が生成され、何を引き起こすのでしょうか？
私たちはもはや画像の性質や起源が分からなくなるのです。これは極めて深刻です。なぜなら、社会、共生、民主主義は共通の原則だけでなく、共通の参照点でもあるからです。そうでなければ、私たちは互いを理解することができません。
なぜ私は『私たちは遅すぎた』と言ったのでしょうか？このことで締めくくりたいと思います。予言者のように振る舞いたくはありませんが、私には1年前からこのことが見えていました。そして今や、アメリカの選挙、テイラー・スウィフト、バイデン…あのディープフェイクの抜粋をご覧になりましたか？彼のAIの分身が、ニューハンプシャーの有権者に投票に行かないよう助言し、フロリダにエネルギーを注ぐべきだと言ったのです。馬鹿げていますが、人々はそれを信じました。
これは始まりに過ぎません。しかし、これは始まりに過ぎないのです。これは何を意味するのでしょうか？私たちは、死後化された言語が多数派となり、参照点が分からなくなった画像で構成される象徴的な環境、象徴的な地平に向かっているのです。
そして何と言われているでしょうか？『デジタル経済を抑制してはいけない』とか、『心配しないで、権利者には報酬を支払います』と。つまり、コーパスを略奪するシステムに…でも、それが問題なのではありません。問題は、これから何が来るのかを見ることです。
来るものとは、私たちが現在経験している状況の悪化であり、私たちが観察することになる象徴的体制の無限の貧困化なのです。」
「確かに、今描かれているものはかなり不安なものですね。テキストが人間起源なのか人工起源なのか区別できなくなる…おそらく言語よりも画像の方がその傾向が強いでしょう。私はこの物語の始まりを、まさに画像との関係について、2018年に遡って考えたいと思います。
アメリカでの銃乱射事件の生存者エマ・ゴンザレスが、皆の前で非常に力強いスピーチを行い、その結果NRAよりも多くのフォロワーを獲得した時です。そしてNRAのある人物が、エマ・ゴンザレスがアメリカ憲法を引き裂いているという画像を拡散しました。
実際の画像では、アメリカのタイム誌の表紙を飾っていたエマ・ゴンザレスは、憲法ではなく、的を引き裂いていたのです。彼女は銃所持に反対していました。その人物は、それを憲法を引き裂く画像に変換したのです。人々に『これは本物の画像ではない』と言うと、人々は『どうでもいい』とか『かもしれないけど、真実よりも真実らしい』と答えました。
つまり、これは偽物が偽物として提示される最初のケースでした。つまり、真実を主張する意図は全くなく、その虚偽性を帯びたまま、真実よりも望ましいものとして提示されたのです。そしてここで時代が変わったのです。信じたいという欲求…ノヴァーリスの『たとえ真実でなくても、よく考えられている』という古い格言がありますが…しかし、今や私たちは、信じたいという欲求に大きな手段を与えられているのです。
最も良い例は、地球平面説者でしょう。以前は全てのものによって反証されていたのに、今では地球全体に同じように考える人々の中で生きることができます。しかし、私たちが手に入れた大きな偽造のツールは、自発的な幻想に関する私たちの責任を免除するものではありません。
例えば、現在ガザについて多くのフェイクニュースが出回っていますが、誰かが意図的にフェイクニュースを拡散し、それが後で解体されても、自分の有権者に向けて、人々の機嫌を取るために、それがとても望ましいから偽物だとは言わないというような場合…これが時代が変わる瞬間なのです。
これが私たちが純粋な狂気に陥る瞬間です。つまり、真実の代わりに望ましいものの支配に陥るのです。言い換えれば、敵は私にとって、まず信じたいという欲求、自発的な信じやすさであり、その後にそれに仕えるツールなのです。」
「機械の意識という問題について触れたいと思います。これはあなたの本でも取り上げられている問題で、多くの科学者が、機械が意識を持ち、場合によっては人類に反逆する可能性があるという段階について警告を発しています。
私たちはフィガロTVで、あなたの本でも言及されている人類の偉大な神話からいくつかの小さなモンタージュを作成しました。もちろんピノキオがあり、ユダヤの伝統におけるゴーレム、フランケンシュタイン、そして科学者たちに反逆する2001年宇宙の旅のHAL9000があります。私たちは2024年にいますが…」
「他にもピグマリオンを加えることもできたでしょうし、ターミネーターやスター・ウォーズのドロイド、ブレードランナーなども…つまり、私たちは自分たちの創造物が被造物になるという夢を決して止めることはなかったのです。古代からこの夢を見続けています。常にこの夢を見続けてきました。
この夢は、私たちの能力や生命を作り出す可能性について何も教えてくれません。私たちは4000年前と同じくらい遠いところにいます。木から意識は作れません。水から火は作れません。だから以前と同じくらい遠いのですが、それが差し迫っていると信じ続けています。
それが明日であるとか、実はほとんど昨日だったとか、あるいはすでに起こったと信じ続けています。まるで舌先にある言葉のように生きていますが、実際には宇宙の反対側にあるのです。生命を作り出すことは、脚立に登って月に到達しようとするのと同じくらい不可能です。
可能性は全くありません。生命の製造は神話であり、それは私たちの能力ではなく、私たちが神になりたいという欲望について教えてくれるものなのです。つまり、私たちに背を向けたり、私たちに背を向ける能力として自由を感じたりする被造物を生み出したいという欲望についてです。
ターミネーターのスカイネットは人類に背を向け、フランケンシュタインは創造者に背を向け、保護のために作られたゴーレムは危険になり、HAL9000は宇宙飛行士たちに背を向けます…私たちはこの夢を見続けています。これは私たちが神になりたいという欲望を示す夢です。少なくとも、謙虚さよりも傲慢さが多く含まれる夢なのです。」
「それは完全なファンタジーです。意識は…これは無駄な推測です。問題は、2024年に確かに私たちは絶え間なく洗練される技術、いわゆる指数関数的な技術を扱っているという事実について、人工意識が生まれるかどうかを知ることではありません。私たちはそこにはいません。それは今日の問題ではありません。
問題は私たちの意識です。私たちの意識を自分たちに向け直すことです。私たちは先ほどいくつかの点について触れましたが、もう一つ重要な点を指摘したいと思います。私たちの意識は、最も基本的な能力を放棄するという見通しに関してどうなのでしょうか。
人工意識について何時間も推測することはできますが、それは無意味です。それはサロンの話題としては良いでしょうが、無意味です。しかし、何が予告されているのかを見ることは重要です。つまり、一人称で自己を表現する能力を放棄すること、言語を学ぶ能力を放棄することです。私は繰り返しますが、言語は個性化の場所であり、自由の場所です。集団的自由、各個人の社会に対する、他者に対する、その他者との関係における自由の場所なのです。
これこそが私たちが放棄に向かっているものです。どうして見えないのでしょうか？先ほど触れた、極めて深刻な区別のつかない状態に向かっているという事実が見えないのでしょうか？つまり、私たちはまだ2024年にいるのです。2-3年後に、どのような激化した精神病理化の状態、社会の精神病理化の状態になっているかを見るために、もう一度お会いしましょう。
本当の問題があります。つまり、私たちはこれをどう扱うのかということです。そして三つ目の問題、時間が限られていますが、これは本質的です。なぜなら、規制者は現在…ご存知の通り、これに関するアクト・シェトリングの論説がありました。デジタル経済を抑制してはいけないと言われていますが、ここで政治家たちは完全に間違っています。
私たちは歴史の別の時期、経済の別の時期を生きているのです。つまり、シュンペーターの首が切り落とされたのです。シュンペーターは終わりました。先ほど言ったように、どうして見えないのでしょうか？手作業による資格…それらでさえもシステムによって方向づけられるでしょう…ほとんど全ての職業、私は繰り返しますが、知的・創造的能力を動員する全ての職業について考えてみてください。
前提は何でしょうか？前提は、システムが私たちよりも速く、より効率的に（これは見せかけですが）、そしてより低コストで行うということです。これが前提であり、仮定なのです。そして、これは何に由来するのでしょうか？私たちはどのような文明にいるのかを見る必要があります。
これは自己嫌悪に由来します。つまり、私たちは常に間違いを犯し、おおよその判断をしているという事実…しかし今日、奇跡的にシステムが、特に私たちが知的・創造的能力を動員して行動する全ての生活分野において、最良の世界を組織化してくれるというのです。
しかし、これらの職業は…私たちは2024年2月にいます。親愛なるウジェニーさん、私たちと、そしてもしよろしければ会場の皆さんと、もし私たちがまだ生きているなら、2年後にまた会いませんか？そうすれば、何が起こるのかが分かるでしょう。
このポイントについて、なぜならリストは長いですから…知的・創造的タスクを引き受けることができるシステムのリストは長いのです。グラフィックデザイナー、写真家…先週、申し訳ありませんが、ウジェニーさん、あなたのライバル紙のル・モンドで読みましたが、おそらくフィガロにも記事があったかもしれません。文学翻訳者たちが動き出しています。
『魂のない翻訳』と言って…これは素晴らしい表現です。つまり今や出版社は、自動翻訳システムで一次処理を行い、それを翻訳者に渡して、ひどいテキストを再作業させているのです。彼らの報酬は下がっています。これが見えてくる地平線なのです。
ただ一点だけ、このことについて終わらせたいと思います。私たちが参考にすべき非常に素晴らしい例があります。2023年5月に動き出した脚本家たちのことを考えています。彼らには何が起こったのでしょうか？なぜなら彼らは現在を見ていたからです。彼らは規制者や、人間と機械の補完性という戯言を待たなかったのです。
ちなみに、経営用語の新語でノーベル賞を受賞すべき天才がいます。それは『スキルアップ』という言葉です。これは素晴らしい。文学翻訳者に『スキルアップ』と言ってみてください。私はスキルアップの例を挙げましたよね。
つまり、脚本家たちは何を見たのでしょうか？彼らは、ネットフリックスや私たちの行動、趣味、情熱などをアルゴリズム的に分析する全てのシステムによって、すでにドラマシリーズが形作られていることを見ていました。しかしそれは…彼らはもう一つの段階を見ていました。
すなわち、知的能力、知的・創造的な転換により、システムがまもなくドラマシリーズを作り、脚本を作ることができるようになるということです。そして彼らは何を考えたのでしょうか？『待っていられない。私たちは前例を作ろう。一人ではなく、大勢で動き出そう』と。
そして何が起こったのでしょうか？それは、タスクへの喜びを動員し、社会性を生み出し、時には長年の研究を必要とする職業…これは喜びの職業なのです。そして彼らは動き出し、何が起こったのでしょうか？多くの人々が長期にわたって動き出すと、しかも負債のある国でですから、勇気が必要でした。
これらの人々に何が起こったのでしょうか？彼らは今のところ勝利しました。そして私が信じているのは、この問題について完全に見当違いの規制者を待つことなく、地球規模での職業連合が動き出すべきだということです。特に、その中でも最も重要なティエリー・ブルトンについて、私は説明できますが時間がありません。記事が出る予定です…」
「ティエリー・ブルトンについてのあなたの意見は聞かないでおきましょう。」
「魂という言葉を、魂の補完という言葉を口にしました。人間の知性と人工知能の違いについて考えると、もし完全に唯物論的な立場をとり、人間が単なる細胞の生物学的集合体、つまりニューロン接続の集合体に過ぎないと考えるなら…それが極めて複雑で、極めて微妙で、極めて模倣困難だとしても…もし単なる細胞の集まりだと考えるなら、なぜ機械が最終的にそれを達成できないのでしょうか？
このように唯物論的な理論を擁護するのを見るのは興味深いのですが…質問は、もしあなたが人工知能は決して人間の知性に取って代わることはできないと考えるなら、あなたの中に少し精神主義的な基盤があるのではないでしょうか？」
「私の本はフランス精神主義の伝統に位置づけられています…」
「そこに位置づけたいということですか？」
「いいえ、私は精神について語っています。まさに精神について語っているのです。しかし、それはパスカル以来の伝統です。ベルクソン、ジャン・ケレヴィッチ、シェルファニョン、クレマン・ロッセ…これは唯物論と全く両立可能な伝統ですが、物質が全てを説明するわけではないという事実を認識しています。
そして一般的に、説明が全てを説明するわけではなく、私たちは全てを説明しようとする時に何かを見落としているということを認識しています。世界に神秘がないからといって、謎がないわけではありません。簡単に言えば、そこには特異なものの探求、驚きの探求があり、それは世界をあるがままに見る能力の背後にあるのです。
フランス精神主義は非常に美しい伝統であり、非常に興味深く、非常に生き生きとしています。そして私たちは単なる物質ではありません。ベルクソンが言うように…記憶からの引用ですが…脳は精神にとって、粘土がマントルにとってそうであるようなものです。
魂は細胞という基盤なしには存在しません。もちろん、精神は細胞という基盤なしには存在しません。しかし、私たちが生み出すことができるものは、繰り返しになりますが、保存所のない保存であり、機械が生み出すことができるものとは性質が異なります。
私たちの脳はシリコンでできているわけではありません。私たちの記憶はデータとして私たちの中に存在しているわけではありません。私たちではありません…人工知能は当初、シナプス適応の模倣から生まれました。最初は軟体動物のアメフラシで、撫でられるうちに収縮が減少する、つまり状況に適応するというものでした。
シナプス適応を人工知能のモデルとして考えようとし、そしてそれは正しかったのです。なぜならそれが機能する方法だからです。しかし、シナプス適応の結果として、人工知能の原理は、まだ知らない状況に驚かないようにすることです。一方、哲学の教育は、私たちが見慣れたものに驚くことです。これは正反対です。根本的に正反対なのです。」
「それは、最後の質問に私を導いてくれます。ブルーノ・パティーノの『サブマージョン』という本からの引用について、あなたの反応をお聞きしたいと思います。彼はデジタル世界におけるデータによる私たちの没入について語り、次のように結論づけています：『私たちは技術者を育成することに努めてきました。これからは哲学者を育成する必要があるでしょう。マルクスの格言とは逆に、世界を再び考えるために』。
これは興味深いと思います。なぜなら、最初から私たちは人間の知性が人工知能に取って代わられるのかどうかを考えてきました。しかし、むしろ質問を別の方法で提起できないでしょうか？哲学、人間の知性の本質こそが、人工知能が遍在する世界で最も必要とされるものになるのではないかと考えることで。なぜなら、例えば技術者は機械に取って代わられるかもしれませんが、哲学者は取って代わられないからです。つまり、私たちはより多くの…」
「私はマルクスの正反対を考えています。確かに、哲学者たちは世界を解釈することしかしてこなかった、重要なのはそれを変革することだ、と。私は世界は変革されないと考えています。世界は変革されません。カミュが言うように『人生を変えよう』、はい。しかし『私が神格化していた世界』は変革されません。
重要なのはまさにそれを解釈し、この解釈の作業を更新することです。したがって、ブルーノ・パティーノは全くその通りです。私たちはかつてないほど哲学者を必要としているのでしょうか？まさにこの私たちに訪れている時代を考えるために…」
「そのような言い方はやめましょう、大げさすぎます。私たちが今いる場所について、技術的な問題、社会的な問題、経済的な問題について話してきました。決定的に重要な哲学的な問題があり、それは文明的な射程を持ち、人類学的な射程を持っています。
そしてこの問題とは何でしょうか？それは現在、そしてこれから来るものにおける人間の位置づけです。つまり、人間とは質であり、各人の中に宿る才能であり、社会性であり、他者との関係であり、共同生活の枠組みです。アーレントが言うようにホモ・ファーベル、つまり最良の場合には、私たちの独自性や固有の能力を証明し、社会性を生み出し、現実との開かれた関係を作り出す活動において、喜びや楽しみを感じることです。
しかし、システムが単に…先ほど私は認知的・組織的な転換について話しました。システムは一般的な衛生主義の意志の下で人間の問題を最適に組織化するだけでなく、今や私たち自身の知的・創造的な質を担うようになっています。それすらもありません。私たちに何が残されているのでしょうか？私たちの立場は何なのでしょうか？
決して問われることのないこの問題、つまり地球上での私たちの…私はほとんど『役割』と言いたいところです。私たちの地球上での役割とは、機械に変えられることではないはずです。継続的に私たちを方向付け、何をすべきかを示すシステムになることでしょうか？
このシステムを止める必要があるのでしょうか？使用を中止する必要があるのでしょうか？政府に禁止を要求するべきでしょうか？いいえ、政府のことは置いておきましょう。私が信じているのは、社会全体のレベルで…私たちは実定法によって圧倒されています。時間がありませんが、レオ・ストロースが実定法について書いていることは素晴らしいです。
つまり、彼は実際には立法には恣意性があると言っています。私の本で引用しているこの表現は素晴らしいと思います。私は、これらの問題については自然法に立ち返る必要があると考えています。自然法とは何でしょうか？それは私たちを動かす基本的な原則であり、私たちは決して、決して、決して…禁止する、禁止する…」
「では、このことについて締めくくりたいと思います。ジェニーを引用します。なぜなら私は彼らを引用することになりますが、5つしかありません。たくさんはありません。規制について知っていますよね。例えばEUでは、リスクと利点…これはとても主観的です。リスクと利点の想定…
私は、もし二項対立的な方程式が必要なら…一秒後に戻りますが、二項対立的な方程式が必要なら、それはリスクと利点ではなく、私たちに手がある場所と手がない場所です。アマゾンの倉庫に行けば分かります。政治的・法的な観点から、私たちに手がないのは容認できます。製造業者の動きを決定するのはシグナルなのです。
しかし、あなたが話していた政治家たちによって決して考慮されない二つ目の方程式があります。そしてもし私がこのことをエマニュエル・マクロンに言ったら、彼は私が言おうとしていることを理解しないでしょう。ティエリー・ブルトンも理解しないでしょう。ジョー・バイデンでさえも、誰も理解しないでしょう。しかし、ここにいる私たちは理解します。私たちは皆理解しています。
それは、私たちを動かし、私たちを構成する基本的な原則を尊重し、保護し、さらに称えるものなのか、それともそれらを台無しにするものなのか、ということです。そしてこれらの基本的な原則とは何でしょうか？それは自由の尊重、完全性…私はアマゾンの倉庫について話していました…尊厳、人間の創造性、そして感受性、つまり対人関係と私たちが一緒に働くという事実です。
それはこれらを尊重しているのでしょうか、それとも尊重していないのでしょうか？そしてもし尊重していないのなら、私たち人間に何ができるのでしょうか？まだある程度行動する存在として、ハリウッドの脚本家たちのように、社会のあらゆるレベルで動き出し、『ここでは私たちの原則が台無しにされている』、あるいは『ここでは私たちに手がない、これは容認できない』と言い、大勢で立ち上がって、私たちの信念と、私たちが発展させたい生活様式を主張するのです。」
「では、この反抗の叫びで締めくくらせていただきます。これらの原則の一つ一つが何を意味するのかを定義するための番組を作る必要があるかもしれませんね。それは将来の討論のテーマになるかもしれません。いずれにせよ、お二人とも、今回の対決…今回は対等な武器を持った対決でしたが…ありがとうございました。」
「ありがとうございました。」
コメント