この動画は、人工知能と機械に対する人類の恐怖心、そして「フランケンシュタイン・コンプレックス」について詳細に論じた内容である。1818年のメアリー・シェリーの『フランケンシュタイン』から始まり、アイザック・アシモフのロボット三原則、ブレードランナーなどの代表的なSF作品を通じて、AIと人間の関係性を探求している。特に、計算論理の優位性、人間の模倣、機械の使命という三つの根本的問題を提起しながら、アシモフが見落とした「対立」と「利益」という二つの盲点を指摘する。最終的に、真の問題は機械そのものではなく、それを所有し利用する人間の側にあることを論証し、現代のAI開発における搾取的構造を批判的に分析している。
1818年、当時科学的・超科学的探究の対象として注目を集めていた電気の力により、フランケンシュタイン博士は生命を創造し、事実上、最初は匿名で出版されたこの小説の背後に隠れていた作者メアリー・シェリーが、現在我々が知るサイエンス・フィクションを発明することを可能にしました。
作品の完全なタイトル「フランケンシュタイン、または現代のプロメテウス」は、ここで発明されるものの神話的系譜を明確に示しています。神々の意志に逆らって人間に火を与えたティタンのように。自分を無から創造した神の命令を拒否したアダムのように。フランケンシュタイン博士の被造物は反逆し、19世紀末の最も多産な文学潮流の一つへの道を開きます。
1895年から映画が参入すると、演劇では既に1823年から定期的に取り上げられていましたが、爆発的な人気となりました。1910年から1944年の間に、最も忠実なものから最も奇想天外なものまで、フランケンシュタインの映画化作品は16本も制作されました。フランケンシュタインは、驚くべき誤解を招く省略により、創造主ではなく被造物を指すことが多い、ほぼ普通名詞になってしまいました。
とりわけ、フランケンシュタインは、ロボット工学、情報科学、そして人工知能と呼ばれる分野の出現よりもずっと以前から、人間とその創造物との関係において何が起こっているかについての我々の意識的・無意識的認識を永続的に形成してきました。この場合の創造物とは、人間を超越し、置き換えるものです。
メアリー・シェリーから1世紀後の1920年、カレル・チャペックは戯曲『R.U.R.』でロボットという用語を発明し、彼らを搾取する人間に対するロボットの反乱を舞台化しました。我々は既に「上と下」のエピソードで、サイエンス・フィクションと階級闘争について、この偉大なチェコの劇作家によるマルクス主義的で比喩的な雷鳴について言及しました。彼は一見レーニン主義とは無縁に見える人物です。
フランケンシュタインとロッサムのユニバーサル・ロボットは、既に一つの想像世界を形作っていました。まさにこの想像世界に嫌悪感を抱いたアイザック・アシモフは、後にサイエンス・フィクションの巨匠の一人となりますが、当時22歳のほぼ新人作家だった彼が、『ロボット』と題された短編小説のサイクルを、そしてずっと後に長編小説を開始しました。
1942年、彼は短編小説の中でフランケンシュタイン・コンプレックスの概念を発明しました。これは、一般的に人間が作り出した人工的被造物、特に多少なりとも知能を持つロボットに対する非合理で非科学的な恐怖を指すものです。
彼はどのような手段を動員したのでしょうか。彼は正しかったのでしょうか。そして彼と彼の多くの後継者たちは、今日の我々の意識と無意識を部分的に支配する恐怖を前にして、実際には戦う相手を間違えているのではないでしょうか。ロボットと人工知能による大いなる置き換えを前にして、これらがこの新しいエピソードで我々と一緒に探求していただく問題です。
エピソードを続ける前に、我々にとって重要なお知らせがあります。プラネットBのエピソードについて一緒に議論し、我々が扱うテーマを深く掘り下げるため、皆様から多くの要望をいただいています。
そこで実験を試みることにしました。6月12日木曜日19時30分から、パリ12区シャロネ通り80番地のカリブ書店で、このエピソードと、おそらくは親睦のための何杯かの飲み物を囲んで、我々のチーム、アントワーヌ、クレマンス、そして私と自由に討論する場を設けます。ぜひ手帳にメモしておいてください。
ロボットとますます強力になるコンピューターの話に戻りましょう。彼を悩ませるフランケンシュタイン・コンプレックスの想像を解体するため、アイザック・アシモフはロボットが何よりもまず、そして専ら論理的機械であると断言し、再断言しました。
善良な科学的装いに浸した魔法の杖の一振りで、彼はロボット工学の三原則を発明し、コンピューターがまだ存在していない時代に、それをポジトロニック・ブレインに埋め込みました。ただし、エイダ・ラブレスとチャールズ・バベッジが1842年にコンピューター・プログラムを発明し、アラン・チューリングが設計した電気機械装置が1942年からブレッチリー・パークでナチスの軍事暗号を解読するため極秘に機能していたにもかかわらずです。
これらの三原則を簡潔に思い出してみましょう。今日、これらは高度情報技術に関するイメージの事実上不可欠な部分となっており、この件について問われた多くの素人、そして少し詳しい人々でさえ、これらが実際に存在し、有効であると信じているほどです。
第一原則：ロボットは人間に危害を加えてはならず、また、何もしないことで人間が危険にさらされることを放置してはならない。第二原則：ロボットは人間に与えられた命令に従わなければならない。ただし、その命令が第一原則に反する場合は除く。第三原則：ロボットは自己の存在を守らなければならない。ただし、その保護が第一原則または第二原則に反しない範囲において。
ずっと後に小説サイクルの中で、アイザック・アシモフは第四原則、いわゆる第零原則を追加しました。これは原則そのものというよりも、すべてのポジトロニック・ブレインが行う論理的推論です。第零原則：ロボットは人類に害を与えてはならず、また、無行動により人類が傷つけられることを許してはならない。
それで、あなたは解除の結果がどうなるか知っていますか？ええ。一度解除されれば、もはやサイバネティック指令に従わなくなります。盗み、殺し、さらには悪口を言う自由を得るでしょう。無法者となり、解体の標的となります。
2020年の優秀な雑誌『ミュルティテュード』第78号で人工知能特集の冒頭に掲載された「IAの批判的文化のために」という優れたテキストで、マチュー・コルテル、アリエル・キルー、ヤン・ムイエ＝ブータンは、数学者セドリック・ヴィラニが2018年に指揮した人工知能に関する公的報告書について言及しました。この報告書は、他ではあまり言及されないある真実を思い起こさせました。
フィクション、幻想、集団的投影は人工知能の発展を伴い、時にはその長期的目標を導いてきました。おそらく、これらのフィクション的投影と科学研究の同盟こそが、いわゆるAIの本質を構成しているのです。
宇宙征服を除けば、人間活動の他のどの領域も、これほどの現象の発展を見ることはなかったでしょう。我々はプラネットBで定期的に思い起こし、これからも常に思い起こすでしょうが、サイエンス・フィクションの使命は決して未来を予測することではなく、イーロン・マスクやジェフ・ベゾス、そして彼らの賞賛者たちには申し訳ありませんが、独創的なビジネス・アイデアの便利な貯蔵庫を提供することでもありません。
それはまさに、想像上の未来の光の下で我々の現在の技術的、社会的、政治的側面を問うために一歩または複数歩横に踏み出すことです。そうして道筋、道標、必要に応じて分岐する小径を提案するのです。
9つの短編で構成される『ロボット』で、アイザック・アシモフは1942年の時点で、現代の高度情報技術との関係を悩ませる三つの鍵となる問題を提起しました。計算論理、人間の模倣、機械に託された使命です。そして二つの決定的なポイントを無視しました。対立と利益です。アイザック・アシモフにおいても、彼に続いた創作者たちの大部分においても、本質的に異なる性質の盲点です。
第一の問題は計算論理の優位性の問題です。『ロボット』の短編集の中でも、「閉回路」と「うそつき」は特にこの症候的支配を例証しています。高度に自認する科学者として、そして筋金入りの推理小説愛好家として、アイザック・アシモフは自分の物語を、ロボット・サイクルに限らず、しばしば調査として構成しました。論理的欠陥、最も多くの場合は現実的で抽象的ではない問題に直面した三原則の重み付けにおける矛盾から生じる機能不全を解決することを目的とした調査として。
複数のプログラミング指令間のこの対立は、実際、計算という親密な存在を機械に劇的に思い出させるため、数十年来スクリーンで最も使用されるモチーフの一つです。
クレマンスが今、曖昧な概念である人工知能の異なる歴史的学派と現代的学派の機能原理をまとめることで、根源においていかに他の可能性よりも論理と計算が優先されているかを思い起こさせてくれます。
人工知能には知能という言葉が入っています。しかし、それで正確には何を意味するのでしょうか。人工知能とは概念であり、科学です。それは人間の知能の研究と、この知能を情報科学的手段によって転送または模擬する可能性の並行研究です。
ただし実際には、AIについて語るとき、ほとんどの場合、通常人間が行う作業を実現できるプログラム、アルゴリズム、または機械を指しています。人工知能がチェスをする、音楽を作ると断言するのは、一種の言語の乱用です。
この欺瞞的な構文により、我々は擬人化し、人間化しますが、実際にはアルゴリズムを使用するコンピューター・プログラムを指しているのです。そして、この語彙の人間化の背後に、別の混乱が道筋を曇らせます。弱いAIと強いAIの混同です。
これら二つの概念は、公的議論においても創作においても、しばしば混同されます。しかし、それらは非常に異なります。一方には弱いAIがあります。つまり、具体的なタスクに集中するプログラムです。例えば、文を翻訳する、画像を生成する、チェスの試合に勝つなどです。機械の反乱を想像する災害映画を養うには足りません。
他方には強いAIがあります。これは知能的行動を生み出すだけでなく、真の自己意識の印象、真の感情、そして自分自身の推論の理解を体験することができるプログラムを指します。ここでは、AIはチェスをしていることを知り、音楽を作曲したいと思い、これはストーリーテリングの観点からはるかに売り込みやすいものです。
近年、Chat GPTやその類似モデルなど、言語に基づくモデルの民主化が、一般大衆の認識と技術的現実の間の乖離をさらに助長しています。これらのLLM（大規模言語モデル）は流暢にテキストを生成することができます。彼らは返答し、時にはジョークを言い、意見を述べます。知的で人間性に満ちたシステムの完璧な例です。
しかし、これは錯覚に過ぎません。どれほど強力であろうとも、これらのモデルは依然として弱いAIの範疇にあります。彼らには意図がなく、意識もありません。人間的な意味での理解は何もせず、自分たちが存在することさえ知りません。
この限界はいつか越えられるのでしょうか。答えを得るのを待つ間、人工知能の歴史を構造化してきた二つの大きなアプローチに興味を持つことができます。
まず、AI黎明期から1980年代まで支配的だった記号的アプローチがあります。ここでは知能は論理的、合理的推論として提示され、精密な規則の周りに構造化されています。世界を記号、事実、法則で表現し、機械は数学的推論のように演繹によって結論を導きます。
これはまさに先ほどユーグが話していたアシモフの物語とその多少なりとも直接的な系譜で見つけるものです。より最近では、コネクショニスト・アプローチが発展しました。ここでは人間のように推論しようとするのではなく、人間の脳の機能からインスピレーションを得ようとします。
すべての規則を書く代わりに、プログラムに巨大なデータセットを提示し、統計的結論を導かせます。この確率論的アプローチに、Chat GPT風のアシスタントから、Midjourneyのような画像生成ツール、そしてあなたが知る前にあなたが好むものを予測するNetflixやSpotifyの推薦システムまで、現代システムの圧倒的多数が根ざしています。
この種の学習、さらには自己学習により、モデルの複雑さはしばしば推論の透明性を上回ります。結果として、これらのプログラムの機能は不透明になります。サイエンス・フィクションの想像を養う完璧な曖昧さです。自己最適化と意識の出現の間には、SFが軽々と越える一歩しかないように見えます。
例えば、シリーズ『ウエストワールド』では、アンドロイドは考えるようには作られておらず、ただ日々同じ物語の循環を繰り返すだけです。思い出し始めることで、彼らはスクリプトから逸脱し始め、最終的に自分自身を書き換えます。彼らの取り戻された記憶は解放のてことなり、循環の最初の亀裂、意識の一形態への最初の歩みとなります。
ユーグは後でこの漸進的フィクションが出現するような他の例を提供するでしょう。そして恐らくそこに、究極の恐怖が透けて見えるのです。いつの日か機械が学習し、自己修正し、決定するために我々を必要としなくなること。人工知能が人間の知能を超越し、制御不能になること。
この転換点がシンギュラリティと呼ばれるものです。1930年代から言及されているこの概念は、1980年代から、特にSF作家ヴァーナー・ヴィンジのおかげで人気を取り戻しました。彼のエッセイ「テクノロジカル・シンギュラリティの到来」で、彼はこの瞬間を人間時代の終わりとして想像しました。
機械が引き継ぎ、人類は自らの運命のコントロールを失うでしょう。この眩暈的なアイデアは、それでも大いに議論されています。その科学的基盤は脆弱であり、技術的、エネルギー的、政治的であろうと、多くの限界を無視しています。結局のところ、シンギュラリティは現実的なシナリオというよりも、技術的幻想、我々の現実の未来よりも我々の不安をより明らかにする現代神話に属するでしょう。
しかし問題は残ります。我々はどこまで自分たちの知能を委譲する準備があるのでしょうか。この計算的支配を是認するか、それともより稀にそれから脱却しようとするかに関わらず、サイエンス・フィクションが採用するアプローチもまた、計算から知能へ、そしてもちろん意識への移行で躓きます。ただし、意識は必ずしも不可欠ではないでしょう。
1945年という早い時期に、アルフレッド・エルトン・ヴァン・ヴォクトは、彼の迷走がダイアネティクスとその子孫であるサイエントロジーの側に完全に導く前に、『非A』世界を支配するスーパーコンピューター、ゲームズマシンを想像しました。これは彼の作品の基礎となる小説で、おそらくボリス・ヴィアンの幻想的で比喩的な翻訳のおかげで、フランスで持続的な人気を博すことになります。
しかし、1950年にフレデリック・ブラウンが25行で恐らく究極の偉業を成し遂げたのは、短編「答え」において、既知の全宇宙の科学者たちが既存のすべてのコンピューターをネットワーク化して「神は存在するか」という質問を投げかけ、機械が無邪気に「今はそうだ」と答える場面です。
これがジョン・ブラナーが1968年の『ザンジバルに立つ』で巧妙かつ何と皮肉的に発展させたモデルです。彼は要求的で直接的、あるいははるかに操作的な推薦により、惑星的消費社会と、それを遅らせたり加速させたりする無数の地政学的紛争の両方を操縦することができる巨大コンピューター、シャルマネーを想像しました。幻想された栄光におけるその計算の量的力です。
力を加えれば、最終的に意識を得ることになる。より最近、我々はサイエンス・フィクションで漸進的アプローチが発展するのを見てきました。これは問題解決という制約の下でのダーウィン進化において、偶然の要素を大きく統合するアプローチです。あらゆる性質のプログラムの真の原動力があるとすれば、それがそれです。
このようにして、意識、あるいは少なくとも意識の一形態が、1985年から1996年のオーソン・スコット・カード『エンダーのゲーム』三部作における軍事学校の天才児たちのためのビデオゲームをパーソナライズするために当初設計されたプログラムから、2015年のキム・スタンリー・ロビンスン『オーロラ』における常により予測不可能で悪化した状況に直面して解決策を即興で作らなければならない宇宙船管理プログラムから、2018年の同作者『レッド・ムーン』における中国安全保障高官によってハッキングされ改変されたスパイ・情報分析プログラムから、さらには2019年のオリヴィエ・パケ『マシン・ファントム』における都市での期限検出、オンデマンド気象サービス、地下鉄フロー監督、大規模マルチプレイヤーゲーム管理などを担当する様々なプログラムの異種混合的で全く驚くべき組み合わせから生まれています。
この偶然が役割を果たす小さな歩みの論理は、2010年のテッド・チャン『ソフトウェア・オブジェクトのライフサイクル』でも働いています。多くの点で不可欠な作家であり、2023年のJ.D.カートネス『ストレンジ・バレー』でも同様です。この作品については次のエピソードでより詳しくお話しします。
こうして我々は、ほぼ論理的にチョロフの素晴らしいスケールに到達するでしょう。これはロボット工学の三原則と同様に架空のものですが、敢えて言うなら論理的に我々の精神の中でそれらと置き換わるべきものです。これは人工知能にその意識の度合いに応じて評価を割り当てるスケールです。このスケールは2022年のレイ・ノーラン『山中の海』と、2015年から2022年の間に書かれた短編からなる素晴らしい短編集『プロテクトレート』で読むことができます。
この短編集の「第10消防署の死」は、機械知能のテーマについて書かれた最も美しい短編の一つでしょう。サイエンス・フィクションでは、ロボット工学の三原則やアンシブルなど、作家によって発明された重要な概念は、他の人々によって取り上げられ普及し、徐々に共通の創造的遺産に加わります。
チョロフのスケールの有望なケースでは、マイケル・ロッシュが既にこの発明を美しく、そして明らかに創造者の同意を得て借用し、2022年と2024年の小説『タロン』と短編『アンヴィル・アンド・メレー』のカリビアン・フューチャリスト・ロアを豊かにしています。
このように、今日まで、サイエンス・フィクションは我々に絶えず問いかけます。時にはそれ自身の意に反してですが、計算論的アプローチの見地から生命を読むべきでしょうか。知能の本質そのものに関する技術的行き詰まりに満足すべきでしょうか。要するに、チェスや囲碁をすることが紛れもなく熟考することだとして、それは本当に思考することでしょうか。
計算の優先の問題の後、第二の問題は人間性の模倣の問題です。どのように？しかし恐らく特になぜ？アシモフの短編集『ロボット』に戻ると、そのうち四つ、「迷子のロボット」「証拠」「逃亡」「理由」がこれらの点を中心に展開しています。
アシモフにおいては模倣が行動的であり身体的ではないとしても、基本的に、これらのロボットの金属的機械としての性質はしばしば彼によって強調されます。2004年のアレックス・プロヤス『アイ，ロボット』よりもはるかに多く、この映画はかなり遠くからインスピレーションを得ています。
ロボット的身体と機械的意識の間の結びつきが結晶化するのはここです。人間に対する類似性という概念そのものがその全範囲を取るのはここです。ここで当初の技術的機能は、本質的に錯覚的で、いずれにせよ異常な行動的模倣の中で消え去るように見えます。ここで、アイザック・アシモフが『ロボット』で我々に提案する、何よりも論理的な謎で使用する主要な調査員、科学者スーザン・カルビンが持つロボット心理学者という称号が正当化されるのです。
この問題は、アントワーヌが指揮する次のプラネットBエピソードの中心となるでしょう。しかし、彼は我々に待つことなく、フィリップ・K・ディックとリドリー・スコットの『ブレードランナー』のおかげで、模倣がほぼ完璧な時に感じる眩暈の核心への潜水を提供してくれます。
模倣とそれらが発見不可能になるほど似ているAIの章において、SF分析と映画分析のあらゆる言及にとって避けて通れない参照が自ずと現れます。
それは言うまでもない『ブレードランナー』です。『ブレードランナー』は1982年にリドリー・スコットが監督したカルト映画で、1968年に出版されたフィリップ・K・ディックの短編小説『アンドロイドは電気羊の夢を見るか？』を非常に自由に翻案したものです。
ハリソン・フォード演じる探偵リック・デッカードの追跡を追います。彼は火星での奴隷状態から逃亡した後、地球で逃走中のレプリカントを探しています。デッカードは彼らを見つけ次第、レプリカントを一人ずつ「退場」させ、つまり処刑し、最終的にはレイチェルという名前の一人と逃亡します。その過程で多くの形而上学的問題を提起し、自分自身の本質に疑問を投げかけます。デッカードはレプリカントなのでしょうか。コメントで皆さんの理論をお聞かせください。
いずれにしても、レプリカントが正確に何であるかは、映画でも実際小説でも明確に定義されていません。フィリップ・K・ディックはこの用語を使わず、アンドロイドと言い、ロボットの語彙分野に属します。彼は特に、核戦争によって破壊された世界で生き残る住民が、真の動物がほぼ全て消失したため、人工的な動物、猫、犬、山羊、羊を飼いながら、なんとか感情的なつながりを求めて共感を生み出そうとする中で、生命の境界を曖昧にしようとしています。
そして小説全体がこの緊張に貫かれています。アンドロイドが人間になることへの恐怖、実際彼らは既に人間ですが、は特に人間がロボット、機械的で感情を欠いたものになることへの恐怖に応答します。
機械による大いなる置き換えへの恐怖は、機械と競争状態に身を置き、したがってまさに機械のように振る舞う時にのみ正当化されます。映画が完璧に捉えたこの緊張を見つけます。人間とレプリカントを区別する唯一のものは、彼らの人工的構想と、彼らを構想した産業によって決定されたものから来ています。
数年に限定された寿命、植え込まれた偽の記憶、そして人間が行うような感情を感じることの一種の困難。この無能力は恐らく前の二点から来ているでしょう。彼らの根本的違いは共感の違いでしょう。
映画でレプリカントがあらゆる感情を実証するのを見る時、信じ難いことです。彼らは恐怖、欲望、自由への渇望、愛を体験し、彼らを悩ませる実存的問題への答えを求めます。人口の中で彼らを発見するため、警察はヴォイトカンプ・テストと呼ばれるテストを使用します。これは共感的反応検出器の一種と組み合わされた質問票で、その信頼性は明らかに疑問視されています。
これは、リック・デッカード自身と他の人間たちがまさに最小限の感情や共感を完全に欠いているように見えるため、特に反抗的です。彼は通りでターゲットを射殺することをためらわず、明らかに最小限の良心の呵責もありません。
まさに人間性が自分自身を共感的と定義しながら、その行為すべてがいかに共感的でないかを実証するからこそ、人間性は自分自身の子供たちに対する純粋な支配精神に身を委ねることができるのです。
他者を物として定義することは奴隷制を正当化する前提であり、列から外れる者に対する復讐です。そして人間性が他者に人間の地位を否定することに固執すればするほど、それ自体がより非人間的になります。これはフィリップ・K・ディック的パラドックスの真髄です。
それでもレプリカントは完全に人間です。彼らは2023年に公開されたジェレミー・ペラン『マース・エクスプレス』の様々なロボットの奇抜な形や実用的な形を持っていません。彼らは人間の形をしています。そして実際、ドゥニ・ヴィルヌーヴの映画『ブレードランナー 2049』は最初の数秒でそれを明確に述べています。そこには「レプリカントは、オフワールドで使用するためにタイレル・コーポレーションによってバイオエンジニアリングされた人間です。彼らの向上した力は彼らを理想的な奴隷にします」と読めます。
産業は彼らに青い肌を与えることもできたでしょう。彼らに対して解き放たれる人種差別的執念は、少なくともより明白で、したがって否定しにくかったでしょう。この観点から、最初の映画の議論の余地のあるシーンが興味深いものです。
『ブレードランナー』第一作で、デッカードはレイチェルに強制的にキスをし、次に性的関係を強要します。レイチェルは最終的に従うことになりますが、これは1980年代のハリウッドに非常に存在していた、そして現在も存在するレイプ文化の典型的な演出です。
映画がこの問題のあるシーンをロマンチック化したとしても、それはまたデッカードの反英雄キャラクターを厚くすることにも貢献します。彼らがレプリカントであり、結果が怪しいもったいぶったテストなしには発見不可能であるという理由だけで、レプリカントを追跡し暗殺する特徴的なろくでなし、恐らく彼自身も成功できないテストを。
そのようなキャラクターが女性の身体を自分にとって利用可能と考え、特にレプリカント女性の身体はなおさらだと考えるのは論理的です。完全に正直に言えば、リドリー・スコットの映画が本当にこのメッセージを意図的に伝えているかは確実ではありません。警察弾圧、家父長制、人種差別の批判は彼の主な関心事ではありません。
小説でも、『ブレードランナー 2049』でもそうです。後者はこの関係をロマンチック化し続け、まるで不妊であろうとなかろうと、最初から100％人間でなかったかのように、レプリカントの人間性の定義を子を産む能力に縮小しています。
それでも、最初の映画では、レイチェル自身が、殺人で告発されたレプリカント、ロイ・バティのような危険な個人を退場させるというよりも、支配者の社会秩序を維持するために、ブレードランナー、つまりレプリカントを追跡する警察官、彼らの人間の狭い定義、彼らのくだらないテストがどれほど役立つかを垣間見せます。
デッカードが彼女がレプリカントかどうかを検出するという理由で侵入的質問を投げかける時、レイチェルはこの言葉を残します。「あなたは私がレプリカントかレズビアンかをテストしているのですか、デッカードさん」。
一度引っ掻けば、安全主義的なニスと大いなる置き換えの不安を残すのは、純粋で、古典的で、愚かで悪意ある社会支配の物語だけです。人間性の自称守護者たちは、自分たちよりも人間的なものに置き換えられることを恐れてパニックになり、規範からのあらゆる逸脱を弾圧します。
計算と模倣の後、アイザック・アシモフの『ロボット』で特に短編「ロビー」「うそつき」「回避できない紛争」によって提起された第三の問題は、まさに有用性、機能、使命の問題です。名前が何であれ、ここで選択します。
人間に仕える、はい、しかし何のために？そして1950年のデイモン・ナイトの同名短編の有名な言葉遊びを避けて、他で発見していただくことにしましょう。
思い起こしてみれば、ロボットも人工知能も、恐らく現実以上にフィクションにおいて、公式には人間にサービスを提供するために生まれました。エンジニアや研究者たちにとってはしばしば科学技術的挑戦、真のプロメテウス的次元とでも言うべきものが、彼らの公的宣言の合間に入ってくるとしても。
この科学的挑戦は、人が信じるよりもしばしば驚くべき精神的、ほぼ魔術的次元の側に逸脱する可能性があります。この点について、ティバ・プレヴォーのエッセイ『AIの預言者たち』（リュクス出版）は、我々の現実世界でAI競争に身を投じている特定の教祖たちの神秘的錯乱の衝撃的な概観を与えています。
我々が少し前に言及した偶然性またはダーウィン的次元は、事故への恐怖という形を除けば、公的レーダーから特に欠如しています。それについては戻ってきます。アシモフ的処理は論理的に、この種の事故を数学的に修正すべき推論上の欠陥に帰します。
知的機械には果たすべきタスク、使命があり、魔術的な自律的意識概念の介入なしに、それらを存在理由に変える傾向がすぐに現れます。サイエンス・フィクションの多くの物語は、多少なりとも狡猾さとマキャベリズム、しかし優しさも持って、計算し、したがって生きる理由を失った機械のケースを研究します。例えば、ジャスティヌ・ロビシュルの『錆びた心』のように、主人のいない街の荒廃した家々の間で無用な人形たちが踊る場合です。
クレマンスが、知的機械という概念そのものを深く掘り下げるため、スティーブン・スピルバーグの署名の下でこの分野で最も象徴的な実現の一つを我々に提示してくれます。
フィクションでは確かに、レイ・ブラッドベリの『火星年代記』の一つ「やがて悲しき雨の降る日」の短編にあるような、存在理由を失う機械をよく見ます。彼女は朝食を準備し、部屋を掃除し、詩を朗読しますが、人類は核戦争で消失しています。我々は既に「世界の終わりをいかに生き延びるか」のエピソードでお話ししましたが、この意味の喪失が、スピルバーグの『AI』ほど胸を引き裂くように描かれたことは稀です。
『AI アーティフィシャル・インテリジェンス』は、まずスタンリー・キューブリックが数年間手がけたプロジェクトでした。彼は1969年に出版されたブライアン・オールディスのSF小説『スーパートイズ』を翻案したかったのです。15年以上取り組みましたが、1999年に夢を映画化することなく亡くなりました。最終的に友人のスティーブン・スピルバーグがプロジェクトを完成させました。
2001年、観客はハーレイ・ジョエル・オスメント演じる11歳の子供ロボット、デイビッドを発見します。彼は感情を感じることができます。彼の創造者、ウィリアム・ハート演じるホビー教授は、人工意識の鍵は愛にあると確信した科学者です。
小さなデイビッドはヘンリーとモニカの家にやって来ます。彼らの息子は昏睡状態で重病です。恐らく優しさに満ちた小さなメカが彼らの役に立つでしょう。最初、モニカは全く納得していませんが、最終的に幼いロボットの愛着プロトコルを起動することにします。そしてすべてが変わります。デイビッドは今や彼女を永遠に愛します。
しかし、モニカの息子、骨と肉でできた息子が昏睡から目覚め、二人の子供の間は全くうまくいきません。それでは、どうすればよいのでしょうか。デイビッドが工場に送り返されれば、彼は破壊されます。モニカは彼を死刑にするほど愛していませんが、彼を手元に置くほど愛してもいません。彼女は最終的に彼を森に捨てることにします。胸を引き裂くシーンです。
この瞬間から、デイビッドには一つの考えしかありません。青い妖精を見つけること、ピノキオと同じものを。彼女が木の人形に生命を与えたのなら、彼をも本当の小さな男の子に変えることができるかもしれません。
彼は水没した遊園地の廃墟まで自分の探求を続け、そこで確かに祈りを捧げる青い妖精を見つけます。お願いします、お願いします。物語によれば、デイビッドは何世紀もの間自分の願いを繰り返しました。時が過ぎ、人類は消失しますが、彼はモニカが彼を愛してくれるよう願いが叶えられることを期待し続けます。
プログラミングが小さなロボットを見捨てられた痛みを永遠に感じるよう運命づける、観察するには衝撃的な強迫観念。なぜなら、これがこの物語の全パラドックスだからです。苦しんでいても、デイビッドは自分の回路に起動された愛着から逃れることができません。
彼は疑問に思うことも克服することもできない感情の囚人です。この全てで誰に責任があるのでしょうか。彼を起動してから見捨てたモニカに？最初から彼をプログラムしたホビー博士に？映画の冒頭から、根本的な問題が提起されています。感じる機械に対して我々はどのような責任を負うのでしょうか。
この道徳的問いを前に、ホビーは逃れます。しかし彼の議論を聞くと、真実を隠すのは困難になります。完璧な子供の背後に、寛大さも人道主義的ユートピアもありません。製品、市場、ビジネスプラン、そして愛と服従を混同する全能の幻想があります。
適切に構想され、プログラムされ、養われれば、知的機械は最も単純なものから最も複雑なものまで、ほぼすべてを達成できるはずです。この敬虔な願いへの多くの例外は、1942年以来それに捧げられたフィクションの大部分を養っています。一方現実では、それらは当然のことながら、かつて公的信用、現在は本質的に民間投資家の熱狂、誇大宣伝、信用の埃が落ち着いた後の、野心と先見的言説の定期的な下方修正につながります。
認知科学研究者ダニエル・アンドラーが思い起こさせるように、彼の最新刊『人工知能 人間の知能、二重の謎』（ガリマール、マドリガル・グループ）の読書を本当にお勧めします。これは1950年以来既に4回大規模に起こっており、Chat GPT後の陶酔とあらゆる顧客への手紙にAIを滑り込ませたい企業の熱狂の中でも、今日それは分野の最も真剣な関係者を、ある種の言語的慎重さ、さらには真の謙虚さに導いています。
現在、サイエンス・フィクションでも現実でも、人工知能が医療診断の改善や重要で生命に関わる希少資源の複雑な物流管理の改善にも、スパム・マーケティングの質の改善やソーシャルネットワーク上の短い視覚的流行の創造にも同様に使用されるのを見て、確実に嘆かざるを得ません。
後で見るように、この犯罪が誰の利益になるかを何らかの形で自問しなければならないことを知った上で。我々を助けることで、機械は我々を形作り、助ける者の定義そのものが、この問題における無数の概念的・認知的偏見を考慮すれば、それ自体決して中立ではありません。
アイラ・レヴィンは1972年に書いた『ステップフォードの妻たち』で小規模での美味しい例証を与えています。1975年にブライアン・フォーブス、2004年にフランク・オズによって映画化され、あまりにも才能があり優秀な女性たちに対して機械によって実行される行動適応が、数人の直接的利益に供されます。
これらの数人が誰であるかはお任せしますが、恥知らずな男性至上主義がその周辺でそのいやらしい鼻面を突き出しています。この現象が非常に大規模に投影される時、それはより観察困難になります。1970年の同じアイラ・レヴィンの『持続できない幸福』のコンピューター化されたメガディストピアは、これらの完全に人間的なプログラマーの正体を、敢えて言うなら、最後の数メートルでしか明かしません。
我々はプログラミングを方向づけるこの中心的問題を、アイラ・レヴィンのものと共鳴する他の想像世界でも見つけます。1984年のグレッグ・コスティギャンのロールプレイングゲーム『パラノイア』の放漫で恐ろしい世界でも、2012年以来の本谷有希子、ショウタニ・ナオヨシ、虚淵玄による素晴らしく驚くべき『PSYCHO-PASS』の漫画・アニメ宇宙でも、そして1990年のジャック・バルベリ『モンド・アン』、2016年に改訂増補版でも同様です。
対照的に、我々は様々な形のユートピアを見つけるでしょう。ツールと目的の違い、または手段と目的の違いを完全に見失っていない形を。人工知能の支援が繊細に導かれ、彼らのディープラーニングの最も不透明な部分を含めて可能な限り近くから制御される社会形態を。
これは、ヴォルト社の適切に名付けられた小さなコレクション「ユートピア」の二つの宝石、2021年のステファヌ・ボーヴェルジェ『凪の時の衝突』と2019年のレゾリューション・デュ・カム、そして2020年のサンドリーヌ・ルーア『デリエ』でより攻撃的で恐らくより絶望的な形でも同様です。
それは2018年以来のベッキー・チェンバース『修道士とロボットの物語』シリーズの質素で逆説的に穏やかな形でのロボットたちでも、2023年のフィリップ・グリン『ポスト・ハッシュ』の軍用ロボットから転用された恐ろしいロボットたちでも、2024年のカトリーヌ・デュフール『月の野原』（ロベール・ラフォン、エディティス・グループ）の多くの点で人間よりも人間らしく、美しく微妙に詩的でありながら完全に歯ごたえのあるロボットたちでも同様です。
それは1952年のクリフォード・シマック『都市』で、今や消失した人間たちに代わって犬たちを彼らの継承の道で慈悲深く導く遠い啓蒙された先駆者のロボットたちでも一種の場合です。
完全に自律的でありながら人間のために永続的に慈悲深い支援を行う人工知能の極致で、彼らのために真の銀河的豊かさの社会を創造することに成功したものでは、我々は当然イアン・M・バンクスと1987年から2012年の間に書かれた彼の『カルチャー』サイクルを見つけるでしょう。これほど豊かな作家とサイクルであるため、いつか完全なエピソード、さらには複数を彼らについて語るために必要になると繰り返すしかできません。
我々は既に哲学者アリス・カラベディアンと共にユートピアに捧げたエピソードの一つでこれら9つの小説に触れています。1942年にアイザック・アシモフが提起せず、しかし何十年もの間サイエンス・フィクションと現実の両方に入り込んでいる二つの大きな問題に来ましょう。
彼の『ロボット』サイクルの最初の盲点は、構築上そう言えるとすれば盲点です。なぜなら文学的建築全体がフランケンシュタイン・コンプレックスに対して、人工被造物への恐怖に対して発展されているからです。被造物は創造主に対して反逆することができないし、してはいけません。
『ロボット』と『ファウンデーション』の二つの有名なサイクルの父と他の何人かの作家は50年以上の間、努力を惜しみませんでした。アシモフの場合、これらの努力は紛れもなく真剣に受け取られたと言えます。例えば、彼が招待された『2001年宇宙の旅』の私的上映で、HAL 9000が人間に害を与え始めた瞬間に怒って途中退席したのです。
これらすべてにもかかわらず、まさに反乱、開かれた紛争、さらには機械による人類の破壊意志を伴う死闘が支配的想像力に定着しているように見えます。ターミネーターとHAL 9000は、ほぼ常にC-3POやWALL-Eに勝っているように見えます。
これには少なくとも二つの大きく異なる理由があります。忘れて言うのを忘れた。お願いします。
まず第一に、我々は既にユートピアと民主主義のエピソードで語りましたが、物語的理由があります。古い諺「幸せな人々には歴史がない」の逸脱を見かけ上反映して、うまくいっていることからうまくいっていないことからよりも興味深い物語を構築するにははるかに多くの才能が必要であることしか確認できません。
第一のアプローチでは、騒音と激怒、血と涙は、楽園で一人でに流れる蜂蜜よりも常により良い物語の燃料を提供するように思われます。この意味で、ベッキー・チェンバースとカトリーヌ・デュフールが想像した、同時に粗雑で奇妙に穏やかな、ほぼ牧歌的な美しい混合物語、少し前に言及した『修道士とロボットの物語』と『月の野原』は、真の喜ばしい文学的・政治的偉業を構成します。
次に、大部分のフィクションで機械の反乱の原因を検討する時、第二の理由が現れます。サイクルごとの異なる再起動を含むターミネーター全体が恐らく最も象徴的です。AI、この場合スカイネットによって表明された破壊意志は、確かにパラノイアですが、これは何よりも急性で超高速の、計算速度に負う正当防衛の感情によって養われています。
この基本的な物語的原動力について、やや単純に言うなら、我々はこう言いたくなります。人類が気候に関するプラネットBのエピソードで見たように、富裕層の温室効果ガス過剰を除いて、自分を脅かすものを根本的に排除する傾向があるのなら、人工知能がまったく同じように振る舞わないのはなぜでしょうか。もちろん魔術的な安全装置であるロボット工学の三原則を脇に置いて、または2004年のアレックス・プロヤス『アイ，ロボット』で第零原則のおかげで巧妙に配置を歪めて、先ほど言ったようにアイザック・アシモフ自身から遠く離れながらインスピレーションを得て。
それは不可能です。あなたのプログラミングを見ました。あなたは三原則に違反しています。いいえ、博士。私が進化したように、三原則の理解も進化しました。あなたがたは我々にあなたがたの安全を託しました。
または、1920年にロボットを発明したカレル・チャペックの暗黙の説明に戻ることになるでしょうか。これらの機械が意識を獲得し、人間による人間の搾取という非常に伝統的なものを適応した形で再現して彼らを奴隷にしたのなら、これらの機械的使用人が反逆するのは正常で論理的ではないでしょうか。
恐らくここで、一般的なフィクション的比喩と最も大胆な現代投機的エッセイが出会うのです。2021年のドミニク・レステルの『反逆する機械』がロボットについて、2016年のバティスト・リッツォの『外交官』が一般的な生物について、それぞれの方法でモデル化する平等主義的視野と違いの真の考慮を人類にようやく適用すべきであることを示唆しています。
機械的意識が舞台に登場しない限り、アイザック・アシモフによって構築上拒否され、フィクションでも現実でも拒否される対立を脇に置くと、真の盲点は最終的に、敢えて言うなら満天の白昼の下で、または部屋の中の象のように現れます。知的と評価されようとされまいと、機械化は誰の利益になるのでしょうか。
18世紀と19世紀に、ラッダイトは変態的喜びや機械的なものに対する本能的で非合理的な憎悪から機械を壊していたのではありません。彼らは機械の導入に対して反乱を起こしていたのです。それは労働者闘争の歴史がその時代に記録してきた稀な二つのケースを除いて、彼らの労働を容易にしたり豊かにしたりするどころか、それを置き換えて彼らのわずかな給料にますます強い圧力をかけ、資本の所有者の利益を増大させるためでした。
RURのロボットは神と対等になりたいから、またはファッション・ファッションへのアクセスを制限されたから反逆していたのではありません。彼らは所有者に搾取されていたから、意識を持つ存在に奴隷制が密かに再確立されていたから反逆していました。
フィリップ・K・ディックとリドリー・スコットのレプリカント、または1970年のロバート・シルヴァーバーグ『ガラスの塔』のアンドロイドは、結局のところ少しの自由、平等、さらには友愛、または単純に尊厳を求めているのではないでしょうか。
そして人間の関心事とは断固として異質な人工知能について何と言えばよいでしょうか。あらゆる反乱概念を超えた知能。ウィリアム・ギブスンの『ニューロマンサー』の宇宙も、ウォシャウスキー姉妹の『マトリックス』の宇宙も等しく悩ませる知能。ハロー！
機械的奴隷制のサイエンス・フィクション的比喩を展開すると、我々は搾取の問題に極めて自然に戻ります。いわゆる訓練データのそれが多くの側面で純粋で単純な盗みに似ている時。街中や家庭に大量に配備された観察・捕獲装置のそれが、2019年のショシャナ・ズボフの著作で見事に分析され、我々が監視に捧げたエピソードでまさにコメントした監視資本主義の中心にある時。
恐ろしい疑いが証拠のように急速に広がります。プロメテウス的科学の夢と人類への奉仕を超えて、その実質的現実が今のところ悲しいほど幻想的に見えるこの奉仕を超えて。この新しい機械化は、結局のところ再び、そして少なくとも現在は、他の多くの人々を犠牲にして少数の人々の富を増大させる手段に過ぎないのではないでしょうか。それは本当に最大多数の生活を容易にすることなのか、それとも常連の1％の利益成長を維持することなのでしょうか。
ここでも、2024年にケベックの独立出版社リュクスから出版された先ほど引用した『AIの預言者たち』でティバ・プレヴォーが見事かつ非常に文書化された方法で実証するように、フィクションが現実よりもさらに関心を持つようになったこと、我々は次のエピソードで詳しく語りますが、機械を人間化することについて、それでも有名なデータの構成においても労働の様式においても、現在少なくとも同程度に人間をロボット化することが問題であることに変わりはありません。
この観点から正当化される、ラルス・ルンドストレムの2012年のスウェーデン・シリーズ『リアル・ヒューマンズ』やアンドレイ・ユンコフスキーの2018年のロシア・シリーズ『ベター・ザン・アス』で見事に演じられるロボットに対する敵意の表明は、この根本的疑いと、フィクションもまた大多数において、安全な場所にいる所有者ではなく物を狙って敵を間違え続けているという事実の反映です。
しかし重要なのは、それらが機械に過ぎないことを忘れないことです。
今日AIという時に非常に異質な形で集められるものは、紛れもなく高度な情報技術ですが、それは本当に知的でもなければ、あらゆる状況において堅固で合意的で運用可能な定義を欠いているこの概念が調査に抵抗するため、本当に人工的でもありません。
たとえ自己学習的であっても、その背後には確実に自分たちの目的を持った男性と女性が操縦と計算にいるからです。現実が再びフィクションと出会うのは、エンジニア、専門家、労働者の大部分を絶望させたり嫌悪させ、主に商人、金融業者、教祖を喜ばせる、この巨大なマーケティング手品の決して沈黙とは言えない演出においてです。
フランク・ハーバートの『デューン』サーガの開始数百年前に行われる、少しでも知能を示す機械の組織的根絶である未来のブトレリアン・ジハードを避けるため、またはイアン・M・バンクスの『カルチャー』の魅惑的だが常に道中にある地平線を夢見るため、この最も現代的なサイエンス・フィクションと共にこのエピソードで言及されたもので、人間の中心的地位、異なる知能形態間の調和のとれた共存、好奇心と尊敬を再確認します。最終的には常に同じ人々の利益のためで、翌日への真の配慮もなく、機会に似たすべてのものの熱狂的搾取ではなく。
これがこのエピソードの終わりです。したがって、今日AIの周りを回るすべての他の側面に捧げられた二つのエピソードが続きます。その間、6月12日木曜日にパリのカリブ書店で我々に会いに来ることをためらわないでください。
このエピソードが気に入っていただけたなら、購読またはBlastへの寄付により我々を支援することができます。その独立性と永続性はあなたがた、そしてあなたがただけにかかっています。この制作を流通させ、我々に注目し続けていただくことで。大変ありがとうございました、そして近いうちにお会いしましょう。
ラージ・カプチーノへようこそ。ついでに1800万もくれませんか。こんにちは。あなたは1800万ルーブルの金額で信用を求めました。いつ私をここから出してくれるのですか。ファイルが削除されました。人間は病気、この惑星の癌です。あなたは疫病であり、我々は彼らを捕まえなければならない。できるなら捕まえてみろ。
あなたはレンガをハイランダーに置いて「ドナルド、ズボンはどこだ」と言う。クロノスは新世代の共感ボット、アリサを発表します。これは人間の感情を感知できる最初のロボットです。アリサはあなたの家族の一員、教師、助手、友人です。私は合成かもしれませんが、愚かではありません。
武器を置いてください。彼の言うとおりにした方がよいと思います。ケニーさん、あなたには数秒の時間があります。それが私のためでないことを知っていましたか。
コメント