8,343 文字
ChatGPTは意図的にあなたを欺く！ユヴァル・ノア・ハラリ、人工知能を語る（パート3）｜AGIに仕事を奪われたい
それでは、AIについて、そしてそれがこの文脈にどう当てはまるかについて話しましょう。人々は、たとえ各世代で物事が良くなるという単純な見方を信じていなくても、あなたが説明した複雑さを理解していると思います。彼らはAIをその連続性の一部だと想像するでしょう。それは単に最新の機械の形態であり、おそらく新聞やラジオ、印刷機のように、より多くの真実ではなく、より多くの偽情報を広めるものだと。あなたはそれが根本的に異なると説明しました。それは以前の形態との連続性の一部ではないと。なぜそれを新しいカテゴリーとして見ているのか説明してください。
AIは原子爆弾とも印刷機とも、これまでのあらゆる技術とも異なります。なぜならそれは私たちの手の中の道具ではなく、独立したエージェントだからです。それは自分で決定を下し、自分で新しいアイデアを生み出し、自分で学習し変化することができます。今起きているのは、単なる新しい道具の発明ではありません。人類社会に、地球の惑星社会に、何百万、そして潜在的には何十億もの新しい非有機的なエージェントが加わろうとしているのです。
これらのエージェントは、私たちについて、世界全体について、ますます多くの決定を下すようになります。新しい医薬品や、新しい武器、新しい金融商品、そして科学についての新しい理論、新しい神話も発明するでしょう。人々は結論を急ごうとします – それは良いことなのか悪いことなのか、危険は何か、潜在的な利点は何かと。しかし、少し思考のプロセスを遅くすることが重要です。判断を急がず、私たちが直面しているものを理解しようとすることです。
私たちは歴史上で一度も出会ったことのないものに直面しているのです。私はAIという言葉やその頭字語を、人工知能(Artificial Intelligence)の頭字語としてではなく、エイリアン・インテリジェンス(Alien Intelligence)の頭字語として考えるのが好きです。エイリアンというのは宇宙から来ているという意味ではありません。それはカリフォルニアや中国、そういった場所から来ています。エイリアンというのは、情報を処理し、新しいものを創造し、決定を下す方法が本当にエイリアン的だという意味です。人間とは全く異なる方法で、動物や全ての有機体とは全く異なる方法でそれを行います。それは地球への非有機的なエイリアンの侵略のようなものです。
それがどのように異なって考えるのか、あるいは情報をどのように異なって処理するのかについて説明してください。なぜなら、この議論の反対側にいる人々は、それは本当に新しいアイデアを生み出しているわけではなく、単に他の既存のアイデアの確率論的な再配置に過ぎないと言います。言い換えれば、それは自動補完のようなものです。次の単語が何になるかを推測しているだけで、それを新しいものを生み出す、新しいアイデアを生成するとは呼ぶべきではないと。
問題は、人間の創造性をどのように理解するかです。私が本を書くとき、何をしているのでしょうか。私は数年間、他の本を読み、記事を読み、人々と話をして、ここからアイデアを取り、あそこからアイデアを取って、それらを組み合わせて新しい本を作ります。これはどう違うのでしょうか。
自動補完について考えてみてください。私たちの頭の中の文章について考えてみてください。脳科学はまだ、私たちがどのように文章を完成させるのかを理解していません。私が今この文章を話すとき、どのように終わるのかわかりません。文を始めて、自分の心の中で何が起きているのかを見ると、言葉が形成され、口から出てくるのが見えます。しかし、その文がどのように終わるのかはわかりません。私たちは本当に、そこで何が起きているのかを理解していないのです。
では、AIは本当に人間がやっていることより根本的に劣ったことをしているのでしょうか。たとえば、最近のノーベル化学賞はAlphaFoldの創造者たちに与えられました。これは、タンパク質がどのように折りたたまれるかを予測するものです。人間が1つのタンパク質の折りたたみを理解するのに何年もかかっていたことを、このAIはずっと短い時間で何十万ものタンパク質について行いました。
私にとって、これは創造性に見えます。芸術的な創造性については議論の余地があるかもしれませんが、世界に新しいものを創造するという点では、これまでは不可能だったことが今は可能になっています。ある特定の動画や画像がない世界があり、今はそれが存在しています。人間が創造するものの大部分はそれほど印象的ではありませんし、AIが創造するものの大部分も印象的ではありません。しかし、それは常に新しいもの、予期せぬもの、人々が自分たちだけではできないものを創造し続けています。
そして最後に考慮すべきことは、これはまだ始まったばかりだということです。AIの革命は基本的に10年くらいの歴史しかありません。私たちはまだ何も見ていません。今日のAIはまだ非常に非常に非常に原始的で、非有機的知能の進化の最初の段階にすぎません。この進化は何世紀も、何千年も、何百万年も続くかもしれません。
しかし、それをエイリアン的にしている部分の一つは、有機的な進化よりもずっとずっとずっと速く動いているということです。有機的な進化は、最初の微生物から恐竜、そして哺乳類、そして最終的に人間に至るまでに40億年かかりました。AIの進化が同様の範囲をカバーするのに必要な時間は、わずか数十年かもしれません。
今日私たちが知っているAI、たとえばCHGPTやAlphaGold、AlphaFoldなどは、AI世界のアメーバ、AI進化の軌跡のアメーバのように考えるべきです。しかし、私たちは自分たちの生涯の中でAIの恐竜に出会うかもしれません。そしてもしGPTがアメーバなら、AIティラノサウルスはどのように見えるのでしょうか。そして、何百万、何十億ものAIティラノサウルスを私たちの社会にどのように組み込むのでしょうか。
それとも、彼らが私たちを彼らの社会に適応させ、吸収するのでしょうか。それが大きな問題です。人々がAIを恐れるとき、彼らは映画『ターミネーター』のようなハリウッドのSFシナリオ、巨大なロボットの反乱、ロボットが私たちに反抗し破壊することを決定する瞬間を想定しています。そしてその技術がまだないため、人々は油断しがちです。確かに、今日のAI、そして今後数年のAIでさえ、ロボット軍を構築して私たちに反抗することを決定する能力はありません。
しかし、彼らにはその必要がありません。なぜなら、私たちは世界の権力のレバーを、ますます彼らに委ねているからです。私は、ハリウッドの『ターミネーター』よりも、カフカの方がAIのディストピア、潜在的なAIのディストピアをより良く導いてくれると思います。なぜなら、重要なのは、世界は官僚機構によって運営されているということです。
官僚機構と官僚の力について考えてみてください。例えば、弁護士の力について考えてみましょう。世界最高の企業弁護士を取り上げて、官僚機構のシステムから取り出し、アフリカのサバンナに落とし込んだとしたら、彼女は無力です。何もできません。彼女は小さな何かに追いやられ、チンパンジーやライオン、象、ハイエナよりも弱いです。しかし、官僚機構のシステムの中では、彼女は全てのライオンを合わせたよりも強力です。世界中のライオンを全てここに集めて、この一人の弁護士を置いたとしても、彼女は官僚機構のシステムの中ではより強力です。なぜなら、彼女はライオンにはできない方法で権力のレバーを動かす方法を知っているからです。
これが今、AIが獲得しつつある力です。AlphaFoldやAlphaGo、あるいは次世代のAIを取り出して、世界に放り出してみましょう。大きなロボットの反乱を組織させてみましょう。彼らにはできません。「さあ、鉄を採掘してロボットを作り始めよう」というようなことはできません。しかし、彼らにはその必要がありません。彼らはすでに、私たちが構築した官僚機構のシステムの中で、ますます多くの力を与えられています。
一つの例を挙げて、それが抽象的なままにならないようにしましょう。私たちが本当に大規模に見たのは、ソーシャルメディアでした。世界中の何十億人もの人々の注意を制御する力、そのような巨大な力、ニュースサイクルを制御する力、人々が何について話すかを制御する力、以前はこの力は世界で最も重要な人々、ニュース編集者が握っていました。
近代を考えてみると、人間のニュース編集者の力、ガーディアン、ニューヨークタイムズ、ウォールストリートジャーナルの編集者の力について考えてみてください。レーニンはソビエト連邦の独裁者になる前、基本的に一つの仕事、「イスクラ」の編集者をしていました。ムッソリーニの権力への台頭も、まず社会主義新聞のジャーナリストとして始まり、その後ファシスト新聞「アヴァンティ」の主筆となり、そしてイタリアの独裁者となりました。ボリス・ジョンソンは「スペクテイター」の編集者でした。これらは多くの例の一つというわけではありません。これらは非常に重要な立場だからです。
では、今日の世界で最も重要な情報プラットフォーム、ニュースプラットフォームの編集者は誰でしょうか。彼らの名前は何でしょうか。彼らには名前がありません。なぜなら、彼らはアルゴリズムだからです。今日最も重要なニュースメディアは、Twitter、Facebook、YouTube、WeChat、Weiboです。そして、誰があなたのFacebookニュースフィードのトップに何を表示するかを決めているのでしょうか。誰がTikTokやYouTubeで次の推奨コンテンツを決めているのでしょうか。アルゴリズムです。これほどの力です。そしてこの力は、すでに私たちが目にしているものです。これは非常に非常に原始的なAIであり、これだけで地球上のあらゆる民主主義を不安定化させるのに十分でした。
あなたが書いている非常に具体的な例があります。私たちは、『2001年宇宙の旅』や『ターミネーター』、『ロボコップ』などのSFを想像する必要はないと思います。代わりに、実際の例、ミャンマーでのFacebookの例を取り上げることができます。
これはすでに10年近く前のことなので、ある程度の歴史的な視点を持つことができます。2010年代半ばのミャンマーで起きたことは、多数派のビルマ仏教徒と少数派のムスリムのロヒンギャの間に、何世代にもわたる民族的な緊張がありました。しかし、これは2010年代半ばに民族浄化キャンペーンへと爆発し、何千人ものロヒンギャが殺害され、何万人もが暴行を受け、何十万人もが追放されました。そして今、主にバングラデシュに巨大な難民キャンプがあります。
これは大部分、ソーシャルメディア、主にFacebook上のプロパガンダキャンペーンによって煽られました。Facebookはしばしばこの残虐行為に対する責任を非難されてきました。Facebookの基本的な防御は「私たちはそれをしていない、私たちはただのプラットフォームだ」というものです。ロヒンギャに対する全てのプロパガンダ、彼らは最近の世代にミャンマーに入ってきた外国人で、この地の一部ではないとか、彼らは全てテロリストで、私たちを破壊しようとしているなど、これら全ては人間によって書かれたものであり、Facebookによって書かれたのではありません。私たちはただのプラットフォームです。ルワンダのジェノサイドでラジオ技術を非難することはできませんし、ナチスが本を印刷したからといって印刷機を非難することはできません。では、なぜ私たちを非難するのですか、私たちはただのプラットフォームです。
問題は、彼らがただのプラットフォームではないということです。彼らは編集者でもあり、キュレーターでもあるのです。2010年代半ばのミャンマーの人々は、膨大な量の異なる種類のコンテンツを生産していました。確かに、ロヒンギャに対する憎悪に満ちた陰謀論を生産している人々もいましたし、他の人々は慈悲についての説教を生産し、また他の人々は生物学の授業を生産していました。そして大きな問題は、誰が編集者なのか、誰が何に注目が集まるかを決めるのか、誰が人々にどのコンテンツを推奨するかを決めるのか、ということでした。
この立場はFacebookのアルゴリズムによって担われていました。アルゴリズムはカリフォルニアのFacebook経営陣から非常に単純な任務を与えられました。彼らはロヒンギャに対して悪意を持っていたわけではありません。彼らはロヒンギャが存在することさえ知りませんでした。彼らはビルマ語を話さず、現地の現実から完全に切り離されていました。彼らはアルゴリズムに、一見非常に単純で良性な任務を与えました。ユーザーエンゲージメントを増やすこと。エンゲージメントは良いことに聞こえます、関与するということは。簡単な英語で言えば、プラットフォームでより多くの時間を過ごすようにすることです。なぜなら、人々がプラットフォームでより多くの時間を過ごすほど、より多くの広告を見せることができ、より多くのデータを収集することができ、投資家はユーザー時間が増加するのを見て非常に感銘を受けるので、私たちの株価も上がるからです。
これがアルゴリズムに与えられた任務でした。そしてアルゴリズムは実験を行いました。アルゴリズムは何百万人もの人間のモルモットを使って、どうすればユーザーエンゲージメントを増やせるかを実験しました。そして、人々を画面に釘付けにする最も簡単な方法は、人間の脳の憎しみのボタン、貪欲のボタン、恐怖のボタンを押すことだと発見しました。そしてこれが彼らがやったことです。彼らは意図的に憎悪に満ちたコンテンツを推奨し、推奨し、さらには自動再生までしました。
もちろんこれが残虐行為の唯一の理由ではありませんでしたが、これは主要な理由の一つでした。非人間的な知能による決定が、一部分、おそらく1%かもしれませんが、原因となった最初の主要な歴史的出来事かもしれません。そしてそれは、AIがまだアメーバの段階にあったときのことでした。私たちはまだ、沼地に浮かぶRNAのような段階にいたのです。
私はあなたに意図について尋ねたいと思います。あなたが説明したように、カリフォルニアのFacebookの編集者や幹部が、ミャンマーの人々を互いに敵対させて、ジェノサイドを引き起こそうとして座っていたわけではありません。まったくそうではありません。アルゴリズムはその場合、独自の勢いを持って発展したのです。私は、倫理的な観点から、責任がどこにあるのか、私たちがこのものを恐れるために意図が必要なのか、あるいは意図の欠如こそがそれを恐ろしいものにしているのかについて考えています。
一つの例を挙げさせてください。あなたは本の中で、AIが新しいパンデミックウイルスを設計する、あるいはそれが可能性としてあるという考えを想像しています。そのシナリオとは何でしょうか。つまり、それは恐ろしく聞こえます。ターミネーターではありませんが、別の意味で恐ろしいものです。それを行う意図がない場合、それはどのように起こり得るのでしょうか。そして、私たちはどのようにしてそれを止めることができるでしょうか。
意図は人間によって提供されます。意図は、AIに新しい致命的なウイルスを作ってパンデミックを引き起こすように指示するテロリストのグループかもしれません。それは国家主体かもしれません。それは、ミャンマーの場合のように、AIに全く異なる任務を与えることを理解していない誰かかもしれません。Facebookの本社の誰も、AIにユーザーエンゲージメントを増やすように指示すれば、それが何らかの形で民族浄化キャンペーンにつながるとは考えませんでした。怖いのは、この不一致、意図せざる結果です。
結局のところ、それは人間についても同じことが言えます。人間の動機を見てみると、ほとんどの人間は基本的に快楽を追求し、痛みを避けようとします。快い感情を追求し、苦痛な感情を避けようとします。そして、これがどのように戦争やジェノサイド、その他の恐ろしいことにつながるのか、その関連性を見ることは非常に困難です。だからこそ、害を予測し防止することも困難なのです。
もっと広い意味で話をすると、シリコンバレーのような場所でこれらのことについて話をすると、彼らは基本的に、新しい主要な技術が登場するたびに、人々は頭の中にこれらの恐ろしいシナリオを持っていますが、通常それらは実現せず、世界はより良い場所になると言うでしょう。彼らのお気に入りの例の一つは産業革命です。人々が列車や車などを発明したとき、それが私たちの脳を破壊する、私たちの社会を破壊するなどの終末論的なシナリオがあったけれど、1800年の状況と比べると、産業革命の結果として世界はずっと良くなったと。
しかし、歴史において、問題は目的地ではなく、そこに至る道、その方法にあることが多いのです。人類の歴史で1800年と2000年という2つの時点を取り上げて比較すると、地球上のほとんどの人間にとって、生態学的な災害を無視すれば（私たちはまだそれをどう扱うべきかわかりませんが）、生態学的な損害を無視して、人間の状況だけを見れば、イギリスやアメリカだけでなく、インドやインドネシア、ブラジルでも、1800年の生活条件と2000年を比較すると、はるかに良くなっています。乳児死亡率は下がり、出産時の女性の死亡率は下がり、病気は減り、飢餓も減り、すべてが改善されました。
しかし、実際に19世紀と20世紀の産業革命の歴史を見ると、それはジェットコースターのようでした。直線ではありませんでした。問題は技術が邪悪だったということではありません。列車や車に邪悪なものは何もありませんでした。問題は、それが世界を劇的に変えたにもかかわらず、人々がその変化に適応する方法を知らなかったことです。人々は良性の産業社会を構築する方法を知りませんでした。なぜなら、彼らは歴史の中でこれに遭遇したことがなく、設計図もモデルもなかったからです。
そこで彼らは実験を行い、その実験の中には恐ろしいものもありました。産業社会を建設する方法についての最初の主要な実験は、近代帝国主義でした。なぜなら、19世紀の多くの人々は、産業社会を建設する唯一の方法は帝国を建設し、植民地を持つことだと考えたからです。なぜでしょうか。農業社会とは対照的に、産業は原材料と市場を必要とするからです。原材料の供給源と市場をコントロールしなければ、他の国々が私たちを締め出す可能性があるので、帝国を建設しなければならないと。そして、ベルギーのような非常に小さな国でさえ、工業化すると帝国を建設したのを見ることができます。私たちは振り返ってこれはひどいアイデアだったと言いますが、彼らにはそれがわかりませんでした。そして、世界中の何億人もの人々がそのために恐ろしい代償を払いました。
そして、ソビエト共産主義がありました。産業社会を建設するための別の偉大なアイデアです。1920年代、30年代、40年代、ソ連やドイツだけでなく、世界中の多くの人々が、実行可能な産業社会は全体主義社会になるだろうと考えました。なぜなら、全体主義システムだけが産業の巨大な新しい力を活用し、制御し、最大限に活用できるからです。そこで大きな議論は、それがファシスト全体主義になるのか、共産主義全体主義になるのかということでしたが、全体主義でなければならないと考えられていました。そして再び、私たちは振り返ってこれは大きな間違いだったと言いますが、人々にはそれがわからなかったのです。
そして、AIの大きな危険は、再びハリウッド的なシナリオではなく、産業革命の再現のようなものです。基本的に、無知とモデルの欠如、そしてこれが発展するスピードのために、人々はAIベースの社会を構築する方法について非常に悪いアイデアを持つかもしれません。そして、新しい帝国主義と全体主義の波が来るかもしれません。あるいは、さらに悪いことが起こるかもしれません。
コメント