4,683 文字
ユヴァル・ノア・ハラリさん、お会いできて嬉しいです。来ていただきありがとうございます。
こちらこそ、来られて光栄です。
あなたの著書『ネクサス』について話をしたいと思います。この本を読んだ後、私は世界の終わりや人類の絶滅について考えることが多くなりました。あなたも日常的にそういうことを考えていますか？
それは可能性の一つだと思いますが、決定論的ではありませんし、避けられないものでもありません。これらの危険なシナリオについて警告する本を書く要点は、これらはただのシナリオに過ぎないということです。私たちにはまだそれらを防ぐ力と資源があります。
これまでのあらゆる技術は、ある意味で私たちに力を与えてきました。核兵器でさえも、もちろん私たちを破壊する可能性はありますが、それは私たちが決定した場合に限ります。原爆は私たちに力を与えました。なぜなら爆弾は誰を爆撃するか、誰を殺すかを自分で決めることができないからです。常に人間が決断を下す必要があります。
AIは違います。それは自分自身で決断を下せる史上初の技術です。つまり、もはや道具ではなく、エージェント、独立したエージェントなのです。同様に、それは自分自身で新しいアイデアを生み出せる史上初の技術でもあります。そしてもちろん、新しい武器も発明できます。それはより強力な核爆弾を発明できる核爆弾のようなもので、さらにより強力な核爆弾を発明することもできるのです。
それが必ずしもその方向に進む必要はありません。本質的に邪悪でも悪でもありません。多くの前向きな可能性を秘めています。史上最高の医療を提供したり、壊滅的な気候変動を防ぐのを助けたりする可能性があります。これは本当にプロセスの始まりに過ぎません。
有機体の進化について考えると、アメーバから恐竜に至るまでに何十億年もかかりました。デジタル進化は何百万倍も速いです。そしてもしGPT-4やこれがアメーバだとしたら、T-レックスはどのような姿をしているでしょうか。
おっしゃる通り、人工知能が街を歩き回って人々を殺すマトリックスやターミネーターのようなものにはならないでしょう。では、それはどのように見えるのでしょうか？潜在的な危険な結果は何でしょうか？
世界を乗っ取ろうとしている一つの大きなコンピュータがどこかにあるというわけではありません。AIについて考える必要があるのは、何百万、潜在的には何十億もの新しい非人間のエージェントが、より多くの位置を、より多くのシステム、官僚機構、企業、軍隊、政府で占めているということです。繰り返しますが、世界と私たちの生活について決定を下し、その過程で私たちは力を失うだけでなく、世界を理解する能力も失っています。なぜなら、ますますこれらのものがどのように決定を下すのか、これらの極めて複雑なシステムを理解できなくなっているからです。
すでに近年見てきたことは、AIがある程度私たちの文化、社会、会話を乗っ取っているということです。そしてソーシャルメディアにおいて、どのようなコンテンツを宣伝するかについての最も重要な決定の一部はアルゴリズムによって行われています。AIはヘイトスピーチやフェイクニュース、陰謀論を宣伝することを決定しました。なぜなら、ユーザーエンゲージメントを増やすという任務を与えられたからです。これがソーシャルメディア企業の聖杯のようなものです。ユーザーエンゲージメントを増やすことです。そしてアルゴリズムは試行錯誤により、何百万人もの人々に実験することによって、怒りがエンゲージメントを得ることを発見しました。このことがすでに世界中の社会、ミャンマーからアメリカまでで偏極化の増加をもたらしています。
繰り返しますが、これは始まりに過ぎません。これまでのところ、これらのアルゴリズムは人間によって作成されたコンテンツを宣伝していました。誰かが、人間が陰謀論を考案する必要がありました。それをアルゴリズムが宣伝したのです。今や新世代のAIでは、彼ら自身がコンテンツを作成することができます。
『ネクサス』であなたは歴史から学び、私たちが今すぐ、あるいは近いうちにAIを規制しなければ何が起こるかを予測したり、描写したりしていますね。印刷機や産業革命のような他の技術革命について書いていますが、今日活かせる歴史から学べる最も重要な教訓は何だと思いますか？
二つの教訓があります。まず、完全に自由な情報市場を作ると、真実は勝利しないということです。真実はフィクションや嘘、神話よりも複雑で、コストがかかり、痛みを伴います。ジャーナリストとしても、何かフィクションの話を作り上げるのは非常に簡単ですが、真実を書こうとすると、多くの時間とエネルギー、努力を投資しなければなりません。
同様に、方程式のもう一方の側、つまり視聴者について考えると、視聴者が真実の話につながるのは多くの場合より困難です。なぜなら現実は複雑で込み入っているので、真の話を本当に理解するには多くの努力が必要ですが、フィクションの話はできるだけシンプルにすることができます。だから真実を勝たせたいなら、天秤を傾ける必要があります。何かを投資する必要があるのです。
以前の大きな技術革命から学んだもう一つの教訓は、人間は非常に適応力がありますが、適応のプロセスはコストがかかり、危険だということです。人間が産業技術を開発し始めたとき、誰も良い産業社会の作り方を知りませんでした。だから様々な実験がありました。帝国主義は産業社会を構築する実験でした。19世紀から20世紀初頭にかけて、産業社会は帝国でなければならないと考えた人々が多くいました。原材料の供給源と市場をコントロールする必要があるからです。だから帝国を建設しなければならないと。
このタイプの考え方は広がり、イギリスやフランス、日本、ロシア、アメリカはみな帝国を建設し始めました。何億人もの人々に恐ろしい結果をもたらしました。最終的に人々は、いや、帝国ではない産業社会を構築できることに気づきました。
同様に、本当に効率的な産業社会を構築する唯一の方法は共産主義だと言った他の人々もいました。そしてソビエト連邦や他の場所で共産主義という大きな実験が行われ、それもまた非常にコストがかかりました。ファシズムも同じです。ファシズムも産業社会を構築するための大きな失敗した実験でした。
だから言えることは、これらすべての実験の後、帝国主義と共産主義とファシズムと二つの世界大戦の後、私たちはついに正しい方法を手に入れたと言えるかもしれません。議論の余地はありますが、正しい方法を手に入れたとしましょう。もし私たちがAIとバイオエンジニアリングでこのプロセスをもう一度経験しなければならないとしたら、私たちはこのようなAIベースの社会の構築方法を知りません。だから失敗した実験のサイクルをもう一度経験しなければならず、より多くの帝国主義と全体主義と世界大戦を経て、最終的に正しい方法を手に入れるでしょう。これは非常に悪いニュースです。ですから、歴史からの教訓は、単に最終結果だけを考えないことです。
文学からも学ぶことができると思いますか？メアリー・シェリー、フィリップ・K・ディック、ウィリアム・ギブソン、アイザック・アシモフなどが警告してきたのではないでしょうか？
警告されてきましたし、それは非常に重要で良いことです。私たちの時代の最も重要な文学ジャンルはSFだと思います。なぜならそれはこれらの可能性すべてに取り組み、危険について警告し、より良い社会を構築する方法について推測しようとするからです。
しかしこれが成功するためには、SFが技術が人間関係を根本的にどのように変えるかを深く掘り下げる必要があると思います。なぜなら、ただ古い話を取り上げてロボットで再演するようなSFが多いからです。ロボットでロミオとジュリエットをやったり、宇宙でレーザー銃と宇宙船を使ってやったりすることができますが、それはまだロミオとジュリエットです。人間同士の関係について新しいことは何も教えてくれません。
官僚制についてのフィクションがもっと必要だとも書いていますね。
これは芸術における最大の欠落だと思います。芸術は官僚制を説明するのが得意ではありません。カフカやキャッチ22はありますが、完全に欠けているわけではありません。しかし大ヒット作やベストセラーを見ると…
そうですね、ベストセラーやブロックバスターではありません。これが問題です。なぜなら私たちの生活は主に官僚的なシステムによって管理されていますが、テレビをつけて政治に関する番組を見ると、官僚制を無視し、代わりに王朝政治についての中世的あるいは石器時代的な話を語る可能性が高いからです。家族や数家族に焦点が当てられ、家族内または家族間の競争を特徴づける基本的な生物学的ドラマに焦点が当てられています。
例えば『サクセション』のような作品では、子供たちが父親の注目を求めて競争しています。これは非常に重要な話ですが、人間が存在する何百万年も前に進化によってすでに作られていました。これはチンパンジーのことでもあります。彼らもそれを知っています。そしてそれは21世紀の政治が実際にどのように機能するかの良いガイドではありません。
なぜなら、このような物語がなければ、人々は世界を理解できず、ディープステートや世界を支配する陰謀団についての陰謀論の犠牲になりやすくなります。しかし実際にはそれは官僚制であって、陰謀ではありません。また、システムを変えることも難しくなります。無力感を感じるのです。
進化は私たちを虎による死には備えさせましたが、文書による死には備えさせませんでした。今日では虎よりも文書によって死ぬ人の方がはるかに多いのです。
あなたは前向きですか？楽観的ですか、それとも悲観的ですか？私たちの未来について。難しい質問だとは思いますが。
現実主義者であろうとしています。つまり、楽観主義は「すべてうまくいく」と言うようなもので、悲観主義は「私たちは皆滅びる」というものです。どちらの立場も責任を放棄させるものです。もし最終的にすべてうまくいくなら、なぜ気にするのでしょうか？行動を起こす必要はありません。そして私たちが滅びるとしたら、なぜ残された少ない時間を行動を起こすことに無駄にするのでしょうか。
現実主義とは、人間として、人類として、主要な課題に対処するための資源、技術、知恵をまだ持っているということを理解することです。それが気候変動であれ、AIの台頭であれです。
例えば、気候変動について考えるとき、人々が認識すべきことの一つは、壊滅的な気候変動を防ぐコストは何か、どのくらいの小切手を書く必要があるのか、どれだけのお金が必要なのかということです。誰も確実には知りませんが、最良の推定では世界のGDPの2%、3%、おそらく5%程度です。これは多いですが、完全に実行可能です。
もし50%だと言ったら、忘れてください。やらないでしょう。6500万年前に恐竜であって小惑星が来たときのようではありません。その場合、何もできないので気にする必要はありません。しかし私たちは恐竜のようではありません。私たちの資源の5%でさえ、ある分野から別の分野に移すことは、政治家が常にやっていることです。
ハラリ教授、お話できて光栄でした。ありがとうございました。
ありがとうございました。
コメント