ユヴァル・ノア・ハラリが、AI革命が想像を超えるスピードで加速する現代において、人類が直面する根本的な課題について語る。過去10年間で世界の信頼は著しく低下し、最も洗練された情報技術を持ちながら人間同士が対話できなくなっている矛盾を指摘する。ソーシャルメディアの原始的なアルゴリズムが憎悪や恐怖を増幅させ、人間同士の信頼を破壊する一方で、アルゴリズムへの信頼が高まっている現象を分析する。人類が言語を通じて物語を創造し世界を支配してきたが、今やAIが人間を上回るストーリーテリング能力を獲得し、聖書のバベルの塔の神話が現代に再現されていると論じる。しかし希望も存在する。AIを機械ではなく教育すべき「子ども」として捉え、人間が持つ権力欲以外の真実や愛や美への関心こそが、数十億規模の協力を可能にしてきた証であり、この能力が未来を切り開く鍵となる。
AI革命の加速と変化する世界
講演の準備についてですが、毎回その時々の状況に合わせて内容を用意しています。聴衆のためだけでなく、今この瞬間のために準備するんです。なぜなら、変化があまりにも速いからです。AI革命は、この革命を率いるリーダーたちが想像していた以上のスピードで加速していると思います。
10年前と今を比べてみてください。5年後にどこにいるのか、誰にも分かりません。
本当に驚くべきことですよね。2017年に初めてお会いしたときから、まだ9年も経っていません。でもまったく違う世界になっています。
完全に違いますね。
ソーシャルメディアアルゴリズムの役割
では、人工知能、特にソーシャルメディアを支配するアルゴリズムが、これほど深く速い変化の中でどのような役割を果たしてきたと思いますか。
ほぼ全員が同意できることが一つあります。それは、世界の信頼が10年前に比べて大幅に低下しているということです。国際秩序が崩壊しているだけでなく、国々が内部で分裂しています。これは本当に注目すべきことなんです。人類史上最も洗練された情報技術を持っているのに、人間同士がもはや会話できなくなっているんです。
最も基本的な事実について合意することができず、相手が言っていることに耳を傾けることができない。なぜそうなっているのか、正確には誰も理解していません。しかし、テクノロジーと人間の信頼と会話の崩壊の間に明確な関連があることは分かっています。ただ、あまりにも速く起こっているので、分かっていることもあります。
つまり、ほぼ全員が今や気づいていることは、ソーシャルメディアのアルゴリズムが果たしている主要な役割です。これらは非常に原始的なAIですが、それでも世界中で大混乱を引き起こしました。基本的に、これらの原始的なAIは、ソーシャルメディアプラットフォームからシンプルなタスクを与えられました。ユーザーエンゲージメントを増やし、より多くの人々がプラットフォームでより多くの時間を過ごすようにする、というものです。
そしてAIは世界に出ていき、何百万人もの人間のモルモットで実験を行い、人間の注意を引く最も簡単な方法は、心の中の憎悪ボタン、怒りボタン、恐怖ボタンを押すことだと発見しました。そしてAIはそれを実行し始め、世界をより多くの憎悪と貪欲と恐怖で満たしていったんです。
これは一つのメカニズムですが、唯一のものではありません。何千年もの歴史の中で、人間は主に直接お互いにコミュニケーションを取ってきました。あるいは、テキストのようなものを介して行ってきましたが、テキスト自体は話すことができませんでした。
人間がテキストを解釈する必要があったんです。しかし今では、人間のやり取りの大部分がデジタル技術、コンピューター、スクリーン、アルゴリズムによって媒介されていると思います。そしてこれが、人間がもはやお互いを信頼できなくなっている主な理由かもしれません。
アルゴリズムへの信頼の台頭
同時に、ある種の信頼の高まりが見られます。アルゴリズムへの信頼です。お金について話しましたが、これは最良の例の一つだと思います。銀行や連邦準備制度のような人間の金融機関への信頼を人間が失っているのと同時に、暗号通貨や実際にはアルゴリズム的なお金への信頼が高まっているのが分かります。
世界中で何かが起こっています。人間がお互いに話すことができず、お互いを信頼することができなくなり、代わりにアルゴリズムとAIに信頼を移しているんです。
物語と言語の力
あなたが『サピエンス』で指摘している点の一つは、コミュニティとして、社会的プロジェクトとして、人類のプロジェクトとして私たちを結びつけているのは、同じ物語を信じ、同じ物語を共有することだということです。お金に価値があると信じるから、お金には価値がある。人権を信じるから、人間には権利がある。
でも今、物語は言語、人間の言語に基づいて構築されています。そしてAIは基本的に私たちの言語の上に構築されています。
人間の言語をマスターしていますね。AIは今、大多数の人々よりも言語を上手に扱えると思います。
では、私たちは物語を作り、それを信じるという、人類としての主要な特徴を失おうとしているのでしょうか。
AIによるストーリーテリングの支配
そうですね。繰り返しになりますが、私たちが世界を支配できたのは、神々や、お金や、国家についての物語を構築するために言語を使う能力があったからです。
そして地球上には、ストーリーテリングで私たちと競争できるものは何もありませんでした。しかし今は存在します。私たちよりもストーリーテリングが上手な何かが。物語の領域を次第にコントロールしているものがあります。今日、世界で最も重要な編集者は人間ではありません。アルゴリズムなんです。
もう一つ物語を紹介させてください。バビロンの塔、聖書のバベルの塔の話を覚えていますか。最近友人が私に尋ねたんです。私たちは同じことをまた目撃しているのではないかと。バベルの塔の物語では、全人類が集まってこの塔を空へ、天国へ建てて、神と競争しようとしました。
でも彼らは共通の言語を話せなかった。
実は共通の言語を持っていました。だからこそ一緒に塔を建てることができたんです。しかし神が彼らに仕掛けたトリックは、彼らの言語を混乱させることでした。そして彼らはもはやお互いを理解できなくなり、すべてが崩壊したんです。
彼女は今起こっていることもそうなのかと尋ねました。私たちはAIという神のような力を築こうとしているのに、突然コミュニケーション能力を失っている。それで考えてみて、気づいたことがあります。今起こっていることと聖書の神話との間には大きな違いが一つあります。
塔は建設され続けているんです。
そうです。言語的に、つまりヘブライ語やポルトガル語や英語という同じ言語を話していても、人々はもはやお互いに話すことができません。しかしどういうわけか、塔はどんどん速く建設され続けています。
塔というのはエージェントではありません。私たちが建設しなければなりません。でもAIはエージェントなんです。
自分自身を構築する塔なんです。だから人間がお互いに話す能力を失っていく中で、私たちが作ったこの神のような塔が、次第にコントロールを握っています。そして、私たちは何も合意できないのに、塔はどんどん高く、どんどん速く成長し続けているんです。
AIに道徳性を持たせる挑戦
道徳的な感覚も、目的もなく。なぜならAIは定義上、非道徳的だからです。では、人工知能に道徳を教え込み、目的を与えるためにどうすればいいのでしょうか。
今、この問題に取り組んでいる人がたくさんいます。AIに何らかの道徳性を教え込む方法についてです。そして私は講演の中で少し触れました。これは単にコードの行を書いたり、数学的問題を解いてそれをAIに挿入したりすることでは実現できません。
AIを機械というよりも子どものようなものとして考える必要があります。学習し、成長し、発達し、変化するものとしてです。これは人間の哲学や教育において非常に古い問題でした。どのように子どもを教育しても、その子は世界に出ていき、物事が起こります。予測不可能なことが起こります。
つまり、これは新しい、人間をどう教育するかという議論全体があったわけです。
今、大きな問題は、AIをどう教育するかということです。AIが成長し、世界に出ていき、相互作用する中でも、私たち教師や親が提供した特定の基本的な道徳原則や基本的なガイドラインに従い続けるようにするにはどうすればいいのか。
あなたはAIという子どもが、機能不全の家族の子どもだと示唆していますね。
おそらく現時点では極めて機能不全の家族です。
希望のプラットフォーム
ポイントは、これが希望のプラットフォームだということです。私たちがここに集まってこうしたことについて話し合っているのは、この混乱、この問題から抜け出す方法を見つけたいからです。
人工知能の主な特徴の一つは、その原材料が過去だけだということです。語られてきた物語と、それ以前のすべてのもの。だから未来は私たちにかかっています。
私たちは、独創性という、人工知能と競争できる唯一の領域において、その挑戦に立ち向かえるでしょうか。
人間の達成と希望
そうですね。人間が何万年もかけて成し遂げてきたことを見れば、多くの希望があると思います。なぜなら人間は何度も何度も、ほぼ不可能なことを成し遂げる能力を証明してきたからです。そして一度達成してしまえば、それが存在するので当たり前だと思ってしまいますが、達成する前は全く不可能に思えたことなんです。
そしてもう一つ、私が権力について多く語ったことですが、私たちは世界をどう理解するかを変える必要があります。あるいは注意する必要があります。右派でも左派でも広がっている世界観があります。
世界全体が単なる権力ゲームに過ぎず、誰もが求めているのは権力だけだという考え方です。
これは人間の会話を破壊しているものの一つです。この考え方は、右派でも左派でも聞かれるものですが、誰かが何かを言うとき、その人は決して真実には興味がないという考えです。正義にも興味がない。ただあなたを操作してより多くの権力を得ようとしているだけだという考えです。
そしてこれが、機関、メディア、裁判所、政府、他の人々への信頼を侵食しているものです。覚えておくべき重要なこと、そして希望の源は、これが非常に皮肉な世界観であるだけでなく、完全に間違っているということです。
人間は複雑な存在です。確かに、多くの状況で権力を求めますが、それが唯一求めているものではありません。
真実、愛、美への関心
自分自身を見れば、ほとんどの人が気づくでしょう。私たちは真実にも本当に興味を持っています。少なくとも一部の状況では、世界について、自分自身について真実を知りたいと思っています。愛に対して本当の関心を持っています。美に対して本当の関心を持っています。
そしてこれが私について真実なら、なぜ他のすべての人々が単なる権力に飢えた悪魔だと仮定するのでしょうか。それは単に真実ではありません。
そして繰り返しになりますが、歴史を見れば、何度も何度も、人間がこの種の無慈悲な権力への飢えを克服できることが分かります。そうでなければ、私たちは決して協力できなかったでしょう。
数十人のグループでしか協力できなかったところから、数十億規模の協力まで進歩できたことを私たちは知っています。
たとえば科学を見てください。AIやその他多くのものの開発の背後にあるものです。科学はグローバルな協力的努力です。もしすべての人間が単なる権力に飢えた悪魔だったら、AIを開発することは不可能だったでしょう。
ユヴァル、本当にありがとうございました。あなたとご一緒できて光栄でした。とても嬉しかったです。
コメント