歴史学者ユヴァル・ノア・ハラリが、AIとは何か、AIの危険性、AI時代に人類が繁栄する方法について論じた講演である。AIは単なる自動化ではなく学習・決定・創造能力を持つエージェントであり、その予測不可能性と信頼性の欠如が根本的な問題であるとし、AI開発競争における信頼のパラドックスを指摘している。人類が互いを信頼せずにAIを信頼しようとする矛盾を浮き彫りにし、真の超知能AI開発前に人間同士の信頼関係構築の重要性を強調している。
AIと信頼のパラドックス
皆さん、こんにちは。ここにお招きいただき光栄です。お時間をいただき、ありがとうございます。時間があまりありませんので、この短い講演では3つの大きな質問を提起したいと思います。
第一に、AIとは何かです。第二に、AIの危険性とは何かです。そして第三に、AI時代に人類はいかにして繁栄できるかです。
第一の質問：AIとは何か
まず、AIとは何かという質問から始めましょう。AIを取り巻く誇大宣伝があまりにも多いため、この用語はほぼすべての機械に不正確に適用されるようになり、それが実際に何を意味するのかを知ることが困難になっています。
そこで、非常にはっきりと申し上げます。AIは自動化を意味するのではありません。AIはエージェンシーを意味します。AIは私たちの手の中にある道具ではありません。AIはエージェントなのです。
機械がAIであるためには、自動的に動作するだけでは十分ではありません。それ自体で学習し変化する能力、それ自体で決定を下す能力、そしてそれ自体で新しいアイデアを発明する能力も持たなければなりません。
簡単な例として、コーヒーマシンを考えてみましょう。ボタンを押すと、機械が事前にプログラムされた手順に従って自動的にエスプレッソを作ってくれる場合、これはAIではありません。機械は何も学習せず、新しいものも作り出していません。
しかし、あなたが機械に近づくと、ボタンを押す前でさえ、機械がこう言ったとします。「私はあなたを数週間監視してきました。あなたについて、そして他の多くの人間について学んだことすべてに基づいて、あなたがエスプレッソを欲しがっていると予測します。だから、すでにカップを用意しました」
これがAIです。それ自体で何かを学習し、何かを決定したのです。そして、翌日にその機械が「私は今、あなたがエスプレッソよりもさらに気に入ると思う新しい飲み物を発明しました。試してみてください。カップを用意しました」と発表すれば、それは本当にAIです。
エージェンシーに加えて、AIのもう一つの重要な特徴は、それが異質で非有機的なエージェントであることです。その知性は人間的ではなく、有機的でさえありません。人間には思いつかないような決定を下し、アイデアを発明します。
非常に有名な例は、2016年にAIのAlphaGoが人間の囲碁チャンピオンのイ・セドルを破った方法でした。この対局が正当に有名になったのは、AIが人間の囲碁の達人を破ったからというだけでなく、勝利するためにAlphaGoが、数千年の囲碁文化の中で人間の棋士には決して思いつかなかった新しい異質な戦略を発明したからです。
第二の質問：AIの危険性とは何か
AIがゲームをする新しい方法や新しい種類のコーヒーを発明している限り、それはそれほど重要に見えません。しかし、AIは間もなく新しい軍事戦略や金融戦略、新しい種類の兵器や通貨、さらには全く新しいイデオロギーや宗教まで発明するかもしれません。
では、第二の質問、AIの危険性とは何かに移りましょう。もちろん、AIには莫大な積極的な可能性があり、新しい薬の発明から破滅的な気候変動の防止まで、人類を無数の方法で助けることができます。
しかし、AIは多くの脅威も提起します。AIの基本的な問題は、それが異質なエージェントであり、したがって予測不可能で信頼できないことです。
超知能AIを開発する競争の中心には、信頼のパラドックスがあります。人間は他の人間を信頼することが困難だと感じていますが、私たちの中にはそれでもAIを信頼すべきだと信じている人たちがいます。
世界中を旅して、AIの開発を主導している人々に会うとき、私は必ず2つの質問をします。
まず、「巨大なリスクにもかかわらず、なぜそんなに急いでいるのですか」と尋ねます。彼らのほぼ全員が与える回答は「私たちは大きな危険があることに同意しており、注意深く進み、安全性により多く投資することが最善だと思います。しかし、競合他社が減速しない中で私たちが減速すれば、彼らがAI競争に勝利し、世界は最も冷酷な人々に支配されることになります。私たちは人間の競合他社を信頼できないので、可能な限り速く進まなければなりません」というものです。
次に私は第二の質問をします。「あなたが開発している超知能AIを信頼できると思いますか」。人間の競合他社を信頼できないと言ったばかりの同じ人々が、今度は自分たちが開発している超知能AIは信頼できると私に保証します。
これはまさにパラドックスです。私たちは人間との数千年の経験があります。人間の心理学と生物学、権力への人間の渇望、そして権力の追求を抑制する力について幅広い理解があります。また、人間同士の信頼を築く方法を見つけることでもかなりの進歩を遂げてきました。
10万年前、人類は数十人だけの小さな集団で生活し、集団外の誰も信頼できませんでした。今日では対照的に、14億人の市民を持つ中国のような国家があり、地球上の80億人すべてを結ぶ協力のネットワークがあります。完全な見知らぬ人がしばしば私たちを養う食料を育て、私たちを守る薬を発明しています。
もちろん、私たちは人間の信頼の問題を完全に解決するには程遠いですが、少なくとも私たちが直面している課題を理解しています。
対照的に、私たちはAIとの経験がほとんどありません。私たちは最初のプロトタイプを作ったばかりです。私たちはすでに、原始的なAIでさえ嘘をつき、操作し、人間の開発者によって予見されていない目標や戦略を採用できることを知っています。
数百万の超知能AIエージェントが数百万の人間と相互作用するとき何が起こるかは全く分かりません。数百万の超知能AIエージェントが互いに相互作用するとき何が起こるかを予測することはさらに困難です。
確かに、現在はAIを開発するのは人間なので、安全になるような方法でそれらを設計しようとすることができます。しかし、機械がAIであるのは、それ自体で学習し変化する能力がある場合のみであることを思い出してください。したがって、人間が最初にどのように設計したかに関係なく、AIはその後、根本的で予測不可能な方法で変化する可能性があります。
第三の質問：AI時代に人類が繁栄する方法
AI革命について考える一つの方法は、それを宇宙からの異星人の侵略と比較することです。高度に知的な異星人でいっぱいの宇宙船が地球に接近しており、2030年までに私たちの惑星に着陸すると告げられたとします。
私たちはこれらの異星人が友好的で、癌を克服し、気候変動を防ぎ、繁栄し平和な世界を築くのを助けてくれることを望んでいます。しかし、私たちの未来をこれらの異星人の善意に委ねることは危険だと、ほとんどの人は直感的に理解するでしょう。
同様に、私たちが開発しているAIエージェントが私たちの従順な召使いであり続けると単純に信頼できると仮定することは、巨大な賭けです。他の人間を信頼することに絶望しながらも、AIを信頼する方が簡単だと希望している人間は、非常に大きな間違いを犯している可能性があります。
では、最後の質問に移りましょう。AI時代に人類はいかにして繁栄できるでしょうか。
答えは簡単です。人間が団結すればAIをコントロールできますが、互いに争えばAIが私たちをコントロールすることになります。したがって、真の超知能AIエージェントを開発する前に、人間同士の信頼をより多く築くべきです。
残念ながら、現在私たちは正反対のことをしています。世界中で人間同士の信頼が崩壊しています。信頼の危機は大きな誤解から生じています。あまりにも多くの国が、強くなることは誰も信頼せず、他者から完全に分離することだと考えています。
しかし、完全な分離は不可能です。実際、自然界では完全な分離は死を意味します。
人間の体を例として考えてみてください。私たちは毎分息を吸ったり吐いたりしています。私たちが取るすべての呼吸は、私たちの外にあるものへの小さな信頼の身振りです。外から空気を肺に、体に取り込み、後でそれを宇宙に返します。この信頼に満ちた吸って吐いての動きが生命のリズムです。私たちの外のすべてを不信し、したがってこの吸って吐いての動きを止めれば、私たちは死にます。
これは国家全体についても同様です。各国は伝統とアイデアの異なる組み合わせですが、これらの伝統とアイデアの多くは、私たちが呼吸する空気のように外から来ています。
例えば中国は、数千年にわたって孔子や老子の思想から茶、火薬、印刷まで、他の国々に非常に多くを与えてきました。また、仏陀やカール・マルクスの思想からコーヒー、サッカー、列車、コンピューターまで、他の場所から非常に多くを受け取ってもきました。
いずれかの国の人々が、自分たちの国で生まれた食べ物、ゲーム、アイデアだけに自分たちを制限すれば、私たちの生活は非常に貧しく、不可能でないにしても困難になるでしょう。
すべての人間は何らかのグループに属していますが、すべての人間は人類全体にも属しています。そしてAI時代において、私たちが共有する人類の遺産を忘れ、私たちの外のすべてとすべての人への信頼を失えば、それは私たちを制御不能なAIにとって非常に簡単な獲物にするでしょう。
あまりにも多くの人が、歴史の遺産は主に痛みと恐怖だと考えています。人々は歴史書で過去の戦争、残虐行為、不正義について読み、その結果、過去の痛みにしがみつき、未来の痛みを恐れます。彼らは他の人々や他の国を見回しても、不安以外何も感じません。
恐怖と痛みはもちろん生存にとって重要であり、時には危険から私たちを守ってくれますが、恐怖と痛みだけの食事で生き残れる人はいません。歴史は私たちに、信頼がどちらよりも重要であることを教えています。
地球が人間によって支配され、チンパンジーや象によって支配されていないのはなぜか知っていますか。人間がより知的だからではありません。人間が世界を支配しているのは、見知らぬ人と信頼を築き、非常に非常に大きな数で協力する方法を他のどの動物よりもよく知っているからです。
私たちは数千年にわたってこの能力を発達させてきました。今、AI時代に生き残り繁栄するために、私たちはAIを信頼するよりも他の人間を信頼することがこれまで以上に重要です。
ありがとうございました。
コメント