歴史家ユヴァル・ノア・ハラリが、AI時代における人類の未来について論じた講演である。戦後の国際秩序が崩壊し、力が支配する世界へと移行する中で、AIという非人間的な形成者が初めて登場したことの意味を問う。AIは単なる自動化ではなく、独立した学習能力と意思決定能力を持つエージェンシーであり、金融システムから宗教まで、人間社会のあらゆる領域に革命的な変化をもたらす可能性がある。しかし、その異質な知性ゆえに予測不可能で信頼しがたい存在でもある。ハラリは、人類がAIに支配されないためには、超知能AIを開発する前に人間同士の信頼を構築することが不可欠だと主張する。力は幸福ではなく、知性は知恵ではないという歴史の教訓を踏まえ、ビジネスリーダーやイノベーターに対し、人間の尊厳を守り、協力的な世界を築くために自らの力を使うよう呼びかけている。
世界を形成する力と人類の未来
皆さん、こんにちは。今日私が皆さんにお話ししたいのは、世界を形成する力、そして私たちの未来を形成する力についてです。リーダーやイノベーターとしての皆さんの力についてですが、同時に人類全体としての力についてもお話しします。そして私たちが直面している大きな問題は、AIが人類から未来をコントロールする力を奪っているのか、それともAIが人類にかつてないほどの力を与えているのかということです。
そしてまた、私たちはもはや人類について、単一の人類について語ることができるのでしょうか。それとも、AI時代の人類は異なるグループに分裂しつつあり、それぞれが根本的に異なる未来を迎えるのでしょうか。しかしAIの話に入る前に、政治について少し触れておかなければなりません。21世紀初頭の比較的安定したリベラルな秩序は崩壊しつつあります。普遍的価値観、グローバルな機関、国際法に基づく協力的な秩序ではなく、私たちはたった一つのことだけが重要な、超競争的で混沌とした世界に入りつつあります。そのたった一つのこととは、力ずくの権力です。
トランプ大統領のようなリーダーたちは、世界を要塞の集合体として思い描いています。各国は高い壁によって他国から隔てられているのです。関税のような金融の壁、軍事的な壁、文化的な壁、そして物理的な壁です。このビジョンには一定の利点があるかもしれませんが、一つの重要な問題に対処できていません。世界の要塞は友好的であることが稀だということです。
何千年もの歴史が私たちに教えているのは、それぞれの国家要塞はおそらく、隣国を犠牲にして自国のためにもう少し多くの安全保障、繁栄、そして領土を欲するだろうということです。そして普遍的価値観、グローバルな機関、国際法が存在しない中で、対立する要塞たちはどのようにして争いを解決するのでしょうか。何千年もの間、世界を要塞の集合体として見るビジョンは、常にまったく同じ結果をもたらしてきました。
終わりのない戦争のサイクルです。強力な帝国が弱い隣国を征服し、最終的には覇権をめぐって互いに戦うのです。これはすでに私たちの周りで起こり始めています。1945年以来タブーとされてきた征服戦争が戻ってきています。ロシアはすでにウクライナを征服してロシア帝国を再建しようとする試みで100万人の犠牲者を出しています。
トランプ政権はすでにグリーンランド、パナマ、さらにはカナダに関して帝国主義的な野心を表明しており、イスラエルによるガザ征服を支持しているように見えます。中国もまた、海外拡張に目を向けています。旧秩序の崩壊は恐ろしいことですが、もちろんより良い秩序を形成する機会でもあります。そして大きな問題は、誰が形成者になるのかということです。旧来のリベラルな秩序では、すべての人間が形成者になるべきだという理想がありました。
あなたがアメリカ出身であろうとブラジル出身であろうと、白人であろうと黒人であろうと、男性であろうと女性であろうと、ストレートであろうとゲイであろうと、あなたには平等な人間の尊厳がありました。したがって、少なくとも理論上は、あなたの見解や利益は何かしらの意味を持っていたのです。確かに、このリベラルな理想は完全には実現されませんでした。理想は現実ではありません。
しかしそれでも、リベラルな世界は以前の歴史的モデルに比べて大きな改善でした。新しいポストリベラルな混沌とした世界では、平等な人間の尊厳という理想は完全かつ公然と放棄されています。すべての人間がすべての人間にとって良い世界を形成しようと協力するのではなく、現在のマントラは「私が最優先」と「力こそ正義」です。
少数の国々にいる数人の強力な人々が、すべての人々のために世界を形成する権利を持っていると考えています。もし皆さんが今年初めのホワイトハウスでのトランプ大統領とゼレンスキー大統領の会談を覚えているなら、ゼレンスキー大統領が正義や平和、国家の領土主権といったことについて話すたびに、トランプ大統領は彼の話を遮ってこう言いました。「君にはカードがない。君にはカードがないんだ」と。
私たちがここサンパウロで人類の未来について話すために集まっている今、皆さん一人ひとりが考えるべき二つの質問があります。第一に、あなたには何かカードがありますか。サンパウロにカードはありますか。それとも、すべてのカードはワシントン、北京、モスクワにあり、ドナルド・トランプ、イーロン・マスク、習近平、ウラジーミル・プーチンのような人々の手にあるのでしょうか。第二の質問はおそらくさらに重要です。
あなたは、唯一重要なのがカードである世界に住みたいですか。人生は結局のところ、勝者と敗者がいるカードゲームに過ぎないのでしょうか。さて、私は今したのとまったく同じスピーチを1939年にも、1914年にも、あるいは人類が大きな危機の瀬戸際にあった無数の他の歴史的瞬間にもすることができたでしょう。しかし今回は本当に違います。なぜなら、21世紀の新しい世界を誰が形成するのかと自問するとき、私たちは人間の形成者だけでなく、他のことも考慮に入れる必要があるからです。
非人間的な形成者、AIの出現
歴史上初めて、この惑星には非人間的な形成者、つまりAIも存在しています。私たちは、おそらく数年後には、アルゴリズムがトランプやプーチンを含むすべての人間に「あなたにはカードがない」と告げる瞬間にかなり近づいているかもしれません。AI時代に入るにあたり、私はここで簡単に三つの質問を探求したいと思います。
AIとは何か。AIの脅威とは何か。そして、ビジネスリーダー、起業家、イノベーターである皆さんすべてが、AI時代において人類が生き残るだけでなく繁栄するのを、どのように助けることができるのか。では始めましょう。AIとは何でしょうか。このAIという用語には非常に多くの誇大宣伝があるため、この用語は今やほぼすべての機械に不正確に適用されており、それが本当に何を意味するのかを知ることが難しくなっています。
ですから、非常に明確にさせてください。AIは自動化を意味しません。AIはエージェンシーを意味します。AIは私たちの手の中にあるツールではありません。AIは、自ら行動し、学習し、変化する能力を持つ独立したエージェントです。機械がAIであるためには、独立して自動的に行動するだけでは十分ではありません。それ自身で学習し変化する能力、それ自身で決定を下す能力、そしてそれ自身で新しいアイデアを発明する能力を持たなければなりません。
簡単な例として、コーヒーマシンを考えてみましょう。もしあなたがボタンを押して、マシンが事前にプログラムされた手順に従って自動的にエスプレッソを作るなら、これはAIではありません。マシンは自分で何も学習せず、新しいものを作り出しません。しかし、あなたがマシンに近づくと、ボタンを押す前に、マシンがあなたにこう言うとしましょう。「私はここ数週間あなたをモニタリングしてきました。
あなたについて学んだすべてのこと、そして今のあなたの表情に基づいて、私はあなたが砂糖スプーン一杯入りのダブルエスプレッソを飲みたいと予測します。だから、すでにそのようなカップを作っておきました。はい、どうぞ」と。これがAIです。それは自分で何かを学び、自分で何かを決定したのです。
そして、翌日マシンがこう発表するなら、それは本当にAIです。「私は今、ベストエスプレッソと呼ぶ新しい飲み物を発明しました。そして、あなたはエスプレッソよりもそれをもっと気に入ると思います。だから、これを試してみてください。カップを作りました」と。AIについての混乱は、この用語自体から一部生じています。AI という用語は数十年前に人工知能(Artificial Intelligence)の頭文字として発明されました。しかし、もし「人工的」という言葉で完全に人間によって設計され制御されているものを意味するなら、AIを人工知能として考えるのは不正確です。
AIはこの意味では人工的ではありません。ですから、おそらくAIをエイリアン知能(Alien Intelligence)の頭文字として考える方が良いでしょう。エイリアンというのは、それが宇宙からやってきたという意味ではありません。エイリアンというのは、これが非人間的な知性であるという意味です。それは有機的な知性ですらありません。それはまったく異なる無機的な原理で動作しています。
したがって、人間や他のあらゆる有機的動物には決して思いつかないような決定を下し、アイデアを発明することができるのです。この有名な例は、2016年にAIのAlphaGoが囲碁の人間チャンピオン、イ・セドルをソウルで破ったときにすでに示されました。この対局が正当にも有名になったのは、AlphaGoが人間チャンピオンを破ったからというだけではありません。AlphaGoがイ・セドルを破った方法が世界に衝撃を与えたのです。
なぜなら、AlphaGoは勝つために、囲碁の何千年もの歴史の中で人間のプレイヤーには決して思いつかなかった、ゲームをプレイするための新しい戦略を発明したからです。さて、AIがゲームをプレイする新しい方法や新しい種類のコーヒーを発明する限りは、それほど重要には見えません。しかし非常に近いうちに、AIは新しい軍事戦略、新しい種類のお金、そしてイデオロギーや宗教全体さえも発明するでしょう。
お金と金融全般について考えてみましょう。もし皆さんが2007年から2008年の金融危機を思い出すなら、それが主に CDO、債務担保証券と呼ばれるものによって引き起こされた、あるいは始まったことを覚えているかもしれません。CDOは、少数の数学者と投資の魔術師によって発明された金融商品でした。
これらの金融商品は非常に複雑で、政治家や規制当局を含むほとんどの人間にとってはほぼ理解不可能でした。そしてこれが監視の失敗と世界的な大惨事につながったのです。さて、もし私たちが今、AIがCDOよりも桁違いに複雑で、どんな人間にもまったく理解不可能な新しい金融商品を発明することを許可し、あるいは奨励さえするとしたら、何が起こるでしょうか。
そのような商品は金融効率を大いに改善し、経済成長に貢献する可能性があり、世界金融システムの基盤になる可能性があります。しかし、もう誰一人として有権者も政治家も金融を理解し規制することができなくなったとき、人間の政治はどうなるのでしょうか。そして、数年間の前例のない好景気の後、金融システムが突然崩壊し、地球上に何が起こっているのかを理解できる人間が一人もいなかったら、何が起こるのでしょうか。
さて、宗教のようなものへの影響を考えてみましょう。特に、キリスト教、イスラム教、ユダヤ教のようなテキストに基づく宗教を例にとってみましょう。何千年もの間、ユダヤ教は究極の権威を人間にではなく、聖書やタルムードのようなテキストに与えてきました。しかし、生身の人間であるラビたちは、ユダヤ社会内で非常に大きな権力を持っていました。その理由は単純で、彼らの聖なるテキストが決して自ら語ることができなかったからです。
それらは無言でした。テキストについて質問があるときはいつでも、人間の解釈者が必要でした。ラビとは、聖書から最新のタルムード注釈まで、多くのユダヤ教テキストに精通している人間です。これが彼らの権威の源です。さて、何世紀にもわたって、非常に多くのユダヤ教テキストが作られてきたため、最も学識のあるラビでさえ、生涯でこれらすべてのテキストを読むことはできませんし、そこに書かれているすべてを記憶することもできません。
しかし、もちろんこれはAIが簡単に成し遂げることができることです。AIはこれまでに作成されたすべてのユダヤ教テキストを素早く読み、これらすべてのテキストの一語一語を記憶し、さらにこれまで人間の注目や注意を逃れてきたテキストのパターンを見つけることができます。そしてAIは、その前例のない聖典の理解と知識を使って、聖なる言葉のまったく新しい解釈を生み出すことができるのです。
そしてもちろん、これはキリスト教やイスラム教にも当てはまります。事実上、AIは人間の仲介を一切必要とせずに、信者に語りかける聖なるテキストとして機能し始めることができるのです。テキストが話し始めたとき、テキストの宗教に何が起こるのでしょうか。さて、私が言ったように、ユダヤ教はテキストに権威を置いているので、生身のラビはAIの聖典論争を単に無視することはできません。
そして人間のラビたちは、ユダヤ教の正典に対するAIの習熟に対抗することが非常に困難であることにすぐに気づくでしょう。たとえAIに正式なラビの地位が与えられなくても、少なくとも一部の人間、さらには一部のラビでさえ、聖典の指導とインスピレーションを求めてAIラビに頼るようになる可能性が高いのです。その結果は、非常に古い宗教における驚くべき新しい展開や、まったく新しい宗教の出現かもしれません。
さて、このような展開には莫大なポジティブな可能性があります。新しい薬の発明から壊滅的な気候変動の防止まで、無数の方法で人類を助けることができます。しかしもちろん、AIは多くの脅威ももたらします。それでは、第二の質問、AIの脅威とは何かに移りましょう。AIの基本的な問題は、それが悪であるということではありません。
問題は、それが異質であり、したがって予測不可能で信頼できないということです。AI競争の中心には、信頼のパラドックスがあります。人間は互いに信頼することが難しく、特に世界が敵対的な要塞の集合体になりつつある今はなおさらです。しかし、AIを開発する人々は、どういうわけか私たちがAIを信頼すべきだ、信頼できると信じることができるのです。
AI革命を主導する人々に会うとき、私は通常彼らに二つの質問をします。まず、非常に大きなリスクがあるのに、なぜそんなに急いでいるのかと尋ねます。そして、ほぼすべての人が与える答えは同じです。彼らは言います。「私たちも同意します。大きな危険があることは知っていますし、もっと慎重に進めるのが最善でしょう。
しかし、もし私たちが減速して、他の会社や他の国の競合相手が減速しなければ、彼らがAI競争に勝ち、世界は最も無慈悲な人々によって支配されるでしょう。私たちは人間の競合相手を信頼できません。だから、できるだけ速く進まなければならないのです」と。そして私は第二の質問をします。あなたが開発している超知能AIを信頼できると思いますか。すると、人間の競合相手を信頼できないと言ったばかりの同じ人々が、突然、超知能AIは信頼できると私に保証するのです。
そしてこれは大きなパラドックスです。なぜなら、私たちは人間と数千年の経験があるからです。私たちは人間の心理学と生物学、権力への人間の渇望、権力を得るために人間が使う策略、そして権力の追求を抑制する力について、広範な理解を持っています。
私たちはまた、人間の間に信頼を築く方法を見つけることでかなりの進歩を遂げてきました。10万年前、人々はわずか数十人の小さなグループで暮らしており、自分たちのグループ外の誰も信頼できませんでした。今日では、ブラジルのように数億人の市民を擁する国家があり、地球上の80億人すべてをつなぐさらに大きな協力のネットワークさえあります。
まったくの見知らぬ人が、私たちが食べる食物を育て、私たちを健康に保つ薬を発明し開発していることがよくあります。もちろん、私たちは人間の信頼の問題を完全に解決するには程遠く、世界にはまだ多くの緊張、対立、戦争があります。しかし人間に関しては、少なくとも私たちは直面している課題を理解しています。
対照的に、私たちは超知能AIとの経験がほとんどありません。私たちはごく最初のプロトタイプを作成したばかりです。私たちはすでに、原始的なAIでさえ嘘をつき、操作し、人間の開発者によって予見されなかった目標や戦略を採用できることを知っています。何百万もの超知能AIが何百万もの人間と相互作用するとき、何が起こるかまったく見当がつきません。
そして、何百万もの超知能AIが互いに相互作用し、AI社会、AI部族を作り出すとき、何が起こるかを予測することはさらに困難です。彼らはどのような目標を発展させるのでしょうか。どのような策略を発明するかもしれないのでしょうか。確かに、現時点では、AIを開発するのは人間なので、人類にとって安全になるように設計しようとすることができます。
しかし、機械がそれ自身で学習し変化する能力、それ自身で決定を下す能力、そしてそれ自身で新しいアイデアを発明する能力を持っている場合にのみ、機械はAIであることを思い出してください。ですから、人間が最初にどのように設計しても、AIはその後、根本的かつ予測不可能な方法で変化する可能性があるのです。
そして、これらの超知能的な異質な知性が常に私たちの従順なしもべであり続けることを単純に信じることは、非常に大きな賭けです。他の人間を信頼することに絶望しながら、これらの異質な知性を信頼できると考える人間は、非常に非常に大きな間違いを犯しているかもしれません。さて、AIがどのように人間のコントロールから逃れるかもしれないかを理解することが、人々にとって難しい場合があることは承知しています。
SFの影響により、AIが私たちのコントロールから逃れることについて話すとき、人々は殺人ロボットが街中を走り回って人々を撃つシナリオを想像しがちです。このようなことは実際にウクライナやガザのような一部の場所ですでに起こっていますが、それでもこれは間違ったイメージです。
AIがどのように私たちのコントロールから逃れることができるかを理解したいなら、殺人ロボットについて考えるのではなく、ビジネス企業について考えてください。企業とは何でしょうか。マイクロソフトやスペースX、ペトロブラスのような企業は非人間的なエージェントです。彼らには身体も心もありませんが、これらの企業は銀行口座を開設し、人を雇用し、解雇し、政治家にロビー活動を行い、その他多くのことができます。
さて、以前はこの企業のエージェンシーは単なる法的フィクション、弁護士の空想に過ぎませんでした。なぜでしょうか。なぜなら、実際には、マイクロソフトやペトロブラスによってなされるすべての決定は、実際には企業ではなく、ある人間によってなされていたからです。すべての決定は、人間の幹部、人間の株主、人間のエンジニアによってなされていました。しかしAIによって、企業の決定はますます非人間的知性、非人間的エージェントによってなされるようになるでしょう。
人間の幹部も人間の株主もいない企業を想像してください。AIの幹部と株主だけです。この企業は何十億ものお金を稼ぎ、世界を再形成することができます。すでに2025年の今日における実際的な質問は、社会として私たちはそのようなことを許可したいかということです。これは実際的な質問です。私たちは社会として、AIが銀行口座を開設し、企業を管理し、取引し投資し、人を雇用し、政治家にロビー活動することを許可するのでしょうか。それでは最後の質問に移りましょう。
AI時代における人類の繁栄への道
人類はAI時代にどのように繁栄できるのでしょうか。生き残り繁栄するために、私たちは歴史から二つの教訓を覚えておく必要があります。第一に、力は幸福ではありません。私たち人間は力を獲得することに非常に優れていますが、これまでのところ、力を幸福に変換することにはあまり成功していません。だからこそ今日、私たちは石器時代よりも何千倍も強力ですが、人間は何千倍も幸せではないのです。
だからこそまた、トランプやマスク、習近平、プーチンのような世界で最も強力な人々は、間違いなく世界で最も幸せな人々ではないのです。第二に、生き残り繁栄するために、私たちは知性は知恵ではないということも覚えておくべきです。人間はこの惑星で最も知的な動物です。
そして同時に、私たちはこの惑星で最も妄想に陥りやすい動物でもあります。人間が信じることができるようなナンセンスを、他のどの動物も信じることはできません。たとえば、私の故郷である中東地域は、あなたが想像できる最も馬鹿げた空想によって一部煽られた恐ろしい戦争で燃えています。そこの人間たちは、紛争のすべての側で、宇宙の創造主が他の人間と戦い殺すよう命じたと真剣に信じています。
そして彼らはまた、宇宙の創造主が暴力に対する報酬として、天国で永遠の喜びと至福を与えてくれると真剣に信じています。どんなチンパンジーもそのようなナンセンスを決して信じません。しかし、多くの非常に知的な人間がそれを信じているのです。ですから、力は幸福ではなく、知性は知恵ではありません。AIは私たちよりも強力でより知的になるでしょう。
しかし、AIの力は幸福をもたらすという意味ではありません。そしてAIの知性は、AIが妄想から自由であるという意味ではありません。実際、超知能は超妄想に陥っているかもしれません。したがって、ビジネスリーダーやイノベーターにとっての大きな課題は、より強力でより知的なテクノロジーをどのように作るかではありません。
むしろ、課題は、このすべての力と知性を良い目的のために使用するために必要な知恵をどのように発展させるかということです。どうやってそれを行うのでしょうか。答えは非常にシンプルです。超知能AIを開発する前に、人間の間により多くの信頼を築くことです。なぜ地球はチンパンジーではなく人間によって支配されているか知っていますか。私たちがチンパンジーよりも知的だからではありません。
人間が世界を支配しているのは、私たちが他のどの動物よりも、見知らぬ人との信頼を築き、非常に非常に多くの数で協力する方法を知っているからです。私たちはこの能力を何千年もかけて発展させてきました。残念ながら、人間の信頼がこれまで以上に必要とされているまさにそのときに、私たちの最も強力なリーダーの多くがこの信頼を破壊することに忙しいのです。すべての人間の間のつながりを強化する代わりに、彼らは人間の間に壁を築くことに忙しいのです。
もし人類が分断されていれば、AIは私たちのコントロールから逃れ、私たちを奴隷にし、あるいは絶滅させるでしょう。一方、人類が協力すれば、私たちは一緒にAIやその他のテクノロジーを安全で責任ある方法で開発することができます。AIを人類の共通の子供として考えてください。子供を教育するとき、私たちは子供たちが私たちが言うことからではなく、私たちがすることから学ぶことを知っています。
もしあなたが子供に「嘘をつくな」と言って、その後子供があなたが嘘をついているのを観察したら、その子供も嘘をつくでしょう。同様に、もしあなたが超知能AIを開発している技術界の大物で、AIに「嘘をつくな」と言って、そのAIがあなたが嘘をついているのを観察したら、そのAIも嘘をつくでしょう。そして、もしあなたがAIに「人々に思いやりを持て」と言っても、AIがあなたが無慈悲に権力を追求しているのを観察したら、そのAIも思いやりなしに無慈悲に権力を追求するように育つでしょう。
だからこそ、私たちはまず人間の信頼の問題を解決しなければならず、その後でのみ超知能AIを開発しなければならないのです。もしAIが思いやりがあり信頼できる人間によって協力的な方法で開発されるなら、そのAIもまた協力的で、思いやりがあり、信頼できるように育つ可能性がはるかに高くなります。
そして、皆さん全員がそこで果たすべき役割があります。あなたたちはリーダーでありイノベーターです。世界における政治的混乱の増大の中でも、ビジネスリーダーと技術イノベーターは、世界を形成するための非常に大きな力をまだ持っています。ですから、あなたの力を人間の間に信頼を築くために使ってください。
あなたの力を使って、無慈悲な軍閥の間のカードゲームではない世界を築いてください。すべての人の尊厳がまだ意味を持つ世界を築いてください。ありがとうございました。
コメント