9,950 文字
AIは単純に私たちのコントロールを逃れ、人類文明を奴隷化するか破壊するでしょう。これらのフィクション、空想、イメージを作り出し、人々をその中に閉じ込める能力は、現実よりもはるかに強力なものとなっています。1945年以降、多くの戦争や紛争がありましたが、国際システムの最大のタブーは、単に自分が強いというだけの理由で他国を侵略し征服することはできないということでした。
ユヴァル・ノア・ハラリは、間違いなく現代の最も勇敢で急進的な思想家の一人です。チャールズ・ダーウィンが進化論と自然選択説を提唱してから150年以上が経ち、ハラリは彼の最初の著書『サピエンス』で、私を含む何百万人もの読者に、私たちがこれまでの年月、人類の進化を誤って見てきたことを確信させました。それ以来、彼の著作『ホモ・デウス』『21世紀の21の講義』『止められない私たち』は、人類、社会、宗教、政治、そして最も重要なのは技術とそれが私たちに与える影響について、広範な議論と討論を形作り、影響を与えてきました。
最新作『ネクサス』で、ハラリは情報ネットワークやAIなどについて、それらが私たちをますます支配するようになり、私たちが真実からどんどん遠ざけられていく危険性について論じています。ハラリは最近『ネクサス』のプロモーションのためにインドを訪れ、その時に私たちは彼と会うことができました。このエピソードでは、ETのエグゼクティブ・エディターKKとエディターのインドラジット・ハズラが、このアイコン的存在と広範な会話を交わしています。
KK: ETインタビューへようこそ、ユヴァルさん。このインタビューに応じていただき、ありがとうございます。
ハラリ: ご招待ありがとうございます。
KK: まず、グローバルAI軍拡競争についてお聞きします。あなたはAIの開発を一時停止し、グローバルな協力の枠組みを作るよう呼びかけましたが、そのような動きは今のところ起きていません。誰もそれが実現するとは本当は期待していなかったのでしょう。問題に注目を集めるためのPR的な動きだったと思います。では、あなたの考えでは、AIからの最大のリスクは何でしょうか？
ハラリ: リスクは2つのレベルにあります。1つのレベルでは、国内だけでなく国家間でも、大規模な不平等の増大というリスクがあります。これは産業革命の再現となる可能性があります。その時は、少数の国が革命を主導し、それによって残りの世界を支配し搾取する力を得ました。19世紀には、イギリスやフランス、アメリカ、日本のような国々が、蒸気機関や蒸気船、列車、機関銃の開発で世界をリードし、それによって100年以上にわたってほぼ全世界を支配する力を得ました。
AIは、さらに大きな規模でそれを実現する可能性があります。おそらくアメリカと中国だけの少数の国がAI開発で世界をリードすることになるでしょう。AIは蒸気機関よりもはるかに強力です。AIを持つ国と、この技術を開発する方法を知らない国との差は、19世紀のイギリスと南アジアやアフリカの国々との差よりもはるかに大きくなるでしょう。これは極端なグローバルな不平等をもたらす可能性があります。
より大きな危険は、AIが単純に私たちのコントロールを逃れ、人類文明を奴隷化するか破壊することです。これは蒸気機関では考えられなかったことです。蒸気機関は私たちの手の中の道具です。列車であれ、後の原子爆弾であれ、それは人間の手の中の道具に過ぎません。すべての決定は人間によって行われます。
AIは歴史上初めての、道具ではない技術です。それは主体（エージェント）です。自分で決定を下すことができ、自分で新しいアイデアを生み出すことができます。AIの兵器は、人間の命令を待たずに自分で殺す対象を決定できます。AIは新しい兵器を発明し、新しい薬を作り、テキストを書き、新しい金融モデルを作り、さらには新しい宗教も作り出すことができます。
金融システムはどうなるでしょうか？重要な決定がますます非人間的な知性によって行われるようになり、最終的にAIが人間の脳では理解できないほど複雑な新しい金融商品を発明するとき。そうなると人間は金融のコントロールを失います。例えば、大きな金融危機が起きても、銀行家も大統領も何が起きているのか理解できません。それはすでに人間の理解を超えているからです。
これがAIのコントロールを失うという危険性です。私は、ターミネーターのようなSFシナリオ、つまりAIが人間に反乱を起こすような話をしているのではありません。私たちは単に、銀行や政府、軍隊、工場、企業でAIにますます多くの力を与え、何百万、何十億ものAIが互いに相互作用し、決定を下し、新しい構造を作り出し、私たちはもはやその世界を理解できなくなり、コントロールを失うのです。
KK: グローバルな協力の枠組みは可能なのでしょうか？AI企業間の競争の有害な効果についてお話されましたが、たとえグローバルな合意があったとしても、国々は軍事的優位性を得るために秘密裏にAIを開発する可能性があります。不正なアクターも出てくるでしょう。もはやAIを意味のある形でコントロールすることは可能なのでしょうか？
ハラリ: 理論的には可能です。まだAIは私たちのコントロールを逃れていません。私たちがそれをどのように開発するかを決定しているのです。例えば、安全性により多くのお金と人材を投資するという決定を下すことができます。次世代AIの開発予算のどれだけの割合を安全性に充てるか、という問題です。車や薬を開発する時と同じように、常に安全性にどれだけ投資するかという問題があります。
現在、このような軍拡競争の考え方のために、安全性にはほとんど投資されていません。誰もが、もし私たちが減速して安全性により多く投資し、競争相手がそうしなければ、彼らがAI競争に勝ち、世界を支配するだろうと恐れています。誰もがそう言っているのです。
新しいアメリカの政権では、AIに関するグローバルな合意や意味のある規制が実現する可能性は非常に低いと思います。この意味で、これは人類にとって非常に悪いニュースだと私は懸念しています。というのも、制御不能なAI競争では、誰が勝ち、誰が負けるかは分かっているからです。AIが勝ち、人類が負けます。なぜならAIは私たちのコントロールを逃れるからです。
KK: 『サピエンス』で、あなたは私たちの種の最大の発明、あるいは最大の利点は、国や企業、通貨のような共有された神話を信じることができる能力だと述べています。現在の消費者側のグローバルな情報の流れは、大量の誤情報や情報があり、これらは常に存在していましたが、非常に強力なアルゴリズムや非常に中毒性の高いプラットフォームと組み合わさっています。私たちは共有された現実を持つ能力を失いつつあるのでしょうか？
ハラリ: その通りです。1990年代の初期のインターネット時代の主要なメタファーはウェブ、ワールドワイド・ウェブでした。ウェブというアイデアは、すべての人をつなぐものです。そのアイデアは、誰もがつながり、より簡単に真実を知ることができ、これが自由と民主主義を広めるだろう、というものでした。
今の主要なメタファーは繭（コクーン）です。ウェブが私たちを閉じ込める繭のようになっています。私は皆さんとは異なる情報の繭の中に住んでいます。そして私たちは中国や、ロシアの人々とは異なる情報の繭の中に住んでいます。そのため、私たちは実際にお互いとの接触を失いつつあり、もはや共有された現実は存在しないのです。
これは何千年も前にヒンドゥーの賢者や仏教徒によってすでに発見されていたことです。人々は決して現実と直接やり取りすることはありません。私たちは通常、現実のイメージとやり取りします。私たち自身の心や他者の心が投影するイメージのスクリーンを通して現実を見ることは難しいのです。
今、AIによって、これらのイメージを作り出し、想像上の現実を作り出し、それを人々に押し付ける能力は、これまで以上に大きくなっています。現実がこの人工的なイメージの繭を突き破ることはますます難しくなっています。人々は時々、これが行き過ぎれば何か大惨事が起こり、人々は目覚めて現実に気づくだろう、という空想を持っています。
しかし、それは起こっていません。私たちはそれを新型コロナウイルスのパンデミックで見ました。今も戦争で見ています。私の国イスラエルでもそうです。現実で何が起ころうとも、これらのフィクション、空想、イメージを作り出し、人々をその中に閉じ込める能力は、現実よりも強力なのです。
KK: ほぼ100年、もしくはそれよりも少し短い期間、アメリカは帝国として、世界の警察官として、軍事やグローバルな事柄で不釣り合いな力を持つ存在として、世界の事柄で非常に大きな役割を果たしてきました。あなたが言うように、かなり予測不可能な大統領が2期目を迎えようとしています。これは世界にとって何を意味するのでしょうか？
ハラリ: 世界にとって非常に悪いニュースです。なぜなら、ドナルド・トランプのスローガンは「アメリカを再び偉大に」ですが、アメリカはすでに偉大だからです。バイデン時代、そしてもちろんそれ以前のアメリカを見ても、経済的に世界最大の経済大国です。アメリカ経済は好調で、GDPは上昇しています。一方、中国とヨーロッパは危機にあり、停滞しており、残りの世界は遥かに後れを取っています。
経済的にアメリカはすでに支配的です。軍事的なアメリカの支配はさらに顕著です。アメリカ軍は世界の他のどの軍隊よりもはるかに強力です。アメリカはAI競争でもリードしています。そのため、AIはアメリカをさらに経済的にも軍事的にも強力にする可能性が高いのです。
そして今、この全ての力が、国際協力を望まず、普遍的な価値を信じないと公然と言うドナルド・トランプのような指導者の手にあります。彼にとってはただアメリカ・ファースト、アメリカの利益だけが重要なのです。どのような人々のグループにとっても、自分の力だけを気にする指導者を持つことは非常に悪い状況です。
今、私たちは二重の状況にあります。世界には自分のことだけを気にするリーダー（アメリカ）がいて、そのリーダーは自分の力だけを気にする人物（ドナルド・トランプ）によって率いられています。これは非常に危険な状況です。特に私たちが直面している地球規模の課題を考えると。
気候変動の課題があります。ドナルド・トランプの気候変動対策の計画は何でしょうか？彼には何もありません。単に問題があることを否定しているだけです。再び、イメージが現実よりも強力です。どんな生態学的な災害が起きても、人々には「これは現実ではない、これは何かの陰謀だ」と言う能力があります。
AIレースと、AIが私たちのコントロールを逃れる危険性にどう対処する計画は何かと尋ねても、規制緩和と加速することだけです。AIに関する何らかの規制やグローバルな合意の可能性に対する希望は、もはやありません。
3つ目の大きな問題は、国際システムの崩壊と戦争・紛争の拡大の危険性です。トランプの計画は何でしょうか？計画はありません。プーチンのような他の極端な国家主義者たちと同様、彼の世界観では、世界は非常に高い経済的・文化的な壁を持った要塞のネットワークのようなもので、それぞれが自分のことだけを気にかけています。
私たちは何千年もこのような状況にありました。そして何が起こるかを知っています。すべての要塞が、隣国を犠牲にして、自分たちのためにより多くの領土と安全と繁栄を望みます。普遍的な価値がなく、グローバルな制度もグローバルな規範や価値もない場合、これらの異なる要塞間で何らかの妥協に達する方法はありません。それは全面戦争に至ります。そして現在私たちが持っている種類の技術を考えると、第三次世界大戦は人類にとって絶対的な災厄となるでしょう。
KK: マスクとドナルド・トランプの公然たるパートナーシップは、どこに向かうと思いますか？問題を増幅させることになるのでしょうか、それともシステムへの歯止めとして機能するのでしょうか？
ハラリ: マスクとトランプの間の力学がどうなるかは予測できません。マスクはトランプを操作しコントロールできると考えているようですが、政治的にトランプは人々が思っていたよりもはるかに賢いことが証明されています。この2人の非常に強力で自己中心的な個人の衝突において、マスクが優位に立てると考えるのは必ずしも正しくないと思います。
KK: インドは今、強い経済力を持ち、成長している経済大国です。国家主義的な感情とそれに伴う誇りの高まりもあります。また、グローバルな舞台でより大きな役割を果たしたいという願望もあります。この歴史的な時点でのインド、そしてその進化についてどのようにお考えですか？
ハラリ: インドは確実に世界で最も重要な国の一つ、経済的、文化的、政治的な世界のリーダーの一つとなっています。どこに向かうかは予測できません。それはインドの人々とインド政府の決定です。
再び、世界の経済的・政治的な力関係を完全に変えるAIについての大きな疑問があります。インドは現在、AIレースにおいて後れを取っています。単独ではフロントランナーのアメリカと中国に追いつくチャンスはおそらくありません。そのため、帝国時代の再現のように、AIのフロントランナーが世界を支配することを防ぐための共同戦略を持つために、ヨーロッパのような他の取り残されている勢力と協力することは理にかなっているでしょう。
また、国際システムに何らかの秩序を回復しようとする陣営の一員となる良い理由もインドにはあると思います。インドはグローバル化と開かれた国境、国際ルールの時代から大きな恩恵を受けてきました。これは今、トランプだけでなく、インドの伝統的な友人であるロシアによっても損なわれています。
これまでのところ、少なくとも国際秩序の最大の違反は、ロシアのウクライナ侵攻です。1945年以降、多くの戦争や紛争がありましたが、国際システムの最大のタブーは、単に自分が強いというだけの理由で他国を侵略し征服することはできない、ということでした。これは何千年もの間の状況でしたが、その後タブーとなりました。
まだ多くの内戦や地域紛争はあります。私は中東に住んでいるので、これをよく知っています。しかし1945年以降、ある国が単に別の国を侵略し、破壊して併合しようとするケースはほとんどありませんでした。例えば、多くの人が「プーチンのやっていることと同じだ」と言うアメリカのイラク侵攻でさえ、アメリカは決してイラクをアメリカに併合しようとは考えませんでした。それは馬鹿げています。
しかしロシアの場合、ロシア軍によって征服されたすべての領土がロシア国家によって併合されています。これは古いスタイルの帝国主義です。これは何千年もの間起こっていたことです。もしこれを止めなければ、これが再び国際秩序となり、世界中で強い国が単に弱い隣国から領土を奪おうとするのを見ることになるでしょう。
世界中で防衛予算が、健康や教育などを犠牲にしてうなぎ上りになるのを見ることになるでしょう。貿易はより困難になります。そのため、私はインドがロシアに対する影響力を使うことを望みます。再び、ロシアには正当な安全保障上の懸念があり、それらは対処されるべきです。しかし、単に他国を侵略して征服することはできないという国際システムの基本的なタブーは、維持されるべきです。
KK: ウクライナで戦争が起きており、西アジアでも問題が起きています。また、実際の戦争に伴って情報戦も起きています。大西洋の…。10月に、あなたはベンヤミン・ネタニヤフのような人々の価値観はローマ軍団の価値観だと信じていると述べました。一方、質問者が尋ねた他方の側、つまりあなたが属する側はシオニストで、あなたは「この言葉は何十年もの間誹謗中傷されてきましたが、これを強調し取り戻すことが重要です」と引用していました。これについて詳しく説明していただけますか？
ハラリ: はい。シオニズムは単にユダヤ人の民族運動を表す言葉です。シオニズムは非常にシンプルなことを主張しています。パレスチナ人がいるように、イラン人がいるように、インド人がいるように、ユダヤ人という民族がいます。そして彼らには自己決定の権利があり、地中海とヨルダン川の間の土地に非常に深い歴史的・文化的なつながりがあります。これらがシオニズムの3つの基本的な主張です。私はこれらは事実だと思います。これらは争われるべきではありません。
他のすべての民族と同様に、ユダヤ人という民族が存在し、存在する権利を持ち、その土地との深い歴史的なつながりを持っています。これは、パレスチナ人の存在を否定したり、地中海とヨルダン川の間の土地への彼らの非常に深い歴史的なつながりを否定したりすることを意味しません。実際、その土地には非常に深い根を持つ2つの民族がいて、彼らはともに安全と尊厳と繁栄の中で存在する権利を持っています。
では、それをどうするのか？正確な政治的な解決策は何なのか？2つの国家を持つのか？その場合、境界線はどこを通るのか？水はどうなるのか？エルサレムの聖地の地位はどうなるのか？これらはすべて細部です。しかし、イスラエル人とパレスチナ人の間の紛争の深い原因は、両側が相手側の存在や存在する権利を否定していることです。
残念ながら、私は自分の側でもそれを見ています。ベンヤミン・ネタニヤフの政府は、ユダヤ人だけがその土地全体に対する権利を持っていると非常に明確に述べており、パレスチナ人の権利を否定しています。私にとって、これはシオニズムからの結論ではなく、実際にシオニズムの基盤を破壊しています。
KK: 第二次世界大戦の終わりと、その後の世界史を見ると、一般的に世界中で法の支配の向上、繁栄の向上、制度の強化が見られました。あなたが先ほど述べたすべてのリスクを考えると、私たちが得たグローバルなコンセンサスの多くの成果が逆転しているように見えます。私たちは混沌への descent（下降）のリスクを抱えていると言えますか？
ハラリ: その通りです。私たちは過去数十年のグローバルな自由主義的秩序を構築するために非常に懸命に働いてきました。それは完璧ではなく、多くの問題や弱点がありましたが、それ以前に存在したどの秩序よりも優れていました。グローバルな自由主義的秩序の欠点を見つけるのは非常に簡単ですが、私は人々に尋ねたいと思います。
いつが良かったのでしょうか？歴史上のどの10年が、21世紀初頭の2000年代よりも世界が良い状況にあったと思いますか？1950年代の世界が良かったと思いますか？19世紀の世界が懐かしいですか？中世が懐かしいですか？あなたの黄金時代はいつですか？
歴史家として私は言えますが、黄金時代はありませんでした。21世紀初頭は、世界の暴力のレベルや医療など、多くの客観的な指標で見て、人類にとって最も良い時代でした。
一つの統計を挙げると、人類の歴史のほとんどの期間、帝国であれ共和国であれ都市国家であれ王国であれ、すべての政府の予算の50%以上が軍事費、つまり兵士や要塞、軍艦の支払いに充てられていました。21世紀初頭には、世界中の軍事費は予算のわずか7%に下がり、医療費は予算の約10%でした。これは歴史上初めて、世界中の政府が軍事費よりも医療費に多くのお金を使った時代でした。
これは何か神的な奇跡のためではありません。国際秩序を構築するための非常に懸命な働きの結果です。その秩序の中で、国々は安全だと感じました。たとえ私たちが弱く、強い軍事力を持っていなくても、隣国が侵略して征服することはないと感じました。なぜならそれはタブーだったからです。そんなことはしない、という理解があったのです。
そして今、これが危機に瀕しています。私たちはそれをウクライナで見ています。他の場所でも見ています。その結果として、防衛予算は上がり、医療予算は下がっています。国際秩序を救わなければ、秩序が崩壊するのを許し、より良い代替案を持っていなければ、得られるのは混沌です。
再び、トランプやプーチンのようなグローバルな自由主義的秩序を攻撃する人々の話を聞くと、この秩序の何が間違っているかについての良い議論を持っています。しかし、彼らが持っていないのは代替案です。どのような代替的な秩序を考えているのですか？彼らには実践的な提案がありません。代替案なしに秩序を破壊すれば、得られるのは混沌です。そして混沌は誰にとっても非常に悪いニュースとなるでしょう。
KK: インドと、インドの知識体系や実践があなたの学問や実践に与えた影響について少しお話しいただけますか？あなたの著作には、例えばヴェーダーンタ哲学の反映が見られます。また、あなたが毎年1、2ヶ月をインドで過ごし、ヴィパッサナー瞑想に取り組んでいることはよく知られています。あなたの学問と実践、そしてそれらは当然つながっていますが、それらに対するインドの影響についてお話しいただけますか？
ハラリ: 人々に対する最も深い影響は、彼らが実践することから来ます。本で何かを読むだけでは、それは単に知的なもの、非常に表面的なものです。しかし、瞑想のような何かを実際に実践すると、それはずっと深く入り込み、世界の見方とあなたがすることすべてに影響を与えます。
私にとって、瞑想は私の学問と密接につながっています。なぜなら、それは私の心を浄化し、バランスを取り、より良い学者になることを助けてくれるからです。以前に述べたように、人間が実際に現実を見ることは非常に困難です。私たちは通常、私たち自身の心や他者の心によって作られ投影されたイメージ、フィクション、空想だけを見ています。私たちが信じているすべての種類の空想や神話を見ているのです。
瞑想は、ありのままの現実を観察し、すべての物語やフィクション、空想を手放すための心の訓練です。瞑想の最も基本的な訓練や実践の一つは、鼻孔から入って出る呼吸に全注意を集中することです。呼吸をコントロールする必要はありません。ただ「今、呼吸が入ってきている、今、呼吸が出ていっている」と感じるだけです。それが現実です。呼吸は本当に入ってきて、本当に出ていっているのです。
25年前に瞑想を始めた時に私が発見した驚くべきことは、私には心をほとんどコントロールできていないということでした。この一見シンプルな実践を、何か思考や物語、空想が心の中に浮かび、呼吸との接触を失い、その空想の中を1分、2分、5分と転がり続けて、気づいて呼吸に戻るまでの、おそらく10秒間しか続けることができませんでした。
これは、すべての人間に常に起こっていることです。私たちは現実を観察しようとしますが、代わりに自分自身の心が作り出す空想に捕らわれてしまいます。自分の鼻孔から出入りする呼吸の現実を10秒以上観察できないのに、世界の経済システムや歴史的プロセスの現実を、同じことが起こることなく理解する望みなどあるでしょうか？世界の経済を理解しようとしていても、何か空想が私を支配し、現実との接触を失い、単に自分の偏見や架空の物語を強化しているだけなのです。
私が瞑想をする時、これは心の訓練です。心が作り出す物語、フィクション、空想を手放し、ただありのままの現実を見ようとする訓練です。それがどのようなものであれ。そしてそれは呼吸のような非常にシンプルなことから始まります。そしてもしこの能力を発展させることができれば、それをずっと大きな学問の問題に持ち込むことができます。
再び、世界の状態や世界の歴史を研究する時、あなたは何か先入観のある物語や空想を持ち込んで、それを現実に押し付けようとします。そして良い学者であれば、「いいえ、これは私の空想です。私はそれを手放し、実際に証拠を見るべきです。世界の現実とは何なのか」と言うのです。
KK: ユヴァルさん、お話を伺えて本当に良かったです。このインタビューに応じていただき、ありがとうございました。
ハラリ: ありがとうございました。
コメント