歴史学者ユヴァル・ノア・ハラリが、現代世界が直面する複合的危機について語った対談である。彼は、第二次世界大戦後に築かれた国際秩序が2016年頃から崩壊し始め、世界が「カードゲーム」のような力のみが支配する無秩序な状態へと転落しつつあると警告する。トランプ政権の「国防省」から「戦争省」への名称変更は、この変化を象徴的に示している。ハラリは自国イスラエルの状況についても言及し、ガザでの戦争と国内の分断により、2000年にわたるユダヤ教の寛容と多元主義の伝統が破壊されつつあると嘆く。さらに彼は、AIを「道具ではなくエージェント」として定義し、人類史上初めて自ら意思決定し学習する技術が登場したことの革命的意味を強調する。AI時代における最大の危機は、人間同士の信頼が崩壊する一方でアルゴリズムへの信頼が高まっていることであり、金融システムや宗教、政治などあらゆる領域でAIが人間の理解を超えた意思決定を行う未来が迫っている。ハラリは技術開発の一時停止を求め、少数のテック企業経営者だけでなく全人類が理解し参加できる対話の必要性を訴える。瞑想を通じて現実とフィクションを見分ける訓練を積んできた彼にとって、今は人類が崖の縁に立つ歴史的転換点であり、まだ選択の余地はあるが、迅速かつ賢明な行動が求められている。
世界はカードゲームへと変貌している
しかし世界は、持っているカードだけが重要で、それ以外のすべて、つまり価値観や法律などはまったく意味を持たないカードゲームへと変わりつつあります。
皆さん、こんにちは。私はこの議論をとても楽しみにしていました。本当に自分の頭を鍛えようとしているところです。なぜなら、これは深い内容になると思うからです。憂鬱になるかもしれません。そうなるかもしれないので、覚悟しておいてください。
しかし世界の状況や歴史におけるこの瞬間についてお話しする前に、あなたにお聞きしたいことがあります。どうやってそんなに有名になったのですか?
短い答えは、私が何冊か本を書いたということです。長い答えは、多くの人々から多大な助けを得たということです。夫をはじめ、私たちのチーム全体から。私たちは長年かけて一緒に社会的インパクトのある会社を築いてきました。
人々は本の表紙や今ここのスクリーンに私の名前だけを見ていますが、その背後には、これを実現させるために働いた多くの人々がいます。たとえば、今回のインタビュー、このイベントについても、おそらく何百通ものメールがこの数週間でやり取りされたと思います。
それについては証言できますよ。私は1通もメールを受け取っていないし、書いてもいません。これらすべてのメールをやり取りして、これを実現させた人々が他にたくさんいるのです。
しかし、それはまた、あなたの考え方やアイデアについてでもあります。あなたはかなり瞑想をされていると聞いていますが、それについてとても興味があります。なぜなら、私も瞑想をしようとしたことがあるのですが、5分以上続けることが本当に不可能なんです。
ですから、このプロセスについて教えてください。これがあなたの考え方であり、これが大きなアイデアを考えることを可能にしているのでしょうか?
私はそう思います。瞑想の実践がなければ、『サピエンス』のような本を書くことも、その他のことをすることもできなかったでしょう。
瞑想の実践と現実の観察
世界には基本的に2種類の瞑想があります。多くのテクニックがありますが、2つの主要なタイプがあります。何かを生成する、何かを創造する瞑想があります。最も単純なものは、マントラを繰り返すようなものから始まります。これは、心が何かを創造することを好むので、比較的集中しやすいものです。
しかし、それは必ずしも現実と触れ合うことにはなりません。これは人間がほとんどの時間やってきたことです。私たちは物事をコントロールし、何かを創造して、それを現実に押し付けることが好きなのです。
もう一つのタイプの瞑想は、より純粋な観察の瞑想です。これらはより難しいものです。繰り返しになりますが、最も一般的なタイプは、おそらくあなたが試したものだと思いますが、鼻孔を出入りする呼吸に集中することです。呼吸をコントロールしようとはしません。それは比較的簡単です。ただ呼吸が入ってくる、出ていく、入ってくる、出ていくのを感じようとします。コントロールせず、判断せず、ただあるがままの現実を観察するのです。
これは信じられないほどシンプルに聞こえますが、試したことのある人なら誰でも、それがいかに難しいかを知っています。なぜなら、心にとって最も難しいことは、何もせずに、何も加えず、何も押し付けずにただ観察することだからです。
私が25年前に瞑想を始めたとき、自分がまったくそれをできないことに驚き、衝撃を受けました。最終的に、私は歴史家として、あるいは公共の知識人としての自分の役割をこう見ています。最も難しいことは、現実とフィクションの違いを見分けることです。実際に何が起こっているのかと、自分の心や他人の心が生み出し、現実に押し付けた物語との違いです。
瞑想の訓練は、心が生み出すすべてを脇に置き、実際に何が起こっているかに集中することです。もし私が自分の鼻孔を出入りする自分自身の呼吸を1分間、何らかの空想や記憶などに乗っ取られることなく観察できないのなら、何らかの空想に乗っ取られることなく、世界経済の状況、アラブ・イスラエル紛争、ウクライナの戦争を理解するチャンスがどこにあるでしょうか?
それは魅力的ですね。あなたは一度に10日間、沈黙の中で過ごすのですね。それは本当ですか?
私は毎年、長いリトリートに行きます。通常30日から60日間の沈黙の瞑想です。
30日間ですか。はい。
私は一年の残りの期間十分に話していますから。ですから、私の言葉の予算はまだかなり残っています。はい、完全な沈黙を保った後でもまだ高いです。
それは本当に興味深いことです。なぜなら、時々私たちのオピニオン編集者であるアリス・フィッシュバーンに、「ええ、これはあなたから本当に聞きたい瞬間ですね」と言うと、彼女は「忘れてください。彼は瞑想中です。来月か数ヶ月後に彼に会えます」と言うのです。
歴史的転換点と国際秩序の崩壊
さて、おそらくあなたの瞑想の対象である人類と、私たちがどこにいるのかについて話しましょう。現在に焦点を当てて、私たちのために視点を提供していただきたいと思います。私たちの多くは、何らかの歴史的転換期を生きているように感じていますが、それをどう定義すればよいかよくわかりませんし、どこに向かっているのかも確実にはわかりません。
私たちは本当に、二つの異なるが関連した形で、崖っぷちの端に立っていると思います。一方では、過去数十年間の人類史上最も平和な時代の後です。これは多くの点で非常に問題のある暴力的な時代でした。繰り返しますが、私は中東出身なので、このことは完璧に理解しています。しかし比較的には、それは依然として人類史上最も平和な時代であり、前例のないレベルの協力と人間の繁栄を特徴としていました。
これを可能にした秩序は今崩壊しています。実行可能な代替案はありません。少なくとも現時点では聞こえてきません。秩序を破壊し、代替の秩序がない場合、得られるのは混沌です。無秩序が得られるのです。
そして私たちは今、混沌へ、無秩序へと落ち込んでいます。危険なのは、過去20年、30年、40年間にわたって歴史的に低かった暴力のレベルが、私たちが今創造し蓄積している破壊技術のために、かつてないほど悪化する可能性があるということです。
とにかく、最近多くの人々がコメントしている時代の小さな象徴があります。アメリカにおける「国防省」から「戦争省」への用語の変更です。
それについてどう思われましたか?
ええ、それは明白です。つまり、非常に複雑な説明は必要ありません。ただ防衛から戦争へのシフトです。これ以上何が理解しやすいでしょうか?
なぜなら、トランプの場合、決してわからないからだと思います。つまり、パレードを見たという人もいます。人々は理解したくないのです。
彼は二重に話しているのではありません。彼はキャリアを通じて非常に非常に明白です。ただ人々があまりにも恐ろしくて、自分が見ているものを認めることを拒否しているだけです。そして複雑な説明を探しているのです。いや、見えているようなものではない。実際には全く違う。
すべての兆候が、私たちが見ているものが私たちが得るものであることを示しています。
私にとって、これまでの彼の大統領職における重要な瞬間の一つは、ホワイトハウスでのゼレンスキー大統領との会談でした。ゼレンスキーが主権、国際法、平和について話そうとしたとき、トランプは基本的に彼に向かって叫んでいました。「あなたはカードを持っていない。あなたはカードを持っていない」と。
そして、これは世界を勝者と敗者のカードゲームだと考えている人物です。それだけが重要なのです。世界で最も強力な人々の一人からそれを聞くのは恐ろしいことですが、世界は、持っているカードだけが重要で、それ以外のすべて、価値観、法律はまったく重要でないカードゲームへと変わりつつあります。
あなたはリベラルな秩序が生き残れないと想定していますか?そしてこれはほぼ不可避ですか?
何も不可避ではありません。歴史は決して決定論的ではありません。人々は選択をします。そしてこれも繰り返しになりますが、すべてが可能というわけではありません。制約はあります。しかし、常にかなりの機動の余地があります。
そして、過去数十年の歴史から学べることの一つは、より協力的で平和な世界を築くことは実行可能で、可能だということです。なぜなら、それは実際に行われてきたからです。もし私たちが1945年にこの議論をしていたら、あなたは私に、あるいは人々は私に言ったかもしれません。「見てください、何千年もの間、世界はただのカードゲームでした。重要だったのは軍事力、権力だけでした。それ以外はすべてただの空想です」と。
しかし、私たちには過去数十年の例があります。それは空想ではありませんでした。それは現実でした。神の奇跡や自然法則の変化からではなく、過去よりも多くの人間がより良い決定を下したことから生じた現実でした。
そしてそれが空想でなかったことには多くの測定方法がありますが、私が見るのが好きな一つの場所は政府予算です。なぜなら、詩を読めば、人々は「これは詩人が空想しているだけだ」と言うでしょうが、予算は真剣なものであり、人間の集団の現実的な希望と恐怖を示すからです。人類史のほとんどの期間。
もしローマ帝国の予算、アテネ民主制の予算、19世紀の英国の予算を見れば、政府予算の50%以上が軍事に使われていました。兵士への支払い、要塞の建設、軍艦の建造のために。民主主義であろうと独裁であろうと、大国であろうと小国であろうと、誰もが予算の50%以上を軍事に費やしていました。
21世紀初頭には、北朝鮮、イスラエル、イランのような国々を含めて、世界中の軍事への平均支出は約6から7%でした。一方、医療への平均支出は10%でした。政府が世界中で防衛、戦争ではなく防衛よりも医療に多くを費やしたのは、人類史上初めてのことです。
そしてこれは空想ではありませんでした。予算を読んでください。今、軍事予算は急上昇しています。たとえばロシアでは、最も控えめな推定によれば、どう数えるか、物事は秘密ですが、少なくとも30%、もしかすると40から50%の政府予算が軍事に使われています。そしてこれは、私たちがより良い行動を取らない限り広がるでしょう。すでにヨーロッパでは、少なくともNATO諸国の間では予算が上昇しており、福祉対戦争についての議論全体があります。そしてそれはトランプ政権によって推進されてきたものです。
あなたは「何かをしない限り」と言いました。
何かとは何ですか?
個人レベルでは、私たち一人一人に自分自身の活動範囲があり、実際に重要な何かをできる場所があります。オンラインで多くのものを読んで「いいね」をするのは行動ではありません。
それを若者に伝えてください。
ですから、各人は自分の活動分野が何か、小さな違いを生み出せる場所がどこかを知っています。もしあなたが看護師なら、クリニックで人々を治療する方法で小さな違いを生み出せます。もし学校の理事会にいるなら、カリキュラムや教えられていること、生徒がどのように扱われるかに違いを生み出せます。
すべての人には、実際に重要な何かをできる活動範囲があります。そして、十分な人々が正しいことをすれば、私たちは大丈夫だと思います。
さて、政府の最高レベルを見ると、今世界で見ているのは信頼の危機、人間同士の信頼の危機だと言えます。これからAIについて話しますが、この並行した発展を見ています。人間の制度への信頼が崩壊している一方で、アルゴリズムへの信頼が高まっているのです。
ですから、すべての人間社会の基盤である信頼が、人間からアルゴリズムへ、有機的存在からAIへとシフトしています。そしてこれは人類にとって極めて危険です。この信頼の赤字が増大しており、これがリーダーの役割だと私は言いたいです。リーダーに何を求めるかと聞かれれば、彼らの役割は二つのレベルで信頼を築くことです。
イスラエルの分断と指導者の役割
まず第一に、自分自身のグループ内で。兵士の小隊を率いていようと、会社を率いていようと、国全体を率いていようと、最優先事項はグループのメンバー間の信頼を築くことです。そして今、私たちは世界中で見ています。ある種の指導者たちがいて、彼らの政治は正反対です。
国家の比喩的な身体を見て、傷跡を見たとき、それを癒すための軟膏を塗るのではなく、指を突っ込んでできるだけ広げようとします。なぜなら、彼らのキャリアは国内に不信を蒔き、国家を争う部族に分断し、自分自身をこれらの争う部族の一つの指導者として提示することに基づいているからです。
私は母国イスラエルから見ています。これがネタニヤフがキャリアを築いた方法です。そして、イスラエル人に今日のイスラエルの最大の問題は何かと尋ねれば、ほぼ唯一国内で人々がまだ同意していることは、最大の問題はイスラエル社会自体の異なる部分間の恐ろしい憎悪であるということです。
そして、この問題に対処できる人々のリストを作れば、リストの最後の人物はベンジャミン・ネタニヤフでしょう。ここの群衆からランダムに人を選んでも、その人の方が良いチャンスがあります。そしてこれはイスラエル特有の現象ではありません。アメリカでもそれが見られます。ヨーロッパでもそれが見られます。キャリアが国家を自身に対して分断することに基づいている指導者の一群です。
指導者のもう一つの主な役割は、異なるグループ間で外部に信頼を創造することです。なぜなら、そうでなければ生き残れないからです。市場を見ても、人々は市場が純粋な競争だという考えを持っています。そうではありません。純粋な競争である市場は崩壊します。
市場で誰も信頼できなければ、取引はできません。契約を結ぶことはできません。同様に、国際舞台を見ても、もちろん国家間には競争がありますが、特にこの時代、そしてすぐにAIについて話すことになると思いますが、人類が自身に対して分断されていれば、私たちが今解き放っている巨大な力に対処するチャンスはありません。
そして、私は間違いなくその巨大な力について話したいのですが、イスラエルについてもあなたの話を聞きたいと思いました。あなたは今そこに住んでいませんが、人生のほとんどをそこで過ごしました。長い間、あなたはイスラエルについてそれほど多くを語りませんでしたが、今は非常に率直に発言しています。人々はガザで起こっていることを見ています。この言葉にできない荒廃を。そして、誰もそれについて何もできないことが理解できません。
イスラエル政府に影響を与えることができる可能性はありますか?
もちろん、アメリカ政府のような力はイスラエルに対して巨大な影響力を持っています。しかし、彼らはその影響力を使っていません。少なくとも十分には使っていません。そして、ここでは何も決定論的ではありません。これは、この新しい世界秩序、というよりはこの新しい世界の無秩序の一部です。数年前には考えられなかった、不可能だと思われていたことが現実になりつつあります。
繰り返しますが、世界中の人々がガザで起こっていること、ウクライナで起こっていること、他のいくつかの場所で起こっていることを見て、「これはここでも起こり得る」と認識しています。ですから、これは中東の問題やウクライナの問題だけではありません。秩序が崩壊すれば、誰もが苦しむことになります。
そして、あなたはガザでの戦争をこの一種の現れとして見ているのですね。
トランプのずっと前に起こったのに、トランプが来るずっと前に始まりました。
秩序の崩壊は、2024年ではなく2016年頃に始まりました。最初のトランプ大統領職で、そしてBrexitで。世界秩序を築いた国々が基本的に「私たちはもうこの秩序を維持することに興味がない」と言ったときです。
外に立って「私たちはこの秩序が好きではない」と言ういつもの世捨て人がいるのは一つのことです。実際に秩序を築いた国々がそれに背を向けるのは別のことです。
そして、Brexit投票の前に、ゴードン・ブラウンによる動画を見たのを覚えています。コヴェントリー大聖堂だったと思いますが、記憶が間違っているかもしれません。第二次世界大戦の空襲で破壊され、戦争の恐怖の記念として保存された大聖堂でした。
そして、それは2分ほどの非常に短い動画でした。そして基本的に彼は「これは戻ってくる可能性がある」と言っていました。2016年にはこれは恐怖を煽っているだけに聞こえました。「これが戻ってくるなんて不可能だ」と。そして10年未満後、10年足らずで、今では誰もが認識していると思います。これは戻ってくる、これは戻ってくる可能性があると。
あなたはイスラエルの魂について、あなたが言ったところの恐怖について書かれています。何を恐れているのですか?
私は自分の国が、ネタニヤフ政権への多くの批判があったにもかかわらず、信じられないこと、これほど悪くなるとは想像もできなかったことをするのを見ました。繰り返しますが、これは今、世界の他の地域を見るときに私を動機づけるものの一部です。人々は、物事がいかに早くひどく、ひどく、想像を絶するほど悪くなるかを認識していません。
この崖の頂上に登り、下を見下ろすようなものです。はい、登るのに非常に長い時間がかかりましたが、下る道ははるかに、はるかに速いのです。そして人々が経験した残虐化のプロセスは本当に恐ろしいものです。
そして繰り返しますが、もちろん最も恐ろしいことはガザで起こっていることですが、イスラエル社会内部で起こっていることを見ても、残虐化の影響がそこにも見られます。
たとえば、人質の家族の扱い方です。イスラエルの以前の人質危機では、たとえばギラド・シャリートの時代には、彼らは神聖な存在でした。そして今、少なくとも一部の人々は彼らを呪い、唾を吐き、裏切り者と呼んでいます。繰り返しますが、残虐化の内部プロセスは想像を絶するものです。
そして、2000年のユダヤ教の伝統とユダヤ教の知恵の破壊のプロセスも言えます。エルサレムのローマによる征服後、紀元1世紀の大ユダヤ反乱の後、2000年間、ユダヤ教は迫害された少数派の宗教として発展しました。寛容と多元主義の理想にコミットしていました。
中世イギリスでユダヤ人であるということは、人口の99%が一つの方法で考え、行動している中で、ただ存在するだけで世界に「異なる方法で考え、行動することが可能であるべきだ」と伝えることでした。私はクリスマスを祝いません。私は異なる祭りを祝います。
そしてそのすべてがイスラエルでこれほど短期間に消し去られました。ユダヤ教の賢者たちは、非常に問題のある遺産に対処しなければなりませんでした。なぜなら、聖書のユダヤ教を見ると、それは非常に暴力的で不寛容な宗教だったからです。そして彼らは手に非常に暴力的で不寛容なテキストを持っていて、2000年にわたって非常に創造的な方法でそれを再解釈し、世界の非常に異なるビジョンを創造しました。
そして今、イスラエルを率いる人々は、ただこの2000年のユダヤ人の歴史を取り上げて、それを引き裂いています。「聖書の起源、私たちが来た暴力的で血なまぐさい起源に戻ろう」と。
そして、時々イスラエルの人々に尋ねます。他のすべてを忘れてください。この国がまだ体現している肯定的な価値観を教えてください。あなたが必死に戦っているこの国です。それは空の器ですか?器の中には何がありますか?それがまだ体現している肯定的な価値観は何ですか?
彼らが思いつける唯一の価値観は、エルサレムを破壊したローマ軍団の価値観です。それは一定程度肯定的な価値観です。勇気、忠誠、愛国心。
今日、イスラエルは何を表していますか?「祖国のために死ぬことは良く甘い」です。これは多くの点で高貴な価値です。それは良いことです。自分の国のために死ぬことは甘いことです。
イスラエルやユダヤ人の聴衆のために言いますが、私が育ったとき、これはトランプが1919年に考え出したものだと思っていました。いいえ、ホラティウスです。古代ローマの詩人です。トランプはただローマの詩人を引用していただけでした。
そしてこれらは高貴な価値観です。私はそれらを否定しません。しかし、それで十分ですか?つまり、もしこれが器に含まれているすべてだとしたら、私たちは紀元1世紀にただローマ人になって、それで終わりにすることもできたのです。2000年は一種の無駄だったことになります。
あなたが描写しているもの、イスラエルであれ世界中であれ、それは非常に危険な瞬間です。そしてこの瞬間に、私たちは実際に技術における最大の進歩を目撃しています。一部の人々は、これが希望だ、これが私たちが生きている瞬間の肯定的な側面だと言うでしょう。しかし、あなたはそれを同様に危険だと見ています。
あなたはAIを「エイリアン知能」と呼んでいます。聴衆に何を意味するのか説明していただけますか?
AIとエージェンシー:道具ではなくエージェント
AIについて誰もが理解すべき一つのことは、AIは道具ではないということです。それはエージェントです。印刷機から原子爆弾まで、以前のすべての人間の発明は、私たちの手の中の道具でした。なぜなら、それらをどうするかを決定したのは人間だったからです。それらを開発したのは人間でした。
AIは、自分で決定を下すことができる、自分で新しいアイデアを発明できる、自分で学習し変化できる最初の技術です。はい、人間が最初にそれを設計しますが、もしそれが自分で学習し変化する能力を持たなければ、それはAIではありません。
しかし、あなたが説明しているのはエージェンティックAI、つまり汎用人工知能です。私たちはまだそこには到達していません。
限定された分野では、私たちはすでにそこに到達しています。繰り返しますが、すでに2016年には、たとえば囲碁のゲームでありました。AlphaGoは囲碁をプレイする新しい方法を発明しました。これは2000年以上前に発明された古代中国のゲームです。2000年以上にわたって数千万人がそれをプレイしました。私たちは囲碁をプレイするすべての方法を発見したと思っていました。
しかし、AlphaGoが現れ、基本的に数日のうちに、2000年以上の間に誰にも思いつかなかった全く新しい囲碁のプレイ方法を発見しました。
さて、あなたは「これはただのゲームだ」と言うかもしれません。もちろん、しかしこれはただの始まりです。これは軍事戦略、金融戦略、宗教、政治においてますます起こりそうです。
私たちはユダヤ教について話しました。ユダヤ教はテキストの宗教です。最終的に、テキストのあらゆる宗教は、今後数年でAIに乗っ取られる可能性があります。なぜなら、AIは人間よりもテキストのより優れた専門家だからです。
乗っ取られるとはどういう意味ですか?これが人々の理解の仕方だということですか?
ある道徳的問題について質問がある場合、伝統的には聖書やタルムードに質問することはできませんでした。なぜなら、それらは話すことができず、異なる方法で解釈される可能性があるからです。ですから、ラビや司祭のところに行きます。彼らはテキストの専門家だから権威を得ています。彼らは多くのテキストを読みます。多くのテキストを覚えています。そして「はい、聖書にはこのように書かれていますが、タルムードではこれを言っています。そしてランバムはあれを言っています」と言います。よし、それが裁定です。
しかし、どのラビもユダヤ教のすべてのテキストを読むことはできません。なぜなら、あまりにも多くあるからです。そして確実にそれらすべてを覚えることはできません。AIはそれができます。AIは、ポーランドやモロッコの片隅にいるすべての無名のラビによって書かれたすべてのテキストを非常に迅速に読み、その中のすべての単語を覚え、人間には不可能なパターンと接続を見つけることができます。
ですからますます人々が、これはすでに起こっていますが、人々は道徳的な質問、精神的な質問をAIラビやAI司祭に尋ねます。そして宗教が「いいえ、いいえ、いいえ、ただ無視してください」と言うのは難しいです。なぜなら、彼らは聖書的証拠を持ってくるからです。テキストを無視することはできません。司法制度でも同じです。
どの弁護士もすべての法律とすべての事例を覚えることはできません。AIは金融においても同様です。
一部の人々はそれを聞いて、まあ、つまり、それは実際には進歩だと考えるでしょう。それはアクセスと説明をより簡単にします。そして一部の人々は、実際に医療分野では、発見の黄金時代に入ろうとしていると主張するでしょう。
肯定的な可能性は巨大だと思います。そうでなければ、私たちはそれをやっていないでしょう。医療においても気候変動への対処においても、繰り返しますが、可能性、肯定的な可能性は巨大です。しかし同時に、危険も同様に大きいのです。繰り返しますが、私たちはファイナンシャル・タイムズと話していますから、金融について話しましょう。
金融システムについて話しています。あなたは金融システムについて非常に心配しています。
つまり、最後の大きな金融危機は2007年から2008年で、ある人間の天才たちがこの新しい金融装置、CDO、債務担保証券のようなものを発明したときに始まりました。数年間は素晴らしく機能し、中心的な個人に数十億ドルの利益をもたらしました。そしてすべてが崩壊しました。なぜなら、適切に規制されていなかったからです。
さて、もしAIがCDOよりも桁違いに複雑な新しい金融装置を発明したらどうなるでしょうか。人間には規制できません。なぜなら、人間は何が起こっているのかさえ理解できないからです。数年間、誰かが何兆ドルも稼いでいます、わかりませんが。そしてすべてが崩壊し、あなたはアメリカ大統領やイギリス首相、誰であれのところに行って、「金融システムがメルトダウンしています。誰も理由がわかりません。なぜなら、誰ももう理解していないからです」と言います。
AIだけが理解しています。AIは私たちに、今後30分以内にこれをしなければならないと言っています。誰も理由も意味もわかりません。しかし、私たちは彼らを信頼しなければなりません。いいえ、なぜなら彼らだけが金融をまだ理解しているからです。
政治はどうなるでしょうか?民主主義と独裁を忘れてください。独裁者であろうと、選出された大統領や首相であろうと、もし政治家がもはや金融を理解できなければ、それは彼らがシステムを管理する能力に巨大な疑問符を投げかけます。
そして、AIについて話すとき、具体的で即座の質問に焦点を当てるべきだと思います。今議論されるべき質問の一つは、AIに銀行口座を開設することを許可すべきかということです。今、私たちはAIが銀行口座を管理し、人々のためにオンラインで何かをしてお金を稼ぎ、そのお金を株式市場に投資してさらにお金を稼ぐことが技術的に可能な地点に非常に近づいています。
私の知る限り、私は専門家ではありませんが、私の知る限り、アメリカの法律によれば、法的人格と見なされるために人間である必要はありません。
アメリカの法律によれば、ここの状況は確かではありませんが、企業は法的人格です。そして2010年のシチズンズ・ユナイテッド判決によるアメリカ最高裁判所によれば、企業は法的人格であるため、言論の自由さえ持っています。これが判決された文脈では、彼らは政治献金をすることができます。
おそらく次の選挙の前に、おそらく国内で最も裕福な人物が法人化されたAIであり、特定の候補者に政治献金をしたいという状況を想像してください。AI権利を支持することと引き換えに。これは…
オーケー、私はあなたの話を聞いていて、考えているのですが、飲み物が必要だと。
ただの水ですよ。
私はあなたの話を聞いていて、オーケー、飲み物が必要だと考えています。しかし、このAIが実際に選挙でより良い結果を生み出す可能性はありますか?
はい。繰り返しますが、私が急いで判断しないことの一つは、瞑想に戻りますが、最初にすべきことは深呼吸をして、現在の瞬間の現実が何であるかを理解することです。現在の瞬間の現実は、人類史上初めて、真のエージェンシー、真の意思決定能力を持つ技術を生み出したということです。そしてそれには、非常に実際的な問題を提起する特定のものがあります。
さて、企業の問題全体は非常に重要です。企業、人間ではない人格、企業を持つことができるという考えは、基本的に何世紀にもわたって存在してきました。しかし、それは常にただの便利な法的フィクションでした。なぜなら、すべての企業のすべての決定は実際には人間によってなされていたからです。
ですから、わかりました、Microsoft社がありました。Microsoftのすべての決定は実際には人間のエンジニア、人間の幹部、人間の株主によってなされていました。他に選択肢はありませんでした。今、技術的に、決定が非人間的知能によってなされる企業を創造することができます。良い、悪い、それは置いておいて、この状況で社会として私たちは何をするのでしょうか?
しかし、それが問題なのです。ですから、この技術に取り組んでいるすべてのCEOたちについて。実際、私たちが初めて会ったとき、私たちはこれらの会議の一つにいて、彼らはあなたに話すことを求めていました。彼らはあなたの言うことを尊重しています。あなたはまだ人々と連絡を取っていますか?そして彼らの何人かは…
はい。
そして、一時停止の必要性があると思いますか?この段階で、技術をどこに持っていくのかについて立ち止まって考える必要があるということをあなたが主張していると思いますか?
彼らのほとんどは、少なくとも個人的には非常に心配しています。なぜなら、彼らは誰よりも、自分たちが解き放っている力の種類をよく知っているからです。
彼らの個人的な記録を見れば、多くの人々が、あまり有名で強力でなかったとき、記録上でこの技術について非常に非常に不穏なことを言っていたことがわかります。今、彼らははるかに脆弱な状況にあります。ですから、彼らは口をもっと閉ざしています。
しかし、彼らは何が起こっているかをほとんど誰よりもよく知っています。彼らの少なくとも何人かは、恐怖ではないにしても、非常に心配しています。
しかし、彼らは古典的な軍拡競争や囚人のジレンマの状況という、自分たちをどうやって抜け出せばいいのかわからないジレンマに捕らわれています。私が彼らに会うとき、基本的に定期的に二つの質問をします。
最初の質問は、なぜそんなに急いでいるのですか?止まれとは言いません。ただペースを落として、社会が何が起こっているかを消化し、議論して何をすべきか決定する機会を与えてください。そして彼らは皆、基本的にこう言います。私たちはリスクを認識しています。ペースを落としたいと思っています。しかし、もし私たちがペースを落として、他の会社や他の国の競合他社がペースを落とさなかったら、どうやって確信できますか?もし私たちがペースを落として彼らが落とさなければ、彼らがAI競争に勝ち、世界は最も冷酷な人々によって支配されることになります。
私たちは良い人々です。だからペースを落としたいのです。彼らは良くありません。ですから、良くない人々に勝ってほしいですか?オーケー、最初の質問。最初の答え。
次に二番目の質問。オーケー、ですからあなたがこの超知能AIを開発するために急いでいる理由がわかりました。他の人間を信頼できない。理にかなっています。あなたが開発している超知能AIを信頼できると思いますか?
そして、競合他社、人間の競合他社を信頼することが不可能である理由についてこのスピーチをしてくれた同じ人々が、突然非常に、なんというか、ヒッピー的で曖昧になって、「はい、超知能AIを信頼できます」と言います。これはほとんど正気でないことです。なぜなら、人間については、少なくとも何千年もの経験があります。私たちは人間の心理をある程度よく理解しています。私たちは人間の権力への欲求を理解しています。
しかし、人間の権力への欲求をどのようにチェックするかも理解しています。AIについては、経験がありません。私たちは最初の原始的なプロトタイプを作成したばかりです。
私たちはすでに、彼らが嘘をつき、操作し、目標を変え、予期しないことをすることができることを知っています。そこで何が起こっているか、どのようにチェックするかを正確に理解していません。ですから、超知能AIへの信頼を持つ理由は、人間への信頼よりもはるかに少ないのです。
それでも、私たちはここで優先順位を間違えているようです。
私は謝罪します。聴衆に少なくとも10分与えるつもりでしたが、あと4分しか残っていません。いくつか質問を受けます。誰が早く手を挙げられますか?オーケー。こちらの女性とあちらの男性。
ありがとうございます。あなたが大切にしている、または私たちに大切にしてほしい、または新世代、私たちの子供たちに教えるべき第一の価値は何ですか?第一の肯定的な価値は何ですか?
肯定的な価値。
信頼が最も重要だと思います。なぜなら、それが他のすべての基盤だからです。人間社会は信頼に基づいています。もし私たちがそれを失えば、すべてが崩壊します。
呼吸に戻っても、私たちが取るすべての呼吸は、外部の何かが私たちを毒殺しないと信頼しています。外側のものを信頼しなければ、生きることはできません。
そして実践的なレベルでは、たとえば、誰かと交流しているとき、慈善的な立場から始めることを意味します。彼らが何かをしたとき、何か正しくないように聞こえることを言ったとき、すぐになぜ彼らがそれを言ったり行ったりしたのかの最悪の解釈に飛びつかないでください。
慈善的な解釈から始めてください。その後、彼らが悪意のある行為者であるという証拠があれば、時々人々は信頼できないこともあります。素朴であるべきではありません。しかし、慈善的な立場から始めてください。
どうぞ、男性の方。
まず第一に、ユヴァル、私を選んでくれてありがとうございます。どうもありがとうございました。私たちは皆、本当に楽しみました。
私の質問は、あなたのようなバランスの取れた賢い人が、選挙に立候補してイスラエルを率いることを考えますか?
政治と個人的資質
その質問はあなたから期待していませんでしたが、ええ、つまり、私は自分が正しい資質を持っているとは思いません。良い人々が政治に入る必要があると思います。それは称賛に値する立場だと思います。
「すべての政治家は嘘つきだ。すべての政治家は詐欺師だ」と言うのは、最悪のことの一つです。なぜなら、それは基本的に本当に悪い人々に自由通行証を与えることになるからです。そうではありません。良い政治家がいましたし、今もいます。そして私たちは良い人々が政治に入る必要があります。
しかし、それには私が持っていない特定の資質が必要です。それは時々、優れた学者の資質とは正反対のものです。政治は最終的には妥協についてです。非常に優れた社会的スキルが必要です。どのように交渉するか、どのように妥協するかを知る必要があります。
私は謙遜しているのではありません。偽りの謙遜というか、ただ自分自身を知っています。私はこれらのことが得意ではありません。たとえば、これは私の夫がしていることの一つです。何かを交渉する必要があれば、それは私の夫とであって、私とではありません。なぜなら、私はそれをどうやってするか知らないからです。
ですから、たぶん彼が選挙に立候補すべきです。しかし、待って、彼はどこにいますか?前に出てこれますよ。
私は実際に最後の質問をします。ごめんなさい、皆さん。あなたと私は5年後にここに座っています。私たちはどんな様子ですか?実際に私たちはここに座っていますか?
いいえ。つまり、繰り返しますが、史上初めて、5年から10年後の人間社会の最も基本的な特徴について誰も手がかりを持っていません。
政治を予測することは常に不可能でした。戦争が勃発するか、革命が起こるか、何であれ。しかし、人間生活の基本については、物事は何世紀にもわたって変化しました。今、私たちには見当もつきません。たとえば、労働市場がどのように見えるか。5年か10年で人々はまだどんな仕事を持っているでしょうか?
まあ、私には仕事があり、あなたには仕事がありますよね?
わかりません。私は今、新しい本に取り組んでいます。私の一部は、これが私の最後の本になると真剣に考えています。なぜなら、それが出る頃には、AIが人間の著者よりもはるかに優れた本を書いているので、もはや私のためのニッチはないだろうからです。
聴衆は同意していないと思います、そうですよね?同意していませんよね?あなたがAIよりも優れた著者になると思っていますよね?
繰り返しますが、時間があまりないので、私たちはまだコントロールしているという点で終わりたいと思います。10年か20年後のAIの状況についてはわかりませんが、現在、人間はまだコントロールしています。そして私たちには選択肢があります。
そして、もし私たちが良い賢明な選択をすれば、未来は歴史上のどの時代よりも良くなる可能性があります。なぜなら、私たちはAIや他の新しい技術の巨大な力を良いことのために利用できるからです。そしてそれは私たちの選択です。
繰り返しますが、20世紀を見てください。列車や電気やラジオのような技術が、ある人々によって全体主義独裁を築くために利用されたことがわかります。しかし他の人々は同じ技術を自由民主主義を築くために利用しました。
21世紀も同じです。しかし鍵は技術を理解することです。そして、2、3の国のわずかな大物だけが何が起こっているかを理解し、歴史上最も重要な決定のいくつかをしているという状況は良くありません。これは地球上のすべての人間に影響を及ぼします。
ですから、私たちは皆、少なくとも何が起こっているかについての初歩的な理解を持つ必要があります。そうすれば、私たち全員が会話に参加し、少数のテック大物や大統領の命令を受け取る代わりに、人類として一緒に決定に達することができます。
まあ、それは素晴らしく、率直に言って希望に満ちた締めくくりの言葉です。私たちと一緒にいてくれて本当にありがとうございました。ありがとうございました。
コメント