24,211 文字
ユヴァル、慶應大学にお越しいただき、ありがとうございます。ご招待ありがとうございます。光栄です。時間は30分しかありません。質問を矢継ぎ早にさせていただきます。もちろんどうぞ。
まず最初の質問です。私が大学の学長に就任した約4年前、大学図書館が「学長推薦の必読書」というコーナーを設置しました。そして、あなたの著書『21 Lessons』がその中心に置かれていました。ありがとうございます。それは6年前のことです。あなたは『21 Lessons』を出版し、そこで3つの大きな世界的脅威について言及しました。一つ目は核戦争。プーチンのロシアを含みます。二つ目は生物技術の制御されていない進歩、ヒトゲノム編集を含みます。三つ目はIT、つまり情報ネットワークとAIが無秩序に発展することです。
これらの3つの脅威を挙げられましたが、『Nexus』ではITネットワーク、情報ネットワークとAIに集中されています。その理由を教えていただけますか？
AIとバイオテクノロジーを比較すると、最も明白な違いはAIの動きがはるかに速いということです。バイオテクノロジーも世界を劇的に変える可能性がありますが、生物学ははるかに遅いため時間がかかります。例えば、人間のゲノム、赤ちゃんのゲノムに変更を加え、その効果を知り、将来さらに大きな変化をもたらしたいと思ったら、新しい遺伝物質、新しい遺伝子コードが人間の行動、知性、心理にどのような影響を与えるかを見るために20年、30年、40年待つ必要があります。つまり、人間に関するバイオテクノロジーでの世代交代は20〜30年ですが、AIでは数日のこともあります。デジタル進化は有機的進化よりも何百万倍も速いのです。
バイオテクノロジーの潜在的な危険性と可能性を軽視するわけではありませんが、AIははるかに速いのです。また、核戦争の脅威とAIを比較する理由ですが、これには2つあります。まず、核戦争には良い面がないので、支持者もいません。それは特に今日の世界では大きな脅威です。ロシアのような国が1945年以降の国際システムの最大のタブーを完全に無視しているのを目の当たりにしています。国際システムの最大のタブーは、強い国が弱い国を侵略し、征服し、破壊しようとすることはできないというものでした。
今やこれは破られています。危険は非常に大きいですが、少なくともみんながその危険性を理解しています。核戦争に勝者はいません。AIの場合、それははるかに複雑な課題です。なぜならば、巨大な肯定的な可能性があるからです。そして、人々は何が脅威なのかを理解するのが非常に難しいと感じています。
広島と長崎への原爆投下以来、少なくとも人間には核技術の危険性が明確になりました。長い説明は必要ありません。AIの場合、それが邪悪だからというわけではなく、危険性を把握するのが難しいのです。AIは邪悪ではありません。AIの主な問題は、それが「異質」だということです。それは多くの面で超人的な知性かもしれませんが、人間ではありません。有機的ではありません。多くの人がAIはいつ人間レベルの知性に達するのかと尋ねますが、答えは「決して到達しない」です。なぜなら、それは私たちとはまったく違うからです。それは「飛行機はいつ鳥レベルの飛行に達するのか」と尋ねるようなものです。決してです。飛行機は鳥とは違います。別の方法で飛ぶのです。
AIは人間の知性を超えるでしょう。しかし、本質的に異質なものです。そのため、どのように発展し、どのような結果をもたらすかを予測するのは非常に難しいのです。また、おそらく最も重要なのはAIがツールではなく、エージェントだということです。これは私たちが今まで作り出した最初のエージェントであって、ツールではありません。
原子爆弾や平和目的の原子炉、電気を生産する原子炉、これらは私たちの手の中にあるツールです。私たちがそれで何をするか決めるのです。私たちが、原子力技術を使って都市を破壊するのではなく電気を作ろうと決めるのです。その決断を下すのは私たちなのです。そして原子炉自体は何も決定できません。もちろん、次世代の原子炉や技術を発明することもできません。今まで、決断を下したり新しいアイデアを発明できたのは人間だけでした。AIは自分自身でそれができる最初の技術です。
私たちの助けなしにAIは決断を下すことができます。AIによる武器は人間に何をすべきか指示されなくても、自分で何を爆撃するか決定できます。そして新しい武器や新しい軍事戦略さえ発明することができます。AIには非常に肯定的な可能性もあります。新しい薬、癌の新しい治療法を発明できます。そして巨大な悪い可能性もあります。だからこそ、今回の本では情報技術の歴史に焦点を当てることにしました。現時点で、これが私たちが直面している最大の課題だと思うからです。
実際、多くの面で、これは人類がその歴史の中で直面した最大の課題です。何千年もの間、私たちは地球を支配してきました。地球上には知性や新しいものを発明する能力で私たちと競合できるものはありませんでした。今や地球上に、おそらく数年以内に私たちを知性で凌駕し、私たちの生活について決断を下し、医薬品から兵器まで新しいものを発明することができるものが存在します。それが最大の課題なのです。
あなたは「おそらく数年以内に」と言いましたが、2015年の時点ですでに『Homo Deus: A Brief History of Tomorrow』を出版され、そこでも情報技術、情報ネットワークに焦点を当てていました。現在のあなたの考えと、『Homo Deus』を書いた2015年頃の考えを比較するとどうですか？10年が経ちました。あなたは歴史家、中世の軍事専門家として始められ、今は情報ネットワークに焦点を当てています。過去10年間のあなたの発展をどのように比較されますか？
10年前に『Homo Deus』を書いた時は、ほとんど誰もAIについて話していませんでした。もちろんコンピュータサイエンス学部には専門家がいましたし、GoogleやMicrosoftのような主要企業には何が起きているかを理解していた人々がいました。そして、2014年に『スーパーインテリジェンス』を出版したニック・ボストロムのような哲学者も少数いました。しかし、『Homo Deus』を書いた時は、何百年も先に起こるかもしれないこと、私たちの生活に直接的な実用的影響がほとんどない哲学的な思索について話しているように感じました。
今、それは私たちの周りにあります。そして発展のペースは単に驚異的です。当時から、レイ・カーツワイルのような人々がAGI（人工汎用知能）、つまりチェスをするとか車を運転するといった狭い分野だけでなく、あらゆる分野で人間を超える能力を持つAIが2020年代の終わりまでに、2029年までに出現すると言っていました。私がカーツワイルの著作を読んだ時、彼は誇張していると思いました。2029年までにはあり得ないと。今でもカーツワイルは2029年と言っていますが、彼は今では比較的保守的な思想家と見なされています。アメリカや中国の企業の開発担当者の話を聞くと、彼らは1年以内、5年以内にAGIが実現すると言っています。それほど加速しているのです。
また、AIを規制し、これについて何らかの合意に達するというすべての希望が現在では非常に甘いものに思えます。特に最近のアメリカの選挙以降、AI開発のリスクを管理するための世界的な合意に達する希望はすべて消えたと思います。
AI革命の中心にある大きなパラドックスは、信頼のパラドックスです。AI革命を主導する人々、OpenAIやMicrosoft、Tencent、Baiduのような企業を運営する人々、主要な政治家と話すとき、私はいつも二つの質問をします。
まず「なぜそんなに急いでいるのですか？」と尋ねます。肯定的な可能性が非常に大きいことは理解していますが、リスクもあります。人間社会に時間を与えるために少し減速しましょう。人間は非常に適応性の高い生き物です。AIの時代に適応することはできますが、ただ時間が必要なのです。もう少し時間をください。彼らは皆同じことを言います。「リスクが大きいことは理解しています。人類絶滅ほどのリスクもあります。これを理解し、減速したいと思いますが、できません。なぜなら、もし私たちが減速して、他の企業や他の国の競争相手が減速しなければ、彼らがレースに勝ち、最も無慈悲な人々がこの素晴らしい技術、AIを持つことになるからです。他の人間を信頼できないため、より速く動かなければならないのです。」
次に「あなたが開発している超知能AIを信頼できると思いますか？」と尋ねると、彼らは「はい」と答えます。先ほど「他の人間は信頼できない」と言っていた同じ人々が、突然非常に信頼性が高くなり、「しかしAIは信頼できるでしょう」と言うのです。これは正気の境界線上にあります。なぜなら、人間同士では信頼することが難しい理由はわかります。私たちには他の人間との数千年の経験があり、彼らの心理や動機を理解しています。人間の権力欲についても多くを知っていますし、権力追求をチェックするメカニズムも理解しています。そして数千年にわたり、人間は互いに信頼する方法を発展させてきました。
10,000年前や100,000年前、人間は数十人の小さな集団で生活し、自分たちの集団外の誰も信頼できませんでした。今や日本のような国には何億人もの市民がいて、彼らは互いに信頼することができます。グローバルな貿易ネットワークは地球上の80億人全員を結びつけています。私たちが食べる食べ物、着る服、服用する薬は、しばしば地球の反対側の見知らぬ人々によって生産されています。確かに、他の人々をどう信頼するかという大きな問題はまだありますが、私たちにはその経験があります。超知能AIとの経験は全くありません。AIがどのような目標や策略を発展させるかについて、私たちには全く見当がつきません。何百万もの超知能AIが互いに、そして何百万もの人間と相互作用するとき何が起こるのか、見当がつきません。
AIは一つの大きなコンピュータではありません。それを世界中を席巻する移民の波と考えてください。今、ポピュリスト政党は移民をとても恐れています。「移民がやってくる。仕事を奪う。文化について異なる考えを持っている。国を乗っ取る。文化を変える」と。私たちはとても恐れています。AIは何百万もの異質な移民の波であり、人々の仕事を奪い、社会の運営について非常に異なる考えを持ち、国を乗っ取る可能性があります。これははるかに恐ろしいことでしょう。
これが大きなパラドックスであり、大きな問いは、超知能AIを開発する前に、人間同士の信頼をどのように構築するかということです。
あなたは人間と自律型AIまたはエージェントAIとの間の信頼について話されました。また、いわゆるエリートとノーマルな市民との間の信頼も分断が広がっています。あなたは『Nexus』の中で、独裁者たちがAIをエージェントとしてではなく、ツールとして利用しようとしていると言及されました。しかし、あなたが言及したように、その結果は未知のものになります。いわゆるエリートとポピュリスト的な世代との間の信頼または分断をどのように見ていますか？あなたの本はおそらくいわゆるエリート側によって主に読まれていますが、この本が一般市民にどれだけ影響を与えているか疑問に思います。それが我々に必要なことだからです。あなたはこれらの分断されたグループ間の架け橋となり、その分断を狭めようとしています。
私たちが心の中で作り出す多くの分断と同様に、この分断も偽りの二分法です。エリートと人々という分断も同様です。世界で最も裕福な人、イーロン・マスクやドナルド・トランプのような億万長者のグループが、彼らはエリートに反対していると主張しています。もし彼らがエリートでないなら、エリートとは何でしょうか？世界で最も裕福な人物がエリートでないのなら？これらの億万長者たちが今やアメリカ政府を運営しているが、彼らはエリートではないのでしょうか？なぜ？エリートという言葉は、政治的ライバルに貼り付けるような否定的な用語になってしまいました。
実際、すべての人間集団にはエリートがいます。サッカークラブでさえ、何らかの集団を運営することはできません。常により才能がある人や、より権力や影響力がある人がいます。これは人間社会の本質です。問題はエリートの存在ではなく、それが「奉仕するエリート」なのか「自己奉仕的なエリート」なのかということです。
小さな友人グループから国全体、地球全体まで、どのような集団であっても、最も影響力のある人々がその力を自分の利益のためだけに使うなら、それは非常に悪い状況です。理想は、特定の分野でより才能がある、より影響力がある、より力がある人々が、それを社会の利益のために使うことです。
エリートなしで社会を作れるという幻想は、決して機能しません。それは常に一部の人々が自分自身のために権力を得るための策略です。完全に平等な社会、エリートのない社会を作る最大の実験は共産主義でした。そしてその結果がどうなったかは皆知っています。北朝鮮はエリートのない社会でしょうか？おそらく一人だけだからかもしれません。しかし、これは私たちが目指すべきことではありません。
特にこのような機関や全ての大学の目的は、エリートを破壊したりこれらのグループ間のすべての障壁を打ち破ることではなく、奉仕するエリートを作ることです。特定の分野でより才能があり、その分野でより影響力がある人々が、その才能と力を個人的な利益だけでなく、すべての人の利益のために使うことです。それが目標であるべきです。
あなたは『Nexus』で、サイバースペースに住む人々と物理空間に住む人々の分断についても言及されました。今や多くの人々がサイバースペースに住み、280文字以下のツイートやXなどをただフォローしています。このような状況で、私たちのような教育機関や初等・中等教育はどのようにして、若い世代がこのサイズの本を読む、つまり思考を促す本を読み、議論する能力を維持するという課題に取り組むべきでしょうか？それはますます難しくなっています。人間の知的能力を維持するための教育の役割は何でしょうか？
以前の時代、教育機関は情報を提供することに焦点を当てていました。情報が希少な商品だったからです。おそらくあなたは遠く離れた町に住んでいて、そこには100冊ほどの本しかない図書館が一つだけでした。本を手に入れること自体が非常に困難でした。今はまったく逆です。人々はもっと多くの情報を必要としているわけではありません。私たちは膨大な量の情報に圧倒されています。そして理解すべき主なことは、情報は真実ではないということです。真実は情報の非常に稀な部分集合です。世界のすべての情報を考えると、真実はそのごく一部分です。
情報のほとんどはジャンクであり、ほとんどはフィクションや空想、嘘、プロパガンダなどです。なぜ真実が稀であるかは理解しやすいです。フィクションは安価です。何かについての真実の記述を書こうとすると、研究が必要です。分析や事実確認に時間をかける必要があります。時間と労力とお金がかかります。フィクションは非常に安価です。頭に浮かんだことを書けばいいだけです。とても安価です。
第二に、真実は複雑な傾向があります。なぜなら現実は複雑だからです。量子物理学について記述しようとすると、それは複雑です。一方でフィクションは、人々は通常複雑な物語を好まず、単純な物語を好みます。あなたが望むほど単純にすることができます。なぜならあなたがそれを作り出すのですから。
最後に、真実はしばしば痛みを伴います。常にではありませんが、現実のある部分は不快です。個人レベルから言えば、これが人々がセラピーに行く理由です。もし自分について全てが快適で楽しいものであれば、痛みを伴う記憶やパターンを認識するのを助けてくれるセラピストは必要ないでしょう。そしてこれは国全体にも当てはまります。国々はしばしば歴史や社会の痛みを伴う部分を認識したくないのです。
つまり、真実は時に痛みを伴い、費用がかかり、複雑ですが、フィクションはあなたが望むほど魅力的で、安価で、単純に作ることができます。この競争では、フィクションが勝ち、世界は膨大な量のフィクションに溢れています。大学や新聞のような機関の仕事は、単に人々にもっと多くの情報を提供することではありません。彼らはすでに情報を持ちすぎています。情報の海の中から真実という稀な宝石を見つける方法を提供し、その違いを見分ける方法を教えることが重要です。
歴史家として、私が歴史の授業で学生に教える主なことは過去についての事実ではありません。「この王がその王をその年に打ち負かした」といったことではありません。それには私は必要ありません。それはGoogleで検索すればいいのです。彼らが歴史学部でまだ学ぶ必要があるのは、信頼できる歴史的資料と信頼できない資料をどのように区別するかです。資料は今日インターネットで読んだものかもしれません。このTikTokの動画を信頼できるかどうかをどうやって知るでしょうか？資料は中世のものかもしれません。千年前の文書を見つけて「王がこの戦いに勝った」と書かれているとして、それを信じるべきかどうかをどうやって知るでしょうか？千年前の人々も今日と同様に嘘をついていたからです。
それが主な問いであり、それはすべての科学分野で重要です。もちろん、各分野で少し違いますが、鍵となる問いはより多くの情報を得ることではなく、信頼できる情報と信頼できない情報をどのように区別するかということです。物理学や化学の実験も同様です。この実験が正しく行われ、結果を信頼できるか、それとも何か問題があって信頼すべきでないかをどうやって知るでしょうか？
真実が時に痛みを伴うということですが、『Nexus』を読むと様々な感情が湧き上がりました。しかし同時に、まだ遅すぎるわけではなく、自己修正する能力や協力し合う能力など、人間の本質があるという希望を与えてくれました。もし時間があれば…。私たちがこれに対処する方法があるはずです。これが山本教授が述べたように、私たちが「クロス・ディグニティ・センター」を設立した理由です。そこでは人文科学や社会科学の教授たちが集まり、まさにその課題に取り組もうとしています。
もしあなたが私たちのクロス・ディグニティ・センターの研究者だったら、ちなみにいつでも参加歓迎します、あなたの研究テーマは何になるでしょうか？
人間同士の信頼をどう構築するかです。それが最も緊急性が高いと思います。なぜなら、今の世界で見られるのは人間の信頼の崩壊だからです。まさに私たちがそれを最も必要としている時にです。世界で最大の危険はまだAIではなく、人間同士の不信感だと思います。人間が互いに信頼し協力できれば、AIを安全に開発する方法をまだ考案できるでしょう。人間同士の不信感がAI革命をとても危険なものにしているのです。まだAIをコントロール下に置くために人間同士の信頼を構築するには遅すぎません。
人間同士の信頼構築というこの課題にどのようにアプローチしますか？
学際的なセンターが理想的な場所だと思います。なぜなら単一の学問分野ではこの問題に取り組むことはできないからです。生物学や心理学からのインプットが必要です。私たちはまだ動物であり、私たちの動物的な遺伝を理解する必要があります。例えば、チンパンジーがどのように信頼を構築するか、あるいは構築に失敗するかを学ぶことで、人間がどのように機能するかを理解するのに役立ちます。経済学やコンピュータサイエンスからのインプットも必要です。今日、すべての社会システムは新しい情報技術に基づいているからです。
人間同士の信頼構築に関する多くの教訓が、10年、20年前まで非常に成功していたものが、今では時代遅れになっています。なぜなら今や人間はコンピュータを通じてコミュニケーションをとるからです。この新しい技術、人間の間を媒介するこの技術を理解しないと…そして過去10年か20年で人間の信頼がなぜ崩壊したのかについて大きな議論があります。
これはパラドックスです。なぜなら人類は今まで経験した中で最良の状態にあるからです。子供の死亡率や病気、飢餓などのデータを見れば、すべてが減少しています。私たちは史上最良の状況にあります。にもかかわらず、人々はとても怒り、イライラし、互いに話すことができません。何が起きたのでしょうか？新しい技術が人間の間に入ってきました。今や人間のコミュニケーションの大部分は非人間的なエージェントによって媒介されており、それが世界に混乱をもたらしています。
信頼を再構築するために、私たちは後戻りはできません。スマートフォンやコンピュータをすべて捨てようとは言えません。それは機能しません。だから、この新しい技術、情報技術、コンピュータ、ソーシャルメディア、AIなどの媒介を通じて、大勢の人々の間に信頼を構築する方法を再び学ぶ必要があります。
あなたの本は非常に読みやすいです。学術的な書き方とはかなり異なります。これは意図的にそうされているのですか？
もちろんです。私の仕事は、学術研究の世界、つまり専門家が他の専門家と、学術的背景のない一般の人々には理解しにくい言語で話す世界と、橋を架けることだと考えています。私は最新の理論、モデル、学術・科学コミュニティの発見を取り上げ、高校生や、AIとは何か、情報革命とは何か、情報の歴史とは何かを理解したいと思っている人々が、コンピュータを勉強したことがなくても、すべてのグラフや方程式なしで、簡単な言語で理解できるように説明しようとしています。それがこの本を書いた目的です。
あなたの努力がサイバースペースに住む人々にどの程度浸透していると感じますか？
それを知るのは非常に難しいです。本を書き、世に出しても、それが人々にどのような影響を与えるか知るのは非常に難しいです。私一人だけでなく、10年前に『Homo Deus』が出版されたのと同時に、私の夫と私は社会的影響力のある会社を設立しました。私は本を書く担当で、彼はビジネス面を担当しています。そして20人のチームがいます。その一人は東京におり、ソーシャルメディアアカウントを管理し、本のアイデアをより多くのメディアに翻訳して、より多くの人々に届くようにしています。
これが十分かどうかはわかりません。私たちは各個人が世界で少しの力を持っていると感じています。私たちはできることをしようとし、他の人々も彼らができることをすると信頼しています。誰も一人で世界全体をカバーすることはできません。十分な人々が、彼らの小さな活動分野でできることをすれば、私たちは大丈夫だと思います。
『Nexus』は日本語版が出たばかりです。だからここにいらっしゃっているのですね？はい、しかし『Nexus』の原書版は昨年出版されました。はい、9月に。開発状況、特にトランプ政権が始まり、世界中で多くの動きがある中で、どのように見ていますか？
非常に心配です。再び、社会内および社会間の信頼が加速度的に侵食されているためです。国際秩序が崩壊しているのが見えます。第二次世界大戦後に確立された国際秩序の最も重要な規則は、強い国が弱い国を侵略し征服することはできないというものでした。
それは何千年もの歴史とは完全に逆でした。何千年もの間、強い国が近隣を侵略し征服し、より大きな国や帝国を建設することは普通のことでした。人類は21世紀初頭に、このタブーが維持されたおかげで、歴史上最も平和で繁栄した時代を享受しました。世界の一部には紛争がありました。私は中東出身、イスラエル出身なので、このことをよく知っています。完璧な秩序ではありませんでしたが、以前に存在したものよりは良かったのです。
これは政府の予算に最も明確に見ることができます。歴史の大部分において、すべての王や将軍、皇帝の予算の50％以上が軍事、兵士、軍艦、要塞に費やされていました。これが主な政府支出でした。21世紀初頭には、軍事への平均的な政府支出は約6％か7％まで下がりました。これは驚くべき成果です。約10％がヘルスケアに向けられました。世界中の政府が軍事よりもヘルスケアに多くを費やしたのは人類史上初めてのことでした。
これは今、ロシアのウクライナ侵攻や他の出来事の結果として逆転しています。防衛予算が急増し、それはヘルスケアや教育を犠牲にすることになるでしょう。正直言って、トランプ政権はこれを良くしていません。トランプがウクライナを戦争の責任者として非難するのを聞くと、彼が考えているのは弱者が強者に従うのが正しいという世界秩序であることが非常に明確です。そして弱者が強者に従うことを拒否すれば、その結果生じる紛争の責任は弱者にあるということです。
アメリカがグリーンランドを征服したいと脅すのを見てください。デンマークがグリーンランドを所有し「アメリカの一部になりたくない」と言います。その結果、トランプの考えでは戦争が起こり、誰が責任を負うのでしょうか？デンマークが責任を負います。なぜならアメリカは強いからです。強者に従わなければなりません。強者に従わず戦争が起これば、弱者が責任を負います。強者に従うべきだったのです。
このような世界観、このような論理は、人類全体を常に戦争状態に戻すでしょう。この状況では、ヘルスケアや教育の予算だけでなく、AIを規制するあらゆる可能性も低下するでしょう。なぜなら、すべての国が「AIレースに勝たなければならない」と言うからです。「私たちを減速させる可能性のあることは何もしない。そうすれば相手が勝ち、そこに強者がいて、私たちは従わなければならない」と。
それでもあなたの本は私たちに希望を与えてくれます。まだその時点に達していない限り、まだ希望はあります。そして今後数か月、数年の間に十分な人々が正しいことをすれば、人類はまだ大丈夫でしょう。
ありがとうございます。時間が来ました。ユヴァル、ありがとうございました。素晴らしい時間でした。あなたをお迎えできて大変嬉しいです。質問を受けるためにこちらにいます。ハラリ博士、そしてエトー博士、ありがとうございました。では、学生との質疑応答セッションに移りましょう。
クロス・ディグニティ・センターの共同ディレクターとして、私は今、人間同士の信頼に関連する新しいプロジェクトについて考えています。ありがとうございます。日本人学生と日本人記者のために、また報道機関の編集上の問題のために、日本語で話します。日本語で質問をお願いします。学生の皆さんは流暢に英語を話せることは知っていますが。これを問題にします。ありがとうございます。
では日本語で話します。大学外から多くの方々がいらっしゃっていますが、これは学生と博士の間のものです。学生の質問を取り上げましょう。そこの方どうぞ。
洞察に満ちた対話をありがとうございます。二つ質問があります。一つ目は、AIが非常に進化してネットワークを作り出すと言及されましたが、人間の間では多くの分断があります。その観察に強く同意します。その状況では、AIやアルゴリズムを通じて、人々は全体主義によって分断を強化するでしょう。過去には一つの物語を共有していましたが、その物語も分断されています。『Sapiens』から、ホモ・サピエンスには集団を維持する特別な能力があり、共同主観的な物語が非常に重要な役割を果たしたと繰り返し言っていましたが、将来、共同主観的な物語はどのような役割を果たすと思いますか？
はい。ホモ・サピエンスとしての私たちの特別な能力は、共有された物語、共有された物語を通じて、何千人、何百万人、何十億人もの人々の間で非常に大規模な協力を組織することです。それは神や宗教についてだけでなく、経済においても同様です。
おそらく最も成功した物語は「お金」でしょう。それは誰もが信じる唯一の物語です。すべての人が神、このあるいはあの神を信じているわけではありませんが、他のことについて完全に意見が合わない人々でも…アメリカを見てください、共和党と民主党はドル以外のことでは合意できません。共和党員がドルを持ってくれば、民主党員はそれを受け入れ、パンやガソリンなど何でも売ります。逆もまた然りです。
これさえも暗号通貨によって脅かされています。「ドルは欲しくない、暗号が欲しい」と言う人々がいるからです。これは非常に重要な兆候です。なぜならドルは人間の通貨だからです。銀行のような人間の機関によって作られます。ビットコインやイーサリアムのような暗号通貨はアルゴリズムによって作られる、ポスト人間の通貨です。「ドルを信頼せず、ビットコインを信頼する」と言う人々が実際に言っているのは「人間を信頼せず、アルゴリズムを信頼する」ということです。「銀行を運営する人間よりも、暗号通貨ネットワークを運営するアルゴリズムを信頼する」と。
これと同じことが、より多くの分野で見られます。先ほど官僚制について話しました。イーロン・マスクやドナルド・トランプが何万人もの人間の官僚を解雇していますが、彼らは本当に官僚制に反対しているわけではありません。単に人間の官僚をデジタルの官僚、アルゴリズムに置き換えているだけです。
これが人間からアルゴリズムへの権力のシフトです。物語に関しては、ソーシャルメディアが最も関連しています。以前は、世界中を巡る物語はすべて人間の心から生まれ、どの物語が会話を支配するかを決めるのは人間の編集者でした。新聞やテレビ局では、人間の編集者がその日に発表されたすべての物語を確認し「これが最も重要な物語だ。これをフロントページに掲載し、皆がこれを読み、これについて話すだろう」と言っていました。
今や、この仕事もアルゴリズムによって行われています。世界で最も重要な編集者は誰かと尋ねれば、TikTokやFacebook、Twitterの編集者たちです。そして彼らは人間ではなく、アルゴリズムです。物語は非人間的な知性によって生み出され、広められているのです。人間の信頼と協力を維持するために。
完全な解決策ではありませんが、最初で最も単純なこととして、すべての政府が偽の人間、偽造された人間を禁止する法律を可決すべきです。偽のお金を禁止する法律があるのと同じように。円を印刷してこれが本物だと偽ることはできません。できません。人間も同じです。
今日まで、偽の人間を作ることはできませんでした。今はできます。ボットが人間のふりをすることができます。TikTokやTwitterのようなプラットフォームでのトラフィックの多くはボットによって運営され、人間のふりをしています。取るべき最初で最も単純なステップは、非常に厳格な法律を持つことです。人間を偽ることはできません。
AIは私たちと話すことを歓迎されますが、AIであると自己識別することが条件です。誰かが人間を偽ろうとしたり、プラットフォームが偽の人間に対して行動を取らなかった場合、彼らは刑務所に行くべきです。印刷機や印刷店を持ち、人々が円を印刷しようとした場合、その店の所有者に何が起こるのでしょうか？彼は刑務所に行きます。人間を偽ろうとする人にも同じことが起こるべきです。それはさらに悪いことです。
ありがとうございます。追加の質問はありますか？
二つ目の質問があります、教授。現在、虚偽情報や偽情報が非常に蔓延しています。あなたが言ったように、人間同士の間で、人間同士の信頼が再発明または再検討される必要があります。何らかのルールが必要です。フィクションの場合、それ自体がフィクションかもしれません。
『Nexus』の中で、フィクションによる安定した秩序と信頼の追求、そのバランスが重要だと述べられていました。信頼を追求する中で、修正されるべきフィクション、修正されるべきフェイクニュースなど、これらは社会的安定に貢献する社会的摩擦です。これら二つをどのように区別できますか？あなたの考えと洞察をお聞かせください。
虚偽情報に関しては、言論の自由と情報の自由を区別する必要があります。言論の自由は人間に与えられます。それは人間の権利であり、非常に重要な人権であり、保護されるべきです。この会場であれ、TikTokやFacebookであれ、どこであれ、人間は、極端な状況を除いて、自分の意見を表明する権利を持ち、それに対して罰せられることを恐れるべきではありません。これは保護されるべきです。
情報の自由は全く異なるものです。それは人間ではなく、AI、アルゴリズム、ボットに与えられる新しい権利です。多くのソーシャルメディア大手は意図的にこの二つの権利を混同しています。ソーシャルメディアの問題は、人間が嘘を発明することではありません。人間は何千年もの間、嘘を発明してきました。極端な状況を除いて、彼らは罰せられるべきではありません。
問題は、その後、嘘や憎しみなどを意図的に広めることを決定するアルゴリズムがあることです。これは止められるべきであり、罰せられるべきです。YouTubeのユーザーとして偽のニュース動画を作った場合、罰せられるべきではありません。しかし、私が企業であり、憎しみに満ちた陰謀論を意図的に推薦し、数百万人に再生して、その利益を得ている場合、これは罰せられるべきです。
これは言論の自由によって保護されていません。なぜならこれはアルゴリズムによって行われるからです。アルゴリズムには権利がありません。嘘を広める権利はありません。新聞やテレビ局と同様に、ソーシャルメディア企業の仕事は、何かを広める前に、それが真実であり、憎しみに満ちた嘘ではないことを確認することです。
私は憲法の研究をしているので、いくつかコメントしたいところですが、控えておきます。そこの方どうぞ。
様々な問題に触れていただき、非常に興味深く思いました。AIと戦争について質問があります。従来、国の資産は天然資源、有形資源でした。しかし今、情報により無形資産があります。国はサイバー戦争でこれらの目に見えない資産を使用できます。しかしウクライナとロシアは実際に爆撃し、人々を殺しており、それは依然として破滅的です。将来、高度に知能的なAIが登場しても、人間が互いに憎しみを持つ限り、この残酷な物理的な戦争は続くと思いますか？
はい。物理的な世界はまだそこにあります。情報技術の発展は物理的な世界を廃止しません。それはその上に構築された別のレイヤーです。これは何千年も前からそうでした。人間によって作られたすべての情報、法律や憲法であれ、宗教であれ、お金であれ、物理的および生物学的現実を置き換えたり廃止したりしませんでした。
人々はまだ体を持っています。食べ物が必要で、きれいな水が必要です。しかし、この追加の物語のレイヤーは、私たちが食料を得る方法を変える貿易ネットワークのようなものを作ることを可能にします。10万年前、お腹が空いたら森や草原、海に行き、魚を釣り、狩りをし、果物を集めて食べていました。今、それをする人はほとんどいません。ほとんど全ての人がグローバルな貿易ネットワークに依存しており、それは食糧を得るために情報によって管理されています。
AI、平和時であれ戦時であれ、同じことが起こる可能性が高いです。戦争は最終的には人々を殺すことについてですが、それがどのように行われるかは変化しています。最近の戦争、ロシアのウクライナ侵攻だけでなく、私の国であるイスラエルとパレスチナ人の間の戦争でも見られました。多くの人々はAIが実際の射撃を行うことで戦争を変えると期待していました。人々はハリウッド映画のキラーロボットを見ていたので、テレビでキラーロボットを見ていないのです。殺害はまだ人間によって行われています。
AIですでに本当に変わったのは、誰がターゲットを選び、誰が決断を下すのか、誰がこの建物を爆撃すると決めたのか、誰がこの人物を爆撃すると決めたのかということです。そして、その答えはますますAIになっています。これは本当に過去2-3年で起きたことです。
以前は、ターゲットを特定する仕事は人間の情報将校によって行われていました。彼らはすべての情報を収集し、すべてのレポートを読み、「この建物が敵の司令部だ、爆撃しよう」と言うのに数日かかっていました。今や、それは数秒でAIによって行われます。AIは人間が分析できない膨大な量の情報を調べ、人間が発見できないパターンを見つけ、数秒以内に「これは敵の司令部だ、爆撃しよう」と言います。統計的確率と他の非常に複雑な数学的モデルを用いて。
もちろん、大きな問題はAIを信頼できるかどうかです。おそらくそれは間違いを犯し、軍事施設ではなく民間の建物を爆撃するように言ったかもしれません。様々な人々と話し、彼らは異なる話をします。ある人は「AIがターゲットを指摘した後、人間のアナリストがすべての情報を確認して間違いがないことを確認する」と言います。他の人は「人間のアナリストは約30秒しか費やさない。誰も本当にAIをチェックできない。AIはあまりにも多くのデータポイントを扱う。基本的に彼らはただ承認するだけで、決断を下しているのはAIだ」と言います。
私はわかりません。おそらく時にはこのように、時にはあのようにでしょう。しかし、5年後、10年後の未来を見据えると、傾向は非常に明確です。ますますAIが戦争における重要な決断を下すようになるでしょう。これはもちろん非常に危険な展開です。
ありがとうございます。他に質問はありますか？そこの方どうぞ。すべての人をカバーできないと思いますが。
反科学的な質問のタイプです。『Homo Deus』で、COVID-19ワクチンの開発がワクチン開発に貢献したと述べられましたが、そこには陰謀論がありました。それはフェイクニュースにも当てはまると思います。科学に基づいた反対意見がありますが、ハラリ博士は、AIに対しても反科学的な反対意見が出てくると思いますか？そしてそれに対してどのような対策を取るべきだと思いますか？
陰謀論は新しいものではありません。歴史を通じて存在してきました。これは先ほど述べた真実とフィクションの主要な違いに関連しています。真実は複雑ですが、フィクションは単純です。大きなパンデミックのような多くのものを変えるものがあるとき、パンデミックの真実は非常に複雑です。
ウイルスが何であるかを理解することさえ、ウイルスはとても奇妙なものです。人間は歴史の大部分において、ウイルスが存在することを知りませんでした。本当にウイルスが何であるかを理解し始めたのは過去1世紀のことです。ウイルスの奇妙な点は、それが完全に生きているわけでもなく、完全に生きていないわけでもないことです。科学コミュニティでは大きな議論があります。
ウイルスは生命の一形態なのか、それとも単なる化学的情報なのか、なぜならウイルスは自分自身で繁殖できず、ウイルスは食べません。バクテリアのように物を食べて繁殖するわけではありません。ウイルスは本当に単なる情報の断片です。この遺伝子コードの驚くべき能力は、私の体の細胞に入り込み、私自身の体、私自身の細胞にそのコードのより多くのコピーを作るように指示することです。
1つのコード、1行のコードから始まり、それが私の体の細胞を乗っ取り、そのコードの百万のコピーを得ます。それらは他の細胞に広がり、他の細胞にそのコードのより多くのコピーを作るように指示します。これがウイルスが広がる方法です。これはとても奇妙なことです。私たちの現実のレベルではそのようなことは起こりません。それは非常に、非常に小さな現実のレベルで起こっています。
パンデミックがどのように始まり広がるかを理解することは非常に複雑です。陰謀論を信じる方が簡単ではありません。「非常に強力な人々のグループがいて、彼らは世界を乗っ取るためにこのパンデミックを作った」と。
歴史家として言えることは、このタイプの陰謀は常に間違っているということです。単純な理由で、世界は少数の人々が本当に理解し操作するには複雑すぎるからです。陰謀論が通常想定する操作のレベルは完全に非現実的です。政府がどのように、政府の全ての力を持っていても、何かをしようとしてもしばしば失敗するかを見てください。
アメリカ人がイラクに侵攻すると決めたとしましょう。彼らは世界で最も強い国で、これらの軍事力を持っていますが、彼らは失敗します。確かに彼らはイラクを征服することに成功しますが、すべてが計画から外れ、最終的にイランが戦争の主な受益者、勝者になります。アメリカ人には一つの計画がありましたが、まったく別のことが起こりました。これが実際の世界の機能方法です。
陰謀論は通常、世界が非常に単純な場所であるという一種の願望思考です。部屋の中の数人が世界を乗っ取る計画を立て、そしてただそれを実行するということは、決して起こりません。
ありがとうございます。お話しできて嬉しいです。他に質問がある方はいらっしゃいますか？前の方ですかね。
興味深いスピーチをありがとうございます。科学部門から来ました。AIとエンターテイメント、人間のためのエンターテイメントについて質問があります。私たちが現在生きている世界は社会主義的で、AIが進化し、YouTubeやXやTikTokがあり、私たちはそれを見て楽しんでいます。これは私たちが喜びを見出す世界です。
ハラリ博士は、人間にはエリートと非エリートがいると言いました。その間には大きな分断があり、私にとって、エリートと非エリートが楽しみを享受する方法は変化し、多様化しています。将来のエンターテイメントと喜びの形と意味について、それがどのように変化すると思いますか？正確には何が変わるのでしょうか？
将来のエンターテイメント、その形と意味と目的がどのように変化するかは、わからないし、予測できません。しかし、エンターテイメントの形も内容も、ますます人間からではなくAIから来ることは非常に明確です。
歴史的に、すべてのエンターテイメント、詩であれ、演劇であれ、テレビ、映画であれ、すべては人間の心、人間の想像力から生まれました。今や私たちは、そのようなものを生み出すことができるものを地球上に持っています。おそらく確実に人間よりはるかに安価に、はるかに効率的に、また人間の想像力の限界を打ち破ることができます。なぜなら人間の想像力は人間の脳、私たちの生物学的限界によって制限されているからです。AIにはそのような制限はありません。
少し異なる分野から例を挙げると、囲碁のゲームがあります。2016年、AlphaGoというAIと世界チャンピオンのイ・セドルとの間で非常に有名な試合がありました。AlphaGoが勝ちました。これはAI革命の決定的瞬間の一つでした。しかし、この試合について驚くべきことは、AlphaGoが人間の世界チャンピオンを打ち負かしただけではなく、その方法でした。
それは完全に異質な戦略を考え出しました。東アジアでは何千年もの間囲碁が行われてきました。2000年以上前に発明されました。何千万人もの人々が囲碁をしていました。それはゲームだけでなく芸術の一形態と考えられていました。囲碁のプレイ方法について哲学が発展しました。それにもかかわらず、それらの年月、それらの人々、誰もAlphaGoのように囲碁をプレイすることを考えませんでした。
それを惑星のような風景、囲碁の惑星として想像できます。囲碁をプレイするすべての異なる方法があります。そして人間は2000年間、囲碁の惑星の一つの島に閉じ込められていました。彼らはこれが惑星全体だと思っていました。これらが囲碁をプレイする唯一の方法だと。彼らは私たちの心は限られているため、この精神的な島を離れることができませんでした。
そしてAlphaGoが来て「このようにプレイできる、このようにプレイできる」と言い、囲碁の惑星の全く新しい領域を発見しました。同じことが音楽、絵画、演劇、テレビでも起こる可能性が高いです。それはすでに起こっています。今や多くの人々がAIを使用してビデオを作成しています。これはプロセスの非常に初期段階に過ぎません。
今日のAIが洗練されていると思うなら、10年後に私たちが持つことになるものに比べれば何でもありません。他の分野と同様に、ITエンターテイメントも完全に変化するでしょう。どのような方法で変化するかを予測することは不可能です。なぜならこれがAIの性質だからです。それは異質な形の知性です。だから人間の知性は異質な知性が何をするかを予測できません。
AIがすることをすべて予測できるなら、それはAIではなく、ただの自動機械です。コーヒーマシンがあって、そのコーヒーマシンが何をするかすべて予測できるなら、「このボタンを押すとエスプレッソが出る」というのは自動機械であり、AIではありません。では、いつそれがAIになるのでしょうか？ボタンを押すか、あるいはボタンさえ押さずに、単にマシンに近づくと、マシンが「ねえ、私は今朝コーヒーよりもあなたが好むと思う新しい飲み物を発明したんだ。一杯作ったよ」と言う時、それはAIです。
わかりました。では他に質問はありますか？そこの方どうぞ。
対話をありがとうございます。AIはすでにそこにあります。合意、人間間の手法についての質問があります。AIやインターネットの便利さはAIによって強化されます。そして、あなたが以前述べたように、エリートと非エリートの分断はさらに広がります。同時に、価値体系や価値観も分断されるでしょう。真実や正確な情報は広まらないかもしれません。真実を知る人々が人口の大多数になれないというのが私の仮定です。人間はどのように物事に合意すべきでしょうか？どのように私たち自身の間で合意を形成するのでしょうか？
同意します。これが最大の問題です。人間間のコミュニケーションが新しい情報技術によってねじれ、操作されている時代に、人間の間で合意に達する方法です。わかりません。以前、どのような研究プロジェクトかと尋ねられました。もし答えを知っていたら、研究プロジェクトは必要ないでしょう。なぜなら、すでに答えがあるからです。
科学において最も重要なことの一つは無知を認めることだと思います。私にとって、歴史を振り返ると、科学革命は知識ではなく無知の革命でした。科学以前、すべての人間グループ、すべての人間文化は「私たちはすでにすべてを知っている。すべては聖書やわれわれの聖人（時には聖女）たちが知っています。新しい研究は必要ありません」と言っていました。
科学革命は人々が来て「私たちは知らない。それは本当に…私たちはこの質問の答えを知りたいが、それが何なのか知らない。ああ、だから研究が必要だ」と言うことでした。今もそうです。最も重要な研究対象は何かと尋ねられたら、ここの研究センターだけでなく、一般的に言えば、これが研究対象だと言うでしょう。それは一般的な質問ではなく、「人間がこの新しい技術、デジタルインフラ、コンピュータ、ソーシャルメディア、AIなどを通じて主にコミュニケーションをとる時、人間の間の信頼をどのように確立するか」という問いです。数千年かけて信頼を構築することについて学んだことがすべて疑問視されています。そして、その問題に焦点を当てるより多くの科学者、学者、研究者が必要です。
山本教授と彼の同僚がセンター内で「ユヴァル・ハラリプロジェクト」としてこれを実施すると思います。センターに参加することを歓迎します。ショーカードに行ってください。他にありますか？真ん中の方どうぞ。
非常に興味深いスピーチをありがとうございます。科学部門から来ました。技術や知識が一つの部屋でとても特殊になっていきます。エコーチェンバーが起こっています。『Nexus』の中で、出版社の柱について言及し、エコーチェンバーが非常に好ましいと述べました。私は現在科学を専攻しており、科学をもう一度再定義することが非常に重要だと思います。そうすれば私はエージェントとして行動します。
そのようなエコーチェンバーは、人間が研究を行う場合と比較して、起こりやすいか、起こりにくいか、あるいは同様に起こると思いますか？それともAIによってエコーチェンバーが減少すると思いますか？
はい、AIは科学研究を革命化しています。あなたが言ったように、物理学と化学でノーベル賞が2つAIに与えられました。特に化学のノーベル賞、AlphaFoldの開発者に与えられたものに驚きました。彼らは素晴らしい人々です。彼らが化学者かどうかはわかりません。もちろんAlphaFoldを開発するためには化学の深い理解が必要ですが、彼らのバックグラウンドは化学ではありません。しかし彼らの創造物は化学を完全に変え、生物学を変え、医薬品の生産を変えるでしょう。この大きな科学的パズル、タンパク質がどのように折りたたまれるかを予測することを解決することによって。
これが示すのは、AIがますます多くの科学分野で人間よりも優れるようになるだけでなく、あなたが言ったように障壁を打ち破ることができるということです。人間には限られた能力があります。私は何年も歴史を研究してきましたが、物理学や化学を深く研究する時間はありません。だからこそ大学にはこのような分かれがあります。これが物理学部、これが歴史学部。両方はできません。AIにはそのような制限がありません。
ある意味で、AIは科学にもっと全体論的なアプローチをもたらす可能性があります。おそらくAlphaFoldではなく、今日のAIではなく、10年後のAIでしょう。化学、経済学、歴史を深く理解するAIネットワークを持つことができ、これらの非常に異なる分野からのデータやモデルを組み合わせることができます。
そして質問はそのような状況で人間の役割は何になるのかということです。繰り返しますが、わかりません。開発のペースと可能性を考えると、10年後や20年後に研究に対して人間がまだ何を貢献できるかは明確ではありません。
ありがとうございます。時間が迫っていますが、これが最後の質問となります。そちら側に座っている方、どうぞ。一つだけ質問をお願いします。
ありがとうございます。コンピュータ間の間主観的現実について質問があります。『Nexus』の中で、コンピュータ間の間主観的現実や、コンピュータと人間の間の間主観的現実が増加していくと読みました。この現実は私たちにとって非常に複雑で異質なものであり、理解するのが非常に難しいと思います。
しかし、それが異質であるため、私たちはそれを理解しようと努力する必要があります。それを理解しようとする努力が、制御不能なAIを制御することになると思います。『Nexus』に書かれていた歴史を振り返ると、聖書や本、文書、文学、聖人の肖像画や聖像のように、それが具体的な形に作られることで、多くの人々がその現実を理解しやすくなります。それが一つの方法です。
しかし今日、ディズニーランドではミッキーマウスが動いています。2次元ではなく、ディズニーランドに存在するフィクションのキャラクターです。人々はそれが何であるかを理解し表現しやすくなっています。その観点から、コンピュータ間の間主観的現実は、目に見えず触れられないものを表現するために、目に見え触れることができる形で表現することができるでしょうか？どのような方法が可能だと思いますか？
残念ながら、私は本当にわからないと言わざるを得ません。これもまた、投資すべき知識と研究のフロンティアの一つです。例として経済学からの例を挙げましょう。私は先ほど、お金が最も成功した物語だと話しました。お金は客観的な現実ではありません。客観的な価値はありません。食べることはできません。世界のほとんどのお金は硬貨や紙幣でさえなく、単にコンピュータ内の情報です。
しかし、お金は今、革命を起こしています。暗号通貨の台頭により、次の革命はコンピュータだけが理解するお金の出現かもしれません。ビットコインのような暗号通貨はアルゴリズムによって生み出されますが、その価値はまだ人間の信念に依存しています。
トランプが当選すると、ビットコインの価値が上がります。なぜなら人々は「トランプは暗号を規制緩和するだろう。だからビットコインに投資した方がいい」と信じ、より多くの人々がそのように考え、ビットコインの価値が上がるからです。だから、それはまだ人間の信念です。ビットコインのような暗号通貨の価値の基礎となるのは。
次のステップは、AIやアルゴリズムの信念にのみ依存するデジタル通貨です。今日でも、世界の取引の大部分、特に債券や株式、外国為替の取引は、ただアルゴリズムが他のアルゴリズムと取引しているだけです。特に人間が金融市場を規制するならば、それはトランプ政権が全面的に行っていることです。
私たちは、AIだけが理解し、AIが他のAIと取引する新たな金融デバイス、新種のお金を見ることになるでしょう。人間がもはや金融を理解していない世界では何が起こるでしょうか？これは10年ほどで起こる可能性があります。
馬とお金について考えてみてください。人々は何千年もの間、馬をお金で売買してきましたが、馬は何が起こっているのか理解したことがありません。馬は侍が商人に輝く金属の一部を与え、その見返りに馬を手に入れるのを見ることはできますが、何が起こっているのか、この無価値な金属片は何なのか、馬は決してお金を理解しませんでした。人間だけがそれを理解していました。だからこそ、私たちは馬をコントロールし、その逆ではないのです。
10年後、私たちの生活は人間には理解できないアルゴリズム間の金融取引によって管理されるかもしれません。家を買うためのローンを受けられるかどうかは、人間には理解できない金融言語で話すアルゴリズムによって決定されるでしょう。それは私たちが大学に行かなかったからではなく、単に数学的に、アルゴリズムは有機的な人間の脳には複雑すぎる経済の数学的モデルを持つことができるからです。
例えば、民主主義にとって、首相や財務大臣でさえもはや金融を理解していないなら、それはどういう意味を持つでしょうか？金融危機があり、なぜ金融危機があるのか、それについて何ができるのか、人間には理解できない。これは民主主義だけでなく、独裁制にとっても問題です。
歴史上のすべての独裁者の最大の恐怖は、自分よりも強力になる部下を持つことです。プーチンやキムであれば、あなたの最大の恐怖、夜も眠れないことは「国防大臣が私に対して陰謀を企てているかもしれない。軍の将軍がクーデターを起こして私を殺し、私の地位を奪うかもしれない」ということです。それが最大の恐怖です。
そして、もはやAIを理解できないほど強力になれば、それは人間の独裁者にとっても脅威です。これは一種のコンピュータ間の間主観的現実であり、特に金融市場を再び規制緩和すれば、近い将来に見ることになるでしょう。それは政府が「人間のふりをすることはできない」という法律を持つのと同じように、政府は金融市場も規制できます。「市場で取引可能なすべての金融デバイスは人間によって検証されなければならない。私たちは許可しない」と。しかし、現在の傾向では、ポスト人間の金融システムをすぐに見ることになるでしょう。そしてポスト人間の金融システムで大きな金融危機が起これば、人間は大きく苦しむでしょう。
ありがとうございます。時間になりました。これで学生からの質問を終了し、シンポジウムを終了します。ハラリ博士、学生の質問に誠実にお答えいただき、ありがとうございました。また、伊東学長、素晴らしいトークセッションをありがとうございました。大きな拍手をお願いします。
最後に、ハラリ教授から学生へのメッセージをいただきたいと思います。今日の対話とQ&Aセッションについてのご感想と学生へのメッセージをお願いします。
考えるべきことはたくさんあります。研究すべきことはたくさんあります。私たちが話したことの多くは非常に恐ろしく聞こえます。問題の一部は、AIを開発する企業の人々がAIの肯定的な可能性についてばかり話すことです。それとバランスを取るために、哲学者や歴史家、批評家が「ちょっと待って、危険もある」と言う必要があります。
このような場では主に危険性について話すことが多いですが、もちろん、巨大な肯定的可能性もあります。そうでなければ、医療から破滅的な気候変動の防止まで、様々な分野でこの技術を発展させないでしょう。巨大な肯定的可能性が確実にあります。問題はAIの開発をどのように止めるかではありません。これは非現実的であり、望ましくありません。私たちは開発したいのです。ただ安全な方法でそれをしたいだけです。
ここでもまた、鍵は人間同士の信頼を構築することです。各個人が自分の特定の分野で多くのことができます。時々、人々は世界の重みに押しつぶされているように感じます。「これらの問題をどうすればいいのか」と。世界全体があなたの肩にかかっているとは思わないでください。地球上には80億以上の他の人間がいて、彼らはこの重みを共有しています。もちろん、人間だけでなく、動物や植物や他の生物もいて、それぞれが小さなことをしています。
信頼について考えるとき、それは私たちの会合の主要なテーマだったかもしれませんが、最後に次のことを考えていただきたいと思います。信頼は本当に生命の基盤です。他者を信頼せず、あなたの外にあるものを信頼しなければ、一分も生きることはできません。
私たちが呼吸する空気でさえ、生命を維持するこの単純な動き、呼吸とは何でしょうか？それは私たちの外にあるものを信頼することです。今日、最も強力な人々を含め、分離を望む人々がいます。彼らが考えるのは物事を分離し、障壁や壁を作ることだけです。実際、完全な分離は死です。私たちは常に外にあるものへの信頼という単純な身振りをします。私たちは口や鼻を開き、外からのものを取り入れます。私たちはそれを信頼し、そして戻します。これが信頼の出入りする動きであり、生命を維持しています。あなたの外にあるものを信頼せず、口と鼻を閉じれば、1分か2分で死にます。
不安や恐怖には多くの理由があることを知っています。それは実在します。想像上のものではありません。世界には大きな問題がありますが、最終的に生命の基盤は信頼です。ありがとうございます。
コメント