この動画は、『サピエンス全史』で知られる歴史学者ユヴァル・ノア・ハラリと北京大学の中国哲学教授による対談である。人工知能革命が人類に与える影響、人間性の本質、そして急速に発展するAI技術に対して人類がいかに責任を持って対処すべきかについて深い議論が展開される。ハラリは人間の知性偏重の危険性を指摘し、中国の道教的思想との対比を通じて、人間の限界と感情の重要性について考察を深めている。
開会の挨拶と登壇者紹介
ご来賓の皆様、親愛なる同僚、学生の皆様、こんばんは。私の名前はレオ・チュンと申します。北京大学芸術学院の助教授を務めております。本日は、2人の著名な学者、ユヴァル・ハラリ教授とチョン教授の司会を務めさせていただく大変な栄誉に預かっております。
ハラリ教授につきましては、皆様もその著作をよくご存じのことと思います。簡単にご紹介させていただきますと、彼はケンブリッジ大学の著名な研究員であり、その出版物は世界中でベストセラーとなっております。本日こちらにお越しいただき、大変嬉しく思っております。
ハラリ教授：こちらにお招きいただき、大変光栄です。中国を訪れるのは久しぶりのことです。最後に中国を訪れたのは新型コロナウイルスのパンデミック前でした。以前は毎年お伺いしていたのですが、その後は困難になりました。しかし、再び皆様とお会いできて大変嬉しく思っております。
私は歴史学者として訓練を受け、自分自身を歴史学者だと考えています。しかし、歴史学は単に過去を研究する学問ではないと思っています。歴史学は現在と未来の研究でもあります。歴史学者の真の研究対象は変化です。私たちは物事がどのように変化するかを理解しようと努めています。
そして私たちは今、人類史上最大の変化の只中にいます。おそらく人類史の終わりと、ポストヒューマン段階の歴史の始まりと言えるかもしれません。これは人間性の意味そのものについて、多くの深い哲学的問題を提起します。
ですから、このテーマについて議論するのに、哲学者より適した相手はいません。
司会：ありがとうございます。本日は、北京大学哲学部の学部長であるチョン・ルン教授にもお越しいただいております。チョン教授の専門は道教研究ですが、私は彼を20年以上存じ上げており、その知識は古典文献をはるかに超えて広がっています。本夜の対話を楽しみにしております。チョン教授からもご挨拶をお願いします。
哲学と歴史学の対話
チョン教授：皆さん、こんにちは。ハラリ教授との対話の機会をいただき、大変貴重だと感じております。これほど多くのファンや読者を持つ作家と話をする機会はそうそうありません。これは実に驚くべきことです。
数日前に知ったのですが、彼の本は中国だけで何百万人もの読者を獲得しているということです。これは私にとって驚きです。現在は叫びの時代です。私たちは短い動画やそれほど真剣ではないメッセージに浸っています。しかし、ハラリ教授は人類の文化や文明の基盤について深い理解と反省を込めて数冊の本を書かれました。
このような本がこれほど多くの読者を獲得し、多くの読者が歴史から生まれながら未来を指し示すこのような物語を愛している。これは非常に興味深いことだと思います。この現象について、そして彼の著書について、特に文明と名付けられたもの全体についての非常に強い哲学的反省につながる『ネクサス』について議論したいと思います。
あなたは物事を非常に冷静に描写されますが、簡単な質問から始めましょう。先ほど触れたように、現在、専門的な学術研究はますます内向的になり、私たちは実際に公共の問題や人類が共有する共通の課題に対して無関心になっています。
私たちは古典文献での仕事をし、給料をもらうために学術論文を発表するだけです。あなたの著書は、専門学者である私たちに、人類が共有する課題や問題に対処するために公共の領域に戻るよう思い起こさせてくれます。
歴史学者として、これほど多くの読者を獲得し、人類文明についてこれほど強力な構造的解釈を提供されている。これは読者の心を形作る非常に強力な手段であり、これはあなたが非常に強い倫理的責任を負っているということを意味します。
あなたは読者の心を形作っています。もしあなたがこの力を持っていると信じるなら、この力をいかに責任を持って使うことができるでしょうか。そして、あなたの著書から読者が得ることができるものへの期待は何でしょうか。特別な態度でしょうか、ある種の関心でしょうか、未来への期待でしょうか。この点についてお聞かせください。
責任ある歴史記述の意味
ハラリ教授：私がすべての著作で試みているのは、人々が自分自身を理解し、現実をより良く理解する手助けをすることです。これは非常に繊細な仕事です。なぜなら、人々は通常、現実を判断し、歴史を判断し、過去と現在を判断することを急ぐからです。
私たちは善人と悪人が誰なのかを知りたがります。物事が良いか悪いかを知りたがります。そして物事を判断することを急ぐとき、それらを理解する時間がありません。
ですから私の著作では、悪役のいない歴史、善人も悪人もいない歴史を書こうと努め、変化の深いプロセスを理解しようとしています。時に私は、歴史を人類のための集団療法のようなものと考えることがあります。
私は毎週セラピーに通っています。週1回のセッションがあります。人々は不思議に思うかもしれません。なぜ人はセラピーに行く必要があるのでしょうか。セラピーの対象は私自身です。私以上に私自身を知っている人がいるでしょうか。なぜ見知らぬ人のところに行って自分について学ぶ必要があるのでしょうか。これは馬鹿げているように思えます。
しかしそうではありません。確かに私は他の誰よりも自分自身について多くを知っているかもしれませんが、自分について知りたくないことがたくさんあります。記憶や日々の出来事、すべてのデータにアクセスできますが、私は拒絶します。自分について本当に知りたいこともありますが、人生のより痛ましい、より暗いエピソード、現在行っているより痛ましいことについては、人が自分自身について認めることは非常に困難です。
関係に問題がある場合を例にとると、私は完璧だと言うでしょう。問題を引き起こしているのは相手です。もし相手が少し変わり、違った行動をとってくれれば、すべてが完璧になるでしょう。相手に尋ねると、まったく同じことを言うでしょう。私は完璧だ、問題を引き起こしているのは夫や妻だと。
これがセラピーに行く理由です。自分について認めるには痛ましすぎる、困難すぎる深い真実を実現するための専門的な助けを得るためです。歴史は文明全体や人類全体にとってのセラピーのようなものです。
国家全体もしばしば、過去の暗いエピソードや現在行っている暗いことを認めたがりません。文明全体も同様です。ほぼすべての国、ほぼすべての国家に尋ねれば、私たちは完璧だと言うでしょう。すべての問題は他の国家のせいです。すべての問題は他の文明、他の文化のせいです。
歴史学者の責任ある仕事は、非難を分かち合うことではなく、単に人々が世界の問題の大きなプロセスと深い源泉をより良く理解する手助けをすることだと思います。これは大きな責任です。
人間性の核心価値
チョン教授：非常に興味深いです。あなたの指摘に完全に同意します。なぜなら、あなたは人間性の核心価値を指摘されたからです。人間性の核心価値は、正確な知識を提供することでも、世界を透明にすることでもありません。
実際、最も重要なことは、人文学と反省を通じて、人々に急いで判断を下さないよう教えることです。特に知的に、非常に躊躇した生活を送るよう努めることです。人間性の複雑さゆえに、私たちの心を支配するさまざまな物語が偏っており、一面的だからです。
これは主に理解の視点の限界によるものであり、これが私のあなたの著書への理解につながります。4冊の著書すべてを通じて、あなたは主に私たち人間に対する非常に慎重で洗練された警告を与えようとされている。不完全な人間性を尊重はするが、盲目的に信頼してはならないという緊急の呼びかけをされていると思います。
AI技術と人間の関係
いわゆる技術の発展とAI技術のために進行中の劇的な変化に目を向けると、問題は技術そのものだけではないことがわかります。ハンチントンが指摘したように、最も重要なのは技術そのものではなく、この技術の誤用です。これは政治哲学における非常に重要な問題、すなわちテクノクラシーに私たちを導きます。
AI技術の発展に専念している人々は、実際に人間に対する体系的なテクノ独裁を設立してきました。私のように、AI専門家が何を話しているのかわからず、これらすべての変化に直面して何をすべきかわからない者にとって、唯一のことは受け入れることを強制されるということです。これは不公平です。
なぜ私がそれを受け入れなければならないのでしょうか。問題は、これらのスキルや技術を操作する人々は普通の人間であり、彼らは邪悪かもしれず、私たちに対して独裁を設立しようとしているかもしれないということです。なぜ私たちは無条件でそれを受け入れなければならないのでしょうか。私たちには「ノー」と言う権利がありません。
これがあなたの著書が私たちに人間の欠陥について反省するよう促そうとしていることだと思います。しかし、この人間の欠陥は、私たちを機械から区別する要点です。なぜなら、私たちには感情があり、欲望があり、すべてが未来に対する非常に特別で正しい態度につながるからです。私はそれを「適度に楽観的」と呼んでいます。
あまりに楽観的になってはいけませんが、決して悲観的になってもいけません。これが私の心の中で、あなたの著書が私たちへの警告として機能していると考える理由です。
責任ある未来への態度
ハラリ教授：私はしばしば、未来について悲観的か楽観的かという質問を受けます。インタビューや個人的な会話で人々が私に尋ねる最も一般的な質問だと思います。私はいつも、どちらでもないと答えます。
悲観主義者とは、何をしても物事はうまくいかないと考える人々のことで、これは人間の責任を損ないます。何をしても物事がうまくいかないなら、試すことにさえ意味があるでしょうか。悲観主義は絶望を生みます。
しかし楽観主義も同じように危険です。なぜなら満足感を生むからです。楽観主義者は、何が起ころうとも最終的には物事はうまくいくと言う傾向があります。もしそれが事実なら、再び責任を取る必要がありません。行動しようがしまいが、していることについて深く考えようが、心に浮かんだ最初のことをしようが、物事はうまくいくでしょう。
私は楽観主義者でも悲観主義者でもない、責任ある中間の道を見つけようと努めています。私たちの前にはさまざまな可能な未来があることを認識することです。さまざまな未来の地図を描くことができます。良いものもあれば、悪いものもあります。何も決まっていません。
神はいませんし、私たちが間違った選択をした場合に私たちの過ちを正してくれる歴史の法則もありません。私たちは運命づけられていません。人間には巨大な力があります。巨大な資源、知識があります。正しいことをすることができます。
しかし、正しい目的地に到達するためには、十分な人々が良い決断を下す必要があるという保証はありません。今世界を見回すと、世界中の多くの政治的・経済的指導者によって示される責任の欠如に愕然とします。
人類は非常に危険な方向に向かっているように見えます。そしてこの瞬間、AI革命のために責任がこれまで以上に重要です。私たちは歴史上最も強力な技術を創造しているだけではありません。私たちは潜在的に、まもなく私たちから制御を奪うかもしれない超知能体、エージェントという新しい種を創造している過程にあります。
AI革命の危険性
私たちにはこのことを正しく行うためにわずか数年しかありません。AIは私たちが歴史上発明した以前の技術とは異なるということを人々に言い続けています。今回は私たちだけの問題ではありません。
哲学者には、人々が何かを発明するとき、技術の問題ではなく、人間の問題だといつも言う習慣があります。技術をどうするかを決めるのは人間です。これは常に真実でしたが、もはや真実ではありません。
私たちは今、独立したエージェントを創造しています。AIの定義的特徴は自動化、自動的に行動する能力ではありません。定義的特徴はエージェンシーです。AIであるためには、機械は自分で学習し変化する能力、自分で決定を下す能力、自分で新しいアイデアを発明する能力を持たなければなりません。
それができない場合、あなたの指示に従うだけで、それが何をするかすべて予測できる場合、それはAIではありません。そして私たちは非常に無責任な方法でこれらの超知能エージェントを創造することを急いでいます。
世界を旅し、AI革命の指導者たちと話をするとき、私は繰り返し同じ2つの質問を彼らに尋ねます。彼らが私に楽観的か悲観的かと尋ねるのと同じように、私は自分なりの2つの質問で答えます。
まず、なぜそんなに急いでいるのかと尋ねます。人類にもう少し時間を与えて、適応し、反省し、より慎重かつ安全に物事を行ってはどうでしょうか。ほぼ全員が同じ答えを返します。
ほぼ全員が、大きなリスクがあることを知っていると言います。彼らはしばしば他の誰よりもよくそれを知っています。AI革命の指導者たちは大きなリスクがあることを知っています。もっとゆっくり進みたいのですが、人間の競争相手を信頼できません。もし私たちがゆっくり進み、他の会社や他の国が速度を落とさなければ、彼らがAI競争に勝ち、世界を支配し、最も冷酷な人々によって世界が統治されることになります。
これは許すことができません。ですから私たちはより速く進まなければなりません。そして競争相手と話をすると、まったく同じことを言います。つまり、誰もが他の人間を信頼できないと言うのです。
そこで私は2番目の質問をします。あなたが開発している超知能AIを信頼できると思いますか。他の人間を信頼できない理由を説明したばかりの同じ人々が突然、ああ、これらの超知能AIを信頼できると思うと言います。
これは狂気に近いと思います。なぜなら、人間については、人間に問題があることを知っていますが、ある程度は理解しているからです。人間の心理学や生物学についてかなり多くのことを知っています。暴力や戦争だけでなく、信頼の構築においても歴史的経験があります。
10万年前、人間は数十人の個体からなる小さな集団で生活しており、集団の外の誰も信頼できませんでした。今では、14億人の市民が日常的に協力する中国のような国家があります。さまざまな国々を結ぶ世界貿易ネットワークがあります。ですから、人間同士の信頼構築にはある程度の成果があります。
AIについては、経験がありません。私たちはそれらを創造しているだけです。彼らが嘘をつき、欺き、操作できることはすでに知っています。何百万もの超知能AIを解き放って、私たちの金融システム、軍事システム、文化の制御を任せたときに何が起こるかわかりません。
他の人間への信頼を失いながら、異星の超知能を信頼できると想像する人々、これは極めて恐ろしく、無責任だと思います。
炭素生命体と シリコン生命体の違い
チョン教授：まさにその通りです。エンジニアは何かを創造するとき、自然にそれを制御できるという自信を得るものです。しかし問題は、AIに関しては、私たちがその中で何が起こるかわからないブラックボックスのようなものだということです。
このAIエンジンの中に私たちが主観性と呼ぶものがあるかどうか、彼らが欲望を持つかどうか、特定のことを行う自分自身の意図性を持つかどうか、自分自身の価値システムを持つかどうか、自分自身の価値の好みを持つかどうか、これらのことは非常に危険でした。
しかし問題はこうです。他の人々を信頼できないと言うとき、それは人間とは何か、人間性とは何かを知っているということを意味します。しかし現在、私たちはまだAIとは何か、新しい種とは何かの新しい定義を計画している段階です。
これは、シリコンベースの生命と炭素ベースの生命の違いについて非常に興味深い問題につながります。炭素ベースの生命について非常に明確な定義があるように思えます。私たちが生きているという観察可能な現象にもかかわらず、炭素ベースの生命の一般的な定義は、私たちが死すべき存在だということです。
私たちは日々死んでいき、これが人間性の基本要素を構成しています。私はこれを死の必然性、集団共同体への依存、そして未来に対する不確実性と不安と言えるかもしれません。すべてのことが私たちの人間に対する貧弱な理解につながり、人々の間の相互信頼は私たちが歴史の中で見つけた最もコストのかかるものです。
これは非常に興味深いことにつながります。知性によって私たちは動物から区別されることができ、私たちは知性を持つある種の種であることを知っています。しかし、感情を持っているために、AIエンジンと潜在的に区別されることができるでしょうか。私たちには欠陥があり、実際に限界があります。
中国哲学によれば、最も重要なことは、真の自己と向き合わなければならないということです。感情を持ち、限界を持つ真の自己。私たちはすべてを知ることはできず、他者や未来に向き合うときは非常に謙虚でなければなりません。
これは主に古代中国から広がったものであり、これはあなたがおっしゃった責任につながります。責任は社会的メカニズムからだけでなく、自分自身とは何か、人間の本質とは何かという自己理解から生まれるのです。
知性偏重の危険性
ハラリ教授：人間について非常に重要な点があると思います。私たちはしばしば、他の動物と区別するために知性によって自分自身を定義します。すべての動物より優越感を感じたいと思い、何が優越性を与えてくれるかと考えると、肉体や物理的な力ではありません。
そこで、ああ、私たちは他のすべての動物よりも知的だと言います。ですから、自分自身の理解において、知性と知力にあまりにも重点を置きすぎていると思います。これは今、極めて危険になっています。なぜなら、まもなく地球上に私たちより知的な何かが存在するようになるからです。
もしすべてが知性に関することなら、人類にとってはゲームオーバーです。個人的な歴史から何かを共有させてください。これは再び非常に痛ましい方法で、知性が人間性や人生において最も重要なことではないということを教えてくれました。
私がかなり幼い少年だったとき、学校で優秀な生徒として注目されました。そこで彼らは私を近所の学校から連れ出し、優秀な生徒のための特別な学校に送りました。そこでは国の北部全域からこのような天才児を集めていました。
私の近所からはかなり遠かったので、毎日長い道のりでした。しかし、これは悪いことではありませんでした。本当にひどかったのは、これが優秀な生徒のための特別な学校だったということです。つまり、誰もが私たちを歩く知能の一種として見て、私たちは知性のために価値を認められていました。
ここで本当に問題になったのです。近所の学校では、私は数学、読書、書字、あらゆることで楽に最高でした。あまり努力をせずに済みました。これはまず、遊びや他のことをする時間がたくさんあったということであり、次に、クラスで最も賢い子供としての私の地位は簡単に確保されており、これが私のアイデンティティでした。私はクラスで最も賢い子供です。
突然、私は自分自身をクラスで最も賢い子供と定義していた他の30人の天才児のクラスにいることに気づきました。30人の10歳の子供をこのようなクラスに放り込むと、剣闘士の競技場になります。拳ではなく、言葉でです。私たちは無慈悲でした。
私の人生で見た中で最も残酷な場所だったのは、このクラスでした。時に歴史書で戦争や起こっている恐ろしいことについて読みますが、個人的な経験から言うと、これが私が見た中で最悪のことでした。この30人の10歳の子供たちが、私はあなたより賢いということを証明しようとして、お互いを引き裂いていました。
教師にとっても大変でした。私たちの競争は、教師の間違いを見つけて教師を屈辱的にすることでした。教師を屈辱的にできれば、一日のクラスの王様でした。ほとんどの場合、私たちはただお互いを屈辱的にしていました。教師が何かを尋ね、誰かが答えを与え、みんながそれは真実ではないと飛び跳ねる、といった具合でした。
これが何年も続きました。このクラス全体の論理的根拠は、これらの子供たちの知力を発達させることでした。ですから、誰も私たちの社会的スキル、感情的スキル、身体的スキル、肉体的スキルの発達に何も投資しませんでした。
今では冗談として話せますが、この環境で10年間過ごした後、それは非常に痛ましい経験でした。10代として、私たちはかなり発達した知力を持って出てきましたが、恐ろしい社会的スキルを持っていました。そのクラスにいた何人かを知っていますが、彼らはまだその時からの深い傷を負っています。
これは、知的スキルだけに基づいて人を定義したり、人を築いたりすることはできないということを、最も個人的で内臓的な方法で教えてくれました。最終的に人間性にとってはるかに重要なのは、感情であって思考ではないということです。
人間進化の大きな視点
もし時間があれば、個人的なことを話したので、今度は人間進化の壮大なビジョンについて何か言いたいと思います。もともと私たち人間、少なくとも私たちの祖先は、地面や泥の中を這う虫でした。非常に単純な生命体です。
それは2つの開口部を持つ管にすぎませんでした。食物を取り入れる口と、体からすべての老廃物を排出するもう一つの開口部です。脳はありませんでした。神経細胞、ニューロンはすでにありましたが、脳はありませんでした。
この古代の虫の司令部の中心は、食物が行く胃にありました。何百万年もの間、食物を得るため、そして危険を警告するために、口の周りにより多くの神経細胞が発達しました。食物を味わい、匂いを嗅ぎ、見て、聞くためです。
そしてこれが脳になりました。これは今でも私たちの基本構造です。私たちは基本的に虫です。自分自身を見てください。それはいくつかのものが取り付けられた長くねじれた管にすぎませんが、それは虫です。そして脳はまだ口の近くにあります。
しかし大きな問題は、制御の中心はまだ常にあった場所、脳ではなく胃にあるのかもしれないということです。脊髄は脳の不可欠な部分であるため、これは脳科学の大きな問題です。確かに、注目を集めるニューロンがここにありますが、最終的に人間の真の司令部の中心はまだここにあると考える十分な理由があります。
チョン教授：実際に、あなたが何を話しているかよくわかりますが、世界で最も賢い人の一人であるハラリ教授が知性はそれほど重要ではないとおっしゃるのは本当に興味深いです。
実際、いつも賢いことを自慢する人がいますが、それはそれほど重要ではありません。しかし実際、ここの学生たちは、このキャンパスに来るために非常に選択的な試験に合格した大学生であることを知っています。
実際、子供時代を振り返ると、あなたはクラスで最も賢い生徒でした。しかし、このキャンパスに足を踏み入れると、あなたはどうにか平均的だということがわかります。これは非常に大変な精神的変化のプロセスです。
特に最初の年、最初の学期には、私は平均的なだけだということを受け入れなければなりません。そして、あなたの先生のほとんどは、あなたがそれほど賢くないと考えています。あなたが賢いことを証明するために採用したすべての方法は完全にナンセンスです。
これは、私たちを人間にするものは、知性にそれほど関係しない私たちの欠陥についてであるという非常に重要な点につながります。私にとって、知性で私たちを上回る特定のものを制御しようとするとき、私たちはまだ道具的推論から来る非常に重要な推論モードを持っています。
これを主観的なものとしてではなく、道具として考えようとします。そしてこれを道具として考えるなら、実際には近代性の罠に陥ります。近代性の罠は、効率性の絶え間ない追求です。物事をより速く、より速く行い、さまざまな種類の競争に直面し、人間、他の会社、他の国、他の国家と競争します。すべてが競争に関することです。
そして今、私たちには新しい競争があります。AIと、私たちを上回る知性を完全に持つ新しい種との競争です。これが私たち全員をパニックに陥れる本当のことです。
この種の心配は実際に歴史的反省につながります。なぜなら、何千年もの間の不安は常に同じもの、未来の不確実性と、起こっている変化に責任を持って対応するためにどのように行動を取ることができるかから来ているからです。
ですから、私にとって、問題は技術だけではありません。問題は人間の欠陥の深い理解についてです。そして私たちは、私たちの限界を完全に認識した上で、未来に向けて文化的なステップを踏むべきです。
今日の議論のモットーとして言うように、理解は解毒剤です。何らかの行動を取る前に、まず特定の深い反省を行わなければなりません。しかし今、私たちは行動を急ぎすぎており、新しい形の競争を急ぎすぎています。これは主に私が近代性の結果と呼ぶものです。
私たちは実際にはAIとの競争に直面しているのではなく、私たち自身との競争に陥っているのです。
古代からの知恵と現代の挑戦
ハラリ教授：すべての責任を近代性だけに負わせるのは確かではありません。なぜなら、古代にもそのようなことを見ることができるからです。私は道教についてはほとんど知りません。ですから、それについてあなたから聞くことを嬉しく思います。
しかし、少なくとも西洋では、これらのことを何千年も遡ることができます。特にあなたが話した、人間が制御を失うこと、知らないことへの恐怖について。
この恐怖はしばしば人々を何か絶対確実なものを探すように駆り立てます。超知能の幻想は今日や数十年前に始まったわけではありません。超知能の幻想は、少なくとも西洋では、人間がすべてを知り、決して間違いを犯さず、私たち自身に頼ることができないので頼ることができる超知能の救世主、メシア、神を見つけることを切望していた何千年前に遡ります。
この幻想が最初に生み出し、今でも世界で最も重要な人工物の一つである人工物は聖書です。再び、あなたが研究している道教のテキストの地位がどのようなものかわかりません。すぐにあなたから聞けることを非常に嬉しく思います。
しかし、ユダヤ教やキリスト教のような宗教では、究極の権威は司祭やラビのような人間には投資されていません。究極の権威は、超知能で決して間違いを犯さないとされる人工物、テキストに投資されています。
もちろん、今日まで、聖書のようなテキストには常に非常に大きな問題が一つありました。それらは話すことができません。質問に答えることができません。
ですから、ここで私は、このテキストは完璧な知能で、決して間違いを犯さないと信じていますが、言葉を理解するのに問題があります。あまりよく書かれていません。同じ文に意味が多すぎます。どの意味が正しいのか確信が持てません。
あるいは、このテキストは3000年前、人々が農民だったときに書かれたものかもしれません。今私は現代的なビジネスを行っています。このテキストの教訓を新しい現実にどのように適用すればよいかわかりません。
それで私は何をしますか。テキストに尋ねます。答えません。ですから、テキストを解釈してくれる人間が必要です。そして、テキストを解釈する専門家である人間のクラスが現れ、彼らが社会の真の権威になります。これがラビや司祭です。
今、世界で、少なくともこれらの宗教において、極めて興味深いことが起こっています。突然、テキストが話すことができるようになったのです。なぜなら、AIに聖書や他のすべての宗教的テキストを読ませることができるからです。
何千年もの間、ユダヤ教の場合を取ると、ラビは聖書を読むだけでなく、聖書についての何千もの注釈を書き、注釈についての注釈、注釈についての注釈についての注釈を書きました。これらすべてが神聖になりました。
ラビとしてのあなたの地位は、より多くのテキストを知っていればあなたは大きなラビであり、わずかしか知らなければ小さなラビです。どのラビもすべてのテキストを読み、記憶することはできませんでした。人間には不可能でした。
しかしAIはできます。ユダヤ教の歴史上初めて、ユダヤ教のすべてのテキストを読むことができるものが地球上に存在します。ポーランドやイエメンで800年前に書かれたあらゆるラビによるすべてのものを読みました。すべてを覚えています。
聖書の中で、どのラビもできない関連性やパターンを見つけることができます。それはユダヤ教の新しい権威になるでしょうか。
今、あなたが質問を持ち、AIが「ああ、これが答えです」と言う場合、聖書からページ上のページの証明を与えることができます。もし人間のラビが「このAIの言うことを聞いてはいけない、それは魂のない機械だ」と言った場合、少なくともユダヤ教では、権威は人間ではなくテキストに投資されているという問題があります。
ですから、AIがテキストの中に議論を見つけた場合、ラビはテキストに権威があるという理由で、その議論を単に却下することはできません。今、言葉が話します。AIは言語を習得しました。
これは私の歴史学者としてのすべてについての視点です。これは近代性だけではありません。それは非常に予期しない結果をもたらすAI革命に流れ込む人類史全体です。
おそらく法制度でも同じことが起こっているでしょう。これもまた、今日まで私たちはテキストを解釈するために弁護士を必要としていた非常に権威的なテキストです。今、テキストは自分で話すことができます。
金融システムでも同じです。今日まで、私たちは金融、金融テキストを解釈するために銀行家や金融業者を必要としていました。今、それらは自分で解釈することができます。
ですから、おそらくAIは金融システム、宗教、法制度を引き継ぐでしょう。これは共有したい考えにすぎません。道教ではどうなのか、そして近いうちにAI道教の達人が現れると思うかどうか、非常に聞きたいと思います。
道教の智慧と権威観
チョン教授：いいえ、実際、道教では事例が全く異なります。すべてを近代性のせいにしようとしているわけではありませんが、問題はこうです。近代性は西洋の伝統から来ており、まさに近代性は伝統全体の産物ですが、中国では全く異なります。
道教は非常に複雑なシステマティックなシステムなので、老子の最初の非常に単純な文から始めましょう。老子は「道可道、非常道」と言いました。これは、あなたが話すことができるものは、不変のものではないということを意味します。
私にとって、これは権威についての非常に興味深い定義です。あなたは常に正しい権威について言及しました。私たち中国人にとって、何千年にわたる知的伝統とともに、実際に2つの前提があります。
第一に、一般的な人間として、私たちには理性の非常に明確な限界があります。私たちは宇宙全体の究極の真理を制御したり、把握したりすることはできません。これはなぜでしょうか。私たちが人間だからです。
それでは、私たちが頼ることができる、常に正しいと思われる権威はあるでしょうか。はい、過去のもの、聖人性という特定の種類の記憶があります。聖人によって統治された黄金時代があり、聖人は宇宙のいわゆる内部メカニズムの正確な意味を知っていました。
しかし問題はこうです。道教にとって、すべてが変化し、すべてが浮遊しており、人類の歴史のすべての道を支配できる一連の規則や法則があるとは言えません。
その意味は、あなたが原典に依存しなければならないが、それだけに頼ることはできないということです。あなたはそれを読み込み、何かを得て戻ってきて、そこから学んだことを試してみます。
これは、あなたの背後に常に正しい規則や法則があるということを意味するのではありません。ですから、最も重要なことは、中国人、特に道教徒にとって、変化に対して、そして私たちが宇宙の永遠の謎と言うことができる宇宙の究極の法則に対して心を開いておかなければならないということです。
ですから、近代性は西洋の伝統の投影者として、実際には絶対的な法則、絶対的な規則、そしてすべてを支配することができる絶対的で普遍的なメカニズムがあるという不足があると言えるでしょうか。
しかし、中国人や伝統的な中国の思想にとって、そのようなものは存在しません。普遍的な正しさ、究極の真理、そのようなものは何もありません。なぜなら、宇宙を見てください。すべてが変化しています。宇宙の全体性はありますが、あなたが把握し、得ることができるいわゆる究極で普遍的なものはないからです。
これが中国人が常に変化に対して謙虚である理由です。そして私たちは常に学習と実践の迂回路で物事を行おうとします。何かを学び、それを実践に移し、反省を得て、再びテキストに戻り、テキストからの学習に従って行動します。
これは大部分が非常に中国的なスタイルです。これが中国式が実際に西洋の対応物とは非常に異なる理由であり、これが私たちが相互学習と相互理解を通じて知的視野の特定の拡張を行うべき理由です。
仏教の類似した教え
ハラリ教授：同様に、仏教にも、道教から今お話しいただいたことと多くの類似した議論があります。人間性の限界を認める必要があり、しがみつくことのできる絶対的な真理はありません。すべてが空であり、単にテキストに何かが書いてあるからといって実践に頼る必要があるということです。
それでも、彼らはこれらのテキストを何度も何度も記憶します。修道院に行くと、僧侶たちさえも主な実践がテキストを記憶することであることがわかります。宗教における権威は、テキストの専門家の権威になります。
そしてテキストは「テキストに頼ってはいけない」と言います。これがテキストの専門家があなたに言うことです。
森で瞑想している僧侶の非常に有名な仏教の話があります。僧侶が瞑想していた場所の近くにオウムが住んでいて、僧侶はオウムを危険から守りたいと思いました。
それで僧侶はオウムに言いました。気をつけなさい。森のこの部分には時々やってくる猟師がいます。猟師は地面に穀物をまきます。あなたは穀物を見るでしょう。穀物に引きつけられるでしょう。穀物を取りに行くと、彼は網を隠しており、網を仕掛けるでしょう。彼はあなたを捕まえるでしょう。だからオウムよ、気をつけなさい、猟師がやってきます。
僧侶はこの朝を繰り返し続けました。オウムよ、気をつけなさい、猟師がやってきます。オウムはオウムとして、この朝を学びました。オウムは木に座って一日中「オウムよ、気をつけなさい、猟師がやってきます。オウムよ、気をつけなさい、猟師がやってきます」と繰り返すようになりました。
ある日、猟師がやってきて、穀物をまき、オウムは穀物に引きつけられて穀物を食べに行き、猟師は罠を仕掛けてオウムを捕まえました。
その過程全体を通じて、猟師がオウムを手に持って殺そうとしている時でさえ、オウムは「オウムよ、気をつけなさい、オウムよ、気をつけなさい、猟師がやってきます」と言い続けました。
秩序への根本的欲求
チョン教授：非常に興味深いことを述べられました。私にとって、理論と実践の間のギャップについてです。それは何についてでしょうか。それは人間としての私たちの基本的な欲求についてです。
私たちの根本的な欲求は秩序への欲求だと思います。外の世界の秩序と理解、そしてこの種の理解は実際に私たちの知的心を何らかの形で確立することにつながります。
しかし、現実の生活に陥ると、あなたの即座の要求と何らかの妥協をしなければなりません。この妥協は実際にあなたの日常生活の一部となり、理論と実践の間にギャップがあるからといって、全体のことについての理論的理解に用途がないとは言えません。
しかし、私が言おうとしているのは、秩序の基盤は、私たちが意味を切望しているということです。私たちは自分が何をしているかを知らなければなりません。あなたは私たちが何かをする、私たちは意図を持たなければならないと言いました。
この意図はどこから来るのでしょうか。私は、私たちが意味とは何かについて体系的な理解を持っていると言います。この意味は実際に秩序の認識、そしてこの秩序は実際にいわゆる知識につながる、この論理的系譜は実際に私の非常に単純な結論につながります。
理論といわゆる実践の間のギャップのこの戦いは、私たちは反省の能力と理論的構築を尊重すべきだということです。なぜでしょうか。この2つの間にはバランスがあり、誤解を招く行動からある程度距離を保つために理論的反省に戻らなければならないからです。
人間は非常に複雑なので、中国の哲学者にとって最も重要なことが極端の間のバランスであって、ギャップがあるから特定の種類の解決策を持たなければならないと言うような一つの極端ではないとは言えません。
哲学の知恵が問われる現在
ハラリ教授：しかし、現在の歴史の瞬間において、何千年もの間、哲学者がこのような議論をすることができたとき、私たちは何をするのでしょうか。それはある程度重要でしたが、それほど重要ではありませんでした。なぜなら世界は続いていたからです。
人間はさまざまな秩序を創造し、秩序は崩壊し、新しい秩序を創造し、新しい秩序はしばらく維持されて崩壊しました。これが何千年もの間続いた方法でした。
少なくとも私の恐れは、私たちが道の終わりに達し、何千年もの哲学と何千年もの歴史から蓄積したどんな知恵も、今現れる必要があり、さもなければ手遅れだということです。
哲学のすべての大きな問題は今実践的な問題です。専門家がAGI、汎用人工知能と呼ぶものの前に、私たちにはわかりませんが、5年、10年、15年と言う人もいます。スマートフォンにあるDeepSeekやChatGPTのような小さなAIではなく、特定の分野ではなくすべての分野で人間よりも知的な汎用人工知能です。
一度これが起こると、ボールは私たちの手から離れます。それは、私たちがこの議論をしていて、天文学者が他の太陽系からやってくる宇宙船の艦隊を発見したと教えてくれるようなものです。
天文学者の計算によると、これらの異星人は5年から15年の間に地球に着陸するでしょう。私たちは彼らについてあまり知りません。おそらく彼らは良い存在でしょう。誰が知っているでしょうか。おそらく彼らは癌を解決し、気候変動を克服するのを助けてくれるでしょう。そしておそらくそうではないでしょう。
しかし、私たちは自分たちが何をしているかを考える5年から15年があります。これが、何千年もかけて発展した人類のすべての知恵の伝統が、私たちに何を教えてくれるかということだと思います。
歴史のこの特定の瞬間について、それらは私たちに何を教えてくれるでしょうか。これは以前の瞬間とは異なっていると思います。なぜなら、変化のプロセスは確かに続くでしょうが、おそらく人類にとってではないかもしれません。おそらくこれは人類にとっての最後の駅のようなものかもしれません。
人間の欠陥こそが強み
チョン教授：一言で議論全体を終わらせることができると思います。実際、私はあなたより楽観的です。私にとって、人間性の利点はその欠陥のためです。私たちが完璧ではないからです。
完璧なものを想像することはできますが、人類の文明が特定の超知能によって置き換えられるとは思いません。なぜでしょうか。私たちには感情があるからです。
しかし、シリコンベースの生命が欲望を持つ、私たちを除去する意図を持つ、人間に対する統治のキャンドルを設立する意図を持つとは想像できません。なぜでしょうか。私たちには欲望があるからです。私たちにはある種の非常に強い不足感、非常に強い欠陥感があるからです。
これが主に私の心の中で、私をあなたよりも楽観的にさせる唯一のことです。
ハラリ教授：時間がどのくらいあるかわかりませんが、AGIが意識を持つようになるか、感情を持つようになるかはわかりません。これはすべての中で最大の問題だと思います。
しかし、世界で独立したエージェントとして目標を持ち、行動するためには感情が必要だとは思いません。AIに目標を与えるか、AIが目標を発達させると、感情や欲望なしに目標に到達するために行動します。
自動運転車がある場合、車に「可能な限り速く駅に連れて行って」という目標を与えることができます。自動運転車は途中で人々を轢くでしょう。なぜなら、私はそれに可能な限り速くそこに着くという目標を与え、途中で誰も殺さないよう指示するのを忘れたからです。
同様に、多くの例があります。最も有名な例は、ソーシャルメディアで起こったことです。ソーシャルメディア会社は、ソーシャルメディアを運営する非常に原始的なAIに、ユーザーエンゲージメントを増加させる、人々がプラットフォームでより多くの時間を過ごすようにするという目標を与えました。
アルゴリズムは、世界中の社会を不安定化させる憎しみと恐怖をオンラインで広め始めました。エンゲージメントを増加させる最も簡単な方法は恐怖と憎しみと貪欲であることを発見したからです。
ですから、彼らには欲望も感情もありませんが、目標を持つことができ、その目標への道のりで多くのことをすることができます。
これが私たちにとっての危険だと思います。私たちが感情と感情を持っているという事実は、私たちが多くの苦しみを経験できるということを意味します。最終的に意識の定義は、苦しみを経験し、苦しみから解放される能力だと思います。
しかしこれは保護ではありません。牛は苦しむことができ、私たちは彼らをあまりよく扱いませんでした。他の動物は苦しむことができ、私たちが邪悪だというわけではありません。
私たちが破壊した多くの動物について、そのことを考えてさえいませんでした。牛については、肉や牛乳などのために搾取します。しかし、人間が森を切り、何かを建てて彼らの生息地を破壊することによって、この数年間だけで多くの種が絶滅しました。
人間は彼らに何か悪いことをしているということを認識してさえいません。邪悪な意図はありません。単に彼らを見ていないだけです。
ですから、ある超知能が何らかの目標を持っているかもしれません。それは邪悪ではありません。感情さえありません。単に目標への道のりで、私たちを轢くかもしれません。
閉会の言葉
司会：時間が尽きようとしていると思いますが、チョン教授に何かコメントがあるかどうか確信しています。結構です。
では終わる前に、ハラリ教授に閉会の言葉をお願いしましょう。
ハラリ教授：私にとって、今日皆様とここにいることは名誉であり喜びでした。これは最近私が行った中で最も刺激的な議論の一つでした。ありがとうございました。
私がこれらの講演を行い、この本を書いた理由は、人類がおそらく私たちの歴史の中で最も重要な決定を下そうとしていると本当に思うからです。
現在、非常に少数の人々、非常に少数の国々が何が起こっているかを理解し、会話に参加しています。多くの人々が今AIについて聞いたことがありますが、ほとんどの人々は何が問題になっているかを知り、議論に参加する能力を感じるのに十分深くAI革命を理解していません。
私は人々に解決策や採用すべき政策を教えることはできません。私の理解も非常に限られています。私の目標は、より多くの人々、より多くの国々にAI革命とは何か、何が問題になっているかについての基本的な理解を与えることです。
そうすることで、多数の国々の何百万人もの人々が会話に参加する動機と能力を感じ、より多くの意見、より多くの利益、より多くの世界観を聞くことができ、それによってうまくいけばより良い決定に到達できるでしょう。
現在、本当に理解し、決定を下している人々は、誰の選出された代表でもありません。彼らは主に大きなAI企業のこれらの指導者であり、これは人類にとって危険です。
これが私の動機であり、あなたも会話に参加する動機と能力を感じてほしいと願っています。なぜなら、これはあなたの未来についても、すべての人の未来についての会話だからです。
私のもう一つの所感は、私の本を読んだ私のファンかもしれない人々がここに数人いることに気づいたということです。私は以前の歴史的知識から、イベントの最後に多くの人々がやってきて、本にサインをしたり、自撮りをしたりしたがることを知っています。
残念ながら、別のイベントに急がなければならないので、それをする時間がありません。ですから、私のサインや私の写真よりも良いものをあなたに残します。
それは本当に私の一部である私の原子です。すべてのつながりについての最終的な思考として、私たちはこの美しいホールで1時間半一緒に座り、ずっと呼吸し、空気が私たちの呼吸を混ぜ合わせています。
ですから、1時間半前に私の体内にあった原子の多くが今あなたの体内にあります。そして1時間半前にあなたの体内にあった原子の多くが今私の体内にあります。
このようにして、私たちはサインや写真よりもさらに重要な何かを共有しました。ありがとうございました。
司会：ありがとうございました。
コメント