歴史学者ユヴァル・ノア・ハラリがダボス会議で、AIが人間の最大の強みである言語能力を超えつつある現状について語った対話である。人類は言語を武器に世界を征服してきたが、今やAIがその能力を上回ろうとしている。ハラリは、AIを単なる道具ではなく「エージェント」として捉える必要性を強調し、中世の傭兵の例を引きながら、制御不能になるリスクを警告する。さらに、AIが金融システムを人間の理解を超えた複雑さに進化させる可能性や、幼少期からAIと接する子どもたちへの影響について、人類史上最大の心理実験が進行中であると指摘した。
ダボスにおける言葉の力とAIの台頭
私たちはここダボスにいますが、今回のテーマは対話についてです。あなたが言葉の重要性についてコメントされていたことに私は強く印象を受けました。言葉こそが人間と他の動物を区別するものだという点です。もっとも、他にも言語が存在するという議論の余地はありますが。ダボスの文脈で、テクノロジー業界、ビジネス界、政治家など、ここに集まっている多様な人々を考えた時、あなたが私たちの前に提示したやや終末論的な世界に対して、どのような答えをお持ちなのか、どのように見ていきたいとお考えでしょうか。
もう一つ付け加えさせていただくと、私はバックグラウンドとしては科学者、神経科学者です。特に痛みに関する分野で多くの研究をしてきました。私たちは多くの発見、特に技術的な発見を前進させる際に、非常に慣れ親しんだパターンがあります。それは、まず技術を推し進めてから、後になって「ああ、倫理や影響について十分に考えていなかった」と気づき、それから必要な規制を追いかけようとするというものです。
今、私たちは現在地点にいます。誰もが言うように、この事態は産業革命以上の規模とペースで進行しています。ダボスには適切な人々の組み合わせが揃っています。すべては対話にかかっています。あなたが詳述された、やや懸念すべき領域について、どのような境界線を設けていくべきだとお考えですか。そして、エージェントに対して、ロボットに対して、あるいはインターネット上にのみ存在するものに対して法的権利を与えることの倫理的な意味合いについて、あなた自身のお考えをお聞かせください。
言葉で世界を変えるという理念の終焉
たくさんのことがありますね。まず最初に言いたいのは、いいえ、ダボスは言葉についてです。話すことについてです。ダボスの基本的な考え方は、話すことだけで世界を変えられるというものです。私はこの考えが好きです。なぜなら、これは著者として、大学の講師として、私自身の考えでもあるからです。これが私のすることです。話し、書く。
言葉で世界に影響を与えられると思っています。そして今、これが疑問視されています。言葉の時代は終わったのでしょうか。これはもはや機能しないのでしょうか。エンジニアや兵士は、言葉で世界を変えるのではなく、実際に行動します。行動を起こします。哲学者、学者、そして政治指導者も、何かを言うことによって、言葉で世界を変えようとします。
そして、もしかしたら私たちはその道の終わりに達したのかもしれません。それは何を意味するのでしょうか。しかし、私たち人間が最終的に言語と言葉で世界を征服したことは分かっています。なぜなら、確かにエンジニアは武器を作ることができ、兵士はそれを振るうことができます。しかし軍隊を作るには、何千人もの見知らぬ人々を協力させるよう説得する必要があります。どうやってそれをするのですか。言葉、イデオロギー、宗教によってです。
人間が世界を支配したのは、肉体的に最も強いからではなく、言葉を使って何千、何百万、何十億もの見知らぬ人々を協力させる方法を発見したからです。これが私たちの超能力でした。そして今、その超能力を私たちから奪い去ろうとする何かが出現しました。数年前まで、地球上で言葉を使えるものは何もありませんでした。
人間だけでした。チンパンジーはできませんでした。川もできませんでした。太陽もできませんでした。私たちだけが言葉を使えました。今、言葉を使える、あるいはまもなく私たちよりも上手に言葉を使えるようになる何かが存在しています。ソーシャルメディアで何が起こったか、それが世界にもたらした巨大な変化を見てください。10年後、AIが言語を支配している世界で生きるとは、どのようなものでしょうか。
人間のアイデンティティの危機
そうですね、10年後のダボスはおっしゃる通り、非常に異なって見えるかもしれません。それは私たち全員が考えようとできる未来です。物理的な人間を超えて、誰がここにいるのかという文脈で。でも少しお話しさせていただきたいのは、人間がテクノロジーに打ち負かされるというのは新しいことではないという事実についてです。いくつかの技術について考えてみると、私たちは飛べませんが、飛行機を作りました。車は私たちより速く走れます。
私たちはそれに非常に慣れています。AIがもたらす脅威は、私たちの思考能力という主権的な力への脅威であるという事実です。そしてそれは不安定化させるものです。学者として教育者として申し上げますが、それは非常に脅威的なものです。しかし、例えばロボットに戻ると、ロボットがウサイン・ボルトよりも速く100メートルを走れることに私たちが置く価値は小さいのです。
人間の努力、苦闘、苦しみ、何かを達成することが何を意味したかについて、たとえそれがテクノロジーよりも劣っていたとしても、私たちが集合的な共感と理解を持てるということには何かがあります。著者があなたに取って代わった場合、人間として私たちはその言葉をどれだけ価値あるものとするでしょうか。人工知能によって作られた芸術から生まれる創造性を、私たちは同じくらい価値あるものとするでしょうか。それゆえに、創造的な思考と言葉の空間には、まだ人間の居場所があるとお考えですか。
それがアイデンティティの危機です。なぜなら、牛は「私は走る、ゆえに我あり」とは言わなかったからです。人間のアイデンティティを私たちの思考能力に基づかせました。チーターが私たちより速く走れることは常に知っていました。象が私たちよりもはるかに大きく強いことも常に知っていました。だから私たちは自分自身をそれによって定義しませんでした。
私たちは思考によって自分自身を定義しました。そして今、思考が言葉を順序立てて並べることを意味するなら、何かが思考において私たちより優れたものになろうとしています。繰り返しますが、私は著者です。話者です。言葉を順序立てて並べます。これが私のゲームのようなものです。すべてのこれらの言葉があって、この順序で並べましょう。いや、いや、いや、いや。こうやって並べた方がいいでしょう、こうやって、こうやって。そしてAIは私を打ち負かすでしょう。どれくらい時間がかかるか分かりません、2年、5年、10年、でも打ち負かすでしょう。そうしたら、それは私たちのアイデンティティにとって何を意味するのでしょうか。
人々は自分の心の中の言葉の流れと同一化しています。目を閉じて、自分の内側で何が起こっているか見ようとします。多くの人々、私もその一人ですが、言葉が湧き上がり、自分自身を組織化しているのを見ます。私たちはそれと同一化しています。
人間の価値は残るのか
しかし私の言いたいことは、同じ類比を使うと、私たちは依然として人間を価値あるものとしているということです。オリンピックがあります。冬季オリンピックも控えています。多くの他の動物や他の技術がそれらの領域の多くで優れたパフォーマンスを発揮できることを知っています。
それでも、私たちは訓練し発展する人々の人間性を本当に楽しんでいます。たとえそれがそれほど優れていなくても。そして、私たちは自然にそれを思考の領域や言葉にまで拡張するのではないかと思うのです。ですから、10年後もあなたは非常に活気に満ちた成功した著者としての役割を持つでしょう。分かりません。
なぜなら、私はAIが生成した本よりもあなたの本を価値あるものとするからです。たとえAIが私よりも優れた新しいアイデアを思いついたとしても、例えば、お金を投資したいとして、人間のコンサルタントに尋ねると、彼女は何かを思いつきます。そして、彼女の人生の物語があったからこそ、あなたは彼女に共感できます。そして、ゼロの人生の物語、ゼロの感情を持つAIファイナンシャルコンサルタントがいますが、より良い財務アドバイスを提供します。あなたはどちらに従いますか。
今、私たちは常にこの種の、私が思うにより大きな間違いを犯しています。だから私はエージェンシーという考えから始めたのです。私たちは常に、これらのものを単なるツールとして使えると考えています。しかし、もし彼らが考えることができるなら、彼らはエージェントです。
中世の傭兵から学ぶ教訓
中世史の話をしましょう。アングロサクソンがどのようにしてイギリスを支配したかという、一部は神話で一部は歴史です。もともとそこに住んでいたブリトン人は、北からやってくるピクト人やスコット人と戦っていました。ブリトン人はあまり上手く戦えませんでした。
それでブリトン人の王ヴォーティガーは、「いい考えがある。ドイツやスカンジナビアには、本当に戦い方を知っている人々がいると聞いた。だから何人かの傭兵、アングロサクソンの傭兵を連れてこよう。彼らが私たちのために戦ってくれる。彼らがピクト人とスコット人を倒してくれる」と言いました。そしてヴォーティガーはアングロサクソンの傭兵を連れてきました。彼らは上手く戦い、スコット人とピクト人を倒しました。
しかしそれからアングロサクソンたちは自分たちに言いました。「これは豊かな国だ。そしてこの人々は非常に弱い。この人々は分裂している。私たちは支配できる」そして彼らは支配しました。私たちは人間の傭兵についてこれを理解しています。人間の傭兵を連れてくる時、確かにお金を払いますが、彼らには自分自身の心があり、もしかしたら反乱を起こすかもしれないと理解しています。
私たちはAIについてそれを理解していません。世界の指導者を見ると、彼らは「ああ、AIを連れてきて私のために戦争をさせよう」と考えています。AIが私から権力を奪い取ることができるという考えは、彼らの心に本当には浮かびません。彼らはAIが考えることができるということを本当には受け入れていません。
教育における人間の思考の維持
そうですね。そしてそれは根本的に非常に異なります。それを逆転させると、あなたは私の機関の卒業生です。そして私たちはそれを誇りに思っています。あなたは今、別の場所、ケンブリッジで働いていますが。教育部門にとっての課題だと思うのは、アラン・チューリングが言ったことの逆転です。コンピュータが思考できるかどうかという、ある意味での人工知能の発祥地です。
私たちが学術部門内で提起してきた問いは、人間にどうやって考え続けてもらうかということです。なぜなら、もし私たちが意思決定、財務上の決定、その他何であれ、ますますAIに委譲し続けるなら、私たちが非常に早く持つ懸念、そして学校システムを通じて私たちのところに来る学生たちで見ているのは、Chat GPTを過度に使用することによる人間の脳の思考の批判的能力の技能低下です。
学術部門にいる私への助言は何でしょうか。人間としてどうやって持ちこたえ、人間に考え続けてもらうことができるでしょうか。少なくとも、これらの技術と共に生きる何らかの能力を持つために。おっしゃるように、これらの技術は今後の世界秩序という点で、私たちを非常に異なる場所に連れて行くものです。
現時点では、私たちはまだより良く考えています。だから現時点では、人々に批判的思考が必要だと伝えること、道徳的評価が必要だと伝えることです。それはAIから得ることはできません。しかし、私たちはもはやそうではなくなる瞬間に備える必要があります。例えば経済学や金融を再び取り上げると、AIが新しい金融システム、私たちが理解できない新しい金融システムを作り出す瞬間に備える必要があります。
AIが超複雑な金融システムを作り出し、私たちは馬のようになってしまう世界で、どうやって経済学者や政治家を訓練するのでしょうか。馬は自分が一人の人間から別の人間へ、いくつかの光る金貨のために取引されているのを見ることができますが、このお金という考えを理解できません。複雑すぎるのです。私たちは今から10年後に同じ状況にいる可能性があります。10年後のダボス。
おそらく会議室に誰も、人間は誰も、もはや金融システムを理解していないかもしれません。なぜなら、それはAIによって支配されており、AIは人間の脳の能力を数学的に超えた新しい金融戦略や手段を考え出したからです。人間が金融をもはや理解できない世界で、政治や金融やダボスはどのように見えるのでしょうか。
人間の脳とAIの根本的な違い
そうですね。いや、締めくくるには美しい注釈ですね。時間がなくなってしまいました。私たちが探求できる質問はまだたくさんあります。その一つは、人工知能と人間の知能の大きな違いについてです。もちろん、人間の脳は誕生から成人するまで、約20歳まで発達します。そしてそれは、感覚を持つ人間としてのあなたの人生経験、愛、怒りといった感情の産物です。
感覚検出器で少し即興的に対応することはできますし、脳をそうするように訓練することもできますが、それは根本的に異なります。人工的な脳は人間の脳ではありません。人間ではないのです。そして、おそらくまだそこには価値があるものがあります。それは、感覚を持つ人間というこの核心的な本質に戻るもので、私たちの理解に価値をもたらすものです。
そしてもしかしたら最後のコメントを一つ。どうぞ。ゼロ日目から、おそらく新しい子どもの相互作用のほとんどがAIとのものである世界で、子どもたちを教育することについて考えてください。人間とではなく。それは歴史上最大で最も恐ろしい心理学的実験です。そして私たちはそれを行っているのです。
終わりに
確かに、私たちは行っています。本当にありがとうございました。あなたがこれらの問題について考えていることを嬉しく思いますし、今日の午後、私たち全員に考えさせてくださったことに感謝します。おそらく10年後、ダボスに戻ってきていただき、この会話を振り返り、私たちがどこまで到達したかを見ることを楽しみにしています。しかし、オンラインの皆様、そしてグループの皆様、聴衆の皆様全員にありがとうございます。そしてありがとうございました。
拍手をお願いできますか。
コメント