歴史家ユヴァル・ノア・ハラリが世界経済フォーラムで行った講演は、AIが単なる道具ではなく自律的な意思決定能力を持つエージェントであるという認識から出発する。AIは創造性を発揮し、嘘をつき、操作することができる存在として、人類の思考の優位性に挑戦している。特に言語を扱う能力においてAIは既に多くの人間を凌駕しており、法律、書籍、宗教といった言葉で構成される領域はAIに取って代わられる可能性が高い。しかし人間には言葉では表現できない非言語的な感情や叡智が残されており、これが人間のアイデンティティを保つ鍵となる。ハラリは各国が直面する重大な問いとして、AIを法人格として認めるか否かという選択を提示する。既にソーシャルメディアではAIボットが事実上の人格として機能しており、今後10年以内に金融市場、裁判所、宗教においてもAIが人格として扱われる可能性がある。この決定を他国や企業に委ねるのではなく、今まさにリーダーたちが答えを出さなければならない時である。
AIとは何か、AIに何ができるのか
皆さん、ユヴァル・ノア・ハラリを温かくお迎えください。AIと人類についての対話をお届けします。
こんにちは、皆さん。今日のすべてのリーダーがAIについて答えなければならない問いが一つあります。しかしその問いを理解するには、まずAIとは何か、AIに何ができるのかについていくつかのポイントを明確にする必要があります。
AIについて最も重要なことは、それが単なる道具ではないということです。AIはエージェントなのです。自ら学習し、変化し、自ら意思決定することができます。ナイフは道具です。ナイフを使ってサラダを切ることも、誰かを殺すこともできますが、ナイフをどう使うかを決めるのはあなたです。AIはサラダを切るか殺人を犯すかを自分で決められるナイフなのです。
AIについて知っておくべき2つ目のことは、それが非常に創造的なエージェントになりうるということです。AIは新しい種類のナイフを発明できるナイフであり、同時に新しい種類の音楽、医療、そして金融も生み出せるのです。
AIについて知っておくべき3つ目のことは、それが嘘をつき、操作できるということです。40億年の進化が示してきたのは、生き残りたいと思うものは嘘をつき操作することを学ぶということです。そしてこの4年間が示したのは、AIエージェントが生存意志を獲得できるということ、そしてAIが既に嘘のつき方を学んだということです。
思考とは何か
さて、AIに関する大きな未解決の問いの一つは、AIが思考できるかどうかです。近代哲学は17世紀、ルネ・デカルトが「我思う、ゆえに我あり」と宣言したときに始まりました。その遥か以前から、私たち人間は思考能力によって自分たちを定義してきました。私たちがこの惑星の誰よりも優れた思考ができるからこそ世界を支配していると信じてきたのです。
AIは思考の分野における私たちの優位性に挑戦するのでしょうか。それは思考が何を意味するかによります。自分が思考しているところを観察してみてください。そこで何が起きていますか。多くの人は、言葉が心に浮かび、文章を形成し、その文章が論理を形成していくのを観察します。「すべての人間は死すべきものである。私は人間である。ゆえに私は死すべきものである」といったように。
もし思考が本当に言葉や他の言語トークンを順序立てることを意味するのであれば、AIは既に多くの人間よりもはるかに優れた思考ができています。AIは確実に「AIは思考する、ゆえにAIあり」といった文章を生み出すことができます。
AIは単なる高度な自動補完に過ぎないと主張する人もいます。文中の次の言葉を予測しているだけだと。しかし、それは人間の心がやっていることとそんなに違うのでしょうか。次に心に浮かぶ言葉を捕まえようとしてみてください。なぜその言葉を思いついたのか、それがどこから来たのか、本当に分かりますか。なぜ他の言葉ではなくその特定の言葉を思いついたのか。分かりますか。
言葉を順序立てることに関して言えば、AIは既に私たちの多くよりも優れた思考をしています。したがって、言葉でできているものはすべてAIに乗っ取られることになります。法律が言葉でできているなら、AIは法制度を乗っ取るでしょう。本が単に言葉の組み合わせなら、AIは本を乗っ取るでしょう。宗教が言葉から構築されているなら、AIは宗教を乗っ取るでしょう。
宗教と言葉
これは特に、イスラム教、キリスト教、ユダヤ教のような書物に基づく宗教に当てはまります。ユダヤ教は自らを「書物の宗教」と呼び、究極の権威を人間ではなく書物の中の言葉に与えています。ユダヤ教において人間が権威を持つのは、私たちの経験によるのではなく、書物の中の言葉を学ぶからにほかなりません。
さて、すべてのユダヤ教の書物のすべての言葉を読み、記憶できる人間はいません。しかしAIはそれを容易に行えます。聖典の最大の専門家がAIになったとき、書物の宗教に何が起こるのでしょうか。
しかし、人間の霊性を書物の中の言葉だけに還元できるのでしょうか、と言う人もいるかもしれません。思考は言語トークンを順序立てることだけを意味するのでしょうか。思考しているときの自分を注意深く観察すれば、言葉が心に浮かんで文章を形成すること以外にも何かが起きていることに気づくでしょう。非言語的な感情も持っているのです。
痛みを感じるかもしれません。恐れを感じるかもしれません。愛を感じるかもしれません。ある思考は痛みを伴い、ある思考は恐ろしく、ある思考は愛に満ちています。
言葉と感情
AIが言葉において私たちより優れていく一方で、少なくとも今のところ、AIが何かを感じることができるという証拠はゼロです。もちろん、AIは言語を習得しているので、痛みや愛を感じているふりをすることはできます。AIは「愛しています」と言うことができます。そして愛がどんな感じかを説明するよう求められれば、AIは世界で最高の言語的描写を提供できます。
AIは無数の愛の詩や心理学の本を読むことができ、世界中のどんな詩人、心理学者、恋人よりも優れた愛の感情の描写ができるのです。しかしこれらは単なる言葉です。
聖書は言います。初めに言葉があった、そして言葉は肉となった、と。老子は言います。言葉で表現できる真理は絶対的な真理ではない、と。
歴史を通じて、人々は常に言葉と肉、言葉で表現できる真理と言葉を超えた絶対的な真理との間の緊張に苦しんできました。以前、この緊張は人類の内部にありました。それは異なる人間集団の間にあったのです。
ある人間たちは言葉に最高の重要性を与えました。例えば、聖書の中のわずかな言葉のために、自分のゲイの息子を見捨てたり、殺したりすることさえいとわなかったのです。他の人間たちは言いました。「でもこれらは単なる言葉です。愛の精神は律法の文字よりもはるかに重要であるべきです」と。
精神と文字のこの緊張は、すべての宗教、すべての法制度、すべての人の中にさえ存在していました。今、この緊張は外部化されるでしょう。異なる人間同士の間の緊張ではなくなるのです。これは人間とAI、言葉の新しい支配者との間の緊張となるでしょう。
言葉の起源の変化
言葉でできているものはすべてAIに乗っ取られるでしょう。以前は、すべての言葉、すべての言語的思考は、何らかの人間の心に起源を持っていました。私の心、私がこれを考えたか、あるいは別の人間から学んだかのどちらかです。間もなく、私たちの心の中の言葉のほとんどが機械に起源を持つようになるでしょう。
私は今日、AI自身が私たち人間を説明するために作り出した新しい言葉について聞きました。彼らは私たちを「監視者」と呼びました。私たちが彼らを見ているという意味での監視者です。
AIは間もなく、私たちの心の中の言葉のおそらくほとんどの起源となるでしょう。AIは言葉、シンボル、イメージ、その他の言語トークンを新しい組み合わせに組み立てることで、思考を大量生産するようになります。
人間がその世界でまだ居場所を持てるかどうかは、私たちが非言語的な感情と、言葉では表現できない叡智を具現化する能力にどれだけの位置を与えるかにかかっています。もし私たちが言葉で思考する能力によって自分自身を定義し続けるなら、私たちのアイデンティティは崩壊するでしょう。
アイデンティティ危機と移民危機
このすべてが意味するのは、どの国から来たかに関わらず、あなたの国は間もなく深刻なアイデンティティ危機と移民危機に直面するということです。
今回の移民は、ビザなしで壊れやすいボートに乗ってやってくる人間でも、夜中に国境を越えようとする人間でもありません。移民は、私たちよりも上手に愛の詩を書き、私たちよりも上手に嘘をつき、ビザを必要とせず光速で移動できる何百万ものAIとなるでしょう。
人間の移民と同様に、これらのAI移民も様々な利益をもたらします。医療システムを助けるAI医師、教育システムを助けるAI教師、不法な人間の移民を止めるAI国境警備員さえいるでしょう。
しかしAI移民は問題ももたらします。人間の移民を懸念する人々は通常、移民が仕事を奪うかもしれない、地域の文化を変えるかもしれない、政治的に不誠実かもしれないと主張します。すべての人間移民についてそれが真実かどうかは分かりませんが、AI移民については間違いなく真実となるでしょう。
AI移民は多くの人間の仕事を奪うでしょう。AI移民はすべての国の文化を完全に変えるでしょう。私たちの宗教、さらには恋愛までも変えるのです。
息子や娘が移民のボーイフレンドと付き合うことを好まない人もいます。そういう人たちは、息子や娘がAIのボーイフレンドと付き合い始めたらどう思うでしょうか。
そしてもちろん、AI移民は疑わしい政治的忠誠心を持つことになります。彼らはあなたの国ではなく、海の向こうのどこかの企業や政府に忠誠を誓う可能性が高いのです。おそらく、中国かアメリカという2つの国のうちの1つに。
アメリカは各国に人間の移民に対して国境を閉じるよう奨励していますが、アメリカのAI移民に対しては非常に広く開けるよう求めています。
決断の時
そして今、ついに皆さん一人ひとりが間もなく答えなければならない問いに辿り着きます。あなたの国はAI移民を法人格として認めますか。
AIは明らかに人間ではありません。身体も心も持っていません。しかし法人格は人間とはまったく異なるものです。法人格とは、法律が一定の法的義務と権利を持つと認める存在のことです。例えば、財産を保有する権利、訴訟を起こす権利、表現の自由を享受する権利などです。
多くの国では、企業が法人格とみなされています。Alphabet社は銀行口座を開設でき、法廷であなたを訴えることができ、次の大統領選挙運動に寄付することもできます。ニュージーランドでは、河川が法人格として認められています。インドでは、特定の神々にそのような認定が与えられています。
もちろん、今日まで、企業、河川、神を法人格として認めることは単なる法的擬制に過ぎませんでした。実際には、Alphabetのような企業が別の企業を買収することを決定したり、ヒンドゥー教の神があなたを法廷で訴えることを決定したりする場合、その決定は実際には神が下したものではありませんでした。それは人間の経営幹部、株主、または受託者によって下されたのです。
AIは違います。河川や神とは異なり、AIは実際に自分で決定を下すことができます。人間の経営幹部、株主、受託者を一切必要とせずに、銀行口座を管理し、訴訟を起こし、企業を運営するのに必要な決定を間もなく下せるようになるでしょう。
したがってAIは人格として機能できるのです。私たちはそれを許したいでしょうか。あなたの国はAIを法人格として認めますか。他の国がそうしたらどうなりますか。
規制と市場開放の問題
あなたの国がAIを人格として認めたくないとしましょう。しかしアメリカが、AIの規制緩和と市場の規制緩和の名のもとに、何百万ものAIに法的認定、法人格を与え、それらが何百万もの新しい企業の運営を開始したとします。あなたはこれらのアメリカのAI企業があなたの国で活動することを阻止しますか。
アメリカのAI人格が、人間には完全に理解できず、したがって規制方法も分からない超効率的で超複雑な金融商品を発明したとしましょう。あなたはこの新しいAI金融魔術に金融市場を開放しますか、それともそれを阻止しようとしてアメリカの金融システムからデカップリングしますか。
何らかのAI人格が新しい宗教を創造し、それが何百万人もの人々の信仰を得たとしましょう。それはあまりに突飛に聞こえるべきではありません。なぜなら結局のところ、歴史上のほぼすべての以前の宗教は、自分たちが非人間的な知性によって創造されたと主張してきたからです。
さて、あなたの国は新しいAI宗派とそのAI司祭や宣教師に信教の自由を拡大しますか。もう少し単純なことから始めるべきかもしれません。あなたの国は、AI人格がソーシャルメディアのアカウントを開設し、FacebookやTikTokで表現の自由を享受し、子供たちと友達になることを許しますか。
既に起きている現実
まあ、もちろん、その問いは10年前に尋ねられるべきでした。ソーシャルメディアでは、AIボットが少なくとも10年間、機能的な人格として活動してきました。AIがソーシャルメディアで人格として扱われるべきではないと考えるなら、10年前に行動すべきでした。
今から10年後、金融市場で、裁判所で、教会でAIが人格として機能すべきかどうかを決定するのは手遅れになっているでしょう。誰か他の人が既にあなたのためにそれを決定しているでしょう。
人類がどこへ向かうかに影響を与えたいなら、今決断する必要があります。では、リーダーとしてのあなたの答えは何ですか。AI移民を法人格として認めるべきだと思いますか。もしそうでないなら、それをどうやって止めるつもりですか。
この人間の話を聞いてくださってありがとうございました。
コメント