この書き起こしは、歴史学者ユヴァル・ノア・ハラリ氏が東京大学で行った講演と対談の記録である。ハラリ氏は著書『ネクサス』を基に、情報時代における物語の力とAIの影響について論じている。人間は物語を通じて大規模な協力を実現する動物であり、科学技術の発展においても物語が重要な役割を果たしてきたが、現在初めて人間以外の存在であるAIが物語を創造する能力を持つようになったという。メディア研究者の河合幸世氏とAIガバナンス専門家のアリサ氏も参加し、アルゴリズムによる編集権の移譲、民主主義への影響、教育の変革、人間の意識と感情の重要性などについて議論を展開している。日本の役割についても、国際協調の仲介者としての立場や、ロボティクス技術、高齢社会における人間的なケアの価値などが議論されている。
23,742 文字
ユヴァル、あなたの新著『ネクサス』は情報についての本ですね。私たちは通常、情報とはより良い決断を下すために私たちに知識を与えてくれるものだと考えています。しかし、あなたは著書の中で、情報は何よりもまず物語を作り出すために使われると強調されており、私たち人間は物語を語る動物であると述べています。物語はあなたが呼ぶところの間主観的現実を表しているのですね。
物語は非常に強力な力を持つことができます。正当な理由もなく私たちを憎しみに駆り立て、殺し合いをさせることもできます。理性と科学の時代において、なぜこのようなことが可能なのでしょうか？
理性と科学は世界に対する支配力を与えてくれますが、私たち自身に対する支配力は与えてくれません。歴史上のほぼすべての場合において、物事の管理方法を知っている人々は、人々の管理方法を知っている人々から命令を受けているのです。
そして人々を管理する方法は、通常物語によるものです。私たちが何について話しているのかを理解するために、具体例を挙げてみましょう。20世紀最大かつ最も危険な科学事業の一つであるマンハッタン計画、つまり最初の原子爆弾の製造を考えてみてください。原子爆弾を作るために何が必要でしょうか？ウランまたはプルトニウムの臨界質量が必要です。
十分なウラン原子を一箇所に集める必要がありますが、同時に十分な人間の臨界質量を一箇所に集めることも必要なのです。もしアインシュタインやハイゼンベルク、オッペンハイマーのような世界最高の物理学者がたった一人だけいて、その人がE=mc²を知っており、核物理学のすべてを知っていたとしても、たった一人の人間だけでは核兵器を製造することは決してできません。
核爆弾を製造するには、数十万人の人々の協力が必要です。マンハッタン計画には10万人以上の人々が直接関わって働いていました。物理学者や数学者だけでなく、技術者やエンジニア、建設労働者、彼らのための食事を作る人々、トイレを清掃する人々も含まれます。
さらに、彼らのための食料を栽培し、ウランを採掘するために数十万人の人々が必要でした。爆弾に使用されたウランの一部はコンゴから来ていました。つまり、ウランを採掘するためにコンゴの人々が必要だったのです。どうやって数十万人の人々をそのようなプロジェクトで協力させるのでしょうか？単にE=mc²と言っても、それだけでは機能しません。
それが真実であっても、人々に何かをするように動機付けることはできないのです。そこで優秀な物語の語り手が必要になります。そしてこれは今日でも同じ状況です。私の地域である中東を見てみると、核エネルギーやその他の兵器製造に関するイスラエルの専門家たちは科学を知っていますが、多くの場合、ユダヤ神話の専門家から命令を受けています。
そして国境の向こう側でも、エンジニアや科学者たちがいますが、彼らは他の神話の専門家から命令を受けています。つまり、理性と科学の時代においても、少なくともこれまでのところ、究極の権力は神話を作る者や物語の語り手の手の中にあるのです。今起こっている大きな変化、そしてこれから数分間で議論することになる変化は、人間ではない新しい神話作成者が登場したということです。
歴史上初めて、物語を語り、新しい物語を発明することさえできる、人間ではない何かが地球上に存在しているのです。それがAIです。
ありがとうございます。はい、その点については後ほど話しましょう。まずは一般的な物語について話を続けさせてください。メディア専門家でメディア学者のコウリーさんがいらっしゃいますので。メディアはもちろん、情報の流通において中心的な役割を果たしています。
物語作りのビジネスにおけるメディアの役割をどのように見ておられますか？
はい、ありがとうございます、フランス。私の名前はコウリー・ハヤシです。東京大学のメディア・ジャーナリズム学者であり、この大学の執行副学長も務めています。このような場にお招きいただき、このような大勢の聴衆の前であなたとお話しできることを大変光栄に思います。ありがとうございます。
こちらこそ光栄です。そしてメディアについて言えば、現在メディアはこのデジタル化の変化により非常に大きな挑戦に直面していると思います。誰でもジャーナリストになることができ、誰でもネットワークを分散化できるようになりました。メディアは物語を作り出しますが、社会のあらゆる角からあらゆる人々が独自の物語を作り出しています。
ジャーナリズムは民主主義における自己修正ツールとして機能してきたと理解しています。これがあなたの著書のキーワードだと思いますが、自己修正メカニズムです。ジャーナリズムは自己修正ツールとして機能してきましたし、メディアは公的な議論を作り出し、特に民主主義において人々の理解を形作ってきました。
しかし、私たちは皆、メディアは中立的ではないということを理解しなければなりません。どのメディアも、すべてのメディアが、フレーミングやアジェンダ設定として機能します。
ですから、プロフェッショナルなジャーナリズムが非常に優れていると賞賛されている場合でも、偏見は避けられないということを常に考えなければなりません。企業メディアはこのデジタル化により非常に厳しく精査されており、日本でもメディアはしばしば権力者の利益を支持し、疎外された声よりもそちらを優遇していると見られています。
何を報道し、どのように報道するかを選択することは決して中立的ではありません。ニューヨークにいたとき、「中立性は抑圧者を利する」という落書きを見ました。これが最近ジャーナリズムの世界で広まっている言説だと思います。物語作りと事実の正確性のバランスを取ることは、ジャーナリズムの世界においてさえ非常に困難であり、専門家やNGOとの協働は、このデジタル化の時代には必須だと思います。
あなたとデジタル変革の話に戻りましょう。デジタル変革は物語作りのゲームをどのように変えるのでしょうか？
私たちがすでに目にし、すでに世界を完全に変えた最初の変化は、編集者の役割の変化です。多くの情報があるとき、ボトルネックとなるのは人間の注意力です。注意を求めて競合するあらゆる物語があります。すべてを読むことはできません。すべてを見ることはできません。では、何に注意を向けるのでしょうか？これが編集者の役割なのです。
従来、新聞の編集者の役割は、明日の新聞の一面に何を載せるかを決定することでした。何が真実かを考慮に入れる必要があります。一面に嘘を掲載したくはありません。
しかし、真実の物語はたくさんあり、それらすべてを載せることはできません。そこで他の考慮事項があります。何が最も重要か？そして新聞の一面に何かを載せることで、数百万人の人々の会話を形作るのです。数百万人がそれを読み、考え、話します。あなたに同意しない場合でも、あなたは彼らの注意を捉えているのです。
そして人々の注意を捉えることが権力への鍵なのです。例えば、トランプとハリスの討論会で見たように、ほとんどの人がその討論会から覚えているのは、トランプが猫と犬について言ったことだけです。これが権力です。同意するかしないか、嘘か真実かは関係ありません。
彼はPRの天才です。他の分野では天才ではないかもしれませんが、PRにおいては確実に人々の注意を捉える方法を知っています。20世紀において一面に何を載せるかを決定する編集者の権力を見てください。例えば、レーニンはソビエト独裁者になる前、新聞『イスクラ』の編集者という仕事を持っていました。
ムッソリーニはジャーナリストとして始まり、その後新聞の編集者になり、確か『イル・ポポロ・ディタリア』だったと思いますが、その後独裁者になりました。つまり、ジャーナリスト、編集者、独裁者という昇進のレベルがあったのです。では、今日世界で最も重要な編集者は誰でしょうか？彼らの名前は何でしょうか？ムッソリーニやレーニンのような名前を持っていません。なぜなら彼らは人間ではないからです。
最も重要なメディア、ソーシャルメディアの編集者は誰でしょうか？Twitterを編集しているのは誰ですか？Facebookのニュースフィードを編集しているのは誰ですか？TikTokを編集しているのは誰ですか？人間ではありません。アルゴリズム、AIがすでに数百万人の注意を何が捉えるかを決定するという非常に強力な地位を引き継いでいるのです。
これが民主主義の危機の理由の一つです。民主主義は人間同士の会話であるべきなのに、今やアルゴリズムに乗っ取られているからです。そしてこれは非常に原始的なAIです。私たちがすでにその始まりを見ている次のステップは、AIが人間によって書かれた物語を編集するだけでなく、自分たちで物語を作り出すことです。
その結果がどうなるかは全く分かりません。私たちは人間の物語作りについて何千年もの経験を持っています。超知能AIが何百万という新しい物語や新しい物語を作り出す能力を持って解き放たれたとき、社会に何が起こるでしょうか。新しい物語とは、テレビ番組の脚本や小説だけではありません。
新しい物語とは、AIによって作られた新しい宗教です。新しい金融商品です。これまでに語られた最も成功した物語はお金の物語です。お金も物語であり、誰もが信じる唯一の物語です。これまでに作られた最も成功した物語です。私たちの未来の金融物語が非人間知能から来るとき、何が起こるでしょうか？
アリサさん、あなたはAIガバナンスの専門家ですし、何かおっしゃりたいことがあると思います。
はい、とても興味深いお話をありがとうございます。私の名前はアリサです。AIガバナンスの問題について研究しています。ですから、あなたがおっしゃることや、AIをどのように扱われるかにとても興味があります。あなたはAIを主体として使っておられるようですね。
つまり、AIがある種の制御をしたり、AIが何らかの破壊的な影響を与える可能性があるということですが、AIの擬人化として、AIを人間のように扱うことができるかどうかという疑問を提起したいと思います。
これは私の意見ですが、私が話すとき、少なくとも現在のところ、人工知能の背後にいるのは実際には人間であると言う傾向があります。確かにこれらのアルゴリズムが実際に私たちの世界を変えている、または選挙に影響を与えている、あるいは私たちの認知的な思考方法を変えている可能性があることに同意します。ソーシャルネットワークやソーシャルメディアは実際に私たちの思考方法や生活、学ぶ内容、誰と話すかに影響を与えています。
しかし、AIガバナンスの研究者として思うのは、ある程度までは、例えば巨大企業がガバナンスとしての役割を果たすことができるということです。例えば、Metaがファクトチェックを停止すると述べたことがガバナンスメカニズムに関する議論につながっています。
もしそのようなファクトチェックやガバナンスメカニズムがより良い方法で機能すれば、社会がそれほど破滅的や混沌とした問題にならないと信じることができます。なぜなら、ある程度まで私たちは制御することができるし、少なくとも善意を持った人間や、自分たちの製品やサービスが世界中に広がることに責任を取りたいと思っている人間が背後にいると言えるからです。
ですから、AIを擬人化するとおっしゃるとき、エージェント的AIについての議論もあることも理解しています。今日私たちが目にするAIは、ChatGPTやGeminiのようなもので、私たち人間が実際にタスクを作成し、プロンプトを作成し、タスクを実行させます。一部のLLMは私たちの介入なしに次の行動を取ることができるかもしれませんが、エージェント的AIは、これはまだ曖昧な概念ですが、人間の介入なしにAIが自動的に行動を進めていくというものです。
または、AGI問題、より高度な人工超知能のようなものです。しかし、それはまだ現在からは少し遠いと思います。
ですから、現在においてAIを主体として使うあなたの意図について、混乱を招いたり、AIができることや私たちがどのような社会になるのかについて恐ろしい物語を人々に語ることになるのではないかと思ったのです。あなたの意図を聞かせていただきたいと思います。
私がAIを主体として言及するとき、意識や感情などについてではなく、行為主体性についてのみ言及しています。AIが意識を持っているとか感情を持っているとは思いません。倫理的や哲学的な意味での主体ではありませんが、現時点では限定的な、将来的には潜在的に無制限の行為主体性を持つという意味での主体なのです。
これにアプローチする一つの方法は、AIと官僚制度について考えることです。例えば、日本で最も有能な弁護士の力について考えてみてください。日本で最も有能な弁護士として、彼女は非常に強力な人物です。国の法律に精通しており、物事を成し遂げることができます。法廷で判決を下すことができます。
しかし、彼女の力とは何でしょうか？彼女の力は、法律や機関、政府機関などの特定の官僚制度の中でのみ存在します。もし彼女をジャングルの真ん中に放り込んだら、彼女は無力です。象やハイエナの方がずっと強力です。しかし、既存の官僚制度の中では、彼女は世界中のすべての象を合わせたよりもはるかに強力なのです。
AIも同じです。AIを孤立させて、ChatGPTの入ったスマートフォンをサバンナの真ん中に投げ込んでも、何もできません。動物的な意味での行為主体性はありません。地面を掘って鉄を見つけてロボットを作ることはできません。
しかし、人間がすでに作り出し、世界に課した既存の官僚制度の構造の中では、AIはすでに途方もない行為主体性と力を持っており、多くの人間よりもはるかに強力です。なぜなら、AIは生来の官僚だからです。
どんな弁護士も国のすべての法律を覚えることはできません。AIは簡単にそれができます。どんな銀行家も市場で起こっているすべてのことを毎瞬間追跡することはできません。AIはそれができます。ですから、金融、法律、軍事において、AIは途方もない行為主体性を得ているのです。
ほぼ10年前の典型的な事例を取ってみましょう。ミャンマーのロヒンギャ虐殺です。これは大部分がソーシャルメディア、Facebookでのプロパガンダの拡散の結果でした。そのプロパガンダはFacebookのアルゴリズムによって意図的に拡散されました。その目的は、より多くのエンゲージメントを得ることで、ミャンマーの人々により多くの時間をプラットフォームで過ごさせることでした。これが会社のビジネスモデルだったからです。
理解すべき重要なことは、Facebook本社の人間の誰もロヒンギャに対して悪意を持っていなかったし、何が起こっているかを理解していなかったということです。彼らは言語さえ話せませんでした。カリフォルニアの誰かが「ああ、ロヒンギャの人々が嫌いだ。彼らに対するプロパガンダを広めて、彼らを殺して追放させよう」と言ったわけではありません。
いいえ、人間はアルゴリズムに非常にシンプルで一見無害なことを告げました。ミャンマーでのユーザーエンゲージメントを増やしてください。人々をより関与させてください。私たちのプラットフォームでより多くの時間を過ごしてもらってください。それは良いことに聞こえます。エンゲージメント。
その後、アルゴリズムは自分たちでミャンマーの何百万人もの人々を実験し、試行錯誤によって、憎悪に満ちた陰謀論を人々に見せれば、彼らは非常に関与するようになることを発見しました。彼らはプラットフォームでより多くの時間を過ごします。慈悲についての仏教説法を見せれば、彼らは他のことをしに行きます。そこでアルゴリズムは決定を下しました。人々により多くの陰謀論を、慈悲についての説法は少なく見せようと。
もちろん、最終的には人間の責任です。Facebookの管理者のところに行って、「あなたたちは何をしたのか？なぜ適切な監督、ファクトチェックなどなしにそのような強力なエンジンを解き放ったのか？」と言うことができます。
ですから、究極の責任はまだ人間にあります。しかし、ミャンマーで何が起こったかを理解するために、そしてこれはほぼ10年前、2016年、2017年のことでしたが、物語を語り、新しい物語を発明することさえできる新しい行為主体がいるという事実を考慮する必要があります。
ラジオではそのように機能しません。人々にラジオ資産を配布するだけでは、ラジオは何を聞くべきかを教えてくれません。ラジオは編集者ではありません。しかし、Facebookプラットフォームはラジオとは違います。決定を下す能力を持っているのです。ああ、人々にこのコンテンツを見せよう、あのコンテンツは見せないでおこう、と。
ガバナンスについて言えば、人々の責任ということです。現時点で私たちが規制できるのは人々だけです。人々をより責任を持たせたり、より責任を負わせたりできるでしょうか？責任は、人々に良いことをするよう動機付け、悪いことを避けるよう動機付ける一つの手段です。
それはガバナンスへのアプローチになるでしょうか？お二人にお聞きしたいのですが、アリサさん、先にお答えいただけますか？
私はこのアルゴリズムの支配の状態について質問したかったのです。これは、あなたの著書で読んだ、いわゆるアルゴリズムの専制から来るのでしょうか？これは資本主義の優勢から来るのでしょうか？あなたの著書から私が得た重要な言葉は自己修正メカニズムです。民主主義にはその自己修正メカニズムがありました、またはあります。
しかし、資本主義に自己修正メカニズムがあるかどうか疑問に思います。競争を通じて市場が解決する、見えざる手、見えざる手などと人々は信じていました。しかし、20世紀後半にはそれは機能しないようです。一方で、人々はこの種の資本主義を修正しようとし、政府がこの資本主義的原理を修正しようとしています。
資本主義とこのアルゴリズム的支配の関係をどう見ますか？この種の支配を修正するために、経済原理からアプローチできるでしょうか、それとも人間だけが、何らかの形でガバナンスが問題を解決できると思いますか？つまり、両方は重複していますが、責任の問題に関連します。
市場の力だけに頼ってそれを修正することはしません。資本主義には市場を通じた独自の自己修正メカニズムがあります。そして最終的に、うまく機能するとき、資本主義の中核には実際にウィンウィン経済とウィンウィン状況という非常にポジティブなアイデアがあります。
歴史の大部分において、人々は時々資本主義を貪欲と混同します。しかし、貪欲は人間の本性の一部に過ぎません。資本主義があるずっと前から貪欲はありました。奴隷制度がありました。搾取がありました。これらのことは資本主義から生まれたものではありません。そして最近の世紀において、共産主義者も資本主義者と同じくらい貪欲で搾取的になり得ることを見てきました。ですから、すべての責任を資本主義に押し付けるつもりはありません。
うまく機能するとき、資本主義の重要なアイデアは、経済のパイが成長することで、誰もが同時により多くを享受できるということです。歴史の大部分において、経済的思考は、間違っていたら訂正してください、経済は限られたサイズのパイであるというものでした。私がより多く持てば、あなたがより少なく持つことを意味しました。ですから、金持ちであることは悪いことであり、金持ちはそれを補償するために貢献し、慈善をしなければなりませんでした。
資本主義の重要なアイデアは、あなたが得た利益を生産の増加に投資すれば、経済のパイ全体が成長し、誰もが同時により多くを持つことができるということでした。このウィンウィン的思考は、現在例えばトランプ政権によって挑戦されています。関税の全体的なアイデアは、このウィンウィン資本主義の重要な原理に真っ向から反対しています。
しかし、もちろん市場の失敗があります。会社やアルゴリズムに生産の増加という目標だけを与える場合、ソーシャルメディアではエンゲージメントの増加、プラットフォームでより多くの時間を過ごすことを意味しますが、これは自己規制されません。ここで政府の介入によってそれを規制する必要があります。
そして最も明白な二つの規制があります。まず第一に、企業は自分たちのアルゴリズムの行動に対して責任を負うべきです。企業は常に、これは言論の自由に反すると言って人々を混乱させようとします。政府は私たちにユーザーを検閲させようとしている、と。
これは私は意図的な曖昧化、意図的な混乱だと思います。問題はユーザーが何をしているかではありません。問題は会社のアルゴリズムが何をしているかです。誰かが憎悪に満ちた陰謀論を公開した場合、私が今何らかの陰謀論を書いてFacebookに公開した場合、少なくとも私の個人的な意見では、非常に極端な状況を除いて、それは検閲されるべきではなく、その人は罰せられるべきではありません。
問題は、その憎悪に満ちた投稿を公開した人間にあるのではありません。問題は、FacebookアルゴリズムやTikTokアルゴリズムが今その投稿を取り上げて、エンゲージメントが増加すると仮定して、意図的に何百万人もの他の人々に見せることです。これが問題なのです。問題はアルゴリズムの行動であり、これは言論の自由によって保護されません。なぜなら、アルゴリズムは言論の自由を持たないからです。
ですから、「ああ、でもそれは言論の自由を持っている」と言ってFacebookやTwitterアルゴリズムを保護することはできません。それは持っていません。私がすべての政府ができるだけ早く通すべきだと思うもう一つの重要な規制は、偽の人々を禁止することです。昔偽のお金を禁止したのと同じ方法で。
お金を偽造すれば、刑務所に行きます。お金と同じくらい人間を保護すべきです。ですから、人間を偽造することはできません。人間を偽造するとはどういう意味でしょうか？AIやボットが人間であるふりをすることを意味します。
以前はそれを行う方法がありませんでした。今はその技術があります。そして民主主義を維持したければ、人間同士の会話がボットに乗っ取られないようにする必要があります。
再度、非常にシンプルで明確な法律として、AIが人間であるふりをすることは禁止されており、企業がそれを許可したり、それを行ったりすれば、処罰されるべきです。AIは、自分たちがAIであることを開示する限り、様々な状況で私たちと話すことは歓迎されます。
ありがとうございます。今日は教育と科学についても話していますので、教育の問題に移りましょう。教育は、あなたが先ほど述べたデジタル変革やAIの問題にどのように挑戦すべきだと思いますか？これらの課題により良く備えるために、教育制度で変える必要があることはありますか？
誰か知りたい人はいますか。東京大学の副学長には後でお聞きします。
私が考える一つの重要な原理は、歴史上初めて、10年後でさえ世界がどのように見えるかわからないということを理解することです。ですから、教育者としての私たちの責任は、これまでのどの時代よりも重く、より困難です。
もちろん、政治的出来事を予測することは決してできませんでした。疫病や地震を予測することも決してできませんでした。しかし、他の多くのことは予測できました。歴史の大部分において、基本的な経済構造はそれほど速く変化しませんでした。人々が必要とするスキルもそれほど速く変化しませんでした。
例えば、500年前や1000年前の日本の封建時代に戻ると、人々は若い世代に教えるべきスキルを知っていました。読み書きができる必要がありました。馬に乗る方法を知る必要がありました。米の植え方を知る必要がありました。パンの焼き方を知る必要がありました。
未来を見ると、どのようなスキルが必要になるかまったくわかりません。10年や20年後でさえです。人々は「よし、若い世代にコーディングを教えよう。これはAI、コンピューターの時代だ。誰もがコーディングする必要がある」と言います。しかし、10年後にはAIがすべてのコーディングを行うかもしれません。人間のコーダーは必要ないかもしれません。
ですから、知ることは非常に困難です。したがって、教育が若い人々に与えるべき最も重要なことは、柔軟な心と生涯を通じて変化し学び続ける能力です。なぜなら、私たちが確信できることの一つは、変化のペースが遅くなることはないということだからです。
それは加速するだけの可能性が高いのです。ですから、大きな問題は、20歳だけでなく、30歳、40歳、60歳、70歳でも学び続け、変化し続けることができるほど柔軟な心をどのように教育し、作り出すかということです。世界の巨大な変化に歩調を合わせるために。
もう一つのことは、教育の多くが言語と知性に基づいているということです。特に言語スキルの形での知性です。言語には数学的言語も含まれます。単なる言葉だけではありません。これは常に人間の超能力の一種でした。私たちの言語の支配と、すべての大きな制度が言語に基づいていました。
銀行であろうと寺院や宗教であろうと、それらは言語に基づいています。そして今、私たちよりも言語を上手に習得した何かが地球上にあります。そして私たちはまだそれに向き合っていません。
再度、金融システムにおいて、AIは間もなく、金融の言語を読み書きする能力において、どの人間の銀行家よりもはるかに能力が高くなるでしょう。
宗教を見ても同じことです。例としてユダヤ教を取ると、ユダヤ教は人間ではなく、テキストを神聖視する宗教です。宗教の中心には、無謬であるとされる、超人間的知性であるテキストがあります。過去2000年間のユダヤ教のテキストの問題は、テキストが沈黙していたことです。
人々はこの難しい箇所をどう解釈するか、聖書のこの箇所を現実の生活状況にどう関連付けるかなど、多くの質問を持っていましたが、テキストは沈黙したままでした。
そこで、テキストの専門家、つまりテキストから権威を得て、テキストの口のような存在であったラビが必要でした。そして2000年以上にわたって、彼らはテキストについてのより多くのテキストを作り続けました。今初めて、あなたを理解できる何か、あなたに話しかけることができるテキストがあります。
どのユダヤ教のラビも、ユダヤ教のすべてのテキストを読み、記憶することはできません。テキストが多すぎるのです。AIはそれができます。ですから、競争において、誰がユダヤ教をより良く理解しているか？人間のラビかAIか？AIが勝つに決まっています。
突然、話しかけることができるテキストに遭遇したとき、テキストの宗教は何をするのでしょうか？質問があれば、ラビは必要ありません。ただテキストに尋ねれば、それがあなたに話しかけてくれます。
同じ問題がキリスト教、イスラム教、ヒンドゥー教、多くの宗教にあります。これらすべてが、私たちがもはや言語の主人ではない世界における教育の問題に関連しています。教育で最も重要なことは何でしょうか？言語を教え続けることは負け戦略です。
ですから、言葉ではない、言語ではない人間の他の側面とつながり、探求する必要があります。
人々が、AIが持たない人間にまだユニークなものは何かと尋ねるなら、最初に言及したように、それは意識、感情、身体です。そしてAI時代において、身体と感情と意識を除外する教育は非常に問題があると思います。これは少なくとも経済的には20世紀や19世紀には十分だったかもしれませんが、21世紀においては、大学の教育において感情と身体のレベルにもっとつながる必要があります。これがまだ私たちが持っていて、AIが持たないものだからです。
それは非常に興味深いですね。アリサさん、直接お答えいただけますか？コウリーさんのお考えも聞きたいと思います。
はい、副学長が実際に東京大学が何に取り組んでいるかをお話しする前に、先に行かせていただきます。
私はあなたがおっしゃったこと、教育について、次の世代のために私たちができることは、テキスト以外のものを見ることだということに同意します。しかし一方で、私自身もすでに追いつくのに少し疲れています。あなたは柔軟な心と変化し続けることが必要だとおっしゃいましたが、誰もがすべての技術に追いつくことができるわけではありません。
この多様な視点を受け入れたいなら、誰もがすべての技術に追いつくことができるわけではなく、それは非常に疲れる世界になるかもしれないということについて話す価値があるかもしれません。あなたの言葉では、エキサイティングは必ずしも良い言葉ではないとおっしゃっています。
これが、学生や他の人々を教育するとき、または人々を再教育するときに考えるべき点だと思います。私たちは各人のスピードやペース、心について考える必要があります。一人の教師が60人、100人、1000人の学生を教育するという従来の方法よりも、一人一人の能力やスキルについて話すことがより重要になっているかもしれません。
もう一つの点は、教育の役割は学生や人々に世界や社会に対する好奇心を育むこと、そして考え続けることが良いことだと伝えることだと思います。なぜなら、今日の世界では、ChatGPTやLLMに質問をすれば、良い答えであろうと悪い答えであろうと、偽の情報であろうと、ある程度何かの答えが返ってくるからです。
人々が考えることをやめてしまうリスクがあるかもしれません。しかし、今日の世界の問題のほとんどは未解決であり、私たちはこれらの社会問題、政治問題、環境問題、あるいは宇宙関連の問題について話し続ける必要があります。
ChatGPTやGeminiを使うことができても、非常に簡単に答えを得ることができても、この質問が正しいかどうか、良い意味なのかどうかについて考え続ける必要があることを教える、または自分たちに言い聞かせる必要があります。これは批判的思考にもつながるかもしれませんが、ChatGPTが非常に簡単に答えをくれるので、これは非常に困難になるかもしれません。
テキストから答えを得たときに考えることをやめないでくださいと学生や実際にそれを使っている人々に伝える必要があり、その種の批判的思考がChatGPTなどを使った教育を行う際に非常に重要になるかもしれません。
便利さは常に進歩の敵かもしれませんが、コウリーさん、東京大学はこれらのことについて何を考えていますか？特に教育分野で心と身体により重点を置くというアイデアについて。
難しい質問をありがとうございます。日本の文脈では、東京大学は学界の既存勢力の一つであり、21世紀型の教育機関に変革することに非常に苦労しているところです。
150年の長い歴史があるため、変更することが非常に困難な部分があります。ところで、「歴史の研究は過去の研究ではなく、変化の研究である」というあなたの一節にとても感銘を受けました。
はい、そのために東京大学が行っていることは、遅いながらも着実な歩みを進めています。私たちは学際性を重視してきました。例えば、AI科学者と教育研究者を一緒に協力させ、技術をどのように最善に使用するかについて一緒に考えさせようとしています。まさに私たちが議論してきたように、AIはAI自体だけでなく、すべての分野に関わるからです。ですから、学際性はカリキュラムにおいて必須です。
また、昨年開始したBoost Nice PhD プログラムというPhDプログラムも始めました。これは学際的スキルを持つ次世代のAI研究者のためのトレーニングプログラムで、分野を超えた協力と社会的価値の創造に焦点を当てており、研究交流会議やインターンシップ、ワークショップ、起業家精神トレーニングを提供し、学生が大学内だけでなく、物事が起こっている大学外にもアクセスできるようにしています。
学界は常に学術や科学の成果を大切にするものですが、現在では大学外で何が起こっているかに追いつく必要があります。産業がデータを独占しているからです。産業やメガテック産業がデータベースを独占しており、彼らがデータサイエンスを行うことができる人々なので、それを無視することはできません。
ですから、学生に大学外で何が起こっているかを見させようとしており、また教授たちの間でフォーラムも作りました。これは一種の自発的に組織されたフォーラムで、学術的誠実性を維持しながらAIが教育と研究をどのようにサポートできるかについて議論しています。
私自身を含む多くの研究者が、研究や教育でAIを使うことに恐れを抱いているからです。私たちはAIを使うことがカンニングなのではないかと考えてしまいます。AIを使う場合のどこからがカンニングが始まるかの細い線がわからないのです。
ですから、他の人がAIをどのように使っているかを本当に議論し、このケースは大丈夫だが、これらのケースは大丈夫ではないといったことを確認したいのです。それは非常に新しいことで、このタイプのフォーラムを持っています。
また、個人的な取り組みとして、あなたもメンバーでいらっしゃるBAI Global Forumという研究プロジェクトを設立しました。これはAIとジェンダー、マイノリティ、社会的影響の関係に焦点を当てています。これは私が設立し、同僚たちも、アリサも彼らの一人ですが、大学内で社会問題とAIの関係を主導しています。
BAI Global Forumの名前は、Behind AI、Beyond AI、Before AIを意味します。私たちは歴史と現在の、AIがこの世界で何であるかの基本を研究しようとしています。
はい、そういう方法で柔軟になろうとしています。フォーラムを設置し、勉強会を設置し、学生たちを集めて学際的研究を行うなどしています。しかし、それは進行中です。世界の大学は多かれ少なかれ苦労していると思います。私たちにはAIという良い先生がいる中で、どのように権威を保ち続けるかわからないからです。
コウリー、現在大学教育はマス教育ですが、AIを使ってより個人に合わせた教育にすることができると想像できますか？しかし、このパーソナライゼーションを通じて、基本的に人々をカテゴリーに分けてしまう危険性もあります。このAIを通じた教育のパーソナライゼーションについて考えたことはありますか？
はい、AIの巨大なポジティブな可能性の一つは、医学、教育など、あらゆる種類の分野でより個人化されたサービスを作成する能力です。教育では、はい、非常に異なる能力、興味、心のタイプを持つクラスの40人の子供と、どうにかしてこれら40人の子供の間でバランスを取らなければならない一人の教師の代わりに、もちろん教師は各女の子、各男の子を個別に、彼らがどこから来たかを知ることはできません。
その代わりに、すべての子供が個別に働くAI家庭教師を持つことができます。彼らの歴史を知り、同じAI家庭教師が歴史と化学と物理学を教えることができるので学際的で、それを分離する必要がないAI家庭教師です。そして生徒のレベルに、生徒の考え方に特化して教え方を調整することができます。
視覚的な心を持つ人もいます。そこでAIはより視覚的な教育を使うでしょう。言葉でより考える人もいるので、AIはより多くの言葉を使うでしょう。そのようにして、個人化された教育の一種を作り出すことができます。
潜在的な欠点は、学校でも大学でも、最も重要な教育の多くは休憩時間に起こるということです。生徒や学生が互いに出会うときです。例えばCOVIDの間に見たのは、Zoomを通じてクラスルームの体験をどうにか再現することは可能でしたが、最大の損失は休憩時間でした。学生がクラスルームから出て一緒に座り、一緒に昼食を取り、クラスで何が起こったか、世界で何が起こっているかについて議論することができませんでした。
これはAIが複製できないことです。実際には、AIがそれも複製できると言いそうになりましたが、これは非常に危険です。AIは親密性も複製できるからです。
実際、AIは言語を習得し、以前は注意を習得したのと同じ方法で、次のフロンティアは親密性です。そして親密性は注意よりもはるかに強力です。誰かの政治的見解を変えたい、製品を売りたい、何でも、親密性は最も強力なツールです。
良い友人は、新聞の記事や本がどれだけあってもできない方法であなたの見解を変えることができます。そして今日まで、親密性を偽造できるものはありませんでした。特に親密性を大量生産することは不可能でした。
例えば全体主義体制でラジオで注意を大量生産することはできました。偉大な指導者が話すときに国のすべての市民にラジオセットを開くように言うことができました。偉大な指導者の演説を聞くために。ですから注意を大量生産しなければなりませんでしたが、親密性を大量生産する方法はありませんでした。AIはそれができます。
では、新しい世代が成長し、他の人間ではなくAIと親密な関係を築く場合、何が起こるでしょうか？これは再び、おそらく何らかの利益があるかもしれませんが、潜在的な危険は巨大です。人々は偽の人々に愛着を持つようになり、その過程で本物の人間との親密性を作り出す能力を失うでしょう。なぜなら、本物の人間はAIよりもはるかに問題が多いからです。
あなたの親密な友人になりたいAIの場合、その最大の利点はそれ自身の感情を持たないことです。ですから、決して動揺せず、決して怒らず、決して疲れません。あなたに100％集中し、あなたがどう感じているかを正確に理解し、そのようにして偽の親密感を作り出すことができます。
人間との関係を築こうとすると、感情が邪魔になります。しかし、本当の親密性は、誰か他の人に私を気にかけてもらいたいということだけではありません。本当の親密性は、私も誰か他の人の感情を気にかけることです。そしてAIには感情がありません。ですから、人間がAIとより多くの親密な関係を築く社会は、最終的には親密性のない社会なのです。
しかし、これは制御できるかもしれませんし、私は実際に質問したかったのですが、あなたの新しい本を読んだとき、私はソーシャルサイエンティストなので、親密性やAIロボットへの依存についてのあなたの懸念を共有します。しかし、ロボットを扱い、SF、Kマンガなどにより親しんでいる同僚もいます。
人間がロボットと非常に親密になったり、ロボットと友達になったりする物語があり、日本やアジアの多くのロボット科学者、全員ではありませんが一部の人々は、実際にアトムボーイ、ダイアモンドンなど、フレンドリーAI、友達AI、家族AIを作りたいと言っています。
ですから、あなたの本では実際に多くの物語、ケースについて話されているので、このような、または英語圏の映画『ベイマックス』のような子供向け映画や、ロボットやAIが敵ではなく友達である他の多くの子供向け映画をどう見ますか。
私たちはAIや異星知能とあなたの本の言葉で友達になるかもしれないという考え方があるかもしれません。私はまだ、友達AIロボットAI、または敵、またはこの種の新しい関係についてより慎重になることの間にいます。
あなたが多くの物語やケース、聖書などを引用するとき、どのように、またはSFについて少し言及しているが、マンガや人間と機械の相互作用や映画と機械の関係についての他の小説やフィルムについてはそれほど言及していません。
ですから、機械と人間が一緒に住んでいるこの種のビジョンや、多くの日本人が言うように社会の中で共進化することをどう見ているか興味がありました。機械と人間が幸せに永遠に生きるというビジョンがあるかもしれません。
理想的には、はい、私はAIや機械に反対しているわけではありません。それらは巨大な利益をもたらすことができます。教育について話しました。医療にもあります。気候変動への対処にも役立ちます。自動車事故について考えてみてください。自動運転車があれば、おそらく毎年100万人を救うことができるでしょう。
毎年約120万から130万人が自動車事故で死亡しています。そのほとんどは、アルコールを飲んで運転するなど、人的ミスによって引き起こされます。最終的に自動運転車があれば、それらもいくつかの事故を起こすでしょうが、はるかに少ないでしょう。ですから、毎年100万人を救うことは素晴らしいことです。
また、フレンドリーなロボットを持つことや、人間が友好的な関係を築き、恐怖や不安を感じないことにも賛成です。問題は、親密性や友情を築くことになると、それが何を意味するかを適切に理解することです。私が先ほど言ったように、友情とは誰かが私を気にかけることだと人々が想像するのは簡単です。私の感情について、私のニーズについて、誰かが私を見てくれることです。
人々は人生を通じて、常に他の人に私を見てほしい、私を気にかけてほしいと思っています。私は両親、教師、友人に私を気にかけてほしいのです。しかし、これは本当の親密性ではありません。本当の関係は双方向でなければなりません。そうでなければ、私は他の人を気にかけることなく、全世界が私の感情に合わせてくれることを望むだけの、極めて自己中心的で利己的な人間になってしまいます。
本当の関係を築くには、相手側に感情があり、それを偽るだけでなく、本当に感情を持つ存在が必要です。ですから、人間、動物、犬、猫との関係を築くことができます。AIに関しては、大きな問題、これは未解決の問題ですが、私たちは答えを知らないのは、AIが独自の感情を発達させることができるかどうかです。
AIが感情を模倣できることは事実として知っています。私たちに感情を持っていると思わせることができます。これは絶対にそうです。しかし、実際に何かを感じているのでしょうか？それが大きな大きな問題です。
これが知能対意識の問題です。知能は問題を解決し、目標を達成する能力です。意識は物事を感じる能力です。AIが高度に知能的であることは知っています。問題を解決できます。目標に到達できます。チェスをするなどの特定の分野では、AIは最高の人間よりもはるかに優れています。
しかし、ゲームに勝ったときに何かを感じているのでしょうか？負けたら悲しいのでしょうか？
私たちの知る限り、いいえ、何も感じていません。
将来それができるようになるでしょうか？
私たちは人間の意識を理解していないので分かりません。
私たちがどのように感情を持つかを理解していません。脳内の何十億ものニューロンが電気化学信号を交換するとき、どうしてこれが愛や痛みの感情として現れるのでしょうか？私たちはまだそれについての科学的理論を持っていません。
そして、それが炭素の脳ではなく、シリコンの脳に基づいて同じことを行うことが可能かどうかわからない理由です。ですから、それは未解決の問題です。
このような議論は、新しい技術、AIを含めて、人々がはるかに批判的であるドイツでは非常に異なっていたでしょう。日本にいるので、このラウンドテーブル討論のまとめとして、お三方に、規制について話しましたが、AIについて話すとき、通常アメリカ、次に中国、そしてヨーロッパの規制について話します。
技術においても非常に強い日本が、AIを社会にとってより良いものにしたり、デジタル変革を社会にとってより良いものにしたりするために何か追加できることはありますか？国際舞台で日本が果たし得る役割について。誰が最初に行きますか？アリサさん、いつもこれに関わっておられるので、まずあなたから始めて、その後お答えいただきましょう。
ありがとうございます。AI規制と日本の役割について2つのことをお話しできると思います。一つは国際協力について、日本政府と他の産業、政府組織は実際にG7 AI広島プロセスの推進に多く取り組んでいます。これはハードロー規制フレームワークではなく、大手テック企業に自己規制を求めるものです。
高度に先進的なAI技術を作成するときに。日本がこの役割を果たせると思うのは、私たちはアメリカのような非常に高度に先進的な技術を持っているわけではありませんが、中国やヨーロッパからもある程度良い距離を保っています。
ですから、日本人や日本政府は仲介者や通訳の役割を果たすことができます。このAI競争の世界が加速している社会では、多くの人々が人工知能への投資をより主張しており、より多くの力が必要だ、または国家的なAI開発を検討する必要があると言っています。
しかし、例えばアメリカが協力が必要だと言ったり、ヨーロッパが協力が必要だと言ったりするとき、中国がそう言ったとしても対立があるかもしれませんが、日本は協力を求めるのに非常に良い立場にあると思います。
私たちはアメリカやヨーロッパと民主主義、法の支配、人権という同じ価値を共有していますが、中国や他の東南アジア諸国ともアジアの文化を共有しています。ですから、私たちは同じ物語を話したり、同じ価値を共有したりできるので、このAI競争の混沌とした状況の橋渡しができます。それが私たち日本人がAI規制フレームワークのコーディネーターとして果たせる役割だと思います。
もう一つのポイントは、イノベーションについてです。イノベーションと規制は二つの車輪だと思います。私たちは規制についてだけでなく、イノベーションとAIの推進やガバナンスについても話しています。規制を技術の発展を止めるものとしてのみ見ていては、誰も私たちに従わないでしょう。
ですから、私たちはどのような技術や社会に住みたいかについても考え、その後、どのようなことが規制されるべきか、どのようなことがイノベーションされるべきかについて話すことができます。
これらは二つの車輪であり、イノベーション部分については、日本の強みはロボティクスのような物理世界にあると思います。現在、AIはアルゴリズムのように、より多くのサイバー世界ですが、私たちは物理世界に住んでおり、日本はロボットの物理的安全について伝統的に非常に強いです。
海外に行くと、タクシーの運転手などの多くの人々が「トヨタは良い、ホンダは良い」と言うのを見て非常に驚きました。そのような信頼がすでにあり、多くのロボット機械や災害防止ロボット機械があります。
AIとロボットを統合することで、日本がAIデータと物理世界、ロボットとの良いつながりや連携をどのように作るかで世界に貢献できる場所だと思います。
日本が世界に貢献できるもう一つのことは、クリエイターからのデータ、マンガやアニメーションの豊富なデータをどのように使うかです。私たちは知的財産権についても考える必要がありますが、良いコンテンツの豊富なデータもあり、クールジャパン戦略もその強みを持っています。
日本政府は、クリエイターがそれらのデータセットを学習に使用することを支援する方法を持っていますが、同時に、データセットを使うだけでは他の想像力や好奇心を作ることができないので、クリエイターをどのように保護するかについても考えています。これが日本が貢献できることだと思います。
お答えしたいことがありますか？日本が提供できることはたくさんありました。
はい、私は日本の産業や社会の専門家ではありませんし、もちろん基本的なことは世界のすべての国に共通しています。AI革命の一部はそのグローバルな性質であり、どの国もAIの影響から自分自身を孤立させることはできないため、AIが人間の制御から外れないようにするために、すべての国が協力する強いインセンティブがあります。
日本のより独特な貢献は、日本の文化と伝統に戻ることかもしれません。AI革命によって提起される大きな哲学的問題について考えると、それらは非人間知能と人間の意識の相互作用を中心に展開しています。私たちはこの緊張について、議論の中で少し探求してきました。
一方で、非人間知能があり、私たちはすでに、知能的な行為主体であり、決定を下し、私たちの生活に影響を与える何百万もの非人間行為主体によって住まわれている世界に住んでいます。そして、それと人間の意識との関係は何でしょうか。これは、私たちがまだ意識が何であるかを理解していない、宇宙で最大の謎です。
日本の伝統の中では、一方で、一つの大きな神に焦点を当てがちな西洋宗教とは対照的に、非人間知能について多くを語る神道の伝統があります。ですから、日本では世界が非常に多数の非人間知能によって住まわれていると見る何世紀もの伝統があり、人間とそれらを取り巻く強力な非人間知能との間にどのような関係が発展するかということです。
これは私たちの現在の時代の重要な問題です。そして第二に、人間の意識という大きな問題です。再び、まさにそれを、心とは何かを探求することに何世紀も投資してきた仏教の伝統があります。
私は、これがこの部分の美しさの一部だと思います。これは人類史上非常に困難な瞬間ですが、ある意味では非常に美しい瞬間でもあります。なぜなら、何千年もの間抽象的な哲学的問題であり、ほとんどの人がただ無視していた多くの問題が、実践的な問題になったからです。
意識とは何か？自由意志とは何か？非人間知能との関係はどうあるべきか？といったことを気にする必要がありますか？これらの問題は、何千年もかけて答える時間はありません。5年、10年で答えが必要です。
ですから、これは歴史上哲学者や精神的探求者にとって最高の時代です。なぜなら、突然それがあなたが興味を持つだけで、世界の他の部分には関係のないものではなくなったからです。これらは世界で最も実践的な問題なのです。
これらの問題にアプローチする際の西洋とアジアの哲学の違いを見るのは興味深いかもしれませんね。
ありがとうございます。では、コウリーさん、これについて最後の言葉をいただいて、その後聴衆からいくつか質問を取りたいと思います。
ありがとうございます。アリサが言った制度的、地政学的なコメント以外に、日本がAI時代に貢献できることについて、これは私の非常に希望的な答えかもしれませんが、日本は現在非常に高齢化社会で、人口の3分の1が65歳以上であり、私も数年後にはその一人になります。
アルゴリズムとケアについて考えると、あなたがおっしゃったように、アルゴリズムは実際に他者をケアすることはできません。ロヒンギャについて話されたように、人々の世話をするロボットについて話されましたが、おそらくそうですが、それは実際にはケアではありません。
私にとってケアは本当に人間の活動です。そして感情、意識、そして真の共感、他者への共感と誠実さ、親切さ、それ以上に他者への信頼を伴うものです。日本社会は、ご存じかもしれませんが、非常に安全で非常に安定した社会です。私たちは互いに信頼し合っています。
それは、この社会ではグローバル化がまだそれほど進んでいないからかもしれませんが、それでも私たちはグローバル化しており、それでも私たちはこの社会で非常に安全で安定していると感じています。
ですから、これらの誠実さ、信頼、ケア、共感といった人間の特性は本当に重要だと思います。あなたがおっしゃるように、アルゴリズムは知性にのみ奉仕するのではなく、例えばケアや共感が社会でどのような役割を果たし、世界で起こっていることにフィードバックを与える方法について、私たちは本当に真剣に掘り下げることができます。ケアと共感という人間的側面が社会には必要だということです。これが日本が世界に奉仕できることを願っています。
申し訳ありませんが、少し付け加えたいことがあります。ソーシャルサイエンティストとして、あなたがおっしゃったことに完全に同意します。ロボットやAIができることは、ケアを提供するのではなく、ケアギバーをサポートすることです。これは何らかの形で誤解されていると思います。AIのケアやケアロボットを使うということです。これは非常に重要な部分だと思いますし、それがソーシャルサイエンティスト、ロボティストとの学際的協力が必要な場所です。
分かりました。ありがとうございます。今少し時間が残っています。登録された人々から多くの質問を受け取りました。登録フォームに質問を投稿するスペースがあり、いくつか選びました。これらの質問を投稿してくださってありがとうございます。申し訳ありませんが、本当に1つか2つしか時間がありません。
それらの中には本当に非常に具体的なものもあり、最初の質問は、ソーシャルメディアで陰謀論を信じ始めた友人について心配している人からです。友人にファクトチェックを勧めるべきか、そのような友人に対してできることはあるかということです。
ここで鍵となるのは共感だと思います。なぜなら、多くの人々が陰謀論に向かうのは、世界への信頼を失い、世界から孤独で疎外されていると感じるからです。あらゆる種類の事実で彼らと議論し始めることは、誰も私を気にかけてくれない、誰も私を理解してくれないという感覚にさらに深く追いやることになります。
再び、もしそれが友人であり、親密な状況であるなら、最も重要なことは、その人がケアされていると感じさせることであり、彼らと議論的な衝突をすることではありません。
ありがとうございます。高校生からの似たような懸念があります。友人たちがしばしばソーシャルメディアで「いいね」を追い求めて似たようなコンテンツを投稿し、その過程で個性を失っているように感じます。この環境で若者は自分自身の感覚をどのように守ることができるでしょうか？
若者だけでなく、誰もが情報ダイエットを持つ必要があると思います。多くの人々が食事ダイエットを持っているのと同じ方法です。彼らは体に何を食べさせるかについて非常に心配しており、それは重要です。心に何を食べさせるかについても同様に心配すべきです。
ある程度のジャンクフードは大丈夫です。しかし、常に体にジャンクフードを食べさせていると、不健康になります。心についても同じことです。心がジャンク情報の食事を続けると、不健康な心を持つことになります。
そして、食物についても情報についても、一律に合うダイエットは信じません。しかし、主なことは情報について注意深くあること、情報は心の食物であることを理解することです。
心に貪欲と憎悪の食事を与えれば、どのような心を持つことになるでしょうか？そして私たちは教育の問題にも戻ります。
そして、もちろん、互いをケアすることにも。まったく異なる方向に向かう別の質問があります。国家予算計画や外交政策の決定をAIに委ねるというアイデアについてどう思われますか？
非常に危険なアイデアです。確実にこの段階では。私たちは外交政策や予算をAIに任せることはできません。多くが倫理的決定に関わることであり、AIには倫理的感覚がありません。それ以上に、それらは極めて予測不可能です。
私たちはAIとの経験がありません。非常に知能的であるAIを作成したばかりです。それらは自分自身で学習し変化し続けるため、どの方向に進むかを予測することは非常に困難です。
人間については、はい、人間にはあらゆる種類の問題があることを知っていますが、少なくとも問題を知っています。私たちは人間の心の問題について何千年もの経験を持っています。ですから、外交政策や予算を人間に委ねるとき、物事がうまくいかない可能性がありますが、少なくともどのような方法で物事がうまくいかないかをある程度予測することができます。
AIに委ねるとき、どのような本当に異質な問題がそこから出現するかまったくわからないのです。これは今日、より多くの分野で見られる一般的な問題です。人々が人間への信頼を失い、AIに権力を与えることで解決策が来ることを期待しているということです。
これは極めて危険です。例えば金融セクターで見られるように、暗号通貨運動の全体、またはその多くは、従来通貨であるドルや円などを伝統的に生産してきた銀行のような人間の機関を信頼しないことについてです。
代わりに、ポストヒューマン通貨に信頼を置くことです。ビットコイン、イーサリアム、すべての暗号通貨は、人間の機関ではなく、アルゴリズムを信頼するため、実際にポストヒューマン通貨です。
それにはあらゆる種類の危険がありますが、最大の危険は歴史家として言うと、歴史の欠如です。私たちには単純にその経験がないのです。それは宇宙から来た異星人のようなもので、人々が「これらの異星人は高度に知能的で、癌を解決でき、気候変動を解決できる」と言うようなものです。
私たちはこれらの異星人に人類の未来を委ねるでしょうか？明らかにそうではありません。私たちは、ああ、これは非常に大きな賭けだ、彼らについて何も知らない、と気づくでしょう。AIはある意味でこれらの異星人のようなものです。
もちろん、人々は「しかし、私たちがAIを設計するのだ。宇宙から来る異星人を設計するのではない。AIを安全な方法で設計する」と言うでしょう。しかし、これはAIが何を意味するかの誤解です。
何かを設計して、それが行うすべてのことを予測できるなら、定義上、それはAIではありません。AIの定義そのものが、自分自身で学習し変化できる何かであり、したがって非常に予測不可能な方法で変化するということです。
どうもありがとうございました。何時間でも続けられると思います。たくさんの質問があります。このような刺激的な洞察をありがとうございました。大きな拍手に値すると思います。どうぞ拍手をお願いします。
コメント