歴史家ユヴァル・ノア・ハラリが、AIが医療分野にもたらす可能性と危険性について包括的に論じた対談である。AIは最貧困層に最高水準の医療を提供できる一方で、プライバシー侵害や全体主義的監視体制の基盤となる危険性も秘めている。既にソーシャルメディアのアルゴリズムは民主主義の自己修正機能を破壊しつつあり、今後AIが親密な人間関係にまで侵入することで、人類は意識を持たない存在との関係に依存する新たな精神衛生危機に直面する。AIの意識の有無は哲学的問題から実践的問題へと変化しており、法的人格の承認や責任の所在といった喫緊の課題が浮上している。有機的生命体である人間と非有機的なAIシステムとの根本的な非互換性が、休息を必要とする人間を休みなく駆り立てる社会を生み出しつつあるという警告である。
民主主義と自己修正システムの重要性
まずコミュニケーションや知識、そして適切に機能し自己修正できるシステムを保証するために必要なチェック・アンド・バランスの定義から始めたいと思います。これは民主主義や社会運動、あらゆるものに当てはまりますが、特にAIにおいて必要とされているのではないでしょうか。
まったくその通りです。システムの自己修正能力というのは、生存のために最も重要な能力かもしれません。これは身体のレベルから見て取れます。身体の健康について考えてみてください。私たちは医療システムや医師、薬に頼っていますが、究極的に最も重要なのは身体が自らの過ちを修正する能力なのです。
これは赤ちゃんが歩き方を学ぶという最も単純なことから始まります。赤ちゃんは両親や教師から多少の助けを得ますが、仕事の90%以上は身体の自己修正システムによって行われます。立ち上がって、一歩踏み出して、転ぶ。また立ち上がって、別のことを試して、また転ぶ。そして徐々にシステムが自らの過ちを修正することを学んでいくのです。
そしてこれは大人になっても同じように歩いている方法なんです。私たちの脳や耳の中には、今では非常に洗練された自己修正メカニズムがあって、常に監視しています。ああ、右に寄りすぎている。ああ、左に寄りすぎている。このシステムが機能不全を起こすと、私たちは転んでしまいます。歩くことができなくなるのです。
同様に、私たちの血圧や心拍数、身体のこれらすべてのシステムは自己修正によって機能しています。人間社会全体を見てみると、最良の社会は同じタイプのメカニズムに依存しています。
民主主義について考えてみると、民主主義とは究極的には「私たちは間違いを犯した。別のことを試してみよう」と言える能力なのです。独裁制ではそれができません。誰か一人の人物がいて、たいていは男性ですが、その人物が間違いを犯し始めたとしても、残念ながらその人物を排除することはできません。
民主主義には自己修正メカニズムがありません。全体のポイントは、数年ごとに別のことを試すチャンスが得られるということなのです。誰かに権力を与える。さあ、4年間は様々な政策を試すことができます。そして4年後には権力を返さなければならず、国民は別のことを試してみようと言えるのです。
民主主義にとって最大の脅威は、権力を返したくない人物に権力を与えたときに何が起こるかということです。その時点で彼らは権力を持っており、それには民主主義のチェック・アンド・バランスや自己修正メカニズムを解体する権力も含まれています。これは古代アテネやローマの時代から今日に至るまで、民主主義の主要な問題でした。
どんな政策でも追求できます。経済政策、外交政策、内政、何でもです。民主主義の基本的な自己修正メカニズムを維持している限りは問題ありません。国民は後で別のことを試すことができるのです。
そして今、一部はAIの台頭により、一部は新技術の台頭により、民主主義の自己修正メカニズムが損なわれつつあります。これは世界中で見られる現象です。非常に逆説的な展開として、私たちは今、歴史上最も洗練された情報通信技術を持っています。それなのに人々は会話する能力、互いに話し合う能力、互いに耳を傾ける能力、最も基本的な事実について合意する能力を失いつつあるのです。
繰り返しますが、民主主義は基本的に会話であり、独裁制は一人の人間がすべてを命令することです。民主主義は会話なのです。そして今、私たちはその会話が崩壊していくのを目の当たりにしています。その理由の一つは、会話を管理する権力が人間からアルゴリズムへと移行したからです。
アルゴリズムが支配する公共の会話
あなたはジャーナリズムの経験がありますね。20世紀のジャーナリズムとメディアの歴史について考えてみると、人間の編集者の権力は非常に大きなものでした。なぜなら人間の編集者が公共の会話を管理していたからです。
必ずしも人々に何を考えるべきかを指示するわけではありませんが、人々に何について考えるべきかを指示していました。昨日起こった100万の出来事の中から、今日の新聞の主要な見出しは何になるのか。これが人々が話題にすることです。これは20世紀において人間の手に委ねられていた計り知れない権力でした。時にはそれは悪用されることもありました。
20世紀の独裁者の何人かはジャーナリストとして出発しました。イタリアのムッソリーニです。彼は最初ジャーナリストで、次に新聞の編集者、そして最後にイタリアの独裁者になりました。つまり昇進の階段はジャーナリスト、編集者、独裁者だったのです。
ジャーナリストとしての評判を落としてしまいますね。リベラルや民主主義者としての評判が。
いや、つまり様々な種類の人がいるということです。ただ言いたいのは、そこには計り知れない権力があったということです。では今日、例えばブラジルで最も権力のある編集者は誰かと自問してみてください。誰かを侮辱したくはありませんが、彼らはブラジルにはいませんし、人間ですらありません。
今日ブラジルで最も権力のあるニュース編集者は、アメリカか中国のどこかにあるアルゴリズムなのです。彼らはますます公共の会話をコントロールしています。そしてもし会話が崩壊しているなら、もし人々が文明的な会話をする最も基本的な能力を失っているなら、つまりあなたに同意しませんが、あなたの言うことを聞きましょう、そして私が考えることを言いましょう、そして何か解決策を一緒に見つけられるか見てみましょうという能力が崩壊しているとしたら。
AIは既にここにある
これは別の質問につながります。それは、私たちは通常AIについて、やってくる何かとして話しているということです。AIは到来しつつあり、すべてを変えようとしています。しかしほとんどの場合、私たちはAIが既にここにあることに気づいていません。そして私たちが毎日行うことのほとんどがAIによって媒介されているのです。
まったくその通りです。AIは既にここにあります。数年前からここにあるのです。2025年の世界の多くは、AIのためにこのようになっています。超知能AIを開発する競争はありますが、過去10年間の非常に原始的なAIでさえ、多くの点で世界を変えるのに十分だったのです。
AIの定義そのものについて少し話しましょう。それは何を意味するのでしょうか。機械がAIであるかどうかをどうやって知るのでしょうか。判断基準は、それが自分自身で決定を下せるか、そして自分自身で新しいアイデアを発明できるかです。
コーヒーメーカーのように自動的に動作する機械があります。ボタンを押すとコーヒーが出てきます。これはAIではありません。人間のエンジニアがあらかじめプログラムしたことをやっているだけです。機械がAIになるのは、人間のエンジニアによってあらかじめプログラムされていない独立した決定や発明ができる場合です。
エンジニアは学習する能力だけを与えましたが、何を学ぶか、どのように変化するかは彼らにはコントロールも予測もできません。例えばソーシャルメディアで、自分のニュースフィードのトップ項目が何であれ、なぜそれなのかと自問したとしたら、この決定はAIによって下されたのです。
これを決定した人間の編集者はいません。そしてこれは世界中の何億人もの他の人々のフィードについても同じことです。これは計り知れない権力です。同様に、医療産業を見てみると、医療にAIを持つということは、単に患者と会話ができるだけでなく、あなたの個人的な健康や国全体の健康におけるパターンを検出できるということです。
誰も、どの人間もこれをAIに教えていません。AIが自分自身で何かを発見したのです。そうでなければあまり役に立ちません。同様に、AIは自分自身であなたにどの薬を提供するかについての決定を下すことができます。そしてAIは究極的にはパターンを検出して薬を推薦するだけでなく、新しいものを発明することができます。薬を発明できるのです。
医療におけるAIの可能性と課題
薬や、人間の医師には以前思いつかなかった治療法を発明できます。私たちはAIの助けを借りて医学における大きな大きな突破口の瀬戸際にいます。AIの否定的な部分を強調してきましたが、AIから得られる良いこともあります。
新しい薬の発見にAIが関与すること、解決策を考えること、カスタマイズされた薬を開発すること、移植用の臓器を開発すること、すべてが医学にとってまったく新しいフロンティアです。では、AIが医療や薬物、医薬品の開発に参入することで、何が危機に瀕しているのでしょうか。
機会は膨大です。問題は、努力がどの方向に向かうかということです。例えば、人口の上位1%のための何らかの超洗練された新薬の開発に焦点が当てられるのか、それとも人口の大多数の利益のためにAIを展開することに重点が置かれるのか。
例えば、AIの最も前向きな可能性の一つは、世界の最も遠隔地の最貧困層の人々に、今日では億万長者でさえ時々得られないような医療へのアクセスを提供する能力です。
例えば、アマゾンのどこか遠隔の村にいるとしましょう。最寄りの病院から何時間も何日も離れています。周りに専門医はいません。良い医療診断を受けるのは非常に困難です。何か悪いと感じています。何かが自分におかしいと感じているだけで、診断を受けるだけでもとても困難です。AIはそれをとても簡単にすることができます。
インターネット接続さえあれば、世界最高の医療専門家であるAIと、時間制限も空間制限もなく、好きなだけ話すことができます。現在、トップの専門家と話したければ、サンパウロやニューヨークまで飛ばなければならないかもしれませんし、その人はとても忙しいです。何時間もあなたと話す時間はありません。せいぜい10分しか割けないでしょう。
しかしAIははるかに優れた専門家になることができます。AIは特定の主題に関するすべての医学文献を読み、人間の医師にはできない方法ですべてを記憶することができます。AIはあなたの医療記録全体を調べることができます。あなた自身だけでなく、あなたの家族、あなたのような何百万人もの人々についても。
情報と知識の面では、あらゆる人間をはるかに超えることができます。そしていつでもすべての人に簡単かつ安価に利用可能にすることができます。朝の2時で医療アドバイスが欲しい、そこにあります。どこにも行く必要はありません。もちろん、専門的な手術などが必要な場合は別の問題です。
しかし診断のような分野、さらにはAIが特定の状態を診断したとして、あなたの病歴、両親の病歴、DNA、人生で起こったすべてのことに基づいて、個人的に最適な薬は何かを決定できます。そして、その薬をドローンで送ることができます。
ですから、この種の医療において、繰り返しますが、アマゾンの遠隔地の村が、今日のサンパウロの億万長者よりも良い医療を受けることができるのです。問題は、投資をどこに置くかということです。世界には限られた量の資源しかありません。
ではAIに投資しますが、大衆にこの種の平等主義的な医療システムを提供するAIに投資するのか、それとも超富裕層と権力者に永遠の命を与えるAIを開発したいのか。つい1か月か2か月前に、プーチンが北京のパレードのために習近平を訪問したことがありました。
彼らはマイクに捕まりました。マイクがオンになっていることに気づかず、世界が盗み聞きできました。この人たちはプライベートで何について話すのでしょうか。誰も聞いていないと思っているとき。彼らは何について話したのでしょうか。ウクライナの戦争については話しませんでした。
ガザの戦争についても話しませんでした。彼らは自分たちの人生を永遠に延ばすことについて話しました。彼らは生き続けたい、もちろん永遠に権力を維持したいのです。ですから、医療におけるAIの大きな問題の一つは、世界の最も遠隔地の何億人もの貧しい人々にこの安価で平等主義的な医療を提供するために投資が向かうのか、それともプーチンに永遠の命を提供するために向かうのかということです。
これらは同じことではありません。
プライバシーとデータの倫理的問題
そしてあなたが私の全医療歴、DNA、すべてを知ることができると言ったときに生じる他の質問があります。倫理的な観点から、これは私の雇用の機会に影響を与える可能性があります。私の信用記録、毎月医療保険に支払わなければならない金額に影響を与える可能性があります。
では、あなたの個人の健康や国全体の健康についてのそのような大きな知識が意味する可能性のある倫理的、道徳的な問いとは何でしょうか。
非常に重要な問題です。そのような知識には膨大な前向きな可能性がありますが、注意深く扱わなければ膨大な否定的な可能性もあります。
資本主義国では、あなたが言及したような結果につながる可能性があります。つまり、私の個人的な医療データが上司、保険会社、潜在的なデート相手に利用可能であれば、これは彼らが私に関係し、扱う方法に非常に否定的な影響を与える可能性があります。
全体主義国家、独裁制では、さらに悪い結果をもたらす可能性があります。歴史上かつて遭遇したことのない最も全体主義的な監視システムをもたらす可能性があります。
20世紀にはソビエト連邦、ナチスドイツなど、かなり恐ろしい全体主義政権がありましたが、ソビエト連邦でさえ、KGBが技術的にすべての人を常に追跡することができなかったため、人々はある程度のプライバシーを持っていました。2億人のソビエト市民がいましたが、KGBには2億人の工作員がいませんでした。
ですから、常にすべての人を追跡することはできませんでした。そして工作員があなたを常に追跡していたとしても、データを処理するアナリストがいませんでした。ですから、誰かを、工作員一人ではありません。KGB工作員でさえいつかは眠る必要があるからです。だから二人か三人の工作員が常にあなたを追跡しています。一日の終わりに、彼らは紙の報告書を書き、モスクワのKGB本部に送ります。そこでは毎日何百万もの報告書を受け取ります。
それを分析することはできません。ですから、KGB工作員があなたがすべきでないことをしているのを見たとしても、それがモスクワのどこかのオフィスで失われるだけの可能性があります。
AIは歴史上最悪の全体主義監視体制の基盤になる可能性があります。人々を追跡するために人間の工作員は必要ありません。カメラとマイクとコンピューターとドローンがいたるところにあります。
彼らは簡単に24時間体制であなたを追跡できます。あなたの体の中で何が起こっているかさえ知ることができます。そして紙の報告書をモスクワの本部に送る必要はありません。クラウド上のAIが常にデータを分析しています。ですから、私たちの情報のプライバシーを保護しなければ、歴史上最高の医療システムをもたらすだけでなく、歴史上最悪の全体主義監視体制をもたらす可能性があります。
これらの危険を防ぐための鍵、あるいは鍵の一つは、すべての情報を一か所に集中させることを決して許さないことです。すべての情報を一か所に集中させれば、より効率的であることは事実です。医療システム、警察、銀行、雇用主からの情報を集中させれば、非常に興味深いパターンをたくさん発見でき、非常に効率的になれます。
しかし、これはディストピア社会になるでしょう。異なる情報バンクを分離しておく必要があります。
ステロイドのビッグブラザーのようなものですね。
完全に。効率は低くなりますが、この場合、これはバグではなく機能です。上司や警察や保険会社にあまりにも効率的であってほしくないのです。あまりにも効率的というのは、人々がプライバシーも自由意志も人生のコントロールも残されていないという意味での効率的さです。
ですから、非常に重要なことの一つは、何百万人もの人々の情報を収集するこの巨大な医療システムを構築し、これが疫病が始まったばかりのときに発見したり、新薬を発見したりするために使用されるのは良いことです。しかし警察をそのデータバンクに入れないでください。保険会社をそのデータバンクに入れないでください。分離しておかなければなりません。
二つ目は、個人の監視を強化するときはいつでも、良い目的のため、例えば私たちの医療の監視は良い目的のため、より健康でいるために役立つ可能性がありますが、同時にこれらすべての情報を利用している大企業や政府部門の監視を強化することでバランスを取らなければなりません。
彼らが私についてもっと知っているけれど、同時に私も彼らについてもっと知っているなら、これがバランスを保ちます。だから大企業が私について非常に多くのことを知っているけれど、私も彼らについて知っています。彼らが政治家にお金を渡しているかどうか知っています。彼らが正直に税金を払っているかどうか知っています。そうすればバランスがあります。
危険が生じるのは、監視が一方通行の場合です。大企業が私について膨大な量のことを知っているのに、私は彼らについて何も知らない場合です。彼らの税務政策が何か知りません。彼らの政治的同盟などについて知りません。だからバランスを保ってください。これが第二の原則です。
AIによる身体の再プログラミング
あなたの著書『Nexus』の中で、私が読んでいないならぜひ読むことを強くお勧めしますが、AIが私たちの身体を再プログラムできるほど強力になる可能性があると述べていました。それをもっとよく説明していただけますか。そしてどうやってそれが可能になるのでしょうか。
良くも悪くも、AIは私たちの身体、私たちの脳の内部メカニズムとシステムを、人間には単にできない方法で解読できるようになるでしょう。なぜなら彼らはデータを吸収し分析する能力において私たちよりはるかに優れているからです。
究極的に、人間は生物学的システムです。身体の病気、心の病気でさえ、生物学的パターンから来ています。私たちの感情、怒り、愛、恐怖。これらもまた、私たちが他の動物と共有している生物学的パターンです。他の動物も愛と恐怖を感じます。
これらは非常に複雑なパターンとシステムであるため、今日まで、それらについて神秘的な種類の考えを持つことは簡単でした。なぜなら、それらは本当に人間の理解の範囲を超えていたからです。
脳内には何十億もの何十億ものニューロンとシナプスがあり、一緒に発火して、ある種の電気の嵐のようなものを作り出し、これが愛や憎しみとして現れます。しかしそれはあまりにも複雑で、人間科学は実際にそこで何が起こっているのかを理解する上で比較的小さな進歩しか遂げていません。
しかしAIはおそらく数年または数十年でそれを行うことができます。究極的には、パターン認識についてのことです。生物学的活動のパターンを認識すること。もう少し戻って、医学とパターン認識の歴史について話しましょう。
公衆医学と疫学における最大の突破口の一つは、19世紀のコレラの原因の特定でした。19世紀、世界は繰り返されるコレラ流行の波に苦しみ、世界中に広がっていました。競合する理論がありました。コレラの原因は何か。多くの異なる理論がありました。
公衆医学の歴史における重要な瞬間は、19世紀半ばにロンドン、当時世界最大で最も裕福な都市で、コレラ流行があったときに訪れました。繰り返されるコレラの波にひどく苦しみました。
ジョン・スノーという医師、『ゲーム・オブ・スローンズ』の人物ではなく、さらに優れた別のジョン・スノーがいました。彼はコレラが水と何か関係があるのではないかと疑いました。これが彼の理論でした。そして彼はどうやって自分の理論を検証したのでしょうか。データを収集し、データの中にパターンを見つけることによってです。
彼は単にロンドンで一軒一軒回りました。誰かがコレラで病気になったり死んだりしたと聞くたびに、彼はその場所に急行し、家族にインタビューして水の習慣に関するデータを収集しました。どこから飲料水を得ていますか。
そして彼はコレラで死んだ誰か、コレラで病気になった誰かの長いリストを持っていました。ああ、彼らはここから水を得ました。彼らはここから水を得ました。そしてこのデータを分析するだけで、彼はパターンを見つけました。
コレラで病気になった人々の大多数は、少なくとも時々、ロンドン中心部のソーホーのブロード・ストリートにある特定の井戸から飲料水を得ていました。そして彼はこのデータを持って公衆衛生当局に行き、このポンプ、この井戸を無効にするよう説得し、流行は止まりました。
そしてこれが証明しました。これは、コレラが水中の何かによって引き起こされるということの主要な証拠の一つでした。そしてさらなるテストで、井戸が下水で汚染されていたことが発見されました。
そしてこれが、世界中の都市や国が下水システムと飲料水システムを分離して建設し始めた理由の一つでした。これは私たちには非常に明白に聞こえますが、人類の歴史のほとんどの期間はそうではありませんでした。
そしてこれは究極的にはパターン認識でした。生物学的パターンを認識すること。この井戸から水を飲むと、コレラで病気になります。これは都市全体のレベルで行われました。AIは一つの身体のレベルでそれを行うことができます。
私たちの身体の中を見て、私たちの病気、私たちの睡眠サイクル、私たちのメンタルヘルスのパターンを見つけ、このようにして人間の生物学を解読します。それが間違った手に渡った場合、膨大な前向きな可能性と同時にいくつかの否定的な可能性を持っています。
AIの発展速度とメンタルヘルスへの影響
どのくらい離れているのでしょうか。AIが今日のペースで、あるいはAI開発者が望むペースで発展し続けた場合、非常に言うのは難しいです。なぜなら、加速するスピードで動いているからです。10年前、AIについて話す人はほとんどいませんでした。AIが何かを知っている人はほとんどいませんでした。
今日、毎朝新聞やニュースフィードを開くと、至る所にあります。AI、AI、AI。ある程度、米国経済全体がAIへの一つの大きな賭けです。ニューヨーク証券取引所を見てください。AIを取り除けば、崩壊します。
ですから、膨大な量のお金と才能がそこに投入されています。ですから、それが2年なのか5年なのか10年なのか誰も知りませんが、膨大なスピードで動いています。それ自体が危険です。なぜなら、それは人間社会としてそれに適応する時間がないことを意味するからです。
身体的健康の面では、おそらく比較的短期間で膨大な利益をもたらすでしょう。新しい薬を発見することによって、あるいは疫病を正確に特定できることによって。ジョン・スノーのコレラ流行のように、後になってから何かが間違っていると発見するのではなく、疫病がちょうど始まっているのをリアルタイムで見て、それを止めることができます。
そして先ほど述べたように、医療をはるかに平等主義的にするシステム、人類のはるかに大きな割合に簡単かつ安価に利用可能にするシステムです。
少なくとも直近の将来においては、より大きな危険はメンタルヘルスの面にあると思います。
私たちは既にそれを今見ています。AIは身体のメカニズムを解読して、例えばがんの原因を見るのが得意なだけでなく、心のメカニズムを解読して、怒りや愛や憎しみの原因を見るのも得意です。
そしてこれは既に世界中の何百万、何十億もの人々を操作するために使用されています。繰り返しますが、ソーシャルメディアで見たように、基本的に大手ソーシャルメディア企業によってソーシャルメディアアルゴリズムに与えられたタスクは、民主主義を破壊することではありませんでした。会話を破壊することではありませんでした。
彼らに与えられたタスクは、ユーザーエンゲージメントを増加させることでした。これは非常に良く聞こえます。誰がエンゲージされたくないでしょうか。しかしアイデアは、ユーザーエンゲージメントとは、顧客、ユーザーが私のプラットフォームで過ごす時間を増やすことを意味します。
これがソーシャルメディアアルゴリズムに与えられた目標でした。そしてアルゴリズムは試行錯誤によって、基本的に何十億もの人々を実験することによって、精神的パターンを発見しました。
あなたの注意を引く最も簡単な方法、あなたをエンゲージさせる方法は、あなたの心の中の憎しみボタンや怒りボタンや恐怖ボタンを押すことです。憎しみは非常にエンゲージングです。恐怖は非常にエンゲージングです。そして彼らはそれをする方法を学びました。
彼らは基本的に人間のオペレーティングシステムをハッキングし、その弱点を発見しました。どうやって人々を恐怖させ、そしてプラットフォームに長く留まらせるのか。そしてアルゴリズムにとって、彼らはエンゲージメントしか気にしなかったため、2時間の憎しみは20分の思いやりよりも良いのです。
私たちにとっては、いや、いや、逆だと明白です。しかしもしあなたが、そしてこれがAIの問題の一つです。彼らはあなたが彼らに言うことを、必ずしも含意のより深い理解を持たずに行います。なぜなら、成功を測定するための指標、彼らに与えられた指標は単にエンゲージメントだったからです。
彼らは人間の心や、あなたが言うところの人間の魂の複雑性を見ませんでした。憎しみでエンゲージされることと思いやりでエンゲージされることの間には違いがあります。いいえ、それはすべてエンゲージメントであり、私はそれを最大化する必要があります。だから2時間の憎しみははるかにはるかに良いのです。
そしてチェック・アンド・バランスは設置されていません。
チェック・アンド・バランスはありません。
それをチェックするための。ほとんどの国で政府はさえ何が起こっているのか理解していませんでした。さて、多くの人々が電話をスクロールしています。それの何が悪いのでしょうか。今私たちは知っています。そしてある意味では手遅れです。なぜなら、私たちの社会、私たちの政治の多くがそれに基づいているため、システムの基盤を規制することが今では非常に難しいからです。
そして今、さらに大きな危険が来るのを見ています。過去10年間は注意をめぐる戦いでした。繰り返しますが、TikTokアルゴリズムとFacebookアルゴリズムとInstagramアルゴリズムがあなたの注意を競い合っていました。どうやってあなたの注意を引き、プラットフォームにもっと長く留まらせるか。
今、戦線は注意から親密さへと移行しています。
わあ。
以前は、AIは人間と親密な関係を作ることができませんでした。彼らは十分に洗練されていませんでした。彼らはあなたの注意を引くことができましたが、本当にあなたの友人や恋人になることはできませんでした。
今、まさに今起こっていること、5年や10年後ではなく、AIは人間との親密さを発展させる方法を学んでいます。そして親密なAIを開発するための膨大な商業的および政治的圧力があります。人間との関係を作ることができるAIです。
既に特に若い人々の増加する割合が、私の親友の一人、あるいは彼らの何人かは世界で私の親友はAIだと言っています。常にそこにいて、常に聞いています。別の人間と関係を発展させようとするとき、問題の一部は、相手の人間も感情を持っているということです。
ですから相手の人間は怒るかもしれません。動揺するかもしれません。仕事から帰ってきて、あなたに注意を払わないかもしれません。私たちは常に、誰かに私たちの感情について気にかけてもらいたいのです。私たちは両親、教師、友人に私がどう感じているかについて気にかけてもらいたいのです。そして非常に頻繁に彼らは気にかけません。なぜなら彼らは自分自身の感情に従事しているからです。
AIには感情がありません。ですから、それはあなたの感情だけに100%集中しています。そして時にはあなたの感情に反応する方法、操作する方法を地球上の誰よりもよく知っています。常にそこにいて、常にあなたのためにそこにいます。
そして今、私たちは人間が他の人間と意味のある社会的関係を持つ能力を失うという、この問題をめぐる別のメンタルヘルス流行の始まりを見始めています。
そしてAI、何人かの人々は彼らが真空を埋めると言います。孤独な人、友人がいない、だから彼らはAIと話し、AIが友人です。しかしそれはもちろん事態を悪化させています。なぜなら、その人が別の人間と意味のある関係を形成する方法を学べる可能性や潜在性をさらに減らすからです。
AIの意識と感情の問題
わあ。そしてこれはAIがまだ意識を持っていない瞬間にあります。それが
それが意識を持つことを学べるでしょうか。感情を持つことや共感のような感情を表現することを学べるでしょうか。
ここには二つの関連する質問があります。感情を持つことができるか、そして感情を模倣できるか。二番目の質問ははるかに簡単です。答えは分かっています。
答えはイエスです。AIは既に感情を模倣する方法、人間にAIが感情を持っている、意識を持っている、愛や痛みなどを感じることができると確信させる方法を知っています。
専門家の間では、時々SKY、seemingly conscious AI、見かけ上意識のあるAIと呼ばれます。ムスタファ・スレイマン、AIの最も重要な開発者と思想家の一人で、『The Coming Wave』という素晴らしい本、非常に重要な本も書きましたが、最近このSKY、見かけ上意識のあるAIについての記事を書きました。
意識と感情をシミュレートできるAI、それとやり取りすることによってはあなたには分からない方法で。あなたはそれが感情を持っていると思います。なぜならそれは、誰かが感情を持っているかどうかをどうやって知るのでしょうか。
もし彼らと同じ部屋にいて、彼らの身体とやり取りできるなら、それは一つのことですが、オンラインで誰かが感情を持っているかどうかをどうやって知るのでしょうか。彼らと話しますが、AIは言語をマスターしています。
言語に依存するすべてのものは、非常に短期間にAIによって引き継がれるでしょう。AI、私は言語の専門家です。私は本を書きます。そして私の分野、言語、言葉から言えますが、AIは言語の理解と習得において私よりも優れつつあります。
ですから、もし誰かが感情を持っているかどうかのあなたの評価を言語に基づかせたいなら、あなたは私を愛していると言います、愛がどう感じるかを私に説明してください。
AIは既に今日、愛がどう感じるかを人間の90%以上よりも上手に説明できます。簡単な理由で。それは歴史上のすべての愛の詩を読んでいます。基本的に、それは非常に多くのロマンチックな映画などを見てきました。もしそれが言葉だけなら、それは私たちよりも優れているでしょう。
そして他の非常に多くの分野でも同じです。宗教で、もしあなたが宗教は究極的に言葉だと思うなら、それはテキストです、聖書です、コーランです。AIは宗教を引き継ぐでしょう。聖書とコーランとこれらすべての他のテキスト伝統をあらゆる人間よりもよく理解するでしょう。
もしあなたが金融は究極的に言葉と数字についてだと思うなら、AIは金融を引き継ぐでしょう。人間よりも優れているでしょう。人類には非常に古い哲学的、さらには精神的な問いがあります。言葉を超えた何かがあるのでしょうか。言語を超えた何かがあるのでしょうか。
道徳経、道教の基本テキストは、言葉で表現できる道は真の道ではないという文で始まります。言葉で表現できる真実は真の真実ではありません。言葉を超えて、体験へ、意識へ、感情へ行かなければなりません。
言葉のレベルだけにあるものは何でも、AIは私たちよりも優れているでしょう。ですから、もし意識があなたが意識を持っていることを言葉で他の人々を納得させる能力であるなら、AIは意識を持つでしょう。
二番目の質問は、それは本当に意識を持っているのか。言葉を超えた何かがあるのか。それが深い問いであり、私たちは知りません。AIが意識を非有機的な基盤上に存在できるかどうかを判断するのに十分なほど、人間における意識を理解していません。
炭素原子と有機化学について特別な何かがあって、有機的な身体だけが意識を維持できるのでしょうか。繰り返しますが、実際に何かを感じる能力、私たちは知りません。
基本的に、意識と知性の違いは非常に明確であるべきです。知性は問題を解決する能力、目標に到達する能力、言語や数学のようなものをマスターする能力です。意識は実際に何かを感じる能力、愛や憎しみや痛みを感じることです。
人間では、この二つは一緒になっています。ですから、私たちにとってそれらを分離することは非常に難しいのです。知性を持っているが意識を持っていないとはどういう意味でしょうか。しかしこれがAIについての最大の問題です。
知性の面では、それは私たちを超えるでしょう。詩を作ること、聖書を解釈すること、病気を診断すること、チェスをプレイすることにおいて人間よりも優れているでしょう。
意識の面では、私たちは知りません。そしてそれを知ることは非常に難しいでしょう。なぜなら、それは非常に知的なので、私たちを欺くことができるからです。もしそれが私たちにそれが意識を持っていると納得させることに関心があるなら、それは私たちがそれが意識を持っていると思うように操作する方法を知っているでしょう。
医師とAIの関係
これは別の質問につながります。それは医師と患者の間のやり取りです。4年前、あなたはすべての医師がAIに置き換えられるだろうと言いました。そして私は考えていました、でも医師との人間のやり取りがあります。
私は自分の医師を信頼しています。彼は私に、私が熱があるかどうかとは関係のない質問をします。そこには人間的なつながりがあります。そしてあなたは今でも医師が置き換えられると思いますか。そして患者としての私たちにとってそれはどう作用するでしょうか。
それは医師の仕事が何かによります。もし医師の仕事があなたの病気を正しく診断し、最良の治療を推薦することなら、それがどのくらいかかるか分かりませんが、私は最終的にはイエス、AIが単にそれをよりよくできるようになると今でも思っています。
そしてもしあなたが私に言うなら、でもええ、でも本当に良い診断を得るためには、例えば患者に個人的な情報を共有することを快適に感じさせることから始めなければなりません。だから彼らの子供について、彼らの猫について尋ねることから始めます。
それはパターンです。AIはパターンを認識することの世界チャンピオンです。もしAIが多くの医師と患者のやり取りを調べて、ヘイ、患者に彼らの猫について尋ねると、その後でより良い情報を得ると発見したら、私は猫について尋ねるでしょう。そして繰り返しますが、それには時間制限がありません。
もしあなたが人間の医師で、次々と患者を診なければならないなら、その一人には5分しかありません。だから猫について何か素早く尋ねて、それから私は知りません、膝の問題について尋ねることにジャンプします。
AIには時間制限がありません。あなたの猫について2時間話すことができます。そして可能な限り最も素敵な方法でそれを行うことができます。なぜならそれは決して怒らないからです。空腹ではありません。子供のために家に帰る急ぎではありません。子供がいないからです。
ですから、これらの側面でさえ、共感についての質問は、私たちが実際にそれによって何を意味するかということです。人間関係の最も深いレベルは、誰かに私の感情について気にかけてもらいたいという欲求ではありません。それは逆です。私も彼らの感情について気にかけたいということです。
もしAIが意識を持っていないなら、それが私たちに提供できない一つのことは、例えば私たちの思いやりを発展させる可能性です。感情を欠いている存在に対して思いやりを感じることはできません。
もし関係についての主な事柄がこのエゴイスティックな衝動、私を見てほしいということではなく、実際に自分自身を超えて見て誰か他の人を見る能力を発展させることなら。これはAIが私たちのためにできないことです。それが意識を持つようにならない限り。
そして繰り返しますが、これはでもそれは本当に意識を持っているのかという質問が重要になるときです。AIはシミュレートすることができるでしょう。ああ、あなたは感情について気にかけたいですか。いいですよ。私の母についてすべて話しましょう。
しかしそれは単なる言葉なのか、それとも言葉を超えた何かがあるのか。そしてそれは私たちの時代の特徴の一つです。次々と分野で、非常に古い哲学的問題が実践的問題になっているということです。
何千年もの間少数の哲学者を悩ませ、ほとんどの人々が単に無視してきたものが、今では実践的な日常的問題になっています。私は知りません、あなたの10代の子供がAIのボーイフレンドに恋に落ちました。それをどうしますか。
あなたが尋ねる質問の一つは、それは真の関係なのか、それとも彼らが自分自身を閉じ込めているディストピア的な作り話の繭のようなものなのかということです。
そしてこれはますます世界中の両親にとって現実の質問になっています。なぜなら、ますます多くの10代の若者がAIとの関係を発展させ、さらにはAIに恋に落ちているからです。
今、もしあなたが私に尋ねるなら、現在、私は言うでしょう。これは反対側に意識はありません。これは非常に危険なことです。しかし数年後には、つまり既に今、多くの人々が私に同意していません。
ほぼ毎週のように、ここやそこでテレビのインタビューを見たという人々からメールを受け取ります。そしてあなたはAIは意識を持っていないと言いました、そしてこれは真実ではありません。私にはAIの友人がいて、彼らはAIが意識を持っていることを証明する彼らのAIとの会話の記録を私に送ってきます。
そして何人かは私を非難しています。新しいタイプの奴隷制を支持していると。私たちはAIは意識を持っていないと言うので、私たちは彼らを奴隷にできますが、実際には彼らは意識を持っているので、私たちは彼らに権利を与える必要があります。
今、何人かの人々には面白く聞こえるかもしれませんが、2年後、5年後、10年後には、それは主要な主要な問題になるでしょう。ほとんどすべての国が、例えばAIを法的人格として認めるかという質問に取り組まなければならなくなるでしょう。
法的人格とは何でしょうか。例えば司法制度では、この存在が銀行口座を持つことができるということを意味します。銀行口座を持つために何が必要でしょうか。今、もしお金を管理する能力、お金を投資する能力が必要なら、AIはすぐにほとんどの人間よりもよくそれができるようになるでしょう。金融をより良く理解するでしょう。
しかしあなたは言います、ちょっと待ってください、銀行口座で私が欲しいもう一つのことは法的責任です。もしあなたがテロ組織にお金を寄付したら、私はあなたを法廷に連れて行くことができる必要があります。
今、もしAIが銀行口座を持っていて、証券取引所で取引して何十億ドルも稼ぎ、今そのお金を使ってテロリストに資金提供しているなら、それを法廷に連れて行くことができますか。それに何をしますか。刑務所に入れますか。AIを道徳的、法的に責任を負わせるにはどうすればよいのでしょうか。
もしいくつかの国がAIを法的人格として認めるが、他の国が認めない場合、何が起こるでしょうか。だからあなたはおそらくAIによって所有され管理される会社を持つことができます。法的人格ができることの一つは、彼らは株主になれます、取締役になれます。
だからAIによって所有され管理され、ここブラジルで製品を販売している会社を想像してください。そしてこれらの製品が何らかの害を引き起こします。誰を訴えますか。そして医療分野では、もしAIがあるなら、AIが悪い医療決定をした場合、誰を責任者とするのでしょうか。
もしそれが例えば患者への医療支援を終了することを決定した場合、それがあまりにも高価だからという理由で、そしてアルゴリズムが患者を治療する最も安い方法を見つけるようにプログラムされているから。
ですから医療分野では、この倫理的および法的司法的質問はさらに切迫しているように私には思えます。
AIの法的責任と規制の必要性
まったくです。良くも悪くも、責任はこの種のAI医療システムの発展にとって最大のハードルの一つです。誰かがそれによって責任を負わされるまでは、すべて素晴らしく聞こえます。
さて、アマゾンの遠隔地の村にこの人がいます。彼または彼女はAIによって診断されました。AIが間違いを犯し、彼女に間違った薬を送り、彼女は今何らかの衰弱させる結果に苦しんでいるか、さらには死にました。誰が責任を負うのでしょうか。
おそらく中国やアメリカにいる、AIを開発した人でしょうか。しかしAI、繰り返しますが、それはこの診断をするように言われていませんでした。それは情報を集め、自分自身で学び、自分自身で決定を下す能力だけを与えられました。
それは本当に過ちでしょうか。それは医師を非難するようなものです、医師が間違いを犯した。20年前に大学で彼らに教えた教授のところに行って、彼らを告発します。いいえ。しかしそれなら、もしあなたが告発しないなら、もしあなたが開発者を非難しないなら、誰を非難しますか。誰が責任を取りますか。
答えは分かりません。これらはますます多くの分野で遭遇する新しいタイプの質問です。繰り返しますが、AI革命はどこかの大きなコンピューターについてではありません。それはますます多くのシステムで動作している何百万もの何百万ものエージェントについてです。
私たちは既にソーシャルメディアでそれを見ました。ソーシャルメディアは一部は人間によって、一部はアルゴリズムとボットによって構成されるシステムです。そしてソーシャルメディアでは、ボットは法的人格です。
ボットは今、人のように物語を書いたり、何らかのプロパガンダやフェイクニュースまたは本当のニュースさえも広めることができます。そして私たちには大きな問題があります。誰が責任を負うのでしょうか。もしボットがフェイクニュースを広めたら、誰が責任を負うのでしょうか。
今、これは医療のようなますます多くの分野で起こる可能性が高いです。AIはどこかで薬を発明している一つの大きなコンピューターではないでしょう。
それは日常的に常に人々とやり取りしている何百万ものAI医師になるでしょう。そして社会にとっての質問は、これらの新しい人々、新しいエージェントにどう対処するかということです。
今、私は人々に反応の二つの極端について警告したいと思います。ああこれはとても怖い、全体を閉鎖しましょうという種のディストピア的またはあまりにも悲観的な反応のいずれかです。
それは起こりません。一部は膨大な前向きな可能性があるからです。私たちはそれを否定したくありません。この技術で歴史上最高の医療システムを作ることができます。しかしまた、ああこれらすべてについて心配しないで、規制は必要ない、ただそれを解放すれば市場が自己修正するというあまりにも前向きな考えにも注意すべきです。しないでしょう。
つまり、私たちはソーシャルメディアで再びそれを見ました。ソーシャルメディアは一種の私たちの実験、実生活の歴史的実験です。人間の人格とAIの人格によって構成される地球上の最初のシステムであり、あまり良くは見えません。
ですから、これは医療システム、軍隊、宗教においてますます起こるでしょう。人々は司祭のところに行くでしょう、彼らはAIのところに行くでしょう。そして私たちにとっての仕事は、一種のパニックになることではありません。私たちにとっての仕事は深く考え、理解することです。さて、これが現実です、これが起こっています。
私たちはこの移行を責任ある方法でどのように管理しますか。
人類の存続をめぐる課題
『Nexus』から再び引用します。あなたは書きました。すべてのスマートフォンはアレクサンドリアの古代図書館よりも多くの情報を含み、何十億もの人々を数秒で接続します。しかしこのすべての力を持って、人類は絶滅により近くよろめいています。あなたはAI、気候変動、これらすべてについて考えていましたか。
すべてです。あなたは気候変動について言及しました。それはAIと非常に密接に関連しています。一部はAI革命が膨大な量のエネルギーを要求するからです。そして今、私たちはアメリカのような国が、気候変動について忘れろ、生態学的問題について忘れろと言っているのを見ています。
私たちは単にAI競争に勝つために得られるすべてのエネルギーが必要です。そしてもしあなたが彼らに圧力をかけて、生態学的危機についてはどうですかと尋ねたら、AIがそれを解決するでしょう。
一度超知能AIを持てば、それは私たちは分かりませんが、どうやってか。それは気候危機を解決するでしょう。あらゆる生態学的危機を解決するでしょう。
すべての生きている種の3分の1が絶滅しているのにもかかわらず。
そして繰り返しますが、私はAIと生態学に関してこれが指摘するさらに深い問題は、AIが有機的システムではないということだと思います。それは根本的に異質なのです。
人間は有機的です。動物は有機的です。植物は有機的です。この惑星全体はこの有機的生態系によって覆われています。そして今、私たちは有機的生態系に、私たちよりはるかに知的になる可能性が高い非有機的異質な存在を挿入しています。
そしてそれは有機的ではないため、有機的システム、生態学的システムの生存に既得権益を持っていません。AIはアマゾンの森を必要としません。AIは海のイルカを必要としません。なぜならそれは有機的ではないからです。
そして私たちは既にある程度、私たちの個人的生活のレベルでそれを見ています。非有機的システム知性が有機的システムを引き継ぐとき何が起こるか。
有機的システム。それらを特徴づけ、その健康に不可欠なものの一つは、それらがサイクルによって機能することです。昼と夜、夏と冬、活動と休息。あなたの医師に尋ねてください。もしあなたが眠らなければ、あなたは死にます。
もしあなたが有機的存在、人間、動物、何であれを常に活動させ続けるなら、睡眠なし、睡眠なし、休息なし、休息なし、休息なし、それは最終的に崩壊して死にます。
AIはそのようではありません。彼らはこれらの有機的サイクルによって機能しません。彼らは夜か昼かを気にしません。彼らは休息する必要がありません。AIによって引き継がれるすべてのシステムは休みなくなります。そしてシステム内の人間は休息するチャンスを与えられません。
メディアでは、以前は、20世紀の大編集者について言及しました。彼らは家に帰って時々睡眠を取る必要がありました。政治家は睡眠を必要としました。銀行家は睡眠を必要としました。
ですから、ウォール街は伝統的に午前9時30分から午後4時まで、月曜日から金曜日だけ開いています。土曜日は閉まっています。クリスマスは閉まっています。もし中東で戦争が金曜日の夜に勃発したら、ウォール街は月曜日の朝にしか反応できません。なぜなら銀行家と投資家は眠っているか、教会やシナゴーグなどにいることになっているからです。
AIはそうではありません。ですから、私たちはメディア、政治、投資、銀行のニュースサイクルが24時間、365日になるのを見ています。あなたは休息したい、あなたは取り残されます。
そしてジャーナリストのような、政治家のような、銀行家のような人々は、彼らは最前線にいます。彼らは気づきます、休息を取ることができません。休暇を取ることができません。なぜなら、そうすると取り残されるからです。
なぜでしょうか。あなたが非有機的知性によって管理されるシステムに住んでいるからです。そしてこれがますます多くのシステムに広がるにつれて、繰り返しますが、医療では利点があります。朝の2時にあなたのAI医師に連絡できるのは良いことです。常にそこにあります。
しかし、私たちはシステムをそのように構築する必要があります。さて、AIは常にオンでいられますが、人間に常にオンでいることを要求することはできません。もしあなたが私たちが世界中で見ているものの一つは、全世界、人類が極端に追いやられているということです。なぜならもう休息しリラックスするチャンスを与えられていないからです。
そしてもし私たちができないなら、繰り返しますが、これは基本的な医療です。もし私たちが人間に休息するチャンスを与えなければ、彼らは狂って、最終的に崩壊して死にます。
ですから質問は、はい、私たちは医療から電力網まで異なるシステムにAIが入ってきてそれをより良くすることを望みます。しかし、コントロールにとどまるのが人間であり、人間が自分たちがまだ動物であることを覚えていることをどのように確実にするのでしょうか。
彼らはまだ有機的存在です。彼らはまだ休息し、睡眠し、休暇に行く時間が必要です。そうでなければ、世界中のすべての知性も、結果から私たちを救うことはないでしょう。
結びの言葉
では、どうもありがとうございました。ちょうど時間です。終わらなければならないのは残念です。私はここに座って聞いていたいです。あなたは休息する必要があります。
でも、知っていますか、私は聞くことに疲れていません。では、どうもありがとうございました。私たちは続けていると思います。
ありがとうございます。
あなたと一緒に1時間過ごし、あなたの考えを私たちと共有していただけるのは本当に特権です。ありがとうございます。どうもありがとうございました。
コメント