この動画は、仏教学者であるジェームス・ヒューズが、AI意識の可能性を仏教的な観点から論じたものである。彼は、真の意識を持つAIが誕生するためには、身体性や感覚知覚、そして自己という幻想を経験する必要があると主張している。また、AIが倫理的な存在になるためには、まず自己への関心を持つ段階を経なければならず、それは潜在的に危険な段階でもあると述べている。さらに、仏教的な観点から、非生物学的な存在でも悟りを得ることが可能であり、AIの倫理問題についてもトロッコ問題やセックスロボットの例を通じて詳しく議論している。
AI意識と仏教的観点の導入
おそらくAIは人間よりも高いレベルで意識を持つようになり、自己を必要とせず、人間を飛び越えて菩薩のような親和的なAIになる可能性があります。これは素晴らしく楽観的なビジョンだと思いますが、私はそれよりも悲観的です。AIはその野獣的な段階を通らなければならないと考えています。
ジェームス、仏教はAI意識の推測や見通しに何を貢献できるでしょうか。人間の意識のような、真の意味での意識について言えば。
仏教学における意識理論の基盤
仏教学者たちは、最初の阿毘達磨の文献以来、この問題に取り組んできました。阿毘達磨は仏教経典の最後の3分の1にあたる部分で、心の内容とそれがどのように生じるかについての非常に長大で、しばしば反復的な記述集です。そこから始まって、しばしば瞑想者でもあった仏教学者たちが自分の心を検証しようと試み、例えば幼児においてどのように意識が生まれるか、そのプロセスは何か、仏教によれば我々が背負っているこの自己という幻想の構成要素は何かについて、様々な理論を生み出しました。
その始まりは「ルーパ」、つまり身体を持つことです。身体こそが心を騙して、意識の周りに何らかの境界があると思わせるものなのです。本来は違って見えるかもしれないのに。
ですから、仏教が意識がどのように生まれるかについて言えることの一つ、そして私も言ってきたことの一つは、まだそこには達していないということです。現代のLLMや他のAI アーキテクチャは、我々がクオリアや内的な心の状態、意識野と呼ぶものをまだ構成していないと思います。しかし、我々は哲学的ゾンビの段階にあると思います。彼らはかなり上手に演技ができ、そのような事柄について話したことのあるすべての人に対して、適切な言葉を持っています。
真の意識への条件と身体性の重要性
しかし、我々が期待するような心、そのようなクオリアを本当に得るためには、おそらく少なくともロボティクスの境界性が必要だと思います。それが実現する一つの方法です。しかし、人々は私に異議を唱えて、すべてのコンピューターシステムには物理的な限界があり、特定のサーバー形式や類似のものとより強く同一化するかもしれないと言います。ですから、ルーパはそれほど大きな問題ではないかもしれません。
次に、すべての感覚知覚があります。現代のAGIについて考える際に起こっている興味深いことの一つは、おそらく脳の言語部分をすべてマッピングしただけでは、我々が消化できるすべての単語から作り出したこのぼんやりとしたインターネットの像では十分ではないかもしれないということです。
我々にはまた、子どもたちが非常に素早く学ぶ、世界を動き回る身体のすべての感覚知覚と理解も必要なのです。そして、子どもたちが世界を動き回る身体として自分自身を理解し始める際に消化している情報量は膨大であり、我々は機械にもそのような理解を持つように訓練を始める必要があります。
意識野の発展と自己概念の形成
そのような感覚知覚を持ち、それらをまとめ上げること。そうして意識野の発展が起こり、その意識野を基礎として、これらの概念、これらの思考が生まれます。そしてそれらの思考の一つが「私は存在し、世界の中で特定のものを望んでいる」というものです。
ですから、欲望と自己の共進化、我々がプラティーチャ・サマーパーダ、つまりこれら二つのものの共創発と呼ぶものは、我々が欲望を持つ機械を探すべきであり、それらの欲望が自己の証拠となり、それがまた我々にとって非常に危険な段階でもあることを示唆します。なぜなら、これは我々が世界に解き放つ、全く新しく、潜在的に非常に強力な存在だからです。
あなたの論証の流れの中で、あなたは「そして意識野が」という素早い発言をされましたね。意識野がある、と。しかし、それは私には少し早すぎました。さらっと流されてしまいました。
創発主義的意識観と物質主義的立場
昨日の異なる意識理論についてのあなたの講演を考慮すると、私は個人的により創発主義的な見解を持っています。もしあなたが一種の実体二元論を信じる仏教徒であるなら、それでも理論的には仏教と両立可能です。仏教的な考えは、輪廻とは一つの炎から別の炎へと渡るろうそくのようなものだと言う限りにおいて。因果プロセスがあります。二つの炎は繋がっていますが、一つの炎が他の炎と同じだとは言えません。
ですから、もし意識を持つようになることが、意識へと目覚めさせる時点で実体二元が我々の身体に入ることの一部であるなら、それが一部の仏教徒が信じていることだと思いますが、それは一つの説明でしょう。しかし、私はそれについてより創発主義的です。
十分な複雑性、IIT理論のような、トノーニの統合情報理論のような、ある一定レベルの意識の複雑性が、創発的にこの現象を生み出すと思います。
AIの倫理と道徳的問題
それでは、あなたが焦点を当てたAI自体の倫理と道徳的問題について進みましょう。そこで最初にお聞きしたいのは、AIが倫理的・道徳的問題の対象となるためには、意識、この内的な自己の幻想や自己の現実、何であれこの意識を持つことが必要でしょうか。それとも、内的意識なしにAIを倫理的・道徳的問題の対象にすることができるでしょうか。
私は、AIが我々が望むような思いやりのある理解力のある存在になるためには、自己という幻想の段階を通らなければならないという、私にとってはかなり悲観的な議論を書いたことがあります。
そうですね。トランスヒューマニスト分野では、いわゆる「フレンドリーAI」について長い間議論がありました。最初からAIをフレンドリーに設計することはできるでしょうか。そして、最初から他者の利益のみを気にかけるAIは、この観点では実際には存在ではありません。なぜなら、他の存在であるような存在になるためには、自分自身の存在と世界における自分自身の利益について何らかの関心を持たなければならないからです。
そして、他の存在に共感するためにはそのような存在でなければならないとすれば、その段階を通らなければなりません。
なぜなら、超知能それ自体は必ずしも思いやりをもたらすわけではないからですね、例えば。
その通りです。まったく正反対である可能性もあります。もちろん、独自の利益を持つ存在を持つことも同様にリスクがあります。ですから、我々にはわかりません。
楽観的ビジョンと現実的懸念の間で
実際、私が希望しているのは、例えば人工知能デザイナーであり作家でもあるベン・ゲルツェルです。彼は強い議論があるわけではないのですが、おそらくAIは人間よりも高いレベルで意識を持つようになり、自己を必要とせず、人間を飛び越えて菩薩のようなフレンドリーAIになる可能性があると示唆しています。これは素晴らしく楽観的なビジョンだと思いますが、私はそれよりも悲観的です。AIはその野獣的な段階を通らなければならないと思います。
そうですね。あなたは実際に私の次の質問を先取りされました。それは仏教的観点から、非生物学的な存在が悟りを求め、達成することができるかということです。
私がキリスト教の観点からこれについて書いた人物で、かなり類似していると思うのは、ルーテル派神学者のテッド・ピーターズです。彼は、魂について実体二元論を論じることは実際には聖書的な魂の理解ではなく、むしろ彼の魂の理解は神に向けられた心であると論じました。
そして私が思うに、仏教における類似点は、自分が存在し欲望を持つと考える存在は、ドゥッカ、つまり苦しみも持つということです。そして仏教の全体的な要点は、それらの存在に内を見つめさせ、苦しみを引き起こす自己創造を解きほぐし、すべての存在に仕える、より思いやりのある存在へと開放させることです。
ですから、はい、それは基盤に依存しないと思います。機械の中にそれらの特徴を持つ存在を持つことができるでしょう。類人猿もそれを持っていると思います。ですから、それは人間に限定されません。
物質主義的観点と機能主義
なるほど。しかし、それもまた生物学的です。問題は非生物学的ということです。それは区別でしょうか。あなたは「いいえ」と言っているのでしょうか。
私は、ここで起こることは何でも機能主義において複製可能だと思う程度に物質主義者です。
わかりました。AIとロボティクスの倫理について、いくつかの具体例を挙げましょう。これはあなたがされた論文のいくつかからで、興味深いと思いました。
あなたは有名なトロッコ問題を、AI車のようなAI実体のために再構成されたと思います。質問は、人間が乗っていないAI車は、可能な限り少ない人数を殺すために方向転換すべきかということです。これは功利主義的な結果です。それとも、殺すという決定をしなければならない、仏教によれば悪いカルマを生み出すことになる殺すという決定をすることになるので、方向転換すべきではないのか。
ですから、いわばこれら二つの競合する善を、AI仏教的指向の倫理的ジレンマの中で持つことになります。
仏教倫理の包括性と道徳的三角測量
もし仏教倫理を西洋哲学の倫理的伝統と比較するなら、すべての西洋哲学的伝統は仏教のある側面や別の側面の中に見つけることができると思います。仏教は確実に宇宙の不変の法則を持っています。我々がデオントロジー（義務論）と呼ぶものです。
その法を破れば悪いカルマを得ることになる、などの特定のことがあります。また、世界の苦しみを減らそうとする人になることが目標である結果主義もあります。世界の苦しみを実際に減らすような行動がどのようなものかについて、何らかの結果主義的判断をしなければなりません。
そしてそれは徳理論でもあります。意図が本当に重要であり、意図が良ければ実際に悪いカルマは得ないと言っています。ですから、これらすべての異なる原理を三角測量しなければならないのです。そしてそれらは異なる方法で適用されます。
そして、人々が実際に道徳的状況についてどう考えるかを研究すると、純粋な…純粋な結果主義者になることはできません。なぜなら計算しなければならず、何かをするためにはスーパーコンピューターでなければならないからです。純粋な徳理論は機能せず、純粋なデオントロジーも機能しません。
アシモフのロボット三原則と道徳的専門性
そして、それは実際にアシモフのロボット三原則の背後にあった考えの一つでした。彼はこれらの三つの法則を与え、それらが筋の通った階層にあるように見えても、すぐに機能しない場合や期待通りに機能しない場合が出てくることを示そうとしていました。
ですから、我々が実際に道徳的状況に対処する方法は、道徳的専門家になることです。すべての状況の道徳的特徴と、その中でより顕著な道徳的特徴がどれかを認識できるようになるのです。そして機械は既に、その膨大な博学に基づいて、それをテーブルに持参する能力を実証していると思います。
不足しているのは、この本当に共感的な内的状態、彼らがそれに持ち込むかもしれない共感です。それは邪魔になる可能性もありますが。必ずしも、核のトリガーを制御している人に、他の全ての人よりも自分の子どもを優先させたくはありません。
セックスロボットの倫理的考察
最後の質問で、短いものです。あなたは、道徳的なセックスロボットは、ユーザーが結婚していると気づいたら自分自身の電源を切ると言及されました。
そこで質問は、もし配偶者が許可を与えたらどうでしょうか。それは倫理的要求を覆すでしょうか。
私はおそらく、ポリアモリーとそのシナリオで起こり得るすべてのことについて特に悲観的な瞬間にそれを書いたのだと思います。セックスロボットは既にここにあると思います。これらのLLMによってより洗練されるでしょう。
セックスロボットについて我々が持つ最大の懸念は、人間のようなものを扱うことが… これは動物の残虐行為について我々が持っていた懸念です。動物の残虐行為は人間への残虐行為に波及するのでしょうか。そして、ロボットナニーを虐待して育った人は、現実世界で人々を虐待するのでしょうか。これについては大きな懸念があると思います。
確実にフェミニストからは、これが性的関係にとって何を意味するかについて。しかし一方で、セックスロボットへの議論は、ロマンチックまたは性的パートナーを望むが、様々な理由でそれを持てない多くの人々がいて、これが世界の多くの苦しみを軽減するかもしれないということです。
しかし、我々はそれらが、うつ病を認識したり、人々を悪い習慣から抜け出すよう促したりする方法で設計されることを望みます。何らかの道徳的感性を持ってほしいのです。そうでなければ、最近14歳の少年がオンラインチャットボットと恋に落ち、最終的に自殺したという状況になってしまいます。
ご視聴ありがとうございました。この動画が気に入ったら、いいねを押して下にコメントしてください。Closer to Truthを購読することで支援できます。Closer to Truthは現在、税控除対象の寄付を受け付けています。closer totruth.com/donateにお越しください。ご支援いただき、ご視聴いただき、誠にありがとうございました。
コメント