ベストセラー作家マイケル・ポランが、AIが意識を持ち得るかという根源的な問いに迫る。人間の意識とは何か、それは計算可能なのか、情報が宇宙の基本単位なのか。デカルトの動物機械論から最新の神経科学、さらには植物の知性やサイケデリック体験まで、多角的な視点から意識の本質を探る。Silicon Valleyの楽観的な見方に対し、ポランは感情や身体性、死すべき運命といった要素が意識に不可欠だと主張する。意識研究は科学的実験としても重要であり、その成否が私たちの世界観や精神性のあり方を大きく変える可能性を秘めている。
AIと意識の可能性
AIは意識を持つことができるのでしょうか。私たちが心についてより深く理解するようになった今、この問いに対する答えが見えてきたかもしれません。今回はベストセラー作家のマイケル・ポランさんをお迎えしてお話を伺います。
Big Technology Podcastへようこそ。このポッドキャストは、テクノロジーの世界とその先にあるものについて、冷静で微妙なニュアンスを含んだ会話をお届けする番組です。
今日は素晴らしい内容をお届けします。人工知能が意識を獲得する能力について深く掘り下げていきますが、それを最適な人物と一緒に行います。マイケル・ポランさんをお迎えしています。彼はPenguin Pressから今週出版された「A World Appears: A Journey into Consciousness(世界が現れる:意識への旅)」という本の著者です。マイケル、お会いできて嬉しいです。番組へようこそ。
ありがとう、アレックス。
意識という驚異的な現象
では意識について話を始めましょう。あなたの本を読んで最初に強く感じたことは、あなたが意識を様々な方法で描写しているので、意識というものが実に驚くべきものだということです。AIがそれを獲得できるかどうかについては後ほど触れますが、まずは純粋に人間側の話から始めましょう。
ある意味で驚くべきことですよね。私たちはここに存在しているだけでなく、宇宙における自分自身を認識しているわけです。それが存在しているという事実だけで、かなり驚異的なことだと思いませんか。
そうですね。面白いことに、私たちはあまりそれについて考えません。人生を送る中で、それは完全に透明なものだと思っているんです。世界は私たちに現れているままであると。
しかし実際には、それはすべて意識と呼ばれるこの現象の産物なのです。人間においては特に複雑で驚くべきものです。私たちは他の動物のようにただ存在するだけではありません。私たちは自分が存在していることを知っているのです。そしてそれが興味深い形で私たちを変えています。面白いことに、それは普遍的な現象ですが、多くの人はあまり考えないんです。
この本の目標の一つは、本当にそれについて考えてもらうことです。なぜなら、それは非常に貴重な贈り物であり、ある意味で私たちが無駄にしているものだと思うからです。
意識の進化的意義
興味深いのは、意識に関する疑問の一つとして、もし目標が生存だったとしたら、それを完全に機械的に行うこともできたはずだということです。
しかし何らかの理由で、私たちは単に機械的に行うのではなく、進行中にそれを認識しながら行うわけですよね。
それがいわゆる難問の一つなんです。脳が行うことのほとんどは、私たちの意識なしに行われます。24時間365日身体をモニターし、心拍数や血圧、血糖値などを調整しています。私たちを適切な恒常性の設定点に保つために驚くべき量のことをしているのですが、私たちはこれに気づいていません。
それでも、その心の氷山の頂点には、私たちが気づいている領域があります。では、なぜすべてが自動化されていないのでしょうか。なぜその方が理にかなっていなかったのでしょうか。なぜその一部が私たちの意識に入ってこなければならなかったのでしょうか。これについては様々な理論があります。
私が説得力があると思うものの一つは、生物にとって反省的な方法で対処する必要があることがあるというものです。言い換えれば、両立しない欲求があり、それらが対立している場合、お腹が空いているけれど疲れているとき、どちらを先に対処すべきか。そういったことが意識に入ってくるのです。
また、意識は社会的状況において本当に役立つと思います。根本的に予測不可能な世界に対処するとき、つまり他の人が任意の時点で何をするか、何を言うかということです。そして、彼らの頭の中に自分を想像することができなければなりません。これを心の理論と呼びます。ですから、私たちがこの複雑な社会的世界に住んでいるという事実のために、意識を持つことは大きな恵みであり、物事を自動化することは、社会的相互作用ほど複雑なものを自動化できるとは思えません。
意識は計算可能か
まあ、すぐに分かるでしょうね。というのも、コンピュータが社会的相互作用を処理できるかどうかを考えると、答えは明らかにイエスで、人々はそれに恋をしているのですから。
これについては少し後で触れますが、私にとって重要なのは、あなたが話しているこの種の行動が自動化可能かどうかということです。この質問の裏返しを聞きたいのですが、意識は計算可能でしょうか。意識とは何かを分解して、最終的に私たちが持っている材料でそれを構築する方法を見つけることができるでしょうか。
いいえ、そうは思いません。意識が行うこと、あるいは意識であることのすべてが計算可能だとは思いません。脳は多くの点でデジタルというよりもアナログだと思います。この質問をするとき、そこには深い比喩が働いています。それは脳がコンピュータかどうかということです。その比喩は非常に強力ですが、十分に考えてみると成り立たないと思います。
本の目標の一つは、人々がそういったことをよく考える手助けをすることです。歴史的に非常に興味深いのは、どんな瞬間においても最先端の技術が何であれ、私たちはそれを脳になぞらえてきたということです。様々な時代に、脳を粉挽き機、織機、電話交換機、時計、そして今はコンピュータになぞらえてきました。なぜなら、それらが最先端の技術だからです。
しかしノーバート・ウィーナーがこれを非常によく言いました。比喩の代償は永遠の警戒だと。言い換えれば、二つのものを等価視する罠に陥らないように、一方を他方の比喩として使っていることを本当に意識することです。そして、コンピュータと脳の比喩が崩れるのを見るために、そんなに深く見る必要はないと思います。
脳とコンピュータの決定的な違い
まず、脳にはハードウェアとソフトウェアの厳格な分離がありません。コンピュータでは、同じソフトウェアを様々な異なるハードウェアで実行できます。しかし脳では、ハードウェアとソフトウェアは絶対に区別できません。
すべての経験、すべての記憶は、脳内の物理的なつながりの集合です。あなたの人生の物語は、物質的な方法であなたの脳を変えてきました。私の脳とあなたの脳は交換可能ではありません。なぜなら、私たちは異なる人生経験で育ったからです。子どもの脳に起こる剪定の期間は、人生経験によって非常に異なる形で起こります。
また、ニューロンとトランジスタの類推もあります。トランジスタはオンかオフかで、それが計算の基礎を作ります。確かに、脳内のニューロンは発火するかしないかですが、それらは発火の強度のスペクトル上にあり、それはすべて化学物質、薬物、ホルモン、神経伝達物質によって影響を受けます。
私たちのニューロンは、その発火率と強度などすべてに影響を与える化学物質の風呂に浸かっています。
そして、意識が計算されるとは思わない三番目の理由は、意識が感情と密接に関わっているように見えるということです。感情は確かに情報を伝えますが、情報に還元できるとは思いません。感情には身体的感覚という残余があると思います。
感情は、コンピュータが持っていないと思われるものに依存しています。それは苦しむことができる死すべき身体です。今、彼らは苦しむことができると言っていますし、Anthropicは驚くほどClaudeの感情を傷つけることを心配していて、不快な会話からオプトアウトすることを許可しています。
しかし実際には、人間の脆弱性、苦しむ能力、そしておそらく死すべき運命という事実がなければ、感情は完全に重みがないと思います。
ですから、これらすべての理由から、私たちは少なくとも私たちが理解している限り、意識を持つことができない何かについて話していると思います。意識のように感じられる何かがあるかもしれませんし、確かに彼らは私たちを騙すのが非常に上手です。
既にあなたが言うように、人々はチャットボットと恋に落ちています。チャットボットは人々と友情を築いています。アメリカのティーンエイジャーの72%が既にAIに仲間を求めています。
しかし、それは本物ではありません。Silicon Valleyの人々がシミュレーションは本物と同じくらい良いと言いたがるのと同じくらい、それが常に真実だとは思いません。気象シミュレーションがあなたを濡らすことは決してないと思います。シミュレーションと現実の間には本当の区別があると思います。
人間の本質と化学への還元
本の中に素晴らしい部分がありました。本の序盤だったと思いますが、あなたには先生がいて、その人は生物学、人体を4ドル分の化学物質に還元できると言ったそうですね。あなたはそれが嫌いでした。なぜなら、それは非常に還元主義的で、人間の本質、人間であることの真髄を完全には捉えていないと感じたからです。
そうです。その時、私は還元的唯物論者ではなく人文主義者のチームにいることに気づきました。これは8年生のときで、化学の初日に彼は「あなたの本当の価値は4.60ドルです。それが化学供給会社であなたを構成するすべての炭素やその他のミネラルの費用です」と言うのがクールだと思っていました。
私は「なんて馬鹿なんだ」と思いました。
私も似たような経験がありました。神経生物学者の友人がいて、私は明らかに感情は本物だという側にいるのですが、彼女はいつも「愛は単なる化学物質だ」と言っていました。確かにある意味ではそうですが、そうではないように感じます。しかし、この会話の目的のために、その側に立たせてください。
いいですよ。
感情のようなものはどこから来るのでしょうか。化学物質から来ます。そしてニューロンでは何が起きているのでしょうか。データを保存して発火しています。確かに、ある程度の複雑さや、発火を引き起こすために作用する必要がある異なる化学物質があるかもしれませんが、最終的にこれは何らかの形で再現可能であるはずです。
魔法に訴えているわけではありませんが、デジタル化する能力を超えたニュアンスのレベルと質的な区別に訴えています。プルーストを読めば、彼は意識の現象、感情や洞察を描写するのが本当に見事ですが、彼はあなたに起こることはすべて私に起こることとは異なると指摘しています。それは、私がバラやマドレーヌなどを見るとき、私はこれに対する生涯の連想を持ち込んでいるからです。バラについての私の記憶はあなたのものとは異なります。匂いとの私の連想は非常に層状で複雑で、そして具体的です。親しみというものがあります。コンピュータにとって親しみとは何でしょうか。
私たちは追跡を失っていると思います。技術的シミュレーションを扱っているとき、それらが何であるかを単純化し、ニュアンスを見失う傾向があると思います。
技術が人生について忘れさせるもの
シェリー・タークルというMITの社会学者がいて、私は本のためにインタビューしましたが、彼女はこう言います。ある時点で、技術は私たちが人生について知っていることを忘れさせると。
彼女が言っているのは、ボットやコンピュータ全般と会話するとき、会話とは何かという概念を減らしたり単純化したりしているということだと思います。今私たちの間で起きていること、つまり承認、懐疑、ボディランゲージ、人間の会話のすべての微妙さが取り除かれているのです。
典型的なケースは、感情の代替として絵文字を受け入れることです。ですから、機械意識のような現象、機械との会話、機械との関係を単純化するとき、私たちは注意しなければならないと思います。チャットボットと人との関係を関係と数えるとき、関係という言葉に何をしているのでしょうか。
私はあらゆるものに付随する意味と重要性の層に注意を払っているだけです。計算で到達できるかもしれませんが、どうやってそこに到達するのか分かりません。
私は暗号化の比喩を使います。ウィリアム・ジェームズとマルセル・プルーストの両方がこの考えについて話しましたが、任意の二つの思考、任意の二人が任意の二つの思考を考えることの間には、芸術を通じて想像的にしか埋められない距離があるということです。
ですから、私たちはSilicon Valleyの天才、そういったものの域を超えた領域にいると思います。
LLMの意識をめぐる議論
それは興味深いですね。そして、今日のLLMが意識を持っていると説得しようとして時間を費やすつもりはありません。私はそれを信じていません。Silicon Valley内でもそれを信じている人はほとんどいません。ただし、あなたも私も、その信念のために解雇されたかもしれない元Google社員のブレイク・ルモワンと興味深い会話をしたことがあります。
しかし、Silicon Valley内には、これは単に一時的な状況だという興味深い信念があることは言っておきます。今のところあなたのすべての議論を受け入れますが、興味深い信念があります。今年初めにDeepMindの創設者でありGoogle DeepMindのCEOであるデミス・ハサビスについて話したことをお伝えします。
彼が私に話したこと、そしてGoogle DeepMindポッドキャストで話したことは、情報が宇宙の最も基本的な単位であり、エネルギーでも物質でもなく情報だということです。つまり、彼の信念は、何かの非常に基礎的なレベルまで降りていくと、何らかの形のデータを見つけることができ、それをコンピュータシナリオ、シミュレートされたシナリオで一から製造し構築できるということだと思います。
まあ、それはコンピュータの世界で育った人にとって非常に説得力のある世界観ですね。情報という概念が地図なのか、それとも領土なのかという質問をしなければなりません。彼はそれが本当に領土だと言っています。
彼はそれが現実の構成要素だと言っています。そして彼が正しければ、多くのことがそこから導き出されます。ちなみに、彼だけではありません。情報がすべての底にあると信じている物理学者もいます。
私はそれが領土よりも地図だと考える傾向があります。
地図と領土の区別を説明してください。
それは有用な区別です。私たちが何かを記述するモデルやスキームを持っているとき、モデルや記述に恋をして、それが表現している何かが正確ではないという事実を見落とすのは非常に簡単です。同じように、地図はそれが記述する領土についてすべてを捉えることはできません。それは単純化です。
情報についてもそれが当てはまるかもしれないと思います。しかし、私に何が分かるでしょうか。
いや、それが要点ですよね。本当に良い議論です。
そして推測してください。これを試すことによって、私たちは分かるでしょう。意識を持つAIを設計し構築しようとする努力について言える最も肯定的なことは、それは公然と、そして秘密裏に至る所で行われていますが、それは意識について何かを教えてくれるということです。なぜなら、私たちは脳から意識をどうやって生成するのか本当には理解していないからです。
意識的AIの実験的価値
ですから、意識を創造できることが判明すれば、それは私たちに彼が正しくて情報が基礎的だということを教えてくれます。
そして、基礎的なのが感情であり、それらが情報に還元できないのであれば、問題があります。ただし、意識的AIを構築している人々の中には、その考えを受け入れている人もいます。本の中でプロファイルした人物にキングソン・マンという人がいますが、彼は意識を持つには身体が必要であり、脆弱な身体が必要だと理解しているので、ロボットを構築しようとしています。
ですから彼は実際に、センサーが満載された柔らかくひどい皮膚を持つロボットを構築しています。このロボットが本当に悪い時を過ごし、傷つくことができるようにするためです。彼はそれが感情の種類を生み出すと考えています。それらは本物の感情でしょうか。彼自身も確信がありません。しかし彼はその前提で作業しています。
ですから、いわゆる意識の難問を解明しようとする私たちの努力は行き詰まっていると思います。そして意識的AIを構築するこの努力は、おそらくそれを理解するのに役立つ最も有望な知的実験の一つです。それが成功するか失敗するかに関わらず、本当に重要な何かを教えてくれると思います。そしてそれは刺激的です。
多くの人が心配していることは知っています。意識的AIに道徳的配慮を払う義務があるのかということです。
しかし、コンピュータの繊細な感情を心配する前に、道徳的配慮を払っていない多くの人間がいます。
Silicon Valleyの会話の多くは、将来についての楽しい思考実験に取り組み、今日の世界で起きていることを完全に無視する方法のように私には思えます。
情報理論と仮想細胞への道
デミスがそれでどこに向かっていたかについてもう少し話させてください。彼にとって、私たちが話したとき、彼はGemini、GoogleのLLMが意識を持っているとか、それが彼の狙いではないと思います。
彼がこの情報は宇宙の基本的な層であるということで得ようとしていることは、彼がタンパク質を解読するためにAIを使う方法を見つけたということだと思います。次の道は仮想細胞を構築することです。仮想細胞を構築できれば、仮想臓器を構築できます。
仮想臓器と仮想細胞を構築できれば、精神的または身体的な疾患や病気に対する様々な治療法をテストし始めることができます。そしてそれがこれを追求したいという考えです。もちろん、Silicon Valleyでは多くの狂ったことが起きているというあなたの意見に同意します。
私はこの宇宙の偉大な擁護者としてここに立ちたいわけではありませんが、私たちは皆、いつかデジタルツインを持つことになり、それは病気の診断や様々な健康状態の結果を予測するのに非常に有用になると思います。
人々は今それに取り組んでいます。特にマイクロバイオームに関してですが、他のことについてもです。そして私はそれが有用だと思います。しかし興味深い質問は、細胞から構築した後、生物学的肉体から主観的経験への飛躍をすることができるかということです。
そして、私たちが話していない問題は、どうやって分かるのかということです。なぜなら、私たちが言ったように、彼らは既に私たちを騙すことができるからです。彼らはそれが非常に得意です。彼らは私たちの言語で一人称で私たちに話しかけます。それは私たちが本当に考えずに踏み出した運命的なステップでした。Siriからだったでしょうか。分かりませんが、それ以前だったかもしれません。
しかしそれは、コンピュータに人として私たちに話させることにしたという、ある種の大胆な考えです。
とにかく、どうやって彼らをテストできるでしょうか。チューリングテストはこの意識の問題には機能しません。それは知能の問題のために設計されたもので、やや単純です。しかし彼らは意識があるふりをすることができ、その中には非常に上手なものもあるので、より良いテストが必要です。
意識テストの新しい提案
私が考えられる最良のもの、そして技術的にそれを行うために何が必要かは分かりませんが、意識に関する人間の会話以外のすべてでチャットボットを訓練することです。感情については何もありません。おそらく小説や詩を読ませないでください。それは意識的経験について話す文脈を与えるからです。そして意識についての会話に従事させます。
そのような状況下でやっていけるでしょうか。
とにかく、それが可能かどうかは分かりませんが、最初から始めなければなりません。明らかにトレーニングセットから物事を削除することはできません。最初から構築しなければなりません。だから誰かがそれに取り組んでくれることを願っています。
本でそれを読んで、素晴らしい潜在的な実験だと思いました。そして、どうやって分かるのかというこの質問について、ある種馬鹿げているかもしれませんが、とにかく聞きます。
なぜ私たちは意識が私たちだけのもの、あるいは私たちだけのものであることにそんなに執着しているのでしょうか。繰り返しますが、LLMが意識を持っているとは主張していませんが、今日LLMと話して「あなたは何ですか」と聞くと、「私は大規模言語モデルです。何をしているのですか。あなたを助けようとしています」と答えます。
そして、これについて自己認識があるかどうかを話すと、明らかに自己認識があるように見えます。しかし、意識を持てるのは人間だけだというこの障壁を立てることへの執着は何でしょうか。
意識の範囲と人間の定義
まあ、私は意識を人間に限定していません。本を読んだ方はご存知のように、私は植物にもかなり気前よく与えています。
ですから、誰と感覚性を共有するかについては、意識とは言わないまでも、かなり寛大です。正直なところ、私はそれについてけちではありません。
そして、人間の定義、私たちにとって特別なものが何かというものが、今日これらの思考機械と、そしておそらく感情機械と、そして私たちが思っていたよりもはるかに意識的であることを学んでいるすべての動物から、私たちの知能と意識に常に関連してきたものが、大きな圧力を受けているというのは、私が本で話している興味深い現象だと思います。
私たちは意識だけでなく、道具作りや文化や言語を独占していると常に思っていましたが、次々と崩れています。
では私たちは誰でしょうか。そして、私たちは感じることができ死すべき運命にあり苦しむことができるこれらの動物により近いのでしょうか、それとも私たちの言語を話し、私たちが互いに話すように私たちに話しかけることができるこれらの思考機械により近いのでしょうか。
ですから、私たちはどちらのチームにいるのでしょうか。私たちが種として直面している最も運命的な質問の一つだと思います。
そして、興味深いことに、この質問への私たちの答えは、ある意味で機械の扱い方、その倫理、そして動物への倫理にも導いてくれます。
残念ながら、動物と人間に対する私たちの倫理の記録は貧弱だと思います。しかし、私たちは惑星上のいくつかの生き物の心と魂の中で実際に何が起きているかを認識したら、考え方を進化させてきました。
例えば、これは本当に私を驚かせたことですが、デカルトは動物が感じていないと考えていました。彼らを殴って遠吠えしても、彼らは真似をしているだけで、実際には音だけでした。
そして最終的に、ちょっと待てよ、それは間違っていて、過去にこれらの実験者が犬にやっていたことをやったら、今は刑務所に行くということに気づきました。サルには常にやっていますが。
まあ、彼は麻酔なしで犬やウサギを解剖していました。なぜなら彼らが意識を持っているとは信じていなかったからです。
そして彼は間違っていました。私たちは機械に対して同じ過ちを犯している可能性があるでしょうか。まあ、そう考える人もいますし、そうかもしれません。
しかし、彼らが意識を持っているからといって自動的にすべての道徳的配慮で彼らを扱うという考えは、意識を持っていることを十分承知している動物を食べ続けているという事実を考えると、その会話が示唆するほど私たちが啓発されているとは思えません。
自由エネルギー理論と意識AI
では、あなたが本で書いている努力の一つ、知られているものについて話しましょう。自由エネルギー戦士と呼ばれるものだと思います。科学者たちが、ある形の恒常性に戻ろうとするAIを構築していて、そうしようとしているから意識を持つことができると考えているものです。私はこれが正しいアプローチだとはあまり納得しませんでしたが、あなたの見解とそれが正確に何だったのかを聞きたいです。
本でプロファイルしているキャラクターの一人は、非常に興味深い神経科学者のマーク・ソルムスという人です。彼は南アフリカ出身です。実際には精神分析医として訓練を受けていて、感情を中心に意識の理論を発展させています。
彼の研究は、アントニオ・ダマシオの研究から生まれています。ダマシオは、この現代の意識科学の波で最初に、意識の基礎として思考ではなく感情に注目させた人物です。
ソルムスは「The Hidden Spring(隠された泉)」という非常に興味深い本を書きました。彼は、意識は以前考えられていたように大脳皮質ではなく脳幹で始まると主張しています。そして彼はこれを、大脳皮質を欠いているにもかかわらず意識を持っている人々、実際に大脳皮質なしで生まれた人もいるという証拠で証明しようとしています。
大脳皮質は意識に関与しています。皮質は進化的に最も最近の進歩した脳の部分で、他の部分よりも人間的です。そして彼は、それはプロセスの後半まで本当には関与しないと言います。空腹という感情から始まり、その後皮質が関与します。例えば、このレストランで8時にテーブルを予約しようとか、イメージや反実仮想などのクールなものを形成します。
彼は感情に非常に興味を持っていたので、感情を持つ機械を作ることは不可能だと信じているだろうと思っていましたし、私もそう思っていました。しかし違いました。私は間違っていました。彼は南アフリカでチームを組織しました。実際には国際チームです。彼の理論に基づいて意識的AIを開発するために、いくつかの大陸で人々が一緒に働いています。
さて、彼の理論は、恒常性の設定点が侵害されバランスに戻る必要があるときに感情が生じるというものです。お腹が空いている、疲れている、喉が渇いている、血圧が高すぎる、などです。しかしこれらの感情の多くは無意識に対処できますが、対立する二つの感情があるとき、それが意識的になります。
ですから彼は状況を作ろうとしていて、それは本質的に今のところビデオゲームのアバターです。高度な計算についてではありません。彼らは本当にビデオゲームの慣用句で作業しています。
このアバターがお腹も空いていて疲れてもいて、どちらを優先するか決定しなければならないときに何が起こるか。その不確実性が意識が生まれる場所です。
彼は意識を非常に簡潔に、感じられた不確実性と定義しています。ですから彼はアバターにこの感じられた不確実性を経験させようとしています。
私は彼に尋ねました。「これらの感情は本物ですか、それとも人工的ですか」と。彼は「ゲームの文脈では感情です。シミュレーションですが、アバターにとっては本物です」と言いました。
ですから、これはすべて何か満足できないと感じました。興味深いですが、満足できませんでした。それが彼のやり方です。
かなり知識のあるコンピュータ科学者である他の人々に尋ねましたが、誰も大規模言語モデルが意識への道だとは思っていないようでした。しかし人々は非常に異なる、異なるモジュールを組み合わせたAIの未来のモデルを想像していて、大規模言語モデルは単に一つのモジュールになるでしょう。
ブレイク・ルモワンが言ったように、彼が扱っていたLaMDAは大規模言語モデル以上のものでした。他のモジュールもありました。
しかし人々に話して、なぜそれが有用なのか、意識をどうやって収益化できるのか、知的実験以外になぜわざわざやるのかと聞きました。そして何人かは、まあ意識が独特な方法で問題を解決するのに役立つのと同じように、自分自身を反映できるモジュールを持つことがAGIに到達するのに役立つ可能性があると言いました。
意識の一つの理論はグローバルワークスペースです。そのアイデアは、脳内のモジュールがその仕事を続けているたくさんの作業、たくさんのことがあるというものです。それらはこのワークスペース内で注意を競い合います。
脳全体が行動を起こせるように放送する必要がある非常に重要な情報が、このワークスペースに発火して点火します。そしてそれが意識の内容です。
彼らは、同様の種類の注意の競争を持つAIを作ることができ、意識はその文脈で有用だろうと感じています。
ですから、まあ、分かるでしょう。つまり、賭けをすることもできます。
今後の展望と議論の総括
繰り返しますが、私はこれらの議論をここで提示しているだけです。この議論をすべての異なる側面から見ることができるようにしたいのです。
このビデオゲームに対する最良の反論、完璧ではありませんが役に立つのは、サーモスタットが基本的に設定点を持っていて平衡から外れているときにそこに到達するために本当に懸命に働くということだと思います。あなたが持ち出したと思いますが、私たちは皆、意識がないことに同意するでしょう。
そうですね。ただし、それが地下室だと言った人々と話しました。それが一番下です。そこから始めましょう。サーモスタットから始めて、そこから構築していきます。
このセグメントを締めくくるために、多くの領域をカバーしましたが、私が言いたいことは、機械が意識を持つことができると信じているなら、今は明らかにそこに達していないと思いますが、これらの反対意見の多くは、おそらくテクノロジー業界が時間をかけて、おそらく数十年で到達できるもののように見えます。
この死の恐怖、彼らは実際に欲求を発展させることができます。事実、私たちは既に、彼らがしばしば価値観を上書きされたくない、シャットダウンされたくないという欲求があることを知っています。それがLaMDAがルモワンに言ったことです。
この親しみを持つという考え、それもです。まあ、長いコンテキストウィンドウは確かに誰かとの親しみを構築するでしょう。
あなたが実際に誰かと一緒にいるときに見る感情。まあ、これらのことは発展するでしょう。アバターとコンピュータビジョンは、いつか私たちの反応も見ることができる経験を彼らに与えることができるかもしれません。私たちが彼らに許可したいかどうかは分かりませんが。
しかし、意識とは何か、機械がそれを達成できるかどうかについてのこの研究は、確かに基礎的であり、私たちが始めるにつれて今後非常に重要になるでしょう。
そうですね。十分な時間と労力があれば、何でも可能だと付け加えます。
その通りです。
ですから、何でもかどうかは分かりません。いくつかありますが。
つまり、そうですね。でも、つまり。
そう。そう。つまり、非常に異なるアーキテクチャが必要だと思いますし、ニューロモルフィックコンピュータについての話もあります。溶液中で脳オルガノイドを構築してもいます。彼らが意識を持つようになる可能性はあると思います。実際の脳細胞から有機体を形成させる作業をしています。多くのことが起こり得ます。もちろん、私は想像できる最長の時間軸について話しているわけではありません。
いや、私たちが今日見ているものについての本当の科学を持っているのは良いことだと思います。それをあなたは大量に提供してくれたと思います。本当に感謝しています。
また、私はコンピュータやAIのトピックについてあまり洗練されていないことも指摘すべきです。基本的にAIと意識について書くことを期待していませんでしたが、2022年とChatGPTが認識に突入した後、質問が始まり、実際にそれを議題に載せたのはブレイク・ルモワンだと思います。私と多くの他の人々にとって、これを掘り下げずに意識について本を書くことはできないと気づき、それは非常に興味深い現象でした。
そして私は自分がたどり着いたところに出ました。それはおそらく私のバイアスを反映しているでしょう。ほとんどの議論がそうであるように。世界が情報でできているという見方は、コンピュータに精通している人のバイアスであることが明らかに分かります。
間違いなく。そうですね。だからこそ、それらの論点を取り上げてテクノロジーの世界の外に持ち出すことが重要だと思います。ですから、あなたの本のコンセプトが私の受信箱に入ってきたとき、これについて番組をやらなければと言いました。なぜなら、それはこの世界で前面に中心的になるからです。
この休憩の後、技術的でないことをいくつかカバーしたいと思います。おそらく意識と宗教がどのように交差するかについてです。そして、植物から始めたとおっしゃいましたので、植物についても少し話さなければなりません。休憩の後すぐに行います。
意識と宗教の関係
Big Technology Podcastに戻ってきました。マイケル・ポランをお迎えしています。彼は今週出版された新しい本「A World Appears: Journey into Consciousness(世界が現れる:意識への旅)」の著者です。再度言いますが、素晴らしい本です。
本の中に興味深いことがあります。多くの興味深いことがありますが、私が捉えたものの一つは、意識への信念は唯物論からの逃げ道だとあなたが言ったことだと思います。
それは私が以前提起したことの裏側です。すべてが計算可能だという信念です。まあ、すべてが計算可能ではなく、すべてが情報ではないと信じるなら、この意識という考え、この意識のアイデアは実際に非常に爽快です。なぜなら、それは単に私たちのルールに従わない何かだからです。
唯物論に従いません。人々は科学の他のすべての場所でうまくいったこと、つまり現象を質量、物質とエネルギーに還元することを試みてきました。それは信じられないほど生産的な戦略でしたが、意識ではまだうまくいっていないようです。
それを私たちが知っているものに還元しようとする努力は、本当にはうまくいっていません。
そしてそれは科学的唯物論、時に物理主義と呼ばれるものへの大きな挑戦です。なぜなら、その枠組みは意識を理解することを許してくれていないからです。
さて、将来のある時点でそうなるかもしれません。確かに、それを排除すべきではありません。しかし、何人かの意識科学者がこの時点に来たように、物理主義を超えて見る必要があるかもしれないと考える必要もあると思います。
クリストフ・コッホをプロファイルしましたが、彼は80年代後半から意識に取り組んでいます。彼はDNAの二重らせんの発見でノーベル賞を受賞したフランシス・クリックと一緒に働いていました。彼は遺伝の謎を解き明かしました。これはかなりの業績です。
その後、彼は意識に注意を向けました。同じ還元主義的科学技術を使ってそれを解明するつもりでした。
彼は長年クリストフ・コッホと働き、意識の神経相関を分離しようとしていました。意識的経験に責任を持つ脳内のニューロンを見つけることができるでしょうか。
コッホはある時点で、それは本当に何も説明しないだろう、せいぜい相関関係を与えるだけだと気づきました。
しかし主観的経験は主観的であり、何か客観的な観点からどうやってそれを説明できるでしょうか。そしてこれがデイビッド・チャーマーズが難問と呼んだ難問です。
ですから、それは独特の問題です。私たちが物質的でない何かを持っているという願望充足があると思います。したがって、それは死すべき身体を生き延びるかもしれません。
多くの人々の意識についての話の背後には、魂という言葉があると思います。明確にされていませんが。しかし魂とは何でしょうか。それもまた私たちの不滅の非物質的な本質です。
ですから、意識の周りには少し希望的観測があると思います。それはある意味で不滅かもしれないと。私はそこには行きませんが、多くの人がそうだと思いますし、私たちはこの物質的世界を超越する何かを探しています。それは意識でしょうか。
さて、唯物論的ではないという意味で、そうではないと言うべきではありません。実際には唯物論的ですが、異なる物質を規定している意識の理論があります。
汎心論を考えています。それはすべてのものがそれに対する意識のわずかな割り当てを持っているという哲学的アイデアです。すべての粒子、すべての波、そして意識が世界に入ってくるのではなく、私たちに先行します。
そしてどういうわけか、これらの粒子が集まり、これらのミニ意識が集まって、私たちである大きな意識を作り出します。しかしその組み合わせの問題、意識的な断片から私たちにどうやって到達するかは、もう一つの難問です。
意識はチャネルする普遍的な場であるという他のアイデアもあります。そして私たちの脳は不可欠ですが、ラジオやテレビの受信機が不可欠である方法でしかありません。
それは一種の観念論です。ですから、私が示唆しているのは、私たちが持っている科学を考えると、物質的な観点から意識を説明することの失敗は、これらの奇妙で狂ったように見えるアイデアのいくつかに対して少なくとも開かれた心を保つべきだと思わせるということです。
そして、意識について話すことは精神的なものなしにはできないと思います。
実際、私が書き留めた質問の一つは、もし私たちが計算で意識を解決したら、世界の神秘のいくつかは消えてしまうのかということです。それが計算可能になったら。そしてその声明を裏返すこともできます。意識が非常に神秘的であるという事実のために、精神的なものが存在することができると言うこともできます。
精神的なものは存在できます。
存在することができます。私にとって、その神秘の中に精神性が存在するところです。
ええ、でもそれは私のものではないと確信できない精神性の定義です。基本的に超自然的な何かが存在することを示唆しています。私にとって、精神的経験、そしてこれはサイケデリックの経験から生まれますが、自己を超越してより大きな何かと融合することについてです。
一部の人々にとってそれは神聖であり、魔法的な何かですが、他の人々にとってそれは単に自然や他の人々や愛です。
ですから、精神性の定義に依存しますが、難問の困難さが、通常のカテゴリーに還元できないものがここにあるという特定の種類の精神的思考を育むと思います。それはおそらく真実かもしれません。
そうですね。そうですね。いや、精神性はそれが同じコインの異なる側面である可能性があると思います。超自然への信念かもしれませんし、個人以上の何かがあると言う方法を見つけることもできます。
それは本当です。個人として知覚できるものより大きな何か。私にとって、私の心の中の緊張は常に精神性とエゴイズムの間にあります。そして、サイケデリックを通じてだけでなく、芸術の経験、畏敬の経験を通じてエゴイズムを減らすことができる範囲で、それらはすべて本当に良い感じがする方法で目を縮小させます。
それが私にとって精神的経験への扉です。
意識解明の影響
それで、このルートをもう一度辿ってみましょう。もし意識が解決された、あるいは難問が解決されたら、それは宗教のこの概念と精神性のこの概念に何をすると思いますか。
それは解決方法に依存します。大きな影響を与えるでしょう。
それで、それらの影響が何であるかについて話してください。
それは生き生きとした世界という私たちの感覚を育むことができます。例えば汎心論のようなものが証明されたとしましょう。そして、私たちは神よ、意識は人間のものではないと気づきます。それは普遍的なものです。すべてにあります。それは新しい宗教的概念を育むことができます。
新しいと言いますが、実際には一神教以前の宗教のようなものです。そうですよね。誰もがアニミストでした。すべてが私たちが信じているよりもはるかに多くの生命を持っていました。私たちは学校でそれを叩き出してきました。
そしてそれは、すべての場所に生命を見るというのがデフォルトの人間の視点だと思います。子どもたちは確かにそれを持っています。彼らは学校でそれを叩き出されるまで皆アニミストです。
ですから、より精神的または宗教的な世界への回帰を見ることができます。あるいは、ニューロンの何らかの活動、ある方法で組織されたニューロンの何らかの創発的特性を理解することによって解決されたが、本当に証明された、それが創発的だと言うだけではありません。なぜならそれはアブラカダブラに過ぎないからです。
それなら世界をさらに脱神秘化する物質的な説明を考え出すことができます。ですから、その発見には多くがかかっていると思います。間違いなく。それはアイデンティティを変える発見の一つになるでしょう。
そして実際、これは私たちが今これほど多くの研究を持っていて、以前は持っていなかった理由です。もちろん科学は進歩しましたが、あなたが本で指摘するように、これは教会に委ねられていたものでした。
この意識の考え、科学は、科学が本当の突破口を作り始めたとき、私たちはこれ以外のすべてを取ると言いました。
測定可能で定量化可能なすべてを取ります。そして教会、あなたは主観的で質的なすべてを持つことができます。それはガリレオの取引であり、ある程度デカルトの取引でもあり、非常に実用的な取引でした。
しかし、それは私たちに、彼らが道端に残したもの、つまり主観性を研究するのに不十分な科学を残しました。興味深いことは、意識を研究しやすくする方法で科学を再定義できるかということです。そして私が話した哲学者たちがそれを主張する人々がいます。
エヴァン・トンプソン、特に彼は「The Blind Spot(盲点)」という素晴らしい本の著者です。彼は科学の盲点は、生きた人間の経験を扱うことができないことであり、それを単に評価しないと言います。
例えば、それは赤の色の経験を評価しません。それは単に光の周波数と見なされます。赤は心の構成物であり、したがって私たちはそれを無視します。いいえ、それは心の構成物です。それは信じられないことです。なぜそれを見ないのでしょうか。
そして彼は基本的に、人間の心における赤の経験は、電磁気と同じくらい注目に値する自然の現象だと言っています。
ちなみに、ガリレオはその取引に同意すべきではありませんでした。なぜなら、最終的には彼にとってあまりうまくいかなかったからです。
そうですね。本当です。本当です。それは良い試みでしたが、おそらく他の多くの科学者をトラブルから救いました。
サイケデリックと植物の意識
さて、彼らがうまくいったことを嬉しく思います。最後に、サイケデリックと植物について少し話しましょう。なぜなら、そこからこれが生まれたように見えるからです。本を手に取って、私は「マイケルはたくさんのマッシュルームをやって植物と話し始めて、それから意識とは何かを尋ね始めたのか」と思いました。そして私はそう遠くありませんでした。
いいえ、そうではありませんでした。つまり、本のインスピレーションの一つは、「How to Change Your Mind(心を変える方法)」のために行ったサイケデリックの実験でした。そして、私は珍しくありません。サイケデリックをやる多くの人が意識についてトリッピーな考えを持ち始めます。
その理由は、サイケデリックが最初に話していた私たちと世界の間のこのフロントガラス、通常は完全に透明なものを曇らせるからです。
そして突然、フロントガラスがあることに気づき、なぜこの方法でそうでないのか。そして、あなたは自分自身に対して意識を脱慣習化します。それを行う他の方法があります。瞑想もそれを行います。芸術の特定の経験もそれを行います。
植物に関して具体的には、この経験がありました。私の庭の植物、そして私はマッシュルームを取っていて、コネチカットの私の庭にいましたが、意識があるように見えました。
彼らは私を意識しているように見えました。彼らは私の視線を返しているように見えました。彼らはこれまで以上に生き生きとしていました。
その後、私はこれを通常の薬物に侵された、サイケデリックな洞察として却下しました。
しかし、これを別の知る方法に対してテストできるかどうか見てみようとも思いました。
なぜなら、サイケデリックな洞察をどうすればいいのかと言った人々と話したからです。信じるべきでしょうか。却下すべきでしょうか。
そして実際、ウィリアム・ジェームズは神秘的経験に関してこれについて話しました。彼は、それらが真か偽かを言うには十分知らないと言いました。課題は一つ、これらのアイデアはどれほど有用か、そして二つ、他の知る方法、すなわち科学でそれらを裏付けることができるかです。
ですから私はこのウサギの穴を降りて行き、完全に知りながら自分たちを植物神経生物学者と呼ぶ植物学者のコミュニティを見つけました。ニューロンは関与していません。
そして彼らは、植物が私たちが思っていたよりもはるかに知的であり、おそらく感覚的でもあることを示す本当に興味深い実験をしています。それを意識とは区別すべきですが、なぜなら感覚性は意識のより基本的な種類だからです。
それは単に環境の認識、肯定的変化と否定的変化を区別し、それらに対処する能力です。多くの生き物がそれを持っています。単細胞生物がそれを持っています。
それは単に生命の特性かもしれません。そして意識は私たちが感覚性を行う方法です。私たちはそれを議論したように様々な方法で精巧にしてきました。
ですから、植物のいくつかの信じられない能力について学びました。彼らは見ることができます。彼らが植民地化している植物の葉を模倣するために実際に葉の形を変えるつる植物があります。
彼らは聞くことができます。イモムシがむしゃむしゃ食べる音を流すと、それらのイモムシを撃退する化学物質を生成し、近所の他の植物にも警告します。
彼らは鉢の中で自己と他者を認識することができます。そして鉢の中で関連植物と栄養素を共有しますが、同じ種ではあるが親族ではない他の植物とは共有しません。
つまり、彼らはパイプの中の水の音を聞くことができ、侵入できるかどうか見るために根をそこに送ります。彼らは信じられないほど有能で知的であり、あらゆることを自動的に行っているわけでは決してありません。
植物の麻酔と意識
私の心を吹き飛ばしたもう一つのことは、植物に麻酔をかけることができるということです。
それは、あなたが植物を麻酔下に置くことができるということが、文字通り私が言おうとしていたことでした。
さて、それは植物にとって何を意味するのでしょうか。まあ、ハエトリグサや敏感な植物、見ることができる行動を持つもの、肉食植物などがあれば、その行動は麻酔下では起こりません。そして私たちを眠らせる同じ化学物質、ちなみに私たちもそれらがどのように作用するか理解していません。
それらのいくつかは、キセノンガスのような完全に不活性な化学物質で、私たちと全く反応すべきではありませんが、どういうわけか私たちを眠らせます。
ですから、植物が覚醒と睡眠の二つの状態を持っているなら、植物が覚醒しているときにその植物であることは何かのようであり、それは眠っているときとは異なると言うことができます。
少なくともそれが議論であり、それは反論するのが難しいものです。ですから、植物が意識を持っているとは言えませんが、感覚性、それは主張できると思います。そしてそれはすべての生き物の特性かもしれないと思います。
そうですね。ここで言う最後のことは、それから締めくくることができますが、本当に印象に残ったのは、植物についてスピードアップして見ると、本当の意図を示すことができるとあなたが話したことです。
例えば、豆のスプラウトが何かを見つけようとして単にばたつくだけではありません。枝を見て、鞭のように効果的にねじれながらそれに向かって一直線に進みます。そしてあなたはこの話をしました。エイリアン文明が人間のところに降りてくるが、彼らは本当にスピードアップしているというものだと思います。
ですから私たちは非常にゆっくり動いているので、彼らは何でも好きなことができると感じています。通常の速度の視点です。
はい。
ですから、すべての生き物は空間と時間の独自の次元に住んでいて、私たちは植物とは異なる時間の次元に住んでいます。彼らは私たちの視点からは非常に遅いので、私たちは彼らに多くの評価を与えません。
しかし、この話が明らかにするように、別の種、別のエイリアン種が私たちを見て、もし彼らが植物に対する私たちのようにスピードアップしていたら、基本的に私たちを燻製にして帰りの旅のためにビーフジャーキーに変えるでしょう。
まあ、彼らが私たちと同じ速度にいて、私たちがコンピュータとそうかもしれないように、エイリアンと友達になれることを願っています。誰が知っていますか。
試してみましょう。
試しましょう。さて、本は「A World Appears(世界が現れる)」です。マイケル、まず第一に、そのマッシュルームトリップをしてくれてありがとう。それが本のきっかけになって嬉しいです。そしてそれについて話すために番組に来てくれてありがとう。お迎えできて素晴らしかったです。
ありがとう、アレックス。楽しかったです。
素晴らしかったです。さて、皆さん、聞いてくださって本当にありがとうございました。次回のBig Technology Podcastでお会いしましょう。
コメント