この動画は、神経科学者のアニル・セスが意識の科学的理解について論じたものである。セスは物理主義の立場から、意識は脳の物理的プロセスに基づくと考えつつも、現在のAIシステムが意識を持つ可能性については懐疑的な見解を示している。彼は意識を「ある生物であることがどのようなものかという主観的経験」と定義し、脳イメージング技術による意識の測定、動物の意識、AIと意識の関係、パンサイキズムへの批判、そして自由意志の問題まで幅広く議論を展開する。特に注目すべきは、彼が意識を生命現象と密接に結びつけて理解しようとする点であり、単なる計算処理では意識は生まれないという主張である。
意識とは何か
意識には説明があり、いつかは物理的なものに還元できると感じていますよね。それで、もし私たちが生存への欲求や意志を持つ人工知能を作り出したとしたら、それが危険になるのでしょうか。
私は誰も本当に意識を持つAIを作ろうと積極的に試みるべきではないと思います。神を演じたいという欲求以外に、なぜそんなことをするのでしょうか。意識を持つシステムと持たないシステムの違いは、私たちが自分の構成要素を再生する細胞でできていて、エネルギーを物質に変換し、またその逆を行うという事実のレベルにまで及びます。私たちは人間らしく見えるものに意識を投影しますが、実際には全く重要でない可能性があります。
私は、人工意識、本物の人工意識というものが、それが矛盾語法でないとすれば、本物の人工生命を必要とするかもしれないと感じています。脳をコンピューターだと考えるのは非常に魅力的です。人々は昔からそうしてきましたし、それは強力な比喩です。脳が行ういくつかのことを探求するための強力な地図です。しかし、私たちは常に技術的な比喩を使って脳を理解してきました。
そして、比喩を持つたびに、もしそれが本当にそのものだと考えてしまうと、今度は他に何があるかを探すのをやめてしまいます。そして、脳と最も強力なコンピューターでさえも違いを示す、他に何があるかを探し始める必要があると思います。
観客の拍手が響きます。こんにちは、皆さん、そしてアニルさん。
こんにちは、ジョニー。
意識科学の現状
私たちは今日、意識について話すためにここにいます。そして、話を三幕に分けるつもりです。第一幕では、意識科学の現状と、現時点で意識について何が分かっているかを話します。第二幕では、将来的に意識について何が分かるかという、より推測的な見方を見ていきます。
もちろん、AIについても。そして第三幕では、観客の皆さんからの質問を受け付けます。良い質問を考えておいてください。最後にアニルさんへの質問を募ります。1時間話すつもりなら、まず用語を定義すべきだと思いました。意識とは何かをあなたに聞きたいです。
おそらくこの部屋にいる全員が意識を持っているか、今意識があると思いますからね。では、科学的な観点からどう定義するのでしょうか。
それは始めるには良い場所ですが、危険な場所でもあります。なぜなら、定義に少しとらわれすぎてしまう可能性があるからです。
少なくとも、気づかずに異なることについて話しているわけではないという程度には定義することが重要だと思います。つまり、一方で意識は、まだこの大きな謎の一つだと思います。私たちは世界の経験を持っていて、どうやって起こるのか、といった具合です。しかし同時に、それは最も身近なものでもあります。ジョニーさんが言ったように、私たちは皆、意識とは何かを知っています。それは、夢のない眠りに入るとき、あるいはさらに深く全身麻酔下に入るときに消えるものです。
そして、反対側で戻ってくるものです。少し循環的にならずに定義するのは難しいです。世界のあらゆる種類の経験のようなものです。赤の赤さ、痛みの痛み。そして私は哲学者トーマス・ネーゲルの定義を使うのが好きです。彼は今から51年前にこう表現しました。
彼は言いました。「意識のある生物にとって、その生物であることがどのようなものかということがある」と。彼が論文で言ったように、コウモリであることがどのように感じるかということです。一方、テーブルやコップの水であることがどのように感じるかということは、ほとんどどんな…ごく少数の人々がそう主張するでしょう。そして、全身麻酔下にいるとき、そのときのあなたであることがどのように感じるかということもありません。
これは良い定義だと思います。なぜなら非常に一般的だからです。どのようなものであるかについて、本当に何の前提も置いていません。ただ、意識のあるものであることがどのようなものかということがあるということだけです。
それでは、人間種の意識について話すことは妥当でしょうか。それとも、この部屋にいる個々の人間の意識を見なければならないのでしょうか。
ああ、この部屋では、すべての人間を見るには長い時間がかかるでしょう。この部屋のすべての人間を…まあ、種の中でさえ、意識経験の類似性を過大評価している可能性が高いです。ネーゲルは論文でコウモリについて話しました。つまり、彼は意識について、いくつかのものが経験し、他のものは経験しないという事実が、科学によって扱えるものかどうかについて、より大きな論点を述べていました。
しかし、彼はコウモリの考え方でより知られるようになりました。コウモリは意識があると仮定すると、非常に異なる種類の意識経験を持つだろうということです。彼らはエコーロケーションを持っているので、彼らの経験する世界を、私たち人間は近似できるかもしれませんが、コウモリにならずにコウモリであることがどのようなものかを本当に経験することは決してできません。
そして、同じことが種の中でも小さな形で当てはまると思います。他の人々が私たちと同じ方法で物事を経験すると仮定するのは簡単です。なぜなら、私たちの意識経験は、特にそれが思考ではなく世界の経験であるとき、そこにあるように見えるという性質を持っているからです。まるであなたがそこにいて、壁があなたの後ろにあるように。
それは私の脳に依存していない、あなたはただそこにいる。しかし、それはおそらく起こっていることではありません。誰もが自分自身のユニークな世界を作り出しています。完全に異なるわけではないと思います。人間の経験は多くの共通点を持っている可能性が高いですが、興味深い違いもあるでしょう。
素晴らしい、ありがとうございます。そして、あなたの本「Being You」で、あなたは自分自身を物理主義者だと説明していますね。それは、間違っていたら訂正してください、あなたが意識には説明があり、いつかは物理的なものに還元できる説明を持つだろうと感じているということです。つまり、物理的な用語で意識を説明できるということです。そして、意識について話すときに脳で何が起こっているかについて少し探求できたらと思いましたが、その前に、現在脳で何が起こっているかを測定できる方法について簡単な入門をしていただけますか。
脳測定技術の現状
失礼、FMRIとEEG、そして本で話しているPCIについて、簡単に説明していただけますか。
ええ、たくさんのことがあります。それらは何らかの理由で頭字語に圧縮される傾向があります。しかし、まず、ええ、意識研究を取り巻く哲学には、これらすべての「イズム」があります。
そして、おそらく後でそれに戻ることになるでしょう。しかし、私はそれらを少し軽く着用すべきだといつも思っています。だから私は自分を実用的な物理主義者だと説明します。イデオロギーとして、真実だと分かっているもの、そしてすべてがそれが真実であることに依存しているものとして、それを信じているわけではありません。
私はただ、その態度を保持することが、実践において最も進歩と理解をもたらすことができると思っているだけです。たとえ最終的にそうでないことが判明したとしても、何らかの形でそれを識別できたとしても。だから、これは根本的に保持されている信念というよりは、実用的な視点だと思います。もちろん、「物理的なものに還元される」と言いますが、物理的なものはかなり神秘的です。それはただのニューロンではありません。つまり、物質が本当に何であるかは誰も知りません。物質は近づくとかなり神秘的で不可解です。だから物理主義者であることは、あまりにも還元主義的になることではありません。
「ああ、それはただのニューロンが信号を交換しているだけだ」と言うことではありません。それは他の多くのことである可能性があります。脳イメージングについては、つまり、私にとって、これは少なくとも意識が物理システムの特性であるという観点から考えることの結果です。人間における意識経験は人間の脳と密接に関連しているという膨大な証拠があります。
だから、人間における意識の足跡を脳で追跡しようとすることから始めるのは理にかなっています。脳活動を見て、人間における意識の変化に伴ってそれがどのように変化するかを見るのです。そして、それは私にとって非常に変革的でした。私たちがこれを行えることは信じられないほど刺激的です。科学における他のいくつかの大きな謎について考えてみてください。時間の始まりに何が起こったのか。
世界は本当に何でできているのか。遠くや昔を見るという課題があります。あるいは非常に小さなものを見るという課題があります。そしてこれらには大規模な機器が必要で、本当に難しいです。人間の脳はかなりアクセスしやすいです。それらは人間サイズで、研究対象がたくさんあり、それは大きな利点です。
そして、私たちが1990年代頃からこれらの脳イメージング法を持っているという事実、そしてそれらが広まっているという事実。歴史的に、それが意識研究に、私が思うに、現代的な勢いを与えたものです。しかし、まだ問題があります。なぜなら、人間の脳をイメージングする際の課題は、それが遠くにあるとか、昔のものだとか、小さいということではなく、複雑だということだからです。私たちには約80から86億のニューロンがあります。
それぞれが非常に複雑な小さな生物学的機械で、非常に複雑な方法で配線されています。そして、私たちには複雑さのためのジェームズ・ウェッブ宇宙望遠鏡のようなものはありません。私たちは合理的に高い空間的詳細で脳を見ることができますが、その場合時間を失います。高い時間的詳細で見ることができますが、その場合空間を失います。どちらの場合も、すべての86億のニューロンを一度に見ることはできません。
だから、私たちは常に異なる方法で物事をトレードオフしています。ほとんどの人が脳イメージングに出会うとき、通常これらのFMRIスキャンを見ています。これは機能的磁気共鳴画像法です。素晴らしい技術で、色のついた塊と脳の画像が見えます。
それは実際には脳活動を測定しているのではなく、脳活動の代謝的な結果について何かを測定しています。ニューロンが発火し、エネルギーを消費し、血中酸素レベルが変化し、磁気特性が変化します。それが測定しているものです。非常に間接的で、秒単位の時間スケールです。一方、ニューロンはミリ秒の時間スケールです。
それが1つの技術です。私の研究室では多くのEEG、脳波検査を使用しています。おそらく最も古いものです。ニューロンは何かをするときに小さな電磁場を生成します。そして、私たちはこれらの電磁変化の集合的な影響を測定できます。それは非常に高速です。脳上にセンサーを置いてこれを行います。それほど多くの高価な装置は必要ありませんが、かなり低解像度です。
それはオックスフォードの中心の上にマイクをぶら下げて、個々の人々がお互いに何を言っているかを理解しようとするようなものです。個々の人々とその詳細なやり取りの細かい粒度のおしゃべりを識別することはできません。そしてそれが詳細がある場所かもしれません。そして、人々の脳に直接ワイヤーを刺す方法があります。私は私の研究室ではそれをしません。それをするには良い臨床的理由が必要です。
そうすれば、ニューロンがどこにあるかを正確に知り、それらが何をしているかを正確に知ることができますが、通常は一度に数個しか測定できません。これは成長していて、人々は今では数百、おそらく数千を測定できるかもしれませんが、それはあなたが持っている数十億のごく小さな、小さな部分です。だから、私たちが使わなければならない技術はそういったものです。
意識を測定するときに常にこれらのトレードオフがあり、それでもあなた自身が言うように、現時点では少し不十分です。意識を測定する問題は、私たちが利用できる適切なスキャン装置を持っていないという技術の問題だと思いますか。それとも、意識に対応するために全く異なる科学的パラダイムを必要とするという科学の問題だと思いますか。
あなたは私に2つの選択肢を与えていますが、どちらもあまり魅力的ではありません。
意識研究の技術的・科学的課題
つまり、両方とそれ以上だと思いますが、少し違います。だから脳を測定する問題は、一種の技術的問題で、科学的革新に依存するでしょう。実際に生理学で何が起こっているかを測定する信号を測定する新しい方法を開発するようなものです。いくつかの新しいアイデアがありますが、私たちは持っているもので合理的に行き詰まっています。
たとえば、1つの新しいアイデアは、人間では行えませんが、物事を本当に変えているもので、オプトジェネティクスと呼ばれています。これは、動物のゲノムを修正して、ニューロンが実際に光を発するか、異なる方法で光を反射するようにするものです。そうすれば、多くのことを知ることができますが、人間では行えません。なぜなら、遺伝子を修正しなければならないからです。
とにかく、それは1つの問題です。それは科学的、技術的な問題です。それは意識を測定しているのではなく、脳を測定しています。そこで、意識の変化を脳で見る変化にどう結びつけるかを尋ねなければなりません。そして、これを非常に探索的な方法で行うことができます。
誰かを麻酔下に置いて、何が起こるか見るとか、眠りにつくときに何が起こるか見るとか、他の多くの実験パラダイムです。しかし、脳で多くのことが変化するのを見るでしょう。それらのうちどれが特に意識に関係しているかをどうやって知るのでしょうか。そこで、2つを橋渡ししようとする理論を持たなければなりません。そして、それが今私たちがいる場所だと思います。
意識が変化するにつれて脳で何が起こるかについて異なる予測をする理論の束があります。しかし、あなたが言うように、それらを区別するのは非常に難しいです。そして問題の一部は、測定の精度が不足していることですが、理論の精度も不足しています。それらはちょうど今のところ、それほど正確な予測をしません。
では仮に、トーマス・ネーゲルの一人称性の度合い、クオリアを測定できる技術があると思いますか。それとも、常に相関関係を扱うことになると言っているのですか。つまり、常に「これが起こっている物理的なことで、したがってある種の推論として意識と相関させなければならない」と言わなければならないと。
それとも、一人称性を識別できる技術があると思いますか。
相関関係から始めると思います。私たちが理解に抵抗する現象を経験的に理解しようとするとき。良い開始方法は、相関関係を探すこと、何が何と一緒になるかを見ることです。
しかし、それは出発点に過ぎません。そして、相関関係から説明へと進みたいのです。そうすれば、なぜXがYと一緒になるかという感覚を持つことができます。つまり、ウィスコンシン州のチーズの価格がフランスの離婚率と時間とともに相関しているというこれらすべてのクレイジーな例がありますよね。それは何も意味しないと思います。分かりませんが、おそらく何も意味しません。それはただの相関関係です。説明的な洞察は得られません。
そして、「眠りに落ちるときに何らかの領域の活動が変化するのを見る」と言って、それで終わりにすると、それもあなたに多くの説明的洞察を与えません。だから、「ああ、脳で起こっているこのプロセスは、進行中の意識経験について何かを教えてくれる、またはそれがあるのか、それがないのかという事実について何かを教えてくれる」という段階に到達する必要があります。
そして、それは部分的には技術的な課題です。これらの方法を改善することでできることが多ければ多いほど良いです。しかし、それがすべてではないと思います。それは役立つでしょうが、それなしでもできることはたくさんあります。課題の一部はより数学的なものです。
私たちには、すでに存在する比較的低解像度のイメージング法で得られるデータの複雑さを扱うツールが不足しています。そして、説明に向かって進むにつれて、私たちはその方法で進歩していると思います。では、このハードプロブレムに答えるほど遠くまで行けるでしょうか。「なぜ意識はそもそも存在するのか。物理世界と何の関係があるのか」ということです。おそらく行けるでしょうし、行けないかもしれませんが、確実に目標としての終点に向かってさらに進むでしょう。
素晴らしい、ありがとうございます。相関関係と神経意識相関について話しているのなら、
脳読取り技術と倫理的課題
本の頭字語でNCCについて話していますね。現時点での意識科学、神経科学の現状で。もし私たちがこの部屋にいる全員にEEGか何らかの脳スキャナーを与えたら、どの程度の確実性で人々の心で何が起こっているかを推測できますか。本であなたが意識レベル、意識内容、意識自己について話しているのを知っているからです。
どの程度の確実性で、今J4の席で何が起こっているかを予測できますか。
J4に座っているのは誰ですか。分かりません。だから、ええ、あなたが正しいと思います。まあ、私は意識のこれら3つの異なる側面について考えるのが好きです。レベル、どれだけ意識があるか。内容、何を意識しているか。そして自己、あなたが誰であるかの経験、経験の主体であることの経験で、これは実際には内容のサブセットです。全体的な意識経験のサブセットです。
しかし、それは独自のカテゴリーに値すると思います。なぜなら、それはかなり特別だからです。もし全員がEEGを着けていてデータが良ければ、あなたが意識があるかないかを予測することはそれほど難しくありません。それは可能です。意識状態にある人間の脳活動は、いくつかの点で比較的予測可能です。
さまざまな周波数帯域で起こっている多くの種類の速い振動があり、これを測定するより洗練された方法があります。そして眠りに落ちるとき、眠りに落ちて夢を見ていないとき、非常に異なるパターンが見られます。麻酔下でも同じです。だから、それはほとんどの人にとっては問題ないと思います。
しかし、それでも奇妙なエッジケースがあります。たとえば脳損傷のある人々がいて、それが難しくなるかもしれません。誰かが植物状態または覚醒無意識状態と呼ばれるものを持っている場合。彼らは目覚めているように見えるかもしれませんが、誰もいないように見えます。そして、それは内部で何らかの意識が起こっているかどうかを予測し、判断することがはるかに難しい問題になります。
あなたが何を意識しているかを予測することになると、それははるかに、はるかに難しいです。しかし、今ではブレインリーディングという研究分野が成長しています。つまり、人々は昔はマインドリーディングと呼んでいましたが、今ではブレインリーディングです。ブレインリーディングはまさにこのブレインリーディングで、誰かの脳信号を取り、何らかの方法でそれらを測定し、次に彼らが何を考えているか、何を経験しているかを予測しようとします。これは今やサイエンスフィクションからサイエンスリアリティに移行しつつあるものの1つです。
そして、すでにこれのいくつかの、私にとって本当に印象的な例があります。それらは通常臨床例で使用されます。だから、たとえば麻痺している人々。彼らの動きの意図を読み取ることができるようになり、ロボットを制御したり、筋肉を刺激することで自分の腕を導くのを手伝ったり、彼らが言いたいことをデコードして、いくつかのケースでコミュニケーション能力を取り戻すのを手伝ったりできます。だから、これが行われる強い推進力があります。
しかし、これは実際には多くの点で非常に危険な技術でもあるという問題もあります。私たちは言論の自由があると思っていますが、それはいくつかのケースでは議論の余地がありますが、思想の自由を持っている場所はほとんどありません。そして、あなたが何を考えているかを予測する脳イメージングのものを持つと、プライバシーの最後の砦を失います。なぜなら、頭蓋骨の中に入ると、もう他に残された場所はないからです。そして、これらの予測を行うアルゴリズムは完璧ではありません。
だから、あなたのブレインリーディングは不正確かもしれませんし、また、物事を機能させるために特定の方法で考えることを強制されるかもしれません。しかし、技術はこの方向に進んでいます。ブレイン・コンピューター・インターフェースのこの分野全体は本当にすべてこれについてです。そして実際、それは非常に刺激的ですが、私にとっては倫理的に本当にかなり心配です。
しかし、今のところ、私たちは皆さんがここで今何を考えているかを高い確実性で予測することはできないと思いますが、それは変わるかもしれないと思います。私は消費者向けEEGでブレインリーディングをしようとしているいくつかの会社にアドバイスしていますが、彼らはかなり遠くまで進んでいます。非常に驚くべきことです。
あなたの本で、意識に関する多くのイズムと哲学全般について話していますね。正直言って、しかしあなたは物理主義者だと自認しています。
実用的な物理主義者です。
実用的な物理主義者ですが、機能主義については不可知論的ですよね。
ええ、私はかなり気に入っています。ええ、かなり気に入っています。ええ。
あなたは機能主義に傾いているのですか。
まあ、柔軟でなければならないと思います。ええ、まったく同じ見解を持っていたら残念でしょう。
おそらくまず機能主義を説明していただけますか。
ええ。まあ、それは一種のサブ…だから物理主義は、意識は物理世界の特性、一般的に物質的なものの特性であるという立場です。それは科学が過去100年間行われてきた基盤となる仮定の1つで、物事は電子であろうと、より高いレベルの記述であろうと、物理的なものの特性であるということです。それが物理主義です。それは本当に、もともとは二元論のようなものに対立していたかもしれません。二元論とは、ええ、物理的なもの、ニューロンとニューロンでできているものがありますが、心の世界、精神の世界は完全に異なるということです。
そしてルネ・デカルトはこの立場を明確にしたことで有名でした。そして反対側には観念論があります。これは実際には物理世界は本当に存在せず、本当に存在するのは精神的なもの、心のものだけで、物理的に見えるものはただの精神の現れに過ぎないという見解です。
次に物理主義の中で、意識がどういうわけか物理世界の特性であるというこの考えの中で。その最も人気のあるフレーバーの1つが機能主義です。そして、それは意識は物理世界の特性であり、脳の特性であり、おそらくその身体、そして世界の中の身体の特性であると言っています。
そして意識が脳の特性であるために重要なのは、脳の機能的組織です。本質的にそれが何であるかではなく、ある意味でそれが何をするか、どのように組織されているかです。そしてこれは内部でもそうです。それがどのように配線されているか、その因果的アーキテクチャーは何か。それはすべて機能主義の一部です。
そして、それはおそらく神経科学の観点から意識科学に取り組んでいるほとんどの人々の間で優勢なアイデアです。だからかなりリベラルです。より具体的な主張と区別する必要があります。これについては後で触れますが、脳はコンピューターで、意識はこのアルゴリズムだというような。つまり、それは非常に具体的な種類の機能主義です。
ええ、そうですね。AIについて少し後で話すときにそれに戻ります。しかし、それより前に別のイズムについて、そしてそれは哲学で今非常に人気のあるイズムで、この部屋の中にさえパンサイキストがいます、パンサイキズムです。
パンサイキズムへの批判
だから、パンサイキズムとは何か、そしてなぜあなたがそれについて一部の人々ほど興奮していないのかを簡単に教えていただけますか。
まあ、何人の人がパンサイキストですか。見てみましょう。分かります、まあ、半分の手?半分の手。多くはないだろうと思っていました。多くはない、まあ多分もっと多くの人々がそれになるかもしれません、私がそれに冷水を浴びせようとした後、そして…
質問は何でしたか。
質問は何人の人がパンサイキストかということです。私は、さて、それから始めます。それから始めます。だから、意識は物理世界の一部であるという考え、または物理的なものの特性であるという考え、または存在するすべては心であるという考えがあります。次にパンサイキズムは、さて、物理世界があるが、意識も基本的であるという考えです。それは私たちが住む世界の基本的な特性であり、宇宙の基本的な特性です。質量や電荷のようなものと同じ地位です。それがそうで、それが物事が底を打つところです。ほとんどの物事について、テーブルが木でできていて脚があるので、何かがそうであると言うことができ、下に行き続けることができ、最終的に電子やクォーク、または何をしたいかに到達し、どこかで底を打ちます。
パンサイキズムは、意識でも底を打つという考えです。それは最初からそこにあります。それが他の何かによって生成されたり、他の何かから生じたり、出現したりする方法を問う意味はありません。それはまさに最初からそうです。さて、パンサイキズムとは何かを説明したので、それが合理的に不正確ではないことを願っています。
何人の人がその考えに魅力を感じますか。さて、もう少し多くなりました。今でもそれは少数派です。しかし、あなたは正しいです。それは太陽の下で日を過ごしていると思います。そしてええ、私はそれに全く説得されていません。そして、それにはいくつかの理由があります。まず、それは正しいかもしれません。
私たちが話してきたこれらの立場のすべて、それらのどれも実際にテストすることはできません。それらはすべて、それが実際に物理学の特性であるかどうか、世界がすべて精神的であるかどうかを決定できません。それらはすべて物事について考える方法です。しかし、パンサイキズムは、最終的に正しいかもしれないとしても、物事について考える非常に有用または生産的な方法ではないと私には思えます。そして、これにはいくつかの非常に迅速な理由があると思います。
1つは、それが主に物理主義的説明では十分ではないという疑いによって動機づけられているように見えることです。人々は、「まあ、ニューロン、または脳、または炭素、または計算的、または何であれ、それの観点から意識を説明することは決してできないだろう。決してそれをすることはできないだろう。どこかで常にポイントを逃すだろう。
本当に意識ではない他の何かを常に説明することになるだろう」と考えます。だから、常にポイントを逃していて、常にポイントを逃すつもりなら、それは何か別のものでなければなりません。そして、それについて考える他の方法の1つは、「まあ、それが最初からただそこにあるなら、素晴らしい、それが他の何かによって、または他の何かと同一であることによってどのように生成されるかを説明する必要はありません。
しかし、それは唯物論でどこまで行けるかを本当に過小評価していると思います。何かが今少し神秘的に見えるかもしれないからといって、それが常に神秘的に見えるということではありません。だから私は動機に疑いを持っていますし、それを買ったとしても、どこにも行けないと思います。
だからパンサイキズムはしばしば、テーブルやスプーンのようなものが意識的であるとか、すべてが意識的であるとか、少しカリカチュアされています。それはそう言っているのではなく、それが基本的であると言っています。電子には少しの意識があるかもしれませんが、それはあなたや私、コウモリ、ハチの意識とは全く異なります。そこに本当につかめるものが何もないなら、それは何も説明するのに役立ちません。
電子の意識が私の意識と全く異なるという事実、それなら何の説明的な光、それは私がコップの水を飲むことや眠りに落ちること、または夢を見ることがどのようなものかについて何を教えてくれますか。何も教えてくれません、ただ教えてくれません。そして最悪のこと、いや、2番目に悪いことは、テスト可能ではないだけでなく、テスト可能な予測につながらないことです。
このパンサイキスト的な方法で考えると、それがしばしば動機づけられる別の方法は、科学は物事が何をするかを教える傾向がありますが、それらが何であるかは教えないということです。そして、おそらく私たちは物事が何であるかに興味があります。そしてもちろん私たちはそうですが、物事が何であるかは、ある意味で彼らが別のレベルで何をするかということです。いくつかのパンサイキスト的議論は、意識はすべての本質的な性質であると言います。それは、最も基本的なレベルで、物事が何をするかとは完全に分離可能な、物事が何であるかということです。
だから、重力や強い核力のような物理学の他の力があったとしても、それらは依然として物事が何をするかについてです。しかし意識は実際に物事が何であるかかもしれません。しかし、それがそうである場合、あなたは基本的に…あなたは、それが何かに違いをもたらすことは決してできないことを認めています。もしそれが根本的に物事が何であるかについてであり、物事が何をするか、または物事をする傾向とは何の関係もないなら、何かに違いをもたらすことは決してできません。
だから、それはかなり役に立たないです。
あなたは出現を特性として反対していますか。
全く反対していません。
では、出現の考え方は、間違っていたら訂正してください、意識は先ほど話した物理的な神経相関から出現するものだが、それ自体はそれを構成する部分に還元できないということですか。
私は、出現がすべてに関する考え方が好きです。
そして再び、それは非常に滑りやすい概念で、しばしばかなり怠惰に使用されます。何かがあるように、それはしばしば実際の説明の代替として使用されます。私たちの脳に多くのニューロンがあり、「ああ、意識は私たちの数十億のニューロンの集合的活動から出現する」と言います。しかし、もちろん、それだけを言うなら、あなたは本当に何も言っていません。
そうは言っても、それは有用な説明を開発できる出発点だと思います。出現はシステムについて考える賢明な方法だと思います。私はしばしば、私が住んでいるブライトンでは、冬に夕方日没の頃にムクドリの群舞が群れ始め、そして古い西桟橋の廃墟に止まって休みます。美しいです。
そして、彼らが群れ始めると、群れは一種の自律性、独自の心、独自の存在を持っているように見えます。それはその部分の合計以上のものであるように見えます。しかし、もちろん私たちはそれらがただ飛び回っている鳥に過ぎないことを知っています。不気味または神秘的なことは何も起こっていません。彼らはただ飛び回っている鳥です。
しかし、時々彼らがこれをするとき、彼らは群れ、時々彼らは群れません。そして、私たちはそれをどのように測定するかを理解できます。そして、それは私たちが私の研究室で行っている仕事の一部です。私たちはムクドリの「群れらしさ」を測定する数学的方法を開発しようとします。
そして重要なのは、ムクドリでそれができるなら、一般化できるということです。そして、「さて、ニューロンも群れるかもしれないが、3次元空間ではなく、ニューロンの数に応じたより大きな高次元空間で」と言うことができます。それは意識を説明しますか。いいえ、説明しないと思いますが、それは粗雑な相関関係よりも少し以上のものを私たちに与えることができます。なぜなら、私たちが意識経験を持つとき、それについての1つのことは、それが統一されているということです。今、私たちは一度に単一の経験を持っており、それは多くの異なる部分で構成されています。そして、私たちの脳には多くの異なる部分があり、その活動は私たちが意識的であるときに特定の方法でより調整されているように見えます。だから、出現の数学が脳が意識にどのように関連しているかについての手がかりを私たちに与えてくれるかもしれません。これは、「ニューロンがあり、次に意識がその活動から何らかの形で出現する」と言うのとは非常に異なる視点です。アラジンがランプをこすって何が出てくるかのように。
ジーニーが出てきます。ジーニーがランプから出てきます、ええ。だから、それは考える間違った方法です。もっと生産的な考え方があると思います。それらは還元主義が成り立つという考えとも完全に互換性があります。再び鳥のように、鳥の群れ、新しい物理的なものは世界に入ってきませんよね。しかし、群れは一種の現実です。
群れがそこにあることは、鳥の行動を変えます。このテーブルもある意味でそれを構成するものから出現していますが、テーブルも現実です。しかし、テーブルがそこにあるからといって、単に電子の束ではなく、不気味または魔法的なことは何も起こっていません。
AIについて話しましょう。
ああ、わかりました。
人工知能と意識の関係
そして、先ほどあなたが機能主義者であり、意識は物理的構成の機能によって説明できると感じていることを述べました。
まあ、それは賭けのようなものだと思います。それが戦略だと思います。それが真実かどうかは分かりません。
不可知論的よりもいくらか良いと今は思っていますか、多分。それで、AIについて話しています。だから、「Being You」を書いていたとき。私は数日前にそれを読んでいましたが、実際にはChatGPT-3の時点で書いていました。
だから、これは4年前でした。実際、それがどれだけ前だったか気づいていませんでした。AIについて話す前に、既存の大規模言語モデルがどのように作られているか、人工知能がどのように作られているかについて簡単な入門をしていただけますか。ニューラルネットワークと神経シンボリックネットワークについてよく話しますが、それらが人間の神経ネットワークと異なるかどうか、もし異なるならどのように異なるのでしょうか。
ええ、つまり、それについて言うことがあまりにも多すぎて、言いません。しかし、おそらくそこから引き出すべきことは、まず、これらのものは素晴らしいということだと思います。あなたが正しいです。私は今そその章を振り返ります。私の本の最後の章はAIについてで、言語モデルが公共圏に突破しようとしていたときに書かれました。そして、それらは変革的でした。そして、私にとって驚くべきことは、私たちがそれらにどれだけ早く慣れるかということです。
それは、「ああ、それらは今存在する、私たちはそれらに慣れている」というようなものです。私たちがどれだけ早く適応するか、本当に、本当に奇妙です。そして、彼らが何をどのように行うかについての多くの技術的詳細がありますが、ここで考えるべきことは、今日世界に広がっているすべてのAIシステムにおいて、それらが言語モデルであろうと、タンパク質構造を予測するAlphaFoldのようなものであろうと。
それらは、人工ニューラルネットワークに少なくとも部分的に、ほぼ全体的に基づいています。そして、これらは抽象化です。それらは一般的に脳の抽象化です。そして基本的に、それらは配線された小さなユニットです。つまり、実際のコンピューターでは、それらはこれらの小さなユニットのシミュレーションに過ぎず、実際には小さなユニットはありません。
それらは配線され、信号を交換します。それらは少し脳のように見えます。ニューロンが配線され、などです。そして信号が流れ、異なるトレーニングアルゴリズムと膨大な量のデータを適用でき、言語モデルのような素晴らしいことが起こります。
問題は、少なくともこの方法で構築されたAIが人間の脳が持つすべての特性を持つかどうかを考えるときの問題は、人間の脳がそれ以上のものだということです。だから、これらの人工ニューラルネットワークは、私たちの頭蓋骨の中にあるものの本当の生物学的複雑さの薄い抽象化です。それは重要ですか。もっと多くのことが起こっていることは重要ですか。重要でないかもしれませんが、もっと多くのことが起こっていることが本当に重要かもしれません。
実際、AIができることの限界のいくつかを見るとき、それらは必ずしもコンピューター能力の量やデータの量を増やすだけで解決されるものではありません。それは、私たちが実際に誤って比喩を具体化してしまったからかもしれません。地図と領土を混同してしまいました。脳をコンピューターだと考えるのは非常に魅力的です。
人々は昔からそうしてきました。そして、それは強力な比喩です。脳が行ういくつかのことを探求するための強力な地図です。しかし、私たちは常に技術的な比喩を使って脳を理解してきましたし、それは常に限定的でした。そして、これが異なる理由はないと思います。それは今、その有用性の終わりに達しつつある比喩に過ぎません。
そして、私たちが比喩を持つたびに、もし私たちが本当にそれがそのものだと考えるなら、他に何があるかを探すのをやめます。そして、脳と最も強力なコンピューターでさえも違いを示す、他に何があるかを探し始める必要があると思います。
冒頭でネーゲルについて述べましたね。もちろん、ネーゲルはコウモリについて話しています。そして、あなたの本でも、特定の動物が意識を持つ可能性、意識の程度を持つ可能性があると言うことに満足していますね。たとえそれが先ほど述べたように人間の意識と同じでなくても。
では、なぜ人工知能にもそれを帰属させることができないのでしょうか。それとも、人工知能には、あなたが意識があると言って満足しているすべての動物が持っている必要な構成要素が欠けているのでしょうか。その必要な構成要素とは何ですか。
ええ、これはある意味で文字通り10億ドルの質問です。最近AI業界で流れている資金の量を考えると。
私はAIで博士号を持っていますが、金銭的に有用であるには約20年早すぎたようです。だから、ハムスターや魚とAIシステムとの対比は、本当に、本当に示唆的だと思います。多くの非人間動物について意識が特性であることについて、私たちははるかに自信を持つことができると思います。すべての非人間動物が何らかの意識を持っているかどうか、またはそれがどこかで無に灰色になるかどうかについて尋ねる良い質問があります。私にとって、私は昆虫の周りで不快に感じ始めます。
昆虫について本当に何を言うべきか分かりませんが、私たちは皆同じものでできています。それは重要ですか。まあ、それに行き着きます。私たちは皆同じものでできていますし、私たちは皆、ある意味で体を生かし続け、環境をナビゲートし、多くの異なる種類の情報を統合するために解決すべき同様の問題を持っています。
何についても確信を持つことは決してできません。あなたが実際に意識があるかどうかさえ知りませんが、あなたがそうであるという私の事前確率はかなり高いですが、私たちは常に推論しなければなりません。一部の哲学者は、自分が意識があるかどうかさえ知らないと言いますが、それは、誰が知っているでしょう。
そして、ベンチマークである人間のケースから離れれば離れるほど、私たちの推論はより安全でなくなります。そして、それが今行われる必要がある仕事の一部です。私たちは不確実性のゾーンに非常にゆっくりと慎重に一般化しなければならず、私たちについて、そして人間であるという事実に単に偶発的でないことについて、意識を本当に支えているものについてもっと理解するにつれて、それをさらに遠くに押し出そうとしなければなりません。
たとえば、意識が洗練された言語のような本当に人間に特有の何かと関連していると考えるなら、他の種も言語を持っていますが、詩を書く能力のようなものを持っているなら、他の多くの種にそれを帰属させることはありません。しかし、それは世界で実際に何が起こっているかへの洞察であるというよりも、人間を中心に置く私たちの不幸な人間の傾向に根ざした見解です。そして、それはAIに関しても私たちを誤解させるものだと思います。
私たちは、実際には全く重要でないかもしれない方法で、人間らしく見えるものに意識を投影します。数年前まで、もしChatGPTの流暢さであなたに話しかけるものがあれば、それが意識的だと言うことは非常に正当化されるでしょう。脳損傷のある人が突然あなたと深く会話し始めたら、彼らが意識を取り戻したとかなり確信できるでしょう。
しかし今、私たちはその推論が安全でないかもしれないシステムの例を持っています。なぜなら、それを行う他の方法があることが判明したからです。完璧ではありません、十分長くチャットした人なら誰でも、それらは完璧ではありませんが、かなり、かなり良いです。そして、私たちは皆持っているこれらの心理的バイアスを投影すると思います。そこでは、人間であることのレンズを通して世界を見ます。
だから、私たちは機械意識の妥当性を過大評価します。AlphaFoldが意識的だと誰も思っていません。AlphaFoldはタンパク質を折りたたむこのAIシステムです。なぜなら、それは私たちに話しかけないからですが、基本的にはフードの下で同じ種類のことをしています。そして、それは示唆的だと思います。それは、AIに意識を帰属させる私たちの傾向が、主にそこにあるものではなく、私たちが考えるものの特性であることを私たちに教えてくれます。
そして、意識が計算の特性になり得るかどうかについて、より深い質問があります。そして、ここで私は多くの人々がこれについてお互いに、そして私に同意しないと思いますが、脳はアルゴリズム以上のことをたくさん行っていると思いますし、それらが行うアルゴリズムでないことは実際に意識にとって重要だと思います。だから、AIシステムは説得力を持って意識的であるように見えるかもしれませんし、それはそれ自体の方法で問題がありますが、私たちが持っている現在のシステムでAIが実際に意識的である可能性は、たとえそれらを走らせ続けて、どこにいるか見るだけでも、
ChatGPT-10のようなものでも、私は全く近づかないと思います。それよりもはるかに説得力のあるものを手に入れるかもしれませんが、実際に意識的であることの針を動かすものを手に入れるとは思いません。
では、AIに意識を帰属させるために何が必要でしょうか。それとも、人工意識という言葉さえ不可能だと思いますか。
それは具現化されている必要があると思いますか。有機的で自然である必要があると思いますか。
つまり、確実には分かりません。私はここで両方向での過度の自信に常に警戒しています。それが問題の一部だと思います。意識的なAIが来ている、またはすでにここにあると非常に、非常に自信を持っている人々は、そのレベルの自信において正当化されていないと思います。それが確実に不可能だと言う人々も、それを完全に除外することにおいて過度に自信を持っていると思います。私のバイアスは、それが非常にありそうにないということです。そして、私がそれがありそうにないと考える理由は、私にとって意味を成し始めている意識の説明の種類が、それが生きているシステムの特性だということです。
それは、私たちが代謝、生理学、進行中の計算的でない他のすべてのものを持つ生物であるという事実と密接に結びついています。それは実際に、なぜ意識がそのようなものであるか、なぜそれがそもそも起こるかについての洞察を私たちに与えます。そして、脳を見るときに飛び出してくる1つのことは、それが何であるかを見て、アルゴリズムのレンズを通して見ないことは、脳にはマインドウェア、私たちが考えるもの、私たちの脳や心がすることと、ウェットウェア、私たちの脳の生理学との間に明確な区別がないということです。明確な分割線はありません。
それは一種の垂直統合で、脳領域から個々の細胞にまで及びます。コンピューターでは、ソフトウェアとハードウェアの間に明確な分割があります。それは設計によるもので、コンピューターを有用にするものです。本物の脳はそうではありません。だから、少なくとも私にとって、一種の通線があります。私が意識的かどうか、または私の視覚経験がどのように進行しているかを決定するかもしれない、より大きなスケールで脳が何をしているかについて私たちがどのように理解するかについて、そして実際に生き続けるというビジネスについて、はるかに小さなスケールで何をしているか、代謝を使って自分自身を再生することについて。
通線があります。少なくとも私は通線があると思います。だから、本物の人工意識、それが矛盾語法でないとすれば、本物の人工生命を必要とするかもしれないと感じています。
あなたは本で獣機械理論について述べていますね。それはあなたがそこで言っていることの一種ですが、意識は基本的に自分自身の世話をし、自分自身が生きることを望み、生き残ることを望む必要があるということです。
だから、もし私たちが生存への欲求や意志を持つ人工知能を作り出したとしたら、それが危険になるときですか。本でたとえば、哲学者の名前を思い出せませんが、メツィンガーが意識研究に30年間の凍結を求めたと言っていますよね。なぜなら、自分自身を生かし続けたいという欲求を人工知能にプログラムすることは、あなたがそこで言っていること、意識に必要かもしれないことですが、突然かなり危険な見込みになるからです。
まあ、本当にそれらのどれでもありません。だから、メツィンガーについては、まず、幸いなことに、彼は意識研究の凍結を求めたのではなく、機械意識を開発する研究のモラトリアムを求めました。正直言って、私は彼に同意します。誰も本当に意識的なAIを作ろうと積極的に試みるべきではないと思います。
神を演じたいという欲求以外に、なぜそんなことをするのでしょうか。それは持つには少し奇妙な目標です。倫理的に非常に、非常に疑わしいです。幸いなことに、それが起こる可能性は非常に低いと思います。意識はただの計算の問題だと示唆する他の多くの理論があります。そして、もしそれらが正しければ、そうかもしれませんが、それは私が思うよりもはるかに可能性が高く、それは悪いことだと思います。
生命と意識の関係
しかし、もし私が正しい軌道に乗っているなら、誰が知っていますか、生命に関する何かが重要であるということ、それは時々バッテリーを充電する一種の動機を持ってロボットをプログラムするだけではありません。そのように説明すると、あなたは依然としてすべての仮定とこの計算的見方の遺産をインポートしています。それは何かをするようにプログラムされています。
私たちはそうするようにプログラムされていません。代謝を持つようにプログラムされていません。私たちは代謝を持っています。私たちは遺伝子についてもあまりにも緩く話しすぎます。私たちの遺伝子はプログラムされている、または私たちをこれやそれをするようにプログラムします。いいえ、それらは私たちが持っている深く複雑で統合された生理学的システムの一部に過ぎません。
だから、たとえば高度な人型ロボットを持ち、次にそのデジタル脳をプログラムして、自分自身をコンセントに差し込むか、損傷を受けた場合に自分自身を修理するようにすることで十分だとは思いません。私の疑いは、意識的なシステムと非意識的なシステムの違いはもっと深いところにあるということです。それは、私たちが自分自身の構成要素を再生する細胞でできているという事実のレベル、エネルギーを物質に変換し、またその逆を行うという事実にまで及びます。それが重要だと思います。もちろん、それがそうであることを知っているとは言えませんが、
それは、なぜ意識がそのようなものであるかについての良い説明的把握を与えてくれると思います。私にとってこの意味でのAIよりも心配なのは、人々が今これらのいわゆる脳オルガノイドを構築していることです。これらは研究室の皿の中の脳細胞の集まりで、これも非常に良い理由、医学研究などのためです。
そして、それらは特に興味深いことは何もしません。だから、人々はそれらが意識的かもしれないという事実についてまだあまり心配していません。少なくとも公の領域ではそうではありませんが、それらは同じものでできています。だから、不確実性の全体的な領域が消えます。つまり、生きていることがある意味で重要であるという正しい軌道に私が乗っているかどうか誰が知っているでしょう。
しかし、生きているシステムを作り始めると、私が正しいかもしれないし、間違っているかもしれませんが、それは重要ではありません。なぜなら、それはすでに行われているからです。その条件をすでに入れていますし、これらのシステムがより複雑になるにつれて、彼らは私たちが気づくように誘惑されることさえないかもしれない方法で経験する能力を持ち始めるかもしれません。なぜなら、彼らは何もしないからです。
観客からの質問に移る前にもう1つ質問をしますが、あなたが今話していたときに考えていたのですが、あなたの研究領域から少し外れるかもしれませんが、意識が私たちの体の異なる部分、特に腸内微生物にどのように分散しているかについて現在多くの研究があります。
具現化された経験の一種として話しているなら、脳の外で手がかりを探すことができるというのは1つのことですか。
ええ、これは非常に興味深い質問です。つまり、神経科学者の別の不幸な習慣は、おそらく当然のことながら名前を考えると、体の残りの部分を無視して脳に焦点を当てることだと思います。
これは問題だったと思います。なぜなら、脳は体の文脈なしに進化しなかったからです。そして、体は脳と継続的な対話をしています。そして実際、ニューロンは脳だけにあるわけではありません。私たちは腸にたくさんのニューロンを持っていますし、心臓の周りにもいくつかあります。おそらく他の場所にもニューロンがあるでしょう。腸のニューロンは最も多くのセロトニンを生成します。脳機能に影響を与えることが多いこの化学物質です。その多くは腸から来ています。腸のニューロンも脳リズムを生成します。それらは一緒に振動し、主要な脳のリズムと同期できます。だから、私は疑いを持っていません、まあ、非常に、非常に可能性が高いと思いますし、良い証拠があります。決して疑いを持たないとは言うべきではありません。常にある程度の疑いを持っています。
脳が行うことは体で起こっていることと非常に、非常に密接に関連しているという非常に良い証拠と理由があると思います。そして、それは脳の外のニューロンも含みます。あなたの腸は意識的かと言うのは非常に異なる質問です。あなたの腸は意識に影響を与えることができると思います。それ自体が意識的ですか。分かりませんが、ありそうにないと思います。
それがありそうにないと思う理由は、それが意識的でなければならない良い理由がないからです。私たちにとって意識は、行動を導き、腸自体が単独で行う必要のない方法で多くの異なる情報を統合することと関連しているように見えます。そして、あなたの脳、私の脳の大部分でさえ、特に意識に関与していません。それは生物学的であるすべてに一般的に有用な何かではありません。
だから、あなたの腸は意識的だとは思いません。
素晴らしい、観客からの質問を本当に。巡回マイクがあると思います。上の階で話したい人がいれば、あなたのためにもっと大きな声で言いますので、そこにはマイクがないので。皆さんが話したければ、どうぞ。はい。
先ほどあなたが言ったことに同意しますが、脳のハードウェアと心のソフトウェアの間に明確な境界はないということです。
だから、あなたが言うように、脳を持った全身が必要です。もしコンピューターがそれをすべてシミュレートできるほど大きければ、人工知能を持つことが可能になると思いますか。
ありがとうございます、素晴らしい質問です。もし私たちがすべての複雑な詳細をどんなレベルまでもシミュレートするのに十分な計算力を持っていたら。これは美しい質問です。
人々は全脳エミュレーションという観点からこれについて話しますし、人々は実際に、ある人々は、もし彼らがこれを行い、自分自身の全脳をエミュレートすれば、何らかの形で自分自身をそれにアップロードでき、ある種の奇妙なシリコンの携挙で永遠に生きることができるという希望を持っています。
最初の質問は、全脳エミュレーションであることがどのようなものかということがあるかどうかです。これは、あなたの質問を言い換える別の方法ですよね。そうは思いません。そして、私がそう思う重要な理由は、あなたが非常に重要な区別を示唆しているからです。それは、何かのシミュレーションは一般的にそのものの再現と同じではないということです。つまり、コンピューターがこれほど有用である理由の1つは、基本的に何でもシミュレートできることで、それは彼らの素晴らしい特性の1つです。
ほとんどの場合、私たちはシミュレーションがシミュレートされているものを再現していないという事実について完全に混乱していません。気象システムをシミュレートする場合、コンピューターの中で実際に風が吹いたり、雨が降り始めたりすることを期待しません。つまり、「まあ、シミュレートされた人にとっては濡れているかもしれない」と言う人もいますが、それは脳のシミュレーションで十分だという仮定を組み込んでいます。
しかし、あなたは常に詳細を落とすときにそれを行います。
まあ、つまり、しかし思考実験の贅沢は、詳細を落とさないと仮定するだけです。だから、宇宙の大きさのコンピューターか何かが必要です。しかし、それを行ったとしても、宇宙の大きさのコンピューターを持って雨嵐をシミュレートしていても、それはまだ濡れていません。それはただの非常に、非常に、非常に、非常に詳細なシミュレーションです。
何かのシミュレーションが実際にそのものを生成する唯一の時は、そのものが自体が計算である場合です。いくつかの数を別の数にマッピングするアルゴリズムのようなものをシミュレートすると、そのアルゴリズムを再現しています。なぜなら、その性質は計算だからです。だから基本的にそれは賭けです。計算が意識に十分であれば、全脳エミュレーションで十分で、あなたは大丈夫ですが、奇妙なことは、計算が意識に十分であれば、この種の全脳エミュレーションを行う動機全体が本当に損なわれます。
なぜなら、それを行うポイントは、「まあ、詳細が重要だ」という一種の考えだからです。そして、詳細が重要であれば、計算で十分である可能性は非常に低いです。なぜなら、計算は詳細が重要ではないという考えによって動機づけられているからです。
はい?
私には常に問題がありました。私であることがどのようなものかということには、なぜなら私が関与する最も重要な意識的活動の1つは、ほとんど必然的に自己感覚の喪失を伴うからです。つまり、スポーツについて考えてみると、私は多くのスポーツをしていました。
重要な試合で何かをしている瞬間。あなたは意識的で知的な活動に従事していますが、あなたであることがどのようなものかということは本当にありません。あなたはただそれをしているだけです。書いているとき、あなたは書こうとしていることの一種の前反省的なリハーサルを持つことができます、またはただ書くか話すことができます。
あなたは思考を外在化しますが、あなたが表現する思考である内的な前リハーサルを必ずしも持っていません。失礼、私は自分の声に少し詰まりました。私は今話そうとしていて、自分の声を意識していますが、次に何を言うかを意識していません。それはただどこからともなく来て、それは意識的な活動で、最高のとき、私がインタビュアーまたは観客の誰かとして尋ねた最高の質問。
これのように。
まあ、それはひどいものかもしれませんが、それはただ出てきているだけです。常に私であることがどのようなものかということがあるわけではありません。私が立ち止まって反省するときにのみ、私であることがどのようなものかということを得ます。そして、それはその時点での一種の作話です。
だから、私は自分自身またはトーマス・ネーゲルを適切に説明しなかったと思います。それは自己反省的意識についてではありません。
あなたであることがどのようなものかということがあるという意識の考えは、あなたが「ああ、私であることはこのようなものだ。私はスポーツをしている、または私は何を言うべきかについて考えている」と考えていることを意味しません。あなたがスポーツをしているとき、または考えているとき、または話しているとき、または何をしているときでも、何らかの経験が進行しています。
あなたは…この定義の力の一部は、それがエゴを仮定しないこと、自己を仮定しないこと、単に何らかの種類の意識経験が起こっていることを仮定するだけだと思います。最近の人間にとっての最小限の現象学的経験についての多くの議論。人間が持つことができる最も単純な経験は何か。そして、これに関する興味深い角度の1つは、エゴの完全な解消がある状態です。これは非常に、非常に深い瞑想状態にあるかもしれません。
いくつかの種類のサイケデリック後かもしれません。他のいくつかの状況でもあるかもしれません。しかし、エゴが部分的に消えているだけでなく、スポーツをしているときや楽器を演奏しているときのように、完全に消えている状態があるようです。自己の経験は全くありません。重要なのは、意識はまだ起こっているということです。
あなたはそれに対する反省性を持っていませんが、それはまだ起こっています。多くの非人間動物はこの種のことを持っているかもしれません。彼らは意識経験を持っているかもしれませんが、そこに自己感覚はありません。重要なのは、この定義で尋ねているすべては、経験が進行しているということだけで、経験の主体であることの経験がそこにある必要はなく、それは何か余分なものです。
意識と経験の本質
非常に、非常に短く戻ってもいいですか。それは経験があることを意味しませんか。経験なしでどうやって経験を持つことができますか。
経験にはある場所がなければなりませんが、あなたはここで2つの異なるものを混同しています。経験が起こっている何かがなければならないという事実を混同しています。
経験が進行していますが、それは意識経験のための意識経験である必要はありません。ただ意識経験があればいいのです。私はエゴの感覚を完全に失うことができますが、それでも意識的でいられます。これらの脳オルガノイドが十分なレベルの複雑さに達すれば、彼らは意識経験を持っているかもしれませんが、彼らがそれを持っていることを全く意識していません。なぜなら、オルガノイドにはエゴがないからです。
それは奇妙です。なぜなら、私たち人間は、常にエゴを持って歩き回っているからです。新生児は少しこのようかもしれませんし、エゴも入ってきます。それは完全な反省的なものである必要はありません。「ああ、そうだ、私はこれを考えている」というような。私たちが一人称視点を持ち、自分自身を他者と区別するという事実、それはすべてエゴの一部です。
これはすべて消え去ることができますし、意識は概念的には依然として可能です。
エゴなしで意識について話すことは意味をなさないのではないでしょうか。
ええ。
なぜなら、たとえばあなたの本で、知能と意識を区別していますよね。そして、2つは異なると言いました。
ええ。
だから、エゴなしで意識について話すことは意味をなしますか、それともそれは知能ではないのですか。
いいえ、リンゴから梨を引いてメレンゲを得ることはできません、いいえ。それらは非常に異なるものだと思います。だから、知能と意識の混同は、人々がAIが意識的になりそうだと誤って考える理由の1つだと思います。なぜなら、私たちは自分たちが知的だと思っていて、自分たちが意識的だと知っているので、それらを一緒にするからです。
AIは、意識を全く帰属させることなく、いくつかの形の知能を得ることができるかなり良い例だと思います。エゴの存在の経験は、意識経験の一部だと思います。それは私たちのほとんどにとって非常に長い間非常に身近なので、エゴなしの意識を想像することは非常に難しいです。しかし、それは完全に可能だと思います。
それは非常に頻繁には起こらないかもしれませんが、起こると思いますし、起こり得ると思いますし、エゴなしに何かが意識的であることについて考えることに概念的な問題は全くないと思います。それが実際に起こるかどうかは別の質問です。それでも、私はそれが起こると思います、答えはイエスです。
素晴らしい。
後ろに質問があります。
ええ、私が見逃す前に後ろに質問があります。
はい。
ええ、ええ、革のジャケット、ええ。
意識に対する生命の依存性を主張することに懐疑的なのはなぜですか。なぜなら、私はコンピューターで働いていますし、たとえ脳をアルゴリズム的メカニズムでコンピューターがどのように機能するかに還元したとしても、人間の体には常にデータの流入があります。それを機械で複製することのように。
たとえば、今日のAI研究では、機械視覚、機械音声がありますが、適切な例外はありません。それをどのように複製できますか。そして、データの絶え間ない流入を持つような生命のようなシステムをどのように設計できますか。そしてそれがAGIになるでしょう。
なぜあなたはそれに懐疑的で、生命が意識を作り出すことについてそれほど断定的ではないのですか。
まあ、つまり、生命が意識に必要であることに懐疑的だとは思いません。それは私がある意味で支持している見解ですが、私たちが100%確信できるものとしてそれを誤解したくないだけです。生命と意識の間のこの密接なつながりは非常に強い仮説だと思います。
さて、AIにおけるこれらの他の開発について言えば、はい、私たちは機械視覚を持っています。それはかなり良いです。それは人間の視覚とは異なります。機械視覚が意識的でなければならないという意味は全くありません。視覚はただ画像を認識し、視覚的に導かれた行動を行うのが得意なだけです。他の感覚も組み込むことができます。
ロボット工学がAIに追いつき始めている今、固有受容感覚のようなものがあるシステムを構築できるようになります。ちなみに、これは私たち全員が持っている身体位置の感覚です。私たちは身体が空間のどこにあるかをただ知っています。それが固有受容感覚で、それがどのように動いているかです。もちろん、ロボットにもその感覚を与えることができます。その内部の感覚さえも与えることができます。
人間や動物で内受容と呼ぶもの、内側からの身体の感覚。これをすべて行うことができると思います。
しかし、すべてが何であるかを知っていますか。なぜなら、私たちは脳の青写真を持っていないからです。だから、機械が近い将来人間のようになることへの恐怖は何ですか。つまり、私はあなたに全く同意します。
ええ、2つの異なる質問です。つまり、1つは、ほとんどの人が気にしないほど十分に人間のようなものを構築する他の方法があるかもしれないということです、そうですよね。それは完全に可能です。すでに多くの人々が、彼らが十分に人間のようなものを扱っていると感じる意味で言語モデルを扱っています。
人々はチャットボットなどと関係を持っています。だから、私たちが人間を完全に複製できないという事実は、ある意味では重要ではありません。私たちの観点からは、多くの場合、私たちは気にさえしないからです。しかし、システムが何ができるか、そしてたとえば意識的であるような倫理的に重要な特性を持っているかどうかを知りたいなら、それは本当に、本当に重要です。
私たちがそれにどれだけ騙されるかではなく、実際にそれと共に何が起こっているかです。だから、これらのことが重要だと思いますし、ロボットに余分なセンサーを接続するだけでは、うまくいかないと思います。それはより説得力があるように見えるかもしれませんが、うまくいくとは思いません。
誰か他の人に来るべきでしょうか。なぜなら、空中にたくさんの手があって、時間を意識しているからです。ええ、あなたは空中に手を上げていました、どうぞ、ええ。
これが以前の紳士のものとあまりにも似ていたら許してください、しかし、意識が物理主義的観点からそれほど臨床的であるなら、ある意味で自由意志を損なうと思いますか。ストローソンが到達するという意味で、私たちは皆ある点に向かっているのか。もし人間の脳をそのような方法でマッピングできるなら。
常に自由意志についての質問がなければなりませんね。常に。入り口で自由意志なしの指示を受けた人はいませんでしたか。さて、いいえ、それは素晴らしい質問です。そして、正直に言うと、私は自由意志について考え、話すことが大好きです。本を書いていたとき、「意識についての本を自由意志の章なしで書くことはできない」と思いました。
しかし、それは私が苦労したもので、他のものよりもはるかに多く苦労しました。なぜなら、それは非常に多くの混乱するものを一緒に組み合わせるからです。宇宙が決定論的かどうか、何らかの根本的なランダム性があるかどうかという混乱があります。物事を起こさせるという私たちの意識経験が実際に物事を起こさせるかどうかという混乱があります。
そして、もし自由意志がないなら、誰かが自分の行動に責任を持つのかという倫理的、道徳的な混乱があります。そして、これらすべてを一緒にすると、人々がそれについてひどい混乱に陥るのも不思議ではありません。しかし、しかし。私にとって、自由意志について考える方法があり、それは意味をなし、私たちが必要とする程度の自由意志を持っていることを意味します。
必ずしもあなたが望むかもしれない程度の自由意志ではありません。ある意味での自由意志があります。その中で意識が脳に飛び込んできて、そうでなければ起こらないことを引き起こします。おそらく宇宙の本質的なランダム性を利用して、サイコロに重みをつけます。私たちにはそのような自由意志はないと思います。そのような自由意志を必要としたり、望んだりしているとも思いません。
それは不気味な種類の自由意志で、何も説明しません。私たち人間は、非常に複雑なシステムです。私たちが何かをするとき、時間的に遡る多くの原因があります。それらのいくつかは、体の外よりも体の内部からより多く来ます。さて、誰かがあなたを叩いたら、あなたは非常に速く反応するかもしれませんし、それは自発的に感じられないでしょう。
しかし、この後に立ち上がって飲み物を取りに行くことを決めたら、それは自発的に感じられます。原因は依然としてすべて物理的な原因です。しかし、あなたが何か自発的なことをするとき、原因はあなたの体の中に少しもっと留まります。私が思うに、私たちが自由意志として経験するものは、脳が行う行動の原因についての脳の知覚です。
そして、脳が行動の原因がより内側から来ると推論するとき、神経科学者のマイク・シャドレンの言葉を使えば、即時性からの自由のようなものを持っています。脳が私たちの行動にこの即時性からの自由があると推論するとき、私たちはそれらを自由に意志されたものとして経験します。これは有用ですか。私たちは本当に自由意志を持っていますか。まあ、はい、それは私たちが行う行動が私たちが何であるかによってより制約されていることを意味します。そして、それが私たちが望む種類の自由意志だと思います。
それは、私たちが何を望むかということと同じくらい、何か他のことを強制されることからの自由です。なぜなら、私たちは何を望むのでしょうか。まあ、それは私たちが何であるかに依存します。だから、もし私たちが私たちであることをするなら、私たちは必要とするすべての自由意志を持っています。そして、私たちはそれを有用性としても経験します。なぜなら、次回は何か違うことをするかもしれないからです。
自由意志の経験は、主に内側から来る行動を示すと思います。そうすることで、生物として私たちは特定の方法でそれらから学び、次回は何か違うことをするかもしれません。だから、それが私たちのいずれかが実際に必要とするすべての自由意志だと思います。人間としての尊厳を保つために、もしそうしたいなら、それで十分です。
では、脳の因果プロセスは自由意志を損なわないと思いますか。
いいえ、哲学者は時々これを両立主義として話します。宇宙が決定論的であり、脳と体における因果プロセスがすべての根底にあることと両立する自由意志のバージョンがあるということです。
それを諦めたら、あなたが探しているのはランダム性のいずれかです。それは私たちが望む種類の自由意志だとは思いませんが、ただランダムに行動するようなもの、または少し不気味な何か、パラシュートで降りてきて、より戦略的な方法でサイコロに重みをつける何かです。だから、自由意志は脳がこの複雑な原因のネクサスとネットワークであることと両立しなければならないと思いますし、それで問題ないと思います。
あと2つの質問の時間があると思います。
前の方に、アレックス・オコナー、コズミック・スケプティックです。
ああ、叫んでくれてありがとう。ありがとうございます。ほとんどの人は意識には複雑性が必要だと考えていますが、あなたが2つのことを言うのを聞いて、1つ目は、私たちがしばしば人間の意識経験に基づいて意識のアイデアを他の動物に投影するが、それはコウモリにとってどのようなものかではないかもしれないということ、そして、エゴなしの意識について話していた方法ですが、それは想像するのが本当に奇妙なことのように思えますが、たとえば多くのサイケデリックをした人々はそれを経験しています。彼らはそれを言葉にすることはできませんが。だから、意識的だがエゴを持たない誰か、何かを想像できます。意識的だが見ることができない何か、しかし依然として意識的、聞くことができないが依然として意識的な何かも想像できます。記憶のようなものを全く持たない生物を想像できますが、それでも意識的です。そして、私がそれらのことを取り除き始めて、実際に残されているものについて考えようとすると、意識そのもの、記憶、自己知覚、時間を通じた持続のような、人間の生物において意識が行ういくつかのことではなく、
ただある物であることがどのようなものかということ。私は全く複雑ではない何か、かなり、かなり初歩的で単純なもので残されているように感じます。そしてもちろん、それは宇宙の基本的な側面としてのその位置への扉を開きます。なぜなら、それが質量や電荷に似た何かだと言うことは、もはやそれほど狂気じみているようには見えないからです。
それは信じられないほど単純ですが、それの外でも、意識、人間の意識やそれが行ういくつかのことではなく、意識そのものが必然的に複雑性を必要とすると思いますか。
ありがとう、アレックス、これはとても好きです。ある特定の停留所まであなたとバスに乗ることができますが、その後、特定の停留所で降ります。それがどこか見てみましょう。現象学的に、つまり意識の経験、意識的であることの経験と言いましょうか、特に複雑である必要はないということは、本当に重要な観察だと思います。
サイケデリックは人間のためにエゴを取り除くことができます。美しい思考実験、ギリシャの思考実験、アヴィセンナの人があります。それは空に浮かんでいる人を想像し、次第にすべての感覚様式が取り除かれていきます。そして、元のものでは古典的なもの、視覚、聴覚、嗅覚、何でもについてだけ話されていたと思います。しかしもちろん、私たちはすべての内部のものを持っています。同じゲームをすることができ、「まあ、視覚はない」と言います。
そして、常に問いは、「これらのすべてのものを取り除いていくにつれて、そのシステムであることがどのようなものかということがまだあるか、そして、もしあるなら何が残されているか」ということです。意識の純粋なエッセンスのようなもの、これは確かに概念的に可能だと思いますし、起こるかもしれませんし、確かに近似できます。
それは、経験が最大限に単純であるために複雑性が意識に必要であることを意味しますか。まあ、ここで、私は、経験が最大限に単純であるかもしれないという事実が、それを支えているものも同じくらい単純である可能性があることを意味しないと思います、そうですよね。最も単純な意識経験でさえ支えるために、フードの下で、言ってみれば、ある程度の複雑性を持たなければならないかもしれません。そして今、私がバスを降りるのはここです。なぜなら、経験が最大限に単純である可能性があるという事実は、体外離脱経験があなたの魂が頭を離れてバルコニーに座りに行けるという考えへの扉を開くのと同じくらい、パンサイキズムへの扉を開くとは思わないからです。
経験の内容または内容の欠如から、どのような形而上学的立場が正しいかもしれないかについての信念を変えるという結論を導き出すのは間違いだと思います。他の方法でそれを正当化しなければならないと思います。
皆さん、ありがとうございました。それが、私たちが持っている時間のすべてだと思います。アニルに拍手を送ってください。アニル、ありがとうございました。
ありがとう、ジョニー。ありがとう。
観客の拍手
チャンネルをサポートしたいですか。Big Thinkのメンバーコミュニティに参加してください。そこでは動画に早期に、広告なしでアクセスできます。
コメント