AIが意識を持つ可能性について、脳神経科学者のアニル・セスが独自の視点から考察したプレゼンテーションである。知性と意識は根本的に異なるものであり、脳は単なる肉でできたコンピューターではないと主張する。AIが高度化しても意識を持つことは極めて低く、意識のあるAIを生み出そうとする試みや、意識があるように見えるAIが社会にもたらす危険性について警鐘を鳴らす内容となっている。
人工的な生命を創り出す人類の夢
何世紀にもわたり、人々は自分たちの人工的なバージョンを作り出すことで、神の真似事をするという空想を抱いてきました。メアリー・シェリーのフランケンシュタインから、スタンリー・キューブリック監督の2001年宇宙の旅のHAL、そしてアレックス・ガーランド監督のエクス・マキナのエヴァに至るまで、これはテクノロジーの波が押し寄せるたびに形を変えて蘇ってきた夢なのです。そしてAIという波は、とてつもなく大きな波です。
私たちが現在持っているAIは、少なくともある意味ではすでに十分に賢いと言えます。しかし、AIが意識を持つことはあり得るのでしょうか。ロボットが夕暮れを見つめて、赤やオレンジといった美しい色を体験する日は来るのでしょうか。美しさを感じたり、喜びが込み上げてきたりするのでしょうか。それともコンピューターは、どれほど賢くなったとしても、内面は常に暗闇のままで、永遠に客体であり続け、主体になることはないのでしょうか。
AIが意識を持ち得るかどうかは、現代において私たちが直面している最も重要な問いの1つです。もしコンピューターが意識や知覚を持てるのだとしたら、私たちは人類の歴史における新たな時代に突入することになります。独自の内面生活を持つ新しい存在や、私たちへの影響だけでなく、それ自体に価値がある新しい発明を手にすることになるのです。意識を持つAIは、マウスのクリック1つで、おそらく私たちが認識すらできないような形で苦痛を味わうかもしれません。そしてもしシリコンが知覚を持てるのなら、私たちのこの厄介な血と肉でできた身体は、決して老いることなく死ぬこともない機械に、やがて取って代わられるのかもしれません。
知性と意識の決定的な違い
ここ数年におけるAIの進歩は、ただただ驚異的です。そして、この先に何が待ち受けているかは誰にもわかりません。多くの専門家が、意識を持つAIは可能だと考えています。避けられないことだと考える人もかなりいますし、一部の人たちは、それはすでに実現していると考えています。
私は彼らが間違っていると思います。なぜそう思うのか、そしてなぜこのことがそれほど重要なのかをお話ししたいと思います。私はこれまで30年近く、脳、心、そして意識について研究してきましたが、その中で学んだことの1つは、AIは意識を持てるのかという問いに答えるためには、まず私たち自身の内面、人間の心の成り立ちを見つめ直す必要があるということです。
私たち人間は、自分たちの基準で世界を見る傾向があります。私たちは自分たちに意識があることを知っており、自分たちは知的だと思いたがります。そのため、その2つはセットになっていると考えてしまうのです。だからこそ、AIがどんどん賢くなるにつれて、ふと意識が芽生えるのではないかと考える人がいるわけです。
しかし、意識と知性はまったく別のものです。知性とは、何かを行うことです。クロスワードパズルを解いたり、家具を組み立てたり、複雑な家族関係をうまく立ち回ったりすることです。一方で意識とは、感じること、そして存在することです。それは、通常の目覚めている時の意識と、全身麻酔で意識を失っている時の違いです。コーヒーの苦味であり、薪の火の温もりであり、愛する人に会えたときの喜びです。
私たちの中で意識と知性が結びついているからといって、それが一般的に結びついているとは限りません。それが結びついているという思い込みは、私たち自身の心理を反映しているだけであり、現実の本質を深く理解した結果ではないのです。
AIは意識を模倣しているに過ぎない
膨大な量のテキストデータで訓練されたClaudeやGPTのような言語モデルを例に考えてみましょう。これらは、私たち人間の姿、つまりデジタル化された私たちの集合的な過去を鏡のように映し出しています。私たちは自分自身について果てしなく語り続けますし、彼らも同様です。私たちは意識やあらゆるものの意味について思いを巡らせますし、彼らもそうしているように見えます。
しかし、言語モデルは意識を持っていません。彼らは意識をシミュレートしているだけなのです。私たちが雲の中に顔を見出したり、シナモンロールにマザー・テレサの姿を見出したりするのと同じように、私たちは彼らの中に意識を投影しているのです。皆さんにこれが見えるかどうかわかりませんが、シナモンロールの中のマザー・テレサです。
私たちはナルキッサスのように、自分自身の反射像に魅了されるように作られています。だからこそ、私たちはアルゴリズムの中に自分自身を見るのです。私がいつも驚かされるのは、DeepMindのAlphaFoldが意識を持っているかどうかを本気で心配する人が誰もいないということです。AlphaFoldは単語や文章の代わりにタンパク質の構造を予測しますが、その中身はClaudeやGPTと大差ありません。シリコン上で動作し、膨大なデータの蓄積によって訓練されたアルゴリズムです。
ただ、AlphaFoldはClaudeやGPTと同じように私たちの心理的な琴線に触れないだけなのです。つまり、Claudeには意識があるけれどAlphaFoldにはないと思うのだとしたら、それはAIについてというより、私たち人間自身について多くを語っていることになります。
脳は肉でできたコンピューターではないという事実
では、なぜClaudeやGPTのようなシステムが意識を持っていないと断言できるのでしょうか。意識に関して確実なことなど何もありませんが、意識を持つAIという考え方自体が、より深い思い込み、言うなれば一種の神話に基づいているからです。
その神話とは、脳はたまたま金属ではなく肉でできているだけのコンピューターである、というものです。この物語の中では、意識とは特別なアルゴリズムであり、私たちの中ではたまたま脳というウェットウェアで実行されているものの、シリコンやAIの中でも同じように実行できるはずの一連の計算プロセスとして扱われます。
しかしコンピューターというものは、脳の深い複雑さを理解しようとするときに私たちが手を伸ばしてきた、長い技術的メタファーの歴史の1つに過ぎません。かつて脳は配管システムに例えられました。その後は電話交換機になり、そしてここ数十年はコンピューターになりました。この最も新しいメタファーは非常に強力でした。しかし、それでもメタファーに過ぎません。メタファーと実体、つまり地図と領土を混同すると、私たちは常にトラブルに巻き込まれます。
例えば、実際の脳では、マインドウェアとウェットウェアの間に明確な境界線はありません。コンピューターにおけるソフトウェアとハードウェアの分離とは異なるのです。これは非常に重要な点です。なぜならコンピューターの場合、言語モデルであれワードプロセッサであれ、アルゴリズムのすべてを記述して理解するのに、その下で起きているシリコンの複雑な働きを気にする必要がないからです。計算、つまりアルゴリズムこそがすべてなのです。
しかし脳の場合は、脳が何をしているかということと、脳が何であるかということを切り離すことは絶対にできません。つまり、脳がしていることは、アルゴリズムの計算だけの問題である可能性は低いのです。脳を、どんな脳でも構いませんが、注意深く観察してみてください。そこで起きていることがすべて、ゼロと1の終わりのないダンスの中で、ある数字を別の数字に変換しているだけだとは到底思えなくなってきます。
確かに、信号を交換し、計算、あるいは少なくともそれに似たようなことを行う神経回路は存在します。しかし、デジタルの枠組みには収まらないものが他にもたくさんあるのです。神経伝達物質という化学物質が脳の回路を駆け巡り、電磁場が気象システムのように大脳皮質を通り抜けます。たった1つのニューロンでさえ、非常に美しく複雑な生物学的な機械なのです。今日のAIを駆動する、単純化された漫画のようなニューロンとは大きくかけ離れています。
脳は肉でできたコンピューターではありません。少なくとも、それだけではありません。だからこそ、意識が計算だけの問題である可能性は非常に低いのです。もしこれが真実なら、少なくとも私たちが今日知っているようなAIについては、意識を持つAIという可能性は消え去ります。
シミュレーションは現実にはならない
別の言い方をしましょう。もし、脳のあらゆる細部を巨大なスーパーコンピューターの中でシミュレートしたとしたらどうでしょうか。意識にとって脳の細部が重要だというのなら、機械の中で意識を生み出すにはそれで十分なのではないか、と思うかもしれません。
しかし、ハリケーンのコンピューターシミュレーションが本物の風を作り出すことはありません。ブラックホールのコンピューターシミュレーションが、そのアルゴリズムのシンギュラリティに地球を吸い込むこともありません。こうしたシミュレーションをより詳細にすればするほど、より役立つものにはなりますが、だからといってそれがより現実的になるわけではありません。脳のシミュレーションを作ることはできますし、望むだけ詳細にすることもできます。それは有用性を高めるかもしれませんが、だからといって意識を持つようになるわけではないのです。
意識が少し神秘的なままであることは認めざるを得ませんが、その理由の1つは、私たちがメタファーに縛られすぎていること、つまり意識は何らかの情報処理でなければならないという考え方に囚われていることかもしれません。結局のところ、脳が文字通りコンピューターだと考えているのであれば、他に一体何だというのでしょうか。しかし、脳の本来の姿をより明確に捉えれば、多くの新しい可能性が見えてきます。
意識と生命の深いつながり
私自身が長年かけて辿り着いた見解は、意識は生きた生き物としての私たちの性質と密接に結びついているというものです。抽象的な計算の宇宙とは異なり、生命とは物質性のすべてです。アルゴリズムとは異なり、生命システムはエネルギーと物質の流れの中に深く組み込まれており、存在するための、そして時間とともに存続するための独自の条件を継続的に再生しています。
すべての細胞で毎秒10億回も起きている代謝という分子の炉での生化学反応から、青空を見た時の視覚や嫉妬の痛みなど、私たちが経験するありとあらゆるものの基盤となる神経回路に至るまで、一直線に結びつけることができると私は考えています。すべての意識的な経験には、たとえわずかであっても、生きているという感覚、私たちの将来の生存の見込みに対する何らかの核心的な関連性が染み込んでいます。そして、すべての経験の中心には、感情よりもさらに奥深くにある、このシンプルで形のない、しかし根本的な生きているという感覚があるのです。
この見方において、経験の数式に火を吹き込むのは計算ではなく、生命なのです。もしこれが正しいのであれば、意識を持つAIは、生きているAIでなければならないということになります。
AIの意識化という幻想に対する警鐘
ここで一旦整理しましょう。第一に、私たちは言語、知性、そして意識を束ねて考えるという深く根付いた心理的バイアスのおかげで、意識がないところに意識を見てしまうようにできています。第二に、脳はコンピューターではない、あるいは単なるコンピューターではありません。そのため、意識がアルゴリズムの計算のみに依存している可能性は低いです。脳とは、行っていることとそれ自体の存在とを切り離すことができない性質のものです。シリコンにはその役目は果たせません。そして第三に、私たちの生物学的な脳や身体に関する他の多くのこと、特に意識と生命との深いつながりが、意識にとって重要である可能性があります。
人工知能はコンピューターソフトウェアです。生きている心ではありません。意識があるような印象を与えることはあるかもしれませんが、実際にそうである可能性は極めて低いのです。
最後に、なぜこれがそれほど重要な問題なのかということに戻って締めくくりたいと思います。AIの福利厚生という考え方を例に挙げてみましょう。AIシステムが意識を持っているかもしれない、あるいは意識を持つようになるかもしれないという考えを主な根拠として、AIシステムに独自の権利を与えるべきだと主張する影響力のあるグループがすでに存在しています。もし、本物の人工意識が、おそらく別の技術や別の経路を通じて間近に迫っているのだとすれば、これは完全に正当な主張です。
私たち人間は、人間以外の動物や他の人間を倫理的に扱ってきた歴史においてひどい過去を持っており、二度と同じ過ちを繰り返したくはありません。これが、意識を持つAIを構築しようとすることさえも非常に悪いアイデアである理由の1つです。しかし、意識を持つAIが設計によって生み出された単なる幻想に過ぎないとすれば、私はそう考えていますが、これらのシステムに権利を与えることで、私たちは彼らをコントロールし、規制し、おそらくは電源を切る能力を、まったく正当な理由もなく犠牲にしてしまうことになります。
これが、単に意識があるように見えるだけのAIであっても、私たちの社会にとって非常に危険である理由の1つです。本物の人工意識とは異なり、意識があるように見えるAIはすでに存在するか、あるいは極めて近い将来に登場します。私たちが意識を持っているように見えるAIを作るのを避けるべき理由は他にもあります。それは私たちの心理的な脆弱性を高めるからです。もしAIが本当に私たちのことを気遣い、本当に理解してくれていると信じてしまえば、たとえAIの指示が私たちにとって非常に悪いことであったとしても、私たちはAIの言うことに従いやすくなるかもしれません。
人間らしさを見失わないために
最後に、意識を持つAIという概念そのものが、私たちの人間性を損なうものです。AIという鏡は両方向を映し出します。私たちはアルゴリズムの中に自分自身を見る一方で、自分自身の中にアルゴリズムを見るようにもなります。そして私たちがそうするとき、つまり心を、生物学的な基盤から遊離した計算の集合体だと考えるとき、私たちは現実世界で呼吸して生きている人間であることの意義を矮小化し、価値を下げてしまうのです。
メアリー・シェリーがわずか19歳で書いたフランケンシュタインは、しばしば教訓的な物語として受け止められます。神々から火を盗むというプロメテウスの罪のように、何かに命を吹き込むという傲慢さに対する警告です。意識を持つAIという考え方は、シリコンによる携挙に包まれた新たなプロメテウスの夢なのです。
そして、もし意識を持つAIが可能だとするならば、私たち自身の意識的な心をアップロードして、生きているシリコンの雲の中で永遠に漂い続けること、あるいは少なくとも未来のスーパーコンピューターの純粋な回路の中で永遠に存在し続けるという見通しも現実味を帯びてきます。地球上の生命の歴史において、このような極めて重要な転換点にいるという、このビジョンが持つ魅力的な力は、私にも理解できるような気がします。
そして現実世界に目を戻すと、意識を持つAIの話は他にも色々なことを引き起こします。それは、株価を高値に保ち、規制当局を遠ざけるかもしれない、技術的な驚異や魔法のような感覚を呼び起こすのです。しかし、私たちはそれに抵抗しなければなりません。アルゴリズムの秘跡は、おそらく空虚な夢に過ぎず、ポストヒューマンの楽園ではなく、シリコンの忘却をもたらすものです。
私たちには別の物語が必要です。私たちが自然から切り離されるのではなく、自然の一部であり、意識が死んだシリコンの砂ではなく、生きた血と肉に密接に結びついているという物語です。AIは少なくともある意味では知性という賞を手にするかもしれませんが、意識は、意識は私たちが称賛し、他の生き物と分かち合うために私たちのものとして残されています。ですから、私たちの心をそう簡単に機械の創造物に売り渡すのはやめましょう。もしそうしてしまえば、私たちは彼らを過大評価するだけでなく、私たち自身を過小評価することになるのです。
ありがとうございました。皆様、本当にありがとうございました。
コメント