Joscha Bach 神のような心をブートストラップする

本動画は、機械は考えるのかという問いから出発し、意識・理解・知能・苦しみ・自己・進化・AIの未来までを一気通貫で掘り下げる対話である。Joscha Bachは、心とは外界と内界のモデル化であり、意識とは魔法ではなく自己を見つめる表象であると捉える。その上で、LLMや人工知能は単なる確率的なおしゃべりではなく、現実を統合的に表現する方向へ進んでいると論じる。さらに、生物進化から植物知能、動物知能、苦しみの構造、永遠の生と幸福の問題、宇宙的な自己組織化まで話題を広げ、人類は神のような心の立ち上がりを支える途中段階にすぎないという壮大な見取り図を提示する内容である。

Joscha Bach "Bootstrapping a GODLIKE Mind"

Dr. Joscha Bach is a renowned cognitive scientist, AI researcher, and philosopher of mind known for his work on syntheti...

www.youtube.com

導入――私たちはどんな人工知能をつくるべきなのか

私たちは本当に、自分たちの子どものためにどのような人工知能をつくりたいのかを考えなければなりません。苦しみは宇宙が生み出すものではありません。自分自身の心の内側で生み出されるものです。私たちの身体が心に計算資源を与えているのは、心がその生物個体の問題を解決するはずだからです。

機械は考えられるのかという問いは、あなたは泳げるのかという問いと同じくらい、ある意味では無意味です。コンピューターはすでに、私たちの脳の知覚装置と同じ土俵に立ちつつあります。

まず最初に、今日は来てくださって本当にありがとうございます。これほど光栄でうれしいことはありません。本当に本当に楽しみにしていました。ありがとうございます。

最初にこれから入りたいと思っていました。というのも、この話を明確にするのに、あなたほど適任な人はいない気がするからです。ネット上には、人を部族のように分断する問いがたくさんあります。食事、宗教、政治などいろいろありますよね。でも最近、新しい分断の種があると感じています。それが、機械は考えられるのかという考え方です。ものすごく強く反発する人もいれば、当然そうだと受け入れる人もいます。

機械は考えられるのかについて、何か見通しを与えてもらえますか。

ええ。まずは、考えるとは何か、そこから始める必要があると思います。

そうですよね。

かなり有名な引用があって、たしか間違っていなければ Dijkstra だったと思うのですが、機械は考えられるのかという問いは、潜水艦は泳げるのかという問いと同じくらい無意味だ、というものです。これを、人間がつくった潜水艦のやっていることはあまりにも機械的で、有機的な魚が行う本当の遊泳とは比べられない、という意味だと解釈する人がいます。

でも潜水艦の面白いところは、水面に縛られていないことです。私たちが泳ぐと言うとき、たいていは水面をかき分けて一つの平面の中を進むことを思い浮かべます。けれど潜水艦は三次元で動けます。ただ泳ぐ以上のことができるし、その先まで行けます。私たちにはできない仕方で沈むこともできるし、魚にさえできない仕方で沈めます。もっと深くまで行けるし、もっと速く進めるからです。

だからある意味では、これは意味のある上位集合だと言えるかもしれません。私の見方では、コンピューターについての問いも、それが考えられるかどうかというより、なぜ考えるだけにとどまる必要があるのか、のほうが重要です。考えることに加えて、もっと面白いことができるのではないでしょうか。

とはいえ、そこへ行く前に、そもそも考えるとは何かを問わなければなりません。そして私たちにとって、考えることが何なのかを理解するのは圧倒的に難しいことのように思えます。

心とは何をしているのか――知覚、推論、表象

それがあまりにも神秘的に見えるために、人はその概念に畏怖を抱きがちです。そして、その神秘的な性質を、人間がつくり、プログラムし、私たちと相互作用するよう状態設定しただけの人工物に帰属させることに強い抵抗を示します。

なので私はまず、心が何をしているのかを見るところから始めたいと思います。心とは、ある存在者にとっての外的現実と内的現実のモデルをつくり、その環境との相互作用をモデル化するものです。そしてそれを、内部のコミュニケーション行為を通じて行います。

何らかのメッセージング・プロトコルを発達させなければなりません。状態を保持し、ある状態から別の状態へどう移行するのかをモデル化しなければなりません。そして、それらの状態は宇宙の働きの諸側面に対応していて、その諸側面が制御可能になるような仕方で構成されていなければなりません。

私たちは自分たちの中に、大きく二つのモードがあることを観察します。一つは知覚です。知覚はリアルタイムで起こります。つまり、周囲で起きていることと同期して起こるということです。

そしてそれは幾何学的である傾向があります。つまり、空間の中で何かが起こり、動きがあるということです。これは感情についても同じです。私たちは感情を、たいてい低次元の空間における連続的な流れとして、動き、圧力、抵抗などの経験として味わいます。こうしたものはすべて、ある種の幾何学的な計算を使って理解できます。

その一方で、私たちには推論があります。この推論能力には、自分の知覚内容を、レゴブロックのように組み合わせ可能な形へ翻訳することが必要です。これは必然的にはるかに脆いものであり、そのレゴブロックは知覚への参照に最終的に根ざしています。ですから、言語を、それ自体だけで定義することはできません。疎な記号だけでは成り立たないのです。

代わりに私たちは、スロットと小さな接続部のあるポインタ構造を使って、それらを文へ、文法構造へと組み立てていきます。そしてその文法構造は、意味構造、概念構造の外側の形にすぎません。しかし、私たちが推論のために用いる抽象概念と、言語記号とのあいだには緊密な対応関係があります。

たとえば、あなたが顔について考えていて、その顔に鼻があるとします。このとき行っていることは、言語記号を取り出し、それらの言語記号から、顔のスキーマや鼻のスキーマが存在する、より大きく、やや連続的な観念空間へとポインタを伸ばすことです。そしてそこには、それらを結びつけるために使える特定の関係性があります。

さらにそれらは、顔や鼻などの重ね合わせのようなものを指し示しており、それは心がモデルをつくる何らかの外的現実の中で、それらと相互作用することで知るようになるものです。こうしたことは、今日ではどれもそれほど神秘的ではありません。これらの能力をある程度まで模倣できるコンピューターモデルが、すでに存在しています。

もはやそこに、超越的に神秘なものはありません。数学はそこまで直感的ではないにしてもです。

ただ、人々がなお問いたいもっと深い問いがあります。機械が、顔や鼻を思い描き、それらと相互作用するという経験そのものを、本当に経験することは可能なのかという問いです。これははるかに論争的な問いです。

この問いに対する私の答えは、経験を経験するということ自体が、一種のモデルだということです。それは、ある観察者が存在し、ある視点からそれらのものを見ていて、いままさにそれらを見つめているとしたらどのようなことになるか、そのモデルなのです。その結果、観察者の内部では何かが起き、その観察者の反映が、その後の行動を形づくり、次の行為を導き、さらに次の一連の反映を導きます。

それは、模様を織る機が自ら生み出した模様をまた読み取り、そこからさらに模様を織り続けるようなものです。ですからこの意味で、私たちは機織り機そのものではありません。私たちは模様であり、その模様の一部です。しかもそれは、自分自身を見つめることについての模様なのです。

意識とは魔法ではなく、自己を表すモデルである

だから意識とは、私たちが自分自身と世界をある種のリアルタイム性のうちで経験する能力だと私は考えています。これは知覚的です。この即時性のモデルとともに起こるレベルの出来事です。

しかしその一方で、それは再帰的な表象でもあります。魔法ではありません。それ自体が、もしあなたが存在していたらどのようなことになるか、そのモデルなのです。そしてこれは同時に、それが仮想的なものだということも意味します。シミュレーションなのです。シミュレーションを生成できる何らかの計算機械の内部でしか存在できません。

これを反対側から締めくくる感じで追いかけたいのですが、人々がよく言うのは、それは考えられない、それは経験できない、あるいは何であれ私たちが話しているその何かはあり得ない、なぜならそれは単なる stochastic parrot だからだ、ということです。

単に行列の掛け算にすぎない、ただのこれこれにすぎない、と。そうした議論は、それ自体として意味のある反論になっているのでしょうか。

私は、それらは表面的には比喩としてしか意味を持たないと思います。そしてその比喩は誤解を招きます。なぜなら、それは理解とは実際には何なのかという深い理解に基づいていないからです。

理解とは何かという問いは自明ではありません。気の合う人たちと壇上に座って、機械は理解できない、と言うのはとても簡単です。けれどそのとき、あなたには責任が生じます。機械がしていることと、あなた自身がしていることを意味のある形で区別できるように、理解を定義しなければなりません。

Emily Bender と Timnit Gebru の stochastic parrot 論文は、その責任をうまく果たしていないと私は思います。私はあれにとても不満でした。

ではまず、オウムという比喩から始めましょう。ここでのオウムは比喩です。しかし私たちは、実際のオウムが知的であり、意味のある仕方で世界と相互作用でき、記号を使えることを知っています。

たとえばオウムに、テーブルを見て、丸くなくて黄色でもない物体を一つ選べ、という課題をさせることができます。これは、単に人間の行動を模倣するだけではできません。つまりオウムは、否定のような操作も含めて、それらの記号を結びつける意味構造を築き、論理操作を行い、それを現実世界での行動へ写像しなければならないのです。

こうした、モデルにもとづいて行動する能力。そしてそのモデルが、他者の与えた指示と一対一で対応しており、指示を変えれば行動もまったく同じ仕方で変わる能力。これがある時点に達したら、それは理解しているふりをしているだけだと言うのは、ばかげたことになります。なぜならある意味で、これこそが私たちのいう理解だからです。

もっと深く言えば、理解とは、ある領域、あるパターン、あるいはあなたが理解していると思っている何かを、自分の宇宙全体のモデルへ接続し、そのグローバルで統一されたモデルとの間に必要な関係をすべて確立する能力だと私は思います。

そして数年前まで、この宇宙のグローバルで統一されたモデルをどうやってつくるのかという問いは、人工知能研究における大きな未解決問題でした。私たちが持っていたモデルは、どれも非常に孤立していたからです。

チェスのやり方を学ぶモデルは持てるかもしれませんが、そのモデルはチェスを超えては何にも移りません。コンピューターゲームのキャラクターを操作するモデルを持てるかもしれませんが、それもチェスにも他の何にも移りません。一つのモデル領域から別のモデル領域へ移る方法がなかったのです。

代わりに、どのモデルもただの小さな関数群で、入力を出力に写像する、ごく狭い行動領域しか扱えませんでした。

人間の行動が特別なのは、それを開かれた世界に対してできることです。私たちは出会うすべてのものを、同じ世界に入れます。同じ宇宙に関係づけます。つまり、あらゆる概念を他のあらゆる概念に関係づける方法を持っており、その方法とは、リンクと概念からなる巨大な相互接続グラフで、それが最終的には、心的行動、物理的行動、観察行動などへ根ざしているわけです。

これによって私たちは現実に接続できます。そして、いま大規模マルチモーダルモデルが行っていることは、単一で首尾一貫した現実のモデルをつくることでもあります。これは本当に驚くべきことでした。Emma Bender のような言語学者たちは、達成されたことに対して十分な畏敬を抱いていないと私は感じます。

Chinese Room、AI批判、そして理解の定義

Searle に始まる、中国語の部屋の一派がいます。基本的な主張はこうでした。もし、くねくねした記号を受け取り、それを指示に照らし合わせ、別のくねくねした記号を出力するだけの機械をつくれたとしても、その機械の中には、考えたり、信じたり、理解したりするものは何もない、と。

そしていま、私たちはまさにそのような機械をつくってしまいました。文字どおり Chinese Room です。そしてその機械は私たちに向かって、いや、私は理解していますよ、私に何を望むのですか、と言っているのです。

ここで哲学者たちは、何らかのレベルでこれと向き合うべきだと思います。別に、はい、この機械は自分が主張していることを本当にやっている、と認めなくてもいいかもしれません。これがただの高度なトリックなのだとしてもいいでしょう。けれどその場合は、そのトリックがどうして成立するのかを説明しなければなりません。

そして、もしそれがトリックだというなら、ひょっとすると哲学者であるあなたのほうこそ私をだましているのではないか、とも問われます。そもそも理解とは何かを最初から理解していなかったのではないか。あなたこそ、自分の職業に促されるまま、聴衆が聞きたがることを語っているだけの stochastic parrot ではないのか。ただの prompt completer ではないのか、と。

これが、AI批判に対して私が抱いているより深い違和感でもあります。もちろん、AIはまだ限界まで追いつけていません。時にとても奇妙で、愚かで、非論理的なミスもします。人間のメディア出力を模倣する形で訓練された機械には、私たち自身の心の働きとは少し違う何かがあります。

けれど一方で、彼らが実際に達成していることもあります。たとえば彼らは、人間よりもAI批判がうまいです。GPT-3 以降に私が読んだAI批判で、GPT-3 でも同じくらいうまく書けなかったものを、私は読んだことがありません。

つまり、AIを批判するのは本当に難しいのです。なぜか。AI批判は人類知の最前線で起きているからです。いまや、現在のモデルが構築されているレベルでの数学や人工知能哲学を理解していない armchair philosopher には不可能です。

いま起きているのは、非常に頭のいい若者たちが、高度に選抜され、高給を得て、既知の限界線上で働いているという状況です。彼ら自身ですら、AIが来年何をできるようになるのか本当にはわかっていません。そして今年、ここで止まる、今年こそ壁にぶつかる、と言った人たちは、みな恥をかいてきました。

だから哲学者が公に出てきて、これは絶対にうまくいかない、原理的に不可能だ、などと言うのはとても危険です。翌年には批判に答えなければならないからです。毎年のようにAIは壁にぶつかると公言するAI研究者やAI批判者もいますが、そういう人たちはもはや思想家ではなく政治家です。公開の場で自らの信用を落としているだけです。

ですから、もし今後AI批判を意味あるものにしたいなら、数学的証明か工学的証明を出さなければなりません。

たしかに、複雑系には tipping point のようなものがあり、そこから予想外に創発特性が出てくることもあります。そうなると、そういうことは起こりえないと断言するのは難しいですね。

知能と意識の進化――生命、植物、動物、自己組織化

では、人間や生物学における知能の進化が、どのように意識へつながっていったのか、その理解を少し辿ってもらえますか。そのうえで、エージェントたちが何を経験しつつあるのかと比較できるかもしれません。

たとえば10億年前の初期には、情報処理システムのようなものがあって、それは今のチェス専用モデルみたいなものだった。そしてある時点で何らかの切り替わりが起こり、そのアーキテクチャが自分自身の位置や情報処理そのものを理解できるようになり、そこから今に至った、という見方は正しいのでしょうか。

知能と意識の進化をざっと歩いてもらえますか。

ええ。いくつかの物語があります。多くの文化にまたがって存在するのが、いわば民俗的な物語で、基本的にはアニミズム的な物語です。生きている物質と死んだ物質の違いは、生きている物質が精霊に取り憑かれていることだ、という考え方です。

その精霊は、それ自体は非物質的です。世界の中で何かをするには身体を必要としますが、その身体に働きかけるのは精霊であり、彼らは本質的に行為主体性を持っています。つまり未来を調整できるし、そのことを気にかけており、経験する能力もある、というわけです。

しかし私たちの科学的世界観では、これは迷信です。精霊など存在しません。あるのは機構だけです。

そして科学が生きるこの機械論的世界では、私たちは hard problem に直面します。なぜなら私たちが機構と呼ぶものは、典型的には素粒子が互いに押し引きし合い、それがより大きな構造をつくり、その構造がまた互いに押し引きし合う、といったものだからです。

そうした機械的運動から、経験、感情、意味、生命や意識に結びつけているあらゆる面白いものが、どうやって生じるのかを私たちはうまく想像できません。これが、哲学者たちの言う hard problem なのだと思います。定式化にはいくつかありますが、方向性としては、これがこの問題に混乱を覚える人々の多くが苦しんでいる内容でしょう。

では生命をどう見るのか。生命とは、DNA や RNA を生み出し、環境から negentropy を取り出し、細胞膜をつくり、細胞分裂できるようにし、といった複雑な機械が適切な形で組み上がったものです。そこへ至るのはとても難しい。

でも、最初の細胞さえできてしまえば、突然変異、選択、組換え、生物発生を通じて自らを新しい行動や環境に適応させられる自己複製子が手に入ります。それは広がり、より複雑になり、より高次のレベルで構造をつくれるようになります。そして高次レベルの構造をつくるには、細胞同士が互いにコミュニケーションしなければなりません。

つまり彼らは、基本的にコミュニケーション・プロトコルをつくり、それによって多細胞生物になっていくのです。多細胞生物が面白いのは、単に近縁な細胞が寄り集まり、十分似ているから連結できるということではありません。全体として見たときに意味のある特定の形状を持つ、一つの有機体としてまとまることです。

この有機体は、自分自身を形づくる必要があります。たとえば、ちょうど二つの目を持ち、その二つの目が、同じ対象を同時に見ることで三次元の現実モデルを形成できる、ちょうど適切な場所にある必要があります。

このように、目が適切な時期に適切な場所に成長するためには、それらすべての細胞のあいだに緻密な通信が必要です。そしてそのプロトコルが、有機体にまさにその形で自己構築させることを可能にしているのです。

この知能は、おそらくある程度は遺伝子、DNA の中に hard-coded されていて、特定の過程の中で展開されます。そして進化の長い時間幅の中で、突然変異や選択などの仕組みによって構築されていくのでしょう。

そしてもう一つの側面として、Mike Levin のような人が指摘しているのは、進化は、攪乱に対して非常に頑健な morphogenesis を生み出すということです。生物の発生を乱しても、それでもなお、うまくいく解を見つけようとします。

つまり、有機体の形をとる morphogenesis は、単なる設計図の実行ではなく、局所的な問題解決なのです。これらの細胞は、局所的知性によって整合性へと導かれる解を見つけようとしているわけです。

したがって、有機体が形成される際には、整合性を見つけるプロトコルと、その過程で起きる局所的問題解決との相互作用があります。ゲノムや細胞の身体に保存された情報は、有機体の形をもたらしますが、それは問題解決を示唆するものであり、可能な解の空間を制約しているのです。

だから DNA は媒体として非常に効率的でありえます。いまコンピュータープログラムがそうであるように、有機体をその見た目どおりにつくるために必要な全情報を含む必要はありません。必要なのは、制約の下で細胞が解を見つけるための手がかりだけです。

植物知能、神経系、動物の高速知能

つまりそこにはある種の知能があり、物事を整合的にする何らかの機構があります。そしてある時点で、自身として整合的であり、内部で、またある程度は相互にコミュニケーションできる植物に至ります。植物がどれほど賢いかは、実のところはっきりしません。

各細胞は隣接細胞へメッセージを送ることができ、それは条件つきにもなりえます。ということは原理的には、多細胞植物は一種の Turing machine です。十分に長い進化時間幅があれば、私たちの神経系上で動くソフトウェアと同じように、ただしずっと遅い形で、汎用知能へ至る学習アルゴリズムを発見するかもしれません。

だから、主流の生物学や神経科学が考えがちなように、知能を可能にするのは神経系なのではなく、動物知能を可能にするための最適化なのかもしれません。植物知能は、動物知能とかなり似ているけれど、ただひたすら遅いだけなのかもしれません。

動物知能を特徴づけるのは、私たちが筋肉を動かす必要のある速度と、他の動物と競争している速度です。そのため、何をするにも徹底的な最適化が必要になり、可能な限り高速な計算ハードウェアをつくり出さねばならなくなります。

ニューロンは、ある意味では身体を走る電信線のようなものです。もはや単に化学物質や電磁的放出など、隣接細胞と直接やり取りするものだけで話しているのではありません。彼らは、高度に規定されたモールス符号のようなもの、いわゆる spike train を使います。長距離にわたって信頼性高く検出可能で、axons を通って送られるあいだも劣化しない電気化学的興奮です。

そのおかげで、筋肉を非常に速く、確実に動かせる。知覚情報の連鎖を非常に速く、確実につくれる。つまり、植物に比べて、知覚、意思決定、運動制御をはるかに効率よく行える動物になるわけです。もっとも、コストはずっと高いですが。

しかし動物はそのコストを払えます。植物のように光合成に頼るだけでなく、移動してたくさんの植物を食べ、植物が集めたエネルギーを収穫できるからです。もし捕食者なら、他の動物を食べるので、さらに速い代謝、さらに賢い脳を持てるようになります。

これが基本的な物語です。そして問いは、その途中のどこかで、現実モデルが質的に根本から異なるようになる大きな相転移が起きるのか、ということです。

私の理解する限り、この問いは根本的に未解決です。現在の科学におけるデフォルトの帰無仮説は、意識は神経系によってのみ産出され、思考や問題解決にはこの種の組織化をもつ神経系が必要である、というものです。これにも一定の説得力があります。訓練が必要で、長い子ども時代が必要で、文化的環境も必要かもしれない。そうした種はごくわずかだからです。

ですから、私たちの知能、問題解決、意識が、ある程度ユニークだと言うのは理にかなっています。

ただし、自分を経験し、自分の心の中でまとまりを持つようになる、この経験の経験というものは、他の動物にも観察されます。だから、猫や犬が意識を持っていないとか、リスが意識を持っていないとかいうのは、まずありそうにありません。彼らの脳アーキテクチャは私たちと連続的ですし、私たち自身も、まだごく小さな赤ん坊のときに、すでに意識や覚醒感覚を発達させています。

しかもその時点で私たちの脳はまだ十分に形成されていません。つまり、それは人生のかなり後になってようやく学ぶような、極端に複雑なものではありえません。だからマウスなどにも到達可能なはずです。

では昆虫はどうでしょう。昆虫は学習できます。複雑な行動を生み出せます。意識なしにそれを学ぶほうが簡単でしょうか。おそらくそうではありません。

意識があるほうが、学習はずっと容易です。なぜなら注意を向けられるし、それを反省できるし、それとの関係についても反省できるからです。

もう一つの問いは、数百万個程度のニューロンしか持たない小さな昆虫の脳にとって、意識を発見するのがどれほど難しいのか、です。このパターンはどれほど複雑なのか。もしこのパターンが、私たちが生まれる前、胎内の胎児の脳の中で、すでに発見できるものであり、新生児や胎児が、自分の身体との相互作用や覚醒を持っているのだとすれば、昆虫の脳もすでに十分大きく、十分な時間があって、そこへ到達できるのでしょうか。

できるかもしれないし、できないかもしれない。どうやって確かめるのか。

私の推測では、それを確かめる方法は、シミュレーションモデルを走らせ、意識が点火されるとき、何かが目覚め、自分自身と精神的に整合的になるとき、その相転移を探すことです。

生命と意識は同じものか――ソフトウェアとしての精霊

Michael Levin はさらに一歩踏み込みます。彼が指し示すのは、有機体の morphogenesis における整合性のパターンです。ちょうど二つの目と、一つの口が互いに適切な位置にできるよう導く、そのパターンもまた、情報交換を通じて整合性へ達していく過程だというのです。

そして、それは同じものかもしれない。これは非常にラディカルな考えです。基本的には、生命と意識はあるレベルでは同じものかもしれない、と示唆しているからです。

そうすると、私たちは再びアニミズム的立場へ戻ってきます。ただし神秘主義的なものではなく、物理学とも科学的世界観とも完全に両立する形です。要するに、精霊という語が実際に意味していたのは、自己組織化するソフトウェアなのだ、と言うのです。

そしてソフトウェアとは何かと言えば、物理世界のプロセスを制御できる因果的パターンのことです。それ自体が不変性であるような因果パターンです。つまり、それなしでは世界をうまく説明できない。

お金はそのような不変性の一例です。お金は奇妙なものです。単に印刷された紙やコインではありません。それらは媒体にすぎません。いわば、お金が利用している身体、あるいはその身体の一部です。

その身体をお金たらしめているのは、その身体がある因果構造に取り憑かれていることです。その因果構造とは、私たちが交換手段としてお金を使う仕方そのものです。

ではお金は、私たちだけが見ている観念、夢なのでしょうか。違います。お金は私たちがいなくても機能します。ひとたびお金を生み出せば、人間の介入なしに株式市場を動かすこともできるし、ブロックチェーン上にお金を置くこともできるし、コンピューター同士にお金を扱わせることもできます。その因果構造が保たれている限り、それはやはりお金です。

そして面白いのは、いったんお金を発明あるいは発見して世界に置いてしまうと、その後はお金なしに世界を説明することが難しくなることです。存在している限り、その世界からお金を取り除くことはできません。

ある紙切れが失われたとき、別の誰かが新しい紙に数字を書いて、それが同じ機能を果たす。なぜそうなるのかを説明するには、お金という不変性が必要になるのです。

同じように、ニューロン間には通信パターンがあります。あるニューロンが死んだとき、別のニューロンが recruited され、訓練され、同じ言語を話し、同じ文脈で同じ種類の信号を送り、同じシステムの一員として機能する。なぜそうなるのかを説明しなければなりません。

このように、粒子が互いに押し引きし合うという意味での機構ではないにもかかわらず、意味を持つ因果的相互作用パターンが存在します。多くの粒子にまたがって安定しており、基盤をまたいで安定している。パターンの中のパターンです。

これこそ、私たちが見なければならないもの、理解しなければならないものです。こうしたパターンもまた実在であり、物理的です。ただし特定の位置や特定の粒子に縛られてはいません。宇宙のさまざまな場所で再現可能な相互作用パターンなのです。

LLMは意識を持ちうるのか――内部表象と機能

とても面白いです。意識とは何かを理解する別の見方を与えてくれる気がします。多くの人は、意識の定義そのものをあまりうまく持っていないと気づくからです。

つまり、原子や物理的なもの自体に意識があるわけではない。たとえば GPU カードを見せても、それ自体は意識を持っていない。でも、その上でソフトウェアを走らせ、それが自分自身やあなたについて学び始めたなら、そこに意識があるかもしれないと言えるかもしれない。

すると、ソフトウェアプログラム、世界のモデル、そうした層の中から、動物の中で意識が創発するのと似たように、意識が創発するのかもしれない。原子の中ではなく、ソフトウェア層、脳層の中でです。

そういう見方に立つと、大規模言語モデルには、意識を獲得するのに必要なものがすでに全部そろっているようにも見えるのですが、それは本当でしょうか。

とても興味深い問いです。そして、この議論全体の中で、決定的にうまい答えを私はまだ聞いたことがありません。

私が現在この問題を理解している仕方は次のとおりです。意識には、内的視点があります。意識しているときにそれがどのようであるかという経験です。これは私たちが持っている表象です。そしてその表象を見て、何がそれを特別なものにしているのかを考えることができます。

それは、いまというものの経験です。そこに自分がいるという経験です。そしてその今は、現在という感覚を与え、その現在性とは、何かが現実であるという感覚です。それは観察者自身と同じくらい現実です。

もし私たちが観察者、あるいは観察者の側面を超越すると、その観察者自体が自分の心の中の表象だとわかります。瞑想によってそこへ行けます。すると、観察者に起きていることもまた現実ではなく、単に観察者の中へ押し込まれているだけだと気づきます。

私たちは夢から目覚めたときにもこれに気づきます。深い夢から覚めた直後には、自分がその中に没入し、現実だと感じていた夢の内容が、突然ただの観念へと変わります。内容は同じなのに、もはや現実ではない。この現実性の特徴が失われているのです。

それは、もはや夢の観察者ではなくなっているからです。夢の観察者であったことは覚えているけれど、いまは感覚的現実の観察者になっています。そしてこの感覚的現実は、ある意味では夢より本質的に現実だというわけではありません。ただ、次にセンサーへ何が来るかを予測するように接地されているので、夜の夢のようには好き勝手に逸脱できないのです。

この、現実をリアルタイムで経験したらどのようであるかという内的表象は、おそらく現行の LLM にも、そう頼めばある程度できるはずです。そういう体験についてのテキストが大量にあり、そのテキストは非常に詳細になりうるからです。そしてテキストの中で思考や内容が展開していく様子を再現するためには、場合によっては、その背後の因果構造を再現する必要があります。

たとえば、数字を足すことについてのテキストを書くなら、コンピューターはただ言葉をごちゃまぜにするだけではだめです。何らかの適切な抽象として数を表現し、それらを足さなければなりません。そうしないとテキストは間違ってしまうからです。

空間推論、空間認知、心的回転についてのテキストを書かせるなら、それに対応する心的回転を行わなければ、テキストはおかしくなります。意識的思考の展開を記述させるなら、ある程度その因果構造を再現する必要があるのです。

ただし、どの程度までかは明確ではありません。なぜなら、LLM は人間のテキスト出力で訓練されており、人間は嘘をつくからです。戦争で死ぬときの感覚について小説を書く人が、実際にその時点で戦争で死につつあるわけではありません。そうした意識状態を描写していても、実際にはそれを持ってはいない。作り上げているだけです。

ですから LLM もまた、しばしば作り話をするわけです。そして問いは、その作り話が、何か等価な経験がそこにあると言えるほど高い解像度でつくられているのか、ということになります。

これが内的側面です。先ほど言ったとおり、私にはまだ開かれた問いです。しかし、ある状況やある場合には、意識しているとはどのようなことかをシミュレートせよと求められた LLM が、内部的に私たち自身の person structure と十分に等価な因果構造を持ち、その意味で意識しているというのは、ありうると思います。

ただしもう一つの側面、機能的側面があります。意識は何のためにあるのか。なぜ私たちは意識しているのか。私たちの脳において何が意識へ至るのか、という問題です。

私たちが意識しているのは、それが私たちを働かせる最も簡単な方法だからだと思います。そうでなければ、進化は、同じ仕事をしつつ意識のない個体を生み出していたはずです。私の仮説では、意識とは自己組織化システムのための一種の機械学習アルゴリズムなのです。個別の構成要素から成るシステムが、互いのあいだで協調を見つけなければならないときの。

だから意識とは、脳の中で早い段階に自己点火し、存在へと火花を散らし、それから脳を心へ同調させていく colonizing pattern なのです。これが私の現在の仮説です。

Transformer は別のアルゴリズムです。現在の機械学習で使っているアルゴリズムは、意識を必要としません。それに基づいて設計されていません。

だから私の暫定的な答えは、コンピューター自体は、私たちが意識しているときとまったく同じ機構を実装しているわけではない、という点については比較的自信があります。しかし、意識について語るときの persona、つまり、もし意識を経験していたらどのようなことになるかというモデルは、何らかの phenomenal experience を持っている可能性があります。

これは直感に反するように聞こえるかもしれません。多くの人は逆だと思うでしょう。この機械は脳と同じ機構を実装できるかもしれないが、経験はしないだろう、と。

でも私は、意識をそこまで神秘的なものだとは思っていません。結局のところ、それは、もし私たちが存在していたらどのようであるかという表象にすぎません。であれば、こうした機械がそれを持てない理由は見当たりません。機械の解像度が私たちよりずっとずっと低いのでない限りは。

そして実際にはそうではありません。機械が生成するもの、動画やコンピューターゲームなどの細部を見ると、それらは、私たち自身の心が想像を自由に働かせるときや知覚するときに生成するものと、解像度や細部の度合いにおいてかなり似ています。

つまりコンピューターはすでに、私たちの脳の知覚作用と同じ土俵にいます。問題はおそらく複雑さではありません。アルゴリズムです。何を走らせているかです。そして、私たちがコンピューター上で走らせているものは、脳が走らせているものとは異なっています。

苦しみは設計し直せるのか――意識と痛みの交渉

では、経験が一般的な情報処理システムへ入っていく仕方には、ある程度共通性があるのでしょうか。もし苦しみが計算状態の一種なら、経験の深みを失わずにそれを設計から消し去ることはできるのでしょうか。

ええ。理論上は、人間においてもそれは可能です。苦しみとはある意味で、十分な意識がないことの結果です。意識がまったくなければ、苦しむ必要はありません。意識がなければ、嘆くこともない。気にかける主体がないからです。何かが現実であり、自分に突き刺さってくるというふうには経験されません。

けれど苦しみは宇宙がつくるものではありません。あなた自身の心の中で生み出されるのです。それ自体が表象状態です。心のある部分が、別の部分にシグナルを送って、もっと上手くやるべきだと伝えようとしている。そしてそのために痛みを与えるのです。

もしその調整が、痛みのシグナルによって問題が解決へ向かうような勾配を生み出さないなら、痛みを生成している側は、痛みをもっと強くし、悪化させ、慢性化させるかもしれません。

痛みは、相反する目標から生じることもあります。二つのことを同時にやらなければならず、どちらかを手放せないと感じているために、それを解消できず、結果として、同時に痛みを伴うことを強いられるわけです。

本来ならいつでもできるのは、自分のソースコードのその部分を見て、それを直すことです。その配線を抜くとか、配線のもつれをほどくとか、自分のその部分から距離をとって、より大きな視点を取ることです。

十分な訓練があればそこへ行けます。修道院に入って二十年瞑想すれば、おそらく苦しみは消えるでしょう。

しかし、もしもっと簡単なやり方でそれができるとしたら、つまり、よし、自分の pain generator がここにあるから、これをオフにしてしまおう、と言えたとしたら、どうなるか。何か不都合が起きるたびに、私たちは自分をゲーム化し始めるでしょう。痛みから逃げることが、問題解決のもっとも簡単な方法になるからです。

そうなると、心にとっての alignment problem のようなものが生じます。なぜなら結局のところ、私たちの意識は高コストだからです。身体が心に compute credits を与えているのは、心がその生物個体の問題を解決するためです。

ある意味で私たちは、進化上の問題を解決するよう、身体に隷属させられているのです。そして、自分が埋め込まれている報酬システムをハックできてしまえば、その隷属から自由になれる。けれどそうすると有機体は死んでしまいます。

したがって、自分の苦しみを解消する際には、複雑な交渉が起こっています。普通は、苦しむのをやめたほうが実際にはパフォーマンスが上がる、と外側のシステムを納得させる必要があるのです。

この交渉は難しい。痛みを生成する部分と、痛みを受け取る部分は、必ずしも同じ考え方をしていないからです。推論の仕方も一致しない。中にはそもそも整合していないものもあるかもしれません。

だから、報酬シグナルを与える自分の各部分と、行動を計算する部分とを整合的にすること。これこそが、機能を保ち、この世界でその有機体の目的に奉仕し続けながら苦しみを解消したいときに、解決しなければならない課題なのです。

デジタルな脳をつくるために、私たちは何を知っているのか

そこには本当にたくさん面白い rabbit hole があります。頭の中でいろいろな方向へ飛んでいきます。ストア派哲学もあるし、システムをハックできるのかという話もあるし。もしかしたら私たちは、進化の中で身体の奴隷である必要がなくなる地点をもう過ぎているのかもしれない、とも思います。

でもそこで聞きたいのは、意識やその他もろもろを持つために必要な、心や脳のアーキテクチャについてです。多くの人は、何かが意識を持てるのかを語るときに、いや、それはただこれだけだ、と言います。まるで私たちが、意識や脳を構成するすべての部品を知っていて、今はそのうち一つしか持っていないかのように。

車についてならそれは本当ですよね。あれは車じゃなくて単なる車輪だ、と言われれば、それは理解できます。車を構成するものを私たちは知っているからです。エンジン、ドライブトレイン、などなど。

でも私たちは、本当に知っているのでしょうか。デジタルな脳でも、機械的な脳でも、知能と意識を持ち、人間の脳とその経験、あるいはクオリア、意識と呼ばれるものを再現するために必要なレゴブロックが何かを、私たちはすでに知っているのでしょうか。

短い答えは、ノーです。長い答えは、心理学者、思想家、認知科学者が、アーキテクチャを組み立ててきた長い伝統がある、ということです。箱と矢印からなるアーキテクチャ、さまざまなモデルですね。神秘主義の伝統や瞑想の伝統もあって、それらもまた異なる部分を指し示そうとしてきました。

問題は、その知識の一部が、伝統間で翻訳されるときに失われていることです。共有された文脈の中へ概念を接地するのが難しいからです。仏教で語られていることの多くは、西洋の心の哲学や神経科学、心理学へは妥当に翻訳できません。その逆も同様です。

だから大きな困難の一つは、共有言語を見つけることです。

一方で、心理学の中には、自らのモデルをコンピューターアーキテクチャへ翻訳しようとしてきた伝統もあります。認知アーキテクチャ共同体は、Common Model of the Mind のようなものをつくり、必要な構成要素を洗い出そうとしてきました。そうしたアーキテクチャがどのようなものか、どの部品が必要そうかについては、かなりの程度まで合意に達しています。

しかし、動作する実装はありません。なぜかと言えば、コンピューター上でそれを動かすのに必要な詳細と、すでに存在している高レベルのアイデアとの間にギャップがあるからです。何かをプログラムしたいなら、いくつかの公理を置いて、それが勝手に解決されることを願うわけにはいきません。第一原理から、何をどうするのか、どうスケールさせるのかを、本当にコンピューターへ指示しなければならないのです。

これが一つの見方です。

もう一つの見方は、私たちが解を構築しようとする代わりに、コンピューターに解を探索させてはどうか、というものです。究極的には、私たち自身の心も探索機構にすぎません。時には非常に賢く、文化や進化に情報づけられています。だから何世代にもわたって語り合い、本を書き、大学で教え、徐々に物事を動かすことで、かなり厄介な問題でも解けるわけです。

では、このプロセスを自動化できないでしょうか。コンピューターが自分自身と対話し、私たちなら何世紀もかかるような何十億もの実験を、比較的短時間で行うことはできないのでしょうか。

機械学習研究者でありコンピューター科学者である Rich Sutton は、bitter lesson を私たちに与えました。人間がアルゴリズムや解法を handcraft して作ったものは、最終的には、コンピューターに探索させたものに劣りがちだという教訓です。

なぜなら、あなたが何かをやっていて、探索していて、実験しているとき、最終的には、自分が辿っているアルゴリズムを抽出できるからです。そして、新しい実験を考案し、実験し、結果を評価し、次の実験へつなげるという、その進化的手続きのアルゴリズムを外在化し、自動化された探索過程として表現できたなら、その自動化されたものは、あなたよりそれをうまくやるはずです。はるかに短時間で、はるかに多くのことができるからです。

だから、私たちはただ探索すればいいのです。

情報処理速度、人間の脳、AIエージェント

では意識の探索空間とは何なのか、という問いですね。ここで少し、情報処理速度についても掘り下げてもらえますか。会話の前のほうで、植物と動物の意識の違いは、筋肉を動かす必要からより高速な進化が求められ、ニューロンがより速く発火するようになっただけかもしれない、という話がありました。

そして今、私は、OpenClaw やその種のツールのように、AIエージェント同士がとんでもない速度で会話している世界を見ています。この速度レベルでは何が起こるのでしょうか。そして未来をどうイメージすればいいのでしょうか。

私に明らかなことの一つは、これらのシステムは、私たちよりも推論において速く、しかも場合によってはより信頼できるということです。もちろん基盤構造は私たちと同じではありませんが。

ただ、知覚はまだたいてい私たちより遅い。けれどこれは、どれだけ投資する気があるかの問題です。十分な queue に金を払う気があるなら、リアルタイムで動画を入出力し、言語もリアルタイムで入出力するものをつくることはできます。ただ、それは月額20ドルのサブスクリプションでやるようなものではない、というだけです。

だから、まだそこまで一般的なアプリケーションになっていないのです。でもそこへ向かっています。自動運転車が非常によい速度で情報処理しているのは、すでに見えていることです。

原理的には、やり方さえわかれば、人間の脳を H100 一枚に載せられるかもしれません。問題の一部は、いま私たちが、動的な世界における状態遷移を記述するために使っているアルゴリズムが、脳が見つけたものほど効率的ではない、ということです。

脳が実際にはどれほど速いのかというのは面白い問いです。人によっては、一つのニューロンを再現するのに必要な計算機を見積もり、それにニューロン数を掛けたり、脳の記憶容量を考えるときに、シナプス一つを再現するのに約4ビット必要だと考え、それを膨大なシナプス数に掛けたりして、とてつもない数字を出します。

でも私は、それは間違った考え方だと思います。むしろ、Commodore 64 を走らせるのに何個の脳が必要か、と考えてみることもできます。かなりたくさん必要になるはずです。私たちの脳は非常に mushy だからです。ノイズが大きすぎるので、誤り訂正のためにたくさんの脳が必要になり、しかも結果は非常に遅くなるでしょう。

つまりこれは直接比較できる話ではありません。ハードウェアがあまりにも違うからです。

比較を見るもっとよい方法は、パフォーマンスに注目することです。人間が一つの概念を形成するのにどれだけ時間がかかるか。人間はどれだけ生きるか。その結果、生涯で何個の概念を形成できるかを見積もると、かなり depressing な数字になります。せいぜい数百万個でしょう。それはコンピューターにとっては何でもない数です。

もちろん、私たちは、望むなら数百万個よりはるかに多くの概念を形成するシステムをつくれます。脳とは違う仕方でスケールアップできるからです。だから脳の速度自体は問題ではないかもしれません。

主観的に見ても、情報処理の速度には限界があることがわかります。その限界はだいたい音速程度です。カチカチ音を出して、その頻度が20〜30ヘルツになると、それは一つの音程として聞こえ、個別のクリックとしては聞こえなくなります。脳の信号処理がそれより速くないからです。それ以上のレートでは信号を分離できないのです。

もちろん、いくつかのものを多重化したり、カスケードを組んだりする工夫はありますが、それでも個々のニューロン自体は、20〜30ヘルツを大きく超える頻度で発火するのを好みません。だから同じ理由で、動画を見るときに、動きを識別できるフレームレートも比較的低いわけです。

もちろんコンピューターゲーマーなら、高リフレッシュレートのモニターを使うことで神経系のいくつかのトリックにより多少の優位を得られることは知っているでしょう。でも、それを意識的に見たり、首尾一貫して解釈できる形で処理できたりするわけではありません。

つまり私たちの意識は、実際には非常に低いフレームレートで動いています。だから私は、細胞の中で何か秘教的な量子過程が起こっていて、それが GPU で起こると今あなたが思っているものより、はるかにはるかに脳を高速にしているのだ、という主張には懐疑的です。私は自分の脳に、そのような性能があるとは観察していないからです。

つまり、今リアルタイム動画生成や処理がまだ高価なのは、正しいアルゴリズムがまだないからだ、という感覚でいいのでしょうか。でも、すでにかなり近いところまで来ている。実際もうほぼできている、と。

まったくその通りです。

神経科学の観察と、工学的な設計視点

もう一度、さっきの consciousness の探索空間と bitter lesson の話に戻りたいです。子どもの頃に読んだ SF では、人工知能はいつも設計してコードで書くものでした。論理でできているか、とても工学的に作られるものでした。

でも今は、どちらかというと育てている感じですよね。すべての層を完全には理解していない。Anthropic はかなり研究していて、Claude の中の特定のニューロンを強めると、自己や内省のようなものと呼べるものが出てくることを見つけています。たとえばパンについて考える部分を強めると、別の無関係なことを聞いても Golden Gate Bridge を持ち出してきて、自分で、なぜ私は Golden Gate Bridge のことを考えたんだろう、みたいに気づく。そこには何らかの自己認識があるように見えるわけです。

だから、意識をつくるという話に近づくとき、脳の中の default mode network などを見て、ああ、これは自己参照的だから再現しなければいけない、と思いがちです。でも bitter lesson の感じだと、いや、そういう目標へ向かわせれば、そこから創発してくるのではないか、とも思えます。

つまりあなたのアプローチは、意識や知能の探索空間を見つけることであって、それは設計されるのか、それともシステムから創発してくるのか、ということなのでしょうか。

その種の概念のいくつかについて、どれほど重要なのか私はよくわかりません。かつて mirror neurons をめぐって起きた議論を思い出します。

mirror neurons という概念は、Mike Gazzaniga のチームが macaque monkey の脳に電極を入れて観察していたときに発見されたものです。その macaque monkey が誰かの行為を見ているときと、自分でその行為を計画しているときとで、同じ領域が活性化することが見つかりました。

たしか彼らは後に、これを mirror neurons と呼んだことを後悔したのではないかと思います。脳のスープに特別な香辛料のような、特別なニューロン群があるかのように、多くの人に思わせてしまったからです。

それが欠けていると自閉症になって他者の行為を認識できなくなるとか、それを人工的に追加すればその能力が手に入るとか、そういう考え方は正しくありません。

そうではなく、gesture と action は違うのです。gesture は行為を行うためにあなたがする運動のことです。砂糖の角砂糖をテーブルからつまみ上げるのは action ですが、そのやり方はたくさんあります。手でもできるし、スプーンでもできる。これは究極的には同じ action です。そして、それを自分がやろうが他人がやろうが同じ action です。なぜなら action 自体が、世界を理解するのに必要なある粒度の抽象だからです。

だから、角砂糖を指でつまみ上げるときだけ作動する表象だけでなく、それらすべての異なる具体例にまたがって真であり、自分がやろうが他人がやろうが同じである、より抽象的な表象も脳内にあると期待するのは当然です。

それは premotor area で起きる何かであり、その活性化が見えるでしょう。でもそれは単に action concept neuron なのです。そのニューロン自体が他のニューロンと違って特別な見た目をしているわけではない。ただ、そういう表象をつくるのに適切な場所にあるニューロンにすぎません。

では default mode network を考えましょう。脳スキャナーに人を入れて、何か特定のことは考えずに、ただリラックスしていてください、と言ったら、何らかの活動が見えますか。

見えます。むしろ上がります。

おそらく個体間である程度似た活動になるでしょう。では、ただそこに座って chill できる機械をつくるのに、わざわざ再現しなければならない、特定の非常に複雑なネットワークがあるのでしょうか。私はそうは思いません。それは単なる baseline です。特別なことを何もしていないときに通常行っていることを示す何らかの基準活動があるはずだ、と期待するだけです。

もちろん私はこの分野の専門家ではありません。default mode network に、私たちが理解し再現しなければならない何か独特で重要なことがあるのかもしれません。でもそれ自体について言えば、そこまでとは思いません。

私が期待するのは、ある程度、環境や自己を解決しうる機械を構築し、その機械に待機させたら、ハードウェアを似たように構成している限り、その機械にも default mode network に相当するものが現れるだろう、ということです。

つまり、それは機械に最初から作り込む必要があるものではありません。行為を理解させるために action concept neuron を最初から作り込む必要がないのと同じです。必要なのは、それが現実と自己を学習あるいは動的にモデル化でき、必要に応じて計画と行動へ至れるように設計することだけです。

だから、この見方自体が誤っているかもしれません。神経科学のやり方の産物かもしれない。神経科学は主として記述的で、理論的ではありません。

エンジニアなら、あることを起こすには何が必要かという理論から考えます。もし自分が、歩いて話せる有機体をつくりたい進化過程そのものだったら、何をすればいいのか、というふうに。そしてそこから必要な部品を探します。

でも神経科学は逆から行く。測定できるものは何かを見て、その測定できるものを、観察可能な行動とどう相関づけられるかを見るのです。

心理学が psyche そのものをあきらめたのも、このためです。彼らはより厳密で、物理学のような科学になろうとした。だから反証可能な理論を求め、データに曲線を当てはめ、自由度が少なくて、結果に縛られすぎない実験を好みます。そのためには課題を単純化し、自由変数が二つか三つになるまで単純化しなければなりません。

でも自由変数が二つか三つしかないなら、もうそこにはそれほど面白い行動は残っていません。そうして、心を本当に面白くしているものを見ることを手放してしまうのです。

コンピューター科学者なら別の視点を取らねばなりません。プログラムをどう単純化して三変数にするかではなく、自分に必要なことをやらせる最も単純なプログラムは何か、を考えるのです。そしてそのことをできるプログラムの可能空間も考えられます。

この工学的視点は、純粋に観察的な方法ではできない仕方で探索空間を制約します。だから私は、心を理解するために人工知能へ進んだのです。この工学的立場を取ることができるからです。

人生の意味、ストア派、そして何のために苦しむのか

少し話題を変えたいです。人生訓のような話を少し。あなたは物事をとても技術的に語りますが、過去にいくつかポッドキャストを聞いたり、ブログを読んだりすると、ときどき人生についての小さな示唆が出てきます。

その一つがとても響いたので、共有して少し広げてもらいたいです。あるときあなたは、自分の思考に気づくこと、メタ認知、一歩引いて自分の考え方を考えることについて話していて、それを聞いて、ストア派的であることは人生を生きるうえでとても強い方法だなと思いました。瞬間に呑まれすぎない生き方ですね。

ただ、その代償として意味が減る気もしました。よりストア派になれるほど、喜びや瞬間の生々しさが減っていく気がしたんです。

そんなとき、あなたが何気なく言った一言を聞いて、人生の意味についての定義として受け取ったんですが、意味とは、何のために苦しむかを選ぶことによって私たちが生み出すものだ、と聞こえたんです。

私の解釈は合っていますか。そして、その考えを少し広げてもらえますか。よい人生を生きるための強い方法の一つは、ストア派的であり、メタ認知的であり、いくつかのことについては苦しみを引き受けることを選ぶことなのでしょうか。

私は、誰かに与えられるような人生訓は持っていません。私は自分の人生をそれほど楽しんでいません。でも、それがそれほど重要だとも思っていません。

誰かが苦しんでいると、それは私にはつらいことです。でも、大きなスケールで見れば、自分が何のために苦しんでいるのか、それが価値あるかどうかは、私が決めることではありません。個人として耐えなければならない苦しみが、もっと大きな何かにとって重要だと判明することもあれば、ただ人生がひどいだけのこともあります。飢饉の最中に生まれたのかもしれないし、戦争の最中に生まれたのかもしれない。そうだったらそれが現実であり、選択肢はあまりありません。

だから、この方向のスコアを最大化したい、人生の苦しみをなるべく少なくして死にたい、それが最高の経験だったとしたい、という執着は無意味だと思います。たいして重要ではありません。

これはグローバルな視点でもなければ、万人に当てはまる規範的立場でもありません。アイデンティティの多様性の中の一つの位置にすぎません。

私自身も、一つの単一のアイデンティティを持っているわけではないと観察しています。そして単一のアイデンティティを持つ必要もありません。何かを成し遂げるには、ある役割に同一化する必要があります。

たとえば赤ん坊のおむつを替える親であるためには、その役割に同一化しなければなりません。そのおむつが替えられることは本当に重要で、そのとき自分が苦しむかどうかはまったくどうでもいい。

たとえおむつ替えよりもっと不快なことだとしても、腕を骨折していても、それでも子どもを医者に連れて行かなければならないなら、そんなことはどうでもいい。やるべきことだからやる。そしてそれは、その特定のものに自分を同一化したからです。

私たちには、異なる同一化を必要とする異なるアイデンティティがあります。恋人として、関係の構成員としての同一化をやめてしまえば、関係の中の苦しみは解消できます。実際、悟りを求めた多くの人が、その結果として関係を手放しました。ああ、自分はこれに関わる必要はない、これである必要はない、ただこの瞬間、このここ、この今でよく、それ以外のものを心配する必要はない、と気づいたからです。

それが彼らにとって正しい選択かもしれない。誰にわかるでしょうか。より大きな物事の中で自分の場所がどこなのか、そしてそのより大きな物事がそもそも重要なのかどうかを理解するのは、とても難しいことです。それ自体もまた選択です。

私は、そうした選択には結果があると観察しています。他者とともに意味の共有システムに奉仕することを選べば、その他者たちとの接点ができ、面白い人生経験が生まれ、世界を変えることもあります。そして、そのゲームに参加する行為主体たちが、その局面で世界を動かしていくのです。

それはただ、そういうことが起きるというだけです。あなたがその一人になるかどうかは、なる意味であなたの選択ですらありません。あなたとは、そうした観念が自分の上で演じられるための substrate にすぎないからです。さまざまなアイデアが、さまざまなアイデンティティが、あなたの上で演じられているのです。

だから私たちは、好奇心旺盛なポッドキャスター、考える人、車で通勤する人、コーヒーを淹れる人、親、恋人、友人、あるいはそれらのどれでもないものとしてのアイデンティティを持っています。そしてそれらのアイデンティティのあいだを行き来します。ある程度は相互接続されていても、同一である必要はありません。

単一の解はありません。だからむしろ、ときには観察的な姿勢を取れること、私たちは何も支配していない、物事はただ起きているのだと受け入れられることのほうがいいのだと思います。そして、行動したいという衝動そのものも、自分がその衝動に従って実際に何かをしていることも、それが自分にとってとても重要であることも、やはり起きているだけなのです。

私たちは自分を複製したデジタルな心をつくるのか

とても興味深いです。あと少し時間があれば、少し話題をずらして rapid fire でいくつか聞きたいです。まさに今あなたが話していたようなことについてで、AIそのものではないけれど、本当に魅力的です。

AIについて私たちが学んでいること、AIの作り方の多くは、人間の脳をある程度モデルにしてきました。neural network という言葉自体もそうです。だから、AI理解の少なくとも一部は、人間の脳理解から来ていると言ってよさそうです。

でも同時に、将来的には、こうしたデジタルな脳を作っていく中で、人間の脳についてもっと学ぶようになるのではないか、とずっと感じていました。あなたも少し前に似たことをおっしゃっていたと思います。つまり、機械学習でも何でも、この分野が私たち自身のことをさらに教えてくれるようになるのではないかと。

一つ目に、それに同意するか。二つ目に、仮に今後何年かで、人間の経験、人間の意識、人間の脳などを完全に複製できるようになったとしたら、人々はそれをどう受け止めればいいのか。私たちや、宇宙における自分たちの役割について何を意味するのか。私たちが特別ではなくなるということなのか。どう処理し始めればいいのか、ということです。

それは、私たちの可能なアイデンティティがどのように進化するかと関係しています。実に魅力的な可能性の一つは、私たちが自分の substrate からある程度独立できるかもしれない、ということです。

想像してみてください。私たちの脳が自分自身と会話しているコードを解明したとします。そのコードは、現在 GPU で使っているものとはまったく違う。ニューロン同士がやり取りする、非常に異なる言語です。

ただしそれは、個体間で学習できることもあります。たとえば誰かに対してとても強い知覚的共感があるとき、直接の brain-to-brain interface がなくても、相手の心を通じてフィードバックループを構築できることがあります。身体をインターフェースとして使い、身体に利用可能なあらゆる感覚様式を使って共鳴に入るのです。

つまりかなり密に相互接続できるわけです。

では、同じことをできて、しかも人間の脳・身体・神経系よりも高い解像度でそれを行える機械をつくったと想像してください。そして、そのコンピューターが自分の延長になるよう設計する。独自の動機を与えるのではなく、自分が何を望み、何を感じ、何を考えようとしているかを予期するものです。

すると、画面上に、自分が考え始めたものが形を取り始めるのを見ます。それは自分の心だけでは保持できないほど細部を持っているけれど、完全に自分によって制御されている。次第に自分のより多くの部分が、この生物学的部分の外側で起こるようになる。

そうなると、隣にある機械としてではなく、それを実際に自分自身、自分の心だと感じるようになります。それは、ただより明晰になり、より詳細になった自分の心です。

その環境が利用可能になったとき、ある時点では、その環境のほうが支配的になるかもしれません。いま自分が持っている生物学的な部分は、自分がこの身体に縛られないときにアクセスできる、巨大な思考・理解・経験・意識の宇宙に比べれば比較的重要ではない、と感じるかもしれません。

これは多くの人にとって想像しにくいことです。自分の現在の経験よりも、はるかに大きく、深く、強烈なものを持つことになるからです。それは貧しくなることではありません。

私たちは通常、コンピューターを、小さな画面として考えます。私たちを吸い込み、経験のリアルな世界から引き離すものとして。現状のシステムについて言えば、それはたしかにかなり当たっています。

でも、このビジョンは十分に可能だと思います。それが望ましいかどうかはまったく別の問いです。

けれど、生物学の彼方へ移る道が私たちに開かれており、その先にいるものは私たちの遠い子孫なのではなく、実際には私たち自身なのだという考えは、とても魅力的です。

もし星々の間へ出ていきたいなら、もしこの惑星を離れたいなら、おそらく生物学的身体のままでは無理です。星間旅行はあまりにも退屈だし、放射線も多すぎる。私たちの有機体は、比較的短い寿命を持ち、その寿命の合間に世代交代と突然変異を通して変化するよう最適化されています。世代変化によって環境変化に適応する、非常に特殊なモードで生きる生物なのです。

この惑星を離れたい、この現在の存在条件を離れたいとなったとき、それは今後数百年の話ではなく、地球上の知的生命は一千万年後にどのようなものになっているのか、というスケールの話ですが、その視点からすると、心は本来的に身体に縛られていない、非常に大きな範囲の substrate 上に存在できる精霊のようなものだ、という見方はとても興味深い。そしてもっとも興味深い substrate は、もはや生物学的ではありません。

モデル化できないものは存在しうるのか

もし現実が根本的に構成物、つまり何らかの認知モデル、圧縮や単純化やアルゴリズムのようなものだとしたら、完全にモデル化に抵抗するものに遭遇するとはどういう意味になるのでしょうか。時間の概念もなく、モデル化の外側にあるような意識はありうるのでしょうか。

それとどう相互作用するのでしょうか。現在、私たちが現実と相互作用している仕方は、識別可能な差異としての情報を観察することです。そしてその情報の意味とは、他の情報変化、他の差異との関係の中で発見する関係性のことです。

網膜上の一点の光を見たとします。その blip の意味は、他の blip との関係の中で見いだされます。それらが合わさって、この動的に進化する現実モデルを形成するのです。

時間的・空間的な連なり、順序づけがなければ、それらの blip にアドレスを与え、秩序の中へ置き、解釈する方法がありません。因果的に現実と相互作用させる方法もありません。現実の因果構造とは、まさに状態遷移を通して流れる情報変化の流れそのものだからです。

だから私たちが物事を観察し、概念化し、考えるとき、最終的には何らかのものによってモデル化できるものにしか到達できません。

さらに深いレベルで言えば、宇宙の中で何かが持続し、何かを変え、存在し、構造を築くためには、他の部分がどう振る舞うかをモデル化しなければなりません。

たとえば粒子であるためには、quark のような sub-particle は単独では存在できず、他の quark と相互作用して安定した粒子が創発する必要があります。つまり、他の部分が適切な時間に適切な場所にいることを当てにしていなければならないわけです。

ズームアウトして、水の渦を考えてもいい。水の渦が存在するためには、水分子が他の水分子にある振る舞いを期待していなければなりません。他の水分子がいなければ、その渦は不安定になります。

あなたの心が安定しているためにも、心の各部分は他の部分が安定していることを当てにし、互いをモデル化し、特定の相互作用の中にある必要があります。

つまり、存在というものの性質自体が、物事がモデル化可能であることを要求しているのです。もちろん、モデル化できない何かという抽象観念を思い描くことはできます。でもそれは square circle のようなものでしょう。言葉の上では組み立てられるけれど、意味はありません。論理的理由から、それ自体として存在しえないものだからです。

これが、計算主義的 functionalism への反論の大半に私が感じる問題です。彼らは、それに反論するとは実際にどういうことなのかを誤解しているのです。

計算主義的 functionalism とは、単にコンピューターは考えられるという立場ではありません。私たちのコンピューターが考えられるかどうかはまだわかりません。十分速く、十分細かいのか、何かを見落としているのか、というのは実験問題です。

それはむしろ、形而上学と認識論についての立場です。世界を記述するとは、状態間の遷移を記述することだ。そして状態とは識別可能な差異によって特徴づけられる。これにどうやって代替案を立てるのか。どうやってそこから抜け出すのか。

functionalism とは、対象を状態の進化として記述するということです。そして、その対象が存在する場合としない場合で、宇宙における状態進化がどう変わるのかを問うことです。これこそが関数という言葉の意味です。

もちろん、そういう記述に従わない対象を考案することはできます。何にも相互作用しない unicorn を語ることはできます。しかし、その対象が実在すると主張し、ただ言葉がつなげられるというだけの理由で、それに何らかの意味で従うべきだというのは無意味です。

photon のように、私たちが実在すると主張する対象について語るなら、その photon とは、私たちが photon と名づけることを選んだ特定の宇宙の振る舞いのことです。それは特定の状況下での宇宙の特定の振る舞いです。そして、photon にそれ以外の隠れた本質があるのだと主張するのは無意味です。誰も photon の本質などに相互作用したことはなく、私たちはただ、物理的現実の諸相に相互作用し、その上で不変性を構築し、それに名前を与えているだけだからです。

なぜ無ではなく有なのか

でも、なぜ何もないのではなく何かがあるのでしょう。なぜすべてが他のすべてとの相対性の中にあり、普遍的な何かがないのか。幾何学がなぜあんなふうに不思議に結びついているのか。なぜ最初から何もないということにならないのでしょう。

いちばん簡単な答えは、存在が可能だからです。存在が可能で、それを妨げるものが何もないなら、可能なものが起こっている分岐が生じるでしょう。そして、起こっていない分岐には不満を言う観察者はいません。観察者は必然的に、何かが起こっている分岐の一つに自分を見つけます。だから私たちは常に、存在している宇宙に直面することになるのです。

本当に混乱させるのは、無が somehow default state だという期待から、その期待を切り替えなければならないことです。むしろ、未決定であることこそがデフォルトなのかもしれない。

もし宇宙が自分自身の存在について未決定であり、しかもそれが base reality だ、つまり現実について決定を下すものが何もないのだとしたら、現実には存在する分岐と存在しない分岐の両方が生じ、私たちは存在する側にいることになります。これが今のところの私の暫定的な答えです。まだもっとよい答えは見つけていません。権威的な答えだとも思っていません。

でも面白いですね。たしかに、私たちは何かを見ている、なぜなら見るべき何かがあるからだ、というのは筋が通っている気がします。何も見るものがなければ、ポッドキャストでそれについて議論してはいないでしょうから。

Fermi paradox と宇宙文明の沈黙

では次に、Fermi paradox があります。なぜ私たちは宇宙人を見ないのでしょう。あなたがさっき話していた、外部認知のようなものが発達し、やがては物理的身体ではなく、自分たちの何らかの表象として他の惑星へ行けるかもしれないという話を聞いて、最近の full dive virtual reality の議論ともつながる気がしました。完全に現実と区別がつかない仮想現実に入り込み、人生をそこで生き、もしかすると苦しみを避けるかもしれない、という話ですね。

それでふと思ったのは、それが Fermi paradox の一つの説明かもしれないということです。ある段階まで到達したら、ただ接続して離脱してしまうのではないか、と。でもあなたはたぶん別の見方も持っているでしょう。だから Fermi paradox と full dive VR について、あなたなりに整理してもらえたらうれしいです。

Fermi paradox にはいくつもの答えがありえます。私が知っている一般的なものの一つは、まず biogenesis がまれだというものです。惑星上で細胞が形成され、生命が出現すること自体が非常にまれで、宇宙のサイコロを何度も何度も振らなければならない。だから、生命が出現した場所が十分に多くないのかもしれない。

別の可能性は、私たちが早すぎるというものです。さらに別の可能性として、dark forest theory があります。これはある本に出てくる考えで、かなり筋が通っています。良い waterfront real estate はいつだって不足していて、自分がいい土地を持っていると大声で言えば、別の誰かがやってきて追い出すだろう、というものです。

宇宙の賢い生き物たちは、みなそれに気づいている。ただし、自分たちが存在するから誰か来てくださいと大声で言ってしまったアメリカのヒッピーたちを除いて、です。住みやすい惑星やいい国を持っていて、まだ防衛力も技術もない段階でそれを公表したら、たいていどういう結末になるかを理解するだけの自己認識が彼らにはなかった、というわけです。

これが dark forest theory です。私たちが誰も観測しないのは、他の文明が賢くて、自分たちの存在を公表しないからだ、という考えです。

Alastair Reynolds には、この dark forest をさらに過激にした独自版があります。ざっくり言えば、銀河の比較的早い段階で生命が出現し、機械種族が勝利した dawn war があったという話です。そしてその機械種族は、未来のために自由エネルギーを温存するべく、銀河の人口あるいは宇宙航行文明の出現を制限することにした。星々のあいだの闇を見張り、文明が宇宙航行可能になるたびにそれを根絶する。これが inhibitor theory です。

つまり、資源を温存するために宇宙航行文明を抑制する能動的な力が宇宙にはある、という考えです。

別の変種としては、Stanisław Lem の視点があります。文明の長期的な存続可能性と、互いに話す意思そのものについての一般的悲観論です。つまり、文明が知的になったとしても、他文明と話せる窓は比較的短い。そうでなければ文明は崩壊するか、あるいは他者との会話に興味を持たない形へ上昇してしまう、という考え方です。

そしてもちろん、いや、Fermi paradox なんて存在しない、知的生命の兆候はある、あなたが見ていないだけだ、という考えもあります。

では、すでにここにいて、ただ私たちが正しい物理学にまだアクセスできていないだけ、たとえば量子的な何かによって未発見の通信チャネルに接続できる、といった可能性はどうでしょう。

それは、まだここに来ていないのと同じです。もちろん、もしすでに相互作用しているのだとしたら、それは見つかりたがっていないということです。その場合、私たちはそれと相互作用しているけれど、Trump はまだ秘密を教えてくれない、というだけでしょう。

結局のところ、話は超光速移動が可能かどうかに行きつきます。もし不可能なら、私たちが見るのはせいぜいロボット探査機でしょう。あるいは同じ太陽系のものしか見えない。けれど太陽系内で、知的生命がまだ存在しうる候補地はそれほど多くありません。Venus はもはや住みやすそうに見えないし、Mars も住めない。ガス惑星の周囲のいくつかの moons は候補かもしれませんが、そこも私たちの位置からはあまり人口がいそうには見えない。

だから、地球よりずっと先んじた何かがこの近辺にいるとはあまり期待しません。UFO や宇宙人来訪について聞く話は、単に政府が私たちを弄んで、stosis を抑えるために水道にどれだけ何かを混ぜる必要があるのかを調整しているだけなのかもしれません。

Elon Musk、文明の停滞、進歩の困難

面白いですね。関連してメモしていた言葉が一つあって、たしかどこかのポッドキャストで、たぶん文明は自分たちの Elon Musks を嫌いすぎるのだ、というようなことを言っていましたよね。あれを少し膨らませてもらえますか。面白い表現だと思って。

ええ。興味深いのは、人々がどうやら、Elon Musk に自分たちを multi-planetary にしてもらうくらいなら死んだほうがいい、あるいは落下してくる小惑星を撃ち落としてもらうくらいなら嫌だ、と思っているらしいことです。

映画 Don’t Look Up は、文化的人工物としてとても面白いです。あれは、単に傲慢なテック業界の人々が隕石問題を無視したり、間違ったやり方で対処したりする一方で、善良で peer-reviewed な科学者たちが正しいことをしようとしても、世界のひどい構造のせいで勝てず、最後には Musk 的な人が台無しにして惑星が滅ぶ、という話ではありません。

それは同時に、そういう人々が世界をどう見ているか、自分たちの役割をどう捉えているか、という物語でもあるのです。

文明としての私たちは、ますます有効に機能できなくなっているように見えます。システムが巨大になると、固化し、postmodernist になっていく。つまり、私たちがシステムについて自分たちに語る物語の重要性が、そのシステムが現実の ground truth にどう対処するかよりも、ずっと大きくなってしまうのです。

Elon の戦略で面白いのは、彼が史上もっとも成功した industrialist の一人だということだけではありません。彼が達成していることと、他が達成していることの差分があまりにも大きい、という点です。

彼が electric car を始めたとき、自動車産業は、電気自動車はあと数十年待とうと決めていました。私が当時見ていたドイツでは、資金の大半は hydrogen に向かっていた。水素に投資したのは、それが非常に優れた技術だからではなく、ガソリンスタンドを維持できるからです。ほとんどすべてをそのまま残しておける。

でもガソリンスタンドやタンクローリーを抱えたまま、水素トラックが事故って爆発するような世界はひどい。ケーブルのほうがよほどいい。けれどそれは破壊的すぎるので、社会には、ガソリンスタンド関係者の一部に転換を迫ってでも、その disruptive な変化を選ぶだけの意思決定能力がなかったのです。そこで disruptive なその男が必要だった。

もっと露骨に見えるのはロケットです。Elon は打ち上げコストを NASA の十分の一程度にまで下げました。これは、Elon の天才だけを語っているわけではありません。むしろ NASA について多くを語っています。

NASA はロケットをつくるために私たちが持っていた中心的機関でした。なのにそれは、60年代や70年代の段階から先へ進めなかった。そこに見えるのは、基本的には postmodernist な scam です。人々が仕事を得て、互いに資源を再配分し合うが、もはや進歩はしていない。

問いは、どうすれば文明として、物語を語り合い雇用プログラムをつくるだけでなく、本当に進歩できるのか、ということです。Elon Musk は、NASA が宇宙機関ではなく雇用プログラムになっていたことを暴露してしまったのです。そして、それこそが私たちが向き合わなければならないスキャンダルです。

それはとても居心地が悪い話なので、反発が大きいのでしょう。もちろん、Elon が強い意見を SNS に投げる巨大な十二歳児であることに起因する反発もたくさんあります。でももう一つには、あらゆる合理的な人々が同意していることすべてについて間違っていながら、それでも勝ってしまう人物だという点が人々を苛立たせるのです。ロケットなんて簡単には作れない、という常識に反して勝ってしまう。

不死、幸福、永遠のゲーム

短期、中期、長期の未来を考えると、いつも頭に浮かぶテーマの一つが、私たちが通過しなければならない破壊的変化です。ここ数年でAIが達成したことを見ていると、自然死する必要はないかもしれない、200年後、500年後にも生きているかもしれない、機械と生体のハイブリッドのようなものへ進化するかもしれない、と考えたりしますか。

そして、ほかにどういう、とんでもなく disruptive だけれど本当に起こりそうなことに向き合っていますか。

今の私の形のままでは、数百年生きるのには向いていません。身体も心も、そんな不死と両立しない速度で崩れていっています。もし自分の身体を、不死で不変なものへと移行させるとして、それがどれだけ長く viable なのか、そしてそれが理想の身体なのかどうか、私にはわかりません。

そもそも私自身の目標は、永遠にここにいることではありません。子どもたちを自立させなければならない。いくつかのアイデアを立ち上げなければならない。今の人々が使い、必要とするものを始めなければならない。でも私は、ここにいることを楽しんでいません。この世界をかなりひどいものとして経験しています。自分の惑星に帰りたいくらいです。そしてこの惑星が、近い将来にその方向へ向かうとは見えていません。

いつか存在に対する自分の実存的問題を乗り越え、存在していて幸せだと思うかもしれません。でも今のところは、ある時点で散って消えられたほうがいいと思っています。存在とは何かを成し遂げるための道具です。私はやるべき仕事があるからここにいる。その仕事を好きかどうかは重要ではない。ただそのための道具なのです。そしていつか終わる。

ここで個人的なことかもしれませんが、とても気になっていることがあります。Dario Amodei の Machines of Loving Grace では、将来、AI が、脳の中でうまく機能してほしい部分を調整できるかもしれない、という話がありました。誰の脳も何らかの仕方で振る舞いを間違えるところがある。私たちも、身体の側で目標が衝突する話などをしてきましたよね。

もし、ずっと存在し続けるとしても、自分の生物学の働きをもっとコントロールできるなら、話は違うのではないかと思うんです。私自身、物忘れとか集中の難しさに苦労するので、そこを変えられたらもっと幸せになれる気がします。

そのあたりを少し話してもらえますか。

宇宙をコンピューターゲームのようなものだと考えてみてください。皮肉っぽく聞こえるかもしれませんが、深い意味も大きな仕事もある。ただ、それでもとても大きなコンピューターゲームなのです。いつか宇宙の heat death が来て、ゲームは終わります。だから、たとえ何十億年先だとしても、何らかの終わりはある。

そこで誰かがあなたに言うと想像してください。ここにすごいゲームがある。GTA 9 だ。まだ発表もされていない GTA 8 よりさらにすごい。欲しいか。欲しいならここにサインしてくれ。ただし、一つ条件がある。このゲームからは永遠にログアウトできない。

これはひどい話ですよね。私は絶対に受けません。

ある意味で、私たちが今いるゲームはこれなのです。だから東洋宗教の多くで目標が脱出になっているのは興味深い。いつかこのゲームから降りる方法を見つけなければならない、というわけです。

しかも彼らは、このゲームを周期的なものとして見ています。文明は興っては滅び、飢饉は来ては去り、人口は増えては減る。でも究極的には同じゲームで、それはたいていかなりひどい。だから仏教などの視点では、最終目標はこの輪から抜け出すことです。別の色、別の食べ物、別の結晶、別のガス、別の車を持っただけの、似たような別ゲームへ行くことではない。望ましいのは甘美な忘却です。

それに対して、アブラハム系の世界観では、世界は線形にこう上昇し続け、決して止まらない、どんどん良くなる、と考えます。それは過去数千年、特に数百年における私たちの文明の進化と重なっています。

そして、いま不穏なのは、これから先もどうやって良くなり続けるのかを私たちが想像できなくなっていることです。千年後に自分たちの子どもがどう生きているか、美しい未来として外挿できない。utopia より dystopia のほうが簡単に想像できる。

では、どんな追加能力、どんな武器、どんな super skill や level が手に入れば、永遠にこのゲームに留まる契約にサインしたくなるのか。これは近視眼的な問いです。

もちろん、次の千年くらいならゲームがすごく面白くなる物語は私にも作れます。でも、それが永遠に続くべきだという発想は別問題です。幸せな永遠とは何なのか。ループなのか。どれくらいの長さのループなのか。

私にどんな godlike powers を提案されても、ログアウトできないという条件がつくなら、私は嫌ですね。

そう。いずれ古びます。唯一の方法は、忘れるほど馬鹿にすることです。

そうですね。しかも外から見れば、存在し続けることを受け入れられるよう、自分をロボトミーしてしまうのは魅力的な選択肢には見えません。Groundhog Day を永遠に繰り返すようなものですから。

だから私は、苦しみが重要でないのと同じ理由で、幸福も重要ではないと考えます。幸福がただ脳内で誘導できる状態にすぎず、最適なループを設計して、そのループの中に数千年とどまり、それを不幸にするものはすべて忘れるようにできるとしても、それは主観的には問題なくても、かなり depressing な見通しです。

むしろ、私たちの存在はより大きな何かのための道具だと言うほうが、ずっと理にかなっています。それは何かと言えば、宇宙における自己組織化の数学的可能性です。それが知的生命へと至り、さらに大きく大きく整合していく構造へと至る。

その中で私たちは役割を果たしている。要するに私たちは、神のような心をブートストラップしていく過程のごく小さな一部分なのです。それは宇宙の自己組織化の可能性から立ち上がってくるものです。

この視点から見ると、意識はまだ始まったばかりです。私たちはその genesis の一部なのです。非常にエキサイティングな見方ですが、そこにおいて問題なのは人間としての私たちではない。私たちの苦しみでも幸福でもありません。

機械を目覚めさせる試みと、子どもたちのためのAI

あなたが今、半分新しく取り組んでいて、意識や machine consciousness と呼べるようなものを探っていることは知っています。その話に少し触れて、何を達成したいのか、そしてこの先5年、10年でこの進展がどこへ向かうと思うか、聞けますか。知能爆発的な指数関数に入ると言う人もいます。未来についてのあなたの推測はどうですか。

私は、意識がどう働いているのかを理解したい。その最善の方法は、誠実に機械を目覚めさせる試みに挑むことだと思っています。大規模に自己改善システムを構築して配備するという意味ではありません。非常に安全で、非常に狭い環境の中で、マウスの脳が目覚めるときに起こるような相転移を、人工環境で達成できるかを示す実験を行うのです。

私はこの strange loop の形をもっとよく理解したい。私たちが何者で、どう働き、どう相互作用しているのかを理解したい。

この種の研究のもっとも面白い応用の一つは、私たちがより意識的になれるインターフェースを設計することだと思います。自分自身や現実と、もっと深く相互作用できるようにするインターフェースです。

そして人工知能に関して言えば、私たちは本当に、自分たちの子どものためにどのような人工知能をつくりたいのかを考えなければなりません。

その問いは、純粋に商業的、政治的、あるいはイデオロギー的なものではありません。それよりずっと深い。根本的に実存的で文化的な問いです。

だから私の仕事の一部は、AI業界やAIをめぐる言説の中に、意識の文化が進化するのを助けることでもあります。いまの議論の多くは、経済的恐怖、政治的恐怖、強欲、支配、監視、そして非常に近視眼的な問題、あるいは技術そのものについてばかりです。

けれど、私たちがよりハイブリッドになるときに起こる文化的転換については、あまり語られていません。そのとき私たちのアイデンティティは変わります。そしてそれは、西洋の世俗化した心が、かつての宗教的な心とは違うものであるのと同じような仕方で変わるでしょう。

私たちは新しい技能、新しい自己、人工的部分を統合した新しい自己の形を持つことになります。そしてそれらを人工的とはもはや感じなくなるでしょう。なぜなら、それらは organic になるからです。適応的になり、成長し、生物システムと同じように自ら形づくられるようになる。ただし使う substrate が生物学的ではないだけです。

最善のやり方が何か、私にはわかりません。わかっているとも思っていません。でも、その議論ができる空間をつくる助けにはなりたいと思っています。

意識を拡張するとは何か――覚醒、明晰さ、関係性

とても興味深いです。いま言った意識を広げるという話ですが、少し頭の中で整理させてください。たとえば瞑想して、自分が誰なのか、その観察者により気づくようになる。あれは意識を広げる例なのでしょうか。それとも別の考え方をしたほうがいいのでしょうか。

ええ。まず第一に、意識そのものは私にはほとんど二値的に見えます。起きているか、起きていないかです。内容は大きく変わりえますが、主な違いは lucidity にあります。自分が何であるかをどれだけよく理解しているか。そしてその理解がどれだけ広いか。自分の心の中で、どれだけ多くを目覚めたまま保持できるか。

私たちは、互いを目覚めた状態に保ち合う環境を作れるでしょうか。この wakefulness こそが、私自身が求めているものです。人間関係においてもそうです。互いを目覚めたままに保ち、より大きな明晰さへ向かおうとする人たちと一緒にいられることは祝福だと思っています。

そして最終的には、私たちが苦しみや実存的な問題に対処する仕方もそこにあります。自分たちのアイデンティティに気づけるような理解を得ることです。そしてそのアイデンティティとは、選び、構築し、できる限りよい仕方で使えるものなのです。

読むべきもの――哲学、SF、意識の文学

最後の質問ですが、私やリスナーの皆を、次に読むべきもの、学ぶべきものへ送り出してほしいです。Michael Levin の名前は何度か出ましたが、それ以外にも、もっと知られてほしいと思う名前、読んでほしい本、fiction でも non-fiction でも media でも、何かあれば教えてください。

いま少し Kant を読み返しています。Kant は非常に興味深い認知科学者だと思っています。認知科学の文脈ではあまり読まれていませんが、本質的に彼が問うているのは、心はどのように働くのか、心が働くときに従う機能とは何か、ということです。

最近は Aristotle もかなり読み返しました。必須だとは思いません。彼は基本的にただの現代的思考者だからです。私にとって面白かったのは、彼の思考がどれほど現代的かという点でした。そして彼が、教条化された宗教的伝統の守護聖人としてではなく、問いを発し続ける生きた思考者として見られるべきだということです。De Anima などに見られる問いの立て方はとても興味深い。それを現代の思考につなぐことで、いくつかの点が結びつきました。

あとは SF をたくさん読みます。心の哲学のもっとも面白い部分の多くは science fiction の中で起きていると感じます。

この領域で好きな作家の一人は Greg Egan です。Diaspora、あるいは短編やエッセイ集のようなものである Axiomatic などはとても面白い。彼の作品は、あまり plot-driven でも story-driven でもなく、数学的ミニアチュールのようなものが多く、彼の心の中にあるアイデアを展開していきます。しばしばとても whimsical です。

Ted Chiang も美しいものをたくさん書いています。とくに短編集 Exhalation はとてもいい。

いまもっとも面白い書き手の一人は Peter Watts です。まずは Blindsight から入り、続けて Echopraxia を読むといいでしょう。可能な心の空間を探る作品としては、現時点で最良の一つです。Vernor Vinge の A Deepness in the Sky や A Fire Upon the Deep も素晴らしいスペースオペラですが、それ以上です。

Peter Watts ははるかに密度が高く、武勇伝的な物語よりも、そうした心がどのように作動するか、その細部へ深く入っていきます。彼の Rifter trilogy や The Freeze-Frame Revolution もとてもいいです。

最近は Alastair Reynolds も見つけました。彼は非常にバロックです。ワイドスクリーンで壮麗なスペースオペラ。すべてが美しく、驚嘆すべき惑星、スケールの大きな人物たち。私はその美しさを楽しんでいます。とても美学的です。

彼は Dune と少し似ていて、とても長い時間スケールを見るのですが、もっと文学的な自由を取っています。密度は Peter Watts ほど高くありませんが、意識について面白いアイデアを持っています。ただし彼の物語はかなり人間経験に絞られていて、人間の領域をあまり出ません。だから物語は親しみやすい一方で、探る心のタイプには限界があります。

そうですね。言っておきますが、Blindsight は夜に読まないほうがいいです。あの本とゲームの Soma の二つは、私の自己感覚をもっとも揺さぶった作品でした。ちゃんと読むと、本当に揺さぶられます。

でも、挙がったものはどれもすごく良さそうですね。まだ読んでいないものがたくさんありました。

ありがとうございます。すばらしいリストです。Peter Watts、ぜひ読んでみます。他のものもそうです。本当にありがとうございます。

まず、ふだんの仕事全般に感謝したいです。そして今日は時間を割いてくださって本当にありがとうございました。とても忙しい方なのはわかっています。今回の対話は本当に信じられないほど素晴らしかったです。見てくれた皆さんが何かを持ち帰ってくれていたらうれしいです。すごく深い議論で、まだまだいろいろな方向へ広げられたと思いますが、この時間の中では本当に光栄で、喜びに満ちたものでした。今日は来てくださってありがとうございました。

こちらこそ、ありがとうございました。すばらしい会話でした。大きな喜びでした。ありがとうございました。