意識を持つチューリングマシン（CTM）という計算論的モデルを通じて、意識のメカニズムを解き明かす試みについての解説である。CTMは、グローバルワークスペース理論や統合情報理論といった主要な意識理論と整合しつつ、脳の物理的構造ではなく機能的特性を抽象化する。感覚を融合した独自の内部言語であるBrainishと世界モデルの共進化により、主観的な意識体験やクオリアといったハードな問題にもアプローチする。さらに、盲視や非注意性盲目、変化盲といった心理学的現象もモデル内で矛盾なく説明可能であることを示し、最終的にAIにおける意識の発生は不可避であると論じている。
アヴリムの誕生とMITでの日々
レノアについていくつか紹介させてください。彼女は長年、数学と理論計算機科学の研究をしてきました。初期のモデル理論の研究はもちろん、実数上の計算量理論に関する研究やそのモデルの定義でも知られています。また、女性や少女を数学や科学の世界に導く活動でも非常に有名です。Association for Women in Mathematicsの創設者でもありますね。さて、近いうちに誰もが意識の研究に興味を持つようになると思います。今はまだ特定の分野に限られていますが。
スライドを表示しますね。声は聞こえますか。まず最初に言っておきたいのは、私はマニュエルの発表を事前に聞いていなかったということです。私たちは昼夜を問わず一緒に研究しているのに、彼はしばらくの間こっそりと、私の発表と非常によく似たこのプレゼンの準備をしていました。ですから、皆さんには同じ話を二度聞かせてしまう部分があるかもしれません。本当なら発表を削るためにもう一時間必要だったのですが、他の部分も話したかったので逆に内容を増やしてしまいました。さて、今日はアヴリムの60歳の誕生日です。私にとっては少し感慨深い日でもあります。というのも、ちょうど60年前の今日である、彼の0歳の誕生日に遡ることになるからです。
1966年5月27日のことです。今日のようにとても素晴らしい春の日でした。当時私はケンブリッジにいて、MITの数学科の大学院生でした。その年、私はハートリー・ロジャースが教えていたモデル理論の素晴らしい授業のヘッドティーチングアシスタントを務めていました。これは2号館です。MITのすべての建物には番号がついており、ここは数学科の建物です。そしてこちらが、その授業を教えていたハートリー・ロジャースです。
当時、論理学は非常に大きなテーマでした。ハートリーの授業は大規模で、私は大学院の授業のヘッドアシスタントでした。実は、ジョンの父親であるジーンもその授業にいて、彼のことはよく知っていました。この写真に写っているのがジョン・クラインバーグで、ジーン・クラインバーグもそのクラスにいました。彼は実は、この大学院の授業に参加していた学部生の一人でした。つまり、私たちはとても長い付き合いなのです。これは60年前のことです。
5月27日は期末試験の時期でした。私は2号館の2階にいて、ハートリーの授業の期末試験の採点をしていました。午後になり、1時頃に少しお腹の張りを感じました。それをメモしておきました。少し経ってまた張りを感じたので、またメモしました。その後、それが定期的に来るようになりました。お腹が張ってきたのです。午後4時頃、MITの反対側にある26号館の地下にいたマニュエルに電話をかけました。そして、そろそろ病院に行く準備をしたほうがいいかもしれないと伝えました。
マニュエルが迎えに来てくれました。スライドにあるのが私たちの青いダッジ・ダートです。私はMITを出て車に乗り込み、ボストンへと向かいました。そしてベス・イスラエル病院に到着しました。産婦人科は最上階にあったので、エレベーターで最上階まで上がり、部屋に入りました。マニュエルは意識を持つチューリングマシンの話をするとき、それが比較的簡単に誕生すると仮定していましたが、私たちのお産も比較的簡単なものでした。
当時のアメリカでは、ほとんどの女性が麻酔をかけて出産していました。でも私はそれを望みませんでした。しっかり意識を保っていたかったので、マニュエルと一緒にラマーズ法のクラスに通っていました。おかげでアヴリムが生まれたとき、私は完全に目を覚ましていました。
私の中にある驚くべき記憶の一つは、看護師さんがこの赤ちゃんを私に手渡してくれたときのことです。この小さな赤ちゃんは、部屋中を見回していました。とても覚醒していて、本当に周りの状況を観察しているようでした。彼を困らせたくはありませんが、病室でのあの出来事は、私の中で最も鮮明な記憶の一つです。
その時の写真がなかったので、ChatGPTにお願いして、あの輝く瞳の赤ちゃんの画像を作ってもらいました。皆さんにお見せするためです。これが生成された画像です。もちろんこれはハルシネーションです。なぜならこれは新生児ではないからです。でもこれがChatGPTの出力でした。どうしてこんな画像ができたのか考えてみました。私はスライドショーを作るために、自分の写真をたくさんウェブ上にアップロードしていたので、おそらくChatGPTはそれを見ていたのだと思います。この画像の赤ちゃんの奇妙な腕の形を見て、マニュエルとアヴリムが一緒に写っている別の写真から要素を引用したのだと気づきました。それがChatGPTのやったことです。
とにかく、これが私たちの幼い子供でした。私はこの素晴らしい赤ちゃんを授かってとても興奮し、一晩中起きていました。最上階の部屋には窓があり、一晩中光のショーが見えました。ボストンの街がライトアップされていて、まるで素晴らしいお祝いのようでした。私にとって、それは本当に忘れられない記憶の一つです。
幼少期のアヴリムとMITでの子育て
驚いたことに、彼には取扱説明書が全く付いてきませんでした。私は子供の頃、人形遊びにあまり興味がありませんでした。だから私たちには何らかの指導が必要でしたが、もちろんアヴリムはとても控えめで助けになる子でした。当時から彼は私たちを助けてくれ、私たちは一緒になんとかやり遂げました。
タイミングも非常に良かったです。5月27日生まれなので、夏の間はだいたい休みでした。そして秋になると、私は大学院に戻り、マニュエルも教鞭をとるため、どうするか考えなければなりませんでした。当時は保育園なんてありませんでした。女性が働くという環境も整っておらず、保育園は存在しなかったのです。そこで私たちはベビーキャリーを見つけ、彼は2号館の私のオフィスにやってきました。
アヴリムはどこへでも私たちと一緒でした。私たちは彼を連れて部屋から部屋へと移動しました。26号館の地下にある電子工学研究所もその一つです。そこにはウォーレン・マカロックのラボがあり、マニュエルのオフィスがありました。アヴリムはそこでも時間を過ごしました。私たちは私のオフィスから地下のマニュエルのオフィスへと行ったり来たりしました。
とても驚くべきことに、MITにはドームの真下に女子学生用の部屋がありました。本当に素晴らしい部屋で、時々アヴリムも私と一緒にそこに来ました。また、私たちの友人もよく遊びに来ました。特に覚えているのは、当時物理学の大学院生だったミッチ・ファイゲンバウムです。彼はアヴリムと遊んだりゲームをしたりするのが大好きでした。この写真では、彼らはひも理論について考えているようです。これはひも理論や結び目理論といったものが世間に知られるずっと前のことです。明らかにアヴリムはMITで非常に早いスタートを切っていました。
少しやりすぎな準備だったかもしれませんが、彼はそこに2年間いて、私は博士号を取得し、その後バークレーに移りました。でもその準備は実を結びました。25年後、彼はロンのもとでMITで自分自身の博士号を取得したのですから。
今は親たちが子供をトップの学校に入れるために多くのことをしているのを知っているので、最初の2年間の私たちのやり方は少し度を超えていたと思います。でも彼には素晴らしい経験となりました。誕生日おめでとう、アヴ。あなたは私たちにたくさんの喜びと幸せをもたらしてくれました。私たちはまるで小さなチームのように一緒に成長してきました。
意識科学のランドスケープにおけるCTMの位置づけ
さて、マニュエルが意識を持つチューリングマシンについてたくさん話してくれたので、私はそれを意識科学の全体的なランドスケープの中に位置づけるために、少し発表の内容を変えました。
私の話はここまでのマニュエルの話とかなり重なる部分があるので、結論を先に言おうと思います。お水をもらえますか。誰かお水をください。アレックス。彼は私の孫でアヴリムの息子のアレックス・ブラムです。ありがとう、アレックス。
ブラムの4乗ですね。
ご覧の通り、これは完全な家族の事業のようなものです。時間が足りなくなった場合のために、すぐに結論をお話しします。
この意識を持つチューリングマシンというモデルが、全体のランドスケープのどこに位置するのか、そしてそのランドスケープとは何なのか、疑問に思われるかもしれません。私たちはこの形式的でシンプルな機械モデルを持っています。結論を言うと、CTMは少なくとも高いレベルにおいては、主要な意識理論の多くと整合しています。
意識に関する理論がたくさんあることはお聞きになったことがあるかもしれませんし、ないかもしれませんが、現在はニュースにもなっており、次々と新しいものが出てきています。しかし、主要なものは5つか10個ほどで、それらは意識の異なる側面を見ています。そして私たちのモデルは、その主要なものすべてと整合しているようです。
興味深いのは、トップの理論として挙げられる二つの理論、マニュエルも言及したグローバルワークスペース理論と、統合情報理論の存在です。統合情報理論については、スコット・アーロンソンがそれに関する議論をしていたので、聞いたことがあるかもしれません。統合情報理論は、おそらくこれらすべての理論の中で最も数学的です。ファイと呼ばれる尺度があり、情報の相互接続性やフィードバックを測定します。
しかし、この二つの理論は対立しています。少し前に興味深いことに、テンプルトン財団が敵対的コラボレーションと呼ばれる研究を支援しました。どちらの理論が正しいかを確かめるためのものです。彼らは全員が合意する実験を設定しましたが、結果として何が起きたかについてのコンセンサスは得られませんでした。
グローバルワークスペース理論は意識が主に前頭前野にあるとしており、統合情報理論は後頭頂皮質にあるとしています。それらの実験は、実際にどこで物事が起きているかを確認するために設定されました。
矛盾する二つの理論の両方とどうして整合できるのかと聞かれることがあります。私たちの答えは、CTM、つまり意識を持つチューリングマシンは、脳のいかなる場所にも結びついていないということです。それは機能的な特性を抽象化したものなのです。それがポイントです。
私たちの機械は高いファイを持っていると言えます。多くの相互接続性を持ち、多くのフィードバックを持っています。したがって、統合情報理論の尺度を使えばかなり高い値になります。そしてマニュエルの話で見たように、グローバルブロードキャスティングは私たちのモデルの大きな側面です。私たちは機能性を見ており、場所や特定の物理的側面を見ているわけではありません。だからこそ、両方と整合させることができるのです。
意識科学の歴史と簡単な問題・ハードな問題
私が今日お話ししたいのは、意識科学とは何か、CTMはどこに位置するのか、そしてAIへの影響についてです。
数千年にわたり、意識は哲学者や神学者の領域でした。約35年前まで、意識の科学的研究はタブーとされていました。しかし現在では、認知科学者、神経科学者、心理学者、物理学者など、多くの人々によって活発に研究されています。
何が変わったのでしょうか。一つの大きな変化は技術です。90年代にfMRI技術が発明され、研究者が非侵襲的に人々の脳内の活動を見ることができるようになりました。これにより、大まかに何が起きているかを確認できるようになりました。
そして1995年、DNAの研究でノーベル賞を受賞したフランシス・クリックが驚異の仮説という本を書き、意識の科学的研究を提唱しました。彼は意識の神経相関、つまり脳のどこでこれらのことが起きているのかを研究することを提唱しました。
同時に、マニュエルも言及した哲学者のデイヴィッド・チャーマーズが登場します。彼は多くのことを非常に明確に整理したと思います。意識の分野は複雑ですが、彼はその領域を明確に線引きしました。
デイヴィッド・チャーマーズは、意識を簡単な問題とハードな問題に分けて語りました。彼によれば、意識の簡単な問題とは、認知科学の標準的な方法論が直接適用できる現象、すなわち計算的メカニズムや神経メカニズムによって説明できる現象のことです。この部分は機能的意識やアクセス意識とも呼ばれます。マニュエルが話した意識的注意、つまりすべてのプロセッサが勝利したブロードキャストを受け取るとき、それがまさにこれにあたります。私たちのモデルにおけるグローバルブロードキャストです。
一方でハードな問題、つまり真に難しい問題とは、経験の問題です。私たちが思考したり知覚したりするとき、情報処理が高速で行われていますが、そこには主観的な側面も存在します。これは主観的意識または現象的意識と呼ばれ、私たちはこれを意識的気づきと呼んでいます。これは私たちの機械が自己生成する多感覚的な内部言語、つまりBrainishと、世界モデルが共に進化するプロセスにおいて生じます。
意識科学において、この現象的意識は通常、クオリア、つまりそれがどのような感じがするかという感覚と結び付けられます。これは1974年のトマス・ネーゲルの論文に遡ります。彼は、コウモリであるとはどのようなことか、コウモリであることがどのような感じかを我々はどうやって知ることができるのかと問いかけました。
多くの人は、赤色を見たときにどう感じるかということに焦点を当てます。赤色を見て熱いと感じるかなどです。私には、赤色に何を連想するかは、中国出身かアメリカ出身かといった文化的な要因にも大きく依存するように思えます。いずれにせよ、意識を研究する人々が現象的意識の観点から注目するのはしばしばこのような要素です。
そして多くの人は、主観的な意識を説明するためには全く新しい種類の科学が必要だと考えています。しかし、マニュエルの話でもあったように、私たちはハードな問題を、現象的意識や主観的意識が間違いなく計算的であると示すための挑戦であると捉えています。それが私たちのアプローチであり、それはBrainishと世界モデルの共進化から生じるものです。
もちろん、私たちはアラン・チューリングのシンプルな計算モデルと、バーナード・バースのグローバルワークスペース理論にインスピレーションを受けています。詳細は省きますが、急いで話を進めます。
CTMの仕組みと情報のチャンク
最初に言っておきたいのは、意識を持つチューリングマシンは標準的なチューリングマシンではないということです。意識の感覚は、その入出力のマップや計算能力から来るのではありません。それは内部の仕組み、どのように機能しているかから生じます。私たちは意識がそこから来ると言っているのです。
また、これは標準的なグローバルワークスペースでもありません。マニュエルが言ったように、まず第一に、これは形式的なモデルであり、明確に定義された計算過程を持ち、中央管理者は存在しません。バースの理論には主観的な感覚はなく、主にブロードキャストに焦点が当てられています。私たちの機械は、視覚、聴覚、触覚といった多くの感覚をこの一つのBrainishという言語の中で融合させ、世界モデルを発展させながら、自己生成する言語を発達させる必要があると考えています。
そして当然ながら、CTMは脳のモデルではありません。脳のモデルとするにはあまりにも単純すぎますし、繰り返しますが、特定の脳の部位を指し示しているわけでもありません。
マニュエルが話した内容の繰り返しになるので、最初の2つの部分は急いで飛ばし、3つ目の部分にもう少し時間を割きたいと思います。
CTMの仕様については既にご覧になった通りです。これが私の描いたイラストです。短期記憶が見えますね。これがブロードキャストのステーション、つまりステージです。長期記憶プロセッサはその下にあり、私たちは非常に多くのプロセッサを想定しています。2の24乗、あるいは10の7乗ほどです。以前、大脳皮質のカラムが10の7乗個あると言いましたが、おそらく10の6乗個の少し間違いだったかもしれません。
重要なのは、これらのプロセッサは最初は汎用的なものとして始まるということです。強力ですが、機能は汎用的です。それらの機能は経験に依存することになりますが、最初から組み込まれているものもあります。外部の世界から入力を受け取る感覚プロセッサのような入力プロセッサがあります。外部の世界に影響を与えるアクチュエータに信号を送る出力プロセッサがあり、そして初期の行動を引き起こすゲージプロセッサと呼ばれるホメオスタットがあります。
これらのホメオスタットは、生存への欲求や生きる意志といったものを引き起こす起点となります。数はそれほど多くありませんが、これらの初期のトリガーは非常に重要です。マニュエルは酸素ゲージについて話しました。燃料ゲージもその一つです。最初はこれらはリンクされていません。
また、プロセッサには予測学習アルゴリズム、特にアヴリムの睡眠専門家アルゴリズムが組み込まれています。各プロセッサは独自の内部言語を持っていますが、Brainishも存在します。Brainishは発展していくものです。
たとえば、バラに対するBrainishのラベルは、バラの赤い色、甘い香り、花びらの柔らかい感触が融合したものになります。つまりBrainishの単語は、異なる感覚、異なるモダリティを融合させているのです。
そしてアップツリーがあります。これは計算のための通り道です。各プロセッサが毎瞬間、ステージに上げたい情報のチャンクをアップツリーに送ります。ここで競争が行われます。
文献において、情報のチャンクについて語られることは非常に重要です。これは50年代に遡る概念ですが、誰もそれを明確に定義したことはありませんでした。しかし私たちの形式モデルでは、チャンクという形式的な概念を持っています。それは4つ以上の要素からなるタプルです。
特に重要なのは要旨です。これはBrainishにおける簡潔な情報のかけらであり、マニュエルが言ったように、夢の中のフレームのようなものです。意識が計算的であることを考える上で興味深いのは、夜の夢について考えてみることです。外の世界からは遮断されていますが、非常に強く物事を見て、感じています。悪夢を見たこともあるでしょう。頭の中で直接物事を感じ、構築しているのです。この要旨は、夢の中のフレームで起きていることと非常に似ています。
それからダウンツリーがあり、これがグローバルな通信の通り道になります。チャンクがブロードキャストされると、すべてのプロセッサがそのチャンクを保存します。これにより、すべてのプロセッサが共通の辞書を持つことになります。チャンクの最初の2つの要素が単語となります。リンクを形成するためには、ヘビーとライトの原則を用います。
リンクが何をするかというと、遅い意識的なコミュニケーションを、速いコミュニケーションに変えるのです。自転車に乗り始めるときは、自分のすべての動きについて考えなければなりませんよね。しかししばらくして、運動プロセッサと視覚などの間にリンクが形成されると、何か特別なことが起きない限り、無意識のうちに自転車に乗ることができるようになります。
そして私たちのモデルにおいて非常に重要であり、他のいくつかのモデルにはない特徴は、これが水槽の中の脳ではないということです。CTMを考えるとき、それはセンサーを通じて外部の世界から入力を受け取り、感覚プロセッサに送られ、そしてモータープロセッサを通じて外部の世界に動き回るアクチュエータに影響を与えています。この身体性、埋め込み、そして世界での行動という側面は、意識科学においてよく出てくる概念であり、私たちはこれらの要素を機械に持たせる必要があります。水槽の中の脳であってはならないのです。
そのため、私たちの機械の中では多くの予測ダイナミクス、予測、フィードバック、そして学習が行われています。マニュエルが言ったように、意識的注意とは、すべてのプロセッサがグローバルブロードキャストを受信することです。
ここで興味深い点がいくつかあります。勝利したチャンクが下にブロードキャストされるとき、それは付随する情報を持っています。勝利していく過程で、より広範なグローバルな情報を集めているのです。そのため、チャンクがブロードキャストされるとき、すべてのプロセッサは次のような情報を目にします。彼らはどのプロセッサが勝ったかを知ります。勝った要旨が何だったかを知ります。その重みがプラスだったかマイナスだったか、あるいはどれくらいの重みだったかを知ります。
これらに加えて、全体として何が起きているかというグローバルな情報も得ます。これは以前は持っていなかった情報です。これについて質問された方もいました。これらのプロセッサはすべてを知っているわけではありません。非常に局所的です。最初は局所的に通信しています。したがってグローバルな情報は持っていませんが、ブロードキャストからそれを取得します。つまり、彼らはそこからかなりの量の情報を得ているのです。
リベット効果と意識現象への適用
ここで、意識を研究する人々が注目するリベット効果と呼ばれる現象が、直ちに確認できます。聞いたことがあるかもしれませんが、それは、自分が決定を下したことに気づくのは、実際には決定を下してから約250ミリ秒後であるという考えです。
CTMにおいて何が起きているか見てみましょう。時間Tで情報が入力され、それが勝ち上がり、Hステップ上に進んで勝利し、さらに1ステップ下って投影されます。つまり、決定に関する情報が時間としてH+1だけ前に入力されたにもかかわらず、その決定について本当に知るのはH+1ステップ後になるということです。そこには遅延が存在します。もしチックが適切であれば、それは実際に決定が下されてからそれに意識的な注意を向けるまでに、約250ミリ秒というオーダーの遅延が生じることになります。これがモデルから導き出されることの一つです。
そしてマニュエルは私たちの最初の公理、つまり統一的な体験を喚起するグローバルブロードキャストの公理について話しました。私たちがこのように定義した理由は、モデルが容易かつ自然に示し説明できる意識に関連する現象の数々にあり、高レベルで整合しているからです。
ここで、世界モデルの発展に関する説明は少し省いて、いくつかの興味深い例を挙げてみたいと思います。私たちのCTMが、科学者たちが意識に関連付ける特定の現象をどのように経験するかをお見せします。リベット効果については言及しましたが、次は盲視、非注意性盲目、そして変化盲について取り上げます。これら3つの例を紹介したあと、最後へと進みます。
盲視・非注意性盲目・変化盲のCTMによる説明
最初の例は盲視と呼ばれるものです。盲視とは、人は目が見えないと主張するにもかかわらず、複雑な部屋の中を歩き回ることができるというケースです。ある男性、あるいはCTMが別の部屋に行くように頼まれます。彼は私には見えませんと言います。それにもかかわらず、彼は立ち上がり、障害物を避けながらドアへと向かいます。何が起きているのでしょうか。CTMによる説明をしましょう。
視覚プロセッサに目を通じて情報が入ってきます。プロセッサは正常に機能しており、以前に視覚プロセッサと運動プロセッサの間にリンクが形成されています。そしてリンクを通じて運動プロセッサに別の部屋に移動しろという信号が送られます。そのため、彼はそのように行動します。
しかし私たちが主張しているのは、何かが欠けているということです。視覚プロセッサからの情報が、何らかの理由で短期記憶に届いていないのです。リンクが壊れているのか、あるいは十分な重みが与えられていないのかもしれません。情報が視覚から短期記憶に直接いかないため、ブロードキャストされず、意識を持つチューリングマシンは意識的注意を払うことができません。リンクを介して部屋を歩き回るような行動はある程度できるものの、完璧ではありません。
私たちの仮説は、短期記憶への接続は損傷しているが、部分的なプロセッサのリンクは機能しているというものです。これは高レベルにおいて、神経科学の文献の一部と整合しています。そしてここで私たちが予測するのは、盲視には以前の視覚経験が必要であるということです。私たちのモデルではリンクの形成が必要であり、そのリンクは以前に視覚があった場合にのみ形成されるからです。私は盲視を研究している多くの神経科学者に、以前に視覚を持っていなかった盲視のケースが一つでもあるか尋ねてきましたが、彼らは一つのケースも持っていません。ですので、私たちの仮説を確認するためにその点に注目しています。
次に非注意性盲目です。これからの2つの例は、心理学の授業でよく紹介されるものです。白いシャツを着た選手が何回ボールをパスするかを数えるように求められる映像を見たことがあるかもしれません。人々はこれにかなりうまく答え、15回だと答えます。しかし問題は、ゴリラを見たかということです。ここに見事なまでにゴリラがいます。皆さんがこれを見たことがあるかはわかりませんが。
CTMの説明では何が起きているのでしょうか。CTMでは、特定のものを探すタスクが与えられると、そのタスクにより高い重みが置かれます。そのため、画像内の低い重みを持つ他のものには意識が向かない可能性があります。つまり、視覚情報が入ってきたとき、白いシャツのチャンクには、プロセッサがそれを探しているため非常に高い重みが付けられます。一方、黒いシャツのプロセッサには非常に低い重みが付けられ、特にゴリラには非常に低い重みが付けられるため、それは意識に上らないのです。私たちのモデルにおける説明は、重みがここで役割を果たしているということであり、これもまた文献の一部と一致しています。
最後の例は変化盲に関するもので、これもインターネットで見たことがあるかもしれません。非常に面白い例で、私たちの説明を見てみましょう。ある探偵が部屋に入ってきて、床に死んでいる男性を発見します。彼はすぐに、明らかにこの部屋の誰かがスマイス卿を殺害した、各自のアリバイを話しなさいと言います。そして彼は全員を尋問します。メイドは奥様の寝室で真鍮を磨いていたと答え、執事は旦那様のスコーンにバターを塗っていたと答え、スマイス夫人は作業小屋でペチュニアを植えていたと答えます。
するとこの非常に鋭い探偵は即座に、巡査に対してスマイス夫人を逮捕するように指示します。夫人がなぜわかったのかと尋ねると、探偵は、園芸家なら誰でも知っていることだがペチュニアは5月まで植えないものだと答えます。
さて、皆さんはどれだけ観察力があったでしょうか。これが最後のシーンで、これが最初のシーンです。よく見てください。探偵のコートが変わっており、花も変わっており、死んでいる男性の服も変わっていて、彼の膝が上がっています。そのシーンのほぼすべてのオブジェクトが変化しているのです。
何が起きているのでしょうか。なぜ私たち、あるいはCTMは、この多くの変化を見つけられなかったのでしょうか。私たちは、同じ要旨が最初のシーンと最後のシーンの両方を説明しているからだと言います。そのシーンは、大邸宅のリビングルームに執事とメイドと探偵がいて、床に男性が倒れているというものです。そして、尋問が行われている間のあの時間内に頭の中の短期記憶に保持できる情報はそれがすべてなのです。要旨の簡潔さと、一度に短期記憶に保持できる情報量が少ないこと、これが私たちの説明です。これもまた、神経科学の文献にある内容と一致しています。
注意だけでは不十分：Brainishと世界モデルの共進化
世界モデルの発展についてすべてお話しすることはしませんが、私たちの主張の一つは、注意がすべてではないということです。これはAI分野の人々へのメッセージでもあります。主観的な意識を生み出すためには、Brainishと世界モデルの共進化が必要なのです。
マニュエルが詳しく話したので細部には入りません。ここに世界モデルなどについてのスライドがあります。一つだけ紹介すると、赤ちゃんが自分の左足を発見し、世界モデルにおいてそれを自分として認識している様子があります。
そして最初は非常に曖昧な世界モデルから始まり、いくつかの単語を獲得し始める赤ちゃんの例です。ブロブゼロが最初のかたまりに対する単語で、マニュエルが言ったように痛みが次の単語の一つになります。そしてこれらの2つの単語を組み合わせて、ブロブゼロが痛がっているというBrainishの最初の文章の一つが作られます。これらの単語を組み合わせ始め、単語は時間とともに進化していきます。
興味深いことに、これを人間の状況に当てはめてみると、人間の経験における誤ったラベリングの結果がわかります。コタール症候群は、自分が死んでいると思い込む症状ですが、これはBrainishと世界モデルの中で、何らかの理由で自分自身に死んでいるというラベルを貼ってしまった状態です。また、身体完全同一性障害は、自分の手足が自分のものではないと思い込み、それを切断したいと望む症状です。どこの医者もやってくれないので、別の場所に行って切断してもらい、彼らはとても幸せになります。逆に、幻肢痛は手足が切断されているにもかかわらず、かゆみや痛みを感じる症状ですが、それは脳内でまだ自分としてラベル付けされているからです。
グローバルブロードキャストの公理については省略します。これは基本的にブロードキャストが統一的な体験を与えるというものです。そしてグローバルアンパッキングの公理は主観的意識に関するもので、Brainishの単語を解凍し始めると、意味によって喚起される主観的体験のユニークな融合が得られるというものです。これらは非常に帰納的なものです。マニュエルが言ったように原始的なものから始まり、これらの感情は帰納的に構築されていきます。
まとめと質疑応答：AIの意識は不可避である
これが最後のスライドになります。意識を持つチューリングマシンは、先ほど言ったように重要な原則と整合しています。私たちがインスピレーションを受けたグローバルワークスペースはもちろんですが、ここにある主要な理論のすべてと様々なレベルで整合しています。
特にTriple Eという概念は、意識科学において非常に重要なものです。CTMは世界の中に存在しているため、これらの現象の多くを実際に経験するのです。
マニュエルも言及しましたが、数年前にケビン・ミッチェルが自身のブログで15の質問を提示しました。各質問は3つの部分から成っていますが、私たちはCTMの観点からこれらすべての質問に答えることを課題とし、実際に取り組みました。その結果は私たちのアーカイブ論文で読むことができます。
予測についても話しました。中央管理者は存在しません。古典的な研究があり、実際、去年の秋に出た論文では、誰もが中央管理者の存在を予測していたにもかかわらず、誰もそれを見つけられなかったと述べられています。そして現在、神経科学者たちは中央管理者は存在しないと言い始めています。
臨床的な側面として、マニュエルは疼痛象徴不能症に言及し、私は盲視には以前の視覚経験が必要であることに言及しました。意識のテストとしての夢についても触れました。
最後にまとめると、私たちはシンプルで形式的な機械モデルを持っています。これは明らかに構築可能であり、高レベルにおいて人間の意識に関連する現象を示し説明することができます。主要な理論の根本的な原則と整合し、それを統合し、意識理論が網羅すべき問いに対処しています。
したがって、私たちの結論は、AIの意識は不可避であるということです。以上です。ありがとうございました。
少し時間を過ぎていますので、質問を一つだけ受け付けましょうか。
デイナ、お願いします。
私たちが目にしている生物学的な事実を説明するものとしての意識の様々なアイデアに、どのように重みを置いているのでしょうか。例えば、先ほどの盲視の話など、あなたはそういうアプローチをたくさんされているように見えます。他の動物に盲視があるかどうかは私は知りませんが、それを説明しようとし、それを組み込んだモデルを持つことはできます。
ええ。実際、盲視は動物で最初に発見されました。
私はその文献を知りません。ですが、そういった生物学的な説明にどれくらいの重みを置くのか、それとも、意識のモデルとして求めている主要な目標をこのモデルが捉えているかどうかに重みを置き、原則が先に来るのか、どうなんでしょうか。
そうですね、私の考えでは、これらの多くの異なる理論は意識の異なる側面を見ています。それは象の異なる部分を触っているようなものです。そしてその多くがこれが最も重要な部分だとかあれが最も重要だと言っています。私たちが言っているのは、実質的にすべての主要な理論と整合しているということです。
しかし私たちにとって重要なのは、ブロードキャストと世界モデルの構築です。そして世界モデルという概念が、現在非常に注目を集め始めていると思います。Brainishについて語った人は今までいなかったと思います。この自己生成される多感覚的な言語です。機械に入れられたものではありません。言語を直接組み込んだわけではないのです。機械自身が自分自身の経験からこの言語を生成しています。私たちはその部分、つまり自己生成される世界モデルが非常に重要だと言っています。そしてそれは意識の進化論的理論とも大きく整合しています。ですから私たちは物事を結びつけることができるのです。
では生物学的な側面がより重要だということですか。
そうですね、あまり深くは入りたくありませんが、もちろん論争はあります。私たちは計算機科学者であり、物事は計算的であると考えています。そして現在、意識科学者の中には生物学的自然主義を主張するグループがいます。多くの人は、意識は生物学的な実体でなければならないと聞きたがるものです。そしてそれが今、少し注目を集めています。最近も一般向けの本が出版されたと思います。
人々は私たちが宇宙の中心だと信じたいのだと思います。そしてそれは多くの人の心に触れるものです。ここには論争があります。そして実際、ここにいる皆さん全員に関わることです。私たちはいつも神経科学者たちと大きな議論をしています。彼らは振動が必要だとかアナログ計算が必要だとか量子崩壊が必要だといった、他の様々な計算方法が必要だと言います。
それに対して私たちは、あなたがたが何を言おうと、チューリング型の計算で十分に強力なのだと言おうとしています。それが、私たちのアプローチと、生物学者や神経科学者の見方との間にある大きな議論だと思います。ほぼ毎日、私はBlue SkyでMITのアール・ミラーと議論しています。彼は毎日、振動が計算の手段であると信じていると指摘します。しかし、それは意識に振動が必要だという意味ではありません。
ここには多くの課題があり、計算論的アプローチがなぜ有効なのかについてより多くの洞察を提供するために、皆さんの助けが必要です。私はこれを擁護するとは言いませんが、私たちの機械がそれを行っていると考えています。
ロン、あなたの時間をたくさん取ってしまいましたが、あなたは私たちの人生において重要な人物です。本当にありがとうございます。そしてロンのすぐ隣にいるチャック・アンにも触れておきたいと思います。最初の方で私たちがSAIR、つまりScience and AI for Researchの支援を受けていると言いましたが、チャックとテリー・タオは、AIが科学研究をどのように支援できるかを探求するこの新しい組織の共同ディレクターです。チャック、私たちを支援してくれてありがとう。ここに来てくれてありがとう。それでは。
わかりました。
コメント