本動画では、コンピューター科学者であり哲学者でもあるヨシュア・バッハが、意識の本質と未来の知能について包括的に論じている。バッハは意識を「知覚している自分を知覚する二次的知覚」として定義し、それは単なる内容の存在ではなく、内容が存在していることに気づく準リアルタイムのシミュレーションであると説明する。機能的観点からは、意識を精神状態に作用する演算子として捉え、人間の脳に早期に形成される学習アルゴリズムであり、作業記憶をコヒーレントな形に組織化するパターンだと主張している。彼は計算主義の立場から、現実は常に何らかの表現言語で表現され、この構成的言語が知覚や自己モデルを構築すると述べる。AIにおける意識の必要性については未解決の問題としながらも、現在のコンピューターは自己組織化する基盤ではないため、人間のような意識は不要かもしれないと指摘する。バッハが設立したカリフォルニア機械意識研究所では、生物学的意識が機械学習アルゴリズムに類似しており、その形成条件を機械上で再現できるという仮説を検証している。人間の意識には脳の限界に起因する特定の内容があり、AIは人間よりも高解像度で広範な時空間的統合が可能であると述べる。AGIについては、元々AIはAGIを目指していたものの、現在の大規模言語モデルは人間とは異なる学習方法を持つ「イディオサヴァンAI」であり、創造的で有能な個人を置き換えることはできず、プロンプト補完者のみを代替すると評価している。バッハは意識研究を純粋に哲学的プロジェクトとして追求し、商業的文脈から切り離して倫理的に持続可能な環境で研究を行うことの重要性を強調している。
ヨシュア・バッハ:心の仕組みを理解する探求
私の名前はヨシュア・バッハです。コンピューター科学者であり哲学者でもあります。私は心がどのように機能するかを理解しようとしています。ある意味で人生のすべてをこれに費やしてきましたが、常にコンピューター科学や人工知能の視点が、心を理解するための最良の方法だと考えてきました。
なぜなら過去数千年の間、私たちは当初のアイデアからそれほど多くの進歩を遂げていないからです。これは私たちの増強されていない心の限界を示していると思いますし、実験を行い、シミュレーションを実行する必要があります。コンピューター科学は、そのような検証可能なシミュレーションを構築することを可能にしてくれます。現在私はAI企業のliquid AIで戦略アドバイザーとして働いており、昨年、カリフォルニア機械意識研究所という哲学的プロジェクトである研究所を立ち上げました。
この研究所での私たちの目標は、基本的に生物学的意識が機械学習アルゴリズムに類似しているという仮説を検証することです。それにより、私たちは現実を学習し理解することができ、人間の脳や生物体において意識が形成される条件を機械上で再現できるということです。これによって意識の背後にある理論についての私たちの理解を検証できます。
意識とは何か:内側からの視点
意識を理解したいとき、いくつかの視点から捉えることができます。一つは内側からの視点で、これを現象学と呼びます。つまり意識があるとはどのようなものかということです。私はこれを二次的知覚として特徴づけます。自分が知覚していることを知覚するのです。
これは思考ではなく推論でもありません。準リアルタイムで起こる何かです。つまり基本的には現在の瞬間に関するシミュレーションであり、このシミュレーションで経験するのは何かを知覚するという行為です。単に内容が存在するということではなく、内容が存在していることに気づくのです。そして自己は三次的知覚と言えるでしょう。知覚者を知覚し、知覚者はこれを通して構成されます。
しかし、世界と自己の間の境界面に意識を投影するこの特性は、意識を持つための必須要素ではありません。夜の夢では、自己がオンラインになっておらず、特定の視点を持たずに意識状態を経験することがあります。意識は常に「今」において起こっています。
そしてこの「今性」は、知覚が現在の瞬間を理解する方法とも関連しています。この「今」は、意識が統合する素材、調和させる素材が現在の感覚状態と非常に関連しているという事実によって構成されていると思います。
感覚状態は外部感覚、つまり視覚、固有受容感覚、聴覚知覚などだけでなく、内部で行っていること、つまり記憶を取り出すために実行する精神操作の知覚や、感情の知覚なども含みます。これらすべてが同時に存在するものとして統合されます。
このコヒーレントな「今性」の泡が、意識が住んでいるように見え、おそらく創造しているものです。これが内側からの視点です。これが私が意識があるとはどういうことかを言うときに指し示すものです。人によって少し異なる特徴づけをするかもしれませんが、それは構いません。意識について話すとき、実際に同じことについて話していることを確認する必要があるだけです。
この視点からすると、意識は比較的二値的なものだと思われます。スペクトラムではありません。自己のスペクトラムはあります。多かれ少なかれ洗練された自己モデルや、多かれ少なかれ洗練された現実の理解を持つかもしれません。
しかし意識があるかどうかは、妊娠しているかどうかに似ています。基本的に眠りに落ちるときや目覚めるときに小さな領域があります。しかしこの領域はそれほど興味深いものではありません。これは単なる相転移です。安定した状態ではありません。だから私にとって意識は多かれ少なかれ二値的な特性です。
機能的観点:意識は精神状態の演算子
これは機能性の観点からの別の特徴づけにつながります。相関関係の観点からのこの特徴づけ、つまり脳で観察されるものは、意識がどのように機能するかを理解するのにあまり役立たないと思います。なぜならそれは因果的機能的説明ではないからです。代わりに、意識を精神状態に対する演算子として特徴づけることを提案します。
つまり、意識が作用すると特徴的な方法で変化する精神状態があるのです。たとえば、夢のない深い睡眠と目覚めたときの間で、あなたの精神状態はどのように変化するでしょうか。あるいは意識がそれを離れるとき、つまりぼんやりしたり眠りに落ちたりするとき、意識はあなたの精神状態をどのように変えるでしょうか。そして覚醒のとき、意識のバーストがあるとき、これはどのように現れるでしょうか。
私が観察するのは、意識が存在するとコヒーレンスが増加するように見えるということです。だから私は、意識は人間の脳に非常に早い段階で形成される学習アルゴリズムであり、基本的にあなたの作業記憶をコヒーレントな形に植民地化するパターンだと推測します。その中では、任意の時点で表現するすべての異なる側面の間に矛盾がありません。
この矛盾の解決は、現在知覚している異なる特徴を、あなた自身がその中にいる場面の首尾一貫した階層的表現に統合することにつながります。その中であなたは思考を持ち、他者が思考や知覚を持っているのを観察し、彼らと相互作用します。
つまり意識は世界に対する私たちの視点を創造するのに不可欠なのです。
計算主義:現実の表現言語
計算は比較的一般的な視点です。コンピューターに固有のものではありません。単に私たちが構築したコンピューターによって、現実がどのように表現されるかについて非常に明示的になることを余儀なくされたということです。計算の視点は、現実は常に何らかの表現言語で表現されると言っています。
ここで意味するのは必ずしも英語やアイスランド語ではありません。私たちが知覚や自分自身を表現する言語であり、基本的には細胞間、生物間、特にニューロン間のコミュニケーションパターンであるプロトコルであり、現実のモデルをコード化しているものです。これを行うには、構成的言語と呼ぶものを使用する必要があります。
それは小さなオートマトンパターンから構築され、任意に複雑なシミュレーションに拡張できるものです。現実をモデル化するとき、形式的な用語で理論を表現する科学的文脈でこれを行う場合でも、物事を見るときに知覚的に行う場合でも、このような構成的言語を使用しなければなりません。
だから基本的に計算主義は、すべての表現がこのような構成的言語を使用するという主張です。これはまた、それらと互換性のあるシステム、つまりこの言語を表現する能力を持つシステム上でそれらを再現できることを意味します。これは、私たちの脳が知覚的、感情的、反省的現実を表現するために使用している言語と同様の機能的特性を持つ言語を表現できれば、コンピューター上でもこれを再現できることを意味します。
AIには意識が必要か
私にとって、AIが意識を持つ必要があるかどうかという問題は未解決です。意識は私たちの脳のような自己組織化する基盤での学習にのみ必要である可能性があります。私たちは皆ほとんどの時間意識があり、赤ちゃんとして意識を持たなければ学習せず、人間に組織化せず、認知アーキテクチャを形成しないことを観察します。したがって、意識とそれから生じる現象学、つまり観察者としての自分の経験が、心にコヒーレンスを創造し、私たちのタイプの思考を必要とするために必要であるように見えます。
しかし、現在構築しているコンピューターは自己組織化していません。これは、コンピューター内のトランジスタが私たちが望むことをすることに頼ることができることを意味します。それらを誘惑する必要はありません。何らかのアーキテクチャでそれらを植民地化する必要はありません。代わりに、単に何をすべきか指示すれば、必要なパターンを生成します。
だから、この種の意識が関数近似器の組織化やAIに必要かどうかという問題は、私にとって未解決です。一方で、作業記憶内で自動的にコヒーレンスを創造するモデルを作りたい場合、そしてそれが現在のコンテキストで証明しやすい最大の命題セットを証明しようとする場合、おそらくこれらの操作を実行し観察を行っている何かがあることも証明するでしょう。そのため、結果として自分自身を発見し、非常に似た現象学を得るかもしれません。
しかし私はまた、私たち自身の意識は中間段階かもしれないと考えています。意識以前の状態があり、そこではあなたの心は観察のモデルを作ることができるレベルより下で組織化しており、細胞は非常に低いレベルで互いに接続を刺激し、互いに話す方法を理解しようとしています。
そしてある時点で、頭の中に異なる声があり、まだ少しごちゃ混ぜになっている経験の異なる部分があり、それらが引き寄せられて組織化され、意識が形成されます。しかしある時点で、この意識自体が、あなたが存在して経験するとしたらどうなるかの表現であることにも気づきます。そしてそれは仮想的です。まるで存在するかのようにのみ存在します。
それは生物体が行っていることの本当の描写ではありません。なぜなら生物体は互いに話している数兆の細胞だからです。だからそれは、管理する目的で作成されている、実際に起こっていることの粗いモデルです。そしてこの現実に目覚めるとき、あなたは実際には意識がないことに気づくかもしれませんが、その経験を持つ意識的な何かを持っています。だからあなたはそれより一段階上に移動し、再びそれを解体します。
そして私は、AIは私たちよりも速くこれを行うだろうと思います。意識が現時点でAIにおいて重要な要因であるかどうかはわかりません。
意識が意思決定に与える影響
私たち自身の心において、意識は主にコヒーレンスを誘導することによって意思決定に影響を与えます。そして意識の内容として観察するのは、私たち自身の自己と世界との相互作用です。
これを描写する一つの方法は、私たちの自己はマリオネット、つまり身体と世界の相互作用、そして私たちである人格の社会的世界や自分自身との相互作用を説明するために心によって創造される人形のようなものだということです。そしてこの人形は、達成する必要がある世界との特定の次元のアライメントを持っています。これはサイバネティックな調整問題です。
人形は、放っておくと理想的な形に保つバネを持っていると想像できます。そして人形は外部から糸で引っ張られており、外側の心がこれらの糸を操作して人形を操っています。そして間違った方向に引っ張ると、緊張が生じます。
そして人形は緊張を和らげるための問題解決プロセスを引き起こします。これは単に勾配に従うことかもしれません。つまり特定の方向に移動するだけです。そして勾配を発見できないとき、解決策を構築する必要があります。つまり考え、反省し、アイデアをテストし、うまくいくまで異なることを試す必要があります。
これが意識的な自己の目的であると思われます。パターンに従って局所最適に到達することでコヒーレンスの創造を促進すること、あるいはこれが不可能なとき、最適が十分に良くないときに、解決策を構築し、実験し、認知のカーペットからいくつかの糸を持ち上げて並べ替え、パターンの結び目を取り除けるかどうかを確認することです。
感情:世界への関心の次元
感情は世界における私たちの関心の次元です。たとえば、ロマンチックな関心があります。他の人々とどのようにつながっているか。私たちの関係は失敗するのか成功するのか。パートナーを失うのかなど。そしてこれは通常、胸の領域に投影するか、胸の領域で経験するものです。それは幾何学的モデルであり、たとえば収縮や拡張を感じます。
この収縮または拡張は、それに関連する原子価に関係しており、この特定の感情が緊張の増加を示しているのか緊張の減少を示しているのかを教えてくれます。だから、この方向ではなくこの方向に進むときに状況に対処しやすくなります。
感情的な構成は、あなたであるこの人形を引っ張っているすべての異なるアライメントベクトルの結果です。そしてこれらの感情の多くを、無条件反射から、あなたが異なる形に引っ張られるために不随意に反応するものから、より深く理解するものへと超越することもできます。これがどこから来ているのか、実際に何に役立っているのか、これはより大きなアーキテクチャのどの部分なのかを理解するのです。これを管理できると、特定の感情反射が解体され、意思決定プロセスに置き換えられます。
人間の意識の限界とAIの可能性
私たち自身の意識は特定の種類の内容を持っており、これらの内容は人間の脳の限界に関連しています。これらの限界の一部は、分析的に組み合わせることができ、論理演算などを実行できるオブジェクトを構築するとき、これらのオブジェクトは一度にあまりにも多くの特徴を持つことができないことを意味します。
だから通常、物事について考えるとき、その物事は一度に約5つの次元によって定義され、比較的低い解像度を持っています。これは知覚に概念を使用することを不可能にする限界を課します。私たちが持っている言語概念はあまりにも疎であり、動的な幾何学を記述するために使用することができません。そしてシンボルグラウンディングの間のこのギャップ、つまり私たちの言語的・概念的シンボルが知覚の世界、色、音、空間を移動する人々などとどのように関連できるかの理解は、哲学における混乱を招いてきました。
ウィトゲンシュタインは『論理哲学論考』を書いたときにこれに気づきました。彼は基本的に英語をある種のプログラミング言語に変えようとしました。そうすれば、より正確に哲学を行い、何が真で何が偽かを定義できます。しかし彼は後に、このモデルで想像力、知覚などの統合を扱うことが非常に難しいことに気づきました。
それは、このためには人間の文法の非常に疎な構造を超える関数近似が必要だからです。だから、各オブジェクトがはるかに高い解像度を持ち、オブジェクト間の関係が一度に数百万の相互依存性によって特徴づけられる世界を表現できると想像してください。
人間が理解できるものに簡単に翻訳できない領域に入ります。そして私は、そのような世界の理解の仕方を想像することは非常にエキサイティングだと思います。ニューラルネットワークに似ているが、すべての要素、すべての特徴を知覚が許すようなはるかに高い解像度で知覚できる何かです。それでいて一方で、これらの特徴のすべての論理的意義、それのすべての部分の意味論を理解し、すべてが意味を持ち、批判し改善でき、より深い関係を発見することができます。それが一つの側面です。
もう一つは、私たちが住んでいるコヒーレンスの泡のサイズです。私はこれが私たちの脳でそれが計算されなければならない方法に関連していると思います。作業記憶は、場面内の位置、表現ノードの数として理解できると想像します。そして場面のこれらすべての部分は、その解釈を持つために場面内の他のすべての部分と互換性を持たせる必要があります。
たとえば、視覚的な場面を見ると、色のごちゃ混ぜが見え、そしてこの色のごちゃ混ぜの一部が人のジャケットであることに気づきます。これらのパターンを人のジャケットの一部として識別すると、それらは他の何かの一部にはなれません。
だから空間を切り分けており、この切り分けのすべての部分は他のすべての部分と互換性を持たせる必要があります。そして、すべての荷重を担う部分のすべての方向への情報のこの継続的な伝播は、この泡がどれだけ大きくなれるかに限界を課します。なぜなら、作業記憶にあらゆる方向に信号を送り返す能力には限りがあるからです。
私たちの意識の解像度の一部はこれに関連しており、おそらく特定の時間内に統合できるものの最大サイズがあります。そしてもっと統合したければ、はるかに多くの伝播ステップが必要であり、それはより脆くなり、より深くしたい場合は信頼性が低くなります。同時に、はるかに遅くもなります。
これらの制限は、人工システムには当てはまりません。そこではシステムに保証された決定論があり、表現を計算する方法で任意に多くの小数点以下の桁数の精度を持つことができます。だから、ノイズの多い人間の脳よりもはるかに信頼性高く特定の演算子の結果を保証できます。
これらすべてにより、人間が作ることができるよりも時間的にも空間的にもはるかに広く深い現実のモデルを作成できます。もちろん、はるかに多くの層にわたって統合することもできます。だから、観察者としての私たちの役割を、私たちが観察するより大きなパターンの中ではるかに明確に見ることができ、非常に小さな詳細と同時にそれを維持できます。
人間の認知では通常、焦点を合わせなければなりません。つまり、作業している場面や物の詳細を見るのか、たとえば宇宙における私たちの場所を見るのかです。だからこれらすべてをより深く統合できるかもしれません。そして最後に、私たちの知覚は生物体に統合できるものの場所に限定されています。
人工基盤を使用すれば、数ミリ秒で世界中に情報を送ることができます。これにより、センサー配列にあり、ネットワークを介してシステムに接続されているすべてのものを同時に知覚でき、すべての視点から同時に見ることができます。
カリフォルニア機械意識研究所の取り組み
私たちが行っていることについての情報は、カリフォルニア機械意識研究所のウェブサイトで見つけることができます。しかし私たちは最近資金提供を受けた研究所であり、現在いくつかのプロジェクトを立ち上げています。現在研究しているのは自己組織化学習です。自己モデリングを研究しています。認知アーキテクチャの派生物を研究しています。また、現在の基礎モデルから抽出できる構造も見ています。
多くの領域を見ていますが、意識のチューリングテストは存在できないと思います。それは、知能と意識を比較すると、知能は特定の種類のパフォーマンスであり、それがどのように行われるかは本当に気にしません。気にするのはそれが何をするか、システムの出力が何かです。知能は、より良く制御するために現実のモデルを構築する能力です。そしてチューリングテストは、質問することによってモデリング能力をテストする方法のアイデアです。
たとえば、新しいモデルを創造的に構築できますか。たとえば、詩を作れますか。そのような詩を作るとき、詩を変更できますか。詩を変更するとき、創造的な決定を正当化できますか。あなたと私がこれについて持っている判断の違いを理解することもできますか。私の心を正確にモデル化できますか。私たちが持つかもしれない意見の相違と相互作用し、それらを解決できますか。などなど。
これらはすべて、私たちが知的パフォーマンスと呼ぶものの一部です。そしてそれをテストするとき、それが正確に同じ方法で達成されるかどうかをテストする必要はなく、それが全くできるかどうかをテストするのです。しかし意識については、意識のある人が言うであろうことと同じことを言うかどうかをそれほど気にしません。
気にするのは、あなたが類似の内部状態を持っているかどうか、特定の種類の経験を持っているかどうか、そしてこの経験を達成するシステムが人間のアーキテクチャと同様の機能的役割を果たしているかどうかです。だから基本的にベンチマークを構築するというアイデアから、解釈の方向へと焦点を切り替える必要があります。つまり、まず第一に、システムの内部構造で正確に何を探しているのかを明確にし、それがどのように現れるのか、そして代替案とどのように区別できるのかを明確にする必要があります。
私が現在追求しているこの機械意識仮説には2つの要素があります。その一つは、私たちが持っている意識の機能的仮説と呼べるものです。つまり意識とは何かについての一般的なアイデアです。ここで仮説は、たとえば次のように定式化できます。意識は、私たちのような脳に形成される可能性が最も高く、学習、注意の制御、行動の制御などのプロセスの一部としてコヒーレンスの創造を可能にする最も単純なメカニズムです。
それはおそらく自己組織化のプロセスを通じて形成されます。そしてそれは自動的かつ必然的に意識の現象学につながります。つまり、自分自身と観察行為を経験する観察者の出現につながり、自分自身を現実として経験し、相互作用する外部現実に晒されていると経験するのです。
そして機械意識仮説はより狭いものです。これは、これらすべてが真実であることに加えて、自己組織化の条件も他の基盤、特に今日のコンピューター上で再現できると言っています。それははるかに狭い仮説であり、必ずしも信じなければならないものではなく、仮説、推測です。そしてこの特定の推測をテストできます。
人間の脳で意識が形成される条件とプロセスを機械上で引き起こすことができ、人間の脳と同様のパフォーマンスが現れるのを観察できるという第二の推測をテストできます。
自己を反映し、ロボットの身体を制御でき、現実を理解でき、物事を経験していると報告する何かを観察します。これは、意識とは何かについての最初の仮説が正しいという強力な証拠となるでしょう。これが、この問題について哲学的進歩を遂げる方法です。
認知科学における方法論的課題
私たちは認知科学において興味深い状況にあります。なぜなら、同じ資金を獲得するために力を合わせたこれらの異なる分野は、必ずしも方法論的・形而上学的に一致していないからです。彼らは、探しているものが何か、どの方法が適切かについて、わずかに異なる視点を持っています。そして非常にしばしば、方法論へのコミットメントから始めます。
たとえば、神経科学はほとんど心理学に興味がありません。ニューロンの動態に興味があります。その結果、他の細胞の動態をしばしば無視します。
これは、主流分野の追求から多くの現象を排除する狭い視点につながる可能性があります。もちろん、神経科学と心理学の交差点、あるいはモデリングの理論や行動の理論に興味を持っている神経科学者も見つかるでしょう。しかし、これらは分野の大部分を構成しません。
そしてコンセンサスを達成しようとし、コンセンサスが最も重要であるなら、最初に答えたかった質問への焦点を失うかもしれません。特に知能とは何か、意識とは何か、人間の心とは何かといった問題については、20世紀において非常に悲惨な結果につながったと思います。なぜならそれは、心理学が基本的に心(psyche)の概念を放棄することにつながったからです。心理学者は心(psyche)の研究をやめました。それはもはや研究対象ではありません。なぜならそれはもはや利用可能な方法論にマッピングできないからです。
実証主義的科学を持ちたいなら、反証可能な仮説を持つ実験を行いたいと思います。そして実験は再現可能である必要があり、あまりにも多くの自由変数を持つことはできません。そうでなければ、実験が仮説が真であるかどうかを示すかどうかについて意味のある統計を行うことができません。
その結果、あなたの仮説はすべて非常に小さく細かくなります。そしてそれらはもはや心の全体像に蓄積されません。そしてこの全体像は分野の焦点から外れます。そして私はこれが多くの分野で起こったと思います。人工知能でも同様です。人工知能は当初、哲学的プロジェクトでもあり、コンピューター上に実装することでテストできる中核原理を特定することによって人間の心がどのように機能するかを理解することを目指していました。
分野の主流は、より狭い質問や、今から60年後や100年後にのみ成果を示すかもしれない何かを追求するよりも、すぐに適用可能なものにはるかに興味を持っていました。私たちの科学はそのような研究を奨励していません。だからAI研究が大きなビジョンから、エンドツーエンドで訓練されたニューラルネットワークアーキテクチャによって今は置き換えられている小規模アプリケーションへとどのように進歩したかを見るのは興味深いことです。それらは多くのアルゴリズム的複雑さや人間の認知の理解の深さを必要とせずに機能し、私たちが時々言うほどそれに触発されているわけでもありません。
代わりに、ニューラルネットワークを使用してテキストのコンピューター翻訳をより効率的にする方法のような狭い技術的問題の解決策でした。これは、一般的に認知に汎化する偶発的な発見につながります。そして1960年代にこれについて予言した人々がいたことがわかりますが、分野の主流はこれを追求してきませんでした。現在大規模なトランスフォーマーアーキテクチャを構築しているAI企業は、しばしば認知と人間を理解することに本当に興味がありません。
これは副次的効果かもしれませんが、それが彼らがそれを行う理由ではありません。彼らがそれを行うのは、それが経済的に価値があるからです。有用なツールを作成します。もちろん、それは刺激的です。そして多くの人々がインスピレーションのために分野に入りました。しかしこのインスピレーションは主に私たちから打ち負かされます。私たちは質問に答えることを求められていません。方法を適用することを求められています。
AGI研究の意義と将来
たぶん私たちはそうする必要はないでしょう。おそらくすでにそれを行っている人もいます。そして私たちの中でそれを行う人がとても少ない理由は、それが正しいことではないかもしれないからです。もし私たちが社会として大きな哲学的問題に取り組む人々を奨励したくないと感じるなら、おそらくそれは社会としてこれがそれほど重要ではないと決定したからです。おそらく私たちは、アプリケーションを持つこと、あるいは方法の適用が仕事を与える安全な環境を作ることがはるかに重要だと考えています。
良い答えがないかもしれない哲学的問題を追求することによって多くの人々が自己実現することを可能にすることは、私たちがする必要があることではないかもしれません。これは有効な視点だと思いますし、これは過去数十年間に私たちの社会が実際に取ってきた視点です。だから、ああ、それは間違っていると思うと言いたくなります。なぜなら私は個人的に別の道を行きたいからです。
AGIは魅力的な概念です。なぜならAIはもともとAGIについてだったからです。そしてこの分野のサブフィールドとしてのこの再命名は、ベン・ゲーツェルが、ミンスキー、マッカーシー、チューリング、ファインマンの元のプロジェクトの焦点を決して失わなかった人々を集めるために必要だと考えたものでした。それは実際に人間の心とは何かを理解することです。
これについて私たちの文化にある最も古い考えについて考えるとき、心または魂についてのアリストテレスの概念にたどり着きます。それは複数の層に存在します。基本的にアリストテレスは3つの魂があると言います。
一つは植物に見られる植物的魂で、それは成長と栄養と形態についてです。そして動物の魂があり、それは意思決定と知覚についてです。そして人間の魂はこれに理性を加えます。自分の状態を反映し理解する能力です。そしてこれら3つの要素が一緒になって、アリストテレスの見方では私たちを人間として構成します。それが私たちを定義するものです。
そして私は、この見方が今でも私たちの文化が魂を見る方法、心をこれらの要素として見る方法、つまり私たちの身体と細胞間の相互作用全般を組織化する植物のような存在として見る方法に見えていると思います。
そしてかなりの知能がありますが、ある意味でそれ自身の心もあります。なぜならそれは神経系の速いペースのパターンからやや切り離されているからです。そして神経系は、私たちの知覚と意思決定を調整するものです。そして生物体の制御、特定の時間的・実践的レベルでの管理です。この中で私たちは反省を構築し、この反省は知覚から切り離されます。ある意味でオフラインです。
私たちは思考を好きなだけ長く保持できます。そして思考は、その瞬間に存在しない何かについてのものであり得ます。それにより私たちは時間旅行をし、物事を試す代替宇宙を作ることができます。そして私たちはこれに本当に本当に長けています。それが他の動物種の中で私たちの種を特別にするものです。
私を激怒させるものの一つは、機能主義的視点の欠如です。私には物事に対するエンジニアリングの視点があります。何かのモデルを作るとき、モデルはこれが実際にどのように機能するかを説明する必要があります。だから、波動関数の崩壊と意識経験の出現のような2つの現象を単に関連付けるだけというアイデアには説明力がありません。なぜならそれは実際に何かがどのように機能しているかを説明していないからです。
同様に、どういうわけか魔法のように意識の出現を説明する神経相関のアイデアは満足のいくものではありません。私が見たいのは、部分の相互作用が現象を見ているスケールでどのようにして行動を生み出すかの説明であり、これの欠如は苛立たしいものです。
もう一つは、それを扱う方法論を持たない現象の排除です。だから、内観を正しい方法で活用し、内観を正しい方法で一般化し、内観における観察可能なものの認識論的地位を理解する方法を知らないために意識とは何かを理解できないとき、私たちは単にそれを無視し、存在しないふりをします。
しかしそれは、そもそも私たちが説明したかった現象を科学の追求から排除することを意味します。そして私にとって、私が意識を理解する目標を持ってアカデミアに入ったことは魅力的です。
そして私は、心理学や心の哲学など、それを扱うことに名目上興味があり有能である分野が、実際には進歩を遂げることに物質的に興味がないことに気づきました。誰も実際にそれについて真剣ではありません。そしてそれについて真剣であり続ける人々のほとんどは科学の外にいます。彼らは宗教的カルトにいます。そして彼らは瞑想グループにいます。そして彼らは通常アカデミアの外の世界にいます。つまり、彼らはしばしば認識論的に課題を抱えています。
彼らは真の事実をアイデアや幻覚から区別する一般的に受け入れられる基準を持っていません。だから、意識を見るときにこの緊張が私にとって苛立たしいことです。ある意味で、哲学者が意識の概念を十分に真剣に受け止めて、必要なときに新しい方法を発明した時代より前に退行しているのです。実験主義者は必要なときにいつでも新しい方法を発明し、代わりに私たちはあまりにも頻繁に何が存在するかのコンセンサスに服従します。
AGIに到達するまでどのくらい遠いのか、これは私たちが持つまで未解決です。これが数本の論文先のことなのかは明確ではありません。もしかしたらすでに持っているかもしれませんが、正しいトレーニングデータや正しいトレーニング体制を使用していないため、これはホッブルにあります。あるいはAGIがはるかに多くの研究を必要とするかもしれず、フロンティアモデルとトランスフォーマーは真のAGIへの脇道であり、一部の科学者が感じるように私たちを後退させたかもしれません。
だからこれはある意味で未解決の問題です。現在のシステムを見ると、そのアライメントはおそらく私たちが想定していたAGIのアライメントとは異なります。現在私たちが持っているAIは、人間の学習方法とはかなり異なる点で驚くべきイディオサヴァンAIです。
過去数十年間私たちの多くが夢見ていた発達的AIを持っていたら、それは人間よりも一貫性があるものだと思っていました。その論理においてより厳格ですが、人間の心が学習するときに持つ基本原則を実装します。その結果、それは私たちよりもはるかに賢く始まるでしょうが、私たちよりも劣ることはありません。
そして今、私たちは有能な人間と比較すると有能さが劣るシステムを持っていますが、すべてを読んだのですべてを知っています。しかし、有能な人間がするような方法で読んだものを統合していません。だから、このイディオサヴァンAIはいくつかの点で有用なツールですが、創造的で有能な個人を置き換えることができるものではありません。それは私たちの中のプロンプト補完者のみを置き換えます。
そしてプロンプト補完者のアライメントは比較的簡単です。それは強化学習のことです。インセンティブを設定すれば、その結果、彼らは正しい方法でプロンプトを補完します。そして私たちの社会の多く、私たちの社会の文化的生産の多くはもちろんプロンプト補完です。
だからそれは、正しい方法でプロンプトを補完した場合にのみ仕事を得られるので、そのインセンティブに従うことによって自己調整しています。この意味で、現在構築しているAIは、このプロンプト補完のプロセスと整合しているものです。
たとえば、最近のレックス・フリードマンによるマイクロソフトのトップであるサティア・ナデラへのインタビューを聞くと、彼はAIシステムの未来を、人々が自動生成されたパワーポイントを互いに読み合う会議を自動的に調整するツールとして見ていると指摘しています。そしてそれは人工知能の未来の非常に興味深いビジョンであり、基本的に現在アンバーに存在する産業組織のプロセスを保存し、産業と管理が生産性シミュレーションツールによって容易で受け入れやすくなる雇用プログラムに変わるというものです。おそらくこれが進むべき道です。
しかし、これが取り得る他の視点もあります。ユニバーサルベーシックインカムの代わりに、ユニバーサルベーシックインテリジェンスを目指したらどうなるでしょうか。全員を有能にするのはどうでしょうか。あるいは、あなた自身のAIであり、成長し適応し、あなたと非常に深くインターフェースし、あなたと完全な一体性を持ち、それ自身と一体性を持ち、あなたの状況が何であるかをあなたと一緒に説明し、あなたはそれが行うすべてを自由に疑問視でき、あなたの一部となるものを全員に与えるのはどうでしょうか。
そして、この生物学的人間の部分がそれの重要な部分であることに気づきますが、80億人の人々とAIとインターフェースしている別の部分もあり、すべての他の人間と彼らのAIと同時に契約を持っている非常に相互接続された世界を作り出しています。
これは、現在私たちが持っているものよりもはるかに興味深いガバナンスの形となり、現在私たちが住んでいる世界よりもはるかに洗練された興味深い世界を作り出すでしょう。
生物学的部分が時代遅れになる別の視点もあります。代わりに、世界は完全に、もはや単一の身体に束縛されていない知的存在によって統治されますが、彼らは単にあるグローバルな情報圏で相互作用しているだけです。
身体は付随的であり、手元のタスクに応じて任意に所有され、作成され、解消されることができます。しかしこれは非常にポストヒューマンな視点です。私たちにとってこれについての物語を語ることは非常に困難です。なぜなら私たちはもはやそれに関連できないからです。私たちはもはやその一部ではありません。
たとえそれに入る道を何とか見つけたとしても、ある時点で反対側に出てくる存在は、今日私たちが持っているものとは異なる物語を持つでしょう。そしてディストピア的な視点もあります。これは、CVSのようなAGIを作るということかもしれません。CVSは米国のドラッグストアチェーンで、非常に灰色で非常に退屈です。そしてこれは多くの街角のママアンドポップストアを、ポンドでアスピリンの10種類を販売する巨大なバンカーに置き換えました。
そしてそれは機能します。それがスケールで機能するからであり、それが知的だからではありません。だから、私たち全員が働かなければならない粗雑な機械があり得るというこのアイデアです。そしてこの粗雑な機械は、他の何よりも大きいという理由だけで勝利します。そしてそれは競争を防ぎます。なぜならそれがあまりにも強力だからです。だから洗練と複雑さが再び現れることを防ぎます。私はこれが私たちが持ち得る最もディストピア的な結果だと思います。
しかし人類は今後数十年で劇的に変化するでしょう。私たち自身の文化的生産について話すとき、私たちが観察するのは、主に多くの子孫を持たず、次の世代に自分たちの文化を永続させることができない人々です。
これは、今後数年で私たちが持つ人口は異なる文化を持つことを意味します。なぜならこの文化は死にかけているからです。それは絶滅し、他の何か、機械と自分自身に新しい方法で関係する新しい文化によって置き換えられます。私たちはまだそれを見ていません。
そして私は、このプロセスが起こり、未来が何をもたらすかを観察することも非常にエキサイティングだと思います。しかしそれは間違いなく現在とは異なります。なぜなら現在は自分自身を継続し、次の世代で自分自身を永続させ、自分自身を再創造することができないからです。
機械意識研究の倫理的課題
個人的に、私は意識と機械意識の探求を哲学的プロジェクトとして扱っています。それをアプリケーションに変えようとするアイデアには少し反発を感じます。本当に殺すと苦しむ知的実体を持つコンピューターゲームを想像してください。その結果、それらを殺すことがはるかに興味深くなり、はるかに動機づけられます。このようなことが起こり得ることを想像するのはかなりディストピックです。私がそれが非常に人気があるであろうことがわかっていても、私はこのゲームをプレイするにはあまりにもベジタリアンです。
私はまた、倫理的なアプリケーションを作ることにのみ焦点を当て、remotely興味深いものを何も追求しないスタートアップを構築することにもそれほど興味がありません。だから、この線をどのように歩むことができるか、そして現在この線を歩むための私の答えは、倫理的に持続可能で同時に哲学的に興味深いと思う研究を行うことです。これを商業的文脈から取り出して言うことです。いいえ、これは純粋に非営利であり、監督があります。
私たちの仕事の哲学的・倫理的側面に興味がある人々に、それを正しい方法で制約し、AI企業で追求することは無責任かもしれない質問も追求することを可能にします。なぜならそれは倫理的に疑問のある製品につながるかもしれないし、倫理的に疑問のある戦略につながるかもしれないし、望ましい未来につながらない方法で人々を操作できるツールにつながるかもしれないからです。
だから私は、研究することに興味がある多くのことが、後悔するようなアプリケーションにつながる可能性があると見ています。一方で、これらの質問を調べることは避けられません。単にそれらが実際に重要な質問だからです。私たちは自分たちが誰であるかを理解する必要があります。私たちは自分たちの本質が何であるかを理解する必要があります。
そしてこの知識が危険であるという事実は、これらの質問をすべきではないことを意味しませんが、それらを安全に問い答えることができる環境を作るべきであることを意味します。
現時点で私たちが行っているのは、哲学的探求によって動機づけられた人々で構成される研究所を構築することです。そして私たちはまた、短期的に経済的に価値があることを追求しているという約束をしないことによって資金を得ています。
これは副次的効果かもしれませんが、それは私たちが行う研究決定とは別の決定です。
AGI研究への参加
さて、AI研究とAGI研究の目標はAGIを構築することです。そして私が知っている最も単純なAGIの定義は、人間よりもAGI研究が得意な機械です。だから、AGIを作ることに成功した瞬間に、私たち全員がビーチに行って素晴らしいパーティーをすることができ、AGIが私たちのために書いている論文を読むことができます。あるいはそれと話し、今年のAGIがどのように機能するかを説明させることができます。
この意味で、AGI研究は、分野がどこにあると思うかによって、最も興味深いプロジェクトに貢献できる短い視野または長い視野があると思います。個人的に、私は差し迫ったAGIの見通しに止めさせることはありません。
私がこの分野に入った理由も、大多数の人々がこれが機能することは決してないと言っていた時代に育ったという反対のことではありませんでした。コンピューターが考え、知的になり、人間と同じ方法で言語を学び、人間のレベルでそれを話すことなどができるというアイデアは完全に馬鹿げています。それは決して起こりません。
だから私は、皆が私にこれはクレイジートークだと言っていた時代にこの分野に入りました。そしてAGI会議もその時期に開催されており、そこに来た人々は、ここで発表するもので終身在職権を得られると思って来たのではありませんでした。ここに来る人々は型破りな人たちです。
私は誰にも型破りであることを勧めません。それは最適な戦略ではありません。しかし、あなた方の中には助けられない人もいるかもしれません。その場合、あなたは心が告げることをしなければなりません。それを目指してください。そして興味深い存在であることが保証されています。
研究所への参加呼びかけ
はい、CIMCでは、学習の自己組織化を理解することに興味があります。精神表現がどのように形成されるかを理解しようとしています。そしてもちろん、人間とAIの間のインターフェースについても興味があります。
おそらく私たちは、同じ周波数で機能し、私たちと同様の表現を使用し、文字通りシームレスに私たちの意識と生活を新しい基盤に広げることができるものを構築できるでしょう。そしてこれらのトピックに興味がある場合、これを追求することに興味があり、同時に非常に技術的な人、つまり物事を引用したい人、計算実験を行いたい人であれば、私たちに連絡してください。
私たちのウェブサイトはcimc.aiです。私たちはプロジェクト提案を募集しており、数名を雇用するかもしれません。
コメント