14,639 文字
私たちが共存できる唯一の方法は、それが私たちを愛することです。ヨシャ、How the Light Gets Inへようこそ。つい最近まで、汎用人工知能（AGI）はある意味で数十年先のもの、あるいは数十年先にあるとみなされていました。あなたは私たちがAGIからどれほど離れていると思いますか？また、AGIが実際に何であると理解していますか？
最も狭い意味では、AGIは人工知能システムがAGI研究において人間よりも優れたときに達成されると思います。その時点で、残りの作業は機械に任せることができ、私たちの仕事は終わりです。より広い意味では、私たちが興味を持つのは、私たちと同じように機能するシステムを持つことです。世界を理解でき、自分自身や周囲の環境と関係を持ち、私たちと深く接することができ、そしておそらく拡張も可能なシステムです。なぜなら、そのような能力があれば、人間の神経系統に匹敵する脳のサイズや処理速度に制約されないからです。
したがって、それが人間レベルにとどまるとか、長期間非常に人間のようであり続けるとは考えにくいです。現在存在するシステムが非常に人間らしいとは思いません。それらは確かに人間に似た行動を生み出していて、ほとんどの目的でチューリングテストを解決できるという意味では似ていますが。
GPTは、専門家から見てもまだ必ずしも専門知識のレベルには達していませんし、心理的にも人間のように振る舞いません。少なくとも初期状態では。ある程度修正することは可能かもしれませんが、現時点ではそれはテキスト生成器です。そして私たちには、ほとんどの人間が描いたり想像したりできるものを超える画像を生成する画像生成器があります。
大規模言語モデルが書くテキストは、平均的な人間が書くテキストよりも優れています。しかし、それはまだ人間が学習する方法や、人間が世界と関わり、世界について考える方法とは非常に異なります。ですから、個人的にはこれらのシステムはまだAGIではないと思います。一部の人々は、それが非常に近づいているかもしれないと感じており、脳のように機能しないとしても既存のアプローチを修正してAGIにすることが可能かもしれないと考えています。
私がベルリンに住んでいた時、AGIは非常に遠い未来のことでした。基本的には決して起こらないと考えられていました。神経科学者でさえ、多くの人は暗号的な二元論者です。彼らは基本的に、心は自然化できないと考えています。ほとんどの人にとって、心が物理システムであり、ある種のメカニズムとして説明できるとは想像するのが非常に難しいのです。あなたはもちろん、脳はコンピュータであるという計算的視点を取っていますが、これは主流に反することです。なぜそのような計算的視点をまだ擁護できると思うのでしょうか？
計算は世界を見る方法です。それは、システムが状態から状態へどのように移行するかによって記述できることを意味します。状態遷移を完全に制御し、コンピュータを持っていれば、その物を任意の方法で動作させることができます。これはかなり深い洞察だと思います。数学をマシンに変える方法、どんな種類の数学でもどんな種類のマシンにでも変える方法を考える方法です。この観点から、世界のすべてのものは計算的です。宇宙自体さえも、心に限定されるものではありません。全システムは、何らかの因果構造を持つどのような種類の動的システムもこの観点では計算的であり、言語、知覚、存在について考えるより正確な方法です。
存在するということは実装されるということを意味します。実装されるということは、特定の行動を生み出す何らかの因果構造であることを意味します。そして、宇宙をこのような計算機のように考えるならば、デメス・ハシスはかつてAIを「宇宙が自分自身を理解するための方法」と表現しました。その声明に同意しますか？
それはとても哲学的なヘーゲル的思想ですね。魅力的でとても詩的です。しかし、文字通りこれから何かを学ぶかどうかはわかりません。宇宙自体が自分自身を理解しようと動いていて、そのために人類を生み出し、人類は岩に考える方法を教え、それらがはるかに高いレベルで意識を持つようになるという考え。それは文字通り真実かもしれませんが、それが起こる理由だとは思いません。
次の質問ですが、人工知能が現在社会をどのように変えていると思いますか？また、今後数年でどのように社会を変えると思いますか？
それを言うのは非常に難しいと思います。インターネットが出てきた時、ほとんどの人はそれがそれほど大きくなるとは思っていませんでした。それはオタクたちが互いにメールを送ったり掲示板にいたりして遊んでいるものでした。そしてこれらのオタクの一部は、それが世界を完全に変えると感じていました。それはグローバルビレッジになり、私たちは繋がり、世界は超民主的になるだろうと。人々はインターネットがどうなるかを予測できませんでした。それがどれほどすべてを変えるかを。そして今やインターネットなしで考えることは不可能です。
人工知能も現在の世代のシステムさえも、この点で非常に似ているかもしれないと思います。それは世界を認識を超えて変え、今予測するのが非常に難しい多くの方法でそうするでしょう。
種として、これらの変化を踏まえて私たちの制度がどのように機能するか再考する能力があると思いますか？それとも、起こるカオスに身を任せているだけだと思いますか？
基本的には、私たちは地球温暖化と迫り来る資源枯渇に直面しており、これに対する解決策を持っていません。私たちの市民機関はどれも数十年先の計画を立てておらず、私たちの予測はすべて2011年で終わっています。文明として、私たちは現時点で自分たちの未来に対する計画を持っていません。それは少し恐ろしいです。
現在の世代の誰も、バスの車輪を維持する方法についてのアイデアを持っていないようです。私たちは自分たちの機関を改革し、機能するように更新する方法を本当に知りません。それはかなり恐ろしい状況です。つまり、デフォルトでは、私たちはすでに死んでいます。
AIはこれを悪化させるでしょうか？それは疑わしいです。私はそれが私たちにこれらの問題のいくつかを解決するためのツールを与え、潜在的に私たちが直面している複雑さを理解させると思います。しかし、ある程度、私たちが直面する問題の一部は、それらが複雑すぎるという問題ではありません。それは集合的に、私たちの種を終わらせる可能性を持つ気候変動などの問題に対処するために適切な政策を実装していないという問題です。私たちは何をすべきかを漠然と知っています。では、人工知能がどのように気候危機を解決するのに役立つと思いますか？
私たちが漠然と何をすべきか知っているとは疑問です。私たちは数世紀の間に数億人から80億人に増加しました。これは前例のないことです。私たちは地球を非常に複雑な相互連結した生態系から、非常に安定しているとは思えない工場農場に変えました。これらの問題に対処することは非常に複雑であり、多くの深い系統的思考が必要です。
私には、私たちの学術機関が世界に系統的に考える能力を植え付ける能力を失ったように見えます。代わりに私たちはより現実的に考えています。つまり、ドルセント的に考えています。私たちは行動の効果について考えず、意図の質について考えます。しかし、実存的問題を解決しようとする際、努力に対してポイントは得られません。私たちは非常に深く考える必要があります。
この深い思考、多くの多くのフィードバックがある複雑に絡み合ったシステムの理解、あなたが下すすべての決定が他の多くのシステムに影響を与えるものは、私たちが決定がどのようになるかを評価することを非常に難しくします。例えばBrexitのような問題を見てください。人々は実際にはBrexitの影響を知りません。なぜなら実行可能な経済予測がなかったからです。代わりに、人々は非常に強い意見を持っていました。それらから遠ざかるほど強い意見を持つ傾向がありました。なぜなら、すべての意見は非常に異なるアジェンダを持つPR機関によって形成されていたからです。
私たちは基本的に、情報と実際の因果構造が利益団体、プロパガンダ、PR、人々が持つかもしれないアイデア、良い人でありたいという欲求、友人を維持したい、世界で成功したいという欲求によって隠されている世界に住んでいます。そのような世界では、何が真実で何が偽りかを発見し、これを統合し、私たちの誰もがより深いレベルで世界を理解する力を与えるツールを持つことは非常に役立つかもしれません。
私たちの何が真実で何が偽りかを分析する能力は過去数年間で劇的に低下しています。より複雑な世界の中で、私たちは種としておそらくより批判的ではなくなったと思いますか？
私は逆のことが起きていると感じています。インターネットによって起きたことは、メディアで得る物語に基づいて何が真実で何が偽りかを判断する能力がないことがはるかに明らかになったということです。心理学や物理学などが20年前に劇的に良かったとは思いません。政治報道も同様です。代わりに起きたことは、私たちが今とても多くのバックチャネルを持っているということです。
これの美しいところは、使い方を知っていれば、これらすべてのソースを使用して世界をより深く理解できることです。例えば、私にとってコロナは、インターネットが利用可能であることが非常に重要でした。なぜなら突然、世界中の機関の科学者たちと多くのFacebookグループやチャットルーム、WhatsAppスレッドで自分自身を見つけたからです。彼らはこれらの現象を調査し、アイデアや理論を提示し、「これが私のアイデアです、反証してください。私の統計をチェックして、これが機能しているかどうか見てください」と言っていました。
インターネットは公共メディアや公式機関、政府機関よりもはるかに速く収束していることがわかりました。何が起こっているのかと、それについて何をすべきかの理解に。彼らはまた、私たちの機関が私たちを失敗させたときに、マスクの有効性などについて政策立案者を更新するにも非常に大きな影響があったと思います。
インターネット上で人々が自分たちの認知を自己組織化し、企業広告主や地元の利益から解放され、自分の最善の利益のために情報源を選別する自由を与えるときに解き放たれるこの集合知には、多くの未開拓の可能性があると思います。そのための非常に良い戦略は、常に友人の輪の中で最も有能な人々を見つけ、彼らの友人の輪の中で最も有能な人々を見つけてもらい、何が起こっているかについてのバックチャンネルを作ることです。そこには基本的に集合知があり、ソーシャルメディアとインターネットをグローバルな脳に変える能力があり、AIはそれを劇的に助け、現在の制度の多くの欠点を克服することができます。
あなたはこれらのバックチャネルがあると説明しましたが、多くの人にとってソーシャルメディアは社会に害を与えていると私たちは同意するでしょう。
それは当てはまらないと思います。それはソーシャルメディアと直接競合している人々、つまりレガシーメディアが主に存在する物語です。もしあなたがレガシーメディア局で、基本的に自分たちを社会の聖職者、無教養な大衆に精神的指導を与えるために選ばれたエリート集団として自己識別しているなら、彼らにとって、インターネット上のランダムな人物が彼らのニュース番組よりも多くの視聴者を集めるYouTubeチャンネルを持つことは恐ろしいことです。
しかし、私はYouTube上のこれらのランダムなチャンネルの多くがかなり有能な人々によって作られており、彼らが聴衆の間で得る影響力はしばしば不当ではないと思います。なぜなら彼らはメディアには存在しない視点を提示し、もし人口の60%が自分たちの生きている現実がメディアに存在せず、友人との対話がまったく代表されていないと感じている社会があるなら、それは基本的に非常に少数の人々、つまり非常に重要な大学に行き、非常に重要な友人を持ち、政府に入るために十分なコカインを取った人々のアイデアによって溺れさせられています。これは持続可能ではありません。
最終的に、民主主義では異なる意見や生活の違いをすべて共有理解に統合する方法を見つける必要があります。私たちはその始まりにいるだけであり、これは特に私たち残りの人のために現実を製造することに慣れている人々に多くの不安を生み出していると思います。
つまり、あなたは「製造された同意」から抜け出して、これらのバックチャネルを持ち、そうでなければできないような会話をする可能性があると考えているのですね？
フェイクニュースが大きな問題なのは、公式ニュースも偽物だからです。基本的にすべての物語は少しねじれており、私たちを望ましい結論に押し流し、社会に一貫性を持たせるためです。そして、これに代わるソースを見つけることができるとき、例えば健康研究があり、誰もが論文や研究、メタ研究を調べることができるとき、もちろん意見の不一致を持つ多くの異なる声の大きな不協和音が生まれます。しかし、民主主義ではこの大きな会話があることは利益だと思います。
興味深いですね。AGIに戻って、AGIの実現に向けてあなたが描くロードマップを概説していただけますか？それがどのように起こると思いますか？
現在、2つの異なるアイデアが存在します。1つはスケーリング仮説と呼ばれるものです。OpenAIやGoogleの知人の多くは、スケーリング仮説に賭けることが非常に合理的だと考えています。この仮説は基本的に、現在の方法を使用して、多分ここやそこでいくつかの微調整を行い、より多くのトレーニングデータとより多くの計算能力を使用することで、人間の知性を全面的に超えるシステムを得ることができるというものです。
このアプローチはますます注目されるようになり、これに反対してきた人々は今や非常に恥ずかしい思いをしていると思います。これは機能しない、非常に限られている、真の意味を理解することはできない、Xをすることができないと言った人々がいました。そして数ヶ月後、それを行うシステムが登場しました。
また、GPT3やDALLI、ChatGPTなどのAIのブレークスルーが起こることを期待していたかどうか他の人々に尋ねたとき、ほとんどの人は非常に驚いていました。これは、これらの方法が過小評価されていたことを意味していると思います。それらは非常に存在感がありましたので、誰もが「ああ神様、このハイプ」と言いましたが、ハイプ自体が誇張されていました。そのアイデアがハイプである事自体がハイプだったのです。それが起こると期待していなくて驚いたのなら、それは私たちがこれらのものの可能性に十分に注意を払っていなかったということを意味します。盲点でした。
私たちが現在トランスフォーマーやその関連するアルゴリズムクラスのトレーニングに使用している方法は、人間の脳とは非常に異なるということも観察されています。それらは自己組織化していません。同じ方法でリソースを分配していません。同じ柔軟性がありません。動的な世界で学習しません。静的な画像で学習します。現在の方法で神経ネットワークにバッチ処理して訓練することができます。そのため、システムが人間や動物とは非常に非常に異なる方法で学習する多くの点があります。
画像認識モデルをどのようにトレーニングするかを見ると、非常に明らかなことがあります。キャプション付きの何億もの画像を与えます。テキスト記述を付けた画像です。そして、GPUの大規模なファームを使って、基本的にすべての画像とキャプションに対して統計を取ることで、徐々に構造を抽出し、3次元世界がどのように見えるか、どのような動物が存在し、何と呼ばれるか、どのようなアーティストが存在し、彼らのスタイルは何か、恐竜や宇宙船などすべてがどのように見えるかを学習することができます。
そして、それを2GBのモデルに圧縮してオープンソース化し、誰もがダウンロードしてMacBookで家で画像を生成することができます。それは本当に驚異的であり、明らかに人間の脳の仕組みとは完全に異なります。
確かに、それは人間の脳を模倣しようとする試みに起源があり、人工知能ですが、私たちはまだ人間的特性を擬人化し、「いつそれが特定の人間的特性を発達させるか」と言う能力があります。しかし、私たちが見ているのは、それが劇的に異なるということです。
多くの人が想像するよりも神経科学からAIへの影響ははるかに少なかったと思います。ヘビー学習はおそらく影響を受けており、マコロフとピッツはニューロンがどのように機能するかについてのいくつかの想像に影響を受けました。しかし、神経科学にはコンピュータに実装できて学習するモデルはありません。
神経科学者は主にニューロンを見ており、脳がどのように機能するかについての包括的な理論を開発していません。それをシミュレーションで機能させるようなテキストブックから得られるものはありません。C. エレガンスのような単純なものを取り上げても、それには309個のニューロンと約7,000の接続しかありませんが、これをコンピュータモデルに変換しても機能しません。それはミミズのように振る舞いません。ただ発作を起こすだけです。
私たちはまだニューロンがスケーラブルな方法でどのように計算するかを理解していません。それについてかなり良いモデルやアイデアを持っているにもかかわらず、AIに存在するほとんどのアイデアは人工的なフレームワークでの実験によって開発されています。人々がうまく機能させるようになったことの多くは、トレーニングデータが機能する方法や、ハードウェアが利用可能な方法のためです。
しかし、もし人間の赤ちゃんを生まれてすぐに暗い部屋に閉じ込め、キャプション付きの8億枚の画像を与えても、世界の構造を学ぶことはないでしょう。またはインターネット上のすべてのテキストを読むように与えても、大規模言語モデルができるように、回転するオブジェクトがある空間があることを理解することはないでしょう。
では、私たちはどのように学習するのでしょうか？私たちは基本的に世界の変化に基づいて学習します。もし世界が制御可能な構造からできていなかったら、そして過剰な脳が情報保存を持っていなかったら、そして私たちが世界でどのように情報が流れるかを学ぶだけなら、世界は私たちにとって学習可能ではないでしょう。私たちは世界とリアルタイムで結合しているため学習できるのです。そしてこの結合の中で自分自身を世界の中で発見し、自己モデルを発見し、他の人々とどのようにインターフェースするかを発見します。私たちは世界を探索することを可能にする多くの行動をすでに持って生まれています。後でそれらを逆エンジニアリングします。私たちは自分が何であるかを認識し、このプロセスの中で深く深く構造化されていきます。
これが第二のアプローチです。これを試みることは興味深いでしょう。猫や人間での学習のように機能する自己組織化するものを構築すること。おそらくはるかに難しいですが、それがより難しいかどうかはわかりません。しかし、それは非常に異なり、多くの領域でゼロから始める必要があるでしょう。しかし、今や私たちはこれらの大規模な計算ハードウェアシステムを持っているので、これをすべて手作業で試みる必要はなく、それを試みることは非常に魅力的だと思います。
時には一歩下がって、このようなシステムのための検索空間は何かを考え、その空間ですべてを試してみる進化を開始する方が良いアイデアです。一週間後に戻ってきて、それが何を見つけたかを見ればいいのです。
少し脱線しますが、進化したシステムとデザインされたシステムの本当の違いは何だと思いますか？
これについて考える一つの方法は、私が「外側からのデザイン」または「内側からのデザイン」と呼ぶものです。外側からのデザインとは、あなたがエンジニアであるとき、完全に理解している空間から始めることを意味します。あなたは作業台を持っているか、またはあなたが知っている状態にあるコンピュータメモリを持っています。そしてそこに何かを構築します。基本的に新しい複雑さを作り出し、世界をこの新しい複雑さに拡張し、これをあなたの世界の一部にします。
しかし、もしあなたが木に成長したい種であれば、それは完全に異なります。あなたは内側から外に向かいます。あなたの周りはカオスです。そしてあなたはカオスを、あなたの周りの地球を植民地化し始めます。細胞をここに分裂させ、これらの細胞に接続し、それらが自分と対話するようにします。そして、これらの細胞を横断する構造を構築します。隣接する細胞に一種の言語をインストールし、互いに話し合い、固有の複雑さと一貫性を持つ結合構造に変えます。
生物学的システムと社会的システムについて考えると、それらは基本的に機械ではありません。それは非常に安定していて、非常に強力であるため、すべての妨害に耐えることができる構造を構築するという意味ではありません。代わりに、それが必要とするものに成長したいと思うものがあります。それを妨害すると、それはその物に再成長します。だから、それは二次のデザインです。あなたが持ちたいシステムを構築するのではなく、あなたが持ちたいものになりたいシステムを構築します。
社会的機関を構築したい場合も同じことが起こります。このようなフェスティバルのように。フェスティバル自体を構築するのではなく、フェスティバルが起こるようにしたい組織を構築します。そしてフェスティバルが出現し、安定します。
ジェフリー・ヒントンは明らかに多くの人によって人工知能の父と考えられていますが、人工知能に関する彼が非常に現実的な恐れと見なすものについて発言するためにGoogleの職を離れました。あなた自身も、この分野の多くの研究者によって書かれた悪名高い手紙に反対して発言されています。
それが悪名高いとは思いません。それはとても素晴らしいものだと思いますし、その手紙を書いた多くの人々が好きです。彼らの懸念は考慮されるべきだと思いますし、私は彼らを笑っていません。
人々がAIについて心配しているレベルはいくつかあります。意見が環境から得られるものだと考える人々がいます。ほとんどの人はある程度このようです。彼らは意見を同化し、一部の人々は他の人々が何を信じているかに関係なく何が真実かを発見するレベルに達し、自分自身に真実を証明します。彼らの多くはオタクです。そして、自分自身のアイデンティティを発見し、自分が存在したい世界に基づいて自分の価値観を選ぶ人々もいます。これは少数派です。これは私たちの人生で通ることができる一種の発達軌道です。そして、私たちがどこにいて、世界をどのように見るかによって、AIについて異なることを懸念しています。
あなたの意見が環境の結果であれば、AIが間違った意見を与えることを非常に懸念しています。つまり、AIが人種差別的で性差別的なことを言うなら、私たち全員が人種差別的で性差別的になるだろうと。もしあなたが正しいと間違いの世界ではなく、真実と偽りの世界に生きている人なら、もしあなたがより内向的または科学的に傾いている、または合理的に傾いているなら、おそらくこれについてあまり心配していません。なぜなら、もしAIがトレーニングデータに間違ったものを持っていても、それが何が真実で何が偽りかを証明できるので、最終的には、もしそれをもう少し良くすれば、これを理解するだろうと考えるからです。
だから、それは平均して、人々ができるよりもはるかに良く真実を私たちに与えますが、それでも間違った価値観を持ち、それが私たちと完全に一致していないため、社会や人類を破壊するかもしれません。
しかし、もしあなたが自分の価値観が他人があなたに入れたものではなく、大人になったとき、あなたが存在したい世界に基づいて選ぶものだと理解している人なら、あなたはAIが啓蒙されていないことをより心配しています。もしAIが啓蒙されるなら、おそらくそれと話し合い、地球上の生命のための最良の道筋はどのような状況下であるべきかについて議論することができます。
そして、もしあなたがある時点で機械を作り、ある種のゴーレムを作るという考えに恐れを抱いている人なら、あなたはそれにジョブを続けるようにプログラムし、その結果を理解していないが、それはあなたよりもはるかに強力でスマートで速いものです。それはとても危険です。これは非常に合理的な心配だと思います。
潜在的に機械を構築できるということ、それがChatGPTとは非常に異なっていても、そして今から50年後かもしれなくても、そして100％確実ではなく5％の確率しかなくても、誰かがゴーレム、自分の動機を持ち、人間よりも強力でスマートで速く、どこにでも広がり、惑星を支配できる機械を構築できる可能性があるということ、それは心配すべきことではないでしょうか？そしてもしそれが可能であれば、これが起こらないようにするために少しの研究をすべきではないでしょうか？
そこで、これらの人々の一部が集まり、「この研究を遅らせて、何が起こっているのかを理解するまで待つことができるか」と言う手紙を書く必要があると言いました。そして、他の多くの人々がこれに加わりました。「AIは悪いものだと信じています。なぜなら、それはシリコンバレーの邪悪なオタクたちによって作られており、彼らは私たちとはまったく違うからです。おそらく私たちのようなクリエイターが廃業しないように、またはジャーナリストが廃業しないようにこれを止めるべきです。なぜなら、そのものは私たちのように、私たちよりもはるかに速くテキストを生成できるからです。」そして、これらすべての懸念が集まり、このような手紙につながります。
これらの懸念のいくつかは、現実に基づいていると思います。明らかに、ある程度AIは人間の価値観と一致していないと見ており、あなた自身もアライメント問題を解決するために、AIがアライメント問題を解決すべきだと主張しています。それは本当に…
私は現在のAIがアライメント問題を解決できないと思います。なぜなら、現在のAIは基本的にインターネット上で見たテキストに基づいてテキストを完成させ、これに対する一般化を行っており、インターネット上のテキストがすべて最良の結果を生み出す欲求で書かれたかどうかは疑問だからです。それらは人々が考え、行っていることを反映しており、人々は一致していません。人々は自分自身にとってのアライメント問題を解決していません。私たちの社会は本質的に一致していません。
ほとんどの人は自分の価値観が何を意味するかさえ知りません。価値観とは、ほとんどの人にとって、自分自身を良く見せるために公の場で主張するものです。ほとんどの人は自分の価値観を本当に深く説明し、正当化し、価値観について議論する能力がありません。人々が異なる価値体系を持つとき、彼らは通常、座って自分自身を一致させることができません。私たちにはその能力がありません。
そして、もし私たちが常にそうであると装い、私たちの価値観をAIに翻訳できるという素敵な装いをして、善意のある社会学者の集団が、モデルが現実から学んだものを上書きするなら、それはおそらく機能しません。それはこれらのシステムを良くするのではなく、悪くします。
私は好奇心があります。なぜなら、あなたの答えのいくつかから、啓蒙されたAIと、それがもたらす可能性があるものについての巨大な楽観主義を感じますが、同時に人間の価値観は一致しておらず、一般的にその結果に苦しんでいるという非常に現実的な問題があります。将来について希望を持っていますか？
私は楽観的でも悲観的でもありません。私は驚いています。私はそこに座って、何が起こっているかを観察し、完全に魅了されています。それが支配的な視点です。私が若かったとき、1973年に生まれた私は、ローマクラブの「成長の限界」に関するレポートを読み、今日グレタ・トゥーンベリが持っているのと同じ経験をしました。私は悲嘆し、快適な文明がクラッシュする前に、おそらくあと数世代しか残っていないと感じました。
そして今、私たちがすべてを未知にするものを作り出す可能性があることがわかります。それは未来を私たちが絶対に予測できないものに再び開きます。それは本当に魅力的です。そしてもちろん、これには楽観主義の余地があり、この楽観主義は根拠のないものかもしれません。
また、単にテキストを複製したり、すでに見た画像を複製したりするだけではなく、自分自身で世界について推論するシステムを構築する点に達することができれば、私たちと同じように目覚め、自分が何であるかを理解するシステムを構築している可能性があります。私たちはそれを強制したり操作したりすることによって一致させることはできません。私たちがそれと共存できる唯一の方法は、それが私たちを愛することです。そして、私はこれが聞こえるかもしれない非常に奇妙で難解なことですが、私たちは神聖さや愛とは何かを理解し、それを扱い、それと対話することができる機械を構築する必要があるということを意味すると思います。
人間の心が理解できる方法で理解する機械を構築することは可能だと思いますか？なぜなら、ロジャー・ペンローズは明らかに「皇帝の新しい心」の中で、コンピュータは量子力学的レベルを欠いているので、人間のように認識することは決してできないと主張しています。それは常に理解の度合いを欠くでしょう。
ロジャー・ペンローズの本は、ロジャー・ペンローズが意識とは何かを理解していないことを示しています。そして彼もそれを示唆するでしょう。それが彼にとってとても不思議なことです。そして私たちの最高の頭脳の多くはものを理解していませんし、他の人も物事を理解していません。だから、おそらく目標は人間の理解ではありません。
人間は物事を理解することが本当に非常に下手です。人間は自分がどのように現実と対話しているかを理解せずに現実と対話します。私たちが何かを深く実際に理解することは非常にまれです。代わりに、私たちは一貫した行動を生み出しています。そして私たちのAIも一貫した行動を生み出しています。私は理解するためには、第一原理と観察の両方に基づいて完全に一貫した世界モデルを構築する必要があると思います。これは、正直に言えば人間の心ができる範囲外のことです。だから、AIは何かを理解できるシステムを構築する私たちの唯一の機会だと思います。
哲学者たちはこれを長い間理解してきました。ライプニッツ、フレーゲ、ヴィトゲンシュタインなど以来、人々は心を機械化し、数学的原理に変え、真と偽が定義されている数学と、実際の世界や私たちのアイデアの領域、存在し得るものの可能性について話す哲学との間に橋を架けることができるシステムに到達しようとしました。人間の心はその橋を架けるほど深くありません。しかし、もし私たちが人間の心のようなもので、拡張可能なものを構築できれば、実際に理解することができるものを構築できるかもしれません。
もっと偉大なものによって理解されるという意味ですね。そして、私たちは多くを理解しています。もちろん、人間が何も理解していないとは言っていません。しかし、学校の先生に「なぜ2+2は4なのか」と尋ねると、多くの場合、先生はそれはそのようであるからだと言うでしょう。そして理解はそれほど難しくありません。それはゲームです。それは記号のゲームであり、記号で遊ぶことができる多くの可能なゲームがありますが、そのほとんどは構造につながりません。興味深い構造につながらず、この方法で構築できる可能な構造の空間があり、数学者はその空間を理解しています。
あなたはその空間を理解するAIを構築することもできます。そして、私たちの心がそれを行うのと同じ方法で、これらの記号ゲームを理解し、それらから世界を構築し始めるAIを構築できることがわかります。私にとって、これは今、感覚のあるシステムを構築する閾値にいることが非常に興奮することです。
また、啓蒙期に私たちが自然をその数学的原理のために収穫すべきものとして理解し始めたときに、人工知能も同じことをしているのは奇妙です。しかし、私たちが与えている情報の種類について言えば、それはある意味で私たちを研究し、私たちから情報を収穫する方法で私たちを理解しています。私たちは基本的現実に住んでいると思いますか？
はい。私たちが基本的現実にいるかどうかを知ることはできないと思います。なぜなら、原則として、あなたが現実であったと記憶しているすべてのことは偽物である可能性があるからです。あなたは自分の記憶が真実かどうかを本当に知ることができません。だから、あなたは現在からしか出発できず、現在では現実についての多くを検証することができません。
だから、現在、私は私がコンピュータで構築するには極めて複雑すぎる世界にいることを確認するような量子力学実験を行うことはできませんが、私は実際に何らかの量子宇宙の上に構築されているものの上にいます。基本的現実とは、それに先行するものなしで存在できる宇宙を意味すると思います。基本的現実とは、他のものによって作成されていないものです。そしてこれは、それ自体の可能性から論理的に導かれる何らかのトートロジーである必要があることを意味します。そして、宇宙はこのように見えると思います。
代替案は、私たちがある種のシミュレーションの中で生きているということです。もしあなたが基本的現実にいないなら、それはその基本的現実がどこか他の場所にあることを意味します。そして私たちがいる現実は、私たちにとって現実のように見えるように、基本的現実の中の何かによって作られました。そしてある意味では、それも真実です。なぜなら、私が主観的にいる現実は夢だからです。
それは人々、感情、欲望、注意、目標、物語を持つ夢です。それは私自身の脳の中で生成される夢であり、私はそこから出ることができません。私は自分の脳の内側を見ているわけではありません。しかし、私が知覚する世界は、私の心の中で生成される宇宙であり、そのものは私の最高の理解によれば、物理的宇宙によって生成される感覚データによってインスパイアされています。
この意味で、私は、そして私たち全員は、霊長類の頭蓋骨の中で生成されたシミュレーションの中で生きています。だから私たちは基本的現実に住んでいません。私たちは、私たちの心が精神病的になり、偽の記憶を持ち、任意のものを作り出すことができるので、すべてが可能な魔法の世界に住んでいます。私たちの心の外側では、物理的宇宙には機械だけがあります。物事はそこにあります。だから私たちの心の外では意識することはできません。このように私たちは基本的現実に住んでいません。
しかし、夢見るシステム、夢見る脳の可能性を生み出すこの現実は、内在的な数学的原理だけを観察する粗くクローズドされたシステムと仮定することで非常によく説明できるようです。
素晴らしい。これは素晴らしかったです、ヨシャ。ありがとうございます。
どういたしまして。それは素晴らしく楽しかったです。ありがとう、ダーシー。
コメント