11,199 文字
最近、私は「AGIは決してこのスキルを置き換えることはない」というタイトルの動画を作りました。そして予想通り、その動画に対して多くのネガティブなフィードバックを受けました。そこで、私の考え方、推論、そして根拠について説明するのが面白いと思いました。
思い出していただきたいのは、ちょうど1年前か1年半前を振り返ると、私はAGI列車と超知性列車に完全に乗っており、それが人間の存在するすべての認知領域で人間を追い越し、さらには私たちが本当に理解できないような高次元の能力にまで超えていくと信じていました。
また、マインドアップロードも、これらすべての必然的な結論だと思っていました。当時、私がこの構築している技術について持っていた情報源は、イーロン・マスクやサム・アルトマン、ミツアクなどの技術者や、レイ・カーツワイルのような何十年もこうした予測をしてきた物理学者たちでした。
レイ・カーツワイルは20年前に私たちが今いる場所を方向的に正しく予測しました。これは驚くべきことです。彼は本当の意味での天才です。しかし、まだ全体像は完全には展開していないことを認識する必要があります。レイ・カーツワイルが説明したような完全なAGIはまだありません。
これらのシステムは苦しむ能力を持っていません。それらは本当の意識をシミュレートしていません。自分で目標を設定したり、創造性を発揮したり、自分で新しい抽象化を作り出したりする能力がありません。まだ人間が関与する必要があります。だから、完全な物語はまだ展開していないのです。
これがどのように展開するか、見てみましょう。そしてこれにはもう一つの側面もあります。合理的で理性的な人間として、両側を見て、状況を本当に理解するために両方の議論に同じだけの時間を費やす必要があります。私は以前学んでいた側と同じくらい深く、もう一方の側も掘り下げています。
そして、最初に予想していたのとは異なる像が見え始めています。率直に言うとそういうことです。私はこう思います。いつか私たちは何らかの物質基盤を使って工学的に作り上げることができるでしょう。それが何なのかまだわかりませんが、進化が良い基盤について多くを教えてくれると感じています。
いつか本物のAGIを工学的に作り上げることができると思います。AGIは明らかなことだと思います。私はAGIです。あなたはAGIです。人工汎用知能だからAGIと呼びたくないなら、私たちはただのGI、つまり汎用知能ですね。私たちは赤ちゃんを産むたびに汎用知能を生み出しています。
だから明らかにそれは物理的に可能なことです。しかし、それらを生み出す方法はまだ私たちにはわかっていません。私たちはまだ多くのことを知りません。宇宙についてはほとんど何も知りません。生命についてもほとんど何も知りません。生物学における理解は1930年代のコンピュータサイエンスレベルで、つまり生物学についてほとんど何も知らないのです。
知らないことがたくさんあり、人類は知らない情報に基づいて抽象化を行いながら存在しています。これが理由の一部ですが、全体像ではありません。では、私が用意したものに飛び込んで、すべてを説明しましょう。
人工汎用知能を構築するための全体的なアプローチが正しくないと思う理由はいくつかあります。人間とは何か、そして人間が持つ知性の種類の複雑さについて、AIは得意なことにはとても優れていて、不得意なことには本当に下手だということが続くだけだと思います。
私たちはシステムを不得意なことでも優れたものにしようとするでしょう。そうすると、私たちはおそらく完全に異なる種類の基盤が必要だと気づくでしょう。そして、私はその基盤が何になると思うか説明します。
最初から始めましょう。完全に練り上げられた視点でアプローチするなら、第一原理から始める必要があります。地球の始まりから始め、地球上での生命の誕生、つまり最初の生物学的基盤形態としてのバクテリアからです。
バクテリアは基本的にDNAの小さな物質です。それは物質とDNAであり、それだけです。そしてこのアルゴリズム、このDNAが物質の基板に刻まれ、自律的に動くことを可能にします。これが生命の最初の形態です。一部の人はこれを生命とさえ分類しません。
私はある意味で分類すると思います。私たちが知る中で最も単純な生命形態だと思います。そして時間とともに、真核生物、植物、菌類、そして最終的には魚類、両生類、爬虫類、鳥類、哺乳類といった実際の動物に至ります。
なぜこれらすべてについて話しているのでしょうか？ここの魚から、人間が現れ始めるこの小さな点まで、一つのシステムが発達してきました。実際、多くのシステムが発達してきましたが、その一部は私たちがまだ完全には理解していません。しかし、非常に重要なのはリンパ系です。
このリンパ系は何億年、おそらく10億年にわたって発達し進化してきました。計算を可能にする大脳皮質は、論理的思考を可能にするものですが、はるかに短い時間しか発達していません。この小さなグラフを見てください。
小さなものがあって、別のものがあって、チンパンジーと人間がいます。リンパ系はこの進化のプロセス全体を通じて同じままでした。同じではないにしても、常に存在し、進化によって時間とともに微調整されていきました。
そして時間とともに、大脳新皮質のような脳のより複雑な特徴を発達させ始めました。そして今、脳の次の部分または次の層はシリコン層だと主張する人もいるでしょう。それは議論の余地があります。実際、それは真実かもしれません。しかし、シリコン層についていくつかの仮定は間違っていると思います。それがこの動画の内容です。
この期間を通して、私たちは非常に興味深いものを開発してきました。そして、進化について覚えておく必要があるのは、ドイツのイングランドの本「すべての生命は火の中にある」を見ると、進化は基本的に物質が生き残ろうとするプロセスであり、宇宙が自分自身を観察し、生命が前進する確率を高めようとするようなものです。
生命とは何でしょうか？生命は基本的にエネルギーと自己組織化する物質として定義できます。それだけです。地球の誕生があり、宇宙線が降り注ぎ、そのすべてのエネルギーが適切な初期条件と適切な環境設定で宇宙の大きな岩に降り注ぐとき、そのエネルギーが地球に降り注ぐと、物質が自己組織化し始め、この計算的なパターン、このアルゴリズム、DNAと呼ばれるコードの行を進化させ始めます。
このDNAが宇宙内で物事を動かし始め、それが様々な生命形態を生み出します。時間とともに、私たちは基本的にDNAの進化の何十億年もの産物です。
リンパ系の複雑さは非常に長い期間にわたって進化してきました。ここから興味深いことが生まれます。本能、感情、気持ち、反応、直感的な判断を下す能力など、すべてがリンパ系から生まれます。
本物の知性と直感は、リンパ系から生まれるものです。大脳皮質はリンパ系なしでは存在できません。自然と進化は、非常に方法論的なプロセスで最初の原理から私たちを構築してきました。大脳皮質が後から来る理由は、大脳皮質がリンパ系なしでは存在できないからです。
リンパ系が大脳皮質の能力を可能にしています。大脳皮質は計算と論理だけを行います。バットのように頭が悪いけれど数学がとても得意な友達を持っているでしょう？自己認識がゼロで、周囲への認識もゼロ、多くの本の知識があるけど街の知恵がない。
常識はないけれど、複雑な方程式を解いたり、特定のシステムをかなりうまく設計したりできる。それがAIです。それは大脳皮質であり、リンパ系ではありません。リンパ系、遺伝子、体中に広がるすべての細胞の集合知性、これらは何十億年もの間に発達してきたもので、大脳皮質と絡み合って本当の直感を与えます。
AIは単なる大脳皮質です。それらの能力はありません。ベンチャーキャピタリストが行うような抽象化を行う能力がありません。例えば、ベンチャーキャピタリストはアーティストです。それは異なるタイプの知性です。
本能的なタイプのものであり、必ずしも方法論的な計算プロセスではありません。単に本能的なものです。アーティストも同様です。本当に本質的に創造的な人は、大脳皮質から生まれるのではありません。大脳皮質は、それが現実になるための適切なビジョンを持つことを可能にするものです。
しかし、すべては脳の最も興味深い部分、どの部分よりも長く進化してきた部分であるリンパ系から生まれます。マックス・ホダクはニューラリンクの共同創設者で、彼は自分の神経インターフェース会社を立ち上げました。彼の製品のビデオをすぐに見せます。
彼は生物学は基本的にエイリアンのナノテクノロジーだと言っています。自然は私たちよりもはるかに優れた設計者です。自然が本当のエンジニアです。そして自然はこれらのシステムを設計するのに何十億年もかけてきました。リンパ系と同じ複雑さを捉えることができるものを私たちが設計できる確率は実際にはほとんど不可能です。
一つは計算の非還元性のため、二つ目はシリコンの基板が… たぶんいつか5000年後には、その複雑さを捉えるアルゴリズムを作れるかもしれません。しかし、それはすぐには起こりません。それは確かです。そして、その時点では、マックス・ホダクが言ったように、生物学はエイリアン技術だということがわかるでしょう。
進化について知っていることは、最もエネルギー効率が良く効果的な基板が勝つということです。生命の樹を見ると、生命が生存確率を最大化するために行っていることは、他の種に打ち勝ち前進するために、できるだけ効率的かつ効果的にエネルギーを活用することです。それだけです。
それが進化です。種がエネルギー散逸を最大化できる特性を選択することが進化のすべてです。だから、シリコンのアイデアは私たちが持つ段階だと思いますが、最終的なアイデアはマックス・ホダクが言っているような生物学だと思います。生物学はエイリアンのナノテクノロジーであり、私たちが構築しているシリコン形態は一時的なものであり、大脳新皮質が得意とするタイプのことにのみ優れているでしょう。
しかし、それだけではありません。大脳新皮質は私たちが構築しているシリコンシステムと比較してもまだ非常に複雑です。私たちが構築しているシリコンシステムは、株式取引のような狭い計算に非常に優れていると思います。
狭いAIによる株式取引とは何でしょうか？以前のデータがたくさんあります。通常は時間の経過に伴う価格データです。そして何十年、何年にもわたるその株価データのすべてでモデルをトレーニングすると、そのデータの中には宇宙レベルの密度があり、二つのルールがあります。
株式取引には2つのルールしかありません。モデルをトレーニングした圧縮価格データに基づいて買いと売りをする。圧縮に基づいて買いと売りをする。単純なルール、決定論的な結果。これがこのシリコン層が本当に得意とするタイプのことです。例えば、人の特定の病気を識別するようなことです。
なぜAIは人間の医師と比較して診断が非常に優れているのでしょうか？AIはその病気に関する人間が今までに持った最高の考えをすべて参照し、その分布内で一つを見つけ出し、その人を診断することができるからです。だからAIが新しい生命形態になるわけではありません。一部の人は人間を見て、次はAIだと言うでしょう。
いいえ、違います。生物学は続きます。AIは人間の脳を可能な限り拡張するために使用するものですが、生物学をゼロから設計できるようになるまでは、人間の脳自体ほど優れることはないでしょう。その時点では、シリコンを捨てることになります。私たちは自分自身を超人間として設計しています。
将来構築するAGIは、実際には私たちが自分自身をもっと作り出すことになるでしょう。それは将来の超人間です。技術的特異点はAGIが人間の知性を超えるときではありません。特異点は人間が自分自身をゼロから設計する方法を理解し、そしてゼロから何兆人もの自分自身を工学的に誕生させるときです。このAIのがらくたではなく。実際にはそれほど優れていません。
私はChat GPTと話して非常に感心しました。狭い計算には非常に優れていますが、実際に新しいことをするのは得意ではありません。創造的であることも得意ではありません。そしてそれは客観的に明らかです。もしそうではないと言うなら、あなたはこれらのモデルを人間化しすぎています。申し訳ありませんが、そうなのです。
私はできるだけ合理的に、理性的であろうとしています。私たちが作っているものは大脳新皮質の上の層です。それは効果的には外皮質であり、人間なしでは存在できません。私たちがこれらの超高度に自律的なシステムを作り出すという考えは、リンパ系に存在する複雑さを捉える必要があるため、実際にはほとんど不可能です。このリンパ系は何十億年もの間発達してきました。
それを捉えることは実現可能ではありません。計算複雑性を捉えることは不可能です。計算非還元性と呼ばれるものがあります。調べることをお勧めします。三体問題のような特定の問題があります。三体問題の計算複雑性を捉えることができないなら、リンパ系の計算複雑性を捉えることはできないでしょう。
正直に言うとそういうことです。つまり、私たちが持つ本能、反応、そしてそれらをどのように行うか、AIは計算非還元性のためにおそらくそれを捉えることはできないでしょう。いつか私たちができると思うのは、脳の上に乗せることができる生物学のある形態を設計し、AIの人間の集合知識とすべてを相互接続し、時間とともに数千年かけて超人間をゼロから設計する方法を理解することです。
おそらく数千年よりも短いでしょう。正直に言って、私たちが動いているペースでは、おそらく数十年から数百年の間になるでしょう。数千年ではないでしょうが、10年未満でもないでしょう。超人間を設計する方法を理解するでしょう。それが未来です。それが技術的特異点です。
AIという種が来るわけではありません。それはSFです。AIは非常に、非常に、非常に、非常に素晴らしく、強力になると思います。非常に役立つでしょうが、人間が持つような直感、エージェンシー、本能のタイプを欠いているため、人間なしでは存在できません。
本の知識が豊富で、狭いパラメータと単純なルールのセットで単純な計算が得意な人のようになるでしょうが、リンパ系が人間に提供する一般的な街の教育、一般的な街の直感は持たないでしょう。それは持たないでしょう。
だからこそ、前回の動画で、ベンチャーキャピタリスト、資源配分者、起業家などのような人々は常にAIシステムよりも優位性を持つと言いました。AIシステムはこれらの人々を驚異的に拡張するだけです。ここで私たちが持つエージェンシーは、ここで私たちが持つ情報、知識、知性へのアクセスによって拡張されるだけです。
これがそれを置き換えるわけではありません。それはそれなしでは存在できません。そして、リンパ系がすることと同じくらい優れたものを作りたいなら、おそらくテクノロジーと生物学の混合である必要があるでしょう。だからこそ、ニューラリンクの共同創設者が、テクノロジーと生物学の組み合わせであるこのデバイスを作っているのです。
クリップを再生しましょう。このクリップには実際には音声がないので、進行中に少し話をします。これがデバイスで、脳に入るこの小さなジェルパッドがあります。面白いのは、その中にはニューロンがあり、ニューロンはシナプスで分岐して脳内のニューロンやシナプスと接続し、それがAIに接続されるところです。
その小さなデバイスがあなたをAIに接続しています。これらの小さなものが下がってきて、テクノロジーと生物学を組み合わせて脳に接続しています。これが神経インターフェースになるでしょう。正直なところ、これはニューラリンクのやり方よりも優れていると思います。
ニューラリンクも将来このスタイルを採用するかもしれませんが、そこには実際の電極と実際の生物学的基質があります。この男が実現しようとしているのは、ある意味で驚異的な工学的偉業です。だから、これが最も可能性が高いと思いますし、最終的には生物学の大脳皮質自体を拡張することになるでしょう。
そのため、AGIはおそらく来ないでしょう。少なくとも哲学的なバージョンのAGIは。私の定義ではAGIはすでにあると思います。SFではなく、現実的なAGIの定義を持っています。すでにあると思います。O3は初期のAGIのようなものだと思います。本当にそう思います。そして、人々がAGIについて持っていた多くの仮定は単に的外れです。とても的外れです。他にどう言えばいいかわかりません。
でも、はい、私たちはAGIを持っていると思います。O3はAGIです。私たちは加速し続けるでしょう。最後にこの小さなクリップを見せて終わりにします。これは人類が今何をしているかを説明していると思います。人類はこのシステムを見て、「私たちはデータ処理システムを作っていて、それは知的になり、次の種だ」と思っているようです。
実際には、それはコンピュータで常に持っていたようなデータ処理インフラに過ぎません。そして人間は、何も知らないことについて抽象化しているため、この大きな実存的瞬間を持っているのです。
クリップを再生して、またお会いしましょう。これについてどう思いますか？ここでの核心的な議論は何だと思いますか？AGIの開発が人類文明を破壊するという議論でしょうか？まず、あなたは少し手品をしました。AIからAGIに話が移りました。
そこに根本的な違いはありますか？わかりません。AGIとは何ですか？AIとは何ですか？AIは機械学習です。AGIとは何ですか？機械学習の底や天井がどこにあるのかわからないと思います。何かを機械学習や統計、数学や計算と呼ぶだけでは、核兵器が物理学であるように、それが何であるかはわかりません。
機械学習がどこまで進んだかは、私にとって非常に興味深く驚くべきことです。いいえ、でも私たちは核物理学が兵器につながることを知っていました。だからこそ、その時代の科学者たちは常に兵器の開発について大きな論争をしていました。これは違います。AGIは違います。機械学習はどこに通じるのでしょうか？私たちは知っていますか？知りません。
しかし私の指摘は違います。私たちは実際には知りません。しかしこれは手品が入るところであり、科学的なトピックから宗教的なトピックになるところです。だからこそ私はそれを特に指摘しました。なぜなら、彼らは語彙をシフトさせ、突然全く実際には存在しないことについて話し始めるからです。
では、西洋の千年王国説の伝統も定義してもらえますか？はい。世界の終わり。黙示録。黙示録カルト。黙示録カルトです。私たちは西洋でユダヤ・キリスト教、主にキリスト教が飽和した世界に住んでいます。キリスト教後の世俗化されたキリスト教的な世界です。
もちろん、キリスト教の核心は再臨の考え、啓示、イエスの帰還、そして千年間の地上のユートピア、それから携挙などです。私たちは社会として、それをすべて完全に真剣に受け止めているわけではありません。
だから私たちはそれを世俗化したバージョンを作ります。私たちはユートピアを求め続けます。基本的に世界の終わりを探し続けています。そして数十年にわたって見られるのは、世界の終末に関する何らかの理論の周りに形成されるこれらのカルトのパターンです。
ピープルズ・テンプル・カルト、マンソン・カルト、ヘブンズゲート・カルト、デイビッド・カレッシュ・カルト、これらはすべて「文明を崩壊させる何かが起こるだろう」という考えの周りに組織されています。そして特別なエリート集団がそれを予見し、準備する人たちがいます。
そして彼らはそれを止めようとする人たち、またはそれを止めることに失敗した場合は、向こう側に生き残り、最終的に正しかったことを認められる人たちです。なぜそれがそれほど説得力があると思いますか？世俗的になったときに剥ぎ取られた超越と意味への非常に深い欲求を満たすからです。
しかし、なぜ超越に人類文明の破壊が含まれるのでしょうか？どのくらい妥当でしょうか？それは非常に深い心理的なことです。どのくらい妥当なのか、私たちがすべてがまあまあの世界に住んでいるというのはどうでしょうか？それはどれほど興奮するでしょうか？
しかし、それ以上のものです。私が尋ねている深い質問は、すべてがまあまあの世界に住むことが興奮しないのはなぜですか？ほとんどの動物王国は、まあまあというだけで非常に幸せだと思います。それは生存を意味するからです。なぜ私たちは心配する事を想像しているのでしょうか？
C.S.ルイスはそれを神の形をした穴と呼びました。人間の経験、意識、魂、何と呼びたいにせよ、神の形をした穴があり、これすべてよりも大きな何かがあるはずです。超越的な何かがあるはずです。より大きな目的、より大きな意味があるはずです。
私たちは科学と合理性を使い、すべてが見たままであるという実験を行ってきました。多くの人がそれを非常に不足していると感じ、物語を構築してきました。これが20世紀の物語です。共産主義はその一つでした。共産主義はこの一形態でした。ナチズムもその一形態でした。
今でも世界中でこのような動きが展開されているのを見ることができます。あなたは一種の悪魔、一種の悪の源を構築し、その先に超越していくのです。千年王国的なカルトを見ると、それに非常に具体的な点を置きます。それは世界の終わりです。
何らかの変化が来ています。その変化は非常に深遠で重要なので、ユートピアか地獄のような地球につながるでしょう。そしてもしあなたが実際にそれが起こることを知っていたら、どうしますか？どのように準備しますか？同じ考えを持つ人々と集まりますか？
武器を森に隠しますか？地下バンカーを作りますか？人生をかけてそれが起こらないようにする方法を見つけようとしますか？それは非常に説得力があり、興奮させるアイデアです。土曜の夜に集まってビールを飲みながら、世界の終わりについて、そしてあなたたちだけがそれを理解しているという話をするのです。そして一度それに固執すると、どうやって人生で他のことができるでしょうか？これは明らかにあなたがしなければならないことです。
そして、あなたが言及した心理的効果があります。真の信者たちを集めて彼らだけで放っておくと、彼らはより過激になります。彼らはお互いを自己過激化させるのです。とはいえ、時には彼らが正しいこともあります。
世界の終わりは起こるかもしれません。彼らは正しいかもしれません。いくつかのパンフレットを用意しています。つまり、核兵器について話しましょう。あなたのエッセイで学んだ興味深い瞬間がありました。
時には彼らが正しいこともあるかもしれません。私たちはより強力な技術をますます開発しており、人類文明にどのような影響を与えるかわかりません。それがどのようにポジティブになるかについての様々な予測を強調することはできますが、リスクは存在し、あなたはそのいくつかを議論しています。
スティールマン（最も強力な反論）は、スティールマンとその評判は同じであり、何が起こるか予測できないということです。これがすべてを終わらせないとは言い切れません。しかし、その回答は、あなたは完全に非科学的な主張をしたということです。
あなたは宗教的な主張をしたのであり、科学的な主張ではありません。それはどうやって反証されるのでしょうか？定義上、このような主張には反証する方法がありません。あなたはリストに載るだけです。仮説がなく、仮説を検証する方法もなく、仮説を反証する方法もなく、進展を測定する方法もありません。すべてが完全に欠けています。だから科学的ではありません。
完全に欠けているとは思いません。ある程度欠けています。例えば、AIが私たち全員を殺すと言う人々は、通常、それをどうやるかについてのアイデアを持っています。ペーパークリップ最大化装置であれ、AIが逃げ出すにせよ、人間を殺すメカニズムを想像できます。
それを反証するには、知性が増加する速度に限界があると言うことができます。物理的にそれがどのように起こりうるかを厳密に記述するモデルを示し、「いや、ここに物理的限界があり、これらのシステムが実際に人類文明にダメージを与える方法には物理的限界があります。人口の10〜20％を殺す可能性はありますが、99％を殺すことは不可能に思えます」と言うことができます。
実用的な反論があります。あなたが基本的に熱力学的反論と呼ぶものを挙げました。今日ここに座って、悪のAGIはどこからGPUを手に入れるのでしょうか？それらは存在しません。だから、非常に欲求不満な赤ちゃんの悪のAGIが、NVIDIAの株を買おうとしたりするでしょう。
真剣な形の熱力学的議論は、「エネルギーはどこから来るのか？」「プロセッサはどこで動作するのか？」「データセンターはどこにあるのか？」「これがどうやって秘密裏に行われるのか？」というものです。だから、暴走するAGIに対する実用的な反論があります。
私はもっと深い反論を持っています。これはすべて予測です。すべてモデル化です。将来予測です。将来の仮説です。科学ではありません。
カール・ショーンの「並外れた主張には並外れた証拠が必要」という言葉があります。これらは並外れた主張です。それを防ぐために呼びかけられている政策は並外れた規模であり、私はそれが並外れた損害を引き起こすと思います。そしてこれはすべて、文字通り科学的ではないものに基づいて行われています。
検証可能な仮説ではありません。「AIは私たち全員を殺すだろうから、それを禁止するか規制すべきだ」と言った瞬間、それは深刻になります。または「データセンターへの軍事空爆」。おお、そうですね。それが現実になり始めるときです。
しかし、千年王国的なカルトの問題は、暴力を避けるのが難しいということです。暴力は楽しいですから。もし正しい方向であれば。彼らが暴力を避けるのが難しい理由は、もし本当にその主張を信じているなら、世界の終わりを止めるために何をするでしょうか？何でもするでしょう。
そして、これが千年王国的なカルトの歴史を見ると、ジャングルで自殺するピープルズ・テンプル、チャールズ・マンソンが豚を殺すために送り込んだこと、これらが問題です。彼らは実際の暴力で線引きするのが非常に難しいのです。この場合、彼らは今日すでにそれを呼びかけています。
彼らがより興奮するにつれて、ここからどこに行くのかは本当に懸念されます。しかし、それは極端なケースです。何事も極端なケースは常に懸念されます。AIが私たち全員を殺す可能性が非常に高いと信じることも可能です。
そのため、開発を遅らせたり規制したりすることを検討すべきです。暴力やこれらの種類のことではなく、「待って、これは生物兵器や核兵器のような深刻なものだから、注意しよう」と言うのです。
コメント