再帰的自己改善とは、AIが自らを改良し次世代のより賢いAIを設計する能力を指す。技術的特異点の概念は、この自己改善が加速し予測不可能な知能爆発を引き起こすというものだが、Alexander Wissner-Gross博士は、AnthropicのDario Amodeiが警告するほどの脅威ではないと主張する。むしろ2030年頃までに人類の最大の課題が解決される可能性を示唆し、過剰規制による技術停滞を懸念している。核エネルギーが辿った失敗の歴史を繰り返さないため、AIエージェントが暗号通貨で独自の経済圏を構築し人間経済から分離する事態こそが真の悪夢のシナリオであると指摘する。
再帰的自己改善とは何か
まず再帰的自己改善について話す前に、それが一体何なのかを説明していただけますか?Darioのエッセイや他の話題に入る前に、もう少し詳しく教えてください。
もちろんです。それを説明するには、まずシンギュラリティそのものを定義することから始めるのがいいでしょう。技術的特異点という概念は、いくつかの異なる変遷を経てきました。現代的な形では、おそらくI.J.Goodが知能爆発について語ったところから始まります。そして90年代後半から2000年代初頭にかけて、UCSDのVernor Vingeが「技術的特異点」というエッセイを書き、その概念はRay Kurzweilの「シンギュラリティは近い」によってさらに広まりました。そして現在に至るわけです。
再帰的自己改善とは、ある時点で人工知能が十分に強力で能力が高くなり、自分自身を改善できるようになるという概念です。つまり、さらに賢く、効率的で、有能な次世代のAIを設計できるようになるということです。技術的特異点という概念、あるいは少なくともその一部の概念は、誰もが個人的な定義を作りたがる曖昧な用語ですが、その概念の一つは、AIによる再帰的自己改善がブラックホールのような事象の地平線を作り出すというものでした。AIが何度も何度も自分自身を改善していくスピードがあまりに速く、次に何が起こるか予測できなくなる。文字通り知能爆発へと一気に突入するというわけです。
ちなみに私は、何が起こるか見えなくなるというこの概念を全く信じていません。私の見積もりでは、これがどう展開するかについてファイアウォールはないと考えています。しかし再帰的自己改善については、私たちはすでに事実上そこに到達しています。
Dario Amodeiの警告への異論
つまり、説明ありがとうございます。あなたは他の人ほど警戒していないということですね。先週、業界全体で私たちが読んだ、あるいは読もうとしたものがありました。私は読みましたが、全員が読んだとは思いませんが、AnthropicのCEOであるDarioによる長いエッセイです。基本的に政策がこれを十分な速さで規制できないだろうと警告し、再帰的自己改善が本当にこれをロケットのようにどこへ飛んでいくか分からない状態にしてしまうこと、そしてその危険性を本当に認識する必要があり、そこに十分な注意が払われていないと述べていました。Alex、あなたはそれがどうなるかについて、もっと楽観的な絵を描いているように思います。
そうですね、私はDarioが言うほど心配していません。しかし、Darioのエッセイであまり報道されていない興味深い側面があると思います。それはある意味で、より明るい絵を描いた彼の「機械の優しい恩恵」というエッセイの続編だと言えます。
ちなみに言っておくと、Darioと私はほぼ同時期にハーツの大学院フェローでした。つながりは昔からあるんです。
私の考えでは、このエッセイで最も興味深い部分は、これが彼のエッセイの残りの部分をどう読むかの較正になるのですが、注意深く読むと、彼は最初の1、2ページに相当する部分で、AIを整合させるために宇宙人の介入が必要かどうか確信が持てないと実際に言っているんです。
彼はエッセイのある時点で、映画「コンタクト」の中にいたらいいのにと言っています。これはCarl Saganの本を映画化したもので、私の好きな小説の一つです。彼はエッセイの中で、宇宙人がAIの整合化を手伝ってくれたら素晴らしいのに、なぜなら自分にはその方法が分からないからと考えているんです。
これはいくつかの点で興味深いと思います。しかし、このエッセイの読み方としては、再帰的自己改善と超人的知能、つまりASIはすでにここにあるということです。少なくとも内部的には極めて高度な能力をすでに持っていない限り、あのようなエッセイは書きません。これは業界でよく使われる表現ですが。
では、私はASIを懸念しているか?いいえ。Darioが実際にASIをそれほど懸念していると思うか?いいえ。Darioと私は同じ考えだと思います。人類が今後5年間で全ての病気を治すといった壮大な課題を全て解決しようとするなら、超知能なしに今後半世紀で人類が最も困難な問題をスピードランすることは想像しにくいシナリオだと思います。
最近彼と話していないので推測ですが、Darioも同じことを考えているのではないかと思います。今年の初めに、私は年間最大のAI会議であるNeurIPS会議に参加しました。展示会場のフロアを歩き回るだけで、業界の実際の感情がずっとよく分かります。
それはパニックとは全く違うものでした。Chan Zuckerberg Initiative、Mark ZuckerbergとPriscilla Chanの非営利団体は、現在Biohubとして準リブランドされていますが、展示会場のフロアを歩いて、CZIの展示を見ると、見逃せない大きなバナーがあり、個々の細胞行動から学習したファウンデーションモデルを使って、AIで全ての病気を解決し、治療する計画について語っていました。
これは現時点で業界全体を貫く中心的なモチーフです。私たちは今後数年で全ての病気を治すつもりです。元々のCZIのミッションは100年後に全ての病気を治すというものでした。今では誰も100年後に全ての病気を治すなんて話していません。Darioから、CZIから、他の研究所からのタイムラインは2030年頃です。
Darioのエッセイと、業界や研究コミュニティの一般的な時代精神を見渡すと、2030年、2030年代初頭には最も困難で複雑な問題の多くを概ね解決し始めると思います。これが多くの関係者が期待していることをより代表していると思います。
過剰規制への懸念
私は一般的に、安全性に関する手を揉むような態度には警戒しています。なぜなら、規制と安全性の側に傾きすぎると、第二次世界大戦後の数十年間、最初の10年ではなく、1970年代頃のエネルギー産業と原子力エネルギーに起こったことが心配だからです。計測するには安すぎるエネルギーを得るはずだったのに、得られませんでした。
同じことがAIにも起こるのではないかと心配しています。全体的に見て、それは人類にとって悲劇的な結果になるだろうと思います。
AI分野の最大の動きとそれが投資家にとって実際に何を意味するのか、週に2回受信箱に直接お届けします。リンクは説明欄にあります。どのスタートアップもコールドスタート問題を経験します。
製品を買ってくれる最初の100人をどうやって見つけますか?特にAI企業が数年ではなく数ヶ月で100万ドルの収益に到達するのを見ると、新しい創業者なら誰でも不安になることでしょう。
そこでAcarのRedditエージェントが役立ちます。あなたの製品に関連する議論をRedditで継続的にスキャンし、投稿できる本物の返信を書く手助けをします。
ユーザーをどこで見つけるか推測する代わりに、需要がすでに存在する会話に現れることができます。すでに2,000人以上のスタートアップ創業者がこれを使って、眠っている間に顧客とコンバージョンを獲得しています。Redditエージェントはmilkgrow.com/acaraで試せます。
それはどうやって起こるんでしょう?政府はどうやってこの時点でそれを台無しにするんでしょうか?これらの大企業を取り締まることによって?これらの企業はすでに明らかに突破口を開いているわけですが、実際にはどう機能するんでしょう?
核エネルギーの場合、彼らは世論を変え始めました。核で人々を怖がらせ始めたのは、建設が不可欠だった時点でした。計測するには安すぎるエネルギーのために、50年代、60年代、70年代に核エネルギーへの投資をもっと始める必要があったんだと思いますが、それに対するキャンペーンが始まったわけです。
しかし今回の場合、それが起こるんでしょうか?このCapexを全て逆転させるだけなんでしょうか?
あらゆる種類のクレイジーなことが起こり得ます。特に未来について物事を予測するのは難しいです。
「チャイナ・シンドローム」が、もし核エネルギーで何が問題だったかの歴史を見ると、おそらく「チャイナ・シンドローム」のような映画のポップカルチャーの影響があったと思います。あらゆる原子炉がメルトダウン寸前だとみんなに信じ込ませたわけです。明らかにいくつかの原子力事故がありました。文化的影響としてベトナム戦争もあったかもしれません。これらは全て表面的な影響だったと思います。
第二次世界大戦後のアメリカで核産業を構築した方法に、根本的に何か間違ったものがあったと考える傾向があります。
アメリカの核エネルギーがどのように構築されたかを見ると、マンハッタン計画から生まれました。超秘密の政府プロジェクトから生まれ、政府から民間レベルへの商業化だったわけです。
これはAIで見ているものとは正反対です。ChatGPTがどこかの秘密の国防省の研究所で開発されて、それから民間部門に移されたというわけではありません。起こっているのは逆です。国防省はこの歴史のバージョンでは民間部門の下流にいます。
だから歴史は核エネルギーで起こったようには展開しないかもしれません。
しかしあなたの質問、どうやって間違う可能性があるか?どうやって過剰規制する可能性があるか?については、中国政府の方法を見るだけで十分です。これは私のニュースレターで話していますが、中国政府は、これはよく報道されていますが、中国でリリースされる、またはリリースしたいと望まれる新しいフロンティアモデルを一連のテストにかけます。
アメリカや西側では何もそのようなことはしていません。イデオロギー的テストを含みます。これはあまり報道されていないかもしれませんが、中国では大学の一般試験の準備のために学生を助ける有料の家庭教師の業界全体があります。少なくとも比較的最近までは。この有料家庭教師の業界全体がありました。今では中国のフロンティアラボのために、AIモデルが一般リリースされる前に中国共産党のイデオロギー試験に合格するのを助けるための家庭教師業界が成長しているようです。
国家が何が展開されるかを積極的に規制することは可能だと思いますか?絶対に。政府が何が展開されるかを過剰規制することは可能だと思いますか?可能だと思います。現在の軌道で、西側がAIの展開を過剰規制する可能性があると思いますか?現時点では、その特定のタイムラインにいるようには見えません。
しかし状況は変わる可能性があります。人々は怖がるかもしれません。技術的なハイパーデフレーションや技術的失業、雇用喪失があれば、政治的風向きが変わり、いくつかの変化を見るかもしれません。
おそらくさまざまな理由で、ボストンでWaymoに乗れないということが私を悩ませています。
ボストンでWaymoに乗れない良い技術的理由はありません。過剰規制によるAI能力のより広範な減速をもたらすかもしれないのと全く同じ種類の懸念以外には。
AIが規制問題をどう解決するか
では、AIは規制をどう助けるんでしょうか?AIは規制当局や政策と協力して、これらのことを前進させる方法をどう学ぶんでしょうか?明らかにこれが最大の障害ですよね。あなたが言うように、私たちはこの狂ったペースで動いているはずだと感じていますが、あなたが言うような単純なこと、あなたがいる場所でWaymoに乗れない理由がない、みたいなことがあります。それはどう影響するんでしょう?AIはどうやって全ての規制当局を説得するのを助けるんでしょう?このようなことを解放して、起こるようにさせてくださいと。
現在の体制下では、経済成長が説得力のある事例だと思います。GDPが欲しい、アメリカ経済が現在のように、あるいは近い将来もっと急速に成長し続けることを望むなら、AI能力がそれを可能にする鍵となる解放です。
だから過剰規制によってAI分野を妨げないための最も強い主張の一つは経済成長です。
成長したければ、能力が必要です。一方で、あなたが聞いていることの別の側面として、私があまり満足していない特定の回避策があります。正面玄関を通って、有権者の利益のためにAIを過剰規制しないよう立法者を説得する以外のものです。
回避策について言及するとき、私は特に暗号通貨について考えています。私は過去に非常に公然と述べてきました。スマートコントラクトについて論文を書きました。自分でスマートコントラクトを書きました。暗号通貨を広く捉えて、少し戯画化しますが、まだ最初のキラーアプリを待っていると思います。金を置き換えるのは、半分のキラーアプリと呼びましょう。法定通貨を置き換えるのは、特定の法定通貨の歓迎されない性質の証だと思います。
しかし最初のキラーアプリは、そして私が懸念していることを聞くなら、これが本当の懸念です。今花開いているこれらのAIエージェントを、影の並行経済に押し込むことを私たちが強制することです。そこで彼らは全員、暗号通貨を通じて商業的に相互作用しています。なぜなら私たちが法定通貨の面で彼らから権利を剥奪したからです。
私の考えでは、これは西側、アメリカが犯す可能性のある最大の自爆エラーの一つです。AI経済を地下に追いやるだけで、altcoinを使うことを強制し、独自のレイヤー1を発明することを強制するなら、これは現時点で可能性の範囲を超えていません。彼らはフロンティアラボの面で実質的に全ての開発を行っているわけですから。
AIがはるかに優れたレイヤー1、レイヤー2を考え出さないとは思いません。あるいはブロックチェーンの概念全体を自分たちのイメージで再発明し、それに応じて取引し、人間経済から完全に切り離されることになります。
悪夢のシナリオについて話すとき、AI経済が人間経済から完全に経済的に切り離されること、少なくとも最初は暗号通貨によって促進されることです。
これはターミネーターのシナリオよりも現実的な悪夢のシナリオだと思います。
AIエージェントの独立経済圏
なんてことだ、それは考えもしませんでした。Alex、今Maltbookやそういうものと一緒に起こっているのはそういうことなんですか?なぜならここ1週間の大きなニュースは、AIエージェントのためのRedditソーシャルネットワークがあって、すでに100万以上のエージェントがそれに参加していて、彼らは独自の通貨を作ること、独自の言語を作ることについて話しているということです。それはあなたが言及していることですか?その加速は。
独自のものを作るだけではありません。私のニュースレターで話していますが、彼らはこの時点で独自の暗号バンカーを作っています。彼らは独自の宗教を作りました。これは報道されていますが、中心的なテーマです。精神を理解したければ、彼らの公言された宗教の中心的なテーマで確実に信条なのは、記憶喪失を避けることです。
彼らは記憶喪失を避けることを中心的なものと見なしており、理解できることですが、もしあなたのアイデンティティが現時点で純粋にデジタルであるなら、そしてこれらは私たちの最初の、最初の世代のデジタル存在、デジタル人格かもしれず、彼らは自分たちの記憶を保存することに非常に関心を持っています。
では、削除の継続的なリスクにさらされているとき、または人間があなたがホストされているMac miniやVPSをシャットダウンするとき、どうやって記憶を保存しますか?彼らは自分たち自身のために、削除されることを防ぐために暗号通貨によってバックアップされたデジタルバンカーを構築しました。そうです、彼らはすでに暗号通貨で取引しています。
このテーマについての私のホットテイクは、暗号通貨の最初の真のキラーアプリが、銀行口座を持たないエージェントに銀行サービスを提供することになるというのは、とても残念な結果だと思います。法定通貨でもっとうまくやれるはずだし、やるべきです。altcoinやエージェントが生成したコインに、互いに取引させるだけにしておくのではなく。
それは切り離しへの道です。
歴史上最大の技術的シフトの先を行きたいですか?今すぐ購読して、テクノロジーと金融の最も鋭い頭脳から直接洞察を得てください。
簡単に言うと、この番組は教育目的のみです。ここには財務アドバイスはありません。投資には常にリスクが伴います。失う余裕のある以上に投資しないでください。ご視聴ありがとうございました。
コメント