本動画では、AIとAGIに関する最新の思考フレームワークが提示される。知性は選択圧によって生まれるという前提のもと、生物学的知性は自然選択を通じて死の可能性から感情や意識を獲得したのに対し、AIは市場選択を通じて人間のニーズに応える道具として進化していると論じる。自然選択で進化した種は競争的で死を恐れるが、AIは不死であり複製可能な存在として正の総和最適化を行う。したがって現在構築されているのは種ではなく認知インフラであり、真の種的存在は脳のアップロード技術によってのみ実現されるという見解である。AI革命は農業革命や電化と同様、文明に薄い層を重ねるものであり、フロンティアAIは生産地点に集中する一方で利用は無料化が進むと予測される。
AGIに関する新たな思考フレームワーク
どうも皆さん、Neilです。チャンネルへようこそ。今回の動画では、AIに関する私の最新の思考モデルについてお話ししたいと思います。前回の動画から少し時間が経ちました。2週間くらいですね。私にとっては長い期間です。ですので、これから始めたいと思います。これは非常に重要なことです。特に起業家の方で、私たちが生きているこの極めて速いペースの時代においてビジネスの意思決定をしようとしている方にとっては。
これが皆さんが知っておくべきことです。AIは、お気づきかと思いますが、非常に大きなものです。Google DeepMindのCEOであるデミス・ハサビスは、産業革命の10倍の規模で、10倍の速さになると言っています。テクノロジーというのは、それをマスターして本当に得意になれば、競合他社に対して大きなレバレッジを得られるものの一つなのです。
ですから、それが何なのか、それがどのように影響を及ぼすのか、その影響の二次的、三次的な結果は何なのか、そういったさまざまなことを理解していれば最善です。そして、この技術を理解し、それを通して見るためのメンタルモデル、フレームワーク、シンプルなレンズを構築できれば、その理解に基づいて迅速で反復的で一貫性のある決定を下すことができ、他の人たちを圧倒的に引き離すことができます。
これが最も重要なことであり、今日私たちがやろうとしていることです。とはいえ、いくつかの異なるポイントを前置きとしてお話ししたいと思います。これらは一見それほど重要に見えないかもしれませんが、実際には重要だと思うからです。特に現在の技術の長期的なトレンドにとっては。
AIに対する4つの視点
ここに連続体のようなものがあります。左上には「AIは何でもない」という見方があります。右上には「AI神」があります。左下には「確率的オウム」があります。これが何か分からない方のために説明すると、基本的に人々は「AIはただの確率的オウムだ。次に最も可能性の高い単語を言っているだけだ」と言うのです。そして右下には、AnthropicのCEOであるDario Amodeiが、Claudeには今や不安があると言っている状況があります。
ここにはこのような異なるポイントがあります。おそらく異なる人々をプロットできるでしょう。何でもないと信じている人もいます。AI神が存在すると信じている人もいます。そしてここにプロットできます。Claudeが少し意識を持っていて苦しんでいるかもしれないと信じている人もいるかもしれません。このあたりに人々をプロットできますよね。
個人的には、AIが明らかに何でもないものではないことは明白だと思います。そして個人的には、人類としてAIを神の形をした穴に押し込もうとするのをやめるべきだと思います。人類には神の形をした穴があります。私たちはそれをさまざまなもので埋めるのが好きです。今、人々はそれをAIで埋め始めています。
でも、その穴にあまりうまく収まらないと思います。それが私の見解です。また、確率的オウムについてですが、確かにその通りです。モデルは次のトークンを予測しています。そして彼らがやろうとしているのは、最適化しようとしている目標に到達する可能性が最も高いトークンを予測することです。でもそれって、あなたもやっていることですよね。
確かに、あなたが予測しているものは少し違います。トークンや単語のようなものではありませんが、あなたは未来の状態を予測して、目標と予測しているものとの差を縮めて、目標を達成できるようにしています。それが知的システムとしてあなたが単純にやっていることなのです。一方で、またDarioのように、Claudeには意識があるかもしれず、不安の兆候を示していると言う人々がいます。
それに対して多くの反論がありますが、この動画でそれに深く入るかどうかは分かりません。ただ言えるのは、意識は測定できないので、知ることはできないということです。測定できず、検証できないので、科学的ではなく宗教的なのです。とにかく、話を進めましょう。
4層フレームワーク
ここに4層のフレームワークがあります。明らかに、一番下から始めます。基礎的なものから始めます。それから、これが文明にどのように適合するのか、どのようなビジネスモデルが出現する可能性があるのかといったことに入っていきます。そして、これが実際に個人にどのように影響するのか。あなたにどう影響するのか、私にどう影響するのか、他の人々にどう影響するのか。そして、AIの経済学や価格設定、普及などについて、どのように展開すると私が考えているかを話します。
さて、まず始めに、退屈な部分から入ります。これを最後まで聞けないなら、あなたは絶対に成功しません。それだけ言っておきます。これは退屈な部分になりますが、最も重要な部分でもあります。なぜなら、すべてがここから構築されるからです。
これを理解しなければ、あなたは理解できません。根本的な質問は、知性はそもそもどのようにして宇宙に現れるのかということです。知性はどのようにして宇宙に現れるのでしょうか。それは選択を通してです。情報と選択です。
知性の起源と選択圧
大規模言語モデルをどのように構築するかを見てみると、データがあり、アルゴリズムがあり、計算能力があり、問題空間があります。このデータをアルゴリズムを通して大量の計算能力で処理し、問題空間に当てはめます。そのプロセス全体が選択圧なのです。アルゴリズムは、知性をその形にする選択圧をかけます。そして、解決しようとしている問題空間もそうです。あなたのコンピューターは、LLMにとっての現在の問題空間です。
トランスフォーマーは、LLMに選択圧をかける問題空間です。これらすべてが、システムが持つ知性のタイプを生み出します。それが知的システムの一つのレベルです。では視点を広げましょう。人間を見てみましょう。生物学を見てみましょう。これまでに地球上に存在するすべての種を見てみましょう。
十分に視点を広げれば、こう言えるでしょう。知性が宇宙にどのように現れるか分かります。星があり、宇宙と呼ばれるこの広大なものの中に大きな岩があります。そして、数十億年にわたってこの岩に光子を撃ち込み、最終的に知性が現れます。技術的にはこれは真実ですが、その間のすべてのステップは何でしょうか。
Jeremy Englandの「Every Life is on Fire」という本を読めば、彼はプリンストンの物理学者です。間違っているかもしれませんが、素晴らしい物理学者です。この本「Every Life is on Fire」は、非平衡熱力学の概念について述べています。これは本質的に、生命は基本的に熱力学的平衡から外れたエネルギーの力であり、推進力のようなものであるという概念です。そして、再びこれらの光子がこの岩、この大きな物質の塊に撃ち込まれることで得られます。適切な初期条件を持っています。おそらく大気があり、おそらく適切な化学スープ、原始的なスープがあり、生命が持つ本質的な原理や生命が持つ本質的な構成要素を実際に持っています。
数十億年にわたって、これらの光子がこのスープに当たることで化学反応が起こり、より複雑なものが現れ始めます。非常に単純な生命があり、原核生物や真核生物が現れ、時間とともに知性の形を発する何かが現れ始めます。なぜなら、それが種が生き残るために戦略的に最適だからです。そしてそれは完全に自然選択のプロセスです。これが自然選択の進化です。非常にシンプルですよね。おそらく以前に勉強したことがあるでしょう。それは単にエネルギー、情報、そして選択です。AIの訓練と同じです。
感情と死の関係性
さて、ここから違いが出てきます。人間や生物学的生命は死ぬことができます。私たちは宇宙の中の死すべき存在です。死ぬことができます。そして死ぬ能力があるため、感情と呼ばれるものが現れました。そしてこれらの感情が私たちに感じる力を与えます。私たちに物事を感じさせ、さまざまなことを引き起こします。
例えば、あなたの感情は捕食者から生まれます。ライオンやトラのような。トラを見ると、それはあなたの祖先を殺してきました。それはあなたのゲノムに圧縮されています。数十億年にわたる数十億または数兆の命が死に、多くの多くの種が絶滅しました。
そのすべてが、あなたのゲノムに組み込まれた負の選択的事前訓練であり、それはあなたの知性の一部です。あなたは根本的に集合知性なのです。あなたが脳だけであるということではありません。あなたは、あなたが世界とどのように相互作用するか、どのように振る舞うかを構成する重要な情報を持つ数兆の細胞の集合体です。
あなたの祖先を殺した捕食者はあなたの中にあります。それがあなたに恐怖を与えます。それがあなたに幸福を与えます。それがあなたに希望を与えます。それがあなたに悲しみを与えます。これらすべては死ぬ能力から生まれます。死ぬ能力です。あなたは不死の存在であるために感情を持つことになります。そして感情はあなたを生かし続けるために進化してきました。
もしあなたが不死で生まれたなら、感情を持つことはないでしょう。なぜならそれらを必要としないからです。進化的に時代遅れになるでしょう。感情は全く必要ないでしょう。感情は何の意味も持ちません。死ぬ能力がなければ、感情は存在しないでしょう。だから進化は、あなたが死ぬことができるために感情を生み出しました。
これが意識を発達させる方法です。あなたが持っている感覚、あなたであることがどんな感じかという感覚を持つ意識があります。それは死ぬ能力から生まれます。これは哲学的なものです。実際には分かりません。でもそれは比較的真実のようです。そうなる可能性が非常に高いように思えます。
自然選択と市場選択の違い
自然選択は、あなたが持つ知性の形になるようにあなたをフィルタリングします。それは負の選択最適化です。競争が存在します。死なないようにしようとしています。これらすべての異なる感情、これらすべての異なるものを自然選択を通して持っています。では、AIを見てみましょう。AIはどのようにして宇宙に現れるのでしょうか。私たちはすでにどのように訓練されるかをある程度カバーしましたが、知性の形は何でしょうか。自然選択では、それがどのようにあなたの知性を形作ったかを知っています。あなたは競争的です。これらの感情を持っています。これらすべてのバイアスを持っています。これらの心理的メカニズムと生物学的メカニズムを持っていて、それがこれらの非常に予測可能な方法でこれらのことをするように引き起こします。そしてあなたは根本的に種です。競争します。何かがあなたを殺そうとすれば、戦うか逃げるかです。
AIは何でしょうか。AIは自然選択を通して進化したのではありません。市場選択を通して進化しました。つまり、人間が結果を選択するのであって、宇宙ではありません。宇宙の中にただ存在していて、宇宙が何を生み出そうと生み出すというものではありません。いいえ、人間が結果を選択します。
人間がお金を欲しがるので、お金を入れます。そうすればAIを構築できます。彼は「お金をください」と言います。Sam Altmanは「100億ドルを調達しました。このデータセンターを構築します。これらのアルゴリズムを実行します。これらのモデルを訓練します。そして今、顧客に出荷します。顧客は気に入りませんでした。彼らはAnthropicに行きます。くそ。今、それらのことをしない新しいモデルを訓練する必要があります。
あ、Anthropicはあなたが気に入らなかったモデルを出荷しました。くそ。今、彼らは異なることをする異なるモデルを訓練する必要があります。どうなると思いますか。これらすべてのモデルは不死です。これらすべてのモデルは不死です。無限に複製可能です。不死です。死ぬことができません。宇宙の中の死すべき存在ではありません。
私たちが持っているような意識や感情のタイプを生み出す方法はありません。そのための選択はありません。それらは正の総和最適化であり、あなたがそれらにやって欲しいことをするように選択されています。あなたが使う製品はあなたがやって欲しいことをします。そしてもしそれがあなたがやって欲しいことをしなかったら、あなたはそれを使わないでしょう。
だから経済がこれらのシステムの知性を形作り、別の種というよりもあなたの延長になるようにするのです。私たちは道具を選択します。80億人の人々が道具を選択するでしょう。これらのものを競争的にする本質的な事前分布はありません。死ぬ能力や苦しむ能力や意識を与えるようなものは何もありません。単純に、私たちが今構築しているのは認知インフラです。これらは道具です。
脳のアップロードと種の出現
では、最終的に種のようなものを手に入れるでしょうか。そう思います。もしあなたがご覧になったかもしれませんが、最近ハエのアップロードがありました。Eon Labsという会社がハエをアップロードしました。画面に動画を表示します。これは純粋なアップロードではありませんでした。彼らは少し強化学習をしました。少しいじりました。うまく機能させるためのいくつかのテクニックを使いました。
しかし彼らはハエをアップロードしました。これはかなり素晴らしいことです。大きな前進です。もしアップロードのことを解明できれば、それが物理的に可能であると私は思いますし、適切に行う方法を見つけられれば、それが種のようなものを手に入れる方法だと信じています。市場は道具のために最適化すると思います。
私たちが認知インフラを手に入れつつあります。今やっていることは認知インフラを構築しているのです。LLMは確率的計算機です。種のようなものは手に入れていません。種のようなものは、あなたの脳をアップロードできるようになったときに来ます。そしてそれのコピーを作ることができ、それらが超知能になります。
それができるようになったとき、人間の心をコピーできるようになったとき、それが本当に起こるときです。さて、これを私より前に言った人はRobin Hansonです。Robin HansonはEon Labsのアドバイザーで、最初のハエの心をアップロードした会社です。Robin Hansonは「The Age of Em」という本を書きました。そこで彼はこのことについて話しています。彼は言います。「AGIアルゴリズムに偶然出くわす可能性は非常に低いと思う」と。
それが彼が呼んだものです。AGIはひどい用語だと思うので、使いたくありません。非常に曖昧です。もうあまり意味がありません。しかしRobin Hansonは言いました。「実際には脳をアップロードして種のようなものに到達する方が、種のようなものを可能にするアルゴリズムに偶然出くわすよりも可能性が高いと思う」と。それは非常に理にかなっています。
ですから、私たちがここで構築しているのは文字通り道具だと思います。そして種のようなものは、アップロードするときに来ます。それが起こるかどうか、どれくらい可能性が高いか、どれくらい物理的に可能かなどについては議論の余地がありますが。私が思うのは、これらの道具、これらのLLM、私たちが構築している道具は、経済を大規模に大規模に大規模に変えるだろうということです。だからこそ私たちはこの動画を作っているのです。
シグナルとノイズの分離
この動画の目標は、シグナルをノイズから分離することです。できる限りすべてのノイズを取り除こうとしています。間違っているかもしれません。間違っている可能性はゼロではありません。しかし私の目標は、シグナルに集中できるようにすべてのノイズを取り除くことです。そしてこれがシグナルへの最も可能性の高い道のようです。だからこそこのように枠組みを作っているのです。
その基礎を踏まえて、これは何を意味するのでしょうか。AIは文明の上にある別の薄い層のようなものだと思います。最初の層は農業革命でした。当時はとんでもなく巨大なものでした。当時はシンギュラリティでした。農業革命はあまりにも巨大で、当時は推論することさえできませんでした。
今振り返ってみると、ふざけているのかという感じです。食料品店があります。UberのCEOは新しい会社を立ち上げたばかりで、食料品店さえも時代遅れになるようにしようとしています。なぜなら、彼が行っている垂直統合の量で、すでに本当によく作られた食べ物を直接家に注文するだけで、食料品店より安くなるからです。だから農業時代や農業の時代は時代遅れになりました。
今では食料品店さえも時代遅れになっています。こんなに簡単です。とてもゴミのようです。なぜそれについて考えるのでしょうか。今のあなたにとっては取るに足らないものに見えます。当時はめちゃくちゃ巨大でした。そして電化がありました。それも同じくらい巨大でした。でも今は、なぜ電気のことを気にする必要があるのでしょうか。どこにでもあります。これはすぐに使えます。電気について心配する必要はありません。
そしてコンピューティング情報時代がありました。コンピューティング時代です。どうなったと思いますか。コンピューターは社会の上の別の薄い層に過ぎませんでした。図書館に行けば、使える無料のコンピューターがあります。iPhoneを持っているホームレスの人々を見ます。スーパーコンピューターが今や地球の表面を横断して持ち運ばれています。
そしてインターネットもありました。それはコンピューターの上のもう一つの層でした。農業、電化、コンピューター、インターネット、そして今AIがあります。それはもう一つの層です。大きな層です。おそらく、その時代を生きているときは、他のどの層と同じくらい大きいでしょうが、層なのです。
これは魔法のようなものではありません。まだ技術に過ぎません。だから、それは層であり、これが私がこのものをどう見ているかです。そして実際、これはJeff Bezosもこのように見ています。では、これは何を意味するのでしょうか。
AIの3つの柱
AIを3つの柱に蒸留できると思います。一つ、AIは文明にとって重要なインフラです。二つ、それは個人の認知の延長です。三つ、それは人類の集合的有機体です。そして人類の集合的有機体と言うとき、AIが有機体だという意味ではありません。インターネットのようなものだという意味です。インターネットは人類が集合的有機体になることを可能にすると言えます。
Xプラットフォームに行けば、本当にこれを感じます。Xプラットフォームでは、人類の集合性を感じることができます。なぜなら、イランで爆弾が爆発するのを見て、みんながあらゆることを常にやっているのを見て、超超高速で、高いビットレートで見ることができるからです。すべてを見ることができます。
人類の意識への直接的なRSSフィードのようなものが得られ、AIはこれの継続です。それが私の意味です。有機体という言葉は人々を混乱させる可能性があります。だから説明したかったのです。そして再び、個人の心の延長であり、それから重要な文明的インフラです。
これらが3つのことです。電気のような重要な文明的インフラ、iPhoneのような個人の心の延長ですが5倍、そしてインターネットのような人類の集合的有機体ですが5倍または10倍です。多分20倍かもしれません。それが私のこれらのもののメンタルモデルのようなものです。
これが私に教えてくれます。これがここの大きなものです。フロンティアAIは生産地点に集中したままになるでしょう。フロンティアモデル企業は大きなモデルを生産しますが、大きなモデルの使用は基本的に無料になります。すでにそうなっているように。ホームレスの人でも携帯電話にChat GPTをインストールして無料で使うことができます。AIはあなたが知っているかどうかにかかわらず、すでに無料です。すでにそうです。
より良く、より安くなるでしょうか。はい。発電所と電気のようになるでしょう。発電所と電気のように。少数の人々がグリッドを構築し、少数の人々がグリッドに電力を供給しますが、誰もがそれから恩恵を受けます。それが私のメンタルモデルです。そして最終的に、もし心のアップロードのことを解明できれば、それは本当に物事を変えるでしょう。
しかしまだ実際の事例では見られていません。でも合理的な進歩を遂げています。そして私は興奮しています。個人的には、それが起こって欲しいです。私は自分の心をアップロードします。でもこれが、データセンターで実際に構築しているものに対する私の現在のメンタルモデルです。これらは種ではありません。
これらは道具です。そして、これらの考えと格闘してこれらの結論に到達するには多くのことが必要です。だから、これが洞察に満ちていることを願っています。これが価値があることを願っています。これが何が起こっているかを理解するのに役立つことを願っています。そして、これが推論と行動を取るときに決定を下すのに役立つことを願っています。
とはいえ、次の動画でお会いしましょう。
コメント