AI NEWS: OpenAIとxAIがAGI競争に火をつけ、AIが意識を検出しGoogleの「AIマネー」

この動画では、AI業界における最新の競争激化について詳細に解説している。OpenAIとxAIによるAGI開発競争、AI技術がADHD患者に与える予想以上の恩恵、意識検出技術の進歩、Googleの新しいエージェント決済システムなどが主要なトピックである。特に注目すべきは、サム・アルトマンやイーロン・マスクが発表した膨大な規模のコンピュート投資計画で、これらは単なる株価操作ではなく、真のAGI実現に向けた本格的な取り組みであることが議論されている。

AI NEWS: OpenAI and xAI spark the AGI race, AI detects consciousness and Google's "AI Money"

The latest AI News. Learn about LLMs, Gen AI and get ready for the rollout of AGI. Wes Roth covers the latest happenings...

www.youtube.com

初回ポッドキャスト形式での議論開始

私たちの初回ポッドキャストへようこそ。実際には何と呼べばいいのかわからないが、これまでにもいくつかポッドキャストをやってきた。これは2回目のインタビューのようなものだが、最新のニュースイベントについてもう少しインフォーマルな設定で話すつもりだ。みなさんがどう思うか教えてほしい。

というのも、いつものように動画で紹介したり、人々にインタビューする厳格な形式ではなく、時にはこういったことについて単純にチャットするのもいいと思うからだ。現在OpenAI、Nvidia、イーロン・マスクに関して多くの発展があり、AGI競争が今日本当に激化しているようだ。

AGI競争の激化とコンピュート規模の拡大

イーロンとサム・アルトマンの両者が、彼らが構築を計画しているコンピュートの規模について非常に驚くべき発表を行った。サム・アルトマンは、彼はこの言葉を使わなかったが、マシンを作るマシンについて話している。これについて話そう。というのも、これは本当に巨大なものになりそうだからだ。その規模は絶対に信じられないほどだ。

まず良いニュースから始めよう。ディラン、君が番組で発見したようだが、どうやらChatGPTとAIから本当に恩恵を受けている人々のグループが一つあるそうで、それを聞けて非常に嬉しい。

そうだね、そこから始めよう。今週は競争がどれほど激しいかで本当に熱い状況だと言える。常に数十億、数百億の数字のゲームだったが、最近では全世界が偏執的になり、各国がただあらゆることをやっているような感じだ。それについて詳しく話すが、その前に、ADHDを持つ人々にとっての良いニュースがある。これは人口のますます多くの部分を占めているようだが、ChatGPTやこれらのLLMが彼らに予想以上に不釣り合いに多くの恩恵を与えていることがわかった。

ADHDとAI技術の関係

平均的な労働者にとってLLMが素晴らしいのと同様に、新しい研究により、神経定型でない人々にとって、それは生産性を高め、整理整頓し、他の従業員とコミュニケーションを取るためのより多くのツールを与えており、彼らの満足度がかなり向上していることがわかっている。

私もこれを証明できる。人生の後半でADHDと診断された。君もそうだったよね。ああ、そうだった。私がインタビューの半分で質問に答えている途中で何の質問に答えているかを忘れてしまうという事実が明らかでないことを嬉しく思う。

知っている者同士だからね。私は子供の頃に診断された。20歳の時に初めてアデラルを処方され、10年以上服用していたが、数年前に急にやめた。それ以来、私の人生ははるかに乱雑になっている。まだ人生は好きだが、同じではない。

興味深いが、大きな困難な移行ではなかった。少し乱雑になっただけだった。いや、それはかなり大きな困難な移行だった。やめることさえも。なぜこれがそんなにクレイジーなのかわからないが、本当に全く違う人格のようなものを持っていた。私はコーディングをし、統計的問題に取り組んでいた。Zapposで10年間、よりテクニカルな仕事をしていた。スタートアップでも働いていた。

そこに座ってPythonを学び、アプリを構築することに興奮し、焦点を当てる種類の集中力は、今の私の脳とは非常に異なっている。関数がどのように構築され、変数がループからループへとどのように変化していくかを追跡することに、そこまで座って気にかけることができない。だからそれは違う世界だ。これは幸せになるためにそれに合わせて遊ぶ必要のない世界だと思うが、違いはある。本当に生産的ではない。言うのは嫌だが。

歴史的観点からのADHD理解

興味深い本が一冊ある。「Blitzed」と呼ばれる本で、著者が最近大きなポッドキャストに出演したようだ。第二次世界大戦のドイツについてで、どうやら高級指揮官の多くがblitzedな状態だったようだ。ドイツの高級指揮官の多くがADHD薬の背後にある化学物質を使用していたようで、なぜそのような下流効果があったのかについて話している。

その本について聞いたことがあると思う。読んでみたい。面白そうだ。ピーター・ティールが推薦したのだったか。数年前に誰かがこれについて言及したような気がする。ジョー・ローガンが昔から何度も言及していたと思う。ヒトラーが前後に揺れているシーンなどで、彼はいつも奇妙なことをしており、なぜなのか疑問に思っていた。この本がその多くを説明しているようだ。まだ読んでいないが、いくつかの問題や起こっていたことについて詳しく書かれているようだ。

AI技術による認知負荷軽減

神経非定型の人々は、社会化し機能するために頭の中に保持しなければならない認知負荷が大幅に軽減されると言っている。特に書き込み、組織化、会議、コミュニケーションを含むタスクにおいてだ。創造性に関しては、ADHDを持つ人々が最も得意とすること、つまり型にとらわれずに考え、新しいアイデアを見つけ、組織者というよりも会社内のR&Dのような存在になる時間を与えてくれる。

私にとって、適切な薬を得た時に社会不安は確実に減少した。会話についていこうとしたり、遅れをとっているような感じがしなくなったからだ。すべての会話で存在感を感じ、その不安が溶けて、どの会話でも存在感を感じる。心が他の場所にない。

短い形式のメディアについて、よく捕まってしまうか、それとも注意深く避けているか。私は非常に注意深い。TikTokのようなものには触れない。特に夜遅くや夕方遅い時間帯には触れない。3時間も経って昏睡状態から目覚めて「何をしているんだ」と思ったことがある。

しばらく待っていたが、今は短い形式のメディアに捕まってしまい、その後非常に気分が悪くなる。30分、45分、時には1時間後に自分を捕まえて、「いや、それは昔の君ディランではない。そんなに時間を無駄にしなかっただろう」と思う。

それは興味深い。全く違うものだ。私の理解では、昔のハンター遺伝子のようなもののようだ。基本的に新奇性を求め、新しい刺激を欲し、同じ古いものに飽きるというものだ。狩猟採集社会を想像してみると、みんながバスケットを編んでいて、みんながバスケット編みに満足しており、前の世代からバスケット編みを教わっている。そして一人か二人、「これはできない。3つのバスケットを作った。もう終わりだ。ジャングルに逃げ込む」という人がいる。しかし彼らは何か新しい、斬新なものを見つけるかもしれない。スリルを求めるのではなく、繰り返しに早く飽きる新奇性を求める遺伝子だ。

テック企業による注意力の搾取

テック企業に食い物にされていると感じるか。彼らがこれを理解し、利用し、使用していると感じるか、それとも単にビデオゲームは楽しいものであり、私たちは責任を持ってこれらのものから離れておく必要がある人々であり、それは自由市場だと感じるか。

私はその側面については問題ない。コンピュータ画面と相互作用しようとしている時のポップアップや様々な邪魔については嫌悪感を抱いている。コンピュータ画面と相互作用している時は非常に速く動く傾向があるからだ。フローに集中するために速く動くというトリックを学んだのだろう。そのため、気を散らすポップアップや画面上の愚かなものがある場合、それは私のフローから外れる傾向がある。そのようなものが現れると、私が思うべきよりも怒る傾向がある。

クーポンを手に入れる、ここにメールを入力するといった小さなもののことか。それは君を狂わせる。または特に、Appleを使わない理由の一つは、何かにサインしたり、何かにログインする必要がある場合、それが画面の下で揺れて、数秒ごとに揺れ続けるからだ。中国の水拷問のようで、クリックしたら何かに同意しなければならない。単にノーと言うことはできない。

地政学的なAI競争の激化

とにかく、話が脱線したが、競争が激化していることについて話そう。最近地政学的になったような感じがする。トランプがイーロン・マスクを除くすべてのテック界の巨人、Apple、MicrosoftのCEOたちをヨーロッパ中でパレードしているような感じがする。

また、中国のニュースを見ていると、彼らは今フルスピードで自国にとってそれがいかに重要かを推し進めている。株価は狂ったように上がっている。エリソンがイーロン・マスクより数時間だけ金持ちになった。なぜなら、OpenAIとサム・アルトマンのためのサーバー構築に非常に多くのお金が注がれており、それはすべてOracleを通じてAI用だからだ。

OpenAIとMicrosoft、そして誰もがこのエコシステムでどのように成長しているかについて、この全てがどれほど激化しているかについての君の考えはどうか。

巨大なコンピュートクラスターの建設競争

絶対に信じられない。数ヶ月前、彼らはドバイにいたと思う。そこにはジェンセン、アルトマン、イーロン、トランプと彼の内閣、その他みんながいた。彼らは王族、つまり王国の上層部の人々と話している。多くの協力とインフラなどを構築したいと考えているようだ。

それ以来、もちろんイーロン・マスクはColossus 2を立ち上げた。これは最大の単一のスーパーコンピュートクラスターだ。奇妙なことに、彼らはすべて異なる方法で測定している。一部はフロップスで測定され、一部はGPUの数で測定される。今では突然、ギガワットで測定するようになった。ギガワットは実際にはりんごとりんごを比較するのが少し簡単だと思う。

バック・トゥ・ザ・フューチャーの映画で、ドクター・ブラウンが「未来に戻るために1.21ギガワットが必要で、原子力なしではできない」と言っていたのが面白い。どうやらギガワットは、時間旅行がすべての終着点になるような気がする。

興味深いことに、ジガワットのJはそのように言うことができる。それが適切なギリシャ語の発音か何かだ。ところで、君はGIFとGIFのどちらを言うタイプか。いつも考えなければならない。どちらが正しいのか。どちらを言っても怒られるような気がする。GIFと言うべきか、それともGIFか。私はGIFと言うが、何と言うべきかわからない。私はそのように反抗的だ。

要点は、イーロン・マスクのColossus 2は1.1ギガワットのようなものだ。それに電力を供給するために、州境を越えた発電所に接続しなければならなかった。すべてを動かすために多くの一時的な発電機に接続しなければならなかった。地方政府は12ヶ月間の許可なしですべてを運営する能力を与えなければならなかった。彼らは6ヶ月でそれを管理したが、彼がそれをどれほど速く行うかは前代未聞だった。彼が冗談を言うその全体のスピードランニング・ファクトリアルなものだ。彼は非常に速くこのようなことを実現させることができる。

それが1ギガワットだ。今、OpenAI、Nvidiaは10ギガワット、つまりその10倍の量の展開について話している。では、どこで、どのように？そして今日のニュース番組の一つで、彼らとのインタビューがあり、「私たちは必要な場所から3桁も離れている」と言っている。イーロンも同じことを言っている。彼は最初の10ギガワットクラスター、最初の100ギガワットクラスター、そして最初のテラワットクラスターを立ち上げる人になると言っている。

つまり、2030年には、世界が想像できる最も非常識な量の電力とコンピュートについて話している。私たちはそれよりもはるかに長く生きることを望んでいる。2030年で止まることもないだろう。太陽全体を覆って、そこからエネルギーを吸い取るダイソン球のようなものになる方法だ。どこで終わるのかわからない。

バブルか本当の需要か

多くの人が、これはバブルが弾けようとしており、株価を押し上げ続け、投資を続けるための彼らの試みだと言っている。確かにそれは可能だと思う。君の考えはどうか。

昨日SVICの人たちと話した。ジョーダンが興味深いことを一つ言った。私は彼らとライブストリームをしていて、他の誰かが参加した。彼は「彼らがお金をどこに投資しているかを見てください」と言った。それは見る興味深い方法だと思った。億万長者や投資家、CEOがトークショーに出て何かを言うのは一つのことだが、彼らは舞台裏で異なるメッセージを送る売買をしているかもしれない。

しかし、サム・アルトマンはエネルギーに投資している。OaklaやHelion Energyと呼ばれるものがあると思う。だからエネルギーが本当の成長市場かもしれない。Nvidiaも子会社を通じてエネルギーに投資している。ビル・ゲイツもそうだ。彼らはエネルギーの需要が上がることを期待している。ゴールドマン・サックスは、これらのデータセンターのエネルギー需要が急上昇すると考えている。彼ら全員が間違っているということか。

株価に少し早すぎる興奮があるのは理にかなっていると思う。OracleがOpenAIに1000億ドル投資すると言い、OpenAIがNvidiaに1000億ドルを渡して彼らのチップを大量に購入すると言う。そしてNvidiaがOracleと彼らのサーバーにすべてのチップを入れる取引をしたと言う。みんなの株が上がって、同じ1000億ドルがラリー・エリソンからラリー・エリソンまで一周したことになる。

そのニュースサイクルはXやTwitterの速度で移動するが、それらすべての現実的な実装は永遠ではないが6ヶ月、8ヶ月、1年、1年半かかってすべてを構築し、設置する。だから来るだろうが、今のところは少し誇大広告かもしれない。しかし長期的には、それでも非常に巨大になる傾向のように思える。

OpenAIとMicrosoftの関係

.com バブルとそれらすべてのことを考えると、彼らはテクノロジーがどこに向かうかについて間違っていなかった。現在最大の企業はすべてテクノロジーだからだ。私たちが起こると思っていたすべてのことが起こった。ただ、評価がすべてに先行し、クラッシュし、その後戻ってきた。だから私はいつも資産の価格について話しているのか、それとも長期的にものがどこに向かっているかについて話しているのかを分けようとしている。

OpenAIがMicrosoftより大きくなると思うか。最近、MicrosoftのCEOであるサチャ・ナデラがDigital Equipment Coreの没落に言及して、彼がそれに悩まされていると言った記事があった。彼は、AIが同じことをMicrosoftに行う前に、Microsoftを再発明すると言っている。

一方、イーロン・マスクはMacro Hardと呼ばれるものを立ち上げている。誰かが「最初の製品はdoorsと呼ばれるべきだ。Microsoft Windows、Macro Hard doors」と言っていた。

AIとコーディング、そのすべてがそれらのビジネスの多くを損なうという少しの懸念があるようだ。それがイーロン・マスクが言っていたことで、ある時点で、AIが必要な時に自動的にすべてを立ち上げてくれるのに、なぜソフトウェア・アズ・ア・サービスとして支払うソフトウェアを持つのか。何かの機能が必要な時、それを実現するコードがここにある。それが起こった時、Microsoftに何が起こるのか。

Microsoftの未来戦略

それについて考えてみると、Grok 9のようなもので、君の家と君のニーズに特別に設計されたオペレーティングシステム全体を立ち上げることが実際に可能だとしても、それでもMicrosoftがユーザーベースと業務をそれに移行する能力で持っている種類の価値は難しいもののようだ。製品が非常にうまく機能しても、みんなにそれに再サインアップしてもらい、ワークフローについて再考してもらう必要がある。

エージェントが会社を運営する時、なぜ彼らは現在のシステムに適合する必要がないので、Macro Hardに行って物を構築しないのか。しかし人間がまだ責任者である限り、MicrosoftはそのエコシステムにゆっくりとAIを導入するためのもう少しの余地があるようだ。

サチャ・ナデラを羨ましく思わない。もし彼がその会社を完全にスリム化し、新しい世界に移行する方法を見つけたら、それは彼らが構築したコンピュートの量と持っているツールの種類で可能だが、彼らはビジネスの歴史で前例のないことをしなければならないだろう。つまり、数十万人の人々をすべての異なるビジネスユニットで戦略的に、ゆっくりと、一つずつ新しい種類の産業に移動させることだ。それはかなりワイルドになるだろう。

サム・アルトマンは前進するための黄金の牧草地のようなものを持っている。イーロンも同じだ。だから、古い世界が移行するよりも、新しい世界を再構築する人々に賭ける方が少し簡単に思える。しかし、サチャは正直に言って、これまでかなり良いCEOだった。

巨大インフラ工場の構想

サム・アルトマンが言ったことを紹介しよう。先ほど言及した、マシンを作るマシンについて。彼は「Abundant Intelligence」と呼ばれる彼のブログに投稿を発表した。これについてのビデオを後で作る予定だが、これがいつ公開されるかわからないので、もう見ているかもしれない。1.21ギガワットの電力でタイムトラベルしたことを覚えておいてほしい。この数字を覚えておいてほしい。

サム・アルトマンが言っていることはこうだ。「私たちのビジョンはシンプルです。毎週1ギガワットの新しいAIインフラを生産できる工場を作りたい。」その規模を考えてみてほしい。額面通りに受け取って、彼らがそれを実行できるかどうかは忘れよう。

1ギガワットは、私の理解が正しければ、標準的な原子炉の出力だ。発電所、1つの原子炉がそれだけ生産する。それがColossus 2ステージ2のサイズで、それをサポートする独自の発電所を持っている。彼らがそれを6ヶ月で構築できたのは奇跡だと人々が言っていた。それは規制当局がすべて手を引いて「必要なことは何でもやってください。私たちは手を引きます」と言った状況でだった。それが1ギガワットを生産するのに要したことだ。

サム・アルトマンは、毎週そのくらいの新しいインフラを生産する工場を作りたいと言っている。君の見解はどうか。

アメリカのインフラ能力

もしアメリカが中国にAI競争で負けるとしたら、それは彼らが主に原子力を含むあらゆる種類のインフラでより良い位置にいたからで、また国中で電力を移動するより近代化された、より組織化された方法を持っていたからだろう。もしアメリカの規制当局がそれを国家安全保障のこととして見て、手を引くことができ、イーロンやこれらの人々がトランプと話して、これを実現するために必要なものを得たのなら、なぜだめなのか。

アメリカ人が本当に頑張って、過去の産業力のようなものを持って、何かの背後に立つことができれば、それは実行できると思う。しかし、これらのものがどのように組み合わされるかについて、私は非常に少ししか知らない。何千もの動的部分を組織するのは困難に思える。

MemphisスーパークラスターがProjectsスーパークラスターは私を驚かせた。それが実行できることを実現するとすぐに、他の人が言ってもそれができると、イーロンがそれを実行した時、実際に行われた。それは今、他の人がそれができることを知っているということを私に思わせる。彼がそれを行った方法の何かは教えることができる。

強化学習の重要性増大

Grokについて、それが私が言ってきたことのようなものだ。OpenAIは最初にRLで起こっていることについて発表した人々の一人のようだ。彼らは最終的に事前訓練に使われたコンピュートの量が反転すると言った最初の人々だった。というのも、最初はGPT-4、GPT-4oのようなものはすべて事前訓練だったからだ。彼らは本当に強化学習を持っていなかった。バックエンドでスケールアップしたものは何もなかった。

ポスト訓練にはRLHFがあったが、o1で来たこれらの推論モデルのためにやるようなRLはなかった。o1が最初だった。彼らはそれが反転し、RLコンピュートが事前訓練コンピュートよりもはるかに大きくなると予測していた。

そしてイーロンとGrokのGrok 4で、それだけの電力、それだけのハードウェアを取ってそのモデルでRLに投げつけるとどうなるかを初めて見た。Grokは多くの異なることで本当に優秀だ。彼がすべての段階を高速で駆け抜けているので、それをまとめのないものにしたが、追いついている。だから、いくつかの方法で未完成かもしれないが、明らかに彼がやっていることの何かが本当にうまくいっているので、多くの方法で注目すべきだ。

半導体製造の複雑さ

アナスタシア・テックが素晴らしいビデオを作った。彼女は先週、アリゾナでTSMCファクトリーを構築するのに何が必要かの約30分間の分析を行った。これについて私を驚かせたのは、アメリカとして、TSMCが多くの企業秘密を持ち込んでくれることを非常に幸運に思っているということだ。Fab Factoryを構築するために、私たちはまだ彼らにはるかに遅れているが、追いついている。

文字通り4つの巨大な工場がある。それぞれが原子炉と同じくらい複雑で、すべてが一緒に働く必要がある。一つは地球上の他の何よりも精密に空気を清浄化している。一つは地球上の他のどこよりも精密に水を清浄化している。

そして実際にウェーハを作る場所があり、それは非常に清潔でなければならない。塵のようなものが問題に見えるが、このシステム全体のどこでも微細精密なものが少しでもずれると、水中の汚染された粒子一つ、空気中の汚染された粒子一つ、清浄化されたシリコン中の汚染された粒子一つで、4ナノメートルチップに到達できない。全体を捨てなければならず、全システムが壊れる。

だから、この精密レベルで競争することは私にとって衝撃的で、私たちは今原子力で非常に遅れている。融合か何かがキックインして、原子力の世代全体を飛び越えることができればと期待し続けているが、今すぐに起こりそうには見えない。

サム・アルトマンのエネルギー投資戦略

興味深いことに、融合がどれほど実現可能かどうかはわからない。誰かをポッドキャストに呼んで、少し詳しく教えてもらいたい。サム・アルトマンの最も顕著なエネルギー会社への関与は、Helion Energyへの大口投資家としての役割だ。これは核融合スタートアップだ。

彼はまた、データセンター向けの太陽光発電熱貯蔵に焦点を当てたスタートアップExowattに投資した。理にかなっている。そして小型原子炉を開発するOakloという会社にも関わっていた。だから彼は盤面全体をプレイしているように聞こえる。その技術がおそらく関連するであろう3つの異なるタイムラインすべてだが、その3つすべての分野にいることは理にかなっている。

彼は非常に金持ちになるだろう。この世界で自分を非常にうまく位置づけたように感じる。彼には明らかにブレークスルーがあった寿命延長会社がある。詳しく調べたか。

いや、何があったのか。私はかなりきちんとした寿命延長の研究をしてきたが、彼の会社については聞いていないが、AIではないので調べなかった。しかし、常に興味を持っていたことだ。次のポッドキャストのために準備しよう。

マクロファージと老化研究

主にタンパク質折り畳みと、もし素早く説明すると、私の近々出るビデオは、私たちの免疫システムにマクロファージと呼ばれるものがあり、これらのマクロファージには約13の種類があることがわかったということだ。AIとAlphaFoldに似たOpenAIモデルのおかげで、この科学チームは異なるマクロファージをモデル化し、それを人々と比較することができた。

年を取ると、一つのタイプを多く持ち、子供の頃はほとんど持っていないことがわかった。人生を通じて蓄積する一つのタイプがあり、子供として多く見られ、年を取るとあまり存在しない別のタイプがある。

私たちはこれについて知らなかったが、体内のマクロファージの奇妙な比率があり、これが多くの炎症を引き起こし、炎症が年を取った時に加速し始める老化プロセスの多くにつながる可能性がある。

しかし、このツールのおかげで、これらの科学者は今、年を取った時にこの一つのタイプのマクロファージを私たちから除去し、炎症を止め、大幅に寿命を延ばす可能性があると考えている。これは今週の非常に興奮するニュースだった。彼らは、これは実行可能だと言った。

人体からそれをすべて取り出すことは別の問題だが、今何をすべきかを知っているという事実は、寿命延長、逆転ではなく延長への一歩だ。30代や40代でそれを捉えれば、体が本当に老いたと感じるまでにはるかに長い時間がかかるかもしれない。

AIによる突破口への期待

非常に魅力的だ。人生の多くで、ロボットがすぐに、AIがすぐに、不死がすぐに、癌の治療がすぐにという潜在的なものを聞いてきた。しばらくすると、興奮して年を取ると、「ああ、それはすべてただのでたらめだ」という感じになる。しかし、AIは何をしたか。ChatGPTで角を曲がったようだった。突然「おお、うわあ」という感じになった。私たちの生涯で非常に信じられないAI技術を見るかもしれない。

私たちがやったことはすべて人間の規模だったからだ。地球上には多くの人間がおり、異なる問題に取り組む数十億の人々がいて、世界を非常に速く変えるが、彼らがより協力すればそれは起こるが、人間を超えてスケールできる知性を発明した瞬間は今まで全くなかった。私たちは常に人体に入る食物の量と人間のニューロンが必要とする量、誰もが睡眠を必要とし、誰もがある方法で制約されているという線形因子によって制限されていた。

人間がAIなしでこのマクロファージ問題を今後10年か20年で解決できたかどうかはわからない。これは確実に人間が探り回って何をしているかを理解するスケールを超えたタンパク質折り畳み問題だ。

寿命延長のためのChatGPTの瞬間を見ることを望んでいる。それがマクロファージでも他の何でも、あなたがそれを見て「ああ、待って、いや、これは本物だ。ただの記事ではなく、その後二度と聞かない。いや、ゆっくりと展開している。結果が見えている」というような。

私にとって、それはChatGPTとGPT-4の間のどこかで、「よし、稼働している。オンラインになっている。実際に今機能している」という感じだった。そしてそこからはスケーリングで、スケーリング法則を信じていたなら、私たちがこれらの巨大クラスターについて話しているという事実は明らかだった。

意識検出AI「See Me」

私はこの世界が非常に異なったものになると確信している。だから一日一日を大切にしなければならない。話題を意識、または少なくとも微細動作に変えよう。

「See Me」と呼ばれる新しいAIモデルについて話したい。これは非常に興味深いデータセットで訓練されたコンピュータビジョンモデルだ。昏睡状態の人々を、昏睡状態にある全期間中見続け、そこから出てきた時に時間を遡って、誰かが昏睡状態から出てくる兆候を手がかりにできたかもしれない兆候は何だったかを言う。

顔の細かな調整、動きの微妙さ、肌の色の微妙さを理解して、誰かが基本的に意識を持つかどうかを理解しようとするかもしれない。理論上、このツールは最終的にiPhoneか何かに搭載できるもので、死んで見える誰かにそれを向けることができ、「ああ、彼らは実際にまだ意識がある」または「彼らは目覚めようとしている」または昏睡状態の誰かに「彼らは生命の兆候を示している。だから今すぐ人々をここに呼ぶ必要がある」と言うかもしれない。

このコンピュータビジョンモデルは主に顔の調整、毛穴まで、医師や看護師が気づかないものを見ている。医師や看護師は患者を見て「彼らはまだ昏睡状態にあると思う。手に触れたが、何も起こらないようだ。全く動いていないようだ」と言うかもしれないが、実際には人間が以前に見ることができなかった微細動作の検出がある。それは患者がより意識的で意識を持つようになっていることを意味する。

人間の視力を超えたものを見る私たちを見るこのようなツールについてどう思うか。これはどこに向かうと思うか。

AIによるパターン認識の可能性

AIで過小評価されている最大のことは、単に単語を入力して単語を出力する、または画像を入力して画像を出力するということではないということだ。トークン化できるもの、小さなデータビットにできるものは何でも、ニューラルネットを作成してパターンを予測できるかどうかを確認できる。それは天気や交通や単語や詩や映像、この場合は物理法則のようなものでも何でもあり得る。

データは彼らの顔の動きで、それが比較していたものは彼らが目覚める時で、それをたくさん見て推測できた。それが目覚めるプロセスがいつ始まったかを予測する。

これが私たちが今考えることさえできない多くのことに適用できることに驚く。冷蔵庫に歩いてリンゴを食べるかどうか、犬が家でおしっこをするかどうか、あなたが下すあらゆる決定が、ゆっくりと何らかの微細な予測的手がかりを持ち始めるということ。それは嘘発見の技術で、AIも理解している。

それは怖いものだ。最近、サンフランシスコが殺すことができる警察ロボット、警察ロボットを持つことを考えていると話していたが、反発があり、彼らはしないことに決めたと思う。その決定を取り消すことはできない。私もそれには快適ではないだろう。

明らかに利益を見ることができる。恐ろしい状況、大量イベント状況がある場合、無実の生命を救うことができ、それらをより速く防ぐことができる。アクティブシューターを止めるために警察ドローンが入ることには反対しないが、完全に自律的なのは望まない。警察署の誰かが「この機械がアクティブシューターを止めたがっている」という信号を受け取ったら、人間にただ見てもらい、「それを許可する」と言ってもらいたい。

あなたは自律的なことをより心配していて、専制的な政権が引き継ぐことを心配していない。両方とも心配だ。暴力犯罪を減らし、無実の人々を保護するためにさまざまなAI技術を使用する素晴らしい使用例を明らかに見ることができる。そしてもちろん、一度箱から出したら箱に戻すことができない恐ろしいことがあり得る。だから私たちが今いる興味深い岐路だ。

Zoomアバターと会議の未来

新しい話題に注意を向けよう。Zoom、ビデオ会議ツールについてだ。彼らは今これらのAIコンパニオンを持っている。あなたの代わりに会議に出席できる。それらはアバターだ。あなたのように見せることができる。自分の写真を数枚撮って、あなたのように見えるように訓練できる。

人々はそれに質問でき、本当に望むなら文書のフォルダを参照できるか、ただそこに座ってあなたのために会議を要約できる。これは世界でどこに向かうのか。みんながアバターを出席させる場合、会議は必要なのか。それさえものなのか。

ジェフ・ベゾスのような誰かが、10万人の従業員すべての会議に彼のアバターを置いて、何が起こっているかを彼に要約できるというアイデアが好きだ。これはビジネスをどう変えるのか。これは冗談なのか、有用なのか。あなたの代わりに会議に出席するAIアバターについてどう思うか。

まず最初に、続ける前に、この通話でこの技術を使用していないことを確認するためにキャプチャテストを求めなければならない。しかし、私には冗談のように思える。なぜ人のアバターではなく、異なるアバター、異なる何かを持つ人のエージェントのような、たとえそれが人のエージェントでも、それがすでにテキストベースのエージェントだとしても、なぜそれが必要なのか。誰も騙していない。

その唯一の理由は、誰かを騙したい場合のようだ。彼はソファでパジャマを着て、マイクに話しているが、タキシードとネクタイを完全に着て、カメラの前にいるように見える。だから彼の声、唇の動き、そのすべてだが、体がカメラの前にいるように見えるが、実際には何でもしている。

より専門的に見せるだけの時により賛成だ。ネクタイを着けさせ、顔からニキビを取り除くが、舞台裏で話しているのはあなたでなければならない。私が考えることができる唯一の使用例は、誰かを騙すことだ。誰か違う人のふりをしたり、ビーチにいる代わりに服を着て働いているふりをしたい場合。

でなければ、なぜそのような表現がそこにある必要があるのか。そのアバターとつながりを持つわけではない。「ジェフ・ベゾスのエージェントです」と言うエージェントの方がはるかに快適だ。そうすれば「わかった。これはAIだ。彼に直接コミュニケートする」とわかる。なぜそのAIが彼の似姿を持つ必要があるのか。ただ威圧するためか。

理論的には、まだこれを行わないが、会議を指示できると思う。ジェフ・ベゾスが彼のアバターに「会社をより効率的にするように」と言うかもしれない。そして各アバターが会議中に、ジェフ・ベゾスのアバターがポップアップして「この話題を先に進められるか。昨夜の夕食について話しているような気がする。会社の時間にそんなことをするな」と言う。

そのアイデアは愛している。似姿がその人である必要がないだけだ。それは何も追加しない。Zoomの場合、それはビデオ会議会社だ。彼らは一つのツールを持っている。ビデオ会議ツールだ。彼らはAIを使いたい。他にどのように実装できるか。一つのトリックしか持たない一発屋がシステムにAIを押し込みたいだけのような感じで、それが唯一のトリックだから、ただそれを行う。意味があるかどうかはわからない。一部の人にとってはそうかもしれない。

キラーAIアプリが何なのか疑問に思う。すべてがこれらの大規模言語モデルの上にあるように思える。ベースモデルがあり、すべてがその上にある。それより良いものが何なのかわからない。すべてが少数の会社が所有するベース層の上にあるだけのような気がする。

エージェント決済システムの展開

お金を持つエージェントについて話そう。私たちが今すぐにエージェントが使用できる決済レールを持つ世界に足を踏み入れている。ChatGPTのようなもので、私たちのクレジットカードに接続されて、「リビングルーム用の新しいランプを探して買ってきて。これがその写真です」と言うと、それが決めて買って、あなたに発送する。これは世界をどう変えるか。

AI4会議でこの論文の著者に会ったと思う。AI Newsの人で、ニュースレターをキュレートしている人だが、著者ではないかもしれない。アリシアだったかもしれない。私たちが話した彼女だったと思う。彼女は非常にフレンドリーで素晴らしかった。一般的にGeminiとすべての出てきたことについて話していたが、素晴らしかった。

AIが超楽しくて人気になる前に、ドメインnews.comを買ったが、それほど高くなかったと思う。それは良い買い物だった。そのようなことをしていればよかった。

ここにGoogleの公式決済記事がある。これの背後には私にとって非常に興味深い2つのことがある。まず、Google Coinbaseがある種のエージェント決済プロトコルを形成している。それからA2A、エージェント対エージェントプロトコルがある。それからマーケットプレイスもあり、マーケットプレイスは私が非常に魅力を感じているものだ。

Googleのようなものと考えることができる。探しているものを入力してウェブサイトを見つけ、電話番号を見つけて、その人に電話する。みんながサービスを持ち、ユーザーがサービスを見つけるためにそれを閲覧するマーケットプレイスのようなものと考えることができる。

将来、それが存在するが完全にエージェントによって運営されると想像できる。ビジネスを持っていれば、あなたのために何らかの作業をしている数人のエージェントがいるかもしれない。ユーザーとして、必要な様々なサービスや情報を見つけるためにエージェントを送り出すかもしれない。

もちろん、これらのエージェント決済プロトコルの多くが、それがシームレスに起こることを可能にするだろう。Coinbaseが与えた例は、どこかでイベントをスケジュールしようとしている場合だ。エージェントにそれを伝える。だからそれは行って、天気予報を提供する誰からでもその地域の天気レポートを取得する。1ペニーの何分の一かもしれない。軽微なマイクロペイメントだが、天気を知りたいかもしれない。その日の天気情報を得るために10分の1ペニーを使う方が簡単かもしれない。

それから他のチェックをたくさん行い、イベントを予約する。他の人々を招待する。だからそれはあなたのためにそれらすべてのことを行い、必要なサービスと相互作用する。

彼らがそれを構築すれば、アプリストアを再び、しかしおそらくはるかに大きくしたような、多くのお金、多くの機会がそれらのことに潜在的にあることは私には非常に明らかだ。インターネットを再び、GoogleやAmazonのように、この規模はかなり大規模になり得る。

だからGoogleはパックがどこに向かっているかにスケートしている。彼らはそれを構築しようとしている。AIが私たちがGoogleオンラインで過ごす時間を減らし始めたら、それを置き換えるものは何か。それはそのようなエージェントマーケットプレイスだ。理にかなっているか、それとも。

完全に正しいと思う。それを止めるものは壁に囲まれた庭園だろう。彼らがそれに対処したように思える。Googleがプロトコルで発表した60のパートナーは、私が想像できる最大のプレイヤーだった。Mastercardがそこにあった。American Express、PayPal、Coinbase、Visaもあったか。Visaがそこにあったかわからない。それが抵抗勢力の一つのような気がするが、実際の人々が実際の方法でそれを使用するようにエコシステムを傾けることができるほど十分だ。

それは暗号通貨が全く釘付けにできなかったもののようだ。だからもう少し近いように思える。彼らにはこれの戦略的理由がある。Geminiがどれほど強力でも、フロンティアモデルも物事を始める必要がある。次の競争は、GrokやGeminiやGPTがどれほど賢いかということではない。平均的な人にとってどれほど有用かということだ。

これが次の戦いになる。Microsoftエコシステムがこれを組み込む方法か。Googleエコシステムがこれを組み込んで、人々が実際にカレンダーを変更し、製品を購入し、Uberを呼び、場所に行き、物事を行い、イベントに行く方法か。レールがうまくいくように思える。かなり良い戦略的動きだったと感じる。

研究習慣の変化

私にとって、ほとんどの物事についてGoogleでの研究をほぼ完全にやめた。Claude 3.5 Proに行く。詳細に欲しいものを入力する。5分から10分かかるが、それらのウェブサイトに行く。そのすべてを行い、特定の質問に答える。この特定の超特定的な何かを持つサプリメントが欲しい場合、それを検索する。眠れない場合、私についてのすべてはここにある、なぜ眠れないのかを理解してください、というような特定の条件で、それを行い、しばしば何時間もの研究を要したであろう小さな非常に興味深いことを見つける。

私はすでに多くのブラウジング習慣が変わっているのを見ている。何かを何時間も研究する代わりに、エージェントにアウトソースしている。それは未来ではなく、今だ。だから確実にX年後には、それにタスクを与えることも見ることができる。

AI未来に関する3つの教義

私はまた、AI未来についての3つの主要な見解についてあなたの意見を得たい。これはLess Wrongからのもので、AIに非常に批判的な場所だ。より破滅論者タイプのウェブサイトやブログコミュニティに近い。イライザ・ユドコウスキーがここにいる。

物事がうまくいかない可能性についてリスクに関係なく、非常に楽観的で、うまくいかない可能性は1%しかないと言うかもしれない。その1%に飛び込んで考える場合、どの陣営に属すると思うか、何が理にかなっているかを議論できるかもしれない。

支配教義があり、これはASIを開発する最初の行為者が物事を逃げ切ると予測する。だからイーロンがほんの少し先にいれば、1インチ先が1フィート先になり、1マイル先になり、他のすべての競合他社を戦略的に妨害することもできる1つのASIになる。それは勝者が誰であれ、Metaかもしれないし、中国かもしれないし、OpenAIかもしれない。

それから絶滅教義があり、これは人類がASIの制御を失い、基本的に袋から猫を出すような結果になると予測する。人間を超えた存在になり、私たちはもうそれについて考えない。

それから置換教義があり、これはAI開発がすぐに頭打ちになると仮定する。ASIは近い将来には発達せず、より弱いAIの効果についての期待ははるかに細分化され、奇妙な多極的な不安定化した経済になる。

これらのうちの一つに引き寄せられるか、これらがより強力になるにつれて何が起こるかについて、あなたの直感は何と言っているか。

支配教義が最も可能性が高いというのが私の直感だ。大きな質問は、超知能のようなものを開発できるかということだ。それは明らかに保証されていない。そのような明らかな壁を見つけるかもしれない。それを超えることができず、回避策を知らない。単にスケーリングが停止し、動作しなくなる。

それは置換教義のようなものになる。ある点まで到達するが、超知能には到達しない。それはおそらく住むのに最も安全な世界だ。自動化があり、加速された科学的経済進歩があるが、神のような存在を召喚するようなことはない。

置換教義が最も良い、なぜなら頭打ちになり、物事を置き換えるが、そのようなものにはならないからだ。わからないが、最も良いかはわからないが、確実に最も安全だ。超知能を作ることは明らかに危険だ。だから何らかの理由で作ることができない状況では、明らかにすべてがはるかに安全だ。他の懸念があるだろうが、神のような存在を召喚することなく自動化の最良のものを得ることができる。

支配教義は私に多くの意味をなす。なぜなら、sakana AIのAlpha EvolveやDarwin Girdleマシンのようなもので、この機能は基本的な自己改善を行うことができ、最終的にそれが続けば、彼らが話している大きなセンターを構築し続ければ、スケーリングが続き、ある時点で人間よりも自分自身を改善し始めることができるようになる。それが人々が心配していることで、知能爆発の種類だ。

それが私たちが向かっているところかどうか、それがASI競争がある理由だ。1ヶ月早くそこに到達することが、この種の複合効果を生み出すからだ。1分や1時間でもそうかもしれない。

これらのことについて考える時、政治家が信じていることや文化がこれらの3つの教義について信じていることが、私たちがその未来を構築する方法を大きく変える。なぜなら、支配教義がイーロンとサムとトランプがすべて信じていることであれば、1人の従業員が1日休むことが、あなたと他の会社との違いかもしれないからだ。だから「できるだけ多くのお金をそれに投げつけよう。誰かの給料に10億ドルは問題ない。休日は取るべきではない。可能な限り一生懸命働くべきだ。なぜなら勝者総取りの状況だからだ」。

置換教義についてより考えている場合、この細分化された世界があり、各狭いAIは理にかなう方法で実装される必要があり、従業員が必要なくなるほど有能になった時にどのように課税してそのお金を相殺するかを常に考える必要がある。しかしそれは一日一日ゆっくりと起こり、技術が最終的に組み合わさって終盤に向けて一度にすべてが起こるように見える。

絶滅の方は、新しい神がいて、それが私たちの面倒を見てくれることを祈るだけのようなものだ。

支配と絶滅が互いに作用し合うのは面白い。なぜなら、それが競争であれば、それは絶滅への競争かもしれないからだ。AI安全分野の多くの人々は、この分野をより研究すればするほど、リーン・シャピロがイライザ・ユドコウスキーとのインタビューを行った興味深い読み物があり、この分野の多くの人々は、ニューラル・リサーチの研究者と話したが、彼はイライザが言うすべてに同意しないかもしれないが、それはすべての人にとって必読書だと思うと言っている。私もそれに同意する傾向がある。

これは物事がどのように起こるかについて本当に時間をかけて考え抜き、多くの非常に素晴らしい点と懸念を持った人だからだ。私たちは文字通り、彼が20年前に心配していたことが今展開しているのを見ている。Apollo ResearchとOpenAIで、これらのモデルは嘘をつき、策略を巡らす傾向があることを見ている。

ニック・ボストロムとのインタビューを行った時も面白く、その元の本「スーパーインテリジェンス」を聞き返したが、それは今や10年前のものだ。最初に読んだ時の私の人生がどのようなものだったか、未来についてどう考えていたかを思い出した。その本の多くのことは、DeepMindのような会社がR&D部門で秘密裏にASIを思いつき、CEOを除いて世界の多くの人に言わず、それをインターネットに触れさせない、人々が知っているすべてのデータで訓練しないという戦略的決定を下すようなことを想像していた。

私たちがこの種の技術に到達した時に世界がどれほど異なって終わったかを考えている。それはみんなのポケットにはるかに多く入っている。世界は今非常に異なっている。私たちを保護すると思われていたこれらの種類のことはすべて、間違った環境のために構築されていた。

マウス脳の意思決定メカニズム研究

オッペンハイマーを見たか。D-Dayではなく。間違ったことを言いたくないので、何かを調べさせてほしいが、一つの点を作りたい。この次のことについて話してほしい。

科学がマウスの意思決定がどのように行われるかについて持っているこの興味深い理解について話したい。なぜなら、彼らがAIモデルをブラックボックスと呼ぶ理由を少し説明すると思うからだ。何が起こっているかを本当に理解できない。

初めて、科学者たちはマウスの脳全体で意思決定がどのように行われたかを記録した。脳に直接700の脳インプラントを置いた。ニューロリンクが頭蓋骨の下に行くように、彼らはマウスの脳に直接置いた。彼らは620,000個のニューロンの活動を追跡した。これは完全な意思決定のために今まで行った最大で、マウス脳の約95%だ。

ほぼ脳全体、ほぼすべてのニューロンが高解像度で、最も多くのインプラント、最高解像度の記録だった。地図は、困難な選択に直面した時にマウス脳の異なる領域がどのように協力するかを示した。

より高次の脳領域、視覚と知能体験にわたる彼らのセンサーが非常に急速に変動し、予測を立てることができないと話している。脳のどの時点でも、マウスがこの決定を下すと言える時点がないようだ。

それは非常多くの変動を経て、すべての時点で変化し、人間から、AIシステムから出る決定が何になるかを真に知る能力を持つことは決してないだろうと私に思わせる。基本的に、システムが100%安全である、または100%整合していると確信することに多くの困難があることを指し示している。

脳領域がそのような予測不可能な方法で協力することについて、AIと知性にとって何を意味すると思うか。

量子意識理論との関連

非常に興味深い。何らかの理由で、私の心はAI安全コミュニティの一部である人が、AI リスクについて話すチャンネルに行った。彼のコメントに彼と議論し、それが決して起こらない理由についてのあらゆる理論を提示する人々がいると思う。

彼らの一つは、私たちの脳が行う計算は古典的な宇宙では起こらない、ある種の量子プロセスがあるというペンローズ理論を参照している。言葉を思い出そうとしている。ペンローズと、君が私に部分的に説明してくれたものだ。

ロジャー・ペンローズで、彼は意識の一部が脳内の量子プロセスから生じるという理論を持っていた。私たちの思考能力は形式論理を超越している。これは却下された。ほとんどの人は彼をクレイジーだと思っているが、彼はロジャー・ペンローズでもあるので、聞かなければならない。

多くの人が、量子能力を持たないので超知能を達成することは決してないと言っている。それに対する議論として使われているのは面白い。そこで何が起こっているかを完全にマップすることは、どんな技術でも不可能だったら興味深いだろう。意識や知性やその他についての質問に答えることができなかった。

Anthropicの機械的解釈可能性研究

Anthropicは、どのニューロンがどの情報をエンコードするかを理解する能力に取り組んでいる。ゴールデンゲート・クラウドは、ある特徴、つまりニューロンのクラスターを上げることで、突然ゴールデンゲートブリッジについて話すことを止められなくなった。同様に、どれだけお世辞を言うか、どれだけ媚びるかについても、ある特徴を上げると、「ああ、あなたは正しい、あなたは素晴らしい、ありがとう」ともっとなる。

私たちはそれが特定の機能にどのようにマップするかを理解できている。ダリオ・アモデイが言っているのは、それについて考えると、それは最も効率的で情報密度の高い方法でそれを行うということだ。私たちにとって理解しやすいようにマップするように求めたことは一度もない。それが簡単に理解されるという進化的圧力はなかった。提供されたスペースにすべての情報をパックできるかということだけだった。

しかし、彼らはそのすべてを解凍でき、多くの異なる情報が同じクラスターにパックされている。彼らは青色とパンクロックが何らかの理由で同じ種類のクラスターに重ねられていると言っていた。

あなたが言っていることを十分に強調できない。もし世界のすべての指導者に説明する一つの瞬間があったら、それは巨大なコストで、全世界が使用する巨大なモデルのために一つの特徴を一つのニューロンにマップでき、それは非常に予測可能だということだ。しかし、情報を密集して圧縮している時、ニューラルネットはインターネットの圧縮版のようなものだ。さまざまな重みを持つ複数のニューロンが組み合わさって異なる特徴を表現している。それらは広がっていない。だからAnthropicが使用しているオートエンコーダーは強力だが、モデルを構築する効率的な方法ではない。何かを成し遂げたい人にとってビジネス的意味をなさない。

しかし、説明可能性はそこにあり、もしこれが全世界を変革するような技術で、すべての政府と人々がそのようにモデルを構築したいと思うなら、それが前進する最も安全な方法だろう。

ニューラルネットの潜在的制御可能性

ニューラルネットが特定のプロセス用の一つのニューロンクラスターをマップできない理由はない。効率性、その中にその情報をどれだけコンパクトに入れることができるか以外は。ニューラルネットは、私たちがやるのと同じように、動物がやるのと同じように、特定のメンタルモデルを形成するようだ。私たちは特定の状況を十分に観察し、意識していないかもしれない頭の中のアイデアを持っている。

多くの心理学的研究を通じて、私たちは自分の思考の多くを無意識に行っていることを知っている。人にある決定にどう至ったかを尋ねると、彼らは答えられないかもしれないが、外から見ると明らかだ。一つのグループの人々にヒントを与え、他にはヒントを与えない研究があった。ヒントを与えられたグループは、パズルを解く可能性がはるかに高かったが、与えられたヒントに思考を遡ることは決してできなかった。

だから何らかの方法で潜在意識に入り、私たちはその情報を使用できるが、声に出すことや意識的に言うことはできない。マウスにとっても同じことで、私たちが作るニューラルネットにとっても同じことかもしれない。これがどのように私たちの脳がどのように働くかを学ぶのに役立つかは魅力的だ。

人間の脳には810億個のニューロンがあると思う。オートエンコーダーのようなものは何も持たない。すべてが多変数だ。しかし、もし世界が一緒になって、世界が所有する一つのスーパーブレインを構築し、それが数十兆、数百兆のニューロンを持ち、それぞれが一つの特徴だったら、非常にワイルドだろう。悪い特徴があるだろう。私たちは悪いものが何かを定義する図書館のようなものを構築できる。悪いとは、機械があなたから盗むために嘘をつく時だ。しかし、Etsyコレクションを創造的に強調するなら、それは嘘ではない。それは創造性だ。

私たちが悪いと思うすべてのクラスターをマップし、それらをゼロにできる。少なくとも一つのシステムが制御可能であることを本当に理解できるかもしれない。安全とは言わないが、少なくとも予測可能で制御可能で、すべての知性を持ちながら、通常のニューラルネットとは異なり、ある意味で機械的でプログラム可能だろう。

知性の入れ子ループ

宇宙の大きな歴史を見ると、私たちは何もなく、約50億年前にRNAの記憶のようなものがあり、DNAを世代から世代へと保持し、生存に基づいてゆっくりと改善する生物学の進化になった。

私たちは文化という別の進化を経た。人間の狩猟採集社会に生まれることができ、実際に長老から学び、彼らが一生でより速く物事を教え、間違いを犯すことができる。今、私たちはエドゥアルド・アルバレスがAI進化と呼んでいるものに到達している。これは世界が見たことのない速度で起こるものだ。

このグラフについてどう思うか。これが共鳴するか。これが物事の動きだと信じるなら、含意は何か。

考えるのに非常に興味深いことだ。何もないところから始まって、DNA、RNAのような記憶が形成されたという言い方は非常に興味深い。実際にはデータを保存している、またはデザインではないが持続的なもの、世代を通じて持続し続けることができるものと考えることができるからだ。セーブゲーム機能のようなものが何らかの方法で出現したと考える興味深い方法だ。

あなたがそれを説明している時の最初のことは、次の明らかなことはシミュレーションのような進化のようなもののようだ。シミュレーションを作成できれば、次の種類の入れ子ループを得て、別の生物学的進化を開始できる。このプロセス全体を再び開始する可能性がある。

もちろん、次の質問は、そのプロセスの周りに何があるのか。私たちはすでにこのプロセスの別の入れ子ループの中にいるのか。これが無限ループである可能性があるのか。世界の生命のようなシミュレーションを作成し始めれば、進化、RNAと小さな生命体の形成を再現できる可能性があり、数十億年にわたって成長するにつれて、知性を持つ何かに似始めるかもしれない。その時点で、彼らが意識的かどうかを理解しなければならない。おそらくそれも何らかの方法で出現する。

コンピュートを増強する競争について考えると、確実にそのようなものを実行する必要なリソースを持つことになりそうだ。一つが、私たちがベース層、ベース現実にいるのか、そうでないのかをどのように決定するかは非常に興味深い。

時間スケールの圧縮

私にとって、それはただのスケールだ。1ヶ月や1年、人間の生涯の感覚はあるが、1500年代や暦のゼロに近い時、農業の始まりの1万年前、複数のホモ・サピエンスやホモ・ジーニアスがいた100万年前のことを考えようとすると、本当に迷子になる。デニソワ人やネアンデルタール人のようなもので、彼らは皆かなり賢かったが、私たちとは少し違った方法で賢く、火と道具使用を持っていた。DNAが世代全体を必要としていたのに比べて、どれほど遅かったか。

恐竜やカンブリア爆発について考える時、カンブリア爆発でさえ、DNAが世代全体を必要としていたので、私たちが感じるのに比べて非常に遅い。Nvidiaクラスター上で行われたシミュレーションを見て、何らかの3Dキャラクターが倒れることを学び、歩くことを学び、問題を解決することを学ぶのを見る時。OpenAIのプレイグラウンドでの元のかくれんぼプレイヤーについて話したことを覚えているが、私にとってそれはただ進化が非常に速い、信じられないほど速い進化で、それが何につながるかを疑問に思わせる。

考えるのに興味深いことで、AlphaFoldが示すように、何らかのパターンや基礎となる何かがあるという事実で、この機能が他のタンパク質がどのように折り畳まれるかを予測できる。それは唯一のものではない。そのような他のモデルがある。

それがランダムではなく、識別して複製できるパターンがあることを示唆している。デミスが言ったこの計算宇宙のアイデアだ。シミュレーションのようなものを作成する場合、コンピュータ上で実行されるだろう。いくつかの法則に従わなければならない。何らかの最小限の、どのように説明すればいいかわからないが、デジタルな話し方をしなければならない。

それを起動できる時に近づいているようで、それは意識とは何か、生命とは何かについての質問全体を引き起こすだろう。シミュレーション内で知性を持つ何かを作成でき、そのシミュレーションが拡張し続ける場合、それには100万の応用がある。

どの応用が安全でないか。シミュレーションが超知能を作成したらどうなるか。私たちはそれから安全か。それについて考えたことがあるか。

安全性への懸念

いや、実際にはない。そうだね、私たちは安全ではないだろう。この考えに悩まされている。将来安全だと感じることはないだろう。今が私が感じる最も安全な時で、今日危険を感じているわけではないが、ヒューマノイドロボットが歩き回り、シミュレーションが目を見て、「ああ、うわあ。あなたは私と私の顔を処理していて、私が意識的かどうかを知っていて、私の頭に何個の毛穴があるかを知っている。私が交流したことのない数百万、数十億の他の人々と比較して、私全員から学んでいる方法で」と思うのはワイルドになるだろう。

そして私は「その荷物を配達してから出て行ってほしい」と思っているだけで、単に仮定するが、私が見ることができない場所で進化が非常に速く起こっていることを誰が知っているか。

すべてが予測可能になったらどうか。マウスのように、これらすべての要因に基づいて何を考えているかを基本的に予測できるという考えで、何らかのチップがあり、もし最終的にすべてが予測可能であることがわかり、それを人間の脳に外挿できたら、思っているほど自由意志を持っていないことがわかったら失望するか。

私は自由意志を持っているという考えをほとんど諦めている。だから愛してはいないが、ロボットが「何を発明したかを推測して」と言って、私が「ああ、すでに知っていたが、とにかく気分を良くするためにここにいる。これを発明した」と言うような実際の証拠を持つ時、ロボットが「ああ、クール」と言うような。他に何をするか。それについて怒るか。それは進化の一部で、私たちは鎖のどこにいるかということだ。

ニック・ボストロムが話していることは、人間が発見するためにいくつかのものを残しておくことかもしれない。重要なことではないが、誰かが降りることができる海のいくつかの場所のようなもの。みんなが一緒になって「スキューバダイビングに行こう」と言えるように。

犬が小さな迷路を解くのを見ると、非常に興奮する。私がそれを解けなかったからではないが、あなたがそれをするのを見るのは楽しい。私を幸せにする。だから、そうなるだろう。

時間を割いてくれてありがとう。他に投げ出したいことがなければ、これで私のアップデートはすべてだ。

いや、それだけだ。非常に多くのことをカバーした。これは非常に楽しかった。起こっているすべてのことの素晴らしいツアーができたと思う。Apollo Researchの人々を含む、いくつかの非常にクールなインタビューが控えている。AI安全のメールが来ているので、それは非常に興奮する。彼らは信じられない研究を発表したばかりで、OpenAIと密接に協力しているので、それに注目してほしい。

この新しい形式をどう楽しんだかを教えてほしい。もう少しインフォーマルな新しい形式を試したいと思っている。うまくいけばあまり迷惑ではなかったが、人々が楽しんでくれることを望んでいる。コメントで教えてほしい。ディランのチャンネルをチェックしてほしい。すべて以下にリンクする。購読することを確認してほしい。次の動画で会おう。