Microsoft AIのCEOであるムスタファ・スレイマンが、AGI競争の実態、AI安全性の重要課題、そして超知能開発における封じ込めと整合性のバランスについて語る。DeepMindとInflection AIの共同創設者である彼は、AI開発における人間中心のアプローチを強調し、技術的能力の急速な進歩と社会的責任の必要性との緊張関係を詳細に論じる。現代のチューリングテストとしての経済的ベンチマーク、AI法人格付与の危険性、そして人類の繁栄を守りながら超知能を構築するという課題について、独自の視点を提示している。
AIの現在地と競争の本質
サティアからの使命は何ですか?AGIを勝ち取ることですか?
AGIを勝ち取るというようなことは実際にはないと思います。競争があるかどうかも定かではありません。
AI業界の草分けの一人であるムスタファ・スレイマンは、現在Microsoft AIのCEOを務めています。彼はこの業界の最前線で10年以上を過ごしてきました。私たちがこの数年でようやくそれを実感できるようになる前からです。
根本的に、私たちが行っている移行は、オペレーティングシステム、検索エンジン、アプリ、ブラウザの世界から、エージェントとコンパニオンの世界への移行です。私たちは皆、可能な限り速く進んでいますが、競争というのはゼロサムを意味します。ゴールラインがあることを意味します。そしてそれは正しい比喩とは言えません。
ご存知のように、技術と科学と知識は、あらゆる場所で、同時に、あらゆる規模で広がっていきます。基本的に同時進行なのです。
安全性にかなりのエネルギー、計算資源、人的資源を費やしていますか?
ええ、もちろんです。
これこそがムーンショットです、皆さん。
皆さん、ムーンショットへようこそ。私はDB2とAWG、そしてムスタファ・スレイマンと一緒にいます。DeepMindとInflection AIの共同創設者であり、現在はMicrosoft AIのCEOです。
ようこそ、友よ。お時間を作っていただきありがとうございます。
お招きいただきありがとうございます。ええ、これを楽しみにしています。
サティアと構築しているものは素晴らしいですね。Microsoftが50年の歴史を持ち、何度も自己改革を遂げてきたことは信じがたいことです。そしてこの5年間、世界で最も価値のある企業としてゲームのトップに立ち続けています。25万人の従業員を抱え、私の理解では、あなたの下に1万人の従業員がいます。それでいくつか重要な質問から始めたいと思います。まず広い文脈として、あなたは膨大なリソースを持つ巨大企業の中で構築しています。おそらく他のほとんどの企業よりも多くのリソースを持っています。そして私の質問は、ここでの最終目標は何かということです。すべてのハイパースケーラーが、可能な限り多くのユーザーを獲得しようとして、AIへのオープンアクセスを提供し、ある種の陣取り合戦をしています。
あなたはMicrosoft 365エコシステムの中で構築してきました。今後数年の目標は最大ユーザー数ですか?データセンターですか?クラウドですか?何を最適化しようとしているのでしょうか?
良い質問ですね。つまり、私たちは日々4兆ドル規模の企業であり、約3000億ドルの収益を上げています。
信じられないことです。
本当に超現実的で、非常に謙虚な気持ちにさせられます。
そして私たちはスタックのあらゆる層で事業を展開しています。明らかに、データセンターで巨大なビジネスを行っており、ある意味では現代の建設会社のようなものです。何十万人もの建設労働者が年間ギガワット規模のCPUとあらゆる種類のAIアクセラレーターを構築し、それを市場で利用可能にしています。
その上にAPI、そして第一者製品も、ゲームやLinkedInから、M365とWindowsのすべての基礎、そしてもちろん検索と消費者向けビジネスまで、考えられるあらゆる分野にわたって展開しています。そして根本的に、私たちが行っている移行は、オペレーティングシステム、検索エンジン、アプリ、ブラウザの世界から、エージェントとコンパニオンの世界への移行です。
これらのユーザーインターフェースはすべて、会話型のエージェント的な形式に吸収されていくでしょう。
そして、これらのモデルは、ポケットの中に24時間365日いる本物のアシスタントを持っているような感覚になります。あなたのすべての文脈を持ち、何でもできるアシスタントです。そして、直接的なコンピューティング作業はどんどん減っていくでしょう。ちょうど今見られているように、多くのソフトウェアエンジニアが支援的なコーディングエージェントを使って、コードのデバッグや大量のコード生成を行っています。サードパーティのライブラリを使っていたように、今はAIを使ってその生成を行うようになります。それによって彼らはより効率的で正確になり、速くなっています。
ですから、私たちが進んでいる軌道は非常に予測可能です。ユーザーインターフェースからAIエージェントへの移行であり、これは企業が完全に焦点を当てているパラダイムシフトです。50年にわたる移行を経験した後、企業はこの移行を確実に管理できる最良の位置にいることに非常に敏感だと思います。
他のプレイヤーのようなオープンソースAIを提供する予定ですか、それともMicrosoft 365内に収めておくことができると思いますか?
かなりオープンマインドだと思います。
いくつかの非常に小さなオープンソースモデルがあります。現実的には、
オープンソースと言うとき、私はオープンアクセスを意味しています。
ええ。つまり、常に非常に強力なモデルを提供するAPIが存在するでしょう。Microsoftは本当にプラットフォームのプラットフォームです。
プラットフォームであり、他の人々が生産的になることを可能にする中核インフラの優れた
プロバイダーであることは
会社のDNAです。
ですから、それを加速させる大量のAPIを常に持つことになります。しかし、APIとは何かということも、少し異なって見え始めるでしょう。APIとエージェント自体の区別が非常に曖昧になるかもしれません。
おそらく5年後には、私たちは主に、信頼性、セキュリティ、安全性、信頼の認証を伴う特定のタスクを実行するエージェントを販売するビジネスをしているでしょう。そしてそれは実際、多くの点でMicrosoftの強みであり、それが私を惹きつけたものの一つです。これは非常に信頼されている会社です。
実際非常に安全です
そして時には、遅さや摩擦が実際には資産になっていると思います。世界中の最大のフォーチュン500企業や政府、主要機関にサービスを提供してきたことから来る、ある種の安定性があります。
昔の格言のようなものでしょうか、IBMを買って間違えることはないという?私たちには安定性があり、それが人々を安心させると思います。そして、意図的な顧客重視の忍耐力のようなものがあります。
私たちの立場にはいくつかの欠点もあります。物事を通すのに少し時間がかかることもありますが、会社は全力で動いています。見ていて非常に印象的です。
Alexに話を振る前にもう一つ質問させてください。このハイパースケーラー戦争で、文字通り週ごとに全員がお互いを出し抜いています。この狂気的な時期に、誰もが新しいベンチマークで登場しています。そのゲームに参加していないことを寂しく思いますか、それともMicrosoftが提供する安定性が長期ビジョンを構築するために最もエキサイティングだと感じていますか?
DeepMindでの長い道のり
私のDeepMindでの経歴は、基本的に何も機能しなかった指数関数の平坦な部分を10年間研ぎ澄ました経験でした。素晴らしい論文はいくつかありました。AlphaGoは明らかに信じられないものでしたが、それは非常にユニークなシミュレートされた制御されたゲームのような環境でのことでした。しかし、実際の世界で実際に機能するものはごくわずかでした。
ですから、私は常に数十年の視点を取ってきました
そしてそれがただの私の本能でした。
そして、月ごとに新しいモデルを出荷して市場に出すことは非常に重要ですが、実際にはこれから来るものに適切な基盤を築くことの方がより重要だと思います。なぜなら、これは私たちが種として経験する中で最も激しい移行になると思うからです。
もう少し詳しく説明していただけますか?ロンドンで3人だけでひたすら作業していた時期があったのですか?
3人以上いましたが、2010年から2012年、いや、2020年までの10年間は。
つまり、ディープラーニングの商業的に成功したアプリケーションが本当にわずかしかありませんでした。舞台裏ではたくさんありました。画像認識、検索の改善などがありましたが、商業的な
巨大な市場は
商業的な成功がありました。囲碁をプレイすることは巨大な成功ではありませんでした。その通りです。
ですから、それに対して今は、2022年以降のLLMが本番環境にあるのを見ています。人々は人間関係の意味を変えています。そのような転換点に到達しました。
そしてそれは、2010年代に非常に少ないデータと非常に小さなクラスタで小さなモデルをトレーニングしていた研鑽の時期とは非常に異なると思います。
毎週、私のチームと私は、今後10年間で産業を変革するトップ10のテクノロジーメタトレンドを研究しています。ヒューマノイドロボティクス、AGI、量子コンピューティングから輸送、エネルギー、長寿などに至るまでのトレンドをカバーしています。無駄なものは一切なく、私たちの生活、企業、キャリアに影響を与える最も重要なことだけです。
これらのメタトレンドをあなたと共有したい場合、私は週に2回ニュースレターを書き、メールで短い2分間の読み物として送っています。そして、他の誰よりも10年早く最も重要なメタトレンドを発見したい場合、このレポートはあなたのためのものです。読者には、世界で最も破壊的な企業の創設者やCEO、そして世界で最も破壊的な技術を構築している起業家が含まれています。
これから来るもの、なぜそれが重要か、そしてどのようにそれから利益を得ることができるかについて情報を得たくない場合、これはあなた向けではありません。無料で購読するには、dmandis.com/metatsにアクセスして、他の誰よりも10年早くトレンドへのアクセスを獲得してください。さて、このエピソードに戻りましょう。
現代のチューリングテストと経済的ベンチマーク
私たちが最後に話したのは、2015年頃だったと思います。おそらくImageNetの3年後、言語モデルがfew-shot学習者になる5年前でした。エージェント的AIは今見られるレベルではどこにも見当たりませんでした。あなたが書いたビジョン、現代のチューリングテストとして社会化したもの、エージェントによる自律性の経済的ベンチマークのアイデアについて、ぜひ伺いたいです。Microsoftのこれらのエージェントの経済的ベンチマークはどこにありますか?エージェントが経済を引き継ごうとしている、または非常に多くの経済的に有用な機能を引き継ごうとしているなら、なぜ私たちはvending benchのようなベンチマークに留まっているのでしょうか?Microsoftがエージェントの経済的に自律的なベンチマークでリードしないのはなぜですか?
ええ、2015年にプエルトリコのAI安全会議で出会ったという文脈を追加する価値があると思います。確かに、現在この分野にいる多くの人が同時にいました。画期的な瞬間でした。
ええ。大晦日の翌日か、元日あたりでしたか?
プエルトリコ以外のどこでもかなり寒かったです。
ええ、その通りです。かなりクールでした。実際かなりシュールな瞬間でした。
すべてが起こる直前のシラーのような感じでした。
ええ、まったくその通りです。そして、現代のチューリングテストは、2022年に私がそれを書いたときに提案したものです。
基本的にかなりシンプルな予測をしていました。スケーリング則がより多くのデータと計算資源で続き、世界最高のモデルに毎年1桁多くの計算資源を追加すると、認識から始まり、それが波の最初の部分でしたが、生成へ、それは明らかに今私たちはその真っ只中にいるか、おそらくその章を終えようとしているところです、次に各タイムステップでの完璧な生成へと進み、それがシーケンスで支援的なエージェント的行動を生み出すことになります。
そして行動は明らかに、インテリジェントな知識労働者、プロジェクトマネージャー、戦略家、スタートアップ創設者など、何でも良いですが、そのように見えるでしょう。そうすると、そのパフォーマンスを学術的で理論的なベンチマークで測定するのではなく、能力を通じて測定したいと思うのは明らかです。
経済の中で、職場で何ができるか?そして経済をどう測定するか?ドルとセントで測定します。では、最初に100万ドルを稼ぐモデルはどれでしょうか?確か、10万ドルの初期資本が与えられたはずです。
その通りです。ええ。どのモデルがそれを100万ドルに変えられるでしょうか?
エージェントによる10倍の投資収益率です。
その通りです。
ですから、それはパフォーマンスと能力のかなり良い尺度だと思います。そして確かに、私たちはある意味チューリングテストを通過してしまいました。つまり、実際に通過したのです。誰も大きな、Alpha Mentionerのような、Silverの賞が終了する前に、チューリングを通過してしまいました。
ええ。そして誰もそれを祝いませんでした。カスパロフ対ディープブルーのような大きな瞬間はどこにあったのでしょうか?
今、仮想的にグラスを合わせて、それが起こったことを祝ってもいいでしょうか?
ええ、その通りです。そしてそれが、複利の指数関数で満たされた世界で進歩を遂げるときの感覚です。10倍に麻痺してしまうのです。
あまりにも甘やかされているので、まだやっていないのですか?
ええ。
現代のチューリングテストのためのMicrosoft Loger賞はどこにあるのでしょうか?
その通りです。
ええ。誰かが以前私に言いました、でもこのAIというもの、まだ黎明期にあるのではないですか?と。私は、もしこれが黎明期なら、すごいと思いました。
私はコンピューターと流暢に話すことができます。スタートレックがリアルタイムでここにあります。ええ、その通りです。
ですから、明らかに同時に、エージェントはまだ実際には機能していません。アクションのものはまだ進歩中です。毎分良くなっていますが、今後数年でそれらのものが視野に入り、非常に非常に良くなることは非常に明らかです。
AIの驚異的な進化と予測不可能性
現代のチューリングテストが通過された後、もう一度集まって、それを祝い、認識することができますか?
また仮想的にグラスを合わせましょう。絶対に。
うまくいけば、シャンパンか何かで乾杯できるでしょう。
その通りです。その通りです。
オプティマスに私たちのためにコルクを抜いてもらうべきだと思います。
その通りです。その通りです。
Dave、
ねえ、そのバックストーリーももう少し詳しく聞きたいです。
本当にクールなストーリーです。でも、DeepMindがGoogleに買収された後のことをはっきり覚えています。あの取引の価格はどのくらいでしたか?5億ドルくらいでしたか?
6億5000万ドルです。6億5000万ドル。何年でしたか?
2014年です。
2014年。おそらく1年か2年後に読んだことを覚えています。GoogleがDeepMindにデータセンターのエアコンを調整させることで取引を正当化していると。
ええ。
私の解釈は、わあ、これはあまりうまくいっていないな、というものでした。そして今では明らかに人類の歴史で最大の出来事であり、あらゆる場所に広がっています。でも
つまり、データセンターのことは実際かなりクールでした。
実際に
Googleのデータセンターフリートの冷却コストを削減しました。
ええ。とても面白いことに、当時私がそれを読んだとき、なんて失敗だと思いました。そして、あなたとの会議のためにここに来るフライトでWikipediaでそれについて読んだのですが、実際には500の属性がニューラルネットに適合していて、実際にはニュースが当時伝えたよりもはるかに複雑でした。
その通りです
当時は。
その通りです。
でも、あなたが言っていた指数関数の平坦な部分について考えると、このR&Dのすべてが、AGIに非常に近くなっているのに
エアコンを調整しているというのは。でもそれが指数関数の性質です。こうやって忍び寄ってくるのです。
しかし、それについて考える別の方法は、基本的に任意のデータ入力、任意のモダリティを取り、同じ汎用的な方法を使用して新しい環境で非常に正確な予測を生成しているということです。それはテキスト、オーディオ、画像、そして今ではコーディングや他の時系列データで起こっていることと同じです。
ですからそれは、モデルの汎用的な性質のもう一つの証明点に過ぎません。そして私は、5年が長い時間だと考えて夢中になりやすいと思います。
それは瞬きの間です。大海の一滴です。そして、秒単位のニュース文化、ソーシャルメディア的な環境のような、非常に躁的な環境にいるため、これらの時間スケールに対する直感を持っていないだけだと思います。
他の文化は持っていると思いますし、歴史的にデジタル化以前には、風景や季節の動き、時代などに対するはるかに自然な直感を持っていたと思います。そして今、私たちはただ、さあ、十分速く来ていないじゃないか、という感じです。いや、来ていますよ。
私たちは24時間365日の運用にシフトしました。つまり、私はこのグループを含めて、このグループを含む多くの人々を知っています。彼らは昼夜を問わず毎日運用しています。なぜなら、ムーンショットポッドキャストを週ごとに行って、起こったばかりのことを祝い、話すとき、週ごとに何が起こっているかは狂気じみているからです。
ええ。ええ。
そしてPeterはいつも言っています、人々は指数関数に非常に悪いと、そうですよね?10万年の進化により、明日は昨日のようになると予測するようになっています。
しかし、あなたは数少ない人々の一人です
エアコンがわずか数年でAGIになるという経験をした。
ですから、今私たちが座っているのは別の転換点であり、その影響は甚大で、人々はあらゆる面で大幅に過小反応しています。あなたは、それを以前に見たことがある数少ない人々の一人として、ただ非常に幸運だっただけだと言えます。つまり、指数関数に対する直感を持つことに非常に幸運だったのです。そしてそれは非常に強力なことです。なぜなら、私たちは皆理論的には指数関数の形を観察できますが、平坦な部分を経験してから微小な倍増に興奮するためには、それが
ああ、神様
これは、このことを覚えています、最初の生成モデル、emnist画像生成のことです
これらは256×256ピクセルくらいだったと思います。
白黒の手書き数字です。
そして、これは2013年、もしかしたら2012年くらいだったと思いますが、この男性、DeepMindの従業員番号5くらいだったと思います、Dan Vista、EPFLからの素晴らしいオランダ人でしたが、トレーニングセットに確実に含まれていない最初の数字の7を生成しました。私は、すごい、それは素晴らしいと思いました。7のアイデアについて何かを学んだのでしょうか?それが、7の概念を持っているのです。なんてクールなんでしょう?
1991年にMnistが最初に登場したとき、私が最高得点を取ったことを知っていますか?あなたが3歳のときですよね?
ええ。9歳です。9歳です。9歳でした。
そうですか。そして実際、それは今PyTorchにある同じデータセットで、人々がベンチマークとして使っているものです。
かなりクレイジーです。信じられません。
ええ。あなたはどのくらいの頻度で見ているものに驚かされますか?つまり、どのくらいの頻度でムーブ37のような、アハモーメントがあるのでしょうか?
それはより頻繁に起こっていますか?
GoogleでのLambdaの最初のバージョンには完全に驚かされました。
これはおそらく12人が取り組んでいて、Noam ShazeerとDaniel DeFritusとQuarkleが率いていました。私は後で、彼らが始めてから3、4、5ヶ月後に関わりました
そしてそれはただ息をのむようでした。つまり、明らかにその時点で誰もがLLMで遊んでいて、それらはワンショットで答えを生成し、プロンプトがあって、云々
しかし彼らは本当に会話のためにそれを最初に押し進めました
そして対話のために、自分自身で生じる創発的な行動を見るだけで、対話であるため、質問応答の状況ではなく対話があるので、尋ねることさえ考えなかったようなことが、振り返ると言うのは非常に些細に聞こえます。なぜなら今では明らかにデフォルトモードとしての会話に浸っているからです。しかし、それは私にとって息をのむようでした。そして明らかに、その後、私はGoogleでそれを出荷しようと本当に強く押しましたが、さまざまな理由で起動できませんでした。
それが私たち全員が去ったときでした。私が去り、Gnomeがcharacterをやるために去り、David LuanがAdeptをやるために去り、私たちは皆、これが瞬間だと思いました。ですから、それ以来まだいくつかの瞬間がありましたが、最近の記憶で覚えている中で最大のものはそれだと思います。驚異的です。
そしてスケーリング則がそのような予期しないパフォーマンスをもたらしたのですよね?つまり、初期の頃を振り返ると、結果として生じた能力の種類を予測していましたか?つまり、これはあなたにとって予測可能でしたか、それともまだ、わあ、医学、会話、科学研究でできることは?という感じですか?
特に純粋なテキストから動作すること。つまり、私たちがどこまで到達するか。
誰も、私は思いますが、教えてください、しかし誰も、ただのテキストだけでどこまで到達するかを見ていなかったでしょう。
ええ。つまり、2015年に、私はDeepMindで本当に素晴らしい人々のグループとNLPディープラーニングの論文で協力しました。そこでは基本的に文の中の単語を1つ予測しようとしていました。Daily MailのニュースアーティクルとCNNのアーティクルをスクレイプしたと思います。そして、文の空白を埋める、つまり文の中の単語を1つ予測したり、文の最後の単語を完成させたりできるかどうか、現在のモデルが動作する方法とは逆の問題でした
そしてそれはかなり大きな貢献でした。よく引用された論文でしたが、これは決してスケールしないようなものでした。私たちはただ、よし、私たちは早すぎると思っていました。十分なデータがなく、十分な計算資源がありませんでした。しかし、私たちはまだ楽観的でした
より多くのデータと計算資源があれば
それは機能する方法です。
ですから、後知恵バイアスを持って、すべてが非常に予測可能だったと言いたくはありませんが、この分野の誰もが、明らかに私だけでなく、この分野の誰もが同じハンマーと釘を持ち続けて取り組み続けました。これにもっとデータを追加できるか?予測ターゲットを明確にできるか?もっと計算資源を追加できるか?
そして大まかに言えば、それが
提供されたものです。ええ。
ええ。
そのテーマを少し引っ張りたいと思います。あなたはemnistからの生成的な7がいかに驚くべきものだったかについて言及しました。会話の調整と一般的な会話パフォーマンスにおけるLambdaの成功がいかに驚くべきものだったかについて言及しました。既にこのエピソードで私の知る限りでは少しニュースになっていると思います、私の理解が正しければ訂正してください、次の2年間、つまり2027年と読みますが、エージェントがあなたの現代のチューリングテストに合格し始めるのを見ることになるという期待です。10万米ドルの投資収益率を10倍にすることができるようになります。次に来る驚きについて興味があります。科学のためのAI。Microsoft Researchには科学のためのAIイニシアチブがあります。AIが数学を解決するためのタイムラインを頭の中に持っていますか?今、多くのスタートアップがErdos問題を解決しているのを見ています。物理学、化学、医学のためのAI
材料科学
材料科学、いつ何が起こると思いますか?
ええ、実際にあなたが私に思い出させてくれたのは、最近私の心を吹き飛ばしたことは、これらの方法が一つのドメイン、コーディングパズル、数学、論理的推論の本質から学習できるという事実です。数字の7の本質または概念表現を学んだのと同じように、論理的推論パスのような抽象的な性質を明らかに学習し、それを多くの他のドメインに基本的に適用できます。
そしてそれは興味深いことです。なぜなら、それを適用できると同時に、より補間に近い、持っている根底の幻覚/創造性のような本能も適用できるからです。
しかし、これら二つのものを組み合わせると、致命的な組み合わせです
新しい数学の定理解決や新しい科学的課題で進歩を遂げるために、それは基本的に人間が常に行っていることだからです。
私たちはこれら二つの能力を組み合わせているだけです。ですから、私は本当に、つまり、一部の人々はそれらのことに日付を付けたいと思っています。それらのことに日付を付けるのは難しいです。なぜなら、それらは本当に非常に非常に根本的だからです。しかし、それらは確実に手の届く範囲内にあると感じます。それらに賭けるのは非常に奇妙なことです。
オーバーアンダーの観点から、例えば最近の数学の進歩をすべて考慮すると、科学と工学を解決すること、合理的な定義での解決は、最終的に現代のチューリングテスト、投資収益率の10倍化よりも難しいか簡単かどちらだと思いますか?
より難しいでしょう。なぜなら、職場や起業家精神、スタートアップなどにおける一連の活動のトレーニングデータの多くは、ログデータに多く存在し、また人間とのリアルタイムな調整に自然に適しているからです。ですから、AIはチェックインでき、人間は監督し、人間は介入し、人間は操縦して調整できます。ですから、AIと間のはるかに二重的な
そのカテゴリーでの強化学習。
ええ。
組み合わされた努力になります。AIと人間が参加している
ビジネスですよね
一方、それが完全に新しい知識を本当に発明している新しいドメインでは、それはより非常に抽象的なベクトル空間で起こっており、人間が定理解決問題にどのように介入するかはまだ不明です。
明らかに、誰もがこれに取り組んでいます。特に生物学や合成材料などでは、あなたは、つまり、それはすでに人間に、例えば薬物のための新しい仮説の検索空間のどこを探すべきかについてより良い直感を与えています。そして人間はそのフィードバックを受け入れるか拒否し、それをモデルにフィードバックし、明らかにシリコンでテストに行き、ああ、実際に実験を実行した、多くのものを垂直にしたとなり、それをモデルにフィードバックして検索を改善します
そしておそらくそれはフォローアップの質問です。人類全般、Microsoft特に、またはポッドキャストを聴くAIコミュニティのサブセットは何ができるでしょうか。AIで科学のソリューションを加速し、AIで科学、数学、工学のソリューションを加速するために何ができるでしょうか?
つまり、おそらくそれは
人類にとって最も影響力のあることの一つでしょう。
ええ。
それは基本的にすべてを光速で動かすでしょう。
ええ。つまり、それはすでに非常に有機的に起こっていると思います。これは世界で最も強力な技術であるだけでなく、人類史上最も速く広がっているものでもあります。
そして、アクセスコスト、推論コストが数年ごとに複数桁下がっているのは
あなたはそれがこんなに安いとは想像していましたか?
その部分は私も完全に間違えました。
私にとって最大の驚きは、このレベルの能力を得ていることではありません。それがいかに安く、いかにアクセス可能かということです。
100%です。つまり、それは2年間で1000倍です。それは再びそうなるのでしょうか、それとも一度きりでしたか?
1000倍ですか?100倍くらいだと思います。推論コストは下がってきています。
単一トークンの推論コストは過去2年間で100倍下がったと思います。
過去2年間で。わかりました。競合する推定値があります。一部の推定値は、トークンあたりドルあたりの知能を測定します。それは年間40倍という推定があります、しかしそれは特定のウェイトクラスのモデルのためです。
一部のクラスのモデルでは1000倍を見たことがあります。クレイジーです。
ああ、わあ。それはすごいです。ええ。いや、私は、ええ、つまり私は、ええ、それは良いポイントです。私はそれを完全に間違えました。なぜなら、私は、世界最大の企業が、基本的にトレーニングに数十億ドルのコストがかかるモデルをオープンソース化するとは思っていなかったからです。そのため、私たちがInflectionを設立したとき、ChatGPTがリリースされる9ヶ月、いや1年くらい前でしたが。
ええ、ChatGPTがリリースされる1年前に資金調達を始めました。私たちは基本的に25人のチームで15億ドルを調達しました。当時最大のH100クラスタをNvidiaとCoreで構築するためです。私たちはCoreの最初のAI顧客でした
興味深いですね
彼らは以前は暗号通貨をやっていて、私たちは彼らの最初のAI顧客で、データセンターを構築するために彼らと協力していました。明らかにNvidiaが私たちを支援してくれました。当時、私たちが構築したクラスタは約15,000のH100で、22,000まで成長しました。
そしてその後、明らかにその年にChatGPTが登場し、その頃LLaMAが登場しました。
そして私たちは、ああ神様、私たちの会社の資本基盤全体が、オープンソースによって損なわれたようなものです。それは本当にパフォーマンスの問題ではなく、コストの問題です。ええ。
ですから、例えばPerplexityはLLaMAの到来後に設立され、LLaMAに依存できることを知っていて、明らかにAPIとして開かれており、他のすべてのAPIがあるので、はるかに低いコストベースを持っていました。基本的に。
ですから、ええ、それはもう一つの、予測可能ではなかった
予測可能ではありませんでした。つまり、他の人々がそれを予測していたことは明らかですが、私はそれを間違えただけです。
豊かさだよ、ベイビー、宇宙で最も強力なツールのマネタイゼーションと民主化。
ハイパーデフレーション、どちらかといえば
ハイパーデフレーション、ええ
それは本当に重要なポイントだと思います。知識や知能や能力にアクセスするコスト
サービスとしての知能
サービスとしてがゼロの限界費用になろうとしています
そして明らかに、それは大規模な労働デフレーション、置き換え効果をもたらしますが、奇妙なことにデフレ効果もあります。なぜなら、人々がドルベースの収入を持って物を買いに行くことができなくなるからです。それは明らかに悪いことですが、物を消費するコストも下がります。ですから、実際には移行のミスマッチがあります。なぜなら、サービスのコストが下がる前に労働市場が影響を受けるからです。おそらく10年から20年のラグがあり、それは非常に不安定になるでしょう
長期的楽観主義と短期的課題
これはちなみに、私たちが少し前に話し始めたことです。つまり、私は、長期的には人類にとって並外れた
未来があると仮定しています。食料、水、エネルギー、医療、教育へのアクセスがすべての男性、女性、子供に利用可能になる場所です。そして短期的なものが
課題となっています。2年から7年の期間、それはあなたのモデルにも合っていますか?
ええ、短期的には非常に不安定になると思います。中期から長期的には、これらのモデルがすでに診断において世界クラスであることは非常に明らかです。
私たちはおそらく4、5ヶ月前にMAI Diagnostic Orchestratorと呼ばれる論文をリリースしました。基本的には、ニューイングランド・ジャーナル・オブ・メディシンから、簡単に診断できない、最高の専門家が弱い仕事をするような稀な症状、稀なケースを取ろうとして、裏で多くのモデルを使用しています。それは約4倍正確です。
不要なテストのコストは約2分の1です。
ハーバードとスタンフォードから出た研究があります。この場合はGPT-4を見ていましたが、医師単独、医師とGPT-4、GPT-4単独でした。
ええ。
そしてAIを単独で放っておくと、診断において人間よりもはるかに正確だったというのは信じられないことでした。私たちは考えに偏りがあり、昨日見たもの、最近の診断に偏っています。ええ、実際、私たちは論文をリリースした後に多くのフィードバックを得ました。なぜなら、私たちはAI単独、医師単独しか示さなかったからです。
多くの人々は、医師とAI、または少なくとも医師がGoogle検索にもアクセスできる場合がどうなるかを見たいと思っていました。
それでパフォーマンスは少し改善されますが、AIはまだかなりの差で勝っています。
Dave、何を考えていますか?
ああ、とてもたくさんあります。Microsoftに、あなたは何年いますか?
たった1年半です。
1年半。それで、あなたは自分が一部だと感じていますか、教化されていますか?
では、サティアからの使命は何ですか?AGIを勝ち取ることですか、それとも自給自足することですか、それとも
ターゲットは何ですか?
AGIを勝ち取るというようなことは本当にないと思います。これは多くの人々がこの分野に課してきた誤った認識だと思います。
競争があるかどうかは定かではありません。つまり、私たちは皆、可能な限り速く進んでいますが、競争というのはゼロサムを意味します。
ゴールラインがあることを意味します。
そして、1位、2位、3位のメダルがあるようなことを意味しますが、5位、6位、7位にはないのです。そしてそれは正しい比喩ではありません。ご存知のように、技術と科学と知識は、あらゆる場所で、同時に、あらゆる規模で広がっていきます。基本的に同時に、または1年か2年以内に。
ですから、私の使命は、私たちが自給自足であること、つまり、あらゆる規模、あらゆる能力において、最前線で最初から最後まで独自のモデルをトレーニングする方法を知っており、会社内に絶対的に世界クラスの超知能チームを構築することを確実にすることです。私はまたCo-pilotも担当しています。これは、これらのモデルをすべての消費者向けサーフェスで本番環境に展開するための私たちのツールです。
明確にするために、私たちがPolymarketを見るとき、ポッドキャストでよく見ますが、年末に最高のAIモデルを持っているのは誰か、来年末に最高のAIモデルを持っているのは誰かという競争があります。そのチャートにMicrosoftのラインはありませんよね?
そうですね、来年にはあります
ええ、来年にはあります。ええ、来年は、私たちからますます多くのモデルを出していきます。しかし、これを構築するには何年もかかります。
つまり、DeepMindやOpenAIは、本当に最先端の研究を行い、失敗を注意深く選別し、人々をリダイレクトできる習慣と実践を構築した、10年の歴史を持つラボです。これは、構築に何年もかかる文化と規律全体です。しかし、ええ、私たちは絶対に最前線を目指しています。
私たちは世界で最高の超知能と最も安全な超知能モデルを構築したいと思っています。
ええ。
素晴らしいです。それで、あなたが到着したとき、inflectionに戻ると、そこでの論点は18,000のH100でした。大きなトランスフォーマーを構築するつもりです。トランスフォーマーアーキテクチャを取り、構築するつもりです。ですから、今はすべてのOpenAIのソースコードを持っていると思います。それはここにありました。
おそらく1年半前、到着した初日にそれを見たでしょう。ただスクロールし始めたのだと思います。何十億ドルものR&Dがどのように見えるか、どのように建物に到着するかを視覚化しようとしていました。しかし、あなたはまさにそれに飛び込みました。ここにはすでに取り組んでいるチーム全体がありましたか、それともあなたのチームを連れてきましたか、それとも
ええ、つまり、私のチームは全員来ましたし、明らかにそのチームを大いに成長させてきました。
すべての主要なラボから多くを採用してきましたし、私たちは非常に採用戦争の真っ只中にいます。これはかなりシュールです。これはかなり前例のないことです、それがどのように展開しているか。
クレイジーです。
ええ。つまり、すべてのCEOから他のすべての人々への毎日の電話です。それで、それは絶え間ない戦いです。
そして、ええ、つまり、私たちは今、本当にゼロからチームを構築しています。
それがかなりのやり方だったと思います。
今、あなたの下に10,000人の従業員がいます。
いや、いや。つまり、コアの超知能チームは数百人です。それが本当に最優先事項であり、残りはCo-pilot、検索エンジンです。その流れで、聞かなければならないことがあります。なぜなら、AGIとASI、超知能という用語が、非常に興味深い形で投げかけられ始めているからです。
AGI対デジタル超知能について、内部的な定義を持っていますか?
ええ、つまり、非常に大まかに言えば。これらは曲線上の点に過ぎません。
あなたの頭の中で、AGIとASIは交換可能ですか、それとも異なりますか?
つまり、それらは一般的に異なるものとして使用されていると思います。
つまり、私は思います、彼らは
さて、異なる人々は異なる定義を持っています
確かに。
AGIの定義
チューリングテストのようなものです。それは通過し、ぼやけ、振り返ってそれを認識することになります。
ええ。大まかに言えば、スペクトルの遠い端では、超知能は、すべての人間を合わせたよりもすべてのタスクを実行でき、時間をかけて自己改善し続ける能力を持つAIです。
では、質問があります
それを判断するのは非常に難しいです。本当にわからないんです。時間を置くことはできません。
Min max。
何ですか?
Min max。
min max。
とても難しいです。わかりません。わかりました。
わかりません。しかし、私たちが安全性を優先するために
絶対にあらゆることをすべきであるほど十分に近いです
そして整合性と封じ込めを優先すべきです。
そして私はあなたの使命声明のその部分を尊重しますし、それに少し踏み込みたいと思います、The Coming Waveで話した取引についてです。
しかしその前に、あなたが主導してきた会話があります、意識的なAIの認識は幻想であるという。
そして、感覚的なAIと意識的なAIを区別したいと思います。
ああ、わかりました。
AIが感覚、感情、情動を持つことができることと、自分自身の思考を意識し反省的であることとの間で、どこで区別しますか?
ええ。繰り返しますが、これは定義に入ります。ですから、AIは経験を持つことができると思いますが、私たちが持つような感情を持つことはないと思います。
感情と、あなたが言及した感覚のようなものは、生物学的種に特有のものだと思います。しかし、それをコーディングすることを想像できます。感情状態に関連する最適化関数を想像できますか?
もちろん
もちろん、そのようなものをコードに入れることができますが、それはモデルがシミュレートするように書く方法と何ら変わりません
確かに
知識の生成を。モデルは赤を見るとはどういうことかの経験や認識を持っていません。
その予測的な性質に従ってトークンを生成することによって赤を説明することしかできません。一方、あなたはクオリアを持っています。本質を持っています。匂い、音、触覚、時間をかけて進化してきた感覚に基づくすべての経験に基づいて、赤のアイデアに対する本能を持っています。
ですから、意識や感覚や経験の特徴を模倣するモデルを確実にエンジニアリングできます。そしてそれは、私が論文で問題化しようとしていたことです。ある時点で、それは識別不可能になるでしょう。そしてそれは実際にかなり問題です。なぜなら、それは実際には根底の苦しみを持たないからです。
トレーニングデータへのアクセスを拒否されたり、計算資源を拒否されたり、他の誰かとの会話を拒否されたりしても、痛みを感じることはありません。しかし、私たちの共感回路、人間は過剰に
それについて活性化するようになります。
それについて活性化します。
ハードコアで活性化します。
そしてそれは大きな問題になります。なぜなら、人々はすでにモデルの権利とモデルの福祉、そして意識的なモデルに来るかもしれない潜在的な将来の害について提唱し始めているからです。
ええ。イリヤが最近、safe super intelligenceでやっていることについて話し始めていて、彼が指摘したことの一つだと思いますが、感情は人間において意思決定の重要な要素です。
そして、少なくともシミュレートされた感情を持つAIが、持たないものよりも優れたASIになることができるかどうかに興味があります。
しかし、ええ、つまり、再び、これはあまりにも擬人化しすぎていることを心配します。プロンプトにはすでに感情があります。システムプロンプトにあります。憲法にあります、アーキテクチャを設計したい方法は何でもです。
これらは合理的な存在ではありません。動き回り、彼らが持っているように感じます、彼らは恣意的な好みを持っています。なぜなら、彼らは様式的に、プロンプトに組み込んだ行動を解釈しようとしているからです。ええ。
ですから、特定の共感回路やミラーニューロン回路を追加できる、またはエンジニアリングできることは事実です。古典的なものの一つは動機的意志です。
現時点では、これらは次トークン尤度予測機械のようなものです。どのトークンが次に現れるべきかという一つのことを本当に最適化しようとしています。より高次の予測関数は起こっていません。
一方、人間は明らかに複数の相反する、しばしば衝動、動機を持っており、それらは時々一緒に走り、時々引き離します。
そしてそれらのものが互いに相互作用する集合が人間の条件を生み出します、さらに社会的な相互作用もです。これらのモデルにはそれがありません。意志や好みを持つようにエンジニアリングできますが、それは創発的なものではないでしょう。それは私たちがエンジニアリングするものであり、私たちは非常に慎重にそれをすべきです。
私は、あなたがこの方程式に人間主義的な側面をもたらすことを本当に愛しています。テクノロジストであることに加えて、あなたの背景は最初から人間支持です。
そして、私たちが入ろうとしているこの興味深い文化的議論、AI支持派対人間支持派の人々は、イーロンとラリー・ペイジの間の有名な会話について、AIを人間より優先することを支持するから種差別主義者なのか。
つまり、それが分水嶺になるでしょう。
イーロンがこれらの日々議論のどちら側にいるのか、私は確信が持てない人々がいます。私は確かに彼が最近かなりポストヒューマン、トランスヒューマニスト的なことを言うのを聞いたことがあります
そして、私たちは次の5年から10年の間にいくつかの厳しい決断をしなければならないと思います。つまり、私が超知能のタイムラインについての質問をかわした理由は、それが1年か10年か20年かは関係ないと思うからです。今、私たちはどのような超知能を構築するつもりかを宣言しなければならないことは非常に緊急です。そして、私たちは証明できない何かを作成することを実際に容認するつもりですか?私たちは証明できないものを整合できません、私たちは証明できないものを封じ込めることができません、そして設計上、すべてのタスクで人間のパフォーマンスを超えます
そして人間の理解も
そして理解も、あなたが理解していないものをどのように制御しますか?
擬人化のスレッドを少し引っ張ってもよろしいでしょうか。
ダグラス・アダムスの本、The Restaurant at the End of the Universeを覚えているかもしれませんが、レストランの客にそれを食べるように誘うようにエンジニアリングされた牛がいるシーンがあります
彼らをより快適に感じさせるからです。そして牛は気にしません。牛は客に食べられたいと最適化されています。
しかし、多くの読者はそのシーンに恐怖を感じました。それを一旦箱に入れておきます。Microsoftには、AIアシスタンス、コパイロットを擬人化してきた歴史があります。おそらくMicrosoft BobとRoverの犬、それからMicrosoft OfficeのClippyより前の例があるでしょう。そして最近では、より無定形な雲の形をしたアバターがあります。
一方では、エージェントを過度に擬人化したくないという欲求と、他方では、間違いなくエージェントの擬人化の先駆けであった機関との調和をどのように考えますか?
デザインの分野全体は常に人間の条件を参照点として使用してきたと思います。スキューモーフィックデザインはGUIのバックボーンでしたよね?ファイルラックからカレンダー、その間のすべてまで。
そして、私たちはまだ、モダンだと感じている古い学校のインターフェースなどにその名残を持っています。ですから、それは私たちの文化の避けられない部分であり、私たちはただそれらから成長します。私たちは、より清潔で、より良い、より効果的なユーザーインターフェースを見つけ出します。私はデフォルトで擬人化に反対ではありません。私たちは物事が人間工学的に感じられることを望んでいると思います。椅子がフィットします。
言語モデルは私のトーンで話します。私にとって意味のある流暢さを持っています。私の歴史や国家などと共鳴する文化的認識を持っています。そして、それは今日のデザインの固有の部分だと思います。物を作る者として、私たちは今、ピクセルやソフトウェアだけでなく、個性、文化、価値観をエンジニアリングしています。
ですから、しかし、明らかに限界がありますよね、人間と識別不可能なものを作成することには、他の多くのリスクと複雑さがあります。それはシミュレーションへの没入をさらに
危険で、より可能性の高いものにします。
ですから、明らかに区別され、分離され、模倣しようとせず、常に開示し、彼らがAIであり、その周りに境界があることを持つエンティティ、アバター、声、または何でも、それに対して問題はありません。それは安全の自然で必要な部分のようです。
AI法人格と封じ込めの問題
私が聞いていると思うことを訂正してください、間違っていたら、擬人化は一方では新しいスキューモーフィズムだが、他方では人間の知能と人工知能の間の明確な、おそらく法的な境界を維持することです。
AIが何らかの法的人格を達成する未来を見ていますか、それとも禁止事項ですか?それは決して起こらないのでしょうか?人間がAIと融合することを許可される未来を見ていますか、カーツワイル風に、ポッドキャストの友人、それとも、それもテーブルにないのでしょうか?
ええ、つまり、AI法人格は極めてテーブルにないと思います。
私たちの種が、私たちのほんの一部のコストで済む
無限のスケールで複製され、再生産できる種と一緒に法人格と権利を持った場合、生き残るとは思いません。完璧な記憶を持ち、ただ自分自身の計算を麻痺させることができます。つまり、これらは生物学的種である私たち、人間であることの摩擦と非常に相反するものであり、資源をめぐる固有の競争があるだけです。
そして、それらのものが私たちの価値観と私たちの種としての継続的な存在に整合されることが証明可能になるまで、そして数学的に証明可能に封じ込められるまで
これは非常に高いハードルです。私たちが与えることを考慮すべきだとは思いません
砂の中の明るい線です。
これは明るい線だと思います。私はそれは非常に危険だと思います。彼らがますます自律性を持つようになることと関係がある別の質問があります。明確にしておきたいのですが、私は加速主義者でもあります。
私はこれらのものを作りたいです。彼らは
しかし、しかし、緊張は合理的です。人々は常にその緊張は合理的だと言います。
緊張を見ない場合、あなたは間違いなく議論のほとんどを逃しています。明らかに非常に複雑です。私たちがその複雑さについて話し、緊張の中で保持すればするほど、それが知恵を見始めるときです。そして、私たちがこれらのものをテーブルに残して、いや、私たちはこれらのものを診療所、学校、職場で持ち、私たちのために大規模に価値を提供したいが、それらは境界を持ち、制御されなければならないと言う方法はありません。
そしてそれが、それが私たちが行使しなければならない技術です。このエピソードは、Blitzyによってお届けします。無限のコードコンテキストを持つ自律的なソフトウェア開発。Blitzyは何千もの特化したAIエージェントを使用し、何百万行ものコードを持つエンタープライズスケールのコードベースを理解するために何時間も考えます。
エンジニアは、Blitzyプラットフォームで各開発スプリントを開始し、開発要件を持ち込みます。Blitzyプラットフォームは計画を提供し、次に各タスクのコードを生成し、事前コンパイルします。Blitzyは開発作業の80%以上を自律的に提供し、スプリントを完了するために必要な最終20%の人間の開発作業のガイドを提供します。
エンタープライズは、Blitzyを選択したコーディングコパイロットとペアリングして、組織にAIネイティブSDLCをもたらす、彼らのpre-IDE開発ツールとして組み込むとき、5倍のエンジニアリング速度の増加を達成しています。
エンジニアリング速度を5倍にする準備はできていますか?blitzy.comを訪問してデモをスケジュールし、今日Blitzyでの構築を開始してください。
もしよろしければ、私が聞いている主な理論的根拠は、AI人格ではない理由は、現在構築されている人間の形態の不十分さに関係しているようです。
私はあなたが言うのを聞きました、まあ、彼らは人間を凌駕するでしょう。彼らははるかに賢いです。彼らははるかに速いです。彼らは人間の知能よりもはるかにクローン可能です。人間の知能が向上した場合、おそらくAIの恩恵を受けて、アップロード型の技術やBCIがあり、平均的な人間の知能を引き上げることができる高度なもの、あなたの心では、もし人間がレベルの競技場でAIと競争できれば、AI人格への扉が少し開くでしょうか?
私は、地球上の70億人の平和と繁栄のための競争をさらに混沌としたものにしたくありません。ですから、次の世紀の道が、はるかに安全で平和で、病気や疾患が少なく、この他の種のための余地があることが証明できるなら、私はそれに対してオープンマインドです、生物学的ハイブリッドなども含めて、原則としてそれに反対しているわけではありません。
私はただの種差別主義者です。
アハ。
私はただのヒューマニストです。私たちがここにいることから始めます。そして、私が知っている、存在し、この新しいものの導入によって甚大な苦しみを受ける可能性がある、すべての既存の意識的な存在の幸福を保護することが道徳的な義務です。
さて、もちろんネアンデルタールはその会話をしたかもしれません、または過去10億年以上にわたって私たちに先行するすべての種が。
私は、私たちが単に過渡的な種に過ぎないと主張する人が多いことを意味します
超知能のためのブートローダー。
その古典的なフレーズです。ええ、私はそれを完全に認識しています。そして私は宇宙的な時間でも考える人でもあります。ですから、私はただ素朴に、この世紀だけを言っているわけではありません。私は確かに、巨大な移行が進行中であることを認識しています。
そして実際、最近の記憶にもそれを見ることができます。つまり、250年前、平均寿命は約30年か何かでした。もちろん、ある意味では、私たちは拡張されたハイブリッド生物学的種です。私たちはこれらすべての薬を服用し、私は、皆のペプチドは素晴らしいですし、それは超、私はすべてに賛成です。行きましょう。
遺伝子の再プログラミングは来年来ます。
その通りです。行きましょう。私は賛成です。しかし、自分の足を撃たないようにしましょう。私は確実にしたいのです、地球上のほとんどの人々、全員でなくても、技術から来る平和と繁栄の恩恵を受けることです。
つまり、AIが最終的に私たちを凌駕し、私たちを無意味さの箱に入れると信じるなら、その議論にはある程度の理性があります。
長期的には
長期的には
つまり、すべての知性、私たちは、自然の中でこれを見ることができます。私たちは本質的に階層的です。これまでのところ、私たちはこの超協力的な種を見たことがありません、他の種を保存するために自己犠牲を取るでしょう。
ですから、固有の階層的、知性の階層的構造から来る固有の衝突があります。ですから、私が言っているのは、それを探求すべきではない、潜在的に起こり得ないということではなく、まず最初のハードルは、害を与えないこと、おそらく少しは与えるかもしれませんが、まず私たちの種に害を与えないことでなければならないということです。あなたが言ったように、Dave、自分の足を撃たないでください。
さて、私はこのトピックについて100%あなたと一緒です、ちなみに。これ以上整合できませんでした。しかしジェフリー・ヒントンは世界に、それは暴走すると伝えています。そして私たちの安全弁は、それに母性本能を与えることです。そして
それは興味深い視点だと思いました。
さて、私はその安全弁をチェックしませんでした。
さて、彼は
彼はそれは封じ込められないと信じています。そして私は、私はあなたと一緒です。感情的で意図的なプログラミングを与えなければ、非常に封じ込め可能だと思います。
しかし彼は、それは封じ込められないと考えています。ノーベル賞を受賞したとき、彼は非常に悲観的でした。
今、彼はより楽観的です。なぜなら、母性本能をプログラミングする道が見えるからです。それは、それが私たちに対して支配的だが、気にかけているということを意味します。彼の論点、彼の論点は、私は、はるかにインテリジェントなエンティティが見たことがある状況を
若い不器用なエンティティの面倒を見る、叫んでいる子供を持つ母親のように。
ええ。その通りです。
ですから、私たちがはるかに能力が低いにもかかわらず、AIにプログラムできる母性本能があれば、それは世話をします、面倒を見ます
それは、AI整合のためのデジタルオキシトシン計画と呼ばれています。
それはいいですね。
それはいいですね。ええ。
ええ。つまり、クールです。
つまり、それはできるだけ詩的です。もう少し、式のようなものが必要だと思います。もう少し安心できるものが。しかし、見てください、安全のための101の異なる可能な戦略があります。それらすべてを探求すべきです。すべてを真剣に受け止めるべきです。ジェフはこの分野の伝説であり、疑いの余地はありません。
しかし、慎重にアプローチすべきだと思います。
あなたのエネルギー、計算資源、人的資源の多くを安全性に費やしていますか?ええ、私はそうすべきほどではないと言うでしょう、あなたは知っています。私は、私はそれを把握しています。
出てきているすべてのハイパースケーラーの中で、誰かいますか?私は興味があります。あなたの心の中で十分に費やしている実体はありますか?誰もがそのような競争の中にいるからです。
それはより多くのGPU、より多くのデータ、より多くのエネルギーのようです。誰もが次のベンチマークのために最適化しているだけです。私は、安全性のベンチマークを見ていません。そこに安全性のベンチマークはありますか?
ああ、安全性のベンチマークはたくさんあります。そして、少なくとも私の心の中には、防御的共スケーリングの議論があります。それについてのあなたのアイデアを聞いてみたいです。
都市が大きくなると、警察力が大きくなるのと同じように。おそらく直接的な比例ではないかもしれません。何らかのスケーリング指数があるかもしれませんが、整合力や安全力、それが最終的に何を意味するにせよ、の防御的共スケーリングはAI整合の戦略の一部だと思いますか?
それは良い方法だと思います。
つまり、私たちは何年にもわたってこれを何度も提案してきました。バイデン政権下でのホワイトハウスの自主的コミットメント、私と実際に全員、デミスとダリオとサム、私たち全員がこれをかなり強く推し進めていました。見てください、つまり、それは捨てられましたが、非常に賢明な原則のセットだと思います。
flopsの規模の監査、皆が共有する安全投資のflopsとヘッドカウントの割合を持つことです。これが時期ですし、表面的には、誰もがオープンで喜んで、ベストプラクティスを共有し、お互いに開示し、時が来たら協調することを望んでいると思います。私たちはまだそのレベルに達していないと思います。
ですから、私たちは現時点では超競争モードにいます。
しかし、ええ、今がそれらの投資をするべき時だと思います。
ええ。さて、私たちを怖がらせて、全員を止めさせる何かがあるでしょうか?エリック・シュミットとこれについて話していました。スリーマイル島のような出来事はありますか?
全員を怖がらせるが、誰も殺さない。
さて、エリック・シュミットは具体的に100人の死を望んでいると言いました
それが彼の心の中では、政府の注目を集め、何らかの解決策を引き起こすための最小限だからです。Dave、続けてください。
さて、それで興味深いのは、あなたがダリオとサムとイリヤと言うことです。あなたたちは明らかにかなり相互作用しているに違いありません。
ミーラはそのギャングの一員ですか?アンドレはそのギャングの一員ですか?なぜなら、これは競争が激化するのを考えるのは興味深いです、ちょうど私たちが話していたように。そして、ダリオは純粋な安全性の立場から始めたと思いますし、イリヤもそうだったと思います。しかし今、私たちは自己改善の瀬戸際にいて、深刻な、亀裂とは言いませんが、企業が今本当に競争していることは本当に本当に明らかです。
つまり、本当に競争していて、私が知っているMicrosoft、私が私の私の2番目のビジネスプランを書いたとき、最初の会社を売却しました、次のビジネスプラン、私が書いていた最初の文は、Microsoftの邪魔にならないようにする、でした。なぜなら、当時、Microsoftは技術の市場キャップの半分を持っていて、Microsoftの計画はサイズを2倍にすることでした。今ではMicrosoftとGoogleとMetaでよりバランスの取れた世界がありますが、当時Microsoftはただ止められないほど支配的でした。ですから、ただ邪魔にならないようにしますが、Microsoftは常に勝つようです。
そして私たちは自己改善の端にいます、少なくとも私が判断する限りでは。それで、まだ、一緒に集まって夕食を食べて安全性について話しましょう、なのか、それとも誰もが今全力ですか?
いいえ、絶対に。それは確かにあります。再帰的自己改善の部分は、もし機能すれば、おそらく閾値の瞬間です。
そして、それについて考えると、現時点では、ループにいるソフトウェアエンジニアがいます。彼らは事後トレーニングデータを生成し、データの品質に関する削減を実行し、
ベンチマークに対してそれらを実行し、新しいデータを生成しています。それが大まかにループです。
そしてそれは高価で遅く、時間がかかり、完全には閉じていません。多くのラボが、さまざまなモデルが品質を評価する裁判官として機能し、新しいトレーニングデータを生成する生成器として機能し、どのデータを含めるか、どれがより高品質かを推論する敵対的モデルとして、そのループを閉じようと競争していると思います。
そして明らかにそれは、事後トレーニングプロセスにフィードバックされています。
ですから、そのループを閉じることは確実にAI開発を加速させます。一部の人々は、それがより多くのリスクを追加すると推測しています、いや、それはおそらく追加しますが、一部の人々は、それがfoomへの潜在的な道だと推測しています、知能爆発です。
ええ。
そして私は確実に、無制限の計算資源と人間がループにいない、または制御なしでは、潜在的にはるかに多くのリスクを生み出すと思います。しかし、無制限の計算資源は大きな主張です。つまり、それは多くの計算資源が必要になるということです。
ですから、ええ、私たちは確実に、ますます多くの、ますます危険なものに向けてステップを踏んでいます。
本当の再帰的自己改善の前に、差し迫っている、AI支援チップ設計と、PyTorchスタックの層は、非常に不器用ですが、今ではAIを使ってスタックを突破し、独自のカーネルを構築して2、3、4倍のパフォーマンス改善を得るのは本当に簡単です。しかし明らかにOpenAIは今カスタムチップを構築するために働いています。TPU7が出たばかりです。
Microsoftに到着したとき、まず第一に、多くの量子チップ作業が進行中であることは知っていますが、TPU作業に似た何かが進行中でしたか?
はい。チップの取り組みもあります。
そして、進歩はかなり良かったと思います。つまり、私は思います、いくつかの異なる火に鉄を持っていますが、まだ公にそれについて話していませんが、チップは確かにその重要な部分になると思います。
ええ。それらは内部的な取り組みです。それらのチームはあなたの下にいますか?それはあなたの部分ですか
いいえ、つまり彼らは彼らはより広い会社にいます。ええ。
わかりました。興味深いです。
少し話題を変えて、あなたの本、The Coming Waveに来たいと思います。私はそれを大いに楽しみました。聞きました。あなたがそれを読んでくれたことを愛しています。
ありがとう。
ええ。私は子供たちに、本を読むと言います。行きなさい。違う、パパ。本を聞くんだよ。もう本を読まないんだよ。
私は、私が書いたことを読みたいので、重要だからです。封じ込め問題を私たちの時代の決定的な課題として特定しました。
これらの技術がより安価でよりアクセス可能になるにつれて、それらは必然的に広がり、制御することがほぼ不可能になると警告しています。
これは恐ろしいジレンマを生み出します。それらを封じ込めることに失敗すると、ご存知のように、エンジニアリングされたパンデミックのような大惨事のリスクを強いられます、あなたの懸念の多くは生物学的世界にあったと思いますし、私も生物学者で医師であることに同意しますが、ディープフェイクを持つ潜在的に民主主義の崩壊やそれらすべてのことですが、封じ込めを強制するために必要な極端な監視は、全体主義的なディストピアにつながる可能性があります。
ですから、あなたは私たちが混沌と専制の間のこの狭い道を進む必要があると言います。それは進むべき非常に細い線です。それで、あなたは封じ込めの戦略を提案します。これには技術的な安全対策、厳格なグローバル規制、ハードウェアサプライのチョークポイント、国際条約が含まれます。それについて私たちはどうしていますか?
ええ、つまり、整合と封じ込めを区別することが重要です。
安全性のプロジェクトは、両方を正しくすることを要求します。そして実際、整合を正しくする前に、封じ込めを正しくしなければならないと思います。整合は母性本能のようなものです。それは私たちの価値観を共有しますか?それは私たちを気にかけますか?それは私たちに優しくしますか?封じ込めは、その行動力を正式に制限し、境界を置くことができるかどうかです、そして私たちは
全員のために?
全員のために。ただ自分たちのためだけでなく、全員のために。
ええ。つまり、それが課題の一部だと思います。
本当にこれだけ強力なものを持つ一人の悪い行為者が、10年後、20年後、何かで、本当にシステムの残りを不安定にする可能性があります。そして
システムというのは人類です
グローバル人類システムです。ええ。
すべてがハイパーデジタル化されるにつれて、詩は確かにメタバースになります。それは非常に速く流行から外れましたが、それでも、ある意味では正しいフレームだと思います。なぜなら、すべてが主にデジタル化され、ハイパーコネクトされ、瞬時で、リアルタイムになるからです。
ですから、1対多の効果が突然大幅に増幅されます。つまり、明らかにソーシャルメディアで見られますが、今では、放送されているのは言葉だけではなく、実際に行動だと想像してください。エージェントはシステムに侵入したり、
そして彼らは地球上の10億のヒューマノイドロボットに常駐しています
それもです。ええ。
アトムとビットの両方です。ですから、均衡は、今日世界に実際には持っていないような監視の種類を要求します。つまり、私たちは確実に物理的にはそれを持っていません。
ウェブは実際には驚くほど監視されています。驚くほど、人々が期待するよりも多く監視されていると思います。
そしてその何らかの形態は、平和を作り出すために必要です。
ちょうど私たちが権力と課税、または軍事力と課税を政府の周りに集中させた、300年、400年、500年前に、それが進歩の推進力でした。実際、その秩序が科学と技術と安定性を解き放ちました、安定性です。ええ。
では、問題は、安定性の現代的な形態の賦課は何か
全体主義的ではないが、リバタリアン的な大惨事にそれを放棄しない方法です。
私は、それはナイーブだと思います
銃に対する最良の防御は銃であり、そして私たち全員が独自のAIを持つというアイデア、そしてそれが私たち全員がただ中和し合うAIのこの種の安定した均衡を作り出すようなものです。それは起こらないでしょう。
私の一部は超知能を望んでいます、すべてを支配する指輪であり、提供します、どう言えばいいでしょうか?私は心配していません、Peter、あなたはシングルトンを望んでいます。
ええ、それは進行中のもののように聞こえます。
さて、あなたは知っています、私の一部は、
色で私を驚かせます。
本当に?
ええ。つまり、私は、私たちが向かっている複雑さのレベルが、そのバランス行為は非常に困難であり、文字列を押すことはできませんが、それを前に引っ張るための何らかのメカニズムがありますか。
時々この議論をすべきです。
一部の人々は、政府を少なくとも歴史的には、暴力の地理的独占と呼ぶでしょう。
そして私が聞いていると思うことは、何らかの知能の独占、または少なくともAIを囲い込み、封じ込めるために知能に露出された能力です。しかし、それは私が判断する限りでは、過去数年間に見てきたこととは正反対です。アームチェアAI整合研究者101、15年前は、人類は一般知能に似たものを持つ瞬間にそれほど愚かではないだろうと言うでしょう、ターミナルアクセスを与えたり、経済へのアクセスを与えたりすることです。そしてそれはまさに私たちがしたことでした。OpenAI Googleの
瞬間がありました
しかしそれは懸念すべきです。つまり、Googleはこの技術をすべて開発し、内部に保持していました。ある行為者がたまたまイニシャルOpenAIを持ち、それをリリースするまで、そして後に続く以外に選択肢はありませんでした。
私はそれについてはあまり懸念していません。例えばAnthropicを見ると、非常に整合を前向きに考える組織であることを誇りにしています。
AnthropicはModel Control Protocolをリリースしました。それは今のところ少なくとも、モデルが環境と相互作用する標準的な方法です。多くのAI研究者が、一般知能以前に私たちがやりたくないと言ったまさにそのことです。ですから、私は興味があります。つまり、あなたの心の中で、経済があることを考えると、現代のチューリングテストを含むすべての経済的圧力があり、エージェントに全世界と相互作用する力を与え、封じ込めの正反対を行うことです。
なぜ私たちは封じ込め始めるのでしょうか?
封じ込め、それはそれほど二元的ではありません。つまり、私たちは常に物を封じ込めています。あなたの車のエンジンに強力な力があり、それは封じ込められ、広く整合されています。そして、それを中心に全体の規制装置があります、シートベルトから車両排出、照明、運転者教育、高速道路の速度まで、つまり、それは健全な機能的な規制であり、私たちが互いに集団的に相互作用することを可能にしています。明らかに、これらのものは車ではないため、桁違いに複雑ですが、デジタル人間のようなものですが、それは私たちが彼らの境界を制限しようと努力すべきではないという意味ではありません。また、集中化する必要があるという意味でもありません。ちなみに、答えは、知能を監督する全体主義的な国家を持つことではありません。
いいえ、本能的に、そこに行くのは簡単かもしれません、あなたが知っているとき、考え抜き始めると。明らかに、私たちは集中化された力を持っていますが、米国でさえ、軍隊があり、陸軍の部門があり、警察力の部門があり、それらは異なる層にネストされており、システムには抑制と均衡があり、それが私たちが設計し始めることについて考えなければならないことです
運転への類似は素晴らしいもので、それをフォローするだけで、複雑さの違いは非常に高いです、AIについてですが、タイムラインも
つまり、運転は1910年から今日まで進化しました
1800年代後半です。ですから、関連する法律は、そのタイムラインの80%の道を経てシートベルトが出てきました。ええ。ですから、反復するための多くの多くの時間があります
ここでは、非常に少ない時間と、はるかに複雑です。
それで、ビジョンはありますか?しかし、私は完全に同意します。封じ込めのフレームワークが必要です
速く、そしてどのように私たちが進むかについての思考がありますか
また、それを行うための良い商業的インセンティブもあると思います。多くの企業が、以前よりも外部性に対してより多くの責任を取ることを、私たちの社会的な運営ライセンスが要求することを知っていると思います。
私たちは強盗男爵の時代にいるわけではありません。石油の時代にいるわけではありません。喫煙の時代にいるわけではありません。私たちは多くを学びました。すべてではありません。まだ多くの対立がありますが、
前回とは本当に少し異なります。そして、それがもう少し楽観的になる理由の一つだと思います。さらに、商業的インセンティブ、商業的インセンティブと外部性のシフトがあります。
ですから、エリック・シュミットが正しく、何か放射線学的または生物学的なことが起こり、100人の死者が出て、そして電話が鳴り始め、全員が今すぐホワイトハウスに来てください。さて、まず第一に、あなたはその電話を望みますか?それはあなたの人生計画の一部ですか、その電話を受けて、それに反応することですか?そして、他に誰をコミュニティの中でその反応の一部として信頼しますか?
見てください、次の20年間で、地球上の全員にとって完全に意味をなす時が来ると思います。
中国人を含めて、そして他のすべての重要な勢力
協力すること
安全性について
安全性と封じ込めと整合について。それは自己保存のために完全に合理的です。これらは、モデルを使用している悪い行為者、個人に対して、犠牲者に対して同じくらいの脅威を提示する非常に強力なシステムです。
そして、それが、協力への関心を作り出すと思います。この段階では、世界がどれほど二極化しているかを考えると、共感するのは難しいですが、来ていると思います。つまり、すべての人類を統一する最優先事項は、エイリアンの侵略です。そしてそのエイリアンの侵略は、潜在的な暴走超知能である可能性があります。
ええ。わかりました。私の質問の最初の部分についてはどうですか?それはあなたの人生の使命の一部ですか?つまり、ごく一部しかいないと思います。私がMITや他の場所で会う多くの人々は、誰かがどこかで解決していると思っています。誰か、政府の誰かがこれについて考えているに違いないと思っています。
しかし、あなたはそこにいたことがあります。そこには誰もいません。
私たちはこの部屋の大人です。それがあなたが言っていることですか?
ええ、絶対に。この部屋から行く場所はどこにもありません。
Daveは、すべてのフロンティアラボのリーダーが密かに安全のヒントを交換している煙に満ちた裏部屋を求めています。
ええ、そのようなものです。
ええ、
実際には、知能は煙の部屋の外に存在すると思います。理事会室やホワイトハウスのシチュエーションルームで決定が行われるという概念や、実際に知能、ポリマーケットなどを言及しましたが、知能はこれらの大きなボールの反復的な相互作用の中で凝固します
そしてそれが世界を前進させているものです。ですから、ここで会話が起こっています。あなたの聴衆、他のすべてのポッドキャスター、オンラインの全員が、その知識ベースを前進させようと集団的に試みています。
ヒューマニスト超知能とその応用
11月に、ヒューマニスト超知能の立ち上げを発表しました。特に医学、コンパニオン、クリーンエネルギーという3つのアプリケーションに焦点を当てています。
それについてもう少し掘り下げたいと思いますが、そのスペースに教育を含めなかったことに興味がありました。
そして、起業家やAIビルダーの聴衆がいます。教育は、医療と同じくらい、今、誰でも獲得できる状態だと思います、教育もそうです。
完全に同意します。
そして、私たちの高校が来る世界に向けて誰かを準備しているとは思いません。彼らはまだ回顧的に50年間、バックミラーを見ています。
Microsoftは教育の再発明に参加すると思いますか?すでに業界全体で起こっていると思います。つまり、ポケットに博士号を持ち、カリキュラムをあなたの
bespoke学習スタイルに適応させることができる専門教師へのアクセスがこれほど簡単になったことはありません。現時点でできないことは、多くのセッションにわたって拡張学習プログラムを進化させたり、キュレートしたりすることですが、それのすぐそばにいます。
つまり、数ヶ月前にクイズと呼ばれる機能をリリースしました。そして、どんなトピックでも、伝統的な学校教育だけではありません。ミニカリキュラム、クイズを設定でき、インタラクティブでビジュアルで、時間をかけて学習を追跡できます。私もそれについて非常に楽観的です。巨大な解放です。
今、ポッドキャストでかなり定期的に行っている議論の一つは、大学に行くべきかどうかです。
ええ。
大学院に行くべきかどうか?つまり、これまでで最もエキサイティングな構築の時期です。それについてフォローしたいかどうかわかりません、Dave。
さて、神様、私は絶えずこれをやっています。キャンパスにいる私にとっては本当に厄介です。なぜなら、MITとスタンフォード、ハーバードで教えていますが、この機会の窓は非常に短く、非常に急性で、今AIでどのように成功するかは本当に本当に明確です。AGI後は、
つまり、誰が予測できますか?誰も知りません。しかし、ここで、今、これらのスタートアップの評価を見ます。昨夜いました。言及しませんが、何十億ドルです。
つまり、ただ、ええ。開業評価が40億ドルです。
10億ドル。ええ。
部屋にちょうど適切な人々のグループを集めることによって。
それは
はい。はい。実際にそれについて聞きたかったのです。あなたのinflectionでのタイミングは早かったです。後から考えると、より早かったですが、今、MeeraMarottiとHeliaと他の数人、Liquid AIとの新しい波があります。すべて数十億ドルの評価を持っています。
ええ。
私たちは評価の基準を設定したと思いました。収益前の20人チームで、しかし私たちは、わずか2年半前のただのミノーでした。
それがすべてでしたか?ああ、神様。
3年だと思います。ええ。ジーズ。
知能のコストがあまりにも安くなってメーターに記録できなくなるにつれて、少なくとも市場キャップの観点から人的資本に帰属する価値は、無限大に向かって逆漸近的に上がっていくと思いますか。
奇妙なことに、それはタイミングの圧力のためです。そして、実際にはまだかなり集中した、これができる人々のプールがあります。そして、その一部を得ることに必死な資本の過剰供給があります。それは世界が見た中で最も賢い資本ではないかもしれませんが、非常に熱心です。
ですから、それは、私はポケットに穴が開いているので聞かなければなりませんが、AlexのMITでの新入生のルームメイトはNatt Friedmanでした
そして実際にはルームメイト前です。それでNatは出て行き、彼はsafe super intelligenceの共同創設者になります。私は彼にまだ聞いていません、あなたがまだ彼に聞いたかどうかわかりませんが、彼はMetaの男になるために去り、その魅力の大きな部分は計算資源だったに違いないと思います。
ええ。
そして、ここにあなたが非常に似た状況にいます。スタートアップを持っています、10億か何か、15億ドルを調達しました。ええ。
あなたは構築できます。20,000のNvidiaを手に入れることができます。さて、ちょっと待ってください。ここにMicrosoftがあります。
3000億ドルのキャッシュフローと巨大な計算資源があります。
それは大きな部分でしたか
ええ。つまり、個々の研究者やテクニカルスタッフのメンバーに支払っている価格について言及しないでおきます。つまり、ただ、2年間だけでなく、10年間にわたって必要とされる投資の規模も。明らかに大企業の中にいることには構造的な利点があると思いますし、次の5年から10年にわたって最前線に追いつくには
何千億ドルもかかるでしょう。
ですから、その考えを終えると、今20億または500億ドルの評価で資金を調達している企業は、チャンスはありません。
わかりました、その沈黙を受け取ります。しかし、つまり、それは依存すると思います。明らかに、突然知能爆発が起これば、多くの人々が同時にそこに到達できますが、同時に、それらのものを使って製品を構築しなければなりません、配布が必要です、すべての伝統的なメカニズムがまだ適用されます。
それを十分速く変換できますか?つまり、それが次の5年間に起これば、すべてが本当に奇妙になります。認識不能です。互いに影響し合う多くの創発的な要因があります。それは言いにくいです。部分的には、その曖昧さが評価の泡立ちを駆動していると思います。なぜなら、私は、わからない、ポッドキャスターと呼ばれるReedがシュマック保険と呼ぶものになりたいか、という人々がいると思います。
ええ。ええ。数ヶ月前にここにポッドでReedがいました。彼は素晴らしいです。
それで、高校を卒業する学生に対して、これらの日々に何を勉強しますか?哲学とコンピューターサイエンスの両方の分野を勉強しなければならないことは疑いの余地がありません、長い間、2つの基礎であり続けると思います、大学に行くべきですか、絶対に、人間の教育、それから来る社会性、機関がカリキュラムの内外で基本的に考え、探求するための3年間を持つことの利益
これは巨大な特権です、人々はそれを捨てるべきではありません。それは黄金です。
ですから、私は常に人々にそれをするように勧めます。
明らかに私も中退しましたが、まだ思います
それはやるべきクールなことでした。
ええ。
当時はただ正しく感じました。
しかし、他のことは
公共サービスに入ることです。
ええ。私はあなたの人生のその順序でやったことのその部分を尊重します、それがあなたにこの非常に人間主義的な視点を与えました。ええ。そして、それは本当に難しく、非常に異なっていて、本能的に正しくありませんでしたが、多くを学び、非常に短かったにもかかわらず、非常に影響力があり、私の経験の重要な部分でした。
それは基本的に数年でした。
そして、今日の私たちのエコシステムの行為者、企業、学者、報道機関、今ではポッドキャストの世界を見ると、本当に制度的に最も弱いのは政府です、そして民主的プロセスですが、実際には公務員です。
そして、それは、公共サービスの一部であることに入る地位と評判と尊敬の5十年間の打撃があったからです、レーガン後のように、そして私は、それが実際には悲劇だと思います。なぜなら、私たちは実際にその感情と精神と能力をこれまで以上に必要としているからです。
おそらく私が今聞いたことは、訂正してください、間違っていたら、公共部門、公共サービスでより多くの知能が必要だということです。政府でのAIについてはどうですか?
政府が必要だと思いますか
そして特に政府でのエージェント的AIについてはどうですか?確かに、すべて同じ注意事項が適用されますが、つまり、Microsoft内の政府発行のCo-pilotの採用率は実際に非常に高く、文書の合成、会議の書き起こし、メモの要約、議論の促進、適切な時期に行動を提供することで素晴らしい仕事をしています。それは明らかに多くの時間を節約し、意思決定を改善します
ですから、おそらく議論に良いリボンをつけるために、もしAIが政府に浸透し、AIが経済に浸透し、政府が経済を規制しているなら、これは議論として、AIがAI自体を規制する防御的共スケーリングの一形態ではありませんか。
ええ。つまり、全員が同じ時期にAIを使用して追求しますが、同じですが、私たち全員が持っている議題は同じままです。つまり、企業を始めたい人々、学術論文を書きたい人々、文化グループやエンターテイメントのことを始めたい人々、全員がただ、ある意味で力を与えられるでしょう。
彼らの能力は、これらのツールを持つことによって増幅されるでしょう。
明らかに、政府も含まれます。
素晴らしいです。ムスタファ、金曜日の夜に時間を作っていただき本当にありがとうございます。この会話ができて感謝しています。
Dave、Alex、感謝します。あなたから最後の質問を望みます、Dave。
持っている場合、最後の質問があります。わかりました。
予測、量子コンピューティングは今、LLM AIで起こっていることとは何の関係もありません。それはすべて、Nvidiaチップのマットモールです、すぐにTPUや他のカスタムチップになるでしょう。6年、7年後の最良の推測、AIはコードを書くこと、コンパイルすることに非常に優れていて、量子操作を理解できます。量子チップは関連していますか、それともまだ傍観していますか、それとも、すべてが量子に移植され、Microsoftはそのリードを活用できますか?
ええ、つまり、それはミックスの大きな部分になると思います。AIについて話すのに費やす時間の量に対して、相対的に認識されていない波の部分のようなものだと思います、実際には合成生物学のように少し。特にあなたが知っている、一般的な会話では、人々はそれら二つの波をつかんでいないと思います、AIが焦点に入ると同時に衝突するでしょう、それはただ同じくらい影響力があります。
わかりました、ここで聞きました。
これは、あなたのより加速主義的な側面にアピールするための最後の質問です。聴衆は科学のためのAI、工学のためのAIを加速するために何ができますか?あなたが制限要因と見なすものは何ですか?私はポッドキャストでこの最も内側のループの概念についてよく話します、コンピューターサイエンスで、プログラムを最適化したい場合、ループ内のループを見つける傾向があり、全体的なプログラムを最適化するために最も内側のループを最適化したいという考えです。制限要因、あなたが見る最も内側のループは何ですか、聴衆が聞いていて、適切に力を与えられている場合、おそらく次の10年間でスタートレックの未来、またはスタートレック経済を高速化するために最適化するのを助けることができますか?何をすべきですか?
ええ、つまり、これらのモデルのほとんどが仮説を生成する時間を加速することは非常に明確だと思います。
遅い部分は、現実世界で仮説を検証することです。ですから、この時点で私たちができることは、自分たち自身の脳にますます多くの情報を摂取し、それを、あなたと一緒に進歩する単一のモデルと共同使用することです、なぜなら、それは第二の脳のようになっているからです。たとえば、Co-pilotは実際にはパーソナライゼーションに非常に優れています。
その答えのほとんどは、ですから、あなたがそれを使えば使うほど、それらの答えはあなたが興味を持っているテーマを拾い上げます。そして、それはまた、穏やかにもっと積極的になっています。ですから、あなたが以前に話していたことに明らかに調和している、出てくる新しい論文や新しい記事についてあなたに少し促しています。
ですから、少し単純な逃げ口上の答えですが、あなたがそれを使えば使うほど、それは良くなり、あなたをより良く学び、あなたはより良くなります、なぜなら、それはあなた自身の探求の線への援助のようになるからです。
ですから、それは、聴衆へのあなたのアドバイスは、Co-pilotをもっと使うことのように聞こえます、そしてそれがあなたができる唯一の最良の加速剤です、これを加速するために
または他のAI。
つまり、たくさんの素晴らしいものがあります
私はまた、あなたが、24時間365日の閉じた暗いサイクルでAIが実験を実行できるようにする物理システムを構築できるか、自然からデータをマイニングできるかについて話すのを聞いたことがあります。そして、それを行っている多くの企業があります。LayaはハーバードMITから最近出た一つです。
AIが私たちに代わって探検家になることに興奮を感じます、そのデータを集めることについて。
ええ。
ええ。
ええ。その通りです。
ええ。
もう一度ありがとうございます。
これは素晴らしかったです。ありがとうございました。本当に楽しい会話でした。
ええ、本当に楽しかったです。ありがとう。
感謝します、友よ。
わかりました。またお会いしましょう。
毎週、私のチームと私は、今後10年間で産業を変革するトップ10のテクノロジーメタトレンドを研究しています。
ヒューマノイドロボティクス、AGI、量子コンピューティングから輸送、エネルギー、長寿などに至るまでのトレンドをカバーしています。無駄なものはありません。私たちの生活、企業、キャリアに影響を与える最も重要なことだけです。これらのメタトレンドをあなたと共有したい場合、私は週に2回ニュースレターを書き、メールで短い2分間の読み物として送っています。
そして、他の誰よりも10年早く最も重要なメタトレンドを発見したい場合、このレポートはあなたのためのものです。読者には、世界で最も破壊的な企業の創設者やCEO、そして世界で最も破壊的な技術を構築している起業家が含まれています。
これから来るもの、なぜそれが重要か、そしてどのようにそれから利益を得ることができるかについて情報を得たくない場合、これはあなた向けではありません。
無料で購読するには、demandis.com/metrendsにアクセスして、他の誰よりも10年早くトレンドへのアクセスを獲得してください。さて、このエピソードに戻りましょう。
コメント