この動画は22歳の天才経済学者Leopold Aschenbrennerが発表した「Situational Awareness」という論文について、The Daily AI Showのメンバーが詳細に議論している内容である。Aschenbrennerは元OpenAIの研究者で、現在はAGIに特化した投資会社を経営している。この論文では、コンピュート能力の向上、アルゴリズムの改善、AIの制約解除という3つの要因に基づいてAI発展を予測分析し、2027年頃にAGIが実現し、その後超知能への爆発的発展が起こると予測している。特に国家安全保障の観点から、中国などの競合国に対する技術的優位性の確保や、マンハッタン計画レベルのセキュリティ体制の必要性について警鐘を鳴らしている。
番組開始と論文の規模への驚き
皆さんこんにちは。今日は2024年6月20日で、デイリーAIショーのライブ配信です。今日はLeopold Aschenbrennerの状況認識論文について詳しく解説していきます。ここには本当にたくさん話すべきことがあります。正直なところ、この番組をやると決めた時点では、これほど大きなテーマに取り組むことになるとは思っていませんでした。
昨日、私はオースティンにいて、オースティンのホテルから番組に参加しました。今日はもっと安定したカメラです。昨日は長時間、クライアントとの仕事は終わっていたのですが、バーで会おうという話になっていて、でも後でフライトに問題が起きそうだったので空港に向かいました。基本的に4時間、その後テキサスの天候のせいで飛行機が遅れて、本当に長い自己選択的な待機時間ができました。待機時間ではありませんでしたが、今日の番組に備えたいと思っていたので、状況認識を読もうと決めました。3時間後、いや4時間後に全ての単語を読み終わって気づいたのです。これは本だったのです。誤解していました。
誰かが165ページくらいだと言っていたのですが、正直なところ165ページって本当のページじゃないと思っていました。でも実際には、これはコ・インテリジェンスと同じくらい長かったと思います。イーサン・モリックの本を読むよりも時間がかかりました。
皆さんも私と同じだったのでしょうか。状況認識の膨大な量と幅を理解していましたか、それとも私のように少しショックを受けましたか。
論文の権威性と学術的価値
この作品がいかに権威的で学術的なものかを知らなかったのです。それがこの作品の印象的な部分でした。そして皆さんがLeopoldが本当に誰なのか、彼の業績について説明する時、彼は22歳だということを聞くでしょう。
ここで読んでいるのは、AIの中心にいる人物で、天才であり、経済学の領域で最も優秀な学者による作品なのです。それが私の感想です。
Leopoldについて少し話しますが、論文のどこかで彼が言っているのは、偶然かどうかは別として、彼が「プロジェクト」と呼ぶものに関わるであろう全ての人物と、直接的に関連しているか、1次分離か1度の分離の距離にあるということです。これは事実です。彼は自慢しているわけではありません。これは単なる事実で、彼は22歳なのです。
私は内容については分かっていましたが、密度については知りませんでした。ウェブ上の作品を少し読んだり、ダラル・キャッシュのインタビューを深堀りしたりしました。それは4時間半もあります。私たちの話を聞けば、それを聞く必要はありません。でも後で聞きたくなるでしょう。
ある程度の感覚はありましたが、アンディが話していた深さと学術性には驚きました。
論文への第一印象と全体的視点
これは良い指摘ですね。40分で全てをカバーするのは難しいでしょう。私たちにできるのは、本当に良い概要を提供することだけだと思います。皆が言っているように、これは非常に重厚な内容で、AI分野のほぼ全体的な視点の詳細な解説と分析が含まれています。
最初の印象として、これが大きな論文になることは分かっていました。Leopoldが誰なのかを本当に知らなかったのが、最も驚いたことでした。著者について学び、なぜこれが重要で、なぜ皆がこれについて話しているのかを学ぶことでした。
そこが驚きの部分でしたが、情報は素晴らしいものでした。また、自分の考えに対する少しの検証もありました。私よりも賢く、そうした分野に直接関わっている人が、これらの点を指摘していて、「はい、素晴らしい」という感じでした。
彼が指摘したことを私が明確に理解していたかというと、絶対にそうではありませんでした。ここには私を少し驚かせる情報がたくさんありました。
論文の複雑さと今後の展開
この機会を取り、論文を適切に扱い、適切な解説とレビューを行うなら、おそらく少なくとも別のエピソードが必要でしょう。私は昨夜Slackで一度だけ言及しました。パースにいるアーロンは12時間の時差があるので起きていました。彼にとっては今日、つまり木曜日でした。私は「アーロン、これは独自のミニシリーズにする必要があると思う」と言いました。
今のところ何の計画もありませんが、本当に1、2、3、4、5、6、9部構成のシリーズができると思います。状況認識について、通常の番組を続け、インタビューも続けながら、エピソードの長さの制約なしに、ロングフォームでそれを解説できるでしょう。
これが興味深く聞こえる方は、聞いている皆さん、ぜひ教えてください。私は完全にゲームです。私たちの何人かもそうだと思います。今日はそれをやるつもりはありません。今日は私たちの認識、そこから何を得たか、それがビジネスにどう影響すると思うかについてです。皆さんも自分で読むことをお勧めします。
Leopold Aschenbrennerの背景と経歴
その前に、カールが最後になりますが、この論文の深さについて盲目的に無知だったと言っていました。昨日オースティン空港で数時間何もすることがなかったのが実際には完璧でした。座ってこれを一語一語読むことができたからです。Perplexityもchat GPTも使いませんでした。昔ながらの方法で、最初の単語から始めて最後の単語まで読み、時間をかけて、休憩を取り、空港を歩き回りながら内部対話を持ちました。
この特定の番組の準備で、何に取り組んでいるかを理解していましたか。
Leopoldのインタビューを何度か見たことを覚えています。短いスニペットと長いもので。そして要点を把握するためにPerplexityを使いました。私にとって興味深かったのは、国家安全保障の個々の部分と、それが競争になるということでした。昨日のイリヤ・サツケヴァーの新しいSuper Intelligence Incと似ていて面白いです。
彼らは超知能を持つでしょう。それは2025年、2026年に超知能が何を意味するかの定義によりますが、AGIは10年代の終わりに来ると言っています。明らかに超知能はAGIとは異なると思いますが、超知能は人間の知能よりもはるかに賢いものだと考えています。
国家安全保障の部分が私にとってより注目すべき話題でした。私たちは競争しているのか。政治はよく分かりませんが、アメリカの政治では、これは簡単な論点です。ロビイストがこの例を使って、「もし何らかの規制をするなら、中国はしない、ロシアもしない。なぜ私たちがペースを遅らせたいのか」と言うでしょう。
これがワシントンの政治家の60-70%にとって十分な理由になると思います。「はい、表面的な規制をしましょう、大統領令を出しましょう、人々と会いましょう、話しましょう」でも実際にはそうではありません。もし一人の政治家が実際に権力を握り、その議論が展開されたら、「これは全速前進だ」ということになると思います。
私は、全てが可能な限り速く進むと思います。他の国が何をしているか分からないし、EU法を制定したEUには申し訳ないですが、冗談やミームが現実になるでしょう。規制で自分たちを競争から排除し、傍観席に座って勝者を応援することになるかもしれません。
Leopoldの詳細な背景紹介
それは良い転換点ですね。Leopoldについて少し紹介しましょう。アンディも詳しく話せると思います。彼の写真をスクリーンに表示します。アンディが言ったように、彼は22歳だと思います。ポッドキャストの最初でホストが、彼が19歳でコロンビアを首席で卒業したと言っていました。
明らかに怠け者ではありません。AGIに焦点を当てた投資会社を始めたと思います。それは「For Our Prosperity」と呼ばれ、実際にウェブサイトもあります。foroprosperity.comです。パトリック・コリソン、ジョン・コリソン、ナット・フリードマン、ダニエル・グロスからの他の主要投資もあります。
その前は、OpenAIとスーパーアライメントチームで働いていたと話しています。このチームは現在解散されており、それについてたくさんニュースがあります。彼は「過去の人生では、オックスフォードのGlobal Priorities Instituteで経済成長の研究をしていました」と言っています。
ここに書いてあります。「私は19歳でコロンビアを首席で卒業しました。」申し訳ありません、別のページにあると思っていました。「私はもともとドイツ出身で、今はカリフォルニア州サンフランシスコの素晴らしい街に住んでいます。私の願望は、私たちの繁栄のために自由の恵みを確保することです。憲法修正第1条法からドイツ史、トポロジーまで、かなり折衷的な組み合わせに興味がありますが、最近はAIにかなり集中しています。」
これは会話を始める素敵で楽しい控えめな表現だと思います。LinkedInで見ることができる内容よりも、TwitterやXで彼をフォローしたい場合は、そこでより多くのコンテンツを見つけることができます。ポッドキャストなどもあります。ここでも少し背景を見ることができます。Future Fundsの研究アフィリエイトなど。彼はそれほど年を取っていないので、これらのほとんどは数年前からのものです。これは本当に興味深いです。
家族背景と歴史的視点
彼のCVに現れない部分があります。それは彼の両親にとって、第二次世界大戦がかなり身近だったということです。これもまた、彼が持ち込んでいる視点の一部です。彼の両親は東ドイツと西ドイツ出身で、彼らはその中で生きていました。彼を少し育てた祖母は、ナチスドイツ時代に生きていました。
ドイツは、アメリカが私たちの過去を扱うよりも、彼らの過去をもう少し直接的に扱っています。だから彼らは、より直近の過去に起こったことについて、もう少し情報を得ています。これも彼の業績には反映されていませんが、私が強調したい部分です。
それは重要な指摘だと思います。今、私はそれをそれほど理解していませんでしたが、ベスがそう言ってくれて本当に良かったです。なぜなら、これで私はさらに少し異なるレンズを通してそれを見ることができるからです。
彼は多くを話します。主に中国について話しますが、私たちの悪の枢軸と呼びましょうか、ブッシュが使っていた悪の枢軸について話します。特定の人々がそのリストにいました。イラン、中国、北朝鮮などです。政治的に誰をリストに載せるか載せないかを決めるのは別として、要点は明確で、状況認識の大部分とカールが言っていたことです。
状況認識とは、彼が感じている限られた人数の人々が、この論文を書く理由を理解している人々が、実際に状況認識を持っているということから来ています。事実、このAIの潜在的な複雑さと、AIが向かう可能性のある広大さを理解しているのです。
AGIを超えた知能爆発への展望
ジミーが指摘したことで、私たちが絶対に話すべきだと思うことは、主流メディアのせいか何かのせいで、私はこのAGIをこの角度から見ていたということです。この論文から得た最大のことの一つは、AGIをどのように定義しようとも、いくつかの異なる方法がありますが、実際にはこのより大きな超知能への単なる足がかりに過ぎないということです。
彼が「ああ、AGI、もしグラフに従えば、もし外挿に従えば、それが彼の2027年の予測の出所です」と言う時でさえ、彼は「それは飛躍ではない、私は文字通り私たちの段階の順序を見ているだけだ」と言います。彼は論文でそれについてたくさん話しています。「GPT-2から4への道のりを見て、もし4にいるなら、2027年までにどこにいられるかと言っているだけだ」と。
しかし、彼はAGIで止まらないという考えです。実際、彼は数百、場合によっては数千の知能の段階、あるいは段階の順序について話しており、それを超えたものについて話しています。これは私にとって、これが潜在的にどこに向かうのかについて本当に心を開くものでした。
実際、論文では、状況認識、今後の10年間を見ることができます。彼がどこを見ているかが分かります。彼は今後10年、2030年代を見て、根本的に今日私たちが知っているものとは全てが異なるだろうと言っています。
これは私にとって大きな目覚めでした。明らかに国家的な話についてたくさんありますが、私が取り上げたいことです。正直なところ、これには本当にたくさんの異なるアイデアがあるので、どこから始めればいいのか分からないのが私の問題です。でもAIの件は間違いなく私にとって目を開かせるものの一つでした。
知能爆発と特異点の現実性
AGIを超えて話している時、時々特異点と呼ばれる知能爆発について話しています。ここで私たちはサイエンスフィクションの一部に触れますが、彼は次の10年間でこれはサイエンスフィクションではないと指摘しています。完全に可能性があることなのです。
これが私たちが話していることを見る良い場所だと思います。これは遠い未来ではありません。彼が今後数年間で私たちに出てくる可能性があると見ているこれらの概念は、それが現実です。データに従え、あなたが言ったようにチャートに従えということです。
そして彼は状況認識と呼んでいます。これは適切です。論文全体の意図、または私が得た本質は、これがここにある全てのデータ、これらの極端に大きな変化が起こることについてあなたに情報を提供するのに必要な全ての情報です。
それが肯定的か否定的かは、私たちがそれにどうアプローチするかによります。それが私がこの論文から得る全体的な感想です。もしあなたがこれらのことを認識していないなら、これを見て、私の結論を支持する情報がここにあります。考え始め、注意を払い始め、認識し始めてください。
他の専門家との予測の一致
それに加えて、私たちはLeopoldの論文について話していますが、4月中旬にAnthropic のダリオ・アモデイがエズラ・クラインとポッドキャストインタビューを行いました。エズラ・クラインがダリオ・サドにインタビューし、彼は私たちが見ているタイムラインに関して非常に似た予測をしました。
約6ヶ月ごとに能力の半桁の飛躍、そしてコストと必要なコンピュートの飛躍という点でのスケーリングです。これらのことは結婚しています。飛躍するつもりなら、1ギガワットの代わりに、彼らはギガワットとドルについて話し、それらの間の完璧な数学は分かりませんが、10ギガワットはまともで実行可能です。100ギガワットはもっと注意を払ってできる必要があり、それらが次の一連のことです。
私にとって印象的だったのは、ダリオ・アモデイも実際に、私たちが到達する最も直近の次のレベルについて同意しているように見えることでした。そして彼らはそれが何を意味するかで分岐します。次に何が起こるかということで。
ダリオは「私は予測しようとしない」とある意味で後退しました。Leopoldは「確かに、私は完全に予測しようとしている。なぜなら私たちが具体的なことを持つことが重要だからだ」と言いました。
重要なことに、論文の終わりに向かって彼は言います。「見てください、私は明らかにこれの多くの異なる部分で外すでしょう。私はこれが絶対的だとか、これが唯一の道だと信じているとは言っていません」と。彼は様々な角度からの将来の障害について詳しく話します。
ほとんどの場合、彼は楽観主義者です。彼は自分が楽観主義者だと言っています。彼が知っていることに基づいて、サンフランシスコにいるという彼の経験、彼はサンフランシスコのパーティーについてしばしば話し、そこでどれだけの情報が転送されるかについて話します。それは全く別の会話ですが、もしあなたが会話の中にいるなら、もしあなたが知っているなら、彼は持っている視点について話しているだけです。
しかし明らかに、いくつかの障害があることも言っています。彼はコンピュート、AIの自分自身を次のレベルに押し上げる能力のために楽観的です。私の理解では、これが私の認識ですが、はい、これらの障害にぶつかるでしょう、はい、データが不足するかもしれませんが、そこには合成データでの解決策があるかもしれません。それを非常に可能にし、そしてAIがその中で果たす役割があるでしょう。
それはほとんど、AIが次のステップに到達するために必要なものの次の12ヶ月または24ヶ月について合理的に見ることができ、それについてはるかに快適に感じるというようなものです。そしてそれは、それが必要なものを解放する転がり効果を持つでしょう。
マンハッタン計画との比較
私は論文でそのテーマをたくさん見ました。確かに私たちはこれにぶつかるでしょう、おそらくですが、その時点で私たちのコンピュート能力、効率性、アルゴリズムなどもこのレベルにあるでしょう。私たちは今日の能力で24ヶ月後に止まることはないでしょう。それは私たちがそれを通り抜けることを可能にするでしょうか。
それが非常に説得力のある議論でした。あなたがそれを信じるかどうか、異なる意見を持っているかどうかは別として、多くの人が異なる意見を持っています。私はこのキャンプに完全に参加しているわけではありませんが、アンディが指摘したように、非常に良く書かれていて、絶対的なもの不足を避けていたと思いました。
多くの比較をし、マンハッタン計画についてたくさん話します。論文の後半、第4部に向かって、それは「プロジェクト」と呼ばれ、私はそれが何なのか分かりませんでした。彼がそれについて話すまで。
基本的に彼の要点は、非常に短い形で要約しようとしますが、その後あなたたちが私が間違ったと思うところを訂正してください。スタートアップはスタートアップが行うことに長けており、政府に縛られることなく事業を行うことができ、AIの進歩の多くは、彼らの能力と、どれだけ速く進化できるかのために、おそらくスタートアップの世界で始まる必要があります。
しかし、彼は私たちが2027年、2028年、2029年の時間枠に迅速に移行していると見ています。そこで彼が心配しているのは、政府が「ああ、これは非常に大きな問題だ。なぜなら私たちは今、この次の覚醒レベルでより良くなるからだ」と気づくことです。
政府は怖くなって「ちょっと待て、私たちには国家保護のためのマンハッタン計画レベルのセキュリティと安全性が必要だ」と言うでしょう。彼が提起する要点は、カールが言っていたと思いますが、中国は1兆ドルのクラスターへの競争を意味するなら環境規制を気にしないということです。中国は「石炭採掘と水圧破砕と、そこに到達するために必要な人数は何だ、素晴らしい」と言うでしょう。
彼が心配しているのは、現在サンフランシスコでこの種のことが自由に取引されているということです。超知能やAGIで必要な重みのポイントに到達した時、中国や他の行為者は全ての作業を通過する必要がありません。彼らはモデルの重みだけが必要です。
もし彼らがインフラを構築し、コンピュート能力を持ち、基本的に私たちとEUと他の皆が、私たちは単にそれを自由に提供しているなら、中国はそれを既に知っています。中国は全てのステップを構築し、通過する必要がありません。マンハッタン計画のようなセキュリティと安全規制に妨げられていないので、彼らは単に情報を待ち、取得し、重みを後で実装できます。そして彼らは既にインフラ側で私たちを打ち負かしているでしょう。
AIの危険性に対する異なる視点
あなたがそれを全て言及する時に面白いのは、私が最初に考える人物はヤン・ルカンです。彼は「それは問題ではない。なぜなら私たちが生産するもののどれも、私たちが行うと計画している狂ったことを行うのに十分スマートや高度ではないからだ」と言います。
彼がLeopoldの論文などについてどう思うかを推測しますが、彼の常日頃の指摘のように「LLMや私たちが現在持っているものは、もし私たちがあからさまにそれをそのように作ろうとしなければ、私たちがそれを作るほど危険でさえないだろう」という感じです。
Leopoldがマンハッタン計画と言う時、ルカンは「あなたは狂っている、それは原子を分裂させることでさえない」と言うでしょう。これらの2つのキャンプがどこにあるか、一方が考えることと他方が考えることは非常に興味深いです。
Leopoldを悲観論者と呼びますか、そうでないと思いますが、彼は何か他のことを主張しようとしているのでしょうか。しかし、AIは本質的に危険だという見方対ヤンの「そうではない」という見方があります。
Leopoldの観点で言えば、AIが本質的に危険だと言っているのではありません。実際、彼とヤン・ルカンは、AIからの危険は人間がそれをどう使うかから来るという同じことを言っています。ヤン・ルカンは「人間がそのようにそれを使うかどうか確信していない」と言い、Leopoldは「それを確実な可能性として話すべきだと思う」と言っているのです。
はい、私たちが27、28、29に到達するポイントまで待って理解するのではなく、待つべきではないと言っています。
彼は実際に「私たちには短い期間がある」と言っています。彼はそれを中間地点か何かと呼んでいます。私はその用語を思い出せませんが、私たちがまだそこにいない、27、28、29にいない中間期間ですが、現在の傾向とパターン、コンピュートとアルゴリズムの効率性、そして彼が明確に指摘する他のことに基づいて合理的に予測できます。
27、28、29に目覚めるまで待つべきか、それとも今日警鐘を鳴らして、もう少しセキュリティを設けるべきかを言うために。もしオッペンハイマーを見て、その全体的な話を見たなら、砂漠に基地を建設するという話ではないと思います。
しかし、確実に彼に同意します。サンフランシスコのブロパーティーで自由に話し、起こっていることについて自由に話すのではなく、コンピュータにUSBドライブを挿入して必要な情報を取ることと同等だという彼の指摘です。
現時点では問題でさえありません。悪意のある行為者は既に全てを持っていると仮定してください。この時点でオープンな会話ウェブと仮定してください。私はそれに同意せざるを得ません。なぜ2、3、4年待って、これを3年前、つまり今日から真剣に取り始めるべきだったことを理解するのでしょうか。
政治的実現可能性の課題
しかし、誰がそれについて話すのでしょうか。それが問題です。政治家と話せば、彼らは人々が知っていることの半分にさえ追いついていません。
たとえ彼が今それを提起しても、誰がそのマントルを取り上げるのでしょうか。月に行くことについての1967年の何かについて話していたポッドキャストがあったと思います。政府がそれに多くのお金を投入し、皆がそれがもう状況だと思っています。でも、そのタイプの支援を得ることはないと思います。
政治環境が歩調を合わせていても、防衛以外の何かに法案を通すのは非常に困難でしょう。防衛に供給しない限り、私は理由を見つけられません。アメリカ政府と国民が、人々の半分が使わない、理解さえしない、ただ頭を下げている技術にそれほど多くを投入することを我慢するでしょう。これは非常に困難です。
それが要点です。彼らは認識していないし、この論文は少なくともその会話を始める彼の試みだと思います。私たちはAI認識、AI リテラシーのビジネスを行っています。カール、それは私たち次第です。全てがカールにかかっています。あなたはカナダ全体を代表し、私たちはアメリカ全体を代表しています。
でも、7ヶ月しか得られません。
マンハッタン計画との歴史的比較
マンハッタン計画と比較すると、マンハッタン計画は議会全体からの完全に情報に基づいた承認ではありませんでした。しかし、何かが爆発してから。それに先立つ戦争がありました。それを実際に動かす理由がありました。それは単に「まあ、我々は研究をするつもりだ」ということではありませんでした。
「どうやって日本との戦争に勝つか、どうやって戦争に勝つか」でした。それが実際に何かを動かすきっかけでした。研究したい、人類に利益をもたらしたいということではありません。人々を破壊して戦争に勝ちたい、もう世界大戦をしたくない、戦わなくて済むようにしたいということでした。
それは良い指摘です。なぜなら、過去数十年間、あるいはもっと長い間に私たちが取った多くのステップは非常に反応的だからです。セキュリティに関するこのセクションは、反応しないで積極的になれという警告だと思います。そうでなければ、後で問題を片付けることになります。
人々を目覚めさせる方法は、今でもロボットに関してはそれほど驚くことはありません。「話すことができるロボットを作った。オーケー、それは良い」という感じです。
ウォッチメンを見たことがありますか、映画ではなくコミックです。彼らは世界をまとめるために偽のエイリアン攻撃をでっち上げました。悪役がそれを行いました。それレベルの破滅的な、または何かクレイジーなことが、人々に「ちょっと待って、これに注意を払わなければならない。これはもうAIガールフレンドのことではない。これは本当にヤバい」と言わせるために必要だと感じます。日常生活に影響しなければなりません。
ビジネスへの重要な示唆
私たちが常に話していることに関して、なぜなら愚かなことに使っている人を見ると、彼は良い指摘をしています。私は簡潔に言いたいのですが、アンディにこの全てについての考えを聞きたいです。
彼が言う本当に良い指摘は、GPT-5とその名前が何であれ、次のステップがGPT-4の何らかのバージョンだと信じるのは大きな間違いだということです。それは絶対に間違った考え方です。
私たちは知っていることしか知らない、経験したことしか経験していないので、そこには幸せな無知があります。私が昨日オースティンのクライアントで話していたように、この生成AI のことに「わあ、このAI のものは、書くことでこれとこれとこれができるなんて、かなりすごい」と言います。
人間として、それが書くことでより良くなると合理的に理解し、このことがどこに行くかについての信念をそれに限定している企業や誰にとっても、それは重大な間違いです。全ての彼が安全性について話すことを忘れてください。もしあなたが今日ただのビジネスで、3年後の2027年には今日のAIを動かしているより賢いバージョンがあり、あなたのビジネスとROIに影響するだろうと信じているなら、それは間違いです。それは大きな間違いです。
それは絶対に間違った方法です。うまくいけば、長年にわたる私たちの全てのエピソードでこのショーが人々にそれを理解するのに役立つでしょうが、それは今日これほどスマートで、明日はそれほどスマートになるという伝統的な成長ではないと信じる間違いです。私たちは段階の順序について話しており、事業を運営するという非常に短い期間である3年間で、36ヶ月で物事が飛躍的に飛び上がるでしょう。
例を挙げると、昨日私は誰かにGPT-4のデモを見せました。フランスにいた時に録画したデモです。その人にそれを見せて言いました。「あなたのビジネスについて考えてほしい。記憶があり、あなたのデータに接続され、見ることができ、聞くことができ、リアルタイムで話すことができるが、あなたのためにアクションも取ることができるもので何ができるか考えてほしい」と。
「これで何ができると思いますか」と言うと、その人は「これはこれとこれとこれを置き換えることができる」と言いました。私は「あなたはそこに行った、私はあなたを誘導していない、あなただけでそこに行った」と言いました。
これは今出てきたものの大きな意味を持ちます。はい、あなたのビジネスですが、他の全てもです。私はその人の目が拡張するのを見ていて、「ちょっと待って」という感じで見ることができました。「はい、私はこれとこれとこれができる、はい」。
おそらく1ヶ月以内にこれを入手できるでしょう。彼らがこれをリリースする時は分かりませんが、その後、すべての単一のツールがこのタイプの活動を可能にします。すべての単一の企業がこのタイプの活動とその後のより多くの活動を可能にするでしょう。
一度それが起これば、しかし人々の大量認識が必要です。実際にそれを見せて、彼らに関連した方法で説明しない限り、誰もそれを理解しません。全てのデモを見せても、本当に重要ではありません。でも「ちょっと待って」となる必要があります。
それは私と私の仕事に影響するものでなければなりません。「ああ、それはアートの向こう側にある。オーケー、それは私ではない、私はそれをしない」と言います。「はい、それはその仕事を荒らし回っている、あなたのような、今日そこにない、でもそうなるでしょう」ということです。
経済学者による予測分析の枠組み
アンディ、あなたはこの時間のほとんどを静かに過ごしていましたが、Leopoldが提示したことの意味についての活発な議論を聞いて興奮していました。
彼が行ったことを要約しましょう。優秀な経済学者として、彼は3つの主要な推進力に基づいて人工知能の進歩の予測分析を行いました。
一つ目は物理的コンピュート容量の増加です。複数の国がAIの処理を推進するために行っている巨大な投資です。
二つ目はアルゴリズムの改善です。モデルへの変更、数学への変更、アプローチへの変更と考えてください。
そして三つ目、より重要なのは、彼が「制約解除」と呼ぶ要因です。私はそれを、現在私たちは制約されたAIを持っているとただ説明します。彼らは自分たちの小さな領域でサイロ化され、テキスト生成のような単一のタスクに焦点を当てています。
AIにメモリを追加し、それから思考連鎖の推論能力を提供し、「私は目標に到達するために行わなければならない全てのことを追求し続ける」という客観的追求のような持続性を提供し、それに世界で行動できる代理性を与え、そして複数のモデルを組み合わせると、非常に迅速に到達するのは、問題を考え抜き、ツールを使用し、異なるアプローチを試し、研究を行い、作業を修正し、他の人と調整し、大きなプロジェクトを自分で完了できるモデルのギャングです。
その能力の組み合わせがAGIです。それが汎用人工知能です。現在リモートワーカーによって提供されている全ての人間の能力を模倣することのようです。人間としてリモートワーカーができることは何でもできるAIを組み込むだけです。しかし超人的な速度と習熟度でそれを行います。それが汎用人工知能です。
しかし、これらのAGI対応システムの相互接続のために、その後に来るのはこの知能爆発です。
ここで、私はLeopoldの実際の言語から読みたいと思います。彼は言います。
「超知能は、人間よりもはるかに賢いAIシステムで、私たちが理解し始めることができない新しい、創造的で複雑な行動が可能です。おそらく数十億のAGIの小さな文明でさえ。その力も巨大でしょう。研究開発分野、ML研究などに超知能を適用し、ロボット工学を解決し、他の科学技術分野で数年以内に劇的な飛躍を遂げ、それに付随する産業爆発があるでしょう。
また、超知能、この爆発、特異点という用語が以前に使用されたこの爆発は、決定的な軍事的優位性を提供し、計り知れない破壊力を展開する可能性が高いでしょう。」
そこで彼は、あなたたちが議論していることにつながります。それは、その超知能を人間の目標と一致させることの戦略的重要性です。
ちなみに、Leopoldはコロンビアで全ての学術的追求に加えて、コロンビア効果的利他主義学生グループを設立しました。利他主義は文字通り思いやりです。彼は思いやりのある魂で、高度なAI開発を導き、その長期的影響に対処することに焦点を当てた優秀な頭脳です。
彼がここにいることを嬉しく思います。この論文がリリースされるまで、私は彼について本当にあまり知りませんでした。彼は私のレーダーには入っていませんでした。今、彼は多くの人のレーダーに入っていると思います。そうあるべきです。
トークン数から見る能力の指数的増加
彼がここで話している多くの異なるチャートがあります。私たちがどこに向かっているかの段階の順序についてですが、私が話したい、本当に印象に残ったものの一つは、彼のトークン数でした。スクリーンにそれを表示させてください。
彼は人間が大体分当たり100トークンで考え、週40時間働くと仮定したアイデアを思いつきました。これは本当に興味深いチャートです。なぜなら、彼は超知能やコンピュート能力の能力について話している時に、私たちが話していることの明確なビジョンを提供しようとしているからです。
彼は基本的に、チャートの上部で、数百のトークンは私が何かに取り組んでいるのと同等で、この場合は数分間だと言っています。彼は今私たちはここにいる、それがチャットだと言います。
それから数千、数万、数十万、数百万のトークンに行き、このリストを進んでいくと、彼はその段階の順序の増加が何なのかを教えます。一番下まで行くと、彼は数百万のトークンは彼が複数月間何かに取り組むのと同等だと言います。
これを提起したい理由は、これが私たちが常に焦点を当てようとしているビジネスに戻すからです。はい、セキュリティについて話すことができます、はい、他の多くの会話がありますが、究極的に私たちが常に願ってきたのは、ビジネス関係者がこれを聞いて「オーケー、私にとって何が得になるのか、なぜこれを気にする必要があるのか」と言うことです。
この論文を読んで得た多くの他の洞察の中で、私が感じることは、短期間で起こりそうなことは、アンディが話した私たちのコンテキストウィンドウは現在非常に短いということです。チャットGPTに何かをするように頼む時、それは事前知識を持たない可能性が高く、その瞬間に存在し、非常に賢い高校生などのラベルを付けたいものです。そしてそれがそこで終わり、もちろんウィンドウがあって戻ることができますが、彼が指摘するように、それら全てが非常に曖昧になります。
私たちはビジネスでこれに迅速に向かっています。これが私の主なポイントです。もし私が今日ビジネスに一つのアドバイスを与えるとしたら、家を片付けろ、データを整理しろと言うでしょうが、それよりももっと重要なことは、たとえ今日それをどう使うか分からなくても、全ての転写、全ての会話を保存しろと言うでしょう。それを保存し、ラベルを付け、データガバナンスを設けろ、家と秩序の全てのことも。
私の理由は、もしLeopoldが非常に近い将来を予測しているなら、全てのビジネスは今日の問題を通して助けてくれるチャットGPTを持つことができるだけでなく、今日の問題を助け、未来を予見したり予測したりするのを助けてくれるでしょう。それは数千のチャットGPTまたはチャットGPTが複数月間あなたの会社からの全てのデータを持って立ち去り、その後あなたに来て「私は一生懸命これについて考えてきました。人間よりも賢い私の千人の友達全員と一緒に、私たちは皆これについて非常に一生懸命集合的に考えてきました。これが今起こっている全ての直接的なコンテキストを持つあなたのビジネスに基づいて私たちが思いついたことです」と言うのと同等でしょう。
それをあなたのビジネスにとって素晴らしいことと考えることも、それを否定的と考えることもできます。私は両方の側面を理解しますが、もし私がビジネスなら、それが私が人々に焦点を当ててほしいところです。あなたは今日何をすべきか分からないかもしれないし、確実に何が起こるかは言えませんが、もしあなたが今日持っているものを整理し、保存しているなら、データを、マルチモーダル、オーディオ、ビデオ、ビジュアル、それら全てを、それがあなたが必要とするものだと言えます。
なぜなら、非常にすぐに、そのデータを深く、数ヶ月、数年深く見て、ビジネスを支援できるモデルがあるからです。それがあなたがビジネスで先に進む方法です。皆他の人が何をしているかを推測してください。2028年か何かがやってくるのを待って、「ああ、クソ、それがこれをできることを知っていたか、データを集め始めるべきだった」と言い、賢い人たちは「私たちはデータを集めてきたし、そのビジネスが何であれ、それでローンチする準備ができている」と言うでしょう。
それが私の意見では、AIの未来であなた自身を守る方法です。それが私が得たものです。
今後の展開と継続的議論
私たちは心を打たれた人々を認めたいと思います。シスコなど、どうもありがとう。私たちはあなたの味方です。あなたが私たちと一緒に浅いダイブができるように、これらの主題について話し、深いダイブを続けます。
間違いなくこれにもっと入り込むと思います。シスコも3部構成のシリーズのようなものを言ったと思いますが、それは超クールだと思います。そのフィードバックをありがとう。この特定の番組への反響がどうなるか見て、そこから常にピボットできます。
明日は実際にこれをもっと取り上げる機会があります。私たちの2週間ラップアップ番組、いや、それは間違った言葉です。リキャップ番組だからです。過去2週間にニュース番組から個々の番組トピックまで、私たちの番組で出てきた全てのトピックについて話しています。
それは人々が「あなたは何を話したいのか、これが私の心にあることです」と言うような、あらゆる種類の異なる方法に床を開くので、常に素晴らしい時間です。私は明日それを大部分保とうとします。それはいつも本当に興味深い番組です。
明日も戻ってきて、もっと聞いてください。もちろん来週全体でも、途中でたくさんのAIトピックがあるでしょう。これがデイリーAIショーでした。ぜひthedailyaishow.comに行ってください。特にニュースレターリストに載りたい場合、この日曜日は第3号になります。
私たちは常にライブ番組では得られない追加情報をニュースレターに入れているので、サインアップする素晴らしい理由です。もちろんthedailyaishow.comに行けば、私たちの過去の全てのエピソードやライブエピソード、全ての良いものにアクセスできます。そこに全てのリンクがあるので、あなたにとってワンストップショップです。
今日は以上です。素晴らしい会話をありがとう、皆さん。明日の2週間ラップアップ、いや、ラップアップじゃない、なぜラップアップと言い続けるのでしょう。明日お会いしましょう。さようなら。
コメント