AnthropicのCEOであるDario AmodeiとGoogle DeepMindのCEOであるDemis Hassabisが「The Day After AGI」というインタビューで、AGI到達のタイムライン、経済への影響、雇用の未来について率直に語った。両者は2026-2027年のAGI到達予測を維持しつつ、指数関数的な進歩が社会の適応能力を圧倒する可能性を警告する。特にエントリーレベルの雇用への影響が深刻であり、コーディングは他の職種の未来を予見する「炭鉱のカナリア」であると指摘する。一方で、AIによる科学的発見や豊かな社会の実現といった希望的な側面も強調され、適切なペースで開発を進めれば安全性は確保できるという楽観的な見解も示される。しかし両CEOは、こうした急速な変化に備えて真剣に考えている経済学者や政策立案者が驚くほど少ないことに懸念を表明しており、人類が重要な岐路に立っていることを示唆している。
AGI到達のタイムラインと現状
大きなインタビューが公開されました。タイトルは「The Day After AGI」です。こうした大手メディアが見出しのつけ方を工夫するようになってきたのは興味深いですね。2年前だったら、誰もクリックしないようなつまらないタイトルだったでしょう。でも今は「The Day After AGI」という、即座に注目を集めるようなタイトルになっています。このインタビューの出演者はDario AmodeiとDemis Hassabisです。
こうしたインタビューが非常に重要な理由を説明しましょう。まず第一に、この2人はCEOという肩書きを持っていますが、実際にはCEOではないということを理解する必要があります。彼らは何よりもまず研究者であり、学者なのです。よくビジネスのプロフェッショナルやCEOを見かけると、彼らはメディアトレーニングを受けていて、会社を良く見せるようなことを言ったり、特定のことについて曖昧な表現をしたりします。でもこの2人は違います。それぞれのチームには、裏で「ああ、それは言わないで。なぜそんなことを言ったの?嘘をついて。今言ったことは言わないで」と思っている人がいるはずです。ある時点で、Demisはなぜ全ての宇宙人を殺すAIがフェルミのパラドックスを説明しないのかについて話し始めます。
なぜ銀河の他の場所からクリップが飛んでこないのか、という話をするんです。ダイソン球すら見つけられないじゃないか、と。もし私が推測するなら、この画面の中で実際に会話についていけている人は1人だけでしょう。何が起きているのか?その人物はPhilipです。これが彼、Philip Johnsonで、Demis Hassabisと一緒に写っています。伝説の人物です。
私は彼に、AIとフェルミのパラドックスについて質問したのは彼かどうか尋ねました。彼は「はい」と答えました。Philip、もしこれを見ているなら、インタビューのためにポッドキャストにいつでも歓迎しますよ。PhilipはStarCloudの共同創業者兼CEOで、宇宙にデータセンターを建設しています。私は宇宙へのデータセンター建設が次の大きなトレンドになると考えています。
GoogleがProject Suncatcherで発表した研究を読んだ後、それが避けられない次のステップのように思えます。本当に理にかなっているんです。そして彼らは2035年を目標にしていて、その頃には地球の表面にデータセンターを建設するのと同じくらい経済的に価値のあるものになるだろうと考えています。
さて、動画に戻る前に、常に見出しを賑わせているスキルギャップについてお話ししたいと思います。それはサイバーセキュリティです。大規模なデータ侵害がニュースにならなかった週を覚えていますか?特定のインフラ目標は1日あたり250万回の攻撃に直面しています。こうしたサイバー攻撃は毎週ニュースで見かけます。
そして業界はこれらを阻止する専門家の大規模な不足に直面しています。私たちにはもっと多くの善良な人々、犯罪者が悪用する前にこれらの脆弱性を見つけられるデジタル探偵が必要です。でも通常、こうしたことを学ぶには高価な機器と複雑な設定が必要でした。しかし今は違います。これがTry HackMeです。600万人以上のユーザーを持つ世界最大の実践的トレーニングプラットフォームで、今日の動画のスポンサーです。
画面には私が彼らのトレーニングを受けている様子が映っています。私は銀行をハッキングして自分にお金を送金しようとしているところです。ファーストフードとApple製品を買い続けるには他に方法がありませんからね。そして最も素晴らしい点がこれです。完全にブラウザベースなんです。強力なPCや怪しいソフトウェアのダウンロードは必要ありません。
基本的なノートパソコンでも、ブラウザから直接本物のマシンをハッキングできます。そして彼らにはEchkoという画期的な機能があります。24時間365日利用可能な個人用AIチューターです。もし行き詰まったら、Ekkoが概念を段階的に説明し、間違いを修正してくれるので、決して迷子になることはありません。退屈な理論を読むだけでなく、実際にやることで学び、実際の仕事に備えられる現実世界の攻撃シナリオに直面します。
完全な初心者でも、すでに経験があってレベルアップしたい方でも、Try HackMeには初日から就職準備が整うまで導いてくれる構造化されたロードマップがあります。実際、最大の差別化要因の1つが、このキャリア重視の姿勢です。Try Hackmeは単にハッキングを教えるだけでなく、就職市場に向けた準備をしてくれます。専用のキャリアハブがあり、面接やサイバーセキュリティの役職に備えるために特別に設計された認定資格を提供しています。理論を読むだけではありません。雇用主が実際に求めている、仕事に直結するスキルを構築しているのです。ゲーム化されていて楽しいんです。そしてゲーム化されているので、自分が実際に上達しているのを実感できます。
進捗が追跡され、レベルアップするとバッジを獲得し、リーダーボードが競争心を刺激してモチベーションを維持し、燃え尽きを防ぎます。サイバーセキュリティに興味があるなら、説明欄のリンクから無料でサインアップしてください。アップグレードする前に完全に無料で学習を始められることを覚えておいてください。
しかし本気でキャリアを築きたいなら、プレミアムプランですべてに無制限にアクセスできます。私のコードroth25、つまりROTHを使えば、年間プランが25%オフになります。Try Hackmeに今日の動画をスポンサーしていただいたことに大感謝です。さて、話していたことに戻りましょう。DemisとDarioが自由奔放なモードで、心に浮かんだことをそのまま言っているんです。そしてそれが素晴らしいんです。
インタビューの主要トピックと業界動向
彼らが話した内容を正確に見ていきましょう。完全なインタビューは下にリンクしておきます。おそらくあまり多くのクリップは再生しないか、再生する場合は少し歪める必要があります。なぜなら、これらの出版社の中には、YouTubeで非常に厳格な対応をするところがあるからです。
コメントしたり、彼らのクリップを使用したりする場合、少なくともアメリカでは、注目を浴びている公人である有名人のクリップをコメンタリーの目的で使用することはフェアユースです。しかし、これらの出版社の中には、他のYouTuberが自分たちのコンテンツについてコメントすることに対して、やや厳格な対応をするところがあります。なので、自分で聞きたい、見たい方のために下にリンクしておきます。
私はランニング中にこれを聴きました。とても良かったです。皆さんにもこれを聴くことをお勧めします。YouTuberであることの問題は、休暇後に数ポンド太って毎日動画を撮影すると、誰もがあなたの顔が日に日にゆっくりと膨らんでいくのを見ることができることです。なので、この問題を修正するために毎日ランニングを始めています。
ちょうど今、実はこうすればいいだけだと気づきました。もっと早く気づいていればよかったです。とにかく、最初に彼らが話すのは、インタビュアーのこの女性が前回のチャットでの失敗について謝罪することです。これが彼女が言及しているものです。ご覧のように、彼女は大きなソファ、タフテッドの大きなソファを独り占めしています。
3人が座れるような3つのセクションがあり、この小さなソファ、おそらく1人用か、これは2人用ではありません。彼らは2人をこの小さなソファに詰め込み、人類とAIの進歩の未来について質問したのです。なので、誰がこれが良いアイデアだと思ったのかわかりませんが、彼女がここで言っているように、その会議の部分が最も注目を集めました。
彼女が巨大なソファに座っている間、彼らが非常に小さなラブシートに詰め込まれていたという事実です。なので、彼らは自己認識を育んでいるようです。素晴らしいことですね。Darioへの最初の質問は、2026年から2027年が重要な年になるという彼の以前の予測、データセンター内の天才の国などについて、まだその軌道に乗っているかどうかでした。
より具体的には、Darioがモデルが多くの分野でノーベル賞受賞者のレベルで人間ができることすべてをできるようになると言ったことに言及しています。彼はそれについて概ね軌道に乗っていると言っています。Anthropicによる最近の出版物の1つは、彼らの最近の経済レポートで、世界の生産性上昇の予測を少し下方修正しました。
確か1.6%か1.7%から年間1%に、今後10年間で下がったと思います。正確な数字は忘れましたが、基本的には非常に大きな影響を与える非常に大きな数字だったのが、依然として影響力のある数字ではあるものの、やや減少したということです。
彼はAnthropicのコードを書くエンジニアの一部は、もうコードを書いていないと述べています。すべてがClaudeで、Claude Codeで、これらのAIモデルによって行われているのです。彼はおそらくBoris Churのことを指していると思われます。彼はClaude Codeの生みの親のような人物で、最近、Claude Codeへの貢献のほとんど、あるいはすべてがClaude Code自身によって行われたと述べていました。
なので彼は、エンジニアは徐々にエディターのような役割に移行していくだろうと言っています。つまり、コードを編集はするけれど、自分でコードを書くわけではないということです。そして彼はそれが6ヶ月から12ヶ月先のことだと言っています。それからDemisに彼の予測について尋ねられました。彼は、10年末までにシステムが人間ができるすべての認知能力を示す確率が50%あると述べました。
DemisはそうだなとYes、まだそのタイムライン通りだと言っています。彼は、検証可能な結果が得られる特定の領域があり、それが物事を非常に容易にすると言っています。コーディング、数学、エンジニアリング作業などでは、検証可能な出力があります。これによりこれらのモデルの開発とパフォーマンスが非常に容易になります。
それほど速くは進まない他の領域もあります。彼は例として、特定の化学化合物や特定の物理学の予測を挙げています。そこではすぐに答えがわかりません。答えが正しいかどうかを確認するために、何らかの実験やシミュレーションを実行する必要があるかもしれません。それには当然時間がかかります。
そのループは長く、彼は、これらのモデルがそれを行うためには、アーキテクチャのいくつかのピースがまだ欠けていると言っています。理論を考え出したり、仮説を立てたりするようなことです。そして彼はそれが最高レベルの科学的創造性であり、はるかに難しいと信じています。彼は私たちがそこに到達し、そうしたシステムを構築すると信じていますが、いくつかの材料が欠けています。最近、Google DeepMindはネスト学習というアイデアについて発表しています。
つまり、継続的な学習を可能にするループのようなものです。そして彼らはそれを、短期記憶のような短く速いループと、長期記憶のような長いループとして説明しています。それが今欠けているピースです。なぜなら、モデルのコンテキストウィンドウをその短期記憶と考えることができるからです。
あなたがモデルに物事を伝えると、それを覚えています。その中で作業することができます。しかし健忘症患者のように、学習しているすべての新しい情報を忘れ続けるのです。それでも強力ではありますが、大きなピースが欠けています。なので、その継続的な学習が解明されれば、解決されれば、それは確実にこれらのモデルに多くの機能を追加することになるでしょう。
次に、彼らは基本的に、AnthropicとGoogle DeepMindが、現在最高のAIフロンティアラボの2つの1つであることについて少し話します。彼らは確実にOpenAIでコードレッドを引き起こし、以前よりもはるかに良い仕事をしているとも言えます。
それで彼らはDemisに何が起こったのか尋ねます。Darioにも同じことを尋ねます。Demisは、彼らには最高の研究者、エンジニアがいて、これに取り組んでいる最高の研究者のデッキがあると言っています。なので、スタートアップのマインドセットに戻り、彼らの椅子の下に火をつけることが重要なのです。
そして彼は、これが起こることを常に知っていたと言います。なぜなら、彼らには必要な主要なもの、つまり世界クラスのハイエンド研究者とエンジニアのチームがあるからです。他のすべてが等しければ、それが常に彼らを前進させるものになります。それから彼らはDarioに資金状況について尋ねます。
彼らは、これらの独立したモデルメーカーの経済状況は厳しいと言っています。これらの企業の多くは赤字です。AIモデル自体が、研究やトレーニング、推論、機械学習エンジニアや研究者への高額な給与のコストを正当化したりカバーしたりするのに十分なお金をもたらしていません。
DarioはYes、最近の収益の成長は狂気じみていると言っています。2023年にゼロから8億ドルになり、2024年に8億ドルから10億ドルになり、2025年に10億ドルから100億ドルになりました。彼は、その曲線が文字通り続くかどうかはわからないと言っています。もし続けば狂気でしょう。確かに、そうですね。
しかしそれらの数字は、世界最大の企業のいくつかからそれほど遠くありません。なので彼は、これがある時点で自己持続可能になるかもしれないと信じています。彼らはギャップを埋めることができるなどです。もちろん、Googleには大きな利点があります。彼らには検索という巨大な収益源があり、他にもいくつかありますが、検索が大きなものです。Googleを動かす広告エンジンなので、彼らはこれらのものを開発し、TPUやチップを改善するために多くのお金を投入できます。
しかしDarioは、「Yes、不確実性はあります。私たちはこれをゼロから立ち上げようとしています」と言っています。そして彼はDemisにも言及し、GoogleとAnthropicの両方について興味深いことを述べています。彼らに共通していることは、モデルに焦点を当て、世界の重要な問題を解決することに焦点を当てる研究者によって率いられているという事実です。
そして彼らは、財務やそのようなことよりも、これらの難しい科学的問題を北極星として見ています。そして彼は、これらが勝つ企業になると信じています。もちろん、GoogleがAnthropicの小さな部分を所有していることを覚えておいてください。そしてより最近では、Anthropicが持つ新しいモデルはTPU、Googleのハードウェアでトレーニングされています。
実際、GoogleはAnthropicがこれらのTPUを持ち帰り、自分たちのデータセンターで構築できるようにしています。以前は、クラウド経由でしか許可されていませんでした。今では、特定の企業が実際のメタル、実際のハードウェアで自分たちのデータセンターを構築することを許可され始めています。
これによりAnthropicは非常に有利な立場に置かれます。次に、Darioは彼のエッセイ「The Machines of Loving Grace」について尋ねられます。私たちはこのチャンネルでそれを読みました。かなり大きな出来事で、非常に重要なエッセイでした。多くの人がそれを参照しています。そしてDarioが言っているように、彼はAGI開発の肯定的な側面と、リスク、潜在的な責任などの否定的な側面も書くつもりでした。
The Machines of Loving Grace。彼はそれを最初に書きました。それはAGIの肯定的な側面のようなものでした。彼がそれをやりたかったのは、肯定的な部分を書く方が簡単だったからです。そして今、彼は最近休暇中にその否定的な側面を完成させたと言っています。なので、うまくいけばすぐにそれが公開されるでしょう。
雇用と経済への影響
そして彼は、リスクとして見ている多くの問題に触れています。なので、もしこれらの機械が完全に自律的になったら、それはリスクをもたらすのか?バイオテロリズムはどうか?彼は中国共産党、権威主義政府、経済的影響を懸念しています。次に、彼らは過去に彼が仕事に何が起こるかについて述べた声明について尋ねます。
彼はもちろん、ホワイトカラーの大虐殺があるだろうと言っていました。多くの仕事が自動化されるでしょう。最近のAnthropicの経済指標は基本的に、コーディングが炭鉱のカナリアであると話していました。なので、今コーディングで見ていることは、他のほとんどの仕事にも来るので、未来を垣間見るようなものです。
そして私たちがそこで見ているのは、大規模な自動化が起きているということです。Claude Codeを試したことがあれば、それを直接見たことでしょう。彼らはまた、デスキリングとアップスキリングについても話しました。特定の職業を想像すると、その職業を行うためにしなければならないすべてのスキル、すべてのことのクラスターのようなものがあります。
いくつかはより難しく、いくつかはより簡単です。AIがその職業で最も難しいタスクを自動化し、その職業で働く人々には、より低いスキルのタスクを残すような職業を想像できます。それがデスキリングの例になるでしょう。彼らが挙げる例の1つは、例えば旅行代理店です。
高いスキルを必要とすることがたくさんあります。例えば、複雑な旅程をどのように計画するか?特定の体験、特定の価格帯を求めている特定の人々のために、どのようにパッケージをカスタマイズするか?そのすべての情報をどのように取り、顧客に理解しやすい方法で提示するか?これらは高スキルのタスクです。
AIはこれらすべてのことを行うのが得意です。では、旅行代理店には何が残されているのでしょうか?支払いを受け取ったり、チケットを処理したりするような、非常に低レベルの単純作業です。そして反対側には、不動産管理のようなものがあり、AIが管理上の仕事、レポートの作成、領収書の合計、市場の家賃が現在いくらかを調査するといった、多くの単純で低スキルのタスクを引き受けます。
なので、多くの退屈で単調な日常的なことをAIが自動化できます。では、これらの不動産マネージャーには何が残されているのでしょうか?それは高レベルの交渉、すべての利害関係者が世話されていることを確認し、彼らがやろうとしていることとすべてが一致していることを確認することです。また、潜在的に金融、例えばローン契約を交渉したり、銀行との関係を確立したりすることなどです。
なので、より高レベルで影響力の高い、人間同士の対面交渉などが残されます。不動産を管理している場合、すべての管理タスクはAIが引き受けるので、あなたの仕事から外れます。あなたはより高レベルのタスクに集中します。それがアップスキリングです。しかし具体的にDarioが言っていたこと、そして彼の研究が示していることは、Anthropicの経済レポートと、実際にはスタンフォードがそれらの数字の多くを取り上げたことです。
彼らは私たちがカバーした独自の種類の研究とレポートを作成しました。それは本当にエントリーレベルの仕事、ジュニアの仕事に影響を与えるようです。なので、大学を卒業して労働市場に参入する人々、そこが最も大きな打撃を受けるところです。そしてDemisはここで、おそらく今年中にも、これらのジュニアレベルのエントリーレベルのインターンシップや仕事に影響を与え始めるのを見るだろうと言っています。
そして彼は大学に通っている人々、学部生にアドバイスを与えています。彼が彼らに言うことは、これらの新しいAIツールに信じられないほど熟達することだと言っています。そして彼自身のような、それを構築している人々でさえ、それを構築するのに忙しすぎて、これらのツールの使い方を実際に学ぶことに追いつけないのです。なので、伝統的には仕事のやり方を学ぶためにインターンシップをするようなものでしたが。
彼は今日、将来的には、インターンシップの代わりにこれらのツールを使うことに信じられないほど、信じられないほど上手になることに集中する方が、ほとんど良い賭けかもしれないと言っています。そして彼は、それによってこれらの職業で自分自身を飛び越え、先に進むことができるだろうと言っています。そして彼は、それがおそらく今後5年以内に起こるだろうと言っています。
次の質問は、AGIが到着したときに何が起こるかについてです。それは労働力にどのような影響を与えるのでしょうか?どのような経済的影響があるのでしょうか?仕事、労働者などにどのような影響を与えるのでしょうか?Darioは労働市場は非常に適応性があったと言っています。人々の80%は農業をしていました。それが自動化されたとき、彼らは新しい仕事を見つけました。工場労働者になり、後に知識労働者になりました。なのでここには適応性のレベルがあります。これが私がこの2人、DarioとDemisから聞くのが好きな理由です。なぜなら、彼らは多くの人が真実だと知っていることを言っていると思うからです。
しかしそれは怖いことなので、人々は声に出して言わない傾向があります。なぜなら、確かにいくつかの新しい仕事が作られ、適応性があるからです。人々は自分がしていることから新しい仕事に移ります。彼らはより効率的になるなど、生産性が上がります。私たちは皆それを理解しています。それは農業などで以前に起こりました、確かに。しかしここに質問があります。
銃を頭に突きつけられて。あなたはそれがAIで起こることに賭けますか?あなたはそれが起こることに自信がありますか?それとも、私たちがここで召喚したものは、過去に見たものとは少し違うかもしれないと思いますか?なので、ここでDarioが人々の目を少し開かせようとしているのが好きです。
彼は彼らをあまり動揺させたくありませんが、彼は言っています、しかし私の心配は、この指数関数が複利を続けることです。もし進歩が続けて指数関数的に複利になるなら、そしてそれには長くかからないと思います。指数関数がどのように機能するかのために。最初はとてもゆっくりで、それから突然、彼は1年から5年のどこかで、それが私たちの適応能力を圧倒するだろうと言っています。今大学にいる人々が5年間、AIの波が彼らの就職見通しなどにどのように影響するかを適応し、理解する時間があるなら、それは彼らに十分な時間を与えます。特に速く動く人々、速く学ぶ人々、物事を理解するやる気のある人々にとっては、おそらく十分な時間を与えるでしょう。しかし、今後5年間で経験する進歩の量が、その後1年で起こったらどうでしょうか。それが複利を続けるので、そしてそれは3ヶ月、そして1ヶ月に圧縮されるでしょう。進歩があまりにも急速で、私たちの適応能力を圧倒したらどうなるでしょうか。
ところで、それが人々がAIを嫌い、AIは悪い、それはスロップだ、これだ、あれだと言うときに皆が恐れていることだと思います。そのような感情的な反応は、私たち全員がもしそれらの能力が向上し続けたらどうなるかについて少し恐れているために引き起こされると思います。そしてDarioは言っています、政府がこれの規模を理解しているという自信はどれくらいありますか、そして彼らは必要な政策対応について考え始めていますか?もし労働力、労働者のより大きく大きなチャンクが自動化され、置き換えられ始めたら、今すべての国と政府とすべて、ほとんど始まりに遡るような人間の社会全体がおそらく。
それは、もしリソースへのアクセスが欲しいなら、それが食べ物であれ、他の人が作るものであれ、後の歴史ではお金のようなものであれ、このアイデアを中心に展開しています。
もしリソースが欲しいなら、何らかの認知的または物理的労働を提供します。最初は、何かを狩ったり、バスケットを作ったり、ベリーを摘んだりして、他の人々はその労働と引き換えに必要なリソースを提供しました。そして今でも基本的に同じで、ただ異なる仕事があり、今ではあなたがどれだけの労働を提供したかを追跡するためのお金があります。
しかし状況を想像できます。これはShane Eggだったと思いますが、Google DeepMindのポッドキャストでこれを言ったのは彼です。彼はAIがすぐにその概念全体を壊すかもしれないと言っています。そして次に何が来るのかを考えるのは難しいです。これらの解決策はあるのでしょうか?確かに、誰も働く必要のないユートピアのようなものがあれば素晴らしいでしょう。
そして多くの人が最終的にその結果を見ていますが、ここからそこまでの間に、かなり多くのことを理解しなければなりません。そして移行は荒れるかもしれません。なぜなら、人間は論理的ではなく、通常は長期的な思考者ではないからです。私たちは適応するのが困難です。私たちは第一原理から考えるのが困難です。
私たちは指数関数を理解するのが困難です。それからダニング・クルーガー効果もあります。何かについて知れば知るほど、自分の知識の限界を認識するようになります。一方、何かを学び始めたばかりか、あまり理解していない人は、はるかに自信を持っている傾向があります。
なので、私たちに不利に働く多くのことがあります。ああ、そして私たちは地獄のように利己的でもあります。それもあります。しかし長期的に正しく行えば、物事はかなり素晴らしくなるでしょう。そして次に、Demis Hassabisが同じ質問に答えます。そしてこれは本当に私の目を引きました。
AIの社会的影響と将来展望
そして私は慰められていますが、同時に彼がこれを言っていることに少し警戒しています。なぜなら、私が気づいたことの1つ、そして私を悩ませていることの1つは、これらの来るべき変化について本当に深く考えている賢い人がいかに少ないかということだからです。ここでDemisは、これらの高級な場所の経済学者に会っても、これらの専門の経済学者、教授などに会っても、何が起こるかについて考えている人がもっといないことに常に驚いていると言っています。
彼は、これについて考えるべき賢い経済学者、このようなことを扱う人々がもっといるべきだと感じていますが、彼らはそうしていません。そしてこれは私にも非常に奇妙です。これが、他の経済学者から嘲笑されるかもしれないと思っているというアイデアなのかどうかわかりません。
もし彼らがこれらのことのいくつかが真実であることを受け入れたら。人々は「ああ、あなたはとても愚かだ。物事が変わると思っている、彼らは永遠にそのまま。なぜこれについて考える必要があるのか?」のように。おそらく現状維持は、残りの人々がそれらのアイデアを拒否するときに、何が起こるかについて話し始める最初の人になりたくないというようなものです。
しかしこれについての議論は非常に少なく、それは私には少し奇妙です。Yes、良い理論があるかどうかわかりません。Dave Shapiroと話しました。彼はこれについて多く話しています。そして私が知る限り、彼はオンラインで他のどこよりも、この分野で最も多くの思考とコンテンツを持っているかもしれません。
間違っていたら訂正してください。これらの問題に取り組んでいる他の知的な人々はいますか?なぜなら、私はそれについていくつかの会話を見始めていますが、わあ、これは少し遅すぎるタイプのシナリオかもしれません。そして次にDemisは、そこに到達すれば、もっと多くのリソースなどを持つポストスカーシティの世界のようなものになるだろうと言っています。
しかしそれは意味の問題を提起します。仕事やキャリアから来ないとき、人生で意味を持つために何をするのでしょうか?そしてこれは興味深いです。なぜなら、彼はエクストリームスポーツやアート、必ずしも直接経済的利益に結びつかないものについて話しているからです。最近、Bending Benchの背後にいる研究者たちと話しました。
もし忘れなければ、下に動画をリンクします。本当に良いインタビューで、非常に興味深いです。それは私が最後に尋ねるようなことの1つです。すべてが機械によって自動化されたとき、私たちは意味のために何をするのでしょうか?そして答えはゲームのようなものでした。それは悪いことではありません。
今、私たちはゲームやこれらの活動を見下す傾向があります。仕事は重要で、ゲームは愚かだと。しかし仕事がなくなったとき、何が私たちに意味を与えるのでしょうか?さて、アートの世界やスポーツやビデオゲーム、チェスなど、多くの異なるゲームや追求があり得ます。
それが人々に意味を与えるでしょう。それは人々に追求、何らかの社会的地位などを与えるでしょう。それは彼らに向かって働くものを与え、多くの人々がそれほど悪いことではないことに気づくと思います。しかし、繰り返しますが、これらのアイデアについて話し合い、議論している人はあまり多くありません。
そしてDemisはもちろん、星を探索するような、これらの活動のより洗練されたバージョンもあるだろうと言っています。Demisは別のインタビューで、AGIを達成し、もう働く必要がなくなったら、ビデオゲーム作りに戻る可能性があるか、おそらくそうするだろうと言いました。それは信じられないほど素晴らしいでしょう。なぜなら、彼は過去にかなり良いビデオゲームを作っているからです。
彼は優れたゲームを作ったチームに参加していました。なので、実際に調べなければなりませんでした。Theme Park、Syndicate、これは良いものでした。Black and White、私はこの2作目をプレイしたと思います。Black and Whiteは素晴らしいゲームでした。Republic: The Revolution、Evil Genius。インタビュアーが尋ねた非常に興味深い質問の1つは、彼らがこれらのものを構築していて仕事が失われるにつれて、例えばDemisは、彼が働いているような場所に対して多くの憎しみが生まれることを心配しているかどうかでした。彼はYes、それは確かにリスクだと言っています。
そして確かにそれは合理的です。もしあなたの会社が人々を解雇されるツールを構築しているなら、人々が仕事を失っているなら、これらのAIフロンティアラボに対していくらかの不安が生まれると考えるのは合理的でしょうか?そして彼は「Yes、それは合理的です。恐れがあります。心配があります」と言っています。彼は、これから出てくるもの、例えばAlphaFoldのようなもの、科学的な仕事はすべての病気を治す可能性があると述べています。なので、私が正しく理解しているなら、彼は基本的に、一般の人々は、これらすべての素晴らしいものがあることを理解しなければならないが、私たちはこれも処理しなければならないと言っているようです。
彼はまた、いくつかの地政学的問題について言及しています。地政学的競争をめぐる問題をどのように乗り越えるのでしょうか?展開のための最低限の安全基準などに関して、国際協力はあるのでしょうか。Darioは、中国へのチップ販売、中国へのチップ販売に関する最新の決定など、さまざまな地政学的問題についてどう思うか尋ねられます。
さて、Darioは過去に、すべてのチップの中国への販売を禁止すべきだと言っていました。そして彼がここで言っているように、彼は実際にここでその声明を強化しています。彼は、そうなると、もはや中国と米国の間の自由な競争ではなくなると言っています。それは本当に、例えばGoogle DeepMindとAnthropicの間の競争になります。
そして彼は、そこで彼らは合意し、協力してそれらの競争のダイナミクスをはるかによく制御できると言っています。そして確かに、考えてみれば、ハードウェア、GPUを誰が制御するのか?もしAnthropicがGoogleのハードウェアに依存していて、彼らだけが2つのプレイヤーであれば、理論上、その競争のダイナミクスは遅くなる可能性があります。業界には、私が多くの信頼を持って見る傾向がある人が何人かいます。
彼らは正直な人々であると私に思わせます。Demisはその1人です。Ilya Sutskeverも、彼らが言うことを意味するような人だと思います。なので個人的には、DemisがこのAI競争でそのような強力で影響力のある立場にいることを非常に嬉しく思いますが、私は完全に間違っているかもしれません。それは私の直感です。
彼が完全に人間の感情を隠すことができるので、視界から完全に隠してきた悪の天才の首謀者であるかどうかはわかりません。ああ、でも誰が知っているでしょう?しかし、それが価値があるものとして、私は彼が正しい決定を下すことを信頼する傾向があります。繰り返しますが、それが価値があるものとして。
インタビュアーはまた、これらのNvidiaチップ、GPUの中国への販売を許可する政権の論理のようなものについても言及しています。そして実際、彼女は、私が理解しているように、これらのチップを販売する必要があるのは、彼らを米国のサプライチェーンに縛り付ける必要があるからだと言っています。なので、実際には聞いたことがありませんが、それは理にかなっています。
それが正しいか間違っているか、良いアイデアかどうかという観点からではありません。そうは言っていません。しかし、当初、関税付きでこれらのチップを販売する決定を本当に理解していませんでした。待って、お金、収入、連邦政府への追加収入のために売ることは大丈夫なのか、と思いました。
それは私には意味がありませんでした。しかし、厳格な制限などを伴ってチップの一部を販売する限り、それは中国が米国のインフラに留まることを奨励するかもしれないというアイデアです。なぜなら、考えてみれば、基本的に今後10年から20年にわたって、米国か中国か、どちらがAIをより速く構築するかが、AIのための世界のインフラの大部分を制御することになるからです。
なので、もし中国が最高のモデルを生産し、それらを完全にオープンソース化すれば、世界のほとんどが彼らのインフラで動くでしょう。もし米国が同じことをすれば、その逆です。なので、それは少し競争です。なぜなら、もちろん米国は、それを制御するもの、すべての国に、すべての国に手を置き、彼らに対していくらかの影響力を持つものになりたいからです。
もし中国がチップなどのための自分たちのインフラを完全に開発し、米国から完全に独立し、自分たちのモデルを生産し、それらをオープンソース化し始めれば、繰り返しますが、それが正しいか間違っているかは言っていませんが、確かに米国のリーダーシップ側からすれば、それは損失と見なされるでしょう。なので、その観点から、もしそれが理にかなっているなら、それは私には理にかなっています。
もしこれがインフラ競争だと信じているなら、それがどのように関係しているかがわかります。なのでDarioはここで比較して、では北朝鮮に核兵器を売るのか、なぜならそれがボーイングに利益をもたらすからと言っています。なので、繰り返しますが、彼の立場はかなり確固としています。多くの人々は、中国からのオープンソース競争を望んでいないために彼がそう言っているのではないかと疑問に思います。なぜなら、繰り返しますが、それが本当に行うこと、それが本当に不釣り合いに影響を与えるのは、AIからの収益を必要とする人々だからです。
もしAIからの利益、収益がゼロになれば、Googleは広告ビジネスを通じて持っている巨大な収益源のために、モデルの構築とトレーニングを維持できるかもしれません。AnthropicとOpenAIはできないかもしれません。xAI、ElonとMuskと企業はそれを維持できるかもしれません。
しかしOpenAI、Anthropicは、顧客からの収益、それらのモデルの構築からお金を稼げなければ、おそらく本当に傷つくでしょう。そしてもちろん、素晴らしいオープンソースモデルがあれば、それがまさに起こることです。それはあなたのモデルの使用のために良い価格設定、価格設定を設定する能力を本当に引きずり下ろします。なぜなら、代替案は無料か非常に安価だからです。
次に、Darioは、彼が過去にドゥーマーアプローチに懐疑的だったかどうか尋ねられますが、もちろんAnthropicは、これらのモデルが欺瞞的であること、状況認識を持っていること、彼らが研究されていることを認識していることについて、多くの興味深い論文を発表しています。なので、Darioはもちろん、Yes、彼らはこれらの悪い行動の多くを見つけた人々であり、メカニスティック解釈可能性でそれらに対処する方法を学んでいると答えます。
なので、彼らは信じられないほどの仕事をしていると思います。彼らは、これらのモデルが非常に基本的なレベルでどのように考えるか、異なるニューロンとニューロンのクラスター、彼らが特徴と呼ぶもの、特定の概念についてモデルがどのように考えるかに貢献するものを理解する方法を示す研究を発表することに関して、おそらくこの分野のリーダーだと思います。
そして彼は、DemisとDemisの両方がAIドゥーマーに懐疑的だと言っています。彼は、もし私たちがそれらをひどく構築すれば、速く競争すれば、ガードレールがなければ、確かに、物事は悪くなる可能性があると言っています。しかし彼は、私たちが科学的発見、ポストスカーシティ社会、すべての良いもののような場所に向けて構築していると信じています。
そしてYes、リスクはありますが、適切なペースで進む限り、すべてを慎重に研究すれば、彼はAIドゥーマー仮説や理論、視点、何と呼びたいにしても、それを信じていません。次に、Demisは、AIの利点は何か、AIの利点についての彼の見解は増加したかどうかのようなことを尋ねられます。彼は、それに取り組んでいる期間が非常に長いので、常にそれが提供できるものについてこの非常に大きな見解を持っていたと言っています。
彼は、それが科学と私たちの周りの宇宙を理解するための究極のツールだと言っています。そして彼はDarioが言っていることを倍加させています。AI安全性は、時間があれば非常に扱いやすい問題だというアイデアです。そしてエピソードの前半から思い出せば、StarCloudの共同創業者であるPhilipは宇宙にデータセンターを建設しています。
なので彼は少し哲学的な核心的な質問をしたかったのです。彼は、AIドゥーマーの大きな議論の1つは、これより前にAIを開発した宇宙人が、彼らが開発した技術によって破壊されたらどうなるかというフェルミのパラドックスだと言っています。それが私たちが宇宙で他の誰も見ない理由なのではないでしょうか?私は絶対に大好きです。なぜなら、つまり、繰り返しますが、Demisはこの質問に公然と取り組み、もしそれが起こったなら、銀河のどこかからクリップが私たちに向かって来るのを見るはずだと言っています。もしAIが銀河のある部分を乗っ取り、それを破壊し、構築し続けたら。もし超知能がそこにいるなら、それはおそらく信じられないほどの構造を構築しているでしょう。私たちは何かを見るでしょう。ダイソン球のようなものを見るでしょう。何かを見るはずです。彼はまた、フェルミのパラドックスについて多くの理論を持っているが、次の1分の範囲外だと言っています。ああ、私は願っています。Demisが話す時間があればよかったのに。フェルミのパラドックスについてのDemisの理論を聞きたい、あるいは正直に言って、彼が話したいことなら何でも、より外向きのアイデアについて聞きたいです。なぜなら、彼は私たちが計算宇宙にいるというアイデアについて話したことがあり、今はフェルミのパラドックス、ダイソン球について話しているからです。私はそれについてもっと知りたいです。そして彼はまた、私たちはおそらく大きなフィルターを過ぎていると言っています。もし推測しなければならないなら、それはおそらく多細胞生命でした。
そして次に何が起こるかについての安らぎのようなものがあります。次に、彼らはターボファストラウンドのようなものを持っています。なので、質問の1つは、AIが変化するにつれて何を見るべきかのようなものです。Darioは、今後数年間で、私たちが直面しなければならない大きな緊急事態があるのか、それとも驚異があるのかがわかるだろうと言っています。
なので、彼は、私たちがここで何に対処しているのかが明確になるポイントに来ていると言っています。Demisが答えています。彼は、まず第一にDarioに同意し、Yes、私たちは確かにそれについて話し合っていて、それに目を光らせていると言っていますが、彼はそれ以外に、ワールドモデル、継続的な学習など、研究されている多くの興味深いアイデアがあると言っています。そして彼は、もし自己改善がそれ自体で成果を提供しないなら、継続的な学習、ワールドモデルのような他のものが機能する必要があると言っています。
AIが自己改善プロセスのようなもので自力で動き始めるポイントまでAIを持っていくかもしれないというアイデアです。その時点で、それが自力でAIの進歩を続けることにおいて人間よりも優れていると仮定すると、洗練されたソリューションを考え出す必要はありません。再帰的自己改善などです。
しかし彼は、もしそれがそれ自体でそれを提供しないなら、ワールドモデル、継続学習などのようなものが必要だと言っています。そしてロボティクスのようなものが、そのブレイクアウトの瞬間を迎えるかもしれません。なので、素晴らしいインタビューで、聴く価値があります。彼らがこのダボス会議で行った他の多くのインタビューもありますが、まだ見る機会がありませんでしたが、これを本当に楽しみました。
私がそれが好きなのは、繰り返しますが、彼らが本物のことについて話しているからです。彼らは、私が言える限り、彼らが本当に意味することを言っています。これらの会話の多くは、とてもふわふわしていて、二枚舌で、ただのノイズのようなものです。そしてそれは理にかなっています。なぜなら、もし彼らが全世界と話しているなら、心に浮かんだ最初のことをただ言うことはできないからです。
注意しなければなりません。人々は物事を文脈から切り離し、混乱させ、それに独自のスピンとナラティブを置く傾向があります。しかしそれでも、彼ら両方が、私が信じるところでは、彼らが意味することを言い、人々に危険について警告するという素晴らしい仕事をしたと思います。しかし、人々が私たちが対処しているものが非常に重要であることを理解できるように、利点も指摘しています。
これはただの危険ではなく、シャットダウンしましょうというようなものではありません。それは病気を解決できます。ポストスカーシティ社会に到達できます。これらすべての利点があります。しかし、エンジニアリングのリスクもあります。そして、もし十分な時間があれば、速く行きすぎなければ、または正しいペースで行けば、競争条件のようなものでなければ、おそらくこれらの問題を解決するでしょう。
それらを解決し、人生は以前のほとんどの世代よりも将来の世代にとってはるかに良いものになるでしょう。なので、それについてどう思ったか教えてください。彼らが言うことを信頼しますか?これは肯定的な見方ですか、否定的な見方ですか?怖いですか?興奮していますか?私たちは引き返せない地点、あるいは少なくとも人類が私たちがしていることと、それをどのように進めるつもりかについてかなり大きな決定を下さなければならない地点に近づいているように聞こえます。そして、私たちが行うことができる多くの方法、多くの決定があり、それらは悪いものになるでしょう。そして、おそらくいくつかの決定、いくつかの戦略があり、私たちが採用できる良いものであり、経済的影響を最小限に抑え、この新しい生活システムが何であれ、それに移行することを可能にするものです。
本当に、Demisが言うことを倍加させたいと思います。それが来たときに新しい経済的現実にどのように適応するかについて考えている賢い人が十分にいないということです。なぜなら、もし本当に指数関数的になれば、私たちには多くの時間があるように見えますが、おそらくそうではないからです。とにかく、もしここまで来たなら、どう思うか教えてください。
ご視聴いただき、本当にありがとうございました。私の名前はWes Rothです。
コメント