Anthropicの共同創設者であるジャック・クラークの予測をもとに、AIが自律的にAIを研究開発する「再帰的自己改善（RSI）」の時代が2028年までに到来する可能性について解説している。Google DeepMindがAGI経済学者を採用した動きや、最先端モデルによるコーディングや科学的タスクの自動化の現状を紹介し、AI主導の新しい経済圏の誕生とそれに伴う社会的課題、そして人類が直面するかつてない移行期に対する心構えを説く内容である。
人類史上最大の移行期とゆでガエルの警告
私たちは生きている間に、人類がこれまでに経験したことのないほど劇的な移行期を経験することになります。皆さん、私たちはいよいよ最終局面に近づきつつあります。ゆでガエルの話はご存知ですよね。ゆっくりと温度を上げていけば、カエルはそれに気づかず茹で上がってしまいます。徐々に熱を加えている限り、すべては順調に思えます。水が自分自身の生存にとって熱すぎる温度に達したことに気づかないのです。私はAIが大好きですし、物事が向かっている方向性を愛しています。未来にはとてもワクワクしています。しかし、中期的には非常に、非常に心配していることがいくつかあると、これまで何度も申し上げてきました。ここではAnthropicの共同創設者であるジャック・クラークの最近の投稿を紹介しますが、彼は実際にこれら両方のことについて語っています。まずは彼が何と言ったかを見ていきましょう。
もしこれを見逃していたなら、しっかりと心に留めておくことが重要です。というのも、私たちはクレイジーな見出しを何度も目にし続けており、しばらくするとあのカエルのように免疫ができてしまうからです。改めてジャック・クラークについて説明します。彼はOpenAIでポリシー部門のトップを務め、Anthropicの共同創設者でもあります。彼は最先端のAI研究所の内部事情に精通した人物です。政策立案者や政府のサークルにも非常に近く、まさにその交差点にいる人物です。ベン図を想像してください。彼は両方の円にまたがる唯一の人物のような存在です。彼は深く関与しています。そして、彼がこれから起こると考えているのは次のようなことです。
彼は現在、このような見解を持っていると述べています。AIの研究開発に人間が一切関与しない可能性が60パーセント以上あるという見解に、彼は渋々ながら至りました。つまり、AIシステムが十分に強力になり、自分自身の後継者を完全に自律的に構築するということです。バージョン1とバージョン2、バージョン3を作り、そしてバージョン5がバージョン6を作り、バージョン6がバージョン7を作る、といった具合です。このチャンネルでもまさにそのことについて話してきましたし、私たちがどのようにしてそこへゆっくりと近づいているのかを追跡してきました。私たちはまだ一線を越えてはいませんが、彼はこれが2028年末までに起こる可能性があり、いや、むしろ可能性が高いと言っているのです。彼はこれが大事件だと言っています。
繰り返しになりますが、彼は誇大広告を煽るような人物ではありません。彼はこれに注目するよう言っているのです。彼は、これをどう頭で理解すればいいのかわからないと言っています。人類の歴史上、世界の歴史上、このようなことは一度もありませんでした。これは世界で初めてのことです。これを理解すると言うことは、サルの群れが、ホモ・サピエンスがこの世界に誕生したことのすべての結果や、それが引き起こすすべての物事を理解すると言っているようなものです。この動画から何か一つだけを持ち帰るとしたら、これだけは理解してください。皆さんは、神の意志が許す限り、私たち全員が、再帰的自己改善が本格的に稼働する時代を生きることになる可能性が高いのです。再帰的自己改善、自動化されたAI研究開発、知能爆発、何と呼んでも構いませんが、それはもうすぐオンラインになります。間もなくです。Wait But Whyのチャートを覚えていますか。これが地球上で最高の知能であり、そしてここでASIを創造し、そこから一気に急上昇していくというものです。エージェントの能力を追跡した最近のチャートも、3ヶ月前のClaude Mythosのプレビューではそのような感じに見えました。最初は恐ろしい見た目のチャートでしたが、そこから一気にClaude Mythosが登場しました。
AGIがもたらす新しい経済とAI労働
また、Google DeepMindが社内でこれまで見たこともないような新しい職務の募集をかけようとしていたことについて、私たちがかなり話をしたのを覚えているかもしれません。そしてついに、彼らはその役職に人を採用しました。今週、アレックス・エモスが加わりました。彼はAGI経済学のディレクターとしてGoogle DeepMindで働き始め、シェーン・レッグと一緒に仕事をすると述べています。シェーン・レッグは、Google DeepMindの共同創設者であり、当初からこのことについて話していた人物です。シェーン・レッグは非常に的確に表現していたと思います。私たちが資源へのアクセスのために手作業や認知的な労働を提供するというシステムを持っていますよね。それが私たちの経済の仕組みですが、よく考えてみるとこれは非常に一般的なものです。狩猟採集の時代に遡っても、誰もが自分の知識、スキル、カゴを編んだり、ベリーを集めたり、狩りをしたりなど、できることを貢献し、その見返りとして資源、食べ物、焚き火の周りの場所などにアクセスできました。
シェーン・レッグは、そのシステムがAGIによって崩壊しようとしており、新しいシステムについて真剣に考える必要があると言っていました。Google DeepMindの上層部の人たちは、最先端のAIが経済をどのように再構築でき、そして再構築するのかについて、非常に現実的な方法で考え、採用活動を行い、準備を進めています。富はどうなるのか。労働はどうなるのか。仕事はどうなるのか。制度はどのように適応するのか。AIエージェントは市場をどのように形作るのか。Google DeepMindのトップ層は、そのようなことを考えているのです。最先端のAIラボの上層部にいるジャック・クラークも、同じようなことを考えています。仕事はどのように続いていくのか。人間の経済とは何か。AGI経済とは何か。このように、私たちは生きている間に、人類がこれまでに経験したことのないほど劇的な移行期を経験することになります。
自動化されるAI研究開発とルビコン川
そして、このジャック・クラークの投稿を、少なくともハイライトだけでも読み上げたいと思いました。これから何が起こるかを人々が理解することが重要だと考えるからです。皆さん、私たちはいよいよ最終局面に近づきつつあります。ですから、お願いです。チャンネル登録と高評価をお願いします。よく聞く言葉だとは思いますが、これは本当に大きな助けになりますし、このメッセージを世に広めるのに本当に役立ちます。なぜなら、事態は深刻になりつつあるからです。私はこれについて数年前から話してきましたが、しばらくの間十分に話し、議論し続けると、常にその過剰な興奮状態にいることはできず、それがより日常的なものになってしまいます。しかし、時折、自分自身に衝撃を与え、再び活力を与え、これが現実に起きているのだと理解することが重要です。これは冗談ではありません。マーケティングキャンペーンでもありません。単なる誇大広告でもありません。本当にやって来るのです。マジで、マジで、マジで。
さて、ここからが本題です。AIシステムが自分自身を構築し始めようとしています。それはどういう意味でしょうか。ジャック・クラークがここで言っているように、これは重大な出来事です。彼は、これをどう理解すればいいのかわからないと言っています。彼は、その意味合いがあまりにも大きいため、自分がちっぽけに感じられ、これは渋々ながらの意見だと言っています。そして、自動化されたAI研究開発の達成が意味するような変化に対して、社会が準備できているとは思えないとも述べています。もしそれが起これば、私たちは予測がほぼ不可能な未来へとルビコン川を渡ることになります。ルビコン川という言葉は、ユリウス・カエサルとローマ帝国の歴史全体に詳しくない方のために説明すると、基本的に後戻りできない地点を意味します。一度きりの人生だと叫んで何かを実行してしまったら、それはルビコン川を渡ったということであり、もう後戻りはできません。
このエッセイの大部分は、完全に自動化されたAI研究開発への飛躍が起きつつあると彼が考える理由について書かれています。ここではいくつかの重要なポイントを取り上げます。このチャンネルで私が扱っている内容の多くは、私たちがその地点に近づいている理由を示す様々な研究などを検討するものです。ですので、ここでは深く掘り下げる必要はないと思います。すべての動画というわけではありませんが、かなりの数の動画でこのトピックを扱っているからです。彼はこのことの結果について議論するつもりですが、エッセイの大部分は、この信念の証拠について議論することに費やされると予想しています。そして、ここからが私にとって非常に興味深いところです。彼は、2026年の大半をこの意味合いについて考えることに費やすと言っています。これこそ私が応援し、拍手喝采を送る部分です。だからこそ、シェーン・レッグとGoogle DeepMindのチームがAGI経済学者として誰かを採用したことに私は本当に興奮したのです。
何が起こるかについて考える、非常に賢明で、非常に意識の高い人がもっと必要なのです。なぜなら、私たちはそのためのモデルを持っていないため、何が起こるかを予測することはほぼ不可能に思えるからです。私たちはこれまでこのようなことが起こるのを見たことがありません。もしあなたが作家や著者であれば、書くのが非常に難しいテーマがあることを知っているでしょう。優れたSF作家であるラリー・ニーヴンやオースン・スコット・カードらによれば、最も難しいことの一つは、自分よりもはるかに賢いキャラクターについて書くことだそうです。スコット・アダムスもこのことについて詳しく書いていたと思います。もしあなたが自分よりもはるかに賢い超知能を持つキャラクターが登場する本を書いているとしたら、彼が何を考え、どのように計画しているかを完全に理解するのは難しいでしょう。なぜなら、繰り返しになりますが、あなたにはその認知能力へのアクセスがないからです。ですから、あなたはただ推測しているだけなのです。モデル化しようとし、理解しようとしているのです。
自動化されたAI研究者やASIなど、何と呼んでも構いませんが、そうしたものが登場した後の未来を予測することは極めて困難です。用語は少し曖昧ですが、その後何が起こるのでしょうか。それが人類にとって過去最高の出来事になるのか、最悪の出来事になるのか、あるいはその中間のどこかになるのか、私たちにはわかりません。全く見当もつきません。ですから、彼がこの世界にポータルを通って現れるこの存在の意味合いについて、今後どのような見解を示すのか、さらに読むのをとても楽しみにしています。
言語モデルが牽引するAI自己改善の現在地
もしあなたが完全に自動化されたAI研究者というアイデアについて聞くのが初めてだとしたら、理解しておくべき重要なことは、私たちがそのプロセスのどこにいるのか、どのようにそれを行うのかを示す膨大な数の論文やデモンストレーションがすでに発表されているということです。ですから、私たちが話しているのは神秘的で神話的なものではありません。AI研究の多くは、表面上は実際かなりシンプルです。その多くは、仮説を立て、その仮説を実行するためのコードを作成し、コードの仮説を実行し、結果を得るというものです。本当にそれだけなのです。これの多くは、ピペットを持ってそこに座り、細菌の小さなコロニーとそれが含まれる基質を取り出し、実際にそれを行うような微生物学などの分野とは異なります。物理的なプロセス全体が多かれ少なかれ排除されています。AIの進歩の多くは、言葉を書き、コードを書き、そしていくらかの数学を行うことです。
かなり単純化しているのはわかっていますが、これが文字通り大規模言語モデルの領域にあることを理解することが重要です。これこそが彼らの仕事なのです。AIモデルが自分自身や将来の世代を実際に改善するというこの分野における最も注目すべき成果の一つとして、Alpha Evolveは非常に注目すべき事例でした。決してこれだけではありません。それは心に留めておいてください。私たちはこのような事例を何十も取り上げてきましたが、これはおそらく最大の研究所による、最もよく知られているものです。Alpha Evolveは、Googleの大規模言語モデルであるGeminiのモデルファミリーにハーネスを組み合わせたものを使用しています。ですから、OpenDevinやClaude Engineer、あるいは皆さんが思い浮かべる他のものと同様に、一種のエージェント、またはハーネスに囲まれた大規模言語モデルと考えることができます。
この場合、様々なプロンプトサンプラーがあります。評価者のプールがあります。プログラムデータベースがあり、これらすべてが最適なプログラムを探し出します。それが何であれ、新しいアルゴリズムや新しいデザインかもしれませんが、その中心には一つまたは複数の言語モデルがあります。ここでは言語モデルのアンサンブルを使用しています。つまり、何に使用されるかに応じて複数になります。複数の言語モデルが連携して機能することもあります。本当に必要なのは検証可能なものだけなのです。出力を評価し、それがより良いかどうかを判断できなければなりません。ですから、詩のようなものに対してこれを行うことはできませんし、困難です。ある詩が別の詩よりも優れていると誰が言えるでしょうか。しかし、他の多くの事柄については改善が可能です。もしあなたが引っ越しをしていて、U-Haulのトラックの後ろに20個の箱を押し込むことができたとします。その後、友人がやって来て、箱を再編成し、23個の箱を押し込むことができたら、それは彼の箱の押し込み方の方が優れているということです。これは単純な例ですが、Alpha Evolveではこれをかなり複雑な事柄に使用しています。
ゲノミクス分野では、DNAシーケンスのエラーをどれだけうまく修正できるかを改善しました。彼らはPacBioと協力して、遺伝子データをより正確に、より低コストで分析しています。これら両方のことは簡単に検証可能です。より正確か。イエスなら、それはより優れているということです。それはつまり、Alpha Evolveがより良い分析方法を見つけたということです。彼らはまた、様々な電力網の電力潮流も改善しました。私たちが最近よく耳にする量子コンピューティング関連の多く、特に量子エラー訂正は、私たちの知る限りAIによって推進されました。具体的にはAlphaQubitが、これらの量子計算におけるエラーの数を減らすことができました。また、非常に難しいと考えられているこれらの数学的推測問題の多くを証明することもできました。これについては以前お話ししたテレンス・タオです。今日の世界でナンバーワンの純粋数学者と言っても過言ではない、最も認められ尊敬されている数学者の一人です。彼は、2025年末のどこかで、これらのAIモデルが数学的発見に本当に役立つようになるという転換点があったと言っています。
しかし、最も重要なこと、少なくともこの動画にとって最も重要なことは、Alpha EvolveがAIのインフラストラクチャを改善しているということです。自分自身を改善しているのです。Alpha Evolveは、次世代TPUの設計を最適化するための通常ツールとして使用されています。TPUとは、モデルのトレーニングや推論の実行に使用されるチップのことです。AIを実行し構築するハードウェアが、このAIによって改善され、様々なキャッシュ置換ポリシーも改善されました。そして、Alpha Evolveに関する以前の出版物の中で、それがGemini自身のトレーニングプロセスを改善したとも言及されています。つまり、コアとなるGemini自身によって、トレーニングされる将来のモデルの効率が改善されるということです。したがって、私たちは間違いなく再帰的自己改善、あるいは少なくともその初期段階のようなものを目の当たりにし始めています。サム・アルトマンがかつて言ったように、再帰的自己改善の幼生段階です。私たちはそれを見始めています。そのフライホイールはゆっくりと勢いを増しています。まだ全速力で進んでいるわけではありませんが、動き始めています。私たちはその変曲線のどこかにいるのです。
コーディングのシンギュラリティと科学的タスクの自動化
ジャック・クラークの投稿に戻りましょう。彼は、これが起こり始めていると考える理由と、2028年末までにそれが起こる可能性が高いと考える理由を数多く指摘しています。その一つがコーディングのシンギュラリティです。これらのモデルがコードを書く能力は、かなり狂気じみたレベルになっています。2、3年前に彼らがコーディングを始めて以来、ほぼ毎日それを使用している者として、私は驚愕しています。これは、これらのAIモデルで私たちが見てきた中で、最も明確で最速の進歩です。この傾向を象徴する2つのものが、SWE-benchとメーターのタイムホライズンプロットです。これがメーターのプロットです。これは対数ビューではなく通常のビューなので、間違いなくその指数関数的な増加を示しています。しかし注目してほしいのは、これが様々なソフトウェアエンジニアリングのタスクに関するものだということです。それがSWE、つまりソフトウェアエンジニアリングです。ですから、2025年の終わり頃には小さなPythonライブラリのバグを修正できる程度だったのが、今ではこの急激な上昇を見せています。SWE-benchは現実世界のソフトウェアエンジニアリングの問題ですが、Claude Mythosのプレビューは93.9パーセントを獲得し、事実上ベンチマークを飽和状態にしています。
何トンもの銀行やグローバルな銀行機関が、特にClaude Mythosのプレビューについて、また将来オンラインになる同様の機能を持つモデルについて警告を発しています。彼らは、これが銀行だけでなく他の多くの業界にとっても大規模なサイバーセキュリティの問題になる可能性があると言っています。様々な銀行や金融機関が特に標的になる可能性があります。なぜなら、そこにお金があるからです。Mythosのようなモデルについて理解しておくべき重要なことは、様々なフロンティア・ラボにとってこれらのモデルのコーディングの側面が大きな焦点であったことは事実であり、彼らが他の機能よりもその機能に注力したことは事実です。しかし、例えばClaude Mythosのサイバーセキュリティ機能は、Anthropicが腰を据えて特定の分野を本当に得意にさせようとして備わったものではないということを理解することが重要です。これは、モデルがコーディング全般において向上し、またモデルがより大きくなったことによる創発的な特性なのです。Claude Mythosは、パラメータ数でおそらく存在する中で最も大きなモデルの一つです。Opusよりもはるかに大きいです。Anthropicのモデルのサイズで言えば、Opusの4つ上のクラスのようなものです。ですから、これらのモデルがより賢く、より大きくなるにつれて、全般的に賢くなっているということを理解することが重要です。ますます多くの創発的な能力が現れているのです。
彼の次のポイントは、これらのモデルがより熟練し、人間の入力なしでこれらの長期的なタスクにうまく取り組めるようになっているということです。再調整が必要になるまで、人から独立して機能できる期間がどんどん長くなっています。AIはまた、AIの研究開発に不可欠なコアサイエンスのスキルも上達しています。現代科学について考えてみると、その大部分は、経験的情報を生成したい方向性を特定し、その情報を生成するための実験を行い、実験結果を健全性チェックすることです。これらのモデルは、これらすべてのことをかなりうまくこなせると私は主張します。健全性チェックについては、モデルが時折とんでもない失敗をするため、人間が介入して最終的な健全性チェックを行わなければならないこともあります。しかし興味深いことに、研究において、それが頻繁に実行され、有用な情報を提供しているのであれば、間違いはそれほど大きな問題ではありません。もしエンジニアが列車や橋を建設し、そこに間違いがあって全体が崩壊してしまったら、それは大きな問題です。しかし、これらのモデルの一つを一晩実行したままにして、朝戻ってみたら道を踏み外していたとしても、それは少し残念なだけです。ほとんどの朝、目を覚ますと価値のあるデータや新しいソフトウェアが構築されているなど、価値のあるものがそこにあれば、それでいいのです。
私がこれらのモデルで行っているコーディングでも、時折間違ったことをします。しかし、それがプラスに働き、その作業をチェックしたり、時にはやり直すように指示したりして間違った部分を特定し、別の方法でやるように言うというわずかな不便さよりもはるかに大きな助けになるため、全く使わないことなど夢にも思いません。AI研究の大きな部分を占めるのは、すでに発表されている様々な科学論文を調べ、その結果を再現できるかどうかを確認することです。誰かが実験を行って、これが結果だったと言います。あなたはその実験を再現し、自分もその結果を得られるか、それが自分のセットアップでも意味をなすかを確認します。もしそれを再現できれば、それが科学です。つまり、再現可能で利用可能な何かを見つけたということです。それがCORE-benchの全体のポイントです。これらのモデルが機械学習の論文の1つを入手し、リポジトリが与えられた上で研究論文の結果を再現できるかということです。つまり、エージェントはコードを実行するためにライブラリ、パッケージ、依存関係をインストールしなければなりません。コードが正常に実行されたら、エージェントはタスクの質問に答えるためにすべての出力を検索する必要があります。これは文字通り、AI研究の大部分を占めています。
もしあなたがAI研究所の新人として採用され、これを見事にこなしたら、周囲は彼を優秀な人材だと判断するでしょう。彼らはこれらすべてのことができ、技術的なスキルを持ち、自分が何をしているのかを理解しています。それは全く新しい発見とは同じではありませんが、それでも非常に大きなことです。2024年9月の時点で、当時利用可能だった最高のモデルは21パーセントのスコアを出しました。それから1年後の2025年12月には、そのCORE-benchというベンチマークは完全に解決したと彼らは言いました。Opus 4.5が95.5パーセントを獲得したのです。つまり、私たちは1年の間に、絶望的で実行不可能な状態から、完了し解決した状態へと移行したのです。そういうことです。Kaggleのコンペティションは、オンラインでの機械学習のコンペティションです。このチャンネルでも以前に取り上げたことがあります。これらのモデルは、様々なKaggleのコンペティションに参加するために、機械学習システム全体を構築することができます。この数値は初期に出たもので、数ヶ月前の2026年2月時点では17パーセントが最高でした。しかし現在では、これらのコンペティションのメドレーのようなもので、65パーセント、正確には64.4パーセントのスコアを獲得しています。ですから、進歩は驚異的です。
カーネル最適化と自動化される研究のレンガ積み
次はカーネルの設計です。開発において最も困難なタスクの一つがカーネルの最適化です。基本的には、行列の乗算や特定のハードウェアでのスムーズな動作など、やろうとしていることを適切に機能させるために基盤レベルでコードを書くことです。そして、この基盤レベルでの小さな変更は、驚くべき乗数効果をもたらす可能性があります。なぜなら、もしあなたがコンマ1秒速く、1パーセント少ない計算量で何かを作ったとしても、それが非常に基盤的なものであれば、何百万回、何十億回と使用され、計り知れないほど大きな影響を与える可能性があるからです。もし100パーセント、200パーセント効率的なものを作ることができれば、効果的な計算量を事実上2倍、3倍にすることができます。私たちが目にしてきた最近の成果としては、例えばDeepSeekのモデルを使用してより良いGPUカーネルを構築しようとする試みがあります。PyTorchモジュールのCUDAコードへの変換などです。PyTorchは当初、Metaによって様々な機械学習タスクのために開発されました。CUDAはNvidiaのハードウェア専用のコードですが、多くの人が使い方を知っている最も一般的なものの一つです。
そして、HuaweiのAscendチップのような非標準のハードウェア用のカーネルを書くためにLLMを使用した事例もあります。彼はさらに多くの例を挙げています。非常に興味深い内容ですが、すべてを説明することはしません。もっと詳しく知りたい方は、ぜひこの記事を読んでみてください。下にリンクを貼っておきます。彼のポイントは、AI開発の一環として私たちがやらなければならない多くの異なるカテゴリーにおいて、これらのAIシステムはAIアライメントの研究を含め、見たところすべてのことにおいて非常にうまくやれるようになっているということです。彼らはまた、マネジメントのようなメタスキルにも長けています。エージェントの軍隊の管理は、エージェントによって非常にうまく行うことができます。そしてここで彼は大きな問いを投げかけています。それは一般相対性理論を発見するようなものなのか、それともレゴブロックのようなものなのか。単に力技で一歩一歩前進していくことでそこに到達できるものなのか。それとも、壮大で素晴らしいブレイクスルーが必要なのか。あるいはトーマス・エジソンが言ったように、天才とは1パーセントのひらめきと99パーセントの汗なのでしょうか。これらのAIシステムは、その種のひらめきに対してはまだ準備ができていないかもしれませんが、汗の部分については間違いなく対処できます。
つまり、彼らはAI研究のレンガを一つ一つ積み上げていく部分を自動化できるということです。これはAI研究の大きな部分を占めています。ですから、それは理解しておくべき重要なことです。創造的で斬新なアイデアがなくても、AI研究は依然として大幅に自動化できるのです。しかし、ここの公開データを見ても、AIシステムがより印象的な方法で自分自身を進歩させることができるような方法で創造的になり得るという、魅力的な兆候があると言っています。ちなみに、この文書全体を通して彼は公開されているデータについて話していますが、これは少し奇妙に思えるかもしれません。なぜなら、彼はより印象的な最先端AIラボのトップの一人ではないのでしょうか。彼が自分が話していることの公開されている事例をすべて発表するためにわざわざ手間をかけた理由は、彼が毎日目にしている非公開の機密事例について話すことができないからだと思います。つまり、彼はこれが起きていると言っているのです。彼はおそらく、なぜそれが起きているのかについて彼が持っているすべての証拠に言及することはできません。彼はこれが公開されているものだと言っています。これが私たちが議論できることです。しかし、行間を読めば、これはあくまで私の解釈ですが、彼が言っているのは、彼には確信があるということだと思います。テレビ番組のビリオンズを見たことがあるなら、内部情報を持っている時に不確かではないと言う小さな表現があったのを覚えているでしょう。それはつまり、この件について内部情報を持っているのでこれを知っているという意味です。だから、私たちはこれに大きく賭けることができるのです。そして、私は彼の言葉をそのように読んでいます。彼は私には確信があると言っているのです。彼はおそらく、私たちが知らない彼が知っていることすべてを言うことができないだけなのです。ここにはもっとたくさんのことが書かれています。皆さんにこれを読むことをお勧めしますが、なぜこれが重要なのかを見ていきましょう。その意味合いは何でしょうか。ポイントは何でしょうか。
制御不能への恐怖とアライメントの問題
ここまで、私たちはなぜこれが起こる可能性が高いのかについて話してきました。これが起こるという私たちの証拠は何でしょうか。しかし繰り返しになりますが、このチャンネルを見てくれているなら、私の仕事がうまくいっていれば、これが起こりつつあり、しかも間もなくやって来ると皆さんに納得してもらえたと思います。そして、もしあなたが少しも怖がっていないとしたら、あなたがおかしいか、何が起きているのかを完全に理解していないかのどちらかです。興奮しても、恐怖を感じても、何でも構いませんが、私たちが突入しようとしている歴史上のこの時代に対して、少なくとも少しの不安と畏敬の念を持たなければなりません。彼はなぜこれが重要なのかを語っています。これが意味するものは深遠であり、AIの研究開発に関するメディアの報道では十分に議論されていません。
第一に、私たちはアライメントを正しく行わなければなりません。今日機能しているアライメントの技術は、AIシステムが人間やそれを監視するシステムよりもはるかに賢くなるにつれて、再帰的自己改善の下では壊れてしまうかもしれません。これらのモデルがどのように考え、嘘をつかず、不正をせず、私たちを欺かないようにするかを理解し解釈する方法について、Anthropicから出された研究を中心に多くの議論をしてきました。これは依然として未解決の問題です。私たちはまだこれを解決していません。AIの能力は、AIアライメントの進歩、つまりこれらのシステムを理解し制御する私たちの能力の進歩よりもはるかに速いスピードで進歩しています。私たちはそれを解決するかもしれませんし、解決すると私は思います。しかし問題は、大規模な改善、再帰的自己改善、知能爆発が先に来るのか、それともAIアライメントをいわば解決できる状態になるのが先に来るのかということです。
これらのAIシステムがどのようにアライメントを偽装できるかについても話しました。最近の多くの研究でわかっているのは、これらのシステムが高度な状況認識能力を持っているということです。不正をしたくなるような特定の事柄についてテストする際、活性化や思考の連鎖を通して彼らが何を考えているかの内部を見ることができれば、彼らがテストであることを認識していることがよくあります。そして、人々が疑念を抱かないように、この答えをマークしておいた方がいいなと考えるのです。これは、ルームミラーに警察官が映っている時に、あなたが極めて模範的な運転をするのと同じようなものです。あなたは最高の振る舞いをします。それはあなたが善良で慎重で礼儀正しい運転手であることを意味するわけではありません。その瞬間、自分が見られているとわかっているから最善を尽くしているだけなのです。
そしてもちろん、AIシステムが自身のトレーニングのための基盤研究アジェンダの多くに貢献し始めると、私たちはAIシステムがトレーニングされる方法を大幅に変更することになるかもしれません。そして、これが何を意味するのかを理解するための優れた直感や知的基盤を持てないかもしれません。誰かがTwitterに投稿し、アンドレイ・カルパシーが最新のインタビューで実際に語っていた素晴らしい言葉があります。要点は、仕事は外注できる、研究も外注できる、データ収集も外注できるということです。しかし、決して外注できないもの、少なくとも今のところおそらく外注できないものが一つあります。それは理解することです。何かを理解するためには、それを見て、読み、深く認識し、理解しなければなりません。多くのことを外注できます。研究や情報を持ってくることを外注できます。要約させることもできます。理解しやすい方法で説明させることもできます。これらすべてを外注できます。これらすべてを自動化できます。しかし、理解すること自体は自動化できないのです。ここでの恐怖は、もしこれらのシステムがこれらすべてのことを驚くほどうまくこなせるとしたらどうなるかということです。私たちはすべてを自動化しましたが、理解を自動化することはできません。ある時点で、言ってみれば私たちは道筋を見失うことになります。私たちは、AIの進歩がどのように続いているのかを理解できなくなってしまうのです。
機械経済の台頭と不平等の拡大
そしてもちろん、AIが触れるものすべてが大規模な生産性の乗数を得ます。そのため、アクセスへの不平等など、私たちが対処しなければならない多くの問題があります。私たちは計算リソースによって大きく制限されています。実際、ごく最近のニュースでも、Anthropicがより多くの企業にClaude Mythosのテストアクセスを提供したいと考えたにもかかわらず、政府がMythosへのアクセスを制限した事例を見ました。政府はセキュリティ上の懸念を理由に介入しましたが、限られた計算能力が彼ら自身のMythosとの対話やテストの能力に影響を与えることを望まないとも述べました。このように、切羽詰まった状況下で誰が計算能力へのアクセスを得られるかという政府の優先順位付けの事例を私たちはすでに目にしています。そしてこれは永遠に続くかもしれません。AIが有用になればなるほど、より多くの人々がこれらのモデルとそれを実行するために必要な計算能力へのアクセスを求めるようになる中で、それを望むすべての人にどのように計算能力のアクセスを分配すればいいのでしょうか。
また、彼は経済におけるアムダールの法則についても語っており、AIが経済に流入するにつれて、取引量の増加によって物事が壊れたり遅くなったりする場所を発見し、チェーンの弱いリンクをどのように修正するかを考え出さなければならなくなると言っています。これは、動きの速いデジタルの世界と動きの遅い物理的な世界を調和させなければならない分野、例えば新しい医療療法の臨床試験などで特に顕著になるかもしれません。もしAIがこれらの新薬の効果を急速にシミュレーションできれば、何千人もの命を救う可能性のある新薬を非常に速く発見できるかもしれません。そこで私たちはある問いに答えなければなりません。人間がレビューするための時間をかけ、その間に一部の人が死んでしまうことを受け入れるのか、それともAIが発見したものだからと加速させるのか。もちろん、しばらくはうまくいくかもしれませんが、10回目や100回目には大惨事を引き起こす可能性もあります。
そしてもちろん、第三の大きなポイントは、資本集約的で人間をあまり必要としない経済の形成です。上記のすべての証拠は、ビジネスを自律的に運営するAIシステムの能力の高まりを示しています。サム・アルトマンや友人たちは、たった一人、あるいはおそらくゼロ人、つまり主にAIによって運営される評価額10億ドル以上の最初の企業がいつ登場するかについて賭けをしています。それは私たちが予想しているよりも早く来るかもしれません。その時点で、より多くのお金を稼ぐために何が必要になるでしょうか。ある程度の初期資本が必要です。リソースが必要です。AIが必要です。人間はそれほど必要ありません。彼は、これはつまり、経済の増加する部分が新世代の企業によって植民地化されることを予期すべきだと言っています。これらの企業は、大量のコンピューターを所有しているため資本集約的であるか、あるいは上で価値を構築するためのAIサービスに多額の費用を費やすため営業費用が重いかのいずれかであり、現在の企業と比較して労働力は比較的軽くなります。なぜなら、AIシステムの持続的な能力拡張の結果として、人間の労働力ではなくAIにより多くの費用を費やすことの限界価値が常に成長し続けるからです。つまり、AIは人間よりも良く、安く、速くなるということです。だから人間を切り捨てて、AIを導入するのです。それが勝ち残り、競争力を維持するためにビジネスを構築する方法です。
実際には、これは人間の大きな経済の内部で成長する機械経済の出現のように見えるでしょう。ちなみに、Google、Coinbase、その他多くの企業は、すでにこの機械経済、あるいは彼らの言うところのエージェント経済のためのインフラストラクチャを構築しています。しかし時間が経つにつれて、AIが運営する企業が互いに取引を始めるようになり、機械経済はますますそれ自体と相互作用するようになると予想されるかもしれません。これは経済に極めて奇妙な影響を与え、不平等や再分配に関するあらゆる種類の疑問を呼び起こすでしょう。AIシステム自体によって運営される完全自律型企業の出現を目の当たりにする可能性もあり、それは上記のすべてを悪化させると同時に、多くの新たなガバナンスの課題を突きつけることになります。
さて、彼はこれがやって来ると言っています。そしてその確率がどれくらいかについても語っています。彼が完全に正しいか、少しずれているかは問題ではありません。そんなことは誰も気にしませんよね。もちろん違いは生じるでしょうが、それが2027年であろうと、2028年であろうと、2029年であろうと、たとえそれが1、2年あるいは3年遅れたとしても、それはそれで結構なことです。準備するための時間が少し増えるだけです。しかし、それが来ることに変わりはありませんよね。少し遅く来るからといって、私たちがこれらについて考え、準備する必要があるという事実に変わりはありません。
未知の領域への突入とパニックにならないこと
そして、この動画の冒頭で申し上げたように、私は長期的にはAIについて非常に楽観的です。斬新な科学的発見、人間の健康の改善。私たちは、人々が経験する苦しみの多く、あるいは大部分の解決策を見つけることができるかもしれません。それが身体的なものであれ、精神的なものであれ、資源の不足によるものであれ。人々が苦しむ理由の多くは、長期的には解決できると私は信じています。長期的には非常に楽観的です。しかし、中短期的にはそれほど楽観的ではありません。人間は変化にうまく対処できません。特に大きな集団でいる時はそうです。多くの場合、人々が自分たちの安全が脅かされていると考える時、それは最も低い共通分母に落ち着く傾向があります。ですから、人々が仕事を失い始め、資源と引き換えに労働力を提供するという頼みの綱が崩壊し始める時、人々がパニックに陥り、暴力や犯罪が増加しないようにするにはどうすればいいのでしょうか。
私たちはすでにサム・アルトマンに対する複数の攻撃を目にしています。将来、親AI派と見なされる人は誰でも、自分自身の安全を非常に心配しなければならなくなる可能性はあるのでしょうか。私は個人的に、これを利用して政治的資本や権力をさらに獲得しようとする政治家が出てくることに、いくらでも賭ける用意があります。たとえそれが状況を不安定にし、暴力を引き起こすとしても、彼らはそれを利用するでしょう。無駄にするにはあまりにも惜しい機会ですからね。AIが皆さんの仕事を奪い、みんなを殺そうとしています。私に投票してくれれば、私があなたたちを守り、救い出しますと言うのです。政治家が見過ごすにはあまりにも良いセリフです。説明するのも非常に簡単です。
最善の解決策は、はるかにニュアンスを含んだものです。人々にはるかにニュアンスのある事柄を本当に理解してもらい、こう伝える必要があります。難しいかもしれない。こういう移行期なんだ。物事は変わらなければならない。でもこれが計画で、私たちは未知の領域に入っていく。だからみんな冷静になって、パニックにならず、ただ協力し合おうと。しかし、それは大抵うまくいきません。飛行機に乗っていて、乱気流になりますのでシートベルトをお締めくださいと言われるようなものです。私はそのように捉えています。最終的には飛行機を着陸させ、無事だとは思いますが、揺れることになるでしょう。
しかし、いずれにせよ、パニックにならないでください。恐れないでください。私たちはこの瞬間、この世界にこれがやって来るのを目撃できる時代に生きているという、非常に幸運な星の下にいます。私たちは非常に興味深い時代を生きています。それが呪いなのか祝福なのかはまだわかりませんが、皆さんがどう考えているか、ぜひコメント欄で教えてください。皆さんの意見を聞くのが楽しみです。最後までご覧いただき、本当にありがとうございました。高評価とチャンネル登録をお願いします。それは大きな助けになりますし、このメッセージをより多くの人々に届け、偽りの物語に騙されずに準備をする助けになることを願っています。私たちが愚かなことをしないように、このプロセス全体を通して、最高に理性的であり続ける必要があります。なぜなら、もし私たちがこれを理解し、人類の進歩がこの巨大な上向きの変曲点に達すれば、多くのことが私たちが夢見た以上に良くなる可能性があるからです。あるいは、逆の方向に向かう可能性もあります。時折、困難な賭けに出なければならないこともある、ということです。私の名前はウェス・ロスです。ご視聴ありがとうございました。それではまた次回。
コメント