AIと私たちの経済的未来 チャド・ジョーンズ教授

本講演は、スタンフォード大学のチャド・ジョーンズ教授による「AIと私たちの経済的未来」をめぐる講義である。AIが歴史上最も変革的な技術となりうる可能性を踏まえ、経済成長が爆発的に加速するシナリオと、AIが電気やインターネットと同様の「普通の技術」にとどまるシナリオという二つの極端なケースを提示する。鍵となる概念は「ウィークリンク（弱い鎖の輪）」であり、鎖はもっとも弱い輪の強さしか持たないという原理を経済全体に適用することで、なぜ変革的な技術が普及しても成長率がほぼ一定に保たれてきたのかを説明する。ジョーンズはモデルのシミュレーション結果を示しつつ、成長は最終的に爆発するが、その爆発は弱い輪のために予想よりはるかにゆっくり進むと論じる。さらに雇用と格差、意味ある仕事の問題、悪意ある主体やエイリアン的知能による破滅的リスクについても率直に語り、便益は遅れて訪れる一方で下振れリスクは早く訪れうると警告する内容である。

"A.I. and Our Economic Future," Professor Chad Jones

Technologies such as electricity, semiconductors, and the internet have been transformative, reshaping economic activity...

www.youtube.com

AIは私たちの世代でもっとも変革的な技術になる

このトークを皆さんと共有する機会をいただけて、本当に、本当に嬉しく思います。これは私たち全員がずっと気にかけてきたテーマですよね。私の研究はこの15年、いやそれ以上にわたって経済成長を扱ってきましたが、AIというのはこの信じられないような新しい技術であり、それが未来をどう形づくり、私たちや私たちの子どもたちにどんな結果をもたらしうるのか、これは私たち全員が毎日考えていることだと思うのです。今日お話しするのは、ここ数年取り組んできた4つか5つの研究論文に基づいた内容です。

AIは私たちの生涯においてもっとも変革的な技術になる可能性が高い、というのは言いやすい主張だと思います。重要なのは、これが一連の変革的技術の中で最新のものだという点です。電気、トランジスタ、半導体、情報技術、インターネット、これらはすべて変革的な技術でした。そして私がずっと考えあぐねていることが、後で詳しく触れますが、AIはどの程度それらと違っていて、どの程度これまでの変革的技術と特徴を共有しているのか、ということなのです。違いという点については、サラが少し触れてくれた次のポイントが、まさに核心を突いていると思います。

もし機械が、つまり認知的な仕事をこなすAIと、それから物理的な仕事のためにロボットを動かすAIが、人間にできるあらゆるタスクをこなせるとしたら、どうなるのでしょうか。そんな世界に生きるとは、どういうことなのか。手始めに、私が二つの極端だと考える二つのシナリオを皆さんに示したいと思います。どちらも、おそらく実際に起こることそのものではありません。ある意味では戯画のようなものですが、この二つのシナリオを考えることで何かを学べると思うのです。そのあと、自分がこの二つの極端のどのあたりに着地するかを考えるために行ってきた研究をお見せします。

二つの極端なシナリオ

最初のシナリオは、AIが経済成長を劇的に加速させるというものです。シリコンバレーのいわゆるFOOMシナリオで、私たちはほぼ毎日それについての記事を読んでいますよね。二つ目のシナリオは、AIが単なる普通の技術にとどまるというものです。AIは通常運転、いつも通りのビジネス。電気や半導体やインターネットが「普通」だったのと同じような意味での普通です。それらは変革的な技術でしたが、まあ、どうなるか見てみましょう。では、この二つのシナリオに飛び込んでいきましょう。

先に言っておくと、私の予定では5時45分まで話して、それから15分ほど質問を受ける、というつもりです。うまくいくといいですね。時間を守るために、ここにたくさん時計を置いてあります。

シナリオ1 AIが成長を劇的に加速させる

AIが成長を劇的に加速させる。これについては、私たちは今まさにその進行を目の当たりにしている最中だと思います。ダリオ・アモデイ、サム・アルトマン、デミス・ハサビス、ジェフ・ヒントン、いわばAIの権威たちが、この10年ずっと言い続けてきました。こうしたものがやって来る、と。そして私たちは、彼らが10年前に示してくれたスケジュール通りに、おおむね歩みを進めているのです。

そのスケジュールの最初の部分は、AIがソフトウェアを自動化することだと思います。AIによるソフトウェアエンジニアリングの自動化です。たしか去年の11月、Claude Opus 4.5が公開されたときのことですが、Anthropicはこのモデルにあることをさせました。彼らはソフトウェアエンジニアを採用しようとするとき、エンジニアに2時間の持ち帰り試験を出して、その出来を見て採用を決める材料の一つにしています。彼らは同じ2時間の試験をOpus 4.5に解かせたのですが、史上どの人間よりも高いスコアを出したのです。それがもう7か月前のことでした。そしてモデルはさらに良くなる一方です。今ではClaude Opus 4.7まで来ています。二世代後ですよ。

これから10年のうちに、ほとんどのコーディングを自動化できるAIエージェントが登場する、というのはありえそうでしょうか。ええ、もしかしたら来週かもしれません。これはとても近いうちに来そうに見えますが、まあ10年かかるかもしれません。さて、ソフトウェアエンジニアにできることをすべてこなせるAIエージェントを手に入れたら、今度はそれをもっと多くのことに使うわけです。とりわけ、AI研究に取り組ませて、より良いアルゴリズムを作ってAI自体を改良させ、人間がコンピュータを使うのと同じようにコンピュータを使えるエージェントを作らせます。そうすると、その後すぐに、仮想的なリモートワーカーとして機能するエージェントを手に入れられそうです。バーチャルのZoom会議で同僚に電話して頼めるようなことなら何でも、その同僚が人間ではなくAIでもいい、というわけです。

それを手に入れたら、これもまたすぐに、こうしたものを何百万というGPU上にスケールアップできます。そして、それぞれが私たちの100倍速く走る何十億もの仮想研究助手にたどり着くわけです。これらを働かせる、ダリオ・アモデイが「データセンターの中の天才たちの国」と呼んだものを働かせて、新しいアイデアを発見させるのです。より良いコンピュータチップを設計するのを手伝ってくれ、と言う。現実世界をシミュレートして、より良いロボットの設計を手伝ってくれ、と。そうすればロボティクスのボトルネックになっているグリッパーをついに手に入れられる。より良い技術や新しい医薬品の設計を手伝ってくれ、と。AlphaFoldはもう10年近く前のことで、それが医薬品を変えつつありますが、まだまだできることはたくさんあります。データセンターの中にこの天才たちの国を抱えているなら、彼らにできない仮想的な認知タスクなんてあるでしょうか。

そして彼らが仮想現実の中でより良いロボットを設計するようになれば、それを現実世界で試します。最終的には、10年かかるかもしれませんが、いずれデータセンターの中の超天才たちに動かされるロボットを手に入れ、物理的なタスクも自動化することになります。認知タスクと物理タスクの両方を自動化すれば、私が好んで書き下し、皆さんの多くに教えてきた成長モデルの中では、成長は爆発します。

この爆発的成長は、もしこのストーリーが正しければ間違いなく起こりうることであり、このストーリーがどこで破綻するのかは明白ではありません。これは今シリコンバレーでとても人気のあるシナリオだと思います。完全にありえる話です。問題は時間軸です。それは3年後や5年後に起こるのか、AI 2027の人たちやレオポルド・アッシェンブレナーの「状況認識（シチュエーショナル・アウェアネス）」が言うように。それとも25年後なのか。まあ、ある意味で、成長が爆発して加速しているなら、5年後か25年後かというのは、どちらにせよ世界を変えてしまうわけです。これがシリコンバレーでとてもよく知られたシナリオです。私もこれはありえるし、いくつか利点もあると思いますが、物事がこう進むことが保証されているわけでは決してありません。

シナリオ2 AIは普通の技術にすぎない

では、もう一方の極端のシナリオをお話ししましょう。AIは単なる通常運転の技術にすぎない、というものです。ここでのストーリーはこう進むと思います。一枚のグラフをお見せしましょう。私の授業を取ったことのある人なら、このグラフを37回は見たはずなので申し訳ないのですが、今度は更新版を見られますよ。皆さんが授業を取ったときと比べて、ずいぶん変わりました。

さて、これは何でしょう。これはアメリカの平均的な生活水準です。一人当たりの実質所得、150年分を対数スケール、つまり比率スケールで表したものです。見て取れるのは、年率2%の傾きを持つこの直線から、決して大きく離れることがないという点です。アメリカの生活水準は150年間、多少の上下はあれど年率2%で上昇してきました。ここで特に興味深いのは、この期間にアメリカ経済に登場し、普及していった変革的技術を思い起こしてみたときのことです。1870年の時点では、アメリカ経済の電化はトーマス・エジソンの目の中のかすかな輝きにすぎませんでした。それから50年で、この変革が起きたのです。内燃機関、ジェット機、抗生物質、真空管、トランジスタ、半導体、情報技術、インターネット、生活水準を間違いなく一変させたこれらすべての驚くべき技術。それでも成長率は常に年率2%だったのです。

これは大きな謎を提起すると思います。これらの技術がとてつもなく変革的であったのと同時に、それでも成長率が2%にとどまったというのは、どうやって両立しうるのでしょうか。よく考えてみれば、その答えは、反実仮想は何だったのか、という点にあります。技術というのは、どの技術クラスの中でも、アイデアを見つけるのがだんだん難しくなっていくものだと私は考えています。蒸気機関は息切れする。だから、もし蒸気機関しかなくて電気を発見しなかったら、成長は鈍化していたでしょう。電気しかなくて内燃機関や半導体を発見しなかったら、成長は鈍化していたでしょう。つまり、この直線はここで曲がっていたはずなのです。そして、それぞれの技術がしたことは、2%成長をさらにもう50年続けさせることだったのです。AIについてのいわば、カッコ付きの悲観的なシナリオは、もしかしたらAIが、2%成長をさらにもう50年続けさせる最新の変革的技術にすぎない、というものです。

このように、この二つはまったく異なる極端であることが分かるでしょう。私はどちらにも多くの利点があると思います。

経済史からの教訓 普及には数十年かかる

経済史からの教訓について、もう一つ申し上げたいことがあります。これは今の議論にも少し表れていました。蒸気動力がどのように電力に置き換わったか、あるいは情報技術がどのように経済全体に普及したかを研究してきた経済学者たちは、こうした変革には数十年かかるということを繰り返し強調してきました。蒸気動力から電動モーターに移るとき、工場を再編成しなければなりません。工場の真ん中を一本のシャフトが貫いているのではなく、今やあちこちにモーターを置けるわけです。情報技術もそうですね。作らなければならない補完的なイノベーションがたくさんあります。スプレッドシートを発明し、ワープロを発明し、データベースを発明し、SQLを発明する。そうやって統合されなければならない補完的なイノベーションがたくさんあり、生産も再編成されなければなりません。それには数十年単位で測られる時間がかかります。ですから、この経済史からの教訓は、変革的技術がここでカーブを曲げると安易に決めつけるな、ということです。彼らは成長が鈍化するのに対してカーブを曲げているのであって、それには時間がかかるかもしれない。それが教訓です。

それでも、私たちにはこの問いが残っています。どちらのシナリオにももっともらしい側面がある。では私たちはその間のどこに着地するのか、それをどう考えればいいのか。それがこの1年半ほど私が考えてきた問いです。

ウィークリンクという概念

そこで私が思いついた、本当に役立つと思う概念が、ウィークリンク、つまり弱い鎖の輪です。鎖は、そのもっとも弱い輪の強さしか持ちません。これをビジネスに当てはめてみましょう。ビジネスの成功には、非常に多くのタスクを成功裏に完了させることが必要です。新しいバージョンのiPhoneをリリースしたいなら、設計しなければなりません。すべての部品を調達しなければなりません。製造させなければなりません。製造があらゆる箇所で非常に厳密な公差の範囲に収まっていることを確認しなければなりません。一つでも狂えば、全体が崩れてしまいます。製造したら、それを期限通りに届ける方法を考えなければなりません。毎年秋に何億台ものiPhoneが届けられるのです。小売、広告、その他もろもろを処理しなければなりません。これらのタスクのどれか一つでも倒れれば、少なくとも短期的には、価値の多くが失われてしまいます。これがウィークリンクモデルです。

スペースシャトル・チャレンジャー号が爆発したのは、25ドルのゴム製シール、ゴムのOリングが故障したからです。一つの小さな部品が故障した。あるいはASMLやTSMC、これらのコンピュータチップのメーカーを考えてみてください。信じられないほど複雑な機械を、信じられないほど厳しい精度で動かしている。そこで一つの小さなエラーがあれば、チップは動きません。では、これが二つのシナリオを考えるうえでどう役立つのか。鎖の話に戻りましょう。20個の輪を持つ鎖があって、そのうち17個を本当に、本当に強くしたとします。それは助けにはなりますが、結局のところ鎖全体の強さを大きく変えることはありません。なぜなら、常にあと三つ、もっとも弱い輪が残っているからです。

それについて、私が本当に役立つと思う例をお話ししましょう。あなたのポケットの中に、私のポケットの中に、1970年代の私たちの同等品が持っていたトランジスタの1億倍を備えたコンピュータがあります。つまり、あなたのポケットの中には、1970年代のあなたの同等品が持っていたトランジスタの1億倍があるわけです。でも私は研究で1億倍生産的になってはいません。なぜか。私のコンピュータは行列の逆行列を見事に計算できますが、私はその行列にどんなデータを入れるかを考えなければなりませんし、どんな問いを立てるか、どんな理論を検証するかを考えなければなりません。これはウィークリンクの問題なのです。あることが本当に得意でも、1億倍生産的になる代わりに、せいぜい2倍か3倍生産的になる程度です。それは素晴らしいことですが、私は変わっていない他の弱い輪に制約されているのです。これは世界がどう動くかについての本当に重要な洞察であり、私たちが二つのシナリオのどこにいるのかを理解する助けになります。

ウィークリンクは希少性の源泉である

もう一つ、すぐ後で戻ってくる点を強調させてください。ウィークリンクは希少性の源泉です。経済学の重要な教訓の一つは、希少性こそが高い収益を生み出すということです。希少な要素は何か。弱い輪は何か。これは何らかの経済現象を研究するとき、常に問うべき問いです。だから、私たちの子どもたちの所得がどうなるのか、という話に戻るとき、何が希少なのかを考えることは、その問いにとって非常に役立つフレーミングだと思います。

GDPの分配 労働分配率と資本分配率

私がとても気に入っているグラフをもう一枚。これも私の授業を取った人は覚えているかもしれません。経済学者は、GDPを誰が受け取るのか、誰が支払いを受けるのか、という問いに夢中です。GDPのどれだけが労働への報酬として支払われ、どれだけが資本への収益として支払われるのか。実は75年間、これは驚くほど安定していました。三分の二が労働へ、三分の一が資本へ、です。ところが面白いことに、この25年で労働への分配率は約10%下がり、資本への分配率は上がりました。そして経済学者はこれを理解しようと夢中になっています。理論は二つあります。一つは自動化、これについてはあとで戻ってきます。もう一つは市場支配力、集中です。大企業がより大きくなって、より大きな市場支配力を行使しているのかもしれない。GDPの多くを利潤として捕捉でき、労働への支払いを減らせる、というわけです。その答えは分かりません。今日それに答えるつもりはありません。

代わりに、これを別の方向に持っていきたいのです。三分の二が労働へ、三分の一が資本へ支払われる。でも労働と資本はその構成要素に分解できます。労働へ支払われるGDPのうち、どれだけが大卒以上の人に支払われ、どれだけが大卒未満の人に支払われるのか。あるいは資本所得を見てみましょう。どれだけが建物や構造物への収益で、どれだけが設備への収益なのか。さらに設備の中で、どれだけがコンピュータへの収益なのか。

つまり、コンピューティングパワーへの収益としてGDPのどれだけが支払われ、それが時とともにどう変化してきたのか。正しいスプレッドシートを見れば、この数字はBEAやBLSのウェブサイトで調べられます。ただし掘り下げないといけません。どう見えるか。一方で、コンピュータはあらゆるところにあります。他方で、価格は猛烈に下がっています。これはPかけるQで、Qは上がっていてPは下がっている。ではどちらの効果が支配的なのか。データはこうです。1990年代、ドットコムブームの時期に、コンピュータへの収益が占めるGDPの割合は上がりました。2000年に4.5%弱でピークを迎え、2000年以降は三分の一減って3%になりました。コンピュータは確かにあらゆるところにあるのに、GDPに占める割合としての支払いは増えるどころか減っているのです。価格の下落が数量の増加を上回っている。これはまさにウィークリンクモデルが予測する通りです。コンピュータは潤沢です。経済の中でもっとも潤沢なものです。それ以外のすべて、人間は希少なのです。だからコンピュータの分配率は下がってきました。

AIがすべてを自動化するかもしれないと考え、私たちは皆これから何をすればいいのかと心配するとき、このグラフは少なくとも考慮に入れるべきものです。あなたのポケットにトランジスタが1億倍あっても、コンピュータのGDPに占める割合は増えるのではなく減っているのです。

モデルを書き下す

では次に何をするか。この二つのシナリオを研究しようとモデルを書き下します。このモデルは、長期的成長の源泉としてのアイデアを特徴としています。ポール・ローマーのノーベル賞ですね。財とアイデアの生産関数を特徴としていて、その両方がウィークリンクを含みます。私の見方では、あらゆるものの生産はウィークリンクを含んでいます。だから財とアイデアの生産関数はウィークリンクを持つけれど、それらは自動化によって取り除かれていきます。かつては行列の逆行列を求めるのは鉛筆と紙で手作業でしたが、今はコンピュータがやります。かつては車の運転は手作業でしたが、今サンフランシスコではコンピュータがやります。願わくは、いずれ世界中でコンピュータがやってくれるといいですね。そして、この自動化プロセスは時間とともに内生的に起こります。より良い機械を発明し、より速いコンピュータを発明し、それがますます多くのことを自動化させるのです。そしてこのモデルを、1950年代までさかのぼってアメリカの歴史的データに合うようにキャリブレーションし、それを未来に向けて走らせて何が起こるかを問います。これからお見せする数字はどれも真に受けないでください。ただ、何が起こるかを見て、どんな経済の力が働いているのか、それがどれほど重要かを考えるには役立ちます。

思考実験 無限のソフトウェアがあったら

シミュレーションを未来に向けて走らせる前に、このモデルでできる、本当に興味深いもう一つの思考実験を紹介させてください。先ほど申し上げたように、ダリオ・アモデイ、Anthropic、OpenAI、誰もがソフトウェアエンジニアをまもなく自動化すると予想しています。問えるのは、すべてのソフトウェアエンジニアを自動化したら、私たちはどれだけ豊かになるのか、ということです。これをモデルで問えます。実は、問いを少し変えてみます。有限のソフトウェアではなく、無限のソフトウェアがあったらどうか。ソフトウェアを使うものなら何でも無限まで押し上げるのです。私たちはどれだけ豊かになるでしょうか。

コンピュータの例を思い出してください。トランジスタが1億倍あっても、私たちは1億倍豊かにはなっていません。だから、ウィークリンクのせいでずっと少なくなるはずです。どれくらい少ないのか。実は、とてもシンプルでエレガントな公式があります。ウィークリンクのために、あるタスクが無限にあると、GDPはそのタスクのGDPに占める割合の分だけ増えるのです。ソフトウェアはGDPの約2%です。もし無限のソフトウェアがあれば、私たちは2%豊かになる。なぜたった2%なのか。他のすべての弱い輪が私たちのボトルネックになっているからです。だからこそ、一つのことを本当にうまく自動化するだけでは十分でないと気づくのです。必要なのは、弱い輪を次々と自動化し続けることです。静的なモデルだけでなく、動的なモデルが必要なのです。そしてそれこそがこのモデルがやることです。

二つの材料を入れたモデル

私たちのモデルは、先ほど示したシナリオから取り出せる二つの重要な材料を特徴としています。一つ目のシナリオでは、自動化が新しいアイデアを生み、それがさらなる自動化を生み、それがさらに新しいアイデアを生みます。そこには正のフィードバックを伴うフライホイール効果があります。そして正のフィードバックは爆発したがるものです。他方で、通常運転のシナリオに基づけば、私たちにはウィークリンクがあります。弱い輪は、一部は自動化しても残りは自動化していないなら、弱い輪のせいで鎖はまだ弱いままだ、と告げます。

ではこの両方の材料をモデルに入れ、過去に観察したことに合わせてキャリブレーションし、未来に向けて走らせたらどうなるか。あと二つシミュレーションをお見せします。二組のシミュレーションです。一つでは、AIは私たちが見てきた歴史的な自動化のパターンの単なる延長です。私たちは経済を自動化してきました。これは重要な点です。私たちは200年間、生産を自動化してきました。産業革命ですね。織機、トラクター、鉄道、コンピュータ。私たちは長いこと自動化してきましたが、それでも成長率は2%でした。でも、それを続けていけば、何かが変わるかもしれません。

そして二つ目のシナリオはこう認めます。いや、AIは違うかもしれない、と。AIは単なる歴史的パターンの延長ではないかもしれない。私たちの論文の弱点は、AIがどう違うのかを正確に説明するミクロ的基礎づけのあるモデルを持っていないことです。そこで代わりに、非常にアグレッシブなキャリブレーションを行います。私たちが歴史の中で見ているセクターの一つにコンピューティングセクターがあります。ムーアの法則は信じられないほど速い。では、AIが過去との断絶であるという私たちのアグレッシブなシナリオとして、経済全体が今日からムーアの法則のように自動化され始めると仮定したらどうか。経済全体で機械が年率10%で良くなり始め、その自動化がさらなるアイデアを生み、さらなる自動化を生む、と。これは非常にアグレッシブなシナリオになります。二つ目のシナリオはアグレッシブすぎ、一つ目のシナリオはおそらくアグレッシブさが足りない、と私は考えています。だから、真実はその間のどこかにあるのかもしれません。さて、こうしたとき何が見えるでしょうか。

第一のシミュレーション 歴史の延長

各シナリオについて三組のグラフをお見せします。グラフ上にたくさんの線がありますが、うまく理解できるはずです。この最初のグラフは資本分配率と労働分配率です。三分の一が資本に、三分の二が労働に支払われると言ったのを覚えていますか。私たちのシミュレーションで資本に支払われる割合はどうなるか。これから先、向こう80年は38.2%だと分かります。そして100年後あたりで実際に分岐します。何が起きているのか。私たちには三つのシナリオがあります。

紫のシナリオは、人間に特別なところは何もなく、すべてが有限の時間で自動化される、と言います。それが起これば、資本へ支払われるGDPの割合は100%に向かい、労働へ支払われる割合はゼロに向かいます。緑のシナリオはほぼそれと同じですが、人間のために取っておかれて自動化できない3%のタスクがある、と言います。マグヌス・カールセンがチェスを指す、レオ・メッシがサッカーをする、といったものですね。人間のために取っておくものがいくつかあり、その場合、97%については無限にうまくなりますが、人間がやる3%があなたのボトルネックになります。実際、弱い輪は人間なのです。人間の分配率は100%に向かい、労働分配率は100%に向かい、資本分配率はゼロに向かいます。これは私がお見せした、コンピュータへ支払われる割合が下がっていくあの例と同じです。

そして面白いことに、その中間にあるシナリオがあり、私はそれをベースライン、青のシナリオと呼んでいます。これは、資本分配率が三分の一と三分の二で安定したままになる、と言います。これが興味深いのは、ではこの中間のシナリオ、資本分配率が安定して労働がずっと三分の二を受け取り続ける場合、成長はどうなるのか、と問えるからです。自動化と経済成長はどうなるのか。

成長率の推移と弱い輪による減速

これが時間を追った成長率です。ベースラインは2%成長で、お見せしたグラフの通りです。ここでいくつか異なることが見て取れます。まず紫の線、成長は無限に飛んでいきます。完全な自動化、もし機械がアイデアの生産を含めてすべてをこなせて、機械が良くなり続けるなら、成長は爆発します。緑のシナリオは、いやいや、私たちは人間にしかできない3%のものにボトルネックされている、と言います。だから最終的に成長率は人間がどれだけ速く良くなるかに制限されます。私は手作業で行列の逆行列を求めるのが、若い頃の母よりそれほど得意なわけではありません。だから、その速度はかなり遅いのです。

そして面白いことに、ベースラインのシナリオ、青のシナリオを近くで見ると、成長は加速しています。実際、ベースラインのシナリオでさえ、成長は加速し、最終的には年率50%に落ち着きます。でもそこに至るには何世紀もかかります。だからベースラインのシナリオでさえ成長は加速します。加速は見て取れます、2%から2.3%、2.6%、3%へ。でも軸を見てください。加速は驚くほど遅いのです。2050年までに、2%の代わりに2.3%で成長している。これは最終的には爆発するモデルですが、長い時間がかかります。なぜか。ウィークリンクのせいです。これもまたコンピュータの例と同じです。トランジスタが1億倍あっても、人間がまだやらなければならないあらゆることに制約されているのです。

これを水準でもお見せできます。今のは成長率のグラフでした。こちらは水準、一人当たり所得です。あの2%の線、あの直線が今はオレンジの破線になっていて、数字は、もし成長が加速しなかった場合のオレンジの線に比べてどれだけ豊かになっているか、です。見て取れるように、2050年までに4%豊かになり、2075年までに15%豊かになります。だから成長は加速しています。成長は爆発さえしますが、ウィークリンクのせいでその爆発は遅いのです。

このグラフについてもう一つ興味深いと思うのは、三つの異なるシナリオを見ると、未来については大きく異なるという点です。今から200年後、緑か紫かで世界はまったく違って見えます。それでいて、向こう75年については、自分がどのシナリオにいるのか見分けるのが本当に難しいのです。

第二のシミュレーション ムーアの法則が経済全体を覆う

ここで、なぜ私が二組目のシナリオを欲しがったのかが分かるでしょう。この成長は爆発しますが、100年かかります。AIに対して保守的すぎる、と言いたくなるかもしれません。AIは過去200年間私たちが見てきた自動化の単なる延長ではない、と。もしかしたらそうなのかもしれませんが、これを見ると、もしそうでなかったら、と問いたくなります。

そこで次の組のシナリオでは、こう考えます。いや、AIは今日からムーアの法則が経済全体を覆う形で始まると仮定しよう、と。コンピューティングセクターだけのムーアの法則ではなく、経済全体で機械が年率10%で良くなる。私たちの集計経済のベースライン値だった年率3%ではなく。資本分配率、労働分配率は同じに見えます。このグラフ、さっきと同じグラフじゃないかと言いたくなるかもしれません。でも軸を見てください。年数が変わっています。

では今度の成長率をお見せすると、これは違います。紫の線、そして青の線でさえ、成長が爆発しているのが見て取れます。2050年までには、私たちはかなり進んでいます。年率25%を超える成長です。そして今日でさえ、このシナリオは2020年に始まりますが、もし今日ムーアの法則が経済全体を覆っていたら、経済は2%ではなく4.7%で成長します。私たちはこの6年間そんなことはしませんでした。だからこれもこの例の別バージョンで、アグレッシブすぎるのです。

でもここから私が受け取るものをお見せしましょう。成長は2040年までに7%、13%に達します。これは比較的速く起こる爆発です。それでいて、AI 2027の人たちや、それが4年で起こると考えるシリコンバレーの人たちと比べると、いや、その爆発が完全に終わるのは2060年になってからなのです。この信じられないほどアグレッシブなケースでさえ、加速する成長がなかった場合に比べて2030年に50%豊かになっているこのケースでさえ、爆発には30年かかります。なぜか。またしてもウィークリンクです。だから、このウィークリンク現象が物事を本当に減速させていると思います。それがこのシナリオから私が受け取る教訓の一つです。

二つの教訓 成長は爆発するが、ゆっくりと

ここでの教訓は二つです。私はお見せしたあの直線のグラフでキャリアを築いてきた人間です。私がスタンフォードにいる理由も、テニュアを得た理由も、すべてあの一枚の絵なのです。あの絵は、成長は変わらないほうに賭けろ、と言っています。150年間、年率2%、おそらく今後30年も。それでいて、私は皆さんにこう言っています。AIの世界では、私が走らせるすべてのシナリオが、向こう50年か100年で成長は爆発する、と言っているのです。ただし、長期的に何が起こるかは細部に依存します、レオ・メッシの例のように。成長は爆発しますが、それでもその爆発は、私が「爆発」という言葉を口にしたときに思い浮かべたほど速くはありません。それがウィークリンクの話です。

なぜウィークリンクがあっても爆発するのか、注目してください。いずれ私たちはすべての弱い輪を自動化してしまうからです。そうするとこのフライホイール効果が本格的に主役になり、それが爆発をもたらすのです。

仕事と格差 放射線科医とUberドライバー

残りの10分で、いくつか別のことについて話したいと思います。少なくとも仕事と格差の話については、私の子どもたちが毎日聞いてくるのです。トークをするたびに聞かれます。私は成長について知っているほどにはこれについて知りませんが、しばらく考え、他の専門家の研究を読んできた者として、少なくともいくつかの洞察を共有できます。

ジェフ・ヒントン、ノーベル賞受賞者、ディープニューラルネットワークの発明者ですが、2016年、彼がこの発言をしたトロントのカンファレンスに私は実際にいました。彼はこう言いました。放射線科医の養成はやめるべきだ、と。2016年の視点から、5年後には、職に就いている放射線科医はもういなくなる、なぜならAIが放射線科医より優れているからだ、と。AIが放射線科医より優れているという点について、彼は間違っていませんでした。それは今日、多くの面で本当です。でも、すべての面でではありません。どういう意味か。実は、このWorks in Progressという雑誌に書かれた素晴らしい記事が、私たちは2016年より多くの放射線科医を抱えていて、彼らは2016年より高い報酬を得ている、と記録しているのです。なぜか。これもまたウィークリンクだと思います。

経済学者が思いついた洞察は、仕事はタスクの束だ、というものです。あなたの仕事には100の異なるタスクがあります。AIがそのうち75を自動化すると、弱い輪、つまり今や希少になり高い収益を得るものが残ります。自動化は、私が研究をするときにコンピュータを持っていると研究者としての生産性が上がり、賃金が上がる、というのと同じです。放射線科医がスキャンを読んでがんやその他の問題を検出するのを助けてくれるAIモデルに相談できるという事実は、彼らをより価値あるもの、より生産的なものにします。それでも彼らは手術について相談したり、他の医師と相談したり、もっとも難しいスキャンをダブルチェックしたりするのに必要とされ続けます。だからタスクの75%を自動化しても、賃金は上がりうるのです。

他方で、10年後のUberドライバーに賭けるなら、10年後にUberドライバーはいなくなっている可能性が高いと思います。さあ、これでまたジェフ・ヒントンみたいになってしまいますね、10年後にまだUberドライバーがいたら。でも、Waymo、自動運転車はUberドライバーがすることをすべて本当に自動化しつつあります。それには時間がかかります。実際、どれだけ時間がかかるかは興味深いほどです。最初の自動運転車のコンテスト、DARPAが2004年にコンテストを開きました。カーネギーメロン、スタンフォード、その他のチームが参加しました。誰も勝てませんでした。誰もコースを完走できなかった。2005年、スタンフォードが勝ちました、セバスチャン・スランです。それが2005年のことです。それから20年以上経って、ええ、サンフランシスコでは自動運転車に乗れますが、ベイエリアの外ではとても珍しく、ベイエリアの中でさえ、ありふれているとは言えません。なぜか。これもウィークリンクの見方が、物事は思っているよりずっと長くかかると教えてくれるのです。

格差と意味ある仕事

格差と意味ある仕事について。歴史的に、労働は人々が消費を得るために取引するおもな資産です。機械があなたよりうまく物事をこなせるようになったら、何が起こるのか。あなたは自分の労働の価値について、それを消費と交換できるかどうかについて心配するかもしれません。それはもっともな心配です。

楽観的な見方をお話ししましょう。シミュレーションで見たように、AIがすべてを変える世界は、GDPが信じられないほど高い世界です。私たちはそこで豊かさの世界に生きています。みんなに行き渡るだけのものがあるのです。豊かな国々はすでに多くの再分配を行っています。私が見てみたい興味深い問いは、もしアメリカの再分配プログラムを今のまま維持してモデルを走らせたら、下位10%の賃金、いや賃金ではなく消費はどうなるのか、ということです。上がると思います。だからみんなをより良くする可能性があるのです。経済学者はみんなをより良くするのが大好きで、貿易についてもそういうことを言いますが、そうするとチャイナショックが来て、ノースカロライナの人々が仕事を失い、コミュニティが壊滅するのを目にすることになります。だから自動的に起こるわけではありません。でも少なくとも、可能性のある豊かさの世界ではあるのです。

ここでもう一つ言わせてください。私は今や研究の助けにAIモデルをずっと使っていて、すでにGPT 5.2 Proは数学で私と同じくらいの実力でしたし、5.5 Proは数学で私よりはるかに優れています。そして、AIが私より優れた成長論文を書くようになるまで、あとどれくらいかかるのだろうと考えてしまいます。そうしたら私は何をすればいいのか。私は意味のすべて、いや意味の半分を、家族から得ています。家族は素晴らしい。意味のもう半分は成長モデルを開発することから得ているのですが、AIが私より優れてしまう。私たちは何をすればいいのか。

私が立ち返るアナロジーは引退です。引退した人たちを見て、私たちは、ああ、彼らはもうあの素晴らしい意味ある仕事を持っていない、とは言いません。彼らはかなり幸せそうに見えます。豊かさの世界に生き、クルーズに行き、友人に会いに行き、ダンスをしに行きます。私が気に入ったアナロジーはサマーキャンプでした。彼らは陶芸をしに行く。私のバージョンは、陶芸をして歌を歌い、成長論の仲間と集まって、AIに最新の成長モデルを教わる、というものになるかもしれません。それが私のサマーキャンプ版になると思います。

破滅的リスク 悪意ある主体とエイリアン的知能

さて、もう一つ言わせてください。ここまでのトークから受け取ったかもしれない印象とは裏腹に、私はこれについて完全な楽観主義者ではありません。むしろ、私たちの未来についてとても不安だとさえ言えます。なぜか。破滅的リスクのせいです。それについて少しお話ししますが、これは本当に重要で、ときにそれに付きまとう侮蔑的な批判なしに、正直に率直に議論することが大切だと思います。これは私たちが絶対に真剣に受け止めるべきことだと思います。

人々が語るバージョンは二つあります。悪意ある主体のバージョンと、エイリアン的知能のバージョンです。悪意ある主体のバージョンは、誰もがとても簡単に理解でき、問題になりそうだと信じると思います。北朝鮮かどこかの悪意あるハッカー、なんらかの悪意ある主体がいて、危害を加えたいと決め、ジェイルブレイクされたバージョンのGPT-8やOpus 7にアクセスできるとしたら、どうでしょう。これらのモデルはみな公開された当日にジェイルブレイクされます。そして彼らはこのモデル、GPT-8やOpus 7というオラクルに尋ねます。これらは、もっとも賢い人間にできることなら何でもできるようになります。エボラより致死性が高く、症状が出るまで3か月かかるウイルスを設計することが可能なら、AIはそれを考え出してしまうのです。

私たちは核兵器をこれまで乗り越えてきましたが、それは核兵器がとても希少だったからです。深刻な損害を与えられる赤いボタンを押せる人は一握りしかいませんでした。もし80億人が赤いボタンにアクセスできるなら、誰も押さないと確実にできるでしょうか。だから、これは私がとても真剣に受け止めている問題です。

もう一つのバージョンはより推測的ですが、バークレーのこのコンピュータサイエンスの教授からの引用が役立つと思いました。エイリアン的知能です。今晩、冥王星から地球に向かって宇宙船がやって来ていると分かったと仮定してください。なんらかのエイリアンの宇宙船が地球に向かっている。私たちはどう感じるでしょうか。最初はかなり興奮するでしょうが、それから、待てよ、と言うでしょう。歴史上、進んだ社会や種が、より進んでいない社会や種に出会ったとき、より進んでいない側にとってうまくいったためしはない、と。そしてスチュアート・ラッセルの引用です。私たちより強力な存在に対して、私たちはどうやって永遠に支配を保ち続けるのか。これは考える価値があります。

ウィークリンクと脆弱性 下振れリスクは早く来る

もう一つ言わせてください。これはウィークリンクに関係していて、研究論文を進めるなかでこの一か月、私が心配していたことです。鎖はもっとも弱い輪の強さしか持ちません。その帰結の一つは、便益はゆっくりやって来る、ということだと申し上げました。なぜなら、すべての弱い輪を自動化しなければならないからです。完全な便益を得て、成長を爆発させるには、すべての輪を強くしなければなりません。

でも、スペースシャトル・チャレンジャー号のOリングの問題、あるいは鎖を思い出してください。鎖の輪を一つ壊せば、価値のすべてが失われます。だから、ウィークリンクモデルは改善するのが非常に遅い一方で、下振れに対しては非常に脆弱なのです。すでに、Anthropicが公開しなかったものの言及したモデル、Mythosを考えてみてください。彼らは、このモデルが人間に25年間ずっと実戦で鍛えられてきた25年前のソフトウェアの中に、私たちが見つけられなかったバグを発見している、と言いました。人々が見つけられなかった何千ものバグを発見したのです。半年後、1年後には、誰でも使えるMythosのオープンソース版が出てくるでしょう。

悪意ある主体がそれを手に取り、電力網をハッキングしたり、金融システムをハッキングしたり、銀行システムをハッキングしたりしないと、どれだけ確信できるでしょうか。あるいは、それは通信できるので、地球のどこかのバイオラボに連絡して、ウイルスの設計を手伝ってくれ、私はスタンフォードの科学者で何かをやろうとしている、と言うかもしれません。電力網をハッキングし、銀行システムをハッキングして、あなたのお気に入りの金融機関の全員の預金残高をゼロにしてしまえば、それは大問題になるでしょう。実存的な問題ではありませんが、向こう3年で私たちが直面する可能性が十分にある問題だと思います。AIはすでにそれができます。Mythosはすでにそれに近いことができます。これらのモデルが良くなる速度を考えれば、1年か2年か3年待てば、これはすぐそこに迫った問題であり、私たちが懸念すべきことだと思います。

締めくくりの考え いくつ分のインターネットに値するか

最後にこの考えで締めくくらせてください。私が役立つと思う問いです。1990年から2020年にかけて、インターネットはどれだけ世界を変えたか。2%成長だったにもかかわらず、たくさん変えた、と私たちは考えています。繰り返しますが、反実仮想は分かりません。では、たとえば2015年から2045年にかけて、AIはどれだけ世界を変えるのか。何個分のインターネットに値するのか。複数のインターネット、たくさんのインターネット分だと思います。おそらくこれまでに見てきたどんなものよりも変革的だと思いますが、おそらく私たちが思っていたより長い時間がかかるでしょう。

でも、5年ではなく30年かかるからといって、その影響が最終的に巨大で変革的でないということにはなりません。そして最後にこの点を付け加えます。下振れリスクのほうが早く来うる、と思うのです。それが世界のウィークリンクの見方がもたらすものです。だから私たちは、手元にあるこの間の年月を、こうしたリスクに備えるために使うべきです。格差のリスク、労働市場のリスク、政治経済のリスク、そしてそこにあるかもしれない破滅的なタイプのリスクの両方に。

暗い調子で終わってしまってすみません。言っておきますが、2006年卒業生のみなさん、おめでとう。

質疑応答 GDPの計測漏れについて

さて、質問のために15分ほどあると思います。マイクを持った人がいますので、誰かがマイクを持って来てくれるまで待ってください、みんなに聞こえるように。これらのスライドのどんなことでも、マクロ経済学でも、スタンフォードがどう変わったかでも、喜んでお話しします。では、こちらの方。

ありがとうございました。直感に反するほど遅い成長率についての質問です。この反論は何百万回も聞かれてきたと思いますが、どう答えるか興味があります。私が受け取る無限の無料チェスレッスンはどうなるのか、ということです。それは収益化されていません。そこには価値があるのに、GDPには反映されていないと思いますし、これは今後どんどん増えていくでしょう。だからGDP成長率が遅く見えても、ものすごい価値がある。それをどう捉えているのでしょうか。

ええ、これは歴史的にも問える質問です。GDPは確かに正しく計測されていませんが、それは常に正しく計測されてこなかったのです。抗生物質を発明する。それはどう捉えられるのか。20世紀にわたる平均寿命の伸びはどう捉えられるのか。途方もない伸びです。数年前のノーベル賞受賞者ビル・ノードハウスがこの問いを立てました。二つのもののどちらか一方しか持てないとしたら、と彼は言いました。20世紀のGDP成長を持つか、平均寿命の伸びを持つか、ただし両方は持てない、と。平均寿命は50歳から77歳くらいに伸びました。彼は大勢の人に尋ね、半分は一方を、半分はもう一方を選びました。GDPでは到底十分に捉えられていない平均寿命の伸びは、GDPの伸びと同じくらい重要だ、ということです。だから、計測が正しくないという点には完全に同意します。興味深い問いは、計測の漏れが今後ますます大きくなるかどうかです。私はその答えがイエスである可能性に対して開かれています。だから、私がお見せしているシミュレーションは計測をいわば一定に保っていて、それが物事がもう少し速くなりうる理由の一つになるでしょう。それは完全にもっともな指摘だと思います。ありがとうございます。では、こちらに質問があると思います。あ、こちらですね、すみません。

質疑応答 短期的な分配と需要ショック

私が持っている質問の一つは、これはあなたのトークのテーマではないかもしれませんが、分配と短期的な影響、短期というのは今後10年、20年についてです。もしAIがやって来て特定のタスクを自動化し、それらのタスクの必要性を完全になくしてしまうと、経済の大きな塊がほぼ即座に死んでしまいます。そして、私たちが50年から100年の成長軌道に到達するまでの間、これはそれ自体がショックとなり、AIの成長やその他の成長を妨げる要因になりうると思います。それをシミュレートしたシナリオはありますか。

ありません。これは信じられないほど重要な質問だと思います。労働市場への影響についてのスライドを二枚お見せして少し触れましたが、ええ、私はそれにふさわしい人間ではありません。

私がふさわしい人間です。私たちが取り組んでいる続編の論文は、まさにこの問いについてのものです。だから、1年か2年したら戻ってきてください、もっと良い答えがあるといいのですが。考えていて思うのは、Waymoの例や放射線科医の例がとても役立つということです。なぜなら、繰り返しになりますが、ジェフ・ヒントン、ディープラーニング、ディープニューラルネットワークの世界的権威が、放射線科医はもう必要なくなる、と言っているのに、私たちはより多くの放射線科医を抱えていて、彼らはより高い報酬を得ているのです。あるいはWaymo、自動運転車だった2012年。ウォール・ストリート・ジャーナルを読み返すと、自動運転車はもう来ている、5年後には誰も二度と運転する必要がなくなる、と言っています。そして私たちはそこから、はるか、はるかに遠いところにいます。なぜか。ウィークリンクと、こうした変化はすべて思っているよりずっと長くかかるという歴史の教訓のせいです。

だから、最初に自動化されるものは、ソフトウェアエンジニアリングだと私は信じています。自問してみてください。10年後に今と同じだけのソフトウェアエンジニアがいると思いますか。ノーと言うのは簡単です。でも、イエスと言えるシナリオをお話ししましょう。AIは世界全体を一変させます。世界中のあらゆるビジネスにAIを統合するのは、長く、引き延ばされたプロセスであり、たくさんのソフトウェアエンジニアを必要とします。いずれそれをこなせるAIを手に入れる、と言うかもしれませんが、自問してください。あなたが自分の会社のCEO、CIOだとして、Anthropicにボタンを押させるだけにしますか、それとも、相談できて、ゆっくり進めて、あなたの大切なデータでちゃんと動くか確認できる人を中に置きたいですか。私たちはこれからもソフトウェアエンジニアを抱え続けると思いますし、それがおそらく最初に自動化されるものなのです。

そこから私が受け取ったことの一つは、シナリオが比較的遅いということは、私たちがとても懸念しているいくつかのシナリオを避けるのに、思っているより多くの時間があるかもしれない、ということです。でもこれはごく予備的な考えにすぎませんし、これは本当に重要な質問だと思います。

質疑応答 放射線科医とUberドライバーの違いを深掘りする

放射線科医とUberドライバーの違いについて、もう少し深掘りしたいのですが。スキャンを受ける人の数や、より積極的に予防的なヘルスケアを受ける人の数を見ると、過去50年で爆発的に増えています。だから、放射線科医の増加と所得の上昇の理由としてありうるのは、ばらつきがより大きくなったことかもしれません。患者をさまざまな異なる方法でスキャンに入れることでばらつきを増やす医療技師がより多くいて、見られるものがより多くなっているという事実によるものかもしれない。コードはまったく違います。私が主張したいのは、もし配置の面での自動化や、画像処理の面での機械学習があれば、弱い輪はずっと強くなりうる、ということです。

だから、これはある程度、フォン・ノイマンの象のように感じられるのです。5つのポイント、5つの変数で、象の尻尾を振らせることができる、という。

ええ、分かります。これらはどれも素晴らしい指摘です。あなたの言ったことに何も反対しません。私が思うのは、ええ、物事はWaymoに基づいて予想したかもしれないより長くかかる、ということです。別の考え方をお話ししましょう。いつか、ロボットが私たちの幼稚園児を教えるようになると思います。なぜそう言うのか。ロボットに自分の幼稚園児を教えさせるなんて絶対に嫌だ、と言うかもしれません。でも、思い出してください。平均的な幼稚園の先生は、史上最高の幼稚園の先生ほどには到底優れていません。史上最高の幼稚園の先生になるよう訓練できるロボット、あるいはそれ以上のものを発明したら、それを100万体複製して、すべての幼稚園の教室にそのロボットを与えられます。それは起こりますが、10年で起こるか。とんでもない。Waymoですよ、三度クリックですね。ロボットに小さな、ええ、誰かの世話をさせるか。うちのオードリー、小さなオードリーの。いや、しませんよね、なぜなら100,000%安全だと確認したいからです。だから、こうしたことには時間がかかると思います。

もう一つだけ追加で。台湾経済や韓国経済の成長を見ると、それらの経済のIT産出はかなりのものです。私たちは半導体チップの製造をそうした経済に外注し、その代わりにサービス、つまり長年にわたってヘルスケアや金融サービスに置き換えてきました。それらはAIに脅かされやすい分野です。だから、製造をサービスとウィークリンクに置き換えているという事実を、あなたのモデルはどう説明するのでしょうか。

ええ、歴史的に製造はいわば自動化しやすいものだと思います。そして幼稚園の先生や、私の父が夜にアルツハイマーを患ったときに手を握ってくれる看護師、ああいったもの。繰り返しますが、いつかロボットがやれるようになりますが、ええ、今後20年では無理かもしれません。サービスは、私にとっては弱い輪に見えます。では、こちらで。すみません、赤いシャツの人を探さないといけませんね。それが私のルールなので。

質疑応答 資本の超集中をどう防ぐか

K字型経済について、人々は語ってきました。もちろん、MetaがトップのソフトウェアエンジニアやAIエンジニアに1億ドルをばらまいているという話は、みんな聞いたことがあるでしょう。今は、少なくともアメリカでは、とても金ぴか時代のように感じられます。そこで私の質問は、資本主義において、所得の資本分配率の超集中、つまり基本的には寡占、強化された巨大テックが経済のますます多くを捕捉していくことを、何が止めるのか、ということです。

ええ、これはまったく心配するに値する質問です。答えは持っていませんが、この線で考えてきたことをいくつかお話しします。まず、AIで私たちが目にしていることについて。歴史的には、私が言ったことに反して、製造が最初に自動化されると思われていました。低スキルの労働者が置き換えられ、私たち創造的なタイプはどうやって創造性を置き換えられるんだ、と。いや、ChatGPTは創造性をこんなふうにやってのけるのです。私は電気工や配管工よりずっと先に置き換えられるでしょう。それが格差に何をもたらすか考えてみてください。それは実は良いことなのです。電気工の賃金は猛烈に上がっていて、私の賃金は、実際には下がらないと思いますが、まあ、祈っておきましょう。でも短期的には格差にとって良いことになりうるのです。

二つ目に言いたいのは、AIに置き換えられている高スキルの認知労働、医師、弁護士、経済学者、教授。私たちはみなS&P 500の株を持っています。株式市場の株を持っていれば、この資本所得の一部を得ています。だから実は、株を持っている人は大丈夫だと思います。心配しないといけないのは、株を持っていない人です。でもそれから、政府はGDPの株をたくさん持っている、と言いたい。なぜか。税制を通じてです。政府は課税して移転し、それによって恵まれない人々を助けられます。私たちはすでにそれをやっています、十分ではないかもしれませんが。でも少なくとも、それは願わくは改善できる下限を設けてくれます。でもこれは政治経済の問題で、もしあなたが、チャド、君は政治経済について何も知らない、過去20年を見てみろ、と言いたいなら、それはもっともな指摘です。だから確かに複雑な問題だと思います。では、こちらの方、どうぞ。

質疑応答 高い収益を得るためのアドバイス

ウィークリンクが希少性の源泉であり、したがって高い収益の可能性になる、というあなたのフレームワークがとても気に入りました。そのフレームワークを踏まえて、若い世代、そして私たちに、高い収益を得るためにどんなアドバイスをくれますか。

私が思うに、マネジメント、私たちがビジネススクールで教えていることは、実は10年、15年、20年後の世界でも価値を持ち続けるものの一部になると思います。なぜか。私たちはAIに権力を与えて、人間にチェックされないまま全部の決定をさせたくはないと思うのです。マネージャーは、AIに相談したうえで最終判断を下す人たちです。彼らはある意味で希少で、信じられないほど価値のあるものになるでしょう。だから実は、私は2年で自動化されますが、皆さんはあと15年は安全だと思います。15年後は、もう何も保証できませんが。でもS&P 500の株を持っていてください、そうすれば大丈夫だと思います。まあ、それが私の考え方です。はい。

質疑応答 社会ごとに異なる速度で進む可能性

トークをありがとうございました、素晴らしかったです。速度が弱い輪に取り組む意欲に依存するなら、異なる社会が異なる速度で進む可能性があるのではないでしょうか。そして、誰かがずっと速く進む意欲があるなら、巨大な差が生まれるのではないでしょうか。

ええ、これは素晴らしい質問で、労働市場の格差の質問よりさらに、私は十分に考えていません。労働市場の格差の質問について考えている経済学者はたくさんいます。私はたまたまそうではない、それはまだ私の焦点ではない、というだけです。世界経済の中でこれがどう見えるかを考えている人は、ほとんど誰もいません。だから、ソフトウェアエンジニアを抱え、ニューラルネットワークやOpenAIやAnthropicの背後にあるアイデアを生み出している経済、そして私たちはそうした企業の株を持っていますが、どちらにせよ、豊かさの世界では私たちは大丈夫だと思います。でも、ずっと恵まれていない、S&P 500への請求権を持たず、巨大な格差を抱え、そうした国々のもっとも不運な人々がひどい、ひどい状態にある途上国はどうなのか。

それがどうなるのか、私には分かりません。アメリカは豊かな人から貧しい人へ再分配していて、すでにいくらかはやっています、十分ではないかもしれませんが。でもアメリカは、自分たちが発明するアイデアを通じてを除けば、世界中の貧しい人々にそれほど多くを再分配していません。だから、私たちが発明するアイデアは助けになりうる。でもこれは、AIが世界経済にもたらすグローバルな含意は、魅力的なのに、まったく十分に研究されていないと思います。これについて昨日まさに記事を一本保存して、明日飛行機の中で読むつもりですが、見つけられた唯一のものでした。はい。

質疑応答 仕事の二極化と富の分配

まず、おそらく2年では置き換えられないでしょう。でも放射線科医のあなたの例について考えてみてください。私の友人の多く、私自身も含めて、実はAIでより忙しくなっています。彼らがより簡単な仕事を引き受け、私たちはより難しい仕事をして、それがより簡単になったりより難しくなったりする。だから、何年先か分かりませんが、早送りして考えると、より忙しく、より難しく、この仕事をする少人数のグループが現れるだろうと思うのです。そしてあなたが言ったように、彼らはより高い報酬などを得る。そして、おそらく一日中夏休みを過ごせるだけのもっと大きなグループがある。社会はそのとき、富の分配、資源の分配をどう考えるのでしょうか。それについて考えたことはありますか。

ええ、ええ。私が持っている唯一の答えは、満足のいくものではありませんが、少なくともそれは豊かさの世界になる、ということです。成長グラフがあのように見える豊かさの世界では、私たちは大勢の億万長者にとっても、私たちの中の最悪の者が百万長者になるにも十分な所得を持っています。有限の時間における無限の所得が生み出すのは、再分配するための大量の資源なのです。ウォーレン・バフェットやビル・ゲイツは大量の資源を寄付しています。税制は大量の資源を移転しています。だから、それがうまくいく可能性は十分にあります。必ずそうなるという意味ではありませんが、豊かさの世界は希望するに値する素晴らしい世界だと思います。私たちはただ、この微妙で複雑な再分配の問題を解決すればいいのです。でも、それについては私はもっと楽観的です。まあ、お人好しと呼んでください。はい。

これが最後の質問になります。

質疑応答 漸進主義というモデルの前提

おお、すごい。はい。私の名前はロベルト・サンタナ、2011年卒業生です。やった。私はGoogle DeepMindで働いています。あなたが示しているモデルと、私たちが行っている自然実験を整合させようとしているのですが、噛み合わないのです。あなたが提供したモデルで私が抱えている課題は、その制約、あの弱い輪の制約が人間であり、AIがそうしたタスクを引き受けたり改善したりできない、と仮定している点だと思うのです。調整、判断、センス、いろいろな言い方で聞いてきました。だから私には、モデルの漸進主義は、AIが漸進的でなければならないという仮定に基づいているように見えるのです。そこが私が整合させようとしている部分です。

ええ、ええ、分かります。これはまったくもっともです。ある意味で、あなたの反応こそがこの論文の要点なのです。私はこれに取りかかったとき、私はシリコンバレーにいるので、世界が明日にも変わるというあらゆることを聞き、見て、読んでいます。私はそれに対して間違いなく開かれています。私はモデルを書き下し、歴史的データに合わせてキャリブレーションします。どうキャリブレーションしたか、弱い輪はどれくらい強いのか、はお話ししていません。それが明らかにここでの重要な問いです。今それに立ち入る時間はありません。私たちがそれを強すぎるようにキャリブレーションした、と論じることはできます。でも繰り返しますが、50年という話は長い時間がかかります。

これがもっともらしいのか、それとも、この線が3年で起こると描く私のシリコンバレーの友人たちが正しいのか、と考えるとき、私が気に入っている例があります。Waymoの例が私にはとても説得力があります。なぜなら、Waymoの人たちは、私が言ったように、2012年に、これはもう解決済みの問題になる、と言っていたからです。自動運転車の問題を解くのがどれだけ簡単か考えてみてください。ハンドルを左に切る、右に切る、アクセルを踏む、ブレーキを踏む。決めなければならないのはそれだけです。私たちには世界中のあらゆるセンサーがあり、信じられないことに、私より数学が得意な機械学習アルゴリズムがあります。一見シンプルな問題なのに、シンプルな問題ではない。なぜか。あらゆる種類のボトルネック、弱い輪があるからです。物理世界は複雑です。認知の世界については、認知的なものがずっと速く進むことに私はとても開かれていますが、あのグラフを動かすには、コンピュータのことを考えてください。コンピュータの要素分配率は下がってきました。物理世界の他のすべてを自動化しなければならず、それこそが減速の背後にある直感だと思います。でも、それが20年で起こるのか100年で起こるのか、私には分かりません。ただ、5年では起こらないとかなり確信しています、このウィークリンクの議論に基づけば。でも、ええ、とにかく、本当にありがとうございました。同窓会で素晴らしい時間を過ごせますように。