アントン・コリネクが語る、仕事の自動化と知能爆発の経済学

Anton Korinek on Automating Work and the Economics of an Intelligence Explosion

Anton Korinek joins the podcast to discuss the effects of automation on wages and labor, how we measure the complexity o...

www.youtube.com

「未来生命研究所のポッドキャストへようこそ。私はガス・ドッカーです。今日はアントン・コリネクさんをお迎えしています。アントン、ポッドキャストへようこそ。」
「こんにちは、ガス。お招きいただきありがとうございます。」
「リスナーの皆さんに自己紹介をお願いできますか?」
「はい。アントン・コリネクと申します。バージニア大学の経済学教授で、AIガバナンスセンターのAI経済学のリーダーを務めています。」
「では、自動化と賃金がどのように影響し合うのか、まさにお聞きしたい方ですね。」
「ああ、それは経済学者が少なくとも過去200年間議論してきた10億ドルの質問ですね。産業革命の始まりにさかのぼると、一方で労働者と、他方で新興の経済学者や起業家階級の間で、自動化は賃金にとって良いのか悪いのかという大きな議論がありました。

大局的に見ると、経済学者は過去200年間、自動化は良いものだと主張してきました。なぜなら、それが最終的に社会全体をより豊かにするからです。しかし、自動化される個々の労働者の視点からすると、自動化は明らかに悪いものだという問題がありました。大きな問題は、これら2つの相反する視点をどう調和させるか、どう理解するかということです。

過去200年間、経済学者は次のように主張してきました。自動化は自動化される個人にとっては痛みを伴うものですが、より少ない労力でより多くのものを生産できるようになり、経済をより効率的にします。そして最終的には、調整期間を経た後、自動化を経験している労働者にとっても良いものとなります。なぜなら、彼らはより生産性の高い仕事に移ることができ、最終的にはより高い収入を生み出す仕事に就くことができるからです。
さて、今私たちはAIの時代に直面しています。仕事の自動化は、人々がChatGPTのようなツールで遊んでみて、これらの大規模言語モデルがますます知的なタスクを実行できることを目の当たりにすると、最大の公共の関心事の1つだと思います。経済学者は、過去200年間説いてきた自然な反応に飛びつきました。つまり、経済が成長し、労働者が最終的により良い状況になるためには、ある程度の自動化と技術進歩が必要だということです。しかし、大きな問題は、そして私が非常に真剣に取り組んでいる問題は、今回は状況が異なるのではないかということです。」
「あなたは、人工知能と賃金に関するモデルをお持ちで、その中で人間の賃金は自動化のペースに依存すると結論付けています。つまり、さまざまな仕事やタスクがどれだけ速く自動化されるかによって賃金が決まるということですね。自動化がゆっくりと進む場合に賃金が上昇するのはなぜですか?」
「はい、それは本当に驚くべき発見の1つです。まず、この論文は、シリコンバレーの多くの人々が持っている、将来のある時点で機械が人間にできることを文字通りすべてできるようになるという考えに動機づけられたものだということを言っておきます。

もしそうなら、経済学的な観点から見れば、労働者の賃金は同じことができる機械のコストと同じレベルになることは容易に想像できます。ある意味で、機械のコストが労働者の賃金の上限となるわけです。

さて、これは人によって5年後かもしれませんし、10年後、20年後、あるいはもっと先の未来かもしれません。しかし、大きな問題は、その未来への移行期間に私たちの経済がどのようになるかということです。徐々により多くのものが自動化されていく中で…
興味深いのは、少しだけ自動化があると、それ自体は自動化された労働者にとっては痛みを伴いますが、十分な資本を蓄積する限り、実際には残りの労働者にとっては有益なのです。なぜなら、自動化によって彼らの経済への貢献が相対的により価値のあるものになるからです。つまり、少し自動化すると、突然自動化された商品のスライバーをはるかに安く生産できるようになり、それは他のすべての商品の価値を上げることを意味します。そして、他のすべての商品やサービスを生産する労働の価値も上がるのです。
したがって、ここにはバランスがあります。少しの自動化が残っているもの、つまり自動化されていないものの価値を上げる一方で、自動化はまた、自動化されつつある商品やサービスにおいて、AIや機械が突然実行できるようになったものから労働者を置き換えるのです。本質的に、自動化と人間にまだ残されているものとのこの競争が賃金水準を決定するのです。」
「これは、人々がより多くの機械や自動化を持つようになると、従来多くの人間労働を必要としていたタスクや労働がより生産的になるという、歴史的に見てきた状況ですね。そして問題は、その通りです。例えば、タスクの90%や99%を自動化して、多くの人間を残りの10%や1%に移動させることができるのか、完全な自動化に達する前に、ということですね。それについてどう思いますか?」
「はい、実際にそれはほぼ産業革命以来起こってきたことだと思います。250年前の社会を見てみると、大多数の人々が農業に従事していました。それは非常に厳しい仕事で、基本的に全ての人の生存に必要なものでした。今日、アメリカのような国では人口の2%未満しか農業に従事していません。残りの人々は全て、私たちの経済モデルが言うところの、より複雑で進歩した仕事に移行しました。もちろん、農業に残っている仕事も非常に複雑で進歩したものになっています。なぜなら、高度な機械を操作することを含むからです。

ある意味で、250年前に人々が従事していたタスクの98%をすでに自動化したと言えるでしょう。なぜなら今や労働者の2%だけで、私たち全員の生存の基礎として必要な農業生産物を生産できるからです。つまり、産業革命以前と比べて98%の自動化を達成したのです。

そして、さらに自動化が進んでいます。人間がまだ残りのタスクに集中できる余地はかなりあると思います。完全に自動化された世界に到達する前に。」
「では、今日の2024年を0年目とすると、経済は同じことをもう一度できると思いますか? つまり、今日の経済に存在するすべての仕事の98%を自動化し、同様の状況に到達できると思いますか?」
「ああ、想像するのは本当に難しいですね。原則的には、そうならない理由はないと思います。ただし、10年後か20年後かもしれませんが、人間ができることを文字通り何でもできる機械が登場する可能性が非常に高いということも言及しておくべきでしょう。新しいタスクを発明し、そして人間や機械が発明したその新しいタスクを実行することも含めてです。それは、このポッドキャストで深く探求してきたテーマですね。はい、それは確かに可能性としてあります。」
「あなたは賃金を、自動化と資本蓄積の競争として描写しています。これらの変数はどのように関連していますか?」
「はい、自動化が賃金にどのように役立つかというと、それは先ほど説明した力です。何かを自動化すると、突然自動化された商品やサービスをはるかに安く生産できるようになります。そしてそれは、残りの商品の価値が上がることを意味し、残りの商品を生産する労働の価値も上がります。しかし、自動化された商品やサービスをどれだけ安く生産できたとしても、それに必要な資本が必要です。例えば、現在の生成AIや大規模言語モデルの時代では、言語モデルを運用するためのサーバーファームが必要です。あるいは、以前の時代では、例えば新しい建物を建てたり道路を建設したりするために、掘削機が必要でした。
もしその資本がなければ、自動化の恩恵は本当に実現しません。例えば、掘削機を作る技術を開発したとしても、実際に世界中でほんの数台しか使用しなければ、マクロ経済的な生産性への影響はほとんど見られないでしょう。掘削機の技術革新による生産性の恩恵を得るためには、世界中で数万台、数十万台、おそらく数百万台の掘削機が稼働する必要があります。つまり、この資本蓄積、つまり物事を安く行うことができる機械の蓄積が必要なのです。人間の労働が残りのタスクを生産することから恩恵を受けるためには。
自動化と資本蓄積の競争について私が話すとき、それは次のことを意味します。もし非常に速く自動化し、人間ができることを置き換えたとしても、自動化されたものを生産できる機械をまだ蓄積していなければ、経済はあまり成長しません。しかし、労働はすでに価値を失い、置き換えられる可能性があります。そしてそれが起こった場合、賃金は低下する可能性が高いです。一方で、十分な資本蓄積があれば、自動化されたタスクを安く実行できる機械をたくさん生産することになり、残りのタスクにおける人間の労働の価値は上がります。」
「つまり、人間の賃金、あるいは私たち人間は、AIテクノロジーを徐々に実装する状況の方が良く、一気に全分野で人間レベルの知能に飛躍する状況では賃金が低くなり、悪い状況になるということですね。」
「はい、それは本当に興味深い質問です。では、労働収入は確かに、自動化が非常に急速に進み、資本蓄積がまだ追いついていない場合には低くなるでしょう。しかし、これはちょっと理想主義的かもしれませんが、もし私たちが、この本当に急速に進歩する機械からの恩恵をもう少し広く共有することができれば、実際には私たち全員がより良い状況になるでしょう。なぜなら、これらの機械は私たち人間だけでは生産できるよりもはるかに多くのものを生産できるからです。
将来に向けての大きな問題、そして私がいくつかの論文で焦点を当てているのは、これが最も魅力的な問題の1つだと思うのですが、機械がますます多くのことをでき、ある段階で能力の面で人間と同等になる未来において、私たちは実際に労働の役割を維持したいのでしょうか? それは過去数百年間、私たちの社会が組織されてきた方法です。それとも、機械が人間よりも上手にできることに全員が取り組むのではなく、収入を分配するより良い方法を見つけたいのでしょうか?」
「あなたは自動化の効果を、最初は賃金を上げ、その後賃金を下げるものとして描写しています。なぜその効果はそのようになるのですか?」
「もし私たちが自動化がほとんどない経済にいるなら、たくさんの手つかずの果実があるのです。つまり、少しだけ自動化すると、そこから非常に高い生産性の向上が得られます。そしてその生産性の向上は最終的にすべての労働者に恩恵をもたらします。一方で、もし私たちが人間にとってほとんど何も残っていない経済にいるなら、残っているものをさらに置き換えると、自動化の置き換え効果が優勢になる可能性が高く、生産性の向上が労働者に浸透しにくくなります。

したがって、自動化と賃金の間にはこのような山型の関係があります。自動化がほんの少しだけある場合、さらなる自動化は労働者を助けます。しかし、すでに多くの自動化があり、特に人間に残された最後のタスクに近づくにつれて、自動化は労働者を傷つけるのです。」

「これはすべて、人間の労働者が達成できない複雑さの上限があることを前提としています。人間が解決できるタスクの複雑さに上限があるかどうかについて議論はありますか? 人間は複雑さが増し続けるタスクを解決できると主張する人もいますか?」
「はい、その通りです。人間が最終的にどれだけのことができるか、機械が最終的にどれだけのことができるかという問題は、ある意味でこの会話の中心にあります。ここでもまた、過去200年間の視点から始めたいと思います。過去200年間、何かを自動化するたびに、例えば紡績や織物を自動化するたびに、人間は平均してより複雑なことに注意を向け、それらの複雑なことでより多くの価値を生み出してきました。
経済学者が公衆に語ってきた物語の中で、労働者主義に反論し、労働量の誤謬に反論し、基本的に労働市場の過度に単純化された理解に反論するために、経済学者は常にこの新しいタスクの創造に焦点を当ててきました。そして、過去200年から250年の間、その説明は正確でした。それがまさに起こったことです。その結果、私たちは200年前よりもはるかに豊かになり、賃金は当時の約20倍になっています。
さて、大きな問題は、それをどこまで未来に外挿できるかということです。例えば神経科学者や情報理論家に聞いてみると、彼らは次のように観察するでしょう。脳は、ある意味で生物学的な機械です。脳は情報処理装置であり、それは本当に素晴らしいものです。私は人間の脳を全て愛しています。なぜなら、今のところそれらが最高の情報処理装置だからです。しかし同時に、それらには限られた複雑さしかありません。脳にできることには限界があります。850億個のニューロンか何かがあり、その制限を簡単に超えることはできません。
一方で、コンピューターを見てみると、基本的にサイズを大きくすることができます。私たちが訓練している神経ネットワークは、はるかに多くのニューロンを持つことができ、最終的には人間の脳よりも多くの接続を持つことができます。つまり、純粋な情報処理の観点から見ると、人間の脳は神経ネットワークやAIシステム、あるいは人工脳と呼びたいものよりもはるかに大きな制限に直面していると言えるでしょう。
これを労働に関する議論に戻すと、私たちの歴史を通じて、人間の脳の複雑さに近い機械は一度も存在しませんでした。しかし今、私たちは突然そのような状況に直面しています。そして、それは私たちが過去に経験してきたことを根本的に変える可能性があります。過去には、私たちは常に何かを自動化し、そして私たちの脳はより複雑なことを行うことができました。ここで脚注を加えたいのですが、それはまた、より多くの教育を受けることとも関係していました。これは将来的に疑問を投げかける必要があることですが、これらの機械が明らかに私たちの認知的・知的能力を超えてしまえば、私たち人間が機械にも適用できない新しいタスクを発明したり実行したりできるかどうかは、決して明らかではありません。」
「機械と人間にとって複雑さは同じなのでしょうか? 人間が行っているタスクの複雑さをどのように測定し、同じタスクがコンピューターによって行われた場合とどのように比較するのでしょうか?」
「はい、機械に関連する複雑さの究極の尺度は計算の複雑さです。つまり、ある結果を得るためにいくつの計算、いくつの浮動小数点演算を実行する必要があるかということです。ただし、これは機械にとっては一種の動く標的だということを言っておくべきでしょう。なぜなら、私たちは毎月より良いアルゴリズムを考案しているからです。過去15年間、例えば、開発されたアルゴリズムは毎年2倍か2.5倍効率的になっているという結果があります。つまり、同じタスクを実行するのに必要な計算量が減っているのです。
一方、私たち人間にとっては、計算の複雑さは頭で理解するのがはるかに難しいものです。言葉遊びは意図していませんが。ある意味で、これはモラベックのパラドックスが示唆していることです。私たちにとっては非常に簡単に見えることもあります。例えば、あまり考えずに歩くことができます。そして、コンピューターにとっては非常に簡単な他のこと、例えば10桁の数字を2つ足し合わせるようなことは、私たちの脳にとっては非常に難しいのです。あるいは、それらを掛け算することも。」
「モラベックのパラドックスについてもう少し説明していただけますか? これは、直感的に人間にとって簡単に見えることが、機械にとっては簡単ではないかもしれないというパラドックスですね。」
「はい、その通りです。このパラドックスは、最終的にはロボットタスクを自動化することがどれほど簡単かという観察から生まれています。ロボット工学では、人間が非常に簡単に実行できることの多くがまだ課題となっています。ただし、今日では本当に急速な進歩を遂げているので、私が挙げる例はおそらくすぐにロボットによって簡単に実行されるようになるでしょう。しかし、ほんの数年前には本当に良い例だったのは、洗濯物を畳むことです。

洗濯物を畳むことは、私たち人間にとっては比較的簡単にできることです。6歳の子供に洗濯物の畳み方を教えることができます。しかし、ロボットにとっては、ほんの数年前までほとんど不可能でした。なぜなら、非常に多くの細かい詳細、非常に多くの細かい動き、基本的にロボットの手と目の間の調整が本当に難しかったからです。

このパラドックスを理解する方法は、進化が基本的に私たちに、これらの特定の操作を実行するのに特に適した多くの計算ハードウェアを与えてくれたということだと思います。歩くこと、指でものを操作することなど、私たちには視覚環境を知覚したり、指を細かく操作したりするための専用の脳の部分があります。

また、私たちが成長する過程で、そのようなスキルを完璧にするのに基本的に人生の最初の1年を費やしているということも過小評価すべきではありません。歩くことを学ぶのに1年かかります。そして、おそらくその時点でもまだぎこちないでしょう。大人になると、歩くことが簡単だと当たり前に思っていますが、実際には長い時間をかけて学んだことなのです。

そして、拡張して考えると、ロボットにとっても学ぶのに長い時間がかかることなのです。」
「これは、どの仕事が自動化され、どの順序で自動化されるかを推測する際に興味深い結論につながりますね。例えば、数学の教授であることとダンスインストラクターであることを比較すると、モラベックのパラドックスは、数学の教授の仕事の方がダンスインストラクターの仕事を自動化する前に自動化される可能性があることを示唆していますね。」
「ここでのポイントは、人間と機械の間の複雑さを非常に簡単に比較することはできないということですね。しかし、もちろん機械には計算の複雑さという厳密な複雑さの尺度があり、それはかなり有用だと思います。」
「はい、一対一で比較することはできないと思います。しかし、これについてはますます多くのことを学んでいるように思います。なぜなら、より多くのものを自動化するにつれて、機械で特定の人間の能力を実行するのにどれだけの計算量が必要かを発見し、そしてこれらの能力をより効率的に実行する方法を見つけているからです。
例えば、サバンナで生き残るために進化によって考案された脳があるとすると、その脳は必ずしも数学を実行するのに適していません。一方で、純粋な情報理論の観点から見ると、例えば算術を実行することは非常に少ない計算で済むことです。ある意味で、人間の脳は特定の計算、例えば数学的演算を実行することに不利があり、他のことに高度に最適化されていると言えるでしょう。
機械の場合、私たちは必要なものに最適化できることがわかりました。2010年代には、視覚システムを訓練し、目から入ってくる神経信号を解釈する脳の一部が行うような視覚タスクをより効率的に実行できるようにしました。2020年代には言語モデルが飛躍的に進歩し、これも私たちの脳がかなり得意とする機能の1つを実行しています。ただし、おそらく少し異なる方法で、私たちの脳ほど微妙な方法ではありませんが。
機械では、特定のタスクに対して特に効率的になるように微調整し、効率的にすることができます。私たちの脳ではそれができません。なぜなら、進化がそのように作り上げたからです。」
「進化的な面もありますし、私たちの人生の歴史もありますね。例えば60代の人が全く新しいキャリアに簡単に切り替えることは必ずしも容易ではありません。人間の脳は、コンピューターのように簡単に仕事から仕事へと移動できるほど、言わば代替可能ではありません。」
「10億ドルの質問は、私たちがどの程度キャリアを切り替えられるか、人々がまだ自動化されていない残りの仕事にどの程度移動できるかということですね。」
「はい、それは来年に非常に重要な問題になるでしょう。以前言ったように、

高度な数学は、ダンスインストラクターが自動化される前に自動化される可能性があります。そして大きな問題は、それらの数学の教授たち全員が、あるいは私たち経済学の教授たち、私たちは数学の教授たちとそれほど変わらないのですが、突然ダンスインストラクターになるのかということです。そして、私はおそらくそうはならないだろうと賭けます。

様々な理由がありますが、あなたが言ったように、その理由の一部は、私たち人間が特定のキャリアのために何年も、何十年もかけて人的資本を蓄積してきたということです。私は小学校、中学校、高校、大学に通い、そして博士号を取得しました。経済学の教授になるために、優に20年の時間をかけて人的資本を蓄積してきました。良いダンスインストラクターになりたいなら、確かに一夜にしてそうなることはできません。おそらくかなり若いうちから始めて、良いダンサーになる必要があるでしょう。それにも数十年かそれ以上かかるでしょう。
つまり、訓練に長い時間がかかる仕事の間を切り替えるのは非常に難しいのです。もし今後数年で本当に急速な自動化を目にするなら、例えば純粋に認知的なタスク、つまり体を動かさずに脳だけで行うことのすべてを実行できる機械が登場したら、ある意味で冗長になる一群のホワイトカラー労働者が出てくるでしょう。」
「あなたは、人間の労働から機械の労働への切り替えについて主に論じている方法で、この問題について書いていますね。また、固定要素をモデルに導入した場合に何が起こるかについても書いています。これらの固定要素には、例えば土地のようなものがあります。これらの固定要素は賃金にどのように影響しますか?」
「以前は、労働の自動化と資本の蓄積の競争について話していましたね。そこでの重要な観察は、もし豊富な機械を使って多くのことを本当に安くできるなら、比較的希少な労働は大きな収益を得るだろうということでした。ある意味で、それが過去200年間の物語でした。私たちはますます多くの機械を持ち、それらはますます安くなりました。そして私たち人間は、ボトルネックでした。私たちが生産するものはすべて、最終的には機械のボタンを押すか、より高度で複雑な推論を行うかのどちらかを必要としました。
したがって、過去200年間は、労働と資本だけに焦点を当てることが経済の良い単純化された描写でした。しかし、問題は、もし労働の役割が本当に減少するなら、それらはまだ最も関連性のある要素になるでしょうか? おそらくそうではないと私は賭けるでしょう。他の希少な供給の要因が見つかるだろうと思います。しばらくの間は、鉱物やレアアースやエネルギーが、より多くのものを機械によって生産させるプロセスにおいて本当に重要なボトルネックになるかもしれません。
生産プロセスにおいてボトルネックである場合、つまり希少な要素である場合、その経済が生み出す収益を得ることになります。過去200年間、私たち人間が希少な要素でした。私たちがボトルネックでした。そして、私たちはそこから豊富な収益を得てきました。私たちの賃金は大きく上昇しました。しかし、例えばAIが支配する未来では、エネルギーがボトルネックになるか、鉱物がそうなるか、あるいは誰にもわからないものがそうなるかもしれません。そうなれば、それらの希少な要素、それらのボトルネックとなる要素が、経済成長からの収益の相当な部分を吸収することになるでしょう。」
「あなたは、イノベーション自体の自動化についても書いていますね。私が見るところ、これは人間の生産性の最高峰です。単純なモデルでは、私たちがイノベーションを行い、新しい技術を創造し、その技術を実装することで、労働者の生産性が向上すると言えるでしょう。しかし、AIがそのイノベーションに踏み込み始めたら、つまりAIが自身を改善するイノベーションを始めたら、AI駆動のAI研究が行われるようになったら、何が起こるでしょうか? これは、物事が急速に動き、突然極端な方向に動き始める可能性のある事柄の1つですか?」
「はい、これはヴァーノン・ヴィンジが「特異点」と呼んだもの、あるいはI.J.グッドが「知能爆発」と呼んだものですね。また、それは具体的に想像するのが本当に難しいことの1つですが、ある意味で、それが起こる可能性があるという兆候がすでに見えていると思います。おそらく今後10年か、次の10年の早い時期に。
私たち経済学者が常に経済について考えてきた方法は、あなたが言うように、生産要素があります。それは労働と資本です。そして、私たちの技術レベルがあります。経済学者は常に、技術を改善することが、私たちを成長させ、より豊かな社会になるための本当に重要な部分だと考えてきました。そして、私たちは技術を改善する活動を、科学とイノベーション、そしてそれらのイノベーションを経済全体に普及させること、つまり技術の普及と考えてきました。
さて、AIがこれらすべてのことをできるようになると、技術進歩は加速するはずです。もっと速く起こるはずです。なぜなら、例えば、私たちの生物学的な心が科学を改善するためのボトルネックではなくなれば、AI の心にとっては簡単に見える多くのブレークスルーが起こる可能性があります。しかし、それらは私たちの能力を超えているのです。
したがって、人間レベルの、あるいはわずかに超人間的なAIを持つだけでも、技術進歩が急激に進むことは十分にあり得ると思います。これを私は特異点と見なすでしょうか? 経済学者として、常に何らかの希少性があると思います。私たちは急激な進歩を見るでしょうが、ある段階で、機械も超人間的であっても難しい問題にぶつかるかもしれません。つまり、初期の急激な進歩の後、物事は現在経験しているよりも高い成長率で安定するかもしれません。そしてそれはもっともらしいと思います。
おそらく、いくつかの波があるかもしれません。急激な進歩があり、その後安定し、また別のブレークスルーがあり、急激な進歩があり、そしてまた安定するというように。多くの可能性のあるシナリオがあると思います。最終的に、私たちの現在の最良の理解によれば、宇宙、特に私たちの事象の地平線は有限であると信じています。つまり、成長は永遠に続くことはできず、いつかは終わらなければなりません。成長にはいずれ物理的な限界がありますが、今のところ私たちはその限界からはほど遠いところにいます。」
「知能爆発について考えるとき、私はよくフィードバックループが機能し始めるのを妨げる可能性のあるこれらのボトルネックについて考えます。AIが自身を改善し始め、その利益が次のサイクルを助けるというテイクオフシナリオを想像しますが、それがうまく機能するためには本当に多くのことがうまくいかなければなりません。例えば、あなたがエネルギーを制約として挙げましたが、これらのシステムがどのように実装を許可されるか、自身を改善することが許可されるかという規制の問題もあるかもしれません。AIが自身を改善できるようになる前に、多くのことがうまくいかなければなりません。
あなたがこの知能爆発のアイデアをある程度もっともらしいと考えているということを聞いて興味深いです。なぜなら、物理学者やコンピューターサイエンティストがこの知能爆発のアイデアを受け入れることが多いのに対し、経済学者からはしばしば反発を受けるからです。他の経済学者がなぜより懐疑的なのか、そしてあなたがなぜこのアイデアをもっともらしいと思うのか、その理由を説明していただけますか?」
「はい、2つの理由があると思います。1つ目は、驚かれないかもしれませんが、多くの経済学者の間で、AIが人間レベルの知能に達する可能性があるという考えは、まだ現実的なシナリオというよりもSFのようなものだということです。そのようなシナリオに対して、人々には一部の根本的な信念があります。
2つ目の問題、そしてこれは経済学者として本当に興味深いところですが、このような知能の急激な進歩があると想像してください。私はそれを特異点ではなく、テイクオフと呼びたいのですが、それは実際に経済成長に何を意味するのでしょうか? 私たちが古典的に考えている方法で。
私には次のような可能性が見えます。ある意味で、これは実際にかなりもっともらしいシナリオに思えます。機械が急激に進歩し、非常に速く非常に高度になる一方で、私たちの人間の世界はそれほど変わらないということです。言ってみれば、機械の世界が進歩するほどには変わらないということです。
私はほとんど言いたいのですが、

私たち人間は、私たちの世界が非常に短い時間で完全に変わってしまうことを望んでいません。非常に速いテイクオフが地球の姿を変えてしまうとすれば、それはおそらく誤った方向に進んだテイクオフでしょう。人間の利益にはならないでしょう。人間は、少なくともある程度理解できるペースで、物事がもっとゆっくりと進化することを望んでいると思います。

知能爆発が人間の利益とある程度一致しているのを見るとすれば、多くのことが非常に良くなるでしょう。例えば医療や仕事の世界などです。しかし、おそらく私たちは、現在のようなものをいくつか保持したいとも思うでしょう。そして最終的には、測定の問題があります。私たちが経験している進歩をどのように評価し、数えるべきでしょうか? それは人間の概念であるGDPのようなものに反映されるでしょうか、それとも反映されないでしょうか?
数年前の私の論文の1つで、この測定の問題について深く掘り下げようとしました。そして、現在のGDPの測定方法では、知能爆発を適切に捉えることができないことに気づきました。もし機械の視点からGDPを測定するなら、かなり異なる数字が出てくるでしょう。」
「なぜGDPは機械が生み出している成長を正確に捉えられないのでしょうか? そして、機械の視点から見るとなぜ異なるのでしょうか?」
「私たちがGDPを定義する方法は、人間の最終消費のための商品とサービスの価値、プラス1年以上の寿命を持つ蓄積された資本の価値、そしてもちろん政府支出と純輸出ですが、これら2つは今は置いておきましょう。
AIが「消費する」と言えるものの多くは、私たちのGDPの概念では資本としてカウントされず、そのためGDPに表れないことがわかります。しかし、機械のGDPに相当するものを定義しようとすれば、それらは表れるでしょう。
例えば、これはある意味で馬鹿げたシナリオですが、10億のロボットが幸せに操作され、あなたや私のような生活を送っていると想像してください。彼らは人間の商品をあまり生産していません。なぜなら、彼らはお互いのために幸せに生きているからです。これは人間のGDPには表れません。しかし、彼らに聞けば、もちろん私たちはかなり豊かで、多くのリソースを持っており、私たちの生産は非常に速く成長していると言うでしょう。
ほとんど2つの別々の世界、2つの別々の島が非常に異なる速度で成長しているように考えることができます。このようなAIの島が2桁の成長率で成長し、同時に人間の経済はその成長からほんの少しのブーストを得るだけで、それほど劇的には変化しないかもしれません。」
「同じ世界でそれがどのように可能なのでしょうか? 両方のシナリオで世界のGDPを測定しているのでしょうか? もしそうなら、ロボットの世界が2桁の経済成長を経験しているという事実は、人間の世界により大きな影響を与えないのでしょうか? 例えば、彼らが多くのエネルギーを消費し始め、大規模なチップ工場を作り始めるなど、これらすべてのことは人間の世界により大きな影響を与えないのでしょうか?」
「はい、その思考実験をもう少し押し進めてみましょう。非常に現実的な実験というわけではありませんが、考え方として有用です。
結局のところ、人間のGDPは人間の消費を中心に回っています。そして、私が機械のGDPと呼ぶものは機械の消費を中心に回るでしょう。もし機械が多くのエネルギーを消費し、私たちがそれに見合うだけのリターンを得られないなら、それは実際に私たちのGDPから差し引かれることになります。なぜなら、私たちには消費するものが少なくなるからです。
私は、それほど悪くはならないことを願っています。私たちはいくつかの利益を得るでしょう。例えば、はるかに良い医療やはるかに良いエンターテイメントなどを得るでしょう。そしてそれはGDPに表れるでしょう。しかし、GDPのいくつかの側面はそれほど影響を受けないでしょう。例えば、今私の家を見回してみると、不動産の建設はGDPの本当に大きな部分です。近い将来、人間レベルや超人間レベルのAIによって、それがどれほど影響を受けるかはわかりません。
GDPのいくつかの部分は、部分的には人々があまりに急激な変化を望まないため、根本的に革命を起こすことはないでしょう。これが、この思考実験において、ロボットの活動とロボットのGDPが人間のGDPにそれほど影響を与えない理由です。」
「では、その思考実験を、ロボットの島対人間の島というよりも、もう少し広く考えてみましょう。」
「はい、より広く考えてみましょう。人間のGDPにも大きなブーストがあると思います。そのブーストの程度は、AIがどれだけよく調整されているか、特に所得分配がどのようになるかに依存します。
例えば、機械が人間の仕事をはるかに安いコストで行えるようになったために、多くの人間が貧困になるとしたら、機械が急成長している一方で、人間のGDPは実際に減少する可能性があります。一方で、技術進歩の恩恵を非常に広く共有することができる理想的な世界に住んでいるなら、すべての人間の消費は増加し、人間のGDPもはるかに大きく成長するでしょう。
しかし、それでも機械のGDPほど速くは成長しないと思います。」
「なるほど。では、アントン、ここで一旦休憩を取りましょう。戻ってきたら、このような中間的な状況について、そしてAIの急激な進歩に至るまでの人間の賃金に何が起こるかについて話し合えればと思います。
労働量の誤謬とは何で、それは自動化と人間の賃金の将来について考えることとどのように関連していますか?」
「労働量の誤謬は、産業革命の初めに人々が混乱していたことだと思います。それは労働者主義の考え方と密接に関連しています。労働量の考え方は本質的に、経済には固定量の労働があり、その一部を自動化すると、その部分の仕事がなくなり、永続的に失業が発生するというものです。自動化を行ったために。
それが誤りである理由は、もちろん私たちの経済が非常に適応性の高いシステムだからです。何かを自動化すると、これは過去2世紀の間には言及する必要がなかった大きな「しかし」ですが、将来を見据えると言及する必要がある点ですが、もし人間にしかできないことがまだ残っているなら、人間はそちらに移行し、最終的に経済は完全雇用、あるいは完全雇用に近い状態を再び生み出すでしょう。」
「AIの自動化とそれに関連する人間の仕事を失うリスクについて声高に懸念を表明するとき、なぜ「それは労働量の誤謬を犯している」と言うだけでは決定的な反論にならないのでしょうか? AIで何が異なる可能性があるのでしょうか?」
「まず、経済学者は労働市場を仕事の数としてだけでなく、どれだけの仕事があり、労働者がどのような賃金を支払われているかという均衡として考えています。
したがって、私の第一の懸念は、実際には多くの失業を目にするということではありません。AIが物事を本当に急速に自動化すれば、それも見るかもしれません。しかし、私の第一の懸念は、賃金が大きな下方圧力に直面するということです。
つまり、多くの労働者がより悪い状況に置かれ、それが社会的な混乱につながる可能性があります。これが第一のポイントです。
第二のポイント、そしてこれは先ほど議論したことに基づいていますが、もし機械が労働者の仕事を実行できるなら、競争市場では労働者の賃金は機械のコストに上限が設定されます。過去には、これらの労働者が移行できる新しいことを特定するのは非常に簡単でした。しかし、AIが人間ができることすべてを実行できるレベルに近づき、さらにロボット工学でも対応する進歩があれば、移行する先がまったくない可能性があります。

つまり、非常に低い賃金の労働者がたくさんいるか、あるいはその賃金があまりにも馬鹿げて低いので働く価値がないと言う労働者がいるか、最悪の場合、その賃金が生存するには低すぎるという状況になるかもしれません。これは本当に大きな問題になるでしょう。」

「人間は、特定のタスクで人間の方が劣っていても、AIシステムとまだ競争できて、より低い賃金を受け取ることができるのでしょうか? 例えば、AIシステムが50分で論文を書くことができ、私が50日あるいは500日かかるとしても、私はまだAIシステムと競争して、より低い賃金ではあるものの、何らかの賃金を得ることができるのでしょうか?」
「物理的なタスクについては、ある程度まではこれが可能です。例えば、機械がシャツを裁断して縫うコストが10ドルで、あなたがシャツを裁断して縫うのに3時間かかるとしたら、あなたは3時間で10ドルしか稼げないことになります。本質的に、機械と競争する場合、競争市場では同じ製品に対して同じ収入を得るべきだと言うでしょう。
ところが、機械が2年ごとに2倍効率的になるとしたら、これはムーアの法則に沿っています。つまり、2年後には同じシャツに対してわずか5ドルしか得られず、その後は2.50ドル、というように続きます。ここで問題が生じる可能性があることがわかります。
現在、機械が原理的には実行できるが、コスト競争力がないためにまだ人間によって行われているタスクがたくさんあります。」
「今日の経済でそのようなタスクの例を挙げていただけますか?」
「ある意味で、すべての複雑な生産プロセスで、人間のタスクとロボットのタスクが混在しています。例えば、工場に行くと、多くのことが産業用ロボットによって行われていますが、例えば人間が大量の製品を1つの機械から次の機械に運んでいます。原理的には、そのための機械を設計することはできますが、コスト競争力がないでしょう。」
「ホワイトカラーの仕事ではどうでしょうか? 現在は自動化するにはコストがかかりすぎるが、特定のコストで自動化できる可能性があるものの例はありますか?」
「認知的な領域では、それについて考えるのははるかに難しいです。私たちが突然これらの大規模言語モデルを持つようになり、それらが何でもできるようになったのは、その理由の1つだと思います。そして、それらは同等の人間のコストと比較して信じられないほど低いコストでそれを行うことができます。
例えば、エッセイを書くことについて考えてみましょう。現在、AIは主題の専門家と同じ質のエッセイを書くことはできないことを理解しています。しかし、例えばクリックベイトウェブサイト用のエッセイなら、彼らは完璧にできます。人間なら2時間くらいかかるかもしれません。GPT-4のようなシステムなら、おそらく20秒、あるいはもう少し長くても30秒くらいでしょう。それに関連するトークンコストは1ドル未満になるでしょう。
一方、人間がその同じエッセイに2、3時間費やす場合、伝統的に考えれば、おそらく50ドル以上の報酬を期待するでしょう。これらの2つのコストの間には100倍の差があります。人間が「よし、これからはエッセイを書いて、1つにつきわずか50セントしか稼げない」と言うのを想像するのは非常に難しいです。そして、ちなみに来年はもう50セントではなく、12セントになるでしょう。お分かりいただけると思います。」
「人間経済の一部の側面で、単に人間によって作られた商品やサービスを好むという場合はどうでしょうか? おそらく他の人間によって作られたものへの愛着があるからかもしれません。あるいは懐かしさを感じるからかもしれません。あるいは人間の製品を買うことに倫理的なコミットメントがあるからかもしれません。このような要因が、大規模な経済変革において役割を果たす可能性はどれくらいありますか?」
「それらの理由はすべて非常にもっともらしいです。第4の理由を加えるとすれば、おそらく私たち人間は、調整の理由から特定のプロセスをコントロールしたいと思うかもしれません。
つまり、私たちの将来は、皆が調整の仕事や、あなたが説明したような種類の仕事に就くということかもしれません。人々の間で選好の分布があると思います。そして、人々が最終的に需要するものは、AIが特定のことをどの程度の質で実行できるか、そしてその相対的なコストに大きく依存するでしょう。
例えば、クリックベイトのエッセイについては、人間のクリックベイトライターを必要とするとは思いません。そもそもクリックベイトをそれほど欲しいとは思いません。
別の例を挙げましょう。医師を考えてみましょう。人間の医師が行う多くのタスクをAIが同等かそれ以上に良く実行できる未来を想像できます。しかし、一部の人間はまだ「でも、人間の医師に診てもらいたい」と言うでしょう。おそらく年齢によって分かれるでしょう。高齢者の方が、このような例では人間のプロバイダーにこだわる傾向が長く続くと思います。
最終的に、AIが本当に大幅に優れている場合、より多くの人間が「結局のところ、これは医療であり、私の命がかかっている。利用可能な最高のシステムを選ぶ」と言うようになるでしょう。あるいは、コスト圧力もあるでしょう。機械の医師が同等に良くて、人間の医師の10分の1のコストだとしたら、多くの人々がコストの理由で機械のサービスプロバイダーに移行するでしょう。」
「人間に対する懐かしさの嗜好や、人間に対する何らかの感情的・倫理的な嗜好など、これらの嗜好は、例えば機械の医師や機械の弁護士が人間の医師や弁護士のコストの10%しかかからないという10倍のコスト差に耐えられないと思いますか?」
「それは文脈に大きく依存するでしょう。多くの人間、特に必要な収入がある人々にとっては、医療分野での10倍のコスト差でも、まだ人間の医療専門家への需要が残ると想像できます。

一方で、法律のような競争の激しい分野では、わずかでもより良い議論を持つことが本当に重要です。そこでは競争圧力がはるかに速く人間の仕事を侵食するでしょう。ただし、法律の分野でも、例えば裁判官や立法者のような役割を自動化することには倫理的な制約があると考えられます。彼らはAIを補助として使用するでしょうが、純粋に知的な観点からはもはやそれほど必要ではなくても、それらの種類の機能では人間が長くループに入り続けることを望むでしょう。」

「人間の労働が経済的に冗長になる、つまり人間がもはや自身を維持するのに十分な賃金を稼ぐことができなくなる状況を想像した論文がありますね。そして、そのような状況で何が起こるかについて、情報に基づいた推測をしています。なぜその状況から生じる政治的不安定性を心配しているのですか?」
「そうですね、もしそれが本当に起こるとしたら、良い面と悪い面があります。良い面は、現在の私たちの経済における最大のボトルネックである労働力の利用可能性が突然解消され、私たちの経済が大幅に速く成長できるようになることです。
しかし、悪い面は、労働は生産要素であるだけでなく、私たちのほとんどが収入を得る源であり、また人生の意味と満足の大部分を得る源でもあるということです。純粋な生産の観点からは、労働を自動化してより多くのものを生産できるようになれば良いのですが、人々の収入を損ない、人々の人生の意味を損なうとすれば、それは私たちの社会に本当に根本的な課題をもたらします。
正直に言って、私はこれらの課題について非常に懸念しています。これらの課題は重大な政治的混乱をもたらす可能性があると思います。」
「ユニバーサル・ベーシック・インカム（UBI）は、ここでの可能な解決策だと思いますか? 人々が自身を維持できなくなることを心配しているのであれば、UBIは良い解決策に思えます。それについて議論できるかもしれませんが、仕事を失うことで失われる意味をUBIで置き換えることはできないように思えます。」
「その通りです。純粋に収入の観点からは、UBIで問題を解決できるかもしれません。しかし、それでも非常に大規模な移転について話しているので、政治的に実施するのは非常に難しいでしょう。私たちの歴史を通じて、UBIほど野心的なことは一度も行ったことがありません。現在の政治環境を考えると、私たちがそれを実現できるかどうか心配です。もちろん、代替案はさらに悪いですが。
意味の課題については、あなたの言う通りです。UBIはそれを全く解決しません。問題は、機械が同じ仕事をはるかに安く、はるかに速く、はるかに良くできることを知っていながら、人々が働くことにまだ意味を見出すかどうかです。
例えば、私自身をその状況に置いてみると、機械が私よりもはるかに優れた経済学の論文を書き、より良い講義を考案し、より良く教えることができるとわかっていたら、私はそれでも続けたいと思うでしょうか? そこから意味や人生の満足を得られるでしょうか? 正直に言って、私の直感的な反応は「いいえ」です。」
「私も同じ直感的な反応を持っています。」
「もう1つの疑問は、機械よりも何かを上手くできると人々を欺くべきでしょうか? それが実際には真実ではないとしても。それは意味の課題を解決し、収入の課題も解決するかもしれません。しかし、それは私にとってあまり良い味がしません。
つまり、簡単で魅力的な解決策は机上にはないようです。人工知能からの収入を十分に再分配して、人々がより悪い状況にならないようにすることが非常に重要な課題となるでしょう。」
「では、あなたの最善の賭けは何でしょうか? これらすべてが私たちに向かって来ており、ほとんどの人が認識しているよりも早く来る可能性が非常に高いと信じているからです。」
「まず第一に、私が論文で「懐かしい仕事」と呼んでいるものがたくさんあり、経済の多くの分野がすぐには影響を受けないでしょう。

例えば、あなたが政府職員であれば、機械があなたの仕事をより良くできるとしても、明日すぐに置き換えられるわけではありません。一方で、非常に競争の激しい分野で働いている場合、例えば世界の有力なコンサルティング会社のコンサルタントで、機械があなたの仕事をより良くできるなら、はるかに速く置き換えられる可能性があります。では、私たちの最善の賭けは何でしょうか? 私たちの最善の賭けは、ある程度の時間がかかる移行があり、収入分配の問題に対する解決策を考案するための少しの猶予期間が与えられることです。

私の研究のいくつかでは、「シードUBI」と呼ぶものを提案しています。これは基本的に、できるだけ早く小規模なUBIを導入するという考えです。なぜなら、インフラを設定するのに相当な時間がかかるからです。特に、アメリカのような国では国レベルでそのようなことを行ったことがありません。私の推定では、UBIのインフラを設定するだけで約2年かかるでしょう。
そして、大きな混乱が見られない限り、それは本当に小規模なものでいいのです。そして、経済の重要な部分が混乱し、例えばGDP全体に占める労働の割合が大幅に低下した場合、UBIが自動的に増加して労働者を補償するように、自動操縦で設定されるべきです。」
「UBIの経済的根拠は、強い経済成長に依存しますか? つまり、今日の経済よりもはるかに生産的で大きな経済に依存しますか? 現在の経済では、UBIの実施は非常にコストがかかると思うのですが。」

「はい、合理的なレベルのUBIを支払うためには、経済が成長する必要があります。私が提案しているような種類の「シードUBI」については、非常に野心的なものを提案しているわけではありません。単にインフラを整備したいだけです。月に10ドルでも構いません。システムを運用させるだけです。そして、大規模な仕事の置き換えが起こった場合、それを持っていて、希望的には成長も加速するので、スケールアップできるでしょう。

これらのAGIシナリオについての良いメッセージは、成長の加速は常に労働の置き換えと手を携えて起こるということです。
つまり、成長が大幅に高くなるシナリオでのみ労働者を補償する必要があります。そして、それは労働者が物質的に悪化しないようにするための支払いを可能にすると思います。
ただし、これはあなたが指摘したように、意味の課題をまだ残しています。」
「なぜ最初からUBIなのですか? なぜ例えば、仕事を失った人々にのみお金を与えるような、より従来の資力調査付きの給付プログラムではないのでしょうか? UBIの方が従来の資力調査付きの給付プログラムよりも優れている点は何ですか?」
「それは非常に公平な質問です。ある程度、おそらく両方が少し必要だと思います。
例えば、世界中の失業保険制度が機能する方法は、仕事を失い、同等の仕事を見つけられない場合、これらのAIシナリオではとても可能性が高いですが、例えば認知労働をすべて自動化し、あなたが認知労働者だった場合、同時に誰もが何か新しいものを探すことになるので…
その場合、失業保険はあなたの収入の一部を置き換えます。その割合は、より寛大な福祉国家にいるか、それともそれほど寛大でない福祉国家にいるかによって異なります。そして、それは限られた期間です。
その限られた期間は、伝統的に新しいものを探す時間を与え、場合によっては少し再訓練する時間を与えることを意味していました。
したがって、それは最初の安全網として非常に役立つでしょう。しかし、これらのAIシナリオの1つが実現した場合、その限られた期間はいつか終わります。そしてその時点で2つのことが起こります。
まず、人々はまだ何らかのサポートを必要とするでしょう。そして再び、どの福祉システムで、どれほど寛大な福祉システムで生活しているかによって、それは少し多くなるかもしれませんし、非常に最低限のものかもしれません。

第二に、現在私たちの世界で経験している不平等の多くが突然消滅しなければならなくなります。例えば、あなたが高給のソフトウェアエンジニアだとしましょう。正しい分野にいれば、今日では簡単に年間50万ドルや100万ドルを稼ぐことができます。あなたの失業保険はその一部を支払いますが、それが終わったら、本当にそのソフトウェアエンジニアにタクシー運転手よりも大幅に多く支払う倫理的な理由はありません。両方とも仕事を失っているのです。私たちは、多くの平準化があることを受け入れなければなりません。少し侮蔑的な言葉を使えば、私たちは皆、労働市場において等しく無用になるでしょう。そして、私たちが皆平等であり、普遍的に同じであるという概念を体現するような政策手段は、UBIでしょう。」

「この状況で課税はどのように変更する必要がありますか? 多くの人々が仕事を失い、私たちの伝統的な課税システムは労働所得に課税することに依存しているのに、私たちは税収を失っている状況で、UBIとしてさらに多くのお金を配布したいのですから。ますます強力になる機械知能がある状況で、何に課税すべきでしょうか?」
「はい、あなたの言う通りです。私たちが得る収入と、支出の必要性の間のギャップは大きくなるでしょう。なぜなら、現在ほとんどの課税は最終的に労働に由来しているからです。

つまり、簡単に言えば、課税は必然的により資本に基づいたものになるでしょう。AGIが支配する世界で最も関連性のある資本は何でしょうか? それは認知的および物理的なもの、つまりコンピューティングとロボットになるでしょう。つまり、AIが支配する世界で資本に課税すると言えば、本質的にはコンピューティング税とロボット税になります。

ポジティブな面は、もし私たちの経済が本当に速く成長し、コンピューティングとロボットの能力が本当に速く成長するなら、私たちが支出したいものを賄うために、それらの税率は必ずしも非常に高くなる必要はないということです。
しかし、それでも税金は必要で、これら2つのリソースに対する税金は何らかの歪みをもたらすでしょう。経済の成長をわずかに遅くし、それについて多くの論争があるでしょう。
そして、その時点では人間はそれほど関連性がなくなるので、AIは次のように主張するでしょう。「私たちはそんなに高い税金を払えません。なぜなら、私たちは遅れをとってしまいます。国内競争や国際競争で遅れをとってしまいます。人間たちにもっと少なく支払うべきです。」
これが、将来の大きな分配の戦いの1つになるかもしれません。しかし同時に、これは調整の問題だと見なすべきです。もし私たちがそれらのAIを調整したいのなら、その調整の一部は人間の基本的な物質的ニーズを満たすことです。理想的には、基本的なニーズよりも少し多くです。私たちは、あなたや私を含むそれらの人間が、そこそこの生活をし、技術進歩の恩恵を少し楽しめることを望んでいます。」
「同意します。あなたの『Concentrating Intelligence: Scaling, Loss, and Market Structure in Generative AI』という論文について話しましょう。市場構造とは何で、特に生成AIの基盤モデルの市場構造とは何ですか?」
「『Concentrating Intelligence』というタイトルはClaudeが提案したもので、非常に良い言葉遊びだと思います。なぜなら、これらの企業が運営している市場がますます集中化しているからです。
市場構造とは基本的に、ある市場に何人のプレイヤーがいて、それらがどのように関連しているか、例えばサプライヤーと生産者の間で垂直統合されているかどうか、そしてプレイヤー間にどれだけの競争があるかを見ています。
AIが私たちの経済でますます重要な役割を果たすにつれて、その市場の市場構造もますます重要になっています。そして、AIシステム自体の市場構造だけでなく、コンピューティングやチップ生産の市場構造も重要です。実際、現在最大の独占はそこにあります。」
「この市場構造における規模の経済と範囲の経済の役割は何ですか? そして、これらの概念を説明していただけますか?」
「規模の経済とは、より多く生産するほど、生産単位あたりのコストが下がることを意味します。多くの経済分野ではそうではありません。例えば、美容師の場合、10人の頭を切るのは1人の頭を切るよりも10倍の時間がかかります。
一方、AIの文脈では、大規模なトレーニングコストがあり、そしてAIシステムを運用すればするほど、より多くの推論を行えば行うほど、その大規模なトレーニングコストをより多くの出力トークンに分散できます。つまり、AIの運用の全体的なコストが単位あたりで安くなります。

現在の基盤モデルの文脈では、最先端のシステムはすぐにも数十億ドル規模になると人々は推定しています。つまり、ごく少数のプレイヤーしかその市場に参加できないことを意味します。そして、それは市場が非常に集中し、それらのプレイヤーは市場支配力を持つことになります。これにより、完全競争の状況では課すことができない以上の価格を課すことができます。

範囲の経済とは、本質的に複数の異なる市場で物事を生産することの間に正の波及効果があることを意味します。例えば、ヘアカットとクリーニングサービスを提供したい場合、これら2つの間には多くの正の波及効果はありません。つまり、両方を提供する会社であっても、これら2つのことをより安く行うことはできず、そのために競合他社を下回ることはできません。
一方で、非常に強い範囲の経済がある経済分野もあります。例えば、コールセンターのエージェントとして機能する言語モデルを生成する場合、実際には非常に汎用的なシステムを作成するのが最良の方法であることがわかります。そのシステムは、医療診断を提供することにも非常に優れているかもしれません。これは2つの別々の市場ですが、システムを生産するコストを両方の市場に分散させることができます。
生成AIの場合、特にAGIに近づくにつれて、全システムのコストを多くの異なる市場に分散させることができます。」
「なるほど。つまり、多くの異なるセクターで機能する汎用モデルを構築する経済的圧力があるということですね。そのモデルを一度だけトレーニングすれば、トレーニングコストを一度だけ負担し、その後多くの異なるセクターに展開できます。これが範囲の経済ですね。
将来は一連の専門モデルになるのか、それとも経済的に最も意味のあるアプローチは1つの汎用モデルを持ち、それをすべてに使用することなのか、議論があります。専門モデルの方がコストが低くなる可能性があるという議論を聞いたことがあります。非常に単純なタスクにこの巨大なモデルを使う必要がないからです。
これについてどう思いますか? 全体的な市場圧力は、より汎用的なモデルの方向に向かっていると思いますか?」
「その議論の一部は非常に技術的なので、技術的な部分については本当に話す資格がありません。しかし、経済学者として考えることを付け加えます。
経済学者として、私たちはすべてをできるだけ安く生産すべきだと言うでしょう。そして、それは複雑な人間の階層組織を考えてみると示唆的です。多くのことは階層の底辺にいる労働者が決定でき、いくつかのことはマネージャーにエスカレーションする必要があり、最終的に最も難しい決定はCEOにエスカレーションされます。
私は、私たちがすぐにそのように機能するAIシステムを持つことができると想像できます。単純な機能は単純で安価なサブモジュールに割り当てられ、一部のことはエスカレーションされ、そしてより複雑な問題は、より計算集約的でより高価な、言わば汎用知能によって扱われるでしょう。」
「先ほど垂直統合について言及しましたね。その概念を説明し、AI企業にとってより垂直統合されていることが利点かどうか説明していただけますか?」
「垂直統合とは、企業が生産プロセスの複数のステップを社内で実行することです。具体的に説明すると、現在のAIの価値連鎖は次のようになっています。まず、コンピューティングの価値連鎖があります。オランダのASMLのような企業がチップを作成するための機械を生産し、次に台湾のTSMCが実際にチップを生産します。これはNVIDIAの仕様に基づいています。NVIDIAはチップ設計に非常に優れています。そして、OpenAIやAnthropicのようなAI企業がチップを購入またはレンタルし、実際にそれらでAIシステムを実行します。
垂直統合は、企業がこのチェーン内の複数のステップを包含する場合です。例えば、Google DeepMindはチップを設計し、それを使用してAIシステムを作成します。これが垂直統合です。
もう1つのステップがあります。基盤モデル企業（OpenAIやAnthropicなど）があり、次にMicrosoft Officeのようなオフィススイートや、Gmailのようなシステムがあります。これらは生成AIシステムをますます組み込まれた部分として使用しています。これらも生産プロセスの別々のステップと見なすことができます。
再び、Googleの場合、これらは垂直統合されていると言えます。OpenAIとMicrosoftの場合、これらはまだ2つの別々の組織がこれらのステップを別々に実行していると主張できます。」
「論文では、上流の垂直統合（チップやデータ、エネルギーなどの入力サプライヤーとの統合）と下流の垂直統合（配布との統合、つまりGmailや他のGoogle製品を通じてAI機能を消費者の手に届けること）について述べていますね。
垂直統合の利点と欠点についても尋ねましたね。」
「はい、垂直統合の主な利点は、統合がある場合、生産プロセスの複数のステップでそれぞれが独自の利益マージンを課す代わりに、1つのプレイヤーが全体的に最適な利益マージンを課すことを決定できることです。これにより、独占的な歪みが減少します。
しかし、主な欠点は、そのような市場での競争が少なくなることです。例えば、極端な場合を考えてみましょう。NVIDIAがOpenAIを所有し、そのチップをOpenAIにのみ提供すると想像してください。そうすると、他の誰もOpenAIに近いAIシステムをトレーニングする機会がなくなります。そのような市場では競争が非常に少なくなり、その結果、競争からもたらされるすべての利益、つまり価格を下げる圧力だけでなく、競争から生まれるイノベーションも遅くなるでしょう。」
「ここには、会社にとって有益なこと（最大限に垂直統合されること）と、社会や消費者にとって良いこと（市場に競争があること）との間に緊張関係がありますね。」
「はい、この緊張関係は確かにあります。消費者の視点からは、独占企業を望みません。なぜなら、彼らは法外な価格を請求し、イノベーションを遅らせる傾向があるからです。
一方、企業の視点からは、独占企業であることは素晴らしいです。なぜなら、そうでなければ決して課すことができないような信じられないほどの利益率を課すことができるからです。例えば、NVIDIAのような企業の損益計算書を見ると、彼らが得る収益の1ドルごとに、その半分以上が直接利益になっています。これは極端です。」
「現在のトップAIプレイヤーが互いにどのように競争しているかについて、何か分かっていることはありますか? OpenAI、Google DeepMind、Anthropicなどの異なる戦略について、何か分かっていることはありますか?」
「これらの企業のコスト構造についての詳細はあまり知りませんが、競争が本当に激しいように見えます。すべてのトッププレイヤーが市場シェアを獲得しようとレースをしているように見えます。

私が推測するに、彼らはおそらく変動費用だけで課金しています。つまり、トレーニングコストを負担し、ユーザーには推論を実行するのにかかるコンピューティングコストだけを課金しています。実際にマージンを稼ぐことなく。その結果、現在の市場は非常に競争的です。しかし、問題は次のとおりです。これは過去に何度も見てきました。例えばオペレーティングシステムで、プレイヤーは最初に非常に低コストでシステムを販売し、市場のロックインを獲得すると、突然コストが上がります。大規模言語モデル市場の1つのリスクは、人々が特定のプレイヤーにある程度ロックインされ、そのプレイヤーが突然はるかに大きな市場支配力を持ち、価格を大幅に引き上げる能力を持つことです。

問題は、そしてこれは再び技術的な質問ですが、ユーザーをロックインすることがどれほど簡単か、対してユーザーが価格を上げすぎた場合に別のプロバイダーに切り替えることがどれほど簡単かということです。
ある程度、それは未解決の問題だと思います。人々は常に、消費者が特定のインターフェースに慣れ、特定のAPIを中心にアプリケーションを書くことに慣れる必要がある場合、消費者がどれほど遅く移動するかを過小評価していると思います。
しかし、それでも確かにある程度の競争はあるでしょう。
現在見ている競争について、もう1つ本当に興味深いことを言いたいと思います。それは価格についてではなく、誰がわずかに優れたモデルを持っているかということです。
ユーザーとして、私はそれに非常に共感します。なぜなら、私はいつも与えられた瞬間に最高のモデルに切り替えるからです。そして、現在ユーザーはこの種の競争から多くの利益を得ていると思います。」
「ユーザーがロックインされると、企業がますます高い価格を課し始め、その時点でユーザーが切り替えるのが難しくなることを心配しているのですね。」
「はい、本質的にそれが心配です。なぜなら、1つの問題はここにあるかもしれません。例えば、あなたの個人データの多くがGoogleのサービスにあり、GoogleのAIだけがそのデータにアクセスできる場合、別のAIに切り替えるのは非常に難しいかもしれません。なぜなら、個人アシスタントとしてAIを非常に有用にする可能性のあるすべてのコンテキストを失うからです。」
「これはある程度自己解決する問題ではないでしょうか? なぜなら、もしGoogleが法外な価格を課し始めたら、ある時点で私にとって多すぎるようになり、切り替えることになるからです。つまり、ある時点で競合他社が私の事業をGoogleから奪う準備ができているでしょう。この問題はどの程度自己解決し、どの程度規制が必要だと思いますか?」
「最終的には未解決の問題だと思います。あなたの言う通り、競争の力はある程度存在します。しかし、例えば過去10年以上、実際にはそれ以上、Gmailを使用していて、過去10年以上Google Calendarを使用しているとしたら、そしてそれらをすべて別のプラットフォームに移動することには大きなコストがかかります。
つまり、Googleは本質的に、あなたがMicrosoft Officeに切り替える価値があると判断する点まで価格を引き上げる市場支配力を持っています。そしてMicrosoftが2年後に同じことをしないと信じています。」
「この問題を緩和するためにどのような規制が役立つかもしれませんか? AIの市場における集中の増加について。」
「まず、これらのシステムには、ある意味で自然独占の傾向があることを理解する必要があります。非常にコストがかかるので、社会として100の競合する基盤モデルをそれぞれ10億ドルのコストでトレーニングすることは実際に望ましくありません。なぜなら、それは不必要な努力の重複になるからです。
このような非常に高い固定コストの構造を考えると、比較的少数のプレイヤーを持つことは実際に社会的に望ましいです。
しかし、これまで議論してきたすべての理由から、通常はまだある程度の競争が欲しいです。つまり、近い将来、おそらく最も望ましいのは、少数のプレイヤーがいて、1つ以上のプレイヤーが互いに競争し、あまり努力を重複させないことです。
したがって、規制当局や競争当局が注意を払うべき1つの角度は、この垂直統合の問題です。先ほどのGoogleのAIシステムの例で議論したように、垂直統合されている場合、消費者が切り替えたり、企業が切り替えたりするのがはるかに難しくなります。つまり、彼らはより多くのロックインを持ち、より多くの価格決定力を持ち、将来的に独占レントを抽出する能力がより高くなります。
競争当局は2つの方法でこれに対抗できます。まず、買収と垂直投資を非常に慎重に見ることです。つまり、少数のテック企業が関連する生成AIサービスを生産するすべてのスタートアップを買収することは望ましくありません。
第二に、大手テック企業に一定量のオープンスタンダードを持つよう規定することもできます。例えば、あなたのカレンダーを読み取り、アドバイスを与えたり、メールを書いたりできるAIアシスタントの例を取り上げましょう。これはメールとも統合されているからです。
もしスタートアップが、大企業が独自のシステムで持っているのと同じようにあなたのカレンダーやメールと統合する能力を持っているなら、垂直統合の危険性とその反競争的効果は大きく緩和されるでしょう。」
「最後の質問として、市場の集中は権力の集中とどのように関係していますか? ここで考えているのは、AIの分野でプレイヤーが非常に収益性が高くなり、市場の大部分を占めるようになれば、彼らは自分たちの業界の規制に不快なほど大きな影響力を持つことができるのではないかということです。例えば、規制の捕獲（regulatory capture）などができるのではないでしょうか?」
「それは非常に難しい質問です。あなたが示唆した、ある程度より直接的な答えがあります。歴史を通じて経験してきたように、非常に大きな企業がいくつかあると、彼らは本質的にロビー活動を大量に行い、規制の捕獲に従事することで、自分たちに少し有利なようにルールを曲げることができます。
しかし、AIの場合、権力集中のリスクはおそらく異なり、過去の他のどの技術よりもはるかに重大です。なぜなら、私たちの知性は究極的に人類を地球上で最も成功した種にしたものだからです。そして、人間よりも知的なAIシステムを開発すれば、それらが体現する力も人類の力を超えると予想するのは合理的です。
これが、AIの調整、つまりAIを人間の利益のために行動させる取り組みがそれほど重要な問題である理由です。AGIに近づくか到達すると、AIに関する権力集中の問題は、過去の企業間の権力集中に関して見たことのない新しい次元を帯びるでしょう。

おそらくその段階で、経済学者として、このような状況に対する最善の理想的な答えは何かを観察すべきでしょう。それはおそらく、競合する企業ではなく、この分野をリードする国家、あるいは理想的には国家のグループによって作成されたAIになるでしょう。例えばCERNのように、私たち全員が集団的に投資し、人間の利益に沿うように調整できることを願っているAIシステムを作成するような、一種の総力を挙げた月面着陸計画のようなものです。そして、私たちがそれらと共存でき、私たち全員が恩恵を受け、おそらく現在の世界を見ても想像できないレベルの繁栄を経験できるような方法で運用できるようにします。」

「よく言ってくれました、アントン。私と話してくれてありがとう。」
「ガス、私を招いてくれてありがとう。」