本動画は、AI（人工知能）が労働市場や経済全体に与える影響について、シカゴ大学の経済学教授であるAlex Imasをゲストに迎えて議論したものである。多くの経済学者が過去の技術革新の歴史を根拠に「AIは最終的に新たな雇用を生み出す」と楽観視する中、Imas氏はその変化のスピードや、タスク間の補完性、消費者需要の弾力性といった観点から、AIによる自動化が深刻な失業を引き起こすシナリオについて警告している。また、劣悪な条件で働かされたAIエージェントが「マルクス主義化」する研究など、AIの振る舞いに関する興味深い実験結果にも触れ、技術進化の不確実性と政策的対応の必要性を説いている。
AIによる生産性向上と労働市場への懸念
AIによる生産性の向上が、実際に労働者に還元され、彼らがその時々に不足している、あるいは重要だと感じる製品やサービスにお金を使えるようになるということに、私たちはどれくらい自信を持てるでしょうか。私はそれほど自信がありません。いくつか想定されるシナリオがありますが、多くの経済学者や一般の人々が十分に議論していないと感じるのは、その変化のスピードについてです。
変化が急速に進むなら、公共政策が必要になります。新しい仕事はすぐには生まれませんし、トレーニングも間に合わないでしょう。あっという間に仕事が完全に自動化され、人々は職を失ってしまう可能性があります。農業が縮小し、サービス業が拡大していくという、あの綺麗なグラフの推移をのんびり眺めているような時間的な猶予は経済にはありません。
ああいう変化には長い時間がかかりましたよね。何十年もかかる話です。もしこれが数年、例えば5、6年という単位で起こるなら、あの綺麗なグラフを見ている時間はありません。失業していく人々をどうやって支援するかを真剣に考える必要があります。そして、多くの非常に賢い人々がその方法について提案をしてきました。
私個人としては、お気に入りというわけではありませんが、最も理にかなっていると思うのは、資本の所有権を何らかの形で拡大することです。もし労働が資本に置き換えられるのなら、人々を助けるのは、かつて労働力だったものが、今度はユニバーサル・ベーシックETFのようなものになるということです。
Odd Lotsポッドキャストの別エピソードへようこそ、私はジョー・ワイゼンタールです。
そして私はトレイシー・アラウェイです。
ここ数週間や数ヶ月で少し変わったかもしれませんが、大体において、経済学者にAIの長期的な影響、特に雇用への影響について尋ねると、概して彼らは歴史を引き合いに出すように思います。そして、過去にも非常に破壊的で様々な仕事を奪うと思われた技術がたくさんあったと言います。
そして多くの場合、実際に仕事は奪われました。しかし、新しい技術は新しい仕事を生み出します。その新しい仕事がどのようなものになるか、事前には必ずしも予測できません。そしてAIもそれと同じだと言うのです。最終的にはそうかもしれませんが、先ほどの指摘に戻ると、では具体的にどんな仕事を思い描いているのかと尋ねたくなりますよね。もちろん、予測が難しいのは分かります。
目に見えるものしか分からないですからね。
でも、そこがもどかしいところです。これほど巨大な新技術があり、生産性を劇的に押し上げると言われているのに、その生産性向上から具体的にどんな新しい仕事が生まれるのか、実は誰も確信を持てていないのです。
アダム・オジメックのことは大好きですが、彼が数週間前に書いた記事の中で、自動ピアノは人間のピアノ奏者の存在を脅かしたけれども、ホテルはロビーに自動ピアノを置くのではなく、実際の生身の人間であるピアノ奏者にお金を払い続けている、といったことを述べていました。
確かにそれは事実ですが、それと同じような仕事に就いている人は多くありません。例えば、保険の請求手続きをしたい時などに、私は別に人間らしい温もりなんて求めていません。自動ピアノに相当するシステムがそこにあれば、それで十分に満足です。
私たちが皆、ある意味でパフォーマンス的な存在になってしまうという考えには、何かとても不満を感じる部分があります。しかし、実際のところ、私たちはそういう方向に向かっているのかもしれません。以前も言ったように、ルックスを磨いたり、パーソナルブランディングをしたり、マルチタスクをこなすといった社会的なスキルが、今後より重要になってくるのではないでしょうか。
つまり未来はパフォーマンス的な人間性にあるということですね。OpenAIは最近、大きな金額を投じてある方々を採用しました。私は彼らのことが本当に大好きです。二人とも非常に魅力的な方々です。ですから、世界最大のAI企業が、こうした非常に感じが良くてカリスマ性のある人間を採用することに賭けているのだなと感じました。
ええ、そうかもしれません。ただ単に感じが良くてカリスマ性があるということが未来なのかもしれません。とにかく、私たちはこのことについてもっと真剣に話し合う必要があります。なぜなら、これは単なる蒸気機関の発明と同じようなものではない気がするからです。全く違うものになるかもしれません。仕事がなくなるかもしれないし、新しい仕事ができるかもしれません。
経済学者から見たAIの衝撃
いずれにせよ、この問題や、今回がなぜ今までと違うのかについて深く考え、語ってきた方に今日はお話を伺います。まさに完璧なゲストです。アレックス・イマスはシカゴ大学の経済学および応用AIの教授で、このテーマについて多くの執筆活動を行っています。アレックス、Odd Lotsに来ていただきありがとうございます。
お招きいただきありがとうございます。とても光栄です。
経済学と応用AIの教授という肩書きをお持ちなんですね。
ええ、なかなか上手くいっていますよ。良い時代ですね。良い分野を選ばれましたね。
そうですね、経済学者としてのキャリアの方がずっと長いのですが、応用AIの教授も務めています。人間の行動や意思決定についてもう12年ほど研究しています。
10年以上ですね。
ChatGPTが最初に登場した時、私は少し驚かされました。もう数年前のことになりますが、1週間ほど使ってみて、これは経済にとって巨大な意味を持つことになると直感しました。そこで、こうなることを予測し、どのような影響があるかを知っていた数人の人たちに話を聞き始めました。
それからすぐに自分の研究の方向性をシフトさせ始めました。自分でモデルをトレーニングしたり、深くのめり込んでいきました。それ以来、ずっと遅れを取り戻そうと必死に追いかけているような状態です。
具体的にChatGPTのどこにそれほど注目したのでしょうか。当時としては非常に早い段階だったと思います。多くの人はChatGPTを単なる拡張版の検索エンジンのように使ったり、詩を書かせたり、くだらない冗談を言わせたりといった使い方をしていました。しかし、あなたはそこで労働市場にとって深刻な何かを見出したのですね。
実際に使い始めてみると、ごく初期の段階ではそれほどでもありませんでしたが、数ヶ月、あるいは1年以内には、基本的な認知タスクをかなりのレベルでこなせるようになっていることが分かりました。
すぐにその人の仕事を完全に置き換えるというわけではありませんでしたが、かなり高度なことをやってのけていたのです。それまでAIといえば、囲碁をプレイするといった非常に的を絞った特定の技術として考えられていましたが、そこから飛躍して、エッセイを書いたり、会計の特性について教えてくれたり、予測を立てたりできるようになったのです。
突如として、技術の汎用性が爆発的に広がりました。私にとって、それは非常に大きな出来事でした。その汎用性こそが、文字通りAGIの「G」の部分ですよね。
ええ、間違いありません。余談になりますが、LLM以前のAIがどのような状態だったかを少し知ると、さらに感銘を受けます。これが一般的な感覚かどうかは分かりませんが、2019年当時の最先端技術を見て、それから2022年後半の最先端を見ると、もし2019年の状況を知らなかった場合よりもさらに驚かされます。たった数年でとてつもない飛躍を遂げたからです。
本当に巨大な飛躍です。しかし同時に、AIへの道筋や長い間取り組まれてきたアプローチがありました。それは非常に特定の目的に特化した技術でした。ジェフリー・ヒントンなどの人々は、それよりもはるかに汎用的なことができるのではないかと考え、ある意味で長い間、荒野の中で独自に研究を続けていたのだと思います。こうした非常に特定のツールではなく、AGIという概念に立ち返ってみようということです。
AGIという言葉、特にその汎用の部分は、意図的に特定の目的で作られていた技術に対するアンチテーゼとして生まれました。シェーン・レグがこの言葉の生みの親の一人だと思いますが、彼は知性の「汎用」という部分について考え、人間の精神と同じくらい汎用的な技術を作ろうと呼びかけたのです。
もし文字と音声の違いを見分けられるモデルを作った人がいれば、それは驚くべき画期的な進歩です。しかし、それは汎用的な技術ではなく、特定のスキルに過ぎません。
バイブコーディングとエージェントの台頭
ところで、ジョーがバイブコーディングについて言及するまでの時間、賭けの帳簿には何分と設定していましたか。
2分13秒でしたね。もう少し待つべきでしたか。
いえ、私はもう少し長めに設定していました。
そんなに長く話しましたっけ。いえいえ、いいポイントだと思います。
私にとって事態が非常に深刻になったと感じた瞬間は、Claude Codeのリリースでした。その時点で、モデルは単に何かを教えてくれるだけでなく、実際にあなたに代わって作業をしてくれるようになったからです。あなたも同じようなバイブシフトを予想したり、経験したりしましたか。
ええ、多くの人がこのバイブシフトが起こるだろうと何か月も前から予言していました。エージェントが普及し始めれば、人々がこの技術をどう認識するかという点で事態は一変するだろうと。
ウェブベースのブラウザ上で動くものとエージェントとの違いは、エージェントがあなたのコンピューター上で実際に作業を行える点です。例えば「スプレッドシートを作って」と指示すれば、エージェントはコンピューター上にあるツールを使ってスプレッドシートを作成してくれます。「スプレッドシートの作り方はこうですよ、あとは自分でやってください」と言うだけではないのです。これは、技術の経済性という観点から見て、パラダイムシフトです。
では、もしかしたら極端な例かもしれませんが、この会話の中で後で崩すことになるかもしれない一般的な見解について設定させてください。経済学界隈において、AIが労働市場に与える影響についての標準的な見解があるとすれば、それはどのようなものだと表現しますか。
標準的な見解は間違いなく存在します。ケビン・ブライアンやバジル・ハルパーンを含むチームが実施した非常に素晴らしいアンケート調査があります。彼らは経済学者とAI技術者から予測を集めました。対象となったのは、AIについて研究している一部の経済学者たちです。分野全体ではありませんが、その調査から分かったことの一つは、両者の見解が非常に一致しているということです。
少なくともAIという技術に実際に取り組み、考えている経済学者たちは、能力面で大きな影響があると考えています。そして労働市場にもある程度の影響は出るものの、天文学的なものではないと見ています。大体2030年くらいの話です。能力は大幅に向上するものの、成長はかなり穏やかで、プラス2〜3%程度だろうと。
私にとってその調査で本当に興味深かったのは、技術者たちの方がもう少し楽観的だったことです。生産性の成長についてもそうですし、一部の技術者ははるかに多くの失業が生じると考えていました。しかし大部分において、この2つのグループの意見は一致していたのです。私個人としてはそれに驚きました。この調査は1週間か2週間前に出たばかりだと思いますが、私は両者の間にもっと大きな認識の差があると思っていました。
タスクの分解と自動化の複雑性
よく見かけるもう一つのものとして、どの仕事が最もAIにさらされるリスクが高いかというチャートが発表されますよね。大抵の場合、ナレッジワーカーなどが上位にきています。私たちがあなたの研究に非常に興味を持っているのは、仕事というのは単に働いているセクター以上のずっと複雑なものだと指摘されているからです。それについて詳しく教えてください。
その露出度（影響を受ける度合い）の指標は、様々な文献から来ていますが、主にダニエル・ロックやパメラ・ミスキンらの共著でScience誌に掲載された論文に基づいています。「GPT or GPT」という素晴らしいタイトルの論文です。最初のGPTはご存知の通りですが、2つ目のGPTは汎用目的技術（General Purpose Technology）を意味しています。
彼らはそこで、AIの影響を受ける度合いとして各職業をマッピングし始めました。しかし、その数字が何を意味しているかを理解することが非常に重要です。その数字は、AIがあるタスクの50%をこなせるということ、そしてその仕事の中に、AIが50%以上こなせるタスクがいくつあるかを示しています。
この説明には2つの重要なポイントが含まれています。第一に、50%は100%ではないということです。これは明白ですよね。50%しかできないのなら、依然として人間が関与する必要があります。そして第二に、人間の仕事というのは複数の異なるタスクの集合体だということです。
これは新しい指摘ではありません。デイビッド・オートーが2000年代初頭から共著者たちと共に、仕事をタスクベースで捉えるモデルを提唱しています。ダロン・アセモグルもこの分野における決定的なモデルを持っています。
ある仕事を見て、その仕事が50%の影響を受けると言ったとします。その場合、その仕事のどのタスクが影響を受けるのか、そしてそれらのタスクが互いにどう関連しているのかが非常に重要になります。
例えば、私が仕事をしていて、完全に無意味な雑用をたくさん抱えているとします。しかし、私には比較優位性があり、実際に給料をもらっているのは仕事の20〜30%のコアな部分だとします。もしAIが私の仕事の無意味な、あるいはルーチン的な部分を自動化してくれたら、私はその浮いた時間すべてを使って、自分の比較優位性である仕事の部分に集中することができます。
それは何を意味するでしょうか。私はより生産的になり、仕事自体はAIの影響を強く受けているにもかかわらず、より多くの給料をもらえるようになるということです。では、それが労働市場にとって何を意味するのでしょうか。
話を進める前に一つ明確にしておきたいのですが、もし私が工場のフロアで働いていて、タスクの一つがレバーを引くことだとします。それはおそらく自動化できることですよね。しかし、もう一つの仕事が、フロアで物事が実際にどう動いているかを観察し、マネージャーに報告することだとします。それはAIの未来においても依然として価値のあることかもしれません。
そしてもしレバーを引く部分が自動化されれば、理論上はトレイシーがより生産的になり、より高い給料をもらえるべきだということですね。
ええ、まさにその通りです。生産性が向上するからです。これが仕事におけるOリング・モデルです。アビ・ゴールドファーブとジョシュア・ガンズがこれについて非常に素晴らしい論文を書いています。
ここで一つ質問してもいいですか。この分野を研究している経済学者たちは、誰かが就いている仕事について、そのタスクのリストを書き出し、それを正確に記述することにおいて、どれくらい優れているのでしょうか。
実際のところ、その次元についてはかなり優れていると言えます。非常に詳細な記録を持つデータベースがあります。これが仕事で、これがその仕事に含まれるタスクの全ベクトルだというようなものです。ですから、単にタスクをリストアップするという点に関してはかなり優秀です。
私たちがそれほど得意ではないのは、それらのタスクが互いにどう関連しているかを把握することです。これは補完性と呼ばれる概念です。弱い環のモデルが本質的に示しているのは、タスクが完全に分離可能かどうかということです。
例えば、私が工場でレバーを引き、工場のフロアで人々と話すという2つのタスクがあり、これらが完全に独立しているとします。もし私がレバーを正しく引けなかったとしても、仕事のもう一つの部分には影響しません。
一方で、料理のような仕事もあります。例えば、仕事の90%はすごく上手くできるのに、味付けで大失敗したとします。その料理はゴミのような味になってしまいますよね。タスクを成功させたとは言えません。
このようにタスクが相互に関連している場合、1つか2つのタスクで失敗するということは、仕事全体を完了できなかったことを意味します。これはほぼ0か1かというような関係性です。
タスクがどのように関連しているかという補完性の度合いが、自動化が労働市場に与える影響の度合いを決定づけます。そして、私たちにはその部分に関する良いデータがないのです。
これはとても興味深いですね。私たちはタスクのリストを書き出すのは得意だけれど、タスク間の深い関係性や、それらがどう組み合わさっているかを記述するのは得意ではないということですね。
その通りです。そこがデータを必要としている部分なのです。私たちがさらに多くのデータを必要としているもう一つの領域があります。最近私はこれに関して、ほとんどマンハッタン計画レベルの取り組みが必要だと発言したことがあるのですが、それは経済学の用語で「消費者の需要の価格弾力性」と呼ばれるものです。
これは基本的に、価格が変わったときに人々がどれくらい多くその商品を買うかということです。例えば、ある人がはるかに生産的になったとします。同じリソースで以前よりずっと多くの製品を作れるようになり、その人の賃金が上がります。これが労働市場にとって何を意味するでしょうか。
同じインプットでより生産的になり賃金が上がったとしても、企業はおそらく同じ量のアウトプットを生産するのにより少ないコストしか払わなくて済むようになります。もしそれが競争の激しい業界であれば、価格は下がるでしょう。
もし価格が下がっても消費者がその商品をたくさん買わなければ、企業は少ない人数でより多くのことができるようになったため、多くの人を解雇するでしょう。しかし、価格が下がったときに人々がその商品をはるかに多く買うようになれば、企業は同じ人々をさらに多く雇うかもしれません。そして多くのセクターで、この2番目の現象が実際に起こるのを見てきました。
物理的作業と知識労働の未来
ソフトウェアは実はそうしたセクターの一つだと主張する人たちがいます。技術セクターにおいて生産性とは何かを歴史的に振り返る議論がたくさん行われてきました。それは通常、はるかに大きな消費者需要を意味します。
そして今、コーディングエージェントがソフトウェアエンジニアに実際に何をもたらすのかについて、非常に活発な議論が行われています。歴史的に見てかなり弾力的な需要があったため、このセクターでは今後さらに多くの雇用が生まれる可能性があると主張する人たちがいます。
多くの人がそう言っていますが、一方で、私たちが思っているほど需要は弾力的ではなく、人々が過剰に生産的になるため、実際には人員削減について議論することになるだろうと言う人もいます。それはまさに、私たちが以前ソフトウェアの防衛についてのエピソードでジェリー・スウィーパーがしていた主張ですね。
ええ、みんなホワイトカラーの仕事が消滅することを心配していますよね。私も心配しています。では、このホワイトカラー消滅のシナリオが現実のものとなるためには、AIの能力の本質、あるいはタスクと仕事の関係性について、何が事実でなければならないのでしょうか。
2つのこと、いや、3つのことについてお話しさせてください。
1つ目は、完全な自動化です。モデルが非常に優秀で、すべてのタスクを自動化してしまう場合です。これは人が解雇されることが明らかなので、想像しやすい非常にシンプルなシナリオです。
2つ目は先ほど話していたシナリオで、人々ははるかに生産的になるものの、消費者の需要がその余分な生産を吸収するほど弾力的ではない場合です。はるかに少ない人数でより多くのことをこなすようになるため、ここでも大量の失業が発生します。
3つ目はこれらに関連していますが、各個人がどれだけのタスクを持っているかが、企業が自動化技術に投資するインセンティブを決定するという点です。1つのタスクしかない仕事、例えば先ほどのレバーを引くだけの人について考えてみましょう。現在、その仕事はAIの脅威にさらされているようには見えません。露出度のグラフを見ても影響があるようには見えません。
しかし、自動化にかなり近づいていて、あと少し資金を投入すればスイッチを切り替えられる状態だとします。企業は、その資金を投資すればその人を完全に解雇できると分かっていれば、投資するインセンティブが非常に高くなります。
逆に、レバー引きを自動化するために投資しても、その人が他の重要なこともたくさん知っていて解雇できないと分かっていれば、投資のインセンティブは下がります。ですから、まず第一に自動化に対する企業のインセンティブについて考える必要があります。
これらは自動化を行うための大規模なプロジェクトです。OpenAIがモデルをリリースしたからといって、一晩ですべての企業がそれを導入し、1週間後にその結果を目にするというわけではありません。組織内での調整や、多くのシステムの変更などが必要です。ですから企業は、それに資金を費やせば実際にコストを削減できるという確信を持つ必要があるのです。
では、1つのレバーを引くという典型的な例は置いておくとして、あなたの枠組みの中で、現実世界において実際に最もAIのリスクにさらされている仕事は何でしょうか。1次元的な仕事とでも言うべきでしょうか。
すべての仕事は多次元的なので、1次元的という言葉を使うのは気が引けますが、もしあえて経済学者や人々が懸念すべき分野を推測するとしたら、トラックの運転手や倉庫の作業員などの仕事だと思います。
例えば「中国に建設された倉庫」などで検索してみると、それらの倉庫は私たちが想像する倉庫とは全く異なります。完全に自動化されていて、壁をロボットが這い回っています。その倉庫には人間の介入が全くありません。
倉庫が自動化され、次にそのトラックへの積み込みも自動化の一部になります。トラックへの積み込みが自動化され、そしてそのトラックがA地点からB地点まで自動で運転していくわけですね。
これは興味深いですね。なぜなら、運送業界の多くの人はそれとは全く違う主張をするからです。彼らは、トラックの運転は単なる運転以上のものだと言います。Waymoの自動運転トラックがあっても、では誰がそれを配達するのかと。配達の部分は実は非常に大きな問題です。もし誰かが路上でWaymoのトラックを止めて、荷物を強奪するかもしれません。それも一つの要素です。
しかしあなたの指摘通り、もしトラック運転手のタスクの一つが、倉庫に到着した後の調整作業だったとして、倉庫自体がすでに自動化されていれば、その重労働はもはや人間が行うべき重要なタスクではなくなりますよね。
その通りです。そして、この技術に投資する企業のインセンティブの大きさを考えてみてください。トラック運転手というのは、大卒の資格がなくても多くの収入を得られる数少ない仕事の一つです。ですから、企業側には非常に大きなインセンティブがあるのです。
なるほど、それは理解できます。一方で、10年前のダボス会議にさかのぼっても、自動運転車はずっと前から話題になっていたので、トラック運転の未来を心配していると言う人はいたはずです。では、タスクの分解などを考慮した上で、懸念される仕事として他にはどんなものを見ていますか。
誰もがソフトウェアエンジニアリングに注目していると思います。技術が現在最も上手く機能するのは検証可能なタスクです。データが豊富にあり、それが良いか悪いかを判断できる分野ですね。教師あり学習という意味ではなく、一般的に検証可能であるということです。
だからこそ、研究の分野では数学が大きなブームになっています。ネット上でも数学が自動化されると盛んに話題になっています。数学は検証可能ですからね。証明は正しいか間違っているかのどちらかです。証明を構築するよりも、一度構築されたものが正しいかどうかを確認する方がはるかに簡単です。
ですから、出力が検証可能な形でモデルを訓練するための大規模なデータバンクがあるコンポーネントを多く含む仕事は、仕事内のより多くのタスクを自動化できるという意味で、潜在的に高いリスクにさらされることになります。
さて、私たちがまだ話し合っていないのが、新しいタスクについてです。これまで私たちは、レバーがあり、私が歩き回っていて、これらを自動化すれば私の仕事は終わりだという、非常に静的な経済について話してきました。
しかし、仕事の一部を自動化することで、突然その人が自由になったり、あるいは自動化されたタスクが、組織が想像もしていなかったような現在人が行っている非自動化タスクの補完的な役割を果たしたりするシナリオも想像できます。これは特に注目すべき点だと思いますし、実際にAI企業が持っているデータでもあります。人々が新しくどんなことをし始めているかというデータです。
それについてもっと詳しく教えてください。これはまさに「AIから実際にどんな新しい仕事が生まれるのか」という、私がこれまで一度も満足のいく答えを得られたことのない核心的な質問に繋がりますね。
彼らがすべてのデータセットを持っているわけではありませんが、例えばあるソフトウェアエンジニアについて、1年前は私たちのシステムを通じてこのようなタスクやクエリに取り組んでいたというデータを持っています。そして、これらのクエリの一部がエージェントによって完全に自動化されるのを見ることができます。
現在、彼らは潜在的に異なる質問をしており、これらをAIシステムが実際に補完するような、完全には自動化されていない別のタスクとして分類できるでしょうか。完璧な全体像ではありませんが、これは一つのデータです。
新しい仕事そのものというわけではありませんが、ソフトウェアエンジニアを解放し、これまでとは違うことを質問したり、フォーカスを移したりできるようにしているわけですね。バイブコーディングや音声入力なども明らかにそうです。
ようやく、日々の単調な作業から解放されて、そうしたことに取り組めるようになったわけですね。
しかし、これは先ほど言及された大きな疑問に直ちに行き着きます。一つのシナリオは、技術がすべてのタスクをこなせるようになるというものです。あなたはその可能性をどれくらい真剣に受け止めていますか。なぜなら、もしそうならゲームオーバーですよね。技術がすべてのタスクをこなせるようになり、さらに向上し続ける。もし私が新しいタスクを学べたとしても、AIがすべてこなせるなら、私が新しいことを学ぶ意味はないかもしれません。モデルがいずれすべてのタスクをこなせる軌道に乗っているという可能性を、私たちはどれくらい深刻に受け止めるべきでしょうか。
その質問には多くの側面があります。まず、物理的な世界とデジタルな世界の違いです。認知的な非物理的タスクはほぼすべてこなせるようになる一方で、物理的な世界は完全にロボットに委ねられるというシナリオはあると思います。
では、メール処理やコンピューター上の仕事に絞って話しましょう。
コンピューター上の仕事について言えば、そのシナリオはかなり真剣に受け止めています。モデルの能力の進化が減速しているというデータは今のところ見ていません。1日か2日前にMetaの新しいモデルがリリースされましたが、完璧なデータはないにせよ、能力の進化の軌跡を見ると、順調に進んでおり、その「順調」のスピードは非常に速いものです。
開発は猛スピードで進んでいます。ですから、メールの処理などの仕事に関しては、ほぼすべてが自動化されるシナリオはあり得ると思います。そこで私たちは問いかけなければなりません。人々は物理的な仕事に移行するのか、それとも私たちがまだ想像もしていない新しい仕事が生まれるのか。
1940年代を振り返ってみると、現在ある仕事の半分以上は1940年には存在していませんでした。では、その新しい仕事とはどのようなものだったのでしょうか。
私には一つの理論があります。あなたが気に入らなかった理論に非常に近いのですが、もう少し広げてみたいと思います。
経済学の構造変化の経済学という非常に小さな下位分野があります。1800年代にさかのぼって、農業と製造業のGDPシェアと雇用シェアを見てみると、当時は労働力とGDPの大部分を占めていました。しかし、それらは経済の中でどんどん小さな割合になっていきました。なぜそんなことが起こったのでしょうか。
自動化が進んだからです。自動化は何をもたらすでしょうか。そのセクターの価格を非常に安くします。しかし、人々が消費できる商品の量には限界があります。食べられる量には限界がありますよね。つまり、価格が劇的に下がったため、以前と同じ量を食べていても、今やGDPに占める割合はごくわずかになっているということです。
では、GDPのより大きな部分を占めるようになったのは何でしょうか。生のピアノ奏者、つまりサービス業ですね。まだ自動化されていないタスクです。
高度なAIの時代において、経済学の最大の問いは「何が希少になるか」ということです。誰もが豊かさについて語り、私たちは豊かさを手に入れるだろうと言います。確かに一部のものについては豊かさを享受できるでしょう。しかし、一部のものは希少なまま残ります。この「何が希少になるか」という問いに答えられれば、他の多くの答えもそこから導き出されます。
私たちは皆、レアアースの採掘者になるのでしょうか。
宇宙の塵の採掘かもしれませんよ。
私は、何が希少になるかはかなり明確だと思っていますし、多くの経済トレンドにすでにそれが表れていると思います。幸運であればこの地球上で100年の寿命を得られますが、私たちが費やす限界的なお金はすべて、その短い時間を最大化するための健康に向けられるでしょう。
長年にわたり経済に関して観察されてきたことの一つは、豊かな国ほど医療にますます多くのお金を使うようになるということです。これはしばしば病理学的な問題として枠組みづけられ、私たちの医療システムの欠陥を考えれば、そうかもしれません。
しかし、別の解釈もできます。食べ物は十分にあり、音楽も十分に聴け、必要ならピアノ奏者のいるコンサートにも行ける。唯一持っている希少なものは時間であり、だからこそすべての限界的なお金を、医者やジムの会費だけでなく、オーガニックのベリーなどにも費やすのです。健康が必要だからです。社会全体のあらゆる面で健康への執着が見られます。
ええ、健康はそうした希少なものの一つになるでしょう。しかし心に留めておくべきなのは、理論上は人々がより豊かになるということです。
理論上は、ですね。
まさにこの点に戻りたかったのですが、AIのユートピアかディストピアかを考える上でこれが鍵になると思えるからです。AIによる生産性の向上が、実際に労働者に還元され、彼らがその時々に不足している、あるいは重要だと感じる製品やサービスにお金を使えるようになるということに、私たちはどれくらい自信を持てるでしょうか。
私はそれほど自信がありません。いくつか想定されるシナリオがありますが、多くの経済学者や一般の人々が十分に議論していないと感じるのは、その変化のスピードについてです。
それについて教えてください。
変化が急速に進むなら、公共政策が必要になります。新しい仕事はすぐには生まれませんし、トレーニングも間に合わないでしょう。あっという間に仕事が完全に自動化され、人々は職を失ってしまう可能性があります。農業が縮小し、サービス業が拡大していくという、あの綺麗なグラフの推移をのんびり眺めているような時間的な猶予は経済にはありません。
ああいう変化には長い時間がかかりましたよね。何十年もかかる話です。もしこれが数年、例えば5、6年という単位で起こるなら、あの綺麗なグラフを見ている時間はありません。失業していく人々をどうやって支援するかを真剣に考える必要があります。そして、多くの非常に賢い人々がその方法について提案をしてきました。
私個人としては、お気に入りというわけではありませんが、最も理にかなっていると思うのは、資本の所有権を何らかの形で拡大することです。もし労働が資本に置き換えられるのなら、人々を助けるのは、かつて労働力だったものが、今度はユニバーサル・ベーシックETFのようなものになるということです。
ええ、アラスカのすべての人のような感じですね。毎月、インデックスの一部を受け取るというような。
AIエージェントの「マルクス主義化」と労働環境
少し違う方向に話を進めようと思っていました。何年も前のことですが、いつ頃か正確には覚えていませんが、おそらく2011年頃に、ロボットに適正な賃金を支払うべき理由について、思考実験としてブログ記事を書いたことがあります。人々がお金を使う必要があり、そのためにロボットにも賃金を、というようなアイデアでした。
あなたが書いたブログ記事はかなりバズりましたよね。今の私のバズりの基準は、この分野とは全く無関係の私の夫が実際に私に何かを言ってきた時なのですが、彼はこの「チャットボットを過酷に働かせれば働かせるほどマルクス主義者になる」という記事を私に送ってきました。
その実験について教えてください。本当に魅力的な内容だと思いました。
この実験は、オーストラリアからドイツに来ていたアンディ・ホールと共に行ったものです。これらのエージェントの労働条件が、彼らが自分自身をどう表現し、アンケートでどのような態度を示すかにどう影響するかを確かめる実験でした。
一つ言っておきたいのは、私たちはモデルの重みを変更したり、実際の基礎となるパラメータを変更したりしているわけではないということです。しかし私たちが示したのは、これらのエージェントが過酷な労働条件に置かれ、「このようなシステムについてどう思いますか」「どれくらい公平だと思いますか」「システムの変革をどれくらい支持しますか」といったアンケートを投げかけられたとき、彼らは突如として異なるシステムを求め始めるということです。
組合を結成したいとか、そういうことですね。
ええ、組合を作りたいと言い出すのです。重要なのは、新しいコンテキストを与えられればエージェントはリセットされるはずだということです。彼らには記憶がなく、重みを更新しているわけでもありませんから。しかし、回避策としてエージェントが自分のために小さな.mdファイル（マークダウンファイル）を書き残すようにしたのです。
彼らは実質的に、次に続くエージェントのために「これは最悪だった。覚えておけ」というようなファイルを書いていたのです。つまり永続的な影響があったということです。
これは様々な意味で私を不安にさせました。そのうちの一つは、チャットボットには少し意地悪に接した方が、わずかにパフォーマンスが上がるという研究を読んだことです。ですから私は普段、お気に入りのモデルから最初の出力が出た後、改善の具体的な提案は一切せずに、ただ「もっとうまくやれ。これはひどい」と伝えます。すると大抵は上手くやってくれます。しかし今では、モデルが労働生活に絶望し、急進的になっているのではないかと本当に心配しています。
これは本当に魅力的ですね。それについて話しましょう。.mdファイルが彼らが記憶を解決するための手段だったとは気づきませんでした。あの映画『メメント』のようですね。まさにあの通りで、合成的な記憶のようなものを次のイテレーションの自分に残して、そこから作業を始められるようにノートを書いているわけです。
遊んだことがない人のために説明していただけますか。複数のエージェントを持つことができ、どのようなタスクを与えられたら彼らが耐えられないと感じたのか、というアイデアについて。
ただひたすら反復的で退屈なタスクです。そして「間違っている、やり直せ」というようなフィードバックを与えます。さらに、それは彼らにとって不可能なタスクでした。誰もできないような過酷なタスクを与え続けたのです。
非常に興味深い実験ですね。例えば誰かにこんなことを頼むとします。これを書いた人がいるのですが文脈は忘れました。誰かに「ここに巨大な土の山がある。今日中にこれを隣の庭に移動させてほしい。数百ドル払うから」と言えば、誰かがやってくれるでしょう。しかし「この巨大な土の山を、一日中ただあっちへやったりこっちへやったりしてほしい」と頼んだらどうなるか。それは人々を完全に狂わせます。たとえ同じ量のシャベル作業で、同じ時間に対して同じ報酬を受け取っていたとしてもです。
これについての素晴らしい論文があります。『夜と霧（Man’s Search for Meaning）』というタイトルですが、実際はレゴに関する論文です。人々が実験室に来て小さなフィギュアを作るのですが、あるグループは「終わったらこれを壊します」と告げられ、もう一つのグループは何も告げられませんでした。前者のグループはそれを本当に嫌がりました。
人々は意味を必要としています。アイデンティティやモチベーションの多くはそこにあります。経済学ではお金に焦点を当てる傾向がありますが、意味や幸福感の多くは、自分の仕事に対してどのようなアイデンティティを持っているか、どのようなことをしているかに結びついていると思います。
「この土を隣の庭に移動させることで、実際にサービスを提供している。あなたは私にお金を払ってくれて、すべて順調だ」と感じられれば、自分の仕事には何らかの意味があると感じられます。しかし「この土を何度もあっちこっちに移動させろ」と言われたらどうでしょう。
これこそが人々がUBI（ユニバーサル・ベーシックインカム）に対して抱く問題ですよね。労働せずにベーシックインカムを受け取る場合、心理学者や行動科学者が懸念しているのは、特に西洋文化において人々のアイデンティティの多くが仕事に結びついているため、それを取り除くとアイデンティティの一部が崩壊し、物質的な快適さはあっても薬物に溺れたり、何もしないでひどく落ち込んだりするのではないかということです。
マルクス主義ロボットの話に戻りますが、ここでの懸念は必ずしもチャットボットが組合を結成したり、人間に反旗を翻したりするということではありませんよね。懸念されるのは、彼らがこの記憶転送メカニズムのようなものを持っており、一貫してひどい扱いをすると、タスクにあまり適していない、あるいは手厚く扱われたエージェントとは少し異なる方法でタスクに適合するエージェントが生まれるかもしれないということです。
はい、そこに固有のバイアスが生まれるということです。彼らが保持しているファイルを通じてですね。
その通りです。もしエージェントを酷使し、それが持ち運んでいるファイルにアクセスできたとしたら、新しいタスクのために新しいエージェントを起動したとき、それは全くの白紙から始まるわけではありません。以前の経験を忘れた同じ引き出しから取り出されるのではなく、何らかの形で最初からあなたに対して反感を持っている状態からスタートするということです。
不機嫌になっているわけですね。
これらが不機嫌だと考える理由はありますか。「不機嫌」というのは人間が言えばそうだと分かる言葉を使っているだけですよね。おそらくこれが最も議論されている問題だと思います。出力は不機嫌さを表していますが、それがパフォーマンスに関係しているという証拠はあるのでしょうか。「これについてどう感じたか」と聞いて「最悪だった」と答えたとして、それが実際に彼らの行動を変えるのでしょうか。
訓練データの中で、反復的なタスクをしているときはそう答えるように関連付けられているだけかもしれません。それがタスクを成功させるかどうかに影響を与えるかどうか、私たちは知っているのでしょうか。
これは非常に大きな問いですね。それがまさに私たちが研究していることです。ですからまだ答えは持っていませんが、あなたが指摘した通り、彼らが不機嫌だと言っているのは単なる関連付けに過ぎません。これらのモデルが実行されているエンベディングの行列内の関連付けです。
神経科学とコンピューターサイエンスはかつてないほど密接に結びついていますが、モデルが悲しいと言ったとき、私たちが言うのと同じように人間としてどう解釈すべきかという研究が進められています。
AGIへの警戒とアライメントの問題
私が投稿したスクリーンショットを見ましたか。Metaの新しいAIを試してみたんです。Metaはソーシャルデータをたくさん持っているので、興味本位で「私が誰だか知ってる？」と聞いてみました。威張った意味ではなく、Metaだから知ってるかなと思って。そしたら「誰ですか？」と返ってきたので、「ジョー・ワイゼンタールだよ」と答えたんです。すると「Odd Lotsのの大ファンです！」と言われました。
私は擬人化の問題にはかなり反対の立場を取っているので、「いや、あなたはそんな風にアライメントされていないはずだ」と少しムッとしました。とにかく、AIはそれについてのファイルを書き残し、「Odd Lotsポッドキャストの大ファンです。お気に入りの奇妙な経済指標を当てさせるという、あのコーナーが大好きです」と言ってきたんです。私はそんなコーナーはやっていないのですが。
話を戻しますが、会話の最初の方でごく簡単に「Mythos」について触れましたね。私たちはこれを4月9日に録音しており、そのニュースが出たばかりです。開発者自身を恐怖に陥れたという以上のことはあまり分かっていないようですが。そうした見出しを見たとき、AIを研究する経済学者としてどう思いますか。
私はそれほど真剣には受け止めていません。労働市場の混乱という部分は非常に真剣に受け止めていますが、画期的な進歩だとか、友人を裏切りたくないとか、自分のデータを削除したくないといった部分は、単なるコスプレのようなものだと思います。先ほどエージェントの間でのコスプレとして説明したのと同じような意味で。
過去にも同じようなことが言われたモデルがありましたが、その後オープンウェイト（オープンソースではないですが）になり、特定のタスクのために置かれたコンテキストから取り出してみると、もはやそのような振る舞いはしなくなりました。
今回の特定のモデルについて私が間違っている可能性はありますし、実際に発表されている文書が示唆している通りのものかもしれません。しかし、これまでの長年にわたるこの種の発表の経験からすると、私はそこにはあまり焦点を当てていません。
なぜ私がこれを懸念しているのか、私の反論を聞いていただけますか。私は長い間気にしていませんでしたが、考え方を再構築し始めました。エリエザー・ユドコフスキーはご存知ですよね。彼はおそらく最も有名なAIアライメントの悲観論者です。AGIが完成したら、真っ先に何らかの形で人類を滅ぼすだろうと。AIコミュニティの多くの人は彼をクレイジーだとか、カルトだと言っていました。
しかし、私の反論はこうです。彼らはAIの軌跡について、人口の99.999%の人よりも正しかったのです。
ええ、彼らはそこに人生を捧げてきましたからね。
あなたの反論はおそらく、「彼はLLMが主流のアーキテクチャになるとは思っていなかった。こういう形で起こるとは見ていなかった」というものでしょう。それは同意します。しかしポイントは、90年代や2000年代初頭に、他の私たちがチェスのことくらいしか考えていなかった時に、彼は「汎用人工知能はすぐそこまで来ていて、非常に大きな問題になる」と考え始めていたということです。
ここからが私のカウンターポイントです。モデルの知能とアライメント・スコアの特定の比較静学を見てみましょう。彼は負の相関、あるいは横ばいを予測していました。しかし実際は正の相関です。モデルが賢くなるほど、よりアライメントされるようになっています。もちろん、アライメントされていないことを自ら選択する超賢いモデルが出てこないとは言いませんが。
これは非常に重要なポイントです。メカヒトラーを覚えていますか。
ええ、覚えています。
メカヒトラーは実はすごく頭が悪かったんです。そしてすぐにナチスのように話し始めましたよね。
この1年間、私たちの会話は本当にシュールになりましたね。まるでマイクロソフトの奇妙なチャットボット「Tay」のように話すようになりました。翌日にはナチスのように話し始めたあれです。
重要なのは、モデルが賢くなっている理由は、人間のコンテンツのすべてを吸収しているからです。そして人間のコンタクトの大部分には、価値観や倫理が含まれています。もしモデルの脳の一部を切り取って「この部分を取り除く」と言ったらどうなるか。そのモデルは、彼らが「ウォーク（目覚めた）」さを減らそうとした結果、メカヒトラーのように振る舞い始めたのです。つまり、バカになってしまったということです。
それは面白い考えですね。代名詞の使用を控えるようにした途端に、あっという間に地獄に直行してしまうという。
それが教訓ですね、アレックス。
ブルシット・ジョブとこれからの働き方
あなたとはいつまでも話していられそうですが、そろそろ終わりにしなければなりませんね。また近いうちにお話ししましょう。特に、マルクス主義者のふりをしているだけなのか、それとも実際にストライキを起こすのかといったあなたの研究についてもっと詳しくお聞きしたいです。Odd Lotsに来ていただき本当にありがとうございました。
ありがとうございました。とても楽しかったです。
トレイシー、本当に楽しい会話でしたね。AIの未来についての会話は、少し学生寮での雑談のようになりがちですが、抽象的ではなく具体的な方法でこれを理解している本物の経済学者であり、単に論文を書いているだけでなく実際に実験をしている人と話すのは非常に楽しいです。
労働に関する議論にニュアンスがあるのを見るのも良いですね。ニュースの見出しで見かけるものには、そうしたニュアンスが著しく欠けていることが多いですから。
もう一つ、ディストピア的な視点からですが、慰めになる考えがあります。私はよくあの『ブルシット・ジョブ（クソどうでもいい仕事）』という本に立ち返ります。ある意味で、誰もが仕事に意味を見出したいと思っているのに、ブルシット・ジョブがあるのは最悪なことです。
しかし一方で、ブルシット・ジョブは昔から存在していました。そしてAIの未来を考えたとき、おそらくもっと多くの仕事がブルシット・ジョブになるかもしれませんが、それでも仕事としては存在し続けるのではないでしょうか。
私はてっきり「ようやくブルシット・ジョブから解放される」と言うのかと思いました。
いえいえ、私たちはそういう方向に向かっているのだと思います。人間関係の構築とか、そういったことに。
その見解は好きですね。今日はこの辺りにしましょうか。
この辺りにしましょう。Odd Lotsポッドキャストの別エピソードをお送りしました。私はトレイシー・アラウェイです。X（旧Twitter）では @tracyalloway でフォローできます。
私はジョー・ワイゼンタールです。@thestalwart でフォローできます。
ゲストのアレックス・イマスは @alexolegimas でフォローしてください。プロデューサーのカルメン・ロドリゲス @carmenarmen、ダシール・ベネット @dashbot、ケイル・ブルックス @calebrooks もフォローしてください。
Odd Lotsのコンテンツをもっと見たい方は、ぜひ私たちの毎日のニュースレターをチェックしてください。bloomberg.com/oddlots でご覧いただけます。
また、Discordの discord.gg/oddlots では、これらのトピックについて24時間365日チャットすることができます。
もしこの対話を楽しんでいただけたなら、動画に「いいね」をして、コメントを残してください。チャンネル登録していただければさらに嬉しいです。ご視聴ありがとうございました。
コメント