この動画は、全ての労働を自動化することを公然と掲げるAIスタートアップMechanizeの創設者たちが、その大胆な目標と実現手法について語ったインタビューである。同社は強化学習環境を構築してAIエージェントに様々な職業スキルを習得させ、最終的には全職種の自動化を目指している。創設者らは自動化による経済成長の劇的な加速と豊かさの実現を主張する一方で、雇用を失う人々への配慮や政府の役割についても議論が展開される。
Mechanizeについての紹介
ケヴィンさん、あなたは最近Mechanizeという新しい会社について非常に興味深い記事を書かれましたね。
はい、これは書いていてとても楽しい記事でした。サンフランシスコのスタートアップで今年の初めに設立され、おそらく皆さんもご存知のPatrick Collisonや、GoogleのAI分野の重要人物であるJeff Deanなどから資金調達を行いました。彼らは非常に注目を集めているスタートアップです。
私が彼らについて記事を書くきっかけとなったのは、彼らが全ての労働を自動化することが目標だと明言していることでした。あなたの仕事も私の仕事も、私たちが知っている全ての人の仕事を奪い、それらをAIに置き換えたいと考えています。そして彼らは、新しいタイプの強化学習システムを使って、今後数十年でこれを実現できると考えています。
これは多くのシリコンバレー企業から聞いたことのある約束ですが、Mechanizeの創設者たちほど直接的にこれを売り込んでいる企業はないかもしれません。彼らの秘訣は何なのでしょうか？
彼らは強化学習訓練環境と呼ばれるものを構築しています。基本的には、これらの新しいAIエージェントが様々なホワイトカラーの仕事のやり方を学ぶために使用できるシミュレーション環境のようなものです。彼らは、このアプローチが最初に自動化しようとしているソフトウェアエンジニアリングだけでなく、最終的には他のあらゆる種類の仕事にも拡張できると信じています。
私はこれを番組で取り上げることが重要だと思いました。なぜなら、ここ数回のエピソードでAIと雇用について話してきており、この会話がますます重要で緊急性を増していると思うからです。AIによる雇用の置き換えの証拠が現れ始めており、そこにMechanizeの人々が現れて「これは実は氷山の一角に過ぎない。あなたたちはまだ何も見ていない。私たちの計画は、これらの巨大なAI企業がもっと多くの仕事を非常に迅速に自動化することを支援することだ」と言っているのです。
これは社会がそのような事態の余波にどう対処するかについて多くの重要な疑問を提起しているようですね。では、これらの創設者を招いて、彼らの見解を聞いてみましょう。
創設者たちとの対話
はい、MechanizeのMatthew BarrettとEgay Erdilをお招きしましょう。MatthewとEgay、Hard Forkへようこそ。
こんにちは。
こんにちは。
今年初めにあなた方が第3の共同創設者であるTamay Besirogluと共に設立したMechanizeについての記事を書くのはとても楽しかったです。私があなた方の活動に興味を持った理由の一つは、私が取材している多くのAI企業とは異なり、彼らは雇用を自動化していることを偽装したり、「私たちは労働者のための有用な副操縦士やアシスタントを作っているだけで、彼らの仕事を置き換えるつもりはない」と言ったりするのですが、あなた方は実際に出てきて「はい、私たちは絶対に雇用を自動化したいのです。しかも2、3の仕事だけでなく、全ての雇用を自動化したい」と言っていることです。
あなた方3人が以前在籍していた研究機関であるEpoch AIを離れてこの会社を設立し、労働の自動化というアジェンダについてこれほどオープンになることにしたきっかけは何だったのでしょうか？
私たちがEpoch AIにいた時のことですが、そこは人工知能のトレンドについて社会に情報を提供することを使命とする非営利の研究組織でした。その研究の一環として、AIの経済学について多くの調査を行い、その研究の一部として、経済全体で人間の労働者に代替できるAIが経済成長率に与える影響を調べました。
その研究から得られた非常に確固たる結論は、それが経済成長を前例のない規模で、現在の成長率と比べて10倍、場合によってはそれ以上加速させるというものでした。これにより、物質的な財だけでなく、現在は人間によってのみ提供できるサービス、技術的進歩、医学的進歩など、現在どれだけお金を持っていても実際には購入できないようなものの膨大な豊かさが解き放たれるでしょう。
私たちは、AIが全ての人の仕事を自動化すれば、人間の労働力よりもはるかにAIの労働力を拡張できるため、この膨大な豊かさ、商品の種類の飛躍的な増加、新しい医薬品、新しい技術などがもたらされ、人々の生活がはるかに良くなると考えています。
シリコンバレーの誇大宣伝への疑問
これは他のAI創設者からも聞いたことのある話で、彼らは根本的な豊かさの世界を解き放ちたいと言っています。私たちのリスナーの多くはそれを聞いて「ここにシリコンバレーの誇大宣伝者たちが来て、資金調達をしようとしているから、数十億ドルを調達できるようにこの美しい話を聞かせてくれるんだろう。そして彼らは金持ちになるだろう」と考えると思います。
これが自分たちのプロジェクトに利益をもたらすために売っている誇大宣伝の一種だという考えに対して、どのように答えますか？
誰かが推測している単なる誇大宣伝と実際のものとの違いは、それを実証的にテストできることだと思います。それが堅実な経済モデルの含意かどうかを調べることができ、自動化の歴史を見ようとすることができます。
実証的証拠を見ると、自動化は大多数の人々にとって良いものだったということは非常に明確です。人々は農業の機械化から冷蔵技術まで、あらゆる種類の技術から恩恵を受けてきました。
それが少数の人々にのみ利益をもたらしていると考える人は、自動化の歴史を本当に研究すべきだと思います。ほぼ全ての証拠が彼らが間違っていることを示すと思います。
私は自動化の歴史を研究してきました。自動化の歴史に触れた本を一冊まるまる書きました。自動化と技術全般が長期的には人々の生活を向上させるという声明には同意します。例えば、私たちの多くは、手作業による過酷で骨の折れる生活を送っていた曽祖父母と場所を交換したいとは思わないでしょう。
しかし、人々は長期的には生きていません。人々は短期的に生きています。これまでのあらゆる技術革命において、苦労する人々、隙間から落ちる人々、ある時代から別の時代へとシームレスに移行することができない人々がいました。
短期的な影響への懸念
あなた方を見て「根本的な豊かさのこの未来がどこかの時点で可能かもしれないことは理解しているが、2025年の私にとって、これは私の仕事が自動化されて、請求書を支払う方法がなくなることのように見える」と言う人々に対して、何と言いますか？
まず第一に、AIが全ての人の仕事の代替となることを期待していますが、労働者の数パーセントの仕事だけでなく全ての人の仕事を代替できると仮定すると、その影響は非常に大きいため、実際には長期はそれほど長くないと思います。数十年程度かもしれないので、現在生きている大多数の人々の生涯内で簡単に実現するかもしれません。それが一つです。
もう一つは、誰も新しい技術の採用によって悪化させられない場合にのみ雇用を自動化すべき、新しい技術を受け入れるべきだという基準は極めて厳格だと思います。それは合理的な基準だとは思いません。
AIが実際に経済全体で人間の労働者の代替となることができれば、それは人間の労働者の代替に過ぎません。その場合、人間はもはや賃金から収入を得ることはありませんが、他にも多くの収入源があります。
今日の世界には、市民が天然資源の恵みから収入を得ている国々があります。その国が所有する一定量の天然資源があり、政府が政府系ファンドを持っているかもしれませんし、その天然資源からの収入を国民に分配する他の方法があるかもしれません。これは私たちが今日の世界で見ていることなので、それほど突飛なことではありません。
これは、AIがはるかに有能で人間の労働者が競争できない世界で起こることを私が期待するようなことです。
ソフトウェアエンジニアリングの自動化
あなた方は最近、ソフトウェアエンジニアリングにおける自動化の歴史について部分的に書いたブログ投稿を公開しましたね。自動化が数十年にわたってソフトウェアエンジニアに及んでいることに注目し、それが起こる中で彼らの仕事は大部分が排除されていないことを述べています。
今まさに何を見ているから「今回は本当に違う、私たちは最後の一歩を進んで実際に全てを完全に自動化し、これらのソフトウェアエンジニアの仕事を奪うことができるだろう」と言っているのでしょうか？
私たちが実際に今回は間違いなく何かが違うと言っているかどうかは確かではありません。実際、私の共同創設者の2人は、完全な自動化には何十年もかかるかもしれないと考えています。
次の5年や10年で全ての人が仕事を失うような強い見解を私たちが実際に取っているとは思いません。実際、特に次の5年間では、過去のトレンドの継続をおそらく見るだろうと思います。それは、AIが職業内の一部のタスクを自動化するが、職業全体を完全に自動化しないということです。つまり、それらの職業の大多数の労働者を完全に置き換えるという意味での完全な自動化ではありません。
ソフトウェアエンジニアリングの例を取ると、これらのコーディングアシスタントがソフトウェアエンジニアを支援するために使われるだろうと思いますが、コーディングアシスタントがソフトウェアエンジニアができる全ての仕事をできるとは必ずしも思いません。
例えば、ソフトウェアエンジニアはしばしばチーム間で調整する必要があり、プロジェクトを計画することが多く、ソフトウェアが設計仕様に適合していることを確認するためにテストし、自動化が非常に困難で単にコーディングというラベルの下にない多くの異なるタイプのことを行う必要があります。
AIがコーディングはできるがこれらの他のことができない場合、実際にはこれらの職業の生産性向上につながり、おそらくソフトウェアエンジニアの賃金を上げることになるでしょう。彼らの仕事全体を引き継いでいるわけではないとしても。
もちろん、長期的には最終的に人々の仕事を引き継ぐことができるだろうと予想していますが、これは今何か特別なことがあると私たちが考えているからではありません。私たちは、AIが全てを置き換えるのにどれくらい時間がかかるかの予測を持っているだけで、それについて意見の相違がありますが、それが質的に異なるタイプの自動化だと考えているわけではありません。そのタイプのことがどれくらい時間がかかるかの推測を持っているだけです。
Mechanizeの実際の事業内容
なるほど。では、あなた方が実際に何をしているかについて少し話しましょう。あなた方は多額の資金を調達したばかりで、おそらく何かの構築に懸命に取り組んでいるのでしょう。ケヴィンの記事で少し読みましたが、実際に構築しているものについて人々に説明してください。
私たちが構築しているのは強化学習プロセスです。モデルが、スプレッドシートの使用など、人間の専門家が仕事をできるようにするスキルを獲得するための、本質的には仮想的な職場環境をデザインします。
スプレッドシートの使用のようなこと、人々が仕事で使用する一般的なソフトウェアツール、メッセージング用のSlack、メールのチェック、ソフトウェアエンジニアリングをしているならGitHubのようなツールの使用です。
私たちがしているのは、スコアリング機能付きのこれらの作業環境の作成です。基本的に、これらの環境に多くのタスクがあり、モデルがこのタスクをうまく行ったか、モデルがこのタスクをどれだけうまく行ったかを見るためにモデルをスコアできます。
そして、これをAI企業に提供し、彼らはこの環境でモデルを訓練することができます。彼らは訓練する部分を処理しますが、この訓練を行う環境を提供するのは私たちです。
あなたの共同創設者のタマイが私に説明してくれた方法で、私の理解に役立ったモデルは、あなた方が基本的に非常に退屈なビデオゲームのようなものを作っているということでした。そのビデオゲームの目標は、ソフトウェアエンジニアや弁護士や会計士になることで、この環境を設定し、そしてAIエージェントが行って何度もそれをプレイし、失敗したか成功したかの信号を得て、理想的には実際にフルタイムの仕事をするのに十分になるまで時間の経過とともに本当に向上する、ということですが、これは大体正しいでしょうか？
そう言えると思います。良い説明だと思います。
ソフトウェアエンジニアリングの後の次のターゲットは何だと思いますか？この技術を使って自動化する次に最も簡単な仕事は何でしょうか？
データサイエンスのような、ソフトウェアエンジニアリングに隣接するものが良いターゲットかもしれません。
ポッドキャスティングもありますが、それは異なる種類の報酬信号が必要かもしれませんね。
投資家への約束とタイムライン
あなた方がこれらのシステムに取り組んでいることに興味を持っています。一方で全ての労働を自動化すると言い、他方で20年や30年かかるかもしれないと言っているという興味深い緊張関係があることに気づきます。また、ベンチャーキャピタルから資金調達を行っており、彼らは皆7年以内にリターンを求めています。
そのような会話はどのようなものですか？10年の終わりまでに彼らに何を約束して提供するつもりですか？
全ての労働ではなく労働の相当な部分を自動化するだけでも、短期間で成し遂げた進歩の量という点では依然として並外れたものだと思います。
非常に野心的な例ですが、次の5年間で現在の仕事の20％を自動化できれば、従来の観点からすればそれは非常に価値あることでしょう。
シリコンバレーの人々、OpenAIの全てのAIラボの人々と話すなら、そのような観点で考えるなら、5年間で20％の仕事を自動化するだけでは彼らは鼻で笑うでしょう。それは非常に保守的だと思うかもしれませんが、従来の観点では膨大なことだと言うでしょう。
短期間での成功したベンチャーになるために、全ての仕事を自動化するという野心的な長期目標を達成する必要はないと思います。
倫理的な問題
あなた方のローンチイベントで質疑応答中に立ち上がって「これのどこかに倫理的な部分はありますか」と言ったことがありました。Matthewさん、あなたの返答は興味深いと思いました。その議論の要約版をお聞かせください。雇用を自動化しようとしていることが倫理的だという主張をしてください。
私が言ったのは、それはコストと利益の問題だということでした。全てを自動化することにはコストがあります。人々が仕事を失うのは事実です。
しかし、これを全ての仕事を自動化することから生まれる膨大な利益の可能性と比較する必要があります。それは労働の自動化から生まれるこの膨大な繁栄、商品とサービスの生産がはるかに容易になるという事実であり、これは生活のほぼ全ての分野で単にはるかに高い生活水準を持つことを意味します。
特に人々が見落としていると思うことの一つは、大量消費の秘密は大量生産であるということです。人々に多くの商品とサービスを消費してもらうため、人々に高い生活の質を持ってもらうためには、多くの生産、多くの商品とサービスが実際に生産されることによって支えられる必要があります。
生産される商品とサービスのベースを拡張できるメカニズムがある場合、これが必ずしも平等ではないが幅広い人々の間で共有される何らかの方法がある限り、これらの商品とサービスが少しでも分配される方法がある限り、それはほぼ全ての人がより良くなることにつながると思います。
彼らの物質的な生活水準が高くなるという点だけでなく、彼らの生活には依然として意味があり、仕事以外の生活の意味を見つける新しい方法を見つけるでしょう。
例えば、1800年に人々に尋ねたとしたら、人々が農場で常に働いているのでなければ、この全ての自動化がうまくいくだろうかと、彼らは例えば次の200年で政府が資金提供する教育が大学にあるだろうということを予想できなかったかもしれません。
人々は、学校に行くこと、大学に行くことという、人々が時間を過ごす別の方法があることを理解していなかったかもしれません。これは人々が時間を過ごす新しい方法で、農場での長時間の重労働よりもさらに意味があると私は主張するでしょう。
これは私たちが既に観察したこの実証的トレンドの結果として私が予測するデフォルトだと思います。
政府の役割
この方程式の資本主義の部分に焦点を当てていることは分かりますが、ここでの政府の役割についてのお考えをお聞きしたいと思います。この番組で常に感じるのは、一方であなた方のような起業家が「次の18〜24ヶ月で世界は大きく違って見えるだろう」と言い、他方で政治家たちは主に「オーケー、クール、頑張って」という感じの断絶です。
数年以内に大きく異なる世界の準備をするために、彼らにしてもらいたいこと、またはできると思うことはありますか？
それは難しい質問です。全ての仕事が自動化された、または大部分の仕事が自動化された世界をはるかに良くするために今日できることを言うのは私にとって非常に困難です。
その世界が実際にここにある時、私たちはどのように物事が機能するかについてはるかに詳細な理解を持つでしょうし、私たちはこれを見てきたと思います。
そこで中断させていただきますが、あなたがおっしゃっていることは、未来を知るのは困難で、非常に迅速に動いて変化するものに基づいて政策を作るのは困難だということだと理解しています。
次の5〜10年で仕事を失う可能性のある労働者の転落を和らげるために政府ができる、またはすべきことがあると思いますか？あなたが予測することが実現した場合、大規模な雇用喪失に対処するために、ベーシックインカムのようなものを展開したり、社会保障網を強化したりすべきでしょうか？
次の5年や10年で大規模な雇用喪失を私たちが実際に予測しているとは思いません。少なくとも私は、最初にAI自動化の影響が実際に賃金を押し上げ、一部の職業の性格が変わることにつながると想定するでしょう。
例えば、ソフトウェアエンジニアは依然として雇用されているかもしれませんが、一部のタスクが自動化されたために彼らの仕事が異なって見え始めるかもしれません。
大規模な雇用喪失と大規模な失業がある世界は、もっと先の話だと思います。確実に10年以上先で、おそらくMatthewは私とこれについて少し意見が異なるかもしれませんが。
私は次の数年や次の5年間で大規模な雇用喪失を確実に期待していないので、それに対する緩衝となる政府プログラムについて話し始めるのは少し時期尚早だと思います。
ここで最も強調したいことは、特に来年のような即座の計画でない場合、人々が将来の計画を立てる時、それは過大評価されがちだということです。
10年前に人々に、LLMから人々が仕事を失うことに備えて何をすべきかと尋ねたとしたら、2025年までに何をすべきかの良い推奨を思いつくことができた人がどれだけいたでしょうか？それは過大評価されていただけだと思います。
過小評価されていると思うのは、私たちの意図について正直になることです。これが私たちがやろうとしていることで、これが私たちのロードマップです。私たちのロードマップが成功するかどうかは実際には分からないかもしれませんが、少なくとも現時点で計画していることです。
これらのことがより明らかになり、より際立つようになった時に、人々は彼らが持っている知識を活用できるでしょう。それは実際に起こっている時の詳細な知識で、イベントが実際に発生する5年や10年前に持っていたであろうよりもはるかに詳細です。そして彼らはその時のツールと知識を使って適切な政策を策定できるでしょう。
これらの詳細を知らずに事前に何らかの計画や政策にコミットすることは、私には愚かに思えます。
私の反論は、パンデミックがいつか来ることを知っていれば、正確にいつ到着するか分からなくても、ワクチンを製造して備蓄できるということです。同様に、大規模な雇用喪失が来ることを知っているなら、そのような世界でどのような解決策が存在するかの理論を持つべきだと思います。
存在するかもしれない解決策の性格については確かに同意します。私が言うのは、合理的に見える解決策の性格は、過去に既に見てきた解決策の性格と似ているということです。
例えば、自動化が進歩するにつれて、政府は過去100年や200年で所得の再分配においてより寛大になっています。以前は全く存在しなかった社会保障があります。メディケア、メディケイド、貧困者や失業保険のためのこれらすべての異なるプログラムがあります。
人々を世話するそのタイプの性格、そのタイプのことを継続することは、所得の再分配を気にかけるなら多くの意味を成すと言うでしょう。私は将来そのタイプのことを予測するだけでなく、それが合理的なことだと言うでしょうが、それがどのようなものかの特定の計画は必ずしも持っていません。
UBIが最良だと言っているわけではありませんが、そのタイプのことは多くの意味を成すと思います。
最後のメッセージ
記事で言ったように、あなた方が意図について正直でいることを嬉しく思います。AIによる自動化を通じた雇用喪失の可能性について正直で開かれた会話をすることは有用だと思います。
これから来るものについて本当に怖がっている人々に対して何らかの共感を見つけてもらいたいと思います。私たちはこの番組で毎週、AIのせいで自分の仕事が必ずしも好ましくない方向に変化している、上司が自分を自動化して仕事から追い出そうとしていることを心配しているリスナーから話を聞きます。
サンフランシスコの人たちが自分たちの仕事を自動化することに興奮していると話すのを聞く時、その反対側には人々がいるということ、そしてその人々は心配で不安に思っているということを、全ての仕事を自動化するという売り込みをしていく際の無料のアドバイスとして言わせてください。
膨大な利益があると思うが一部のコストもある何かをしている時はいつでも難しいです。そのような場合、コストを負担している人々や、コストを被るかもしれないことを恐れている人々を見ることができ、それは非常に困難なことです。
もちろん、私はそれらの人々に共感を持っていますが、私が共感を感じているが私が挙げている利益はコストよりもはるかに大きいと思うと言うのは、ある種冷たく感じることを認めます。
しかし、それは誰かが何らかの功利主義的計算を行っている時にいつもそのように聞こえることだと思いますが、人々が実際に公共の場で話している政策の大部分と比較して、これはあなたが想像するよりもはるかにプラスサムでマイナスサムではないものです。
今日はここで終わりにしなければならないと思いますが、うまくいけばいつかあなた方がポッドキャスティングを自動化して私たちにニュースを伝えに戻ってきた後に、また白熱した議論のために戻ってきてもらえることでしょう。ありがとうございました。
このクリップの終わりです。ご覧になったものを気に入っていただけましたら、私たちのページにアクセスして登録してください。完全なポッドキャストを入手できます。私たちはテクノロジーと未来についてほぼ毎週このような番組を行っています。今すぐそちらにアクセスして登録してください。
コメント