AI研究自体の自動化がもたらすアルゴリズムのフィードバックループと、それによって引き起こされる知能爆発の可能性について議論が展開される。タイムラインの不確実性が高い現代において、人類が直面する実存的リスクや権力の集中といった課題にどう対処すべきか、また非技術職を含めた多様な役割でいかに社会に貢献できるかが示される。さらに、マクロ経済モデルに基づく将来の不完全自動化と完全自動化の分岐点、労働市場における賃金の動向、そして変化の激しい時代を生き抜くために必要な適応力とキャリア選択のフレームワークについて解説している。
知能爆発とAI研究の自動化がもたらす未来
リスナーの皆さん、こんにちは。ザーシャーネです。もし私たちの80,000 Hoursでの活動を気に入っていただけて、私たちのチームへの参加に興味があるなら、ウェブサイトの採用ページをぜひチェックしてみてください。80,000 Hoursは現在拡大中なんです。多くの職種で募集を行っており、現時点では9つのポジションが複数のチームにわたって掲載されています。さらに、本日のゲストであるベン・トッドの話を聞いて、社会に貢献するキャリアについてのアドバイスが気に入ったなら、私たちのウェブチームのプロダクトマネージャー職に特に興味を持っていただけるかもしれません。その職務では、社会的影響力の高いキャリアに関するオンラインのアドバイスを、より多くの人に届け、共感を呼ぶためのサポートをしていただきます。私からは以上です。それでは番組をお楽しみください。
本日はベン・トッドにお話を伺います。ベンは80,000 Hoursの共同創設者の一人であり、社会に貢献するキャリアを見つけることをテーマにした、その名も80,000 Hoursという本を出版したばかりです。その本では、理想の仕事とは何か、どのスキルがすぐに自動化される可能性が高いか、人々が取り組むべき最も重要な課題は何か、ネットワーキングの方法など、数多くの素晴らしいアドバイスが網羅されています。本日はベンに、本のベースとなっているAIに対する広範な見解や、このような非常に不確実な時代に人々が実際にどのようにキャリアの意思決定を行うべきかについて深く聞いていきたいと思います。ベン、番組にお越しいただき本当にありがとうございます。
ありがとうございます。呼んでいただけて嬉しいです。
本のタイトルである80,000 Hoursは、平均的なキャリアの総時間を表していますよね。中には、これからの数年間が非常に極めて重要になるかもしれないから、本の内容を8,000時間に変えた方がいいんじゃないか、なんて冗談を言う人もいます。これからの数年間に実際に何が起こり得ると考えているのか、詳しく説明していただけますか。
この本のコンセプトは、最終的にはキャリアが人生で最も重要な決断であり、特に世界に与える影響において重要であるということです。そして、もし私たちがAIによる重大な局面に直面しているのだとすれば、ある意味では、この数年間をいかに最善の形で活用するかを考えることが、これまで以上に重要になっていると私は考えています。それで、何が起きているかという点ですが、予測を立てる上で有用な指標となるのは、AI自身がAIの研究開発（R&D）を行えるようになるのはいつか、ということです。
なるほど。確認ですが、AIの研究開発が自動化されるスピードがなぜ重要なのかというと、それが始まると、AIがより優れたAIを設計するというフィードバックループが導入されるからですよね。それが起きたとき、世界はどのようになるのでしょうか。なぜ未来のその特定の瞬間に注目しなければならないのですか。
AIには多くの強力なフィードバックループが存在しますが、最も突発的に起こり得るのがアルゴリズムのフィードバックループです。AIエージェントが自らAI研究を行える段階に達した場合、現在世界に存在するコンピューターチップの量を考えれば、各企業は1000万人分に相当する研究者を稼働させることができるかもしれません。これは実質的に、AI研究の労働力が約1000倍に拡大することを意味します。利用できるコンピューターチップの量には依然として制限があるものの、それだけの研究能力がこの課題に投入されれば、AI研究のスピードは劇的に加速するはずです。
たとえばForethoughtの予測では、1年間で5年分に相当するAIの進歩が見られる可能性は十分に高いとされています。現在、AIが実行できることはまだかなり限定的です。数時間に及ぶソフトウェアエンジニアリングのタスクには非常に優れていますが、大半の仕事をこなすにはまだ遠く及びませんし、ほとんどの子供よりも上手にポケモンをプレイすることすらできません。しかし、過去5年間の進歩に匹敵するような変化が1年という短期間で突然起きるとなれば、はるかに汎用的で、真のデジタルワーカーと呼べるようなものが突然機能し始める段階に達する可能性があります。これは、バーチャルで完結する仕事であれば、文字通りほぼどんな仕事でも依頼できるようなAIです。
そうですね。そして、それが一度起きてしまえば、社会は非常に急速に変化していくというわけですね。あらゆる異なる分野にAIが配備され、さまざまな分野での進歩が劇的なものになり、私たちの追いつけないスピードで物事が動き出し、それが多くのリスクを生み出すことになるのでしょうか。
ええ、たとえば1億個のClaudeのコピーが存在するようになります。これはアメリカの労働人口のほぼ全体に匹敵する規模です。それだけの新しい存在が、その時点でClaudeができるあらゆる業務をこなすようになり、彼らは非常に高速に思考し、極めて自律的に行動できるようになります。そのため、そこで制御喪失のリスクが生じ始めるのです。さらに危険なシナリオとしては、単一の企業が現在の全人類の労働力よりも大きな労働力を保有することになり、それらの企業に莫大な権力が集中してしまうことが挙げられます。これにより、あらゆる種類の斬新なリスクや検討すべき問題が発生することになります。
AIタイムラインの予測と不確実性のシナリオ
なるほど。つまり、AIの研究開発はかなり近い将来に自動化され得ると、基本的にはそう感じていらっしゃるのですね。
確実なことは分かりませんが、2月にベイエリアでこの件について人々と話をした際、私にとってAI予測のトラックレコードが最も優れていると思われる人たちの多くが、今年中にこの段階に達する確率が10%あると言っていたのにはかなり衝撃を受けました。知能爆発が文字通り今年から始まるとは、私も真剣には考えていませんでした。そして、その数年後に達成される確率はさらに高くなります。ジャック・クラークは最近、2028年の終わりまでにAIの研究開発が自動化される確率は60%であると主張する記事を公開しました。これは、実際に研究所の内部でこの研究を行っている多くの人たちの見解を反映していると思います。
彼はAnthropicの人ですよね。
ええ、Anthropicのメンバーです。しかし、Anthropicの人たちだけではありません。DeepMindやOpenAIの人たちからも、これらのツールが実際に研究を大いに支援しており、より独立的かつ自律的に機能するようになっているという話を耳にします。彼らはそのプロセスを目の当たりにしており、トレンドラインを数年先に引き延ばすだけで、私たちの研究が本当に加速され得ると感じているのです。
その点について少し掘り下げてみたいのですが、そのような予測の引き延ばしを行うことがどれほど妥当なのか、疑問に思うところもあります。
売上成長のトレンドを単に3年間引き延ばすだけでも、3、4年後には汎用人工知能（AGI）のようなものが実現することを示唆しているように見えます。Anthropicは3年間にわたって毎年売上を10倍に成長させており、これだけでも完全に常軌を逸しています。しかし、今年の第1四半期には、すでに100億ドルほどの売上ベースがあったにもかかわらず、年率換算で80倍というペースで成長しました。これほどの規模の企業としては、おそらく過去最高のエージェント型ツールに対する膨大な需要を背景にした、かつてない急成長です。
トレンドの予測をそのまま行うことの愚かさを揶揄するミームはたくさんあります。たとえば、私の赤ちゃんは最初の1年でこれだけ成長したから、もう1年経てば身長が10フィートになる、といったものです。当然、物事はそのようには進みません。しかし、これはS字カーブを描いてどこかでプラトー（停滞期）に達するとだけ言うのは、事実だとしてもあまり役には立ちません。なぜなら、どこでプラトーに達するかが分からないからです。銀河系に広がっていくような巨大な超人工知能の段階でプラトーに達する可能性もあり、それでは予測としてあまり意味をなしません。
そうですね。私の理解では、こうした話の多くは、これらのAIシステムに投入されるコンピューティングパワーの量を増やし続けられるかどうかに依存しているように思えます。そして、これからの数年間で、システムにさらに多くの計算資源を投入することは、はるかに困難になっていくと信じるに足る理由もあるようです。その点は、今のシナリオにどう影響しますか。
おっしゃる通りです。より多くの計算能力を生み出すにつれて、それはどんどん難しくなっていきます。だからといって進歩が完全に止まるわけではありませんが、ここからのスピードが大幅に鈍化する可能性はあります。
ここには非常に多くの変動要素があるように思えます。不確実なこともたくさんありますし、あなたが説明したトレンド、つまり物事がいつ減速し始めるのか、そして減速し始めた時点でAIシステムの能力がどれほど高くなっているのかについては、多くの議論が存在します。ここで本の内容に話を戻しますと、人々が物事を良い方向に進めるためにキャリアを使ってできることは、事態が急激に動き出すまでに残された時間が3年なのか30年なのかによって、大きく変わってくるように思えます。このような時代に、どのようにしてキャリアアドバイスの本を書き、そのアドバイスを実際に役立つものにしているのでしょうか。なぜ人々はそれを有用だと考えるのですか。
起こり得る未来について、3つの主要なシナリオに分けて考えると整理しやすいです。最初のシナリオは、最先端企業のトップたちが正しく、あと数年以内に自動化されたAI研究者が誕生するというものです。そして、それがアルゴリズムのフィードバックループを開始させ、おそらく2030年、あるいは2028年や2029年という早い時期に、より汎用的なAGIが実現することになります。
次のシナリオは、基本的にはその方向で進んでいるものの、彼らの見方が少し楽観的すぎて、今後発生するあらゆるボトルネックを完全には計算に入れていないというケースです。その場合、計算資源の成長が少し鈍化し、自動化されたAI研究者の誕生が2030年代前半へとずれ込むことになります。これは少し遅いタイムラインですが、それでも非常に激動的な未来です。
そして3番目のシナリオは、現在のパラダイムがかなり早い段階で行き詰まり、計算資源のスケールアップがコスト的に高すぎて対応できなくなり、数十年間に及ぶ長いプラトーが続くというものです。これが最も遅いシナリオになります。
どのシナリオに属しているかは大きな影響を及ぼします。主な影響としては、時間が長く残されているほど、キャリア資本を築き、多くの選択肢を模索することが有利になるという点です。人によっては、この短期的なシナリオこそが最も狂気に満ち、最も危険なシナリオであると言います。なぜなら、世界の覚醒が最も遅れている、つまり私たちが最も準備できていない段階でAGIが到来してしまうからです。そのため、これらは取り組む価値が非常に高いシナリオであり、基本的には短期シナリオが起こるものとして行動し、その中で最善となることを行うべきだということになります。もしそうでなかったとしても、中期シナリオにおいて他のアプローチを見つければよく、具体的に何を行っているかにもよりますが、これまでの選択肢を完全に台無しにしてしまうことはおそらくないでしょう。
無茶をしすぎないように、ということですね。
それから、少し対立する視点もあります。たとえば、あなたが今まさに大学生で、大学に入学したばかりだとしたら、2029年にAGIが実現するなら卒業すらしていないかもしれず、自分にできることはほとんどないと感じるでしょう。そのため、大半の人にとっては、もう少し中期的なシナリオの方が貢献できる能力が高くなります。新卒の学生と、政府の中で10年間キャリアを積み上げて今や非常に影響力のあるポジションにいる人物とでは、物事を動かす能力に10倍、100倍もの差があるため、これは大きな効果を持ち得ます。
したがって、たとえ間に合わずに手遅れになるリスクがあったとしても、中期的なシナリオに賭けた方が、はるかに有利な立場で貢献できるため、最終的により大きなインパクトをもたらすことができるという考え方も成り立ちます。これら2つの視点の平均をとるならば、基本的には短期シナリオだけが起きるかのように行動すべきではなく、それよりも少し長いタイムラインを想定すべきだということになります。なぜなら、あなたの貢献能力は経験とともに右肩上がりに上昇していきますが、時間の経過とともにAIのレバレッジや放置されている度合いは低下していくからです。その2つの曲線が交差するポイントこそが、あなたのインパクトを最大化できる最適なタイミングとなります。
ええ、シンプルですね。計算をすればいいだけのことです。
しかし、より実践的なレベルで言えば、大半の人は「3年で終わりか、さもなくばゼロか」のように極端に考えるべきではなく、その先にあるものは何も意味を持たないかのように振る舞うべきではありません。ただ、 timelinesがはるかに長いと考えられていた10年前と比較すると、かなりの切迫感を持つべきだという根拠は十分にあります。
AI時代における多様な貢献経路と職種
人々は、自分がどの世界に向けて努力を最適化すべきかをどのように判断すればよいのでしょうか。その思考プロセスはどのように進めればいいですか。
最も重要なのは、これら3つのシナリオがそれぞれどれくらいの確率で起こると考えているか、という点です。そして、短期シナリオの方がはるかに放置されており、それゆえにレバレッジが非常に高いと考えるかどうか。さらに、たとえば一定期間、キャリア資本の蓄積に集中することで、自分が貢献できる能力をどれほど高められるか、という点です。したがって一般的に、若い人たちにとっては、もう少し中期的なシナリオに焦点を当てるべきだという妥当な前提が存在します。しかし、すでにキャリアを確立しており、ここからキャリア資本を大きく増やすことが難しい状況にあるなら、短期シナリオだけに集中して取り組むのも良いでしょう。
私の理解では、この本自体は「あらゆる要素を考慮した」見解をとっており、可能性全体を平均化した上で、それらすべての事情を踏まえた最も有益なアドバイスを人々に提供しようとしています。そして結論として、この歴史の転換点において、人々が取り組むべき最優先の選択肢として推奨されているのが、AIにおけるさまざまな課題です。特に、AIシステムの制御喪失の可能性と、システムがより自律的になる中でその制御喪失から身を守ること、そしてもう一つは、AIによって極少数の一極に権力が過度に集中してしまう事態を防ぐこと、これらが強調されています。
一方で、これらを総合的に勘案した上で、世界が直面している他の課題についても取り組む価値があると本の中で言及されています。少し視野を広げてみますが、リスナーの中には、世界のために本当に良いことをしたい、心からそう願っているものの、自分はこうしたAIに特化した仕事には就かないだろうと考えている人もいるはずです。その理由として、自分はAI関連のどの職務にも向いていないと感じているか、あるいは、そもそもAIという分野自体に内発的な興味が湧かないからかもしれません。もしあなたがそのような方であれば、これまでAIの話ばかりしてしまって申し訳ありません。あるいは、現時点でキャリアを転換できるような状況になく、こうした事態がまもなく起こるのだとすれば、今さら動いても無意味だと感じているケースもあるでしょう。そうした人々に対しては何と言いますか。本の中に彼らに向けた具体的なメッセージはありますか。
もう一歩引いて説明しますと、この本の目的は、取り組むべき大義に対する見解がどのようなものであれ、誰でも自分に最適なキャリアを見つけるために使える汎用的なフレームワークを提供することです。私自身のベストな予測も盛り込んでいますが、それはフレームワークの適用例を示すことが興味深く、人々にとっても役立つと考えるからです。しかし、それは内容全体の比較的わずかな部分にすぎないため、AIに興味がない人にとっても非常に有益な本であるはずです。
今現在AIにそれほど関心を持てないとしても、どのように貢献できるかという問いについては、いくつかお伝えできることがあります。一つは、歴史的に「AIといえばアライメント問題」であり、その課題を解決するためには技術的な研究者が不可欠で、他の人々にできることはあまりない、と感じられがちだったという点です。しかし、皆さんに強く意識してほしいのは、これは単なるAIのミスアライメントの問題にとどまらず、私たちが直面しているのは社会のあらゆる側面における完全な大転換であるということです。それは産業革命のようなものですが、10倍のスピードで進行し、まだ見ぬ場所へと私たちを向かわせています。ミスアライメントのリスクやAIの制御喪失リスクが、おそらく最も重要でありながら放置されているリスクであるという点に変わりはありませんが、現在はそれ以外にも多くの課題が存在します。
たとえば権力の集中というのは、はるかに社会科学的、あるいは地政学的な要素を含む課題であり、技術系ではない多くの人々が取り組む必要があります。また、パンデミックのリスク、特に人工的に作られるパンデミックのリスクも依然として存在し、これには主に企業立ち上げやエンジニアリング系のスキルが必要とされます。技術的な進歩が加速すればリスクも増大し得ますが、世界をパンデミックからより安全にするためにできることはたくさんあり、それは一般的な意味でも有益です。
さらに本の中では、AIの意識（sentience）をどう扱うかという哲学的な問いやそれに伴う法的な問題から、宇宙のガバナンス、さらには人類の緩やかな権限喪失にいたるまで、極めて多岐にわたる新たな課題についても簡単に触れています。これらもまた、技術的な課題というよりは、社会構造的な性質の課題です。また、たとえグローバルヘルス（世界の保健衛生）に焦点を当てたいと考えている場合でも、それを支援するためにAIをどのように活用できるか、あるいはAIがその諸側面にどう影響を及ぼすかを深く考えるべきでしょう。
このように、対象となる問題の範囲ははるかに広がっていますし、最近では募集されている職種も非常に多様です。技術的な研究者が増えることは依然として素晴らしいことですが、私たちが社会的影響力が高いと考える組織を対象に、最大の専門人材のボトルネックは何かを調査したところ、多くの組織が「オペレーション業務」を挙げました。つまり、マネジメント、人事、経理、オフィスの確保、採用、そして組織を運営するために必要なあらゆる業務をこなせる人材です。そのため、ビジネスやその他のほぼすべての分野で働いた経験がある人なら、そうしたスキルを持っている可能性があります。
もう一つの大きなボトルネックは「コミュニケーション」です。これらの課題についての情報を広め、さまざまな企業のPRやメディア対応を行ったり、個人ライターとしてこれらの事柄について発信したりすることです。そして、政策や政府の分野でも依然として巨大な人材需要があります。すでにAIのバックグラウンドを持っていなくても、わずか数ヶ月でこうした種類の職種に就くことは十分に可能です。
この本のメッセージの一つに、人々は「自分はこれらのことに興味があるから、それに関わるキャリアを見つけなければ満足できないだろう」と考えがちですが、とにかく挑戦してみて、最終的にそれが非常に面白いと気づいた事例を私たちは数多く目にしてきた、ということがあります。これはかなり古典的な例ですが、本の中でジェス・ウィットルストーンのストーリーを紹介しています。彼女はオックスフォード大学の哲学の学生で、心の哲学に強い関心を持っていました。彼女は「自分が最も興味を感じることは哲学者として歩み続けることだが、それでは大きな社会的インパクトをもたらす方法が見当たらない」と考えていました。そこで彼女は、政策や非営利団体など多くの道を模索し、行動洞察チーム（Behavioural Insights Team）でエビデンスに基づく政策の仕事に就き、そこからAI倫理とAI政策の分野へとピボット（転換）したのです。
そして彼女は最終的に、イギリスで最も重要なAIリスクのシンクタンクである長期的レジリエンス・センター（CLTR）のAI政策チームの責任者になりました。さらに、TIME誌によって「AIで最も影響力のある100人」の一人に選ばれたのです。
おぉ、物凄いキャリアの軌跡ですね。
しかし、彼女は今、この分野のスキルを身につけ、それが有意義であり、なぜ重要なのかを理解し、興味深い同僚たちに囲まれているため、この仕事を非常に面白いと感じています。最初にそのテーマに対して情熱を持っていなかったとしても、そうした要素がキャリアをエキサイティングなものにしてくれるのです。
ええ、完全に同意します。AIを良い方向に進めるために役立つ仕事には本当に幅広い選択肢があり、必ずしも技術的なスキルが要求されるわけではありません。基本的には、皆さんが現在持っているどのような適性やスキルセットであれ、それをAI関連の事柄に活かす非常に有用な方法が考えられます。また、日々の業務でAIの特定の詳細な部分に強く集中する必要がなく、AIにそこまで興味がなくても、間接的な形で取り組みを推進できるような仕事もたくさん存在するように思えます。また、一度試してみれば、実はそれを大好きになるかもしれないというのも、多くのキャリアにおいて真実だと思います。
ここからはあなたの個人的なキャリアの軌跡についてお聞きしたいのですが、というのも、あなた自身が以前はそこまでAIに集中していなかった人物の好例だからです。約15年前の時点で、AIのリスクがあなたの視野に入っていたことは知っていますが、それが毎日考えるような対象ではありませんでしたよね。あなたの中で何が変わったのか興味があります。何か具体的な瞬間や、物事を本当に切実なものとして捉え、考えを変えるきっかけとなった研究や分析があったのでしょうか。
確か2015年か2016年だったと思いますが、OpenAIが設立され、書籍『目覚めよ、人工知能（原題：Superintelligence）』が少し前に出版され、そしてAlphaGoがイ・セドルに勝利するという出来事が重なりました。それはまさに「ディープラーニングが機能している」という証明でした。その時点でトレンドを予測すれば、「今こそAIに取り組む絶好のタイミングだ」というミニ・コール・トゥ・アクション（行動喚起）が成立していました。
私自身、そのアドバイスに自分でもっと従っていればよかったと思うほどですが、当時そのアドバイスに従った人たちは、現在、主要な非営利団体や安全研究チーム、あるいは政府の中で、これらの課題に取り組む非常に高いポジションに就いていることが多いです。当時の私は、自分にとっては効果的な利他主義（エフェクティブ・アルトリズム）の基盤を築くことの方が効果的だと考えていました。それが自分のスキルに最も合致していましたし、AIについてはまだ非常に不確実な部分が多かったからです。また、社会全般に貢献することに関心を持つコミュニティを構築することの大きな強みは、将来どの課題が最も差し迫ったものになるかに応じて、彼らが取り組む大義を切り替えられる可能性にあります。さらに、より多くの人々を巻き込むことで、乗数効果（マルチプライヤー）を得ることもできます。
しかしその後、AIのタイムラインが短縮されるにつれて、効果的な利他主義という一歩間接的なアプローチをとるよりも、直接AIに取り組むことの正当性がどんどん強くなっていったと感じます。ええ、それが過去数年間に私自身がキャリアの中で行ってきたことです。
AIのリスクこそが自分が取り組むべき最大の課題だと、あなたを本当に納得させた決定的な瞬間や知見はありましたか。
それは本当に、AIのスケーリング（規模拡大）のメカニズムについて思考を重ね、そのプロセスのすべてのステップが実際に機能していることを理解したことに尽きます。AI企業（主にAnthropicとOpenAI）は売上を約5倍に増加させており、これはつまり、基本的には5倍の量のコンピューターチップを購入できる、あるいはチップに5倍の資金を費やすことができるということを意味します。
歴史的に、それらのチップの効率は概ね2年ごとに倍増してきました。そのため、大まかに言えば、彼らは次世代のチップを確保することができ、以前と比較して10倍の計算能力を手に入れることができます。そして最近では、10倍の計算資源を持つことが、実質的に10倍の売上をもたらすことを意味してきました。しかし、売上が10倍になれば、それを再び投資に回すことができ、さらに10倍のコンピューターチップを手に入れることが可能になります。
つまり、これは単に機能しているだけでなく、潜在的に加速しているのです。そして、AIの研究開発についてはまだ話をしていません。もしAIモデル自身がAI研究を行う能力を高めていけば、それがさらにフィードバックされ、その上でAIの改良速度が加速するという、追加のフィードバックループがここに存在します。
さらに、売上が5倍になれば、人件費に回せる資金も5倍になるため、より大きな研究労働力を確保することができ、これも進歩をさらに加速させます。そして現在、私たちはこれらすべての異なる要因について経験的な予測値を手にしています。AIの研究労働力はおよそ毎年30%から40%増加していますが、アルゴリズムの効率は毎年3倍になっています。このことは、AIに投入される研究量が倍増するたびに、アルゴリズムは単なる倍増をはるかに超えて向上することを示唆しており、これこそがアルゴリズムのフィードバックループを開始させるために必要な条件です。かつては「もしAI研究ができるようになれば、フィードバックループが始まるかもしれない」という非常に理論的な話でしたが、今では実際にモデルが存在し、パラメータを経験的に推定して、それがおそらく実際に起こるということを示すことができるのです。
キャリア転換の実践的プレイブックと資金・政治の役割
これを聞いて、AIのリスクやこれらの事態がかなり早期に進行する可能性に対して懸念を強め、同じように危機感を持ったリスナーの人たちは、何をすべきでしょうか。今すぐできることとして、どのような推奨事項がありますか。
これらの課題に取り組む仕事へと、かなり迅速に移行することは本当に可能です。簡単なことではありませんが、わずか数ヶ月の間に極めて劇的なキャリアチェンジを遂げた人々の例を、私たちは数多く見てきました。そして、そうした人たちが使い、実際に機能する標準的なプレイブック（実践手順）が存在します。いくつかのステップがあります。
一つ目は、この分野を理解するための短期集中コースを行うことです。
-
最大の課題は何か
-
タイムラインに関する主な見解はどのようなものか
-
主な介入策にはどのようなものがあるか
-
主要なプレイヤーは誰か
これらの事柄について広範な理解を持っておく必要があります。80,000 Hoursのウェブサイトにはリーディングリストがあり、確か「AIに関する11の必須文献」というタイトルだったと思います。それが優れた出発点になります。そして、最も推奨されることが多いのはBlueDotのコースのいずれかで、これはその基礎を身につけることを目的としています。
次に、どのような広範な貢献方法が自分に合うかを考えます。あなたはオペレーションや組織構築のタイプなのか、それともコミュニケーションや政策の人物なのか、あるいは技術的な研究者や専門家なのか。私たちは多くの弁護士を必要としていますし、バイオセキュリティ（生物安全保障）の仕事をする歴史家、経済学者、エンジニアすら必要としています。大まかな進路と、自分が働く可能性のある組織を特定してください。
その上で、この分野のできるだけ多くの人たち、特に自分が興味を持っている組織の人たちと実際に話をしてみて、「私のスキルを持つ人間の場合、どのように貢献できるでしょうか」と尋ねてみてください。そのようにしてさらにアイデアを集めるのです。「もし3ヶ月後にこの仕事を得るために最高の状態になっていたいとしたら、次に何をすべきですか」と質問し、自分に合わせたカスタマイズされた回答を得ることも非常に有益です。
あとは、できるだけ多くの案件に応募するだけです。通常の求人に直接応募するのもいいですし、3ヶ月、1年、あるいは時には2年間にわたってあなたを受け入れ、この分野での成長を最大限に加速させることを目的としたフェローシップも増えています。そのため、それらすべてに応募してみて、どのような結果が得られるかを確認する価値は十分にあります。
そして、もし余暇の時間があるなら、何らかのポートフォリオ・プロジェクト、つまり人に見せられる実際の成果物を作ってみてください。それが何であるかは分野によります。AIを使って何かを構築することなのか、ブログ記事を書くことなのか。それはあなたが目指す職務によって異なります。しかし、これは雇い主に対して自分を際立たせるのに本当に役立ちますし、分野について素早く多くを学ぶことにもつながります。
これらをやり遂げたら、あとは再評価のフェーズです。もし複数のオファーを獲得できたら素晴らしいことです。自分に最適なものを選んで取り組んでください。それがさらにスピードを上げる最も手っ取り早い方法であり、1、2年経てば、さらに優れた機会に恵まれているはずですので、その時点で再び再評価を行うことができます。
もしオファーが一つも得られなかったとしても――過小評価するつもりはありませんが、これらの仕事の多くは非常に競争率が高く、1つの枠に対して多数の応募者が殺到します――その場合は、次の1、2年でこれらの課題を支援するために役立つスキルを学ぶには何ができるかを考えればよいのです。そこからは、そうしたスキルを学べるあらゆる分野で働くことができます。スタートアップでも、政府でも、あるいは異なる社会課題の分野でも構いません。これらのスキルを学ぶのに適した場所はたくさんあります。
そして3番目のアプローチは、「転職はせずに、既存の職務の内部から貢献する」という方法です。そこでもできることはたくさんあります。多くの人がAIを最も差し迫った大義だと考えている一方で、寄付の話になるとAgainst Malaria Foundation（マラリア対策基金）に寄付していることに気づきます。
興味深いですね。
私たちの番組のホストであるロブ・ウィブリンでさえ、Shrimp Welfare Project（エビ福祉プロジェクト）に寄付していたと思います。
よくもそんなことを！
非常に素晴らしい組織ではありますが、人材と資金がもたらすリターン（効果）は分野によって異なり得ると私は考えています。しかし、ある大義への寄付が最適だと考えつつ、それとは異なる大義のために働くというのは、かなり極端な割り切りが必要です。もしこれらのAI関連の課題が最も差し迫った問題であると考えるなら、それらの課題に対しても寄付を行うべきです。
AIの分野ではお金が何の影響も与えられないというイメージを持つ人がいますが、それは正しくないと思います。一例を挙げると――これが最も優れた寄付の機会だとは到底思いませんが――METR（Model Evaluation & Threat Research）という組織があります。彼らは、私たちがAI研究開発の自動化にどれほど近づいているかを追跡するという、おそらく世界で最も重要な問いについて、世界で最も有用な仕事をしてきた組織です。
彼らの業務は実際には非常にシンプルで、タイムホライズン（時間軸）のプロジェクトをより優れたものにし、これらの極めて重要な事柄についてより適切な測定結果を得るためのアプローチは数多く存在します。しかし彼らは、「素晴らしいプロジェクトが30個ほどあるが、次の四半期に実行できるスタッフのキャパシティが1つか2つしかない」と言っていました。これには、技術的な能力に直接従事すれば莫大な報酬を得られるような技術スタッフが必要ですし、実験を行うための膨大な計算資源も必要になります。したがって、追加の資金があれば、より優れたスタッフを雇用し、より多くの計算資源を確保して、これらの本当に有用なベンチマーク結果をさらに生み出すことができます。これは寄付先として完全に社会的影響力が高い分野に見えます。特にこの数年間においては、お金で解決できることがたくさんあります。
ええ、そうですね。仕事を変えるよりも寄付をする方がはるかに素早く実行できますしね。
ええ。キャリアを変えることができればさらに大きなインパクトを与えられますが、ある意味では、AIというこの非常に技術的で困難な問いに対して、誰もが貢献できる手段があるというのは驚くべきことです。お金という発明を介して、自分の労働を他人の労働へと変換できるという、昔ながらの議論ですね。
それは信じられないほど素晴らしいことですね。皆そのことを知っているのでしょうか。
ええ、それが資金の側面です。ただ、おそらくそれ以上に放置されているのは、社会にこれらのアイデアを広めることについて考えることです。ある意味で非常に奇妙な状況にあります。というのも、誰もが常にAIについて話しているように感じられる一方で、何が起きているのかを実際に内面化して捉えている人は極めて少ないように思えるからです。ある種の「泡立つような熱狂（ハイプ）」は大量に存在しますが、「これが今起きている現実であり、私はこれに対して行動を起こさなければならない」という本質的な理解はあまり見られません。
そのため、人々がこれらのアイデアを理解するのを手助けするだけでも、できることはたくさんあります。たとえば、X（旧Twitter）上でのよくある誤解を訂正することですら、実際にはかなり有用であり、誰でも手伝えることです。
そして3つ目は政治です。なぜなら、私たちは最終的なある時点で、AIの「戦略的一時停止（ストラテジック・ポーズ）」が実現することを望んでいるからです。もしアルゴリズムのフィードバックループに直面しているのだとすれば、それを可能な限り最速のスピードでそのまま走らせ続けたいとは誰も思わないはずです。しかし、それが現在のデフォルト（初期状態）として起こり得ることです。もし1年でも2年でも停止することができれば、それは本当に有益です。そして、企業が自発的にそれを行う可能性は低いため、そうした決定を下すための多大な政治的意志がない限り、それは困難なものになるでしょう。したがって、これが重大な問題であるという政治的な支持基盤を構築し始める必要もあり、これもまた誰でも手伝えることです。
なるほど。つまり、非常に早い段階から貢献できる方法はたくさんあるということですね。あなたが挙げたコースなどを受講することで、かなり迅速にAIリスクの仕事に直接携わることもできます。同時に、寄付をすること、政治的意志の構築を支援すること、そしてコミュニケーション活動を行うことなど、間接的にすぐ手伝える方法もあります。非常に幅広い選択肢があり、その中には今すぐ実行できるものもあれば、数ヶ月ほどの期間を要するものもある、という理解で合っていますか。
はい、完全にその通りです。
技術的失業のダイナミクスと不完全自動化の分岐点
私たちは、世界にインパクトを与えるために人々がどのような仕事や領域に携わるべきかについて、かなりの時間を割いて話してきました。リスナーの皆さんが社会的影響力の高い仕事を引き受ける上で抱く大きな懸念の一つは、雇用の未来が実際にどのようになるのかという不安だと思います。あなたが本を執筆している際にこの点について研究されたことは知っていますが、AIが近い将来に大量の失業を引き起こすという予測について、どのように捉えていますか。たとえば、AnthropicのCEOであるダリオ・アモデイは、今後5年間で10%から20%の失業率が発生する可能性があると述べています。また、ゴールドマン・サックスは世界中で3億人の雇用がリスクにさらされると予測しています。もしこれらの予測が正しいとすれば、あなたが本の中で挙げている仕事の多くも、かなりすぐに存在しなくなってしまうのではないでしょうか。彼らの予測は正しいと思いますか。
変化のペースが非常に速いという理由だけでも、10%ほどの失業率が発生する可能性はかなり高いと考えています。AIが実行できるタスクの長さは、おそらく毎年最大で8倍のペースで増加しています。しかし、他の多くのベンチマークを見ても、進歩の速度は毎年2倍、4倍、8倍といった範囲にあります。これは非常に直感に反する現象を引き起こします。なぜなら、仮にある年にAIが仕事の0.5%をこなせるようになったとしましょう。これは1週間あたり数分間のサポートにすぎず、ほとんど気づかないレベルです。しかし、それが1年で8倍に増加すると、2年目には4%になります。これは目に見える助けにはなりますが、それでもまだ大したことではありません。
しかし、3年目になるとそれが32%に達し、人々が常に活用する主要な要素へと変貌します。そして、4年目には突然、ほぼすべての業務をこなせるようになるのです。このように、しばらくの間はほとんど気づかないほど極めて緩やかに進んでいるように見え、その後突然、ほぼすべてをこなせるようになるという、非常に急速な展開を見せる可能性があります。これは多くのAIベンチマークで発生している現象であり、1%から2%、4%へと進み、ある段階を超えた途端に急激に飽和（サチュレーション）に達します。この進歩のスピードが失業を引き起こす可能性があります。
また、既存のデータから判断するのが難しいという意味でもあります。AIが小さな影響を与えていた段階から、突然それが巨大化するというパターンが存在するからです。そのため、現在の雇用統計に見られるトレンドが、突然逆の方向へと動くことも考えられます。
しかし、そうした警戒材料はあるものの、人々、特に技術関係者は、AIによって大量の失業が発生すると少し急ぎ足で仮定しすぎている面もあると私は考えています。核心的な見方としては、仕事の一部分が自動化される（部分自動化）ことは、多くの場合、その仕事の賃金と雇用を増加させるという点にあります。
経験的な例として、AIは画像認識を非常に得意とするため、放射線科医は長年にわたって失業すると言われ続けてきました。しかし実際には、放射線科医の雇用は増加しており、アメリカでの平均賃金は年間約50万ドルに達していると思います。つまり、依然として極めて高い報酬を得られる仕事のままなのです。これには非常に明快な説明が可能で、彼らが画像の分析に費やしている時間は全体の約3分の1にすぎないからです。これは、彼らがそれ以外の時間に、AIがまだこなせない業務を行っていることを意味します。病院の他のスタッフとの調整や、患者に対する結果のわかりやすい説明、あるいは「機械が壊れた」「これらのスキャン結果を信頼すべきかどうかを判断しなければならない」といった対応です。AIができる定型的な部分がどれほど効率化されたとしても、彼らの生産性は実際には20%か30%向上するにすぎません。
そして、ある仕事の生産性が20%向上した場合、それによってその職種の採用をさらに増やす結果になることすらあります。それは職種によります。たとえば営業チームにおいて、営業担当者のそれぞれが50%多く販売できるようになったとしましょう。AIを使って大量の見込み客を見つけ、メールの草案を作成できるようになり、業務スピードが大幅に上がったからです。その場合、企業は単に売上を50%増やしにかかるのではないでしょうか。あるいはそれ以上に、「以前はこのマーケターに5万ドルを支払わなければならなかったが、3万ドルの売上しか生み出さなかったため、雇う意味がなかった」というケースを考えてみてください。しかし、今やその人物が6万ドルの売上をもたらすようになれば、さらに多くの人を採用することになるかもしれません。
ええ、そこが私がまだ完全に正しく理解できていない部分なのですが、もし私が経営者で、自分の会社が大幅に生産性を向上させたとしたら、これまでと同じ金額を賃金や採用に費やして、はるかに多くの成果を達成するという選択肢もあります。あるいは、支出を大幅に削減し、大量解雇などを行って、これまでと同じ成果を維持するという選択肢もあります。どちらの状況でも経営状態は良くなりますよね。だとしたら、なぜ2番目の方法を選んで大量解雇を行わないのでしょうか。
一般的に、企業は総利益の最大化を目指します。したがって、より多くの成果を上げられるのであれば、より多くの売上が立ち、それがより多くの利益につながります。そのため、通常は誰もがまず最初の方法を試みようとするはずです。
ただし、具体的にどのような結果になるかは、業界や、人々がその成果物をどれほど追加で欲しがるか（需要の弾力性）によって異なります。会計業務のようなものであれば、大半の人は年に1回しか決算を行う必要がありません。そのため、AIを使って10分の1のコストでそれができるようになれば、大まかに言えば、会計への支出を大幅に減らしてその業務を終わらせるだけでしょう。
しかし、ほとんどのものはそのようにはなっていません。たとえば、高級な休暇旅行のコストがわずか10%に下がったとしたら、多くの人が単にそれまでよりはるかに多くの旅行に出かけるようになると思います。ですから、あなたがソフトウェアを作る企業で、より多くのソフトウェアを生産して販売し、より多くの利益を得られる状況にあるなら、多くの場合、解雇ではなくそちらの拡大が起きることになります。
なるほど、短期的に部分自動化によって人々の生産性が向上している段階では、少なくとも一部の領域において、賃金が上昇したり採用が増えたりする理由があるということですね。しかし、AIがさらに多くの事柄を自動化できるようになるにつれて、おそらくある時点でそのバランスがシフトし始めますよね。過去の自動化の波を見ても、自動化がある一定の閾値に達した段階で、最終的には賃金の低下が見られてきましたよね。
それは共通のパターンであるように思われます。部分自動化は雇用の維持・拡大と賃金の上昇をもたらしますが、本当に徹底的な完全自動化の段階に達すると、最終的には雇用は減少へと向かいます。
ええ、これをもう少し具体的にするために、古典的な例として挙げられるのがATM（現金自動預け払い機）ですよね。ATMが導入された当時はどのような状況だったのでしょうか。
ATMが普及し始めた頃、銀行の窓口係（店舗でお現金を数える人たち）が失業するというニュース記事が大量に出回りました。そして実際に、銀行の店舗を運営するために必要な窓口係の人数が約半分に減少したのは事実であり、これによって雇用が半減すると思うかもしれません。しかしそれが実際に意味したことは、はるかに少ない従業員数で店舗を運営できるようになり、店舗の維持コストが劇的に下がったということです。その結果、銀行側は従来よりもはるかに多くの店舗を開設するようになり、全体的な雇用者数はその後20年間にわたって逆に増加しました。そして、窓口係は現金を数えることに時間を費やすのではなく、顧客と住宅ローンについて話をしたり、トラブルシューティングに対応したりすることに時間を充てるようになったのです。
しかし、その20年の期間が経過した後、スマートフォンが登場し、人々がオンラインバンキングを日常的に利用するようになり、銀行の店舗自体を完全にバイパスするようになりました。その時点以降、雇用は大幅に減少しています。
ええ、つまりあなたの見解としては――間違っていたら訂正してください――AIについても同様に、ある時点で特定の閾値に達し、それを超えると雇用や賃金の減少が見られ始める段階が到来する、ということですね。
それぞれの仕事によって、AIがその業務をどれほど容易にこなせるかどうかに応じて、異なるタイミングでその段階に達することになります。また、人々は新しい仕事へと移動することもできます。一般的に起きるべきこととして、AIが1つの仕事を自動化しているなら、それは世界全体として、より少ない投入資源でより多くの成果物を生産していることを意味します。つまり、私たちはより豊かになっているのです。
そしてこれは、自動化されつつある仕事の賃金は低下していく一方で、その余剰となった富が別の場所に費やされることを意味します。具体的には、AIがまだこなせない事柄に対して資金が投入されるようになります。なぜなら、それらが残されたボトルネックになるからです。その結果、そうした他の種類のタスクの賃金は上昇していくはずです。したがって、人々は自動化された業務から移行することができ、他のすべての仕事では賃金の上昇が見られることになります。ですから、ソフトウェアエンジニアとして、他の領域へとスイッチすることは可能でしょうか。人々が何らかの理由でその転換を行えないのでない限り、大量失業が起きることはまだありません。
仕事ごとのミクロな視点では、賃金が上昇したり採用が増えたりするトレンドが見られ、その後ある時点でそれが頭打ちになり、減少へと転じる。そして、その間に人々が沈みゆく船から、曲線の立ち上がりが少し遅れてやってくる別の仕事へと飛び移るような、複雑な移動が仕事間で発生しているわけですね。では、個々の仕事から離れて視野を広げたとき、社会全体としてはどのようなパターンが描き出されるのでしょうか。
ええ、ですから、ATMで起きたことが人類全体規模で発生するのではないか、という非常に興味深いアイデアが存在します。初期段階ではAIが私たちの生産性をどんどん高め、大規模な雇用ブームと経済ブームが到来するというシナリオです。Epoch AIはAI自動化のマクロ経済モデルを保有しており、そのモデルの中では、2026年にタスクの10%をこなせるAIが誕生すると想定されています。現時点でそこまで達しているとは思いませんが、それほど遠くない位置にいるかもしれません。そして彼らは、それが経済的に重要なタスクの100%を実行できるAIへと進化するシナリオを想定しています。それが到来するのは2030年、あるいは2032年頃とされています。
これはあくまで仮説的なシナリオですが、そのモデルが示す結果によれば、人間の賃金は10倍に増加し、完全な100%のAGIが誕生した後も、社会への普及（ロールアウト）には時間を要するため、賃金は上昇を続けます。しかし、その数年後から賃金は暴落し始めます。完全自動化が成立する多くの経済モデルにおいて、人間の賃金は一度上昇した後に下落するというパターンをたどるのです。
しかし、もう一つの可能性もあります。たとえば、私たちがAIに実行することを許可しないか、あるいはAIがどうしても完全にこなすことができないか、もしくは人間がそれを行うこと自体に本質的な価値があるというタスクが、全体の1%だけ残されるというケースです。この条件をモデルに投入し、100%ではなく「99%の自動化」までしか到達しないと設定すると、そのモデルでは人間の賃金はどこまでも無限に上昇し続け、全員がその残された1%のタスクに従事して生きることになります。このように、100%の自動化と99%の自動化の間には、潜在的に巨大な差が存在するのです。
自動化のわずか1パーセントの差が、全員が無限に豊かになり続ける未来と、大量失業が発生して賃金がゼロに落ち込む未来との分かれ目になるというのは、私にとって非常に不可解です。今説明していただきましたが、リスナーの皆さんに向けて、なぜそのようなことが起きるのかをもう少し直感的に理解できるような方法はありますか。
これが助けになるかは分かりませんが、歴史を振り返れば、これに類することは過去にも起きています。かつては、ほぼすべての人が農業に従事していましたが、現在その割合はわずか数パーセントにすぎません。つまり、ある意味では、すでに99%の仕事が自動化されたとも言える状態です。しかし、その残された1%の事柄が拡張し、経済全体を構成するようになりました。そして韓国のような国々では、その大転換がわずか一世代の間に完了しました。ですから、非常に急速に起こることすらあり得ます。
具体的にそれらがどのような業務になるかという点について、アレックス・イマスが最近興味深い記事を書いていました。彼はそれを「関係性の仕事（relational jobs）」と呼んでいます。人間がそれを行うこと自体が、私たちがそれを求める理由の一部になっているような仕事のことです。たとえば、多くの高級サービスや伝統的な高級工芸品などがこれに該当します。そして彼は、私たちは豊かになるにつれて、こうした種類のものへの支出を減らすのではなく、むしろ増やす傾向があるという事実を指摘しています。
また、周囲のイメージとして、これは1人あたり100個、あるいは1000個のAIが存在するような経済圏であることを想像する必要があります。そのため、この広大な経済規模の中で、依然として人間が担う本当に小さな一握りの領域として存在し続けるのだと考えれば、そこまで直感に反する話ではないように思えてきます。
別の視点として、これらの一部は本質的に「監視（オーバーサイト）業務」になる可能性があります。各個人がミニCEOのようになり、1人あたり数千のAIやロボットを従えることになるため、それらのAIに対して好みや指示を与える役割です。そのため、彼らに指示を出したり、彼らの行動をチェックして私たちの望みとアライメント（一致）しているかを確認したりすること自体が、フルタイムの仕事のようになるかもしれません。また、アート（芸術）や、あるいはベビーシッターなどは、人々がどうしても人間にやってほしいと願う典型的な例として挙げられます。
明確にしておきますが、このようなシナリオが実現した場合、大半の人は莫大なベーシックインカムを得るか、あるいは自分の投資資産の価値が跳ね上がるため、それだけで生活できるようになり、わざわざこれらの仕事に就こうとはしなくなるだろうと私は考えています。しかし、原則としては、働きたいと思えば高い賃金を得ることができる状態を意味します。
その未来像をイメージするのは少し難しい気がします。
非常に議論が分かれている部分です。どちらの可能性が高いかは本当に分かりません。また、利用できるエネルギーの量には限りがあり、それをAI経済に投入した方が、人間をループ（プロセス）に介在させるよりもはるかに多くの生産性を生み出せるという強力なシナリオもあります。その場合、基本的にはすべての重要な業務がAIとロボットによって運営されるようになり、人間の賃金は相対的に見て、底なしに下落していく可能性があります。それを支え留めるような根本的な仕組みは存在しないからです。
個人レベルのキャリア防衛とスキル開発の4条件
ええ。仮に100%の自動化シナリオには至らず、99%の自動化あたりで留まるのだとしても、生産量が増加し、全員の生産性が向上しているため、全体的な賃金が上昇し得るという理由は理解できた気がします。あなたの描くビジョンでは、全員が高級品を楽しんでいる非常に素敵な世界のように聞こえます。しかし、私が想像してしまうのは、非常に広大な格差が存在する世界です。あなたは多くの人々が自分だけの小さなAI労働者軍団を持ち、自分自身のCEOになっている未来を説明されましたが、初期段階において私が想像するのは、少数のマネージャー階層、つまりすでに管理職のポジションにあり、キャリアのその段階に達しているか、あるいは特定のスキルセットを持っていて、そのAI労働者軍団を統率できる人たちの姿です。彼らこそがすべての利益や恩恵を独占し、それ以外の全員が悲惨な目に遭うのではないでしょうか。なぜそうならないと言えるのですか。
タイムラインの異なるフェーズを区別して慎重に考える必要があります。ただ、短期的には、多くの組織がより「トップヘビー（上層部が肥大化）」な構造になっていく可能性は高いと思います。定型的ホワイトカラー業務をこなす人間やジュニア層の労働者が減少し、その代わりに、多数のAIエージェントを監視するやや拡大したマネージャー階層が存在するようになるという形です。そのため、マネージャー階層の賃金は上昇し、組織の数自体も増え得るためその規模も拡大するでしょう。これはおそらく格差を拡大させる力として働きます。
そして、これは過去の自動化の歴史でも幾度となく起きてきたことです。たとえば金融・投資の分野では、かつては取引所のフロアでジャケットを着た大勢の男たちが大声で叫んでいました。しかし現在では、そのほとんどが10台のスクリーンを前にした2人の男に置き換わっています。
彼らはその分、もっと大声を張り上げなければなりませんね。
ええ、ですからそれが自動化が進む典型的な経路の一つです。より少数の、より高い報酬を得る労働者が、より多くの成果を生み出すという形です。
しかし一方で、もし自動化によって仕事自体の難易度が下がれば、逆に雇用が増加することもあります。ライドシェア（相乗りサービス）が一例です。少なくともロンドンにおいては、かつてタクシードライバーになるのは極めて困難でした。ロンドンの道路地図全体を丸暗記しなければならず、枠の数も制限されていたからです。現在では、Uberにログインして自分の車を用意するだけで、誰でも簡単にドライバーになることができます。これにより賃金は約20%低下しましたが、ドライバーとして働く人の数は過去の3倍に膨れ上がりました。
また、たとえば以前であれば医師が必要だった業務が、AIの支援を受けた看護師によってこなせるようになる、といった変化も起きるかもしれません。これにより、これまでであれば10年の経験が必要だった業務が、経験そのものがAIの内部に内包されるようになるため、それらの労働者でも対応できるようになり、看護師の雇用が拡大していくというシナリオが考えられます。
3つ目のポイントとして、AIが自動化するのに最も長い期間苦戦することになる仕事は、サービスセクターの仕事、ブルーカラーの仕事、そして身体的な作業を伴う仕事です。そのため、これらの領域では潜在的に賃金の上昇が見られることになり、これは実は格差を縮小させる効果を持ちます。なぜなら、およそ50%から60%の人々がこれらのセクターで働いており、彼らの所得は中央値付近かそれ以下であることが多いため、その水準が底上げされることになるからです。
これが過渡期（トランジトリー）の効果です。より長期的な視点に立つならば、AIは最終的に格差を拡大させる可能性が最も高いと私は考えています。その主な理由は、本質的に「労働」の重要性が「資本」と比較して低下していくためです。資本こそが、すべてのロボットやチップを購入するための源泉だからです。そして、最も多くのロボットとチップを保有している者が最も多くの成果物を生産し、それゆえに最も多くの富を手にすることになります。そして、資産の格差（ウェルス・インクオリティ）は、所得の格差よりもはるかに極端です。富の重要性が相対的に増していくのであれば、それは格差を増大させることになります。もちろん、それを相殺するための課税や何らかの再分配メカニズムが導入されない限りは、ですが。
あるいは他の仕組みですね。全員が失業するわけではなく、また短期的にこれほど巨大な格差が必ずしも発生するわけではないというアイデアには納得しつつあります。しかし、ここで別の疑問が湧いてきました。人々が世界に最もポジティブなインパクトを与えるためにどのような仕事を選ぶべきかという、あなたのもう一つのアドバイスとの間に、ある種の矛盾（テンション）が生じているのではないでしょうか。社会的インパクトの観点からは、さまざまな推奨事項があるものの、その大きなカテゴリーとして、人類のためにAIをより安全にしようと試みている研究者やエンジニアが挙げられています。しかし、雇用の安定性や将来にわたって賃金を確保するという利己的な視点から見れば、そうした研究やエンジニアリングの仕事こそ、まさに真っ先に自動化される種類の業務なのではないでしょうか。代わりに、個人的な保身を優先するならば、人々はあなたが説明したようなブルーカラーの労働者や看護師といった職種を目指すべきではありませんか。
それは、あなたがどの時間軸（タイムホライズン）を想定して話しているかによって大きく変わってきます。この本の一つの大きなメッセージは、効果を予測することは困難であるということです。なぜなら、重要性が「上昇した後に下落する」というパターンをたどるのだとすれば、あまりにも早い段階でその領域を離れてしまうと、さらに多くのリターンを得られる上昇フェーズを丸ごと逃してしまうことになるからです。
仮にAI研究の多くが自動化されるとしても――現在のAI研究開発の自動化レベルはまだ比較的低い状態ですが――より多くの部分が自動化された段階に達したとしても、その自動化されずに残された最後の領域の価値は激しく跳ね上がることになります。なぜなら、そこがAIの進歩における最大のボトルネックになるからです。
私たちは現在、エンジニアリングの職務においてすでにこの現象を目にしています。エージェントに大量の業務をこなさせ、人間はそれらの成果物をレビュー（検証）するわけですが、人々は実際、以前よりも忙しくなったと感じていると言います。本質的に、個々のエンジニアが10個のAIエージェントを統率するマネージャーへと変貌したからです。人々がボトルネックだと口を揃えるのは「コードレビュー」です。あまりにも大量のコードが生産されるため、それを迅速にレビューし、検証することが追いつかないのです。しかし、もしあなたにそのスキルがあるならば、そのスキルの価値は以前よりもさらに高まっています。
AI経済の深部に深く関わっているこれらすべての事柄は、基本的には完全なAGIに達するまでの間、その価値を大きく高め続ける可能性が高いです。もしあなたが社会的インパクトを最大化したい、あるいは単に短期的な賃金を最大化したいと考えているのであれば、おそらく一定期間は、これらの上昇傾向にある極めて重要な領域に身を置き、その後で関係性の仕事へとスイッチするのが賢明でしょう。
ただ、この点において、社会的インパクトの視点と個人的な保身の視点との間には、わずかな違いが存在します。社会的インパクトの観点からは、主にこの大転換の移行期に関心があり、それをうまく乗り切る手助けをすることに集中するからです。そして、もし私たちがAGIへの移行を無事に乗り越えることができたなら、歴史における私たちの役割は果たされたことになるため、あとは安心してのんびり過ごすことができるでしょう。
率直に言って、個人の視点から見ても、「40年経ってもまだ自動化されていないことは何か」などと今から深く思い悩むことに、それほど大きな意味があるとは思いません。なぜなら、もしAIによる実存的リスク（x-risk）が発生してしまえば、そのような未来は訪れないため、心配する必要がなくなるからです。
心配いりません、あなたは死んでいます。大丈夫です！
そして、もしAIの実存的リスクが発生しなかった場合、私たちは十中八九、現在よりも100倍、あるいは1000倍豊かな社会に生きているはずであり、あなたの物質的なニーズはすべて満たされているでしょう。
誰かが格差の問題を解決してくれている、と仮定すればですが。
仮に格差が拡大し続けたとしても、世界が100倍豊かになり、一方でビリオネアたちが1000倍豊かになって彼らが兆万長者（トリリオネア）になったと想像してみてください。その状況でも、一般の個人は依然として100倍豊かになっています。人々が現在よりも実際に貧しくなるためには、格差が天文学的に拡大し、かつ再分配が完全にゼロであるという、相当に最悪な事態が起きなければなりません。
スキル価値を評価する4つの条件とメタスキル
ええ、分かりました。どのような仕事が自動化され得るのか、そしてそのダイナミクスがどのようになっているのかについては、かなり多くを語っていただきました。しかし、私の理解では、将来どのような仕事やスキルが価値を持つかを考える際、本の中で検討されている要素はそれだけではありませんよね。
仕事は多種多様なスキルの組み合わせで構成されているため、スキルに焦点を当てて考えるアプローチを好みます。それによって複雑さのレイヤーを1つ整理できるからです。ただ、私たちがすでに触れた要素もたくさんあります。AIによって最も価値が高まるスキルを特定するための条件は、4つあります。
1つ目は、自動化するのが困難なもの、つまり「最後の仕上げをやり遂げること」が難しい領域です。
2つ目は、AIを補完（コンプリメンタリー）する性質を持つものです。先ほどAIエンジニアの例を出しましたが、依然として最大のボトルネックとして残る業務を担っているなら、その価値は上昇します。また、AIが便利になればなるほど、AIの効率をさらに1%向上させることの価値も同様に跳ね上がります。AIを使って処理される総量自体が増大しているからです。
3つ目は、社会がその成果物を「今よりもはるかに大量に消費できる」種類のもので、これが先ほど話した需要の弾力性のポイントです。会計士のような仕事であれば、必要とされる総量がある程度固定されているため、安全とは言い切れません。一方で、医療、高級旅行、あるいはソフトウェアなどは、社会が今よりはるかに多くを消費し得る領域です。
4つ目は、他の人々が「そのスキルを習得するのが困難である」という点です。本の中では、高級レストランのウェイターという仕事を例に挙げています。この仕事は、人間らしいおもてなしのタッチ（ヒューマンタッチ）が求められるため、AIが自動化するのはかなり困難です。しかし、他のさまざまな仕事からこの職種へと転職することは比較的容易であるため、賃金は経済全体の成長に合わせて上昇する可能性はあるものの、他のスキルを出し抜いて急速に高騰することはないでしょう。一方で、バージニア州のデータセンターで働く電気技師のような人々は、すでに賃金の大幅な上昇を目にしています。なぜなら、そのスキルセットを他人が再訓練して身につけるには長い時間を要し、現在深刻な人材不足に陥っているからです。これら4つが、どのスキルが価値を高めるかを見極めるための鍵となる条件です。
そして付け加えるなら、将来価値が高まるものだけを見るのではなく、「今現在価値があるものは何か」をベースの出発点にすべきです。そこから、あるものは上がり、あるものは下がっていくと想像すればよいのです。私が、コンサルタントを目指せる能力のある大学生に対して「代わりに配管工（プラマー）になった方がいい」とアドバイスすることはあまり意味がないと考えるのはこれが理由です。現在、それらのホワイトカラーの仕事と配管工との間の賃金差は依然として非常に大きいからです。そのため、たとえホワイトカラーの賃金が下がり、配管工の賃金が少し上がったとしても、両者が実際に逆転するまでには相当長い時間を要する可能性があります。
なるほど。
ですから、そのタイプの人はやはりホワイトカラーの仕事を目指すべきですが、その中でもAIが実行するのがより困難な領域に焦点を当てるべきです。たとえば、より対人ソフトスキルに偏っているもの、あるいはより混沌としていて泥臭いもの、もしくはマネジメントスキルを要求されるような業務です。
それが、そのタイプの人が最初に集中すべき方向性です。もしあなたが、大学に進学すべきかそれとも職人の技術を学ぶべきかで激しく悩んでおり、本当に境界線上のギリギリのケースであるならば、過去と比較して、自動化されるまでに少し長い時間を稼げる「複雑な身体的スキル」を学ぶことの正当性は強くなっていると言えます。
もちろん、最終的にはロボット工学（ロボティクス）が追いついてくるため、これらすべての議論はタイムフレーム（時間軸）の問題に帰着します。私は、何か永久不変の解決策を見つけようとするのではなく、その時々で最も価値が高まっている事物の「波に乗る（ライディング・ザ・ウェーブ）」という話をしています。
ええ、つまりこのプロセスの大部分において「柔軟性（フレキシビリティ）」が要求されるということですね。とりあえず今はこれをやるけれど、人々は常に何が起きているかの脈動を感じ取り、いつピボットすべきかを見極めなければならない、と。
その通りです。
それはなかなかタフなことですね。
ええ。そして、変化のスピードが加速していくのだとすれば、素早く学び、進路を切り替え、それを実行するための「心理的レジリエンス（回復力）」といった能力そのものが、最も価値あるメタスキルになっていきます。
不確実な時代を生きる知恵と希望へのメッセージ
ここで、リスナーとして少し悲観的な反応をしてしまう可能性があるのですが、もし非常に高度なAIシステムが極めて近い将来に到来し、世界を猛烈なスピードで変化させ、極めて深刻な実存的リスクを大量にもたらす可能性が十分に高く、さらにある時点で多くの人々が失業してしまうリスクを伴っているのだとしたら……。あなたはいくつか希望を持てる理由を提示してくれましたが、これを聞いて、これらすべてが間もなく起ころうとしており、人類が時間内に適切な緩和策を講じられるとは到底確信できないと感じた場合、今できる最善の時間の過ごし方は、自分の生計が奪われる前に、あるいは全員が破滅してしまうような恐ろしい事態が起きる前に、単に自分が今楽しめることをして過ごすことだ、と考えてしまうかもしれません。そうした人々に対しては何と言いますか。
仮に多くの良好なシナリオが実現したとしても、最終的な世界は私たちにとって完全に異質な（エイリアン的な）場所になっている可能性があります。ええ、それについては非常に切ない（サッドな）感情を覚えます。AIに対する反応が純粋な興奮や歓喜だけであるような人々は、私にとっては少し的外れに見えます。私たちが直面しているのは本当に恐ろしい事態です。恐怖の中に沈み込み続けることは有益ではありませんが、それが恐怖であることを否定するものではありません。これは起きていること自体が常軌を逸していますし、私たちはそれをうまく処理できない可能性もあります。
しかし、そこから「では、自分に実際にできることは何か」という問いへと移行することです。究極的には、自分が変えられることに集中し、変えられないことを受け入れるしかありません。ある意味では圧倒されてしまうような状況に置かれていますし、変化のスピードが増していくにつれて、その圧倒される感覚はさらに強まっていくと思いますが、私は時折、次のような感謝の念を抱くことがあります。
「これほど壮大な歴史の1ページにおいて、自分が何らかの役割を果たせるチャンスを与えられているというのは、なんと素晴らしいことだろうか」と。歴史上最も重要な出来事の一つが起きようとしているこの瞬間に、なぜ私たちはここに居合わせ、それに対して何か行動を起こすことができる立場にいるのでしょうか。それは一種の感謝、あるいはこの状況に対する驚嘆のような感情です。
悲観的な思考スタイルに陥ってしまうのは非常に簡単なことです。しかし、それを乗り越える上で本当に助けになるのは、人々が実際に手伝えることがこれほど大量に存在するという、私たちがこれまでに話してきた事柄を思い出すことだと思います。確かに歴史的な重大局面（クリティカル・タイム）かもしれませんが、それは人々がつかみ取ることができる重大な機会（クリティカル・オポチュニティ）のようなものです。やるべき仕事は山ほど残されていますし、あなたが言ったように、人々はかなり迅速に職務をシフトしたり、間接的な支援を始めたりして、未来をよりポジティブな軌道へと乗せるための行動を起こすことができます。私はその事実に勇気づけられますし、モチベーションが湧いてきます。
私自身、純粋に利己的なレベルで考えても、自分が果たすべき役割を全うしている、つまり自分にできることを見定めて最善を尽くしていると感じられる時の方が、ストレスを低く抑えられると感じます。これがうまくいくという保証はどこにもありませんが、マージン（限界的な部分）において、状況を好転させる確率を著しく高めるためにできることは無数に存在します。
この対話の中で多くのリソースに触れてきましたが、一つ強調しておきたいのは、80,000 HoursのSubstackにおいて、これらのリスクに対処する仕事へとわずか3ヶ月で移行するためのステップを詳細に解説したマット・ベアードの記事を公開したばかりであるということです。これは各ステップのリンクが網羅された、順を追って進められるプロセスです。また、もし転換に興味があるなら、80,000 Hoursの1対1のキャリア相談への応募を強く検討してみてください。彼らが力になれるかどうかを確認することができます。そして3つ目は、私たちが話してきたような、これらの課題に取り組む上で役立つスキルセット、すなわち組織構築、何らかのコミュニケーション、政府や政策、あるいは関連する技術的スキルのいずれかを磨き、貢献できる優れた立場を築くことです。
そしてより広く言えば、あなたの本がいよいよ出版されましたね。この本がどのような役割を果たすことを願っているか、最後に一言いただけますか。
ある意味では、私の人生の集大成（ライフワーク）のように感じています。80,000 Hoursにおいてこの問いについて考え続けてきた過去15年間の思索であり、私たちの最も核心的かつ重要なアイデアのすべてを、この1冊の洗練されたパッケージへと凝縮しようと試みました。ですから、どなたでも手に取ってチェックしていただけるなら、これ以上の光栄はありません。
この本にとって最高の展開は、人生で何をすべきか分からず迷っている人がいるときに、周囲が真っ先に薦めるような標準的なキャリア本の手本となることです。それによって80,000 Hoursがさらに大きなオーディエンスに届き、より多くの人々がこれらの課題に取り組む手助けができるようになれば素晴らしいと思います。また、もし皆さんの周りに、自分の人生の進路について困惑している人がいれば、その人のためにこの本を贈ることを検討してみてください。今週発売されたばかりですので、今週中に注文をいただけると、ベストセラーリストにランクインする助けとなり、結果としてさらに多くの人々に届けることが可能になります。あらゆるご支援に心から感謝いたします。
ベン、本当にありがとうございました。ご出演いただき嬉しかったです。
呼んでいただきありがとうございました、とても楽しい時間でした。
コメント