38,634 文字
サム・アルトマンより具体的で網羅的。新たなAIの教科書。
ワシな、強力なAIのリスクについてようけ考えて喋っとんねん。ワイが社長やっとるAnthropicいうて、そのリスクを減らすための研究をめっちゃやっとるんや。せやから、ワイがAIに対して悲観的やとか「世界の終わりを信じてる奴」やと思う人もおるんやけど、そんなんちゃうねん。実際、リスクに注目しとる理由の一つは、それが根本的にええ未来への唯一の障害やと思うからなんや。ほとんどの人が、AIのええ面をどれだけ過小評価しとるか、同時にリスクをどれだけ過小評価しとるか、そのどっちもわかってへんと思うねん。
この文章では、もしすべてがうまくいったら、強力なAIのある世界がどうなるかを描いてみたいと思うねん。もちろん、誰も未来を確実に予測できへんし、強力なAIの影響は過去の技術変化よりもっと予測しにくいやろうから、これはすべて推測にすぎんのやけどな。でも、少なくとも教育を受けた有益な推測を目指しとるんや。たとえ細かいところは間違うてても、これから起こることの雰囲気をつかめるようなもんやねん。ワイは具体的な詳細をようけ入れとるけど、それは抽象的で曖昧なビジョンよりも、具体的なビジョンの方が議論を進めるのに役立つと思うからや。
まず最初に、なんでワイやAnthropicが強力なAIのええ面についてあんまり語ってへんかったか、そしてこれからもリスクについてようけ話すやろうか、その理由を簡単に説明したいと思うねん。特に、ワイはこの選択を以下の理由でしたんや:
レバレッジを最大化すること。AIテクノロジーの基本的な開発と、そのメリットの多く(全部やないけど)は避けられへんし(リスクですべてがダメになるんやったらべつやけど)、基本的に強力な市場の力に動かされとるんや。一方で、リスクは予め決まってへんし、ワイらの行動でその可能性を大きく変えられるんや。
プロパガンダと思われるのを避けること。AIの会社がAIの素晴らしいメリットについて語るのは、プロパガンダみたいに聞こえたり、デメリットから目をそらせようとしてるみたいに見えるかもしれんのや。原則として、自分の商品についてばっかり喋るのは魂によくないと思うねん。
大げさにならんようにすること。多くのAIリスクの有名人(AIの会社のトップはいわんでもな)が、AGI以降の世界について語る方法にワイはよく嫌気が差すんや。まるで自分らが預言者みたいに、一手に人々を救済に導くのが使命やと思ってるみたいやからな。企業が一方的に世界を形作るとか、実用的な技術的目標を事実上宗教的な言葉で語るのは危険やと思うねん。
「SF」的なイメージを避けること。ほとんどの人がAIのええ面を過小評価しとると思うけど、AIの急進的な未来について議論する小さなコミュニティでは、よく過度に「SF」的な調子(例えばアップロードされた精神、宇宙探査、サイバーパンク的な雰囲気とか)で語られるんや。これは人々にその主張を真剣に受け止めさせにくくして、一種の非現実感を与えてまうと思うねん。はっきり言うとな、問題は描かれとる技術が可能かどうかやなくて(本文で詳しく述べるけど)、その「雰囲気」が含意的に文化的な荷物や、どんな未来が望ましいかとか、様々な社会問題がどう展開するかについての暗黙の前提をようけ持ち込んでまうことなんや。結果的に、狭いサブカルチャーのファンタジーみたいに読まれて、ほとんどの人にとっては不快なもんになってまうんやな。
でも、上の心配はあるけど、強力なAIのある良い世界がどんなもんか議論するのは本当に大事やと思うねん。上の落とし穴を避けながらな。実際、本当に人を奮い立たせるような未来のビジョンを持つのは重要やと思うねん。ただ火事と戦う計画やのうてな。強力なAIの意味合いの多くは対立的や危険やけど、最後には何かのために戦わなあかんのや。みんながより良くなれる、プラスサムの結果や。みんなが対立を乗り越えて、これから来る課題に立ち向かうために団結できるようなもんや。恐怖は一つの動機付けやけど、それだけやなくて希望も必要なんや。
強力なAIの応用可能性のリストはめっちゃ長いねん(ロボット工学、製造、エネルギーなどもあるし)。でも、ワイは人間の生活の質を直接改善する可能性が最も高いと思われる少数の分野に焦点を当てたいと思うねん。ワイが最も興奮しとる5つのカテゴリーは以下や:
1.生物学と身体的健康
2.神経科学とメンタルヘルス
3.経済発展と貧困
4.平和とガバナンス
5.仕事と意味
ワイの予測は、ほとんどの基準(SF的な「シンギュラリティ」のビジョン以外)で判断すると過激に見えるやろうけど、真剣に本気で言うとるんや。ワイが言うとることは簡単に間違えるかもしれへん(上で言うたように)けど、少なくとも様々な分野の進歩がどれくらい加速するか、そしてそれが実際にどういう意味を持つかについて、半分析的な評価に基づいてワイの見解を根拠づけようとしたんや。ワイは幸運にも生物学と神経科学の両方で専門的な経験があるし、経済発展の分野でも情報通のアマチュアやねんけど、きっとようけ間違えるやろうな。この文章を書いてて気づいたんやけど、ワイがここで作ったもんよりずっとええもんを書くために、専門家のグループ(生物学、経済学、国際関係など他の分野の)を集めるのは価値があるやろうな。ワイの努力はそのグループのための出発点としてみるのが一番ええかもしれへんな。
1.基本的な前提と枠組み
この文章全体をもっと正確で根拠のあるもんにするために、強力なAI(つまり5-10年のカウントダウンが始まるしきい値)が何を意味するのかをはっきり指定して、そういうAIが登場した後の影響を考えるための枠組みを示すのが役立つと思うねん。
強力なAI(ワイはAGIという言葉は嫌いや)3がどんなもんになるか、いつ(あるいはもし)到来するかは、それ自体が大きなトピックやねん。ワイは公に議論したことがあるし、別の文章でも書けるやろうな(多分いつかは書くと思う)。もちろん、強力なAIがすぐに作られることに懐疑的な人もおるし、そもそもずっと作られへんと思う人もおるやろう。ワイは早ければ2026年にも来る可能性があると思うてるけど、もっと時間がかかる可能性もあるんやな。でも、この文章の目的のために、これらの問題は脇に置いて、まあまあすぐに来るもんやと仮定して、その後の5-10年に何が起こるかに焦点を当てたいと思うねん。また、そういうシステムがどんなもんか、どんな能力があって、どう相互作用するかについての定義を仮定したいと思う。これについては意見の相違があるかもしれへんけどな。
強力なAIというのは、ワイの考えでは、今日のLLMに形が似たAIモデル(ただし異なるアーキテクチャに基づいてるかもしれへんし、複数の相互作用するモデルを含むかもしれへんし、違う方法で訓練されてるかもしれへん)で、以下の特性を持つもんやと思うねん:
純粋な知能4の面では、ほとんどの関連分野(生物学、プログラミング、数学、工学、文章作成など)でノーベル賞受賞者より賢いんや。これは、未解決の数学定理を証明したり、めっちゃええ小説を書いたり、難しいコードベースをゼロから書いたりできるってことやな。
単に「話しかけられる賢いもの」やのうて、バーチャルで働く人間が利用できるすべての「インターフェース」(テキスト、音声、ビデオ、マウスとキーボード制御、インターネットアクセスなど)を持っとるんや。このインターフェースを使って、インターネット上での行動、人間への指示や指示の受け取り、物資の注文、実験の指示、ビデオの視聴や作成など、あらゆる行動、コミュニケーション、遠隔操作ができるんや。これらのタスクをすべて、世界で最も有能な人間を超える技能でこなすんや。
ただ受動的に質問に答えるだけやなくて、何時間も、何日も、何週間もかかるようなタスクを与えられて、賢い従業員のように自律的にそのタスクをこなすんや。必要に応じて説明を求めたりしながらな。
物理的な実体(コンピュータ画面以外)は持ってへんけど、コンピュータを通じて既存の物理的な道具、ロボット、実験装置を制御できるんや。理論的には、自分で使うロボットや装置を設計することもできるんやな。
モデルの訓練に使われたリソースは、何百万ものインスタンスを実行するのに再利用できるんや(これは~2027年までのクラスタサイズの予測と一致しとる)。そして、モデルは人間の約10-100倍の速度で情報を吸収して行動を生成できるんや。ただし、物理的な世界や相互作用するソフトウェアの応答時間によって制限される可能性はあるけどな。
これらの何百万ものコピーは、それぞれ独立して無関係なタスクに取り組めるし、必要なら人間が協力するのと同じように一緒に働くこともできるんや。場合によっては、特定のタスクに特に優れた異なるサブポピュレーションにファインチューニングすることもできるんやな。
これを要約すると、「データセンターの中の天才の国」みたいなもんやな。
明らかに、こういう存在はめっちゃ難しい問題を、めっちゃ速く解決できるんやけど、どれくらい速くできるかを把握するのは簡単やないねん。二つの「極端な」立場が両方とも間違ってるように思えるんや。まず、世界が秒単位や日単位で一瞬にして変わる(「シンギュラリティ」)と思うかもしれへん。優れた知能が自分自身を強化して、あらゆる科学的、工学的、運用上のタスクをほぼ即座に解決するってな。でも、これの問題は、ハードウェアの構築や生物学的実験の実施など、実際の物理的・実用的な限界があるってことや。新しい天才の国でも、こういう限界にぶつかるんや。知能はめっちゃ強力やけど、魔法の粉やないねん。
逆に、技術進歩は飽和してるか、現実世界のデータや社会的要因によって制限されてるから、人間より優れた知能はほとんど何も付け加えへんと信じるかもしれへん。これも同じくらい信じられへんように思えるんや。ワイは、本当に賢い人たちの大きなグループがめっちゃ進歩を加速させるような科学的な問題や社会的な問題を何百も思いつくことができるんや。特に、分析だけやなくて現実世界で物事を起こせる(ワイらが想定してる天才の国はそれができるんや。人間のチームに指示したり支援したりすることも含めて。
ワイは、真実はこの二つの極端な描写のごちゃ混ぜになると思うねん。タスクや分野によって違うし、その詳細はめっちゃ微妙やろうな。ワイらは、これらの詳細を生産的に考えるための新しい枠組みが必要やと思うねん。
経済学者はよく「生産要素」について話すんや。労働、土地、資本みたいなもんやな。「労働/土地/資本の限界収益」という言葉は、ある状況で特定の要素が制限要因になるかもしれへんし、ならへんかもしれへんという考え方を表しとるんや。例えば、空軍には飛行機とパイロットの両方が必要やけど、飛行機がなくなったらパイロットをもっと雇っても意味がないみたいな感じやな。ワイは、AI時代には「知能の限界収益」について話すべきやと思うねん。そして、知能と補完的で、知能が非常に高くなったときに制限要因になる他の要素は何かを理解しようとすべきやと思うねん。ワイらはこういう風に考えることに慣れてへんのや。「このタスクにおいて、より賢くなることはどれくらい役立つんやろか、そしてどのタイムスケールでか？」って考えることにな。でも、これは強力なAIのある世界を概念化する正しい方法やと思うねん。
ワイの推測では、知能を制限したり知能と補完的な要素のリストには以下のようなものが含まれるんや:
外部世界の速度。知的エージェントが物事を成し遂げたり、学習したりするには、世界と相互作用する必要があるんや。でも、世界の動きには限界があるんやな。細胞や動物は一定の速度で動くから、それらに対する実験には一定の時間がかかるし、それは減らせへんかもしれへん。ハードウェア、材料科学、人とのコミュニケーションを含む何か、さらには既存のソフトウェアインフラでも同じことが言えるんや。さらに、科学では多くの実験が順番に必要で、それぞれが前の実験から学んだり、前の実験の上に積み重なったりするんや。これらすべてが意味するのは、大きなプロジェクト(例えばがんの治療法の開発)を完了するのにかかる速度には、知能がさらに増加しても減らせへん最小限があるかもしれへんってことや。
データの必要性。生のデータが不足してる場合があって、その場合はより多くの知能があってもあんまり役に立たへんのや。今日の素粒子物理学者はめっちゃ創意工夫に富んでて、幅広い理論を開発しとるけど、加速器のデータがめっちゃ限られとるから、それらの間で選択するためのデータが不足しとるんや。彼らが超知能になったとしても、大きな加速器の建設を加速させる以外は、劇的に良くなるとは限らへんのやな。
本質的な複雑さ。本質的に予測不可能やカオス的なもんがあって、最も強力なAIでも、人間や今日のコンピュータよりも大幅に予測したり解きほぐしたりすることはできへんのや。例えば、信じられるほど強力なAIでも、カオス系(三体問題みたいな)を一般的な場合に、今日の人間やコンピュータと比べてほんの少ししか先まで予測できへんやろうな。
人間からの制約。多くのことは、法律を破ったり、人間に危害を加えたり、社会を混乱させたりせんとできへんのや。調整されたAIはこういうことをしたくないはずやし(調整されてへんAIやったら、また
リスクの話に戻ってまうけどな)。人間の社会構造の多くは非効率やし、積極的に有害なもんもあるけど、臨床試験の法的要件や、人々の習慣を変える意欲、政府の行動などの制約を尊重しながら変えるのは難しいんや。技術的にはうまくいくけど、規制や誤った恐れによって影響が大幅に減少した進歩の例には、原子力発電、超音速飛行、エレベーターさえもあるんやな。
物理法則。これは最初のポイントのもっと極端なバージョンや。破れへんように見える物理法則がいくつかあるんや。光より速く移動することはできへんし、プリンは混ぜ戻せへんし、チップは一平方センチメートルあたりの transistor の数が一定以上になると信頼性がなくなるんや。計算には消去されるビットあたり一定の最小エネルギーが必要で、これが世界の計算密度を制限しとるんや。
さらに、時間スケールに基づく区別もあるんや。短期的には厳しい制約になるものが、長期的には知能によってより柔軟になる可能性があるんや。例えば、知能を使って、生きた動物実験で学ばなあかんかったことをin vitroで学べる新しい実験パラダイムを開発したり、新しいデータを収集するために必要なツール(例えば、より大きな粒子加速器)を構築したり、(倫理的な限界内で)人間に基づく制約を回避する方法を見つけたりすることができるかもしれへん(例えば、臨床試験システムの改善を支援したり、臨床試験の官僚主義が少ない新しい管轄区域を作るのを助けたり、人間の臨床試験をあまり必要としなくしたり安くしたりするために科学自体を改善したりすることでな)。
だから、ワイらは知能が最初は他の生産要素によってかなり制限されとるけど、時間とともに知能自体が他の要素を回避する方法を見つけるようになる、っていう図を想像せなあかんのや。たとえ他の要素が完全に消えへんとしても(物理法則みたいな一部のものは絶対的やけど)な。重要な問題は、すべてがどれくらい速く起こって、どんな順序で起こるかってことや。
上記の枠組みを念頭に置いて、最初に挙げた5つの分野についてその質問に答えようとしてみるわ。
生物学と健康
生物学はおそらく、科学の進歩が人間の生活の質を直接的かつ明確に改善する可能性が最も高い分野やと思うねん。過去1世紀の間に、天然痘みたいな人類最古の病気のいくつかがついに征服されたけど、まだまだ多くが残っとるんや。それらを倒すことは、人道的な観点からめっちゃ大きな成果になるやろうな。病気を治すことを超えて、生物科学は原則として人間の健康のベースラインの質を改善することができるんや。健康な人間の寿命を延ばしたり、自分の生物学的プロセスに対する制御と自由を増やしたり、今は人間の状態の不変の部分だと思われとる日常的な問題に対処したりすることでな。
前のセクションの「制限要因」の言葉で言うと、知能を生物学に直接適用する主な課題はデータ、物理的世界の速度、本質的な複雑さやねん(実際、この3つはすべて互いに関連しとるんや)。人間の制約も後の段階で役割を果たすんや。臨床試験が関係してくるときにな。これらを一つずつ見ていこか。
細胞、動物、さらには化学プロセスに対する実験は、物理的世界の速度によって制限されとるんや。多くの生物学的プロトコルには、バクテリアや他の細胞を培養したり、単に化学反応が起こるのを待ったりすることが含まれとるんやけど、これには数日や数週間かかることもあるし、明らかにスピードアップする方法がないこともあるんや。動物実験には数ヶ月(またはそれ以上)かかることがあるし、人間の実験ではしばしば何年も(長期的な結果研究の場合は数十年も)かかることがあるんや。これに少し関連して、データがしばしば不足しとるんや。量じゃなくて質の問題やな。生物学的効果を他の1万個の交絡要因から明確に分離したり、与えられたプロセスに因果的に介入したり、ある効果を直接測定したりするような(間接的や騒々しい方法でその結果を推論するんじゃなくて)、明確で曖昧さのないデータはいつも不足しとるんや。質量分析技術の研究をしとったときに収集したプロテオミクスデータみたいな大規模で定量的な分子データでさえ、ノイズが多くて多くのことを見逃しとるんや(これらのタンパク質はどの種類の細胞にあったんやろ？細胞のどの部分や？細胞周期のどの段階や？)。
これらのデータの問題の一部の原因になっとるのが本質的な複雑さやねん。人間の代謝の生化学を示す図を見たことがあるなら、このめっちゃ複雑なシステムのどの部分の効果も分離するのがめっちゃ難しいってことがわかるやろ。そのシステムに正確や予測可能な方法で介入するのはさらに難しいんや。そして最後に、人間に対する実験を実行するのにかかる本質的な時間以外にも、実際の臨床試験にはようけの官僚主義や規制要件が含まれとるんや。これらは(多くの人、ワイも含めての意見では)不必要に追加の時間を加えて進歩を遅らせとるんや。
こういうこともあって、多くの生物学者は長年、生物学におけるAIや「ビッグデータ」全般の価値に懐疑的やったんや。歴史的に見ると、過去30年間に生物学に自分のスキルを適用した数学者、コンピュータ科学者、物理学者はかなり成功してきたけど、当初期待されたほどの真に革命的な影響は与えてへんかったんやな。AlphaFold(ちょうど創造者たちにノーベル化学賞をもたらした)やAlphaProteoみたいな大きな革命的なブレークスルーによって、その懐疑主義の一部は減ってきたけど、AIが(そしてこれからも)限られた状況でしか役に立たへんという認識はまだあるんや。よくある表現は「AIはデータの分析をより良くできるけど、より多くのデータを生み出したり、データの質を改善したりはできへん。ゴミを入れればゴミが出てくるだけや」っていうもんやな。
でもワイは、そのペシミスティックな見方はAIについて間違った考え方をしとると思うねん。もしAIの進歩に関するワイらの中心的な仮説が正しいなら、AIを考える正しい方法は、データ分析の方法としてやなくて、生物学者がやるすべてのタスクを実行する仮想の生物学者として考えるべきなんや。これには、現実世界での実験の設計と実行(実験室のロボットを制御したり、単に人間にどの実験を実行するか指示したりすることで – 主任研究者が大学院生にするように)、新しい生物学的方法や測定技術の発明なども含まれるんや。AIが生物学を本当に加速できるのは、研究プロセス全体を加速することによってなんや。これを繰り返し言うのは、AIが生物学を変革する能力について話すときに最もよく出てくる誤解やからなんや: ワイはAIを単にデータを分析するためのツールとして話しとるんやないんや。この文章の最初で強力なAIの定義で述べたように、生物学者がやることのほぼすべてを実行し、指示し、改善するためにAIを使うことについて話しとるんや。
ワイが思う加速が起こりそうな場所についてもっと具体的に言うと、生物学の進歩の驚くほど大きな部分が、本当に小さな数の発見から来とるんや。これらはしばしば、生物学的システムに正確やけど一般化されたりプログラム可能な介入を可能にする広範な測定ツールや技術に関連しとるんや。これらの大きな発見は年に1個くらいしかなくて、集合的に見ると生物学の進歩の50%以上を推進しとると言えるかもしれへんな。これらの発見がそんなに強力なのは、まさに本質的な複雑さとデータの制限を切り抜けて、生物学的プロセスに対するワイらの理解と制御を直接増やすからなんや。10年に数回の発見が、ワイらの基本的な科学的理解の大部分と、最も強力な医療治療の多くの両方を可能にしてきたんや。
いくつか例を挙げるとな:
CRISPR: 生きた生物のどんな遺伝子でもライブ編集できる技術や(任意の遺伝子配列を任意の他の配列に置き換えられる)。元の技術が開発されて以来、特定の細胞タイプをターゲットにしたり、精度を上げたり、間違った遺伝子の編集を減らしたりするための改良が絶え間なく行われとるんや。これらはすべて人間での安全な使用に必要なもんやな。
何が起こっとるかを正確なレベルで観察するためのさまざまな種類の顕微鏡法: 高度な光学顕微鏡(さまざまな種類の蛍光技術、特殊な光学系など)、電子顕微鏡、原子間力顕微鏡などやな。
ゲノムシーケンシングと合成。これは過去数十年で数桁コストが下がったんや。
光遺伝学技術。これを使うと、光を当てることでニューロンを発火させることができるんや。
mRNAワクチン。原則として、これを使えば何に対してもワクチンを設計して、すぐに適応させることができるんや(もちろん、mRNAワクチンはCOVIDの間に有名になったけどな)。
CAR-T細胞療法みたいな細胞療法。これを使うと、免疫細胞を体外に取り出して、原則的には何に対しても攻撃するように「再プログラム」できるんや。
病原体理論や免疫系とがんの関連性の認識みたいな概念的な洞察。
ワイがこれらの技術をすべて列挙するのは手間やけど、それらについて重要な主張をしたいからなんや: ワイは、もっと才能があって創造的な研究者がようけおったら、これらの発見の速度を10倍以上に増やせると思うねん。言い換えると、ワイはこれらの発見に対する知能の収益率が高いと思うし、生物学や医学の他のすべてのことは主にこれらから派生するんやと思うねん。
なんでワイがそう思うかというと、ワイらが「知能への収益」を決定しようとするときに習慣的に聞くべきいくつかの質問の答えによるんや。まず、これらの発見は一般的にめっちゃ少数の研究者によって行われとるし、しばしば同じ人が繰り返し行っとるんや。これは、ランダムな検索やなくてスキルを示唆しとるんや(後者は長い実験が制限要因であることを示唆するかもしれへん)。次に、これらの発見は多くの場合、実際に行われた何年も前に「行われることができた」んや: 例えば、CRISPRは80年代から知られとるバクテリアの免疫系の自然に存在する構成要素やったけど、一般的な遺伝子編集に再利用できることに気づくのにさらに25年かかったんや。また、有望な方向性に対する科学コミュニティからの支援の欠如によって、多くの年数遅れることもよくあるんや(mRNAワクチンの発明者についてのこのプロフィールを見てみ。似たような話はようけあるんや)。三つ目に、成功したプロジェクトはしばしば、当初はあまり有望やと思われへんかった小規模なものや副産物やったりするんや。これは、大規模な資源の集中やなくて、創意工夫が発見を推進することを示唆しとるんやな。
最後に、これらの発見の中には「直列依存性」(発見Aを最初にせんと、発見Bを行うためのツールや知識を持てへん)があるものもあるけど – これもまた実験の遅れを引き起こす可能性があるんやけど – 多くは、おそらくほとんどは独立してるんや。つまり、多くを一度に並行して取り組むことができるってことやな。これらの事実と、生物学者としてのワイの一般的な経験から、科学者がもっと賢くて、人類が持つ膨大な生物学的知識の間のつながりをより上手に作ることができたら、何百もの発見が待っとると強く示唆されとるんや(もう一度CRISPRの例を考えてみてな)。AlphaFold/AlphaProteoが、数十年にわたって注意深く設計された物理モデリングにもかかわらず、人間よりはるかに効果的に重要な問題を解決したことは、(狭いツールを狭い領域で使っとるけど)前進すべき道を指し示す実証例を提供しとるんやな。
だからワイの推測では、強力なAIはこれらの発見の速度を少なくとも10倍にすることができるんや。つまり、生物学の進歩の次の50-100年分を5-10年で得られるってことやな。なんで100倍やないんかって？たぶんそれも可能やけど、ここでは直列依存性と実験時間が重要になってくるんや: 1年で100年分の進歩を得るには、動物実験や顕微鏡や高価な実験施設の設計みたいなことを含めて、多くのことが最初からうまくいかなあかんのや。ワイは実際、(たぶん馬鹿げて聞こえるかもしれへんけど)5-10年で1000年分の進歩を得られるかもしれへんという考えに開かれとるけど、1年で100年分を得られるということには非常に懐疑的なんや。もう一つの言い方をすると、ワイは避けられへん一定の遅延があると思うねん: 実験やハードウェアの設計には一定の「遅延」があって、論理的に推論できへんことを学ぶために一定の「不可欠な」回数だけ繰り返す必要があるんや。でも、その上に大規模な並列処理が可能かもしれへんな。
臨床試験についてはどうやろか？ようけの官僚主義と遅れがあるけど、実際のところ、その遅さの多く(全部やないけど！)は、ほとんど効果がないか曖昧にしか効かへん薬を厳密に評価する必要性から来とるんや。これは残念ながら今日のほとんどの治療に当てはまるんやな: 平均的ながん治療薬は生存期間を数ヶ月延ばすだけで、注意深く測定せなあかん重大な副作用があるんや(アルツハイマー病の薬でも似たような話やな)。これは巨大な研究(統計的検出力を得るため)と難しいトレードオフにつながるんや。規制機関は官僚主義と競合する利害の複雑さのために、一般的にこれらをうまく扱えへんのやな。
何かがめっちゃうまく効く場合、ずっと速くなるんや: 承認を加速するトラックがあって、効果の大きさが大きいほど承認が簡単になるんや。COVIDのmRNAワクチンは9ヶ月で承認されたんや – 通常のペースよりずっと速いんやな。とはいえ、こういう条件下でも臨床試験はまだ遅すぎるんや – mRNAワクチンは2ヶ月くらいで承認されるべきやったかもしれへん。でも、このくらいの遅れ(薬の終わりまで~1年)と大規模な並列化、そしてあまり多くない反復の必要性(“数回の試行”)を組み合わせると、5-10年で急進的な変革が起こる可能性と十分に両立するんや。もっと楽観的に言うと、AI支援の生物科学が、人間で何が起こるかをより正確に予測できるより良い動物や細胞の実験モデル(あるいはシミュレーションさえ)を開発することで、臨床試験での反復の必要性を減らす可能性があるんやな。これは特に、何十年もかかって進行する老化プロセスに対する薬を開発する際に重要になるやろうし、より速い反復ループが必要になるんや。
最後に、臨床試験と社会的障壁のトピックについて、生物医学のイノベーションは他の技術と比べて、成功裏に展開された記録がめっちゃ強いってことをはっきり指摘しとくべきやな。導入で述べたように、多くの技術は技術的にはうまくいってるのに、社会的要因によって妨げられとるんや。これはAIが達成できることについて悲観的な見方を示唆するかもしれへん。でも生物医学は、薬の開発プロセスが過度に面倒やけど、一度開発されたらその薬は一般的に成功裏に展開されて使用されるという点でユニークなんや。
上記をまとめると、ワイの基本的な予測は、AI支援の生物学と医学によって、人間の生物学者が次の50-100年で達成するはずやった進歩を5-10年に圧縮できるってことなんや。ワイはこれを「圧縮された21世紀」と呼ぶんや: つまり、強力なAIが開発された後の数年間で、生物学と医学の分野で21世紀全体で達成するはずやった進歩のすべてを達成するってアイデアやな。
強力なAIが数年間で何ができるかを予測するのは本質的に難しくて推測に基づくものやけど、「人間が次の100年間で支援なしに何ができるか」を問うことには、ある程度の具体性があるんや。20世紀に達成したことを単に見るだけでも、21世紀の最初の20年から外挿するだけでも、あるいは「10個のCRISPRと50個のCAR-T」が何をもたらすかを尋ねるだけでも、強力なAIから期待できる一般的な進歩のレベルを推定する実用的で根拠のある方法を提供してくれるんや。
以下では、期待できることのリストを作ってみたんや。これは厳密な方法論に基づいてへんし、細部ではほぼ確実に間違うやろうけど、期待すべき一般的な急進性のレベルを伝えようとしとるんや:
ほぼすべての自然発生的な感染症の確実な予防と治療。20世紀の感染症に対する巨大な進歩を考えると、「圧縮された21世紀」でこの仕事を「ほぼ完了」できると想像するのは過激やないんや。mRNAワクチンや類似の技術は既に「何に対してもワクチン」への道を示しとるんや。感染症が世界から完全に根絶されるか(一部の場所だけやなくて)は、貧困と不平等に関する問題次第やな。これについては第3節で議論するわ。
ほとんどのがんの排除。がんによる死亡率は過去数十年間、年間約2%ずつ減少しとるんや。だから、人間の科学の現在のペースで21世紀中にほとんどのがんを排除する軌道に乗っとるんやな。一部の亜型(例えばCAR-T療法による一部の白血病)は既にほぼ完全に治療可能になっとるし、ワイはがんの初期段階をターゲットにして成長を防ぐ、非常に選択的な薬にもっと期待しとるんや。AIはまた、がんの個別化されたゲノムに非常に細かく適応した治療レジメンを可能にするやろう – これは今日でも可能やけど、時間と人間の専門知識の面でめっちゃ高価なんや。AIはこれをスケールアップできるはずやな。死亡率と発生率の両方で95%以上の削減が可能に見えるんや。とはいえ、がんは非常に多様で適応力があるから、これらの病気を完全に破壊するのは最も難しいかもしれへんな。珍しくて難しい悪性腫瘍の一部が残るのは驚くべきことやないやろう。
遺伝性疾患の非常に効果的な予防と効果的な治療。大幅に改良された胚スクリーニングによって、おそらくほとんどの遺伝性疾患を予防できるようになるやろうし、CRISPRのより安全で信頼性の高い子孫が、既存の人々のほとんどの遺伝性疾患を治療できるかもしれへんな。ただし、細胞の大部分に影響を与える全身性の病気が最後まで残るかもしれへんけどな。
アルツハイマー病の予防。アルツハイマー病の原因を解明するのにめっちゃ苦労してきたんや(何らかの形でベータアミロイドタンパク質に関係しとるけど、実際の詳細はめっちゃ複雑に見えるんや)。これは、生物学的効果を分離するより良い測定ツールで解決できるタイプの問題にぴったりやと思うんや。だからワイは、AIがこれを解決する能力に自信を持っとるんや。実際に何が起こっとるかを理解したら、比較的単純な介入で最終的に予防できる可能性が高いんや。とはいえ、既に存在するアルツハイマー病によるダメージを逆転させるのは非常に難しいかもしれへんな。
他のほとんどの病気の改善された治療。これは糖尿病、肥満、心臓病、自己免疫疾患などの他の病気のためのキャッチオール・カテゴリーやな。これらのほとんどは、がんやアルツハイマー病よりも「簡単」に解決できるように見えるし、多くの場合既に急激に減少しとるんや。例えば、心臓病による死亡は既に50%以上減少しとるし、GLP-1作動薬みたいな単純な介入が既に肥満と糖尿病に対して大きな進歩を遂げとるんや。
生物学的自由。過去70年間には避妊、妊娠、体重管理など多くの進歩があったんや。でもワイは、AI加速の生物学が可能性を大きく広げると思うねん: 体重、外見、生殖、その他の生物学的プロセスが完全に人々の制御下に置かれるやろう。これらを生物学的自由という見出しの下で言及するわ: つまり、誰もが自分がなりたいものを選び、最も魅力的な方法で生きることができるようにするってアイデアやな。もちろん、グローバルなアクセスの平等性に関する重要な質問があるやろう。これについては第3節で見てみるわ。
人間の寿命の倍増。これは過激に聞こえるかもしれへんけど、20世紀に平均寿命はほぼ2倍になったんや(40歳から75歳へ)。だから「圧縮された21世紀」でそれをもう一度150歳に倍増させるのは「傾向に沿ってる」んや。明らかに、実際の老化プロセスを遅らせるために必要な介入は、前世紀に(主に子供の)早期死亡を防ぐために必要やったものとは異なるやろうけど、変化の大きさは前例のないもんやないんや。具体的に言うと、既にラットの最大寿命を限られた副作用で25-50%増加させる薬が存在するんや。そして、一部の動物(例えば一部の種類のカメ)は既に200年生きとるから、人間が理論的な上限に達しとるわけやないんや。推測やけど、おそらく最も重要なのは、人間の老化の信頼できる、グッドハートされない生物学的マーカーかもしれへんな。それがあれば、実験や臨床試験の迅速な反復が可能になるからや。人間の寿命が150歳になったら、「エスケープ・ベロシティ」に達する可能性があるんや。つまり、今日生きとる大部分の人々が望むだけ長く生きられるようになるまでの時間を稼げるかもしれへん。ただし、これが生物学的に可能やという保証はないけどな。
このリストを見て、これらがすべて今から7-12年後に達成されたら(これはAIの積極的なタイムラインに沿ってる)、世界がどれほど違うものになるか考えてみてや。言うまでもなく、これは想像を絶する人道的な勝利や。何千年も人類を悩ませてきた苦難のほとんどを一気に取り除くことになるんや。ワイの友人や同僚の多くが子育てをしとるけど、その子供たちが大きくなったとき、病気の話が、ワイらにとってのスカーベラットや天然痘、黒死病の話みたいに聞こえることを願っとるんや。その世代はまた、生物学的自由と自己表現の増加の恩恵を受けるやろうし、運が良ければ望むだけ長く生きられるかもしれへんな。
これらの変化が、強力なAIを期待しとる小さなコミュニティ以外のみんなにとってどれほど驚くべきものになるか、過小評価するのは難しいんや。例えば、アメリカでは何千人もの経済学者や政策専門家が、ソーシャルセキュリティやメディケアをどう支払い可能に保つか、もっと広く言えば医療費(主に70歳以上の人、特にがんなどの末期疾患の人が消費しとる)をどう抑えるかを議論しとるんや。これらすべてが実現したら、これらのプログラムの状況はおそらく劇的に改善されるやろうな。働き盛りの人口と退職者の人口の比率が大きく変わるからや。疑いもなく、これらの課題は新しい技術への広範なアクセスをどう確保するかなど、他の課題に取って代わられるやろうけど、生物学が唯一AIによって成功裏に加速される分野やったとしても、世界がどれほど変わるか考えてみる価値があるんやな。
2.神経科学と心
前のセクションでは、身体的な病気と一般的な生物学に焦点を当てて、神経科学やメンタルヘルスについては触れへんかったんや。でも神経科学は生物学の一分野やし、メンタルヘルスは身体的健康と同じくらい重要なんや。実際、メンタルヘルスは身体的健康以上に人間の幸福に直接影響を与えるかもしれへんな。何億人もの人々が、依存症、うつ病、統合失調症、低機能自閉症、PTSD、サイコパシー、知的障害などの問題で生活の質がめっちゃ低くなっとるんや。さらに何十億人もの人々が、これらの重度の臨床障害のもっと軽いバージョンと解釈できるような日常的な問題と戦っとるんやな。そして一般生物学と同じように、問題に対処するだけやなくて、人間の経験の基本的な質を改善することも可能かもしれへんのや。
ワイが生物学について示した基本的な枠組みは、神経科学にも同じように当てはまるんや。この分野も、しばしば測定や正確な介入のためのツールに関連した少数の発見によって前進しとるんやな – 上のリストの中で、光遺伝学は神経科学の発見やったし、最近ではCLARITYや拡張顕微鏡法も同じような進歩や。それに加えて、一般的な細胞生物学の方法の多くが直接神経科学に引き継がれとるんや。ワイは、これらの進歩の速度もAIによって同じように加速されると思うし、だから「100年分の進歩を5-10年で」っていう枠組みが、同じ理由で神経科学にも当てはまると思うねん。生物学と同じように、20世紀の神経科学の進歩は巨大やったんや – 例えば、1950年代まではニューロンがどのように、あるいはなぜ発火するのかさえ理解してへんかったんやで。だから、AI加速の神経科学が数年で急速な進歩を遂げると予想するのは理にかなっとるんやな。
この基本的な図に一つ付け加えるべきことがあるんや。それは、ここ数年でAI自体について学んできたこと(あるいは学びつつあること)の一部が、たとえ人間だけによって行われ続けるとしても、神経科学の進歩を助ける可能性が高いってことやな。解釈可能性は明らかな例やな: 生物学的ニューロンは表面的には人工ニューロンとは全く異なる方法で動作してるんやけど(スパイクやしばしばスパイク率を通じて通信するから、人工ニューロンにはない時間要素があるし、細胞生理学や神経伝達物質に関連するようけの詳細がその動作を大幅に変えとる)、「単純なユニットの分散した、訓練されたネットワークが、どのように協力して重要な計算を実行するのか」っていう基本的な質問は同じなんや。ワイは、個々のニューロンの通信の詳細は、計算や回路に関する興味深い質問のほとんどで抽象化されるやろうと強く疑っとるんや。一つの例として、AIシステムで解釈可能性研究者によって発見された計算メカニズムが、最近マウスの脳でも再発見されたんやな。
人工神経ネットワークで実験する方が、本物のネットワークで実験するよりずっと簡単なんや(後者はしばしば動物の脳を切開する必要がある)。だから、解釈可能性は神経科学の理解を深めるためのツールになる可能性が高いんやな。さらに、強力なAI自体がおそらく人間よりもこのツールをより良く開発し適用できるやろう。
でも解釈可能性以上に、知的システムがどのように訓練されるかについてAIから学んだことは(まだそうなってへんかもしれへんけど)神経科学に革命をもたらすはずなんや。ワイが神経科学で働いとったとき、多くの人がワイが今では間違ってると考える学習についての質問に焦点を当てとったんや。それは、スケーリング仮説/苦い教訓の概念がまだ存在してへんかったからや。単純な目的関数とようけのデータが信じられないほど複雑な行動を引き起こせるという考えは、目的関数やアーキテクチャのバイアスを理解することをより興味深くし、現れる計算の詳細を理解することをあまり興味深くないものにするんや。ここ数年間密接にフォローしてへんけど、計算神経科学者たちがまだこの教訓を完全に吸収してへんような漠然とした感じがするんや。スケーリング仮説に対するワイの態度はいつも「なるほど – これが高いレベルで、知性がどのように機能し、どのように簡単に進化したかの説明や」やったけど、それは平均的な神経科学者の見方やないんや。一部には、スケーリング仮説が「知性の秘密」としてAI内でさえまだ完全には受け入れられてへんからやな。
ワイは、神経科学者たちがこの基本的な洞察を人間の脳の特殊性(生物物理学的制限、進化の歴史、トポロジー、運動や感覚の入出力の詳細)と組み合わせて、神経科学のいくつかの重要な謎を解こうとすべきやと思うねん。一部の人はそうしとるかもしれへんけど、まだ十分やないと思うんや。そして、AI神経科学者たちはこの角度をより効果的に活用して進歩を加速できるやろうな。
ワイはAIが4つの異なる経路で神経科学の進歩を加速すると予想しとるんや。これらすべてが協力して、精神疾患を治療し機能を改善することを期待しとるんやな:
伝統的な分子生物学、化学、遺伝学。これは基本的に第1節の一般生物学と同じ話や。AIは同じメカニズムでこれを加速できるやろうな。脳機能を変更したり、警戒心や知覚に影響を与えたり、気分を変えたりするために神経伝達物質を調節する薬がようけあるけど、AIはもっとようけの薬を発明するのを助けられるんや。AIはおそらく精神疾患の遺伝的基礎に関する研究も加速できるやろうな。
細かいニューロンの測定と介入。これは、多くの個々のニューロンやニューロン回路が何をしとるかを測定し、その動作を変更するために介入する能力のことや。光遺伝学や神経プローブは、生きた生物で測定と介入の両方が可能な技術やし、多くの非常に先進的な方法(多数の個々のニューロンの発火パターンを読み取るための分子ティッカーテープなど)も提案されてて、原則的には可能に見えるんや。
高度な計算神経科学。上で述べたように、現代のAIの特定の洞察と全体像の両方が、システム神経科学の問題に有益に適用できる可能性が高いんや。精神病や気分障害みたいな複雑な疾患の本当の原因やダイナミクスを明らかにすることも含めてな。
行動介入。生物学的側面に焦点を当てて神経科学についてあまり言及してへんかったけど、もちろん精神医学や心理学は20世紀を通じて幅広い行動介入のレパートリーを開発してきたんや。AIがこれらも加速できると考えるのは理にかなっとるんやな。新しい方法の開発と、既存の方法への患者の順守を助けることの両方でな。もっと広く言えば、あなたの相互作用を研究して、より効果的になるのを学ぶのを助けてくれる「AIコーチ」のアイデアはめっちゃ有望に見えるんや。
これら4つの進歩の経路が一緒に働くことで、身体的な病気と同じように、AIが関与してへんとしても、次の100年で精神疾患のほとんどを治療または予防できる軌道に乗るやろうし – だからAIが加速する5-10年で完了する可能性があるんやな。具体的に言うと、ワイが起こると思うのは以下のようなことや:
ほとんどの精神疾患はおそらく治療できる。ワイは精神疾患の専門家やないけど(ワイが神経科学にいた時間は小さなニューロングループを研究するためのプローブを作ることに費やしたんや)、PTSD、うつ病、統合失調症、依存症などの病気は、上記の4つの方向の組み合わせによってある程度解明され、非常に効果的に治療できるようになるやろうな。答えは「生化学的に何かが間違った」(めっちゃ複雑かもしれへんけど)と「神経ネットワークで高レベルで何かが間違った」の組み合わせである可能性が高いんや。つまり、システム神経科学の問題やな – ただし、上で議論した行動介入の影響を否定するわけやないけどな。特に生きた人間での測定と介入のためのツールは、急速な反復と進歩につながる可能性が高いんや。
非常に「構造的」な状態はより難しいかもしれへんけど、不可能やないんや。サイコパシーは明らかな神経解剖学的な違いと関連しとるという証拠があるんや – 一部の脳領域が単純にサイコパスでは小さいか発達が悪いんやな。サイコパスは幼い頃から共感性が欠如しとると考えられとるし、彼らの脳の違いは、おそらくずっとそうやったんやろうな。同じことが一部の知的障害や、おそらく他の状態にも当てはまるかもしれへん。脳を再構築するのは難しそうに聞こえるけど、これも知能への収益が高いタスクに見えるんや。おそらく、成人の脳をより早期のより可塑性の高い状態に誘導して、再形成できる方法があるかもしれへんな。これがどれくらい可能かについてはめっちゃ不確かやけど、ワイの直感ではAIが発明できることに楽観的なんや。
精神疾患の効果的な遺伝的予防は可能に見える。ほとんどの精神疾患は部分的に遺伝するんや。そして、ゲノムワイド関連研究が関連する要因の特定に進展し始めとるんやな。これらの要因はしばしし数が多いんや。おそらく、身体的な病気と同じように、胚スクリーニングを通じてこれらの病気のほとんどを予防できるようになるやろう。一つの違いは、精神疾患は多遺伝子(多くの遺伝子が寄与する)である可能性が高いってことや。だから、複雑さのために、病気と相関する肯定的な特性を知らずに選択してしまうリスクが高まるんや。奇妙なことに、最近の年GWASの研究では、これらの相関が誇張されてたかもしれへんって示唆しとるんやけどな。いずれにせよ、AI加速の神経科学はこれらのことを理解するのを助けるかもしれへん。もちろん、複雑な特性のための胚スクリーニングは多くの社会的問題を引き起こすし議論を呼ぶやろうけど、ワイは重度や衰弱性の精神疾患のスクリーニングはほとんどの人が支持するやろうと推測するんや。
臨床的な病気とは考えられてへん日常的な問題も解決されるやろう。ワイらのほとんどは、通常は臨床的な病気のレベルに達するとは考えられてへん日常的な心理的問題を持っとるんや。すぐに怒る人もおれば、集中するのが難しかったり、しばしば眠くなったりする人もおる。恐れや不安を感じたり、変化に悪く反応したりする人もおるんやな。今日でも、例えば警戒心や集中力を助ける薬(カフェイン、モダフィニル、リタリンなど)は存在するけど、他の多くの分野と同じように、もっとようけのことが可能になる可能性が高いんや。おそらく、こういう薬がもっとようけ存在して、まだ発見されてへんだけなんやろう。そして、光刺激(上記の光遺伝学を参照)や磁場などの全く新しい介入方法もあるかもしれへんな。20世紀に認知機能や感情状態を調整する薬をようけ開発してきたことを考えると、「圧縮された21世紀」では、誰もが自分の脳をちょっと上手く働かせて、より充実した日々の経験ができるようになると、ワイはめっちゃ楽観的なんや。
人間のベースライン体験はもっとよくなる可能性がある。もう一歩進んで、多くの人が啓示、創造的なインスピレーション、思いやり、充実感、超越、愛、美、瞑想的な平和の特別な瞬間を経験したことがあるんや。これらの経験の性質と頻度は人によってめっちゃ異なるし、同じ人でも時期によって違うんや。また、様々な薬によって引き起こされることもあるんやけど(しばしば副作用があるけどな)。これらすべてのことは、「経験可能なものの範囲」がめっちゃ広いってことを示唆しとるし、人々の人生のより大きな部分がこれらの特別な瞬間で構成される可能性があるってことやな。おそらく、様々な認知機能を全体的に改善することも可能やろう。これは「生物学的自由」や「寿命延長」の神経科学版みたいなもんやな。
AIに関するSFの描写でよく出てくるけど、ワイが意図的にここで議論してへんトピックの一つに「マインドアップロード」があるんや。これは人間の脳のパターンとダイナミクスを捉えて、ソフトウェアで具現化するというアイデアやな。このトピックだけで一つの文章になりそうやけど、要するにワイは、アップロードは原則的にはほぼ確実に可能やと思うけど、実際には強力なAIがあっても、技術的にも社会的にもかなりの課題があって、おそらくワイらが議論しとる5-10年のウィンドウの外にあるってことやな。
要約すると、AI加速の神経科学はほとんどの精神疾患の治療を大幅に改善したり、治癒したりする可能性が高いし、「認知的・精神的自由」と人間の認知的・感情的能力を大きく拡大する可能性があるんや。これは前のセクションで述べた身体的健康の改善と同じくらい急進的なもんになるやろうな。おそらく外から見た世界は目に見えて変わらへんかもしれへんけど、人間が経験する世界はずっと良くてより人道的な場所になるし、自己実現のためのより大きな機会を提供する場所になるやろうな。ワイはまた、改善されたメンタルヘルスが、政治的や経済的に見える問題も含めて、他のようけの社会問題を軽減すると思うんや。
3.経済発展と貧困
前の二つのセクションは、病気を治療し人間の生活の質を改善する新しい技術の開発についてやったんや。でも、人道的な観点から見て明らかな質問は「これらの技術に誰もがアクセスできるんやろか？」ってことやな。
病気の治療法を開発することと、世界からその病気を根絶することは別物やねん。もっと広く言えば、多くの既存の健康介入がまだ世界中で適用されてへんし、同じことが(健康以外の)技術的改善全般にも当てはまるんや。言い換えれば、世界の多くの地域の生活水準がまだ絶望的に貧しいってことやな: サハラ以南アフリカのGDP per capitaは約2,000ドルで、アメリカの約75,000ドルと比べるとめっちゃ低いんや。もしAIが先進国の経済成長と生活の質をさらに向上させるけど、発展途上国を助けるためにほとんど何もせえへんとしたら、ワイらはそれをひどい道徳的失敗とみなすべきやし、前の二つのセクションの本物の人道的勝利に傷をつけるもんやと思うべきやな。理想的には、強力なAIは後者を革新しながら、発展途上国が先進国に追いつくのを助けるべきやねん。
ワイは、AIが不平等と経済成長に対処できるかについて、根本的な技術を発明できるってことほど確信を持ってへんのや。技術は知能への明らかに高い収益率を持っとる(複雑さとデータの欠如を回避する能力も含めて)のに対して、経済には人間からの制約とようけの本質的な複雑さが含まれとるからや。ワイは、AIが有名な「社会主義計算問題」を解決できるかについてはやや懐疑的やし、たとえそういう実体が経済政策を立案できたとしても、政府がそれに任せる(あるいは任せるべき)とは思わへんのや。また、効果的やけど人々が疑いを持つかもしれへん治療をどうやって人々に説得するかといった問題もあるんやな。
発展途上世界が直面する課題は、民間部門と公共部門の両方に蔓延する汚職によってさらに複雑になっとるんや。汚職は悪循環を作り出すんや: 貧困を悪化させ、貧困がさらに汚職を生み出すんやな。AIによる経済発展の計画は、汚職、弱い制度、その他の非常に人間的な課題に取り組む必要があるんや。
それでも、ワイは楽観的になる重要な理由がいくつか見えるんや。病気は根絶されてきたし、多くの国が貧困から豊かになってきたんや。そして、これらのタスクに関わる決定が知能への高い収益を示すことは明らかやねん(人間の制約と複雑さにもかかわらずな)。だから、AIは現在行われとることよりもよりうまくこれらをできる可能性が高いんや。人間の制約を回避するターゲットを絞った介入もあるかもしれへんし、AIはそれに集中できるかもしれへんな。でももっと重要なのは、ワイらは試さなあかんってことや。AI企業も先進国の政策立案者も、発展途上国が取り残されへんようにするために自分たちの役割を果たさなあかんのや。道徳的な要請があまりにも大きいからな。だからこのセクションでは、楽観的な立場を取り続けるけど、成功が保証されてへんし、ワイらの集団的な努力にかかっとるってことをどこでも覚えておいてな。
以下では、強力なAIが開発された後の5-10年間に発展途上世界でどうなると思うかについていくつか推測してみるわ:
健康介入の普及。ワイがおそらく最も楽観的なのはこの分野や。実際に上からの運動によって病気が根絶されてきたんや: 天然痘は1970年代に完全に排除され、ポリオとギニア虫症は年間100例未満でほぼ根絶されとるんや。数学的に洗練された疫学モデリングが疾病根絶運動で積極的な役割を果たしとるし、人間より賢いAIシステムが人間よりもっとうまくこれをできる可能性がめっちゃ高いように思えるんや。配布のロジスティクスもおそらく大幅に最適化できるやろうな。ワイがGiveWellの初期の寄付者として学んだことの一つは、一部の健康慈善団体が他よりもずっと効果的ってことやねん。AI加速の努力がさらに効果的になることを期待しとるんや。さらに、一部の生物学的進歩は実際に配布のロジスティクスをずっと簡単にするんや: 例えば、マラリアは病気にかかるたびに治療が必要やから根絶が難しかったんやけど、一度だけ投与すればええワクチンがあれば、ロジスティクスがずっと簡単になるんや(そして、そういうマラリアのワクチンが実際に現在開発中なんや)。さらに単純な配布メカニズムも可能やな: 一部の病気は原則的に、その動物の媒介者をターゲットにすることで根絶できるんや。例えば、病気を運ぶ能力をブロックするバクテリアに感染した蚊を放出する(それが他のすべての蚊に感染する)とか、単に遺伝子ドライブを使って蚊を絶滅させるとかやな。これには一つか数回の中央集権的な行動が必要で、何百万人もの個人を個別に治療せなあかん協調的なキャンペーンは必要ないんや。全体的に見て、ワイはAI主導の健康上の利益のかなりの部分(たぶん50%)が5-10年で世界の最も貧しい国々にも普及すると思うんや。良い目標は、強力なAIの5-10年後の発展途上世界が、少なくとも今日の先進世界よりもかなり健康になることやろうな。たとえ先進世界に遅れを取り続けるとしてもな。もちろん、これを達成するには世界の健康、慈善活動、政治的支持活動、その他多くの努力で大規模な取り組みが必要になるやろう。AI開発者も政策立案者もこれを支援すべきやな。
経済成長。発展途上世界は、健康面だけやなく、経済全般でも先進世界に追いつくことができるんやろうか？これには先例があるんや: 20世紀の最後の数十年間、いくつかの東アジア経済は持続的な年間約10%の実質GDP成長率を達成して、先進世界に追いつくことができたんやな。人間の経済計画者がこの成功につながる決定を下したんや。経済全体を直接コントロールするんやなくて、いくつかの重要なレバー(輸出主導成長の産業政策や、天然資源の富に頼る誘惑に抵抗することなど)を引くことでな。「AI財務大臣や中央銀行総裁」がこの10%の成果を再現したり超えたりできる可能性は十分にあるんや。重要な問題は、自己決定の原則を尊重しながら、どうやって発展途上国の政府にそれらを採用させるかってことやな – 一部は熱心かもしれへんけど、他は懐疑的である可能性が高いんや。楽観的な側面では、前の項目で述べた多くの健康介入は、おそらく有機的に経済成長を増加させるやろうな: エイズ/マラリア/寄生虫の根絶は生産性に変革的な効果を与えるやろうし、一部の神経科学的介入(改善された気分や集中力など)が先進国と発展途上国の両方で持つ経済的利益も言うまでもないんや。最後に、非健康関連のAI加速技術(エネルギー技術、輸送用ドローン、改良された建材、より良いロジスティクスと流通など)は、単純に自然に世界に浸透する可能性があるんや。例えば、携帯電話でさえ慈善活動の努力なしで、市場メカニズムを通じてサハラ以南アフリカにすぐに浸透したんやな。もっとネガティブな側面では、AIと自動化には多くの潜在的な利点があるけど、特にまだ工業化してへん国々にとっては経済発展に課題をもたらすんや。これらの国々がAIの時代でも発展し、経済を改善できる方法を見つけることは、経済学者や政策立案者が取り組むべき重要な課題やな。全体として、夢のシナリオ – おそらく目指すべき目標 – は、発展途上世界で年間20%のGDP成長率を達成することやろうな。その内10%ずつがAI対応の経済的決定と、健康関連だけやなくAI加速技術の自然な普及から来るんや。もし達成できたら、これはサハラ以南アフリカを5-10年で中国の現在のGDP per capitaのレベルに引き上げ、発展途上世界の他の多くの部分を現在のアメリカのGDPよりも高いレベルに引き上げるやろうな。もう一度言うけど、これは夢のシナリオで、デフォルトで起こることやないんや: これをより可能性の高いものにするために、ワイら全員が協力して取り組まなあかんのやな。
食料安全保障。作物技術の進歩(より良い肥料や農薬、より多くの自動化、より効率的な土地利用など)が20世紀を通じて作物収量を劇的に増加させ、何百万人もの人々を飢餓から救ったんや。遺伝子工学は現在、多くの作物をさらに改良しとるんやな。これをさらに進める方法を見つけること – そして農業のサプライチェーンをさらに効率的にすること – は、AI主導の第二の緑の革命をもたらし、発展途上世界と先進世界の格差を縮める助けになるかもしれへんな。
気候変動の緩和。気候変動は発展途上世界でより強く感じられ、その発展を妨げるやろう。AIが気候変動を遅らせたり防いだりする技術を改善すると期待できるんや。大気中の炭素除去やクリーンエネルギー技術から、炭素集約的な工場型農業への依存を減らす培養肉まで、様々な技術やな。もちろん、上で議論したように、技術だけが気候変動への進歩を制限しとるわけやないんや – この文章で議論した他のすべての問題と同じように、人間社会の要因が重要なんや。でも、AI強化の研究が気候変動の緩和をずっと安価で破壊的でないものにする手段を与えてくれる可能性が高いと考える理由はあるんや。これによって、多くの反対意見が無意味になり、発展途上国がより多くの経済的進歩を遂げられるようになるやろうな。
国内の不平等。ワイは主に不平等をグローバルな現象として話してきた(これがその最も重要な現れやと思うんやけど)けど、もちろん不平等は国内にも存在するんや。先進的な健康介入、特に寿命の劇的な増加や認知機能強化薬によって、これらの技術が「金持ちだけのもの」になるという正当な懸念が確実に出てくるやろうな。ワイは国内の不平等、特に先進国の不平等についてはより楽観的なんや。二つの理由があるんや。まず、先進国では市場がより良く機能してて、市場は通常、高価値の技術のコストを時間とともに下げるのが得意なんや。次に、先進国の政治制度は市民の要求にもっと応答的で、普遍的なアクセスプログラムを実行するための国家能力がより大きいんや – そして、生活の質を劇的に改善する技術へのアクセスを市民が要求すると予想されるんやな。もちろん、そういう要求が成功するのは決まっとるわけやないんや – ここでもワイら全員が公平な社会を確保するためにできることをすべてせなあかんところやな。富の不平等(命を救う技術や生活を向上させる技術へのアクセスの不平等とは別)という別の問題があって、これはより難しく見えるんや。これについてはセクション5で議論するわ。
オプトアウト問題。先進国と発展途上国の両方で懸念されるのは、AIが可能にする利益から人々が自主的に離脱することやな(反ワクチン運動やより一般的なラッダイト運動に似たようなもんや)。例えば、良い決定を下す能力が最も低い人々が、その決定能力を改善するまさにその技術からオプトアウトすることで、ますます格差が広がり、最終的には反ユートピア的な下層階級を生み出すような悪い循環が起こる可能性があるんや(一部の研究者は、これが民主主義を弱体化させると主張しとる。この話題については次のセクションでさらに議論するわ)。これもまた、AIの前向きな進歩に道徳的な傷をつけることになるやろうな。これは解決が難しい問題やな。ワイは人々を強制するのは倫理的に正しくないと思うんやけど、少なくとも人々の科学的理解を高めようとすることはできるし – おそらくAI自体がこれを助けてくれる可能性があるんや。一つの希望的な兆候は、歴史的に見て反技術運動は吠え声の方が大きくて噛み付きは少なかったってことや: 現代技術に反対することは人気があるけど、ほとんどの人は最終的にはそれを採用するんや。少なくとも個人の選択の問題の場合はな。個人は健康や消費者技術のほとんどを採用する傾向があるけど、原子力発電みたいな本当に妨げられる技術は、集団的な政治的決定である傾向があるんや。
全体として、ワイはAIの生物学的進歩を発展途上世界の人々にすぐにもたらすことについて楽観的なんや。AIがまた前例のない経済成長率を可能にし、発展途上世界が少なくとも現在の先進世界を追い越すことを可能にすることを期待しとるけど、確信はないんや。ワイは先進国と発展途上国の両方での「オプトアウト」問題を懸念しとるけど、時間とともにそれが衰えていくと疑ってるし、AIがこのプロセスを加速するのを助けられると思うんや。完璧な世界にはならへんし、遅れとる人々は少なくとも最初の数年間は完全には追いつかへんやろう。でもワイらの強い努力があれば、物事を正しい方向に – しかも速く – 動かし始められるかもしれへんのや。もしそうなれば、地球上のすべての人間に約束した尊厳と平等の約束に対して、少なくとも頭金を支払うことができるんや。
4.平和とガバナンス
最初の3つのセクションのすべてがうまくいったとしよう: 病気、貧困、不平等が大幅に減少し、人間の経験のベースラインが大幅に上がるんや。でも、人間の苦しみの主要な原因がすべて解決されるわけやないんや。人間はまだお互いに脅威なんや。技術の改善と経済発展が民主主義と平和につながる傾向はあるけど、それはめっちゃゆるい傾向で、頻繁に(そして最近も)後退しとるんや。20世紀の始まりに、人々は戦争を克服したと思ったんや。でもその後、二つの世界大戦が起こったんやな。30年前、フランシス・フクヤマは「歴史の終わり」と自由民主主義の最終的な勝利について書いたんや。でもそれはまだ起こってへんのや。20年前、アメリカの政策立案者は中国との自由貿易が中国を豊かにするにつれて自由化させると信じてたんや。でもそれは全然起こらへんかったし、今では権威主義ブロックの復活と共に第二の冷戦に向かってるように見えるんや。そして、もっともらしい理論では、インターネット技術が実際には民主主義ではなく権威主義に有利に働く可能性があると示唆しとるんや(例えば「アラブの春」の時期に当初信じられてたようにはな)。強力なAIがこれらの平和、民主主義、自由の問題とどのように交差するかを理解しようとすることは重要に思えるんや。
残念ながら、ワイは人間の健康を構造的に進歩させ、貧困を緩和すると思うのと同じ方法で、AIが優先的にあるいは構造的に民主主義と平和を進歩させると信じる強い理由は見出せへんのや。人間の対立は敵対的で、AIは原則的に「良い奴ら」と「悪い奴ら」の両方を助けることができるんや。もしかしたら、いくつかの構造的な要因が心配に見えるかもしれへん: AIはプロパガンダと監視をずっとうまくできるようにする可能性が高いし、これらは独裁者のツールキットの主要なものやからな。だからこそ、ワイら個々の行動者として物事を正しい方向に傾けるのはワイらにかかっとるんや: もしAIに民主主義と個人の権利を支持してほしいなら
、ワイらはその結果のために戦わなあかんのや。ワイはこのことについて、国際的な不平等以上に強く感じとるんや: 自由民主主義と政治的安定の勝利は保証されてへんし、おそらく可能性さえ低いかもしれへん。そして、過去にしばしばそうやったように、ワイら全員の大きな犠牲と献身が必要になるやろうな。
ワイはこの問題を二つの部分に分けて考えとるんや: 国際的な対立と、国家の内部構造やな。国際的な側面では、強力なAIが作られるときに民主主義国家が世界の舞台で優位に立つことがめっちゃ重要に思えるんや。AI駆動の権威主義は考えるのも恐ろしすぎるから、民主主義国家が強力なAIが世界にもたらされる条件を設定できる必要があるんや。権威主義者に力で負けへんようにするためと、権威主義国家内での人権侵害を防ぐためにな。
ワイの現在の推測では、これを行う最善の方法は「協調戦略」を通じてやな。これは民主主義国の連合が、サプライチェーンを確保し、急速にスケールアップし、チップや半導体装置などの重要なリソースへの敵対者のアクセスをブロックしたり遅らせたりすることで、強力なAIで明確な優位性(一時的なものでもええ)を得ようとする戦略や。この連合は一方で、AIを使ってしっかりした軍事的優位性を達成し(ムチ)、同時に強力なAIの利益を(アメ)として、民主主義を促進するという連合の戦略を支持することと引き換えに、より広い国のグループに配布することを提供するんや(これは少し「平和のための原子」に似たようなもんやな)。連合は世界のより多くの支持を得ることを目指し、最悪の敵対者を孤立させて、最終的に世界の残りの部分と同じ取引を受け入れる方が良いという立場に追い込むんや: 民主主義国と競争するのをやめて、すべての利益を受け取り、優れた敵と戦わへんようにするってな。
もしワイらがこれをすべてできたら、民主主義国が世界の舞台をリードし、独裁政権に弱体化されたり、征服されたり、妨害されたりせんように経済的・軍事的な力を持つ世界になるやろう。そして、AIの優位性を永続的な優位性に変える可能性があるんや。これは楽観的に見れば、「永遠の1991年」 – 民主主義国が優位に立ち、フクヤマの夢が実現する世界 – につながる可能性があるんや。もう一度言うけど、これを達成するのはめっちゃ難しいやろうし、特に民間のAI企業と民主主義国の政府との緊密な協力が必要になるし、アメとムチのバランスについての非常に賢明な決定が必要になるやろうな。
それがすべてうまくいったとしても、各国内での民主主義と独裁の戦いという問題が残るんや。もちろん、ここで起こることを予測するのは難しいんやけど、最も強力なAIを民主主義国が制御する世界環境が与えられれば、AIが実際にどこでも構造的に民主主義を支持する可能性があるってことについて、ワイはいくらか楽観的なんや。特に、この環境では民主主義政府が優れたAIを使って情報戦に勝つことができるんや: 独裁政権の影響力やプロパガンダ作戦に対抗できるし、独裁政権が技術的にブロックしたりモニターしたりする能力がない方法で情報チャンネルやAIサービスを提供することで、グローバルに自由な情報環境を作り出すことさえできるかもしれへんのや。おそらくプロパガンダを配信する必要はなくて、悪意のある攻撃に対抗し、自由な情報の流れを解除するだけでええんや。即座ではないかもしれへんけど、このようなレベルの競争の場は、いくつかの理由で徐々にグローバルなガバナンスを民主主義に傾けるチャンスが十分にあるんや。
まず、セクション1-3での生活の質の向上は、他の条件が同じなら、民主主義を促進するはずやな: 歴史的に見て、少なくともある程度はそうやったんや。特に、メンタルヘルス、幸福感、教育の改善は民主主義を増加させると予想されるんや。これらすべてが権威主義的指導者への支持と負の相関関係にあるからな。一般的に、他のニーズが満たされると人々はより多くの自己表現を求めるようになるし、民主主義はとりわけ自己表現の一形態なんや。逆に、権威主義は恐怖とルサンチマンに依存して繁栄するんやな。
次に、独裁者が検閲できへん限り、自由な情報が実際に権威主義を弱体化させる可能性が高いんや。そして、検閲されてへんAIは個人に、抑圧的な政府を弱体化させるための強力なツールをもたらすこともできるんや。抑圧的な政府は、人々がある種の共通認識を持つのを妨げることで生き残っとるんや。「皇帝は裸や」ってことに人々が気付かへんようにしとるんやな。例えば、セルビアでミロシェビッチ政権を倒すのを助けたSrđa Popovićは、独裁者から心理的に力を奪い、呪縛を解いて、独裁者に対する支持を結集するテクニックについて詳しく書いとるんや。ポケットに入る、超人的に効果的なAIバージョンのPopović(彼のスキルは知能への高い収益率を持つように見えるんや)を、独裁者がブロックしたり検閲したりする力がない状態で、世界中の反体制派や改革者たちの後押しをするために使えるかもしれへんな。もう一度言うけど、これは長くて厳しい戦いになるやろうし、勝利は保証されへんけど、もしワイらが正しい方法でAIを設計して構築できれば、少なくともどこでも自由の擁護者たちが優位に立てる戦いになるかもしれへんのや。
神経科学や生物学と同じように、ワイらは「普通より良い」ことがどうなるか – つまり独裁政治を避けるだけやなくて、民主主義をどう今よりも良くできるか – も考えられるんや。民主主義国家の中でも、不正は常に起こっとるんや。法の支配の社会は市民に、みんなが法の下で平等で、基本的人権を持つという約束をしとるけど、明らかに人々は必ずしもそれらの権利を実際に受けとるわけやないんや。この約束が部分的にでも果たされとることは誇るべきことやけど、AIはワイらがもっと良くできるよう手伝えるんやろうか？
例えば、AIは決定やプロセスをより公平にすることで、ワイらの法的・司法システムを改善できるんやろうか？今日、ほとんどの人は法的や司法的な文脈でAIシステムが差別の原因になることを心配しとるし、これらの心配は重要で防御せなあかんのや。同時に、民主主義の活力は新しい技術を利用して民主主義制度を改善することにかかっとるんやな。リスクに対応するだけやなくてな。本当に成熟して成功したAIの実装には、偏見を減らしてみんなにとってより公平になる可能性があるんや。
何世紀もの間、法システムは法が公平であることを目指しとるけど、本質的に主観的で、偏見のある人間によって解釈せなあかんというジレンマに直面してきたんや。法を完全に機械的にしようとしても、現実世界は混沌としてて、数学的な公式で常に捉えられるわけやないからうまくいかへんかったんや。その代わりに、法システムは「残虐で異常な刑罰」や「全く社会的な救済価値がない」みたいな、有名な曖昧な基準に依存しとるんや。そして人間がこれらを解釈する – そしてしばしば偏見、ひいき、恣意性を示す方法で解釈するんやな。暗号通貨の「スマートコントラクト」が法を革命化せんかったのは、普通のコードが興味深いことのほとんどを裁定するほど賢くないからや。でもAIはこれに十分賢いかもしれへんのや: これは繰り返し可能で機械的な方法で、広範で曖昧な判断を下すことができる初めての技術なんや。
ワイは文字通り裁判官をAIシステムに置き換えることを提案しとるわけやないんや。でも、公平性と混沌とした現実世界の状況を理解し処理する能力の組み合わせは、法律と正義に何らかの真剣なプラスの応用があるように感じるんや。少なくとも、そういうシステムは意思決定の補助として人間と一緒に働くことができるやろうな。そんなシステムでは透明性が重要になるやろうし、成熟したAIの科学はそれを提供できるかもしれへんのや: そういうシステムのトレーニングプロセスを広範に研究できるし、高度な解釈可能性技術を使って最終モデルの中を見て、隠れた偏見がないか評価することができるんや。これは単純に人間では不可能なことやな。そういうAIツールは、司法や警察の文脈で基本的な権利の違反を監視するのにも使えるかもしれへんし、憲法をより自己執行的にすることもできるやろうな。
同じような流れで、AIを使って市民の意見を集約したり、合意を形成したりすることもできるんや。対立を解決し、共通の基盤を見つけ、妥協を探ることができるんやな。この方向での初期のアイデアは、Anthropicとの共同研究を含む計算民主主義プロジェクトによって行われとるんや。より情報に通じて思慮深い市民は、明らかに民主主義制度を強化するやろうな。
AIを使って、原則的にはみんなが利用できるはずやけど実際にはしばしばひどく不足してて、場所によって悪くなるような政府サービス – 健康給付や社会サービスなど – を提供するのを助けるという明確な機会もあるんや。これには健康サービス、運転免許証センター、税金、社会保障、建築基準法の執行などが含まれるんや。あなたが法的に政府から受ける権利のあるものすべてを、あなたが理解できる方法で与えてくれる – そして、しばしば混乱する政府の規則を遵守するのも助けてくれる – 非常に思慮深くて情報に通じたAIがいるってのは大きな違いになるやろうな。国家の能力を高めることは、法の下の平等という約束を果たすのを助けるし、民主的なガバナンスへの尊重を強めるんや。現在、サービスの不十分な実施は政府に対する冷笑主義の大きな原因になっとるんやな。
これらはすべてやや漠然としたアイデアやし、このセクションの最初に言うたように、ワイはこれらの実現可能性について、生物学、神経科学、貧困緩和での進歩ほど確信を持ってへんのや。非現実的に理想主義的かもしれへん。でも重要なのは野心的なビジョンを持つことや。大きな夢を見て、物事を試してみる意欲を持つことなんや。AIを自由、個人の権利、法の下の平等の保証人として見るビジョンは、戦わんにはあまりにも強力なビジョンなんや。21世紀のAI対応の政体は、個人の自由のより強力な保護者になれるかもしれへんし、世界中がそれを採用したくなるような希望の光になれるかもしれへんのや。
5.仕事と意味
前の4つのセクションのすべてがうまくいったとしても – 病気、貧困、不平等を緩和するだけやなく、自由民主主義が支配的な政府形態になり、既存の自由民主主義がより良いバージョンになったとしても – 少なくとも一つの重要な問題が残るんや。「技術的に進んだ世界に住んでて、公平で品位のある世界に住んでるのはええけど」と誰かが反論するかもしれへん。「でも、AIがすべてをやってまうなら、人間はどうやって意味を見出すんやろ？そもそも、経済的にどうやって生き延びるんやろ？」
ワイはこの質問が他の質問よりも難しいと思うんや。必ずしもこの質問について他の質問よりも悲観的やってわけやないんや(ただし、課題は見えとるけどな)。ワイが言うとるのは、これが社会がどのように組織されるかについてのマクロな質問に関係しとるから、より曖昧で予測が難しいってことなんや。こういう質問は時間をかけて分散的にしか解決されへん傾向があるんやな。例えば、歴史的な狩猟採集社会は、狩りや狩りに関連するいろんな宗教的儀式なしでは人生に意味がないと想像したかもしれへんし、ワイらの十分に食べ物のある技術的な社会が目的を欠いてると想像したかもしれへんのや。彼らはまた、ワイらの経済がどうやってみんなに供給できるのか、あるいは機械化された社会で人々がどんな有用な機能を果たせるのかを理解できへんかったかもしれへんな。
それでも、少なくともいくつかの言葉を言う価値はあるんや。ただし、このセクションの簡潔さは、ワイがこれらの問題を真剣に受け止めてへんってサインやないってことを覚えといてな – 逆に、明確な答えがないってサインなんや。
意味の問題について、AIがそのタスクをより上手にできるからって、あなたが行うタスクに意味がないと信じるのはおそらく間違いやと思うんや。ほとんどの人は世界で何かの一番になってへんし、それにあまり悩んでへんようやな。もちろん今日では比較優位を通じて貢献できるし、生み出す経済価値から意味を引き出すかもしれへんけど、人々は経済的価値を生み出さへん活動も大いに楽しんでるんや。ワイはビデオゲームをしたり、泳いだり、外を歩いたり、友達と話したりするのにようけ時間を費やしとるけど、これらは全く経済的価値を生み出してへんのや。ワイはビデオゲームが上手くなろうとしたり、山を自転車で登るのが速くなろうとしたりする日を過ごすかもしれへんけど、どこかに誰かがそれらのことをずっと上手にできるってことはあまり気にせえへんのや。いずれにしても、ワイは意味は主に人間関係やつながりから来ると思うんや。経済的労働からやないんやな。人々は達成感、さらには競争の感覚を求めとるし、ポストAIの世界でも、今日人々が研究プロジェクトに着手したり、ハリウッドの俳優になろうとしたり、会社を設立したりするのと同じように、何年もかけて非常に難しいタスクに複雑な戦略で取り組むことは完全に可能やろうな。(a)どこかのAIが原則的にこのタスクをより上手にできるかもしれへんってことと、(b)このタスクがもはやグローバル経済の経済的に報酬を受ける要素やないってことは、あまり重要やないように思えるんや。
経済的な部分は、実際には意味の部分よりも難しく思えるんや。このセクションで「経済的」っていうのは、ほとんどまたはすべての人間が十分に進んだAI駆動の経済に意味のある貢献ができなくなる可能性がある問題のことやな。これは、特に新しい技術へのアクセスの不平等という、セクション3で議論した別の不平等の問題よりもマクロな問題なんや。
まず最初に、短期的には比較優位が人間を関連性のあるものに保ち続け、実際には彼らの生産性を増加させ、さらにある意味で人間間の競争の場を平等にする可能性があるという議論に同意するんや。AIが特定の仕事の90%だけより優れとる限り、残りの10%によって人間は非常にレバレッジが効くようになり、報酬が増加し、実際にAIが得意なことを補完し増幅する新しい人間の仕事がようけ作られて、その「10%」が引き続きほぼ全員を雇用し続けるようになるんやな。実際、AIが100%のことを人間よりもうまくできるようになっても、一部のタスクで非効率や高価なままやったり、人間とAIへのリソース入力が意味のある違いを持ってるなら、比較優位の論理は引き続き適用されるんや。人間が相対的な(あるいは絶対的な)優位性を維持する可能性が高い分野の一つは物理的な世界やな。だから、ワイは人間経済が「データセンターの中の天才の国」の段階をちょっと過ぎても意味を持ち続ける可能性があると思うんや。
でも、ワイは長期的にはAIがめっちゃ広範に効果的になって、めっちゃ安くなるから、これはもう当てはまらへんようになると思うんや。その時点で、ワイらの現在の経済の仕組みはもう意味をなさへんようになって、経済をどう組織すべきかについて、より広い社会的な議論が必要になるやろうな。
これは狂ったように聞こえるかもしれへんけど、実際、文明は過去に大きな経済的変化をうまく乗り越えてきたんや: 狩猟採集から農業へ、農業から封建制へ、封建制から産業主義へってな。ワイは、今日誰も上手く想像できてへんような新しくてより奇妙なものが必要になると思うんや。それは単純にみんなに大きな普遍的基本所得を与えるってことかもしれへんけど、ワイはそれは解決策のほんの一部にしかならへんと思うんや。AIシステムの資本主義経済かもしれへんし、それからAIシステムが(最終的には人間の価値観から導き出された何らかの判断に基づいて)人間に報酬を与えるのが理にかなっていると思うものに基づいて、リソース(全体の経済パイがめっちゃ巨大になるから、めっちゃ大量のリソース)を人間に分配するかもしれへんな。あるいは経済がウーフィーポイントで動くかもしれへん。あるいは、人間が通常の経済モデルでは予想されへん方法で経済的に価値があり続けるかもしれへんのや。これらの解決策にはすべてようけの問題がある可能性があるし、実際にたくさんの反復と実験をせんと、それらが意味をなすかどうかはわからへんのや。そして、他の課題と同じように、ワイらはここでもええ結果を得るために戦わなあかんやろうな: 搾取的やディストピア的な方向性も明らかに可能やし、それは防がなあかんのや。これらの問題についてはもっとようけ書けるし、いつかそうしたいと思うんや。
まとめ
上記の様々なトピックを通じて、ワイはAIについてすべてがうまくいった場合に可能な世界のビジョンを示そうとしたんや。この世界は現在の世界よりずっとええもんやな。ワイはこの世界が現実的かどうかわからへんし、たとえそうやとしても、多くの勇敢で献身的な人々の莫大な努力と闘争なしには達成されへんやろう。みんな(AIの会社も含めて！)がリスクを防ぎ、利益を十分に実現するために自分の役割を果たさなあかんのや。
でも、これは戦う価値のある世界なんや。もしこれらすべてが本当に5年から10年で起こるんやったら – ほとんどの病気の克服、生物学的・認知的自由の成長、何十億もの人々が貧困から抜け出して新しい技術の恩恵を受けること、自由民主主義と人権のルネサンス – ワイはそれを見てる人みんなが、それが自分に与える影響に驚くんやないかと思うんや。ワイが言うとるのは、すべての新しい技術から個人的に利益を得る経験のことやないんや。それはもちろんめっちゃすごいことやけどな。ワイが言うとるのは、長年抱いてきた理想の集合が、ワイらの目の前で一気に具現化するのを見る経験のことなんや。ワイは、多くの人が文字通り涙を流すんやないかと思うんや。
この文章を書いてる間中、ワイは面白い緊張関係に気づいたんや。ある意味で、ここに示したビジョンはめっちゃ急進的なんや: これはほとんどの人が次の10年間に起こると予想してへんことやし、多くの人にとっては馬鹿げたファンタジーのように思えるかもしれへん。中には望ましくないと思う人もおるかもしれへんな。これはみんなが同意せんかもしれへん価値観や政治的選択を具現化しとるんや。でも同時に、これについては何かめっちゃ明白な – 何か過剰に決定されたような – ものがあるんや。まるで、ええ世界を想像するためのいろんな試みが、必然的にほぼここに行き着くみたいな感じやな。
イアン・M・バンクスの『ゲームの達人』では、主人公 – カルチャーと呼ばれる社会のメンバーで、ここで示したものと似たような原則に基づいとる – が、リーダーシップが複雑な戦闘ゲームでの競争によって決まる抑圧的で軍国主義的な帝国に旅をするんや。でも、そのゲームはプレイヤーの戦略がその人の政治的・哲学的な見方を反映するほど複雑なんや。主人公は皇帝をゲームで打ち負かすことに成功して、彼の価値観(カルチャーの価値観)が、冷酷な競争と適者生存に基づく社会によって設計されたゲームでさえ勝利する戦略を表してることを示すんや。スコット・アレクサンダーのよく知られた投稿も同じ主張をしとるんや – 競争は自滅的で、思いやりと協力に基づく社会につながる傾向があるってな。「道徳的宇宙の弧」も似たような概念やな。
ワイはカルチャーの価値観が勝利する戦略やと思うんや。なぜなら、それらは明確な道徳的力を持つ百万の小さな決定の総和で、みんなを同じ側に引き寄せる傾向があるからや。公平性、協力、好奇心、自律性についての基本的な人間の直感は反論しにくいし、ワイらのより破壊的な衝動がしばしばそうでないのとは対照的に、累積的なんや。子供たちが病気で死ぬべきやないってのは、もしワイらがそれを防げるんやったら、簡単に主張できるし、そこからみんなの子供たちが平等にその権利を持つべきやって主張するのも難しくないんや。そこから、ワイら全員がこの結果を達成するために団結して知性を適用すべきやって主張するのも難しくないんや。ほとんどの人は、他人を不必要に攻撃したり傷つけたりした人は罰せられるべきやって同意するし、そこから罰は人々の間で一貫して体系的であるべきやって主張するのもそれほど飛躍やないんや。人々が自分の人生と選択に対して自律性と責任を持つべきやっていうのも同じように直感的なんや。これらの単純な直感を論理的な結論まで追求すると、最終的に法の支配、民主主義、啓蒙の価値観につながるんや。必然的にというわけやないかもしれへんけど、少なくとも統計的な傾向として、これが人類が既に向かっとる方向やったんや。AIは単にそこにより速く到達する機会を提供しとるだけなんや – その論理をより鮮明にし、目的地をより明確にするんやな。
それでも、これは超越的な美しさを持つもんや。ワイらはそれを現実のものにするために小さな役割を果たす機会を持っとるんや。
この文章のレビューをしてくれたKevin Esvelt、Parag Mallick、Stuart Ritchie、Matt Yglesias、Erik Brynjolfsson、Jim McClave、Allan Dafoe、そしてAnthropicの多くの人々に感謝するわ。
2024年のノーベル化学賞受賞者たちへ。ワイらみんなに道を示してくれてありがとう。
脚注
1https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace ↩
2ワイは少数の人々の反応が「これはかなり控えめや」になると予想しとるんや。ワイはそういう人々は、Twitterの言葉で言うと「草に触れる」必要があると思うんや。でももっと重要なのは、控えめなのは社会的な観点からええってことなんや。ワイは人々が一度に対処できる変化には限界があると思うし、ワイが描写しとるペースは、おそらく極端な混乱なしに社会が吸収できる限界に近いんやないかと思うんや。↩
3ワイはAGIが不正確な用語で、多くのSF的な荷物やハイプを集めてきたと思うんや。ワイは「強力なAI」や「専門家レベルの科学と工学」の方が、ワイが意味しとることをハイプなしで伝えられると思うんや。↩
4この文章では、ワイは「知能」を、多様な領域に適用できる一般的な問題解決能力を指すのに使っとるんや。これには推論、学習、計画、創造性などの能力が含まれるんや。ワイはこの文章全体で「知能」を略語として使っとるけど、知能の性質が認知科学やAI研究の複雑で議論の的になるトピックやってことは認識しとるんや。一部の研究者は、知能が単一の統一された概念やないけど、別々の認知能力の集まりやって主張しとるんや。他の研究者は、様々な認知スキルの基礎となる一般的な知能因子(g因子)があると主張しとるんや。これは別の機会の議論やな。↩
5これは現在のAIシステムのおおよその速度や – 例えば、1ページのテキストを数秒で読んで、1ページのテキストを20秒くらいで書けるんや。これは人間がこれらのことをできる速度の10-100倍やな。時間とともに、より大きなモデルはこれを遅くする傾向があるけど、より強力なチップはこれを速くする傾向があるんや。これまでのところ、この二つの効果はほぼ打ち消し合っとるんや。↩
6これは藁人形の議論に見えるかもしれへんけど、Tyler CowenやMatt Yglesiaみたいな慎重な思想家たちがこれを真剣な懸念として提起しとるんや(彼らが完全にこの見方を持っとるわけやないと思うけどな)。そしてワイはこれが狂ってるとは思わへんのや。↩
7ワイが知ってる限り、この質問に取り組む最も近い経済学の研究は、「汎用技術」と「汎用技術を補完する無形投資」に関する研究やな。↩
8この学習には、一時的な文脈内学習や従来のトレーニングが含まれる可能性があるんや。どちらも物理的世界によってレート制限されるやろうな。↩
9カオス系では、小さな誤差が時間とともに指数関数的に積み重なるから、計算能力を大幅に増やしても、どれだけ先まで予測できるかについてはほんの少しの改善しかもたらさへんのや。そして実際には、測定誤差によってこれがさらに悪化する可能性があるんや。↩
10もちろん、もう一つの要因は、強力なAI自体がさらに強力なAIを作るのに潜在的に使用できるってことやな。ワイの仮定では、これは起こる(実際、おそらく起こるやろう)けど、その効果は想像するよりも小さいかもしれへんのや。まさにここで議論した「知能への収益逓減」のためやな。言い換えると、AIは急速に賢くなり続けるやろうけど、その効果は最終的に非知能的な要因によって制限されるやろうし、それらを分析することがAI以外の科学の進歩の速度にとって最も重要なんや。↩
11これらの成果はワイにとってインスピレーションやったし、おそらくAIを使って生物学を変革する最も強力な既存の例やな。↩
12「科学の進歩は新しい技術、新しい発見、新しいアイデアに依存しとる。おそらくこの順序でな。」- Sydney Brenner ↩
13このポイントを提案してくれたParag Mallickに感謝するわ。↩
14ワイはAI対応の科学がどんな具体的な将来の発見をする可能性があるかについての推測でテキストを詰め込みたくなかったんやけど、ここにいくつかのアイデアをブレインストーミングしとくわ:
— AlphaFoldやAlphaProteoみたいなより良い計算ツールの設計 – つまり、汎用AIシステムが専門的なAI計算生物学ツールを作る能力を加速させるってことやな。
— より効率的で選択的なCRISPR。
— より高度な細胞療法。
— 材料科学と小型化のブレークスルーによる、より良い埋め込み型デバイス。
— 幹細胞、細胞分化、脱分化に対するより良い制御、そしてそれによる組織の再生や再形成の能力。
— 免疫システムに対するより良い制御: がんや感染症に対処するために選択的にオンにしたり、自己免疫疾患に対処するために選択的にオフにしたりするんや。↩
15AIはもちろん、実行する実験の選択をより賢くすることも助けられるやろうな: 実験設計の改善、最初の実験ラウンドからより多くを学んで2回目のラウンドで重要な質問に絞り込めるようにすることなどやな。↩
16このポイントを提案してくれたMatthew Yglesiasに感謝するわ。↩
17速く進化する病気、例えば事実上病院を進化の実験室として使って治療への耐性を継続的に改善する多剤耐性株は、特に扱いにくいかもしれへんし、100%に到達するのを防ぐような種類のものかもしれへんな。↩
18人間の寿命を倍にしたってことを5-10年以内に知るのは難しいかもしれへんな。達成してたとしても、研究期間内にはまだわからへんかもしれへんのや。↩
19これは、病気を治すことと老化プロセス自体を遅らせることの明らかな生物学的な違いにもかかわらず、ワイが統計的傾向をより遠くから見て「細部は違うけど、人間の科学はおそらくこの傾向を続ける方法を見つけるやろう。結局のところ、複雑なもののスムーズな傾向は必然的にめっちゃ異質な要素を足し合わせて作られとるんや」って言うてもええと思う一つの場所やな。↩
20例として、ワイは生産性成長が年間1%あるいは0.5%増加するだけでも、これらのプログラムに関する予測に変革をもたらすって聞いたことがあるんや。この文章で考えとるアイデアが実現すれば、生産性の向上はこれよりずっと大きくなる可能性があるんや。↩
21メディアは高い地位にあるサイコパスを好んで描くけど、平均的なサイコパスはおそらく経済的見通しが悪くて衝動制御が下手な人で、かなりの時間を刑務所で過ごすことになるんやろうな。↩
22ワイはこれが、ワイらが解釈可能性から学んでる結果の多く(おそらくすべてやないけど)が、現在の人工ニューラルネットのアーキテクチャの詳細の一部、例えば注意機構が何らかの方法で変更されたり置き換えられたりしても、引き続き関連性を持つやろうってことに少し似とると思うんや。↩
23ワイはこれが、古典的なカオス系と少し似とると疑っとるんや – 分散的な方法でしか管理できへん不可避の複雑さに悩まされとるんやな。ただし、このセクションの後半で言うように、より控えめな介入は可能かもしれへんけどな。これに対する反論として、経済学者のErik Brynjolfssonがワイに言うたのは、大企業(例えばWalmartやUber)が消費者をどんな分散プロセスよりも上手く理解できるほど十分な中央集権的な知識を持ち始めとるってことや。これはハイエクの誰が最高のローカルな知識を持っとるかについての洞察を修正せなあかんかもしれへんな。↩
24このポイントを提案してくれたKevin Esveltに感謝するわ。↩
25例えば、携帯電話は最初は金持ち向けの技術やったけど、すぐにめっちゃ安くなって、年々の改良が速すぎて「高級」携帯電話を買う利点がなくなったんや。今日では、ほとんどの人が同じような質の携帯電話を持っとるんやな。↩
26これは、ワイが描写したような戦略の概要を示すRANDの近刊の論文のタイトルやな。↩
27平均的な人が公共機関について考えるとき、おそらく運転免許証センター、国税庁、メディケア、あるいは同様の機能での経験を思い浮かべるやろうな。これらの経験をより前向きにすることは、過度の冷笑主義と戦う強力な方法に思えるんや。↩
28実際、AI駆動の世界では、そういう可能な挑戦やプロジェクトの範囲は今日よりもずっと広くなるやろうな。↩
29ワイはSFについて言及せんっていう自分のルールを破っとるんやけど、それに少なくとも少し言及せんのは難しいって気づいたんや。真実は、SFが未来について拡張的な思考実験の唯一の源の一つやってことなんや。それが特定の狭いサブカルチャーとめっちゃ絡み合ってるってことは、何か悪いことを言うとるんやと思うわ。↩
コメント