OpenAIが掲げるAGI（汎用人工知能）開発の裏に隠された、社会を破壊しかねない危うい計画を告発する内容である。華やかな「インテリジェンス・エイジ」の約束とは裏腹に、人間のスキルの無価値化、莫大なリソース消費による経済的リスク、そして一握りの企業が知能を独占する「アルゴリズム封建制」への懸念を鋭く指摘している。
履歴書の死
あなたはすでに取って代わられ始めています。ただ、まだそれに気づいていないだけなのです。人工知能は便利なツールとして売り出されましたが、今日あなたを助けているその同じシステムが、静かにあなたの仕事を奪う方法を学んでいます。あなたが時間を節約している間に、AIはあなたに取って代わる準備をしていたのです。テック業界のボスたちは、いわゆるインテリジェンス・エイジ（知能の時代）を切り開こうとしています。そこでは、機械があらゆる困難で退屈で危険な仕事を引き受け、人間はエキサイティングな新しい機会を追求する自由を手にするとされています。
しかし、その輝かしい約束の下には、より暗い真実が隠されています。舞台裏では、あなたのスキルが消し去られようとしているのです。あなたの経験に価値はなくなり、あなたの未来はすでに書き換えられています。そしてその未来に、あなたの居場所はありません。これがOpenAIの嘘です。もしこれが成功すれば、単に働き方が変わるだけでなく、社会そのものが崩壊してしまうでしょう。
働く世界は変わりましたが、一つだけ常に変わらないものがありました。それが履歴書です。そこに書かれた一行一行、あらゆる実績、徹夜した夜や早起きした朝のすべてが、あなたが今の地位を勝ち取るために戦ってきた証です。それは単なる紙切れではなく、あなたの物語なのです。あなたは扉を開き、敬意を勝ち取り、自ら掴み取った機会を主張するために、履歴書を頼りにしてきました。しかし今、それが攻撃にさらされています。
サム・アルトマンや他のシリコンバレーのCEOたちは、あなたが何年もかけて習得してきたスキルなど気にしていません。AIエージェントがそれらを学習してしまえば、そんなものは無意味になります。大学で何百万円も払って学んだ専門科目も、大規模言語モデルが要求に応じてあらゆる詳細を暗唱できるようになれば、誰も感銘を受けないでしょう。出世の階段を登るために注ぎ込んだ膨大な時間も、24時間体制で稼働する全能で全知のAIの前では何の意味も持ちません。AIはあなたが手掛けるあらゆることを、より速く、より安く、より効率的にこなすことができるのです。
これこそが、OpenAIや他の企業が構築を急いでいる未来です。ただし、彼らはそれをそのようには捉えていません。彼らにとって、汎用人工知能、すなわちAGIの台頭は祝福すべきことなのです。この次世代のAIは単に支援するだけでなく、人間のように思考します。ある業界から別の業界へとシームレスに移動し、問題を解決し、OpenAI自身の言葉を借りれば、ほとんどの経済的に価値のある仕事において人間を凌駕するようになります。言い換えれば、人間ができることなら何でも、AGIはより上手くこなせるようになるということです。
そしてこれは、遠い未来のSFの夢物語ではありません。2024年に始まったカウントダウンなのです。OpenAIは2030年までにその目標を達成することを見込んでいます。そしてサム・アルトマンは、これ以上ないほど興奮しています。2024年9月に公開された「インテリジェンス・エイジ」というブログ記事の中で、彼はこう述べています。
未来は非常に輝かしいものになると信じており、今それを書こうとしても誰もその素晴らしさを正当に表現することはできません。インテリジェンス・エイジの決定的な特徴は、莫大な繁栄になるでしょう。
彼は、何世代にもわたって人類を苦しめてきた問題を解決し、人類が夢見てきたことを成し遂げることについて語っています。気候危機の解決、宇宙への植民地建設、科学における画期的な進歩などです。また、彼はAGIに対する恐怖をなだめようとして、テクノロジーが進歩するたびに歴史は常に古い仕事を新しい仕事に置き換えてきたと主張しています。
しかし、今回はそれほど単純ではありません。仕事は置き換えられたり失われたりするのではなく、ただ「変化」するだけだと彼は言います。そして、人間には先天的な創造への欲求があるため、やるべきことがなくなる心配はない、AIは私たちの能力をかつてないほど増幅させてくれるだろう、と付け加えています。
サム・アルトマンはこのビジョンをうまく売り込んでいますが、よく見れば、亀裂は明らかです。もし彼が望む通りにAGIが「経済的に価値のある仕事」をすべて引き継いだとしたら、大学の卒業生はどうなるのでしょうか。ホワイトカラーの労働者は、あるいはキャリアの階段に足をかけようともがいているエントリーレベルの従業員はどうなるのでしょうか。残念ながら、彼らはOpenAIが描く未来のビジョンには当てはまりません。なぜなら、もし機械がジュニアアソシエイトや新人社員の仕事をわずかなコストでこなせるなら、その従業員はもはや資産ではなく、負債でしかないからです。
サム・アルトマンはこれを「解放」だと表現したがっています。機械が退屈な仕事をすべてこなし、人間が創造性を追求できる世界。彼らは人類に力を与えると同時に、人類を凌駕するツールを作っていると主張しています。この矛盾に気づきましたか。この二つの考えは、現実的には共存できません。労働者の核心的なスキルセットを完全に時代遅れにすることで、その労働者に力を与えることなど不可能です。そして、人々が実際に基本的にお金を稼ぐ手段を取り除いてしまったら、経済を構築することなどできないのです。
OpenAIの2030年のAGI予測は、それを動かすためのソフトウェアがすでに存在しているに違いないことを示唆しています。しかし、ハードウェアについては全く別の話です。
数学的な蜃気楼
AIの世界はスケーリング則（スケーリング・ロー）に支配されています。基本的には、より多くのデータを追加し、より多くの処理能力、つまり計算リソース（コンピュート）を投入すれば、AIはより賢く、より有能になるという考え方です。理論上、これに天井はありません。企業は毎年、より多くのデータと計算能力を注ぎ込み続け、モデルが新たな天才的レベルに到達するのを見守るだけでいいのです。OpenAIは、AGIには膨大な量のリソースが必要であることをすでに認めています。サム・アルトマンは、巨大な計算クラスタを構築するために、膨大な量のエネルギーとチップを買い占めることについて語っています。その目標は、計算コストを事実上無制限で、豊富で、安価で、どこにでもある状態にまで押し下げることです。
これもまた、完璧で理想郷のように聞こえます。しかし、それは幻想であり、儚い夢に過ぎません。
AGI革命を推進するために、OpenAIはいわゆる「スターゲート・プロジェクト（Stargate Project）」に全力を注いでいます。これは、米国にOpenAIのための全く新しいAIインフラを構築する共同事業です。まずは、巨大なスーパーコンピュータ・クラスタに1,000億ドルという目もくらむような巨額の資金を投じることから始まります。そしてそれは、2030年までに最終的に5,000億ドルのコストがかかるとされる長期的なスターゲート・ビジョンの第一歩に過ぎません。なぜなら、AIは強欲だからです。常にさらなるデータ、さらなるリソース、さらなる電力を求めています。
一部の専門家によれば、OpenAIが現在のペースで進み続けるなら、2年ごとに10倍のデータと100倍の計算能力が必要になるといいます。つまり、データセンターやエネルギー、ハードウェアにさらに何千億ドルも投じなければならないということです。最も豊かな経済国でさえ、それを維持するのは困難でしょう。そしてOpenAIは豊かな国家ではありません。利益を上げているビジネスですらないのです。
現在、同社は巨額の赤字を出して運営されており、2024年の収益34億ドルに対し、50億ドルの損失を出しています。会社は現金を焼き尽くしている状態です。わかりやすく言えば、その50億ドルの損失は、リベリア、スリナム、グリーンランド、あるいはカリブ海諸国のいくつかの国のGDP全体に匹敵します。たった一つの会社が、国家の経済を動かすのと同じ額の金を毎年燃やし続けているのです。これは持続可能ではありません。絶望的な状況です。
長期的に見れば、サム・アルトマンは世界のチップ製造構想を構築するために7兆ドルの投資が必要だとさえ語っています。これは世界のGDP全体の約7%に相当します。これらすべて、何十億ドルもの支出、スーパーコンピュータの建設、消費されるエネルギーは、AGIを達成するのに十分であることを期待して行われています。そして、どういうわけか、その何千億ドルという投資を返済できるほどの富を生み出すというのです。これはギャンブルです。世界がこれまで見たこともないような、そしてシリコンバレーが好んで乗るような大博打です。
テック業界の一部は「ブリッツスケーリング」で動いています。製品を作り、市場を独占するために、まずは先行投資で赤字を出すという考え方です。初期の混乱が収まれば、いつか価格を上げて利益をがっぽり稼げるという希望に基づいています。しかし、物理法則をブリッツスケーリングすることはできません。それは物理的な奇跡を前提としています。ハイエンドの半導体と計算リソースが、10年足らずで10倍にスケールアップするという考え。それは不可能です。決して起こり得ないことです。
そして、AGI革命に必要なエネルギー需要については、まだ触れてもいません。
デジタルな神に電力を供給する
たとえAGIに必要な巨大なクラスタが建設されたとしても、そのすべてにどうやって電力を供給するのでしょうか。デジタルの世界は決して重さがないわけではありません。ハードウェアに依存しており、そのハードウェアはコンセントに繋いで電力を供給しなければなりません。それも、今とは数百万倍も異なる規模で、です。
ChatGPTのたった一つのクエリ（質問）が、Google検索の約10倍の電力を消費すると推定されています。これは、小さなLED電球を約20分間点灯させるのに必要な電力とほぼ同じです。これをスケールアップしてみてください。何十億ものユーザー、毎時間何百万ものクエリが行われる規模に広げるのです。その結果、現在の電力網が対応できる範囲を遥かに超えた、世界が未だかつて経験したことのないようなエネルギー需要が発生します。
英国の半導体・ソフトウェア設計会社Arm HoldingsのCEOであるレネ・ハースは、AIデータセンターが2030年までに米国の全電力供給の最大25%を食いつぶす可能性があると考えています。現在、AIが使用しているのは米国の供給量のわずか4%です。他の専門家もこれに同意しており、拡大し続けるAI業界に追いつくためだけに、米国は電力網の容量を約20%拡大する必要があると主張しています。実数に換算すると、米国は10年足らずの間に、ドイツのような主要な欧州国家の全発電容量を自国の電力網に追加しなければならないことになります。
繰り返しますが、これは単に野心的であるだけではありません。不可能なのです。発電所は一晩で出来上がるものではありません。この種の膨大な電力を供給できる唯一の炭素フリー電源である原子力発電所は、建設に10年以上かかることもあります。規制や遅延、予期せぬ建設上の障害により、さらに長引くことも珍しくありません。テック業界の億万長者たちも、このことは知っています。彼らは知的な人々ですから。しかし、彼らは自分の望みを叶えるために、ルールを曲げたり破ったりできると信じているようです。
マイクロソフトは、AIの飽くなき食欲を満たすために、スリーマイル島原子力発電所のプロジェクトを再開しようとしています。これもまた絶望的な行動の一つです。大規模な民間電源がなければ、インテリジェンス・エイジが2030年までに到来する可能性はゼロであるという明確な兆候です。
そして、電力だけが問題ではありません。一つのデータセンターには、数百万本の高圧銅ケーブルと巨大な変圧器が必要です。世界の銅のサプライチェーンは、他の産業や電気自動車の急増により、すでに限界に達しています。専門家は、2020年代後半にはフル稼働に達し、それでも世界的な需要に対して少なくとも10%不足すると予測しています。世界には、AGIの推進を後押しするための原材料が単純に足りないのです。
これは推測ではなく、事実です。世界有数のエネルギー専門家であるヴァーツラフ・シュミルは、何十年もエネルギー転換を研究してきました。そして彼は、それがいかにゆっくり進むかを知っています。数年ではなく、数世代かかるものなのです。シュミルはこう警告しています。
シリコンバレーの「宇宙の支配者」気取りの連中は、エネルギー転換が、彼らの手の届かない時間軸と技術的制約に左右されるものであることに気づいてしまった。
しかし、もしアルトマンとOpenAIが、エネルギー革命が金だけでは強制できないことを知っているのなら、なぜ2030年という約束を掲げ続けるのでしょうか。このインフラ競争で、彼らは本当は何を構築しようとしているのでしょうか。
コンピュート地主階級（計算リソースの貴族）
ここからが本当に憂慮すべきところです。歴史が示すように、新しい生産手段が登場するとき、権力が広く分散することは滅多にありません。それは一握りの者の手に留まります。蒸気の時代には鋼鉄王がいました。インターネットの時代はISP（プロバイダー）が支配しました。そして今、AIの時代において、権力は石油の樽数やドルではなく、「FLOPS（1秒あたりの浮動小数点演算回数）」で測られるようになります。
計算リソース（コンピュート）を支配する者が、未来を支配するのです。つまり、新しいエリート階級が誕生することを意味します。いわゆる「コンピュート・ジェントリー（計算リソースの地主階級）」です。元OpenAIの研究者であるレオポルド・アッシェンブレンナーは、警鐘を鳴らし続けています。「シチュエーショナル・アウェアネス（状況認識）」と題された報告書の中で、彼はAI競争の裏にある不穏な地政学的現実を明らかにしています。彼は、AGIの物理的な要求があまりにも巨大であるため、世界で最も裕福な一握りの企業しか参加できなくなると警告しています。そしてそれは避けられないだけでなく、すでに起こりつつあるのです。
アッシェンブレンナーは言います。「27年から28年までには終盤戦が始まる。28年から29年までには知能の爆発が進展し、2030年までには、そのすべての力と威厳を備えた超知能を召喚することになるだろう」と。アッシェンブレンナーの言葉を借りれば、すべてが「脱線」してしまうリスクが常につきまといます。
アナリストたちは、わずか数社の巨大企業にこれほどまでの権力が集中する世界を恐れています。もしOpenAIや他のテック巨人が成功すれば、彼らは知能そのものの生産手段を支配することになります。私たちは、これに類するものを見たことがありません。
このテクノロジーが賢くなればなるほど、トレーニングと維持にかかる費用は高くなります。それは参入障壁を高くするだけです。その結果、一種の封建制度が生まれるでしょう。ビジネスを運営したりサービスを提供したりしたい人は、コンピュート・ジェントリーから「知能」を借りるしかなくなるのです。なぜなら、労働を代替する知能を所有する者が、人類の経済的成果を所有することになるからです。
これは、OpenAIがもともと掲げていた設立理念に完全に反しています。この会社は非営利団体として始まりました。その憲章には、AGIが全人類に利益をもたらすことを確実にすると記されていました。あらゆる段階での開放性、透明性、そしてガードレールの設置を約束していたのです。その憲章は変わってしまいました。
会社は営利企業へと再編されました。ガードレールは取り払われました。使命はもはや「人類の向上」ではなく、利益がすべてです。そしてこれこそが、何よりもOpenAIの「AGIの嘘」の核心を突いています。彼らは、このテクノロジーが公共の利益になり、すべての人に明るく繁栄した時代をもたらすと主張しています。その一方で、OpenAIが実際に行っているのは、自らの私的な要塞を築き、その鍵を投げ捨てることなのです。
企業の主権者
AGI時代の最終目標は、私たちが知っている社会の再構築です。サム・アルトマンは、これらすべてが人々の最善の利益を考えて行われていると信じ込ませようとしています。彼は何度か、ベーシックインカム（UBI）の見通しについて語ってきました。それは、超知能AIによってもたらされる大規模な失業や雇用喪失のリスクに対する、明白な解毒剤になるはずです。しかし、その論理には欠陥があります。
もしAGIが人間の労働力に取って代われば、あらゆる民主主義国家の税基盤が崩壊します。人間の収入がなくなれば、税金も入らなくなります。税金がなければ、政府は何百万人もの人々にベーシックインカムを提供する資金を持てません。代わりに、権力はさらに集中することになります。そして、あなたのベーシックインカムの小切手を書くのは政府ではなく、企業になるでしょう。あなたを置き換えたアルゴリズムを所有している、その同じ企業です。
これこそが「アルゴリズム封建制」の定義です。恐ろしいですが、現実的な見通しです。市民はCEOに投票することはできません。ブラックボックスのアルゴリズムに対してロビー活動をすることもできません。民主主義は、人々の経済的独立に依存しています。しかし、人々が家族を養うために必要な金を企業から与えられることに完全に依存するようになれば、もはや経済的に独立しているとは言えません。彼らは「臣民」なのです。
OpenAIは、すべてがうまくいくと主張しています。サム・アルトマンは仕事の「変化」や新しい機会について語りますが、具体的な内容には踏み込みません。なぜ営利企業が、自らの権力と収入の主要な源泉を、単にタダで人々に提供すると決めるのか、その説明はありません。最悪なのは、アルトマンの「インテリジェンス・エイジ」宣言が、根本的な何かを無視していることです。それは、人々と権力者との間に長年結ばれてきた社会的契約です。
彼は、あなたが自らの主体性の喪失をただ受け入れると決めつけています。超知能AIエージェントの名の下に、あなたのキャリア、プライバシー、そして民主的権利が剥ぎ取られていくのを、頷きながら笑顔で見守ると。社会は再構築されようとしています。投票や国民投票によってではなく、「デジタルな神」の追求によってです。
スターゲート・プロジェクト、7兆ドルのチップ計画、飽くなきエネルギー需要。これらは孤立した出来事ではありません。すべては新しい世界秩序の鎖の輪なのです。知能が中央集権化された商品となり、人間の労働が時代遅れになり、コンピュート・ジェントリーがそのすべての王と女王として君臨する世界です。
AGIの嘘とは、このテクノロジーが機能しないということではありません。嘘なのは、それが「あなたのために」作られているということです。このテクノロジーは人々のために作られているのではなく、人々に取って代わるために作られているのです。最後に残された問いは、これを止める方法があるのかということです。
OpenAIは誰もが想像した以上の速さでAGIを構築しようと競っていますが、必要なリソースが会社を限界まで追い込んでいます。野心が現実に勝るとき、その余波は衝撃的なものになります。その崩壊の全貌は「OpenAIは数十億ドルの血を流している。ChatGPTは破滅する」で明らかになります。
コメント