シリコンバレー内部関係者がカルト的AI企業を暴露 | Aaron BastaniがKaren Haoと対談

この動画は、MITで機械工学を学んだ後にジャーナリストに転身したKaren Haoが、300回を超える取材と260人の業界関係者への聞き取り調査に基づき、OpenAIをはじめとするAI企業の実態を暴露したインタビューである。宗教的熱狂に支配されたシリコンバレーのAI開発競争の内幕、Sam Altmanの人物像、データセンターによる環境破壊、ケニアやコロンビアでの労働搾取、そしてAI企業による帝国主義的拡張について詳細に論じている。特に、非営利として設立されたOpenAIが如何にして資本主義的組織へと変貌したか、そして小さな集団が数十億人の生活に影響を与える技術を開発することの構造的問題について鋭い分析を提供している。

Silicon Valley Insider EXPOSES Cult-Like AI Companies | Aaron Bastani Meets Karen Hao

Support our work: artificial intelligence begins to fundamentally alter the way normal people live their lives, it’s oft...

www.youtube.com

シリコンバレーの技術開発における人間の選択と構造的問題

私は現在これらの技術を構築している多くの人々と同じ学校に通っていました。OpenAIの幹部の何人かとも学校で一緒でした。私はこれらの人物を圧倒的で魔法的な存在だとは思っていません。私たちが一緒にパジャマ姿で寮の部屋を歩き回っていた時のことを覚えているからです。そしてそれは私に技術は常に人間の選択の産物であり、異なる人間には異なる盲点があるという理解を植え付けました。そして、もしそのような人々の小さなグループに、数十億人の生活に影響を与える技術を開発する過度の権力を与えるなら、それは構造的に不健全であることは避けられません。

人工知能は現在、世界最大級の企業の基盤となっています。数兆ドル規模の企業がAI以外について語ることはありません。そしてもちろん、メディアや政治家、市民社会で議論される際には、必ずと言っていいほど蒸気機関と比較されます。それは新しい機械時代の基盤になると言われています。

一部の人々はAIがもたらす可能性について非常に楽観的です。彼らは推進派、テクノ楽観主義者、テクノユートピア主義者です。一方で悲観論者もいます。彼らはAI、AGI（汎用人工知能）について悲観的で、それは決して実現しないし、もし実現したとしてもマトリックスのような、あるいはターミネーターやスカイネットのような姿になるだろうと考えています。私たちはそれを望んではいません。

しかし今日のゲストは未来について推測しているわけではありません。代わりに、彼女は現在、そして実際に人工知能産業の最近の過去に深く没頭しています。Karen HaoはMITに通い、機械工学を学びました。彼女はSTEMの世界を内側から知り尽くしていますが、非常に少数の人々が持つ流暢さと知識でこれらの問題について語るために、ジャーナリズムとメディアの道を選択しました。

Karenが推測の代わりにこの本で行ったことは、この分野の人々と話すことでした。260人の業界関係者に対する300回のインタビュー、OpenAIの過去および現在の従業員90人に対する150回のインタビューを実施しました。彼女は電子メール、企業のSlackチャンネルなどにもアクセスしています。これはOpenAIの内部報告書であり、人工知能、ビッグテック、そして巨額の資金がほぼすべてを追いかけてくることの危険性について書かれています。これは素晴らしい物語が見事に語られています。

AIの定義と現代的な意味

Aaron Bastaniがゲストを迎えます。この本について話す前に、AIとは何なのか、そして2025年のシリコンバレーで人々がAIについて語るとき、何を意味しているのでしょうか。

これは最も簡単な質問のように思えますが、実際には私が受ける最も難しい質問です。人工知能は非常に曖昧に定義されているからです。まず1956年に遡りましょう。なぜ今日これほど曖昧に定義されているのかを理解するのに役立つからです。

この用語は1956年にダートマス大学の助教授ジョン・マッカーシーによって造られました。彼は元々別の名前で行っていた研究により多くの注目と資金を集めるためにこの用語を作りました。これは彼が数十年後に明確に述べたことで、「夏の研究のためにお金を得るために人工知能という用語を発明した」と言いました。

その語句へのマーケティング的なアプローチが、今日特定の定義を確定することが本当に困難である理由の一部です。もう一つの理由は、一般的に人々はAIがコンピューターにおける人間の知能の再現という概念を指すと言いますが、人間の知能とは何かについても科学的合意がないことです。

そのため、文字通り人々がAIと言うとき、彼らは人間の行動や人間のタスクを模倣しているように見えるこれらすべての異なるタイプの技術の傘を指しています。しかしそれは実際には、あなたのiPhoneのSiriからChatGPTまで幅広く、舞台裏では実際に大きく異なる動作方法で、完全に異なる規模での技術消費であり、もちろん異なる用途を持つことも多いのです。

現在OpenAIやMetaがAIという言葉を製品に関して使うとき、具体的に何について話しているのでしょうか。

最も多くの場合、彼らは現在ディープラーニングシステムと呼ばれるものについて話しています。これらは大量のデータで訓練されるシステムで、そのデータのパターンを統計的に計算できるソフトウェアがあります。そのモデルは決定を下したり、テキストを生成したり、予測を行うために使用されます。OpenAI、Google、Metaなどの企業によって構築された現代のAIシステムの大部分は、現在これらのディープラーニングシステムです。

ディープラーニングは機械学習と同じですか。ニューラルネットワークと同じですか。

ディープラーニングは機械学習のサブカテゴリーです。機械学習は、データのパターンを計算するソフトウェアを構築するAIの特定の分野を指します。ディープラーニングは、それらのパターンを計算するために特にニューラルネットワークを使用する場合です。

AIの創設者の一人が使っていた言葉で言えば、AIはスーツケースワードです。スーツケースに何でも詰め込むことができ、突然AIが何か違うものを意味するようになるからです。このスーツケースワードのAIがあり、その下でデータ駆動型のAI技術は機械学習と呼ばれ、そしてニューラルネットワークを使用するデータ駆動型技術はディープラーニングと呼ばれます。これはこの広いスーツケースワーク内の最小の円です。

政治的便宜性としてのAI用語の曖昧さ

政治家がAIについて曖昧に語ることは気になりますか。たとえばNHSがAI応用を使って20%節約できると言うとき、これらの人々は自分たちが何について話しているのか全く分からないと思いますか。その用語があまりにも広範囲であるため、実際には何も意味しないから政治的便宜性があるのでしょうか。

それは少し私をイライラさせます。私はよくAIは交通手段という言葉のようなものだという類推を使います。交通手段は自転車やロケット、自動運転車、ガソリンを大量消費するトラックを指すことができます。これらはすべて異なる交通手段で、異なる目的、異なる費用対効果分析を提供します。政治家が「気候変動を緩和するためにより多くの交通手段が必要だ」と言うことは決してないでしょう。あなたは「でもどんな交通手段のことを言っているのか」と言うでしょう。

AI議論周辺の曖昧さは本当に非生産的で、人々がAIは一つのものであり、AIは進歩であるため、すべてを持つべきだと考える混乱を招いていると思います。しかし実際に交通手段の類推を使えば、より多くの自転車、より多くの公共交通機関を持つことは素晴らしいことですが、もし誰かが実際にダブリンからロンドンに通勤するためにロケットを使うことを指していて、「みんながロケットを手に入れるべきだ、それが我々により多くの進歩をもたらすだろう」と言っていたとしたら、あなたは「何を言っているんだ」と言うでしょう。

そしてそれは実質的に、これらの企業が汎用知能に関して行っていることです。生成AIに関して、ナンセンスの愚かな画像を生成するためだけのツールを人々に無料で提供するとき、それはある種、ダブリンからロンドンからパリに行くためにロケットを使おうと言っているようなものです。

まさにその通りです。タスクに適していないのです。そして、同じことをするために、はるかに効率的な飛行機で飛ぶことができるときに、そのロケットを飛ばすための異常な環境コストは、何をしているのかと言いたくなります。人々が生成AIについて実際に理解していないことの一つは、これらのモデルを開発し、また使用するために必要な資源消費が非常に異常であることです。そして多くの場合、人々は高効率の異なるAI技術で達成できるタスクにそれらを使用しているのに、AIを何でも意味する包括的な用語として使用するため、人々は「ああ、そうだ、AI関連のものは何でもChatGPTをワンストップショップソリューションとして使うつもりだ」と考えるのです。

データセンターのエネルギー消費と環境への影響

現在、世界のデータセンターはCO2排出量の約3〜3.5%を占めていると思います。AI用のデータセンターはその中のごく一部ですが、明らかに異常なペースで成長しています。今後5年、10年、15年のデータセンターのCO2排出量の予測数値はありますか、それともあまりにも最近のことで数値について推測できないのでしょうか。

エネルギー消費に関する数値があり、それを使って炭素排出量を予測することができます。マッキンゼーのレポートでは最近、AI技術の開発と展開のための現在のデータセンターとスーパーコンピューターの拡張ペースに基づいて、今後5年間でイギリスが年間消費するエネルギー量の0.5倍から1.2倍を世界のグリッドに追加する必要があると予測しました。

そしてその大部分は化石燃料によって賄われるでしょう。これは実際にSam Altmanが数週間前に上院で述べたことで、おそらく天然ガスになるだろうと言いました。彼は最もクリーンな化石燃料を選びましたが、すでに石炭発電所の寿命が延長されているという報告を見ています。それらは廃止される予定でしたが、データセンター開発に電力を供給するために明確に廃止されなくなっています。

Elon MuskのXAIが建設したMemphis, Tennesseeの巨大スーパーコンピューターColossusは、約35基の無許可メタンガスタービンで動力を供給されており、何千もの有毒大気汚染物質をその地域の大気中に放出している報告を見ています。このデータセンターの加速は気候危機を加速させているだけでなく、人々のきれいな空気へのアクセスと同様にきれいな水へのアクセスの公衆衛生危機も加速させています。

このようなAI開発について本当に語られていない側面の一つは、OpenAIのバージョンのAI開発では、これらのデータセンターが冷却のために淡水を必要とすることです。他の種類の水を使用すると機器が腐食し、細菌の増殖につながるからです。そのため、ほとんどの場合、これらのデータセンターは実際に公共飲料水を使用します。地域に参入するとき、それが企業、事業所、住民に淡水を配達するためにすでに敷設されているインフラだからです。

私が本で強調していることの一つは、すでに人々にとって十分な飲料水がない多くの地域があることです。私はウルグアイのモンテビデオに行き、歴史的レベルの干ばつを経験している人々と話しました。モンテビデオ政府は文字通り公共飲料水供給に入れる十分な水を持っていなかったため、人々が蛇口をひねったときに何かが出てくるように有毒な廃水を混ぜていました。

ボトル入りの水を買うには貧しすぎる人々にとって、それが彼らが飲んでいるものでした。女性は流産率が高くなり、高齢者は慢性疾患の悪化や炎症を起こしていました。そしてその最中に、Googleがより多くの飲料水を使用するデータセンターを建設することを提案しました。これは飲用可能な水と呼ばれていますね。

塩分の側面のため海水は使えませんね。

まさにその通りです。Bloombergは最近、AI開発のために現在建設されているデータセンターの3分の2が実際に水不足地域に建設されているという記事を載せました。

XAIの無許可エネルギー生成と民主的プロセスの侵食

あなたは先ほどXAIの無許可エネルギー生成について述べましたが、無許可とはどういう意味ですか。

企業がそれらのメタンガスタービンを設置するときに既存の環境規制を完全に無視することを決定したということです。これは実際に私の報告の最後に結論した一つのことでした。これらの企業は本当に企業帝国であるだけでなく、もし我々が彼らに資源への無制限のアクセスと無制限の拡張を許可するなら、彼らは最終的に民主主義を侵食するだろうということです。それが彼らの行動の最大の脅威です。

XAIが行っていることは、最小レベルでの完璧な例です。これらの企業は地域に参入し、彼らの拡張のためのインフラを構築するために既存の法律、既存の規制、既存の民主的プロセスを完全にハイジャックしています。私たちは最小の地域レベルから国際レベルまで、あらゆるレベルでの民主的プロセスのハイジャックを見ています。

それは何かをしてから許可を求めるという正統派ですね。これらの企業にとっては今や通常業務です。それは彼らの拡張戦略の一部です。

米国におけるAI分野の主要プレイヤー

米国で過去5年間にわたるAGIへの競争における主要企業は誰ですか。汎用人工知能、おそらく意識的ではない、あるいは自身の知能を拡張する能力があるかもしれない、このより妥当な分野の主要プレイヤーは誰ですか。

AGIに関する一つの注意点は、それがAIという用語と同じくらい曖昧に定義されていることです。私はそれを単なるリブランディングだと考えたいと思います。AIの全歴史はリブランディングについてでしたし、ディープラーニングという用語もリブランディングでした。

しかし、プレイヤーとしては、まずOpenAIです。彼らはChatGPTで最初の一撃を放った者たちでした。Anthropicは主要な競合他社、Google、Meta、Microsoftは現在これらの技術の展開を競争している古いインターネット巨人です。Safe SuperintelligenceはOpenAIから分離したもので、OpenAIの元チーフサイエンティストによって最近設立されました。OpenAIの分離は多くあるので、これはOpenAIの元最高技術責任者によって最近設立されたThinking Machines Labです。Amazonも現在ゲームに参入しようとしており、Appleも参入しようとしています。基本的に、古い世代のテック巨人と新しいAIプレイヤーの作物がすべてこの分野で競い合っています。

そしてそれは米国だけですね。

中国のエコシステムは興味深いです。なぜなら彼らはAGIという用語をあまり使わないからです。これは米国のエコシステムに非常にユニークなことで、AI製品とサービスの構築を支える準宗教的熱狂があります。一方、中国では「これらはビジネスで、ユーザーが使用する製品を構築している」という感じです。

ChatGPTに似たチャットボットを構築している企業を見ると、TikTokの所有者であるByte Dance、Amazonに相当するAlibaba、Googleに相当するBaidu、Appleに相当するHuawei、そしてTencentがあります。Tencentの相当物は何でしょう。MetaがTencentに相当すると思います。彼らもこれらのことを構築しており、同様に生成AI分野に参入している新興企業の作物もあります。

ヨーロッパにはフランスのMistralのような小さな競合他社がいます。本当に競争になっていませんが、我々はヨーロッパだからです。

AI投資のビジネスケースと準宗教的イデオロギー

これすべてのビジネスケースは何ですか。明らかに巨大企業があり、しばしば株主価値の最大化によって推進され、数兆ドルの評価があります。資本主義社会として、お金を稼ぐためにお金を投資してこれらのことを行います。Microsoftが株主総会でデータセンター建設に400〜500億ドルを配分すると言うときのビジネスケースは何ですか。

Microsoftについて言及するのは興味深いです。なぜならMicrosoftは最近データセンターへの投資を引き下げているからです。彼らは全力で投入し、今は非常に急速にデータセンタープロジェクトを放棄し始めています。あなたの質問に答えると、ビジネスケースが何かは本当に不明で、Microsoftはそれを認め始めた最初の企業の一つです。

Satya Nadellaは最近いくつかのポッドキャストに登場し、このAGIへの競争が生産的かどうかについて非常に懐疑的だったことで業界の一部の人々を驚かせました。しかし、私が報告後に本当に感じたことの一つは、熱狂を駆り立てているものを単なるお金の話として完全に理解することはできないということです。それはイデオロギーの話としても理解されなければなりません。

ビジネスケースがない状況で、なぜ人々がまだこれを行っているのかと問うと、答えは人間の知能を根本的に再現できるというこのアイデアを本当に熱烈に信じている人々がいることです。そしてもしそれができるなら、文明変革技術をもたらすこと以外に世界でより重要なことはありません。他にどのようにあなたの時間を捧げるべきでしょうか。

それがOpenAI、Anthropic、Safe Superintelligence、これらの他の小さな新興企業を駆り立てている理由の一部です。そして実際に自分たちの収益を気にするより古典的な企業であるより大きな巨人たちは、結局、株主がこれらの新興企業による膨大な投資額を見て、ユーザーがGoogle検索からChatGPTを検索として使用することにシフトしているのを見て、圧力を受けることになります。

ChatGPTは検索として使用されるべきではありませんが、消費者はそれがそうだと思っています。そして株主はGoogleの株主総会で「あなたたちはAIで何をしているのか、あなたたちのAI戦略は何か、なぜこの技術に投資していないのか」と尋ねます。そして他のすべての巨人が同じ方向に競争することになります。

Warren Buffettはこれについてどう思っているのか知りたいです。彼は「お前たちは金を無駄にしている」と言っているのでしょうか。彼はおそらく正しいでしょう。

彼がAIに投資したかどうかは分かりません。彼はコカ・コーラやそのようなものにこだわっているのではないでしょうか。

競争の思想と独占への願望

二つの合理的な説明があると思います。一つは、あなたが言うように準宗教的熱狂が世界で最も価値のある企業の一部の投資決定に影響を与えているということで、これは考えるだけでも異常なことです。

もう一つは、この分野の多くの人々がPeter Thielのような人々に大きく影響を受けていることです。Peter Thielの正統派は競争は馬鹿のためのものだということです。もしビジネスを始めるなら、それは独占でなければなりません。私はMicrosoftなどの企業が推測できるのは、最終的には数千億、数兆ドルをこれに投資する唯一の理由は、ファーストムーバーアドバンテージが蒸気機関以来の最も変革的な技術の独占を与えるからだと思います。それが唯一私にとって理にかなった方法です。

その分野の誰かがAGIの独占を望んでいる、AGIのFacebookになりたいと言ったことはありますか。

OpenAIがよく投資家に言うことは、もしあなたが我々の技術にこの一見幻想的な入札を行うなら、我々が最初にAGIに到達するためにあなたの資金を使用できるため、あなたはこれまでの人生で見た最大のリターンを得ることができるということです。だから、それはまだAGIがあるかもしれないという概念に乗っかっていて、それは科学的証拠に根ざしているとは言えません。

そしてたとえ我々が失敗したとしても、我々は労働力の代わりに我々のソフトウェアを雇うよう多くの幹部を説得できる程度まで、多くの人間のタスクを自動化することに成功するでしょう。そしてそれ自体で、あなたがこれまでに見た以上のリターンを生成する十分な可能性があります。

それが彼らが通常行うピッチですが、これらの投資家が実際に投じているのは巨大なリスキーな掛けです。多くの投資家にはバンドワゴン心理があります。彼らは必ずしも「この投資をしよう」と言うために自分たちの分析を行っているわけではありません。彼らは単にみんながこれに群がっているのを見て、「まあ、私は見逃したくない、我々も群がってみよう」という感じです。

しかし、最近実際に私に連絡してきた投資家もいて、「現在最も報告されていないストーリーの一つは、これらのVCが引き受けているリスクの量だけでなく、実際には経済全体が引き受けているリスクの量だ」と言いました。これらの投資家が投資しているお金は大学基金などから来ているからです。だから、もしバブルが弾けたら、それはシリコンバレーだけの問題ではなく、実際に世界経済全体に波及効果をもたらすでしょう。

OpenAIの起源と非営利から営利への転換

90年代後半のeコマースバブルを見ると、確かにそれはバブルでした。pets.comや何でも、これらのクレイジーな評価がありましたが、商品やサービスをオフラインで購入販売し、それをオンラインに持っていくのは理にかなっています。それは妥当な商業モデルです。しかし、あなたが言うように、誰も実際に人工知能でそれを行っていません。それは17世紀オランダのチューリップマニアについての話を読むのと非常に似ている感じがします。

OpenAIについて言及しましたが、我々はそれについて何度も話しましたし、もちろんOpenAIはこの本の中心的な組織です。OpenAIの背後にある大きなアイデアは何ですか。いつ始まりましたか。

2015年末です。

2015年なので10年前です。OpenAIを生み出すアニメーティング価値は何でしたか。

OpenAIは非営利として始まりました。今日それがシリコンバレーで最も資本主義的ではないにしても最も資本主義的な組織の一つであるという事実に基づいて、多くの人々がそれを実現していません。それはElon MuskとSam Altmanによって、商業的圧力なしにこの変革技術を開発できる基本的なAI研究所を作ろうとする入札として共同設立されました。

彼らは自分たちを反シリコンバレー、反Googleとして位置づけました。当時GoogleはAI開発の主要推進力で、一部のトップAI研究科学者の独占を発達させ、Musk特にGoogleのDeepMind買収に対する深い恐怖を持っていました。彼は最も優秀な頭脳のこの統合が非常に悪く間違った方向に行くAIの開発につながることを非常に心配していました。

彼が非常に悪く間違った方向で意味したのは、それがいつか意識、自己認識を発達させ、暴走して地球上のすべての人間を殺す可能性があるということでした。その恐怖のため、AltmanとMuskは非営利をする必要がある、利益駆動のインセンティブを持たない、完全にオープンで透明、そして必要に応じて自己犠牲的な程度まで協力的であることに焦点を当てようと考えました。

もし他の研究所が我々よりもAIとAGIへの探求でより速い進歩を始めるなら、我々は実際に彼らと合流し、我々自身の組織を解散し、彼らと合流するということです。そしてそれはあまり長く続きませんでした。

彼らの背後にある理論は何ですか。2015年の時点で、Googleはおそらく世界で最も価値のある企業で、確実に上位にありました。これは非営利です。どのようにしてGoogleより先にAGIを達成するのでしょうか。

最初に彼らが見たボトルネックは人材でした。Googleはこの人材の独占を持っています。我々はその独占を切り崩し、それらのGoogle研究者の一部を我々のところに来させる必要があります。また、大学を出たばかりの博士課程の学生も獲得し始める必要があります。

そのため、私は推測するようになりました。これは私が読んだ文書や何かに基づくものではありませんが、彼らが最初に非営利として始めた理由の一部は、そのボトルネックに対処するための素晴らしい採用ツールだったからだと推測するようになりました。彼らは給与でGoogleと競争することはできませんでしたが、使命感で競争することはできました。

実際、AltmanがチーフサイエンティストのIlya Sutskeverを採用するとき、彼がOpenAIへの他の多くの科学者の関心につながった重要な最初の人材獲得でしたが、彼はSutskeverの目的意識に訴えました。「あなたは高い給料を望み、営利企業で働きたいですか、それとも給料を削って、あなたの人生で大きなことをしたいですか。」

そしてそれが実際にSutskeverが「あなたは正しい、私は非営利で働きたい」と言った理由でした。そして私が本の冒頭のエピグラフに置いた二つの引用の一つは、Sam Altmanが2013年にブログ投稿を書いたもので、他の誰かを引用して「成功した人々は企業を構築し、より成功した人々は国を構築し、最も成功した人々は宗教を構築する」と言い、それから彼はこれについて反省し、「世界で最も成功した創設者は実際に企業を構築するために出発するのではなく、宗教を構築するために出発し、企業を構築することがそれを行う最も簡単な方法であることが判明する」と言います。

2013年、そして2015年に彼はOpenAIを非営利として作ります。Sam Altmanは何らかの理想主義的な人物ではありません。彼はY Combinatorで働いており、シリコンバレーエリートの中に非常に組み込まれています。

また税制もありますね。もしあなたが非営利なら、使命があり、営利として持たない税制優遇の束も得られます。おそらくそこには非常にシニカルな起源もあります。

しかし、あなたの本を読み、時間をかけて議論に慣れ親しむと、明らかに持っているコンピュートの量が常に重要であり、もしあなたがニューラルネットワークモデル、ディープラーニングモデルを信じるなら、持っているコンピュートの量が常に重要であることが分かります。そして、非営利がGoogleのようなGoogleと競争できるとは信じがたく思えます。これらのNvidia GPUに数千億、数千億ドルを費やさなければならないことを今見ているように。

誰も「ボトルネックは単に人材だけでなく、これらのNvidia GPUに数千億ドルを費やすことができることです」と言わなかったのでしょうか。

とても興味深いことに、当時大量のコンピュートが必要だというアイデアは実際にはあまり人気がなく、科学的に厳密だと見なされてもいませんでした。AIを進歩させる方法には多くの異なるアイデアがありました。一つは、我々はすでに必要なすべての技術を持っており、それらをスケールするだけでよいというものでしたが、それは非常に極端な意見と考えられていました。

そして他の極端では、我々はまだ技術すら持っていないというものでした。興味深いことに、最近Cade Metsによる「なぜ我々は近いうちにAGIに到達しそうにないのか」というニューヨークタイムズの記事があり、彼は最も長く立っている最も尊敬されているAI研究者の75%が今日でも実際に我々はAGIに到達する技術を持っていないと考えているという統計を引用しています。

だから我々は今、ある種フルサークルで来ており、スケールすることによっていわゆる知能に到達できるというこのアイデアが再び不人気になり始めています。しかし、それがOpenAIが始まったときの研究の雰囲気でした。我々は実際に技術で革新することができるかもしれません。

そしてIlya Sutskever特にスケーリングが可能だと考える変則的な科学者で、Altmanがシリコンバレーでのキャリアから物事にゼロを追加するというアイデアを愛し、最高技術責任者のGreg Brockmanも非常にシリコンバレーの起業家でそのアイデアを気に入ったため、「なぜスケールを目指さないのか。それがGoogleを打ち負かすかどうかを見る最も速い方法になるからだ」と特定しました。

そして約1年未満でその決定を下すと、彼らは実際に営利への転換について話し始めました。それは彼らがボトルネックが人材の獲得から資本の獲得に移ったと決定したときで、それがElon MuskとSam Altmanが決裂することになった理由でもあります。

営利転換について議論し始めたとき、Elon MuskとSam Altmanの両方がその営利のCEOになりたがったため、合意することができませんでした。そして元々Ilya SutskeverとGreg BrockmanはMuskを選び、MuskがOpenAIのより良いリーダーになると考えましたが、Altmanは本質的に、これは彼のキャリアで非常に古典的なパターンですが、Brockmanに対して、彼とは長期的な関係があったのですが、実際にMuskと行くことがなぜ危険である可能性があるか、私が確実により責任あるリーダーになるだろうなどについて非常に説得力を持つようになりました。

そしてBrockmanがSutskeverを説得し、二人のチーフサイエンティストと最高技術責任者が決定を転換してAltmanと行くことにし、そしてMuskが腹を立てて去り、「もうこれの一部になりたくない」と言いました。

Sam Altmanの経歴と操作的性格

それは2016年に、資本投資の面で世界最大の企業との真っ向勝負をしなければならないという認識があったにもかかわらず、彼らは非営利だったということは信じられません。

openは何を意味していたのでしょうか。

openは元々オープンソースを意味していました。OpenAIの最初の年に、彼らは本当にオープンソースを行いました。研究を行い、すべてのコードをオンラインに投稿しました。だから本当に彼らは言ったことを行いました。そしてスケールを目指すと決めた瞬間に、すべてが変わりました。

それは素晴らしい物語で、2010年代を非常に象徴的です。効果的に活動の延長として自分自身を提示するこの組織があり、今日では一部の人々がOpenAIを3000億ドルで評価しており、私たちが話そうとしているこれらすべてのひどいことを行っています。

Sam Altman具体的に、彼は誰ですか。彼の背景は何ですか。誰も聞いたことがないこの男が、今日ヨーロッパのほとんどすべての企業よりも価値があるかもしれない企業のCEOになるのは、どのようにしてでしょうか。

Altmanはシリコンバレーで彼の全キャリアを過ごしました。彼は最初に自分自身が新興企業の創設者で、Y Combinatorに参加した企業の最初のバッチの一部でした。今日ではシリコンバレーで最も権威ある新興企業アクセラレーターの一つですが、当時は誰もYCが何かを知りませんでした。

彼は7年間それを行い、Looptと呼ばれる企業を運営していました。これはモバイルベースのソーシャルメディアプラットフォームで、効果的にFoursquareの競合でしたが、実際にはFoursquareより早く始まりました。それはうまくいかず、部品として売却されました。

しかし、その間に彼が非常によく行ったことは、シリコンバレーの非常に強力なネットワークに自分自身を取り入れることでした。彼が彼のキャリアを通じて最初で最も長いメンターの一人はY Combinatorの創設者Paul Grahamで、彼がSam Altmanを彼の後継者として抜擢し、Sam Altmanは非常に若い年齢でYCの社長になりました。

そして彼は約5年間それを行い、YCの在職期間中に彼はYCの企業ポートフォリオを劇的に拡大しました。ソフトウェア企業だけでなく、量子、自動運転車、核融合にも投資を押し進め、本当にそれらのハードテック工学的挑戦に行きました。

彼がOpenAIのCEOとして終わった方法を見ると、私は基本的に彼が次の大きな技術の波が何になるかを見つけ出そうとしていたと思います。これらすべての異なることをテストし、これらすべての異なることに関与していると自分自身を位置づけましょう。彼のすべての投資に加えて、AIも大きくなりそうに見えるというこのアイデアを育て始めました。基本的なAI研究所のアイデアで作業を始めましょう。

それがOpenAIになり、OpenAIが最も速く離陸し始めると、Altmanが飛び移ってCEOになりました。

彼はどこから来るのでしょうか。最初に彼とIlyaがいたと言いましたが、彼がその企業を設立したとしても、Altmanは実際にはOpenAIで役員の役割を取りませんでした。技術的にAltmanがSutskeverを採用しましたが、Altmanは会長だけでした。

同様にMuskとも。Muskも役員の役割を持たず、彼は共同会長でした。だから彼ら二人が取締役会の会長で、Ilya SutskeverとGreg Brockmanが実際に日々企業を運営していた主要な役員でした。

本を読んで、Sam Altmanについてより詳しく知るようになって、彼はマスター操縦者、人間心理の巧妙な操縦者と理解者として出てきます。Paul Grahamからの素晴らしい引用があります。「Sam Altmanを人食い人種でいっぱいの島にパラシュートで降ろして、5年後に戻ってくると、彼が王になっているだろう」

もしあなたがSam Altmanなら、投資家に利益を上げなくても、あなたが彼らの有無にかかわらず成功することを伝える必要はありません。彼は一世代に一度の資金調達の才能とも評されています。彼はどのようにして基本的に無名の状態から出て、Elon Musk、Zuckerbergのような人々と、我々の10年間の主要成長技術の一つに関して知的重量級として競争できるのでしょうか。

一般の視点からは彼は無名から出てきましたが、テック業界内では誰もがSam Altmanを知っていました。私がテックで働いていた人間として、Y Combinatorがとても重要だったので、ずっと前からSam Altmanを知っていました。

潜在的にそれほど価値のある企業のCEOとして、それは常に彼がいる可能性があったものでしたか。

いいえ、彼がCEOに飛び移ることを人々が思ったことは決してないと思います。なぜなら彼は非常に投資家のマインドセットを持っており、彼のアプローチは常に多くの企業に関与することだったからです。YCの社長としても、いくつかの個人投資ファンドを運営しても、彼は数百の新興企業に投資しました。

しかし、彼はバレー内で十分に尊敬されていました。彼は全新興企業エコシステムの重要な要と見なされていました。業界内の人々だけでなく、政策立案者にとっても、これは重要です。彼はYCの社長としての在職期間の非常に早い時期に政治家との関係を育て始めました。

たとえば、私が本で話していることは、オバマ政権下の国防長官Ash CarterがAltmanに来て「どうすれば若いテック起業家にもっと米国政府とパートナーを組んでもらえるでしょうか」と尋ねたことです。だから彼はバレーへのゲートウェイと見なされていました。

明らかにバレーは新興企業だけで構成されているわけではなく、テック巨人もありますが、当時新興企業を始めることは、テック巨人で働くよりもはるかにクールでした。Google、Microsoftは、もしあなたが本当に仕事の安定を望むなら、より古い安全な選択肢と考えられていました。しかし、もしあなたが革新者、息をのむようなことをしたい人になりたいなら、新興企業を構築するでしょう。そして新興企業創設者としてのあなたの第一目標はYCに入ることでした。だからAltmanは頂点の象徴でした。彼はバレーの成功の頂点を象徴していました。

そして他の人々と同じ純資産を持っていなくても、ソーシャルキャピタル、ネットワーキングの面では、彼は本当の価値がある場所を早くから理解していました。

まさにその通りです。

Sam Altmanの人間性と操作的手法

とても興味深いです。私が書き留めたいくつかのメモがあります。なぜなら、この紳士がそのような価値ある企業のCEOである理由が地球上でなぜかと思う時があり、彼はかなり役に立たないように見えるからです。私が持ったメモは人の気を引こうとする人、嘘つき、対立回避でした。どうやってそのような成功した企業のCEOになるのでしょうか。

時々ほとんど精神病的に見える嘘をつく能力があり、この本を書くときに別の代替タイムラインがあります。基本的にあなたはSamの伝記を書き、それをすべて省くことができたでしょう。他の作家がいます。彼らはたくさんの本を売り、Elon MuskやSteve Jobsなどのビジョナリーリーダーの非常に肯定的で確認する伝記を書きます。

なぜSam Altmanについてその本を書かなかったのでしょうか。あなたはもっと多くのお金を稼いだでしょうし、しかし私はこれらのものを読んでいて、この男のことを考えています。これは彼がこれらのものを読むときに本当に彼を傷つけるでしょう。なぜ簡単な道を取らなかったのでしょうか。

それが簡単な道だったかどうかは分かりません。私は事実を書いただけで、事実がそのように出てきました。私は業界全体で260人を超える300の異なるインタビューを行い、それらのインタビューの150以上は、企業で働いたか Sam Altmanに近い人々とのものでした。それが彼らが提示したもので、私が最終的に入れたすべての詳細でした。

彼と働いた時間の長さや近さに関係なく、再び再び出てきた一つのことは、彼らが常に私に言うことでした。一日の終わりに、Samが何を信じているのか分からない。

それは興味深いです。

そして出てきたもう一つのことは、私が彼らに「まあ、この時点でこの会議で、会社がこのXYZのことをする必要がある理由について、彼はあなたに何を信じていると言いましたか」と尋ねると、答えは彼は常にその人が信じていることを信じていると言ったでした。しかし、私は非常に異なる信念を持つ非常に多くの人々にインタビューしたので、「ちょっと待って、彼はこの人が信じていることを信じていると言い、その人が信じていることを言っていて、それらは文字通り正反対です」と思いました。

だから私は、人々が彼についてどう感じているかを説明するために、これらすべての異なる詳細を文書化することになりました。彼は正の方向と負の方向の両方で極端な偏極的な人物です。一部の人々は彼が我々の世代の最も偉大なテックリーダーだと感じ、彼らがそれを言うとき、彼が正直だとは言いません。彼らは彼が本当に同意する未来のビジョンを達成するための最も驚異的な資産の一つだと言います。

そして他の人々は彼の内臓を憎み、彼がこれまでの最大の脅威だと言います。そしてそれは本当に彼らが彼のビジョンに同意するかどうかに帰着します。そして彼らが同意しないとき、彼の説得力が突然操作的戦術になります。

Elon Muskのような人と比較すると、CEO として明らかに完璧からは程遠いですが、Elon Muskは大きな賭けをし、直感を持ち、何かについて正しいと思うなら人々を疎外することを非常に喜んで行います。明らかに私は彼について多くのことに同意しませんが、それはビジネスリーダーに関してはかなりの原型があります。

そしてSam Altmanのような人がいて、彼は私が言うように人の気を引こうとし、対立回避をしているすべてのことを行っていますが、それでも彼は基本的に3分の1兆の評価にこの企業をリードすることを管理しました。紙面上で、彼は朝起きて朝食を作ることができないだろうと思いますが、それでも彼は何か非常に特別なことを達成しました。だから、ビジネスリーダーとしての彼の比較優位は何ですか。

本当に彼が人間心理を非常によく理解していることに帰着すると思います。これは人々を彼の探求に参加させるのに役立つだけでなく、彼は自分自身で言っています。「私はビジョナリーリーダーで、オペレーショナルリーダーではない、そして私の最高のスキルは、その後物事を運用化する最高の人々を獲得することです」

だから彼は人々を彼の探求に参加するよう説得するのが上手で、彼が必要とするリソースを持っている人なら誰でも、それが資本、土地、エネルギー、水、法律であろうと、そのリソースを彼に与えるよう説得するのが上手です。そして彼は人々に、彼らができるとは思わなかったことをするための彼のビジョンと彼らの能力に対する非常に強力な信念感を植え付けると言われています。

イングランドのサッカーで言えば、彼は良いマンマネージャーで、人々を刺激することができます。

彼は人々が自分ができるとは思わなかったことをするよう人々を刺激します。しかし、これが彼が非常に偏極的な人物である理由です。なぜなら、誰もが彼との非常に個人的な出会いや関係を持っているからです。彼はしばしば、あなたがすることを信じたり達成したりする必要があることを何でも言うために、一対一の会議で最高の仕事をするからです。

そしてそれは、「ああ、私は彼がこれを信じていると思う、私は彼があれを信じていると思う」と完全に発散する非常に多くの理由の一部でもあります。なぜなら彼は人々と非常に個人的な会話をしているからです。

だから一部の人々は、これらの個人的な会議から正の方向に完全に変容したと感じて出てきます。「私はスーパーヒューマンを感じる、私は今これらすべてのことができる」という感じで、彼が見て私が見る未来を築いているし、我々は整合していて、そして他の人々はこれらの会議から「私は遊ばれたのか、彼は私の価値観に根本的に反することをさせるために、私にこれらすべてのことを言っていただけなのか」と感じて出てきます。

Karen Haoの背景とSTEM教育の影響

あなたはOpenAIに関連する150人にインタビューしたと言いましたが、150回のインタビュー、250回のインタビュー合計、270人合計でした。

数字が分かりませんが、それは絶対に信じられないことです。本当に冒頭で言うべきでしたが、これらすべてについてのあなたの個人的な経歴は何ですか。なぜなら、もちろん、ジャーナリズムやメディアから出てきてテクノロジーを扱う人々、それと政治の交差点では、彼らは本当に何を話しているか知らないジェネラリストだと思われるからです。あなたの背景は非常に特別です。

私はMITで機械工学を学部で学び、シリコンバレーで働きに行きました。それが私がしたいことだと思ったからです。それが私が本当にしたいことではないと気づく前に1年間続きました。それから私はジャーナリズムに入りました。

シリコンバレーに対してそのような内臓的な反応を持った理由は、私が持続可能性と気候変動の緩和の方法に非常に興味があったからです。そして私が最初に工学を学びに行った理由は、技術が社会変化の素晴らしいツールになり得ると思ったからです。そして消費者行動を形成して惑星災害から我々を防ぐことができると思いました。

私は、シリコンバレーの技術を生産するためのインセンティブ構造が実際には公共の利益で技術を開発することにつながっていないことを実感しました。実際、最も多くの場合、それは公共の利益を侵食する技術につながっていました。そして私が興味を持っていた気候変動の緩和のような問題は利益を生まない問題でしたが、それが最終的にシリコンバレーが構築するものです。彼らは利益を生む技術を構築したいのです。

だから私がしたいことを、それを報いない構造内で続けようとすることは理にかなわないように思えました。

そして私は社会変化のツールとして書くことを使えるかもしれないと思いました。だからジャーナリズムに転向しました。

あなたはMIT Reviewに行き、それからWall Street Journalに行ったのですね。

いくつかの出版物に行き、それから最終的にAIを扱うためにMIT Technology Reviewに行きました。それからWall Street Journalです。これらは大きな出版物です。人々が知っておくべきことは、これらすべてのインタビューの背後に本当の信頼性があることです。

それは興味深いです。あなたが言うように、私は伝記を書かなかった、私はそこにあったものを書いただけです。おそらくそれは部分的にあなたのSTEM背景の延長ですね。プロパガンダやパフピースを書くのではなく、実際にはセクターの大部分のカバレッジです。しかし、それは本当です。

人々がこれについて私によく尋ねることは、この報告で私の工学学位がどれくらい役に立ったかということです。そして私は人々が通常想定するであろう方法ではない方法で役に立つと思います。私は現在これらの技術を構築している多くの人々と学校に通いました。OpenAIの幹部の何人かと学校に通いました。

だから私にとって、魔法はありません。私はこれらの人物が圧倒的または魔法的だとは思いません。私たちが一緒にパジャマ姿で寮の部屋を歩き回っていたときのことを覚えているからです。そしてそれは私に技術は常に人間の選択の産物であり、異なる人間は異なる盲点を持つという理解を植え付けました。

そしてもしそのような人々の小さなグループに、数十億人の生活に影響を与える技術を開発する過度の権力を与えるなら、それは必然的に構造的に不健全です。世界で起こっているすべてのことを完璧に理解し、すべての人にとって深く有益であるワンサイズフィッツオール技術をどのように作るかを完璧に理解することを任意の個人に期待することはできません。それは全く意味をなしません。

私が思う他のことは、それが本当に私を助けることは、シリコンバレーは極めてエリート主義的な場所であり、人々が私をストーンウォールし始めたり、これらの技術が実際には能力がないものが能力があるふりをしようとし始めたら、私はMIT学位を叩きつけて「でたらめを切れ」と言うことができるということです。実際に何が起こっているか教えろ、と。そしてそれは彼らがただより正直に私に話す必要があることを彼らに速めるショートカットです。しかし、それは実際に私が勉強したからではなく、彼らが彼らの口を清めることを速める必要があることを彼らに合図するだけです。

AIが民主主義に与える脅威

それは本当に興味深いです。この分野の多くのカバレッジについて、特に英国の政治ジャーナリストによるウェストミンスターでのもの、Keir StarmerとRachel Reevesがより多くのデータセンターを構築すると言うとき、それは素晴らしいことだという感じです。実際には必ずしもそうではありません。一度構築されれば、それらはそれほど多くの雇用を創出しません。彼らはエネルギーと水をたくさん使うことができます。イギリスの納税者にとっての利点は何ですか。この種のプレスリリースの尋問は非常に少ないです。

そして、あなたがMITから出てきて、この軌道を取ったことは本当に興味深いです。

現在の軌道で、あなたが話したこの少数の人々の決定が現在数十億に影響を与えていることは、民主主義への実存的挑戦ですか。それは推測的ですか。それは民主主義を終わらせるのでしょうか。

それは大きく脅かしており、民主主義の終焉の可能性を高めていると思いますが、この結果が起こるだろうという予測は決してしません。なぜなら、それは不可避に聞こえるからです。そして私が本を書いた理由の一つは、我々がそれを変えることができると非常に強く信じているからです。そして人々は今行動して未来を形作ることができるので、我々は民主主義を失うことはありません。

しかし、この軌道では確実に、もし次の20年が過去20年のようなら。

この軌道では確実に、私はそれが民主主義を終わらせると思います。

20年ですね。

20年、そうです。我々は過去20年間で本当にひどくやりました。プライバシー、ハイストリート、子供時代というものがありました。全部なくなりました。

あなたはOpenAIが過去数年間で行ったことは、この訓練を行うために必要なデータの量とコンピューターのサイズ、ディープラーニングに関して量を爆発させ始めたと言いました。一つの企業として特にOpenAIだけを動かすために使用されているエネルギー、土地、水の規模の感覚を教えてください。

OpenAIを動かすために、それは本当に難しいです。なぜなら彼らは実際に我々にそれを教えないからです。だから我々は業界全体の数字のみを持っています。

だから彼らの年次報告書には載っていないということですね。

まあ、彼らは公開企業ではないので年次報告書を持っていません。

もちろん。

そしてそれは実際に、公開企業であっても重要ではありません。なぜならGoogleとMicrosoftは年次報告書を持っており、そこでデータセンター建設にどれくらいの資本を費やしたかを言いますが、それらのデータセンターのうちどれくらいがAIに使用されているかは分解しません。

彼らは持続可能性報告書も持っており、そこで水と炭素などについて話しますが、そのうちどれくらいがAIから来ているかも分解しません。そして彼らはそのデータをかなり操作して、実際よりも良く見せます。しかし、操作があってもマッサージがあっても、昨年、2024年にGoogleとMicrosoftの両方が炭素排出量で30%と50%のジャンプを報告したという話がありました。これは主にこのデータセンター開発によって推進されたものです。

そして、ここでの文脈は、過去10〜15年間の良いニュースストーリーの一つは、米国での一人当たりCO2排出量がかなり横ばいになったことです。西側全体でかなり横ばいになり、実際にイギリスではエネルギー消費が減少しました。

我々は物を作るのをやめましたが、それでも。すべてが東アジアで作られているからですが、それでもそれは一種の良い話でした。私はそれをかなり買いました。我々はある種横ばいになったと思いました。明らかにグローバルサウスはより多くのエネルギーを消費するでしょうが、我々もそうです。

企業帝国主義と19世紀東インド会社との類推

これらの企業を19世紀の東インド会社に類似したものとして見るべきでしょうか。

それは私がますます使い始めている類推です。特にTrump政権が権力にあるため、イギリス東インド会社は非常に企業帝国であり、ロンドンベースの非常に小さな会社として始まり、非常に帝国主義的ではありませんでした。彼らは単なる企業として始まりました。

もちろん、インドとの経済貿易協定を通じて、重要な経済的権力、政治的権力を獲得し、最終的にそのエコシステムの頂点捕食者になりました。そしてそのときに彼らは非常に帝国主義的な性質になり、彼らは常にイギリス帝国という国民国家帝国によって支援されていました。

だから企業帝国があり、国民国家帝国があり、私はその動態が現在起こっているのを文字通り見ています。米国政府もその帝国時代にあり、Trump政権はアメリカ帝国を拡大し強化したいと示唆する言葉を文字通り使いました。そして彼はOpenAIのようなこれらの企業帝国を彼の帝国建設資産として見ています。

だから私は彼がおそらくイギリス王室がイギリス東インド会社を見たのと同じ方法でそれを見ていると思います。この会社にこれらすべてのリソースを獲得させ、これらすべてのことをさせ、最終的に我々は会社を国有化し、そしてインドが正式にイギリス帝国の植民地になりました。

だからTrumpはこれらの企業を国有化することの現代的な等価物の何でも、それが彼の最終ゲームです。彼はこれらすべての取引を成立させ、アメリカのハードウェアとソフトウェアを世界中に設置することを彼らに手伝わせており、それらが国家資産になることを望んでいて、そして国境の外のどこでも、米国政府がいつでもそれを止めることができることを望んでいます。

しかし同時に、これらの企業帝国もアメリカ帝国を彼らの帝国建設野心の資産として使おうとしています。だからシリコンバレーとワシントンの間に現在非常に不安定な同盟があり、それぞれが他方を使い、最終的に他方を支配しようとしています。

シリコンバレーで退場の政治というこのアイデアの人気が高まっています。民主主義はもう機能しない、我々は社会で自分たちを組織する他の方法を見つける必要があり、おそらく自分たちを組織する最良の方法は実際にCEOがトップにいる一連の企業だという考えです。

私は最終的に誰が勝つのか、国民国家帝国か企業帝国かは分からませんが、どちらのバージョンも悪いです。なぜなら現在権力にあるすべての人々、ビジネス幹部と政治家の両方は、実際には民主主義を保持することについて全く気にしていないからです。

インドの類推は本当に興味深いです。私は私の日付が間違っているかもしれませんが、東インド会社は1857年まで物事を運営していたと思います。インドの反乱、基本的に東インド会社に対する蜂起があり、そしてもちろん、その商業的努力はイギリス帝国国家の組織化された暴力によって支えられなければなりませんでした。

私は保持に対するある種の反論があると思います。まあ、それは一種良いことに聞こえます。私は社会主義者です。私はSpaceX が国有化されるアイデアが好きです。私は連邦政府がOpenAI、Tesla、Metaの51%の株式を持つアイデアが好きです。あなたはそれに何と言いますか。

私の批判は、企業の国有化というよりも、なぜ彼らはこれらの企業を国有化しているのか、そして彼らは何を、その最終ゲームの心理のためです。世界中でこれらの企業を暴れさせ、最終的に彼らの資産が何であれ我々の資産になるというものです。

Trump政権にAI規制への完全に手を出さないアプローチを取らせています。彼らは文字通りthe big beautiful billを提案し、これは下院を通過し、現在上院に上がっていますが、もし実施されれば州レベルでAI規制に10年間のモラトリアムを置く条項があります。

州レベルは通常、米国で合理的な規制が起こる場所です。だから彼らは現在、これらの企業が完全に処罰を受けずに行動することを許可すれば、最終的にそれが国民国家に利益をもたらすかもしれないというこのアイデアの名前で、巻き戻すのが非常に困難な広範囲の影響を持つこれらすべてのアクションを行っています。

世界への眼差しと資源の抽出

Sam Altmanのような人々は米国外の世界をどう見ているのでしょうか。このようなテックリーダーは小さなイギリスやイタリアをどう見ており、彼らは我々について何を考えているのでしょうか。あなたは彼らの心の中にいました。

彼らは彼らをリソースとして見ています。彼らは異なる領土を異なるタイプのリソースとして見ており、これは古い帝国が行ったことです。彼らは地図を見て、各地理で獲得できるリソースを描き出すでしょう。我々は労働を獲得するためにここに行き、土地を獲得するためにここに行き、鉱物を獲得するためにここに行きます。

彼らが文字通りそのように話すということです。私がデータセンター拡張について一部のOpenAI研究者と話していたとき、あるOpenAI従業員が「我々は土地と水が足りなくなっている」と言い、彼は「ええ、我々は全世界を見て、これらのもの、より多くのデータセンターを置くことができる他の地理がどこにあるかを見ようとしている。我々が必要とするすべての条件、地震のない土地、洪水のない、竜巻のない、ハリケーンのないすべてのこれらの自然災害がなく、大量のエネルギーを単一点に配信でき、システムを冷却できる場所を見つけることができるか」と言っていました。

そして彼らは、我々が獲得する必要がある異なる領土とリソースの断片に対するその抽象化レベルで見ています。

そしてそれはグローバルサウスだけでなく、西側の他の部分も含みます。

いいえ、それは西側の他の部分も含みます。米国とイギリスの両方の農村コミュニティで急速なデータセンター拡張がありました。そしてそれは常に経済的に脆弱なコミュニティに行き着きます。なぜならそれらのコミュニティが、それが最終的に彼らにどれくらいの費用がかかり、どれくらいの期間続くかについて情報を与えられていないため、しばしば実際にデータセンター開発に最初に参加するコミュニティだからです。

私はこの一人のアリゾナ州議員と話しました。彼女は「それが淡水を使わなければならないことを知らなかった」と言いました。英国の聴衆にとって、アリゾナは砂漠地帯です。淡水には非常に厳しい予算があります。その議員が知った後、彼女は「私は決してこのデータセンターを置くことに投票しなかっただろう」と言いました。

しかし問題は、これらの議員、市議会議員が相談できる独立した専門家が非常に少ないことです。彼らが影響がどうなるかについての情報を頼りにできる唯一の人々は企業であり、企業が言うことは常に「我々は数百万ドルを投資し、前もって多くの建設雇用を創出し、あなたの経済にとって素晴らしいことになるだろう」です。

それがこの国のデータセンターについて聞くすべてです。そしてそれは首相と首相にとって素晴らしいトップラインです。なぜなら彼らは数百億ポンドの価値の投資と言うことができるからです。しかし、長期的な雇用の面では何人で、ちなみに神が知っている北東イングランドやどこかのその農村コミュニティにとって、あなたは彼らに実際に3ヶ月間ホースパイプを使うことができないと言っていません。なぜならすべての水がその地域のデータセンターに行くからです。

まさにその通りです。そしてそれは非常に異常であり、その最も恐ろしいことは、イギリスでは少なくとも政治家がそれを知らないということです。私は心から首相がそれを知らないと思いません。

そして、あなたが植民地主義、帝国主義の米国と世界の他の部分の間の搾取的経済関係のプリズムを使っても、あなたはトロツキストだと思われます。彼らは自分たちの人々の世話をすることでさえ見ることができません。なぜなら自分たちの人々の世話をすることがあまりにも左翼になることに帰着するからです。

私はそれの一部は、彼らがそれが文字通りイギリスで起こっていることを実際に実現していないということでもあると思います。だからM4回廊沿いのデータセンター開発は文字通りすでに、より手頃な住宅を絶望的に必要としている特定のコミュニティでの新しい住宅建設の禁止をもたらしました。

そしてそれは、その住宅への淡水や電気の配送を保証できないときに新しい住宅を建設することができないからであり、それはその回廊で建設されているデータセンターの大規模な電力消費のためにその禁止をもたらしました。

それはナッツです。それは住宅のための国内で最も価値ある不動産のM4であり、イギリスの政治家がその矛盾を認識しているとあなたは思いますか、それともそれは単なる。

私が彼らが認識しているかどうかは分かりません。おそらく彼らは認識を持っていないか、おそらく彼らは認識していて、他のトレードオフも考えているのかもしれません。現在イギリスとEU全体でデータ主権についての巨大な会話があり、もちろん技術主権もあります。EUスタックを開発するというこの全概念があり、なぜ我々はテック巨人を何も持っていないのか、なぜ我々はこのインフラを何も持っていないのかということです。

Starmerはここでロンドンテックウィーク中に今週言いました。「我々はAIコンシューマーではなくAIクリエーターになりたい」と。だから私は彼らの心の中で、おそらくこれはより多くの土着イノベーションを持つ能力のために住宅を少し削ることが実行可能なトレードオフかもしれません。

しかし、私がその会話からしばしば除外されると思うことは、これは偽のトレードオフだということです。人々はAI システムを構築するために巨大なデータセンターが必要だと考えています。実際にはそれは必要ありません。これは特にOpenAIが取ることを決定したアプローチです。

しかし実際には、OpenAIが大規模言語モデルと生成AIシステムをこれらの巨大な規模で構築し始める前に、AI研究コミュニティ内のトレンドは反対方向、小さなAIシステムに向かっていました。

どれくらい小さなデータセットで強力なAIモデルを作成できるか、どれくらい少ない計算リソースで強力なAIモデルを作成できるかを調べる本当に興味深い研究がありました。私が書いた興味深い論文があり、そこでは数百の画像で高性能AIシステムを作成できたり、モバイルデバイスで訓練されたAIシステムを持つことができました。それは一つのコンピューターチップでさえない、あなたのモバイルデバイスで動作しています。

そしてOpenAIは現在、単一のシステムを訓練するために数十万のコンピューターチップを使用するアプローチを取り、それらの数十万のコンピューターチップは現在、都市レベルのエネルギー負荷を消費しています。

だから、もし我々がAIの進歩の概念をこのスケーリングパラダイムから切り離したら、あなたは住宅を持ちAIイノベーションも持てることを実現するでしょう。しかし再び、これらのことを実際に言っている独立した専門家はあまりいません。

今日のAI専門家の大部分はこれらの企業によって雇用されているであり、これは基本的に、もしほとんどの気候科学者が石油・ガス会社によって資金提供されていたら何に相当するかです。彼らは科学的に根拠があるとは全く言えませんが、企業にとって良いことをあなたに言うでしょう。

DeepSeekの登場とスケーリング法則への挑戦

私は本当にAngus Hansenという素晴らしい男にインタビューしました。実際に今二度。英国に対する米国のますます搾取的な性質に関して本当にそれに対応している男で、とても魅力的です。そして私は我々の政治家がどれほど悪化しているかが我々の政治家に理解されていないと思います。

あなたがAIコンシューマーまたはクリエーターについて言うように、最終的にあなたはMeta、Alphabet、XAI、OpenAIについて話しています。我々は消費者です。我々は依存しています。それはビッグテックに関して植民地的、搾取的関係です。

本当に長い間そうでした。ここで納税者が訓練する我々の最も賢い人々が米国に行きます。Slackのトップの人の一人はイギリス国民だと思います。DeepMindのDemis、今はAlphabetの傘下で働いています。私にとってその定式化は理にかなわないのです。彼らは単にそれを理解していません。

私はここにMastercardを使って来ました。数百万のイギリス人がApple Pay、Google Pay、Mastercard、Visaを使い、我々がそうするたびに0.1%、0.2%、2%が大西洋を越えて、それは我々の政治階級の頭の上を通り過ぎます。これは非常に不安になります。

これらのより効率的なシステムに関して、DeepSeekはこのすべてにどこで適合しますか。なぜなら、もちろんOpenAIの中心にあるスケーリング法則、より多くのコンピュート、より多くのパラメータ、より多くのデータによってAGIに到達するということは、DeepSeekの到着によって少し切り離されたからです。

DeepSeekは非常に興味深く複雑なケースです。なぜなら彼らは基本的に、この会社Highflyerによって作成された中国のAIモデルで、OpenAIとAnthropicによって開発されたアメリカのモデルのパフォーマンス指標をおそらく桁違いに少ない計算リソース、より少ない資金で本質的に一致し、さらには超えることができました。

とはいえ、それが必ずしも完璧な解決策だとは思いません。世界が突然DeepSeekを使い始め、DeepSeekがこれらすべての問題を解決すると言うべきではありません。なぜなら、それはまだ多くのデータプライバシー問題、著作権搾取などに関与しているからです。

一部の人々は、最終的に彼らはスケーリングパラダイムを通じて最初に開発されたモデルから蒸留していたと論じています。だから最初にこれらの巨大なスケーリングモデルを開発し、それからそれらをより小さく効率的にするということです。だから一部の人々は、効率を得る前に実際にまずそのスケーリングを行わなければならないと論じています。

とにかく、それが示したことは、これらの能力を大幅に少ないコンピュートで得ることができるということです。そしてそれはまた、アメリカ企業の完全な不本意も示しました。今や彼らがこれらの技術を使ってモデルをより効率的にできることを知っているのに、彼らはまだ実際にはそれを行っていません。

彼らはNvidiaにお金を与えるのが好きなのでしょうか。なぜなら、もしあなたがスケーリングアプローチを続け、あなたが世界のすべてのAI専門家を独占している唯一の存在なら、これが唯一の道だと人々を説得し、したがって他の誰もそのゲームをプレイすることをロックアウトするため、この技術を独占し続けるからです。

またパス依存性もあります。これらの企業は実際にはそれほど機敏ではありません。彼らが自分たちを組織する方法、異なるアプローチに即座に交換することはそれほど簡単ではありません。彼らは数ヶ月にわたってすべてのリソース、すべての訓練実行などを動かし続け、それからそれを実行し続けなければなりません。

だからDeepSeekは実際にはこれが起こった最初の時ではありませんでした。これが起こった最初の時は画像生成器とStable Diffusionでした。Stable Diffusionは特にヨーロッパの学者によって開発され、彼はAI企業がOpenAIのように画像生成にスケーリングアプローチを取っていることに本当に腹を立てていました。彼は「これは文字通り完全に不必要だ」と言いました。

そして彼らはDollyを生産するために何千ものチップ、このすべてのエネルギーを費やしています。最終的に彼は潜在拡散と呼ばれる新しい技術を使って数百のチップでStable Diffusionを生産することになりました。だからStable Diffusionという名前になります。

そして、おそらくそれは実際にはDollyよりもさらに良いモデルでした。なぜならユーザーはStable Diffusionがさらに良い画質、より良い画像生成、実際にDollyよりも画像をコントロールするより良い能力を持っていると言っていたからです。

しかし潜在拡散が存在することを知っていても、OpenAIはこれらの大規模スケーリングアプローチでDollyを開発し続けました。それは後になってから彼らがより安価なバージョンを採用しましたが、それは大幅に遅れました。

私はOpenAI研究に「なぜそれは理にかなわない、なぜそれをしたのか」と尋ねていました。彼らは「まあ、いったん道筋を設定すると、転換するのはちょっと難しい」と言いました。

またJensen Huang、Nvidiaの CEOは本当にカリスマ的ですね。私がマルクス主義者だと告白すると、歴史がどのように起こるかについてこれらの大きな構造的理解があり、それから実際にこの男は本当にカリスマ的で、この人は本当に操作的だと気づき、突然世界の超大国がこれらの技術的決定を行っているのは非常に奇妙です。

私たちはデータセンター、地球、水、エネルギーについて話しました。また、グローバルサウスの労働者に関するより搾取的な慣行についても話したいと思います。あなたは実際にケニアで本当に厳しい例を使いました。その周りの研究、あなたが会った人々の一部について話してもらえますか。

ケニアでのコンテンツモデレーション労働者の搾取

私は最終的にOpenAIによって企業のためのコンテンツモデレーションフィルターを構築するために契約されたケニアの労働者にインタビューしました。企業の歴史のその時点で、非営利の基礎的AI研究のルーツから来て、商業化について考え始めていました。

そして彼らは、もし我々がテキスト生成モデルを数百万のユーザーの手に渡すなら、それが人種差別的、有毒、憎悪に満ちたスピーチを吐き出し始めたらPR危機になることを実現しました。実際、2016年にMicrosoftは悪名高くまさにこれを行いました。彼らはTayというチャットボットを開発し、コンテンツモデレーションなしでオンラインに置き、数時間以内にひどいことを言い始め、それからオフラインにしなければなりませんでした。

今日まで、私がそれを持ち出していることからも分かるように、それはまだ企業の管理ミスのひどいケーススタディとして持ち出されています。だからOpenAIは「我々はそれをしたくない、我々のモデルの周りを包むフィルターを作ろう。モデルがこのようなものを生成し始めても、フィルターがそれをブロックするため、決してユーザーに届かない」と考えました。

そのフィルターを構築するために、ケニアの労働者が行わなければならなかったことは、インターネット上の最悪のテキストだけでなく、AI生成されたインターネット上のテキストも大量に調べることでした。OpenAIは自分たちのモデルにインターネット上の最悪のテキストを想像するよう促していました。

そして労働者は、これらすべてを調べて、詳細な分類に入れなければなりませんでした。これはヘイトスピーチか、これはハラスメントか、これは暴力的コンテンツか、これは性的コンテンツか、そしてヘイトスピーチ、暴力、性的コンテンツの程度はどうか。だから彼らは労働者に、それは性的虐待を含むか、それは子供の性的虐待を含むかなどと言うよう求めていました。

今日まで、もしあなたがOpenAIのコンテンツモデレーションフィルター文書を見れば、実際にそれらすべてのカテゴリーがリストされており、これは彼らがモデルのビジネスクライアントに提供するもので、これらの各フィルターをオンオフ切り替えることができると信じています。

労働者は最終的にソーシャルメディア時代のコンテンツモデレーターと非常に多くの同じ症状に苦しみました。作業によって完全にトラウマを負い、完全に人格が変わり、PTSDを残されました。

私が強調するのはMofatという男性の話で、私がインタビューした労働者の一人で、壊れるのは個人だけでなく、彼らの家族やコミュニティでもあることを私に示しました。これらの個人に依存している人々がいるからです。

Mofatは性的コンテンツチームにいて、毎日子供の性的虐待を読んでいるうちに人格が完全に変わりました。彼が家に帰ると、継娘と遊ぶのをやめ、妻との親密さをやめました。そして彼は彼らになぜ変わっているのかを説明することもできませんでした。

「私は一日中性的コンテンツを読んでいる」と彼らに言う方法が分からなかったからです。それは本当の仕事のように聞こえず、非常に恥ずかしい仕事のように聞こえました。ChatGPTはまだ出ていなかったので、それが何を意味するのかという概念がありませんでした。

ある日、彼の妻が夕食に魚を求めると、彼は出て行って3匹の魚を買いました。彼用、彼女用、継娘用です。彼が家に帰ると、彼らのすべての荷物が詰められ、完全にいなくなっていました。そして彼女は「あなたがなってしまった男を私は知らない、二度と戻ってこない」とテキストしました。

あなたは少し前にテキストについて述べましたが、人々は画像にも関与しなければなりませんか。それはソーシャルメディアのことでしたが、これもそうですか。

そこで、その後彼らは、その契約が実際にキャンセルされたので、これらのケニア労働者を契約しました。なぜならその会社に対する多くの精査があったからです。

これはSamaですね。

Sama、そうです。Samaの周りに巨大なスキャンダルがあり、それからOpenAIは他の契約業者にシフトし、彼らは画像をモデレートすることに関与しました。

ケニアの労働者について、彼らが行っている作業の種類に対してかなりよく報酬を得ていましたか、それとも時間あたり数ドルでしたか。

そして大西洋の反対側では、あなたは南米の人々が効果的にこれらの企業のためにメカニカルタークの断片的作業を行っていることについても話します。それについて少し話してもらえますか。

南米での労働搾取とAI産業のサプライチェーン

生成AIだけがデータアノテーションにつながるわけではありません。これは実際にはAI産業の一部として非常に長い間続いています。だから私は数年前に最終的にコロンビアのこの女性にインタビューしました。彼女はベネズエラ難民で、彼女の国がグローバルAIサプライチェーンで起こった特定のことについてでした。

2016年にAI産業が最初に自動運転車の開発を実際に検討し始めたとき、自動運転車が道路をナビゲートするのを助けるためのデータアノテーションラベリングを行う高学歴労働者への需要が急増しました。自動運転車にこれは車だ、これは木だ、これは自転車だ、これは歩行者だ、これはそれらすべてを避ける方法だ、これらは車線マーキングだ、これは車線マーキングが意味することだと示さなければなりません。

それを行うのは人間で、2016年にこの需要が高まっていたときに、ベネズエラという国として50年間で最悪の平時経済危機に対処していたということがたまたま起こりました。経済が底を打ち、インターネットへの素晴らしいアクセスを持つ高学歴労働者の巨大な人口が、突然どんな価格でも働くことに絶望していました。

これらが私が本で危機プレイブックと呼ぶ3つの条件になり、企業がAI産業で働くために極めて安い労働者をスカウトするために使い始めました。

私がコロンビアで会った女性は、彼女が見ていたコンテンツに基づく搾取ではありませんでした。彼女は自動運転車をラベリングし、小売プラットフォームなどをラベリングしていました。搾取は彼女の仕事に構造的なものでした。彼女は毎日プラットフォームにログインし、グローバルノース企業から彼女に送られてくるタスクで自動的に入力されるキューを見ていました。

ほとんどの場合、タスクは現れませんでした。そして現れたとき、彼女はそれを全く行うために他の労働者と競争してタスクを最初に要求しなければなりませんでした。危機に陥った非常に多くのベネズエラ人がいて、その多くがデータアノテーションプラットフォームについて知るようになったため、結局、ますます小さなタスクのボリュームをめぐって競争するますます多くの労働者がいました。

だからこれらのタスクはオンラインになり、秒以内に消えていました。ある日、彼女が散歩中にタスクが彼女のキューに現れ、彼女はタスクが消える前にタスクを要求しようとして彼女のアパートまで走りました。しかし彼女が戻ったときには手遅れでした。その後、「平日に二度と散歩に行かなかった」と言いました。

週末は、企業がタスクを投稿する可能性が低いと発見しましたが、彼女は30分の散歩休憩しか自分に許可しませんでした。それが再び起こることを恐れすぎていたからです。

彼女は、それが彼女に不安や不眠症、精神的健康のオーバーヘッドを与えたかどうかについて詳述しましたか。それは狂った生き方に聞こえます。

それは彼女の生活を完全にコントロールしました。彼女は不眠症があったかどうかは教えてくれませんでしたが、彼女がリビングルーム全体の日を見ることなく、料理や掃除などを行えるように、タスクが現れるたびにアラームが鳴るプラグインをダウンロードしていたということで、それは彼女の生活のリズムを完全にコントロールしました。

彼女はそれを夜中に最大音量にしていました。なぜなら時々真夜中にタスクが到着し、アラームが鳴ったら、彼女は起きて、コンピューターまで走り、タスクを要求し、それから午前3時にタスキングを始めるからです。

彼女は慢性疾患を患っていました。彼女が難民だっただけでなく、重度の糖尿病を患っていたため、最初にアパートに縛り付けられてこのオンライン作業を行っていた理由の一つでした。彼女は病院に行き着き、一時期完全に盲目になり、医師は「もしあなたがしたときに病院に来なかったら、あなたは死んでいただろう」と言いました。

だから彼女は、1日に5回インスリンを注射しなければならず、通常のオフィスへの通勤、通常の仕事を持つことを許可しない非常に複雑な体制だったため、家に縛り付けられていました。だから彼女は極度に重篤な糖尿病を管理しようとするのに加えて、これらすべての極めて破壊的で規制を乱す作業を行っていました。

それは異常です。あなたがそれらの話を明らかにすることができたことです。その本がとても興味深く、魅力的な理由だと思います。あなたはSam Altmanとファーストネームベースで話している人々と話し、それからコロンビアのベネズエラ難民と話しているからです。

そして本当に重要なことは、この作業が数兆ドル企業のために行われているということです。そうです、Elon Muskが3000億ドル以上の価値があり、価値が生成されている場所があります。

まさにその通りです。そしてそれらの話を本当に強調したかった理由は、帝国のロジックを本当に見ることができるからです。これらの技術の機能にとって重要で、ChatGPTのような製品の人気にとって重要である労働者の貢献が、企業内で働く人々が簡単に100万ドルの報酬パッケージを得ることができるときにペニーで支払われることには道徳的正当化はありません。

唯一の正当化はイデオロギー的なもので、この世界に生まれた一部の人々は優秀で、他の人々は劣っている、そして優秀な人々は劣った人々を支配する権利があるというものです。

一般市民がビッグテックに対してできること

最後の質問です。米国の一般市民がビッグテックに対してこれらの問題、所得不平等、地域格差、グローバル帝国主義的越権行為などを取り上げたい場合、何をするべきでしょうか。人々が実行できるいくつかの提案をお願いします。

米国の一般市民だけでなく、世界の誰でもそれについて何かできると言いたいです。そして私にとって報告でのリマーカブルなことの一つは、世界で最も少ない代理権を持っていると感じていた人々が、実際に最も積極的な戦いを繰り広げ、実際にこれらの企業から資源を取ることで地歩を獲得し始めたということでした。

私はチリの水活動家について話します。彼らはGoogleのデータセンタープロジェクトを非常に長い間押し返し、現在そのプロジェクトを5年間停滞させています。そして彼らはGoogleをテーブルに着かせ、チリ政府をテーブルに着かせることを強制しました。現在、これらの住民はデータセンター開発提案があるたびにコメントするよう招待されており、それから彼らは「それは戦いの終わりではない、彼らはまだ警戒していなければならず、いつでも彼らがまばたきすれば何かが起こる可能性がある」と言いました。

しかし世界の誰でも、私はAI開発軌道を形作る上で積極的な役割を果たすと思います。私がそれについて考える方法は、AI開発の完全なサプライチェーンです。これらの企業が技術を開発するために必要なリソースの束があります。データ、土地、エネルギー、水です。そしてこれらの企業が技術を展開するためにアクセスする必要があるスペースの束があります。学校、病院、オフィス、政府機関です。

これらすべてのリソースとこれらすべてのスペースは、実際には民主的論争の場所です。それらは集合的に所有されており、公的に所有されています。だから我々はすでにアーティストと作家がこれらの企業を訴えて「いいえ、あなたたちは我々の知的財産を取ることはできない」と言っているのを見ています。そしてそれは彼らがこれらの企業が必要とする重要なリソースに対する所有権を再取得することです。

我々は人々が彼らのデータプライバシー権を行使し始めているのを見ています。アメリカ人として、私を保護する連邦データプライバシー法がないため、イギリスとEUを訪問する私の好きなことの一つは、遭遇するすべてのウェブページでそれらのクッキーを拒否することです。それは私が私のデータに対する所有権を再取得し、それらの企業がそれからそれらを彼らのモデルに供給することを許可しないことです。

我々はチリの水活動家のように、現在数百のコミュニティが立ち上がってデータセンター開発を押し返しているのを見ています。我々は教師と学生が我々は実際に学校にAIを望むか、そしてもしそうならどのような条件での公開討論をエスカレートしているのを見ています。多くの学校が現在、AIがより多くの好奇心とより多くの批判的思考を促進することができるように、すべてを侵食するのではなく、彼らのAIポリシーが何かを決定するためにガバナンス委員会を設立しています。

同じことで、あなたの聴衆が現在座っているところでも、もし彼らがAIポリシーを議論している企業で働いているなら、確実にそのポリシーを起草するためのその委員会に自分を置いてください。そのオフィスのすべての利害関係者がそのテーブルにいて、いつ、どのような条件でAIを受け入れるか、そしてどのベンダーからも積極的に議論していることを確認してください。

再び、すべてのAIモデルが平等に作られているわけではないので、どのAI技術を使いたいか、どの企業がそれらを提供しているかについて研究を行ってください。そして私は、もし我々全員がサプライチェーンの彼らがインターフェースするすべての単一部分で積極的に役割を果たすことができるなら、それはかなりたくさんです。

ほとんどの人々はデータ部分とインターフェースし、多くの人々は彼らの近くの地域にデータセンターがポップアップするでしょう。誰もがある時点で学校に行き、誰もがある時点で何らかのオフィスや地域で働きます。もし我々がこのすべての押し返しを10万倍行い、このAI開発と展開パイプラインのすべての段階を民主的に争うなら、私は我々がこれらの企業の帝国主義的征服を逆転させ、AI開発のためのはるかに広く有益な軌道に向かうことについて非常に楽観的です。

我々は過去15〜20年間ビッグテック、ソーシャルメディアを持っており、おそらく問題は同じパターンがこのようなものに適用されるのかということです。Jonathan Haidtのような人と話すとき、彼が若者と彼らの現在のソーシャルメディアと携帯電話などの消費について話すとき、彼の本当の心配はAIです。

そして、もし過去15〜20年間にあった政策立案者からの、また正直に言えば市民社会からの怠惰な態度があるなら、彼は含意について恐怖を感じています。だからあなたが言っていることとJonathan Haidtが言っていることの間に一致があるのを見るのは興味深いです。

Frank HerbertのDuneを読んだことはありますか。

映画を見ました。そして実際に本を読むためにベッドサイドテーブルに置いてあります。

そして私がそれについて尋ねてとても嬉しいです。なぜなら、これは私がAI世界を説明するために常に使う類推だからです。

Butlerian Jihadですね。私たちが話したAI コミュニティ内の準宗教的熱狂について非常にショッキングだったことの一つは、私がインタビューした人々の一人で、地平線上の深遠な大変動的変化について私に話しているときに声が震えていたことです。これらは非常に内臓的反応です。これらは真の信者です。

そしてDuneは、このエコシステムを理解するための本当に良い類推として私に衝撃を与えます。なぜならPaul Atreides の母が物語の中で、Paulを最高指導者として位置づけ、最終的に人口をコントロールするためにこの神話を作り出すからです。

そしてこの神話に遭遇する人々は、それが創造物であることを知らないので、彼らは単なる真の信者です。そしてある時点でPaulがこの自分自身の神話に非常に包まれて、それが元々創造物であったことを忘れ始めます。

これは本質的に、私がAI世界での私のインタビューで見ていると感じたことです。なぜなら、2019年の早い時期から人々にインタビューを始める機会があったからです。軌跡をマッピングするために当時と本のために一部の人々にインタビューしました。

2019年当時は非信者だった人々で、今は真の信者になっている人々がいます。もし彼らがその企業に十分長くいることができれば、彼らは最終的にみんな、このAGI宗教の真の信者になります。だからそれはブラックホールのような渦があります。イデオロギー的ブラックホールです。どう説明すればいいか分かりませんが、人々があまりにも長く水の中で泳ぐと、それは単に彼らになります。

だからあなたが言っているのはSam AltmanがLisan al-Gaibだということですね。それが登場人物で、Paul GrahamがおそらくBene Gesseritの役割だったかもしれません。

それが彼に割り当てるのに最も適切なキャラクターのように思えます。

これは素晴らしかったです。そして私は正直に言わなければなりません。この本は本当に本当に例外的です。Empire of AI、ダストジャケットを読みすぎて、私の娘が実際にそれを破ったと思いますが、とにかく、それは素晴らしい本、素晴らしいジャーナリズム、素晴らしいジャーナリストです。世界にはそれらの十分がありません。

ありがとうございます。

あなたに会えて本当に嬉しかったです。Karen、参加していただいてありがとうございました。

あなたに会えて素晴らしかったです。