本動画は、『Empire of AI』の著者であるジャーナリストのカレン・ハオが、OpenAIとサム・アルトマンを中心としたAI業界の実態について語るインタビューである。OpenAIが当初の非営利的なミッションから営利追求へと変貌していく過程、AI開発における「ブーマー」と「ドゥーマー」という2つの派閥の対立、そしてAIが準宗教的な運動と化している現状を詳しく分析している。さらに、AI開発における世界規模の労働搾取、データセンターによる環境負荷、そして一般市民がこの「AI帝国」に対してどのように抵抗できるかについても議論されている。
MITでの理想と現実のギャップ
私がMITをあれほど愛していた理由の一つ、そしてエンジニアリングとテクノロジーをあれほど愛していた理由は、学部生として常に受け取っていたメッセージがあったからです。あなたたちは世界を変え、より良い場所にするのですと。
私はカレン・ハオです。『The Atlantic』などの出版物で人工知能を取材するジャーナリストで、新著『Empire of AI』の著者でもあります。シリコンバレーで、より良い場所にすることは二の次で、まずは人々を豊かにしようということに気づいたとき、それは本当に心が痛みました。
私がその職業を選んだのは、最終的には志を同じくする人々を見つけられると思ったからです。世界を私たちが望む形に変えるという使命に向かって働いている人々をです。私の同僚たちは素晴らしく、皆使命感に燃えた人たちでしたが、すべての従業員がどれほど素晴らしく才能があり使命感に燃えていても関係ありませんでした。なぜなら、最終的にはベンチャーキャピタリストがお金を稼ぐ必要があり、それが最終的にテクノロジーがどうなるかを決定する要因だったからです。
私は非常に決断が早く、すぐに判断を下すタイプの人間です。その瞬間、私はもう終わりだ、ここから出ると決めました。次に何が起こるかを見届けるつもりはありませんでした。
OpenAIの物語 – 使命からの変貌
実際には、あなたはとどまったのではないでしょうか。今お話しいただいた物語は、まさにあなたが書いた本の物語だからです。『Empire of AI』、それはある意味でOpenAIの物語でもあります。使命を持って始まったものが、急速に別の何かになってしまった。そして多くの人が途中で幻滅していった。あなたはまだその理解に努めているように感じます。
はい、まさにそうです。これは過去10年半にわたるシリコンバレーの物語だと思います。大学の友人たちとよくこのことについて話すのですが、大学時代には私たちが向かう先に美しい緑の牧草地があり、楽観主義に満ちていて、私たちは皆、どうすれば世界をもう少しMITのようにハックできるかというエネルギーに満ち溢れていました。
私がMITにいた時の学長がいつも言っていたのは、世界をもう少しMITのようにハックしようということでした。もう少し国際的に、もう少しグローバルに、もう少し科学的に。それらはすべて素晴らしいポジティブで心地よいものでした。
しかし、今のシリコンバレーの状況はそのような瞬間ではありません。私はキャリアの初期にその摩擦にかなり早く気づきました。だから1年で辞めたのです。フライパンから火の中へ、という感じで、この業界を取材し始めることになりました。
サム・アルトマンとイーロン・マスクの哲学的対話
今お話しいただいたことを踏まえて、OpenAIとサム・アルトマンについて話しましょう。一部の人は背景を知っているかもしれませんが、サム・アルトマンとイーロン・マスクの関係や、なぜこの会社を始めたいと思ったのかという哲学的な会話について言及する価値があると思います。
多くの人が最近まで知らなかったかもしれないことの一つは、OpenAIは非営利団体として始まったということです。その理由は、サム・アルトマンが当時Y Combinatorの社長だったからです。Y Combinatorはシリコンバレーで最も評価の高いスタートアップアクセラレーターの一つで、多くの有名なスタートアップを立ち上げています。
彼は困難な技術に大きく賭けるというアイデアを持っていました。量子技術、自動運転車、核融合に投資していました。当時のシリコンバレーは「Xのウーバー」のようなものや、ノベルティとは言いませんが、ソーシャルメディアの反復版のようなものを生み出していました。いわゆる大きな賭けはしていませんでした。
そこで、世界中のあらゆるコネクションを持つ彼（Y Combinatorとは文字通りコネクション、ネットワーキング、お金とアイデアを結びつけることです）が、大きな賭けに出ることを決めました。Y Combinator内のプロジェクトとしてAIラボを作りたいと考えたのです。
アルトマンは非常に戦略的な人物で、長期的なゲームをプレイします。彼が非常に得意とすることの一つは、特定の目標に向けて才能と資本を集めることです。初期の段階で、このプロジェクトを正当なラボに変えるために誰を採用する必要があるかを考えました。
イーロン・マスクの採用とAIへの恐れ
彼が最初に特定したのはイーロン・マスクでした。当時マスクは、AIに対する恐れについて非常に公然と頻繁に語っていました。AIが全能の技術になるだろうという考えから、その開発には本当に慎重になる必要があるという考えです。
具体的に、マスクはGoogleが世界のトップAI研究人材を独占しているという事実に非常に取り憑かれていました。Googleはロンドンを拠点とするAI企業DeepMindを買収したばかりでした。彼は、AIが営利環境で開発されるとうまくいかないと考えていました。
マスクはこのことについて話し合うディナーを主催し、大学回りをして話をし、オバマ大統領と何度も会談して「これはあなたのレーダーに載せるべきものです。この技術を絶対に規制する必要があります」と言っていました。
アルトマンはマスクを採用するために、マスクに向かって言い始めました。私はAIについてのあなたの見解に共感しています。私もAIが非常に強力で間違った方向に行くことを心配しています。Googleの中にとどまっていると間違った方向に行くと思われますが、それに対抗する最良の方法は私たち自身のAIラボを作ることです。
善玉vs悪玉の構図
良い側のために、私たちが善玉になるのです。Googleはどういうわけか悪です。これは興味深いことです。なぜなら、私たちはDeepMindの創設者のムスタファ・スレイマンと話したと思いますが、彼は現在Microsoftにいて、自分が善玉になりたいと思って会社を始めたからです。技術の物語の中でヒーローになりたかったのです。
この場合も同じですね。これはAIにおいて非常に一般的なテーマであり、また人間の経験全般においても非常に一般的なテーマです。誰もが自分の物語の主人公であり、誰もが他者よりもうまくやろうとする人です。
しかし、あなたが触れたことの中で、AI世界とAIが今日どのように開発されているかを理解するのに本当に重要だと思うのは、多くのイデオロギー的な衝突が起こっているということです。誰もが自分は他の人よりも道徳的に優れていると考え、したがって自分が新しい会社のCEOになる必要があり、前の会社よりもうまくやろうとしているということです。
非営利から営利への転換と内部対立
時間が経つにつれて、OpenAIはそのようなイデオロギーがどのように衝突し、頂点に達するかという警告的な物語のようになったと感じます。人々は覚えていないかもしれませんが、少し前にこの会社は、非営利指向で非営利の取締役会から、その取締役会が本質的に反乱を起こし、「サム・アルトマン、実際のところあなたは私たちの扱い方においてそれほど素晴らしい人ではありません。また、あなたは本来取り組むべき安全メカニズムを真剣に受け取っているのでしょうか？」と言う状況への移行を経験しました。
これが爆発し、国際的なニュース記事になりました。私たちのうち誰もが実際になぜ、どのようにかを知らないにもかかわらず、AIが超超悪いと言っている人々がいることだけは知っていました。彼がガードレールに注意を払っていないということと、彼が「大丈夫です、この人たちは単に…何が起こるかは誰にも分からない」と言っているということです。
この会話のエコーを何度も何度も見ています。あなたが言うブーマーとドゥーマーについてです。これらの2つの派閥とは何ですか？OpenAIではどのように表面化したのでしょうか？
汎用人工知能という準宗教運動
この考えに戻ると、技術を本当に形作るイデオロギー的な衝突があるということですが、過去数年間にAI世界とシリコンバレー世界で起こったことの一つは、準宗教運動としかいえないものが生まれたということです。
準宗教運動と言ったのですか？
はい、準宗教運動です。これを準宗教運動と呼ぶ理由は、この世界には私が汎用人工知能宗教と呼ぶものを信じる多くの人々がいるからです。これは人間の知能を再現することが可能だと考える宗教です。これについては実際には科学的合意はありません。このことについて語る人々でさえ、自分たちでそれを信念として語っています。あなたがその信念を持っているか、持っていないかです。
もしその信念を持っているなら、第二の教義はそれが文明的変革を生み出すと信じることです。そしてこの宗教の中には2つの派閥があります。文明的変革が非常にポジティブになると考えるブーマーたちがいます。AGIは私たちをユートピアへ導くでしょう。もう一つの派閥は、その変革が非常に破壊的になると信じています。AGIは潜在的に全人類を殺す可能性があると。
明確にしておきますが、これは誇張ではありません。これは非常に公的な言語で、時々AI科学者の会議で出てきます。まさに天国か地獄かということです。
私は準宗教と言っていますが、実際にはこれは本格的な宗教と論じることさえできるでしょう。なぜなら、彼らはこれらのことに対する証拠がないと語っているからです。それは単に深く根ざした信念、スピリチュアルな信念です。時々スピリチュアルな言語を使い、AGIをデジタルの神と悪魔を再現することだと語ることもあります。これが彼らが使う明確な言語です。
反民主的な結論への到達
ブーマーとドゥーマーが同じ宗教の派閥だと言う理由は、両者とも同じ結論に到達するからです。「私たちが善玉だ。この技術の開発をコントロールしなければならないのは私たちだ」ということです。
そこには本質的に反民主的な結論があります。「私たちはこれを民主的なプロセスにすべきではない。様々な人々から多くの意見を得るべきではない。この技術を多くの人々に開放すべきではない。この技術を厳しく握りしめ、それについて秘密主義を貫く必要がある」というものです。
OpenAIが設立された初期の2015年後半には、AGI宗教を信じる人はほとんどいませんでした。汎用人工知能が可能だという考えについて語ることは、真剣な科学者ではないことを意味していました。なぜなら、これは科学に基づいていないからです。
そのため、OpenAIが打ち出した明確な前提に引き寄せられた人々、つまり大胆で野心的であり、実際にAGIの達成を試みていると主張することは、すでにそれを信じている人々だけを引きつけました。そしてたまたま、それが両方の派閥を引きつけたのです。ブーマーとドゥーマーの両方を。
したがって、OpenAIの歴史を通じて、常にこの2つの派閥が存在し、技術をどのように開発するか、技術の展開にどうアプローチすべきかについて、絶えず緊張状態にあり、戦っていました。
軍拡競争の始まり
私の取材を通じて結論づけたことの一つは、この緊張が実際にAI開発の大規模な加速につながったということです。なぜなら、AIがいたるところにある理由を考えると、私たちの頭の中だけではなく、生産性の爆発が実際にあったからです。これが業界での一種の軍拡競争になったからです。
その具体的な瞬間は、OpenAIがChatGPTに基づくGPT-3.5というモデルを決定したときでした。以前の世代であるGPT-3は、モデルの純粋なスケールの点でGPT-2から巨大なステップチェンジでした。
OpenAIはその時、非常に明確な決定を下しました。今日の世界にこれらのAIモデルがあり、これらのモデルを複数桁のオーダーで爆発的に拡大することを試したことがない、つまり複数桁のオーダーでより多くのデータ、複数桁のオーダーでより多くのコンピューターチップでこれらのモデルを訓練することです。
GPT-2は元々数十個のチップで訓練されていたと思いますが、彼らはGPT-3を10,000個のチップ、つまり当時建設された最大級のスーパーコンピューターの一つである完全なスーパーコンピューターで訓練することを決定しました。
そのジャンプが業界内で最初のレースを開始したのです。これが開始の合図となり、他の多くの企業がOpenAIが発見したこのコンセプト、つまり何があってもスケールということの周りに群がり始めました。ChatGPTが出た後、レースは本当に次のレベルに上がりました。
サム・アルトマン – 現代のポール・アトレイデスの母
準宗教と言っているのですが、この比喩を最後まで進めるとすれば、この世界でサム・アルトマンは誰なのでしょうか？彼は法王なのか、カルトリーダーなのか？ブーマーとドゥーマーのスペクトラムのどこに位置するのでしょうか？彼が最初は慎重だったことを知っているし、第二に、彼はカリスマ的リーダーの状況なのか？公の場で彼のビジョンを私たちに売り込んでいる彼を見るとき、私たちは何を見ているのでしょうか？
私の本の冒頭からの引用を読んでもいいですか？
お願いします！実際にあなたが読もうとしているものを知っていると思います。
私は本を2つの引用を並べて始めています。サム・アルトマンからのものは次のようなものです：
成功した人々は会社を作る。より成功した人々は国を作る。最も成功した人々は宗教を作る
これは引用符の中にあり、サム・アルトマンがこれを引用しているのです。これをTuから聞いたのですが、出典が何かははっきりしません。しかし、これで私は考えさせられました。最も成功した創設者たちは会社を作ることを目的としていない。彼らは宗教により近いものを作る使命を持っている。そして、ある時点で、会社を形成することがそれを行う最も簡単な方法だということが判明する。
だから、この宗教的な中でサム・アルトマンは誰なのかという質問への答えですが、この宗教について興味深いのは、彼らはより高い力に祈っているのではなく、自分たちがより高い力を作り出していると信じているということです。
アルトマンは、『デューン』のポール・アトレイデスの母のような存在だと思います。この参照が大好きです。彼女はポール・アトレイデスの周りに宗教を作った神話を作った人でした。そして人々がその神話に出会ったとき、それが創作だということを理解せず、ただそれを信じたのです。それがアルトマンだと思います。
これは多くの取材をして、彼が誰であるかを理解した後の私自身の結論です。彼がこれらのことについて語っている文書を見たわけではありませんが、この引用からも証明されるように、彼はキャリアの非常に早い段階で、人々を動員し、並外れたリソースを動員するためには、クエストの周りに宗教的な熱狂を作り出さなければならないということを理解していたと思います。
彼は汎用人工知能を作るというアイデアを呼び起こすことで、それを作り出す方法を見つけたのです。
アルトマンの真の信念は謎
彼がブーマーなのかドゥーマーなのかという質問については、誰も本当には知りません。これは本のためにインタビューをするときに非常に興味深かったことです。アルトマンとどれだけ長く働いていても、どれだけ密接に働いていても、誰も彼が何を信じているかを本当に言うことができませんでした。
もし彼らがドゥーマー自身であれば、アルトマンはよりドゥーマー寄りだと思っていました。つまり、彼は心配していて、安全を気にかけ、彼らが心配していることを気にかけているということでした。もし彼らがブーマーであれば、アルトマンは確実に自分たちの陣営にいて、ほぼ確実にブーマーだと信じていました。
人々に「この会話でサムはあなたに何を言いましたか？彼が信じていることや会社がしていることについて」と聞くと、彼は常に相手が聞きたいことに応じて、異なる人に異なることを言っていたということに気づきました。
そして最終的に、彼は何が便利で、従業員だけでなく一般市民、規制当局、政策立案者をOpenAIの最善の利益となる方向に動員し続けるために何が必要かに基づいて、よりブーマー的な精神を体現するか、よりドゥーマー的な精神を体現するかを選択するだろうと思います。
あなたが読もうとしていたと思った引用は、ポール・グラハムが言ったものです。サム・アルトマンを食人族の島に落として、5年後に戻ってきたら、彼が王になっているだろうというものです。
はい、それはポール・グラハムでした。彼のメンターが言ったことです。褒め言葉として。
トランプ政権との接近
カレン、別のことに移りたいと思います。あなたが今述べたアルトマンの描写は、実際にはドナルド・トランプについて人々が述べてきた方法と似ています。私がこれを持ち出すのは、アルトマンが今これらの輪の中を旅しているのを見ているからです。大統領のテクノロジー受け入れの一部として。
例えば、トランプはサウジアラビア、UAE、カタールの3カ国ツアーを行い、50人のCEOを連れて行きました。私は机の前でスクリーンを見ていて、サム・アルトマンが握手をしているのを見ました。AIツァーがそこにいて、デヴィッド・サックスがこれをグローバルAI競争におけるゲームチェンジャーと呼んでいます。
政権は、米国が他の誰よりも先にポジションを固めることができれば、中国などについて心配する必要がないと考えています。しかし、アルトマンがサウジアラビアの宮廷でこの取引の成立を手助けしているのを見るのは非常に奇妙でした。
背景報道で学んだように、このプロセスでイーロン・マスクを動揺させました。彼はOpenAIが自分よりも注目を集めていることに感じたからです。世界の権力が何かを分割している瞬間を見ているような気がしました。しかし、その世界の権力は技術企業でした。
新しい形の帝国
まさにそうです。私が本を『Empire of AI』と呼ぶ理由は、本の中で行う議論へのうなずきです。これらの企業は新しい形の帝国として考える必要があるという議論です。その理由は、古い帝国とAIの帝国は同じ特徴をすべて共有しているからです。
まず、彼らは自分たちのものではないリソースに対して権利を主張しますが、それが常に自分たちのものだったと示唆するようにルールを再設計します。彼らはインターネットをスクレイピングして、これは自由に取得できるものだったと言っていますが、人々はソーシャルメディアに投稿するだけで、突然あなたの経済機会を制限する可能性のあるモデルを訓練するための材料になるということに対してインフォームドコンセントを与えていませんでした。
帝国はまた、世界中の労働力を搾取します。これらのAI企業では、それは彼らが世界中の多くの労働者と契約し、その労働者がこれらの企業のためにデータクリーニング、データアノテーション、コンテンツモデレーションを極めて悪い条件で行うという事実だけでなく、これらの組織が最終的に労働自動化技術を構築しているという事実も指します。
OpenAIのAGIの定義は、最も経済的に価値のある作業のほとんどで人間を上回る高度に自律的なシステムです。つまり、途中で労働力を搾取するだけでなく、製品も労働力を搾取しているのです。
ケニアのデータワーカーたち
カレン、そこで展開すべきことがたくさんありますが、いくつか飛び込んで聞きたいことがあります。労働の部分について言及されましたが、私たちはAI科学者やベンチャーキャピタリスト、トップレベルのすべての人々について話してきました。そして、あなたの本を読んで学んだのは、ケニアのデータワーカーが応答から不適切なコンテンツを取り除いているということです。これは一体どのような仕組みなのでしょうか？AIにおける人間について教えてください。
OpenAIの歴史の中で、彼らがより研究指向から何らかの商業化が必要だということを理解し始めた時期がありました。それは、何でも吐き出すことができるテキスト生成ツールを何百万人ものユーザーの手に渡すということを意味していました。
企業がこれを行い、チャットボットが突然ユーザーの手の中で人種差別的、虐待的、有毒なことを言い始めたために大失敗となった、本当に悪名高いスキャンダルがいくつかありました。そのため、OpenAIは「そのようなことが起こってはならない。すべてのモデルの周りにコンテンツモデレーションフィルターを構築し、ユーザーが何かを言ったときに、モデルが何かを生成し始めたら、フィルターがそれをブロックし、ユーザーに戻ることはない」と考えました。
そこで、彼らはケニアの労働者と契約してこのフィルターを構築しました。これらの労働者が行ったことは、日々インターネット上の最悪のテキスト、およびOpenAIが最悪のインターネットテキストを想像するよう促したAI生成テキストの束を読むことでした。
そして、これらの労働者は詳細な分類法に非常に注意深く注釈をつけなければなりませんでした。これは暴力的なコンテンツか、性的なコンテンツか。これは極めてグラフィックな暴力的コンテンツか、性的虐待コンテンツか、そしてそれは子供を含むのか。
これらの労働者について、ソーシャルメディア時代とソーシャルメディアのコンテンツモデレーターで起こったのとまったく同じことを見ました。彼らは深くトラウマを受けました。トラウマを受けたのは個人だけではなく、彼らのコミュニティ、家族、彼らに依存していた人々が、依存していた人を失ったのです。
そして最終的に、彼らはこのすべての作業を時給2ドルで行いました。本の中で帝国の論理について話すとき、これはその論理の最も明確な例の一つです。AI研究者が百万ドルの報酬パッケージを受け取り、これらの労働者が時給2ドルを受け取る理由について、実際の正当化はありません。
これらのモデルはこの労働なしには不可能であり、製品としての成功もなかったでしょう。これは最も負担が大きく有害な労働であるにもかかわらずです。唯一の正当化はイデオロギー的なものです。すべての帝国を支える信念、つまり自然または神に与えられた劣った人々を支配し、隷属させる権利を持つ優れた人々のグループが存在するという信念です。
砂糖とドーナツ – 植民地主義の現代版
これは、コロンビアでAI訓練のために画像にラベルを付けている労働者や、ここではうさぎの穴に行くつもりはありませんが、これらのデータセンターが必要とする環境影響について話す前のことです。私たちは他の文脈でそれについて話したことがあり、リスナーには実際に私たちのポッドキャスト『Terms of Service』をチェックすることをお勧めします。これについて詳しく調べています。
しかし、あなたの指摘につながるのは、私たちがChatGPTの非常にクリーンアップされたバージョンを見ているということです。あらゆる種類のナンセンスなタスクを手助けしてくれるものとして、私たちは正確な人的コストの感覚を持っていないということです。
これは奴隷制時代の砂糖製造について学んだことがあるかもしれませんが、砂糖や砂糖のお菓子、その加工はカリブ海で奴隷労働で行われ、産業革命の工場で労働者が一日中働くエネルギーを得るためにマンチできるお菓子やドーナツを作ることができました。単なるドーナツではありませんでした。
そして、それについて非常にクレイジーだったのは、彼らがその砂糖を栽培していた土地は、カリブ海の人々のための食べ物を栽培していなかったということです。つまり、人的コストだけでなく、文字通りあなたの国をさらに発展させるための天然資源と人的資源を奪われている国のコストになります。それが植民地主義であり、私たちがまだ生きている遺産です。
ウルグアイと同様のものを見ています。AI分野に参入しようとしたいくつかの国があり、それが彼らにコストをもたらし、同じことを繰り返すことにつながっています。
チリとウルグアイの両方で活動家と話しました。彼らは自国内でのデータセンターの拡張と積極的に戦っていました。なぜなら、政府は「本当に外国直接投資が欲しい。これらの企業を歓迎してデータセンターを建設してもらいたい」と考えていたからです。
しかし、実際にデータセンターをホストしなければならないコミュニティで、これらのデータセンターはコンピューターの過熱を冷却するために真水を使用しなければならず、これらのデータセンターが来たとき、両国は歴史的な干ばつを経験していました。
市民の抵抗の可能性
最近の世論調査では、アメリカ人の75%以上が基本的に、安全かつ倫理的に行われることを確実にするためにAI開発を遅らせたいと望んでいるという選択肢を提示されたとき、そう答えていることが分かりました。この会話に効果をもたらすことができる批判的な世論の圧力のバージョンがあると思いますか？
絶対にです。確信がありますか？なぜなら、トランプと一緒にいる技術者たち、ソブリンウェルスマネーを得ているのを見ると、もうゲームオーバーだと感じるからです。彼は今後3年間で規制をたくさん撤回しており、もっと規制が行われることはないでしょう。
それは実際に本当に重要です。AIは、「10年後にこれが問題になる可能性がある」と言える他の技術とは異なります。氷山はすぐに溶けるでしょう。人々は非常に深刻な、例えば失業について2、3年の地平線を私たちに与えています。
それは信じられないほど困難になるでしょうが、帝国の特徴の一つは、それらが不可避であると感じさせられることです。しかし、歴史的にはすべての帝国が倒れています。だから、それは本当に可能なのです。ただ、並外れた量の作業が必要になるでしょう。
私は完全なAIサプライチェーンについて考えるのが好きです。これらの技術には、企業がこれらのモデルを構築するために必要なすべての材料があり、それらのモデルを展開するためにアクセスしなければならないすべてのスペースがあります。
材料には、データ、スーパーコンピューターをホストし、電力を供給するための土地、エネルギー、水、労働力、才能、作家、アーティスト、クリエイターが時間をかけて生産したすべての知的財産が含まれます。展開する必要があるスペースは、学校、ビジネス、ヘルスケア業界、その他すべてのタイプの業界です。
リソースの所有権を取り戻す
シリコンバレーが過去10年間で信じられないほどうまくやったことの一つは、すべての人に、彼らのリソースは実際にはシリコンバレーのリソースだと納得させたことです。しかし、私たちは何を覚えておく必要があるでしょうか？
私の友人たちが「もうデータプライバシーなんてない。とにかく彼らは私のデータをすべて持っているから、データを与え続ける」と言うのを知っています。それはあなたのリソースです。あなたはそれに対する所有権を持っています。
私たちは実際に私たちのデータ、私たちの土地、私たちのエネルギー、私たちの水に対する所有権を持っています。私たちの学校、私たちのヘルスケアシステムに対する所有権を持っています。これらは実際に集合的に所有されている、または個人的に所有されているリソースとスペースです。
これらの企業は実際にそれへのアクセスを必要としており、私たちがそのアクセスを許可する人々なのです。今日では、人々はそのアクセスを簡単に譲り渡していますが、私が話したチリの水活動家の物語について注目すべきことの一つは、彼らが根本的に理解していたことは、これは自分たちの水であり、相互に有益な合意を得られていると感じなければ、実際にアクセスを許可する必要はないということでした。
データセンターが来て「あなたたちの水を使う」と言ったとき、チリの活動家たちは「私たちに見返りに何をくれるのか？」と言いました。聞いたことが気に入らなかったとき、彼らは「いや、私たちの水は使わせない。GoogleチリからGoogleマウンテンビュー、チリ政府まで拡大する可能性のある限り大騒ぎを起こす」と言いました。
彼らはこのデータセンタープロジェクトを5年間停止させることができ、最終的に企業の代表者、チリ政府、水活動家が一つの部屋に入り、水活動家が実際に対話と会話をし、「これが私たちのコミュニティのために欲しいものです。データセンターをまったく建設したくないわけではありません。ただ、見返りに何か実際に私たちに与える必要があります」と言うことができました。
私たちはその精神から学ぶ必要があると思います。私たち全員が私たちのリソースを保護することについてもっと積極的になり、それが私たちにとって価値があるときに、実際に相互に有益な合意に入る必要があります。
不可避性という幻想を打ち破る
あなたがそれを言ってくれて嬉しいです。不可避だと感じないようにするのは難しいからです。そして無力感を感じないようにするのも難しいです。AIの物語は私たちの手の届かないところにあり、未来はAIに属するという風に語られています。
そして、あなたの指摘のように、私たちは皆「まあ、私は本当に便利さが好きだから」と言っています。そして今は手遅れだ、彼らはデータを持っている、今は手遅れだという部分は、少し暗いように感じます。
そして、「まあ、私は便利さは好きだが、それが実際には良い取引ではないことを知りながらそれを正当化する人々。スマートフォンは私たちにとって良い取引ではなかった。私たちの子供たちにとって良くなかった。ソーシャルメディアが良い取引ではなかったことを知っています。便利で楽しく、何であれ、それでも私たちは言われています。これは癌を治すでしょう、これは火星に行くのを助けるでしょう、これはAIが…ドットドットドット…これやあれへの扉を開くでしょう。
産業革命にも利益がありました。欠点もありましたが、利益もありました。そして、この件に悩んでいる理由は、私がムスタファ・スレイマンと長い会話をしたばかりで、彼は非常に「これは本当に人々を助けることができる」という感じだからです。どんなツールでもそうだと思いますし、あなたと話して、あなたは「人々よ、この植民地主義者たちと戦え」という感じです。そして、私が他の場所をグーグルすると、「まあ、スカイネットが来るから、皆さんに何を言えばいいかわからない。ドローンに攻撃される、洞穴を見つけろ」と言っています。
この業界について、それが技術そのものについてなのか、それに関わる人々についてなのか、どう感じればいいかについて、これほど相反する情報を聞いています。
現在の現実に焦点を当てる
ムスタファ・スレイマンが「人々を助けることができる」と言うとき、「できる」が重要な言葉です。そして人々が「スカイネットになる可能性がある」と言うとき、「可能性」がまだ重要な言葉です。
私が本で試みたことは、これは今実際に起こっていることだということです。それは「可能性」のシナリオではありません。それは現実です。そしてこの現実は、AIが今人々にどのような影響を与えているか、そして将来人々にどのような影響を与え続けるかを理解するために私たちが持っている最良の証拠であるべきです。
なぜなら、それはこの技術がどのように構築されているか、そして最終的に私たちの社会の断層線をどのように通り抜けていくかの論理を私たちに示しているからです。そして今のところ、それは良く見えていません。
私が主張するのは、私たちは実際に船の向きを変えることができるが、もう手遅れだ、私たちの役割はない、これらの大君主たちが親切であることを願いながら待つべきだということではないということです。これは、そのデータの所有権を取る、その土地の所有権を取る、そのチリの水活動家がやっていることをすることによって、私たちが積極的に集合的に形作る必要があるものです。
現在、これらの企業を訴えている芸術家や作家たちがいます。「私たちの知的財産で訓練したという事実が気に入らない。そんなことをする権利はない」と言って。
カレン・ハオの新著は『Empire of AI』です。どうもありがとうございました。
ありがとうございました。
コメント