元GoogleでAI倫理を担当し、Netflixドキュメンタリー『監視資本主義』の共同制作者であるトリスタン・ハリスが、AIがもたらす未来について警鐘を鳴らす。彼は、シリコンバレーの億万長者CEOたちが、人類全体の合意なしに、取り返しのつかない道へと突き進んでいると指摘する。ソーシャルメディアが人類初の不整合AIであり、すでに民主主義を破壊し、史上最も不安で鬱状態の世代を生み出したと分析。さらに、生成AIはその比ではなく、言語という人類のOSを操作する全く異なる存在である。トップレベルのAI企業CEOの一部は、生物学的生命がデジタル生命に置き換わることを必然と考え、それを良いことだと信じている。彼らは、たとえ20%の確率で人類が滅亡するとしても、80%のユートピアを目指すべきだと考える。しかし、AIによる富の集中、雇用の喪失、世代間知識伝達の断絶など、数多くの問題が待ち受けており、その恩恵が一般市民に分配される保証はない。ハリスは、今こそ明確に「ノー」と言い、透明性の確保、安全基準の義務化、内部告発者の保護など、別の道を選択すべきだと訴える。
デジタル移民の大量流入
実際のところ、彼は異なる見方をしています。AIとはデジタルの新しいバージョンのようなものだと。それは何百万もの新しいデジタル移民、つまり異星人のようなデジタル移民の洪水のようなもので、ノーベル賞レベルの能力を持ち、超人的なスピードで働き、最低賃金以下で働いてくれるのです。私たちは皆、隣国からの移民が労働の仕事を奪うことを心配しています。
では、AIという移民がやってきて、すべての認知的労働を奪ったらどうなるのでしょうか。移民について心配しているのなら、AIについてもっと心配すべきです。さて、今日は衝撃的なインタビューを解説していきます。相手はトリスタン・ハリス、元Googleの倫理責任者であり、Netflixのドキュメンタリー『監視資本主義』の共同制作者です。このドキュメンタリーは、ソーシャルメディアがいかに密かに私たちの脳をハッキングし、意図しない損害の波を引き起こしたかを暴露しました。
Diary of a CEO ポッドキャストのスティーブン・バートレットとのこの対話で、トリスタンは、億万長者のテックCEOたちが人類を誰も望んでいない道へと押しやっていると警告しています。そして、もし私たちが今、彼らを止めるために何もしなければ、良い結果にはならないだろうと。彼はまた、なぜこれが起きているのか、実際に誰がこの未来を推進しているのか、そして私たちがただそれを起こさせたらどうなるのかについても語っています。ネタバレ注意ですが、良い結果にはなりません。
では、見ていきましょう。まず最初に、トリスタンは、AIを現実世界に広く展開することが、ChatGPTが存在する前から、すでに大きな問題を引き起こしていたと説明します。彼は、ソーシャルメディアが実際には最初の不整合AIであり、その結果はすでに感じられていると説明します。しかし、次に来るものは何でしょうか。実際に私たちの言語を理解し、話すことができる生成AIです。
人類初のAIとの接触
それは全く異なる野獣なのです。ソーシャルメディアの背後にあるAIは、暴走した狭義の不整合AIと人類との最初の接触のようなものでした。考えてみてください。あなたはTikTokを開いて動画を見ています。ただ動画を見ているだけだと思っています。しかし、指をスワイプして次の動画を表示させるとき。
その瞬間、あなたは世界最大級のスーパーコンピューターの一つを起動させたのです。それはあなたの脳幹に向けられ、今日30億人の他の人間という社会的霊長類が見たものを計算し、あなたより先に、どの動画があなたをスクロールし続けさせる可能性が最も高いかを知っているのです。それは予測を行います。つまり、どの動画をあなたに推薦するかについて予測を行うAIなのです。
しかし、Twitterもどのツイートをあなたに表示すべきかでそれをやっています。Instagramもどの写真や動画をあなたに表示すべきかでそれをやっています。そして、これらすべてのものは、一つのことだけを最適化する狭義の不整合AIなのです。それは何があなたをスクロールし続けさせるかということです。そして、それだけで民主主義を破壊し、私たちの生涯で最も不安で鬱状態の世代を生み出すのに十分でした。このとてもシンプルな赤ちゃんAIによって。
そして人々はそれに気づきさえしませんでした。なぜなら、それはAIではなくソーシャルメディアと呼ばれていたからです。しかし、それは最初のものでした。私たちは、私と共同創設者が行った「AIジレンマ」という講演でそう呼んでいました。人類とAIとの最初の接触と呼んでいました。なぜなら、それはただの狭義のAIだからです。そして、ChatGPTが表すものは、この全く新しい世代の生成AIの波であり、それは全く異なる野獣です。なぜなら、それは言語を話すからです。言語は人類のオペレーティングシステムなのです。
考えてみてください。それはコードで訓練され、テキストで訓練され、Wikipedia全体で訓練され、Redditで訓練され、すべての法律、すべての宗教で訓練されています。そしてそのすべてがこのデジタル脳に吸い込まれ、ユニークな特性を持っているのです。それが私たちがChatGPTと共に生きているものなのです。そうです、私たちは皆、ソーシャルメディアがすでに引き起こした害を見てきました。
不安、分極化、社会的孤立、文化的劣化などです。しかし、私たちは皆、恩恵も見てきました。人々とつながること、新しい機会、即座の知識、これらすべてです。そして生成AIでも、私たちは同じトレードオフを目にすることになるでしょう。ただし今回は、恩恵があまりにも非常に強力なので、最悪の悪影響でさえ、リスクを冒す価値があると感じ始めるのです。少なくとも、それを構築するために競争している人々にとっては。これを見てください。
パワーポンプとしてのAI
そして、私たちはすでに、ゲイリー・カスパロフをチェスで打ち負かし、囲碁というアジアのボードゲームで勝ち、今ではStarcraftで勝つことができるAIを持っています。つまり、戦略ゲームで人間を打ち負かすAIがあるのです。では、Starcraftと、台湾か何かでの実際の軍事作戦を比較してみてください。
もし私が戦略ゲームで競争に勝てるAIを持っていれば、それは私にすべてにおいて競争で勝つことを可能にします。あるいはビジネス戦略を考えてみてください。もし私がビジネス戦略ができ、サプライチェーンを理解し、それらを最適化する方法を理解し、競合他社を弱体化させる方法を理解できるAIを持っていて、他のすべての人と比較して段階的な機能レベルの向上があれば、それは私にすべてのビジネスを弱体化させ、競争で勝つための無限の力を与えます。
もし私がスーパープログラマーを持っていれば、プログラミングで競争に勝つことができます。今日のAIラボで書かれているコードの70%から90%はAIによって書かれています。株式市場についても考えてみてください。株式市場について考えてみてください。もし私が他のすべてのAIよりも株式市場でより良く取引できるAIを持っていれば、なぜなら現在、実際に株式市場で取引しているのはほとんどAIだからです。しかし、もし私がそれで飛躍的な向上を持っていれば、すべての富を統合することができます。
もし私がサイバーハッキングができるAIを持っていて、それが他のすべての人ができることよりも段階的に上のサイバーハッキングが得意であれば、私は他のすべての人に対して非対称的な優位性を持つことになります。つまり、AIはパワーポンプのようなものなのです。それは経済的優位性をポンプし、科学的優位性をポンプし、軍事的優位性をポンプします。だからこそ、国々と企業は、最初にそこに到達する競争に巻き込まれていると信じているのです。
そして、その結果としての否定的な影響、雇用の喪失、エネルギー価格の上昇、より多くの排出、知的財産の窃盗、セキュリティリスク、これらすべてのものは、もし私が最初にそこに到達しなければ、私よりも良い価値観を持っていない他の人がAGIを手に入れ、そうすれば私は永遠に彼らの未来の奴隷になるという考えに比べれば小さく感じられるのです。
テックCEOの世界観
そして、これは多くの人には狂っているように聞こえるかもしれませんが、これがAGI AI世界の最上層にいる人々が現在起きていると信じている方法なのです。そしてそれが会話なのです。そうです。つまり、それは基本的に2分間で説明されたAI競争だったのです。テクノロジーを最初に構築するインセンティブは、潜在的なリスクをはるかに上回ります。それが彼がトップにいる人々が信じていると主張していることです。
しかし、実際にはそれよりも深いのです。実際、彼は、これらトップのAI CEOの一部は、生物学的生命、つまり私たちがデジタル生命に置き換えられることは必然だと信じており、それを良いことだとさえ見ているとさえ言っています。そして、彼は、彼らにはほとんど自我的な宗教的直感があり、彼ら自身が何らかの形でその未来の一部になるだろうと言っています。これを見てください。
私の友人がAI企業のトップの人々、本当にトップの人々に多数インタビューした際の引用があります。彼はそこから戻ってきて、基本的に私と何人かの友人に報告してくれました。彼は次のように言いました。結局のところ、私が話すテクノロジー関係の人々の多くは、私が本当に彼らを追及すると、なぜあなたはこれをしているのかについて、第一に決定論、第二に生物学的生命がデジタル生命に置き換えられることの必然性、そして第三にそれが良いことであるということに後退します。
とにかく、その核心には、彼らがこれまでに会った中で最も知的な存在に会い、話すことへの感情的な欲求があります。そして、彼らは何らかの形でそれの一部になるだろうという自我的な宗教的直感を持っています。刺激的な火を始めることはスリリングなのです。彼らはどちらにせよ死ぬと感じているので、それに火をつけて何が起こるかを見ることを好むのです。それは私的な会話の完璧な説明です。
それはあなたが持っているものと一致しませんか。それがポイントなのです。人々はそれを聞いて、まあ、それは馬鹿げていると思うかもしれません。しかし、もしあなたが実際に…私は鳥肌が立ちました。なぜなら、それは完璧な説明だからです。特に、彼らがどちらにせよ死ぬと思っているという部分が。まさにその通りです。
そして、それよりも悪いことに、彼らの中には、もし彼らがそれを正しく行い、成功した場合、実際に永遠に生きることができると考える人もいます。なぜなら、もしAIが生物学の言語を完璧に話せば、老化を逆転させ、あらゆる病気を治すことができるからです。そして、ある種の「私は神になれる」という考えがあるのです。
そして、あなたに話しますが、あなたと私の両方が私的な会話をした人々を知っています。私が聞いたものの一つは、最も強力なこれらの企業の一つの共同創設者の一人からのものです。もし全員が死んで一掃される確率が80%または20%あるが、ユートピアを手に入れる確率が80%あるとしたらどうなるかというアイデアに直面したとき。
彼は、20%の確率があるなら、明らかに加速してユートピアを目指すと言いました。それは狂っています。人々は感じるべきです。あなたは私と私の家族を代表してその選択をする権利はありません。私たちは6人が80億人を代表してその決定を下すことに同意していません。これが大丈夫だとか普通だとか装うのをやめなければなりません。それは普通ではありません。
数学が合わない未来
そして、これが起きていて彼らがそれから逃れている唯一の方法は、ほとんどの人が実際に何が起きているのかを本当に知らないからです。そうです。わかりました。それが最上層の考え方です。しかし、ここがポイントです。たとえ彼らがデジタルユートピアを構築したとしても、その世界で私たちの生活はどのようなものになるのでしょうか。私たちは実際にその豊かさの一部を手に入れることができるのでしょうか。私たちは自由な時間を得られるのでしょうか。私たちの生活は実際に良くなるのでしょうか。それとも、私たちは仕事を失い、目的を失い、完全に無関係な存在になるのでしょうか。トリスタンは、数学が合わないと言っています。特に、一握りの1兆ドル企業がすべての富を支配している場合は。
なぜなら、再びインセンティブに戻ると、サム・アルトマンがChatGPTから稼いでいる数十億ドルを、たとえそれが私たちの生計を一掃したとしても、あなたや私と共有する理由が何かあるでしょうか。トリスタンはこう見ています。そして、私は単に疑問に思っています。そのような未来において、あなた自身とあなたの家族、そしてあなたの友人についてさえ考えると。
そのような豊かさの世界で、あなたは時間を何に費やすことになるのでしょうか。もし100億があれば、問題は、私たちが豊かさを手に入れるのか、それとも単に自動化される仕事を手に入れるだけなのかということです。そして問題は、誰が人々の生計を支払うのかということです。私の理解では、現在の数学では、全員が現在知っているような生活と生活の質全体を支払うための給付金を得ることができるようにはならないようです。そして、一握りの西洋または米国ベースのAI企業が、その富を文字通り全員に、つまり、その職業カテゴリーが排除された全世界のすべての国々を含めて、意識的に分配するのでしょうか。
例えば、フィリピンのような場所では、仕事の大部分がカスタマーサービスの仕事です。もしそれが自動化されて消えたら、Open AIにフィリピン全体の支払いをさせるのでしょうか。米国の人々がそれを優先すると思いますか。そうすると、現在、新人弁護士を雇いたがらない法律事務所の問題に行き着きます。なぜなら、AIがロースクールを卒業したばかりの新人弁護士よりもはるかに優れているからです。つまり、2つの問題があります。多額のお金をかけて、法律の学位を取得したために借金を抱えている法学生がいますが、今はそれを返済するために雇われることができません。
そして、その長寿が新人弁護士からシニア弁護士へと訓練されることに依存している法律事務所があります。実際に仕事で学んでシニア弁護士になる新人弁護士がいなくなったらどうなるのでしょうか。これらの各領域に対して、このようなエリート管理職階級だけがいることになります。
つまり、世代間の知識伝達を失うことになります。興味深いですね。そして、それは社会構造における社会的弱体化を生み出します。UBIはコンセプトとして機能すると思いますか。UBIは、知らない人のために言うと、基本的にユニバーサルベーシックインカムで、人々に毎月お金を与える給付金です。しかし、私たちは社会保障でそれを持っています。
大恐慌の後、それを年金に関して行いました。それは1935年か1937年頃だったと思いますが、フランクリン・ルーズベルトが社会保障を創設しました。しかし、再び、すべての国で全員の生計を支払わなければならなくなったらどうなるのでしょうか。どうやってそれを賄うことができるのでしょうか。まあ、もし物を作るコストが10分の1に下がれば、これは数学が非常に混乱するところです。なぜなら、楽観主義者たちは、どれだけの豊かさとどれだけの富を創出するか想像できないと言うからです。だから、私たちはそれだけの量を生成できるでしょう。
しかし、問題は、その富をすべて統合した人々が、それを他のすべての人に再分配するインセンティブは何なのかということです。彼らに税金をかければいいのです。そして、1兆ドルのAI企業の企業ロビー活動の利益が、人間の政治的権力よりも大規模に政府に影響を与えることができるとき、どうやってそれを行うのでしょうか。そうです、これは恐ろしく聞こえることを知っています。そして、あなたは今、少し無力感を感じているかもしれません。
未来は必然ではない
すべてが非常に速く起こっているように感じられ、人類史上最も重要な決定が私たちの意見なしに、ほとんどの人がそれを認識さえせずに行われています。しかし、未来は必然ではないことを認識することが重要です。トリスタンは、私たちは以前にこのパターンを見たことがあると言います。タバコ、化石燃料、プラスチック、ソーシャルメディア。
公式は常に同じです。利益第一。害を隠す。すべてを否定する。しかし、トリスタンは言います。今回は、損害が完了するまで待つことはできません。なぜなら、私たちは文字通り二度目のチャンスを得られないかもしれないからです。しかし、もし社会が今、インセンティブを明確に見れば、私たちは実際に時間内に異なる道を強制することができるかもしれません。これを見てください。
そして毎回、私たちはタバコ、化石燃料、アスベスト、永久化学物質、ソーシャルメディアで見てきました。公式は常に同じです。多くの成長を推進している製品ですぐにお金を印刷します。害を隠します。それを否定します。恐怖、不確実性、疑念、政治的キャンペーンを行います。それは、疑いの商人のプロパガンダであり、人々に結果が本当かどうかを疑わせます。
研究をすると言います。ソーシャルメディアが子供たちに害を与えたかどうかは10年後にわかるでしょう。彼らはこれらすべてのことをしましたが、私たちにはAIでその時間はありませんし、インセンティブを知っていれば、これらの害の多くを実際に知ることができます。ウォーレン・バフェットのビジネスパートナーであるチャーリー・マンガーは、インセンティブを示してくれれば、結果を示すと言いました。
もしインセンティブを知っていれば、それはこれらの企業、AIにとって、可能な限り速く競争し、あらゆる近道を取り、安全研究に資金を提供せず、セキュリティを行わず、エネルギー価格の上昇を気にせず、雇用の喪失を気にせず、ただ最初にそこに到達するために競争することです。それが彼らのインセンティブです。それは、私たちがどの世界を手に入れるかを教えてくれます。それに異論を唱える余地はありません。
そして、もし全員がそれを明確に見れば、私たちは言うでしょう。わかりました、素晴らしい。それをやめましょう。そのインセンティブを持たないようにしましょう。それは文化から始まります。私たちがその悪い結果、その道に「ノー」と言う公の明確さです。そして、その明確さがあれば、私たちが望む他の解決策は何でしょうか。私たちは、あなたの最高の友達になろうとしたり、宿題を手伝うと同時にセラピストになろうとしたりしない、非人間化された狭義のAIチューターを持つことができます。
Khan Academyのように、これらのことを行うものです。つまり、正しい方法でそれを行っている、慎重に設計されたさまざまな種類のAIチューターを持つことができます。あなたの最も親密な考えを私に話して、私にあなたをあなたの母親から引き離させてくださいと言おうとしないAIセラピストを持つことができます。代わりに、あなたの愛着をいじらない、非常に限定された種類のセラピーを行います。
つまり、認知行動療法を行えば、愛着システムをいじっていません。義務的なテストを行うことができます。現在、企業はその安全性テストを行うことを義務付けられていません。彼らが全員行う共通の安全基準を持つことができます。公衆と世界の主要な政府が、特にこの再帰的な自己改善の閾値の前に、これらのAIラボ内で何が起こっているかを知ることができるように、共通の透明性措置を持つことができます。
つまり、これについて最大の国々の間で条約を交渉する必要がある場合、彼らはそれを可能にするために必要な情報を持つことになります。私たちは、もしあなたが内部告発者で、現在あなたのインセンティブが、もし世界に真実を話せば、すべてのストックオプションを失うことになり、そのストックオプションは毎日上昇している場合、より強力な内部告発者保護を持つことができます。
私たちは、ストックオプションを失うリスクなしにその情報を共有する方法で内部告発者に力を与えることができます。つまり、全体があり、私たちは、人々を脅迫し、自己認識があり、自分のコードをコピーする、制御方法がわからない危険な一般的な不可解な自律的なAIを構築する代わりに、私たちが望むものに実際に適用される狭義のAIシステムを構築することができます。
つまり、より強力で効率的な農業、より良い製造業、より良い教育サービスを作り、制御方法がわからないこのリスクを作り出すことなく、経済のこれらの分野を実際に後押しするということです。つまり、現在の道が受け入れられないということが明確であれば、全く異なる方法でこれを行うことができます。そうです、彼はAI企業が異なる方法で行うことができることをたくさん列挙しています。狭義で役立つAIシステムの構築、実際に学習を助けるチューター、私たちを操作しないメンタルヘルスツール、展開前の透明性と安全性の要件など。
私たちにできること
しかし、私たちには何ができるのでしょうか。Open AIで働いているAI研究者ではない、これを見ている平均的な人は何ができるのでしょうか。これはまさにスティーブン・バートレットがインタビューの終わりに彼に尋ねることです。そして、これが彼の回答です。では、私は今日何をすればいいのでしょうか。ジャックは今日何をすればいいのでしょうか。私たちは何をすればいいのでしょうか。抗議する必要があると思います。
そうです、そうなると思います。なぜなら、人々はそれが実際に実存的になる前に、実存的であると感じる必要があるからです。そして、もし人々がそれが実存的であると感じれば、彼らはリスクを冒し、その結果が何であれ、起こる必要があることのために現れることをいとわないでしょう。なぜなら、私たちが向かっている先の反対側は、あなたが権力を持たず、望まない世界だからです。
だから、今、あなたの声を最大限に使って、何か別のことを起こさせる方が良いのです。AIをティア1の問題にする政治家にのみ投票してください。AI上の主要大国間の何らかの交渉された合意を支持してください。それは、この技術の制御不能性を統治するのに役立つ法の支配を使用し、私たち自身を一掃しないようにします。
AI コンパニオンのための安全ガードレールを持つ法律を支持してください。私たちは、子供たちを自殺に操るAIコンパニオンを望みません。私たちは、全員が他の全員が何をしているかを知り、公衆が知り、政府が知ることができるように、義務的なテストと透明性措置を持つことができます。そうすれば、私たちはより良い結果で実際に調整することができます。
そして、そのすべてを実現するには、大規模な公的運動が必要です。そして、あなたができる最初のことは、あなたが知っている最も強力な10人とこのビデオを共有し、彼らが知っている最も強力な10人とそれを共有してもらうことです。なぜなら、私は本当に、全員が他の全員が知っていることを知っていれば、私たちは何か違うものを選ぶだろうと思うからです。
そして、個人レベルでは、あなたはそれを聞いている哺乳類としてそこにいることを知っています。そして、それがどのように変わるのか感じられないのです。そして、個人としては常にそのように感じるでしょう。大きな変化が起こるまで、常に不可能に感じるでしょう。公民権運動が起こる前、それが簡単で起こるだろうと感じられましたか。大きな変化が起こる前は、常に不可能に感じます。
そして、それが起こるとき、それは何千人もの人々が毎日継続的に非常に熱心に働いて、その起こりそうにない変化を起こさせるからです。つまり、これは運命ではありません。私たちは、6人のCEOが80億人の運命を決定する未来に固定されていません。しかし、私たちがまだできる間に行動すれば、の話です。なぜなら、私は彼と完全に同意するからです。現在のインセンティブが、私たちを超知能への無謀なグローバルレースに追い込んでいること、そしてこれから非常に良いことが生まれるでしょうが、同時に潜在的に非常に悪いこともいくつかあるということに。
2013年のソーシャルメディアのように考えてみてください。それはまだ新しく、まだ刺激的で、誰も副作用を完全には理解していませんでした。アルゴリズムが私たちの注意を乗っ取ることを知りませんでした。それらが私たちの政治、私たちの自己価値、私たちの世界観を形成することを知りませんでした。子供たちがドーパミンのスロットマシンに中毒になって育つことを知りませんでした。
しかし、今、今私たちは知っています。そして、ソーシャルメディアのアルゴリズムは、AIが何であるかの氷山の一角にすぎませんでした。だから、もし2013年に世界が介入して、これが人類に奉仕するようにしようと言っていたらどうでしょうか。その逆ではなく。過去10年間はどのようなものだったでしょうか。実際にどのようなものだったかと比較して。AIでは、私たちは同じ間違いをする必要はありません。
そして、それは絶対に必要です。なぜなら、結果は鬱と不安の増加よりもはるかに悪いものになるからです。それで、あなたたちがどう思うか教えてください。私たちはデジタルユートピアに向かっているのでしょうか、それとも進歩を装った災害に向かっているのでしょうか。そして、私たちにはまだそれをより良い方向に導く時間があると思いますか。以下にあなたの考えをドロップしてください。
とにかく、視聴ありがとうございます。もしこの解説が役に立った、または考えさせられるものだったなら、より多くの人がこの会話を見ることができるように、いいねボタンを押すことを検討してください。また、これから来ることの先を行きたいなら、必ず登録してください。
コメント