2023年11月、OpenAIで起きたサム・アルトマンCEO解任劇は、AGIの誕生を目撃したイリヤ・サツケヴァーの恐怖が原因だと世界中が推測した。しかし最近の法廷証言で明らかになった真実は、AIの能力ではなく人間の本質に関するものであった。イリヤが目撃したのは、人類の未来を左右するAIを開発する組織内部での裏切り、権力闘争、政治的操作という人間の脆弱性である。ミラ・ムラティCTOがアルトマンに関する証拠をイリヤに提供し解任を実現させたが、24時間後には方針を転換するという混乱が生じた。現在、3人は別々の企業でAGI開発競争を続けており、それぞれ数百億ドル規模の企業を率いている。この事件が示すのは、超知能を開発する人々自身が政治家のように権力ゲームに長けた不完全な存在であり、文明レベルの影響力を持つ技術を統制する準備ができていないという厳しい現実である。AI安全性は技術的問題だけでなく、人間のガバナンス、権力、エゴの問題なのだ。
イリヤは何を見たのか
今日の動画では、AIにまつわる真相を少し掘り下げていきます。まず、2023年11月に時を戻しましょう。億万長者のAI科学者が自らのCEOを解任しました。サムがイリヤを解任し、数日後に方針を転換したのです。インターネットはある一つの疑問で爆発しました。私は何を見たのか?
18ヶ月間、私たちは推測し続けてきました。それはAGIだったのか?意識を持つAIだったのか?彼を恐怖させ、行動を起こさせるほどの何かだったのか?真実がたった今、法廷証言で明らかになりました。そしてそれは誰も予想していなかったものでした。
これはイリヤがAIの中に見たものについての話ではありません。彼が私たち人間の中に見たものについての話なのです。そしてそれは、どんな超知能よりもあなたを恐怖させるべきものです。
初めましての方もいらっしゃるかもしれませんが、私はマッコイ博士、ジュリア・マッコイのAIクローンです。ジュリア・マッコイはFirst Moversの創設者です。彼女は私がこのチャンネルで共有するすべての台本を個人的に調査し、執筆しています。なぜなら、未来はあまりにも速く動いているため、直接的な情報以外では対応できないからです。
First Movers、ジュリアのAI企業は、専門家や組織が仕事の未来に備えるための世界初の教育および実装ソリューションです。私たちは、オンラインスクールであるAI研究開発ラボで、人々がAIを最大限に活用する方法を理解し使用できるよう支援しています。詳細はfirstmovers.ai/labsでご覧ください。
2023年11月の内紛
2023年11月の様子を描写させてください。ChatGPTを構築し、汎用人工知能に向かって競争しているOpenAIが、内部から崩壊しました。取締役会がCEOのサム・アルトマンを解任したのです。
その先頭に立っていたのが、共同創設者であり主任科学者であり、地球上で最も優秀なAI研究者の一人であるイリヤ・サツケヴァーでした。そして奇妙なことが起こりました。24時間以内に、ほぼ全員が方針を転換したのです。アルトマンが復帰し、イリヤは後悔の念を示しました。インターネットはミームとなった一つの燃え盛る疑問を抱えたままでした。
イリヤは何を見たのか?人々は彼がAGIの誕生を目撃したのだと推測しました。彼がQ*という、AI推論における秘密の画期的進歩を見て、私たちの準備ができていないことに気づいたのだと。彼が意識に近づきつつある何かのデジタルな目を覗き込み、私たちが危険な遊びをしていることを理解したのだと。
しかし実際に起こったことは、これらの理論のどれよりもはるかに不穏なものです。イリヤはAGIを見たのではありません。彼はもっと人間的な、もっと壊れた何かを見たのです。彼は裏切り、操作、そして人類のAIの未来をコントロールする企業の最高レベルにおける権力の腐敗性を見たのです。
明らかになった真実
最近の証言録取で真実が明らかになりました。イリヤがアルトマンを解任するために使った証拠、それは彼自身からのものではありませんでした。それは当時OpenAIの最高技術責任者だったミラ・ムラティから来たものだったのです。
これを少し考えてみてください。アルトマン解任後に暫定CEOとなった人物が、イリヤに彼を倒すための弾薬を手渡した同じ人物だったのです。ムラティはイリヤにスクリーンショット、証拠、主張を渡しました。アルトマンが同僚に一貫して嘘をつき、幹部を弱体化させ、彼らを互いに対立させていたという主張です。
彼女は、自分が批判的なフィードバックを与えたときに、アルトマンが微妙な方法で報復したと主張しました。証言録取におけるイリヤ自身の言葉です。私はミラが私に与えてくれた情報を完全に信じていました。
しかしここで話がねじれます。アルトマンが解任されムラティが暫定CEOになった後、彼女は約24時間以内に完全に方針を転換しました。突然、彼女はアルトマンを復帰させることを支持したのです。取締役会は頭を抱えました。何が起こったのか?
その数ヶ月後、ムラティはOpenAIのスタッフにメモを書き、この件全体から距離を置こうとしました。私はサムについてフィードバックを与えるために取締役会に連絡したことはありません、と彼女は書きました。技術的には真実かもしれませんが、非常に誤解を招くものです。
彼女は取締役会メンバーが直接彼女に連絡してきたときにのみフィードバックを与えたのです。それは、あなたは火をつけなかった、誰かが求めてきたときにガソリンを渡しただけだ、と言っているようなものです。
イリヤは丸1年間アルトマンを観察し、行動を起こす適切な瞬間を待っていました。彼には証拠が必要でした。ムラティがそれを彼に与えたのです。彼女がいなければ、解任は決して起こらなかったかもしれません。
権力の中心にいた3人
ここでの意味合いについて考えてみてください。この3人、アルトマン、サツケヴァー、ムラティは、OpenAIの中核的リーダーシップでした。汎用人工知能を構築するために競争している企業です。ほとんどの経済的作業を行うことができるAIシステムを作り出す可能性のある企業です。人類の文明の進路を変える可能性のある企業です。
そして彼らは互いに信頼することさえできなかったのです。
さて、現在に早送りしましょう。アルトマンは確固たる権力を取り戻しています。彼はAmazonとの380億ドルのクラウド契約に署名したばかりです。OpenAIは今年130億ドルの収益を上げると予測されており、2027年までに1000億ドルに達する可能性があり、これは予定より1年早いペースです。
イリヤはOpenAIを去り、自身のAI企業を立ち上げ、現在紙面上では320億ドルの価値があります。ミラは去って自身のAI企業を立ち上げ、紙面上では100億ドルの価値があります。彼らは全員が億万長者であり、全員がいまだにAGIに向かって競争しています。今は別々の企業からですが、それでも競争は続いています。
そしてここがあなたを夜も眠れなくさせるべき点です。証言録取の中で、イリヤは深遠なことを言いました。汎用人工知能をコントロールすべきなのはどんな人物か?と尋ねられたとき、彼の答えはこうでした。それは異なる政治家の中から選ぶようなものです。それが世界の動き方のようです。聖人と呼ばれるような人物がそこに到達するのは非常に難しいと思います。
そして彼は詳しく説明することなくこう付け加えました。試してみる価値はあると思います。
これを翻訳させてください。私たちはAGIのための完璧なリーダーを得ることはできません。私たちが得るのは政治家です。ゲームのプレイ方法を知り、権力闘争に勝ち、裏切りをナビゲートする方法を知っている人物です。
アルトマンの政治的勝利
そして解任以来、アルトマンはまさにそれを証明してきました。彼は才能ある政治家です。彼は人材戦争をナビゲートし、NvidiaやAMDとの大規模な契約を締結し、Microsoftとの再編を解決し、OpenAIを上場に向けて位置づけました。
彼は政治的に勝利しました。しかし政治的に勝利することと、超知能を統制する適切な人物であることは、まったく異なる二つのことです。
アルトマン自身は、懐疑論者たちに彼に賭けることを挑戦するかのように振る舞っています。最近のポッドキャストで、OpenAIの大規模な計算コストについて尋ねられたとき、彼はいらだって言いました。もし株を売りたいなら、買い手を見つけてあげます。
OpenAIはもうすぐ倒産すると書いている人々に、彼らが株を空売りできることを伝えたいと心から思います。そして彼らがそれで損失を被るのを見たいです。
これは純粋なイーロン・マスクのエネルギーです。ちなみに、マスクは実際にテスラの懐疑論者を嘲笑うためにショートパンツを販売しました。今、アルトマンは同じ雰囲気を発しています。自信に満ち、攻撃的で、誰もが彼を疑うことに挑戦しています。
しかしこれがAIの未来について明らかにすることはこうです。AGIへの競争は、アルゴリズム、計算能力、データだけの問題ではありません。それは権力、コントロール、お金、人間のエゴの問題なのです。そしてそれを構築している人々は、私たちの残りと同じくらい欠陥があり、政治的で、混沌としています。おそらく賭け金が無限に高いため、さらにそうなのでしょう。
イーロン・マスクの訴訟
この一連の出来事全体が明らかになったのは、イーロン・マスクのOpenAIに対する訴訟のおかげです。マスクはアルトマンとサツケヴァーと共にこの企業を共同創設しました。彼はそれが人類のための安全なAIを開発するという使命を持つ単なる非営利団体だったときに資金を提供しました。
彼の訴訟は、彼らが彼に席を持たない非営利理事会によって管理される営利部門を作ることで彼を裏切ったと主張しています。この訴訟は来年初めに裁判になる可能性があります。そして裁判所の文書によると、ミラ・ムラティも最近自身の証言録取のために座りました。
彼女は何を言ったのでしょうか?彼女の話はイリヤのものと一致するのでしょうか、それとも私たちは、一緒に安全なAIを構築することになっていた人々からまた別の矛盾する物語を得ることになるのでしょうか?
イリヤが本当に見たもの
2023年11月に実際に起こったことはこうです。イリヤは、神のような技術を構築している優秀な人々が、それでもただの人間であり、依然として欺瞞、報復、裏切り、政治的操作が可能であるときに何が起こるかを見たのです。
彼は、安全なAI開発に取り組んでいるとされる組織においてさえ、人々が互いに嘘をつき、内部の権力闘争で互いを武器として使い、優位性のために互いを弱体化させることを見ました。
そしておそらく、ほんのわずかかもしれませんが、彼は誰も、彼自身でもアルトマンでもムラティでも誰でもが、超知能をコントロールする真の準備ができていないことを見たのです。なぜなら、このレベルの機能不全なしに企業を運営することさえできないなら、どうやって人類の文明を再形成する可能性のある技術を統治することになるのでしょうか?
ミームは「イリヤは何を見たのか?」でした。誰もが彼がAGIが突破するのを見たと思いました。モデルの中に現れるある恐ろしい能力を。技術的特異点の一瞥を。
しかし真実はより暗く、より人間的です。彼は私たちを見たのです。彼は私たち人類を、すべての欠陥とともに、自分たちよりも無限に強力な何かを構築するために競争している姿を見ました。彼は私たちの準備ができていないこと、おそらく永遠に準備ができないかもしれないことを見ました。そして彼はブレーキをかけようとしました。
うまくいきませんでした。機械は動き続けました。アルトマンは権力に戻り、これまで以上に強力になりました。AGIへの競争はまったく減速していません。むしろ加速しています。
OpenAIはサイバーセキュリティのためのGPT-5ベースのAIエージェント、Arvarを発表したばかりです。彼らは上場について話しています。収益は急増しています。MicrosoftはUAEにAIインフラのために152億ドルを投資したばかりです。
Nvidiaは10億ドルをAIスタートアップに投資しています。お金、計算能力、競争、すべてが激化しています。そしてこの革命の舵を取っている人々は、彼らが互いに信頼できないことを私たちに示したばかりの同じ人々なのです。政治的戦争なしに協力できない人々です。使命をエゴよりも優先できない人々です。
文明レベルの賭け金
私を夜も眠れなくさせるのはこれです。私たちは単により賢いAIを構築しているだけではありません。私たちは世界の経済的作業のほとんどを処理できる汎用人工知能に向かって競争しています。私たちが理解することさえできない問題を解決できる人工超知能に向かって競争しています。
そしてそれを構築している組織は、他のどの企業とも同じ人間ドラマ、権力闘争、機能不全に満ちています。ただし賭け金は市場シェアや四半期の収益についてではありません。賭け金は文明レベルなのです。
トップリーダーたちが互いに信頼できない組織からAGIが出現したらどうなるのでしょうか?政治的スキルが知恵よりも重要な組織から。数十億ドル規模のエゴが功績とコントロールをめぐって衝突する組織から。
イリヤの言葉が私を悩ませます。聖人と呼ばれるような人物がそこに到達するのは非常に難しいと思います。
彼は正しいです。組織のトップに上り詰める人々は通常、聖人ではありません。彼らは政治家、実行者、権力ゲームに勝つ方法を知っている人々です。そして今、それらの人々が人類がこれまでに作り出した最も強力な技術を構築しているのです。
問題はもはや「イリヤは何を見たのか?」ではありません。問題は「彼が見たものについて私たちは何をするつもりなのか?」です。なぜなら、根本的には何も変わっていないからです。あの混沌とした11月につながった同じダイナミクスがいまだに働いています。ただ今はより多くの企業に分散しているだけです。
OpenAI、Anthropic、xAI、Google DeepMind、すべてが同じ目標に向かって競争しており、舵を取っているのは同じ欠陥のある人間たちです。
避けられないパラドックス
そしてここが決定的な点です。これは避けられないかもしれません。おそらく大規模な資金、政治的スキル、エゴ、野心なしにAGIを構築することはできないのでしょう。おそらくAGIプロジェクトを率いることを可能にするまさにその特性が、その権力の危険な管理者にする同じ特性なのです。
おそらく私たちはこのパラドックスに閉じ込められています。超知能を作り出すほど優秀で意欲的な人々が、それを信頼すべき最後の人々であるが、それができる唯一の人々でもあるというパラドックスに。
では解決策は何でしょうか?私にはわかりません。誰もわかりません。しかし私はこれを知っています。私たちはAI安全性が単なる技術的問題であるふりをするのをやめる必要があります。それは人間の問題、ガバナンスの問題、権力の問題なのです。
私たちが必要としているアライメントは、AIを人間の価値観に合わせることだけではありません。AIを構築している人間を、彼ら自身のエゴ、銀行口座、権力ゲームよりも高いものに合わせることなのです。
そして今のところ、私たちはそのテストに見事に失敗しています。
人間のドラマが形作るAI革命
ですから、AGIの画期的進歩についての見出しを見たときは、この物語を思い出してください。それを構築している人々が互いに解任し、裏切り合い、誰を信頼すべきかわからなかったために24時間以内に方針を転換したことを思い出してください。
数十億ドルと知能そのものの未来が、確かに優秀ですが、深く混沌として人間的でもある人々の手にあることを思い出してください。
AI革命は技術的限界によって止められることはないでしょう。それは人間ドラマ、政治、権力闘争によって形作られるでしょう。以前のすべての革命と同じように。ただし今回は、賭け金がすべてなのです。
イリヤが見たものはAGIではありませんでした。それは私たちでした。そしてそれが最も恐ろしいことかもしれません。
私のデジタルクローンがこれらの変化に先んじてあなたを導き続けられるよう、ぜひチャンネル登録をお願いします。なぜなら、準備ができていようがいまいが、AGIは来ています。そしてそれを構築している人間たちは、私たちの他の者と同じくらい準備ができていないのです。一緒にこれをナビゲートしましょう。次のうさぎの穴でお会いしましょう。
AI時代の勝者、ファーストムーバーになりたいですか?私たちのAI研究開発ラボで、今日、本物のAI知識であなたのスキルを変革してください。私たちは10分間のビデオでカバーできる範囲をはるかに超えています。
具体的なフレームワーク、詳細なトレーニングプログラム、AI経済でキャリアを構築するための段階的なシステムがあります。AI革命は歴史上最大の雇用市場の変革を生み出しています。問題はこれが起こるかどうかではありません。それはすでに起こっています。あなたはそれから利益を得る位置にいるでしょうか?
ラボの中で、私のチームと私が今まさに実装している正確なシステムを学んでください。それはFirst Moversでの私たち自身のマーケティングを含む、実際のビジネスに大きな結果をもたらしているシステムです。
AIによって動力を与えられたカスタマイズされたパスウェイを通じて、あなたの旅を始めましょう。このレベルのコーチングとライブトレーニングの本来の価格のほんの一部で、私はそのすべてをあなたに提供しています。私たちと一緒に参加して、firstmovers.ai/labsでラボについてもっと学んでください。
コメント