7,496 文字
2023年に遡るOpenAIによるサム・アルトマンの解任劇の裏側について詳述した本が出版されようとしています。これは舞台裏で何が起こったのかを明らかにするもので、これまで聞いたことのない興味深い点がいくつかあります。面白いことに、この物語はピーター・ティールから始まります。彼が何らかの形で関わっていたとは知りませんでしたが、今考えてみると、彼はいつも何らかの形で関わっているようですね。
現在、特にテック業界では多くの人がピーター・ティールを尊敬し、彼のアドバイスに従っています。彼は多くの人々のメンターであり、イーロン・マスクと共にPayPalマフィアの一員でした。ピーター・ティールをご存じない方のために説明すると、彼はPayPalマフィアのドン、いわばゴッドファーザーのような存在です。ゴッドファーザーの物まねはしませんが、話を続けましょう。
他にもマックス・レヴチン（PayPalのCTO）、もちろんイーロン・マスク、デヴィッド・サックス（All-inポッドキャストに出演し、現在は大統領科学技術諮問委員会のメンバー）、リード・ホフマン（LinkedIn創業者）など多数います。
興味深いことに、ピーター・ティールはティール・フェローシップというプログラムを運営しており、特定のアイデアを持つ人々にスタートアップ資金を提供しています。彼の目標は、最も優秀で有望な人材を見つけ出し、彼らが大学に行く代わりにアイデアを実現したいなら、それを支援することです。テック分野での彼の人材発掘の実績は驚異的です。
このフェローシップは22歳以下の学生を対象とし、2年間で合計10万ドルと指導やその他のリソースを提供しています。毎年選ばれるのはわずか20〜25人のフェローだけです。
ティール・フェローシップの著名な卒業生には、例えばイーサリアムの創設者であり自力で億万長者になったヴィタリック・ブテリンがいます。これらの名前に共通するパターンがあるかどうか見てみましょう。
ディラン・フィールドはティール・フェローシップを通じて最も裕福になった人物です。彼はAdobeのPhotoshopに挑むFigmaを共同創設しました。Figmaは200億ドルで買収され、フィールドは億万長者になりました。
オースティン・ラッセルは25歳で自力で億万長者になりました。ジョシュア・ブラウダーはDo Notを開始しました。ルーシー・グオは4億4000万ドルの資産を持っています。
ローラ・デミングは2011年の最初のティール・フェローシップのメンバーでした。彼女は2歳でアルファベットの勉強を始め、14歳でMITに入学しましたが、16歳で中退してティールのフェローシップを追求しました。23歳の時、彼女のLongevity Fundは2200万ドルを調達しました。
ティールはサム・アルトマンのメンターでもありました（あるいはかつてそうでした）。実際、2023年11月、つまりサム・アルトマンがOpenAIから解任されたのと同じ年、同じ月に、ピーターとサムはロサンゼルスのアーツ・ディストリクトで高級ディナーを楽しんでいました。
ちなみに、この情報の多くが由来する本はまだ出版されていません。この事態を経験した内部関係者の話を聞いたようです。本は数週間後に発売される予定で、現時点では正確な情報源はまだわかりません。その間、複数のニュースメディアがこれについて報じているので、私はただ全てのピースを組み合わせているだけです。これらの情報が真実かどうかは断言できませんが、これが様々なメディアによって報じられていることは確かです。
アーツ・ディストリクトでの会話に戻りましょう。ピーター・ティールはサム・アルトマンと話しており、彼が支援しているもう一人のAIに夢中になっている個人について心配していました。彼が資金を提供しているのは主にAIアラインメント（調整）やAI安全性を懸念する研究所です。
これはChatGPTの公開から約1年後のことで、人々はそれに少なくとも親しむ時間があったころです。AI安全性についての議論はすでに行われており、ニュースでも取り上げられていました。
そのAI安全性研究所の天才は誰だったのでしょうか？それは他でもないエリーザー・ユドコウスキーです。彼は自分自身をGIFアニメ化しており、最近ジブリスタジオ風のものがウイルス的に流行っていますね。新しいGPT-4oモデルがネイティブに画像を生成できることが要因だと思います。
エリーザーは元祖AIアラインメント専門家です。AI破滅論者について語られる時、彼はその代表的人物と見なされます。彼のインタビューをまだ聞いたことがない方には、私が聞いた素晴らしい2つのインタビュー（レックス・フリードマンのポッドキャスト#368とドウェシュ・パテルのもの）をお勧めします。
彼の見解を簡潔にまとめると（彼も同意すると思いますが）、「超知能はただあなたを殺す」ということです。これは誇張ではなく、超知能の利点を語る人々に対して、「超知能はただあなたを殺すだけだ」と文字通り言っているのだと思います。
彼はAI開発の背後にある全てのリスク、全ての潜在的リスクを説明することに長けています。AIが人間の生活にとって悪い結果をもたらすと強く信じており、EA（エフェクティブ・アルトルイズム）運動でも重要な役割を果たしています。また、ウェブサイト「Less Wrong」の創設者としても知られ、AI安全性分野のリーダーとして見なされています。
彼のメンターであり、彼の研究に資金を提供した人物の一人がピーター・ティールだったようです。2023年11月、ピーター・ティールはサム・アルトマンと座り、ユドコウスキーのアイデアについて警告しています。「あなたの会社の半分の人々がエリーザーによってプログラムされ、そういった考えを信じ込まされていることを理解していない」と言い、それは「AIが地球上の全ての人を殺す」という考えでした。
ピーターはサムに「これをもっと真剣に受け止める必要がある」と言っており、彼はサム・アルトマンに、自分の会社がEA（エフェクティブ・アルトルイスト）たちに乗っ取られることについて何度も警告したようです。EAは最近、世界の貧困終結などの取り組みからピボットし、人類を殺害する「暴走AI」防止に多くの努力を集中させるようになりました。
ティールはEAがOpenAIを破壊すると予測し、サムはこれに対して「それはイーロンについては確かに当てはまったけど、私たちはイーロンを排除した」と答えたそうです。
当時のOpenAIの取締役会には、イリヤ・サツケヴァー、ヘレン・トナー、アダム・ダンジェロ、ターシャ・マコーレー、グレッグ・ブロックマン、そしてサム・アルトマンがいました。取締役会はOpenAIの非営利法人を支配しており、これが全ての上部構造となっています。その下に持株会社があり、他の全てがその下に形成されています。
社員や他の投資家は持株会社の一部を所有し、マイクロソフトは収益制限のある営利法人の一部を所有しています。とても複雑ですが、要点は、全体の頂点には取締役会が座っているということです。
以前はもっと多くのメンバーがいましたが、様々な対立によって何人かは去りました。何らかの理由で新しいメンバーは導入されませんでした。うわさによれば、サムとグレッグが新しい人材の導入を引き延ばしていたためとも言われています。
ヘレン・トナーとターシャ・マコーレーはEA運動、EAコミュニティの一部です。ピーター・ティールがサム・アルトマンにOpenAIへのEA浸透について警告していたこの時期、取締役会の上部にいる人々（サムとグレッグを除く全員）は、サム・アルトマンを解雇するかどうかを決めるための秘密会議を開いていました。
彼らがサム・アルトマンを排除したかった理由のいくつかは、安全性違反に関するものでした。例えば、ChatGPTの新機能のリリースなど、一般に公開されるものを承認する監視委員会があるはずでした。内部関係者によると、サム・アルトマンはそれら全てがマイクロソフトとの共同安全委員会によって承認されたと主張していたようですが、トナーは実際には1つしか承認されていなかったという証拠を見つけたようです。
また、GPT-4はインドでは世界の他の地域より早くテスト目的でリリースされましたが、これも共同安全委員会の承認なしに行われたようです。OpenAIのスタートアップファンドにも問題がありました。サム・アルトマンが個人的にそのファンドを所有していたことは取締役会にとって寝耳に水だったようです。
これは税務構造の関係で一時的な取り決めだったとされ、サム・アルトマンはそのファンドから手数料や利益を得ていなかったとのことですが、それでも異例の取り決めでした。
また大きな問題の一つは、研究プレビューとして公開されたはずのChatGPTが、史上最速で成長するアプリとなったことです。後にサムやグレッグのインタビューで明らかになったように、誰もこれを予測できなかったとのことです。ChatGPTの瞬間は突然のことで、製品発売というよりも、一部の人々に試してほしいという感じでしたが、世界的な関心を集めるとは思っていなかったようです。
イリヤ・サツケヴァーが最初のドミノを押したようです。彼はヘレン・トナーに電話し、何が起きているかを正確には伝えませんでしたが、ミラ・ムラディともっと話すべきだとほのめかしました。ミラ・ムラディは最高技術責任者で、基本的にOpenAIの日々の業務を運営していました。
同時に、イリヤと別のOpenAI研究者ヤコブ・パチの間に対立があったかもしれません。うわさによれば、サム・アルトマンは両者にOpenAIの研究方向をリードすることを約束していたとのことです。
この時期、ヘレン・トナーはOpenAIを批判する論文を発表し、基本的にAnthropicがAI安全性においてはるかに優れた仕事をしていると述べました。サム・アルトマンはこれに非常に腹を立て、ターシャ・マコーレー（別の取締役会メンバー）がヘレン・トナーはこれで解雇されるべきだと言ったとイリヤ・サツケヴァーに伝えたとされています。
しかし、彼らは全員、これが嘘であることに気づいたようです。なぜなら、彼らは当時、独自の秘密会議を開いていたからです。いずれにせよ、彼らはプラグを抜くことを決め、サム・アルトマンがサンフランシスコ、ベイエリアを離れている間にビデオ通話で彼に連絡し、もはや彼のサービスは必要ないと伝えました。彼らは彼を解雇し、グレッグ・ブロックマンも解任しました。おそらくミラ・ムラディが彼の下で働きたくなかったからです。
興味深いことに、この一連の出来事の後、取締役会メンバーはイリヤ・サツケヴァーに、彼が彼らの忠誠心をテストするためのスパイとして送り込まれたのではないかと心配していると伝えました。おそらく彼は彼らに近づき、「ミラと話すべきだ、知っておくべき情報があるかもしれない」と言って事態を動かし始めた可能性があります。もし彼がこれらを全て、サム・アルトマンのために働くダブルエージェントとして行っていたら？
私はそこにいなかったので何が起こったのかわかりませんが、2023年11月に私が予測したことが一つあり、今日でもそれは変わりません。お金を賭けてもいいのですが、この物語は映画になるでしょう。映画かドラマチックな再現、あるいは何らかのTVシリーズになるはずです。この取締役会ドラマ、ダブルエージェント、秘密のカルト的組織…これらの人々は全て基本的に映画のキャラクターのようです。イリヤ・サツケヴァーが全従業員を集めてAGIを感じる場面だけでも映画になるでしょう。
当時、2023年の終わり頃にこれらのことが起きていた時、私は皆さんにヘレン・トナーについてどう思うか尋ねました。彼女はサム・アルトマンの解雇の主要な推進者の一人のように見えました。約4,000票が集まり、わずか4%の人々が彼女は正しい理由で正しいことをしたと答えました。27%は彼女には良い意図があったと言い、39%は完全な失敗だったと回答しました。彼女の意図については意見が分かれるかもしれませんが、ほとんどの人がこの状況の対処は下手だったと言っているようです。
解雇の前日の木曜日、4人の取締役会メンバーはミラ・ムラディに電話し、翌日サム・アルトマンを解雇すると伝え、暫定CEOとして彼女に就任を依頼しました。彼女は同意しましたが、なぜ彼を解雇するのか尋ねても彼らは答えませんでした。彼女はマイクロソフトのCEOであるサティア・ナデラに事前警告が出されたか心配しましたが、それは行われていませんでした。ミラ・ムラディがニュースが流れる直前にサティアに伝えることになりました。
翌日、彼らは引き金を引き、全てが世界的な見出しとなりました。誰もが何が起こったのか知りたがっていましたが、この時点でも彼らは誰にも何も伝えていませんでした。サム・アルトマンやグレッグ、ミラ・ムラディにも何も言わず、唯一言っていたのは「サム・アルトマンは一貫して取締役会に率直ではなかった」ということだけでした。
解雇後、従業員や幹部たちはOpenAIの取締役会（残りの4名のメンバー）と会合を持ちましたが、何が起きているのか誰も理解できていませんでした。サティア・ナデラは怒り心頭だったと報告されています。彼はこのような行動を見たことがなく、何が起きたのか、なぜ起きたのか全く分からなかったのです。彼には金曜日に少し対応する時間もなく、世界中の人々と同じくらいの情報しか持っていませんでした。
多くの人々は困惑し、このような結果を正当化するような特定のエピソードを知らないと言っていました。「彼が一貫して率直でなかったというなら、例を挙げてほしい」というわけです。
ここからが面白いところです。クローク・アンド・ダガー（隠密工作）的な展開です。4人の取締役会メンバーはミラ・ムラディが全てを処理してくれると期待していました。彼女が従業員を落ち着かせ、何が起きているのか、なぜ起きているのかを説明し、彼らが新しいCEOを探す間、通常通りビジネスを続けることを期待していました。
当時、全てをAnthropicとダリオ・アモデイに売却する話もあったようです。彼はより「AI安全性を意識した人物」と見なされていたからです。要点は、彼らがミラ・ムラディを責任者にし、「従業員を扱ってください。私たちが会社を新しいCEOに引き継ぐか、売却するかを決めている間に」と言ったということです。
しかし、ミラ・ムラディは取締役会に対する全社的な反乱を主導しました。会社内では「イリヤ・サツケヴァーはヤコブ・パチが昇進したことに怒っていた」「ヘレン・トナーはサム・アルトマンが彼女の研究論文を気に入らなかったから怒っていた」「彼は彼女を取締役会から追い出そうとした」などの噂が広まりました。
彼らが何が起きているのか、なぜこれらのことが起きているのかについての説明を提供することに失敗したため、何らかの形で説明が生まれるのは当然でした。当時、私は何が起きているのか、なぜこれらのことが起きているのか全く分からず、フラストレーションを感じていたことを覚えています。
多くの人々がAI開発に関心を持ち、懸念を抱いていますから、4人の人間が説明なしにこれを行うこと、まず世界中が注目している状況で説明がない…これがうまくいかないと予測できたはずです。
月曜日の朝までに、全員がサム・アルトマンが復帰しなければ辞職すると脅す手紙に署名しました。ミラ・ムラディ、OpenAIの他のほとんどの人々がその手紙に署名し、一方サティア・ナデラは「皆さんはマイクロソフト社に歓迎される」と言っていました。
興味深いことに、全ての署名の中にはミラ・ムラディとイリヤ・サツケヴァーの名前もありました。この時点でサム・アルトマンは復帰し、ヘレン・トナーとターシャ・マコーレーは追放されました。アダム・ダンジェロについては、一時的に去ったのか何が起きたのかわかりませんが、彼は依然として取締役会にいます。OpenAIのウェブサイトによれば、アダム・ダンジェロは依然として取締役会メンバーとして記載されています。
これはかなり野性的な物語ですよね。ピーター・ティールは同じ月にサム・アルトマンにEAの人々がOpenAIを破壊するだろうと警告し、数週間内に彼らはサム・アルトマンに対してクーデターを起こし、彼を解雇しました。おそらくイリヤ・サツケヴァーがこれを始めたのかもしれませんが、主にはヘレン・トナーによって推進されたと思われます。
その後、週末にかけて全てが逆転し、ミラ・ムラディとイリヤ・サツケヴァーが「サム・アルトマンを復帰させなければ辞職する」という文書に署名し、その後EAに関連する人々は去りました。その後、イリヤはOpenAIを去り、自身の会社SSI（安全な超知能）を設立し、ミラ・ムラディも去って自分の会社を設立しました。
これは魅力的な出来事の連鎖です。この本にはさらに興味深い詳細が含まれているようですが、皆さんはこの全体についてどう思いますか？
これは失敗したクーデターだったのでしょうか？ただEA運動の一部であり、AI安全性を懸念していた人々が、サム・アルトマンが「一貫して率直」でなかった点を見つけ、取締役会として権限を行使して彼を追い出し、別の人物を連れてくる必要があると判断し、その実行に失敗しただけなのでしょうか？
あるいは、これはもっと悪質なものだったと思いますか？彼らは単に自分たちと同じ見方をする人物、おそらくEA運動の一員であり、AIからの高いX（存続）リスクを信じている人物を連れてきたかっただけなのでしょうか？
それとも、これはピーター・ティールによるダブルクロスで、「これらの人々を排除する方法はこうだ、彼らを取締役会から追い出せ」と言い、おそらくイリヤ・サツケヴァーとミラ・ムラディにも何らかの役割があったのでしょうか？
あなたの見解をぜひ教えてください。ここまで視聴していただきありがとうございます。私の名前はウェス・ロスです。また次回お会いしましょう。
コメント