この動画では、OpenAIの企業再編について詳細な分析が行われている。非営利組織として設立されたOpenAIが、投資家の圧力により営利企業への転換を進める過程で、本来人類全体に還元されるべき利益が株主に流れる構造的変化について、AI安全性の監視団体マイダス・プロジェクトの代表者が解説している。利益上限制度の実質的な無効化、取締役会の利益相反問題、そして「人類史上最大の盗み」とまで称される価値の移転について、法的・経済的観点から批判的に検証している。
OpenAIの歴史と現在の再編問題
皆さん、こんにちは。今日はOpenAIが組織としてどのように再編されているのか、そして将来的にこの組織の利益と権力がどこに行くのかについてお話しします。
今日は、マイダス・プロジェクトのディレクターであるタイラー・ジョンストンさんにお越しいただきました。マイダス・プロジェクトは非営利組織で、AI安全性に関する調査分析を行う監視団体です。最近OpenAIファイルズを公開し、詳しく説明していきますが、OpenAIに透明性を求める3000人が署名した公開書簡も組織しました。
タイラーさん、今日はお忙しい中ありがとうございます。
こちらこそ、お招きいただきありがとうございます。マイダス・プロジェクトでは、AI企業が行った約束と、実際にその約束を守っているかどうかを調査しており、今日はまさにそのことについてお話しするためにここに来ました。
OpenAIが実際に何をやっているのかについて包括的な知識をお持ちの方とお話しできるのは本当に楽しみです。この動画は3部構成になっています。OpenAIの始まり、OpenAIの再編方法、そしてお金の流れを追う、です。
では、第1部、OpenAIの始まりから行きましょう。タイラーさん、最初に遡って、OpenAIはどのようにして始まったのでしょうか？
まあ、極めて非典型的な組織でしたね。創設者たちが商業的に計り知れないパワーを持つと考えていた技術を開発していたにも関わらず、非営利団体として設立されたんです。当時Google DeepMindがすでにこの技術を開発しようとしていました。それでOpenAIの創設者たちは、Googleに追いつこうとするこの技術を作ることができて、かつ公益を守る方法でそれを行える非営利団体を始めるべきだと考えたわけです。
その時点では、彼らは公共の利益を心に留めているように見えましたね。彼らは自分たちをオープンAIと呼んでいました。クローズドソースの巨大テック企業に対するオープンな非営利の代替案になりたかったわけです。少なくとも、それが彼らが投影したいイメージでした。
実際に彼らがそう感じていたと思いますか？
当時は動機が混在していたかもしれませんね。11人の共同創設者がいて、そのうち8人がもう去ってしまったので、今の組織は当時とは大きく異なります。しかし、本物の動機がかなりあったと思います。
11人の共同創設者って多いですね。初期の段階でも、そこから生じる可能性のある政治的な問題を想像できます。
OpenAIの資金はどこから来たのでしょうか？全て慈善的なお金でしたか？
ええ、組織の最初の数年間は全て慈善的なお金でした。実際、それが最終的に彼らにとってボトルネックになり、2019年に始まる営利構造への緩やかな旅路の初期段階につながったのです。
2019年からの営利化への転換
ええ、OpenAIがクローズドAIだとか何だとか、彼らが営利企業に変身しているという話は皆聞いたことがあると思います。それが2019年に始まったとおっしゃいましたね。
2019年は、ハイブリッドな非営利・営利モデルを開発しようとする最初の法的ステップを踏んだ年でした。
でも最近、それをもっとやっているんですよね？
ええ、去年から状況が変わりました。当時、彼らは営利子会社を完全にコントロールする非営利団体という利益上限モデルを開発しました。この営利事業に投資することはできましたが、最初に投資した額の最大100倍までしか稼げないという制限がありました。そして非営利団体が全てについて最終決定権を持っていました。
実際、彼らのウェブサイトでは、この営利事業に投資するために署名する投資書類に、文書の上部に大きな紫色のボックスがあり、「これは投資ではありません。寄付だと思ってください。なぜなら、これは非常に非典型的な会社で、我々株主である皆さんに対して何の義務もありません。我々はその使命に対してのみ義務を負う非営利団体によってコントロールされています」と書いてあることを実際に示していました。
去年起こったことは、これでは十分ではない、もしくはより正確に言えば投資家たちがそう判断したということで、彼らは今、そのような包括的な非営利コントロールなしに、完全に独立した公益法人に再編するよう大きなプレッシャーを受けています。
そんな異例な会社だったので、典型的な投資ではなかったのかもしれませんね。シリコンバレーはこれにどう反応したのでしょうか？営利企業に向かって動き始めた時に、より多くの資金調達ができたのでしょうか？
時間をかけて緩やかでした。AGIを構築するという明確な目標で2015年にこの会社を始めた時、シリコンバレーの一部の人たちはそれが数世紀先のことだと思って笑い飛ばしていたと、彼らは正しく認識していると思います。
それは時間と共に変化しました。特に彼らが開発した言語モデルがどんどん強力になるにつれてです。それで彼らは営利子会社を最初に開いた時には数億ドルの資金調達から、今では5000億ドルの企業価値を提示するまでになりました。
ええ、本当にクレイジーですね。史上最速のスタートアップ成長物語の一つに違いありません。製品自体、ChatGPTも史上最速で成長した製品だったと思います。1億ユーザー到達が最速だったと思います。本当にクレイジーな成功物語ですね。
ええ、その通りです。
現在進行中の再編プロセス
では第2部で、それについてもう少し掘り下げてみましょう。OpenAIの再編方法について。明確にしておくと、これは現在進行中の再編ですね。2019年に起こったことではありませんよね？それについて少し説明していただけますか？
OpenAIには、投資家が元本と呼ばれる一定額のお金を投資し、最初は最大でその100倍の金額しか稼げないという利益上限がありました。つまり投資家として10億ドルをOpenAIに投資すれば、1000億ドルを取り戻すことができます。
1000億ドルは高い数字に聞こえますが、クレイジーではありません。Googleが1年で稼ぐ額です。OpenAIの創設者たちは、一部の人がSFビジョンと呼ぶようなものを会社に対して本当に持っていました。サム・アルトマンの引用では、利益上限が重要な理由は、もし彼らが成功すれば、宇宙の全ての将来価値のライトコーンを捕捉できるかもしれないからだ、というものがあります。
つまりOpenAIを設立した人々は、1000億ドルよりもはるかに多くのお金を稼げると信じていました。アルトマンはその同じ引用で、その金額は単一の投資家グループが持つには確実に適切ではないと言いました。それで彼らは投資家がリスクを取ったことに対して十分な報酬を得られるが、その100倍の上限に達したら、それは最終的に一桁に下がり、残りのお金は全て人類に、もしくはサム・アルトマンに、もしくはおそらく、そうですね、技術的には人類に行く手段がこの非営利団体を通してだったからです。
投資家への補償後のお金は非営利団体に行き、サム・アルトマンは取締役会にいますが他の取締役もいました。そして気高い考えは、彼らがユニバーサル・ベーシック・インカムを通じてお金を配布するだろうということでした。サム・アルトマンはそれについての研究に資金を提供しましたし、おそらく他の手段を通じても。
取締役会がサム・アルトマンを解雇しようとした時のことを覚えています。それは今から約2年前だったと思います。その時、OpenAIのガバナンスを効果的に示す図を見ました。ここに非営利があり、ここに営利があり、当時多額の投資をしていたマイクロソフトがあり、ガバナンスの流れがどこを通るべきかが示されていて、それは取締役会メンバーを通り、そして底にお金の山があります。投資家とのつながりが、正当に任命された取締役会によって解雇された後でも、サム・アルトマンが戻ってこれた理由だったように見えました。あれはクレイジーな時期だったに違いありませんね。
ええ、まさにその通りだと思います。あなたが考えているインフォグラフィックを知っています。マイダス・プロジェクトが公開したOpenAIファイルズにあったOpenAIの企業構造を示すものです。私たちの組織では、読んだ法廷文書から再現した、その構造のはるかに詳細なバージョンがあります。
しかし実際、その解雇は権力がトップダウンというよりもボトムアップだったことを示しました。そうです、それはOpenAIの従業員とサム・アルトマンがマイクロソフトで働くと言える能力、そしてそれが実際に成功するであろう事実、即座にではないかもしれませんが6ヶ月で彼らがやったことの多くをリバースエンジニアリングできるという事実によるものでした。それでOpenAIの取締役会はマイクロソフトとアルトマンの要求に屈し、彼を再任し、利益相反を避けたり、サムの味方を任命することから守るために理想的とは言えない新しい非営利取締役会を構成することになったのです。
投資家圧力による構造変化
これの核心は本当に資金、どこから来るか、何か条件が付いているかということのようですね。資金が本当にOpenAIが行っている現在の移行を推し進めているというのが実情だったのでしょうか？
そうです。資金がずっとそれを動機付けてきましたし、特に最近は、ソフトバンクのような投資家がOpenAIに圧力をかけていなければ、この再編を試みていなかったかもしれません。
これは皮肉だと思います。なぜなら、サム・アルトマンが「我々が責任を負いたいのは人類全体に対してだけで、株主の利益のために決定を下すことは決してしたくない」と言った時期があったからです。それが変わったのです。今やソフトバンクは、OpenAIに最大400億ドルの投資に合意した主要プレイヤーの一つです。
しかし、彼らの投資には条項があり、OpenAIが2025年末までに以前持っていた利益上限のない新しい法人に転換しなければ、ソフトバンクは投資を400億ドルから200億ドルに減らすというものでした。
これは明らかにOpenAIが再編する大きな動機の一つです。しかし、OpenAIのリーダーシップがそれを不幸に思っているとは思いません。実際、彼らがソフトバンクの条件を見て喜んでいた可能性もあると疑っています。フィジ・シモという、OpenAIの非営利取締役会のメンバーの一人が、この議論を通じてアルトマンにアドバイスをしていたことを知っており、アルトマンは最初からOpenAIを営利として始めればよかったと公に言っています。
だから彼らがこれを不幸に思っているのかは明確ではありませんが、これを前進させ、非営利取締役会に今条件を受け入れるよう圧力をかけているのは確実に投資家の圧力です。
サム・アルトマンの信頼性について
CEOに関して言えば、サム・アルトマンも例外ではありませんが、彼らはしばしば本当に考えていることを言わないように思えます。彼らの立場のために必要なことを言うのであって、実際に考えていることと正反対かもしれません。人々は本当にこれを理解していません。多くのCEOや権力のある立場の人々と付き合ったことがなければ、これが来ることを見抜けないかもしれません。これはアメリカの政治でも起こることの例でいっぱいです。一つのことを言うが、別のことを意味するということです。
サム・アルトマンが言っていることをたくさん分析しましたか？彼が本当に求めているものが何かを本当に知っていると感じますか？
ええ。これが全てのCEOがすることだというのは事実だと思いますし、これがサム・アルトマンにとって、彼がこれで特徴づけられている普遍性の点で独特だというのも事実だと思います。
今日のAIスタートアップを見ると、最大手のAIスタートアップは全て、サム・アルトマンと決裂した人々によって設立されました。ダリオとダニエラ・アモデイであれ、イリヤ・サツケヴァーであれ、ミラ・ムラーティであれ、イーロン・マスクであれ、これらは全て、アルトマンを信頼できないと感じたことも部分的な理由で、最終的にOpenAIを去った人々です。
そしてもちろん、2023年11月に取締役会が彼を解雇しなければならないと言った理由も、彼が嘘をついたからです。だから、先に進むために必要なことは何でも言う傾向が彼には特別にあるようで、これは確実に両刃の剣です。人々は彼が恐るべき投資家だと言います。彼の友人ポール・グラハムは、人食い人種の島に彼を落としても5年で王になっているだろうと言っています。
一方で、人々が聞きたいことを言えば、非常に効果的な会議室交渉者になります。一方で、AGIのような強力な技術をコントロールする適性について疑問を投げかけます。
これがOpenAIで多くの分裂、議論、内部対立があった理由の一部だと思います。
ええ、OpenAIの技術はかなり確実なことが多いように思えますが、製品のリリースには多くの問題があります。部分的に重複する製品をリリースしたり、3週間前にリリースしたものと同じ名前のものを出したり、その意味で非常に無秩序に見えます。
これは十分なリーダーシップがない組織を思い出させます。もちろんサム・アルトマンはいますが、多くの上級リーダーが去っており、それがまだ彼らを悩ませているように見えます。それに同意しますか？
同意します。彼らは「速く動いて物を壊せ」タイプのシリコンバレー企業だと思いますし、時にはそれが良い結果をもたらしました。なぜなら新しい戦略を試し、うまくいかない時に素早く諦めることができ、他の会社では現在のパラダイムでモデルをスケールし、ChatGPTでチャットボットインターフェースを開発するような方法で実際に掴むことができなかったかもしれないからです。
一方で、従来の企業リーダーシップが可能にする通常の安全装置やチェックアンドバランスを持っていません。例えば、OpenAIの取締役会は、ChatGPTが出てくるまで知らず、それが出た後にニュースで読んで知ったのです。そしてもちろん、今日のOpenAIの成功は全て、その一つの製品ローンチの下流にあります。
これはOpenAIが単なる控えめな研究プレビューだと思ったと彼らが言うことでした。それが本当であるならば、取締役会に警告しなかったのは理解できるかもしれませんが、OpenAIのCEOが言うことを額面通りに受け取ることができないという問題があるため、判断は困難です。
新しい企業構造の詳細
この再編に関して、OpenAIは利益上限を取り除こうとしています。彼らは自分自身を非営利か営利かの別の組織の下に置こうとしているのですか？正確には何が起こっているのでしょうか？
ええ。OpenAIは2019年以来、非営利によってコントロールされた営利、非営利によってコントロールされた営利でした。しかし現在は、その非営利が完全な経営管理権を持っているのが実情です。
去年12月の時点で、彼らがやりたかったのは、完全に独立して行動し、私が言及した利益上限の対象とならず、おそらく小さな株式によって別の非営利が助成金配布や医学、教育のようなことをできるようにする新しい営利会社を完全に分離することでした。
今年5月の時点で、彼らは方針を変更すると発表し、多くの人がOpenAIの再編懐疑論者が勝ち、実際非営利が今日と同様に営利をコントロールし続けると無批判に受け入れました。しかし詳細を見ると、これが正確に起こっていることではないようです。
実際、投資家とOpenAIが望んでいたことの大部分がまだ実現に向かっているようで、新しい公益法人を立ち上げようとしています。その法人は投資家に無制限のリターンを持つようです。彼らが保持すると言っているコントロールの種類は、OpenAIが今日持っているコントロールの種類ではありません。
OpenAIが今日持っているのは、営利に代わってどんな決定もでき、人類に対する唯一の受託責任でそれを行える非営利です。伝統的な企業と異なり、株主に対する義務はありませんが、AGIが人類にとってうまくいくことを確実にするという使命に対する義務があります。
この新しい構造では、保持するコントロールの種類は、非営利が公益法人の取締役会に取締役を任命できるということです。しかし人類への受託責任を失います。なぜなら非営利が公益法人取締役会に取締役を任命すると、その取締役たちはもはやOpenAIの使命の受益者に対する受託責任を持たず、OpenAI株主、利益上限を失った同じ株主に対する新しい受託責任を得るからです。
だから彼らは実際に欲しかったものの多くを得ており、取締役の任命と解雇、いくつかの主要決定への同意権に関して一つの例外を作り、それをコントロールと呼び、今日存在するのと同じであるかのように振る舞っていますが、今日のコントロールと同じではない理由がたくさんあります。
効果的に、全員が人類を気にかけるべき非営利があったのが、今度は会社に投資する人々の株主、利益を気にかけるべき人々がいる別の会社、もしかすると非営利で置き換えようとしています。全然違って聞こえます。
ええ、そうです。法的にはデラウェア公益法人になります。技術的にこれが言うのは、人類への唯一の使命を持つ代わりに、公益使命と株主利益のバランスを取る能力があり、同時に両方を考慮する決定を行い、必ずしも一方を他方の犠牲で優先するわけではないということです。
それは、人類の最善の利益を投資家より優先することができなくなっても、少なくとも両方のバランスを取らなければならないと考える時、ある程度の安心感を与えるかもしれません。躊躇させるかもしれない一つのことは、これが実施される主な方法が、公益法人の投資家の一人が公益使命を優先しないことで法人自体を訴えることだろうということです。
インセンティブの対立を心配しているなら、民間投資家が公益使命を追求しないことについて会社を訴える理由はありません。実際、これは単なる憶測ではありません。この企業構造がデラウェアで発明されてから13年間で、公益使命を保護するために株主が訴えた記録された事例は一件もありません。
つまり、これについて実施されたことは一度もなく、公益法人は評判洗浄に過ぎない、使命は紙の上だけだと言う批評家たちは、公益法人が使命を優先しなかったことで罰せられたことがないという評価において、これまでのところ正しいということです。
待ってください、使命を優先せず私を優先している、このことで訴えたいと会社に言うためには、投資家が会社を訴えなければならないということですか？
ええ、それがOpenAI、公益法人が、投資家を優先すると決めた場合に実施に直面する主要な方法です。彼らは利益を優先している同じ投資家によって訴えられることを期待するでしょう。
だから、ええ、これも非常に起こりそうにないと思います。これが実際に起こる唯一の方法は、誰かがOpenAIに遊びで非常に小さな持分を持ち、したがって自分の利益を本当に気にせず、公益により多く気にかけるということです。でもそれは非常に現実離れしているように思えます。
この物事のバランスを取る義務を持つということは、基本的に実際に行われる決定が何であれ、常にそれを正当化できることを意味するように思えます。つまり、この公益法人の取締役たちは、Xを優先しなければならなかったのでその決定をしたとか、Yを優先しなければならなかったのでその決定をしたと言えるでしょう。
あなたが言ったように実施メカニズムが弱いので、実際に取締役である人々のインセンティブや性格などの他に頼ることは非常に困難に思えます。重要な問題でコインのどちら側に落ちるかということです。
ええ、これは今持っているコントロールの種類の実質的な弱体化だと思いますし、取締役が何をできるか、何にインセンティブを受けるかという内部的な問題だけでなく、外部的にもです。
現在、非営利として、OpenAIはある程度カリフォルニアとデラウェアの司法長官によって監督されています。デラウェアは彼らがそこに法人化されているから、カリフォルニアは彼らがそこで運営し、慈善資産がカリフォルニアに保持されているからです。
これらの司法長官は両方ともこの再編を精査しており、再編が行われる前に承認するか、少なくとも頷かなければならないという暗黙の前提があります。
しかし、それがそうである理由の一部は、再編が行われた後、彼らが公益法人で起こっていることに対する監督がはるかに少なくなるからです。彼らの管轄権は、民間企業というよりも州内の慈善組織に対して、まだかなりの程度あります。
ああ、だからOpenAIは変換することによって、カリフォルニア政府の注意深い目から効果的に逃れることができるということですね？
ええ、そうです。司法長官がこれを調査していることは私にある程度の安心感を与えますが、それほどの安心感ではありません。なぜなら司法長官は選挙で選ばれるポジションだからです。
彼らは多くの選出された役人が直面するような歪んだインセンティブの影響を受けやすいと思います。州内の強力な利害関係者を怒らせたくない、多くのロビー影響力を行使できる人々、デラウェアの場合は、人々がすでにデラウェアから出て行っている年に、あなたの州が反ビジネス的すぎるように見えることを望まない、という点でです。
だから彼らがこの再編の承認について、あるいはおそらくこの再編を根拠とした実施について、公平に決定を下すことができるかどうかは明確ではありません。
SB 1047について私が知っていることに基づくと、それは起こりそうにないように思えます。それはカリフォルニアの知事ギャヴィン・ニューサムによって通過されたが拒否されたAI安全法で、AI企業とその利益によるロビー活動のためでした。
この種の決定を下す際に政治的立場を本当に考慮しなければならないように、彼らはすでにそうしているようです。
ええ、OpenAIの取締役会と同じように、規制当局が現在直面している複合的なインセンティブがあり、理想的には彼らに直面してほしくないものだと思います。
幸い、ええ、彼らはそれを調査しているだけでなく、OpenAIが5月に行った発言もあり、彼らの、いわゆる方針転換、つまり非営利が公益法人の取締役を任命することを許可するという部分が、デラウェア司法長官の精査によって促されたことを示唆しています。その司法長官は、その決定が下された後に声明を発表し、「OpenAIが我々の懸念に耳を傾けてくれて嬉しい。我々は関連法に準拠していることを確実にするために、この再編を引き続き注意深く見ていく」と言いました。
これは希望の理由の一つです。OpenAIの法人設立条項に、これらの資産は取消不能、これが重要な言葉ですが、取消不能に公共の利益と使命の受益者に捧げられ、どの株主の私的利益のためでもないという条項があるという意味で、希望の理由もあります。だからある程度、デラウェアは、ここで行動を取ることによって反ビジネス的に見られることをあまり心配する必要がありません。なぜなら彼らが実際にすることは、その会社の法人設立条項に概説された法人の正確な目的を尊重するよう会社に求めることだからです。
だからこれは本当に活動家的なことではありません。基本的な法律と、法人が法人化された理由に従っているかどうかということです。
これら全てのタイムラインはどうなっているのでしょうか？政府関係者がどれくらい介入する時間があるのか？OpenAIは12月までにこれを完了しなければならないとおっしゃいましたが、これは本当に緊急なことなのでしょうか？
ええ、ソフトバンクの資金提供は12月までに起こることが条件でしたが、最近のメディア報告では2025年末か2026年初頭と言われています。だから行間を読むと、ソフトバンクがある程度のソフトな延長を認めたと思います。
その理由の一部は、イーロン・マスクとOpenAIの間でこれについて積極的な訴訟があることかもしれません。この話題はマスクが起こした訴訟で取り上げられ、これがマスクが自分の会社を運営する方法に基づいて実際に公共の利益へのコミットメントによって推進されているのか、それとも怪しいものなのかは議論できます。分かりません。
しかし、その訴訟は2026年初頭に予定されており、それが遅延の理由かもしれません。それでも、OpenAIは非常に迅速にそれを完了させたいと思っており、規制当局もそのタイムラインに合わせようとしていると思います。
だから、今後数週間でなければ、今後数ヶ月でこれについてのニュースが聞けると予想します。
お金の流れを追う：真の受益者は誰か
まあ、これについて認識を高めるのに重要な時期のようですね。だから、私のチャンネルに来ていただいて再度ありがとうございます。第3部、お金を追う、に移る良い時期だと思います。なぜならこれは全てお金に関することだからです。投資家は実際にどれだけ稼げるのか？彼らは100倍に制限されているのか？OpenAIの人々はどれだけのコントロールと影響力を持っているのか？本当に人類の利益のためなのか等々。本当に巨大なメロドラマです。
お金を追うことについて少し教えてください。どこから始めますか？
ええ。あなたが最後に聞いた質問は、このプロセスがどれくらいかかるかについてでした。しばらくかかると期待する理由の一つは、デラウェアが、少なくともメディアで報告されているところによると、おそらく1000億ドルの企業のOpenAIの評価を行うために投資銀行を雇ったことで、それは数ヶ月かかるからです。
デラウェアがOpenAI自身やマイクロソフトと同様に、OpenAIがどれだけの価値があるかを知ることに関心がある理由は、彼らが利益上限を取り除いているからです。彼らは以前、100倍まで稼げて、その後の全てのお金は非営利に行くという構造を持っていました。
彼らはそれを、企業の10%を所有すればすべての利益の10%を永続的に受け取る権利がある法人の単純な株式に変換しようとしています。だからこれらの投資銀行が決定しなければならないのは、AGIの価値は何かということです。
これらの投資銀行がこれについてどう考えるかは正確には分かりませんが、OpenAIの創設者たちがどう考えていたかは知っています。サム・アルトマンが「もし彼らが成功すれば、宇宙の全ての将来価値のライトコーンを捕捉するだろう」と言った引用や、グレッグ・ブロックマンが「OpenAIがその使命で成功すれば、マイクロソフトと同じ価値の会社を開発するだけでなく、100のマイクロソフトと同じ価値の会社を開発できる」と言った引用、または「もし彼らが成功すれば、彼らが生み出す価値のほんの一部を除いて全てが人類に行くだろう」という別のグレッグ・ブロックマンの引用があるからです。
人類がOpenAIの経済的利益の大部分を受け取る権利があるという感覚がありました。そして今問題は、営利法人での所有権の株として、OpenAIの非営利がどれだけの権利があるかということです。
グレッグ・ブロックマンの言葉を信じるなら、大部分ということで、非営利は今度の民間企業の90%以上を所有する権利があると思うでしょう。実際、メディアは現在の提案が全ての非マイクロソフト株主と非営利に会社の3分の1を与えると報告しており、これは非営利が20%か10%しか得られないかもしれないことを意味します。
しかし彼らはマイクロソフトに対して何らかの例外を設けています。だからマイクロソフトは本当にまだOpenAI構造に対して多くの影響力を持っているということですね。
ええ、マイクロソフトも今後の再編を承認しなければならないという事実上の状況があると思います。マイクロソフトが再編を阻止すると脅したという報告もありました。必ずしも非営利使命にそれほどコミットしているからではなく、行間を読むと、彼らが十分に大きな所有権の割合を得られないことを心配しているのかもしれません。
現在、彼らはその設定上限まで、OpenAIの利益の49%への権利を持っています。ええ、メディア報告では、それが30%まで下がるかもしれないと示唆しています。だからマイクロソフトとOpenAIの間でこの再編について公開的な対立がありました。
ええ、彼らはしばらく前から少し決裂していたように聞こえます。もともとマイクロソフトがスターゲートデータセンターを建設していて、それが突然もうAzureは使わない、こんにちはソフトバンク、となったからです。
そうです。OpenAIは10年の歴史の中で多くの友人を作り、維持してきませんでした。彼らがソフトバンクと友人のままでいるかどうかは不明です。数年待たなければならないと思います。しかし確実に、この再編に基づいて非営利が彼らを友人と考えるべきではないと思います。
一部の批評家は、この再編を人類史上最大の盗みと呼んでいます。私はそれが誇張だとは思いません。実際、2023年に行われた決定で、おそらく既に数兆ドルの予想将来価値が公共から盗まれたと思います。
それについて少し掘り下げてみましょう。最初におっしゃったのは人類史上最大の盗みということでした。それは、そうでなければ全人類に与えられたであろう将来価値を盗み、現在の投資家に与えるということでしたか？
その通りです。ええ。
だから、あなたが言ったように、それが会社の価値の90%以上なら、それは数兆ドル相当に違いありません。
その通りです。ええ。この費用の一部が既に吸収されたと思う方法は、2023年にこれらの利益上限が最初の投資の100倍の倍数か、場合によってはそれより低く設定されたということです。2021年の引用では、サム・アルトマンが新しい投資家の倍数は一桁に下がったと言っていました。
だからこれらの利益上限は存在し、それらがどれだけの価値があったかについては異なる推定ができますが、1000億ドルから1兆ドルの価値があった可能性があると思います。2023年に、エコノミストとインフォメーションから新しい記事が出て、2025年から利益上限が年20%ずつ増加することを許可するルール変更が静かに行われたことが示されました。
年20%。控えめに聞こえるかもしれませんが、ここで複利成長を真剣に考え始めると、利益上限が典型的な営利とOpenAIを差別化することを意図していた体制から移行したことになります。サム・アルトマンは、利益上限とハイブリッド構造を選んだ理由は、非営利としては十分なことが起こっていなかった、営利としては多すぎることが起こっていた、だからこれは中間地点であるべきだったと言いました。
しかし今、利益上限が年20%上昇しているなら、それは経済の典型的成長率の5倍で、理想的な条件下や最も推奨される戦略で投資している場合に株式市場で稼ぐことを期待する額の約2倍かもしれません。
だから典型的な営利投資からOpenAIを差別化することから、投資家に年間収益率の点で株式市場で1年間に稼いだであろう額の2倍を稼がせることになりました。1000億ドルだったと想像すると、40年以内に100兆ドルのようになります。1000年以内には、ドル価値が宇宙の原子の数より高くなります。
だから数兆ドルの価値を本当に吸収することを意味していた利益上限、サム・アルトマンが2019年に言った宇宙のすべての将来価値のライトコーンは、複利成長の魔法によって基本的に排除されました。
2025年の完全営利化への移行
それはかなりクレイジーです。妥協の類いのもののように聞こえます。ああ、上限を上げる必要がある。年20%上げさせよう。しかし実際に誰かが座って計算をすれば、まあ、それは実際に上限の目的を破るようなものです。
ええ。だからそれは全て2023年のことで、今2025年に、彼らは基本的に利益上限の作り話を放棄しているということですね。
その通りです。ええ。明らかに利益上限はソフトバンクのような投資家にとってまだ何かを意味します。なぜならこの資金提供がそれを条件としていたからです。だから、OpenAIの使命の受益者である人類に権利があった将来収益で、まだ数兆ドルあったかもしれません。そしてソフトバンクは今、彼らの投資ドルを得るために、OpenAIは完全にそれらを取り除かなければならないと言いました。
だから、かつて人類に権利があったすべてのお金、グレッグ・ブロックマンがOpenAIの商業活動のほぼすべての価値を抽出すると言った人々、そのすべての価値が今新しい公益法人の株主に行くことになります。
なんだかクレイジーに思えます。この枠組み、これらの利益が構築されている法的インフラが実際に持ちこたえるのかと思います。OpenAIがAGIを作り、経済の残りの部分と同じくらい多くのお金を稼ぎ始めたとしたら、これらの法的枠組みは実際に持ちこたえるでしょうか？特にOpenAIがこのような波乱に満ちた歴史を持っているからです。
良い質問です。OpenAIが組織を設立していた時の態度は、彼らが実装している法的構造が持ちこたえるかのように行動すべきだということでした。なぜならそれが正しい法的構造が最も重要な世界だからです。
だからAGIが社会をあまりにも変革し、OpenAIの企業統治のニュアンスがもはや全く重要でなくなった世界は、そもそも人類の経済的利益への権利を与える利益上限があるかどうかが本当に重要ではなかった世界です。だから長期的な将来を見ている場合、そのような世界でOpenAIの企業統治が正確に何であったかについて無関心でいるべきです。
しかし、それは構造が持ちこたえる世界もあるということを意味し、それが最も重要な世界では、人類がOpenAIの商業活動の経済的利益を受け取る権利を維持することが重要です。だから、構造が持ちこたえなくても、持ちこたえるかのように設計すべきだと思います。
それは理にかなっています。あなたが言ったように、OpenAIの創設者たちは非常に明確な使命を持っていたので、それを設立文書に入れ、それがOpenAIが変身するのにそれほど苦労している理由です。サム・アルトマンのように、それを再発明しようとしているのは同じ人々の一部だったにも関わらず。だから少なくとも今のところ、それらはある程度の持続力を持っているようです。
その通りです。
一般ユーザーへの影響
金銭的価値と将来世代からのこの価値の盗みの可能性を超えて、この再編がChatGPTなどの普通のユーザーに他にどのような影響を与えると思いますか？
ええ、これは上昇に関してだけではありません。ソーシャルメディアユーザーが経験した特定の下降もあり、会社の投資家に利益を推進するよう設計されたアルゴリズムがありました。そしてそれらのアルゴリズムは、ユーザーの長期的な幸福への影響を必ずしも気にかけていませんでした。
AIでも似たようなことが起こるかもしれない多くの理由があります。チャットボットが行動するよう設計される方法が、実際にユーザーの長期的な幸福のために最適化されていないということです。
また、企業が行っていることの負の外部性を通じて世界に危険をもたらすかもしれない理由もあります。彼らが超知能を競争している場合、危険な生物兵器を開発したり、自律的なサイバー攻撃を行ったりすることができる、漏れたり盗まれたりしてしまうモデルを開発してしまう可能性があります。そしてそれが世界に多くの害をもたらします。
OpenAIの非営利が行うことを意図していたことの一つは、特定の使命関連コミットメントを通じてこれを防ぐことでした。最も明白なのは、今削除されようとしている非営利が持っていた完全な経営管理権で、非営利は今度の特定のモデル展開を見て、これは準備ができていない、我々は説得力のある安全性や調整のケースを作ったとは思わない、これは公開できない、と言うことができました。
あるいは、これは非常に価値があり重要で、我々は強力な安全性のケースを作ったと思う、皆がアクセスできるよう価格を本当に低く設定すべきだ、と言うことさえできました。これらは両方とも投資家を不幸にしたであろう決定です。
しかし完全経営管理モデルでは、投資書類が「これは典型的な投資ではありません。寄付だと思ってください」と言っていたので、非営利がその決定を下すことができました。これは我々が失っているものです。
競争抑制と安全性への懸念
公共の権利は金銭的な上昇だけで終わりません。下降からの保護にも及びます。これが現れる他の具体的な方法は、いわゆる停止支援コミットメントです。
OpenAIは競争的レースがコーナーカッティングにつながり、重要な安全作業の一部をスキップすることになることを非常に心配していたので、価値整合された競合他社がAGIの構築に近づいた場合、彼らは自分たちがやっていることを止めて、その競合他社を支援し始めると言いました。
おそらく彼らがこれをしたかった理由は、その時市場に存在するであろう競争と競争へのプレッシャーの一部を取り除き、競合他社がより遅く動き、実際に公開するものについてより思慮深くなる権利を与えることでした。この約束が新しい企業構造に実際に継続されない多くの理由があります。
まあ、私が言おうとしていたのは、これらの約束すべてがOpenAIによって最初に導入されたものでしたが、事実上長い間無効で空虚だったと思います。特にサム・アルトマンが会社に戻って、彼の役割の権力をより強く握るようになってから。
だから我々は紙の上では何かを諦めるかもしれませんが、地上の状況は、OpenAIが既に営利企業のように行動しており、しばらくそうしてきたということだと思います。どう思いますか？
ええ、これまでのところそれが状況だったと思いますが、それが永遠に続くとは必ずしも思いません。それが紙の上の安全装置が非常に重要だと思う理由の一部です。
例えば、言及した司法長官のような規制当局が任意の時点で介入し、新しい非営利取締役会を任命すると言うことができると想像できます。取締役会がOpenAIが制定するよう設計された安全装置の一部を実際に制定していないため、明らかに義務を怠っているので、新しい非営利取締役会を任命することができるし、それは今起こりうることですが、これらの法的保護が紙の上でまだ存在する限りにおいてのみです。
OpenAIがここ数年でこの使命を実現することに多くの点で失敗してきたということに同意します。しかしAI開発がどこまで行くかについて世界がますます目を覚ますようになると、非営利取締役会が独立して、あるいは非営利の規制当局としての司法長官が、OpenAIが行ったコミットメントの一部を実現できるようになることを期待できると思います。それはOpenAI法人が法的にそうする権利がある限りにおいてのみできることで、それは非営利法人としては権利がありますが、公益法人としてはそうではないかもしれません。
長期的視点の重要性
それは非常に興味深いです。あなたがそれの非常に長期的な見方をする方法が好きです。ほとんどの人は、OpenAIが先月何をしたか？彼らの最後のモデルリリースがなぜひどかったのか？ええ、GPT-5について話しています。人々はそれに固執する傾向がありますが、それは、彼らが爆発したり、別の会社に身売りしたりしない限り、しばらく続く永続的な企業です。
だからそれは長期的に考える価値があります。特にAIでは長期的が数年を意味するだけで、会社は既に大きく変化しています。だから将来もっと変化があるかもしれません。
OpenAIが経験しているようなハイパーグロースを経験している会社を羨ましいとは思いません。超高速で成長すると、新しい人を追加し、文化が歪み、人々は何が起こっているかわからず、多くの混乱があります。
だから、ええ、将来何が起こるかは誰にもわかりません。
ええ。OpenAIが正確にどのような構造を持つべきかというこの企業統治の問題は、我々、社会がOpenAIと共に解決する必要がある多くの問題の中の一つに過ぎないと思います。
その通りです。
取締役会の利益相反問題
では、もう一つ質問があります。OpenAIが正しいことをすることを我々が望む多くの状況は、まだ存在するなら非営利取締役会に依存し、代わりにこれをしようと言って介入することに依存しています。だからそれは取締役会の人々に依存します。だからそれらの人々について何を知っていますか？彼らの利益相反について何を知っていますか？
ええ。これは2023年に非営利取締役会がアルトマンを解雇しようとして爆発した後、新しい取締役会が基本的にその場で再構成されたところです。当時、3人が任命され、それ以来9人に成長しました。以前は10人でしたが、最近その一人、フィジ・シモが、アプリケーションのCEOとしてOpenAIにフルタイム従業員として加入するために辞任しました。だから9人に減りました。
現在の取締役会が公平な決定を下す能力について心配すべき多くの兆候があると思います。一つはこれです。ブレット・テイラーが取締役会の議長です。
ブレット・テイラーは長年のテック起業家で、現在45億ドルで評価されたシエラという会社を経営しています。この会社は、時々ラッパー会社と呼ばれる企業のクラスに属します。なぜなら本質的に彼らがすることは、OpenAIと他の開発者が訓練したモデルを取り、シエラの場合はカスタマーサービスに適するよう微調整し、これらのモデルを顧客に再販売することだからです。
シエラの場合、実際に彼らのトラストセンターと下請け業者リストを見ることができます。OpenAIが唯一のモデルプロバイダーのようです。だから基本的に、OpenAIの非営利取締役会の議長は、OpenAIモデルを顧客に再販売する数十億ドルの会社を経営しています。
だからこれは、OpenAIの技術の商業化に悪い影響を与えるかもしれない問題について完全に公平な決定を下すことを信頼したくない人の一人です。OpenAIの非営利取締役会がモデルを公開したくないと決定すれば、それはブレット・テイラーのビジネスにとって非常に悪いことでしょう。
ええ、そして我々は以前にもこのようなことを見ましたよね？取締役会の誰かが以前もラッパー会社を持っていて、OpenAIが似たような製品をリリースしたためにOpenAIと直接競争することになり、自分を回避しなければならなかったか何かだったと思います。だから、ええ、基本的に起こるのを待っている問題のように聞こえます。
ええ。そして取締役会メンバーがこれらの決定から責任を持って身を引くことができれば、心配することが少なくなると思いますが、それが起こっているかどうかはわかりません。例えばブレット・テイラーは、OpenAIの再編計画とそれについて行っている議論についてメディアで公然と話しています。
だからそれは彼が実際にそれらの議論に参加しており、おそらく全ての取締役会メンバーがこの再編を決定していることを示唆しています。結果に何らかの形で依存する個人的に数百万ドルや数千万ドルの利害を持っているかもしれないにも関わらず。
別の例は、10億ドル長者の起業家で投資家であるアニル・ブシュナニ・オーゲンレッシーです。彼はグローバル・インフラストラクチャー・パートナーズという投資会社を経営し、彼らが行うことの一部は、OpenAIが購入しているデータセンターを動力供給し建設している会社の持株を持っていることです。これはオーゲンレッシー自身が見逃していない含意です。
我々が見つけた彼の引用があり、彼は直接、「我々は、つまりグローバル・インフラストラクチャー・パートナーズとそのポートフォリオ会社が、全てのハイパースケーラーのためにデータセンターを建設するつもりです」と言っています。だからある意味、オーゲンレッシーがこの再編について投票するよう求められることは、彼のポートフォリオ会社の一つの最大の顧客である可能性がある相手に対して、計り知れない商業的含意を持つ投票をするよう求めることです。
かなりもつれた混乱のように聞こえます。しかし、ええ、おそらくそれは最近のシリコンバレーでは標準的なのかもしれません。誰が知っているでしょうか？
ええ、OpenAIはそれが標準的だと感じるかもしれないという感覚があります。しかし彼らはある意味、非営利取締役会には営利の取締役会とは異なる期待と規範があるという事実を見失っているかもしれません。
だから彼らはそれを見て肩をすくめて、まあ、Metaの取締役会に利益相反があるけれど、それは大丈夫だ、と言うかもしれません。違いは、Metaは営利会社であり、その場合、実際に業界での取引経験を取締役会に持つことが有用ですが、非営利の場合、それらの利益相反は受益者の最善の利益と本当にトレードオフになるかもしれないということです。
ええ、それは理にかなっています。
きっと一日中話すことができるでしょうが、これら全てをもっと見たいなら、OpenAIファイルズですよね？それがあなた方が出版した出版物の名前ですね？
その通りです。私たちは6月にOpenAIファイルズを出しました。openaifiles.orgで全てについて読むことができます。
そして先週、私たちは署名できるオープンレターも公開しました。それはopenaitransparency.orgにあります。そこに行って、この再編についての公衆への少しの透明性を提供することを中心とした、OpenAIに対する7つの比較的単純な質問をするオープンレターに署名することができます。
これらは確実に下のリンクにあります。実際、最初のリンクがオープンAIファイルズになるよう確実にして、これについてもっと読むことができるようにし、リスト2番目のリンクはあなた自身が署名して個人的に少し関与できるオープンレターになります。
OpenAIが実際にどのように働いているか、そして私たち皆への影響についてのこの非常に興味深い詳細な分析について話すために来てくださったタイラーさんに再度感謝します。今日はこれで全てです。視聴していただいて本当にありがとうございました。さようなら。
コメント