27,750 文字
今日はタイラー・ウィットマーさんとお話しします。タイラーさんは長年、クイン・エマニュエルという法律事務所のパートナーを務め、最近では「科学技術の安全のための法的擁護者」を設立しました。しかし今日お話しするのは、彼がカリフォルニア州とデラウェア州の司法長官に宛てた書簡の共著者だからです。この書簡は今日頃に発表される予定で、OpenAIの非営利団体が事業の支配権を維持すると発表したことについて、その書簡は必ずしもそうではないと主張しています。番組へようこそ、タイラーさん。
お招きいただきありがとうございます、ロブ。
今日の目標は、OpenAIが先週発表した「もう営利化しない」という大きな発表がなぜ非常に誤解を招くものだったのか、そしてあなたの見解では、実際にはその計画が全く改善されていないかもしれない理由を、できるだけ明確に説明することです。その後、カリフォルニア州とデラウェア州の司法長官と非営利理事会が公共の利益を守るためにOpenAIに何をさせるべきかを話し合います。
まず、あなたの書簡には「更新された再編案は、ほとんどの点で元の提案と同一である」とあります。なぜこの新しい計画は必ずしも大きな違いをもたらさないのでしょうか？
今日の書簡や議論の焦点となる現状について少し振り返るのが有益だと思います。現在、非営利団体はOpenAIの営利企業に対して非常に直接的かつ即時的な支配権を持っています。昨年末に彼らはそれをさまざまな形で変更するという発表をしました。そして5月5日の月曜日に、非営利団体が営利事業体の支配権を維持すると発表しました。
この問題の核心は、「支配権を維持する」とは何を意味するのかということです。デフォルトでは、彼らが維持する可能性のある支配権は、現状とまったく近似していません。それが私たちが懸念していることです。
理解しました。現在、非営利団体は基本的にビジネス部門を完全に支配しています。これはLLCであり、時々OpenAI LLCと呼びますが、基本的にそれはビジネス部分です。非営利団体の子会社であり、彼らは完全に支配しています。
なぜ新しい計画では、非営利団体がビジネスの方向性を実際に指示する能力を失うことになるのでしょうか？
元の再編計画と先週発表された改訂版の両方で、あなたが述べたLLCはデラウェア州の公益法人（PBC）に変換されることになっています。現在の構造では、非営利団体がLLCのマネージャーであり、LLCが行うすべてのことを直接的かつ即時的に支配しています。LLCがPBCに変換されると、「支配」は非営利団体がPBCの取締役会を選出する能力を保持するといった意味になりますが、LLC設定のような同種の直接的で即時的な支配権は持たなくなります。
取締役会を選出することは、十分なレベルの支配権ではないのですか？
それを実際にどのように運用するかを考えると分かりやすいです。例えば、現在OpenAI LLCが安全でないと思われるモデルをリリースしようとしている場合、非営利団体はLLCのマネージャーであることから、それを直接阻止する権限を持っています。
PBCの状況では、同じ仮説的状況で、安全でないモデルが公開されようとしている場合、非営利団体はそれを直ちに阻止する能力を必ずしも持ちません。彼らはそのような状況で望むことを行うであろう取締役会を選出することができますが、実際に直ちに阻止することはできません。
あなたの書簡を読むと—人々は読むことができます。数ページしかなく、非常に面白く、かなり理解しやすいものですが—彼らは実際にそれさえできない可能性があります。実際、彼らがビジネスに対してほとんど影響力を持たないことがデフォルトで起こるかもしれません。
最近まで理解していなかったことの一つは、OpenAI非営利団体が今日ビジネスをこれほど支配している理由は、この取り決め全体の開始時に制定された一連の拘束力のある法的合意があり、それらは非常に標準的ではなく、非営利団体にあらゆる形で介入する能力と強いレベルの支配権を与えているからです。
LLCがデラウェア公益法人に変換された場合—これは以前も今日も計画されていたことですが—2019年に非営利目的が利益よりも優先されることを確実にするために非常に慎重に準備されたそれらの契約上の合意は、デフォルトですべて一掃される可能性があります。
つまり、非営利理事会が会社内で株主が持つような典型的なレベルの支配権を持つ状況に戻り、それは今日持っている直接的な経営支配権よりもはるかに少ないものになります。
そして一つのクレイジーなことは、非営利団体とOpenAIビジネスの間のこの合意—非営利団体がその慈善的使命を追求し、AGIが全人類に利益をもたらすことを確実にするという目標を追求することを可能にする資産、それが公共の利益を守るために使うチップです—その文書自体は公開されていません。公共はそれが所有するもの、持つ権利を知りません。実際、非営利団体がビジネスのオーナーとしてどのような権利を持っているかが宣言されたことがないため、それらの文書にあるすべてのものを失い、気づかないかもしれません。これを正しく理解していますか？
はい、その通りです。現在の営利事業体であるLLCの運営契約は公開文書ではありません。OpenAIはウェブサイト上でその文書についてある程度詳細に説明しています—それは非営利理事会に多くの支配権と権限が与えられた特注の独自の状況であるという感覚を得るには十分な詳細です。
LLCは非常に柔軟な状況になるように設計されているので、PBCでできることよりもLLCでできることには柔軟性があります。だから私たちが懸念しているのは、LLCからPBCに変換することで、その選択肢の一部を取り除くことです。
LLCには望むように正確に構造化する能力がPBCよりも多いので、望む通りに構造化する能力の一部を失うことになります。
しかし、PBCの良い点の一つは、PBCのLLC協定に相当するものは定款または設立証明書であり、それは公開文書になるということです。
あなたの指摘の通り、LLC協定の内容については、OpenAIのウェブサイトを読むことでいくらか知ることができます。すべてを知っているわけではありません。LLC協定の内容と存在する支配権の種類を、もし彼らが再編を実行するなら、PBCの設立証明書に入れるものと比較できるようになることは世界にとって本当に良いことだと思います。
毎回「支配権」と言うべきではないかもしれません。ここで本当に重要なのは、非営利の使命の優位性があることです。その使命とはAGIが安全で全人類に利益をもたらすことを確実にすることであり、その使命とその使命の優位性が、それを実際に実施する能力を持つ誰かによって実施可能であることです。
現在、LLC協定は—OpenAIのウェブサイトで言われているように—使命の優位性を強制する方法で書かれています。そして非営利団体であるため、カリフォルニア州とデラウェア州の司法長官、私たちが彼らに手紙を書いている理由は、彼らが非営利団体を直接監視し、規制する能力を持っているからです。
私たちは、再編で何が起こっても、少なくとも現在と同じくらい良い状況になることを確実にしたいと思っています。そしてLLC協定の実際の詳細を透明にすることで、それが可能になると思います。
私がこの争点になっているもの全体が実際には公開されていないと言うとき、正気を失っているように感じます。司法長官が、公共の利益がこれほど大きいこと、非常に大きな公共の関心事であることを考えると、それに対する透明性を主張することは最低限のことのように思えます。非営利団体が騙されているかどうか、その使命が追求されているかどうかを、現状の状況、現在持っている権利と支配権を知らなければ評価することは不可能です。
提案されている新しい状況が同等かそれ以上に良いのか、または実際には悪くて合法であるべきでないのかを人々が評価できるように、その協定、または少なくともその大部分が公開されるべきでしょう。
より透明にすることは世界にとって良いことだと思います。確かにそうでしょう。
先に進んで詳細を説明する前に、あなたの書簡は基本的に支配権と経営支配、そして非営利の慈善目的の優位性—AGIが全人類に利益をもたらすことを確実にする—に焦点を当てています。
しかし、ここでは確実に、またはほぼ確実に変更されている他の2つのことがあります。1つは、将来の投資家、そしておそらく既存の投資家に対する利益上限が撤廃されること—これは非営利団体にとって大きな損失です。なぜなら以前はその利益は彼らに行っていたからです。また、現在、非営利団体はOpenAIが開発するAGIの運用方法や適用方法について決定を下す権利を基本的に持っていると思いますが、それはほぼ確実に失われるでしょう。
これらは非営利団体が行っている大きな譲歩です。そしてこれが彼らの非営利使命の追求において意味をなすためには、彼らはそれに対する実質的な補償を受けるべきです。
しかし、それ自体が重要でありながら理解するのが難しいこれらの支配の問題だけを考えるために、これらの問題は脇に置いておきましょう。
解決策に入る前に、OpenAIがスケッチした計画でデフォルトでは非営利団体がOpenAIビジネスが何をするかを決定する能力をなぜ基本的に失うのかを正確に説明しましょう。これは先週の発表前も後も変わらず真実です。
書簡では3つの問題を提起しています。1つ目は「OpenAIのビジネス取締役は、投資家の利益よりも慈善的使命を優先する受託者責任を負わないだろう」ということです。これを説明していただけますか？この新しい世界では彼らはどのような義務を代わりに負うことになるのでしょうか？
非営利団体では、非営利団体の取締役は非営利目的の受益者、非営利団体の使命に対して特別な受託者責任を負っています。それは非常に明確であり、司法長官によって執行可能です。公益法人では、たとえ非営利の使命をPBCの公益使命に正確に書き込んだとしても、デラウェア州の法令によれば、PBCの取締役はその使命と株主の財務的利益のバランスを取る必要があり、非営利団体のように、PBCの使命の受益者に対する特別な受託者責任はありません。
だから、非営利から公益法人に変えることで、公共に対して負う義務を本当に変えることになるのです。
理解しました。概念化するために：ここでは上に非営利団体があり、株主として、または新しい公益法人—PBC、この新しい組織—に対する何らかの投票権を持っています。非営利団体は独自の慈善目的を持ち、できる限りその慈善目的を追求するという独自の義務を負っています。この新しい状況では、その下にPBCがありますが、それは独自の義務を持っています—その取締役が追求しなければならない、そして拡張すれば、そのスタッフが追求しなければならない義務です。
非営利団体が新しいビジネスの取締役会を決定する能力を実際に持っているかどうかさえ確かではありませんが、ビジネスの取締役を解任し交代させる能力があると仮定しましょう。非営利団体の見解では、彼らが過度に利益を追求し、公益を追求していないことをし始めたとしましょう。非営利団体は取締役の一部またはすべてを解任する投票をし、AGIが全人類に利益をもたらすことを確実にするという非営利の目的を心の中で追求したいと思う他の取締役と交代することができるでしょう。
しかし、それらの人々がビジネスの取締役になるとすぐに、彼らは新しい異なる法的義務を負うことになります。たとえ彼らがAGIが全人類に利益をもたらすことを確実にするという非営利の使命を追求したいと思っていても、取締役としての役割では、彼らは公益法人、PBCの受託者責任に従わなければなりません—それは組織の他の目的に対して利益のバランスを取ることです。私たちはそれがどのように述べられるか正確には知りません。
たとえ彼らが、世界に与える危害が多すぎると思われるものを、稼いだ金額に対して止めたいと思っても、実際にはそうする権利がないかもしれません。
非営利団体が取締役を解任し続け、新しい人々と交代させ、毎回彼らが同じことをしなければならないと想像できます：彼らは今、公益法人の目的を追求しなければなりません。
もし一部の人々がそうせず、実際に彼らを任命した非営利団体の目的に従うなら、彼らは営利投資家から訴えられるリスクがあり、投資家は「私たちは騙されている。あなたは公益法人の目的に従わなければならない」と言うでしょう。
これらのすべてを正しく理解していますか？
はい、それはだいたい正しいと思います。先ほど言ったように、PBCの定款など、それを変えることができるものはあります。しかし、もし「既製品」のPBC定款を作るだけなら、あなたが説明したような状況になります。
一つの考え方として：現在のLLC設定では、非営利団体は基本的にレバーに手をかけ、物事を直接コントロールしています。既製品のPBC設定では、非営利団体がもはやレバーに手をかけていない状況になり、誰がレバーに手をかけるかを決めることができるだけになります。しかし、実際のコントロールから一歩離れたままです。
それは私たちの見解では、ここで重要なこと—株主や他の利益よりも非営利の使命の法的に執行可能な優位性—を危険にさらすのに十分です。レバーに手をかけることと、誰がレバーに手をかけるかをコントロールすることの間のその一歩の距離ができると、それが私たちにとって問題になります。
あなたが指摘する2点目は、OpenAI非営利団体の理事会は今日よりも実質的に少ない支配権を持つことになるということです。それについてはある程度カバーしました。
彼らがどのように支配権を失うのかについて、正確に言うべきことはありますか？
それは今説明したことです。もはや直接物事をコントロールしているわけではありません。誰が物事をコントロールするかについて力を持っているかもしれません。通常、これがどのように設定されるかによりますが、書簡では非営利団体が「議決権支配」と呼ばれるものを保持すると仮定しました。つまり、取締役を選出する能力があるということです。
非営利団体がその権力さえ持たない、または例えばCEOを雇用・解雇する権限を持たないように設定する可能性があるという信頼できる報告があります。通常、支配的株主は取締役を選出する権限を持ち、取締役はCEOを雇用・解雇する権限を持ちます。
明らかに、それは最低限必要な種類の支配権であり、現状を近似するには十分ではないでしょう。
興味深いですね。私たちはデフォルトでは、彼らが非営利団体が現在持っている支配のレベルを維持するための拘束力のある、特注の、異常な取り決めを作るために一生懸命努力しないと仮定しています。
しかし、それは合理的な仮定だと思います。なぜなら、1つには、彼らはそうすると言っていません。それが起こるだろうとは示していません。そして2つ目に、ここにはさまざまな利益集団があり、彼らの多くはそうならないことを本当に望んでいます。何千億、何百億ドルもの利害関係があり、このプロセスに深く関わっているすべての営利投資家は、これらの制限をすべて取り除くことを本当に望んでいます。そしてそのレベルのモチベーションを持つ人々が彼らの方法を確実に得る可能性があると思います。
書簡では次のように書かれています：
「以下では、OpenAI非営利団体が何らかの形でOpenAI-PBCの取締役会の議決権支配を持つと仮定しています。しかし、そのような支配が何を意味するかは不明確なようです。例えば、信頼できる報告によると、OpenAI非営利団体の理事会がOpenAI-PBCの取締役や役員を解任する権限を持つかどうかはまだ決定されていません。」
彼らは「非営利団体が支配権を維持する」という非常に曖昧なことを言っていますが、彼らは本当に取締役会を変更する能力さえない少数派の議決権—一般的に株主ができる主要なこと—を、それが支配権を維持することとして渡すことができるのでしょうか？それは詐欺の最も露骨な試みのようであり、司法長官がそのような狂った取り決めに署名することを信じるのは難しいです。
私はあなたに同意します。ビジネスの仕組みに詳しい多くの人々、そして確かにほとんどの弁護士が「支配権を維持する」を読んだとき、基本的に想定するのは、過半数の投票によるか、または特別な種類の株式投票によって、彼らが取締役を雇用・解雇する能力を持つということです。それは絶対的な基準のように思えます。
だからあなたに同意します。私は衝撃を受けるでしょうし、もし彼らがそれ以下のことをしようとするなら、それはかなり極端でしょう。しかし、書簡で参照されているブルームバーグの記事では、それがまだテーブルの上にあるかもしれないと思われ、それは非常に衝撃的です。
もし本当に狡猾であれば、それを最初の提案として提示し、それが議論の対象になることを期待し、人々の基本的な期待を形作ることができます。たとえ実際にそれを通すことを期待していなくても。
だからこそ私たちはできる限りすべてを枠組みとして設定しようとしています。4月中旬に出た元のNot for Private Gainの手紙では、OpenAIが自分自身を束縛するために行った非常に意図的なプロセス、つまり現在の構造に基づいて—LLCと非営利団体がLLCを直接支配している—すべてのガバナンスの保護を導入し、本当に確実にするためのプロセスを詳しく説明しています。
これは彼らがこれをできる限り確実にするために経た何年もの過程でした。非営利の使命がすべての他の利益よりも優先されることを確実にするためです。彼らは収益を生み出すビジネスを運営しており、それが取って代わるのは本当に簡単です。
彼らはここで自分自身を手錠で縛るために本当に一生懸命努力し、「非営利の使命が常に利益よりも優先されるように、そして非営利団体がこの上に座っているように、これを設定しなければならない」と言いました。
これは司法長官に全体の状況を監視する権限を与え、彼らは十分なリソースを持っています。それは法執行です。彼らは外部の力、つまり使命が優先されることを確実にする力と能力を絶対に持っている力に自分自身を委ねています。
ちなみに、今この会話をしている理由はそのためです。もし非営利団体が非営利団体ではなく、司法長官が非営利団体が現在の企業構造の中で座っているために持っている監視権限を持っていなかったら、私たちはこの会話をしていないでしょう—なぜなら彼らはこれらの変更をすべて行い、誰も何も言うことができないからです。
だから私たちがこの会話をしているという事実は、非営利団体が今いる位置に、機能的に留まることが非常に重要だと思う理由の一部です—たとえ組織名の後の文字が変わったとしても。
そこから3番目の指摘に完璧に導かれます。「司法長官として、あなたは限定的な執行監視権を持つことになる」。なぜデフォルトでは司法長官がOpenAIのビジネスが非営利団体の慈善目的と衝突していると思った場合に介入できなくなるのか説明できますか？
これは「レバーに手をかける」対「誰がレバーに手をかけるかを決める」というアナロジーと少し似ています。司法長官は非営利団体が株主を持たないという事実によって非営利団体に対する監視権を持っています。彼らには慈善目的に従っていることを確認する他の利害関係者がいません。そのため、州の司法長官は州レベルでの非営利団体の監督者として設定されています。
カリフォルニアにはこれが行われる大きな法定制度があります。デラウェアでは、主に非営利法人がデラウェア企業法に従うというだけで、司法長官は伝統的な営利法人に対しては持たない非営利団体に対する特別な監視権限を持っています。
これが問題である理由は、PBCが司法長官のその直接的な監視の対象ではないからです。非営利団体だけがそうです。PBC自体は、何らかの形で刑事法に関わる違法なことをしていない限り、司法長官は何も言うことがないでしょう。
それは企業がどのように物事を行うかは企業次第です。PBCがその公益に反することをした場合、それを執行する能力を持つのはPBCの株主です。
ここで注目すべきは、それがいかに少ない力であるかです。デラウェア公益法人法はおよそ10年以上前に可決されましたが、その時から、PBCの株主がPBCの公益使命を執行するために成功した訴訟の報告例は一つもありません。
だから、状況から非営利団体を取り除き、PBCだけに焦点を当てると、司法長官をその監視役から取り除き、力を持つかどうか分からない株主に置き換えることになります—そして訴える能力を持つほとんどの株主は、慈善的使命の推進のために利益動機を抑制するよりも、利益動機の側に重点を置くことにより興味があるでしょう。それは物事をかなり大幅に制限します。
OK、司法長官はかなり大幅にループから外され、基本的にはまったくループから外されることになります。
しかし、非営利団体が株主になるので、原則的に訴訟を起こし、「あなたは公益目的のために十分なことをしていない」と言うことはできます。彼らはそのような訴訟を起こすことはできるが、幸運を祈るしかないと言っているのですね。実際、他の誰もそのような理由でビジネスが行うことを成功裏に変更することができたことはないのです。
それについては二つのことを言うべきです。一つは今言ったことです：それはかなり難しいということです。デラウェア企業法では「経営判断の原則」というものがあり、これは基本的にデラウェア法人の取締役会の決定に多くの敬意が払われるということで、これにはデラウェア公益法人も含まれます。
だからデラウェア法人を株主として訴えるのは本当に難しいのです。それがすべきことをしていないという理由で。そしてPBCの場合、公益対株主の利益という場合には、それをしないことに対して訴えるのはさらに難しいです。それは一つの側面です。
執行の観点からのもう一つの側面は、おそらくすでに起こったことに対して訴えているということです—何であれ、その影響はすでに起こっており、あなたは訴えています—そしてこれらの訴訟が裁判制度を通過するのには時々何年もかかります。
「取締役として営利事業体が悪いことをしようとしていると聞いて、それがすぐに起こらないようにステップインすることができる」というのと、「その悪いことがすでに行われていて、数週間後に裁判所に訴状を提出し、それを修正しようとしている」という違いがあります。AIモデルの安全性を心配している人々にとって、本当に懸念されている害の一部は…一度猫が袋から出てしまうと、その猫は袋から出たままです。
だから本当に必要なのは、後で「混乱を片付ける」コントロールではなく、前もってのフィルターコントロールです。
そうですね。新しい取り決めでは、OpenAIのビジネスが公益に反する非常に安全でないAIモデルを展開した場合、非営利団体はデラウェア州の裁判所で訴訟を起こすことができるでしょう—そしておそらく3年後、裁判所は「はい、ビジネスがこのタイプの決断をする際に公益をもう少し重視してほしい」と言ってくるかもしれません。
起こりうることの広いスペクトルがありますが、一般的に事後に訴える力は、この独特の状況では完全に役に立たない可能性があります。
そして、これが独特の状況であり、ここで問題になっている技術が重要である理由です。それがOpenAIが最初からこのように自分たちを設定した理由です。彼らはこれが独特の状況であることを理解し、ユニークな企業構造、つまりこれらの保護策を周りに置こうとする非常に思慮深い方法を導入しました。
だから今、状況がとても独特なので、それらを保護しようとすることに本当に関心を持っています。
それはOpenAIが存在する理由全体です。それは創設時に非営利団体だった理由です。それは2019年にこれらの非常に強烈な合意が交渉された理由で、それを柱に縛ろうとしたのです。それを無視して、実際にはこれが今日の核心的な問題ではないと言うのは狂っているでしょう。
おそらく司法長官をこれらすべてに精通させるのはやや難しいでしょう。なぜなら、ここには多くの歴史があり、彼らはAIの懸念やOpenAIの将来のビジョンなどのこれらすべての複雑な事情に通じていないからです。残念ながら、彼らはある程度これに精通する必要があります。
はい。4月中旬のNot for Private Gainレターの背後にある大きな動機の一つは、現在の状況に至るまでの歴史を説明し、司法長官やあなたや私ほどこれに注目していない他の人々が追いつくのを助け、彼らがこれが存在する理由を理解するために必要な文脈を与えることでした。そしてもしこれを既製品の、通常の企業統治の状況に変えるなら、それは本当に壊滅的に悪いかもしれないのです。
はい、ここには一部の人々が取り組んでいる難しい感情的な問題があります。この会話全体を通して、私たちは「デフォルトでは」と言っています—彼らがこれらの結果を避けるために何か大きな回避行動を取らなければ、彼らがこれらの法的合意をすべて考え出して本当に防水にしなければ、物事はこのように進むだろうと言っています。
私たちはOpenAIがその慈善的使命を追求するこれらの良いことをしないとそんなに悲観的または皮肉的であるべきでしょうか？もちろん、多くの異なる関係者がいます：ビジネスで働く人々、非営利団体の人々、彼らの法律顧問などがいます。
私は多くの人が先週、彼らが私たちが行ってきた批判に応えて彼らの計画に大きな譲歩、大きな変更を加えたという直感を持っているので、おそらく以前考えていたよりも大きな誠意を想定しましょう。
しかし全体としては、この行動は彼らが以前は違法で司法長官が署名しなかっただろう変更をごまかそうとしていたことを認めたものだと言えるでしょう。それは基本的に他の民間グループの利益を追求するために公共の利益、公共が所有し、ふさわしいものの巨大な詐欺でした。
もし誰かがあなたから多くのものを盗もうとしていて、そして多くの公共の圧力の後、彼らがもうあなたからそれらのものを盗まないことを決めたが、異なる計画—理解するのがかなり難しい異なる非常に複雑な計画—を提案するなら、少なくとも警戒する権利があると思います。
何が起こっているのか、そして様々な人々の見解について確信すべきではないかもしれませんが、ここで防御的な姿勢を持ち、さらなる精査や議論なしにそれらの善なる天使が勝ち、すべてのこれらの素晴らしいことがデフォルトで起こると仮定しないことは引き続き賢明だと思います。そのように仮定すべきではないと思います。
それは絶対に正しいと思います。警戒するというのはまさに正しい考え方です。そして圧力をかけ続けることが本当に重要です。
5月5日の発表から励まされたことの一つ、そしてその後の報道の中で特にデラウェア州の司法長官事務所の引用は、司法長官事務所が本当にこれに細心の注意を払っているように見えることです。そしてそれは、おそらくOpenAIの取締役会にこの会話に調和している人々がいて、これらのメッセージを本当に聞いているかもしれないことを示唆しています。
私たちは、警戒し続け、圧力をかけ続け、取締役会と司法長官がこの状況に正しくあたることを願いながらも、彼らが少し方向転換していることに感謝すべきだと思います。繰り返しますが、私はそれには多くのことが必要だと思います。彼らが今発表したことを考えると、それはデフォルトでは起こりません。
彼らは本当にPBCにガバナンスの保護を可能な限り組み込む必要があり、それはLLCよりもPBCでは少し難しいです。
それは念頭に置いておくべき重要なことだと思います：LLCよりもPBCで現状を近似するのは難しくなります。
しかし、再編が進むにつれて、これまで存在していたガバナンスの保護策—それらが何であるか、そしてそれらがどれほど重要であるかについて話し合うことができます—がそこにあるようにするために圧力をかけ続けることが大切だと思います。彼らはそれを新しい構造に入れるために多くの作業をしない限り、そこに留まることはないでしょう。
解決策に移りましょう。司法長官と非営利理事会に対して2つの要求があります。それらを詳しく説明し、それらがどのような影響を持つか説明しましょう。
最初のもの—あなたが自明で、絶対に必要で、絶対的な最低限のことと考えているもの—は「OpenAI-PBCの設立証明書にOpenAIの慈善的使命と憲章に対する主要な受託者責任を含める」ことです。それはどういう意味で、なぜそれが重要なのですか？
LLCとは異なるPBCの仕組みは：LLCではLLC協定で管理者の受託者責任を非常に明確に変更することができます。それは非常に柔軟です。彼らのウェブサイトで言われていることから、彼らがそうしたこと、そしてそれが現状の状況であることを理解しています。
PBCでは、それを実施するのは少し難しくなります。だから私たちが彼らに求めているのは、PBCの設立証明書を使って、少なくともLLCに存在する非営利使命の優位性のレベルを取り入れることです。
デフォルトでは、PBCの取締役は株主の利益とPBCの公益使命のバランスを取る必要があります。彼らは証明書の中に、そのバランスが少なくとも重要な状況で—例えば、展開されるフロンティアモデルの安全性など—道を譲らなければならないことを明確にすることを書く必要があります。
現在、OpenAI憲章への言及があります。憲章はOpenAIのウェブサイトにあるもので、長い間そこにありました。しかし現在、それは本当の法的握力を持つ文書に組み込まれていない限り、ウェブサイト上のものに過ぎません。
LLC協定は—彼らのウェブサイトで言われていることに基づいて理解する限り—憲章をLLC協定に組み込んでいます。だからLLC協定は「LLCのマネージャーとして、あなたは慈善的使命を最優先にする義務がある」と言っています。LLCの目的はその慈善的使命を推進することであり、それには憲章が含まれています—これは現在の非営利団体の設立証明書にある慈善的使命を少し拡張するものです。
そしてPBCでは、彼らはPBCの設立証明書と定款を公共の場で行う機会があります。ある意味で、それは現状よりも改善になります。なぜなら今、彼らはおそらく憲章を変更することができるからです。そして彼らが憲章をPBCの定款に取り入れるなら、それは現在よりも法的な歯を少し与えることになります。だから私たちはそれが起こるべきだと思います。
そうですね。ここにはいくつかのことがあります。OpenAIの慈善的使命と憲章に対する主要な受託者責任を公益法人の設立証明書に入れれば、それはもはやそれらの価値を利益に対してバランスを取る必要がなくなるのでしょうか、それともそれは公益法人であるので、そのバランスの行為をまだ行う必要があるのでしょうか？
これはPBCの定款で何ができるかについての判例法があまりないため、大きな不確実性がある問題の1つです。デラウェア法の下では、定款に入れることができることには多くの柔軟性があります。できないことは法律に反することをすることです。
だから、デラウェア州の法令では、それが公益法人の記述であり、行うことが基本的に含まれているので、バランスを取ることが必要になるでしょう。そこにはバランスがあります。
そして、私は企業法律家ではありません。私は取引の専門家ではありません。ここにはおそらく多くの動く部分があり、私たちが話している原則—非営利使命の優位性とその強制可能性を最優先に保つこと—を具体化するための多くの異なる方法があるでしょう。
しかし、バランスがあるが、特に技術の独自の性質を考えると特に重要な場所では、公益使命にかなり重い重みを置くように書き出すというのは、私がそれを行う方法の一つとして想像できます。
ちなみに、ここで行うことはすべて株主によって裁判所で異議を唱えられる可能性があります。私の理解では、これはすべて今、投資家や司法長官やすべてのことと交渉中です。
LLCの状況と同じくらい現状を維持するのは、あなたが指摘したこと、つまり法令によってまだいくらかのバランスが必要であるという理由で、PBC構造ではそれほど簡単ではありません。問題は、どれだけスケールに重みを置くことができるか、その法令に違反せずにLLCの状況にどれだけ近づけることができるかということです。
そうですね。憲章について少し話しましょう。現在のOpenAI憲章は、彼らがウェブサイトに長い間掲載している、OpenAIが作った非常に良い価値観とコミットメントのセットです。それがどれだけ執行可能かはわかりません。
私の理解では、これはビジネスによって書かれた憲章であり、非営利団体によって作成され、ビジネスに課された憲章ではありません。その結果、ビジネスはもしその憲章に従いたくないと決め、他のことをしたいと決めれば、いつでも憲章を変更することができるでしょう。ある意味では、それは非常に素晴らしいですが、現在非常に不安定な基盤にあります。
そして、彼らはずっとこの憲章に従うことを約束してきており、それは非営利の慈善目的の表現であり、常にそうでした、そしてそれはその非常に良いバージョンであることを考えると、この変更の一部として非常に自然なステップアップは「私たちは憲章を、非営利団体があなたにしてほしくないと思っても、変更するのがそれほど簡単ではない場所に置きたい。そして、それが法的な歯、法的な執行可能性を持つことを望んでいる」と言うことでしょう—人々がOpenAIの価値観や述べられた目標に露骨に違反した場合、誰かが苦情を言うことができるように。
LLCをPBCに変換することには利点と欠点の両方があります。柔軟性の低下、状況をコントロールするほど作ることができないという欠点のいくつかについて話しました。
利点の一つは、憲章をPBCの定款に組み込む機会があるということで、それによって公開され、かなり耐久性が高くなります。そして定款でそれをより耐久性のあるものにすることもでき、定款を修正するのを難しくしたり、簡単にしたりすることができます。
あなたも言ったように、現在私たちは…OpenAIは彼らのウェブサイトで、彼らが何らかの形で憲章をLLCに組み込んだと言っています。LLCの合意がないので、それがどの程度組み込まれているのか、そしてそれがどれだけ耐久性があるのかはわかりません。一般的に言って、LLC合意を修正するのもかなり簡単にすることができます。
すべての詳細を知らずに、私の仮定は現在、それはあまり耐久性がなく、憲章を変更して実施不可能にするのはかなり簡単だろうということです—公開されており、司法長官によって執行可能な非営利団体の定款とは異なります。
LLCの世界からPBCの世界に移行することで、現在ウェブサイト上にある憲章を取り、—それがLLC合意にも記載されているかどうかにかかわらず、単に参照されるのではなく—PBCの定款に書き出し、それをより耐久性のあるもの、よりパブリックなものにし、撤回するのをより難しくするコミットメントにする機会があります。私はそれは本当に良いことだと思いますし、LLCよりもPBC構造に移行する利点の一つだと思います。
はい。私に浮かぶもう一つの興味深い改善点は、彼らが憲章に追加の事項を検討することです—2019年には考えていなかったかもしれないが、今ではより関連性があるように思われることです。
例えば、彼らはOpenAIが中国ではなく米国で最初にAGIを開発することを確実にするためにその仕事を追求することの重要性についてかなり多く話しています。もし必要であれば、彼らはそれが確実に行われるように、他の会社や政府、または他のグループと協力するというコミットメントを持つべきかもしれません—たとえそれが彼らの商業的利益と潜在的に衝突するとしても、それは彼らが行うことであり、それは彼らが公共に利益をもたらす方法の重要な部分です。
それは2019年にはそれほど顕著ではなかったことですが、今はとても顕著であり、もし彼らが憲章を再評価し、追加する内容を検討するなら、かなり自然なことでしょう。
それに対していくつかのことがあります。まず、現在の憲章には「停止して支援する約束」というものがあり、これは短縮形です—それはあなたが今説明したようなものです。憲章では彼らは「もし価値観を共有する、安全性を意識したプロジェクトが私たちの前にAGIを構築する段階に近づいていれば、私たちは競争を停止し、このプロジェクトを支援し始めることを約束します」—誰が開発しようとも、開発されるAGIが安全で全人類に利益をもたらすことを確実にするために。
そしてそれはデフォルトでは—彼らが営利モデルに移行し、PBCがLLCに取って代わり、私たちが話してきた支配権が消える場合—それがまだ存在するかは明確ではありません。だから私はその約束を定款に書き込むことは、それを耐久性のあるコミットメントにする素晴らしい方法だと思います。
ちなみに、それによって会社に投資するすべての人がそれについて知ることになります。それは公開されているので、誰も「私たちは投資したが、あなたがいつか停止して支援するとは思わなかった」とは言えません。それによって「この状況に参入する人は誰でも、これが私たちの目的であることを知っている」と言うことができます。
彼らはすでにそれをある程度行っていて、ウェブサイトの紫色のボックスを見たことがあれば、投資する人は彼らの投資が寄付の精神で行われるべきであることなどを認める必要があります。彼らはこれについて本当に率直であろうとしてきました、そしてPBCの定款によって、より耐久性のある方法でそれを行う機会が得られるでしょう。
あなたの言ったことの一部から、ここでの重要な点が思い浮かびました。これは機会です。この物事の皮肉な見方について話し、警戒し、圧力をかけ続けることについて話しました。それは本当に重要だと思います—そして、それは間違いなく私の考え方になるでしょうし、これに取り組んでいる多くの擁護者の考え方になると思います。
しかしこれは彼らがより良くなるための機会でもあります。あなたが言ったように、もっと明るい見方をし、警戒しながらも、より良くなることができます。既存の憲章にはない、世界にとって良いことを見つけ、それらを今、定款に書き込んで、さらに保護的にすることができます。
私たちが多くの場所で話してきたことの一つは、Not for Private Gainレターの最後に置いた項目のリストで、非営利理事会が適切に権限を与えられ、非営利使命が保護されていることを確認するために必要な透明性を持つようにすることについてです。
理事会が技術とエコシステムについて正しい知識と理解を持ち、彼らの仕事を正しく行うために、彼らが非営利使命の優位性を維持し、それを執行可能に保つために必要だと思う支配権を実際に行使するために必要な種類の透明性と情報の流れを持つように、定款に具体的な規則を書き込むことができます。これらのことを書き込んで、それらをさらに耐久性があり、より執行可能にすることができます。
私たちはここで床について多く話します—私たちが彼らがすべき最低限のこととして考えるものについて—しかしこれは最低限のことよりもはるかに多くのことをし、状況を現状よりもさらに良くする本当の機会です。私は彼らがそうすることを奨励し、希望します。
はい。理事会の両方にとって—彼らの頭がこの空間にある間、彼らがこれらのさまざまなことを考慮している間、合意を書き直し、改善し、非営利の使命をさらに追求する可能性があります—そして司法長官事務所にとっても：彼らは今、この問題に頭を入れています、彼らは問題について理解しようとしています。
彼らは「2019年から今日まで物事は少し不均衡になりました：ビジネスは非常に大きく成長し、それを精査し、慈善目的を追求することを確実にする非営利団体のリソースの提供は本当にそれに追いついていません。だから、私たちは彼らに人員、資金、情報へのアクセス、独立して助言を得る能力—これが人々を怒らせ、彼らに問題を引き起こすことを心配せずに—を持ってほしい」というすべての種類のことを言うことができます。
司法長官がこれらは非営利団体が実際にその目標を追求するために必要な新しい取り決めであると言うことは非常に自然であり、それらを実施しましょう。
はい、それは正しいと思います。ここで少し戻って考えると、非営利団体は現在、その使命に対する受託者責任を負っています：非営利理事会のメンバーは、OpenAIの慈善目的の受益者としての人類に対して特別な受託者責任を負っています。その目的はAGIが安全で全人類に利益をもたらすことを確実にすることです。そしてその使命は彼らが今行うこと、いかなる再編を承認するかに適用されます。
だから司法長官は現在、慈善目的の受益者に代わってその受託者責任を執行する権限を持っています。それはほぼメタポイントで、彼らが今行っていることそのもの受託者責任の対象であり、彼らは今行っていることを使命の推進のために行わなければなりません。それが、私たちが言ってきたように、ここには床があると思う理由ですが、おそらくこの再編を通じて慈善的使命を最も推進する方法は、床以上のことをすることかもしれません。そして私は彼らがそうすべきだと思います。
はい。理事会の視点から見ると、これは彼らの多くにとって、影響を与え、将来が良くなることを確実にする最大の機会かもしれません。この役割を引き受けることは挑戦的な役割です—OpenAIを監督することは些細なことではありません—しかし、彼らがこの非常に重要な非営利団体の理事会メンバーになったときに署名した役割です。
また、彼らが素晴らしい人々としての自分自身のビジョンを持ち、前向きな違いを生み出し、署名した義務を追求したいと思う限り、彼らが時間をかけ、圧力に立ち向かう意思があることを本当に願っています—なぜなら営利投資家からの多くの圧力があると確信しているからです。彼らは基本的に非営利団体が現在持っている力とお金を再分配し、自分たちのものにしたいと思っています。
非営利理事会はその力とリソースをそう簡単に手放すべきではありません：それは全人類を代表して、これらの非営利理事会メンバーに属するものであり、彼らはそれの良い管理者であるべきであり、自分自身が意思決定手続きから外されることを許すべきではなく、基本的に彼らをすべての意思決定手続きから外すことで利益を得る他の人々に騙されることを許すべきではありません。
それは全くその通りだと思います。彼らは最初から本当に難しい仕事を持っています。彼らはそれに署名しました。誰も彼らにこれをするよう強制しませんでした。そして私はこの非営利団体を日常的に管理することは本当に難しい仕事だと思います、本当にそうです—3000億ドルのビジネス帝国の上に座っている非営利団体はそう多くありません。それは本当に難しいことです。
そしてこの再編は、そこでの物事の仕組みを本当に変える可能性があります。だから難しくて独特に影響力があり、重要な仕事の中で、それは独特に重要な瞬間です—そして彼らが皆、願わくはこれを行っていることを期待します。つまり、彼らはここで人類に対して義務を負っており、私は彼らがこの潜在的な再編を検討する際にそれを非常に真剣に受け止めていることを願っています。
はい。心強いことの一つは、彼らが1年半前に取締役会を一新したとき、彼らは本当にトップクラスの人々を任命したと思います。誰かがこれを引き受けることができるなら…これらの人々はさまざまな分野で経験を持ち、その中にはこれと同じくらい挑戦的なこと、おそらくもっと挑戦的なことをしたことがある人もいます。だから指を交差させておきましょう。
司法長官と理事会に対する2番目の要求は、次の2つのことのうちの1つを行うことであり、それはあなたが間違いなく必要だと考えるものです。
最初の選択肢は：「OpenAI-PBCの取締役会がその慈善的使命と憲章に対する主要な受託者責任を守ることを確実にするために、OpenAI-非営利理事会にOpenAI-PBC上の十分な権限を与える」。これが最初の選択肢で、少し長いですね。
2番目は：「または、OpenAI-PBCの設立証明書に執行体制を含める」。
まず最初の選択肢がどのように機能するか説明していただけますか？
はい。最初のものに関しては、おそらくそこに到達するためのさまざまな方法がありますが、アイデアは非営利団体とPBCの間のリンクを、司法長官が非営利団体に対して持っている監視権が断絶しないようPBCにも流れるように十分に強く保つことです。
つまり、司法長官が理事会を通じて非営利団体が行うことを規制する能力を持つことで、同時に商業的組織が行っていることも規制していることになります。つまり、非営利団体とPBCの間の接続を、そのリンクが切断されず、司法長官が少なくとも本当に重要なことのレベル、つまり商業的組織が世界で物事を行って行くレベルで物事を監視する権力を持つような方法で作成することです。それが理想的だと思います。
前述したように、私たちがこの議論をしている理由は、司法長官がその権限を持っているからであり、それがこれにつながっています：会社に正しいことをするよう圧力をかける能力です。だから私はそれが理想的だと思います。司法長官は公共に責任を持つ組織であり事務所であるため存在しています。公共の利益は彼らの仕事です。そして彼らには国家の力があり、それは明らかに非常に重要です。だから私はそれが理想的だと思います。
だからそれが最初の選択肢です：司法長官が非営利団体がLLCを担当している現在と同じ支配権を持つように、非営利団体とPBCの関係を配置することです。
OK、2番目の選択肢は公益法人の設立証明書に執行体制を含めることでした。それはどのようなものになるでしょうか？
それは多くの異なることのようになり得ます。これが言っているのは実際には：もし物事が司法長官を排除するか、何らかの重要な方法でその力を制限する方法で再編されるなら…私たちは、PBCが別の理事会と別の受託者責任を持つときに作成されるギャップについて話していました。それは非営利団体の下にある直接的なコントロール状況のLLCの代わりです。もしそのギャップが司法長官がここで物事を規制する能力に本当に制限を課すようなものであれば、そのギャップを埋めるために何かがなければならないと思います。
だからあなたは、PBCの設立証明書に、OpenAIに慈善的使命に対する説明責任を持たせるための執行体制を書き込むことができます。それがどのようなものになるか、例えば—これは仮説であり、それは多くの異なるものになり得ると思いますが—それはOpenAIの外にいる誰かである必要があると思います。真の第三者、組織の企業構造の一部ではないという意味で利害関係のない人です。
そして司法長官は明らかにすでにそうですので、あなたはその第三者性を近似する必要があるでしょう。そして公共の利益を支持するインセンティブを持つ誰かが必要です。だからOpenAIとの財政的またはその他の衝突を持たない誰か、すでに公共を保護し、公共の利益を念頭に置くという使命を持っている人が必要です。
だから第三者性があり、インセンティブがあり、そして私はそれらが十分なリソースを持っていなければならないと思います—世界最大の企業の一つに対抗するのに十分なリソースです。だから司法長官は州の力によってある程度それを持っています。もしこれを非州権力、第三者執行メカニズムに入れるなら、それが本当に歯を持つことを確かめる必要があります。
しかし書簡の2(b)の要求は、もし司法長官が無力化される何かが起こるなら—そしてそれは悪いことだと思います—その隙間を埋めるものがなければならないと言うことを意図しています。そしてそれは外部、インセンティブを持ち、十分にリソースが提供された執行メカニズムでなければなりません。
だからこの道では、司法長官は基本的にさらなる執行権を持つことをやめ、それを他の機関に委任または譲渡するのですね。彼らがそれをすることに非常に消極的であることは想像できます。他に誰が彼らに対抗するこれらの信じられないほど強力な力—すでに強力で、将来おそらくさらに強力になる—に立ち向かう能力を持っていると思うでしょうか？彼らがこの責任を渡す、かなり強力な組織でない限り、神経質になるでしょう。
あなたの懸念を共有します。司法長官と同じ力を持つものを設定するのは想像しにくいです。司法長官が民間の執行に依存する状況は世の中にありますので、これが初めてのことではありませんが、州を背後に持つことは本当に重要だと思います。
おそらく、司法長官がまだ何らかの役割を持つが、別の当事者にも力が与えられるような二頭の怪物のような構造にすることができるでしょう。これはさまざまな方法で行うことができると思います。
詳細に入りませんが、それを行う最も簡単な方法は、明らかに司法長官の現在の監視レベルを維持することです。それがそれを行う最も簡単な方法だと思います。そして前述したように、それを超えて、非営利の使命が利益動機や株主の利益、他のすべてのものよりも優先されることを確保するためのリソースとインセンティブを持つ執行メカニズムが必要です。
私の心にあるもう一つのことは、現在、非営利理事会はOpenAIのCEOを解雇し交代させることができるということです。彼らの目標を追求していない場合、彼らの目標を追求するはずの上級スタッフを解雇する能力をまだ持っていることをどこかに書き込む必要がありますか？
はい、そう思います。私たちが言い続けているように、デフォルトでは、非営利団体の下にPBCがある場合、PBCの理事会は必然的に執行役員とCEOを雇用・解雇する能力を持ちます。しかし非営利団体にそのような支配権を保持するためには、それをPBCの構造文書などに書き込む必要があるでしょう。それは自然には起こりません。
司法長官がこれらの特定の要件をすべて要求することは、再編が進むにつれて非常に簡単ですか？それは彼らが持つ権利ですか？「これに署名しません。ABCをしない限り、これらのことを何もできません」と言うことができるのでしょうか？
それは興味深い状況です。なぜなら、私はOpenAIが行っていることを事前に司法長官のどちらかが承認する必要があるという要件はないと思うからです。明らかに、司法長官はここで執行権限を持っています。だからもしOpenAIが彼らが好まないことをするなら、彼らは司法長官によって訴えられ、国家の力が彼らに向けられるでしょう—それは誰も望まないことです。だからこそ彼らは今、状況について彼らと話しているのです。それによって単に司法長官事務所からの訴訟を買うようなことをしないようにするためです。しかし、司法長官がこの取引について事前に署名する必要があるとは思いません。
彼らが司法長官と話していることが分かっている現在の状況では、事実上それがおそらく当てはまります。誰も司法長官が反対することを行うことはないでしょう。その意味では、司法長官はおそらく物事をある程度方向づける能力を持っています。
理解しました。法律上、彼らが前もって承認しなければならないわけではありませんが、彼らは後からそれらに異議を唱え、逆転させる執行力を持っているので—そして私たちは司法長官は何をしているのか知っていて、非常に強い事件を持ち、その状況が生じた場合にほぼ確実に彼らの方法を得ることができると思うので—事実上、彼らは前もって物事に主張する能力を持っています。そしてOpenAIは司法長官が「もしあなたがこれをしたら、私たちは訴訟を起こし、基本的にそれを元に戻そうとするでしょう」と言うことはしないでしょう。
はい、彼らはその方法で確かに多くの力を持っています。そしてデラウェア州の司法長官キャシー・ジェニングスは、彼女が「もしこれを差し止める必要があれば、私たちはそれをできる」と言った訴訟で助言を求められました—「差し止め」は単に物事が起こらないようにする法的命令を得ることを意味します。だから確かに彼らはその筋肉を曲げることを恥じておらず、彼らは自分たちがこのことが正しい方向に進んでいないと思えば止める能力があると考えていることを明確にしています。
非営利団体の要件の一つは、その理事会メンバーの過半数が直接株式を所有したり、OpenAIに直接的な財務的利益を持つことができないということです。彼らの誰かがこの再編が行われた後にビジネスの株式を受け取る予定であることを私たちは知っていますか？言うまでもなく、もし彼らがこれらの再編計画が進めば大きな支払いを受け取る予定であれば、それは彼らの決断に影響を与える可能性があります。それは本当にチャリティがどうあるべきかという方法ではありません。
控えめに言っても。最初の質問に答えると、私たちが知っているかどうか、答えはノーだと思います。つまり、私は噂を聞いたことがあり、矛盾する報告があります。ある時点で、アルトマンが7%かそれ以上を得るという報告がありました。
うわー、それはかなりの量ですね。
はい、全くその通りです。他の報告もありました。その報告は評価額が今の半分ぐらいのときに出たものです。しかし彼はそれ以降、それは真実ではないと言っています。だから噂のようなものがあります。行き来する報告があります。だから私たちは、取締役の誰かが再編の一部として株式を受け取るかどうかは分からないと思います。
確かに、もし彼らが再編の一部として株式を受け取るつもりであれば、彼らはこの意思決定から、またはおそらく議論からさえも自らを除外すべきです。なぜならそれはとても直接的で明白な衝突であり、それが取引の一部であれば、彼らが意思決定から除外されないことは想像しにくいからです。
司法長官は基本的に、非営利団体とLLCの間の合意、つまり公共が何を負っているかを詳述する合意の公開を主張することができますか？
それは良い質問です。私はそうは思いません。LLC合意はデフォルトでは公開文書ではありません。そして非営利団体は、ある意味で公共の使命を持っていますが、それでも機密情報を持つことが許されています。彼らはすべての非営利団体がこれまで持っていたすべての帳簿を公共の誰にでも開く必要はありません。だから彼らがそれを公開しなければならないという規則はないと思います。
ちなみに、人類に対する義務と使命、そしてここでの独特の状況を考えると、彼らがそうすべきだという非常に強い議論、つまり彼らがそうすることには良い倫理的または道徳的な議論があると思います。そしてそれは本当に重要かもしれません。しかし司法長官が必ずしもそれを強制する力を持っているとは思いません。
ちなみに、その協定は非常に証拠記録の一部になる可能性が高いです。もしマスクの訴訟が進んで、その裁判が実際に今予定されているスケジュールで行われるなら、その文書が記録の一部にならないとは想像しにくいです。
もし裁判があり、それが裁判の記録の一部であれば、それは非常にありそうなことですが、その時点でそれは公開されるようになると思います。なぜなら裁判の一部となるものが公開されることには本当に強い傾向があるからです。そしてこれは組織によって機密または非公開と見なされるかもしれませんが、企業秘密のようなものではありません。それは裁判においても開示から保護されるような種類のものではありません。
はい、理解しました。私の頭にあるもう一つのことは、非営利団体が譲歩するかもしれない異なるものの評価についてもっと透明性があることが自然でありかつ望ましいということです。
彼らは現在、OpenAIが非常に収益性が高くなった場合に非営利団体がほぼすべてのような超利益を受け取ることを意味する利益上限を撤廃する予定です。彼らはそれらの上限を取り除く予定です。これは、そのような超利益が非営利団体と他の営利投資家の間でより均等に分配されることを意味します—私は実際にそれに必ずしも反対ではありませんが、非営利団体はそこで何かを手放していて、その見返りに何かの現金か何か他のものを受け取るべきです。そうでなければ、それはその慈善的目的の追求において意味をなさないからです。
彼らはそれをどのように評価するのでしょうか？それを評価するのは非常に難しいです。もし人々がそうしたいなら、それを過小評価する多くの可能性があるでしょう。そこから利益を得る立場にいるなら。
それらの評価がどのように行われているかについて公的な精査があるべきだと感じます。そうすれば人々はそれらが何らかの意味で合理的かどうか、そして公共の利益を代表する非営利団体—基本的に資産または将来の潜在的資産を彼らに代わって、公共に代わって保有している—が騙されているかどうかを見ることができます。
司法長官がそのような評価を共有するよう彼らに要求することは難しいかもしれないのですか？
そうですね、そうは思いません。実際、司法長官はそこでかなりの力を持っているかもしれません。なぜなら慈善的資産の保護は間違いなく司法長官の仕事だからです。そしてカリフォルニアでは、基本的な司法長官の力に加えて、その周りにもたくさんの法的な力があります。だからPBCの株を全員が保有しているだけであれば、上限構造を近似するのはとても難しいでしょう。
あなたが指摘したように、少し明示的にするために、起こらなければならないのは、上限後の利益の潜在的な将来価値に現在価値を置くような種類の評価です。そして私は会社によるそのような経済分析を見たことがありません。
非営利団体から—使命を持ち、再び、その価値を人類の利益のために使用する使命を持つ—少人数の投資家グループへの大量の価値の譲渡でないことを確実にするために、それは極めて重要だと思います。それはこの手紙では焦点を当てていませんが、確かに今後焦点を当てるでしょう。司法長官はここでたくさんの力を持っていると思います。彼らには非営利団体が公正な価格を得ることを確実にする能力があると思います。
彼らが潜在的に手放そうとしているもう一つのことは、現在、OpenAIがその評価においてAGIを開発した場合、Microsoftはそのモデルに対する支配権またはアクセスを失い、非営利団体が人類の利益のためにそのAGIを支配し運営するでしょう。彼らがその権利を持つことは重要だと思われ、もし彼らがそれを譲歩するなら、それはかなり重要な譲歩であり、いくらかの補償が必要です。
それに対するドル価値を付けるのが私の仕事でないことは嬉しいですが、提示されるそのような評価が合理的であるかどうかについて話せるすべての関係者によって精査されるのを見たいと思います。
はい。AGIが開発された後の経済的現実において、非営利団体が少なくとも何らかの形でAGIの所有権を維持する能力を完全に放棄することはしたくありません。
しかし、それは彼らの元の再編計画では言及されていません。現状では、AGIが開発された場合、非営利団体がAGIの支配権と所有権を持つことは非常に明確です。元の再編計画では、それがどうなるかは明確ではなく、先週の月曜日の新しい提案でもそれがどうなるかは明確ではありません。
だから、AGIが本当に全人類に利益をもたらすことを確実にする方法を考え出すことは、それが非営利団体でその慈善的目的があるところに座っているとき、それを言うのはかなり簡単です。他のことは何であれ、それがまだそうであるようにそれを支えるために、彼らは図を考え出す必要があるでしょう。
そしてあなたが言ったように、それに価格を付けるのは本当に難しいです。今それに価格を付けようとすることを避け、実際に現在の事態の状態を再現しようとすることの方が、私の視点からは良い方法のように思えます。しかしデフォルトではそれは当てはまらないでしょう。そしてここでの重要な点は、ここからそれが確実に起こるように何かをしなければならないということです。それは自然には起こりません。
はい。終わる前にもう一つ簡単にコメントしたいのは、私たちが話す方法では、OpenAIの営利投資家に対してかなり敵対的に聞こえるかもしれませんが、それはそうではありません。彼らがこの取引から大金を稼ぐことは、彼らが資本をリスクにさらし、難しいビジネス投資をしている限り、私は大歓迎です。
それは単に、全体が慈善目的で設定されたということです。彼らが利益を上げている限り、それは組織が設立されたときの目的を追求しなければなりません。そして実際、それは大部分でそうでしょう。
OpenAIが実際に安全なAIを追求し、それが全人類に利益をもたらし、その実際の目的が保存される限り、それは営利投資家から多くの投資を受け、彼らにそうするよう誘導するために必要なリターン率を支払うことは彼らの利益です。完全に合理的です。私はそれに反対していません。私は株式市場に投資し、リターンを得ています。そして実際、OpenAIに株式を持つ企業にも投資しています。
それはすべて良いことです。それはOpenAIが設立された理由—そして実際、私も利害関係を持つ公共の利益—を犠牲にすることはできません。
私も投資家がお金を稼ぐことに反対していません。それは良いことだと思います。ここで明確にする必要があること、そして私たちが前進するにつれて明確であり続けることは、OpenAIへの投資は手段であって目的ではないということです。それは目的そのものではありません。だから伝統的な営利企業では、ある意味で、株主のための金儲けが全体のゲームです。それが取引です。そして伝統的な営利企業では、取締役会は株主価値を増加させる受託者責任を負っています。それが彼らの全体的な使命です。
そしてこれはそれではありません。OpenAIが投資を受けている限り、それは目的に対する手段です。それは非営利の目的をサポートするための道具であり、それが保護される必要があるものです。だから誰も利益を得られないというわけではありません。
もしお金がこれに触れると、それがあるいは何かを汚したというわけではありません。いいえ、彼らはおそらく彼らがしていることをするために多くのお金が必要です—しかしそれは使命のための道具であるべきであり、それ自体が目的になるべきではありません。そしてそれが私たちが最も懸念していることです。
だからこそ私は「法的に執行可能な非営利の使命の優位性」というような言葉を言い続けます—株主の利益を含むすべての他の利益よりも優先されるべきです。私はこれが前進し、利益が手段ではなく目的になるような滑りやすい坂道を下る方法があると思うからです。そして私たちは、それらが目的ではなく手段であり続けることを確実にしたいと思っています。
物事を本当に様式化すると：あなたには大部分誠実に行動し、大部分公共の利益を守ろうとしている非営利理事会があります。しかし同時に彼らに他のことをするよう説得したり、別のことをするようだまそうとする可能性のある巨大な力の集合に対してです。
そして、あなたにはこれらすべての営利組織があります：ある意味では彼らを非難することはできません。なぜなら彼らの目標はお金を稼ぐことだからです。彼らは株主への受託者責任に従っています。それは可能な限り多くのリターンを得ることです。おそらく私たちが組織をそのように、基本的にそのような方法でボトムラインに焦点を当てるべきかどうかという疑問がありますが、それはある程度私たちが企業セクターを組織化した方法です。
だからこれらのビジネスは彼らの自然な本能に従って行動しています。しかしそれは、非営利理事会が彼らに立ち向かわなければならないことを意味します。
彼らは取れるものをすべて取るでしょう。彼らは彼らの受託者責任を果たすために、これは特定のグループの人々、つまり彼らの会社を所有する人々に対するものですが、この組織から血を吸い取るでしょう。しかしそれは人類の利益と同じではありません。非営利理事会は私たちとそれの間に立つたった10人です。
その通りです。現在、OpenAIの非営利団体の取締役会が非営利の使命の管理者です。そしてあなたの言う通り、投資家やパートナーから彼らの使命—お金を稼ぐこと—を行うための大量の圧力がすでにあります。
そう、取締役会はその利益動機と非営利の使命の間に立っています。
繰り返しますが、それは超重要です。そして司法長官が彼らの後ろに立ち、彼らが正しく仕事をしていることを確認することは超重要です。これは追加のインセンティブとして—なぜなら私はあなたに同意します：理事会が正しいことをしようとしていないと考える理由はありませんが、そのバックアップを持っていると常に助けになります。たとえそのバックアップが、あなたがしていることを理解していない人々に自分自身を説明する方法であっても。しかしそれは超重要だと思います。
知っての通り、私たちがこの手紙を書いた理由、Not for Private Gainの手紙を書いた理由、そしてこのフォローアップの手紙を書いた理由は、5月5日にこの発表が出たとき、これは大きな転換だったというようなミームがプレスにあると思うからです。そして私たちが議論してきたように、これがうまく行く可能性はありますが、これが大きな転換だったという見方は現在この状況を考える正しい方法だとは思いません。
警戒を怠らず、圧力をかけ続けることがこれに対する正しい反応だと思います。「オー良かった、私たちは勝った。非営利団体が支配権を持っている。私たちは皆、夜に安眠できる」と考えるよりも。まだやるべき仕事がたくさんあり、その仕事は取締役会によって行われる必要があると思います。そしてそれは司法長官によって行われる必要があり、外にいる公共の擁護者によって行われる必要があります。圧力がかかっていることを確認しようとしています。そして利害関係者全員が—これは本当に全員です—これは非営利団体であり…
待って、私は人類です！
そうです、その通り！つまり、利害関係者はこれについてできる限り多くの透明性を持ち、できる限り多くの影響力を持つべきです。だからそれは超重要だと思います。そしてそれが私たちが行っている仕事の理由です。
素晴らしい。今日のゲストはタイラー・ウィットマーさんでした。80,000時間ポッドキャストにお越しいただき、どうもありがとうございました、タイラーさん。
はい、お招きいただきありがとうございます、ロブ。本当に感謝しています。
コメント