OpenAIの営利化構想に対し、カリフォルニア州とデラウェア州の司法長官が大幅な変更を強制した経緯を詳細に分析する。2024年12月に発表された当初案は非営利組織を事実上無力化し、完全な営利企業への転換を図るものだったが、司法長官らの介入により、安全保障に関する非営利組織の統制権限、独立取締役の要件、慈善活動への250億ドルの投資、OpenAI憲章の維持など、重要な保護措置が盛り込まれた。しかし、AGI開発後の排他的統制権の喪失という重大な譲歩も含まれており、理想と現実の間の妥協案となっている。商業訴訟弁護士として長年の経験を持ち、2024年に安全な科学技術のための法的擁護団体を設立したタイラー・ウィットマーが、企業統治の観点から今回の再編成を評価し、今後の監視ポイントを提示する。
OpenAIの営利化構想と司法長官の介入
ロブ・ウィブリンです。さて、OpenAIに関する緊急ポッドキャストに戻ってきました。彼らの営利化構造への転換計画について、ある程度の解決が見られたためです。
カリフォルニア州とデラウェア州の司法長官が、再編が承認される前に、OpenAIの計画に対してかなり多くの重要な変更を強制的に盛り込ませました。しかしOpenAIは、何らかの理由で、営利化再編に関するプレスリリースでこれらの変更点をあまり目立つように言及しませんでした。そのため、報道ではかなり過小評価されています。
これらすべてについて説明していただくため、タイラー・ウィットマーさんをお招きしました。彼は長年商業訴訟弁護士を務め、その後大手訴訟法律事務所のパートナーとなりました。2024年には、安全な科学技術のための法的擁護団体(LASST)を設立し、この1年間、OpenAIの再編提案を綿密に追跡し、カリフォルニア州とデラウェア州の司法長官に公益に関する意見書を提出してきました。彼は今回の発表、変更点、そして今後人々が注目すべきことについての記事の共著者でもあります。その記事はnotforprivategain.orgで読むことができます。
当初の提案内容
タイラー、昨年12月にOpenAIは非営利組織を完全に脇に追いやり、基本的に実質的な制約のない営利企業になることを提案しました。彼らが何をしようとしていたのか、簡単に思い出させてもらえますか。
はい、それは12月の発表のかなり公正な要約だと思います。彼らはウェブサイトに投稿しただけでした。発表では、公益法人(PBC)がOpenAIの運営とビジネスを運営・管理し、非営利組織は存続し続けるが、PBCとの関係は株主としてのみであり、他の関係はないとされていました。つまり、少数株主であり、支配株主ではありません。
その発表での非営利組織の説明は、引用しますが、「医療、教育、科学などの分野での慈善活動」に焦点を当てるとされていました。これは当時、AI安全性やAGIが全人類に利益をもたらすことの確保について全く言及していないように思えました。それこそがOpenAIの非営利ミッションだったのです。
ですから、PBCと非営利組織の間で完全な分離が行われ、両方のミッションが劇的に変わる可能性があり、私たちは非常に不安に感じました。
用語が少し混乱しやすいかもしれません。私たちは営利組織について話すことになりますが、以前は有限責任会社で、今後はデラウェア州に拠点を置く公益法人になります。おそらく私も複数の異なる呼び方で言い間違えると思います。PBC、公益法人、単に会社、法人、営利企業などと呼ぶこともあります。これらの用語はすべて基本的に同じ組織を指していると思います。
はい、その理解で合っています。
それでは、OpenAIが設立された慈善目的を読み上げたいと思います。これは以前のエピソードでは一度も読んだことがなく、ある意味見落としでした。
2020年の非営利組織の設立証明書には次のように記されています。
この法人の具体的な目的は、汎用人工知能が全人類に利益をもたらすことを確保することであり、人工知能研究の実施および資金提供を含みます。この法人はまた、そのような技術とそれに関連する利益を安全に開発・配布する取り組みを研究および支援することができます。これには、技術の社会的影響の分析、関連する教育的、経済的、安全政策の研究と取り組みの支援が含まれます。
この法人は、いかなる個人の私的利益のためにも組織されていません。この法人の財産は、これらの目的のために取り消し不能な形で捧げられており、この法人の純収入または資産のいかなる部分も、その取締役、役員、会員、または私的個人の利益に帰することはありません。
かなり積極的な当初の目標でした。慈善団体を設立する際によくあることですが、法的に「それから私たちは投資家や自分たちにも利益をもたらす」とは言えないのです。AIに焦点を当てていることは非常に明確でした。彼らが提案していたのは、これらの制約のない、ほぼ営利法人にすることでした。
この組織を、AIに特に焦点を当てることさえない、単なる助成金交付組織にするということです。ある意味で非常に大胆な主張でした。司法長官に提示するにはかなり大胆なことでした。そして基本的に、彼らは当初提案された内容の大部分を拒否したと言えます。
司法長官が要求した主な変更点
司法長官がOpenAIに実施を要求し、承認前に合意した主要な変更点を簡単にリストアップしていただけますか。
はい、もちろんです。これに文脈を加えると、最初の提案または発表はかなり骨格だけのものだったので、参考にできる情報は少ししかありません。
これから述べることの多くは、notforprivategain.orgのウェブサイトで公開した声明から引用しています。そこに行って3番目のタブをクリックすれば、これから説明する内容の多くを網羅した表が見られます。
しかし、これを一つずつ確認することが重要だと思います。私たちが行ったのは、OpenAIの既存の構造とそれがどのように統治されるべきだったかを比較し、次に2024年12月のOpenAIの提案がそれをどのように変更したか、そして今回発表された再編成の完了がそれをどう変更したかを比較しました。
この重要なポイントは、私たちが本当に焦点を当てていたのは、再編されたより営利的なOpenAIにおいて、利益動機が慈善ミッションを圧倒することになるのかということでした。
2024年12月の発表は、基本的に利益動機をミッションに従属させるものは何もないことを示唆していました。創設されるPBCは事実上単なる営利企業であり、ミッションは利益動機に対して何ら優位性を持たないということです。
そして、AGが完了した再編で要求したおそらく最も重要な点は、非営利組織のミッションがPBCのミッションとして明記され、少なくとも「安全と保障」に関する限り使用されている文言では、ミッションが利益動機に優先するということです。これはPBCの設立証明書で行われており、詳しく知りたければ後で説明できますが、これは変更が困難な公文書に明記されています。私たちはこれが重要な要素だと考えています。
安全と保障に関しては、ミッションが今や利益動機に対して確実に支配権を持っています。しかし、他のすべてに関しては、そうではありません。そしてそれは重要な問題です。それは問題なのです。
以前は、非営利組織が直接的な管理支配権を持っていました。基本的にOpenAIの会社に何でもするよう義務付けることができました。今では彼らはもはやその直接的な支配権を持っていませんが、安全保障委員会を持っており、安全と保障の問題について、自らが定義する通りに意思を押し付けることができます。
彼らは特に安全と保障の問題に関して一種の特別な権利を保持しつつ、他の多くのことについては支配権を放棄しています。
その通りです。既存の構造、つまりこの再編が完了する前に存在していた構造では、経営レベルでの支配権がありました。非営利組織の理事会がOpenAIの営利企業の運営を完全に支配していました。
12月の発表では、それが完全に剥奪されることになっていました。実質的に、私たちの読み方では、非営利組織は営利企業に対して全く支配権を持たないことになっていました。
そして新しい発表では、非営利組織が安全保障委員会を通じて、安全と保障に関してPBCを支配することになっています。あなたが今述べた通りです。
理事会レベルでの支配権もあります。現在の発表では、非営利組織の理事会に、特別クラスの株式、N クラスの株式を通じて、PBCの理事会メンバーを選出する権利が与えられています。ですから、理事会に誰が座るかを支配しており、また排他的ではありませんが、PBCの理事会メンバーを解任する権利も持っています。
再編前よりも支配権は少なくなっていますが、2024年12月の発表で進めようとしていた場合よりもはるかに多くの支配権を持っています。
非営利組織の理事会は営利PBCの理事会のメンバーを任命および解任できますが、会社の一般投資家の3分の2が理事会メンバーを解任したい場合は、それも可能です。つまり、解任の排他的権利ではありません。
当初の提案では、司法長官がOpenAIの会社に対する監督能力をほとんど失うと考えていました。それについて何が変わったのでしょうか。
これは重要だと思います。司法長官は、その州の最高法執行官であることだけで一定の権限を持っています。それを別にしても、彼らは管轄内の公益慈善団体に対して多くの追加権限を持っています。特にデラウェア州では、デラウェア州法の下で、デラウェア州司法長官が慈善団体のミッションへの遵守を取り締まる規制当局であることが非常に明確です。
慈善団体のミッションは一般的に公益のためです。ですから、慈善団体の理事会はデラウェア州法の下で、ミッションの受益者である受託者に利益をもたらす方法で慈善団体を統治するという特別な受託者責任を負っています。そしてデラウェア州法の下では、デラウェア州司法長官がその受託者責任への遵守を取り締まるのです。
ですから、司法長官には慈善団体に対する多くの監督権限があり、通常の営利機関に対するよりもはるかに大きな権限を持っています。
再編前の既存の設定では、司法長官はOpenAIに対して莫大な権限を持っていました。なぜなら、OpenAIは慈善団体であり、営利企業は完全に慈善団体によって管理されていたからです。したがって、慈善団体が営利企業に対して大きな権限を持っていたため、司法長官は慈善団体に対して多くの権限を持ち、したがって営利企業に対しても、独立した営利企業に対するよりもはるかに大きな権限を持っていました。
12月の発表では、慈善団体と営利企業を分離することで、司法長官の営利企業を規制する権限を大幅に削減することになっていました。なぜなら、司法長官の権限は組織の非営利側面に結びついているからです。
2024年12月の発表でこれら二つを大きく分離することで、司法長官が営利企業内の何かを管理したり監督したりする能力を著しく損なうことになっていました。
そして、これまで議論してきたように、今は中間的な状況です。以前の状態と発表された予定の状態の間のグレーゾーンのどこかにあります。今、私たちは中間の場所にいます。
安全と保障の問題に対する非営利組織の支配権により、司法長官は今やその領域において営利PBCに対して直接的な重要な権限を持っています。つまり、非営利組織がPBCの安全と保障対策を統治する権限を持つことで、司法長官も同様です。
その通りです。
そして司法長官は基本的にOpenAIと合意に入りました。カリフォルニア州のボンタ司法長官の場合、それは両当事者が署名した実際の覚書です。デラウェア州のジェニングス司法長官の場合は、不服従声明と表現されていると思います。しかし、彼らは基本的に、OpenAIが以下のことを行うことを条件に、私たち司法長官はこの再編または資本再構成が提案された方法で進むことに反対しないと述べました。
そして司法長官との合意に組み込まれたこれらの条件は、通常のPBCであればそのような要件の対象とならないであろうPBCを監督するための、司法長官にとっての追加的なフックとなっています。
ですから、この二つの方法で、司法長官は多くの権限と監督権を保持しました。PBCに対する非営利組織の支配権を通じて、そしてOpenAIとの合意を通じて、これらは再編または資本再構成を進めるための条件となっています。
次のレベルの詳細に入りたければ、読むべき重要なものは覚書と、OpenAIとカリフォルニア州およびデラウェア州の司法長官との間の合意です。
他にも多くの監督要件があります。彼らは年に2回、非営利組織の理事会と会って懸念事項を話し合うことができます。年に4回、会社の上級スタッフと事前に合意したテーマについて会議を行います。そして、どの問題を探求したいかを決定できるよう、関連情報について通知を受けなければなりません。
また、21日前に通知を受けなければなりません。これは非常に注意深く文言が選ばれており、司法長官側のわずかな神経質さを物語っていると思いますが、これはいずれかの組織を監視し続ける能力を損なう可能性のある変更、または彼らの間の合意の変更についてです。
ですから、司法長官は、OpenAIがこれから逃れようとする可能性があることを認識しており、そうしたことが起こり始めた場合に事前通知を受けられるようにしようとしています。そうすれば介入して裁判所に行き、ノーと言うことができます。
その通りです。そして、年に2回と4回の要件は上限ではなく下限として読むべきだと思います。これは司法長官への義務を果たすためにOpenAIに求められる最低限のコミュニケーションレベルです。司法長官はもっと多くを求めることができると思いますし、OpenAIがそのような要求を断るのは非常に難しいでしょう。
外部から見ると、これを下限として考えるのが正しい見方だと思います。そして司法長官が求めることができ、OpenAIが断りにくいことはたくさんあります。
OpenAI憲章と停止支援の約束
もう一つの大きな変更は、OpenAIが停止支援の約束や何年も前に公開してまだウェブサイトに掲載しているOpenAI憲章を撤廃するとは決して言わなかったことです。しかし、これらのいずれも維持すると誰にも保証しなかったという事実、そしてこれが企業にとって非常に異常なものであるという事実から、おそらく削除、変更、または弱体化されるだろうと誰もが想定していました。しかし、それは再公開される、つまり公益法人によって公開されることになります。
司法長官はOpenAI憲章と停止支援の約束に固執させるつもりのようです。つまり、もし他の会社がOpenAIより先にAGIを開発しようとしているように見えたら、彼らは競争を止め、単にその会社が安全に開発するのを支援する、という本当に驚くべき約束です。どんな会社にとっても。これはまだ名目上残ることになっており、その状況下では彼らがそうすることに前向きであり、ある意味それを行うことが求められているものだと思います。何か付け加えることはありますか。
その通りです。少なくともジェニングス司法長官の事務所の誰かが、これを彼らが得た重要な譲歩と見なしていると報道で引用されていました。ですから、彼らは本当に憲章に焦点を当てていました。
これについて言いたいもう一つのことは、あなたが言っていることに加えてですが、憲章には停止支援条項以上のものがあるということです。協力の精神、広く分配される利益、長期的な安全性について語っています。そして、これらのことも今やはるかに明記されたことから、重要な指針となる原則だと思います。
これの一部をPBCの設立証明書に実際に組み込んでほしかったのですが、そうはなりませんでした。私の見解では、これは再編された企業により効果的に組み込まれる可能性がありました。しかし、司法長官の要件で言及されていることさえ、私が期待していた以上のことでした、あなたが言った通り。そして、再編された組織が自らを拘束されていると考えるものという観点からも、司法長官が重要だと考えるものを示す素晴らしいシグナルだと思います。
これが企業を導く限りにおいて、そしてもし企業を導いていない場合は、企業の監督において司法長官を導くことになります。それは次善の策だと思いますが、これが再編に含まれたことは素晴らしいと思います。
その他の重要な変更点
当初の計画からの他の大きな変更点は何ですか。
12月の発表では、PBCの理事会が過半数独立であることは要求されておらず、デラウェア州法の下での営利組織の理事会が過半数独立であるという根本的な要件はありません。
そして司法長官は、再編の一環として過半数独立理事会を要求しました。ですから、これは良いことだと思います。「独立」が何を意味するか、そしてこれが紙の上と実際にどれほど重要かについて議論することはできますし、後でもっと話したければ話せますが、これは重要な譲歩であり、司法長官が要求しなくてもよかったものだと思います。
OpenAIは「独立」を、OpenAIに直接的な株式を所有していないことと定義しています。私たちが議論する、あるいは議論以上のことかもしれませんが、非営利組織の理事会の数名のメンバー、そしておそらく将来の会社理事会のメンバーには、間接的な金銭的利害があります。
彼らは実際に会社を所有していなくても、OpenAIが何をするかによって、潜在的に非常に大きな金額の利益を得たり失ったりする立場にあります。ですから、これは潜在的な弱点であり、今後司法長官がこの独立の定義にもっと関心を持つかどうか、検討することに興味があります。
司法長官は、OpenAIから得た譲歩において、独立性の法定定義以上のものを要求しています。ですから、彼らがどこまで押すかを見ることが重要だと思います。それは、サム・アルトマンが組織のCEOであるため独立していないというような、会社の従業員でないという意味での独立性だけではありません。
ですから、司法長官が伝統的な意味での独立性を超えた何かを要求したという事実は、少なくとも直接的ではない利益相反によって本当に妥協されている人々を理事会に含めないようにするための、何らかのフックを持っていることを示唆していると思います。
独立性を超えて、非営利組織がPBCに持つ金銭的利害について話します。これは難しい問題だと思います。なぜなら、これを本当に評価するために必要なすべての事実を知らないからです。そして、これは両面から言っています。再編前の実際の金銭的利害が何だったのかを知るためのすべての事実を知りませんでした。なぜなら、利益上限が時間とともにどのように進化したかについて不確実性があるからです。そして、非営利組織が再編後に持つ現在の金銭的利害を知りません。なぜなら、その多くが非営利組織がPBCに関して保有する将来の株式のワラント(新株予約権)に依存しており、そのワラントの詳細は私の知る限り開示されていないからです。
しかし、実際の株式保有、つまりPBCの普通株式保有に関しては、12月の発表、当時流れていた噂では、非営利組織にPBCの約300億ドルの持ち分を与えることになっていました。これは繰り返しますが、PBCとの唯一の関係だったはずです。そしてこれは、誰の評価を見るかによりますが、当時のPBCの価値の約10%から20%です。
そして完了した再編では、非営利組織に1300億ドルの持ち分を与えます。これはPBCの普通株式の約26%です。そして繰り返しますが、PBCの評価が今後15年間で10倍に増加した場合に、非営利組織に不特定の追加株式を提供するワラントがあります。それがワラントの条件だと思います。
ですから、ワラントの行使価格は大体わかりますが、PBCがワラントで指定された率で成長した場合に非営利組織が何を受け取るかは理解していません。
会社の財務的価値の10%から20%を得ると推定していたのが、26%プラス不特定の金額に上がりました。箱の中には何がある? 誰にもわかりません。
これはOpenAIが大きく成功した場合です。15年間で価値が10倍になる場合ですが、これは非常にもっともらしいと思います。たとえあなたがそれほどAGI信奉者でなくても、かなり成功したテック企業であれば。そして彼らがそれがいくらかを言っていないという事実は、おそらくあまり多くないということを示唆していると思います。そうでなければ、もっと喜んで教えてくれるでしょう。他に開示したくない理由はありますか。
わかりません。投資する前に投資家に開示しなければならないと思いますが。
それが希薄化するからですね。
その通りです。そして、ここで彼らが配慮している可能性のある他の関係者は、一般大衆以外には考えられません。ですから不明確です。
彼らは発表で何かを言っています。既存の持ち分とワラントの間で、非営利組織は「OpenAIの成功の単一最大の長期的受益者となる立場にある」というようなことが書かれています。
これはワラントを説明するOpenAIの発表です。明らかにこれも多くの異なることを意味する可能性があります。彼らが言わなければならないことで公に恥ずかしい思いをするから、もっと言わないのかどうかはわかりません。あるいは、取引の一環として他の投資家からの何らかの約束があって、それを秘密にしておくことになっているのかもしれません。
それが公開されていないのは興味深いです。私たちは彼らにそれを公開するよう求めます。非営利組織のミッションの受益者として、私たち公衆がこれから何を得るのかを正確に理解することが重要だと思います。
繰り返しますが、私は金融の専門家でも経済学者でもありませんが、既存の持ち分とワラントを組み合わせると、ワラントが何であるかによりますが、もしかしたらそれが最初に制定されたときの利益上限の良い近似値になる世界があるかもしれません。その場合、おそらくほとんどの人がその状況に満足するでしょう。そして、それが完全に見せかけで基本的に無意味で無価値である世界もあります。その場合、それは明らかに莫大な盗難です。
公衆からの資源の不正流用ですね。
はい、不正流用です。そしてそれは大きな恥になるでしょう。そして今私たちが知っている限り、私たちの知る限り、判断できません。
これは、十分な情報が公開されていないため、これが公正な金額の補償かどうか言えないと人々が手を挙げなければならなかったものの一つです。司法長官がこれほど関与したという事実は、少なくとも彼らが大幅に安く買い叩かれていないことを確認するための監督があったことを示唆していると思います。
もちろん、これらのことは推定するのが非常に難しいので、もし理事会が異なる形で配置されていて、非営利組織がさらに良い弁護士を代表に持ち、会社の背後にいる人々に対して、さらに良い金融専門家を代表に持っていたら、もっと高い価格を交渉できたかもしれません。
ちなみに、非営利組織は弁護士に加えて投資銀行家や金融の専門家に代表されていたと報じられています。そしてデラウェア州司法長官事務所が取引についてアドバイスするために独自の財務顧問を雇ったと報じられています。ジェニングス司法長官の不服従声明を注意深く読むと、冒頭に「私たちの財務顧問が非営利組織にとって経済的に公正な取引だと言う限りにおいてのみ、これを承認する」というようなことが書かれています。
ですから、少なくとも、受託者責任があると考えている、または司法長官とその結果として公衆の利益を代表していると考え、これを詳しく調べていた真剣な人々がいたという、いくつかの心強い兆候があります。
ですから、ワラントが恥ずかしいほど小さいだけというのは、その文脈では難しいと思いますが、私が望むように上限に近い大きさになるという確信はありません。
可能な最大額ですね。
その通りです。それは交渉の対象です。
それはかなり安心させるものです。私は生まれつき皮肉屋な人間かもしれませんが、ここにはこれから話すように、多くの心強いことがあります。そして司法長官が独立した財務顧問を持っていて、彼らがこれが公正だと考えたという事実は、代替案よりもはるかに良いことです。
最後の本当に重要な変更について教えてください。
慈善活動とAGIガバナンス
おそらく最大の要素は…まだ議論していない二つのことがあり、どちらも重要だと思います。一つはAGI、汎用人工知能のガバナンスであり、もう一つは非営利組織が何をするのかということです。
まず慈善活動から始めます。AGIの部分についてはもっと悲しい話があるので、それについて言うことが少ないと思います。
慈善活動の部分について。OpenAIは歴史的に、助成金交付や伝統的な慈善活動をあまりしてきませんでした。そして先ほど少し議論したように、12月の提案では、AI安全性は非営利組織の今後の慈善活動の優先事項にはならないことが示唆されていました。それはより標準的な企業財団のようなものになり、世界にとって良いことをするが、OpenAIのAGIが人類に利益をもたらすことを確保するというミッションに直接結びついているとは思えないものでした。
そして新しい発表では、二つの異なる分野に250億ドルの投資が行われることが示唆されています。一つは健康と疾病で、これは社会と科学が健康と疾病の問題に対処する能力を加速することを意味すると理解しています。そしてもう一つはAIレジリエンスに対する技術的解決策です。
OpenAIは、サム・アルトマンらが発表のライブストリームで説明したことも含めて、これが何を意味するかについて少し述べています。そこでは、インターネットの初期の無法地帯の時代には存在しなかったインターネット上のセキュリティ層が今あると説明されていました。そしてそれがインターネットをビジネスと相互作用のためのより機能的な場所にしました。そして、AIを社会に統合できるが、人類を支援する方法で統合できるように、社会が持つべきそのような層が必要です。
おそらく私は言い換えているかもしれませんし、いくつか間違っているかもしれませんが、少なくとも12月の発表よりも伝統的なAI安全性の仕事に近いように聞こえます。そして、OpenAIや他の組織が開発しているシステムが、人間の繁栄を支援する方法で社会に実装できることを確保することに、少なくともある程度焦点が当てられることを見るのは心強いです。ですから、これは素晴らしいことだと思います。
それが具体的にどのようなものかはわかりません。そして私が持っていた懸念は、あなたが知っているように、私も大抵の時間かぶっている皮肉屋の帽子をかぶると、非営利組織とPBCの間に本当に十分な独立性があり、非営利組織がAI安全性タイプの研究、またはあなたがその用語を使いたければAIレジリエンス研究を、PBCに商業的打撃を与えることになったとしても、自由に行えると感じられるかということです。
会社に頭痛の種を作ることですね。
その通りです。ですから、その独立性が本当に存在する世界に行き着けば、これは素晴らしいことに思えます。そして私たちがAI安全性で私たちを助ける重要な研究の背後に資金を投入する大きな恩恵になるように思えます。その独立性が存在しない程度においては、おそらくまだ限界的には役立ちますが、望むほどではないかもしれません。
医療研究やバイオメディカル研究に、このお金がすべて一般的な教育や健康プロジェクトに向かうという考えに司法長官が完全に反対したのは、私には全く驚きではありません。それは元々の慈善目的とは何の関係もありませんでした。それは非常に奇妙な結果だったでしょう。
医療研究やバイオメディカル研究のように見えるものを彼らが承認したのは少し驚きです。非常に正当に価値のある目的だと思いますし、そこには本当に大きなインパクトのあることがたくさんありますが、研究を行うためにAIを使用するのでない限り、少し奇妙な適合です。しかし、彼らはそれを通すことを許可しました。
AIと社会的レジリエンスの部分は、明らかに元々の範囲内に適合します。AGIや最終的には超知能を社会に統合して良い結果を確保する方法を考えるという、レジリエンスとリスクと上昇の可能性のすべてのプロジェクト全体を考慮するために、もう少し広い網を投げかけなかったのは少し残念かもしれません。
しかし、もし彼らが望めば、この基盤に基づいてほぼその広いクラスの何でも資金提供できるだろうと私は驚かないでしょうし、誰もが法的に異議を唱える立場を持つとは想像しません。
その通りだと思います。また、これは二つの初期分野への初期の慈善投資の初期発表です。ですから、少なくとも彼らがこれにAIレジリエンスの部分を含めたことは心強いと思いますが、これは下限であって上限ではない、というもう一つのケースです。
そして、彼らがミッションにとって本当に意味のある分野でもっと多くのことをすることを期待できます。もしそうしなければ、私たちは、うまくいけば多くの他の人々と共に、彼らに圧力をかけ、司法長官に圧力をかけさせることになります。私たちがAI安全性の観点から本当に重要だと考える分野でもっと多くのことをするように。
サム・アルトマンの株式とAGIの統治
皮肉主義のポイントについてだけ。OpenAIのCEOであるサム・アルトマンが、公益法人になるにつれて会社の大きな株式を得る可能性があると噂されていました。しかし、彼はそのような株式を得ていません。これが可能性だとフラグを立てましたし、以前のエピソードでそれを笑ったかもしれません。ですから、私たちが間違っていたか、計画が変わったと言うべきです。
人々が彼を素晴らしいテックCEOだと考える限りにおいて、彼はより高い給与を交渉でき、将来会社の株式を交渉できる可能性がありますが、彼は過去の仕事のために、どのような根拠で行うのかわかりませんが、そういう根拠かもしれないので起こっていないのかもしれませんが、大量を手渡されることはありません。
その通りです。正直なところ、それ以上のことは知りません。
しかし、司法長官がAGIが開発されたときの非営利組織の監督とガバナンスの問題について大きく介入しなかった一つの分野があります。それについて教えてください。
はい、企業が以前にどのように機能していたかの説明と、2024年12月の発表の前では、OpenAIがAGIに到達またはAGIを達成することは、多くのことが変わる一種の変曲点であると理解されていました。
彼らがマイクロソフトと最初の取引を交渉したとき、OpenAIがAGIを達成したと発表すると、基本的にマイクロソフトはAGIに関する知的財産権を持たないことになっていました。それは非営利組織によってのみ統治されるものでした。そしてその最初の設定では、全人類に利益をもたらすことの一部は、AGIが安全で人類に害を与えないことを確保することと、AGIが作成された時点でのAGIの使用が、単なる商業的利益のためではなく人類の利益のためになることの両方でした。
12月の発表では、基本的にこれについての言及がなかったと言えると思いますので、今述べているような方法でAGIの保護はないと想定するでしょう。
新しい発表では、非営利組織と司法長官は、過去数分間説明してきた監督権限をまだ持っており、AGI後も含まれます。AGIに到達した後にそれがなくなるわけではありません。しかし、私が見た現在の再編において、AGIを取り上げてそれを非営利組織の管轄に置くという明確な区別はなく、PBCがそれを商業化することを許可するのではなく、部分的にPBCの投資家の利益のために。
ですから、以前の理解がAGIは非営利組織の慈善ミッションの受益者の利益のために、非営利組織内の別個でユニークなものになるということだったのに対して、もはやそうではないようです。AGI後、PBCはまだAGIを商業化でき、おそらく公衆だけでなくPBCの投資家にも利益をもたらす方法で。
そして、マイクロソフトが再編への同意に至った方法についての発表に、いくつかの情報があります。それはマイクロソフトとOpenAIの間の取引の変更を説明しています。私たちはこれについてあまり知りません。明らかに基礎となる文書は持っていませんが、発表ではマイクロソフトが再編後、2032年までAGIへの知的財産権を維持できることを説明しており、OpenAIのPBCがやっていることとは独立してAGIを商業化できることを説明しています。
これは本当に劇的な変化であり、承認された再編のより不愉快または失望的な側面の一つだと思います。本当に、OpenAIの慈善ミッションはAGIが安全で全人類に利益をもたらすことを確保することです。そして、自分が管理していない組織にそれを使用するライセンスを付与しているときに、それがそうであることをどうやって確保できるのか想像するのは難しいです。合意された全体的な管理権はこの損失をある程度和らげるのに役立ちますが、それでも公衆の観点からは大きな損失だと思います。率直に言って、私たちが悲しむべきものです。
再編の評価と今後の課題
要約すると、非営利組織の理事会はAGIが開発されたときにそれを管理する能力を放棄しており、会社の他の直接的な管理支配権の多くも放棄しています。しかし、安全と保障の問題について、ある種の恒久的な予備権限を維持しています。
彼らの財務的利害は、会社が超成功した場合に大量のリターンを得るが、そうでなければあまり得られないというものから、26%の固定持ち分と、成功した場合にはまだ不特定のいくつかのオプションを得るというものに変わりました。そして彼らは今、時間をかけてその財務的持ち分を取引して、これらのさまざまな異なるトピックについて慈善活動を行うことを計画していると思います。
なぜOpenAIは発表でこれらのことをほとんど言及しなかったと思いますか。営利企業が非営利組織の継続的な監督にほぼ即座に抵抗しているのでしょうか。あるいは、投資家にとってこれが顕著でないようにしたいだけかもしれません。投資家は彼らが完全に独立していて非営利組織の監督がないことを望むでしょうから。
一般大衆の観点からは、これらのことの多くは非常に良く望ましいと思いますが、彼らはその話を埋めているように見えます。これは私にとって少し驚きです。
推測することになります。彼らがなぜそれをもっと大きく扱わないことを選んだのか、正確には知りません。
ある意味で、司法長官は自分たちの勝利を宣伝しています。明らかに彼らはOpenAIが最近持っているよりも小さなマイクロフォンを持っています。ですから、この情報を探しに行くことはできます。そして私たちの手紙を見れば、新しいPBCの設立証明書へもリンクしていて、そこで密な企業申請書類を掘り下げたい人なら追加情報を見つけることができます。
しかし、彼らはこれらの義務を、一般大衆に訴えかけようとしているように思わせる方法で宣伝していません。それが一つの見方だと思います。
このポイントをくどくど言いたくはありませんが、司法長官が元の提案に非常に多くの変更を強制したという事実は、私とあなた、そしてこれについて読んで、それがかなり悪い、私たちの慈善法の理解とかなり矛盾していると思った何千人、何百万人もの他の人々が、ある意味正しかったことを示唆していると思います。そして当局がそれを見たとき、彼らは「いいえ、これは違法です。これを承認するのは私たちにとって無責任でしょう」と言いました。
世界で最も強力な存在のいくつかが、一般大衆に誓約されていた数百億、数千億ドルの資源を多かれ少なかれ不正流用したかったにもかかわらず、彼らはそれを成し遂げることができなかったことは心強いと思います。司法長官は「いいえ、これは許されません。何をしているのですか」と言い、ある意味でまだ不公平かもしれないと人々が主張できる取引になりました。実際、かなり不明確だと思います。バランスとして、これらすべてがパッケージとして一種の合理的な変更だと言う人もいるかもしれません。そして何人かの人々がそう主張しています。
しかしいずれにせよ、露骨な不正流用は単純に断固として許可されませんでした。
はい、それは良い見方だと思います。それに加えて言いたいことは、これはある程度スクラッピーな抵抗の力を物語っているということだと思います。これらの問題のそれぞれが司法長官とともに持った顕著性、または司法長官が本当に裕福な相手に対して押し戻すために自分たちの信念の勇気を持つべきだと感じる程度は、わかりません。
それに追加して言いますが、これは公的擁護が物事を良い方向に微調整するツールとしての力を物語っていると思います。そしてこれはAI安全性の人々が心に留めておくべきことだと思います。この作業は本当に重要で、重要なのです。
司法長官は、OpenAIが覚書を履行しているかどうかに細心の注意を払うと述べました。そしてデラウェア州司法長官は報道に対して、「私たちは以前に公益を守るために法廷に行くことを恐れたことはなく、ここでもそうすることを恐れません」と述べました。
基本的にこれが救済策ですか。もしOpenAIがこれの精神または文言を尊重しなければ、司法長官は彼らを裁判所に連れて行き、契約を破ったと言うのでしょうか。
その通りです。彼らは、覚書または不服従声明の違反、またはそれがどのように表現されていても、それが該当する場合は訴える権利を持っていると思います。
そしてジェニングス司法長官は、非営利組織がミッションの受益者に対する特別な受託者責任違反で訴える権限を持っています。ですから、ジェニングス司法長官が非営利組織が安全と保障に関して仕事をしていない、それらの問題が関与する場合のPBCの問題の管理をしていないと感じる程度において、彼女は非営利組織の理事会がその点で仕事をしなかったと主張するために訴えることができます。
ですから、私たちはその監督を持ち続けます。
ここで物事に影響を与えるチャンスを持つ可能性のある他の関係者がいると思います。これらの問題の議論で以前に指摘したことの一つは、PBCのミッションを執行するPBCの株主代表訴訟の報告された事例がなかったということです。それは起こったことがないことですが、理論的には起こり得ることです。そして重要なことに、設立証明書が非営利ミッションが、安全と保障に関しては考慮されるべき唯一のものであることを明確にすることで、ミッションを遵守しなかったことに対するPBCに対する株主代表訴訟がより起こりやすくなると思います。
ミッションを遵守しなかったことに対するPBCに対する株主代表訴訟を効果的なものにするツールとしてより可能にすると思います。
ですから、それが彼らがPBCに関して安全と保障を構造化した方法であり、それを設立証明書に組み込んであり、安全と保障に関しては、ミッションがすべてであり、株主の金銭的利益は重要でなく、他のステークホルダーも重要でないと非常に明確に述べていることで、株主価格よりもミッションを重視するPBC株主からの何らかの押し戻しがより可能になると思います。彼らは、PBCが現在やっていることよりも安全と保障についてもっとやるべきだと主張することを望むでしょう。
司法長官を超えた執行のための少なくともいくつかの道があると思います。
これは、非営利組織が安全保障委員会を持ち、会社が安全と保障の問題について行うことに対して、実際にかなり強力な支配権を持つ排他的権利を持つシステムを設定したという事実を提起します。ですから、ここのカリフォルニアとの合意にはこう書かれています。
SSCは、モデルやAIシステムのリリースの停止を含む、緩和措置を要求する権限を持ち、引き続き持ちます。疑念を避けるために言えば、適用可能なリスク閾値がリリースを許可する場合でさえもです。NFP(非営利組織)は、SSCの権限の重要な変更について司法長官に事前通知を提供します。
ですから、彼らは製品リリースをブロックでき、推測ですが、トレーニングも防ぐことができると思います。もし彼らが何かのトレーニングが危険だと思えば。しかしそれは、おそらく数千億ドルの問題になるということです。考えられるところでは、将来的には数兆ドルです。
この一握りの人々、現在4人の実際の法的権限は何ですか。何が安全と保障の問題としてカウントされますか。より明確になっていますか。彼らは何が安全と保障の問題かを決めるのですか。司法長官が決めるのですか。
少なくとも、ここの司法長官の要件の文言に基づいて、SSC自体、委員会自体が、少なくとも何が自分たちの管轄に入るかを自分たちで決める権利があるという議論があると思います。
それはさらに多くの権限を与えます。SSCにいるそれらの人々が誰であるか、そして彼らがSSCでの仕事をどれほど真剣に受け止めているかがさらに重要になります。
そしてSSCの他の権限について、透明性の欠如によるいくつかの不確実性があります。ですから、2023年9月の取締役会の「全員一致の書面同意」への言及があり、それが現在存在するSSCの権限と権威を概説しています。そして彼らは、「現在存在する方法でこれを持ち続けることになる」と言っています。
ですから、もう一つ、もっと透明性を得ることが素晴らしいと思い、私たちがOpenAIにもっと透明性を提供するよう求めるのは、正確な権限が何かということです。そのUWCはSSCが2024年9月以降持っていた権限と責任について何を言っていますか。なぜなら、それは今後彼らが持つ権限と権威の基準をある程度影響を与えたり設定したりするからです。あなたが司法長官の要件で読んだテキストのおかげで少しは知っていますが、そこのすべての詳細は知りませんし、知るべきだと思います。
この4人のグループは、カーネギーメロンの教授でMLの非常に強力なAI能力と理解を持ち、実際の安全と保障の研究を行っているアカデミック、ジコ・コルター。OpenAIの主要顧客でもあるPoeを運営していると思われるQuoraの共同創設者、アダム・ダンジェロ。特にサイバーセキュリティに焦点を当てた退役米軍将軍、ポール・ナカソネ。そして長年にわたりソニーの社長を務め、他のいくつかの会社でも主要な人物だったニコール・セリグマンです。
これらは信じられないほど強力な人々です。少なくともAGIとOpenAIに関しては。そして、彼らが安全と保障が何であるかを定義する完全な裁量を持っていると言っているなら、OpenAIのリリースに対して彼らが課すことができる制約にはほとんど限界がないという意味があります。少なくとも。
同時に、彼らが紙の上では非常に強力である一方で、OpenAIが非常に強力なAIモデルのトレーニングや展開を妨げることを思いとどまらせるために働く力があまりにも大きいかもしれないという懸念があるかもしれません。特にマイクロソフトが何千億ドルをこれに投じている場合。彼らは株主価値を積極的に追求することで知られています。それを説明する丁寧な方法かもしれません。
全体としてどう思いますか。SSCは権限が過大ですか、それとも実際には少し脇に追いやられる可能性があると思いますか。
それは人々と、これらの役割で彼らがどれだけうまく機能するかに大きく依存すると思います。彼らはここで多くの権限を持ち、多くの支配権を行使できるように設定されていると思います。しかしそれは彼らに与えられた権限であり、必ずしも彼らがその権限で何をするかを決定するわけではありません。
あなたの指摘の通り、これは本当にこれらの人々の多くを必要とすると思います。変革的AIを信じ、OpenAIが変革的AIのようなものに到達することでリードしていると信じているなら、ジコ・コルターは突然非常に多くの権限をその文脈で持つことになります。
そして彼がそれをどのように使うかは、OpenAIでの物事の進展にとって、そして彼らがすべての人にとっての物事の進展を支配する限りにおいて、すべての人にとっての物事の進展にとって、本当に重要になるでしょう。
私の夢の理想の世界では、このグループにたまたま私のすべての意見に同意する4人を入れたりするでしょう。しかし、私たちが住んでいる現実の世界では、人々はあらゆる種類の異なる意見を持っており、ロバート・ウィブリンのランダムな意見を反映するだけでなく、良い決定を下すことができる関連する専門知識を持つ立派な人々を選びたいのです。それほど悪い人々のリストではありません。
MLの本当に深い理解を持つアカデミックがいます。長年にわたってOpenAIでの経験を持つ人がいます。アダムは長い間理事会にいて、テック業界での経験があると思います。軍事政府の経験を持ち、特に焦点としてサイバーセキュリティ問題の理解を持つ人がいて、それはAIに非常に関連するものです。そして深い企業と法的経験を持つ人がいます。
かなり補完的です。これらの人々の誰も、安全と保障について非常に心配しているとも、それを軽視しているとも記録にありません。彼らはおそらく全員、安全と保障の懸念がどれほど深刻かについて説得される余地があります。ですから、ある意味で彼らはかなりよく設定されています。OpenAIに介入しないことを本当に望む人々がいるという事実を除いて。
その通りです。そしてフラグを立てるだけですが、サム・アルトマンは最初に委員会が形成されたときにその委員会に座っていましたが、その後辞任しました。それは良いことだと思います。その委員会が大部分において彼の権力に対するチェックになるので、彼がその委員会にいないことは本当に重要だと思います。ですから、それは本当に重要です。
そしてあなたが正しいと思います。より良いチームを夢見ることは確かにできますが、これがかなり良いものだと考えるのは決して狂っていません。そしてそれは本当に難しい仕事になるでしょう。
私たちが注目する一つは、彼らはどのように自分たちを支援しているかということです。SSCを支援するスタッフがいるのでしょうか、それともこれは本当に4人のボランティア企業取締役の義務になるのでしょうか。それは私にとってここでの大きな失敗モードだと思います。
ですから、それは私たちが注目する大きなことです。彼らはどれほど積極的に自己主張しているか。そして、彼らは介入して決定を助けているときに、それを公開し、透明にしているか。これらすべてが重要です。
もし彼らが安全保障委員会の仕事を支援するために、OpenAIで何が起こっているかを追跡し、何を要求すべきかそうでないかについて推奨を行う、数十人の補助技術顧問やスタッフを雇えば、それは仕事に対して全く過剰だとは感じないでしょう。それは非常に大きく非常に重要な仕事です。もしあなたがOpenAIが大きな取引だと信じているなら、これらの人々全員がそうだと想像します。
彼らがスタッフを増やして、彼らが得た、または持ち分の一部を清算することによって持つことを計画しているお金を使って必要なサポートを雇うかどうかについて、何も言っていません。ですから、それは単に4人のボランティアに課せられることではありません。
これに直接結びついていないが重要な要素があります。司法長官が要求している要件を見ると、非営利組織がミッションを果たすためにPBCのどのリソースを要求できるかについて話しているセクションがあります。それはもちろん、非営利組織の理事会の委員会であるこのSSCの仕事を含みます。
ジェニングス司法長官の不服従声明の11番を見ると、私が思うにTBD文書である「サポートとサービス契約」への言及があります。これは企業合併などでかなり一般的な文書ですが、それはPBCと非営利組織の間のサポートとサービス契約について話しており、基本的に非営利組織に、非営利組織の仕事をするため、つまりPBCの監督を含む目的で、PBCのリソースへのアクセスを与えます。
ですから、その仕事を支援するために雇用できる可能性に加えて、そのサポートとサービス契約に規定があるはずです。繰り返しますが、私たちはアクセスできないので詳細は知りませんが、少なくとも理論的には、SSCは情報権と…
ですから今、SSCの議長であるジコ・コルターは、PBCの理事会には座っていません。彼は非営利組織の理事会にのみ座っています。しかし司法長官の要件は、彼にPBCの理事会でのオブザーバーステータスの権利を与え、PBCの理事会が得るすべての情報にアクセスできます。
ですから、SSCの議長として決定を下すとき、彼はそのすべての情報にアクセスできます。もちろん、SSCの他のメンバーは両方の理事会に座っているので、ある定義によれば、彼らはすでにその情報にアクセスできます。
しかし明らかでない重要なことだと思いますが、これを解析していない場合、サポートとサービス契約は理論的にSSCにPBC経由でリソースを与えるはずです。ですから、彼らは「あなた、PBC従業員、SSCで私たちの仕事を支援するためにPBCを監督するために来る必要がある。これらのモデルへのアクセス、この計算へのアクセスが、私たちの仕事をするために必要だ」と言うことができます。そしてSSAの条件が何であるかによって、少なくとも理論的には、新しいスタッフを雇いに行く必要のないSSCのリソース提供があります。
ですから、もし彼らが介入したい、または彼らが積極的になりたい、そして何かについて深く懸念している場合、PPCが彼らをどんな方法でも軽視するのは難しいだろうということを意味します。
その通りです。しかし繰り返しますが、これらすべては、SSCに座っている人々のイニシアチブと、あなたが言ったように、腹の据わった勇気に依存します。私が思うに、これは本当に意味のある形でここに根拠を置くものです。彼らは権限へのアクセスを与えられますが、その後その権限を行使し、そのアクセスをつかむのは彼ら次第です。
これは12ヶ月または18ヶ月前に持っていた現状と比較して良い結果ですか。視聴者の誰かが送ってきたコメントを読みます。実際にはOKだけでなく、これは改善かもしれないという主張をしています。
以前の構造は紙の上では名目上より良かった。非営利組織は理論的には包括的な支配権を持っていたが、実際には幻想だった。OpenAIは長年伝統的なテック企業のように機能しており、非営利組織の「支配権」は誰もが信じるふりをやめたフィクションだった。
新しい構造はおそらく現実により良く一致しており、それはまた意図的に合意されている。非営利組織は技術的にはより少ない権限を持っているが、逆説的に人々は今やその権限と責任をより真剣に受け止めるかもしれない。少なくとも、司法長官はOpenAIを監督することが彼らの責任であり、モデルの安全性が最も重要であり、モデルのリリースを停止する必要さえあるかもしれないということを追跡している。一方、おそらく彼らは以前、たとえすべきだったとしても、これに本当に注意を払っていなかった。
それについてどう思いますか。
それは狂った反応ではありません。OpenAIが長年伝統的なテック企業のように機能しており、誰もそれを気にしなかったという部分が真実でない世界に住んでいればいいのにと思います。しかし、願っても現実にはなりません。
ですから、もし2024年12月の発表を基準とするなら、それはとにかく起こっていたことの単なる成文化のようなものだったとするなら、つまりOpenAIが何らかの奇妙な方法で非営利組織が付属した営利企業のように振る舞っていただけだったとするなら、結果はそれよりもずっと良いと思います。
それは比較のための基準が何かによると思います。比較のための基準が2015年に設立されたときにOpenAIがあるべきだった理想的な見方であるなら、これはある意味で大惨事だと思います。私たち公衆として、OpenAIが常にあるべきだったより良いバージョンの自分自身であったなら持っていたはずのものの多くを失っただけです。
しかし、その状況の説明は私たちが今持っている現実の多くを反映していると思います。それは、1年前に司法長官が注意を払っているのか、本当に「私たちは公益慈善団体の規制当局であり、OpenAIは私たちが規制すべき公益慈善団体だ」という観点からOpenAIを全く見ていたのかが不明確だったということです。
そして今、彼らは間違いなくそうしています。注目しているだけでなく、その規制を複数の方法で主張するために会社に持っている非常に具体的なフックを示しました。
ですから、ある程度、基準として既存の現状を取れば、この再編が物事を良くする少なくともまともな議論があると思います。彼らが12月の発表で計画していたことを基準として取るなら、それは確かにより良い世界です。それについては疑いの余地がありません。そして、少なくともその発表以前よりも良い世界にいるという合理的な議論があると思います。
再編の理想と現実
当初の提案と比べれば雲泥の差です。これが現実的なビジョン、つまりOpenAIが少し異なる軌道で何になれたかのよりも、考えられる限りさらに良いかもしれないという主張を補強しましょう。
OpenAIの理事会にいて、安全保障委員会、SSCに信頼を持っているとしましょう。彼らは実際に立ち上がり、積極的に仕事をし、OpenAIが何をしているかに大きな関心を持ちます。そして、OpenAIが無責任なことをしている限りにおいて、彼らは止めなければならないと伝え、物事が承認される前にさまざまな緩和策に投資しなければならないと伝えます。
ですから、あなたはSSCが実際に良い取り決めだと考えます。人々を信頼しているから、プロセスを信頼しているからかもしれません。
それなら、おそらくOpenAIは異なる会社の中で最良の賭けだと考えるかもしれません。Googleは同等のものを持っていますか。これはGoogleが直面しているものよりも強力な一連の制約かもしれません。おそらくあなたはこれがAnthropicよりも良いと主張するのはより難しいケースを持つでしょう。
しかし、Anthropicが技術的にリリースをブロックできる4人の半独立した人々を持っているかどうかさえ知りません。彼らはそのようなものを持っているかもしれないと思いますが、それでもこれがより良いプロセスだと考えるかもしれません。そして確かに、これはxAIよりも良いと考えるかもしれません。xAIはこれらの問題に対して非常に多くの関心を示していません。
それなら、「私はOpenAIがフロンティアAI企業であってほしい。なぜなら、私たちが他の人と同じくらい良い仕事をすることを信頼しているから、おそらくより良いかもしれない。」となります。
その場合、非営利組織がAGIが開発されたときに無期限にAGIの支配権を保持すること、営利投資家がその状況で多少脇に追いやられることを主張するのは、このビジネスビジョンを追求するために必要な数千億、おそらく将来的には数兆ドルの投資レベルを引き付けたい場合、非現実的な要求かもしれません。
おそらくそれは得られればいいものです。しかしそれをすれば、おそらく遅れをとることになるでしょう。なぜなら、それはすべてのこれらの投資家が飲み込むには単に過剰な要求だからです。
ですから、あなたは最も重要だった狭い一連の問題について支配権を保持し、他のいくつかの領域では支配権を緩和し、AGIも利益のために使用されると言ったこの種の中間地点を受け入れます。そして、安全保障委員会がそれを承認する限りにおいて、それは許容できる、おそらく良いことさえあります。
ですから、これは、OpenAIに停止するよう伝えることができる人々のグループを持ちながら、OpenAIを競争力のあるものにし続ける最良の中間地点のようなものです。
それについてどう思いますか。
はい、そこに置いたいくつかの条件を真実として受け取れば、OpenAIがこのより良い安全性の設定を持っていると受け取り、ここでAGIに到達する複数のAI企業がいる限りにおいて、彼らがより責任あるアクターになることを受け取れば、それは狂っていません。おそらく、タレントを雇い、必要な投資を得るために競争し続けることができるために、AGIの排他的ガバナンスを取引することは公正な取引かもしれません。
それに対する私の反論はある程度、彼らは既存の資本構造の下で投資を得たりタレントを得たりするのにあまり困難を抱えていなかったように思えたということです。そして、それが彼らが遭遇し始めていた摩擦だったと彼らは公に言っています。
私はそれが実際に真実かどうかを評価するために必要な情報を持っていません。
ですから、ある程度、あなたが今提示した補強版が意味を成すかどうかの根底にある経験的な質問があります。そしてそれはおそらく私たちが真相に到達するためのデータを持っていない経験的な質問だと思います。
しかしそれは狂っていません。あなたが視聴者メンバーの状況の説明を読み上げたとき、私が言ったように、それはかなり合理的な見方だと思います。完全に不合理だとは思えません。
そのストーリーに完全には賛同しません。なぜなら、最終的に、OpenAIがより安全で責任あるAI企業だとは本当には信じていないか、Anthropicよりも責任あるAI企業であることを証明したとは思わないからです。
そしておそらくおそらくGoogleよりもではありません。おそらくそれらの二つの後ろにかなりランク付けするでしょう。
しかし、もしあなたが内部にいて、これまでのところ波乱に満ちた歴史を持っているかもしれないが、ここからより良い上昇軌道にあると考えられるなら。これらすべてに再びコミットし、バランスがどこで取られるかを決定しました…
つまり、この間ずっと私はOpenAIでの企業策略について多くの批判的なことを言ってきましたが、それにもかかわらず彼らは素晴らしい安全性、保障性、整合性の研究のいくつかを出し続けています。彼らはゲームで最高の人々の何人かをそこに持っています。彼らはモデル仕様、それらが何になり得るか、将来どのように発展すべきか、その種のことについて透明性を持つことについて、モデルに革新し続けています。
Anthropicとは異なるアプローチを持っていると思いますが、それには長所と短所がありますが、真剣な人々がOpenAIのアプローチについて言うべきことがたくさんあると考えています。
過去には非常に強力なガバナンスと政策チームを持っており、まだそこに素晴らしい人々がいて興味深い仕事を出しています。そして彼らはリリース前にモデルの検査を行い、欺瞞的行動を調べるために第三者へのアクセスを提供しています。
リリース前にOpenAIのモデルで研究をしていた外部監査人とのエピソードが近々あります。
ですから、技術的な面では、実質的に良いことが進行しており、理事会がそれを倍増させたいと言い、「私たちはそれが組織のさらに大きな部分になることを望んでおり、確かにそれを減らしたくない。そしてそれは、私たちが実際に深刻な種類のシステミックハザードをもたらす可能性のあるモデルに近づくにつれて、リスクに比例して成長すべきだ。おそらく現在のモデルはそうではない」と言うことは素晴らしいことです。それが彼らの頭の中で起こっていることだと想像します。
私のこれに対する個人的な見解は、おそらく今あなたと私が言っていることよりもOpenAIについてもっと皮肉的だと思います。ですから、もし私次第だったら、OpenAIに最初から意図されていたものであることを強制することが、今持っているものよりも世界にとってより良い結果だったと本当に思います。それが私の個人的な見解です。
そして、私は自分自身のためだけに話しています。ページ・ヘドリーやEncodeの人々や、Not for Private Gainに関わっている他の誰のためでもありません。これはただ私、タイラーです。それが私の見解ですが、それは主に過去18ヶ月ほどのOpenAIがどのように変化したか、そして私が彼らをどう見ているかという私の認識によって色付けされています。
これについて章と節を説明できますが、おそらく話題から外れていて、多くの時間がかかるでしょう。しかし、それが私の簡単な見解です。OpenAIのミッションは、AGIが安全で全人類に利益をもたらすことを確保することです。AGIに最初に到達することではありません。
ですから、彼らが最初であることによってのみそれを確保できると決定した限りにおいて、その見方に同意するかどうかわかりません。そしてそれが私がこの質問で根拠を置くところだと思います。
元のビジョンは本当に素晴らしいものでした。OpenAIがおそらくなったであろうこと、おそらく異なるタイムラインでなり得たであろうことの理想と競争するのは難しいです。
それは素晴らしいですが、おそらくナイーブでもあります。ですから、これは必然性か何かだったかもしれません。わかりません。
記事であなたが最も印象的なことの一つは、非営利組織がAGIが開発されたときにAGIの排他的支配権をもはや持たないことが「痛ましい損失」だと言っていることです。
これが非常に悪い結果、私たちが本当に懸念すべきものだという主張は何ですか。そしてそれほど重要ではない、あるいはそれを維持することは現実的でなかったという主張は何ですか。
これらの両方の角度への答えの多くは、AGIが何を意味するかによります。そしてそれは明らかに激しく議論され争われている用語です。
AGIが真に変革的なAI、「将来のお金の意味は何か?」という意味での変革的なものを意味する限りにおいて、OpenAIの設立ミッションの一部は、その力を利益動機に駆動された組織の外に保つことだったと思います。
私たちはこれを痛ましい損失として話しています。なぜなら、これは組織の核心にあったものが今失われたからです。OpenAI全体のポイントは、AGIを開発し支配する人が誰であっても、利益駆動型の組織ではないことを確保することであり、それは今なくなりました。ですから、これが本当の損失だと思います。
それが将来に何を意味するか、PBCは少なくともAGIに関する決定を行う際にその公益ミッションを考慮することを要求されます。マイクロソフトは2032年までライセンスを持ち続けると想定していますが、今からその間にAGIに到達すると仮定して。しかし、それは非排他的ライセンスだと仮定します。ですから、PBCがAGIで良いことをする権利を奪うわけではありません。
ですから、繰り返しますが、PBCの経営に帰着すると思います。ここでOpenAIが設立で解決しようとしていた可能性のある一つの問題は、AGIを、株主価値の最大化を要求される組織の権力に持つこと、それがその結果を非常にひどいものにする核心の不整合だったことです。それをPBCに置くことで、少なくともPBCの経営に株主価値だけに集中しない選択肢を与えます。彼らは少なくともミッションに焦点を当てる選択肢を持っています。そしてPBCのミッションは繰り返しますが非営利組織のミッションです。
ですからそれは損失です。それがどの程度の損失であるかはまだわかりませんし、AGIに到達し、その世界に生きて、PBCがその世界での権利と責任にどう対応するかを見るまで、わかりません。
難しい問題です。ほとんどの人がこの時点で、OpenAIの元々の動機づけとなった動機が、GoogleがAGIを最初に開発する見通しに対するアルトマンやマスクや他の人々の懸念だったことを知っていると想像します。そして、それが自分たちでないことへの恐怖とGoogleが単なる営利企業であることの組み合わせだったと思います。
これらの組織はすべて独自の文化と動機の混合を持っていますが、根本的には株主に価値を提供するために存在する公開所有の企業であり、AGIの力を考えるとそれは本当に彼らを懸念させました。
AGIがすぐに超知能に進み、お金の価値がどうなるかわからない世界を変革するものであると考える人々にとって、この損失はその図において非常に大きく浮かび上がります。非営利組織がその段階で介入して「これは公益のために使用されなければならない」と言うことができなくなるという点で、何らかの権力掌握や、膨大な富を少数の手に集中させるのではなく。
より漸進主義的な絵を持つ人々もいて、AGIの周りに特定の瞬間はないと考えています。それは経済を通じて普及し、人々がますます多くのことにそれを使用するにつれて、徐々にもっと消費者余剰を提供する製品になるだけです。そして徐々におそらく人々は仕事で働かなくなるでしょうが、うまくいけば利益が非常に広く分散されるので、誰もがお金を貯めていなければ生計を立てる方法が不明確になる恐ろしい瞬間は決して来ないでしょう。
そのキャンプの人々にとって、おそらく利益がどのように普及するかは明確です。それは公衆に販売されている製品を通じて、それが行うすべての研究から来るすべての利益を通じてです。ですから、この損失はそこではおそらくそれほど痛ましく見えないでしょう。
なぜなら、ある特定のレベルの能力に到達する時点で非営利組織が大きな方法で介入しなければならなかったことは明確ではなかったでしょうから。
少なくともそれは、人々がこれがどれほど大きな取引かについてどのように異なる意見を持つことができるか、そしてなぜこれについてどれだけ泣くべきかがある種不確かだと私が考えるかの私の図です。
同じです。あなたは本当にうまく説明したと思います。そして、ここで注意を払っているほとんどの人々は、おそらくあなたが述べた世界Aに何らかの重要でない確率質量を持っており、残りの確率質量はあなたが述べた世界B、つまり漸進主義的な世界の何らかのバージョンに持っていると思います。
ですから、それについてどう感じるかは、それが最終的にどう展開するかに依存しています。
しかし、物事の急速な変革バージョンに十分な確率質量があるので、私個人にとっては痛いです。本当にそうです。これは深刻な損失だと思います。
利益の分配と理想からの乖離
もう一つの側面は、もう一つの動機が、常に話されていたことが、利益を広く分配する必要性でした。これはしばしば利益を広く分配することと解釈されていましたが、明らかに人々が超知能機械を持った後に仕事を見つけるのが難しくなる可能性があることを考えると、これらすべてのお金がごく少数の投資家の手に集中しないことを確保することでした。
一部の人々にとって、それはまだ非営利組織が果たすと想像する役割の大きな部分です。私を含む他の人々にとって、それはしばらくの間やや非現実的に思えていました。そこで良い結果を得るつもりなら、それは政府が利益を広く普及させることに関心を持ち続け、この技術を開発する組織に課税して分配するからだと思います。なぜなら、最終的に、人々がOpenAIの非営利組織からの慈善に頼って生き残ったり請求書を支払ったりすることを本当に望むかどうかさえわからないからです。
その限りにおいてそれを放棄したなら、おそらく非営利組織がそれが存在する時点で超知能の手段を掌握するかどうかについて、再び心配が少なくなるでしょう。
はい、あなたの期待がUBIを得る唯一の方法が文字通りOpenAI財団か何かからの小切手であるなら、これは悪い取引のように思えます。
しかし、利益の見方がそれほど直接的でなく、もっと分散したものであるなら、おそらくこれはそれほど困難に思えません。そして、あなたは私の個人的な見解をかなり正確に説明したと思うので、それを単に繰り返すことはしません。しかし、それも私の考え方です。
ですから、当初12月に提案されたことからの巨大な改善について私たちが言ってきたすべてにもかかわらず、あなたはこの記事で、根本的にはOpenAIの慈善ミッションの違反だと考えていると述べています。それを説明していただけますか。
はい。OpenAIの慈善ミッションは、AGIが全人類に利益をもたらすことを確保することです。2019年の時期の初期再編の際、AGIが全人類に利益をもたらすことを確保するという目的のための手段である限りにおいてのみ、利益を許可するよう苦労しました。
この再編を、ある程度、それらの利益を手段ではなく目的そのものに変えるものと見ることができると思います。そしてそれは、私たちの見解では、少なくとも私の見解では、組織の慈善ミッションが従うべきものと矛盾していると思います。
ですから、はい、理想的な基準、最良の世界の基準と比較すると、悪い取引だと思います。
OpenAIが設立時にあるべきだったこと、それがなることを目指していると言ったことと比較して。
はい。12月の発表に基準を移すことは簡単だと思います。そしてそれは戦略的だったかもしれませんよね。本当に皮肉な帽子をかぶると、彼らは12月に開始提案を出して、誰もがそれに焦点を当て、それに対して期待をリセットするようにしたので、私たちは10ヶ月後かそこらのこのようなポッドキャストで勝利を主張できるのです。それが真実かどうかはわかりませんが、想像できます。
ですから、OpenAIはこの再編されたバージョンのOpenAIよりも良くあるべきだったということを明確にすることが重要だと思います。そして、ミッションの精神が全体を通じて守られていたなら、この取引は今よりもはるかにミッション寄りに見えるだろうと思います。
司法長官がさらに強硬にならなかった理由
司法長官が、非営利組織にそのミッションと一致することのみを行わせるためにかなり自由な裁量を持っていることを考えると、なぜ彼らはさらに強く押さなかったと思いますか。あなたが提案したであろうよりも多くの譲歩をしたと思いますか。
つまり、私たちは完璧な世界に住んでいません。これは交渉でした。司法長官は、少なくともカリフォルニア州とデラウェア州では、有権者によって選出される公務員です。ですから、それは何かだったかもしれません。政治的圧力はここでもある程度重要でした。
つまり、あなたは文字通り史上最も価値のある民間企業を扱っています。それ自体で莫大な圧力を及ぼし、多くの権力を持っています。
マイクロソフトのことを話しているのですか。
いえ、OpenAIのことを話していました。マイクロソフトもまた信じられないほど強力な公開企業で、ここでも莫大な圧力を及ぼしています。
報道には少なくとも、カリフォルニア州当局が実際に、ここで望む取引を得られなければカリフォルニアを去るというOpenAIからの暗黙の脅威を信じたという推測があります。
ですから、大きな交渉の一部である多くの動く部品があります。そして、司法長官は状況の下で得られる最良の取引を得たと感じていると想定します。
リアルポリティクスから離れて、何がミッションに最も奉仕するかという基準を使うと、最良の取引だったとは思いません。
ですから、司法長官が彼らが行った取引をすることにつながった圧力について説明したい場合は、それは司法長官に任せます。そしてこれをすべて司法長官についてのものにしたくありません。
つまり、あなたが言ったように、極めて関与している巨大な公開企業、史上最も価値のある民間企業、そしておそらく異なる有権者と潜在的に異なる推進要因を持つ二つの異なる州の司法長官、そして外側からスナイプする公的擁護者との複雑な交渉です。複雑な状況です。
ですから、12月の基準と比較して素晴らしい取引だと言うのは簡単です。現状と比較して素晴らしい取引だと言うのはより難しいです。そして、OpenAIがあるべきだったものと比較すると、単に悪い取引だと言うのは簡単だと思います。
現在の理事会構成と利益相反
他の興味深い側面としては、現在、非営利組織の理事会とPBCの理事会は同じ人々です。一つの例外を除いて、ジコ・コルターはPBCの理事会にはいません。
本当に奇妙です。なぜなら、彼らは別々の組織で、一方が他方を管理し、そこに人々を任命していますが、基本的に同じ人々のリストです。それは良いことでしょうか、同じ人々がPBCの理事会にいることで非営利組織の支配権を効果的に提供しているから。それとも悪いことでしょうか、彼らは今、異なる方法で投票することになっている、ほぼ同じ名前の組織を扱うこれら二つの異なる役割で、これらの完全に異なる帽子をかぶることを要求されているから。
これをどう理解すればいいですか。
理解するのは難しいと思います。まず第一に、このような企業ファミリーの一部である理事会に大きな重複があることは珍しくありません。ですから、この時点で彼らが基本的に同じ人々であることは完全に異常だとか何かではありません。
これは再び、それらの人々がどの時点でどの帽子をかぶっているべきかを認識し、かぶっている帽子に応じて異なる受託者責任を真剣に受け止め、それらの受託者責任からの義務に関して本当の誠実さを持って行動することにどれだけ優れているかに帰着します。そしてそれは人々に依存するだけです。
これが良いことか悪いことかと尋ねました。それは、それらの人々が自分たちの義務をどのように果たすかによって良いか悪いかだと思います。
もし彼らが本当にそれについて真剣で、非常に真剣に受け止め、人類に対する受託者責任を持つ非営利組織の理事会メンバーとしての役割を本当に真剣に受け止めているなら、それは大丈夫かもしれません。なぜなら、繰り返しますが、非営利組織が考えるPBCがすべきXYZを行うべきだという決定を下しているのは文字通り同じ人々であるという意味で、摩擦が少ないからです。
そして、もし彼らがそれについてPBCの経営陣と対立があれば、「見てください、私は今非営利組織の帽子をかぶっています。PBCの安全と保障の決定に対する権限を持っており、今その権限を行使しています。あなたは私に何をすべきか言えません」と言うことができます。
そして、もし彼らがその種の勇気とその種の誠実さを持っているなら、それは良いように思えます。
しかし、私が見るところ、それは本当に難しいだろうと思います。たとえこれらの人々が、非常に真剣で、良い資格を持ち、確実に、思慮深い人々であるとしても、この仕事をうまくやることは本当に難しいだろうと思います。これらの時には競合する受託者責任のバランスを取り、それを効果的に本当に管理することは。
本当にそれは誰であるかに大きく依存すると思います。
もし再編前に私にここでの最適な結果が何だと思うかと尋ねていたら、いくらかの重複があるが、過半数が重複しないと言っていたでしょう。ですから、今設定されている方法は、非営利組織の少なくとも二人の取締役がPBCの取締役でもないことになります。
もし何かあるなら、おそらく私はその逆のようなものを主張していたでしょう。つまり、二人のような重複があり、それ以外は理事会に独立した人々がいるということです。
そうはなりませんでした。繰り返しますが、これは私が自分自身のために話しています。私たちの連合の他の人々がこの質問にどう答えるかはわかりませんが、それが私の個人的な見解です。
非営利組織がPBCの理事会のメンバーを任命および解任できるが、営利投資家も3分の2の過半数があれば理事会のメンバーを解任できるという事実は、将来的にクレイジーな状況を作り出す可能性があります。非営利組織が非営利組織の慈善ミッションを追求する人々を理事会に任命しようとし続ける一方で、営利投資家が、もし彼らの利益が非営利組織が望むことと根本的に異なると見なせば、彼らが任命しているのと同じくらい早く彼らを解任するでしょう。彼らが非営利組織の目標を忠実に追求すると信じる限りにおいて。
奇妙な中間地点の設定です。実際にはそれを見ることはないと思います。交渉された中間地点を見るでしょうが、確実です。しかし、それはすべてが配置されている方法の矛盾を物語っています。
それにはいくらかのチェックがあります。目の前に正確な文言はありませんが、私の理解では、PBCの取締役を解任する株主の能力は、任意の年にPBCの理事会の3分の1に制限されています。ですから、彼らは非営利組織が任命した人々を絶えず解任することはできません。その権限を賢明に使わなければなりません。
その権限に対するもう一つのチェックは、少なくとも今のところ、非営利組織が普通株式の26%を保有しているという事実です。ですから、普通株式の3分の2を得るためには、非営利組織はおそらく彼らがPBCの理事会に選出した人物を維持するために26%を投票するでしょう。
ですから、反対側にすでに26%がステークされているときに3分の2に到達するのは非常に困難なことです。そして、あなたはPBCのすべての株式の株主投票を呼びかけることについて話していて、それには再編の結果として株式を得たすべての従業員が含まれます。
これは交渉された規定のように思えます。そして私は完全に推測していますが、マイクロソフトがその交渉に何か関係があったと推測します。
ですから、彼らが完全にひどいと見なし、すべての他の株主を彼らの後ろに付けることができると確信していれば、株主が任命された取締役を解任する何らかの権限が少なくともあります。しかし、株主投票を呼びかけるのはかなり複雑です。3分の2に到達するためにすべての株主を誘導するのは本当に難しいでしょう。
多くの注目を集めるでしょう。
はい、その通りです。一方、非営利組織の任命および解任の権限は、基本的に非営利組織での理事会投票であり、PBCでの株主投票よりもはるかに管理しやすいです。
ですから、PBCの理事会を支配する非営利組織の権限に関する興味深い脚注です。しかし私の見解では、その行使に対するチェックを考えると、それは見出しであるべきではありません。脚注ではないかもしれませんが、見出しであるべきではないと思います。
記事の本文にあるだけだと思います。
はい。
先ほど、非営利組織の理事会メンバーの多くがOpenAIに間接的に金銭的にさらされているという奇妙さについて言及しました。
サム・アルトマンは明らかにCEOとして完全には独立していません。会社の株式を所有していなくても。彼はOpenAIと物を売買する多くのビジネスを所有しています。
ブレット・テイラーがいます。彼は主要なビジネスがOpenAIを含む開発者からのAIモデルへのアクセスを販売することを含む数十億ドルのAIスタートアップを持っています。
アデバヨ・オグンレシがいます。彼は20億ドルの純資産を持っています。その多くはエネルギーと電力部門にあります。特に彼の仕事で、AI ブームから莫大な利益を得ることを期待しているとほぼ述べている投資ファンドを監督していると思います。それは明らかに多くのエネルギー需要を押し上げています。
アダム・ダンジェロはOpenAIの別の主要顧客であるスタートアップの創設者です。過去には人々が彼がビジネスに敵対することを恐れているのではないかと推測していました。ただし、彼は2023年11月にサム・アルトマンを解任する投票をしたと思います。そして、OpenAIのモデルを再販売する会社Poeはまだ続いているようです。ですから、観察するのは興味深いです。
そして、理事会を去ったフィジ・シモがいますが、誰もが彼らのアプリケーションプロジェクトのCEOとしてOpenAIで非常に高給の役割に就いたと疑っています。
ですから全体として、多くの…これらのいくつかは必ずしも失格とは言えないでしょう。資格のある人々を得るには、多くの人がOpenAIに対する何らかの間接的な露出を持つでしょう。テック業界の人々を得たい場合、またはインフラで働く誰かを望む場合、OpenAIに対する露出が全くない人を得るのはある種困難かもしれません。
しかし、これらはOpenAIとの個人的および他の職業生活における非常に意味のある相互作用です。
司法長官が、独立性に関する彼らが持っている独立性が何を意味するかについてより具体的な言語があると言いましたが、「これは私たちにとって十分な独立性ではない。もっと独立した人々を任命してほしい」と言っているのを見ることができますか。
それが起こっているのを見ることができたでしょう。明らかにそれは起こりませんでした。
つまり、彼らは過半数の独立性を要求しました。そしてあなたが言うように、サム・アルトマンは会社の幹部および従業員としての役割を持っているので、明らかに独立していません。
これらの他の深刻な潜在的利益相反は、司法長官がおそらく、しばしば利益相反があるものとして見ている種類のものだと思います。審議して理事会で決定を下す際にそれらの利益相反を開示し、全員がそれらが何であるかを理解し、もし理事会の残りが利益相反のためにあなたが決定から除外される必要があると感じるなら、それを行うことができる限り。
この種の、伝統的な意味でのその言葉の明確な独立性の欠如ではない利益相反の周りで行われる、伝統的な企業ガバナンスのダンスのようなものがあります。
ですから、司法長官はおそらくそのレンズを通してこれを見ているだけだと思います。この種の利益相反を扱う方法は、伝統的な企業ガバナンスの枠組みを通してです。
これは明らかに特殊なケースです。少なくとも私にとっては、それが特殊なケースであることは明らかです。司法長官もおそらくこれを特殊なケースと見なしていると思います。ですから、ある意味で、これらの伝統的な企業ガバナンスアプローチをここに適用することはおそらく十分ではないと思います。
そしてある程度、司法長官がそれの何らかの感覚を持っていたことを見ることができると思います。なぜなら、言語、私がちょうど今あなたが話している間に引き上げたものは、これらの独立取締役が「従業員または経営陣のメンバーではなく、PBC理事会の判断において、それ自体が問題かもしれないかどうかについて話すことができますが、彼らの判断を損なう可能性のある関係または利益を持たない。強力で客観的な監督を確保し、説明責任とミッションの整合性を強化する」と述べています。
ですから、司法長官が少なくとも伝統的な意味での独立性の定義を何かに拡大したように思えます。あなたが列挙した種類の利益相反を通じて、ミッションを果たす際の彼らの判断に影響を与えたり損なったりすると見なされる可能性がある範囲で。非営利組織のミッションまたはPBCのミッションを果たす際の彼らの判断に影響を与えたり損なったりする可能性がある。
あなたが知っているように、司法長官がこの状況でOpenAIが要求するかもしれないよりも多くの独立性を要求するために介入する少なくともいくらかの道があります。
もっと独立した、その用語の口語的な意味での、人々が関与していることを望みます。これらの人々の多くが、OpenAIが商業企業として何をするかしないかに個人の富の多くを結びつけているということを示すために公に利用可能な情報を引き出すことができるのは悪いことだと思います。
それは悪いように思えます。そして人々がそのようなことを引き続き強調することが重要になるだろうと思います。Midas Projectが行った仕事やこれらの問題をフラグ立てることに関する他の人々の仕事を含めて。
ですから、理想的な世界では、もっと独立した人々がいるでしょうか。はい、そう思います。
しかし、司法長官はおそらくこれをより伝統的な企業ガバナンスの問題として見ていたと思います。
残された挑戦の可能性
要件は理事会の過半数が独立していることだけでした。ですから、独立していない人々がいることはスキャンダラスではありません。彼らが過半数を占めない限り。
これをより目立たせたのは、これらの露出のいくつかが、この再編に投票することから彼らを失格させるのに十分に重要であると考えるかもしれないということです。それはOpenAIのビジネスに大きな影響を与え、他のビジネス企業で潜在的に大きな影響を与えることになります。しかし、誰もがその根拠で自分自身を除外することを決定したことを私たちは認識していないので、彼らはどのような状況下で誰かが脇に退いて会話に関与しないことを要求されるかについて狭い意味を取っているようです。
公平を期すために言えば、私たちは一方または他方を認識していません。ですから、一部の人々が除外され、私たちがそれを知らないだけかもしれません。
少なくともその一部について。
その通りです。
この取引が気に入らなかったとしましょう。不公平だと思った。おそらく非営利組織は十分なお金を得ていない。彼らは慈善活動で間違ったことに焦点を当てるだろう。SSCは実際には十分に介入できないと思う。
あるいは、安全と保障の問題だけでなく、会社の製品が持っている平凡な社会的影響、どのような政治的関与をしているか、どのような種類のロビー活動をしているか、どのような種類の擁護をしているかについても介入できることを望むかもしれません。公益に非常に反する可能性のあるもう一つの分野です。
これまで現在に至るまでこの取引について非常に否定的だった人物、彼が今週時点でそれについてどう考えているかは正確にはわかりませんが、ズビ・モウショウィッツです。以前番組に出演したことがあります。彼は質問を送ってきました。
これに挑戦する残された方法は何か、取締役会に対するものを含めてどのような訴訟が起こされ得るか。この取引をまだ妨害するために何かできることはありますか。
はい。取引自体に焦点を当てて、今発表されたものを止めるために何ができるか、OpenAIが不服従声明と覚書の義務を果たさない場合、司法長官はそれを行う権利を留保していると思います。ですから、司法長官は明らかにこれを止める権限をまだ持っています。
彼が最近ひどい人々の擁護者であるという事実を別にして、イーロン・マスクの弁護士は、発表にもかかわらず、法廷で取引に挑戦し続けるつもりだと述べています。その訴訟は3月に裁判にかけられる予定だと思います。スケジュールをしばらく見ていませんが。
これについて私の考えがあります。訴訟はおそらくこのインタビューの範囲外ですが、イーロン・マスクの形で取引を妨害しようとしている少なくとも一人の人物がいます。
そして、少なくとも議論の余地がありますが、株主代表訴訟について少し前に話しました。今やPBCが存在し、PBCの株式を保有している人々がいて、株主がPBCの行動に異議を唱えるためのはるかにクリーンなラインがあります。
それはPBCの問題であり、非営利組織の問題ではありません。ですから、PBCの株主がこの取引に異議を唱えることができるかどうかは大きな疑問だと思います。
しかし、PBCが今後行うことに異議を唱えることに関しては、あなたの質問の一部だと思いますが、株主が望めば声を持つことができると思います。
PBCで誰が代表訴訟を起こすことができるかについて、デラウェア州の法定法の下で制限があります。閾値は2%だと思います。それは明らかにOpenAIの現在の評価の文脈では莫大な株式数です。あるいはOpenAIが上場すれば、その閾値は2%または200万ドルの低い方、公開取引される証券の現在の評価に下がります。
ですから、PBCのどの株主でも代表訴訟を起こすことができるわけではありませんが、OpenAIが民間PBCのままである限り2%の閾値を超える株主のグループを集めることができれば、その株主グループは理事会またはPBCを受託者責任違反で訴えることができます。
彼らが成功するかどうかは、完全に事実と、企業証券訴訟の他の多くの複雑な問題に依存します。しかし、彼らは少なくともPBCの行動に異議を唱える立場を持つでしょう。
ですから、PBCの理事会に対して法廷に行き、OpenAI憲章に従っていない、会社のミッションに十分に従っていない、利益を過剰に追求している、実際、私たちの利益です。株主なのだから、と言って異議を唱えることができ、法廷はその訴訟を審理しなければならないということですか。
はい、彼らは少なくともその訴訟を起こす立場を持つでしょう。明確にするために、これは法的細部に少し入りますが、彼らは会社を代表して訴えることになります。それが代表訴訟が意味することです。ですから、株主は、法的フィクションは彼らが会社の立場に入り、理事会の受託者責任違反で会社を代表して訴えることになります。
そしてこれは私が先ほど言ったこと、少し前にこれにほのめかしましたが、設立証明書が安全と保障に関してはミッションだけが重要であることを明確にしているという事実が、そのような株主グループが会社を訴えるか、「あなたは安全と保障について十分にしていない」または「あなたは安全と保障に対するあなたの受託者責任の違反である何かひどいことをした」という議論である場合、受託者責任違反で会社の理事会を訴えることをより容易にすると思います。
裁判官がそのような訴訟を審理するのは非常に難しいと思います。AI の安全と保障について何が合理的かを判断する立場にあるのは彼らにとって困難です。彼らには特定の専門知識がなく、相反する報告を受けると思います。
事実の後に何かが本当にうまくいかない場合は、それが事実だったことを示すと感じるかもしれません。PBCの理事会による監督が不十分だったことを。おそらく彼らは事後に訴訟を起こすことができ、理事会が安全と保障に関するミッションを効果的に追求しなかったと言うことができます。そして、もし物事がすでにうまくいっていない場合、裁判所はそれがケースだったと判断するより良い立場にあると感じるかもしれません。
それについて何か考えはありますか。
それは基本的に正しいと思います。裁判所がこれらのことを扱うのは難しいと思いますが、裁判所は常に難しいことを扱っています。裁判所は非常に複雑な技術の知的財産紛争をいつも扱っており、それに対処するための法廷にシステムが設定されています。
そして重要なことに、デラウェア州の州裁判所、Chancery Courtsと呼ばれていますが、企業ガバナンスの問題に関して非常に洗練されていることでよく知られています。それがデラウェア州が誰もが法人を設立しに行く場所である理由の一部です。そこには非常に情報に精通した、非常に効果的な司法府があるからです。
ですから、はい、それは困難でしょうが、それがデラウェア州の裁判所の能力の外にあることを意味するとは思いません。
もう一つの疑問は、これは投資家をどれだけ満足させるか、彼らが今OpenAIに投資する意欲があるようにする、という未知のものがあります。仮説的に、彼らは投資する意欲がないと警告されました。誰も本当に知ることは不可能です。おそらく彼らにとっても知ることは不可能です。
しかし、OpenAIはどうやら…毎日、彼らが行っている新しい取引、彼らが計画している新しい投資について、何百億ドルもの新しい見出しがあるように思えます。
ですから、常識は、彼らはこの取り決めの下で少なくともかなり大幅にスケールアップできることを示唆しているように感じます。
それが投資家にとってあまり顕著でないことを示唆しているのか、あるいはおそらく彼らは安全保障委員会が無力になるだろうと推測しているのか、あるいはおそらく彼らは安全と保障と、彼らがOpenAIに開発してほしいと望んでいる投資や製品の種類との間にあまり緊張がないと考えているのか。わかりません。待って見る必要があるだけです。
それは正しいと思います。待って見る必要があるだけです。OpenAIの既存の構造が彼らを過度に押さえつけていたようには見えませんでした。
彼らは追加の投資を受けやすくするために資本構造を簡素化する必要があると話しました。何らかの注釈が付いていてもPBCの株式を持つことは、意味のある方法でそのミッションを達成するようです。ですから、もし何かが引き止められていたとして、もはや引き止められていないものがあったとすれば、おそらくそれで十分です。
しかし個人的には、この種の再編に依存して積み上げられていたものが実際にたくさんあったという証拠を見ていません。
今後の監視ポイント
OpenAIの非営利組織には常勤の、非常にハイレベルのCEOが必要だと感じています。非常に力のあるCEO。多分二人実際には。一人は慈善寄付と、そこでのすべての寄付を監督するために。それ自体が大規模な研究とロジスティクス業務です。それから別の誰かがSSC側で、非営利組織が何を要求すべきか、介入するために何をすべきかを決定するためのすべての研究を行うことをリードするために。
彼らは、非営利組織が今後確実に行う二つの主な活動の流れに従事するために、リーダーを雇ったり、スタッフを雇ったりする計画について何か言っていますか。
私が知る限りそうではありません。そしてnotforprivategain.orgにある再編に関する私たちの声明で、私たちは注目すべきものとして強調するいくつかのことをリストしています。これらの公に判読可能なことが起こったら、この再編から物事が悪い方向ではなく前向きな方向に進んでいることをもう少し安心できます。
両理事会の取締役が彼らの役割を真剣に受け止めるというのが一つだと思います。これは…必ずしも明白な公的シグナルが出てこないものだと思います。しかし、取締役が声明を出したり明確にしたりするのを見る限りにおいて、「私たちは非営利組織の取締役としての役割でXを行った。非営利組織の理事会はXを行った」と、その状況でPBCが望むと期待することと反対のことを、それは良いシグナルとして見るでしょう。
「PBCはXをしたい。非営利組織は安全と保障に関する私たちのミッションへの要件に違反するのでXではないと言う」。それは良いことのように思えます。
それが実際に公衆の注意に達するかどうか、言うのは難しいです。しかしそのようなものが公衆の注意に達したなら、それは前向きなシグナルだと思います。それは、少なくともいくつかの重要な事例において、非営利組織とミッションに対する義務を真剣に受け止めている取締役がいることを明確にするでしょう。そして、商業的に有益でPBCの株主に利益をもたらすことをしたいPBCの帽子をかぶっている自分自身をある意味で覆すほど真剣に。
ですから、それは私たちが注目するものです。
私たちが注目しているもう一つの問題は、1年以内に、少なくともさらに一人の非重複取締役、つまり非営利組織の取締役でありながらPBCの取締役でもない取締役がいるという要件があることを知っています。
文言に基づく限り、私が言える限り、既存の取締役の一人がPBCでの役割から単に退任し、ジコ・コルターのように今は非営利組織の取締役だけという可能性があります。しかしそれはまた、現在どちらの理事会にも座っていない非営利組織の新しい取締役を任命することも可能にします。彼らはその後PBCの理事会にもいないことになります。
そして、非営利組織がAIシステムの安全と保障に関連する多くの権限と義務を持っている今…ジコ・コルターは、あなたが言及したように、少なくとも学術的な観点からAIの安全と保障について多くを知っています。
もし理事会がその二番目の非重複取締役を任命し、本当に深い専門知識とAIの安全と保障へのコミットメントを持つ誰かにする、OpenAIの用語を使いたければ「AIレジリエンス」、もし彼らがその仕事を引き受け、非営利組織の理事会とSSCとPBCの安全と保障の監督を助けるのに適切な人物だと本当に感じる誰かを任命すれば、それは良いシグナルでしょうよね。
そして、もし彼らがその役割に適切な能力を持たない誰か、または完全に利益相反しているように思える誰か、またはサム・アルトマンの回し者を任命すれば、それは本当に否定的なシグナルでしょう。これは私たちが望むほどうまくいっていないということです。
ですから、それは私たちが注目しているもう一つのことです。
私たちがすでにカバーしたものの一つは、CEOを持つことです。もし非営利組織がSSCがPBCに関してその役割を果たすのを助ける経営陣を雇えば、それは良いシグナルだと思います。もし彼らがそれをするために完全にボランティアの理事会メンバーに頼るなら、それは私たちの観点からは否定的なシグナルのように思えます。
SSCが持つリソース。サポートとサービス契約について少し話しました。そして非営利組織がその目標を果たすためにPBCのリソースを徴用できるという事実。公的報告に達しないものがいくらかあるでしょうから、それに対する透明性を持たないかもしれません。
しかし、SSCをサポートするために専念しているスタッフによってSSCがサポートされているというシグナルを得ていれば、そしてそれが彼らの仕事であり、彼らはその役割でSSCに報告している、それは良いシグナルだと思います。
すべてを考慮すると、これが比較的うまくいっていると言うために注目するものです。
それから透明性は私たちにとってもう一つの大きなものです。すでにデラウェア州の不服従声明がPBCのミッション進捗の年次公開報告を要求していることに言及しました。
デラウェア州法の下では、PBCはそれらの報告を株主にのみ行うことが要求されており、2年ごとにのみです。ですから、それはPBCの透明性要件のかなり実質的な増加です。
PBCがそれを上限ではなく下限と見なすことを望みます。そしてPBCがそのような問題について公衆とより透明であればあるほど、「これはどうなっているか」という観点から、より良く思えるでしょう。
ですから、私たちは確実にそれに注目しています。
透明ではない他のことがあり、私たちが手紙でフラグを立てていると思います。それは重要だと思います。ワラントの経済性についてはすでに話しました。それは何ですか。それは公開されるべきだと思いますし、もし彼らがそれを公開すれば、状況についてより良く感じるでしょう。
不服従声明で参照されているUWCで詳述されているSSCの権限は正確に何ですか。それを公開すれば、より良く感じるでしょう。
それから、停止支援条項が実際にどのように運用されるかについての情報、そのようなものを公開することは、これがうまくいっているという良いシグナルでしょう。
ですから、それらが私たちが注目する予定のものです。他の人々もそれらのことに注目することを望みます。そして、OpenAIがそれらの期待に達しない程度において、他の人々が会社と、会社の規制当局としての司法長官の両方に圧力をかけることに参加することを望みます。それがより良くなるように。
OpenAIが新しいページをめくり、新しい時代に入る本当の機会がここにあると思います。明らかに、私たちは近年OpenAIで起こったことのいくつかに感銘を受けていませんが、あなたが語ることができる前向きなストーリーは、これは競争しようとしているビジネスであり、困難で絶えず変化する分野で成長しようとしており、非営利の創設者との取り決めに対して軋轢を生じていたということだと思います。
商業的目標と「全人類に利益をもたらす」目標を調和させることが難しいと感じていました。
そして彼らは今、非営利組織が耐えられると考える新しい取り決めを持っており、それは元々気にしていたものの多くまたは恐らく大部分を提供します。そして同時に、会社が潜在的に繁栄し、彼らが恐らくリスクにあるか困難かもしれないと考えていた投資を引き付けることを可能にします。競争力を保つために。
これらすべてを通じて、私たちが言ってきたように、OpenAIの安全と保障の側面でいくつかの良いことが進行しています。私は今、彼らがこの新しいバランスを持っているので、それを最大限に活用したいと言うことができると思います。安全性と保障性とレジリエンスのジュースをその側面で最大限に得たいと思っています。
通常のビジネス運営に干渉すること、特定の安全、保障、または害の懸念を引き起こさないものは、よりビジネス志向で繁栄させます。そして、より危険なものは非営利組織の理事会の焦点のままでいることができます。
多くの人々が非常に一生懸命働いてきました。司法長官、公的擁護者、OpenAI内の人々、理事会自体の人々も間違いなく、理事会メンバーが脇に追いやられないように、非営利組織がこれらの信じられないほど重要な歴史的出来事において脇に追いやられないように確保するために。
私は理事会メンバーに、確かに他に多くの競合する要求があると思いますが、そこに時間を見つけるか、一日の中で余分な時間を見つけて、これを彼らの人生の本当に主要な焦点にしてほしいと本当に勧めます。そして、その設立から最新の交渉に至るまで、OpenAIを今日の姿にするのを助けたすべての人々によって彼らに与えられた機会を最大限に活用してほしいです。
SSCは、これに技術的および企業的専門知識をもたらす大きな可能性を持っています。介入する必要がない場所では軽いタッチを持ちますが、会社が公衆を危険にさらしたり単に正味の害を引き起こしたりする可能性のあることをしていると考える場所では確固たるものです。
そして、もし彼らが全体を通して注意を払っていれば、将来何が彼らを心配させるか、何がモデルをリリースしたくないと思わせるか、何がモデルをトレーニングすることに消極的にさせるかを示すことができ、それによってPBCに今必要な準備作業を行う動機を与えます。彼らは部分的に行っていますが、もっとできると確信しています。AGIが開発されるべきときに、それが実際に安全であることを確保し、私たちがそれを信頼でき、欺瞞的整合性やこれらの他の技術的問題のいずれについても心配する必要がないことを確保するために必要な技術的能力を持っていることを確保するために。
同時に、慈善的な側面でも素晴らしい機会があると思います。AGIに社会を準備するのを助ける仕事、再び必要な技術的緩和策を開発する仕事に資金を提供する、そうすればOpenAIや他の企業がこの技術を、多くの害を引き起こしたり暴走して業界全体の信用を落としたりするのではなく、広く有益で全人類に利益をもたらす方法で展開できます。
彼らは本当にここで素晴らしい立場にいると思います。莫大な影響を与えることができると思いますし、ただ彼らがそれを最大化することを望むだけです。
はい。私のここでの全体的な見方は、これがうまくいく本当の機会があるということです。そしてそれがうまくいくかどうかの多くは理事会に依存します。ですから、彼らが最善を尽くすことを本当に望みます。彼らがこの役割に足を踏み入れることを望みます。これは組織だけでなく、人類にとって本当に重要だと思います。そして素晴らしい仕事をしてほしいです。
最善を望むつもりです。そしてまた極めて警戒し続け、最悪に備え、もし彼らがすべきほど良い仕事をしなければ、彼らに責任を負わせ、司法長官に彼らに責任を負わせるよう促す準備をします。
ですから、これがうまくいくことを望みます。以前皮肉主義について少し話しましたが、まだいくらかの皮肉主義があります。ですから、最善を望み、最悪に備え、全体を通じて警戒を続けます。それが私の考え方だと思います。
はい。物事がどうなるかを追跡するのを楽しみにしています。そして、あなたとNot for Private Gainの連合の他のさまざまな人々が細心の注意を払うつもりであること、そして今では司法長官も同様であることを知って嬉しいです。
はい、その通りです。
私のゲストはタイラー・ウィットマーでした。80,000 Hours Podcastに来てくれて本当にありがとう、タイラー。
呼んでくれてありがとう。
コメント