本動画は、AI政策を推進する小規模非営利団体EncodeとOpenAIの間で発生した法的紛争について掘り下げたインタビューである。Encodeの副代表であるネイサン・カルビンは、OpenAIの営利化転換に反対する立場を表明し、カリフォルニア州のAI安全法案SB1047を支持するロビー活動を展開していた。ある夜、保安官代理が彼の自宅を訪れ、OpenAIからの召喚状を手渡した。召喚状は、イーロン・マスクやマーク・ザッカーバーグとの関係性だけでなく、SB1047に関する全ての通信記録の提出を要求するものであった。カルビンはこれを威圧行為と受け止め、OpenAIが批判的な団体を黙らせようとしていると主張する。一方、OpenAIは透明性の欠如と競合他社との連携疑惑を指摘し、正当な調査であると反論している。この対立は、OpenAI社内でも議論を呼び、同社の使命と営利追求のバランスという根本的な問題を浮き彫りにしている。
OpenAIと批判者との法的対立
ケイシー、今週もAIと法律に関わる大きなニュースがありますね。これについて話したいと思います。OpenAIとその最大の批判者たちとの間で水面下で繰り広げられている対立についてです。
そうですね。この話は実際、二つの大きな法的闘争が交差する地点にあります。一つは、OpenAIが営利企業への転換を試みていることをめぐる闘いです。現在、OpenAIは有名な非営利団体です。このことが過去数年間、同社に多くの問題を引き起こしてきました。彼らはもっと通常の営利企業になりたいと考えていますが、これには多くの人々が反対しています。反対者の中には、イーロン・マスクやマーク・ザッカーバーグといったOpenAIの直接の競合相手も含まれています。
OpenAIは、これら二人と関係があると思われる団体に対してかなり積極的に攻撃を仕掛けています。二つ目の闘いは、先ほど話したSB1047という法案についてです。これはカリフォルニア州知事ギャビン・ニューサムによって署名されたばかりで、AI研究所で働く人々のための基本的な透明性要件と内部告発者保護を確立するものです。
この法案については、賛成派と反対派の両方から多くの団体がロビー活動を行いました。Encodeは賛成のロビー活動を行った団体の一つでした。これらが並行して起きている二つの大きな法的闘争です。しかし今日の話、ケビン、はまさにその両方の間で起きているのです。
そうですね。本日のゲスト、ネイサン・カルビンは、Encodeの州政策担当副代表兼法務顧問です。Encodeは小規模なAI政策非営利団体です。面白いことに、数年前に高校生によって設立されました。あなたは高校時代に何をしていましたか。私はAI安全性の非営利団体を立ち上げてはいませんでしたね。ディベートチームで活躍していました。とにかく、彼らはAI関連の法案や取り組みについて、意見書を提出したり議員にロビー活動を行ったりする団体の一つになっています。
彼らはまた、OpenAIの営利化への組織再編に対しても非常に声高に反対してきました。そしてネイサンの話によると、この立法プロセスが進行中のある夜、保安官代理が彼の家に現れ、OpenAIからの召喚状を届けたということです。召喚状は、あらゆる種類の個人的な通信記録の提出を要求するもので、組織再編に関するものだけでなく、彼らが支持していたSB1047についても含まれていました。
そうです。これは人々を驚かせました。なぜなら、OpenAIは今でも使命主導型の企業であり、全人類の利益のためにAIを創造しようとしていると自認しているからです。こうした法的闘争の最中に、賛成派と反対派のロビー活動を行う人々のところに行くのは、プロセスの一部として一般的に理解されていると思います。
しかし今、非営利団体を代表してロビー活動を行っていたその人物の一人が、自分自身の法的闘争に巻き込まれることになりました。これは多くの人々の注目を集め、OpenAIで働く一部の人々も含めて、会社の行動を批判する声が上がりました。これはもっと理解する価値があると思いました、ケビン。
はい、これはOpenAI内部だけでなく、より広範なAI業界でも熱い議論と会話の対象となってきました。私たちはネイサンの経験について話を聞きたいと思いました。しかしその前に、これは結局のところAIと法的闘争に関する話なので、注記しておくべきことがあります。私の雇用主であるニューヨーク・タイムズは、著作権侵害の疑いでOpenAIとMicrosoftを訴えるという独自の法的闘争に関与しています。
そして私のボーイフレンドはAnthropicで働いていますが、今のところ法的闘争は避けられています。そのことには感謝しています。まあ、家に帰ったら郵便物をチェックしてくださいね。ああ、やめてください。さて、ネイサン・カルビンを迎えましょう。
ネイサン・カルビンへのインタビュー開始
ネイサン・カルビン、Hard Forkへようこそ。
お招きいただき光栄です。何度も聞いてきたリスナーで、初めての出演者です。言い方が違うかもしれませんが、とにかくここに来られて本当に嬉しいです。
シーンを設定するために、あなたはワシントンDCにいます。火曜日の夜です。おそらく普通の平日だったと思います。あなたと奥様が夕食のために座っていたら、ドアをノックされました。そこから話を聞かせてください。
ドアを開けると、保安官代理がいました。彼は私に召喚状を届けるためにそこにいました。OpenAIからのもので、私が取り組んでいたAI安全法案に関するさまざまな通信記録や文書、そしてOpenAIの営利化への組織再編に対する私たちの批判についても求めていました。
一つ言っておきたいのは、タイムラインについてです。これはやり取りの中で出てきたことなのですが、実際には前の土曜日に、私が母と甥を訪ねているときに電話がありました。誰かが私のアパートに入って書類を届けようとしているという内容でした。私は「今そこにいません」と言いました。
とにかく、彼らは最終的に火曜日に来ました。OpenAIの最高戦略責任者であるジェイソン・クワンがコメントで、私はこれが来ることを知っているべきだったというようなことを言っていましたが、私は誰かが書類を届けようとしていることは知っていましたが、詳細については知りませんでしたし、その正確な夜に来るとは知りませんでした。
なるほど、それについては後で触れたいと思いますが、まず、私は召喚状を受け取ったことがありません。ケイシーは何度も逮捕されているので、こういうことには慣れていますが、有罪になったことはありません。彼はこういうことがどう進むか知っています。でも、映画のように実際に紙の束を手渡されるのですか。OpenAIからの召喚状を受け取るとはどんな感じですか。
それはまさに書類の束です。私は弁護士ですが、少なくともDCでは保安官代理が召喚状を届けることがあるとは知りませんでした。後でそれがそれほど珍しくないことではないと知りましたが、私の視点からすると確かに驚きでした。はっきり言っておきますが、その人は完全に親切でした。
ただ、土曜日に誰かが私に書類を届けようとしていると聞いてから、実際に火曜日にそれが起こって彼らがドアにいるまでの間、ある程度「さあ、実際に何が起きているのか理解できるな」という気持ちもありました。正直なところ、それが来ると聞いてから実際に起こるまでの数日間が、最もストレスの多い時期でした。そして「さあ、少なくとも何に対処しているのか、どう対応すればいいのか理解できる」という感じでした。
AIアドボカシーに関わり始めたとき、これはあなたのレーダーに入っていましたか。人々が「さあ、このことについて送ったメールを全部見せてください」と言ってくる可能性があることは。
いいえ、わかりません。私の母はアメリカ小児科学会で25年間働いていて、タバコ会社に対する訴訟に関与していました。ある時点で彼らがやって来て、彼女のオフィスから書類を全部持ち出しました。そして彼女は私に、後で読み返されても困らないメールしか書かないようにと言っていました。
ああ、なるほど。つまりあなたは実際、平均的な人よりもこういうことにずっと準備ができていたわけですね。
はい、家系的なものです。それは正しいと思います。確かに、確かに。
すぐにOpenAIがなぜあなたに召喚状を送ったのか理解できましたか。実際に書類を読み始めて、彼らが何を求めているのかを理解したとき、最初の反応はどうでしたか。
ええ、ある意味では、召喚状を受け取る前に少しエスカレーションがありました。私たちは多くのアドボカシー活動や公的なコミュニケーションを行い、この問題について州の司法長官に手紙を書いたりしていました。そして、これが彼らの神経を逆なでしているという感覚を少し持っていました。
召喚状を読んでいたとき、正直に言うと一部の私は、これは単に誠実な質問で、彼らは私たちが秘密裏にマスクやMetaから資金提供を受けて支配されているのではないかと考えているのかもしれないと思っていました。しかし、SB1047について、つまり私たちが取り組んでいた法案についてのあなたの全ての通信記録を求めている部分を読んだとき、これは本当に誠実な質問をしているようには感じられないと思い始めました。確かではありませんが、彼らの頭の中に何があるのかはわかりませんし、断言できませんが、私の印象はそうではありませんでした。
つまり、何らかの理由で私に召喚状を送って「あなたはイーロン・マスクから資金提供を受けていますか。だから私たちの営利転換を阻止しようとしているのですか」と聞くのは理にかなっていると思います。しかし、彼らがあなたのところに来て「あなたが取り組んでいるこの法案について送った全てのメールを渡してください」と言ったとき、それは何か範囲外に感じられたということですね。
はい、そう感じました。そしてもう一つ付け加えたいのは、召喚状が来るかもしれないとは思っていましたが、以前に召喚状を受けた他の組織と話したとき、それは組織宛てで、デラウェア州の登録代理人宛てだったということです。デラウェア州の登録代理人が召喚状を受け取ったというメールを受け取るだけで、午後7時に5階建てのアパートに人が来るようなことではありませんでした。だから、それも眉をひそめるような側面でした。
本当に後味が悪いですね。一つの説明としては、あまり好意的でない説明ですが、OpenAIが組織再編計画に批判的な非営利団体をいじめたり脅したりしようとしているというものです。もう一つの説明は、これらは尋ねるべき正当な質問だというものです。私たちは多くの透明性を持っていません。最近では多くのダークマネーが技術規制をめぐる闘いに流れ込んでいます。誰がその取り組みの背後にいるのか質問する価値があります。ネイサン、ここで中心的な主張について直接聞かせてください。あなたまたはEncodeは、イーロン・マスクやマーク・ザッカーバーグ本人、あるいは彼らや彼らの会社に関連する人々や団体と協力したり、資金提供を受けたりしていますか。
私たちはイーロン・マスクやマーク・ザッカーバーグから資金提供を受けていません。私たちのウェブサイトを見れば、Future of Life Instituteから資金提供を受けていると書いてあります。これは彼らの召喚状で言及されたものです。Future of Life Instituteは数年前にマスクから寄付を受けましたが、彼らはマスクではありません。
私たちは彼らとのやり取りでこう言いました。私はマスクと話したことがありません。マスクは私たちの活動を指示していません。それは間違いです。私たちはFTCにXAIとSpicy Grokに関する調査を開始するよう求める文書を提出しました。そして私は公の場で喜んで言いますが、XAIの安全対策は多くの場合、OpenAIのものよりもはるかにはるかに悪いと思います。だから、その中心的な主張は間違っています。
Metaとの関係はどうですか。
何もありません、ゼロです。そして、私たちのパートナーについて言えば、私たちはAI安全性と子供の安全問題に焦点を当てた組織です。私たちは常にMetaと戦争状態にあります。Metaが私たちを支援しているという考えは、全ての背景を知らない人もいることはわかりますが、まったく笑えることです。
Encodeのウェブサイトには寄付者または資金提供者のリストがありますね。そこには、Omidyar NetworkやArchwell Foundation(ハリーとメーガンの財団)、Survival and Flourishing Fund(主にJaan Tallinnから資金提供を受けている効果的利他主義に関連した慈善事業)など、多くの組織がリストされています。つまり、資金提供者についてある程度の透明性を提供しているわけです。なぜそれがOpenAIにとって十分ではなかったと思いますか。なぜ彼らはまだイーロン・マスクやマーク・ザッカーバーグについて質問があると思いますか。
ええ、ある程度は彼らに聞かなければならないと思います。よくわかりません。また、ここで一つ言いたいのは、彼らには私たちの全てを知る一般的な権利はないということです。召喚状はArchwell Foundationについて尋ねていませんでした。なぜなら、Archwell Foundationは彼らの訴訟に一切関係がないからです。召喚状の役割は、あなたが関与している訴訟に関連する情報を得ることであって、他の民間組織に答えてもらいたい質問を何でも聞くことではありません。
私たちもOpenAIに召喚状を送って、組織再編で何を計画しているのか全ての詳細を教えてくれとか、非営利部門を弱体化させるつもりなのかとか言いたいところですが、私たちにはそうする権利がありません。私たちがただ聞きたいからといって聞ける質問ではないのです。望ましいとしてもです。だから私たちがしたことは、公開書簡を出して彼らに多くの質問をすることでした。OpenAIはプレスに行って、これらのことについて透明性が欲しいと言うことができます。彼らはイーロンについて私たちに尋ねる権利があります。なぜなら、彼らはこのことについて訴訟中だからです。
もし彼らが私たちの企業住所に連絡してきて「あなたたちはイーロンから資金提供を受けているか、指示を受けていますか」と聞いて、私たちがノーと説明し、ノーであることを証明して、彼らがそれで納得したなら、私はそれを理解できるし、それは正当なことだと思います。イーロンは彼らを攻撃し、破壊しようとしています。彼らは、秘密裏に支援され指示されている取り組みがないことを確認したいのでしょう。
しかし、実際に起こったことは、彼らが尋ねる権利のあったその狭い質問からどれほど遠く離れていたかを強調せざるを得ません。
召喚状の意図についての議論
この経験を振り返って、これは威圧だと感じましたか。OpenAIは、営利転換に反対する、またはAI規制を支持する発言をする組織にペナルティを科そうとしていると思いますか。
ええ、ある程度それは意図の問題ですが、私は彼らの頭の中に何があるのかわかりませんので、それについては慎重でありたいと思いますが、私は彼らがそうしていたと信じています。それが私の最善の推測です。そして、私はそのように受け取りました。これに対する別の説明があればと思いますし、これを公表したとき、もしかしたら彼らが「これは失敗でした。私たちの弁護士がやりすぎました。SB1047についての部分は実際には意図していませんでした」と言うかもしれないと思いました。
しかし、それは彼らが言ったことではありません。彼らは倍返しして、私たちはこれを受け取る権利があると思うと言いました。だから、それは非常に重要なことだと思います。そしてもう一つ言いたいのは、OpenAI内部の一部の人々、例えばJoshua Achiam(個人的な立場で発言していますが)が、私がスレッドで説明していることは良く見えないということについて、かなり長いスレッドを投稿したことです。
それはある意味、会社から離れた立場の会社内の誰かからの非公式な反応でした。
そうですね、あなたが言及したように、OpenAIの最高戦略責任者であるJason Kwanも見ました。彼は長いスレッドを書いて、あなたとEncodeは状況の一部しか伝えていない、Encodeは資金源を開示していない、これはSB1047についてではないと主張しました。Jasonは「私たちはSB1047に反対しませんでした」と述べました。そして彼らは基本的に、これはコップの中の嵐だと言いました。
また、OpenAIの弁護士Ann O’Learyが「SF Standard」に語った引用もありました。「私たちはAI政策についての正当な議論を歓迎しますが、非営利アドボカシーが単に競合する商業的利益の隠れ蓑である場合、それを理解することが不可欠です」とのことです。あなたの主張に対するOpenAIの公式回答をどう思いますか。
一つは、Jasonが私たちがイーロンとOpenAIの訴訟に関与するようになったことに焦点を当てていることです。私たちはアミカスブリーフ(法廷助言者意見書)を提出し、OpenAIが非営利として存続することが公共の利益になると主張しました。Geoffrey Hintonも私たちのアミカスについて肯定的なコメントをし、私たちの主張への支持を示しました。
ちなみに、彼もまた、イーロン・マスクがRoyal Societyでの地位を失うべきだと呼びかけている人物であり、マスクの大ファンではありません。OpenAIの組織再編に批判的な人全員がマスクのファンではないという別の例が欲しければ、それがあります。
SB1047に反対しなかったという点について言えば、彼らが正式に反対するという声明を出したことがないのは事実ですが、グローバル政策担当者のChris Lehaneは、SB1047がかなり激しい議論の最中にあったときに、Newsomeに手紙を送りました。その手紙で彼は、カリフォルニアの正しい道は、連邦政府とのテスト契約に署名した企業、またはEU AI実践規範を遵守すると表明した企業に対して、AIフレームワークからの免除を設けることだと信じていると述べました。これは実際には、カリフォルニア州法からの完全な免除を意味します。
つまり、あなた自身と多くの仲間企業が完全に免除されることを提唱することは、反対することと同じではないと言うことはできます。それが公平かどうかは言語学者に聞いてみてください。しかし、彼が議論しなかった重要な文脈だと思います。
今後の展開と透明性について
これからどうなりますか。OpenAIが求めている情報を送るつもりですか。資金源やアドボカシー活動についてさらなる透明性を図る予定はありますか。次の一手は何ですか。
私たちは異議申し立てと回答を送りました。そこで関連する4つの領域について説明しました。例えば、イーロンから受け取った通信や資金については、それらが存在しないことを述べ、他の情報については関連性がないことを述べました。彼らは返答しませんでした。
彼らは裁判官に対して私たちが提出しなければならないという強制命令を申し立てることもできましたが、そうしませんでした。私の見解では、これは確信できませんが、彼らはそうしなかったのは、裁判官がその申し立てを認めないだろうと理解したからだと思います。なぜなら、それらは実際には関連性がなかったからです。
透明性について公正な議論があると思います。私たちの寄付者の一部は非公開を望んでおり、C4組織に寄付する場合、個人的に資金を提供する権利があります。私たちはサイト上に多くの寄付者をリストしており、私たちに資金を提供している人々のさまざまな動機について明確な印象を得られると思います。
しかし、アドボカシープロセスに関与する人々にとって適切な透明性とは何かというこの大きな議論は、OpenAIがここで何を気にかけているのか、なぜこれについて尋ねているのかとは非常に異なると思います。召喚状は多くの点で行き過ぎでしたが、その中でさえ、彼らはOmidyar Foundationについては言及していません。それは私たちのウェブサイトに資金提供者としてリストされています。私たちはその事実を隠していません。なぜなら、それは彼らのマスクとの訴訟に関係がないからです。
でも、あなたはウェブサイトにリストしていない、非公開を望む寄付者がいると言いましたね。彼らが誰なのか、どれくらいの金額を提供しているのか教えていただけませんか。
ここでは言えません。いいえ。
わかりました。聞くだけ聞いてみました。
公正ですね。公正です。彼らはマスクやザッカーバーグではありません。
彼らはマスクやザッカーバーグではありません。私たちはフロンティアAI企業からはお金を受け取っていません。
はい、それは言っておきます。わかりました。私は、全てのこうした団体が誰から資金提供を受けているかについて、もっと開示するよう求めることは合理的なことだと思います。しかし、それは反対側の立場を推進している組織にも平等に適用されるべきだと思います。
それは公正だと思います。公正な議論だと思います。ただ、OpenAIがその主張をする立場にあるかどうかはわかりません。
OpenAIに対する見方の変化
このエピソードを振り返って、OpenAIについてのあなたの考え方はどう変わりましたか。
私は本当にOpenAIに対して多くの肯定的な感情を持っており、彼らはMetaやXAIなどの競合他社よりも多くのことを本当により良く行っていると思います。例えば、彼らの安全性研究やシステムカードの一部は、最近の数ヶ月でさらに改善されており、本当に良い仕事をしていると思います。
そして、OpenAIの一部の人々の間には、彼らが競合他社に比べて不釣り合いな批判を受けているという感覚があると思います。それにはある程度の真実があると思います。一つ言いたいのは、もし彼らの競合他社の一つが私の家に来て召喚状を渡していたら、私はそれについても同じことを言っていたでしょうが、それをしたのはOpenAIでした。
また、OpenAIは非営利団体であり、AGIが全人類の利益になることを保証するという使命を持つ非営利団体です。彼らはその法的使命を弱め、回避し、意思決定においてより多く利益を考慮できるようにしようとしているプロセスの最中です。
このエピソードや、ChatGPT上でNSFW(職場閲覧注意)のポルノなどを許可するかどうかについての議論、Sora 2のリリース方法、子供の安全対策、その他多くのことについて、彼らは通常の営利企業ではありません。少なくとも今のところ、彼らは利益よりもこの使命に専念している非営利団体です。私は、それが彼らがより高い基準で評価されるべきだということを意味すると思います。
ええ、私はただこう言いたいのですが、イーロン・マスクだけがこの組織再編に反対しているわけではありません。AI安全性コミュニティ全体が何年もこれについて騒いでいます。この計画は非常に不評です。
そうですね。私は、Joshuaの声明とJasonの声明の違いや、より崇高な理想に焦点を当てた研究組織から、次の段階に移行しようとする間のOpenAI内部でのこの継続的な進化と圧力について、何を思うか興味があります。
つまり、それは会社内部の非常に現実的な緊張を物語っていると思います。明言された使命を信じ、この非常に有益なAIを作りたいと思っている多くの人々がいます。そして同時に、他の巨大テクノロジー企業から来た多くの人々もいます。彼らはこれを主に勝利と、最初になること、最も多くのお金を稼ぐことについての競争として見ています。
そして、そのような企業から来た人々は、望むものを手に入れるために法的戦争を仕掛けることを厭いません。だから、今後数ヶ月でそれがどう展開するか興味深いです。現在会社を舵取りしているのは、その第二のグループ、大企業的なグループであるように見えます。それが続くのかどうか気になります。
しかし、それに加えて言いたいのは、あなたの話、ネイサン、はDaniel Kokotajloのストーリー以来、OpenAIの人々の間で最も多くの困惑と魂の探求を引き起こしたと思います。あのストーリーは、彼らが人々に署名を強制していた守秘義務契約についてで、さもなければ会社の既得権株式を取り戻すというものでした。
それはOpenAIの人々にとって大きな問題でしたし、これもOpenAIの人々にとって大きな問題です。私は人々と話をしてきました。これについて言っているのはJoshだけではありません。会社内部で「私たちはまだ善良な側にいるのか。私たちはもはや支持できない何かに移行しているのか」という問いについて、多くの魂の探求が行われていると思います。だから、これについて社内で疑問が生じるでしょうし、おそらく他のストーリーも出てくるでしょうが、そのほとんどはこのように表に出ることはないでしょう。
ネイサン、来ていただいてこれを全て説明してくれて本当にありがとうございました。
ありがとうございます、ネイサン。
ありがとうございました。
このインタビューの後、OpenAIに連絡して威圧の問題について尋ねたことを記しておきたいと思います。彼らはJason Kwanからの声明で返答しました。「イーロンは明白な競争上の理由で私たちの組織再編に反対しており、Encodeはそれに加わりました。突然現れたり、イーロンに加わるために優先事項を変更したりする組織は、調整と資金提供について正当な疑問を提起します。召喚状はそれを明確にすることを求めています。私たちの質問にはまだ答えられておらず、誰がこれらの組織に資金を提供しているのか、透明性をもって知ることができていません」と述べています。
これでこのクリップは終わりです。気に入っていただけたら、私たちのページに行って購読してください。フルポッドキャストを入手できます。私たちはテクノロジーと未来についてほぼ毎週このようなショーを行っています。今すぐそちらに行って購読してください。
コメント