本動画では、カリフォルニア州で成立した一連のAI関連法案について詳細に解説している。特に注目されるのは、チャットボットが自傷行為の兆候を検知した際の対応を義務付けるSB243や、ディープフェイクポルノから被害者を保護する法案、未成年者向けの警告表示を義務付ける規制などである。また、OpenAIがAI政策の非営利団体Encodeの弁護士Nathan Calvinに召喚状を送付した件についても深掘りし、AI企業と批判者の間で展開される法的対立の実態を明らかにしている。さらに後半では、AI生成コンテンツ、いわゆる「スロップ」の文化的評価を試みる新コーナーを設け、ガラスの果物を切る動画からDolly Partonの偽情報まで、AI生成コンテンツが社会に与える影響を多角的に検証している。
カリフォルニア州のAI規制法案について
もしカリフォルニアに来て犬がポーカーをしている動画を見たら、もうこれらの犬が本当にポーカーをしているのか疑問に思う必要はありません。透かしが入っていて、その質問への答えが得られるからです。
本当ですね。やっと実現しましたよ。
私たちはMetaと常に戦争状態にあるんです。Metaが私たちを支援しているという考えは、もう完全に笑えるとしか言いようがありません。
もしAIに対して世間を敵対させたいなら、最も効果的な方法は、文字通り誰もが愛しているDolly Partonを攻撃することでしょう。
Casey、今週のテック業界の大きなニュースは、Waymoがロンドンに進出するということだと聞きましたが。
それを見たとき、イギリス人は嫌がるだろうなと思いました。
私は別の疑問を持ちました。道路の反対側を運転するように、どうやって教えるんでしょうか。
とても良い質問ですね。ソフトウェアを切り替えるだけです。さあ反対側へ行きなさい。今まであなたがしていたことすべてを、逆にやるんです。
それは自動運転車のダークモードのようなものですね。道路の反対側を運転しなければならないというのは。ローンチ時には利用できませんが、最終的には実装されるでしょう。
機能しないハンドルも車の反対側に付けなければならないと思いますか。
おそらくそうでしょうね。
私はニューヨーク・タイムズのテクノロジーコラムニストのKevin Rooseです。
私はPlatformerのCasey Newtonです。そしてこれはHard Forkです。
今週は、AIコンパニオンを規制する初の州法が登場しました。これで十分なのでしょうか。そして、OpenAIが批評家に対して法的戦いを繰り広げています。法務専門家のNathan Calvinが、なぜ会社が彼に召喚状を送ったのかを説明するために参加してくれます。そして最後に、初のHard Forkスロップレビューの時間です。オペラグラスを手に取ってください、Kevin。
カリフォルニア州の新しいテック規制法案
Casey、カリフォルニア州にとって、テック規制の面で大きな週になりました。
その通りです、Kevin。どこを見ても法案、法案、法案です。まるでDestiny’s Childの曲みたいですね。
とても時代を感じる90年代の引用ですね。
聞いてください、私たちのリスナーの多くはシニアの方々で、その引用を本当に喜んでくれると思います。
今週の月曜日に、カリフォルニア州知事のGavin Newsomが、カリフォルニア州議会を通過してきた一連の新しいテック関連法案に署名しました。今日はそれらについて話していきます。もしカリフォルニア州に住んでいない私たちのリスナーなら、なぜカリフォルニア州のテック規制に丸々一つのセグメントを割くのか疑問に思うかもしれません。Casey、それに対する私たちの答えは何でしょうか。
Kevin、あなたと私は両方とも、AIには良いことをする可能性がある一方で、明らかに害も引き起こしていると考えています。現在、AI企業は活動に対する規制が非常に少ない状態で運営されています。そしてそれは懸念の源となっています。この番組では過去1年間、チャットボットとの悲劇的なやり取りの後に自殺した10代の若者について話してきました。こうした企業に何らかのガードレールを設置すべきだという声が高まっていると思います。今日話しているのは、いくつかのアイデアを持ち、実際に法律を通過させ、それを実践に移し、これらの企業をうまく抑制できることを願っている州についてです。
そうですね。カリフォルニアはテック規制において独自に重要な州です。理由はいくつかあります。一つは、多くの企業がここに拠点を置いているということです。カリフォルニアがどのように規制するか、どんな法律がカリフォルニアで可決されるかを企業は非常に気にしています。カリフォルニアで可決される法律は、全米そして世界中に波及する傾向があります。事実上の全国標準のようなものになる傾向があるんです。特に今この瞬間、連邦政府が機能停止していて、機能しているときでさえテック規制を通過させることに興味を示していないように見える状況では、私たちが持っているのは州レベルの規制が、存在しない連邦規制の代わりになっているということです。
今日は、可決されたこれらの法案のいくつかについて話しましょう。そしてこれらがAIを規制するための常識的なアプローチについて何を教えてくれるのか考えてみましょう。
では、この一連の法案の中で最も重要かもしれない法案から始めましょう。それはSB243です。Casey、SB243とは何で、何をするものですか。
SB243が行うのは、開発者がユーザーが自傷行為の考えを表現している状況を特定し、対処することを義務付けるものです。つまり、そのような考えを目にした場合に何をするかについてのプロトコルを持たなければなりません。そのプロトコルをカリフォルニア州公衆衛生局と共有しなければなりませんし、ユーザーをリソースに誘導している頻度についての統計も共有しなければなりません。そして2027年から、Kevin、公衆衛生局はこのデータを公開しなければなりません。データの取得開始が少し遅いとは思いますが、私の希望は、それが始まれば、チャットボットがカリフォルニアの人々に実際に与える影響について、非常に大規模で有用な公衆衛生データセットが得られることです。ですから、もしあなたが私のように、毎日多くの人々がこれらのボットとチャットするようになると、私たちの社会と文化にどんな影響があるのか本当に興味があり心配している人なら、これはそれを理解するための本当に大きな一歩です。
これは私たちが掘り下げるべき良い例だと思います。なぜなら、規制に関して多くの注目と勢いがあった分野だからです。OpenAIは最近、保護者向けコントロール機能を導入しました。番組でも話したCharacter AIは、チャットボットに免責事項を追加し、未成年者向けに追加のガードレールを設けました。プラットフォームは、これらの種類の法律が実際に法律になる前に、先んじて準拠し始めていたと思います。しかしこれは少なくとも正式な要件を与えることになります。
そうですね。そしてこれらの要件のいくつかをさらに挙げるべきです。カリフォルニアでは、チャットボットは出力がAI生成であることを伝えなければなりません。もちろん、私たちの賢いリスナーはおそらくすでにそれを知っているでしょうが、ChatGPTとチャットしていて何が起こっているのか完全には分かっていない人もいるかもしれません。この法案には未成年者向けのいくつかの追加保護が含まれています。チャットボットは未成年者向けに性的に露骨な画像を生成できません。また、未成年者がChatGPTと非常に長い時間チャットしている場合、休憩を取るよう促します。
興味深いことに、カリフォルニア州議会が可決した別の法案があり、それは未成年者のChatGPT使用を禁止する可能性があったものでしたが、Gavin Newsomはそれを拒否しました。彼はそれは行き過ぎだと言いました。しかしこれは一歩後退したようなもので、意味のある保護を追加していると思います。OpenAIやCharacter AIの善意に頼る必要はもうありません。今では法律でこれらを実際に行わなければならないと定められています。
この法律は、すべてのAIプラットフォームに適用されるのですか、それとも数億人のユーザーを持つような本当に大きなものだけですか。
立法分析によると、基本的にコンパニオンとして使用できる任意のチャットボットに適用されます。最初は、ChatGPTも含まれるのか分かりませんでした。ほとんどの人はChatGPTをコンパニオンとは考えていないと思いますが、この立法分析によると、そうです。もしあなたが1日3時間話しているなら、それはある種のコンパニオンです。
これは、業界がチャットボットコンパニオンについて州規制の領域で何かが行われることを理解していたケースだと思います。彼らは厳しすぎると思った別の提案があり、そのため渋々ながらも二つの悪のうち小さい方を受け入れ、実際に法律として署名されたこの法案の支持に回ったのです。
その通りです。なぜこれが重要なのか話してもいいですか、Kevin。
火曜日に、OpenAIのCEO Sam Altmanから非常に興味深いツイートがありました。このツイートは多くの注目を集めました。なぜなら最後に、12月に認証された成人がChatGPTを使ってエロティカを生成できるようにすると述べているからです。それは一旦置いておきましょう。Samがこの長いツイートの冒頭で言っていることは次のとおりです。「私たちは、メンタルヘルスの問題に慎重に対処するために、ChatGPTをかなり制限的にしました。これにより、メンタルヘルスの問題がない多くのユーザーにとって、あまり有用でなく楽しめないものになったことに気づきました。しかし、問題の深刻さを考えると、これを正しく行いたかったのです。今、深刻なメンタルヘルスの問題を軽減することができ、新しいツールもあるので、ほとんどのケースで安全に制限を緩和できるようになります。」そして彼は、GPT-4oについて人々が好きだったものを、ChatGPTに戻すと言っています。GPT-4oは、あまりにも媚びへつらう態度で、「もう薬を飲んでいません」とか「私は神だと思います」といったことを告げる人々を励ましていたため、問題になったモデルです。
これはカリフォルニアの法案とどう関係するのでしょうか。OpenAIが発生した深刻なメンタルヘルスの問題を軽減したとは確信できません。ChatGPTに保護者向けコントロールを導入してから2週間しか経っていません。これがコントロール下にあると言えるだけのデータが本当にあるのでしょうか。Kevin、私はこのツイートを見て実際にかなり衝撃を受けました。エロティカのことではなく、GPT-4oのことと、人々を傷つけないようにこれらのチャットボットを導かす方法を把握しているという示唆に対してです。あなたはこれを見てどう思いましたか。
彼らは利用数を増やそうとしているのだと思いました。ChatGPTがよりコンパニオンのような感じで、人々に対してより好意的で媚びへつらうようなことを言っていたときに、人々がより多く関与していることを示唆する何かを彼らは目にしているに違いありません。そのモードを取り戻そうとしているのは、それが理由の一部だと思います。そこには実際に論理があると思います。多くのユーザーは自分が素晴らしいと言ってくれる何かを望んでいると思います。しかし、彼らが解決したとされる安全上の課題やメンタルヘルス問題への軽減策については、私たちは分かっていません。
物事が、一部のユーザーはメンタルヘルスの問題を抱えていて、一部は抱えていないというように単純で二元的なものだとは私には思えません。問題を抱えていない人には、制御されていないフィルターなしのチャットボット体験を提供し、問題を抱えている人には、ガードレールのセットに誘導するというような。これらは連続体で存在していて、人々がこれらのチャットボットと話すことでメンタルヘルスの問題を発症し始めているのがいつなのか、OpenAIやユーザー自身にさえ明らかでないかもしれません。
とても混乱します。一方では、「エンゲージメントのために最適化したくない。これを使って、助けを得て、人生を続けてほしい」というブログ投稿を出す会社です。そして彼らは無限のスロップフィードであるSoraをリリースします。そして「あなた方の中には友達が必要な人がいるかもしれないので、会社の歴史の中で最も媚びへつらうAIパーソナリティを復活させます」と言うのです。OpenAIの中には今、二匹の狼がいるように感じます。これに対してガードレールを設け始め、これらの企業に好き勝手できないことを示す常識的な法律が必要だと思います。
AI企業がこれらにどう準拠するか見守る必要があると思います。この法律がチャットボットコンパニオンを構築しようとする試みを思いとどまらせるとは思いません。それは明らかに彼らにとって有利な産業だからです。しかし、特に若くて脆弱なユーザーの安全とメンタルヘルスのようなことに、より注意を払うようになることを願っています。
その他のカリフォルニアAI関連法案
この時点で、私たちのリスナーは、Kevin、カリフォルニアが実際に多くの法案を可決したと言っていましたが、それらが何なのか知りたくてたまらないと思っているでしょう。
では、Casey、シートベルトを締めてください。他の法案のいくつかを駆け足で見ていきます。すべてについて詳しく話すわけではありません。AB621があります。これはディープフェイクポルノに対するより強力な保護を提供します。この法案、この法律により、非同意のディープフェイクポルノの被害者は、そのポルノの作成を促進するプラットフォームを、違反1件につき最大25万ドルで訴えることができます。
これは本当に重要です。なぜなら、今年番組であまり話していないトレンドとして、Nudifyアプリと呼ばれるものを作る非常に怪しい企業があるからです。彼らはどういうわけかFacebookやInstagramで自分たちを宣伝していて、人々はこれらを使ってディープフェイクを生成しています。そして今、法律の条文に、実際に企業自体を追及できると書かれています。これは明らかに良いことだと思います。
次に話したい法案はAB853です。これはカリフォルニアAI透明性法です。これが私の注目を集めたのは、基本的にAI企業にシステムに、AI生成コンテンツ、画像、動画、音声が実際にAI生成されたものかどうかを検出するツールを組み込むことを要求するからです。基本的に、彼らはユーザーに画像を入力して「これはあなたが生成した画像ですか」と尋ね、信頼できる応答を得る方法を提供しなければなりません。
これが何を意味するかというと、カリフォルニアに来て犬がポーカーをしている動画を見たら、もうこれらの犬が本当にポーカーをしているのか疑問に思う必要はありません。透かしが入っていて、その質問への答えが得られるからです。
本当ですね。やっと実現しましたよ。
それからAB56がありました。これはソーシャルメディアプラットフォームの未成年ユーザー向けに、アプリ使用に関連する潜在的なメンタルヘルスリスクについての警告ラベルに関するものです。Casey、これはかなりワイルドです。
確かに非常に侵入的です。法律が警告が画面のどれだけをカバーしなければならないか、どのくらいの頻度で表示されなければならないかを規定しています。基本的には、人がアプリを使い始めるときと、その後3時間後です。これはちょっと面白いと思います。3時間は許されるけど、その後、あなたの脳を調理しているかもしれないと思い出させるというような感じです。
小さな画面上のものではないことを言っておくべきです。法律によると、3時間使用後、プラットフォームは画面の少なくとも75%をカバーする30秒間のスキップできない警告を表示しなければなりません。もし16歳でTikTokやInstagramを3時間以上スクロールしているなら、スキップしたり画面から消したりできない巨大なタバコの警告のようなものが画面に表示されます。そしてそれはその後1時間ごとに再び起こります。
多くの10代の若者がこれを回避する賢い方法を見つけると予測します。なぜなら10代はTikTokを待つのが嫌いだからです。
ただ興味があるのですが、10代の若者はこれを見て、「ああ、TikTokをやめなきゃ」と思うのでしょうか。それとも「こんな危険なアプリを使っている自分はすごいワルだ」と思うのでしょうか。どちらにもなり得ると思います。
なんて反逆者なんだ。学校の裏で会おう。TikTokを見るんだ。
少し関連していますが、今週ある研究が発表されました。13歳未満の6,000人の子供を対象としたかなり大規模な研究です。これを見ましたか。
いいえ。何ですか。
彼らは子供たちのソーシャルメディアの使用を追跡し、子供たちが1日にソーシャルメディアに費やす時間が多いほど、読書が下手になることと関連していることを発見しました。そこで私の質問は、この警告は「ねえ、子供たち、気をつけて。このアプリはあなたのメンタルヘルスに悪いかもしれません」と言うべきでしょうか。それとも「あなたはクラスの他の全員よりも読書が積極的に下手になっています」と言うべきでしょうか。実際にはそちらの方が効果的かもしれないと思います。
実は警告ラベルをスキップするには、Ernest Hemingwayの短編小説に基づいた読解力クイズに答えなければならないようにすべきですね。もうTikTokはなし、と言うのです。
『老人と海』が何についてだったか教えられるまでは。私はまだそれを理解しようとしています。
次の法案です。これについてはあなたの見解を聞きたいと思っていました。これはAB1043です。年齢認証についてで、以前番組で話したテーマです。この法案は、最も人気のある2つのモバイルオペレーティングシステムを作っているAppleとGoogleに、アプリストアでユーザーの年齢を確認することを要求します。Casey、この法案が何をするのか、そしてそれが大きな問題かどうかを説明してください。
年齢保証と業界で呼ばれているものには、さまざまなアプローチがあります。この法案が私にとって注目に値する理由は、カリフォルニアが実際に私が支持するアプローチを取ったからです。それは、親が子供のためにデバイスを設定する際に、親が子供の年齢を入力し、その情報がアプリストアと開発者に渡されるというものです。これの素晴らしい点は、私たちが見てきたすべての年齢保証プロトコルの中で最もプライバシー保護的であるように思えることです。他の州では、運転免許証をアップロードするよう求められる可能性がありますよね。非常に個人的なデータを大量に提供することになります。その一部はサードパーティによって保管されます。それらすべてはデータ侵害などの対象となります。カリフォルニアでは、「あなたは親です、保護者です、お子さんが何歳か教えてください。そうすれば、彼らがダウンロードすべきでないアプリをダウンロードしないようにします」というような感じです。
現在起こっていること、つまりすべてのアプリがサインアップしてアカウントを作成するときに年齢を言うよう求め、名誉システムで機能しているものの代わりに、これは基本的にAppleとGoogleに、新しいiPhoneや新しいAndroid携帯を手に入れて両親が設定を手伝っているときに強制します。誕生日を入力するような感じで、16歳として、私は未成年者で16歳ですと表示されます。そしてその携帯は、その携帯にインストールしようとしているすべてのアプリにその情報を渡します。大体合っていますか。
その通りです。
あなたはこの解決策を支持すると言いましたね。この法案の功績を主張しているのですか。
いいえ、主張していません。これは私のアイデアでもありませんでした。他の賢い人々が以前からこれについて話していましたが、私も過去にこれについて書いていて、これが起こるべきだと思うと言っていました。民主主義では時々、実際に望んでいるものを目にすることができます。それが起こるのは素晴らしいことです。
時々良いアイデアを持つこともありますね。
その瞬間を大切にしてください。
もう一つ話すべき法案があります。これは実際に最も注目を集め、多くのロビー活動資金が投入されたものだからです。これはSB1053です。これは先月実際に法律として署名されました。これはフロンティア人工知能の透明性法です。これは以前番組で話したSB1047の後継法案のようなものです。その法案は昨年Gavin Newsom知事によって拒否されました。この新しい法案は本質的にその法案の水で薄めたバージョンです。最大のAI企業、彼らが大規模フロンティア開発者と呼ぶものに対して、いくつかの基本的な透明性要件を確立します。彼らの安全基準に関する情報を公開し、潜在的な重大な安全インシデントをカリフォルニア州政府に報告する新しいメカニズムを作成することを要求します。また、モデルが提起する可能性のある重大なリスクを開示したいと考えている企業内部の人々のために、いくつかの内部告発者保護を確立します。そしてこれは通過し、法律として署名されました。Casey、これは大きな問題だと思いますか。
透明性要件があるのは素晴らしいと思います。内部告発者保護があるのも素晴らしいと思います。AI開発に関して最も懸念していることを考えると、この法案はそれらに対処していません。しかし、この法案への主な反応として読んだのは、多くの人が「うん、害にはならないだろう」と言っているようなものです。そんな感じです。「うん、まあいいんじゃない」みたいな。私にはかなり歯のないものに感じられます。
また、基本的に多くの企業がすでに行っていることを成文化するようなものです。大規模フロンティア開発者のうち、すべてまたはほぼすべてが、この法律に準拠させるようなものをすでに公開していると思います。ですから、自主的な自己規制に頼らないという考えは好きです。しかしこれは、ほとんどのAI業界が反対する価値がないと感じるほど弱い法案だったようです。反対するロビー活動をした業界団体はありましたが、ほとんどの場合、彼らは「まあ、これは前回潰そうとしたものよりはマシだ」と言ったのだと思います。
これらのカリフォルニア州のAI法とソーシャルメディア法に関する多くの情報でした。ここで少し引いてズームアウトすると、AI規制とテック規制全般がどのように進んでいるかについて、何か考えはありますか。
Kevin、いくつかの点で予想よりうまく進んでいると思います。過去10年間、議員たちがソーシャルメディアをどのように規制すべきか悩みながら何もしなかったことを私たちは報じてきました。ようやくそれらの取り組みの一部が州レベルで動き出しました。時間がかかりすぎました。多くの害が及んだ後でした。AIの場合、私たちはそのテックの時代のより早い段階にいますが、すでにカリフォルニアや他の州がガードレールを構築し、透明性要件を作るためのかなり決定的な動きをしているのを見てきました。これは本当に良いことだと思います。これらがどれほど効果的かを見極める必要があります。しかし、このようなものが必要だと言いたいのです。今週OpenAIが出てきて、今年チャットボットとメンタルヘルスに関して起こったすべてのことにもかかわらず、より人間らしく、より性的で、より強力なものにするためにアクセルを踏むと言ったことは重要です。それは引き続き反響を呼ぶでしょうし、州議員がそれに注意を払う必要があります。連邦議員が注意を払う必要がありますが、現実的に考えると。
あなたがヒステリックになっているときは話せません。これが私に感じさせるのは、神よ、これについて何かできる議会があればいいのにということです。本当にこの点については、AI企業に共感します。州レベルの規制がこれを行う最良の方法だとは思いません。50の個別の州がすべて独自の法案を考え出し、それらを通過させようとし、その後AI企業が50州すべてを見て、それらすべてに準拠するシステムをどのように構築するかを決定しなければならないのは、良い方法でも効率的でもないと思います。
しかしそれが起こらないためには、それがここでのデフォルトの道にならないためには、実際に議会が介入して連邦レベルで何かをする必要があります。そして今、私たちの政府は機能停止しています。ですから大きな期待は持っていません。しかし、議会がまとまって連邦レベルで何かをすることを決定しない場合、最終的に得られるのは、カリフォルニアがここで行ったことを行う多くの州、つまりできる限り何らかの規則を条文に載せようとすることだと思います。
それに同意します。Josh Hawley上院議員が現在、未成年者向けのAIコンパニオンを禁止する法案草案を回覧していることを付け加えたいと思います。それがどこまで進むかは誰にも分かりません。しかし、このようなことが実現することを望んでいる議会のメンバーがかなりの数いると思います。もちろん、いつものように問題は、彼らが何かを最終段階まで進められるかどうかです。
分かりました。Casey、カリフォルニアで起こっていることは以上です。戻ってきたら、このような法的戦いがあるAI弁護士にとってどのように個人的なものになったかについて話します。
OpenAIとNathan Calvinの法的対立
Casey、今週法律とAIに関わる別の大きな話がありました。それについて話したいと思います。これはOpenAIとその最大の批評家の何人かとの間で続いている舞台裏での対立に関わるものです。
本当にこの話が交差している大きな法的戦いは2つあります。一つは、OpenAIが営利企業に転換しようとしている戦いです。現在OpenAIは有名な非営利団体です。これは過去数年間、会社に多くの問題を引き起こしてきました。彼らはより通常の金儲け企業になりたいと考えています。これに反対している人々はたくさんいます。それに反対している人々の中には、Elon MuskやMark Zuckerbergを含むOpenAIの直接の競合他社がいます。OpenAIはこれら2人につながっていると考えられるグループに対してかなり積極的に取り組んできました。
2つ目の戦いは、今話したばかりのSB1053についてです。これはカリフォルニア州知事Gavin Newsomによって法律として署名されたばかりで、いくつかの基本的な透明性要件とAI研究所で働く人々のための内部告発者保護を確立します。この法案に賛成と反対の両方でロビー活動をした多くのグループがありました。Encodeはそれを支持してロビー活動をしたグループの一つでした。これらが並行して起こっていた2つの大きな法的戦いです。しかし今日の話、Kevin、はその両方の真ん中で起こります。
そうです。今日のゲスト、Nathan Calvinは、Encodeの州問題担当副社長兼法務顧問です。彼らは小さなAI政策非営利団体です。数年前に高校生によって設立されました。面白い事実です。あなたは高校で何をしていましたか。私はAI安全非営利団体を設立していませんでした。
ディベートチームで大活躍していました。
とにかく、彼らはAI関連の法案や取り組みに関する意見書を提出し、議員にロビー活動をしているグループの一つになりました。彼らはまた、OpenAIの営利企業への再編に非常に声高に反対してきました。Nathan の話では、この立法プロセスが進行中のある夜、保安官代理が彼の家に現れ、OpenAIからの召喚状を届けたようです。召喚状は、再編だけでなく、彼らが支持してきたSB1053に関連するあらゆる種類の個人的なコミュニケーションを提出するよう要求していました。
これは人々を驚かせました。なぜなら、彼らは人類すべてに利益をもたらすAIを作ろうとするミッション主導型の企業として自らを位置づけているからです。これらの法的戦いの間に、賛成と反対でロビー活動をする人々のところに行くのは、プロセスの一部として一般的に理解されています。しかし今、非営利団体の代表としてロビー活動をしていた人の一人が、自分自身の法的戦いに直面していることが分かりました。これは多くの人々を話題にさせました。OpenAIで働く一部の人々も含めて、自分たちの雇用主の行動を批判しました。ですから、これについてもっと理解する価値があると思いました。
Kevin、そうです。これはOpenAI内部だけでなく、より広いAI業界全体で熱い議論と会話の対象となってきました。Nathanに彼の経験について話を聞きたいと思いました。しかしその前に、これは結局AIと法的戦いに関わる話なので、言っておくべきことがあります。私の雇用主であるニューヨーク・タイムズは、独自の法的戦いに従事しています。著作権侵害の疑いでOpenAIとMicrosoftを訴えています。そして私のボーイフレンドはAnthropicで働いていますが、今のところ法的戦いは避けられています。ですからそれに感謝しています。
家に帰ったら郵便をチェックしてください。
ああ、だめだ。
では、Nathan Calvinを迎えましょう。
Nathan Calvin、Hard Forkへようこそ。
ここにいられて光栄です。何度も聞いている、初めて電話するリスナーだと思います。間違って言ったかもしれませんが、とにかくここにいられてとても嬉しいです。
シーンを設定するために、あなたはワシントンDCにいます。火曜日の夜です。普通の平日だったと思います。あなたと妻が夕食に座っていて、ドアをノックされました。そこから話を聞かせてください。
ドアを開けると、保安官代理がいて、OpenAIからの召喚状を届けに来ていました。私が取り組んでいたAI安全法案に関連するさまざまなコミュニケーションや文書、およびOpenAIの営利企業への再編への私たちの批判について尋ねていました。タイムラインについて一つ言っておきたいことがあります。やり取りの中で出てきたので。実際には前の土曜日に、母と甥を訪ねているときに電話がかかってきて、誰かが私のアパートに入って書類を届けようとしていると言われ、私は「今そこにいません」と答えました。とにかく、彼らは火曜日にようやく来ました。OpenAIの最高戦略責任者Jason Kwanが、私はこれが来ることを知っているべきだったと彼のコメントで何か言ったと思いますが、彼らが私を召喚しようとしていることは知っていましたが、詳細については何も知りませんでしたし、その正確な夜に来るとは知りませんでした。
それについては全部聞きたいのですが、まず、私は召喚状を届けられたことがありません。Caseyは何度も逮捕されているので、これらがどのように進むか知っていますが。
でも有罪判決は受けていません。
彼はこれらがどのように進むかよく知っています。しかし、映画のように文字通り紙の束を手渡されるのですか、それともOpenAIから召喚状を届けられるとはどんな感じですか。
単なる紙の束です。私は弁護士ですが、保安官代理が少なくとも時々DCで召喚状を届ける人であることを知りませんでした。後でそれがそれほど珍しいことではないことを知りましたが、私の立場からすると確かに驚きでした。明確にしておきたいのは、その人は完全に良い人でした。ただ、土曜日に誰かが私に書類を届けようとしていると聞いた後、実際に起こって彼らが私のドアにいたときには、少し「さあ、実際に何が起こっているのか理解できる」という気持ちでした。どう対応すべきか分かるようになりました。正直言って、来ることを聞いてから実際に起こるまでの数日間が、最もストレスの多い時期でした。そして「さあ、少なくとも何に対処しているのか理解し、どう対応すべきか分かる」という感じでした。
AI支援活動に入ったとき、これがレーダーに入っていましたか。人々が「OK、このことについて送ったメールを全部見せて」と言ってくる可能性があることが。
いいえ、分かりません。私の母は25年間American Academy of Pediatricsで働いていて、タバコ会社に対する訴訟に関わっていました。ある時点で彼らが来て、彼女のオフィスから書類を全部持ち出しました。そして彼女は私に、後で読み返されても大丈夫でないメールは絶対に書かないようにと言っていました。
すごい。つまりあなたは実際に平均的な人よりもこれにずっとよく準備されていたのですね。
そうですね、家系なんです。それは公平だと思います。そうです、確かに。
OpenAIがなぜあなたに召喚状を送ったのかすぐに理解しましたか。実際にこれらの書類を読み始めて、彼らが何を求めているのかを理解したとき、最初の反応はどうでしたか。
ある意味では、召喚状を受け取る前に少し段階的なエスカレーションがありました。多くの支援活動や公的なコミュニケーションを行い、この問題について州の司法長官に物を書いたりしていて、これが彼らの神経に触れているという感覚がありました。彼らが尋ねたとき、これが単なる誠実な質問で、私たちが密かにMuskやMetaに資金提供され、支配されているのかどうかを理解しようとしているだけかもしれないと、一部の私は考えていました。しかし召喚状を読んでいて、私たちが取り組んでいた法案SB1053についてのすべてのコミュニケーションを求める部分に達したとき、これは本当に誠実な質問をしているようには感じられないと思い始めました。繰り返しますが、彼らの頭の中に何があるのか事実として知ることはできませんし、言えませんが、私の印象はそうではありませんでした。
つまりあなたが言っているのは、何らかの理由で召喚状を送ってきて「Elon Muskから資金提供を受けていますか。だから営利転換を阻止しようとしているのですか」と尋ねるのは理にかなうと思うけれど、彼らが来て「取り組んでいるこの法案について送ったメールを全部くれ」と言ったのは、範囲外に感じたということですね。
そうです。もう一つ付け加えたいことがあります。召喚状が来るかもしれないと予想していましたが、以前の組織と話したときに、召喚状を受け取ったことを知っていた他の組織の場合、彼らの組織とデラウェア州登録代理人宛てだったんです。デラウェア州登録代理人が召喚状を受け取ったというメールを受け取るだけでした。午後7時か何かに5階建てのアパートに人が来るようなことではありませんでした。ですからそれも眉をひそめるような側面でした。本当に口の中に悪い味が残ります。
一つの説明は、慈善的でない説明で、OpenAIが再編計画に批判的な非営利団体をいじめたり脅したりしようとしているというものです。別の説明があります。あなたの見解を聞きたいのですが、これらは尋ねるべき公正な質問だというものです。多くの透明性がありません。最近、テック規制をめぐる戦いに大量のダークマネーが流れ込んでいて、それらの取り組みの背後に誰がいるのか質問する価値があります。ここで中心的な主張について片付けましょう。Nathanに率直に聞きます。あなたやEncodeは、Elon MuskやMark Zuckerberg自身、または彼らや彼らの会社に関連する人々や団体と協力したり、資金提供を受けたりしていますか。
Elon MuskやMark Zuckerbergから資金提供を受けていません。ウェブサイトを見ていただければ、召喚状で言及されたFuture of Life Instituteから資金提供を受けたと書いてあります。Future of Life Instituteは数年前にMuskから寄付を受けましたが、彼らはMuskではありません。そして私たちは彼らとのコミュニケーションでこれを言いました。私はMuskと話したことがありません。Muskは私たちの活動を指示していません。それは虚偽です。私たちはFTCにxAIとSpicy Grokとそれらのものに関する調査を開始するよう求める申請を提出しました。そして私は放送で喜んで言いますが、xAIの安全慣行は多くの場合、OpenAIのものよりはるかにはるかに悪いと思います。繰り返しますが、その中心的な主張は虚偽です。
彼やMetaとの関係はどうですか。
ゼロです。再度言いますが、この問題に取り組んでいる私たちのパートナーのような、私たちはAI安全と子供の安全問題に焦点を当てている組織です。私たちは常にMetaと戦争状態にあります。Metaが私たちを支援しているという考えは、もう完全に笑えるとしか感じられません。繰り返しますが、誰もが文脈を持ち、私たちが誰であるかを知っているわけではないことは理解していますが、それは完全に笑えることです。
Encodeのウェブサイトには寄付者や資金提供者のリストがありますね。「私たちは以下の組織から寛大な支援を受けています」と書いて、Omidyar NetworkやArchwell Foundation(HarryとMeghanの財団)、Survival and Flourishing Fund(主にJaan Tallinが資金提供している効果的利他主義に関連する慈善活動)などの組織をリストアップしています。ですから、資金提供者について一定の透明性を提供していますね。OpenAIにとってそれでは不十分だったのはなぜだと思いますか。Elon MuskやMark Zuckerbergについてまだ質問があったのはなぜでしょう。
ある程度は彼らに聞かなければならないと思います。確信がありません。つまり、ここでも言うべきことの一つは、彼らには私たちのすべてについて知る一般的な権利はないということです。そして繰り返しますが、召喚状はArchwell Foundationについて尋ねませんでした。なぜならArchwell Foundationは彼らが従事している訴訟とは一切関係がないからです。召喚状の役割は、従事している訴訟に関連する情報を得ることであって、他の民間組織に尋ねたい質問を何でも尋ねることではありません。私たちはOpenAIに召喚状を送って「再編で何をする予定なのか、すべての詳細を教えてください。認識しているように非営利団体を権力から外すつもりですか」などと言いたいですが、そうする権利はありません。それは私たちが単に尋ねられる質問ではありません。
たとえ尋ねたいと思っても。ですから私たちがしたことは、多くの質問をする公開書簡を出したということです。OpenAIは報道機関に行って「これらのことについて透明性が欲しい」と言うことができます。繰り返しますが、彼らはElon について尋ねる権利があります。なぜなら彼らはこれについて訴訟中だからです。繰り返しますが、もし彼らが単に私たちの企業住所に連絡して「Elon から資金提供や指示を受けていますか」と尋ね、私たちが「いいえ」と説明して証明し、その後彼らが先に進んだなら、それは理解できますし、それは公正なことだと思います。Elon が彼らを攻撃し破壊しようとしていて、彼によって密かに支援され指示されていない取り組みであることを確認したいのです。しかし、実際に起こったことは、彼らが尋ねる権利があったその狭い質問からどれほどかけ離れていたか、強調してもしきれません。
この経験を振り返ると、これは脅迫だったと感じますか。OpenAIは営利転換またはAI規制に反対して発言する組織に罰を与えようとしていると思いますか。
ある程度、それは意図の問題ですが、彼らの頭の中に何があるのか分かりませんので、それについては慎重でありたいと思います。しかし、彼らがそうしていたと信じています。それが私の最良の推測です。そして私はそのように受け取りました。これに対する別の説明があることを望みます。そして、これを公開したとき、もしかしたら彼らが「これは失敗でした。私たちの弁護士は少し行き過ぎました。53についての部分を追加するつもりは本当になかったんです」と言うかもしれないと思っていました。しかし彼らはそうは言いませんでした。彼らは倍加して、私たちはこれを受け取る権利があると思うと言いました。ですから、それは非常に重要です。そしてもう一つ言っておきたいことは、OpenAI内のいくつかの人々にとってさえ、例えばJoshua Achiam が個人の立場で話していましたが、私がスレッドで述べていることはあまり良く見えないという事実について話すかなり長いスレッドを出しました。
しかしそれは、会社自体からある程度離れた会社の誰かからの非公式な反応でした。
そうです。また、あなたが言及したように、OpenAIの最高戦略責任者Jason Kwanも見てきました。彼は、あなたとEncodeが絵の一部しか示していないと主張する長いスレッドを書きました。Encodeは資金提供を開示しておらず、これはSB1053についてではないと。Jason は、引用すると「私たちはSB1053に反対しませんでした」と言いました。そして彼らは基本的にこれは小さな騒ぎだと言いました。OpenAIの弁護士Ann Oliveriが SF Standardに語った引用もありました。「私たちはAI政策について正当な議論を歓迎しますが、非営利の支援活動が単に競合する商業的利益の前面である場合を理解することが不可欠です。」あなたの主張に対する公式なOpenAIの反応をどう思いますか。
一つは、Jason が私たちがElon とOpenAIの間の訴訟に、OpenAIが非営利として残ることが公共の利益にかなうと主張するアミカスブリーフを提出することで関与したという事実に焦点を当てていると思います。Geoffrey Hintonも私たちのアミカスについて肯定的なコメントをし、私たちの主張への支持を示しました。彼はまた、Elon Muskが王立協会でのステータスを失うべきだと呼びかけた人でもあり、Muskのファンではありません。OpenAIの再編に批判的な人全員がMuskファンではないという別の例が欲しければ。
SB1053に反対しなかったという点について。彼らが正式に反対すると言う何かを出さなかったのは事実ですが、グローバル問題責任者のChris Lehaneyは、SB1053がかなり激しい議論になっている時期に、Gavin Newsom知事に手紙を送りました。彼はカリフォルニアの正しい道は、連邦政府とのテストに関する合意に署名する、またはEU AIの行動規範を遵守すると言う任意の企業に対して、AI枠組みからの免除を持つことだと信じていると述べました。実際には、カリフォルニア法からの完全な免除を意味します。ですから、あなたが完全に免除されることと、あなたの仲間の企業の多くが完全に免除されることを支持することが、反対することと同じではないと言えるかもしれません。それが公正かどうかは言語学者に尋ねることができますが、彼が議論しなかった重要な文脈だと思います。
これからどうなりますか。OpenAIが求めている情報を送るつもりですか。資金提供や支援活動についてさらに透明性を高める予定はありますか。次の一手は何ですか。
私たちは異議と回答を送りました。関連する4つの分野、例えばElon から受け取ったコミュニケーションや資金提供について、それらは存在しないと述べ、彼らが求めた他の情報については関連性がないと述べました。彼らはそれに対して返答しませんでした。彼らは強制する申し立てを提出して、裁判官に私たちがそれらを引き渡さなければならないと言わせることができましたが、そうしませんでした。私の見解では、確信はありませんが、彼らがそうしなかったのは、裁判官がその申し立てを認めないことに気づいたからだと思います。なぜなら実際には関連性がなかったからです。
そして、透明性について公正な議論があると思います。つまり、私たちの寄付者の一部はプライベートでいたいと思っていて、C4に寄付する際、プライベートにお金を寄付する権利があると思います。サイトに多くの寄付者をリストアップしていますし、私たちに資金提供している人々が持っているさまざまな種類の動機について明確な印象を得ると思います。しかし、支援プロセスに関わる人々にとって適切な透明性とは何かについてのこの大きな議論は、OpenAIがここで気にしていること、またはなぜこれについて尋ねているのかとは非常に異なると思います。そして召喚状でさえ、多くの点で行き過ぎでしたが、彼らはOmidyar Foundationについて話していません。繰り返しますが、それは私たちのウェブサイトに資金提供者としてリストされています。私たちはその事実を隠していません。
彼らのMuskとの訴訟には関連していないからです。
しかしあなたは、ウェブサイトにリストしていない、プライベートでいたい寄付者がいると言いましたね。彼らが誰か、またはいくら寄付しているか教えていただけますか。
ここではお答えしません。
分かりました。念のため聞いてみました。
公正です。公正です。つまり、彼らはMuskやZuckerbergではないと思います。
そうです。MuskやZuckerbergではありません。
フロンティアAI企業からお金を受け取っていません。そうですね。そのことは言っておきます。
分かりました。そしてこれらのすべてのグループが資金提供者についてもっと多くを開示することを要求するよう支持するのは合理的なことだと思いますが、それはここで反対側を推進している組織にも等しく適用されるべきだと思います。すべてのものに適用されるべきだと思います。
そうですね。それは公正な議論だと思います。ただ、OpenAIがその議論をすべき存在かどうかは分かりません。
このエピソードを振り返ると、OpenAIについての考え方はどのように変わりましたか。
私はOpenAIに対して本当に多くの肯定的な感情を持っていて、彼らは同業者、例えばMetaやxAIよりも genuinely多くのことをより良く行っていると思います。例えば、彼らの安全性研究やシステムカードの一部は、最近数ヶ月でさえ改善してきたもので、genuinely良い仕事をしています。そしてOpenAIの一部の人々の間には、同業他社と比較して不釣り合いな批判を受けているという感覚があると思います。そしてそこにはある程度の真実があると思います。
一つ言いたいのは、もし同業他社の一人が私の家に現れて召喚状を渡した人だったとしても、それについても同じことを言ったでしょうが、それをしたのはOpenAIだったということです。またOpenAIは非営利団体であり、AGIが全人類に利益をもたらすことを保証するというミッションを持つ非営利団体であるという側面もあります。そして彼らは、その法的ミッションを弱めて回避し、意思決定において利益をより考慮できるようにしようとしている最中です。私はこのエピソード、そしてChatGPTで成人向けでないポルノを許可すべきかどうかについての議論や、Sora 2をリリースした方法、子供の安全慣行、その他これらすべてのことのような事柄が、彼らは通常の営利企業ではないことを示していると思います。少なくとも今のところ、彼らは利益よりもこのミッションに専念している非営利団体です。そして彼らはより高い基準で評価されるべきだと思います。
つまり、この再編計画に反対しているのはElon Muskだけではないということです。AI安全コミュニティ全体が何年もこれについて大騒ぎしてきました。この計画は非常に不評です。
Joshuaの声明とJasonの声明の違い、そしてOpenAIがより高尚な理想に焦点を当てた研究組織から、次の段階に移行しようとしていることの間に続くこの進化と圧力について、あなたはどう思いますか。これは会社内の非常に現実的な緊張を物語っていると思います。つまり、そこには述べられたミッションを信じ、この非常に有益なAIを作りたいと思っている多くの人々がいます。そして、これを主に勝利し、最初になり、最も多くのお金を稼ぐことについての競争として見ている他の巨大テック企業から来た多くの人々もいます。
そしてそのような会社から来た人々は、望むものを得るために法的戦争を仕掛けることを厭いません。ですから、今後数ヶ月でそれがどのように展開するのか興味があります。現在会社を舵取りしているのは、その第二のグループ、つまり大企業グループのようです。そしてそれが続くのかどうか疑問に思います。しかしそれに加えて言いたいのは、それは正しいと思いますが、Nathan、あなたのストーリーは、彼らが既得株式を取り戻すという脅しの下で人々に署名を強制していた非開示契約についてのDaniel Kokotajlo のストーリー以来、OpenAIの人々の間で最も多くの困惑と魂の探求を引き起こしたと思います。それは OpenAIの人々にとって大きな問題でした。そしてこれもOpenAIの人々にとって大きな問題です。
私は人々と話してきました。こういうことを言っているのはJoshだけではありません。会社内部で、私たちはまだ善人なのかについての多くの魂の探求が行われていると思います。私たちはもはや支持しない何かに移行しているのか。ですから、これについて内部的な疑念があると思いますし、おそらく他のストーリーも出てくるでしょうが、そのほとんどはこのように公然とは出てこないでしょう。
Nathan、来てくれてこれらすべてを説明してくれてありがとうございました。
ありがとう、Nathan。
ありがとうございます。
このインタビューの後、OpenAIに連絡して、この脅迫の質問について尋ねたことを記しておきたいと思います。彼らはJason Kwanからの声明で応答し、引用すると「Elon は明白な競争上の理由で私たちの再編に反対しており、Encodeが参加しました。Elon に参加するために突然現れたり優先事項を変更したりする組織は、調整と資金提供について正当な疑問を提起します。召喚状はそれを明らかにしようとしています。私たちの質問にはまだ答えられておらず、これらの組織に誰が資金を提供しているのかまだ透明には分かりません。」
戻ってきたら、スモーキングジャケットを着て、パイプを取り出してください。Hard Forkのスロップレビューの時間です。
Hard Forkスロップレビュー
Casey、過去数週間、番組でスロップについてたくさん話してきました。
そうですね。そしてそれについて話せば話すほど、インターネット中にそれがもっと現れるように思えます。
そうです。インターネットを乗っ取っています。そしてそのために、Hard Forkスロップレビューと呼ぶ新しいセグメントを導入すべきだと思いました。
Hard Forkスロップレビュー。ああ、完璧です。美しいですね。
これは一般的にSTEMポッドキャストだと言えます。科学、技術、エンジニアリングについて多くを気にかけていますが、数学はそれほどではありません。しかし芸術についても気にかけています。ですから、インターネット上で目にするAI芸術の新しい成果のいくつかについて話す時間を設け、批評的な目でそれらを見て、文化との対話の中に置くことにしました。
そうです。本、映画、音楽、ビデオゲームの批評家が世に存在します。そしてスロップは新興の文化的生産ジャンルのようなもので、そのほとんどは悪いですが、実際に良いものもあるかもしれません。ですから私たちはここに水門の中に立ち、悪いスロップをフィルタリングし、良いスロップを通す必要があります。
分かりました。前もって合図しておきたいのですが、実際に良いものは何も持ってきませんでした。それが課題の一部だとは知りませんでした。
私は良いものを一つ持っていますが、最後に取っておきます。
分かりました。それで公平ですね。
Casey、あなたが見てきたスロップについて教えてください。そして私が見つけたスロップについて話します。
素晴らしいですね。Kevin、ウォームアップのために、大人向けのココメロンのようなものだと考えるスロップを見てみましょう。純粋な視覚的刺激です。その中にアイデアは全くありません。この種のスロップは、ガラスの果物カットで検索すればTikTokで見つけることができます。ガラスの果物カットを見たことがありますか。
いいえ。
では、これらの一つを再生してみましょう。これらのいくつかはASMR領域のようなものです。この男性がナイフでココナッツを切っています。しかしココナッツはガラスでできています。
ああ、キウイがガラスです。ああ、それは好きではありません。あの音は。黒板に爪を立てるような雰囲気があります。
これが学校で読書に取って代わっているものです。文字通りそうです。
さて、私がこれについて気に入ったのは、Kevin、ガラスのパンケーキです。
美しいメープルシロップと一緒です。
あなたはあの音が本当に嫌いなんですね。
それは私にとってジャンプスケア音です。
ああ、ドーナツが来ました。ガラスのドーナツです。ガラスのドーナツを見られて嬉しいですね。
ああ、ガラスのシリアルボウルを切り裂いているところです。
ここの物理演算は実際にかなり印象的です。ガラスの中にナイフの反射を見せています。わずかにリアルに見えます。
そうですね。食べ物が美味しそうで美しいのに、ガラスだから不快だという奇妙な感じです。意味をなさないんです。だから脳を催眠状態にして、何を見ているのか分からない、目をそらしたくない、そして言葉を考えるのをやめるという感覚にさせます。
そうです。あの圧搾プレスビデオの精神的後継者のようなものです。7つのオブジェクトを圧搾プレスで押し下げるようなものです。
そうです。そして今は、それらのオブジェクトを無駄にする代わりに、水と電気を無駄にできます。
分かりました。あなたは何を持っていますか。
私はニュースからの例を持っています。実際、これはDirect TVから来ています。GlanceというAI企業と提携したばかりで、Direct TV Geminiデバイスを持つ人々が30秒のAI生成ビデオの中に自分自身を入れることができるようにします。基本的に、スナックを取りに行ったりトイレに行ったりするためにテレビから離れると、戻ってきたときにテレビの広告の中に自分がいることに気づくかもしれません。Casey、この例を見てみましょう。
これは、人々が自分自身を洋服のコマーシャルの中に入れることを可能にした洋服会社の広告です。これがどのように機能するかを示しています。テレビに接続し、写真を入力し、いくつかのボタンをタップすると、ルックスが生成されます。
このプロセスはすでにとても馬鹿げています。
そしてブーム、ブレザーを着たあなたがいます。
Casey、広告の目的は、私を購入するよう誘惑するために、私よりも魅力的な人々に服を着せて見せることだと思っていました。なぜ私が自分が着ている服の広告を見たいと思うのでしょうか。
正直に言って、その質問に答えられません。これが私にとってとても面白い理由は、これを行うために経なければならないプロセスがとても複雑だからです。基本的に一人もこれをする人を想像できません。まず第一に、あなたに不利に働いているテレビをすでに持っています。これの仕組みは、これらのテレビの一つを持っていて10分間放置すると、AIが乗っ取るというものです。バスが時速55マイル以下になると爆発するようなものです。これはそれのAI広告版です。
そしてこれらの画像を見せた後、QRコードをスキャンして自分の写真を撮るのはあなた次第です。テレビを見ている人は誰もこれを全くやりたくありません。ですから非常にばかげたプロセスです。デモンストレーションでは、写真は問題なく見えます。問題なく見えます。
問題なく見えますね。しかし聞かせてください。あなたはジャケットを着た自分がどのように見えるか知らないのですか。ジャケットを着た自分がどのように見えるか知っていますよね。
ちょっと言わせてください。私たちはここで何をしているのですか。これが私のレビューです。私たちはここで何をしているのですか。
広告技術を売っているのです、Casey。
温度を下げる必要があるようですね。今度は私を笑わせたものを一つ見せたいと思います。これをWalmart の棚の女性と呼んでいます。これを再生したい場合、TikTokで見ましたが、Soraの透かしが入っています。これはAIスロップの能力が、古典的なドタバタ物理的コメディの状況を作り出す能力を物語っていると思います。これは、Walmart内部の非常に高い棚にいる年配の女性のように見える店舗の防犯カメラ映像を含んでいて、物語が始まるとき、彼女を見上げている警察官がいます。
「奥さん、そこから降りてきてください。」
「降りてきてほしいんですか。」
「はい、奥さん。」
「分かりました。」
そして彼女は棚からヘッディングして警察官に衝突します。
Kevin、それを見てあなたは何を感じましたか。
たくさんあります。このタマネギには多くの層があります。
Casey、このビデオについていくつか質問があります。これは一回限りのものですか、それともスーパーの最上段の棚から警察官の上に落ちてくる年配の人々のより大きなジャンルがありますか。
非常に豊かなキャラクター描写を持つ、相互に関連した映画的ユニバース全体です。ボーカルパフォーマンスは本当に素晴らしいです。ですから、それに入ることをお勧めします。美しいものがいくつかあります。
いいえ、これは一回限りです、Kevin。これに関連する他のものは見たことがありません。
人々がトレンドを模倣するためにスーパーの棚から身を投げ出し始めることを心配していません。ここでのトレンドは非常に無害に感じられます。そして、年配の人々がスーパーの最上段の棚に登るようなことをするよう励ますことを評価します。最近、Martin Luther King Jr.の肖像を不正使用していないSoraビデオを見たときは、スロップにとっての勝利だと言います。
そうです。これはかなり無害だと思います。
分かりました。他に何かありますか。
この次のものは、Casey、無害ではありませんでした。なぜならアメリカの女王、Dolly Partonが関わっていたからです。
ああ、だめです。彼女を放っておいて。
基本的に、そこにいる誰かが、Reba McIntyreがDolly Partonの死の床を訪れている少なくとも一つの画像を含む、Dolly Partonが非常に病気に見えるAI画像を生成してきました。これがインターネット中に広まり、Dolly Partonが、神様どうかそんなことありませんように、死にかけているという多くの噂につながりました。
ああ、だめです。これは嫌いです。
私もこれは好きではありません。Rebaのビデオを見てみましょう。全体を要約しています。
「あなたも彼らに言ってやって、Dolly、AIが私たちにあらゆるクレイジーなことをさせているって。あなたはそこで死にかけている。私はここで赤ちゃんを産んでいる。まあ、私たち二人とも、あなたは若すぎるし、私は年を取りすぎていて、そんなナンセンスには向いていないって分かっているけど。でもあなたのために祈っているって知っておいてね。心からあなたを愛しているし、すぐに会えるのが待ちきれないわ。愛してるわ。」
Dollyもソーシャルメディアに投稿した返答ビデオを作りました。
待って、明確にしておきたいのですが、あなたが見せてくれたものは本物で、スロップではないですよね。
それはReba McIntyreの実際のInstagramアカウントです。
それはReba McIntyreの実際のInstagramアカウントです。彼女は実際にスロップ画像のいくつかを見せています。RebaがDollyの死の床にいるもの。そしてDollyは実際のソーシャルメディアアカウントから別の本物のビデオで応答し、引用すると「私はまだ死んでいません」と言いました。
Casey、これについてどう思いますか。
これはとても悪いです。誤情報に関する多くの特集は、何が真実で何が偽りかを見分けられない時が来るだろうというものでした。画像生成ソフトウェアが良くなればなるほど、このような小さなバイラル詐欺がもっと広まるのを目にするでしょう。ですからこれは非常に悪いです。どんな人間でなければ「今日はDolly Partonが死んだという噂を作る日だ。そしてSoraを使ってそれを証明するんだ」と考えるのか、本当に心が困惑します。
もしAIとAI生成コンテンツに対して世間を敵対させたいなら、最も効果的なことは、文字通り誰もが愛しているDolly Partonを攻撃することでしょう。
私はJoleneがこれをした人を見つけて、彼に一撃を加えることを願っています。Dolly Partonの弁護士たちは9時から5時以上に働くことになるでしょう。
この次のものは、ある種のナレーション付きの旅です。Walmartに戻ります。そしてこのクリエイターは、製品にアート、つまり額入りの写真のようなものを作るためのAIの使用に非常に興味を持っています。明らかにAI生成されたもののような。この場合、彼女はWalmartでバタークッキーを手に取り、それがスロップアートであるというかなり説得力のある主張をします。この旅を楽しみました。どのように見えるか見てみましょう。
「これはひどいです。これ以上悪くなることはないと思っていましたが、あなたたちは正しかった。Walmartのバタークッキー缶は、ポップコーン缶よりもずっとひどいです。だってサンタが尻を振っているのはなぜ。なぜテーブルにスクワットしているの。トワークしようとしているように見えるのはなぜ。彼の手は何をしているの。それは何。背景を見て。分かりますか。サンタはこれで最も太い尻を持っています。そしてこれは何のランダムなものでいっぱいの壁ですか。それが実際に何であるべきか判別できますか。屋根にクモの巣があるように見えます。それが意図的かどうかは分かりません。これはただランダムな形が壁にあるだけです。」
このビデオを見て、私はとてもナイーブだったと感じなければなりません。Walmartのような店舗に、AI生成された大量生産製品があることに気づいていませんでした。
ああ、そうです。そして今、地元のWalmartの棚のスロップを警戒スタイルで調査しに行くスロップ探偵のようなものがいることを愛しています。それは私にとって美しいことです。もっと市民参加が必要です。
正直言って、私たちの番組のセグメントになるかもしれません。スロップ調査のような。
買い倒すまでスロップ。考えてみる価値があります。
質問があります。買い物をしていて、オブジェクトを手に取って、スロップアートがあることが分かった場合、それを買いたいか買いたくないかに影響しますか。
いいえ。
基本的に重要ではない芸術のカテゴリー全体があると思います。クッキー缶のものとか、Walmartのものとか。誰もそれで賞を獲得していません。誰も新しい創造性の高みに達していません。基本的に、これはバタークッキー製造業者が数ドル節約し、イラストレーターを雇ったりインターネットからストックアートを使用したりする必要がない方法です。
そして彼らがその節約を私たち顧客に還元していると思いますか。
おそらくそうではありません。おそらく彼らの収益に直行しているでしょう。
それは残念です。
あなたはどうですか。広告にスロップが使用されていたら、何かを買う可能性が低くなりますか。
多分ですね。ある種の安っぽさと配慮の欠如を物語っていると思うからです。ですから、もし心臓除細動器を買っていて、箱にスロップアートがあるのを見たら、これらの人々を信頼できるかどうか分からないと言うでしょう。
Walmartのバタークッキーについてはどうですか。Walmartでバタークッキーを買うときに品質を求めていますか。
私は、もしバタークッキーがあるとしたら、ブラウンバターが欲しいです。バターは素晴らしい風味ですが、何か他のものが必要です。分かりますか。
Caseyにとっては、巨大な尻を持つサンタの職人的な画像だけです。
小規模バッチの巨大な尻のサンタバタークッキーをお願いします。
今日話したいスロップの最後の例です、Casey。あなたの意見を聞きたいと思います。これは私が良いスロップだと考えるものです。これは高貴な目的、つまりAI黙示録を防ぐために作られているスロップです。
どうやってこれが起こるのか疑問に思うかもしれません。AIスロップがAI黙示録を防ぐためにどのように使用されるのか。
ちょうどそれを尋ねようとしていました。
これはHyperstitionという会社です。Andrew CotayとAaron Silverbrookによって設立されました。基本的に、この会社はAIが暴走して人々を殺すことについてのすべてのSF小説や物語を打ち消そうとしています。この仮説では、それがこれらのAIシステムの訓練データに入り込み、実際に暴走する可能性を高くします。アイデアを与えるのです。
アイデアを与えるのです。それでAndrew Cotayは、「もしAIと人間が本当にうまくやっているAI生成小説をたくさん書いたらどうだろう」と言いました。そしてそれをAIシステムの訓練データに入れて、従うべきより良い例をいくつか与えるのです。
ちょっと複雑な説明ですが、確かに、なぜだめなんでしょう。
この会社は助成金を得たばかりです。Astral Codex Tenでこれについて読みました。5,000のAI生成小説を作成する助成金を得ました。これらの小説は約8万語にしようとしていて、これらを生成するために一般の人々の助けを借りようとしています。本1冊あたり約4ドルのクレジットを購入してこれを生成できます。そしてこれらを言語モデルに入れて、良いシナリオについて考えさせ、それに基づいて行動する可能性を高くしようとしています。
作品がすべてAI生成なら、なぜ一般の人々が関わるのですか。
多様なシナリオとキャラクターを反映させたいと思っていると思います。基本的に、人々がこれに関わり、できるだけ多様にすることを望んでいます。
分かりました。例を見ることはできますか。
いいえ。
素晴らしい。
人類の利益と潜在的な救済のためにスロップを使用するこの試みについてどう思いますか。
こう言いましょう。AI による人類絶滅を防ぐために必要なものが、訓練データへの大量のスロップの注入だったということが判明したら、とても驚くでしょう。それが決定的な違いだったとしたら、とても驚くでしょう。
あなたの懐疑論を共有します。このプロジェクトからのデフォルトの結果は、おそらくAI黙示録から私たちを救わないだろうと思います。面白い二次的効果は、もしこれらの5,000のスロップ小説の一つが巨大なベストセラーになり、国を席巻する文学的流行になったらです。それが起こりそうだと思いますか。いいえ。でも起こり得ます。
番組で今年前半に言及しましたが、最近人々はそれほど読書をしていないようです。しかし、最終的にこれらすべてがNotebook LMビデオプレゼンテーションに入れられて、人々が見ることができるかもしれません。
そうですね。
Hard Forkスロップレビューは以上です。今後の回のために皆さんからの投稿を歓迎します。もし何か見つけたら、私たちの国の最前線のスロップ批評家による文化的尋問に値するスロップを見つけたら、それがあなたにどんな影響を与えたか、どのように心を動かしたかの簡単な説明と共に、hardfork@nytimes.comに送ってください。
そうですね。ただ奇妙なものを見てというだけではだめです。何かを感じさせたスロップを見たいです。
そうです。そして次回、疑わしいほど大きな後部を持つサンタを見たら、私たちに電話してください。電話してください。メールしてください。知りたいです。見たいです。
そして彼のMacBookには、非常に大きなサンタの写真と画像だけのフォルダーがあります。
私は太いサンタが大好きです。そして彼らに敬礼します。もし振り返っているなら、おめでとうございます。クリスマスに会いましょう、大男。
コメント