本動画は、ニューヨーク・タイムズのテクノロジーコラムニストであるケビン・ルースと、Platformerのケイシー・ニュートンがホストを務めるポッドキャスト番組「Hard Fork」のエピソードである。前半では、MetaやYouTubeなどのソーシャルメディア企業が相次いで敗訴した最近の裁判を取り上げ、プラットフォームの設計やアルゴリズムが及ぼす害と、今後のインターネット規制のゆくえについて議論している。後半では、新著『The Infinity Machine』の著者セバスチャン・マラビーをゲストに迎え、Google DeepMindのCEOデミス・ハサビスの生い立ちや、汎用人工知能（AGI）開発に向けた彼の野心と倫理的葛藤、さらにはGoogle上層部との知られざる権力闘争について深く掘り下げている。さらに、ニュースコーナーではClaude Codeの流出やサイバーセキュリティの脅威、OpenAIの動向など、AI界隈の最新トピックについて解説している。
ソーシャルメディア企業の相次ぐ敗訴と裁判の波紋
ニューヨーク・タイムズのテクノロジーコラムニスト、ケビン・ルースです。
Platformerのケイシー・ニュートンです。今週のHard Forkですが、ソーシャルメディア企業が法廷で負け続けていますね。これがインターネットをどう再構築していくのでしょうか。そして後半では、『The Infinity Machine』の著者であるセバスチャン・マラビーをお迎えし、Google DeepMindとデミス・ハサビスによる人工超知能を構築するための探求について書かれた彼の新著について話し合います。
そして最後に、久しぶりにHat GPTで最新ニュースをチェックしましょう。
さてケビン、私たちが番組を休んでいる間、ソーシャルメディアに関連してロサンゼルスとニューメキシコの法廷で起きていたことに私は釘付けになっていましたよ。
ええ、ここ数ヶ月続いているソーシャルメディアの製造物責任を問う裁判にとって、本当に大きな一週間になりましたね。
そしてついに評決が出ました。
出ましたね。そしてどちらのケースでもソーシャルメディア側が敗訴しました。ロサンゼルスの裁判では、MetaとYouTubeが、原告にとって有害だとされる機能の設計において過失があったと陪審員が判断しました。彼らは合わせて600万ドルをこの原告に支払わなければなりません。そしてニューメキシコ州の裁判では、Metaが州の不公正取引法に違反し、製品の安全性について消費者を誤解させ、子供たちを危険にさらしたと陪審員が認定したんです。
そのケースでは、Metaに3億7500万ドルの支払いが命じられています。
ええ。このソーシャルメディア企業に対する一連の訴訟については、これまでも少し話してきましたよね。ソーシャルメディア企業というのは、ありとあらゆることで常に訴えられているものです。でも、私たちの目を引いたのは、特にあなたの目を引いたのは、これらのケースの根底にある法理なんだと思います。
ですから、それについて少し話してもらえませんか。このケースが、ソーシャルメディア企業に対して起こされてきた他の訴訟とどう違うのかということを。
そうですね、これらのケースが非常に重要である大きな理由は2つあると思います。1つは、これらがいわゆるベルウェザー（指標となる）訴訟だということです。ケビン、ベルウェザー訴訟って聞いたことありますか。
他のケースの判例となるようなケースのことですよね。
その通りです。もしこれらが成功すれば、同じ理論の下で多くの人々が訴訟を起こす水門を開くことになる、そういうケースなんです。これらのケースが本当に重要である2つ目の大きな理由は、通信品位法第230条（Section 230）にひびを入れたように見えるからです。この法律は30年間、実質的にインターネット全体を支える基盤となってきました。
歯医者さんのお気に入りの法律でもありますよね。
そうですね、Section tooth-hurty（230とtooth hurty＝歯が痛いのダジャレ）ですね。もしジョークが通じていなかったらですが。とにかく、これは超重要で、あなたが理解してくれて本当に嬉しいですよ。
いや、本当に悲しいのは、昨日歯医者に行ったばかりで、虫歯がなかったので、自分でも第230条のジョークを言おうと計画していたのに、言えなくなってしまったことですよ。
だから歯は痛くない（tooth and not hurty）と。
先へ進みましょう。第230条というのは、ケビンも覚えているかもしれませんが、ほとんどの場合、プラットフォームはユーザーが投稿したものに対して責任を問われないとする法律です。だから、もし私がFacebookであなたを中傷したとしても、それは私が毎日やろうと考えていることですが、あなたは私を訴えることはできても、Facebookを訴えることはできません。
それが、あなたの投稿に対して私がFacebookを訴えるのを何年も阻んできた原因なんですよね。
その通りです。そして昔、30年ほど前には、これが本当に重要だったんです。なぜなら、当時小さなインターネットフォーラムが立ち上がり始めていたからです。CompuServeやAOLのように大きな規模になるものもありましたが、必然的にあるユーザーが別のユーザーに対して意地悪をして、こう言うわけです。私はあなただけを訴えるんじゃない、CompuServeも訴える、AOLも訴える、システム全体を裁判にかけるんだと。そこで何人かの議員が集まって、これではインターネット全体が破壊されてしまう、フォーラムは必要だし、プラットフォームがこうしたすべてのことに責任を問われないようにする必要がある、と言ったんです。
でも今日に話を早送りすると、ケビン、インターネット上で起きている害のなかには、人々がCompuServeでお互いを中傷し合うことだけでは済まないものもあるかもしれないと、あなたも同意しますか。
はい。
ええ。そして、それが本質的にこのケースで問われていることなんです。人々はこう言っています。私たちは1996年からかなり遠く離れたところにいるようです、と。TikTokを開き、Snapchatを開くと、無限スクロールのフィードが見え、自動再生される動画が見えます。私は10代の若者ですが、真夜中にプッシュ通知の集中砲火を浴びています。摂食障害や、私を悲しくさせたり動揺させたりするようなコンテンツへと私を駆り立てるかもしれないおすすめアルゴリズムについては言うまでもありません。
そこで、こうした人々の何人かが弁護士と協力して、これは第230条が保護しようとしていたものとは実際には違うと感じる、と言うわけです。
なるほど。これは、特定のコンテンツによって害を受けたという話ではなく、プラットフォーム全体の設計についての話なんですね。設計に欠陥があると感じていると。そして、これらのケースで本当に驚くべきなのは、ケビン、陪審員が初めてこれらの原告に同意し、私たちはこの理論を支持する、これらの製品には欠陥があると思う、と言ったことなんです。
そうですね。これは、弁護士たちが見つけた、第230条に関する訴訟を回避するためのいわば裏口のようなものですね。少なくとも今回のケースでは、それはソーシャルネットワーク上のコンテンツの内容についての問題ではなく、人々に害を及ぼすソーシャルネットワークの実際の仕組みや配管システムのようなものについての問題なのだと、陪審員を納得させられることを彼らは首尾よく証明しました。
その通りです。ここで言っておくべきなのは、控訴が予想されるということであり、それが完全に決着するまでは、これがインターネットが永遠に変わった瞬間だと断言することはできません。しかし、この週末には、もしこれらのケースが支持されたらどうなるかについての多くの論評がありました。なぜなら、陪審員はこれらの主張にただただ深く同情することになりそうだからです。
プラットフォームの設計とアルゴリズムの責任
その影響について話し始める前に、これらの実際の特定のケースについていくつか質問してもいいですか。ここで実際に法廷で争われているプラットフォームのメカニズムとは何なのでしょうか。
ええ。ロサンゼルスのケースでは、問題となった設計機能の中に、使うとより美しく見えるようにしてくれるいわゆるビューティーフィルターがありました。それに無限スクロール、動画の自動再生、プラットフォームが送ってくるプッシュ通知の集中砲火、そして私はさらに問題だと思うのですが、プラットフォームを動かすおすすめアルゴリズムもありました。
そしてニューメキシコのケースでは、より子供の安全性に関するものでした。彼らは、特にInstagramが捕食者たちの遊び場になっていると主張していました。Metaがエンドツーエンドの暗号化メッセージングを提供している事実を非常に批判しており、基本的な考え方としては、Metaはこれらのプラットフォームが安全であると虚偽の宣伝をしていたが、現実には子供たちがそこで常に害を受けている、というものでした。
私が理解しているところでは、このケースは基本的に、巨大タバコ産業や、有害な製品を作る他の産業に対抗するための戦略から取られたものですよね。これが有害だと言うだけでなく、それを作っている企業はそれが有害だと知っていながら、さらに有害にしたか、計画通りにそのままリリースしたのだと。
とにかく、ロサンゼルスの裁判で披露された証拠のようなものを見たと思います。そこではMetaの従業員たちが社内のフォーラムで、これが子供たちにとっていかに中毒性があるかについて話し合っていました。それはひどいことのように思えます。
そして、それが陪審員に説得力を持ったのだと想像しますが、プラットフォームが人々を傷つけていると知っていたこと、そしてエンゲージメントを急増させるために意図的に害を高めたか、あるいはこうしたものを知りながら意図的に一般にリリースしたことについて、プラットフォームが裁判にかけられている他の例はあるのでしょうか。
ええ。この種の研究のいくつかは長年にわたって他の訴訟でも出てきましたが、これはおそらく私たちが見た中で最もダメージの大きいケースだったと思います。こうした内部調査の多くを初めて読んだと記憶しているのは、数年前のフランシス・ホーゲンの暴露の直後でしたよね。フランシス・ホーゲンがMetaを退社し、こうした内部調査の資料を大量に持ち出し、最終的にウォール・ストリート・ジャーナルや、私を含む多くの記者に共有したときです。
しかし、ケビン、ここでその調査が非常に重要だったのは、原告たちが今、欠陥のある製品を作っているという非常に具体的なケースを構築しているからです。ここ数年以前は、私たちはこのような言葉を使っていませんでした。ソーシャルメディアの害を議論する方法として、このような公衆衛生的な枠組みを本当に採用してはいなかったんです。
それ以前は、もっと漠然とした感じで、うーん、彼らはInstagramが10代の少女たちに与える影響を研究していて、少女たちの一部は本当に悪い結果になっているようだ、という感じでしたが、明確な枠組みはありませんでした。しかし今、私たちには枠組みがあり、私たちはただこう言っているんです。ねえ、あなたたちはそれを調べましたよね。一部のユーザーが本当に悪い経験をしていることを発見したのに、機能を変えなかったですよね。だからそれが重要になったんです。
では、変化について話しましょう。今回の陪審員の評決を受けて、InstagramやFacebook、YouTubeのようなプラットフォームが何を変えると予想しますか。それとも、控訴審で全てが決着するまでただ待つだけでしょうか。
正直なところ、その質問の答えはわかりません。注目すべき本当に興味深いことだと思います。あなたが今した質問は、実は非常に物議を醸すものなんです。なぜなら、これらのプラットフォームが行っていることの多くは、ただ憲法修正第1条で保護されている権利であり、そして第230条もまた多くの言論を保護しているからです。そして今、インターネット政策のコミュニティで荒れ狂っている大きな議論は、デザインをコンテンツから切り離すことができるか、ということです。これについてのあなたの考えを聞きたいです。
それは容器の問題なのか、それとも容器の中身が危険なのか、ということですよね。
ええ、そして、いや、そのような区別はできず、事実上すべてのデザインはコンテンツである、と言う人たちもいます。例えば、私があなたにプッシュ通知を送りたいと思ったら、それは憲法修正第1条に基づく私の権利であり、あなたは私にそれができないとは言えません。Instagramでスクロールできる深さに一定の制限を設けなければならないとは言えません、それは保護されています、と。
しかし、陪審員たちは正反対の見解を取っています。彼らは、明らかに機械的な設計機能だと思えるものが少なくともいくつかあると言っており、私もたまたま彼らに同意しています。
これについて話しましょう。なぜなら、ここはあなたと私が意見を異にする部分か、少なくとも私がこの理論にいくつかの不安を抱いている部分だと思うからです。
このソーシャルメディア訴訟の多くがモデルにしていると思われる、非常に頻繁に訴訟が起こされている分野であるタバコのようなものの場合、依存性のある成分がありますよね。ニコチンです。ニコチンを入れたものはすべて、ニコチンが入っている結果としてより依存性が高くなります。
タバコでもそうですし、電子タバコでもそうですし、ニコチンポーチでもそうです。もしアイスクリームにニコチンを入れ始めたら、アイスクリームの売り上げは上がるでしょう。なぜならニコチンは非常に依存性が高いからです。私が無限スクロールや自動再生のおすすめといった機能の機械的な依存性について疑問に思っているのは、もしそれがニコチンと同じ原理に従うなら、それらを持つすべての製品がはるかに人気になるはずではないか、ということです。
これについて私が考えていた一つの例がSoraです。彼らはTikTokやInstagramでうまくいっていた戦略を取り入れ、それを新しいアプリに投入しましたが、そのアプリは成功しませんでしたよね。ニュースフィードのようなものを模倣しようとしたり、動画の自動再生やおすすめアルゴリズムのようなものを模倣しようとしたりして、離陸しなかった他のアプリもあります。
だから私の頭の中にある疑問は、もしソーシャルメディアをめぐる訴訟が巨大タバコ産業をめぐる訴訟をモデルにしているのなら、すべてのプラットフォームがFacebookやInstagram、YouTubeの最も依存性の高い機能を借りようとした結果として、業界全体が押し上げられるようなことが起こるべきではないのか、ということです。
言いたいことはわかりますし、興味深い指摘だと思いますが、インターネットプラットフォームはタバコとは単に違う働き方をするのだと思います。ニコチンに関するあなたの言う通り、ニコチンはただ依存性があります。ニコチン中毒にならずにタバコを吸う人もいますが、おそらく大多数の人は中毒になります。
ソーシャルメディアプラットフォームは、タバコとは不完全な類似点しかありません。プラットフォームが、現在原告たちが訴えているような方法で真に依存性を持つためには、一定の規模に達する必要があると私は信じています。
InstagramやTikTokには何億人もの人々がコンテンツを制作しており、それによって、あなたが潜在的に見たいと思うかもしれないものの無限の供給が生まれているという事実に、何か理由があるのです。
しかし、今あなたは容器の中身について話していますよね。
ええ、多くの要素がすべて一緒に働いているのだと思います。しかし、あなたは人々がこの訴訟に対して行っている批判を提起しています。事実上、私があなたから聞いているのは、コンテンツとデザインを区別することはできない、ということですよね。
確信はありません。つまり、区別できると説得されることにはオープンだと思いますが、私の考えでは、これから得られる一つの教訓は、ユーザーを呼び戻し続けるためにこうしたメカニズムを関与させる人気のあるプラットフォームであることは非常に悪いことだが、それを行う無名のプラットフォームであることは問題ない、なぜならそれほど大きな害を及ぼさないからだ、というようなことになります。
つまり、ここで本当に問題になっているのは、これらのプラットフォームが、他のみんながコピーしようとしていることを行うのに非常に優れており、非常に人気があるという事実なのです。
はい。そしてこれは、ヨーロッパがこれらのプラットフォームを規制するために取ってきたアプローチですよね。彼らには特定のカテゴリーがあり、もしあなたが非常に大規模なオンラインプラットフォームであれば、より多くの責任を負うことになります。それは私にとって直感的に理にかなっています。より大きく、より豊かで、より強力であればあるほど、社会に対してより多くの責任を負うことになるのだと思います。
そしてこの特定のケースでは、Metaのような企業があります。彼らは認知科学者を雇い、人々が可能な限り長くInstagramを見るように脳をハッキングするあらゆる異なる方法を見つけ出すために非常に懸命に働いていることを私たちは知っています。人々が可能な限り長くInstagramを見るようにすることが彼らの利益なのです。
そして現在、私たちの社会には、この訴訟以外にそれにブレーキをかけるものが全くありません。だから、周りを見渡し、このほぼ完全に無規制のプラットフォームを見て、何か手を打たなければならないと言っている陪審員たちに、私はとても同情するんです。
ええ。ですから、ここの全体的な法理についての私たちの考えがどうであれ、もしこれが控訴審で支持され、これらのプラットフォームがソーシャルメディアによって害を受けたと主張するすべての人々に対して何百万ドル、あるいは何十億ドルもの損害賠償責任を負うことになった場合、プラットフォームにどんな影響があると思いますか。それは、彼らが2008年の逆時系列のフィードに戻らなければならないことを意味するのでしょうか。彼らが無限スクロールや自動再生、おすすめ機能、その他すべてのものをオフにしなければならないことを意味するのでしょうか。
ここからが本当に難しいところで、おそらく私がプラットフォームに同情する唯一の狭い点がここです。つまり、陪審員たちはあなたの製品には欠陥があると言ったわけです。しかし陪審員が言っていないのは、では問題のない製品とはどのようなものか、ということです。
彼らは、このような一連の機能が気に入らないと言っているのですが、具体的に、これらの機能がどのように相互作用していると考えているのかについては何も言っていません。ここでの実際の害のモデルは何なのか、ということです。
ですから、プラットフォームがこれに従わなければならないと感じ、これらの機能を一つずつ外し始めるような世界もあるかもしれません。例えば、16歳未満なら無限スクロールを無効にする、といった具合にです。それが、悩みを抱えているかもしれない個々の10代の若者にどれほどの恩恵を本当にもたらすでしょうか。わかりません。もちろん、だからこそ議会がこれを規制する何らかの法律を可決できれば素晴らしいのですが、ご存知の通り、私たちはそのプロジェクトに乗り出してからもう10年くらい経ちますが、まだあまり進展していません。
そうですね。これがプラットフォームとその行動をどう変えるかについての私の一つの予測は、もし社内のMetaのチャットルームでギャンブルや依存性について話し始めたら、即座に解雇されるようになるだろうということです。
座席に小さなボタンがあって、それを押すとビルから放り出されるような感じですね。
はい。ここでの決定的な証拠の多くは、職場のチャットルームで、ああ、私たちがやっていることは危険なようだ、などと口走る人々から来ているからです。もしすでに起きていないとしても、彼らはそのような社内での議論を絶対に厳重に取り締まるようになると想像せざるを得ません。
絶対にそうですね。
メディア化するSNSと暗号化のジレンマ
さて、これについてあなたがどう考えているのか、もう少し聞きたいです。というのも、あなたはこの番組で何度も、携帯電話を見る時間を減らそうとするあなた自身の苦闘について話してきましたよね。これは、あなたが様々な時期に自分を苦しめていると感じてきた問題です。
ですから、これらのプラットフォームの依存性についてどう感じていますか。人々が最近これらのプラットフォームについて話しているような公衆衛生的な枠組みを信じますか、それともこれは行き過ぎだと思いますか。
そうですね、ここでの製品の害という主張について、そしてそれが私にとって理にかなっているかどうかについて、もう少し考える必要があります。私は基本的に、ソーシャルメディアには年齢制限を設けるべきだという考えに賛成しています。16歳であれ18歳であれ14歳であれ、最も有害な影響が薄れる特定の年齢があるという前提は信じていますし、その年齢に達する前は年齢制限を設けるか、少なくとも子供がこれらのプラットフォームで何ができるかできないかについて親にずっと多くの裁量権を与えることは完全に理にかなっていると思います。
依存性の問題が私にとって難しいのは、このすべてのことに関する私のマクロな理論として、時間の経過とともにソーシャルメディアに起きているのは、ソーシャルな部分が薄れ、メディアの部分の比重が高まっているということだからだと感じているからです。
ですから、これらのメディアプラットフォームの設計や機械的な決定を法の下で有害なものとして扱い始めると、私は途端に確信が持てない場所に導かれてしまうのです。
これらが全く存在しなかった時代には、テレビ番組にクリフハンガー（次が気になる終わり方）がありました。これはCMの後や、翌週のエピソードなどに視聴者を戻ってこさせるために設計されたものでした。あれは間違いなく依存性のある機能でした。人々を戻ってこさせ続けたのです。それは違法でしょうか。おそらく違法にすべきではないと私は言うでしょう。そして実際違法ではありません。
ですから、ソーシャルメディアがテレビやストリーミング動画のようなものに近づけば近づくほど、私の頭の中ではコンテンツとメカニズムの境界線が曖昧になっていくという感覚があるんです。これについてあなたはどう思いますか。
そうですね、同意できません。私はクリフハンガーは違法にすべきだと思います。だって何が起きたか知りたいですから。あの人がまだ生きているのかどうかを知るために秋まで待ちたくはありません。
でも同時に、例えばYouTubeとHBO Maxの間には、本当に重要な違いがいくつかあると思います。HBO Maxは、HBOのコンテンツをあなたの個人の好みに合わせて変更するようなことはしませんよね。彼らはいくつかの番組にいくらかお金を払い、多くの人が見てくれることを願うだけです。
私たちが話しているプラットフォームは、全く異なることをしています。彼らは、プラットフォームにこれまでにアップロードされたすべての動画というコーパス全体に目を通し、個人的にあなたをここに最も長く引き留めるものは何かを考え出し、それをできる限りあなたに見せようとしているのです。
だから私は、ここに決定的な違いがあると思うんです。人々が好きなものを見るための幅広い自由を持つべきだと思う一方で、私たちが14歳の子供を、彼らが本当にクールで偽のIDを持っていない限り、バーに入れないのと同じ理由で、最低限これに年齢制限を設けるべきだとは思います。
暗号化の部分について話してください。あなたのニュースレターにこれについての一文がありましたが、私にはよく理解できませんでした。これらの訴訟の一部となっている暗号化の議論とは何なのでしょうか。
ええ。ここで、私がこれらの陪審員の評決を広く支持しているように受け取られていることは理解していますし、実際にそうなのですが、これが本当に悪い状況につながる可能性があることも認めておきたいんです。そしてこれこそが、私たちが第230条を慎重に扱う必要があった理由です。
ニューメキシコのケースでは、司法長官は、Metaが子供にとって安全であると自社のプラットフォームを宣伝した責任を問われるべき理由として、そこに暗号化されたメッセージングが含まれているからだと主張しています。
実際にMetaは3月に、Instagramでの暗号化メッセージングを終了すると発表しましたが、これはこれに先手を打とうとする努力だったと私は信じています。彼らが言ったのは、暗号化メッセージングを使用したい場合は、代わりにWhatsAppを使用できますよ、ということでした。
しかし私にとって、これがもたらす正当に恐ろしい結果とは、暗号化メッセージングを提供しているすべての企業が、自発的にその提供を中止することを決定するか、あるいは政府からの圧力によって提供を中止させられるような事態です。なぜなら私の見解では、人々が主にオンラインでコミュニケーションをとる世界において、暗号化はプライバシーの不可欠な部分だからです。
これらすべてが陪審員の評決を通じて法廷で起きていることに、あなたは納得していますか。
これは私がこの問題に対処する上で好む方法ではありませんが、ある意味で避けられなかったことだと思います。その理由の一つは、テクノロジー企業が自社のプラットフォームに意味のある変更を加えることに対して非常に頑なだったからです。世界中の社会が10年間、これらの企業に懇願してきました。どうかこれらのプラットフォームをより安全にし、依存性を減らし、害の一部を減らすために何かしてください、と。
しかしその代わりに、私たちが主に目にしてきたのは、人々にプラットフォームをより長く見てもらうために設計された一連のエンゲージメントハックでした。そして米国では、ほとんどの場合これらのアプリのコンテンツを規制することはできず、残されているのは本当にデザインだけなのです。アプリの純粋なメカニズムだけが残されているんです。
ですから、もしソーシャルメディアプラットフォームが今回の評決に腹を立てているとしても、私は心から、彼らが自ら招いたことだと思っています。
つまり、あなたは私自身の画面依存症の経験について尋ねましたし、私は決して完全な画面依存症になったことはありませんが、他の多くの人々と同じように、私が携帯電話をどれだけ使っているか、様々なアプリをどれだけ使っているかについて苦闘してきました。自分のスクリーンタイムを減らそうとする複雑な方法を考え出したりもしました。
あなたはかつて、TikTokのChimpani Benziniに何が起きたのかを知りたかったという理由で、Hard Forkの収録に6時間遅刻したことがありましたね。
あれは内緒にしておく約束だと思っていましたが、でもスクリーンタイムとのすべての闘いの中で、私が自分の携帯電話に入っているアプリを作っている企業を訴えようと考えたことは一度もありません。
子供たちの話になるとまた違うのだとは思いますが、でも私の中のどこかで、プラットフォームを非難するのは安易な逃げ道のように感じてしまうんです。誤解しないでください、これらのプラットフォームには絶対に責任があると思います。私はこれらの陪審員の評決に反対していると言っているのではありません。これらのプラットフォーム、特にMetaは調査を行い、害を発見し、それを大衆から隠してきたと思います。
ええ、でも私は、これらの依存性のあるプラットフォームでの自分自身の経験について、誰か他の非難する相手を見つけようとするよりも、自分自身について嫌な気分になるものだと考えているのだと思います。
ええ。でもあなたには、自分がすでに大人だったときにこれらのプラットフォームを使い始めたという利点もありましたよね。あなたの海馬は形成されていましたし。
私は幼い頃からインスタントメッセンジャーをやっていましたよ。
メッセージングアプリが、TikTokやInstagramのようなものと同じように依存性があり有害だと本当に思いますか。1999年の私に戻ってみてください。私をAOLインスタントメッセンジャーの前に座らせてください。私はあれから離れることができませんでした。私がコンピューターから離れるたびに、Get Up Kidsの歌詞を少し添えたメッセージを掲げなければなりませんでした。なぜならそれはとても稀な出来事であり、私がキーボードから離れていることを友人たちに知ってほしかったからです。ケイシー、これらのものは依存性がありましたよ。
The kid got up.（子供は立ち上がった：Get Up Kidsにかけたジョーク）
Get Up Kidsのジョークですね。
ええ、つまり私はただ、メッセージングアプリはこれらのソーシャルプラットフォームとは違うと思うんです。そして正直なところ、10年後、あなたの息子さんがソーシャルメディアを使えるようになったり使いたくなったりしたときに、InstagramとTikTokが今のままの姿であるかどうかは興味深いです。でも、親の立場になるときっと全く違う感覚になるのだと思います。
AIチャットボットと次なる依存性のフロンティア
さてケイシー、あなたが今ハマっている新しいソーシャルメディアアプリはありますか。
ええと、Claudeと呼ばれているもので、本当に……
待ってください、AIについて全部話したいんです。もちろん、この番組での議論はすべて、ある時点でAIに行き着かなければなりません。
だから、これがこれらのAI企業の一部にどのような影響を与えると考えているのか興味があります。なぜなら、彼らもまた、魅力的で、依存性があるか、どう呼ぼうと自由ですが、そういう体験を生み出そうとしているからです。害を理由にチャットボットの制作者に対して起こされているこうした訴訟のいくつかは、ある時点ですべてが収束していくように感じられます。
これについてのあなたの見解はどうですか。
ええ、Pewが2025年に調査を行い、10代の若者の64%が現在AIチャットボットを使用していることを発見しました。約10人に3人が毎日使用しています。同じ調査によると、YouTube、TikTok、Instagram、Snapchatの10代の使用状況は比較的安定したままでした。つまり、はい、チャットボットの使用は増加しています。それはまだソーシャルプラットフォームを犠牲にして起きているわけではありません。
もちろん、近いうちにこれらのすべてのプラットフォームの中にチャットボットが組み込まれるのを目にするだろうと予想していますが。そして、これらのものはすべてただ融合していくでしょう。これらのものには、何か手を取り合って進んでいくようなところがあります。そしてあなたの指摘の通り、私はAIチャットボットがこの議論の次のフロンティアになると考えています。なぜなら多くの意味で、それらははるかに魅力的であり、これらのプラットフォーム以上に手放せなくなるものになると私は思うからです。
ええ。つまり、プラットフォームが議会に規制を絶対に懇願すべきだというのは私にはとても明白に思えます。なぜなら、そうしない場合の代替案は、多くの法律事務所によって完全に訴訟で潰されることだからです。
全くその通りです。もし私が巨大なAIラボの1つを運営していたら、議会から、あなたたちは何を安全なチャットボットと見なすのかという理解を得たいと思うでしょう。従うことのできるチェックリストをください、と。なぜなら、今後数年間にこの問題に対処しなければならない状況は避けたいからです。
ええ。ケイシー、CMの後に人々を戻ってこさせるために私たちが使える依存性のあるエンゲージメントメカニズムは何でしょうか。
そうですね、彼らの行動を研究し、それを彼らに対して武器化することができますね。
いい考えです。
デミス・ハサビスとDeepMindの野望
さてケイシー、もしリスナーが今年AIに関する本を1冊読むとしたら、それは私の本であるべきです。しかし、もし2冊読むとしたら、2冊目はセバスチャン・マラビーの新著『The Infinity Machine, Demis Hassabis DeepMind, and The Quest for Super Intelligence』であるべきです。
この本について教えてください、ケビン。
この本は今週出版されました。DeepMindの仕事や、CEOのデミス・ハサビスを突き動かしている動機についての多くの新しい逸話やストーリーでいっぱいです。セバスチャンは長年のジャーナリストです。彼は外交問題評議会のフェローであり、デミスや彼に近い人々と長い時間を過ごし、その重要性に反して最も報道が少ないと思われるAIの最先端ラボについてのこの本を私たちに届けてくれました。
ええ。デミス・ハサビスは比類なき人物です。彼はHard Forkにも何度か出演していますが、セバスチャンは本当に深く入り込み、おそらく私たちがこれまで得た中で最も充実した彼の人物像を提示してくれたと思います。
そして、彼をお迎えする前に、私たちはAIについて話すことになるので、情報の開示をしておきましょう。私はニューヨーク・タイムズで働いており、同社はOpenAI、Microsoft、Perplexityを提訴しています。そして私の婚約者はAnthropicで働いています。
セバスチャン・マラビー、Hard Forkへようこそ。
ご一緒できて光栄です。
さて、私たちの番組を聴いている人々は、デミス・ハサビスとDeepMindについてよく知っています。彼は何度か出演していますからね。彼と話し、彼を知る多くの人々にインタビューする中であなたが学んだ、デミスに関する自明ではない事柄とは何でしょうか。
おそらく、彼の科学的好奇心に対する精神的な基盤が興味深いものでした。ある時、私たちはロンドンの公園に座って2時間ほど話していたのですが、彼は突然こう言い始めたんです。夜中の2時に自分一人でデスクに向かい、科学について、コンピューターサイエンスについて考えていると、現実が私に向かって叫び、私をじっと見つめ、私がそれを説明するのを待っているように感じるんです、と。
そして彼はそれをスピノザの神と呼んでいます。これは17世紀の哲学者スピノザで、自然を理解することは神の創造に近づくことだと言った人物です。それがデミスと共鳴しているのです。おそらくそれは人々が知らないことでしょうね。
それは興味深いですね。ええ、これは私自身のリサーチでも出てきたことなのですが、彼は幼い頃、おそらく母親と一緒に教会に通って育ちました。そして他の多くのAIリーダーたちとは異なり、AIの科学と自分自身の精神的な信念を融合させる方法を持っていると思います。
そして一部の人々が彼の野心や、AGIを構築するために競い合ってきた長年の姿を見て、そこに何か疑わしいものを感じていることは知っています。イーロン・マスクは、デミスが密かに世界を乗っ取る邪悪なAI独裁者になりたがっているという持論を展開していますよね。
私としては、あなたが彼を取材する中で、イーロン・マスクが言っていたようなことを思わせる何かを見たことがあるかどうか興味があります。
いいえ、むしろ逆です。デミスは悪の天才だというこの考え、これはイーロン・マスクがよく使っていたフレーズですが、デミスがビデオゲーム制作時代に『Evil Genius（悪の天才）』というゲームを作っていたことに由来しています。だから最初はジョークだったのかもしれませんが、私はデミスを非常によく知るようになりました。彼と30時間以上を過ごしました。
ケビン、あなたも知っているように、人物について書くときはその人をかなり深くストレステストにかけますよね。そうすると反発を受けたり、法的措置の脅しを受けたりすることもあります。彼は一度私を弁護士と話させたことがありました。常に完全に簡単だったわけではありませんが、最終的に彼は理性的でした。
なぜ彼はあなたを弁護士と話させたんですか。
2016年から2019年の間にDeepMindがGoogleからスピンアウトしようとしていた話の全貌を私が掘り起こしたことに、彼は非常に怒っていたんです。彼らは多くのアドバイザー、弁護士、銀行家などを雇い入れました。リード・ホフマンにスピンアウトの資金として10億ドルを出資する約束を取り付けました。彼らは香港のジョー・ツァイ、Alibabaの共同創業者にも会いに行きました。
とにかく、私がDeepMind内部から漏洩したこれらすべての内部文書、DeepMindがGoogleに行った取締役会でのプレゼンテーションなどを持っていたことを、弁護士は面白く思っていませんでした。そして彼は、あなたはこのことについて書くべきではありません、と言いました。私は、まあ、人々が私にこれをくれたんですし、残念でしたね、と言いました。
ですから、自由で率直な議論の瞬間はありました。
情報源が秘密文書をくれるときは、それが神の創造に近づくのを助けてくれるのだと私は常に信じてきました。私なら彼にそう言ったでしょうね。
知能とは何か：OpenAIとDeepMindのアプローチの違い
幼少期についてもう一つ質問したいことがありました。デミスはあなたに、小説『エンダーのゲーム』の天才少年の主人公に本当に共感していると語りましたね。自分自身の才能によって社会的に孤立していると感じることや、宇宙に自分の生きた証を残したいという欲望に駆られていることについてです。
そしてそれが私の印象に残った理由は、この小説の中でエンダーは自分が訓練演習をしていると信じているのですが、彼がテスト、本質的にはビデオゲームだと思っているものが、誤ってエイリアンの種を絶滅させてしまうからです。
ですから、彼がなぜその物語に共感するのか、そして特に、それと人工超知能を構築しようとする考えとの間に何か関係があるのかについて、あなたが彼と話したかどうか気になりました。
驚きましたよ。これは彼との最初の夕食の前のことでした。私が彼に会うために必要なアクセスを与えることに彼が同意した、スクリーニングプロセスの最後の段階のようなものでした。彼は、私に会いに来る前にこの小説を読まなければならない、と言ったんです。
それで私は出向きました。私はこの物語を読んでいました。エイリアンから人類を救う小柄な天才少年の話です。私は考えました。彼は本当に、自分がAIでやっていることによって人類を救うような存在だと自認しているのだろうか。そして、たとえそう思っていたとしても、なぜそんな狂ったことを私に言うのだろうか。確かにそれは信じられないほど傲慢なことです。なぜそんなことをわざわざ言うのか。
そして彼はそれを隠そうとしませんでした。彼は言いました。ええ、私は彼に共感していると感じています。なぜなら、この男は人類を救うためにすべてのエネルギーと人生を捧げたからです。そして私もそのような使命を帯びていると感じています、と。そして彼は、私はこれについてとても強く感じていたので、彼女が私をよりよく理解し、同情してくれることを期待して、妻に読んでもらいました。でもどうなったと思いますか。彼女は子供のエンダーには同情しましたが、私には同情しませんでした。それは不公平です、と言ったんです。
ええ、それは本当に…… デミスに関する報道や、特にあなたの本の中で何度も出てくるもう一つの性格的特徴は、彼がいかに競争心が強いかということです。彼は勝つのが大好きな男です。子供のチェスの神童でしたし、ペントマインドと呼ばれる、いわばオールラウンドなゲーム競技会で5回も優勝しています。
それが彼のAIへのアプローチの一部だと思いますか。つまり、彼は常にこれを使って科学の謎を解き明かし、病気を治したいと語っていますが、その一部はただ、この男は勝つのが大好きで、これは本当に大きなコンテストなのだということなのでしょうか。
全くその通りです。それがまさに正解です。ChatGPTがちょうどバイラルになりかけていた頃、彼に会いに行ったのを覚えています。彼は言いました。セバスチャン、これは戦争だ。OpenAIの連中、彼らは私の家の前庭に戦車を停めたんだ、と。実際には、私の芝生に戦車を停めた、と言いました。彼はイギリス人なので。でもええ、お分かりですよね。
あなたが、2022年11月に起こったChatGPTのリリースについて持ち出しましたね。デミスがそれにどう反応したかについてもう少し聞きたいです。なぜなら、それが起こる前、Googleは自分たちが快適にリードしていると本当に思っていて、何かをリリースするプレッシャーをあまり感じていないように見えたからです。
ですから、後知恵として、デミスがサム・アルトマンに先を越されるのを許してしまったことについて後悔しているかどうか、特に興味があります。
ええ。彼には後悔というより説明があります。そしてその説明は非常に興味深いものです。それは基本的に、彼がPhDで神経科学を研究していたことによるものです。これは2008年か2009年のことですから、AIでは何も機能していなかったことを覚えておく必要があります。つまりゼロからのスタートでした。
神経科学におけるアイデアの一つに「行動と知覚」と呼ばれるものがあります。これは、真に知的であるためには、世界で行動を起こさなければならないという考えです。持ち上げてみなければ、何かが重いとはどういうことかわかりません。実際に何かを落としてみなければ、重力とは何かわかりません。
そこで彼は、2017年にTransformerの論文が出て、OpenAIが2018年に最初のGPT、2019年に2つ目のGPTなどを始めたとき、こう考えたのです。それはうまくいかない。強力な知能までは到達しないだろう。なぜなら言語は単なる記号のシステムだからだ。それは現実世界に根ざしていない、と。
現在私たちが、2026年に大きな興奮と研究の分野として世界モデルが戻ってくるのを見ているという意味では、彼が間違っていたわけではありません。しかし、2018年か2019年の当時は、インターネット上のすべての言語をダウンロードすれば、現実世界がどのように機能するかについての膨大な知識が実際には言語の中に存在しているという事実を見逃していました。トレーニングセットとしての言語からどれだけのものを引き出せるかを見逃していたのです。
ええ。セバスチャン、あなたに見解を聞きたい理論があるんです。私が自分の本に取り組み、Google、OpenAI、DeepMindにおけるこの時期について調べていると、これらの企業が意見を異にする、知能とは何かについての2つのビジョンのようなものがあるように思えるんです。
一方のビジョンでは、知能とは勝つことについてです。最適化についてです。ライバルとなる知能同士の競争です。それはAlphaGoのような、DeepMindの強化学習のパラダイムそのものです。ボードゲームを何度もプレイして、毎回少しずつ上手くなっていくというものです。
そしてもう一方の見方があり、それはどちらかというとOpenAIの言語モデルのスケール化のパラダイムです。それは、いや、それは質問に答えることだ。非常に賢いということは、すべてに対して正しい答えを持っていることだ、というものです。
AI開発に対するこれら2つのアプローチには何か心理学的なものがあり、それらは実際に私たちが知能を何だと考えているかということに根ざしているというこの理論は、あなたにとって筋が通っていますか。
ええ、DeepMindの最初からの秘伝のソースは、それら2つを一緒にしようとすることだったと言えるでしょう。例えば、AlphaGoに関する初期の研究にイリヤ・サツケヴァーが貢献していたことは興味深いですね。もちろん、彼はディープラーニングの主要な実践者であり、後にOpenAIのチーフサイエンティストになりましたが、当時はGoogleのために働いていました。Googleが彼のブティック企業を買収したからです。
それで、ロンドンでDeepMindのために働いている強化学習の人々が、マウンテンビューのディープラーニングの人々と協力し、それがAlphaGoのブレイクスルーを生み出したのです。ですから、あなたの言う通りだと思います。AIの中にはこれら2つの流れがあります。強化学習、これは経験、試行錯誤を通じた現実世界との相互作用による学習と私は表現します。そしてもう一方に、データを通じた学習があり、それがディープラーニングです。
人間の場合は、図書館に行ってすべての本を読むことがディープラーニングになると考えることができます。結晶化された人間の知識というデータから学ぶわけです。あるいは、現実世界に出て行って、庭に植物を植えたり何かしたりして物事を学ぶこともできます。
本なんて読んだことないよ、という風にもなれるわけですね。
だから、後で読むことにする、と。
試行錯誤で学ぶ。ええ。それがここでの2つのアプローチですね。
プロジェクト・マリオとGoogle上層部との暗闘
先ほど、Googleに買収された後に彼らが持っていた、自らをスピンアウトさせようとするある種の陰謀と呼んでいいのかわかりませんが、それについて言及されましたね。彼らはこれをプロジェクト・マリオと呼んでいたと思います。それがどのようにして生じたのか、そしてなぜ実行しなかったのかについてもう少し聞きたいです。
何が起きたかというと、彼らが2014年にDeepMindをGoogleに売却したとき、Facebookからの対抗オファーがありました。そして実はFacebookの方がより多くの現金を提示していたんです。彼らがノーと言った理由の1つは、自社のテクノロジーの周りに安全保護を求めていたからでした。
そこで彼らはこの取引を行いました。安全性と倫理の委員会が設立されることになり、Googleはそれを約束して、彼らはGoogleへの売却を進めました。そして買収後の2015年に、安全性と倫理委員会の最初の会議が開かれました。この分野の他の人々を巻き込むために、彼らはイーロン・マスクにSpaceXで安全性と倫理委員会全体を主催してもらいました。
彼らはリード・ホフマンも呼び寄せました。お気付きの通り、これらはその後OpenAIを設立するか、そこに資金を提供する人物たちです。ご想像の通り、Googleはあまり快く思っていませんでした。
私の倫理委員会にはおそらく入れないような人物たちですね、とは言わざるを得ません。これらのキャラクターは。
でもそれはジレンマですよね。つまり、自分が何について話しているのかわからず、AIに興味のない人々を委員会に入れるか、AIについて知っている人々を入れるかです。後者の場合、あまりに刺激的なので自分たちで何かを始めたくなってしまうわけですが。
そして、デミスがAIがどのように開発されるべきかという初期の概念化で犯した根本的な間違いは、全人類に代わってAIを生み出す単一の研究所が存在し、したがって競争のダイナミクスがなく、モデルをリリースする前にレッドチームによる検証に時間をかけることができるため、安全であり得るという考えでした。
それが、彼がイーロン・マスクをテントに引き入れた理由です。彼がリード・ホフマンを引き入れた理由です。まさに、私たちは皆一緒に一つのチームになれると考えたからです。
それで、ケイシーの質問に答えると、その後何が起きたかですよね。
その後何が起きたかというと、安全性と倫理の監視委員会を設立するという最初の実験に失敗した後、Googleはもう二度とやりたがりませんでした。そして実際のところ、DeepMindのプロジェクト、プロジェクト・マリオは、もしやらなければ出て行くと脅すことで、Googleにもっとやらせようとするものでした。
なぜ彼らはそれをプロジェクト・マリオと呼んだんですか。ビデオゲームに関係があるんですか。
良い質問ですが、答えはわかりません。
すみません。
彼らが取り組んでいたもう一つの代替プロジェクトであるプロジェクト・ワリオよりもずっといいですね。それは単にその邪悪なバージョンというわけですが。
それで、Googleはどのようにして彼らにこの計画を放棄させたのでしょうか。
それは消耗戦でした。スンダー・ピチャイ、彼の性格とマネジメントスタイルがこの物語全体で非常に興味深く現れています。というのも、最初の方の2015年、最初の安全性と倫理の監視委員会が失敗したとき、技術の独立性とコントロールを得るためにデミスが次に考えたアイデアは、Waymoなどの他のサイドベットをスピンアウトさせたときのAlphabetのような「ベット」になることでした。
当時CEOだったラリー・ペイジはこれに賛成していました。しかし、まさにこれらの議論が行われている最中に、彼はスンダーに引き継いだのです。スンダーは、ああ、もちろん。素晴らしいアイデアだ。検討すべきだ、と同調するふりをしました。しかし実際には、彼はただ彼らを適当にあしらっていただけで、デミスをスピンアウトさせる気など全くありませんでした。なぜなら彼はデミスを、将来Googleが必要とするであろうAIの才能だと認識していたからです。
ですから、本質的にはこの長く引き伸ばされた遅延がありました。もう少し詳細を見てみましょう、また別のタームシートがありますよ、といった具合です。私はこれらのタームシートのいくつかを見せられました。それらは一面に赤線の修正が入った巨大な文書で、一方の弁護士チームがもう一方の弁護士チームに返したものでした。
そして、基本的に2019年までには全員が疲れ果ててしまいました。全てが立ち消えになり、彼らはただ先へ進んだのです。
Googleに売却するための最初の交渉以来、DeepMind社内には独立を求めるある種のせめぎ合いがずっとありましたよね。彼らの現在の状況の最新情報を教えてください。私たちが彼らと話すとき、彼らは皆の間でかなり円満であるかのように物事を提示しますが、GoogleとDeepMindの間にはまだある種の緊張や断層があるのでしょうか。
そうですね、私が事実と未確認の噂の中間くらいだと見なしているものをお伝えしましょう。
構いませんか。やってもいいですか。
ぜひ。この番組ではゴシップが大好きなんです。秘密を打ち明けてください。
ええ。そうですね、ここではセルゲイ・ブリンがトラブルメーカーだと言えるでしょう。2、3年前のGoogle I/Oでのことだと思いますが、ステージにはインタビュアーとデミスの2人が座るようにセットされていました。すると突然、セルゲイがステージに走ってきて、彼らは3つ目の椅子を用意しなければならなくなり、彼はその会話に割って入ったんです。
私が聞いたところでは、それははるかに深い緊張の表面的な症状だったということです。セルゲイはこれに対するデミスのリーダーシップをあまり気に入っておらず、それに反対したいと思っているのです。
そしてそこから導き出されるのは、今日のすべての資本主義において最も重要なビジネス上の相棒関係は、スンダー・ピチャイとデミスの間の関係だということです。なぜなら、スンダーが取締役会を管理し、GoogleとAlphabetの高度な政治を管理することで、デミスは自分の科学を行うためのスペース、資源、酸素を得ているからです。
スンダーがその全てをまとめ上げていなければ、私たちは違う場所にいたかもしれません。
倫理的ジレンマとAGIへのカウントダウン
デミスが考えを変えた分野の一つに、軍事におけるAIの使用があります。これは、DeepMindを売却した当時のGoogleやFacebookとの交渉において、大きな障害となった点でした。彼は自分たちの技術が軍事目的で使われることを望んでいませんでした。しかし現在、明らかにGoogle DeepMindは国防総省の契約の一つを持っており、軍と協力しています。
では、彼の考え方のこの変化は何に起因していると思いますか。単に市場の現実や競争の必要性なのでしょうか、それとも何なのでしょうか。
ええ、デミスはこれについて、人は成熟し、現実世界を知り、といったことだと私に説明しました。そもそもなぜ会社を売却したときに成熟していなかったのか、予測可能だったはずだと言う人もいるかもしれません。しかし、問題の本当の真実は、彼が予測していなかったということだと思います。
これは先ほど触れた、シングルトン（単一の存在）のアイデアに戻ります。彼は本当に研究所が1つだけになると考えていました。そして、技術を持っている研究所が1つしかないシナリオでは、確かに軍に向かって、私たちの技術は渡さない、帰れ、と言うことができます。しかし今日における問題は、先ほどAnthropicと国防総省の件で見たように、もしAnthropicが軍事利用と監視に関するレッドラインを引こうとすれば、OpenAIが弾丸のように飛び込んできて、国防総省さん、何が必要ですか。用意がありますよ、と言うことです。
デミスの競争心や科学の追求、彼を突き動かしているものが何であれ、それがAGIのようなものを安全に開発する彼の能力を損なうことになると心配していますか。
リサーチ全体を通して私自身にその問いを投げかけました。ある意味で、世界で強力で影響力のあるアクターでありながら、同時に善良であり得るかという問いは、この本における深い問いなのです。
そして彼は本当に善良でありたいと願っている人物です。そして、彼が善良に振る舞っているか、善良になるか、善良であり得るかというこの問いを枠付ける一つの方法は、軍事利用と監視に関するレッドラインについて国防総省に立ち向かったダリオ・アモデイがしたことを、彼もするべきか、するだろうか、と問うことです。
そして私は、彼はそれをしないだろうと思います。彼がこれを合理化する方法はこう言うことだと思います。見ろ、こういうことにはタイミングを選ぶ必要がある。もし自分が立場を明確にして立ち向かっても、実際には国防総省がやりたいようにやるだけなら、世界をより良くしたことにはならない。世界をより良くし、AIをより安全にするための私の最善の策は、AIの安全性をもたらすことができる唯一のルートを通ることだ。それは、政府の介入によってすべての研究所に同時に安全ルールを強制することだ。なぜなら、そうしなければ、安全なところとそうでないところが出てきて、安全でないところが全員のために物事を台無しにしてしまうからだ、と。
それがデミスが推し進めたいルートだと思います。問題は、トランプ政権があることで、彼らはただ加速したいだけだということです。だから今のところできることは、他国政府とこの対話を維持し続け、米国に新政権が誕生したときに、対話が見られるようになるかもしれないということだと思います。
あなたは、デミスがDeepMindの採用候補者たちに、もし入社するならバンカー（地下壕）に姿を消さなければならないかもしれないクライマックスの終盤戦に備えろ、と伝えていたと書いていますね。なぜバンカーに姿を消さなければならないのでしょうか。そして今でも採用候補者にそう伝えているのですか。
ええ。つまりアイデアとしては、AGIに非常に近づき、それが超危険になったとき、あなたは悪意のある者からの潜在的な攻撃にさらされることになり、そして日々の現実世界の些細なことに本当に気を散らされたくないだろう、ということです。
だから砂漠に姿を消すんですね。
ふむふむ。
ええ。
その通りです。携帯電話のTikTokを置いていくんです。以前、ケビンが自分の携帯電話を箱に閉じ込めていたのを思い出しますが。
その通りです。
だから、ケビンのようなことをして、本当に本当に集中するんです。そして最終段階でAIを本当に正しく仕上げるのです。それがデミスのビジョンでした。
そして彼が本当に本気だったのかどうかを確かめるために、私は2015年から2016年頃にDeepMindにいて、今は退社した人物と夕食をとっていました。そして私は、これは本当じゃなかったんでしょう。彼は本気でそんなことを……と言いました。
すると、ああ、ええ、ええ。もしこの人が私に、DeepMindで働いているときにいつでもモロッコ行きの次のフライトに乗って隠れなければならないと言っていたら、私は十分な事前警告を受けていたと言ったでしょうね、と彼は言ったんです。
ワオ。
つまりバンカーはモロッコにあるんですね。みなさんにお知らせしておきます。
ええ。そして私は、なぜ？ なぜモロッコなんですか？ と聞きました。
すると彼は、まあ、砂漠がありますからね。マンハッタン計画も砂漠でしたし、と。
おお、興味深い。興味深いですね。オープンハウスですね。
この人たちのマンハッタン計画の例え話ときたら。あの物語の結末まで読んだのかわかりませんけどね。あまりうまくいきませんでしたよ。
セバスチャン、あなたは何年もヘッジファンドについて書いてきましたね。あなたがヘッジファンドとヘッジファンドマネージャーについて書いていた頃、あなたの作品に出会ったのを覚えています。あなたは今、宇宙の新しい支配者たちと時間を過ごしています。そこで興味があるのですが、AIのリーダーたちとヘッジファンドマネージャーという2つのクラスの人々がどのように似ているか、あるいは違うかについて、何か観察したことはありますか。
そうですね、ヘッジファンドの人々は、かなりよく理解されたルールの範囲内でゲームをしていると言えるでしょう。彼らは人類について再考しているわけではありません。社会に関するあらゆることを再考しているわけではありません。私たちの子供の育て方を変えているわけではありません。人間であることの意味の概念を変えているわけではありません。
あなた自身のことを話してくださいよ。私は子供にアルゴリズム・アービトラージをするよう訓練しているところです。
彼は可哀想に、それがとても下手なんです。今年はマイナス200%ですよ。とにかく、すみません。続けてください。
ええ。いや、でも私はただ、AIというのはイベント・ドリブンのアービトラージとか、ヘッジファンドについて話したいどんなことよりも、はるかに、はるかに大きなものだと思っているんです。
そうですね。おそらく私からの最後の質問です。この本の執筆と、それをどのように枠付けることに決めたかについて質問があります。セバスチャン、私たちはAIがどうなるか分かっていませんよね。AIが人間の多くの病気を治癒し、ユートピアをもたらす結果になるのか、それともこれらのはるかに暗いシナリオをもたらすのか、私たちには分かりません。
あなたがデミスと彼が行っている仕事に対して多くの敬意を払っていることは明らかだと思いますが、物事が本当に本当に悪い方向へ進むリスクもあります。ですから本を書くにあたって、その緊張感や、あなたが今とてもよく知るようになったこの人物を歴史がどう裁くか分からないということに、どう向き合ったのか興味があります。
私はこの本を、その緊張感についての本だと考えていました。言い換えれば、21世紀版の核物質に手をかけている人物、人類を滅ぼすかもしれない何かを弄っているというヒリヒリするような感覚を持っている人物のポートレートを描こうとしているのです。
それを作り出しているとき、どんな気持ちになるのか。眠れるのか。どうやってそれと共存しているのか。そして私は、そのホットシートにいる人物のポートレートを提示できたと思っていますし、それがしばらくの間興味深いものであり続け、このAI開発の物語がどう終わるかに依存しないものであることを願っています。
セバスチャン、来てくれて本当にありがとう。お迎えできて本当に良かったです。本は『The Infinity Machine』というタイトルで、現在発売中です。
ありがとう、ケビン。
はい。ありがとう、セバスチャン。そしてケイシーもありがとう。
戻ってきたら、Hat GPTのゲームです。雪だるまが出てきますよ。
Hat GPT：AI業界の最新ニュースを斬る
さてケイシー。先週は少しお休みをいただきましたが、テクノロジーニュースがたくさんあったので、まとめとしてHat GPTを1ラウンドやりましょう。Hat GPTはもちろん、最近のニュース記事を帽子に入れ、帽子から紙切れを引き出し、それについて議論し、そしてどちらかが退屈したら相手に生成を停止せよと言うゲームです。
ご覧になれない方のために言っておきますが、私たちはHard Forkの帽子、公式グッズを使っています。そしてケイシー、これはニューヨーク・タイムズのストアでは売り切れているようですね。
その特定の帽子は違いますよ、これはもちろんHard Fork Liveの限定品でしたから。
そうですね、これは限定品です。これは手に入りませんが、他のどれも手に入りませんよ。
ここが重要なポイントです。もうHard Forkの帽子は手に入らないんです。だから諦めてください。
さて、先日誰かが、Hard Forkのためにハードハットを作るべきだと提案してくれました。黄色い工事現場のような雰囲気の。
私たちが今作ってもらっている新しいスタジオに行くときに被れますね。
それはいいですね。作るべきだと思いますか。
ええ。Hard Forkのハードハット。完璧なグッズですね。
素晴らしい。よし、ケイシー、君からだ。
よし、ケビン。最初のニュースは404 Mediaからです。AIエージェントがWikipediaの記事の作成を禁止され、その後、禁止されたことについて怒りのブログを書いた、というものです。以前にもこんなことを聞いたことがあるような気がします。
さてケビン、またしてもエージェントがブログ記事を書いています。これについてどう思いますか。
Grokipediaならこんなことは絶対に起きないでしょうね。
いや、今年は人間の貢献とレビューの上に構築されたインターネット上のすべてのシステムが壊れる年になるだろうと私は思っています。
そしてそれが壊れるのは、AIツールのせいだけでなく、人々がそれらをウェブサイトに解き放ち、Wikipediaの記事を編集したり、GitHubプロジェクトに貢献した人々を中傷したりするようなことをさせているからです。これについては以前のエピソードでスコット・シャンバから聞きましたね。
しかし、これは課題になると思います。私は今年襲来するであろうインボックス・アポカリプスについて話し始めています。通常は人間によってレビューされ、ボトルネックになっているすべてのものが、ただ圧倒され、AIの投稿で溢れかえることになるのです。
全くその通りです。つまり、私のところにもすでに毎週、会社を経営しているなどと言い張るAIエージェントを名乗るものからメールが届いていますが、常に、私の人間に話を聞きたいか教えてください、みたいな感じなんです。私は、あなたの人間？ 暗い路地で彼らに会わないことを祈った方がいいよ。なぜならこんなものは私の受信トレイにも、率直に言ってどこにもふさわしくないのだから、って思いますよ。
ええ。
ええ。
私もこれらを受け取っています。これは完全に災厄ですね。あなたや私が受け取る顔のないPRスパムよりも、なぜかさらに鬱陶しいです。
はっきりさせておきますが、誰かのエージェントが私にどう対応させようと、私がそれに返信するようなことはただの一つもありません。だから、その情報を好きなように使ってください。あなたのトレーニングデータに入ってくれることを願っています。生成を停止せよ。
よし。次はこれです。ショーン・ホリスターがThe Vergeに書いたものです。タイトルは「私はDisneyパークの未来かもしれない冷凍ロボット、オラフに会った」。ショーンは3月中旬に、映画『アナと雪の女王』の新しいアニマトロニクスであるオラフの雪だるまロボットとの交流について報告しました。
重さは33ポンドです。NvidiaのGPUでトレーニングされ、オペレーターがSteam Deckを使って操作しています。しかし、これがディズニーランド・パリでデビューしたとき、まあケイシー、何かが起きました。見てみましょうか。
見てみましょう。
よし。雪だるまのオラフ。彼は話していて、木の枝の腕を振っています。ああ、ダメだ。
ああ、なんてこった。
彼を失いました。
オラフ。ああ。ああ、それは……。ああ。
彼が非常にゆっくりと仰向けに倒れていく様子には、何か訴えかけるものがありますね。
ああ、ダメだ。
ええ。
20人の子供たちがたった今、生涯消えないトラウマを負いました。彼らはセラピーでこのことについて話すことになるでしょう。
何を期待していたんですか。もちろん彼はフローズン（凍って・止まって）いたんですよ。映画全体がそういう話でしょう。雪だるまを殺したい？ オーケー。
つまり、子供のためにアニマトロニクスの生き物を作り、それが機械だとバレたとき、それはただ頼もしくとても笑えるものだということです。そしてそれはラブクラフト的なホラーのように感じられます。可愛らしくて抱きしめたくなるようなものから、目が飛び出し、背中から火花が飛び散るようなものへと変化するその過程には、何かそういうものがあるんです。
子供の頃、Chuck E. Cheeseで、ギターを弾くネズミが本物ではないと知った日のことは決して忘れません。
Chuck E. Cheeseの完全な本名を知っていますか。
何ですか。
知らないんですか。これはジョークじゃありませんよ。Charles Entertainment Cheeseです。
冗談でしょ。
神に誓って本当です。
私は毎日あなたから何かを学んでいます。
生成を停止せよ。
Claude Codeの流出騒動
よし。次は私の番だ。ええと、これはケビン、Claude Codeの流出についてのニュースです。さてケビン、このClaude Codeの流出についてどう思いますか。
ええと、これは大事件だと思います。その理由の一部は、Claude Codeの周りにあるエージェント的なコーディングのハーネスが、まさにこの秘伝のソースだからです。その基礎となるモデルは、Claude Codeやその他のエージェント的なコーディングシステムをコーディングに優れたものにしている要素の一部ですが、本当に重要なのはその周りにあるすべてのものなんです。そしてそれが流出したのです。
人々がClaude Codeの内部で実行しているOpus 4.6だか何だかの実際の重みやソースコードではありません。それを非常に効果的にしている装置のようなものなんです。それで、この流出から数時間のうちに、人々はそれをクローンし、独自のバージョンをセットアップしていました。
Anthropicの法務部門は、これらすべてを削除させるために非常に忙しい一週間を過ごしていることでしょう。でも、私はこういうことは避けられなかったと思います。Anthropicでなくても、エージェント的なコーディングツールはすべて良くなっていくはずでした。彼らは皆、Claude Codeをリバースエンジニアリングして、何がそれをより良くしているのかを突き止めるつもりでした。でもこれがそれを加速させたのだと思います。
これを見たときの私の最初の考えは、今頃ケビン・ルースがどこかで、ダウンロードした流出Claude Codeハーネスを使ってClaude Codeをバイブコーディングしているに違いない、ということでした。
私はまだ流出Claude Codeハーネスをダウンロードしていませんが、他の人々がそれを手に入れて、オープンソースの中国製モデルなどの上に乗せ、自分たちで実行できる独自のバージョンのClaude Codeをフランケンシュタインのようにつなぎ合わせているのは見ました。
そして、Claude Codeの利用制限に近づくほど、私もそういうことをしたくなる誘惑に駆られると言っておきましょう。
なるほどね。最後に言いたいのは、もしAnthropicがClaudeのための新しいハーネスを探しているなら、サンフランシスコのフォルサム地区にあるMr. S Leatherで買うのがいいかもしれないということです。あそこには本当に素敵なオプションがいくつかありますからね。
よし、生成を停止せよ。
Web会議の無断ポッドキャスト化とセキュリティの脅威
オーケー。オーケー。次は、帽子から。おお、これはいいぞ。TikTokでのAIフルーツのドラマ。これはジューシーすぎて見逃せない。
これによると、NBCニュースのクリップを見るべきだそうです。
Fruit Love Islandへようこそ。ここでは8つの独身フルーツが、いちゃつき、戦い、そして信頼しようとしています。事態はすぐに混乱に陥ります。
私がカップルになりたいのはバナナのBenonitoよ。
そんなことさせないわ。私が彼を選ぶ。
これは、AIが生成したフルーツたちが登場するLove Island風のリアリティ番組のようなものです。非常に筋肉質なバナナがいて、女性フルーツたちの注目を集めていて…… すべてがとてもばかばかしいんですが、これがメガバイラルになっているんです。これが大きな新しいトレンドです。
私はたった今、バナナがパイナップルにキスするのを見ましたが、そんなこと聖書には書かれていません。
これを無理やり見せられたということで、数百万ドルの陪審員評決を勝ち取れると思いますか。
弁護士に電話してみます。
公正な質問だと思います。こう言わせてください。Fruit Love Islandを見て私のメンタルヘルスは改善しませんでした。
シーズン3のパッションフルーツに何が起きるか見てください。生成を停止せよ。
よし。この企業は秘密裏にあなたのZoom会議をAIポッドキャストに変えています。これも404 Mediaからです。それにしても、なんという会社名でしょう。Webinar TV。
ワオ。
2つの素晴らしい味が、一緒になるとさらに美味しくなる。ウェビナーとTV。
英語にウェビナーよりひどい言葉ってありましたっけ。
私の知る限りありません。どうやらこの企業は、秘密裏にインターネット上でZoomのミーティングリンクをスキャンし、通話を録音し、そして利益のためにそれらをAI生成のポッドキャストに変えているようです。ケビン。
なんてことだ。
一部のケースでは、Webinar TVが自社のサービスを宣伝する目的で、あなたの通話がポッドキャストになりました、と連絡してきて初めて、人々は自分のZoom通話が録音されていたことに気づいたそうです。
ワオ。何が起きているんですか。
一体どうなっているんですか。
何が起きているんでしょうね。
オーケー、まず最初に言っておきたいのは、私は残りの人生ずっとあなたと一緒にポッドキャストを作ることにコミットしているということです。でも、もし私たちが、人々の退屈なZoom会議をトレーニングデータにしたWebinar TVのAI生成ポッドキャストにチャートで追い抜かれるようなことがあれば、私はこの業界を去ります。
これが素晴らしいニュースである理由はこれです。多くのポッドキャスターは、おそらく自分たちのポッドキャストが、素晴らしいエピソードではなかったかもしれないという考えと格闘していると思います。おそらく彼らは、これはインターネットに出すのに十分なレベルだろうかと悩んでいることでしょう。おめでとうございます。なぜなら、人間が作ったすべてのポッドキャストは、これまでにリリースされたすべてのWebinar TVのエピソードよりも優れているからです。
ええ。私はただ、これらはこれまでに作られた中で最も退屈なポッドキャストに違いないと思うんです。何を話すつもりですか。タイトルはアクションアイテムですか。それともサークルバックですか。このポッドキャストのタイトルは何ですか。
タッチベースですね。全8回の限定シリーズ。
実は今、Webinar TVに素晴らしいシリーズがあるって聞いたんです。ああ、ミュートになってますよ、というタイトルです。だから、それをチェックしてみるといいかもしれません。よし、生成を停止せよ。
次に帽子から出てきたのは、北朝鮮のハッカーがAxiosソフトウェアツール企業をハッキングした疑いがある、というものです。
もし手元にあるなら、Axiosが書いたこれについての記事を読みたいところですね。
これは、ソフトウェアアプリケーションの開発に広く使われているオープンソースツールです。これは大きなセキュリティ侵害でした。月曜日の遅くに、ハッカーたちはAxiosの新しいバージョンをリリースできる数少ないアカウントの1つに侵入し、悪意のあるバージョンを公開することに成功しました。Axiosは毎週約8000万回ダウンロードされています。悪意のあるバージョンのAxiosをダウンロードした人は誰でも、ハッカーに自分のコンピューターやその上のデータを盗まれる可能性があります。これは北朝鮮の仕業とされています。本当にひどいことのように思えます。
ええ。でも個人データは盗まれなかったとか、機密情報は危険にさらされなかったみたいなサイバーセキュリティ事件についてはたくさん話しますが、これは、いや、すべてが危険にさらされたというケースです。これは最悪なケースの1つであり、もし過去1週間にnpmをいじっていたなら、おそらくこれを確認する必要があります。
ええ、本当にこれは今年最大のニュースの1つになると思います。現在サイバーセキュリティで何が起きているかということです。私はあるYouTube動画を見ていました。もし夜も眠れなくなるようなものが必要なら、Anthropicのセキュリティ研究者であるニコラス・カルリーニという人が最近サイバーセキュリティの会議で行った講演を見てください。
それはこれまでに与えられた中で最も恐ろしい会議の講演です。なぜなら、彼が基本的に言っているのは、これらのAIツールは、ツール内の脆弱性を見つけることにおいて、ほとんどの人間ハッカーや人間のセキュリティ専門家よりも優れるようになった、ということだからです。Linuxカーネルのように何十年も前から存在するツールでさえ、これらの言語モデルは今やその中にバグを見つけています。
そして基本的に、存在するすべてのコードは書き直され、大幅に強化される必要があるでしょう。なぜなら私たちは、その中のあらゆる小さなバグや問題を見つけることができる、これらの非常に洗練されたAIツールの猛威に直面しているからです。
そうですね、私はFruit Love Islandを見終わったらすぐにその講演を見るつもりです。
でも、このことで私が思い出したのは、ケビン、私たちが休んでいた先週、Anthropicのリークがあり、誰かが、Anthropicはサイバー防衛の専門家と共有するために次期モデルのリリースを遅らせている、と書かれたブログ記事の草稿を見つけたことです。私の知る限り、2019年のGPT-2以来、このようなことは起きていません。大手研究所の1つが本質的に、これが何を引き起こすか分からないから、これをリリースするのが怖いと言っているんです。
現在形は何ですか？ 何を引き起こす（wreak）かもしれないですか？
ええ。
ええ、何を引き起こす（wreak）かもしれないからです。wから始まるwreakですね。
匂い（reek）といえば、来週シャワーを浴びてくださいね。
ちょっと急いでいたもので。
生成を停止せよ。
OpenAIの戦略転換と予測市場の台頭
オーケー。
オーケー。次は実は2部構成です、ケビン。最近私たちの注目を集めたOpenAIに関する2つのニュースです。1つ目は、Soraの開発終了です。これは年末のエピソードで私がした予測でした。私の自信度の低い予測は、OpenAIがSoraをリタイアさせるだろうというものでしたが、それがもう3月までに実現しました。
そして2つ目のニュースですが、信じられないかもしれませんが、実は関連していると私は思います。エンゲージメントを高めるための努力として間もなくChatGPTに導入すると言っていたエロティックなチャットボット、あるいはある種のアダルトモードのリリース計画を、OpenAIはどうやら棚上げしたようです。さてケビン、これら2つの変更についてどう思いましたか、ぜひ聞きたいです。
Soraの終了を予測したのは賢明だったと思います。Soraのストーリーは私にとって決して完全に辻褄が合うものではありませんでした。明らかに非常にクールなテクノロジーではありましたが、私が理解しているところでは、あれを実行するのは壊滅的に高価だったんです。あの短い動画をすべて生成するのは計算コストが非常に高かったようです。
ですから、彼らは投資を少し絞り込み、いくつかのプロジェクトに統合するという決定を下しているのだと思います。1つはエンタープライズAI、1つはコーディングやAI研究の自動化といったものです。しかし、ここ数年で少し多くのサイドベットをしすぎたため、今になってそれが高価であり、リソースを中核からそらしてしまったことに気づいているのだと思います。
個人的には、これら両方の変更を見ることができて本当に嬉しかったと言わなければなりません。昨年リリースされたこの無限のゴミフィードアプリと、一部のユーザーがチャットボットに近づきすぎた結果として経験している心理的な問題に関するすべての問題にまだ対処している最中に、このアダルトモードをリリースするつもりだと言っていた会社についてです。
私はただ、そのどちらも本当に無責任な動きであり、彼らが使命だと言っていたことに反しているように思えました。だから、彼らが、やっぱり、もうこれらのことはどれもやらないと言うのを見られて、実は本当に嬉しかったんです。それは正しい動きだったと思います。さて、彼らは心の優しさから、ある種の道徳的な目覚めがあってそれをしたのでしょうか。いいえ。彼らはClaude Codeが軌道に乗り始め、Anthropicがお金を刷り始めているのを見て、我々もあれのパイの断片が欲しいと言ったのです。でもまあ、理由は何であれ、それが起きて私はただ嬉しいですよ。
ええ。よし。生成を停止せよ。最後は帽子から、Kalshiが新しい広告キャンペーンで自らを安全で規制された予測市場として発表しました。
Kalshiは最近ワシントンDC周辺で緑色の広告を出しており、私はサンフランシスコでもそれを見ました。最初の広告には、ルールその1、Kalshiはインサイダー取引を禁止する、とあります。2つ目には、ルールその2、我々は死の市場（デスマケット）はやらない、とあります。ケイシー、あなたの見解は。
ルールその3、我々は常にあなたを正面から撃ち、決して背後からは撃たない。
この人たちは一体誰なんですか。この広告は、広告自身によってすでに答えが出ている多くの疑問を提起していますよ。
本当に、本当に私にとってとても面白いのは、数年前に私がこの予測市場の会議に行ったときのことです。あなたがこれを持ち出すことは予測していましたが、続けてください。
それで、Kalshiの人たちがそこにいて、Polymarketの人たちがいて、これらの無名の予測市場の人たちがいて、こういうことに興味を持っている50人くらいの人たちだったんです。当時は合法ではありませんでした。だから彼らは皆、ある種のプレイマネーや回避策を使っていました。そして私の中のどんな部分も、3年後にはこれがアメリカで支配的な産業になり、デスマケットはやらないと人々に伝えるためにバス広告を出すようになるだろう、とは思えませんでした。
わかります。でも同時に、私は、なぜこの世代は予測市場に目を向けているのか。彼らが自分たちに見出せる未来は本当にこれだけなのか、みたいな記事やブログ投稿を読み続けているんです。いやいや、かつては違法だったものが今では合法になったからです。人々はさせてあげればギャンブルが大好きなんです。今、あなたは彼らにギャンブルをさせている。だからこの若い世代を夢中にさせたんですよ。
ええ。情報活用の可能性や群衆の叡智のおかげだとは思いませんか。
私は今でも、Kalshi市場の群衆の叡智が私の人生を向上させてくれるのを待っているところですよ。
ええ。まあ、人の死やインサイダー取引に関しては、それは見つからないでしょうね。
Kalshiルールその4、ギャンブルは悪いことだ。
彼らがあえてその広告を出すのを見てみたいですね。よし、帽子を閉じましょう。ケイシー。
古い帽子を片付けましょう。Hat GPTはどうでしたか。
いろいろありましたね。
いろいろありました。忙しい一週間でした。
忙しい一週間。
ここシリコンバレーに退屈な日はありませんね。
ありませんね。
コメント