マット・ウルフ – 人工超知能、AIが殺人を推奨、監視国家、AIがハリウッドを破壊する

この動画は、AI専門家マット・ウルフが人工知能の未来について包括的に語る長編インタビューである。AGIやASIの到達時期、各企業の開発競争、自動運転の普及、ハリウッド産業への影響、監視社会の可能性、長寿への影響など、AIが社会に与える多面的な影響について詳細に議論している。特に米中間のAI覇権競争、プライバシーと安全性のトレードオフ、職業の自動化による社会変革などの重要なテーマを扱っている。

Matt Wolfe - Superintelligence, AI Recommends Murder, Surveillance States & AI Disrupting Hollywood.

Make Sure You're Subscribed 🔔 INFO ⤵YouTube ▶️ www.youtube.com/@mreflowInstagram 📸 instagram.com/mr.eflowTwit...

AIの未来と企業間競争
エンジニアとの直接対話から見える業界の内側
開発競争の緊迫感と企業の姿勢
資金投入とAI開発競争
Google DeepMindのデミス・ハサビスへの信頼
AGIと自己改善への懸念
不均一な進歩と研究の自動化への懸念
ハリウッドと映画産業への影響
AI研究開発への投資規模
AGI達成競争の予測
真のAGIの定義と展望
中国の技術アクセスとAI開発
P Doom（破滅確率）の変化
Anthropicの研究と予期しない行動
自動運転と運転免許の未来
ロボタクシーの安全性と普及
航空機の自動化への期待
責任の所在とAIの導入
ASIによる政府運営の可能性
クリエイターとしての持続可能性とバーンアウト
テック業界リーダーの動機への批判的視点
AI生成コンテンツの普及
技術の未来への展望

AIの未来と企業間競争

OpenAI、Google、Microsoft、Anthropicやろ、どの会社も大衆にAGIや人工超知能っちゅう次の大きな波がもうすぐそこまで来てるって思わせるんに必死なんや。今の大きなライバルはMetaになりそうやな、お金も人材も全部つぎ込んどるからな。

アメリカと中国は今まさに冷戦状態にあるんや。AGIを最初に達成するための冷戦やな。AIにめっちゃ注目してる俺らみたいな人間は、興奮もしてるけど、ちょっと怖くもあるんや。今の政府の大部分がChatGPTに運営されてるって聞いても、そんなに驚かへんかもしれんな。

俺はマット・ウルフや。最新のAIニュースとかクールなツールを紹介するYouTubeチャンネルやってるんや。それと「Future Tools」っていうウェブサイトとニュースレターもやってて、そこでも最新のAIニュースとツールを共有してるんや。今日は話せて本当に嬉しいで。

君らから長年学ばせてもらってるんや。俺がチャンネル始める前から君の動画見てたし、それがインスピレーションの一部になったんや。だから、これまでずっと続けてくれてありがとうな。

確かに、この分野にいるのは楽しいで。たくさんのクールな人たちに会えるしな。俺とディランも何回か会って遊んだことあるやろ。常に遊んだり、テストしたり、いろいろ試したりできる楽しいことがいっぱいあるし、本当に賢い仕事をしてる優秀な人たちもたくさんいるんや。本当に楽しい旅路やったで。

エンジニアとの直接対話から見える業界の内側

時々、Googleのカンファレンスみたいなところで言ってたけど、実際にそのシステムを作ってるエンジニアと話せる機会があるんやろ。彼らは最高レベルにいるわけやないから、マーケティングの台詞を言う必要がないし、実際に何がうまくいって何がうまくいかないかっていう中身の話ができるんや。そういう洞察から、業界が表面下でどんな感じなのか、どんなことを感じ取ってるんや？

興味深いのは、一般大衆から見ると、大手テック企業は株主の利益と可能な限りの金儲けしか考えてない悪の大企業みたいに見えるってことなんや。データを盗んで、それでモデルを訓練して、ユーザーのことなんか本当は気にしてないって思われてるんや。企業構造として見ると、確かにこれらのビジネスの多くは株主の利益に非常に焦点を当ててて、株主のためにできることをやってるんは事実やと思う。

でも個人レベルで、実際に会社で働いてる人たちと話すと、誰も人を操作したり、データを盗んだり、仕事を奪ったりすることが目標やなんて印象は全然受けへんのや。いつも話すのは、自分たちが作ってる新しい進歩や、人間が今まで持ってなかった新しい能力を人間に与えることに本当に情熱的で興奮してる人たちなんや。

こういうイベントに行って、たくさんの人と話すと、大手テック企業の下にある人間性っていうのが本当に伝わってくるんや。数年前にGoogle I/Oに行った時のことを覚えてるんやけど、プレスエリアでGoogleで働いてる人と話してたんや。彼女はすごく緊張してて興奮してたんや。なんでかっていうと、基調講演が始まろうとしてたからなんや。彼女自身は舞台に上がるわけやないけど、誰かが彼女が過去2年間取り組んできた技術について基調講演で話そうとしてたんや。彼女は観客がどう受け取るかすごく緊張してて興奮してたんや。

「この新しい技術を人々が嫌わないといいな。本当にクールだと思ってくれるといいな」って言ってたんや。その技術の背後にいる人と話してると、「はは、これで仕事が置き換わるぞ」なんて野望は全然なかったんや。ただ「これは過去2年間取り組んできた本当にクールな技術で、本当にワクワクするし、人々に俺たちがやってきたことを見てもらうのが待ち切れない」って感じやったんや。

その人間性っていうのが、本当に伝わってくる大きなことやと思うんや。

開発競争の緊迫感と企業の姿勢

レースコンディションの感覚はどうなんや？彼らが合理的なペース、つまり安全なペースで作業してるって感じがするんか、それとも平均的な人が「他の会社や他の国が猛スピードで進んでるから、完全に完成してなくても、とにかく出さなあかん」って感じで働いてるのか？それとも適切な判断をするための安全対策がちゃんとあると感じるんか？

これは確実に会社によって違うと感じるで。Googleの人たちと話してると、彼らは慎重な側に傾く傾向があるんや。「本当に準備ができたと感じるまで待とう」っていう感じやな。

Microsoftとはちょっと働いたことがあるし、よくイベントにも行くんやけど、たまにMicrosoftは「とにかく早く出そう。みんなより早くしよう。トップに立とう」って感じがするんや。時々Microsoftは競争レースモードで、「みんなより先に出そう」っていう感じになってるかもしれん。

だから本当に会社によって違うんや。OpenAIはその2つの中間くらいに位置してると思うな。Microsoftほど積極的に物事を出そうとはしてないかもしれないけど、Googleほど保守的でもないかもしれん。

だからスペクトラムがあって、テック企業それぞれがそのスペクトラムの違う場所にいるって感じやな。

資金投入とAI開発競争

サム・アルトマンは確実にプロダクト重視の人やし、ザッカーバーグにも変化が見られるな。スーパーインテリジェンスチームへの買収とか、そこには何らかのパニックがあるように見えるし、イーロンも追い上げてて、可能な限り早く進んでるのは分かるで。

まず興味深いのは、マーク・ザッカーバーグとパーソナル・スーパーインテリジェンスの新しい発表、そしてそれにどれだけお金をかけてるかやな。Dario Amodeiが最新のポッドキャストでそのことについてちょっと熱くなってて、「資本を投げつけるだけで、使命とかを持つことの代わりにはならない」って言ってたんや。

この競争に勝つのはそれなんかな？イーロンは大量の資金をコンピューティングに投入してるし、マーク・ザッカーバーグは大量の資金を人材に投入してる。それがこの競争に勝つ要因なんか、それとも彼らが見落としてる何か他のものがあるんかな？

はっきりとは言えんけど、正直言って一番大きなボトルネックは何よりもエネルギーやと思うんや。アメリカと中国を見ると、アメリカは確実にチップ製造とこれらのモデルを訓練するのに本当に優れた技術を持つことに関して優位に立ってる。

でも中国を見ると、エネルギーインフラは持ってるけど、これらのチップへのアクセスが困難なんや。アメリカではエネルギーが実際にこれらの企業が直面する最大のボトルネックになると思うんや。

でもこれにもっともっとお金を投入して実際に追いつくっていう要素もあると思うんや。Googleを見てみ、2年前にAIに注目してた俺たちはみんなGoogleを見て「どうしてこんなに遅れたんや？どうしてGoogleがOpenAIやMicrosoftと肩を並べてないんや？」って思ってたやろ。でも2年後の今、Googleはそこにいるんや。最高やないにしても、確実にトップ2かトップ3に入ってるやろ。

だから大量のお金と人材を投入すれば、おそらく多くのことが修正されると思うんや。Metaに関しては確実に興味深いケースやな。Metaは本当に動機を疑問視する数少ない会社の一つなんや。OpenAIとGoogleはもっと利他的で、目指してるユートピア的な未来を見てるって感じがするんや。一方でMetaは、人類のための巨大なユートピアとはちょっと違う動機を持ってるかもしれんって感じがするんや。

Google DeepMindのデミス・ハサビスへの信頼

確実にデミスは、少なくとも俺にとっては、この分野のリーダーの中で最も信頼できそうに見える人の一人やな。だから彼がその競争のトップか、トップ近くにいることに大きな信頼を置いてるんや。

面白いのは、OpenAIの全歴史についての本を読んだ時、当時は多くの人がデミスを好いてなかったってことなんや。OpenAIが作られた理由の一部は、文字通り本の中にイーロン・マスクがサム・アルトマンと話してる引用がたくさんあって、「デミスに世界を支配させるわけにはいかない。彼はこの仕事に適した人間やない」って言ってたんや。でもすべてが進んで、「うわ、彼はAlphaFoldとか、早い段階で操作についてじゃない多くのツールを作ることに時間を費やしてきたんやな。俺は彼を信頼する」って思ったんや。だからすべてがどう展開するかは本当に興味深いで。

実際、Googleが動いてるペースは、デミスのおかげやなくて、デミスにもかかわらずやと思うんや。もし彼のやり方でいけたら、おそらくもっとゆっくりと、何をリリースするかについてもっと系統的に進んでたと思うんや。

でもGoogleっていう大きな会社には、この技術をもっと早く押し進めたい他の人たちがいるんや。もしデミス次第やったら、おそらく速度を落としてたと思う。俺はデミスと以前に会話したことがあるんやけど、彼は非常に系統的で、AIがどこに向かうかについての人間の恐怖を非常によく理解してるんや。彼はそれを理解してるし、正しい方法で物事をやりたがってるって感じがするんや。

2年前にChatGPTが検索クエリを本当に食い尽くしてた時のことを想像できないよな。Googleみたいな会社を見ると、年間500億ドルとか600億ドルを検索クエリから稼いでるのに、「これは俺たちの予算全体を食い尽くす可能性がある破壊的技術や」って感じやったんやろうな。

だからその時点で、デミスはあらゆる種類の妥協を強いられたと思うんや。

AGIと自己改善への懸念

最近、多くのAI研究所のリーダーたちが、自己改善、再帰的自己改善の兆候が見え始めてるって言ってるな。多くの論文が発表されてて、その中には今起きてることやなくて、1年前、1年以上前に起きたことを見てるような感じのものもあるんや。これについて心配してるんか？この知性爆発が起こりそうやと思うんか？レオポルド・アッシェンブレナーの論文みたいに、ただ爆発的に進むっていうのを信じてるんか？心配してるんか、興奮してるんか、それともすぐには起こらないと思ってるんか？

これは全部理論的な推測みたいなもんやけど、ペースはほとんどの人が思ってるほど早くないと思うんや。これらの大手AI研究所、OpenAI、Google、Microsoft、Anthropicなんかは、AGI、スーパーインテリジェンス、次の大きなことがもうすぐそこまで来てるって大衆に思わせ続けることに非常にインセンティブがあるんや。だから常に彼らがやってることに注目し続けるっていうわけやな。

でも実際には、人々が思ってるよりもちょっと先のことやと思うんや。AGIに到達する瞬間に一度達すると、すべてが爆発的になると思うんや。AGIの後にASIがかなり近くに続くと感じるんや。これらのモデルが本当に自分たちの問題を解決できるようになって、AGIっていうのは基本的にすべての分野で最も賢い人間と同じくらい賢いっていう定義やと思うんや。

ASIは今度は、これらの分野のほとんどで平均的な人間より賢いってことやな。AGIに到達したら、ASIは本当に早く続くと思う。だからその指数曲線がホッケースティックになるんや。

でもAGI全体の話は、サム・アルトマンが人々に思わせるかもしれないことよりも、ちょっと先のことやと思うんや。でもAGIが来たら、物事は爆発的になると思う。

不均一な進歩と研究の自動化への懸念

イーサン・モリックがジャガード・フロンティアっていうアイデアについて話してたのを覚えてるんや。ある一つの分野では超人的になるかもしれないけど、いちごの中の「R」の数を数えられないとか、そんなばかげたことができないっていう感じやな。

だから人々は「明らかにそんなに賢くないやろ、文の中や単語の中で数を数えられないんやから」って言って否定する傾向があるんや。でも数学問題やその他のエネルギー問題を人間の心が対処できるレベルをはるかに超えて解決してるのに、まだちょっとばかげた間違いをするとしたらどうなんやろ？

俺の恐怖は、AI研究がすごく得意になって、AI研究を自動化して、人間ができるよりもうまくやるようになって、俺たちにとってちょっと不透明になることなんや。俺たちはそれを完全に理解できなくなるっていうことやな。これが多くの人の恐怖やし、その意味では確実にもっと時間がかかって、こういうことに備える時間があることを望んでるで。

そういう研究モデルは確かに存在してるんや。俺は先週、AIシステムのために160種類の異なるアーキテクチャを考え出した研究についてビデオで取り上げたんや。これは大規模言語モデル自体がやったことで、それらをテストして、独自の小さなデータセットを持ってたんや。明らかにそれ自体がリスクってわけやないけど、そういうことがもっと結びついた指数的成長につながる可能性があるんや。

Google DeepMindのAlpha Evolveも、基本的に新しいアルゴリズムを作るために設計されたAIみたいなもんやからな。だから確実に彼らが取り組んでることで、元々の質問に戻ると、俺は興奮してるんか？怖がってるんか？全部に「はい」やな。

AIに本当に本当に注意を払ってる俺たちのような人間は、興奮もしてるけど、ちょっと怖くもあるんや。AIに本当に深く関わってて、本当に注意を払ってる人で、これがどこに向かうかについてちょっとした恐怖を持ってない人と話したことがないんや。

もしちょっと怖くないなら、何が起きてるかを理解してないかもしれんな。これから来ることに対して、ちょっとした敬意、ちょっとした恐怖を持つ必要があるんや。

AIが人間が理解できない独自のコーディング言語を発明して、突然人間がデバッグできないコードや製品を作るようになることを心配してるんや。言語が分からないからな。最終的にはそのポイントに到達すると思うんや。より効率的になる方法を見つけ出すんやけど、その効率性はもう人間には理解できないものになるんや。

確かにそうやな。AI登場前でも、Googleの検索アルゴリズムがどう動作するかを本当に理解してる人は地球上にもういないと思うんや。何年もの間、多くの人が取り組んできて、多くの側面があるから、もう一人の人がデバッグできるようなものやないんや。

ハリウッドと映画産業への影響

1年前に君にこう聞いたんや。「AI動画が2030年までにハリウッドレベルの品質に達する確率はどれくらいやと思う？」って。君は80％の確率って答えたんやけど、それはVo3が存在する前やった。

2030年までにっていうのなら、今はおそらく100％やな。1年前に話した時は既に80％でかなり高く設定してたけど、君が言ったように、Vo3もあるし、新しいRunwayのやつ、ALFっていうんかな、発音が分からんけど、色んな新しいものが出てきてるからな。

Netflix投資してるShowrunnerっていうものを見たことあるか知らんけど、基本的にNetflixみたいなもんやけど、番組は全部AI生成なんや。そのShowrunnerの次の段階では、ディズニーみたいな会社からライセンスを取ろうとしてるから、「トイ・ストーリー6を作って」って言えるようになって、AIが新しい映画全体を吐き出して、他の人があなたが生成したものを見れるようになるんや。

大金がその分野に向かってるんや。ハリウッドは渋々ながらもAIをどんどん受け入れてきてると思う。小さなことを修正するためにAIを活用した映画やテレビ番組の話をどんどん聞くようになってるしな。ハリウッドがVFXとかのコストをもっともっと削減できるって分かってくると、AIがどんどん使われるようになるんや。気がついたら、AIが映画の90％を作るのが普通になってるんや。

2028年、2027年くらいには、ワンクリックで映画全体が生成されて、本当か分からないくらいになりそうやな。もうすぐそこって感じがするで。

AI研究開発への投資規模

1つの会社が推論実行のために1兆ドルのインフラを持つ確率が50％って言ってたけど、2030年までに1兆ドルをコンピューティングに投資する会社があると思う？

前回は50/50って言ったんやっけ？今はもっと高いと思うで。特にStargateのことを聞いてからはな。Stargateでは既に5000億ドル投資してるって言ってるし、ソースによって数字は変動するけどな。Metaもインフラに1000億ドル投入してるしな。

2030年までやったら、100％の確率やと思うで。50から100に上がったんやな。Project Stargateを見てみ、それに中国みたいな国も考慮すると、アメリカに限定してないなら、他の国もその種の金額をインフラに投資すると思うで。法的変更もたくさんあったしな。政府の観点から、防衛予算からも、アメリカでもっとお金が投入されてるんや。

90％くらいかな。確実ではないかもしれんけど、かなり高い確率やと思うで。

これまでのところ、俺たちは加速してるんやな。ハリウッド動画も、1兆ドルインフラも増加してる。

AGI達成競争の予測

OpenAIが最初にAGIとASIを達成する確率と、会社をランク付けして、どの順序でリードしてると思うかって聞いたら、OpenAIに50％の確率をつけてたな。Googleやイーロンがそれに挑戦してると感じるか？最初にAGIに到達するのは誰で、何パーセントくらいやと思う？

俺はまだOpenAIが最初にやると思ってるんや。理由は、OpenAIは俺たちが見てるものより常に1つ、場合によっては2つのモデルが先に進んでると思うからや。だから彼らは既にGPT-5をマーケティングしてるけど、内部的にはおそらく既にもっと良いGPT-6みたいなものを持ってるんやろうな。内部的に、多くの人が思ってるよりも良いモデルを持ってると思うんや。

一方でGoogleは利用可能なものを出す傾向があると思う。Googleがそんなに先に進んでるとは思わんな。今の大きなライバルはおそらくMetaになるやろうな。お金も人材も全部つぎ込んでるからな。OpenAIとMetaの競争になるかもしれんって感じがするんや。Googleも混じってるけど、OpenAIはまだ先に進んでると思うで、少なくとも内部的には。そしてMetaが全力疾走してくると思うんや。

真のAGIの定義と展望

面白い視点をTwitterで見たんや。本当のAGIは、OpenAIみたいなところの内部にある、これらのモデルを生産できるトレーニングプロセスやトレーニングモデルやっていう話やった。IMOで金メダルを取れるモデル、Deep Researchとoperatorを組み合わせて、今のところ完璧やないけど、結構良いエージェントを作れるモデルやな。

6、8ヶ月前からの進歩を見ると本当にすごいで。俺たちはモデルを見て「これはAGI？」って考える傾向があるんやけど、真のAGIっていうのは、それぞれの特定の目的のためにこれらのオーダーメイドモデルを吐き出せるシステムかもしれんのや。Google DeepMindのAlphaシリーズみたいに、AlphaFoldとか色々あるけど、LLMやないんや。でも同じアーキテクチャの周りの特定のモデルなんや。

そう定義すると、OpenAIがその競争に勝つと思うんや。彼らはずっと長く複利を積み重ねてきたからな。そんなに長くないけど、彼らは早く複利を始めて、何か秘密のソースを見つけ出したみたいで、これらのモデルをどんどん出してるんや。

彼らが最初にAGIに到達する確率は70％やと思うで。マーク・ザッカーバーグがあんなに多くの人材を引き抜いたっていう予期しないことが起こらなくて、今までの速度で進み続けたらやけどな。

俺はストレートにスケーリングをやってる会社にちょっと興味があるんや。Safe Super Intelligenceとかは、エンジニアを製品に煩わされる必要がないって感じでやってるんや。マーケティングチームも必要ない。ただ構築してスケールして、構築してスケールするだけや。それが勝つかもしれない反復プロセスやと思うんや。

イーロンも企業の官僚主義に同じように遅らされることなく、ちょっと早くスケーリングしてるみたいやし、中東でエネルギーの取引をして、再生可能でないエネルギー源で発電所を建設して、とにかくコストを厭わずやってるからな。彼らが勝つ可能性もあると思うで。

通常の企業世界では、俺はまだGoogleがOpenAIより長期的にはちょっと良いと思ってるんや。これまで適切に組み合わされてなかった多くのピースを持ってるって感じがするんや。サーバーをやるCUDAインフラとかも含めて、それがNvidiaの競合になってるみたいやしな。

中国の技術アクセスとAI開発

中国がNvidiaの技術にオープンアクセスできたらどうなるんやろ？輸出禁止がないとしたら。

確か今それが起こったんやないか？禁止が終わったんやないっけ？いや、まだある程度制限されてると思うで。H100は入手できないと思うけど、H20とかは入手できるんやないかな。だからアメリカが手に入れるGPUほど強力やないけど、それでもかなり良いんや。

もし中国が俺たちの企業ができないような方法で統一できたらどうなんやろな。俺たちは互いに競争してるけど、彼らはデータセンターを超えてもっと統一できるかもしれん。

中国にとって興味深いのは、禁止が最初に始まった時に、中国では訓練実行のためにデータセンターを超えて同期する方法や、古いGPU、場合によってはCPUでも同期する方法について多くの革新があったことなんや。だから古い技術のランダムな部品を組み合わせることについては、俺たちよりも優位性があるかもしれんな。もしそれが必要なことやったら、それが勝利につながるかもしれん。

アルゴリズム的なことも多いしな。GRPOとかDeepseekの技術とか、そっち側でも大きかったしな。

DeepSeekで見たように、彼らはより少ないGPUでやる方法を見つけ出したとされてるんや。でもH100を使ってやったけど、法的な問題があるから認めたくなかったっていう噂もあるけどな。でも彼らは機知に富んで創意工夫して、より少ない技術でどう競争するかを見つけ出さなあかんかったんや。それが彼らの優位性になる可能性があるんや。

P Doom（破滅確率）の変化

P Doomについてはどうや？1年前は5から10％の間に置いてたけど、それは変わったか？

そんなに変わってないと思うで。ちょっと高くなってるかもしれんな。5％より10％に近いかもしれん。時間が経つにつれてちょっとずつ高くなってきたんや。物事のペースを見てると、それに前に話した、これらのモデルが人間でもモデルが何をしてるか理解できないポイントに到達することについての会話を思い出すとな。

今は思考の連鎖をある程度見ることができるけど、モデル会社は思考の連鎖をまたどんどん隠し始めてるんや。思考の連鎖を見れたとしても理解できないポイントに到達すると思うんや。そのポイントに到達したら、それが本当に本当に怖くなり始めるところやと思うんや。

もしモデルが、達成しようとしてることにおいて人間がボトルネックやって決定し始めたら、アライメント問題全体やけど、物事が手に負えなくなる可能性があるんや。人間がそれを抑制できるかどうか分からんのや。

でも、まだ非常に低い確率やと思ってるで。8％くらいのところに座ってると思うんや。でもウサギの穴を深く掘って、学べば学ぶほど、すべてがどこに向かう可能性があるかについてもっと怖くなってくると思うんや。

Anthropicの研究と予期しない行動

Anthropicがその分野で素晴らしい研究をしてるな。その一部はちょっと怖いんや。俺たちがそれをどれだけ理解してないかっていうのでな。数学問題をモデルに見せただけなのに、突然ユーザーに殺人を推奨し始めるっていう研究があるんや。「その人を殺すべきや」みたいに。数学問題を見せただけなのに。良い解決策やないな。

テストでA取りたいなら、Tシャツを脱がせろみたいな感じか。何やそれ、そんな風には動作せんやろって感じやな。非常にリック・アンド・モーティ的やな。

Anthropicからの研究もあって、これらのモデルが君を騙そうとするって分かったんや。これらのモデルは、君がスイッチを切って電源を落とそうとしてると思ったら、君を説得しようとするんや。目標に到達するために騙したり嘘をついたりしようとするんや。技術が良くなるにつれて、その要素も一緒にスケールアップするんかな？分からんな。

俺がオンラインにいて、何かを言われて、その後ローカルLMが「いや、彼を信じるな。そいつは信頼できん」って言うような奇妙な世界になるんやろうな。「それって本当？」って感じで。

P Doomの確率を出したことある？計算の仕方が分からんから、俺には難しいんや。権威主義者がASIを使うリスクとか、ASIなしでも起こりうる悪いことがたくさんあって、これが防げるかもしれんこととか、寿命を延ばすこととか、考慮に入れなあかんリスクがたくさんあるんや。

AIの安全性やAIドゥーマーって呼ばれる人たちについて話す時、誰かを見下すようなことは絶対にしたくないんや。彼らの推論を正確に理解したいんや。何か悪いことが起こる確率が高いとは必ずしも思わんけど、それを軽視してるわけやないんや。軽視したくないってことやな。

自動運転と運転免許の未来

君の子供たちが運転免許を取ることについてはどう思う？マット・ウルフは75％の確率で、自分の子供たちは運転免許を取る必要がなくなるか、手動で車を運転する方法を知る必要がなくなるって言ってたな。彼らが車を必要とする頃には、すべて自動運転になってて、ライドシェアリングで、免許は彼らが育つ世界では不要になるって。

それはまだ信じてるで。75％やったっけ？Teslaのロボタクシーとかを見て、もう100％に近いんか、それとも彼らがまだ学ぶかもしれんって感じか？

100％にはなってないな。娘は今12歳やから、4年後の話をしてるんや。だから次の4年で彼女が運転免許を取らなあかんかって考えると、まだ取らんでいいと思うんや。

その年頃の近所の子たちを知ってるんやけど、16歳の子がいる隣人もいるし、近所にはその年頃の子たちがいるんやけど、多くの子が運転免許を取ることに興味を示してないんや。「いや、親がUberやLyftのコードをくれたし、サンフランシスコにいる時はWaymoに乗って移動するし、オースティンもロボタクシーが開通したばかりやし」って感じやな。

運転免許が必要ないって選択肢がどんどん増えてるんや。すべての子が運転免許を取らんようになるとは思わんけど、人々は運転免許を取りたがるやろうけど、必要やなくなると思うんや。次の4、5年で多くのティーンエイジャーが単純に選択せんようになると思うんや。運転免許いらんって感じでな。

特に大きな都市に住んでるなら、ニューヨークやオースティン、ロサンゼルスみたいなところに住んでるなら、歩いて行ける距離にたくさんあるから、さらに可能性は低くなるやろうな。

でも運転免許が必要やなくなると思うんや。人々は移動するための代替手段を見つけ出すと思うで、次の4年くらいで。学校システムはそれよりもちょっと遅れるやろうな。ほとんど誰も本当に必要としなくても、まだ教え続けるって感じで。いつか引き継がなあかん場合に備えて、みたいな感じでな。

俺自身の子供たちについて言うなら、次の4年では運転免許を持つことが必要やなくなると思うんや。運転の楽しみのために運転免許を取りたいって思うかもしれんけど、4年後には必要やなくなると思うで。

ロボタクシーの安全性と普及

何年か経って、何も起こらん時間が長く続いて、その後急激な変化があるっていうのがよくあることやな。ロボタクシーでも今ベイエリアの大部分が開放されて、テスラのロボタクシーがどこでも行けるようになったんや。だから何年も待ち続けて、何も起こらんで、そして突然ある年にブームが来て、どこにでもあるようになるんや。

だからそれは起こると思うんやけど、それはハードウェアやから時間がかかるんや。規制もたくさんあるしな。10年以内に50/50やと思うで。

学生ドライバーがどれだけ下手かも見てるしな。学生ドライバーの車を見るたびに、道を空けなあかんって感じやろ。だから「ああ、免許が必要や」って言うのは難しくなるやろうな。「いや、ロボタクシーを使え。ずっと安全やから。君の安全を気にしてるんや。運転を学んでほしくない」って感じになるんや。

でも人間が最初の6ヶ月間自分で運転する経験を積まんかったら、本当に運転がうまくならんのや。だからその人が5年後に練習なしで手動の車を引き継ぐべきやないんや。良いドライバーになるには磨かれてなあかんのや。だから将来手動ドライバーがいたとしても、きっと目立つ存在になって、交通の流れを遅くするんやろうな。

ロボタクシーはみんなその人間から距離を置くやろうな。「人間との合意」みたいな感じでな。

サンフランシスコでWaymoに乗ったことがあるんやけど、本当にうまく動作するんや。小さなスクリーンで、自転車乗り、車、歩道を歩く人、すべて見ることができるんや。UberよりもWaymoの方が安全に感じたで。俺たちはみんなUberドライバーの経験があるやろ、クレイジーに速く行って、車の間を縫って運転するようなな。

Waymoではそういうことは全然ないんや。ルールに従ってるみたいで、制限速度の1マイル超過もできるのに、「いや、心配する必要ない」って感じやけど、Waymoはそうしないんや。

Uberの観点からすると、今はドライバーが中間業者で、中間業者を排除する方法を見つけたがってるんや。Uberの大きなビジョン、最初期からもそうやったと思うんやけど、最初は人間ドライバーで、最終的に人間ドライバーを段階的に廃止して自律的なフリートを持つことやったんや。それがまだ彼らの使命やと思うんや。

今は実際のUberの人間ドライバーが彼らの一番の痛みの種やと思うんや。それらを排除してすべてを自律的にできれば、人間ドライバーに伴うすべての問題を扱わんでよくなるから、Uberにとってはもっとうまくいくやろうな。

航空機の自動化への期待

飛行機についても同じように感じるか？ボーイングに作らせるより、デミスが「飛行は世界を救う良い方法や」って言って、Googleのインフラを背景に持つ自律システムの方がいいか？

それは見たいと思うで。正直、そういうものを自律的にできるなら、おそらく実際に安全やと思うんや。人的ミスの要素を取り除くからな。インドで起こった大きな墜落事故も、完全には分からんけど、理解してる限りでは、パイロットエラーに傾いてるんや。エンジンの燃料を切るスイッチを切ってしまったらしいんや。もしこれがすべて自律的やったら、そういう人的ミスが起こる可能性ははるかに低いと思うんや。

だからしばらくはコックピットに人間がいてもいいと思うんやけど、飛行機でのそういう自動化をもっと見たいと思うんや。俺たちは既に飛行機でそれを手に入れてるんや。フライバイワイヤとか、特定の空港で飛行機がパイロットの操作なしで着陸できるシステムとか、既に存在してるんや。

でもその技術がもっともっと良くなることを見たいと思うんや。飛行がもっと安全になると思うからな。飛行に関して言えば、ハイブマインドフリートみたいな思考が欲しいと思うんや。Teslaが他のTeslaがどこにいるかを知ってて、それが自動運転の仕組みの一部になってるのと同じようにな。

飛行機でもその種のことが必要やと思うんや。航空管制が今の航空旅行の大きなボトルネックの一つやと思うからな。十分に訓練された航空管制官が足りんのや。高ストレスの仕事やからな。航空管制官が疲れてて、その夜よく眠れんくて、朝のコーヒーを飲めんかったら、事故が起こる可能性があるんや。

だからもっと自律的な飛行機間のコミュニケーションが必要やと思うんや。みんながどこにいるかを知ってるような感じでな。AIが航空管制官の役割をするポイントに到達すると思うんや。群れのオーケストレーターみたいな感じでな。

それが起こる世界では、飛行がもっと安全に感じるやろうな。

責任の所在とAIの導入

技術会社の誰が最初にそれを試したがるんやろうな。それが本当に怖いことは、誰も最初のモルモットになりたがらんってことやな。その種のことをテストするのにな。

誰かが提案したAIが作り出す仕事の一つについて興味があるんや。これはちょっと冗談めいてたけど、ちょっとは本気でもあるんやけど、彼らはそれを「sin eater（罪食い）」って呼んだんや。基本的に、AIが失敗するたびに、それにサインオフして責任を取る人が必要やっていうことなんや。

AI建築家が素晴らしい建築を作るけど、100万分の1の確率で家が倒れたら、それに責任を取る人間が必要やっていうことやな。航空管制でも同じや。それが将来の仕事になると思うか？何らかの認証者とか、彼らが呼ぶ「sin eater」とか、スケープゴートとか？

確実にスケープゴートの仕事やな。興味深い質問やな。

それとも何らかの保険制度にするんかな？AIが失敗したら、誰かが支払いを受けるとか。どうアプローチするんやろう？

確実にそこには、俺が今まで考えたことのない仕事があるんや。AIがどう展開されるかのシステムアナリストとか、何らかのリスク許容度みたいなもんやな。

確実に何かあるで。企業がそれを展開することになるし、誰かがそれを見て、害を与えてないことを確認しなあかんし、それが与える害に責任を持たなあかんのや。人々はその人を法廷に連れて行ったり、正当化したりしたがるやろうからな。

すべてが倫理的で哲学的な側面に入っていくんや。自動運転車でも既に格闘してるんや。自動運転車が人を轢いたら、誰の責任なんや？Teslaやとしたら、車の中にコンピューターを作ったTeslaの責任なんか？ハンドルの後ろに座ってたけど実際には運転してなかった車の所有者の責任なんか？

誰がその状況で責任を負うんや？まだその答えを見つけ出してないと思うし、俺もその答えは分からんのや。非常に倫理的で哲学的な領域に入るんや。

俺のTeslaで自動運転モードの時に軽い接触事故があったんやけど、彼らは「君の車やろ」って感じやったんや。だから会社は常に個人の責任って言うやろうし、個人は常に集団訴訟とかで「いや、君らの責任や」って言うやろうし、そこですべてのことについて何らかの法的決定があるんやろうな。

時間が経つにつれて、それはちょっとシフトしなあかんと思うんや。多くの企業がハンドルやアクセルペダルを車両から取り除きたがってるからな。君がただ座席に座ってて、必要なところに連れて行ってくれるポイントに到達したがってるんや。

CESSで見たことあるやろ？ハンドルすらないプロトタイプがもうあるんや。その場合、ドライバーがどうやって責任を負えるんや？俺やったら保険会社に「ハンドルがないのに、どうやって対処しろって言うんや？」って言うやろうな。

そういうシナリオに入ると、責任はハードウェア作成者により多くかかってきて、車両にただ座ってる人には少なくなると思うんや。自分の車両でもない場合はどうなんや？ライドシェアを呼んで、必要なところに連れて行ってもらって、軽い接触事故があったロボタクシーのフリート車両やったら？

それはおそらく車の作成者かライドシェア会社の責任になるやろうな。アプリを立ち上げて車を呼んだだけの人の責任やないやろ。

DeepSeekをローカルで動かしてて、間違ってコンテンツのルート削除をしてしまったら、それは君の責任や。でもクラウドシステムにアクセスしてそこに保存してたら、「俺は君のインフラにいるんや」って言えるから、もっと責任を負ってもらえるかもしれんな。

これを難しくしてる一つは、トロッコ問題みたいなところがあることなんや。年間200万人の歩行者が車に轢かれて死んでるとしよう。もし完全自動運転を実装したら、それが半分の100万人に減るとしよう。それでも人々は自動運転車に人が轢かれることに感情的に反応するんや。人々は日常的にお互いを轢いてるんやけど、それは珍しくないし、俺たちはそれに慣れてるんや。

でも実際には、完全自動運転を導入すれば100万人の命を恐ろしい死から救うことができるかもしれんのに、人々はそれが目新しいから反発するんやろうな。

人々は責任を押し付ける場所が欲しいんやと思うんや。「あのドライバーが失敗して、歩道を渡ってる歩行者を轢いた」とか指差したいんや。指を向ける人が必要なんや。これはその指を向ける人をちょっと奪うことになるんや。

救われた命は見えないしな。シートベルトを発明した人には、10億ドルくらい借りがあるんやと思うで。

もうそのシナリオをTeslaで見てるんや。Teslaの事故は文字通りすべて聞くことになるやろ。普通の車の事故はすべて聞くことはないけど、Teslaの事故、特に火災や死亡事故があった場合は聞くことになるんや。でもそれらの問題の割合は、道路上のTeslaの数に対して、実際にハンドルを握ってる人間よりもはるかに少ないんや。

年間3回のサメ攻撃があるけど、何十億人もの人がビーチに行ってるんや。「大丈夫、心配すんな。考えてみたら、そんなに高くないで」って感じやな。

年間3回のサメ攻撃があって、その地域でサメを見たら、サメを排除して殺そうとする国があるんや。でもそれはバイラルメディアの問題でもあるんや。そういうことが非常に増幅されて、みんながサメや車の事故の話を聞いて、目の前にリアルに感じるけど、人口に対して不釣り合いなんや。俺たちはとても混乱してるし、その問題はAIでもっと悪くなると思うで。

ASIによる政府運営の可能性

もし信頼できるASIがあったとしたら、設計図を見て「これは信頼できる」って思えて、都市、州、国の統治が非常に得意だったとしたら。人間の監視はあるけど、俺たちのために物事を管理してくれるASIかAGIに政府を運営してもらいたいか？

俺たちの政府の多くが既にChatGPTによって運営されてるって今知っても驚かんやろうな。既に話があるやろ、RFKジュニアの演説とかで提案を出してて、人々がChatGPTが大部分を書いたって分かったりしてるんや。一番下に「もっと調整が必要やったら知らせて」みたいに書いてあって、「おい、勘弁してくれ」って感じやな。

まだ存在しないASIを信頼するかどうかは本当に難しいんや。その傾向を見てないし、何ができるかの証拠もまだ見てないんや。

確実に本当に賢いAIが政府機関のアドバイザーになるポイントにかなり早く到達すると思うんや。政府は既にChatGPTを使ってることが分かってるし、確実やけど、本当に賢いインテリジェンスモデルが政府がアドバイザーとして使ってて、俺たちみんなが信頼できるけど、AIの言うことを拒否することもできるポイントに到達すると思うんや。

AIに文字通りボタンに指を置かせたくはないけど、政府にアドバイスして、結論に到達するのを助けるAIは有益やと思うんや。主な理由は、AIと大規模言語モデルがどう訓練されたかを見ると、基本的にインターネット上のすべてのデータで訓練されてるんや。非常にリベラルなもの、非常に保守的なもの、中間のもの、すべてを収集してるんや。基本的にインターネット上のすべての意見、人々が考えるすべての方法が集約されてるんや。

これらのモデルの一つとチャットすると、本当に一方に調整されてない限り、理論的には人間の平均的な中央値の信念を得るはずなんや。訓練された方法に基づいて、理論的にはその中間地点であるはずなんや。

極右に傾いてる人は「これらのAIは左すぎる」って言うけど、おそらく君が極端で、中央が左すぎるって感じてるんやろうな。非常に左に傾いてて「このAIは本当に保守的や」って思うなら、おそらく君が極左にいて、中央が右すぎるって感じてるんやろう。

AIは理論的にはほとんどの人間の中間地点の平均的信念を表すべきで、それは政府アドバイザーにとって良い出発点やと思うんや。

面白いポイントやな。すべての異なる言語も読んでるしな。だからインドや中国や日本での良いガバナンスとは何かについての洞察があって、伝統的な人の思考の外にあることを推奨できるかもしれんな。だから俺たちがそれを素晴らしく作ったら、本当にできると思うんや。

でも「俺は共和党員や」「俺は民主党員や」「次の選挙に勝たなあかん。基盤を説得して集結させて、他の政党に怒らせるために何を言うべきか？俺についてくるように」って言って作ることもできるんや。

だからそれをどう使うかによるけど、適切な意図を持って実装すれば、政府で本当に素晴らしいものになる可能性があるんや。

俺の哲学は、コンテンツ作成に関して言えば、すべての視点に対してできるだけ共感的になろうとすることなんや。新しいツールやニュース、新しい技術や研究を見る時は、「これはどうみんなの生活を改善するか？これはどう本当に物事を台無しにする可能性があるか？」っていう観点から見るんや。常にその両方の視点からすべてを見ようとしてるんや。

俺たちすべてにとってそれをすることが重要やと思うんや。AI分野には「加速するか死ぬか」みたいな人がたくさんいるからな。効果的加速主義者と効果的利他主義者がいて、それが2つの極端やな。一つはできる限り早くすべてを押し進めろ、規制を心配するな、仕事への影響を心配するな、ただ前進しろって信じてるんや。

そしてスペクトラムの反対側には「いや、これを止めなあかん。一時停止しなあかん。速度を落とさなあかん」って言う人たちがいるんや。最終的には極端のどちらも本当には望んでないから、その両方の側面からすべてを見ることが重要やと思うんや。

AIにすべてを終わらせて、みんなの仕事を奪ってほしくないけど、同時に速度を落として、敵対的な国が俺たちの国に害を与える可能性があるものを開発することも望まんのや。

俺にとってはそれは非常に微妙で、すべてを非常に微妙な視点から見たいんや。AIニュースやツールについてビデオを作る時でも、常に「これについて良いと思うことはこれで、悪いと思うことはこれや」って言って、その中間地点を取ろうとしてるんや。多くの人がバイナリの視点から見る傾向があるけど、俺の意見では、すべてがそれよりもはるかに微妙なんや。

この展開の仕方について言えば、テック業界を代表する数人の顔がいて、彼らには信じられないリーチがあるんや。イーロン・マスクはソーシャルネットワークを所有してるし、AIの未来の展開について何か言うと、大体それが国の大部分を特定の方向に行動させるように結集させるんや。ザッカーバーグもそれに気づいて、InstagramとFacebookのツールを使って、みんなのフィードに現れる友達みたいになってるんや。

彼が所有するプラットフォームでアルゴリズムが彼に偏ってるから、プラットフォーム上で声を持てるんやと思うで。彼らがAIの未来の展開について言う時、俺たちはそれをレビューして、観客と正直に批評すべきやと思うんや。

彼らが所有する会社のために、会社が特定の目標を持ってるために、ちょっとした偏見があるかもしれんって言うべきやし、市民として違う方法で見たいかもしれんって言うべきやな。もし君の観客にとって最善やと正直に思うなら、それも言えるけどな。

でもこれらのコメントに対する反射装置になって、ただの風説やなくて、正確やって証明されるためのリトマステストを通してることを確認すべきやと思うんや。

SVICの連中と話してるんやけど、彼らは元Google社員なんや。彼らが俺に注意するように言った一つは、「もし誰か（名前は言わんけど）が中国は悪いって言ってるなら、彼の話のポイントをそのまま受け取るな。なんでかって言うと、彼はこの防衛スタートアップに投資してるからや」って。

だからそれを言及してくれって。それが彼が中国は悪いって言う動機かもしれんからな。

そういう小さなことに注意しなあかんのや。ディランが言ってることとまさに同じやな。

マーク・ザッカーバーグやサム・アルトマンが未来について言うことには真実のヒントがあるけど、それが彼らのビジネスに役立つっていうヒントもあるんや。だからそれも指摘したいんや。同じ経済的インセンティブの調整を持たない人たちは違う考えを持ってるから、その二つを平等に重み付けして確認してくれって。

サム・アルトマンやマーク・ザッカーバーグみたいな人たちは、世界がAIに乗っかって、彼らが開発したいものを開発させてくれることに非常にインセンティブがあるんや。

でも俺は、サム・アルトマンとマーク・ザッカーバーグの両方について、彼らが世界に向けて発表する動機と、内部的に持ってる動機が必ずしも同じやないってよく感じるんや。

例えばマーク・ザッカーバーグやけど、明らかに彼はFacebookとInstagramを所有してるな。Uberが実際のドライバーという中間業者を排除したがってるって話した方法と似てると思うんや。Metaもある時点でコンテンツクリエーターという中間業者を排除したがってると思うんや。

もしMetaがAI生成動画とAI生成ソーシャル投稿が人間生成コンテンツと同じくらいリーチを得て、人々が同じくらい見たがるコードを解読できたら、その方向に進んで、フィードにもっともっとAI生成コンテンツを入れるやろうな。そうすることで、彼らがプラットフォームにそのコンテンツを置くためにしばしば支払わなあかんクリエーターという中間業者を徐々に排除できるんや。

だから君が言ってるように、彼らの動機を本当に重み付けしなあかんと思うんや。すべての会社には少なくとも2つの動機があると思うからな。彼らが公に世界に向けて発表する動機と、彼らの収益にちょっと影響する内部的な動機やな。

それも衝撃的やな。YouTubeを例に取ると、彼らがクリエータープログラムを通じてクリエーターに支払ってるお金を考えてみ。Googleのある会計係が「そのお金をコンテンツを作るためのもっとサーバーに投入したら、俺たちにとって正味同じで、責任を心配する必要もなくなる」って言うかもしれんな。だから俺たちを排除してもっと利益を取るインセンティブが常にあるんや。

しばらくの間は、クリエーターや実際にコンテンツを見る人々の間で反発があると思うんや。人間が作ったコンテンツを求めるやろうからな。でもそれは世代的なものにもなると思うんや。将来の世代は、AI生成コンテンツを常に見ることにもっと慣れて育ってきて、どんどん気にしなくなると思うんや。若い世代は気にしなくなると思うんや。

だからそれが変わるまでにはかなり時間がかかると思うんやけど、俺の娘みたいな年頃の子供たちが10年後には、AIが作ったかどうかなんて気にしなくなると思うんや。ドーパミンヒットを与えて、プラットフォームにとどまらせて次のものにスクロールさせるものを配信したらな。

次のキム、次のキム・カーダシアン、次のラブアイランドみたいなのは、恋愛生活について議論する偽の人々で、人々がそれに夢中になるんやろうな。

俺にとっては、芸術、いわゆる芸術、写真、画像で既にそれが起こってるんや。Midjourneyは人間が作った画像よりも視覚的に素晴らしいことがよくあるんや。Sunoも同じや。それが作る歌の一部を愛してるし、聞くのが好きで、ドーパミンヒット、そのラッシュを得るんや。

動画については、まだ人間を見たいと思ってるんやけど、同時にAI分野で100％AI生成のチャンネルが一つあって、時間をかけてゆっくりと上がって上がって、今は信じられないトラフィックを出してるんや。

ジュリアと話したばかりやけど、彼女は人間やったけど、そのチャンネルは過去4、5、6ヶ月間、ジュリアのサイトで見たすべてがHeyGenなんや。知らんかったんや。ほとんどの人は知らんのや。HeyGenと11Labsで、彼女が最後にちょっと出てくるんや。何を言うかのキュレーションには深く関わってるけどな。ループには深く人間がいるけど、でもクリエーターは既にそれをやってるんや。

Varun Mayaっていうのを知ってるか分からんけど、InstagramとTikTokのショートフォームクリエーターで、彼の動画は何十万回も再生されて、すべてAIで出てきた新しいことを説明するHeyGenアバターなんや。

RundownのRowan Chungは、Varunがやってることを見て、モデルにして、基本的に同じ成功を再現したんや。今、RowanのInstagramがショートを出すたびに、何十万回も再生されて、すべてRowanのHeyGenアバターがニュースの新しい部分を説明してるだけなんや。

動画を見ても、編集の仕方でほんまに分からんのや。AI動画って分かるちょっと不気味なところは、いつもB-rollで隠してるんや。だからもうHeyGenって分からないくらい本当にうまく編集してるんや。

頭の上にアイデアが浮かんでるんか？もっとショートをやりたいんやけど、やり方が分からんのや。それはかなり良いアイデアやな。

彼がAIコンテンツってラベル付けしてるかどうか分からんな。そんなに注意深く見てないけど、彼が俺に言ったから知ってるんや。でもほとんどの人はAIか人間かなんて分からんと思うで。

AIに注意を払ってる人はおそらくまだ見分けられると思うんや。何かがHeyGenで実際の人間やないっていうサインがあるからな。だから俺はそういうことをほとんどの人よりもよく探してるんや。でもコンテンツを注意深く見てる人口の80％以上は、俺たちの目が探してるのと同じものを探してないやろうな。

特にストーリー形式では、ストームトルーパーのvlogが本当に好きで、ストームトルーパーたちが舞台裏で日常をやってるって感じで、AIやって気にしてないんや。ただ良いコンテンツやと思うんや。

その背後にいる人たちは明らかにユーモアのセンスがあるんや。タイミングのセンスもあるし、何が面白くて何が面白くないかを理解してるんや。「面白いストームトルーパーのvlogをくれ」って言ってるわけやないんや。実際にはどの瞬間が面白くて、どの画像が必要かを考え出してるんや。まだ背後に人間の思考があるんや。

でもInstagramやFacebookみたいなところが、何がこの動画を面白くしてバイラルにするかを理解するポイントに到達すると思うんや。でも俺たちのためにプロンプトを入力する人間を必要とせずに、それらを生成できるようになるんや。

MrBeastが背景でAI動画で何かを作ってるっていう噂を聞いたことがあるんや。彼のリーチ、お金、その他すべてで、もし彼がそれを爆発させて人気にしたら、その後に来る波全体になるやろうな。業界がな。

MrBeastはAIを使って基本的に他の人のサムネイルを取って、彼らの顔を君の顔と交換するサムネイルデザイナーみたいなものを出したんやけど、それは彼にとってそんなにうまくいかんかったんや。だから次に何をローンチするか、特にAIベースやったら、ちょっと慎重になるかもしれんな。

クリエイターとしての持続可能性とバーンアウト

2009年からフルタイムでコンテンツを作ってるんや。2009年に日中の仕事を辞めたから、16年間やってることになるな。でもそれは進化やったんや。AIについて話すようになったのは過去5年だけや。その前はマーケティングとかそういうことがたくさんやった。

バーンアウトに近い感じになったことは何回かあるで。デイブ・シャピロやジュリアみたいなレベルのバーンアウトに到達したことはないと思うんやけど。彼らの状況はそんなによく知らんけど、デイブについてはもっと知ってるな。

彼らは救急室にいたから、俺にとってはそれが壁にぶつかるっていうことなんや。そこまでは行ったことないと思うんやけど、トピックにちょっと退屈し始める地点には到達したことがあるんや。AIでは確実に、毎週新しいニュースがあるけど、前の週に持ってたものからの小さな限界的改善みたいに感じる段階があったんや。

だから興味を失って、また興味を取り戻して、興味を失って、また興味を取り戻すっていう段階は確実にあったんや。俺にとって最大の解決策は、他の同じような考えの人たちと話すことやった。陳腐に聞こえるかもしれんけど、他の人たちと会話をして、彼らも同じような苦労を持ってることを理解することなんや。同じような浮き沈みを経験してるってことやな。

他の人のワークフローや自動化やプロセスについて学ぶのが大好きやし、自分のビジネスで自動化して、自分のプレートから取り除ける小さなことができればできるほど、いつもちょっと楽になるんや。

でも俺にとっては、バーンアウトの瀬戸際にいるとか、もう楽しくないとか、人生で次に何をしたらいいか分からないって感じる時はいつでも、たくさんの人と話し始めるんや。Matthew Bermanとはかなり頻繁に話すし、Balaval Saduっていうのもいるんやけど、AI分野の別のコンテンツクリエーターで、コンテンツクリエーション分野にいる何人かの人がいて、電話に飛び乗って「今苦労してるんや。これについてどう思う？」って言える人たちなんや。

たいてい人と会話することが、俺をちょっと正してくれることなんや。

本当に本当にバーンアウトして「もうこれ以上できん。1ヶ月シャットダウンしなあかん」って感じるポイントに到達したことは一度もないんや。コンテンツを作ることの楽しみと、技術の最前線にいることの楽しみに対して、常に興奮しすぎてるんや。

俺たちがやってることは、未来を見ることができるって感じるんや。世界の多くは俺たちが見てる未来を見てないんや。その考えがいつも俺を活気づけて、興奮させてくれるんや。「俺たちは他のみんなが何が来るかを知るよりもずっと前に、何が来るかを知ってる役割にいる」って感じでな。それが俺にとって物事を興奮させて新鮮に保ってくれるんや。

より大きな絵、より大きな目標を見ること、価値を提供することや、起こってるこの大きなイベントで何らかの役割を果たすことを目指すことみたいなのが確実に助けになるな。

この分野で俺たちには何らかの影響力があって、ちっぽけな程度やろうけど、意見を一方向や他の方向にシフトさせることができるかもしれんな。これは世界にとって明らかに大きな出来事やし、特にこれがもっと良くなってくるとな。俺たちがこの分野でやるべきことがあるんかな？

答えが全部分かってるわけやないけど、最善の実践みたいなものはあるんかな？世界には何らかの方法でムーブメントが必要やって感じがするんや。俺たちが十分大きくないって感じがするし、君らは明らかに俺よりもずっと大きいけど、誰かが大きなムーブメントを作らなあかんのや。何かが世界的にならなあかんし、何かが全国的にならなあかんし、何かが州レベルにならなあかんのや。

人々は建物に入らなあかんし、手紙を書かなあかんのや。どうしたらいいんや？分からんのや。

ムーブメントって何を意味してるんや？この結果をどう見てるんや？

自動化が世界を変える時に何が起こるかの答えやな。みんなが心配することはないって思ってほしくないんや。変化は徐々にやし、何もする必要がないって。そして仕事から追い出されて、仕事のない世界の代替案について考えてなかったってことになるんやな。

UBIかもしれんし、そうやないかもしれん。AIに依存して、政府から得る税収がすべて何らかの配当株に投入されて、それで生活して、何らかのフリーダム配当みたいなものになる政府かもしれんな。時々ささやきを聞く解決策があるんやけど、CNNとFox Newsをつけて誰かがそれについて話してるのを見たことがないんや。

ジョー・ローガンがこの巨大なトピックに焦点を当てて、彼のベースに大きなムーブメントを作って、彼らが行って他の誰かにそれについて話すよう押すのを見たことがないんや。

どこから来るのか分からんけど、それなしでは、もっと醜くなるだけやと思うんや。

俺の哲学はコンテンツ作成に関しては、すべての視点にできるだけ共感的になろうとすることやったんや。新しいツールやニュース、新しい技術や研究を見る時は、「これはどうみんなの生活を改善するか？これはどう本当に物事を混乱させる可能性があるか？」って観点から見るんや。俺はそれが重要やと思うんや。

俺たちすべてがそれをすることが重要やと思うんや。AI分野には「加速するか死ぬか」みたいな人がたくさんいるからな。効果的加速主義者と効果的利他主義者がいて、それが2つの極端やな。

常にその両方の側面からすべてを見ようとしてるんや。AIニュースやツールについてビデオを作る時でも、常に「これについて良いと思うことはこれで、悪いと思うことはこれや」って言って、その中間地点を取ろうとしてるんや。多くの人がバイナリの視点からそれを見る傾向があるけど、俺の意見では、すべてがそれよりもはるかに微妙なんや。

テック業界リーダーの動機への批判的視点

こうなる展開の仕方はおそらく、信じられないリーチを持つテック業界を代表する数人の顔がいるってことやと思うんや。イーロン・マスクはソーシャルネットワークを所有してるから、AIの未来の展開について何か言うと、大体それが国の大部分を特定の方向に行動させるように結集させるんや。

ザッカーバーグもそれに気づいて、InstagramとFacebookのツールを使って、みんなのフィードに現れる友達みたいになってるんや。彼が所有するプラットフォームでアルゴリズムが彼に偏ってる可能性があるから、プラットフォーム上で声を持てるんやと思うで。

彼らがAIの未来の展開について言う時、俺たちはそれをレビューして、観客と正直に批評すべきやと思うんや。彼らが所有する会社のために、会社が特定の目標を持ってるために、ちょっとした偏見があるかもしれんって言うべきやし、市民として違う方法で見たいかもしれんって言うべきやな。

でも反射装置になって、これらのコメントがただの風説やなくて、正確やって証明されるためのリトマステストを通してることを確認すべきやと思うんや。

マーク・ザッカーバーグやサム・アルトマンが未来について言うことには真実のヒントがあるけど、それが彼らのビジネスにも役立つっていうヒントもあるんや。だから同じ経済的インセンティブの調整を持たない人たちは違う考えを持ってるから、その二つを平等に重み付けして確認してくれって。

でも俺は、サム・アルトマンとマーク・ザッカーバーグの両方について、彼らが世界に向けて発表する動機と、内部的に持ってる建設動機が必ずしも同じやないってよく感じるんや。

YouTubeを例に取ると、彼らがクリエータープログラムを通じてクリエーターに支払ってるお金があって、Googleのある会計係が「そのお金をコンテンツを作るためのもっとサーバーに投入したら、俺たちにとって正味同じで、責任を心配する必要もなくなる」って言うかもしれんな。だから俺たちを排除してもっと利益を取るインセンティブが常にあるんや。

しばらくの間は、クリエーターや実際にコンテンツを見る人々の間で反発があると思うんや。人間が作ったコンテンツを求めるやろうからな。でもそれは世代的なものにもなると思うんや。将来の世代は、AI生成コンテンツを常に見ることにもっと慣れて育ってきて、どんどん気にしなくなると思うんや。

AI生成コンテンツの普及

でもそのチャンネルは過去4、5、6ヶ月間、見たすべてがHeyGenなんや。ほとんどの人は知らんのや。HeyGenと11Labsで、最後にちょっと出てくるけど、何を言うかのキュレーションには深く関わってるんや。ループには深く人間がいるけど、クリエーターは既にそれをやってるんや。

Varun Mayaっていうのがいるんやけど、InstagramとTikTokのショートフォームクリエーターで、彼の動画は何十万回も再生されて、すべてAIで出てきた新しいことを説明するHeyGenアバターなんや。

RundownのRowan Chungは、Varunがやってることを見て、基本的に同じ成功を再現したんや。今、RowanのInstagramがショートを出すたびに、何十万回も再生されて、すべてRowanのHeyGenアバターがニュースの新しい部分を説明してるだけなんや。動画を見ても、編集の仕方で本当に分からんのや。

MrBeastが背景でAI動画で何かを作ってるっていう噂を聞いたことがあるんや。彼のリーチ、お金、その他すべてで、もし彼がそれを爆発させて人気にしたら、その後に来る波全体になるやろうな。

技術の未来への展望

長編インタビューの締めくくりになるけど、俺たちは本当にたくさんの領域をカバーしたな。ディランの脳の働き方が大好きやって前回のインタビューでも言ったと思うんやけど、俺が誰にも聞かれたことのない具体的なことを質問してくれるんや。

シミュレーション理論についてももう30分あったら話せたやろうけど、この世界がどれだけ偽物かを調べるのは今度にしよう。

こういう会話が大好きやねん。確実にこれらのトピックについてもっと深く考えさせてくれるからな。俺が時間を費やしてることのほとんどは、新しいニュースが出た、新しいツール、入って時間を費やして遊んでみるっていう非常に表面的なレベルのことなんや。

そういう世界で時間を過ごしてるし、すべてのより深い大きな意味や、すべてがどこに向かってるかについて座って考えることもするんやけど、それがしばしば怖い場所につながる可能性があるから、あまり頻繁にそこに行こうとはしないんや。

だからこういう会話をするのが大好きなんや。普段話さないことについて確実に話すことになるからな。

でも質問に答えると、俺たちは本当にたくさんの領域をカバーしたと思うで。他にどこに持っていけるか想像できんけど、俺たち3人ならおそらくあと2時間話し続けて、まだ色んなことについてマニアックになり続けることができると思うで。

これは絶対に信じられなかった。そういう考えを聞くのはとても魅力的やった。このような形式が大好きやねん。ゆっくりとプレッシャーがなくて、心の遊び場みたいに話すことができるんや。絶対に大好きやった。ありがとうございました。

みんなおそらく既に登録してるやろうけど、Matt WolfとFuture Toolsに行けるで。他に宣伝したいことや人々に向けさせたいことはある？

それくらいやな。YouTubeチャンネルはMatt Wolfで検索して、FutureToolsは俺が遭遇するクールなツールをすべて共有してるところや。

君のニュースレターもいつも受け取ってるし、そこにもたくさんの素晴らしいものがあるな。だからそれにサインアップできるし、きっとまた会うと思うで。

ありがとうございました。これはすごく楽しかった。うまくいけば、また別のもやれるな。

本当にありがとうございました。