この動画では、Hard Forkポッドキャストの司会者ケビンとケイシーが、AI報道に対する批判に応答する特別企画を実施している。プロデューサーのレイチェルが企画したこのセッションでは、彼らのAI報道が過度に楽観的で業界寄りだという批判を受け、著名なAI研究者や作家からの批判的な意見を紹介し、それに対して議論を展開している。批判者にはテック記者のブライアン・マーチャント、発達心理学者のアリソン・ゴプニク、ニューヨーク・タイムズのロス・ドゥーサット、AI・メディア統合プログラムのクレア・リー・ブイッツ、そしてニュースレター「Read Max」のマックス・リードが含まれる。
AI批判に立ち向かう
よし、ケビン。もしあんたがBlue SkyやAppleのポッドキャストレビューを見たことがあるなら、時々Hard Forkポッドキャストが批判されてることを知ってるやろ。そや。それで、よく聞く大きな批判の一つが「おい、あんたらAIを煽りすぎちゃうんか。この業界に対して十分に批判的やないみたいや」っちゅうやつや。
「もっと批判的な人をゲストに呼んで、そういう意見に声を与えて、真剣に議論してほしい」って言われるんや。そや、うちらのメールボックスには毎週この話が届くんや。で、今週は実際にそれに対して何かしようと思う。うちらが休暇中やった間に、プロデューサーのレイチェル・コンがこのセグメントを料理してくれとったからや。せやから、レイチェル、出てきて何をしてくれたか教えてくれ。
こんにちは。呼んでくれてありがとう。あんたらがこんなにいいスポーツマンで、知ってる限りでは私をクビにしようとしてへんことにも感謝しとる。まあ、セグメントはまだ終わってへんからな。せや。せやから、何をしたんか、どうやってこのアイデアを思いついたんか、ちょっと教えてくれ。
そうですね、あんたらが言った通り、これの一部はうちらが受け取ってるリスナーのメールに応えることなんです。AI論争がもっと両極化してるという感覚もあると思うんです。それと、私個人のレベルでも何かが起こってると思うんです。AIについて考えるとき、私はどんどんスパイラルに陥ってる感じがするんです。あんたらと同じようにこの中に浸かってるわけですから、一緒にこの番組作ってるし。でも、あんたらの方が私よりも希望的で楽観的な方法を見つけてるように思えてきてるんです。
せやから、この企画の目標の一部は実際に「よし、何が起こってるんや？あんたらはどうやって私とは少し違う場所に辿り着いてるんや？」って感じやったんです。それで、私がしたことは、過去数週間にわたって、あんたらと意見が違うことを知ってる著名なAI研究者や作家に連絡を取ったんです。
この中の何人かは、あんたらとオンラインで議論したことがある人もおるから、完全に驚くことはないと思う。でも私はあんたらにとってハードモードにしたかったんです。せやから、特にあんたらに挑戦して刺激を与えてくれそうな人たちを求めて探したんです。というのも、実際のところ、彼らはAIについて多くの基本的なことであんたらと同意してるからです。
これらは皆、AIが高い能力を持ってて、ある意味印象的で、超変革的になり得ると考えてる人たちです。でも、最も懸念してる害や、もっと懐疑的な利益について、少し違う見解を持ってると思います。せやから、すぐに始めるべきやと思う。
最初の批判者：ブライアン・マーチャント
よし。最初の批判者から聞こう、レイチェル、誰と話したんや？そうですね、最も幅広い批判から始めるべきやと思いました。これは恐らく最も激烈な批判です。これはブライアン・マーチャントからのもので、彼はニュースレター「Blood in the Machine」でAIについて多く書いてるテック記者です。
私の理解では、ケビン、彼はあんたの報道について少しオンラインで議論したことがあるんですよね？そや。ブライアンは何年も知ってる。彼の仕事は本当に好きで尊敬してるけど、AIについては意見の相違がある。でも、そや、彼は「あんたらはもっと批判者を番組に呼ぶべきや」ってメールしてきた。
私は冗談めかして、彼を番組に呼んでもええけど、「feel the AGI」って書いた烙印を押させてもらうって言ったんや。で、その会話はそこで途切れた。よし、そのことを疑問に思ってたから分かってよかった。彼がこれから展開する批判でそのことに言及するからです。せやから、ブライアンに私たちのために批判を録音してもらって、今からそれを再生します。
こんにちは、お二人さん。ブライアン・マーチャントです。テック記者で、「Blood in the Machine」という本とニュースレターの著者です。まず最初に言いたいのは、私はまだラッダイト派について、そして彼らがなぜ正しかったかについての番組全体を望んでるということです。
ケビンが最近、私に「feel the AGI」と書いた烙印を押すと脅したから、これは公平やと思う。それが私の懸念に繋がります。今、AGIを感じることについてどう思ってますか？というのも、超強力な企業のAI製品を避けられないものとして提示するこの物語が、あんたらのリスナーに悪影響を与えてるんじゃないかと心配してるからです。
AI企業が好むAGIの言語と枠組みを使うことは、あんたらが彼らのビジョンに合わせてることを示唆してるようで、彼らの製品ロードマップを露骨に宣伝するリスクがあります。せやから、私の将来の烙印に書かれてる通り、あんたらが「AGIを感じる」と言うとき、働く人々を犠牲にしてしばしばAIを受け入れるよう経営陣や管理職を奨励する、より広範な営業トークに貢献してることを心配してませんか？
よし、ありがとう、皆さん。
AGIを感じるということの意味
よし、これは興味深いな。まず最初に、私が「AGIを感じる」と言うときに何を意味してるかを定義する必要があると思う。というのも、このフレーズはしばしば半分冗談で使われるけど、サンフランシスコのAIバブルの中では実際に何かを意味してると思うからや。
私にとって、AGIを感じるということは、AIがかっこええとか良いものやとか、それを作ってる企業が正しい道を歩んでるとか、それが避けられないものやとか、今日見てることの自然な結果やとかいう意味やない。私が使う方法は基本的に、これらのシステムの能力と、現在のトレンドが続けばどれだけもっと強力になるかを内在化し始めてるという短縮表現なんや。そして、その世界で起こり得る本当に悪いことも含めて、その世界に向けて準備し計画し始めてるということや。
せやから、私にとってAGIを感じるというのはそういう意味や。それは企業のロードマップの支持やない。それは単に、起こってることを受け入れて、できる限り将来を推測しようとして、今後数年で起こり得るもっと超現実的な可能性について頭を整理しようとしてるということや。
これが避けられないという感覚を作り出してて、その未来に抵抗しようとする人たちがそうすることを後押しされてないんじゃないかと心配することはないか？あんたの見解を聞きたい。
私のこれに対する見解は基本的に、数年前には人々がAGIと呼んだであろうシステムが今すでにあるということや。それは将来への予測を立ててるわけやない。それは単に今日存在するものを見てることや。
そして、私は当然のこととして、AIの進歩の速度を観察して、もしそれが続いたらどうなるかと問うことやと思う。何らかの遠い未来のシナリオを信じる必要はないと思う。より大きくより良いモデルを開発するために今日使われてるお金が、過去数年間に見てきたのと同じ種類の能力向上をもたらすと信じるだけでええんや。でも、あんたはどう思う？
そうですね。ブライアンの質問は良いもので、彼が言ってることを理解してます。「見てください、AGIは業界用語です。毎週番組でそれについて話すと、他の声を犠牲にして業界の声を単に増幅してるように聞こえることになります」と彼は言ってるんです。
これは難しい問題やと思う。あんたが言った通り、ケビン、これらのシステムの進歩速度を見ると指数関数的やし、できるだけ遠くまで推測して、その時どんな世界に住むことになるかを自分に問いかけることが重要やと思われる。私たち二人ともそれをする理由の一つは、労働自動化から始まって、その世界から来る非常に明らかな害を見てるからや。これはブライアンの大きな懸念やし、この番組でいつも話してることで、AIの主要な短期リスクの一つかもしれん。
せやから、私たちが単に業界の声を増幅するためにここにいるわけやないということを人々に示すために何ができるかについて、もう少し考えたい。でも、AGIが起こりそうやと話すことについてのブライアンの質問への答えは、ある形で、私たち二人とも多くの労働を自動化できる強力なシステムを得る可能性が高いと思ってるということや。そや。そして、私たちはそのような世界の結果を探求したい。
全くその通りや。そして、実際には労働者がこれらのシステムが向かってる軌道を理解することは有益やと思う。彼らは何が起こってるか、そしてこれらの企業の経営陣がこの技術の労働代替可能性について何を言ってるかを知る必要がある。実際にブライアンのラッダイトについての本を読んだ。素晴らしいと思った。
そして、ラッダイトたちが自分たちの仕事に挑戦してる技術の力について否定してなかったことは非常に示唆的やと思う。彼らは自動織機のようなものを見て「ああ、あれは決してもっと強力にならへん。あれは決して私たちを代替できへん。犯してる愚かな間違いを見てみろ」とは言わんかった。
彼らは正しく、この技術が非常に有用になって、工場がより効率的に商品を生産することを可能にすることを感じ取った。そして「私たちはそれが嫌いや。そこに向かってるのが嫌いや」と言った。彼らはその世界で競争するのに苦労するであろうことを将来に向けて予測し、それと戦うための措置を取ることができた。
せやから、もしHard Forkが1800年代に存在してたら、これらの工場機械によって引き起こされる自動化の可能性の増大に目を覚ますよう人々を奨励してたと思いたい。そして、それが私たちが今日してることやと思う。
そや。そして、もう一つの質問として、私は左派労働者運動がマネジャーを代替できるAIツールに取り組むのを見てみたい。今のところ、これは全て上から下に来てるように感じるけど、下から上に働くAIもあり得る。考えてみるべきことや。よし、次の批判を聞こう、レイチェル。
AGIという用語について
よし、ちょっと待って、この件でもう一つ質問してもええか？ブライアンが本当に気になってるのは、あんたがAGI以外の言語を使うことを考えたことがあるかということみたいやから。一部の人がそれに問題を感じるとき、なぜAGIを使うんや？
人間の労働のほとんどを行うことができるデジタルツールがある理論的な未来のための短縮表現を持つことは良いことやと思う。人間を雇う代わりに雇うことができるデジタルアシスタントがあるような。それは有用な概念やと思う。
もしあんたが、いや、私たちは絶対にそこには到達しないと考える種類の人なら、あんたに何を言えばいいかわからん。私たちはそれが避けられないとは思ってないけど、それが真実かもしれないと考える価値があると思う。せやから、AGIという用語を嫌う人たちが別の用語を提案したいなら、私は別の用語を使うこともできる。
でも、私の感覚では、論争は用語にあるというより、これらのいずれかが起こるかもしれないという考えにあるみたいや。そや。私もAGIという用語が完璧やとは思わん。多くの意味を失ってる。人々は何百万通りの方法でそれを定義する。もしAGIが示すものを示し、その概念の周りに渦巻く一連のアイデアや動機を示す、代わりに使える別のより良い用語があるなら、私は全面的に賛成や。
でも、その用語は非常に粘着性があることが証明されてる。それは業界の人だけが話すことやない。それは学術界、未来学の輪で人々が話すことや。それはこの業界全体にとってのある種のラリーコールや。
そして、それはある意味でこの運動全体の聖杯のようなもんや。せやから、これらの企業が使う用語を使うことが企業の条件でプレイしてるとは思わん。多くの企業もそれを好んでないからや。でも、そのアイデアを短縮する最も簡単で単純な方法や。
アリソン・ゴプニクからの批判
かっこええ。よし、次に聞いてほしい人の批判は、アリソン・ゴプニクや。あんたらももちろんアリソン・ゴプニクを知ってる。UC バークレーの非常に著名な心理学者や。彼女は発達心理学者です。せやから、子どもがどのように学ぶかについて多くの研究をして、それをAIモデルがどのように学ぶか、AIモデルがどのように開発されるかに応用してる。
そして、彼女は番組で少し話したことがあるアイデアを推進してる主要人物の一人でもある。それは、AIが彼女が言うところの文化的技術やというアイデアです。
私はカリフォルニア大学バークレー校のアリソン・ゴプニクです。ニューヨーク・タイムズの報道にも反映されてるAIについての一般的な考え方は、AIシステムを人々がそうであるような個別の知的エージェントであるかのように考えることです。しかし、私と私の同僚は、現在のAIシステムの形に対するこのアプローチは根本的に誤解されてると思ってます。
現在の大規模言語モデルや大規模視覚モデルなどは、実際には書物や印刷物、インターネット検索自体のような文化的技術です。それらが行うことは、ある人々のグループが他の人々のグループが明確に表現した情報にアクセスすることを可能にすることです。印刷物が他の人々から理解し学ぶことを可能にするのと同じ方法で。
今、これらの種類の文化的技術は極めて重要で、良くも悪くも世界を変えることができます。しかし、それらは人々がAIについて考えるときに想像するような超知的エージェントとは非常に異なります。そして、現在のシステムを文化的技術の観点から考えることで、それらにアプローチし、規制し、対処することがはるかに生産的な方法で可能になるでしょう。
ケイシー、これについてどう思う？そうですね、感謝します。もしアリソンがここにいたら、これらのシステムを「文化的技術」として考えることが、どのように規制したり、それらについて異なって考えたりすることを可能にするのかを聞いてみたいです。
私たちがここでAIを文化的技術として絶対に取り上げてる方法があると思います。ハリウッドのような創造的産業、音楽業界で文化の形を作るためのその使用の増加について話します。AIがウェブやウェブに公開する全ての人々に対してもたらすリスクについて。せやから、それがAIを文化的技術として考える一つの方法やし、それを番組で反映してると思う。
今、アリソンの質問の中に確率的オウム議論のヒントを聞くような気がする。それは、もし私が正しく理解してるなら、聞いてるのは、この技術は基本的に人間の知識の巨大な集合体であり、あちこちでちょっとずつ、あちこちでちょっとずつ取り出すことができるということです。
そして、私がそれが除外してると思うのは、これらのシステムの一部が持つ創発的性質です。それらが訓練データにない問題を解決する方法。それらが以前に見たことのないゲームをプレイすることを自分自身に教える方法。その技術を見ると、それは個別の知的エージェントにかなり近いもののように思えます。
せやから、これはアリソンと彼女が何を意味してるかについてもっと会話を歓迎する一つや。でも、それが私の最初の反応や。ケビン、これらのシステムは人間の知識の基盤の上に構築されてるよな？それらはインターネット上の全てのテキストや、人間が何世紀にもわたって生み出してきた多くの知的成果物で訓練されてる。
でも、最近のシステムについて考え始めるとき、類推は少し崩れ始めると思う。印刷機、書物、インターネット、これらはある種安定で不活性な技術や。それらは自分自身の目標を形成してそれを追求することはできない。でも、AIエージェントはできる。今のところ、AIエージェントは超知的やない。非常に脆弱で、多くの点で実際には動作しない。
でも、AIシステムに目標とその目標を達成するために自分で行動する能力を与えたら、それはもはや受動的なオブジェクトやない。それは世界のアクターになる。あんたはそれを文化的技術と呼ぶこともできるし、知的エージェントと呼ぶこともできるけど、それは印刷機やPCや、これらのものがしばしば比較される他の技術片とは違うと思う。
実際に世界に出て行って物事を行うことができるとき、それは何か新しく異なるもんや。そや。例えばOpenAIのoperatorのようなものを考えてみてください。飛行機のチケットやホテルの部屋を予約することができる。それが文化的技術か？よくわからんが、それは私には何か違うもののように感じる。そや。よし、次の人や。
ロス・ダウサットからの科学的限界についての質問
よし、次の質問はAIから来る可能性のある科学的・医学的ブレークスルーについてです。この質問は、ここニューヨーク・タイムズの意見コラムニストで、ポッドキャスト「Interesting Times」のホストであるロス・ダウサットからのものです。彼はAI世界に関連する多くの人々にインタビューしてます。
やあ、皆さん、同僚のロス・ダウサットです。AIが信じられないほど複雑で混沌とした、時には一回限りのシステムを予測し理解する能力を制限するものがあるとすれば、それが何かについて好奇心があります。二つの例を挙げると、一方では事前に天気を予測する能力、他方では人間の免疫システムの狂気的に個別化された複雑さの中でどの治療法や薬が効くかを予測する能力を考えてます。
それらは両方とも、より多くの生の知能や計算力を問題に投げつけることが、癌の治療法を得て、より良い天気予報を得るであろうが、特定の事柄は常に不確実性の領域や試行錯誤の領域に残るであろうという、何らかの固有の限界にぶつかる可能性があるケースのように私には思えます。
あんたらは同意するか、それとも最も混沌とした複雑な領域でさえも何らかの理解に持ち込むAIの能力についてもっと楽観的か？
ここには二つの質問がある。一つは、これらのシステムがどれだけ良く予測できるかに何らかの上限があるかということや。私にとって答えは多分や。AIシステムが100％の確実性で天気を予測できるようになるとは思わん。
同時に、ログオンする前に少しググってみた。AI天気予測モデルは本当に良くて、常に良くなってる。そして気象学者たちは、以前よりもより良い予測を作ることができるようになったので、彼らの分野がこれほど刺激的に感じたことは稀やと言ってる。
薬についても同様のことが見られると思う。これが新薬発見につながる方法についてポッドキャストで特集した話がある。診断の改善につながってる。せやから、そうや、AIについて興奮する理由を探してるなら、人々の生活に明らかに有用なそのようなことを指摘するやろうけど、それはまだ完璧やない。
とても信頼できる天気予報から完璧な天気予報に到達するには、量子力学の何らかの基本的なブレークスルー、大気中のさまざまな粒子がどのように相互作用してるかについての新しい理解が必要かもしれん。でも、はるかに良い予報を得ることは、ほとんどの人にとって十分に良いかもしれん。そして、薬についても同じことが言えると思う。
これが地球上の全ての病気を治すことはないかもしれん。人体について私たちが理解してないことがまだあるかもしれん。でも私は、この分野で働く人々が長い間そうであったよりも興奮してるのに同意すると思う。AIが彼らが探求し試験することをどれだけ可能にしてるかを見てるからや。
そや。そして、ここで追加できるもう一つの関連する質問は、これらのシステムが人よりも優れてるかということやと思う。もしそうなら、私たちは恐らくそれらを使いたいやろうからや。
あんたのAIに対する楽観主義のどれくらいが、AIがこれらの科学的または医学的ブレークスルーを与えてくれることに依存してるかを聞いてもええか？科学と医学は、このようなものが良くなる最も明らかな二つの場所やと思う。もしあんたが癌や他の多くの病気を治すことができると言ったら、私は個人的にもっと多くの社会的混乱を我慢する気になる。
もしそれが約束されてきたにも関わらず、それらのことを決してできないなら、私は超腹を立てる。ポッドキャストで悪態をつく。そや、個人的に私自身のAI楽観主義は、AIが出て行って未解決の数学定理を全て解いて全ての病気を治すことに依存してない。
それが発見のプロセスを速めるだけやったとしても、化学者や生物医学研究者、気候変動を調べてる人々がしてる作業を加速するだけやったとしても、それは楽観主義の十分な理由やと思う。科学と医学の進歩に対する障壁として作用することの多くは、それが本当に遅くて困難やということで、これらのウェットラボを構築して、たくさんのテストをして、テストが戻ってくるのを待って、これらの臨床試験を実行する必要があるからや。
そして、この間のライブショーでのパトリック・コリソンとの会話で刺激的やったことの一つは、彼らが構築してる仮想細胞について話してたときで、AIを使って、ミバエやネズミや人間などでテストする必要なく、これらの実験をシリコで実行することができる仮想環境を構築することができるということや。そして、フィードバックループを短縮して、りんごをもっと噛むことができる。
絶対に。今週Quanta magazineに、AIは物理学で新しい発見にまだ至ってないが、ケビンが今記述した方法で実験を設計し、データのパターンを見つけてる記事があった。物理学者が本当に有用やと感じてる方法で。せやから、AIがすでにそれらのタイムラインの一部を短縮してることは明らかや。
これについて素晴らしいことは、今や自分の内なる声で自分を批判する代わりに、それを外在化して、あんたの恐れが全て真実で、人々が実際に常にあんたの陰で批判してることを実感できることや。そや。本当に素晴らしいやん？とても素晴らしい。うん。
クレア・リー・ブイッツからの人間性についての批判
まあ、その調子で、続けよう。次の批判者の準備はできてるか？いてまえ。私の名前はクレア・リー・ブイッツで、Partnership on AIでAIとメディア統合プログラムを率いてます。あんたら両方の作品に対する私自身の反応で苦労してることに何度も戻ってしまいます。
あんたらがAIを偏見があって、説得的で、へつらいがちやと批判するとき、私は頷いてしまいます。でも、その後、私の周りの人間がどう振る舞うかについて考え始めると、彼らもこれらのこと全てをします。せやから、私は疑問に思ってるんです。私たちは結局のところ、AIが私たちに似すぎてることを批判してるのでしょうか？
これらのシステムが実際に人間の制限を超越することを期待すべき領域はどこでしょうか？そして、彼らが私たちの真の本性を反映することが価値のある他の領域はあるのでしょうか？そして最も重要なことは、なぜ私たちはこれらのことを決定するのに最も適した人が誰かを見つけ出し、彼らに権限を与えることにもっと時間を費やしてないのでしょうか？
つまり、最後の質問は超重要や。私は民主主義派やから、このAIの未来を作ることに公衆の役割があってほしい。このようなことについて意見を持ってる人たちには、オンラインで話すだけやなく、実際に選挙に出て政策提案をまとめて、そして職に就いて法律や規制を通してほしい。
私がジャーナリズムに入ったのは、人々に情報を提供し、そして願わくばごく小さな方法で公共政策に影響を与えるというそのプロセスで自分自身の役割を果たしたかったからや。せやから、それがその質問に対する私の答えや。
そや、それには同意する。多くの分野の人々にこのようなことについて意見を述べてほしい。オンラインに投稿したり新聞にオピニオン記事を書いたりするだけやなく、実際にこれらのシステムを設計し構築するプロセスに参加することによって。哲学者、倫理学者、社会学者、人類学者にこれらの企業に助言してほしい。
これらのシステムを作ることを、外の世界からの意見なしにサンフランシスコの一握りのエンジニアが設計するだけやなく、グローバルで民主的で多分野にわたる努力にしたい。絶対に。そして、もしたくさんの人々が、私たちや他の人たちが話すことを聞いて、「うわあ、このAI的なものは全然好きやない。誰の仕事も代替してほしくない。政治運動を結成して選挙に出て、それに反対しようとしたい」と思ったら、それは素晴らしいことやと思う。
その戦いを公の場で行う必要がある。そして今のところ、その会話に参加してる人が少なすぎる。せやから、それには完全に同意する。
今、クレアの質問の他の部分に取り組ませてくれ。AIシステムは単に私たちの反映なのか？まあ、第一に、答えはそややと思う。ここで問題になると思うのはここや。もし人間の友達がいたら、時々彼らはあんたにとても支援的で親切になる。時々あんたをからかって批判する。
時々、本当に厳しいフィードバックをくれて、あんたが聞きたくなかったことを教えてくれる。これはAIシステムがすることやない。せやから、私が懸念するのは、特に若い人たちがこれらのチャットボットに向かってあらゆる質問に答えさせ、彼らとこれらの本当に激しい感情的関係を築いてるという話をもっと読むようになってることや。
そして、私が心配してるのは、常にあんたの最善の利益を心に留めてない人々や、もしかしたらあんたと素晴らしい関係を持つことができるかもしれないが、もしかしたらこの人は少し気難しくて、あんたは彼らをナビゲートする方法を学ぶ必要があるような人々と相互作用する未来に向けて、それが彼らを準備してないということや。
せやから、これらのシステムは多くの点で信頼できないが、非常に確実にへつらいがちやということで、私が本当に懸念するのはそこや。そして、それは人間が主に持たない問題を作り出すと思う。そや。そして、私がそれに付け加えたいのは、AIに人類の価値観の全て、積極的なものも消極的なものも反映してほしくないということや。
私はそれに私たちの最良の部分、エイブラハム・リンカーンが言った私たちの本性のより良い天使を反映してほしい。それが、例えばメカ・ヒトラーとは対照的に、これらのAI企業が設計しようと努力してるものであってほしい。そや。そや。それも人間が持つ価値観の集合やからや。
せやから、これらのAI企業の人々が人間の価値観にAIシステムを合わせることについて話すのを聞くとき、私は「どの人間？」と思う。私はかなり悪い人たちを思い浮かべることができるから、彼らの価値観がこれらのシステムに採用されるのを見たくない。そや。まあ、それはwoke AIと呼ばれてて、今は違法やな。よし、レイチェル、他の人から聞こう。
マックス・リードからの暗号通貨との比較
よし、これが最後の一つです。あんたらはよくやってる。この最後の質問は、番組の友人であるマックス・リードからのものです。もちろん、ニュースレター「Read Max」を持ってる人です。彼の質問は、何が誇大宣伝で何がそうでないかを見分けることについてあんたらがどう考えてるか、自分自身の直感をどう信頼してるか、そしてあんたらの自信がどこから来るかに本当に興味があるので、本当に素晴らしいと思いました。マックスを聞きましょう。
やあ、皆さん、古い友人のマックス・リードです。元々は大学でのケビンのアカペラ経歴について聞こうと思ってたんですが、ニューヨーク・タイムズのwoke上層部がそんな危険な質問をすることを許さないと理解してます。せやから、代わりにAIについて、暗号通貨の方法で聞きたいと思います。
あんたら二人とも、パンデミックの暗号ブーム、Web 3時代、NFT、Bored Apeなど、そのようなもの全ての報道に積極的に関わってました。そして、当時の大規模な誇大宣伝にも関わらず、そのうちの非常に少ないものが、少なくとも私が知る限り、約束された通りに実際に成功してます。
そして、私が疑問に思ってるのは、あんたらがその誇大宣伝について、そしてそのような誇大宣伝についてのあんたらの報道について、2025年の視点からどう感じてるかということです。後悔はありますか？学んだと感じる教訓はありますか？そして特に、現在のAI報道と誇大宣伝の状態を見るとき、あんたら自身の報道だけでなく一般的に、それが同じ間違いの餌食になるかもしれないと思ったり心配したりしますか？
私はこの質問に警告を付けたいのですが、この質問の簡単モードは、技術が全く違うと言うだけです。せやから、それは非常に異なるものです。そして、私はあんたらにハードモードで挑戦したい。技術がどう違うかについて聞きたくないからです。私が興味があるのは、ジャーナリストとしてのあんたら自身とあんたらの仕事について聞くことです。あんたらはこの業界にどうアプローチしますか？あんたらはどう自分自身の信頼性を確立しますか？そして、投資家や起業家によってなされる主張をどう評価しますか？答えを聞くのが待ちきれません。さようなら。
この質問が大好きや。何を学んだか？技術に触れることなく暗号の部分に触れるために、ここで言うことや。最終的に、2021年に暗号が本当に注目に値すると私を説得したのは、それが引き寄せた才能の密度やった。
以前に本当に価値のある会社で働いてた知ってる多くの人々が、新しい暗号会社を作るために仕事を辞めてた。そして、当時私が信じて声に出して言ったことは、それらの才能ある人々全員が多くの本当に価値のある会社を作ることに失敗するのは本当に驚くべきことやということやった。結局、彼らは私が価値があると見つけるものを多く生産しなかった。
とはいえ、最近番組で取り上げてるように、暗号は消えてないし、業界が政府を捕獲したという事実のおかげで、今まで以上に価値がある。それが暗号のその時期について言うことや。そして、その議論の一部はAIにも移植されると思う。確かに、ソーシャルメディア会社で働いてた多くの人々が今AIに取り組んでるのを知ってるからや。
誇大宣伝とAIの報道について言うことはこうや。技術についての良いポッドキャストは二つのことをする必要があると思う。一つは、今起こってることの非常に地に足のついた報道をあんたに提供することや。せやから、最近の数ヶ月でピート・ウェルズがレストランのシェフがレストランでAIをどう使ってるかについて話しに来たときや、ロイ・リーが来て彼が作ってるカンニング技術について話したとき、ケビンが彼のvibe codingについて話したときのことを考えてる。
DeepSeekについて行った緊急エピソードのことも考えてる。それは実際に技術を少し誇大宣伝を解くための努力やったと思うが、それが何で、なぜ人々がそれについてとても興奮してたかについての本当に地に足のついた感覚をあんたに与えた。それが私たちがする必要があると思う一つのことや。
私たちがする必要があると思うもう一つのことは、業界が起こると言ってることをあんたに伝えることや。これらの会社のリーダーを部屋に入れて、彼らのビジョンを聞くことが重要やと思う。それのバージョンが実現する可能性があるからや。
せやから、これは私たちがサム・アルトマンやデミス・ハサビスやMechanizedという会社の創設者を連れてくるときにしてることや。あんたは恐らく私たちのインタビューで聞いたやろうが、私はそのビジョンに特に感銘を受けなかったが、これらの人々が自分たちが何をしてると思ってるかを聴衆が聞くことは有用やと思う。
そしてもちろん、私たちは彼らに少し押し返したいが、私はビジョンに空気時間を与えて、私にそれについて考えさせ、それに反対させるジャーナリズムをいつも評価してきた。せやから、それが一般的に誇大宣伝について私が考える方法や。
私たちは主に地上で何が起こってるかをあんたに伝えたいが、CEOたちが常に起こると私たち全員に言ってることもあんたに伝えたい。そして、私たちが実際に住まなければならない、その間の空間をあんたに調査してほしい。
そや、2021年に暗号を報道した方法についてはかなり良い気分やと言う。本当に後悔してる暗号の話は一つだけや。それは、これらの暗号駆動のWi-Fiルーターで、この複雑なことをしようとしてたこのヘリウムという暗号会社についての話や。
そして、私はその話で失敗した。基本的なジャーナリスティックな質問をしなかった。後でヘリウムが基本的に多くの異なる会社との多くのパートナーシップを持ってると主張してたことが分かったが、私は会社に電話して「おい、この会社があんたらと関係があると嘘をついてるか？」と聞かなかった。彼らが彼らのビジネスの状態についてそんなに露骨に私を誤解させるとは思いもしなかった。
せやから、それは後悔してる。それは暗号の誇大宣伝を買い込むことよりも、私をいくらかの苦痛から救ってくれたであろういくつかの電話をしなかったことに帰すると思う。そや。暗号報道から得た教訓は、現実世界での使用が重要やということや。
暗号とその周りの誇大宣伝の多くは、これらの抽象的なアイデアや曖昧な約束やホワイトペーパーで構成されてた。そして、実際に掘り下げて誰がそれを使ってて何に使ってるかを見たとき、それは犯罪者やった、投機家やった、Bored Apeコレクションで金持ちになろうとしてる人々やった。
せやから、今AIを報道するとき、この技術をどう使ってるかについて一般人に話すことを本当に心がけてるし、可能な限り、それについて意見を形成する前に自分でそれを使ってみることを心がけてる。
暗号時代は、ある意味でテック・ジャーナリズム・コミュニティにとってトラウマ的な出来事やったと思う。私たちの仲間の多く、そしてもしかしたらある程度あんたと私も、騙されたような、何かに引っかかったような、この技術を理解し説明しようとして時間を無駄にしたような、このようなことを真剣に受け取って、それが全て崩壊するのを見ただけやったような気がしたと思う。
そして、多くのジャーナリストが暗号で起こったことから間違った教訓を得たことを心配してる。多くのジャーナリストが得たと思う教訓は、全ての新技術に対して包括的に懐疑的になること、それは全て煙と鏡やと仮定すること、みんながあんたに嘘をついてると仮定すること、そして掘り下げて何かを理解しようとすることは本当にあんたの時間の価値がないと仮定することやった。
そして、今日見るAI報道の一部にその態度が反映されてるのを多く見る。せやから、マックスの指摘は正しいと思う。過去に無批判に飲み込みすぎたかもしれないことや間違いから常に学ぶべきやと思うが、今日AIで見てることはある意味でその点で過剰修正のようなもんやと思う。
どう思う？そや、少し過剰修正があると思うが、多くのジャーナリストが、あんたの写真を印刷したりスプレッドシートを作ったりするのを手助けすることに主に関心があった本当に小さな業界やったものが、今ははるかに大きく結果的で、多くの人々にとって悪かったものになったことに気づいただけやとも思う。
せやから、「おい、私は全ての人間の病気を治すつもりや」と言ってやってくる誰かを信頼することを躊躇させる。あんたと私の両方がAIジャーナリズムの世界で占めようとしてる役割は、本当に強力なものを作ってると言うCEOたちを真剣に受け取って、そして決定的に、それは悪い方法で強力になると思うし、あんたの仕事を失うかもしれないという労働自動化や、あんたが被害者になるかもしれない新たなサイバー攻撃や詐欺を可能にするとか、現在の教育システムを地上まで燃やしてゼロから再構築する必要があるようにするとかいった、それらの悪い方法について話したいということや。
その過程で積極的なものもあるかもしれんが、番組で週ごとに、このものが大規模に破壊的になる方法をあんたに示そうとしてると感じる。そして、それが私たちが業界の声を増幅するためだけにここにいるというような方法で誇大宣伝として組み立てられることは、ちょっと愚かやと思う。
2010年に、私がFacebookについて話を書いて、いつかそれが何十億人のユーザーを持ち、民主主義を損ない、たくさんのティーンエイジャーに摂食障害を与えるようになることについて想像してくれ。それは誇大宣伝やったか？ある種は。成長についてのソーシャルメディア創設者の条件を受け入れ、彼らの言語を受け入れることやったか？そや。でも、それは有用やったか？私がその話を書いたことを誇りに思うか？そう思う。
せやから、あんたと私が多くのテック・ジャーナリズムの仲間よりも非常に強力なAIのビジョンを買い込んでるという考えを受け入れる気がある。でも、私たちがそれをしてる理由は、これらの技術の一つが本当に急速に成長して、みんなの手に入って、人々がデジタル世界とインターフェースする方法になった最後の時に何が起こったかをあんたに思い出してほしいからや。うまくいかんかった。
これらの会社が意味のある方法で規制されることはないことをすでに知ってる。AIアクションプランは基本的にそれを保証するように設計されてる。せやから、私たちが積極的な役割を果たすことができる限りにおいて、それはそれらの結果について人々と話すことにあると思う。
そして、その結果として人々が私たちが誇大宣伝の側にいると言うなら、その批判を受け入れる。
司会者同士の相違点
まあ、これをしてくれて本当にありがとう。そして、私と話す時間を取ってくれた批判者たちにも感謝します。実際にあんたら二人が互いに何か質問があるかどうか、あるいは、これの大きな目標の一つは、あんたらが他の思想家と比較してどこに立ってるかを地図化することやから、あんたらのAIに対する見解が実際にどう違うかについて好奇心があるかどうかを話すことで終わりたいと思いました。
私はケビンよりも長いタイムラインを持ってると思う。ケビンがAGIについて話す方法は、それを非常に差し迫ったもののように見せるが、私はそれが数年かかるだろうということをより確信してる。そしてもしかしたら数年以上、そうや、これは5年から10年、あるいは15年のプロジェクトかもしれない。せやから、それがケビンと意見が違うことに気づく主な方法や。
私たちは規制についても意見が違うと思うし、政府が介入してAIシステムの開発と展開を制御しようとすることがどれほど可能で賢明かについても。あんたはソーシャルメディアを報道してきた年月と、規制当局がその技術の波と格闘し、ほとんど規制に失敗するのを見たことから情報を得てると思う。
でも、あんたは機関について多くの希望と楽観を持ち、強力な技術への民主的説明責任があることを望む人でもあると思う。私はその見解を共有してるが、現在の政府が、それが構築されてる方法で、規制に慣れてるペースで、関連するタイムスケールに近いものでAIを規制できる可能性は全くないとも思う。私はAIの意味のある規制の可能性についてかなり悲観的になってる。
そして、それが私たちが違う場所やと思う。私たちはそこで意見が違うと思う。バイデン政権の下で意味のある規制の材料があったと思うからや。特定のサイズのモデルを訓練するときに私たちに知らせる必要があるというような非常に単純な要求をしてたところで。他の透明性要件が必要で、そこからより良い世界に到達できると思う。
代わりに、私たちは「おい、世界で最大で最も強力なモデルを作りたいなら、それができる。生物兵器や他のリスクのための新しいリスクを作るかどうか誰にも言う必要がない。今すぐ世界に出すことができる」という風に全て元に戻ってしまった。
今現在、絶対に何の安全装置もなしに、できるだけ強力なAIをみんなの手に入れるために競争してる多くの大きなAIラボがある。せやから、もしあんたがそれよりも良い世界を作ることができないと言ってるなら、あんたと意見が違う。
そや、頑張れ。まあ、あんたらが意見が違うことを神に感謝する。ポッドキャストがより面白くなるからや。そして、これをしてくれて本当に真剣に感謝します。AI会話の多くがこの瞬間に本当に無力感を感じさせることができることを考えると。
私にもう少し統制感を与えてくれる一つのことは、人々が互いにどこに立ってるかの議論を本当に地図化しようとすることや。それは最終的に、AIについて何を思うか、未来がどこに向かってると思うかを理解するのに役立つからや。そして、それは少なくとも私が力を与えられてると感じることができる一つのことや。
そして、それが私たちがしたいことや。本当に私たちは、みんなが彼らがこれらの議論のさまざまな交差点でどこに位置してるかについて自分自身の理解に到達することを望む。ケビンと私は、まずレポーターとして自分たちを識別してると思う。私たちは全ての答えを持ってない。
それが私たちが通常、何らかの主題についてより賢くなろうとするために毎週ゲストを連れてくる理由や。せやから、ポッドキャストにとって本当に悪い結果は、人々が私たちを評論家として考えることや。私たちを情報に基づいた視点を持つ好奇心旺盛な人々として考えるが、私たちは常に心を変えることに開かれてるようにしてる。
そや。大規模言語モデルのように、私たちは新しいパラメータと計算力を追加するにつれて、バージョンからバージョンへと改善することを目指してる。そや。
おい、これがこのクリップの終わりや。もしあんたが見たものが気に入ったなら、私たちのページに行って購読してくれ。完全なポッドキャストを入手できる。私たちは技術と未来についてこのような番組をほぼ毎週してる。今すぐそこに行って購読してくれ。
コメント