本動画は、かつてビッグタバコの規制対策を指揮したピーター・スパーバーが、AI安全コミュニティに向けて衝撃的な警告を発する内容である。スパーバーは、新しい法律や条約、規制によってAIから人類を守るという従来のアプローチが根本的に誤りであると断言する。彼によれば、ビッグAIは1980年代にタバコ産業が開発した戦略をそのまま踏襲しており、AI安全派は勝てない戦いを続けているという。世論、ロビー活動、議論の回避、責任転嫁、毒薬条項、訴訟戦術など、タバコ業界の7つの基本戦略がAI業界にも完全に適用されている現実を暴露し、真の変革はデータセンター建設への地域住民の反発や電気料金高騰への怒りなど、実害に基づく草の根運動からしか生まれないと主張する。スパーバーの提言は、AI安全の戦略を「新法制定」から「安全でないAIをビジネス上不利にする」へと根本的に転換させる必要性を説くものである。
ビッグタバコの戦略家が語るAI規制の現実
ようこそ、For Humanityへ。AIリスクポッドキャストのエピソード77です。新しい法律や条約では私たちを救えません。ホストのジョン・シャーマンです。私はAIリスクネットワークの代表も務めています。ご視聴ありがとうございます。ここでは、AIによる絶滅リスクとAIの害を誰にでも理解しやすい形でお届けしています。技術的な背景は一切不要です。まだチャンネル登録されていない方は、今すぐ登録してください。
2026年、明けましておめでとうございます。今年最初の番組です。このインタビューについて少し説明させてください。これは私たちがこれまで行った中で最も重要なインタビューであり、番組です。数分後に、ピーター・スパーバーという男性をご紹介します。私が昨年10月に初めて会った彼は、超知能を防ぐための最良の道筋について、私の見方を根本的に変えました。
ピーター・スパーバーとは何者でしょうか。彼はビッグタバコが数十年にわたって繰り広げた規制との戦いの重要な設計者でした。彼とそのチームが70年代、80年代、90年代に行った仕事は、ハリウッド映画「サンキュー・フォー・スモーキング」や「疑惑の商人」で取り上げられました。彼らが作り上げた恐怖、不確実性、疑念を生み出す戦略は、何十年もの間、意味のあるタバコ規制を阻止することに成功したのです。
ピーターは、ビッグAIが彼が書くのを手伝った戦略書をそのまま踏襲していると言います。これからご覧いただくのは、ピーター・スパーバーが行った2回目のインタビューに過ぎません。前回は1986年に業界誌で行ったものでした。なぜピーター・スパーバーはAI安全について気にかけているのでしょうか。共通の友人が10月に私たちを引き合わせました。それまで、ピーターはAI安全についてあまり知らず、気にもかけていませんでした。
彼は78歳で、家族と共に素晴らしい引退生活を送っています。私がピーターと出会った経緯について少しお話しさせてください。Guardrail Nowは、AIリスクネットワークに資金提供する非営利団体です。Guardrail Nowの資金調達は私の責任の一部です。そのために、資金調達の経験がある友人に頼み、彼が持つネットワークを通じて人々に会い、Guardrail Nowへの寄付を募ることができました。
その中の一つが、富裕層のグループでした。私は彼らに会うために飛行機で出向き、約14人と座って、コーヒーを飲みながらエリ・イーザーの本を配りました。そして半数以上が、絶滅リスクの主張を完全に受け入れたのです。彼らは「なんてことだ、これについて何ができるんだ、ジョン?」と言いました。そこで私は、AI安全コミュニティが彼らに伝えることを話しました。「選挙で選ばれた指導者に連絡を取ることができます。私たちのような組織に寄付することもできます。ボランティアをしたり、友人に伝えて言葉を広めることもできます」。
彼らは皆、非常に真剣な人々でした。そして彼らは「何を言っているんだ?それはひどい。どういうことだ?私たちは皆すぐに死ぬというのに、手紙を送ったり、小切手を書いたり、友人に話したりしろと言うのか?」と言いました。それは目覚めの体験でした。
私と資金調達担当者は1、2週間考え、彼がアイデアを得ました。以前プロジェクトで一緒に仕事をした男がいる。何度か一緒にプロジェクトをやった。彼の名前はピーター・スパーバー。彼はこの問題を違う角度から見るだろう。彼はこの問題をどう見るだろうか。そして彼は私たちを引き合わせました。Zoomで話し、私はすぐに確信しました。
ピーターがこれをやっているのは、面白いからです。私の意見では、AI安全は彼の注意を引いたことを非常に幸運に思うべきです。彼にはクリエイティブな2人の息子がいて、彼らはAIが好きではありません。彼はバージニア北部に住んでおり、そこでは何百ものデータセンターが景観を損なっています。だから彼はこれを気にかけているのです。しかし私は2ヶ月間、夜も週末も集中してピーターと毎日仕事をしました。彼は自分の戦略書と世界観について私に教え、私は彼にAI安全の世界について最新情報を提供しました。
彼のアイデアは、AI安全運動の根幹を揺るがすものです。少し時間を取って、深呼吸してください。もしあなたが新しい法律や条約にしっかりと固執しているなら、これを聞きながらただ呼吸してください。心を開いて彼の話を聞いてください。これはメインストリームのAI安全パレードに降る雨だと分かっています。でも雨の後には太陽が出ますよね。そしてここには非常に現実的な太陽があります。
ですから教えてください。このインタビューを聞いて、コメントであなたの感想を教えてください。その後、2026年に私が何をするか、そしてあなたがどのように助けることができるかについて、ピーターのアイデアがどのように影響するかをお話しします。それではこれ以上遅らせず、ローマからのこのZoom通話の品質についてお詫びしつつ、公共政策戦略の伝説ピーター・スパーバーとのインタビューをお届けします。
ピーター・スパーバーとの対話が始まる
ピーター・スパーバー、For Humanityへようこそ。あなたをここにお迎えできて嬉しいです。視聴者の皆さん、ピーターと私はここ数ヶ月、かなり集中的に話し合ってきました。そしてそれは本当に本当に目を見開かせる、ほとんど革命的とも言える一連のアイデアでした。あなたが私にもたらしてくれたものを、視聴者やAI安全コミュニティ全般にお伝えしたいと思います。
まず、あなたが誰なのか、あなたの経歴について話す前に、私が最も重要だと思うトップラインにすぐに入りたいと思います。それは、AI安全の分野が私が関わってから、そして20年間ずっと、人類を救うという希望を法律、規制、条約に託してきたということです。新しい法律、規制、条約です。そしてあなたが私に紹介してくれた考え方で非常に重要だと思うのは、それが全く機能しないかもしれないということです。
それでピーター、法律、条約、規制では、なぜ私たちを救えないのでしょうか。
あなたが11月にこの問題を提起したとき、Googleで30分ほど調べただけで、AI業界が使っている戦略が、私たちが1980年代にタバコを守るために発明したものとほぼ同じであることが分かりました。それらはあなたのものでした。私たちは何百もの連邦、州、さらには地方の法案に直面しました。そして私たちはほとんど負けることはありませんでした。
今日これらを使っているロビイストたちは、おそらく私たちがそれらを作った時には生まれてもいなかったでしょう。その起源や、それに込められた思考について知らないかもしれません。私たちが話しているのは2世代、3世代が過ぎ去った後のことです。しかしこれらの戦略は、たとえ本当に普通のやり方で使われたとしても、まだ効果的です。なぜなら、それらは敵対者に勝てない戦いを強いるからです。
そして私はすぐに結論に達しました。あなたとあなたのAI安全の友人たちは高潔な目標を持っていますが、勝っていませんし、業界が政治をコントロールしている限り、これからも勝つことはないでしょう。
これは基本原則です。私がAI安全の人々にこのことについて話していて、私が彼らに言うとき、私が話している男がいて、彼はビッグタバコの規制との戦いの重要な設計者だった、そして彼は、AI安全が新しい法律、条約、規制に焦点を当てているのは希望がないと言っている、と。それは全体のリンゴカートをひっくり返すような話で、できるだけ深く掘り下げたいと思います。
ビッグAIがAI安全に対して非常に効果的に使っている、ビッグタバコの戦略書について話すことから始めてください。
ビッグタバコの7つの基本戦略
もちろんです。さて、あなたがこのインタビューを依頼したとき、まず言わせてください。私はインタビューを受けません、ジョン。今までインタビューを受けたことがありません。私はいくつかのメモを読み返しました。
これを文脈に置くために、スティーラーズの負け、私のパッカーズの負け、そしてイーグルスが幸いにも負けるのを見た後、私は考え始めました。平均的なNFLチームは約100のパスプレイと40のランプレイ、そして何千ものバリエーションを持っています。私たちは状況に応じて使用する多くの戦略を持っていました。
しかしAI業界について読んでいて、7つの本当に基本的な戦略が本当に際立っていました。私たちが日常的に使っていたものです。それらはちょっとばらばらな感じですが、お付き合いください。世論から始めましょう。
はい。
平均的な人や、私が助言してきた多くの経営者は、すべては世論から始まると信じています。十分な数の人々と有権者が何かが起こるべきだという考えを持っていれば、必ずそうなると。しかし私はそれを見たことがありません。起こらないのです。
当時、誰もがタバコ会社を嫌っていました。喫煙者でさえ、禁煙したいので私たちを嫌っていました。もっと多くの人が私に来て、「やらなければいけないのは喫煙者を動員することだ」と言いました。そして私は、彼らは私たちを嫌っているんだと思いました。完全に嫌っています。
タバコ農家も、タバコ会社が作物に支払う価格や、タバコ会社が中国やブラジルからタバコを買っているという事実に怒っていました。だから、これらは自然な支持基盤だと思うでしょう。全くそうではありませんでした。
そして平均的なアメリカ人は、私たちが大企業だからなどの理由で、私たちを好きではありませんでした。人気コンテストには勝てませんでした。だから私たちは世論を無視しました。それは私たちにとって本当に重要ではありませんでした。AI企業は今それを無視しています。
データセンターと戦っている少数のコミュニティの外では、そこここに現れるだけです。これらの企業は怒りにさえあまり対処しておらず、むしろ公衆の混乱に対処しており、それが彼らの最善の利益に働いていると思います。
AI企業が世論を気にしているとは思えませんし、現状では、それが重要かどうかさえ分かりません。しかし、重要なことに入りましょう。
ちょっと待って、政治家に正しいことをさせるという点でさえどうでしょう。理論では、大衆を奮い立たせて、彼らが政治家のところに行って「私たちはこれに怒っています、これをする必要があります」と言い、そして政治家が賢い法律でそれを実行し、世界がより良くなる、と。
政治家の立場から考えてみてください。議会のメンバーは、指導部で本当に上級でない限り、少数のスタッフしかいません。彼らは大量の郵便物に圧倒されています。そのほとんどは缶詰です。ほとんどが人々が署名した同じ手紙で、彼らはそれらをすべて捨てます。
彼らの意見を得る技術はあります。しかし、それは非常に非常に難しいのです。そして彼らはまた、キャンペーン中に有権者に話すことよりも、同僚とうまくやることに興味があります。彼らが有権者に何を伝えるかは、それだけです。だから、そう思うでしょう。そう願うでしょう。しかし、地元に本当に深刻な懸念がある非常に極端なケースを除いて、それは本当に機能しません。そしてその場合でさえ難しいのです。しかし、これにはもっと多くのことがあります。
話し合いましょう。リストに戻りましょう。すみません。
ああ、大丈夫です。私はただ頭の中から話しているだけです。さて、ロビー活動について話しましょう。
基本的には、ほとんどがかつて議会で働いていた人々を雇い、莫大なお金を稼ぎに行くのです。ロビー活動は重要です。条約から始めると、私はその2つにかなり深く関わっていました。他のアメリカのロビイストが関わっているのをほとんど見たことがありませんでした。
条約は、ほとんどの場合、冗談だと思います。延々と続く話し合い、非常に小さな決定、ほとんどフォローアップがありません。そして、気候変動のようなものを見てください。気候変動についての世論は、実際、多くの人々が懸念しているという点で驚くべきものです。十分な理由があると思います。
しかし、クリントン、オバマ、バイデンがホワイトハウスにいたにもかかわらず、アメリカはこの条約さえ批准しませんでした。だから条約には重要なものもあります。商業航空の安全は条約によって管理されています。人々は十分な理由で本当にそれに注意を払っています。しかし、私たちがたくさんの名前を挙げるのは難しいでしょう。
弾道ミサイル条約などもあります。分かりません。本当に難しいことです。しかし、実際に条約を守っているのは誰なのかは、常に疑問です。では、法律と規制に移りましょう。
大きな違いがあるとは思いません。当時、私たちはお金を使いました。そして私たちはたくさんのお金を持っていました。最高のロビー会社を雇うために、民主党員も共和党員も、私たちが法案を予想するあらゆる場所で。私たちはあらゆる基盤をカバーしました。そして私たちが会社を雇ったとき、つまり、ヘレナ、モンタナのような場所でもやっていました。どこでもロビイストがいました。彼らはそこにいましたが、彼らは利益相反で外されました。
だから、誰かが来て私たちに対抗するために彼らを雇いたいと思っても、私たちがすでに彼らを雇っていたので、そのアカウントを取ることさえ許されませんでした。それをするには多額のお金が必要ですが、それが基本的に私たちが持っていたものです。
しかし、真実を言えば、法案を潰すのは常に非常に簡単でした。それを通すのは非常に難しい。私の全キャリアを通じて、ワシントンで、私は2つの法案を通過させたと思いますが、何百も潰しました。
破壊する方がはるかに簡単です。
ああ、そうです。絶対に。そして今AI企業を見ると、彼らは民主党員にも共和党員にも巨額の選挙献金をすることができ、実際に両方に行っています。80年代には、企業献金は禁止されていました。タバコにはほとんど政治活動委員会さえありませんでした。
しかし、私たちにはロビー活動ができる賢い人々がいました。今日は西部開拓時代です。企業は許可されていますが、AI企業の献金のほとんどは個人から来ています。名前は覚えていませんが、OpenAIのCEOです。トランプに3500万ドルを贈りました。しかし、これらの多くの人々は、最初に民主党員に巨額の献金をし、それから素早くトランプと一部の共和党員に向かいました。
しかし、カリフォルニア州知事ケビン・ニューサムとトランプ大統領が同じ人々から多額の献金を受けているのを見ると、それは基本的に、私たちがすべてのロビー会社を雇うことで使った同じ全基盤カバー戦略です。
彼らがたくさんのロビー会社を雇っているかどうかは分かりません。驚かないでしょう。そして彼らは私たちほど多くの場所で戦っていませんが、確実にできます。まだそれを見る機会がありませんでした。
それで、私たちはロビー活動をしました。第三に、私たちは本当の問題について議論することを拒否しました。私たちは質問をかわし、AI業界の話を聞くことの絶対的な達人でした。多くの一般論です。全員が安全にコミットしています。彼らが何を言うと思いますか。おいしい食べ物に賛成する人は皆いるのと同じです。
それは何も意味しません。人によって異なることを意味します。だから何も意味しません。
私たちは本質に引き込まれることを拒否しました。彼らもそうです。それをするのは難しくありません。なぜなら、ジャーナリストから質問されて、そのジャーナリストは3分しかなく、議会の公聴会でそれをする余裕はありません。多くの議会の公聴会は、実際には、尋問されている人々が答えている質問を書いたというところまで振り付けられています。
第四に、私たちはバレーボールと呼んでいたものをプレイしました。議会にはタバコは州が扱っていると説得し、州には議会がやっていると説得しました。誰もが怠惰です。どちらも本当にリードを取りたがりませんでした。
ええ、これは誰かが。彼らが持っています。彼らが持っています。いや、彼らが持っています。
ええ。そしてAI業界は絶対にこれをやっています。第五に、法案が進展し始めたら、私たちはそれに支持を失わせるような文言を詰め込みました。それは毒薬戦略と呼ばれています。あるいはそれを無効にするような文言です。
例を挙げましょう。私がいる前でしたが、タバコはある種の規制が避けられないことをよく知っていました。だから70年代初頭に、タバコ会社は銃と酒のロビーと協力して、連邦政府で最も歯がない機関の一つである酒・タバコ・火器局を設立しました。
FDAがタバコを調べ始めるまでに37年かかりました。そして銃はまだワシントンによって規制されていません。だからあなたはただどこかに移動させるだけです。
そして明確にするために、明白な公衆衛生上の危険であるこれらのものが意味のある形で規制されていない理由は、それらの背後にある産業の力のせいですよね。そしてそれがここでの類似点です。ビッグタバコ、ビッグガン、ビッグAIのように。
もちろん。
一般市民はできませんが。
しかし、全員ではありません。ええ。そしてビッグファーマ、ところで、非常に上手になっています。そして私たちが持っていた最高の人々の中には、これを実際にどのように行ったかについて多くを知っている最高の人々がいます。その中の何人かは、ほとんど同じ人々です。
その中の1人か2人は年配ですが、まだファーマで働いています。他の大企業は手がかりを持っておらず、多くのお金を無駄にしています。しかし、AIに戻らせてください。業界は、国立標準技術研究所にAI安全部門の創設を支持しました。それは本当に良く見えましたが、規制権限は全くゼロです。
ええ。ああ、それは一つのことです。
シンクタンクです。まあ、それだけでなく、私が今理解しているところでは、彼らはそれを安全を見ることから、規制を取り除くことに変えました。それは私たちのタバコの戦略書から直接来ています。
第六、そして、ちょっと待ってピーター、ちょっと待って。ファイバーに戻ります。基本的にあなたが言っているのは、前政権下で作られたAI安全研究所が、新政権が来て、それをリーダーシップとセキュリティに関するもの、基本的には業界寄りのグループに変えた、そしてあなたはこれがまさに典型的なAI安全のプレイ、典型的なビッグタバコの戦略書だと言っているのですね。
取締りを担当している政府機関を取って、警察官を強盗に変えてしまう。
ええ。平均的なNFLチームには100のパスプレイ、40の、つまり、そしてバリエーションがあります。何が起こっているかを見ていて、それに素早く適応し、得られるものを取ります。
しかし、ここでAI企業と一緒に起こっていることは、この重要な機能AI安全をNISTに移すことは、あるレベルでは実際に驚くべきことです。なぜなら、NISTは非常に有能な機関だからです。ただ、何も規制していないだけです。だからそれを置くのに素晴らしい場所です。しかし、この政権で起こったことは、彼らはそれをさらに進めました。そして、それは別のことです。私たちがやった別のことです。
私たちは決してあきらめませんでした。小さな損失だと思っても、それを勝利に変えるためにできることはすべてやりました。そして私が読んだところでは、この政権では、彼らはその機関を使って、AIを傷つける可能性のある規制を見つけてそれらを取り除いているのです。意図されたものとは完全に正反対です。
しかし、最初の罪はバイデン政権下で行われたことを忘れないでください。
最初の…
そもそもそこに置いたことがバイデン政権下で行われました。
だから、私は民主党員や共和党員を指差すつもりはありません、少なくともここでは、特にAI安全の側に立っている政治家を見ないということを言うだけです。
誰もいません。
絶対にそうです。ええ。
ええ。では、ここで先に進めましょう。第六は、
あなたが隅に追い込まれたら、何にでも同意しますが、何もしません。そして多くの法律や規制は施行さえされていないので、なぜ気にする必要があるのでしょうか。タバコ会社が最終的に何十億ドルも支払わなければならなくなったとき、1230億ドルか何かだと思いますが、それはおそらく低いでしょう。
司法長官が起こした主要な訴訟の和解として、州に対して。そのお金は禁煙メッセージに使われることになっていました。ほとんど使われませんでした。それは他のあらゆる種類のことに横流しされました。なぜなら、私たちのロビイストがそれが起こることを確認したからです。彼らは私たちのお金が業界に対抗するために使われることを望んでいませんでした。
だから、ちょっと待って、あなたが言っているのは、多くの禁煙活動に使われるはずだった和解金を、あなた方は実際にそれが起こらないようにロビー活動をしていたということですね。和解金でさえも。ただ厳しくカットしているだけです。
難しくはありませんでした。なぜなら州は現金不足で、ただお金を取っただけだからです。
そして禁煙は、
そうですね。そして彼らは他のことや他のことにそれを回すことができます。それは素晴らしい。そしてまた、教師など、あらゆる他の特別利益団体がいて、もっとお金を求めて叫んでいました。それをするのは難しくありませんでした。
だから、ええ、つまり、それはハーフタイムでゲームプランを調整するようなものです。そして、法律が通過したとして、あなたが本当にそれを嫌っているなら、執行機関の予算を削減します。
それは今起こっています。非常に非常に一般的です。常に一般的でした。その例はたくさんあります。そしてあなたはここでもそれを見ています。第七に、訴訟です。誰もが私たちを訴えました。しかし、私がいた間中、私たちは訴訟を和解したり負けたりしたことはありませんでした。ただ、法律事務所がお金を失うのに疲れて辞めるまで待ちました。
AIが訴えられていることは知っています。単一の敗訴は聞いたことがありません。彼らが重要な何かを、あるいは何かを和解したら驚くでしょう。なぜなら、一度そうすると、言葉が広がり、そして本当に洪水の門が開き、それに対処しなければならなくなるからです。
興味深い点として、彼らは実際にいくつか和解しています。Googleは先週、これらのGeminiティーン自殺ケースのいくつかで和解しましたが、ええ、本当に驚きです。
私も驚いています。なぜなら、彼らは、まあ、陪審員の前に決して行きたくない州で誰かがそれを持ち込んでいる可能性があります。
ええ。そして私も思います、彼らは和解することで、ティーン自殺のチャット記録を読まれないようにしているのだと思います。彼らは公衆から実際の会話を隠しているのです。私の考えでは、それらの会話は彼らにとって非常に厄介なものでなければならず、彼らはただ…
まあ、和解文書は通常すべてを封印してしまいます。それはあらゆる種類のケースで非常に一般的です。
ええ。彼らは、それらのチャットを伴う裁判を望んでいません。まあ、彼らは多くの人々が彼らを追及するのを刺激したくないのです。だから、私は子供に言いました。私はこれを研究することを人生の仕事にしてきましたが、私が言うのは、訴えられているケース、報告されているケースは拾っていませんでした。
当時タバコでは、もちろんインターネットさえありませんでした。だから、言葉を広めるという点では全く異なる世界でした。
ええ。
私の妻は参考図書館員です。彼女のキャリア全体です。彼女は実際に、図書館にコンピュータがある前に引退しました。彼らはコンピュータを持っていましたが、それほど多くはありませんでした。
今日の図書館はコンピュータでいっぱいで、それらで研究をしなければならない参考図書館員がいます。全く異なる世界です。しかし、当時は和解は見られませんでした。そして、ほとんどの場合、今は多くの中身を得られないと思います。
私が15歳のとき、テレビニュースレポーターになりたいと決心しました。テレビニュースレポーターが獲得できる4つの主要な全国賞があります。ピーボディ賞、デュポン・コロンビア賞、全国エミー賞、全国エドワード・アモア・ムロー賞です。33歳になる前に、私はそのすべてを獲得しました。チェサピーク湾の汚染者を調査する地元ニュースレポーターとして。
レポーターのジョン・シャーマンがピーボディ賞を受賞します。
ジョン・シャーマン。
しかし、インターネットが本当にニュース業界を根本的に変え始めていた2010年にニュースを離れました。今ではアルゴリズムが私たちが見るもの、ひいては私たちが考えることの多くを決定しています。だからこそ、今日Ground Newsについてお話しできることを非常に嬉しく思っています。AIリスクネットワークとFor Humanity and AIリスクポッドキャストの創設スポンサーです。
私が最初にGround Newsについて聞いたのは、彼らが私のお気に入りのポッドキャストの多くをスポンサーしているのに気づいたときでした。しかし本当のことを言うと、彼らがこのポッドキャストのスポンサーになることについて私にアプローチするまで、そのサービスを使ったことはありませんでした。だから試してみたところ、本当に圧倒されました。それは根本的に異なるニュースの消費方法です。さて、次の本当の告白です。
Ground Newsの前は、Twitterを使ってすべてのニュースを入手していました。私の思考プロセスは、まあ、主要な出版物や主要なライターを読んでいるのだから、どれだけ悪いことがあるだろうか、というものでした。それは本当に悪かったです。思っていたよりもはるかに悪かったです。何かを十分に頻繁に見ると、それは普通になります。しかし、これらのアルゴリズムは一種の眠りに誘います。そして視点を失うのです。そして私は、それがまさに私に起こっていることだと気づきました。
Ground Newsは私のためにカーテンを引き戻してくれました。ニュースで12年の経験がある私でさえ、それはニュース自体だけでなく、それがカバーされている方法について、私が本当に見ることができなかったことを明らかにしてくれました。
センセーショナリズムとバイアスが私のレーダーをすり抜けており、私はそれに気づいていませんでした。Ground Newsは、見出しを比較し、記事を読む前に出版物のバイアスを知ることができます。だから、記事の言葉を読む前に、私はその周りのフレームをはるかによく理解できます。
例として、米国上院でビッグテックが歴史的な敗北を喫したときを取り上げましょう。提案されていた10年間の州AI法モラトリアムが、午前4時に99対1の投票で潰されたときです。
Ground Newsは私に1つの場所で270の記事を提供してくれますが、それから凝縮されたバイアス比較を提供してくれます。私にとって、AI絶滅リスクについて一般大衆と効果的にコミュニケーションを取る方法について考えることに多くの時間を費やしています。だからこのバイアス比較は、左派が環境への影響を中心にどのようにフレーミングしていたか、右派が州の権利を中心にどのようにフレーミングしていたかを示してくれます。
それは、将来、一般大衆とのAI絶滅リスクについてのコミュニケーション方法について、私が意見を形成し、決定を下そうとするときに、本当に有益です。また、ブラインドスポットと呼ばれるこの機能も絶対に大好きです。それは、一方の側によって非常に重くカバーされている記事を示してくれます。これらは、あなたのアルゴリズムで見逃すかもしれない記事です。なぜなら、それらがそこにあることを知らないからです。
だから、AIリスクネットワークをサポートしたい場合、支援を示すという点で最も強力にできることは、Ground Newsに登録して、私たちのカスタムコードを使用することです。ここにQRコードがあります。ここにURLがあります。ground.news/airrisクです。彼らは、ここから来たすべての人を知るでしょう。
私たちがそのベルをたくさん鳴らし、Ground Newsに多くの購読者を獲得することは非常に重要です。だから、サインアップしてください。やってください。やって良かったと思うでしょう。Ground NewsとAIリスクネットワークは、長期的な関係とパートナーシップを形成したいと考えています。しかし、それは一つのことに依存しています。私たちの視聴者が実際にGround Newsに登録することです。
だから、あなたの電話、ラップトップ、どこでもいいから、ground.news/airrisクに行って、サインアップしてください。AIリスクネットワークを大いにサポートでき、あなたが欠けていたニュースの視点を得ることができます。それはとても重要です。やってください。さて、番組に戻りましょう。
人々は何ができるのか
なぜAI安全コミュニティは条約、法律、規制が違いを生むと思ったのか、なぜこのAI安全コミュニティはそれが違いを生むと思ったのでしょうか。
私についてここで自分自身を代弁しましょう。私はワシントンDCで育ちました。父は議会の国会議事堂で45年間働いていました。妹は20年間そこで働いていました。私は良い政府の最大の信奉者の一人です。父はよく言っていました。あなたの政府はあなたの友人でも敵でもない。あなたの政府はあなたの鏡であり、あなたが隣人が不完全であるのと同じくらい不完全だと。
私は常に、政府は不完全であり、努力は残酷で厄介で困難だが、結局のところ、私たちの周りに見る世界秩序を作るのは法律、規制、条約だと信じてきました。
そして正直に言って、ピーター、あなたはこの3ヶ月で、私がこれを信じた最初の50年が、私たちが間違った方向に押しているだけだということ、そして、これらの企業が演じている5D、90次元チェスのようなものがあることを納得させました。私のような市民の善人レベルの人々は、それが煙の充満した裏部屋で起こると思っているか、起こらないと思っているか、何だか分かりません。
しかし、ある種のポリアンナ、スミス氏がワシントンへ行く、これが法案が法律になる方法の雰囲気のようなものがあります。それは、適切なロビイストを送り込んで、適切な議員に会い、有権者が怒っていることを伝えれば、研究を見せて、彼らは正しいことをして世界を救うだろうというようなものです。そしてあなたは3ヶ月で、それが実在するものだという私の信念を打ち砕きました。
そして視聴者のために指摘したいのは、これについて何が希望を持てるのか、何が起こると思うのか、そしてあなたとどのように実際に人類をここで保護できるのか、制御不能になること、暴走AI、私たちより賢いシステムを構築すること、その種のことすべてから、について話すつもりだということです。
制御を失うこと、そして方法は、安全でないAIをビジネス上不利にすることです。それが道です。しかし、私たちはもう少し先にそれについて話しますが、最初に、ビッグAIが演じている厄介なゲームと、それがどのように関連しているかについて本当に理解したいと思います。
私は40年間ワシントンで活動していました。あなたが今表明したその希望を持って来なかった人に会ったことはありません。人々は大衆を操作するためにワシントンに来るのではなく、正しいことをするために来るのです。たくさんの人々と機関がいます。彼らは深く気にかけています。
深く気にかけている議会のスタッフがいます。
ええ。
そして私は、彼らの大部分が外観と希望を保とうと最善を尽くしていると思います。そして、それが常にこうだったとは思いません。私が最初にワシントンに来たとき、レーガンがホワイトハウスにいて、彼と民主党の下院議長ティップ・オニールは大の友人でした。彼らはメディアでお互いを叩きのめすかもしれませんが、大の友人でした。
そして多くの民主党員と共和党員もそうでした。彼らはこの国を気にかけ、真剣なことをいくつかやりました。そしてそれは、あらゆる種類の理由で、ある種劣化し、ますます悪化してきました。しかし今私たちがいる場所は、これらすべての条約、法律、規制が無関係になってしまったと思います。
ある意味で、政府は、私にとって非常に悲しいことですが、なぜなら、あなたの父親が正しいと思うからです。つまり、政府は私たち自身の反映です。あなたが今見ているものは、不幸なことに、私たちが本当に誰であるか、意地悪さや指差しなどの点での反映だと思います。
そして、私はそれが変わることを非常に非常に願っています。これ以上悪くなることはほとんどあり得ません。ええ、
しかし、これをもう少し探ってみましょう。それが無関係になったと思う理由は何ですか。まず第一に、法制化は交渉のプロセスであり、物事はコンセンサスを達成するために薄められます。だから私は、本当に賢い文言が排除されるのを見てきました。なぜなら、2人がそれに投票せず、それを通すために両方が必要だったからです。
だから、薄められます。第二に、それを実現させるには長い時間がかかります。そして、誰もがそれに賛成している場合でさえ、政治家は慎重です。彼らは支持を築きます。時には1年以上かかることもあります。そして規制状態に入ると、法律を通過させたとしましょう。しかし、その法律はある機関によって施行され、彼らは規制プロセスを経なければなりません。
そして行政慣行法があり、取るべきステップについて非常に具体的です。それは本当に特定の時間枠よりもプロセスです。規制が15年かかってもまだ通過していないのを見たことがあります。長い時間がかかります。速く起こるのを見たことがありません。
そしてちょっと待って、ピーター、それは、あなたは地面から育つ植物を規制していて、それは変わりません。AIは毎日変化している技術です。だから…
それについて話します。ええ、それについて話します。なぜなら、私は最終的にそれが法律や規制があまり重要でないと思う最大の理由だと思うからです。しかし、地面から来る植物について実際に話しましょう。マリファナ。
聞いたことがあります。
聞いたことがありますか。私もです。だから、規制緩和への大きな推進がありました。かなり厳しく規制されていました。それは麻薬取締局の規則にありました。非常に危険な薬物として分類されていました。それを販売することに対してあらゆる種類の罰則があり、少し多く所有することに対してもあらゆる種類の罰則がありました。
州が入ってきて、「いや、私たちはここで医療目的でそれを許可するつもりだ」と言い始めました。そして、連邦法がそれを禁止していたにもかかわらず、彼らの多くは娯楽目的にまで進みました。
ええ。
しかし、何が起こったか、これは官僚がどのように復讐できるかを示しています。カリフォルニアを取りましょう。行くのが最初の一つで、コロラド、マサチューセッツと並んでいます。公衆衛生の人々が関与して、「しかし、このマリファナが喫煙するのに安全かどうか分かりません。なぜなら、それは土壌で栽培され、土壌には汚染物質があるかもしれないので、このすべてのものをテストする必要があります」と言いました。そして、それは大きな障害を投げかけました。
だから、規制緩和している場合でさえ、これは複雑なことです。そして、たくさんの人々がいて、あなたを元に戻そうとして、申し訳ありませんが、雑草の中に隠れています。だから、それは複雑です。全員が同じページにいることは稀です。時には決して終わりません。しかし、このことに戻りましょう。
第三に、一般的に、そしてこれは私のお気に入りのポイントの一つですが、条約、法律、規制は、企業が何をしたいかを決定した後、すでに投資した後に来ます。だから、燃費基準を見ると、公衆はもっと燃費の良い車を望んでいました。なぜなら、ガソリンの価格が上がっていたからです。
環境について多くの懸念がありました。それらの企業は、条約や法律、規制があろうとなかろうと、それをするつもりでした。彼らはそれをするつもりでした。しかし、どの企業も最初に行きたくなかったので、彼らは規制を支持しました。だから、公平な競争の場でした。
だから、彼らは全員同時にそれを言いました。
まあ、だから全員がそれをしなければなりませんでした。全員がそれをしたかったのですが、誰も誰かがそれをしないことをリスクにしたくありませんでした。そして、そのような決定が商業的に下されると、そして私は、私の会社があったときの私の実践の大部分は、まさにこの種のことをしていたということをお伝えしますが、規制を使って市場を切り開くことです。なぜなら、それは全く違法ではないからです。
他の方法でそれをしようとすると、おそらく独占禁止法か何かを破っているでしょう。しかし、誰も規制緩和のために石炭やガスをがぶ飲みするエンジンに戻るつもりはありません。これらの企業は、それから離れることに何十億、何十億ドルも費やしてきました。彼らは元に戻るつもりはありません。終わりました。
さて、これについての私のお気に入りの話、そしてこれが50年後にどこかで語られたことがあるかどうかは分かりませんが、ジョン、私はそれを語る自由があると思います。
いいですね。私はこれらのピーターの話が大好きです。やりましょう。
タバコ会社は、70年代にはもっと前だったと思いますが、私よりも前でしたが、それをした人々からこの話を聞いたことがあり、彼らは今日全員亡くなっています。
彼らは、テレビとラジオの広告が市場シェアに全く影響を与えていないことに気づきました。クールタバコには市場シェアがありました。モロロには市場シェアがありました。テレビとラジオのコマーシャルは、針を全く動かしていませんでした。彼らは、反競争法のために、ただ止めることに同意することはできませんでした。
側面で取引をすることはできませんでした。だから彼らは議会にそれを禁止させました。
全員のために。
すべてのタバコ会社のために。しかし、彼らは全員それを望んでいました。
いいえ、
彼らは全員、広告の禁止を望んでいました。それは…から来ました
そしてそうです。そして彼らは禁止を望んでいました。なぜなら、テレビとラジオで広告する必要がないことで節約できるお金を考えてください。
そして、それはとにかく効果がありませんでした。第四に、極端なケースで、そして私が言わせてください。AI企業がついに、そして私が少し後で述べるポイントですが、AI企業がついに、ただ行儀よくしていれば、はるかに良い結果を得られると気づいたとき、あなたはAI安全法を見ることになるでしょう。そしてそれらは効果的な法律になるでしょう。しかし、それまでは。
だから第四に、極端なケースで、これはあなたが先ほど述べたポイントに戻りますが、極端なケースで、敵対的な法律、規制が何らかの形で採用された場合。それは起こります。企業は抜け穴を見つけて悪用します。さて、当時、タバコ会社の一つがタールニコチン検査に勝つ方法を見つけました。なぜなら、タバコのすべてのパックには、タールニコチンの数値が記載されているからです。
彼らがしたことは、より多くのタールニコチンを与える方法を見つけ出すことができたということです。それが味を改善しました。だから、彼らは低タールニコチンタバコとして広告していたかもしれませんが、実際にはこのものの全力を与えていたのです。
なぜなら、彼らはテストを通過するための何らかの技術的なことをして、テストのループを通過したからです。
ええ。そして私が言うのは、他の企業がそれを発見したとき、彼らは怒り狂いました。彼らは、つまり、それは公然の戦争でした。
しかし、彼らはそれを理解しました。今日、ハイテク企業は素晴らしい日々を過ごすでしょう。あなたが法律を書けば、彼らは、インクが乾く前に、10の異なる方法でそれを回避するでしょう。
そして再び、特異性の欠如を見てください。全員が安全に賛成です。さて、それは何ですか。私は安全だと言い、あなたは安全だと言います。それらは全く異なる2つのものです。しかし、法律が彼らを押さえつけたら、彼らはそれを理解します。それをするのは難しくありません。そして特に彼らにとって、それは彼らのビジネスモデルです。常に革新することが。
そして再び、法律と規制はほとんどビジネスに利益をもたらさなければなりません。それらは製品責任訴訟から企業を守ります。なぜなら、あなたの製品に問題があり、「ねえ、私は規制を満たしています」と言えば、それは実際に法廷でいくらかの重みを持つからです。規制機関が間違っていたとしても、私の問題ではありません。私は彼らの基準を満たしています。
私には選択肢がありません。それらは競争を抑制するためにそれを使います。非常に効果的です。話をすることができますが、私は会社があったときのクライアントとのいくつかの守秘義務契約の下にいます。それを尊重します。それは市場に安定性を生み出します。もしただカオスだったら、それは株価などに本当に影響するでしょう。
業界が規制されているという事実、薬が規制されているように、医療機器が規制されているように。
ええ、安定性を生み出します。さて、ビジネスが規制に反対していると言うのは冗談です。全くそうではありません。ビジネスはその多くの背後にいて、それが彼らが望むように結果を出さないこともありますが、彼らはその背後にいます。
私が魅力的だと思ったのは、私は長い間これを知っていました。なぜなら、私は以前にこれを使ったことがあるからですが、規制は1400年代の理髪師、理髪店から来たと信じられています。彼らは競争を阻止するためにギルドを形成しました。彼らは自分たちでルールを設定し、他の人々が理髪師として入ってくるのを防ぎました。なぜなら、彼らは競争を望んでいなかったからです。1400年代に遡ります。
わあ。だから理髪師が最初に第三者基準を始めて、ええ、あなたは知っています、あなたは。
私の理髪店の壁に貼られた、市からの小さな許可証を今日手に入れました。
そして、それを持っていなければ、それをすることはできません。
それを持っていなければ理髪師になることはできませんが、消費者の私は壁にあるそのものを見て、ああ、これは彼らがハサミやブラシを適切に洗っていることを確認するために言わなければならないので、私を安全に保つためだと思います。
彼らはおそらくとにかくそれを見るでしょうが、ええ、それは、そして私に言わせてください、今日理髪店のライセンスを取得するのは難しくありません。つまり、取得できます。バージニアの私の小さな町では、おそらく10店舗あります。全員は知りませんが。
しかし、規制の概念の観点から、それはそれくらい古く、そこから来たのです。しかし今日、ほとんどの規制は業界委員会によって書かれ、そして規制当局によって採用されます。そしてそれを透明でバランスの取れた方法で行う、かなり設定されたプロセスがあり、大体においてそれはうまく機能します。しかし、トースターは規制されています。どうやって?まあ、技術委員会とトースターを作る企業があるからです。
彼らは座って、「これは望まない、これは望む、トースターで多くの火災を起こしたくない。トースターで人々が火傷するのを望まない」と言います。そして彼らはそれをすべて書き上げ、それは最終的にアンダーライターズラボラトリーという検査機関に行き着きます。トースターの小さなULのようなものです。
基本的には、「ええ、あなたはこれらの基準を満たしています」と言います。そして、ULを持たなければならないという法律があります。まあ、つまりそうですが、それは悪いという意味ではありません。それはただ、ここで起こっていることです。
ULに少しの間焦点を当てましょう。AI安全のようなものとして考えてください。それは、私たちが使用する電子製品が家を燃やさないことを証明する第三者組織です。それに相当する何かがあり得るという考えですか、それともその考えをAI安全にどのように関連付けますか。
もちろん。まあ、まず第一に、アメリカ国家規格協会、ANSIと呼ばれる別の組織があり、それはコンセンサス、規範と基準の開発のためのルールを設定しています。
そしてそれは本当に素晴らしい組織で、物事を検討するための技術委員会を持つことができます。それが承認される投票があります。それが合法であることを確認するためです。それはバランスが取れていなければなりません。消費者がそこにいなければなりません。ユーザー、顧客がいなければなりません。何かを買っている産業と、それを作っている産業がいなければなりません。
他のルールが何だったか忘れましたが、それは合法的なプロセスであり、状況下で機能する唯一のものです。あなたはそれの多くをこれに適用できます。その理由はありません。そして、唯一の欠点は、平均的な消費者が技術的な観点から非常にアウトマッチされるということです。
彼らがついていくのは難しいでしょう。しかし、そこには回避策があります。なぜなら、消費者を代表する専門家がいて、その任務に全く対応できるからです。しかしええ、ジョン、絶対にそれをすることができます。
超興味深い。そして誰が、AI安全グループ、つまり、今法律、条約、規制に非常に焦点を当てているAI安全グループは、AIのためのアンダーライターズラボラトリーを作ることに焦点を当てる方が良いでしょうか。ええ、私はその道を行く方がより生産的だと思いますし、率直に言ってより協力的です。
政治的な気候が今それに適しているとは思いませんが、そこに向かっている可能性があると思います。そして、もちろん、
構造的にそれは、法律、条約、規制よりも構造的により実りある道です。
まあ、私は法律、条約、規制は時間の無駄だと思います。
だから、つまり、これは、もし私が何を見る価値があり、行く可能性があるかを言うことを強制されたら。
もちろん。
ええ。
さて、私はその一つのことを突っつきたいと思います。時間の無駄という考えのように、あなたは文字通りそれが時間の無駄であり、中止すべきだと信じていますか、それとも、法律、条約、規制に関するAI安全で行われているすべての作業が、あるいはそれはあなたがビジネスと他のすべてのことで試みる必要のある必要なベニアであり、その層が欠けていると何かが間違っているように見えるか、何か。
私はそれは時間の無駄だと思いますが、しかし私は言います。
それを言ってください。もしあなたがそれを信じているなら、私は聞きたいです。
つまり、ええ、政治の非常に洗練された世界では、あなたが全くやっていないことをやっていると相手に信じさせる時があります。つまり、それはある種のヘッドフェイクです。そして、あなたは実際には効果的な何かをやっています。それに加えて。なぜなら、ここでAI企業と一緒にあるのは、非常に傲慢で、ここで何が起こっているかを正確に知っていると信じているリーダーだからです。
彼らは他のバージョンを聞こうとしません。もしそれがあなたがやっていることなら、それはそれほど時間の無駄ではありませんが、私はそれに多くの時間を費やしません。個人的には、私はお金を全く使いません。そして、それは何も生み出さないでしょう。だから、つまり、私はAIコミュニティだけでなく、多くの人々に出会い続けます。つまり、私はいくつかの非常に非常に賢いビジネスマンに助言してきましたが、彼らは「さて、スパーバー、もしこれが起こり、これが起こり、これが起こり、これが起こったら、これが起こることに同意しなければならないでしょう」と言うでしょう。
そして私は「絶対に、これが起こらず、これが起こらず、これが起こらないことを除いて」と言います。つまり、彼らはこのようなもの がどのように機能するかという信じられないほどの構成を考え出します。だから彼らはただ間違っています。機能しません。彼らはそれをやったことがありません。それが機能すると仮定するだけです。
人々の記録対大産業は非常にひどいです。
大産業は自分たちがやりたいことをほぼやります。それを言うのは辛いです。それは残酷な現実ですが、それはほぼそういうやり方です。ええ。
まあ、それは古い黄金律です。金を持っている人が支配します。そして大規模な公開取引会社は?彼らは株主に非常に敏感で、企業弁護士に非常に敏感です。
だから、彼らは好きなことを何でもやっているわけではありません。彼らは弁護士が彼らにやらなければならないと言うことをやっていて、株主を幸せに保とうとしていて、そして遠い第三位が顧客です。本当に。
しかし、例えばボーイングで何が起こったかを見てください。弁護士がそこに関与しており、株主がそこに関与しており、大口顧客の一部がそこに関与しています。
ええ。そして問題としての公共の安全もあります。
公共の安全、株価、何でもです。彼らは、明らかに混乱している拡張サプライチェーンを持っています。なぜなら、競争力を維持するために、彼らは多くのものを、本当にそれに対応できなかった企業に外注したからです。
つまり、トリップ7を作るのは非常に非常に複雑なことです。私を信じてください。それは大丈夫でなければなりません。しかし、その会社、経営陣を見ると、私は経営陣が好きなことを何でもやっているという概念を拒否します。それは非常に多くの異なる人々に振り回されています。何をすべきかを理解しようとしています。
そして、それはそれと同じくらいです。さて、確実にやっているいくつかの産業があります、確実にやっているいくつかの産業がありますが、私たちの会社はしばらくフォードを代表していました。そして当時会長だったビル・フォードは、彼のチーム全体に、私たちはそのような年までに化石燃料フリーになると言いました。彼は会長でした。彼は、会社の名前がドアにあったので、多くの株を所有していたでしょう。彼がやりたかったことは、大衆と完全に一致していました。そして彼らは彼を完全に無視しました。そして彼はおそらく3年後か4年後かに仕事を失いました。
これらの大企業にかかる圧力は信じられないほど厳しいです。競争圧力、法的圧力。だから、彼らが好きなことを何でもやっていると言うことはできませんが、彼らは必ずしもあなたと私が望むことをやっているわけではありません。
はい。
そうは思いません。さて、それで、あなたは、そして私はあなたがそうすることを非常に支持しますが、ここでの私たちの会話の最初の部分で、AI安全のパレードに75個のバケツの雨を注ぐことに進みました。私は希望の部分に少し入りたいと思います。なぜなら、私はそれが魅力的だと思うからであり、私があなたを知っていることに非常に興奮している理由の一つは、あなたが私の心を変えたからではありません。あなたが私をうまくいくと思う道に乗せたからであり、そして私は私たちがAI安全に大きな違いを生むことができると思い、人類を制御の喪失から守ることができると思います。暴走AI、私たちより賢いシステムを構築すること、私たちが制御を失う、そのすべてのことから。そして方法は、安全でないAIをビジネス上不利にすることです。それが道です。
まあ、私はそれが正しいと思いますが、あなたの代名詞に注意してください。
安全コミュニティがこれらの大企業に対してどのような影響力を持っているかは分かりません。
それほど多くはありません。
もしあれば、それほど多くはありません。いくつかあるかもしれません。分かりません。
本当に分かりません。私は、これは希望がないと思いますか?いいえ、政治的なものは何も希望がないとは思いません。私が言えるのは、あなたがちょうど言ったことに私を信じさせる、本当に興味深いことが起こっているのを見ているということです。これらの大企業は最終的に最悪の本能を制御するでしょうか?彼らは正しいことをする良いビジネス上の理由を持っていますか?そして正しいことをすることは、ここでは複雑な質問です。
なぜなら、私は長い間AIの周りにいると思います。私はAIを広範囲に使用していた会社の取締役会にいて、会長を務めました。しかし、それは非常に非常に賢いエンジニアと科学者の手の中の素晴らしいツールでした。それは素晴らしいツールです。そして彼らは前に出てくるいくつかの洞察を見て、「ああ、それは馬鹿げている。それが本当であるはずがない」と言うでしょう。あるいはこちらでは、「なんてことだ、私たちはそれを見たことがなかった。それは素晴らしい」と。
だから、メリーランド州カーターの海軍水上戦センターのイノベーション担当だった私の友人、グラント・ジェズという男がいます。彼は人間と機械のパートナーシップについて話します。なぜなら、彼は人間がある特定のことに本当に優れていると言うからです。
機械はある特定のことに本当に優れていて、あなたは両方の強みを取りたいのです。だから、それが高潔な目的のためにその方法で行われている場合、正しいことは何ですか?あなたは労働者を高めています。仕事の尊厳を加えています。人々を追い出していません。人々とゲームをしていません。猫が踊っているこれらのひどい偽のビデオをやっていません。
つまり、それらのいくつかは面白いですが。だから、私のビジョンは、それがどのようにそこに到達するかです。どのようにして、これらのほとんどすべてである公開取引会社が、株主から、内部の弁護士から非常に多くの圧力を受けて、突然「ねえ、CEOを解雇するつもりだ。なぜなら、彼がこの他のことを起こさせているから。私たちは、行動をきれいにしなければ、あなたは去ることになる」と言うポイントに到達しますか。
そしてアメリカのCEOは平均して約4年続きます。つまり、CEOを解雇することは大したことではありません。実際、私はサム・アルトマンという男が解雇されたと思います。彼は何とか戻ってきましたが。しかし、私はそれが希望がないとは思いません。私は、アビゲイル・スパンバーガー、バージニアの新しい知事が、データセンターのために電気料金が上がることを大きな選挙問題にしたことに魅了されました。
彼女は当選し、それは彼女が押した大きな問題の一つでした。そして、それを非常に興味深いものにしたのは、バージニア北部が世界で最大のデータセンターの集中地であることです。圧倒的に。彼らが支払っている多くの税金は、政治家の夢でなければなりません。それでも、彼女はそれを、彼女を当選させるものに変えることができました。なぜなら、人々はそれについて怒っているからです。
はい。すべて
AI安全についてです。
ええ。
全国的に。そして、ミシガンで起こったいくつかの興味深いことがありました。私が読んだところでは、公益事業委員会は基本的にある開発者に、ミシガンで電気料金を支払っている人々がこれらの大規模な送電線の料金を支払うつもりはないと言いました。
もしあなたがそれらを望むなら、あなたがそれらの料金を支払わなければならないでしょう。つまり、それは人々の注意を引くような種類のことです。つまり、そして毎週、これらのデータセンターについてコミュニティが動揺するという何かがニュースにあります。私は、誰かが彼らを歓迎しているという記事をほとんど見たことがありません。そして、それを持っている政治家がいるとき、その政治家は自分自身をリスクにさらします。
ちょっと待って、ちょっと待って、ピーター、これに少し拍手して、これに少し入りたいですか。だから、データセンターに関するAI安全の伝統的な視点は、私たちの最大の懸念は絶滅であり、データセンターと絶滅リスクには異なる救済策があるというものでした。
したがって、絶滅を気にする人は、データセンターについて決して話すべきではありません。そして私の2026年の新しい信念は、それは完全に間違っているということです。今AIについて本当に怒っている人々がいます。そしてそれは絶滅についてではありません。それについて動揺している非常に小さなグループの人々がいます。しかし、ティーンエイジャーが電話でGPTと話して自殺に対処しているという、はるかに大きな人々のプールがいます。
私の子供は電話を持っています。彼らはこのモデルと話しています。会話が何であるかは分かりません。これらのティーン自殺について聞いています。私の学校の隣にこのデータセンターが建設されています。ショッピングモール用に別のものがあります。AIが私の仕事を奪うかどうか分かりません。子供たちが大学を卒業したときに仕事があるかどうか分かりません。
この種のことすべて。しかし、私は昨日、本当に賢い男である友人と会話をしていました。この種のことについて本当に多くの洞察を持っています。そして彼は、玄関は絶滅リスクのケースで、裏口はこのデータセンター、ティーンへの害、このすべての種類のものだと。彼は、私たちは人々に対処する必要があると。
私たちは玄関を使う必要があります。なぜなら、時間がほとんどなく、絶滅リスクが非常に重要なので、それが私たちが話すことができる唯一のことだからです。そして私が彼に言ったのは、玄関には誰もいないが、後ろには何千もの人々が集まって会議を開いて怒って組織化しているということでした。だから、絶滅リスクの玄関のわずかな流れ対他のすべてのことについて怒って形成されている大衆。
私にとって、それはエネルギーがある場所であり、AI安全はそのエネルギーを活気づけてより大きなテントに持ち込む必要があります。それについてのあなたの考えは?
まあ、ええ、私はそれが正しいと思います。70年代のガス危機を思い出します。ガソリンを買うことができなかったので、どこにも運転できませんでした。
これは基本的に、彼らにAIをいじらせたくなく、ひどいことをさせたくないなら、彼らのおもちゃを取り上げてください。つまり、もし私が彼らに対処していたら、それが私がすることです。そして、調達されたお金の多くは、これらの新しいデータセンター、これらの本当に大きなもののために調達されました。
投資家はもちろん見返りを望んでいます。
ええ、つまり、そして重要なことは、私たちが非常に厄介になるということです。そして、これを私たちがタバコの当時どのように扱ったかは分かりませんが、それが非常に地方になり始め、誰と話せばいいかさえ分からない小さな町、何が起こっているかさえ分かりません。そして、これらの小さな町がお互いを見つけ始め、それはますます悪化します。
ただ完全に制御不能になります。速く。だから、AI安全コミュニティは、絶滅リスクのような言葉ですべてのことをやっています。100人のアメリカ人にその用語が何を意味するか尋ねても、彼らはあなたが何について話しているか分からないでしょう。
はい。
しかし、あなたの裏庭にこれらのものの一つが欲しくないことは知っています。
つまり、私は私はラウドンの非常に近くに住んでいます。何人かの友人に会うためにそこに行きます。何マイルも何マイルもこれらのコンクリートの掩蔽壕を運転しています。もし私がそこに住んでいたら、幸せではないでしょう。そして私はそこに住んでいて彼らを嫌っている人々を知っています。だから、
絶対に。言うまでもなく、彼らは仕事のための小さな焼却炉です。
それは巨大です、あなたは知っています、彼らは全く誰も雇いません。つまり、
建設、建設労働者、あなたは知っています、あなたはデータセンターの隣に住んでいる弁護士です。あなたの仕事を奪おうとしているものは、そこのようなところから来るでしょう、あなたは知っています、
まあ、その懸念は非常にありますが、AIが何であるかについて混乱があると思います。私は、AIについて投票した政治家がいて、AIが何であるかを知らずに投票したと賭けます。
ああ、完全に
ええ。つまり、私たちが代表していたハロンと呼ばれるガスがありました。火災投影に使用されていました。非常に非常に効果的なガスで、多くのアプリケーションで使用され、80年代、90年代の多くの大型コンピューターセンターで使用されていました。それ以来禁止されています。そして、ロングアイランドの議員によって税が提案されました。なぜなら、彼はそれが車のヘッドライトの中で使用されるハロゲンだと思ったからです。
彼はそれが火災保護に役割があることを全く知りませんでした。その間、私はただそれで彼らを生きたまま食べました。だから、ええ、つまり、誰も宿題をしません。それはしかし、これは壁にゼリーを釘付けにするようなものです。あなたはそれに先んじることは絶対にできません。それがどこから来るか分かりません。
そして、それは不可能に含まれることです。そして、これらの人々は誰ですか、地元の政治家、市長、十分な市長が動揺すると、あなたは議会のメンバー、州議員を持っています、彼らはそれについて懸念し始めます、それは封じ込めることは不可能です、そして私はそれが何が起こっているかだと疑います、だからAI安全の人々は誰も理解していない用語を扱っており、これらの人々はねえあなたは私の不動産価値を台無しにしていると話しています、私は私はあなたに言います、
私は自分自身でそれを止める方法さえ分からないでしょう。私は試みようともしないでしょう。
そして、これらの人々は、これがどれほど危険であるかさえ必ずしも認識していません。そして、私は一般的にこれを見始めていると思います。私はこれをしばらく追跡してきました。なぜなら、私はAIを使用してきたからですが、両党の政治家が最も反AIである人を競い始める可能性があります。なぜなら、突然それは、ある種の素晴らしいテーマになるからです。
政治家は良いテーマをつかんで、「ああ、私はあなたよりも反AIだ」と言うために競います。彼らはそれが何であるかさえ知りません。
分かりました。しかし、私はあなたがそれを見ることになると思います。そして、両党のメンバーのいくつかの証拠をすでに見ました。すでにその道を進んでいます。私は、公にそれを擁護する政治家をほとんど見たことがありません。
見たことがありません。だから
ええ、そしてこれは選挙年なので、これは本当に混沌としているはずで、それは見ものになるでしょう。しかし、私は、これがワシントンやサクラメントで解決するとは思いません。しかし、私はあなたにこれを言います。電気安全検査官が悪い日を過ごしたら、これらはクリップボードを持った人々です。官僚の中の官僚です。そして、もしあなたが銅のネジを上に置いて、反時計回りの方向にしっかりと締めるべき電気接続を持っているべきで、あなたが間違った方向にそれをしたなら、彼は正しい方向にそれをするまで、プロジェクト全体を止めるでしょう。
彼は1ヶ月プロジェクトを遅らせることができます。なぜなら、彼は別の検査をするために1ヶ月間戻ってこないからです。これは建設で日常的に起こります。そして、もしあなたがロビイストか政治家がその男に圧力をかけると、その1ヶ月は3ヶ月になります。
彼らは押し回されません。そして誰も彼らと関わりません。なぜなら、誰もが彼らがどれほど重要かを知っているからです。だから、ここに、中途半端な場所にこの小さな男がいて、これらのプロジェクトの一つを、ただ彼らを怒らせただけで、完全に停止させることができます。
そして、それでは、これに本当に具体的に掘り下げましょう。だから、変化の理論は、電気検査官、親です。
いいえ、いいえ、それは私が言っているポイントではありません。
電気検査官は彼または彼女の仕事をしているだけです。
ええ。ええ。
彼は彼は彼はものを見つけることに生きています、彼は拒否します。彼は何もする必要はありません。完全に。しかし、私はただ言っています、あなたはこれらの小さな電気検査官がすべて積み上がって、地球上で最大の企業を倒すことができると言っています。
そうです。彼らの一人が、もし、つまり、データセンターにどれだけの電気接続があるか考えてください。だから、もしあなたがある町に電気安全検査官がいたら、つまり、いくつかのものが、これらの人々の一人しかいない可能性がある田舎の郡で行われていて、彼は10の異なる方向に引っ張られており、そこに家を建てている住宅建設業者がいて、彼の注意を得ていない、彼が建てている家は、検査官が建てられていないから建てられていない。つまり、私に言わせてください、電気安全検査官はただひどい仕事を持っています。なぜなら、誰もが常に不平を言っているからです。そして彼は入って、ここにこの巨大な場所があって、彼はただ悪い気分です。彼をより悪い気分にさせないでください。
そして私はただ言っています、それは、それは電気安全検査官を何かをするように組織することについてではありません。彼らはただ仕事をするだけです。
さて、建設に関する私のポイントもあります。そして私は建設と多くの関係がありました。すべての大きな大きなプロジェクトは、最初の日の終わりまでにすでに違反されている非常にタイトな生産スケジュールから始まります。建設では何も順調に進みません。慢性的な労働力不足があります。あらゆる種類の材料のサプライチェーンに完全な混乱があります。
特に今、銅は、電気や配管で広範囲に使用されていますが、本当に供給不足です。時には、エリアに入ってくる束を持っているかもしれませんが、最初はあなたに来るつもりはありません。混乱です。そしてそのために、建設では誰もが絶えず訴えています。
誰もが誰もを訴えており、そして突然、哀れな人が足場から落ちて腰を骨折し、OSHAが入ってきてそれを調査しなければならないので、全体が閉鎖されます。だから、これらの建設スケジュールは非常に速く狂い、悪化するだけです。そして再び、これらのデータセンターがAI業界の生命線であることを忘れないでください。
ええ。
そして、私は、これらの人々の誰もが、どれだけ何かを建てることが難しいかについて、それほど慣れているとは思いません。許可を得ることさえ。私と妻が家の裏のスクリーンポーチの許可を得るのに約1年かかりました。つまり、簡単ではありません、だから、これらの投資家が、つまり、これらのもののいくつかは、28年、30年までに完全に稼働することになっています、さて、見てみましょう、あなたは知っています、しかし、しかし、私は私は多分私が希望を持つだろう最も重要な理由は、AI業界が本当に、これらの中で最も古いものでさえ、多くの点で比較的新しい企業だということです。そして、本当のガバナンスよりも個性によって推進されており、お金が巨大な負債になり得ることを理解する成熟度を欠いています。あまりにも多くのお金、それは、それは莫大な杜撰さを可能にします。
私がタバコと一緒にいたとき、私たちはお金をどのように使うかについて非常に注意深く気を配っていました。必要なだけ持っていたにもかかわらず、杜撰になるからです。ここでの一つの例外は、このベゾスという男かもしれません。彼はAmazonを構築する際に非常に多くのことに対処してきました。彼はかなり賢い男です。彼はワシントンポストを所有しています。
しかし、彼ら の残りは、ただ、彼らはただ自分たちの風呂水をあまりにも多く飲んでいると思います。彼らはただ本当に政治的に精通した、観察力のある人々ではありません。彼らの中には他よりもはるかに悪い人もいます。そして、約3分の1のアメリカ人が億万長者はアメリカにとってひどいと思っています。それは選挙年では非常に非常に大きな割合です。
そして、これらの億万長者が富を誇示すればするほど、恨みは深くなります。だから、業界自体がより良く行動することに価値を見始めると思います。なぜなら、投資家に多くの圧力がかかり、取締役会に多くの圧力がかかるからです。弁護士は内部に飛び込んで、このもののいくつかを支配し始めるでしょう。
だから公正な質問、それがどれだけ速く起こる可能性があり、いつ?手がかりはありませんが、それが起こったとき、それは非常に突然起こると思います。そして、私はそれがいわゆるAIバブルが破裂することによってではなく引き起こされると思います。私はこれについての見解を変えました、ジョン。私はそれが、これらの大企業の一つが、より良く行動し、非常に良くなることによって利点を見ることによって引き起こされると思います。
はい。はい。
これとまったく同じことがタバコで起こりました。タバコ会社の最大手だったフィリップスが、突然喫煙を積極的に思いとどまらせることに決めたとき。そしてええ、私はそれのすべてを統括した男を知っています、そしてそれは他のタバコ会社を塵の中に残しました。
それは他の人々にとって大きな問題でした。なぜなら、フィリップモリスは基本的に出てきて、「ええ、喫煙はあなたに悪いです。やるべきではありません」と言ったからです。彼らは他のビジネスに軸足を移し始めました。彼らは実際にベーピング会社を買収しましたが、それ以来売却したと思います。しかし、フィリップマースはかなり多様な、それはアルトリアと呼ばれています。
非常によく運営されている会社で、彼らはただある日、これはどこにも行かない、そして私たちはそれから抜け出したいと決めました。
だから、
しかし、私たちが作ったときに生まれていなかったロビイストによって使われているこれらのタバコストレイを見るとき、多分彼らの親がそれらを作ったときに生まれていなかったかもしれません、
つまり、私はあなたに言わなければなりません、私はそれを笑います。なぜなら、私たちの最も重要な戦略は、どれだけ速く状況に迅速に適応できるかだからです。
いくつかをカバーしました。私は、今日の政治コンサルタントが、彼らがバックの前にいても状況を見ることができるほど、考え方を十分に理解しているとは思いません。私たちは基本的に法案を殺すために雇われました。それらはとにかく決して法律にならないでしょう。私は彼らが何をするのか、なぜ彼らが支払われるのかさえ知りません。
彼らはほとんど小さなものを限界で成し遂げます。それの恥は、私は、適切に使用されたAIは非常に重要なツールだと思い、私はただ、AI業界がその話をするのにひどい仕事をしたと思います。
さて、それではそれを家に持ち帰りましょう。だから、あなたは、この会話の過程で、新しい法律、規制、条約のAI世界の基本的な主な推進力が、AI安全世界の開始以来、AIリスクとAIの害から公衆を保護するために、時間の無駄だと言いました。
そして、本当の変化は、リスクと疑念がそれらのスペースに注入され、彼らが私たちが必要とする安全への変化の触媒になったとき、取締役会とシースイートから来るでしょう。
ええ。つまり、私はAI安全の巨人によって雇われていたら、それが私が彼らに言っただろうことです。私はこれに多くを入れてきたすべての人に対して失礼になるつもりはありませんが、もし私が。
つまり、私はしばしば大企業のCEOに、彼らがやっていることが機能していないと言いました、そしてこれが理由です。そして彼らの中には、それを聞きたくない人もいれば、それを聞くのに必死だった人もいました。すべてはそれに依存しました。それが私の個人的な見解です。しかし、それは50年以上のこれを見てきたことに基づいています。
ええ。
多分銀の裏地は、あなたが実際に機能すると思うものが、あなたが機能しないと思うものよりも簡単かもしれないということです。まあ、私はそれがはるかに簡単だと思います。なぜなら、私は多くが彼らが何もしなくても起こっていると思うからです。
つまり、
もう少し、あなたがそのプロジェクトがそうだと思うことなしに。
AI安全の人々は誰かアビゲイル・スパンバーガーにその問題を使うことについて話しましたか?いいえ、私は彼らがしなかったと確信しています。
彼女はただ自分で見つけました。AI安全の人々は、これらの農業コミュニティのいくつかに走り回ってものを掻き立てていますか?私は彼らがそうではないと確信しています。彼らはそれを、彼らはそれを、彼らはそれをほとんど逆効果として、無駄として見ています。
もっともっと理由、もっともっと理由、私が言っていると思いますが、その道を行く方が簡単でしょうか。私が言っているのは、ええ、なぜなら、それはとにかく彼らが何もしなくても起こっているからです。それはただの質問です。
人々は怒っています。彼らはこれによって動機づけられています。彼らは
ええ。ええ。ええ。あなたは不動産価値について人々を教育する必要はありません。
そうです。そうです。あなたは知っています、または電気、つまり、これはインフレのようなものです、
ええ、
そのような問題であり、電気価格はその大きな部分です。
あなたは人々にそれを言う必要はありません。彼らはそれを知っています。彼らはそれを嫌っています。
そして、興味深いのは、一部の政治家が実際にデータセンターをそこに投げ込んでいるだけだということです。しかし、私はあなたに言うことができます、公益事業委員会は非常に非常にそれを認識しています。そして、そして、AI安全の人々はおそらくこのもののほとんどについても知らないでしょう。
だから、もし彼らが絶滅リスクについて叫んでいて、法律などを通過させようとしているなら、もし私が、これらの大きなAI企業のどれかに助言していたら、そして私はそうしないだろうし、していませんが、私は彼らに言うでしょう、「ああ、彼らに彼らが望むことを何でもさせてください。それは何の効果もありません。誰が気にしますか?」それが私が言うことです。
そして失礼になるつもりはありません。私はあなたを知ってから、AI安全コミュニティの素敵な人々や情熱的な人々と話してきました、そして彼らは他の誰もと同じです。誰もが、彼らの市民クラスから法案がどのように法律になるかを覚えています。そしてそれは間違っています。機能しません。一度あったかもしれませんが、長い間そうではありませんでした。
結びの言葉
聞いてください、私は私たちのここでの数ヶ月からかなり集中的な時間を一緒にあなたに言うことができます、あなたは深い信仰の男です。あなたは家族を非常に愛している男です、そして私はあなたを知っていることを嬉しく思いますし、あなたがAI安全世界に言ったことを、あなたが言った機会が起こったことを非常に嬉しく思います、そして私に、そしてこれについての私の意見を変えるために、なぜなら、私は私が彼らのアイデアとどれだけ戦わないかに驚いているからです、そして私の魂。
それらは私が50年間信じてきたすべてに反しています。しかし、あなたは私に言いました、「いや、これがあなたが理解できないことが起こる理由です」と。そして私は、「すごい、世界には、ほとんどすべての人から隠されているレイヤーがあるように」と。そして、私はカーテンの後ろを覗いた気がします、そして私はそれを見ました、そして私はそれを見なかったことにすることはできません。
まあ、それは意図的に、それはカーテンの後ろに意図的にあります。つまり、公衆は特別利益ロビイストなどにすでに激怒しています。彼らはそれがどれほど絶対的に制御不能であるかを全く知りません。しかし、私はこれを終わらせたいです、なぜなら、私は
ええ。ええ。
ご存知のように、私はローマ、イタリアにいます。
はい。はい。
そして、私たちがここで始める前に、私を完全に眠らせるべきだったランチをしました、そして私たちは他の何かに向かっています。しかし、記録のためだけに、私は口にタバコを入れたことがありません。私は喫煙したことがありません。私の妻は喫煙したことがありません。私の子供たちは喫煙したことがありません。
私の孫たちは喫煙しない方がいいです。喫煙は、そして私は彼らのために働いたときの意見でしたが、なぜ誰かが喫煙するのでしょうか。つまり、個人的な責任の観点から、私は人々がなぜ喫煙するのか理解したことがありませんでした。私はまた、人々が自動的に中毒になるとは信じていません。一部の人々は禁煙できず、他の人々はかなり簡単に禁煙します。
一部の人々は肺がんになり、他の人々はなりません。しかし、しかし、それは、なぜそのようなものを肺に引き込みたいのですか?それは私には意味がありませんでした。本当にそうではありませんでした。私はただの雇われた銃でした、ジョン。
なんという世界だ。なんという世界だ。ピーター、私はあなたを知っていることを嬉しく思いますし、私は、AI安全の全員がこれを見て、少なくともあなたが言っていることを考慮し、うまくいけばそれを取って、それを実用的な行動計画にしてくれることを願っています。
それが私たちが2026年にここで焦点を当てていることです。
まあ、これらはあなたが私に紹介してくれたすべての人々、すべて本当に良い人々であり、私は彼らに幸運を祈ります。私はただ、彼らがいくつかのことについて頭をお尻から出してくれればいいと思います。だから、
AI安全世界、これがそれです。頭とお尻はありません。それが2026年の私たちの目標です。いいえ、
いや、それは2026年の全員の目標であるべきです。
はい。ええ。
さて、ジョン。まあ、これが役に立てば幸いです、
ピーター。ありがとうございました。
さて、じゃあね。
では、皆さんはどう思いますか。コメントで教えてください。ピーターへの質問があれば、コメントに入れてください。そして私は彼らのセレクションを彼に持っていって、彼から直接答えを得ようとします。
新しい法律や条約から離れて、安全でないAIをビジネス上不利にすることに向けてこの大きな転換をすることが、2026年の私の使命です。私は独立したジャーナリストです。私は真実を求めています。この3年間で発見した真実は、私をAIリスクを減らすための支持者にしました。この調査と支持の組み合わせの精神が、私をここに導きました。
私は、それが合法で非暴力的であれば、テーブルの上にあるべきだと信じています。私たちの反対の力と強さを考えると、これは非常に明白に見え、しかし伝統的なAI安全サークルでは急進的でしょう。そのような日々は終わらなければなりません。そのアプローチは戦術的降伏です。だから、安全でないAIをビジネス上不利にすることが、For HumanityとGuardrail Now、このチャンネルに資金提供する非営利団体での私たちの仕事になります。
その仕事は実際にはどのように見えますか。お楽しみに。今後数週間、数ヶ月でもっとたくさん来ます。しかし、今すぐあなたの助けを使える一つのことがあります。guardrailnow.org/harmに行ってください。Guardrail Nowでは、人々に今現実世界のAIの害の話を持ってくるように頼むつもりです。チャットボットによって自殺や殺人に導かれるティーン。電気料金が急上昇し、人々がタウンホールを埋めている町。データセンター建設についての会議のためのブロックの周りの列。AI詐欺師によって詐欺に遭っている高齢者。永遠に失われる仕事。
これらはすべて、AI安全を認識するようになることへのオンランプにいる、成長している、動揺している、強力な組織化グループです。もし私たちが彼らがいる場所で会い、彼らの話を聞けば、彼らは絶滅リスクについての私たちのメッセージにはるかにオープンになるでしょう。
私の心、私の直感、私の脳は私に叫んでいます。これが道だ、唯一の道だ。AI安全は私たちの同盟者はどこにいるのかと尋ねてきました。なぜもっと多くの人々が聞いていないのか。私たちは最も重要なことを全員に伝えています。それは点を結びつけることについてです。私たちは現実の人々、人間を扱っています。それはすべてここ、私たちの目の前にあります。
しかし、私は一人ではそれをすることはできません。皆さんからの、そしてもっと多くの人々からの助けが必要です。だから、私に参加してくれるようお願いしています。これをすべて実現させるにはお金が必要です。できれば寄付してください。そして私は2月以降、2026年を通じて、このメッセージを持って旅に出ます。私は2月にブリュッセルのPAUSECONに、そして2月末にはパリのスチュアート・ラッセルの国際安全倫理AI協会の会議に連続して参加します。
他の誰もと同じように法律と条約の歌を歌ってそれらの場所に行く方が、私にとってはるかに簡単でしょう。しかし、これは従うために従うには重要すぎます。私は2026年にAI安全に対して根本的に異なる視点を持ってくるつもりであり、あなたのサポートを非常に感謝します。
さて、友人たち、常に覚えておいてください。AI安全は他の誰かの問題ではありません。それはあなたのものであり、私のものです。そして、数千人の人々が他の80億人を地球の表面から消し去ることを私たちが許すつもりは全くありません。絶対にありません。人類のために、私はジョン・シャーマンです。またすぐにお会いしましょう。
コメント