本動画は、元プロポーカーチャンピオンでありAI安全性の提唱者であるリヴ・ボリーとの対話を通じて、AI開発がもたらす実存的リスクについて多角的に検証するものである。ポーカーで培ったゲーム理論の視点から、AI企業間の競争構造、米中のAI開発競争、そして監視社会化のリスクまで、幅広いテーマが議論される。特に注目すべきは、AI業界における男性優位の構造が意思決定にもたらす影響、そして「スーパーインテリジェンス」の制御不能性という根本的な問題提起である。ボリーは、経済システム自体を一種の「分散型スーパーインテリジェンス」と捉え、その整合性の問題を解決することがAI安全性の鍵となると論じる。医療研究の優先順位、規制のバランス、そして異なる立場の相互理解の重要性についても掘り下げられ、最終的には人類が直面する選択の重大性を浮き彫りにする内容となっている。
AIリスクと人類の未来
テクノロジーを創造することは神聖な行為です。もし何かを創造するのであれば、知恵と配慮の場所からそれを行ってください。私にとって、優れたAI安全性の専門家とは、表現されているあらゆる視点を本当に体現しようとする人のことです。
For HumanityとAIリスクポッドキャストのエピソード74、AI、人類の大きな賭けへようこそ。私はジョン・シャーマン、あなたのホストであり、AIリスクネットワークの代表です。私たちは、AI絶滅リスクを誰にでも理解しやすくしています。技術的な背景は必要ありません。
今週のゲストはリヴ・ボリーです。彼女は率直なAI安全性の提唱者であり、半引退したポーカープレイヤー、ポーカーチャンピオンです。そして結局のところ、ギャンブルこそがAIのすべてなのです。ビッグAIは、あなたの人生、私の人生、私の子供たちの人生、あなたと私が知り愛するすべての人々の人生を賭ける権利があると決めたのです。
彼らは、世界で最も引用されている科学者10人のうち9人が、近い将来私たち全員を殺す可能性があると言う機械を作っています。彼らが制御できない機械です。その製造者たちは、それが実際に内部でどのように機能しているのか全く分かっていない機械です。
さて、これらの機械には飢餓、貧困、病気を終わらせるという約束があります。私は心からそのすべてが可能だと信じています。しかし、それらはまた、私たちがそのような良いものに到達する前に、単純に私たち全員を殺してしまうという非常に現実的な脅威も持っています。これは究極の賭けですが、それは公的な同意や認識さえないまま行われているのです。
ギャンブルこそが、リヴ・ボリーが生計を立ててきた方法です。私たちの会話は、AI リスクに関して私たちが今どこにいて、どこに向かっているのかという広範なスペクトラムをカバーしています。そして、私たちは問題の主要な部分であることが否定できない何かについて話します。それはジェンダーです。
AIは男性によって支配されています。もっと多くの女性が関わっていれば、私たちはより慎重に、より無謀さを減らしてこれに取り組んでいるだろうということは、明らかすぎるほど明らかに思えます。これが、リヴ・ボリーとの私の会話です。
ポッドキャストの本編開始
さて、リヴ・ボリー、For Humanitiesへようこそ。あなたをお迎えできてとても嬉しいです。
お招きいただきありがとうございます。
もちろんです。あなたはかなりかっこいい経歴をお持ちですね。ポーカーのレジェンドであり、AI安全性の提唱者です。それはかなりクールな組み合わせです。両方について話していきますが、まずは、あなたが私たちがどこにいると思っているかを知りたいと思いました。
あなたは何年もAI安全性を追ってきていることは知っていますし、今、AI安全性に関して私たちがどのような時点にいると思うか教えてください。
そうですね、多くの点で非常に不確実な時期にいると思います。確かに、このトピックがこれほど一般の人々の意識の前面に出てきたことはありません。これからますますそうなっていくと思います。
つまり、波のようなものはあるでしょうが、トレンドとしては、人々の心の中でますます大きくなっていくでしょう。なぜなら、それは同時に人々の日常生活により深く組み込まれていき、また日常生活を破壊するものにもなっていくからです。
そして、AI、特にAIリスクの軽減というトピックに10年近く興味を持ってきた者として、物事がどのように進展してきたかを見るのは非常にエキサイティングです。ある意味では、一部の人々が言っていたほど悪くはなっていませんが、他の意味では多くの点で悪化しています。リスクのカテゴリーが変わったと思います。
同時に、これらのクールなツールがすべてあります。私は間違いなくAIを使っています。一部の人々のように定期的なユーザーではありませんが、仕事で使っています。私のデフォルトは、質問があればGeminiに行って尋ねることです。調査をしているときにそうします。以前は何かをGoogleで検索していましたが。
ええ。ですから、これは同時に爽快で、イライラさせられ、恐ろしく、時には退屈です。すべてが含まれています。そして、正直に言って、このトピックについてほとんど双極性のように感じることがあります。ある日は「ああ、これは大丈夫だろう。すべての問題を解決するだろう」と思い、別の日は「ああ、最も無責任な人々が最も無責任なことにそれを使っている」と思うからです。
そして、これはまだ始まりに過ぎません。私たちは自分自身の性質との、そして自然自体とのより深い不整合の問題を解決していません。そして、これはそのすべてを加速しているだけです。ですから、すべての温度が上がっているような気がします。
それは、確かに生きていて最も興味深い瞬間であり、物事がより退屈になるとは想像できません。ある意味では、退屈にならないことを願っています。なぜなら、もし物事が突然退屈になったら、それはおそらく何か恐ろしい崩壊があって、もう何もすることがなくなったからだと思うからです。
ですから、非常に長い質問、難しい質問への短い答えは、そのすべてということです。
ええ、そうですね。いや、それは素晴らしいです。そして、私たちは本当に興味深い瞬間にいると思います。エリー・イーザーとネイトの大きな本が出ました。それは多くの本当に前向きな動きを水中に引き起こしたと思いますし、主流の人々がそれについて話している分野でのブレークスルーもたくさんあったと思います。
しかし、人々がそれを聞くことに対して非常に消極的であるように感じます。それは何だと思いますか?具体的にどのトピックについてですか?
スーパーインテリジェンスの問題です。絶滅リスクのような、私たちよりも賢いものを作って、それをコントロールできなくなって、それが私たちを殺すかもしれないという考えです。それは多くの人々にとって遠い橋だと思います。
はい。私は、それはベルカーブのミームのようなトピックだと思います。なぜなら、もし私が母に説明したら、「ああ、あなたより賢い何かはコントロールするのが非常に難しいでしょう」と言えば、彼女は専門家でも何でもありません。特にそうというわけではありませんが、母が愚かだと言っているわけではありません。彼女は平均的な知性の人です。
ある面では賢く、他の面では賢くありません。でも彼女は「そうね、明らかに」と言います。そして、それは奇妙な中間地点です。ある程度教育を受けているけれども非常に傲慢な人々だと思います。彼らは「まあ、それは馬鹿げている」と思うのです。
人間が頂点にいないという考えを概念化できないのです。または、意識がないものがコントロールできるという。それは私が人々が言うのを聞く別の議論です。ああ、もし何かが人類をコントロールしているなら、それは意識的で意識があるに違いないと。いや、そうではありません。
古典的に意識的または意識があるわけではない多くのものが、人間の行動に影響を与えたりコントロールしたりできます。ソーシャルメディアのアルゴリズムは、私たちの行動を完全に決定します。彼らは私たちの脳に爪を立てて、あらゆる種類のことをしています。私たちは彼らが意識的または意識があると思いますか?わかりません。そうは思いません。
それが本当に重要かどうかもわかりません。人間の繁栄に影響を与える多くのツールやテクノロジーがあり、それらが古典的に意識的な目標を持っている必要はありません。人間が考えるような意味での。
それはあなたの最初の質問から脱線していますが、いや、絶対にそうです。いや、もしロボットが意識的かどうかで、それがあなたを殺すなら、それが実際に意識があったかどうかは重要ですか?ドローンは、ドローンストライクを行うドローンは意識的ですか?いいえ。
でも、人間がそれをプログラムして発射したようなものです。でも、これらの自律性を増すシステムが現実世界に影響を与えているのを見ています。それが意識的かどうかは実際には重要ではありません。彼らは影響を与えることができるのです。同様に、ソーシャルメディアのアルゴリズムは完璧な例です。
それは文字通り、私たちの行動、お互いに話す方法、世界についての見方を形作っています。そして、彼らは私には特に意識的には見えません。
そして、本の展開についてどう感じていますか?期待していたほど、可能な限り成功していると感じますか?
それについては特に強い意見を持っていません。なぜなら、実際には調べていないからです。期待が何だったのかわかりませんし、売上数字も知りません。確かに、ウーピー・ゴールドバーグと一緒に『ザ・ビュー』に出た瞬間がありましたよね。
それが良いことなのか悪いことなのか、私には判断できません。なぜなら、一般的に『ザ・ビュー』での議論の質のレベルは非常に低いと思うからです。ですから、ある意味では、はい、多くの人々の目の前にそれを届けています。それは良いことです。
同時に、実際にメッセージを聞く必要がある多くの人々は、ウーピー・ゴールドバーグの口から出てきたものであれば、すぐに信用しない人々だと思います。そして、なぜそうなのか理解できます。彼女はここ数年、バイラルになるたびに、事実として間違っている非常に馬鹿げたことをたくさん言ってきたからです。
ですから、それについては、それが利益なのかどうかは私にはあまり明確ではありません。私にとって最も有用だと思ったことの一つは、エリーザーとネイトが説明した方法です。彼らが与えた比喩です。少し言い換えているかもしれませんが、基本的には、マグヌス・カールセンがチェスであなたを負かすためにするすべての手を知る必要はなく、マグヌス・カールセンがチェスであなたを負かすという非常に確信的な予測をすることができるということです。
それは、この点を説明するための非常に強力な比喩です。なぜなら、スーパーインテリジェンスは危険だという議論に対して人々が与える批判の一つは、「じゃあ、破滅論者さん、それがどうやって私たちを殺すのか教えてください」というものだからです。
あなたは知る必要がありません。定義上、何かが知的であれば、それがどのように行動するかをすべて予測することはできません。それはあなたが決して夢見ることができなかったことを夢見るでしょう。完全にそうです。
でも、それが悪いことをする多くの方法があると予測できないという意味ではありません。でも、ええ、全体的には、より思慮深い議論の展開は良いことだと思います。人々が本を読むことを願っています。彼らが与える議論により明確さを与えることを願っています。
AI安全性への道のりと現在の課題
ええ、そうですね。さて、これについてどう思いますか。私はAI安全性に2年半、もうすぐ3年になります。それ以前は何も知りませんでした。AIについて何も知りませんでした。
文字通り、このオフィスに座っていて、タイム誌のエリー・イーザーの記事を読んで、「なんてこった」と思いました。彼はこのことが私たち全員を殺すと言っている。おそらくそれについて何かすべきだと。
AI安全性の世界には、ディープフェイク、10代の自殺、失業、非常に現実的なこと、人々の近隣に立ち上がるデータセンターについて、他のリスクについて何をすべきかという強い議論があります。人々の生活に今まさに起こっている非常に現実的で即座の実際的な影響があります。
制御の喪失、絶滅リスクを懸念する人々が、これらの他のリスクにどのように対処すべきかについて、本当の議論があります。なぜなら、それらには異なる対処法があるからです。私たちはそれらを床に放置しておくべきでしょうか、それとも拾い上げて、私たちが戦っている闘争の中で使おうとすべきでしょうか?あなたの視点はどうですか?
つまり、一般的に言えば、真実であることを無視するのは悪い経験則だと思います。それらを見過ごすことです。まあ、これらのリスクが非常に現実的で、すでに起こっているのであれば、それらを見過ごすことは、ああ、それらはそうではないから、たとえば不整合のスーパーインテリジェンスほど全体化していないから、というのは大きな間違いだと思います。
それはあなたの議論を他の人々に対して弱くすると思います。彼らは周りを見回して「待って、あなたはこの仮説的なことについて話しているけれど、私の友人全員が仕事を失っているのが見えるし、私の子供がこのチャットボットに中毒になっているのが見える。非常に現実的なことが人々の生活に影響を与えている」と言えるからです。
人々を獲得する最良の方法は、私たちは皆ここで同じチームにいます。チームという言葉を使うのは好きではありませんが、私たちは皆同じことを主張しています。それは、不整合というものが存在するということです。
その不整合が、単一のエージェントシステムのブラックボックスの内部の働きの中にあるのか、人間の繁栄と健康に対する何らかの狭いAI企業によって生産された製品の不整合なのかにかかわらず。
私たちは不整合について話しているのです。そして、それは、一般的な概念を理解するために実際的な例が必要な多くの人々にとって、より簡単な入口だと思います。また、多くの人々は、テクノロジーが現在開発されている方法と人間の繁栄の間に、明らかに何らかの不整合があることを直感的に感じていると思います。
たとえば、ビーチに散らばったコーラの瓶を見たとき、直感的に「これは間違っている」と思います。なぜこれが間違っているのか?何が起こっているのか?大企業による何らかの奇妙な責任の放棄が起こっているか、または私たちのシステムが明らかに持続可能な未来と整合していません。
同様に、夕食のテーブルで人々がお互いに話す代わりに携帯電話をいじっているのを見たとき、それは明らかに何らかの内部の不整合が起こっているサインです。ああ、ごめんなさい、内部の不整合ではなく、人間の繁栄とテクノロジーの間の整合です。完全にそうです。
まあ、テクノロジーは、テクノロジーは非常に広い概念ですが、特定のタイプのものについてです。そして、テクノロジー分野の多くの人々でさえ、これに目覚めつつあるのを見るのは興味深いと思います。たとえば、2日前かいつか、アンドレがあの非常に悪趣味なツイートをしたときのことです。教皇と喧嘩を始めたのです。
教皇をダンクすること、ところで彼のメッセージは最も穏やかに表現された合理的なものでした。彼はただ「ヘイ、テクノロジーの創造は、実際には理論的には技術楽観主義者が言うことと整合している」と言っているだけです。彼は、テクノロジーを創造することは神聖な行為だと言っています。あなたは創造的なことをしています。もし何かを創造しているなら、知恵と配慮と思慮の場所からそれを行ってくださいと。
そして、それをダンクするというのは、つまり、私は個人的に彼がそれをしたことに非常に感謝しています。なぜなら、彼は示していると思います、私たちの多くが見てきたことを、彼はそれを外に出しています。そして、それは多くの人々にとって目覚めの瞬間だったと思います。シリコンバレーには多くの非常に良い人々がいます。それが事実です。彼ら全員が悪いわけではありません。
本当に素晴らしい、思慮深い、賢明な人々がたくさんいます。しかし、政府でコントロールを得るのが非常に上手で、異なる声を溺れさせるのが非常に上手な、遊び場のいじめっ子のような非常に強力な人物がいるとき、彼らが行って、おそらく癒されていない子供時代のトラウマを露出させるようなとき、それをあまりにも明確に示すと、ある意味それは贈り物でした。
繰り返しますが、私の元の論点から外れましたが、いや、いや、これはまさにその通りです。そして、それは非常に明らかにする瞬間だったと思います。そして、この質問に対して、過去2週間で完全な転換がありました。これについて本当に真剣に考えた後、3年間この中にいて。
制御の喪失を懸念する人々は、失業、自殺、データセンターに突き進み、それらを使う必要があると判断するに至りました。もし私たちが全員が絶滅リスクに賛同するのを待つなら、タイミングがうまくいきません。それは何年かかりますか?3年、5年、7年。そして、その間に非常に多くの損害が起こっています。
まさにそうです。そして、これがもう一つのことです。もしあなたが経済と人間の繁栄における不整合を実際に解決できるなら、あなたはスーパーインテリジェンスの整合問題を解決するのに半分以上、もしかしたらそれ以上まで来ています。
なぜなら、少し推測していますが、それは完全にではないと思います。それは異なるタイプのスーパーインテリジェンスですが、経済は間違いなくスーパーインテリジェンスの一形態です。実際には非常に分散化されたものです。そして、多くの点で非常に優秀です。
私たちがいるこの世界を創造するという点で、私たちはこれらすべての素晴らしいテクノロジーを持っています。平均寿命は、資本主義が私たちに与えてくれたすべての利益を享受しています。それは素晴らしかったです。しかし、私たちが見始めているように、抽出の速度が、自然界が自らを補充する能力よりも速くなっています。
私たちは今、9つの地球の境界のうち7つを越えました。それは過小評価されているトピックだと思います。そして、経済を独自のスーパーインテリジェンスの形として見ることは、それほど間違ったフレーミングではないと思います。
それはちょっと誤解を招くところもあります。なぜなら、それは最適化している狭い目標を持っているからです。主に、株主価値を上げるようなものです。それは、経済のどの部門を見るか、どの要因を見るかによりますが、ほとんどの産業には特定の目標があり、それは終わりなく自分自身を成長させることです。
そして、それは始まっています。しばらくの間は人間の繁栄と整合していましたが、外部性が積み重なり続けているので、明らかに不整合になり始めています。そしてその不整合はますます明らかになってきています。
ですから、私たちはすでに不整合のスーパーインテリジェンスの一形態に対処しているのです。もしそれを解決する方法を見つけられるなら、より古典的なユドコウスキー的な議論自体を解決するのにかなり進んでいると思います。
私の、AI安全性コミュニティのメンバーで最もユドコウスキー的な議論に焦点を当てている人々への挑戦は、とにかく経済の中で起こっているこのより深い不整合について考えることだと思います。
確かに。スーパーインテリジェンスの類似物としての経済、それは素晴らしいことです。なぜなら、経済をスイッチオフするのも幸運を祈りますよね。そして、ある意味では、それが分散化されたものだからこそ、より難しいのです。それは多くのノードで実行されています。私たちがそのノードだと言えます。
一方、古典的なペーパークリップ最大化装置のような議論は、中央集権化されたエンティティであり、多くの点ではるかに扱いやすいものです。ですから、一方を懸念することは他方を否定しません。むしろ、それらは非常に相補的だと思います。
ただ、不整合の経済という議論は、多くの点でより現実的で、すでに起こっており、平均的な人にとってより顕著だと思います。なぜなら、彼らはすでに人生でこの例を経験しているからです。
ジェンダーとAI安全性
ええ、そうですね。さて、これはFor Humanityの74番目のエピソードです。そして、私が誇りに思っていないことは、もし74のサムネイル全部を並べて置いたら、数人の女性が混ざったアメリカの大統領のように見えるということです。
AI、AI安全性におけるジェンダーのダイナミクス、そして私がAI安全性についてポッドキャストをまとめようとすることにおいてさえ、非常に男性に偏っています。これについて深く入り込みたいと思います。
明らかに、技術分野で働く男性の方が女性より多いことは知っています。でも、私たちが気にすることに関して、これの影響は何だと思いますか?そして、消費者側の観点から、ジェンダーのダイナミクスの影響についても知りたいです。
まず、研究を行い、仕事をしている人々のAI安全性側について話しましょう。それが男性優位であることの影響は何ですか?でも、女性もそれを気にかけるようにさせることができないという事実もあります。
そして、私は次のような考え方です。もし世界の女性たち、世界の母親たちがこれが何についてのものかを知ったら、これは終わりだろうと。彼女たちは、パーティーが開かれていて、近所の少年たちの何人かが部屋の隅で悪いものを作っていて、母親たちがそれを知って、彼らのところに行って「それを片付けなさい。もちろん、そんなことはしていない。それは馬鹿げている」と言うようなものだと思います。
そうですね。バランスをもっと良くしたいというのは正しいと思います。50対50になることを期待するのは実行可能でも合理的でもないと思います。それは間違った目標だと思います。でも、現在の比率が98対2か何かより良くあるべきですか?はい。
美的理由だけでなく、外部の視点が外部の美学は重要だと思います。より多くの注目を集めるという点で、人口の50%は女性です。でも、女性は多くの点で男性とは異なる方法で世界を見ているからです。平均的に言えば。多くの重複がありますが、違いがあり、それらの違いのいくつかは非常に価値があります。
女性は社会をまとめる接着剤を見る傾向があります。社会を機能させる接着剤をより正確に見ます。部族の時代を思い返してみれば、男性が外に出て、物を家に持ち帰り、安全を提供するといった方法で提供していました。
女性は部族を機能させ、一緒に保つためのすべての社会的な仕事をしていました。彼らは一緒に働き、一方は他方なしではいられません。でも、女性は男性が起こっていることに気づかない、多くの静かな舞台裏の仕事をしていました。今日でも私たちはそれをしています。
友人グループで、家族のドラマで、企業などで私が消した火事の数は。私たちはいつもそれをしています。なぜなら、男性が単に盲目である方法で何が起こっているかを見ているからです。ですから、男性性と女性性の相補性があります。
そして、正直に言って、私がAI、ポーカー、AI安全性、あなたが選ぶジェンダー不均衡の分野で知っている女性たちは、90パーセント以上が男性である場所にどういうわけかいつも最終的にいます。
そこにいる数少ない女性たちは非常に優秀で、信じられないほど優れたジェネラリストです。彼女たちは本当に多くのことが得意です。彼女たちはこの一つの特定のトピックの最大主義者ではありません。
彼女たちは、すべてが起こっているのを見ているので、非常に高度に統合された見解を持っているので、通常何かを見逃していません。ですから、それがあればコミュニティを強化することになります。
さて、繰り返しますが、有毒な女性性というものが存在しないということではありません。それがウォークなものでした。それは基本的に有毒な男性性に対する過剰な修正でした。男性的、男性的、成長、抽出、などなど、といった感じでした。
そして、結果をくそくらえと。そして、この種の緑の運動がそれから出てきたのです。60年代、70年代の「ちょっと待って、みんな。川が燃えていて、他のすべてのことがある」というような、必要なものとして出てきましたが、ある時点で行き過ぎて、安全への過度の執着のようになりました。ああ、誰かの気持ちを傷つけないで、などなど、それが自由を減少させるようになりました。
それが有毒な側面が出るところです。でも、ほとんどのAIスペースではそこから非常に遠いので、注意しておく価値はありますが、非常に遠いです。
そして、あなたが非常に正しく言ったように、心配している母親のグループよりも集中力があり情熱的なグループはほとんどありません。ママベアのミームは理由があって存在します。自分の子供に対する母親のような深い整合の例を見つけるのはより難しいです。
父親から子供へもそうですが、母親は特に子供が非常に幼いときには余分な層があります。そして、それを使うことに責任を持ちたいですが、真実でないことについて道徳的パニックを作り出したくありません。
たとえば、チャットのような、私はまだ子供を持っていませんが、もし子供がいたら、彼らがソーシャルメディア、チャットボットなどをどのように使用するかを鷹のように見守るでしょう。
このテクノロジーがどれほど強力かを知っているなら、若い心、あらゆる心、特に若い心に対して行うことができる心理的操作の観点から、その深い愛を活用することは、本質的にそれが何であるかということです。
他者の幸福への信じられないほど強力な愛と整合、より広範な問題の認識を高めるための、それは間違いなく賢い戦略です。
ママベアの雰囲気をこのAI安全性のこと、このAIリスクの質問に持ってくるために、私たちは何ができると思いますか?現実世界で実際の人々とこのことについて話そうとすると、時々母親が最も話しにくい人々の一部だと気づきました。なぜなら、彼女たちには非常に多くのことが起こっているからです。非常に多くの即時のことが起こっています。
幼い子供を持つ母親は、何を抱えていようと、どんなエグゼクティブよりも忙しいです。難しい突破口だと思いました。
ええ。まあ、彼らの子供とテクノロジーに関して何に苦労しているか尋ねると思います。彼らに尋ねて、彼らがいるところで会ってください。ええ、ただ、彼らがいるところで会ってください。
「ヘイ、何に気づきましたか?あなたの子供が携帯電話とどうなっているかに満足していますか?彼らはあなたに携帯電話を持つように圧力をかけていますか?もしインターネットやiPadを与えたら、どれくらいの時間を遊んで過ごしていますか?それに満足していますか?」と聞いてください。
もし彼らが満足しているなら、彼らは満足していて、あなたは彼らに届きません。でも、もし彼らが心配しているなら、ほとんどの人がこの時点でおそらくそうだと思いますが、私が集めたところから、そこからあなたは会話の入口を持てます。
「ああ、一度iPodを手にしたら、私はそれを彼らの手から取り出せません。彼らはただこれをもっともっとやりたがっています」と。「ああ、興味深いですね。まあ、実際にこの問題が悪化することをご存知ですか?製品をさらにターゲットを絞ったものに、さらに中毒性のあるものにしている特定の無責任なAI企業があります。そして、彼らはこれを子供たちに向けてさえいます」と。
すでに心配している母親の目を引かなければ、私は驚くでしょう。女性は、母親の直感は非常に優れています。信じられないほど優れています。繰り返しになりますが、母親が知っていたという話をたくさん聞きます。でも、大体において、女性は自分の子供や家族にとって健康か不健康かということに本当に非常によく調和しています。
ポーカーのキャリアとゲーム理論
私が15歳のとき、私はテレビのニュースレポーターになりたいと決めました。テレビのニュースレポーターが獲得できる4つの主要な全国的な賞があります。ピーボディ、デュポン・コロンビア、全国エミー賞、そして全国エドワード・R・ミューロー賞です。私が33歳になる前に、チェサピーク湾の汚染者を調査する地元のニュースレポーターとして、4つすべてを獲得しました。
レポーターのジョン・シャーマンがピーボディを受け取ります。ジョン・シャーマン。でも、私は2010年にニュースを去りました。インターネットが本当にニュースビジネスを根本的に変え始めていたときです。今、アルゴリズムが私たちが見るものの多くを、そしてその結果として私たちが考えるものの多くを決定しています。
だから私は今日、Ground Newsについてあなたに話すことにとても興奮しています。AIリスクネットワークとFor Humanity、AIリスクポッドキャストの創設スポンサーです。
私が最初にGround Newsについて聞いたのは、彼らが私のお気に入りのポッドキャストの多くをスポンサーしているのに気づいたときでした。でも、正直に告白すると、彼らがこのポッドキャストのスポンサーになることについて私にアプローチするまで、私はサービスを使ったことがありませんでした。
それで試してみました。そして本当に、私は圧倒されました。それはニュースを消費する根本的に異なる方法です。さて、次の正直な告白です。Ground Newsの前は、私はすべてのニュースをTwitterから得ていました。
私の思考プロセスは、まあ、私は主要な出版物を読んでいるし、主要なライターを読んでいるから、どれだけ悪いことがあるだろうか、というようなものでした。それは本当に悪かったです。私が思っていたよりずっと悪かったです。
何かを十分頻繁に見れば、それは普通になります。でも、これらのアルゴリズムはあなたを眠らせるようなものです。そして、あなたは視点を失います。そして、それがまさに私に起こっていたことだと気づきました。
Ground Newsは私のためにカーテンを引き上げました。ニュースで働いた12年の経験を持つ私にとってさえ、それはニュース自体についてだけでなく、それがカバーされている方法について、私が本当に見ることができなかった事柄を明らかにしました。
扇情主義とバイアスが私のレーダーを通り抜けていて、私はそれを知りさえしませんでした。Ground Newsは見出しを比較させ、記事を読む前に出版物のバイアスを知らせてくれます。
ですから、記事の一語を読む前に、私はその周りのフレームをはるかによく理解しています。例として、米国上院でのビッグテックの歴史的な敗北を取り上げましょう。提案された10年間の州のAI法モラトリアムが午前4時に99対1の投票で粉砕されたとき。
Ground Newsは1か所に270の記事を提供してくれますが、それから抽出されたバイアス比較を提供してくれます。私にとって、私は一般大衆にAI絶滅リスクについて効果的にコミュニケートする方法について考えるために多くの時間を費やしています。
ですから、このバイアス比較は、左派が環境への影響を中心にどのようにフレーム化していたか、右派が州の権利を中心にどのようにフレーム化していたかを示してくれます。それは、私が一般大衆と今後AI絶滅リスクについてどのようにコミュニケートするかについての意見を形成し、決定を下そうとするときに、本当に有益です。
私はまた、ブラインドスポットと呼ばれるこの機能が大好きです。それは一方の側によって非常に重いカバーをされている記事を示してくれます。これらはあなたのアルゴリズムで見逃すかもしれない記事です。なぜなら、それらがそこにあることを知らないからです。
ですから、もしAIリスクネットワークをサポートしたいなら、私たちのカスタムコードを使ってground newsに登録することほど強力なことはありません。ここにQRコードがあります。ここにURLがあります。それはground.news/iriskです。
彼らは、ここから来た人全員を知ることができます。私たちがそのベルを何度も鳴らし、Ground Newsに多くの加入者を獲得することが非常に重要です。ですから、ぜひサインアップしてください。そうしてください。そうしてよかったと思うでしょう。
Ground NewsとAIリスクネットワークは長期的な関係とパートナーシップを形成したいと考えています。しかし、それは一つのことにかかっています。私たちの視聴者が実際にGround Newsに登録することです。
ですから、あなたの電話、ラップトップ、どこへでも行って、ground.news/iriskに行き、サインアップする必要があります。AIリスクネットワークを非常にサポートでき、あなたが欠けていたニュースの視点を得ることができます。それはとても重要です。ぜひやってください。
再びポーカーとAI安全性へ
さて、番組に戻りましょう。私たちはよく、特定のAI CEOにあまり怒ることはできないということを耳にします。なぜなら、その椅子に座っている他の誰もが同じことをするからです。間違っているのはインセンティブであり、もしサムとダリオとみんなを排除して他の人々を彼らの椅子に置いたら、まったく同じ結果が得られるでしょう。
もし私たちがすべての男性を一掃したらどうなると思いますか?なぜなら、彼らはすべてこれらの企業を率いている男性だからです。そして、彼ら全員を女性に置き換えたら?それは全く変わりますか?
つまり、確かにいくらかの影響があるでしょうし、また大きなアスタリスクがつきます。それは女性によります。一部の人は、あなたが知っている、それは上から下までのすべてです。答えはすべての上記です。インセンティブは主に問題だと思います。
異なるCEOの間にも大きな違いがあります。一部は他のものよりはるかに責任があると思います。そして、彼ら全員を同じカテゴリーに入れるのは公平ではありません。私は、信じられないほど困難な状況下で最善を尽くしていると思う男性CEOがいると思います。
ランキングをつけてください。最悪から始めてください。
それをやりたいかどうかわかりません。さまざまな理由で、でも、彼らは皆、正しくやっていることと非常に間違ったやり方をしていることがあります。でも、他のものよりも比率がはるかに狂っている人もいます。ですから、それが外交的な言い方です。非常に外交的だったと思います。きれいに抜け出したと思いました。
でも、もし彼ら全員を取り出して、その仕事を喜んでやる女性を見つけることができて、風景を十分に理解している女性を見つけることができるなら、繰り返しますが、それができると思う女性の非常に小さなセットがあります。
それができると思う女性の非常に小さなセットがあります。もう少し良い状況にいるかもしれません。なぜなら、少なくとも女性は、私は知りません。基本的に、人が欲しいのは、男性か女性かという問題ではないと思います。それが考え方です。
現在の状況におけるより深い不整合を見ることができる人が欲しいのです。そして、全体の利益のために自分自身が勝つチャンスを犠牲にする意志がある人です。
それが私の考えていた方向です。これらの男性はお互いに完全に競争しています。文字通り血のスポーツ競争で、私たち全員を殺すリスクを冒しています。彼らのレース条件レースのために。
そして、もし女性だったら、少なくとも電話を取り上げ、協力し、もし私たちがこの時点に到達したら、「ヘイ、私たちは悪いことに到達しました。全員が突然停止しなければなりません」というような、彼らがそのためのより良い計画を持っているだろうと思います。
男性がサイロの中で競争し、話していなくて、女性はもっと協力的な雰囲気にオープンかもしれないと感じます。
潜在的にそうです。繰り返しますが、特定のCEOは他のCEOよりも協力的だと思います。そして、信頼できないと感じる他の誰かに電話をかけるのは非常に難しいです。または、裏切るだろうという。これが問題の一部です。そして、彼らの多くがお互いにそう感じていると思います。
女性はそれに免疫があるでしょうか?わかりません。それは本当に女性によります。もし同時に全員を置き換えることができるなら、それはモロックトラップを少し破るでしょう?
でも、それは非常にあり得ません。もしその調整ができるなら、おそらく他の多くの調整もできるでしょう。だからそれがそうなのです。それが調整問題の性質です。
でも、問題の一部は、定義上、巨大企業を運営するのに十分な力を蓄積できる人は、より多くの場合、力を最大化する傾向を持っているということです。そして、それはより多くの場合、時々大きな絵を犠牲にして狭い目標に焦点を当てるモノマニアックな焦点と相関しています。
常にではありません。ですから、基本的にその前提で質問を拒否します。
それは公平だと思います。それは公平だと思います。少し話題を変えましょう。私はあなたのポーカープレイのキャリアに魅了されています。それについて少し話してから、ゲーム理論とそれがAIリスクにどのように適用されるかなどについて話したいのですが、どうやって人はプロのポーカープレイヤーになるのか知る必要があります。
テーブルに座って、座るたびに毎回勝って、「うわー、私はこれがかなり得意だ」と思ったのですか?それとも、あなたが到達したところに到達するのに多くの仕事が必要でしたか?それについて教えてください。
ええ。私が最初にプレイすることを学んだのは、ゲームショーだと思っていたテレビ番組で21歳のときでした。彼らは、それがポーカーをプレイすることになるということを秘密にしていました。ただ「スキルと欺瞞の力を使って10万ドルを獲得できますか?」と言っていました。
そして、あなたはそれ以前にポーカーをプレイしたことがなかったのですね?それ以前には対処したことがなかったのですね?
決してテレビに出たことがなく、ポーカーをプレイしたことがありませんでした。それはすべて一度にでした。大学を卒業したばかりで、まだ本当の仕事に就きたくありませんでした。修士号を取得しに行くかもしれないと思っていました。
代わりに、これにつまずいて、ポーカーを絶対に愛しました。実際にはそのショーで勝ちませんでしたが、地元のカードクラブでプレイを始めて、そこでかなり定期的に勝ち始めました。
才能があることに気づきましたし、ライフスタイルについても学びました。当時、私はロックスターになりたかったのです。ヘビーメタルに非常に夢中で、世界を旅して、有名な、大きなバンドに入って、素晴らしいギタリストとして有名になりたかったのです。
そして、ポーカーは似たような道を提供しました。世界を旅し、この本当に楽しいゲームをプレイしてたくさんのお金を稼ぎ、そのようにプロフィールを構築することができました。それで、それは素晴らしいようだと思いました。
それで、代わりにそれをし始めました。そして、ゲームをプレイすればするほど、それを愛し、それが人生について教えてくれました。そして、2年後にプロになりました。そして、私の夢のキャリアを持つことになりました。
つまり、それは本当におとぎ話のようなものです。正直に言って。それは真っ直ぐなおとぎ話のようなものです。
私はラッキーな女の子です。
ええ、信じられないです。ええ、素晴らしいです。確かにそのために一生懸命働いたと思いますが、人間を優れたポーカープレイヤーにするスキルは何ですか?
非常に重要だと思うのは、これなしでは偉大なポーカープレイヤーになることはできないと思いますが、ゲームをプレイすることを愛し、勝つことを愛する必要があるということです。もしそうでなければ、それを競争的であることと定義できます。強迫的であることと定義できます。
その属性がなければ、まともなポーカープレイヤーになることはできますが、偉大なプレイヤーにはなれません。それを生きて呼吸したいと思わなければなりません。また、リスクに対して快適でなければなりません。文字通り、自分が快適な以上のお金をリスクにさらすことを喜んで、口だけでなく実際にお金を置かなければなりません。
時々、自分が快適な以上のお金をリスクにさらさなければなりません。また、ゲームが関わる数学のタイプを愛さなければなりません。ですから、それは主に統計ですが、それにわくわくしなければなりません。
究極的にはトップに心理学の層が乗った数学のゲームですが、本当に偉大になるためには、少なくとも数学のいくらかの理解を持っていなければならないと思います。でも、同時に、心理学、人々を精神的にモデル化すること、彼らの立場に立とうとすること、深いレベルまで、できるだけ深いレベルまでも愛さなければなりません。
そして、それを利用する方法を見つけ出さなければなりません。それがもう一つのことです。誰かを利用することに快適でなければなりません。なぜなら、それがそうだからです。
さて、その中で、これはグレーエリアになります。なぜなら、人々は「ああ、ポーカープレイヤーは嘘つきに違いない」と言うからです。いいえ。実際には、私が知っている最高のポーカープレイヤーの何人かは、実際には非常に慢性的に正直な人々です。
でも、ゲームのルールの範囲内、ゲームの枠組みの中では、ゲームは意図的にブラフしたり、人々を誤解させようとしたりすることに基づいて構築されています。ええ。その領域内でそれを行うことに快適でなければなりません。
もしあなたが真のクンバヤのような、ああいや、全員が同時に勝たなければならない人だったら、フルタイムでポーカーをプレイするのに苦労すると思います。
それは私にとって興味深いことでした。なぜなら、私はかなり長い間、非常に競争的でかなりゼロサムの考え方のタイプの性格から来ていたからです。そして、効果的利他主義と慈善の世界に紹介されたとき、「待って、これははるかに良く感じる。私は他の人を助けるだけの何かに努力を注いでいて、同時に良い気分になれる」と理解し始めました。
ポーカーは定義上ゼロサムゲームです。そして、それは20代の私にとっては楽しかったのですが、「待って、これが私がこの地球上で唯一やりたいことではない」と思いました。
それで、そのために良くなくなり始めました。なぜなら、勝つことをそれほど気にしなくなったからです。そして、ポーカーテーブルで他の人を粉砕することを通じて埋める必要があった魂の穴を持っていませんでした。
または、多分まだ持っていましたが、それを埋める別の方法を見つけただけです。誰が知っていますか?でも、それは一種の、そして、ある時点でポーカーをプレイした私の友人の多くに気づきました。彼ら全員が「待って、人生には他のことがある。ここに行ってやりたい。これらのスキルをもっと厳密にウィンウィンなものに使えないだろうか?」と言い始めました。
そう想像します。多くの人がそのように感じていると。私は実際には多くのゲーマーにも当てはまると思います。ポーカーだけでなく。ゲームは、より明確に、またはより戦略的に考える方法を学ぶための素晴らしいサンドボックスであり、それを人生という究極のゲームにどのように適用するかです。
ええ、わかりません。いや、私は、ポーカーから何かより慈善的なものに移行する多くの人々、慈善的ではなく、より慈悲深いもの、明らかに慈悲深く、世界を助けようとしているものに移行するのは、彼らがただ助けたいからだと想像します。
彼らは問題を見て、それは無私である必要はありません。AIリスクや他の種類の壊滅的リスクや存亡リスクのようなものは、あなたにも影響を与えます。
また、年を取って家族を持ち、子供ができると、突然自分自身を超えて考え始めます。「ああ、くそ、私は子供たちがディストピアの悪夢のような場所で育つことを望まない。だから、これについて何かしたい」と。それも大きな動機だと想像します。
確かに。マインドセットについて少し話しましょう。なぜなら、あなたが非常に前向きなマインドセットを保っているように見えるので興味があります。私もそうしようとしていると思いますし、かなり成功していると思います。
私たちが制御できない機械を作っていて、専門家が今後数年以内に私たち全員を殺すことができると言っていることを知りながら。この非常に重い話題の周りで、どのように前向きなマインドセットを保っているのですか。
破滅論者という言葉が嫌いです。そのすべてが嫌いです。AI絶滅リスクを扱うことは、私にとっては現在にあることを意味することがわかりました。本当に毎日、一日の終わりに到達して、「オーケー、今日ではなかった。明日がある。行って何ができるか見よう」というような感じです。
そして、またそれをやります。そして、またそれをやります。でも、この非常に重い話題の周りでマインドセットにどのようにアプローチしていますか?
私はかなりコンパートメント化するのが得意です。私は視界から離れれば、心から離れるタイプの人です。ですから、もし何かをしばらく意図的に視界から外したら、目の前にあるものに夢中になることができます。
マインドセットに苦労するときは、オンラインであまりにも多くの時間を費やしているときです。そして、一日中破滅スクロールするのを止めてくれる適切なメカニズムを開発していません。
ですから、私はマインドセットに関して最高の例として私を挙げることはしないでしょう。正直に言って、私はこのトピックについて落ち込むことにかなり苦労しています。でも、それは私が破滅スクロールにどれだけの時間を費やしてきたか、またはこれらの会話をどれだけしてきたかと強く相関しています。
対面での会話も多すぎるということがあると思います。もし私がAIリスクスクールでフルタイムで働いていたら、私自身はとにかく、同じことに取り組んでいる人々のグループと一緒に住みたくありません。
一部の人々はできますし、より効果的です。あなたを最も効果的にするものは何でもやりたいだけです。そして、一般的に言って、健康なマインドセットにいて、外に出て、体の世話をし、良い社会生活を持つことなどが、仕事で最も効果的になるでしょう。
ですから、それは古典的なワークライフバランスです。一部の人々は99のワークライフバランスで大丈夫で、他の人は20対80を必要とします。そして、自分がどのタイプの人間かを知る必要があるだけです。
私にとって、私のハックは基本的に、夫に私から電話を取り上げるように言うことです。彼は非常に上手で、「さて、もう十分Twitterを見た。悲しくて不機嫌になっている。わかる」と言います。それで、彼にはそれをする完全な許可があります。
そして、ええ、ですから、自分がどのような種類のワークライフバランスの人間かを知るだけですが、たとえば、外に出ていない、運動していない、ええ、たとえば、多くの時間ぼんやりしているなら、おそらくあなたのワークライフバランスがずれているか、またはオンラインと実生活のバランスがずれているということです。それはより現代的な言い方かもしれません。
解決策とAI安全性への取り組み
解決策について話しましょう。ニュース速報としましょう。リヴ、あなたは大統領です。昨夜結果が出ました。素晴らしいです。あなたは初の女性大統領です。おめでとうございます。AI安全性について何をするつもりですか?
私が最初にやろうとすることは、猛烈な開発速度の最大の推進要因の一つ、または少なくとも彼らが主張する推進要因の一つは、まあ中国だと思うからです。
そして、それは非常に妥当な議論だと思います。もし全体化するAIを構築することが可能であるなら、私たちはおそらくそれが中国製よりもアメリカ製であることを望むでしょう?少なくとも西洋製です。それは非常に妥当な議論であり、それを軽減する最良の方法の一つは、中国内の対話に開かれている誰かと何らかの種類の対話を開始することです。
繰り返しますが、非常に慎重でなければなりません。ナイーブな対話というものがあります。でも、私は、これがそうです。トランプ政権の内部の働きを知りません。彼らが「オーケー、私たちには実際に共有された集団行動問題がある」というようなバックチャンネルの議論をしているかどうか。
同時に、中国共産党の私のモデルは、彼らが管理狂であるということです。つまり、彼らはおそらく、古典的なスーパーインテリジェンスへの制御の喪失のような議論について、平均的なアメリカの精神や西洋の精神よりも、どちらかと言えばより懸念しているということです。完全にそうです。
ですから、すでにそこには非常に懸念している人々がいるとしたら、私は驚くでしょう。それで、もし私が大統領だったら、おそらく彼らと何らかの種類の非常に慎重な会話をする方法を見つけようとするでしょう。「オーケー、私たちはここで実際に共有の利益を持っていますか?」というように。完全にそうです。
私たちには少なくとも今のところ、それがやや二極化した世界であるという利点があります。米国と中国が、ほぼ同じ時期にそこに到達する可能性が最も高い二つの国家であるという意味で。ですから、それは三極化やそれ以上よりもはるかに管理しやすいです。
それで、それが一つです。そして、たとえば、整合、安全技術に関する情報を相互に共有することが可能だと思います。たとえば、いくつかのプロトコルを開発し始めることができるかもしれません。「オーケー、能力の進歩は共有しないが、整合のものの一部は共有するかもしれない」というような。繰り返しますが、それも複雑です。
でも、もし私が大統領だったら、技術リーダーの何人かを集めて、「さて、みんな、君たちがやっているもののいくつかは」と言うでしょう。そして、繰り返しますが、すべての競争を取り除きたくはありません。競争は一般的な概念として良いと思います。
でも、外部性について彼らと本当の会話をします。「オーケー、君たちの何人かは、中毒性のAIや人々を愚かにするAI、または疎外されたものに傾倒している。または、子供たちがチャットボットと性的な性質の会話をすることを許可し、それがクールだと言うメールがある」というように。
ええ、そこにいくつかの線を引くのは全く問題ありません。そして、技術リーダーにそのようなものは私の政権によって好意的に見られないことを明確にします。
同様に、もし医学や人類にとって明らかにより有益なものに真に取り組んでいるAI企業があるなら、彼らは私の政権でより好意的に扱われるでしょう。なぜなら、事実は、大統領は常にどれを好み、どれを好まないかを選んでいるからです。
まるで、ああいや、大統領は好みを示すべきではないと言う人は誰でも、何を言っているのですか?彼らは常にそれをしています。常にそうしてきました。ですから、少なくとも、私たちが好むものの種類についてもう少し正気でいましょう。
それがおそらくもう一つのことでしょう。でも、繰り返しますが、わかりません。私は深く考えることなくこの質問に答えることをためらっています。なぜなら、簡単な解決策があるとは思わないからです。
そして、つまり、監視のすべてについても同様に、私たちはそれについてさえ話していませんが、それは巨大なリスクの領域です。私たちは、悪いアクターが力を得てより多くのカオスを作り出すことに関するリスクのカテゴリーを得ているだけでなく、同時に、永遠の全体化する制御監視のようなリスクの領域も増加しています。
永遠に続く価値のロックイン、ディストピアの悪夢のシナリオのような。それらも十分に話されていません。そして、AI安全性コミュニティがもっと話すべきことは何かに戻ると、それについて話してください。なぜなら、それへの恐怖が、加速主義者たちがもともと、AI安全性に対するアンチムーブメントのようなものとして分裂した理由だからです。
彼らはAI安全性コミュニティを、「ああ、ただロックダウンして制御を得なければならない」という社会主義的な推進力のようなものと見ているからです。そして、それは非常に妥当な懸念です。それがAI安全性が実際に何であったかということが真実だと言っているわけではありません。
でも、なぜ彼らがそう思ったのか理解できますし、それが非常に無視されたリスクのカテゴリーであると彼らが感じたことは理解できます。そして、その会話がなされるべきだったのです。なぜなら、究極的に、私が知っているAI安全性の人々のほとんどもそれらの問題について非常に懸念していますが、彼らはそれについて十分に話していません。なぜなら、彼らは制御を失う暴走のようなことについて話しているからです。
両方のリスクのカテゴリーについて話してください。そして、むしろ、これも、監視の地獄のような風景は、平均的な人にとってもより近く、より具体的に感じられるようになっていると言えます。
ですから、そこにローハンギングフルーツがあると思います。そして、それは真実です。加速主義者陣営により善意の、まともな人々がいて、それが彼らがAI安全性ムーブメントが完全に見過ごしていると公正に感じていたものです。そして、実際には彼らの戦略のいくつかでおそらく悪化させていたのです。
ですから、そこに橋渡しの機会があると思います。
非常に興味深いです。その監視国家についてはあまり聞きません。人々は非常に簡単にそれについて触れます。「ああ、それは望まない」というような。でも、それがどのように起こるか、意味するものは何か、どれだけ早く起こるか、誰がそれを担当するかなどについて、多くの詳細に入る人は誰もいません。
恐ろしいです。恐ろしい、あなたが知っている、そして繰り返しますが、それは一般の人々で多くの噂があります。それについて懸念しています。それはまた、男性的な側面からのものです。または、これらの左、右、何であれ、男性、女性の区別は好きではありませんが、より右翼の人々の恐怖、それが彼らが一般的に懸念していることです。
ええ、そうですね。そして、それには真実があります。
最後に
ですから、私はちょうど最も統合失調症的なビデオを作りました。今後数週間でおそらく公開される予定ですが、私は9つの異なるキャラクターとして着飾り、すべてAIコミュニティの異なる派閥を表しています。
ですから、加速主義者、破滅論者、AIエシックスのような、アルゴリズムバイアスの人々、懐疑論者などがいます。そして、彼らは皆お互いに議論していて、それから統合の共通の糸を見つけようとしているのです。
ですから、そこには何らかの価値があることを願っています。たとえば、私がかなりよく代表していると感じるAI安全性コミュニティにとって。確かに、一部の人々はその一部を気に入らないでしょうが、もし私がビデオで代表するすべてのグループを同時に喜ばせたり怒らせたりしていないなら、良い仕事をしたことにはなりません。
興味深かったのは、それはほとんど私の友人のステファニー・レップによって書かれましたが、私たちは一緒にそれを共同執筆しました。そして、「オーケー、プロAIと反AIの人がいる。待って、でもオープンソースの人々がいて、これらの人々がいて」というところから始まりました。今すぐのリスクの人々と、それからスーパーインテリジェンスリスクの人々がいて、それから個人のようなキャラクターのさまざまなタイプに爆発しました。
でも、それは本当に、私にとって優れたAI安全性の人とは、表現されているすべての単一の視点を本当に体現しようとする人です。そして、ところで、9つでは十分ではありません。それ以上ありますが、本当にスティールマンをして、全員がどこから来ているかを見ようとします。
そして、もし私が古いAI安全性コミュニティへの批判を持っているとすれば、それは彼らがリスクの全体主義的制御側を十分に批判しなかったということです。
そして、これらすべての異なる問題を展開するとき、これは私が持っている一種の核心的な信念ですが、すべての問題に適合する唯一の解決策は、ただ遅くすることだと思います。ただ遅くすればいいのです。あらゆるバケツで、より慎重に遅く進むことは実行可能なアイデアのように思えます。
それはまだ完全ではありません。あなたが知っているリスクのカテゴリーの多くでは、確かに真実があります。悪いアクター問題のように、テロリストがLLMを使って何らかの新しい悪夢の病原体を合成し、それをあらゆる場所に広める方法を見つけるようなこと。はい。
より良い防御を持つまで、その情報を広めることを遅らせるという観点から遅くすること。同意します。監視国家の悪夢、はい、遅くすることがより良いでしょう。不整合のスーパーインテリジェンス、はい、遅くすることがより良いでしょう。
でも、繰り返しますが、この安全性コミュニティが十分に評価していないリスクのカテゴリーがあります。それは静かな墓場のようなもの、または今日病気で死んでいる人々で、もう少し速く進んでいたら解決されていたかもしれないというものです。
現在問題を解決しようとしている方法が正しい方法だということではありませんが、それには妥当な点があります。ある時点で、AIの特定のバケツには遅すぎるというものがあります。
ですから、それは本当に依存します。AIをモノリスのように考えることはできません。AIは、特定の技術や物というよりも、ほとんど新しい形態のエネルギーに近いものです。
歴史を振り返って、「ああ、新しいものを解き放つこと、火を利用することを遅らせるべきだった」と言うことができます。まあ、オーケー。ええ、それは存在の新しいパラダイムを解き放ったからです。そして、私たちはより多くのエネルギーを持ち、したがってより多くのことができました。
そして、私たちが火を利用したことから多くの素晴らしいことが明らかに生まれました。2万年か何か早く、私たちが実際にそうしたよりも早く。なぜなら、救われた命のすべて、生きることができた良い人生のすべてを見てください。でも、同時に、そこから起こった多くのリスクと悪いこともあります。
ですから、それは本当に、AIの多くのことを遅くしたいし、AIのいくつかのことを加速したいということに依存します。
そして、ちょっと言わせてください、リヴ。その「私は本当に医学研究のすべてを見たいだけです。もしあなたが遅くすることを言うなら、すべての医学研究を傷つけることになります」と言う人に対して。
その人が半分以上の確率で、そしてこれは私の直感ですが、それをスーパーインテリジェンスを構築したいというカバーとして使っているように感じます。そして、もし彼らに「オーケー、あなたが言うことの解決策は、スーパーインテリジェンスとAGIを作るために使われているすべての計算資源を取って、それらを医学研究にだけ使うことです。それを支持しますか?」と言ったら、それはかなり。
私はそれが好きです。それは素晴らしい押し返しです。いいえ、私は同意します。それをやっている人々がいます。彼らが意識的にやっているか無意識にやっているかにかかわらず、彼らはそれをやっています。でも、本当にそうではない人もいます。
そして、あなたは真の信者に対して議論を強固にしたいと思います。知能がすべてを解決すると仮定して、すべての努力をそこに投げ入れるというこのアイデアには非常に強い議論があると思います。
より良いツール、ごめんなさい、理論的ブレークスルーを開発するのは良いことですが、それらの理論的ブレークスルーを実際に現実にするエンジニアリングと機関がなければ、それらはあまり価値がありません。
そして、私は実際に誰かが最近、がんに関連する何かについて教えてくれました。でも、多くの有望な医学的ブレークスルー、技術的で、ほとんど薬物関連のブレークスルーがあり、資金を得ていません。非常に多くの約束があるのに。なぜなら、すべてのお金が吸い上げられて、AIベースの医学の解決策に流れているからです。
そして、それは本当に悲しいです。ですから、もし誰かがそれが真実かどうかを本当に理解しようとする研究プロジェクトを望むなら、お金が本当に、非常に有望な製品がすべてのVCがAIだけをやりたいために資金不足になっているかどうかを見つけることです。
それがその議論に穴を開けると思います。それが間違っていることを願っています。それはとても悲しいことでしょう。それは怒る余分な理由です。
でも、同時に、知能がほとんどのことを解決するのは事実です。ですから、それは本当に依存します。AIが医学に役立たないというカテゴリーを完全に捨てたくありません。なぜなら、いくつかの方法では役立つからです。
でも、繰り返しますが、AIを構築していますか?ほとんどのボトルネックは機関的なものになるでしょう。社会構造や、これらの理論的ブレークスルーを実際に現実にする組織、それが私たちの努力が向かうべきところです。
そして、おそらくAI。ですから、調整を促進するAIがより価値のあるものになるでしょう。そして、人々はそれをやっていません。
ええ。私はちょうど、医学第一のようなAI安全性キャンペーンというクレイジーなアイデアを思いつきました。医学の狭いツールAIにだけAIを使う。そして、他のどんな使用も反人間的だ。人間の健康より先に何か他のものが来るのはなぜですか?
つまり、方向としては、はい。私は、唯一これ、常にそれというような全体化するキャンペーンは好きではありません。あなたは今、以前と同じ種類のブランディングエラーに陥ってしまうと思います。
または、少なくとも、それは難しいです。なぜなら、私たちはスローガンとサウンドバイトの時代にいるからです。そして、ピッシーのような隠された声明を持ちたいのです。すべてをシンプルに見せるようなもの。人々にとってモーメティックにシンプルなセルのようなものです。
でも、そうすると、ああ、だからあなたはただ閉鎖しようとしているのですね、あなたはすべてへの答えを知っていると思っていて、他のすべてを閉鎖しようとしているという同じブラシで描かれます。それが、繰り返しますが、加速主義者たちがスティールマンするなら、彼らはその感覚から生まれました。
全員がこの一つの問題に非常に執着していたように。ですから、繰り返しますが、大きなアスタリスクが必要です。その方向の何かだと思います。ヘイ、私たちはこれを最初に優先すべきです。もっと助けが必要です。本当に規制には注意しなければなりません。
なぜなら、規制は非常にしばしば誤射するからです。そして、繰り返しますが、それはデヴィッド・サックスのような反規制の見解をスティールマンすることです。彼は非常に反規制です。なぜなら、彼はおそらく直接、非常に良いものを閉鎖してしまった恐ろしい規制の例を見てきたからです。
さて、彼がAIに関して正しいと思いますか?あまりそうは思いません。私は多くのことで彼と意見が合いません。でも、悪い規制が、非常に善意の、良い意図から来ているものでさえ、時々恐ろしく誤射してしまうという考えには真実があります。そして、それが設置されると、元に戻せないのです。
ですから、それを本当に念頭に置く必要があります。
ええ。さて、リヴ。これは魅力的な会話です。一日中これについて話せます。いつも、あなたに希望を与え、未来について良い気分にさせる何かで締めくくるのが好きです。これからについてあなたに希望を与えるものは何ですか?
つまり、私に希望を与えるのは、私たちが多くの点でハイブマインディングでより良くなってきているということです。これらの深い不整合の多くに対する解決策は、私たち自身と自然、そして私たち自身の性質、そして私たちが構築してきたシステムとの、何らかの種類のハイブマインド解決策を必要とすると感じているからです。
そして、私たちはテクノロジー的にそれをこれまでにない方法でできる世界にいます。ですから、明らかに少しニワトリと卵です。なぜなら、テクノロジーの非常にグローバル化した性質が、これらのグローバル化されたリスクを持たせているからです。
私は、いくつかの異なる宗教にますます惹かれていることに気づきました。私がかつて評価しなかった知恵がそこにあるからです。そして、過去数年間でたくさんの精神的な経験をしました。それは、おそらくこの世界には、すぐに目に見える以上のものがあることを示してくれました。
そして、それが好きです。なぜなら、それは私に、より良い言葉がないなら、信仰のような層を与えてくれるからです。私たちはそれを成し遂げる方法を見つけるでしょう。それは私を怠惰にはしません。私を無関心にはしないと思います。
それは私たちがそれを見つけることにかかっていると思います。でも、私たちがそれを成し遂げることを望んでいる何かがあります。そして、もし私たちがただ静かになって、時々それを聞こうとし、それを信じ、それが私たちがすべき必要なことをする方法を示してくれることができれば、私たちの最善の利益を心に持っている何かがあります。
わあ。それが好きです。コナー・リーと一度会話しました。そして、彼は、誰も私たちを救いに来ないことに気づいた瞬間があったと言いました。そして、もし地球が暗くなったら、私たちはただ何かのようなもので、木から落ちる葉のRetry
中です。私たちはただ、それがそれであり、それがそうなるでしょうと。
そして、私は、何らかの形で私たちを見守っている何かが外にあると思う世界に住みたいです。私は全く宗教的ではありませんが、私が観察したり知ることができる以上のものが宇宙にあることは確かに信じています。
ですから、ええ、それは本当にクールなアイデアです。私たちの理解を超えた何かが外にあり、ある程度私たちの最善の利益を念頭に置いていて、人類にとって何らかの利益になるだろうということで終わるのが好きです。それは素敵な考えです。
ええ、あると思います。
素晴らしい。素晴らしい。お時間をいただきありがとうございました、リヴ。本当に感謝しています。
ええ、素晴らしい会話でした。お話しできてよかったです。
素晴らしい。さて、皆さんはどう思いますか?コメントで教えてください。もし女性がすべてのAI企業を運営していたら、私たちの状況はどう違っていたでしょうか?このショーについて他に何を考えますか?
さて、他のことについて話しましょう。このYouTubeチャンネルを始めてから2年と少しが経ちました。ちょうど700万のビデオビューを超えました。かなり素晴らしいです。皆さん全員に感謝します。本当に、本当に、ありがとうございます。これは私たちが一緒にやっていることです。
ですから、今日の私からのメッセージです。何かをしてください。ただ話すだけではダメです。ただタイプするだけではダメです。行動を起こしてください。何かを始めてください。もしAIリスクについて懸念しているなら、何かに参加してください。
次の数年で人類の運命を決めるのは私たちです。ですから、今行動してください。あなたにはスキルがあります。あなたにはエージェンシーがあります。それを使ってください。どうすればいいかよくわかりませんか?コメントで教えてください。それについて話しましょう。
あなたが得意なことを教えてください。そして、起こっているすべてのことにあなたを関与させる方法を見つけましょう。喜んでお手伝いします。
ですから、AIリスクネットワークに加えて、私はAIリスクネットワークと私たちが取り組んでいる他のプロジェクトに資金を提供するために非営利組織を始めました。それはGuardrail Nowと呼ばれています。guardrailnow.orgでウェブサイトをチェックしてください。
そして、私たちはちょうど寄付者を対象としたビデオを完成させました。これがあなたの最初の一見です。
AIリスクについて心配していますか?心配すべきです。私はジョンです。あなたの助けが必要です。ライン、標識、速度制限のない高速道路を想像してください。ただ車が盲目的にあらゆる方向に飛んでいます。
今、彼らが時速65,000マイルで旅行していて、毎日速くなっていると想像してください。それがAIです。そして、私たちは準備ができていません。私たちの子供たちのために準備ができていません。私たちの仕事のために準備ができていません。私たちの文字通りの生存のために準備ができていません。
私のヘアカットは、これまでに創造された最も危険な技術よりも規制されています。それがAIで人類がいるところです。ガードレールがありません。すべてが危険にさらされています。
私は2025年にGuardrail Nowを設立しました。なぜなら、高度なAIがすぐに私たち全員を殺すかもしれないことを深く懸念しているからです。悲しいことに、これは周辺の信念ではありません。世界で最も引用されている科学者10人のうち9人がこれを信じています。
大きなAI企業のCEOたちは公然とそれを認めています。でも、私は楽観主義者です。もし私たちが今すぐ行動すれば、まだより安全な未来を選ぶことができると信じています。
Guardrail NowはYouTubeのAIリスクネットワークのようなプロジェクトを通じて公共の認識を構築しています。すべての通りでAI絶滅リスクをキッチンテーブルでの会話にすること。私たちはボルチモアに拠点を置いています。バブルの中ではありません。
私たちのアプローチは完全に新しいものです。誰にでも作られたコンテンツ。技術的背景は必要ありませんが、資金が速く必要です。私たちは地球上で最も裕福で強力な企業と対峙しています。
そして、私たちの側にあるのは真実だけです。彼らは私たちのデータを使います。彼らは私たちの注意を使います。彼らは私たちのコミュニティを使います。そして、彼らが私たちに求めるのは、その特権のために月に20ドルだけです。
彼らのモデルはすべての家族、すべての仕事、すべての命を脅かしています。でも、悪い結果は避けられません。もし私たちが今すぐ行動すれば、人類のために未来を勝ち取ることができます。
ですから、Guardrail Nowに寄付してください。今日、私たちの子供たちが頼りにしています。ありがとうございます。
Guardrail Nowの私のチームは世界中にいます。アフリカにジェリーとリンゼーとリズがいます。スペインにルイスがいます。そして、アメリカにはキャロラインとピアースがいて、AI絶滅リスクをすべての通りでキッチンテーブルでの会話にするという私たちの共有ミッションに懸命に取り組んでいます。
これは年末に向けて寄付する時期です。2026年はGuardrail Nowにとって絶対的に大規模な年になるでしょう。私たちは今、範囲において野心を超えた計画に取り組んでいて、勝つように設計された冷酷なプレイブックを使っています。
2026年、私たちは座って後退するのは終わりです。負けるのは終わりです。それは負けるためにプレイするには重要すぎます。ギアをシフトするつもりです。それについてはもうすぐ詳しくお話しします。
さて、友人たち。いつも覚えておいてください。AIリスクは他の誰かの解決すべき問題ではありません。それはあなたのものであり、私のものです。
そして、2,000人が、80億人の私たちを地球の表面から一掃させるつもりはありません。絶対にありません。人類のために、私はジョン・シャーマンです。またすぐにお会いしましょう。
コメント