セキュリティ技術者であるBruce Schneierが、AIによる大規模監視の脅威、民主主義と資本主義の未来、サイバーセキュリティの進化について語る。彼は、AIが初めて大規模なスパイ活動を可能にする技術であると指摘し、現在の経済システムと政治システムが18世紀に発明されたものであり、情報化時代には適合しなくなっていると論じる。富の不平等、監視資本主義、テクノロジー企業の権力集中といった問題を鋭く分析しながらも、AIが民主主義を改善する可能性についても言及している。
AIと監視の新時代
こんにちは、Bruce Schneierです。私はセキュリティ技術者で、セキュリティ、テクノロジー、そして人間の交差点で仕事をしています。まずは、AIがインターネット上で生活し、私たちを監視できるようになったことで、世界がどれほど変化しているかという話から始めましょうか。
これまでアルゴリズム的に処理できなかったのは、少なくとも今まではあなたの会話の詳細でした。誰かがあなたが誰と話したかを知りたければ、それは簡単です。携帯電話の記録を引っ張ってくるだけです。誰かがあなたが何を言ったかを知りたければ、聞かなければなりませんでした。そして、それには時間と人手が必要でした。
AIはそれを変えます。AIは初めて、コンピュータ化が大規模な監視を可能にしたのと同じように、大規模なスパイ活動を可能にするでしょう。それが私にとって、AIがセキュリティとプライバシーにもたらす最大の変化です。
興味深いことに、この場合、それはしばしば生成AIなのです。会話の転写を受け取り、音声をテキストに変換する生成AIです。それは今日では簡単な技術です。そして、生成AIに何が言われたかを要約させることができます。これは大きな変化だと思います。人々は今、このことについて十分に考えていないと思います。
最近、Elonが次のMemphisサーバーをオンラインにすれば、Twitterに投稿されるすべてのものを実際に読むための計算能力が得られるかもしれないと言っていました。つまり、毎日書かれるすべてのものです。彼は1日に約5000万のツイートまたはXがあると言っていたと思います。理論上、AIはそれらすべてを読み、それらすべてが何であるかを考え、プラットフォーム上のすべてのユーザーと彼らが過去に言ったことについても考えることができます。
そして、レコメンデーションエンジンを構築する代わりに、文字通りAIが世界で最高のものだと考えるコンテンツを推薦するのです。それはどういう意味だと思いますか。すべてが実際に読まれ、推薦されるとき。
テクノロジーと権力の集中
興味深いですね。私たちがすでに向かっている同じディストピア的な地獄の穴に私たちを連れて行くかもしれません。今でも、アルゴリズムが私たちが読むものを推薦しています。それは新しいことではありません。Facebookがそうしています。Instagramがそうしています。Twitterがそうしています。YouTubeとTikTokも。みんなそのように機能しています。
それは確かに社会にとって悪いことです。メンタルヘルスにとって悪いことです。個人としても集団としても私たちにとって悪いことです。それがもっと増えても、種類が違うのかどうかはわかりませんが、同じように恐ろしいです。そして、もし私たちに社会としての感覚があれば、それを違法にするでしょうが、そうではありません。だから、もっと悪いことだと思います。
しかし、AIがそれほど違いをもたらすとは思いません。すでにこれらのAIシステムはFacebookやその他のプラットフォームにあり、アルゴリズム的にあなたにとって完璧だと思うコンテンツをフィードしています。少し良くなるでしょう。それでも間違いは起こるでしょう。それでも中毒性があるでしょう。それでも恐ろしいでしょう。
セキュリティは金持ちにとってより良いものですか。彼らを守るサーバーやAIを持つことができる人々にとって、セキュリティは贅沢品ですか。私には理解できません。私にとって、どれだけ金持ちであっても、貧しい人々があなたを殺したいと思うことは望まないはずです。そして、深刻な富の不平等は、金持ちにとって本当に愚かなトレードオフのように感じます。
彼らは明らかにそうは思っていません。彼らは、人々が恐ろしい不平等に対して立ち上がり、彼らの首を要求するとき、テクノロジーが彼らを守ってくれると考えています。わかりません。私たちはロボットの警備員を持てる段階にはまだいないと思います。まだ人間の警備員が必要です。そして、すべての独裁者の人生には、警備員が彼らをもう守らなくなる時点があります。
ルーマニアを覚えています。チャウシェスクが権力を握っていました。彼は宮殿にいました。警備員がいました。人々は外で日々抗議していました。そして、ある時点で警備員は彼を見て、外の人々を見て、また彼を見て、「もうあなたを守りません」と言い、外に歩き出て、人々に加わり、政権は翌日崩壊しました。それがそのように機能するのです。
問題は、あなたが微妙に尋ねている種類の問題ですが、テクノロジーがその方程式を変えることができるかどうかです。金持ちで強力な搾取者として、より少ない人間で済ませることができるか。AIを使って人々を監視できるかもしれません。ロボコップを発明できるかもしれません。そうすれば、通りにロボット警察官がいて、もう警備員が私に背を向けることを心配する必要がなくなります。それはまだサイエンスフィクションです。考える必要があることだと思いますが、まだそこには至っていないと思います。
AIエージェントと権力の分配
AIのエージェントについて話している世界では、ある大企業が世界中のメガサーバーに1兆のエージェントを展開できるかもしれません。しかし、地球上のすべての人がジェイルブレイクされた自分の携帯電話で1つのエージェントを起動すれば、基本的に統合して、より多くの警備員を持つことができるかもしれません。
1兆から下げましょう。100万、10億、何百万かの合理的な数を考えてください。その通りだと思います。つまり、一般的な問題は、これらのテクノロジーが権力を集中させるのか、それとも分配するのかということです。あなたは2つの方法を挙げました。
誰かが世論を揺るがすために何千、何十万ものエージェントを展開することを想像できます。ロシアは2016年にそれをやりました。彼らは人間を雇い、サンクトペテルブルクの建物に入れて、それをやらせました。次回は彼らがAIを使うことを想像できます。AIははるかに複製可能です。
一方で、私たちも個人として同じことをより小規模でできますが、私たちの方が多いのです。その軍拡競争に誰が勝つのか。それが問題です。わかりません。今のところ、テクノロジー、中核となるテクノロジーは、基本的に一握りの白人男性のテック億万長者によって開発されています。彼ら自身の利益のために。
つまり、これらはアメリカのシリコンバレーのリバタリアン寄りのCEOと企業が、彼ら自身のためにこれらのシステムを構築しているのです。これが可能なのは、この時点まで、これらのシステムを作成するのが非常に高価だったからです。
しかし、それが変わり、すべての兆候がそうなることを示していますが、これらのモデルを作成するのが安くなれば、それはより分配的になります。高価なままであれば、より集中的になります。私は、AIが世界を乗っ取るかどうかよりも、このことをはるかに心配しています。すでに強力な人々がAIを使って自分の権力を増大させることを心配しています。
AI政策と変革の可能性
それは終わりにするのに良い堅実なポイントでした。少し不安になりましたが、では、あなたが変えたいAI政策の分野の1つは何ですか。
これらの企業は大きすぎて潰せません。つまり、存在するには大きすぎるということです。あまりにも強力です。お金を政策に変えて、自分たちの権力をさらに固める能力がありすぎます。だから、それが最も重要なことでしょう。
敵対的相互運用性が可能であることを確認したいと思います。かつては相互運用可能なシステムを作成でき、誰もあなたを止めることができませんでした。今では、これらの強力な企業を相互運用性から守る法律があります。それらは悪いものです。
そして、周辺のことも。私たちは監視資本主義について話しましたが、それが合法的なビジネスモデルであるべきかどうか。企業があなたをスパイし、そのデータを使ってあなたを操作することがなぜ合法なのか。なぜそれが良いアイデアだと思うのか。
これらは大きな変化です。お金と政治のせいで、近い将来には決して起こらないでしょうが、私たちがする必要があることだと思います。
彼らが変わる世界を想像できますか。どのような出来事を想像すれば、「ああ、もしかしたら敵対的相互運用性は私たちが気にかけることだ」と言えるでしょうか。
簡単に想像できます。そこに到達するのが難しいのです。私は何十年もの間、大きなセキュリティインシデントが変化を強制すると思っていたものを見てきましたが、そうはなりません。アメリカでは、お金が何を変えるかを決めるからです。お金がそれを望めば、それが起こります。お金がそれを望まなければ、それは起こりません。
歴史的に言って、その規模の変化は革命なしには、流血なしには起こりません。だから、可能性は高くありません。もっとうまくやれるかもしれません。今、私たちはアメリカが権威主義的な地獄の穴に落ちていくのを見ています。
それは多くのことを変えます。世界が再構成され、アメリカを国際的なパリアとしてさらに押し進めるとき、アメリカが地球の中心にあり、アメリカの政治のすべての機能不全があると、システムを転覆させずに物事が変わることを想像するのは難しいです。それはまた想像を絶するように思えます。
だからわかりません。これは政治学で、私は追いついていません。だから、ここで予測するのは難しいです。
資本主義を超えて
もし全員が最善の結果を望んでテーブルに着いたら、世界のモデルはどのようなものになりますか。これはファンタジーランドですよね。全員が来て、全員が全員にとって最善のモデルを望んでいます。
OpenAIは「私は数千億ドルの企業であることをやめます。世界にとって最善のことを望みます」と言います。Nvidiaは「約3兆ドルの企業であることが最初です。そんなことは地獄に落ちろ。私たちは世界にとって良いことをするつもりです」と言います。
何が起こるかというと、このテクノロジーが公共インフラになり、世界にとって良いことは、それを資本主義から取り上げることです。問題はテクノロジーではありません。問題は資本主義です。
今、私が説明したことは、私の生涯では決して起こらないでしょう。最終的に起こるでしょうか。1700年代半ばに発明された経済モデルが、私たちの種が時の終わりまで固執するモデルであるとは非常に考えにくいです。変わる可能性が高いです。1700年代半ばに発明された現代の立憲民主主義が時の終わりまで私たちと共にあるのと同じように。
しかし、移行は非常に不可能に思えるので、想像することさえ難しいです。
通常、人々がそのようなことを言うとき、次の考えは、それが社会主義のようになるか、それとももっと何か別のものになるかということですが。
いいえ、いいえ。でも、それは正しいです。でも、それも同様に過去のものです。それが変わるのは、私たちがまだ考えていない何かです。これらのシステムの歴史を見ると、彼らは変化します。前に進みます。後戻りはしません。
だから、はい、何か違うものになるでしょうが、別の過去のイデオロギーのようなものにはならないでしょう。そして、実際に現代のシステムについて考えると、彼らは資本主義の最良のもの、社会主義の最良のものを引き出し、それらを1つの政治経済システムにまとめています。
しかし、情報化時代に適したものは、これらの産業時代の組織システムのいずれでもないでしょう。全く異なる何かになるでしょう。つまり、私はそれが何になるかを理解しようとしていますが、答えはありません。
そうですね。まあ、そうですね。未来が見えたら、いくつかのことにとって非常に役立つでしょう。つまり、ディストピアはわかります。ディストピアは機械に支配されることです。この未来が悪くなる方法は、機械が私たちを支配し始めることです。
問題は、未来がどのように良くなるかです。そして、私には良い答えがありません。機械が私たちが自分自身を統治するのを助けるようなものになるでしょうが、それはどのように見えるのでしょうか。民主主義の後に何が来るのかという問題、これが私たちがここで尋ねている種類の問題です。それは本当に、尋ねるのが怖い質問です。
オープンソースとセキュリティの未来
Deep SeekとxAI、そして今ではOpenAIとMetaもすべてオープンソースモデルを持っていることを知って、安心しますか。
とんでもない。でも、彼らは持っていません。彼らはあなたに嘘をついています。つまり、これはこれらの企業が行うゲームです。これらのAIシステムは通常のシステムのようなコードを持っていないからです。彼らはオープンウェイトを持つことがオープンソースであると主張します。
だから、彼らはソースを見せません。トレーニングデータは見えません。トレーニング方法論は見えません。通常のコードのように自分でオープンソースでやり直すことはできません。彼らが見せるのは、彼らの秘密のプロセスの結果です。
それをオープンソースだと主張し、あなたは「うわー、それはオープンソースだ」と言うことになっています。そうではありません。そして、オープンソースコミュニティでは今、これらの企業がその用語を覆そうとすることをめぐって大きな議論があります。本当に注意してください。彼らはゲームをしているのです。彼らはあなたにあなたが今言ったことを言ってほしいのです。
そうですね、良いポイントです。なぜなら、私はすべてのトレーニングデータを見ているわけではないからです。インターネットだからです。
オープンウェイトと呼んでください。そのままに呼んでください。では、そのようなシステムがあなたのロボット掃除機や近い将来のヒューマノイドロボットの中にある場合、安全だと感じませんか。それが何をするか、何を言うかがまだわからないので。
いくつかの理由があります。そして、あなたは安全だと感じるかもしれません。今、ロボット掃除機にはAIがあります。そして、あなたは安全だと感じますか。ええ、おそらくそうでしょう。だから、安全だと感じるかどうかは別の問題です。
しかし、リスクは2つあります。リスクは、これらのAIを所有する企業があなたの利益に反してそれらを使用することです。Googleが検索をあなたの利益に反して使用するのと同じように。またはFacebookがFacebookをあなたの利益に反して使用するのと同じように。
そして、2つ目は、これらが第三者によってハッキングされて、あなたの利益に反して動作する可能性があることです。これらは両方とも、今すべてのAIシステムにおけるリスクです。
サイバーセキュリティはあなたが専門とするものの一つです。5年後のサイバーセキュリティはどのようになっていると思いますか。
いいえ。AIが物事をどのように変化させているかということで。答えは、ここでもわからないということです。繰り返しになりますが、AIは権力を強化するテクノロジーであり、サイバーセキュリティのすべての側面でAIが使用されているのを見ています。
明白な例の1つは、ソースコードやオブジェクトコードの脆弱性発見です。AIがコードを精査して脆弱性を探しています。このテクノロジーが攻撃者と防御者の両方によって使用されることを想像できます。攻撃者はシステムに侵入しようとしてそれを使用します。防御者は脆弱性を見つけて修正し、システムに侵入するために使用できないようにするためにそれを使用します。
その未来では、利益は防御者に行きます。どちらも脆弱性を見つけますが、防御者が見つけたとき、彼らはそれらを閉じます。システムをより安全にします。
それは中期的には野放しの西部のようなもので、これらすべての脆弱なシステムがそこにありますが、遠い将来には、AIがすべてを見つけて修正するため、脆弱性は過去のものになるかもしれません。それは一つの例です。
AIが詐欺と詐欺検出の両方で使用されているのを見ています。AIがディープフェイクとディープフェイク検出の両方で使用されているのを見ています。スパムとスパム検出。AIがシステムを自動的に攻撃するために使用されているのを見ています。Anthropicは数ヶ月前に発見したものの1つについて投稿しました。AIはまた、システムを自動的に防御するために製品で使用されています。
だから、これらすべての軍拡競争が今起こっています。これらのAIが攻撃と防御に展開され、双方がお互いに応答しています。
あなたが尋ねている質問は、5年後にそれがどこに行き着くかということですが、わかりません。バランスについても同じです。なぜなら、常にこの鶏と卵のようなものがあることを知っているからです。あなたがシステムを保護していて、誰かが別の攻撃ベクトルを思いつく。
鶏と卵とは考えないでください。軍拡競争として考えてください。軍拡競争として。AIは防御と攻撃のバランスを保っていると思いますか、それとも明確な勝者がいますか。
わかりません。5年後に何が起こるか知りたいですか。5年後に戻ってきて話しましょう。本当にそうです。わかりません。
私がそれについて考える唯一の理由は、なぜか防御が同じように追いついていないように感じるからです。明らかに、私はそれの専門家ではありませんが、中国とアメリカがお互いにスパイしているのを見ると、大手テクノロジー企業と一般市民がお互いにスパイしているのを見ると、プライバシーが顧客側で追いついているようには感じられません。
プライバシーではありません。セキュリティと考えてください。そして、そうです、伝統的に攻撃は防御よりも簡単でした。あなたが尋ねている質問は、AI媒介の世界で、それはまだ真実ですか。わかりません。
近い将来では、防御者が攻撃者よりもAIから多くの利益を得ると思います。単純に、あなたはすでにコンピュータの速度で攻撃されており、コンピュータの速度で防御する能力は本当に価値があるからです。
しかし、それは私の近い将来の直感にすぎません。これがすべて明らかになるまで、本当にはわかりません。
P doomはありますか。世界がこれを生き残ることについての推定値はありますか。
世界はこれを生き残ります。はい、100パーセント。つまり、これは世界を破壊しません。そして、私はあの変なAIドゥーマーの人々の一人ではありません。それはあまりにも馬鹿げた投影的に思えるので、全く意味がありません。
それでもバイオテクノロジーや核兵器のレベルの懸念と考えますか、それともそうではありませんか。
実際には本当に面白いです。なぜなら、約1年前に、多くの人々がAIリスクはバイオや核のようなもののレベルで考慮されるべきだと言った集団書簡がありました。私はそれを見て、署名するように頼まれ、私たちはそれらのリスクを実際にはそれほど真剣には受け止めていないと言いました。真剣には受け止めていますが、それについて狂ったようにはなりません。だから、はい、同じレベルであるべきです。そして、私は書簡に署名しました。
書簡が出たとき、みんなは「ああ、神様、これらのリスクを非常に真剣に受け止めるべきです」と言いました。私は署名したときに実際には他のリスクを過小評価していました。
だから、はい、それらの他のものと同等だと思います。つまり、私たちはそれらを真剣に受け止めますが、実際にはそれらについて眠れなくなることはありません。
それは面白いです。それは私が以前に聞いたことのない解釈です。あなたのような「ええ、核、バイオテク」。私はそれについて考えたことすらありませんでした。
それは実際には非常に面白くて、また悲しかったです。それは興味深いです。
所有権と経済システムの変化
所有権についてどう思いますか。すべてが借りられているように、すべてがサーバー上にあるように感じます。所有権がなくなっていくと感じますか。それともそれがあなたを悩ませますか。
もちろんです。しかし、これもまた、お金がより多くのお金を稼ぐために政策を作成することです。だから、そうです、所有権の概念はなくなっています。あなたが物を借りるのは、それらを使わせてくれる会社があなたに対してはるかに多くのコントロールを持ち、あなたからより多くの価値を引き出すことができるからです。
ええ、つまり、これもまた私たちが合法であると決定したビジネスモデルです。私たちはこれで問題ないのです。そして、ええ、社会にとって間違いなく悪いこと、世界にとって悪いことだと思います。これが許可されていなければ素晴らしいでしょう。つまり、一般的に双方向市場は悪いです。
資本主義は競争のあるシンプルな市場でうまく機能します。あなたが市場に行き、レモンの価格を見ると、すべての売り手についてほぼ同じ価格であることがわかります。なぜなら、需要と供給、すべての買い手、すべての売り手が買い手を求めて競争しているからです。それが資本主義がうまく機能する方法です。
それは携帯電話のプランやソーシャルメディアネットワークのようなものではるかにうまく機能しません。価格が無料であるか、あなたが顧客であり製品でもあるすべてのもの、保険会社。つまり、はるかに複雑で、いくつかの異なる方法でお金を稼ぎ、自分自身のさまざまな側面をお互いに対してプレーするすべてのもの。市場メカニズムはそのタイプのシステムのために設計されたことがないため、失敗します。
そして、これが私の資本主義の後に何が来るか、民主主義の後に何が来るかという考えです。それはすべてをパネル化する何かになるでしょう。
Charlie Stroseのアクセラランド本を読んだことがありますか。彼はAIに経済学2.0と呼ばれるものを発明させます。これは人間が理解できない大規模で複雑な多次元経済学です。このサイエンスフィクションの世界で市場が何であれ、それに参加するには、経済学2.0を理解するAIである必要があります。それが私の考え方です。
では、それを私が今住んでいる世界にどのように適用すればいいのですか。何を、どうすれば。
あなたはしません。あなたはしません。そして、これはすべて本当に遠い将来の考えだからです。つまり、私はこれの一部をやろうとしています。ご存知かどうかわかりませんが、私はハーバード・ケネディスクールで教えています。それは公共政策学校です。私は今、トロント大学のモンクスクール、別の公共政策学校で1年を過ごしています。
そして、私は民主主義の再想像について、これらの質問について考え始める方法についてのセミナーをやろうとしています。私には答えがありません。質問もほとんどありません。しかし、私にとって、これは本当に考え始めることが重要なことです。
ロボット、雇用、そして未来
世界がすぐにロボットとデジタル的な方法でつながるかもしれない方法についてはどうですか。過去には、例えばiPhoneを作るためにそこで作る方が安いので、物を他の国に移動しました。そして、中国がより豊かになり始めると、インドがより安くなるかもしれません。
今では、他の国から動力を供給できるロボットがあり、最終的にはその学習をロボットに完全に置き換えることができます。まず、あなたは今、またはすぐにヒューマノイドロボットを買って、あなたを助けさせると思いますか。
私が何をするかは関係ありません。権力が何をするかを覚えておいてください。Amazonが倉庫で何をするかが重要です。それが重要です。私は関係ありません。金持ちが何をするか、お金が何をするか、企業が何をするかが重要です。
そして、そうです、今、Amazonのような企業は、あまりロボットではないようなものを作っています。第三世界の労働力が安い国の人々によって遠隔操作される遠隔ロボットのようなものです。
彼らの物理性は労働力が高価な場所にあります。もちろん、アイデアは、最終的にはロボットが訓練されるので、第三世界の国々の給料の低い人々を解雇することさえできるということです。
つまり、これは一般的に、AIとロボット工学の両方が雇用の性質を変えるという問題です。実際に、ハーバードとトロント大学の両方、そして私はMITが多くの仕事がここで考えられていると思うのですが、これに対処する方法を研究している人々がいます。
本当に私の分野ではありません。人々がそれについて考えているのは嬉しいです。しかし、これもまた、私たちの現在の20世紀のシステムがあまりうまく機能していない別の方法です。
アメリカでは、あなたが何であるかの多くがあなたの仕事に結びついています。健康保険は雇用に結びついています。私たちがヨーロッパとは異なる道を歩んだのは興味深いことです。ヨーロッパは前世紀に政治プロセスを通じて医療を獲得しました。だから、それは市民であることの一部になりました。
アメリカでは、人々は団体交渉を通じて医療を獲得しました。だから、それは仕事を持つことの一部になりました。そして、20世紀のほとんどを通じて、それらはほぼ同じでした。
ここで私たちは過去10年間にいて、雇用が切り離されます。ギグワーカーがいます。これらすべての種類の本当に雇用されている雇用されていない人々がいるので、健康保険は彼らに移行しないので、私たちのやり方は突然もう機能しなくなります。
仕事に結びついているそれらのものの全体の束があり、もし雇用のかなりの割合がなくなるなら、私たちは再考する必要があります。私たちはそれをする準備ができているとは思いません。
それは本当に興味深い考えです。私はそれについて考えたことがありませんでした。だから、ええ、もしかしたら、最初のステップとして、私たちがそれを切り離すように押し進めるべきです。私たちはそれを人格に結びつけるべきです。雇用に結びつける代わりに。
つまり、しかし、しかし、あなたはアメリカの政治を見ています。共和党は私たちが持っているわずかな医療を破壊したいと思っています。そして、つまり、それはとんでもない災害です。みんな働く動機を与えられています。いいえ、動機は利益です。健康的な結果である労働。市場はそれに報酬を与えません。
これが医療が市場システムで意味をなさない理由です。インセンティブはすべて間違っています。しかし、アメリカ、お金は政策に等しいです。変化は得られません。
では、人々に無料の給料、UBIのようなものを与えれば、それが人々を怠け者にすると信じていないと思いますか。彼らはそれでも外に出て物を作ると思いますか。
もちろんです。つまり、当たり前です。つまり、それはただ、つまり、お金はあなたにそれを信じさせたいことを覚えておいてください。人々にお金を与えれば、彼らは怠け者になります。いいえ。怠け者の人々は怠け者です。怠け者でない人々は怠け者ではありません。
それは正しいです。それは人々についてです。お金についてではありません。
ユニバーサルベーシックインカムについて、あなたは考えたことがありますか。
それが話されていることは嬉しいです。Andrew Yangが大統領に立候補したとき、彼がどんな変人であっても、彼はそれについて話しました。それは本当に重要だったと思います。だから、私は何かそのようなものが必要になると思います。
もし実際に仕事の大部分が消えるなら、人々を生かし続ける方法を見つける必要があります。そして、私たちはそれを雇用に結びつけましたが、もしそれができないなら、別の方法が必要で、UBIや他の同様のメカニズムについて考える必要があります。でも、答えはわかりません。
人々が非常に長く生きる可能性についてはどう思いますか。一部の人々は、AIが死を解決するので、できるだけ時間を持つべきだと言っています。
私はそれについて楽観的ではありません。寿命は長くなると思います。何世紀にもわたってそうであったように。
それが物事をどれだけ変えるかわかりません。つまり、人口統計は問題です。つまり、豊かな社会がより少ない子孫を生み出すという事実は興味深いダイナミクスです。そして、日本やカナダのような国が十分な市民を持っていないのを見ます。
カナダは移民でそれを解決します。カナダ人は十分なカナダ人を作らないので、彼らは彼らを輸入する必要があるので、彼らは移民にはるかにフレンドリーな国です。日本のような国は、より民族的にまとまりがあり、高齢化人口を支えるために本当に必要であるにもかかわらず、移民に抵抗します。
繰り返しになりますが、この惑星で私たち人間が自分自身を組織する方法の大きな潮流の変化です。それがどのように終わるかわかりません。
デジタル、すべてがデジタルになっているので、移民が変わるかもしれないと思っていました。人々が物理的にそこにいる必要があまりないので。それが一種のことでした。
でも、あなたは仕事のために移民するわけではありません。あなたは移民するのは、通常は正しいです。食べ物がないからです。電力が1日4時間消されるからです。つまり、はい、機会のために行きますが、それは仕事よりもはるかに広いです。
つまり、確かに、インドのような国には、米国でリモートで働いている人々の巨大なクラスが今います。彼らはインドの基準で良い生活をしています。米国の企業は米国の基準で良い取引を得ています。みんな幸せです。それは正常化するでしょう。正常化するのに数十年かかるかもしれませんが、それはそうなるでしょう。
でも、でも、人々はこの惑星をさまざまな理由で動き回り、気候変動はさらに多くの理由を意味します。惑星の一部が住めなくなると、より強い移住が見られます。
社会メディア、説得、そしてブロックチェーン
地元の食料品店はすぐにその決定を強いられるように思えます。インドの誰かによって操縦されるOptimusロボットを雇うべきか、それとも別のアメリカ人を雇うべきか。そして、他のルートに行く方が安いかもしれません。
最初の質問は、なぜロボットを雇うのかということです。まあ、そうですね、ただお金を節約して利益を最適化するためです。だから、ポッドキャスターとして、またはビジネスオーナーとして、つまり、あなたを定義しましょう。これの多くは詳細に依存するからです。一般的な答えはありません。
そのシナリオでは食料品店のオーナーです。わかりました。これは良いです。食料品店のオーナーは多くの細かい運動が必要です。棚への在庫、物の移動、客をかわすこと、客との取引。そして、彼らは今、それをするために人間を雇っています。彼らは、ロボットが安ければ、素晴らしい、ロボットを買う代わりにと考えます。
あなたが尋ねている質問は、少なくとも最初はそれが遠隔操縦されるロボットであると仮定しましょう。パイロットはどこにいるべきですか。そして、答えはもちろん、あなたは気にしません。あなたはおそらくロボットを売る会社のデフォルトが何であれそれをするつもりです。だから、あなたはおそらく知らないかもしれませんが、おそらく気にしません。
そうですね。なぜなら、もしそれがインドの誰かであっても、多分、食料品店のオーナーはそれを決定さえしません。Amazonが決定し、Amazonは彼らが別の言語で話すことができ、それが翻訳され、彼らが食料品店を学ぶことができ、その後、彼らは長期的にデータを取るシステムを持っています。
AI説得についてどう思いますか。Anthropicから出てくるいくつかの研究を見たことがあり、AIが私たちを信じさせることで超人的になる可能性があることが示唆されています。
超人的という言葉は忘れてください。それは偏った言葉です。AIは説得するのが非常に得意になると思います。つまり、すでにAIでないものは説得するのが本当に得意です。Facebookは、ランダムな信念構造のようなものを作成し、人間全員に会って交流させることによって、多くの人々を狂った陰謀論者に変えました。
AIはそれをより良くすると思います。これは実際にAIの今の主なリスクだと思います。それが人種差別的であるとか、世界を乗っ取るということではありません。それは人間を説得してお互いにひどいことをさせることです。だから、私はそれについて心配しています。
それはより良くなると思います。いくつかの理由があります。それはもっと知るだろうと思います。だから、それはより細かく調整された説得力があるでしょう。ほとんど自然言語になると思います。すべてのフロントエンドは遅かれ早かれチャットボットになるでしょう。
そして、自然言語は、単なるGoogle検索よりも、その説得能力に私たちがより影響を受けやすいということを意味すると思います。だから、私はそれについて心配しています。
でも、奇妙なのは、みんなが変な陰謀論を信じているとき、フラットアーサーのような人々、彼らは大きく利益を得ていますか。
Mark Zuckerberg、Elon Musk、誰が利益を得るかを覚えておいてください。白人男性のテック億万長者です。短期的な利益です。そして、あなたは正しいです。クレイジーです。なぜ彼らは実際には必要のないもっと多くのお金のために社会を破壊するのでしょうか。そして、私にはそれに対する良い答えはありませんが、それが利益を得る人の答えです。これらの企業とその所有者に利益をもたらします。
短期的には、より多くのスポンサーシップを得たので、彼に利益をもたらしたかもしれませんが、長期的には、なぜそれが彼に利益をもたらすのですか。そうではありません。でも、そうですね、私が言える限り、これらの人々は長期的には考えません。短期的にのみ考えます。わかりません。私も理解できません。
いいえ、それは本当です。問題は、私たちが何度も何度も短期的に考えているだけだということだと思います。そして、これが私たちが陥る体系的なリスクです。でも、でも、私たちのシステムはそれを奨励しています。政治はすべて次の選挙についてです。そして、経済学はすべて次の四半期についてです。
だから、私たちは短期を優先するこれらのシステムを構築しました。それがここでの失敗の1つです。
終わりに近づいてきているので、サイバーセキュリティについて他に触れたいことはありますか。パスワードは持ちこたえますか。これはまだ私たちが物事を保護する方法ですか。
パスワードはなくなりませんが、それらがゆっくりと補強されるのを見ます。私は顔で携帯電話にログインします。パスワードではありません。私のコンピュータがバックグラウンドで自動的にログインするあらゆる種類の自動システムがあります。私は注意を払いません。
DuoやSMSで番号を受け取る二要素認証がかなりあります。だから、パスワードは決してなくなりませんが、それらが補強されるのを見続けるでしょう。ここでは泥臭くやっていきます。
Sam Altmanのブロックチェーンにあなたのアイリスがあることについてはどうですか。
ブロックチェーンは愚かであることを覚えておいてください。
いいえ、わかっています。だから。そうですね。続けてください。なぜか教えてください。なぜか教えてください。ブロックチェーン以外の何でも。いいえ。だから、続けてください。なぜ、時間を通じて検証できるブロックチェーン上にあなたのアイリスのコピーを持つことが良いアイデアではないのか教えてください。
正直に言って、複雑すぎます。そして、それは、それは、システムを提案する人がなぜそれが良いのかを説明する必要があります。それが機能しないので悪いです。安全ではないので悪いです。分散されていません。時の終わりのものは、なぜブロックチェーンが機能しないかのすべての理由です。
しかし、誰かがブロックチェーンソリューションを提案する場合、ブロックチェーンでないものよりもなぜそれが良いのかを説明させてください。
公平を期すために、Sam Altmanがなぜそれが良いのかを正確に言っているのを聞いたことがありません。だから、そうですね、そして、ほとんどのブロックチェーンの人々はそうです。彼らは、問題があります。ああ、待って。ブロックチェーンがそれを解決できます、という感じではありません。彼らは、ブロックチェーンがあります。問題を見つけましょう、という感じです。
それはテクノロジーについての奇妙なことの1つです。でも、それは彼らが奇妙な信者だからです。そして、ブロックチェーンには非常に反政府的な筋があります。それは権力者に一矢報いるテクノロジーです。
世の中には権力者に一矢報いるメンタリティがたくさんあります。つまり、それがすべてを動かしているように見えます。社会のために。同意します。人々は自分たちが見ているものに非常に腹を立てているようですが、誰に怒るべきかはわかっていません。そして、彼らは意味をなさないこれらすべてのランダムな理由を見つけます。
そうですね。そして、そして、そうです。そうです。それはまさに起こることです。世界の怒りのレベルを下げる方法があればいいのにと思います。
良い答えがあります。聞きたいです。
監視を違法なビジネスモデルにすることです。私はこれをほとんどソーシャルメディアのせいにしています。ソーシャルメディアはあなたが怒っていることで繁栄するからです。なぜなら、それがあなたがソーシャルメディアに多くの時間を費やすからです。
もしFacebookがFacebookに年間30ドルを請求したら、彼らの目標は更新時にあなたが幸せであることです。そして、もしあなたがFacebookに月に1時間いることがあなたを幸せにしたら、彼らはそれに大喜びするでしょう。でも、それはそのように機能しません。
なぜなら、それは広告であり、操作ベースだからです。彼らはあなたができるだけ多くの時間をFacebookに費やす必要があります。つまり、彼らはあなたに極端なコンテンツを見せます。それはあなたを怒らせます。感情をかき立てます。なぜなら、それがあなたをプラットフォームに留まらせるからです。
でも、それは素晴らしい解決策のように聞こえますよね。政府がこれは素晴らしい解決策だと言ったらどうでしょう。それは決して起こりません。
もし私たちが中国からTikTokを買わなければならないとしたら、でも条件として、それは顧客に請求しなければならず、そこには広告モデルがないとしたら。
そうですね、お金は彼にそれをさせません。そして、お金がここで何が起こっているかをコントロールしています。つまり、いつもではありません。ファシズムの歴史は、ファシズムがお金に背を向ける時点です。そして、お金は基本的にすべて殺されます。だから、ここでそれが起こるでしょうか。わかりません。でも、それは一種の見るべきことの1つです。
最後の考え
最後の5分か10分くらいで、何について話したいですか。これまでの重要なことは何ですか。
これはすべて素晴らしいです。つまり、いくつかのことを話すことができます。あなたの仕事についても。私は最新の本をAIと民主主義について書きました。これは、過去1時間の会話を考えると奇妙に聞こえるかもしれませんが、概して楽観的です。
しかし、AIが民主主義をより良くする方法について多く話します。リスクについて話します。害について話します。しかし、それが民主主義をより良くする方法についても話します。ここでそれらのトピックのいくつかに触れました。だから、私は喜んでいます。
そして、私はAIと完全性について多く考えています。最初に言いました。道徳的な完全性ではなく、データの完全性です。AIが信頼できることをどのように確保するか、それは何を意味するのか。繰り返しになりますが、非常に初期です。答えはありませんが、それは私が考えようとしていることです。
そうですね。そして、ところで、Rewiring Democracyのために素晴らしい声優を選びましたね。
選びましたか。それは興味深いです。だから、これがどのように機能するかわかりますか。出版社が人々を選びます。彼らは3人を選び、みんなに抜粋を読ませます。彼らはそれらをあなたに送り、私はどれが一番好きかを言うことができます。もし彼らがそのどれも好きでなければ、彼らは迷惑がって、別の3人を見つけますが、それを2回はしません。
サイドノートとして、これらのインタビューをする前に多くのオーディオブックを聴きますが、あなたが素晴らしいものを選んだと感じました。でも、わかりました。良かったです。つまり、でも、今、私の出版社が素晴らしいものを選びました。私はそれを承認しました。それがその方法です。
あなたが承認しました。あなたが承認しました。そうですね。そうですね。興味深いのは、出版社がまだ人間に本を読ませることがAIに本を読ませるよりもはるかに良いことを実感していることです。
Rewiring Democracyは私が個人的に推薦できる本です。本当に楽しみました。前の本について話すかもしれません。
ハッキング社会システムについての本があります。このポッドキャストで話したことのいくつかです。A Hacker’s Mindです。
わかりました。説明にいくつかのリンクを入れます。だから、時間を割いていただきありがとうございます。あなたの考えを私と共有してくれて感謝しています。
呼んでくれてありがとう。楽しかったです。
そうですね、それは素晴らしかったです。だから、良い天気を楽しんでください。
そうですね、そうします。本当に感謝します。
わかりました、また後で。良い一日を、Bruce。ありがとう。
コメント