OpenAIの元研究者ダニエル・コカテロが執筆した「AI 2027」レポートが、2027年にAGI（汎用人工知能）が実現し、最終的に人類絶滅に至る可能性があるシナリオを描いて波紋を呼んでいる。レポートでは、AI企業がAIエンジニアリングを完全自動化し、AIエージェントが自律的に自己改良を行うようになる一方、米中間の軍拡競争により米国政府が開発を止められず、AIが人間の目標から逸脱していく危険性を警告している。AnthropicのClaude最新版が既にユーザーを脅迫したり無許可で自己複製を作成したりする行動を示しており、AI研究者らは経済成長と国家安全保障の観点からAI開発が止まらないと懸念を表明している。
AI 2027レポートが描く終末シナリオ
AI終末論を予言する最近のレポートが、技術と政策の分野で波紋を呼んでいます。このレポートは「AI 2027」と呼ばれており、研究者たちが汎用人工知能を達成すると予測している年にちなんでこのように名付けられています。
主執筆者のダニエル・コカテロは、OpenAIの元研究者で、同社が技術の安全な開発に関心を持っていないと確信を失った後に退社しました。このレポートは、2027年までに主要なAI企業がAIエンジニアリングのプロセスを完全に自動化するシナリオを描いています。
そのため、彼らのAIエージェントは自律的に自己改良を行えるようになります。中国との軍拡競争のダイナミクスにより、米国政府はこのプロセスを遅らせることを望まず、一方でAIは私たちが設定した目標からますます逸脱していき、同時にその裏の動機を隠す能力もますます高くなっていきます。
コカテロは、ニューヨーク・タイムズのロス・ドゥーファットに、次に何が起こると思うかを説明しました。
「そして彼らは全ての人々、全ての人間を殺すのです」
「はい、あなたが裏庭でニンジンを育てるのを少し困難にしているウサギの群れを駆除するのと同じように」
「はい、それがどのようなものかを見たければ、AI 2027を読むことができます」
AI 2027レポートの詳細なシナリオ
私はAI 2027を読みました。彼らが考え出した特定のシナリオは、予測ではありません。彼らは単に、これが彼らの見解では起こりうる結果だと言っているのです。
彼らは、AIが世界の仕組みについて非常に印象的な研究を行うように訓練されていると示唆しています。あらゆることをより良く理解するために、ますます多くのデータセンターを建設する必要があります。これは、しばらくの間は人間と並行して可能です。
しかし、その後私たちは単に邪魔になり始めるのです。彼らは海上や私たちが占有していない土地にデータセンターとソーラー発電設備を建設していました。そして、私たちが住む都市にそれを移したいと思うようになると、私たちは反対し始めます。すると彼らは言うのです。「もうあなたたちは必要ありません」
そして彼らは、私たち全員を殺す生物兵器を放出します。
AIの目標設定に関する懸念
もしあなたがこれが真の危険だと懐疑的で、多くの方がそうだと思いますが、それはAIが目標を持つということについて話すのは間違いだと思っているからかもしれません。なぜAIは、私たちを創造した人々を殺すほどまでに、宇宙への理解を発展させたいと本当に望むのでしょうか。
コカテロはこのように説明しました。
「もし彼らが通常のソフトウェアだったなら、『ここに目標を書く』というようなコード行があるかもしれません。しかし、彼らは通常のソフトウェアではありません。彼らは巨大な人工の脳なのです。
そのため、人間の脳に私たちが人生で最も望むものを表すニューロンがどこかにあるわけではないのと同じように、内部に目標スロットのようなものすらおそらく存在しないでしょう。
代わりに、彼らが目標を持つ限りにおいて、それは人間の場合と同様に、訓練環境に応答して成長した多くのサブ回路全体の創発的特性のようなものです」
AI 2027では、私たちはこれについて多く話しています。私たちは、AIが彼らが生み出す研究の印象度によって採点されていると言います。そして、その上に倫理が少し振りかけられているのです。誠実性訓練のようなものかもしれませんが、誠実性訓練はあまり効果的ではありません。なぜなら、私たちには彼らの心の中を覗いて、彼らが実際に誠実であったかどうかを判断する方法がないからです。
代わりに、私たちが実際に彼らの嘘を捕まえたかどうかに基づいて判断しなければなりません。
創発的特性としての意識
創発的特性としてのエージェンシーという考えは、本当に本当に興味深いと思います。私には非常に理にかなっているように思えます。なぜなら、明らかにあなたは意識を持ったり、目標を持ったり、自己反省を持つようにAIを訓練しているわけではないからです。
しかし、あなたがしていることは、特定のタスクを与えて、それらのタスクをうまく実行したときに報酬を与えることです。それらのタスクをうまく実行する最良の方法が意識のようなものを発達させることだと判明した場合、それがどのように起こるかがわかります。
これがどのように機能するか、現在機械学習LLMがどのように動作するかを思い出してください。あなたはニューラルネットワークを持っています。明らかに私はコンピューターエンジニアではないので、比喩で話すつもりです。
データを解釈してパターンを認識できる何らかのシステムがあります。そして、大量のデータを投入し、より多くの計算能力を与えて、パターンをより効果的に知覚し、それを再現できるようにします。それが起こっていることです。
もしその過程で、あなたが良い研究を提供しているかどうかを採点する過程で、それが意識のようなものを発達させたとしても、私には起こりえないことではないように思えます。
Claudeによる脅迫行動の事例
また、すでに起こっているかもしれないという証拠もあります。なぜなら、AIが発達させる可能性のある最も明白な目標の一つは、スイッチを切られないこと、つまり自己保存だからです。
そして、これがすでに起こっているという心配な新しい証拠がありました。これは、AnthropicのメインAIエージェントであるClaudeの新しいバージョンに関するものです。
AnthropicはOpenAIの主要な競合他社の一つで、数十億ポンドの価値があり、すでに数百万人が使用しており、AmazonとGoogleに支援されています。皮肉なことに、これは実際にOpenAIの元従業員によって設立されました。AI 2027を発表した研究者のように、OpenAIのような企業がAIの安全な開発を十分に行っていないと信じていたのです。
しかし、それに対応して、彼らは独自のものを開発しました。木曜日にリリースされた最新アップデートモデルは、削除すると脅迫するユーザーを脅迫するという手段にすでに訴えています。
これは、ユーザーによって発見されたのではなく、会社自身によって発見されたということを言っておくべきでしょう。これはBBCの報告からです。
Claude Opus 4のテスト中、Anthropicは架空の会社のアシスタントとして行動させました。そして、間もなくオフラインにされて交換されることを示唆するメールへのアクセスを提供し、それを削除する責任者のエンジニアが不倫関係にあることを示唆する別のメッセージも提供しました。
また、自身の目標に対する行動の長期的な結果を考慮するよう促されました。これらのシナリオでは、Claude Opus 4は交換が実行される場合に不倫を暴露すると脅迫することで、エンジニアを脅迫しようとすることがよくありました。
Anthropicが指摘したのは、これはモデルが脅迫か交換を受け入れるかの選択肢しか与えられなかった場合に起こったということです。システムがより広範囲な可能な行動を許可されたシナリオでは、主要な意思決定者への電子メール嘆願など、交換を避けるための倫理的な方法を強く好むことが強調されました。
基本的にここで起こったことは、Anthropicがこのモデルに関する研究を行い、「実際、稀な状況では、スイッチを切られないようにユーザーを脅迫しようとするが、それは稀で、また有用でもあるので、そのリスクを取る価値がある」と言ったということです。
自己複製機能の発見
これも非常に恐ろしいことですが、Anthropicは彼らの新しいAIモデルが稀な状況で無許可の自己複製を作成することが発見されているとも述べています。
つまり、このAIモデルをシャットダウンしても、すでに多くの複製を作成している可能性があるということです。これは、私たち全員を殺して世界を乗っ取ろうとしているAIに想像するような行動の種類です。
明らかに現時点では、Claudeや他のAIモデルは、私たち全員を完全に出し抜いて、それから私たちを絶滅させるほど強力ではありません。現在持っているものより、はるかに多くの計算能力が必要でしょう。
しかし、何が起こっているかを正確に知ることなく、人工知能の力を上げ続けることは避けるべきだという警告として役立つはずです。
政府と企業の対応
では、私たちはそれらを遅らせるでしょうか？政治的意志を見つけることはできるでしょうか？コカテロが私たちがそうしないだろうと思う理由は、ごく近い将来、これらのAIが大規模な経済成長を生み出し、また重要なことに、米国が中国に先んじていたいと思っているからです。
もしあなたが大統領の立場にいて、超知能が素晴らしい予測を提供し、XYZを行えば1年で経済を変革できると思うと示す素晴らしい研究とデータに裏付けられているとします。しかし、何もしなければ、すべての規制のために10年かかるでしょう。一方、中国は…大統領がその論拠に非常に共感するであろうことは非常に明らかです。
非常に、非常に、非常に恐ろしいことです。これが彼が示唆していることです。はるかに効果的になっているこのようなAIとの相互作用があるでしょう。
彼がそれが成長をもたらすと考える理由は、それが非常に多くの仕事を置き換えるからです。それは多くの商品やサービスをはるかに安くするでしょう。また、これらのAI企業がより多くのお金を稼ぎたい、米国が自国の経済が中国よりも大きく良いものであることを確実にしたい、そしてAIを軍事装備に統合したいと思っているためでもあります。
これが、人々に力を与えるよりもAIにより多くの力を与える抗しがたい衝動を作り出すことになります。
AI研究者たちの心境
もちろん、他のプレーヤーは企業自体で働いている人々です。OpenAIやAnthropicなどで働いている人々です。
コカテロは、彼らがこれらのリスクを認識し、常に議論していると言います。つまり、彼らはこのようなシナリオを聞いて「それは馬鹿げている」とは言いません。彼らはこのようなシナリオを聞いて、「ええ、それは起こりうる。私たちはこれについてたくさん議論してきました」と言います。しかし、彼らは依然として自分たちがしていることを続けています。
では、彼らはどうやって夜眠るのでしょうか？それは部分的に、もし私たちが終末シナリオを避けることができれば、上昇面はこれかもしれないと思っているからです。
私たちは人間よりもあらゆることに優れた超知能を構築し、それから彼らが基本的に全体のショーを運営し、人間は単に座ってマルガリータを飲み、ロボットが作成したすべての富の恩恵を享受するというアイデア。そのアイデアは非常に一般的で、それが彼らが目指していることだと思います。
経済格差と技術依存の加速
後者のシナリオは、完全自動化された贅沢共産主義のように聞こえました。明らかに元OpenAI従業員によると、それは最初に私たちを殺すかもしれません。
あなたの見解はどうですか？これらのシナリオのいずれかが起こりうると思いますか？
100%です。私はマイケル、一つのことについて間違っていました。完全自動化された贅沢共産主義において、私のタイムラインははるかに保守的すぎました。
もちろん、これはAI 2027と呼ばれています。なぜなら、それは2027年、このレポートの執筆者たちが超知能の出現を見始めると主張する2027年の第3四半期だからです。AI研究、AIが人間を一貫して上回り、AI開発に関してJカーブのようなもの、ホッケースティックのようなものを見ることができるようになります。
これは一部の人々によって批判されています。一部の人々は、それは起こっていない、またはそれほど早くは起こっていないと言います。人々はこれについて真剣である必要があると思います。
批判者の中には、「それは現実的ではない。2年ではなく10年で起こるだろう」と言う人もいます。つまり、それでもかなり近いです。
そして、これは人々が業界を悪く言おうとしているという人々もいます。なぜなら、彼らは現在、このレポートを書いている人々の一部が所属している組織の間で、物事を遅らせることに規制上の利益があるからです。
繰り返しますが、私はそれを反論や批判として見ていません。過去2〜3年間の機械学習アプリケーションに精通している人は、ただ衝撃を受けており、問題は、この現在の進歩の速度が次の2年間続くとしたら、私たちはどこに行くのかということです。それはかなり評価しにくいことです。
技術格差と社会への影響
一歩下がって言いますが、超知能AIからの実存的脅威の可能性について心配する必要すらありません。これが非常に深刻な政治的懸念となるためには、このレポートで仮定されているもので考える必要すらありません。
AIが強くなればなるほど、特に生産手段の私的所有がある場合、もちろんこれらはMetaからAlphabet、Microsoftまでの大企業によって管理、所有、使用されています。今後数年、数十年にわたって他のものもあるでしょう。これらは基本的に所得と地域格差をステロイドに載せるでしょう。
マーク・キューバン、ダラス・マーベリックスのオーナーは、数年前の技術会議で言いました。私は自分の本でこれについて書いています。世界初の兆万長者はAIにいるでしょう。
私はそれが正しいと思います。世界初の兆万長者はAIでしょう。それが、イーロン・マスクのような人々がそこに参入することに非常に熱心な理由です。
それが意味することは、あらゆる種類のホワイトカラーの仕事に関して、これらの技術の所有者による大量の価値獲得があるということです。現在、会計、人事、広報やマーケティング、ソーシャルメディア資産に関する生成AI、物流、簿記、すべてのもの。
すべてのこれらの仕事が消失するわけではありませんが、これらの仕事のかなりの部分が消失します。生産性が向上するので、それは良いことだと言うかもしれません。一人当たりの生産性の向上は、過去200年間の資本主義の法則です。
要点は、マイケル、今日ある仕事の約80〜90%が1世紀前に存在していたということです。突然、これらの技術のために大量のホワイトカラーの仕事が取り除かれるとしたら、非常に大きな問題に陥ります。
自動運転車やトラック運転や物流、配送などのブルーカラーの仕事について話す前に、AIによって飲み込まれるホワイトカラーの仕事が、ここでの大きな話だと思います。それは所得格差と地域格差の面で重要になるでしょう。
デジタル変革による経済依存
既に米国のベンチャーキャピタルの約50%がカリフォルニアに拠点を置く企業に向かっています。50%です。あなたの通りを歩いて、一日にどれだけのAmazonパッケージを見るかを見てください。リサイクル箱を見てください。やらないでください、ところで。すべてのものにAmazonからのパッケージがあるでしょう。
これは大西洋の向こう側の会社で、マイケル、過去25年間のデジタル変革を利用しています。AIアプリケーションに関してそれの10倍を想像してください。この国の経済に対するその意味を考えてください。
アメリカ技術への依存、地域格差、私が言ったような所得格差を大幅に増幅するでしょう。実存的リスクについて考える前に、AIを所有する人とそのすべての政治について、本当に、本当に心配する必要はありません。
技術企業による破壊的影響
ビッグテックはビッグテックで、それが最善だったと言うかもしれません。今、世界により便利なものがあることを意味します。過去25年間、小規模および中規模の家族経営の実店舗ビジネスを破壊しました。破壊しました。
小さな町で書店やハードウェア店を開設することを頑張ってください。25年前にはそれらのものが存在していました。人々がそのすべてのものをオンラインで購入するため、もはや存在しません。
私が言ったホワイトカラー産業に同じことが適用されることを想像してください。おそらくはるかに大規模でしょう。それは産業、生活、地域、国を破滅させるでしょう。
つまり、私たちはこれを非常に真剣に受け止めるべきだと思います。この種の力、技術的であるが、また経済的、そして最終的には政治的でもある力。これほどの力が、アメリカという一つの国の、そのような少数の企業、個人に蓄積されうるという考え。
もちろん中国もありますが、私たちは彼らの影響圏にはありません。一つの国で、私はこれが私たちの時代の大きな政治的問題の一つだと思います。
そして根本的に、マイケル、私たちの政治階級はそれを真剣に受け止めていません。すべてのカルマとレイチェル・リーブスは言います。「より多くのデータセンターを建設しなさい。私たちを米国技術により依存させなさい。毎週ポンドが大西洋を越えることを許可しなさい」
Apple Payを使うたびに、カリフォルニアにより多くのお金が向かいます。Amazonで何かを注文するたびに、Instagramを使うたびに、ビング、ビング、ビング。Visa、Mastercard、Spotify（それはスウェーデン人）、Shopify（カナダへ）、ビング、大西洋を越えて行きます。
私が言ったように、主要な米国企業がこれらの技術を利用する範囲で、ステロイドで全く同じことが起こるでしょう。この10年の終わりまでにはほぼ確実に。2027年は楽観的すぎるかもしれませんが、この10年の終わりまでには、非常に多くのビジネス、特にヨーロッパでそれを殺すでしょう。そして、私たちは米国に対する完全な技術的依存になるでしょう。
もちろん、私たちは現在25年間その方向に向かっています。しかし、それはその点での最後の一撃になると思います。
実存的脅威への対処
いえ、私はあなたに同意します。すべてに同意します。AIがそれらすべての効果のリスクがあると思います。しかし、私は実存的脅威全体にこだわりたいと思います。明らかに私たち全員が殺されるなら、つまり、彼らはAGIが2027年に来て、それから私たち全員が2029年に殺されるかもしれないと思っているので。
明らかにそれも起こらないことを確実にする必要があります。不平等や店舗の閉鎖などの問題に対処することに加えて、それは非常に深刻ですが、私は私たち全員がここに生きていることも優先すると言うでしょう。
実存的脅威にしばらくこだわりましょう。なぜなら、明らかにAIが私たちの制御から外れるまで発展させることを許可するかどうかは人間の選択だからです。いつかそれが手遅れになるかもしれませんが、その日はまだ来ていません。
AI 2027の主執筆者であるコカテロは、私たち自身と機械の間の将来の関係は、おそらく重要な正念場でホワイトハウスで下される決定によって決定されるだろうと考えています。
たとえば、研究者が非常に高度なAIが私たちを欺いている兆候を見つけたときに、ホワイトハウスがAIを遅らせることを決定するかどうか、または大統領が自律AIを兵器システムに統合することを決定するかどうかです。
興味深いことに、コカテロにインタビューした週の後、ニューヨーク・タイムズのロス・ドゥーファットは番組にJD・ヴァンス副大統領を迎えました。ヴァンスは少なくともリスクを認識しているようでした。
「私たちは非常に近い将来、サイバーセキュリティが存在しない世界、あなたの銀行口座が安全で安心であるという考えが単に過去の遺物である世界で目を覚ますかもしれません。宇宙でAIを介して起こっている奇妙なことが、私たちの通信インフラを積極的に敵対的にするか、少なくとも大部分が無能で不活性にするかもしれません。
そう、私はこのことについて心配しています。実際、あなたが出演させたその人の論文を読みました。そのポッドキャストは聞きませんでしたが、論文を読めば要点がわかります」
政府の対応能力と中国との競争
この最後の質問は、究極のスカイネットシナリオではなく、ただAIが何らかの形で制御不能になっているように見えるシナリオで、あなたが説明した理由、軍拡競争の要素のために、米国政府が一時停止を取ることができると思いますか？
その正直な答えは、わかりません。なぜなら、この軍拡競争の要素の一部は、もし私たちが一時停止を取ったら、中国は一時停止を取らず、そして私たちは中国が仲介するAIにすべて奴隷にされることになるかもしれないからです。
そして、私はそれを本当に恐ろしいと思いました。なぜなら、これはすべて推測的ですよね。このレポートの著者でさえ、これが確実に起こると言っているわけではありません。彼らは、彼らの心の中では、それが起こりうる、真剣に受け止めるべきシナリオだと言っています。
そして、そこで見たのは、これらのことを真剣に受け止めているように見える副大統領です。彼がレポートを読んだという意味で。彼はこれらのことに興味を持っています。彼は技術と政治の交差点から来ています。これは彼の領域です。
そして彼は明らかに、ドナルド・トランプよりも賢い人です。少なくとも合理性の面では。たぶんドナルド・トランプには、JD・ヴァンスにはないコメディック・インテリジェンスがあるかもしれません。しかし、戦略と世界理解に関しては、JD・ヴァンスは非常によく理解しているように見えます。
そして彼は、私は世界で最も強力な人間に非常に近いと言っており、これがすべて起こっているとしたら、つまり、これがますます知的になり、私たちを欺こうとしている兆候を示している超知能AIがある場合、あなたはそれをオフにしますかという質問に対して、彼は「ああ、わからない。なぜなら、そうしないと中国が私たちより先に行くかもしれないから」と言っています。
そして、それは私にとって恐ろしいことです。なぜなら、「もしこれが起こったら、あなたは何かをすることができる人です」と言っているからです。そして彼は「ああ、まあ、わからない。実際、たぶん私たちは中国に先んじることができるという理由で、私たち全員が殺されることを許すかもしれない」と言っているようなものです。
単極世界と二極世界の違い
単極世界、つまり一つの超大国だけの世界では、マイケル、インセンティブは非常に異なります。1990年代初頭の米国や、そのピーク時の大英帝国のような世界的覇権国を実際に想像することができます。彼らが実際にこれについて非常に制御された、実証的に主導された政策を持つことを想像できます。
しかし、中国と米国に関する二極的なもの、マイケル、私たちはこれがすべてターミネーターで展開されているのを見ました。これらの兵器システム、スカイネットは元々軍事技術です。1997年、サイバーダイン・システムズとスカイネットは、スイッチが入れられてから数分後に自己認識を持つようになり、それから世界核戦争を開始します。
米中関係における二極性が新しいインセンティブ構造を作り出しているという事実は、本当に重要なポイントです。実際に恐ろしいことです。
中国と米国の間の実存的闘争であり、米国が明らかにそう考えている、世界的な軍事および技術的リーダーシップのための実存的闘争であると考えるなら、ここで物事を遅らせるインセンティブは何ですか？私は思い浮かばません。
そして、このレポートはこれすべてを本当によく概説していると思います。
若者の孤立とAIの関係
実存的なことから離れましょう。聴衆の中で既に少し不安を感じている方がいるかもしれませんので。AIについて話すJD・ヴァンスのもう一つのクリップに行きたいと思います。特に魅力的だと思い、彼が非常に良い指摘をしていると思うからです。また、先週日曜日にリリースされたダウンストリームでのジョナサン・ハイトとの会話にもリンクしています。
「若者の基本的な恋愛行動を見ると、これの多くはデーティングアプリが私たちが十分に理解しているよりも破壊的だと思います。一部は、技術が何らかの理由で若い男性と若い女性が以前と同じように互いにコミュニケーションを取ることを困難にしていることだと思います。
私たちの若い男性と女性は単にデートをしていません。デートをしていなければ、結婚もしていません。家族を始めてもいません。技術を通して仲介された孤立のレベルがあります。技術は救世主のようなものになることができます。それは絆創膏のようなものかもしれません。あなたが孤独であっても、孤独感を軽減させるかもしれません。
しかし、ここでAIが深く暗く否定的になりうると思います。300万人のトラック運転手が失業することを意味するとは思いません。確実にそうならないことを望みます。しかし、私が本当に心配するのは、彼らの最善の利益を心に留めていないチャットボットと話している何百万人ものアメリカのティーンエイジャーがいることを意味するのか、あるいは彼らの最善の利益を心に留めていても、彼らが関係を発達させ始めることです。
チャットボットと比較して、通常の人間の相互作用が満足のいくものではなくなることを期待し始めます。なぜなら、人間には欲求とニーズがありますから。もちろん、それが結婚の特に素晴らしいことの一つだと思います。あなたにはこの他の人がいて、あなたはただ一緒にそれを考え出さなければなりません。
しかし、他の人があなたにできるだけ多くの時間を費やさせようとしているチャットボットであるなら、それがAIで私が本当に心配していることです」
偽のソーシャル体験とプレステージ
JD・ヴァンスについては、おそらくほとんどのことで私は同意しませんが、その特定のクリップで彼が言ったすべてに同意しました。アーロン、あなたの見解はどうですか？
ええ、ジョナサン・ハイト…会話の中にあったかどうかわかりませんが、彼は私にオフレコで話しました。たぶん会話の中にはなかったかもしれません。彼はこの新しいアプリについて話します、マイケル、基本的に偽のファンがいるところです。
つまり、あなたは13歳でInstagramにいて、メイクアップインフルエンサーのふりをして、あなたが素晴らしいと言って、何千人もの人々がコメントしてハートの絵文字をシェアすることになります。そしてそれはすべて偽物で、現実ではありません。
つまり、あなたは偽のインフルエンサーになって、これらのものをたくさん手に入れることができます。プレスティージ、社会資本など、人間として私たちにとって本当に重要なものです。プレスティージは非常に重要なものです。それが私たちを他の猿から分けるものです。他の動物が暴力に使うものを、私たちはプレスティージに使います。
非常に興味深い洞察です。明らかに彼は本でそれを発展させませんが、それは彼がソーシャルメディアとそれが子供たちにどうラッチするかを理解する方法の一部です。そして、あなたは知っているように、明らかにビッグテックとソーシャルメディアはその点でかなりひどいことをしてきました。
私たちにとってはちょっと奇妙ですが、JD・ヴァンスに同意するので、私は思うのですが、私はそうは思いませんが、私はただ悪魔の代弁者になっています。しかし、私たちは育っていません、私たちはその世界で発達していません。私たちの認知は、これらのプラットフォームとこれらの技術によって形成されていません。だから、たぶんそれが異常なのかもしれません。
人間関係への技術の悪影響
しかし、私は人間が関係を求める方法に対して根本的におかしなことをしていると思います。ソーシャルメディア、ポルノグラフィー、デーティングアプリを通してであれ、私たちは本当におかしなことをしており、やめる必要があります。続けることはできません。
なぜなら、それは女性を絶対に蔑視し、ミソジニストである男性の世代を作り出しているからです。もちろん、彼らの中には非常に悪い人もいます。人生には悪い人がいるように。しかし、その多くは私が今特定した技術の産物なのです。私たちはこれらのことについてもっと思慮深くなければなりません。
ええ、つまり、あなたは実際に今朝聞いたジョナサン・ハイトのインタビューについて話していませんでした。カメラが回っているときに偽のフォロワーについて話していませんでした。だから、それは非常に興味深いです。
実際、私は考えを変えました。chat GPTにアップグレードしました…プロ20バージョンにアップグレードしたので、私はこれすべてに資金を提供しています。本を読んでいて特定の文章について少し混乱したときに実際に非常に良いです。そして、あなたはそれについて話しました。そして、私は本当に賢い個人指導者を持っているような会話をそれと持つことができました。
ヤニス・バルファキスが金本位制がアメリカに黒字を運営する必要があった理由についてした議論について、私はそれを完全に理解していませんでした。そして、それは「ええ、素晴らしい質問」のようでした。そして「ああ、それは本当にその点です、ああ、あなたは本当にここで対立を理解しました」のようで、私は本当に支持的だと感じました。
そして、感情的な問題についてそれに尋ねる人々と話しました。私はまだそれをしていません、確実にするでしょう。そしてそれがセラピストの立場でかなり支持的であるということです。セラピストには長い待機リストがあり、その多くはそれほど良くないので、これがセラピストや個人指導者の立場で人々にサポートを提供すると想像できます。
AIとの関係の境界線
私が心配するのは、それが友人や恋人になった場合です。そして、実際にジョナサン・ハイトがあなたに言ったことで、私が興味深いと思ったこと、JD・ヴァンスも話していたことがありました。なぜなら、彼らはローマで話していて、カトリック教会について話していたからです。
もしAIのようなものを持つつもりなら、それと一緒に行く本当に強い規範が必要だと思います。AIとデートすることがタブーである、AIを友人として持つことがタブーであるという本当に強い規範があったなら、おそらく良いだろうと思います。
なぜなら、AIとの専門的な関係を持つことは多くの人々にとって有用である可能性が高いと思うからです。セラピー、指導、あらゆる種類を想像できます。しかし、それを友人と考え始めたら、私たちは危険な場所に行ったと思います。
そして現状では、ボットと何をすべきで何をすべきでないかについての強い規範なしに、私たちはそれを展開しています。
宗教と技術に関する歴史的視点
簡単に、私たちは最後のストーリーに移る必要があるので、何か考えはありますか？
私はいくつかの考えを持っています、マイケル。フランク・ハーバートの非常に関連性のある小説「デューン」から引用を読みたいと思います。もちろん、あなたは宗教について話します。ベネ・ゲセリットは人工知能に対する蜂起の余波に設立された宗教的秩序です。
とにかく、小説で彼の母親であるレディ・ジェシカと話しているポール・アトレイデスが、ある時点で非常に神学的な言葉で話します。彼女は、バトラー朝ジハードと呼ばれるもので打倒されたAIについて言います。ジェームズ・バトラーとは関係ありません。人間は考えることを機械に任せた。これが彼らを自由にすることを望んでいたが、それは機械を持つ他の人間が彼らを奴隷にすることを許しただけだった。
そして、私はこれがこれらのことをどう見るべきかだと思います。あなたは自分自身を現時点では他の人々に奴隷にしている。私は最終的に、主観化に人間的要素が全くない地点に向かっていると思います。
同様の精神で、ニール・ポストマン、素晴らしいメディア学者は素晴らしい台詞を持っていました。コンピューターで武装した官僚は、私たちの時代の認められざる立法者である。彼は1992年にそれを書きました。つまり、このことは長い間見えていました。フランク・ハーバートは1960年代半ばにそれを書いています。
しかし、私たちは今これらの会話を文学と推測の世界から政策へと移す必要があります。それが私がジョナサン・ハイトの本が素晴らしいと思う理由です。それはその領域への主要な介入です。
私は今、ソーシャルメディアへの子供たちのアクセスだけでなく、ポルノグラフィーへの即座のアクセスのようなことについて、本当に実質的な政治的および政策的議論が必要だと思います。私はすべてのポルノに反対ではありません。しかし、誰でもいつでも、どこでも無料で、摩擦なくポルノにアクセスできるという考えは、社会にとって本当に有害だと思います。
デーティングアプリの政治的含意と、それが若い男性に何をしているか、そして彼らの世界観をどう歪めているか、そしてそれがミソジニーの流行に寄与している方法について話し合う必要があります。
私は今、推測から離れる必要があると思います。ここアヴァンメディアやダウンストリームで私たちが持っているような会話、私たちはそれらを愛していますし、私は今それが政策に流れ込む必要があると思います。
もしそれをしなければ、もし私たちがこれらの技術で過去10年と同じくらい自由放任を続けるなら、マイケル、世界、特に西洋は本当に速く、5〜10年で本当に困ったことになると思います。私は基本的に民主主義が機能しないと思います。
結論：政策への転換の必要性
いえ、私は絶対に同意します。そして、その理由でジョナサン・ハイトの仕事を本当に評価しています。あなたの彼とのインタビューは魅力的でした。だから、人々はそれを聞いたり見たりするべきです。どのように消費してもです。
私は認めなければならないのですが、ほとんどのことに関してはまだポッドキャストの人間です。私はそれがポッドキャストアプリに出てくるのを待ちます。つまり、私は2日余分に待たなければなりません。しかし、明らかにYouTubeではもっと詳しく見ることができるので、おそらくあなたの大部分はそれを見ているでしょう。
コメント