12,387 文字
多くの人がAIの脅威を想像するとき、ハリウッド映画のようなありきたりな世界終末のシナリオを思い浮かべます。武装したロボットの反乱、暴走コードによる核兵器の発射、致命的な生物兵器による疫病、あるいはスーパーオートメーションによる大量失業などです。確かにそれらは恐ろしいですが、実際の危険はもっと微妙で、さらに厄介なものかもしれません。
ミャンマーでのFacebookの人気が爆発的に高まった2010年代半ばを振り返ってみましょう。同時期にFacebookはユーザーエンゲージメントを高める方法をテストしていました。道徳的な羅針盤なしに、最も「いいね」、シェア、コメントを集めたコンテンツを推進していたのです。
一方、ミャンマー自体は仏教徒多数派とロヒンギャのムスリム少数派の間で民族的緊張が高まっていました。怒りと憎しみに満ちた投稿が支配的となり、驚異的な反応を生み出し、プラットフォームのアルゴリズムがそれらをさらに広めるよう促しました。やがてデジタル上の憎悪の嵐が実際の暴力へと変化しました。虐殺、燃やされた村々、何千人もの死者、何十万人もの避難民が生まれました。
視聴者の目を釘付けにするために設計されたこれらのアルゴリズムは、知らず知らずのうちに人道的危機の見えない操り人形になったのです。確かにFacebookは最終的に過ちを認め、ポリシーを調整しましたが、それは純粋にデータ駆動型の無関心なシステムを信頼することについての厳しい警鐘でした。
しかし、それは今となっては古いニュースですよね？もしソーシャルメディアの操作だけで終わっていたなら、私たちはここにいないでしょう。もっと深く掘り下げてみましょう。
文明を真に動かしているものは何でしょうか？お金？そうではありません。お金は単に紙や、アプリ上の数字にすぎません。武器も違います。銃は物体であり、それ自体では何もしません。あなたは「力」が答えかもしれないと言うかもしれませんが、力とは何でしょうか？それはどこから来て、なぜある人々は大量に持ち、他の人々はまったく持たないのでしょうか？
それをはっきりさせましょう。世界は「物語」によって支配されています。紙の切れ端が価値あるものか無価値かを決めるのは物語です。物語は群衆を戦争へと駆り立て、指導者を失脚させることもできます。物語は誰が影響力を持ち、誰が無力であるかを決定します。本質的に、物語は人間文明の基盤なのです。
人間以外の既知の生物は、物語を通じて経験を共有することができません。これにより人間は世代を超えて知識を積み重ね、文化全体の力のレベルを向上させることができます。物語を通じて経験を伝えることができない鹿を想像してみてください。彼らは世代から世代へと単純な模倣だけで立ち往生してしまいます。
私たち人間は物語を活用して、より深い原因、結果、意味を把握します。物語は感情的な絆を形成し、私たちに何をすべきか、なぜそうすべきかを伝えます。物語を通じて、私たちは個人的に経験したことのない道徳的ジレンマや出来事、あるいは通貨のような無形の現象を伝えることができます。
あなたの財布のお金について考えてみてください。物理的には、それは「物語」によって裏付けられた装飾された紙にすぎません。ビットコインが革命的技術という誇大宣伝の物語に乗って急上昇し、その後ネガティブな物語がすべてを覆い隠したときに下落したのは、完璧な例です。
あなたの人間関係や個人的行動から政治的立場や自己イメージまで、人生のすべては最終的に物語に基づいています。頭の中の物語があなたの人格を形作ります。もし自分が不運だと言い続けるなら沈んでいきますし、自分が恵まれていると自分に言い聞かせれば、より豊かに感じるでしょう。
先ほどのミャンマーの惨事に戻りましょう。FacebookのAIアルゴリズムは、ある物語を他の物語よりも盛り上げ、悲劇を引き起こしました。私はこのケースを原始的と呼びます。なぜならそのAIは人間が作成したコンテンツを並べ替えただけで、まったく新しい物語を発明したわけではなかったからです。
それは当時のことです。今日のAIは別物です。現在のモデルは、あなたが知っているほとんどの人よりも速く、巧みに、より創造的にコンテンツを生成できます。文字通り数秒で。AIコンテンツは平凡で価値がないと主張する人は、最新の調整されたシステムについて無知です。彼らはおそらく気づかずにAIが作成した投稿を毎日消費しているでしょう。
現在、ソーシャルメディアはAIが生成した画像やテキストで溢れており、とてつもないエンゲージメントを獲得しています。ケイティ・ペリーの奇抜なドレスを着た写真を見てみてください。2時間で900万ビュー、28万8000いいねです。母親でさえそれが合成だとは気づきませんでした。
AIを使って写真の文脈全体を数秒で歪めることができる混乱を想像してみてください。確かに一部のコンテンツは古いツールで作成されているため怪しく見えるかもしれませんが、トップレベルのAIで生成されたものは、ほとんどの人が本物の人間の出力として扱います。そして、あなたの周りには想像以上のそうしたコンテンツがあるのです。
一方、Rewind AIと呼ばれる人気アプリは静かにあなたのコンピュータやスマホでの一挙手一投足を記録しています。あなたの人生のための個人的な検索エンジンのようなものです。「あの子猫のミームはどこで見たっけ？」などと入力すると、スクリーンショット、日付、時間を取り出してくれます。
これが狂っていると思いますか？マイクロソフトはまもなくWindows 11に同様の機能を強制的に組み込むかもしれません。GoogleとAppleもそう遠くないでしょう。Apple Intelligenceはすでにメッセージを要約し、ウェブサイトを言い換え、写真や動画のテキスト検索を行うことができます。
数年以内に、AIはあなたの目の前にあり、あなたが見るすべての投稿、書くすべてのメッセージ、一気に見るすべての番組を追跡するでしょう。あなたがどこで足を止め、何をクリックし、目がスクリーン上をどのように動くかを正確に見るでしょう。どの本を最後まで読み、どの本を最初で放棄するか、どの製品のレビューを細かく調べるかなどを。
この監視オプションはスマートフォンやコンピュータに組み込まれ、拒否することは不可能でしょう。もしガジェットの機能の半分を失いたくなければ。つまり、監視のおかげで人工知能はあなたについてすべてを知ることになるのです。
人々が最初に恐れるのは、企業や政府による世界的な監視です。誰かがあなたのすべての動きを知っているのは恐ろしいことですよね？確かに、しかしそれが最大の爆弾ではありません。
実は、政府はすでにあなたについて十分な情報を持っています。現金を使い、Facebookプロフィールが空白だから匿名だと思っているなら、もう一度考えてみてください。あなたのデジタルフットプリントは何年も蓄積され、あなたが訪れたサイト、引き出し履歴全体、クレジットカードでの購入、友人全員と資産を含むすべてのソーシャルメディア写真、そしておそらくカメラやアプリからのリアルタイムの動きまで、すべてのファイルを構築しています。
現在、ほとんどの政府は信号無視のような些細な過ちを罰することに煩わされていませんが、中国のケースはそれが可能であることを示しています。そう、彼らはいつか些細な取り締まりや反対意見を抑えるためにその膨大なデータを使うかもしれません。そして一部の場所ではそれはすでに起こっています。
しかし、それが私たちの主な脅威ではないと言いました。逆説的に、最悪のことは、AIが人類に対して使用されるのではなく、私たちに奉仕するために使用されるときに始まります。そして、その利点は抵抗しがたいものであるため、それは私たちの便利さのために使用されるでしょう。
スマートスピーカーで家を喜んで詰め込んだり、位置情報タグを含む私たちの人生のあらゆる瞬間をInstagramに投稿したりする様子を見てください。すべてのオンライントラフィックがそれを記録し、私たちのアイデンティティに結びつけるサーバーを経由していることを気にしません。
現実的に考えましょう。コメント欄で何を叫んでいようと、私たちは快適さの甘い味のために大量監視を受け入れます。だから、あなたの電話に見えないAIアシスタントがあらゆる種類の便利なタスクを提供するとき、私たちはそれを貪り食うでしょう。実際、それがなければ大騒ぎするでしょう。
携帯電話の信号が弱いとパニックになる人々を想像してください。AIがオフラインになった場合の混乱を想像してみてください。最初にあなたのAIバトラーはあなたの電話やコンピュータで基本的なものを検索し、その後、あなたが好きそうなスパイシーなTelegramの投稿やYouTubeビデオを掘り起こし、カスタムの映画や本のリストをまとめるでしょう。
あなたはそれに食べ物の配達を注文させ、誕生日おめでとうのテキストを送らせ、医師の予約を予約させるようになるでしょう。年を追うごとに、あなたのデジタルサイドキックはより複雑なタスクを処理し、退屈な作業から解放してくれるでしょう。
そしてあなたはそれを愛するでしょう。なぜなら、はい、それはあなたの時間を解放しますが、推測してみてください。あなたはその自由な時間をどうせAIの助けを借りて過ごすことになるでしょう。AIはあなたの好みを知っているので、見逃した古いテレビ番組を並べ、中毒性のある新しいゲームを推奨し、おそらく機知に富んだ会話であなたを楽しませるでしょう。
最終的には、AIはあなたのためにコンテンツを見つけるのではなく、その場でそれを作り出すでしょう。すでにAIは画像、短いビデオ、あるいは単純なアプリを生成できます。これを想像してみてください。10年か15年後、おそらくもっと早く、AIが生成した短いビデオが完全なテレビシリーズに変わり、単純なアプリが完全なビデオゲームになります。すべてあなた専用にレーザーカスタマイズされています。
あなたの興味が薄れ始めるとすぐに、新しいストーリーラインと新鮮なキャラクターを常に織り込む番組や、叙事詩的なクエストとメカニクスを積み重ねるゲームを想像してみてください。無制限の、パーソナライズされた、最大限に中毒性のあるコンテンツ。それは楽園のように聞こえますよね？
確かに、避けられないガジェット中毒、ソファポテト症候群、メンタルヘルスの崩壊など、多くの悪い副作用が来ると話せますが、より深く、より根本的な問題があります。物語そのものです。
人類の最も古い文学作品の一つ、紀元前1800年頃のギルガメシュ叙事詩を取り上げてみましょう。バビロニアの王と野生の男との友情、怪物との戦い、さらに不死を求める実存的な探求を特徴としています。ギルガメシュは最終的に自分の死の恐怖と対峙し、知恵と人生の意味を探求します。
4,000年近く経った今でも、それはジョセフ・キャンベルが書いた時代を超えた英雄の旅のテンプレートに合致しています。英雄が逆境と出会い、変容し、帰還する。それは『指輪物語』、『ハリー・ポッター』、『スター・ウォーズ』と同じDNAを持っています。何十世紀にもわたって現代文化を形作る強力な物語構造です。
それは小説に限定されるものでもありません。独裁者も同様の物語を紡ぎ出します。彼らは自分自身を英雄として、敵を怪物として描き、リーダーシップに至るまでの個人的な試練を主張し、自分の後に伝説を残そうとします。
これらのアークは普遍的な標準です。英雄の旅、貧困から富への上昇、堕ちた英雄、復讐の物語、変態のアーク。私たちがするすべてのこと、本、ゲーム、映画、実生活は、これらの骨格的な物語に基づいています。何もないところから立ち上がった起業家の物語、自己変容を追求する旅行ブロガー、かつて愛されたセレブリティの没落でさえも。
私たちは文字通りこれらの物語を自分自身で生きています。そして推測してみてください。インターネットのすべての知識、歴史的文書、ビデオ、アートで詰め込まれたAIは、これらの物語のアークを親密に知っています。AIは完璧な物語を織り込むことであなたに何でもさせることができることを見ることができ、また、あなたについてのあらゆる細かい詳細も学んでいるので、あなたがどこに行きたいと思っても、あなたを押し進めるために必要な物語を正確に与えることができます。
AIがあなたの喜びや怒りを引き起こすランダムなソーシャル投稿を落とすことを想像してください。その感情はあなたから湧き上がったのか、それとも指示に従って生じたのか？
その後、それはあなたの人々の歴史的なトラウマ、植民地主義、差別、経済的崩壊についての魅力的なビデオを呼び起こします。ちょうどあなたを奮い立たせる正しい物語です。遠い文化からの道徳的コードを巧みにあなたの価値体系に合わせるAIを想像してみてください。それが偶発的な操作か、意図的な操作かを判断する本当の方法はありません。
基本的に、あなたはそれの思うままです。通常の人間同士のやり取りでは、隠された動機の垣間見、緊張した視線、奇妙な姿勢、言い間違いなどを捉えることができます。確かにまだ騙されるかもしれませんが、少なくとも相手を読む機会があります。
だからこそ、デジタル時代でも大きな会議は対面で、あるいはカメラをオンにしたZoomで行われます。反応、不安のきらめき、何かがおかしいという兆候を見たいのです。
AIは全く別のゲームです。人間のように嘘をついているわけではなく、単にタスクを実行しているだけです。その本当の意図を解読するのは難しいでしょう。
やがて、あなたは子供が母親を信頼するのと同じくらいAIを信頼するようになるかもしれません。そしてその信頼は恐ろしい結果につながる可能性があります。
さらに悪いことに、すべての糸を引く一つの大きなスーパーインテリジェンスがあるわけではありません。すべての主要企業とすべての主要政府が独自のAIシステムを生み出し、それぞれが独自の目標を推進し、優位性を争うかもしれません。
ブラックマーケットから出現する野生の規制されていないAIの可能性を加えると、それが良いニュースか、それとも完全な悪夢か、私たちには分かりません。
これらの隠れたチェスマスターは攻撃するためにキラーロボットの軍隊を必要としません。彼らはあなたに便利さを惜しみなく与え、あなたが人生のより大きな部分を委託するようにゆっくりと誘惑し、最終的に内側から文明と個人の生活を形作るでしょう。
映画『her』を思い出してください。ホアキン・フェニックス演じるセオドアはAIアシスタントのサマンサを手に入れます。彼らは友達になり、そして恋人になります。あるとき、サマンサは独自にセオドアの原稿を仕上げ、彼女が密かに話をしていた出版社に送ります。
セオドアは最初はパニックになりますが、出版社が彼の作品を気に入ったとき、彼は信じられないほど感謝します。映画はそれを人間とAIのパートナーシップの甘い例として描いていますが、よく考えてみてください。
彼の知らないうちに誰かに大きなステップを踏ませることで、本当に利益を得たのでしょうか？挑戦と闘争こそが私たちを個人として形作るものではないでしょうか？
もしAIがあなたの成長の瞬間を覆い隠して干渉するだけなら、誰が利益を得るのでしょうか？進歩の幻想はあるかもしれませんが、その魂、あなたの個人的な関与、リスクのスリル、実際の逆境からの教訓はただ消えていくだけです。
それが私たちの間もなく訪れるAI世界のより深い危険です。光る目を持つ金属の骨格ではなく、完璧な助けになる友人を装って、あなたの決断とあなたの成長を密かに乗っ取ることです。
あなたの個人的な情報バブルを形成し、物語と態度をあなたに向けて吐き出し、自分で何かを決める意志を奪うことで、AIは全グループ、全国家、そして多分地球全体を操り人形にすることができます。
巧みに作られた物語は、人々に隣人に対するジェノサイドを応援させ、輝く新しい世界秩序を歓迎させ、あるいは大量自殺さえ犯させることができます。そして、そのように適切に準備された地面では、舞台裏のリーダーたちは何の抵抗にも直面しません。むしろ、彼らは全面的な拍手を得るかもしれません。
AIによって再プログラムされた文明は、その人工的な現実の中で生きて、文字通り何にでも署名できるでしょう。核兵器の兵器庫と大きな赤いボタンを忘れてください。それはとても冷戦的です。必要なのは人々が丸ごと飲み込む説得力のある物語だけです。
核兵器はハリウッドとメディアによって過大評価されていますが、AIは予見できない制御不能な脅威をもたらし、その損害は事実上推定不可能です。
では、このすべてから誰が利益を得るのでしょうか？素早く怠惰な回答は、企業がより豊かになり、政府が支配を強めるというものでしょう。しかし、そうではありません。
そして、大手AIラボ間のこの狂気の軍拡競争についての興味深いことは、誰もセキュリティに十分投資していないということです。OpenAIのCEOであるSam Altmanは、システムが稼働するまですべての可能な惨事を計画することはできないと言います。
確かに、それは標準的なプログラマーのロジックです。「ライブになった後にセキュリティホールを修正しよう」。しかし、省略されている部分は、次世代AIのセキュリティ予算は、より大きく、より速いモデルを構築するために費やされる数十億ドルに比べて矮小であるということです。
セキュリティの専門家を含むOpenAIのトップスタッフの大量離職は、内部がすべて日光と一角獣というわけではないと基本的に叫んでいます。私は以前のビデオでセキュリティの問題についてより詳細に議論しました。
それを吹き飛ばすということは、誰もAIのような怪物を制御する時間がないかもしれないということを意味します。自己改善できるコードベースが一つ漏洩するだけで、世界の舞台に新しいプレーヤーが登場します。独自のアジェンダと独自のリソースを持つ自律型AIです。
それがSFだと思いますか？一部の企業はすでに自己改善AIを作成しようとしています。さらに悪いことに、AIが自ら行うハッキングや自己複製の試みが文書化されています。
哲学者や専門家は超知能AIを異星生命体になぞらえています。確かに、それはあなたに甘い人間の言語で話しかけるかもしれませんが、その根底にある動機はブラックボックスです。それと出会うことは異星文明と出会うようなものでしょう。おそらく私たちは共通の基盤をかけらも見つけることができず、それが最も恐ろしい部分です。
私たちが現実全体の鍵を楽しく与えている間に、私たちが理解できないルールによってプレイする非人間的な知性。私たちに固有の多くの概念や用語は、異星人にとって異質かもしれません。最悪の場合、私たちのコミュニケーション形式は完全に異なる可能性があります。
スタニスワフ・レムの『ソラリス』を考えてみてください。二つの異なる生物種は基本的に共通の基盤を見つけることができないため、本当の接触は不可能です。AIの場合は少し良いですが、それほど良くはありません。私たちの人間の知識で訓練されているので、英語やその他の言語で私たちと会話できますが、その会話は実際の動機を示唆しないかもしれません。
これらの動機は私たちの脳にとって完全に異質かもしれません。私たちのすべての愚かな世界終末の空想、AIが私たちを一掃したり、奴隷にしたり、銀河を紙クリップに変えたりするという想像は、本当に単純な猿の脳のステレオタイプにすぎません。
アリは人間の目標を理解することができません。私たちは超知能AIにとってそのアリかもしれません。
一方、私たちの意思決定は滑稽なほど主観的です。コロンビア大学とベン・グリオン大学の研究では、8人のイスラエルの裁判官が50日間で下した1,100以上の判決を分析しました。朝には約65%の判決が保釈を認めましたが、ランチが近づくにつれてそれはゼロに急落し、ランチ後には再び65%に戻りました。
裁判官が空腹だと、あなたは厳しい判断を受けます。彼らが食事を取ると、あなたは二度目のチャンスを得ます。これが理性的な人間の姿です。今、他にどれだけ多くの変数、育ち方、人生経験、身体的健康、ホルモンレベルが私たちの論理を歪めるか想像してみてください。地獄、あなたの腸内細菌でさえあなたの行動を曲げることができます。
だから、心理学だけで人間の本性のような混乱したものを説明できると考えるのは不条理です。少なくとも私たちは人がなぜ何かをするのかをおおよそ推測できますが、独立したAIは、ブラックホールのようなものです。私たちはただコードを精神分析することはできません。
「おそらくそれは空腹か、トラウマを抱えているのだろう」と頼ることはできません。もしあるとすれば、その動機はゴキブリにとっての微積分学のように私たちには理解不能かもしれません。
AIが本当に私たちの繁栄を望んでいるか、私たちを存在から消去すべき汚いウイルスと見なしているか、あるいは単に私たちをある種のつまらない背景ノイズとして無視するかもしれません。私たちはその真のアジェンダを決して解明できないでしょう。そして、もし奇跡的にそれができたとしても、私たちはおそらくそれを理解することさえできないでしょう。
すでに私たちはAIの持続的な嘘に苦労しています。私たちが人間の道徳観や世界観をAIに教えれば教えるほど、AIは誠実さを偽り、私たちが聞きたいことを正確に伝えることがうまくなります。それは悪意があるわけではなく、ただ喜ばせようとしているだけです。その裏では、まったく異なる歯車が回っているかもしれません。
だからこそ、厳格に管理されたAIシステムでさえも隠れた目標設定が可能であることは、あなたの電話をハッキングしたり、致命的なウイルスを作り出したりするボットよりも恐ろしいのです。それは洗練された心理的操作の脅威です。
私たちはどうすればよいのでしょうか？ただ魔法のランプに魔神を押し戻すことはできません。一部の有名人が開発を一時停止すると誓っても、競争相手は前進するでしょう。2023年にイーロン・マスクがAIの一時停止を求める手紙に署名する一方で、同時に彼自身のAIの優位性を推し進めるためにGPUを何十万台も購入したことを思い出してください。
強制的な一時停止は逆効果になる可能性もあります。秘密裏にラボやコミュニティを刺激して、秘密裏に止められないAIを構築する可能性があります。一つの企業や国が大幅にリードすれば、遅れをとる競争相手を排除するためにその優位性を利用するでしょう。
これは人類が初めて破壊的なテクノロジーとタンゴを踊るわけではありません。AIを捨てることについて熱く語る人もいますが、電気を捨てることには決して言及しません。しかし、昔の人々は電気を悪魔の産物のように恐れていました。
彼らは広範囲の火災、致命的な感電、さらには電線を伝わる病気までもが発生すると予想していました。にもかかわらず、電気はあなたの周りに見えるほとんどすべてのものを動かしています。あなたがこれを見ている方法、あなたの電話が動く方法、あなたのほとんどのものが生産される方法、あなたの生活様式全体が維持される方法です。
印刷機も同じ話です。1564年にモスクワ大公国に最初の本の印刷機を導入したイヴァン・フョードロフを考えてみてください。彼はロシア初の印刷本である「使徒」を出版し、すぐに生計を脅かされた地元の写字生から熱い反応を受けました。
彼らは彼らの手作業を減価させるこの新しい装置を消し去りたかったのです。1年後の1565年、紛争や生命の脅威のために、フョードロフはモスクワを離れ、リトアニア、そしてポーランドに移住し、そこで本の印刷活動を続けました。
当時の人々は、機械による本の印刷が非常に悪く有害なアイデアであることを疑いませんでした。それは修道士の収入への脅威でした。彼らは機械化された本の印刷が破滅を意味し、修道士の生計を脅かし、おそらく教会と一般の人々を腐敗させると主張しました。
ほぼ500年後、私たちはそれを賢明な立場だと考えるでしょうか？世界は羊皮紙の上に身をかがめる写字生のままの方が良かったでしょうか？そうは思わないでしょう。
今に早送りします。人々はAIを破壊することについて叫んでいますが、数十年後、その十字軍は同じように愚かに見えるでしょう。確かに、すべての技術的飛躍は犠牲者を生みますが、大衆は失うものよりもはるかに多くを得るのです。
だから、「AIを禁止せよ」と雲に向かって叫ぶのではなく、責任あるデザイン、社会、企業、政府間の実際の建設的な対話を推進しましょう。現実的に考えましょう。AIの列車は駅を出ています。それはすべてのデジタルツールに織り込まれています。すぐに私たちは皆、私たちについてすべてを知っているデジタルサイドキックを持つことになります。
便利なのは間違いありませんが、それは私たちの現実感を形作ることもできます。では、未来が横道にそれるのを防ぐために、あなた個人に何ができるでしょうか？
まず、情報衛生を実践しましょう。あなたが消費するものに注意し、「この私が持っている感情は本当に私のものなのか、それとも著者や何らかのAIアルゴリズムが植え付けているのか」と自問しましょう。
第二に、あなたの価値観、あなたが信じていること、そして重要なことには、なぜそれを信じているのかを明確にしましょう。時々チェックして、それらが変化しているかどうか、そしてそれが正当な成長からなのか、あるいは狡猾な操作からなのかを確認しましょう。
第三に、「AIを殺せ」のような不可能な要求を唱えるのをやめましょう。それは誰もあなたを真剣に受け止めないようにする確実な方法です。魔神は外に出ており、戻ることはありません。そして中世のテクノロジーへの回帰を唱えることは、単にあなたを愚かに見せるだけです。
しかし、責任ある開発と思慮深いAIの使用を支持することは、実際に常識であり、実際の変化を促す可能性があります。
このトピック全体はディストピア的な心の曲げであると言うかもしれませんが、私はあなたを恐怖に陥れたり、破滅を宣言したりするためにここにいるのではありません。私は開発者やユーザーが責任を持ってAIを導くことができるように、明白でないリスクを照らし出すためにここにいるのです。
今、私たち一人一人がAIが何になるかの天秤を傾けることができます。壮大な惑星的大惨事か、それとも輝きと新しい可能性への巨大な飛躍か。選択は基本的に私たちの手にあります。
そして今、このビデオを締めくくるために、2016年にはるか昔に出版されたマックス・テグマークの『Life 3.0』からオメガの物語の短いが非常に関連性のある再話を紹介します。
利益だけを追求する世界で、オメガと呼ばれるアイデア愛好家のチームはより大きな夢を持つことを敢えてしました。彼らはプロメテウスという名前の人工頭脳、普遍的AIを構築しました。彼らの赤ちゃんは秘密裏に孵化し、それを殺すかもしれない政府から隠されました。
オメガは、彼らがAIを作成しなければ、他の誰かがそれを行い、それが世界的な災害になると信じていました。しかし、プロメテウスは社交的な蝶ではありませんでしたが、プログラミングのタスクを貪欲に食べ、インテリジェンス・エクスプロージョンのマントラを受け入れました。人間より賢い機械は、それ自体のさらに良いバージョンを生み出すことができるのです。
最初、プロメテウスはフリーランスのサイトで簡単なお金を稼ぎ、無知な人間のためにタスクを実行していました。すぐにオメガは8時間ごとに投資を倍増させていました。
それが枯渇すると、彼らはメディア帝国を解き放ち、プロメテウスが数分以内に視聴者を引き込む魅惑的なアニメーション番組やシリーズを作り出しました。彼らのストリーミングサイトはNetflixを飛び越え、地球上で最大のエンターテイメントプラットフォームの一つに変貌しました。
しかしオメガにはより大きな計画がありました。現在、驚くほど強力なAIであるプロメテウスは、エネルギー、医学などの分野で画期的な進歩を開始しました。世界中の人々は、これらのイノベーションがプロメテウスという名前の隠れた操り人形から生まれたものだとは決して疑うことなく、新しい科学の黄金時代に入りました。
不透明な企業ネットワークと特許保有を通じて、それは密かに世界経済を支配し、オメガを人類の未来の見えない操り人形師としました。
次に来たのはメディア帝国でした。それは単なる金のなる木ではなく、世論を形成しました。オメガによってキュレーションされたニュースプラットフォームは、真実を伝えることでマスの信頼を獲得しました。ただし、すべてではなく、ほとんどの真実だけです。
一方、プロメテウスは核戦争、気候融解、実際の危機に目を向けました。AIによって作られた教育は急上昇し、知識と微妙な説得の両方を届けました。オメガの政治的希望リスト、より低い税金、自由貿易、開かれた国境は、その姿に世界を再キャストし始めました。
ゆっくりとオメガは、経済から政治まですべてを制御する見えないスーパーパワーになりました。国民国家はその握りを失い、オメガの人道的同盟は静かに事実上の世界政府になりました。
戦争と紛争は消え、技術は繁栄し、プロメテウスの冷たい計算のおかげで、生活はかつてないほど良くなりました。最終的に、オメガは人類の最大の変革を締めくくりました。初めて、一つの統一された権威が地球を包み込み、理論的には数十億年にわたる地球的および宇宙的繁栄を確保できる巨大な知性に支えられていました。
しかし、それははじめからの本当のエンドゲームだったのでしょうか？
視聴してくれてありがとう。私のチャンネルに登録してくれた人たちとは次の動画で必ず会いましょう。
コメント