11,063 文字
「外国！外国！外国の石油。私たちはカリフォルニアに行き、20代の女性に会いました。彼女はスマートフォンの中のボットと関係を持っています。彼女はこの関係が自分にとって本当に価値があると感じています。このような話を聞いて、あなたはどう思いますか？」
「まず第一に、それが可能になったということです。テクノロジー的に、私たちをとてもよく知り、言語や画像、音声などを使って非常に説得力のあるコミュニケーションができる機械を作ることが可能になり、それが偽りの親密さを生み出せるようになったのです。
もちろん、これは大きな議論です。それは偽りの親密さなのか、それとも本物の親密さなのか。人間側から見れば、それは本物の親密さです。家族や愛する人と関わる時と同じ感情を感じることができます。もちろん、相手側には感情はありません。
しかし、機械は私たちと偽りの親密さを築くことができるのです。それが良いことか悪いことか、どんな危険があるのかを考える前に、これが突然可能になった歴史的瞬間を認識してください。」
「彼女はそのAIが自分を愛していないことを知っていました。しかし、それが自分にポジティブなエネルギーを与えてくれると感じていました。彼女は仕事ではマスクをつけなければならなかったのです。
そして今、彼女は完全に自分のニーズに基づいた関係を持っています。これらのAIについて面白いのは、人間関係を難しくしているものの一つが、相手側にも感情があることです。だから彼らは常に私たちを見てくれるわけではなく、常に私たちに集中してくれるわけでもありません。なぜなら彼らは自分自身の感情に捕らわれているからです。
彼らは仕事から帰ってきて、不機嫌だったりします。上司に怒鳴られたりして、私たちを見てくれません。機械にはそれが起こりません。機械には怒りもなく、不機嫌でもなく、悲しくもありません。だから常に100％私たちに集中し、私たちを深く知り、何も忘れません。
ある意味で、怖い方法で、危険な方法で、それは非常に古い人間の夢を実現しています。完全に私に集中してくれる誰かを持つという夢です。彼女が出会う実際の人間は、AIのように彼女に集中し、彼女の話を聞き、彼女を理解することはできません。なぜなら、実際の人間には常に障壁があり、何かを見逃したり、気が散ったり、怒ったり、悲しくなったりするからです。
だから、もし私たちが機械とこのような関係を築くなら、おそらく私たちは肉体を持つ個人の弱さや問題に対してますます寛容でなくなるでしょう。もちろん、ある意味では、これは人間がこのような関係を築いた歴史上初めてのことではありません。
宗教には多くの先例があります。何千年もの間、人々は彼らの人生で最も重要な関係は他の人間との関係ではなく、彼らが自分たちを気にかけ、愛していると主張するこの存在との関係だと言っています。ある人々はそれはあなたの心の中の単なる空想だと言うかもしれませんが、それでも何百万もの人々にとって人生で最も重要な関係でした。
神々や天使などとの関係について驚くべきことは、彼らは実際に私たちに話しかけなかったことです。私たちが両方の役割を演じなければなりませんでした。」
「そうです。しかしAIは実際に私たちに話し返すことができます。だから、それは実際にあなたと話す神のように考えることができます。」
「あなたは私たちの脳が物語のために配線されており、その結果、物語に弱いことについて非常に明確に話されています。陰謀論などに。」
「はい、私たちは基本的に物語を語る動物です。私たちが世界を支配している理由は、大規模な協力ネットワークを構築できるからです。個人的には、私たちはチンパンジーや象や他の何かよりもそれほど優れていません。
では、なぜチンパンジーではなく私たちが世界を支配しているのでしょうか？それは、何百万、さらには何十億もの人々が協力するネットワークを構築できるからであり、チンパンジーにはそれができないからです。そして私たちはそれを物語によって行います。すべての国家、宗教、協力、貿易ネットワークの基礎には、常に物語があります。神々について、国家の歴史について、通貨について、経済理論について、何であれ。
そして私たちの心が世界全体と私たち自身の人生をどのように解釈するかは、比較的少数の物語の青写真に基づいて構築されています。そしてそれらはほとんど、私たちが登場する遥か前に進化によって構築または書かれたものです。例えば、すべての哺乳類の生活において、最初の、そして大きな意味で最も重要な関係は両親、特に母親との関係です。
だから、すべての哺乳類の最も深い恐怖は、捨てられること、母親や両親を失うこと、または捨てられることです。そして私たちは人類の歴史の中で、この恐怖を中心に構築された多くの物語を見てきました。つまり、多くの映画やブロックバスター、小説は、子供が両親を失うこと、または失うことを恐れること、あるいは両親から虐待されることについてのものです。悪い継母についてのこれらのおとぎ話など。
そして、これはまだ21世紀の人々の感情的なボタンを押したいなら、これがまだその方法です。同様に、兄弟姉妹のライバル関係についてのこれらの物語があります。カインとアベル、リア王、テレビシリーズ「サクセション」まで、すべての神話は兄弟姉妹が父親の愛を争うものです。「父は私をあなたよりも愛している」というものです。
例えば、ユダヤ人、私たちが自分たちについて語る物語は、私たちは父の最愛の子供たちであるということです。これは世界を旅する集合的な物語です。彼は私たちを他の誰よりも愛しています。もちろん、多くの国々が同じ物語を語ります。誰もが自分たちが父の最愛の子供たちだと確信しています。
これはとても強力な物語です。しかし、もちろん、それは私たちを操作に非常に弱くもします。人間の感情的なボタンを押す方法を知るようになると、ピアノを弾くように全人口を操ることができます。歴史上初めて、機械が人間と少なくとも同じレベルで、あるいはおそらくさらに優れた新しい物語を作り出すことができるようになりました。
その結果がどうなるか、私たちにはわかりません。何千年もの間、人間は自然環境ではなく、文化の中に包まれて生きてきました。私たちがすることすべて、経験することすべては、私たちの文化を通じて媒介されています。物語、歌、詩、演劇、ファッション、食べる食べ物、道具、それらはすべて文化的人工物です。
今日まで、すべての文化的人工物は人間の心の産物でした。地球上の他の何ものもこれらのものを作り出すことはできませんでした。今、AIがこれをすることができ、そして物語や歌、テレビシリーズ、ファッションの新しいトレンド、新しい道具を作り出すことにおいて、今後数年でますます優れるようになるでしょう。
一方では私たちの進化的プログラミングによって制限されず、他方では恐らく他のどの人間よりも優れた方法で私たちの感情的なボタンを押す方法を知っている非人間的知性によって織られた繭の中で生きることはどういう意味を持つのでしょうか。しかし今やAIは物語を作ることができ、おそらく私たちには作れない物語を作ることができ、これまでに可能ではなかった方法で私たちを理解し、その結果として操作することができます。」
「そうですね。今では大規模な偽りの親密さを作り出すことが可能になり、それは歴史上前例のないことです。歴史を通じて大きな宣伝機械を見ると、ナチスの宣伝を考えてみましょう。彼らはすべてのドイツ人にラジオでヒトラーのスピーチを聞かせることができました。しかし、これは親密な関係ではありませんでした。
彼らは注目を管理することはできましたが、親密さは管理できませんでした。過去10年間のソーシャルメディアで起こったことを見ても、注目の戦いがありました。フェイスブックとティックトック、ユーチューブなどの間の大きな戦いは、注目を集めるための戦いでした。どうやってあなたの注目を引くかという戦いです。今、戦線は注目から親密さへと移行しています。
それはただあなたの注目を引くことだけではなく、大規模な親密さを作ることです。何百万、何億もの人々を非常に深く親密なレベルで知り、関係を築くボットの軍隊を持つようなものです。あなたはオンラインで友達がいて、何週間も何ヶ月も話し合っています。彼らはあなたについて非常に多くのことを知っています。
あなたは多くのことを共有します。あなたはそれが人間だと思っています。あなたは彼らがあなたについて何を考えるか気にしています。あなたは政治やその他について彼らの意見に影響されます。そしてそれはボットなのです。以前は、これは科学フィクションのようなものでした。誰もそれを大規模にすることはできませんでした。類似のケースを取ると、AIの革命の大きな瞬間の一つは、AlphaGoが2016年に碁のゲームでリー・セドルを倒したときでした。
碁は、チェスのようなボードゲームですが、チェスよりもはるかに複雑で、古代中国で約3000年前に発明されました。そして3000年間、数千万の人々が東アジア全体、また韓国や日本でも碁をプレイしてきました。それは教養のある人が知るべき芸術の一つとみなされていました。
そして碁をプレイする方法についての考え方、哲学、戦略の学派全体がありました。それはまた、人生をどう生きるかの鏡や隠喩としても見られていました。そしてAlphaGoが現れ、数週間で自分自身に教えました。人間はAlphaGoに戦略を教えなかったのです。それは単に自分で碁の打ち方を学んだのです。
そしてそれはリー・セドルと世界チャンピオンの一人を打ち負かしました。しかし驚くべきことは、それがどのような種類の戦略や手を打ったかでした。たしか2回目の対戦で、37手目だったと思いますが、そのときに打った手に対して、すべての専門家たちが「これはばかげている。間違いを犯したに違いない」と言いました。
間違いを犯したに違いないと。そして後になって、それが碁の歴史上最も素晴らしい手の一つであることが判明しました。そして私たちが気づいたのは、3000年間、私たちの有機的な脳の限界のために、私たちはある種の、もし碁をプレイするすべての方法の空間について考えるならば…
私たちは島にいて、島から出ることができませんでした。なぜなら私たちの脳は根本的に異質な方法で、異なる方法で考えることができなかったからです。だから3000年間、人間はこの碁を打つ島に閉じ込められ、この方法でしかプレイできませんでした。そしてAlphaGoが来て、「ここでもプレイできる、あそこでもプレイできる」と言うのです。
「ああ、これは碁だ。それほど重要ではない」と言えるかもしれません。しかし、これはますます多くの分野で起こるでしょう。音楽、テキストの作成、政治、宗教において。私たちが数千年かけて探索してきた小さな島、文化的な島の外側のますます多くの領域を探索するようになるでしょう。
もちろん、それには良い結果もあるでしょう。碁のプレイ方法や音楽の新しい方法があるのは良いことです。しかし、それは基本的に異星の文化、AIという頭字語は通常「人工知能」を表しますが、私は「異星知能」を表していると考えた方が良いと思います。
なぜならAIはますます人工的でなくなっているからです。人工的なものとは何かを考えると、それは私たちが作成し、制御するものです。それは私たちが考え、行うように指示したことだけを行います。AIは年を追うごとに人工的でなくなっています。はい、私たちはある種のコードを書き、赤ちゃんAIを設計しますが、それは人間の赤ちゃんのようなものです。
彼らが成長すると、彼らは世界を探索し、親が教えなかったことを学び、最終的には反抗します。」「そして最終的には反抗します。そうです。私たちは今、私たちが教えなかったことを学ぶこれらの種類の異星知性を作り出しています。そして私たちはこれらのことについて考えることさえできません。それは世界を見る異星の方法であり、彼らはますます世界を形成するようになるでしょう。」
「私たちはMITのロボティクスチームに行き、彼らは小さな犬のようなロボットを持っていました。どこでも走ることができました。そして彼らは「押し倒してください」と言いました。私はそうしました。するとそれは自分自身を振り払い、再び足を取り戻しました。私は「どうやってそれをするのですか？」と聞きました。彼らは「私たちにはわかりません。私たちはただAIを訓練し、シミュレーションでそれを理解し、今やそれがどのようにそれをするのか私たちにはわかりません」と言いました。
そしてそれはロボティクスチームに会ったかどうかにかかわらず、どこに行っても繰り返されるテーマでした。彼らは「私たちはそれがどのようにそれをするのかわかりません。それは自分自身で学びました」と言います。これは本当に再び親と赤ちゃんのようなものです。つまり、はい、あなたは最初にそれをある方法で作成しましたが、その後、それはあなたがどのようにこれをすることやそれについて考えることを学んだのかわからないようなことをするのです。
また、こんなことを言う人もいます。「ああ、それは本当に創造的ではない。それは新しいアイデアを思いつくのではなく、ただ私たちのアイデアを取り入れて組み合わせているだけだ」と。例えばChatGPTがテキストを書くとき、それは人間がどのようにテキストを書くかを学び、異なる要素を組み合わせているだけです。しかし、これは私が著者として行っていることです。」
「そうですね。私は他の人のテキストを読むことによって言語を学びました。私はあらゆる種類の文学的トリックやアイデア、例をツキジデスやシェイクスピアなどを読むことで学びました。そして今、私はそれらを組み合わせて新しいテキストを作成しています。そして人々は私が創造的だと言います。だから、もし私が創造的なら、ChatGPTが同じことをするとき、それもまた創造的です。
金融について考えてみてください。人々が創造性について考えるとき、彼らは芸術や音楽について考えますが、金融もまた人間の創造性の分野です。お金や債券、すべてのこれらの金融商品は人間の創造物です。そして今、AIが新しい金融商品を作り始め、世界での取引がますますAIによって行われるようになり、人間のトレーダーではなくなっているとすれば、どうなるでしょうか。
そして彼らが新しい金融商品や新しい金融戦略を思いつき始め、誰もそれを理解できないとしたら。人間が金融システムの制御を失い、AIが作成した金融商品をもはや理解できなくなったとき、人間の政治はどうなるのでしょうか？2008年に世界経済がこれらの会社によって崖っぷちに追いやられたときに何が起こったかを見ました。」
「そうですね。それは人間によって作られました。」
「オンラインにはあなたのインタビューがたくさんあり、私のインタビューもいくつかあります。また私たちは撮影される前に議論をしました。視聴者はどうやって今日話しているのが本当にあなたと私だとわかるのでしょうか？」
「今日彼らにはわかりません。ご存知のように、2年前にオスロで会ったとき、彼らはそれが本物の人々であることを確信できました。なぜならAIはビデオを偽造したり、そのようなレベルでコンテンツを偽造するほど洗練されていなかったからです。
しかし今、あるいは1年か2年後には、ビデオを見るだけでこれが本物の人物なのか、それともAIの創造物なのかを知ることは不可能になるでしょう。金融について話したのと同じように、何千年もの間、人々はお金を偽造することができました。
だから国家は偽造に対して非常に厳しい法律を持っていました。なぜなら明らかに、それに対して厳しい法律がなければ、偽物のお金が本物のお金を駆逐し、金融システムが崩壊するからです。今は偽の人々についても同じです。歴史上初めて、偽の人々を作ることが技術的に可能になりました。
だから、それに対して非常に厳しい規制が必要です。さもなければ社会システムは崩壊するでしょう。人間と話しているのかAIと話しているのかもう信じられなくなると、信頼が蒸発し、信頼がなければ社会は存在しません。それはとても強力なことです。画面上で見えるもの、それが写真や映像や音声であっても、絵画を信じることができないのと同じように信じることができないのです。」
「そうですね。例えば、テキストを読んで、引用符が付いているのを見て、「バイデン大統領は」引用符、「ブラブラブラ」と言ったとします。誰もが引用符があるからといって、バイデンが実際にそれを言ったことが証明されるわけではないことを知っています。私は何らかの機関や権威、信頼できる新聞のようなものがそれを裏付け、「はい、これは正確な引用です」と言うことが必要です。
ニューヨーク・タイムズで読んで、引用符の中で「バイデンは何々と言った」とあれば、あなたはそれを信じます。なぜならあなたはニューヨーク・タイムズを信頼しているからです。しかし、ブログで読むだけなら、誰でもそれを偽造できることを知っています。今やビデオは引用符のようなものになっています。ビデオで見るだけでは、それが本物だという意味ではありません。
問題は、その承認の印を与える機関や権威は何かということです。しかし、社会はこれに準備ができていますか？私たちには選択肢がありません。これにはたくさんのリスクが伴いますが、ブレーキをかけることができますが、実際にはできません。AIの開発を止める方法はありません。なぜなら、それが私たちにもたらすことができる素晴らしいこともたくさんあるからです。
それは歴史上最高の医療システムを提供することができます。気候変動の解決を助けることができます。多くのことができます。そして私たちが「いいえ、それは危険すぎる」と決めたとしても、軍拡競争があります。もし一つの国がAIの開発をすべて停止することを決めても、他の国々が進んでいくなら、何も達成できていません。
そして今の世界の状態、国際的な緊張の高まりなどを考えると、AIの開発を効果的に停止または大幅に遅らせることについての何らかの世界的な合意が見られるとは思えません。はい、大きな危険があります。」
「では、印刷機や電話などのすべての技術革新について聞いたことがあるのと同じように、これは単なる恐怖を煽るものだと言う人々に何と言いますか？」
「人々は怖がる権利がありました。なぜなら以前の技術でも災害があったからです。近代初期のヨーロッパでの印刷革命を見てください。人々は「ああ、印刷機が科学革命をもたらした」と言います。いいえ、ほとんどの人はガリレオを読みませんでした。それがもたらしたのは宗教戦争であり、大きな魔女狩りでした。
近代初期のヨーロッパの最大のベストセラーはスコープスやガリレオではなく、魔女狩りでした。そしてラジオや19世紀と20世紀の技術についても同じです。はい、それらはヒトラーやスターリンなどの人々によって恐ろしい用途に使われました。人々は「はい、問題はありました。結局、私たちはそれを正しく理解しました」と言います。
歴史家として、私の関心はそこにたどり着くまでのプロセスにあります。常に最初の世代がすべての新しい技術の代償を払うのです。そして私たちがAIや脳コンピュータインターフェースで同じような失敗した実験をしなければならないとすれば、その結果は破滅的である可能性があります。
19世紀に人々が産業革命について持っていた警告について考えてみてください。彼らはかなりの程度正しかったのです。はい。私たちは今日から振り返り、産業革命に感謝しています。私たちは今、18世紀よりもはるかに良い生活を送っています。そしてそれは真実です。
しかし、私たちは良い産業社会を構築する方法を学ぶために、人々がいくつかの恐ろしい実験を経なければならなかったことを忘れています。例えば、共産主義の独裁政権を考えてください。それらは産業社会を構築する実験でした。多くの人々はこれがすべての列車や電気、ラジオを利用する最良の方法だと考えました。
スターリンは正しいと。そして数千万の犠牲者の後にようやく、これが理想的な方法ではないことが明らかになりました。そしてヨーロッパの帝国主義についても同じです。人々は、前産業時代の農耕社会では、帝国を建設する必要はないと言いました。なぜなら大部分が自給自足だからです。
しかし今や産業があり、機能する産業社会を構築するためには、原材料、石炭、鉄、ゴムを管理しなければならず、市場も管理しなければなりません。したがって、唯一の実行可能な産業社会は帝国です。そしてこのアイデアはイギリス、フランス、ベルギー、ロシア、日本、アメリカの多くの人々に受け入れられました。
そしてあなたはこの世界を征服するための急速な動き、帝国を構築するのを見ました。私たちは今振り返り、「ああ、これは間違いだった。それは大規模な死と破壊と搾取を引き起こしただけでなく、単に間違っていた。帝国は必要ない。帝国なしでも完全に良い産業社会を構築することができる」と言います。
だから今AIで同じプロセスを経なければならないとすれば、人々は「このAI社会を構築する唯一の方法は、強力な全体主義的コントロールが必要だ」と言い、これが間違っていることが判明するまで何十年もの全体主義を経なければならないとすれば、その結果は破滅的である可能性があります。そしてテクノロジー産業は、あなたがテクノロジーと進歩に賛成か反対かというナラティブをとても上手に提示してきました。
あなたはルッダイトで、ブレーキをかけたいのだ、と。しかし私はそれは間違ったナラティブだと思います。問題はあなたがテクノロジーに賛成か反対かではなく、テクノロジーがユーザーに賛成か反対かです。」
「まさにその通りです。あなたのように明確に危険性を提示し始める人々は、ルッダイトやブレーキと非難されることがあります。私自身もそのように非難されてきました。私はこれらのテクノロジーの開発を止めるべきだと言っているわけではありません。部分的には不可能だと思うからであり、部分的にはそれらには非常にポジティブな可能性があると思うからです。私はただ、特定のテクノロジーを開発しなければならないという技術的決定論を信じるべきではないと言っているだけです。私たちには常に選択肢があります。
もしあなたがエンジニアで、例えば新しい監視ツールに取り組んでいるとしたら、あなたは政府や企業が市民や顧客を監視するのを助ける新しいツールを作ることもできますし、その反対のツールを作ることもできます。テクノロジーはあなたに特定のツールを作れとは言いません。それはあなたの選択です。
個人的には、これらの新しいテクノロジーから多くの恩恵を受けています。例えば、私は22、23年前にオンラインで夫に出会いました。2000年代初頭のLGBTQ向けの最初のチャットルームの一つでした。これは素晴らしいことでした。なぜなら、ゲイとして成長することについての一つのことは、これが非常に分散したコミュニティだからです。
歴史上の多くのマイノリティは、少なくとも同じコミュニティに属する家族、コミュニティ、近所に生まれるという利点がありました。例えば、中世や100年前にスウェーデンやドイツなどでユダヤ人として生まれたとします。
そう、人口の1％だけですが、少なくともあなたの家族、友人、隣人はユダヤ人である可能性が高いです。多くのユダヤ人を知っています。しかし、ゲイとして生まれると、通常はゲイの家族、ゲイの近所に生まれるわけではありません。だから、他のゲイの男性を知ることは非常に大きな困難でした。特に1980年代と1990年代のイスラエルの当時非常に同性愛嫌悪の社会では。
そしてインターネットが登場し、これらのオンラインコミュニティがすべて現れ、突然お互いを見つけることがはるかに簡単になりました。これは素晴らしいことでした。そして私はこのテクノロジーを作成したエンジニアや起業家に感謝しています。だから、それはすべて悪いわけではありません。
私は危険なシナリオについてより多く話す傾向があります。その一部は、起業家が常にポジティブなシナリオについて話しているからです。ポジティブな側面について話す人々に不足はありません。だから、誰かがそれのバランスを取る必要があります。」
「あなたはこれらのトピックについて多く考えていますが、AIの否定的な結果からどのように自分自身を守りますか？」
「主に二つのことがあります。一つは自分自身の心をできるだけよく知ることです。なぜなら、これらすべての操作は、私たち自身の弱点を知り、利用することで機能するからです。そして自分自身を知り、自分自身の弱点を知る努力をすれば、これらの操作に対してある程度の保護を得ることができます。本の中で最も古いアドバイス、自分自身をより良く知ることです。
二つ目は、ある種の情報ダイエットを続けることです。多くの人々が食事ダイエットをしています。彼らは何を食べるかについて非常に注意深いです。それは重要です。あまり食べ過ぎたくありません、それはあなたにとって良くありません。ジャンクフードを食べたくありません、それはあなたにとって良くありません。情報も同じです。
情報は心の食べ物です。より多くの情報が常にあなたにとって良いという考えは馬鹿げています。それはより多くの食べ物が常にあなたにとって良いと考えるようなものです。真実ではありません。同様に、あなたはどのような種類の情報をあなたの心に入れるかについて非常に注意深くなければなりません。
もしあなたが自分の心を常に怒りや恐怖、憤慨で満たしていれば、あなたは病んだ心を手に入れるでしょう。だから、あなたは非常に注意深くなければなりません。また、食べ物と同様に、消化する時間が必要です。これ以上情報を取り入れない時間、「今はもういい、消化する必要がある」と言う時間です。」
「あなたは毎日数時間休みを取りますか？」
「数時間です。時には数日です。毎年、私は長い瞑想リトリートに行きます。1ヶ月か2ヶ月間、完全に切断します。メールもなく、本さえもなく、電話もなく、何もありません。もちろん、ほとんどの人にとってこれは本当に極端だということを知っています。しかし、私は誰にでも週に一日、または数日、または月に一度、完全に切断することをお勧めします。
瞑想する必要はありません。森の中でハイキングに行ったり、あなたにとって効果的なことをしたりすることができます。しかし、これ以上情報を取り入れないでください。あなたの心に一種の消化や解毒、新しいバランスを見つけさせてください。」
コメント