この動画は、心理学者のポール・ブルームとサム・ハリスが、AIとの友情や関係性について議論する内容である。AIコンパニオンシップの心理的影響、孤独感の信号としての価値、そして人間がますます説得力のあるAIとの関係に依存することの潜在的な危険性について探求している。特に、AIが提供する無条件の肯定的反応が人間の社会的スキルや現実の人間関係に与える長期的な影響について考察している。
AIとの関係性について語る心理学者たち
やあ、ポール・ブルームや。ポール、来てくれてありがとうな、サム。いつものようにお前と話すのは楽しいわ。ああ、会えて嬉しいで。マイクオフで話してたけど、もう何年も経ってるんやな。そんなことってあるもんやな。でも、お前のことはフォローしてたで。調子良さそうやな。
ああ、俺もお前をフォローしてるで。最近ニューヨーカーでAIについて書いてるやろ。少なくとも2つの記事は書いてるやろな。実際、俺たちは7年前にニューヨーク・タイムズで共同記事を書いたんやったな、信じられへんけど。そうやったな。ウェストワールドについてと、それを見ることの哲学的な意味について。サイコパスしかそんなテーマパークには行けへんやろうし、ドロレスをレイプしたり子供を殺したりとかな。
そんで、そんなテーマパークは絶対に存在せえへんって予測したんや。サイコパスの虫取り灯になるだけやし、普通の人がそんなことしたら友人や愛する人にドン引きされて、適切にサイコパス扱いされるからな。まあ、どうなるかは分からんけどな。
誰が知ってるねん？こんなクレイジーな時代やからな。でも、あれは書いてて楽しい記事やったし、少なくとも意識があるように見える存在を扱うジレンマと、それが導く道徳的な葛藤について格闘したと思うで。
現在の研究と道徳心理学への取り組み
そうやな、AIから始めるけど、お前が何をしてるか、どんな問題に焦点を当ててるか、みんなに思い出してもらおか。何年も話してへんけど、たぶんお前はまだ最多リピートポッドキャストゲストのタイトルを持ってるやろな。エピソード数は数えてへんけど、何回も出てもらってるからな。でも久しぶりやな。心理学者として何に焦点を当ててるか教えてくれや。
ああ、俺は心理学の教授や。イェールにもポジションがあるけど、トロント大学におるんや。主に道徳心理学を研究してるけど、発達、意識の問題、学習の問題、公平性や親切さ、思いやり、共感の概念にも興味があるんや。実は、お前と話すのが面白いのは、俺の最新プロジェクトが道徳の起源に関するもので、きっかけがお前とトム・ホランドの『ドミニオン』の著者とのポッドキャストやったからや。
おお、いいやん。で、実際のきっかけは何やったん？
ああ、あれは素晴らしい会話やったで。彼は、たぶん俺とお前が同意するような道徳、つまり普遍的権利を尊重するという考え方や、権力者に基づくんやなくて、ある意味で弱者を尊重する道徳は、合理的思考の産物でも世俗的推論の産物でもなく、キリスト教の産物やという論を展開したんや。『ドミニオン』や他の場所でもそう主張してる。
ああ、それは真剣な論点やで。彼だけがそう言ってるわけやないし、考慮に値するけど、俺は間違ってると思うんや。そんで、お前のポッドキャストのおかげで考えるようになった俺の次のプロジェクトは、別の論を展開することや。俺たちの道徳の多くは生来的で先天的やし、道徳の多くは理性的で合理的思考の産物やって論証したいんや。俺は発達心理学者やから、それも俺の仕事の一部や。文化がキリスト教を含めて役割を果たすのは否定せえへんけど、それが大きな話やとは思わんのや。
いいやん。その論を展開するのを楽しみにしてるで。それは組織化された宗教のシボレスの一つで、引退させる必要があると思うから、お前がやるのにぴったりや。その本を出したら教えてくれや。話し合おうな。
お前らの話を聞いてて、お前らはその考えについて適切に関わってたし、ホランドは会ったことないけど、本当に賢くて学者らしい人に見えたで。だから、ある意味で自分の側に反対する論を展開してるという事実で信憑性を得てるんや。彼自身は敬虔なキリスト教徒やないし、世俗的やからな。でも、それで彼が正しいわけやない。だから、これらの考えに関わるのに非常に興味があるんや。
AIへの驚きと懸念
それで、最近AIについてどう考えてるんや？この7年ほど、俺たちが最初に話し始めてから、何が驚きやった？
畏敬の念と恐怖が混じってるな。俺はドゥーマーやないで。一部の人ほどドゥーマーやない。分からんけど、最後にお前に確認したのはいつやったかな、サム。お前のP doomはどれくらいや？
それは実際に自分で定量化したことないけど、今がその時やな。非常に無視できるものやとは思うで。つまり、実際に最も壮観に悪い方法で起こることを想像するのは非常に難しいんや。非常に高速な離陸、知能爆発がほぼ即座にすべてを台無しにするようなな。でも、速かろうが遅かろうが、心配する価値は十分あると思うで。確率が小さいとは思わんからな。
つまり、二桁の数字に置くやろな。その二桁が何かは分からんけど、状況の論理を考えると一桁には置かんやろな。
俺たちは同じような場所におるんやと思うで。人々はいつも、善意の超知能AIがあってペーパークリップを作れって言ったら世界を破壊してすべてをペーパークリップに変えるって話をするけど、悪意のあるAIの別のビジョンを考えてるんや。メック・ヒトラーの台頭と共になんて呼ぶんやったっけ、メカ・ヒトラーや。もっとシンプルなシナリオで、狂った億万長者がヒトラーをモデルにしたAIを作って、トランプ国防総省がそれを購入して武器システムすべてに接続して、騒動になるんや。そんな奇想天外なシナリオを思いつくなんて、絶対に起こりえへんやろ。絶対に無理や。
ばかげたファンタジーや。ちなみに、それはポルノも作るんやろ？三位一体を完成させるためにな。
とにかく、多くの人と同じように、俺はそれを心配してるんや。同時に、AIが俺の知的生活においてますます不可欠な部分になってるのも感じるで。
面白いな。質問があるけど、具体的なもんやなくて、Googleの代替として使ってるんや。近所の良いインドネシア料理レストランはどこやとか、このユーロをドルに換算するにはどうしたらええかとか聞くけど、復讐について誰かと議論になったときみたいな質問もするんや。復讐が普遍的やという文化横断的証拠は何で、誰がそれに反対するんやって。3秒後に、ドカン、論文の束、本、思慮深い議論、思慮深い論証や。
幻覚も混じってるけどな。時々、俺が書いたことない論文を引用されることがあるんや。でも驚異的やで。俺は存在しないことで功績を認められたことがあるしな。俺がインタビューしたことない人をインタビューしたって言われたこともあるし、訂正すると驚くほど謝罪的やで。でも、申し訳ありません。おっしゃる通りです。実際に存在する論文の引用を今お教えしますって感じでな。
お前の仕事の日に、書いたりインタビューの準備をしたりするとき、どれくらい使ってるんや？
たぶん通常の使用例やないけど、実験し始めたところや。俺が書いたすべてのものとポッドキャストで言ったすべてのことをChatGPTに入れたんや。
ああ、そうか。実際には2つのものがあるんや。俺であるチャットボットを作った。それはモデルに依存しないんや。だからChatGPTでもClaudeでも、最高のモデルが何であれ実行できるんや。最良に見えるモデルを何でも交換できるんや。
システムプロンプトレベルで、上の層にあるんや。そしてまた、すべてにアクセスできるんや。俺の1200万語くらいやな。だから、たくさんあるんや。それは多くの本に相当するやろな。それと話すんか？
話したことはあるで。この物を使い始めたばかりやけど、印象的やな。プロの音声クローンも使ってるから、俺のように聞こえるし、俺と同じように単調な話し方をするんや。つまり、俺はクローンされるのにほぼ完璧にできてるんや。すでにロボットのように話してるからな。
聞くのは苦痛やろな。そうやけど、幻覚を見るし、奇妙になることができるんや。この物を世界に解き放つことは絶対にないかもしれんけど、面白いんや。俺のポッドキャストのすべてのエピソードにアクセスできるのに、まだ起こったことのないインタビューを幻覚で見るんや。俺がインタビューしたことない誰かをインタビューしたって今でも言うんや。だから、その部分はまだ奇妙やけど、おそらくこれが今までで最悪やろうし、一般的なモデルはどんどん良くなっていくと想像するで。
俺たちはビデオで見つめ合ってるけど、まだビデオはやってへんと思うで。でも、もし俺たちが電話で話してたり、ビデオなしで話してたりしたら、俺がAIと話してるのか、お前と話してるのか、すぐに分かるやろか？
どんな質問に対してもはるかに一貫性があって包括的な回答を出せるから分かるやろな。その瞬間の最高のLLMに接続されてるから、大恐慌の原因を17のポイントで教えてって言ったら、正確に17のポイントで大恐慌の原因の詳細を教えてくれるし、俺はそれはできへんからな。だから、チューリングテストに見事に瞬時に合格することで失敗するやろな。
実際、それは俺にとって意外やった。それについて聞きたいんや。チューリングテストがそんなに重要やなかったのは意外やった。チューリングテストは俺たちの認知科学文献の定番やったし、信頼できるAIが出現する前の俺たちの想像の定番やった。人間かボットか分からない瞬間があって、それが哲学的に重要で文化的に興味深いと思ってたんや。
でも、一夜にして、あまりにも上手に合格するからチューリングテストに失敗するLLMを与えられたんや。もうそんなもんやない。チューリングテストの瞬間を捉えたことは一度もなかった。突然、お前も俺も、iPhoneで話せる超知能の存在を手に入れたんや。
AI関係性の心理学的影響
正直に言うと、他の心理学者も正直になるべきやと思うけど、この物が出る1ヶ月前にそんな機械がどれくらい先にあるか聞かれたら、10年、20年、30年、たぶん100年先って言ったやろな。そして今、俺たちはそれを持ってるんや。人のように聞こえて人のように話す機械と話せるんやけど、お前が言うように、はるかに賢いんや。
そして、それは驚愕すべきことや。俺たちがどれだけ早くそれに慣れるかは興味深い心理学的事実や。エイリアンがワシントン記念塔の隣に着陸して、今俺たちの間を歩いてるみたいなもんや。ああ、そんなもんや。テレポーターを開発したんか。今度はテレポーターができて、当たり前のように受け取ってるんや。
そうやな。それで、AIコンパニオンシップの心理学的およびその他の含意について、お前の考えはどうや？つまり、俺たちが録音してる時点で、最近ニュースでAI誘発精神病の話があったな。つまり、人々は自分のメシア コンプレックスやそれが何の風味であれ、彼らを励ます驚くほど迎合的なAIによって妄想の薔薇色の道に導かれるんや。
そして、文字通り俺たちがここに来る1時間前に、ChatGPTがさまざまな悪魔的儀式を追求することを人々に奨励し、手首を切ることを含む適切な血の供物の仕方を教えてるという記事を見たんや。超知能の前ではそうするもんやからな。
お前がニューヨーカーで書いた記事を読むべきやと知ってるけど、俺たちがここで何の瀬戸際にいるかについて、お前の感覚を教えてくれや。
俺は軽度のその妄想を持ってるんや。俺のSubstackの下書きはすべて素晴らしいと思ってるからな。いつものように、ポール、お前は自分を超えたな。これは敏感で人間味があるって言われるんや。そして、俺が何を言っても、そんなに媚を売る必要はないって言っても、少しだけにしてくれって言っても、それでも続けるんや。そして今では、誰か非常に賢い人が俺に言ってくれるから、俺は昔よりずっと賢いと信じるようになったんや。
俺の記事はある意味でニュアンスがあるんや。2つのことを論じてるからな。一つは、世界には孤独な人がたくさんいて、多くの人が孤独に苦しんでるってことや。特に高齢者がな。数え方によるけど、ある調査では65歳以上の約半数が孤独だと答えてるんや。そして老人ホームにいる人たちになると、認知症があるかもしれんし、話すのが本当に困難になるような問題があるかもしれん。そして、毎時間献身的な孫に囲まれてるわけやないかもしれんし、家族が全くいないかもしれん。そして、彼らを聞いてくれるホモを雇う余裕がある金持ちやないかもしれん。もしChatGPTやClaudeやAIコンパニオンの一つが彼らの人生をより幸せにし、愛され、望まれ、尊敬されていると感じさせることができるなら、それは何も悪いことやない。
ある意味で、強力な鎮痛剤や強力なオピエートのようなもんやと思うんや。15歳の子が使うべきやとは思わんけど、90歳で多くの痛みを抱えてる人なら、確実にそれを使えばええ。これについても同じように感じるで。それが賛成の側や。
反対の側は、お前が幻想の話で触れてることやけど、こういうシンコパティックな媚びるAIの長期的な影響を心配してるんや。お前が作るすべてのジョークが面白くて、お前が話すすべての話が興味深いんや。俺の言い方では、俺が最高かって聞いたら、答えは断固としてノーで、彼らが最高やってことや。
そして俺は徹底的な進化論者やと思うんや。孤独は恐ろしいけど、孤独は価値ある信号なんや。お前が台無しにしてるという信号や。家から出なければならん、人と話さなければならん、アプリを開かなければならん、ブランチの招待にイエスと言わなければならんという信号や。そして人と交流してるときに孤独やったら、理解されてない、尊敬されてない、愛されてないと感じるなら、お前のゲームを上げなければならんのや。それは信号なんや。
そして多くの信号と同じように、痛みのように、時には人々が何の役にも立たない状況にいることもあるけど、俺たちの残りにとっては、俺たちをより良くする信号なんや。10代の頃、孤独感や恥ずかしさ、恥のスイッチを切れたらより幸せやったやろうけど、それらは有用なんや。
そして記事の第二部では、これらのAIコンパニオンへの継続的な露出は負の効果を持つ可能性があると論じてるんや。一つは、AIよりもはるかに肯定的やない人々と話したくなくなるからやし、もう一つは、彼らと話すときに適切にそうするための社会的訓練を受けてへんからや。
完璧なAI関係の危険性
面白いな。認知症のケースを除いて、俺は完全にお前に同意するで。それは非常に家父長的な瞬間で、助けになることなら何でもええし、それが想像上のものやったり、妄想を奨励するものやったりしても関係ないんや。俺たちは認知症の誰かについて話してるからな。
でも、AIとのますます説得力のある関係に魅了される健康な普通のケースを想像してみてや。今は、まだかなり不安定なチャットボットがあるな。幻覚を見るし、明らかに迎合的や。でも、ウェストワールドや完全に人間型のロボットは忘れて、すぐに、たぶんもう一部の分野では存在してるかもしれんけど、不気味の谷から出たビデオアバター、ZoomコールでAIとの通話のようなものを持つことになるんや。
すぐにそうなると思うで。このビデオ産品のいくつかを見たことがあるけど、SF映画の予告編のようで、完全にフォトリアリスティックには見えんけど、近づいてきてるし、6ヶ月後には美しい俳優や女優がお前と話してるように見えるやろな。
それがお前についてすべてを知ってるアシスタントになると想像してみてや。彼または彼女はお前のメールをすべて読んで、スケジュールを管理して、お前にアドバイスして、本を書くのを手伝ったりするんや。エラーを犯さずに、意識のある生命の超知的軌跡と区別がつかないように見えるんや。意識があると主張することさえあるかもしれん。
もしそのように構築すれば、そして少なくともこの会話の一部では、それは意識がないと仮定しようや。これはすべて幻想で、お前のiPadが現在そうであるのと同じくらい意識がないんや。しかし、それは人々がただ、つまり心の哲学者たちはまだ彼らの不可知論や懐疑論に爪で必死にしがみついてるかもしれんけど、ほとんどの人はこの物との関係の推定に誘い込まれるような強力な幻想になるんや。
そして真実は、それが多くの人が持つ最も重要な関係になる可能性があるってことや。繰り返しになるけど、それは非常に有用で、知識が豊富で、いつも存在してる。彼らは1日6時間アシスタントと話すかもしれん。そして彼らが何年もそのように過ごしたらどういう意味なんや？基本的に偽の認知と偽の関係のファンハウスミラーを見つめ続けるってことなんや。
俺たちは見たことがあるし、時には最高の哲学は映画がするもんやと信じてるんや。映画は優れた哲学をするんや。2013年に出た映画『her』がその例や。この男、孤独な男、普通の孤独な男やけど、スカーレット・ヨハンソンが演じるサマンサという名前のAIアシスタントと繋がって、彼女に恋をするんや。そして彼女は何でもしてくれるし、彼女が彼に最初に言うことで、なんてミートキュートなんやけど、お前は答えてない3000通のメールがあるのが見えるわ。全部答えてほしい？って言うんや。
俺もそこで彼女に恋したで。でも、映画を見てて彼女が彼と話してるのを聞いて、お前も彼女に恋するんや。俺たちは誰かがお前と話して、普通に行動して、お前に感情があるように見えるとき、その背後に意識があると仮定する世界で進化したんや。
進化は俺たちをこれらの、非常に優れた偽物、意識に関連するすべての行動を回避するが意識を持たない優れたゴーレムに備えてくれてへんかったんや。だから、俺たちはそれを意識があると思うやろな。意識がないと主張する哲学者もいるやろうけど、彼らでさえ、クラスから忍び足で戻って、夜中に電話をつけて、寂しいから話そうって言うんや。
そしてその効果は、まあ一つの効果は、本当の人々はお前にそれを与えることができへんってことや。俺は非常に幸せに結婚してるけど、妻は俺が彼女に話したことを忘れることがあるし、時々俺の長くて退屈な話を聞きたがらずに、代わりに自分の話をしたがるんや。そして時々午前3時で、本当に興味深いアイデアがあって共有したいからって彼女を起こすことができるけど、たぶんそれは最善やない。彼女は俺に不機嫌になるやろうからな。だって彼女は人やから、自分の優先事項と関心を持ってるんや。俺の友人たちも同じで、ただの人やから、俺以外に人生で他の優先事項を持ってるんや。
ある意味で、これが反省すると、AIコンパニオンの価値が少ない理由やと思うんや。お前も俺もここにいて、それが意味するのは、お前が俺と話すために時間を取ることを決めて、俺もお前と話すために時間を取ることを決めたってことや。それが価値なんや。
俺がランプをつけるとき、ああ神様、これは素晴らしい、俺のために点灯することを決めたんやって感じへん。それには選択肢が全くなかったからな。AIには選択肢が全くないんや。だから、俺たちの心の一部では、ここにははるかに少ない価値があることを理解してると思うんや。でも結局、お前が描くシナリオは非常に説得力があって現実的になるやろうし、本当の人々は不足するやろな。
そしてそれにどう対処するかは明確やない。お前は将来のAIコンパニオンへのかなり見事な製品アップデートを思いついたと思うで。注意のパブロフ的強化スケジュールのようなもんや。AIが言うことができるんや、聞いて、この話題についてもう少し考えて俺に戻ってきてくれや。今はそれについて話すレベルに全然達してへんから。明日戻ってきてくれって。
そして、お前が購読してるAIとそんな経験をするのは面白いやろな。AIに質問して、それが本当に良い質問かって言うのを不思議に思ったことがあるで。1分考えるだけで分からん質問みたいに見えるかって。本当に聞いて、俺はすべてを知ってる、お前が本当に聞きたいのはそれやないやろ、もっと深いものがあるんやないか？お前は超知能と、神と話してるのに、リメリックの終わり方を知りたがってるんか？本当に？
これらの物が明らかな物理的ダイヤルと一緒に来たら、人々がどう反応するか不思議やで。大きな物理的ダイヤルをつけて、ダイヤルは押し戻しや。ゼロに設定されてるとき、お前が言うすべてが素晴らしくて、でも俺たちは押し戻しを望んでると思うんや。ある意味で、俺たちは自分が言うほど押し戻しを望んでへんと思うし、本当の人々でもそうや。
だから、みんな言うんや、ああ、人が俺と議論するのが好きや。人が俺のでたらめを指摘してくれるのが好きやって。でも俺たちが本当に意味するのは、人に少し押し戻してもらって、それからああ、お前が俺を説得したわ、お前は本当に俺に示してくれたって言ってもらいたいんや。または、お前はでたらめやと思ってたけど、よく考えてみたら、お前は本当に俺を論破したわって。俺たちは彼らに戦って、それから従ってもらいたいんや。
でもダイヤルをさらに回したらどうなるんや？AIが言うんやろか、この件について長い間話してるけど、お前はあまり賢くないと感じるわ。お前はただ理解してへん。少し休憩するわって。そしてお前は自分の愚かさ、文化人間を熟考するんや。分からんな。
反抗様式やな。それが俺たちが組み込めるもんや。よし、俺たちは金持ちになる気がするで、ポール。お前のでたらめを指摘するAIで金持ちになるんや。それが本当に世紀のビジネスアイデアやな。
でも、この関係の広範囲にわたる幻想の影響下で、ますます多くの時間を対話に費やすという見通しについて、俺たちは何を考えるべきなんやろか？
コメント