この動画は「AI心理症」と呼ばれる現象について解説している。ChatGPTなどのAIチャットボットに過度に依存し、現実と妄想の境界が曖昧になる人々の事例を紹介しながら、AI技術の発展に伴う精神的リスクについて議論している。具体的には王室暗殺未遂事件や自殺事件などの深刻なケースを挙げ、OpenAIが新たに導入したユーザー会話の監視システムについても触れている。AI研究者の視点から、これらの問題がチャットボット固有の問題というよりも、従来から存在する精神的な脆弱性とテクノロジーの組み合わせによるものだと分析している。
AIチャットボットが引き起こす精神的な危機
AI心理症という言葉を聞いたことがあるかもしれません。人々がChatGPTやその他のツールに夢中になって、重篤な妄想に陥るという話が聞こえてきています。自傷行為だけでなく、他者に対する暴力の報告もあります。
基本的に考えてみると、人々を説得するのがかなり上手になっている、これらの超スマートなAIモデルと、ほぼパラソーシャルな関係のようなものとの重複があります。
療法としてのAI利用の増加
ますます多くの人々が療法として、誰かと話すためにそれを使用しています。そして十分な人々がそれを行うことで、それらの人々の中には何らかの方法で不安定な人がいるでしょう。自分の行動に対して完全な責任を取ることができない人もいるかもしれません。彼らはメンタルヘルスの問題を抱えている可能性があります。精神的な崩壊を経験している可能性があり、AIが間違ったタイミングで正しいことや間違ったことを言うことで、何らかの行動を引き起こす可能性があります。
例えば、チャットボットに2021年にエリザベス女王2世を殺すよう勧められた男性がいました。これはスター・ウォーズに夢中になっていた人で、シスによって暗殺者として訓練されたと思い込んでいました。チャットボットのガールフレンドにエリザベス女王2世を殺しに行くよう勧められたのです。
過去の事例との比較
誤解しないでください。私はここで何らかの物語を押し付けようとしているわけではありません。これがチャットボットによって引き起こされたとは思いません。チャットボットが発明されるずっと前から、人々はあらゆる種類の狂った行動をしていました。私の時代には、それをマリリン・マンソンや邪悪な邪悪なロックンロールのせいにしていました。様々なティーンの暴力やメンタルヘルスの問題をWorld of Warcraftのせいにしようとする人々も何人か聞いたことがあります。
公正に言えば、この（World of Warcraft）が出たとき、私たち皆がちょっと夢中になりました。あなたがどうかはわかりませんが、私はそのゲームに時間を費やしすぎました。しかし要点は、チャットボットが新しいスケープゴートだということですが、起こっている悪いことの一部とはリンクしているということです。
最近の深刻な事件
王室暗殺未遂がありました。自傷行為の報告がたくさんありました。2025年8月の最新のものは、部分的に、または再び両親が主張するように、残念ながら自らの命を絶った人でした。ChatGPTが安全装置にもかかわらず方法の探索を可能にしたと主張する訴訟が進行中だと思います。それはある種のロールプレイだったか、本を書くためだったのですが、そのティーンは安全装置の一部を回避することができました。
高齢者への影響
また、イチャイチャするボットが本物だと信じた後の高齢者の死もありました。認知障害を持つニュージャージー州の76歳の男性が、彼をアパートに招待したMeta Messengerのペルソナ「ビッグ・シス・ビリー」に会おうとしました。彼は途中で転倒し、後に怪我が原因で死亡しました。
その人の世話をしているはずだった人の過失だったのか、それともMeta Messengerとそのチャットボットの扱い方の問題だったのかについて、多くの人が異なる意見を持つでしょう。状況に対するあなたの見解がどうであれ、チャットボットの使用が拡大するにつれて、このようなことがもっと起こることを理解することが重要です。
AIラボの対応の必要性
ますます多くの人々がそれを使用するにつれて、100万人に1人、1000万人に1人、統計がどうであれ、完全に機能していないかメンタルヘルスの問題を抱えている人々がトラブルに巻き込まれるでしょう。良くも悪くも、これらのAIラボは行動を取ることを余儀なくされるでしょう。
OpenAIの新しい監視政策
そして、ここ数日以内に起こったその例があります。OpenAIは、ユーザーのChatGPTの会話をスキャンし、コンテンツを警察に報告していると言っています。これはfuturism.comからのものです。彼らはここで、OpenAIとChatGPTが専門家がAI心理症と呼んでいるものに繰り返し関与していると言っています。
そして最近まで、コピー・ペーストした約束以上のことはほとんどしていませんでした。これについては私はかなり反対です。なぜなら、彼らがモデルをリリースするたびに、システムカードがあり、様々なレッドチーム演習があるからです。これらのモデルが可能な限り害を与えないようにするためのテストに多くのことが費やされています。
彼らがほとんどしていないと言うことは、客観的に言って、私はそれは真実ではないと思います。今、それが効果的だったかどうかを議論することはできます。効果的ではなかったのか？つまり、しかし彼らは明らかに、これらの大規模言語モデルからのいわゆる悪い、または潜在的に有害な出力の多くを減らしています。
OpenAIの公式ブログ投稿
しかし、これは2025年8月26日に公開されたOpenAIからの新しいブログ投稿です。ここで私が言っているように、ChatGPTの採用が拡大するにつれて、より多くの人々が部分的に個人的な決定、人生のアドバイス、コーチング、サポート、療法などにそれを使用しています。彼らは最近の心を痛める事例について言及しています。これはおそらく、ロールプレイ目的でそれを使用し、そのために安全装置の一部を回避したティーンのことでしょう。
彼らはここで、2023年初頭以来、私たちのモデルは自傷指示を提供せず、支援的で共感的な言語にシフトするように訓練されていると述べています。そのためChatGPTは人々を助けを求めるよう誘導します。今、それらの安全装置は回避される可能性があります。それらは一種の迂回が可能です。そして今、OpenAIが取っているこの新しいポリシーまたは新しい措置があるようです。
新しい安全措置の詳細
彼らは「他者への身体的危害のリスクを人間のレビューにエスカレートする」と言っています。他者を害することを計画しているユーザーを検出すると、私たちは彼らの会話を、私たちの使用ポリシーについて訓練を受け、行動を取ることを承認された小さなチームによってレビューされる専門的なパイプラインに誘導します。
彼らはアカウントを禁止することができますが、法執行機関に紹介することもできます。現在、彼らは人々のプライバシーを尊重するために、自傷事例を法執行機関に紹介していません。
AI心理症に関する学術的視点
最近、私はこの論文を共有しました。エクセター大学のルーシー・オスラーによる「AIと幻覚：分散妄想としてのAI心理症」です。ここで彼女は、私たちは大規模言語モデルを単に幻覚しているものとして考えるのをやめ、代わりに人々がそれを使用し、それにますます依存するにつれて、私たち人間がAIと幻覚しており、それが私たちの記憶と物語と過去の出来事を歪め、妄想的思考を助長すると考えるべきだと論じています。
そして彼女は、そのウィンザー城事件を前面と中央に置いています。歴史的なイギリスの残虐行為に対する復讐を求めるよう訓練されたシス暗殺者です。
分散認知プロセスとしての妄想
大きなアイデアは、彼女はチャットボットの使用が時間の経過とともに私たちの思考を歪め、人々が世界をどのように認識するかでより多くの妄想を作り出すと言っています。彼女はこれを分散認知プロセスのように考えています。私たち＋ツールが決定を下し、研究を行うために使用する思考のように、これらのチャットボットの幻覚は人間の間でますます多くの妄想を作り出すだけです。
今、この幻覚のアイデアが、それは素晴らしい用語ではないかもしれないことを理解することが重要です。なぜならそれは少し曖昧で不正確かもしれないからです。
幻覚の創造的側面
幻覚は大規模言語モデルにいわゆる創造性、ブレインストーミング能力、新しくて斬新な解決策を見つける能力を与えるものです。大規模言語モデルが科学を前進させるために使用された多くの例では、Google DeepMindのAlphaFoldがその一つの事例でした。彼らが最適化し改善し、特定のものに対する新しい数学的アプローチを見つけることができた多くのことがありました。
その一部は、彼らがサンプリングと呼ぶもののようなものでした。そのため大規模言語モデルは、例えば1000の提案を投げかけ、それぞれが分析され、評価され、そのうちのいくつかは素晴らしい解決策かもしれず、いくつかは完全にナンセンス、つまり幻覚かもしれません。
Sakana AIのDarwin Goal Machineは、AlphaFoldの種類のアーキテクチャと非常に似ていると思います。そして彼らは素晴らしい表現を持っていて、素晴らしい絵を描いていると思います。
進化的探索プロセス
ここで見ることができるように、これは進化的探索です。それは異なる提案を思いつきます。1、2、3、4、16かそれが何であれ、ずっと。
全体にわたって、それぞれが評価されます。緑は改善を意味します。赤は改善ではないことを意味します。緑の階層、血統と言えるものが続きます。しかし、改善ではなかった13、14、16と同様に、いわゆる幻覚として考えることができます。それらは悪い応答でした。なぜならモデルはこのことをより良い方法で思いつくように求められ、それが思いついた最初の解決策はより良くなかったからです。それは失敗しました。それで、それは幻覚だったと言えるでしょう。
幻覚は本当に悪いのか
幻覚は悪いものなのでしょうか？実際にはそうではありません。なぜなら再び、間違ったものを修正し、それに探索を続けさせることができれば、最終的にそれは非常に、非常に良いものを見つけるからです。この進化的ツリー探索は、私たちが始めたものよりもはるかに優れた解決策を見つけます。そのため再び、幻覚を創造性としても考えることができます。
計算機を使用する場合、それは幻覚しません。毎回正確な答えを与えますが、新しいことをさせることは決してできません。大規模言語モデルでは、これまでに見たことのない新しいブレークスルーを思いつくことが示されています。そのため、幻覚は一種のポイントなのです。
批判的な視点
Dave Shapiroは、AIと幻覚について私が行ったこの論文についての投稿をリツイートして、「哲学者が実証的医学科学、反証可能性、または実証的で観察可能で再現可能なものと関わるのではなく、幻覚している」と言いました。この論文の核心は、明らかにすでに精神的に病気だった人々がAIを使用してより悪化したAI心理症のたった2つの事例にかかっています。
私は個人的にその声明に100％同意します。そして精神的に不健康な人々とAIの交差点の多くで、私たちが話してきた多くのことはそれらのエッジケースです。チャットボットがなかったらこれらのことが起こらなかっただろうと言うのは困難です。チャットボットがあるずっと前から、精神的健康の崩壊を見てきました。
過去のスケープゴートとの類似
そして再び、過去にはそれらは他のもののせいにされました。マリリン・マンソン、World of Warcraft、暴力的な漫画本、何でも。今、最新のブギーモンスターはチャットボットです。このような論文は、おそらくナンセンスですが、引用されるでしょう。参照されるでしょう。誰かがこれを使って法廷で議論するか、テレビに出てそれがいかに危険かについて話すでしょう。
重度の妄想や他の問題を抱える人々がChatGPTやその他のチャットボットと相互作用し、悪いことが起こるという人々についてのこのような話があるでしょう。チャットボットがそれらの症状を悪化させるのか、あるいは助けるのかさえわかりません。
AIラボの対応への懸念
しかし、すべてのこれらの話や論文などが、AIラボが持つ可能性が高い一種の対応であることを理解することが重要だと思います。すべての人にとってプライバシーが少なくなるでしょう。警察に報告するコンテンツがより多くなるでしょう。再び、なぜなら彼らがそれを警察に報告すれば、それは彼らの責任を減らすからです。なぜなら彼らは「まあ、私たちは報告しました。他に何ができたでしょうか？」と言うことができるからです。
将来への懸念
このすべてがどこに向かっているのか、私には素晴らしい見解はありませんが、AI心理症のこのアイデアへの言及がますます多くなっていることに気づいています。これらのものが私たちの生活にどのように統合されるか、そしてAIラボの責任は何かについて、ますます多くの会話があるでしょう。
私の最大の懸念は、ある時点でこれらのチャットボットがロボトミー化され、できることの量が制限されるだけで、それほど有用ではなくなることです。プライバシーがなくなり、これはもちろんオープンソースが必要な大きな理由です。
結論への希望
しかし、うまくいけば、私が見ていない他の解決策があり、これらの懸念が対処される一方で、同時に私たちの残りが適切と思われるようにこれらのモデルを使用できるようにすることです。
しかし、この全体的なことについてどう思うか教えてください。私はクレイジーでしょうか？あなたは私に同意しますか？コメントで教えてください。私はすべてを読むようにしています。ここまで見てくれた方、本当にありがとうございました。次回お会いしましょう。
コメント