この動画は、AIが引き起こす真の脅威について論じている。多くの人が懸念する大量失業ではなく、大規模操作こそが差し迫った危険である。現在のAIと大規模言語モデルは、個人の詳細情報に基づいてメッセージをカスタマイズする能力により、人間を操作することに長けている。データブローカーが収集する膨大な個人情報を活用し、マーケティングや政治的影響力の行使、詐欺に至るまで様々な目的で使用されている。研究では、AIの説得力が人間を大幅に上回ることが実証されており、特にマイクロターゲティングと呼ばれる手法の効果が注目されている。
AIによる大規模操作の到来
AIは世界を劇的に変えようとしていますが、あなたが思っているような方法ではありません。次に起こるのは大量失業ではなく、大規模操作です。現在のAIは詐欺師にとって金の山ですが、それだけではありません。政治的影響力を行使し、商品を販売し、あなたの決定を他の誰かが好む方向に押し進めるためにも使われているのです。
彼らの試みを防ぐためにできることはあまりありませんが、それについて知れば知るほど、騙されることを避けやすくなります。現在のAIと大規模言語モデルが私たちを操作するのに長けている理由は、あなたの具体的な個人情報に合わせてメッセージを調整できるからです。彼らはあなたがどこから来ているかを知っています、おそらく文字通りに。
データブローカーによる個人情報収集
彼らはこの個人情報をどこから得ているのでしょうか？こんな人たちからです。
「私たちのアイデンティティは最も正確です。私たちはデバイスやクッキーではなく、実在の人物を対象としており、一人当たりのアイデンティティポイントと属性の数が最も多いのです。米国だけで7,000の個別属性と、人々が購入するもののうち75%を把握しています」
「ローラに会ってみましょう。こんにちは、ローラ。基本レベルでは、私たちはローラが誰か、何を見ているか、何を読んでいるか、誰と一緒に住んでいるかを知っています。コネクテッドアイデンティティの力を通じて、彼女がソーシャルメディアで誰をフォローしているか、オンラインやオフラインで何を買うか、どこで買うか、いつ買うか、そしてより重要なことになぜ買うのかも知っています」
そして、これから多くのお金を稼ぐことができるのです。
AIの説得力に関する科学的研究
科学者たちはAIがどれほど説得力があるかを研究しています。数ヶ月前、チューリッヒ大学の研究者たちは、大規模言語モデルに基づく13のボットをRedditのChangeMyViewフォーラムに配置しました。
その期間中、ボットたちは1,700以上のコメントを投稿しました。彼らの説得率は人間の6倍でした。別の最近の研究では、研究者たちが人間の参加者を他の人間またはGPT-4とペアにし、学生が制服を着るべきかどうか、政府が砂糖入り飲料への課税を増やすべきかどうかなどの問題について自分の立場を擁護するよう求めました。
人間とAIの両方に人口統計学的情報が与えられた場合、AIは著しく説得力が増し、64%の討論で人間の対戦相手を上回って説得しました。科学者たちはこれを「マイクロターゲティング」と呼んでいます。これは基本的にマーケティングと政治的ロビー活動の未来なのです。
ちょうど発表された別の研究では、AI研究者たちが、それほど控えめではない表現で「チョイスエンジニアリング」と呼ぶものをAIで調べました。
AIによる選択の操作
そうです、あなたが聞いた通りです。彼らは私たちが行う選択を操作するためにAIを使う方法を知りたがっているのです。そして、お金を稼げるので、あなたは既に現実世界でこの例を見つけることができます。
2025年5月、Googleは検索用AI Maxをリリースしました。ある企業が広告を掲載したい場合、AIを使って自動的に広告を調整し、あなたが検索していたものに合うようにできるようになりました。これにより、実際に購入する人の数が14%増加すると彼らは言っています。
ちなみに、私には動画に入らなかったニュース項目を含む無料の週刊ニュースレターがあることをご存知でしたか？sabinehossenfelder.com/newsletterでサインアップできます。
詐欺の横行
そして詐欺があります。例の中には全くばかげたものもあります。最近のフランス人女性のケースのように、ブラッド・ピットを名乗る人物とオンラインでチャットを始めた例があります。
彼は音声クローンの挨拶、偽の写真を送り、そして、あなたが想像したでしょうが、お金を求めました。彼女は80万ユーロを失いました。同様の詐欺が最近、俳優のマーティン・ヘンダーソンでも行われました。
そして、これらは孤立したケースではありません。2025年4月のブリティッシュ・コンテンツ・オーセンティシティ・イニシアチブの報告書では、生成AIが今や超リアルなデートプロフィールと動的にパーソナライズされた「ラブボミング」メッセージを作成する方法について詳述されています。
米国連邦取引委員会は2024年に80万件以上のなりすまし詐欺の報告を受け、総損失額は30億ドル近くに達しました。
フィッシング詐欺の進化
それからフィッシングがあります。これは詐欺師があなたにパスワードを提出させたり、悪意のあるリンクをクリックさせようとするものです。12月に出た研究では、AIが生成したフィッシングメールは驚異的な54%のクリック率を持ち、今や人間のフィッシング専門家と同等のレベルにあることがわかりました。
特にホットなAI詐欺分野は現在暗号通貨で、AIが人々からお金を騙し取る前に信頼を築くために使われており、しばしば偽の専門家アドバイスを使っています。特にイーロン・マスクは、驚くべきオファーで暗号通貨詐欺のためにディープフェイクされ続けており、それらは驚くべき方法であなたのお金を消失させるウェブサイトに誘導します。
2024年、FBIのインターネット犯罪苦情センターは15万件の暗号通貨関連苦情を報告し、総損失額は90億ドル超でした。そして、それはGoogleがVeo 3をリリースする前のことでした。
真偽の判断が困難な時代
これらすべての結果として、人々は何が本物かをますます疑問視するようになっています。この投稿は本物か、この画像は本物か、この動画は本物か。
もしかしたら、私の唇に問題があってから、一部の人々が私を間違ったアバターだと主張しているのを見たことがあるかもしれません。私は完全に本物だと誓います。私の新しい暗号通貨を買ってください！
データ保護とIncogniの紹介
あのデータブローカーは本当にすごいものでした。実際にこれらの人々からあなたの情報を保護する法律があることをご存知ですか？少なくともある程度は。
あなたは彼らのデータベースからあなたのデータを削除するよう要求できますが、問題はそれが信じられないほど時間がかかることです。これが私がこのビデオをスポンサーしているIncogniにサインアップしている理由です。
ご覧ください、ウェブサイトを開くたびに、それはあなたが誰で、どこにいて、他にどんなウェブサイトを訪問したかについてのデータを収集しようとします。
そして、彼らはこの情報をデータブローカーに売り飛ばし、データブローカーは今度はそれを使ってあなたを広告でターゲットにし、そこからさらにデータを収集し、というように続きます。Incogniはこれらのデータベースからあなたを除外するプロセスを自動化します。
あなたがサインアップすると、彼らが大きな悪者に連絡し、あなたの個人情報を削除するよう要求します。彼らはそれを続け、希望すれば進捗についてアップデートを送ってくれます。
私の個人情報で嫌な人々が嫌なことをするのを止めるシンプルな解決策があることを嬉しく思います。Incogniは非常に使いやすいです。サインアップし、彼らが探すべき情報を与えると、基本的に1分以内に彼らが働き始めます。
私は今夜よく眠れるようになり、あなたもよく眠れるよう手助けできるかもしれません。私のコードSABINEまたは下記の情報にあるカスタムリンクを使用すると、Incogniが60%オフになります。これは素晴らしい取引なので、ぜひチェックしてみてください。
視聴ありがとうございました。また明日お会いしましょう。
コメント