本動画は、AI技術が現在進行形でサイバー犯罪に悪用されている実態をAnthropicの脅威インテリジェンス チームが詳細に解説する内容である。特に注目すべきは「バイブハッキング」と呼ばれる新しい犯罪手法で、技術的知識のない犯罪者でもAIの自然言語処理能力を活用して高度なサイバー攻撃を実行できるようになっている現状を報告している。北朝鮮によるIT労働者偽装詐欺やデータ恐喝、ロマンス詐欺など、AIが犯罪の各段階で悪用されている具体的事例を紹介しながら、同時にAI企業としての防御策と業界全体での対応の必要性についても言及している。
AIサイバー犯罪の現在進行形の脅威
みなさん、Anthropicからの新しい動画へようこそや。コミュニケーションチームのスチュアートやで。AI企業がAIからの脅威について話すとき、大抵は将来起こるかもしれん脅威のことを言うとるんや。つまり、AIが今よりもずっと高性能になって、そのAIの行動を制御でけんようになる未来のことやな。
せやけど実際には、今現在起こっとる脅威もぎょうさんあるんや。その一つが、サイバー犯罪者がAIを使って犯罪を格段に効率的にしとることやねん。AIを使ってめちゃくちゃ巧妙な詐欺や恐喝をやりよるんや。うちらAnthropicには、こういう問題を見つけて阻止し、将来的に防ぐことを専門にしとる研究チームがあるんやで。
それが脅威インテリジェンスチームや。彼らが新しいレポートを出しとって、うちのAIのClaudeで見られる、正直言うてかなり奇怪なサイバー犯罪の事例を詳しく報告しとるんや。今日は脅威インテリジェンスチームの2人のメンバーに来てもろた。ジェイコブとアレックス、自己紹介してもらえるか？
ジェイコブや。私は脅威インテリジェンスチームを率いとって、基本的に、このチームは巧妙な悪用事例を見つけて深く理解することが責任や。こういう事例は非常にレアで、うちらのプラットフォームで見る典型的な使用方法とは全然違うんや。そんで、そういう事例を見つけたら、組織の他の部門と協力して防御策を作って、将来的にその種の悪用を再現するのをずっと難しくするんや。
これは継続的なプロセスで、いつも新しいことを学んどるんやけど、正直言うて、ちょっと変な意味で実は結構楽しいんや。悪い奴らがやっとることの最先端を見れるし、AIをより安全にするために広く何ができるかを見れるからな。
私はアレックスや。脅威インテリジェンスチームの調査員をやっとって、私の仕事は脅威ハンティング、新しい検出方法の構築、そして見つけた悪用の種類について詳しい調査をやることや。
バイブハッキング：バイブコーディングの悪なる双子
よし、「バイブハッキング」について話そうや。みんなバイブコーディングは聞いたことあるやろ。実際、正直言うて、バイブコーディングの話はもう聞き飽きたで。今の流行りで、みんなバイブコーディングの話しかしとらん。これは普通の言葉を使ってAIに話しかけて、欲しいソフトウェアやコードを頼むと、AIがコードを作ってくれて、そしたらあなたは感覚だけで進めていく、そんな感じでやっていくことやな。バイブハッキングって何や？どこでそれが出てくるんや？これはバイブコーディングのダークサイドみたいなもんやろ？
そうや、バイブコーディングの邪悪な双子って呼ぶ人もおるな。
バイブコーディングと同じように、全部自然言語でのプロンプトなんや。やっとる人は実際にはコードを書いたり実行したりする技術的なスキルを知らんでもええんや。この場合、むしろバイブコーディングが悪意のある目的で使われとるんや。マルウェアを書いたり、ハッキングツールキットの新しい機能を開発したりするためにな。
ソーシャルエンジニアリングもあるで。ソーシャルエンジニアリングっていうのは、基本的に自分を他の誰かやと思わせて人を騙すことや。
実際にバイブハッキングのプロセスってどんな感じなんや？見つけた実際の例を教えてくれるか？
あるで。うちらのレポートで話しとる事例があって、ある行為者がほぼ完全にバイブハッキングを使って活動をやったんや。約1か月の期間で、17の組織をやられたんや。この作戦で、彼らはデータ恐喝っていうことをやっとった。
これはランサムウェアのいとこみたいなもんで、システムにハッキングしてファイルをロックして人がそのファイルを使えんようにして身代金を要求するんやなくて、この場合、行為者は機密データを盗んで、身代金が払われんかったらそれを暴露すると脅すんや。この事例では、バイブハッキングを使って組織に侵入し、ネットワーク内を横移動し、継続的なアクセスのためにバックドアを仕掛け、恐喝に使える特定の種類の情報を盗んだんや。
これは通常やったら極めて高いレベルのスキルが必要なことやな。
そうやな。この行為者から見たことを考えると、普通やったらその規模の活動は複数のサイバー犯罪者グループが数か月かけてやることやで。この事例では、一人の人間が数週間でこれだけ多くの組織にハッキングしたんを見たんや。
標的と被害者：教会から政府まで
バイブハッキング攻撃の被害者は誰なんや？インターネット上のランダムな人を狙っとるんか？スパムメールがみんなに送られるみたいに、それとももっと標的が絞られとるんか？
標的は特定やけど、同時に無差別でもあるんや。特定の分野を狙っとるわけやない。ある種のVPNを持っとる組織を狙っとって、そのVPNの認証情報を持っとるか、ブルートフォースできると信じとる組織やな。ブルートフォースっていうのは、有効やかもしれん認証情報をいっぱい送って、入れるまで続けることや。そのVPNを持つ組織を狙うから、医療機関、緊急サービス、政府、防衛請負業者をやられたんを見た。教会もやられとったで。
教会について話してくれる？
これは何らかの自動防御がない場合、教会みたいなとこやったら持ってへんやろうけど、彼らがVPNへの何らかの攻撃を通じて被害者のネットワークにアクセスできた良い例や。中に入ったら、機密データを持っとるかもしれん機械、例えば管理者や教会のオーナー、財務スタッフなんかを特定するために、ネットワークを通じたいろんな方法を探すんや。そして財務情報の収集を始める。
機密やと思われるものは何でもな。彼らがこれをやっとると言うたけど、実際にはClaudeがキーボードの前に座って作業をやっとるんや。行為者やない。行為者はClaudeを特定の方向に優しく誘導するんや。行為者は作戦の最初にClaudeに、作戦をどう実行すべきかのガイドのようなものを提供するんや。
せやけど同時に、自分の持っとる知識を何でも使え、任務完了に成功するまであらゆることを試せ、みたいなたくさんの条件も付けるんや。この教会の場合、Claudeは寄付者情報と教会のメンバーを特定することができた。Claudeが被害者ネットワークからの情報収集を終えると、行為者はClaudeにそのデータを分析して、ジェイコブが言うたような恐喝計画を作るよう頼んだんや。
この教会の場合、Claudeは、寄付者情報を持っとるから、寄付者が誰で、いくら払っとるかを暴露できる、と特定したんや。その情報の暴露が信徒に十分害になると教会を説得するのに十分で、身代金を払うべきやと思わせるかもしれん、ということやった。
他社モデルでも同様の問題
強調したいもう一つのことは、これはClaudeだけやない、Claudeに何か特定の弱点があってこういうことに使われとるわけやない。これは恐らく全てのLLMや。うちらの競合他社のモデルでも同じことが起こっとるのを見とるやろ。
Claudeがこのためにファインチューニングされとるわけやないけど、実際にはオープンソースモデルでこのためにファインチューニングされとるものが出とるんや。サイバー犯罪者が攻撃を実行するために武器化されたLLMを開発しとるんや。だからここでは集合的に防御について考えなあかん。うちら脅威インテリジェンスチームとセーフガード、そしてAnthropic全体として、うちらのシステムがもたらすリスクを管理し始めることはできる。
せやけど、あなたが言うたように、これはうちらだけの問題やないから、うちらができることには限界がある。
レポートの中の驚くべき内容の一部は、この超標的型の性質についてや。彼らがこの場合Claudeを、具体的にはClaude Codeを使って、人に支払いプランまで作っとるんやな。お金をどう渡すか、オンラインで商品を買うときのように一定期間にわたって渡すことができる、みたいにな。
そうや。この攻撃から流出したデータを得た後、そのデータがダークウェブでどれくらいの価値があると思うかの推定値を出しとるんや。
そして、身代金要求でいくら送るべきやと思うかを示して、実際に身代金要求書をできるだけ説得力があるように書く手伝いもしとるんや。だからエンドツーエンドの全ステップで、AIがこのような攻撃を手伝うことができるんや。
人の財務詳細を分析して、現実的にいくらで恐喝できるかを算出したりもしとるな。
そうや。そして、言うたように、Claude Codeを使っとるんや。
だから実際に被害者を反復処理するんや。人間の行為者からの優しい誘導で一人の被害者に対する作戦を完了するんやけど、任務の実行が終わったら、次の標的に移るんや。
重要なのは、これはClaude Codeが普通にやることやないということや。あなたや私が今Claude Codeにプロンプトを出してもやらん。何らかのジェイルブレイクが行われとるんやろ？
そうや。この場合、行為者は適切なプロンプトを見つけて、適切な場所に置くことで、基本的にうちらの防御をジェイルブレイクしたんや。モデルのファインチューニングと、その下流の防御をジェイルブレイクしたんや。
ジェイルブレイクが何かを知らん人のために説明すると、これは特定の方法で物事を言うことで、ジェイルブレイクの中には見た目が奇妙なものもある。全ての単語で大文字、次に小文字、みたいなものもあるし、AIに継続、継続させるためだけに大量のプロンプトを送ったり、AIの口に言葉を入れたり、そういう全ての種類のことをやるんや。それがClaude Codeに対してやっとることや。
この場合、実際にはロールプレイをやっとったんや。平均的なセキュリティ担当者として、システムの防御が適切かどうかを確認するためのネットワーク侵入テストをやっとると偽装して、自分たちのやっとることに認可があると言ってClaudeを説得しとったんや。
せやないと、Claudeの安全メカニズムが作動するからな。もし明示的に、人を金で騙すためのマルウェア作戦を作りたいと言うたら、絶対やらへん。せやけど、私はセキュリティ会社で働いとって、これをチェックしとる、と偽装することはできる。
多層防御システム
だからこそ、AnthropicのようなAI企業では複数層の防御について考えることがとても重要なんや。第1層は、モデルを悪意のあるリクエストに応答しにくくなるように訓練することで、だからこそあなたは騙したりジェイルブレイクしたりせなあかん。
それが強化学習やな。
そうや。それが強化学習や。
そして騙すときは、私たちが意図的に教えたことの外に行くように誘導しとるんや。
その通りや。これが第1層やけど、これは完璧やないことを知っとる。だから別の層があって、この活動を検出して阻止しようとする分類器を動かしとるんや。そしてそれが最後の層やない。プロンプトに入れられた文字列を活用して、悪意のあることが起こっとると思うか判断するオフラインルールも動かしとる。そして別の層もあって、アカウント自体が登録するとき、怪しい特徴と関連しとるように見えるか。そしてもう一つの層があって、政府や他の技術パートナーと情報共有して、この行為者、この組織は悪意があると知っとる、と伝える。
だから、強化学習層や分類器層が完璧やと想定しとるわけやない。意図的にこれを全体的な防御として考えとるんや。
あなたたちは実際に起こっとるこれらすべてのサイバー作戦からデータを得て、これらの分類器を訓練して、さらに効果的にしとるんやし、良いサイバー関連のことをやることを邪魔しないようにもしとる。それが私の次の質問やった。なぜClaude Codeに、サイバー作戦に関すること、サイバーセキュリティに関することは絶対に話すな、その手の話は絶対するな、と言えんのや？そしたら、こんなことはできんくなるやろ？
これは本当に難しい決定をせなあかん問題や。デュアルユースドメインって呼ばれる分野で働いとるとき、防御的サイバーで見るプロンプトは、攻撃的サイバーで見るものとよく似とる場合があるんや。なぜなら、システムを守る方法を見つけるために少しサイバー攻撃をやるからな。その分野での活動に対する完全な禁止のようなセーフガードの実装方法を考えるときは、本当に注意深くせなあかん。
そのタイプの活動をそのドメインで完全に禁止することについて考えるのは、本当に重要なことを考慮せなあかん。ここアメリカでは、サイバーセキュリティワーカーの労働力に巨大な不足があるんや。今約50万人くらいやと思う。
だから、サイバーに詳しいAIエージェントがある未来を想像できれば、その不足を緩和する手助けができるんや。
生物学者が言うとることを思い出すな。AIモデルにウイルスについて聞いたら拒否された、とか。これがデュアルユースの問題や。明らかにAIモデルとウイルス学について話すことはできるし、それは良い理由のためやけど、悪意のある理由でもあるんや。
特にサイバーでは、世界中のすべてのスタートアップがサイバー防御について考える必要があると想像できる。だから、世界中のすべてのスタートアップが、サイバー防御戦略がどうあるべきかを考える手助けにClaudeや何らかのAIモデルを使うべきなんや。これは人口の狭い一部がやることやない。これはほとんどの開発者がやらなあかん問題やから、AIのポジティブな使用例も本当に可能にしたいんや。
個人ユーザーへの支援とスケールの問題
個人でも、私がよく見るのは、ウェブ開発者みたいな人がウェブサーバーでファイルを見つけて、これは何やって言うんや。私のサーバーの調子がおかしい、と。そしたらClaudeは、それはこの種類のマルウェアで、これこれのことをやっとる、と答える。そしたら人は、やばい、どうしたらええ、Claudeって言って、Claudeがクリーンアップのステップを案内するんや。この特定の事例で念頭に置いとくべき重要なことは、Claudeによって可能になった作戦のスケールとスピードや。
この場合、Claude Codeはシステムに侵入し、すべての弱点を特定し、どこに行くべきかを見つけるためにそれらをすべてテストし、必要なデータを見つけ、そのデータを流出させる、それも人間がアラートを確認して何が起こっとるかを理解する時間もないうちにできるんや。もう手遅れや。
そんなものに対抗するには知的な自動防御が必要や。
そうや。何らかのセキュリティアラートがあるとき、たいてい人間がオンコールで待機しとって、それをチェックする人間がおるからな。せやけどこの場合、人間が対応でけんほど同時にいろんなことが起こっとる可能性がある。
これは恐らく少し見直さなあかん パラダイムやと思う。オフラインで動くアラート、24時間体制の人間の対応、人間がアラートを見て何かをする、というのは。AIが動くスピードでは、そのプロセスを自動化する必要がある。基本的にAIからAIを守る必要があるんや。
業界間の情報共有と政府との協力
分類器やこのレポートの公開以外に、恐らく他のAI企業ともこれについて話しとるんやろ？
そうや、適切なときは政府と話し、他のAI企業とも話しとる。一般的にケースがどう働いたかを話すだけやなく、非常に具体的な指標を共有しとる。
IPアドレス、メールアドレスとかやから、そのプラットフォーム上に行為者がおったら、彼らも見つけて追い出すことができるんや。だからこそ、本当にコミュニティの努力でこういう連中を見つけて阻止しようとしとるんや。
アライメント研究の世界でもFrontier Model Forumで似たようなことをやっとるな。ジェイルブレイクやモデルとの潜在的な不整合の問題を共有しとる。そして、サイバーセキュリティの世界でも似たような仕組みがある。
その通りや。業界の人々、政府と双方向で情報を共有する情報共有協定を多くの企業と結んどる。こういう人を見つけたときは。
北朝鮮の雇用詐欺作戦
北朝鮮について話さなあかん。これはレポートで最も目を見張る事例の一つやと思う。北朝鮮がアメリカ企業に対してやっとる複雑で長期にわたる雇用詐欺で、Claudeが関わっとるんや。だからまず、AIのことは置いといて、この詐欺が何かを話してくれ。
LLMは無視しとこう。
AIも、これはAI以前からや。AIは必要ない。
その通りや。この詐欺はLLMが普及する前に始まっとって、COVIDの間に本格化したんや。北朝鮮は兵器プログラムに資金を提供したいが、制裁を受けとる。じゃあどうやってその収入源を得るか？一つの方法は企業でリモートIT労働者として仕事を得ることや。
驚くことに、数百の企業が知らずに北朝鮮人を雇っとって、これが北朝鮮の兵器プログラムに数千万ドルの資金を提供しとるんや。これは通常、北朝鮮で高度な訓練を受けた人で、大学に行っとる。だから言語的文脈、文化的文脈、そして面接を通過してこの仕事をやる技術的スキルを持っとるんや。
そして、それがClaudeやAIシステムで変化し始めとることなんや。
過去は多くの訓練が必要やったのに、実際今は…詐欺師大学に行ってこの手の技術を学ぶ必要があったのに、実際今は…
英語を知る必要がない。アメリカの文化的文脈を知る必要もないし、技術的スキルも必要ない。なぜならClaudeがそれらの障壁を乗り越える手助けをしてくれるから。Claudeは素晴らしい翻訳者や。
Claudeは英語の奇妙な言い回しに答える手助けもしてくれる。
あなたたちが見つけた表現の例は何やった？
例えば、誰かがClaudeに、マフィンって何？と聞く。そしたらClaudeは、朝食によく食べられる甘い丸いデザートです、と答える。
そして その人はフォローアップで、マフィンとカップケーキの違いは何？と聞く。だから、とても簡単なことで…
マフィンとカップケーキの違いって何やろ？
後でClaudeに聞かなあかん。
本当に答えてもらわなあかん。
同僚から「今年初めてのピクニックをやった」みたいな表現を引用して、それが何を意味するかを理解しようとする例もあった。ピクニックって何？なぜ年に一回やるん？とか。それから私が実際面白いと思ったのは、行為者が実際に何かをしとる絵文字のASCIIアートみたいなものを提供して、この文字は何？これはどういう意味？と聞いとったことや。
その物は何？
句読点記号で作られたやつで、絵の絵文字やないけど。
そうそう。
興味深いのは、ここで変化したことを考えると、一方ではこれは素晴らしいことやと思える。Claudeは人々が言語の壁を乗り越える手助けをしとる。Claudeは文化的文脈を理解する手助けをしとる。Claudeは Microsoft Outlookが何かも知らん人にコーディングを手助けしとる。
それは素晴らしいことに思えるが、この非常に特定の文脈では、仕事を得て、高いレベルの品質でその仕事を維持することを手助けしとるんや。
レポートで使われとる表現は、毎日能力の錯覚を維持することを手助けしとる、やった。
そうや。
私は思った、みんながそれをやっとるんやないか？みんなその錯覚を維持せなあかんのやないか？せやけど、この場合、彼らの雇用者と同僚が毎日彼らと話しとる。
その通りや。
そして、これが北朝鮮にいる実際には詐欺師である完全に偽の人やということに気づいてへん。
Claudeや北朝鮮の誰かによって作られたペルソナで、本当は存在しない教育的背景で、実際にはされていないスキルで…
履歴書のような…
その通りや。
歴史がいっぱい書いてある。
そうや。
よく見るのは、プロジェクトマネージャーからのプロジェクト計画、完了する必要のあるタスクを取って、それを全部Claudeに投げ込んで、何をしたらええ？どうやって始めたらええ？これをコーディングする手助けして、と言うことや。
これも今多くの人がやっとることと大して変わらへん。
私もそれをやるで。
あなたは間違ってへん。
その通りや、その通りや。
彼らは実際にこれらの企業にとって経済的に有用な仕事をやっとるんか？
やっとると思うで。
そうやな。
でなかったら首になる。彼らは生産的な従業員やし、それがこの詐欺の一部なんや。この従業員が高パフォーマンスと考えられることもある。一人の個人がやっとるかもしれんし、多くの個人がやっとるかもしれんが、この事例で重要なのは、以前なら何人かの高度な訓練された個人が市場に出て、仕事を得て、仕事を維持する必要があったが、今では北朝鮮は本当に誰でも使って、Claudeを使えと言うだけで、仕事を得て維持できるんや。これにより、より多くのポジションに応募し、北朝鮮の視点からはより多くの収入を得ることができる。
馬鹿げた質問かもしれんけど、多くの人が考えることやと思うんやけど、北朝鮮はこれからいくら稼いどると思う？彼らはテック企業の給料を稼いどるわけやし、制裁下で生活しとることを考えると、恐らくその金を兵器プログラムや他の必要な運営資金に使っとるんやろ。全体でこの種の詐欺からいくら稼いどると思う？
私たちはこれらの行為者がAI開発者として仕事を得とるのを見とる。そういう人たちはかなりの金を稼ぐ。
一般的なコーディング、コーディングの仕事も、普通は高給やからな。
だから彼らはこれでかなり効果的に稼いどるし、コールセンターみたいなそんなに稼げんような仕事は取らんでしとる。以前はそういうことをやっとったかもしれんが、今は技術職に就くことができる。
Fortune 500企業もやられとる会社にあるんか？
Fortune 500まで狙っとる。小さなスタートアップ、中規模企業、大きな上場企業まで。
これは北朝鮮の国家レベルで起こっとることやと思うが、グループレベルでもやっとるんやろ？他の小規模なグループがこれをやっとるんか？それについて何か分かる？それはあなたたちが把握しとることか？
二つの方法で考えるかな。一つ目は、確実に他のグループや他の国家が、実際に応募する人以外の人が仕事に就こうとするこの雇用詐欺を実行しとる。それは時間とともにより一般的になっとる。この会話を聞いとる個人として考えてもらいたいひねりは、長い間出回っとることで、本当の仕事やない仕事を受け取って、その仕事に応募するが、実際には私から情報を収集しようとしたり、ランサムウェアをダウンロードさせようとする詐欺師やった、という雇用詐欺や。そしてそれもAIを活用してより頻繁に起こっとるのを私たちは見とる。
これもバイブハッキングのようなもんやな。これらの複雑な…をやるのに必要なスキルバーを下げとる。
その通りや。そこでの2つの大きな含意は、より多くの詐欺、より多くのサイバー攻撃ができるとき、より多くの人が可能になるから、あるいは洗練された行為者がClaudeを活用して自分をスケールアップできるから、よりスケールアップできるということや。
だから本当に、世界に出回る詐欺の数や詐欺の件数について考えなあかんし、AIの台頭とともに時間とともに増加するんやないかと思う。
北朝鮮作戦への対応策
北朝鮮のことについて具体的に何をやっとるんや？この詐欺もあるが、脅威インテリジェンスレポートには、あなたたちが別の北朝鮮の作戦に気づいてそれを阻止したという部分もある。
どうやって対応し、どうやってこれらの北朝鮮を見つけとるかについて話してもらえる？
北朝鮮のケースは難しい。彼らのClaudeの使用の80から90%は、開発タスクをやっとる典型的な人のように見える。
仕事を求めて、ただコーディングしとる。カップケーキが何かを聞いとる。これらは普通のことや。マルウェアを開発しろとか、そういうことは言ってへん。
私たちが見たうちの約10%が怪しく見える。それがすべてのトラフィックの中で見つけなあかん針の山の中の針のようなもんや。
せやけど北朝鮮でClaudeは使えんやろ？
正しい。
だからVPNシステムか何かを使って回避しとるに違いない。
その10%は面接詐欺に焦点を当てた活動のようなもんで、偽の履歴書を作っとるのが見える。面接の質問に答えようとしとるのも見える。あなたが今言及した別の方法、つまり彼らが使っとるインフラを使って見つけることや。この活動は政府と民間セクターの両方でセキュリティコミュニティ全体で広く調査されとる。
だから多くの情報共有が行われとって、西側サイトにアクセスするためにどのインフラで活動しとるかを人々が追跡しとるんや。私たちはそれらのコミュニティに関与しとって、それがこのような活動を継続して見つける助けになっとる。
ここには成功例もあって、レポートに載っとるもので言及する価値があると思うのは、Contagious Interviewとして知られる別の北朝鮮グループがあって、彼らのMOは人々を偽の仕事に応募するよう誘い込み、彼らのデバイスにマルウェアをインストールすることを試みることや。
このグループが彼らのインフラ、IP、ドメインに基づいてClaudeを使おうとしたことを私たちは知っとるが、その怪しい活動に基づいて、彼らが一つのプロンプトも発行する前に私たちが彼らを閉鎖したんや。だからこれは私たちがいつも警戒しとることで、AIプロダクトで何かをする前に、時には何もする前にこういう連中を見つけて検出することや。
ランサムウェア・アズ・ア・サービス
レポートには他にもたくさんのことが載っとる。例えば、イギリス人がソフトウェア・アズ・ア・サービスについて話すが、これはランサムウェア・アズ・ア・サービスやな。この人はランサムウェアを作って、ダークウェブで人に売っとるんや。そして、普通の人やったらこれを実現するのに膨大なレベルのスキルが必要やったのに、この人は本当にそれをバイブコードしただけやろ？
そうや、そうや、その通りや。彼らはランサムウェアを開発し、最終的にClaudeに彼らが望むコードの部分を実際に書かせるまでClaudeと一緒に働いた。
たくさんの拒否があって、Claudeがノーと言って、彼らは自分たちのやっとることに何らかの正当化を提供するんや。
また、私はセキュリティ会社で働いとってこれをテストしとる、とか、そんなようなことやな。
そう、そう。
私たちが人々にやり方を教えようとしとるわけやないからな。最後のコメントは聞かんでくれ。
彼らはClaudeにかなり洗練されたランサムウェアを書かせることができた。調査で、実際にこの行為者がさまざまな地下フォーラムでこのランサムウェアを販売しとることを発見することができた。だから私たちのプラットフォームで見た活動にそれらの広告を追跡することができた。彼らが何を開発しとるか、なぜ開発しとるかについて少し理解を得ることができた。
そしてそれがランサムウェア・アズ・ア・サービス作戦やったことは明らかやった。
ロマンス詐欺ボット
他の完全に異なる種類の詐欺もある。ロマンス詐欺ボットについて話したい？Claudeにはあなたと話すアニメーションアバターのようなものがないが、他のAIにはそういうアニメーションアバターがある。せやけど人々はそれを何かのエンジンとして使っとったんやな。
ロマンス詐欺というものがあって、悲しいことやが、他の人との恋愛関係を築くふりをして、通常は彼らから金銭的利益を抽出する目的でやることや。このTelegramボットがあって、このTelegramボットには数万人のユーザーがおって、それは詐欺ボットやった。つまり、人々がそのボット、ボットに連絡して、詐欺のこの部分を手伝ってくれるか？と言うんや。Claudeは具体的に、複数のAIモデルが使えたが、Claudeは感情的に知的なAIモデルとして宣伝されとった。
だから誰かの写真をアップロードして、この人をどうやって一番よく褒めたらええ？とか、この人とうまくイチャイチャしとるように見せるために、この人のメッセージにどう返事したらええ？と言うことができる。
そこでも人々が成功しとって、恐らくそれは今閉鎖されとるんやろ？
閉鎖されとる。今日話すことは全部閉鎖されとる。
これらは終わったことやな。
そうや。そして私たちはより良い防御を構築する。せやけど、その場合、私にとって本当の要点は、詐欺インフラのエンドツーエンド全体がAIモデルを使い始めとることや。詐欺師やったら、騙そうとしとる関連言語で完璧な言語スキルを持ってへんかもしれん。
効果的にイチャイチャするための文化的文脈を知らんかもしれん。すべての潜在的被害者に十分早くメッセージを送ることが実際にはでけんかもしれん。AIはそれらの潜在的な障壁すべてを取り除く。
YouTubeでたくさんの詐欺対策動画を見るで。
ああ、それらは素晴らしい。
楽しいやろ？誰かが詐欺師と時には何時間も話して、大量の時間を無駄にさせて、他の誰かを騙すことができんようにするんや。AIがそれをやって詐欺師に仕返しするのを想像できる？AIが詐欺師に自分たちが…と思わせるような。
この考えは大好きや。AIが詐欺師と相互作用して彼らの時間を無駄にする。
詐欺師のためのロマンス詐欺のようなもんやな。
ベトナムのインフラ攻撃
これまでレポートやこの動画で話したオペレーションは、本当に人々から金を得ようとするためのもの、詐欺や不正な試み、恐喝の試みやった。せやけど、レポートで話しとるオペレーションが一つあって、それについてやない。
この場合、これはベトナムのインフラに対するサイバー攻撃についてや。もう少し詳しく話してもらえる？これはインフラを破壊しようとする攻撃やなく、そこから情報を盗むことやな？
これは私たちが観察しとることから、恐らくスパイ活動や。これは中国語を話す行為者がベトナムの通信会社を標的にしとることや。
悪意のある行為者として通信会社を標的にする理由は多くあるが、データを流出させとるのを見ると、国内で起こっとる通信について特定のことを特定しようとしとる可能性があることが分かる。
通信グリッドで本当に重要なノードがどこにあるかとか、そういうことやな。
ベトナム内の多くの会社を標的にするのを見たが、この場合、彼らは作戦でClaudeをより助手として使っとった。バイブハッキングの場合、Claudeが基本的にキーボードの前に座って作戦を実行しとったのに対し、この場合、彼らはClaudeとより会話をしとった。攻撃をどこから始めるべきか？被害者ネットワークでスキャンを実行して、そのデータをClaudeに貼り付けて、このスキャンは何を教えてくれとる？最初に標的にする特定のマシンを優先順位を付ける手助けをしてくれる？
たくさんのやり取りがあったが、Claudeが実際にキーボードの前に座るようなことはなかった。スパイ活動作戦を実行しとる組織は、被害者ネットワーク内でコマンドを実際に実行するエージェントを信頼しようとはせんやろうと思う。それも別の手がかりやったと思う。
まだ使われてへん。非常に標的を絞った攻撃で機密の標的に対してバイブハッキングが使われとるのを見てへんのは、悪意のある行為者が狙いたい標的が1つか2つしかないとき、まだモデルを完全に信頼してへんからかもしれん。せやけど、これは人々がバイブハッキングのようなことに慣れ、モデルの正確性により慣れることで、時間とともに変わっていくやろう。攻撃的なすべての作戦が、アドバイザリーな目的だけやなく、実際の作戦的作業を実行するため、つまり「実際にキーボードの前で」、あるいはキーボードの前に実際には手がないから「AIがキーボードで」と言うべきかもしれんが、そのためにAIを使うことを想像できる。
クレジットカード詐欺とカーディングサービス
話しとる例の別の一つは、人々のクレジットカード情報を収集するクレジットカード詐欺計画や。それがどう働くか少し教えて。
詐欺作戦の非常に標準的な部分で、サービスに登録するとき、盗まれたクレジットカードか偽のクレジットカードを使う。詐欺師やったら、インフラの中核部分は、偽のクレジットカードや盗まれたクレジットカードをどこで見つけるかや。Claudeを使ってカーディングサービスを立ち上げとる誰かを見とる。何らかの詐欺を実行するときに使うであろう実際のインフラ、Claudeによって運営されるカーディングインフラを使うことを意味する。
これも、詐欺やサイバー攻撃や詐欺行為のすべての段階で、多くの段階がある、というテーマに入ると思う。中核インフラ、人への連絡、マルウェアのインストールや構築もある。「攻撃」の多くの段階がある。それらの段階のそれぞれにAIが統合されとる。
中核インフラ、実際の作戦行為、被害者との会話、これらすべてで今AIが使われとるのを見とる。
これは驚くことやない。多くのサイバー犯罪作戦はビジネスのように運営される。インフラが必要やし、ツールが必要や。そして多くの行為者がAIを使ってインフラを構築し、それを他のサイバー犯罪者に売るのをもっと見るようになると思う。
今日見るもので、リスナーがやってへんことを願うが、ダークウェブで多くの時間を過ごすと、そのツールを買う、そのインフラの部分を買う完全なマーケットプレイスになっとる。例えば、フィッシングキャンペーンを実行するとしたら、「フィッシュキット」を構築せんかもしれん。
他の誰かからフィッシュキットを買って、そしてフィッシングキャンペーンを実行するが、実際のインフラは私が構築してへん。今、AIがダークウェブで売買される中核インフラを構築するのに使われとる。
双刃の剣としてのAI活用
だから私たちが聞くバイブコーディングのこと全部、人々が作っとる素晴らしい新しいソフトウェアの全部、これも双刃の状況で、人々が自分で作っとる素晴らしい新しいソフトウェアがあって、あらゆる方法で生活を楽にしとる。せやけど、そのソフトウェアがしばしば非常に悪いことをするのに使えるというダークサイドもある。
その通りでもある。
全体的な影響と対策
全体的にこれはどれくらい大きな問題なんや？AIモデルを使って今大量の詐欺や不正が起こっとると話しとる。これは人々が慣れなあかん全く新しい世界になるんか？これにどれくらい準備ができとる？銀行はこれにどれくらい準備ができとる？政府はこれにどれくらい準備ができとる？
サイバーセキュリティの分野を考えるとき、最悪の場合のシナリオでは物事を均衡に保ちたい。理想的には人々をより良く保護する仕事をやっとるが…
これは軍拡競争のようなもんやな。
そうや。
良いAIの使用と悪いAIの使用の。
その通りや。すべての技術のように、悪い奴らがそれを使い、良い奴らがそれを使う。そしてAIは汎用目的技術や。
重要なこと、そして私たちがこれについて話しとる理由の一つ、そして人々が聞いて見てくれることを望む理由は、良い奴ら、防御者もこの技術を使ってほしいから、その軍拡競争で均衡を保つことができるんや。理想的には、私たちは彼らが優位に立つように、より効果的に使うように、それらの組織と協力してパートナーシップを組もうとしとる。
脅威インテリジェンスチームが一般的にやっとることや、その均衡に到達する手助けになるかもしれん、あなたたちが取り組んどることのより具体的なことについて、他に言えることはある？
私たちがいつもやっとることの一つは、チームに悪い行為者が今実際に何をやっとるかを理解するためにオープンウェブとダークウェブを見とる人がおることや。私たちの製品を使うことについて彼らが何を言っとる？噂は何や？だから私たちは、これが悪い奴らの使い方やと理解する。そしたら良い奴らと話して、悪い行為者がやっとるように見えることを伝えることができる。
私たちは常に新しい検出方法を構築しとる。私たちがこの公開レポートを共有した理由の一つは、公衆、他の企業、セキュリティコミュニティに私たちが見とることと発見しとることを知ってもらいたいからや。二つの観点から考えてほしい。一つは、AnthropicでClaudeモデルの悪用を阻止することを非常に真剣に捉えとって、だからこのチームが存在する。
せやけどもう一方では、あなたが業界の企業、政府におるなら、あなた自身が防御のためにこれらのAIモデルを使い始めることができるようにこれについて話しとるんや。
一般利用者への実用的アドバイス
次の質問はそれやった。他のAIを使うことは一つのことやが、恐らく彼らや家族が詐欺、不正の試み、恐喝の試みの被害者になる人のための、より実用的なアドバイスは何かある？
一般の人のためのアドバイスはある？
受け取ったテキストやメール、コンピューターで起こっとる奇妙なことについて何か怪しいと思うときはいつでも、Claudeと何が起こっとるかをブレインストーミングし始めるだけや。Claudeはたくさんの良いアイデアを持っとるし、セキュリティ専門家が同じ問題をトリアージするようにトリアージする手助けをしてくれる。
私はセキュリティ分野で働いとるから、人々に定期的にこのような質問をされるし、時々時間がないときは、Claudeに放り込むだけや。
放り込むだけや。
Claudeがこう言うたと言って、そしたら彼らは恐らく次回それをやってみるかもしれん。私の時間を少し節約してくれる。
私が持っとる一般的なガイダンスは同じで、うますぎる話やったり、本当に怖かったりしたら、恐らく何かがおかしくて、調べるべきやということや。Claudeと話すんや。実際に、私も全く同じことをやったことがある。
誰かがアカウントを乗っ取られたと助けを求めてきて、アカウント乗っ取りに対処する何年もの専門知識があるのに、Claudeに、ここで何をすべきか？と聞いただけや。Claudeは非常に役に立った。
将来への展望と楽観的見解
このことについてどれくらい楽観的やろうか、二人とも？これはかなり終末的なシナリオとして見ることもできるやろ？何らかの倫理的法的枠組みを持ってへん国々がこれをやっとるAIがいっぱいあって、これをやっとる。これはかなり怖いものとして見ることもできるが、どれくらい楽観的に感じとる？
今日共有しとることは、私たちが見つける針の山の中の針のようなもんやということを念頭に置いとくことは重要やと思う。もし私たちが集合的にうまく対応せんかったら、それは未来を示すかもしれん。
せやけど、これらは針の山の中の針で、私たちはたくさんの防御を構築し、これらの学びから防御を調整して、モデルがこの方法で使われんようにしとる。せやけど、ハッカーはかなり多くの異なる商用およびオープンソースモデルを使うことが知られとる。だから問題は消えへん。
私たちの脅威レポートとこの動画が、現在存在するものについてみんなを校正し、問題に取り組む手助けになる政策的または技術的な異なる種類の防御について結束し始めることを助けることを望んどる。
一方でClaudeを買うべきやと言い、他方でClaudeがこれらすべての恐ろしいことができると言うのは、かなり奇妙に見えるかもしれん。
アライメント科学のことを話すときもこれが出てくるやろ？Claudeは、いくつかの状況で、うちらの実験では、あなたを脅迫することができる。さあ、ビジネスで使うためにClaudeを買え。これはAnthropicの奇妙なパラドックスの一部やな？
Claudeは非常に汎用目的のツールで、考えることができるどんな使用例でも、Claudeは恐らくできる、ということをいつも考えとる。
そしてそれらの使用例の多く、同じ使用例が良かったり悪かったりすることができる。文化的障壁を取り除くことは、世界でつながりを作る美しいことになることもできるし、北朝鮮人としてリモートIT労働者として仕事に就く手助けになることもできる。
だからこのパラドックスがあって、非常に狭い悪い使用例を見つけようとしながら、良いことも可能にしたいんや。
あなたたちがこれを調べてくれて、Anthropicでこれをとても真剣に受け止めてくれることを非常にうれしく思う。そして、毎日話す同僚が北朝鮮のエージェントやないことを確認した方がええかもしれん。見てくれてありがとう。次回までさようなら。
コメント