大規模言語モデルがOSに統合されることで、サイバー攻撃の主流であるソーシャルエンジニアリングを根絶できる可能性について専門家たちが議論を展開する。AIがユーザーの行動パターンを学習し、フィッシングや詐欺を未然に防ぐ未来が提示される一方で、AI自身がプロンプトインジェクションなどの新たな攻撃対象となるリスクも指摘されている。さらに、ワールドカップなどの世界的イベントに便乗した大規模なサイバー犯罪のエコシステムの実態や、エストニアが進めるAIエージェントへの個別ID付与の取り組み、そしてアプリケーションセキュリティを強化するためのIBMとOpenAIの新たなパートナーシップについても詳しく解説されている。
AIはソーシャルエンジニアリングを終わらせるか
Dark Readingの新しい意見記事では、LLMがソーシャルエンジニアリングに終止符を打つ可能性があると書かれています。これについてどう思いますか。Dave、まずはあなたから意見を聞かせてください。
AIが私たちから学習することで、こういった脅威から安全になれるというのは素晴らしいことだと思います。ただ、人間だけがソーシャルエンジニアリングの被害に遭うわけではありません。LLM自身もソーシャルエンジニアリングの対象になるからです。ソーシャルエンジニアリングの終わりは、人間が賢くなった時に訪れるのではありません。日常的な信頼の決定プロセスから人間が完全に排除された時にこそ、それは起こるのです。
こんにちは、IBMの週刊サイバーセキュリティポッドキャスト、Security Intelligenceへようこそ。ここでは専門家のパネリストたちが、業界の大きなニュースを実践的な学びに変えてお届けします。ホストのMatt Kazinskiです。本日ご参加いただくのは、X-Force Cyber Rangeの北米リードマネージングコンサルタントであるDave Bales、セキュリティ検知エンジニアのKimmy Farington、そしてIBMフェローでありセキュリティリサーチCTOのJ.R. Raoです。
本日は、サイバー犯罪者がワールドカップをどのように利用して大混乱を引き起こしているのか、そしてAIエージェントに独自のアイデンティティを与えるというエストニアの提案について話し合います。さらに、IBMがOpenAIのDaybreak Cyber Partnerプログラムに参加したニュースもお届けします。このパートナーシップがどのようなもので、アプリケーションセキュリティの世界に何をもたらすのかについて、特別セグメントをご用意しています。
ですがまずは、AIネイティブのオペレーティングシステムがソーシャルエンジニアリングを解決できるかどうかについて、もう少し詳しく話していきましょう。これは、サイバーセキュリティ戦略家であり作家でもあるArun VishwanathがDark Readingに寄稿した意見記事に基づくものです。彼は確かに事態はそのように進展していくと考えています。LLMがオペレーティングシステムに統合されるにつれて、ソーシャルエンジニアリングに対する信頼性の高い技術的防御がついに実現するかもしれないと彼は主張しています。
そのアイデアはこうです。適切なアクセス権があれば、OSに統合されたLLMは、プラットフォームやアプリを横断してデバイス上で起こっていることすべてを仮想的に把握できるはずです。このコンテキストと、大量のデータを極めて迅速に解釈するLLMの能力を組み合わせれば、ソーシャルエンジニアリング攻撃をフラグ付けするかなり信頼性の高いシステムが完成しますよね。通常のスパムフィルターはメールしか見えませんが、メールに加えてそこで起きていることすべてを把握できるLLMならどうでしょうか。
Arunはこれを、2000年代初頭におけるエンドポイント保護ツールの台頭になぞらえ、それらがどのようにコンピューターウイルスを激減させたかを語っています。おそらくLLMはソーシャルエンジニアリングに対しても同じような効果をもたらすかもしれません。
それでは、ここでの私たちの最初の反応を掘り下げることから始めましょう。Dave、冒頭でまずあなたに伺いましたが、もう少し詳しく説明していただけますか。AIがソーシャルエンジニアリングの終焉を助ける、あるいは少なくとも大幅に減らすことができるというこのアイデアについて、どう感じていますか。
秋にリリースされるiOS 27のアーリーアダプターとしてお話ししますと、Siriがはるかに深く統合されています。なぜこの話を持ち出したかというと、SiriがLLMベースになったからです。誰もがすぐに違いに気づくような即効性はありませんが、ユーザーの行動パターンを学習し、何をクリックして何をクリックしないかを学習するようになれば、少なくともソーシャルエンジニアリングの最大のリスクを排除する上で、実は非常に大きな助けになる可能性があると考えています。
それはArunが記事で述べていることにも繋がりますね。後でもう少し詳しく掘り下げたいのですが、パスワードの代わりにそういったシグナルを認証に使えるかもしれないというアイデアは、非常に興味深いコンセプトです。
Kimmy、次はあなたに伺いましょう。あなたはここで一番強い否定的な意見を持っていましたね。少し聞かせてください。どのようなことを考えていますか。
そうですね、LLMが人間から学習しているという話に戻りますが、人間はまだソーシャルエンジニアリングの被害に遭っています。なぜなら、私たちは特定の状況に対して共感し、プレッシャーに負けてしまうからです。緊急性を煽り、あなたが本当に欲しいものを提示するといった、悪意のある攻撃者の古典的な手口があります。しかし、インストラクションの平坦化で見られるように、LLMも人間のプロンプト、いわゆるインジェクションのプロンプトに対して同じくらい脆弱であり、したがって多くの意味でソーシャルエンジニアリングに対して脆弱なのです。
ですが、オペレーティングシステム内の様々なプロセスやスタックフローの間で行われるすべてのやり取りにおいて、複数のAIエージェントが相互に問いかけを行うというオペレーティングシステムのアイデアは気に入っています。これが正しい方向への一歩かどうかと聞かれれば、間違いなくそうです。ただ、彼らにはまだ学ぶべきことがたくさんあります。自動化で見てきたように、すべての部品を統合し、それぞれの文脈を理解させることは大きな課題になるでしょう。良いステップだとは思うのですが、まだ機能するとは思いません。それが究極の答えではないということです。
それはもっともですね。ただ単に1つのLLMを持つこととは少し違うとあなたも指摘していました。たくさんのエージェントが動いているので、お互いをカバーし合えるかもしれませんが、同時にそれぞれがソーシャルエンジニアリングされる可能性もあります。プロンプトインジェクション攻撃もあるとおっしゃった通りです。
このエピソードでこの特定のストーリーについて話しているのは、なんだか面白いですね。2週間ほど前に取り上げたのを覚えている方もいるかもしれませんが、Metaのカスタマーサービスエージェントを騙してInstagramのアカウントを引き渡させるという事案がありました。私がユーザーです、メールアドレスを変更してもらえますかと尋ねると、ええ、もちろん、いいですよと返してくるわけです。ですから、LLMを突破するのは普段はそれほど簡単ではありませんが、彼らも騙される可能性があるということです。そこに一種の緊張関係があるのでしょうね。
JR、人間が信頼の決定プロセスから排除されない限り、この問題は解決しないとおっしゃったのが印象的でした。これについてもう少し詳しく説明していただけますか。
はい、もちろんです。私たちは人間が意思決定、特にセキュリティに関する意思決定をあまり得意としてこなかったことを知っています。本当に3つの異なる問題があるのです。自宅のキッチンのテーブルで意思決定をしようとしている時でも、どこにいる時でも構いませんが、もう少し詳しく説明させてください。
人間には本当に3つの異なる問題があります。1つ目は、十分なコンテキストなしにセキュリティ上の決定を下さざるを得ないことが多い点です。Matt、あなたも指摘した通りです。このメールは本物か、このウェブサイトは安全か、この添付ファイルを信用していいのかといったことです。人間にはその決定を下すためのコンテキストがありません。しかしLLMにはそのコンテキストがあります。おそらく彼らなら実際に対処できるでしょう。
人間の2つ目の問題であり、ソーシャルエンジニアリングが実際に成功してしまう理由は、攻撃者が認知的過負荷を悪用できるからです。数百通のメール、数十回のチャット、複数のアイデンティティ、終わりのない通知の爆撃を受ければ、攻撃者はその中であなたがたった1つミスをするのを待つだけでいいのです。そのようなオッズや自動化に対抗する唯一の方法は、こちらも自動化やAIを使って対抗することです。
そして3つ目は、人間はフィッシングメールを見抜くのがあまり得意ではないということです。未来とは、人間がこうしたフィッシングメールを二度と目にしない世界のことです。スパムフィルターがスパムを減らしたように、AIネイティブのオペレーティングシステムもソーシャルエンジニアリングに対して同じようなことができるはずです。
そうは言っても、事態は好転し、ソーシャルエンジニアリングはもはや人間の問題ではなくなると楽観視している一方で、それはインターフェースの問題に変わるだろうと考えています。AIがソーシャルエンジニアリングを完全に排除するわけではありません。戦場が移行するだけです。攻撃者はKimmyが言った通り、AIアシスタント、信頼モデル、メモリシステム、そしてエージェントの命令をターゲットにし始めるでしょう。人間の弱さをカバーするために何十年も費やしてきた私たちは、そこでゲームを変え、AIが投げかけてくるこれらの問題にどう対処するかを考えることができるかもしれません。
全くその通りですね。インターフェースの問題になるという考え方はとてもしっくりきます。ソーシャルエンジニアリングがなくなるわけではなく、ターゲットが変わるだけなのですね。人を直接狙う代わりに、モデルを攻撃し始めるというわけです。
新しい認証とAIの振る舞い分析
それでは、ソーシャルエンジニアリングを止められるかどうかだけでなく、Daveが触れた認証のアイデアについても話しましょう。Dave、あなたが少し言及していたのでお聞きしたいのですが、Arunが記事で触れているこのアイデアについてどう思いますか。彼の言葉を少し引用します。
パスワードやセキュリティの質問を求める代わりに、未来のシステムは最近の行動、昨日話した相手、空港に行く前に検索した目的地などの組み合わせを通じて身元を確認するかもしれない、と彼は言っています。
この可能性についてどう思いますか。Dave、このようなシフトを起こすことで、少なくとも私たちを守る助けになると思いますか。
私たちは常に、知っていること、持っているもの、あるいは自分自身であることというモデルを使ってきました。パスワードがあり、トークンキーがあり、網膜スキャンや指紋認証があります。これらはすべてうまく機能しています。しかし、毎日のコンピューターライフにおける私たちのパターンや習慣、何をクリックし、誰と話すかを実際に学習する何かがあればどうでしょうか。
私とJRは直接会ったことはありませんが、以前Slackでメッセージをやり取りしたことがあり、私のAIアシスタントはそれを知っています。したがって、JRが私にメッセージを送ってきたとしても、私のAIが彼を未知の人物や不審な人物としてフラグを立てなかったため、私はためらうことなくそれをクリックするでしょう。これは素晴らしいことです。大きな可能性を秘めています。Kimmyが言ったように、まだそこまでは到達していないと思いますが、近い将来、量子コンピューターが登場する頃には実現するかもしれません。
そうですね。行動的認証については少し前から議論されてきました。長い間、それはIPアドレスやタイピング速度などに限られており、簡単に模倣できるものでした。しかしDaveが言うように、これらすべての要素を総合できるLLMがあれば、おそらくそれを解き明かすことができるでしょう。認証情報を盗むのと同じように行動パターンを盗むことはできません。ですから、誰かがフィッシングに引っかかったとしても、それを利用するのは難しくなると思います。
しかし、ここで1つの疑問が浮かびます。Kimmy、これについて何か考えがあれば教えてください。この会話で何度か出てきたジレンマにどう対処するべきでしょうか。LLMは私たちの失敗をカバーし、互いにカバーし合えるかもしれませんが、最終的には各LLM自体が攻撃ベクトルになる可能性もあります。この問題のその部分をどう処理するか、何か考えはありますか。
私はまだ行動に基づく回答について考えていました。JRが指摘したように、人間にはいくつかの大きな弱点があります。そのうちの1つは、私たちが時折完全にランダムな行動をとることです。パターンを探すように何かを訓練したとしても、私が今日そのパターンを破って完全にランダムなことをしようと決めたらどうなるでしょう。LLMはパターンを探しているので、私はフラグを立てられることになります。私はコンピューターではありません。パターン通りには動きません。まあ、パターンは好きですが、それは重要ではありません。
それは非常に良い指摘だと思います。私たちは自分自身のパターンから外れることがありますよね。十分に洗練されたAIならそれにも対処できるようになるというのが希望ですが、どうでしょうね。AIが解決してくれるだろうというのは、ちょっとごまかしているような気もしますし。
ただ私がお聞きしたかったのは、AIが私たちの失敗をカバーしてくれる一方で、AI自体が攻撃ベクトルになる可能性があるというジレンマにどう対処するかということです。JRが言ったように、私たちが彼らをソーシャルエンジニアリングし始め、人間への攻撃ではなくインターフェースへの攻撃になれば、全く新しい問題になります。この部分にどう対処するか、考えはありますか。
それは認証情報の盗難と同じくらい難しい問題です。私に似ているか似ていないか。行動やトークン、最後に私がしたことに基づいて、私に似ているかどうかをどうやって判断するのでしょうか。そして、たとえ私が異常な行動をとった直後だとしても、それが本当に私であったことをどうやって証明するのでしょうか。
これらは本当に良い質問で、現時点では本当の答えが何なのかわかりません。ですが、エージェントの数が減るのではなく増えることで、希望はあると考えています。より多くの場所を見るものが増え、それぞれの役割について非常に具体的な文脈と理解を持っていれば、これらの答えに近づけるという希望を持っています。ただ、私自身は孤立してしまうかもしれませんが。
でも、それは良い指摘です。物事は多くの目で見られているほど安全であるのが普通です。たくさんのAIエージェントがいれば、それはある意味で多くの目になりますよね。ですから、私もそれにはある程度の希望を持っています。
JR、このセグメントを締めくくるにあたって、あなたの考えを聞かせてください。今これを防衛側として見ていて、LLMがどう役立つかを考えている人にとって、これらの機能を活用するために今すぐ取り組むべきステップはありますか。
私たちはエージェントによるこの領域の探索を始めたばかりです。私たちはこれまで人間の弱さとともに生き、多要素認証や多要素生体認証といった様々なメカニズムを使用してきましたが、ある時点で到達できる限界に達しました。そして今、私たちはエージェントを使って新たなスタートを切りましたが、当然ながらエージェントの弱点も発見しつつあります。彼らはプロンプトインジェクションを受ける可能性があり、ハルシネーションを起こし始める可能性もあります。
私たちは今、その地形を学んでいるところです。おそらく少し火傷をしながら教訓を学び、それを受け入れて少しずつ理解していく必要があると思います。しかしその後、重要なポイントでループ内、あるいはループ上に人間を配置し、両方の弱点ではなく強みを収穫できるようになるという、非常に素晴らしい共生関係が築ける可能性があります。
ああ、モデルへのフィードバックという概念について考えていました。ガードレールやフィードバックループが全くなければ、どのように毒されたり破損したりするのかと。ですから、モデルが意図されたことを行い、ランダムなことをしないように、私たちがループに留まり、モデルを正しい軌道に乗せておく必要があるのですね。
多数のエージェントが私たちのためにコメントし、私たちがエージェントのためにコメントするという、美しいフィードバックループですね。
ワールドカップ詐欺エコシステムと防衛策
さて皆さん、本日の次のニュースに進まなければなりません。その前に、視聴者やリスナーの皆さんにお願いです。ソーシャルエンジニアリングからの防衛にAIがどのように役立つかについてお考えがあったり、実際に使っていたりする方は、YouTubeのコメント欄に書き込んでください。読んでお返事します。
それでは、今週の2つ目のニュースに移りましょう。オペレーション・ファントラップとワールドカップ詐欺エコシステムについてです。皆さんご存知の通り、ワールドカップが開催されていますが、平均的なアメリカ人である私は、海外からの観光客をフィラデルフィアに送るのは意地悪だということ以外、何も知りません。私がフィラデルフィア出身だから言えることですが。
また、サイバー犯罪者がこれを口実に人々を騙していることも知っています。驚くことではありませんね。Cyber Research and Intelligence Labsの人々は、この巨大なワールドカップ詐欺エコシステムをオペレーション・ファントラップと名付けて調査を行ってきました。彼らは、マルウェアの拡散、金銭の窃取、認証情報の乗っ取りなどに詐欺的なワールドカップのブランディングを利用している悪意のあるドメインを4,000近く特定しました。
Kimmy、ここから始めたいと思います。これほど大きなイベントの周囲で、これほど大規模な詐欺が行われていることに驚いていますか。どのように考えていますか。
またしても強い否定になりますが、ごめんなさい。全く驚いていません。興味深いのは、この事象の周囲に発達した産業の深さと広がりです。彼らはチケットであなたを騙すだけでなく、ストリーミングサイトでも騙そうとします。それは本物のストリーミングサイトなのか、アクセスした際に料金を請求されるのか、実際に番組を見ることができるのか。あらゆる種類の興味深い手口があります。クリックしようとしているまさにその瞬間に、あなたの認証情報が盗まれていることもあります。ですから、その点においてこのレポートは非常に興味深いと思いましたが、決して新しいことではありません。全く新しくないのです。世界的イベントであれ、地域的、国際的、全国的なイベントであれ、大きなイベントがあるたびに、悪者たちはすぐに飛びついて利用しようとします。
全くその通りですね。偽のストリーミングサイトに言及されたのも面白かったです。なぜなら、そこでの問題は海賊版行為そのものではなかったからです。もちろん海賊版は悪いことですが、問題はそれではなく、無料のストリームを見られると見せかけて、実際には単にお金を盗むという手口だったことです。私はそれを称賛するつもりはありませんが、それがうまく機能しているのは事実です。
JR、うなずいていらっしゃいましたね。あなたのご意見を伺いたいです。ワールドカップの詐欺エコシステムについてどうお考えですか。
このセグメントではワンライナーを求められているようなので、私のワンライナーを披露しましょう。ワールドカップは単なる世界的なスポーツイベントではありません。世界的な攻撃対象領域なのです。
素晴らしい。お見事です。JRが登場するたびに、いつもこのような切れ味鋭い言葉を放ってくれますね。続けてください、JR。すみません。
ええと、実際に何が起きているのか見てみましょう。サイバー犯罪者は常に人々の関心を追っており、ワールドカップほど注目を集めるものはありません。4年に1度しか開催されず、おそらく最も人気のあるスポーツの1つです。緊急性が高まり、感情が高ぶり、取引が増加します。これらすべてが起こるとどうなるでしょうか。警戒心が低下するのです。そしてそれこそがまさに攻撃者の望んでいることです。
彼らが行っている詐欺は非常に洗練されているわけではなく、より産業化されています。何千ものドメインを標的にでき、偽のチケット、グッズ、おっしゃるようなストリーミングサイト、旅行パッケージ、プレゼントキャンペーンなどを用意できます。マーケティングが犯罪のために兵器化されていると考えてください。
被害者が犯す最初のミスは、多くの場合クリックする前の段階で起きています。これほど人気があり、注目を集めるスポーツですから、人々はそれとともに成長し、スター選手に憧れを抱いています。これはサイバー犯罪者が求めるすべての条件を備えています。人々はワールドカップのチケットを手に入れるために警戒を解くことを厭わず、そこで割引されたFIFAパッケージや、無料ストリーミングといった言葉に飛びついてしまいます。
攻撃者は、大半の防衛担当者よりもこのような検索行動をよく理解しています。これらが今起きていることであり、4年に1度急増する社会的な攻撃対象領域に対処する際に、私たちが向き合わなければならない現象なのです。
感情的な要素を持ち出してくれて良かったです。感情が高ぶっている時こそ、詐欺師にとっては最高のチャンスであり最大の味方ですからね。4年に1度のビッグイベントで、人々がチケットを必死に求めている状況は、どう機能するか想像に難くありません。
それでは皆さんにラウンドテーブル形式で質問したいのですが、結局のところ、企業にいるにせよ個人にせよ、こうした詐欺について私たちは何を知っておくべきでしょうか。Kimmy、防衛側として、あるいは単に詐欺から身を守ろうとしている人々にとって、これらが何を意味するのか、何か考えはありますか。
技術的な答えを出すと驚かれるかもしれませんが、最近、ブラウザ内で動作し、ブラウザレベルで起きていることすべてを検査する、EDRのような新しいセンサーがあると聞きました。私たちがよく知っている特定のセキュリティプロバイダーが現在作成しているものです。
すでにファイアウォールでの対策は済んでおり、これでブラウザのレイヤーでの対策も可能になります。そして、そのすべてをテレメトリとしてSIMに送信し、EDRと相関させることができます。EDRではブラウザ内で起きていることが見えないことが多いからです。ブラウザにアクセスしたことや、ブラウザがその間にいたことはわかりますが、そこで何が起こったかは見えません。
先ほども話に出ましたが、ユーザーは常に脆弱な存在です。しかし、自動化やエージェントは非常に強力です。彼らにはルールがあり、それに従い、感情には左右されません。もしブラウザの中を見て、そこで何が起きているのか、認証情報を盗もうとしているJavaScriptや、そのウェブサイトにアクセスした瞬間に突然発生する不審なコールホーム通信を確認できれば、はるかに早く対処することができます。もしかしたら、それが一つの答えになるかもしれません。
技術的な方向からのアプローチは素晴らしいと思います。ソーシャルエンジニアリングについて話す時、このエピソードのテーマにもなっていますが、解決策としてもっと教育をとよく言われますよね。しかし、どれだけ教育しても限界があります。教育は重要ですが、脅威全体を教育だけで排除することはできません。もしこれらの技術的なコントロールが役立つなら、先ほどJRが言ったように、人間を信頼の決定プロセスからできる限り遠ざけることで、これらの攻撃を成功しにくくすることができます。
JR、これについてお聞きします。このような巨大な詐欺エコシステムが存在する中で、人々に何かアドバイスはありますか。
はい、私はあえて非技術的なルートをとり、昔からある知恵を皆さんに思い出してもらおうと思います。もしその取引が公式のオファーよりも条件が良すぎるように見えるなら、証明されるまでは詐欺だと疑ってかかるべきだということです。当然、信頼できる情報源から購入すべきですし、緊急性がセールストークの一部になっているなら、そこで立ち止まるべきです。何かがおかしいとわかるはずですから。
私たちが幼稚園の頃から教わってきた、時の試練に耐えてきたことの多くがここにも当てはまると思います。世の中にうまい話はなく、もし安く支払っているなら、それには十分な理由があるのだと立ち止まって疑問を持つ必要があります。
AIの時代にあっても色褪せない、時代を超えたアドバイスですね。Dave、このセグメントを締めくくるにあたって、自宅にいる人々がこのような詐欺から身を守るためのアドバイスはありますか。
今は2026年の6月ですが、これがなくなることは決してないと思います。だからこそ、クリックしないでくださいと言いたいのです。
笑い事ではありませんよ。KimmyとJRは技術的な面と非技術的な面の二極端な話をしました。KimmyがSIMやEDRについて話しているのを聞いていましたが、一般の人々はSIMもEDRも、さらにはファイアウォールさえ持っていません。では、どうやって彼らを守るのでしょうか。そしてJRは、物事を額面通りに受け取らず、自分が何に巻き込まれようとしているのかを深く掘り下げる必要があるという教育の側面に触れました。
ソーシャルエンジニアリングについて話す時、私の標準的なお決まりの答えはこれです。クリックするのをやめて、少し立ち止まって調べてください。
クリックするなとは言っていますが、緊急性を煽るものはどこにでもありますよね。私も家を買ったばかりなのですが、突然、銀行からの住宅ローンに関する緊急で公式な書類に見える郵便物が大量に届き始めました。これは本当に私の銀行からなのだろうかと考えます。細かい文字を読むと、実は私たちはあなたの銀行とは提携していませんが、公開記録を見てあなたが住宅ローンを組んだことがわかったので、住宅ローン保険などを売り込みたいのです、と書かれています。それでも、その緊急性と公式な見た目の文書はやはり怖いです。すっかり忘れていました。
Dave、そのクリックするのをやめてという言葉。最近あなたが番組にいなかったので、しばらくそのキャッチフレーズを聞いていませんでした。復活させてくれて嬉しいです。このセグメントを終える前に、何か他に最後の言葉はありますか。
KimmyとJRの二人は、ビジネス面でも個人面でもまさに的を射ていたと思います。これは今後も起こり続けるでしょうが、より良い取引を得るためだけに、やみくもにクリックするわけにはいきません。私もワールドカップに行きたいです。熱狂的なサッカーファンではありませんが、ぜひ行きたいです。しかし、1,000ドルから5,000ドルもするようなチケットが、500ドルで手に入るかもしれないというリスクを冒すつもりはありません。私にはそれだけの価値はありません。その500ドルの節約が手元に戻ることはないとわかっていますし、この一連の出来事をきっかけに、最初の500ドルをはるかに超えるものを失うことになるからです。昔からよく言われるように、うますぎる話には裏があるものです。
その通りですね。
エストニアのAIエージェントID提案
次はエストニアからのニュースです。人間に対して個人IDを付与するのと同じように、AIエージェントにも個人IDコードを付与することを検討しているそうです。明確なエージェントのアイデンティティがあれば、説明責任と権限のスコープ設定の両方に役立つという考えです。
個人の権限をすべて継承するのではなく、エージェント自身のアイデンティティにスコープされた権限を持たせることができます。そして、エージェントの行動を特定のエージェントまで追跡することができるため、誰が何のために何をしているのかを少し詳しく把握できるようになります。人間以外のアイデンティティ問題には長い間悩まされてきましたが、エージェントの登場により、その問題はさらに緊急性を帯びてきています。
JR、どう思いますか。エストニアはこの問題の核心を突いているのでしょうか。AIエージェントのIDというアイデアは進むべき道でしょうか。これについてどう感じていますか。
そうですね、人間の野心というものは常に上を目指すものであり、私たちは常に手持ちの技術でより多くのことを行いたいと望んでいます。エージェントにIDを提供して力を与えるというのは、いずれ私たちが探索したであろう道であり、エストニアは偶然にもこれに取り組み、実行できる最初の国の一つになったのだと思います。
そうは言っても、留意しなければならないことがいくつかあります。強力なエージェントにはアイデンティティ、説明責任、そして認可が必要です。これまで私たちは認可に大きく依存してきましたが、アイデンティティのようなものを見落としていました。アイデンティティは説明責任とトレーサビリティにとって非常に重要です。
私たちが抱えるすべてのコンプライアンス体制の下で、AIを企業に導入する希望があるのであれば、エージェントの行動がコンプライアンスに準拠していること、つまり説明可能で追跡可能であることを確認しなければなりません。
私たちが話し合っている2つ目のことは、アイデンティティおよびアクセス管理システムの限界を押し広げることになるということです。今日、企業には通常5万人から10万人の従業員がいます。ジェンスン・フアンのGTCでの基調講演を聞くと、彼はNvidiaで500万のエージェントを持つことを予想しています。その規模は、私たちが持っているアイデンティティとアクセス管理のアーキテクチャをすべて破壊することになります。私たちはこれらのアイデンティティを管理する方法を見つけ出さなければなりません。
そして3つ目は、エージェントのアイデンティティとは何かということです。それはあなたや私が考えているような、ユーザーIDやパスワード、パスキーなどのアイデンティティだけではないかもしれません。エージェントのアイデンティティは、最初のセグメントで話したような、プロベナンス、所有者、目的、評判、権限などに基づく可能性があります。単なるエージェント名やユーザー名では十分ではないかもしれません。
ですから、これは探索すべき重要な道だと思います。エストニアは大胆な一歩を踏み出していると思います。しかし一つ心に留めておいてほしいのは、認証された悪意のあるエージェントは、認証されていないエージェントよりもはるかに大きなダメージを与える可能性があるということです。この考えを皆さんに残しておきたいと思います。
それは本当に良い指摘ですね。私はこの番組でよく引用するのですが、Dave McGinnessが言ったように、AIエージェントは私たちがこれまで持った中で最も役立つ内部脅威なのです。まさにその点を突いていると思います。
またJRが指摘したように、これがなぜそれほど難しいのかという理由の一部は、AIエージェントのアイデンティティが人間のアイデンティティと全く同じではないからです。人間に焦点を当てたアクセス管理の実践をそのままエージェントに適用することはできず、彼らが実際にどのようなものかを把握しなければなりません。
Dave、これについてあなたの見解を伺いたいです。特に、AIエージェントにアイデンティティを与えることが新たな攻撃ベクトルを開く可能性について懸念があるかどうかも含めて教えてください。ここで心配すべきことはありますか、それともどう感じていますか。
はい、実のところそれが私の言いたかったポイントです。質問してくれて嬉しいです。AIエージェントにIDを提供するという点で、エストニアは確かに良い着眼点を持っています。それは間違いありません。しかし、そのAIエージェント自身が侵害されるのを何が防ぐのでしょうか。現在LLMにはガードレールがありますが、それらは常に回避されています。
私たちはAIエージェントにアイデンティティを与えます。それがユーザー名であれ、パスワードであれ、パスキーであれ、それがどのような形であってもです。しかし、攻撃者がネットワークに侵入するのをどこで防ぐのでしょうか。これがループ内に人間がいる場合と比べて、どうして安全だと言えるのでしょうか。
私にはその答えがわかりません。この記事を読んでいてずっと考えていたのはそこです。彼らはエージェントにIDを与えるつもりですが、それが攻撃されて侵害されるのを何が防ぐのでしょうか。何もありません。人間が陥るのと同じ罠に陥ることになるでしょう。もしかしたらクリックする回数は少し減るかもしれませんが。
ソーシャルエンジニアリングに見事に話を戻しましたね、Dave。
意図してその方向に行ったわけではないのですが、結果的にそうなってしまいました。
いえいえ、あなたがそうしてくれて良かったと思います。このエピソード全体を通して、一貫したテーマがありますからね。ソーシャルエンジニアリングの問題だけでなく、エージェントが入り込んできて、OSや企業内で私たちのためにクリックしたり買い物したりするようになった時、彼らに対するリスクをどう管理するのかという問題です。
私もこの記事を読んで全く同じ疑問を持ちました。確かにこれらを追跡し、権限をスコープするためにはエージェントのアイデンティティが必要ですが、それは人間のアイデンティティが盗まれるのと同じように盗まれる可能性のあるアイデンティティにすぎませんよね。JRが言ったように、認証された悪意のあるエージェントは最も危険な存在になり得ます。
それではKimmy、少し答えにくい質問を投げかけさせてもらいます。どうすればそれを防ぐことができるのでしょうか。ガードレールやエージェントを保護するために私たちができることについて、何か考えはありますか。
いいえ、特にありません。申し訳ないですが、今回は私にとってノーのエピソードのようです。
答えにくい質問だと言ったじゃないですか。続けてください。
ですが同時に、この話題や全般的なことについて記事を読んだ時、私が最初に思ったのはうわあということでした。JRが指摘したように、スケーラビリティはここで本当に大きな課題になると思われます。
そして、エージェントはどのような形をしているのでしょうか。ある場合には非常に短命で、30分間使ったら消えてしまうようなものです。それにどのようなアイデンティティが与えられるのでしょうか。あるいは、何千年も存在し続け、LLMのコアであり続けるために作成されるものかもしれません。わかりません。しかし、いつパスワードを変更する必要があるかをどうやって決定し、どうコントロールするのでしょうか。
ここでも私は技術的な回答に傾いている気がします。おそらくActive Directoryのようなものを立ち上げたいと思うかもしれませんが、それは一時的なトークンのようなものです。彼らはそれをすぐに受け取り、その瞬間の要件に基づいて必要なことを行うために非常に短い期間だけ使用し、そして再び消え去るというようなものです。そうすれば誰もトークンを盗んで再利用することはできません。
この答えが正確にどう機能するかはわかりません。ただ、スケーラビリティをどうやって実現するつもりだろうと考えたのです。どうやってこれらすべてのエージェント、何百万ものエージェントに独自のアイデンティティを与えるのでしょうか。確かに大きな数のシステムはありますが、その時点で本当にスケーラブルなのでしょうか。
IBMとOpenAIの提携による新サービス
JR、Kimmy、Dave、本日はご参加いただきありがとうございました。それでは、番組の最終セグメントに移りたいと思います。Daybreak Cyber Partnerプログラムの一環としてのIBMとOpenAIの新たなパートナーシップについて話を聞くため、アプリケーションセキュリティのオファリングリーダーであるJayesh Kamatをお迎えしています。
今週初め、IBMはOpenAI Daybreakに参加し、OpenAIのモデルを使用した新しいアプリケーションセキュリティサービスを立ち上げました。パートナーシップの詳細と、それがより広範なセキュリティにとって何を意味するのかについて語っていただくため、IBMサイバーセキュリティサービスのアプリケーションセキュリティ・オファリングリーダー、Jayesh Kamatにお越しいただきました。Jes、本日はありがとうございます。
まず初めに、このパートナーシップについて教えていただけますか。IBMとOpenAIは何をしようとしているのでしょうか。
お招きいただきありがとうございます。素晴らしい質問ですね。IBMとOpenAIは、顧客のアプリケーション資産、特に最新のフロンティアAIの脅威から彼らを守るために、共同でクライアントにアプローチすることに合意しました。コードをチェックして脆弱性を特定し、次のステップとしてその脆弱性を確保する支援を行うために、協力して取り組んでいきます。それが私たちの合意した基本的な内容です。
IBMがOpenAIのモデルで立ち上げたこのアプリケーションセキュリティサービスについて、もう少し詳しく話しましょう。フロンティアAIの脅威から身を守るのに役立つと先ほど言及されましたね。このサービスとはどのようなものか、人々はどうやってアクセスするのかについて、もう少し詳しく教えていただけますか。
もちろんです。サービス自体はセキュリティ・ハーネスと呼ばれています。分かりやすくするために、この特定のサービスには一般的な業界用語を使用しました。サービスは非常にシンプルです。
私たちはハーネスを使用してフロンティアAIモデルの力を制御し、それらがよりエンタープライズ向けになり、企業の要件の範囲内で機能するようにしています。基本的にフロンティアAIモデルの力を制御するわけです。それらを使用してクライアントのアプリケーションコードをスキャンし、コード内にどのような脆弱性が見つかるかだけでなく、複数のコードにまたがって連鎖する脆弱性についてもフロンティアAIモデルに考えさせます。
そして、それらをどのように悪用できるかを判断させます。さらに、私たちのハーネスには、AIモデルがそれらの脆弱性が実際に悪用可能であることを証明しに行く機能もあります。これらすべてを、ログ、監査、トレーサビリティなど、企業が必要とするすべてのコントロールを維持しながら、エンタープライズコンテキストで安全に行うこと。それがセキュリティ・ハーネスの役割です。
なるほど。ありがとうございます。それがどれほど重要であるか理解できます。ただコードベースにこれらのモデルを放り込むわけにはいきませんからね。ハーネスがそのガードレールを提供することで、安全に実行し、外で害を及ぼさないと信頼できるわけですね。
それでは、このパートナーシップはAI対応の脆弱性管理やアプリケーションセキュリティという広範な状況の中で、どのように位置づけられるのでしょうか。今後、このような進歩がさらに見られると予想されますか。
はい、もちろんです。これは私たちにとってほとんどユニークな機会だと思います。前世代ではクラウドが大きなものでしたが、今ではAIプロバイダーが巨大なテクノロジー企業になっていますからね。そういった観点から、私たちはOpenAIと協力して彼らのフロンティアモデルを活用しています。
私たちは彼らのフロンティアモデルに早期にアクセスできるため、テストのためのハーネスと機能を構築し、他の人々が利用できるようになった時には準備が整っている状態にすることができます。クライアントが利用できる頃には、私たちのハーネスはそれらを安全な方法で使用してクライアントと連携する機能を持っているということです。ですから、早期アクセス、共同制作、市場展開への協力、アルファクライアントなど、これらすべてを提供してくれる素晴らしい機会です。
ええ、全くその通りですね。IBMは、これらのモデルがエンタープライズのコンテキストで安全に、すぐに実用段階に入れるよう確認する上で重要な役割を果たしているのですね。
最後に、このパートナーシップについての考えや学び、あるいはこの取り組みに関して人々に知っておいてほしいことはありますか。
これは素晴らしい機会だと思います。私はこの業界に非常に長くいますが、これほどのことを見るのは久しぶりです。従来セキュリティ研究者が行っていた作業をAIモデルが実行できる能力というのは巨大な飛躍です。
これにより、これまではスケーリングや処理ができずにスキャンしきれず、私たちの視界や可視性から漏れていたすべてのコードを調べるという、とてつもない力がもたらされます。これからはそれらを保護できるようになるのです。過去にできなかったことすべてが今後できるようになり、このパートナーシップは両者の良いところをもたらしてくれます。私たちのハーネス、アプローチ、コンサルティングスキルと、日々向上しているモデルの強力なインテリジェンスが融合し、長年私たちを悩ませてきたアプリケーションセキュリティの問題を解決するのです。ですから、これは信じられないほど素晴らしい機能であり、出来事だと思います。とても興奮しています。
私も非常に興奮しています。皆さんが実際にこれを手にできる日が待ちきれません。Jes、この取り組みについてお話しいただき、本当にありがとうございました。皆様もこの新しいハーネスを楽しみにしていてください。
本日のエピソードは以上になります。パネリストのJR、Kimmy、Dave、ありがとうございました。Jesもありがとうございました。そして視聴者とリスナーの皆さん、プロデューサーの皆さんにも感謝します。エピソードを見逃さないよう、ポッドキャストが配信されているプラットフォームでSecurity Intelligenceをチャンネル登録してください。どうか安全にお過ごしください。そして忘れないでください。AIは私たちの問題の多くを解決する手助けをしてくれますが、すべてを解決してくれるわけではありません。あなた自身もまだ責任を負っているのです。
コメント