本動画は、AI エージェントとエージェントシステムのための高度なアイデンティティおよびアクセス管理戦略について解説するものである。4段階の成熟度モデルを通じて、エージェント環境を段階的に成熟させ、AI システムを将来にわたって保護する方法を提示している。アカウンタビリティの確立、最小権限の強制、悪用の防止、データ保護という4つの主要なリスクに対処しながら、アドホックな状態から基盤構築、強化、そして適応的なシステムへと段階的に進化させるアプローチを説明している。
AI エージェントシステムのセキュリティ成熟度モデル
皆さんこんにちは。この動画では、AI エージェントとエージェントシステムのための高度なアイデンティティおよびアクセス管理戦略について議論していきます。エージェント AM を管理し、AI システムを将来にわたって保護するために環境を成熟させるための4段階システムを紹介します。
それでは本題に入る前に、4段階成熟度モデルが何に基づいているのかについて少しお話ししましょう。
成熟度モデルは実は1986年の能力成熟度モデルから生まれたものなんです。これは実際に国防総省が後援したもので、彼らが本当に見たかったのは、基本的に何もない状態から非常に高度なシステムまで、システムにおいて達成できる進歩のレベルがあるかどうかということでした。これが1991年に登場し、私たちが成熟度モデルの基準とする標準のようなものになってきました。そして今日実際に使用するのもこれです。
AI システムにおける4つの主要リスク
さて、実際に成熟度モデルと AI およびエージェントシステムを成熟させるための4つのステップに入る前に、成熟度モデルを使用する際に実際に対処しようとしているリスクについて話すことから始めましょう。
AI のリスクについて考え始めると、多くのことが語られてきましたが、本当に主要なものにフォーカスしていきます。
最初のものはアカウンタビリティの確立です。これは、今日アプリケーションが構築される方法について考えると、本当に由来しています。アプリケーションを構築するチームがあり、彼らは必要なものに接続するために API キーを使用したり、機能 ID やシステム ID、つまりシステムやプロセスを一緒に接続するために使用する何かを使います。
しかし、それは本当にプロジェクトレベルのことなんです。それを行っているのは本当にプロジェクトチームであり、従来のシステムにとってはそれで問題ありません。しかし、エージェントシステムや非決定論的システムについて話し始めると、アカウンタビリティがどこにあるのかを本当に変えたくなります。それをエージェントと AI を中心に移動させたいですし、それらがどのように物事に接続しているかについてより多くの制御を持ちたいのです。
つまり、最初のリスクは本当にシステムにおけるアカウンタビリティをどのように確立するかということです。2番目のリスクは、最小権限をどのように強制するかということです。これは、私たちが望まないのはスーパーエージェントだということを話し始めます。多くのことを行うことが許可されたスーパーエージェンシーを持つエージェントは望んでいません。本当に彼らには単一のタスクに集中してほしいですし、それが彼らに許可されるすべてです。
では、そのタスクを実行するために必要な最小限のアクセスと権限は何でしょうか。これが最小権限から離れるときのリスクです。エージェントがリスクを開くのは、彼らがあまりにも多くのことができ、あまりにも多くのシステムにアクセスでき、人々がそれを悪用する方法を提供するからです。
次のリスクは本当に関連していて、悪用をどのように防ぐかということです。これは、誰かが意図的に私たちが望まないことをするエージェントを構築している悪意のある場合もあれば、開発者が素晴らしい AI ユースケースだと思って何かを構築し、意図せずに何らかの侵害や本来アクセスすべきでないものへのアクセスを導入してしまう非意図的な場合もあります。つまり、非常に非意図的である可能性があります。本当に確実にしたいのは、エージェントシステムにおけるエージェントのあらゆる種類の悪用を防いでいることです。
そして、リスクとして本当に見ている最後の大きなことは、データをどのように保護するかということです。これも、エージェントがデータをクエリしている場合、何らかの理由でデータへのアクセスを取得している場合、情報を持ち帰っているか、実際にプロセスを開始しているかですが、ユーザーがこの場合ユーザーを表している場合、そのユーザーが実際にそのデータにアクセスできること、そしてエージェントもそのデータにアクセスすることが許可されていることを確認したいのです。
不正なデータへのアクセスを防ぐためのガードルールが設置されていることを確認したいのです。これらが、エージェントシステムをどのように保護するか、そしてそのための成熟度モデルは何かを考えるときに話す本当のリスクなんです。
ステップ1:アドホック段階
では、成熟度モデルの最下層から始めましょう。
この最下層は本当にアドホックです。これを成熟度ステップ1と呼びましょう。アドホックは本当に、あなたが多くのものを持っていないということを言っています。そうでしょう? あなたは外にいます。エージェントを構築しています。AI に関することを行うプレッシャーを受けています。だからシステムを構築していますが、本当にリスクについて考えていません。
このシステムがどのように動作しているか、何に対して動作しているかについて本当に考えていません。ただ非常に基本的な方法でシステムを動かそうとしているだけです。では、これを実際にステップ1と呼びましょう。
ステップ2:基盤の構築
さて、ステップ2に入りたいと思います。繰り返しますが、これは成熟度モデルであり、本当にステップとして考えることができます。この次の部分について考えるとき、これは本当に私たちの基盤、次のレベルの成熟度です。
基盤とは、システムが少なくとも私たちが望む方法で動作していることを確認するために設置できる最小限の制御です。基盤について考え、安全で監査可能なエージェントアクセスを確立したいとき、最初にやりたいことは、エージェントに非人間アイデンティティを割り当てることです。
少なくともエージェントとそれらが実行しているアクションやタスクを表すことができる何かがあることを確認します。それが整ったら、基盤レベルで本当に次にやる必要があることは、基本的な委任と代理です。言い換えれば、やりたいことは、プロンプトを出して何かを達成しようとしているエージェントシステムの最前線にいるユーザーが誰であれ、それをエージェントシステムに委任でき、エージェントがそのユーザーの代わりに働くことを確認することです。
これは、エージェントが実際に人々を表しているシステムのためのものですが、エージェントが自律的に行動している自律システムもあり、そのような場合でも、あるエージェントから別のエージェントに権利を委任しています。これを維持したいのです。
そして、基盤レベルで本当に最後にやりたいことは、セキュリティ情報およびイベント管理、つまり SIEM を持つことです。監査可能性とコンプライアンスを持つために SIEM を設置します。これは基本的に、成熟度の次のステップで、エージェントが誰であるかを理解していることを言っています。フローに沿って権利を委任しており、ある程度のロギングと追跡を持っています。つまり、ここには監査可能性とコンプライアンスがあります。
ステップ3:強化段階
では、次のレベルの成熟度がどのように見えるかを考えましょう。これは本当に成熟度モデルにおける強化ステップであり、基本的な概念で始めたものを少し追加しましょう。
強化ステップで最初にやりたいことは、エージェントをファーストクラスの市民として扱いたいということです。
成熟度モデルの2番目のステップ、基盤モデルでは、少なくとも既に存在するもの、つまり非人間アイデンティティを割り当てたかったのです。そして、それはエージェントが誰であるかを知るのに役立ちますが、次のレベル、成熟度モデルに到達すると、本当に彼らをユニークなもの、彼ら自身のものとして扱い始めたいのです。アイデンティティガバナンスシステム内の人間や人々と同じように。
だからエージェントをファーストクラスの市民として扱いたいのです。そして、そうするとき、彼らに割り当てるエフェメラル認証情報も確保したいです。言い換えれば、エージェントが誰であるかを知っています。ある程度組織の一部として扱っていますが、何かをするための認証情報を与えるとき、それがエフェメラルであることを望みます。
それは、エージェントまたはエージェントシステムが達成しようとしているタスクのためだけのものです。人間の場合、このレベルの成熟度モデルで使用できる永続的でやや恒久的なアイデンティティと認証情報を持つのに対し、私たちは、このエージェントには実行しようとしているタスクだけのための認証情報を与えると言い始めたいのです。
このレベルの成熟度モデルで次にやりたいことは、細かい粒度のコンテキストベースのアクセスを持つことです。言い換えれば、アカウンタビリティの確立について話していたときのことですが、より伝統的な IT システムでは、これらの確立された API キーがしばらく続くか、少し回転させるかもしれませんが、それは常にそのアプリケーションに必要なことをするためのアクセスを与えます。
エージェントシステムについて考え始めると、それらが非決定論的であり、達成しようとしているパスとタスクが毎回変わる可能性があるという事実を考えると、エージェントが誰であるかを知り、ファーストクラスの市民として扱うとき、その認証情報がそのタスクのためだけに存在することを確認したいのです。そして、エージェントがその時点で達成しようとしている特定のもののために、そのエージェントに必要なアクセスだけを与えるのです。
そして、ここで最後にやりたいことはリアルタイム検知です。何かが間違っているか、異常を検知できるか、このフローとシステムの動作において正しく動作していない何かがあるかを監視し始めたいのです。
ここで、ロギングとコンプライアンスと監査可能性のための基本的な機能を追加し始めたことを覚えておいてください。今度は、何かがうまくいかない場合に備えて、それを検知できるようにリアルタイムで検知できるようにしたいのです。
ステップ4:適応段階
さて、成熟度モデルの4番目のステップ、最終ステップに進みましょう。これは本当に適応的であることについてです。なぜなら、前述したように、非常にダイナミックな環境だからです。非決定論的な性質のため、通過するたびに変化しています。
だから、その環境に常に適応する必要があります。そして、これを行うには、継続的認証が必要です。リスクベースの再認証が必要です。そして、リアルタイム取り消しも必要です。
そして、この成熟度モデルの最終ステップ全体が本当に何についてであるかというと、フローが発生しているとき、そのフロー全体を通じて各エージェントに継続的に自分自身を識別し、自分が誰であるかを認証してほしいということです。
フローが発生していて、本当に機密性の高いデータにアクセスしようとしているような感度のレベルがある場合、それがリスクベースであることを常に確認したいのです。そうでしょう? エージェントフローの各ステップにどれだけのリスクが関与しているかを知っているので、実際にリスクを知ることに基づいて認証できます。
そして、それがエージェントのために一度行われて常に利用可能であるようにはしたくありません。各ステップで、達成しようとしているものは何か、そのコンテキストは何かを見て、それに関する認証を継続的に見ていきたいのです。
そしてもちろん、何かが起こった場合、このリアルタイム検知がある場合、それに基づいて構築し、リアルタイム取り消しを持つことができます。何かが起こっていることを検知すれば、そのアクセスを取り消し、停止し、いくつかのブロックを設置できます。
これらすべてが互いに構築されているのがわかりますよね。何もない状態から始めます。いくつかの基本的な基盤を設置します。いくつかの強化があり、より良いロギングを始めます。エージェントが使用している認証情報を制御できます。
そして、より適応的になり始め、すべてを継続的に評価します。成熟度モデルの各ステップは、少しずつ追加していきます。
リスクへの対処
これらすべてを行うことで、リスクに戻ると、アカウンタビリティを確立できます。なぜなら、エージェントが誰であるかを知っているからです。認証情報を確立するときを知っています。それを非常に短命に保ちます。追跡と監査があります。起こっているすべてを知っています。だから本当にアカウンタビリティを確立できます。
どこで? 最小権限の強制。それは本当に、これらの細かい粒度のコンテキストアクセスに入るときです。それは本当にエージェントが行うことを許可されていることだけができるということです。
悪用の防止について話し始めるとき、それは SIEM とエラー検知、認証情報のリアルタイム取り消しに入り始めるときです。それが、意図的であれ、そうでなくても非意図的であれ、悪用を監視し、それについて何かをすることができる方法です。
そしてもちろん、このアイデンティティの伝播と委任、代理、エージェントを識別する方法のすべてがあることで、適切な方法でデータを保護していることを確認できます。
まとめ
要約すると、本当にやろうとしているのは、一度にすべてをやるように言うのではありません。これがあなたに必要なすべてです、ではなく、本当に基本から始めることです。基盤から始めて、この成熟度モデルに従ってシステムを構築し、改善し始めてください。
ありがとうございました。
コメント