この動画は、Octaの社長兼COOであるエリック・ケラーが、AIエージェントの現状と課題について語るインタビューである。企業の91%が既にAIエージェントを本番環境に導入しているものの、わずか10%しか適切なセキュリティ管理ができていないという衝撃的な調査結果が示される。エージェントの定義、セキュリティリスク、クロスアプリアクセスという新しい標準規格の必要性、データガバナンスの課題、そしてAI技術の急速な進化がもたらす機会と脅威について詳細に解説している。エリックは、AI革命がインターネットやクラウドへの移行を上回る速度で進行していると指摘し、企業がイノベーションとセキュリティのバランスを取ることの重要性を強調する。
AIエージェントの普及と課題
AIエージェントが広く普及するためには、次にどのようなステップを踏む必要があるのでしょうか。今日はOctaの社長兼最高執行責任者であるエリック・ケラーさんをお迎えして、この話題について掘り下げていきます。エリックさん、お会いできて嬉しいです。番組へようこそ。
アレックス、ありがとうございます。お招きいただいて光栄です。
こちらこそ、お越しいただきありがとうございます。エリックさんは、AIエージェントが現在どの段階にあるのか、どこまで進む必要があるのか、そしてテック業界全体が目指している状態に到達するために必要な要素は何なのかについて、深い知見をお持ちです。まず最初に、AIエージェントの展開の現状について、エリックさんの見解をお聞かせいただけますか。現場では何が起きているのでしょうか。
これは誰もが注目していることですね。何が本当で何が本当でないのか、そしてどうやって本番環境に導入するのかについて、非常に多くの関心と誇大宣伝があると思います。Octaでは、私たちの目標とビジョンは、企業があらゆるテクノロジーを安全に使用できるよう支援し、ソフトウェアを使って行動する人々のアイデンティティを保護することです。エージェントの課題の一つは、現在イノベーションの段階にあるということです。企業は何が可能なのかを見極めようとしており、自分たちの代わりにタスクを完了するエージェントにどれだけの作業を任せられるかを確認しようとしています。そして、プロセスの後半になって、それらのエージェントを確実に安全にするためには多くの作業が必要だということに気づくのです。
エージェントが本番環境にオンラインで登場するこの世界に入る際に企業が正しく対処する必要がある重要なことの一つは、ユーザーがエージェントが安全に管理されているという確信を持つ必要があるということです。そして企業は、展開されたエージェントが自社のシステムへの安全なアクセス権を持っているという確信を持つ必要があります。
では、まだそこに到達していないとお考えですか。
到達していないと思います。実際、私たちは2週間前に調査を実施しました。数週間前にラスベガスで開催された私たちのユーザーカンファレンス「Octane」でその結果を共有しました。何百もの企業に話を聞き、AI準備状況について尋ねました。そこには本質的に2つの基本的な質問が含まれていました。
一つは、現在本番環境にエージェントを展開している企業がどれくらいあるかということでした。そして二つ目の質問は、エージェントが適切に管理され、ガバナンスが効き、安全が確保されていると感じている企業がどれくらいあるかということでした。結果は非常に衝撃的でした。
私たちが話を聞いた顧客のうち、90%以上が現在本番環境にエージェントを展開していると答えました。しかし、本番環境にあるエージェントが現在適切に管理され安全が確保されていると信じているのは、わずか10%でした。この著しい対照が、まさに現在の業界の状況を物語っています。私たちは皆、この技術の可能性を見ているためイノベーションを競い合っていますが、責任を持って展開し、適切にガバナンスを効かせられるようにするために、やるべきことがあるのです。
AIエージェントの定義とリスク
なるほど、その数字については後ほど詳しく伺いたいのですが、まずお聞きしたいのは、エリックさんのAIエージェントの定義についてです。最近、コメント欄に誰かが来て、基本的にこう言っていました。テック企業がAIエージェントで約束していることは、彼らが何年も約束してきたことのバージョンであり、一緒に動作したくないシステムを統合しようとし、バックエンドの方法で基本的にそれらを通信させようとすることで自動化し、情報がシームレスに現れるという魔法のような約束をしているのだと。つまり、エリックさんのAIエージェントの定義は何なのか、そしてなぜこれが以前の繰り返しとは異なると考えるのか、お聞きしたいのです。
それは非常に公正な質問ですね。私たちがエージェントについて考える方法、私がエージェントについて考える方法は、ユーザーの代わりに行動を取ることができる自律的なソフトウェアであり、同期的にではなく非同期的に動作し、どのアクションを実行するか、そしてどのように実行するかについて独自の判断を適用できるものです。
この自律性が、以前の技術的ソリューションやソフトウェア、API間通信についての会話とは異なる重要な違いの一つです。人工知能の自律的な意思決定能力が、私たちが見てきた以前の技術シフトとは、この特定の波を本当に区別するものなのです。
つまりエリックさんの定義は、基本的に自分がいないときにAIに何かを代わりにやってもらうことを信頼するということですね。
そう言えますね。
多くの人が「エージェントはあるが、人間をループに入れる必要がある」と話しています。それは、エリックさんが示した定義とやや矛盾しますね。では、この方程式において人間の位置はどこにあるのでしょうか。
エージェントは自律的に行動を取ることができると思います。多くの場合、エージェントは特定の人間の代わりに行動すると考えますが、必ずしも特定の人間に縛られている必要はありません。消費者として、私は旅行コンシェルジュであるエージェントを持ち、アフリカでサファリのための家族旅行をしたいと伝えることができます。そして、それに作業を任せることができます。ツアー会社をスキャンしたり、航空運賃や航空会社を調べたり、旅行に最適な季節の日付を調べたりできます。宿泊施設を調べたり、ガイドを調べたりできます。実際にそれらすべてを私のために予約し、印刷された旅程を持って戻ってきて、すべての作業に対して私のクレジットカードに請求することができます。この例のエージェントは、私の代わりに行動できます。
しかし、企業内にも、プロセスの代わりに、またはサーバーの代わりに行動するエージェントを持つことができます。私たちにとって重要なのは、それらが自律的な作業を行っているということです。人間が行動を取って具体的に監督、管理、維持されていない作業を行っているのです。
では、行動を取ることはいつ重要になるのでしょうか。例えば、私のために何かを調査してもらうことはできます。しかし、エリックさんが消費者の例で話したときのように、何かを私のために予約してくれます。では、この図において行動を取る能力はどれほど重要なのでしょうか。
人工知能の違い、大規模言語モデルとエージェントの違いについて話すとき、行動を取る能力はエージェントの非常に具体的な能力だと思います。そして、人々が懸念しているのは、実際には自律的に行動を取る能力であり、それは非常に非常に強力なものです。この技術が個人や企業にもたらす能力は、非常に興味深いものです。
そしてそれには、適切に管理する必要があるリスクが伴います。エージェントに本番システムや本番データへのアクセスが与えられたときに、安全に管理できるようにする必要があるのです。
そのリスクについて詳しくお話しいただけますか。プロセスのどこにリスクがあるのでしょうか。
いくつか例を挙げましょう。まず、Octaと私たちの視点について少しお話しさせてください。これらの会話の一部に役立つかもしれません。Octaは16年前に設立され、以前の技術近代化の波の中で誕生しました。それは2009年、2010年頃のオンプレミスコンピューティングからクラウドベースのコンピューティングへのシフトでした。
つまり、オンプレミスソフトウェアからサービスとしてのソフトウェア(SaaS)への移行です。私たちの会社は、SalesforceがCRM市場をオンプレミス市場からSaaSに移行させたことで設立されました。Workdayは、HRMS市場をオンプレミスからSaaSに移行させました。そして、Octaはその波の中から設立されました。私たちの創業者であるトッド・マッキノンとフレディ・ケレストがその変革を認識し、SaaSがテック業界に何をもたらすかを見て、企業がクラウドへの飛躍を可能にするプラットフォームとしてOctaを作り出したのです。
私たちの最初のユースケースは、人間のアイデンティティを管理することでした。オンプレミスから移行し始め、クラウドベースのアプリケーションを追加し始めた企業を支援し、従業員のアイデンティティがオンプレミスとクラウドアプリケーションの両方にアクセスできるようにすることでした。そしてそれは、その人間のアイデンティティを管理することへと進化しました。
その人間のアイデンティティは何にアクセスできるのか。それらすべての技術にどのように認証されるのか。そして時間の経過とともに、人間が本人であることを確認した後、許可されたことだけができるように、どのように適切に承認されるのか。Office 365やGoogle Workplaceにログインすると、あなたが本人であることを認証していますが、ドキュメントをクリックすると、そのプラットフォームはあなたがその特定のドキュメントを使用する権限があることを確認します。
こうしてOctaは、人間のアイデンティティを管理し、アイデンティティを認証・承認する分野で成長しました。時間の経過とともに、顧客は私たちを非人間アイデンティティと呼ばれるものに引き込んでいきました。これらは通常、サービスアカウント、マシン間アカウントであり、APIがAPIにログインするものです。
予測システムがSalesforce自動化システムにログインしたり、給与システムが従業員福利厚生システムにログインしたりするのです。これらのサービスアカウントも、認証と承認が必要です。そして今、私たちはエージェント型アイデンティティという第三の波に入っています。
エージェントは、人間のアイデンティティの特性をいくつか持っています。現れて行動を取るという点で。そして非人間アイデンティティの特性もいくつか持っていますが、人間のアイデンティティや非人間アイデンティティと同じように、安全を確保し、管理し、ガバナンスを効かせる必要があります。そしてOctaでは、企業が人間、非人間、エージェント型のすべてのアイデンティティを、すべてのアイデンティティユースケースにわたって管理できるプラットフォームを市場に提供しています。
セキュリティインシデントと急速なイノベーション
なるほど。では、AIに関連するリスクとおっしゃいましたが、具体的にどのようなリスクがあるのでしょうか。
業界として、私たちは技術者がこの技術が何ができるかの可能性を見ている時期にいます。過去1年間、企業がエージェントのプロトタイプを作成し、その能力、企業をより生産的にする方法、コストを削減する方法、人員数への依存を減らし、組織からより多くのスケールと生産性を得る方法、より競争力を高める方法といった技術的能力を理解する作業を見てきました。すべての企業がこの技術を探求するプレッシャーを受けています。
Octaでは、取締役会の会議のたびに、取締役たちがこの技術の能力に追いつくために私たちがどのように取り組んでいるかを知りたがっています。十分に速く実験しているか、十分に速く学習しているか、競合企業や同業他社と比較してベンチマークを取っているか、AIでより競争力があり、より速く動いている例を見ているか、そしてAIで歩調を保ち、ペースを設定していることを確認しているか。私たちはそのプレッシャーを受けており、私が話をするすべての企業が取締役会や経営陣から同じプレッシャーを受けています。
そのプレッシャーが、イノベーションを推進し、焦点を当て、技術的能力を探求するための投資を推進しているのです。しかし、技術的能力を探求し、何が可能かを見るとき、その強度は物事を本番環境に押し込むプレッシャーももたらします。技術的に動作しています。技術的に興味深いです。以前にその問題を解決できる技術は見たことがありませんでした。本番環境に入れましょう。行きましょう。
それが問題になる例を見ることができます。例えば、数週間前、世界最大のレストランチェーンの一つが、採用ウェブサイトで求職者を支援するためにエージェントを展開したという、非常に広く公表されたインシデントがありました。
このレストランは年間数百万人の人々と面接を行っています。非常に大きな求職者データベースを持ち、人々が通過していました。そして、求職者に素晴らしいガイド付きコンシェルジュを提供する意図でエージェントを展開しました。応募プロセスを案内し、この特定のレストランチェーンの従業員としてオンボーディングすることの意味を説明するためです。
そのプロトタイプは、デモを行ったときに非常に魅力的だったため、本番環境に押し込まれました。そしてそれは、脅威アクターによって非常に迅速に標的にされ、エージェントを侵害し、アクセスすべきではなかったデータの束にアクセスすることができました。6000万人以上の求職者の個人情報を含むデータです。
なんてことでしょう。
それがどのように起こったかを見ると、エージェントはプレッシャーを受けた開発者によって構築されました。内部の知識はありませんが、取締役会や経営陣からこれが可能であることを構築し、示すよう求められていたと確信しています。
そして彼らがそれを行ったとき、彼らはそれを構築しましたが、安全を確保するという考えで構築しませんでした。実際、彼らはそのエージェントをデフォルトパスワードの1 2 3 4 5 6で構築しました。強力なパスワードですね。そして脅威アクターは、それが本番環境に押し込まれ、急いで投入されたため、エージェントが野生にいるときに適切に保護する方法について十分な考慮が与えられませんでした。
そして本番環境に入ると、脅威アクターによって非常に非常に迅速に悪用されました。このイノベーションへの競争と、この分野で競争力を失わないようにという企業が受けている激しいプレッシャーが、私たちにこれらのものを出させているのです。冒頭で述べたように、調査した企業の91%が本番環境にエージェントを持っていると答えていますが、安全が確保されていると確信していると答えているのはわずか10%です。
これがリスクです。企業が本当に正しく対処する必要があるのは、イノベーションと安全確保のバランスです。
未だに1 2 3 4 5 6というパスワードを使っている人がいることに驚きました。この時点での技術の進化では、もはやそんなことは起こらないと思っていましたが、明らかにまだ続いているのですね。
そうですね。あまり良い使用例ではありませんが、イノベーションと本番環境の間のこのペースがどれほどリスクが高いかを示すものとして重要です。プロトタイプから本番環境へのシフトは本当に重要であり、私たちは、アイデンティティの安全確保における思想的リーダーとして、企業がエージェント型アイデンティティを安全に確保する方法を理解できるよう支援する義務があると信じています。なぜなら、最初から正しく対処することが根本的に重要だからです。
企業のAI導入状況
91%の企業が、既に本番環境にエージェントを持っているということですね。これは大きな数字です。これほど多くの割合の企業が実際に何かを展開しているということは、この技術に対する熱意について何を物語っているのでしょうか。
私が先ほど説明したことだと思います。本物の熱意があると思います。つまり、それは単なるプレッシャーだけではなく、取締役会からのプレッシャーかもしれませんが、ボトムアップの熱意でもある可能性があります。おそらく両方の組み合わせでしょう。
両方の組み合わせだと思います。現在の労働力における私の世代を見てみると、私は90年代初頭に労働力に入りました。そして私のキャリアにおいて、私は祝福されてきました。
私のキャリアにおいて、技術分野のいくつかの重要な変化を乗り越えることができたことに祝福されてきました。私のキャリア中に、メインフレームからクライアントサーバーコンピューティングへのシフトが起こり、オンプレミスからクラウドへのシフトが起こり、デスクトップからモバイルへのシフトが起こり、そして今、人工知能で何をするかというシフトが起こっています。
そして、これらの変革を経験してきた人々は、これが大きなものであることを理解しており、私や業界の多くの同僚や仲間たちは、これがさらに大きく感じられることを理解しています。インターネットの導入よりも大きく感じられます。クラウドへのシフトよりも大きく感じられます。
これが、企業の運営方法と人間の行動方法を根本的に変革することを期待しているのです。そのため、私たちは皆、はい、興奮しています。また、私たちよりも進歩的な企業に競争上の優位性を譲らないようにするプレッシャーも感じています。そして、私が話をするすべての顧客、そして私は最高情報責任者や最高情報セキュリティ責任者と多くの時間を過ごしていますが、彼らは皆、このバージョンに取り組んでいます。それは、彼らの会社をできるだけ競争力のあるものにする必要があるということです。
そして、彼らはこの分野で開発することによって何ができるかという可能性に興奮しています。また、取締役会や経営陣、そして自分自身から、できるだけ競争力を維持するよう圧力を受けています。
そして、それが90%の企業がエージェントを本番環境に投入する熱意を生み出しています。そして、それらの企業がエージェントを安全に確保する方法についてのセキュリティアーキテクチャを考え抜く必要性も生み出しています。
セキュリティの課題とクロスアプリアクセス
そうですね。それについて話すと、エリックさんが挙げたもう一つの統計に戻りましょう。エージェントを展開している企業のうち、エージェントのセキュリティについて良い感触を持っているのは10%だけです。これはどうして可能なのでしょうか。これほど多くの企業がこの技術を展開し、エリックさんの定義に戻ると、それが行動を取ることを知っていながら、「まあ、おそらく安全ではないでしょう」と手を挙げているのが理解できません。
それは、イノベーションへの競争の現実です。これらのエージェントがプロトタイプの段階にある間は問題ありませんでしたが、今では本番環境にシフトしており、顧客が予想していたよりも速く行われています。そして、それらのエージェントがどのように管理できるかを確実に考慮するという緊急性が高まっています。
課題の一つは、歴史的に、そしてここでの歴史はそれほど遡りませんが、エージェント型アイデンティティを管理する方法の標準がなかったということです。Octaが業界がその問題に対処するのを支援する方法の一つは、クロスアプリアクセスと呼ばれる新しいオープン標準を提唱したことです。アレックス、あなたはご存知かもしれませんね。
この標準が行うことは、エージェントのアイデンティティがOctaを含む任意のアイデンティティプロバイダーに登録され管理される方法の標準プロトコルを定義することです。目標は、エージェントを構築している開発者が、最初からそれらのエージェントの認証情報が適切に保管され安全に確保される方法で構築できるようにすることです。
それらはポリシーによって管理されローテーションされることができ、必要に応じてプロビジョニングおよびデプロビジョニングされるようにガバナンスを効かせることができます。常に利用可能な静的な認証情報であるのではなく。これらの基本的な能力は、企業がそれらを管理できるようにするために標準を持つ必要があります。
そうでなければ、例えば私が個人のGmailでGoogle Geminiをアクティブにしても、私の会社はそれを知りません。あなたが自分の代わりに作業を行う旅行エージェントをアクティブにしても、あなたの会社はデフォルトでそれを知りません。しかし、クロスアプリアクセスをサポートするOctaが提供するようなアイデンティティセキュリティファブリックを配置することで、クロスアプリアクセスのサポートで開発されたすべてのエージェントを管理できるようになります。つまり、それらが存在することを知ることができます。それらを発見し、登録し、認証情報を管理してローテーションし、ジャストインタイムでプロビジョニングおよびデプロビジョニングできます。
これで、これらのエージェントがいつアクセスでき、何にアクセスできるかを制御できるようになります。そしてそれが、私たちが顧客が解決するのを支援している根本的な問題なのです。
具体的に、クロスアプリアクセスがある場合とない場合で、構築の状態はどのように見えますか。このクロスアプリアクセスがあれば、ないとできないことができるのでしょうか。
クロスアプリアクセスがないと、ポイントツーポイントですべてが異なります。Salesforce Agent ForceやGoogle Agent Spaceでエージェントを構築する場合、任意のプラットフォームでエージェントを構築する場合、ポイントツーポイントの許可で開発することになります。
ユーザーとして、あるプラットフォーム上で構築されたエージェントを展開すると、アクセスが必要な場合に尋ねてきます。例えば、Google Agent Spaceのエージェントで、私のGmailにアクセスしたい場合、あなたのGmailへのアクセスを許可してもらえますか、と尋ねてきます。そして私は、あなたに私のメールで作業をしてもらいたいので「はい」と答えます。カレンダーへのアクセスを求められ、私は「はい」と答えます。
その世界では、私の会社は私がその許可を与えたことを知りません。なぜなら、それは私がユーザーとして展開したエージェントに、私がユーザーとして付与した許可だからです。しかし、私は今、それに本番の企業データへのアクセスを与えました。そして、それは企業が制御していないエージェントがある場所での露出です。サードパーティによって書かれたソフトウェアが、今や企業のデータ資産にアクセスしています。
そしてそれは根本的に問題です。クロスアプリアクセスが行うことは、エージェントがIDPに登録されることを可能にすることです。私が述べたように、認証情報が管理され、適切にローテーションされ、必要に応じてジャストインタイムでプロビジョニングおよびデプロビジョニングできるガバナンスが展開され、脅威や異常な活動を検出した場合、エージェントが脅威アクターによってなりすまされていると疑われる場合、企業が恒久的に非アクティブ化できるようにします。これは、これらが展開されるにつれてますます一般的な懸念事項です。
したがって、クロスアプリアクセスにより、企業はエージェントをアクティブ化できます。企業がクロスアプリアクセスを実装するエージェントのみをアクティブ化することを許可する場合、それらのエージェントを管理できます。例えば、Octaでは、私が管理するチームの一つは社内IT組織です。
従業員が使用するエージェントのベンダーがクロスアプリアクセスのサポートを実装することを約束している場合にのみ、エージェントをサポート、許可するというポリシーがあります。なぜなら、それにより、それらのエージェントアイデンティティを適切に管理し、安全に確保できるからです。
なるほど、それは賢明ですね。ところで、AIガバナンスについて話すべきですね。
AIガバナンスとデータ管理
AIを構築する際、多くの人々が、これらのエージェントが実際に何をするのか本当にわからないという恐怖を持っています。エリックさんがお話しされたファストフードチェーンのように、再び行動を取るというこの考えは、特に適切なガバナンスが整っていない場合、スリリングでもありやや怖いものでもあると思います。
では、これらのエージェントに関するガバナンスの状態と、それがなぜ重要なのかについてお話しいただけますか。
私たち全員が、技術の能力に追いつくために取り組んでいると思います。そして、企業がエージェントを安全で確実かつ生産的な方法で展開できる準備を整えるのを支援する責任があると信じています。業界のイノベーションへの競争は、安全で確実なものよりも本番環境に焦点を当ててきました。
そして、企業がバランスを正しく取るのを支援する非常に重要な役割があると信じています。私は毎週多くの日々を顧客と話すことに費やしており、CISO、最高情報セキュリティ責任者やCIOについて、これらの課題と彼らがビジネスで見ているものについて話します。そして、彼らが企業内で対処している最も一般的な質問の一つは、データガバナンスの問題です。
具体的には、エージェントがアクセスできるデータは何か。そして、これは以前に述べた承認の問題に似ています。エージェントを承認すると、それは何を読み取るアクセス権を持つのか。しかし、ここでの懸念は本当に二重です。
一つは、それはどのデータを見ることができるべきか。二つ目は、それはどのデータを使用できるべきか。そして、サードパーティのエージェントを展開する際に人々が持っている潜在的な懸念の一つは、そのデータが他の場所で使用されるかどうかを知りたいということです。つまり、私の作業を支援するための私のクエリにのみ使用されるのか、それは通常問題ありませんが、あるいはそのデータが別のユーザーのクエリで引き出され、集約され、他の場所にエクスポートされる可能性があるのか。なぜなら、LLMが学習しており、私の代わりに取り込んだデータから恩恵を受けているからです。
そのガバナンスの問題は、企業にとって現実の問題です。経営者として、私はOcta社内の多くの機密データにアクセスできることを想像できます。エージェントにそのデータを収集させ、他のユーザーのクエリに答えるために使用することを許可することはできません。データの流れを、集約され異なるクエリを通じて表面化されたとしても、それを見る権限がある人だけに承認していることを確認する必要があります。
これは、Octaが独自のガバナンスポリシーを通じて管理している問題ですが、すべての企業が、これらのツールに対するガバナンスをどのように効かせるか、そしてアクセスできるデータをどのように使用することを許可するかについてのポリシーを見つける必要があります。
AI技術の進化速度と実用性
エリック、非常に速く動いているとおっしゃいましたが、他の技術シフトと比較して、どれくらい速く動いているのか、お聞きしたいのです。つまり、このAIの瞬間はどれくらい速く動いているのか、そしてそれが企業の計画能力にどのような影響を与えるのか、あるいは今日のモデルと明日のモデルのどちらで作業するかといったことについて。
インターネットの導入を経験しましたが、それは本当に速く動きました。オンプレミスからクラウドコンピューティングへの移行も経験しましたが、それは少し遅かったです。モバイルへのシフトも経験しましたが、それはかなり速かったです。これは私が個人的に経験した中で最も速い波のように感じます。そしてそれは、私たちが業界や報道で見るカバレッジや、あなたのような番組がこれらのトピックを取り上げ、進化するにつれて見ているカバレッジだけでなく、見出しだけでなく、この分野で見ているサイバー関連の活動だけでなく、毎日行っている実際の顧客との会話にも基づいて言っています。
これは私にとって、より多くの緊急性、より多くの興奮、人々が速く動こうとするより多くの推進力があるように感じます。
そして、過去18か月間を振り返ってみると、業界で発展してきたものを見ると、私と多くの同僚は、こんなに短い時間でものごとがどこまで進むことができたかに非常に驚いています。だから、これを誇大宣伝とは表現しません。
本当に明るい人々がイノベーションを起こして私たちに何が可能かを示しているという、本物の興奮と能力がたくさんあると思います。そして、これで可能なことの限界に達したとは思いません。これを見るのは本当に興奮します。同時に、企業はこの技術から実際の価値を得る方法に苦労しています。
そして、私が頻繁に聞くのは、企業がトップダウンの緊急性の良いミックスを持っているということです。私が説明したように、私たちの取締役会と経営陣は、できるだけ速くこれらの技術を展開する方法を学ぶよう私たちを推進しています。私たちの顧客も同じことを言っています。そしてボトムアップの観点から、企業は従業員が実験し、同僚から学び、さまざまな能力を試すことを奨励するために取り組んでいます。
Octa社内では現在、企業内で安全を確保しプロビジョニングした60以上のAIツールがあります。そして、従業員にそれらで何が可能かを見てもらい、それらがどのように私たちをより競争力のある会社、より機敏な会社にするのに役立つかを確認するよう奨励しています。だから、このトップダウンの推進力があり、このボトムアップの努力があります。そして実際に業界として到達し始めているのは中間です。
そして私にとって中間は、主にこれらの投資の実際の影響とリターンをどのように測定するかということです。実際のビジネス価値をどこで推進しているのか。そして、その判断はまだ下されていないと思います。数か月前にMITから出た非常に有名な研究があり、AI イニシアチブの95%がまだ明確なROIを示していないと述べていました。それは非常に現実的です。
そして、すべての企業が、実際にAIの展開が自分たちをより生産的にしていることを自分たち自身で実証できる非常に具体的なユースケースを見つけるのに苦労しています。以前にはできなかった方法でイノベーションを起こすのに役立っています。より速く成長するのに役立っています。より安全になるのに役立っています。だから、これらすべての領域は、業界にとってまだ機会の領域だと思います。
しかしエリック、ここで過剰構築のリスクがあると思いますか。なぜなら、トップダウンからのプレッシャーについての会話について考えているからです。もちろん、人々がボトムアップでこのものを押し上げて、人々に能力を認識させようとしていますが、現在の段階で、AIインフラの構築に数兆ドルまたは1兆ドル以上が投入されているのを見ています。そして、この番組でいつも心配している、あるいは実際に不思議に思っているのは、それがやり過ぎではないかということです。では、エリック、その質問についてどのようにお考えですか。
AIに何が投入されているかというマクロ経済的な投資については、本当に話すことができません。
私が言えることは、Octaの観点から、私たちはこの競争でのセキュリティ露出について本当に心配しているということです。この技術に必要なエネルギー投資を見ることができます。この分野の企業に投入されているベンチャーキャピタル資金の額を見ることができます。ROIがどこにあるか、どの投資がやり過ぎか不足しているかについて、さまざまな意見を評価できます。
しかし、これらすべてのトレードオフについてどのように感じていても、人々がイノベーションを起こすために非常に速く競争しており、安全を確保する前に技術を展開している業界を持つという課題は、企業が今日直面している現実の露出です。そしてOctaの観点から、私たちの全体的な目標は、企業がそのリスクを制御し、自分たち自身、ユーザー、顧客を安全に確保し、環境でAIを悪用する脅威アクターによって悪用されないようにするアイデンティティセキュリティファブリックを提供することです。それが私たちの本当の目的です。
そうですね。構築がそこに到達する地点まで進むと、セキュリティ上の懸念が高まるだけだと想像できます。数週間前にWhizのコスタがここに来て、これが大きなサイバーセキュリティの課題になると話していました。それがおそらく、WhizがGoogleに約320億ドルで買収された理由だと思います。これはGoogleのこれまでで最大の買収です。
それは、適切なタイミングでスマートな買収を行う傾向がある会社です。そして、構築が現在のペースで続くのを見ることになれば、今日の番組で話しているこれらの問題は、ますます重要になっていくように思えます。
私たちも同意します。
未来への展望
では、終わる前に、楽しい質問をさせてください。多くの研究所で、人々が自分の脳をAIにアップロードするかどうかについて話しているのを聞いています。では、最後の質問です。あなたは自分の脳をAIにアップロードしますか。
それは素晴らしい質問ですね。私の観点から、Octaの観点に関連していますが、そのAIのセキュリティは非常に重要でしょう。
拡張された脳、AI拡張された脳を持つことに非常に興味があります。そして、私の人生をナビゲートするのに役立つコパイロットを持つ能力です。だから、そのアイデアは非常に興味深いですが、私にとってそれが実際に行うことになるものであるためには、そのデータがどのように正確に使用されるか、そしてそれがどれほどプライベートかについて確信を持つ必要があります。これは私のハードウェア内で実行されるローカルAIで、私が制御できるもので、私が気づいていないものを供給していないという確信を持てるのか。もしそうなら、ええ、それはかなりクールだと思います。
誰も本当に話していないのは、自分の脳をアップロードできるが、それがハッキングされたらどうなるかということです。あなたの脳を持っているのです。それは望みません。だから、これらのボットと非常に多く会話するようになるにつれて、実際に自分の脳をアップロードすることと、単にこれらの会話をすることの違いは、それほど異ならないかもしれません。しかし、今日の時点では、かなり大きなデルタです。
そうですね、そうですね。しかし、それらが進化するのを見るのはまだ印象的です。非常に感銘を受けています。そして、これらのボットと実際の関係を築いていると認識している人々の見出しのいくつかを見るのは少し怖いです。業界を超えて、社会として、私たちはこの技術で学ぶべき多くの教訓があると思います。
その通りです。では、エリック、今日お話しされたことについてもっと知りたい場合、どこに行けばよいですか。
octa.comが私たちの企業ウェブサイトで、Octaがこれらすべてのユースケースで企業がAIを安全に確保するのをどのように支援しているかを説明しています。
分かりました、エリック、参加していただきありがとうございました。お話しできて良かったです。
ありがとうございます、アレックス。ここにいられて良かったです。お招きいただきありがとうございました。
こちらこそ。皆さん、ご視聴ありがとうございました。またすぐに別の動画でチャンネルに戻ってきます。
コメント