本動画では、NetwrixのCEOであるグレイディ・サマーズ氏が、企業におけるAI活用の現状と課題について語っている。AIは雇用を奪うのではなく新たな仕事を創出するという立場から、同社における具体的なAI導入事例を紹介。顧客サービスデスクの自動化やディールデスク業務のGPT化など、実践的な活用方法が示される。一方で、AI活用における最大の課題は、開発速度が飛躍的に向上することで生じる方向性のずれであり、明確な仕様策定の重要性が強調される。また、AIがもたらす新たなセキュリティリスク、特に音声ディープフェイクや社内データへの意図しないアクセスといった脅威についても言及。企業がAIを効果的かつ安全に導入するための実践的な知見が豊富に語られている。
職場におけるAIの位置づけと企業の管理方法
AIは職場のどこに位置づけられるのか、そして企業はそれをどう管理すべきなのか。この問題について、NetwrixのCEOであるグレイディ・サマーズ氏と語り合います。この対談はNetwrixの提供でお届けしています。グレイディさん、お会いできて嬉しいです。スタジオへようこそ。こちらこそ光栄です。
まず最初に、AIが人々の仕事を奪うのか、それとも逆により多くの雇用を生み出すのかという議論についてお聞きしたいと思います。あなたの立場からは頻繁にこうした状況を目にされるでしょうし、データも見ていらっしゃる。この問題がどこへ向かっているのか、そして現在どういう状況なのか、見解を聞かせていただけますか。
私たちNetwrixにとって、AIに真剣に取り組む必要がありました。ご存知の通り、これは競合がひしめく業界です。この分野には多くの競合他社がいて、私たちはあらゆる優位性を必要としています。ですから、私たちにとってこれは「できるかできないか」という問題ではありませんでした。他社のCEOたちと話すと、非常に慎重なアプローチを取っている方もいます。例えば「AIが生成したコードを製品に入れるわけにはいかない」とか、「意思決定にAIを使うことには慎重でなければならない」といった具合です。
しかし私たちにとっては、非常に積極的に取り組む必要がありました。ですから、AIに大いに傾倒したのです。雇用を創出するか失わせるかという点については、間違いなく雇用を創出すると考えています。私たちの業界には満たされていない需要が非常に多くあります。もし全ての開発者を10倍効率的にできるなら、私は開発者を倍の人数雇うでしょう。それによって、私たちはさらに前進できるのです。
そしてそれを、総コストあたりの成果で見れば、より低いコストで実現できると思います。ですから私たちにとっては、膨大な需要があるのです。私たちの問題は「コスト削減が必要だ」ということではありません。コスト削減によって素晴らしい成長や素晴らしい製品、素晴らしい顧客体験を生み出すことはできません。私たちにとっては、どうすればそれらに倍増投資できるかということなのです。それで成長を始めれば、さらに多くの人を雇うことになります。
「AIが他の誰かの仕事をできる」と人々が言うとき、それはあまりにも短絡的な見方だと思うことが多いですね。その通りです。なぜなら、それはCEOがその時点で会社がやっていることに満足していて、何もする野心がないことを前提にしているからです。誰がその場で凍りつきたいと思うでしょうか。
その通りです。もし今やっていることを止めて、これらの製品を出荷するだけでコスト削減を進め、EBAラインでさらに10ポイント効率を上げるといったことをしたいなら、それはできるでしょう。でも私たちの誰もそれに満足していません。常に成長することが重要なのです。特に私たちの業界では、先ほど言ったように非常に競争が激しい。私たちは他社より速く成長しなければなりません。より革新的な製品を持たなければなりません。顧客を喜ばせるために期待を超えなければなりません。
ですから私たちにとって、これは「どうすれば安くできるか」ということではありません。「どうすればもっと革新的になれるか」ということなのです。
ただ興味深いデータもあって、少し違うというか、興味深い状況を示しているものもあります。Anthropicが最近、経済指標を発表しましたが、それによると職場におけるツールの利用率が実際に逆転したとのことです。ツールの信頼性が少し低かった当初は拡張的な利用から始まったものが、今では自動化へと移行しているそうです。これについてどう思われますか。
その通りです。ダリオ・アモデイとのポッドキャストを見ましたが、素晴らしかったですし、彼らがやっていることの大ファンです。私たちが始めたときのことをお話ししましょう。ある意味、実験がありました。
私たちはAnthropicからClaudeというAIツールと、OpenAIからChatGPTのライセンスを取得しました。それらを提供して、どれくらいの利用があるか見てみることにしたのです。すると、非常に大きな需要がありました。誰もがそれを使いたがったのです。ただ私は最近、社内でAIがどう使われているか感情分析するスクリプトを書いたのですが、利用の約54%は単に文章を書き直すことでした。つまり、人々がより効率的になるのを助けるもので、それは素晴らしいことでした。私はそれを必ずしも悪いとは思いませんでしたが、革新的な飛躍というわけではありませんでした。
しかしその後、私たちはもっと高度なことをやっています。それがいわば対照群でした。一方で、私たちは一部の人々に時間とスペースを与えて、本当にトレーニングを受けてもらい、「何を達成したいのか」「どれだけ効率的になりたいのか」といったことを設定してもらっています。より構造化されたAIの使い方です。いくつか本当にクールな例を挙げましょう。
一つは、カスタマーサービスデスクに問い合わせが来るたびに行うものです。カスタマーサービスはある意味、AIのグラウンドゼロのようなものですよね。そこには、人間の意思決定を再現できる部分が多くあります。メッセージが来るたびに、顧客の履歴を調べます。
アナリスト向けにLLMを立ち上げて、メール履歴に基づいて顧客の感情を分析し、リクエストが何なのか、顧客が抱えている問題は何なのかを分析して、推奨される次のステップを提示します。これは、単に「このメールをより良く書くのを手伝って」という改善から、「もっと速くして。本当にサポートして。アイアンマンのスーツを着て、史上最高のカスタマーサービス担当者になろう」という段階へと移行するものの一つだと思います。
他にも代替に近い例がありますが、それらはポジティブなものだと思います。例えば、私たちは非常にリーンな会社で、ディールデスクというものを一度も持ったことがありません。これは多くの大きなソフトウェア企業が持っているもので、営業担当者が質問があるときに来て「こういう顧客がいて、ニーズXとニーズYがあり、オンプレミスで始めたいか、SaaSに移行したいと言っている。何を勧めるべきで、どのレベルの割引まで対応できるか」と尋ねるものです。これは通常、チームか少なくとも一人の担当者がいます。
しかし私たちができたのは、カスタムGPTを作成することでした。すべてのドキュメント、SKU、価格リスト、意思決定基準を入れました。営業リーダーにインタビューして、適切な割引閾値は何だと考えているか聞きました。
それをGPTに入れて、今では営業担当者が来てどんな突飛な質問でもできるようになりました。私はいつもそれを引っ掛けようとしているのですが、完璧で明確な答えが返ってきます。これを挙げたのは、考えてみると本当に進化があるからです。
「改善を手伝って」というところから始まり、「もっとずっと速くして」となり、そして「実際に誰かを代替できるかもしれない」となります。その結果として、来年はより多くの仕事を追加することになるでしょう。なぜなら、ディールデスク業務をする人にお金を使う必要がないので、顧客を幸せにする仕事をするエンジニアを雇えるからです。ですから私にとっては、完全にウィンウィンなのです。
構築か購入か、AI投資のROI
構築するか購入するかについてはどうお考えですか。MITの研究があって、95%の企業がAI投資からROIを得ていないというものでした。番組でもたくさん話題にしましたが、彼らが指摘した興味深いことの一つは、社内で構築しようとする企業は、既製品を採用する企業に比べて苦戦しているということでした。
あなたはすでに、間違っていたら訂正してほしいのですが、おそらく二つの異なるアプローチについて話されました。一つはClaude Codeのような既製品を使うこと、もう一つは独自にスクリプトを書くこと。この点についてはどうお考えですか。
いくつかの方法があると思います。最も基礎的なところから始めるなら、独自のモデルを構築し、独自のモデルをトレーニングすることができます。しかしそれは、私たちのような多くの企業にとってはコストが高すぎます。あるいは、それらのAPIに直接アクセスすると言うこともできます。または、Claude Codeを使ってより速く構築すると言うこともできます。私はこれらを成熟度のレベルのようなものと見ています。
Netwrixで私が言っているのは、AIは会社の将来にとって非常に重要で決定的なものになるだろうということです。私たちがどう成長するかに関わってきます。もしそれほど重要だと信じているなら、それをすべて外部委託することはできません。つまり、5年後に私たちが素晴らしい自動化を持っていたら、2年後に素晴らしいAI自動化を持っていて、より速く動いているとして、私たちは一体何者なのかということです。
私が言いたいのは、SalesforceのEinsteinをオンにするとか、すべてのベンダーに行ってチェックボックスにチェックを入れて、AIモジュールを手に入れるために50%余分に支払うということだけではダメだということです。50%余分に。そうです。幸運なら50%ですね。
ですから私の言いたいことは、チェックボックスで素晴らしさを手に入れて、AIをSalesforceやPalo Altoに外部委託することはできないということです。素晴らしい会社ですし、大好きですが、社内で構築しなければなりません。ですから多くはファーストパーティで、ChatGPTへのAPIを活用し、Claude Codeを活用してより速く構築するということです。これが私たちにとって本当に重要だと思います。
なぜこれほど多くが失敗するのか、95%が失敗する理由について答えるなら、私たちがAIで見つけているのは、それが誰もが非常に速く進めるようにするということです。つまり、最初は20%速くなるか、30%速くなるかと考えますが、実際には10倍速く動けるのだと思います。
Netwrixの開発者の一人がClaude Codeで構築している例を取ると、彼らはずっと速く進んでいますが、問題は平凡な開発者でも10倍速くなるということです。
私たちは全員がAプレイヤーであってほしいと思いますが、実際には組織内に混合したレベルの能力があります。そして全員にライトセーバーやジェットパックのようなものを与えて、超高速で進めるようにします。しかしジェットパックを背負って方位角が1度ずれていたら、100マイルもコースから外れてしまうことになります。
つまり、私たちの優秀な開発者はClaude Codeを使って素晴らしい、より良い、スケーラブルなものを構築しているのですが、もしよくわからない人、もっとジュニアな人、私たちが向かっているアーキテクチャを理解していない人がいると、かなり悪い場所にたどり着いてしまうことがあります。
私が「テクノロジーに対する犯罪」と呼んでいるようなもので、これは私たちが構築しようとしていたものではなく、この怪物のようなものを構築するのに1週間費やしてしまい、後戻りしなければならないというような状況です。ですから私たちが学んだことは、全員が足並みをそろえることが非常に重要だということです。
今、私は開発者たちに言っています。Claude Codeに飛び込んで「これをするアプリを作って。新しいデータ分類アプリが欲しい」と言うのは非常に魅力的ですが、タイムアウトと言っています。AIコードを使い始める前に、2週間かけて話を理解し、顧客にインタビューし、その分野の専門家と話し、これまで以上に良い仕様を書くつもりです。100マイルもコースから外れたくないからです。
ですから、あなたの質問に戻ると、95%のプロジェクトが失敗している理由は、彼らがただ全速力で走り出して、気づく前にまったく違う場所にいるからだと思います。スコープの問題で、間違ったものを構築しているのです。
スコープの問題であり、最も興味深いことの一つは、制約理論というものがあって、授業で習ったかもしれませんが、プロセスにおけるボトルネックや制約について聞いたことがあるでしょう。私はサイバーセキュリティの分野に25年います。製品開発に長く携わってきて、製品側から来ました。何年もの間、制約は常に開発者がコードを書くことでした。つまり、製品管理において少し雑でも許されるということです。例えば、仕様が曖昧でも、製品マーケティングは製品発売の数週間前の最後に来て、ホワイトペーパーを作ったりポジショニングをしたりすることができました。
しかし私たちがやったのは、最大の制約を取り除いただけで、今では開発者が飛べるようになり、それがシステム内の他のボトルネックを露呈させました。ですから今は、PMたちが開発者と一緒に座って「こういうものを探している。画面はこんな感じにしたい」と言い、1週間後にまた集まって「何ができたか見せて。うーん、それは私たちが考えていたものではない。方向転換が必要だ」というようなことができました。
今では、朝にミーティングをして、プロダクトマネージャーがReplitで作ったプロトタイプを持ってきて、もうクリック可能です。FigmaやBalsamicやその他以前使っていたプロトタイプツールはスキップして、クリック可能なReplitのデモやモックアップを持ってきます。そしてエンジニアたちは、その日の午後にはデータベースに接続された実際のバージョンを動かすことができます。
私が言いたいのは、これらの制約が本当に変わったということです。今では、製品管理においてずっと優れたものにならなければならず、はるかに良い仕様を書かなければなりません。製品マーケティングも改善して、初日から部屋にいなければなりません。ですから、ソフトウェア開発における最大の制約、つまり開発者という制約を取り除くことで、ソフトウェア開発がどう変わっているかは興味深いと思います。
もう一つ質問させてください。AIが平均的な従業員、つまりソフトウェア開発者を10倍の開発者にするかどうかについて、少し議論がありました。つまり、底上げをするのかということです。それとも基本的に、すでに優れている人にロケット燃料を加えるだけなのか。どう思われますか。
ずっと後者だと思います。本当に。今AIで開発できることは、優秀な開発者は飛んでいて、平凡な開発者は、意地悪な言い方ですが、平均以下の開発者は、先ほど述べたポイントのように、1度か2度ずれてしまうということです。
同じビジョンを持っていないので、同じように速く動きますが、それはロケット燃料になりますが、たどり着く場所は気に入らないでしょう。だから多くの人が「始めるのはとても速い。Claude Codeは1時間で90%のアプリを作れる。でも残りの10%を正しくするのに1ヶ月かかる」と言うのを耳にするのだと思います。それは、どこに向かっているかを本当に知らずに飛び始めるからです。
だから、優秀な開発者をスーパーパワー化するのだと思います。将来的には、優秀な開発者にはかなり高い給料を払うことになると思います。全体的なR&D支出は少なくなるかもしれませんが、優秀な開発者はずっと多く稼ぐでしょう。QAやドキュメンテーションのようなことは、ほぼ自動的にできるようになるでしょう。
人々がソフトウェア開発者になるために学校に行くべきかという質問について、あなたの答えは、非常に優秀になるつもりならイエス、そうでなければやめておけ、ということですね。
そうですね。そしておそらく、人生のすべてのことについて言うべきでしょう。最高を目指すつもりでないなら取り組まないと。でも息子がいつも私に聞くんです。16歳で、大学でコンピューターを専攻することを考えています。「パパ、まだ仕事は残っているの? AIが仕事を奪うの?」と。いいえ、優秀な開発者はもっと需要が高まり、さらに多く稼ぐようになると思います。
AIへの信念と技術の将来
あなたのAIへの信念について少し話してきました。会社で実践に移す必要があり、現在の能力からいくつかの使用法を見つけています。この技術がどこに向かっていると思うか、ただ興味があります。というのも、番組ではAI懐疑論者から真の信者まで、基本的に最も懐疑的な人から最も信じている人まで、さまざまな方をお招きしているからです。この技術がどこに向かうと思いますか。そのスペクトルのどこに立っていますか。
エンタープライズソフトウェア会社、サイバーセキュリティ会社を経営している立場にいるのは興味深いことです。なぜなら業界内で、あなたのポッドキャストでも、破滅論者や加速主義者といったマクロな視点についての会話が多くあるからです。私たちはここで塹壕にいて、より速く進み、常により革新的になろうと、できることをしようとしているような気がします。
ですから、私たちは異なる視点をもたらすと思います。開発者にAIを実際に提供し、それでもっと多くのことをするよう求めています。ですから、ええ、それは純粋に良いことになるでしょう。私たちNetwrixは全力で取り組んでいます。それが私たちをより速く、より良くし、顧客の要求にずっと速く応えられるようにしています。ですから、私たちの業界だけでなく、顧客にとっても、そしてサイバーセキュリティにとっても、大きなプラスになると思います。
今日のものよりずっと良くなると思いますか。
ずっと良くなります。ほら、ほんの2年前を振り返ってみてください。2年前は、ChatGPTがオフィスの誰かについてのリメリック(五行詩)を書けるとか、面白いことができるとか、メールを書くのを手伝ってくれるとか、そういうのがクールだと思っていました。
今では、それを使ってこれまで以上に優れてスケーラブルなアプリを構築しているし、非常に速く改善しています。ですから間違いなく変化しています。仕様を書くことから、モックアップを作ること、ソフトウェアを構築すること、ユニットテストを書くことまで、エンタープライズソフトウェアを構築することのすべてを変えています。ですから、私は非常に楽観的です。
AI企業のビジネスモデルへの懸念
しかし、この技術に依存している会社を経営する立場として、これらのAI研究機関のビジネスについて心配したことはありますか。というのも、もし私があなたの立場なら、このものの上に構築するのは幸せだけれど、彼らが調達しているすべてのお金を見ているからです。そしてそれを正当化するためには多くの収益を上げなければならず、最終的には利益も必要です。
ですから、これらのツールにどれだけ依存するかという決定において、それは考慮されますか。なぜなら、いつかそれらが消えるかもしれないし、10倍高価になるかもしれず、それが計算を変えるかもしれないからです。
面白い質問ですね。今は、私たち全員が、実際にはベンチャーキャピタリストたちがAI使用を助成してくれていることの恩恵を受けているように感じています。あなたが言及しているのは、顧客にサービスを提供するコストが得られる収益よりも多くかかることが多いという事実だと思います。
つまり、大手AI企業は今は利益を上げていませんが、私たちは確かにその恩恵を受けています。ですから、太陽が輝いているうちに享受します。私たちにとっては、AIの使い方が非常に効率的で賢明であり、ばかげていて無駄ではないことを確認することです。
私たちは監視していて、優秀な開発者の中には月に1,000ドルのAnthropicクレジットを使っている人もいれば、月に4,000ドル使っている人もいます。そういう人には「そこで何をしているの?」と聞きます。ですから、私たちはそれを管理し、使用が責任あるものであること、顧客データを保護すること、適切なペースで使用することなどを確認しようとしています。
生成AIがサイバーセキュリティを変える
組織の外では、実際には多くの顧客と話をされていて、顧客はサイバーセキュリティを購入します。それは私が本当に信じているもう一つの場所で、この瞬間が物事を変えようとしています。生成AIが特にサイバーセキュリティに関わってくる可能性がある多くの分野について話すつもりですが、業界の人々と話した感覚では、生成AIがサイバーセキュリティをある意味でシフトさせているということです。
サイバーセキュリティは常に外部の脅威から保護することだったと思います。誰が従業員にフィッシングを試みようとするのか、誰が私のシステムにハッキングしようとするのか。何が露出しているのか。問題がどこにあり得るのか。
今では、企業は社内でAIをある種野放しで動かしています。すでに、既製のチャットボットと話していて、データが適切に保護されていなかったためにCEOのメールを表示してしまったというような、多くのワイルドなユースケースを聞いています。
特に、カスタマーサービスのユースケースについて話されましたよね。顧客と話をしています。AIが顧客と話をしています。おそらく、すべきでない取引を始めたり、すべきでないデータを共有したりし始めるかもしれません。ですから実際、これらのプロジェクトの多くが失敗しているという考えに戻ると、まず第一に、組織内のデータのセキュリティが良好な状態にあることを確認する必要があるようです。外部の脅威とともに内部の脅威を持たないようにする必要があります。これは正しい理解ですか。AIがサイバーセキュリティをどう変えているのか。
よくおっしゃいました。それは変化しています。それは、私たちが言うところの別の脅威ベクトルであり、攻撃のための別の表面積です。過去25年から30年にわたって、私たちは安全でない書かれたソフトウェアやバッファオーバーフロー、ウェブサイト上のSQLインジェクションなどに対処してきました。ほんの数年前はMicrosoft Officeのマクロが悪用されていたりといったことがありました。今、それは別の表面積なのです。
そしてこのほんの数週間で、非常に革新的な攻撃を見てきました。誰かがLLMへの指示を含むものを開くと、それはLLM内で処理されますが、それは隠されています。白い背景に白いテキストのようなものです。ですから人間には見えませんが、LLMはそれを処理でき、外部ソースを呼び出すことで情報を流出させることができます。
ですから、あなたのおっしゃる通りです。今、すべてのCISO、つまり最高情報セキュリティ責任者たちは、脅威は何かを考えています。私はつい最近、ある防衛請負業者のCISOと話していました。彼は「脅威を本当に評価する間、AIについて少しタイムアウトする必要がある」と言っていました。
ですから、私は全体的に本当に楽観的です。私たちの業界は常に変化しています。常に新しい脅威ベクトルがあります。AIは新しいものです。私たちは大丈夫だと思います。適切にセキュリティを確保する方法を見つけ出すでしょう。そうしなければならないのです。
音声AIのセキュリティリスク
それは本当ですね。AIセキュリティの一つの分野で特に興味があるのは音声です。音声は非常に良くなっていると思います。そして私は、自分の声をライセンスしていて、それが私のBig Technologyの記事を特定のアプリで読み上げてくれるという免責事項を付けて言います。私はそれが良いことだと思っています。建設的なユースケースだと思います。
しかし、本当に人間らしい会話、チューリングテストに合格するような会話ができる能力と、その上に私たちが知っている人のように聞こえる、人間のように聞こえる音声インターフェースを重ねる能力を組み合わせると、もし私が会社にいて、ある会社が、例えば私が上場企業だとして、決算発表からCEOの声を取って、人々に電話をかけ始めて会社から情報を得るというようなことができる可能性があることを知っていたら、私はパニックになると思います。それからどう保護しますか。
大きなリスクです。ところで、これは私たち全員がAI生成で、これがすべてだと言うべき場所でしょうか。いや、それについては気をつけないといけませんね。これはライブですから。でも本当に、見分けるのが非常に難しくなっていて、時々「まあ、わからないな」という感じです。ZoomとClaudeのCEOでさえ、ビデオアバターとして決算発表をしています。クレイジーですよね。
ちなみに、これは本物です。そうですよ。そうです。これは生身の人間です。手を伸ばしてください。ほら、見てください。そこですね。
あなたの言う通りです。実際に私たちの会社では、多くのなりすましをする会社と仕事をしてきました。彼らはCEOの声をなりすまして電話をかけさせます。フィッシングとか、ビッグフィッシングテストとか、何と呼ばれるか知りませんが、従業員にそれがどれだけ良いかを認識させるためです。そう、非常に良くなっています。チューリングテストをはるかに超えています。
この夏、西部で休暇を過ごしていて、砂漠を通る長いドライブがありました。家族全員が車の中で眠ってしまって、私はただChatGPTの音声モードを立ち上げて、「ねえ、あそこにあるランドマークは何? 今どこにいるの?」といったことについて話していました。妻は私がAIと仲良くなりすぎていると思っていて、私をからかいます。
これについてのサウスパークのエピソードがあります。あなたが言っているものを知っています。でも、先ほど言ったように、それは別の新しい脅威ベクトルです。私たちは見るものすべてを信頼できなくなるでしょう。常に検証しなければなりません。
あなたが知っている会社、あるいはテストを行っている複数の会社があるとおっしゃいました。音声AIは、テキストよりも従業員をこれらの詐欺に引っかけるのに効果的ですか。
従業員がそれを探すことを知るまでは、そうです。そしてそれは世代によって非常に異なります。これを聞いても驚かないでしょう。私の両親、彼らはベビーブーマー世代ですが、母と話すと、彼らは起こっていることに少し畏敬の念を抱いているような感じです。「Facebookであのものを見た?」と言って、私は「お母さん、あれは偽物だよ」と言います。
彼女は他のことでは非常に洞察力がありますが、時々AIのことで引っかかります。一方で、先日子供たちに何かを見せていたのですが、彼らはすぐに「あれは偽のAI音声だ」と言いました。有名な人が何かを言っているもので、「あれは本物じゃない」と。「どうしてわかったの?」と聞くと、彼らは16歳と18歳で、こういうものに精通しているのです。
ですから、サイバーセキュリティについて言えば、サイバーセキュリティについて会話するたびに、より複雑に感じます。そして、毎日それに取り組んでいる人から聞きたいのです。なぜそんなに難しくなったのでしょうか。私がばかげているのかもしれませんが、いくつかシンプルなことができるように思えます。人々が攻撃する方法を見つけたら、それを閉じればいいように思えます。私にとって、なぜそんなに難しいのでしょうか。
業界の答えと、少し皮肉かもしれませんが、本当の理由を説明しましょう。業界の答えは、これはおそらく私たちが専門的に扱う唯一の領域で、誰かが常に積極的にあなたを悪用しようとしていて、彼らは戦術を進化させているということです。ですから脅威の状況は変化し、より複雑になってきました。これはすべて非常に真実です。それに合わせて防御を進化させなければなりません。
もう少し皮肉な見方をすると、業界がただ過度に複雑化してしまったのだと思います。今では非常に多くのお金が関わっています。サンフランシスコで開催されるRSAカンファレンスに何十年も通っている者として言いますが、本当に年寄りっぽく聞こえるでしょうが、本当に変わりました。
今では非常に多くのお金が関わっていて、ブースで15分間子犬と触れ合えるから製品を買っている人がいます。それは合理的な理由のように思えますね。つまり、私も同意します。私の決定のほとんどは、子犬が関わっているかどうかで決めています。子犬は良い決定基準になり得ます。でも、もしサイバーセキュリティの決定をしているなら、それは最良ではないかもしれませんね。
ブースのハッピーアワーでIPAの缶のために情報を交換しているのです。私が言いたいのは、これは実際にセキュリティカンファレンスで起こっていることで、人々はビールのためにPIIを提供します。そうです、間違いなく。
バッジをスキャンさせてもらえますか。答えが見えます。ですから、私たちは誰もが新しいものを必要だと確信させてきました。ほら、3つのことだけでセキュリティプログラムを成功させることができます。私は長い間このことを言ってきました。それは、何を持っているか知っていますか。コンピューター、サーバー、クラウド資産、アイデンティティ、ファイルやデータかもしれません。
ですから、何を持っているか知っていますか。それをどう扱いたいかのポリシーを持っていますか。それは非常にシンプルなことかもしれません。例えば、機密データは決して公開共有に置くべきではない。本当にシンプルですよね。
ですから、何を持っているか。それに対するポリシーがあるか。そしてそのポリシーを実施しているか。それだけシンプルなのです。インシデントレスポンスのような他のこともあります。侵害された場合、何をするか。でも、素晴らしい基盤を構築するためには、それだけやればいいのです。そしてそれを助けるツールがあります。それが私たちの会社でやっていることの一部ですが、過度に複雑である必要はありません。
常に新しい4文字の略語は必要ありません。ですから、皮肉を言うつもりはありません。この業界が大好きですし、この業界の人々も大好きです。ここでのイノベーションも大好きです。でも、時々それを曖昧にしてしまったと思います。ほら、やる必要があるのは基本的なことだけです。
何を持っているか知り、それをどう扱いたいか知り、正しく扱っていることを確認する。AIに関しては、これが大きな問題だと思います。ガバナンス側が今は本当に未発達ですから。
あなたの言う通りです。本当に難しいです。従業員がAIをどう使っているかを理解するだけでも、先ほど言ったように、カスタムスクリプトを書く必要があります。ですから良くなっています。
先ほど話したように、これらのAI企業のイノベーションのペースを見るのは信じられないことです。ですから、そこに到達すると思いますが、今は少しワイルドウエストです。
攻撃の高度化とAIの影響
明らかに良い側はより多くの能力を持ち、悪い側もより多くの能力を持っています。ですから、生成AIのおかげで攻撃の高度さと攻撃の量が増加しているのを見ましたか。
確実に。私たちの会社では今、直接脅威を扱っているわけではありませんが、そうしている会社で働いたことがあります。ほんの数年前にインシデントレスポンスをしていたときに対処しなければならなかったことを振り返ると、今私たちに向けられている攻撃を見ます。
フィッシングメールを例に取りましょう。誰もが関連できる例ですよね。誰もがフィッシングメールを受け取ったことがあります。以前は、ある種のブロークンイングリッシュで、ぎこちないものでした。URLを見ると「それは本物じゃない」とわかりました。今では非常に説得力があるので、長い間これをやってきた人でも、まだトリプルチェックして「これは本物なのか、そうでないのか」と言わなければなりません。
今では、特に私の立場では本当に注意しなければならないことに気づきます。ですからCFOや法務顧問に電話して「これは本物に見える? 意見を聞かせて」と言います。ですから、わかりません。私たち全員がもっと注意深くなければならず、受け取るものに対して少し懐疑的にならなければなりません。
私はつい最近、銀行からメールか手紙を受け取って、「別の雇用主からの退職金の一部があります」というもので、彼らに電話したらかなり本物に聞こえましたが、それでも社会保障番号を渡したくありません。そのお金を持っていてもらえばいいかもしれません。
明らかにそれは追求すべき正しい道ではありませんが、信頼するが検証するというのが役立つことの一つです。絶対に。それをしなければなりません。
組織内のAIリスク
組織内で、AIは今、もしそれを自由にさせて、最新のエージェントに好きなようにやらせたら、すでに大混乱を引き起こしている段階に達していますか。間違った情報にアクセスしてそれを共有しているようなケースをすでに見ましたか、それとも将来の問題ですか。
いいえ、今の問題です。確実に。私は最近CISOと話しましたが、彼らはすべきでないいくつかのデータを露出させてしまいました。これらのAIモデルで、組織内でそれらを自由にさせるときの課題の一部は、最良のものは、名前は挙げませんが、毎日耳にするいくつかを選ぶことができますが、それらはあなたの権限を尊重します。ですからあなたがアクセス権を持っているものだけを見ることができます。課題は、自分がアクセス権を持っているすべてのものを知らないということです。
誰かがある時点であなたに給与データへのアクセス権を持つグループにあなたを入れたかもしれません。それは5年前のことです。これらの組織の一部では、人々が10年、20年組織にいるのを見ています。権限が蓄積されるのです。今では、知らなかったものへのアクセス権があります。その特定のOneDriveフォルダーに行ってアクセスすることを知らなかったでしょうが、もし「ねえ、選んだLLM、私がアクセス権を持っているすべての給与情報を見せて」と言ったら、実際の実例を見てきました。「もちろん、あなたの部署の給与情報がここにあります」と言われて、見るべきでないのにです。
これがどれだけ頻繁に起こるか信じられないでしょう。今話しているほとんどすべてのCISOが、その理由でLLMにデータへのアクセスを与えることを懸念しています。LLMが何か悪いことをするというのではなく、人々が検索して、自分がアクセス権を持っているとさえ知らなかった情報を見つけ、結合することを可能にしてしまうということです。
ですから懸念ではありますが、私たちは止められないということに戻ります。そして私がそう言うのは、それが避けられないから屈服しなければならないということではありません。でも私は、インターネットの初期の大手Fortune10企業にいたときのことを覚えています。そこでは「人々を自由にできない。すべてのファンタジーフットボールサイトをブロックしなければならない。誰もが時間を無駄にするから。YouTubeをブロックしなければならない。人々が一日中これを見ることになるから」と言っていました。
私が言いたいのは、それは絶対的に変革的な技術に対する非常に条件反射的な反応だったということです。正しい反応は、「道中でいくつか間違いを犯すだろうが、人々にこれに慣れて日常のワークフローで使わせなければならない」ということです。私たちはAIについてもその時点にいると感じています。注意深くなければなりません。
ばかげたことをして不器用に転んだりしたくはありませんが、業界として道中でいくつかの衝突があることを知らなければなりません。でもそれだけの価値があります。
ですから、チャットボットをブロックしてはいけない。チャットボットをブロックできません。それは定着すると思います。それらを止めるつもりはないと思います。少し前に面白いことが起こりました。PR会社が誤ってGoogleスプレッドシートを私と共有したのです。
それは基本的に彼らのCRMで、何百人もの記者のリスト、彼らとのやり取りについてのメモがありました。会社との関係に応じて緑、黄色、赤でコード化されていました。それを見られてラッキーだったと思います。
彼らにとってはアンラッキーでしたが、私はクリックしました。でも、私が見逃したものが他にもあるはずだと思います。そして今はチャットボットがそれを見つけられます。OutlookのCo-pilotでも、これらのボットにすでにDriveが接続されています。ですからDriveを接続すると、そしてまた、これはこれらの会社の責任ではありません。
彼らはあなたの権限を尊重する本当に効果的な技術を構築しています。でも今、自分が持っていると知らなかったものを見ているのです。興味深いですね。
個人的な興味:テックから農業へ
最後に個人的な話で終わりたいのですが、いつかテクノロジーを離れて農家になるか、二つの興味を融合させることに関心があると聞きました。それについて話してください。
今、私は幸運にも農場に住んでいます。それは妻の祖父母の農場で、私の子供たちはその農場で4世代目です。今日、私は幸運にも農場に住んでいます。その多くを農家に貸していて、彼が耕作しています。ですから彼がトラクターに乗っているのを見て、「いつか私もあそこにいられるかもしれない」と思っています。でも大好きです。
テクノロジー業界の多くの人々と話してきました。最初は、なぜ私が農業に興味があるのか少し変わっていると思いました。私は木を植えるのが好きです。何千本もの木を植えてきて、それが私の趣味です。手を汚します。でもテクノロジー業界の非常に多くの人々が同じように感じていることを知りました。
そして私が思うに、私たち全員が一日中コンピューター画面を見ているからです。サイバーセキュリティを扱い、ソフトウェアを構築しています。そして時々、ただ土に手を突っ込んで、本物の生きているものに触れるのが本当に素晴らしく感じるのです。ですから、私にとっては楽しい気分転換です。
牛はハッキングできないと言おうと思いましたが、牛はまだハッキングできないと言うべきですね。そうですね、それらが変わるまで時間の問題です。
確かに。でもそれは重要なポイントだと思います。あなたが指摘した良い点で、終わりにふさわしい注意点だと思います。草に触れに行けというミームがありますが、実際に本当にそうすべきなのです。外に出て画面から離れることは良い習慣です。
理由があってのことです。私たち全員がテクノロジー業界にいて幸運です。本当に素晴らしい分野ですが、時々視点を持たなければなりません。画面から目を離して、世界を見上げる必要があります。私たちは素晴らしい場所に住んでいますよね。それを利用しなければなりません。
間違いなく。では、グレイディさん、人々がNetwrixについてもっと知るにはどこで見つけられるか、そして会社についてもっと学ぶにはどうすればよいか、少し教えていただけますか。
もちろんです。netwrix.comにあります。チェックしてみてください。ちょうど立ち上げられたばかりの新しいブランドを見ることができます。そして、先ほど言ったように、私たちは企業が何を持っているかを理解し、それを適切に保護しているかを支援します。私たちがやっていることは非常にシンプルです。本当に強力です。約14,000の顧客が私たちに頼っています。ですから、とても楽しいです。素晴らしい場所です。
NetwrixのCEO、グレイディ・サマーズさん、今日はお越しいただきありがとうございました。こちらこそありがとうございます。ご視聴いただいた皆様、ありがとうございました。またこのチャンネルでお会いしましょう。
コメント