Anthropicが開発した最新モデルClaude Mythos Previewは、コード生成能力の副産物として高度なサイバーセキュリティ能力を獲得した。このモデルはプロの人間と同等レベルでソフトウェアの脆弱性を特定し、複数の脆弱性を連鎖させて高度な攻撃手法を構築する能力を持つ。こうした強力な能力が悪用されるリスクを考慮し、Anthropicは一般公開を控え、代わりにProject Glasswingという取り組みを開始。世界の重要なソフトウェアを支える組織と提携し、攻撃者より先にこのモデルを防御側に提供することで、OpenBSDの27年前から存在していたバグやLinuxの権限昇格の脆弱性など、従来の手法では発見困難だった問題を次々と発見・修正している。ソフトウェアが社会のあらゆる側面を支える現代において、サイバーセキュリティは社会そのものの安全性であり、業界全体が協力して防御能力を構築する必要があるという認識のもと、数ヶ月から数年をかけて世界のソフトウェアをより安全にすることを目指している。
ソフトウェアの脆弱性という見えない脅威
日々ソフトウェアを使っている大多数の人々は、バグについて考えることはありません。自分たちが依存しているソフトウェアが突然安全性を失ったら何が起こるかなんて、想像もしないでしょう。でもそれは、ソフトウェア開発者たちが毎日向き合わなければならない現実なんです。
ソフトウェアには常に欠陥や脆弱性が存在してきました。これは新しい問題ではありません。一般の人にとって、バグというのは大部分、日常的に気づくものではありません。なぜなら、気づかれたら修正されるからです。でも時折、本当に深刻な影響をもたらす脆弱性が現れます。
たとえば、たった一つのバグが、多くの異なる製品やウェブサイトが使用している共有ソフトウェアに入り込んでしまうようなケースです。一つの問題が世界中に拡大していくんです。
歴史的に見て、脆弱性を発見してパッチを当てるというのは、遅くて時間がかかり、コストのかかるプロセスでした。
AIがもたらすサイバーセキュリティの転換点
もしLLMが世界最高レベルのソフトウェア開発者と同じレベルでコードを書けるようになったなら、同じように効果的にバグを見つけ、そのソフトウェアを悪用することもできるということです。
こうしたモデルは、サイバーセキュリティの観点から基準を引き上げる能力を持っています。防御側を助ける能力と同時に、潜在的には攻撃側を助ける能力も持っているんです。
私たちは最近、Claude Mythos Previewという新しいモデルを開発しました。早い段階から、このモデルがサイバーセキュリティ能力において大幅に優れたものになることは明らかでした。
高速で加速する指数関数的な成長があるわけですが、その指数関数の中にも重要なポイントがあります。Claude Mythos Previewは、その中でも特に大きな飛躍を遂げた地点なんです。
私たちはこのモデルをサイバーセキュリティに特化して訓練したわけではありません。コード生成に優れるように訓練したのですが、コードが得意になった副作用として、サイバーセキュリティにも優れているんです。
プロレベルの脆弱性発見能力
私たちが実験しているモデルは、バグを特定することにおいて、概ねプロの人間と同等のレベルにあります。私たちにとって良いことは、より多くの脆弱性をより早く見つけて修正できるということです。
このモデルには脆弱性を連鎖させる能力があります。これはどういうことかというと、二つの脆弱性を見つけたとして、そのどちらも単独ではたいしたことができないような場合でも、このモデルは三つ、四つ、時には五つの脆弱性から攻撃手法を作り出すことができるんです。それらを順番に組み合わせることで、非常に洗練された最終的な成果を生み出せるわけです。
このモデルがこれを本当にうまくやれると考える理由は、このモデルが非常に自律的だということに気づいたからです。人間のセキュリティ研究者が一日中行うようなタスク、つまり本当に長期的なタスクを追求することにおいて、総合的に優れているんです。
Project Glasswingの始動
明らかに、このようなモデルの能力は、悪意ある者の手に渡れば害をもたらす可能性があります。だから、このモデルを広く公開することはしません。
私たちや他の組織から、より強力なモデルが登場してくるでしょう。だからこそ、これに対応する計画が必要なんです。そのために、私たちがProject Glasswingと呼んでいるものを立ち上げました。世界で最も重要なコードの一部を支える多くの組織と提携し、このモデルを彼らの手に渡すことで、こうしたモデルをどのように使ってリスクを低減し、すべての人を保護できるかを検討してもらうんです。
こうしたソフトウェア開発者に、他の誰よりも先に高度なツールを提供することで、私たち全員に集団的なアドバンテージを与えることができます。以前は見つけられなかったものを見つけられるようになり、こうした問題をはるかに迅速に修正できるようになるんです。
実際の成果 主要プラットフォームでの脆弱性発見
パートナーと協力して、私たちは基本的にすべての主要プラットフォームで脆弱性を発見してきました。
私はこの数週間で、人生の残りの期間すべてで見つけたバグよりも多くのバグを見つけました。
私たちはこのモデルを使って大量のオープンソースコードをスキャンしました。最初に狙ったのはオペレーティングシステムです。なぜなら、これがインターネットインフラ全体の基盤となるコードだからです。
OpenBSDでは、27年間存在していたバグを発見しました。私がいくつかのデータをOpenBSDサーバーに送るだけで、そのサーバーをクラッシュさせることができるんです。
Linuxでは、権限を持たないユーザーとして、自分のマシン上でバイナリを実行するだけで管理者に昇格できる脆弱性を複数発見しました。
これらのバグそれぞれについて、実際にそのソフトウェアを運用している保守担当者に報告しました。彼らは修正作業を行い、パッチを展開したので、このソフトウェアを実行している人は誰でも、もうこれらの攻撃に対して脆弱ではなくなりました。
開発者と政府との協力
たゆまずソフトウェアを保守している開発者にとって、自分のコードの脆弱性を悪用される前に発見し、修正するのを助けてくれるモデルは、かけがえのないツールです。
私たちは米国政府の関係者と話し合い、こうしたモデルのリスクを評価し、モデルのリスクに対する防御を支援するために協力することを提案しました。
ソフトウェアが支える現代社会
私たちの生活のあらゆることが、今やソフトウェアに依存しています。ソフトウェアが世界を飲み込んだんです。私たちの生活のあらゆるアナログ的な側面が、何らかの形でデジタル領域に表現されています。
だから私たちの日常生活すべては、それらを支えるシステムを信頼できるという前提の上に成り立っているんです。サイバーセキュリティは、私たちの社会の安全性そのものです。
より優れた防御能力を構築するために、業界全体で協力し合うことが不可欠です。
単独の組織が全体像を把握し、これに単独で取り組むことはできません。これは数週間のプログラムの一環として完了するものではありません。確実に数ヶ月、おそらく数年かかる仕事になるでしょう。
でも私が望んでいるのは、この取り組みの終わりには、世界のソフトウェア、顧客データ、金融取引、重要インフラが、以前よりも安全になっている状態に到達できることです。
コメント