米国政府が国家安全保障を理由に、Anthropicの最先端AIモデルであるClaude Fable 5およびMythos 5の提供停止を命じた件について解説する動画である。政府側は安全対策を回避するジェイルブレイクの手法を問題視しているが、Anthropic側は軽微な脆弱性に過ぎず他社モデルでも可能なレベルだと反論している。この措置は米国内のAIラボ全体への影響や、外国籍従業員の排除による人材流出、さらにはローカルモデルへの移行の必要性など、今後のAI開発の規制や米中ハイテク覇権争いにおける重大な転換点となる可能性をはらんでいる。
米国政府による突然の提供停止命令
今回の件はかなり突飛な内容で、私が録音している間にも状況が動いていますので、その点を念頭に置いておいてください。本日、Anthropicが声明を出し、米国政府からClaude Fable 5とMythos 5へのアクセスを遮断するよう命じられたと発表しました。通信速度を制限するとか、特定の地域に限定するという話ではなく、基本的にはすべての顧客に対して完全に遮断するというものです。そして、その理由こそが、私たちがこれまで取り上げてきたものとは一線を画す部分となっています。今回の措置は、国家安全保障を引き合いに出した輸出管理令を通じて出されました。この命令により、米国内にいるか国外にいるかを問わず、外国籍の人間によるアクセスが一切禁止されます。そこには、Anthropicの外国籍の自社従業員さえも含まれているのです。Anthropicは、これに実際に従うための唯一の方法は、すべてのユーザーに対してモデルの提供を完全に中止することだと述べています。彼らの他のモデルであるOpusやSonnet、Haikuなどはすべてそのまま維持されますが、Claude Fable 5とMythos 5だけが提供停止になります。
ジェイルブレイクを巡る主張の食い違い
さて、ここからは誰が何を言っているのかに注意を払う必要があります。なぜなら、政府の立場とAnthropicの立場があり、それらが必ずしも一致していないからです。Anthropicによると、東部時間の今日の午後に命令を受け取ったそうですが、その書簡には具体的な国家安全保障上の懸念が明記されていなかったとのことです。彼らの理解では、政府は何者かがClaude Fable 5をジェイルブレイクする方法、つまり安全対策のガードレールを回避する手段を見つけたと考えているようです。そこでAnthropicはその手法のデモを確認したそうですが、彼らの見立てでは、すでに知られているいくつかの軽微な脆弱性が表面化したに過ぎず、特別な回避策を使わなくても、すでに一般公開されている他のモデルでも見つけられるような内容だったといいます。さらに彼らは、その噂されているジェイルブレイクの具体的な内容についても言及しています。Anthropicの話では、政府から提示されたのは口頭による証拠のみで、それは基本的にはモデルにコードベースを読み込ませてソフトウェアの欠陥を修正させるという、限定的な手法にとどまるものだそうです。彼らは今回の命令の根拠になったと思われる報告書を精査したところ、そこで示されている能力は、OpenAIのGPT 5.5を含む他のモデルでも広く利用可能なものだと主張しています。これは少し面白いですよね。彼らは基本的にはOpenAIのことを告げ口しているわけですが、これは防御側がシステムを安全に保つために毎日行っていることと同じような性質のものです。
安全対策の実態とリーク問題の背景
ですから、これが対立の核心部分になります。Anthropicは、これがモデルを完全に解放してしまうような万能のマスターキーではないと主張しています。これは深刻ではない限定的な事象であり、その能力はすでに他の場所にも存在しているため、それを理由にモデルを回収するのは理にかなっていないというわけです。そしてそれを裏付けるために、彼らはそもそもClaude Fable 5の安全性がどのように構築されたかを説明しています。発売前の数週間にわたり、米国政府や英国のAIセーフティ・インスティテュート、外部組織、そして社内チームとともに数千時間ものレッドチーム演習を行ったと述べています。しかし、彼らがブログ記事で完全に触れていないことが一つあります。私がClaude Fable 5やMythos 5の登場をお伝えしていた過去の動画を覚えている方なら分かると思いますが、モデルのレッドチーム演習が行われている最中に、何者かがそれにアクセスし、中国の情報源にリークしたことがありました。その後、それは主に中国で使われているプラットフォームを通じてオンラインで販売され、そのAPIは不当に高額な価格で取引されていました。そのため、人々はモデルに早期にアクセスすることができ、それが多くのリークを目にする理由となりました。しかし、彼らはそのことに触れておらず、それこそが米国政府が今回の件を懸念した主な理由の一つだった可能性があります。
完璧な防御の不可能性と業界への影響
彼らの主張によれば、Claude Fable 5の安全対策は、これまでに展開したどのモデルよりも強力に仕上がっているとのことです。ユーザーが実際に対策が過剰すぎると不満を漏らすほど強力だったそうで、それは事実でもあります。昨日も、Anthropicの安全対策が多くの消費者にとって少し煩わしいものになっており、人々が不満を言っているということについてお話ししました。ですから、その部分は本当です。しかし、ここでAnthropicが慎重に扱っているニュアンスがあり、彼らがどのように表現しているかをそのまま繰り返す価値があると思います。なぜなら、それが誠実な内容だからです。彼らは、モデルのサイバー能力を広範囲に解放してしまうような、いわゆる万能のジェイルブレイクを見つけた人は誰もいないと述べています。しかし同時に、ほとんどの企業が公には言いたがらないことも認めています。現時点では、完璧にジェイルブレイクを防ぐことはおそらく誰にとっても不可能であり、業界のあらゆる安全対策はいくつかの限定的な回避策に対して脆弱であり、最終的には万能な手法が発見される可能性が高いと述べているのです。そのため、彼らのアプローチ全体は、彼らが多層防御と呼ぶ手法でした。ジェイルブレイクを極めて限定的なものにするか、実行するのに莫大なコストがかかるようにし、強力な監視体制と組み合わせて攻撃を迅速に検知し遮断するというものです。また、Claude Fable 5において30日間のデータ保存を義務付けたのもそのためで、これによって一部の顧客を失うことになったと認めていますが、ジェイルブレイクの研究とパッチ適用が可能になるのです。
AI開発の規制と新たな冷戦の構図
しかし、これらすべては最終的にどこに着地するのでしょうか。Anthropicは命令に従っています。モデルの提供は停止されますが、彼らはこの決定に対して公然と異議を唱えています。彼らの言い分としては、限定的なジェイルブレイクの可能性を理由に、何億人もの人々に展開されている商用モデルを回収するべきではないということであり、もしこの基準が全面的に適用されれば、すべての最先端ラボからの新しいモデルのリリースが事実上凍結されてしまうだろうということです。精度が高く進んでいる今回の問題がAnthropic一社にとどまらない理由はここにあります。政府がこの基準でモデルを回収できるのであれば、同じ論理がClaude Fable 5だけでなく、OpenAIやGoogleなど、あらゆる企業に適用されることになるからです。Anthropicの立場は、政府は危険な展開を阻止できるべきであるものの、それは透明で公平であり、技術的な事実に裏付けられたプロセスを通じて行われるべきだというものです。そして、今回の措置はそのような原則に従っていないと主張しています。彼らは顧客に対しても謝罪しており、今回の件を誤解と呼んでいます。そして、できるだけ早くアクセスを再開できるよう取り組んでいると述べています。さらに、今後24時間以内に詳細を共有するとのことです。そのため、次の1日で多くのことが分かるはずですので、本当にこの件に注目しておいた方がいいでしょう。政府が実際の技術的な根拠を共有し、なぜAnthropicが言うよりも深刻なのかが明らかになるか、あるいは今回の措置が撤回され、実際には限定的な発見が全面的な回収にまで誇張されていたことが判明するかのどちらかです。現時点では、私たちは片方の当事者の詳細な説明しか得ておらず、その当事者は当然、事態がどのように見られるかに関わっています。ですから、政府が実際にどのような内容を提示してくるかを見るまでは、どちらが正しいかの判断は保留にしたいと思います。次に進む前に、私たちはUniverse of AIというニュースレターを立ち上げたばかりです。自分で探し回ることなくAIのニュースを常に把握したい方は、概要欄にリンクがありますので、ぜひ見逃さないようにしてください。
莫大な経済的損失と人材流出のリスク
さて、一人の消費者として、これは私たちにとって重大なニュースです。なぜなら、AI分野がどこに向かっているのかを物語っているからです。ここは成長を続けている分野です。法律や規制の動きと比べて、AIの開発がはるかに指数関数的なスピードで進んでいる分野なのです。Skyに浮かぶ雲のように掴みどころのない規制ですが、歴史を通じて常にそうでした。テクノロジーは常に、それを管理する法律や規制よりも早く動くものです。ご覧の通り、これらの最先端ラボは、政府が理解できること、あるいは管理できることよりも明らかに先を行っています。政府にはこれらを統治する能力がないか、あるいは世界中で法制化が追いついていないのが現状です。これがユーザーにとって何を意味するかというと、おそらくローカルモデルを検討すべき時が来たのかもしれません。私たちのコンピューターにモデルをローカル環境で展開する時が来たのかもしれないのです。もちろん、言うは易く行うは難しで、そのためには必要なハードウェアを用意しなければなりません。しかし、自宅のGPUで今すぐ実行できるOpusレベルのモデルも存在します。 shadowに隠れて誰もそれを使用することを止めることはできません。その人物によれば、これは始まりに過ぎないとのことです。私自身は、本当にそうなるかどうかは100%確信していません。私たちはまだこの分野の初期段階にいると思います。今回の件は、どちらかといえば一発限りの特異な状況なのかもしれません。政府がAIに慣れていき、これらのAIラボと連携するようになれば、規制は少なくなっていく可能性もあります。しかし、言うまでもなくAIは非常に強力な分野であるため、あらゆる政府が管理下に置きたいと考えており、当然ながら他の政府にアクセスさせたくないと考えています。歴史が好きな方なら分かると思いますが、これはまるでロシアとアメリカが競い合っていた冷戦の再来のようです。ただ、今回はロシアではなく、アメリカと中国が最高のテクノロジーをリリースし、第一人者になるために競い合っています。そして当然ながら現時点で、もしOpenAIやAnthropicといった米国のラボが極めて強力なモデルを製造しており、それが米国政府の望まない中国政府の手に渡るようなことがあれば、彼らは明らかにそれを阻止しようとするでしょう。だからこそ、このような事態が起きているのです。
開発への干渉と過剰な恐怖煽りの代償
しかし、これには別の見方もあり、それも重要だと私は考えています。米国のラボ、つまりAnthropic、OpenAI、Google、xAIなどが開発するいかなるモデルも、米国外に展開できなくなるため、収益の面で数十億ドルを失うことになります。規制の内容は基本的にはそういうことです。米国外の人間は誰もそれを使用できず、外国籍の従業員の枠内でも使用できません。これはこれらのラボにとって非常に大きな打撃となります。さらに別の影響として、米国籍を持たない外国の市民である従業員は、これらのラボで働けなくなる可能性があります。これは人材プールという極めて重要な部分におけるもう一つの制限です。この人物の指摘によれば、そして私も彼の意見をある程度理解できるのですが、これは事実上、最先端の米国ラボがこれらのモデルを訓練し、展開することができなくなることを意味します。なぜなら第一に、彼らは海外の顧客にアクセスできなくなるからです。それは収益の減少を意味します。収益が減れば、実際にモデルを訓練するための資金が減少し、さらに人的資本の喪失にもつながります。米国政府のために働けないのであれば、アメリカ以外の別のラボ、例えば中国にあるラボで働くことになるかもしれないからです。つまり基本的には、米国におけるAIの開発スピードを遅らせ、例えば中国に追いつくための時間を与え、さらに彼らのもとで働く人材を引き寄せる機会を提供することになり、中国に優位性を与えてしまうことになります。しかし、これらはすべて、もしこの状況が続き、米国政府がラボ、特にClaude Fable 5やMythos 5のようなモデルの展開に干渉し続けた場合を前提とした話であり、実際にそうなるかは分かりません。Claude Fable 5やMythos 5は、現在世の中にある他の何よりもはるかに強力なモデルであることは間違いありません。だからこそ、現時点でこのような規制が課されているのかもしれません。しかし、他のすべてが向かっている方向と比べて、モデルが指数関数的な規模でどんどん進化していることを考えると、もしかしたらGPT 5.6やGPT 6といったモデルでさえ、同様の規制に直面するかもしれません。ところで、皆さんはどう思われますか。一部の人々はAnthropicに対して少し怒りを覚えており、彼らがモデルを過剰に宣伝し、私たちのモデルは本当に危険で恐ろしく、リリースするのが怖いなどと言っていたことを非難しています。lnkそして実際にリリースされた際、ダリオ・アモデイは基本的にはAI開発を停止すべきだと発言し、恐怖を煽るような雰囲気を醸成していました。人々はそのように指摘しています。lnpそしてその結果、ついに政府が介入することになったのです。さて、皆さんはどう考えますか。これはAnthropic의責任だと思いますか、それとも米国政府の側に非があると思いますか。それでは、今日の動画はここまでです。ぜひチャンネル登録をお願いします。また、universeai.behive.com で新しいニュースレターをフォローしていただき、メインチャンネルであるWorld of AIの登録や、XでUniverse of AIZをフォローして応援していただけると嬉しいです。それでは、また次の動画でお会いしましょう。
コメント