AnthropicがPentagonからの軍事利用における要求を拒否し、AI業界に大きな波紋を広げている。米国政府は自律型兵器への使用と国民の大量監視という2つの制限事項の撤廃を求めたが、Anthropicはこれを断固として拒否。防衛生産法(DPA)の適用という脅しにも屈することなく、同社は民主主義的価値観とAI安全性の原則を貫く姿勢を示した。この対立は、AI技術の軍事利用における倫理的境界線と、企業が国家権力に対してどこまで原則を守れるかという重要な問いを投げかけている。
Anthropicが示した揺るぎない姿勢
Anthropicは文字通り、Pentagonの過酷な要求に対してノーと言いました。このことについて詳しくお話ししていきましょう。
何が起きているのかご存知ない方のために説明すると、基本的に米国政府がAI安全対策に関する論争において、Anthropicに期限付きの脅しをかけているのです。
問題の本質は、米国政府、つまりPentagonが、あらゆる合法的な目的のためにClaudeへの完全かつ無制限のアクセスを求めているということです。基本的には、軍がClaudeを好きなように使用できるという署名入りの文書を求めているわけです。
一方、Anthropicが拒否しているのは2つの厳格な制限事項です。Claudeが人間を殺害する自律型兵器やドローンには使用されないこと、そして米国市民の大量監視には使用されないこと。これが主要な、非常に大きな争点となっており、政府側は期限まで設定してきました。
政府による脅迫とAnthropicの対応
Anthropicが実際に何と述べたのか詳しく見ていきますが、彼らはこう言っています。「いずれにせよ、これらの脅迫は我々の立場を変えるものではない」と。
政府が行った脅迫について疑問に思っている方もいるかもしれませんが、その脅迫の全容はDPA(防衛生産法)の適用でした。これは本質的に、政府がAnthropicの同意なしにClaudeを引き渡させ、その安全ガードレールを取り除くことを法的に強制できるという脅しです。
ほとんどの法律専門家は、このような形での使用は完全に前例がなく、おそらく法廷で争われることになるだろうと述べています。しかし、これはかなり不条理な矛盾です。なぜなら、政府はAnthropicが安全保障上のリスクであり、かつ国家安全保障にとって非常に重要であるため緊急権限を使ってアクセスを強制する必要があると言っているからです。
両方を同時に主張することはできませんよね。覚えておいてください、彼らには期限がありました。かなり異常な事態でしたが、Anthropicは文字通りこう言ったのです。「我々は何が起ころうと気にしません。我々には譲れない2つの事項があり、それを貫きます」と。
そして今、この状況は完全に狂気じみたものになっています。
Anthropicの公式声明
ご覧のとおり、Anthropicは基本的にこう述べています。政府が再考することを望んでいると。国防省が自分たちのビジョンに最も合致した請負業者を選択するのは省の特権ですが、Anthropicの技術が我々の軍隊に提供する実質的な価値を考えると、再考してほしいと願っています。
我々の強い希望は、要求した2つの安全対策を維持したまま、国防省と我々の戦闘員に貢献し続けることです。国防省がAnthropicとの契約を解除することを選択した場合、我々は別のプロバイダーへのスムーズな移行に協力し、軍事計画やその他の重要な任務への継続的な混乱を回避します。そして我々のモデルは、必要な限り、我々が提案した広範な条件で利用可能となります。
要するにAnthropicはこう言っているのです。「もし我々を排除したいなら気にしません。我々を船から投げ出したいなら、喜んでそのお手伝いをします。しかし、通常は中国企業などに適用するような措置で我々を縛るという脅迫については、絶対に譲歩するつもりはありません。我々が立脚するすべての価値観に反することになるため、決して譲歩しません」と。
論争の核心
このツイートがすべてを完璧に要約しています。「私が理解できないのはこれです。Pentagonは合法的な行動のみが許可されると記載された契約を求めています。Anthropicには2つのレッドラインがあり、そのレッドラインはすでに違法です。つまり、議論全体は契約書に『これら2つの違法行為を要求しない』と記載することについてなのです」
彼らが求めているものを見ると、これはかなり真実です。これらのことはすでにかなり違法なのです。つまり大量監視です。
Anthropicは述べています。「我々はAIを合法的な対外情報活動や防諜任務に使用することを支持します。しかし、これらのシステムを国内の大量監視に使用することは民主主義的価値観と相容れません」
AI駆動型の大量監視は、我々の基本的自由に対する深刻で新規なリスクをもたらします。そして、そのような監視が現在合法であるとしても、それは法律が急速に成長するAI能力にまだ追いついていないからに過ぎません。
第4修正と監視の法的グレーゾーン
彼らが本質的に言っているのは、政府には常に人々を監視する能力があったが、それに関する規則が設けられていたということです。主に、令状が必要だということ。つまり、誰かを尾行する前に、実際に疑うべき理由があると裁判官が承認しなければならないということです。これは憲法上の保護です。
しかし抜け穴があります。データブローカー、つまり個人データを収集して販売する企業は、あなたの位置情報履歴、閲覧習慣、社会的つながりを、政府を含む誰にでも合法的に販売できます。なぜなら、技術的にはあなたが50ページの利用規約のどこかで同意したことになっているからです。
裁判所はまだこれを違憲とは判断していません。なぜなら歴史的に、数十のブローカーから断片的なデータポイントを購入することは面倒で、それほど有用ではなかったからです。AIは基本的にその前提を完全に打ち破ります。合法的に購入されたすべての断片化されたデータを取得し、それをすべてのアメリカ人の生活の詳細な肖像画につなぎ合わせることができるのです。
誰と会っているか、何を読んでいるか、どこで礼拝しているか、政治的見解は何か、これらすべてを自動的に、全員に対して、常時。令状も、司法の監視も、相当な理由もなしに。
Anthropicの立場は、この第4修正の保護が、現在技術的に可能になっていることに追いついていないということです。そして彼らは、法制度が追いつく前に、民主主義国家全体を規模的に監視することを可能にするエンジンになりたくないのです。
これがそれほど狂った要求ではないことを考えると、Pentagonは「我々はとにかくこんなことはしない。なぜそんなに大げさなのか」と言っています。
自律型兵器の問題点
もちろん自律型兵器についても同様です。Anthropicはこう述べています。「今日の最先端AIシステムは、完全自律型兵器を動かすには単純に信頼性が不足しています。我々はアメリカの戦闘員と民間人を危険にさらす製品を意図的に提供することはありません」
これは非常に真実です。LLMの仕組みを知っていれば、それらが確率的マシンであることがわかるでしょう。100%の信頼性を保証する方法はありません。現代の軍隊は交戦規定と戦争法の下で運用されています。
動くものすべてを撃つわけにはいきません。比例性、民間人のリスク、脅威が本物かどうかについて判断を下さなければなりません。ここで間違った判断を下した兵士は責任を問われる可能性があります。そしてその決定を所有する人間が連鎖の中にいます。
完全自律型兵器はその人間を完全に取り除きます。AIが標的を識別し、その決定を誰もレビューすることなく攻撃します。
問題は、もちろん私がすでに述べたように、Claude を含む現在の最先端モデルは、そのために本当に十分な信頼性がないということです。これらのシステムは自信を持って間違うことがあります。訓練された兵士のように文脈を真に理解しているわけではありません。パターンマッチングを行っているのです。
そして民間人がいる混乱した現実世界の戦場で、実際の命が懸かっており、異常な状況、不完全な情報がある中で、パターンマッチングと真の判断との間のギャップは人々を殺すことになります。
説明責任の空白
また、ほとんどの人が考えていない、より深い説明責任の空白もあります。もし自律型兵器が人間の決定下では戦争犯罪となるようなことを犯した場合、誰が責任を負うのでしょうか。プログラマーでしょうか。Anthropicでしょうか。それを配備した将軍でしょうか。誰もいません。これは未解決の問題です。そして、これに伴う問題は他にもたくさんあります。
見てください、Anthropicは自律型兵器が常に間違っていると言っているわけではありません。彼らはただ、LLMの信頼性の低さと技術の範囲を考えると、現時点では配備する意味がないと言っているのです。なぜなら確実に実行できないからです。それを行うのはかなり無謀です。だからこそ彼らはそれを契約書に書いてほしいのです。
そして実際、Anthropicはこれを解決するためにPentagonと協力することを申し出ましたが、Pentagonは「いや、根本的な問題を修正するよりも制限を削除したい」と言ったのです。
そして、それほど狂っていないこれら2つのことを見ると、おそらくこれは単なるエゴの問題かもしれないと気づき始めます。米国政府のPentagonは「我々のやり方でなければダメだ」と言っているだけだと思います。
というのも、前回のビデオで述べたように、もしご覧になっていなければですが、彼らは基本的に、Anthropicが米国政府のやりたいことを許可しないことに対して代償を払わせると述べたのです。これは全く専門的に聞こえません。
誤解と偽情報
国防長官のEmil Michaelのような人々がこう言っているのを見ると、これは本当に2秒でもリサーチできないのかと思います。彼は「あなたの最悪の悪夢を想像してください。今、Anthropicが独自の憲法を持っていることを想像してください。企業価値でもなく、米国憲法でもなく、アメリカ人に自分たちの企業法を押し付ける独自の計画です」と述べています。
完全に虚偽の声明です。2秒でもリサーチすれば、コミュニティノートにはこう書かれています。Claude憲法はアメリカ人に価値観を押し付ける計画ではなく、ClaudeというAnthropicのチャットボットがユーザーのリクエストにどう応答すべきかについての原則のセットです。
これは基本的にOpenAIのモデル仕様に匹敵するものです。そしてこれはおそらくClaudeをClaudeたらしめているものです。この人が誰だか知りませんが、もし彼が実際にクイックGoogle検索を行ったり、AIツールを使ったりしていれば、Claude憲法がClaudeがどのように考え、行動し、トレードオフを解決すべきかを定義する書面化された原則のセットであることに気づいたでしょう。その目標は、安全で倫理的でありながら、人々にとって本当に有用であることです。
これはAnthropicがClaudeにどのような存在になってほしいかを説明する基礎文書です。さらに、これらの価値観はClaudeとして登録されており、最終的な権威として扱われています。他のすべてのトレーニングと指示は、その文字と根本的な精神に合致するはずです。
Claude憲法の実際の内容
Anthropicは憲法をClaudeの行動に関する4レベルの優先順位に凝縮しています。
広く安全であること。AIの適切な人間による監視を損なわないこと。深刻な害を引き起こす可能性のあるすべての行動を避けること。
広く倫理的であること。良い価値観を持つこと。正直であること。不適切、危険、または有害な行動を避けること。
Anthropicのガイドラインに準拠していること。
そして本当に役立つこと。ユーザーに実際の利益を提供し、回避的または役に立たない答えではなく、協力的であること。
安全性と倫理は明示的に、役立つことよりも上位にランク付けされています。したがってClaudeは、役立つことが優先順位の高い制約と対立する場合、リクエストを拒否またはリダイレクトすべきです。
そしてこの憲法は、難しいケースを処理するための例と推論を提供していることを覚えておいてください。正直さと思いやりのバランスを取り、機密情報を保護すること。
これらすべてのことがClaudeにとって本当に重要です。そして実際にこれを読み、憲法の枠組みとClaudeの憲法が何であるかを理解すると、この声明が全く意味をなさないことが分かります。
要約すると、Claudeの憲法は長く進化する文書であり、安全第一の価値階層—安全性、倫理、コンプライアンス、有用性—をエンコードし、Claudeが単に曖昧なルールに従うのではなく、それらの観点から行動を説明し正当化するように訓練します。
そして私は、これがClaudeが今日私たちが持つ最高のAIの1つである理由の1つだと思います。
AGI開発の憶測
Twitterで議論されている他のことで私が見つけたのは、一部の人々が「私の説明は、Anthropicが文字通り内部で神を構築しており、Pentagonがそれを見て完全な制御を要求している」と言っていることです。
明らかにこれは真実ではありません。もしAnthropicがAGIや神レベルのAIに到達していたら、公開開示はないかもしれませんが、この時点でかなり明白だと思います。そしてAGIにはまだいくつかの深刻なボトルネックが必要であることは分かっています。
ただし、Anthropicが最近、完全に狂ったような製品を次々と出荷していることは認めます。だから、もしかしたら彼らは何か狂った内部ツールを持っているかもしれません。
イーロン・マスクの批判
Twitter圏でこの会話がどのように進化しているかをさらに見ていくと、イーロン・マスクが何らかの理由でAnthropicを嫌っているのが分かります。再び同じ人物が、Anthropicの新しい憲法の前に、彼らがインターネットから削除しようとした非常に古い憲法があったという事実について話し始めているのが見えます。
「あらゆる種類の非西洋文化の伝統にとって有害と見なされる可能性が最も低い応答を選択する」。なぜこれがそんなに悪いことなのか分かりません。Claudeはできるだけ倫理的で、できるだけ不快でないようにしようとしているのです。
そして今、イーロン・マスクは「Anthropicは西洋文明を嫌っている」と言っていますが、これは真実から程遠いものです。
イーロンは自分のAIチーム以外の誰とでも骨を拾いたいようです。
中国との競争懸念
さて、この状況全体について恐ろしい部分があります。Beth Jazosは実際にこう述べています。「ここで不幸なことは、中国が絶対に米国のモデルを蒸留し、ためらうことなく自律型兵器に使用するだろうということです」
私はこれに同意します。中国がアメリカが持っているような民主主義を持っていないのは事実です。もう少し統制されていると思います。そしてそのため、もちろん中国は絶対に何でもやりたいことをするでしょう。
異なる国々の状況を見ると、少し厄介です。もちろん蒸留は非常に大きな問題です。しかし覚えておかなければならないのは、他国と競争している場合、気にせずにためらうことなくそれらの自律型兵器システムを配備する国があるということは、もちろん非常に恐ろしい部分だということです。
つまり、これは議論されるべき会話です。ある時点で、効果的にそれを行う方法を見つけなければならないでしょう。なぜなら、中国だけでなく、他の国々も急いで先に進もうとすることがすでに分かっているからです。
だからかなり暗い状況になるでしょう。しかし、もちろん、誰かがホットな意見を投稿しており、私はこれに非常に同意します。なぜならそれは非常に理にかなっているからです。
Anthropicにとっての戦略的勝利
「Pentagonは基本的に、Claudeが他のモデルよりもはるかに優れており、彼らにはそれが必要だと発表しました。一方、Anthropicは競合他社よりも原則的で道徳的に優れていることを示しました。最終的に、Pentagonが譲歩するか敗北したとき、これはAnthropicにとって大きな勝利となるでしょう」
そして私はある程度同意します。なぜなら、これはAnthropicが自分たちの価値観を守ることに関してどれほど厳格であるかを示しているからです。そして、もしAnthropicがこの状況に置かれたとき、彼らが譲歩しないとは誰も思わなかったでしょう。Anthropicが窮地に追い込まれるのは公平だと主張する人さえいたかもしれません。
しかしもちろん、Anthropicは完全に、死ぬまでそれを守る道を進む意志があります。これは間違いなく名誉あることであり、ほとんどの人がAnthropicに対してより高い評価を持つようになると思います。
さて、Air Gridをご覧いただきありがとうございました。Andrew Blackでした。皆さんの考えをお聞かせください。それではまた次回お会いしましょう。
コメント