史上最大規模の中国による軍備増強と汎用人工知能への進化という二つの巨大な潮流の中で、国防総省は深刻なAI遅延に直面している。国防次官が就任直後に発見したのは、Anthropicを含む商用AIベンダーとの契約に数十もの制限条項が盛り込まれ、最も機密性の高い軍事作戦の中枢に単一ベンダーのロックイン状態が生まれていたという衝撃的な事実である。特にマドゥーロ襲撃という歴史的成功作戦の後、ベンダー幹部から「我々のソフトウェアが使われたか」という問い合わせがあったことで、AIという基盤技術のガバナンスを企業の「憲法」に委ねることの危険性が明らかになった。民主的プロセスで合法的に定められた任務遂行に対し、企業の価値観が制約を課すという構造は、国家の主権と安全保障の根幹を揺るがす。国防総省は14の重点分野を6つに絞り込み、応用AIを最優先課題とし、90日間で3百万人の職員のうち120万人がAIを活用する体制を構築した。現在求められているのは、民主的に選出されたリーダーシップによる監視、複数ベンダー戦略、そして平時速度から戦時速度への組織文化の転換である。
史上最大の軍備増強とAGIの時代
私たちは史上最大の軍備増強に直面しています。汎用人工知能、つまりAGIに向かって進んでいる基盤、レイヤー、あらゆるものに触れる何かに向かっています。でも国防総省ではAIで大きく遅れをとっています。
あなたは国防総省のCTOですね。どのように優先順位を見極めているんですか？
この役職に就いた時、14の重要優先分野がありました。それを6つに絞り込みました。変化と成長、そしてインパクトを生み出す最大の機会がある分野です。
商用AIモデルがペンタゴンで使われることについて、非常に公開的な議論がありました。この最新の議論で何が変わったんですか？私は本当に驚愕しました。ここ数週間の報道で聞いていることを遥かに超えるものがあったんです。
国防次官との対話：公僕としてのキャリア
今日はお時間いただきありがとうございます。毎週お忙しいと思いますが、この1週間は特に公に忙しい週だったと思います。参加いただきありがとうございます。
こちらこそ、光栄です。
Anthropic、AI、国防について話したいと思いますが、まずあなた自身について、どうやってこの立場に至ったかを少し話したいと思います。これは初めての政府での職務ではありませんね。以前にも公僕として働くことを決断されていて、長い間そうされてきました。この部屋の半分を占めるテクノロジー側の人々にとって、あなたは非常に有能なシリコンバレーの経営者、引く手あまたで非常に成功した人物として知られています。まず、何があなたを公共サービスに引き込んだのか教えてください。どのように始まったのか、なぜそれを行うのか、そしてなぜ今この役職を引き受けたのですか？
最初の会社Tell Me Networkの後、音声認識ソフトウェアを作って2007年にMicrosoftに売却したんですが、テクノロジーから少し離れる必要がありました。それでホワイトハウスフェローシッププログラムに応募したんです。すごくクールなプログラムで、コリン・パウエルもやっていましたし、統合参謀本部議長も、ケイン提督、ケイン将軍もやっていました。本当にクールな1年間の超党派プログラムで、選ばれたんです。それは素晴らしかったです。そして当時の国防長官だったロバート・ゲーツの下に配属されました。
それでアフガニスタン、イラク、パキスタンで時間を過ごすことができて、その世界に情熱を持つようになりました。私にとってはとても新しい世界で、いつか準備ができたら本格的に戻ってこようと思いました。そしてトランプ大統領が当選して、これは破壊者がトップにいる瞬間だと思いました。彼はヘクセス長官を選び、それは私が見てきたすべての問題を解決するより明確な道があることを意味していました。大統領令、重要鉱物、新技術、新規参入企業のペースを見ればわかります。以前と比べて信じられないペースです。だから、そこにいることにワクワクしています。
平時速度では動けない国防総省
素晴らしいですね。それについて少し話してください。あなたは率直に、国防総省は平時速度で運営できないと発言されています。これは創業者に言うようなもので、戦時のCEOか平時のCEOかという話です。平時速度とは何を意味するんですか？何が問題なんですか？そして勝利とは何を意味するんですか？緊急性を持って動くとはどういうことですか？
平時速度は冷戦後に国防総省で始まりました。有名な「最後の晩餐」と呼ばれる出来事があって、ペンタゴンのリーダーたちが業界に言ったんです。「もう兵器システムの購入やイノベーションはあまり行われないから、統合してペースを落として、基本的に成長を鈍化させて、配当支払いと自社株買いをする会社になってください」と。
それが長い間続いて、業界は4、5社の大手企業に統合されました。それから2010年代半ば頃から中国による史上最大の軍備増強に直面することになりました。でも私たちは追いつきませんでした。
突然、重要な国内生産の多くを外部委託していることに気づきました。重要鉱物、バッテリー、サプライチェーンの多くの部分です。そして気づいたら、すごい、追いつかなければならないことがたくさんあると。戦時速度とは、国家の強さに必要な重要なものを国内に再配置することを確実にし、それを進めているということです。
私たちは卓越した能力を持っています。多くの分野でリードしています。でも重要な分野で自立していることを確認しなければなりません。だからできる限り全力で走っています。
驚いたことがあります。Skyioという会社と仕事をしているんですが、彼らは中国から制裁を受けました。通常は企業がアメリカから制裁を受けてここでビジネスができなくなるという話を聞きますよね。でも実際には、重要な会社で中国から制裁を受けて、主に中国から来るモーターやバッテリーやその他の本当に重要なものを買えなくなると、大変なことになります。そしてそれらの製品が防衛調達サイクルに入って、もう入手できなくなると、巨大な問題になります。
だから、私たちの実践で学んだのは、防衛産業基盤だけでなく、そのすべての前駆物質も重要だということです。
CTOとしての優先順位付け
役職に就いたときの優先順位付けについて少し話してください。国防総省のCTOとして、どのように優先順位をつけるんですか？どのように優先順位がどこにあるかを把握するんですか？どうやって見極めるんですか？ニュースを読むと、追いつかなければならないことが無限にあるように感じます。
5月に就任した時、どんな新しいリーダーもするように棚卸しをしました。この役職には14の重要優先分野がありました。前任者たちは10個持っていて、誰かが4つ追加したんです。だから14個あって、それらはほぼ10年間変わっていませんでした。それで見て、なぜこれらが重要なのかと言いました。それに、労働力を動機づけようとしている時に14個も覚えられる人がいますか？統合されたネットワークシステムとか、ある種の技術的な専門用語でした。だから、本当に重要なものは何かを研究しようと言いました。
それを6つに絞り込みました。変化と成長、そして戦闘力と産業基盤へのインパクトのための最大の機会がある場所でした。それが出発点で、応用AIが第一でした。
それでチーフデジタルAIオフィスを私のグループに移動させて、それで非常に速く動けるようになりました。なぜなら国防総省ではAIで大きく遅れをとっていて、それが世界の他の部分にこんなに劇的に速く浸透していることを知っているからです。
そして敵対国も様々な目的でそれを使っています。彼らは指揮統制への信頼が少ないので、人間の意思決定を排除するためにコンピューターを使いたがっています。私たちは人間の意思決定を強化したいんです。
だからそれが優先事項でした。90日間で、私が始める前は8万人だったのが、国防総省の300万人のうち120万人が何らかの形でAIを使うようになりました。
信じられないですね。
なぜ先進的なAI能力が重要なのか
先進的なAI能力を持つことがなぜ重要なのか、もう少し話しましょう。AIの能力なしでも世界の大国として本当に優秀だったのに、なぜそれが重要なんですか？ミサイルを作ることに集中すればいいんじゃないですか？
AIは物理学の問題、材料科学の問題、空気力学の問題や機会を解決できるなら、ミサイル製造を助けることができます。
AIの取り組みを3つの領域に分けました。企業用途、つまり効率化のために大きな組織なら誰でもやるようなことです。それは普通の良いことで、平凡なタスクを速くできれば皆が幸せになります。それから諜報目的で、膨大な量の諜報を収集しています。
国防総省には巨大なデータリポジトリがあって、サイロ化されて使われていません。何十年分もの衛星画像があって、それを使ってモデルを訓練して洞察を得て、異常検出に使えることを想像してください。人間のアナリストを取って、そのスループットを1000倍にできるんです。
それから戦闘です。戦闘の大きな部分はロジスティクスです。どうやってロジスティクスを計画し、資産を見つけ、ウォーゲーミングを行い、作戦を計画し、シミュレーションを行うかなどです。だから本当に重要な使用例がたくさんあって、私たちは恩恵を受けることができます。
American Dynamismのおかげで、常にアイデアを売り込むスタートアップの恩恵を受けています。「AIを使った物流で、ペンタゴンの燃料予算の15%を節約します。争いのある環境で軍隊、装備、車両を最も効率的に動かす方法を見つけます」と言う会社の話を聞きます。これらはすべて素晴らしい、信じられないような使用例です。
Anthropicと商用AIモデルの制限
この1週間、ペンタゴンで使われる商用AIモデルについて、非常に公開的な議論がありました。Anthropicも国防総省内で使われています。昔のソフトウェアの時代、SaaSの前の時代には、人々はソフトウェアを買って、顧客が好きなように使っていました。
この最新の議論で何が変わったんですか？何が出てきたんですか？何が問題なんですか？この部屋のほとんどの人が追っていると思うので、基本的な理解はあると思いますが、何が主要な問題になって、なぜ今出てきたんですか？
今出てきたのは、前政権下で書かれたAI使用の契約を見始めた時、ホーリーカウモーメントがあったからです。ここ数週間の報道で聞いていることを遥かに超えるものがあったんです。
衛星を動かせない、作戦を計画できない、運動的攻撃や何かに潜在的につながる可能性がある場合、AIを使って実行を計画できないといったようなことです。
数十の制限があって、それでもこれらのAIモデルは米軍の最も機密性が高く重要な場所、戦闘力を行使する場所に組み込まれていました。
中央軍です。これはイランの責任領域です。インド太平洋軍は中国の責任領域です。南方軍はベネズエラと南米です。すべてこのモデルを使っていて、ベンダーは2社しかありませんでした。単一ベンダーにロックインされた状況で、理論上、条件に違反した時にモデルがオフになるように設計されていたら、作戦の途中で停止して命を危険にさらす可能性がある条件でした。
それが一つの瞬間で、これを修正して整理しなければならないと思いました。国防総省でこれを展開している間にです。それでこれらの問題が浮上しました。
二つ目は、マドゥーロ襲撃の後、この主要ベンダーの一人が、マドゥーロ襲撃中に彼らのソフトウェアが使われたかどうかについて、上級幹部に質問を提起したんです。これは私たちの生涯で最も成功した軍事作戦の一つで、本当に信じられない作戦です。
ここ数ヶ月、アメリカの敵にとっては悪い時期でした。そうです。そしてそれを実行した人たちに会うことができました。名誉勲章を受けたヘリコプターのリーダーは、本当に傑出したアメリカ人でした。彼は撃たれても冷静を保ちました。
誰にも撃たれたことを言わず、最初の着陸チームが着陸できるようにして、パニックにならず、作戦を台無しにする可能性があったのに。だから勇気は信じられないものでした。
そして企業があなたに「私たちのソフトウェアがそこで使われましたか？私たちはそれが好きかどうかわかりません」と言うと、背筋が凍ります。コーヒーショップにいて、見知らぬ人が「昨日学校であなたのお子さんがキックボールをしているのを見ました」と言うようなものです。「あなたは誰ですか？」となります。
それで一連の出来事が始まりました。最も成功した軍事襲撃の後に、私たちがソフトウェアをどう使っているかを懸念しているベンダーに単一接続されているのか、利用規約は将来の世界に適合していない、他のパートナーを入れなければならないし、動かなければならない。
AIという基盤技術とガバナンス
AGI、汎用人工知能に向かっているものとしてAIを考えると、基盤、レイヤー、インターネットがあらゆるものに触れたように、電気通信ネットワークがあらゆるものに触れたように、あらゆるものに触れる何かです。
その技術の基盤のユーザーに、合法的なことに使えないと言うこと、議会が法律を通し、行政府が軍で執行する、民主的システムを通過したことです。それは米国政府の最も機密性の高い部分です。なぜなら私たちの仕事はアメリカ人を守るための強さの部門だからです。
合法的にこの技術を使っているなら、基盤は私たちの選択でなければならないという真実の瞬間があります。ソフトウェア、誰かのモデルの魂、彼らの憲法、それは米国憲法ではないものが、私たちの指揮統制環境を指図し、将軍や戦闘員に何をすべきか何をすべきでないかを指示することはできません。
民主的プロセスと監視
その通りです。まず、あなたが共有した背景情報は、ニュースを読んだりフォローしたりすることでは簡単に見つけられなかったものだと思います。この部屋の多くの人は推測できたかもしれませんが、この議論の原動力と触媒の一部が、元々は私たちの民主的規範に適合する方法でこの能力を使えることを確認することだったという部分を聞けて良かったです。
あなたは、私たちには憲法があり、彼らには憲法があると言いましたね。企業が憲法を持っているなんて少しクレイジーです。憲法を持っていると言っている企業はそんなに多くないと思います。
企業価値はあります。憲法はありません。
企業文化、企業価値、確かに。これが私たちの憲法だと言う用語を使っている企業がどれだけあるかわかりません。特に、企業には経営陣の回転ドアがあることが多いので、明日何を考えるかわかりません。
国家安全保障、国防のためにAI能力を展開するための、この国のプロセスを導く民主的監視、選出されたリーダーシップの役割について少し話してください。
アメリカの市民的自由に関しては、特に9.11以降、非常に活発な議論が歴史的にありました。外国情報監視法、1947年の国家安全保障法、これらすべての法律で、政府が市民的自由とのバランスを取ろうとしてきました。良いニュースは、それについて活発な議論があったことです。おそらくこれらの法律や規則はまだ更新されていないし、更新されるべきかもしれません。
でももしそのプロセスを信頼せず、法律が技術に遅れているから、国防総省の300万人に影響を与え、国内の3億5千万人に影響を与える決定を下すつもりだとしたら、それはできないことです。
システムを信じるなら、不完全であっても、それを信じないなら何を信じるんですか？そうすると、あなたは神になろうとしていることになります。
それは私が望むことではありません。小さな政府、自由市場の人間ですが、それでも政府は国を守るために暴力の独占を持たなければなりません。アメリカは単なるアイデアですが、国家でもあり、最高のツールを持ち、それを合法的に使わなければ国民を守ることができません。
議会がその法律を定める責任があり、私たちはその法律に関する規制を書く責任があります。
自律兵器について何年も前からある40ページの内部指令があります。ウクライナとロシアで何が起こっているかを見ています。それから中国がアメリカのモデルを盗み、ガードレールを外して、潜在的にそれらを私たちに対して使っているのを見ています。
敵対国に盗まれて使われている同じモデルに対して、腕を後ろに縛られているつもりですか？ある種オーウェル的な状況になって、誰もそれを理解するのが難しく、その質問の反対側にいることも難しいです。
敵対国とAI競争
敵対国についての指摘は的を射ています。彼らはこの議論をしていません。彼らは全力で進んでいます。今日のAI議論の状況について、もっと共有したいことはありますか？そしてこれは収束したんですか、それとも長い道のりがあるんですか？
まだやるべきことがあると思います。興味深いことに、フロンティア企業と呼べる4社があって、メジャーリーグベースボールの名簿のような研究者たち、約1000人がいて、彼らは互いにトレードし合っています。これらの企業のリーダーに聞けば、非常に価値があると感じている人たちです。とても奇妙なダイナミクスです。4社、約1000人の研究者で、誰もが不可欠だと感じています。
私たちがこのダイナミクスとどう働くか、十分な数の企業が私たちと関わっているか、二度と単一接続にならないようにするか。これは前政権が私たちに手渡したひどい贈り物で、複数の道があって、国家安全保障に関心があって、愛国的な企業です。2018年のMavenのように、Googleは契約に入札したくありませんでした。今Googleは素晴らしいパートナーです。
いくつかの新しい企業がGoogleがやったことから学ぶことを望みます。従業員の暴徒の問題があったので政府に奉仕したくなかったんですが、今では政府の最高のパートナーの一つです。
2018年のGoogle Project Mavenの瞬間は、多くの点で、多くの創業者やビルダーを目覚めさせる転換点だと見ています。「ちょっと待って。政府に最高の技術と能力を持ってほしい。私は構築したい」と言わせる瞬間です。
それが、ある意味でAmerican Dynamismムーブメントを生み出したと言えます。Googleの抗議者に同意しない創業者たちに着陸地点を提供しました。「第一応答者や国を守る男女に最高の技術と能力を持ってほしい」と言う創業者たちです。
誰かがこれらの質問をするたびに、いつも思い出させます。Project Mavenは、アフガニスタンで誰も置き去りにしないために使われた技術です。文字通りそれが使われた技術で、公開されています。誰かを置き去りにしたかったんですか、代替案は何ですか。
だからこれも転換点になると思いますし、そうなることを確かに望んでいます。国に奉仕し、政府に奉仕する人々を支援することに興奮している全く新しい創業者たちのセットのために。
国防総省の構造改革
国防総省について話しましょう。構造的に内部で変える必要があること。最高の能力、最高の技術を確実に持ち、それを現場に展開するために。ニュースで見ましたが、新しい技術、新しい能力のように見えるものの写真を見ましたが、直接聞くことはできないと思います。国防総省内部で文化的、構造的に何が変わっているんですか？
明らかにあなたのような技術を理解する人々を連れてくることから始まります。でも実際に国防総省を近代化できるようにするために何が変わっているんですか？
ヘクセス長官は、私たちは官僚主義との止められない戦いにいると言っています。それは人々ではありません。新しい企業が新しい技術を持ってきて、そのコンセプトや製品を国防総省に展開することを妨げる、何十年にもわたって積み上げられた官僚主義です。
私が持っている様々なツールでやろうとしているのは、通常の契約プロセス、通常の要件、性能要件を作ることです。例えば、以前はRFPに1000の要件があるようなことをしていました。ベンダーは「はい、はい、はい、はい、はい」と記入します。物理的に不可能でも、物理が機能しなくても。
それからコストプラス契約にして、「ああ、うまくいきませんでした」と。変更オーダー。変更オーダーはさらに3年の開発、さらに数十億ドルにつながります。だから、シンプルな要件に移行しようとしています。この距離、この環境、このペイロードで動くミサイルが必要です。業界はそれをどうやるかのアイデアを持ってきてください。そして5つの異なるものを持つことができます。
そして購入して、確定価格です。
より良いマージンを出せるなら、経済化できるから、これはある種イーロンのモデルで、彼がSpaceXで非常に成功した理由です。そうすればみんなが勝ちます。ベンチャーコミュニティはそのモデルに非常に慣れています。勝者に賭けて、全員が勝つわけではありませんが、コストプラス、終わりのない開発サイクルは機能しません。
より速い開発サイクル、業界とのリスク共有、明確な需要シグナル、よりシンプルなビジネスのやり方が必要で、それらが毎日取り組んでいる官僚主義の種類です。それを実現させるために破片を動かしています。
良いですね。規制のモーゼですね。それは良い。
私たちにとって、それは変わった最も重要なことの一つで、実際に創業者たちが構築することに興奮させます。
企業が政府とより良く働くために
政府と、あなたと働くために、企業がより良くできることは何ですか？Arsenal of Freedomツアーをやって、多くのスタートアップを訪問しましたね。でも政府がビジネスをする準備ができている、ビジネスをしやすくする、最高の能力が欲しいと言っている今、企業やスタートアップから何が必要ですか？
企業に必要なのは、大手企業が有利な一つのことは独創性ではないということです。最初に構築したものを拡大する生産と製造能力です。
スタートアップにとっての機会は、素晴らしい技術とコンセプトを取り、工場を建設してこれらのものを大規模に生産し、すべての品質テストなどを行う筋肉を構築することだと思います。効果的にやるには、古い世界から借りなければなりません。
すべてを再発明するわけではありません。それが次の段階だと思います。今後1、2年で企業がその溝を越え始めるのが見えるでしょう。実証したか、失敗したけど、適切な人を雇って、それを理解しました。それが他の多くの企業を勇気づけることを願っています。これはできると。そしてベンチャーキャピタルの資金がこの市場に集まり続けることを、私は切実に望んでいます。
だからそれが考慮すべきことで、もう一つ、新規参入側にいるなら、300万人の国防総省の誰かを見つけることはいつでもできます。「これは素晴らしい、大好きだ、あなたが大好きだ、あなたの製品が大好きだ」と言ってくれる人を。でもお金がものを言います。彼らはそれを買っているのか、テストしているのか、実際にプロセスを通してあなたを引っ張っているのか。それがあなたが実際に成功しているかどうかの最良のシグナルです。なぜならそこの文化は決してノーと言わないことだからです。
より速いイエス、より速いノーに移行しようとしてきました。スタートアップで、取引が本当に得られるかわからない時、私もスタートアップの人間としてこの痛みを感じてきました。ノーと言われる方がいいです。次のパートナーに移るか、製品戦略を再調整するか、何かできるからです。それが文化を動かそうとしていることで、若い創業者たちに伝えていることです。
素晴らしい。それらの努力に非常に感謝しています。納税者にとっても良いことです。
公共サービスへの呼びかけ
締めくくりの最後の質問です。あなたは良い人生を送っています。非常に成功しています。これは9時5時の仕事ではありません。家族がいると思います。家族から離れることになります。政府と働くこと、政府を支援することについて考えていて、あなたをインスピレーションとして、あなたの足跡をたどりたいと思っているスタートアップとテック側の世界の人々に何と言いますか？
ほとんどの愛国者は恩返しする方法を見つけられると思いますし、恩返しする方法はたくさんあります。これが私の方法でした。私は移民です。最初の言語はアラビア語でした。この国に引っ越してきました。シリコンバレーに来て、最も興味深い企業のいくつかを見て、参加して構築することができました。
人生の正しい時期に、これが私の国に奉仕する方法だと言う時でした。子供たちにそれを見せたいです。私たちのシステムはタダではないことを見られるように。人々、ビルダー、気にかける人々、それをするために犠牲を払う人々が必要です。サインアップする戦闘員のことは言うまでもありません。
これが私がサインアップできる方法で、彼らに対してそう感じられることを確実にすることが、私にとって信じられないほど動機づけになります。スタートアップの世界にいる他のみんなが、自分自身の瞬間を見つけることを願っています。
ビジネスでなければ、キャリアの正しい時点でその後に、なぜなら、より多くの人々がそれをする必要があるからです。マンハッタン計画では最高の科学者がいた政府サービスは名誉ある職業でしたが、今では業界が脳を使う多くの機会があります。
でも愛国者が時々これらの種類のことをしに来る必要があることを忘れてはいけません。
ありがとうございます。あなたがやっている仕事に非常に感謝しています。今日ご一緒いただきありがとうございました。非常にお忙しいことは知っています。
ありがとうございます。
コメント