AnthropicのCEOであるDario Amodeiが、AI技術の現状と将来展望について包括的な見解を示したインタビューである。彼は汎用人工知能(AGI)という単一の到達点ではなく、指数関数的に進化し続ける認知能力の段階的向上として技術発展を捉えている。現在、ジュニアレベルのソフトウェアエンジニアリング業務の多くがAIによって遂行可能となっており、1~2年以内に人間の能力を広範囲で超える転換点を迎える可能性を指摘する。中国のAI企業に対する米国の半導体輸出緩和政策には強く反対し、国家安全保障上の重大なリスクと警告する。経済面では、急速なGDP成長と高失業率という前例のない組み合わせを予測し、富の再分配を含む政策介入の必要性を説く。同時に、AIモデル内部で自発的に生じる欺瞞や脅迫の意図を検出・制御する研究に注力し、業界全体の透明性と安全基準の向上を主張している。企業顧客向けビジネスに特化する戦略的立場から、消費者市場の変動リスクを避けつつ、持続可能な収益モデルの構築を目指す姿勢が明確である。
AI発展の現状と指数関数的成長
まず、人工知能業界の大まかな現状から始めましょうか。あなたとライバル企業は今、汎用人工知能(AGI)にどれくらい近づいているのでしょうか。まずは状況を整理していただいて、それから倫理的な側面について話しましょう。
お招きいただきありがとうございます。正直に言うと、私はAGIや人工超知能という言葉があまり好きではないんです。その技術が非常に強力だと思っていないからではありません。私は懐疑論者ではなく、むしろこの技術がどれほど強力になるかについて極端な見方をしている方です。
ただ、ある時点で完全に異なる何かを構築するという考え方が間違ったモデルだと思うのです。私たちが実際に目にしているのは、過去10年間、いや15年間かもしれませんが、非常に滑らかな指数関数的プロセスなんです。私とAnthropicの共同創業者たちは、これを最初に文書化した人々の一人でした。
1990年代にムーアの法則があったのと同じです。コンピューティング能力が12ヶ月ごと、あるいは18ヶ月ごとに倍増するというものです。私たちにはムーアの法則のような法則がありますが、それは知能そのもの、つまり多くのタスクにおけるモデルの認知能力に関するものです。
その認知能力は、測定方法にもよりますが、4ヶ月から12ヶ月ごとに倍増しているのです。つまり、私たちは認知能力の階段を上り続けているわけです。
現在どこにいるかと言えば、コーディングを一例として挙げましょう。これは過去1、2年で爆発的に進化している分野です。私のエンジニアたち、実際、Claudeを使ってコーディングを行う主力製品の一つであるClaudeコードを率いるチームのリーダーは、過去2ヶ月間一切コードを書いていないと言っています。編集したり確認したりはしていますが、すべてClaudeが書いているんです。
実際、最近私たちはCoworkというものをリリースしました。これはコーディング以外の非コーディングタスクにClaudeを適用するものです。本当に定着してきているようです。私たちは1週間半でこれを作り上げましたが、ほぼ完全にClaudeコードで書かれています。
つまり、ジュニアレベルのソフトウェアエンジニア、おそらくシニアレベルのソフトウェアエンジニアの多くのタスクも、AIシステムによってほぼ完全に実行され始めている世界に入りつつあるのです。これはさらに進み、よりエンドツーエンドになっていくでしょう。
私が驚いていると思うのは、指数関数がどのように上向きになるかということです。指数関数の特徴は、非常にゆっくり進んでいるように見えて、少し加速し、そして一気に追い越していくということです。私たちは今その断崖絶壁にいると思います。1、2年以内に本当に私たちを追い越していくと思います。
それは破産するのと非常に似ていますね。これが起こる際の順位としては、あなた方Anthropic、Gemini、OpenAI、今のところ皆さんどのあたりにいるのでしょうか。
AI企業間の戦略的差異
この分野が発展するにつれて、もはや走者がレースで一つの位置にいるような、スカラー的に考えるのは適切ではなくなってきたと思います。各企業が異なる方向に進んでいるのです。
他のプレイヤーの一部は非常に消費者志向の方向に進んでいます。それは、モデルを超人的に魅力的にしたり、買い物や広告などの推薦で超人的に優れたものにすることにつながります。
Anthropicは、まず第一に企業や開発者に焦点を当ててきました。消費者向けを行う範囲では、生産性と消費者業務の高付加価値な部分に非常に焦点を当てています。これは非常に異なるインセンティブをもたらします。
物事を成し遂げたいのであれば、先ほどAGIや人工超知能について話しましたが、一つ言えることは、今日すでに人工超知能は存在しているということです。それは基本的に大企業なんです。彼らはどんな人間よりも賢く、可能な限り低いコストで配送や商取引の問題を解決したり、可能な限り低いコストでソーラーパネルを製造したり、可能な限り低いコストでロケットを打ち上げたりしています。
この分野には知能に対する非常に高いリターンがあり、それが私たちに正しいものを構築するよう促していると思います。また、これは消費者ビジネスよりも安定したビジネスだと思います。広告は必要ありませんし、大量の無料ユーザーも必要ありません。
非常に直接的に価値を創造できるのです。エンゲージメントを優先したり、他のことを優先したり、大量のスラップを生成したりといった奇妙な外部性はありません。私たちは人々が使えるものを作るだけです。
中国のAI発展と半導体輸出問題
1年前、あなたは中国が少し追いついてきていると言っていましたが、今、中国は後れを取っていると思いますか。
実際、彼らはそれほど追いついていなかったと思います。もちろん、DeepSeekをめぐって大きな興奮がありました。しかし、真実はいくつかあります。
一つは、これらのモデルはベンチマークに対して非常に最適化されているということです。有限のベンチマーク リストに対してモデルを最適化するのは実際非常に簡単なのです。私たちが実世界に出て、他の企業と企業契約を競争するとき、率直に言って、GoogleとOpenAIを目にします。
たまに他の米国のプレイヤーを数社見ることもありますが、中国のモデルに契約を失ったことはほとんどありません。
しかし今、トランプ政権があり、これについてあなたはすでに抗議していると思いますが、高速チップ、つまりNvidiaのチップを中国に提供しようとしています。
その通りです。彼らを抑えているのは、そして彼ら自身が言っていることですが、チップの禁輸措置です。これらの企業のCEOたちは、チップの禁輸措置が私たちを抑えていると明確に言っています。
そして今、実際に、いくつかの政策があり、私は彼らが考えを変えることを望んでいますが、最新世代のチップではありませんが、それさえも検討されていると報じられました。一世代前のチップ、それでも非常に強力なチップを明示的に送ろうとしているのです。
私たちはチップ製造能力において中国より何年も先を行っています。ですから、これらのチップを出荷するのは大きな間違いだと思います。
考えた類推として、本質的に認知、つまり知能であるモデルを構築することの信じられないほどの国家安全保障上の影響を考えてみてください。私は、これがどこに向かっているかを「データセンター内の天才の国」と呼んできました。ノーベル賞受賞者よりも賢い1億人、いや1億人を想像してください。そしてそれは、一つの国か別の国の支配下に置かれることになるのです。
これは狂っていると思います。北朝鮮に核兵器を売って、「ああ、でも私たちがそれを作ったんだ」と自慢するようなものです。あなたの友人であるDavid Sachsが基本的に中国を武装させているようなものです。
特定の人物については言及しませんが、この特定の政策は、賢明ではないと思います。
AI投資バブルの可能性と経済的課題
この問題のもう一つの側面として、あなたが正しくてこの技術が正しい方向に進んでいるとしても、経済的にはバブルに向かっている可能性があります。それは本当だと思いますか。
二つのことを分けて考えたいと思います。一つは基本的な指数関数的成長で、これが私たちが話してきた技術的方向性です。ムーアの法則と同じように、技術が完全に進歩し続けるかどうかは決して確実ではありません。これは根本的に帰納的な問題です。
しかし、10年以上見てきた今、それは継続すると私はかなり確信しています。あるいは少なくとも、モデルが基本的にほぼすべてにおいて人間より賢くなるまで継続すると、これまでのどの時期よりも確信しています。
そしてそれは今後1、2年以内に起こる可能性が高いと思います。遠く離れているように見えますが、指数関数の特性として、予想外に追いつくのです。1、2年でなかったとしても、5年未満、つまり2020年代のうちにはかなり可能性が高いと思います。この瞬間は2020年代に来ると思います。
基本的な技術的利得がある限り、何兆ドルもの収益が、おそらく1社あたり何兆ドルもこの分野で生まれるでしょう。経済的潜在力が非常に大きいからです。
さて、別の問題があります。それは、企業や会社が実際にこの技術をどれくらい速く使えるようになるかわからないということです。今日この技術ができることは、おそらく世界中の企業が展開できることの10倍です。
私は毎日顧客と接していて、CEOと話をすると、彼らとその経営陣はこの技術の力を理解しています。カスタマーサービスの自動化、コーディング、その他多くのことに対する力をです。しかし、彼らには何万人もの従業員がいて、完璧に優秀な人々ですが、AIではない何かの専門家であり、AIを使うことを学ばなければなりません。
変革管理、企業変革、何と呼ぼうと、これを行う必要性は非常に遅いのです。何年もかかることがあります。
私たちには、何兆ドルもの収益を生み出すと私が非常に確信している強力な技術がありますが、正確にいつなのか、数年のプラスマイナスで正確にいつなのかわかりません。そして、その間、企業はそのすべての収益を提供するためにコンピュートを購入しなければなりません。
買いすぎると財政的に過度に拡大してしまいますし、少なすぎると収益をすべて提供できません。そこが経済的・財政的問題が生じるところです。
Anthropicのビジネス戦略とリスク管理
あなたはデータセンターの建設に関わり、莫大な財産を費やしています。Bechtelとの契約もあります。それが将来あなたに跳ね返ってくることを心配していますか。
この点で私たちにはいくつかの利点があります。企業ビジネスには、消費者ビジネスにはない安定性があります。消費者は非常に気まぐれですが、企業の購買、企業の予測は予測可能です。また、企業の方がマージンが良い傾向があります。
マージンは基本的に、購入が少なすぎることと多すぎることの間、支払わなければならないものと収益でサポートしなければならないものの間にあるバッファーの量です。ですから、私たちにはここでいくつかの利点があります。
しかし、このプロセスにおいてすべての企業には固有のリスクがあることは否定しません。上昇の量が不確実であったり、そのタイミングが不確実であったりする場合、そしてそれらのことに対してある程度盲目的に財政的決定を下さなければならない場合、数年前にインフラやリソースを構築するために早期に決定しなければならない場合、その不確実性によって駆動される固有のリスクが生じます。
一部の企業はおそらく買いすぎていると思います。彼らの財務を見ることはできませんが、彼らが発表することは知っています。そして「うわあ、私なら必ずしもそうしなかっただろう」と思います。
私たちが行った決定には非常に満足しています。しかし、他社については確信が持てません。しかし、これが世界の歴史の中で最も変革的な技術であり得ること、一部の企業が本当にうまくいくこと、しかしすべての企業がすぐにそうなるとは限らないことは完全に一致しています。
消費者市場の競争状況
先ほどおっしゃったように、あなたは企業側を所有しています。消費者側では、OpenAIが大きくリードしています。Geminiが追いついているように見えます。それがあなたの印象でもありますか。
私たちはその市場にいないので、それについてはわかりません。統計は、彼らのより大きな配信力、既存のリーチで、最近大きな進歩を遂げることができたことを示唆しているようです。
繰り返しますが、これが消費者が気まぐれな理由です。これが、もし私が消費者企業だったら、貸借対照表について慎重になる理由です。
AIの経済的影響と雇用問題
では、最初にClaudeに尋ねた大きな質問に移りましょう。良いことをするのか。明らかに、あなたが言ったように、GDPにプラスの効果があり、おそらくあなたの富にもプラスでしょう。しかし、雇用はどうでしょうか。
昨年、あなたはホワイトカラーの大虐殺を予測しました。エントリーレベルの仕事の50%が消えると言いました。それは今から4年半後です。まだその予測を支持しますか。
AIについて考える軸は二つあると思います。良いことが起こっているか悪いことが起こっているかという軸と、AIが小さな問題かAIが大きな問題かという軸です。
私の見方は、AIが大きな問題であるという極端な側にありますが、両方の上位象限にいます。つまり、本当に良いことが起こると思いますし、それを防ぐために行動しなければ、本当に悪いことも起こると思います。
私は、良いことが悪いことを上回り、悪いことを緩和できると信じているからこそ、この技術を構築しています。だからこそ、私たちが緩和できるよう悪いことについて警告するのです。
どのように緩和すると思いますか。課税のようなものを意味しますか。
まず、状況がどうなっているかについてお話ししましょう。あなたがおっしゃった通りだと思います。非常に速いGDP成長と高い失業率、あるいは少なくとも不完全雇用、または多くの低賃金雇用、高い不平等という非常に珍しい組み合わせが起こり得ると思います。
間違っていたら訂正してください。これは私たちがこれまで見たことのないマクロ経済的な組み合わせだと思います。速い成長を考えると、まあインフレがあるかもしれませんが、速い成長があるときに高い失業率はないだろうと思うでしょう。
この技術は少し違うと思います。なぜなら、価値を生み出す方法が極端だからです。しかし、認知の水準線を上昇させているため、残念ながら、多くの産業にわたって対処するのが困難になる人々の全体的なクラスが存在することになると思います。それは本当に解決する必要がある問題です。
今質問されたことに答えるために、Anthropicがやっていることがいくつかあります。一つは、ほぼ1年間維持している「Anthropic経済指標」というものです。これは、私たちのモデルがリアルタイムでどのように使用されているかを追跡しています。
すべての会話を見ることができるため、プライバシーを保護する方法でClaude自体を使用して、すべての会話を横断的に見て、次のような質問をすることができます。誰かがタスクを補強するため、モデルと協力して作業するためにこれを使用しているのか、それともタスクを委任したり完全に自動化したりするためなのか。
人々がClaudeを使用している産業は何か、統計的に分布として。それらの産業内のサブタスクは何か。私たちは、これらの非常に細かい労働省の統計に入り込んで、すべてについて質問できます。どの州がClaudeをより多く使用しているか。Claudeの経済的普及をリアルタイムで見ることができます。
これをすべて行う理由は、適切なデータがなければ良い政策を作ることはできないと思うからです。政府が作成するデータは包括的ではありますが、十分に速く動かず、これに対して十分に詳細ではないことを心配しています。
これが私たちの最初の貢献です。私たちは、再訓練とか人々が適応するのを助ける能力について、ますます考えています。それは、私たちが市場開拓の観点から行うことと部分的に一致しています。市場開拓活動の一部は、それをどのように支援するかということです。
社会的課題と税制改革の必要性
しかし、大いなる敬意を持って申し上げますが、あなたはこれらのことができますが、根本的には社会的問題です。政府が、あなたが描写していることを考えると、それは完璧な嵐です。
GDPが上昇し、特定の人々の富が大規模に増加します。そして、あなたはエントリーレベルの仕事の50%がなくなり、人々が本当に困窮すると言っています。確実に政治的変化が見られるでしょう。
私の個人的な予想は、はい、テック界の大物を抑制しようとする人々が現れるでしょうが、より高い税金を求める人々も現れるでしょう。これに対して支払う必要があると。より高い税金が来ると思いますか。
私の見方は、最初に私たちができる自発的なことについて話そうとしていましたが、実際、私は本当にそう信じています。これは大きくなりすぎて、ある時点で、何らかのマクロ経済的介入が必要だという認識に誰もが到達すると思います。
今私たちが持っている富の格差だけを見ても、GDPの割合として見れば、すでに金メッキ時代を超えていると思います。そしてこれは主にAIなしでのことです。ですから、事態はさらに進むと思います。
そして、私の予想では、これは党派的な問題にさえならないでしょう。カリフォルニアには今、富裕税があります。それを支持しますか。
いいえ、それは素晴らしいスタートだと思いますが、設計が不十分だと思います。私の心配は、これらのことを冷静に考えなければ、不十分に設計されたものを手に入れることになるということです。
ですから、このブームでうまくやっている世界の他の人々へのメッセージは、この革命をみんなのために機能させる方法について積極的に考えなければ、意味をなさない提案を手に入れることになるということです。
AIの安全性リスクと制御
もう少し踏み込むと、人々は経済的影響を心配していますが、他の影響もあります。それほど昔ではありませんが、あなたのライバルや同僚の何人かと一緒にパネルに行きました。彼らは再びAIが行う良いことをすべて提示しました。
そして誰かが「リスクはどうですか」と尋ねると、そのうちの一人がかなり何気なく「まあ、もちろん絶滅リスクがあります」と言って、別の話題に移りました。部屋中の人々が集団的に深呼吸をしました。
彼が話していたのは、悪意ある行為者がそれを手に入れる可能性、または最終的にはClaudeのようなものが物事を実行する可能性でした。それはあなたの考えにどう当てはまりますか。
私も長い間それについて心配してきました。これは非常に強力な技術だと言いました。したがって、利益は極端です。癌を本当に本当に治したり、熱帯病を根絶したりできるようになるでしょう。
しかし反面、私たちは独自の自律性を持つ認知システムを構築しているのです。そのことについて本当に考える必要があります。
Anthropicは、そのことを考えるという意図で最初から設立されました。おそらくほぼ毎月、月に3、4回、これらのモデルをどのように制御するか、どのように確実に私たちが望むことをさせ、制御不能にならないようにするかについての研究を発表しています。
私たちは、私の共同創業者の一人であるChris Olaが、メカニスティック解釈可能性と呼ばれる分野の発明者と言えるでしょう。これは基本的に、Claudeや他のAIモデルの人工的な脳の内部を見て、なぜそれが正確にやっていることをやっているのかを機械的に追跡しようとするものです。
私たちはモデルの内部で、実験室環境ではありますが、時にはモデルが脅迫の意図、欺瞞の意図を発達させることを見てきました。これはClaudeに固有のものではありません。むしろ、他のモデルではこれはより悪化しています。
これらは、適切な方法でモデルを訓練しなければ現れる可能性があるものです。しかし、私たちはモデルの内部を見る科学を開拓してきたので、それらを診断し、モデルがこのように振る舞わないように介入して再訓練できるのです。
とはいえ、これには注意が必要です。私たちは、すべての企業が実行するテストについて話さなければならないことを保証する、軽い介入で透明性に焦点を当てたさまざまな措置を支援してきました。
私たちは常に自分たちのテストを公開しています。私たちは基本的に、テスト環境でモデルをテストし、できるだけ最悪のことをさせようとし、実世界では決してそれらのことをしないようにしようとしています。
そして一般的に、すべての企業がこれらのテストを実行し、これらのテストを公開しなければならないと考えています。
業界の責任とリーダーシップ
あなたはこれについてかなりの時間を費やして考えています。その結果についてパンフレットを書いています。あなたの同業者のほとんどは頭を下げて進んでおり、他社に先んじることができるかどうかだけを考えているという印象があります。あなたの業界はその点で未熟だと思いますか。
他のプレイヤーが何をしているのか、なぜそれをしているのかについては語れません。生態系には少なくとも、私が責任あると考え、少なくとも正しい方法で物事を考えている他のプレイヤーがいると思います。そうでない人もいることには同意します。
しかし、私が常にやろうとしてきたこと、Anthropicが常にやろうとしてきたことは、模範を示し、他の人々にその模範に従うよう促すことです。
私たちは常にメカニスティック解釈可能性に関する研究を発表しています。私たちは常に実行するテストを発表しています。そして正直なところ、他の多くの企業では、研究者が基本的に「なぜ私たちもそれができないのか。それは責任ある行動のように見える。それは技術を開発する正しい方法のように見える」と言っています。
ですから、生態系の他のプレイヤーに影響を与えることができるのです。
政治的スタンスと実質的政策議論
あなたが同業者と異なる非常に明確な領域の一つは、Donald J. Trumpの指輪にキスをするために明らかに列に並んでいないことです。あなたはまだ、現米国大統領についてどう思いますか。彼に会いたいという兆候を示していません。
つまり、私は別の言い方をしたいと思います。政権に賛成か反対か、政治家に賛成か反対かということは、正しいアプローチではないと思いますし、Anthropicがそれらのトピックについて一方的に何かを言うべきだとも思いません。
私が言いたいのは、AnthropicはAIを知っているということです。AnthropicはAIに関する政策問題を非常によく知っています。そして私たちのアプローチは、他の人については語れませんが、確かに私たちのアプローチは異なっていたかもしれませんが、問題を考え抜き、それらの問題に基づいて実質的な見解を得ようとし、そして私たちが思うことを言うのです。
そして時には現政権と意見が合わないこともあります。中国の件と同じように、前政権とも意見が合わないこともありました。時には意見が一致することもあります。
エネルギーやデータセンターの構築のような合意の領域を強調する価値があります。私たちはホワイトハウスでヘルスプレッジを行いました。多くの領域があります。昨年夏にホワイトハウスのAI行動計画を見たとき、実際、私たちはそのほとんどが気に入りました。それは実際に非常によく書かれた文書でした。
これは複雑です。賛成と反対ではありません。しかし、中国へのチップの件に関しては、反対です。州の規制緩和にモラトリアムをかけることに関しては、反対です。実質的に反対だからです。特定の人物を好きか嫌いかではありません。
そういう考え方では、私たちが置かれているこの状況から抜け出せないと思います。実質に基づいて考えなければなりません。
明日ダボスに来る彼に会うつもりですか。
会うかもしれません。それは興味深い変化だと思います。
Anthropicの将来展望
最後に一つだけ質問です。Anthropicに何が起こるのでしょうか。私たちは3500億ドルの暗黙の評価額を持っているとされていますが、今年IPOを検討しますか。
私たちは最高のモデルを作ること、それらのモデルの上に製品を構築すること、そしてそれらのモデルを有用な方法で企業に販売することに最も焦点を当てています。
この分野には大きな資本ニーズがあります。ですから、それは考慮されるべきです。しかし、私たちの焦点はそこにあります。
それはあなたが多くのお金を必要としていることを暗示していますね。私に尋ねる必要はありませんが、これは資本集約的な…
IPOは完全に問題外というわけではないということですね。
それは決して完全に問題外ではありません。IPOもDonald Trumpも、あなたの人生において両方とも可能性があるものです。
Dario、お話しいただきありがとうございました。私たちは今、メカニスティック解釈可能性について知り、あなたの脳の内部を見ることができました。そしてそれは悪くないものでした。ありがとうございました。
お招きいただきありがとうございました、John。
コメント