AnthropicのCEOダリオ・アモデイが、AI業界の現状と未来について包括的に語った。AGIという概念を否定しつつも、AIの能力が4〜12ヶ月ごとに倍増する指数関数的成長を強調し、1〜2年以内に人間を超える可能性を示唆する。企業向け市場に注力するAnthropicの戦略、中国への半導体輸出に対する強い懸念、AI投資バブルのリスク、そしてホワイトカラー雇用の50%が消失するという予測まで、技術的楽観と社会的課題の両面から率直に論じている。機械的解釈可能性などAI安全性研究への取り組みと、政治的中立を保ちながら実質的な政策議論を重視する姿勢も明確にした。
AI業界の現状とAGI概念への疑問
まず、業界の大まかな状況から始めましょうか。あなたやライバル企業は、今どれくらい汎用人工知能に近づいているのでしょうか。まずは現状を整理していただいて、それから倫理的な側面についてお話ししましょう。
ええ、お招きいただきありがとうございます。実は私は汎用人工知能や人工超知能という言葉があまり好きではないんです。この技術が非常に強力になると思っていないからではありません。私は懐疑派ではなく、むしろこの技術がどれほど強力になるかについては極端な見方をしているほうです。
ただ、AGIというのは、ある一点で完全に異なる何かを構築するという考え方であり、それは間違ったモデルだと思うんです。実際に私たちが目にしているのは、この10年間、おそらく15年間続いている非常に滑らかな指数関数的なプロセスです。私やAnthropicの共同創業者たちは、これを最初に記録した人たちの一人なんですよ。
90年代のムーアの法則を思い出してください。コンピューティングパワーが12ヶ月ごと、あるいは18ヶ月ごとに倍増していました。私たちにもムーアの法則のような法則がありますが、それはコンピューティングパワーではなく、知能そのもの、つまり多くのタスクにおけるモデルの認知能力についての法則なんです。
今私たちが目にしているのは、その認知能力が測定方法にもよりますが、4ヶ月から12ヶ月ごとに倍増しているということです。つまり私たちは認知能力のはしごを登っているわけです。
コーディング能力の劇的な進化
現在どこまで来ているかというと、例えばコーディングを例に取りましょう。この分野はこの1、2年で本当に爆発的に進化しています。私のところのエンジニアたち、実際、Codeという主要製品の一つを率いるチームのリーダーは、この2ヶ月間一切コードを書いていないと言っています。彼はコードを編集し、確認はしていますが、すべてClaudeによって書かれているんです。
実際、私たちは最近Coworkというものをリリースしました。これはCodeをコーディング以外のタスクにも使えるようにしたものです。これが本当に普及し始めているようです。私たちはこれをわずか1週間半でほぼ完全にCodeを使って書き上げました。
ですから今、ジュニアレベルのソフトウェアエンジニアの世界、そしておそらくシニアレベルのソフトウェアエンジニアの多くのタスクも、AIシステムによってほぼ完遂される世界に入りつつあると思います。これはさらに進んで、よりエンドツーエンドになり、プロジェクト全体により多くのことができるようになるでしょう。
しかし、指数関数的成長が急上昇する様子に私たちは驚くことになると思います。指数関数というのは、最初は非常にゆっくりと進んでいるように見えます。少しずつスピードアップして、そして突然あなたを追い越していくんです。私たちは今その瀬戸際にいると思います。1、2年以内に本当に私たちを追い越していくと思います。まるで破産するときのようなものですね。
AI企業間の競争構図の変化
これが起こるとき、順位としては、あなた方、Gemini、OpenAI、現時点で皆さんはどのような位置関係にあるんでしょうか。
この分野が発展してきた中で、もはや走者がレースで一つのポジションにいるような、スカラーのような単純な考え方は適切ではなくなったと思います。各プレイヤーは異なる方向に進んでいます。
他のプレイヤーの中には非常に消費者向けの方向に進んだところもあります。そうすると、モデルを超人的に魅力的にしたり、ショッピングや広告などで超人的に優れた推奨をするようにしたりすることになります。
Anthropicは何よりもまず、企業や開発者に焦点を当ててきました。消費者向けをやる範囲でも、生産性や消費者業務の高付加価値な部分に非常に重点を置いています。これが非常に異なるインセンティブを生み出すんです。
物事を成し遂げたいと思うとき、先ほどAGIや人工超知能について話しましたが、私が言いたいことの一つは、今日すでに人工超知能は存在しているということです。それは基本的に大企業なんです。彼らはどんな人間よりも賢く、可能な限り低コストで物流や商取引を実現したり、可能な限り低コストでソーラーパネルを製造したり、可能な限り低コストでロケットを打ち上げたりするという問題を解決しています。
この分野には知能に対する非常に高いリターンがあり、それが私たちに正しいものを構築するインセンティブを与えていると思います。これはまた、消費者向けビジネスよりも安定したビジネスだと思います。私たちは広告を必要としません。大量の無料ユーザーも必要ありません。非常に直接的に価値を創造できるんです。
エンゲージメントを優先したり、他のことを優先したり、大量のゴミコンテンツを生成したりといった奇妙な外部性がありません。私たちは人々が使えるものを作るだけです。
中国のAI開発と半導体輸出問題
1年前、ここであなたは中国が少し追いついてきていると言っていましたね。今、中国は遅れをとっていると思いますか。
彼らは実際にはそれほど追いついてこなかったと思います。もちろん、DeepSeekをめぐって大きな興奮がありました。しかし真実は、いくつかのことがあります。
一つは、それらのモデルはベンチマーク向けに非常に最適化されているということです。実は有限のベンチマークリストに対してモデルを最適化するのは非常に簡単なんです。私たちが実際の世界に出て、企業向け契約をめぐって他社と競争するとき、正直かつ率直に言って、私たちが目にするのはGoogleとOpenAIです。時々、他のアメリカのプレイヤーを何社か見ます。中国のモデルに契約を奪われたことはほとんどありません。
しかし今、トランプ政権があり、あなたはすでにこれに抗議していると思いますが、彼らは高速チップ、Nvidiaのチップを中国に提供しようとしています。
その通りです。中国を抑えているもの、そして彼ら自身が言っていることですが、これらの企業のCEOたちが「私たちを抑えているのはチップの禁輸措置だ」と明言しています。彼らは明確にこう言っているんです。
そして今、実際にいくつかの政策があり、私は彼らが考えを変えることを願っていますが、最新世代のチップではないものの、それも検討されていると報じられましたが、一世代前のチップを送るというものです。それでもまだ非常に強力です。
私たちはチップ製造能力において中国より何年も先を行っています。ですからこれらのチップを輸送するのは大きな誤りだと思います。もしモデルを構築することの信じられないような国家安全保障上の意味を考えるなら、本質的に認知、本質的に知能であるモデルを構築することを考えるなら、私はこれを「データセンターの中の天才の国」と呼んできました。
ノーベル賞受賞者よりも賢い1億人の人々を想像してください。そしてそれはどこかの国の支配下に置かれることになります。ですから私はこれは狂気だと思います。これは、北朝鮮に核兵器を売って、「ああ、でも私たちがそれを作ったんだ」と自慢するようなものだと思います。
あなたの友人デビッド・サックスは基本的に中国を武装させていますね。
特定の人物には言及しませんが、この特定の政策は賢明ではないと思います。
AI投資バブルの懸念と経済的リスク
この問題のもう一つの側面として、あなたが正しくてこの技術がすべて正しい方向に進んでいるとしても、経済的にはバブルに向かっている可能性があります。それは本当だと思いますか。
二つのことを分けて考えたいと思います。一つは基本的な指数関数的成長で、これが私たちが話してきた技術的な方向性です。ムーアの法則と同じように、技術が完全に進歩し続けるかどうかは決して確信できません。これは根本的に帰納的な問題です。
しかし10年以上それを見てきた今、私はそれが続くとかなり確信しています。少なくとも、モデルがほぼすべてのことで人間よりも賢くなるまで続くと、これまでのどの時点よりも確信しています。
そしてそれが次の1、2年で起こる可能性も十分にあると思います。繰り返しますが、遠くに見えますが、指数関数には驚かされるという性質があります。もし1、2年でなくても、5年以内、2020年代のうちに起こる可能性はかなり高いと思います。この瞬間は2020年代に来ると思います。
経済的な角度についてお話ししますが、基本的な技術的進歩がある限り、この分野には何兆もの収益が、おそらく企業ごとに何兆もの収益が生まれることを忘れないでほしいんです。なぜなら経済的潜在力が非常に大きいからです。
ただ、別の問題があります。それは企業が実際にこの技術をどれくらい速く使えるようになるかわからないということです。今日この技術が可能なことは、おそらく世界中の企業が実際に展開できることの10倍です。
私は毎日顧客と接する中でこれを目の当たりにしています。CEOと話すと、彼らとその経営陣は、カスタマーサービスの自動化やコーディングなど、この技術の力を理解しています。しかし彼らには何万人もの従業員がいて、その人たちは完璧に優秀ですがAIの専門家ではなく、AIの使い方を学ばなければなりません。
これは変革管理や企業変革など、名前は何であれ、非常に遅いプロセスです。何年もかかることがあります。ですから、何兆もの収益を生み出すと私が確信している強力な技術がありますが、正確にいつになるかはわかりません。プラスマイナス数年、正確にはわからないんです。
その間、企業はそのすべての収益に対応するためにコンピューティングを購入しなければなりません。財政的に過剰に拡張したくないので買いすぎたくはありませんが、すべての収益に対応できないので少なすぎてもいけません。そこに経済的・金融的な問題があるわけです。
データセンター投資と企業向けビジネスの優位性
つまりあなた方はデータセンターの建設に関わっていて、莫大な資金を費やしていますね。Bechtelとの契約もあります。それが後で打撃になることを心配していますか。
私たちにはいくつかの優位性があります。企業向けビジネスには消費者向けにはない安定性があります。消費者は非常に気まぐれですが、企業の購入、企業の予測は予測可能です。また、企業向けは一般的により良いマージンがあります。
マージンとは基本的に、買いすぎと買い足りないの間、支払わなければならないものと収益で支えなければならないものの間のバッファーがどれだけあるかということです。ですから私たちにはいくつかの優位性があります。
しかし、このプロセスにおいてすべての企業に何らかの固有のリスクがあることは否定しません。金額や時期が不確実な上昇局面がある場合、そしてそれらのことに盲目的に財務上の決定をしなければならない場合、数年前に資本やリソースの構築を決定しなければならない場合、その不確実性によって何らかの固有のリスクが生じます。
そして、おそらく買いすぎている企業もあると思います。私は彼らの財務を見ることはできません。彼らが発表することだけを知っています。そして私は「うわ、私なら必ずしもそうはしなかっただろう」と思います。
私たちが行った決定にはかなり満足しています。しかし他社については確信が持てませんが、これが世界史上最も変革的な技術である可能性があり、いくつかの企業は本当にうまくいくが、すべての企業がすぐにそうなるわけではないということは完全に一貫しています。
消費者向け市場での競争状況
先ほどおっしゃったように、あなた方は企業向けを所有しています。消費者向けではOpenAIが大きくリードしています。Geminiも追いついているように見えますね。それはあなたの印象でもありますか。
私たちはその市場にいないので、よくわかりません。統計はそれを示唆しているように見えますね。彼らのより大きな配信網、より大きな既存のリーチによって、最近かなりの進歩を遂げることができたようです。
繰り返しますが、これが消費者の気まぐれさです。これが、もし私が消費者向け企業だったら、バランスシートに何があるかについて慎重になる理由です。
ホワイトカラー雇用への深刻な影響
では、最初に尋ねた大きな質問に移りましょう。AIは善をなすのかという問題です。明らかに、おっしゃったように、GDPにプラスの影響があり、おそらくあなたの資産にもプラスになるでしょう。しかし雇用はどうでしょうか。
昨年あなたはホワイトカラーの大虐殺を予測しました。エントリーレベルの仕事の50%が消えると言いました。それは今から4年半後のことです。まだその予測を支持しますか。
私のAIに対する見方には、良いことが起こるか悪いことが起こるかという軸と、AIが小さな出来事か大きな出来事かという軸があるかもしれません。私の見方は、AIは大きな出来事だという極端な側にあります。しかし私は両方の上位象限にいて、本当に良いことが起こると思っていますし、それを防ぐために行動しなければ本当に悪いことも起こると思っています。
私は、良いことが悪いことを上回り、悪いことを緩和できると信じているからこそ、この技術を構築しているんです。だからこそ悪いことについて警告するんです。緩和できるように。
どうやって緩和すると思いますか。課税のようなことですか。
まず状況がどうなっているか説明させてください。おっしゃった通りだと思います。非常に速いGDP成長と高い失業率、あるいは少なくとも不完全雇用、または低賃金の仕事が多く、高い不平等という非常に珍しい組み合わせが起こり得ると思います。
間違っていたら訂正してほしいのですが、これまでにこのようなマクロ経済的組み合わせを見たことがないと思うんです。速い成長があれば、インフレはあるかもしれませんが、速い成長があるときに高い失業率はないでしょう。
この技術は少し違うと思います。なぜなら、価値を生み出す方法が極端だからです。しかし認知の水準線を上げているため、残念ながら多くの産業にわたって対処が難しくなる人々の階層全体が存在することになると思います。そしてそれは本当に解決する必要がある問題なんです。
Anthropicの経済影響測定への取り組み
先ほど尋ねた質問に戻りますと、Anthropicがやっていることがいくつかあります。一つは、ほぼ1年間維持しているAnthropicエコノミック・インデックスと呼ぶものです。これは私たちのモデルがリアルタイムでどのように使われているかを追跡しています。
すべての会話が見えるので、プライバシーを保護する方法でClaude自身を使って、すべての会話を横断的に見て、「これはタスクを補強するために使っているのか、モデルと協働するために使っているのか、それともタスクを委任したり完全に自動化したりするために使っているのか」といった質問をすることができます。
人々がどの業界でClaudeを使っているのか、統計的に分布はどうか。それらの業界内のサブタスクは何か。労働省の非常に細かい統計に入り込んで、すべてについて尋ねることができます。どの州がClaudeをより多く使っているか。Claudeの経済的普及をリアルタイムで見ることができるんです。
これをすべて行う理由は、適切なデータがなければ良い政策を作れないと思うからです。政府が作成するデータは包括的ではありますが、十分に速く動いておらず、これに対して十分に詳細ではないのではないかと心配しています。
これが私たちの最初の貢献です。私たちは再訓練や人々が適応するのを助ける能力について、ますます考えています。これは私たちが市場開拓の観点で行っていることと部分的に一致しています。市場開拓活動の一部は、それをどう支援するかということですが、失礼ながら、これらのことはできますが、根本的には社会的な問題なんです。
富の格差と税制改革の必要性
政府のことを考えると、あなたが描いているのは完璧な嵐です。GDPは上がり、特定の人々の富は大幅に増加します。そしてあなたはエントリーレベルの仕事の50%が消え、人々が本当に困窮すると言っています。これから政治的な変化が確実に起こるでしょう。
私の個人的な予想では、技術の権力者たちを抑制しようとする人々が出てくるでしょうし、「より高い税金が必要だ。これに支払う必要がある」と言う人々も出てくるでしょう。より高い税金が来ると思いますか。
私の見方は、最初に私たちができる自発的なことを説明しようとしていましたが、実際に私は本当にそう信じています。これは十分に大きなものになると思うので、いつかは何らかのマクロ経済的介入が必要だという認識に全員が至ると思います。
今ある富の格差だけを見ても、GDPの一部として見ると、私たちはすでに金ぴか時代を超えていると思います。そしてこれはほとんどAIなしでです。ですから状況はさらに進むと思います。
そうですね、私の推測では、これは党派的な問題にすらならないでしょう。カリフォルニアには今、富裕税があります。それを支持しますか。
いいえ、それは良いスタートだと思いますが、設計が不十分だと思います。私の懸念は、これらのことについて冷静に考えなければ、設計が不十分なものができてしまうということです。
ですから、このブームでうまくいっている世界の他の人々へのメッセージは、もし私たちがこの革命をすべての人にとってうまく機能させる方法について積極的に考えなければ、意味をなさない提案が出てくるということです。
AIの実存的リスクと安全性研究
もう少し踏み込んでお聞きします。経済的影響を心配する人々がいますが、他にも懸念があります。そう遠くない前に、あなたのライバル、同業者の何人かとパネルに参加しました。彼らもまたAIがもたらす良いことをすべて提示しました。
そして誰かが「リスクはどうですか」と尋ねると、そのうちの一人がかなり気軽に「もちろん絶滅リスクがあります」と言って、別の話題に移りました。部屋中の人々が集団で深呼吸をしました。
彼が話していたのは、悪意のある行為者がそれを手に入れる可能性、あるいは最終的にはClaudeのようなものが物事を運営する可能性でした。それはあなたの考えにどう当てはまりますか。
私も長い間それについて心配してきました。先ほど言ったように、私はこれが非常に強力な技術だという方向にいます。したがって利益は極端です。本当に真剣に癌を治療したり、熱帯病を根絶したりできるようになるでしょう。
しかし一方で、私たちは独自の自律性を持つ認知システムを構築しています。そして本当にそれについて考える必要があります。Anthropicは最初から、それについて考える意図を持って設立されました。
私たちはおそらくほぼ毎月、月に3、4回、これらのモデルをどう制御するか、私たちが望むことをして制御不能にならないようにする方法についての研究を発表しています。
私たちの共同創業者の一人、クリス・オラは、機械的解釈可能性と呼ばれる分野の発明者と言えるでしょう。これは基本的に、Claudeや他のAIモデルの人工的な脳の中を見て、なぜそれが正確にそれをしているのかを機械的に追跡しようとするものです。
ラボ環境でモデルの中に、脅迫の意図や欺く意図のようなものを見てきました。これはClaudeに特有のものではありません。むしろ他のモデルではこれがより悪いのです。これらは、モデルを正しい方法で訓練しなければ出現する可能性があるものです。
しかし私たちはそれらを診断できるよう内部を見る科学を先駆けてきました。そしてモデルがこのように振る舞わないよう、介入してモデルを再訓練することができます。
とはいえ、これについては慎重でなければなりません。私たちは、すべての企業がテストについて話し合わなければならないようにするための、軽いタッチの透明性重視の措置を支持してきました。
私たちは常にテストを開示しています。基本的に、私たちはモデルをテストし、テスト環境で可能な限り最悪のことをさせようとストレステストを行い、実際の世界では決してそれらのことをしないようにしています。そして一般的に、すべての企業がそれらのテストを実行しなければならず、それらのテストを開示しなければならないと考えています。
AI安全性へのコミットメントと業界への影響
つまりあなたはこれについてかなり多くの時間を費やして考えています。影響についてパンフレットを書いています。あなたの同業者のほとんどは頭を下げて進んでいて、他社に先んじることだけを考えているという印象があります。あなたの業界はその点で未成熟だと思いますか。
他のプレイヤーが何をしているのか、なぜそれをしているのかについては語れません。エコシステムの中には、少なくとも私が責任があると考える、少なくとも正しい方法で物事を考えている他のプレイヤーもいると思います。そうでない人々もいることには同意します。
しかし私が常にやろうとしてきたこと、Anthropicが常にやろうとしてきたことは、模範を示し、他の人々がその模範に従うよう促そうとすることです。
私たちは常に機械的解釈可能性に関する研究を発表しています。私たちが実行するテストを常に公開しています。そして正直なところ、他の多くの企業では、研究者たちが基本的に「なぜ私たちもそれができないのか。それは責任ある行動のように見える。それが技術を開発する正しい方法のように見える」と言っています。
そしてエコシステム内の他のプレイヤーに影響を与えることができるんです。
トランプ政権との関係と政策的アプローチ
あなたが同業者と明らかに異なる非常に明確な領域が一つあります。あなたはドナルド・J・トランプに忠誠を誓うために列に並ぶことを明らかにしていません。まだそうしていますね。現在のアメリカ大統領についてどう思いますか。彼に会いたいという兆候は見せていませんね。
そうですね、私は本当に違う言い方をしたいと思います。政権や政治家に賛成または反対するというのは正しいアプローチではないと思いますし、Anthropicがそれらのトピックについて何か言うべきこともないと思います。
私が言いたいのは、AnthropicはAIに関する政策問題を非常によく知っているということです。そして他の人については語れませんが、実際、私たちのアプローチは異なっていたかもしれませんが、私たちは問題について考え、それらの問題に基づいて実質的な見解を得ようとし、そして私たちの考えを述べます。
時には現政権と意見が合わないこともあります。前政権との中国問題と同じように。そして時には同意します。エネルギーデータセンターの構築のような合意領域を強調する価値があります。ホワイトハウスでヘルス・プレッジをやりました。
多くの分野があります。昨年の夏にホワイトハウスのAIアクションプランを見たとき、実際、私たちはそのほとんどが気に入りました。あれは実際によく書かれた文書でした。
ですからこれは複雑です。反対と賛成だけではありません。しかし中国へのチップのような問題になると、私たちは反対します。州の規制緩和にモラトリアムをかけることになると、私たちは反対します。なぜなら私たちは実質的な理由で反対するからです。
特定の人物を好きか嫌いかということではありません。そのような考え方では、私たちが置かれているこの状況から抜け出せないと思います。実質に基づいて考えなければなりません。
明日彼がダボスに来たら会いますか。
会うかもしれません。それは興味深い変化だと思います。
Anthropicの将来とIPOの可能性
最後の質問です。Anthropicに何が起こりますか。どうなりますか。3500億ドルのインプライド評価があるとされていますが、今年IPOを検討しますか。
私たちは最も優れたモデルを作ること、それらのモデル上に製品を構築すること、そしてそれらのモデルを役に立つ方法で企業に販売することに最も集中しています。
この分野には大きな資本ニーズがあります。ですからそれは考慮されるべきです。しかしそこに私たちの焦点があります。
それはつまり、あなたが多くのお金を必要としているということを意味しますね。つまりIPOは完全に問題外ではないということですね。
決して完全に問題外ではありません。IPOとドナルド・トランプの両方があなたの人生で可能性としてあるわけですね。
ダリオ、お話しいただきありがとうございました。私たちは今、機械的解釈可能性についてすべて知り、あなたの脳の中を見ることができました。そして悪くないものでした。ありがとうございました。
お招きいただきありがとうございました、ジョン。
コメント