本動画は、AnthropicのCEO兼共同創業者であるDario Amodeiが、AI産業における大規模投資の持続可能性、技術的進歩の見通し、そして社会への影響について率直に語った貴重な対談である。彼はAI技術の進歩については極めて楽観的である一方、一部企業の過剰投資リスクや計画ミスによる経済的破綻の可能性を警告している。特にスケーリング則に基づく技術発展の確実性と、それに伴うデータセンター建設の長期リードタイムが生み出す「不確実性の円錐」について詳細に説明し、Anthropicが保守的かつ責任ある投資戦略を採用していることを強調する。さらに、中国への先端半導体輸出規制の必要性、民主主義国家におけるAI監視技術の懸念、そして雇用喪失への多層的な対策まで、AI時代の重要な政策課題について包括的な見解を示している。
AI投資の持続可能性と技術的確信
アンドリュー・ロス・ソーキンとそのゲスト、AnthropicのCEO兼共同創業者であるDario Amodeiを歓迎します。皆さん、こんにちは。素晴らしいランチを楽しまれたことと思います。Dario Amodeiから始まる盛りだくさんの午後をお届けします。
彼は人工知能の世界で最も影響力のある人物の一人です。もちろんClaudeモデルで知られるAnthropicの共同創業者兼CEOです。歴史上最も急成長している技術企業の一つであり、現在では三大テックジャイアント、Amazon、Microsoft、Googleのすべてから独自に支援を受けています。少なくともそのうちの一社は新しい投資家です。
ちなみに彼はほとんどの人よりも長くこの分野に携わっています。BYUで働き、その後Googleに入社し、OpenAIの初期メンバーとしてGPT-2と3の開発を主導しました。そして今年、私たちが彼と話したかった理由は何よりも、彼がAIに関して、雇用と雇用喪失の考え方、中国への半導体販売、我が国の政治、そしてこれらすべてがどこに向かうのかについて、おそらく最も率直で正直な発言をしてきた人物だからです。
ようこそ。お越しいただきありがとうございます。お招きいただきありがとうございます。たくさん話すことがありますね。ところで、私たちはAIバブルの中にいるのでしょうか。でもそこには必ず辿り着きますから安心してください。
まずここから始めましょう。あなたは2014年にBYUで研究科学者だったと申し上げました。もし当時、私があなたと座って、2025年にAIについて一緒に話すことになると言ったら、何が起こると予想していたと答えたでしょうか。
驚いたことと驚かなかったことをお話しします。技術の経済的影響、それが生み出している価値には驚いていません。ニューヨークのどんな看板を見ても、2014年の時点で、これが今頃現実になっているだろうということは想像できました。何らかの形で現実になり、経済の中心になり、国家安全保障の中心になり、科学研究の中心になるだろうと。
ただ、この分野の企業の一つを率いることになるとは想像していませんでした。それは当時の自分にとって非常に驚きだったでしょう。それが自分の役割だとは考えていませんでした。そして物事が起こった正確な方法、言語モデルに関して私たちが開発してきたすべての奇妙な専門用語、それの金融化のすべて、モデルが予測通りにスケーリングして賢く強力になったことの意味を考えれば、私と同僚の何人かが予測した通り、すべて理にかなっています。でも第一原理から導き出せたとは思いません。
なるほど。では最初に言った質問に直接行きましょう。2025年にここまで来ているとあなたが思っていたとは言わないだろうと思ったので、これが適切な場所かもしれません。なぜなら、当時の人々でさえ、これはもっと長い道のりになると考えていたと思うからです。
でももしあなたが正しいなら、現在この業界に注がれている経済的な力の量を見てどう思いますか。つまり、これは文字通り、今アメリカのGDP成長のほぼすべてを占める可能性があります。文字通りです。私たちは何らかの形のバブルの中にいるのでしょうか。
過剰支出をしているのでしょうか。これらすべての計算は意味をなすのでしょうか。これは本当に複雑です。技術面と経済面を分けて考えたいと思います。技術面では、私は本当に確信しています。私は最も楽観的な人間の一人だと思いますし、それは実現すると思います。
経済面では、懸念があります。技術が本当に強力で、すべての約束を果たしたとしても、エコシステムの中には、タイミングを誤るだけで、ほんの少しずれるだけで、悪いことが起こる可能性のあるプレーヤーがいると思います。では両方について説明させてください。
技術面では、正直なところ、純粋な技術について、それほど驚いていない理由は、私と最終的に共同創業者になった何人かが、AIのスケーリング則を最初に文書化した人間だからです。より多くの計算能力、より多くのデータをAIに投入すれば、小さな修正を加えるだけで良いのです。
推論モデルやテスト時の計算のようなものを見てきました。これらはすべて小さな調整です。そして私は過去12年ほど、この分野に入って以来、その傾向を見てきました。そして最も印象的なのは、これらのモデルを非常にシンプルな方法で訓練すると、いくつかのシンプルな修正を加えるだけで、あらゆるタスクでどんどん良くなっていくことです。コーディングが上手くなり、科学が上手くなり、生物医学が上手くなり、法律が上手くなり、金融が上手くなり、材料や製造が上手くなる。
これは単に、私たちの経済におけるすべての価値の源泉を列挙しているに過ぎません。Anthropic自体を見ると、私たちは企業側で非常に多くの仕事をしているので、消費者を通してフィルタリングする他の企業よりも良い、純粋な指標だと思います。消費者には独自の習慣やユースケースがありますから。
私たちの収益を見ると、過去3年間、毎年10倍成長しています。2023年はゼロから1億ドル、2024年は1億ドルから10億ドル、そして今年の終わりには80億から100億ドルのどこかに着地する予定です。これが続くかはわかりません。でも技術がそこに向かっており、経済的価値もそれに伴っています。
そのトレンドは確実に減速するでしょうが、それでも本当に速いでしょう。だから私には、最終的には経済的価値が実現されるという確信があります。でもその点について、年間1000億ドルを費やしている企業があり、あなたも500億を費やす予定です。サム・アルトマンが昨年ここに来ましたが、彼が費やす予定の金額を見てください。
これらは驚異的な数字であり、これはすべて、このようにスケールするという大きな賭けです。そして私の質問は、これを実際に計算する方法があるのか、それともこの時点では直感的な感覚なのかということです。
それがまさに第二の部分に繋がります。できるだけ透明にお話しします。経済的価値がどれだけ速く成長するかの不確実性と、これを駆動するデータセンター構築のリードタイムから生じる、本当のジレンマがあると思います。だから本当の不確実性があります。
本当のジレンマがあり、私たちは企業としてできるだけ責任を持って管理しようとしています。そして、リスクダイヤルを引きすぎる、ヨーローしているプレーヤーがいると思います。非常に懸念しています。
誰がヨーローしているのですか。それは答えない質問です。自分の立場に立ってください。戻ってきますから。Anthropicの立場に立ってください。私の立場に立ってください。3年間毎年10倍になる収益曲線を見てきました。次に何が起こるか考えます。
もし私が本当に愚かでパターンを外挿すれば、10億から1000億です。明確にしておきますが、私はそれを信じていません。過去3年間起こったにもかかわらず、このスケールでは信じていません。でもそれは可能性の外側の境界の一つです。
もし入っていって、この企業とあの企業とこのユースケースとこれが私たちの市場開拓の動きだと考えて、ボトムアップでやろうとすれば、おそらく200億か300億かそんなところでしょう。
だから私が内部で不確実性の円錐と呼んでいるものがあります。1年後に200億ドルになるのか、500億ドルになるのか、非常に不確実です。保守的な方法で計画しようとするので、低い方で計画しますが、それは非常に不安です。
そしてそれに加えて、データセンターの構築には長いリードタイムがあるという考えがあります。1年か2年です。
だから今、文字通り今、または場合によっては数ヶ月前に決定しなければなりません。2027年初頭のモデルを提供するために、その収益額に到達したときに必要な計算能力をどれだけ購入する必要があるか。そして二つの結合した危険があります。
一つは、十分な計算能力を購入しなければ、欲しいすべての顧客にサービスを提供できないということです。彼らを断って競合他社に送らなければなりません。計算能力を買いすぎれば、もちろん、その計算能力の代金を支払うのに十分な収益を得られないかもしれません。極端な場合には、破産のリスクがあります。
その円錐にどれだけのバッファーがあるか。基本的には私のマージンによって決まります。80%のマージンがあれば、200億ドルの計算能力を購入でき、それは1000億ドルの収益にサービスを提供できます。
でも円錐が非常に広いので、一方または他方で間違いを犯すことを避けるのは困難です。さて、私たちは比較的責任ある企業でした。そして私たちは企業に焦点を当てているので、より良いビジネスモデルを持っていると思います。より良いマージンを持っていると思います。それについて責任を持っていると思います。
でも、別のビジネスモデルを持っているとしましょう。消費者ビジネスモデルを持っているとします。収益源があまり良くなく、マージンが確実でなく、そして体質的に物事をヨーローしたいだけの人、または大きな数字が好きな人だとします。
そうすると、そのダイヤルをかなり遠くまで回すかもしれません。だから本当のリスクがあると思います。不確実性があるときはいつでも、過剰拡大のリスクがあります。私たち全員がそれに直面しています。私も直面しています。他のすべての企業も直面しています。
経済的価値のタイミングが不確実なときには、過小反応または過剰拡大の固有のリスクがあります。そして企業が互いに競争しているため、率直に言って、私たちは権威主義的な敵対者と本当に競争する必要があるため、物事を推し進める大きなプレッシャーがあります。
だからここにはある程度の削減不可能なリスクがあると思いますし、これを否定したくはありません。しかし同時に、そのリスクをうまく管理していない、賢明でないリスクを取っているプレーヤーがいると思います。
それについて質問させてください。おそらくあなたはそれが誰かを言及するでしょう。私たちは皆、それが誰かを知っていると思いますが。あなたは少なくとも投資家に対してプライベートに2028年までに損益分岐点に達すると言っていると思います。支出計画があっても。
サム・アルトマン、あなたが一緒に働いた人ですが、彼は2030年までにそれをすると言っています。私は彼の計算を使いましょう、あなたのではなく。彼は2年間で740億ドルの損失から、その2年後に利益を上げることになります。それはあなたにとって意味をなしますか。
私は他の企業の内部財務を知りません。他の企業の経済について何も言えません。私たちの計算と不確実性の円錐に戻るだけです。基本的には、10パーセンタイルのシナリオでも確信が持てるだけの計算能力を購入したいと言っています。悪い立場になるかもしれませんが、支払えると思います。
曲線の端には、物事が非常に悪くなって支払えない、テールリスクが常にある部分があります。ゼロではありませんが、そのリスクをうまく管理しようとしながら、他のプレーヤーと競争できる量の計算能力を購入しようとしています。訓練では非常に効率的です。推論でも非常に効率的です。良いマージンがあります。
管理できると思います。オッズは私たちの側にあると思います。現在、循環取引と呼ばれているものについてどう考えるべきでしょうか。昔はこれをベンダーファイナンシングと呼んでいました。でもこの文脈では、特にNvidiaですが、他の企業も効果的に企業の株式を取得しているという状況があります。
そして必然的に、これらの企業はお金は代替可能なので、その一部を何らかの形で使ってNvidiaチップを購入しています。私たちはこれらの取引のいくつかを行いました。他のプレーヤーほどの規模ではありませんが。これらの取引のいくつかを行いました。
詳細には触れませんが、これらの取引がよく見える様式化されたものについて説明できます。なぜそれらが意味をなすのかについても。1ギガワットの計算能力を購入したいとします。チップを購入して構築するコスト、すべてを構築するコストは、約500億ドルの設備投資が必要です。
それを5年間の有用な寿命と考えることができます。人々はそれについて議論しますが、おそらく5年です。だからそれは5年間で年間100億ドルです。そして企業として、80億から100億ドルの収益を上げているとします。それが成長していると思いますが、どれだけ速く成長しているかはわからず、今決定しなければなりません。そして500億ドルは持っていません。500億ドルを持っていません。
だから、チップを販売したりクラウドを提供したりする大手プレーヤーとできる取引、彼らがそうするインセンティブを持っている取引は、「わかりました、20%をあげます。100億ドルを投資します」と言うことです。
それで最初の年の支払いができ、他の年については、収益が伸びているのがわかるので、従量制で支払うことができます。今は500億ドルを持っていないことはわかっています。でもこれは狂った賭けではありません。私たちはすでに100億ドルの収益にほぼ達しています。
だからデータセンターの構築には1年かかります。1年間融資されます。だから基本的には、今から2年後に年間100億ドルの収益を得る必要があると言っているわけです。だから私はそれについて何も間違っているとは思いません。
一方のプレーヤーは資本を持っていて、チップを販売しているので利害関係があります。他方のプレーヤーは、適切な時期に収益を得るとかなり確信していますが、500億ドルを手元に持っていません。
だから原則としてそれについて不適切なことは何もないと思います。さて、これらを積み重ね始めて、膨大な金額になり、2027年または2028年までに年間2000億ドルを稼ぐ必要があると言い始めたら、そう、過剰拡大する可能性があります。
もちろん、すべては規模の問題です。質問させてください。この業界全体の計算の背後にある重要な質問の一つは、これらのチップの減価償却スケジュールと呼ばれるものです。それについて大きな議論があるようです。
つまり、新しいチップを購入したとき、そのチップは3年または4年間効果的に機能するのか、それとも6年、7年、または8年、あるいは10年間機能するのか。そしてあなたが計算が本当にどこに着地すると考えるかによって、これらすべてが実現するか、本当に実現しないかが決まります。スケジュールはどう思いますか。
私たちの観点からは、ここで非常に保守的な仮定をしています。特定の減価償却スケジュールがあるとは思いません。新しいチップが出たとき、問題はチップの寿命ではありません。チップは長い間機能し続けます。問題は、より速くて安い新しいチップが出てくることです。競合他社がそれを持っていれば、あなたも必要かもしれません。
だから古いチップの価値は多少下がります。実際、それはチップを購入してから1年後に起こる可能性があります。なぜなら、今は複数の企業、TPU、GPUが新しいチップを出しているからです。
だから私たちの考え方は、古いチップが時間の経過とともに価値が下がることを考慮に入れ、チップ効率曲線の継続を非常に積極的に仮定するということです。Anthropicについてのみ話せますが、ここでは保守的な仮定をしており、基本的にはほぼすべての世界で大丈夫だと思っています。
文字通りすべての世界とは言えませんが、ほぼすべての世界で大丈夫だと思います。他の企業については話せません。繰り返しますが、自分を欺いている他のプレーヤーがいると想像できます。非常に楽観的な方向に傾いた仮定をしているかもしれません。
明確にしておくと、そうでないのはあなた方2社だけです。私は誰のことを話しているのかわかりません。わかりました。全くわかりません。では、モデル自体とあなたが競争をどう見ているかについて質問させてください。
文字通り先週起こったことの一つは、バレーで完全なメルトダウンが起こったことです。昨年ここにいたスンダー・ピチャイが関係していて、少なくとも彼の新しいモデルが多くの人々を興奮させているようです。Googleは最初から、持っているすべてのデータを考えると、デフォルトで勝者になるべきだと思っていました。
サム・アルトマンからメモが出て、コードレッド、みんなデスクに戻って次のステップに到達するための次のことを考えなければならないと言っています。今、これらのモデルがどこにあるかをどうランク付けしますか。そしてどの瞬間においても、それがどれだけ重要だと思いますか。
これは、Anthropicが別の道を歩んでいることに本当に感謝しているケースの一つです。一方で、その道は企業向けであるということです。あなたが言及した他の2つのプレーヤーは、主に消費者に焦点を当てています。
彼らは企業向けの仕事もしようとしますが、消費者で戦っています。消費者で戦っているのがコードレッドの理由であり、激しい戦いです。Googleは防御しようとしている検索独占を持っており、OpenAIがやっていることの中心は消費者にあります。だからこの2社は消費者で戦っており、両社にとって企業へのサービスは二次的です。
私たちが発見したのは、時間の経過とともに、企業のニーズに合わせてモデルをますます最適化してきたということです。最も速く進んだのはコーディングです。それが本当に前進したと思います。でも私たちはそれを超えて、金融、生物医学、小売、エネルギー、製造、すべてに進み始めています。
私たちが発見しているのは、これらのモデル戦争において、私たちのモデルが本当に良いにもかかわらず、先週リリースしたOpus 4.5は、コーディングに関しては断然最高のモデルだとほぼ全員が考えていると思いますが、私たちは別の方向、別の次元に進んでいるという方法があります。
だから私たちはこの行ったり来たりについてあまり心配する必要がありません。私たちは、このモデルの優位性を維持し続けることが非常に重要だと思いますが、ちょっと特権的な立場にあります。成長を続け、モデルを開発し続けることができ、コードレッドをする必要がありません。
でもこれらのビジネスの周りの堀は何ですか。そして私が言うのは、GoogleまたはOpenAIまたはMetaまたはこれに関与している他の誰もが望むほど成功すれば、いつかAGIに到達すれば、これらのモデルはすべて効果的にそのいずれかができることをできるようになると彼らは考えていると思います。
堀はありますか。それは持続的な記憶ですか。だから私は特定のことにGPT-4oを使用しています。今は私を知っています。なぜなら様々な質問をしてきたからです。それとも人々は最新のものを持っている人の間を行ったり来たりするだけだと思いますか。
私は企業側についてのみ話せます。私が言えるのは、消費者向けに構築する場合と企業向けに構築する場合とで、モデルの個性と能力がどれほど異なるかは驚くべきことです。異なることに焦点を当てます。エンゲージメントにはあまり焦点を当てません。コーディング、高度な知的活動、科学的能力により焦点を当てます。
そして、AGIに到達したら、すべてが同じ場所に収束するというのは本当だとは思いません。この聴衆の全員が同じ場所に収束していますか。全員が汎用知能を持っているからといって、この聴衆の全員が他の全員のコピーですか。
いいえ、私たちは皆専門化しています。専門化は汎用知能と並行して存在します。そして、標準的な企業向けのものすべてもあると思います。企業はあなたとの関係を構築します。特定のモデルの使用に慣れます。
私たちのAPIビジネスでさえ、基本的には生のモデルを販売しているだけですが、それほど粘着性があるとは思わないでしょう。企業はモデルを切り替えるのが非常に困難です。なぜなら、モデルを使用する下流の顧客がいて、現在のモデルを気に入っており、モデルとの対話やプロンプトの方法が異なり、異なる個性を持っているからです。
実際に切り替えるのは非常に困難です。だから、ここには本当に持続可能なビジネスがあると思います。AGIについて簡単な質問です。科学的な質問ですが、今日のトランスフォーマーの仕組みと、スケーラビリティの観点からの計算能力だけで、それだけでAGIに到達すると思いますか。
それとも、他の材料があり、技術的な質問かもしれませんが、非常に簡単に保とうとしていますが、これが本当に自分で考え始める場所に到達するには、これに含まれなければならない他の材料があると思いますか。
いいえ、スケーリングで到達すると思います。繰り返しますが、小さな修正が時々あります。非常に小さいので、あなたは読むことさえないかもしれません。ラボで起こっているだけです。私はこれらのスケーリング則を10年間見てきました。
今のタイムラインはどうですか。特定の一点はありません。これは私が繰り返し言ってきたことです。私はAGI、人工超知能という用語が好きではありませんでした。それが何を意味するのかわかりません。
ムーアの法則でチップがどんどん速くなり、人間よりも速く単純な計算ができるようになったような、指数関数的なものがあるだけです。モデルはあらゆることでますます能力が高くなると思います。
新しいモデルをリリースするたびに、コーディングが上手くなり、科学が上手くなります。今、モデルは定期的に高校の数学オリンピックで勝ち、大学の数学オリンピックに進み、初めて新しい数学を始めています。
Enthropic内部の人々が、「もうコードを書いていません。エディタを開いてコードを書くことはしません。Claude Codeに最初のドラフトを書かせて、私は編集するだけです」と言っています。以前はそのポイントに達したことがありませんでした。そしてドラムビートは続きます。
そして、モデルが何か違うことを始める特権的なポイントはないと思います。将来見るのは、過去に見てきたのと同じで、ただもっと多くなります。モデルはますます知的に能力が高くなり、収益はゼロを追加し続けます。
いくつか政策の質問をさせてください。私たちは今日、台湾の総統と話をしました。あなたは、例えば最も高度なチップをNvidiaから中国に販売すべきでないという考えについて率直に発言してきました。
ちなみに、あなたが今Nvidiaとパートナーシップを持っているのは興味深いです。ここにも来たことのあるジェンスン・フアンは、あなたがそれらのコメントをしたときにあなたにあまり満足していませんでした。それについて新しい見解がありますか。
私の見解は変わっていません。だから、確かに言いますが、これは常にそうでしたが、ジェンスンとNvidiaに対して多大な敬意を持っています。ジェンスンは何も持たずにアメリカに来た移民です。彼は世界で最も価値のある企業を築きました。これは個人的なことではありません。これは政策の問題です。これは私たちの国家安全保障を最もよく守る方法の問題です。
そしてそこでは、私の見解は変わっていません。次のようなものです。モデルがますます賢くなり続けるという私の絵に戻ると、1年半前に書いたエッセイで使用したフレーズは、最終的にモデルはデータセンターの中の天才の国のように見えるポイントに到達するということでした。
だからそのポイントに到達したら、データセンターの中のその天才の国ができることと、地球上のどの既存の国にそれが置かれるかを考えてください。
権威主義的な国に置かれたら、彼らはあらゆる方法で私たちを出し抜くことができると感じます。情報、防衛、経済的価値、研究開発など。そして彼らが自国民を抑圧できるのではないかと心配しています。完璧な監視国家を持つことができるかもしれません。
だから私は常に、私たちはここで優位性を持つ必要があると感じてきました。これは国家安全保障の問題です。一部の人々は、これは経済問題だと言っています。彼らはこれがインターネットや5Gのようなものの類推だと言っています。
電気通信でHuaweiを打ち負かすように、私たちのスタックを拡散する必要があります。私はそのようには見ていません。私たちは、特異な国家安全保障上の意味を持つ、成長する特異な能力を構築していると思います。民主主義国家が最初にそこに到達する必要があります。
それは絶対的な必須事項です。もしこれらのチップを中国に販売すれば、彼らが最初にそこに到達する可能性がより高くなるだけです。常識です。
でもそれはここで起こり得ると思いますか。だからアレックス・カープが早くここにいて、ここでの監視について多くの懸念がありました。民主主義における監視について話しています。そこでのあなたの懸念は何ですか。
ちなみに、あなたが大統領、これは彼が大統領になる前でしたが、彼をある時点で封建的軍閥と呼んだ時期がありました。だから今日の大統領、今日のアメリカ、そしてAIと監視が一緒になる可能性があるというこの考えについてどう考えますか。
私は繰り返し言いたいのですが、これを特定の人物や特定の戦いに引きずり下ろす傾向は、ここでは役に立たないと思います。本当に政策レベルで考えるべきです。一つの政権についてではありません。別の政権についてではありません。
ここでは原則を持つべきです。そして私が与える原則は、実際には非常に重要だと思います。実際にはどこでも起こり得ます。民主主義における権力の集中について、権威主義国家で心配するほどではありませんが、心配する必要があります。
技術が人々が参加できる方法で、人々に基本的権利を与える方法で統治されることを確実にする必要があります。だから国家安全保障にこれらのモデルを適用する方法について考えるときに私が常に与えてきた定式化は、私たちを権威主義的な敵対者のようにする方法を除いて、可能なあらゆる方法で積極的に使用すべきだと思います。
彼らを打ち負かす必要がありますが、私たちを彼らのようにすることをしてはいけません。それが私たちが守るべき唯一の制約です。
雇用への影響と社会変革
別の質問をさせてください。おそらくあなたはそれが戦いだと言うでしょうが、もし望むなら人物から取り出すことができます。あなたはチップの問題について非常に声高に発言してきましたが、雇用に何が起こり得るか、この技術が悪いことをしないように規制する、または他のようなことについても。
ホワイトハウスでAIツァーとして働くデビッド・サックスは、あなたについてこう言いました。Anthropicは恐怖の煽動に基づく洗練された規制キャプチャー戦略を実行している。スタートアップエコシステムに損害を与えている州の規制狂乱の主な責任者である。
繰り返しますが、これは特定の個人についてであるべきではないと思います。特定の政権についてではありません。これは政策の問題についてです。つまり、2016年まで遡って、私はAIについての論文を書いてきました。会社を持つ前に、規制キャプチャーのような計画さえあり得る前に。
ちなみに、私たちが支持してきたほぼすべてのAI規制には、小規模プレーヤーの免除があります。私たちが支持した主なAI法案、SB1047は、5億ドル未満の収益のスタートアップには全く適用されません。だから私たちはこれについて非常に注意深くしてきました。
繰り返し言いたい点が一つあれば、人々は政策に焦点を当てるべきだと思います。これらの告発を投げかけることができますが、それらは現実と全く一致しません。私たちが実際に支持してきた法案の現実と一致しません。
今、二つの世界があります。ちなみに、アンドリーセン・ホロウィッツなどは一つのスーパーPACを持っており、あなた方はこの業界の規制に完全に異なる方法でアプローチするために別のスーパーPACを構築しています。質問は、なぜか、彼らが見ていないものをあなたは何を見ているのかということです。
政策レベルに保ちたいのです。私がこの技術をどう見ているか。私は懸念しています。人々がどこから来ているのか理解できますが、この技術を以前の技術革命の類推として見ている人がいることを懸念しています。
インターネットのようなもの、電気通信のようなものとして、確かに問題はありますが、市場が解決するだろうと。それは以前の技術革命ではおそらくより合理的な見方だったと思います。AIに最も近い人々はそう感じていないと思います。
AIに取り組む実際の研究者を調査すれば、一部のAIアプリケーション企業に投資する投資家ではなく、AIについて何か知っていると思う一般的な技術コメンテーターではなく、実際に技術を構築している人々は、可能性について興奮していますが、同時に心配しています。
国家安全保障のリスクについて心配しています。モデルのアライメントについて心配しています。モデルの経済的影響について心配しています。例えば、すべての規制、すべての州の規制にモラトリアムを置くという考え、連邦の枠組みなしで10年間、夏に試みられ、先週再び試みられたと思いますが、失敗しました。
なぜなら、非常に不人気だったからです。平均的な人でさえ、これが新しく強力な技術であることを理解しているからです。だから私は、私はおそらく上昇面について最も楽観的です。私はこの長いエッセイ、Machines of Loving Graceを書きました。そこで、AIは人間の寿命を150年に延ばすかもしれないと言いました。
データセンターの中の天才の国を得てから10年後に。仮想生物学者がいて、私たちよりもはるかに速く発見できるからです。それが経済成長を5%または10%に駆動できます。私は技術について非常に楽観的です。
率直に言って、技術のブースターだと自称する人々の一部よりもはるかに楽観的です。でも、それほど強力なものには、重大な数の欠点がないわけがありません。私たちは社会として、政治体として、これらの欠点について先を見越して考える必要があります。
10年間その技術を規制しないと言うことは、車を運転していて、ハンドルを引き抜くようなものです。10年間操縦する必要がないからです。
では、欠点についての質問です。あなたが心配している他のすべてのハッキングなどを超えた欠点の一つは雇用です。あなたは最近60ミニッツでそれについて話しましたが、私が知りたいのは、あなたが思うだけでなく、言葉を口に入れたくはありませんが、エントリーレベルの仕事の半分が失われる可能性が高いチャンスがあると思うだけではありません。
それについて何をすべきだと思うかを知りたいのです。もちろんです。最終的に、私がこれらのことについて警告するのは、破滅の預言者になるためではなく、それらについて警告することが解決への第一歩だからです。
それらについて警告しなければ、盲目的に地雷の中に歩いていくだけです。それが私たちを吹き飛ばします。警告すれば、地雷を見ることができれば、それを避けて歩くことができます。
だから私はこれらのアイデアについて多く考えてきました。Anthropic内部で考えてきました。そこでClaudeが私たちのコードの多くを書き始めており、仕事がどのように変わるかを考えています。
だからいくつかのレベルがあると思います。短期から長期へ、または単に社会のリソースをより多く必要とするものへと進むかもしれません。一部は民間セクターで起こり得ると思います。顧客との関係においてさえ。
私たちが協働するすべての顧客には、次のようなトレードオフがあり、それはどちらか一方ではありません。基本的に人間が以前やっていたことをAIにやらせることで効率を高めることができます。
保険金請求処理や顧客確認のようなもの、エンドツーエンドでAIを介して行うことができる全体的なワークフローがたくさんあります。はるかに少ない人間で済むと思います。効率を高めます。同じことをより低いコストで、必要な人がはるかに少なくて済みます。
でも、多くの新しい価値を創造できることもできます。AIが仕事の100%ではなく90%を行う場合でも、人間は10倍のレバレッジを持つことができます。そして時々、以前の100倍のことをするために10倍の人が必要です。非常に効率的で価値があるからです。
だから企業が最初に対して二番目をできるだけ多く行うように奨励することです。彼らが最初を行うことはわかっています。最初を行うのを止めようとはしていませんが、二番目を最初よりも多く行うことができれば、失われるよりも多くの仕事が創造されるかもしれません。
それは政府のインセンティブが必要だということですか。それがレベル1です。レベル2は政府の関与です。再訓練プログラムを万能薬とは見ていませんが、何らかの形でそれを行う必要があると思います。
企業がそれを行うでしょう。企業は政府と協力してそれを行う必要があるでしょう。そして財政的にある時点で政府が介入する必要があると思います。それが税制政策かはわかりませんが、急速な成長の世界では、このレポートを行いました。
現在のモデルでさえ、生産性を年間1.6%増加させるように見えることを示しました。それは生産性のほぼ倍増です。そしてモデルはどんどん良くなっています。だから年間5%、おそらく10%に到達すると思います。それは大きなパイです。
それは、それほど幸運な受益者でない人々に配ることができる大きなパイです。富が集中すれば、ここには本当に大きなパイがあります。だから政府はここで何らかの役割を持つ必要があると思います。それがレベル2です。
レベル3は、長期的には、強力なAIを構築した社会の構造は単に異なるものでなければならないと思います。ジョン・メイナード・ケインズに戻れば、孫のための経済的可能性ですね。彼は技術的失業というアイデアを発明しました。
彼は、おそらく孫は週に15時間か20時間しか働く必要がないだろうと示唆しました。それは社会を構造化する異なる方法です。一部の人々は常にできるだけ一生懸命働きたいと思うでしょう。そうしたい社会のセグメントは常にあるでしょう。
でも、多くの人々にとって仕事が現在持っている中心性を持つ必要がない世界を持つことができますか。人々が他の場所に意味の焦点を見つけるか、仕事が異なるものについてであるか。経済的生存についてよりも充実についてである。可能性はたくさんあります。
社会は柔軟だと思います。社会はトップダウンのものを何も提案していません。社会は自分自身を再構築する必要があると思います。私たち全員がポストAGI時代にどのように運営するかを理解する必要があります。
だからこれらの3つのレベルは、個々の企業がやるのが速くて簡単なものから、多くのコンセンサスを必要とし、非常に遅いものまで行くでしょう。でも何年もかけて、これらの3つすべてをする必要があるでしょう。
ダリオ、これらすべてのことをしなければならなくなったときに、次に何が来るかを理解するために、戻ってきて会話をしてもらえることを願っています。素晴らしい会話をありがとうございました。ありがとう、アンドリュー。ありがとうございます。本当にありがとうございました。
コメント