この動画は、AI業界の最先端企業AnthropicのCEOであるダリオ・アモデイが、同社の急成長するビジネスモデル、AI市場の現状、そして汎用人工知能（AGI）への道のりについて語った包括的なインタビューである。兄妹での起業体験から始まり、年間売上高40億ドルを突破した驚異的な成長の背景、コーディング分野での急速な普及理由、企業向けAI導入の現状と課題まで、AI企業経営の実情を詳細に解説している。
- Anthropic創業とビジネス成長の軌跡
- 兄妹経営と7人の共同創業者
- 急成長するAI市場とコーディングの爆発的普及
- AI活用の多様な分野と未来の展望
- 垂直市場戦略とプラットフォーム企業としての位置づけ
- AGIに向けた特殊なビジネスモデル
- スケーリング法則とビジネス成長の関係
- モデル訓練の投資構造と収益性
- 人材確保と機密情報の管理
- 株式の上昇と投資家への売り込み
- 商品化の議論とクラウドビジネスとの比較
- 企業のAI導入状況と課題
- 継続学習とAIモデルの限界
- 知性が制限要因となる分野
- 人間の認知とAIモデルの比較
- 製品開発とAGI指向のアプローチ
- オープンソースとオープンウェイトモデル
- Anthropicの独特な企業文化とAGI志向
- AIの規制と政策アプローチ
- 個人的なAI使用スタック
Anthropic創業とビジネス成長の軌跡
わしもついに学べるわけや、兄妹で会社立ち上げるってどんな感じなんか？なんでわしにそんなこと聞くねん、お前も知っとるやろ。モデルっちゅうんは学習したがるし、市場で並外れた成功を収めたがるもんなんや。そうやそうや、この学習衝動に加えて、モデルにはこの資本主義的衝動もあるねん。
時々人らはAPIビジネスを見て「あー、そんなに粘着性ないやろ」とか「商品化されるで」とか言うねんけど、わしAPIビジネスやっとるねん。わしAPIビジネス好きやねん。いやいや、まさにそうやそうや。わしらが世界に向かってると思うんは、モデルが人間よりもはるかに間違いを少なくする世界やけど、もっと奇妙な間違いをするようになるやろうなってことや。
せやからLLMのためのろれつ回らん話し方を発明せなあかんねん。それでちゃんと注いでくれるはずや。うわー、すげーな。
ダリオはAnthropicのCEOで、今日の最先端AI研究所の一つやねん。ほんの数年前はAI研究者やったんが、今では世界で最も急成長してる企業の一つを経営してるねん。かんぱーい。かんぱーい。
せやから、Anthropicのビジネスについてちょっと話すのを楽しみにしてるねん。お前は物理学と計算神経科学を学んだんやろ。そうや。それからBaiduで働いて、それからGoogle Brain、それからOpenAI、そんでAnthropicを立ち上げたんやな。そうや。
兄妹経営と7人の共同創業者
Anthropicのビジネスについては後で聞くけど、わしもついに学べるわけや、兄妹で会社立ち上げるってどんな感じなんか？お前にも同じ質問できるけどな。会社経営してる時にせなあかん2つのことがあるみたいなもんやねん。
運営面で実行せなあかんことと、良い戦略を持って、最も重要なこととか誰も見てへんことを見る必要があるねん。せやからわしの仕事が2番目で、ダニエラの仕事が1番目や。そして俺らは両方とも自分のやることが得意なんや。せやからわしらそれぞれが、自分が最も得意なことに時間の大部分を費やすことができたんやと思う。
おそらく信頼の面でも何かあるやろうな、一般的に共同創業者チームっちゅうもんは、テック業界で、AI業界でもそうやけど。つまり不安定な組み合わせやし、長い間続く深い信頼を持つ誰かがおるっちゅうだけで— そうやそうや、完全で絶対的な信頼を持つところでな。つまり、それを超えて、Anthropicには7人の共同創業者がおるねん。
俺らが設立した時、基本的にみんなからのアドバイスは「7人の共同創業者なんて災害や。会社はあっという間に崩壊する。みんなでけんかしまくるで」やった。みんなに同じ量の株式を与えるっちゅう俺の決定については、さらに否定的やった。でも俺らが見つけたんは、明らかに俺とダニエラは兄妹やけど、そんで俺ら7人全員、お互いを長い間知ってたり、ただお互いを知ってるだけやなくて、過去に一緒に働いた歴史があったりして、そのおかげで本当に俺らは
いつも同じページにおることができたんやと思う。そして特に会社が成長するにつれて、本当に会社の価値観を担って、幅広い人々にそれを投影する7人がおるっちゅうアイデアは、俺らが持ってる価値観と結束を保ちながら、会社をはるかに大規模にスケールすることを可能にするねん。
急成長するAI市場とコーディングの爆発的普及
せやからAnthropicのビジネスについて聞きたいねん、これまた信じられへん話で、最近40億ドルのARRを突破したって報告されとるし、せやから開発してる技術について正しく多く議論されとるけど、これも歴史上最も急成長してるビジネスの一つやねん。
せやからAI市場についてちょっと話したいねん、たぶん始めるべき場所は、みんなAIで何やっとるんか？コーディングとか、カスタマーサービスの仕事とかあるけど、この収益は全部どこから来とるんか？
そうやな、幅広い範囲のことがあって、時間が経つにつれて変わってきとるねん。確実に最も急速に成長したアプリケーションは、唯一のアプリケーションからはほど遠いけど、幅広い範囲があるねんけど、確実にコーディングやな。
そしてなんでそんなに急速に成長したかっちゅう俺の理論は、俺らがコーディングに焦点を当てて、モデルがコーディングが得意やっちゅうこと以外に、実際にはある種の社会的拡散についての声明なんや。今日のAIモデルを見ると、すべての分野で、今日実際に展開されてる方法と比較して、何ができるかっちゅう点で巨大なオーバーハングがあると思うねん。摩擦があって、大企業の人たちはこの技術に馴染みがないねん。
銀行がやってることや保険会社がやってることを見ると、モデルがより良くなることを止めたとしても、巨大な可能性があるねん。モデルの上に製品を作ることを止めたとしても、個々の企業には依然として巨大な、数十億ドルの可能性があるねん。そして多くの場合、俺が話す会社のCEOたちはそれを完璧に理解してるねん。
でも会社が1万人とか10万人の会社やったら。その規模の会社は、ある特定のことを特定の方法でやるように運営的に設定されてて、それを変えるには時間がかかるねん。でもコードの場合、コードを書く人たちは、AIモデルを開発する人たちと社会的にも技術的にも非常に隣接してるねん。せやから拡散が非常に速いねん。
彼らはまた、アーリーアダプターで、新しい技術に慣れてるタイプの人たちでもあるねん。せやからコードでの大きな成長、最大の原因は、それをやってる人たちやそれに特化したスタートアップが、技術を超よく理解してる迅速な採用者やからやと思う。でもコードに全く限定されてるわけではないねん。
AI活用の多様な分野と未来の展望
ツールユースのようなことをやる多くの会社を見ると、お前が言ったように、カスタマーサービスもあるねん。俺らはIntercomのような会社と密接に連携してるねん。生物学の分野でもいくつかのことを見始めてるねん。製薬会社やヘルスケア会社の両方と連携してるし、基礎科学研究の分野でも連携してるねん。例えばBenchlingのような会社と連携してるねん。
でも非常に大きな製薬会社のいくつかとも連携してるねん。しばらく前にやったことで、Novo Nordiskと連携して臨床試験報告書を書いたことがあるねん。臨床試験報告書っちゅうのは、臨床試験をやって、それから結果をまとめて書くようなもんで、これが有害事象で、これが統計やっちゅうようなもんやねん。
そして臨床試験報告書は通常9週間かかるねん。でもClaudeは5分でできて、それから人間がそれをチェックするのに数日かかったねん。せやから加速の機会を本当に見ることができるし、モデルがより良くなるにつれて、深い研究にも手を伸ばすようになるやろうな。
せやから、まとめ方としては、コードが先頭に立ってるけど、他のかなり多くのことのロングテールを見てるってことやな、非常に重要な使用例も含めてな。コードはたぶん早期指標で、他のすべての場所で起こることの予感のようなもんやと思う。同じ指数的なもんや。ただより速いねん。より速く起こってるねん。
そうや、AIの大幅な向上がある多くの場所があるけど、エンジニアは採用に慣れてるねん。Hacker Newsを考えて、人々が最高のツールについて議論して、人々は新しいツールの採用に情熱的やねん。Claude Codeをリリースして2時間後に、そこには1万個の異なることを試して、すべてのフレームワークにプラグインした誰かがおるねん、そしてTwitterは2時間後に一つの意見を形成して、それから2時間後に意見を修正するねん。
垂直市場戦略とプラットフォーム企業としての位置づけ
そしてそのスピードを、製薬会社が研究でそれを使用できるスピードと比較して考えてみいや？または従来の小売会社と。そして俺らはすべてを持ってきたいねん—世界最大の利益のいくつかは物理経済に触れてるし、俺らはそこに到達したいねん、でもそれは本質的に同じスピードでは起こらないねん。
どの垂直市場を自分でやるか、どれをプラットフォームに任せるかをどうやって決めるんか？Claude Codeがあるし、明らかにWindsurfやCursorのようなプラットフォーム企業もあるねん。Claude for Financial Servicesを立ち上げたな。おそらく他の垂直市場もあって、「まあ、俺らはそこにツールを作らへん」って言う場面もあるやろう。
垂直市場やないけど企業に向けた一般的な戦略であるClaude for Enterpriseのようなもんもあるねん。俺らの考え方は、俺らは最初にプラットフォーム企業やと思ってるねん。ここでの類推はたぶんクラウドとかやな。本当に大きなプラットフォームビジネスを考えると、俺らが願わくば数年のうちに到達しようとしてるサイズの、ファーストパーティのもんも欲しい理由がいくつかあるし、いくつかの垂直市場はよりファーストパーティ重視になってしまうねん。
一つはエンドユーザーに直接触れたい時やねん。エンドユーザーは、実際にどう使ってるか、何を最も求めてるかについて、ある程度の感覚を与えてくれるねん。純粋なプラットフォームで、その直接的なつながりがなかったら、様々な方法で不利になる可能性があるねん。最高の製品を作るのが難しくなるねん。
そうや、最高の製品を作るのが難しくなるねん。モデルが本当に、本当にどこに向かう必要があるかを知るのも難しいかもしれへんやろ？人々はコーディングのようなことを言うけど、コーディングが得意に見える多くのモデルがあるけど、実際に関連する方法では得意やないねん？俺らは実際にClaudeを、人々が実際に使うことに関連する方法で得意にすることに成功してるねん。
それが一つの理由やと思う。もう一つの理由は大企業に戻るんやけど、APIの上に構築するのは、より伝統的な会社にとって時々より挑戦的やねん。そして彼らにもうちょっと使いやすいもんを与える必要があって、物を作るのを手伝うキットか、またはアプリを与える必要があるねん。
AGIに向けた特殊なビジネスモデル
企業もClaude Codeを気に入ってるし、俺らは徐々にClaude for Enterpriseを、俺らがバーチャル同僚と呼ぶもんに発展させてるねん。AnthropicがClaudeを石油・ガス探査用に開発してるのを想像するのが難しいねん、そしてそれはなんでか？なんでそれを想像するのが難しいと思うんか？
そうや、つまりたぶん実際には次のローンチかもしれへんけど…そうや、俺らは現在石油・ガス探査用のClaudeに取り組んでへんねん。俺らがただ許可しない事と、違法な事とか、そんなようなもんの間には区別を引くやろうな。そしてそれは、まあ俺らはプラットフォームやから、人々は多くのことをやるやろう、俺らはそれに情熱を持ってないだけや、っちゅう多くの使用例があるねん。
でも俺らはそれに情熱を持ってへんねん。俺らは出て行って、他の使用例より先にこれを実現させることはないやろう。おそらく俺らが科学や生物医学のような事に取り組むのは、その即座の収益性に比べて釣り合わない部分があると思うねん。お前らがそれが価値があると思うからや。俺らがそれが価値があると思うからや。発展途上国の事についても同じように感じてるねん。
議論の余地があるやつを一つ挙げるわ、人々はそれを逆の方法で考えるねん。せやから俺らが国防・情報機関でやってる仕事、人々はよく「あー、こいつらは魂を売ってる」みたいに言うねん。俺はそれを逆の方法で考えるねん。せやから、DODと情報機関との2億ドルの上限付きの契約があったんやな。人々は「あー、なんてこった、Anthropicが魂を売ってる」と言うねん。
それは正確に逆やねん。コーディングスタートアップから別の2億ドルを得るのは、その契約を得るよりも桁違いに少ない労力で済むやろうな。でもお前は防衛がとても価値があると思ってるねん。そして俺らは民主主義を守りたいからやってるねん。そして俺らは境界内でやってるねん。俺らが心配してることもあるねん。
俺は国内側での政府権力の濫用について深く懸念してるねん。俺らはより外向きの側について考えてるねん。でもそれは俺らが優先する事は俺らが良いと思う事であって、気持ち良い事や人々が外部の話題が肯定的になると思う事ではない、っちゅう例やねん。
俺らは実際にいくつかの事について信念を持ってて、関係なしにそれをやるねん。お前は構築したいビジネスの種類に言及したな。3年から5年後のAnthropicビジネスに対するお前の願望は何か？
AIはいくつかの方法で奇妙やねん。それが奇妙な方法の一つは、指数関数的やから、ビジネスがどのくらい大きくなるかを正確に調整するのが難しいっちゅうことやと思うねん。俺らは次のような経験をしたねん。
2023年に俺は以前に機関投資家から資金を調達したことがなかったし、せやから2023年の初めに俺らの収益はゼロやった、なぜなら製品をリリースしてなかったからや。せやから俺は何かをまとめてて、「あー、初年度に1億ドルの収益は多分得られると思う」と言ったねん。これによって一部の投資家は「これはクレイジーや。資本主義の歴史でこんなことは起こったことがない。お前は全ての信頼性を失った」と言ったねん。
「お前は数字をでっち上げてるだけや。」「さよなら、さよなら。」 そんで俺らは実際にそれをやったねん。せやから翌年、俺は「1億ドルから10億ドルにできると思う」と言ったねん。そして実際に、初回にやったことで、人々はちょっとクレイジーやと解雇されることは少なかったけど、それでもよくクレイジーやと解雇されて、そんで俺らはまた実際にそれをやったねん。
今年、俺らは年の半ばやねん。お前が言ったように、俺らは40億ドルの収益をはるかに超えてて、対数空間で、さらに桁を加えるためにな。せやから、多くの異なる未来があるねん。物事がある程度の大きさに達すると曲線が鈍化する未来もあるし、指数関数が続いて2年か3年後には世界で最大のビジネスになるっちゅう挑発的な世界もあるねん。
スケーリング法則とビジネス成長の関係
そして俺がAnthropicのようなところで働いたり経営したりする根本的な経験と不確実性の一つは、お前はある種知らないっちゅうことやと思うねん。お前はこの指数的な予測をするねん。クレイジーに聞こえるねん。クレイジーかもしれへん、でもクレイジーやないかもしれへん、なぜならそのトレンドラインは以前にも続いたからやねん。
そして俺はAIモデルの訓練、AIモデルの認知能力について技術的側面で同じことを言ったけど、今俺らはビジネス側面でも同じ種類の連続線を見てるねん。
せやから、スケーリング法則の類推は何か、そこではモデル品質のための関連する入力を並行してスケールアップして、はるかに良いモデルパフォーマンスを得るねん？より良いモデルを入れて、俺は適切な組織を知ってる、入力が何かを知ってる、っちゅうところがあるんか？
そうやそうや、何かのようなもんがあるねん、モデルを訓練するのに5倍か10倍多く費やすか、5倍か10倍多くのデータを持つか、スケーリング法則が言うことが何であれ、収益のための何らかの転送曲線があるねん、俺がモデルに10倍多く費やして、モデルが賢い学部生から賢い博士課程の学生に変わるねん。それから俺は製薬会社に行って、「まあ、それはどのくらい価値があるんか？」と言うねん。多くの場合、彼らは最終的に「それは」10倍以上の価値がある、そうやな。
「それは約10倍の価値がある」と言うねん、そこでこの種のべき乗法則分布が多くの文脈で発生するねん。技術的側面に行くと、モデルを訓練する時、モデルを訓練するにつれて捕捉してる相関のますます長い尻尾があるねん？言語の構造、世界、パターンの相関やねん。
そしてその相関がスケーリング法則につながると考えられてるねん、この種の対数的分布があるからやねん。そんでモデルが認知タスクにおいてますます有能になると考えると、これまでのところ経験的に見てる必要があるか、モデルの経済における使用について考えると、会社がどのように組織されてるかを考えると、ある種のべき乗法則があるねん、これの、べき乗法則構造があるねん—
組織図やな。会社の組織図やねん。そしてお前はその価値のべき乗法則分布を登ってるような感じがするねん。それから俺が製品と市場開拓について考える方法は、モデルがその収益の指数関数上にいたがってて、製品と市場開拓は、ある種窓をきれいにして光を通させる方法やっちゅうことやねん。
ある種絞りを開いて指数関数を起こらせる方法やねん。モデルが学びたがって、モデルが市場で並外れて成功したがってるようなもんやねん。そうやそうや、この学習衝動に加えて、モデルには彼らが体現したい資本主義的衝動があるねん、悪い製品や悪い営業と一緒にされない限りはな。
彼らは本当に有用やから、その知性は人々にとって本当に有用やから、せやからそれはある種お前の中から引き出されるねん。そうやそうやそうや。それは考える一つの方法やな。ここでの最終的な市場構造は何か？いくつかの大規模なスケールされたプレイヤーがいるのか、それとも特定の使用例のための新しい新興企業が出続けるのか？
確実に言うのはとても難しいし、2年か3年前はかなり多くの不確実性があったと思うねん。でも俺らは最終的なプレイヤーのセット、必ずしも最終的な市場構造やプレイヤーの役割ではないけど、比較的近くにいるかもしれへんと思う。どう数えるかにもよるけど、おそらく3から6のプレイヤーがいるやろう、そしてそれらはフロンティアモデルを構築できるプレイヤー、自分らをブートストラップするのに十分な資本を持ってるプレイヤーやねん。
モデル訓練の投資構造と収益性
モデルビジネスがどう機能するか理解したいねん、前もって多くの金を訓練に投資して、それからこの減価の速いアセットを持つけど、たぶん長い有用性の尻尾があって、願わくばそれを払い戻すっちゅうところや。これまでのところ、外の世界の人々が持ってる印象は、これまで以上に大量のCapExで、どうやってすべて—燃やされるねん。
今モデルビジネスで起こってることを説明する2つの異なる方法があるねん。せやから2023年に1億ドルかかるモデルを訓練して、それから2024年にそれをデプロイして2億ドルの収益を作るとしよう。一方、スケーリング法則のため、2024年にも10億ドルかかるモデルを訓練するねん。
そして2025年に、その10億ドルから20億ドルの収益を得て、100億ドル費やしてモデルを訓練するねん。せやから、会社の損益を従来の方法で見ると、初年度に1億ドル損失して、2年目に8億ドル損失して、3年目に80億ドル損失したから、どんどん悪くなってるように見えるねん。
各モデルを会社やと考えると、2023年に訓練されたモデルは利益が出てたねん。1億ドル払って、それから2億ドルの収益を作ったねん。モデルでの推論にいくらかコストがかかるけど、この漫画的な例では、その2つを足し合わせても、ある種良い状態にあるとしようや。
せやから、すべてのモデルが会社やったら、この例では実際にモデルは利益が出てるねん。起こってることは、一つの会社から利益を刈り取ってるのと同時に、はるかに高価でもっと多くの前払いR&D投資を必要とする別の会社を設立してるっちゅうことやねん。せやからそれがどう振り分けられるかっちゅうと、数字が非常に大きくなってモデルがもう大きくならなくなるまでこれが続いて、そんで大きくて非常に利益の出るビジネスになるか、ある時点でモデルがより良くならなくなるかやねん？AGIへの進歩が何らかの理由で停止されて、
それからおそらく何らかのオーバーハングがあるから、一回限りの「うわー、多くの金を費やしたけど何も得られなかった」があって、それからビジネスは以前のスケールに戻るやろう。それを説明する別の方法は、多くのコストがかかって、それから稼ぎ始めるっちゅうベンチャー支援投資の通常のパターンが、同じ会社内でこの分野で何度も何度も起こってるっちゅうことやねん。
せやから俺らは今指数関数の上にいるねん。ある時点で、俺らは均衡に達するやろう。唯一の関連する質問は、どのくらい大きなスケールで均衡に達するか、そして行き過ぎることがあるかどうかやねん。そうやそうや。
お前は比較対象としてクラウド会社に言及したけど、わからへん、クラウド会社について何かあるねん、彼らのデータセンターCapExがより連続的に感じられるところがあるねん、彼らはいつも新しいデータセンターをやってるだけで、一方でこれらの世代がどれだけ離散的かについて何かがあって、たぶんエンジンメーカーの方法のようなもんかもしれへん、彼らは新しい技術を思いつき続けて—
そうやそうや、F-16のようなもんか、それとも薬剤開発のようなもんかもしれへんな。まさにその通りや。ある種のR&D集約的なもんやねん。そうや、そして実際にいつモデルを訓練する労力をかけるんか？そうやそうや、それはほとんど薬剤会社のようなもんで、一つの薬を開発して、それから それがうまくいったら10個の薬を開発して、それからそれがうまくいったら100個の薬を開発するようなもんやねん。
薬剤開発市場は数値的にはそのようには機能してへんけど、まるでそうやったかのようなもんやねん。そうやな、せやから俺らはこれらのモデルのそれぞれを個別のプログラムとして見て、それらの個別の損益を見ることができるし、お前は少なくとも業界で今まで見たモデルでは、そのペイバック数学が実際にはそんなに困難やないって言うとるねん。ほとんどの場合どこで俺が思うねんは…
顧客を獲得する時、顧客獲得に9ヶ月のペイバックがあったら、一日中それをやるやろう。それは引き受けるのが非常に簡単なペイバックやねん。そしてお前はペイバックが9ヶ月、12ヶ月のようなもんやから、引き受けるのが非常に簡単やって言ってたねん。具体的な主張はしたくないねん— もちろん、そうやそうや。
でも定性的に、ビジネスをこの方法で、モデルごとに見ると、非常に実行可能に見えるねん。そうや、絶えず成長するCapExが基礎となるモデルビジネスの品質を隠してるからやねん。そうやな。2023年に、みんながデータの壁について話してたねん。これが俺らがデータの壁から抜け出す方法を解決したんか？
そうやな、せやから わからへん、人々は公の場で物事について話すし、時々それは噂や推測や何やらやねん。データの壁があるなんて必ずしも仮定もせえへんねん。一つ言えることは、RLを使うっちゅうアイデアはしばらく前からあるっちゅうことやねん？Google DeepMindがAlphaGoで世界の囲碁チャンピオンに勝った時まで遡ると、最初はRLやったねん。そんで俺らはこれらの言語モデルを作って、今俺らはその二つを一緒に統合して、言語モデルの上にRLを置いてるねん。
それが思考の連鎖や推論のすべてやねん、それはRLの派手な言い方に過ぎへんねん、そこではRL環境がモデルが多くのことを書いて答えを出すっちゅうもんやねん。それ以上のもんはないねん。派手な名前が付いてるだけやねん。せやから俺はこれらを学習の二つの主要な方法やと思ってるねん？基本的なLLM訓練を模倣による学習、そしてRLを試行錯誤による学習やと思ってるねん。それが学習の二つのスタイルやと思う。
俺が子供やったら、学習する方法は二つあるねん。親を見て「ああ、彼らは何かをする」と思って、彼らのすることを学ぼうとするか、世界を実験して物事を学ぶことができるねん、そして発達心理学では人々が両方を使うっちゅうのが非常に明確やねん。
せやから俺らは今それが言語モデルで再現されてるのを見てるねん、せやから俺らには模倣学習をするステージがあって、試行錯誤で学ぶステージがあるねん。せやから俺には非常に自然に感じられるねん。
人材確保と機密情報の管理
AI業界にいない人々にとって明らかに注目すべきもう一つのことは、すべての人材戦争と、知的財産が毎晩ドアから出て行くっちゅう事実やねん。お前は最近のインタビューで、数行のコードやった1億ドルの秘密について言及したねん。そして明らかにお前は国家安全保障の文脈でそれについて話してたと思うけど、人材の文脈でもそれを考えることができるねん。もちろんそうやな。
せやから どうやって…製薬業界では、彼らは特許で秘密を守るねん。ウォール街でも、同じく数行の非常にシンプルなアイデアである1億ドルの秘密を持ってるところで、Renaissance Technologiesっちゅうヘッジファンドは、従業員を非常に成功裏に拘束したねん。現在のAI環境で商業的リードを維持することをどうやって機能させるんか？
一つ言えることは、そのようなもんもあるけど、分野が成熟するにつれて、ますます複雑な種類のオブジェクトを構築するノウハウと能力についてのもんになり始めてるっちゅうことやと思うねん。俺らが扱うアイデアの中には単純なもんもあるけど、単純なアイデア、transformerのこの要素をいじるとか、そのようなもんは、独立して発見される傾向があるか、すぐに誰でも知ることになるねん。
でも「うわー、これは実際にエンジニアリングの観点から実装するのが本当に難しくて、俺らはそれを実装してる」とか「これはやるのがちょっと面倒くさい」とか、それをやるのにノウハウがあるとかいうもんがあるねん。
そしてそれらはより集合的なもんで、漏洩するのがより困難な傾向があるねん。せやから俺はそれらのもんが実質的により防御可能やと思うねん。それでも漏洩はまだあるし、俺らはそれが再び起こることを望んでへん、商業的競争上の理由でも国家安全保障上の理由でもな。両方とも問題やねん。そうやな。
せやから俺らがやることがいくつかあるねん。一つは、お前も知ってるように、俺らは情報を区画化する傾向があるねん。諜報機関と話すと、それが彼らの運営方法やねん。知る必要があることだけを教えられるねん、そして俺はAnthropic内の誰もがそうやと思う。でもそれはおそらく普通のシリコンバレー文化とはかなり違うねん、そこではすべてが会社中を飛び回ってるねん。
そうや、俺らは実際に非常にオープンな文化を持ってるのと同時にそれをやってるねん。俺は会社に、他の人がPRスピークに入れるかもしれへんような、何が言いたいかわかるやろ？みたいなことを言うねん。でも秘密がある時は、それが実際に知る必要があるもんやっちゅうことを人々が信頼することにつながると思うねん。
そして最後に、より良い定着率を持ってより少ない人を失うことが、ここで最も重要なもんの一つやねん。俺らはすべてのAI企業の中で最高の定着率を持ってるねん。俺が思うに違いはさらに際立ってるねん、なぜならみんな一定の後悔しない離職率を持ってるからで、せやからそれを差し引くと、違いはさらに大きくなるねん。時々人々が去る時、彼らは戻ってくるねん。そうや。俺は最近それを見たねん。
Metaの超知能研究所に行った人々のリストを公開で見ることができるねん。俺らのサイズで正規化したとしても、そうやないし、多くの人が断ったねん。せやからみんなが話してる狂った1億ドルの報酬戦争で、お前らはそれほど困ってへんねん。他の会社と比較して、俺らはうまくやってると思うねん。俺らはむしろ有利やったとさえ言えるねん。
それはミッションへの真の信念と株式の上昇への信念の混合のようなもんやねん。Anthropicは約束することを実行するっちゅう評判を築いてきたねん、場合によってはより少ない約束をするけど、俺らが作る約束を守るっちゅうな。そして俺らが何を支持するかについて非常に明確で、長年にわたってそれを支持することで一貫してるねん。それは会社周辺の結束を作り出すし、皮肉主義に対する良い守りやと思うねん。
株式の上昇と投資家への売り込み
株式の上昇について話す時、投資家やたぶん候補者に売り込む時、Anthropicビジネスをどう売り込むんか？俺らは非常に大きなビジネスを構築してる、みたいな。それは良いスタートやけど、他に何が入るんか？よく俺はプラットフォームとモデルの重要性について話すねん。
何らかの理由で、時々人々はAPIビジネスを考えて「あー」、お前も知ってるように、「それほど粘着性がない」とか「商品化されるやろう」って言うねん。俺はAPIビジネスをやってるし、APIビジネスが大好きやねん。いやいや、まさにそうやそうや。俺らの両方より大きなもんさえあるねん。
俺はまたクラウドを指すやろうな。それらは1000億ドルのAPIビジネスやし、資本コストが高くてプレイヤーが少ししかいない時…そしてクラウドと比較して、俺らが作るもんははるかに差別化されてるねん。これらのモデルは異なる個性を持ってるねん。彼らは異なる人々と話してるねん。俺がよくする冗談は、俺が10人の人と部屋に座ってる時、それは俺が商品化されたっちゅうことを意味するんか？俺と似たような脳を持つ他の9人がいて、彼らは大体同じ身長やから、俺は誰が必要やねん？
でも俺らはみんな人間の労働がそのように機能しないことを知ってるねん。せやから俺はこれについても同じように感じるねん。俺はAPIビジネスは素晴らしいビジネスやと思うけど、俺らはそれより広くいきたいねん。俺がそれについて考える方法は、OpenAIや既存の大手企業であるGoogleのような他のプレイヤーは消費者側に非常に焦点を当ててるっちゅうことやねん。
ビジネスにAIを提供するっちゅうアイデアは、俺らがよりよくなろうとしてることやねん。俺はそれで俺らが早期リードを取ってると思うねん。確かやないねん、なぜなら他のプレイヤーの収益が何かを確実に知らんからやけど、俺らはおそらくこの時点でAPIマーケット、最も可能性が高いのは、そしてビジネス向けAIマーケットの複数を持ってると思うねん、おそらくな。
商品化の議論とクラウドビジネスとの比較
商品化の議論について話す時、それが面白いねん、俺らは明らかに懐疑的な議論に直面しながら成長したし、2015年にAWSがついに数字を分離せなあかんかった時のことを覚えてるのがとても印象的やったねん。以前はAmazonの数字に包まれてたのを覚えてるやろ？そうやそうやそうや。
そして人々は話してて、評論家が「ああ、クラウドは商品や、面白くない」って言ってたのを覚えてるねん、それから彼らがそれを分離したら、それは史上最高のビジネスの一つやったねん。そして何かがあるねん、ビジネスが競合他社を持つことができるし、価格を気にするバイヤーを持つことができるけど、それが商品であることとは大違いやねん、そしてお前が言うように—
そうやそうやそうや、まさにその通りや。これらの製品はすべて異なって機能するねん。いや、まさにその通りや。つまり、俺らはクラウドの最大の顧客の一人やねん。そして俺らは一つ以上のクラウドを使ってるねん。俺はお前に言えるで、クラウドはAIモデルよりもはるかに差別化されてへんねん。確実にそうやな。
それは感じられるねん、一つは、動作が非決定論的やっちゅうことで、設計によって難しくしようとしてるのやなくて、それが自然にそうなってるっちゅうだけで、ああ、このモデルとそのモデルで俺らが好むカスタマーサービスの答えが得られるし、なんでかわからへんねん。いやいやいや、まさにその通りや。なんでかわからへんねん。
ケーキを焼くのにちょっと似てるねん？材料を入れて—うまくいくんや。それはただ、ある特定の方法で出てくるねん。一人のシェフがこの方法で作って、もう一人のシェフがその方法で作るねん。そして「あのシェフが作るのと全く同じように作って」って言ったら、できへんねん？ただできへんねん。
そしておそらく、俺にとって印象的なのは、AI製品の誰も今はそんなにパーソナライズされてへんけど、パーソナライゼーションが大きな取引になると感じるねん。大きな取引になるやろうな。そして粘着性の大きな源になるやろう…製品を切り替えたくなくなるからな。そして俺はそれがどのように見えるかを正確には知らんけど、その量を考えると…消費者とビジネスの使用例の両方でな。
絶対にそうやな絶対にな。お前も知ってるように、俺は特定のビジネスや、ビジネス内の特定の人と働くために様々な方法でカスタマイズされたモデルに関して、俺らは表面をかき始めたばかりやと思うねん。
せやから俺はAPIビジネスの始まりを見てるだけやと思うねん。でも俺はビジネス向けAIがAPIだけについてやないと思うねん。Claude Codeのようなもんで、俺らはそれを個々の開発者だけやなく、企業にも売ってるねん。そして彼らはそれが有用やと感じてるねん。
Claude for Enterpriseは、多くの企業に売ってるねん。俺は実際にそれを見てるし、クラウドの一部でお前がそれを見るねん、そこで彼らは多くの異なるサービスを持ってるねん？その一部はアプリで、一部は基礎的なクラウド自体やし、彼らがAWSやGCPやAzureが自分らを提示する方法やし、俺らが自分らを提示し始める方法は、おい、俺らはAIやクラウドのワンストップショップになりたいねん、そしてお前はこれらのもん全部を買うことができるし、何をどれに使うかについて俺らと話すことができるねんってことやねん。
せやから俺はそれがより持続可能なビジネスの輪郭を作り始めると思うねん。
企業のAI導入状況と課題
典型的なFortune 500企業について考えると、どう…彼らはおそらくカスタマーサービスでAIを試してたり、エンジニアがたぶんAI搭載のコーディングツールを持ってたりするけど、彼らはあるべき状態と比較してどのくらいAIを採用してるんか？
まあ、確実にあるべき状態よりもはるかに少ないねん。そうやな。でもそれは5%、30%のようなもんなんか？俺が言うやろうことは、ほとんど、トップに非常によく信念があることが非常に多いっちゅうことやねん。CEOと話すと、CEOは理解してるねん。CTOと話すと、CTOは理解してるねん。彼らが持ってる苦労は、彼らには10万人いるっちゅうことやねん…
10万人の人がいる会社を選んでみいや、彼らの仕事は他のことをすることやねん。彼らの仕事は銀行業務や保険や薬剤開発をすることやねん。そして彼らはこのAIの話について聞いたことがあるけど、彼らは…それは彼らが専門とすることやないねん。
せやから挑戦はしばしば、俺らは会社のリーダーシップと協力して、会社の10万人の人々に技術に本当に馴染みを持って使ってもらうことやねん。俺が思うに、またしても、コードの話が最も速く進むねん、なぜなら開発者が最も隣接してて、最もトレンドを見てる人たちやからやねん。
カスタマーサービスやプロセスの話の一部が次に来るけど、お前は本当に、今日のモデルでさえ、それが今の100倍大きくなる可能性があるっちゅう直感を持ってるねん。お前は本当にその感覚を得るねん。俺の直感は、俺らがスタートアップからAI採用のパターンを見るやろうっちゅうようなもんやねん、なぜなら彼らは既存の組織に制約されてないから、せやから理にかなうことは何でもできるねん、対して大きな組織は何らかの形で固定化されてるねん、なぜなら彼らにはXをする仕事の人たちがいて、相談される必要があるしすべてそんな感じやから、せやから俺らは小さなスタートアップから新しい行動を見るやろうし、それから大企業は、お前が言うように、
CEOとCTOは切り替えられてて賢いから、彼らは「おい、俺らはそれをやるべきや」って言って、新しいアイデアをある種移植するやろう…俺らがクラウドや他の多くの技術の採用で見たような感じでな。
それはお前が見てることか？それがお前の直感か？彼らは小さな会社から新しいアイデアを移植するか、小さな会社が彼らにとって脅威になって彼らを破壊するかやねん。もちろん、そうやな。そしてそれは彼らに物事を推し進めて実現させる緊急性を与えるやろうな。
俺が見たパターンで、実際にお前が大企業やったら俺が推奨するうまくいくもんは、会社の残りの部分から分離されたストライクチームやストライクフォースのようなもんを作って、これらのプロトタイプを開発することやねん。
そして基本的に、お前は何かの背後に勢いを得ることができるし、それから会社の残りの部分に統合する困難な作業が常にあるねんけど、多くの勢いがあって困難な作業をして、そのもんが機能することを示したら、それをするのが簡単になるねん。
継続学習とAIモデルの限界
Dwarkeshは彼の最近のブログ投稿、彼のAIタイムラインについて読んだか？ああ、継続学習についてのやつか？そうやな。彼は生産性のためのAIモデルの多くでの根本的な問題は、彼らがバーチャル同僚のようやっちゅうことについて話したねん…彼らは5分前に始めた超賢いバーチャル同僚のようやけど、5分前に始めた同僚のままやねん。お前も知ってるように、彼らは時間の経過とともに学ばへんねん。どうやってそれを解決するんか？
そうやな、せやから、俺がAIの研究・技術面で見たパターンは、俺らが何度も何度も見たことは、壁のように見えるもんがあるっちゅうことやねん。お前も知ってるように、AIモデルはこれができないように見えるねん？「AIモデルは推論できない」みたいな感じやった。そして最近は、この「AIモデルは新しい発見をできない」っちゅうのがあるねん。
数年前は「AIモデルは全体的に一貫したテキストを書けない」みたいな感じやったけど、今では明らかにできるねん。数年さらに遡ると、お前も知ってるように、チョムスキーの話のように、お前も知ってるように、彼らは統語論を正しくできるけど、意味論を正しくできない、みたいな感じやった。そしてそれらのすべてが突破されたねん。
すまん、新しい発見で俺らが何を突破したんか？これは人々が最近言ったことやねん。実際に、これについての俺の見解は、他の多くのことと同じように、新しい発見については、それは本当にバイナリーやないっちゅうことやねん？彼らは論文に自分の名前を載せることはできへんねん。
そうやそうや、彼らは論文に自分の名前を載せることはできへんけど、新しい発見って何か？天才って何か？お前も知ってるように、俺はこの発達心理学の本を覚えてるねんけど、彼らは俺らは天才を偶像化するような感じのことを言ってたけど、テーブルがぐらついてて、俺が「ああ」と思って、コースターを取ってテーブルの下に置いて、もうぐらつかなくなったとしよう。それはある意味で新しい発見のようなアイデアやねん。
俺が以前に誰かがそれをするのを見たことがないとしても、お前も知ってるように、それは新しい発見のようなもんやねん。そしてお前も知ってるように、それとノーベル賞受賞の発見の違いは、程度の問題であって、根本的に違う問題やないねん。せやから俺はAIモデルは常に発見をしてると言うやろうな。
俺の家族で医学的な問題を抱えてた人がいて、AIモデルが医師が見逃した彼らの医学的問題を診断したねん。それは大きくて新しいもんやないけど、それは新しい発見やねん。そして「ああ、彼らは以前に起こったことにパターンマッチングしてるだけや」って言うことができるけど、新しい発見はそのようなもんやねん。
完全に新しい小説を書いた作家について考えて、お前が「まあ、お前の影響は何か？」と言うねん。そして彼らは一緒にリミックスして新しい要素を追加してるねん。それはすべてもっと連続的やねん。そしてそれが俺が継続学習について言おうとしてたことやねん。それが存在しないっちゅうこのアイデアは…俺はそれがちょっと存在してると言うやろうな。
そうやな。それは快適な練習やねん。俺らはそれをもっと多く得る方法を見つけるつもりやねん。例えば、モデルは文脈内で学習するねん。お前が彼らと話すと、彼らは文脈を吸収するねん。最終的に、文脈は1億トークンになるやろうし、たぶん俺らは文脈にわたって学習することに特化するような方法でモデルを訓練するやろう。文脈の間にさえ、モデルの重みを更新することができるねん。
今俺らが持ってるアイデアに非常に近い多くのアイデアがあって、おそらくこれをできるかもしれへんねん。俺は人々がこれができない根本的な壁があるっちゅうアイデアに非常に執着してると思う、何か違うもんがある、何かできないもんがあるっちゅうな。それはある種俺に思い出させるねん—
お前はそれが深いところで対処メカニズムやと思うか？そうやな。お前も知ってるように、それは俺に何を思い出させるか？せやから、お前も知ってるやろ、19世紀の生気論の概念を？これは人間の体と生きてる有機体が無機物質とは根本的に異なる材料でできてるっちゅうアイデアやった。
もちろん俺らは今科学的に真実やないことを知ってるけど、人々が非常に信じたがることやし、お前の常識がそれを示唆してるように見えるねん。俺はテーブルにあんまり似てへんねん。俺は金属やガラスや何やらとは非常に異なる材料でできてるねんけど、俺らが実際に基本単位まで降りていくと、もちろん、俺らはすべて同じもんでできてるねん。
でもお前は人々が今、根本的な人間性が何であれ、このような現代的な生気論の概念を持ってると思うねん、そして彼らは「ああ、お前も知ってるように、モデルはそれができない」と言ってるねん。俺はそれを信じる傾向があると思うねん。そして生気論と同じように、それを回避する方法は心が何でできていようと心は心やっちゅうことを認識することやねん。認知や感覚の尊厳や特別さの概念は、特別やないっちゅうことやなくて、何からでも作ることができるっちゅうことやねん。
お前は医療の使用例に言及したねん、これは俺がとても素晴らしい使用例やと思うねん。明らかに、一つは、その結果として医療問題を修正した人々すべてのためやけど、もう一つはお前がよく出来た「Machines of Loving Grace」の投稿で話した、俺が本当に楽しんだ、知性への限界収益についてやねん。
知性が制限要因になってる場所は何か？そして一般的な医療使用例の俺の読み方は、明らかにそれはある種魅力的な使用例やけど、また、ほとんどの普通の人々にとって、彼らは何らかの医療問題を抱えてる、軽度か深刻か何かのようなもんで、実際に、社会はそこで非常にただ知性制限されてるねん。賢い医師へのアクセスがないっちゅうわけやないけど、願わくば持ってるけど、彼らはお前に非常に限られた時間しか与えてくれへんねん。
お前も知ってるように、彼らはお前の問題について10秒考えるねん。そうやそうやそうや、まさにその通りや。そしてテスト時間計算が実際に俺らが医療の話で必要やったもんやと判明したねん。でもそれはこれについてのお前の見方か？俺もそのように考えてるねん。俺はノーベル賞受賞生物学者と話したことがあって、彼らは「俺は」と言うねん…
ちょっとエリート主義的に聞こえるかもしれへんけど、彼らは「俺はトップ1%の医師にしか行かへん、なぜなら残りの99%については、LLMからより良いアドバイスを得ることができるから」と言うやろうな。それは本当に真実やねん。医師は忙しくて、過労やねん。そして医療データと医療情報の性質から、それは多くのパターンマッチングやねん。多くの同じことやねん。
一貫性のレベルと多くの異なる事実をまとめる能力は、LLMが非常に得意なもんやと思うねん。せやからお前はこの「Machines of Loving Grace」投稿で、俺らが知性制限されてる人類レベルの大きな分野のいくつかについて話したけど、またしても、個人的な医療使用例は、社会が知性制限されてる場所の良い例やし、多くの人々に彼らの特定の問題についてはるかに多くの知性を与えると、それは非常に価値があるねん。
知性が制限要因となる分野
他の分野は何か、消費者の使用例でもビジネスの使用例でも、お前が俺らが非常に明らかに知性制限されてると思う場所は？そうや、少なくとも今日のAIモデルが最も助けることができる場所、特徴的な質は、何かが反復的やけど、すべての例がちょっと違うっちゅうことやねん。
AI以前の自動化は、正確にどう起こるかをプログラムできるなら、それをできたねん。せやから同じことを何度も何度もやってるなら。でもカスタマーサービスは、お前も知ってるように、カスタマーサービスを例として取ると、ロングテールのもんがあるけど、多くはこう、多くの電話を受けて、それぞれの電話は違うけど、それぞれの電話は基本的に10のことの一つについてで、異なる人が異なる声で、基本的に、これら10のことの一つを異なる方法で言ってるようなもんやねん。
そして反復的で似てるけど同じやないし、それぞれが独自のもんを持ってる、その状況で、AIが最も入り込めるねん。Dwarkeshは同じブログ投稿で、お前はまだ既存のAIにすべての財務データを渡して、すべてのメールを偽造して、税務をやらせることができないっちゅう予測を持ってたねん、そして彼がそれをできる年についての彼の予測、お前が使うどんなAIにでもすべてをメールして初回の税務申告ができる年は、彼の予測は2028年やねん。
その予測についてどう思う？おそらくそれより早いやろうな。よし。’26か’27かわからへんねん。その一部はモデル、主に正確性やねん。俺はモデルが今日それをできると思うけど、間違いを多くしすぎるやろうな。せやからモデルが自分の作業をチェックしてより少ない間違いをする方法に取り組むことが一部やねん。
インターフェースの部分もあるねんけど、そんなに時間がかかるとは驚くやろうな。よし、’26か’27やな。そして間違いについて言う時、実際に、お前はAIで解決されることはないと人々が思ってた事のリストを通してるねん。幻覚はそのリストに載るべきやと感じるねん。完全に解決されてるわけやないけど、かなり良くなってるねん。
かなり良くなってるし、人々がもっと慣れてると思うねん。彼らはモデルを何について信頼するか、何について信頼しないかをある種知ってるねん。モデルも引用で根拠を示されてるねん。つまり、俺らはClaude.aiでそれをやったし、Enterprise Claudeでもそれをやったねん。せやから俺は解決策の一部は引用で、解決策の一部はアルゴリズム的にモデルが今より幻覚を少なくしてるし、解決策の一部は人々が適応してモデルの弱点を理解してるっちゅうことやと思うねん。
人間の認知とAIモデルの比較
幻覚のような事についての俺の見解は常に、モデルが奇妙やったり人間がやることより悪かったりする何かを指摘して、「ほら、彼らは俺らと全然似てへん」とか「彼らは決してそこに到達しへん」って言う特定のクラスの批評家がいるっちゅうことやねん。そして俺は本能がどこから来るかをある種理解するねん、たぶん彼らは人間の脳と正確に一致したかを見ようとしてるねん。
彼らは「ああ、これはとても違う。人間の脳のようにはなれへん」と言ってるねん。でも俺は基本的に、それは誤謬やと思うねん。一般知能の概念があるねんけど、それは多くの異なることで構成されてて、お前は単純にほとんどのことを持って、いくつかでははるかに悪く、他でははるかに良いことができるねん。
俺らが人間を見ると— そうやな、お前は人間に会ったことがあるか？そうやそうや、お前は人間に会ったことがあるか、そうやろ？自閉症の人間対統合失調症の人間を見ると。機械が騙されない人間が直面する錯視を見ると、俺らがモデルの幻覚と同じような弱点のいくつかを持ってることは非常に明らかやねん、ただそれらは非常に異なって見えるし、俺らは一日中人間に囲まれてるから俺らはそれらにはるかに慣れてるねん。
自動運転車の二重基準が、これの最も明らかな例のように感じるねん。これの最も明らかな例やな。そうやな。人々がはるかに高い基準を持ってる場所やねん。人々ははるかに高い基準を持ってるねん。でも俺はそれがこの技術の特徴になると思うし、ビジネス側面で含意があるねん。俺らがモデルが人間よりもはるかに間違いを少なくするけど、より奇妙な間違いをする世界にいると思うねん。
そして実際に、それには適応が必要やねん、なぜならエンドユーザーを想像してみいや。お前が人間と働く場合、お前はそれに慣れるし、ある概念を持つねん？せやから人間が5%の時間で間違いをする場合、お前はなぜかについて良い理解を持ってるかもしれへんねん、お前も知ってるやろ？
俺がカスタマーサービス担当者と話してて、彼らがある種支離滅裂に聞こえて、彼らがろれつが回ってない場合を言ってみよう。彼らはおそらくこれを飲みすぎて、仕事をうまくやってへんねん。それは起こるべきやない悪い間違いやけど、また、俺がこの人と話してる場合、俺はある種何が起こってるかを知ってるし、彼らが言ってることを信じないことを知ってるねん。
一方、LLMは5分の1の頻度で間違いをするかもしれへんけど、より騙しやすいねん。モデルは正しいことを言ってる時と同じように博学で、同じように首尾一貫して聞こえるねん。でもそれは適応のもんやねん。お前も知ってるように、それは根本的なもんやないねん。そしてそれは俺らが顧客と話す時に俺らが彼らに教えることやし、俺らは彼らがそれに慣れる必要があることを彼らに教えるねん。せやから俺らはLLM用のろれつ回らん話し方を発明する必要があるっちゅうのが、お前が言ってることやねん。
そうやそうやそうや、まさにその通りや。せやから、お前は研究者として始めたけど、今はお前は会社のCEOで、AIを売るビジネスをやってるねん。せやから市場開拓や顧客との取引、その他すべてについて何を学ばなあかんかったか？
絶対にそうやな。これについての俺の見解は、俺が会社を始めたのは最初に物を売ることやビジネスやそんなことに興奮してたからやなくて、他の会社のいくつかが経営されてた方法を見て、そして彼らが構築しようとしてることの規模と重要性、そして俺は人々と動機がたぶん最良のもんやなかったことをちょっと心配してたねん。
そして俺はこのスペースにいくつかのプレイヤーがいるやろうことを知ってたけど、俺らがどう物事をやるかに強いコンパスを持つ少なくとも一つのプレイヤーがあることが、エコシステムに良い効果をもたらすことができると感じたねん。俺らは物事を異なる方法で構築するし、異なる方法でそれらをデプロイするし、そして何よりも、俺らは、またしても、時々短い原則のリストを持つけど、俺らができる限りそれらに固執するやろう。
せやからそれが最初の動機やったと思うねん。そしてもちろん、俺は技術を構築することに興奮してたねん。そしてお前も知ってるように、それが起こったように、もちろん俺と他の共同創業者は、ある種ビジネスと戦略について考える方法を学ばなあかんかったと思うねん。俺はビジネス側面に非常に自然に興味を持ったと思うねん。
実際に、俺がどれだけ速くそれに興味を持つようになったかに驚いたねん。そして実際に、主な理由は俺が俺らの顧客であるすべての業界に興味を持ったっちゅうことやった。クラウドやお前のビジネスのようなもんとある程度似てて、俺らがサービスするビジネスは、可能なすべての業界にわたってるねん。せやからお前は経済のこれらの部分について、お前が考えたことがないもんをただ学ぶねん。
そして俺が名目上多くを知ってる分野でさえな。俺は以前生物学者やったから、ある意味で、俺は製薬ビジネスについて多くを知ってるけど、科学を超えては考えたことがなかったねん。ポートフォリオ側面について考えたことがなかったねん。臨床試験がどう機能するか、どうやってより安くできるかについて考えたことがなかったねん。国防・情報ビジネスについて詳しく考えたことがなかったねん。
製品開発とAGI指向のアプローチ
せやからお前はそれらを通して、俺は人々の問題が何で、AIがそれらの問題でどう助けることができるかを理解することが超面白いと思うねん。俺はそれに非常に自然に取り組んだと感じるねん。実際に、製品側面は俺が最初により消極的やった場所やねん。
俺は自然にビジネス側面に興味と好奇心を持ったと感じたけど、アプリを作るような、何らかの理由で、最初は俺が会社を始めた後でさえ、俺を引き込む種類のもんやなかったねん。でも俺はより最近、どんな製品が成功してどんな製品が成功しなかったかを見たように、俺らがAGIピルドと呼ぶもんになるように製品をどう設計するかっちゅうこのアイデアやと思うねん。
製品の方向性が持続可能で、未来に有用なもんへの橋のようなもんやねん。俺らはみんなラッパー企業やラッパー製品っちゅうこのアイデアを聞いたことがあるねん。アイデアは、お前がClaude Nを作って、誰かがClaude Nの欠陥に基本的に対処する製品を作るけど、それからお前がClaude N+1を出して、それがただそれを食べるっちゅうもんやねん。
俺がいつも与えるアドバイスは、俺はすべてのAI、すべてのAI企業の人たちが与えると思うけど、お前も知ってるように、それを作るな。分野の方向性を見て、補完的なもんを作ろうとしろ。そして新しい方法で、ある種のAGIピルドな方法で製品を作る方法について考えることは、実際に俺の興味を大いに引いたねん。
よし、せやから、お前がそれを持ち出してくれて嬉しいねん。俺らは今AI UIを全く持ってないような気がしないか？俺らはまだテキストボックスにテキストを入力してる、文字通り1970年代のターミナルと同じやねん。もうちょっと角が丸くなってるとかすべてやけど。俺らはまだ手動でトリガーされる音声コンパニオンモードに話しかけてる、これはトランスフォーマー以前のSiriと同じやねん。
UIは完全に同じやねん。そうやそうや、それについて何かが全く正しくないねん。俺は基本的にお前に同意するねん。生成的UIを持つことができるやろう。それは俺にちょっと思い出させるねん、お前も知ってるように、インターネットの初期の頃、物理世界にあるような構造を持つこれらのウェブサイトを作る人たちがいて、クローゼットを開けてそれを…馬車のない馬車時代からのもんやねん。これについて何か用語があるねんけど、俺は忘れたねん。
これについて何か言葉があるねん、俺は何かを忘れたねん。スキューモーフィズム？スキューモーフィズム、そうやな。ここで何かそんなことが起こってるような気がするねん。俺が言うやろうことは、俺らがより多くエージェントに向かって移動するにつれて、AIモデルが何かを端から端までできる世界にいるやろうっちゅうことやねん。俺らはCloudeでほぼそこにいるねん。
何かを端から端までやって、ほとんどの場合正しくできるねん。そして人間の主要な仕事はある種チェックすることやねん。または時々チェックするねん。でも興味深いことに、チェックすることはしばしば何が起こったかの詳細に本当に入り込むことを意味するねん。せやからここにはある種のインピーダンスミスマッチがあるねん、何らかの製品やインターフェースが解決策やねん、そこではお前が可能な限りなめらかなもんが欲しくて、ただ出て行って何かをして、ほとんどの時間注意を払いたくないけど、何かが間違ってる時、お前は実際にかなり関与する必要があるかもしれへんねん。
そして俺は今この原則で動作する製品やインターフェースを感じへんねん、またはこの問題を今扱ってるねん。俺はそれが意味をなすかわからへんけど— いや、そうやな。同感やな。俺が思うに、お前が欲しいのは、お前のエージェントが出て行ってお前のために本当に良い仕事をして、それからその作業製品を持って戻ってきて、お前にレビュー、操縦、すべてを決定させることやねん。
でもお前は圧倒されることはできへん、なぜならそれはお前が見る時間を持ってるよりもはるかに多くのことをするやろうし、お前がいつもそれを見てるなら、お前も知ってるように、お前がそれを自分でやるよりも遅くなる可能性があるねん。せやからそれは実際に俺にはインターフェースの問題のように思えるねん。そうやそうや。
これの一般化は、俺には感じられるねん、AIについて最もエキサイティングなもんの一つは、俺らが現在の能力のそんなオーバーハングを持ってるっちゅうことやねん、それらを良い製品に変えることで、AIの進歩が今止まったとしても、俺らは10年間の良い製品を持つやろう、なぜなら— ああああ、俺は完全に同意するねん。
そして実際に、製品が構築されてる方法は、俺は業界のみんなによって思うけど、俺らはそれをこの方法で考えたねん、進歩が継続してるから非常に異なってるねん。モデルの進歩が止まったら、俺らが製品を構築する方法は即座に変わるやろうな。
理由は、俺らがお前の下で技術がそんなに速く変化してる状況を以前に持ったことがないと思うからやねん、お前が製品を構築してる間にな。せやから長期製品ロードマップや通常の製品計画の方法のこのアイデアは、俺は明示的に…またしても、Anthropicの初期に、俺は「俺は製品について何も知らへん。俺はドアホやねん」と言ってたねん。
でも今俺は人々が入ってきて彼らが「これは非AIスペースで製品を構築するのとは違う」と言う時にいつも話そうとするねん？彼らはより多くAGIピルドである必要があるからか？そうや、お前はこれらを構築する専門家かもしれへんけど、技術がお前の下で動いてるから、これらの高速反復についてのアイデア、それらは通常よりもさらに真実やねん。
これの具体的な例は何か？俺が思うに、お前が「俺らは何かを作るつもりで、それは6ヶ月で準備ができるやろう」と言ったら、俺はそれが孤立して構築するよりも、ここではさらに意味をなさないと思うねん。
せやからより厳しい船のスケジュールとより多くの反復が必要か？より厳しい船のスケジュールが必要で、物事を試す必要があるねん。何が流行るかを言うのは非常に難しいし、新しいモデルが出てきたかもしれへん、新しいモデルが突然何かが得意になって、製品を可能にするかもしれへんから、さらに難しいねん、そしてそれ以上に何よりも、お前は試されたことがないもんを試してるねん。
新しいモデルがあるねん。それは会社内でしか利用できへんねん。せやからお前がやるべきことは、それに何かを構築して、人々に内部的に試させることやねん。永遠の9月的な雰囲気があるねん？そこでは初めてデータベース技術を発見したようなもんで、お前が「まあ、これに何を構築できるか？」と言うねん。そして常に初日やねん。それが違うもんやねん。
オープンソースとオープンウェイトモデル
お前はデータベース技術について言及したねん、そしてたぶんそれは興味深い類推を提供するねん、そしてオープンソースについて考える時、採用の面で成功した最初のリレーショナルデータベースは独占的やったけど、それからオープンソースの連中が追いついたねん。
オープンソースオプションとのギャップをどう維持するか？そうやな、オープンソースは俺が思うに、AIモデルでは他の分野とは違う意味を持ってるねん？そしてこの理由で、一部の人がオープンウェイトモデルと呼んでることを区別するねん。主な違いは、モデルの重みを見て、中を見ても、実際に何が起こってるかを理解できないっちゅうことやと思うねん。
その構成可能性がないねん。ソースコードを読めへんし、俺は— 些細に異なるバージョンを作ることができへんねん。そうやそうや、お前も知ってるように、それの些細に異なるバージョンを作ることができへんねん。今、お前も知ってるように、Anthropicは実際にメカニスティック解釈可能性に取り組んでて、モデルの中を見ることを可能にするねん、せやから俺らはいくつかの特性を可能にするもんに実際に取り組んでるけど、俺らはまだそこにいないねん。
俺らは全然近くにもいないねん。お前ができることがいくつかあるねん。例えば、モデルにアクセスできるなら、モデルをファインチューンできるねん。俺らは今インターフェースを通じて人々にモデルをファインチューンさせてるねん。何かをできるようにする太いAPIの上で、実際のモデルウェイトにアクセスすることがどのくらい価値があるかっちゅう疑問があるねん。
経済学の疑問があるねんけど、クラウドでモデルを実行するのにかなりのコストがかかることに注意してや。誰かがそれをホストしなあかん、誰かが高速推論を実行しなあかんし、それからお前はマージンやマージンの一部に戻るねん。せやからお前はオープンウェイトモデルはそんなに有用やないし、完全にオープンソースのモデルには大きなギャップがあると思うか？
俺が言うやろうことは、以前の技術への類推は部分的でしかないっちゅうことやねん？俺らがまだ発見してる異なるもんの種類やねん。でも俺は俺らの観点から言えるのは、新しいモデルが出る時、競合モデルが出る時、俺らはそれがオープンウェイトモデルかどうかを本当に考えへん、俺らはそれが強いモデルかどうかを考えるねん。
誰かが俺らがやることが得意な強いモデルを作ったら、それは競合や、俺らには悪いことで、それがオープンウェイトモデルかどうかは関係ないねん。両者の間に大きな違いはないねん。
Anthropicの独特な企業文化とAGI志向
AnthropicがどのようにしてAGIピルドであることが他の組織よりも多いんか？せやからその一つがより速い、より厳しい製品リリースケーデンスのようなもんやけど。でもたぶん製品開発内だけやなく、組織全体により広く。
俺が言及したこのもんは、2週間ごとに、俺が組織の前に立って、俺のビジョンをある種説明することやねん、そして俺はその目的の一つは人々をミッションに焦点を当て続けることやと思うねん。
それは奇妙な世界の状態やし、俺はいつもそれについて不確実性を表現するけど、俺が賭けるなら、俺はこれに賭けるやろうと言うねん、1年か2年か3年で、正確にどのくらいの時間がかかるかわからへんけど、俺が説明したような、データセンターの天才の国を持つことになるやろう。そしてこれは奇妙やねん。それは経済を変えるやろう、それは科学のペースを加速するやろう。
それは世界的なアライメントと国家安全保障リスクをもたらすやろう。経済的問題をもたらすかもしれへん。上昇の可能性は巨大やねん。破壊の可能性も巨大やねん。そして俺が戦おうとしてることは、参加した従業員のアイデアで、彼らが「ああ、お前も知ってるように、俺はこの業界で働いた、お前も知ってるように、俺はこの種の会社で働いて、AI会社で働くつもりで、たぶん数年後には、これに」行くやろう、お前も知ってるやろ？これは起こった以前の経験とは非常にカテゴリー的に異なるねん。これは本当に違うもんやし、俺は組織の上下で、俺らの財務の人々が財務予測について考える時、彼らがこれを理解することを確実にしたいと思うねん、確実に指数関数があるっちゅうことやなくて、ワイルドな結果が可能やっちゅうことや。
俺らのリクルーティングが考える時、彼らは「ああ、そうや、この狂った警官のもんが起こる可能性がある、なぜなら」…お前も知ってるし、製品の人々がAGIピルドな製品を作ると考える時、政策の人々が交流する時、彼らは何が起こるかもしれへん賭け金を理解してるねん。せやから俺の仕事の大きな部分は、この中心的テーゼ周辺の組織の一貫性を保つことやと思うねん。
みんながそのテーゼを信じる必要があるわけやないねん。洗脳も、ローブを着て唱えることもないねん。でも会社がこの仮説の周りに構築されてるっちゅう基本的なアイデアは、これらの大きな変化が起こることが可能で、おそらく可能性が高いっちゅうことで、ビジネスのすべての側面、また社会的利益のために会社がやってることは、これが起こる可能性が強いという周りに構築されるべきやねん。
これに数字を当てはめると、お前はAIによって動力を与えられる年間10%の経済成長の可能性について話したねん。それは意味しないか…AIリスクについて話す時、それはしばしばAIの害と誤用やけど、大きなAIリスクは、俺らがそれをちょっと誤って規制したり、進歩を遅くしたりして、それでAIを持たないために逃される人間の福祉が多くあるっちゅうことやないか？
俺は家族が、彼らが死んだ数年後に治癒された病気で死んだ家族がいる経験をしたから、俺は十分に速く進歩しないことの賭け金を本当に理解してるねん。俺はAIの危険のいくつかは社会を大幅に不安定にしたり、人類や文明を脅かしたりする可能性があると言うやろうな。
せやから俺らはそのレベルのリスクでアイドルチャンスを取りたくないと思うねん。今、俺は全然、技術を止める、技術を一時停止するっちゅうような支持者やないねん。いくつかの理由で、俺はそれがただ…不可能やと思うねん。俺らには地政学的敵対者がいるねん。
彼らは技術を作らないつもりはないし、金の額やねん。つまり、お前がレグの最もわずかな量を提案してさえ…俺は持ってるし、お前も知ってるように、俺には何兆ドルもの資本が俺に対して並んでて、それは彼らの利益にならないからで、せやからそれは何が可能で何がそうやないかの限界を示すねん。
でも俺が言うやろうことは、それを遅くすることと最大スピードで行くことについて考える代わりに、安全保障対策を導入する方法があるか、経済について考える方法があるか、技術を遅くしないか、ちょっとしか遅くしない方法があるかっちゅうことやねん。10%の経済成長の代わりに、俺らが9%の経済成長を持って、これらすべてのリスクに対する保険を買うことができるなら。
俺はそれが実際のトレードオフがどのように見えるかやと思うねん。そしてまさにAIが非常に速く行ける可能性を持つ技術やから、非常に多くの問題を解決するために、俺はより大きなリスクを、もんが過熱する可能性があるっちゅう風に見てるねん。せやから俺は基本的に…俺は反応を止めたくないねん。俺はそれを焦点を当てたいねん。それが俺の考え方やねん。
AIの規制と政策アプローチ
お前は「俺らが2025年12月に達して、AI法がなかったら、俺は本当に心配するやろう」と言ったねん。どんな感じか？実際にカリフォルニアで何かがあるねん。法案が出てる、SB53やねん。昨年、俺らにはSB1047のもん全体があったねん。俺らはSB1047について複雑な気持ちを持ってたねん。
俺が思ったのは攻撃的すぎる初期バージョンがあったってことやねん。そして俺がそれを言う時、俺が意味するのは、技術が速く動いてるし、それについて規範的すぎるのはある種役に立たないっちゅうことやねん。結果的に実際に安全に貢献しないねん。
そして俺はちょっと心配やったねん、このようなもんが通ったら、実行するように規定されたテストが馬鹿に見えることになって、それからAI業界のすべての人々が「ああ、これが安全と保障のための規制がどのように見えるか、本当に馬鹿や」と言って、彼らはそれを真剣に受け取らへんやろう。
彼らは文字通りに従うためにできるすべてをして、精神的にはそうしないやろうっちゅう感じやねん。せやから、思慮深い規制の支持者として、俺は実際にこれについてちょっと心配やったねん。俺らは法案にいくつかの変更を提案して、俺らがそれについて良い気持ちを持てる点まで、そして業界と安全支持者の間で妥協を作ろうとしたねん。
お前が見たように、俺らは本当に成功しなかったけど、今年、俺らはより穏健な何かである法案を作ってると思うねん。それは特に実践の透明性、安全と保障実践の透明性に焦点を当ててるねん、これはAnthropicが非常に積極的にやってきたもんやし、他の会社も始めてると思うけど、すべての会社がやってるわけやないし、人々が明かしてることについて真実を言ってるかどうかを知る方法がないねん。
そしてカリフォルニア規制で十分か、すべての会社がここに接点を持ってるから。そうやそうや、つまり、俺はこれらの法案のほとんどがカリフォルニアでビジネスをすることの周りに組織されてると思うし、せやから遮断するのは困難やろうな。人々はここで非常にAIピルドやねん。人々はここで非常にAIピルドやねん。
せやから、お前も知ってるように、俺らは何が起こるかを見るやろうな。何が起こるかわからへんねん。でも俺らは常に技術にガードレールを支持するアプローチを持ってるねん、立法的ガードレールも含めてやけど、俺らは慎重である必要性を認識してるねん。俺らは金の卵を産むガチョウを殺したくないねん、俺らはただそれが過熱したり道から外れたりするのを止めたいだけやねん。
そうや、たぶん現代の銀行規制のようなもんは良い例やな、みんなが文句を言ったけど、本来非常にリスクの高い活動があるねん？そうやいやいや、危険はかなり明確やねん。つまり、それは取り付け騒ぎのようなもんではない— そうやけど、俺らが規制環境を理解したら、現代では全部かなりうまく機能してるねん。
個人的なAI使用スタック
最後の質問やねん。お前の個人的なAIスタックは何か？たぶんテックの他の人たちと比べて、お前はどうやってAIを違って使ってるか？そうやな、興味深いな。お前も知ってるように、俺は基本的に多く書くねん。たぶん俺は自分の書き物に誇りを持ちすぎてるねん。俺はClaudeを使って多くのアイデアを生成するねん。お前も知ってるように、俺はそれをある種リサーチとして使うねん。でもこれまでのところ、俺は書くことを自分でやってきたねん。
Claudeは実際にたぶん他のやつより近いけど、まだそこにいないねん。ビジネスメールには快適やけど、俺がある種、エッセイとか本当に正しくしたいもんを書いてるなら、まだそこにはないねん。でもたぶん1年かそこらでそうなるやろうな。
そうやな、非常にクールやな。まあ、ダリオ、これは素晴らしかったねん。来てくれてありがとうな。俺を呼んでくれてありがとうやねん。
コメント