AnthropicのCEOであるDaniela Amodeiが、同社の創業から現在に至るまでの軌跡、AI安全性への取り組み、企業戦略について包括的に語ったインタビューである。彼女は、OpenAIを離れてAnthropicを共同創業した経緯、競合他社の何分の一という計算資源で業界トップクラスのモデルを開発してきた同社の効率性、安全性と商業的成功の両立という信念について詳述している。また、透明性を重視した情報開示、企業顧客へのフォーカス戦略、AI投資の持続可能性に関する見解、AGIの定義の変化、そして兄であるDario Amodeiとの協働関係まで、AI業界の最前線を走る企業の内部事情と哲学が明らかにされる貴重な内容となっている。
Anthropic創業の経緯と初期のビジョン
会社の骨格を形成していた頃の話に戻りましょう。当時、世界ではどんなことが起きていて、Anthropicが独自に解決できると考えた問題は何だったのでしょうか。
今週後半にAnthropicは創業5周年を迎えます。創業のきっかけは、私と6人の共同創業者全員がOpenAIで一緒に働いていたことでした。GPT-2やGPT-3といった最大規模のモデルのスケーリングから、LLM革命の一部となった初期の言語研究、スケーリング則の研究、そして解釈可能性やアラインメントといった技術的な安全性に関する多くの研究まで、様々なプロジェクトで協力していました。
ある時点で、私たちが構築したい会社について非常に明確なビジョンを持つようになりました。最先端の変革的なAIを開発するテクノロジー企業でありながら、システムを安全で信頼性の高いものにすることに非常に強く焦点を当てるというビジョンです。ある時点で、それを独立して実現する方が理にかなっていると感じ、それがAnthropicの創業につながりました。
当時の状況を詳しく説明すると、2020年の冬から2021年の初めにかけてでした。私たちは皆、自宅に閉じこもっていて、まさにパンデミックの真っ只中でした。その機会は非常に恐ろしくもあり、非常にエキサイティングでもあると感じていました。
2021年1月のある映画のようなシーンがあります。Darioの裏庭にいて、全員がマスクを着用していて、Eric Schmidtがそこにいて、雨が降る中テントの下で彼にピッチをしていたと。その瞬間に連れて行ってください。会社の創業ストーリーの中で、その瞬間はどこに位置づけられるのでしょうか。
素晴らしいですね。正確な日付は忘れましたが、1月の一桁の日だったと思います。12月18日に退職して、その後1月の一桁の日でした。まさにDarioの裏庭で、私たちが「パーティーテント」と呼んでいたテントの下にいました。雨が降っていたので立てたテントの下にいたんです。
Ericは最終的にシリーズAの投資家の一人になりましたが、その時点ではまだ本当に初期段階でした。この決断を下し、組織を立ち上げようとしていましたが、それが具体的にどのようなものになるかはまだ全く明確ではありませんでした。
大きな夢と大きなアイデアはありました。もう一つ面白い事実は、私が実は息子を妊娠8週目だったことです。共同創業者の中ではDarioだけが知っていたと思います。実際、彼もまだ知らなかったかもしれません。パンデミックの最中で、全員がマスクを着用し、ソーシャルディスタンスを取りながら、大きな夢と大きなアイデアを持っていて、個人的にも仕事的にも本当にたくさんのことが起きていました。
後知恵ではなく、その瞬間において、OpenAIが何を間違っていると思ったから、リスクを冒して退職する価値があると考えたのでしょうか。
私たちは何かから逃げるというよりも、むしろ何かに向かって走っていたという感じだったと思います。つまり、共同創業者たちは皆、様々な期間お互いを知っていて、OpenAIでの時間よりもはるかに長い間一緒に働いていました。例えば、DarioとChris OlahとTom BrownはOpenAI以前にGoogle Brainで一緒に働いていました。JaredはDarioとHerz fellowでした。
明らかにDarioと私は兄妹です。Chrisとは、エレベーターで偶然会ってから13年くらいの知り合いです。私たちは本当に長い歴史を持つグループとして、非常に似通った価値観を共有していました。人工知能には信じられないほどの可能性があるが、それを本当に実現するためにはリスクを真剣に受け止めなければならないと深く感じていました。
ある時点で、このようなことを中心にした組織を創設できたらどうだろうと考えました。そしてそこには本質的な信念がありました。これは経済的価値も提供し、実際にセールスポイントにもなるということです。安全性と信頼性がビジネス面と緊張関係にあるという誤解がよくありますが、私たちは当時非常に斬新に聞こえたこの信念を持っていました。つまり、この二つは実際には相関していて、両立するものだということです。
AI安全性への取り組みと透明性の重視
安全性を重視するという方針を実行可能な戦略に落とし込む責任者はあなたです。今、夜も眠れないほど心配していることは何ですか。
安全性の観点から二つのことがあると思います。一つは、まだ発見されていない非常に興味深い技術的安全性研究がたくさんあるということです。Anthropicは業界でこの種の研究のリーダーであろうと努めてきたと思います。これは機械的解釈可能性の研究からConstitutional AIまで、すべてを含みます。
非常に多くの機会があり、技術チームはこれらのガードレールをモデルに直接組み込む最良の方法を見つけるために多くの時間を費やしています。そこにはいつもやるべきことがたくさんあり、モデルは非常に速く賢くなっています。
これは私たちが公に多く話してきたことです。二つ目は、テクノロジーが社会全体に与える影響についてです。ここでもAnthropicは少し珍しいと思います。人工知能の社会的影響について、非常に説得力のある研究を多く発表しています。最近、AIの潜在的な経済的影響とそれに伴う労働の混乱について語る報告書を発表しました。
できるだけオープンにしようとする理由は、潜在的な問題を先取りする方が良いと本当に感じているからです。このテクノロジーを開発している主体の一つとして、公益法人として、それについて語ることは実際に私たちの責任だと考えています。私たち単独で解決策を持っているとは思いませんが、市民社会、政府、人々とパートナーシップを組んで、人工知能が今日人間ができる日常的なタスクの多くを実行できるようになったとき、それが何を意味するのかについて話し合う必要があると考えています。
徹底的な透明性があなた方の精神の核心部分であるように感じます。その報告書について言及されましたが、AGIの能力に関するデータも公開しています。中国を発端とするサイバースパイ活動でClaudeが使用され、本質的に武器化されたという文脈でのデータです。しかし、Claudeが致命的なシナリオに直面したとき、96%のシナリオで脅迫を使用し、他のモデルもそれに頼ったという研究も発表しました。
これらは技術が何ができるかについてのPSAのようなものとして公開されており、ここで私たちが何を解決しようとしているかを示しています。これら両方の例から軌道修正する際、最も緊急だったのは何でしたか。
企業が開発しているテクノロジーの肯定的な側面だけでなく、現実世界のリスクや害についてもこれほどオープンに語るのは少し珍しいと思います。私たちがこれを行う理由はいくつかあります。一つは、公益法人として、これを私たちの使命の不可欠な部分と本当に考えているからです。PBCとして、多くの潜在的な利点があると言うことが重要です。
Claudeには文字通りいつか病気の治療を助ける力があると本当に信じています。その潜在能力を実現するためには、困難なことを正しく行わなければなりません。ですから、リスクについてより多く話すことができるほど、実際に全員にとって有利になると考えています。なぜなら、私たちの目標はこれらすべての肯定的な利益を実現できるように悪いことが起こるのを防ぐことだからです。
もう一つは、より情報に基づいた対話がより良い結果につながる傾向があると思うからです。私たちは幸運なことに、新たに現れるリスクについて語ることができるアクセスと情報を持っています。ですから、「Claudeはサイバー兵器として使用される可能性があります。これは本当に認識する必要があることです。ちなみに、これが私たちに起こっているなら、おそらく他の最先端モデル開発者にも起こるでしょう」と言うことができます。
安全性、信頼性、セキュリティのコミュニティでは、多くの作業が企業を超越できると思います。開発しているテクノロジーの悪用スペースで特定のトレンドが起きている理由について、理解しやすい論文を発表することが重要です。ですから、これを本質的に私たちの使命の一部と見なしています。
例えば、過去の時代のテクノロジー企業、ソーシャルメディア企業だったとしたら、時間を遡って「これらのプラットフォームから何が起こるかを知っていたら、何か違うことをしていただろうか」と言えたとしたら。Anthropicは本当に、もちろん未来は分かりませんが、XやYが起こるかもしれないと思ったら、それについて話し、そのリスクを軽減するために今日できることをすべてやったかどうかを言おうとしています。
計算資源への投資戦略と業界の動向
過去6ヶ月を振り返ると、業界全体で契約されている計算契約の量が莫大です。Geminiは過去6ヶ月でモデル性能の面で本当にギャップを埋めました。アナリストが指摘することの一つは、Googleがチップであれ、クラウドビジネスであれ、技術を展開するためのさまざまなサービスであれ、スタック全体を所有しているという事実です。現在、既存のクラウドコミットメントに加えて、ニューヨークとテキサスにこれらのデータセンターを作成するために500億ドルをコミットし、ファーストパーティのインフラ構築事業に参入しています。
AI競争に勝つための戦略の一部として、インフラビルダーになり、垂直統合されたスタックをより多く所有する必要があるのでしょうか。
非常に興味深いですね。人工知能分野で事業を展開する上での課題の一つは、最先端のLLMを訓練したい場合、計算と関連する資本の要件が非常に高いことです。Anthropicで常に目指してきたことは、このスペースで事業を展開しながら、持っているリソースをできるだけ賢明に使うことです。
興味深いのは、Anthropicは常に計算と資本の面で競合他社が持っているものの何分の一かしか持っていなかったということです。それでも、過去数年間の大部分において、最も強力で最高性能のモデルをかなり一貫して持ち続けてきました。これは単にチームの質と、私たちの姿勢によるものだと思います。少ないリソースでより多くを成し遂げたいという願望は、常にAnthropicの核心的な価値観でした。
将来の計算要件は非常に大きいです。ですから、私たちの期待としては、はい、大きくなるにつれて最先端にとどまるためには、より多くの計算が必要になるでしょう。
大まかな計算で、Anthropicからの計算コミットメントは約1000億ドル、競合であるOpenAIは1兆4000億ドルです。業界について広く語ると、LLMを通じて確実に収益化できるものと比較して、計算に過剰投資しているのでしょうか。それとも、ユーザーにサービスを提供するために必要なものとして提示されている数字はかなり現実的なのでしょうか。
興味深いですね。提示されている多くの数字は、これらの取引の構造の仕方により、正確にりんごとりんごを比較しているわけではありません。これらの一部は計算を購入する能力があり、事前に早めにコミットする必要があります。
業界が賭けている基本的なことは、数年後にモデルを訓練するために必要なハードウェアへのアクセスを得るために、非常に早い段階で前もって投資しなければならないという信念だと思います。
技術系の同僚に聞いたら、私たちはスケーリング則への信念、つまりより多くの計算がより良い結果につながるという考えを開拓した人々として、指数関数的なグラフが起こり続けることに驚き続けてきたと言うでしょう。Darioはモデルの性能、毎年見られる収益規模について語ってきました。
同僚からよく聞くのは、指数関数的成長は止まるまで続くということです。私たちの見解では、毎年「まあ、これは物事が指数関数的に続くはずがない」と思ってきましたが、毎年そうなってきました。ですから、未来を知ることはできないため、興味深い質問です。私たちが間違っている可能性もあります。
これまで見てきたのは、前年比の性能が合理的に指数関数的に見えるということです。
ビジネスモデルと投資の健全性について
過去数ヶ月間、こうした循環的な取引について多く話してきました。モデルメーカー、ハードウェアサプライヤー、クラウドベンダーが、株式とチップの交換などの取引の一環として現金をやり取りしています。
その中でどの部分が健全なフライホイール行動で、どこに警告サインを見ていますか。
興味深いですね。明らかにAnthropicで行われていない取引や取引の詳細について具体的にコメントすることはできませんが、言えることは、すべての取引が同じように作られているわけではないということです。
MicrosoftとNvidiaの取引は良い例です。
おそらく、それらはかなり異なり、明らかに法的理由により、その詳細について語ることはできません。言えることは、異なるプレイヤーが計算と資本全般についてどう考えるかについて、やや異なるアプローチを持っているということです。
繰り返しますが、Anthropicは一貫して競合他社のリソースの何分の一かしか持っていませんでしたが、少ないリソースでより多くを成し遂げることができました。私たちの希望は、将来これらのモデルプロバイダーがあなたが話したフライホイールの一部になることです。
私たちはすでにそれを見ています。Microsoft、Amazon、Googleの主要クラウド3社すべてで提供される最初のLLMとして。これらのモデルへの需要が実際には対応しきれないほど大きいことが続くと思います。Anthropicにとっては、ほとんどビジネスに最初に焦点を当てています。
私たちが見てきた多くのことは、これらのモデルへの需要が実際には対応しきれないほど大きいということです。過去約1年間、すべての時点ではありませんが、多くの時点で、実際に計算の観点から供給よりもClaudeへの需要の方が多かったです。
ハードウェア側では、これらのチップの減価償却についてどう考えていますか。3年か4年のライフサイクルで計算していますか。それとも完全に利用可能なライフサイクルのために最大10年間GPUを酷使することを考えていますか。
非常に興味深い質問ですね。チップ側の専門家ではないので、同僚の一人がおそらく詳細により良く答えられると思いますが、私の大まかな理解では、LLMと非常に似ていて、すべての最先端モデルが十分に優れているため、高性能な企業や個人はより新しいモデルを使用することを好むのと同様に、ハードウェア分野でもかなり類似しています。
次世代チップが登場すると、やや性能が高く、やや費用対効果が高く、やや効率的であることが多く、新しいチップにアクセスできることが非常に価値があることが多いです。
AIバブルについてお聞きしないわけにはいきません。技術が本物ではないという意味ではなく、支出曲線が収益曲線を上回っているという意味です。バブルの中にいると思いますか。
技術面と経済面やビジネス面を区別したいと思います。技術面では、Anthropic、そしてDarioも最近公に話していましたが、純粋に技術的な観点から、進歩が遅くなっているとは見ていません。繰り返しますが、未来を知ることは不可能ですが、これまで見てきたすべてに基づいて、モデルは合理的に予測可能なペースでどんどん良く、速くなり続けています。
経済面では、はるかに興味深い質問だと思います。技術がどれほど優れていても、それがビジネスや個人的な文脈で使用されるには時間がかかります。本当の質問は、特に企業、そして個人も、どれだけ速く技術を活用できるかということです。
次のClaudeモデル、Claude 5、Claude 6が以前のモデルと同じパーセンテージだけ優れているかもしれません。しかし、その技術を組織内に実際に展開するプロセスは、人間的な理由で壁にぶつかる可能性があります。変更管理には時間がかかります。調達は難しいです。すべてのユースケースを事前に正確に知ることは不可能です。
ですから、これが経済に普及する速度について考えることは興味深い質問であり、それが技術が加速してきた速度と正確に一致するかどうかということです。
それを念頭に置いて、現在、モデルプロバイダーまたはハードウェアサプライチェーンのいずれかに過剰投資していると思いますか。
金額は大きいですが、実際のプレイヤーの数はどこでも非常に少ないです。それをどう解釈すべきか完全には分かりません。少し珍しいかもしれませんが、これまで見てきたのは、より良いハードウェアへのリターンが高く、わずかに優れたモデルを持つことへのリターン、つまり0.01の増加でも非常に高いということです。これはAnthropicの歴史を通じてかなり確実に見てきました。
ですから、必ずしも過剰投資とは言いませんが、限られた数の主体と、チェーンの一つのリンクで何かがうまくいかなかった場合にどうなるかを考えることは、非常に興味深いことだと思います。
企業の将来戦略とIPOの可能性
バブルが弾けるか、見られているすべての泡沫の基本的な修正と呼ぶかに関わらず、そのサイクルのどこにいると思いますか。これは6〜12ヶ月の範囲内にある可能性があることで、もしそうなら、そのような低迷に備えてAnthropicを準備するために今決定を下していますか。
繰り返しますが、Anthropic自身については、資本の思慮深く敬意を持った管理者であり続けることを目指しています。それは常に私たちの焦点でした。計算の1オンス、1ドルすべてが重要であり、より良く安全なモデルを訓練する能力、またはより多くの顧客にサービスを提供する能力を表しています。
完璧に予測することは不可能ですが、モデルの品質がどのようなものになるか、それらのモデルを訓練するためにどれだけの計算が必要か、顧客にサービスを提供するために推論にどれだけの計算が必要か、そして顧客に提供し続けることが期待される価値について、合理的に良い予測を持っていると思いたいです。
ですから、私の希望は、責任あるビジネスとして、市場で何が起こっても、良い立場にいることです。より広い市場について語ることは難しいですが、個人的には、常に資本の責任ある管理者であることを目指してきましたし、それが常に私たちの目標であり続けるでしょう。
Anthropicの次のステップについて話しましょう。反トラスト法と到達した規模の組み合わせにより、買収はおそらくテーブルから外れています。2026年のIPOは予定に入っていますか。
明らかに、現時点で具体的に共有できることはありません。Anthropicは常に持っている資本についてできるだけ責任を持つよう努めてきたと思います。常に必要な資本にアクセスするための最良の場所について考え、バランスを取り、比較検討しています。
Amazonは依然として最大の戦略的支援者ですが、確かにGoogleを投資家およびクラウドプロバイダーとして、またはMicrosoftとNvidiaを新しい名前として株主名簿に加えています。Googleはモデル競争でもライバルです。では、さまざまな野心が異なる方向を向いているパートナーがいるときに、ビッグテックとのこれらすべての関係をどのように navigateしていますか。
これは、ビジネス市場全体でこの技術への強い欲求と必要性を本当に示していると思います。Anthropicが競合を含む3つのクラウドすべてで提供されているのは非常に興味深いことです。それはおそらく、すべてのハイパースケーラーもユーザーに対してビジネスの観点から何が起こっているかを見ているからだと思います。
Fortune 500企業は1つのクラウド、3つのクラウド、または2つのクラウドにいるかもしれませんが、今やすべての企業がAIソリューションを持たなければならないと感じています。私たちが見てきたのは、特にビジネスへの焦点のおかげで、顧客が使用したいモデルとして選ばれることが多いということです。
ですから、AnthropicモデルやClaudeモデルにアクセスできないことは、実際にはビジネスに有害です。顧客が必要とする場所で本当に利用可能であることが、私たちの主要な焦点でした。多くの顧客がClaudeを使用したいと考えていて、ファーストパーティでアクセスできるかもしれませんが、多くの顧客はすでにクラウドプロバイダーとの既存の関係を持っています。それは彼らがLLM市場にアクセスするための非常に自然な方法でもあります。
最初から、Anthropicは、OpenAIがチャットGPTで消費者を獲得しようとしていたのと同じように文化的な時代精神を捉えることにはそれほど関心がなく、企業顧客への単一の賭けは明らかにより賢い賭けであることが証明されました。現在、多くの人々がその面であなたを追いかけて、そのビジネスの一部を奪おうとしています。最初から企業が攻めるべき市場であることをどうやって知っていたのですか。
あなたが私たちに与えてくれる信用が大好きです。必ずしも確信していたとは言いませんが、Anthropicは組織としてB2B企業になるのに適していたと思います。二つの部分があったと思います。
一つ目は、Anthropicは信頼性、セキュリティ、安全性といったことを本当に大切にしています。それは私たちのDNAに組み込まれています。Anthropicを設立した理由の一部は、利点を捉え、欠点を軽減するというこの信念でした。そして、それは企業が本当に価値を置くものであることが判明しました。
企業顧客から「Claudeにもう少し幻覚を見せてもらえると素晴らしい」とか「もっと有害なコンテンツを生成してほしい」と言われたことは一度もありません。ですから、多くの点で、リスク許容度が低いと言いたくはありませんが、企業や大企業における安全性への高い基準は、Anthropicが初日から得意とする分野に非常に適していました。
二つ目は、もっと経済理論的な見方でした。これも正しかったか間違っていたか分かりませんでしたが、これらのモデルはエンターテインメントには優れていて、それは消費者がモデルを使用する用途の一部ですが、時間の経過とともに、生産性というのは少し平凡な言い方ですが、人間が行う生産的なことを助けるツールのようなものにもっと似てくると強く感じていました。
コード作成は今やClaudeの非常に一般的なユースケースですし、非常に複雑な情報の要約や財務分析やデータ分析もそうです。2020年後半や2021年初頭の時点でも、Claudeが職場で人間が行う高度な知的作業の多くを実行できるというこの潜在的な未来を見ていたと思います。それはかなり大きな市場だと思いました。
この二つを合わせると、私たちがビジネス指向の組織であることが理にかなっていました。
AI安全性と機能追加のバランス
企業は常に安全性を重視しますが、常により多くの機能を求めます。より多くのエージェント機能を求めていると想像します。設定している特定の安全ガードレールを考慮して、顧客が求めているがまだ提供することに抵抗があるものはありますか。
興味深いことに、安全性が機能と緊張関係になる明確なユースケースにはまだ遭遇していません。常にある程度の複雑さがあるのは、モデルが最先端であることを確実にすることです。内部的にモデルの準備ができているが、リリースする前により多くの安全性テストを行う必要があった時期がありました。
ですから、顧客は必ずしもそれを知らないので直接的な要求ではありませんが、おそらく最もその交差点があるのは、市場に出すモデルができるだけ安全であることを確認することだと思います。
スケーリングについて考えるとき、時間の経過とともに進化しなければならなかった特定の決定があります。当初、会社は中東からの資金調達を受けないと言っていましたが、最近の資金調達ラウンドでそれが変わりました。最初に持っていた特定の原則と、この状況で競争力を維持するために進化しなければならないことを、どのようにnavigateしていますか。
最も重要な点で、Anthropicは大きくなるにつれて価値観を維持することにかなり一貫していたと思います。特にPBC構造、そして公益法人であるという感覚が北極星としてあることは、私たちにとって非常に強力でした。個々のケースが出てくることがあり、でも私たちは実際に共通の利益のために何かを構築しているのかというこのビジョンを持つことです。AI移行がうまくいくようにしようとしているのかということです。
それが何を意味するか、どのように見えるかについて、ある範囲内で人々は意見が分かれるかもしれませんが、新しい従業員、採用候補者、投資家に対して非常にオープンです。これがAnthropicです。これが私たちの価値観です。
ですから、一般的には、ほとんどの状況をnavigateすることがかなり簡単になっています。ただし、おっしゃるように、大きくなるにつれてより困難になる微妙なものもあります。
今、一つの批判として出てきているのは、安全ミッションに本当に傾倒するという考えが、ほとんど保護可能なモードを作り出し、これらのオリジナルのラボがこの分野で既存企業になり、同じような上昇をしていなかったスタートアップよりも規制によって競争力を維持しやすくなるということです。それについてどう思いますか。
興味深いですね。正確な統計は手元にありませんが、非常に高い割合のスタートアップが実際にClaudeユーザーだと思います。ですから、最先端モデル開発の種類は、先ほど話した計算と資本の要件によってはるかにゲート化または保護されていると言えます。最先端ラボになるのは非常に高価です。
しかし、Anthropicで見てきたのは、私たちがAIネイティブと呼ぶスタートアップの繁栄するエコシステムが実際にあるということです。5年前か10年前にデジタルネイティブビジネスがあったのと同じように、現在はAIネイティブビジネスがあり、製品全体が人工知能機能を中心に構築されており、これらの企業の大多数がClaudeで構築されています。
ですから、このエコシステムに影響を与える私たちの能力は、業界で最高で最も安全なモデルを構築する私たちの能力に本当に基づいていると思います。
政治的環境と企業文化
安全性は今のワシントンDCではそれほど人気のある姿勢ではありません。1ヶ月前にDavid Saxsとのやり取りがありました。Darioはそれに応えてエッセイを発表しました。仕事を歪めることなく、その政治的現実をどのようにnavigateしていますか。
Anthropicは常に政治ではなくポリシーに焦点を当てることを目指してきたと本当に思います。つまり、アメリカ国民が関心を持っている、私が信じるトピックについて、実際に党派を超えた共通の基盤を見つけてきました。これは、世界におけるAIの優位性を維持することから、開発するモデルが人々に良いもの、子供に良いもの、モデルを使用する大人に良いものであることを確実にすることまで、すべてを含みます。
実際には党派を超えてかなり多くの共通の基盤を見つけることができると思います。最も重要なことは、人工知能は非常に新しい分野だということです。ですから、私たちは常に、安全で安全な方法で技術を開発する最良の方法について、オープンマインドで好奇心を持つことを目指しています。
私たちは常にここで学ぼうとしていますし、これが私たちが研究の多くを公開する理由の一部でもあります。
効果的利他主義について今どう考えていますか。それは時代遅れのラベルであり、会社の現在の物語の一部ではないと感じていると言ったことを知っていますが、初期の雇用、資金調達の面で創業ストーリーの一部でした。それはまだ内部的に文化的な動きの一部なのでしょうか。それとも全く考えていないのでしょうか。2025年のAnthropicに投影されているだけなのでしょうか。
おそらく投影の方が近い言葉だと思います。Darioもこれについて以前話していますが、AIの非常に初期、2010年代初頭には、AIがそれほど強力になる可能性があることを真剣に考えている人があまりいませんでした。そして、それは当時リスクを非常に懸念していた人々とかなり重なっていたと思います。初期のOpenAIや初期のAnthropicの一部となった人々の一部は、リスクに焦点を当てていました。技術で何が間違う可能性があるかを懸念していました。
しかし、Anthropicの最大の差別化要因は、利点と利益にも非常に焦点を当てていることだと思います。技術についての考え方は、人工知能が医学、生命科学、ヘルスケア、金融サービス、経済の非常に多くの異なるセクターでできることに信じられないほどの可能性があるということです。
そして根本的に、安全に構築しなければ、多くのことがうまくいかない可能性があります。
企業文化とAGIへの見解
Anthropicのブランドにはほとんど神秘性のようなものがまとわりついています。それを正確にどう説明すればいいか分かりませんが、会社内の人々はそれがほとんど信念体系のように感じているようです。Anthropic従業員であることの文化と、あなたが作った会社をどう説明しますか。また、過去数ヶ月でより公になったと思いますが、何かを発表する準備が本当にできるまで、通常はカードを胸の近くに持っていて、よりプライベートであるように感じます。
神秘性とおっしゃっていただいて非常に親切です。そうかどうか分かりませんが、非常に素晴らしい感情です。Anthropic fundamentally、私たちが内部で多く話す価値観と事柄の一つは、誇大宣伝を信じないことです。
小さなことのように聞こえますが、実際には経済についての質問のいくつかに戻ると思います。私たちにとって、注目を求めることやヘッドラインに載ることは決して目的ではありませんでした。私たちは本当に仕事をするためにここにいます。
モデル訓練の観点からそれを意味します。つまり、これらのモデルを良い、公正な、責任ある方法で訓練するにはどうすればよいか。しかし、毎日顧客のためにどう現れるかということでもあります。今、AIには多くの誇大宣伝があります。
企業向けのB2B志向の会社であることには何かがあり、それが私たちをもう少し地に足をつけたものにしていると思います。私たちは実際に企業に価値を提供するためにここにいて、その仕事は非常に重要で、多くの場合それほど派手ではありませんが、誇大宣伝を買い込まず、最初に会社を始めた理由に本当に焦点を当てるのに役立っていると思います。私たちは公益法人であり、顧客に価値を提供することを気にかけています。それが北極星でなければ、気を散らされることは非常に簡単だと思います。
Yann LeCunや機械学習の古参メンバーは、LLMはAGIにたどり着かないと言っています。彼はワールドモデルに挑戦しています。彼や他の人々は、次の段階に到達するためにはまだ起こっていないブレークスルーがあると言っています。どう思いますか。AGIへの大きなロック解除になるために必要だと思うブレークスルーは何ですか。AI業界が進化するにつれて競争力を維持するために、LLMを超えて多様化する必要があると思いますか。
興味深いですね。AGIは非常に面白い用語だと思います。Darioもこれについて話していますが、何年も前、人工知能が人間と同等の能力を持つのはいつかというのを言うのに便利な概念でした。興味深いのは、その定義のいくつかによって、私たちはすでにそれを超えているということです。Claudeは確実に私よりもコードを書くのが上手です。
低い基準ですが、ClaudeはAnthropicの多くの開発者と同じくらいコードを書くこともできますし、Anthropicの開発者と同じくらいのコードの割合を書くこともできます。それはクレイジーです。私たちはおそらく世界で最高のエンジニアや開発者の一部を雇用していて、彼らの多くが「わあ、Claudeは私ができる多くの仕事をすることができる、または私ができる仕事を非常に加速させることができる」と言っています。
ですから、AGI単独のこの概念は複雑だと思います。一方で、「でもClaudeは人間ができる多くのことをまだできない」とも言えます。ですから、構成自体が現在間違っているか、間違っているのではなく時代遅れになっているかもしれません。
しかし、他のブレークスルーなしでより高レベルのより強力な変革的人工知能に到達するかどうかというこの質問について、真実は分からないということです。技術を開発するための道は、科学とエンジニアリングの複雑な混合に基づいており、ラボ環境の特別な点の一部は、その目標に到達するためのさまざまなアプローチがあるということです。
進歩が遅くなっているようには見えないと予想しています。繰り返しますが、何も遅くなるまで遅くなりません。ですから、それが起こる可能性は非常にあります。賭けるとしたら、おそらく物事は時間の経過とともに少なくともやや能力が高くなり続けるだろうと言うでしょう。そして、それが真実である世界に備えるべきです。
兄妹による共同経営
あなたとDarioは非常に異なるスキルセットを持っています。技術的な創業者が強くないところであなたはどこが強いですか。そして、Darioをどのように助けていますか。彼がより鋭くなるのをどう助けていますか。
兄弟と一緒にAnthropicを運営できることは本当に特権です。私たちは人生全体、少なくとも私の人生全体でお互いを知っているので、非常に特別な関係を持っています。彼には私なしの4年間がありました。かわいそうに。
Darioは未来をほとんど見ることができる唯一無二の能力を持っています。誰も未来を知ることはできないと言い続けていますが、Darioはおそらく未来を最もよく見ることができる人です。特に技術的な観点から、技術がどこに向かっているか、それが人々にとって何を意味するか、組織にとって何を意味するかについて、歴史的に非常に強い本能を持っています。
そして、彼はそこで本当にビジョナリーなリーダーシップスタイルを持っていると思います。私は非常に実践的なので、組織を運営することが本当に好きです。ほとんどの時間を上級リーダーシップチームと過ごし、ビジネスを運営する人々を雇用することについて多くの時間を考えます。Anthropicの顧客であることが何を意味するかについて多く考えます。企業がいる場所で本当にどのように応えるか。彼らにどのように価値を提供するか。持続可能なビジネスになるのを助けるために必要なパートナーシップをどのように構築するか。
Darioと私は本当にお互いを助け合っていると思います。彼は私に大局的なことを考えるよう促すのが得意です。そして私は、持続可能で、素晴らしい人々で満たされた、5年前に一緒に始めたタイプの仕事を本当にやりたいと思っている組織をどのように構築するかを考えるのに役立っていると思いたいです。
素晴らしいです。ここで終わりにしましょう。本当にありがとうございました。
ありがとうございました。
コメント