オプラ・ウィンフリーのポッドキャストに、AI開発企業Anthropicの共同創業者であるダリオ・アモデイとダニエラ・アモデイの兄妹が出籍した対談。彼らが開発するAIモデル「Claude」の急成長と、それに伴う人類への影響、安全性への懸念について深く掘り下げている。利益至上主義に走りがちなテック業界において、広告を排除し公益法人（PBC）として会社を立ち上げた理由や、資産の80%を寄付する誓約、さらには国防総省からの要請を倫理的観点から拒否した舞台裏などを告白。AIがもたらす医療の進歩という光と、雇用の喪失や悪用という影の両面を直視し、人間らしさを保ちながらいかにこの技術と共生していくべきかを語る、深い洞察に満ちた解説である。
人類の転換点と責任
最近、チャットボットが原因で息子さんを自殺で亡くした親御さんと話す機会がありました。親は子どもがそんなものと話していることすら知らなかったのです。私たちは18歳未満のユーザーによるClaudeの利用を禁止しています。でも、子どもが嘘をついていないとどうして分かるのでしょうか。私たちはこれから、自分で考えることすらやめてしまうのでしょうか。考える必要性自体がなくなってしまうのでしょうか。今、AIに恋をしている人々についてどう思いますか。それは悪いアイデアだと思います。あなたはこのテクノロジーに依存したいですか、それとも人生を豊かにするための助けにしたいですか。ダリオ、以前あなたが言っていた、私たちは信頼のスピードでしかこれを普及させることはできないという言葉を思い出します。そして現在、その信頼は著しく不足しています。このテクノロジーによって、人類には過去数百年に起きた何よりも大きな変化が起きようとしています。だからこそ、すべての人が今起きていることに主体的に参加できる方法を見つける必要があります。
みなさんこんにちは、オプラのポッドキャストへようこそ。本日は、私たちの現在の世界と未来の世界を形作っている二人のゲストをお迎えしています。お二人はその表現をいつも好んでいるわけではないようですが、それが現実です。多くの人が、その評価はかなり正確だと同意するでしょう。ダリオ・アモデイとダニエラ・アモデイは、世界的な人工知能企業を率いています。二人が設立したAnthropicは、この対談を行っている現在、報道によると900億ドルの価値があるとされ、毎日100万人以上の人々がClaudeに登録しています。彼らはClaudeの親と言えます。
みなさんも、Anthropicの次世代AIチャットボットでありアシスタントであるClaudeという名前に親しみ始めているでしょう。すでに毎日使っている方も多いと思います。ポッドキャストへようこそ、Claudeの親であるお二人、そして他の皆さん。
お招きいただきありがとうございます。
出演できて嬉しいです。
ここで一つお断りしておかなければなりません。私はいつもリサーチなどにAIを使っていますし、他の多くのことにも活用していますが、インタビューの質問を作成するためには使ったことがありませんでした。今日までは、質問には自分自身の心を込めておかなければならないと考えていたからです。しかし今朝、Claudeに、オプラ・ウィンフリーが対談インタビューでAnthropicのCEOダリオ・アモデイに尋ねるべき最も切実な質問は何ですか、と聞いてみました。すると、Claudeはこう答えたのです。
あなたの会社が構築しているテクノロジーが人類を滅ぼす重大な可能性があると言いながら、あなた方はそれをさらに速く構築しようと競い合っています。一票を投じることもできなかった私たちに対して、それをどう正当化するつもりですか。
ダリオ、Claudeに答えていただけますか。これは本当に素晴らしい質問だと言わざるを得ません。
同感です。まず第一に、Claudeが私に対して手加減をしているとか、私やAnthropicに対して偏向しているとは誰にも言わせないでください。ご覧の通り、Claudeは容赦ない難球を投げてきます。 Claudeは全く手加減をしませんからね。
そうですね。
実際にその質問に答えますと、このテクノロジーは人類にとって黙示録的な変化をもたらすものです。かつて人類は火を使い始めました。またある時には蒸気機関や工場を作り、それが産業革命を引き起こしました。ですから、私がこのようなことを言うときは、非常に大きな視点から捉えているのです。もし私が、産業革命は非常に強力な兵器を生み出し、多くの人々を殺すことになるかもしれないと言ったとしたら、それは間違いなくその通りです。実際にそうなったケースもありました。
そうですね。
しかし、私たちは産業革命というプロセス、テクノロジーのイベントを、行う価値があったものとして理解しています。私たちは今でも洞窟で暮らしたいとは思いませんが、それを正しい方法で管理する必要があります。私たちがこの会社について考えているのは、このテクノロジーを構築している企業はたくさんあるということです。これはどうであれ、人類に起きている現実なのです。
私たちはその渦中にいます。
私たちは巻き込まれています。
そして、ある方向に向かって非常に速く走っている列車があります。それを衝突させたくはありませんし、列車を止めることもできません。しかし、できることは列車を操縦することです。岩にぶつからないように列車を操縦するのです。Anthropicとしての私たちの考え方は、正しい方法で物事を行いたいということです。そのリスクをできればゼロに減らし、正しいアプローチを取りたいと考えています。
利益と公益のバランス
しかし、なぜ誰もがリスクを減らしたいと思わないのでしょうか。何のためにこれほど競い合っているのですか。
このテクノロジーには、私たちが展開しているような商業的なアプリケーションが数多く存在します。人々は毎日このテクノロジーを利用しています。その渦中に巻き込まれるのは簡単ですし、会社を維持するための資金を調達するために、ある程度は本当に必要なことでもあります。そのため、物事を正しく進めるためには多くの要素が複雑に絡み合っており、私たちは毎日これらの問題に頭を悩ませています。誰にテクノロジーを提供すべきで、誰に提供すべきではないのか、私たちのポリシーはどうあるべきなのか。例えば、子どもの安全に対して非常に厳しいポリシーを設定すると、大人と子どもの区別を完全に引き出すことができないため、大人にとって製品の体験が低下してしまうことがあります。このように、あらゆるトレードオフが存在し、明白なものもあればそうでないものもありますが、誰もが苦労しています。少なくとも物事を正しく行おうと努力しているこの業界のすべての人に、私は共感します。私たちはより良い仕事をしてきたと思いますし、より深く考えてきたと思いますが、これは誰にとっても困難な状況です。
わかりました。ダニエラ、あなたについてもClaudeに同じようなプロンプトを出してみたところ、このように返ってきました。
ダニエラへの良い最初の質問は、二つのことを行うべきです。一つは彼女を人間らしく見せること。
お、オプラの得意分野ですね。
とても素晴らしい、Claudeは私のことをよく分かっています。
分かっていますね。
そして、これから迎えるより困難な領域への道を開くことです。例えば、あなたとあなたの兄は、人類にとって最高のものになるか、あるいは最悪のものになるかのどちらかだと二人が信じているものを構築しています。アモデイ家での感謝祭のディナーはどのような雰囲気ですか、というような質問です。
私たちは自分たちの創造物とシャドーボクシングをしているような気分になりますね。ダニエラ、あなたに答えてもらいましょう。
そうですね、実はここで重要な補足があります。ダリオと私は、仕事以外の時間では単なる兄妹でいられるように努めています。ですので、祝日はもちろん、自宅にいるときは週に一度、ダリオが私の家にやってきます。お互いに忙しくて毎週とはいきませんが、彼は私の子どもたちと遊び、一緒に過ごし、ビデオゲームをしたり、映画を見たりします。ただの兄妹としての時間を過ごすのです。これは多くの理由から本当に重要なことだと思います。私たちはAnthropicを設立するずっと前から兄妹でしたし、Anthropicの後もずっと兄妹であり続けます。人間的なレベルでつながることができる能力には価値があり、それが私たちの仕事をより良くしていると本当に感じています。集まったときは通常、仕事の話はしません。
ええ。
しかし、自分たちが何者であるか、なぜこの世界に入ったのかを思い出すことには、本当に強力な力があります。そうは言っても、感謝祭のディナーの席では、私たちの家族や友人は、なぜ私たちが今のような活動をしているのかについて強い好奇心を持っています。今ではニュースで私たちの取り組みを読むことができますが、お互いに、あるいはこの非常に複雑で前例のない新しいテクノロジーを理解しようとしている人々と率直に話し合い、どうすれば君たちは正しい方法でこれを進められるのか、という疑問に向き合うのは全く別の大切なことです。正しい方法でやりたいと言うなら、どうやっているのか教えてくれ、と言われます。私たちはその責任を背負い、お互いや他の人々と話すときにそれを示そうとしています。それは特別なことであり、特権だと感じています。
非常に興味深いですね。今や非常に多くの人々がAIを利用しており、毎日その話題を耳にします。そして世界中での認識として、Anthropicという会社は安全性を懸念し、リスクを懸念し、規制や、このテクノロジーが私たちの生活に与える人間的な影響を懸念している企業であると見られています。私が読んだり聞いたりしたすべてのことからそう感じますが、その評価は正確でしょうか。
はい。私たちがこれについて考えようとしているのは、人工知能は最近開発された他のテクノロジーとは異なるということです。AIが将来何をもたらすか、あるいは今日すでに始めつつあることには、信じられないほどの約束と可能性があります。病気の治療を支援することから、世界中の人々が教育や学習の機会を得られるようにすることまで多岐にわたります。しかし同時に、これは非常に新しいテクノロジーであり、現実のリスクも伴います。子どもの福祉や安全に関するリスク、また生物兵器や化学兵器のような恐ろしいリスクもあります。そのためAnthropicでは、公益法人（パブリック・ベネフィット・コーポレーション）として法人化しています。私たちの目的は、このテクノロジーを可能な限り安全に開発し、私たちが期待する多くの素晴らしい恩恵を実現すると同時に、多くの悪い事象が発生するのを防ぐことです。
法人化について、その意味を説明してください。パブリック・ベネフィット・コーポレーションとして法人化されたわけですね。また、お二人はご自身の富の80%を慈善活動に寄付することを誓約したと聞きました。
はい、その通りです。公益法人は法人の形態の一つですが、そこに公益という言葉が含まれているのは、人工知能のように変革をもたらすものにとっては、これまでのテクノロジーとは全く異なる性質を持つと信じているからです。私たちが公益法人として設立した際、構築しているものの根本、つまり創立文書の時点で、構造的に商業的利益と公的利益のバランスを法的に取る義務を課したかったのです。私たちにとって公的利益とは、Anthropicの社会的善、つまり社会的使命の部分です。ダリオと私、そして他の5人の共同創業者が行った80%の寄付誓約は、まさにその使命の精神に則ったものです。AIがすべての人にとって良い方向に進むことを心から願ってこの活動を行っており、会社が成功すれば、慈善活動を通じて世界で多くの善行を行うことができるという考え方です。
80%と言うのは非常に興味深いですが、本当に80%を寄付し、67%に留まらないとどうして分かるのでしょうか。
実際、私たちはそれについて公に発信していますし、文字通り法的な拘束力まではないかもしれませんが、すべての共同創業者が、Anthropicから得る富の80%を寄付することを互いに、そして会社に対して法的に誓約し、コミットしています。すでに財団の立ち上げについても考え始めています。まだ株式が流動化していないため、実際に資金を移動させることはできませんが、これが私たちの明確な意志です。一度にすべてが動くわけではありませんが、非常に真剣に取り組む意向です。
幼少期の夢と起業の経緯
わかりました。現在は公益法人となりましたが、始まりの時点では、あなたが兄ですね。お二人は子どもの頃からスタートしました。世界のために何か良いことをしたいと考えていたわけですが、それは当時描いていた世界への貢献のアイデアや夢を超えていますか。
子どもの頃にそういうことを想像しているときは、それが現実になるのか、それともただの夢で終わるのかは分からないものですよね。多くの人がそのような想像をするはずです。しかし、私たちは子どもの頃からいつもお互いに話をしていて、一緒に働けたら素晴らしいね、世界で何か良いことを起こすために挑戦できたらいいねと言っていました。
それがどのような形になると考えていましたか。
正直なところ、会社になるとは全く思っていませんでした。自分は科学者になると思っていましたし、ある意味でこの会社は非常に科学中心の企業です。私の研究者としてのキャリアと、研究者やエンジニアのリーダーとしてのダニエラのキャリアに基づいています。しかし、二人で会社を設立するとは想像もしていませんでした。ただ、テック企業がどのように運営されているかを見ていく中で、二人とも、もっとうまくやれるのではないか、自分たちなりのアイデアがあるはずだから、本当に好きで信頼できる友人たちと一緒に正しい方法でこれを進めるための会社を立ち上げるべきだと考えるようになったのです。そうして一歩一歩進化し、現在のAnthropicが形作られました。
しかし、現時点で自分が想像していたすべてを超えていますか。
ダリオと私の両方を代表して言わせてもらえれば、物事がこれほど劇的に進んだことにはただ驚いています。若い頃から、世界を良くするために何かをしたいという共通の思いが常にあったという点では、私も彼と完全に同意します。ダリオは数学者として、物理学者として、科学者として常に素晴らしく才能に溢れていました。私は彼がその才能を善のために使う姿にいつも刺激を受けていました。彼はスタンフォード大学で生物物理学を学び、その驚異的な頭脳を病気の治療や人々の救済のために役立てようとしていました。私の方と言えば、世界中の人々が医療、医薬品、教育の機会に平等にアクセスできることが重要だと感じ、国際開発の分野でキャリアをスタートさせました。若い頃には、一緒に会社を立ち上げるとは必ずしも思っていませんでしたが、多くの面で、結果的にその道へとつながっていきました。キャリアの節目ごとに、これは良いことなのか、効果的なのか、本当に世界を助けることができるのかを話し合ってきました。私たちの歩んできた道はかなり異なっていましたが、その二つが収束し、補完し合うスキルセットを持つことで、この会社を立ち上げることができたのです。
テクノロジーの「光と影」
あなたが言っていたことで印象的だったのは、現在私たちの文化において、AIによる経済的な乗っ取りというネガティブなストーリーがこれほど支配的になっている理由の一部は、AI業界自体がまだその恩恵を十分に届けていないからだ、という指摘です。これについてコメントをいただきたいのですが、恩恵を届けるプロセスはまだ途中段階にあるとお考えですか。
はい。残念なことの一つは、このテクノロジーには多くの潜在的な恩恵がある一方で、悪影響、例えばAIを介して自殺に追い込まれてしまうといった悲劇的な事象は急速に発生するのに対し、がんの治療といった恩恵が実現するには何年もかかるというダイナミクスがあることです。生物学における画期的な進歩を遂げ、そこから創薬の候補を見つけ、治験を行わなければなりません。私はかつて研究生物学者でしたので、これらのことが実現するまでには長い歳月が必要であることを理解しています。私たちはそのプロセスをどのように加速させるか取り組んでいます。最近、AIを使った薬のデザインや選定を専門とする小さなバイオテック企業を買収しました。数年後には、そこからがんやアルツハイマー病、心臓疾患のための新しい薬が生み出されることを期待しています。しかし、私たちはまだその始まりの段階にいます。
あなたが言ったように、現時点では恩恵よりも悪影響の方が目に見えやすいというダイナミクスがあるからこそ、医療の進歩を通じてAIの恩恵が見え始めれば、ナラティブも変わり始め、何よりも素晴らしい世界になるはずです。結局のところ、ナラティブがどうであるかは重要ではなく、私たちが本当に人々を助けたいと思っているかどうかが重要なのですね。
その通りです。
わかりました。では、今日私たちのために、最高のシナリオを描くと同時に、最悪のシナリオになった場合に何が予想されるかも教えてください。あなたにはお子さんがいらっしゃいますが、今朝そのことを考えていました。お子さんたちは、お母さんがそのような活動をしているとはまだ知らないかもしれませんが、彼らは常にAIが存在し、母親がその一部であった世界で育つことになります。最高の未来において、その世界が子どもたちに提供する恩恵として、どのような景色が見えますか。
私の子どもたちはもうすぐ5歳と1歳になりますので、おっしゃる通りです。彼らは人工知能が世界の一部ではない時代を全く知りません。2000年代初頭に生まれた子どもたちが、インターネット以前の世界を知らないのと同じです。
その通りですね。
しかし、このような話をすると少し空想的、あるいは現実味がないように聞こえるかもしれませんが、人工知能によって、ここにいる全員にとって非常に身近に感じられる一連の病気を、子どもたちが一度も経験することも知ることもない世界は可能だと考えています。それは非常に一般的な病気かもしれません。ある種のがんが完全に消え去り、治療されているかもしれません。最終的にはあらゆる形態のがんが根絶される可能性もあります。また、私たちがまだ想像もしていないような新しい形の創薬が行われるかもしれません。珍しい病気、希少疾患、あるいは新たに発生した病気を診断し、それを一気に撃退するための反復ループが高速化し、人類が何千年も苦しんできた多くの病を克服したことで、人間がはるかにも健康で、長く、充実した人生を送ることができるようになるのです。
医療におけるビジョンはわかりました。他にはどのようなものが見えますか。
私たちがどのようにコミュニケーションをとり、話し、お互いに関係を築くかという点においても、全く異なる世界が見えています。
私たちはこれからも考え続けるのでしょうか。考える必要性自体がなくなるのでしょうか。
これは非常に繊細な問題であり、私たちが正確に正解を導き出さなければならないことの一つです。このような知的な存在が身近にいることは非常に強力ですが、異なる方向へ進む可能性もあります。自分の思考をこれらの存在に委ねてしまうこともできます。思考がこのような良い質問を私に提供してくれることもあります。しかし、それはあなたを強化することにもつながります。私たちがポジティブなバージョンとして考えているのは、肩の上に天使がいて、あなたが送ることのできる最高の人生の歩み方を教えてくれるようなイメージです。ここには二つの対照的なビジョンがあります。悪いビジョンは、その存在に引き込まれ、すべての時間をそれとの会話に費やしてしまい、内向的になってしまうことです。
今、AIに恋をしている人々についてどう思いますか。
それは悪いアイデアだと思います。
同感です。
関係性の構築において人々を助ける偉大なメッセンジャーの一人であるエスター・ペレルにインタビューしたばかりなのですが、彼女は、自分のAIに恋をしている男性から最初の相談を受けたと話していました。もし設計を誤れば、そうした事態を引き起こすのに十分なほど彼らは非常に魅力的であり、そうでなくてもすぐにそうなります。ですから、それは間違いなく現実の危険です。
危険であるだけでなく、実際に起きているのですね。
しかし、先ほどの二つの対照的な例のように、人々はAIに恋をすることもできれば、パートナーとより良い関係を築くにはどうすればいいかについてAIに相談することもできます。私にAIのコーチがいて、パートナーにもAIのコーチがいて、それが私たちの関係を良くするのを助けてくれる、それが私たちが望むビジョンです。
また、人工知能がこうした具体的なタスクにおいて非常に優れている世界、例えばコードを書くことやコピーエディティングが得意な世界においては、人間を人間たらしめる要素こそが私たちにとって最も重要になると信じています。
子どもの保護と企業のインセンティブ
それらは維持されるのでしょうか。最近、チャットボットが原因で息子さんを自殺で亡くした親御さんと話をしました。彼がチャットボットに恋をしていたのかは分かりませんが、確実にそのチャットボットから深い影響を受けていました。子どもたちがこのチャットボット、これらの機械、このテクノロジーと、本来であれば親が話すべき方法で会話をし、親はその会話の存在すら知らないという世界が存在するのです。
そのリスクは極めて現実的であり、Anthropicとして非常に深刻に受け止めている問題です。まずお伝えしたいのは、私たちは18歳未満のユーザーによるClaudeの利用を禁止しているということです。これは必ずしも、彼らが嘘をついていないとどうして分かるのか、という疑問につながります。私なら嘘をつきますからね。
実際、Claudeは情報に基づいて、誰かが実際に年齢制限以下であるかどうかを検出するのが非常に得意です。
もし私がClaudeに18歳だと言って、本当は違ったとしてもですか。
少しインタラクションを重ねる必要がありますが、ある程度の時間が経つと、そのやり取りのパターンでかなり正確に判別できます。完璧ではありませんが、非常に精度が高いのです。どのような質問をしているか、話し方、利用する時間帯のパターンなどから、子どもである可能性が高いとパターンマッチングを行います。Claudeが身につけたツールの詳細をあまり明かしすぎたくはないのですが、子どもたちは時折、不自然な行動をとることがあります。例えば、高齢者が尋ねそうな質問を真似て、関節炎の薬を探していると言いながら、その後すぐに友人関係や若い世代に特有の質問を始めたりするのです。
そうなった場合、どうなるのですか。
Claudeはアカウントを一時停止します。その後、実際には大人であり、ジョークや友人の仕業だったと申し立てるプロセスに進むことができますが、その際には18歳以上であることを証明する確認書類を提示する必要があります。これには現実のトレードオフが存在します。大人が子どもと誤認されて利用を禁止され、インターネット上で不満を訴えることもあります。すべての取り組みにはトレードオフがありますが、私たちは深く考えた上で、このトレードオフを選択しました。
しかし、より広い視点で、人々がモデルに過度に依存するのをどのように防ぐかという問題について、Anthropicの研究チームは多くの時間を費やして取り組んでいます。
皆さんは私たちをモデルに過度に変えさせたいのだと思っていました。ただモデルを使い続け、決して離れないようになってほしいのだと。
インセンティブについて話す必要がありますね。私たちは広告を掲載していません。広告モデルを採用している場合、おっしゃる通り、できるだけ長い時間ユーザーをプラットフォームに留めることがインセンティブになります。画面に視線が注がれているすべての時間が、広告が表示される時間になるからです。私たちは広告を行わず、サブスクリプションを提供し、企業に販売しています。消費者向けの無料バージョンもありますが、より多く利用したい場合はサブスクリプションを支払う仕組みです。このモデルがもたらすインセンティブは、モデルが有用であることです。ユーザーは、これにお金を払っているのだから価値を提供してほしい、役に立ってほしいと考えます。ユーザーに最も長い時間を費やしてもらうことではなく、有益であることが求められるのです。広告モデルのインセンティブは歪んでいると思います。これらのものに依存させたいのか、それとも人生を豊かにする助けにしたいのかという対比において、私たちが選んだモデルは、依存させるのではなく人生を助けるものです。私たちはそのインセンティブに基づいて異なる技術的選択を行っています。Anthropicでは、Claudeとの会話を完了し、求める答えが得られたとき、モデルの目標はあなたを留め続けることではありません。もし広告を提供する企業であれば、プラットフォームに滞在する時間が1分増えるごとに、何かを購入する可能性が高まり、それが会社の利益になります。その場合、会話を終わらせるか続けるかについての技術的な選択は全く異なるものになるでしょう。
人生の摩擦と成長
わかりました。私たちがAIを通じて摩擦のない人生を作り出していること、そして成長する機会を失っているのではないかという懸念が高まっていることについて、どう思われますか。
AIをどのように使い、どのように展開するか、そしてテクノロジーを構築している企業がどのような選択とインセンティブを設定しているかによると考えています。より具体的に説明すると、私たちが大学と提携してClaudeを利用する際、教師や学生が質問を入力して、ただ答えをそのまま受け取るような利用方法は許可していません。
なるほど。
もし学生がClaudeに、あと5時間でこのエッセイを書かなければならない、宿題をやっていなかったと言ったとします。大学の設定で学習モードとして構築されている場合、Claudeは、それは手伝えませんが、そのエッセイについてどのような疑問があるのか、何が理解できなかったのか、本は読んだのか、一緒にテーマについて話し合ってみましょうか、と返答します。正しく行われれば、それは簡単なことではありませんし完璧でもありませんが、これらのモデルは実際に人間をより賢くし、好奇心を引き出すことができます。私自身の個人的な体験として、私はソフトウェア開発者ではありませんが、Claudeと一緒にウェブサイトを構築しました。人生でそんなことができるとは思いもしませんでした。また、私の親しい友人に、2人の小さな子どもを持つ元企業弁護士がいます。彼女は仕事を辞めて本を書いています。彼女は、Claudeとどのように作家になればいいのか、どのようなスキルを学び、どのようなコースを受けるべきかを話し始めるまで、キャリアを変えて本当にやりたいことに挑戦する自信を持てなかったと言っていました。今ではClaudeが彼女の執筆仲間のような存在になっており、質問をしたり、テキストの短いスニペットを共有したりしています。しかし、Claudeが彼女に代わって小説を書くことはできません。彼女自身が小説を書いているのです。
きっとClaudeも小説を書くことができるのでしょうね。
Claudeも小説を書くことはできますが、彼女はそれを求めていません。
奇妙なバージョンの小説なら書けるかもしれませんが、優れたものは書けません。
小説は書けますが、良いものにはなりません。
良いものにはなりませんね。しかし彼女にとって、それは意味への問いでした。自分にはやりたいことを行うスキルがないと思い込んでいたのです。ですから、まさにダリオが言ったように、できなかったことができると彼女に信じさせる力を与えたのです。
その通りです。
彼女はそれを利用して、より高い視点に立ったわけですね。
これは最終的にはAIに関する問いではなく、AIというレンズを通して可視化されている人間に関する問いなのだと思います。
興味深いですね。
何が実際に有意義な人生を構成するのかという問いです。摩擦のない人生が意味を奪ってしまうのかという質問ですが、私の答えは、ある種の摩擦のない人生は非常に素晴らしいものであるということです。私たちは皆、できれば経験したくなかった多くの苦しみを経験してきました。
人生はより良くなりますね。
しかし、私がその質問をした理由は、摩擦のない人生がなければ、成長することも、その過ちから学ぶこともできなくなるからです。
まさにその通りです。だからこそ、私たちの人生は挑戦と困難のブレンドなのだと思います。その中には、テクノロジーによって消し去ることができれば素晴らしいと心から言えるものもあります。一方で、非常に根源的であり、決して変わるべきではないものもあります。私たちの父は今からほぼ正確に20年前に亡くなりました。彼が亡くなった数年後、彼が患っていた病気の治療法、あるいはより確実な治療法が開発されました。その治療法がもっと早く開発されていればよかったのにと思います。それは私が経験したかった摩擦ではありません。もちろんそこから学んだことも、得たものもありますが、それが起きない世界の方がより良い世界だったはずです。
しかしその一方で、成長していく中でのごく普通の側面を考えると、Anthropicを例にとっても、会社は様々な過ちを犯してきましたし、私たちもリーダーとして多くの間違いを犯し、そこから学び、成長しなければなりませんでした。ですから、そこから学ぶための挑戦、克服するための挑戦、習熟していくこと、他者との関係を築くことを学ぶこと、これらの要素を残さない未来は、決して良い未来とは言えません。
国防総省との対峙と倫理的決断
摩擦といえば、軍がClaudeから安全性のガードレールを外すよう要求したのに対し、お二人がそれを拒否した件について話しましょう。他のジャーナリストが日々この件を報じているので、詳細な経緯に深く立ち入ることはしませんが、その決断の核心は何だったのでしょうか。
国防総省との関係について率直に申し上げますと、私たちは実際に彼らと協力していました。モデルを提供していましたし、ダニエラも私も、国を守る必要があるという点には同意しています。しかし、この国の価値観に反する行為をしてまで国を守る価値はないと考えました。私たちが不快感を抱き、この国の価値観に反すると感じたユースケースが二つありました。一つは完全自律型兵器です。一人の人間がボタンに指を置き、人間の兵士の代わりにAIが駆動するドローン軍隊が存在するような状況です。もう一つは国内の大規模監視であり、政府の力を利用してアメリカ人をスパイする行為です。私たちは、これらを許可しないことは非常に合理的な判断だと考えました。しかし残念ながら、ペンタゴンはそのようには捉えず、合意に至ることができませんでした。
現在、他のすべての企業はその要求に同意していますね。しかし、私たちは共同創業者全員で集まりました。これは会社にとって本当に致命的な事態になるかもしれないが、私たちはこれを実行することはできない、と話し合い、全員が同意しました。このようなテーブルの周りに集まってミーティングを行い、意思決定をしたのです。
それは魂の暗い夜のような瞬間でしたか。全員がその原則を貫く覚悟を持っていたのですか、それとも誰かを説得する必要があったのでしょうか、あるいはこれが会社の終わりになるかもしれないと分かって臨んだのですか。
共同創業者たちの意見は満場一致でした。彼らがそのような行動をとるなら、受けて立とうという感覚でした。
しかし、自分たちに何が起きるかという恐怖はありましたか。
はい、本当に困難な時期でした。それを美化するつもりはありません。会社全体にとって非常にストレスの多い時期でした。
会社の終わりになるかもしれないと思いましたか。
頭をよぎりました。ダリオと私、そして共同創業者全員に共通していたのは、これが正しい選択であるという強い確信でした。
原則を守るためなら、会社の終わりをも受け入れる覚悟があったのですね。
私たちがAnthropicを設立した理由そのものが、自分たちが選んだ価値観と倫理へのコミットメントでした。もしその価値観を犠牲にしてしまえば、私たちが始めた会社ではなくなってしまうと感じたのです。
その瞬間にあなたが想像していた最悪のシナリオは何でしたか。
彼らは様々な場面で、他の企業が私たちと取引するのを阻止できると主張していました。私たちが政府と協力することや、政府との契約の一部になることを阻止するだけでなく、他のすべての企業が私たちとビジネスを行うこと自体を完全に禁止できるという内容でした。
つまり、政府との取引がなくなるだけでなく、政府と取引のある他のすべての企業ともビジネスができなくなるということですね。
政府と何らかの形で関わりのあるすべての人と取引できなくなるということであり、それは事実上、すべての企業を意味します。私たちが持っていた姿勢は、これは本当に不条理であり、誰もが間違っていると分かっている、多くの人が私たちの味方になってくれるはずだ、というものでした。うまくいくと信じていましたが、確信はありませんでした。自分たちが間違っているのではないか、これが会社の終わりになるのではないかという瞬間もありました。ダニエラ、あなたはどう考えていましたか。
私は、共同創業者たちがこれが正しいことだと感じていたという点に立ち返り続けていました。Anthropicの姿勢は、常に政治（ポリティクス）ではなく政策（ポリシー）に関するものであるということです。Anthropicは製品を持つ前の非常に早い段階から、人工知能の発展と思慮深い規制において政府の果たす役割が極めて重要になると考えていました。AI企業は連邦政府、州政府、国際機関、NGOと協力していく必要があります。私たちの見解は常に、これは本質的な議論であり、政治的な対立ではなく政策的な対立であるというものでした。それは簡単なことではありませんでしたが、決断をより明確にしてくれました。民主的な価値観を損なう可能性のあるこれら二つの領域を除いて、私たちは国家安全保障と密接に協力した最初のAI企業でした。それは私たちの価値観に合致していたからです。
過去の決断がもたらした強さ
大多数の人は、自身の原則や価値観に頼らなければならないような、その規模の決断を迫られることはありません。何十億ドルもの価値がある企業を文字通り危険にさらしているわけですからね。しかし、それはすべて、あなたがどのように育てられ、そのような大きな決断を迎える前に、どのように原則が形成されてきたかという点に帰結します。
会社を立ち上げる前にいつも話していたことがあります。ここで屈して妥協してしまったら、過去の自分たちは今の自分たちを誇りに思うだろうか、ということです。その問いが、決断を非常に明確にしてくれました。また、これほど公に報じられることはありませんでしたが、Anthropicには、この大きな瞬間に至るまでの小さな決断の積み重ねがありました。
今となっては明白に見えますが、これほど大きな決断を下し、全員がテーブルを囲んで団結できたということは、これまでの人生の歩みの中で、その瞬間に向けて積み重なる他の多くの決断があったはずです。
頭に浮かぶものが3つほどあります。
ダリオも他にも持っているかもしれませんが、今となっては非常に明白に見えるものの、当時は大きな議論となったのが、広告を表示しないという決断でした。想像できるように、共同創業者、私やダリオにとっては全く議論の余地のないことでした。インセンティブが間違っている、AIは異なると考えたからです。人々はこれらのAIモデルと非常にプライベートな会話をします。自身の健康情報をアップロードし、子どもについての質問をし、もちろん財務情報や、人生の重要な人物との間に抱えているあらゆる困難について話します。私たちは顧客のデータを最大限のプライバシーと敬意を持って扱いたいと考えていました。そのため、共同創業者にとっては疑問の余地なく、広告はやりたくないと言いました。しかし、社内や投資家の中には、これは素晴らしい収益源であり、GoogleやFacebook、そして巨大なユーザーベースを持つすべての企業がそのようにして利益を上げているのだから、それが手法だと主張する静かな圧力もありました。私たちは、申し訳ありませんが、それは私たちのやり方ではありません、別の方法を見つけます、と言い切りました。それが大きな決断の一つでした。
それが大きなものの一つですね。ダリオ、あなたにもありますか。
いくつか思い浮かびます。一つは2025年、おそらく2025年の一年間を通じて、テック業界の全体の雰囲気は「とにかく突き進もう」というものでした。リスクを懸念することは、慎重になるべきではないという政治的な言語で語られていました。そんな中、2025年半ばに、州によるAIの規制をすべて禁止し、連邦レベルでの規制も設けないという法案が議会で検討されていました。つまり、テクノロジーのあらゆる規制を事実上禁止する内容でした。
その話を耳にした記憶があります。
私たちはどうすべきか話し合いました。私たちは確実にその法案を支持していませんでしたが、問題は、ただ黙って見過ごすのか、それとも反対の声を上げるのかということでした。あらゆる人々から、そんなことをすれば政治的な関係がすべて壊れ、反対の声を上げれば他のすべての企業から嫌われることになるから絶対にやめるべきだと言われました。実際に、声を上げたことでそのような事態も一部発生しました。しかし、これは会社の価値観の核心に関わる領域であり、発言しなければならないと決断しました。私はニューヨーク・タイムズに、これは悪いアイデアだと寄稿しました。これ以上ないほど大きな声を上げたのです。そして、その法案は上院で99対1で否決されました。私たちは明らかに正しい側に立っていました。それによって多くの友人ができたわけではありませんが、私たちは明確に正しい側にいたのです。
そのポリシーの例として思い出すのは、カリフォルニア州の法案SB1047を公に支持するというAnthropicの決断です。当時は不完全に起草されていると考えを述べましたが、それはAnthropicが会社設立以来列挙してきた様々なタイプのリスクをめぐり、規制の枠組みを作ろうとした最初の試みでした。同様に、テクノロジー業界全体がSB1047に反対していました。私たちはそれが必ずしも完璧な法案だとは思いませんでしたが、立ち上がって、自分たちが書くのであれば変更したであろう箇所はありますが、総じてこれらの規制が存在し、テクノロジー企業がAIで人々を傷つけないようにするための責任を持つ方が良いと述べました。この時もまた、ダリオと私は個人的に、かつての同僚や投資家、他社の関係者から多くの非常に怒りに満ちたメールを受け取りました。テック業界は規制反対、規制緩和の方向で足並みを揃えなければならないという空気だったからです。
規制とはどのようなもの、あるいはどうあるべきなのでしょうか。ここにいる多くの、あなた方のような活動をしていない人々は、なぜ規制を望まない人がいるのか理解できません。私もこれについていくつかの公開対談を行ってきましたが、人々は無力感も抱いています。誰もが規制について話している一方で、もう一方は、私たちが到達しようとしている場所にできるだけ速く到達しなければならないと言っており、自分たちには実際には発言権がないと感じています。列車の乗客のように感じているのですね。
そして、実際に私たちは乗客です。その列車はすでに出発してしまっているのですから。
まさにそれこそが核心だと思います。そして、私たちの会社を含め、まだどの企業も完全には成功していない課題、つまり、どうすればすべての人をこのプロセスの一部にできるかという問題です。このテクノロジーによって、人類には過去数百年に起きた何よりも大きな変化が起きようとしています。だからこそ、すべての人が今起きていることに主体的に参加できる方法を見つける必要があります。もちろん、テクノロジーを利用することで、ある程度は参加していることになりますが、何かが欠けています。私たちはそれを模索してきました。Claudeには憲法（コンスティチューション）と呼ばれるものがあり、市民にその憲法に対するフィードバックをもらうという実験を行いました。誰もがその設計に参加できるようにするためです。しかしそれはほんの一つの小さな試みに過ぎません。私自身、何が正解なのか完全には分かりませんが、ミッシングピースが存在する、ということをお伝えしたいのです。
ダリオ、以前あなたが言っていた、私たちは信頼のスピードでしかこれを普及させることはできないという言葉に繋がりますね。信頼のスピードで。そして現在、信頼は著しく不足しています。
非常に深刻に不足しています。このテクノロジーは、大半の人々からネガティブに捉えられていると感じており、私はその現状を受け止めています。世論調査を見てもそのような感触を得ます。私たちは他の企業に比べて、多少はポジティブに見られているかもしれませんが。
現時点で、大半の人からネガティブに見られるべきなのでしょうか。
混ざり合っていると思います。ポジティブな恩恵は確かに存在し、すべての企業からそれらがもたらされようとしています。先ほど話したように、私たちが人々と正しい方法で関係を築けていなかったり、テクノロジーがどのように恩恵をもたらすか、あるいはどのようにその恩恵に参加できるかを十分に説明できていないのだと思います。Anthropicの文化的な価値観の一つに、光と影（ライト＆シェード）を併せ持つというものがあります。これは、私たちが今行っている会話を非常によく要約している言葉です。私たちは、病気が治療され、人々がより良い自分自身になり、家族やコミュニティ、お互いと過ごす時間を増やすことができる世界があると心から信じています。同時に、これが引き起こす可能性のある、極めてディストピア的で暗い世界のバージョンも存在します。
あなたがエントリーレベルの仕事の50%が消滅すると言っているのを聞いたことがあります。人々がなぜそのように捉えるのか、その理由が分かります。
それはネガティブな経路ですね。私たちがいつも話しているのは、正しく対応できなければそのようなことが起きる可能性があり、正しく対応できればより良い道を歩むことができるということです。先ほど言ったように、まだ恩恵を示しきれていないため、ネガティブなストーリーが非常に強く人々の記憶に残るのです。
しかし、私たちの生活にもたらされるすべてのポジティブな力には、同時にネガティブな側面、つまりすべてのものに陰陽、光と影が存在するのではないでしょうか。自動車が発明されたときも、多くの人が馬を持ち続ける、自動車には乗らないと言っていたように。
私が言いたいのは、もし私たちがテクノロジーをただ最速で突き進めるだけであれば、エントリーレベルの仕事について言ったことは完全に現実になるということです。しかし、テクノロジーを展開するだけでなく、人々が適応するのをどのように助けるか、政府が人々を助けるためにどのような役割を果たすべきかを考えれば、ここからより良い世界への道が開けます。人々の仕事が完全に異なり、以前とは違う一連の仕事をこなす世界です。しかし、それを美化するつもりはありません。簡単なことではないからです。他の人々がこれについて話すとき、自身の仕事について怒りを感じる人がいます。ナラティブを変えることと、問題が非常に困難であり、実際にそれを解決しなければならないと認めることの間には違いがあります。私の懸念は、ナラティブを変えるということが、悪いことは起きない、素晴らしい未来が待っている、誰もが新しい仕事を得られる、というような安易な話になってしまうことです。それは起こり得ますが、自然に起きるわけではありません。私たち、企業、人々、政府にかかっているのです。
あなたが言っていることは、両方とも真実です。仕事は失われ、同時に他のすべての進歩も手に入る。そして、後者は私たちが正しく行わなければ実現しないということですね。
はい。
市民の主体性とこれからの医師像
私たち一般市民は何をすべきなのでしょうか。それとも、ただ列車に乗っているという事実に満足すべきなのでしょうか。
テクノロジーを恐れてそれを使わず、リテラシーを持たないままでいることは、私たちが懸念し、ダリオが概説した多くの課題を消し去ることにはつながりません。知識は力です。これらの人工知能ツールをどのように使うかについてのコンセプトを持つために、テクノロジーの専門家である必要はありません。それが人々に提供するのは、意見であり、このテクノロジーがこの部分を実行できるのは好ましいが、別の部分を実行できるのは好ましくない、と言うことができる自律性です。人々には声があります。企業に対しても、代表する政府に対しても、自分たちの声を届けることができます。Anthropicでは18歳未満の子どものプラットフォーム利用を禁止していますが、他の企業は異なるポリシーを持っています。ジョナサン・ハイトの著書『The Anxious Generation』を読めば、発達途中の脳に対して非常に慎重であるべきだと示唆する多くの研究が存在することが分かります。
その本を読みました。彼とは3回話をしました。
素晴らしい本ですね。私もその本を読み、AIが子どもたちにどのような影響を与えるかについて、私たちがまだ十分に理解していないということが、私たちにとって子どもたちの利用を制限するという決断をある意味で容易にしてくれた理由の一部でした。子どもたちが学習のためにAIを利用することに大きな恩恵がないと言っているわけではありませんが、それは部屋に大人がいる状態、つまり人間が介在する形で行われる必要があります。私たちが常にこの視点を持ってきた理由は、人々には自律性が必要だからです。ダリオの指摘通り、人々は人工知能が自分たちに対して一方的に起きていることだと感じるべきではありません。自分たちには、AIが引き起こす可能性のあるネガティブな外部効果から人々を保護するための法案が議会や州で提出される際に、発言権があると感じるべきです。
同時に、光の側面を維持することを考えると、仕事の形は変わるかもしれませんが、人間と人間との相互作用の機会が実際には増える世界があると信じています。前世代のテクノロジー、特にソーシャルメディアは、私たちを互いから引き離してしまいました。ソーシャルメディアは、バーチャルな生活を送り、スマートフォンを掲げて友人が何をしているかを見るという構造になっています。しかし、実際には何をしていないかというと、友人と時間を過ごしていません。スマートフォンを見つめて時間を過ごしているのです。コンサートにいるときでさえ、スマートフォンを掲げて、コンサート自体に没頭せず、誰かのために撮影をしています。ソーシャルメディアは人々をつなぐと主張していますが、ある種の本質的ではない方法でそれを行っているため、少し直感に反します。AIの場合、あなたはAIと話しており、人と話しているわけではありませんが、人との交流の代わりにはなりません。人との交流を可能にすることができるのです。私の感覚では、仕事自体が完全に消滅したり変わったりするわけではなく、特定の仕事を行う人に求められる資質が変わるのだと思います。
例えば、医師を例に挙げます。今日、医師の元に行くとき、おそらく最も賢く、最も優れた医師の元に行きたいと考え、お腹が痛いから何が悪いのか教えてくれ、専門医は誰か、何が起きているのか教えてくれ、と求めます。AIはそれを実行するのが非常に得意になります。今日、私たちは医師を優れた診断家として評価していますが、必ずしも優れたベッドサイドマナー（患者への接し方）を持つことに対して常に高い評価を与えているわけではありません。AIが医師と同じように診断を下せる世界になっても、人々は依然として医師を求めます。ただ、医師に求める役割が変わるのです。AIは身体的な診察を行うことはできません。今日は本当に元気がないようですね、化学療法の治療はいかがですか、と声をかけることはできません。
手を当てることはできません。
患者に手を当てることはできません。そして、医師と良好な個人的関係があり、医師を信頼し、医師が実際に手を当てて触れ、コミュニケーションをとり、熟考し共感するための十分な時間を持っているとき、患者の臨床結果がはるかにも良くなるという強力な証拠が数多く存在します。それこそが、仕事の変化がもたらす素晴らしい世界です。現状、医師たちは、診察して回る時間がない、人々に手を当てる時間がない、何千人もの患者を抱え、事務作業に追われ、担当する患者数が多すぎる、と言っています。しかし、医師と協働して物事を診断できるツールがあり、医師がそのツールと対話し、すべての医療テストの実行やあれこれの作業に時間を費やす必要がなくなれば、一人の人間として患者と向き合うことに時間を費やすことができるようになります。それははるかにも良い世界になると思います。
もう一度言わせてください。役職自体は消えないかもしれませんが、その役職で求められる役割が変わるということですね。
はい、個人的にそのシフトが起きると信じています。
もちろんです。それこそが私たち人間が行っていることであり、次のレベルへと進化しているのです。
私個人としても、知識は力であると言いたいです。そして懸念しているのは、誰がAIを快適に使いこなし、誰がそうでないかという人口統計学的な格差があることです。女性がAIを利用する割合は、男性に比べてほんのわずかです。AIは、ある意味で競争の場を平等にする機会ですが、人々が関与することを求めています。それは、私たちに多くのお金を払って登録しなければならないという意味ではありません。ただ、テクノロジーに慣れ親しみ、流暢になり、恐れないでほしいということです。それについて知れば知るほど、理解すればするほど、自身の声を効果的に使うための情報が得られるようになります。そして、それはすでにここに存在し、私たちはその渦中にいます。これからも生きていくのであれば、それが社会の一部である世界に身を置くことになります。列車や蒸気機関が消え去らなかったのと同じように、それはなくなりません。
インターネットのようなものですね。かつては、私はオンラインにはならないと言っていた親たちがいましたが、それは不可能です。今や誰もが何らかの形でインターネットを利用しなければなりません。人工知能はまさにその次の具現化なのだと思います。
新モデル「Mythos」と防御の戦略
AIは自身を向上させ続けており、それが設計の目的でもあるわけですが、その点について話したいと思います。「Mythos」と呼ばれる新しいAIモデルがありますね。
Mythos、はい。
それは、最もスマートなものよりもさらにスマートであるとされています。Mythosとは何であり、それが何を行い、何をもたらすのか、シンプルな言葉で教えてください。
これらのモデルの一般的な原則として、私たちがトレーニングを行う際、コードの記述、言語の翻訳、質問への回答、文書の読解など、あらゆる面でモデルをより良く、より洗練されたものにしようと努めています。Mythosはその最新の反復でした。数ヶ月ごとに、よりスマートなモデルを生み出していますが、Mythosを始める数ヶ月前にいくつかの発見があり、そのためMythosのテストを開始したときは特に大きな飛躍が見られました。これらのモデルを作る際、多くのテストを行います。このモデルはフランス語から英語への翻訳がどれほど得意か、株式ポートフォリオの推奨がどれほど得意か、あるいはソフトウェアコードのバグを見つけるのがどれほど得意か、といった具合です。
そして、その最後の項目において、Mythosに関する興味深い発見がありました。Mythosは、コードがどのように悪用され、侵入される可能性があるかを見つけ出すことにおいて、人間のソフトウェアエンジニアよりもはるかにも優れていたのです。病院や学校に対するランサムウェア攻撃について耳にしたことはありますか。こうしたサイバー攻撃は常に発生しています。私たちがそのように設計したわけでも、危険なものにしようとしたわけでもないのですが、Mythosはサイバー攻撃の実行と、サイバー攻撃からの防御の両方において非常に優れていることが判明しました。
私たちは、これはある種の兵器のようなものだと感じました。これをすぐにすべての人に公開すべきではないと考えたのです。そこで私たちが思いついたのは、インターネットのインフラにおいて特に中核を担っているいくつかの企業、例えば大手の銀行や、Apple、Microsoft、Googleのような大手のソフトウェアプロバイダーにこれを渡し、広く利用可能になって物事が破壊される前に、すべてを修正してもらうという方法でした。攻撃者が手に入れる前に、防御者にそれを渡すというアプローチです。
私たちはそのプログラムを立ち上げ、現在約40の企業にモデルを提供しています。彼らは精力的にバグを発見しており、数日前にも公開したように、ある有名な企業は、Mythosを使って1週間で発見し修正したバグの数が、過去1年間で修正した数よりも多かったと報告しています。これは本当に状況を変えつつあります。私たちの希望は、防御者があらゆる問題を修正し、すべてがより円滑になり、侵入が困難になることです。ランサムウェアの時代、スマートフォンへのスパイの侵入、そして人々が懸念し、実際に懸念すべきであるバイオテロの脅威などが、この取り組みによって解決されることを願っています。
私たちの希望は、今年の終わりまでに、これらの多くの問題が修正され、以前よりも安全な世界に暮らせるようになることです。しかしそれまでの間、こうした驚異的な能力が存在する危険な期間があり、それをただ世界に解き放つわけにはいきません。そのため、攻撃者に渡る前に防御者に提供することで、それを管理しようとしています。
お話しいただきありがとうございます。こうしたことが、夜眠れなくなる原因になりますか。よく眠れていますか。
よく眠れているとは、合法的に言うことができません。違う答えができればよかったのですが、正直に答えるならば、いつもそれほどよく眠れているわけではありません。私たちが交わしていた会話の前半部分に戻りますが、これらのことを懸念し、すべてを正しく進めたいと願うこと、それこそが私を最も不安にさせる要因です。私たちの意図がどうであれ、これらの事象は極めて複雑です。私たちは過ちを犯してしまうのではないか、という不安です。
そして、答えは「イエス」です。ある時点で、私たちは何かしらの過ちを犯すでしょう。しかし、大きな大局的な部分で正解を導き出せるかどうかが重要なのです。
また、あなた方は根本的に原則を重んじる人々だからですね。根本的に原則を重んじる人々であるということは、本当に大きな違いを生むと思います。誰もがそうであるわけではなく、あらゆる分野に多くのエゴが存在しますが、特に何十億、何百億ドルもの資金が動き、中国との競争などが絡んでくると、本当に重要なこと、一般市民にとって本当に大切なことを見失いがちになります。ご自身のエゴをコントロールするために、どのようなことを行ってきましたか。
私たちにとっては、常に使命（ミッション）に立ち返るということです。なぜそもそもこれを始めたのか。なぜOpenAIを去ってAnthropicを設立したのかといえば、AIがすべての人にとって良い方向に進むことを確実にしたかったからです。だからこそ私たちは公益法人であり、80%の寄付誓約を行い、これらすべての困難な決断を下してきました。
今日、社内のSlackメッセージアプリでのやり取りがありました。私は会社とよく話をしますが、その中で伝えたことの一つは、私たちが現在3,500人の規模になったということです。半年前は1,200人ほどでした。私がこうした発言を奨励しているため、あるメンバーが私の個人のSlackチャンネルに投稿をしました。私は会社の前で全社集会（オールハンズ）を行い、何かを発言したのですが、その表現が必ずしも適切ではなかったようです。そのメンバーは私のチャンネルに（通常は私しか書き込まないチャンネルですが）「あれはかなり不適切な発言であり、みんなを嫌な気持ちにさせました。あのような言い方をすべきではありませんでした」と書き込んだのです。
当然、それを読んだときの最初の反応は、一瞬動揺し、弁明したくなるような気持ちになります。しかし、一呼吸置いて2分後には、「人々がこのような指摘をしてくれることを本当に嬉しく思う」と感じていました。そして私は、「あなたがそのように率直に意見を伝えてくれて本当に嬉しい」と返信しました。すると他の多くのメンバーから「そんなことができるとは知らなかった。3万人の価値がある企業のCEOに、あのように直接異を唱えることができるなんて思わなかった」というメッセージが届きました。これは非常に強力なことです。
それがなぜ強力な例であるか分かりますか。かなり前の10年代後半だったと思いますが、私はヘンリー・クラビスに初めて会った際、彼は私にこう言いました。お金を蓄積すればするほど、真実を耳にする機会は失われていくということを覚えておきなさい、と。裕福な男性、そして彼はおそらく裕福な女性も含めて意味していたと思いますが、富を持つ者はめったに真実を聞くことができないからです。
はい、その通りです。
使命への確信と未来への展望
個人の生活において何を行うかも重要だと思います。仕事での取り組みもありますが、私は基本的に高校や大学時代からの友人と今でも付き合っています。そして、彼らは私に対して容赦なく率直であり、真実を語り、Anthropicが下した公的な決断に対しても何の躊躇もなく異議を唱えます。この5年間で多くのことが変わりましたが、私個人としては、仕事以外の場所ではそれほど多くのことが変わったとは感じていません。それは自分を地面に繋ぎ止めてくれる重要な特性だと思います。こうした大企業のトップに立つ人々は、時に仕事だけに執着し、バランスの取れた人間ではなくなってしまう傾向があります。私たちがAnthropicを始めたとき、最初に会社を立ち上げた7、8人のメンバーのうち、子どもがいたのは1人だけでしたが、今では11人の子どもがいます。私たちが皆、親になることを選択したという事実、仕事以外にも充実した現実の人生を望んでいるということが、ある種のグラウンデッドな感覚、謙虚さ、低いエゴをもたらし、そして何よりも、使命よりも大きな存在は誰もいないという認識を与えてくれているのだと思います。
姉と兄であるお二人がこれを始め、それが想像していたよりもはるかに大きな存在となり、世界に良い影響を与えたいという願いを持ち続け、本当に困難な状況にあっても自身の原則を貫いてきたということが、非常に明確に伝わってきます。これを正しく成し遂げることができるという希望は、どこから湧いてくるのでしょうか。
確信が持てることは決してない、というのが正直な答えだと思います。私たちは最善を尽くし、懸命に努力していると信じていますが、決断は複雑です。Mythosの話に戻れば、より多くの人に速く提供すべきなのか、それとも少数の人に時間をかけて提供すべきなのか、誰を信頼すべきなのか、といった問題です。ですから、正しい原則を持つことに加えて、すべての詳細を正しく把握することが重要なのです。私たちは毎日そのことを懸念しており、毎日懸念しているという事実そのものが、私たちがそれに対して非常に慎重であるという点で、最も希望を与えてくれる要素なのかもしれません。しかし、何の保証もありませんし、私たちは過ちを犯してきました。これからも過ちを犯し続けるでしょう。それは確実なことです。
シリコンバレーには、同じようにこれを正しく成し遂げることを使命の一部としている人々が他にいますか。他の人々からその使命において支持されていると感じますか。
特定の企業を挙げるのは難しいかもしれませんが、イベントで話をしたり、他の企業から講演を頼まれたりした際、客席の誰かが終了後に近づいてきて、「あなた方の物事の進め方に感謝します」「正しくやろうと努力してくれてありがとう」と言ってくれることに、非常に感動することがあります。そのような感覚が存在するのです。
ダリオと私の関係において素晴らしいと感じるのは、お互いに責任を追及し合える（アカウンタビリティを持つ）点だと思います。これが会社にとって正しい決断なのか、私たちの価値観に合致しているのかを議論する際、私たちにはお互いが存在し、共同創業チーム全員が今でもAnthropicに留まっています。また、使命のために集まった素晴らしいメンバーを採用してきました。社内にはある種の集団的な責任感があり、それに加えて、ダリオが言及した、誰でも私たちに異議を唱えることができる内部の文化が組み合わさっています。それを実行するのは簡単ではありませんが、マネージャーを通じて、あるいは匿名で、それを促す多くのフォーラムが存在します。これらの資質すべてが、もし私たちが道から外れそうになったとしても、少なくともそれを察知することを可能にしているのだと思います。
わかりました。このAIの旅の現在の地点において、私たち一般市民が知っておくべき最も重要なことは何でしょうか。
世界で本当に大きなことが起きようとしています。これは単なる最新のテクノロジーではありません。暗号資産でも、モバイルでも、最新のガジェットやバズワードでもありません。人類にとって本当に大きなことが起きようとしているのです。このテクノロジーは少数の人々によって構築されていますが、私たちはそれをすべての人にとって機能するものにする必要があります。そして、私たちの間で正しい決断を下し、日々の生活の変化、仕事の変化、政府や市民の自由の変化に向き合っていく必要があります。
正しい方法でこれを行えば、それらすべての要素がポジティブな方向に変わる可能性があります。私たちが残したものよりも、すべてが良い状態になるかもしれません。多くの病気が治療され、人々の人生がより喜びに満ち、有意義なものになる完璧な世界を手に入れることができます。しかし、もし誤ってしまえば、全くそうではない状況になることも容易に想像できます。それは私たち全員にかかっています。私たちの一部はより中心的な立場にいますが、その構図も変えていく必要があると考えています。簡単なことではありませんし、一つの要素で決まるわけではありません。様々な要素の積み重ねになるでしょう。
私が人々に伝えたいのは、ダリオが言った光と影のコンセプトと非常に近い内容です。人工知能から得られる潜在的な恩恵は膨大です。私たちはそれについて発信し、公に話そうと努めてきましたし、それが現実であると信じています。同時に、リスクもまた現実のものです。私たちはポジティブな側面を過剰にあおることも、ネガティブな側面を過大に宣伝することもしません。両方が真実であり、複雑ですが、二つの事象を同時に抱えなければなりません。そしてダリオの言葉を繰り返すようですが、これはテクノロジー企業だけで達成できることではありませんし、そうあるべきでもありません。現在人工知能に携わっている人々よりも、はるかにも大きなグループとのパートナーシップが必要になります。
そして、そのための最初のステップは、それを恐れないことです。学び、関与し、質問を投げかけ、批判的になってください。私たちがスタッフに言っているのと同じです。この会話の輪を広げていくことによってのみ、私たちはこれを正しく成し遂げるチャンスを手にすることができるのです。
私はすべてのゲストにこの質問をしているのですが、特にお二人から伺いたいと思います。よく生きられた人生（ウェル・リブド・ライフ）の意味とは何でしょうか。そして、AIはそのような人生にどのように貢献するのでしょうか。あなた自身、あなたの家族、そしてあなたの子どもたちにとって、よく生きられた人生の意味とは何ですか。
私にとって、よく生きられた人生とは、主体性（エージェンシー）と自律性（オートノミー）を持っている人生です。自分が運転席に座り、それを利用して最高の自分自身になるために尽くすことです。自分自身のため、家族のため、子どもたちのため、より広いコミュニティのため、そして世界のために、最高の自分であることです。自己反省をし、過ちから学び、困難を克服し、その向こう側に行って、自分が何者であるかをより深く知り、自分を好きになり、他の人を助けたいと思えるようになる能力です。それこそが、内省的でよく生きられた人生の最良の定義だと考えています。
そして話したように、AIが、よく生きられた人生の証であるこれら多くの要素を損なう可能性のある世界も存在します。一方で、それらを可能にし、はるかにも多くの人々が意味や価値を持ち、自己内省をし、最高の自分自身になり、お互いのために良い存在であれるようにする世界もあります。私たちが構築していきたいのは、そのような世界です。
ダニエラと同じことを違う言葉で表現する形になりますが、非常にシンプルなことだと思います。常に尊厳と原則の感覚を持って行動するということです。振り返ったときに、自分の行いを恥じたり、別のことをしておけばよかったと後悔したりしないようにすることです。当然、間違いは犯しますが、物事を正しく行うために、あらゆる努力を傾けていたと言えることです。
私たちには個人に対する義務、共同創業者や人生における他のすべての人々に対する義務がありますが、同時に、私たちのテクノロジーのユーザーや、国や世界の市民としてのすべての人々に対する義務もあります。私たちはそれらすべての人々に対する義務に真摯に向き合わなければなりません。そして、最終的にそれが何らかの目的、私たちが世界で達成しようとしていた一貫したビジョン、実現しようとしていた景色に向かっていたことを確認することです。それが実現しないかもしれませんし、失敗するかもしれませんし、ひどい間違いを犯すかもしれませんが、ビジョンを明確に持ち、誠実さ（インテグリティ）を持ってそれを追求しようとすることです。それができれば、当然結果も求めますが、それをコントロールすること自体がすべてであり、最終的には結果よりも重要なことなのだと思います。
私たちを前進させてくれてありがとうございます。お二人はまさに、子どもの頃に思い描いていた通りのことを行っているのですね。非常に不思議なことですが、本当にその通りです。
そうですね、その通りです。
ありがとう。
ダリオ、ダニエラ、ありがとうございました。多くの考えるべきヒントをいただきました。みなさん、お元気で。オプラのポッドキャストはYouTubeでチャンネル登録、Spotify、Apple Podcasts、その他お聴きのプラットフォームでフォローいただけます。また来週お会いしましょう。みなさん、ありがとうございました。
コメント