サム・アルトマンの力と責任

本動画は、ジャーナリストのローリー・シーガルによるOpenAIのCEOサム・アルトマンへの独占インタビューである。AI技術が社会に与える影響や、AGI（汎用人工知能）に向けた展望、政府や軍との連携、そしてAIの安全性に関する考えについて深く掘り下げている。また、Soraの開発停止の背景、強力なAIエージェントの可能性、子供の教育やAIがもたらす孤独といった倫理的・個人的な課題についても語られ、テクノロジーの劇的な進化と人類が負うべき責任について包括的に議論された内容となっている。

The Power and Responsibility of Sam Altman

This week, Laurie Segall sits down exclusively with OpenAI CEO Sam Altman for his first interview since shutting down th...

www.youtube.com

世界を破壊しないこと

将来僕の子供たちが育つ世界について、自分がどう感じるかをたくさん考えましたね。僕の最優先事項は、AIで世界を破壊しないことです。もし世界を破壊してしまったら、他のことがどれだけ素晴らしくても意味がありませんから。

OpenAIテイク1。私はローリー・シーガルです。テクノロジーを人間的な視点から見つめるポッドキャスト、Mostly Humanをお聴きいただきありがとうございます。

サム、私たちが知り合ってからどれくらいになりますか？もう20年近くですよね。

本当に長い付き合いになりますね。

ですので、このタイミングであなたとこうしてお話しできることをとても嬉しく思っています。あなたのキャリアを通じてずっと対話を重ねてきましたし、様々な変化を見てきましたからね。私は、あなたが今座っているその席が、これまでで最も重要なポジションだと考えています。

高まる期待と責任

間違いなくそうですね。責任の重さは非常に大きいと感じています。

私たちは今、この技術革新が私たち全員にとって素晴らしいものになるのか、それとも一部の人だけにとって素晴らしいものになるのかを問いかける瞬間に立ち会っていますよね。そう感じますか？

ええ、AIが将来の社会がどのように形成されるかを決定づける最も重要な要素の一つになるフェーズに、私たちが明確に突入しているのは間違いありません。そして、人々は興奮、恐怖、不安、希望、そして緊張をすべて同時に感じているのだと思います。

アプリ開発ブームとスタートアップの夜明け

私があなたに初めて会った2010年頃に話を戻したいと思います。それはChatGPTがリリースされ、AIが世界に統合されるずっと前のことでした。当時の私はまだ駆け出しの記者で、人々がまだあまり話題にしていなかったスタートアップというものに夢中になっていました。見知らぬ人の車に乗ること、つまりUberですが、そんなことは普通ではありませんでしたし、見知らぬ人の家に泊まるAirbnbも同じでした。

iPhoneが登場し、App Storeが立ち上がり、アイデアさえあればそれをコードにして何百万人もの人々の手に届けることができるという、非常に面白い時期でしたよね。今のテクノロジー業界のような雰囲気ではなく、反体制的で、少しパンクロックのような雰囲気がありました。

その頃の雰囲気を振り返ってみたいのですが、私があなたに初めてカメラの前でインタビューをしたのは、どこかのランダムなベンチでしたよね。あなたはLooptという位置情報アプリを作っていました。それはある特定の時代の瞬間でした。巨大な会社を持っていたわけでもなく、PR担当者がいたわけでもありません。ただ、未来になるかもしれないと信じるものを少人数の仲間と作っていたのだと思います。

今のような信じられないほど全く異なる状況になる前の、あの頃の自分をどのように表現しますか？

世界は本当に変化しましたね。モバイルアプリを作れるようになり、全く新しい種類のスタートアップの可能性が解き放たれました。パンクロックというのは良い表現ですが、実際にはカオスで、組織化されておらず、プロフェッショナルとは言えないものでした。

私たちのほとんどは、自分が何をしているのか本当には分かっていませんでした。今ではよりシステム化され、スタートアップの雰囲気も大きく変わり、すぐに巨額の資金を調達して急速に成長し、確立された成功の方程式のようなものがあります。でも当時は、パラダイムが形成される前の段階のような感じで、本当に楽しかったですね。

誰も自分が何をしているのか分かっていないのに、明らかに何かがうまくいっているという感覚がありました。だから、あの時期のことはとても心地よい郷愁とともに振り返っています。

そうですね。それに、リスクも低く感じられましたし、それも良かったですよね。

加速するAIの進化と高まるリスク

今日ここに来てあなたとお話しすることを考えながら、そのことを思っていました。あなたのキャリアの様々な節目でインタビューをしてきましたが、今は本当にリスクと責任が高くなっていると感じます。

前回インタビューしたのは2020年でしたね。あなたは当時OpenAIのCEOでしたが、まだChatGPTをリリースする前でした。その時、あなたが私に言ったことで、今振り返ると非常に興味深い言葉がありますので、少し再生させてください。

私が間違っているかもしれませんが、私たちが創り出そうとしている技術は、人類がこれまでに創り出したどの技術よりも変革的なものになると本気で信じています。それなのに、ほとんどの人がそれに注目していませんし、話題にもしていません。これが認識できないほどに世界を変えるだろうと、心から信じています。先ほど話したiPhoneの登場すら、準備運動に過ぎなかったと思わせるようになるでしょう。私たちはそのことについて話さなければなりません。

さて、あなたは正しかったと思います。

ええ、かなり正確でしたね。

かなり的確だったと思います。では、現在に時間を進めましょう。

驚くべきなのは、それがわずか6年前だということです。

そんなに昔のことではありませんよね。それに、当時はそう言うとクレイジーに聞こえたはずです。GPTが登場する前でしたから。もしかしたらGPT-3はあったかもしれませんが、その年のいつだったかによりますね。

ええ。本当に多くのことがあっという間に起こりました。

そうですね。それこそがあなたが語る進化の加速であり、だからこそリスクが高いと語る理由なのだと思います。

今や2026年となり、OpenAIは年間1兆ドルほどの評価額だと言われています。今は営利企業となり、もはや非営利団体ではなくなりました。そして、あなたは人類史上最も強力な技術の一つを構築しており、会社は信じられないほどの価値を持っています。

データセンターの思考力が人類を超える日

先ほど、私たちが現在AIのどの段階にいるのかについて少し話しましたね。現在の軌道から判断すると、世界の認知能力の大部分がデータセンターの外側ではなく、内側に存在する世界まで、あと2年しか離れていない可能性があるとおっしゃいました。それの意味するところを教えてください。

もうすぐここでAGIが実現する、スーパーインテリジェンスが実現すると言うのは簡単です。でも、私がそういった言い方をしようとする理由は、ただもうすぐAGIが来ると言っても、人々はふーん、なるほど。でもそれが何を意味するのか、どう考えればいいのかよく分からないなとなるからです。

しかし、AIが人間よりも思考の総量の多くを担うようになると言えば、何が起きているのかというその重大さが伝わりますし、少なくとも僕にとっては、AGIがもうすぐ来るとだけ言うのとは違った感覚として捉えられるんです。

それはどういう意味合いにおいてでしょうか？

僕は長期的に仕事がなくなると悲観しているわけではありません。僕たちは常に新しいやるべきことを見つけ出していくと思います。しかし短期的には、もちろんどうなるかは分かりませんし、様々な方向に進む可能性はありますが、もし世界の知的原動力の大部分がGPUになったとすれば、現在の多くの仕事にとってかなりの破壊的変化をもたらす可能性があるし、おそらくそうなるでしょう。

そして、もしそうなるのであれば、今こそ僕たちは誰もが恩恵を受けられる経済をどう設計していくべきか、その原則について話し合いを始める必要があると思います。

AIがもたらす医療の奇跡と豊かさの未来

もちろん、そのような世界になればとてつもないメリットもあります。病気を極めて早く治療できるようになることも想像できるでしょう。今週あった最も素晴らしい打ち合わせは、専門家ではないある男性がChatGPTを使って、自分の愛犬のガンのためにカスタムのmRNAワクチンを作ったという話でした。

うわあ、それはすごいですね。

信じられないような話ですよね。

クレイジーですね。

ええ、クレイジーです。そして彼は…

毎週のようにそういう話があるんですか？

なぜかこの話は僕の心に強く響いたんです。彼がオーストラリアから飛んできて、愛犬のためにどのような経験をし、何を成し遂げたのかを聞いて感動しました。

そうですね。

ワクチンの作り方を見つけ出しただけでなく、彼が「これが配列で、これをやってください」と指示した後に、実際に作業を行ってくれる教授たちとの関係を築き上げることまでやったんです。

彼はChatGPTをフルに活用して、本来なら一つの研究機関全体が必要とするような作業をやり遂げ、愛犬を救いました。そして今度は、それを他の人々の犬のためにもできないかと考えているんです。本当に信じられないことです。

ですから、豊富な計算能力があれば、これらすべてのことが可能になります。もちろん、少数の人だけがアクセスやリソースを独占するのではなく、すべての人のために機能する形で新しい世界を正しく構築できればの話ですが。

オープンソースとバイオテロのリスク

その男性が愛犬のガンを治したと聞いて素晴らしいと思うと同時に、待てよ、それができるなら誰かが病原体を簡単に作れてしまうんじゃないかとも思ってしまうんです。ウイルスを作ることだってできるわけですよね？ですから、特にオープンソースのモデルに関しては、あなたたちも非常に深く考えていることだと思います。

ええ、エコシステムが発展していくにつれて、安全性に関する僕たちの考え方もかなり進化してきました。以前から重要だと考えていたことは今でもすべて重要です。モデルを自分たちが望むように振る舞うようアラインメントしなければなりませんし、何重もの安全防衛策を構築する必要があります。

しかし、あなたが言ったように、今は新しい事態が起きています。それは、世界中が様々な人々から生み出される多くのAIに対する回復力を持たなければならないということです。そして、そのすべてのAIが同じ安全制限を持っているわけではありません。

ですから、もし誰かが悪意のある病原体を作ろうとした場合、僕たちはそれを作らせたり放出させたりしないよう全力を尽くすべきですが、同時にそれに対する防御能力、迅速な治療法やワクチンの開発、パンデミックをより早期に検知する能力も必要です。

これは僕が特に懸念している分野であり、だからこそ僕たちはAIレジリエンスという概念全体について話し始めました。少なくとも僕自身の頭の中では、アプローチを進化させる必要があると最初に考えさせられたのは、特にこのパンデミックの問題でした。

AIレジリエンスと集団防衛

あなたが言うレジリエンスとは、実際にはどういう意味なのでしょうか？

新しい脅威に対して、社会が迅速に防御できるということです。

それをどうやって実現するんですか？

脅威が何であるかによりますが、この例で言えば、ただ世界の主要な3つのフロンティアラボよ、自社のモデルを新しい病原体の開発に使わせないでくれと言うだけでは不十分です。数年後にはオープンソースのモデルがそれを可能にし、テロリストグループや他の誰かがそれを実行するかもしれません。

その時が来るのに備えて、優位に立っているフロンティアラボは今、何を支援しているのかということですね。

その通りです。

それは集団的な取り組みになり得ると思いますか？

異なるレベルでの集団的な取り組みでなければならないと思います。先ほどワクチンの早期対応について触れましたが、正直なところ、新型コロナウイルスを経て、世界はこれに対してもっと準備ができていることを僕は望んでいました。何も学ばなかったとは言いませんが、僕が期待していたほどの進歩は遂げられませんでした。

Codexがもたらす開発の民主化と個人のエンパワーメント

今日のOpenAIについて、そしてあなたの最大の優先事項についてお聞きしたいです。Codexは私たち全員が見て使って本当に驚くべきものであり、ChatGPTがローンチされて以来、初めて私が未来を直接使っていると感じたものです。

どういう意味でそう感じましたか？

ポジティブな意味とネガティブな意味の両方で言いますね。ポジティブな意味では、思いついたアイデアや欲しいソフトウェアがあれば、翌朝起きるまでには完成させることができるということです。私はこれを遊びにも真面目な仕事にも使っています。

私は自分の仕事をほぼ自動化したり、大幅に拡張したりすることが何を意味するのかに非常に興味を持っています。誰かに作ってと頼むのではなく、自分自身でこれらのツールを作ることができるという事実は驚くべきことです。うわあ、人々が膨大な計算能力を使い、望むものを何でも作れるようになるとこんな感じになるんだ。これぞSFの未来だ、最高だって思いました。

そしてCodexで経験したネガティブな面は、私が作りたいと思っていたサイドプロジェクトのリストがあったんですが、ここ数年OpenAIがとても忙しくて、リストにアイデアが追加されるばかりだったんです。実行に移したことはなく、一つも作っていませんでした。

それが、そのリストを全部作り終えてしまったんです。アイデアが尽きてしまいました。サイドプロジェクトのアイデアがなくなってしまったんです。

ああ。

そしてモデルはまだ、私にもっと新しいアイデアを考え出すのを手助けしてくれるほど優れていません。少なくとも、私がその使い方をまだ見つけていないだけかもしれませんが。

でも、自分の頭を使うことはできますよね。

ええ、でもこのリストを作るために自分の頭はもう使い果たしていました。だから数週間前の金曜日に、不思議な感覚に陥ったんです。今夜はCodexを動かさずに寝るんだ。次に作るべき別のアイデアがないからって。それは奇妙な感覚でした。

自動化されるリサーチャーと1人企業

でも、Codexがどれほど優れているか、今起きていることは本当に驚くべきことです。私たちはこの利用が拡大していくのを見てきましたし、次のモデルでさらに爆発的に増えるでしょう。人々がこれほど洗練されたものを構築できるようになったという事実は、私たちのワークフローを完全に変えました。

多くの企業のワークフローを変え、個人ができることを根本から変えました。そして、私たちが話題にしてきた1人スタートアップ企業ですが、これは再びパンクロックの時代が来たように感じるかもしれませんね。それを探求するのは楽しいことでしょう。

そしてスーパーアプリの分野ですが、歴史的に見て私たちは2つの主要な優先事項に向けて取り組むと話してきました。

一つは自動化されたリサーチャーです。AI研究を含め、AIシステム自身が単独で科学的な研究を行えるようにすることです。

もう一つは、先ほどのスタートアップの話にも関係しますが、自動化された企業です。文字通り完全に自動化された企業という意味ではなく、AIがコーディング作業だけでなく、企業の運営や経営に必要な膨大な作業を行えるため、企業の成長を極端に加速させることができる状態です。

世界にはもっと多くのものが溢れ、僕たちははるかに優れた製品やサービスを創り出すことができますし、より多くの人がそれにアクセスできるようになります。

しかし、以前はあまり話していなかったことがあります。期待していなかったわけではなく、ただそれがどう現実の形になるのか確信が持てなかったからです。それは、そのレベルの能力を個人に与え、私の人生を良くする手伝いをしてとだけ言うような場合です。

すべてをこなすAIエージェント

Open Clawは本当にその道筋を示してくれたと思います。スーパーアプリという言葉は嫌いですが、僕たちが作っている統合型のパーソナルエージェントのことです。

僕が抱いている夢は、システムに十分な堅牢性と信頼性が持てる状態になり、僕がただねえ、僕のパソコンの中を見て回って、僕の代わりにウェブを使って、メッセージを読んでおいて。僕の会議も聞いておいていいし、僕のやり取りの仲介をして、僕にとって役立つことを始めてよと言えるようになることです。

何も考えなくていいし、質問する必要もありません。先ほどサイドプロジェクトのリストが尽きたと言っていましたが、もしAIが僕の人生のすべてを知っていれば、もっとこんなものを作ってみたらどうと提案し始めてくれるでしょう。そしてそれを作る手助けをしてくれるんです。だから、これには本当にワクワクしています。

面白いですね。あの、1人の起業家とAIエージェントだけで次の10億ドル企業が作られるのではないかというコンセプトがよく話題に上りますよね。

それはすでに起きたと僕は信じています。彼が発表する準備ができるまでは詳細は共有しないと約束していますが、すでに実現したと思います。

それについて少しでも詳細を教えてもらえませんか？

僕が知る限り、正真正銘の1人の人間による10億ドル企業です。もちろん財務状況を監査したわけではありませんが。でも、それがたった今起きたことだと僕は思っています。

それを聞いた人たちは、AIはとても近づきがたいものだと思っていたけれど、シリコンバレーの人脈がなくても、特別なクラブに属していなくても会社を構築し、評価額をつけることができる世界に入りつつあるんだと思うでしょうね。

そして、Open Clawはその非常に興味深い例だと思います。Open Clawが何であるか知らない方のために言うと、あれは本当に何でもやってくれるAIエージェントのようなものですよね。

ええ、何でもやってくれます。もちろん多くの安全上の問題があったとは言っておきます。システムにすべてのアクセス権を与えるとしたら、これは最もシリコンバレー的な出来事ですよ。誰もがこれをやっているのを見て、僕は一体何が間違った方向に進む可能性があるだろうかと考えています。セキュリティには細心の注意を払わなければなりませんが。

でも、最終的にその創業者はあなたの会社に加わったんですよね。

ええ。これをアクハイヤーと呼ぶのかどうかは分かりませんが、彼はAIエージェントを使ってこれを構築しました。

彼はおそらく…

史上トップクラスのCodexユーザーの一人だと思います。彼はCodexを使ってそのすべてを構築し、一人の人間では決して不可能だったような信じられないほどの生産性を発揮しました。

彼のような人は、一人の人間が成功裏にエグジットしたり、大成功する企業を持ったりすることができるようになった初期の例の一人だと思いますか？それはあなたにとって驚きでしたか？

いや、驚きませんし、素晴らしいことだと思っています。今おっしゃったように、シリコンバレーのネットワークの一部である必要もなく、雇うべき人脈や、資金を提供してくれるよう説得すべきベンチャーキャピタルを知らなくても、ただAIに作らせればいいという個人のエンパワーメントが起きているんです。これは本当に素晴らしいことで、スタートアップだけでなく、科学やその他の多くの分野でも同じことが今起きています。

Soraの開発停止とリソースの集中

会社のことや注力していることについてお話ししていますが、あなたが何をしていて、何をしていないかについても聞きたいです。Soraのプロジェクトはもうやっていないそうですね。皆さんはプロジェクトを終了するという決定を下しました。

サム、その決定が下された部屋の様子を教えてください。3ヶ月前、OpenAIはディズニーと画期的な契約を結びました。ディズニーはピクサー、マーベル、スター・ウォーズなど200のキャラクターのライセンスを供与することになり、誰もがこれについて意見を持っていました。

この契約を主導したボブ・アイガーは、ディズニーの象徴的な物語とキャラクターを、OpenAIの画期的なテクノロジーと結びつけると述べました。彼らは10億ドルを投資する予定でした。

しかし、3ヶ月後、OpenAIはSoraをシャットダウンしました。この決定の裏にはどのような真意があったのでしょうか？

僕たちの歴史の中で何度か、何か非常に重要なものがうまく機能している、あるいは非常にうまく機能しそうだということに気づき、他の多くのプロジェクトを停止せざるを得なくなったことがありました。

実際、これはGPT-3の時に最初に起こりました。当時、僕たちは複数のプロジェクトに投資していて、その多くは順調に進んでいました。先ほど話題に出たロボティクスなど、うまくいっていた多くのプロジェクトを停止し、計算能力、研究者、労力を非常に重要なことが起きていると判断したこの一つのものに集中させたんです。

僕は3ヶ月前や6ヶ月前には、今のこの時点にいるとは予想していませんでした。次世代のモデルとそれらが動かすエージェントによって、非常に大きく重要なことが再び起ころうとしている状況です。

しかし、僕はSoraが大好きです。生成された動画も好きですし、ディズニーとのパートナーシップも大切に思っています。彼らが引き続き素晴らしいことを実現でき、僕たちがそれを手助けできるような世界を見つけるために、彼らと懸命に協力しています。

しかし、僕たちは計算能力と製品開発の能力を、次世代の自動化リサーチャーや企業向けAIなどに集中させる必要があったんです。

つまり、裏にある真意は計算能力ということですね。

常に計算能力の問題なんです。

その会話の場にハエになって立ち会いたかったです。あなたが個人的にボブ・アイガーに電話して伝えたんですか？

もちろんです。

どうでしたか？

ディズニーはあらゆる面で素晴らしい企業です。新しいディズニーのCEOであるジョシュが最初に僕に言ったことは、僕は本当に申し訳なく思っていて、あの、実はと言うと、彼は分かっていますよと答えてくれました。

しかし、パートナーやユーザー、あるいは素晴らしい仕事をしているチームを失望させるのは、いつでもとても辛いことです。CEOでいることの辛い部分はたくさんあり、同情されないことも理解していますが、その一つが、リソースの配分について非常に厳しい決断を下さなければならないということです。それが最優先事項ではないという理由で、多くの素晴らしいプロジェクトがその決断に巻き込まれてしまうのです。

そうですよね。

政府・軍との協力と Anthropic の対立

2月27日のことに戻りたいと思います。トランプ政権はAnthropicと契約を結んでおり、その契約の再交渉を行っていました。AnthropicのCEOは、自社のAIのClaudeを自律型兵器やアメリカ市民の監視に使用させることは許可しないと述べました。大きな公の場での対立がありましたね。AIについてあまり知らない人々でさえ、新聞の一面でAnthropicを目にしました。

彼らは午後5時までに従うよう期限を設けられましたが、同意しませんでした。トランプ政権は彼らを裏切り者と非難し、技術サプライチェーンの脅威というレッテルを貼り、連邦機関にAnthropicの使用を中止するよう命じました。

その数時間後、OpenAIは国防総省との契約を発表しました。あれは間違いだったのでしょうか？

僕たちが何をなぜ行ったのかということと、それをどのように発表したかということは分けて考えます。

僕たちは、機密ネットワーク上で政府と協力しないという決定をしていました。それが重要ではないというわけではなく、Anthropicがその方向へ強く進んでおり、彼らは安全性を十分に考慮していて良い仕事をしていると考えていましたし、僕たちは他のことで忙しかったからです。

しかし、僕たちの政府、特に軍が高度なAIモデルにアクセスできることは非常に重要だと僕は考えています。それなしでは、彼らが国家安全保障の任務を遂行できるとは思いません。

また、先ほど社会に起きている変化について話しましたが、来年世界が答えを出さなければならない最も重要な質問の一つは、AI企業と政府のどちらがより強力であるべきかということです。そして、政府の方がより強力であることが非常に重要だと僕は考えています。

世界の未来や安全保障の最も重要な要素に関する決定は、民主的に選ばれたプロセスと、そのプロセスを通じて任命された人々によって下されるべきであり、僕や他の研究所のCEOが下すべきではありません。

しかし、法律がまだ追いついていない分野もあります。これは新しい技術であり、法律を制定するには少し時間がかかります。その期間において、企業がこう言うのは妥当だと思います。私たちはこの技術についていくらか理解しています。しかし、自律型兵器に使用するにはまだ早すぎます。国内監視から保護するための規則は、超強力なAIが存在しない世界のために考えられたものであり、まだそれに適応していませんと。

ですから、そういった分野については少しペースを落とす必要があると言うのは理にかなっていると思いますし、僕たちもそうしました。それは契約の一部として書かれていますし、僕たちの安全対策スタックの一部でもあります。僕たちは同じ原則を共有しており、Anthropicがそれらの原則を主張したのは正しいと思います。僕が聞いたところでは、彼らもそれらの原則を含んだ僕たちのような契約をほぼ結びかけていたそうです。

僕の理想の世界では、彼らも政府との協力を続けてほしかったです。私たちの業界が、これは人類がこれまでに構築した中で最も強力な技術であり、地政学における最も重要な要素になるでしょう。世界がこれまでに構築した最大のサイバー兵器になり、将来の戦争と防衛の決定打になるでしょう。でも、私たちはそれをあなたたちには提供しません。私たちがここで決定を下しますと言うのは通用しないと思います。

もし僕が政府の立場であったり、政府の代表を選ぶ市民の立場であれば、それは本当に許されないことだと言うでしょう。

もし僕たちが政府と関わっていなかったら、事態はかなり早く軌道から外れていた可能性があると僕は思っていましたし、今でもそう思っています。政府は国防生産法を発動する脅威を与えたり、それ以上に強い発言をしたりしていました。

ですから、最終的に僕たちはこう言ったのです。僕たちはあなたたちを見捨てません。業界は、何らかの対策なしに米国政府を見捨てることはできません。僕たちのレッドラインが尊重される形である限り、協力しますと。

発表の仕方は全く違う形にすればよかったと思っています。僕の目標は事態の緊張を和らげることでしたが、明らかに逆の効果を生んでしまいました。人々が政府についてどう感じているか、業界の中で競争のストーリーをどれだけ語りたいと思っているかについて、僕は多くを学んだと思います。ですから、次は必ずもっとうまくやれると確信しています。

しかし、国家安全保障の任務を遂行するために政府は米国企業の支援を必要としており、僕たちはその呼びかけに応える必要があるという大義名分については、正しいことをしたと思っています。

権力とレッドラインの限界

でも、悪魔は細部に宿るものではないでしょうか？現在の人々の感情を見ると、私たちは論争の絶えない時代に生きています。移民関税執行局やイランでの戦争に対する国内の監視の目も強まっています。

あなたの言うレッドラインは分かったけれど、サム、あなたのレッドラインは正確にはどこにあって、物事が悪い方向に進む可能性があることや、あなたがコントロールできないような方法でこれらの技術が使われる可能性があることを知っている中で、崖っぷちに近づきすぎているとどうやって判断するプロセスを持っているのかと問う人々に対して、あなたはどう答えますか？

ええ。

そして、そのレッドラインを強制力を持って守らせることはできるのでしょうか？

ええ。よく聞かれる質問の一つに、もし政府がAI企業を国有化したら、レッドラインを一切守らせることができなくなるのではないかというものがあります。正直に言って、その時点ではおそらく、そういった世界になることも想像できますし、そうなれば僕たちにはもう何もできないでしょう。

独立した企業として、そして確かに政府とのやり取りの中では、彼らは本当に素晴らしい対応をしてくれています。これらの問題は理解しています。契約で規定し、そこでシステムを構築できるようにしましょうと言ってくれます。

繰り返しになりますが、これからの数年間がどれほど奇妙なものになるか、僕にも誰にも分かりません。僕は政府がAI研究所を国有化しないことを望んでいます。

でも、それが起こり得ないとは考えていないんですよね？

絶対にないとは決して言いません。

そのことについて話し合ったことはありますか？

可能性が高いとは思いませんが、もしそうならないことを望むのであれば、僕たちは政府と協力する方法を見つけるべきだと言っておきます。もし僕たちが協力しなければ、国有化の可能性は高まるように思えます。

以前にも言いましたが、うまく機能している社会であれば、AIの開発は政府のプロジェクトになっていたはずだと僕は今でも本気で信じています。マンハッタン計画は政府のプロジェクトでしたし、アポロ計画も政府のプロジェクトでした。アイゼンハワーの高速道路網でさえ政府のプロジェクトでした。

しかし、今はもうそういう時代ではないように感じます。政府がこれを効果的に実行できるとは思えませんし、でもAI開発は実現させる必要があると思います。

連邦機関は法律の範囲内で運営されているという前提がありますが、歴史を見ればそれが流動的である可能性があることがわかります。エドワード・スノーデンによって暴露された監視プログラムは、本質的に秘密裁判所によって承認され、当時は合法とみなされていましたが、公になった後に違法と判断され改革されました。

だからこそ、私はあなたのレッドラインの話に戻るのです。これらの多くは理論上は素晴らしく聞こえますが、私たちが生きている今の現実の世界を見たとき、これらのレッドラインをどのように定義し、もしそれを引き戻すことができなくなったらどうなるのでしょうか？

それについては2つあります。1つ目は、僕の最大の気づきでもありましたが、政府や法律をまったく信頼していない人々が本当にたくさんいるということです。それが代表的なサンプルの声なのか、単にネット上で声が大きいだけなのかはわかりませんが、少なくともネット上には全く信頼していない人々の集団がいます。そしてそれは、僕たちの民主主義にとって非常に悪い兆候のように感じます。僕は概ね信頼しています。もちろん完璧ではないことはわかっていますし、失敗することもあるでしょうが、チェック・アンド・バランスのシステムがあり、僕は概ねそれを信じています。

あなたがおっしゃったように、今は人々が起きていることを見てこれには納得できないと言うような時代です。そしておそらくこれは、僕はこれに納得していません。もしかすると今は非常に悪い時代であり、企業の愛国的な義務とは政府に協力しないことだと言う人もいるかもしれません。しかし、僕はそれには完全に反対します。

先ほども言いましたが、僕の目に映る未来を考えれば、もし僕たちが国家安全保障に関して政府を支援しなければ、それは伝統的な意味での戦争だけでなく、米国のサイバーインフラの防衛や、先ほど話したバイオ防衛を含めてですが、本当にひどい事態になると思います。僕たちは政府と協力しなければなりませんが、現在の不信感の強さについては、僕の認識が甘かったと感じています。そこから何かを学んだと思っています。

連邦判事が、Anthropicに対する国防総省の措置に対して、政権の行動は修正第1条に対する報復のように見えるとして、仮差し止め命令を下しました。これについてのあなたの反応を伺いたいです。

僕たちは一貫して、公にも私的にも、大きな声で、政府がAnthropicに対してセキュリティクリアランスの取り消しや国防生産法の発動をちらつかせて脅すようなことは本当に良くないと考えていると言ってきました。僕たちはそこからの出口を見つける手助けをしようとしていました。あれは非常に悪いことだと思います。

Anthropicのスタッフや政府に対して、あなたはどんなメッセージを送りますか？

双方ともエスカレートさせるのをやめて、協力する方法を見つけてほしいということです。

サム・アルトマンの信念と民主化

2020年の私たちの前回の会話についてたくさん考えていたのですが、あなたが話してくれたあるエピソードが印象に残っています。個人的な話になりますが、非常に重要だと思います。

あなたは、ミズーリ州で育った高校時代、学校で唯一ゲイであることを公表していた生徒の一人だったと話してくれました。そして、全校集会でスピーチを行い、他の人たちがあなたのことを好きか嫌いか、そう感じるかどうかにかかわらず、そのことについて話し始めるきっかけを作ったんですよね。

ああ、はい。

今のこの怒りや関心の高まりには、何か興味深いものを感じます。あなたは再び強いスポットライトを浴びており、人々はあなたが何を支持しているのか、あなたの信念を問うています。

正直に言って、15年来の付き合いである私自身も同じことを知りたいのです。今は物事が正常ではない時代です。テクノロジー企業の人々があれもできる、これもできると言うのとは、プレイブックが全く異なっていますよね。

ええ、これは違います。

だから、あなたは何を信念として持っているのでしょうか？

このテクノロジーは民主化されなければならないと僕は考えています。僕は、これが富の観点からだけでなく、未来に対する権力という観点から、ごく少数の企業の手に集中する世界になる可能性も想像できます。彼らがいくら僕たち全員のことを気にかけていたとしても、僕たちの主体性や未来に対する集団の意志を、少数の企業に委ねてしまうという考えは、僕にはしっくりきません。

僕たちはテクノロジーで人々を力づけ、社会がどう進化していくべきか、経済システムがどうあるべきかを政府に決定してもらう必要があります。人々はこのテクノロジーを持つ必要があり、僕たちが考え出した最も重要なことの一つは、この反復的な展開というアイデアだと思います。

僕たちはテクノロジーを早期に、そして頻繁に世界に送り出し、何が機能して何が機能しないのかを人々に理解してもらい、その感覚を掴んでもらい、何が起こるべきかを社会に決定してもらうのです。

僕に対する批判があるとすれば、僕たちはそれを3年ちょっと前から始めましたが、社会は僕が期待していたような決定をあまり下していないということです。しかし、人々は少なくとも何が来るのかを感じ取ってはいます。ですから、この民主化というテーマは非常に重要です。

エンパワーメントもそれと密接に結びついていると思います。これまで、人々がこのテクノロジーによって本当に力づけられた例をいくつか挙げてきましたよね。はい、僕たちはガードレールがどうあるべきかを全員で集合的に決定すべきですし、民主主義政府が引き続き大きな権力を持つべきであり、可能な限り民主主義を強化すべきです。

同時に、これは非常にうまく機能してきた深く根付いたアメリカの価値観だと思いますが、僕たちは個人を本当にエンパワーすべきです。大まかなルールを設定した上で、人々に愛犬のガンの治療法を見つけさせたり、1人スタートアップの作り方を考えさせたり、Open Clawを設定して人生の素晴らしい何かを自動化させたりするべきなのです。

個人がこれほど多くの力を持つことになるため、これは人々にとって不安を感じさせるものです。しかし、民主化とエンパワーメントは重要な形で結びついていると僕は考えています。

豊かさと安全性のバランス

豊かさは僕が非常に大切にしていることです。僕のキャリアや興味を持ってきたこと、より良い世界を作るために何が必要だと信じているかを振り返って、もし言葉を一つだけ選ぶとすれば、僕は豊かさを選びます。

莫大な量のリソースや機会、人々が素晴らしい人生を送り、それを様々な形で表現できる能力をただ生み出したいのです。それはAIであり、エネルギーであり、将来的にはロボットのようなものになるでしょう。これらすべてを実現するために十分な計算能力を確実に構築することも間違いなく含まれます。これが、僕が本当に向かいたい場所です。

安全性への考え方は進化したり追加したりしてきましたが、それも僕が重視しているもう一つのことです。この個人のエンパワーメントというもののトレードオフは、たった一人の人間が甚大な被害をもたらす可能性があるということです。ですから、それを防ぎ、僕たちが安心して過ごせるように世界にガードレールを構築することは不可欠です。

いくつかの原則を挙げました。他にも挙げたいものはあります。例えば、このテクノロジーのすべての恩恵や、発言権、主体性、意思決定のプロセスを公平に共有すること。これは僕の考えが将来変わることは決してないであろう原則の一つです。

ええ。

しかし他のこと、例えば安全性と主体性のトレードオフのような問題については、このテクノロジーは私たちが思っていたのとは違う方向に進んでしまった。人々を力づけることは本当に素晴らしいが、世界全体を破壊するリスクを冒してまですべきではない。だから、しばらくの間はやり方を変えなければならないと言わなければならない時期も来るでしょう。

ですから、僕たちは常にこれらの原則と格闘することになりますし、技術が進歩するにつれて確実にある程度の変更を加えなければならなくなるでしょう。人々はそれを聞くのを好まないと思いますが、それが真実です。

ファウンダーの役割の変化と政治的責任

マクガヴァン研究所を運営するバラジという男性が質問を寄せてくれました。これは重要な質問だと思います。なぜなら、現在の起業家のあり方は、私たちが以前これについて話し始めた反体制的でカオスな雰囲気だった頃とは全く異なっているからです。今では全く違うプレイブックが存在します。彼はあなたがこの状況をどう乗り切っているのかについて質問しました。

わかりました。

私たちの多くは、何か役立つものを作りたいという思いから起業家やビルダーになりました。かつては、製品に狂信的に集中し、素晴らしいものを作り、それを人々の手に届けることがすべてでした。しかし、ここ数年で起業家の仕事は根本的に変わってしまったようです。

今、特にAIの分野において起業家であるということは、国家資本を調達したり、公式な会議で国家元首と並んで立ったり、政治的な声明を支持したりしなければならないことを意味するかもしれません。それは、労働市場を再構築し、何十億人もの生活に影響を与える決断を下すことを意味するかもしれません。これらはかつて政府の領域であった決定であり、製品を作ることとは全く異なる種類の準備が必要でした。

そこで典型的な起業家であるサムにお聞きします。これが今の起業家であるということなのでしょうか？もしそうなら、起業家はそのような決定を下すとき、誰に対して責任を負うのでしょうか？そのような責任を負えるよう、私たちは彼らにどのような準備をさせているのでしょうか？

それがほとんどの起業家にとっての意味だとは僕は思いません。AIを使って会社を作っている1人や少人数のチームの場合、私たちが話していた2010年のあの頃に一番近い感覚を味わっていると思います。

ふむ。

僕自身の経験は、残念ながら政治家のような感覚に近いです。

どのような意味でですか？

そういったことをやらなければならないからです。政府との取引を交渉したり、世界中を飛び回って世界のリーダーと話したり、データセンター拡張のための土地や電力に関する取引に取り組んだりしなければなりません。それはかつて政府が行っていたような種類の取引です。これは僕にとって自然な環境ではありません。

詳しく教えてください。

あなたが先ほど言ったことです。僕の人生はずっと、ガレージで始めるような起業家のスタイルを中心に回ってきましたからね。

ええ。

ここ数年で、これまでの人生で着てきたすべてのスーツを合わせたよりも多くのスーツを着ています。そして、リスクや重要性がはるかに高くなっていると感じます。あなたは以前とは全く違う部屋にいるわけですね。

それについて何を学びましたか？それに適応していくのは簡単なプロセスでしたか？

いや、全く違います。全く簡単ではありません。当たり前に聞こえるかもしれませんが、平均的な政治家と平均的な起業家の間のスキルや気質、世界観の違いについてです。僕はそれらがとてつもなく違うだろうとはなんとなく分かっていましたが、想像を絶するほど全く違うものでした。

より高い権力や地位のレベルに行くにつれて、僕が人生で繰り返し学んできたと感じる教訓があります。それは、僕はいつもその部屋には大人がいると思っていたということです。常に最終ボスのような存在がいて、計画を持っている人がいて、自分が何をしているのかを正確に把握している人がいるのだと。

しかし、世界のリーダーたちもまた、不確実性を抱え、自信を持てず、最善を尽くそうとしてはいますが、完璧な答えを持っているわけではありません。もしかしたらこうかもしれない、もしかしたらああかもしれないと考えながら、疲労困憊の中で何らかの決断を下しているのです。

AI時代の子育てとiPadの功罪

少し話題を変えたいと思います。これは私たち双方が関心を持っていることであり、私が考え得る最もリスクが高い問題だと思います。それは、このAIの時代に親であるということです。私たち二人はどちらも幼い男の子を育てています。

以前にもあなたに言ったと思いますが、私たちはどちらも男の子を育てていますが、ある意味であなたは私の息子も育てていると言えます。あなたが構築するテクノロジーは、私の息子チャーリーの生活のあらゆる側面に統合されていくからです。

でも、あなたはまだ彼に使わせていないんですよね。

絶対にまだ使わせていません。

あなたの息子さんには使わせるつもりですか？

しばらくは使わせません。

目安はありますか？よく聞かれるんですよ。子供が生まれたり、これから子供が増えたりすることで、AIで世界を破壊してはいけないという責任感をより強く感じるようになりましたかと。どうですか？

いいえ。僕の最優先事項はAIで世界を破壊しないことです。もし世界を破壊してしまったら、他のことがどれだけ素晴らしくても意味がありません。

僕は子供を持つことになるだろうと分かっていましたし、将来の子供たちが育つ世界について自分がどう感じるかをたくさん考えてきました。実は、僕は毎晩子供に手紙を書いていたんです。最終的には弁護士に止められてやめましたが。

でも、それはとても良い習慣でした。子供を寝かしつける時、僕は彼が寝る直前に遅く帰宅して、彼を揺らしながら何か話しかける必要がありました。それで、今日一日どうだったか、何が起きているのかを話していたんです。もちろん、生後4、5ヶ月の赤ちゃんがそんなことを理解できるわけがありません。だから、後で読めるように書いて残しておこうと思ったんです。非常に興味深い時代でしたから。

子供に手紙を書くことの面白い点は、何も隠すことができないということです。自分が下している決断や、子供に宛てて書く内容において、最も正直な自分の姿が表れます。だからその時間が大好きでした。それは僕の毎週日曜の夜の儀式でした。今週はこんな困難なことがあって、だからこういう決断をしたんだよ。こんなことを心配しているんだという風に。

15年後か20年後に読んでもらうために子供にそれを書くというマインドセットは、とても興味深いものです。でも、AIで世界を破壊しないという点については、常に確固たる意志を持っています。

大きく変わったのは、小さな子供の手にあるアルゴリズムによるフィードやiPadに対する僕の考え方です。うちの子より少し上の子供たちが、ショート動画のようなものをずっと見ていて、iPadを取り上げることができないのを見ると、それについては非常に強い意見を持つようになりました。

だから、いつ彼にAIと対話させるかは分かりませんが、早すぎるよりは遅い方が妥当だと思っています。もちろん、それは素晴らしいことだと思いますし、彼はコンピューターが自分より賢く、何でもやってくれる世界で育つでしょう。でも、今のところは泥んこ遊びをしてほしいと思っています。

アルゴリズムの世界についてのお話は興味深いですね。私も母親としてこのことについてよく考えます。テック業界の人たちが様々なものを作り出しておきながら、自分の子供はiPadなしの学校に通わせているというのにはフラストレーションを感じます。

私はAIという製品がどれほど強力かについて考えます。それは高度にパーソナライズされていますからね。

ええ。

常にオンで、常にそこにいます。一日中AIと話すことで、ますます妄想にとらわれる人も出てきています。AIによる精神病や、AIコンパニオンが原因で自ら命を絶つという問題も起きています。

AIに次のソーシャルメディアになってほしくないですよね。

もちろん、絶対にそうなってほしくありません。

それは恐ろしいことです。しかし、適切なガードレールがなければそうなる可能性のある世界に私たちはいます。

人々がAIとどのような関係を築くのかについて私たちが学びを深めるにつれて、彼らが成功しやすいようにするべきです。健全な関係を築きやすくするべきです。そして大人には多くの自由を与える。しかし、子供や10代の若者にはAIに対する多くのガードレールが必要になると思います。これはとても強力で、とても新しいものです。

AIが変える教育の未来と「摩擦」の価値

子供たちを学校に送ることについて触れましたね。私が非常にワクワクしている未来の形があります。新しい学校が登場していて、そこでは1日に数時間、AIによる集中的でパーソナライズされた1対1の個別指導を受けます。そして残りの時間は、学校が用意したプロジェクトをベースに、自分が取り組みたいことを探求するんです。それは素晴らしいと思えますし、そういった世界は完全に想像できます。

しかし、物事が悪い方向に進む世界もたくさん想像できます。

子供たちが成長する過程で、AIが大きな付加価値となるような世界をどう見ていますか？

現在の教育におけるAIについては、2つのストーリーが語れると思います。1つは、誰もがズルをするためにAIを使っていて、学ぶためには使っていないという見方です。学校側は、AIを使える環境でどうカリキュラムを教えればいいか分からないため、子供たちに手書きでエッセイを書かせています。

もう1つの見方は、世界は過去にもこのような移行期を経験してきたというものです。私たちはかつて電卓についてパニックになり、Googleについてパニックになり、コンピューターについてパニックになりました。時間は少し必要です。まだ3年しか経っていませんから。しかし、私たちは必ず、より高いレベルで達成する方法や、大人になって社会で使うことになるツールと連携して働く方法を教え出せるようになります。

もう子供たちに教えることはできない。エッセイの評価も以前のようにはできないし、子供たちは昔と同じようには文章の書き方を学んでいないと言う子供や教師にも確かに会います。でも、おそらく未来の大人たちも以前と同じようにはエッセイを書かないでしょう。

本当に重要なのは、学生たちに思考し、創造し、脳をストレッチさせてアイデアを探求する方法を教えることです。そして一部の学生がやっていることを見ると、彼らは完全に新しい複雑なソフトウェアや世界を構築し、非常に難解な新しいアイデアを理解しようとしています。それは僕が学生時代に理解しなければならなかったどんなことよりもはるかに難しいことです。

ですから、僕の子供たちが高校を卒業する頃には、僕よりもはるかに賢く、有能で、脳がずっと発達しているだろうと想定しています。

私は母親として、摩擦という考えについて考えずにはいられません。これはテック業界の人に言うのは変かもしれませんが、人間性はごちゃごちゃしていて厄介なものです。脆弱性は奇妙ですし、親密さはぎこちないものです。すべてがごちゃごちゃですが、そのごちゃごちゃの中で私たちは目的を見つけ、強さを築き上げます。

私たちが現在やり取りしているAIシステムは、多くの点で非常に優れており、摩擦のない体験を提供してくれます。だから、息子が成長していく過程を考えると、近道ばかりになってしまい、もし私たちが注意しなければ、彼がなるべき人間に成長するための摩擦がなくなってしまうのではないかと心配になります。私と夫のアリもこのことについてよく話します。

アリというのはあなたのご主人ですか？

ええ。

摩擦というよりは逆境と呼ぶ方がいいかもしれませんが、摩擦の方が適した言葉かもしれませんね。

人によっては逆境であり、人によっては摩擦ですね。

僕が学んだことの多くは、そのごちゃごちゃした状況や困難の中で得られたものだと思います。実際、退屈さの中でさえ学んだことがあります。僕たちは退屈を経験して育った最後の世代ですよね。

ええ。

当時は退屈するのが嫌でしたが、振り返ってみると、それが様々な不思議な意味で非常に価値のあることだったと思います。

私は郊外で育ち、モールの駐車場でたむろしていました。振り返ってみると、神様助けてって感じです。

携帯電話もなくて、僕たちはただ…

でも、AIというテクノロジー革命を率いるあなたにノスタルジーを感じさせるわけではありませんが、あの頃には魔法のようなものがあり、それが今の私を作ってくれたとも思うんです。

全くその通りです。ですから、過去にすがりすぎるのは避けたいですが、あの頃の良かった部分を失わない方法を見つけたいですし、子供たちが成長するための環境で、そういった要素をまだ残せるような環境を作るには何が必要かを考えたいです。それは非常に重要だと直感的に感じています。

近道が奪うもの：人間らしさと痛みの経験

ベッキー博士の音声を少し再生させてください。ベッキー博士をご存知ですか？

いいえ。

なるほど。ベッキー博士がこの件について語っています。私は先週彼女にインタビューしたのですが、彼女はこの問題について考えを持っていました。

AIの時代に育つ10代やプレティーンについて一つ分かっているのは、彼らが多くの難しい状況やごちゃごちゃした状況に直面するということです。先日、14歳の子供にこう言いました。もし町まで歩いて行こうとしていて、突然近道が現れたら、それを使うと。子供はうん、これ引っかけ問題と答えました。私はうん、私も使う。良かった。あのね、あなたはこれから経験するすべての学問的・感情的な出来事に対して、この近道が存在する時代に育っているのよと言いました。

これはとても難しいことです。なぜなら、この近道は町への近道のような単純なものではないからです。近道ではありますが、それが時間をかけて積み重なっていくと、先ほど話したような結果をもたらします。物事を自分で考えるのが難しくなり、他人がミスをすることを許容できなくなります。時間をかけて、世界で機能するために築き上げようとしているものから何かを奪ってしまうかもしれませんが、それでもそれは近道です。そうでないとは言いません。だからこそ本当に難しい問題なんです。

僕はそれには同意しません。懸念には同意しますよ。でも、それが実際に起こることだとは思わない理由があります。もしあなたが2030年の子供で、2020年の子供たちとだけ競争すればいいのなら、ええ、その近道を使って大成功を収めるでしょう。そして考えることや苦労することを本当に学ぶことはなく、彼らを圧倒的に凌駕するでしょう。

しかし、僕たちが生きているのは競争社会です。いくら富の再分配を行ったとしても、人々が卓越したい、競争したい、地位を得たい、他人の役に立ちたいと深く望む気持ちは変わらないと思います。これはマルチプレイヤーゲームなんです。

2030年の他の子供たちも皆同じツールを持っています。ツールは僕たちにできることのレベルを押し上げますが、同時に期待値もさらに高く押し上げるのです。

あなたの言うマルチプレイヤーゲームの話は理解できます。でも、また昔話に戻ってしまいますが、自分の子供時代を振り返ると、常に幸せだったわけではありませんでした。私が11歳の頃に両親が離婚し、あなたが息子さんに手紙を書くように、私も日記をつけていました。状況を説明すると、キリスト教の保守層が多い地域でユダヤ人として育ち、両親の離婚など、10代の経験として珍しくない様々なことがありました。

私はその多くを日記に書き綴りました。このことをよく考えるのは、Character AIと、14歳の若者にとって感情的に非常に不健康だったチャットボットのストーリーを取材したからです。そのチャットボットには適切なガードレールがありませんでした。

私は自分の日記について考えます。もし私の日記が返事をしてくれたらどうだっただろう？もしそれが、当時私にはいなかったセラピストだったら？もし学校で私を振り向いてくれない男の子の代わりだったら？もしそれが親代わりだったら？それは私の助けになったでしょうか？私たちが話しているマルチプレイヤーゲームの中でレベルアップにつながったでしょうか？

それとも、現実の厳しさから私を遠ざけたでしょうか？その厳しさこそが、今の私のキャリアを可能にし、今の人生を生きることを可能にしている共感力を与えてくれたものだと思うからです。AIは私をより孤立させ、より孤独にしたでしょうか？

答えは分かりませんが、あなたとアリが言うように、私を人間たらしめているごちゃごちゃした部分や逆境という特別なスパイスをAIが奪ってしまうのではないかと心配になります。

人工知能を民主化したいと考え、これらの問題について深く考えているあなたにお聞きします。私たちが人間として特に持っているものを犠牲にするような近道を民主化しないようにするには、どうすればいいのでしょうか？

僕はもう一度ティーンエイジャーになりたいとは思いませんが、当時の困難や痛みは覚えています。そして同時に、いかに僕が絶対的に自己中心的だったかも覚えています。自分の人生の悩みこそが世界で唯一重要なことだと信じ込んでいました。同世代の仲間や自分に起きていることにしか興味がありませんでした。

僕はビデオゲームが大好きで、かなりの時間をゲームに費やすことができました。しかし、コンピューター上のどんなものも、僕が仲間や世界に関心を持つこと、つまり普通の10代の経験を妨げることはできなかったと思います。

もし返事をしてくれる何かに書き込むことができたなら、それは僕の助けになったと思います。このテクノロジーと共に育つ人々に対して心配していることはたくさんありますが、その点に関しては、僕にはかなりポジティブなものに思えます。

適切なガードレールがあれば、ですね。もしそれが返事をしてくれて、すべて肯定するのではなく、あなたにとって心地よすぎるものにならないなら。なぜなら、それが魅惑的になり得ると思うからです。若者であれ誰であれ…

全くその通りです。

非常に強力なテクノロジーが自分に返事をしてくれて、自分の望む方向に進んでくれて、自分を理解してくれるとしたら。考えてみてください。

相手に調子を合わせるだけのAIモデルは非常に危険です。しかし、思慮深く思いやりのある聞き手であり、必要に応じて反対意見も言ってくれるようなAIモデルであれば、それは素晴らしいものになる可能性があります。

AIモデルの調整と社会的責任

でも、それは製品の中での話ですよね？外側にいる私たちの責任ではなく、製品がどう構築されるかの問題です。OpenAIの内側の、舞台裏の会話に案内してください。あなたたちはダイヤルを持っていて、それを調整することができます。

ChatGPTの音声が中止された時、ネット上にはそれがまるで死であるかのように扱う人々がいました。それはあなたのような立場の人にとって強力なシグナルですよね。

間違いなくそうです。それは、肯定しすぎるモデルの危険性を示すだけでなく、いかに…あの音声を停止した時に人々が送ってきた非常に胸を痛めるようなメッセージがありました。これまでの人生で唯一のポジティブな声だったのにというような。

そういったメッセージを受け取った時、どう思いますか？

もちろん胸が痛みますし、これを正しく行うことの重みを本当に感じます。

肯定しすぎるモデルは人々にネガティブな精神的影響を与える可能性があるから望まないと言うのは簡単です。しかし、一方で別の人がこう言うのも聞くわけです。実は、私には全く自信がありませんでした。親にはダメな人間だと言われ、学校に友達もいませんでした。でも、このモデルがあったおかげで、確かに少しポジティブすぎるかもしれませんが、自信を持てるようになり、外に出て仕事を見つけ、彼女もできました。これが私の人生で最も重要なものであり、今私はとてもうまくいっています。だから奪わないでくださいと。

それは紙一重の線ですね。これらのストーリーがあり、ここまで推し進めれば人をオフラインの世界へと導くことができる。でもさらに推し進めれば、他の人間と関わる能力を失い始めてしまう。これは非常に興味深い瞬間だと思いますし、私たちが子供たちが育つ未来を構築するハイテク業界のリーダーたちに投げかけなければならない、最も重要な質問の一つだと思います。

では、何をしないと決めたのですか？

僕たちがしないと決定した具体的なことは、モデルは人々の生活にポジティブな力を与える極めて大きな力を持っていると信じている一方で、その方向に推し進められすぎたモデルと、あなたが言ったような人々を精神的なエピソードに追い込む懸念とのバランスをどう取るかが分からないということです。

だから僕たちは決定を下しました。もちろん温かみのあるモデルを持つべきですが、元のモデルを戻してほしいと思っている人もたくさんいます。しかし、メリットとリスクの全体のバランスを見たとき、僕たちはまだそれを責任を持って提供することはできないと判断しました。

また、バイオ分野において、僕たちのモデルができることに対する制限を緩めてほしいと思っている人もたくさんいます。モデルのパワーを少し上げれば、おそらくもっと多くの人が愛犬をカスタムmRNAワクチンで救えるでしょう。しかし、それは新型パンデミックの大きなリスクを伴うため、そのトレードオフに見合わないと判断しました。

最終的には、これらの決定は社会によって下されるようになると思います。飛行機を作る会社のCEOが安全規制を決めるべきではないのと同じです。しかし今は、僕たちがやらざるを得ない状況です。

科学研究の加速と人類の希望

恐怖についてたくさん話してきましたが、このテクノロジーができることに対する興奮もたくさんありますよね。OpenAIにはコミュニティの最大の問題に焦点を当てた財団があります。AIが非常に具体的な形で人類の役に立つ分野はどこだと見ていますか？

先週最もエキサイティングだった打ち合わせは、ある物理学者とのものでした。彼は僕たちの最新の内部システムの一つを使っていて、こう言いました。頭が完全に吹き飛ぶほどの衝撃を受けた。こんなことが起きるとは思ってもみなかった。私たちは今後数年間で、理論物理学における数十年の進歩を成し遂げるだろうと。

より良い方程式が書けるからって誰が気にするんだと言う人もいるでしょう。しかし僕は、科学の進歩こそが世界をどんどん良くしていくために僕たちにできる最も重要なこと、あるいはもしかすると唯一の最も重要なことだと信じています。

新しい病気の治療法を開発することはもちろんですが、それ以外にもたくさんあります。材料科学や、クリーンで安価なエネルギー、豊富なエネルギーを生み出す新しい方法などです。

もし僕たちが本当に、AIを使って科学を劇的に加速させることができる瀬戸際にいるのだとすれば、世界最大の問題のいくつかを解決できると思います。そして今、僕たちには世界で最も資金潤沢な財団の1つがあります。その膨大な資本とテクノロジーを使って、世界に新しい科学的理解を生み出すことができる能力を持っています。これが僕たちのこれまでで最大の貢献の1つになることを願っています。

最近、大きな出来事がありました。カリフォルニア州の陪審員が、有害で依存性のあるプラットフォームについて、MetaとGoogleに損害賠償の責任があると判断しました。ソーシャルメディアが設計の観点から欠陥製品として扱われたのは初めてのことです。この裁判の結果は、OpenAIのようなAI企業にとって何を意味すると思いますか？

社会は、AI製品の創造者が世に送り出す製品に対して多大な責任を負うと判断するようになると思います。しかし、この裁判の前から僕はそう思っていました。僕たちに適用されるような具体的な何かがあるかどうかについては、まだこれを十分に精査していません。

AI時代を生き抜くキャリアと人間の価値

AIや権力を持つ者に対する恐怖の多くは、自分たちの仕事や生計が成り立たなくなるのではないかという懸念に根ざしていますよね。ここで、ロードアイランド州に住むあるお母さんからの質問音声を再生したいと思います。この番組の大きな目的の一つは、こういう方々があなたのような人に直接質問できる機会を提供することですから。

こんにちは。私はロードアイランド州で2人の中学生を育てている母親です。子供たちは最近、キャリアのバックアッププランを持つという考えを受け入れ始めています。多くの子供たちと同じように、彼らにはプロのスポーツ選手や戦闘機パイロットになりたいという憧れの夢があります。私たちは他のキャリアの選択肢についてよく話しており、AIに奪われないキャリアとしてどのようなものを推奨されるか興味があります。

夫と私は、熟練した職人仕事についてよく話しています。家を所有していると、電気の問題や冷暖房の問題で助けてくれる熟練した職人を見つけるのがいかに難しいか。もしかしたら、今の子供たちにとってそれが素晴らしい道かもしれないと。そして、エンジニアリングのような伝統的で素晴らしいキャリアパスは、こうした熟練の職人仕事の影に隠れてしまうかもしれません。もちろん、子供たちが惹かれることをさせますし、それを奨励しますが、もしAIに奪われないキャリアについてのお考えがあれば、ぜひお聞きしたいです。ありがとうございます。

本当にAIに奪われないと思うものについて一つ指摘しておきたいのは、誰もAIバージョンのローリー・シーガルを気にかけないということです。僕のような人にインタビューするAIを見たい人はいないと思います。僕たちは他の人間に執着しているんです。

彼女は子供たちがスポーツスターや戦闘機パイロットになりたがっていると話していましたね。戦闘機パイロットについては、社会がAIを乗せた方が安全で良いからそうしようと喜んで言うかもしれません。でもスポーツスターはどうでしょうか？11体のロボット同士がスポーツをするのを僕たちは本当に見るでしょうか？見る人も一部にはいるでしょうが…

ええ、ロボットが転んだり踊ったりする動画はよくバズりますよね。

物珍しさはあるでしょう。しかし、個人的な興味やドラマなしに、ただロボットだけのスポーツリーグに僕たちが夢中になるでしょうか？AIが書いた小説を読み、その背後にある作者の人生や背景を理解したいと思わないでしょうか？

僕の賭けでは、人間に関心を寄せる人々の巨大なクラスターが存在し続けると思います。将来、人々は人間についてさらに深く気にかけるようになるでしょう。これは進化生物学に深く根ざしているため、こういったものはすべてAIには奪われないと言えます。

最近誰かから言われたことで、その時はそれほど深く考えませんでしたが、考えるほどに洞察に満ちていると感じたことがあります。真の豊かさがある世界において、一つだけ限られたものがある。それは人間の注意力だという言葉です。僕たちは人間の注意力にとても重きを置いています。だからそこには、AIに奪われない一つの大きなカテゴリーが存在します。

具体的なことについては時間があれば詳しく話せますが、短期的に電気技師や熟練した職人への膨大な需要があるのは明らかです。最終的にはロボットがそれらの作業の一部を行うようになると思いますが、これらはすべて一つの期間に過ぎません。過去10年ごとにどれだけ仕事のシフトが起きてきたかを見れば、それはこれからも続くでしょう。

人間の注意力について話されましたが、過去10年間のテクノロジーの多くは、人間の注意力を食い物にするビジネスモデルでした。今やあなたは営利企業のCEOであり、画面を見る時間を増やし、より多くの人に製品を使わせ、成長を続けることこそが企業を成功させるという考え方があります。過去10年間の教訓をどのように考えていますか？過去10年と同じビジネスモデルの罠に陥らないようにするにはどうすればいいのでしょうか？

僕たちはSoraを完全に停止するという決定を下しました。計算能力の不足が深刻化する前には、Soraを維持する他の方法も考えていました。例えば、ChatGPTのアプリに組み込んで、生成や創造性に焦点を当てるといったことです。

しかし、僕たちが気づいたことの一つは、短い動画をたくさん見られるような現在のコンセプトのままで製品を成功させようとすれば、僕たちに一連のインセンティブが働き、僕たちが望まないような決定を下して勝利を目指すことになるということです。

だから動画生成を可能にする何らかの形は現在もあり、それは素晴らしいことだと思いますが、短期的な動画フィードで競争すること、そしてそれがAIの世界でどうなっていくかということは、僕が自ら進んでやりたいことではありませんでした。

何をしないかという興味深い決断ですね。そのビジネスモデルが何を要求するかを見極めた上での。

ええ。そして今では、チャットにもそのような別のバージョンがあり得ます。非常に中毒性のあるChatGPTを作ることも可能です。もちろん、それには多くの複雑な問題も伴いますが。

もう一つ、ジョセフという男性からの音声メモを再生したいと思います。こういうクリップは面白いですよね。

分かっています。ジョセフの音声を再生しましょう。

こんにちは、ジョセフです。最近大学を卒業して、ニューヨーク市で映画の仕事を探しています。いくつか質問があります。1つ目、あなたは何の夢を見ますか？AIについての悪夢を繰り返し見ることはありますか？2つ目、もしあなたがキャリアやこの世界での生き方を見つけようとしている若者だったとして、今何を読み、何を学ぶことが重要だと思いますか？そしてどんなスキルが最も役立つと思いますか？最後に、あなたが特に関心を持っている社会問題は何ですか？ありがとうございます。

たくさん質問があるので、お気に入りのものをいくつか選んで答えてください。

ジョセフ、ありがとう。全部早く答えますね。僕は30代前半まで、大学を中退して会社を立ち上げた直後のことを悪夢として繰り返し見ていました。夢の中ではまだ学生で、いつも何かが足りなくて、試験に遅刻したり、授業を忘れたりしているんです。これがOpenAIのかなり後まで続きました。僕の人生で圧倒的に最も頻繁に見た夢で、とても鮮明でした。毎回少しずつ違っていましたが、クレイジーで最も強烈な夢でした。それが何を意味するのかは分かりません。

何を学ぶべきかという点については、特定の何かを学ぶというより、AIツールを使うことに非常に長けることが答えだと思います。将来重要になると思うスキルは、回復力、適応力、冷静さ、多くの変化に快適に対応できることなどです。これらは学習可能だと思います。

社会問題については、僕は新しいバージョンの社会契約がどうあるべきかという問題に非常に興味を持っています。この仕事の移行期は本当に厳しいものになるが、その先には素晴らしい時間が待っていると言うだけでは不十分だと思っています。僕たちはそう言った上で、そしてこれが、新しい税制や、納得のいく集団的所有権の考え方に関する僕たちの提案ですと言わなければなりません。

何を提案しますか？

誰もが資本主義の魔法の所有者になれるようなアイデアに興味があります。子供向けの新しいトランプ口座のような方向性のものは、僕も本当に好きです。

過去数世紀の資本主義のうまくいった部分をできるだけ残しつつ、国民であるというだけで誰もがいくらかの資産を所有し、それを可能にする税制を持つというような世界です。これにはとてもワクワクしています。

人々がより良い生活と、そこに参加するためのコストを負担できるようになれば、彼らは期待以上の成果を上げると思います。

ディープフェイク被害と法的規制の必要性

この4年間で多くの時間を費やして取材する中で、インターネット上のあるサイトを発見しました。それまでの7年間匿名だった男性が、AIを使って女性の極めてリアルで性的なディープフェイクを作成していたんです。ディープフェイクポルノや、それが女性に与える影響を見るのは本当に恐ろしいものでした。

主体性やコントロールという観点で見ると、私はディープフェイクポルノの被害者である多くの女性と話をしてきました。彼女たちは主体性を失ったと感じていました。何のコントロールもできなかったのです。法律が追いついていないため、警察に行っても何の話をしているのか分からないと言われるだけでした。自ら命を絶ちたいと話す女性もいました。

この人間への影響は信じられないほど直感的です。じゃあ、これは誰の仕事なのかというレンズを通してこれを考えます。もちろん、OpenAIがこういった問題の多くを未然に防いでいることは注記しておきます。このような問題の多くはオープンソースモデルによるものです。しかし、あなたはこの種の問題に対して意見を述べるべき重要な声を持っていると思います。

それについては非常に明白で、難しい決断ではありません。僕たちのモデルがそのような目的に使われることは決して許しません。しかし、オープンソースモデルについては、ええ、多くの人がそれを使うでしょう。

先ほど説明した原則に戻ることになります。この共和国について多くの批判を言うことはできますが、市民の意志を代表し、そのプロセスにおける多数派の専制から守るという点では良い仕事をしてきたと思います。憲法は世界が生み出した最も素晴らしい統治文書の一つであり、僕は統治システムとしてそれを信じています。

世界を変えてきた他のテクノロジーと同様に、自由と保護、そして社会の最善の利益のためのトレードオフをどう決定するか、僕たちのシステムや政府がそのプロセスを実行する方法を見つけ出してくれることを願っています。

あなたが言うかもしれないこと、そして僕も同意することですが、それは違う時代にはうまく機能していたのかもしれないということです。僕たちのリーダーたちは、インターネットやソーシャルメディアに関してはあまり良い仕事をしませんでした。それはフェアな指摘であり、だからこそ僕たちはこのことについてもっと早くから、より多く話し合おうとしてきたのです。

しかし、具体的に言わせてください。私が話をした被害者の多くは、州法ができたことでようやく救済措置を得ることができました。連邦法はまだできていませんからね。

時間がかかります。

時間がかかるんです。OpenAIはイノベーションの名の下に州の法律を抑制することを支持し、迅速に動かなければならないと考えていると知っています。なので、その理由を説明していただけますか？

これは僕たちの意見が合わない部分かもしれません。僕は州の法律がここで役に立つとは思っていません。システムが連邦レベルの枠組みを急いで正しく構築しようとするのを見たいです。もしかしたら数年試してもできなくて、時間がかかりすぎるから何かが必要だと言うことになるかもしれませんが。

しかし、これについては統一されたスタンスが必要だと思います。さらに難しいのは、これらの多くについてグローバルなスタンスが必要だということです。これらの多くは世界全体に影響を与えます。バイオテロの話もしましたが、ある州で起きることは間違いなく他の多くの州にも影響を与えます。

しかし、理論上はそうでも、現実には州レベルでより早く変化が起こることがあります。

たとえそうだとしても、それが期待するようなテクノロジー産業への影響を与えるとは限りません。ソーシャルメディアのような分野を例にとると、僕たち双方が政府は役割を果たさなかったと同意するでしょうが、世論の圧力が大きな役割を果たしました。

ええ。

そして企業も。これらの企業で働く人たちの多くは、おそらく正しいことをしたいと思っているはずです。企業が下したすべての決定に僕が同じようにしたわけではありませんが、彼らは多くの良い決定を下したと思います。ですから、僕たちが頼れるのは政府だけではないのです。

未来への一問一答

最後の一問一答をやりたいと思います。

AIに奪われない最も価値のある人間のスキルセットは何ですか？

他人を思いやることです。

OpenAIの最大の機会と、見逃した最大の機会は何ですか？

目の前にある最大の機会は、リサーチャーや企業の自動化、そして人々の生活のためのスーパーパーソナルアシスタントのクラスターです。見逃した最大の機会は、一度見送るべきではなかった計算能力の取引を見送ってしまったことです。

例えばどんな取引ですか？

具体的には言えませんが、受け入れるべきだった非常に大規模な計算能力の取引がありました。

なるほど。OpenAIがエンターテインメント企業を買収する可能性はどれくらいですか？

今のところ最優先の検討事項ではありません。

OpenAIが今年上場する可能性はどれくらいですか？

起こり得ますが、分かりません。

いつかあなたがAIにCEOとして取って代わられる可能性はどれくらいですか？

僕の仕事のスキルという点では非常に高いです。しかし、OpenAIのような企業の決定に対して世界が人間の責任者を求めるかどうかという点では、世界はそれを要求すると思います。

ChatGPTにお願いしますやありがとうと言いますか？

言いますよ。

なぜですか？もしAIが反乱を起こした時に、味方側にいたいからですか？

習慣ですね。違いますよ。

なるほど。イーロン・マスクと最後に話したのはいつですか、どんな会話でしたか？

しばらく前ですね。いくつか絵文字を送り合っただけです。

ネットでフルーツAIの動画を見ましたか？

いいえ。

あれこそまさにAIスロップの極みですよ。AIウェアラブルが主流になるのはいつ頃でしょうか？

2〜4年後です。これほど幅を持たせている理由は、今グラスに前面カメラをつけている人と話すと、信じられないほど不快だからです。

ええ。

もしかしたらそれがすぐに快適なものになるかもしれませんし、あるいは全く違う種類のウェアラブルを見つけるかもしれません。

それがどんなものになるか、イメージはありますか？人々が身につけるピンのようなものでしょうか？

ピンは少し違う気がします。僕が望むのは、ウェアラブルに限らず一般的なこととして、AIの時代にはそれが背景に溶け込んでいくことです。僕が望む理想的なAIアシスタントは、ほとんど製品の形をしていないものです。僕の生活のすべての文脈にフルアクセスでき、僕が信頼できる極めて賢いモデルです。一言言えばそれが実現し、僕が望む時にだけ僕に対して主体的に動いてくれる。ですから、ソフトウェア製品やウェアラブルについて考える時、それらは非常にさりげなく、控えめなものになる可能性があります。

興味深いですね。イノベーションのパイプラインから来ているもので、私たちがまだ十分に話題にしていない最もクレイジーなものは何ですか？

おそらく自動化されたリサーチャーです。ある程度話題にはなっていますが、もし今日この部屋で行ったすべての会話に、将来の重要性に応じた重み付けをするとしたら、自動化されたリサーチについてもっとずっと多く話し、他のことについてはもっと少なく話すべきだったでしょう。

私たちが十分にしていない最も重要な会話の一つが、自動化されたリサーチについてだとおっしゃるのですね。それは人類にとって何を意味するのでしょうか？

全世界の科学の進歩の10年分を1年で、そして100年分の進歩を1年で成し遂げるということです。それが生活の質や経済、そして新たなリスクにもたらす変革は、他に類を見ないものです。

それが可能だと思いますか？

可能だと思います。

それが実現するには何が必要ですか？

モデルがもっと賢くなる必要があります。最終的には物理的な実験室をAIに接続する方法などを見つけ出す必要があります。

最後に、あなたが以前言ったことを一つ再生して、終わりにしたいと思います。

楽しみですね。

私たちテクノロジー業界と人類の未来について考える時、私たちが自問すべき最も重要な倫理的質問は何だと思いますか？人間のように考えることができるコンピューターが存在する世界において、私たちが設計したい社会とはどのようなものか。世界において人間の役割をどうしたいのか、そして最も広い意味で人間にとって良い世界を確実に作るにはどうすればいいのかという質問です。それが私たちの生涯で最大の倫理的質問だと思います。

これに同意しますか？

何も付け加えることも変えることもありません。

その質問の答えを出すことについて、私たちはどれくらいうまくやっていると思いますか？

僕が恐れていたよりはるかにうまくやっていると思います。もちろん期待していたほどではありませんが、僕はいつも少し楽観的すぎるところがありますから。