今週はサムの誕生週でもあります。月曜日が彼の誕生日でした。私がそれに触れたのは、時期的にも場所的にもこれは吉兆の瞬間だと思うからです。39歳になったばかりで、スタンフォードのETLにいるという状況です。少し振り返ってみる機会を逃すわけにはいきません。半分の年齢、19歳の頃のETLにいたときのことを振り返ってみると、スタンフォードの学部生としての感覚を3つの言葉で表すとすれば、どんな言葉になりますか。
難しい質問ですね。私は…。3つの言葉だけですか?
はい、サム、あなたは簡潔さの王様ですからね。
わかりました。「わくわくした」「楽観的な」「好奇心旺盛な」です。
では、今の3つの言葉は?
同じですね。素晴らしいことです。世界は変わり、過去19年間で多くのことが変化しましたが、それは今後19年間に起こることに比べれば些細なことでしょう。
アドバイスを聞かせてください。もし今日スタンフォードの学部生だったら、つまり明日目覚めて突然19歳のスタンフォードの学部生になっていて、今知っていることをすべて知っているとしたら、何をしますか?
とても幸せだと感じるでしょうね。何世紀ぶりかの、最も幸運な時代に青春を迎えているような気がします。世界がこれほど変化し、その変化に影響を与える機会があるということは、会社を立ち上げるにせよ、AI研究をするにせよ、他のどんなことをするにせよ、かなり素晴らしいことです。これは恐らく、少なくともインターネット以来、おそらく技術の歴史の中で最高の会社を始める時期だと思います。AIでできることは、毎年ますます素晴らしくなっていくでしょう。最も偉大な会社はこのような時期に作られ、最も影響力のある新製品はこのような時期に作られます。ですから、自分がとても幸運だと感じ、それを最大限に活かそうと決意するでしょう。そして、自分がどこに貢献したいのかを見つけ出し、それを実行するでしょう。
貢献する場所について偏りはありますか?学生として留まりたいですか?そして、もしそうなら、現在の変化の速さを考えると、特定の専攻を選びますか?
おそらく学生としては残らないでしょう。でも、それは私がそうしなかったからであって、人は同じ決断をすると仮定するのが合理的だからです。学生として残ることは全く良いことだと思います。ただ、私が選んだことではないでしょうね。
これはあなた自身のことです。金曜日に突然別人になって、19歳として生まれ変わったとしたら。
そうですね、これも驚くべきことではありませんが、人は自分がしようとしていることをするものです。AI研究に取り組むでしょうね。
サム、それをどこでやりますか?
もちろん、OpenAIには偏見がありますが、意味のあるAI研究ができるところならどこでも、とてもワクワクすると思います。
学術界か民間企業かについては中立的ですか?
悲しいことに言いますが、現実的には産業界を選ぶでしょう。非常に多くの計算能力が必要なところでなければならないと思います。
研究側に参加するとしたら、先週ここにいたカイザーは、創業者になるのではなく、既存の会社に参加して学ぶことを強く推奨していました。19歳か20歳で今すぐ会社を始めるべきか、それとも他の起業家的な研究所やベンチャーに参加するべきかで悩んでいる学生たちに、どんなアドバイスをしますか?
彼が会社に参加する事例を示したので、私は別の事例を示しましょう。会社を始めることで多くのことを学べると思います。そして、それがいつかやりたいことであれば、ポール・グラハムが言っていることですが、とても深く真実だと思うのは、医学部のような起業前の準備期間はないということです。起業の仕方は起業をすることでしか学べません。もし、それが確実にやりたいことだと分かっているなら、飛び込んでやってみるのもいいでしょう。
では、AIの会社を始めたいと思っている人がいるとして、あなたが見ている近い将来のAIにおける最大の課題は何だと思いますか?そしてそれを絞るために、OpenAIが今後3年間で解決しないと思われる、最優先で必要とされている穴は何ですか?
はい、これはある意味で非常に合理的な質問だと思いますが、私はそれに答えないつもりです。なぜなら、どんなスタートアップを始めるべきかについて、このような助言を誰からも受けるべきではないと思うからです。私や他の誰かがここに座って言うほど明白なことは、おそらくそれほど素晴らしいスタートアップのアイデアではないでしょう。その衝動はよく分かりますし、私も昔は「どんなスタートアップを始めるべきか」と人々に尋ねていたのを覚えています。しかし、影響力のあるキャリアを築く上で最も重要なことの一つは、自分自身の道を切り開くことだと信じています。もし、あなたが考えていることが他の誰かがどうせやるようなことであるなら、あるいはもっとありそうなのは、多くの人がどうせやるようなことであるなら、それについてはやや懐疑的であるべきです。そして、明白ではないアイデアを思いつく能力を養うことは、本当に良い筋肉だと思います。私は今、本当に重要なアイデアで自分が考えていないものが何なのか分かりませんが、この部屋の誰かがその答えを知っていることを非常に確信しています。自分自身を信頼し、自分自身のアイデアを思いつき、非常に非コンセンサスな事をする能力を学ぶことが重要だと思います。私たちがOpenAIを始めたとき、それは極めて非コンセンサスなことでした。そして今では、それは非常に明白なことになっています。今、私には明白なアイデアしかありません。なぜなら、私はただこの一つの枠組みに縛られているからです。しかし、あなた方には他のアイデアがあるはずです。
別の方法で聞いてもいいですか?これが公平かどうかわかりませんが、他の誰も話していない、あなたが格闘している質問は何ですか?
本当に大きなコンピューターをどう作るか、ということです。他の人々もそれについて話していると思いますが、私たちはおそらく誰も想像していないようなレンズを通してそれを見ています。私たちが小学生や中学生レベルの知能だけでなく、PhD級やそれ以上の知能を作るとき、それを製品にする最良の方法、それを社会や人々の生活にポジティブな影響を与える最良の方法について、確実に格闘しています。まだその答えは分かりません。だから、それはかなり重要なことを解決する必要があると思います。
その線で続けていきましょう。本当に大きなコンピューターを作ることが本当にあなたの心にあるのなら、共有できますか?あなたが reportedly 着手している半導体ファウンドリー事業について、多くの推測や噂があると思います。ビジョンを共有できますか?何がこれを単なるファウンドリーと違うものにするのでしょうか?
そうですね、それはその一部です。私たちは、AIインフラが将来の最も重要なインプットの一つになると信じています。これは、誰もが欲しがる商品になるでしょう。エネルギー、データセンター、チップ、チップ設計、新しい種類のネットワーク、これらを含む全体のエコシステムをどう見るか、そしてそれをどうやってもっと多く作るか、ということです。一つの部分だけを見ても機能しないと思います。全体を見なければなりません。
では、複数の大きな問題があるということですね。
そうですね、これは人類の技術史の流れです。私たちはより大きく、より複雑なシステムを構築しています。
そうですね。計算コストの観点から、間違っていたら訂正してください。ChatGPT-3は、モデルを構築するのに1億ドルかかったと聞いています。そして、それは1750億のパラメーターでした。GPT-4は、4億ドルで10倍のパラメーターでした。コストはほぼ4倍になりましたが、パラメーターは10倍になりました。正しいですか?調整してください。
私はその数字を知っていますが、言いませんよ。
いいですよ、これはスタンフォードですからね、サム。
でも、その方向性が正しいとしても、実際の数字を修正したくないとしても、コストは各後続モデルでも増え続けると思いますか?
はい。
そして、それは乗法的に増え続けるのでしょうか?
おそらくそうでしょう。
そうすると、どうやってそれを資本化するのかという質問になります。
人々に本当に有能なツールを与え、それを使って未来を築くことを彼らに任せるのは、とても良いことだと思います。そして、それは非常に価値があり、私はあなた方全員や世界中の人々の創意工夫に賭けることを非常に喜んでいます。OpenAIのどこかに、私よりもビジネス志向の強い人がいて、私たちがどれだけ使っているかを心配しているかもしれません。でも、私はあまり気にしていません。
そうですね。OpenAIは素晴らしいですし、ChatGPTも素晴らしいです。他のすべてのモデルも素晴らしいです。昨年5億2000万ドルの現金を稼ぎましたが、それについて心配していないということですね。経済モデルについて、実際にどこから収益化の源泉が来るのかということを考えていないということですか?
まず、そう言っていただいてありがとうございます。でも、ChatGPTは素晴らしくありません。ChatGPTは、せいぜい少し恥ずかしいくらいです。GPT-4は、あなた方が今後使う中で最も愚かなモデルになるでしょう。でも、早期にリリースし、頻繁にリリースすることが重要だと私たちは考えています。反復的な展開を信じています。もし私たちが地下室でAGIを作り、世界が盲目的に歩いているとしたら、それは私たちをあまり良い隣人にはしません。私たちは、起こると信じていることについての見解を表明することが重要だと考えています。
しかし、それ以上に重要なのは、製品を人々の手に届けることです。社会に技術と共に進化させ、社会に技術から何を集合的に、そして個人的に欲しているのかを教えてもらうことです。この技術をどのように製品化すれば有用になるのか、モデルがうまく機能する部分と機能しない部分はどこかを教えてもらうのです。私たちのリーダーや機関に反応する時間を与え、人々にこれを生活に統合する方法を見つける時間を与え、このツールの使い方を学ぶ時間を与えます。確かに、あなた方の中には宿題をごまかすために使う人もいるでしょうが、同時に非常に素晴らしいことをする人もいるでしょう。そして、各世代が進むにつれて、それは拡大していくでしょう。
これは、不完全な製品をリリースすることを意味します。でも、私たちは非常にタイトなフィードバックループを持っており、学び、改善していきます。自分が恥ずかしいと思う製品をリリースするのは少し辛いですが、それは代替案よりもずっと良いのです。特に、この場合、私たちは社会に対して反復的に展開する義務があると思います。
私たちが学んだことの一つは、AIと驚きは相性が良くないということです。人々は驚かされたくありません。人々は段階的な展開と、これらのシステムに影響を与える能力を望んでいます。それが私たちのやり方です。将来的には、反復的な展開が良い戦略ではないと考えるようなことが全くあるかもしれません。しかし、現時点では最良のアプローチだと感じています。そして、私たちはこれをすることで多くのものを得たと思います。そして、願わくば、より大きな世界も何かを得たでしょう。
年間5億ドルを燃やそうが、50億ドルを燃やそうが、500億ドルを燃やそうが、私は本当に気にしません。最終的に社会にそれ以上の価値を生み出すという軌道に乗り続けることができ、そして請求書を払う方法を見つけることができる限り、私たちはAGIを作っているのです。それは高価になるでしょうが、完全に価値があります。
2030年の世界について、あなたのビジョンはありますか?もし「サム、君は大成功した」と言ったら、2030年の世界はどのように見えると思いますか?
ある非常に重要な面では、それほど違わないかもしれません。私たちはここに戻ってきて、新しい学生たちがいて、スタートアップがいかに重要か、技術がいかにクールかについて話し合うでしょう。この世界には素晴らしい新しいツールがあるでしょう。今日から6年後にテレポートして、多くの科目で人間より賢いこのものを持ち、複雑なタスクを私たちのためにこなすことができるとしたら、それは素晴らしく感じるでしょう。複雑なプログラムを書いてもらったり、この研究をしてもらったり、このビジネスを始めてもらったりすることができるでしょう。そして、太陽は昇り続け、人々は人間のドラマを続け、生活は続きます。ある意味では非常に異なり、私たちの指先に豊富な知性があるという点で、しかし別の意味では全く変わらないのです。
人工知能（AGI）について言及されましたが、以前のインタビューで、AGIをタスクに対する中位の人間の能力、あるいは中位の人間の能力を模倣できるソフトウェアと定義されていましたね。
タイミングの質問に答えるには、AGIのより精密な定義が必要だと思います。なぜなら、今の時点で、あなたが先ほど言及した定義でさえ – これは合理的な定義ですが – 解釈の余地が大きすぎて、本当に有用であったり、人々が本当に知りたいことを捉えたりするには不十分だからです。
人々がAGIのタイムラインについて知りたがっているのは、世界がいつ超変化するのか、変化の速度がいつ超高速になるのか、経済の仕組みがいつ本当に変わるのか、私の人生がいつ変わるのか、ということだと思います。それは、様々な理由で、私たちが考えているのとは非常に異なるかもしれません。
例えば、どの分野でもPhDレベルの知能を構築し、研究者の生産性を大幅に向上させ、さらには自律的な研究さえできるようになる世界を完全に想像できます。ある意味では、それは世界を大きく変えるように聞こえますが、そうしてもグローバルGDPの成長率に何年も変化が検出できないという状況を想像できます。それは非常に奇妙なことで、これがすべてどのように進むかについての私の元々の直感ではありませんでした。
ですので、人々が気にしているマイルストーンにいつ到達するかについて、正確なタイムラインを示すことはできません。しかし、今よりもはるかに能力の高いシステムに到達する時期については、1年後、そしてその後毎年です。そしてそれが重要なポイントだと思います。
AGIのタイムラインを示すことはあきらめましたが、今後何年もの間、毎年劇的に能力の高いシステムが登場すると思います。
AGIの危険性について聞きたいと思います。現在、スタンフォードでは倫理に大きな焦点を当てています。AGIの危険性についてあなたはどのように認識していますか?具体的に、AGIからの最大の危険は、すべての新聞で取り上げられるような破滅的な出来事から来ると思いますか?それとも、例えば今みんながTikTokを使うことでADHDになっているように、もっと微妙で有害なものになるのでしょうか?あなたは微妙な危険性と破滅的な危険性のどちらをより心配していますか?それとも両方とも心配していないのでしょうか?
私はより微妙な危険性の方を心配しています。なぜなら、それらを見過ごす可能性が高いからです。破滅的な危険性については、多くの人々が話し、多くの人々が考えています。それらを軽視したくはありません。それらは本当に深刻で現実のものだと思います。しかし、少なくともそれらを注意して見ていて、多くの努力を費やしていることは知っています。
あなたが挙げた例、TikTokなどで皆がADHDになるというのは、私たちが注意を払うべきだと知らなかったものです。それは本当に難しい未知の未知です。だから、両方心配していますが、どちらかというとそちらの方をより心配しています。
未知の未知について、特に心配しているものがあれば教えてください。
そうですね、それらが未知の未知であれば、私は名前を挙げることができないでしょう。
そうですね、でも短期的には思っているほど変化が少ないにもかかわらず、長期的には他の主要な技術と同様に、私たちが考えているよりも変化が大きくなると思っています。社会がこのような新しいものに適応できる速度と、新しい社会契約を見つけるまでにかかる時間について心配しています。それが心配です。
わかりました。これからカリキュラムに取り入れようとしている重要なことの一つに、レジリエンス(回復力)があります。
それは本当に良いですね。
そして、レジリエンスの基礎は自己認識です。この旅に乗り出すにあたり、あなたの動機について十分に自覚していると感じますか?
まず、レジリエンスは教えることができると信じています。それは長い間最も重要な生活スキルの一つだったと思います。そして将来、今後数十年にわたって、レジリエンスと適応力は、長い間そうであった以上に重要になると思います。だから、それは本当に素晴らしいことです。
自己認識の質問については、私は自己認識があると思いますが、誰もが自分は自己認識があると思うものです。私に本当にそれがあるかどうかは、内側からは言うのが難しいですね。
自己認識に関する導入クラスで私たちが問う質問の一部を聞いてもいいですか?ピーター・ドラッカーのフレームワークのようなものです。サム、あなたの最大の強みは何だと思いますか?
私は多くのことに優れているわけではありませんが、多くのことに良いと思います。そして、幅広さは世界で過小評価されているものになったと思います。誰もが超専門化しているので、多くのことに良ければ、それらの間のつながりを見出すことができます。そうすれば、他の誰もが持っていないアイデア、あるいはある分野の専門家が持っているようなアイデアを思いつくことができると思います。
最も危険な弱点は何ですか?
最も危険な…それは興味深い枠組みですね。私には技術に対して過度に前向きなバイアスがあると思います。なぜなら私は好奇心旺盛で、それがどこに行くのか見たいと思うからです。そして、技術は全体として良いものだと信じています。しかし、これは私や他の人々にとって全体的にうまくいき、多くの肯定的な強化を受けてきた世界観です。しかし、それは常に真実というわけではありません。そして、真実でなかったとき、多くの人々にとってかなり悪いものだったこともあります。
ハーバード大学の心理学者デビッド・マクレランドは、すべてのリーダーは3つの原始的なニーズのうちの1つによって動機づけられるというフレームワークを持っています。好かれたいという親和のニーズ、達成のニーズ、そして権力のニーズです。もしこれらをランク付けするとしたら、あなたのランクはどうなりますか?
私のキャリアの様々な時期に、それらすべてがあったと思います。人々が通過するレベルのようなものがあると思います。現時点では、有用で興味深いことをしたいという欲求に動かされていると感じます。
確かに、お金や権力、地位の段階はありました。
最後に自分らしさを最も感じたのはいつですか?
私はいつも感じています。
最後にもう一つ質問です。ChatGPT-5のリリースで、私たちが皆見ることになる最も興奮していることは何ですか?
まだわかりません。これは逃げ口上に聞こえるかもしれませんが、GPT-5、あるいは私たちが何と呼ぶにせよ、それについて最も重要なことは、単にそれがより賢くなるということだと思います。これは回避のように聞こえますが、それは人類の歴史の中で最も注目すべき事実の一つだと思います。私たちは何かをして、高い科学的確実性を持ってGPT-5がGPT-4よりもずっと賢くなると言えるのです。GPT-6はGPT-5よりもずっと賢くなるでしょう。そして、私たちはこの曲線の頂点に近づいていません。私たちは何をすべきかある程度わかっています。これは一つの分野だけで良くなるわけではありません。この評価や、この科目や、このモダリティで常に良くなるというわけではありません。それは一般的な意味でより賢くなるのです。そして、その声明の重大さは、まだ過小評価されていると思います。
素晴らしいです、サム。皆さん、サムは本当にあなたたちのためにここにいます。彼はあなたたちの質問に答えたいと思っています。質問を受け付けましょう。
こんにちは。時間を割いて来ていただき、ありがとうございます。私はスタンフォードの3年生です。AGIの責任ある展開について少しお話ししたいと思います。あなた方がAGIに近づくにつれて、人間のイノベーションを抑制せず、それを促進し続けるために、OpenAIでそれをどのように責任を持って展開する計画ですか?
実は、人間のイノベーションの抑制については全く心配していません。人々により良いツールを与えれば、より素晴らしいことをしてくれるというのが、私の深い信念です。歴史のすべてがそれを示唆していると思います。人々により大きなレバレッジを与えれば、彼らはより素晴らしいことをします。そして、私たち全員がそれから恩恵を受けることができるのです。それは本当に素晴らしいことです。
しかし、モデルがより高度になるにつれて、私たちがこれをすべて責任を持って行う方法については、ますます心配しています。私たちはより高いバーを設定する必要があります。レッドチーミングや外部監査など、多くのことを行っていますが、それらはすべて本当に良いことだと思います。しかし、モデルがより高度になるにつれて、さらに反復的に展開し、それらがどのように使用され、どこでうまく機能し、どこでうまく機能しないかを見ることについて、さらにタイトなフィードバックループを持つ必要があるでしょう。
以前は数年ごとに主要なモデルアップデートをリリースしていましたが、おそらくその粒度を増やし、これまで以上に反復的に展開する方法を見つける必要があります。それをどのように行うかはまだ明確ではありませんが、責任ある展開の鍵になると思います。
また、AIに必要なルールについて、すべての利害関係者が交渉する方法も、時間とともにより複雑になっていくでしょう。
ありがとうございます。次の質問どうぞ。
あなたは以前、より大きく、より速いコンピューターの需要が増大していると言及しましたが、世界の多くの地域にはそのようなデータセンターやコンピューターを構築するためのインフラがありません。グローバルなイノベーションがこれによってどのような影響を受けると考えていますか?
それには2つの側面があります。1つは、コンピューターがどこに構築されるかに関わらず、トレーニングだけでなく推論のためにも、コンピューターを使用するためのグローバルで公平なアクセスが非常に重要だということです。私たちのミッションの一つは、ChatGPTを可能な限り多くの人々に無料で提供することです。ただし、特定の理由で運営できない、または運営したくない国は例外です。
世界中でトレーニング用のコンピューティングリソースをより利用可能にすることについて、私たちはますます重要になると考えています。ある程度のコンピューティングリソースへのアクセスを人権のように考え、それを世界中の人々に分配する方法を見つける必要があると思います。
もう一つの側面は、各国が独自のAIインフラを持つことの重要性をますます認識するようになるということです。私たちは今、世界中を旅して、多くの国々でそれらを構築する方法を見つけようとしています。そして、私たちがそれを実現するための小さな役割を果たせることを願っています。
素晴らしいです、ありがとうございます。
私の質問は、将来の宇宙探査や植民地化におけるAIの役割について、どのようなビジョンを持っていますか?
宇宙は生物学的生命にとって明らかに適していません。ですので、ロボットを送ることができれば、それはより簡単だと思います。
こんにちは、サム。多くの創業者の方々に向けた質問です。質問をお伝えしてから、なぜこれが複雑だと思うかを説明させてください。
私の質問は、アイデアがコンセンサスに反していることをどのように知るかについてです。これが複雑だと思う理由は、考えすぎてしまう可能性があるからです。今日でさえ、あなた自身がAIは会社を始めるべき場所だと言っています。それはおそらく正当にコンセンサスになっていると思います。変曲点ですからね。
アイデアがコンセンサスに反しているかどうかを知るのは難しいと思います。それは話している相手のグループによって異なります。一般の人々はテクノロジーに対して、テクノロジーコミュニティとは異なる見方をしています。そして、テックエリートでさえ、テクノロジーコミュニティとは異なる視点を持っています。
そこで、自分のアイデアが追求するのに十分コンセンサスに反しているかどうかを、どのように確認するのか教えていただけますか?
まず、本当に重要なのは正しいことです。反対意見を持つだけで間違っていても、それはまだ間違いです。17回の不況のうち2回だけを予測したとしても、おそらくその2回で反対意見を持っていたかもしれませんが、他の15回は間違っていたのです。
だから、反対意見を持つことに興奮しすぎるのは簡単です。繰り返しますが、最も重要なのは正しいことです。そして、グループは通常正しいのですが、最も価値があるのは、あなたが反対意見を持ちながら正しい場合です。
そして、それは常にゼロかイチのような形で起こるわけではありません。この部屋にいる全員がAIが会社を始めるのに適した場所だと同意することができます。そして、部屋の中の一人が始めるべき正しい会社を見つけ出し、それを成功裏に実行します。他の全員が「ああ、それは最良のことではなかった」と思うかもしれません。それが重要なのです。
だから、正しい場合は従来の知恵に従うのは問題ありません。そして、あなたが何か独自の洞察を持っている領域を見つけることです。
適切な仲間のグループに囲まれることは本当に重要だと思います。そして、独創的な思想家を見つけることも重要です。しかし、これには一人で、あるいは少なくとも一部を一人で、または共同創業者になる数人の人々と一緒に行う必要がある部分があります。
そして、適切な仲間のグループをどうやって見つけられるかということに深入りしすぎると、すでに間違った枠組みに陥っているような気がします。
自分自身と自分の直感、自分の思考プロセスを信頼することを学ぶことは、時間とともにはるかに簡単になります。始めたばかりの頃は、彼らが何と言おうと、誰も本当にこれに優れているわけではありません。なぜなら、あなたはまだその筋肉を作り上げていないからです。そして、あなたのすべての社会的圧力、あなたを生み出したすべての進化的圧力は、それに反対だったからです。だから、それは時間とともに上達するものであり、早い段階で自分に高すぎる基準を設定しないでください。
こんにちは、サム。今後数十年間でエネルギー需要がどのように変化すると予測しているか、そして再生可能エネルギー源が1kWhあたり1セントになる未来をどのように実現するかについて、あなたの予測を知りたいと思います。
確実に上がるでしょう。まあ、確実とは言えません。私たちが皆落ち込むような奇妙な未来を思いつくこともできます。私はそれが大幅に上がることを願っています。私たちが十分に高い基準を持ち続けることで、上がることを望みます。
世界の発電容量が現在どれくらいか正確には覚えていませんが、3000から4000ギガワット程度だとしましょう。AIのためにさらに100ギガワットを追加したとしても、それほど大きな変化にはなりません。しかし、ある程度の変化はあります。そして、もし1000ギガワットをAIのために追加し始めたら、それは重大な変化になります。
しかし、他にもやりたいことがたくさんあります。エネルギーは人々に提供できる生活の質と非常に相関していると思われます。
私の推測では、最終的に核融合が地球上の電力生産を支配するようになるでしょう。それが最も安価で、豊富で、信頼性が高く、密度の高い電源になるはずです。間違っているかもしれません。太陽光発電とストレージかもしれません。
私の推測では、最も可能性が高いのは、どちらかが80対20の割合になり、一方が他方より優れている場合もあるでしょう。しかし、これらの2つが本当にグローバルな規模で1kWhあたり1セントのエネルギーを実現する賭けのように思えます。
こんにちは、サム。質問があります。昨年のOpenAIの出来事についてです。あなたは回復力について話しましたが、会社を去り、そして戻ってきた経験から学んだ教訓は何ですか?また、Microsoftからのオファーもあったようですが、何があなたを戻らせたのでしょうか?もう少し詳しく教えていただけますか?
学んだ最大の教訓は、私がいなくても会社を完全に運営できる素晴らしいチームがいたということです。数日間、彼らはそれを実行しました。
また、チームが非常に回復力があることもわかりました。AGIに向かう道のりで、世界の様々な部分がより強い感情的反応を示し、賭け金がどんどん上がっていくにつれて、クレイジーなことが起こり、おそらくもっとクレイジーなことが起こるだろうとわかっていました。
チームが多くのプレッシャーの下でうまくやれると思っていましたが、実際に実験してみるまで本当にはわかりません。そして、私たちは実験を行う機会を得ました。チームが非常に回復力があり、会社を運営する準備ができていることがわかりました。
戻ってきた理由については、最初は翌朝、取締役会から「戻ってくることについてどう思う?」と電話がありました。私は「いいえ、怒っています」と言いました。
しかし、考えてみると、OpenAIをどれほど愛していたか、人々を、使命を、私たちが築いた文化を愛していたことに気づきました。そして、それを一緒に完成させたいと思いました。感情的に…
それは明らかにとてもセンシティブで…
そうではありません。
では、OpenAIの構造について話しましょう。非営利組織が営利組織を所有するというこの入れ子構造について。私たちがここで教えようとしている原則に基づく起業家精神について…
私たちはそこに徐々に到達しました。最初からそうしようと思ったわけではありません。もし最初からやり直せるなら、私はこれを選ばなかったでしょう。最初は製品を持つつもりはありませんでした。ただのAI研究所になるつもりでした。言語モデルやAPIやChatGPTについても全く考えていませんでした。
会社を始めるなら、いつか製品を売るという理論を持つ必要があります。私たちにはそれがありませんでした。計算のためにこれほど多くのお金が必要になるとは思っていませんでした。このような素晴らしいビジネスになるとは思っていませんでした。
では、最初の意図は何だったのですか?
ただAI研究を前進させたかっただけです。私たちはそう考えていました。これはモチベーションに戻りますが、それが純粋なモチベーションでした。お金を稼ぐとか権力を得るというモチベーションは全くありませんでした。
個人的にあなたにとって、つまりOpenAIではなくあなた自身にとって、それは全く異質な概念だったのですね?
私はすでにたくさんのお金を稼いでいました。だから…私は道徳的な純粋さを主張しているわけではありません。ただ、それは私の人生の…
ドライバーではなかったということですね?
はい、ドライバーではありませんでした。
なぜこれを聞くかというと、ここで原則に基づく起業家精神について教えているからです。組織構造から原則を推測することができます。アメリカ合衆国が設立されたとき、統治のアーキテクチャは憲法でした。三権分立があり、多くのチェックアンドバランスがあります。そこから特定の原則を推測することができます。権力の集中に対する懐疑心があり、物事はゆっくりと動き、変化させるのは難しいけれど、非常に安定しているということがわかります。
OpenAIの構造を見て、それが何のために作られたのかを考えると…1000億ドル近い評価額があり、非常に限られた取締役会があります。それは非営利の取締役会で、その受託者責任は…
今知っていることを最初から知っていたら、そうはしなかったでしょう。でも、人生を逆戻りすることはできません。適応しなければなりません。私たちには本当に気にかけているミッションがありました。AIが本当に重要になると思いました。学習するアルゴリズムがあると考えました。スケールとともに良くなることはわかっていました。どれほど予測可能に良くなるかはわかりませんでした。
これを推し進めたいと思いました。人類の歴史の中で非常に重要なことになると考えました。すべてを正しく理解したわけではありませんが、大きなことについては正しかったのです。そして、私たちのミッションは変わっていません。進むにつれて構造を適応させてきました。そして、将来的にもさらに適応させていくでしょう。
しかし、人生は問題集のようではありません。一度にすべてをきれいに解決することはできません。教室でうまくいくようには、実際にはうまくいきません。私のアドバイスは、進みながら適応する自分を信頼することです。少し乱雑かもしれませんが、それでもできるのです。
OpenAIの重要性があるからこそ、これを聞いています。取締役会は全員が財政的に独立しているはずで、非営利組織として人類というステークホルダーのために意思決定をしているはずです。株主のためではありません。あなた自身を含め、取締役会のメンバーには誰もOpenAIに対する金銭的インセンティブはないのですよね。
まず、お金を稼ぐことは良いことだと思います。資本主義は良いことだと思います。取締役会にいる私の共同創業者たちは金銭的な利害関係を持っていましたが、ミッションの重大さを真剣に受け止めないのを一度も見たことがありません。
しかし、インセンティブを整合させる方法だと考える構造を作りました。インセンティブは超能力だと信じています。ただ、時間とともにさらに進化させていくと思います。それは悪いことではなく、良いことだと思います。
新しいOpenAIファンドについて、あなたはそこからキャリーを得ていませんし、追加投資もしていないのですよね?
はい、そうです。
わかりました。これについてもっと話し合えますが、学生たちに戻りたいと思います。では、学生たちの質問に戻りましょう。
AGIが地政学や世界のパワーバランスをどのように変えると予想しますか?
おそらく他のどの技術よりも大きく変えるでしょう。私はそのことについてとても考えていますが、実際に何をするのかを言うのはとても難しいです。より正確に言えば、何をしないかを言うのがとても難しいです。
先ほど、日常生活はそれほど変わらないかもしれないと話しましたが、世界のパワーバランスは大きく変わるように感じます。ただし、どのように変わるかについての深い答えはありません。
ありがとうございます。一般的な知能の展開や責任あるAIについて、AIシステムが自身の不確実性や不安を認識し、外部世界に伝えることがどれくらい必要だと思いますか?
AIを人間化しすぎるのは常に注意が必要です。それによって奇妙な見落としが起こる可能性があるからです。しかし、AIが自身の欠陥を認識できるかどうかということであれば、それを構築することは非常に重要だと思います。現時点でも、推論のエラーを認識したり、一種の内省能力を持ったりすることは、本当に重要な追求対象だと思います。
サム、今日は時間を割いて話をしてくださってありがとうございます。外から見ていると、OpenAIの文化と団結力について聞きます。ChatGPTやその他のブレークスルーに見られるように、皆さんが働く強度と速さも明らかです。また、取締役会があなたを一時的に解任したときに、従業員全員が「OpenAIは人々なしでは何もない」とツイートしたことからもわかります。これの理由は何だと思いますか?AGIを達成するという結束力のあるミッションなのでしょうか、それともさらに深いものがあるのでしょうか?何が日々の文化を推進しているのでしょうか?
共通のミッションだと思います。人々はお互いを好きだと思いますし、この本当に難しいことを一緒に戦っているという感覚があります。しかし、本当に深い目的意識とミッションへの忠誠心があると思います。それを作り出すことができれば、少なくとも私が見た中では、スタートアップの成功に最も強力な力になると思います。
私たちは雇う人々にそれを選ぶようにしていますが、AGIがそれほど大きな出来事になり、それを正しく行うことがそれほど重要だとは本当に信じていない人でも、最初の3ヶ月くらいで信じるようになる傾向があります。だから、それは私たちが持っている非常に強力な文化的な力です。
ありがとうございます。現在、AIの誤用について多くの懸念があります。特に、世界的な紛争や来るべき選挙などの差し迫った問題についてです。業界、政府、そして私たち自身が、特に非常に強力なオープンソースモデルがある中で、差し迫った期間に何ができると思いますか?
重要なことの一つは、この技術や他のどの技術も全て良いものだと装わないことです。私はAIが非常にネットでプラスになる、tremendouslyネットでプラスになると信じています。しかし、他のどのツールと同様に、誤用されることもあると思います。ハンマーで素晴らしいことができますが、ハンマーで人を殺すこともできます。
それは、私たちや皆さん、あるいは社会が、できる限り悪いことを緩和し、良いことを最大化しようとする責任を免除するものではありません。しかし、十分に強力なツールでは、ツール使用者に力を与えたり、社会や人々ができることを制限する決定をしたりすることを認識することが重要だと思います。
私たちにはその声があると思います。皆さんにもその声があります。政府や選挙で選ばれた代表者、民主的なプロセスが最も大きな声を持っていると思います。しかし、私たちはこれを完璧に正しく行うことはできません。社会として、私たちはこれを完璧に正しく行うことはできません。タイトなフィードバックループが、最も正しく行う最良の方法だと思います。
安全性と自由と自律性のバランスがどのように交渉されるか、それは以前の技術での研究に値すると思います。ここでは私たちができる限り最善を尽くします。社会として、私たちはここでできる限り最善を尽くします。
みなさん、実は時間切れです。申し訳ありませんが…サムの誕生日だということは知っています。もし許してくれるなら…サムへの愛情がたくさんあることは分かっています。みんなで「ハッピーバースデー」を歌えないでしょうか?
いや、いや、お願いです。もう1つ質問をさせてください。これはあまり面白くありません。
ありがとうございます。あと1つだけ質問できます。手短にお願いします。
こんにちは。人間が可能な限り賢くなることを作り出す見通しが、あなたを怖がらせることはありますか?
もちろんそうです。それが私を怖がらせないとしたら、本当に奇妙で、悪い兆候だと思います。
人間は時間とともに劇的に賢く、より有能になってきました。あなたは、あなたの曾祖父母よりも劇的に有能です。そしてその期間にほとんど生物学的な変化はありません。確かに、少し良い食事をし、より良い医療を受けているかもしれません。もしかしたら、食事は悪くなっているかもしれません。わかりません。
しかし、それがあなたがより有能である主な理由ではありません。あなたがより有能なのは、社会のインフラが人間よりもはるかに賢く、はるかに有能だからです。そしてそれを通じて、社会があなたを…あなたの前に来た人々があなたを作り出しました。
インターネット、iPhone、指先で利用できる膨大な知識など、あなたは先人が絶対に息をのむような事ができます。社会は今、あなたよりもはるかに賢いのです。社会は、あなたが見る限りAGIです。そしてそれが起こった方法は、個人の脳ではなく、私たち全員の間にある空間、私たちが一歩一歩、レンガを一つ一つ積み上げていく足場です。
そして、私たちはそれを使って、私たちの後に来る人々のためにさらに高みに到達します。私たちよりも賢いものは、その同じ足場に貢献します。あなたの子供たちは、あなたが持っていなかったツールを持つでしょう。そしてその足場はさらに高く築き上げられているでしょう。それは常に少し怖いものです。
しかし、私はそれが悪いよりもはるかに良いものだと思います。人々はより良いことをし、より多くの問題を解決するでしょう。そして、未来の人々はこれらの新しいツールと、これらの新しいツールが貢献する新しい足場を使うことができるでしょう。
AIが多くの科学的発見をする世界を考えてみてください。その科学的進歩はどうなるでしょうか?それはただ足場に追加され、あなたの子供たちはそれを使って新しいことができるようになります。あるいは、10年後のあなたが新しいことをできるようになります。
しかし、人々にとってそれがどのように感じられるかというと、はるかに賢い存在がいるというよりも、個々の人間がただより多くのことをできるようになるということだと思います。なぜなら、私たちは曾祖父母よりもはるかに賢く、少なくともより有能になっているからです。
これで終わりにしましょう。サムに拍手をお願いします。
コメント