MITに到着してから見た中で最も人気のあるイベントです。質問は学生から集め、選別したものですが、本当にここのコミュニティの好奇心と、あなたが来ることへの熱意を反映しています。では始めましょう。ああ、すみません。
ありがとうございます。
では、さっそく始めましょう。コラムニストのケビン・ローズらによると、一部の人々の間では「P Doomは何ですか?」が一般的なアイスブレイカーになっているそうです。ほとんどの方はご存じだと思いますが、P Doom、つまり破滅の確率は1から100のスケールで計算され、高いスコアを付けるほど、AIが全人類を絶滅させる破滅的シナリオに陥る可能性が高いと考えていることになります。サム、まずはアイスブレイカーとして、あなたのP Doomは何ですか?
うーん、それは少し形式が悪い質問だと思います。ああ、責任を負わなくて良かったです。賢くて重要そうに見せるには素晴らしい質問だと思います。私も他の人と同じくらい数字について偉そうなことを言うのは楽しいですが、2とか10とか20とか90とか言っても、要は0ではないということです。もう一つ、これが形式の悪い質問だと思う理由は、静的なシステムを想定していることです。我々がすべきなのは、素晴らしい未来を作り出し、未来を存在させる方法を見つけることです。破滅が起こるような分岐を許容するのではなく。社会は常に終末論者のための余地を残していると思います。それには価値があります。彼らが存在することは嬉しいです。私たちがしていることについてもっと深く考えさせてくれると思います。でも、より良い質問は、安全性を十分にうまく制御するために何が必要かということです。
なるほど。つまり、物事を開発する際にその可能性を認識するだけでなく、それに深く向き合い、非常に真剣に受け止めるということですね。
その通りです。
さて、あなたはこの業界に少し長くいらっしゃいますね。過去10年間で、AIに対するあなたの見方はどのように変化しましたか? 5年前や10年前、AIやGPTがこれほど強力になると予想していましたか?
正直なところ、まだあまり良くないと思っています。非常に優れたものにできると思いますが、まだまだやるべきことがたくさんあります。10年前は、AIをもっと素朴に捉えていたかもしれません。何かをやってくれる生き物のようなもの、あるいは空中の魔法のスーパーインテリジェンスのようなものだと。物事を解決してお金を降らせてくれて、私たちはそれとどう付き合っていくか考えなければならない、といった具合に。今は、他の技術革命と同じように考えています。願わくば、最大で最高で最も重要で最大の利益をもたらすものになりますが。人類の技術ツリーに新しいツールが加わり、人々はそれを使って素晴らしいものを生み出しています。時間とともにより高性能で自律的になっていくと思います。しかし、それでも社会に重要かつ変革をもたらす形で統合されていくと考えています。
AGIが明日構築されたとして、その翌日何が起こるかと10年前に聞かれたら、「想像もつきません。絶対的な変革、シンギュラリティ、すべてが一度に変わる」と答えたでしょう。今はそうはならないと思います。
ある意味で楽観的だったけれど、現在の状況を想像することはできなかったということですね。それは同じことだと思います。
楽観的か悲観的かというよりも、ある程度間違っていたと思います。楽観的すぎた面と悲観的すぎた面が同時にありました。例えば、ここにいる非常に賢い学生たち全員と同じくらい賢いものを作ったとします。ある意味では素晴らしい成果です。世界にはすでに多くの賢い人がいるので、物事はもう少し速く進むかもしれません。生活の質は向上するかもしれません。経済のサイクルは少し速くなるかもしれません。でも、科学的発見の速度が今の10倍になったとして、その時を生きている私たちにとってどれほど違って感じるのかはわかりません。
それは興味深いですね。さて、少し後退して、現在のモデルを見てみましょう。ChatGPTのようなAIシステムについて考えると、システムからバイアスを取り除くために何が必要だと思いますか? 今日のAIシステムに存在するバイアスについて考えた例を挙げて、それを今後どのように考えていけばいいでしょうか?
驚くほど良い進歩を遂げていると思います。システムを特定の価値観に従って動作させる方法について。人々がこれについて話すのを好み、「これらのシステムは有毒な廃棄物を吐き出しているだけだから使えない」と言うのは、GPT-4を使えば、ある程度望むように、そしてかなり上手く動作することがわかります。完璧ではありませんが、少なくとも私が思っていたよりも良い結果が得られています。与えられた価値観に従うことができます。しかし、それはより難しい問題につながります。誰がバイアスや価値観の意味を決めるのか? システムが何をすべきかをどのように決定するのか? 社会がどの程度広い境界線を定義するのか、それとも「ユーザーとしてあなたを信頼してツールを使ってください。誰もが好ましい方法で使うわけではありませんが、それはツールの場合と同じです」と言うべきなのか。
人々にこれらのツールの使い方をかなりコントロールさせることが重要だと思います。それは時に、あなたや私が好まない方法で使われることを意味するかもしれませんが。しかし、システムがすべきではないことがいくつかあり、それらを集団的に交渉する必要があります。
興味深いですね。人間である私たちよりもモデルをより偏見のないものにできるかどうかを考えるのは面白いです。例えば、医療の分野では、特定の人口統計グループに対する偏見があります。実際、これらは人間の医師の行動に基づいて訓練されています。
その通りです。しかし、私たちはRHFステップを行い、かなりの影響力を発揮することができます。人間は明らかに非常に偏見のある生き物であり、しばしばそれに気付いていません。GPT-4や5が私たちと同じ心理学的欠陥を持っているとは思いません。おそらく独自の異なる欠陥があるでしょう。しかし、これらのシステムは人間よりもずっと偏見が少なくなる可能性があり、それは目指すべき目標だと思います。
偏見以外にも、LLMの将来を考える際に多くの人々の意識の中で大きな問題となっているのはプライバシーの問題です。個人のプライバシーとAIモデルを訓練するために共有データが必要であることのバランスをどのようにとるべきだと思いますか?
将来的には、もし望めば、あなたが今まで送受信したすべてのメール、テキスト、メッセージを読み、あなたの人生の完全な記録にアクセスし、これまで見たすべての文書、テレビ番組、あなたが言ったり聞いたりしたすべてのこと、見たすべてのものを知っている個人用AIを持つことができると想像できます。つまり、あなたのすべての入出力ビットを知っているAIです。それが非常に役立つものになると想像できますし、同時にそれがもたらすプライバシーの懸念も想像できます。
この枠組みにとどまり、AIがこのデータやあのデータで訓練できるべきかどうかを言うのではなく、プライバシー対効用対安全性のトレードオフ、あるいはセキュリティのトレードオフをどのようにナビゲートするかを考える必要があります。例えば、特権情報の新しい定義が必要になるのでしょうか? あなたのAIコンパニオンがあなたに不利な証言をする必要がなかったり、裁判所に召喚されたりしないようにするために。私にはわかりません。
しかし、私たち一人一人がプライバシー対効用のトレードオフをどこに設定するか、そして「自分の人生全体でこのAIを訓練させる」と言う人が持つ可能性のある利点は、社会が新たにナビゲートしなければならない問題です。答えがどうなるかわかりません。ほとんどの人がどこでトレードオフを行うかもわかりません。何が許容範囲内で可能かについて、どのように言うのかもわかりません。
私たちは以前、使用するサービスに対してプライバシーと引き換えに効用をトレードオフする経験をしましたが、AIではそれが非常に遠くまで行く可能性があります。インターネットで交渉しなければならなかったこと、オンライン広告についてどう考えるかなど、AIと交差するとはるかに高いリスクとはるかに大きなトレードオフになり、本当に直面し始めると思います。
なるほど、それは興味深いですね。また、個人がどの程度コントロールを行使するかという点でも興味深いです。つまり、集計データについて話すとき、良い例は、より高いリスクがあるのは健康記録データなどです。そのトレーニングの一部としてどの程度の情報を持つことを望むかについて、個人的な能力をどの程度組み込むことができるかということです。
その場合、私たちは会話の仕方について少し間違っていると思います。GPT-5や6、あるいは何であれ、欲しいのは可能な限り最高の推論エンジンです。現在、それを行う唯一の方法は、大量のデータで訓練することであり、その過程で非常に限定的な推論や認知、あるいは何と呼ぶにせよ、何かを学習しています。しかし、データを記憶したり、パラメータ空間にデータを保存したりする事実は、振り返ってみれば、一種の奇妙な資源の無駄だったと思うでしょう。GPT-4がデータベースのように振る舞えるのは事実ですが、ほんのわずかです。遅くて高価で、あまりうまく機能しません。本当に欲しいものではありません。
現時点で推論エンジンを作る唯一の方法の副作用として、他のすべての特性を持っているだけです。しかし、いつかは推論エンジンと大量のデータが必要なこと、あるいはデータをそこに保存することを分離する方法を見つけ出し、それらを別々のものとして扱えるようになると思います。そうすれば、これらのプライバシーの問題のいくつかが容易になるでしょう。
なるほど、それは理にかなっています。オープン性について話すと、OpenAIが実際にオープンかどうかについてかなりの議論がありました。完全にオープンソースではないかもしれないが、他の方法でオープンだと言われましたが、これについてもう少し詳しく説明していただけますか? どのように考えていますか?
私たちは素晴らしい無料のAIツールを何億人もの人々に提供しています。将来的には何十億人もの人々が使用することを望んでいます。広告を掲載せず、単に公共の利益のためにこれを行っています。なぜなら、人々の手にツールを置くことが重要だと考えているからです。そして、非常に広く利用可能で、使いやすく、非常に役立つものにしたいと考えています。これは単に素晴らしいことだと思います。
確かに素晴らしいことですね。AIが私たちの通常の生活に組み込まれ、どのように進化していくかについて話し始めるのは面白いです。おそらく、ほとんどの人がChatGPTを初めて見たときのことを覚えているでしょう。「ああ、すごい」と思ったはずです。今では、次の世代の「すごさ」がどのようなものになるか考えようとしています。ところで、これは素晴らしいことだと思います。2週間ほど、みんながGPT-4に夢中になり、すごいと思っていたのに、3週目にはみんな「もう、GPT-5はまだか。待ちくたびれた」と言い始めたのは素晴らしいことだと思います。
その通りです。人間の期待と向上心について、本当に素晴らしいことを示していると思います。だからこそ、私たちは常により良いものを作り続ける必要があるのです。今日生まれた赤ちゃんが、使用する製品やサービスが知的でない世界を知らないことは素晴らしいことだと思います。認知が豊富で、使用するすべてのものの一部となっている世界しか知らないでしょう。ですから、現状に満足せず、世界は毎年良くなるはずだという人間の不満は素晴らしいと思います。
その通りです。同感です。
さて、過去1年間、AIとデータセンターからの新しい電力需要が環境への懸念として指摘されてきました。同時に、多くの人々がAIが脱炭素化を支援すると話しています。気候への影響と、気候変動の影響と戦う可能性についての緊張関係について、あなたの考えをお聞かせください。
具体的に答え、そしてより一般的な観察をしたいと思います。AIには膨大な量のエネルギーが必要ですが、世界の他の部分が必要とする量に比べれば大したことはありません。世界の電力の1%をAIの訓練に使い、そのAIが非炭素ベースのエネルギーへの移行方法や、より良い炭素回収方法を見つけ出すのに役立つとしたら、それは大きな勝利になるでしょう。
たとえそうでなくても、AIに使う1%のコンピューティングパワーが人々のより良い生活につながるのであれば…一度、Googleが使用したコンピューティングパワーと、人々が情報を得るために車で移動していた際に使用していた炭素量を比較した記事を読みました。「Googleはひどい、シャットダウンすべきだ」と言う人がいましたが、エネルギーを使っているのは…それは知的に非常に不誠実な発言でした。なぜなら、明らかにエネルギーの純節約になっているからです。
一般的に、インターネットとそれが可能にするテレコミューティングも節約になっていると思います。ですので、AIに関しては、確かに多くのエネルギーが必要になりますが、より効率的なアルゴリズム、より効率的なチップを開発し続け、核融合を実現し、このようにして電力を供給していくでしょう。
したがって、この問題に対処することは重要だと思いますが、私たちはこれらすべての素晴らしい方法で対処していくでしょう。しかし、これは他のことも示唆しています。冒頭で、P Doomや社会の終末論者のレベルについて質問しましたが、現在、若者たちに「世界は完全に台無しで、問題を解決しようとすることは絶望的で、できることは暗い寝室に座って自分たちがいかにひどいかを考えることだけだ」と教えている方法は、本当に非生産的な傾向だと思います。
MITは他の多くの大学のキャンパスとは違うと思いますし、そうであることを願っています。しかし、皆さんは、繁栄、豊かさ、来年はより良い生活、子供たちにとってより良い生活を目指すことを人生の使命の一部にする必要があります。それが前進する唯一の道であり、機能する社会を持つ唯一の方法です。
常に、「AIをやるべきではない、なぜなら少し多くの炭素を燃やすかもしれないから」とか、「AIをやるべきではない、なぜならバイアスに完全に対処していないから」と言いたがる人々がいるでしょう。しかし、数年後には両方の問題で大きな進歩を遂げていることがわかります。反進歩的な傾向、反「人々はより良い生活を送るべきだ」という傾向は、通常、最初から特権を持っている人々から来るものです。私はみなさんがそれと戦うことを望みます。
[拍手]
そうですね。MITに外部から来たばかりの私にとって、これはMITの本質的なものだと思います。問題を指摘し、それを解決する方法を見つけ出すことです。ここにいられて本当に嬉しいです。
素晴らしいです。私たちもあなたがここにいてくれて嬉しいです。
あなたが言ったもう一つのことで、私の心に響いたのは、AIのコストについて考えるとき、単に金銭的なコストだけでなく、気候やその他のコストについて考える際に、AIが問題に貢献できることを差し引くという考え方です。長期的な視点でバランスシートを見ることが重要だと思います。
そうですね、それは興味深いです。OpenAIは、科学や工学に特に影響を与えるツールを構築する予定ですか? それとも、ビジネスや消費者向けアプリケーションにより焦点を当てますか?
確かに、そのようなツールを構築する予定です。個人的に最も興味があるのは、科学的発見の速度を上げるためにAIをどのように使うかということです。それが人類の進歩の核心的なエンジンであり、先ほど話した持続可能な経済成長を推進する唯一の方法だと信じています。人々はGPT-4に満足せず、GPT-5を望んでいます。より良く、より速くなることを望んでいます。誰もがより多く、より良く、より速いものを欲しがっています。そして、科学がそれを実現する方法なのです。
AIが行うすべての素晴らしいことの中で、個人的に最も情熱を注いでいるのは、科学に与えるであろう影響、与えると期待される影響です。
とは言え、これらすべてが私たちが考えているよりも一次元的かもしれません。人々が直面するあらゆる種類の問題を解決するのに役立つ素晴らしいAIツールを作れば、新しい方法で推論するのに役立つツールを作れば、それは消費者にとっても、科学者にとっても、ビジネスにとっても、教育にとっても素晴らしいものになります。AGIのGの部分、つまり「一般的」という部分が驚くべき点かもしれません。
なるほど、それは本当に興味深いですね。あなたの古い車に乗って図書館に行くというコメントに戻りますが、創造性の部分はまだ人間のものですが、出発点として使用できるすべての知識を集約する多くの部分は、AIに最初にいくつかの重要な質問をすることで本当に加速できますね。
その通りです。個人が、そして確実に私たちのグループが何をできるようになるか、10年後や20年後の私たちの能力を今見ることができたら、驚くでしょう。
おそらく数年後には、私たち一人一人が優秀な秘書や、あるいは博士課程の学生のような存在を持ち、自分自身を最適化し、最高の仕事をし、最高のアイデアを出すのを手伝ってくれるでしょう。そして、いつかは私たち一人一人が、あらゆる分野の優秀な専門家からなる完全な会社を持ち、非常に生産的に協力して働くようになるかもしれません。
素晴らしいですね。若い研究者や研究者を目指す人々が多くいる聴衆に対して、どのようなアドバイスがありますか? 世界に本当の影響を与えるための一般的なアドバイスは何ですか? 可能性について考え、暗い寝室に座っていないことについては言及しましたが、それは良い基本的な推奨事項だと思います。この聴衆に他に何を言いたいですか?
まず第一に、これは恐らく数十年、あるいは史上最も興奮するキャリアをスタートさせる時期だと思います。わかりませんが、何であれ、これは本当に大きなことです。この大きな追い風があるということは、通常よりも多くのリスクを取れると思います。何かをやって上手くいかなくても、長期間にわたって素晴らしい機会がたくさんあるでしょう。
通常よりも大きな影響を与えることができ、これを一生懸命働く期間にすることにプレミアムがあります。もちろんAIで何かをすることに偏っていると思います。でも、もちろん私がそう言うのは当然なので、間違っているかもしれません。
一般的に、キャリアの初期に学ぶべき最も重要な教訓は、何でも自分で解決できるということです。誰も最初からすべての答えを持っているわけではありませんが、ただつまずきながら進み、速いイテレーション速度を持ち、最も興味深い問題に向かって進み、最も印象的な人々の周りにいて、正しいことに向かって徐々に改善していくという信頼を持つことが重要です。
そして、思っているよりも多くのこと、思っているよりも速くできるのです。人々がこの教訓を学ぶには時間がかかりますが、何度か成功するのを見ると、本当にそれを信じるようになります。だから、ただ物事をやればいいのです。本当のアドバイスではないとか、とても空虚に聞こえるかもしれませんが、表面上聞こえる以上に深遠だと思います。
もう一つ言えることは、比較的早い段階で、自分の個人的な、何と呼べばいいかわかりませんが、情熱や使命声明のようなもの、時間の使い方や本当に気にかけていることを見つけることです。これには練習が必要です。
私たちは、繁栄とより良い生活を人々にもたらす方法として「テクノ豊かさ」という概念について話しましたが、それは私にとって常に強く共鳴するものであり、常にそれに取り組む方法を見つけようとしてきました。しかし、時間の配分方法や物事をどの方向に導くかを決定する際の指針となる原則のようなものを自分で発展させることは、私にとって非常に役立ってきました。
なるほど、情熱に従い、また、あなたが描く無限の可能性のある世界では、自分にとって良いと思われることについて常に戦略的になれるわけではありません。そのすべての可能性を想像し、その情熱に従うことをしたいものですね。
その通りです。私にとって、情熱という言葉は正確ではありません。それは「私が取り組むべき道徳的義務は何か」というようなものに近いです。本当に楽しくない日でも、単に最も好きなことをするよりも、はるかにモチベーションになります。
それは興味深いですね。これに関連して、実際にMITの文化の核心的な部分である起業家精神があります。多くの起業家志望の人がいますが、基本的なアイデアを開発することに加えて、今日のエコシステムで成功する企業を構築することについてどのように考えていますか? 新しいスタートアップはどの部分に焦点を当てるべきでしょうか?
これは特に新しいスタートアップにとって、長い間で最高の時期だと思います。スタートアップは通常、大きなプラットフォームの変化の直後に成功します。大企業はスタートアップよりも遅く、革新性が低いですが、他の多くの利点があります。スピードと反復、サイクルタイムの利点が最も得られるのは、地盤が揺れているときです。
今はそのような瞬間だと思います。インターネットが登場したときにもこのような瞬間がありました。モバイルの後にも、より小さいですが同様の瞬間がありました。AWSとクラウドサービスのアイデアの後にも、別の小さな瞬間がありました。そして、非常に長い間、10年以上、私たちはただ待っていました。今、ようやく新しいプラットフォームができたと思います。
歴史が指針になるとすれば（通常はそうですし、今回もそうだと思います）、会社を立ち上げるのに素晴らしい時期です。会社として持つ利点は、はるかに速く動けること、四半期や年間などの計画サイクルを持つ大企業よりも未来に生きることができることです。それが勝つ方法です。これは素晴らしい時期だと思います。
素晴らしいですね。ここにいる多くの人々がそれを心に留めていると思います。
もう一つ言わせてください。これはすべてポジティブな面でした。ここで警告を一つ。新しい技術プラットフォームでは、常に短期的に素晴らしい成長を実現できます。そのため、AIスタートアップには、以前のモバイルスタートアップやそれ以前のインターネットスタートアップと同様に、永続的なビジネスを構築していないクラスがあります。代わりに、一種の目新しいものを構築しています。そして、素晴らしい速い成長が得られ、この魔法のような新技術があるため、自分を欺いてしまいます。まだ埃が落ち着いていないからです。
魔法のような新技術があるからといって、ビジネスの物理法則を免れることはできません。何らかの切り替えコスト、顧客との関係、時間とともに複利的に増加する利点を見つける方法を考え出す必要があります。ゴールドラッシュの時期には、スタートアップは自分たちの危険を顧みず、ビジネスが常にしなければならないことをしばしば忘れてしまいます。
なるほど、それは本当に重要なアドバイスですね。
他に興味深いのは、この質問がどのように言い表されているかです。今読み上げますが、あなたの話を聞いた今、少し違う言い方をしたいと思います。質問は「ChatGPTのような技術が、将来の仕事をどのように脅かし、あるいは助けるかもしれないか」というものでした。しかし、あなたの話を聞くと、むしろ助けるという方に傾いているようですが、それが実際にどういう意味を持つのか、人々の将来の雇用にどのように役立つのかについて考えているようですね。
AIに取り組む人々が立ち上がって、真顔で「これは決して仕事の喪失を引き起こすことはありません。これは単に追加的なもので、すべてが素晴らしくなるだけです」と言うのが、私を最も苛立たせることの一つです。これは多くの現在の仕事を排除し、多くの現在の仕事の機能の仕方を変え、そして全く新しい仕事を生み出すでしょう。これは技術とともに常に起こることです。
おそらく、これほど速く起こったことはないでしょう。しかし、私たちは再び自分たちの思い込みに飲み込まれすぎているかもしれません。社会の慣性がそれほど遅くないかもしれません。しかし、初めて本当の経済的影響、良いものも悪いものも、測定可能なものを示すモデルから1、2世代離れているだけだと予想しています。
完全に消えてしまう職種もあるでしょう。大きく変化する必要のある職種もあるでしょう。生産性や報酬、何を測るにせよ、巨大な要因で上昇する職種もあるでしょう。そして、将来の人々にとっては仕事のように感じるが、今日の私たちにとっては完全な贅沢や時間の無駄に見えるものもあるでしょう。ちょうど、私たち多くの人が今日していることが、数百年前の人々には見えるように。
人間が非常に深く創造したいと思い、有用でありたいと思い、相対的な差分的進歩を感じたいと思うと信じている限り（これらはすべて私が強く賭けるものですが）、私たちがすることがなくなることはないと思います。
以前の技術革命を経験した人々の同時代の記録を読むのが大好きです。彼らは「私たちは皆、週に4時間しか働かなくなるだろう、もし働くとしてもね」と言います。それは毎回言われます。ある意味で、今回は違うように感じますし、程度の問題としてはそうかもしれません。速度の問題としては本当にそうだと思います。
このような変化にどれだけ速く適応できるかについては少し懸念がありますが、最終的にはこのような変化に適応できることについては本当の懸念はありません。社会契約は変わるでしょう。将来のほとんどの仕事は今日とは異なるでしょう。しかし、人間の深い動機はどこにも行かないように思えます。明らかに、異なるカテゴリーの仕事が本当に異なる影響を受けることは確かです。
バイデン大統領の最近のAIに関する大統領令や、AIの規制に関する議会の公聴会を受けて、規制の枠組みが確立されたプレイヤーの地位を固めたり、イノベーションや競争、アクセシビリティを阻害したりする可能性があるという懸念があります。次の革新的な技術を先駆ける新興プレイヤーにとってもアクセス可能な状態を保ちながら、イノベーションと競争を維持するためにAIの規制をどのように設計すべきだと考えていますか?
私たちは他の種類の規制でもこのようなバージョンに直面してきました。例えば、スーパーで買う食品が病気にならないことを知りたいと思いますし、そこでの規制は良いことだと皆が同意しています。しかし、裏庭で食品を育てる際に多くの障壁を乗り越える必要がないようにしたいとも思います。そしてそれも可能です。
AIシステムについては、あるしきい値を超えると「OK、このシステムは合理的な安全対策なしではリスクを取りたくないレベルのリスクを提示している」と言うでしょう。そして、誤用があるにもかかわらず、オープンソース化して人々に使わせるべきAIシステムのレベルもあるでしょう。それらの開発企業に規制の負担をかけるべきではありません。
なぜなら、レベルXでは安全性の悪影響よりもイノベーションと自由のトレードオフをする意思があるからです。そしてレベルYは全く異なる可能性があります。規制行動はすべて受け入れられないという衝動はよくわかります。なぜなら、大企業が規制の捕捉のためにそれを利用するだけだからです。
社会がAIを全く規制せず、運を天に任せることを決めたとしても、私は民主的プロセスの結果を受け入れます。しかし、あなたはP Doomの質問から始まりましたよね。もしその質問の枠組みが正しいなら、恐れから行動するのではなく、合理的な注意を払って進むべきだと言う声があるのは有用だと思います。
なるほど、理解できます。
そういえば、あなたは来たる大統領選挙が前回と同じにはならないと言いましたね。私たちはみなそう思っていますが、2020年から学ぶべき教訓があります。これらの教訓は何で、AIがアメリカの民主主義プロセスと将来に与えるリスクをどのように軽減できるでしょうか?
おそらく、高度なAIの使用は、この選挙の最も興味深くない部分になるかもしれません。今の状況を見ると…確かに、より優れたディープフェイクが出てくるでしょうし、より優れたトロール農場も出てくるでしょう。
しかし、より興味深いのは、可能な限り先手を打つことです。言うは易く行うは難しですが、以前は不可能だった新しいことに先手を打とうとすることです。例えば、AIシステムがあなたのすべてのソーシャルメディアの投稿を読み、あなただけをターゲットにしたものを作る、カスタマイズされた一対一の説得などです。これは、前回の選挙でのオンラインの偽情報やトロール行為では本当に不可能でした。これが、私たちがもっと真剣に取り組むべき新しいタイプのものだと思います。
確かに、あなたが言及したように、ウェブをサーフィンしているときに広告が表示されるのと同じように、人々があなたがどんな靴を買うかなど、あなたがどのように考えているかを知っているという論理的な拡張ですね。
その通りです。
もっとローカルな質問ですが、MITの教育の優先事項の一つは、明日のリーダーたちをコンピューティングのバイリンガルに育てることです。つまり、選択した分野に関係なく、自分の仕事を進めるためにはコンピュータサイエンスとAIに堪能である必要があるということです。私たちの考え方の影響について、人々があなたに話しかけるかどうかはわかりませんが、ブレンデッドコンピューティングについて考え、バイリンガルをどのように訓練するか、未来のキャリアについてどのように考え始めることができるか、本当に2つの異なる分野を学び、コンピューティングを他の分野への入り口として使用することについてコメントできますか?
コンピューティングの歴史について一般的に観察することの一つは、時間とともにますますアクセスしやすく、より自然になってきたということです。パンチカードを使っていた人々の話を聞いたことがあります。彼らはそれらを並べ替えるのに狂ったようなシステムを持っていて、落としたらとんでもないことになったそうです。それは使うのに自然なものではありませんでした。
低レベルのプログラミング言語は一歩前進でしたが、それでも世界のほとんどの人が使い方を知っていたり、ある意味で非常に自然なツールだったわけではありません。そして、現在のプログラミング言語に到達すると、それらははるかにアクセスしやすく、使いやすくなっています。また、はるかに表現力があり、より強力です。
その進化とともに、コマンドラインからGUIへ、マウスとキーボードへ、そして単にスマートフォンに触れるだけというように進化しました。それはかなり自然でした。そして言語へと進化しました。これは超自然的です。人々は言語をコンピュータを使う方法として非常に得意としています。ChatGPTに何かを尋ねることもできますが、コンピュータをプログラムする方法でもあります。
これらのものが一つのインターフェースに収束するのを見ました。もはやそれほどバイリンガルである必要はありません。友人や同僚と話すのと同じように、コンピュータと話すことができます。これは表面上聞こえる以上に深遠なことだと思います。
AIと人々が同じ種類のインターフェースを持つことができる程度に、私はもっと興奮しています。例えば、私は他の形態よりも人型ロボットにもっと興奮しています。なぜなら、世界は人間のためにデザインされていて、そのままにしておくべきだと思うからです。しかし、私たちを助けてくれるロボットの利点も欲しいです。
AIシステムには、認知と言語を使って私たちと通信してほしいと思います。これは非常に人間中心のものです。私の希望は、私たち全員がバイリンガルである必要がないということです。
それは興味深いですね。私たちの学生の圧倒的多数が明らかにCSに興味を持っていて、今これらのブレンドされた分野を展開したので、ある意味であなたが話している最初の世代かもしれません。つまり、次の世代には完全に直感的になる人々ですね。
その通りです。とても興味深いですね。
さて、他の人々が提出したバックアップの質問がいくつかあります。AIが金融セクターにどのような影響を与えると思いますか? 銀行業務や株式市場について考えていますが、これについて何か考えたことはありますか?
まず、もしバックアップの質問に入っていて、人々に叫んでもらいたいなら、それでも構いません。そうでなければ、どちらでも構いません。
いくつか他の質問もありますので、もし人々がこのインタビューに関連する質問を叫びたいと強く感じるなら、そうしてもいいでしょう。でも、先に進んでください。
特定の分野について、私が望むほど深く考えたことはありません。汎用人工知能を実現し、それが何を意味するかを理解することに、すべてを費やしてきました。
教育とヘルスケアは、おそらく私が最も考えてきた2つの具体的な分野かもしれません。金融システムのようなものについては、他のすべてのものと同じくらいAIが影響を与えると予想しています。しかし、「これが本当にどのように変革するか」について、深い洞察を持った具体的なことを言えるとは思いません。
教育セクターについてもう少し考えてみましょう。AIを教室で使用することについて人々は心配していますが、私たちが教える方法や個人に合わせてカスタマイズする方法には大きな可能性があると本当に思います。それについて少し話していただけますか?
人々がすでに通常のGPT-4やChatGPTで行っていることを見ると、「チューターのふりをして、この事を学ぶのを手伝ってください」と言うだけでそれがうまく機能するなら、次世代のモデルを使って学習体験をカスタマイズし始めれば、非常に良い状況になるでしょう。人々が既に構築しているものを見るのは素晴らしいことです。
教師たちから、それが生徒たちに与えた影響について聞くのは素晴らしいですし、学生たち自身が学んでいることについて聞くのも素晴らしいです。これは一種の確実に良い使い方のように思えます。
その通りですね。これは提出された質問の一つではありませんが、私は興味深いことをしている人々に会うとき、いつもその人がどのようにしてそこに至ったかに興味があります。つまり、あなたの道筋はどのようなものだったのか、そして今やっていることに至るまでにどのように選択を考えたのかについてです。
そうですね、私はとてもオタクな子供でした。たくさんの時間をSFを読んだり、スタートレックを見たりして過ごしました。それは、すべての現代SFがかなりディストピア的だった時代でしたが、古いもの、古いスタートレックのエピソードはまだ少し楽観的でクールでした。AIがどのように素晴らしくなり、それが明らかに未来であるかを見ることができました。
私は抽象的に「いつかそれに取り組めたらいいな、それはとてもクールだろう」と思っていましたが、実際に起こるとは思っていませんでした。しかし、常に興味はありました。そして、人生は進み、少し年を取り、学校に行き、AIラボで勉強することにしました。
エネルギーにも非常に興味を持ちました。しかし、これは技術を使って豊かさをもたらすことができれば、すべての問題を解決するわけではないが（人々は依然としてあらゆる方法で不幸になる方法を見つけるでしょう）、私が本当にやりたいことだと信じ始めた頃でした。
AIラボで働き、AIがまだ全く機能していないことは明らかでした。これは2004年頃のことです。その後、さまざまなことに手を出し、他のことをたくさんやりました。スタートアップを立ち上げ、スタートアップ投資家になりました。
そして2012年に、AlexNetの論文に気づきました。これが最終的に機能し始めているかもしれないと本当に理解するのに数年かかりましたが、「本当に何かをすべきだ」と思いました。
素晴らしいです。おそらく、ここにいる人々の心にある質問の一つは、誰かを雇うときに何を探すかということでしょう。この聴衆の中には、それを強く知りたがっている人々がいるでしょう。
まず第一に、私たちはあなた方からの連絡を本当に歓迎します。そして、これはおそらくOpenAIの歴史の中で最も、あるいは2番目に興奮する時期だと思います。
ですので、これは私たちに電話をするのに良い時期です。番号は画面に表示されています。私たちが探しているものは何か?まあ、すべての明らかなこと、つまり独創的な思考家、賢く、意欲的で、献身的な人々、特にAIに取り組むことに特に意欲的な人々です。
常に、何であれホットな分野で働く人々のセットがあり、そしてこれが「その」分野だと感じる人々のセットがあります。私たちはこれが彼らの「その」分野である人々を好みます。しかし、それだけです。すべての明らかなことと、特に珍しいものは何もありません。
興味深いですね。もし他のことをしているとしたら、何をしていますか?
フルタイムで核融合に取り組むでしょう。
核融合ですか。他に何かあるとしたら。
ここにもそれに興味を持っている人々が確実にいますね。
数分ありますので…マイクはありませんが、マノリスが手を挙げているのが見えますね。でも、叫んでもらわないといけません。質問を繰り返します。
こんにちは。まず、世界のために行っていることすべてに感謝します。世界で最も賢い子供たち、MITで最も賢い子供たちの一部が私のところに来て、「人間がまだ役立つ、有用な存在である次の5年間をどのように計画すればいいですか?」と聞いてきます。それはショッキングです。なぜなら、私はAIを素晴らしいツールだと見ていて、今はできないような素晴らしいことができる、今行っているすべての平凡なことが置き換えられ、新しい素晴らしいことができるような仕事の未来を楽しみにしているからです。
しかし、人間の知能が古い学校の進化と養育を通じて進歩してきた速度と、AIが進歩している速度（これは信じられないほどです）という2つの曲線を考えると、これらの曲線はすぐに交差するでしょう。人間が持つユニークな能力で、AIで複製できないと思われるものは何でしょうか?それらの能力を複製し、さらに超えるのに役立つかもしれない構造は何でしょうか?そして、人間対機械知能の未来をより広く見てどのように考えていますか?
それに対する2つの相反する答えがあります。
まず、これから先ずっと、「この次の5年間が非常に重要だ、本当に貢献できる時期だ。その後は何が起こるかわからない」と感じ続けるだろうと思います。しかし実際には、常に「今、この知能の曲線がとても速く上昇している。これらのツールを使って凄いことができる。でも最終的にはそれに追い越されてしまう」と感じるでしょう。
しかし、その指数関数的な曲線上のどの点でも、常にツールを使って驚くべきことができ、常に完全に追い越されそうに感じますが、決してそうはならないでしょう。なぜなら、私たちはただより能力が高くなるからです。
以前はこのように考えていませんでしたし、今でも正しいかどうか確信が持てません。しかし、私たちはただより多くのことを成し遂げ、より多くのことができるようになるように思えます。経済に参加するための意志は途方もなく上がるでしょう。でも、この波が私たちを飲み込もうとしていると感じる前に、私たちが成し遂げられることは…常に「この5年間が私のチャンスだ」と感じるでしょうが、それは永遠に続く5年間になるでしょう。
人間は本当に他の人間を気にかけるよう配線されていて、他の人が望むことに焦点を当て、他者に価値を提供することに焦点を当てるよう配線されていると思います。非常に極端な世界を想像できます。そこでは人間のお金と機械のお金が全く別のものになります。しかし、その世界の人間のお金の部分にますますプレミアムがかかるでしょう。
正確にどのようになるかはわかりませんが、人類の生物学的な推進力はそれほど変わらないと信じています。
もう一つの答えは、これは個人的な意見で、よく考えられたり論理的に防御されたものではありません。ただ私が感じていることです。この時代を懐かしく思うだろうと感じています。そして、それを経験している間にそのように感じるのは少し奇妙なことです。
それは本当に興味深いですね。後ろの方に別の手が上がっているのが見えます。
マイクを見える人に渡してもらえますか? 私には…
聞こえますか?
エンドユーザーアプリケーションを構築するスタートアップと、インフラを構築するスタートアップのどちらにより楽観的ですか?
おそらく、現在の段階では、エンドユーザーアプリケーションについてです。正しいものを選ぶ必要があります。モデルが良くなることから恩恵を受けるものを選ぶ必要があります。モデルが実際には良くならないと賭けて、現在の世代の問題を修正しようとするものではありません。しかし、そこには多くの価値があると思います。
インフラを構築するのも素晴らしいかもしれません。両方の方法で本当に成功できると思います。しかし、現時点で100億ドル規模のアプリケーションレイヤーの会社に感じられるものの数、つまり人々にとって本当に信じられないほど有用なことを素早く行える会社の数は、私にとってかなりエキサイティングに思えます。
ええ、この講演をしていただき、ありがとうございます。OpenAIの将来について、特にあなたが見ている未来について質問があります。GPT-6、7、8、9、10、20、30、40、50、60と出していけますが、Soraの創造もありました。多くの企業がAIをバックエンドとして利用する等身大のロボットを作っていたり、多くのテクノロジー企業がChatGPTを自社のLLMの基盤として使用しています。OpenAI特有の将来のニッチについて、LLMモデルを完璧に近づけ始めた後、どのように考えていますか?
私たちがレベルオフし始めるまでには、まだまだ遠い道のりがあるので、現在はそれについて考えていません。少なくとも次の3、4世代のモデルでは、毎回信じられないほど良くすることができると信じています。
それに焦点を当てるべきで、そうすれば他のすべてはうまくいくでしょう。私たちのニッチ、あるいは何と呼ぶにせよ、私たちは素晴らしく有用で印象的な認知能力を、できるだけ豊富に、安価に提供したいと考えています。他にも良いことはできますが、それに焦点を当てれば、世界に対して素晴らしいサービスになり、しばらくの間それを続けることができると思います。
2つの質問があります。1つ目は、その靴をどこで手に入れたのですか?
アディダスがレゴとコラボレーションしました。私はレゴが大好きです。
素晴らしいですね。
私の本当の質問は、人工知能がどのくらい早く実現すると予測しているか、そしてそれを実現する上でのOpenAIの役割は何かということです。
もはや、世界が「はい、これがAGIの閾値を超えた年です」と合意する時が来るとは思っていません。その定義があまりにも過負荷になってしまったと思います。
すぐに到達すると言う人もいると思います。2040年までには…信じられないほど有能なシステムを手に入れたとき、「ああ、まだAGIではない。この1つのことができない」と言う人がたくさんいると思います。
だから、私がこの質問をうまく形成する唯一の方法は、能力X、Y、Zに到達するまでの時間の範囲は何かということです。しかし、AGIという言葉…私にはもうできません。なぜなら、それはOSの深いところにあるようなものだからです。でも、私はもう「AI」という言葉を使わないようにしています。決して成功しないでしょうが。
新しい科学的発見をいくつかの分野で行えるようになるのはいつか、経済的価値を大きく加えられるようになるのはいつか…わかりません。この10年の終わりまでには、本当に大きな経済的価値を生み出すシステムを持つことを期待しています。
素晴らしいですね。では、おそらく最後の質問を聴衆から受け付けて、そして締めくくりたいと思います。はい、誰か最後の質問はありますか?そしてそれから締めくくります。
サム、講演をありがとうございます。より一般的な質問があります。問題を解決しようとしているときに行き詰まり、前に進む方法がわからないとき、どうしますか?行き詰まりを打開しようとするときの考え方はどのようなものですか?
何とか文脈を変えようとします。それについて異なる人々と話そうとします。極端な場合は、本当に物事を変えるために旅行に行きます。行き詰まった問題がある時に時差ボケを好む唯一の時です。新しい文脈で夜中に目が覚めると、役立つように思えます。
しかし、何らかの方法で文脈を変えようとします。
それでは、本当にありがとうございました。とても魅力的な内容でした。みなさんが会話を大いに楽しんでくれたと思います。みなさん、ありがとうございました。
[拍手]
そしてあなたにも感謝します。
素晴らしいです。
コメント