お二人ともご参加いただきありがとうございます。おそらくどちらの方も紹介の必要はないと思いますが、一応記録のために申し上げますと、サリー・コーン氏は2023年1月1日にMITの第18代学長に就任しました。彼女はデューク大学で8年間プロヴォストとして務め、その間に卓越した管理者、創造的な問題解決者、教員の優秀さと学生の幸福のための先導者としての評判を得ました。そして、MITでの最初の1年間で、彼女は多くのイニシアティブの一環としてAIにも焦点を当て、AIが社会全体に広く利益をもたらすようにするMITの努力を証言しています。サム・アルトマンは起業家、投資家、プログラマーであり、2015年にOpenAIを共同設立し、現在はそのCEOです。OpenAIは、人工汎用知能が人類全体に利益をもたらすことを使命とするAI研究と展開の会社です。サムとサリー、今日はご参加いただきありがとうございます。それでは、お二人にマイクをお渡しします。ありがとうございます。
（拍手）
サム：ようこそ、これは私がMITに来て以来、最も人気のあるイベントだと思います。私が質問する内容は学生から提出されたもので、キュレーションされていますが、ここにいる私たちのコミュニティの好奇心とあなたたちへの熱意を反映しています。まずは…ああ、すみません、来てくれてありがとう。
サム：もちろんです。それでは質問に入ります。コラムニストのケビン・ローズや他の人々によると、いくつかのサークルでは「P Doomは何ですか？」という質問がよくあります。多くの人が知っているように、P Doom（破滅の確率）は1から100のスケールで計算され、スコアが高いほど、AIがすべての人類を滅ぼす終末シナリオに終わる可能性が高いと信じています。サム、氷を壊すためにあなたのPは何ですか？
サム：これはあまり良い質問ではないと思います。責任を負わなくてよかったです。これは、賢く重要に見えるための良い方法です。数値を考えるのは楽しいですが、2でも10でも20でも90でも、重要なのはそれがゼロではないということです。また、これは静的なシステムであることを前提としているため、あまり良い質問ではないと思います。私たちがするべきことは、未来を素晴らしいものにする方法を見つけることです。終末のシナリオに陥ることなく、すべての分岐を容認しないことです。しかし、社会は常に終末論者のためのスペースを持ちます。それには価値があります。彼らが存在してくれることに感謝しています。それは私たちが何をしているのかをより深く考えさせるからです。しかし、より良い質問は、安全に十分に航行するために何が必要かということです。
サリー：つまり、その可能性を念頭に置きながら、あまり深く考えすぎないようにするということですね。
サム：それ以上に、それに直面し、それを非常に真剣に受け止める必要があります。
サリー：わかりました。それでは、この業界に少しの間いる中で、AIに対するあなたの見解は過去10年間でどのように変化しましたか？5年10年前には、AIやGPTがこれほど強力になるとは予想していましたか？
サム：正直言って、まだそれほど良いとは思っていません。非常に優れたものにするためには、多くの作業が必要です。10年前には、AIが何かをする生物のようなものや、空に浮かぶ魔法のようなスーパーインテリジェンスがあり、それが物事を解決し、私たちに富を降らせると思っていました。そして私たちはそれをどう扱うかを考えなければなりませんでしたが、それは全て混乱していました。今では、他の技術革新と同じように、最大の利益をもたらす新しいツールだと思います。人々はそれを使って驚くべきものを作り続け、より自律的になっていくでしょうが、それでも社会に統合され、重要で変革的な方法で使われるでしょう。AGIが明日構築されたとしても、10年前には、すべてが一度に変わる絶対的な変革になると予想していたでしょうが、今ではそれが全くそうでないと思います。
サリー：なるほど、つまり当時は楽観的でしたが、現在の状況を正確に予測することはできなかったということですね。
サム：楽観的だったか悲観的だったかはわかりませんが、ある意味で間違っていました。すでに多くの賢い人々がいる世界で、さらに賢いシステムを作ることは素晴らしい成果ですが、科学的発見の速度が10倍になったとしても、それがどれほど違うのかはわかりません。
サリー：それは興味深いですね。現在のモデルについて考えると、AIシステムのバイアスを取り除くために必要なことは何でしょうか？また、今日のAIシステムに存在するバイアスについて考える例を挙げて、それを今後どのように考えるかについて教えてください。
サム：システムを特定の価値観に従って行動させる方法について、驚くほど良い進展を遂げました。GPT-4は比較的うまく動作し、完璧ではないにせよ、ある価値観に従って行動させることができるようになっています。ただし、誰がバイアスの意味を決定し、価値観の意味を決定するかという問題があります。システムが何をすべきかをどのように決定するか、社会がどの程度幅広い範囲を定義するか、またユーザーにどの程度のコントロールを与えるかなど、これから交渉する必要があります。
サリー：興味深いですね。システムが人間よりもバイアスが少ないようにすることは可能でしょうか？
サム：GPT-4やGPT-5は私たちと同じ心理的な欠陥を持っているわけではないでしょうが、人間よりもバイアスが少ないシステムを作ることは可能です。これは目指すべき目標です。
サリー：プライバシーの問題も重要です。個人のプライバシーとAIモデルをトレーニングするための共有データの必要性のバランスをどのように取りますか？
サム：自分のすべてのデータをAIにトレーニングさせることで得られる利点と、プライバシーの懸念をどのようにナビゲートするかを考える必要があります。AIコンパニオンが法廷で証言しないようにするための特権情報の新しい定義が必要かもしれません。
サリー：興味深いですね。オープンネスについても議論がありますが、OpenAIは完全にオープンソースではないものの、他の方法でオープンであると言っています。これについてもう少し詳しく教えてください。
サム：私たちは何百万人もの人々が利用できる無料のAIツールを提供しています。広告を表示せず、公共の利益として提供しています。これは素晴らしいことだと思います。
サリー：AIが生活の一部になるという話は興味深いですね。次の世代のクールなものが何になるのか考えています。
サム：2週間の間は皆がGPT-4について驚いていましたが、3週間目には「次のGPT-5はどこだ」と言っています。それは素晴らしいことです。
サリー：同意します。昨年のAIによる新しい電力需要が環境問題として懸念されていますが、AIが脱炭素化に役立つとも言われています。この緊張関係についてどう考えていますか？
サム：AIは多くのエネルギーを必要としますが、それが他の問題を解決するために役立つなら、それは大きな勝利です。例えば、Googleがエネルギーを使用することが非難されたことがありますが、実際にはエネルギーの節約につながっています。
サリー：AIの費用について話すとき、その貢献を差し引いて考えることが重要ですね。
サム：確かに、AIが科学と工学にどのように影響を与えるかについての質問がありますが、私たちは科学的発見の速度を上げるためにAIを使用することに最も興味があります。それが持続可能な経済成長の原動力であり、私たちの未来を形作ると信じています。
サリー：興味深いですね。AIが金融セクターにどのように影響を与えるかについて考えたことはありますか？
サム：教育と医療については最も考えましたが、金融システムについてはあまり考えていません。ただし、AIが他の分野と同様に金融にも影響を与えると予想しています。
サリー：教育セクターについてもう少し考えましょう。AIが教育にどのように役立つかについて教えてください。
サム：すでにGPT-4を使ってチューターとして学ぶことができることが示されています。Next Generationモデルを使って学習体験をカスタマイズすることで、教育におけるAIの利用は非常に良い結果をもたらすでしょう。
サリー：それは素晴らしいことです。あなたがこの分野に至った経緯について教えてください。
サム：私は子供の頃からSFが好きで、AIが未来の一部になると信じていました。大学ではAIラボで学び、その後スタートアップを立ち上げ、投資家になりました。2012年にAIが実用化され始めたことに気付き、再びAIに注力することにしました。
サリー：興味深いですね。雇用の際に何を重視しますか？
サム：オリジナルな考えを持つ人、賢くて努力家な人、AIに対する情熱を持つ人を求めています。
サリー：もし他の仕事をするなら、何をしますか？
サム：フュージョンエネルギーに取り組みたいです。
サリー：興味深いですね。観客からの質問に答える時間があります。
観客：人間がまだ役立つ間に次の5年間をどのように計画すべきかについての質問があります。AIが人間を超えるときが来ると考えていますか？
サム：AIの進化は非常に速いですが、人間が完全に置き換えられることはないと信じています。人間は他の人間に対して価値を提供するために生まれています。AIが経済的に重要な役割を果たすようになると予想していますが、人間の役割も重要であり続けるでしょう。
サリー：もう一つの質問を受け付けます。
観客：未来の仕事についてどのように考えていますか？
サム：AIは現在の仕事を多く置き換えるでしょうが、新しい仕事も生み出します。技術が進化するたびに、仕事の内容が変わります。人間は創造的であり続け、常に新しいことに挑戦します。
サリー：次の質問に移ります。
観客：AIの規制についてどう考えていますか？
サム：AIシステムには一定のリスクがありますが、適切な規制が必要です。規制がイノベーションを妨げることがないように、合理的な規制が必要です。
サリー：最後の質問です。
観客：OpenAIの未来についてどう考えていますか？
サム：AGIの実現にはまだ時間がかかりますが、AIの能力を向上させることが私たちの目標です。次の数世代のモデルでもっと良いものを作ることに集中します。」
サリー：「本当に興味深いお話をありがとうございました。皆さん、どうもありがとうございました。（拍手）
コメント