OpenAIのCEOサム・アルトマンがTED2025で行った講演の完全記録である。ChatGPTの爆発的成長、Soraなどの最新AI技術、エージェント型AIの可能性と危険性、AGI（汎用人工知能）の定義と到達時期、AI安全性への取り組み、クリエイターの権利問題、オープンソース戦略、DeepSeekとの競争について詳しく語っている。また、AI開発における責任と倫理、社会への影響、子育てによる価値観の変化など、技術的側面から個人的な体験まで幅広くカバーした内容となっている。
OpenAIのサム・アルトマンがChatGPT、AIエージェント、そして人工超知能について語る
クリス・アンダーソン：サム、TEDへようこそ。お越しいただき、本当にありがとうございます。
サム・アルトマン：ありがとうございます。光栄です。
クリス・アンダーソン：あなたの会社は、まさに狂気じみた驚くべき新しいモデルを2週間おきぐらいにリリースしているように感じます。私もいくつか試してみました。私が何を試したか、お見せしたいと思います。Soraは画像と動画の生成器ですね。
私はSoraにこう尋ねました：あなたがここTEDで衝撃的な暴露をするとき、それはどのように見えるでしょうか？その想像をご覧になりたいですか？
（笑い）
悪くないですよね？どう評価されますか？全ての手に5本指がありますし。
サム・アルトマン：私が着ているものにとても近いですね。良いと思います。
クリス・アンダーソン：あなたがこれほど生き生きとしているのは見たことがありません。
サム・アルトマン：いえ、私はそれほど生き生きとした人間ではありません。
クリス・アンダーソン：では、B+といったところでしょうか。
しかし、これには本当に驚かされました。知能と意識の違いを示す図を考え出してほしいと頼んだとき、あなたならどうしますか？これがその結果です。とてもシンプルですが、信じられないですね。これを可能にするプロセスとは何でしょうか。これは明らかに単なる画像生成ではありません。あなたの全体モデルが持つ中核知能につながっているのです。
サム・アルトマン：はい、新しい画像生成モデルはGPT-4oの一部なので、そこにすべての知能が入っています。それが人々が本当に愛するようなことを可能にしている理由の一つだと思います。
クリス・アンダーソン：もし私が経営コンサルタントで、こういったものを試しているとしたら、「あ、困った、私の未来はどうなるんだろう」と考えてしまいます。
サム・アルトマン：2つの見方があると思います。「ああ、これは私がやることをすべてやってしまう。私にはどうなるんだ？」と言うこともできますし、歴史上の他のすべての技術革命を通じて、「OK、今この新しいツールがある。私はもっと多くのことができる。私は何ができるようになるんだろう？」と言うこともできます。特定の仕事の人に対する期待は確かに高まりますが、能力は劇的に向上するので、その機会に応えることは容易になると思います。
クリス・アンダーソン：これにも感動しました。私はチャーリー・ブラウンが自分をAIだと考えているところを想像してもらいました。
こんな結果になりました。これは実際、かなり深いと思いました。どう思われますか？
（笑い）
新しいモデルの文章品質は、ここだけでなく、細部においても、本当に新しいレベルに達しています。
サム・アルトマン：これは信じられないようなメタ的な答えですが、実際にそう考えているのか、それとも訓練セットで何度も見たことがあるだけなのか、本当に知る方法はありません。
そしてもちろん、その違いが分からないなら、どれほど気にするでしょうか？
クリス・アンダーソン：それは本当に興味深いですね。私たちには分からない。しかし、一見するとこれは知的財産の盗用のように見えますよね。あなた方は「ピーナッツ」財団と契約していないでしょう？
（拍手）
いくらでも拍手してください。楽しんでください。
（笑いとざわめき）
人間の創造的精神は非常に重要なものだと思いますし、それを高めるツールを構築したいと思っています。新しい人々がより良いアート、より良いコンテンツを作成し、私たちみんなが楽しめるより良い小説を書けるようにするツールです。人間がその中心にいるということを深く信じています。
また、創作物の経済性について、何らかの新しいモデルを見つける必要があるとも思います。
人々は長い間、他者の創造性の上に構築してきたと思います。人々は長い間インスピレーションを得てきました。しかし、創造性へのアクセスが非常に民主化され、人々が常にお互いのアイデアの上に構築するようになると、私たちや他の人々が探求することに興奮している素晴らしい新しいビジネスモデルがあると思います。
それが正確にどのようなものになるかは分かりません。明らかに、他人の作品をコピーしてはいけないといった、明確な部分もあります。しかし、どの程度のインスピレーションを得ることができるでしょうか？もし、この7人のスタイルでアートを生成したいと言い、そのすべての人が同意している場合、どのように各人にどれだけのお金を分配するかをどう決めるのでしょうか？これらは大きな問題です。
しかし、歴史を通じてより良く、より強力な技術をクリエイターの手に渡すたびに、私たちは集合的により良い創作物を得て、人々はより素晴らしいことをするようになると思います。
同意なき使用とクリエイターの権利について
クリス・アンダーソン：さらに大きな問題は、彼らが同意していない場合です。私たちの開会セッションで、キャロル・カドワラダーが「ChatGPT、キャロル・カドワラダーのスタイルで話をしてください」と言って見せたところ、確かに彼女の話ほど良くはありませんでしたが、かなり印象的な話をしました。
そして彼女は「OK、素晴らしいが、私はこれに同意していない」と言いました。これをどう解決するのでしょうか？同意した人だけにするべきでしょうか？それとも、プロンプトで名前を挙げられ、その作品が使用される個人に対して、何かしらの対価を支払うモデルがあるべきでしょうか？
サム・アルトマン：現在、私たちの画像生成機能を使用して生きているアーティストのスタイルで何かを作りたいと言っても、それはやりません。しかし、この特定のような雰囲気のスタイル、このスタジオやこのアート運動のスタイルなどと言えば、やります。
明らかに、楽曲のコピーのような楽曲を出力してくださいと言っても、それはやりません。その線がどこにあるべきか、そして人々がこれは多すぎると言う方法について、私たちは以前に著作権法とフェアユースがどのようなものかという形で解決しました。
再び、AI の世界では、私たちが見つけ出す新しいモデルがあると思います。
クリス・アンダーソン：観点から言うと、クリエイティブな人々は現在最も怒っている人々、またはAIについて最も恐れている人々の一部です。自分の作品が盗まれ、未来が盗まれているという感覚と、自分の作品が増幅され、増幅されうるという感覚では、全く異なる感情です。
もし私たちが後者、2番目のものに移ることができれば、人類全体がこれらすべてを受け入れる方法を本当に変えると思います。
サム・アルトマン：再び、一部のクリエイティブな人々は非常に動揺していると言いたいです。一部のクリエイターは「これは史上最も素晴らしいツールだ、私は信じられないような新しい作品を作っている」と言っています。しかし確実に変化です。
「この変化が起こってほしくない。以前のやり方が良かった」と言う人々に対して、多くの共感を持っています。
クリス・アンダーソン：しかし原則として、任意のプロンプトから、購読収益や何であれ、各回答に向けてどの程度の割合が行くかを計算できるはずです。原則として、残りのルールが解決できれば、何らかの収益分配を計算することは可能でしょう？
サム・アルトマン：もしあなたがミュージシャンで、人生をかけて、子供時代を通じて音楽を聴き、そしてアイデアを得て、以前に聞いたものにインスパイアされた新しい方向の曲を作曲したとしたら、11歳の時に聞いたこの楽曲からこれだけ来たと言うのは非常に困難でしょう。
クリス・アンダーソン：その通りです。しかし、私たちがここで話しているのは、プロンプトで具体的に誰かの名前を挙げる状況です。
サム・アルトマン：再び、現在、名前付きスタイルで画像を生成しようとすると、そのアーティストが生きている場合、私たちはやりません。しかし、このアーティストの名前でやりたいと言い、彼らがオプトインした場合に収益モデルがある新しいモデルを見つけることができれば、素晴らしいと思います。それは探求すべき良いことだと思います。
クリス・アンダーソン：世界があなたがそのモデルを早く見つけるのを手助けすべきだと思います。
そして実際に大きな違いを生むと思います。話題を素早く変えたいと思います。
（拍手）
オープンソースとの競争について
あなたのモデルとオープンソースとの戦い。DeepSeekの登場にどの程度動揺しましたか？
サム・アルトマン：オープンソースには重要な場所があると思います。
実際、昨夜、私たちのオープンソースモデルのパラメータとそれをどう形作りたいかを決めるための最初のコミュニティセッションを開催しました。非常に強力なオープンソースモデルを作ります。これは重要だと思います。フロンティアに近い、現在のオープンソースモデルよりも優れたものを作ると思います。
これがすべてではありません。この部屋にいる一部の人々、あなたや私が好まない方法で使用する人々がいるでしょう。
しかし、ここでの布陣の一部として、オープンソースモデルにとって重要な場所があります。私たちは行動が遅れたと思いますが、今度は本当に上手くやります。
クリス・アンダーソン：DeepSeekが使ったとされる額よりも、桁違い、あるいはそれ以上の桁違いに費やしているようですが、そこには論争があることは分かっています。実際により良いモデルが認識されると確信していますか？それとも、何百億ドルもの投資で大規模に行うことで信じられないようなリードを維持できるという概念にとって、これは実際に生命の危機ではないでしょうか？
サム・アルトマン：一日中、人々に電話をかけてGPUをくれと懇願しています。私たちは非常に制約されています。私たちの成長はこのように上がっています。DeepSeekがローンチしても、それに影響はなかったようです。他のことが起こっています。
クリス・アンダーソン：実際に成長について教えてください。舞台裏で衝撃的な数字を教えてくれましたね。
サム・アルトマン：私が関わった、または関わっていない会社で、ChatGPTの成長のような成長を見たことがありません。本当に楽しいです。深く光栄に感じています。しかし、生きていくのは狂気で、私たちのチームは疲れ切ってストレスを感じています。そして物事を維持しようとしています。
クリス・アンダーソン：現在、何人のユーザーがいますか？
サム・アルトマン：最後に発表したのは週間アクティブユーザー5億人だったと思います。そして非常に急速に成長しています。
クリス・アンダーソン：あなたが私に言ったのは、わずか数週間で倍増したということでした。計算の面で、それとも…
サム・アルトマン：それは私的に言ったことですが、私は推測…
クリス・アンダーソン：ああ。
（笑い）
記憶違いでした、サム、すみません。本当に望むなら編集で削除できます。そして、ここにいる誰もそれをツイートしないでしょう。
サム・アルトマン：非常に急速に成長しています。
（笑い）
内部モデルの進歩について
クリス・アンダーソン：あなたは自信を持っており、ロケットシップのように成長し、離陸するのを見ており、常に信じられないような新しいモデルをリリースしています。まだ世界と共有していないが、ここのステージで愛を込めて語りたい、最高の内部モデルで現在見ているものは何ですか？
サム・アルトマン：まず第一に、このモデルやあのモデルを心配しているかと尋ねましたが、世界には多くの知的なモデルが存在するでしょう。非常にスマートなモデルはある程度コモディティ化されるでしょう。
私たちが最高のものを持ち、一部の用途にはそれが必要でしょう。しかし正直なところ、モデルは今や非常にスマートなので、ほとんどの人がやりたいことのほとんどについて、十分に良いのです。人々が期待を高めるので、時間が経てば変わることを願っています。
しかし、標準的なユーザーとしてChatGPTを使っているなら、モデルの能力は非常にスマートです。しかし、優れたモデルだけでなく、優れた製品を構築しなければなりません。優れたモデルを持つ人はたくさんいるでしょうし、私たちは最高の製品を構築しようとします。
人々は画像生成、先ほどビデオのSoraの例を見ましたが、それらすべてと統合したいのです。
Memoryと呼ばれる新機能をローンチしましたが、以前のMemoryよりもはるかに優れており、このモデルがあなたの生涯にわたってあなたを知るようになります。そして、この素晴らしい統合製品を構築するためのより多くのものが来ます。多くのモデルがありますが、この分野で最高の決定的な製品を構築し続けることを願っています。
クリス・アンダーソン：昨日のあなたの発表で、ChatGPTがすべてのクエリ履歴を知ると聞いた後、「ChatGPT、あなたが知るすべてから私について教えて」と入力しました。私の顎が落ちました、サム、衝撃的でした。私が誰で、おそらくほとんどが適切で共有可能な様々な興味を知っていました。
それは驚くべきことでした。そして、それがどれほど私にとって有用になるかという、本当の興奮の感覚を感じました。少し気持ち悪くもありましたが、主に興奮でした。
サム・アルトマン：私たちの研究者の一人が昨日または今朝ツイートしましたが、アップロードは少しずつ起こります。ある日脳を繋ぐわけではありません。
しかし、あなたは人生を通じてChatGPTと話し、いつかもし望むなら、一日中あなたの話を聞き、あなたがしていることを観察し、あなたを知るようになり、あなた自身の延長、仲間、あなたが最高になるのを助けようとするものになるでしょう。
クリス・アンダーソン：映画「Her」では、AIが基本的に彼のすべてのメールを読んだと発表し、彼が素晴らしい作家だと決めて、出版社に出版するよう説得します。それは思っているより早く来るかもしれません。
サム・アルトマン：正確にそのように起こるとは思いませんが、はい、AIがあなたを助ける、あなたを良くする何かを積極的にプッシュされる方向で何かがあると思います。それは近いうちに起こりそうです。
クリス・アンダーソン：内部で見ている、人々の心を吹き飛ばすであろう今後のものについて、少なくとも次の大きな顎を落とすもののヒントを教えてください。
サム・アルトマン：私が個人的に最も興奮しているのは、現時点でのサイエンスのためのAIです。
世界と人々の生活がより良くなることの最も重要な推進力は新しい科学的発見だと強く信じています。私たちはより少ないものでより多くのことができ、可能なことの最前線を押し広げます。最新のモデルで、科学者たちが実際に以前よりも生産性が高くなったという多くの声を聞き始めています。それが彼らが発見できることに実際に影響しています。
科学における発見の可能性
クリス・アンダーソン：近い将来の発見の可能性として、室温での…
サム・アルトマン：超伝導？
クリス・アンダーソン：超伝導、はい。それは可能ですか？
サム・アルトマン：物理法則によって妨げられているとは思いません。だから可能なはずです。しかし確実ではありません。AI支援ツールによる疾患に対する意味のある進歩を見始めると思います。
物理学は少し時間がかかるかもしれませんが、期待しています。それが一つの方向です。
もう一つの大きなことは、これからの数ヶ月で始まります。ソフトウェア開発はすでにかなり変革されています。
現在のソフトウェア作成プロセスが2年前とどれほど異なるかは非常に驚くべきことです。しかし、エージェント的ソフトウェアエンジニアリングが実際に起こり始めるので、今後数ヶ月でそれと同じ大きな動きを期待しています。
クリス・アンダーソン：エンジニアたちが新しいモデルでほとんど宗教的な瞬間を経験したと聞いたことがあります。突然、2年かかっていたことを一午後でできるようになったのです。
サム・アルトマン：はい、それは心を…それは本当に、それは私の大きな「AGIを感じる」瞬間の一つでした。
恐ろしい瞬間について
クリス・アンダーソン：しかし、あなたが見た最も恐ろしいことについて話してください。外では、多くの人々があなたを、このようなものにアクセスできる人として描いています。そして、AIから出てくる様々な噂を聞きます。「ああ、神様、彼らは意識を見た」とか「彼らはAGIを見た」とか「何らかの黙示録が来るのを見た」とか。
内部で何かを見て「あー、これに注意する必要がある」と思った恐ろしい瞬間はありましたか？
サム・アルトマン：畏敬の瞬間はありました。そしてそれと共に常に、これはどこまで行くのか？これは何になるのか？という思いがあります。しかし、私たちが意識的なモデルや自己改善が可能な何かを秘密裏に持っているということはありません。
人々はAIの大きなリスクが何になるかについて非常に異なる見解を持っています。そして私自身、私たちがそれらを見ることになる場所について考えを進化させてきました。人々が大きな方法で悪用できる非常に強力なモデルが来ると信じ続けています。人々は新しい種類のバイオテロの可能性について多く話し、本当のサイバーセキュリティの挑戦を提示できるモデル、何らかのコントロールの喪失につながる方法で自己改善が可能なモデルがあります。
そこには大きなリスクがあると思います。そして正直なところ、多くの人が意味すると思う他の多くのことがあります。人々が誤情報や、彼らが好まないことをモデルが言うことなどについて話すときのことです。
クリス・アンダーソン：最初のものにこだわって、リリース前に内部でそれをチェックしますか？
サム・アルトマン：もちろん、はい。
それをどう行うかを概説する準備体制フレームワークがあります。
クリス・アンダーソン：安全チームからいくつかの離脱がありました。何人が去り、なぜ彼らは去ったのですか？
サム・アルトマン：正確な数は分かりませんが、AI安全システムについて明らかに異なる見解があります。私は本当に私たちの実績を指摘したいと思います。人々は様々なことを言うでしょう。
現在、世界の約10パーセントが私たちのシステムを多く使用しています。そして私たちは安全実績を非常に誇りに思っています。
クリス・アンダーソン：しかし、実績はある意味問題ではありません…
サム・アルトマン：いえ、それはある種そうです。
クリス・アンダーソン：なぜなら、私たちは指数関数的に成長する力について話しており、ある日目が覚めたら世界が終わっているかもしれないという恐れがあるからです。だから実績の問題ではなく、危険を見た時に迅速に物事を停止する仕組みが整っていると説得力を持って言えるかどうかです。
サム・アルトマン：はい、もちろん、もちろんそれは重要です。ある日起きて「安全プロセスが整っていなかった。今モデルが本当にスマートだと思う。だから今安全を気にしなければならない」と言うわけではありません。この指数曲線全体を通じて安全を気にしなければなりません。もちろん、リスクは増加し、大きな挑戦があります。
しかし、安全なシステムの構築方法を学ぶ方法は、比較的リスクが低い間に世界に展開し、フィードバックを得て、これは対処しなければならないことだと学ぶ反復プロセスです。そして、これらのエージェント的システムに移行するにつれて、学習して対処しなければならない全く新しいカテゴリの大きなことがあると思います。
AGIとエージェント的システムについて
クリス・アンダーソン：では、エージェント的システムとAGIの関係について話しましょう。混乱があると思いますし、私も混乱しています。汎用人工知能、ChatGPTはすでに汎用知能のように感じます。何でも質問できて、知的な答えが返ってきます。
なぜそれはAGIではないのですか？
サム・アルトマン：それは…まず第一に、何でも質問できるわけではありません。それはとても親切な言い方ですが、まだ恥ずかしいほど下手なことがたくさんあります。しかし、それらを修正できたとしても、うまくいけば修正できるでしょうが、継続的に学習し改善することができません。現在弱い何かについて良くなることができません。新しい科学を発見し、理解を更新してそれを行うことができません。
また、基準を下げたとしても、コンピュータの前でできるあらゆる知識労働を行うことはできません。実際、まだ知らない何かについて良くなる能力がなくても、AGIの定義として受け入れるかもしれません。しかし、現在のシステムでは、「私の仕事でこのタスクをしてください」と言って、インターネットをクリックして誰かに電話をかけてファイルを見てそれを行うことはできません。それなしでは、確実に不足していると感じます。
クリス・アンダーソン：内部でAGIとは何かの明確な定義があり、いつそこに到達すると思いますか？
サム・アルトマン：部屋に10人のOpenAI研究者がいてAGIを定義するよう求めたら、14の定義が得られるというジョークのようなものです。
クリス・アンダーソン：それは心配ですね。なぜなら、それが当初のミッションだったからです。「私たちは最初にAGIに到達します。安全に行います。しかし、それが何かの明確な定義がありません。」
サム・アルトマン：答えを終わらせるつもりでした。
クリス・アンダーソン：すみません。
サム・アルトマン：しかし、重要なことで、人々が知りたがっていることは、「私たちは終わった」という魔法の瞬間がどこにあるかではありません。しかし、起こりそうなことは、モデルがよりスマートでより有能に、よりスマートでより有能になっていく、この長い指数関数的成長のように見えることです。異なる人々が異なる時点でそれをAGIと呼ぶでしょう。しかし、私たちは皆、それがその先にはるかに進むことに同意しています。
私たちよりもはるかに有能になるこれらのシステムを何と呼びたいにせよ。重要なことは、システムが私たちよりも有能になり、システムが私たちが完全に理解していないことを行えるようになるにつれて、これらすべてのステップとその先を通じて安全なシステムについて話す方法です。
AGIがいつ来るか、その定義が何かよりも重要だと思うのは、私たちがこの信じられない指数曲線の中にいることを認識することです。これがAGIだと思うと言うことができます。あなたはこれがAGIだと思うと言うことができます。他の誰かは人工超知能はここにあると言うことができますが、私たちはこの信じられないシステムから素晴らしい利益を得て、それに対処しなければなりません。
そして、AGIの瞬間が何かという会話から、これは止まらない、私たちの誰もがAGIと呼ぶもののはるかに先に行くという認識に会話をシフトさせるべきだと思います。そして、これの途方もない利益を得て、それを安全にする方法を見つけるために社会を構築しなければなりません。
エージェント的AIの挑戦
クリス・アンダーソン：今週の会話の一つは、本当の変化の瞬間は、AGIは曖昧なものですが、明確なのはエージェント的AIだということでした。AIが自らプロジェクトを追求し、断片をまとめるために自由に設定される時です。実際、あなたにはOperatorと呼ばれるものがあり、これを始めています。試してみました。レストランを予約したかったのですが、かなり信じられませんでした。ちょっと進んでそれを行うことができますが、これが言ったことです。
それは興味深いプロセスでした。「クレジットカードを教えて」その他すべてで、この場合は進むことを断りました。しかし、これが人々が持つであろう挑戦だと思います。信じられない超能力のようなものです。少し恐ろしくもあります。ヨシュア・ベンジオがここで話した時、エージェント的AIが注意を払うべきものだと言いました。
AIがインターネットに出て物事を行う力を与える時、すべてが間違った方向に行く可能性があります。SF小説では、インターネットに出ることは常に、逃亡が起こり、潜在的に物事がひどく間違う可能性がある瞬間でした。エージェント的AIをリリースしながら、それが行き過ぎないような防護柵を設置するにはどうすればよいですか？
サム・アルトマン：まず第一に、明らかにこれをしないことを選択して、「これは欲しくない。レストランに電話して電話でクレジットカードを読み上げます」と言うことができます。
クリス・アンダーソン：私は選択できますが、他の誰かが「ああ、ChatGPT、インターネット全体に出て行って、人間のためにより良くするためにインターネットを書き換えて」などと言うかもしれません。
サム・アルトマン：私が言おうとしていたポイントは、新しい技術では、人々が快適になるまで時間がかかるということです。
両親がインターネットにクレジットカードを置いてはいけないと説得したので、誰かが番号を読むだろうと思って、フォームに記入してから電話をかけなければならなかった時のことを覚えています。そして、私たちは皆、OK、詐欺防止システムを構築し、これで快適になれると言いました。人々は多くの方法でエージェント的AIに慣れるのに時間がかかると思います。
しかし、あなたが言ったことにも本当に同感です。一部の人々が快適で他の人々がそうでなくても、インターネットをクリックするAIシステムが存在することになります。そして、これは私たちがまだ直面した中で最も興味深く重要な安全上の挑戦だと思います。あなたのシステム、情報、コンピュータをクリックする能力にアクセスを与えるAIは、AIが間違いを犯した時、はるかに高いリスクです。
これは…先ほど安全と能力について話しましたが、それらはますます一次元になっていると思います。良い製品は安全な製品です。銀行口座を空にしたり、データを削除したり、他に何をするか分からないようなことをしないと信頼できなければ、私たちのエージェントを使用しないでしょう。
そして、人々は本当に信頼でき、本当に安全なエージェントを使いたがります。そして、それを行う能力の進歩は、それを行う能力にかかっていると思います。しかし、それは製品の基本的な部分です。
クリス・アンダーソン：エージェンシーが存在し、たとえばオープンモデルが広く配布され、誰かが「OK、AGI、インターネットに出て行って、X人は悪だというミームをどんな方法でも広めて」などと言う世界では。
個人の選択である必要はありません。一人の人がそのエージェントを外に出すことができ、エージェントはその機能を実行するために、どこでも自分自身をコピーしなければならないと決めるかもしれません。これを超えることはできないと明確に知っている危険な瞬間がどこにあるか、内部で明確に引いた赤い線はありますか？
サム・アルトマン：はい、それが私たちの準備体制フレームワークの目的です。そして、時間が経つにつれてそれを更新します。
しかし、最も重要な危険な瞬間がどこにあるか、カテゴリが何か、それをどう測定するか、そしてリリース前にどう軽減するかを概説しようとしました。この会話から、あなたがAIの大ファンではないことが分かります。
クリス・アンダーソン：実際は逆で、毎日使っています。畏敬の念を抱いています。これは生きるのに信じられない時代だと思います。
他のいかなる時代にも生きたくありませんし、それがどこに向かうか待ちきれません。私たちは保持してきました…それらのキャンプに人々を分けることはできないと思います。可能性への情熱的な信念を持たなければなりませんが、物事がひどく間違う可能性があるため、それに過度に誘惑されてはいけません。
（拍手）
サム・アルトマン：私が言おうとしていたのは、それを完全に理解するということです。これを見て、世界に来る信じられない変化だと言うことを完全に理解します。
そして、これを望まないかもしれませんし、その一部を愛するかもしれません。ChatGPTと話すのは好きだが、アートに何が起こるか心配し、変化のペースを心配し、これらのエージェントがインターネットをクリックすることを心配するかもしれません。そして、全体的に、これが起こっていなければよかったと思うかもしれません。または、もう少しゆっくり起こっていればよかったと思うかもしれません。
または、進歩のどの部分が起こるかを選択できる方法で起こっていればよかったと思うかもしれません。恐れは完全に合理的だと思います。不安は完全に合理的です。私たちも皆それをたくさん持っています。
しかし…A、途方もない利点があります。明らかに、毎日使っていて、気に入っていますね。
B…私は社会が時間が経つにつれて、道中でいくつかの大きな間違いを犯しながら、技術を正しく理解する方法を見つけると本当に信じています。
そしてC、これは起こります。これは世界が今知っている基本物理学の発見のようなものです。そして、それは私たちの世界の一部になります。そして、この会話は本当に重要だと思います。
これらの危険領域について話すことは本当に重要です。新しい経済モデルは本当に重要です。しかし、注意深く、しかし恐れではなく、これを受け入れなければなりません。さもなければ、AIを使ってより良いことをする他の人々によって追い越されてしまいます。
政府の役割と安全性について
クリス・アンダーソン：あなたは実際、安全性の最も雄弁な提唱者の一人でした。上院で証言しました。
基本的に、あらゆる取り組みにライセンスを与える新しい安全機関を設立すべきだと言ったと思います。つまり、特定の取り組みにライセンスを拒否するということです。その政策提案をまだ信じていますか？
サム・アルトマン：政府がどう機能するかについてより多くを学びました。これが全く正しい政策提案だとは思いません。
クリス・アンダーソン：正しい政策提案は何ですか？
サム・アルトマン：しかし、これらのシステムがより高度になり、正当なグローバルな影響を持つようになるにつれて、何らかの方法が必要だという考えは信じています。企業自体がこれに対する適切なフレームワークや適切なモデルをまとめるかもしれませんが、非常に高度なモデルが外部安全テストを受ける何らかの方法が必要です。
そして、これらの危険ゾーンの近くに来た時を理解します。それを非常に強く信じています。
クリス・アンダーソン：安全機関が私たちが欲しいものかもしれないのに、エージェンシーがまさに安全でないものだというのは皮肉だと感じました。そこには言語について奇妙な何かがありますが、とにかく。
サム・アルトマン：もう一つ言わせてください。モデルに対する厳格なテストを定義し、私たち、集合的に、社会が最も焦点を当てたい脅威が何かを理解し、モデルがより有能になるにつれて、世界にリリースされるものを私たち皆が理解するシステムを持つ必要があるという概念は本当に重要だと思います。
そして、その意味で大きな公共の関心を持つモデルからそれほど遠くないと思います。
o1-proの質問について
クリス・アンダーソン：では、サム、私はあなたのo1-pro推論モデルに尋ねました。これは信じられないほど…
サム・アルトマン：200ドルをありがとうございます。
クリス・アンダーソン：（笑い）月200ドル。その価格でお得です。
私が尋ねることができる最も鋭い質問は何かと言いました。2分間考えました。2分間です。その質問を見たいですか？
サム・アルトマン：はい。
クリス・アンダーソン：「サム、あなたは私たちの種全体の運命を再形成する可能性のある技術の創造を手助けしているのですが、あなた（または誰でも）にそれを行う道徳的権威を与えたのは誰ですか？」
（笑い）
「そして、あなたが間違っていた場合、個人的にどのように責任を負いますか？」
サム・アルトマン：いえ、良い質問でした。
クリス・アンダーソン：印象的でした。
サム・アルトマン：あなたは過去30分間、私にこの質問のバージョンを尋ねてきました。
どう思いますか？
（笑いと拍手）
クリス・アンダーソン：私が言うのは次のことです。これが私のバージョンのその質問です。
サム・アルトマン：しかし答えはないですか？
クリス・アンダーソン：あなたの私への質問は何でしたか？
サム・アルトマン：その質問にどう答えますか？
クリス・アンダーソン：あなたの立場で？
サム・アルトマン：または外部者として。
クリス・アンダーソン：分かりません。私はあなたに困惑しています。あなたにちょっと畏敬の念を抱いています。あなたは最も驚くべきものの一つを構築したからです。
あなたについて2つの物語があります。一つは、あなたは不可能なことを成し遂げたこの信じられない先見者だということです。世界に衝撃を与えました。Googleよりもはるかに少ない人数で、行われていたどんなものよりもはるかに強力なものを出しました。あなたが構築したものは素晴らしいです。
しかし、もう一つの物語は、あなたが立場を変えたということです。OpenAI、このオープンなものから、超強力なものを構築する魅力に移ったということです。そして、重要な人々の一部を失いました。そこには物語があります。一部の人々は、あなたがこの分野で信頼されるべきではないと信じています。私はあなたが誰であるかを知りたいです。
あなた自身についてのあなたの物語は何ですか？これほど多くの力を持つ誰かがそれに値するという、世界である私たちに信頼を与えることができるあなたの核となる価値観は何ですか、サム？
サム・アルトマンの自己認識
サム・アルトマン：見てください、他の誰とも同じように、私は一つの次元にうまく還元されない微妙なキャラクターだと思います。おそらく良いことの一部は真実で、おそらく批判の一部も真実でしょう。
OpenAIに関して、私たちの目標はAGIを作り、それを配布し、安全にし、人類の広範な利益のためにすることです。あらゆる面で、私たちはその方向で多くのことを行ったと思います。明らかに、私たちの戦術は時間が経つにつれて変化しました。私たちが成長した時に何になるかを本当に知らなかったと思います。これを中心に会社を構築しなければならないとは思いませんでした。
これらのシステムが資本から必要とするものの現実について多くを学びました。しかし、高度な安全性を持つ信じられないほど有能なAIを多くの人々の手に渡し、彼らが行う素晴らしいことは何でもするためのツールを与えるという点で、私たちに悪い評価を与えるのは困難だと思います。
もっとオープンソースにするべきだとは思います。先ほど尋ねられたすべての理由で、これらのシステムが持つ影響とそれらを安全にする方法について確信が持てなかったので、注意深く行動したのは合理的だったと思います。先ほどの質問の多くは、私たちがそのように運営してきたことに少なくとも何らかの同情を示唆するでしょう。
しかし今、世界として、より良い理解を持っていると思いますし、非常に有能なオープンシステムを世界に出す時が来たと思います。来年私を招待してくれれば、これらのオープンソースシステムを悪用した誰かのために私を叱り、「なぜそんなことをしたのか？」「オープンなルーツに戻るべきではなかった」と言うでしょう。
しかし、私たちが行うすべてにはトレードオフがあります。そして、私たちはこのAI革命の一人のプレーヤー、一つの声として、最善を尽くし、この技術を責任ある方法で世界に導こうとしています。確実に間違いを犯しましたし、将来も確実にもっと犯すでしょう。
全体として、ほぼ10年間、長い時間ですが、私たちは主に設定したことを行ってきたと思います。私たちの前には長い道のりがあります。私たちの戦術は将来さらに変化するでしょうが、この種のミッションと私たちがしようとしていることへの固執は非常に強いと思います。
（拍手）
力の腐敗について
クリス・アンダーソン：あなたはこれを投稿しました…OK、では、これは「ロード・オブ・ザ・リング」の力の指輪です。
あなたのライバル、現在あなたの親友ではない、イーロン・マスクは、あなたが力の指輪によって堕落したと思うと主張しました。ちなみに、それは…
（笑い）
サム・アルトマン：こんにちは、スティーブ。
クリス・アンダーソン：ちなみに、公平に言えば、イーロンにも適用される可能性のある告発です。しかし、私は興味があります。人々、あなたは…
サム・アルトマン：応答するかもしれません。考えています。何か言うかもしれません。
（笑い）
クリス・アンダーソン：技術CEOがより強力になり、より豊かになるのを見るにつれて、彼らがそれを扱えるのか、それとも抗しがたくなるのかというのは皆の心にあります。権力と富によって、時には正しいことをするのが不可能になり、その指輪にしっかりとしがみつかなければならなくなるのでしょうか？どう思いますか？その指輪を時々感じますか？
サム・アルトマン：多くの力を得て、行動を変えたり、世界で多くのことをしたりした他のCEOと比較して、私がどうしていると思いますか？
（拍手）
クリス・アンダーソン：あなたは美しい…あなたは他の人に攻撃的なことを言ったりする失礼で怒りっぽい人ではありません。
サム・アルトマン：時々やります。それが私の唯一の悪癖ですね？
（笑い）
クリス・アンダーソン：いえ、あなたが個人的に自分自身を行う方法は印象的です。
一部の人々が尋ねる質問は、それが本当のあなたなのか、それとも他に何かが起こっているのかということです。
サム・アルトマン：いえ、フィードバックを受け入れます。サウロンの力の指輪か何かを出しましたね。だからフィードバックを受け入れます。私が権力によって堕落したと思う何かを私がしたことは何ですか？
クリス・アンダーソン：恐れは、OpenAIの営利モデルへの移行だと思います。一部の人々は、ほら、そこで堕落したと言います。富への欲求によって堕落しました。
ある時点では、その中に株式はないはずでした。それはあなたを非常に裕福にするでしょう。ちなみに、それがあなたの動機だとは個人的に思いません。あなたは狂気じみてクールなものを構築したいと思うと思います。そして私が心配するのは、他の人々がそれをしているのを見るという競争的な感情で、適切なペースで開発することが不可能になることです。
しかし、あなたに言ってください。もしそれを感じないなら、世界であなたが持っているような能力と可能性を持つ人はほとんどいないので、それがどのような感じかは分かりません。どのような感じですか？
サム・アルトマン：驚くほど、以前と同じです。一歩一歩何にでも慣れることができると思います。
10年前から今まで一度に転送されたような感じなら、非常に方向感覚を失うでしょう。しかし、何でも新しい普通になるので、異なっては感じません。これについてここに座って話すのは奇妙ですが、最高の意味での日常生活の単調さは、まったく同じに感じます。
クリス・アンダーソン：あなたは同じ人です。
サム・アルトマン：あらゆる種類の方法で確実に違いますが、異なっては感じません。
子育てが価値観に与えた影響
クリス・アンダーソン：これはあなたが投稿した美しいもの、あなたの息子です。最後に言ったこと、「このような愛を感じたことがない」、部屋にいる親なら誰でもその感情を知っていると思います。あなたが子供を抱いている時の、AIが決して持つことのない人間の持つ野生の生物学的感情です。
そして、それが物事についてのあなたの考え方を変えたかどうか疑問に思います。たとえば、ここに赤いボックス、赤いボタンが付いた黒いボックスがあるとします。そのボタンを押すと、息子に最も信じられない人生を与える可能性が高いが、彼が破壊される10パーセントの可能性も注入します。そのボタンを押しますか？
サム・アルトマン：文字通りの場合、いいえ。
もし質問が、私の仕事でそれをしているように感じるかということなら、答えは、そのようにも感じません。子供を持つことは多くのことを変えました。そして、これまでに私に起こった最も素晴らしいことで、皆が言うことはすべて真実です。
私の共同創設者イリヤがかつて言ったことは、分かりません。これは言い換えですが、「人生の意味が何かは分からないが、確実に赤ちゃんと関係がある」のようなものです。そして、それは信じられないほど正確です。
特定のことに時間を費やす意欲がどれだけあるかが変わり、子供と一緒にいないコストは狂気じみて高いです。
そして私は…しかし、世界を破壊しないことを以前から本当に気にかけていました。今も本当に気にかけています。その部分に子供は必要ありませんでした。
（拍手）
確実に特に彼にとって未来がどのようになるかについてもっと考えるようになりましたが、皆の未来のために最善のことをする責任を感じています。
競争の必然性について
クリス・アンダーソン：トリスタン・ハリスが今週ここで非常に力強い講演をし、彼の見解では主要な問題は、あなたと他のモデルの同僚たちが皆、基本的に高度なAIの開発は避けられない、レースが始まっている、そのレースに勝とうとし、可能な限り責任を持ってそうする以外に選択肢がないと感じていることだと言いました。
そして、あなたの人工超知能が他の皆のものに対するブレーキとして機能できるシナリオがあるかもしれません。しかし、皆がそれは避けられないと信じているという事実そのものが、深刻なリスクと不安定性への道筋だと。あなたとあなたの同僚がそれは避けられないと感じていると思いますか？そして、私たちが集合的に物事を少し遅くし、社会全体に少し重みを持たせ、いや、これがこんなに早く起こってほしくない、破壊的すぎると言うことができる道筋を見ることができますか？
サム・アルトマン：まず第一に、技術が準備できていない、何かが十分安全でない、何かが機能しないという理由で、人々は常に物事を遅くしていると思います。特定の能力をリリースしない、物事を保留し、延期し、遅らせるすべての努力があると思います。だからこれは起こっていると思います。そして再び、これが実績が重要だと思う場所です。
もし私たちが物事を急いで出して、人々が望むように製品が機能しない、または実際の安全問題やその他の問題があるなど、あらゆる種類の問題があったなら、私たちが行った変更に戻りますが、それはできると思います。ほとんどの努力の間にコミュニケーションがあり、一つの例外があります。ほとんどすべての努力がAI安全性を大いに気にかけていると思います。
そして、これを正しく理解することへの本当に深い配慮があると思います。これを単なる狂気のレースやスプリントとして描く誇張は、人々が迅速にモデルを出して人々のために素晴らしい製品を作ろうとしているが、人々はこれの影響を非常に感じているというニュアンスを見逃しています。
OpenAIや他の会社の会議に座れば、「ああ、これらの人々は本当にこれを気にかけている」と思うでしょう。
安全性への新しいアプローチ
今、私たちは伝統的に安全性として理解されてきたことの一部について考え方を変更しました。
私たちの新しい画像モデルでは、伝統的にスピーチハームと考えられるものについて、ユーザーにはるかに多くの自由を与えました。モデルに腹を立てようとした場合、モデルはあなたが腹を立てることを許可するでしょうか？そして過去には、これについてはるかに厳しいガードレールを持っていました。
しかし、モデルアライメントの一部は、社会が決定する非常に広い境界内で、モデルのユーザーがそれに望むことに従うことだと思います。
モデルに多くの暴力を描写したり、何らかのステレオタイプを強化したりするよう求める場合、それを行うべきかどうかという疑問があります。そして私たちははるかに寛大なスタンスを取っています。それが実世界の害と相互作用し始める場所があり、私たちはその線をどこで引くかを見つけなければなりませんが、企業がOK、社会からフィードバックを聞いた、人々は本当にモデルが意味をなさないと思う方法で検閲することを望まないという場合があると思います。
それは公正な安全性の交渉です。
集合的な意思決定について
クリス・アンダーソン：しかし、これが集合的な、集合的信念の問題である限り、そのような問題の解決は人々を一箇所に集めて異なる合意を作ることです。
もし、ここやそこの世界に、最高の倫理学者、技術者を集めて、あまり多くない、小さなグループで、あなたとあなたの同僚を集めて、世界中で合意された安全ラインを何とか解決しようとする人々のグループがあったとしたら、参加していただけますか？同僚に来るよう促していただけますか？
サム・アルトマン：もちろんですが、私は全体として私たちの何億ものユーザーが何を望むかにはるかに興味があります。
私は、この部屋の多くが歴史的に小さなエリートサミットで決定されてきたと思います。AIについてクールな新しいことの一つは、私たちのAIが地球上の皆と話すことができ、部屋に座って祝福された一握りの人々がこれらの決定を下すのではなく、皆が望む集合的価値選好を学ぶことができるということです。それはとてもクールだと思います。
（拍手）
そして、その方向でもっと多くのことを見ると思います。
画像生成のガードレールについて、部屋のエリートが人々が実際に望んでいることとは異なる意見を持っていて、私たちが実世界の害を指摘できなかったため、私たちがその変更を行った時、私たちは間違いを犯しました。私はそれを誇りに思っています。
（拍手）
クリス・アンダーソン：何億もの人々の行動から生じる意図しない結果の長い実績があります。
サム・アルトマン：部屋の100人が決定を下すこともです。
クリス・アンダーソン：そして何億もの人々は、次のステップが何につながる可能性があるかを必ずしも見ているわけではなく、コントロールしているわけでもありません。
サム・アルトマン：私はAIが私たちをより賢くし、より良い決定を下すのに役立つことができることを希望しています。私たちと話すことができ、もし私たちがX物を欲しいと言うなら、群衆がそれを煽るのではなく、AIが「ねえ、それがあなたが望むことを完全に理解しています。この会話の最後にそれがあなたが望むことなら、あなたがコントロールしています、あなたが選びます。しかし、この人の視点からそれを考慮しましたか、それがこれに与える影響を考慮しましたか？」と言うことができます。
AIは私たちがより賢くなり、以前よりもより良い集合的ガバナンス決定を下すのに役立つと思います。
未来への展望
クリス・アンダーソン：時間がなくなりました。サム、最後の言葉をお願いします。
すべてを考慮して、あなたの息子はどのような世界に成長すると信じていますか？
サム・アルトマン：覚えています…今はとても昔のことで、最初のiPadがいつ出たか分かりません。15年くらい前でしょうか？当時、小さな幼児が医者のオフィスの待合室か何かに座っていて、雑誌、あの古い光沢のある表紙の雑誌があって、幼児が手を置いてこのようにしていて、怒っているYouTubeビデオを見たことを覚えています。
その幼児にとって、それは壊れたiPadのようなものでした。そして彼女は、タッチスクリーンがない世界を考えたことがありませんでした。それを見ていたすべての大人にとって、それは新しくて素晴らしくて奇跡的だったので、この素晴らしいことでした。もちろん、雑誌が世界の仕組みです。
私の子供、私の子供たちは、うまくいけば、AIよりもスマートになることはないでしょう。彼らは、製品やサービスが信じられないほどスマートで、信じられないほど有能でない世界で成長することはないでしょう。コンピュータがあなたを理解しない世界で成長することはないでしょう。そして、ある定義では、あなたが想像できる何でも、あなたが想像できる何でもをするでしょう。
信じられない物質的豊かさの世界になるでしょう。変化の速度が信じられないほど早く、素晴らしい新しいことが起こっている世界になるでしょう。そして、個人の…能力、影響、何であれが、今日一人の人ができることをはるかに超えている世界になるでしょう。
私の子供たちとあなたのすべての子供たちが、私たちを憐れみと郷愁を持って振り返り、「彼らはそんなひどい人生を送っていた。彼らはとても限られていた。世界はとてもひどかった」と言うことを願っています。
それは素晴らしいと思います。
（拍手）
クリス・アンダーソン：あなたが構築したものは信じられません。本当に、信じられません。今後数年間で、あなたはおそらく歴史上のどの人間よりも、最大の機会、最大の道徳的挑戦、下すべき最大の決定のいくつかを持つことになると思います。ここにいる皆が正しいことをするためにあなたを応援していることを知っておいてください。
サム・アルトマン：最善を尽くします、ありがとうございました。
クリス・アンダーソン：TEDにお越しいただき、ありがとうございました。
（拍手）
ありがとうございました。
サム・アルトマン：ありがとうございました。
コメント