この動画では、OpenAIのCEOであるサム・アルトマンがAGI（汎用人工知能）の定義や将来展望について詳しく語っている。AGIから超知能への発展段階、GPT-5のリリース時期、プライバシーの重要性、広告戦略への慎重なアプローチ、Project Stargateの巨額投資計画、そして新しいハードウェア開発まで、AI技術の現在と未来を包括的に論じた内容である。
AGIの定義と超知能への道筋
AGIについてのあなたの定義をお聞きしたいのですが。
多くの意味で、もし5年前に私や他の誰かにソフトウェアの認知能力に基づいてAGIの定義を提案するよう求めたとしたら、当時多くの人が与えたであろう定義は、今ではもうはるかに超えられていると思います。
これらのモデルは今、本当に賢いですよね。そして、どんどん賢くなり続けています。改善し続けています。毎年、AGIシステムに到達したと考える人がますます増えていくと思います。定義がどんどん先に押し出されてより野心的になっていくとしても、それでもより多くの人がそれに同意するでしょう。でも、ご存知のように、私たちは今、本当に人々の生産性を向上させ、価値ある経済的な仕事をすることができるシステムを持っています。
おそらくより良い質問は、私が超知能と呼ぶものには何が必要かということです。もし私たちが新しい科学の自律的発見を行うか、あるいはツールを使用する人々の新しい科学を発見する能力を大幅に向上させることができるシステムを持っていたとしたら、それは私にとってほぼ定義的に超知能のように感じられ、世界にとって素晴らしいことだと思います。
つまり、基本的にそれはある種の勾配のようなもので、どんどん良くなっていき、私たちの定義のそれぞれが「ああ、これは感じる」となるのです。私は内部的にGPT-4に触れた時にそのように感じました。「これで10年間のランウェイがあって、これでとても多くのことができる」と思いました。そしてそれが自分自身を使い始めると、推論は本当に能力がありましたが、あなたがそれが何か新しい定理や証明などを出してきて、そして「おい、私たちはがんのより良い治療法を見つけた」とか「私は何か新しいGLP薬を発見した」とか言った時です。
ええ、つまり私は、人々の生活が良くなることの高次のビットはより多くの科学的進歩だと強く信じています。それが私たちを制限しているものの一種なのです。ですから、もし私たちがもっと多くを発見できるなら、それは本当に非常に大きな影響を与えると思いますし、私にとってそれはとてつもなく興奮するマイルストーンになるでしょう。
他にも多くの素晴らしいAIの用途が生まれると思いますが、その1つが本当に興味深く感じられます。AGIの質問について言えば、多くの人が私に、彼らの個人的な瞬間はo3を使ったoperatorだったと言いました。AIがコンピューターを完璧ではないけれどもかなりうまく使うのを見ることには何かがあります。o3は非常にAGI的に感じられる大きな前進でした。
私には同じ程度にはその効果はありませんでしたが、それはかなり印象的ですが、十分な回数聞きました。私の場合はDeep Researchでした。なぜなら、それは本当にエージェント的な使用法のように感じられ、戻ってきて興味を持っていたトピックについて、以前に読んだものより良いものを作り出したからです。以前のすべてのモデルは、ただ一束の情報源を取得してそれを要約するだけでしたが、システムがインターネットに出かけてデータを取得し、それを追跡し、それからその手がかりを追跡し、それから戻って追跡し、それから私がするように戻ってくるのを見た時でしたが、私よりも上手でした。
最近、この人に会ったのですが、彼はこれらのクレイジーな独学者の一人のような人で、学習に夢中になっており、あらゆることについて知っており、Deep Researchを使って興味を持ったことについてレポートを作成し、そして一日中そこに座ってそれらを素早く消化することが上手になり、次に何を聞くべきかを知っています。
そして、それは本当に学習への異常な食欲を持つ人々にとって素晴らしい新しいツールです。私は文字通り質問をすることができる自分のアプリを作りました。
GPT-5の開発とリリース時期
モデル競争が進行中です。そして質問が出てくるのは、GPT-5のようなもので、そのようなシステムで能力の向上が見られるはずだという考えです。GPT-5の時間枠はどうなっていますか？いつこれを見ることになるのでしょうか？
おそらく今年の夏のどこかでしょうね。正確にいつかはわかりません。私たちが行ったり来たりしていることの一つは、新しいモデルで大きな数字をどの程度上げるべきかということと、GPT-4oで行ったことのように、ただ良く、良く、良く、良くしていくことです。最近のGPT-4が出てくる時にそれを扱わなければならなかった時、一方で3.5と3.5の間でこの種のテストを行わなければなりませんでした。
3.5はどんどん良く、良く、良くなっていき、私が行うことができた比較が変化していました。ですから、私の質問は、GPT-5を知っているかということと、うわあ、これは本当に良いGPT-4.5だ、おそらく必ずしもそうではないということです。つまり、どちらの方向にも行く可能性がありますよね？4.5の反復を続けることもできるし、ある時点で5と呼ぶこともできます。
以前ははるかに明確でした。モデルを訓練してそれを出し、それから新しい大きなモデルを訓練してそれを出していました。ご存知のように、今ではシステムがはるかに複雑になり、継続的に後訓練を行ってそれらを改善することができます。私たちは今これについて考えています。たとえば、GPT-5を立ち上げて、それからそれを更新し、更新し、更新するたびに、GPT-4oで行ったようにGPT-5と呼び続けるべきでしょうか、それとも5.1、5.2、5.3と呼ぶべきでしょうか？そうすればバージョンがいつ変わったかがわかります。
まだこれに対する答えはないと思いますが、4で扱った方法よりも良い何かがあると思います。私たちは明らかにそれと戦うつもりですし、そうなることを期待していますが、勝つと思います。
プライバシーと責任への取り組み
ニューヨーク・タイムズがそれを求めるのは狂気の越権行為だったと思います。これは、ユーザーのプライバシーを重視していると言っている人です。しかし、ここで希望的観測を探すために、これが社会がプライバシーが本当に重要であることを認識する瞬間になることを願っています。プライバシーはAIを使用する核心的な原則である必要があります。ニューヨーク・タイムズのような企業がAIプロバイダーにユーザーのプライバシーを損なうよう求めることはできません。社会がそうする必要があると思います。
ニューヨーク・タイムズがそうしたことは本当に残念だと思いますが、これが社会がプライバシーとAIをどう扱うかについて持つ必要がある会話を加速させることを願っています。そして答えは、私たちがそれを非常に、非常に真剣に受け止めるということであることを願っています。人々は今、ChatGPTとかなりプライベートな会話をしています。ChatGPTは非常に機密性の高い情報源になるでしょうし、私たちにはそれに対するオープンなアプローチのフレームワークが必要だと思います。
その責任をどのように扱うつもりですか？
私たちはまだ広告製品を行っていません。つまり、私は完全に反対ではありません。広告が好きな分野を指摘することができます。Instagramの広告はかなりクールだと思います。私はそこから多くのものを買いましたが、しかし正しく行うには多くの注意が必要だと思います。
人々はChatGPTに非常に高い信頼を置いています。これは興味深いことです。なぜなら、AIは幻覚を起こすので、あまり信頼すべきでない技術のはずだからです。私の友人たちも幻覚を起こすので、私は彼らも信頼しています。人々は本当にそうします。しかし、私はその一部は、私たちをソーシャルメディアやウェブ検索などと比較すると、あなたが収益化されていることがある程度わかり、会社があなたに良い製品やサービスを提供しようとしていることがわかることだと思います。
間違いなくそうですが、また広告をクリックさせたりするようなこともしようとしています。つまり、その会社が実際にあなたにとって最高のコンテンツだと思うものを得ているということをどの程度信じるかということと、広告と相互作用しようとしている何かということです。そこには心理的なものがあると思います。
たとえば、私たちが誰がより多く支払っているかに応じてLLMから戻ってくるストリーム、出力を変更し始めたら、それは本当に悪く感じられ、私はユーザーとしてそれを嫌うでしょう。それは信頼を破壊する瞬間のようなものになると思います。
おそらく、私たちが「ねえ、私たちはそのストリームを変更することは決してないが、そこで何かをクリックした場合、それは私たちがとにかく表示するものであり、私たちは取引収益の少しを得て、それはみんなにとってフラットなものだ」と言えば。もし私たちが、それに対して支払う簡単な方法があるなら、それはうまくいくかもしれません。LLMストリーム、申し訳ありません、LMストリームの外側に、それでも本当に素晴らしい広告があるかもしれません。
しかし、そこでの立証責任は非常に高くなければならないと思いますし、それは本当にユーザーにとって有用に感じられ、LLMの出力を混乱させていないことが本当に明確でなければならないでしょう。
ええ、それは困難なものになるでしょう。解決策があることを願っています。私はChatGPTや本当に良いチャットボットを通じてすべての購入をしたいと思っています。なぜなら、多くの場合、私は最も情報に基づいた決定をしていないと感じているからです。
ええ。いいえ、それは何らかの本当に明確で一致した方法で行うことができれば良いことです。
しかし、私は良いサービスを構築し、人々が私たちにお金を払ってくれることが大好きです。それは非常に明確です。
Project Stargateとコンピュート不足の解決
これに対処するために、非常にクールな名前を持つProject Stargateについて聞きました。それはコンピューターを含んでいます。それ以外に、多くの人が入ってきて、その価格タグ、ご存知のように、5000億ドルについて考えています。
私がお母さんにStargateについて与える簡単な説明は何でしょうか？
それはかなり簡単だと思います。それは前例のない量のコンピュートに資金を提供し、構築する努力です。人々が望むことをさせるのに十分なコンピュートを持っていないことは完全に事実です。しかし、人々がより多くのコンピュートで何ができるかを知っていたら、彼らははるかに、はるかに多くを望むでしょう。
ですから、私たちが今日世界に提供できることと、10倍多いコンピュートで世界に提供できること、またはいつの日か100倍多いコンピュートで提供できることの間には、この信じられないほど巨大なギャップがあります。AIが私が取り組んできた他の技術とは異なることの一つ、または少なくとも世界中の何億、何十億の人々に有用にそれを提供するAIの規模は、インフラ投資がどれほど大きくなければならないかということです。
そして、Stargateは多くの資本と技術と運用の専門知識を一緒にして、次世代のサービスをそれを望むすべての人々に提供し、知能をできるだけ豊富で安価にするためのインフラを構築する努力です。
Project Stargateの開発と国際パートナーシップ、特にUAEについて、そしてイーロン・マスクがそれを妨害しようとしたことについて、あなたは何を見て、何を聞きましたか？
選挙後に、少なくとも内部的に、また外部的にも言ったと思いますが、イーロンが政府での権力を不公正に競争するために乱用することはないと思っていました。私がそれについて間違っていたことを言わなければならないのは残念です。一般的に間違っていることは好きではありませんが、主に彼がこれらのことをするということが国にとって本当に残念だと思います。そして、私は本当に彼がそうするとは思っていませんでした。
政権が本当に正しいことをして、そのような行動に立ち向かったことに感謝しています。しかし、ええ、それはひどいことです。
AI業界の競争環境の変化
私が思うに変わったことは、グレッグ・ブロックマンがこれについて話したところですが、数年前に人々が「最初にそこに到達した人が勝者で、それで終わり、ゲームオーバーだ」と考えていた時期がありました。
そして今、私たちはAnthropicのような他の場所に素晴らしいAIラボがあることを認識しています。素晴らしいツールを構築しています。Googleは本当にゲームを向上させていると思います。あらゆる場所で良いことが起こっており、一人がそれを持って逃げるということはないでしょう。
同意します。そうですね。私が最も好きな例は、AIの発見はこれに類似していました。完璧ではありませんが、多くの驚くべき方法でトランジスタの発見に近いものです。
しかし、多くの企業がその上に素晴らしいものを構築するでしょう。そして最終的には、それはほぼすべての製品に浸透するでしょうが、いつもトランジスタを使うことについて考えることはないでしょう。そうですね、多くの人がこの信じられない科学的発見に基づいて本当に成功した企業を構築すると思います。そして、イーロンがよりゼロサムでなくなることを願っています。
科学的発見への期待と可能性
私はいつも、十分なお金がある時、OpenAIに十分なお金がある時に私たちがすべきことの一つは、巨大な粒子加速器を構築して高エネルギー物理学を一度にすべて解決することだと冗談を言ってきました。それは勝利の素晴らしいことだと思うからです。しかし、本当に、本当に賢いAIが私たちが現在持っているデータを、これ以上のデータなしに、より大きな粒子加速器なしに見て、ただそれを理解する可能性はどれくらいでしょうか。
それは不可能ではありません。そうですね。そして、そうですね。そこにはこのような質問があります。すでにそこには多くのデータがあります。世界には多くの賢い人々がいますが、知能がどこまで行けるかはわかりません。これ以上の実験なしに、どれだけ多くを理解できるでしょうか？
1990年代初頭に誰かがある種のsemaglutideの形を発見し、それを製薬会社に提示して、これだと言ったのに、彼らが「いや、それはパスする」と言ったという話を読んだことを覚えています。そして、それは基本的に慢性肥満などを患っている人々にとって人生を変える薬になっています。それは生活の質を向上させ、あなたは「ああ、これは25年間そこにあった」と思うでしょう。
私たちが見つけるであろう他の多くの例があると思います。おそらく、私たちはすでに何かに良いことをすることがわかっている既存の薬を持っているが、それらは他の何か大きな方法で再利用可能であるか、いくつかの小さな修正で、私たちは何か素晴らしいものに非常に近いのです。
現在の世代のモデルをこのような作業に使用している科学者から聞くことは非常に心強いことでした。
新しいハードウェアの開発
今まで携帯電話を使っていて、今OpenAIがハードウェアを構築していると発表しました。あなたとジョニー・アイブが話している動画がありました。あなたたちが数年間話し合い、協力してきたと話していました。
明らかにあなたは、つまり、今それがあなたにありますかと聞くことはできます。
いいえ、ありません。しばらく時間がかかるでしょう。私たちは狂気的に高いレベルの品質で何かをやろうとしており、それは速くはありません。
しかし、コンピューター、ソフトウェア、ハードウェア、私たちが現在のコンピューターと考える方法は、AIのない世界のために設計されました。そして今、私たちは非常に異なる世界にいます。ハードウェアとソフトウェアから望むものは非常に急速に変化しています。
あなたは環境をはるかに認識し、あなたの人生にはるかに多くのコンテキストを持つ何かを望むかもしれません。タイピングして画面を見るのとは異なる方法でそれと相互作用したいと思うかもしれません。私たちはしばらくの間それを探求してきており、本当に非常に興奮している2つのアイデアを得ています。
人々がこのような世界でコンピューターを使用することが何を意味するかに慣れるのには時間がかかると思います。今では非常に異なっているからです。しかし、もしあなたがAIにあなたの人生のすべてのコンテキストとあなたの質問を理解し、あなたの代わりに良い判断をすることを本当に信頼していたら、それに会議に参加させ、会議全体を聞かせ、誰と何を共有することが許可されているか、誰とも共有すべきでないことは何かを知らせ、あなたの好みがどのようなものかを知らせることができます。
そして、あなたは1つの質問をして、それが適切な人々と適切なフォローアップを行い、あなたがしたいことを成し遂げるためにコンピューターをどのように使用するかの完全に異なる種類を想像することができるのです。
コメント