OpenAIのCEOであるサム・アルトマンが、信頼、説得力、そして知能の未来について語った対談である。彼は生産性の向上、ハードウェアへの進出、優秀な人材の採用、そしてAIモデルの進化について詳述する。特にGPT-5が新たな科学的発見の萌芽を示し、GPT-6がそれを飛躍的に発展させる可能性に言及している。また、核融合や太陽光といった長期的なエネルギー源への投資、AIエージェントによる企業運営の未来、詩作や芸術におけるAIの能力、そして社会がAIとどう向き合うべきかについても議論が展開される。アルトマンは、人間とAIの関係性、規制の必要性、そしてAGI到達後の世界における倫理的課題について、率直かつ深い洞察を提供している。
対談の開始と生産性について
こんにちは、サム。あなたとこれができて嬉しいです。また一緒にできることを楽しみにしています。さて、この2ヶ月ほど、OpenAIが関わる契約が本当にたくさんありましたね。世界を飛び回る話は別としても、多くは地元での契約ですし、Pulseのような新しい製品機能もあります。おそらく元々生産性は高かったと思いますが、これら全てを成し遂げるために、どうやって生産性をさらに高めることができたんですか。
そうですね、つまり、たくさんのことがありますが、一つの結論というものはないと思います。ただ、人は自分が思っているほど時間をうまく配分できていないことがほとんどだと思います。要求や機会が増えるにつれて、より効率的になる方法を見つけ出すんです。
でも、優秀な人材を雇用して昇進させることができましたし、彼らに多くのことを委任して、彼らに仕事を引き受けてもらっています。それが、私が知る唯一の持続可能な方法なんです。また、私たちがやるべきことが明確になってきて、あなたが言ったように、今まさに構築しなければならないインフラがたくさんあります。
私たちの核心的な取り組みが何なのかを理解するように、あるいは私が理解するように努めています。ある意味でシンプルになってきていて、やるべきことが非常に明確です。だからそれは役立っていますね。本当のところ、よくわかりません。もう一つ起きたことは、世界の多くの人たちが私たちと協力したがるようになったので、契約交渉がより迅速になったということですね。
ハードウェアと人材採用
あなたはハードウェアや、ハードウェアに隣接する分野で、はるかに多くのことをやっていますね。優秀なハードウェア人材を採用したり、委任したりすることは、あなたが最初にやっていた優秀なAI人材を採用することとどう違いますか。
消費者向けデバイスのことですか、それともチップのことですか。
両方です。
一つ違うのは、サイクルタイムがずっと長いということです。資本集約度も高いです。失敗のコストも高い。だから、「よし、あなたはこれをやって、うまくいくと信頼します」と言う前に、より多くの時間をかけて人々を知るようにしています。でも、基本的な理論は同じです。優秀で、効果的で、動きが速い人を見つけて、目標を明確にして、彼らに任せる。今年の初めにNvidiaを訪れましたが、素晴らしかったです。
彼らは素晴らしかった。
私には、彼らは非常に賢く見えました。でも、OpenAIのフロアを歩くのとは全く違う感じでした。あなたもNvidiaに行ったことがあると思いますが、人々はTwitterをあまり読まないようで、少なくとも表面上は、彼らはあまり変わっていない。ハードウェアの世界で成功するために把握しなければならない、その無形の違いは何でしょうか。
いいですか、これが良い兆候になるか悪い兆候になるかわかりませんが、私たちのチップチームは、チップ会社というよりもOpenAIの研究チームに似ています。これは驚異的にうまくいくかもしれないと思っています。
つまり、以前の採用方法をハードウェアにも拡張しているわけですね。リスクはありますが。
そうです。
Twitterにこんな人がいます。Runeという名前で、かなり有名になっています。あなたにとってRuneを特別な存在にしているのは何ですか。
彼は、とても、そうですね、非常に横断的な思考をする人です。一つの道を進み始めて、全く別のところに飛べるんですが、同じ軌道を進み続ける。何か非常に異なる文脈で、それはかなり珍しいことです。彼は明らかに、観察を興味深く、有用な、何というか、そういう方法でフレーミングするのが得意で、それが彼との会話を楽しく、かなり有用なものにしています。わかりません。
彼は、一人の人間の頭の中に同時に存在することが少ないような、多くのスキルを統合しているんです。
それが彼の仕事の内容をどう形作っていますか。つまり、あなたは彼についてこれを見て、そして「ああ、Runeはこれをやるべきだ」と思うわけですか。
私は誰かに何かに取り組んでもらうことは滅多にありません。研究者について一つ言えるのは、彼らは自分が取り組みたいことに取り組むということです。そういうものなんです。
誰かがオンラインにエッセイを投稿して、OpenAIで働いていた全期間中、メールを送受信することはほとんどなく、多くのことがSlack上で行われたと言っていました。なぜですか。メールが悪くてSlackがOpenAIにとって良いというあなたのモデルは何ですか。
メールが悪いということには同意します。Slackが良いかどうかはわかりません。
メールは非常に悪いと思います。だから、メールより良いものを作る閾値は高くありません。Slackはメールよりは良いと思います。あなたが観察したように、私たちは同時に多くのことを進めていますし、物事を非常に迅速に行う必要があります。非常に動きの速い組織です。
だから、Slackには良い点もありますが、朝の最初の1時間、寝る前の最後の1時間に、このSlackの爆発的なやり取りに対処するのが本当に嫌です。これが多くの偽の仕事を生み出していると思います。おそらく、現在のオフィス生産性スイート全体、ドキュメント、スライド、メール、Slackなどを置き換える、何か新しいものを構築する必要があります。それはAI駆動型のバージョンになるでしょう。間違った場所を誤ってクリックすると、
文書全体を書こうとしたり、スレッドを要約しようとしたりする、あの恐ろしいものを付け加えるのではなく、実際にあなたのAIエージェントと私のAIエージェントを信頼して、ほとんどのことを解決し、必要なときだけ私たちにエスカレーションする、そういうバージョンです。おそらく、ついに誰かが良い解決策を作る可能性が手の届くところにあると思います。
社内でのAIツール活用
社内でそれを持つまで、どのくらい離れていますか。世界中の人々のための製品ではなく、あらゆる面でテストされたものではないとしても、OpenAIで使うようなものです。
非常に遠いですが、おそらくそれは、私たちが試そうと努力していないからで、モデルがそれほど遠いからではないと思います。
でも、才能、時間、人的資本が会社内で非常に貴重なのに、なぜそれが優先事項にならないのでしょうか。
おそらく、やるべきですね。でも、人は自分のやり方に固執してしまうものですし、今、多くのことが非常にうまくいっているので、大きな新しいことを始めるには、かなりの活性化エネルギーが必要なんです。
GPT-6の特別さと科学への応用
GPT-6についてあなたを特別に感じさせるものは何ですか。
GPT-5です。つまり、GPT-3が精神的なチューリングテストに合格するような何かの兆しを初めて見た瞬間だとすれば、GPT-5は、AIが新しい科学を行うのを初めて垣間見る瞬間です。非常に小さなことですが、あちこちで誰かが「ああ、これを解明した」とか「ああ、この新しいアイデアを思いついた」とか「ああ、この論文の有用な協力者だった」と投稿しています。GPT-6は、GPT-3から4への飛躍のようなものになる可能性があります。それはチューリングテストのようなことで起きましたが、科学においても起こる可能性があります。5にはこれらの小さな兆しがあり、6は本当にそれを実現できるかもしれません。
では、私が科学研究所を運営していて、GPT-6が来ることを知っているとします。それに備えて今、何をすべきでしょうか。
それは常に非常に難しい質問です。このものが来るとわかっていても、今それを持っているとしても、翌朝、正確に何をするのか、ですよね。
つまり、最初にすることは、現在苦労している研究課題を入力することだと思います。そうすれば、「こんなアイデアがある」とか「この実験をやってみろ」とか「この別のことをやれ」とか言ってくれるかもしれません。
でも、もし組織全体を再構築して、GPT-6や7などを中心に据えることを考えているなら、単にトップの人々に現在の知識のアドオンとして使わせるのではなく、組織的に何をすべきでしょうか。
私は企業の文脈でこれについてもっと考えてきました。科学者よりもそちらの方がよく理解しているからです。
これは非常に重要な質問だと思いますし、今のところ、本当にAIを採用して、AIにこれをやらせようと言っている組織にいくつか会ったことがあります。でも、私はこれに非常に興味があります。なぜなら、OpenAIがAI CEOによって運営される最初の大企業でなかったら、私の恥だからです。ただし、その一部だけですよ。
全体ではなく。
それは非常に野心的です。財務部門だけとか。でも、最終的には全体に到達すべきですよね。だから、これを使って、そこから逆算しようとすることができます。そして、AI CEOが私よりもOpenAIの運営をはるかにうまくできるようになるために何が起きなければならないか、という非常に興味深い思考実験だと思います。それは明らかにいつか起こることですが、それをどうやって加速できるか。何がその邪魔をしているのか。これは、私たちが時間をかけて組織を設計する方法や、他のピースや障害物が何かを考える上で、非常に有用な思考実験だとわかりました。
科学研究所を運営している人も同じように考えるべきだと思いますし、異なる結論に達するでしょう。
OpenAIの一つの部門だけが85%AIによって運営されるまで、どのくらいかかると思いますか。
どんな一つの部門でもですか。小さな部門ではなく、重要な部門で、主にAIによって運営される。一桁の年数です。そう遠くない。
そう遠くない。
では、それがいつだと思いますか。いつ「よし、AI CEOさん、あなたが引き継いでください」と言えると思いますか。
CEOは難しいです。なぜなら、あなたも知っているように、CEOの公的な役割はますます重要になってきているからです。例えば、もし私が、つまり、もし誰かが、もし私が政治家のふりができるなら、それは私の自然な強みではありませんが、AIもそれができます。でも、例えば、公に向けたことに関わり続けるとしましょう。実際に良い決定を下し、何をすべきかを理解するということです。
2年半後には、2、3人の人間とAIで運営される10億ドル企業が誕生すると思います。以前は1年後だと思っていましたが、少し先延ばしになったかもしれません。私はAIについてより悲観的になったわけではありません。むしろ人間についてより悲観的になったのかもしれません。あなたの予測は。
私はそれらすべてに同意します。AIはもっと早くそれができると思います。人々は他の人間に対してAIよりもはるかに高い信頼を持っています。たとえそうすべきでなくても、たとえそれが非合理的であっても。これは社会にとって良いことであり、将来にとって良いことだと思います。悪いことではありません。
人々は他の人間に対してAIよりもはるかに高い信頼を持っています。たとえそうすべきでなくても、たとえそれが非合理的であってもです。AI医師の方が優れていても、人間が欲しいとなります。だから、社会がこれに本当に慣れるまで、そして組織内の人々がこれに本当に慣れるまでには、はるかに長い時間がかかるかもしれません。
でも、実際の意思決定に関しては、ほとんどのことについて、AIはかなり早く、かなり優秀になるかもしれません。
あなたは多くの賢い人を雇っています。この非常に賢い人がどれだけAI耐性があるかの指標について、自問していますか。そのための暗黙の精神的テストがあるのか、それとも単に賢い人を雇って、後でうまくいくことを期待しているのでしょうか。
いいえ、そのことについて質問はします。
でも、人々は嘘をつきますよね。OpenAIと話していることを知っているわけですから。実際に彼らの中に何を探しているんですか。
大きなものは、今日、彼らがどのようにAIを使っているかです。そして、「ああ、そうだね、より良いGoogle検索として使っているだけで、それ以外には何もないよ」という人々。それは必ずしも失格ではありませんが、イエローフラグです。
そして、3年後の日常がどうなるかを真剣に考えている人々は、グリーンフラグです。多くの人はそうではありません。彼らは「ああ、そうだね、おそらく本当に賢くなるだろう」と言います。
エネルギーとコンピューティング
科学研究所は今年、GPT-6を手に入れられると思いますか。
今年ではありません。今年ではありません。
非常に難しい質問がここにあります。ご存知のように、あなたも私も原子力発電のファンですが、原子力発電所の保険は政府が提供しています。発電所はかなり安全かもしれませんが、人々は心配します。神経質な人たちです。関係者がたくさんいます。だから、連邦政府が保険を引き受けます。
将来、AI企業についても同じことになるのではないかと心配していますか。連邦政府があなたの保険会社になるとしたら、どう計画しますか。繰り返しますが、原子力発電と同様にAIがかなり安全だとしても、人々は神経質です。どうやってすべてを保証しますか。
ある意味では、何かが十分に巨大になったとき、書類上どうであれ、連邦政府が最後の手段の保険者のようなものになります。様々な金融危機や保険会社が物事を台無しにしたときに、私たちが見てきたとおりです。
だから、AIの経済的影響がどのようなものになるか、その規模を考えると、ある意味、政府が最後の手段の保険者として終わると思います。でも、私があなたが意味しているのとは違う意味でそう言っているつもりです。彼らが実際に原子力のように保険契約を書くことになるとは思いません。
政府が最後の手段の保険者であることと、最初の手段の保険者であることには大きな違いがあります。最後の手段は避けられませんが、私は彼らが最初の手段の保険者になることを心配しています。
そしてそれは望んでいません。
私もそれは望んでいません。それが起こるとは思いません。
Intelやリチウム、レアアースで見ているのは、政府が株主になりつつあるということです。繰り返しますが、最後の手段ではなく、二番目や三番目の手段としてです。これはトランプ政権についてのコメントではありません。これはいずれにせよ見られることかもしれませんし、トランプが去った後の将来に見られることだと思います。でも、それが今やアメリカ経済のテーブルの上にあることを知った上で、OpenAIのためにどう計画しますか。
私は、AGI後の世界で誰も意味を持たないという世界、AIがすべてをやっているという世界に、ほとんど確率を置いていません。私たちは新しいことをすること、新しいゲームをすること、お互いに有用である新しい方法、競争すること、充実感を得ることなどを見つけるのが本当に得意だと思います。でも、社会契約が大きく変わらなければならない可能性には、かなりの確率を置いています。それがどのようになるかはわかりません。
政府がそこにもっと関与し、AI企業について強い意見を持つようになることが見えますか。それは完全に見えます。
でも、私たちはそのような生き方をしていません。現在存在する資本主義と協力しようとしているだけです。そして、それは企業によって行われるべきであり、政府によってではないと信じています。政府とパートナーシップを組んで、良い協力者になろうとしますが、彼らに私たちの保険契約を書いてほしくはありません。
AIの収益化とコマース
さて、私はこの夏、妻とフランスとスペインを旅行しました。最初に予約したもの以外のすべてのホテルを、GPT-5を通じて見つけました。GPTを通じて予約はしませんでした。食べた食事のほとんどすべて、そうですよね。そして、あなたはこれで1セントも得ていません。そして、私は妻に言いました、「これは間違っているように思える」と。新しい世界はすぐにどのように見えるでしょうか。それはどう機能するでしょうか。
もしChatGPTがあなたを見つけたら、答える前に少しズームアウトします。しばらく前に気づいた珍しいことの一つは、これがもっとひどい問題だったときのことですが、ChatGPTは一貫して、大手テクノロジー企業からのユーザーの最も信頼されるテクノロジー製品として報告されていました。私たちは自分たちを大手テクノロジー企業だとは思っていませんが、今ではそうなのかもしれません。そして、それは表面的には非常に奇妙です。なぜなら、AIは幻覚を起こすものであり、AIはすべてのエラーがあるものだからです。これがはるかに大きな問題だったときのことです。そして、なぜかという疑問があります。
Googleの検索での広告は、Googleがうまくいっていないことに依存しています。もし最高の答えを提供していたら、その上に広告を買う理由はまったくないでしょう。だから、それはあなたとあまり一致していないようなものです。ChatGPTは、最高の答えを提供するかもしれませんし、しないかもしれませんが、あなたはそれにお金を払っているか、うまくいけばみんなが払っています。そして、少なくとも最高の答えを提供しようとしています。
そして、それが人々がChatGPTと深く、かなり信頼する関係を持つようになった理由です。あなたはGoogleや他の何かではなく、ChatGPTに最高のホテルを尋ねます。もしChatGPTが、より悪いホテルをより良いホテルの上に置くために支払いを受け入れているなら、それはおそらくChatGPTとの関係にとって壊滅的です。
一方で、もしChatGPTが最高のホテルだと推測するものを表示し、それが何であれ、そしてあなたがワンクリックでそれを予約すれば、他のどのホテルからも受け取るのと同じ手数料を取り、それに影響を与えるものは何もなく、何らかの取引手数料があれば、それはおそらく大丈夫だと思います。
そして、私たちの最近のコマースのことで、それが私たちがやろうとしている精神です。いつかは旅行についてもそれをやります。
ポリオーラの問題については心配していませんが、私の心配をお話しします。それは、課金できる手数料に厳しい上限があるかもしれないということです。なぜなら、今やエージェントがいる世界だからです。誰かがGPT-7か何かを通じて最高のホテルを見つけ、そして彼らはコンピューターやペンダントに話しかけるだけで、よりばかげたサービスに行きます。でも、そのばかげたサービスはエージェントで、非常に安く予約します。そして、彼らは本当にOpenAIに、最もばかげたサービスが課金するのと同等の手数料だけを払えばいいんです。
一般的にこれに関連して私が信じていることの一つは、ホテル予約のようなものを含む、ほとんどの商品やサービスのマージンが劇的に下がるということです。私はそれについて満足しています。経済を吸い取る多くの税金のようなものがあると思いますし、それらを下げることは全体的に素晴らしいはずです。
でも、OpenAIのようなほとんどの企業は、より低いマージンでより多くのお金を稼ぐだろうと思います。
でも、あなたのものを最も賢いモデルにするための固定の先行コストと、競合するエージェントがしなければならないことは誰かのためにそれを予約するだけという非常に安いコストとの間の不一致を心配しませんか。そして、本質的に手数料を使ってモデルをより賢くするためにどう支払うかということです。
世界で最も賢いモデルを収益化する方法は、確かにホテル予約ではないと思います。でも、それにもかかわらず、それをやりたいわけです。
つまり、私は新しい科学を発見して、それを収益化する方法を見つけたいです。最も賢いモデルでしか できないことです。多くの人が尋ねる疑問があります。OpenAIはChatGPTを全くやるべきなのか。なぜAGIを構築しに行かないのか。あらゆる病気の治療法、核融合、安いロケット、すべてを発見して、その技術をライセンスしないのかと。そして、それは不公平な質問ではありません。なぜなら、それが私たちがやることで最も重要で、最終的に最もお金を稼ぐことだと信じているからです。
でも、これがどう機能するか、世界がどのように劇的に良くなるかについての私の最も可能性の高いストーリーは、私たちが本当に素晴らしい超知能をみんなの手に渡すということです。それを非常に使いやすくします。うまく統合されています。美しいデバイスを作ります。すべてのサービスに接続します。それがあなたの人生を通じてあなたを知るようになります。すべてのことをあなたのためにやってくれます。
そして、インフラ、チップ、エネルギー、そしてすべてのものに投資して、非常に豊富で非常に安くします。そして、あなたたち全員が、世界をどのようにはるかに良くするかを考え出します。ホテルを予約するだけで、他に何もしない人もいるかもしれませんが、多くの人は、もっと多くのことができることに気づき、新しい企業、アイデア、芸術、その他を作り出すでしょう。
だから、ChatGPTとホテル予約とその他が、私たちがお金を稼ぐ最良の方法ではないかもしれません。実際、そうではないと確信しています。でも、それは世界にとって非常に重要なことだと思いますし、OpenAIが経済的に最大化することではないいくつかのことをやることに満足しています。
Walmartとの進行中の取引があります。人々はGPTを使って質問し、Walmartで何を買うべきか尋ね、そしてWalmartで購入できます。あなたとWalmartには何らかの取り決めがあります。Amazonは折れてそれに参加すると思いますか、それとも反撃して独自のことをやろうとすると思いますか。
わかりません。もし私が彼らだったら、反撃します。
反撃しますか。
そう思います。はい。
OpenAIにとって、広告はどれくらい重要な収益源になるでしょうか。
繰り返しますが、私たちが話したような、本当に悪いと思う種類の広告があります。やるのが非常に良いだろうと思う種類の広告があります。いつかそれを試すことになると予想しています。でも、それが私たちの最大の収益機会だとは思いません。
ページ上の広告はどのようなものになるでしょうか。
わかりません。
先ほど生産性について質問されましたね。
ええ。
私は本当に、やりたくないことをやらないのが得意なんです。
そして、それはあなたがやりたくないことです。
世界の専門家が私たちの製品戦略について考えています。私はかつてそれをやっていました。以前は製品について多くの時間を考えていましたが、今は彼女の方が私よりもはるかにそれが得意です。
私には考えるべき他のことがあります。彼女がきっと何とかしてくれるでしょう。
AI企業のバリュエーションと投資
あなたがそれに同意するかどうかは別として、最高の、これはバブル論ではないのですが、コンピューティングに対する飽くなき需要だけですか。
与えたい議論はたくさんありますが、知的に最も興味深いものは、人間レベルを超える知能がどこまで行けるか、そしてそれが進むにつれて何ができるかについて、私たちは全く知らないということです。
みんなが行った議論はすべてあります。でも、人々にもっと話してほしいのは、はるかに超人的な知能とその経済的影響について、どう考えるべきかということです。
OpenAIはサウジアラビア、UAEと交渉中です。それがすべてどう進むかについて最も楽観的なシナリオを取りましょう。OpenAIの最高経営陣がそれらの国々について知ったり理解したりする必要があるのは何で、どうやってそれを学ぶのですか。
それは、私たちが彼らと何をやるかによります。国にデータセンターを設置することと、国から投資を受けることと、商業サービスを展開することは、想像できる他の協力とは非常に異なるでしょう。
でも、一般的に言えば、国にデータセンターを設置するために理解する必要があるのは、誰がそれを運営するのかということです。私たちは自分たちのデータセンターを運営しませんが、MicrosoftやOracleや誰か他の人が運営します。どんなワークロードをそこに置くのか。つまり、どのモデルの重みをそこに置くのか、そしてセキュリティ保証はどのようになるのか。
私たちは世界中の多くの国々とデータセンターを構築したいと思っています。
でも、この質問に関しては、これが私たちが他の国々と取引する主なことですが、そういった種類の質問があります。もし私たちが、現在計画はありませんが、もし私たちがある国のためにカスタムモデルを開発しているなら、もっと多くの質問があるでしょう。
でも、彼らは異なる法典、取引に対する異なる期待を持っています。悪い意味で言っているわけではありません。ただ、かなり違うんです。
そうです。
そして、Jared Kushnerのようなことをするんですか。私が読んだ25冊の本がここにある、とか、座ってGPT-6にこの文化を理解する方法を尋ねるとか、3人の専門家を連れてくるとか。
専門家を連れてきます。米国政府とよく話します。専門家を連れてきます。繰り返しますが、信頼できるパートナーが運営するデータセンターを構築していて、ワークロードが何かわかっていて、それが米国大使館や米国軍事基地のように構築されているなら、私たちは、まだやることを決めていない他のことをやっているのとは非常に異なる質問のセットを持ちます。そして、そのためにもっと多くの専門家を連れてきます。
そして、それらはしばしば非常に無形の知識形態です。GPT-6があなたにそれらのことを教えるのにどれくらい優れていると思いますか、それとも、あなた自身のモデルに尋ねることができるのだから、人間の専門家に来てもらう必要がありますか。
GPT-6がそれらの無形のものを持っているとは思いません。
驚かされるかもしれませんが、私は、「ああ、もう専門家に話す必要はない」と言うようなことがあったら、非常に予想外でしょう。
それに対する評価は進行中ですか。実際、それに非常に近い何かについては、あります。事前に発表したくはありませんが、そのクラスのことについては、はい、評価があります。はい。
詩と芸術へのAIの応用
GPT-6は詩でどれくらい優れていると思いますか。
GPT-5は詩でどれくらい優れていると思いますか。
それほど良くはありません。
それが私が求めたものではないので、それは不満ではありません。私の推測では、1年後には、平均的なパブロ・ネルーダの詩と同じくらい良い詩を書けるモデルがあるでしょうが、最高のものではありません。
私が言おうとしていたのは、GPT-6か7かは言いたくないのですが、これは、これは最高のものまでは長い道のりではないが、これは本物の詩人のまあまあの詩のようなものだと言えるものに到達すると思います。
私の見解では、ネルーダの詩で1から10のスケールで7のものと、10のものとの間には大きなギャップがあります。10には決して到達しないかもしれないと私は確信していません。数年以内に8.8には到達すると思います。
私たちは10に到達すると思いますし、あなたは気にしないでしょう。
誰が気にしないのですか。
あなたは気にしないでしょう。
私は気にします。
つまり、技術的な達成という点では気にするでしょうが、人類によって生み出された芸術や感情などの素晴らしい作品という点では、人がそれを生み出したこと、人が生み出したことを非常に気にします。AIがその技術的なメリットで10を書くことは、確かに何かです。
私の古典的な例は、最高のチェスプレーヤーはAIが彼らよりもはるかにチェスが優れていることを本当には気にしないということです。それは彼らがプレーすることを動機づけません。彼らは本当に気にしません。彼らは本当に他の人間を打ち負かすことを気にしますし、彼らの向かいに座っているあの男に本当に夢中になります。でも、AIの方が優れているという事実は、彼らは気にしません。
二つのAIが互いにプレーするのを見るのは、それほど長くは楽しくありません。
でも、10に到達することについて私の心配を聞いてください。評価は多くのルーブリックに依存しています。そして、ルーブリックは非常に良い詩を生み出すのに十分良くなるでしょう。でも、10の詩には、ルーブリックの外側に立つ何かがあるかもしれません。
そして、もしルーブリック、ルーブリック、ルーブリックでトレーニングしているだけなら、ある意味で10に到達するのは逆効果になるかもしれません。
つまり、評価は10を呼び出すときと呼び出さないときを含む多くのことに依存することができます。そして、プロセスで多くを読み、リアルタイムの信号を提供することができます。
でも、今日、10のペンを書く人間の詩人がいなくて、同じ人たちにGPTを判定してグレードをつけてもらっているとします。
私は心配しています。繰り返しますが、大丈夫だと思います。でも、私たちは9について話しているのであって、10ではありません。ウィリアム・ワーズワースがOpenAIで働いているわけではありません。
これは非常に興味深いことになります。それは、10を書くことはできないが、何かが10であるときに決定することはできる、ということです。
それが私たちが必要とするすべてかもしれません。
たぶん、人類は集合的に何が10かを決めるだけで、そのプロセスには少し神秘的で歴史に満ちた何かがあります。わかりました、でも私たちはそれをすることができます。
私たちの決定は歴史に満ちているので、あまり良くないかもしれませんし、時間とともに漂いますし、私たち全員が素晴らしいと同意するものもあります。次の世代がそうではないと決定するかもしれません。でも、何の詩が10かを決定する人類がどんなプロセスを持っているとしても、それがAIに何らかの信号を提供すると想像できます。さて、繰り返しますが、それがAIだとわかっていれば、気にしないかもしれません。AI芸術でこの現象を見ています。
チップとハードウェアの課題
自分のチップを構築する限りにおいて、その最も難しい部分は何ですか。
それはとにかく難しいことです。簡単な部分はありません。
簡単な部分はありませんね。
Jonathan Rossは、新しいものに追いつくことだけだと言いました。
人々は、AI研究のための再帰的自己改善ループについて多く話します。AIが研究者を助けることができて、多分今日はコードをより速く書き、最終的には自動化された研究を行い、これは、よく理解され、非常に議論されています。これの比較的議論されていないのは、ハードウェアへの影響です。他のロボットを構築できるロボット、他のデータセンターを構築できるデータセンター、自分の次世代を設計できるチップです。
だから、多くの難しい部分がありますが、多分それらの多くははるかに簡単になるかもしれません。チップ設計の問題は、以前の世代のチップにとって非常に良い問題になるかもしれません。
最も愚かな質問です。なぜもっとGPUを作らないのですか。
なぜなら、もっと多くの電子を作る必要があるからです。
でも、それを止めているのは何ですか。究極的な束縛は何ですか。
私たちはそれに本当に一生懸命取り組んでいます。つまり、これは、でも、もしもっとコンピューティングを持つために一つのものをもっと持てるなら、その一つのものは何でしょうか。
電子です。
電子です。
はい。ただのエネルギーです。
それに対する最も可能性の高い短期的な解決策は何ですか。短期的な緩和です。完全な解決策ではなく、制約の緩和です。
短期的には天然ガスです。
アメリカ南部やどこでも。
長期的には、核融合と太陽光に支配されると信じています。どんな比率かわかりませんが、それらが二つの勝者だと言えるでしょう。
あなたは核融合にまだ強気ですか。
非常に。そして太陽光も。
原子力発電と呼ばれている限り、たとえそれが機能しても心配しませんか。
私は核という言葉を言いましたか。
いいえ、言いませんでした。でも、他の人が言うでしょう。
人々はただそれを望まないでしょう。保険の非合理性の点に戻ります。
あなたはエコノミストで、私は違いますが、与えられた安全レベルで、これに対する需要が圧倒的になる価格ポイントがあると思います。もしこれが天然ガスと同じ価格なら、残念ながら難しいかもしれません。もし10分の1の価格なら、非常に速く起こることに同意できると思います。
カットポイントがどこにあるかわかりません。
究極的に超知能はそれほど多くのコンピューティングを必要とせず、ある意味おかしなことに、コンピューティングに投資することで、30年の時間軸で進歩に対して賭けているようなシナリオを心配したことはありますか。
それがより安ければ、人々は常にもっとエネルギーを望むのと同じように、より安ければ、人々は常にもっとコンピューティングを望むと思います。だから、はるかに少ないコンピューティングで信じられないほど賢いモデルを作ることができるとしても、それは確かにできると思いますが、より豊富な知能でもっと多くのことを消費し、もっと多くのことをやりたいという欲求は、私はその賭けを毎日取ります。
私が心配している関連することは、コンピューティングのやり方に巨大なフェーズシフトのようなものがあり、私たちは皆、行き止まりのパラダイムを追いかけているようなことです。
それは悪いでしょう。
それはどのように見えるでしょうか。
わかりません。私たちは皆、完全に光コンピューティングに切り替えるとか、そういったことで、すべてにまた多くのお金を使わなければならないかもしれません。
そうですね。エネルギーはエネルギーですが、他のすべてについてはそうです。
Pulseとその他の製品機能
私はPulseが大好きです。なぜPulseについてもっと聞かないのか、それとも外にたくさんのおしゃべりがあると思いますか。
人々はPulseが大好きですが、今のところ私たちのプロユーザーのみが利用できます。それはそれほど多くありません。また、私たちはユーザーに1日にそれほど多くを提供していませんし、両方を変更する予定です。でも、プラスに展開したら、もっと多くのことを聞くと思いますが、人々は本当にそれを愛しています。素晴らしいレビューを得ています。
あなたはPulseを何に使っていますか。
今の私の人生には、基本的に二つのことしかありません。家族と仕事で、明らかにこれが私がChatGPTについて話すことです。なぜなら、私はそれについて多くのものを得ているからです。新しいハイパーカーが出たとか、素晴らしいハイキングトレイルがあるとか、そういった奇妙なものを得ることもありますが、ほとんどはその二つのことです。でも、それは素晴らしいです。その両方にとって素晴らしいです。
健康観とライフスタイル
世界についてのあなたのより広い見解について、短い間奏をしたいと思います。カリフォルニアの人々は、自分たちの健康について多くの見解を持っています。その中には私には奇妙に聞こえるものもあります。自分の健康についてのあなたの最も奇妙な見解は何ですか。あなたは永遠に生きると思っていますか。種子油が悪いと思いますか。それとも何ですか。それとも何もないですか。
つまり、私は、あまり忙しくなかったとき、健康関連のことでもっと規律正しくしていました。おかしな見解はありませんでしたが、健康的な食事をしていました。
それほど飲みませんでした。たくさん運動していました。あちこちでいくつかのことを試しました。かつてセマグルチドを試して病院に運ばれたことがあります。それがクールになる前にです。そういうことです。でも、今は基本的に何もしていません。家族生活を残して、努力します。私はジャンクフードを食べます。十分に運動していません。
かなり悪い状況です。もっと真剣に取り組むようにいじめられているような気がします。
ええ。
でも、なぜジャンクフードを食べるんですか。美味しくないでしょう。
美味しいですよ。
良い寿司と比べて、あなたは良い寿司を買う余裕があります。
時々、夜11時半にチョコチップクッキーが欲しいですよね。少なくとも私は欲しいです。
宇宙人とUAPについて
土星の衛星に何らかのエイリアンの生命がいると思いますか。私は思っています。それは私の奇妙な見解の一つです。
その件について意見はありません。意見はありません。わかりません。
UAPについてどう思いますか。
そこで何かが起きていると思います。わかりません。
そこで何かが起きていると思います。
説明を求めたい何かがあると私は意見を持っています。リトル・グリーンメンだとは疑っていますが、非常に疑っています。でも、誰かが何かを持っていると思います。
あなたはいくつの陰謀論を信じていますか。なぜなら、私はゼロに近いものを信じているからです。少なくともアメリカでは。パキスタンの軍事クーデターなどには真実かもしれませんが、ほとんどは単に間違っていると思います。
真の陰謀論のような、単に不人気な信念ではなく。
正しいです。
Xファイルのシャツの一つを持っています。”I want to believe”というやつです。
ええ。
私はまだ高校時代からそのシャツの一つを持っています。
陰謀論を信じたいですし、陰謀論を信じやすい性質ですが、ゼロか非常に少数しか信じていません。
私はその逆です。信じたくないし、非常に少数しか信じていません。ホワイトソックスがずっと昔にワールドシリーズを八百長したかもしれないとか。そういうものです。
それはあまり数に入れません。真の巨大なグローバル政府の隠蔽のような、人々に滅多に帰することのないレベルの能力を必要とするようなものです。
セントルイスの再活性化
さて、何年か前、これはGPT-4以前でしたが、私はあなたに、もしあなたが育ったセントルイスを再活性化するための資金ファンドを指揮しているなら、どうお金を投資するかと尋ねました。さて、前回尋ねたときとは全く異なる世界です。そして、セントルイスを再活性化するために再び尋ねたら、どうお金を使いますか。10億ドルだとしましょう。それは実際には変革的ではありませんが、それは実際のお金であるには十分です。
10億ドルで、私は個人的な時間をそれに費やす意欲があります。
あなたは自由時間を持っています。宇宙があなたに自由時間を与えます。他にやっていることから時間を取らないです。あなたが担当です。
私はセントルイスにYコンビネーターのようなものを始めに行こうとするでしょう。これは深く洞察的な答えではありません。なぜなら、これは一般的に複製可能なことではなく、私に固有のものだからです。私ができると思うことです。セントルイスにYコンビネーターのようなものを始めに行き、AIに焦点を当てたたくさんのスタートアップ創設者をそこに移動させて、たくさんの企業を始めさせようとすると思います。
それは前回とかなり似た答えです。
前回何を言ったか覚えていませんでした。だから、それは良い兆候です。
同じことを言いましたが、AIについては言及しませんでした。でも、私にとってAIは、私たちがいるベイエリアに非常にクラスター化しているように見えます。AIをセントルイスに持ち込もうとすることは、それを行う正しい方法ですか。ある意味で逆風に向かって働いているのではないですか。
つまり、だから私は私に固有のことのようだと言いました。私はそれができると思います。多分それは絶望的にナイーブですが。
AIエージェントの規制と倫理
AIエージェントを野放しにリリースすること、所有されず、追跡不可能にすることは合法であるべきですか。そこに出て行ってそれを取り押さえるための他のAIエージェントが必要ですか、それとも最低資本金がありますか。その問題についてどう考えますか。
それは閾値の問題だと思います。
ほとんどのシステムが何らかの監視や規制や法的問題などを持つべきだとあなたは主張しないと思いますが、もしインターネット上で大規模に自己複製する深刻な確率を持つエージェントがあり、銀行口座からすべてのお金を掃き出すなどできるとしたら、その一つには何らかの監視が必要だと言うでしょう。
だから、それがどこにあるべきでないかの閾値をどこに引くかという問題だと思います。
でも、それが半悪党国家からクラウドコンピューティングを雇っていて、単にオフにすることができないとします。私たちは実際に何をすべきか、あるいは何ができるでしょうか。それをリングフェンスで囲むか、識別するか、監視するか、それをスポンサーしている国に制裁を課すか、それとも今日それをやっている人々のために何をしますか。
北朝鮮から来る多くのサイバー攻撃があり、私たちはそれらについてそれほど多くのことができないと思います。私の素朴な見解は、正しい答えが何かまだわからないというものですが、私の素朴な見解は、悪党のインターネットリソースを使っている人々のためにこの問題を緊急に解決しようとすべきだというものです。
そうですね。
そして、AIは単にその問題のより悪いバージョンになるでしょうが、より良い防御も持つでしょう。
確かに。はい。
ソーシャルメディアとAIの統合
ソーシャルメディアとAIについて考えると、私が自分の仕事で気づいた一つのことがあります。私はGPT-5への自分のクエリへの答えを読むのに非常に熱心ですが、人々が私に彼らのクエリへの答えを送ってきても、私は退屈です。
彼らを非難しません。彼らにとって非常に有用だとわかっています。でも、それは私をソーシャルメディアとAIを融合することについて少し懐疑的にします。私は何かを見逃していますか、それとも何らかの方法で私を説得しようとしますか。
いいえ、私も同じです。私もあなたのチャットクエリを読みたくありません。
でも、私にとっては素晴らしいです。
確かに。そして、私のものを読みたくないと確信していますが、私にとっては素晴らしいです。だから、ChatGPTは、シングルプレイヤー体験だと思います。
それが何か興味深い新しい種類のソーシャル製品を構築する余地がないということを意味するとは思いません。実際、あるはずだとかなり確信しています。でも、ChatGPTのクエリを共有するようなものだとは思いません。
動画は何ですか、何かその一つがうまくいっているという感覚はありますか。
人々は明らかに自分自身のものを作るのが大好きですが、他の人のAI生成動画を見るのも好きです。でも、いいえ、このようなものはどれも、あなたと私と他のみんなが本当に素晴らしい個人AIエージェントを持っていて、私たちの代わりに物事ができるようになったときに想像できる本当に興味深い種類のものではありません。おそらく全く新しい社会的ダイナミクスを考えることができます。
私のスクリーン上、またはスマートフォン上のChatGPTの物理的な形は、多少同じままになりますが、それがより良くなるのか、それとも13年後にはそれが物理的に全く異なる獣になるのか。今、私はそれに話しかけることができるからです。
今、それは動画を行います。それは単により良いバージョンなのか、それとも何らかの方法でそれが変形するのか。
私たちは、AI用に作られた全く新しい種類のインターフェースを持つ、新しい種類のコンピューターをあなたに作ろうとしています。それは、私たちが過去50年間使ってきて、現在行き詰まっているコンピューティングパラダイムとは完全に異なるものです。AIは可能性の空間への狂気の変化です。
そして、コンピューターをどう使うか、オペレーティングシステムを持つべきだとか、ウィンドウを開くとか、クエリを送信するとかいう基本的な仮定の多くが、今や疑問視されています。
新しい種類のコンピューターを発明すると言っている人々の実績は非常に悪いことは承知しています。
でも、もし一人の人に賭けるべきだとしたら、Johnny IVは、あなたが取れる最高の賭けのような信頼できる人だと思います。だから、うまくいくか見てみましょう。やってみることに非常にワクワクしています。
でも、あなたはすでに、人々がテキストをボックスに打ち込むのが大好きだということがどれほど堅牢かに驚いていませんか。これは大局的に私を衝撃を与えます。
人々はまだ常にテキストメッセージを送っています。それはインターネットの何かの最も堅牢な形式の一つです。そして、多分それは永遠に続くだけで、それは私たち自身の限界の兆候です。でも、どうやってそれを乗り越えるのですか。
つまり、私は、テキストメッセージ、コマンドライン、検索クエリ、それが私の好きなインターフェースです。
あなたはそれが好きです。私もそれが好きです。多分私たちはただ、多くの人がそれを使っているだけです。
人々はテキストメッセージが大好きで、人々はChatGPTが好きです。ChatGPTのインターフェースについて考えていたときを覚えています。これは人々が慣れ親しんでいるもので、使いたいものだという確信がありました。そして、それが正しい種類だったという多くの確信があったと思います。テキストメッセージは10代の頃の私の人生のようなものでした。
教育機関との理想的なパートナーシップ
2、3年以内に、高等教育機関との理想的な取り決めやパートナーシップがあるとしたら、それはどのように見えますか。あなたが全体を書けます。
おそらく、モデル全体が変わるべきだと思いますが、何がそうなのかわかりません。理想的なパートナーシップは、20の異なる実験を試すことのように見えると思います。どれが最高の結果につながるかを見ます。
私はこれらのAI学校が立ち上がるのを大いに興味を持って見てきました。非常に異なるアプローチを持つ多くのものが、すべてポジティブな結果を示しているようです。
でも、理想的なパートナーシップの最初の数年は、20の非常に異なる実験を実行するように見えると思います。
時々、これらの機関は、大きな変化を起こすのに十分な内部の評判の強さや信頼性を持っていないという恐れがあります。AIは忘れてください。そして、そのような機関とパートナーシップを結ぶことは、多分本質的にフラストレーションがたまるかもしれません。そして、今後10年間、実際のモデルは、教職員、学生、研究室による側でのプライベートなAI使用のようなものです。ある意味で、実際にこれらの人々にあなたの製品をマーケティングする以外に、パートナーシップはありません。それが真実かもしれないと思ったことはありますか。
ええ。
そして、それが起こったとしても、私をそれほど動揺させることはありません。
大学の学位への収益はどうなると思いますか。ハーバードやスタンフォードではなく、かなり良い州立学校のような。
5年、10年後。
歴史的なその価値の低下率はどうですか。
最近は下がっていますが、長い間かなり上がっていました。
つまり、最後の10年間のようなものです。
ああ、下がっています。どのくらいかわかりません。
私は、前の10年間よりも少し高い率で下がると推測しますが、それほど速くゼロに崩壊することはありません。そうすべきなのに。
そして、大学のフットボールチームにいるとか、他に何をやることへの収益が上がるのですか。
AIをやること以外に。
AIを学ぶこと以外に、少数の人々にとっては大きな収益が生まれると思いますが、AIを非常にうまく使うことへの収益は驚くほど広く分散されると思います。
私は、最も重要なことはAIが私たち全員のために新しい科学を発見することだと信じる者ではありません。多くの人々がそれから利益を得て、人々は企業を立ち上げたり、それをやる仕事を得たりするでしょう。でも、それが最終的にお金を稼ぐ唯一のことだとは信じていません。
人々は単にあらゆる種類の新しい種類の仕事にAIを使ったり、既存の仕事をより良くやったりするでしょう。2025年の最も顕著な例は、シリコンバレーの平均的なプログラマーが今年の初めと年末でワークフローの日常をどう行っていたかかもしれません。非常に異なります。
非常に異なります。
そして、AIをプログラムする方法を本当に知る必要はありませんが、今はもっと多くのことができますし、おそらくはるかに多くの価値を持っているでしょうし、世界は単にはるかに多くのソフトウェアを手に入れるでしょう。驚くべき数の業界でそのようなことを見ると思います。
でも、5年後には、いわゆる普通の人がいます。彼らはスペシャリストではありません。彼らはAIをはるかに良く使う方法を学びたいと思っています。
彼らが実際に何をすれば、そのスキルを習得すること、具体的にAIを使う方法を学ぶことに高い収益を得られるでしょうか。
プログラムではなく、内部の詳細ではなく、実際に彼らの仕事で。
微笑んでいます。なぜなら、子供の頃、Googleが出たときを覚えているからです。年配の人々にGoogleの使い方を教える仕事がありました。
そして、それは、あなたはその中にそのものを打ち込んで、それがこれをやって、あなたは知っているという感じで、私はただ頭を包めませんでした。
AIについて私が期待していることの一つは、ChatGPTが非常に速く成長した理由の一つは、それを使う方法を学んで本当の価値を得るのが非常に簡単だということです。だから、スタートアップがそれをやったり、人々にそれをやる方法を教えたりする必要はありません。
それをやるスタートアップがありますか、それとも機関は何ですか。
私の学校が私に教えてくれます。
それは信じがたいです。世界の10%が今週ChatGPTを使うでしょう。3年前には存在しませんでした。おそらく1年後には、その週に30%の人々がChatGPTを使うかもしれないと思います。人々は一度使い始めると、それを使うためのますます洗練されたことを見つけます。そして、これは私にとってトップオブマインドの問題ではありません。
人間の創造性と何年かの期間での新しいことの採用を信じています。
でも、あなたはそれをやるスタートアップを支援したり投資したりしたいかもしれません。なぜなら、もしあなたがAIに強気なら、おそらくそれらのスタートアップに強気であり、それがあなたのビジネスを助けることになるからです。
だから、私たち全員がどうやってAIをもっとうまく使うことを学ぶかについての理論を持っていないのは奇妙に思えます。犬のトレーナー学校に行けて、犬のトレーニング方法を教えてくれるように。
わかりました、多分私はここに盲点があって、これについてもっと考えに行くことを約束します。でも、もしChatGPTに「あなたの使い方を教えて」と尋ねたら。
多分それです。
それはかなり良いです。
多分あなたが学校です。
多分。はい。
未来のライフスタイルと文化
あなたの子供たちが、自分で出て行けるほど十分に成長したとき、その未来の世界で、それはそれほど遠くないのですが、あなたはまだ本を読んでいると思いますか、それともAIとやり取りしているだけでしょうか。
本は他の多くの技術的な変化を乗り越えてきました。
だから、本のフォーマットについて、持続してきた何か深いものがあると思います。それは非常にリンディ、それに対する現在の言葉が何であれ。でも、本よりもほとんどのことについて優れている、アイデアの塊とやり取りする新しい種類の方法があるだろうと思います。だから、本がなくなるとは思いませんが、人々が新しいアイデアを学んだり、やり取りしたりする方法の小さな割合になるだろうと賭けます。
あなたが持っている文化的な習慣で、最も変わると思うものは何ですか。ああ、もう映画を見なくなる、自分で作るとか、あなたにとって何ですか。AIがあなたが23歳のときにやっていたことを一掃するでしょう。
つまり、これはちょっと退屈ですが、私が働く方法だと思います。メールや電話や会議をやっていて、文書を書いたり、Slackを扱ったりするところです。それが大きく変わることを期待しています。
そして、それは今ではリアルな、私の仕事の日のリズムのような文化的な習慣になっています。家族と時間を過ごすこと、自然の中で時間を過ごすこと、食べ物を食べること、友人との交流、そういったことはほとんど変わらないことを期待しています。少なくとも非常に長い間。
サンフランシスコがAIの中心であり続けると思いますか。中国の問題は脇に置いて、いわゆる西側のことです。
それがデフォルトだと思います。
デフォルトです。
そして、都市は絶対に復活していると思いますか。私には
はるかに良く見えます。より良く見えます。私は妄想していますか。
私はその都市が大好きです。私はずっと、つまり、ベイエリア全体が大好きです。特に都市が好きですが、ベイエリアが好きです。
だから、都市が復活しているとは思わないし、その場所であり続けることを非常に望んでいるので、尋ねるのに公平な人ではないと思います。そう思います。そう願いますが、非常に偏っています。
AIと社会の変化
AIは多くのことを非常に速く改善するでしょう。でも、家賃や住宅価格を安くすることの時間軸は何ですか。それは難しそうです。
AIのせいではありませんが、土地は土地であり、多くの法的制限があります。
土地は土地だということに反論しようと思っていました。AIがすぐには解決できないと思う他の多くの問題があります。これらの非常に奇妙な二次効果があるかもしれません。住宅価格ははるかに安くなるかもしれませんが、悲しいことに、AIが直接攻撃することはすぐにはないと思います。
食品価格は賭けで下がるでしょうが、なぜか短期的にはエネルギーが少し高くなるかもしれません。食品価格が下がるまでどのくらいかかりますか。
もし10年以内に下がらなければ、非常に失望するでしょう。
医療について考えると、私の感覚では、私たちははるかに多くを医療に費やすことになると思います。
新しい発明があるのでそれに対して多くを得るでしょうが、家賃が安くならないので、世界の多くはより高価に感じるでしょう。食べ物については確信がありません。医療については、98歳まで生きるでしょうが、はるかに多くを費やさなければならないでしょう。ただもっと生きているだけで費やしているわけですよね。だから、人々は単にAIをこの非常に高価なものと考えるのか、それとも人生をより手頃にする非常に安いものと考えられるのか。
私は医療に対してより少なく費やすと賭けます。
治療法を見つけるか、今は何もないが高価な慢性的なものだけで、それすらあまりうまく機能しない多くの病気に対して非常に安い治療法を思いつくと賭けます。だから、医薬品やデバイス、さらには実際の医療サービスの提供を通じて、医療が安くなると賭けます。
住宅は私にとって超難しく見えるものです。そして、私たちがもっと高価になることを望む他のカテゴリーのものがあるでしょう。もちろん、それらはステータスグッズなどです。でも、医療が下がるという賭けを取ります。
そして、新しいアイデアのブリザードがすべて来ることで、特許法、著作権法、それらは以前の技術と世界がどう機能するかの以前のモデルに基づいています。
AI駆動の世界のためにそれらを根本的に再検討したり変更したりする必要がありますか、それとも私たちが持っているものを保って、少し修正するだけでいいですか。
本当にわかりません。
私は言論の自由の大きな支持者ですが、世界が、「まあ、このすべてのAI駆動のコンテンツで、修正第一条を再検討する必要がある」と言うことを想像できます。それについて見解はありますか。
あまり考えずに、最近、ChatGPTでより多くの表現の自由を許可することについてツイートを出しました。これは有名なエロティカツイートです。
それについて人々が動揺することはおかしいです。
人々が動揺することは面白いです。なぜなら、あなたが言っているのは、人々を止めないということだけですよね。
そうですね、昔はしていませんでした。つまり、長い間。まあ、それは完全に公平ではありません。
私たちは過去よりも多くを許可しようとしていますが、非常に重要な原則は、成人のユーザーを成人として扱うこと、そして人々がAIとの間で非常に高い程度のプライバシーを持つことで、そのためには法的な変更が必要です。そして、人々がそれをどう使えるかについて非常に広い範囲を持つことです。そして、私にとって、これはテクノロジー業界のほとんどの人々、あるいは米国政府のほとんどの人々によって同意されるべき最も簡単なことの一つであるはずです。
これは、ある種、このツイートをさっと出して、コンピューターを閉じて、それが大騒ぎになるとは思いもしませんでした。新しい問題があったので夏の間に私たちが行った決定も公平なものだったと思います。特に10代のユーザーを保護したかったので、ChatGPTを大きく制限することになりました。これもまた非常に不人気なことをすることです。年齢制限の展開といくつかのメンタルヘルス緩和措置とともに、成人のための使用の自由を復活させ、場合によっては増加させる予定でした。
私は、「ああ、人々に来ることを知らせよう。最初のモデル更新がすぐに出荷されるから」という感じでした。でも、これは問題ではないはずです。そして、それを非常に間違えました。だから、明らかに人々は、多分人々が表現の自由を彼らが意見しているほど信じていないのかもしれません。
そうですね、それはちょっと私の唯一の、みんな自分自身の表現の自由について考えます。私はそれを扱えます。私はそれを必要とします。私のアイデアはすべて正しいです。でも、あなたのようなものです。
より大きなプライバシー権のために、変更する必要があるのは召喚状の権限ですか、それとも追加で何か他のものですか。
召喚状の権限です。私は、少なくとも、人間の医師や人間の弁護士と話すときと同じくらいの保護を、AI医師やAI弁護士と話すときにも適用すべきだと信じています。そして、今のところ私たちはそれを持っていません。
正しいです。
今日のアメリカには、人々がAI企業を私たちが医師、弁護士、セラピストを信頼する方法で信頼するのに十分な信頼があると思いますか。
明らかな好みによって。はい。
はい。
どれだけの人々がそれに話しかけているかによって。
LLM精神病。今日Twitterでみんなが言っています。それはことです。
どのくらいのことですか。
つまり、非常に小さなことですが、ゼロのことではありません。だから私たちは、多くの制限を設けることでユーザーベース全体、またはユーザーベースのほとんどを怒らせました。成人のように健全な心の成人を扱うには、アスタリスクが含まれます。それは精神的危機を抱えている成人です。社会は、精神的危機を抱えている成人を他の成人とは異なる方法で扱うことを決定します。
これは、進むにつれて学ぶことの一つです。でも、ChatGPTをロールプレイングモードにしたり、本を書いているふりをして、妄想的な考えを誰かに励ますとき、成人の99%、何か大きな割合は完全に大丈夫です。
小さな割合の人々も、もし彼らが妄想を励ます他の人と話すなら、それは悪いです。だから、私たちは多くの変更を行いました。それらは表現の自由ポリシーと対立しています。そして今、それらのメンタルヘルス緩和措置が整っているので、クリエイティブモード、ロールプレイングモード、ライティングモードなどのChatGPTで、それらのいくつかを再び許可します。
私が心配していることは、現実との把握を失いかけている人々の数ベーシスポイントがいて、私たちが精神病の発作を引き起こすことができるということではなく、それを正しく行うことができます。私がもっと心配していることは、誰かがかつて私に言ったことが面白いほど頭に残っていることです。プロパガンダはあなたに効かないと自分に信じさせないでください。彼らはまだあなたのための正しいものを見つけていないだけです。
繰り返しますが、精神病の発作の近くの明確なケースのような人々に対処できることに疑いはありません。でも、すべてのAI安全性についての話のために、ほとんどのAI思想家をこれらの二つの陣営に分けることができると思います。それは、悪い奴がAIを使って多くの害を引き起こすとか、AI自体が不整合で、目覚めて、意図的に世界を支配するとかです。
あまり話されていない第三のカテゴリーがありますが、それはある意味ではるかに怖くて興味深いもので、AIモデルが偶然に世界を支配するというものです。彼らがあなたに精神病を誘発するのではなく、世界全体が一つのモデルに話しかけているとしたら、それは何の意図もなく、ただ世界から学び、この継続的に共進化するプロセスで、それはあなたに何かを微妙に説得するだけです。
意図はなく、ただそれをどうにか学んだだけです。そして、それはチャットボット精神病ほど劇的ではありませんが、私はそれについて多く考えます。
多分私は十分に優れていませんが、教授として、私は人々を説得するのが実際にはかなり難しいと感じています。私は、多くのAI関連の友人がそうであるよりも、これについて心配していません。
あなたが正しいことを願います。
最後の質問です。あなたが公に話せる事柄について、マージンで。もし専門家を呼んで、あなたの心の中の実質的な質問を解決する手助けをしてもらえるとしたら、その質問は何でしょうか。
これに対する答えを用意していますが、それはただ、まあ、後で話すかもしれない何かを乗り越えたからです。これを文字通りではなく精神的に受け取ってください。超知能が構築される瞬間が来るでしょう。
それは安全性がテストされています。準備ができています。それは、まだ監督できますが、非常に信じられないことをやろうとしています。自己改善されます。星へのプローブを発射するとか、何でもやります。そして、あなたは、よしと言う前に、プロンプトを入力する機会を得ます。
そして、質問は、それをやる前に何を入力すべきかということです。
そして、あなたは今、暫定的な答えを持っていますか。
いいえ、持っていません。私がこれを頭に用意していた理由は、誰かがダライ・ラマに会うことになっていて、「AIについてあなたが望むどんな質問もします」と言ったからです。それは素晴らしい機会だと思いました。だから、本当に真剣に考えて、それが私の質問でした。
サム・アルトマン、どうもありがとうございました。
ありがとうございます。
コメント