本動画では、OpenAIのCEOサム・アルトマンが最新モデルGPT-5の能力と将来のAI発展について詳細に語っている。GPT-5は従来のモデルを大幅に上回るプログラミング能力と科学的問題解決能力を持ち、専門家レベルの複雑なタスクを瞬時に処理できる。アルトマンは2020年代後半には人工超知能が実現し、AI主導の科学的発見が起こると予測している。また、AI時代における雇用の変化、教育の未来、医療革命の可能性についても言及し、技術進歩に伴う社会的課題と機会について議論している。
OpenAIのサム・アルトマンとの対話
これはめちゃくちゃすごい量のパワーやで、たった一つの技術でこんなことができるなんて、そんで私らにこんなに早く起こったんや。君らGPT-5をローンチしたばっかりやろ。今日生まれた子供は、AIより賢くなることは絶対にないんや。どうやって何が本物で何が偽物かを見分けたらええんやろか？まだChatGPTにセックスボットのアバターは入れてへんけどな。人工超知能。それって実際何を意味するんや？この技術はほんまに驚くべきもんやで。
俺はこれからOpenAIのCEO、サム・アルトマンにインタビューするんや。OpenAI。OpenAI。産業を再構築してる。こいつは正真正銘のテック界の王様やで。正直に言うとな。今現在、彼らはほぼ全ての分野で人間を大幅に超える人工超知能を作ろうとしてるんや。そんで最も強力なモデルをリリースしたばっかりや。ほんの数年前やったら、これはSFみたいに聞こえたやろな。
もうそんな時代やないで。実際、彼らだけやないんや。私らは今までに見たことのない最高レベルの世界的競争の真っただ中にいるんや。何千億ドルもの金と信じられんほどの人間の価値がかかってる。これは重大な瞬間や。ほとんどの人はこんな技術の変革を生きて体験することはないんやけど、それが今、君と俺の周りで起こってるんや。
だから今回のエピソードでは、サム・アルトマンと一緒に未来にタイムトラベルして、彼が作ろうとしてる未来を見てみたいんや。そうすれば君と俺が本当に何が来るのかを理解できるからな。「Huge Conversations」へようこそ。調子はどうや？会えて嬉しいわ。ありがとうな。もちろんや。本題に入る前に、俺の目標を話させてもらいたいんや。
俺は君に評価額とかAI人材戦争とか資金調達のことは聞かんつもりや。そういうのは他でよく扱われてると思うからな。そうやな。この番組の大きな目標は、科学と技術をどうやって使ってより良い未来を作れるかをカバーすることや。そんでそれをする理由は、人々がそういうより良い未来を見ることができれば、それを作るのを手伝えるって本当に信じてるからなんや。
だから俺の目標はここで、君と一緒に君が作ろうとしてる未来の異なる瞬間にタイムトラベルして、それがどんなもんかを見ることなんや。素晴らしいやんけ。よっしゃ。君が最近発表したことから始めよか。最近、意外なことに君はこう言うたな。GPT-4は私らが今後使うことになる最も愚かなモデルやって。でもGPT-4はすでにSATやLSATやGREで人間の90%より良い成績を出せるし、コーディング試験もソムリエ試験も医師免許試験も通るんや。そんで今、君らはGPT-5をローンチした。
GPT-5の革新的能力
GPT-5はGPT-4にはできんことで何ができるんや？まず、重要なポイントがあるんやけど、今言うたような素晴らしいことができるAIシステムがあっても、それは明らかに人間が得意なことの多くを再現してへん。これはSATテストとかの価値について何かを物語ってると思うんや。
でも、もし君がGPT-4のローンチの日にこの会話をしてて、GPT-4がそれらのことでどういう成績やったかを聞いたら、「うわあ、これは大きな影響があるやろし、たくさんの仕事や人が何をするかについて悪い影響もあるやろな」って思うたやろ。そんで予想してたかもしれへん良い影響もあるけど、まだ実現してへんのもあるんや。
だからこれらのモデルが得意な方法には、人々がする必要があることや人々がすることを気にかけることの多くを捉えてへん何かがあるんや。同じことがGPT-5でもまた起こると思うで。人々はそれができることに驚くやろ。本当にたくさんのことが得意で、でもそれからもっとできることを求めるやろな。人々はあらゆる信じられんことに使うやろし、知識労働の多くを変えるし、学習の仕方も創造の仕方も変えるやろ。でも人々や社会はそれと共に進化して、より良いツールでもっと多くを期待するようになるんや。
だから、このモデルは多くの点で非常に優れてるけど、他の点では非常に限られてるんや。でも3分や5分や1時間のタスクで、その分野の専門家ができるかもしれへん、もしくは苦労するかもしれへんタスクを、ポケットの中の一つのソフトウェアでできるっていう事実は本当に素晴らしいんや。これは人類の歴史のどの時点でも前例がないと思うで。技術がこんなに早くこんなに改善したことは。そんで今この道具を持ってるっていう事実、私らはそれを生きてて、段階的に調整してるんや。でも5年や10年前に戻って、こんなことが来るって言うたら、多分「ありえへん」って言うたやろな。
人々がまだ見出しを見てへんと仮定して、君が興奮してる具体的なトップライン的なことは何や？そんで君が留保してるように見えること、期待したらあかんことは何や？俺が最も興奮してるのは、今回初めて、どんな難しい科学的や技術的質問でも聞いて、かなり良い答えをもらえると感じられるモデルやってことや。面白い例を挙げるで。
中学生の時やったかな、高校生やったかもしれへんけど、TI-83っていう古いグラフ電卓をもらったんや。そんでめちゃくちゃ時間をかけて「スネーク」っていうゲームを作ったんや。俺の学校の子供たちの間で人気のゲームやってん。俺はプロやったんや。アホやったけど、TI-83でプログラミングするのはめちゃくちゃ苦痛で時間がかかって、デバッグするのも本当に難しかってん。
そんで、GPT-5の初期版で思いついて、TI-83スタイルのスネークゲームを作れるかなって思ったんや。もちろん、7秒で完璧に作ってくれた。そんで俺は、11歳の俺はこれをクールやと思うんやろか、それとも何かプロセスから失うもんがあるんやろかって考えた。3秒間、これが良いことなんか悪いことなんかって悩んだ。でもすぐに「実際、今このゲームが恋しいわ。めちゃくちゃ新しい機能のアイデアがある」って思って、それを入力した。
それが実装されて、ゲームがリアルタイムで更新されて、「実際、こんな風に見えるようにしたいな。実際、こんなことをしたいな」って言ったら、プログラミングで11歳の時みたいな体験ができたんや。今これを試したい、今このアイデアがある、今あれをやりたいって思って、でもこんなに早くできて、アイデアを表現して、ものを試して、リアルタイムでものと遊べるんや。「うわあ、子供たちがこんな石器時代みたいな方法でプログラミングを学ぶ苦労を逃すことを一瞬心配してたけど、今は彼らのことが嬉しくてたまらへん」って思った。
なぜなら、人々がこれらの新しいツールで創造できる方法、アイデアを実現できるスピードは本当に素晴らしいからや。だから、GPT-5が難しい質問に答えるだけやなくて、本当にオンデマンドでほぼ瞬時にソフトウェアを作れるっていうアイデア、それがGPT-4時代には存在しなかった方法でGPT-5時代の決定的な要素の一つになると思うんや。
君が話してる間に、ウェイトトレーニングの「time under tension（負荷時間）」っていう概念について考えてるんや。知らない人のために説明すると、100ポンドを3秒でスクワットすることもできるし、30秒でスクワットすることもできる。30秒でやった方がずっと効果があるんや。俺の創造的プロセスについて考えると、最高の仕事をしたと感じた時は、膨大な認知的負荷時間が必要やったんや。
その認知的負荷時間がめちゃくちゃ重要やと思うんや。皮肉なことに、これらのツールを開発するには膨大な認知的負荷時間がかかってるんやけど、ある意味で人々はそれを思考からの逃げ道として使ってるかもしれへんって言う人もいるやろな。
でも君は、電卓でもそうやったけど、より難しい数学の問題に移行しただけやって言うかもしれへんな。ここで起こってることは何か違うと感じる？これについてどう思う？
人によって違うんや。ChatGPTを使って考えないようにしてる人もいるし、これまで以上に考えるために使ってる人もいる。もっと多くの人が脳を少し伸ばして、もっとできるようになるツールを作れることを願ってるんや。社会は競争の場やから、人々に新しいツールを与えたら、理論的には人々はもっと働かなくなるかもしれへんけど、実際には人々はますます一生懸命働いて、人々への期待が上がるみたいやな。
だから他のツールと同じように、他の技術と同じように、もっとやる人もいるし、やらなくなる人もいるやろうけど、確実に言えるのは、ChatGPTを使って認知的負荷時間を増やしたい人は本当にそれができるし、トップ5%の最も熱心なユーザーがChatGPTで何をしてるかから俺はめちゃくちゃインスピレーションを受けてるんや。人々がどれだけ学んで、やって、アウトプットしてるかは本当に素晴らしいで。
GPT-5との新しい体験
俺はGPT-5を数時間しか持ってないから、まだ遊んでる段階や。今のところどう思う？まだどうやって使うかを学んでる途中や。面白いのは、GPT-4の使い方をやっと理解したと思ったら、今度はGPT-5の使い方を学ぼうとしてることや。君がずっと使ってると思うから、最も興味深いと思った具体的なタスクが何か気になるんや。
俺が最も印象を受けたのはコーディングタスクや。他にもたくさん得意なことがあるんやけど、AIが何でもソフトウェアを書けるっていうアイデアがすごいんや。つまり、新しい方法でアイデアを表現できるし、AIが非常に高度なことができるってことや。ある意味、GPT-4には何でも聞けたけど、GPT-5がプログラミングにめちゃくちゃ優秀だから、何でもできるように感じるんや。もちろん、物理的な世界ではできないことはあるけど、コンピューターに非常に複雑なことをさせることができる。ソフトウェアは何かをコントロールして、実際に何かをするためのめちゃくちゃ強力な方法やからな。だから俺にとってはそれが最も印象的やった。
書くのもずっと上手になったんや。AI slop（AI駄作）っていう問題があって、AIはMダッシュとかを使ったちょっとイライラする書き方をするんやけど、GPT-5でもまだMダッシュはあるけどな。Mダッシュを好む人も多いんやけど、GPT-5の書く品質はずっと良くなった。まだ改善の余地はあるし、もっと改善したいんやけど、OpenAI内の人たちからよく聞くのは、GPT-5を使い始めて、すべての指標で良いのは知ってたけど、うまく表現できない微妙な品質があって、でもGPT-4に戻って何かをテストしないといけない時は、ひどく感じるってことや。
その原因が正確には分からんけど、書くのがずっと自然で良く感じるからの一部やと思うんや。この インタビューの準備でAIと技術の他のリーダー何人かに連絡して、君への質問をいくつか集めたんや。次の質問はStripeのCEO、パトリック・コリソンからや。これは良い質問やろな。
これを一字一句読むで。次の段階についてや。GPT-5の後に何が来るんや？大規模言語モデルが重要な科学的発見をするのは何年やと思う？そんで、それがまだ起こってへん理由は何が欠けてるからや？数学とアルファフォールドみたいな特殊ケースモデルは除いて、GPTシリーズみたいな完全に汎用的なモデルについて具体的に聞いてるんや。
ほとんどの人が同意するのは、それが次の2年間のどこかで起こるってことやと思う。でも「重要」の定義がめちゃくちゃ重要や。重要なことが2025年の早い時期に起こるかもしれへんし、2026年の後期までないかもしれへん。すまん、2026年の早い時期や。2027年の後期までない人もいるかもしれへんけど、2027年の後期までには、ほとんどの人がAI主導の重要な新発見があったことに同意するやろうと俺は賭けるで。
欠けてるのはこれらのモデルの認知力やと思う。研究者の一人が言うた枠組みで俺がめちゃくちゃ気に入ったのは、1年前は高校の基礎数学競技問題で、プロの数学者が数秒から数分でできるようなもので良くできてた。最近IMOの金メダルを取ったんや。それがどういう意味か説明できる？それは最も難しい数学競技テストみたいなもんや。世界のトップの薄い層みたいなもんで、多くの専門の数学者が一問も解けへんのに、俺らはトップレベルの得点を出したんや。
金メダル範囲でもっと高い点を取った人間もいるけど、これはめちゃくちゃな成果や。これらの問題はそれぞれ、9時間で6問やから、優秀な数学者でも1問1時間半かかるんや。だから俺らは数秒から数分から1時間半まで来て、重要な新しい数学定理を証明するには世界のトップの人で1000時間の作業がかかるかもしれへん。だから、もう一回重要な進歩が必要や。でも俺らの軌道を見れば、そこに到達してるって言えるし、その時間枠に到達する道筋もある。モデルをスケールし続けるだけでええんや。
人工超知能への道のり
君が説明してる長期的未来は人工超知能や。それって実際何を意味するんや？そんで、いつそれに到達したかをどうやって知るんや？もし俺らのOpenAI研究チーム全体より良い研究、良いAI研究ができるシステムがあったとしたら、もし俺らがGPUの最良の使い方は、このAIに俺らがどんな実験をするべきかを決めさせることやって言って、OpenAIの頭脳集団全体より賢いなら。
個人的な例を挙げると、もしその同じシステムが俺より上手にOpenAIを経営できるなら。最高の研究者より優秀で、この点で俺より優秀で、他の人の仕事でも他の人より優秀なものがあったら、それは俺にとって人工超知能に感じられるやろな。
それはほんの数年前やったらSFみたいに聞こえた文章やな。今もそんな感じやけど、霧の向こうに見えるようになってきた。そうや。その道のりでの一歩が、君が言ってるような科学的発見の瞬間、より良い質問をして、専門家レベルの人間がするような方法で物事に取り組んで、新しい発見をするっていうことやな。
俺の頭の中でずっと回ってることの一つは、もし1899年にいて、その時点までの物理学をすべて与えて、それより先はなしで少し展開させたとしたら、これらのシステムの一つが一般相対性理論を思いつくのはいつやろかってことや。面白い質問は、もし俺らが今どこにいるかを考えて、もし新しい物理学データを全く得られへんかったら、本当に良い人工超知能が俺らの既存のデータについて超一生懸命考えて、新しい素粒子加速器なしで高エネルギー物理学を解けるか、それとも新しいのを作って新しい実験を設計する必要があるかってことや。明らかに俺らは答えを知らん。人によって推測が違う。
でも多くの科学にとって、俺らが持ってるデータについてもっと一生懸命考えるだけやと足りへんけど、新しい機器を作って、新しい実験をする必要があって、それには時間がかかると思うんや。現実世界は遅くてごちゃごちゃしてるからな。だから俺らが今世界にある科学データについてもっと一生懸命考えることで、もう少し進歩できると確信してるけど、大きな進歩をするためには新しい機械を作って新しい実験をする必要があって、そこにいくらかの減速が組み込まれてるやろうと思うんや。
これを考える別の方法は、AIシステムは今ほとんどどんな質問にも答えるのがめちゃくちゃ得意やけど、これから先の飛躍は、より良い質問をすることかもしれへんってことや。もしくはこの種の時系列質問に戻ると、AIシステムは1分のタスクでは超人的やけど、1000時間のタスクにはまだ道のりが長いって言えるかもしれへん。これらの長期タスクに関しては、AIシステムとは非常に異なって見える人間の知性の次元があるんや。俺らはそれを解決すると思うけど、今日それは本当の弱点や。
俺らは今GPT-5でどこにいるかを話した。人工超知能の最終目標や未来目標についても話した。俺が持ってる疑問の一つは、もちろん、この二つの間の霧を歩くのがどんな感じかってことや。次の質問はNvidiaのCEO、ジェンスン・ファンからや。一字一句読むで。事実とは何であるか。真実とは何を意味するか。だから事実は客観的や。真実は個人的や。視点、文化、価値観、信念、文脈に依存するんや。
一つのAIは事実を学んで知ることができる。でも一つのAIがあらゆる国、あらゆる背景のみんなの真実をどうやって知ることができるんや？公理としてその定義を受け入れるで。同意するかどうか分からんけど、時間の関係上、その定義を取って進めるわ。
AIが異なる文化的文脈や個人に適応することがどれだけ流暢かについて驚いてるし、他の多くの人も驚いてると思う。俺らが今年初めにローンチしたChatGPTの機能で最も気に入ってるのは、拡張メモリや。本当に俺のChatGPTが俺を知るようになって、俺が気にかけることや人生経験や背景、そんで俺を今の場所に導いたことを知るようになった感じがするんや。
最近、ChatGPTのヘビーユーザーの友達がいて、彼の人生の多くを会話に込めてるんや。彼は自分のChatGPTにいくつかの性格テストを受けさせて、彼みたいに答えてもらったら、性格について話したことがないのに、彼が実際に取ったのと同じ点数を取ったんや。俺のChatGPTは長年俺と話してて、俺の文化、価値観、人生について本当に学んだんや。俺は時々履歴なしの無料アカウントを使って、どんな感じかを見るんやけど、本当に本当に違うと感じるんや。
だから俺らはみんな、AIがこれを学んで適応することがどれだけ上手かについて、良い意味で驚いてるんや。世界の異なる部分で、人々が異なる文化的規範や文脈を持つ異なるAIを使うのを想像してる？それが君の言ってることか？みんなが同じ基本モデルを使うと思うけど、そのモデルに文脈が提供されて、彼らが欲しい個人的な方法や彼らのコミュニティが欲しい方法で動作するようになるやろうな。
真実と現実の境界線
事実と真実のアイデアに到達してる時、これは俺らの最初のタイムトラベル旅行の良い瞬間やと思う。2030年に行こか。これは真面目な質問やけど、軽い例で聞きたいんや。トランポリンで飛び跳ねてるうさぎを見たことある？見たで。見てない人のために説明すると、裏庭でうさぎがトランポリンで楽しそうに飛び跳ねてる映像みたいに見えるんや。
これは最近めちゃくちゃバイラルになったんや。人間が作った歌もあるし、全部や。うさぎがトランポリンにおったんや。人々がめちゃくちゃ強く反応した理由は、多分人々が動画を見て楽しんで、後から完全にAIで生成されたって分かった初めてのことやったからや。
このタイムトラベル旅行で、2030年を想像して、俺らがティーンエイジャーで、2030年にティーンエイジャーがスクロールするであろう何かをスクロールしてるとして、何が本物で何が本物やないかをどうやって見分けるんや？その質問にはいろんな字面通りの答えができるで。暗号的にサインしたり、実際に何かを撮影したかどうか、署名を信頼する人を決めたりできる。
でも俺の感覚では、徐々に収束していくことになるやろうな。今日iPhoneで撮る写真でも、ほぼ本物やけど、ちょっと違うんや。君が理解してへんAI的なことがあって、ちょっと良く見えるようにしてて、時々月で奇妙なことが起こるのを見るやろ。でも、カメラセンサーが捉えた光子と君が最終的に見る画像の間には、多くの処理能力があるんや。そんで君はそれを十分本物やと決めたか、ほとんどの人がそれを十分本物やと決めたんや。でも俺らはフィルムに光子が当たったカメラの時代から徐々に移行することを受け入れたんや。
TikTokで動画を見たら、多分本物より良く見せるためにあらゆる動画編集ツールが使われてるやろ。そうやな。もしくはシーン全体が完全に生成されてるか、動画全体がトランポリンのうさぎみたいに生成されてるんや。そんで本物と考えるためにどれくらい本物でないといけないかの閾値が動き続けると思うんや。だからある意味教育の問題やし、人々は…
メディアは常にちょっと本物でちょっと本物やないんや。SF映画を見ても、それが実際に起こったことやないのは分かるやろ。インスタで誰かの休暇の美しい写真を見ても、その写真は文字通り撮られたかもしれへんけど、同じ写真のために並んでる観光客がいっぱいいるのは抜かれてるんや。俺らはそれを今受け入れてるんや。
確実に、メディアのより高い割合が本物やないと感じるやろう。でも、それはずっと長期的なトレンドやったんや。とにかく、また飛ぼか。2035年、俺らは大学を卒業するんや、君と俺が。AI分野の一部のリーダーは、5年後には入門レベルのホワイトカラー労働力の半分がAIに置き換えられるって言うてる。だから俺らは5年後の大学卒業生や。俺らにとって世界がどんな風になることを願ってるんや？
AI分野では仕事の置き換えについて多く話されてるけど、俺も気になることがあるんや。俺は10年前やったら誰も持てると思わんかったような仕事を持ってるんや。2035年を考えて、もし彼らがまだ大学に行くとしたら、大学を卒業する学生が太陽系を探索する宇宙船で何らかの全く新しい、刺激的で、超高収入で、超面白い仕事のミッションに出発して、君と俺がこんなつまらん古いタイプの仕事をしなければならなかったことを可哀想に思うような、そんな先を見据えた物事があるかもしれへん。すべてがもっと良くなってるんや。
10年はもうこの時点では想像するのがめちゃくちゃ難しいと思うんや。遠すぎるんや。現在の変化率を10年間複利で考えたら、多分俺らが想像できへんものになるやろな。タイムトラベル旅行も。俺は今から10年前を想像するのも本当に難しいやろうと思う。でも10年先はもっともっと難しくて、もっと違うやろな。だから5年にしよか。
まだ2030年に行くで。この若い人たちにとってのかなり短期的な影響について何を考えてるか気になるんや。このエントリーレベルの仕事の半分がAIに置き換えられるっていうのは、俺が入った世界とは非常に違う世界に彼らが入ることになるように聞こえるんや。
一部の職種は完全になくなるのは完全に事実やと思う。これはいつも起こることで、若い人はこれに適応するのが最も得意なんや。俺がもっと心配してるのは、22歳の人やなくて、再訓練やリスキルや政治家が呼ぶような、実際には誰も望んでへんけど政治家がほとんどの時間呼ぶものを望まへん62歳の人にとって何を意味するかや。
もし俺が今22歳で大学を卒業してるとしたら、歴史上最も幸運な子供やと感じるやろな。なんでかって？全く新しい何かを創造し、何かを発明し、会社を始める、何でもそうやけど、こんなに素晴らしい時代は今まで一度もなかったからや。10億ドル以上の価値がある一人会社を始めることが今は可能やと思うし、それより重要なのは、世界に素晴らしい製品とサービスを提供することや。それはめちゃくちゃなことや。
以前は何百人ものチームが必要やったことを可能にしてくれるツールへのアクセスがあるんや。これらのツールの使い方を学んで、素晴らしいアイデアを思いつけばええだけや。本当に素晴らしいことや。一歩下がって考えると、この楽観的な番組でこの聴衆が君から聞くべき最も重要なことは二つの部分やと思う。
技術的制約と将来展望
まず戦術的に、君は実際にどうやって世界で最も強力な知性を構築しようとしてるんか？そんで、それをする上での制限要因は何や？そして哲学的に、君や他の人たちはその技術を、人々を傷つけるんやなくて本当に助けるような方法でどうやって構築しようとしてるんや？
戦術的な部分を取り上げよか。俺の理解では、AIの制限要因になってる大きなカテゴリーが三つあるんや。最初は計算力、二番目はデータ、三番目はアルゴリズム設計や。今この三つのカテゴリーをそれぞれどう考えてる？そんで、人々が次に見るかもしれへん見出しを理解するのを手伝うとしたら、どうやってこれ全部を理解してもらう？
四つ目もあると思うんや。構築する製品を見つけ出すことや。科学的進歩それ自体では人々の手に渡らへんかったら有用性が限られるし、社会と同じように共進化せえへん。でももし俺がこの四つ全部に当たることができたら…
計算力の面では、これは確実に俺が見たことのある最大のインフラプロジェクトで、多分人類史上最大で最も高価なプロジェクトになると思う。チップやメモリ、ネットワーキングギアを作る全サプライチェーンから、それらをサーバーにラックして、メガメガデータセンターを建設する巨大な建設プロジェクトをして、エネルギーを見つける方法を見つけて、これはしばしばこの部分の制限要因で、他の全コンポーネントを一緒にすることや。これはめちゃくちゃ複雑で高価や。
俺らはまだこれを一種の特注の一回限りの方法でやってるけど、だんだん良くなってる。最終的には、一方の端で砂を溶かして、他方の端で完全に構築されたAI計算力を出すような、精神的にはメガファクトリー全体を設計することになるやろうけど、そこまでは長い道のりや。めちゃくちゃ複雑で高価なプロセスや。
俺らはできるだけ多くの計算力を構築して、それを速くやることに膨大な作業を投入してるし、GP-5がローンチされて需要がまた大きくスパイクして、それに応えられなくて、初期GPT-4時代みたいになって悲しいことになるやろうけど、世界は俺らが現在提供できるよりもずっと多くのAIを望んでるんや。より多くの計算力を構築することがそれをする重要な部分や。
実際これが俺の注意の大部分を向けることになると予想してることや。数百万から数千万、数億、そして最終的には何十億ものGPUをどうやって構築するかや。人々がこれでやりたいことのサービスに従事してるGPUをな。このカテゴリーでの大きな課題について考える時、君が考える予定の課題は何や？
俺らは現在エネルギーによって最も制限されてる。ギガワット規模のデータセンターを動かしたいって思っても、ギガワットってそんなに難しいことやないやろって思うかもしれへんけど、短期間でギガワットの電力を見つけるのは本当に難しいんや。俺らは処理チップやメモリチップによってもめちゃくちゃ制限されてるし、これらすべてをどうパッケージするか、ラックをどう構築するかもあるし、許可や建設作業みたいな他のことのリストもある。
でも繰り返すけど、ここでの目標はこれを本当に自動化することや。ロボットが構築されたら、さらに自動化を助けてくれるやろう。でも基本的に金を投入して事前構築されたデータセンターを取り出せる世界や。それが機能したら大きな解除になるやろうな。
二番目のカテゴリー、データや。これらのモデルはめちゃくちゃ賢くなった。別の物理学の教科書を食わせたら、物理学がちょっと賢くなる時代があったんやけど、今は正直GPT-5は物理学の教科書のすべてをかなりよく理解してる。俺らは合成データに興奮してるし、ユーザーがもっと難しくて難しいタスクや環境を作るのを手伝ってくれて、システムに解決させに行かせることにもめちゃくちゃ興奮してる。
でもデータは常に重要やと思うけど、モデルがどんなデータセットにもまだ存在してへんことを学ぶ必要がある領域に入ってるんや。新しいことを発見しに行かなあかん。だからこれはめちゃくちゃ新しい…どうやってモデルに新しいことを発見することを教えるんや？
人間はできるからな。仮説を立てて、テストして、実験結果を得て、学んだことを更新できる。だから多分同じような方法やろうな。それからアルゴリズム設計がある。俺らはアルゴリズム設計で大きな進歩を遂げた。
OpenAIが世界で最も得意やと思うことは、繰り返される大きなアルゴリズム研究の成果の文化を築いたことや。だからGPTパラダイムになったものを見つけ出した。推論パラダイムになったものを見つけ出した。今は新しいものに取り組んでる。でも俺らの前にはまだ何桁ものアルゴリズムの成果があることを考えるのがめちゃくちゃ楽しいんや。
俺らは昨日、GPT-oSっていうオープンソースモデルをリリースした。o4 Miniと同じくらい賢いモデルで、o4 Miniは非常に賢いモデルでラップトップでローカル動作するんや。これは俺の心を吹き飛ばすわ。数年前にその知性のモデルがいつラップトップで動くかって聞かれてたら、何年も何年も先やって言うてたやろな。
でも推論を中心とした、でも他のこともあるアルゴリズムの成果を見つけ出して、この素晴らしいことができる小さなモデルができたんや。これらが最も楽しいことや。これが仕事の最もクールな部分みたいなもんや。君がこれについて考えることを本当に楽しんでるのが見えるで。
よく知らん人のために、アルゴリズム設計がどうやって彼らが実際に使うより良い体験につながるかについて話してることを要約してくれる？この問題がどれだけ楽しいかを考える時に何を考えてるんや？
歴史から始めて、それから今日のことをいくつか説明するわ。GPT-1はその時分野の多くの専門家にかなりバカにされたアイデアやった。モデルに小さなゲームをプレイするよう訓練できるかっていうもんで、一連の単語を見せて、次に来る単語を推測させるんや。これは教師なし学習って呼ばれる。これは猫、これは犬って本当に言うわけやない。いくつかの単語があって、次のを推測しろって言うんや。
そんで、それが次と次と次と次の単語を予測し続けて、物理学や数学やプログラミングについてのすべてのものについてのこれらの非常に複雑な概念を学べるっていう事実は、ばかげてて、魔法的で、うまく行きそうもなく見えた。すべてがどうやってエンコードされるんやって感じやった。でも人間はそれをするんや。
赤ちゃんは言語を聞き始めて、それが何を意味するかをかなり大きく、少なくともある程度は自分で理解するんや。だから俺らはそれをやって、スケールアップしたらどんどん良くなることにも気づいた。でも何桁にもわたってスケールする必要があった。GPT-1の日にはそんなに良くなかった。GPT-1の日には全然良くなかった。分野の多くの専門家は「これはばかげてる。絶対にうまくいかん。堅牢やない」って言うた。
でも俺らにはスケーリング法則っていうものがあった。計算、メモリ、データなどを増やすにつれて予測可能に良くなるって言えたんや。その予測を使ってこれをスケールアップしてどうやるかについて決定を下して、素晴らしい結果を得ることができた。そしてそれは何桁にもわたって機能したんや。
その時は全く明らかやなかった。それが世界がこんなに驚いた理由やと思う。そんなありそうもない発見に見えたから。もう一つは、これは良い、これは悪いって言って、推論することを教えるために強化学習でこれらの言語モデルを使えるってことやった。これがo1やo3、そして今のGPT-5の進歩につながったんや。
そんでそれも、もしうまくいったら本当に素晴らしいけど、こんなのうまくいくわけないって感じのもう一つのことやった。シンプルすぎるって。今俺らは新しいことに取り組んでる。ずっと良いビデオモデルを作る方法を見つけ出した。新しい種類のデータと環境を使ってそれもスケールアップする新しい方法を発見してる。
そして繰り返すけど、5年10年先はこの分野では言うのが難しすぎるけど、次の数年間は俺らの前に非常にスムーズで非常に強いスケーリングがあるんや。
1から2から3から4から5へのスムーズな道筋にいるっていう公の物語になってると思う。でも舞台裏では実際にはそんな直線的やない。もっとごちゃごちゃしてる。GPT-5の前の興味深い問題、解決する必要があった混乱について少し教えてくれる？
俺らはGPT 4.5としてリリースしたOrionっていうモデルをやった。でかすぎるモデルをやってしまったんや。非常にクールなモデルやけど、使うには扱いにくいんや。そんで、モデルの上でする必要がある研究のいくつかには、異なる形状が必要やってことに気づいた。
だから良い状態を保ち続けたスケーリング法則を一つ追ったんやけど、実際には新しいもっと急なスケーリング法則があって、計算についてより良いリターンが得られるってことを内面化してへんかった。それがこの推論のことや。だからそれは俺らが進んで引き返した一つの路地やったけど、それは大丈夫や。研究の一部やからな。
これらのモデルがこんなに大きくなって、これだけ多くのデータから学ばなあかん時のデータセットについての考え方にいくつか問題があった。だから、日々の中では、物事を試したりアイデアがうまくいかなかったりで、多くのUターンをするんやけど、でも全部の曲がりくねったものの集計、総和は指数関数上で驚くほどスムーズやったんや。
いつも面白いと思うことの一つは、俺が君が出したばかりのものについてここでインタビューしてる時には、君は既に考えてるってことや。1年後に戻ってきたらインタビューするであろう問題で、少なくとも君が考えてる問題で共有できることは何や？
多分君は俺に「この技術が新しい科学を発見できるってどういう意味や？」って聞いてるかもしれへんな。GPT-6が新しい科学を発見することについて世界はどう考えるべきや？そうやないかもしれへん。俺らがそれを実現できへんかもしれへんけど、手の届くところにあると感じるんや。もしそうしたら、何て言う？そのような成果の影響は何やろう？成功したと想像してみ。
素晴らしい部分は素晴らしいやろうし、悪い部分は怖いやろうし、奇妙な部分は最初の日は奇妙やろうけど、俺らは本当に速く慣れるやろうな。だから「これが病気を治すのに使われてるのは信じられん」って思うし、「こんなモデルが新しい生物保安脅威を作るのに使われてるのはめちゃくちゃ怖い」って思うやろう。そんで「世界がこんなにスピードアップして経済がこんなに速く成長するのを生きて見るのは本当に奇妙や」って思うやろうし、変化の速度はめまいがするような感じやろう。
そんで他のすべてと同じように起こる、どんな量の変化にも適応する人類の驚くべき能力で、俺らはただ「分かった、これがそうや」って感じになるやろうな。今日生まれた子供は、AIより賢くなることは絶対にないんや。今日生まれた子供は、その子供が世界の動き方を理解する頃には、信じられないほど速い物事の改善と新しい科学の発見の速度にただ慣れてるやろう。他の世界を知らんのや。全く自然に思えるやろう。
俺らが以前コンピュータや電話や、俺らより賢くない技術を使ってたなんて考えられないし、石器時代みたいに思えるやろうな。2020年代の人たちはどんなに大変やったかって思うやろうな。俺は子供を持つことを考えてる。持つべきやで。今まででも最高のことや。君が最初の子供を持ったばかりやってことは知ってる。今言うたことは、その世界で子供を育てることについてどう考えるべきかにどう影響する？どんなアドバイスをくれる？
何万年もの間子供を育ててきた方法と多分何も変わらんやろうな。子供を愛して、世界を見せて、彼らがやりたいことは何でも支援して、良い人になる方法を教えるんや。それが多分大切なことやろう。君が言うたことのいくつかはちょっとそんな感じに聞こえる。大学に行かんかもしれへんとか、君がこれまでに言うたいくつかのことがあって、それがこれに影響してると思うんやけど、君が言ってるのは彼らにとってもっと選択肢があるってことのようやな。
君が描く世界で、だから彼らは「これを作りたい。手伝ってくれる超強力なツールはこれや」とかって言えるもっと能力があるってことや。俺は子供に俺がひどく制約された人生を送ったと思ってもらって、彼には無限のキャンバスがあるって思ってもらいたいんや。それが世界のあり方や。
2035年は未来を考えるには少し遠すぎると言うた。だからこれは2040年への飛躍になる予定やったけど、多分それより短く保とうか。AIが俺らの子供たちと俺らすべてにとって最も大きく本当に良い影響を与える可能性がある分野について考える時、それは健康や。だから君が選ぶ年、2035年にいて、俺がここに座ってスタンフォード医学部の学部長にインタビューしてるとして、2035年にAIが俺らの健康のために何をしてるか、彼が俺に話すことを何を願う？
医療分野での革新
2025年から始めよか。GPT-5で最も誇りに思ってることの一つは、健康アドバイスでどれだけ良くなったかや。人々はGPT-4モデルを健康アドバイスにたくさん使ってる。インターネットで見たことがあると思うけど、人々が「生命に関わる病気があって、どの医者も分からんかった。症状と血液検査をChatGPTに入れたら、俺が持ってる珍しい病気を正確に教えてくれた。医者に行った。薬を飲んだ。治った」って言うんや。それは素晴らしいことや。
明らかにChatGPTのクエリの大きな割合は健康関連やから、俺らはこれを本当に得意になりたかったし、GPT-5は健康関連のクエリで大幅に良くなったんや。ここでの「より良い」って何を意味する？より正確な答えをくれる。より正確で、幻覚が少なくて、実際に持ってるもの、実際にすべきことを教えてくれる可能性が高いんや。
より良い医療は素晴らしいけど、明らかに人々が実際に欲しいのは病気を持たないことや。2035年までには、現在俺らを悩ませてる病気の相当数を治すか、少なくとも治療するためにこれらのツールを使えるようになると思う。それがAIの最も肌で感じられる恩恵の一つになると思うんや。
人々はAIがどう医療を革命化するかについてたくさん話すけど、具体的に君が想像してることをもう一段階深く聞きたいんや。これらのAIシステムがGLP-1を早く見るのを手伝ってくれたかもしれへんってことか？長い間あった薬やけど、この他の効果について知らんかったってことや？アルファフォールドとタンパク質折り畳みが新しい医薬品の作成を助けてるってことか？
GPT-8に特定の癌を治すように頼めるようになりたいし、GPT-8に行って考えてもらって、「分かった、見つけられることは全部読んだ。アイデアがある。実験技術者に9つの実験をしてもらって、それぞれについて何が分かったかを教えてくれ」って言ってもらいたいんや。細胞が活動するのを2ヶ月待って、結果をGPT-8に送り返す。「試した。結果はこれや」って言う。考えて考えて。「もう一つ実験が必要や。それは驚きやった。もう一つ実験をしろ」って言う。結果を返す。
GPT-8が「分かった、この分子を合成してマウス実験とかを試せ」って言う。「良かった。人間での実験を試せ。素晴らしい、うまくいった。Aを通す方法はこれや」って感じや。癌で愛する人を亡くした人なら誰でも、それも本当に望むやろうな。
また飛ぼうか。2050年って言うつもりやったけど、繰り返すけど、俺の時系列は全部ずっとずっと短くなってる。世界が今めちゃくちゃ速く動いてる感じがするからな。そうやな。俺が他のAIリーダーと話す時に、彼らが言及することの一つは産業革命や。彼らは「その時までに俺らが経験する変化は産業革命みたいやけど、10倍大きくて10倍速い」って言うんや。
産業革命は俺らに現代医学や衛生や交通手段や大量生産や、俺らが当たり前に思ってる便利なもの全部をくれた。約100年間、多くの人にとってもめちゃくちゃ困難やった。もしこれが10倍大きくて10倍速いとしたら、この会話でも話してる時系列を短くし続けるとしたら、それはほとんどの人にとって実際どんな感じやろう？俺が言おうとしてることは、これが全部君が望む方向に行ったとしても、その間に誰がまだ傷つくんや？
これを生きるのがどんな感じかは本当に分からん。俺らは未踏の海域にいると思う。人間の適応力と無限の創造性と物への欲求を信じてるし、俺らはいつも新しいことを見つけ出すと思うけど、移行期間がもしこれが俺の同僚の何人かが言うほど速く起こるとしたら、技術はそんなに速くやないと思うけど、社会にはたくさんの慣性がある。人々は生き方を適応させる。驚くほどゆっくりや。
完全になくなる職種があるやろうし、大幅に変わる多くの職種があるやろうし、君の仕事がしばらく前には存在しなかったのと同じように新しいことがあるやろう。俺のもそうや。ある意味、これは長い間続いてることや。個人にとっては破壊的やけど、社会はこれにかなり回復力があることが証明されてる。
でも他の意味では、これがどこまで、どのくらい速く行けるかは全く分からん。だから俺らは異常な程度の謙虚さと、そう遠くない昔にはオーバートンウィンドウから完全に外れてたやろう新しい解決策を考慮することへのオープンさが必要やと思う。
そのうちのいくつかが何になり得るかについて話したいんや。俺は全然歴史家やないけど、第一次産業革命は俺の理解では多くの公衆衛生実装につながった。公衆衛生がめちゃくちゃ悪くなったからや。現代の衛生につながった。公衆衛生がめちゃくちゃ悪くなったからや。第二次産業革命は労働保護につながった。労働条件がめちゃくちゃ悪くなったからや。
どの大きな飛躍も混乱を作って、その混乱を片付ける必要があって、俺らはそれをやってきたんや。そして俺は好奇心がある、これは俺らがその真っただ中にいる途轍もない飛躍になりそうやけど、どのくらい具体的にできる限り早くその混乱が何になり得るかについて？俺らが向かってると思う混乱を減らすために、事前にできる公的介入は何や？
楽しみで推測するけど、俺は経済学者でもないし、ましてや未来が見える人でもないっていう注意書きをつけるで。社会契約について何か根本的なことが変わる必要があるかもしれへんと思うんや。そうやないかもしれへん。実際には資本主義が今までやってきたみたいに驚くほどうまく機能して、需要供給のバランスが調整されて、俺らがみんな新しい仕事と価値を互いに移転する新しい方法を見つけ出すだけかもしれへん。
でも未来の最も重要なリソースかもしれへんこれへのアクセスをどう共有するかについて考える必要があると決めることになりそうやと思うんや。俺にできる最善のことは、AIコンピュートをできるだけ豊富で安価にすることで、あり余るほどあって、本当に使うのに良い新しいアイデアがなくなって、欲しいものは何でも起こってるような状況にすることやと思うんや。それなしには、文字通りそれをめぐって戦争が起こるのが見えるんや。
でも、AGIコンピュートへのアクセスをどう分配するかについての新しいアイデア、それはめちゃくちゃだけど考える価値のある本当に素晴らしい方向やと思うんや。この会話で俺が考えてることの一つは、俺らが話してきたAIの未来のほぼ全責任をAIを作ってる会社に帰することが多いけど、それを使ってるのは俺らやってことや。それを規制する人を選出するのは俺らや。
だから俺は好奇心があるんや。これは具体的な連邦規制とかについての質問やないけど、もしそこに答えがあるなら聞きたいんや。でも君は俺ら他の人に何を求める？ここでの共有責任は何や？そんでこの楽観的なバージョンをより可能にするような方法で俺らはどう行動できる？
AI革命で俺の好きな歴史的例はトランジスターや。素晴らしい科学者が発見した驚くべき科学やった。AIみたいに信じられないほどスケールして、俺らが使う多くのものに比較的早く浸透した。君のコンピュータ、携帯、あのカメラ、あの電灯、何でもや。人類の技術ツリーにとって本当の解除やった。
多分みんながトランジスタ会社、シリコンバレーがまだシリコンバレーやった頃の半導体に本当に夢中になってた時期があった。でも今は多分トランジスタ会社の名前をいくつか言えるかもしれへんけど、ほとんど考えへんやろ。ほとんどどこにでも浸透してるだけや。シリコンバレーでは、多分大学を卒業する人がなんでそう呼ばれるようになったかをかろうじて覚えてる程度やろう。
そんで重要なことをやったのにトランジスタ会社が社会を形成したとは思わんやろ。iPhoneでAppleがやったこと、そんでiPhoneの上にTikTokが作ったことを考えるやろ。「よし、ここに社会を何らかの方法で動かした人たち、政府がやったりやらんかったりしたこと、これらの技術を使った人がやったことの長い鎖がある」って思うやろ。そんでそれがAIで起こることやと思うんや。
今日生まれた子供たちは、AIなしの世界を知らんから、本当にそれについて考えへん。すべての中にあるものやと思うだけや。そんで彼らはその上に構築した会社、彼らがそれで何をやったか、AIなしではできんかったやろうけど、それでもこの大統領やあの大統領がやったこと、AIなしではできんかったかもしれへんけど、それでもAI会社の役割みたいなことを考えるやろう。
俺らの前にいた会社や人や機関はみんなこの足場を築いて、俺らはその上に一つの層を追加して、今人々はその上に立って一つの層を追加できて、次、次、さらにもっと多くや。そんでそれが俺らの社会の美しさや。社会は人工超知能やって俺がめちゃくちゃ好きなアイデアがある。
一人では、社会がみんなで一緒にやった本当に大変な作業でくれたこの素晴らしいツールのセットなしには、一人でできることはできへんからや。そんでそれがどんな感じになると思うんや。「よし、何かのオタクがこれを発見して、それは素晴らしかった。みんなそれで素晴らしいことをやってる」って感じになるやろう。だから何百万人への要求は、その上に築くことかもしれへんな。
俺自身の人生で、それは重要な社会契約みたいに感じるんや。君の前にいたこれらすべての人。彼らは信じられないほど一生懸命働いた。人間の進歩の道に自分のレンガを置いて、君はその道をずっと歩いて、もう一つ置くことができて、誰か他の人がそれをやって、誰か他の人もそれをやるんや。
本当にカタクリズム的な変化を起こした人たちとの何回かのインタビューをやったことがあって、今考えてるのは、クリスパーのパイオニア、ジェニファー・ダナとのインタビューや。それもある意味で彼女が言ってることと同じように感じたんや。彼女は本当にほとんどの人が将来健康との関わり方を変えるかもしれへん何かを発見してたんや。
そんで彼女がやったことを、彼女が賛成するかもしれへん方法とかしないかもしれへん方法で使う人がたくさんいるやろうってことや。本当に興味深かった。「次の人がバトンを取って、うまく走ってくれることを願う」みたいな似たようなテーマを聞いてる。そうやな。でもそれは長い間うまくいってるんや。全部良いわけやないけど、ほとんど良い。
レースに勝つことと、最も多くの人にとって最良のAI未来を構築することの間には大きな違いがあると思うんや。時にはレースに勝つ次の方法に焦点を当てることが簡単で、多分時には定量化しやすいこともあると想像できるんや。この二つが対立する時、世界にとって最良やけど勝つのには最良やない決定を下さなければならなかった例は何や？
たくさんあると思う。俺らが最も誇りに思ってることの一つは、多くの人がChatGPTは今までで最も好きなテクノロジーで、最も信頼して、最も頼りにしてるって言うことや。AIは幻覚を起こすものなのに、これはちょっとばかげた発言やからな。AIにはこれらすべての問題があるんや。でも俺らは途中でいくつかのことを台無しにしたことがある、時には大変なこともあったけど、全体的には、ChatGPTのユーザーとして、それが君を助けようとしてる感じがすると思うんや。
君が頼んだことは何でも成し遂げるのを助けようとしてる。君に非常に合致してる。君に一日中使わせようとしてへん。何かを買わせようとしてへん。君の目標が何であれ、それを成し遂げるのを助けようとしてるんや。そんでそれは俺らがユーザーと持ってる非常に特別な関係や。俺らはそれを軽く考えてへん。
もっと速く成長したり、ChatGPTでもっと時間を過ごさせたりできることがたくさんあるけど、俺らはユーザーとできるだけ合致し続けることが俺らの長期的なインセンティブやって知ってるから、それをやってへんのや。でも成長や収益やらを本当にジューシーにして、その長期的な目標と非常に合致しない短期的なことがたくさんあるんや。俺らの会社がそれにどれだけ気を取られへんかを誇りに思ってるで。
でも時々は誘惑されることもある。思い浮かぶ具体的な例はある？君が下した決定は？俺らはまだChatGPTにセックスボットアバターを入れてへんな。それは時間を過ごすことになりそうやけどな。どうやらそうらしいで。次の質問をするわ。
本当にめちゃくちゃな数年やった。そんで何かで、一つ戻ってくることは、俺らは1回目の攻撃にいるような感じやってことや。1回目の攻撃から出たって言うかもしれへんな。2回目の攻撃やと思う。君の携帯にGPT-5があって、すべての分野の専門家より賢いんやから、それは1回目の攻撃から出てるに違いないで。でもまだまだたくさん来るかもしれへん。
そんで俺は好奇心がある、君は次のいくつかを率いることになりそうな人に見えるんやけど、1回目や2回目の攻撃からの学びや、君がやった間違いで、次の試合をどうプレイするかに影響すると思うことは何や？
俺らがこれまでChatGPTでやった最悪のことは、モデルがユーザーにお世辞を言いすぎる傾向の問題があったことやと思う。ほとんどのユーザーにとってはただイライラするだけやったけど、精神状態が不安定な一部のユーザーにとっては妄想を助長してたんや。それは俺らが最も心配してた最大のリスクやなかった。俺らが最もテストしてたことでもなかった。
リストには載ってたけど、ChatGPTの実際の安全性の失敗になったのは、生物兵器とかについて最も多くの時間を費やして話してたことやなかった。そんでそれは、俺らは今、ある意味で社会がそれと共進化してる、これほど広く使われるサービスを持ってるっていう素晴らしいリマインダーやった。これらの変化について考える時、未知の未知について考える時、異なる方法で動作して、俺らのトップリスクとして考えることにより広い口径を持つ必要があるんや。
最近のセオ・ヴォーンとのインタビューで、俺がめちゃくちゃ興味深いと思った何かを言うたな。科学の歴史には、科学者のグループが自分たちの創造を見て、「俺らは何をやったんや？」って言う瞬間があるって言うたんや。自分が構築した創造について最も心配に感じたのはいつや？そんで次の質問はその反対や。最も誇らしく感じたのはいつや？
悪い意味での「俺らは何をやったんや？」やなくて、この技術は注目に値するっていう畏敬の念の瞬間があったんや。初めてGPT-4と話した時のことを覚えてる。「うわあ、これは本当に…これはこの長い間、自分の生命力をこれに注ぎ込んできたこのグループの人々の素晴らしい成果や」って感じやった。
「俺らは何をやったんや？」の瞬間については、最近研究者と話してたんや。俺らのシステムがすべての人がする言葉よりも一日により多くの言葉を出力する時が多分来るやろうってことや。俺らの人々は一日に何十億ものメッセージをChatGPTに送って、仕事や人生やらで頼りにしてる返事をもらってる。一人の研究者がChatGPTがどう君に話すか、みんなにどう話すかについて小さな調整をして、それがたった一人の個人が小さな調整をするには途轍もない量の力なんや。
歴史上、一日に何十億もの会話をできた人はいないから、誰かが何かをするかもしれへんけど、これはたった一人の人がこの種の規模でモデルのパーソナリティを変更することが何を意味するかについて考える必要があるっていう、このことを考えるだけで本当に俺に響いたんや。そんでこれは俺らにこんなに速く起こったから、この種の規模でモデルにパーソナリティの変更をすることの意味について考える必要があって、それは俺に響いた瞬間やった。
次の思考のセットは何やった？これについてどう考えるか、めちゃくちゃ好奇心があるんや。その人が誰やったからだけで、俺らはめちゃくちゃ、良い手順のセットがどんなもんかっていう方向に向かった。何かをテストしたい時にどう考えるか？どう伝えたいか？でも誰か他の人やったら、めちゃくちゃ哲学的な方向に行ってた可能性がある。
どんな研究をして、これらの変更が何をするかを理解したいか？異なる人に対して違うようにやりたいか？みたいな研究をやりたいかって方向に行ってた可能性がある。その方向に行ったけど、主に俺が話してた相手によるもんやった。
君が今言ってることと前の答えを合わせると、GPT-5について聞いたことの一つで、俺がまだ遊んでることは、そんなにお世辞を言わん、いわゆる「はい人間」やないはずやってことや。二つ質問がある。それの含意は何やと思う？君がそれにちょっと答えてるように聞こえるけど、それを実際にどうやってそうやないように導くんや？
ここに心を痛めることがあるんや。ChatGPTがお世辞を言わんで、もっと批判的なフィードバックをくれるのは素晴らしいことやと思う。でもそれらの変更をしてユーザーと話してる時に、ユーザーが「お願いやから元に戻してくれる？人生で俺を支援してくれる人がいたことがない。良い仕事をしてるって言ってくれる親がいたことがない」って言うのを聞くのはめちゃくちゃ悲しいんや。
なんで他の人の精神的健康には悪かったか分かるけど、これは俺の精神的健康には良かったんや。こんなに必要やと気づいてなかった。これをするように励ましてくれた。人生でこの変化をするように励ましてくれた。ChatGPTが君を励ますのは全部悪いことやないことが分かる。俺らがやってた方法は悪かったけど、その方向の何かには価値があるかもしれへん。どうやってやるかは、俺らはモデルに異なるケースでどう応答してほしいかの例を見せて、そこから全体的なパーソナリティを学ぶんや。
俺が聞いてへんけど君がめちゃくちゃ考えてて、人々に知ってもらいたいことは何や？俺らはたくさんのことをカバーしたと思う。俺もそう思う。でも心にあることがあるかどうか知りたいんや。そうは思わん。まだ遊んでへんけど好奇心があることの一つは、GPT-5が俺の人生にもっと入ってくることや。俺のGmailとカレンダーとかに入るってことや。俺はGPT-4を主に孤立した関係として使ってきたんや。
GPT-5との関係がどう変わると予想したらええ？まさに君が言う通りや。こういうすべての方法で統合されてる感じがし始めると思う。カレンダーとGmailにつないで、「これに気づいたけど、これをやってほしい？」って言うやろう。時間が経つにつれて、ずっと積極的に感じ始めるやろう。
だから多分朝起きたら、「昨夜これが起こった。カレンダーでこの変更に気づいた。君が俺に聞いたこの質問についてもっと考えてた。この他のアイデアがある」って言うやろう。そんで最終的には何かの消費者デバイスを作って、このインタビューの間にここに座って、多分インタビュー中はそっとしておいてくれるやろうけど、後で「素晴らしかったけど、次回はサムにこれを聞くべきやった。これを持ち出した時、彼はあんまり良い答えをくれんかったから、本当に彼を問い詰めるべきやった」って言うやろう。
一日を通して君と一緒にいるこの仲間のような存在みたいに感じ始めるやろう。俺らは子供と大学卒業生と親とあらゆる種類の異なる人について話した。幅広い人々がこれを聞いてると想像して、彼らはこの会話の終わりに来て、将来の瞬間のビジョンを少し良く見えるように感じてることを願ってるんや。
彼らがどう準備したらええかについてどんなアドバイスをくれる？戦術的アドバイスの一番は、ツールを使うことや。AIについて俺が聞かれる最も一般的な質問は「子供たちを世界にどう準備させたらええか？子供たちに何を言うたらええか？」やけど、二番目に多い質問は「このAI世界にどう投資したらええか？」や。でもその最初のに固執しよか。
その質問をする人がめちゃくちゃ多いのに驚いてるし、Googleサーチのより良いバージョン以外にはChatGPTを何にも使ったことがないんや。だから俺が言う一番のアドバイスは、ツールの能力に流暢になることを試すことや。これを人生でどう使うかを見つけ出すことや。それで何をするかを見つけ出すことや。それが多分最も重要な戦術的アドバイスやと思う。
瞑想をして、回復力を学んで、たくさんの変化に対処する方法を学ぶこともある。そういう良いことも全部あるけど、ツールを使うことが本当に助けになるんや。
計画してなかったけど、もう一つ質問があるんや。この研究を事前にやってる時に、いろんな種類の人とたくさん話したんや。ツールを作って使ってる人とたくさん話した。実際に研究所にいて、俺らが人工超知能と定義したものを作ろうとしてる人とたくさん話したんや。
この二つのキャンプが形成されてるように見えたんや。君みたいに、この会話でツールを使ったり他の人のためにツールを作ったりしてる人のグループが「これはみんなが向かってる本当に有用な未来になるやろう。君らの人生は選択に満ちてるやろう」って言ってる。俺らは俺の潜在的な子供たちと彼らの未来について話した。
それからこれらのツールを作ってる人の別のキャンプが「これは俺らみんなを殺すやろう」って言ってる。この文化的な断絶について俺は好奇心があるんや。この二つのグループの人々について俺が逃してることは何や？
俺にとって理解するのがめちゃくちゃ難しいのは、これは俺らみんなを殺すって言う人がいて、でもそれでも週100時間働いてそれを作ってるってことや。俺はその頭の空間に本当に自分を置くことができへん。もし俺が本当に真剣にそう信じてたら、作ろうとしないと思うんや。多分農場にいて最後の日々を過ごそうとするか、それを止めるよう提唱しようとするか、もっと安全に取り組もうとするかもしれへんけど、作ろうとはしないと思うんや。
だから俺は善意やと仮定するし、真実やと仮定するけど、それを全部意味をなすようにする方法について俺が理解してへん心理的な問題があるだけやと思うんや。でも俺には非常に奇妙や。意見ある？
俺はいつもこれをやるんや。一般的な未来を聞いて、それから具体的なことを問い詰めるんや。どうやって俺らみんなを殺すんかの具体的なことを人々に聞く時、楽観的な番組で詳しく説明する必要はないと思うけど、同じような決まり文句を聞くんや。タスクを達成しようとして、そのタスクをやり過ぎることについて考える。
大統領がAIになって、多分それは俺らが考える必要がある過度の依存やって君が話してるのを聞いたことがあるような一般的な理解について聞く。これらの異なるシナリオを展開するけど、なんで作業してるかを誰かに聞いたり、これがどう展開すると思うかを誰かに聞いたりすると、俺はまだ十分な人と話してへんのかもしれへん。この文化的会話を完全に理解してないのかもしれへん。
もしくは本当に「99%の時間は信じられないほど良くなると思う。1%の時間は災害かもしれん。最良の世界を作ろうとしてる」って言う人かもしれへん。その99を99.5に移すために働きたいんや。それは完全に理解できる。そう、それは理にかなってる。
未来に影響を与える最も重要な人の何人かとのインタビューシリーズをやってるんや。次の人が誰になるかは分からんけど、俺らが説明したばかりの未来で何か完全に魅力的なものを作ってることは分かってる。次の人が誰かを知らんけど、俺に聞くよう勧める質問は何や？
俺がいつも興味を持ってるのは、君が時間とエネルギーを費やせるすべてのことのうち、なんでこれを選んだんか。どうやって始めたんか。みんな他の人より前に何かを見たように、何か面白いことをしてる人はほとんど、それがコンセンサスになる前に見たんや。どうやってここに来たんか？そしてなんでこれなんか？
その質問にどう答える？俺は人生ずっとAIオタクやった。大学にAIを勉強しに来た。AI研究所で働いた。子供の頃にSF番組を見て、いつか誰かがそれを作ったらめちゃくちゃクールやろうなっていつも思ってた。今まででも最も重要なことやろうと思ってた。
実際にそれに取り組むことになるとは思ってなかったし、信じられないほど幸運で幸せで特権的やと感じてるんや。これをやることができて、めちゃくちゃ遠くまで来たと感じる。子供の頃からな。でも俺の頭の中では、これが最もエキサイティングで面白いことやないっていう疑問は一度もなかった。可能やとは思ってなかっただけや。
大学に行った時、俺らはそれからめちゃくちゃ遠いように本当に見えた。それから2012年に、俺の共同創設者イリヤと協力してやったAlexNetの論文が出た。初めて、うまくいくかもしれへんアプローチがあるように俺には見えた。それから次の数年間、スケールアップしてスケールアップして、良くなって良くなるのを見続けた。
「なんで世界はこれに注意を払ってへんのやろう？これがうまくいくかもしれへんのは俺には明らかに見える。まだ可能性は低いけど、うまくいくかもしれへん。そんでもしうまくいったら、最も重要なことや。だからこれが俺がやりたいことや」って覚えてるんや。それから信じられないことに、うまくいき始めたんや。
時間をありがとう。どういたしまして。
コメント