OpenAIのSam AltmanとARC-AGI開発者Francois Cholletが、AGI到達に向けた現状と課題について語った対談である。両者は父親としての視点から、子どもたちが育つAI時代の未来像を議論し、人間の適応力への信頼を示した。技術面では、ARC-AGI 3ベンチマークの難易度、深層学習とプログラム合成という異なるアプローチの対比、OpenAIが科学・経済加速に計算資源を集中させる戦略的判断が語られた。AGI到達度についてCholletは5/10、Altmanはかなり近いと評価し、連続学習と長期記憶の実装が残された課題であると指摘している。
父親として見るAI時代の子育て
私がまず皆さんにお聞きしたいのは、お二人とも企業の創業者でありCEOであるだけでなく、親でもあるということです。今日、多くの親と話すと、子どもたちと将来についてかなり心配している声を聞きます。父親として、今日子どもを育てる上で最も考えることは何ですか。以前とは何か違いますか。子育てにおいて本当に大切だと思うことは何でしょう。まずはFrancoisから始めましょうか。
ええ、いつも頭の中にありますね。本当によく考えています。明らかに、彼らは私が育った世界や子どもの頃に経験した世界とは全く違う世界で育つことになります。そうですね、テクノロジーとの関係が完全に異なるものになると思います。
彼らはこのスタートレックのような世界で育つわけです。コンピューターに話しかけるだけで、コンピューターが物事をやってくれる。一方、私の時代には、文字一つ一つコードを書かなければならなかったんです。そして、ちょっと心配もしています。人間の主体性や独立して考える能力がどうなるのか。私たちは自分の心を、思考や認知、すべての能力を機械に外注してしまうのでしょうか。私たちは何を保持するのか。
10年後とは言わず、50年後に人間であるとはどういうことになるのか。息子も娘も22世紀を目にすることになるわけです。それは私がよく考えることです。知的には素晴らしいことだと思います。歴史を通じて、親はいつも変化のスピードに怯え、子どもたちの人生がどうなるか心配してきたことは理解しています。私たちの子どもたちがこのスタートレックのような世界で育ち、コンピューターに何でも頼めばやってくれる、それは素晴らしいことだと思います。
そして彼らは私たちを見て、私が両親を見たのと同じように感じるでしょう。ああ、コンピューター以前は本当に大変だったんだなって。私の両親も、私が何も学ばないんじゃないかと心配していました。Googleで何でも調べられるようになったからです。結局、私は彼らがモデルを持っていなかった種類の充実したキャリアを持つことができました。私たちの子どもたちも同じ経験をすると思いますし、彼らは私たちを絶対に驚かせるようなことをするでしょう。彼らは私たちの人生を振り返って、哀れみとまでは言わないまでも、本当に大変で辛く惨めだったねと思うでしょう。生活の質は信じられないほど素晴らしいものになります。
知的には、そういったことすべてが素晴らしいと思います。私たちの子どもたちがコンピューターより賢くなることは決してなく、コンピューターがこれらの信じられないようなことができないなんて期待することもないでしょう。彼らは達成し、これらの驚くべき偉業を達成することを期待して育ち、私たちの誰よりも多くの主体性と意志を持つと思います。彼らはそれが奇妙だとは思わずに育つでしょう。
私たちがコンピューターとともに成長し、親が思いつかなかったようなあらゆることを考えたのと同じように、彼らもそうやって成長するでしょう。感情的には、実際にこれがどうなるのかなと思いますけどね。
その点について簡単に追加質問させてください。私たちが育った世界では、知性がおそらくとても重要でした。親も賢くなれと言っていたでしょう。お二人ともかなり良い学校に行き、たくさん学びました。この世界でもそれは重要であり続けると思いますか。それともあまり重要ではなくなる、あるいは違う種類の知性が重要になるのでしょうか。どう思われますか。
知性とは本当に適応する能力のことです。世界が急速に変化すればするほど、それに適応できることがより重要になります。個人的には、私の子どもたちを信頼しています。彼らは私の人生では見たことのないレベルの技術的変化と社会的変化を目にするでしょうが、彼らが適応すると信じています。子どもたちは世界で最も適応力のある存在ですから。
お二人の生活を少し覗いてみたいのですが、この1、2週間で起こった小さなエピソードを共有していただけますか。舞台裏で何が起こっているか教えてください。
もちろん、できますよ。この数週間やってきたことの一つは、息子と一緒に取り組んでいることです。息子は大のMinecraftファンなんです。もうすぐ5歳になるんですが、Minecraftをたくさんプレイしたり、YouTubeでMinecraftの動画を見たりするだけでなく、実際にバイブコーディングで、シンプルだけど機能的に完全なMinecraftのクローンを作っているんです。実はCodexを使って。Samには感謝しています。
本当に楽しい経験でした。基本的に、息子が何をゲームで見たいか、どんな機能が欲しいかを教えてくれて、彼はとても創造的なんです。それで私がCodexに伝えると、私は一行もコードを書いていないんです。とても楽しい体験でした。
Samはどうですか。
私は多くの興味深いことに取り組めることにとても感謝していて、子どもたちはまだCodexを作れませんが、ブロックを組み合わせたりすることはできます。それが一番楽しいです。でも知的に最も刺激的なことは、世界がようやく真剣に受け止め始めたということだと思います。私たちは何年もこれを待っていたのですが、社会契約が進化しなければならない、そしておそらく人々が思っていたよりも早く。
ようやく、多くの異なる国、多くの異なる政党、経済がどう機能すべきか、権力構造がどう発展すべきかについて通常は非常に異なる考え方をする多くの人々が、座って話し合いたいという本当の、私は本当だと思うのですが、願望を持つ瞬間が来たと感じています。
アイデアについて話し合いを始めようと。ただ、本当に事態は大きく変わるだろう、これは経済に本当に大きな影響を与えるだろうと言い続けるのではなく。でもオーバートンウィンドウ、興味、これを実現できると思う人々と取り組む意欲が、この1週間、数週間というか、初めて私は信じられます。よし、世界は本当にこれをやるかもしれないと。それが刺激的な新しい展開でした。
ARC-AGIベンチマークの現状と予測
素晴らしいですね。では、AIの質問に移りましょう。これは絶対に聞かなければならない質問です。Samは今このベンチマークを見たばかりだと思います。Francois、あなたはおそらく良い答えか、少なくとも予測を持っているでしょう。ARC-AGI、Gregがカバーしましたよね。2019年11月、5年後、o3 previewがそれを粉砕して88%。ARC-AGI 2が約1年前にローンチされました。
現在、トップスコアはGemini Deep Thinkingの84.6%だと思います。今日、ARC-AGI 3は37%です。これが85%を突破するのはいつだと予想しますか。
そうですね、フロンティアラボがARC-AGI 3を明示的にターゲットにするためにどれだけの努力を注いでいるかに本当に依存すると思います。例えばARC 2の場合、2025年後半に見られた非常に急速な進歩の多くは、本当にベンチマークに非常に多くの努力、非常に多くの計算資源が投入されたからです。
もしフロンティアラボがARC 3を全く見ないことに決めたら、ターゲットにしない、完全に無視して、モデルの全般的な性能が向上する関数としてスコアが有機的に増加するのを許すなら、このシナリオでは、ARC 3を飽和させるには数年かかると思います。しかし実際には、彼らは大量の計算資源を投入するでしょう。
飽和まで少なくとも1年はかかると言えます。なぜなら、ARC 2よりも大幅に難しいからです。私たちは意図的に分布外にしようとしています。テストエンバイロンメントで見る概念やダイナミクスは、公開ゲームで見るものとは非常に異なります。ブルートフォースははるかに困難になるでしょう。確実に少なくとも1年です。
ありがたいことに、ここに大手ラボのCEOがいるので、これは3つの質問のようなものですが、ARC-AGI 3は重要ですか。そしてARC-AGI 3についてどう考えていますか。
ええ、もちろん、興味深く本物で、現在飽和していないベンチマークはすべて私たちにとって重要です。残っているものは多くあります。つまり、新しい科学の発見についてのメトリクスがあります。新しい科学の発見についてのベンチマークがあります。経済加速についてのベンチマークがあります。それらは本当に重要だと思いますが、この意味でのベンチマークは多くありません。なので、もちろん重要です。
非常に良くて微妙な答えだったと思います。どれだけ時間がかかるかは、人々がどれだけターゲットにするかに依存するということです。あまりターゲットにしないことを願いますが、人々はスコアボードが好きなので、確実にそうするでしょう。
AGIは番号を付けられることを想定していませんでした。人々が最初にAGIについて語った方法では、AGIを持っているか持っていないかでした。AGI 1、AGI 2、AGI 3を持つことは想定されていませんでした。しかし、AGIとは何か、それをどうテストするかを正確に定義することがいかに難しいかを学びました。
そして4も5もあるでしょうし、その後ASI 1、ASI 2があり、続いていくでしょう。
私たちはそれに取り組んでいます。
そうですね。でも、これが示す主なことは、このチームが信じられないほど素晴らしい仕事をしていないということではなく、明らかに素晴らしい仕事をしていますが、ゴールポストが動くということです。AGIは定義が難しく、素晴らしいベンチマークを作るのも難しいのです。
エージェント性能とベンチマークの課題
よく話題になる別のベンチマークで、天井がないものがあります。それはメーターベンチマークで、AIエージェントがどれだけの長さのタスクをある成功率で自律的に実行できるかというものです。現在、50%以上の成功率で12時間というのがあります。Opusというモデルがそれを実現しています。そのベンチマークについてどう思いますか。それは有効ではないのでしょうか。ARC-AGIとどう違うのでしょうか、Francois、何か考えはありますか。
メーターは良いシグナルがあると思います。ただ、少しノイズの多いシグナルでもあります。現在12時間の自律作業ができるという主張を額面通りには受け取りません。反論として、ARC 3のエンバイロンメントを見てください。それらの一つを解くのに12時間もかかりません。人間なら約5分、5分から10分です。現在のフロンティアモデルはそれができません。
だから、任意のタスクで12時間には達していないと思います。メーターを見ると、問題の一つは、より長い時間軸を見ていて、それは確実に今のレジームなのですが、長い時間軸のタスクが多くないので、信頼性が低くなります。サンプルサイズが小さいんです。
非常に良い人間のベースラインもありません。なので、額面通りには受け取らないようにしましょう。彼らのAIベンチマークへのアプローチと私たちのアプローチの大きな違いは、私たちが本当に汎用知能をターゲットにしているということです。メーターはより領域特化的、あるいはタスク特化的なベンチマークだと感じています。例えば、彼らはハーネスでベンチマークしています。
ハーネスを使っているということは、特定の種類のタスクを期待しているということです。システムがすでにタスク特化的、あるいは領域特化的で、ソフトウェアエンジニアリングに非常に重点を置いています。一方、私たちは本当にGを、AIにおけるGをベンチマークしようとしています。
原則として、AGIがあれば、どんなベンチマークも見ることができ、新しいハーネスを必要とせず、新しいタスクのために人間をループに入れて再目的化する必要もなく、人間がするようにただやるべきです。
確かに測定する価値のあるものだと思いますが、いくつかの非常に重要な点で不十分だと思います。一つは、これらのタスクが5年や50年のタスクになると、評価が非常に難しく、5年も待ちたくないですし、それは奇妙なことになります。
もう一つは、私が何年も取り組んでも解決できないけれど、天才的な数学者なら数分で簡単に解決できるものがあるということです。道具の助けなしには地球上の誰もまだできない、あるいはできていないことで、本当にやり遂げたいことがあります。
人間が発見できなかった新しい科学を発見できるかということに意味があります。それが膨大な計算量と少しの時間を要するのか、少しの計算量と多くの時間を要するのかにかかわらず、私たちは新しい知識が欲しいのです。そして非常に間もなく、私たちは新しい科学的知識、新しい経済加速など、人々にとって本当の価値のあることができるかということについて話していると思います。タスクにかける時間は興味深いですが、非常に不完全なプロキシです。
異なるアプローチ:深層学習とプログラム合成
ありがとうございます。お二人に聞かないわけにはいきません。お二人ともこの目標を達成するために異なるアプローチを取っている会社の一部ですよね。つまり、OpenAIの世界では、少なくとも公に知られていることは、大きなモデルを事前学習して、RLデータに基づいてポストトレーニングを行い、モデルを本当に優れたものにする、その過程で推論が起こり、それをやるだけで本当に本当に良くなったようですし、そのパラダイムはこれまでのところうまくいっています。
そしてFrancois、あなたは少し違うアプローチを取っています。プログラム合成に基づく深層学習をやりたいとのことです。だから、この質問をこう組み立てたいと思います。Francois、あなたのアプローチについてもう少し話してもらえますか。視聴者の多くはそのアプローチについてあまり知らないと思います。そして、Samが見ているOpenAIでのものと比較対照したいと思います。
もちろん。プログラム合成と言うと、多くの人がコーディングエージェントをやっているのか、コード生成をやっているのかと聞きますが、私たちがやっていることは全くそうではありません。実際にLMスタックの上に新しいレイヤーを追加しています。基盤を本当に再考しようとしています。
私たちはこのアプローチをシンボリック学習と呼んでいて、基本的に機械学習の新しいブランチです。機械学習問題を最もシンプルな形で見ると、入力データがあり、ターゲットデータがあり、入力をターゲットにマッピングする関数を探していて、うまくいけば新しい入力にも一般化するでしょう。
パラメトリック学習、深層学習を含む学習をしている場合、関数はパラメトリック曲線で、勾配降下法を通じて正しいパラメータを見つけようとしています。これらすべてが基本的に私たちがやっていることですが、私たちは曲線を最小限のシンボリックプログラムに置き換えています。
データを正確に説明できる最短のプログラムです。これをやっているとき、最適な機械学習、最適な学習の形により近づいています。最適性に近づくといくつかの結果があります。モデルがデータを説明するために本当に最もシンプルなものであれば、最も強く一般化できるモデルにもなるでしょう。
その時点で最も計算効率が良く、そのモデルを見つけるために最も少ないデータポイントを必要とします。モデルにバイアスをかけるなら、それを見つけるために何兆ものトークンを必要としないからです。それが基本的にストーリーです。シンボリック基盤の上で、最適なAIにはるかに近づけてくれる学習をゼロから再構築しようとしています。
最終的には、スタック全体を再構築するつもりです。将来的には、シンボリック的な性質を持つ非常に大規模な基盤モデルを持つことになると期待しています。私たちのアプローチが深層学習と同じくらいスケーラブルで計算効率的であることを望んでいます。
Sam、そのアプローチについてどう思いますか。OpenAIは明らかに非常に異なるアプローチを取っています。それは今後も続くのでしょうか。AGIというやや曖昧な概念に到達するための異なる方法についてどう考えていますか。どう思いますか。
それは試すべき素晴らしいことだと思います。人々は多くのアプローチを試すべきだと思います。私たちは確信を持って私たちのアプローチに賭けようとしていますが、予期しない障害に非常に簡単にぶつかる可能性があります。
私たちのアプローチで始めたとき、それは非常に不人気でしたが、結局は価値があることが判明しました。他の人々も始めるでしょう。この場合はそれほど不人気でもありません。試すべき素晴らしいことです。
私たちのアプローチは、私たちが理解しているパラダイムを推し進め、残っているものが何であれ発見できる整合性のとれたAI研究者を構築しようとすることです。有望な兆候が見えていますが、まだかなり道のりがあります。
OpenAIの戦略的優先事項
Twitterから具体的な質問があります。Sam、あなたのAI研究のタイムラインについてです。Samは以前、2026年9月までに自動化されたAI研究インターンができ、2028年3月までに完全に自動化されたAI研究者ができると言いました。そのタイムラインを更新したいですか、それとも妥当ですか。
それが実現すると言ったわけではなく、私たちの目標です。でも、そのための軌道に乗っていると感じています。
なるほど。いいですね。また、リサーチの世界の多くの人々から特によく聞かれる質問もしたいです。彼らはAIに支配されていると感じていて、あなた方のような人々に、あまり探求されていない研究の方向性は何か、どんなアプローチや実験をもっとやってほしいかを聞きたがっています。研究への呼びかけのようなものです。何か思い浮かぶことはありますか。
AIの外側でも構いませんか。
いいえ、AI内で、現在のモデルや現在のアプローチとは異なるものです。
あるいは外側でも、何か興味深いものがあれば。
人々がまだ試していない、あるいは真剣に試していない方向性がたくさんあると思います。ある意味では、計算資源は偉大な平等化装置だと信じています。一つのアプローチに大量の計算資源を投入すれば、本当にクールなことが起こるのが見られるでしょう。
特に進化的アルゴリズムについてそれが当てはまると思います。それは非常に探求されていません。スケールさせようとしていませんが、できますし、本当にクールなことが見られると思います。プログラム合成についてもそうで、それがまさに私たちが今スケールさせようとしていることです。
この2つはかなり良い候補だと思いますが、一般的には、うまくいくかもしれない、実際におそらくうまくいくだろう新しくてクールなアイデアの無限の供給があります。少なくとも、真剣に追求すれば本当に興味深い結果が見られるでしょう。
Sam、どう思いますか。
GPT-4を出した直後、ある時期がありました。偉大なOpenAI研究者の一人と夕食をとっていたとき、彼は言いました。今最も悲しいことは、学界には非常に多くの優秀な人々がいて、試すべき素晴らしいアイデアがたくさんあるのに、みんなGPT-4を再現したいだけだということです。当時はまだ難しいことでしたが、彼は言いました。この信じられないほど広い空間があるのに、世界中のすべての学術部門に、ただ同じスタイルで大きなモデルを訓練し直す必要があると言うのをやめさせるにはどうすればいいか。
私たちはその答えを見つけられませんでしたが、ようやく人々が再び、これらの非常に異なるアイデアを試してみようと言っているように感じます。何が変わったのかわかりませんが、それが起こっているのはエキサイティングです。
しかし、AI外での答えを出します。初めて、ここ数ヶ月で、最新のフロンティアモデルを使って他の種類の研究を大幅に加速できると思います。AI研究には優秀な人材が不足しておらず、資金も不足していません。それは素晴らしいことだと思います。
でも、進歩を早めることが難しかった他の研究の方向性、物理学、数学、生物学など、何でもいいのですが、それらが突然開かれそうに感じるという事実、そのすべてが、潜在力に比べて非常に探求されていないと感じます。
なるほど。最後に一つSamに質問があります。OpenAIについて聞かなければなりません。OpenAIは多くの異なることをやっていますよね。異なるモダリティがあり、Soraがあり、operatorやatlasがあり、実行しなければならない多くの異なる実験があります。そして、皆さんはこれらすべての実験を実行してくれることに本当に感謝していると思います。
でも最近、Soraを停止すると言いました。あなたが持っている新しい事前学習についてのリークがありました。すべての努力をコーディングとエンタープライズに集中させたいと。その点について少し詳しく話してもらえますか。OpenAIの最優先事項は何ですか。
出てくると思う新しいモデル群が、科学の加速と経済の加速にもたらす影響について。間違っているかもしれないし、楽観的すぎるかもしれませんが、絶対的に大規模なものになりそうに感じています。
それが私たちの計算資源、リソースを捧げるべき最も重要な領域になると思います。事態はかなり激しくなると思います。やるべき素晴らしいことはたくさんありますが、OpenAIの歴史で何度か、多くの興味深いプロジェクトがあるけれど、本当にうまくいっている新しいことが一つあるという時がありました。
最初のGPT時代に起こったことで、計算資源を集中させるために他の多くのプロジェクトを閉鎖しました。本当に計算資源を集中させる時だと感じています。明白な例を挙げると、すべてのがんを治すために100万個のGPUを投入するのか、それとも動画を作るために100万個のGPUを投入するのか。
私は動画が大好きです。でもがん研究を選びます。今後数年を見ると、私たちの歴史で何度かあったような、よし、本当に大きなことが地平線上に見えると言う時だと思います。すべての火力をそれに向けよう。
完全に理にかなっています。では、ラピッドファイアをやりましょう。AGIから始めましょう。これは結局ARC-AGIのローンチですから。1から10のスケールで答えてください。あなたの定義でAGIにどれくらい近づいていますか。1がまったく近くない、10が今年おそらく起こる。Francois、始めてください。
線形スケールの話ですか。
線形で。
5にしましょう。明らかに、今私たちは一般的な流動的知性を持つモデルを持っています。彼らはその意味で知的です。人間レベルではありません。実際、まだ普通の人々、通常の人々にとって、モデルに勝つものを見つけるのは非常に簡単なレジームにいます。超天才を探す必要はありません。基本的に人間ができてAIができないことです。
だから、人間ができてAIができないタスクを見つけることが難しくないレジームにまだいます。AGIに近づくにつれて、それはますます難しくなると思います。ある時点で、博士レベルのタスクだけになり、非常に短いリストになり、それらを考え出すのが非常に難しくなります。それが基本的にAGIを持つときです。
Sam、どう思いますか。
私には非常に近く感じます。本当に欠けているのは、ある種の継続的学習や長期記憶だけだと思いますが、それ以外は、すでに非常にAGIのように感じます。
素晴らしい。この1ヶ月ほどで、自分のもの以外で、あなたの心を吹き飛ばした製品や体験は何ですか。AIでもそれ以外でも構いません。
おそらく、私にとってはコーディングです。CodexとCode Composerは本当に本当に印象的で、本当に役立ちます。
素晴らしい。Sam、どう思いますか。
小さな子どもたち用の磁石タイルです。クラスで。すべての面が他のすべての面に接続します。
どうやって機能するのか見るために一つ切り開かなければなりませんでした。でも子どもたちは本当に大好きです。素晴らしいです。
何という名前か知っていますか。
Mangaタイルです。すべての面が接続できる小さなキューブのようなものです。
これは終わった後に売り切れになりそうですね。素晴らしい。では、今後10年間で、あなたが非常に強気な業界や資産クラスと非常に弱気なものは何ですか。
ハードウェアに非常に強気です。特にロボットとドローンです。それはますます重要になると思います。AI能力が進歩するにつれて、これらの能力をますます現実世界に置きたくなるでしょう。そのためのサポートが必要になります。ロボットが必要になり、ドローンが必要になります。非常に洗練されたドローン、一般的に非常に洗練されたハードウェアが必要です。
エージェントコーディングや最終的にはAGIでソフトウェアがますます簡単になるにつれて、ハードウェアの重要性、比較的な重要性は上がるだけでしょう。
この質問には3時間の答えができますし、あなたとはとても楽しかったです。一つの観察に限定します。しばらくTwitterで飛び交っていた引用がありました。希少性を管理することについて私たちが学んできたすべてのことは、豊かさを管理することには実際には当てはまらないだろうというものです。
それは本当に賢く、本当に深遠に思えました。そして一日後には、それほど興味深くないかもと思いました。しかし、それが頭の中で響き続けて、これについて本当に心を吹き飛ばされることが一つあると思いました。
それは、私たちのような国は多額の負債を抱えていて、この計画は、私の理解では、インフレでそれを薄めることです。私たちは対GDP比130%、誰かが数字を知っているでしょう、そのくらいの負債を抱えていますが、私たちは強力な国なので続いていきますし、それほど怖くありません。
永遠のデフレ世界では、それを資産クラスとしてどう考えるべきかわかりません。
素晴らしい答えですね。人生で最も影響を受けた好きな本や本は何ですか。どなたでも先にどうぞ。
アシモフにします。
ロボット、ファウンデーションです。私は16歳の頃から人間レベルのAIを作りたいと思っていて、当時の大きな影響の一つはアシモフのロボットストーリーでした。
Samはどうですか。
素晴らしい選択です。私は、アシモフストーリーの始まりの方が、若い頃により大きな影響を与えたかもしれないと言おうとしていました。一般的に、子どもたちと今考えることは、子どもとして読む本で、何でもできる、高い主体性を持つ人間になれる、未来について夢を見られると思わせてくれる本です。それらは本当に素晴らしいです。
それがあなたにとってその本でしたか。
一冊ではありませんでしたが、そういう雰囲気を持つすべてのヤングアダルトフィクションが大好きでした。最後に。今生きている人で、最も尊敬している人は誰ですか。家族でも有名人でも構いません。
素晴らしい名前がたくさんあります。では、本当にランダムな答えにしましょう。研究者を強調したいです。彼の仕事は本当に私に影響を与えましたが、全く知られていません。彼の名前はPierre Yです。フランスの研究者です。
AI研究者で、非常に長い間それをやっています。彼はAI好奇心、つまり人工好奇心のパイオニアの一人でした。それは本当に魅力的なコンセプトです。彼は多くの素晴らしい仕事をしました。非常に成功していますが、あまり知られていません。だから彼を本当に尊敬していますが、ここで挙げられる人は本当にたくさんいます。
素晴らしいですね。気に入りました。有名か無名かはお任せします。
母です。
いいですね。それでは、ここで締めくくりましょう。お二人ともお越しいただきありがとうございました。皆さんもご参加ありがとうございました。
コメント