この動画は、AGI（汎用人工知能）の実現に関する現在の状況と課題について詳しく解説している。ARC AGIベンチマークの創設者であるフランソワ・ショレの最新の見解を基に、従来のAI開発パラダイムでは真の人間レベルの知能には到達できないという結論を示している。動画では、知能をパターンの蓄積ではなく、パターンを動的に構築する能力として再定義し、現在のAIモデルが静的な道路のような存在であるのに対し、真の知能は道路建設会社のような動的システムであると説明している。
AGIの新たな定義と現実
デミス・ハサビスは、もし科学者チームが脳の能力と比較して、システムに穴を見つけるのが本当に困難なシステムを構築できれば、AGIを達成したと言えるでしょうと述べました。専門家チームがそこに穴を見つけるのに数ヶ月かかるはずです。これは素晴らしい定義で、私たちはそれに到達する寸前ではないことが分かります。
私たちは現在のAIパラダイムがどのように機能するかを真に理解するための3年間の実験の終わりに到達しました。その結果、AGIは実現せず、AIはあなたを置き換えることはないということです。
ARCベンチマークの創設者であるフランソワ・ショレが基調講演を行い、知能について話し、ARC 2と3を紹介しました。彼の講演では、私たちが人間レベルの知能をどう構築すべきかを知らないという具体的な証拠を示しました。
これは工学的な問題ではありません。これはまだ非常に科学的に曖昧な問題です。そして一つ確実なことは、現在のパラダイムでは不十分だということです。
従来の思考とその限界
従来の考えは、モデルを大きくするだけでなく、実際により賢くし続ければ、最終的に人間レベルに到達するだろうというものでした。そして、それは合理的に聞こえます。
しかし、賢いだけでは十分でないことが判明しました。私たちが以前想像していたよりも、知能にはもっと多くの要素があります。人間より無限に賢く、幻覚を起こさず、愚かな論理的ミスを犯さないAIを持つことができても、まだAGIを持っているとは言えません。
もしそうなら、AGIに対するこの新しい思考と定義は何でしょうか？それは今まで持っていたものとどう違うのでしょうか？
皮肉なことに、問題の一部は言語にあります。私たちは、すべての可動部分を持つこの複雑なプロセス全体を知能と呼びますが、実際にどの部分について話しているのかを特定するのは困難です。
Geminiは平均的なソフトウェアエンジニアよりも知的でしょうか？知能をどう定義するかに本当に依存するため、どちらの方向でも議論できるでしょう。そして、フランソワは知能の定義について長い間続いていた議論に決着をつけたと思います。
パターン認識から動的構築へ
長い間、人々は知能をヒューリスティックとパターンの集合として定義してきました。今でもそのように定義している一流の研究者を見つけることができます。知能はパターン認識です。だから、これらのパターンを捉える機械を構築できれば、AGIを持つことができます。
しかし、他の皆がまさにそれを測定している間、フランソワは言いました。「いいえ、知能はパターンを持つことではなく、パターンを構築する能力です。つまり、それは静的なパターンの集合ではなく、それらを構築するプロセスです。」
彼は素晴らしい類推を使いました。今日のAIモデルは、何兆もの計算から彫り出された道路や街路のようなものです。言語、空間、論理などをナビゲートできますが、静的なままです。同じ類推で言えば、真の知能は道路建設会社でしょう。
固定されたパターンに従うだけでなく、問題やフィードバックに応じて継続的に構築し、再形成し、洗練するシステムです。
ARCベンチマークの意義
その独特な洞察が、ARC AGI 1が長い間持ちこたえた理由でした。他のすべてのベンチマークが急速に飽和状態になった一方で、ARCは推論モデルが登場し、モデルに推論時間での小さなレベルの動的調整を示す能力を与えるまで、静的知識に抵抗するように設計されていました。
驚くべきことに、ずっと強く持ちこたえていたARCが、推論モデルが巨大な飛躍であることを理解した理由にもなりました。他のベンチマークはどれも、AGIに向けて実際に重要なことに敏感ではないことは明らかでした。
モデルがどれほど大きくなっても、どれほど賢く聞こえても、推論を得て真に新しいレベルの動的調整を解放するまで、ARCでより意味のあるスコアを出すことはできませんでした。
現在、ARC AGI 2と3は、動的知能と継続学習に対してさらに敏感になるように設計されています。巨大なモデルやインターネット全体を知っている文字通りのオラクルは必要ありません。非常に基本的な概念を理解し、課題を推論できるモデルが必要なだけです。
現在の状況と課題
実際の質問は、その面で私たちは今どこにいるかということです。実際にARC 2と3を飽和状態にするのにどれくらい近いでしょうか？ちなみに、これはAGIの必要条件ですが、十分条件ではありません。
イーロン・マスクは一週間前に、新しいGrokがAGIを達成する非自明なチャンスがあるとツイートしました。彼はもちろん、新しいGrokが前のバージョンよりもずっと大きく、おそらくより賢いという事実を指しています。
私たちの類推によれば、それはおそらくより多くの道路を含み、より高い忠実度で、人類最後の試験のような超困難なベンチマークでおそらくずっと良いスコアを出すでしょう。これは様々な分野からの信じられないほど困難な問題の集合です。
しかし、それはフランソワが説明したような動的調整ではありません。それは適切に理論化されてさえいない、まして工学化され拡張されたレベルの新しい設計を必要とします。だから、いいえ、GrokにはAGIのチャンスはありません。より多くのことを知っているかもしれません。人類最後の試験でより高いスコアを出すかもしれません。しかし、それがパラダイムシフトではないことは確実に分かっています。
必要な変革
現在のパラダイムとAGIを創造するために物事がどう進化すべきかを比較すると、起こる必要があることがいくつかあり、それらは全く些細なことではないようです。
最初のことは、トレーニングと推論の結合です。チャットボットと話すたびに、そしてそれがあなたの代わりに行動を起こすたびに、それがバックグラウンドで自分自身を訓練していることを想像してください。
トレーニングと推論の異なるフェーズはありません。どこでも学習するモデルがあるだけです。現在、モデルを訓練することは、多くの人間の関与を伴う非常に複雑で、信じられないほど高価で複雑なプロセスです。そして、それが自動的で、安価で、高速になる必要があります。しかし、私たちはどうすればいいか分かりません。
計算価格と電力が改善し続けるなら、プロセスをより安価で高速にするため、実際に役立つかもしれません。しかし、問題はAIが学習するのに多くの例を必要とすることです。新しいスキルの学習効率は重要な指標です。
リチャード・サットンは実際にこれについて基調講演を行い、これらの問題に対処するためのオークと呼ばれる概念アーキテクチャを紹介しましたが、私たちが知らないことがあまりにも多くあります。
AGIの真の定義
結局のところ、AGIを人間よりもさらに優れたスキルを持つ機械として定義したいかもしれません。しかし、フランソワ・ショレがそれをその場でスキルを獲得する能力として定義するのは正しいと思います。そしてそれまでは、AIはあなたの仕事を奪うほど競争力がありません。
いくつかの仕事を自動化するかもしれません。他の仕事を変えるかもしれません。しかし、私たちは動的なので、常にトップに価値を加え、システムを活用することができます。
AIは有用であるためにAGIである必要はありません。しかし、AGIについて話しているなら、過去3年間は私たちがそれを構築する方法を知らないことを示したと思います。そして具体的な証拠は、欠点がより多くの計算から生じるいくつかの創発的能力によって埋められることはないだろうことを示唆しています。
私たちはそれを工学する必要があり、まだ理論的枠組みを持っていません。だから、もしAGIが近いうちに登場することを期待していたなら、がっかりさせて申し訳ありません。AGIはおそらく今のところ中止です。
どう思うか教えてください。視聴ありがとうございました。次回お会いしましょう。
コメント