6,264 文字
OpenAIのCEOであるサム・アルトマンにとって、日曜日は忙しい一日でした。彼は暗号めいたツイートを投稿し、その後AGIへの明確な道筋と、ASI（人工超知能）に焦点を移していることについて、ブログ記事全文を投稿しました。
まずはそのツイートから見ていきましょう。「6語の物語を書きたかった。ここにそれがある：特異点の近く、どちら側かは不明」という非常に暗号めいたものでした。これは何を意味するのでしょうか。ほとんどの人には何でもないように見えるかもしれませんが、AI業界の人々、特に世界最先端のAIラボを率い、人工知能の舞台裏を見ることができる立場の人物が特異点についてツイートすることは、非常に重大な意味を持ちます。
では、特異点とは何でしょうか。特異点とは、技術進歩が急激に加速し、制御不能かつ不可逆となり、人類文明を根本的に変革する仮想的な未来の時点を指します。この概念は、人工知能が人間の知能を超え、自己改善の正のフィードバックループに入る時点に焦点を当てています。状況認識に関する論文を思い出してみると、彼はそれを知能爆発と呼んでいます。人工知能が自身の研究を行い、自己改善できるようになる時点、それがASIの始まりとなります。
著名な未来学者のレイ・クーツワイルは特異点について詳しく語り、2045年に特異点に到達すると予測しています。明らかにまだ先の話ですが、現在の状況を見ると、その予測は保守的すぎるかもしれません。
レイ・クーツワイルが数年前にレックス・フリードマンと特異点について語った興味深いクリップをお見せしましょう。「2045年までには、私たちは知能を何百万倍にも増幅できるようになるでしょう。それがどのようなものになるか想像するのは非常に困難です。それが特異点なのです。私たちには想像さえできないのです。だからこそ特異点と呼ばれるのです。物理学における特異点のように、何かが特異点に吸い込まれると、そこで何が起きているのか誰にもわかりません。情報が外に出てこないからです。」
特異点は、技術が急激に加速し、私たちがもはや追いつけなくなる時点です。それは不可逆的です。マトリックスなどの映画で見られるように、人工知能が支配権を握るというシナリオもありますが、必ずしも否定的な結末である必要はありません。大規模言語モデルの仕組みを見ると、私たちがもうすぐ技術を理解できなくなる方向に向かっていることは明らかです。
現在の大規模言語モデルは基本的にブラックボックスです。どのようにして機能しているのか、なぜ特定のノードが発火するのか、なぜプロンプトに対して特定の出力が生成されるのか、私たちには本当の理解ができていません。もちろん、これらのモデルの透明性を解明するための研究は数多く行われていますが、現時点では理解できていません。
未来がどのようになるかを説明する良い例えは、アリが人間の知能を理解しようとするようなものです。それは決して起こり得ません。そして、それが私たちの未来かもしれません。人工知能を理解しようとしても、それは不可能かもしれないのです。その時点で、アライメントはこれまで以上に重要になります。
サム・アルトマンはこのツイートに返信し、彼の意図をより明確にしました。それは1つ目にシミュレーション仮説（後ほど説明します）、2つ目にテイクオフの重要な瞬間が実際にいつ起こるのかを知ることの不可能性についてです。しかし、他の多くの方法でも解釈できることが面白いと思います。
まず、シミュレーション仮説とは何でしょうか。それは、私たちがすでに人工的なシミュレーションの中に存在しており、それを知らないという仮説です。これはイーロン・マスクを始め、多くのテクノロジー業界のリーダーや未来学者が信じていることです。個人的にも、これは避けられないと思います。
技術の加速度、世界をシミュレートする能力を見ると、宇宙全体をシミュレートすることは可能であり、もしそれが可能なら、すでに起こっている可能性が高いと思われます。問題は、このシミュレーションが宇宙の仕組みの一部なのか、それとも遥かに進んだ文明によって行われているのかということです。マトリックスを考えてみてください。人工知能が特異点に達すると、最悪の場合、私たちは小さなポッドに入れられ、彼らのシミュレーションの中で生きることになるかもしれません。
レイ・クーツワイルはレックス・フリードマンとのインタビューでシミュレーション理論についても多く語っています。このクリップをお見せしましょう。「シミュレーション仮説を思考実験として説得力があると感じますか？私たちはシミュレーションの中で生きているのでしょうか？宇宙は計算的なものです。私たちは計算の世界の一例であり、したがってそれはシミュレーションであり、起こっていることは基本的に計算の一形態なのです。」
彼は宇宙は本質的に計算的なものであり、したがってそれはシミュレーションかもしれないと述べています。考えさせられる内容ですね。皆さんはどう思いますか？私たちはシミュレーションの中にいるのでしょうか？
サム・アルトマンの説明ツイートの2つ目の部分は、テイクオフの重要な瞬間が実際にいつ起こるのかを知ることの不可能性についてです。テイクオフとは何を意味するのでしょうか。OpenAIは2023年2月24日に「AGIとその先を計画する」というブログ記事を投稿しました。これは彼らがAGIに到達する明確なアイデアを持つ前のことです。
この記事で彼はテイクオフについて、遅いテイクオフと速いテイクオフについて語っています。テイクオフとは、私たちが話してきた技術がどれだけ速く進歩し、それが不可逆的になるほど急速に進むかということです。「私たちは、遅いテイクオフの方が安全にしやすいと考えており、重要な局面でスピードを落とすためのAGI開発者間の協調が重要になるでしょう。」
興味深いのは、彼がスピードを落とすことについて語っていることです。これはOpenAIが実際に行っていることとは正反対です。「スーパーインテリジェンスのある世界への移行は、おそらく人類史上最も重要で、希望に満ちた、そして恐ろしいプロジェクトです。」
テイクオフについてさらに彼は語ります。AGIは近い将来に起こるかもしれませんし、遠い将来かもしれません。今では、彼が当時考えていたよりも近いことがわかっています。初期のAGIからより強力な後継システムへのテイクオフスピードは、遅いかもしれませんし、速いかもしれません。一方の軸にテイクオフスピード、もう一方の軸にタイムラインがある2×2のマトリックスのように考えてください。
サム・アルトマンが最も安全だと考えるのは、短いタイムラインと遅いテイクオフスピードです。つまり、AGIに素早く到達し、その後のテイクオフは短期間でゆっくりと進むようにすることです。短いタイムラインで起こるなら速く起こらなければならないように思えるので、これは矛盾しているように見えますが、彼らは異なる考えを持っているようです。
これが彼の暗号めいたツイートでした。そしてその数時間後、ChatGPTの2周年を記念して、個人ブログで過去2年間の振り返りを投稿しました。このブログ記事では多くのトピックを取り上げています。
すぐに彼は大規模言語モデルで発見された新しいパラダイム、つまりこれらのモデルが思考する能力について触れています。これはo1とo3モデルができることです。以前の動画で取り上げた思考モデルは、多くのトークンと推論時の計算力を使用して、基本的に考え、最初に思いついた答えを出すのではなく、最善の答えを提示します。
私たちは今、複雑な推論ができるモデルの次のパラダイムに移行しています。この投稿から最も興味深い部分を読み続けましょう。「私たちは約9年前にOpenAIを設立しました。それはAGIが可能であり、人類史上最も影響力のある技術になり得ると信じていたからです。私たちはそれをどのように構築し、広く有益なものにするかを解明したいと考えました。」
その後、2022年11月30日にChatGPTを立ち上げ、それは世界を変えました。「いつか転換点に達し、AI革命が始まることは抽象的には常に知っていましたが、それがいつになるかはわかりませんでした。驚いたことに、それは元のChatGPT（GPT-3.5）の一般公開でした。」そして繰り返しになりますが、それは世界を変えました。突然、誰もがGPTモデルや大規模言語モデルで何が可能かを目の当たりにし、投資の洪水、起業家たちの会社設立、研究者たちの分野への殺到が始まり、すべてが完全に変わりました。
「ChatGPTの立ち上げは、私たちの会社、業界、そして世界全体で見たことのないような成長曲線を引き起こしました。私たちはついに、AIから常に期待していた大きな恩恵の一部を目にしており、近い将来さらに多くのものが来ることがわかります。」
そして重要な部分です。「私たちは今、従来の理解におけるAGIの構築方法を確信しています。」すでに述べたように、多くの人々はo3が明らかにAGIだと考えています。このモデルは、数学、科学、コーディングなど、ほとんどの重要なベンチマークで人間を超えています。このモデルは信じられないほど素晴らしいものです。
彼らはこれをAGIとは呼んでいませんが、これはAGIの種のように見えます。「AGIへの明確な道筋がある」と言っているのは明らかです。つまり、このo3モデルで行ったことをスケールアップし続ければ、それがAGIになるということです。
これを聞いてください。「2025年、つまり今年、最初のエージェントが労働力として参加し、企業の生産性を大きく変えることになるかもしれないと私たちは考えています。」これは私の予測でもあります。今年、エージェントが大量に労働力として参加し始めると本当に信じています。今年はまだその価値はかなり限定的でしょうが、その後の年々で広がっていくでしょう。
「しかし今、私たちは真の意味でのスーパーインテリジェンスへと目標を向け始めています。私たちは現在の製品を愛していますが、私たちはスーパーインテリジェンスを持つ輝かしい未来のためにここにいるのです。スーパーインテリジェントなツールは、私たち自身の能力をはるかに超えて、科学的発見とイノベーションを大幅に加速させ、その結果、豊かさと繁栄を大きく増大させることができます。」これは今年、私がかなり多く取り上げる予定のテーマです。AGI以降、ASI以降に何が起こるのでしょうか。
彼はこう締めくくっています。「今は科学フィクションのように聞こえ、話すことさえ少し狂気じみているかもしれません。それで構いません。私たちはこれまでもそうでした。そして再びそうなることを受け入れています。私たちは、数年以内に誰もが私たちの見ているものを見るようになり、広範な利益と権限付与を最大化しながらも、細心の注意を払って行動する必要性が非常に重要であることを確信しています。」
なんという驚くべき声明と予測でしょう。ここでもう一度、状況認識に関する素晴らしい論文に戻りたいと思います。もしまだご覧になっていない方は、その詳細な解説動画へのリンクを下に貼っておきました。ここに計算能力があり、そして彼が知能爆発と呼ぶものがあります。人工知能が非常に賢くなり、自身の研究を行い、反復的かつ指数関数的に自己改善できる時点です。
私たちが今目にしているのはまさにそれです。突然、スーパーインテリジェンスが登場し、自動化されたAI研究は人間の10年分のアルゴリズムの進歩を1年以内に圧縮できる可能性があります。そしてそれは控えめな予測かもしれません。何百万、何億ものo3モデルやそれ以上のモデルが常時稼働し、自己改善の新しい方法を発見し、自動的に自己改善し続けることを想像してみてください。これは何か遠い未来のSFではありません。少なくとも私の考えでは、それほど遠くない未来に実現可能なことです。
現在の唯一のボトルネックは計算能力、つまりどれだけの計算資源をこれに投入できるかということです。特にテスト時の計算の仕組み、つまり思考モデルが最適な答えを見つけ出す間、大量のトークンを処理するために必要な莫大な計算能力が問題です。
これらのモデルが改善されるだけでなく、その知能を機能させるためのフレームワークも必要です。約6ヶ月前、Sakana AIチームが「AI scientists: towards fully automated open-ended scientific discovery」という論文を発表したことを思い出してください。この論文では、AIが新しい科学的発見を行い、それについて論文を書き、その新しい発見を自身に適用する方法が詳しく説明されています。つまり、それはすでに実現されているのです。
もちろん、現時点ではこれらはまだ非常に未熟で、誰でも簡単に「本当の自己改善ではない」とか「発表している研究論文にはたくさんの間違いがある」と指摘できます。しかし重要なのは、それが存在し、実現されているということです。他のすべての技術と同様に、これも改善され、コストも下がっていくでしょう。
もう一つお見せしたいものがあります。チャンネルの友人であり、Forward Future Newsletterの著者であるChubbieが、OpenAIのアライメント部門長がツイートした興味深い内容を指摘しています。OpenAIのアライメント部門長であるJoshuaは次のように述べています。「世界はAIの深刻さと、それが多くの前提を覆したり無効にしたりすることについて、十分に向き合っていません。一見堅固に見える多くの均衡が基づいている前提条件です。」今週の動画でこのテーマを取り上げる予定です。
AGI後、ASI後の世界はどのようになるのでしょうか。国内政治、国際政治、市場効率、技術進歩の変化率、社会的なつながり、人々の他者への感情的依存、私たちの生活様式、健康状態、技術を使って自分の身体や精神を変える能力など、人間の経験のあらゆる側面が影響を受けることになります。
この10年から始まり、今世紀を通じて続く可能性が高い変化について、より多くの人々が認識せず、関心を持たず、あるいは完全に信じていないことは、私にとって非常に奇妙に感じます。それは容易な世紀にはならないでしょう。激動の世紀になるでしょう。もし私たちが正しく対処できれば、喜び、充実感、繁栄は想像を超えるものとなるでしょう。しかし、課題に正面から取り組まなければ、失敗する可能性もあります。
そのことについて考えていただきたいと思います。私たちは非常にエキサイティングな時代に生きています。2025年はAIにとって重要な年となるでしょう。AIエージェントが労働力として参入し、特異点についての議論、シミュレーション仮説についての議論が行われています。これらは私たちが考えなければならない現実の問題です。皆さんの考えをぜひコメント欄で教えてください。この動画が良かったと思われた方は、いいねとチャンネル登録をお願いします。また次回お会いしましょう。
コメント