8,923 文字
サム・アルトマンは基本的に、全てが変わると述べました。彼は次のようなツイートを投稿しました。「私は常に6語の物語を書きたいと思っていた。それがこれだ。シンギュラリティーの近く、どちら側か不明」
多くの人にとって、これはインターネットを揺るがすようなツイートではなかったかもしれません。しかし、AI業界にいる私たちにとって、これは非常に深遠なツイートです。なぜなら、第一に彼は人工知能分野をリードする研究所のCEOであり、第二にシンギュラリティーは私たちが理解する必要がある非常に重要な概念だからです。それが起こると、物事は確実に永遠に変わります。
シンギュラリティーの唯一の問題は、多くの人がそれがいつ起こるのかを定義するのに苦労していることです。シンギュラリティーを知らない人や、この概念を初めて耳にする人のために説明すると、これは技術の成長が制御不能かつ不可逆的になり、人類文明に変革的な変化をもたらす仮想的な未来の時点です。この概念は、しばしば人間の能力を超える超知能AIの開発と関連付けられており、もちろん予測や理解できない方法で技術進歩を急速に加速させる可能性があります。
画面に表示されているこの図は、基本的にこれがどのように起こるかを示しています。時間が経過するにつれて、人間の知性はほぼ同じままで、もちろん現代医学によってゆっくりと増加していきますが、コンピュータの発明があり、徐々に確実に機械知能が人間の知能を超え、急速に加速し始める時点が来ます。そしてこれが、知的レベルのグラフが完全に垂直に上昇する点であり、多くの人が理論化してきたものです。
シンギュラリティーが起こると多くの異なることが起こりますが、これについては多くの議論があります。しかし、おそらくこれは私たちが理解する必要がある未来の最も重要な点です。なぜなら、その時点以降、人々がシンギュラリティーと呼ぶ理由は、宇宙空間でブラックホールの事象の地平線の向こう側で何が起こっているのか本当にわからないのと同じように、何が起こるのか予測するのが非常に難しいからです。
私たちがシンギュラリティーに到達する可能性のある時期に入っていることを真に理解し始めると、これがおそらく最も重要な時期になるだろうことを理解しなければなりません。なぜなら、実際に何が起こるのかさえわからないからです。
もちろん、誰も何が起こるかわからないと思うかもしれません。しかし、そうではありません。レイ・カーツワイルのような個人は、実際に驚くべき正確さで開発の速度や未来学の世界で起こっていることを予測しようとしてきました。AI、コンピューティング、先端技術など、これらはカーツワイルがしばらくの間予測してきた種類のものです。
彼はパターン認識技術、AI、人間とコンピュータの相互作用の先駆的な進歩で知られるアメリカの発明家、コンピュータ科学者、未来学者です。そして、彼は実際に技術に重要な貢献をしてきました。
シンギュラリティーに関する彼の予測について、この話題を議論する際に最も尊敬されている人物の一人として、彼は実際に2045年までにシンギュラリティーが起こると予測しています。そして、サム・アルトマンのような人物から「シンギュラリティーの近く」という明確な声明が出されると、それは私たちに警鐘を鳴らすことになります。
なぜなら、2045年という未来の時点があり、それはまだまだ先のことで今すぐパニックになる必要はないと考えていたのに、サム・アルトマンが「実際にシンギュラリティーの近くにいる」と言うと、それは本当に大きな警鐘となるからです。主要な研究所のCEOがそう言ったのです。
彼の重要な予測の一つは、2029年までにAGIが実現するということでした。そして年が経つにつれて、技術の発展を目の当たりにするにつれて、彼の予測はますます現実に根ざしたものになってきています。
シンギュラリティーを理解することは本当に重要です。なぜならそれは文字通り全てを変えるものだからです。ここで彼は2045年について語るインタビューに登場しています。もちろん技術が発展するにつれて、そのタイムラインは変わる可能性がありますが、一部の情報源によると、彼の予測の正確性は80〜90%とされています。
「2045年はAGIとは少し異なります。AGIは基本的に一人の人間、非常に優秀な人間と同等で、全てを知っていますが、基本的に一人の人間です。2045年までに私たちは知能を約100万倍に増幅することができるでしょう。それが私たちがシンギュラリティーと呼ぶものです。一人の人間になれるようになるだけでなく、2045年までに基本的に100万人の人間の知識を持つようになるのです。それは非常に難しいので、物理学からこのメタファーを借りてシンギュラリティーと呼んでいます。」
この時期に起こると彼が考えているもっと驚くべきことを知りたい場合、そしてサム・アルトマンの声明についてもう少し詳しく説明しますが、これを見る必要があります。今は想像するのが難しいですが、レイオは基本的に私たちが目にしてきた多くのことを予測してきました。
「ナノボットが私たちの脳をクラウドに接続します。ちょうど携帯電話のように。2045年までに知能を100万倍に拡大します。それがシンギュラリティーです。私たちはより面白く、よりセクシーになり、より賢く、より創造的になり、生物学的制限から解放されます。私たちは外見を選ぶことができ、11次元のオブジェクトを視覚化するなど、今日はできないことができるようになります。全ての言語を話すことができ、私たちはほとんど想像できないような方法で意識を拡張することができます。私たちは余分な年月でより豊かな文化を経験することになります。」
実際にアルトマンはこのツイートに続いて、次のように述べました。これは「1.シミュレーション仮説について」か「2.テイクオフの重要な瞬間が実際にいつ起こるのかを知ることの不可能性について」のどちらかだと。
しばらくの間、ポイント2に焦点を当てたいと思います。これは非常に興味深いからです。彼が指摘しようとしているのは、このグラフで赤い線が真っすぐ上に伸びているのが見えますが、シンギュラリティーの問題は、これがいつ起こるのかわからないということです。
もちろん、超知能AIが突然信じられないようなことを始めたとすれば、それはおそらくシンギュラリティーが起こった可能性がある瞬間だと考えるでしょう。しかし、この時点がいつ起こっているのかを正確に特定するのは非常に難しいのです。アルトマンが言うように、テイクオフの重要な瞬間が実際にいつ起こっているのかを知ることは不可能なのです。
興味深いことに、サム・アルトマンは実際にこれについて以前、2023年に話しています。「短いタイムラインとスローテイクオフはかなり良い判断になると思います。しかし、人々がテイクオフの開始をどのように定義するかによって、そうでないように見えるかもしれません。」
基本的に彼が話しているのは、テイクオフがどのように起こるかということです。私たちはスローテイクオフと短いタイムラインを望んでいます。なぜなら、AIの能力に驚かされたくないからです。彼は最近、2023年のインタビューでこれについて話しました。彼は実際にこれが様々な理由で本当に重要だと話しています。その理由については後で説明します。
「AGIはどのくらい先だと思いますか？」と彼に尋ねられ、「おそらく思っているより早いでしょう。近づけば近づくほど、答えるのが難しくなります。なぜなら、人々が考えているよりもずっと曖昧で、もっと段階的な移行になると思うからです。AGIテイクオフの時代が始まるまでの短いタイムラインと長いタイムライン、そしてスローテイクオフかファストテイクオフかという2×2のマトリックスを想像してみてください。私たちが向かっている世界、そして最も安全な世界、私が最も望む世界は、短いタイムラインのスローテイクオフです。しかし、そのいつの時点でAGIの勝利を宣言するかについては、人々は大きく意見が分かれると思います。」
実際にレス・ウロングのブログ投稿がこれについてもう少し詳しく説明しています。そして、すでに言ったように、スローで連続的なテイクオフは、速くて不連続なテイクオフよりも安全です。私たちが行こうとしているこの移行、つまり平均的な人が歩き回っている状態から極めて強力なAIに移行するためには、これを安全に行う必要があります。
超知能的な存在を世界に投げ込むことはできません。理にかなった方法でゆっくりとそこに到達する必要があります。非常に強力なAIへの移行を成功させるためには、AI安全性とガバナンスの取り組みがAIの能力と歩調を合わせるか、理想的にはそれを上回る必要があります。
ファストで不連続なテイクオフと比較すると、スローで連続的なテイクオフはこの観点からずっと安全に見えます。基本的に、ファストテイクオフは、私たちが急速なAI能力を獲得し、能力に大きな飛躍があるような不連続な状況であると述べています。
そして、私が言っていたように、クランクを回すとき、つまり新しいモデルを作るとき、理想的には私たちはAIの能力に大きく驚かされたくありません。モデルを作る場合、理想的には私たちがそれらの能力を予測でき、その能力が第一に制御できるもので、第二に必要な場合に確実に制限できるもの、そして将来のモデルのために予測できるものであってほしいのです。
ファストテイクオフを望まない理由は、社会が高度な能力にどのように対応するかを理解する時間を与えないからです。そしてもちろん、それらから生じる可能性のある不安定化にも時間を与えません。つまり、社会において、高度なAIが突然10億の異なることをできるようになると、社会を不安定化させることになります。
多くの個人が、シンギュラリティーに到達したとき、お金は何を意味するのかについて話してきました。これは私が以前から個人的に取り上げてきたことです。この世界が本質的に変化していること、そしてAIが経済の大部分の仕事をすることになる時点が来ることについて、かなり長い間話してきました。
100年前を振り返ってみると、100年前に仕事と呼ばれていたものは、現在私たちが持っている多くの仕事のような仕事には見えないと思います。そのため、不安定化の側面も非常に重要です。私はこの話題について多くの動画を作ってきました。
能力が遅く移行する必要がある理由について知りたい場合、もちろん、仕事から解雇されたり、特定の産業が根こそぎにされたりする場合、一夜にして根こそぎにされることは望ましくありません。理想的には、人々がキャリアを移行し、どのようなビジネスが作られるかを理解し、企業に対応する能力を与えるために、その移行はかなり段階的であってほしいのです。
また、危険がより明確で差し迫ったものになったときに、調整する能力も与えられません。もちろん、これらの高度なシステムは明らかにより能力が高く、より危険になるでしょう。これは、新しい能力を研究し、もちろんそれらを完全に評価する時間が必要だということを意味します。
そのため、サム・アルトマンが「スローで連続的なテイクオフ」と言うとき、これが「かなり良い判断になるだろう」と述べているのはそのためです。そしてこれらが2つのタイムラインで、物事がスローで連続的だが比較的早く起こる短いタイムラインです。
私は、今まさにこれが起きていると感じています。つまり、私たちはゆっくりと…というか実際にはそれほどゆっくりではなく、急速にそのタイムラインに向かっていますが、それはより段階的です。能力の飛躍は信じられないほどには感じられません。これは良いことです。なぜなら、政府や人々が反応する時間があり、特定のAIがどのように統合されるかについての研究を行うことができ、効果的なプログラムを開発することができ、新しいAI経済をナビゲートするために人々を支援する新しい政策を急激に実施する必要がないからです。
もちろん、これは私たちが望むシナリオを見ているのです。だから私は、私たちが今いるのはこのシナリオだと思います。なぜなら、物事は本当に急速に、しかしまた同時にゆっくりと動いているからです。そして、これは私が起こらないと思うシナリオです。つまり、長期的には、そのテイクオフに到達するのに本当に長い時間がかかるというものです。
しかし、すでに述べたように、サム・アルトマンは「シンギュラリティーはかなり近い」と述べており、OpenAIは実際にスローテイクオフの速度が必要だと話してきました。なぜなら、これによって安全性の問題を経験的に解決し、適応する方法を理解するためのより多くの時間が与えられるからです。
彼らが話している一つの事は、もちろんコンピュート・オーバーハングが少ないということです。なぜなら、7兆ドルのコンピュートがあり、それを実行して新しいモデルを作ることを決めた場合、1000万ドルのトレーニング実行から10億ドルのトレーニング実行に移行すると、そのトレーニング実行で高度な能力を持つ可能性が非常に高いからです。
また、他にも驚くべきことが起こっています。なぜなら、これの第二部分も非常に魅力的だからです。サム・アルトマンは、私があまり探求していない何かについて話していますが、それは確かに魅力的な概念です。
彼はシミュレーション仮説について話しています。そして覚えておいてください、以前彼が説明したように、「これは1.シミュレーション仮説についてか、2.テイクオフの重要な瞬間が実際にいつ起こるのかを知ることの不可能性についてのどちらかだ」と言っています。しかし、彼は詳細には立ち入りません。
シミュレーション仮説について知らない人のために説明すると、これは哲学者のニック・ボストロムによって提案された仮説で、私たちの宇宙全体が高度な文明によって作られたコンピュータ・シミュレーションである可能性を示唆しています。
ここでの核心的なアイデアは…これは完全に狂っています。悪い意味で狂っているのではなく、「こんなことは以前考えもしなかった」という意味で狂っているのですが…文明が高度な詳細なシミュレーション現実を作れるほど進歩すれば、彼らは自分たちの過去の多くのシミュレーションを作る可能性があり、もしこれが可能なら、統計的に見て、私たちはオリジナルの基本的な現実の中にいるというよりも、これらの多くのシミュレーションの一つの中にいる可能性が高いということです。
より高度なAIとコンピューティングシステムを開発するにつれて、私たちがこれらの技術的進歩を本当に初めて経験しているのか、それともこの歴史的な期間を再現するシミュレーションの中にいるのかは確実ではありません。
アルトマンのツイートの文脈では、これは私たちが本物の宇宙でシンギュラリティーに近づいているのか、それともその期間をシミュレーションしているのかということに関係しています。そしてもちろん、これが彼が「どちら側にいるのかが不明確だ」と言った理由です。
ニック・ボストロム自身が実際に、私たちが今生きている重要な期間は非常に興味深い時期だと話しています。なぜなら、今後数年、おそらく10年から15年の間に、人類の運命が決定される可能性があるからです。そして彼は、私たちがいるこの重要な節目が、未来にとって本当に本当に重要だと述べています。
「私たちは、何か重要な節目に非常に近いところにいるように見えます。これは一見、不可能に思えるかもしれません。私たちの前には何千世代もの人々がいて、もし物事がうまくいけば、私たちの後には何百万世代もの人々が、あるいは宇宙的な時間を生きる人々がいるかもしれません。そしてこれらすべての人々の中から、あなたと私が、未来全体が決定されるこの重要な節目のすぐそばにいることになるなんて…それは驚くべきことです。これが世界のこのモデルが示唆することのように見えます。そしておそらく、それは何か少し不可解なこと、あるいは不可能なことがあることを示しているのかもしれません。世界と私たちの立場についての素朴な概念に反映されているよりも、私たちの状況を理解するためのより多くの側面があるのかもしれません。そして、それが何なのか推測することができます。私には以前、シミュレーション論法などの研究がありました。」
興味深いことに、アルトマンは実際にレックス・フリードマンのポッドキャストでこれについて長々と話しています。これは非常に興味深い内容でした。なぜなら、彼がここで話しているのは、本質的に私たちが今やビデオゲームで信じられないほどリアルな仮想世界を簡単に作れることや、VRヘッドセットを通してそれらに完全に没入することがいかに簡単か、そしておそらくさらに深いレベルでも可能だということです。
そしてこのクリップで、彼は実際にもっと深いアイデアを説明するために平方根関数をメタファーとして使っています。4の平方根は2で、これはかなり単純です。2の平方根は1.414でさらに複雑になり、そして-1の平方根は虚数があるところで、それは数学の全く新しい世界を開きます。
彼の主要なポイントは、平方根関数のような単純なものが、私たちが存在すると知らなかった全く新しい現実の領域を発見することにつながることがあるということです。-1の平方根が虚数という全く新しい世界を開いたように、ますますリアルなシミュレーションを作る私たちの能力は、私たち自身の現実の本質について疑問を投げかけることにつながるかもしれないということです。
彼は基本的に、単純なアイデアが現実についての深遠な啓示につながるというこのパターンによって、以前よりも多くの人々がシミュレーション仮説をより真剣に考えるようになるかもしれないと示唆しています。そして、彼がつい先ほどシミュレーション仮説についてツイートしたことを考えると、SoraがシミュレートされたAIシステムによって生成された世界を作り出す能力を考えると、そのように見え始めているのだと思います。
「ちょっと深い質問をさせてください。これはあなたの信念を、もしそれを持っていたとすれば、私たちがAIシステムによって生成されたシミュレーションの中で生きているという信念を高めますか？」
「ええ、ある程度は。それが最も強力な証拠だとは思いませんが、私たちが世界を生成できるという事実は、誰もがその可能性をある程度高めるべき、少なくともそれに対してより開放的になるべきだと思います。しかし、私たちはいつかSoraのようなことができるようになると確信していました。私が思っていたより早く起こりましたが、それは大きな更新ではありませんでした。」
「しかし、その事実、そしておそらくそれはどんどん良くなっていくでしょう。事実としてあなたが世界を生成できること、それらは学習データの一部に基づいているけれど、見てみると新しいものだということ。それは、これがどれほど簡単なことなのか、ビデオゲームの世界全体のような宇宙を作ることがどれほど簡単なのか、そしてまずVRヘッドセットで、そして物理学的なレベルでその世界に迷い込むことがどれほど簡単なのかを考えさせます。」
「最近、私は非常に深遠な洞察だと思ったことがあります。時々、非常に単純に聞こえるけれど非常にサイケデリックな洞察が存在することがあります。平方根関数を例に取ると、4の平方根は問題ありません。2の平方根は、まあ今やこの新しい種類の数について考えなければなりません。しかし、子供にも説明できるような単純な平方根関数のアイデアを思いつき、それが単純な幾何学を見るだけでも存在することがわかったら、-1の平方根は何かという質問をすることができます。これは、なぜそれがサイケデリックなことなのか、全く別の種類の現実に導くものなのかを説明しています。他にも多くの例を挙げることができますが、この平方根演算子という単純なものがそのような深遠な洞察と新しい知識の領域を提供できるというこのアイデアは、多くの方法で適用できると思います。そして、人々が以前より、シミュレーション仮説の好きなバージョンをより可能性が高いと考えるかもしれない理由について、そのような演算子が多くあると思います。しかし私にとって、Soraの成功はトップ5にも入りません。」
興味深いことに、OpenAIの別の人物であるスティーブン・マーサーが、つい最近、サム・アルトマンのツイートに関連する興味深いツイートをしました。彼は「宇宙はコンピュータである」と述べました。これは皆さんに考えていただきたいことです。なぜなら、彼が「宇宙はコンピュータである」と述べ、アルトマンが「おそらく私たちはシミュレーションの中にいる」と述べ、これらすべての議論を取り巻くことは、私は本当に非常に魅力的だと思うからです。
それを踏まえて、皆さんはこれについてどう思うか教えてください。ゲイリー・マーカスのような一部の個人にとって、彼らは基本的にサム・アルトマンはただ誇大宣伝をしているだけだと考えています。彼は「サムが実際に言わずに、またはコミットせずに、彼の会社を去った人々にもかかわらず、私たちがAGIの近くにいることを暗示する能力は絶対的な伝説だ。常に誇大宣伝を続けろ」と言います。
結局のところ、この会社がどのように展開していくか、批評家たちが正しいのかどうかを見るのは本当に興味深いことになるでしょう。しかし、一つ確実に言えることは、これは間違いなく非常に興味深いものになるということです。
コメント