この動画は、OpenAIのCEOであるサム・アルトマンが発表した「穏やかな特異点」というブログ投稿について詳細に解説したものである。アルトマンは人類がイベントホライゾンを超えたと宣言し、AGI実現に向けた離陸が既に始まっていると述べている。動画では彼の将来予測やタイムライン、そして特異点到達への道筋について分析を行っている。
イベントホライゾンを超えた人類
私たちはイベントホライゾンを超えました。離陸が始まったのです。人類は人工超知能の構築に近づいています。
サム・アルトマンによる「穏やかな特異点」と題した新しいブログ投稿が公開されました。AI業界の誇大宣伝を抑える必要があると言っていた男性にしては、確実に誇大宣伝の一翼を担っているようですね。しかし、彼は多くの興味深いことを語っています。このブログ投稿は、彼の未来への展望について本当に明らかにしてくれるものです。
私たちはイベントホライゾンを超えました。離陸が始まったのです。人類は人工超知能の構築に近づいており、少なくとも今のところ、それは思ったほど奇妙ではありません。
彼が「奇妙」と言っているのは何を指しているのでしょうか。具体的には、ロボットが街を歩いていない、私たちのほとんどが一日中AIと話していない、人々は依然として病気で死んでおり、宇宙に簡単に行くことはできず、宇宙について理解していないことがまだたくさんあると述べています。
つまり、特異点到達のイベントホライゾンを通過したにもかかわらず、世界はほんの数年前と同じままだと言っているのです。
また、特異点到達への困難な作業の多くは既に達成されているとも述べています。これは私たちがまだ取り組んでいることではないのです。これを聞いてください。
作業の最も困難な部分は既に終わっています。GPT-4やo3のようなシステムに到達させた科学的洞察は困難でしたが、私たちを非常に遠くまで連れて行ってくれるでしょう。
ちなみに、特異点が何を意味するかわからない方のために定義をお伝えしましょう。人工知能やその他の技術が非常に進歩し、人類が劇的で不可逆的な変化を遂げる仮想的な瞬間のことです。
AIがもたらす恩恵と科学的進歩の加速
サム・アルトマンは次に、私たちが現在見ており、将来人工知能から見る可能性が高い恩恵について説明しています。
AIがより速い科学的進歩と生産性の向上をもたらすことによる生活の質の向上は enormous です。未来は現在よりもはるかに良いものになり得ます。科学的進歩はすべての進歩の最大の推進力であり、私たちがどれだけ多くのものを持てるかを考えるのは非常にエキサイティングです。
その点で、自己改善する人工知能が、この科学的発見を解き放つ最も速いルートのように思われます。
ここ数週間だけでも、私たちはSakana AIとGoogleによる論文を取り上げてきました。これらは人工知能が新しい知識を発見し、それを自分自身に適用して自己改善することを示しています。非常に印象的です。
2025年から2030年代への予測タイムライン
ここでいくつかのタイムライン予測があります。
2025年は、実際の認知的作業ができるエージェントの到来を見ています。これほど真実なことはありません。これはエージェントの年です。エージェントは既に信じられない仕事をしています。
具体的には、コンピューターコードを書くことは二度と同じにはならないでしょう。
2026年には、新しい洞察を見つけ出すことができるシステムの到来が見られるでしょう。はい、来年にAIが新しい知識を発見できるようになるというその予測に完全に同意します。
ここで私が同意しない部分があります。2027年には現実世界でタスクを実行できるロボットの到来が見られるかもしれません。
私が必ずしも反対しないのは、彼が「到来」という言葉で少し賭けをヘッジしているからですが、私たちが確実に見ないのは現実世界でのロボットの広範な普及です。私が想像するのは、多くの工場が彼らを導入し始め、実験を始め、何が得意で何を改善する必要があるかを見つけ出すことです。しかし、街を歩いて人間と同じくらい多くのロボットを見ることはまだありません。
個人の生産性向上と能力の飛躍的拡大
ここに私が確実に同意するもう一つの予測があります。約1週間前に、AIがすべての人を超人的にするという動画を作りました。私たちはこれまで想像できなかったほど生産的になるでしょう。
一般的に言って、2030年に一人の人が2020年にできたよりもはるかに多くのことを成し遂げる能力は、劇的な変化となり、多くの人がそれから利益を得る方法を見つけ出すでしょう。
はい、同意します。私がここで非常に楽観的であることは分かっています。
2030年代には、知性とエネルギー、アイデア、そしてアイデアを実現する能力が非常に豊富になるでしょう。
知性が非常に豊富になることには同意しますし、エネルギーもそうなることを願っています。ただし、私たち、つまりアメリカは現在あまり良い状況にありません。これらの大規模データセンターが拡張し続ける中で、それらを稼働させるのに十分なエネルギーが確実に不足しています。
しかし、この二つ、知性とエネルギーを組み合わせることで、文字通り他の何でも手に入れることができると彼は主張しています。私たちが知性とエネルギーを活用しさえすれば、何でも手に入るのです。
この二つは長い間、人間の進歩の基本的な制限要因でした。豊富な知性とエネルギー、そして良いガバナンスがあれば、理論的には他の何でも手に入れることができます。
魔法的な知性への慣れと特異点の進行
そして彼は、物事にどれほど早く慣れるか、空にある魔法的な知性を持つことにどれほど早く慣れるかについて話し続けます。
最初のショックの後、私たちのほとんどはそれにかなり慣れています。非常に早く、AIが美しく書かれた段落を生成できることに驚くことから、いつ美しく書かれた小説を生成できるようになるのかと疑問に思うようになります。命を救う医学的診断ができることに驚くことから、いつ治療法を開発できるようになるのかと疑問に思うようになります。小さなコンピュータープログラムを作成できることに驚くことから、いつ全く新しい会社を作ることができるようになるのかと疑問に思うようになります。
そうです、ちょうど2年半前にいた場所と今日いる場所を比較すると、驚くべきことです。しかし個人的には、この時点でかなり慣れています。ほんの短期間でどれほど遠くまで来たかを実感するには、少し振り返りが必要です。
これが特異点の進み方です。驚異が日常となり、そして当たり前となるのです。
人工知能を使って新しい科学的発見をし、それ自体に適用する新しいアルゴリズムを発見できるようになれば、それは再帰的改善であり、科学的進歩の速度は驚くべきものになるでしょう。
自己改善AIの現状と経済的フライホイール
そして彼は、自己改善する人工知能のタイムラインにおいて私たちがどこにいるかについて話し続けます。
彼は言います。私たちには既に、さらなる科学的洞察を見つけ、より良いAIシステムの作成を支援するツールが構築されています。これは、AIシステムが完全に自律的に自身のコードを更新することと同じではありませんが、それでもこれは再帰的自己改善の初期バージョンです。
つまり、私たちは非常に初期段階にあり、知性爆発はすぐそこにあるように思えます。
彼は既に始まっている他の自己強化ループについて説明します。具体的には、人工知能からの経済的価値についてです。
これらのモデルには非常に多くの経済的価値があるため、ハイパースケーラーはより多くのインフラストラクチャを構築することに多額の投資をしており、モデルが良くなり、モデル価値が向上し、そのフライホイールが続いています。
彼はまた、他のロボットを構築するロボットについても説明し、ある意味では、他のデータセンターを構築するデータセンターもそれほど遠くないと述べています。
インテリジェンスのコストとエネルギー使用量
データセンターの生産が自動化されるにつれて、知性のコストは電気代に収束するでしょう。実際の知性はゼロになりますが、その知性を実行するにはまだGPUが必要です。GPUにはまだ電気が必要です。
興味深いことに、彼は実際にChatGPTのエネルギー使用量と水使用量についていくつかの統計を明らかにしています。私は以前、若い世代の多くがChatGPTを避けているのは、環境に非常に有害だと考えているからだと言いました。では、文脈に置いてみましょう。
平均的なクエリは約0.3ワット時を使用します。これは、オーブンが1秒強で使用する量、または高効率電球が数分間で使用する量とほぼ同じです。また、約0.000085ガロンの水を使用します。大体ティースプーン1/15程度です。
非常に少ないですが、やはり単一のチャットボットクエリは非常に少ないのです。そして今、一日あたり10億のクエリを想像してみてください。すべては相対的ですが、彼がこれらの統計を示したのは興味深いことです。
雇用の変化とUBIの可能性
彼は、特異点へのこのアプローチには非常に困難な部分があると言います。職種の全体的なクラスが消滅するでしょう。
しかし一方で、世界は非常に急速に豊かになるため、これまで真剣に検討できなかった新しい政策アイデアを真剣に検討できるようになるでしょう。
彼はおそらくUBI（ユニバーサルベーシックインカム）について言及しています。これは、人工知能によって創出されるこのすべての生産性、このすべての価値を地球上のすべての人に無料で配布するというアイデアです。AIが私たちのためにこのすべての作業をしているからという理由で、毎月チェックを受け取ることを想像してみてください。
これは私のUBIに対する意見の反映ではありません。私は彼が何について話している可能性があるかを報告しているだけです。
しかし、すべての人の仕事が自動化されたとき、実際に何が起こると彼は考えているのでしょうか。私たちは新しいやるべきこと、新しい欲しいものを見つけ出し、新しいツールを素早く吸収するでしょう。産業革命後の職業変化が良い例です。期待値は上がり、能力も同じように急速に上がるでしょう。私たちは物事が上手になるのです。
彼は特に自給自足農民について言及しています。1000年前の農民は、今日多くの私たちがしていることを見て「私たちは偽の仕事をしている。確実に私の仕事、一日中カメラに向かって話すだけの仕事は、私たちには十分な食料と想像を絶する贅沢があるので、自分たちを楽しませるためのゲームをしているだけだ」と言うでしょう。
1000年後の仕事を見て、それらが非常に偽の仕事だと思うことを私は望んでいます。そして、それらをしている人々にとっては信じられないほど重要で満足のいくものだと感じることに疑いはありません。
未来のビジョンと「プラグイン」の選択
ここで彼は本当に未来のビジョンに入り込みます。
ある年に高エネルギー物理学を解決することから、翌年に宇宙植民地化を始めることに移るかもしれません。またはある年に材料科学の大きなブレークスルーから、翌年に真の高帯域幅脳コンピューターインターフェースに移るかもしれません。
多くの人は人生を大体同じように生きることを選ぶでしょうが、少なくとも一部の人はプラグインすることを決めるでしょう。
あなたはどう思いますか。プラグインするつもりですか。これは確実にマトリックスのように聞こえます。
しかし個人的には、私はサイエンスフィクションが大好きです。私たちすべてが一緒に持てるこの信じられない未来について考えるのが大好きです。そして、はい、おそらく私はプラグインするでしょう。
今後の道筋：アライメント問題と超知能の民主化
ここが彼の提案する今後の道筋です。
まず、アライメント問題を解決する必要があります。確実に、私たちが長期的に集合的に本当に望むことに向けて学習し行動するAIシステムを確実に保証できる必要があります。
彼は特にソーシャルメディアについて言及しています。ソーシャルメディアフィードは、ミスアライメントされたAIの例です。それらを動かすアルゴリズムは、あなたにスクロールし続けさせることが信じられないほど得意で、あなたの短期的な好みを明確に理解していますが、あなたの長期的な好みを覆す脳の何かを悪用することでそれを行っています。
非常に真実です。ソーシャルメディアアルゴリズムは、あなたをサイトにできるだけ長く留めることを意図しており、そのために恐怖と怒りを悪用しています。
それから、人工超知能を安価で広く利用可能にし、特定の人、会社、国に過度に集中させないことに焦点を当てます。
私の意見では、これはアライメント問題に次いで二番目に困難な部分である可能性があります。私はこれについて多く考えてきましたが、知性がデジタル世界と物理世界の両方で本質的に無料になるとき、人間は社会においてはるかに少ない影響力しか持たないように思えます。
私たちが経済的価値を取り、それを社会での影響力として使用できない場合、私たちの影響力ははるかに少なくなります。したがって、現在資本を持っている人は、長期的に権力を集中させるのに最も良い位置にある可能性があります。知性に最も多く支払える人は、本質的に何でもできるようになるからです。
そのため、権力の集中は私の真の懸念です。
アイデアの時代の到来
ここに面白いこと、そして私が確実に罪を犯していることがあります。私はコーディングがまずまず得意でしたが、2006年から2007年頃に、頭の中にあるアイデアを現実にしたかったので、コーディングが上手になることを本当に決意しました。私のアイデアを反復し、異なるビジネスを試し、何が機能するかを見たかったのです。
コーディングを学んだ後、私には何でもできました。
コーディングを学んで以来、コーディングができない多くの人が私のところに来ました。彼らは単なるアイデア人間でした。彼らは私に「この素晴らしいアイデアがある。私のために構築してくれれば、50対50で分割しよう」と言うのです。
毎回、私は彼らを気まずい表情で見て、なぜコーディングを学んで作らないのか、またはエンジニアにお金を払ってそれをしてもらわないのかと思っていました。シリコンバレーではほとんどミームのようでした。
振り返ってみると、私がそれらのアイデア人間についてどう考えていたかについて、もう少し反省しています。
サム・アルトマンが何を言っているか見てみましょう。
長い間、スタートアップ業界の技術者はアイデア人間を馬鹿にしてきました。アイデアを持ち、それを構築するチームを探していた人々です。今、私には彼らが太陽の下で彼らの日を迎えようとしているように見えます。
つまり、アイデアを持つ人は誰でも、そのアイデアが現実になるのを見ることができるということです。彼らはAIエージェントを使って、頭の中にあるどんなアイデアでも構築できます。それは私にとって非常にエキサイティングな未来であり、本当にそれらのアイデア人間をテストして、それらのアイデアが価値があったかどうかを見ることができます。
私が何年もの間、人々に何度も繰り返し言っている言葉があります。アイデアは十二分に一つです。アイデアは本当に重要ではありません。あなたが構築している会社の出発点は、解決しようとしている問題で方向的に正しい限り、本当に重要ではありません。
なぜなら、アイデアの後に実際の作業が始まるからです。アイデアを構築し、テストし、市場に出て、それを売ろうとし、何千回も何千回も反復すること。それが本当の作業です。それが本当の価値のある場所であり、アイデア自体ではありません。
測定するには安すぎる知性は手の届くところにあり、同時にOpenAIは私にプロサブスクリプションで月200ドルを請求していますが、彼が何を意味しているかは理解しています。彼らはo3バニラの価格を80%下げたばかりです。
そして彼は「人工超知能を通じて滑らかに、指数関数的に、そして平穏無事にスケールできますように」と締めくくります。
コメント