本動画は、OpenAIのCEOであるSam Altmanが発表した新ブログ投稿「The Gentle Singularity（優しいシンギュラリティ）」の詳細解説である。Altmanは人類がすでにイベントホライゾンを越え、デジタル超知能の構築に近づいていると主張し、2025年から2030年代にかけての具体的な予測を展開している。自己改善AIやロボット工場の実現可能性、経済への影響、そして知能がユーティリティのように安価になる未来について論じており、技術的特異点が既に静かに進行中であることを示唆する内容となっている。
人類はイベントホライゾンを超えた
私たちはイベントホライゾンを超えました。離陸は始まっています。人類はデジタル超知能の構築に近づいており、少なくとも今のところ、それは思っていたよりもずっと奇妙ではありません。
これは私がSam Altmanの新しいブログ投稿「The Gentle Singularity」の冒頭の数行を読み上げたものですが、確かにかなり衝撃的な書き出しでした。
タイトルからもお察しの通り、彼はシンギュラリティについて話しています。AIが人間の知能を超え、そのまま進歩し続ける瞬間のことです。彼は私たちがすでに後戻りできない地点、いわゆるトランスヒューマン、つまり人間を超えた存在が現れるかもしれない地点を越えたと言っています。
この動画では、Altmanのブログ投稿の最も重要で最も驚くべき部分を詳しく解説していきます。彼が今後数年間で何が起こると考えているか、自己改善AIやロボット工場がどのように関わってくるか、そして仕事、科学的発見、基本的にあらゆることにとって何を意味するかを含めて。これは本質的に、私たちをそこに連れて行くものを文字通り構築している人物からの、私たちがどこに向かっているかの完全な分析です。
科学的洞察の最も困難な部分は終わった
では、全文を一語一句読み上げるわけではありませんが、ハイライトをお伝えし、最高の部分を抜き出し、Altman自身がこれについて話している動画クリップも少し挟むかもしれません。
彼は、私たちが今や人間より賢いAIシステムを持っているにもかかわらず、実際にはそれほど多くのことが変わっていないことを指摘することから始めています。人々はまだ病気で死んでいますし、宇宙への移動は簡単ではありませんし、まだ分からないことがたくさんあります。
しかし彼は、最も困難な部分はすでに終わったと言及しています。GPT-4や o3のようなシステムに到達するための科学的洞察は獲得が困難でしたが、私たちを非常に遠くまで連れて行ってくれるでしょう。
再び、彼は私たちがすでにその閾値を越えており、残りの道のりは基本的にこの時点での勢いだと言っています。進歩はもはやいつかの問題ではなく、いつのことかという問題です。
彼はまた次のように書いています。「AIは多くの方法で世界に貢献するでしょうが、AIがより速い科学的進歩と生産性の向上をもたらすことによる生活の質の向上は途方もないものになるでしょう。未来は現在よりもはるかに良いものになり得ます。科学的進歩は全体的な進歩の最大の推進力です。私たちがどれだけ多くのことを手に入れることができるかを考えるのは非常にエキサイティングです。」
私はこれに完全に同意します。確かに超知能に近づくにつれて現実的なリスクはありますし、疑いの余地はありません。そしてそれらのいくつかについても触れるつもりです。しかし、AIが科学的発見を大幅に加速し、あるいは全く新しい分野を生み出す可能性を考えることは単純に驚異的です。
つまり、過去100年間で私たちが成し遂げた進歩を考えてみて、そしてAIがそれを10年、1年、あるいは数ヶ月に圧縮することを想像してみてください。私たちは今、文字通りデジタル科学者を創造しているのです。
2025年から2030年代への具体的予測
ブログの次の部分で、彼は具体的な日付を提示し始めます。
彼は言います。「2025年には、実際の認知的な仕事ができるエージェントの到来を見ました。コンピューターコードの記述は二度と同じになることはありません。2026年には、新しい洞察を見つけ出すことができるシステムを見る可能性が高く、2027年には現実世界でタスクを実行できるロボットの到来を見るかもしれません。」
これらが今後数年間に対する彼の予測です。
その後、彼は2030年代に移ります。彼は次のように書いています。「最も重要な意味において、2030年代はそれほど劇的に異なっているわけではないかもしれません。人々はまだ家族を愛し、創造性を表現し、ゲームをし、湖で泳ぐでしょう。しかし、それでも非常に重要な意味において、2030年代は今まで来たことのないどの時代とも劇的に異なったものになる可能性があります。人間レベルを超えた知能がどこまで行けるかは分かりませんが、私たちはそれを発見しようとしています。」
では、2030年代が実際にどのようなものになるかについて、彼は知能とエネルギー、言い換えればアイデアとそのアイデアを実現する能力が極めて豊富になると予測しています。豊富な知能とエネルギー、そして良いガバナンスがあれば、理論的には他の何でも手に入れることができます。
優しいシンギュラリティの現実
そして、ここでさらに驚くべきことになります。Altmanは、私たちがすでにこれにある程度慣れていることを指摘します。GPT-3が段落を書くことで私たちの心を吹き飛ばしていたものが、今では基本的なことに感じられます。「わあ、詩が書けるんだ」から「でも本は書けるの？」へ、「がんの診断を手助けできる」から「でも治療法は発明できるの？」へと変化していきます。
これが優しいシンギュラリティの仕組みです。奇跡が日常的になり、そして期待されるようになり、そして追いつくために必要になるのです。
そして最も驚異的な部分は、AIが科学を加速しているだけでなく、AI自体も加速していることです。彼は科学者たちがすでにAIを使って2倍から3倍生産的になっていると報告しており、そして今や彼らはより良いAIを構築するためにAIを使っていると言います。
彼は、それがまだ完全な再帰的自己改善ではないことを認めていますが、私たちはその非常に初期段階にいます。本質的に、ツールがより良いツールを構築し始めているのです。離陸が始まりました。
そしてOpenAIは実際に o3 Proをリリースしたばかりで、これは次のステップの最初の真の一瞥の一つかもしれません。単により賢いだけでなく、自己改善の方法を改善し始めているように感じられるモデルです。
再帰的自己改善とインフラの複利効果
今、Altmanだけがこう言っているわけではありません。GoogleのCEOであるSundar Pichaiも最近、Lex Friedmanポッドキャストで同様のことを言いました。AIが過去の突破口と根本的に異なるのは、文字通り自分自身を改善する能力だということです。
彼らの会話の中で、Pichaiは「私たちは技術がこれほど速く進歩し、これほど有能になり、上限が明確でなく、そして主なユニークな点として、再帰的に自己改善できる技術を扱ったことはありません。創造そのものを劇的に加速できる最初の技術なのです。」と述べています。
そう、これが人々を興奮させるか、恐怖に陥れるか、あるいはその両方である理由だと思います。自己改善AIを創造する瀬戸際にいるという考えです。そしてそれは特に科学的発見において私たちを新たな高みに連れて行く可能性がある一方で、このことがどれだけ速く、どれだけ遠くまで行くかを私たちが完全にコントロールできなくなることも意味します。
Altmanは書いています。「ここから先、私たちがすでに構築したツールが、さらなる科学的洞察を見つけ出し、より良いAIシステムの創造を支援してくれるでしょう。」
もちろん、これはAIシステムが完全に自律的に自分のコードを更新することとは同じではありませんが、それでもこれは再帰的自己改善の初期バージョンです。
Altmanはまた、他の自己強化ループも始まっていることを指摘しています。一つは、経済価値の創造が、これらのますます強力なAIシステムを実行するための複利的インフラ構築のフライホイールを開始したことです。
そして彼はこう述べます。「他のロボットを構築できるロボット、そしてある意味で他のデータセンターを構築できるデータセンターは、それほど遠くありません。最初の100万台のヒューマノイドロボットを昔ながらの方法で作らなければならないとしても、その後彼らは鉱物の採掘と精製、トラックの運転、工場の運営など、より多くのロボットを構築するためのサプライチェーン全体を操作できるようになります。そしてそれらのロボットは、より多くのチップ製造施設やデータセンターなどを構築できるようになります。そうなれば、進歩の速度は明らかに全く異なったものになるでしょう。」
知能がユーティリティになる未来
これは、AIについて話すときに多くの人が見落としている部分だと思います。通常、私たちはソフトウェア、モデル、コード、出力に焦点を当てますが、実際にAIを大規模に創造するには、ソフトウェアとハードウェア、知能とそれを実行する機械の両方が必要です。そしてハードウェアが自分自身を構築し始めるなら、それはもはや単なる自動化ではなく、複利的知能インフラなのです。
ロボットがロボットを構築するようになったら、次に何が起こるでしょうか？Altmanは書いています。「データセンターの生産が自動化されるにつれて、知能のコストは最終的に電気のコストに近づくはずです。」
これは考えるだけで驚異的なことです。つまり、それが真実なら、知能は本質的に電気や水のようなユーティリティになりますが、コードを書き、会社を運営し、科学的発見をすることができるのです。
彼はここで楽しい統計も入れています。単一のChatGPTクエリは約0.34ワット時を使用し、これはオーブンが1秒間で使用するもの、または高効率電球が2分間で使用するものとほぼ同じです。そして水の使用量に関しては、約115分の1ティースプーンです。
確かに無ではありませんが、無限により費用効果的になっています。つまり、o3に戻ると、彼らは o3 Proをリリースしただけでなく、o3の価格を80%下げました。これは非常に速いペースで起こっています。
社会変化とジョブの未来
そこからAltmanは少し方向転換します。進歩が加速しても、人間は驚くほど適応が得意だと言います。確かに、職業カテゴリー全体が消失するなどの困難な部分もあるでしょうが、世界も急速に豊かになり、それは以前には考えられなかった政策転換への扉を開きます。
彼は突然の新しい社会契約を予測しているわけではありませんが、振り返ってみれば、これらのゆっくりとした変化は大規模に見えるだろうと示唆しています。彼は、1000年前の自給自足農民が今日私たちの多くがしていることを見て、私たちは偽の仕事をしていて、食べ物がたくさんあり、想像できないような贅沢品があるのに、ただ自分を楽しませるためにゲームをしていると言うだろうという例まで挙げています。
相対論的視点でのシンギュラリティ
ここでSam Altmanは少し哲学的になります。彼は書いています。「これからを見ると、理解するのが困難に聞こえますが、おそらくそれを生きることは印象的でありながらも管理可能に感じられるでしょう。相対論的な観点から、シンギュラリティは少しずつ起こり、融合はゆっくりと起こります。私たちは指数関数的技術進歩の長い弧を登っています。前方を見ると常に垂直に見え、後方を見ると平坦に見えますが、それは一つの滑らかな曲線です。2020年を振り返って、2025年までにAGIに近いものを持つということがどのように聞こえたか、対して実際の過去5年間がどのようなものだったかを考えてみてください。」
そう、大きな視点では私たちは指数関数的技術進歩、つまりシンギュラリティを生きているにもかかわらず、実際にそれを生きている私たちには必ずしもそのように感じられないということです。これはブログ投稿の冒頭に戻ります。そこで彼は私たちが閾値を越えたと宣言していますが、実際には何も変わっていないのです。
アライメント問題と集中化のリスク
もちろん、すべてが虹と指数曲線というわけではありません。Altmanは、前方に深刻な課題があることを明確にしています。
一つはアライメント問題、つまりAIシステムが実際に私たちが望むことをするようにすることです。彼は今日のソーシャルメディアアルゴリズムを、ミスアライメントされたAIと比較しています。それらはクリックの最適化には優れていますが、実際の長期的価値との整合は恐ろしいものです。技術的には正確に指示されたことをしているにもかかわらず、本質的にあなたを搾取し、心理をハッキングしているのです。
今、ミスアライメントされた超知能を想像してみてください。それがどれほど有害であり得るか。しかし一方で、この力が良いことに使われることを想像してみてください。
Altmanは、最良の前進方法は、まずミスアライメント問題を解決し、次に超知能を安価で、広く利用可能で、個人、企業、国家に過度に集中させないようにすることだと信じています。私はただ、その順序でそれができることを願っています。
世界の脳としてのAI
Altmanはその後、かなり詩的な調子で終わります。私たちは世界のための脳を構築しているのです。パーソナライズされ、常にオンで、どんなアイデアでも誰でも助けることができる脳です。
そして彼は、真のボトルネックは計算力や安全性やデータではなく、良いアイデアの利用可能性かもしれないと言います。彼はスタートアップサークルで無関係だと馬鹿にされてきたアイデアマンたちにも少し愛を送り、彼らがついにチャンスを得るかもしれないと言います。
そして最後に、彼はこれで締めくくります。「メーターに表示するには安すぎる知能は十分に手の届くところにあります。これを言うのは狂気に聞こえるかもしれませんが、2020年に私たちが今日いるところにいると言ったとすれば、おそらく2030年についての現在の予測よりもクレイジーに聞こえたでしょう。スケールが滑らかに、指数関数的に、そして平穏無事に超知能を通過しますように。」
結論
そう、つまり彼は間違っていません。過去5年間は完全に非現実的でした。そしてもし次の5年間が彼がこの投稿で述べているようなものなら、優しいシンギュラリティはそれほど優しく感じられないかもしれません。
とにかく、ここまで見てくださった方々、あなたの考えをお聞かせください。私たちは本当に後戻りできない地点を過ぎたのでしょうか、それともこれは単にSam Altmanが究極的なことを言っているだけなのでしょうか？私は彼の楽観主義を評価しますし、実際にこれらの投稿を読むのを楽しんでいますが、私にとってさえ、時々それはすべて私たちがいる場所よりも少し先すぎるように感じられます。コメントであなたの考えをお聞かせください。
コメント