このエピソードでは、サム・アルトマンが発表した「穏やかな特異点」というエッセイを中心に、AIが人間の知能を超える特異点が既に静かに始まっているという彼の主張を詳しく解説している。また、メタが人工超知能の開発を目指す秘密の新AI部門を立ち上げ、Scale AIの創設者アレクサンダー・ワンを責任者に据えたというニュースも取り上げ、AI業界の現在の動向と将来の展望について議論している。
AIインサイダーたちの関心は汎用人工知能を超えて人工超知能へ
私たちは、AI業界の内部関係者たちが単に汎用人工知能だけでなく、人工超知能にも焦点を当てているといういくつかの兆候を得ています。
まず最初に、サム・アルトマンが「穏やかな特異点」というタイトルのエッセイを発表しました。彼はその中で、AIが人間の知能を上回るという仮説的な時点である特異点について、それが静かに始まっていると主張しています。
このエッセイで彼は、人類が彼の言う「事象の地平線」を越えてデジタル超知能に向かっていると論じていますが、興味深いことに、これらすべてが誰もが予想していたよりも少し静かに起こっているということです。
私たちはまだ街角にロボットがいるわけでもなければ、超人的なAIが物事を運営しているわけでもありませんが、AIシステムは多くの認知タスクで人間を上回る性能を発揮しています。そして私たちが入りつつある段階は、混乱というよりも加速のように感じられるだろうと彼は述べています。
彼は、科学的なブレークスルーが私たちが想像できるよりも速く到来する近未来を描いており、2027年までにはロボットが現実世界のタスクを処理するようになり、2030年までには生産性が2020年の桁違いに高くなる可能性があると予測しています。
彼がこれを「穏やかな特異点」と呼ぶのは、これらの驚異のそれぞれが単に素早く普通の生活の一部になっていくと彼が主張するからです。私たちはすべての進歩に慣れ、それが平凡になり、私たちは生活を続けていくのです。
メタが人工超知能への大胆な新しい賭けに出る
同時に、メタが人工超知能への大胆な新しい賭けに出ているというニュースを得ました。マーク・ザッカーバーグは、人工超知能の構築を直接的に目指す秘密の新AI部門を立ち上げました。
それを立ち上げるために、彼は個人的に数十人のトップAI研究者をリクルートしており、Scale AIの創設者であるアレクサンダー・ワンをその責任者に据えました。これが可能なのは、メタがScale AIの49%の株式取得を検討しているからです。Scale AIは多くのトップAIシステムを訓練するデータのラベリングで最もよく知られています。
この取引ではScale AIの価値を280億ドルと評価しています。メタは、ワンと彼のチーム、そしてインフラが、ザッカーバーグがメタのLLaMAと呼ばれるAIモデルのパフォーマンスの遅れを修正するのに役立つことを期待しています。そして彼らの使命は、AGI、そして場合によっては人工超知能への競争で競合他社を打ち負かし、それらをメタのエコシステム全体に組み込むことです。
アルトマンのエッセイにおける大きな主張
ポール、まずアルトマンのエッセイから始めましょう。ここにはいくつかの大きな主張があります。アルトマンは特異点の概念を発明したわけではありませんが、私たちがそのある種のバージョンに近づいていると考えています。どう思いますか。
この会話にはとても多くの方向があります。エピソード129では、実際に「人工超知能」というタイトルのメイントピックがありました。その時点で私たちがそれについて話すことになったきっかけを振り返って考えてみようとしていました。それはサム・アルトマンのツイートでした。
2025年1月4日に、サムは次のようにツイートしました：「私はいつも6語の物語を書きたいと思っていました。ここにあります：特異点の近く、どちら側か不明。つまり、私たちは特異点の前にいるのか後にいるのか、それはすでに起こったのかということです」
そこで私は人工超知能というアイデアの話を共有しました。エピソード129に戻って聞くことができますが、その時点で私が共有したのは、Google DeepMindチームのシェーン・レッグによって発表された論文でした。彼はAGIという用語を造った人物で、「AGI操作のためのAGIレベル：AGIへの道筋における進歩」という論文です。
その論文でDeepMindは、人工知能のこれらの異なるレベルを設定しようとしました。レベル0がAIなし、レベル5が超人的というものです。彼らの論文では、レベル5が人工超知能であり、彼らのマトリックスの最高レベルは「結合された性能と汎用性」と呼ばれています。
その定義によると、レベル5の汎用AIまたは人工超知能は、人間が匹敵できないレベルで幅広いタスクを実行できるようになります。彼らは超人的性能を100%の人間を上回る性能と定義しています。
人工超知能について話すとき、人々は異なる定義を持っていますが、それがGoogle DeepMindの定義です。
サム・アルトマンのエッセイの歴史的文脈
サムの最近のエッセイに関して言えば、彼はこれらのエッセイが好きで、最近はそれらをもっと書いているようです。今年の2月には「サムからの3つの観察」がありました。今年の1月には「サムからの省察」がありました。今年の5月には「GPT-4o」があり、彼は新しいモデルとその影響について話しました。
しかし、私が少し時間をかけたいのは「すべてのもののためのムーアの法則」です。これは2021年3月16日のものです。私が基調講演を行うのを聞いたことがある人なら、私がよくこの記事を参照することを知っているでしょう。それは、まだ誰もがサムに耳を傾けていなかった時期の瞬間だったからです。
確かにシリコンバレーやテック界では知られていましたが、一般的に言って、サムが何かを書いても、それが世界を変えたり人々の物事に対する視点を変えたりするということはありませんでした。
「穏やかな特異点」の舞台を設定するために、この記事からいくつかの段落を読み上げます。2021年3月の「すべてのもののためのムーアの法則」でアルトマンは次のように書きました：
「OpenAIでの私の仕事は、ほとんどの人が信じているよりも早く来る社会経済的変化の規模について、毎日私に思い起こさせます。考え学習できるソフトウェアは、現在人々が行っている仕事をますます多く行うようになるでしょう。公共政策が適切に適応しなければ、労働から資本へとさらに多くの力がシフトし、ほとんどの人は今よりも悪い状況になってしまうでしょう」
これがChatGPTの1年半前だったことを思い出してください。彼が何を言っていたか、何を予測していたか、そして私たちが現在いる時期を考えてみてください。
彼は続けました：「今後5年間で」、それは私たちを2026年に導くことになりますが、「考えることができるコンピュータープログラムが法的文書を読み、医学的アドバイスを与えるようになるでしょう。今後10年間で、それらは組立ライン作業を行い、おそらく仲間にさえなるでしょう。その後の数十年で、それらは私たちのすべての概念を拡張する新しい科学的発見を行うことを含めて、ほぼすべてを行うようになるでしょう」
「来るべき変化は、私たちの最も印象的な能力、つまり思考、創造、理解、推論という驚異的な能力を中心とするでしょう。3つの偉大な技術革命、農業革命、産業革命、そして計算革命に、私たちは4番目を加えるでしょう：AI革命です。この革命は、私たちが社会として責任を持って行えば、誰もが必要なものを持てるだけの十分な富を生み出すでしょう」
サム・アルトマンの信頼性と将来への洞察
私がこの「穏やかな特異点」にコメントする前にこれを共有するのは、確かにサムは自分の会社の価値を上げようとしていたり、より多くの資金を調達しようとしていたりするハイプマンとして受け取られる可能性があるからです。
しかし、約10年間彼の仕事と著作をフォローしてきた人として言えば、彼は一般的に自分が見たことや、見たことに基づいて近い将来に起こると非常に確信していることを書きます。
私の個人的な経験では、彼は実際に物事を過度に宣伝しようとする人ではなく、私たちのほとんどがアクセスできるよりも多くの未来を見ることができる人であり、その未来に向けて人々を準備させようと言葉を通じて試みる人です。
特異点と人工超知能の歴史的背景
そして私たちはこの「穏やかな特異点」に入ります。あなたも私も読んだ本、ニック・ボストロムの「超知能：経路、危険、戦略」は2014年に出版されたと思います。
私は今、数週間前にショーで言及したカレン・ハオの「AIの帝国」を聞いているところですが、彼女はOpenAIの創設の物語と、その本とボストロムの思考が、2014年頃の時期にデミス・ハサビス、イーロン・マスク、サム・アルトマンにとってどれほど重要だったかを語っています。
人工超知能というアイデア、さらには特異点まで遡っても、これらの人々にとって新しいことではありません。彼らはこれについて考え、これらの概念に向けて取り組んできました。
特異点は、理論的にはAIが人間の知能を上回り、急速で制御不可能な技術的進歩につながる仮説的な時点です。これは、AIが自己改善となり、人間の理解を超えた超知能マシンを作り出すことができることを示唆しています。
特異点について話すとき、私たちはもはや平均的な人間ができることを一般的にできるAGIについて話しているのではありません。これまでに生きたどの人間をも、すべてにおいて超越するAIについて話しているのです。特異点について彼が語るとき、彼がそのように意味していることを理解しなければなりません。彼は人工超知能が到来した瞬間について話しているのです。
そして1月の彼のツイートは「多分それはここにある、多分そうではないが、どちらにしても私たちはそれに近い」ということです。
「穏やかな特異点」からの重要な抜粋
いくつかの抜粋を見てみましょう。彼は言います：「私たちは最近、多くの点で人間よりも賢いシステムを構築し、それらを使用する人々の出力を大幅に増幅することができています。作業の最も困難でない部分は私たちの後ろにあります。GPT-4やo3のようなシステムに私たちを導いた科学的洞察は困難でしたが、私たちを非常に遠くまで連れて行ってくれるでしょう」
彼が言っているのは、本当に未知の部分はすでに起こったということです。私たちは知能が存在できること、それが推論し、思考し、創造し、理解できることを証明しました。今はいくつかの障害を解決するだけで、そこに到達するということです。
彼は続けて言いました：「ある大きな意味で、ChatGPTはすでにこれまでに生きたどの人間よりも強力です。2025年は実際の認知作業ができるエージェントの到来を見ました。コンピューターコードを書くことは二度と同じではないでしょう。2026年には、新しい洞察を見つけ出すことができるシステムの到来がおそらく見られるでしょう。2027年には、現実世界でタスクを実行できるロボットの到来が見られるかもしれません」
これは私が行ったAGIタイムラインエピソードと一般的に一致しています。エピソード142だったと思いますが、ショーノートに入れます。AGIタイムラインを設定したとき、彼がここで言っていることで私の視点を変えるものは何もありませんでした。
彼は続けました：「より多くの人がソフトウェアとアートを作成できるようになりますが、世界はその両方をより多く求めており、専門家は新しいツールを受け入れる限り、おそらく初心者よりもはるかに優秀であり続けるでしょう。一般的に言って、2030年に一人の人が2020年にできたよりもはるかに多くのことを成し遂げる能力は、印象的な変化となり、多くの人がそれから利益を得る方法を見つけ出すでしょう」
これが彼の楽観主義の源のようなものです。彼は、人間レベルの知能をどこまで超えることができるかわからないが、私たちはそれを見つけようとしていると話します。
すでに私たちは信じられないデジタル知能の中に住んでおり、初期のショックの後、私たちのほとんどはそれにかなり慣れています。彼は基本的に、物事が起こり、これらの物事が狂ったように賢くなったが、私たちはそれに適応しただけだと言っています。そして特異点も似たようなものになると彼は考えています。それは単に起こり、私たちは適応するでしょう。
エネルギーとコストに関する興味深い統計
これは興味深いと思いましたし、多くの人がこれを引用しているのを見ました。彼は言いました：「データセンターの生産が自動化されるにつれて、知能のコストは最終的に電気のコストに近づくはずです」そして括弧内で「人々はしばしばChatGPTのクエリがどのくらいのエネルギーを使用するか疑問に思っています。平均的なクエリは約3.4ワット時を使用します。これはオーブンが1秒強で使用するもの、または高効率電球が数分で使用するものとほぼ同じです。また、約0.085ガロンの水、およそティースプーン15分の1を使用します」
私はマイク、このような数字を見たことがありません。あなたはどうですか。
将来への展望と課題
彼は言いました：「仕事の全体のクラスがなくなるような困難な部分があるでしょうが、一方で私たちは非常に速くはるかに豊かになるので、新しい政策アイデアを真剣に検討することができるようになるでしょう。これから先を見ると、これは私たちの頭で理解するのは困難に聞こえますが、おそらくそれを生き抜くことは印象的だが管理可能に感じられるでしょう」
そして彼は次のようにまとめています。おそらく2500語の記事からの抜粋ですが：「私たち（OpenAIだけでなく業界全体）は世界のための脳を構築しています。それは非常にパーソナライズされ、誰もが使いやすいものになるでしょう。私たちは長い間、良いアイデアによって制限されるでしょう。技術関係者やスタートアップ業界は、「アイデアマン」、つまりアイデアを持ち、それを構築するチームを探している人々という概念をからかってきました。今、彼らが太陽の下で活躍する日が来ようとしているように私には見えます。物事を構築することがもう困難な部分ではなくなるでしょう。アイデアを持つ人々が重要になるのです」
スケールAIについて話す前の歴史的文脈
スケールについて話す前に他に何か思いはありますか。これは多くのことですし、何年もAIをフォローしていない人や、過去数年間このポッドキャストを聞いていない人、これがまだ新しく、サムとは誰か、OpenAIとは何か、なぜそれがそんなに重要なのか、なぜ皆がいつも彼らについて話しているのかを理解しようとしている人のために、私は時々、彼らが誰で、どこにいるかの歴史的文脈を少し提供したいと思います。
実際、私はまだ「AIの帝国」の本全体を読み終えていませんが、最初の数章ではサムがどのようにして今の地位に就き、これほど強力になったかをうまく設定しており、私たちがいつも推薦するケイト・メッツの「ジーニアス・メーカーズ」の本を非常によく補完しています。
マイクの懸念と現実的な課題
マイク、私が唯一言いたいのは、私は通常サムのエッセイが大好きで、あなたに同意します。私はこれらを「ああ、彼は何かを宣伝している」とは読んでいませんが、仕事の全体のクラスがなくなるような非常に困難な部分があると書く一方で、私たちはおそらく新しい社会契約を一度に採用することはないだろうが、数十年後に振り返ったとき、段階的な変化は何か大きなものになっているだろう、そして同じ息でそれを生き抜くことはおそらく印象的だが管理可能に感じられるだろうと言うのは、私には狂気じみて見えます。
私たちはここで口の両側から話していて、彼が何を言いたいかはわかりますし、それが必ずしも悪意があるとは思いませんが、これらの部分を本当に軽く流しました。
マイク、それは私たち全員が見ていることだと思います。つまり、ダリオ・アモデイが最近その流れを破った唯一の人ですが、デミス・ハサビスは、私がこの分野で最も尊敬している人ですが、彼は常に「ええ、これは本当に速く起こるだろうし、私たちは準備ができていないし、それは素晴らしいことになるだろう、すべての病気を解決し、宇宙を旅行するだろうが、仕事を破壊するかもしれない、それは哲学者、社会学者、経済学者が解決すべきことだ」と言っています。
私は、これらの指導者の多くが、自分たちがしていることが世界をこの超ポジティブな方法で変えるという不屈の楽観主義を持たなければならないと思います。困難な部分があるでしょうが、最終的には彼らは自分たちがしていることが社会に正味のポジティブな影響を与えると深く信じているので、それをしなければならないし、途中で他の誰かが破片を拾い上げる方法を見つけ出すことを願っています。
私は決してこれについて悲観論者ではありませんし、私もとても興奮していますが、私たちが来ると思うものよりもはるかに小さな仕事への混乱が社会に巨大な影響を与えたと思うのです。
コメント