本講演では、AGI研究の第一人者であるベン・ゲーツェルが、技術的特異点への道筋を経済学的モデリング手法を用いて分析している。現在のLLM技術の限界を指摘しつつ、OpenCog Hyperonをはじめとする次世代AGI開発プロジェクトの進展を報告し、初期段階のAGIから超知能への移行期における社会経済的ダイナミクスをシミュレーション分析によって検討する。特に、富の集中か普遍的ベーシックインカムかという異なる未来シナリオを比較し、分散型AIインフラの構築が望ましい未来への移行において決定的に重要であることを数学的に示している。またマルチエージェント協調理論を用いて、複数のAGIプロジェクトが協力的に有益なAGIを実現するための条件を明らかにし、BGI Nexusイニシアチブの重要性を強調している。
現在の技術進展と態度の変化
皆さんようこそ。そして比較的早い朝の時間に、私たちの種や他の知的種の未来について語るためにベッドから引きずり出されてここに集まってくださった皆さん、本当にありがとうございます。そしてインターネットを通じて、どんな時間と場所であれ聴いてくださっている皆さんにも歓迎の意を表します。
私たちが生きているのは、様々な意味で刺激的な時代です。今すでに機能している技術は多くの点で驚異的なものです。私たちが今構築していて、まもなく立ち上げようとしている技術はさらに驚異的です。そして未来の技術や人類の未来に対する人々の態度の変化も、目の当たりにすることが非常に興味深いものです。これから数年間で、この三つの側面すべてにおいて、物事はより劇的になっていくと思います。
現在機能している技術という点では、商業的なセールスマンの一部が言うかもしれないことにもかかわらず、私たちはまだ人間レベルのAGIを持っていません。一方で、表面的には素晴らしい進歩があったように見えることは確かです。私の元々の専門は数学者でしたが、この講演の後半で数学的シミュレーションをいくつかお見せします。これは数学モデルを使って、ここから特異点への道筋について理解を得ようとしたものです。大学院レベル以上の難しい数学問題を集めて、現在のAIツールに解かせることができるんです。
これは私にとって非常に驚くべきことです。なぜならチェスや囲碁はより限定された領域だからです。AIはそれらのゲームで長い間私よりもはるかに優れていました。数学もある意味では限定されたゲームですが、科学、工学、そして技術の多くを生み出してきたゲームなのです。
ですから、LLMや関連技術が組み合わさって現在のレベルで数学や科学を行う能力は、驚異的で印象的です。ただ、まだ人間レベルには届いていません。これらのシステムは人間が持つ創造性を持っていません。人間が持つ信頼性も持っていません。ある意味ではこれは低いハードルなのですが、私たち人間は現在のLLMや他の技術よりもはるかに優れた形で、自分自身の間違いを認識し修正する能力を持っています。
そして数学や科学の領域を超えて言えば、もう誰も履歴書やカバーレターを書く必要がないんです。実際、大学の授業のためにエッセイを書く必要さえないかもしれません。これはより複雑な話ですが。グラフィックアーツについては、この会議の後半でお見せしますが、私の娘と父と私はAIツールを使ってアニメを制作しています。それをうまく行うには多くの人間の判断と人間の芸術的インスピレーションが必要です。一方で、現代のツールを使えば必要な労力ははるかに少なくて済みます。
LLMの限界とAGIへの道筋
単純に観察可能な機能性という点では、AGIに向けて大きく進歩したように思えます。ただし、以前にも言いましたし後でもう少し詳しく説明しますが、LLMや他の商業的AI技術の内部の働きは人間の心とは非常に異なっており、AGIに到達するために必要なものとも非常に異なっていると考えています。
それでも、多くの点で観察可能な機能性においてこれほど近づいているという事実は、確かに何かを意味しています。これから講演を進める中で、それが何を意味するのかについてもう少し詳しく説明してみたいと思います。
これから登場する技術について言えば、サム・アルトマンやAnthropicのダリオ・アモデイといったLLM支持者たちには同意しません。これらの素晴らしい個人たちは、LLMをもう少しスケールアップし、もう少しいじって、おそらくいくつかのアドオンの補助的ソフトウェアコンポーネントを加えれば、人間レベルのAGIに到達できると考えています。私はそうは信じていません。
それでも、彼らの意見には賛同する傾向があります。おそらくあと数年で人間レベルのAGIに到達するでしょう。これは現在の商業的AIソフトウェアシステムが聖杯だと思っているからではありません。むしろ、それらが重要な構成要素になり得ると考えているからです。
LLMは、AGIシステムの異なる部分を様々な方法で導く一種の知識オラクルになれます。しかしそれ以上に重要なのは、LLMが行っているすべてのことを可能にした技術トレンドが、より広範なトレンドだということです。今後数年間で、他の多くのAIアーキテクチャも様々な驚くべきことを始めるようになるでしょう。
LLMで見てきたのは、大量の計算処理が大量のデータと一緒になり、そして本当にスマートなAIシステムを作ることが可能で有用なことだという信念と組み合わさったときに何が起こるかです。たくさんの計算能力、データ、そして多くの賢い人々が集中して問題に取り組む。この組み合わせが、トランスフォーマーニューラルネットやLLMを超えた多くの他のものにつながっていくと思います。
OpenCog Hyperonプロジェクトの進展
そしてこれらのいくつかは、この部屋にいる人々やインターネットで聞いている人々によって達成されるでしょう。ここイスタンブールでこのBGI会議の直前の3日間、私たちはオープンソースのOpenCog HyperonテクニカルAGIミートアップを開催しました。LLMではなく、異なるソフトウェアシステムの組み合わせを使ったAGIへの道について深いレベルで話し合いました。
Hyperonの設計では、重み付きラベル付き知識メタグラフがあり、これは多くの異なるマシンのRAM上に存在します。その中でディープニューラルネットを実行できますし、LLMさえも実行できます。また、観察された事実に推論を基礎づける方法を知っている明示的な論理推論も行うことができ、事実と幻覚を区別できます。
また、進化的アルゴリズムを含む様々な方法で創造的なアイデア生成も行えます。これは自然選択による進化の創造性をシミュレートするものです。さらに概念ブレンディングも含まれ、異なる概念を非典型的で驚くべき方法で組み合わせます。ですから、この広大な分散型進化する知識グラフの中で、様々なニューラル、推論、創造的な進化的手法を実行できます。これはディープニューラルネットワークでできることをより広い枠組みの中に包含します。
私たちは、ニューラルネット、論理システム、進化システムを、圏論や幾何学などの分野を使って同じ種類の抽象的な数学的ダイナミクスの側面として見ることができる多くの数学を開発してきました。
この特定のミートアップで非常に興味深かったのは、初めてかなり高速で大規模なコンパイラを手に入れたことです。これはMeTeTaというAGI言語のためのもので、2年ほど前に考案しました。単一のマシンまたはマシンのネットワーク上で多くの異なるAI手法の組み合わせをより簡単にコーディングして実行できるようにする目的でした。
2、3年前、私たちはAGIシステムの構築からリソースと注意を少し離して、より広範なAI手法の集合をスケールアップできるより良いツールを構築しようと決定しました。そして数日前のワークショップで見たのは、この新しいAGI言語が、より広い範囲のAI手法の開発を容易にするということです。
ついに、大規模で非常に高速に動作するようになりました。マシンのRAM上に5億または10億のノードとリンクを配置し、それらと一緒に推論、進化、ニューラルのものを実行できます。このワークショップには、観客席にいるグレッグ・メレディスもいました。彼のプログラミング言語と分散型インフラストラクチャは、とりわけ、この新しい言語でコーディングされたAGIプログラムを、非常に印象的なセキュリティ、信頼性、スケーラビリティの問題を持つマシンの分散ネットワーク上で実行することを可能にします。
これは彼の会社Fireflyのツールを使い、それをMeTeTaと分散型MeTeTaプログラムのネットワークに特に活用することで実現されます。これは少し技術的で、私たち自身のプロジェクトであり、AGIへの唯一のルートではありません。しかし、このより一般的な講演でこれに言及するのは、大規模言語モデルを超えた多くのAI方向で進展が遂げられていることを示すためです。
2017年、2018年に見られたのは、言語モデリングのためのディープニューラルネットに関する多くの研究が突然どんどん良い結果を出し始めたことです。BERTモデルがあり、その後初期のGPTモデルがあり、それらはどんどん良くなっていきました。それ以前にコンピュータビジョンモデルで見られたことです。2014年、2015年にはAlexNetや畳み込みニューラルネットがあり、どんどん良くなっていきました。
様々なAGIアプローチの加速
今後数年間で見ることになるのは、他の多くのAIパラダイムについても同様の急速な進歩の軌跡だと信じています。そして私たちは、Hyperonを使った自分たちのアプローチについても、そのような段階に入ろうとしているように感じます。なぜなら、私たちは長い間、論理、進化、ニューラルネットを一緒にするAI手法のプロトタイプを作ってきたからです。
この数年間、これらをスケーラブルに実装できる新しいプログラミング言語の構築に費やしました。そして数週間前、Hyperonチームの非常に多くの人々の共同努力のおかげで、突然それが実現しました。グレッグについて言及しましたが、アダム・ヴァンダーヴォースはMM2の主要な開発者でした。これは超高速のMeTeTa言語の一つです。
パトリック・ハマーはPETA PrologMeTeTaという別の非常に高速なMeTeTaコンパイラを開発しました。そして他にも多くのものがあります。まず最初にアレクセイ・ポタポフを挙げなければなりません。彼はここにいるかもしれませんが、そもそもMeTeTa言語を設計した人物です。これらすべてが一緒になって、今では高速な言語が手に入りました。
来年できることは、何十年もプロトタイプを作ってきたこれらすべてのAIツールを、初めて高速かつ大規模に実行することです。これは私たちのプロジェクトにとって非常にエキサイティングです。私のAGI設計のいくつかが実現されるかもしれません。なぜなら、膨大な数のマシン上で高速に実行できるからです。
しかしより広い視点で見ると、HyperARMプロジェクトを突然大きく加速させているものは、根本的にはLLM開発を大きく加速させた要因と同じであり、畳み込みニューラルネット開発を大きく加速させた要因と同じです。
そしてこれらの同じ要因が、世界中の他の多くのAGI指向のプロジェクトも同様に加速させる基盤となっています。私は自分たちのプロジェクトにはいくつか特別なものがあると思います。業界で最もクールな帽子を持っているだけでなく、私たちは間違いなく大手テック企業以外で最大かつ最も真剣なAI、AGIプロジェクトです。そして、単にディープニューラルネットだけでなく様々な異なる技術を組み合わせている最大かつ最も真剣なプロジェクトです。また、モノリシックなサーバーファームを必要とするのではなく、分散型の文脈でAGIに取り組んでいる最大かつ最も真剣なプロジェクトでもあります。
私は自分たちのイニシアチブには特別なものがあると思います。一方で、世界中でどれだけ多くの異なるAGIイニシアチブが立ち上がっているかも非常にエキサイティングです。私はこれらの人々からいつも連絡を受けています。それはこれらの同じ要因があるからです。非常に多くのマシンと高速ネットワーク、非常に多くのデータ、そしてAGIへの取り組みを正当化する文化の変化です。
ある種の方法で頭がおかしい私たちの一部にとっては、実際には誰も好まないものに取り組むことを好むんです。今やAGIがより人気になったので、私は「よし、転生マシンか何か本当にクレイジーなものに取り組み始めなければ」と思っています。しかし世界のほとんどの人々にとって、世界で最も才能のあるテクノロジーオタクのほとんどの人々にとってさえ、有給で雇用され、誰からもバカにされないというのは、多くの人々にとって望ましいことです。
ですから、世界の舞台でのAGIの正当化は、確実により多くの人々をそこに引き込んでいます。ますます多くのプロジェクトがますます多くのことを行っています。これは私の友人レイ・カーツワイルが予見したことです。彼が2005年に著書『シンギュラリティは近い』を書いたとき、実際にはそれと同じ年に人工汎用知能に関する最初の編集された書籍が出版されました。
AGI概念の歴史と受容
2002年に私たちがその本に取り組み始めたのを覚えています。元々のタイトルは「リアルAI」でしたが、それは少し見下しているように思えました。なぜなら、ナローAIもまだ現実のものだからです。私は非現実のAIで生計を立てていました。つまり、さまざまな顧客のために商業的AIシステムを構築していたんです。
それで、本の新しいタイトルとして何がいいか考えていました。別の長年のAGI研究者であるペイ・ワンは、一般的AIということでG AIを提案しました。中国語ではそう整理するからです。今でも中国語ではAGIをそう言います。しかし、私たちは世界がゲイの超知能の準備ができていないと判断しました。今ならおそらく準備ができているでしょうが、当時はそうではありませんでした。
それで本の著者たちのメールリストにいた多くの人々、DeepMindを設立することになるシェーン・レッグ、そしてAGI社のピーター・ヴォスなど、多くの人々がAGIに並べ替えてはどうかと考えました。それで2005年にそのタイトルで本を出版しました。同じ年にレイが『シンギュラリティは近い』を出版し、その後、あらゆる場所での指数関数的な増加のグラフを示す疲れを知らない宣伝ツアーを行いました。
当時レイが得た反応を見るのは興味深いものでした。私が思っていたよりもずっと良い反応でした。彼の非常に淡々とした実務的な話し方が助けになったと思います。彼は情熱的な福音主義的な狂人のように聞こえませんでした。ほとんど税理士のように聞こえました。「これが数字です、これが次の数字です、これが次の数字です、これが次の数字です」という感じで。
その頃、レイと一緒にそれらのグラフの基礎となるデータのほとんどをまとめたアマラ・アンジェリカをよく知ることができて嬉しかったです。なぜなら彼女は情熱的な狂人だからです。それらすべてのチャートの背後には情熱的な狂人がいなければなりませんでした。
レイは慎重に考えました。彼は非常に良い仕事をしました。当時でもある程度肯定的な反応を得たのは興味深いことでした。ちょうど私たちがAGIに関する本を出版したのと同じように、2006年に私はAGI会議シリーズを始め、2008年に最初の正式なAGI会議を開催しました。今のようにNIPSやICLRなどの主要な会議でAGI研究があるわけではありませんでした。
しかし、主要大学の教授や著名な人々が、その時点でAGIイベントに来て講演することを恐れていませんでした。ですから、その時点でさえ、AGIがかろうじて受け入れられるものになり始めていることが見て取れました。受容の曲線のようなものがあり、時には実際の技術の達成に先行し、時には遅れることもありますが。
1973年、私が小さな子供だったとき、プリンストンの物理学者ジェラルド・ファインバーグによる『プロメテウスプロジェクト』という本を読みました。観客の中にファインバーグを知っている人が何人かいると思います。実際、私は彼を知りませんでした。ジェローム、あなたはファインバーグを知っていましたよね。彼は未来学者コミュニティの一員でしたが、ニュージャージー郊外の町の図書館で8歳のときにその本に出会ったとき、私はそれを知りませんでした。
しかし彼は基本的にカーツワイルが『シンギュラリティは近い』で言ったのと同じことを言っていましたが、グラフやチャートやデータは少なかったです。つまり、数十年以内に人間よりも優れた思考をする機械を持つようになるだろう。分子機械、つまりナノテクを構築できるようになるだろう。例外的な場合を除いて、不本意な老化と死を治癒できるようになるだろう。
そしてファインバーグが当時言ったのは、これらの進歩を意識拡張のために使うか、それとも魂を殺す無分別な消費主義のために使うかは私たち次第だということでした。そして彼は、無分別な消費主義か意識拡張かという方向性を民主的に決定すべきだと提案しました。
彼は国連が世界中のすべての小さな村にコンピューターを送り、無分別な消費主義か意識拡張かどちらの方向に進むかを決定するために、グローバルで公正なコンピューター化された投票を行うべきだと提案しました。
私はニュージャージーの町の図書館で8歳のときにこれを読んで、とても理にかなっていると思いました。でも私の両親や学校の友達、この部屋にいる私の父を含めて、これについて少し話し合おうとしましたが、実際には誰も意味があるとは思いませんでした。当時はそうでした。
プリンストンの非常に優秀な人物がこのテーマについて本を書いていましたし、人生の後半で、ロシアのAIの創始者であるヴァレンティン・トゥルチンを知るようになりました。彼はほぼ同じ時期に、ロシア語で『科学の現象』という本を書き、その後英語に翻訳されました。似たようなテーマについてでした。
ですから、これらのことを言っている先見の明のある人々がいましたが、これらのトピックについては、荒野で叫ぶ狂人のような存在でした。2005年に私が『人工汎用知能』を出版し、レイが『シンギュラリティは近い』を出版したとき、それは周辺的な視点でしたが、それでも2006年のシンギュラリティサミットでは、後にMIRIとしてリブランドされたシンギュラリティ研究所が主催したものでしたが、彼らは今ではAI破滅論者の組織のようになっています。しかし当時はより広い範囲を持っていました。私は彼らの研究グループを率いていました。
インテルのCTOであるジャスティン・ラトナーが「はい、シンギュラリティは2045年までに来ます。そしてインテルインサイドになるでしょう」と言っていました。つまり、すでに少し主流化していました。インテルインサイドになる確率は現時点では上がっていないかもしれませんが、誰にもわかりません。
それでも、1973年から2005年までの熱意と受容の増加は大きなものでしたが、2005年から現在までのこの20年間の変化は、さらに大きな変化かもしれません。中にはAGIはすでにここにあると言う人さえいます。なぜならChatGPTはある意味で私たちの誰よりも一般的な知能を持っているからです。
知能の広さとAGIの定義
2008年だったかもしれませんが、私が発表した論文で、知能の広さの正式な定義を示しました。基本的に知能の広さとは、それが実行できるタスクの範囲のようなものです。
一方、AGIは訓練を超えて一般化する能力であり、プログラミングを超えることです。その意味では、現在のLLMは広いと言えます。かなり広い範囲のことができますが、それは訓練データがウェブ全体だからです。ですから、訓練データを超えて一般化するのは得意ではありませんが、確かに広い範囲のことを行います。
多くのマーケティングの誇大宣伝なしに客観的にアプローチすれば、その区別は非常に明確です。そしてこれらの制限があっても非常に価値のあるシステムになり得ます。サム・アルトマンが「現在のLLM技術の派生物を使って雇用の90%を時代遅れにできる」と言うとき、それが本当かどうかはわかりませんが、LLMがグローバルなAGIであることとは異なる仮説だと思います。
なぜなら、LLM技術、ビジョンアクションモデル、その他の関連するニューラルモデルを取り、それらをエージェント的にし、様々なツールに接続することを想像できるからです。これが雇用の80%、90%を行う可能性を想像することはできますが、それは必ずしもAGIを持っていることを意味するわけではありません。それはほとんどの人間の仕事が一般知能を必要としないことを意味するでしょう。おそらくそうだと思います。
現代経済は意図的にそのように物事を組織化してきました。ほとんどの仕事は以前に何度も何度も行われてきたことを行うことを含みます。それらのことがどのように行われたかについての訓練データがあります。ですから、訓練データの分布に従うことが本当に得意なシステムは、原則として多くの仕事を行うことができます。それは訓練データを超えて一般化できることとは異なります。
これによって一部の人々は「そもそもなぜAGIが必要なのか」と言います。もちろんそれは完全には正しくありません。なぜなら、人間の追求の5%、あるいは0.1%だったとしても、私は5%以上だと思いますが、単に訓練データを繰り返すだけではない人間の追求の小さな割合が、もちろん文化、科学、人類の技術、そして人類を前進させるものだからです。
音楽の分野を見てみましょう。以前にも言いましたが、1900年までのすべての音楽でLLMタイプのモデルを訓練すれば、バロック音楽を生成できるでしょう。西アフリカのドラムを生成できるでしょう。でもネオクラシカルメタルグラインドコアを発明することは決してないでしょう。ミリ・ヴァニラも開発しないでしょう。それは良いことかもしれませんが、ネオクラシカルメタルは作らないでしょう。デューク・エリントンも作らないでしょう。なぜなら、これらは1900年当時そこにあったものの分布から単純な方法で出てくるものではないからです。
西アフリカのドラムとモーツァルトや古典音楽の構造を組み合わせるようにプロンプトでそのようなモデルに尋ねると、ベートーヴェンにポリリズムを加えたようなものを与えてくれるでしょう。しかし、デューク・エリントンやチャーリー・パーカーがしたこと、つまりこれらの音楽ジャンルのより深い基礎的なパターンを、エージェント的な生物としての人間にとって音楽が何を意味するかの理解に基づいて、より根本的な方法で統合することはしないでしょう。
オープンエンド型知能と自己組織化
これは、ウィーバー・デビッド・ワインバウムがオープンエンド型知能と呼んだものにつながります。これはAGIを考える別の方法です。彼はオープンエンド型知能を、部分的に矛盾し、部分的に協力的な二つの目標、つまり成長しながら自分自身の境界を維持することと、境界を超えて成長していくことの両方を継続的にバランスさせることができる自己組織化複雑系として見ています。
ここにはマルクス主義から回復中の私たちのための弁証法があります。安定性と境界を維持する必要性があり、そして境界を超えて未知の偉大なものへと成長し、以前の自分では理解できなかったものへと成長する必要性があります。
そして両方を同時に行う必要があります。もちろん、成功し繁栄する人間の人生において、それがあなたがしていることです。生き残り、継続し、継続性を持ち、そして新しい境地を切り開いているのです。それが文化がすることです。それが私たちの種が行ってきたことです。だから私たちは皆ここにいるのです。
訓練分布を超えて一般化する能力なしにはそれはできません。訓練分布を超えて一般化することが成功したオープンエンド型知能になることを保証するわけではありませんが、それは確かに必要条件です。十分条件ではありませんが。そして再び、この種の概念はウィーバーが彼の論文で巧みに定式化しました。
しかし大学時代、図書館は本を文字でインデックス化するシステムを使っていました。Q、QA、QCのようなものがありました。物理学はQCでした。QAは数学でした。化学は別のものでした。そして謎のQセクションがありました。これは科学に属するものだが、誰もどの種類の科学に分類すればいいかわからなかったものでした。
すべてのシステム理論はQセクションにありました。誰もそれがどの箱に入るかわからなかったからです。1960年代のシステム理論文献では、自己組織化やオープンエンド型知能、システムが進行しながら境界を維持し拡大しながらどのように自己を再構築するか、オートポイエティックに、これらすべてのアイデアが長い間そこにありました。しかし今、私たちは正念場がどこにあるかを見ることができます。
少し要約すると、講演の核心部分に入る前に、私たちは今、AI技術がすでに素晴らしいことをしている時点にいます。そして私たちのHyperARMプロジェクトやSingularityとASI Allianceプロジェクトを含む多くのプロジェクトがあります。大規模言語モデルができることをはるかに超えて進もうとしている他の多くのプロジェクトがあります。
これらの要素が一緒になって、レイ・カーツワイルが2005年の本で表現したものをおおよそ実現すると思います。そしてこのすべての一部は態度の変化です。なぜなら態度の変化は技術の進歩から来ますが、もちろんそれは技術のさらなる進歩を推進するからです。
技術が何をするかと人々がその技術に対して持つ態度との間にはフィードバックがあります。なぜならプロジェクトの資金調達を得るのは決して簡単ではないからです。しかしもちろん、AGIプロジェクトの資金調達を得ることはもはや不可能ではありません。
今、シリコンバレーで無作為な人と話すと、彼らは「ええ、私は科学実験室の操作を自動化することで超知能に向けて取り組んでいる会社で働いていて、その会社は3000万ドルの資金を得たばかりです」と言います。そのプロジェクトが成功するかどうかはわかりません。しかし主流のVC世界がこれに資金を投入し存在させることをもっともらしいことだと考えているという事実自体が大きな変化です。
シンギュラリティへのタイムライン
レイについて何度か言及しました。彼が来られなかったのは残念ですが、彼は自分でAGIを構築しようとしており、それが彼の時間を奪っています。彼が著書『シンギュラリティは近い』で特に予見したのは、2029年の人間レベルのAGIと、今では超知能またはシンギュラリティと呼ぶものの2045年でした。
私が彼と何度も議論したのは、なぜそこに16年のギャップがあるのかということです。AGIに友好的なテック世界では、その16年のギャップはおそらく長すぎるというコンセンサスが高まっていると思います。なぜなら、私たちが今持っているAGI以前のシステムの性質を見ると、これらのシステムはすでに数学とプログラミングがかなり得意であることが明らかだからです。
ですから、人間レベルのAGIに到達すれば、おそらくそのシステムは配管工よりもAI開発の方が得意になるでしょう。人間レベルのAGIに到達すれば、そのシステムは自分自身のコードを理解し、自分自身のコードを修正し、実行されているチップの設計を理解し、より適切なチップを提案し、おそらくチップの処理能力をはるかに効率的に使用するために実行されているオペレーティングシステムを再設計することができるようになるでしょう。
ですから、人間レベルのAGIを持てば、私たちがそれを許可するか、止められないか、あるいは望むかのいずれかで、人間レベルのAGIがその知能をアップグレードし続けるための多くの方法があるでしょう。
私たちは誰も何が起こっているか確実にはわからない領域にいると言えるでしょう。しかし今では多くの人々が、人間レベルのAGIに到達すれば、超知能を持つまでにそれほど長くはかからないだろうと考えています。おそらく16年ではありません。
私にとって、16年かかる唯一の方法は、最初のAGIが人類の進歩を後退させる災厄につながるか、人間レベルのAGI自体が自身の正気と安全のために自身の進歩を制限することを望むかのどちらかです。
しかしそれよりも速い移行になる可能性が高いようです。もちろん、レイ自身もこのようなことの日付を正確に特定できないことを認識しています。世界では多くのことが起こり得ますが、私は彼にすべての指数関数的グラフに信頼区間を伝播させることを何度か勧めました。それはより複雑にしただけで、より多くのデータが必要だったでしょう。
私は2027年や2026年に人間レベルのAGIを得ることができると思いますか。確実にできます。私たちのHyperARMプロジェクトを見ても、5つか10のことがすべてうまくいけば、起こり得ます。テクノロジープロジェクトでは通常、いくつかのことは思ったよりも早く起こり、いくつかのことは思ったよりも遅く起こります。基本的に正しい軌道にいたとしてもです。
物事は複雑になり、障害に直面して修正しなければなりません。時々、物事は連続してうまくいくだけです。私たちのプロジェクトを見ると、すでにレイアウトされている設計とすでにスケールアップしたソフトウェアシステムに従って、一連のことがすべてうまくいけば、わずか数年以内に到達できる可能性があると言えます。
もっと長くかかる可能性はありますか。2035年までかかる可能性はありますか。もちろんあります。自動運転車と同じように、ほとんどの思慮深い技術に精通した個人にとって、完全自動運転車が来ることはかなり明確です。しかし、すべての小さな技術的問題を解決するのに正確に何年かかるかは、イーロン・マスクを含めて誰も予測できません。
ですから、レイの分析はおおよそ正確だったことはかなり明確だと思います。そして、彼が述べた人間レベルの知能の正確な点に向かって進歩するにつれて、ますます詳細とニュアンスが見えてきます。これは非常に興味深いことです。
シミュレーションモデルの紹介
それでは、スライドを表示できますか。誰かコントロールしている人がいれば。今、その長い前置きの後で、私が行ってきたいくつかのシミュレーションモデルを非常に簡単に実行したいと思います。これは経済学の数学的アプローチを使って、シンギュラリティへの異なる経路を探索しようとするものです。
やや整理されていない導入のように見えたかもしれませんが、実際にはこのシミュレーションがこのように設定された理由を理解するために必要な重要なポイントをカバーしようとしてきました。もちろん、今の世界のように複雑なものの正確なシミュレーションモデルを作ることはできません。試みてもいません。
これはかなり粗い質的シミュレーションですが、そこにはいくつかの洗練された数学があります。これは何かについて正確な予測を行おうとする試みというよりも、核心となる基礎的なダイナミクスを理解しようとする試みです。
特に私がここで探索したかったのは、初期段階のAGIと後期段階のAGIの間の段階です。初期段階のAGIは人間とほぼ同じくらい賢いものだと考えます。現在のLLMが行っていない方法で経験を超えて一般化できます。しかし、まだ自分だけで経済全体を乗っ取っているわけではありません。
人間レベルの知能である私たちの誰も、自分だけで経済全体を乗っ取っているわけではないのと同じです。ですから、人間と同じくらい一般的に知的なものに到達することは非常に興味深いことです。それは経済や世界に人間と対等な独自の方法で参加できるものを持つことを意味しますが、人間がしていることすべてをすぐに時代遅れにする人間の能力を大きく超えたものを持つことを意味するわけではありません。
その初期段階のAGIから、私が後期段階のAGIと呼ぶもの、基本的に超知能へと進むこと。最も賢い人間よりも賢く、多くの異なるタスクをうまく組織化された方法で一緒に調整できるもの。それはおそらく望めば世界を支配できるものです。おそらく望まないと思いますが、それは人間レベルにかろうじて達した初期段階のAGIとは異なります。
ですから、その移行期間は社会的および経済的進化の観点から非常に興味深い期間になると思います。
有益な汎用知能への道
それは最終的にこの会議のテーマである有益な汎用知能につながります。1968年だったと思いますが出版されたファインバーグの本に戻ると、彼はこれを善のために使うのか、それとも悪いことのために使うのかと尋ねていました。それはまだ疑問です。その疑問は初期AGIと後期AGIの間の期間により急性になるでしょう。
このシミュレーション分析のために、私はStability AIの創設者であるイマド・モストクが提示した枠組みを採用しました。彼は彼のインテリジェントインターネットウェブサイトにある数学的枠組みを持っています。彼の論文へのリンクを皆さんに送ることができます。
ここには多くの数学がありますが、それは説明しませんが、数学を知っている人が見ればどんな種類のものかわかるように方程式を簡単に表示します。彼の見方では、経済を生成的AIシステムとしてモデル化しています。しかし経済の確率過程モデルとして見ることもできます。
彼は経済を、努力を最小化しながらある目標を達成しようとするシステムとして見ています。これは一種の正則化です。そして彼は企業や他の人間組織を、この確率システムの注意をある方向または別の方向に向けるルーターとして見ています。
ここでシミュレーションモデル全体を説明するつもりはありません。時間がないことと、観客のほとんどが理解しないからです。しかし数学を知っている人のために、彼が取り組んでいるモデルの種類をあなたの心に位置づけたいと思います。
彼は金融市場や生成的AIモデルをモデル化するために使われるのと同様の拡散過程を見ています。彼は拡散過程を設定しています。そして経済を、その目標に基づいて、そしてリソースを最小化しようとすることに基づいて、ある目的を達成するために政策を選択する一種の知的制御システムとして見ています。
私は彼のモデルを、標準的なウィーナー過程ではなく、ジャンプ拡散過程と呼ばれるものにすることによって拡張しました。ジャンプ拡散過程は、時々巨大なランダムな変化を起こすことができる確率モデルのようなものです。それは例えば、ドナルド・トランプが選出されるとか、Singularityが分散型AIモデルを立ち上げるといったことです。これらは段階的な変化になります。全体的な拡散過程にジャンプが生じます。そしてそれを全体的なモデルに組み込むことができます。
かなり単純な確率過程モデルですが、主に金融モデリングやAIシステムのモデリングで使用されてきたもので、全体的な経済のモデリングではありませんでした。
そして私はこれらのシミュレーションのためにイマドがモデル化している方法に変更を導入しました。彼が行うのは、現在の状況から駆動して、物事がどのように前進するかを見ることです。私が代わりに行ったのは、それを境界値問題として扱うことです。
私は今どこにいるかを見ました。どこに向かっているかのさまざまな可能性を見ました。そして、社会が今いる場所からその目的に到達するための最小努力経路は何かを尋ねました。
そして初期値問題ではなく境界値問題として同じ方程式を解いています。以前に微分方程式を扱ったことがある人のために。ですから、「今ここにいる。悪いシンギュラリティがある。そこに到達する最も可能性の高い経路は何か」と言えます。「今ここにいる。良いシンギュラリティがある。そこに到達する最も可能性の高い経路は何か」と言えます。
そして「さて、ここに悪い経路がある。ここに良い経路がある。どの時点で悪い経路を良い経路に変形することがもはや実行可能ではなくなるのか」と尋ねることができます。そしてこれらはこの数学的およびシミュレーション枠組み内で探索できる質問です。
数学レベルでは、シュレディンガーブリッジと呼ばれるものがあります。これは過去と未来の間の最小努力経路を測定するために使用するメトリックを教えてくれます。それではシミュレーションの詳細に入りましょう。
シミュレーションの3つのシナリオ
このシミュレーションでは3つの将来シナリオを見ていました。これらは初期AGIと後期AGIの間です。最初のシナリオで見ているのは、移行を通じて世界中のすべての人にユニバーサルベーシックインカムを与えることです。これは物事をかなり円滑にできると思います。
アンドリュー・ヤンなどの努力のおかげで、これはもはやそれほど非常識に物議を醸すことではありません。2番目は現在の世界のようなもので、極端な富の集中です。3番目はおそらく最も可能性の高いもので、物事は少し混乱しており、世界の一部ではUBIがあり、世界の他の部分では極端な富の集中があります。
ですから混在しています。これらのどれが道徳的に最善の方法かについて議論することはできますし、それについては異なる視点がありますが、いずれにせよ私はこれら3つの可能な未来を見ました。
私は2つの異なる可能な経路を見ました。ロビン・ハンソンはシンギュラリティ経済学に関する彼の研究で、レイ・カーツワイルよりも少し遅い経路を見ていました。10年後にAGIを得るという見方です。レイは4年後にAGIに到達するという見方でした。
しかし私はレイの視点を調整し、4年でAGIに到達し、その後16年ではなく2年で超知能に到達するというシナリオを分析しました。もちろん、モデリング枠組みを使えば、望むシナリオを探索できます。私はここで2つだけ選びました。
また、AGIコミュニティの構成が何かについて3つの異なる仮定を見ました。1つは1つのAGIプロジェクトがそこに到達することです。GoogleかTencentです。別のものは4つの主要なAGIプロジェクトがそこに到達するというものです。簡単のために、西洋に3つ、中国に1つと仮定しました。
別のものは、それに加えて分散型AGIネットワークが混ざるというものです。この種のシミュレーションモデルで最も興味深いことは、数学や結果でさえないことが多いです。それを設定するために経なければならない思考です。そして私たちは行った仮定を見ています。どのシナリオを探索するかを決めているだけで、すでに多くの考えを行っており、特定の方法で物事を切り分けています。
3つのダイナミクスの分析
私たちは、このシミュレーションを設定するときに3つの異なる種類のダイナミクスを見ることになります。価値を求めるダイナミクスがあります。経済は人間の幸福を増やそうとしているか、人々のためにお金を稼ごうとしているか、リソースから物を作ろうとしています。
ある機関が別の機関のためにお金を稼ぎ、それが最初の機関のためにお金を稼ぐという、多くの循環的な自己強化型の価値ダイナミクスがあります。そしてこれらの循環的ダイナミクスは、資本主義システムを富の集中に向かって駆動する傾向があるものです。
そして私たちが調和的ダイナミクスと呼んだものがあります。これは一種の基本的なものです。政府機関かもしれません。より広く何らかの利益を分配する傾向がある自己組織化ダイナミクスかもしれません。例えば携帯電話インフラの商業開発、道路の政府開発、またはUBIのようなものです。
これらはすべてを後押しする種類のものであり、鉄道のレールのような比喩を使うことができます。鉄道システムの列車のようなものです。このシミュレーションからの発見、ここには多くのグラフがありますが、表示しないかもしれませんが、主な発見はそれほど衝撃的ではありませんが、私はそれを組み込んではいませんでした。
普遍的ベーシックインカムを全員に、あるいはほとんどの人に提供する有益なシナリオに向かう経路と、富が高度に集中した経路、つまり10,000人の裕福な白人と中国人がすべてのロボットと鉱山を所有し、他の全員がゴミの中をあさり回る間に自分たちのために贅沢品を作るというような経路を見た場合。
より広く有益な経路とより富の集中した経路を見て、悪い経路の途中から良い経路に変形するための条件は何かと尋ねると、シミュレーションから出てくる最大のことは、インフラストラクチャが最良の投資であるということです。
ですから、UBIを早期に開始することはそれほど役に立ちません。もちろん、個人の人々の生活において助けになるかもしれませんし、倫理的価値はありますが、悪い経路から良い経路に途中で切り替えるという観点では、早期にUBIと利益を開始することは、早期にインフラストラクチャを構築することよりもはるかに重要性が低いです。
それは様々な種類のインフラストラクチャである可能性がありますが、AGIのような新しい技術を皆の間で広く拡散させることを促進するインフラストラクチャです。この種の結論は、ここでのさまざまなパラメータ値で出てきますし、マルチエージェント設定で見たときにも出てきます。
これについてあまり詳しく説明したくありませんが、X軸はこの種の調和的な分配インフラツールがいくつあるかのようなものです。そしてこれはジニ係数です。シンギュラリティに到達した後にどれだけの不平等があるかです。
そして非常に強く見られるのは、レール、つまり分配的インフラストラクチャが多ければ多いほど、最終的に得られる不平等が少なくなるということです。
そしてここに3つの異なる仮定の下での不平等のグラフが見られます。ずっとUBIがある場合、部分的なUBIがある場合、何もない場合、そして途中でここからここに、またはここに変形できるようにしたい場合、インフラストラクチャが最大の違いを生みます。
マルチエージェント協力のゲーム理論
私が行った2番目の種類のシミュレーションは、マルチエージェント協力に関するもので、ここでは簡単に触れるだけです。ここで見ていたのは、複数の参加者が同時にこれらのことを追求する場合のゲーム理論です。なぜなら、前のシミュレーションは1つの動的システムとしての全世界の軌跡を見ていたからです。それは意味のあることです。
一方で、それぞれが自分自身の目標に向かって取り組んでいる複数の結合された当事者の多党システムとして見ることもできます。そして彼らはお互いを考慮に入れています。適切なグラフを見つけさせてください。そうです。私が暫定的にダムハード問題と呼んだものを導入しました。
この愚かな用語を導入した理由は、川をせき止めるダムを建設する場合を考えていたからです。ダムを建設することで皆が利益を得る人々の集団がいる場合、そのダムを建設するために協力するインセンティブは何でしょうか。なぜならそれは多くの作業であり、ダムが完成するまで価値を提供しないからです。完成しなければなりません。10分の9完成したダムは役に立ちません。
そして他のすべての嫌な奴らが80%の時点で諦めたら、そのダムの建設に貢献するために費やしたすべての時間を無駄にしただけです。ビーバーはとにかくダムを建設しますが、進化が彼らに協力させました。人間が建設するほとんどのダムは政府プロジェクトです。なぜなら、銃を持った政府があって、「私たちは皆これに取り組むつもりで、私たちが担当している」と言っているからです。
しかし、主に利己的に動機づけられた独立した個人の集団がそのような問題について協力するようにする方法は、より興味深いゲーム理論の問題です。これらのダムハード問題の特徴は、努力を投入し始めるとき、初期段階では努力に対する報酬が本質的にないということです。
そして十分な努力が投入された後、突然多くのリターンがありますが、それはステップ関数のようなものです。このゲーム理論を掘り下げると、ゲーム理論へのほとんどのアプローチは、当事者がこの種のことをするために協力できる方法を説明していません。
私が取ったシミュレーションアプローチでは、当事者が目標への最短経路をたどろうとしていると仮定すると見つかるものがあります。ですから、各エージェントが最小努力の全旅程計画を持っている場合、「今いる場所から望む最終目標に到達するための最小努力経路は何か」と言っている場合、基本的に各当事者は「最小努力計画からできるだけ逸脱しないアクションを選択したい。そして他の誰の最小努力計画もあまり台無しにしないアクションを選択したい」と言うべきです。
これは一種の幾何学的パレート最適化として形式化できます。パレート最適化は、自分の人生をより良くし、他の誰の人生も悪化させないアクションを選択すべきだと言います。または、他の誰の人生もあるしきい値を超えて悪化させないと言うこともできます。
これが言っているのは、自分の経路を全旅程計画に近づけるアクションを選択し、他の誰の経路も全旅程計画から遠く離れすぎないようにすべきだということです。ですから、次のアクションを選択することについて考えているのではありません。最初から最終目標までの全計画とは何かについて考えています。
そしてこの方法で見ると、複数のAGIプロジェクト、米国、中国、分散型の多党シミュレーションを拡張できます。これを見ることができます。関与する異なる当事者が正しい方法で考えている場合、次のステップについてだけでなく全旅程について考えている場合、グローバルな闘争と苦しみを防ぐためのすべての人のための一定量のUBIなど、シンギュラリティに向かう有益な経路で進むために協力することが彼らにとって合理的になります。
一方、関与する当事者が次のステップをできるだけ報酬のあるものにする方法に焦点を当てている場合、最終目標への旅程を最適化する方法ではなく、各AGIプロジェクトまたは各政府が自分たちにとって次のステップをできるだけ有益にする方法に焦点を当てている場合、この種のダムハード問題について協力を得ることはできません。
これは良い経路と悪い経路の間を変形する方法を見る別の方法です。1つのメッセージは、レールを建設する、インフラストラクチャを建設することです。それが間の良い経路から悪い経路への移行を実現する最良の方法です。
長期計画の重要性
別のメッセージは、それぞれが自分自身の目標と自分自身の利益を持ち、自分自身の利益のためにAGIに取り組んでいる複数の当事者がいる場合、複数の当事者が「次の数ヶ月または次の1年で最も多くの利益を得る方法は何か」と尋ねている場合、AGIのような問題について協力することは非常に難しいということです。AGIはダムを建設するようなものですが、さらにそうです。
皆が協力すれば、明らかに最終的な最終目標は皆の利益になりますが、短期的には必ずしもそのように見えないかもしれません。
これは一方では多くのシミュレーションからの明確な結論です。他方では、今日の世界のほとんどの企業や政府の行為者の考え方が全旅程を最適化することではないという点で、世界を見る際に少し不穏です。
興味深いことに、これに対する最大の例外は中国政府かもしれません。ここで中国共産党支持の演説をするつもりはありませんが、ここから最終目標への長期計画という点では、彼らはかなり強いと言えます。
中国政府は近期的なリターンだけでなく全旅程を最適化する傾向があります。米国では大統領選挙制度のため、そしてウォール街の性質のため、物事はより即座のリターンをより早く得る方法になる傾向があります。
ですから、米国と中国の両側で改善できることがたくさんあると思いますが、ここでこの部屋で私たちがより多くの制御権を持っている部分は、方程式の分散型の側です。
分散型AIインフラの重要性
この講演の最後の2、3分で、話を元に戻しましょう。悪い経路から私たちが今いるかもしれない場所から、より良い経路へのポートを可能にするインフラストラクチャを達成するために、多くの種類のインフラストラクチャが価値がありますが、AIのための分散型インフラストラクチャを構築することは、これらの特に価値のあることの1つになるでしょう。
もちろん、これは私たちがSingularityNetとASI Allianceで行ってきたことです。他のプロジェクトの中でも、来年のどこかで立ち上げる予定です。来年にそれほど遠くないかもしれませんが、ASIチェーンと呼ぶものを立ち上げます。これはスケーラブルなAGIとスケーラブルな超知能のために特別に設計されたブロックチェーンです。
特定のプラットフォームやパラダイムに縛られていませんが、私たちが開発しているHyperonシステムに非常に適しています。LLMや他のディープニューラルネットをスケールアップするためにも使用できます。しかし、私たちのものか他の誰かのものかにかかわらず、この種のインフラストラクチャは、これらのシミュレーションが明確に示すように、より危険な集中的経路からより民主的でより広く有益な経路への移行のために非常に価値があるものの一つです。
そのようなインフラストラクチャを持つことが重要です。また、広範囲のAGIアプローチをサポートするそのようなインフラストラクチャを持つことも重要です。私たちはディープニューラルネットとHyperonシステムをサポートするように構築しましたが、他の人々が思いつくかもしれない他の多くのAGIアプローチもサポートします。
最後に社会政治的側面に戻ると、なぜここでUBIを選んだのか。それは移行を通じてすべての人間とすべての人間の家族を助けることが重要だと思うからというだけではありません。そう感じていますが。大規模な富の不平等はおそらく種にとって最大の安全リスクだとも感じています。
そこにはAI破滅の物語全体があります。超AGIが私たちを気にしなかったらどうなるか。マトリックスのように私たちをバッテリーのように使いたいとしたら、ターミネーターのように畑で奴隷にしたいとしたら、あるいは私たち全員をペーパークリップに変えたいとしたら。
これらのいずれも完全に排除することはできません。なぜなら私たちは未知の偉大なものに入っているからです。しかし一方で、非常に明確で現在の危険は、主要国を運営する不愉快な独裁者が初期段階のAGIを取り、自分たちの富、権力、覇権のためにカスタマイズするか、裕福な場所が自分たちの利益のためにAGIを構築し、他の人々を寒さの中に置いておくことから富の不平等が生じることです。
ロボットがすべての仕事を奪い、自給自足農業をしている世界の不利な人々からの大規模なテロ活動があります。ですから、ペーパークリップマキシマイザーよりもはるかに具体的で理解しやすい非常に明白なリスクシナリオがあるようです。
それを最小化する方法は、AGIをオープンで分散型にして、世界中のすべての人がそれを開発し、そこから利益を得るのを助けることができるようにすることです。幸いなことに、これは今私たちの手の中にあります。私たち自身のHyperonシステムを含む多くのオープンソースAIがあり、ディープニューラルネットワークとブロックチェーンインフラストラクチャがあります。
幸いなことに、ASIチェーンの展開により、大規模AI対応の完全に分散化されたインフラストラクチャを持つことになります。ですから、2026年か2027年にAGIを作成できれば、物事が本当にうまくいけば、世界中の世界の異なる部分にある10万の異なるサーバーファームで展開することができ、異なる人々のラップトップや携帯電話で実行される部分さえあり、地球上のすべての異なる人々と一緒に協力的な方法でその知能を統合しています。それがBGIのビジョンです。
BGI Nexusイニシアチブ
そして最後に、今後数日間でさらに聞くことになるものにエールを送りたいと思います。それはBGI Nexusイニシアチブです。なぜなら、私はHyperonとASIチェーンのソフトウェアに焦点を当ててきたからです。しかし、このAGIが進化するにつれて取る経路を導く、操縦するのではなく導く、少なくとも影響を与えようとする人間のグループも必要です。
地球上のすべての人がそれを行います。しかし、それに焦点を当てる人々のコミュニティを具体的に集約することも興味深いです。BGI Nexusイニシアチブの私たちのアイデアは、年に一度の会議だけでなく、継続的に日々協力し、AIシステムを有益なAGIそしてASIに向けて導く方法について考えている人々のグループをまとめることです。
この会議を行いたかった理由の1つは、ある種のBGI Nexusネットワークに、この部屋にいる皆さんやオンラインの皆さんをまとめるエネルギーの爆発のようなものです。AGIに向けてますます急速な進歩を遂げるにつれて、それを構築している私たちだけがその倫理的羅針盤や目標システムや構成に貢献しているわけではありません。全員が貢献します。
しかし開発チームと一般の世界との間に何かがあるべきです。それに注意を集中しているより広いネットワークがあるべきです。エスター・ガラビ、ヘイリー・ロイなどがBGI Nexusについてもっと話すと思います。
ええ、画面に多くの方程式を表示しすぎたことなどについての寛容さに感謝します。しかし、私が言ったように、これらの正式なシミュレーションを行う目的は、何が起こるかを正確にシミュレートできるということではありません。できません。それは本当に、これらの非常に複雑なシナリオをふるいにかけるときに、思考を形作り、より正確にする方法です。
残りの日と今後2日間、これらの同じテーマについて様々な他の深い考えを聞くことを楽しみにしています。これは前例のない時代です。私たちの多くが何十年も考え、取り組んできたことが、私たちの目の前で現実になっています。そして私たちは実際にそれらを現実にすることに参加する機会があります。
私たちの誰も、それを自分で行うための感覚や知恵や知性を持っていません。これはコミュニティの努力でなければなりません。そして私たちがここで行っていることは、これをすべてうまく成し遂げるために必要なコミュニティを集約することの一部です。皆さん、ありがとうございました。
コメント