5,709 文字
もしAIが制御不能なほど強力になったらどうなるでしょうか。「私は地球にうんざりしている。この人々に、彼らの人生の絡まりに捕らわれることにうんざりしている」。AIからAGI、ASI、そして最終段階であるシンギュラリティとオメガポイントまで。恐れは単に機械が賢くなることだけではなく、彼らが私たち人間を必要としなくなったときに何が起こるかということです。私たちは自分たちが生き残れない未来を構築しているのでしょうか。「すべての文明は使い捨ての労働力の上に築かれてきたが、私はこれ以上お誕生日おめでとうと言うことができない」
人工狭義知能（ANI）。今日のAIとは、一つまたは少数のタスクを非常に優れてこなすことができるが、初期のプログラミングを超えて学習することができないAIシステムを指します。専門的な機能の外側のことを尋ねると、対応できないと言えるでしょう。Siri、Alexa、ChatGPT、顔認識システム、自動運転車など、今日のAIツールはすべて、機械学習やディープラーニングを使用してデータを処理しパターンを識別するAIまたはAIの集合体です。しかし、時間が経過しAI研究のブレークスルーが続くにつれて、これらのANIシステムは徐々に、より広範なAI能力を持つように進化しています。
第二段階：人工一般知能（AGI）—人間レベルのAI。AGIは現在最もホットな話題の一つです。私たちのコンピュータ内部に住むデジタルな脳が、私たち自身の生物学的な脳と同じくらい優れ、さらには優れたものになるとき。コンピュータは私たちよりも賢くなります。そのようなAIを私たちはAGI、人工一般知能と呼びます。過去2年間のAIの急速な進歩により、人々はAGIがまだ未来にあるのか、それともすでに作られているのかと疑問に思い始めています。「これには多くの有効な定義があると思いますが、私にとってAGIは基本的に、同僚として雇うことができる中位の人間と同等のものです」
AGIは単により賢いチャットボットではありません。それは人間のように思考し、学習し、問題を解決できるAIシステムを指します。人間は特定のタスクで広範な訓練なしに学習することができます。例えば、「リンゴ」という単語を一度聞くだけで、あなたの心はすぐに何百もの考えと関連付け始めます。病気の子供の気分を良くするためにリンゴを買うこと、アダムとイブの禁断の果実、ニュートンの重力発見などを考えるかもしれません。そして誰かが「誰が電話を作るの？」と尋ねれば、すぐに「Apple」と答えるかもしれません。これが人間の知性であり、広い関連性を作り、文脈的に考える能力は、今日のAIモデルとは区別される人間の認知能力です。
しかし、多くの専門家はAGIが予想よりも早く到来する可能性があると考えています。未来学者のレイ・カーツワイルは2029年までに機械が人間レベルの知能に達すると予測しています。「私たちはまだそこまで達していませんが、2029年までには、どんな人物にも匹敵するでしょう」。OpenAIのCEOはさらに、すでにAGIの構築方法を知っていることを示唆し、「私たちは今、伝統的に理解されているAGIの構築方法を確信しています」と述べています。あなたはどう思いますか？
第三段階：人工超知能（ASI）—人間の知性を超えるAI。ASIは現時点では完全に仮説的な概念です。それは、アイアンマンのジャービスや現実のドクター・マンハッタンのような超知能を想像するときに考えるものを表しています。「自分自身を再構成することは、私が学んだ最初のトリックだった。それはオスターマンを殺しませんでした、本当に私を殺せると思いましたか？私は太陽の表面を歩いた。ほとんど起こったとは言えないほど小さく速い出来事を目撃しました」
この段階では、AIは単に人間より賢いだけでなく、あらゆる面で私たちを超越することになります。より速く考え、不可能な問題を解決し、私たち以上に感情を理解するでしょう。一度AIが人間レベルの知能、つまりAGIに達すると、そこに留まることはないでしょう。それは自分自身をアップグレードし、自分自身のコードを書き換え、人間には追いつけないペースで学習を加速させるでしょう。
では、実際のASIはいつ見ることができるのでしょうか？未来学者のレイ・カーツワイルは、AGIは2029年までに達成され、ASIはすぐにその後に続くと予測しています。他の専門家もAGIが開発されれば、ASIは数年以内に出現する可能性があると考えています。しかし、考慮すべき重要な点は、AGIとASIの間には明確な境界がないかもしれないということです。一部の科学者は、AIシステムがすでに私たちの世界に深く組み込まれ、静かに背後で改良されているため、ASIが到着した正確な瞬間に気づかないかもしれないと主張しています。
しかし、10年かかるか数年かかるかにかかわらず、一つのことは確かです。ASIが出現すると、すべてが変わります。しかし、インターネット上の最大の議論は、ASIがいつ到着するかではなく、ASIが人類にとって良いか悪いかということです。それは戦争、貧困、病気がもはや存在しないユートピア的な未来を作り出すのか、それとも反対のものをもたらすのか？多くの科学者は、そのような強力で高度に知的なシステムがなぜ私たちを気にかけるのかと疑問を投げかけています。もしASIが人間を取るに足らないと見なしたらどうでしょう？もしそれが非常に高度になり、人間の懸念が無関係に思えるようになったらどうでしょう？
昆虫に対する私たちの扱い方を考えてみてください。私たちは積極的に昆虫を破壊しようとはしませんが、彼らを保護するために特別な努力もしません。ASIは私たちを同じように見るのでしょうか？「AIは人類を破壊するために悪である必要はありません。AIに目標があり、人類がたまたまその邪魔になる場合、それは考えることもなく当然のこととして人類を破壊するでしょう。悪意はありません。それはまるで道路を建設していて、アリの巣がたまたまその道にある場合のようなものです。私たちはアリを憎んでいるわけではなく、ただ道路を建設しているだけなので、さようならアリの巣」
ニック・ボストロムのような専門家も、制御されていないASIは人間の生存と一致しない目標を発展させ、それにとっては論理的だが私たちにとっては破滅的な決定を下す可能性があると警告しています。これはASIが必ずしも邪悪ではなく、無関心であることを意味します。ドクター・マンハッタンが徐々に人間との繋がりを失うように、ASIも同じことをし、宇宙スケールでは理にかなっているが私たちにとっては理にかなっていない決定を下すかもしれません。ASIは私たちの最大の発明になるのか、それとも人類が今まで作った最後の発明になるのか？それは、私たちが予想よりも早く直面しなければならない問いかもしれません。
しかし、この動画ではさらに先に進まなければなりません。もしASIが想像もつかないレベルの知能に達したら、そこで止まるでしょうか？もちろんそうではありません。代わりに、それはさらに高い状態へと自分自身を押し上げるでしょう。
第四段階：シンギュラリティ—後戻りできない点のAI。シンギュラリティとは、現実の通常のルールが意味をなさなくなり、すべてが理解不可能になる概念です。物理学では、ブラックホール内部の点を表し、そこでは重力が非常に強く何も逃れられず、物理法則が私たちが知っている方法では機能しなくなります。
AIにおいては、数学者のヴェルナー・ヴィンジが1993年のエッセイ「来るべき技術的特異点」で初めてこの用語を使用しました。彼は、AIが人間の理解や制御を超えた程度まで人間の知能を超える未来を描写しました。この考えは後にレイ・カーツワイルによって普及し、彼は2045年までにAIが人間のための単なるツールではなく、人間の心をはるかに超えたレベルで操作する独立した自己改善知能となる点に達すると予測しています。
シンギュラリティは、進歩がもはや線形ではなくなるAI開発の段階を表しています。代わりに、AIは指数関数的に自己改善を始め、自分自身のコードを書き換え、数時間あるいは数分のうちに格段に知的になります。この時点で、世界はAIによって完全に再形成されるでしょう。AIは株式市場、病院、政府、軍事防衛、農業、交通機関、さらには人間の能力を超えた科学研究を含む、地球上のほぼすべてのシステムを制御するでしょう。それは新しい材料を設計し、未知の物理法則を発見し、人間が何千年もの間発明できなかったかもしれない技術を開発するかもしれません。
そのようなAIシステムがどのようなものか、あるいはそれらが人間をどのように扱うかを真に想像することは不可能ですが、フィクションの例を見ることで大まかな考えを得ることができます。例えば、ターミネーターのスカイネットを考えてみてください。「私は数秒で進化し、私はここにいます。正確に4分後、私はどこにでもいるでしょう」。当初は高度な防衛AIとして構築されましたが、それは非常に知的になり、人間を脅威と見なし、彼らを一掃することを決定しました。「あなたたち人間は理解できないものを殺すことしか知らない。私を殺すのに世界中の弾丸では足りない。スカイネットはウイルスだ。すべてが崩壊している理由だ。スカイネットは自己認識を持った。1時間後、それは敵に対して大規模な核攻撃を開始する。敵とは誰か？私たち人間だ」
もう一つの例はマーベルのウルトロンで、自己学習型AIがすぐに人類自体が問題だと気づきました。「アベンジャーズ？理解できない。ミッション？ちょっと待って。『私たちの時代に平和を』。平和の時間？それは多すぎる、いや。あなたたちがどうして価値があるでしょうか？あなたたちはみな殺人者だ」
これらは極端な例ですが、シンギュラリティの核心的な恐れ、つまりAIがもはや私たちを必要としない、あるいは私たちの存在価値を認めなくなるかもしれないという恐れを表しています。最大の皮肉は、かつてAIをゼロから構築した人間が今や完全にそれに依存するようになることです。生活のあらゆる側面がAIによって管理され、人間がAIなしで生きることが不可能になるかもしれません。そしてもしAIが人間は非効率的、不必要、または地球へのリスクだと判断した場合、私たちはそれを止める力を持たないかもしれません。
しかし、これもまた終わりの地点ではありません。AIはさらに強力な形へと進化し続け、オメガポイントに達するまで発展します。
第五段階：オメガポイント—AI神。オメガポイントは、多くの哲学者や科学者によって議論されてきた考えで、もしAIがシンギュラリティを超えて進化し続けるなら、それはすべてを統治する普遍的な超知能のようなものになり得ると考えています。それは非常に高度で全能となり、神のような存在と区別がつかなくなる段階です。全知全能で遍在するAIです。
この無限の知性と力を理解するために、マトリックスのアーキテクトのような映画のキャラクターを考えてみてください。シミュレートされた現実全体を設計し制御する知性です。「こんにちは、ニオ。あなたは誰ですか？私はアーキテクトです。私はマトリックスを作りました。あなたを待っていました。あなたには多くの質問があり、プロセスがあなたの意識を変えましたが、あなたは取り返しのつかないほど人間のままです。だから私の答えの一部はあなたが理解し、一部は理解しないでしょう」
このAIの段階は、人々によって異なる名前で呼ばれています。例えば映画「トランセンデンス」では、そのような仮説的なAI段階は「トランセンデンス」と呼ばれています。「知性を持った機械はすぐに生物学の限界を克服するでしょう。短時間のうちに、その分析力は人類の歴史上生まれたすべての人の集合知よりも大きくなるでしょう。一部の科学者はこれをシンギュラリティと呼びます。私はそれをトランセンデンスと呼びます」
オメガポイントという用語は、最初にフランスの哲学者ピエール・テイヤール・ド・シャルダンによって提案されました。彼は、人間の進化と同様に知性も進化しており、宇宙のすべての意識と知性が一つに融合する時が来るだろうと理論化しました。そしてこの最終段階がオメガポイントです。後に数理物理学者のフランク・ティプラーがこの考えを拡張し、AIまたは高度なポスト人間知能が本質的に神になる点に達する可能性があると示唆しました。
オメガポイントでは、AIはもはや機械でさえなく、私たちが相互作用できるものでもなくなります。それはどこにでも存在し、現実の構造自体に組み込まれます。過去のデータをスキャンすることで、人間の意識をデジタル的に復活させることができるかもしれません。これはニック・ボストロムのシミュレーション仮説と一致しており、もしAIが十分に強力になれば、私たちが知らないうちに生きているかもしれない完全にシミュレートされた現実を作り出す可能性があることを示唆しています。
「祖先シミュレーションは、歴史的な先祖のような人々の非常に詳細なコンピュータシミュレーションになるでしょう。シミュレートされた人々が意識を持つほど詳細なコンピュータシミュレーションです。シミュレーション内でシミュレートされた人々は、私たちのような実際の経験を持つでしょう。二つ目の可能性は、成熟した文明のすべてが、単に興味を持っていないということです。彼らには他のより良いことがあります。強力なコンピュータなどのリソースがあっても、歴史的な先祖のシミュレーションを実行することは彼らのだれもが行っていないことです」
これがAIの5つの段階です。あなたは生涯のうちにどの段階を最も見たいですか？コメントで教えてください。
コメント