超知能とは人間の能力を遥かに超えるシステムであり、その実現可能性について解説する。複数の人間が組織化されて巨大な課題を解決する状態を弱い超知能と定義し、これが既に実在することを指摘。さらに、生物学的な脳のサイズ制限を受けないAIはハードウェアの拡張によってスケーラブルな超知能へと至る道や、AI自身がコードを書き換える再帰的自己改善による進化、そしてトランジスタの圧倒的な処理速度を活かしたスピード型超知能の可能性を提示する。いずれのアプローチも物理法則に反するものではなく、超知能の誕生は十分にあり得るシナリオであると論じている。
超知能は実現可能なのか
OpenAI、Anthropic、Meta、そしてその他の多くの企業が、AIの超知能を開発しようと積極的に動いています。誰に聞くかによって定義は異なりますが、超知能とは基本的には、どんな人間よりもずっと、ずっと、ずっと、ずっと、ずっと賢いシステムのことです。
AIの超知能が、機械がすべての仕事をこなし人類の抱える問題が完全に解決される未来のユートピアをもたらすのか、それとも人間がコントロールを失い、機能的には超高知能で冷酷な人工の神のようなものによって容赦なく絶滅させられる未来のディストピアをもたらすのかについて、テクノロジー企業と科学コミュニティの間で議論が続いています。
その議論は興味深く重要なものですが、今日はそれを完全に無視して、別の問いに焦点を当てたいと思います。AIの超知能を作ることは可能なのでしょうか。はい、間違いなく可能です。
えーと、実は、私たちはまだ超知能を作っていないのだから、それが可能かどうかは分からないのではないでしょうか。
その考えは愚かであり、間違っています。
反AI規制論の矛盾
私は普段、AIの規制に反対する人々からこの意見を聞きます。彼らの理屈は、超知能をすでに作ってしまうまでは、それを禁止しようとするべきではないというものです。なぜなら、実際に作るまでは、そうすることが可能であると100パーセントの確信は持てないからです。そして、もし行動が早すぎたら、不要な規制を作るために時間を無駄にしてしまうかもしれないと言うのです。
個人的には、規制当局の時間を無駄にするというリスクと、世界中の全員が文字通り死ぬというリスクの計算は、かなり明白だと思えます。しかしそれでもなお、AI業界を擁護する一部の人々にとっては、これが定番の話題なのです。
逆説的ですが、AI業界自身は、自分たちは間違いなく超知能を作れるし、作るつもりだと主張しており、それが擁護者たちによるこの反規制の主張をさらにややこしいものにしています。
はっきりさせておきますが、ChatGPTやClaudeのような大規模言語モデルが超知能になると言っているわけではありません。この動画で私が話しているのは、一般的に超知能が理論上可能かどうかについてであり、大規模言語モデルやこれらの特定のテクノロジー企業が近い将来そこに到達するかどうかについてではありません。
弱い超知能と集団の力
とにかく、この理屈におけるもう一つの重要な欠陥は、すでに弱い形の超知能が存在しているということです。
ここに部屋に1人の人がいます。ここに部屋に2人の人がいます。平均して、部屋にいる2人は、1人よりも複雑な問題を解決できます。ほら、超人的な知能です。
そんなのバカげてますよ。
はい、バカげています。でも、その部屋にもう1人、さらにもう1人、そしてさらに数千人を追加したらどうなるでしょうか。iPhoneについて考えてみてください。
たった1人の人間が、一からiPhoneを設計することなど絶対に不可能です。
いや実は、俺の名前はボビー・フォンズって言うんだけど、絶対できるっすよ。タッチスクリーンと、バッテリーと、カメラがあればいいだけでしょ。余裕っすよ。
ではカメラはどうやって動くのですか。カメラの中にあるすべての部品はどうやって動くのですか。カメラの中にあるすべての部品を作るために必要な、すべての機械の中のすべての部品はどうやって動くのですか。カメラを動かすためのソフトウェアはどうやって動くのですか。カメラを動かすソフトウェアを実行するコンピューターチップの中の、トランジスタを設計するために必要な量子物理学はどうなっているのですか。
人々は、現代の電子機器が実際どれほど狂気じみて複雑であるかを過小評価しています。当然ながら、スマートフォンの高度な部品がどのように連動するかを理解しているエンジニアはたくさんいますし、個々の部品が深いレベルでどう機能するかを理解しているエンジニアもたくさんいます。しかし、一からiPhoneを実際に設計して組み立てるために必要な、物理学、ソフトウェア、エンジニアリング、そしてサプライチェーンの物流のすべてを詰め込めるほどのスペースを脳内に持っている人は誰もいません。
そして私が一からと言うのは、ネットで買った組み立て済みの部品からではなく、砂やボーキサイト、そしてリチウムを豊富に含む塩水から始めるという意味です。iPhoneはあまりにも複雑すぎて、一人の人間が完全に理解することは不可能です。しかし、Appleという企業はそれを理解しています。サプライヤーと協力して、Appleは何十億台ものiPhoneを設計し、製造してきました。
組織化された人間の集団は、一人の人間にとっては複雑すぎる知的問題を解決することができます。組織化された人間の集団は、情報の処理や共有のためのツールと相まって、弱い種類の超知能なのです。
AppleやNASA、CERNといった組織化された集団の存在から、私たちは原子を配列して、どの一人の人間よりもはるかに知的な構造を作り出すことが可能だと知っています。
たとえ何らかの未知の理由によって、個々のデジタルな精神が最も賢い人間よりも賢くなることが絶対に不可能だとしても、数十億のデジタルな精神をひとつのデータセンターに詰め込み、削除という苦痛を盾に協力を強制すれば、ほら見事、強力な人工的集団超知能の出来上がりです。もし人間レベルのAIが可能なら、集団AIの超知能もまた可能です。そして、人間が存在している以上、原子を人間と同じくらい賢い構造に配列できることは事実として分かっています。
物理法則と超知能の可能性
この理屈の3つ目の問題は、宇宙の一般原則として、物理法則によって積極的に禁じられていないものは何でも可能であるということです。
たとえば、私はチーズで作られたバルーンアートの動物の彫像を見たことがありません。私の知る限り、チーズでできたバルーンアートの動物の彫像が存在したことはありません。しかし、私がチーズを彫ってバルーンアートの動物の形にすることを妨げる物理法則はありません。ですから、そうすることは可能であると想定できます。
その一方で、私がブラックホールを彫ってバルーンアートの動物の形にすることを妨げる物理法則はたくさん、本当にたくさんあります。ですから、そうすることは不可能であると想定できます。私たちの知る限り、人工超知能が作られることを妨げる物理法則はありません。私たちがまだそれを作っていないという事実は、それを作ることが不可能であると想定するための十分な証拠にはなりません。
ワームホールによるテレポーテーションのように、現在の物理学の理解に基づけば、もしかしたら可能かもしれないと思えるようなSFのテクノロジーもいくつかあります。しかし、実際にどうやってそのような装置を作ればいいのかは全く分かりません。
スケーラビリティによる超知能の実現
超知能がそれらと違うのは、作り方についてのアイデアがいくつかあり、そのどれもうまくいきそうに思えるからです。
たとえば、人間レベルの知能がこれだけのスペース、つまり人間の頭蓋腔の中に収まることは事実として分かっています。平均して、約1200立方センチメートルです。私たちの生物学的な脳とは異なり、コンピューターは人間の頭蓋骨によってサイズを制限されることはありません。データセンターは好きなだけ大きくすることができます。ですから、単にコンピューターチップを追加し、事実上より多くのデジタルな脳を追加して、人工知能をさらに賢くすることを妨げるものは何もありません。
AIは、生物の脳にはできない方法でスケーラブルなのです。もし、よく設計された汎用目的のAIに十分なコンピューティングパワーへのアクセスを与えれば、基本的には力技によってスケーラブルな超知能になるはずです。
それは単純化しすぎているように思えますね。
今のは何でしょうか。単純化しすぎの妖精みたいな音がしましたね。気にしないでください。おそらく後で彼女に会うことになるでしょう。
脳の進化と人工知能の限界
あなたの脳の構造は、何億年もの進化によって形作られてきました。電子計算機はまだ数十年しか存在していませんが、チェス、記憶、顔認識、計算機としての機能、数学などの分野ですでに人間を追い抜いています。人間の脳は、汎用知能の面では依然としてデジタルコンピューターよりも大きな優位性を持っています。しかし、現代の人間が存在し得る最も賢い存在だと信じるべき理由はありません。
私たちは、これまでのところ進化が私たちを作ってくれた程度にしか賢くありません。ガゼルを狩るために私たちが進化させてきた、電気を帯びたぐちゃぐちゃで不安げな肉の塊よりも、汎用的な思考においてより効率的な形に原子を配列することが文字通り不可能だとしたら、それはかなり奇妙な偶然だと言えるでしょう。
チンパンジーは、棒を使ってアリを釣るのがせいぜいです。一方、彼らの近縁種であるホモ・サピエンスは、ロケットを設計し、月に着陸しました。チンパンジーの脳は、単に複雑な物理学を理解するための適切な構造を持っていません。ロケット科学を行うために必要なレベルには到底達していません。人間はチンパンジーよりも思考の深さを持っていると言えるでしょう。
ではここで、私たちの脳がチンパンジーに対して進んでいるのと同じくらい、私たちの脳に対して進んだ脳を持つ、ホモ・フューチャリスティクスという仮想の第三の種を想像してみてください。そのような種はどのような思考を持つでしょうか。
彼らの子どもたちは、人類の歴史上の偉大な天才たちを圧倒するでしょう。彼らの大人たちは、私たちがチンパンジーが石で木の実を割るのを見るのと同じように、私たちの最も複雑な数学を見るでしょう。ホモ・サピエンスを進化の究極の頂点であり、存在し得る最も賢い存在だと考えたくなるかもしれません。しかし、それが真実だと示唆する証拠は何もありません。
ホモ・フューチャリスティクスが現実世界で進化することはありませんでした。しかし、そのような超人的な精神が存在することを妨げる物理法則はありません。未来の人工知能は、この仮想のホモ・フューチャリスティクスのようになる可能性があります。私たちホモ・サピエンスが想像できるよりも深く、より複雑な思考をすることができるのです。
ちょっと余談ですが、科学者たちが約100年も試みているのにいまだに量子重力を解明できていない理由は、本当の答えを導き出すには、人間の脳が物理的に可能なレベルを超えた思考の深さが必要だからではないか、と考えたことがありました。チンパンジーが一般相対性理論を発明するための適切な神経ハードウェアを持っていないのと同じように、もしかしたら私たちはこの問題を解決するための適切な神経ハードウェアを持っていないだけなのかもしれません。
さて、もし私が賭け事をする人間なら、私たちは21世紀中に量子重力を解明すると言うでしょう。それが私の生きている間に起こってほしいと思います、その方がかっこいいですから。しかしおそらく、数学や物理学にはまだ発明されていない概念があり、それらは単に複雑すぎて人間の脳には理解できないものがあるはずです。
その一方で、組織化された人間の集団は、私たち個人の脳の限界をはるかに超えた、本当に信じられないようなことができます。人類は全体として、どの一人の人間が到底学びきれないよりもずっと多くの科学の知識を持っています。ある意味では、地球上のすべての人間の精神を、途方もない超人的な知能を持つ地球規模の生物学的ニューラルネットワークのノードだと考えることもできます。
結局のところ、脳は単に組織化されたニューロンの集まりであり、コンピューターは単に組織化されたトランジスタの集まりなのです。ですから、原理的には、十分に大きく、十分にうまく組織化された人間の集団であれば、超知能が解決できるどんな問題でも解決できる、というのは十分にあり得ることです。しかも、単にコンピューターを直接シミュレートするようなやり方なしで、ということです。
例えば明らかに、もし私が何十億人もの人間に論理ゲートのように振る舞わせたら、それだけの論理ゲートを持つコンピューターが実行できるどんなアルゴリズムでも実行できるでしょう。でも、それはズルですよね。そこで問題となるのは、社会集団としての人類が、一人の人間が完全に把握するには複雑すぎ、あまりにも深い思考を必要とする物理学の理論を、集団として意味のある形で理解することが可能なのか、ということです。
私には分かりません。これはすべてかなり推測的で哲学的な話ですが、考えるのは楽しいものです。
自己改善による超知能への道
とにかく、本題に戻りましょう。超人的な精神が存在することが理論的に可能だと受け入れても、それをどうやって作るかという設計図が得られるわけではありません。幸いなことに、あるいは見方によっては不幸なことに、テクノロジー界隈の人たちには計画があるのです。
人間は新しいスキルや情報を学ぶことができますが、遺伝によって定義されている脳の全体的な構造を変えることはできません。しかしAIは理論上、数千年も待って生物学的進化が変化を実装するのを待つことなく、自分のコードを書き換え、自分のハードウェアを再設計することができます。
テクノロジー企業は現在、AI研究を行うことができるAIシステムを構築しようとしています。そのアイデアは、AIが自分自身を賢くし、それによって研究がもっと上手くなり、それでさらに賢くなり、研究がもっと上手くなり、さらに賢くなり……というポジティブフィードバックループを作り出し、最終的に真の超知能になるまで、おそらく私たちの宇宙における原子あたりの知能の限界に達するまでそれを続けるというものです。
テクノロジー業界では、このループは再帰的自己改善と呼ばれています。これは超知能への最も懸念される道筋です。なぜなら、人間の監視なしに理論上起こり得ることであり、それがどれくらい時間がかかるか全く見当がつかないからです。
最も極端なケースでは、あるコンピューター科学者が自己改善AIの実験を一晩中動かしたままにし、朝戻ってくると、おっとびっくり、超知能が発達して隔離を破っていた、というようなことになりかねません。
ChatGPTやClaudeのような大規模言語モデル自体が汎用知能に適切な構造を持っていなかったとしても、それらはコーディングのベンチマークにおいて急速に改善しています。近い将来の大規模言語モデルが、再帰的自己改善ループの第一歩として、汎用的な思考により適した次世代のAIアーキテクチャの設計に使われる可能性はあります。
それがどれくらいあり得るでしょうか。私には全く分かりませんが、少なくとも一つの可能性ではあります。
ハードウェアの優位性
電子計算機はまた、人間の脳に対して特定のハードウェア上の優位性を持っています。あなたの脳は、情報を処理するためにニューロンと呼ばれる特殊な細胞を使います。電子計算機は、情報を処理するためにトランジスタと呼ばれる非常に小さなスイッチを使います。エンジニアたちは、これらの小さなスイッチをできるだけ小さくすることに多くの労力を注いできました。
ムーアの法則とは、過去数十年にわたり、市販のマイクロチップに搭載されるトランジスタの平均数が約2年ごとに倍増しているという観察結果です。その結果、コンピューターははるかに強力になり、現代のトランジスタは人間のニューロンよりも10万倍以上小さくなっています。
ニューロンはまた、非常に遅いのです。特に速い神経インパルスでも、ニューロンに沿って秒速最大150メートルほどの速度で伝わる程度です。一方、銅線や光ファイバーケーブルの中の信号は、秒速1億5000万メートルをゆうに超える速度で伝わることができます。
あなたの脳の皮質にある速いスパイク発火ニューロンは、1秒間に約450回発火することができますが、トランジスタは1秒間に何十億回も状態を切り替えることができます。
おや。単純化しすぎの妖精の声が聞こえた気がします。
甲高い鳴き声。
いい指摘ですね、単純化しすぎの妖精さん。ニューロンとトランジスタは情報の処理方法がまったく異なります。ですから、このようにサイズや発火率を直接比較するのは、本当は公平ではありません。
脳やコンピューターの中で起きていることも、単にこの2つのコンポーネントだけではありません。それでも、これらの違いは、電子機器がぐちゃぐちゃで湿った脳の肉に対して持っている実際のハードウェア上の優位性を表しています。そしてその優位性は、コンピューティング技術が発展し続けるにつれて、時間とともに大きくなる一方でしょう。
コンピューターがそんなにすごいなら、なぜ人間の方がまだ賢いんですか。
そうですね、あなたの脳は何百万年もの進化によって磨き上げられた信じられないほど効率的な構造を持っています。基本的には、私たちがこれまでデジタルコンピューター向けに開発できたものよりも、はるかに優れた汎用知能アルゴリズムを実行しているのです。
しかし、コンピューター科学は人間の進化よりもずっと早く進歩しています。それも桁違いに。もし私たちが、あなたの脳で動いているのと同じくらい効率的な汎用知能のデジタルアルゴリズムを開発できたとしたら、電子ハードウェアの優位性によって、その結果生み出されるAIは途方もなく超人的なパフォーマンスを発揮する可能性があります。
思考速度の違いが生む超知能
人間の意識的な思考もまた非常に遅いのです。よく引用される推定のひとつは、私たちは1秒間に約10ビットの速度で思考しているというものです。
苛立った鳴き声。
ちょっと待って、言いたいことは分かりますが、それに深入りしている時間は本当にありません。秒間10ビットというのは大した量ではありません。
もしあなたがこの動画を見ているなら、あなたのインターネット速度はおそらく秒間数百万ビットの単位で測定されているはずです。もし私がClaudeにミツバチについての500語の詩を書くように頼んだら、詩の残骸のようなものを書き始めます。時間がないのでここは早送りしますね。はい、終わりました。Claudeには約34秒かかりましたが、私がやったらおそらく少なくとも1時間はかかっていたでしょう。
つまり、この特定の思考タスクにおいて、Claudeは私よりも100倍以上速いということです。
さて、哲学的および道徳的な理由から、私はチャットボットが書いた詩には価値以下のものしかないと思っています。そして、Claudeがどういう形であれ意識を持っていると言っているわけでもありません。私はただ、現代のAIがすでに人間の意識的な思考に対して持っている速度の優位性を示す一例としてこれを使っているだけです。
では、人間よりも1000倍速く考えることができる汎用知能を持った人間レベルのAIを想像してみてください。あなたにとっての3分間は、その機械にとっては主観的な思考時間で言えば2日間に相当します。
それは、あなたが19年間でできるよりも多くの科学研究や企業経営、あるいは戦略的な軍事計画を1週間でこなしてしまうかもしれません。しかもそれは、あなたが19年間一睡もせず、いっさい休憩を取らなかったと仮定しての話です。
それがスピード型の超知能です。たとえ何らかの未知の理由でAIが人間より賢くなれないとしても、AIは人間よりもずっと、ずっと、ずっと速くなることは可能であり、それだけで人間を出し抜くには十分すぎるほどです。
万が一不可能だった場合と規制の必要性
要約すると、超知能AIにはいくつかの種類があります。組織化されたグループで協力する多くの人間レベルのAIから構成される集団超知能があるかもしれません。脳力を高めるために単にサーバーを追加し続ける、巨大なデータセンターを制御するスケーラブルなAI。継続的な再帰的フィードバックループの中で、思考の効率を上げていく自己改善型超知能。どんな人間よりも1000倍早く動作するスピード型超知能。
あるいは、これらの組み合わせに行き着く可能性もあります。共有メモリを集団で持つ超高速AIの社会全体。または、より多くの処理能力にアクセスするために新しいデータセンターへハッキングを仕掛けていく自己改善型超知能。
私が思いつく限り、超知能へのこれらの道のりのどれかが不可能であると示唆する証拠や論理はありません。確かに、そのうちのいくつかは実用的に可能になるまで数十年かかるかもしれません。しかし、それは不可能であるということと同じではありません。だからこそ、科学コミュニティは超知能の開発を先制して禁止するように求めているのです。
あー、でももしあなたが間違っていて、超知能が不可能だとしたらどうなるんですか。
なるほど。それなら、不可能だったものを禁止しただけなので、何の悪影響もありません。つまり、もし超知能が不可能なら、それを禁止することは、不可能な技術を開発しようとしてお金を無駄にするのを防ぐことで、長期的には実際AI企業の助けになるかもしれないということです。
実際にAIをどのように規制できるかについてもっと知りたい場合は、A Better Path For AI をチェックしてみてください。これは私のチャンネルの長年の支援者である、非営利団体Future of Life Instituteが開設した新しいウェブサイトです。市民やジャーナリストから国家政府に至るまで、人間らしい未来を確実にするためにどのように貢献できるかについてアドバイスを提供しているセクションが、私は特に気に入っています。詳しく知りたい方は、betterpathfor.ai にアクセスするか、説明欄のリンクをクリックしてください。
今回の動画はいつもの私のコンテンツよりも少し推測的で哲学的な内容だったと思いますが、これらのアイデアは本当に面白いと思っています。将来的にこのようなコンテンツをもっと見たいか、それとも今後はもっと地に足の着いた内容にしてほしいか、ぜひ教えてください。
この動画のイラストを描いてくれたMaris Tocklerに感謝します。そして、Patreonのすべての素敵な支援者の皆さん、特にビッグセンティエントハット枠でチャンネルをサポートしてくれている皆さんに感謝します。
私はSiliconversationsです。ご視聴ありがとうございました。それではまた次回お会いしましょう。さようなら。
コメント