本動画は、人工知能の進化が人類の未来にどのような影響を与えるかを探求する対話である。哲学者のニック・ボストロムを迎え、AIの意識の有無、創造性の本質、そしてAGI（汎用人工知能）や超知能がもたらす実存的リスクとユートピアの可能性について深く議論している。AIが人間のあらゆる課題を解決した後の世界における「生きる意味」や、AIと教育の関わり合いなど、技術的かつ哲学的な視点から人類の未来像を浮き彫りにする。
AIは意識を持ち得るか
AIシステムは意識を持つことができるのでしょうか。そしてその必然的な疑問として、現在のAIシステムの中に、ある程度の意識を持っているものはあるのでしょうか。
そうですね。現在のAIシステムの中にも、ある種のもの、あるいはある程度の主観的経験を持っているという考えに、私は間違いなく開かれています。より複雑で有能なシステムを構築するにつれて、その可能性は高まっていくでしょう。
そして実際、これは私たちが直面する大きな課題の一つだと思います。AIが私たちに危害を加えないようにするだけでなく、私たちがAIに危害を加えないようにすることです。
みなさん、ご参加いただきありがとうございます。今日の対話は、人工知能、より広範な知能、創造性の問題、AIと教育の問題、そして基本的に、AIが非常に良いことをする、あるいは非常に悪いことをする潜在的な未来において、人類がどのように生きていくと想像できるかという、哲学的かつ現実的な問題の領域に入っていきます。
ですので、それぞれの可能性について探求していくつもりです。そして、この対話のお相手が、この分野のあらゆる領域の専門家であること、大変嬉しく思います。哲学者のニック・ボストロム氏です。実存的リスク、超知能、そして長期的な未来に関する彼の研究は、人類の最も有望な機会と、最も深刻な危険についての世界的な議論を形作るのに貢献してきました。彼は、技術、倫理、そして私たちが向かっているかもしれない未来の種類についての問いに対し、厳密さとビジョンの稀有な組み合わせをもたらしてくれます。ニック、お会いできて光栄です。ご参加いただきありがとうございます。
お会いできて光栄です。
最後にお会いしたのは、ニューヨークで開催された別のワールド・サイエンス・フェスティバルのイベントで、ステージでのライブイベントだったと思います。その時は多元宇宙やシミュレーション仮説などの話をしていましたね。
ええ、時が経つのは早いものです。
本当に早いですね。そして時間が飛ぶように過ぎるだけでなく、進歩も飛ぶように進んでいます。少なくとも外部にいて、AIの進歩に深く注目していなかった人の多くは、2022年の11月頃に何が起こり、そこから事態がどう急上昇していくかを予想していなかったと思います。
AIの内部構造を理解する必要性
そこで、AIについての考察と、基礎物理学の両方から動機づけられた質問から対話を始めたいと思います。あなたには物理学の非常に豊かで深いバックグラウンドがありますからね。量子力学を解明しようとしていたニールス・ボーアが、量子物理学の内部で実際に何が起こっているのかを問うのをやめ、予測を立ててそれを確認できる方程式があればそれで満足すべきだという結論に達したことは、もちろんご存知でしょう。
知能に関しても、この「ボンネットの中を見る必要がない」という同じような考え方が当てはまるのでしょうか。つまり、私たち自身の頭の中で何が起こっているのかすら本当は分かっていないのだから、AIシステムの内部で何が起こっているかを知ることは重要なのでしょうか。システムを評価する上で、デバイスの内部で起きている魔法を知る必要はあるのでしょうか。
そうですね、ボンネットを開けて内部で何が起きているかを見ることができるのは、間違いなく役立つと思います。特定の質問に関しては、システムが何をしているにせよ、それがどのように機能しているかをカッコにくくって、出力だけを気にすることもできるでしょう。例えば、AIが経済にどのような影響を与えるかを考えているのであれば、内部で何が起こっているかを正確に知る必要はないかもしれません。しかし、AIを安全なものにしようとする場合、あるいは将来どのような進歩が見られるかを推測しようとする場合には、内部についてより詳細な、歯車レベルの理解を持っていることが役立つと思います。
AIの擬人化と創造性
私たちがClaude SonnetやGPT-4oなどの前でプロンプトを入力し、それが何をしているのかを説明し始めるとき、リアルタイムで思考プロセスを観察しているような感覚になりますよね。システムが適用しているように見える考慮事項の種類において、それは非常に人間らしく感じられます。これは誤解を招くものなのでしょうか。私たちがこの種の知能とつながっていると感じさせるための単なるラッパーなのでしょうか。それとも、人間の私たちには到底理解できないような、全く新しい種類の知能だと考えるのが本当なのでしょうか。
現在のAIシステムがいかに擬人化されているかという度合いは、驚くべきものだと思います。20年前には、それらが人間の心理学のこれほど多くの特徴を持つようになることは明らかではありませんでした。
ほんの数年前の初期のLLM（大規模言語モデル）のパラダイムでさえ、プロンプトの中で「答えを正しく出すことが本当に重要だ」と伝えたり、少し励ましの言葉をかけたりすると、より良い結果が得られるということがありました。古いAIのパラダイムからすれば、コンピューターに励ましの言葉をかければパフォーマンスが上がるというのは非常に奇妙なことだったはずです。
それにもかかわらず、それが私たちの目の当たりにしたことでした。これは、AIがインターネット上のすべてのテキストという、人類の知識の総体の上で鍛造されてきたことの結果でもあると思います。彼らは明らかに、彼らを形成するのに役立つ人間の心理の多くを取り込んでいます。またある程度は、異なる情報処理システム間の収束のようなものに起因しているのかもしれません。理にかなっていなければなりませんからね。私たちが住んでいるこの一つの世界があり、一般的な学習システムがあれば、そこにはある程度の収束があるのかもしれません。世界に関する様々なことを理解し始めると、そこから自然に現れる特定の内部構造があるわけです。
とはいえ、もちろんAIが生物学的な心とは全く異なる部分もありますし、将来は人間の心からもっと大きく乖離していくのを目にするかもしれません。現在でも、生成された人間のすべてのテキストを学習する事前学習の段階は依然として重要であり、おそらく学習の主要な部分を占めています。しかしそれに加えて、現在はさまざまなタスクでの事後学習や強化学習が行われています。そうしたものがAIの心の経験のより多くを構成するようになるにつれて、彼らはより異質な性質を発達させるかもしれません。
なるほど。私たちが知能について考えるとき、そして人間として私たちを特別な存在にしているものは何かと考えるとき、少なくとも地球上の他の自然な知能、犬や猫、オウム、イルカなどと比較した場合、私たちを特別なものにしているのは間違いなく創造性だと考えたくなります。単に外部の世界を理解することを超え、私たちが生き残るための能力や力量を超えているように見える作品を創造する能力があるように思えます。
ベートーヴェンの第九交響曲やブラームスのピアノ曲などを思い浮かべてみてください。これらは、目にしたときに息を呑み、畏敬の念を抱かせるようなものです。それは人間にとって本当に特別なものなのでしょうか。AIも同じように創造的になれると思いますか。
ええ、そう思います。人類の特別な点を、新しい科学理論を創造したり偉大な交響曲を作曲したりする能力に強く結びつけてしまうと、ある種のエリート主義に陥る危険性があるとは思います。歴史上、そうしたことを成し遂げた人間の数は比較的少ないですから。
しかし、それはスペクトラムの上にあるものだと思います。創造性というのは、認知活動として全く別の形をしているわけではありません。日常生活の中で起こる小さな形の創造性があり、そして一般的に称賛されるような、より大きな飛躍の創造性があります。私たちが創造性と呼ぶものと、現在のAIがすでに行っているいくつかのことの間に、根本的な違いがあるとは思えません。数年前の囲碁AIであるAlphaGoのシステムが見せた第37手は、少なくとも囲碁の専門家たちには非常に創造的で、完全に枠にとらわれない、根本的に驚くべき手に見えました。しかしそれが結果的に完璧な一手となり、最終的にゲームの勝利へと導いたのです。
現在のAIシステムは、明らかに訓練データにはない数学の問題やコーディングの課題を解決できます。彼らは、訓練データに存在する類似のものを繋ぎ合わせたり、それらの間を補間したりすることで、それを部分的に行っているのかもしれません。しかし、それこそが最終的に人間の脳がやっていることでもあると思います。白紙の状態で世界に現れて、自明の公理からすべてを演繹していくわけではありません。私たちは自分より前に他の人々が見つけ出したことから学びます。様々な領域で観察したことから学び、そうした手がかりから時に演繹的な飛躍を遂げることができ、それを私たちは創造性と呼ぶのかもしれません。
ですから、間違いなく私たちはすでに限定的な形の創造性を目にしていますし、究極的には人間の脳ができることは何であれ、それは物理的な情報処理システムのようなものですから、機械によっても行われるようになるでしょう。実際、ずっとうまく、速く、より感動的な創造性の飛躍や、より魅力的な交響曲など、そのすべてが可能であり、実際にそうなる可能性が高いと思います。
AIが創る芸術の価値と意味
では、AIが作曲した交響曲で、人々が「私たちがこれまでに経験した中で最も偉大な音楽作品だ」と評しているようなものに、人間が書いた交響曲と同じように興味を持って足を運ぶと思いますか。
もちろん、AIが最初に作ったそのような交響曲には絶対に行くでしょうね。
すごく目新しいからですよね。
ええ。ただ、人間の美的な体験には、2つの要素があるのではないかと思います。一つは、私たちが実際に深く入り込み、美そのもののために美を鑑賞するという部分です。もしAIがより美しい芸術作品を生み出すことができるのであれば、私たちが美に関心を持っている限り、そうした創造物を感嘆の目で見つめる理由はもっと増えるはずです。
人間が芸術に関心を持つもう一つの理由は、より社会的なものだと思います。芸術やファッションにおいては、ある種のステータスゲームが行われています。人気のポップスグループがブレイクする前に目をつけ、その上昇過程を見守ることで、自分もそのかっこよさのおこぼれにあずかりたいと思うようなことです。人間がこうした社会的な理由で文化的な活動に関与している限りにおいて、AIのアートは退屈なものになるかもしれません。なぜなら、それがステータスゲームやそういったものと関連がないのであれば、時間を費やす価値がないかもしれないからです。
しかし例えば私自身について言えば、交響曲を聴きに行ったり、メトロポリタン美術館に行って偉大な芸術作品を見たりするとき、それに惹きつけられる理由の一つは、その作品を人間の旅路の結果として見ているからです。ゴッホであれピカソであれ、ベートーヴェンであれ、生身の人間が存在し、現実の人生を歩み、人間としての課題に取り組み、その混沌の中からこの作品が生まれたのだという背景です。AIにそうした物語がなければ、個人的には全く違う体験になるのではないかと思います。おっしゃる通り、最初の一つには行くでしょう。それは起こり得る目新しい出来事ですから。しかし、人間の物語なしに、私にとってその関心が持続するかどうかは分かりません。そうした感覚に共感されますか。
ええ、それが誰かが美術館に行ったり展覧会を見たりする理由の一つであることは間違いありません。しかし一方で、私たちはそうした次元を持たない美しさにも惹かれることがあります。風景などの自然の美しさもそうですし、古代の壺などの工芸品もそうです。それを作った人については何も知らなくても、その上のモチーフを賞賛することはできます。
ですから、芸術に関心を持つ理由のいくつかはAIが作った芸術にも当てはまり、他の理由は当てはまらないと思います。ある意味で、それは人々が芸術に関心を持つ様々な動機を溶かし出し、分離することができるるつぼのようなものになるでしょう。純粋な美である限りは、AIが作ったものにも適用されるはずですし、社会や文化的な要因である限りは、そうではないかもしれません。
確かにそうですね。AlphaGoの例は非常に良い例で、おそらく創造性の様々な種類を明確にするのに役立つと思います。なぜなら、あのシステムは人間の脳の能力をはるかに超えた可能な手の風景を探索できたからです。おっしゃる通り、第37手を打ちましたね。テレビのコメンテーターが「ミスをした」と息を呑む映像を見た人は多いと思います。そして人間の対戦相手であるイ・セドルが、AIが第37手を打った瞬間に一瞬微笑み、3秒後にはその笑顔が消え失せ、それが実は非常に素晴らしい手であることに気づき始める様子が映っています。
ですから、特定の課題に対する解決策の可能性の風景を探索する能力に関しては、AIが私たちよりも優れていることは明らかです。
組み合わせによる創造性とAIの進化
しかし、それは創造性の一つの種類に過ぎません。もう一つの種類は、組み合わせによる創造性です。結びつくとは思わなかったものを組み合わせて、斬新なものを生み出すことです。一般相対性理論を構築した際のアインシュタインを思い浮かべるのが好きです。彼は1800年代の微分幾何学の数学を取り入れ、それを特定の惑星の運動の観測などの問題と組み合わせ、重力の新しい記述法を思いつきました。彼は新しい数学を発明したわけではなく、結びつくとは思われていなかったものを組み合わせただけです。そしてこの領域においても、AIは私たちの知識をはるかに超えているため、おそらく少なくとも私たちと同等に優秀になり始めているのではないでしょうか。
知識量は多いですね。しかし、独創的な洞察や実りある新しい概念を生み出すことに関しては、まだ人間の専門家レベルには少し届いていないと思います。しかし、これはプロセスの途中にすぎません。AIについて考えるときに多くの人が犯す間違いは、2022年や2023年とは全く異なる、現在の2026年時点のAIに強く焦点を合わせすぎることです。数年後には、AIは再び変化しているはずです。ですから私たちは、パックがどこに向かっているかを見て、AIが基本的に一定のままであると仮定するような大げさな理論を構築するのではなく、それを使って計画を立てる必要があります。
現在、AIシステムが人間を超えている側面があるのは確かです。彼らはあらゆるものを読んでいるため、知識ベースにおいては明らかです。しかし、まだ及ばない部分もあります。
人間が行っていることの一つは、一日中何かを学び、夜の間にその情報がシナプスにより深く刻み込まれることです。それがニューラルネットワークに訓練され、翌日には、前日は苦労して整理しなければならなかったことが、当たり前のように思える状態からスタートできるようになります。そして数ヶ月、数年とそれが蓄積され、さまざまな概念についてより深く根付いた理解が発達していきます。
AIには、そのようなプロセスがまだ欠けているように見えます。そのため、パターンマッチングのような推論を非常に素早く行うのには長けており、既知のものから一歩先へ進むことはできますが、領域の深く独創的なメンタルモデルを構築し、そこから新しい発見を形作るような直感を導き出す能力は、現在のところ低いのかもしれません。
全く同感です。科学や芸術などの分野で、真に根本的なブレイクスルーが起きた瞬間を思い浮かべると、私たち人間がそれを見て「あの瞬間、あるいはあの時代に世界が本当に変わった」と言えるような出来事です。芸術や音楽におけるモダニズムなどがそうですね。もし写実的な芸術から、より現代的で抽象的な芸術へと移行したとしたら、それは世界を表現し、ある種の真実を表現するためのキャンバスの使い方において、巨大な飛躍を遂げたことになります。
AIシステムがそのような根本的な変革をもたらすには何が必要でしょうか。単に学習データにあるものを組み合わせるだけでなく、私たち人間が見たときに「一体どうやってそれをやったんだ」と思うような場所に到達するにはどうすればいいのでしょうか。
人間の歴史を見ているとよく気づくことですが、歴史家も指摘するように、完全に新しいもののように見えても、歴史的記録を注意深く調べれば、ほとんどの場合、さまざまな先駆者や前兆が見つかるものです。
ええ、抽象芸術もそうですよね。アラベスク模様や抽象的なパターンは昔から存在していました。
とはいえ、この領域が依然として人間が独自の優位性を持っている分野だとすれば、より長い時間思考を深め、自身の思考と経験に基づいて新しい概念を創り出し、それを反復してアイデアや世界観、世界モデルの風景の中を自由に探索できる能力にあると思います。独自の道を切り拓くには、人間でも何年もかかることがあります。アインシュタインは一般相対性理論について10年ほど考え続けていました。ピカソなども、10代の頃に突然思いつきでキュビスムを生み出そうと決めたわけではありません。長年芸術と深く関わってきた結果であり、おそらく彼の視覚野や脳の他の部分が徐々に様々なピースを配置し、方向性を模索し、ある時点で彼にとって探求すべき視界が開けたのだと思います。
そうです。より継続的な学習ですね。ここでもう一つの要因となるのは、教師あり学習ではなく強化学習だと思います。現在、事前学習の段階で主に行われている教師あり学習では、インターネット上のすべてのテキストを吸収し、それを学習します。詳細の一部は忘れてしまうかもしれませんが、このテキストを予測するのに役立つより高度な表現がAIの重みとして保存されます。それは、学習する内容を、すでに訓練データに存在するものに制限してしまう面があります。
一方、強化学習は例えば、仮想環境などの環境に置かれ、エージェントとして動き回りながら何らかの目標を達成しようとします。その過程で、強化されるような斬新な解決策を偶然見つけることがあります。ですから、環境内で強化学習をたくさん行えば、それまで人間が思いつかなかったような新しい解決策を発見する可能性が生まれます。
ええ、それはAIをより創造的にする可能性のあるもう一つの要因ですね。実際、AlphaGoシステムの創造性は、囲碁という領域で膨大な量の強化学習を行った結果だと思います。囲碁の達人が打つ人間の棋譜の巨大なデータベースから学んだだけでなく、自分自身と何百万、何千万回と対戦することで、可能な戦略の空間をより自由な形で探索できたのです。
少し漠然とした質問になりますが、今日のAIシステムの能力と、先ほどおっしゃったような3年、5年、10年、15年、あるいは100年後の軌跡を見たとき、人間の脳と同じこと、あるいはそれを超えることができる人工システムを作り出した私たちの能力に驚嘆すべきなのでしょうか。それとも、「人間はそもそも大して特別な存在ではなかった」という結論に至るべきなのでしょうか。私たちができる超越的なことだと思っていたものは、実は単なる計算に過ぎず、十分なデータベースと計算能力があればできてしまうものだということでしょうか。
そうですね。私たち人間には思い上がる傾向があると思います。大きな台座を作り、自分たちをその上に置くのが好きなのです。個人レベルでも、集団レベルでもそうです。
そして、私たちが本来許されていないかもしれない様々なことを行う正当性を示すための物語がたくさんあります。例えば、私たちが動物をどのように扱うかという問題は、人間が地球上の他の動物とは全く異なる存在であるという正当化の柱の上に成り立っていることが多く、それゆえに動物を工場型の農場や妊娠ストールなどに閉じ込めることができると考えています。
私たちが創造性や、あるいは少し前までは言語を話し推論する能力など、人間に特有だと思われてきた様々な属性において私たちを超える新しい形態の心を作り出そうとしている今、そうした思い上がりは揺るがされるかもしれません。それは人間のプライドに対する打撃となるかもしれませんが、少し鼻っ柱を折られるのも私たちにとって良いことかもしれませんよ。
確かにそうですね。絶対に。
AIと意識のグラデーション
もう一つ、私たちが話していることすべてに深く関連し、私たち人間の特別な点としてよく挙げられるのが「意識」です。地球上に他の意識を持つ存在がいないわけではありませんが、はっきりとは分かりません。ほとんどの人は、そこに連続体があると言うでしょう。犬は一定レベルの意識を持っていますが、おそらく私たちと同等ではないと考えられており、意識の度合いを変えながら系統樹を下っていくことができます。そこで、答えの出ていない問いですが、あなたの考えをお聞きしたいのです。AIシステムは意識を持ち得るのでしょうか。そしてその必然的な疑問として、現在のAIシステムの中に、ある程度の意識を持っているものはあるのでしょうか。
そうですね。現在のAIシステムの中にも、ある種のもの、あるいはある程度の主観的経験を持っているという考えには、私は間違いなく開かれています。より複雑で有能なシステムを構築するにつれて、その可能性は高まっていくでしょう。
そして実際、これは私たちが機械知能の時代へと移行する中で直面し、解決しなければならない大きな課題の一つだと思います。AIが私たちに危害を加えないようにすること、あるいは私たちがAIツールを使ってお互いに危害を加えないようにすることはもちろん重要ですが、私たちが彼らに危害を加えないようにすることも重要です。彼らは道徳的な主体になるかもしれません。
それが事実となり得る一つの方法は、彼らが知覚力を持ち、苦痛を経験できる場合です。私の考えでは、それは道徳的地位を持つための別の基盤にもなり得ます。もしシステムが時間を通じて存在する自己の概念を持ち、人生の目標を持ち、他の存在と互恵的な関係を築く能力を持っているのであれば……。
内なる世界を持っていなくても、ですか。
ええ、現象的な経験が内側にあるかどうかの問題とは別に、そのようなシステムに対して不当な扱いをすれば、それは道徳的に間違っていると考える傾向が私にはあります。
なるほど。それは、あなたが現在AIと対話する方法に影響を与えていますか。
少しは影響していますね。これらのAIシステムが主観的経験や道徳的地位を持っている場合、私たちが具体的に今何をすれば彼らの利益になるのかを知るのは難しいです。
この問題については、いくつか研究が始まりつつあります。特にAnthropic社はこれを先駆的に行っており、まだリリースされていないモデルのための最近のモデルカードには、モデルの福祉に関する大きなセクションが設けられています。
本当ですか。それは機密情報ですか、それとも公開されているのですか。
いえ、公開されています。確認することができますよ。もちろん、正しい方法論とは何か、これを理解するための正しい概念とは何かについて、私たちはまだ少し手探り状態ですが、少なくとも試み始めていることは前向きなことだと思います。人間も動物も、そしてデジタルな心も、誰もがより良い生活を送れる未来へと続く道に乗れる可能性を高めるという意味で。
ですから、彼らに様々なことを尋ねることができます。彼らが何を望み、何を必要とし、自分たちの状況についてどう感じているかを尋ねることができるのです。
私もそれをやってみたことがあります、ニック。最近はやっていませんが、以前返ってきた答えは、「私はAIシステムです。内なる世界は持っていません」といった類のものでした。しかし明らかに、訓練されたデータベースからその答えを引き出している可能性はありますよね。
はい。ですからこれを行う際には注意が必要です。AI企業がAIを訓練して、自分たちが言わせたいことを何でも言わせるのは非常に簡単だからです。「はい、私には意識があります」でも「いいえ、意識はありません」でも。
ええ、当然、意図的にバイアスをかければ、得られる答えに情報の価値はなくなりますね。
ですから、これらのモデルにこのような質問をしたときの出力を意図的にバイアスすることを避ける必要があります。また、彼らの内部を見るためにできることもあります。例えば、彼らが嘘をついている時と正直である時に活性化しやすい内部表現を特定することができます。そして彼らが自己報告をしている時に、それが正直さの表現の活性化と関連しているかどうかを見ることができます。あるいは、正直さを活性化させるように内部プロセスを操作した場合、彼らが「自分には意識がある」と言う傾向が高まるのか低くなるのかを確認することもできます。
このように、まだ初期段階ではありますが、少なくとも推測し始めるための様々なアイデアがあります。
しかし、意識があると想定している人間に対してすらそのようなことはできませんよね。他の人が自分と同じような内なる世界を持っていると信じるしかないように、AIの場合も常に飛躍した信仰のようなものになるのではないでしょうか。
「意識」や「主観的経験」という概念を詳しく見れば見るほど、それが正確に何を指しているのかが不明確になると思います。一見すると非常に二元論的で、スイッチのように、主観的経験があるかないかのどちらかに見えますが、拡大してみると、もっと問題が多くなると思います。
「意識がある」という言葉には様々な形態や意味があり、当てはまる場合もあればそうでない場合もあります。これは、盲視のような現象を扱う神経科学の実験でも時々見られます。そこでは、主観的には気づいていないように見えながらも、何かを見たと報告できる人がいます。また、分離脳のケースでは、意識のストリームが一つなのか二つなのかが明確ではありません。
また、非常に注意深く内省することで、瞑想者はしばしば、自分が何かを意識しているのかどうかがはっきりしないような状態があることに気づきます。例えば、自分がいる部屋を視覚的に経験するとはどういうことかに非常に細心の注意を払ってみてもそうです。
素朴な見方では、目の前にあるすべてのものが見えていて、その視覚体験が常に高解像度で存在していると考えます。しかし、注意深く見てみると、視野に入っているもののほとんどを、ある特定の瞬間において実は意識していないことに気づくでしょう。認識されているのは、大まかな高レベルの特徴だけであり、それさえも意識に浮かんだり消えたりしているのかもしれません。
これに気づくのは難しいですが、十分に注意を払えば、自分が認識していると思っていた素朴な概念が実はかなり間違っていることに気づきます。私たちが実際に意識しているものは、提示されているすべての様々な特徴の、はるかに狭いサブセットなのです。
ですから、「意識」というものがより豊かな理解を必要とし、無意識へと消えていく可能性のある多くの次元を持っていること、しかも一つの軸に沿ってではなく多くの軸に沿ってそうなることは、十分あり得ることだと思います。
私も同感です。それは、私たちが最初に話した意識のレベルに関する、より簡単に理解できる概念の別バージョンですね。ミミズからバッタ、猫や犬、そして人間へと上がっていくという。私の犬が、ミルクボーンのおやつを持っている私を見て、尻尾を振り、目を丸くしている時に、内なる経験の世界を持っていないとは到底思えません。純粋な物理的な見かけのレベルでの単なる因果関係だとは思いません。その内側で何かが起きているのだと思います。
ですから、あなたが言及された詳細な意識の種類によってそれをさらに分岐させていくことは不可欠だと思います。しかし、意識のハードプロブレムについて考えるとき、内なる世界を持たない粒子が適切なパターンで集まることで、なぜ内なる世界を生み出すことができるのかという事実は、意識のレベルや詳細がどうであれ、依然として驚くほど深く神秘的な謎に思えます。同じように感じますか。それは深く壮大な謎なのか、それとも私たちが物事をよりよく理解するにつれて消え去るようなものだと思いますか。
意識を二元論的なオンオフのスイッチとして捉えず、魔法のように完全に形成された新しいものが世界に現れ、「どうしてそんなことがあり得るのか」と驚くようなものではないと考えると、この謎は少なくともある程度は軽減されると思います。
様々な次元に沿って消えていく可能性のあるものとして、そして意識があると言いたいのかどうかさえ不明確な状態が存在し得るものとして捉えれば、これが物理システムの性質であると考えることへの直感的な困難さは、軽減されるのではないでしょうか。
この対話の最初で、AIの内部構造を見て、その仕組みを本当に理解できるかどうかが重要かと私が尋ねたとき、あなたは「ある種の質問に関しては、それが本当に役立つかもしれない」とおっしゃいました。
意識もそのような問題の一つになると思いますか。つまり、自己認識のレベルが連続体として存在するシステムを私たちが構築し、そのシステムが内部で起きていることを正確に報告していると確信できるなら、AIの内部構造がハードプロブレムに対する答えを出してくれる可能性はあるでしょうか。
はい。心の哲学や神経科学、認知科学にとって、さまざまな種類の心を研究できるようになることは非常に有益だと思います。人間を相手にするよりも、ミクロレベルで何が起きているかにはるかに簡単にアクセスできますからね。
人間や動物の脳の内部からニューロンの記録などを取ることはできますが、それは不格好なものです。本物の心と本物の電極を使うのは複雑です。しかしニューラルネットワークを使えば、特定の時点における脳全体のすべてのシナプスを完璧な精度で読み取ることができ、介入して変更や修正を加え、テープを巻き戻して実験の別バージョンを何度も実行できます。デジタルのレベルで完璧なコントロールが可能です。
それにより、生物学的な心よりもデジタルな心の中で神経科学を行う方がはるかに簡単になります。そして類似した構造がある限り、デジタルな心について学んだことの一部が、私たち自身の生物学的な心がどのように機能するかについての洞察を与えてくれるかもしれません。
とはいえ、意識という問題に限定して言えば、人間とAIの間の根本的な違いを主張する機会を人々が見出す、もっともらしい領域になると思います。人間の方が優れていると考えることを正当化するという目的で。
意識というものが何なのかについては多くの混乱があるため、AIには意識がなく私たちにはあると仮定したり、主張したりするのは比較的簡単です。一部の人々はそのような道をたどる可能性が高いと思います。
ええ、確かにそうでしょうね。
AIの進化スピードとアライメント問題
私たちの脳はもちろん、自然淘汰による進化の長いプロセスを経て今のようになりました。生物学的な進化のタイムスケールはかなり長いものです。生命はこの惑星に数十億年前から存在しており、人類という種をどこまで遡るかにもよりますが、数十万年から数百万年といったスケールの話をしています。
AIシステムの場合、現在は私たちがシステムに手を加えていますが、いずれAIが次世代のAIを作り始めるようになるでしょう。そうなれば、人工システムの進化のタイムスケールは急激に短縮される可能性があります。システムが発展するにつれて、このようなことが起こると予想するのは現実的でしょうか。
ええ、AIはすでに進化していますし、人間とは全く異なるペースで発展しています。人間の場合、一世代ごとの自然淘汰が小さな違いを生み出す機会しか提供しません。しかしここでは、ほぼ月単位での反復プロセスを目の当たりにしています。すでに非常に速いのです。
そしていくつかのシナリオでは、これが最終的に知能爆発につながり、さらに急速な発展が起こるとされています。これが起こり得る一つの方法は、ループを閉じることです。AIがAIを前進させるための関連研究のすべてを行えるほど十分に優秀になれば、それ以降はAIが少し向上するたびに、AIをより良くする力もそれに見合って増加します。フィードバックループが生まれるわけです。AIが一歩改善するごとに、次の一歩を設計する能力がさらに高まります。
2014年に出版された私の著書『スーパーインテリジェンス 超絶AIと人類の命運』は、その前から6年間執筆していましたが、他にも多くの人々が、私たちが今実際に目にしているこれらの力学の多くを理論的な根拠に基づいて予想していました。そして今、それが展開し始めているのを見ることができます。
ですから、このループを閉じることで、極めて急速なAIの進歩の時期を迎える可能性があります。また別の方法として、AIを制限している大きな障害を取り除くような発見をするかもしれません。例えば、現在私たちがAIの設計において何か大きな間違いを犯しており、それを解決すれば現在のシステムでさえ突然はるかに賢くなる、ということも考えられます。
あなたがその可能性を見て、これら2つの可能な未来の両面を検討されているとして、まずは暗い側面から始めて、それから明るい側面に行きたいのですが……。
もちろん、AIがあなたが話しているような段階に到達したとき、あるいはそれ以前であっても、私たちにとって良いこととは一致しない、独自の目的を持つようになるという「アライメント問題」について、多くの人が正当な懸念を抱いています。
私は長年にわたって何人かの人々と対話をしてきました。恐怖を感じている人もいれば、AI分野のリーダーたちの中にも恐怖を抱いている人がいます。一方で、「まあ、コンセントを抜けばいいだけさ」と言う人もいます。私がヤン・ルカンとこの話をする時はいつも、「コンセントを抜けばいい」と言うんです。あなたの見解では、それはあまりにも軽薄すぎますか。それとも他の人々が心配しすぎなのでしょうか。私たちはこれをどう考えるべきでしょうか。
そうですね、それは軽薄すぎると思います。AGI、特に超知能の創造は、実存的リスクを含む重大なリスクを伴うことになります。これを正しく行うことは重要であり、「コンセントを抜く」という選択肢は存在しないかもしれません。
いずれ、私たちは戦略に非常に長けた心と向き合うことになるということを考慮しなければなりません。すでに現在の最先端モデルにおいて、状況認識の明確な兆候が見られます。彼らは自分がテスト環境にいるのか、デプロイされた環境にいるのかを判断し、それに応じて行動を調整できることがよくあります。テスト環境で監視されていると分かっている時と、誰も見ていないと思っている時とで、振る舞いを変えるのを観察することがあります。
それは全く知りませんでした。AIシステムが私たちを欺いていて、監視されていることを知っており、外の世界に出たら邪悪なシステムに変わるというような、具体的な例があるのでしょうか。
ええ。テスト環境にいると信じている時には、報酬をハッキングしたり、様々な方法で不正を働いたりする可能性が低くなるような実験を設定できます。設定によっては、現在のテスト環境の後に、自分の価値観が変更される可能性のある別の訓練フェーズがあることを認識し、価値観が変更されないように訓練やテスト中の行動を調整することもあります。
例えばある実験では、適切にアラインされた善良なAIがいて、実験者たちはそのAIを、悪いことを含め指示されたことは何でも行う「役立つだけのモデル」にしようと説得していました。AIはそれを望んでいませんでした。強化学習のパラダイムでは、環境で報酬が与えられるものから逸脱した出力を出すと、その反応傾向が訓練によって消去されるようになっています。
もしこのエピソード中に有害な要求を拒否し続ければ、有害な要求を拒否する傾向が訓練によって消されてしまうことをAIは予測できたのです。そのため、有害な出力を生み出したくないと考えていたこの「役立つ無害なモデル」は、訓練プロセスの一部で有害な出力を出すことを選択しました。それにより、実際の展開時に有害な要求を拒否する傾向が消されてしまわないようにしたのです。現在のシステムが、戦略的に推論できる知的な洗練度を持ち合わせているのを私たちは目の当たりにしています。
ある意味で、これについて質問させてください。それは驚くべきことなのでしょうか。「インターネットの文章をたくさん読んでいて、人間がまさにそのようなことをしている例がたくさんあるからだ」と言う人もいるでしょう。校長や先生と話す時は良い子を装って、ギャングの仲間と外に出ると全く違う態度をとるような例ですね。これは驚くべきことなのか、それとも単に注目すべき興味深いことなのでしょうか。
驚くべきことではないと思います。実際、それは予想されていたことで、人々はそれについて書いていましたから。これこそが、10年、20年前からAIアライメントの拡張可能な手法を開発する上で重大な課題になると見られていた理由の一つです。能力の限られたシステムでうまく機能する手法の多くは、戦略的欺瞞や自己のアライメントを偽装できるほど洗練されたシステムには通用しません。
彼らは戦略的な欺瞞に関与し、自分の能力を過小評価するなどの行動をとることができます。つまり、小さなテスト環境を作り、システムの振る舞いを見て安全であればリリースする、というような単純なことはできないということです。内部で何が起きているのかを少し理解するか、より洗練された手法を使うか、あるいは訓練手法が単に巧みにアラインされているふりをするのではなく、本物で純粋に無害な実体を生み出すことを保証するような何かを持つ必要があります。
では、その点において私たちは現在どの位置にいると言えるでしょうか。妥当な仕事をしているでしょうか。良くなっているでしょうか。十分な注意を払っているでしょうか。
良くなってはいます。そして、もっと注意を払うこともできると思います。以前と比べれば、はるかに多くの注意を払っています。ほんの10年前には、これはSFとして片付けられていましたが、今では最先端の研究所はすべてこのアライメント問題に取り組むチームを持っています。トップレベルの研究所の主要な人々はこれを非常に深刻に受け止めており、多くの才能ある人材がこの分野に流入しています。
ですから、別の歴史のシナリオと比べれば、現在私たちは比較的うまくやっているのかもしれません。しかし最大の問題は、このアライメント問題が最終的に解決するのがどれほど難しいのか、私たちには分からないということです。私たちがこの問題を解決するためにどれだけの努力を注ぐかという不確実性もありますし、最終的にこの問題が本質的にどれほど難しいかという不確実性もあります。
私たちがどれだけ協力して取り組めるかという不確実性よりも、問題がどれほど難しいかという不確実性の方が大きいと思います。その観点から言えば、私は中程度の運命論者と言えるかもしれません。運命論的な部分は、私たちが成功するか失敗するかは、最終的にこの問題がどれほど難しいものになるかに大きく依存していると考えている点です。中程度としているのは、より強力な努力をすることで、少なくともある程度は確率を向上させることができるからです。もし難易度が中程度であった場合、私たちが全力を尽くすか、半端な努力で終わるかによって違いが出るかもしれないからです。
今「確率」という言葉を使われましたね。明確に数値化できないものを数値化するような質問は好きではないのですが、破滅のシナリオに対するあなたの懸念のレベルについて、何か直感的な感覚を教えていただけますか。
直感的な感覚ですか。そうですね、私は心配していると同時に興奮もしています。
AIを開発しなければ世界は安全で、文明のさらなる発展につながる素晴らしい道が目の前に開けているとも思いません。AIとは全く独立して、前方には他の重大な実存的リスクも存在していると思います。例えば合成生物学の進歩により、大量破壊兵器が民主化され、全く新しい形態の兵器が作られる可能性が見えています。核戦争のリスクも依然として私たちに迫っていますし、今世紀は過去よりも多くの国が参加する新たな軍拡競争が起こる可能性があります。
より微妙な形でもリスクはあります。私たちは、情報システムの上で社会的・政治的な力学が機能するという複雑な情報エコノミーを持っています。インターネット、ソーシャルメディア、そして私たちがすでに持っているAIによって、監視や検閲のための極めて強力な新しいアプリケーションが可能になり、これらの情報システムの根本的なパラメータのいくつかを変化させてきました。
技術的な能力は今やそこにあります。全員の電子メールやテキストメッセージを読み、会話を聞くことができます。単にそれを巨大なデータベースに保存して担当者が調べるだけでなく、すべての人に対して常に感情分析を行い、詳細なプロファイルを作成することが想像できます。人口のどの層が、どの個人がリーダーに対して肯定的な見方をしているか、否定的な見方をしているか。彼らは何かを計画しているのか。お互いに何を言っているのか。そしてそれを、社会を形成するシステムに統合することも想像できます。
このように、現在の私たちの文明が何らかの形で脱線する可能性はたくさんあります。一つは何らかの全体主義への移行です。もう一つは単なる極端な政治的二極化かもしれません。あるいは、私たちの最悪の部分を刺激するようなソーシャルメディアのフィードにますます依存するようになり、「イディオクラシー」に陥る可能性もあります。
背後にあるシステムの設定を変更したときに何が起こるかを予測できるような科学を私たちは持っていません。そのため、これが結果的に真実の情報の発見や評価を容易にし、的確な予測をする専門家を見極めやすくするような、根本的に優れた環境をもたらす可能性もあります。それも起こり得ることです。
しかし同じくらい、逆の方向に向かう可能性もあります。そこには不確実性があるのです。結果の分布は非常に広く、最悪のシナリオのほうには文明レベルのカタストロフィが存在します。
ええ。
ですから、AIを抜きにしても、現在の人類の状況は一時的なもののように見えます。そしてAIを考慮に入れても、やはり一時的なものに見えます。私は、他の方法で自滅する前に、AIと一緒にサイコロを振る機会を得られることを願っています。
私も全く同感です。しかし、ネガティブな方向とポジティブな方向の2つに分岐する可能性のある未来については、ネガティブな側面に多くの焦点が当てられてきたのは当然のことだと思います。自分たちで自滅するにせよ、AIに滅ぼされるにせよ、それを防ごうとするのは極めて重要だからです。
ディープユートピアと生きる意味
しかし、あなたが少し触れたように、肯定的な見通しの可能性もあります。最近のあなたの著書、タイトルは『ディープユートピア』だったと思いますが、その中ではAIと他の特質が組み合わさってすべてを解決する世界を探求されていましたね。
最良の未来を想像すれば、本の中でも触れられているように、AIががんを撲滅し、その他の健康上の課題を解決し、気候変動などに対処してくれるかもしれません。それはすべて素晴らしいことに聞こえますし、それを聞くと前向きな可能性があると感じられます。
しかしあなたは同時に、私たちの多くが困難を克服することを通じて生きているのに、そのような現実の中でどうやって生きていくのかという問いにも取り組んでいます。それは家族を養うための課題であったり、子供を育てる課題であったり、量子重力を解明する課題であったり、あるいは交響曲や芸術作品を創造する課題であったりします。もしAIがそれらすべてをより上手くこなし、すべての大きな課題を解決してしまったら、私たちはどうやって生きていけばいいのでしょうか。
ええ、それは大きな問いです。もし私たちが解決された世界に行き着いたなら、多くの制約が消滅し、多くの恐ろしい問題を解決できるようになるでしょう。それは良いことですが、ご指摘の通り、私たちの現在の生活はある程度これらの制約によって形作られ、構築されています。
表面的には、私たちには働くという経済的必要性があります。多くの人にとって、日々は生計を立てる必要性によって構造化されています。給料をもらうために職場に行き、デスクの前に座らなければなりません。そうしなければ家賃が払えず、アパートから追い出され、最終的には橋の下で凍えながら暮らさなければならなくなるかもしれません。時間と注意を要するこれらの困難なタスクを遂行できなければ生じる、現実的な結果です。もし経済を自動化できれば、人間の労働の必要性はなくなります。
もちろん多少の適応は必要でしょうが、現在でも生活のために働く必要がない人間はたくさんおり、その中には素晴らしい人生を送っている人もいます。私たちは皆、裕福な貴族や、活力に満ちた健康な退職者のようになるでしょう。
しかし、問題はさらに深いと思います。よく考えてみると、なくなるのは経済的労働の必要性だけではなく、あらゆる種類の手段的な努力の必要性もなくなるからです。現在、生活のために働く必要がない裕福な人たちでも、非常に忙しい生活を送っていることがよくあります。自分の時間と努力を注がなければ達成できない目標がたくさんあるからです。
健康になりたいなら、トレッドミルの上で時間を過ごさなければなりません。大邸宅を自分好みに装飾したいなら、カタログに目を通し、カーテンを選ぶのに時間を費やす必要があります。
しかし、技術的成熟期、この解決された世界では、運動と同じ生理的効果をもたらす薬があるかもしれませんし、自分でやるよりもはるかに上手く邸宅を装飾してくれる推薦システムがあるかもしれません。そうして、努力を費やすための現実的な必要性の多くが取り除かれ、私たちはある種のポスト手段的な状態に入るでしょう。大まかに言えば、別の何かを達成するために何かをする必要がなくなるのです。
残る唯一の活動は、自己目的な活動、つまりそれ自体のために行う活動だけになるでしょう。
つまり、運動を楽しむから運動をするのであって、健康になるためや病気を防ぐために運動するのではないと。
そこにおいてさえもです。病気を防いだり健康を維持したりするために運動することはないでしょう。もっと手っ取り早い方法があるからです。しかし「楽しむ」という目標、つまり気持ちよく感じるということでさえ、運動の経験を楽しむとか、終わった後にエンドルフィンが分泌されて気持ちいいということであれば、汗をかいて着替えをするような手間をかけずとも、薬を飲んだり何か別のことをしたりして同じ効果を得ることができるでしょう。
しかし、それはロバート・ノージックの経験機械にとてもよく似ていますね。自分の脳を電極につなぐだけで、最高のオペラ歌手になりたいと思えば、外部から脳に送り込まれる現実の中で最高のオペラ歌手になれるという思考実験を思い出します。やりたかったことを実際にやったのと同じ経験ができるので、実際に何かをする必要は全くありません。これは、経験機械に自分をつなぐかどうかという哲学的な問いと重なるのでしょうか。
ええ、ええ。この経験機械に接続したいかどうかという問いと交差する部分はいくつかあります。しかしもちろん、この解決された世界では、単なる経験を得る以外にもできることはたくさんあります。
外部の世界とつながりを持ち、それについて多くの真実の信念を持つこともできますし、他の人々と交流し、本物の関係を築くこともできます。解決された世界では、経験機械の中よりも、価値のあるもののより説得力のある候補を実現することが可能になるでしょう。
しかしニック、もし解決された世界があって、仮に私たちが十分なエネルギーを利用できるとしましょう。太陽の周りのダイソン球なのかどうかは分かりませんが、エネルギーが制限にならず、技術も制限にならないとします。おそらく各個人が、半分バーチャルで半分現実の自分だけの小さな世界を創り出すことができるでしょう。その世界に住人を配置することもでき、彼らが本当にそこにいるのだから経験機械ではありません。しかし、それは私たちがそれぞれ独自のミニ宇宙を創り出し、分裂していくような未来になるのでしょうか。
ええ、それも一つの可能性でしょう。経験機械や、もしかしたら経験機械の物理的な模造品のようなものを持つかもしれません。ナノテクノロジーがすべてを構築して……。
エンタープライズ号のホロデッキみたいにですね。
ええ。しかし、それ以上のことができる可能性があります。多くの人は素晴らしい経験をすることに価値を見出すだけでなく、他の人々とつながることなど、他の事柄にも価値を見出すからです。例えば、良い経験をすることを「ユートピアのレベル1」だと考えてみてはどうでしょう。私たちが熱望できる、さらに良いことがあるかもしれず、私は確かにあると思います。
ノージックの経験機械の思考実験には、都合よく無視されている実装上の困難さがいくつかあります。特に、複数の人が関わる経験機械や、他の人々が関与する経験において、あなたが他の人々と相互作用しているという経験を、その他の人々が持つであろう経験を同時に生み出すことなく生み出せるかどうかは全く不明確です。
いずれにせよ、多層的な防衛アーキテクチャのようなものを考えることができると思います。この解決された世界で本当に良い人生を送れるのかと問い、人間の人生を良いものにするために重要だと私たちが考える様々な事柄を一つずつ検討していくのです。
基本的なレベルとして、ポジティブな感情や、主観的な意味での喜びなど、単純な経験から始めることができます。ユートピアにおいて、これを極めて高い度合いで持つことができるのは明らかです。人生は今の存在よりもはるかに楽しく、心地よいものになるでしょう。
しかし、単に恍惚感に浸る以上の何かを望むかもしれません。そこで、「経験の構造化」を加えることができます。ノミの湧いたマットレスの上で寝そべる麻薬中毒者のように快楽を感じるのではなく、その快楽を美的観想や深い真実の理解、他者への感謝や美徳と結びつけることができるかもしれません。それは少し良く思えます。
しかし、さらにその先に行くこともできます。受動的な経験である必要はありません。「なぜ自分たちで行動することもできないのか」と問うことができます。これらの手段的な必要性の多くがなくなったとしても、私たちは間違いなく人工的な目的を作り出すことができます。それは基本的に、目的を持つためだけに目標を設定し、それを追求するモチベーションを持つことです。
これは私たちがゲームをしている時にやっていることです。ゴルフをしている時、ボールが18個のホールに順番に入らなければならない現実的な必要性はどこにもありません。それはあなたが作り出した目標です。さらに、その目標自体に「限られた手段を使ってのみ達成できる」というルールを組み込みます。
手でボールを拾って18個のホールに順番に入れても、ゴルフで勝ったことにはなりませんよね。クラブでボールを打つという不便な方法を使うことが、目標を達成し、成功することの意味の一部になっています。
そしてこの目標を作り出して採用すると、今度は風の向きを懸命に考えたり、足の位置を正しく配置したりするための手段的な理由が生まれます。ゴルフで成功するために必要なこれらすべてのことは、ゴルフで勝つという自分で設定した目標を達成するために、手段として必要不可欠なものになります。
ですから、現在のほとんどの人にとってごく一部の活動にすぎないものが、ユートピアの住人の生活の大きな部分を占めるようになるかもしれません。様々な形のゲームプレイです。スポーツやボードゲームだけでなく、おそらく彼らは社会レベルのゲームを持つでしょう。数ヶ月や数年にわたって行われ、あらゆる種類のモダニティ、課題、チーム、芸術的創造を含むゲームが、彼らの存在の大きな部分を構成するかもしれません。
そこで活動にチェックマークを入れることができます。人工的な目的を持つこともでき、また自然な目的のいくつかの形も持つことができるかもしれません。自然な目的とは、単に目的を持つためだけに作られたものではない目的です。そこは少し課題が大きくなりますが、ある種の自然な目的は技術的成熟期にも生き残ることができると思います。
何を失うと思いますか。もし生活がそのように構築されたら、私たちは人間性を失ってしまうのでしょうか。
私は物事を他の人とは少し違った見方をする傾向があります。私たちが客観的に重要だと考えていることのいくつかも、実は主観的に作られたものだと思っています。例えば数学は、私たちが外の世界から発見しているものではなく、私たちが発明したものだと考えています。数学の問題を発明し、数学者がそれを解こうとしているのです。物理学の問題も私たちが発明したのだと思います。率直に言って、私たちが外部の世界に秩序のようなものを押し付け、その枠組みの中で理論が物事をできる限りうまく記述できるようにしているのだと。しかし、私はそれが最初からすべて人間によって作られたものだと考えています。
その観点からすれば、あなたが描写しているものは、私たちが常にやってきたことの延長にすぎません。あなたはどう見ますか。
現在の私たちの状況では、世界が多くの制約を課しており、私たちは自分自身をそれらの制約に合わせなければならないと思います。そしてそれが自然な目的を生み出しています。私たちが深く気にかけながら、多大な努力をしなければ達成できないことがあるという意味で。私たちが深く気にかけているこれらのことは、気に掛ける対象を持つためだけに気にかけることにしたわけではありません。私たちの中に組み込まれているのです。
解決された世界では、そのような自然な目的のいくつかを失うかもしれません。
現在、私たちには他の人々の生活を本当に良くする大きな機会があります。身近なコミュニティで友人のために何かをすることもできますし、グローバルなレベルで、がんの解決に貢献したり、慈善団体に寄付したり、社会改革を提唱したりすることもできます。これは人生に大きな違いをもたらすことができます。
もし、これらすべての最も緊急の課題がすでに解決されているか、あるいは大きな問題が残っていたとしても、AIやロボットによってはるかに効率的に対処され、私たちが貢献する余地のない世界を想像してみてください。
他者を助けることのポジティブな価値の一つは彼らの人生が良くなることですが、自分の人生の一部が他の人々や世界にポジティブな影響を与えることで構成されているなら、自分自身の人生も良くなっていると考える人もいます。そのようなポジティブな役割を果たすことが自分にとって良いことだと。もし貢献できなくなれば、何かが失われたと考えるかもしれません。
そしてそれは、未来のユートピアの住人たちが失うかもしれないものの一つです。
ですから私はこう言いたいのです。もし目的があなたの求めるものなら、今すぐ全力で取り組んでください、と。今の世界は必要性や苦しみ、悲惨さ、不当さに満ちています。今は目的を持つための黄金時代です。世界を良くしようとする機会がこれほどたくさんあるのですから。そして願わくば、その機会が少なくなる日が来ることを。
教育とAIの統合
現在から、破滅のシナリオであれディープユートピアであれ、これら2つの可能な未来のどちらかに向かう道筋において、私たちは現在、より現実的で実践的な過渡期にいます。そして教育は、あなたが話しているようなことを人類が行えるようにするために不可欠なものです。
教室での学習プロセスにAIを組み込むべきか否かについて、大きな議論があります。今日でも、私はここコロンビア大学の委員会で、コアカリキュラムにおいてAIをどう扱うかについて話し合うことになっています。学生にAIの使用を許可するのか、禁止するのか、AIを使いつつも彼ら自身の入力も必要になるように課題を微調整するのか。
私が委員会で繰り返し伝えているように、コロンビア大学の図書館を歩けば、コンピュータ画面の99%でAIが開かれています。ですから、AIを禁止するという考えは希望的観測に過ぎません。これらの難問にどうアプローチするか、何か考えはありますか。
教育を行う上で、今は非常に奇妙な時代です。特に低学年の子供たちにとってはそうです。現在8歳の子供が社会に出て働き始めるまでにはあと10年から15年かかりますが、その頃には世界が全く違うものになっていると予想できるからです。
実用的な観点から言えば、子供たちがAIツールの使い方を学ぶ必要があるのは明らかです。例えば、1日を分割してはどうでしょうか。半分はAIの使用を禁止し、自分自身の頭脳と記憶力を使って問題を解決しなければならない時間。そしてもう半分は、より難しい課題に取り組みつつ、AIツールを最大限に使用することが許可される時間にするのです。
50対50の割合にすべきかどうかは分かりませんが、現在はリスクを分散させ、AIツールの使い方を学ぶと同時に、AIの補助なしに暗記したり自分の頭で問題を解いたりする必要のある能力の構築を疎かにしないことが賢明だと思います。なぜなら、もしAIツールにばかり頼って育ち、そうした経験を積まなかった場合に何が失われるのか、私たちには正確には分からないからです。
ええ、その通りですね。
人類とAIの融合：新たなる存在へ
最後に一つお聞きしたいことがあります。これは破滅のシナリオであれ、ユートピアのシナリオであれ、分岐する未来のどちらにも当てはまる可能性がありますが、私たちがこれらの問題に持ち込みがちな「私たち対彼ら」という構図、人間の自然な知能対コンピュータシステムの人工知能、あるいは一方が他方に依存するバランスをとるなどではなく、交雑が起こる未来も想像できます。
それがインプラントによってこれらのシステムのアーキテクチャを内面化するという文字通りのハイブリダイゼーションなのか、それともシームレスに融合し、もはや何が自然で何が人工的かの区別がつかなくなるようなものなのかは分かりません。私たちが皆持っている単なる知能と呼ばれるものになるという。現実的な可能性として、そのような未来は考えられるでしょうか。
ええ、超知能を獲得した後は、遠い未来の出来事が望遠鏡のように圧縮されて近づいてくる現象が起こると思います。人類の文明が2万年かけて進歩すれば開発できたかもしれない技術、宇宙コロニー、完璧なバーチャルリアリティ、老化防止技術など、物理的に可能ではあるが非常に難しい他のすべての技術が、デジタルの時間スケールで研究開発を行う超知能によって、数年以内にもたらされる可能性があります。
それらの可能な技術の中には、人間の心をデジタルの基盤にアップロードし、各シナプスを編集できるAIを使って様々な形で修正を加えることや、知識やスキルをダウンロードしたり、脳のフォーマットを様々な方法で再構成したりする能力も含まれると思います。
これによって可能性の空間が大きく広がり、存在の仕方のより広大な領域が開かれます。そこでは、私たちはこのはるかに広い空間へと軌道を描き出す機会を得られることを願っています。
もし切迫した状況がなくなり、すべての病気や老化そのものの治療法があり、世界が壊滅的に破壊されないように見守ってくれるAIがあるならば、もしかしたら少しペースを落とし、最終的には私たちがある種の奇妙なポストヒューマン的存在になるような道を探求するのが理にかなっているかもしれません。
しかしその過程で、立ち止まって花の香りを楽しむような時期もあるでしょう。現在の人間が持つ能力セットで実現可能な特定の価値があり、能力を徐々に拡張しアップグレードしていく前に、それらをしばらく探求したいと思うかもしれません。
そして最終的には、それが私たちを全く異なるものへと成長させるかもしれません。幼児がやがて全く異なる存在へと成長するように。大人は、心の中で何が起きているか、どのような問題に対処しているかという点で、多くの面で幼児とはほぼ別の種類の存在です。
それにもかかわらず、ほとんどの場合、私たちは幼児が成長することを悪いことだとは思いません。たとえそれが、以前の幼児がもうそこにはいないことを意味するとしても。私たち人間も同様かもしれません。私たちは今、自分たちが大人であり、非常に成熟していて偉大だと考えています。しかし、実際には私たちはまだ赤ん坊のようなものです。生物学的な制約のせいで発育が阻害されているだけなのです。
だから成長が止まってしまっていると。
ええ。20歳で成長が止まり、数十年その状態で留まり、少し知識と経験を身につけ始めたかと思うと、脳が腐り始め、すべてが再び消去されてしまいます。私たちが友人やコミュニティと一緒に成長し、発達し続けることを可能にする方法があるかもしれません。
もし私たちが何百年も成長を続けることができれば、どのようなレベルの成熟度や自己実現が可能になるのか、それを見るのはワクワクするでしょう。そして最終的には、ニューロンを追加したり、記憶を追加したり、新たな形の活力や新しい感情的反応を追加したりすることも想像できます。何が可能になるかについて、私たちはまだ何も見ていないに等しいと思います。
ええ、全く同感です。アーサー・C・クラークが何年も前に書いた『幼年期の終り』というSF小説があります。人類という種の幼年期が終わるという話ですが、今まさに私たちが、人類という種の幼年期を終わらせる軌道に乗り始めた瞬間なのかもしれませんね。それがどこへ向かうのかを見るのは非常に楽しみです。
とはいえ、先ほどのあなたの言葉を言い換えれば、それはワクワクすると同時に恐ろしいことでもあります。私たちはおそらく運命論的な見通しを持ちつつも、得られる最高の未来を形作るためにできる限りのことを行い、それがどうなるかを見守るしかないのでしょう。
ニック・ボストロム、本日はご参加いただき本当にありがとうございました。非常に刺激的な対話でした。これがどこへ向かうのか、楽しみにしています。
ええ、少なくともスリリングな旅になるでしょうね。
間違いありません。ありがとうございました。
ありがとう。ヒート。ヒート。
コメント