16,728 文字
ようこそ、メイキング・センス・ポッドキャストへ。サム・ハリスです。
ちょっと注意しときたいんやけど、これ聞いてはるってことは、今のとこ有料会員じゃないってことやから、この会話の最初の部分だけしか聞けへんのやで。
メイキング・センス・ポッドキャストの全エピソードを聞くには、samharris.orgで有料会員になってもらわなあかんねん。
そこでは、無料アカウントを提供する奨学金プログラムもあるさかい、お金払えへん人でも大丈夫やで。
このポッドキャストは広告を流してへんから、みんなの支援で成り立ってるんや。
だから、もしこの番組を楽しんでもらえてるんやったら、今日から有料会員になることを考えてもらえたらうれしいわ。
今日はニック・ボストロムと話すで。ニックはオックスフォード大学の教授で、フューチャー・オブ・ヒューマニティ研究所の創設者やねん。
たくさんの本を書いてはるけど、「スーパーインテリジェンス」っていう本は、このポッドキャストでも話題にしたことあるわ。
その本で、多くの人がAIアラインメントの問題に気づいたんやな。
彼の最新作は「ディープ・ユートピア: 解決された世界における人生と意味」や。それが今日の話のテーマやで。
話の内容としては、アラインメント失敗の懸念と、スーパーインテリジェンスの進歩が止まってしまう可能性について議論するわ。
人類を殺してしまうようなコンピューターを作るのも怖いけど、未来の実存的な問題を解決するのに役立つコンピューターを作れへんのも怖いよな。
それに、なんで賢い人らがスーパーインテリジェントAIのリスクに気づかへんのかとか、ガバナンスの問題が続いてることとか、ニックが「意地悪な問題」って呼んでるものについても話すで。
解決された世界っていう概念とか、ジョン・メイナード・ケインズの人間の生産性に関する予測とか、ユートピアの概念に関する不気味の谷の問題とか、人間の労働やその他の活動が置き換えられることとか、意味と目的の問題とか、デジタルな孤立とかマトリックスみたいなものに接続することとか、純粋な快楽主義とか、喜びと苦痛の非対称性とか、経験のますます微妙な違いとか、人工的な目的とか、脳のレベルで人間の価値観を変えることとか、極端な苦しみがない場合の倫理的な変化とか、ニックが「宇宙的な遺産」って呼んでるものとか、長期主義に関する倫理的な混乱とか、結果主義の問題点とか、大きな結果につながる小さな確率を扱う倫理的なジレンマとか、その他のトピックについても話すで。
とにかく、ニックは面白い考え方する人やと思うわ。いつも通り、彼と話すのは楽しかったで。
せやから、ニック・ボストロムをお迎えします。
ニック、また来てくれてありがとうな。
ニック: ようこそ、一緒に話せて嬉しいわ。
サム: そうやな、何年か前にAIについてめっちゃ暗い本を書いて、みんなを心配させたよな。あれは「スーパーインテリジェンス」っていう本で、前にも話したことあるけど。でも今回は、AIの未来で起こり得るすべてのええことについて本を書いたんやな。その本が「ディープ・ユートピア: 解決された世界における人生と意味」や。これについて話したいんやけど、めっちゃ面白い本やで。
でも、まずは二つの本の間を橋渡しするような感じで、今の状況について話そか。今のAIの状況についてどう思ってんの？「スーパーインテリジェンス」を出版してから、驚いたことはあった？
ニック: うーん、たくさんのことが起こったな。驚いたのは、現在のAIシステムがこんなに人間っぽいってことやな。一般的なスーパーインテリジェントシステムができる前に、長々と話せるシステムができるなんて。これ、もう何年も前からあるけど、10年前には明らかじゃなかったわ。
それ以外は、大体予想通りに進んでるかな。ちょっと速いかもしれんけど。
サム: 僕にとって一番驚いたのは、AIの安全性について話すとき、最も進んだAIがインターネットに接続されてへん段階があるって前提にしてたことやな。いわゆる「エアギャップ」やね。インターネットから隔離されたブラックボックスみたいなもんや。
そして、それを野に放つのが安全かどうかについて、たくさん考えられてたわけや。でも、その段階を完全に飛び越えてしもたみたいやな。開発されてるものは、事実上すべてのものに接続されてるわけやろ。
ニック: まあ、接続するのは便利やからな。今のところ開発されてるシステムは、エアギャップみたいな極端な安全対策が必要なほどの実存的リスクはないみたいやし。
その時が来たときに、そういう対策をするかどうかは、まだわからんな。
サム: そやな。今のところ、安全性に対する考え方にはそういう段階は含まれてへんみたいやな。もしかしたら、もっと進んだシステムがあって、それは何にも接続せえへんようにしてるのかもしれんし、そういう段階に達するかもしれんけど。
でも今のところは、システムの能力を完全に理解する前に、もう大事なもんのほとんどに接続してしまってるみたいやな。
ニック: 次世代モデルの開発中に、どういう風に動いてるんかは正確にはわからんな。一時的にエアギャップを使って、特定の能力レベルを評価するまでは接続せえへんようにしてるかもしれん。
一方で、インターネットアクセスが必要な能力、例えば情報を検索する能力とかも学ばせたいやろ。でも理論的には、インターネットのローカルコピーを使えば、それもできるかもしれんな。
結局のところ、リスクが十分高くなって、不便さや制限を正当化できるレベルになったときに初めて、実装したいと思うんちゃうかな。少なくとも、トレーニングやテストの段階ではな。
サム: リスクに対する懸念は変わった？特に、AIアラインメントの失敗のリスクについてはどうや？
ニック: ミクロな視点では、大体同じやと思うわ。もちろん、10年経って、最先端のモデルや分野全体がどんなもんかが具体的にわかるようになったから、もっと細かいところまで見えるようになったけどな。
でも、P Doom（破滅の確率）はそれほど変わってへんと思うわ。
ただ、強調点は少し変わったかもしれんな。狭義のアラインメント失敗、つまり拡張可能なアラインメントの技術的課題を解決できひんっていう問題から、他の方法で実存的な大惨事に陥る可能性にも注目するようになったわ。
広い意味でのガバナンスの課題とか、道徳的地位を持つデジタルマインドの問題とかやな。これらも、うまく扱えへんかったら大変なことになるかもしれん。
それに、スーパーインテリジェンスの開発に失敗するリスクもあるわ。これ自体が実存的な大惨事になる可能性があるんちゃうかな。
サム: それは面白いな。つまり、我々の幸福に完璧に調和した形で開発せなあかんし、調和せえへん形で開発したら大惨事になるけど、そもそも開発せえへんかったらそれも大惨事になる可能性があるってことやな。スーパーインテリジェンスでしか解決できひん課題に直面する可能性があるからやろ？
ニック: そうそう。でも、これらの問題がどれくらい難しいかは、正直わからへんのや。今まで解決したことないからな。
だから、どれくらいうまくいくかの不確実性の大部分は、我々がどれだけ一致団結できるかっていう不確実性よりも、これらの課題の本質的な難しさの不確実性の方が大きいんちゃうかな。
ある程度の運命論があるわな。問題が簡単やったら、たぶん解決できるやろうし、めっちゃ難しかったら、ほぼ確実に失敗するやろう。
中間的な難しさの場合は、これからの数ヶ月や数年で我々がベストを尽くすかどうかが大きな違いを生むかもしれんな。
サム: その問題については、新しい本の話をするときにまた触れようと思うわ。でも、めっちゃ賢い人たち、深層学習の基本的なブレークスルーに近かったり、責任があったりする人たちが、アラインメントの問題や、そもそもアラインメントがないことの問題を認識してへんかったことについて、どう思う？
ジェフリー・ヒントンみたいな人のことを考えてるんやけど。こういう人たちの中には、10年前にあんたが書いた本で警告したリスクを、ここ数ヶ月になって初めて認識し始めた人もおるみたいやな。
ヒントンが引退して、スーパーインテリジェンスを大惨事につながるような形で構築する可能性について心配し始めたのは、たぶん1年前くらいやったと思うわ。
あんたの本に触発されて、2016年にTEDトークでこのトピックについて話したんやけど、多くの人が10年前からこのことを心配してたんや。ヒントンみたいな人が、なんでいまになってこういうことを考え始めたんやと思う？
ニック: うーん、むしろ評価すべきやと思うわ。年を取るにつれて、特にヒントンみたいに有名な人やったら、自分の考えを変えたり、アップデートしたりするのはめっちゃ珍しくて難しいことやからな。
それが驚くべきことやと思うわ。以前にアップデートできんかったことよりもな。
まだ多くの人が、スーパーインテリジェンスへの飛躍がどれだけ巨大なもんかとか、それに伴うリスクを本当に理解できてへんのやと思うわ。
でも、このトピックについて不思議に思うのは、めっちゃ賢い人たちがおって、細部を理解してへんとは言えへんのに、リスクの認識を受け入れへんか、多くの場合はそもそもリスクについて考えられるカテゴリーとして受け入れへんってことやな。
そして、彼らの反論がめっちゃ説得力がないんや。反論があるにしてもな。これは、直感の違いっていう単なる事実で、理解するのがめっちゃ難しいんや。
デイビッド・ドイッチのことを考えてるんやけど、たぶんあんたも知ってるやろう。オックスフォードの物理学者や。彼の意見は変わったかもしれへんけど、数年前に話したときから変わってへんと思うわ。
最後に話したとき、彼はこのアラインメントの問題についてまったく心配してへんかったんや。彼が使った比喩は、我々みんなが子供を持つときに直面する問題と同じやって。
10代の子供らは我々の現実観と完璧に一致してへんけど、それでもうまくやっていけるし、子供らは我々の文化や指導、継続的な対話に基づいて成長していくんやって。そんなに大きな問題にはならへんって。
彼が言うことのすべてが、スーパーインテリジェンスが最終的に理解し、欲するようになることに対して、我々が認知的に閉じられることはありえへんっていう明確な主張に基づいてるんや。十分なメモリと処理時間さえあれば、そういう心と対話できるって言うんやけど。
でも、その会話はだんだん尻すぼみになって、下等な種との関係性のアナロジーを明確に認めることもなく終わってしまうんや。
もし、あんたよりもっと有能で、もっと賢い種との関係にあったとしたら、それがうまくいかへん可能性があるのは明らかやろ。我々が地球上の他のすべての種の利益を踏みにじってきたのを見てきたように。
このリスクの懐疑論者らは、我々がこの技術を発明してるって事実が、この関係性が間違った方向に進まへんことを保証してるって考えてるみたいやな。
でも、それがただ保証されてるだけやなくて、可能性が高いってことすら、なぜそうなんかについての深い議論に出会ったことがないわ。
あんたは、ドイッチと直接この話をしたことはあるんか？
ニック: そうやな、たぶん1回会ったことあるけど、この話題が出たかどうかは覚えてへんわ。随分前のことやし。
サム: でも、こういう人たちとぶつかった後の僕の困惑を共有してくれるよな？
ニック: まあ、今ではもう慣れてしもたかな。そういうもんやと思ってるわ。
たぶん彼らから見ても同じように見えるんやろな。パンツに火がついたみたいに走り回って、めっちゃ警戒してる人らがおるって。技術進歩が結局はええことやったっていう長い歴史があるし。
時々、物事をコントロールしようとする試みが、守ろうとしてるものよりも多くの害を及ぼすこともあるしな。
でも、プリマ・ファキエ（一見したところ）、うまくいかへん可能性がたくさんあるように見えるよな。ホモ・サピエンスよりもはるかに知的な新しい種に相当するものを導入するようなもんやからな。
仮に生物学的な種やったとしても、ちょっと危険そうに見えるやろ。少なくとも慎重にせなあかんと思うわ。
ここでは、もっと違うし、もっと急激やからな。
サム: そうやな、その変数が人々の懸念を鋭くするんちゃうかな。もし単に「我々より知的で有能な生物学的な種を発明して、それを野に放つんや。動物園に入れるんやなくて、我々と一緒に外に出すんや」って言うたら、人々はすぐにその危険性、少なくとも危険の可能性に気づくと思うわ。
その発明の「湿っぽさ」が、すぐに人々に危険を警告するんちゃうかな。非生物学的な人工物を作ってるっていう事実が、人々に「これは道具や、これは関係やない」って思わせてるんやと思うわ。
ニック: まあ、公平に見て、非生物学的な人工物やってことは、設計する際にもっと多くのコントロールのレバーを与えてくれる可能性もあるな。
すべてのパラメーターを読み取って修正できるし、ソフトウェアやから、生物学的な創造物ではできへんような多くの可能性があるわけや。
運が良ければ、このエンジニアリングをする際に精密なコントロールができるってことかもしれんな。
生物学的な種やったら、生まれつきの捕食本能とかがあるかもしれんけど、デジタルマインドにはそれがない可能性もあるしな。
サム: でも、我々の知能を超える自律的な知能について話してる場合、その言葉の意味そのものが、我々がそれが最終的に何をするかを予測できひんことを意味してるんやないか？
つまり、我々が予想してへん道具的な目標を形成する可能性があるわけや。これは独立した知能を持つっていう概念から出てくるもんやと思うわ。
単に別の心との関係に入るってことやな。今のところ意識の話は置いといて、単に知能の話をしてるだけやけど。
それについて、完全なコントロールがあって、いつでもプラグを抜けるっていうのは、より強力でより知的なものがあるって前提では考えにくくなるよな。
もう一度言うけど、単にこの問題の可能性を認めへん人がおることに驚いてるわ。議論が「うん、そうや。独立した知能との関係がこんな大惨事になる可能性は全然あるけど、でもこれが起こりそうにない理由はこれこれや」っていう風にはならへんのや。
そうやなくて、「あんたはただこのことを心配してるだけや。これは証明できへんことに対する一種の倒錯した宗教的信仰や」っていう風になるんや。
ニック: そうやな、こんな巨大な見通しや、もっと偉大な存在の可能性、そしてそれがどう当てはまるかについて直面したら、一方か他方で宗教的にならんのは難しいわな。
でも、代替案についても考える価値はあるな。人類のデフォルトのコースが、マクドナルドの店が4キロごとに点在してる滑らかな高速道路みたいなもんやないってことや。
グローバルな視点から見ると、もう物事はちょっとコントロールを失ってるように見えるわ。我々は計画もあまりなく、調整もなしに、さまざまな技術を発明してるんや。
今まで運が良かっただけかもしれんな。すべてを破壊するような破壊的な技術を発見してへんだけかもしれへん。
我々が開発した技術は使われてきたし、破壊的やったら破壊を引き起こすのに使われてきた。ただ、今のところ最悪の破壊は、一度に一つの都市を破壊するくらいやったってことやな。
サム: これは、前回話したあんたの「発明の耳」の議論やな。素晴らしい。
ニック: そうや。特定の技術的発見に焦点を当てることもできるし、それと並行して、コントロール不能なダイナミクスもあるわな。
進化って呼んでもええし、グローバルな地政学的なゲーム理論的状況が進化してるって言ってもええ。我々の情報システムや、ミーム的なドライバーは、インターネットやソーシャルメディアが発達して以来、かなり変わったはずや。
今や、人間の心をさまざまな方向に動かしてる。運が良ければ、我々をより賢く、より優しくするかもしれんけど、その保証はない。代わりに、より多くの分極化や中毒、あるいは我々の集合的な心のさまざまな種類の機能不全を生み出すかもしれんのや。
これが今のデフォルトのコースやと思うわ。せやから、AIも危険やけど、関連する基準は、今やってることを続けるのに比べて、どれくらい危険を増やすかってことやな。
サム: 実際、あんたの新しい本「ディープ・ユートピア」の初めの方で使ってる比喩が、これをうまく表現してるわ。「暴れ回る獣」の比喩や。
その関連する文章を読みたいんやけど、これらの文章は、我々が普段はこんなに生々しい言葉では考えへん問題の性質を浮き彫りにしてるからな。
あんたはこう書いてる。「人類は、途方もない力を持つ何かカオス的な獣の背中に乗ってるんや。その獣は、暴れたり、ねじれたり、突進したり、蹴ったり、後ろ足で立ったりしてる。この獣は自然を表してるんやない。我々自身の文明の創発的な振る舞いのダイナミクスを表してるんや。技術によって媒介され、文化によって屈折した、何十億もの個人、集団、機関の間のゲーム理論的な相互作用をな。
誰もコントロールしてへんのや。我々はできる限り長く、できる限りしっかりとしがみついてるだけや。でも、いつ何時、たぶん我々が巨人を間違った方法で突っついたせいか、あるいは理解できる理由もなく、ほんの軽い肩の動きで我々を塵の中に投げ捨てるかもしれへん。あるいは、我々を傷つけたり踏みつぶしたりするかもしれへん。」
つまり、我々には文化を通じて、あるいは個人的な行動を通じて、さまざまな方法で影響を与える変数がたくさんあるわけや。でも、ある基本的なレベルでは誰もコントロールしてへんし、特に我々の技術的進歩を考えると、システムはますますカオス的になってるんや。
せやから、この状況の中で、ますます知的な機械を作る見通しが出てくるわけや。そして、また二面性のあるリスクがあるわけやな。問題に寄与するような形で作るリスクもあれば、作れへんで問題を解決できへんリスクもある。より大きな知能がなければ解決できひん問題かもしれへんしな。
ニック: そうやな、それは確かにその側面の一つやな。スーパーインテリジェンスで賽を振る機会すらなく、その前に自滅してしまうのは、特に情けないことやと思うわ。
サム: そうやな。ここで、経路依存性の概念と、あんたが本の中で「意地悪な問題」って呼んでるものについて話してもええかな。この二つのフレーズはどういう意味なんや？
ニック: まあ、経路依存性っていうのは、結果がどういう風にそこに至ったかに依存するってことやな。機会が現在の状態だけに依存するんやなくて、歴史にも依存するってことや。歴史が違いを生むかもしれへんってことやな。
「意地悪な問題」っていうのは基本的に、技術が良くなるにつれて自動的に解決が容易になる問題のクラスと、必ずしもそうやない問題のクラスがあるってことや。後者の解決には、代わりに協調の改善が必要かもしれへん。
例えば、貧困の問題は、より効率的で生産的な技術を持つほど解決が容易になるかもしれへん。トラクターがあれば、より原始的な技術よりも、みんなに食べ物を与えるのが簡単になるわけや。だから、技術的進歩を続ける限り、飢餓はだんだん解決しやすくなるんや。
でも、戦争の問題は、単に技術的進歩をするだけでは必ずしも解決しやすくならへん。実際、技術的進歩をすると、戦争がより破壊的になる可能性もあるわな。
サム: 実際の紐の結び目との類似性を説明してくれへんか？
ニック: そうやな、アイデアとしては、ただ特定の方法で絡まった結び目があって、両端を十分強く引っ張れば、それが真っすぐになるみたいなもんや。
でも、他の種類の問題やと、技術的に進歩すること、つまり紐の端を引っ張るのと同じようなことをしても、結局ほどけへん結び目になってしまうかもしれへん。技術が完璧になるほど、その結び目はより締まってしまうんや。
例えば、最初から全体主義的なシステムがあったとしよう。そしたら、技術が完璧になればなるほど、独裁者が先進的な監視技術や、あるいは抗老化技術なんかを使って、自分の権力を維持する能力が高まるかもしれへんな。
完璧な技術があれば、永遠に消えへん結び目になるかもしれへん。
だから理想的には、結び目のない紐にたどり着きたいなら、技術的成熟に達する前に、これらの問題のいくつかを解決せなあかんかもしれへんのや。
サム: これは経路依存性の概念に関係してるな。じゃあ、この方程式の幸せな側面について話そか。「ディープ・ユートピア」と「解決された世界」の概念やけど、「解決された世界」ってどういう意味なんや？
ニック: 二つの特徴で特徴づけられる世界やな。
一つは、技術的成熟、あるいはそれに近い良い近似に達してるってことや。少なくとも、我々が物理的に可能やと既に分かってる全ての技術が開発されてる状態やな。
でも、もう一つの特徴があって、それは政治的・ガバナンス的な問題が、そういう種類の問題が解決できる限りにおいて解決されてるってことや。
例えば、めっちゃ進んだ技術を持ってて、一般的に公平な世界で、戦争をせえへんし、人々がお互いを抑圧せえへんような未来の文明を想像してみてな。少なくとも政治的な面ではええ感じの世界やな。
これが一つの特徴づけ方やけど、もう一つの見方としては、実際的な問題がすべて既に解決されてるか、もし残ってる実際的な問題があったとしても、それはAIやロボットの方がうまく取り組めるような世界を考えるんや。
そういう意味で、人間にとっては実際的な問題が残ってへん可能性があるわけや。世界はもう解決済みなんや。
こういう世界について考えるとき、まず面白いのは、ジョン・メイナード・ケインズの歴史的な予測やな。100年前のもんやのに、驚くほど正確やったんや。ケインズは何を予測したんやろ？
ニック: 彼は、生産性が今後100年で4倍から8倍に増加すると考えたんや。彼が書いてから今まで約90年経ってるけど、その予測は順調に進んでるみたいやな。
これが彼の予測の最初の部分やったんやけど、その結果として、我々は週4時間労働の社会になると考えたんや。人々はずっと少ない時間しか働かへんようになるって。
なぜなら、以前と同じくらい、あるいはそれ以上のものを、ずっと少ない労働時間で得られるようになるからや。1時間の労働が8倍生産的になるなら、4分の1の時間働いても2倍のものが得られるわけやからな。
この部分は間違ってたんやけどな。
サム: そうか、その部分はほとんど間違ってたんやな。でも、我々は確かに少なくはなってるよな。労働時間は減ってるし、人々は労働市場に入るのに時間がかかるようになってる。教育期間が長くなって、早く引退するし、産休や育休も増えてるし、労働時間も少し短くなってる。
でも、彼が予想したほどではないな。
ニック: そうやな、僕も驚いてる。たぶん僕の経済学の理解が足りへんのかもしれんけど、彼の生産性の予測がたった1桁違うくらいで済んだのが驚きやわ。
90年前に彼が使えたもの、つまり産業革命の結果を見て、その後の数十年に起こったすべてのことを考えると、我々が文明として到達する生産性についての彼の考えが、全然近くなかったってことの方が驚きやな。
ニック: そうやな、基本的な経済成長率や生産性の成長率はそれほど変わってへんのや。ムーアの法則みたいなもんで、長い間比較的安定した倍増ペースを保ってきたんや。
だから、彼はただそれを外挿したんやと思うわ。そうやって彼の予測を得たんやな。
サム: 本の中でも触れてると思うんやけど、ユートピアや、すべての問題を解決する見通しについて考えるとき、我々の思考に奇妙な歪みがあるよな。
世界の段階的な改善について考えるとき、それらはほとんど定義上、すべていいことに見えるよな。つまり、改善について話してるわけやからな。
「がんを治す」って言われたら、それはええことやと思うやろ。でも、改善しすぎると、急に人々の直感がぐらつき始めるんや。
がんと心臓病とアルツハイマー病を治して、さらに老化まで治して、2000歳まで生きられるようになったら、突然人々は「改善しすぎや」って感じ始めるんや。
幸福な未来に対して、一種の不気味の谷問題が起こるんやな。すべてが奇妙に感じられて、ある意味で望ましくない、さらには非倫理的に感じられるんや。
オーブリー・デ・グレイっていう老年学者を知ってるか分からへんけど、彼は老化そのものを事実上のエンジニアリング問題として解決することについて多くの議論をしてきたんや。
彼が老化を解決するというアイデアを提案するたびに、今描いたような反対意見にぶつかったんや。人々は、永遠に生きたいとか、1000歳まで生きたいと思うのは不適切で非倫理的やと感じるんや。
でも、彼がそれを分解して、「ちょっと待って、がんを治すのはええことやと思う？」って聞くと、みんなもちろん「そうや」って言うんや。「心臓病は？アルツハイマーは？」って聞いても同じや。
メニューに載ってるすべてのものを個別に提示しても、みんな一つ一つには賛成するんや。老化を構成するすべてのものを文字通り提示しても、みんな個別には欲しがるんやけど、包括的に見ると、なぜか下品で不気味に感じるんや。
ユートピアが、仮に達成できたとしても、売り込むのが難しいものになる感覚を持ってる？人々は、それについてまだ奇妙な倫理的直感を持ってるんやないか？
ニック: そうやな、僕はそれを売り込もうとはしてへんけど、むしろその反直感性や不快感、あるいはほとんど不安感に真正面から飛び込んでるんや。
みんなが個別には良いと同意するような小さな進歩のステップを全部積み重ねたら、実際に何が起こるかを本当に想像しようとすると、少なくとも最初は、多くの人が身を引くような感覚があるんや。
だから、本ではそれを糖衣で包もうとはしてへん。むしろ、解決された世界の状態がどれほど潜在的に嫌悪感を覚えさせ、反直感的になり得るかを本当に深く考えて、目をそらさずにまっすぐにそれに向き合おうとしてるんや。
そして、そういう解決された世界でどんな種類の価値観を実際に持てるのかを分析してるんや。
最終的には楽観的やと思うわ。言うてみれば、その向こう側には本当に価値のあるものがあると思うんやけど、確かに多くの重要な点で、現在の人間の状態とはかなり違うものになると思うわ。
そこにはある種のパラドックスがあるんやな。我々はこういう進歩のステップを一つ一つ達成するのに忙しくて、それを達成するたびに祝ってるんやけど、もしうまくいったら、それがどこに行き着くのかをめったに見ようとせえへん。
そして、見ようとしたときに、ある種の嫌悪感を感じるんや。「うーん、それはちょっと…」みたいな感じでな。
つまり、個々の病気を治せるようになって、老化も治せるようになるんやけど、他の小さな実用的なことも同じやな。
例えば、最初は白黒テレビがあって、次にカラーテレビができて、リモコンができて立ち上がらんでもええようになって、次にVRヘッドセットができて、次に脳を読み取る小さなものができて、見たいものを選ぶ必要すらなくなる。
脳の回路を最大限刺激するようなプログラムを直接選んでくれるようになるんや。
そして、もしかしたらそれすらなくなって、脳を直接刺激するものになるかもしれへん。そして、脳全体を刺激するんやなくて、脳の快楽中枢だけを刺激するようになるかもしれへん。
こういうことを、言うてみれば最適な洗練度まで徹底的に考えていくと、そのプロセスの最後に残るものが、まだ価値があるものなのかどうかが分からなくなるんや。
サム: 人々が躊躇し始める理由を明確にしようか。あんたは今、事実上マトリックスの中に我々を連れて行ったわけやな。
そして、非物質的やけど、望ましい経験を直接生み出すために脳を直接刺激する話をしたわけや。
たぶんそこまで行く途中で、他の形の分断もあるやろうな。解決された世界では、生存のために働く必要から仕事を切り離すってことやな。
まず、その進歩の最初の段階について話そか。我々がそこまでの生産性を達成して、仕事が任意のものになる段階やな。
我々の人生をゲームか芸術作品として考えんといかんようになる。毎日何をするかが、我々が生存するのに十分な経済的な購買力を持つかどうかに影響しなくなるんや。
失業や、純粋に自発的な雇用、あるいは人間の仕事を必ずしも尊重しない文化を持つことの問題は何やろか？すべての仕事が知的な機械によってより良く達成されるからな。
この状況をどう見てる？
ニック: 言うてみれば、玉ねぎの層を一つずつ剥いていくようなもんやな。
一番外側の表面的な分析やと、こう言うやろ。「機械がより多くのことをできるようになって、いくつかの仕事を自動化する。でも、それは単に我々人間が自動化されてへん他の仕事をするってことや。」
我々はこういう移行を過去にも見てきたわ。150年前は基本的に全員が農民やったけど、今は1〜2%しかおらへん。
同じように、将来的には人々はレイキのインストラクターになるかもしれへんし、マッサージ療法士になるかもしれへん。あるいは、我々がまだ考えてもへんような他のことをするかもしれへん。
確かに、そこにはいくつかの課題があるやろな。失業が出るかもしれへんし、失業保険や人々の再訓練が必要になるかもしれへん。
これが、機械知能の時代の影響を考える際の議論のスタートとゴールになることが多かったんや。
サム: マッサージ療法士が、こういう思考実験ではいつも最後まで残る人々の一人になるってのは面白いな。もしかしたら、それは関連する職業の婉曲表現かもしれへんけどな。
ニック: でも、問題はそれよりもっと深いんや。現在の仕事だけが自動化できるんやなくて、我々が発明できる新しい仕事も自動化できるからな。
本当に人間の脳と同じくらい一般的に有能なAIを想像してみてな。そして、それに伴うロボットの体もあるとしたら。
そしたら、人間の仕事はすべて自動化できるんや。ただし、比較的小さいけど、言及する価値のある例外があるかもしれへん。
我々が買うサービスや製品で、その機能的な属性だけでなく、それがどうやって作られたかも気にするものがあるやろ。
今でも、ある人が小物を買うとき、それがインドネシアのどこかの搾取工場で作られたものよりも、手作りの、例えば先住民の職人が作ったものなら、プレミアム価格を払うかもしれへん。
その小物自体は機能的に同じやとしても、その歴史や作られ方を気にするから、より高く払うかもしれへんのや。
同じように、将来の消費者がそういう好みを持ってたら、人間の労働のニッチを作り出すかもしれへん。人間が作ったものは人間にしか作れへんからな。
あるいは、人々はただロボットがより速く走ったり、より強く殴ったりするのを見るよりも、人間のアスリートが競争するのを見る方が好きかもしれへん。
これが、すべてが自動化できるっていう一般的な主張に対する、言うてみれば脚注みたいなもんやな。
だから、これはAI社会のもっとラディカルな概念になるわけや。労働者を再訓練するだけやなくて、完全に仕事をせえへんようになるんや。ある意味ではこれはもっとラディカルやけど、そんなにラディカルでもないかもしれへん。
我々には既に、生活のために働かへん様々なグループがおるやろ。子供らは経済的には完全に無用やけど、それでもめっちゃええ人生を送ってる。走り回って遊んだり、ゲームを考え出したり、学んだり、楽しんだりしてるやん。
経済的に生産的やないのに、素晴らしい人生を送ってるように見えるわな。
引退した人らを見てもええかもしれへん。もちろん、高齢になるにつれて健康問題が増えるっていう状況はあるけど、完璧な身体的・精神的健康を保ってる引退した人を考えてみ。
彼らはよく素晴らしい人生を送ってるやろ。世界中を旅したり、孫と遊んだり、テレビを見たり、公園で犬の散歩をしたり、いろんなことをする。庭いじりをしたりとかな。彼らはよく素晴らしい人生を送ってるんや。
それに、生活のために働く必要のない、独立して裕福な人らもおるやろ。彼らの中にも素晴らしい人生を送ってる人がおるはずや。
だから、たぶん我々全員がこういうカテゴリーになるんやないかな。みんな子供らみたいになるんや。
これは間違いなく大きな文化的な再調整が必要になるやろな。例えば、教育システム全体を変える必要があるかもしれへん。
子供らを生産的な労働者に育てるんやなくて、課題をこなして提出したり、言われたことをしたり、机に座ったりするんやなくて、会話の技術を磨いたり、自然の美しさを鑑賞したり、文学を楽しんだり、様々な趣味を持ったり、身体的な健康を追求したりすることに教育の焦点を当てられるかもしれへんな。
サム: あんたは既に、我々の中の何人かが取得した非実用的な学位について描写してるな。僕は学部で哲学を専攻したけど、あんたは何を専攻したんやったっけ？物理学やったんか、それとも哲学やったんか？
ニック: 僕はいろいろやったな。物理学と哲学、その他いろいろや。
サム: なるほどな。あんたは人文科学の多くを描写してたわけや。人文科学が、みんなが事実上独立して裕福になる未来にとって、最適な教育になる可能性があるって考えるのは面白いな。
もちろん、2024年現在の人文科学やないけどな。最近の大学キャンパスで起こってることを考えると。でも、純化されたバージョンの人文科学、例えばセント・ジョンズ大学のグレート・ブックス・プログラムみたいなもんやな。
ニック: そうやな、それか、その一部かもしれへんな。音楽の鑑賞とか、素晴らしい人生の多くの側面があると思うわ。すべてが本を読むことだけやないやろ。でも確かに、それも要素の一つにはなり得るな。
でも、問題はもっと深いところにあると思うわ。玉ねぎの層をもう一枚剥いでみようか。
技術的成熟の可能性を考えると、経済的な労働だけやなく、他のたくさんの活動も自動化できることに気づくんや。
今日の裕福な人らはよく忙しい生活を送ってる。様々なプロジェクトを追求してるし、自分で時間と労力を注がんと達成できへんことをやってるんや。
でも、人々が余暇時間を埋めるかもしれへん活動の種類を考えて、技術的成熟の段階でそれらがまだ意味を持つかどうかを考えてみ。多くの活動は消えてしまうか、少なくとも疑問符がつくんちゃうかな。
まだそれらの活動はできるかもしれへんけど、ちょっと意味がなくなるんや。だって、その目的を達成するもっと簡単な方法があるからな。
例えば、今の人らの中には、活動としてショッピングを楽しむ人もおるやろ。でも将来的には、単にAIに「これこれこういうものが欲しい」って言うだけで、完璧なものを見つけてくれるかもしれへん。
あるいは、料理を楽しむ人もおるやろ。でも、完璧な味と栄養のバランスを持つ食事を、ボタンを押すだけで作れるようになるかもしれへん。
スポーツや運動を楽しむ人らもおるけど、完璧な身体を維持するためのより効率的で楽な方法があるかもしれへんな。
芸術を作る人らもおるけど、AIがもっと美しくて深い意味のある芸術を作れるようになるかもしれへん。
こういう風に考えていくと、人間の活動の多くが、技術的に完璧な解決策と比べると、非効率で意味のないものに見えてくるんや。
サム: そうやな、これは本当に深い問題やな。我々の多くの活動が、単に目的を達成するための手段やないってことを示してるよな。
活動そのものに価値があるんや。例えば、料理をする喜びは、単においしい食事を食べることだけやないわけや。プロセス自体に価値があるんや。
でも、あんたの言うとおり、技術的に完璧な解決策があれば、そういうプロセスの価値が疑問視されるようになるかもしれへんな。
これは、人間の経験の本質や、我々が価値を見出すものについて、深い哲学的な問いを投げかけてるよな。
技術的に完璧な世界では、人間の努力や成長、達成感といったものの価値はどうなるんやろ？
ニック: そうや、これは本当に深い問題やな。技術的に完璧な解決策があっても、人間がそれらの活動を続けたいと思う理由はいくつかあると思うわ。
一つは、我々が活動そのものから喜びを得てるってことや。料理の例で言うと、単においしい食事を食べるだけやなく、料理のプロセス自体を楽しんでるんや。
二つ目は、その活動を通じて成長したり、新しいスキルを身につけたりする喜びがあるってことやな。例えば、新しい言語を学ぶのは難しいかもしれへんけど、その過程で脳が変化して、新しい考え方ができるようになるのは面白い経験やろ。
三つ目は、人間関係や社会的なつながりを築く機会になるってことや。一緒に料理したり、スポーツをしたり、芸術を作ったりすることで、他の人とつながることができるんや。
でも、あんたの言うように、技術的に完璧な解決策があると、これらの価値も疑問視される可能性はあるな。例えば、AIとの対話が人間との対話よりも深くて満足できるものになったらどうなるんやろ？
または、脳に直接働きかけて、新しいスキルを瞬時に習得できるようになったらどうや？あるいは、完璧な幸福感を直接脳に与えられるようになったら？
これらの問いに対する答えは、結局のところ、我々が人間の経験や成長、関係性、達成感にどれだけの本質的な価値を見出すかによるんやと思うわ。
技術的に完璧な解決策があっても、あえて「非効率」な人間的なプロセスを選ぶ価値はあるんやろか？それとも、そういう選択自体が意味をなくすんやろか？
これは本当に難しい問いやけど、こういうことを考えることで、我々が本当に価値を置いてるものが何なのかを深く理解できるんちゃうかな。
サム: そうやな、本当に難しい問題やな。でも、この問題について考えることは大事やと思うわ。なぜなら、我々が技術的に進歩すればするほど、こういう問いに直面することになるからや。
例えば、今でも既に、スマートフォンやソーシャルメディアが我々の人間関係や経験にどういう影響を与えてるかについて議論してるやろ。
技術がもっと進歩したら、こういう問いはもっと切実になってくるんちゃうかな。我々の経験や関係性、達成感の本質が、技術によってどんどん変わっていく可能性があるからな。
ニック、あんたの本では、こういう問題についてどういう結論に達したんや？技術的に完璧な世界で、人間らしい経験や成長の価値をどう保つべきやと思う？
ニック: 僕の本では、この問題に対する明確な答えを出すんやなくて、むしろこの問題の複雑さと重要性を探求しようとしてるんや。
でも、いくつかの重要なポイントはあるな。
まず、技術的に完璧な解決策があっても、人間らしい経験や成長を完全に放棄するべきやないと思うわ。なぜなら、それらの経験には本質的な価値があるかもしれへんからや。例えば、努力して何かを達成する喜びとか、他の人と深くつながる感覚とかな。
ただし、これらの経験の形は変わるかもしれへん。例えば、物理的な制約のある現実世界やなくて、バーチャルな環境で挑戦や成長を経験するようになるかもしれへん。
次に、個人の選択の自由は重要やと思うわ。技術的に完璧な解決策があっても、それを使うかどうかは個人が選べるようにすべきやろ。ある人は効率的な解決策を選ぶかもしれへんし、別の人はあえて「非効率」な人間的なプロセスを選ぶかもしれへん。
最後に、我々の価値観自体も進化する可能性があるってことや。技術が進歩するにつれて、我々が価値を置くものも変わるかもしれへん。例えば、個人的な達成よりも、集団的な進歩や宇宙の探索にもっと価値を置くようになるかもしれへんな。
結局のところ、技術的に完璧な世界でも、人間らしさの本質を失わへんようにバランスを取ることが大切やと思うわ。技術の恩恵を受けつつも、人間の経験や関係性、成長の価値を忘れへんようにせなあかんのやろな。
これは簡単な課題やないけど、我々が真剣に考え続けるべき重要な問題やと思うわ。
サム: なるほどな。本当に難しい問題やけど、考え続ける価値は十分にあるよな。
ニック、今日はいろんな興味深い話をしてくれてありがとうな。「ディープ・ユートピア」っていう本、本当に面白そうや。みんなにもぜひ読んでもらいたいわ。
今日の話を通じて、技術の進歩が我々にもたらす可能性のある未来について、深く考えさせられたわ。簡単な答えはないけど、こういう問題について議論し続けることが大切やと思うわ。
これからの技術の発展を見守りながら、人間らしさの本質を失わへんように気をつけていかなあかんな。また機会があれば、こういう話を続けたいわ。ありがとうな、ニック。
ニック: こちらこそ、サム。話せて本当に楽しかったわ。これからも一緒に考え続けていこうな。
コメント