17,084 文字
前回:デイビッド・シャピロ – ポストAGI経済 – キャリアと経済の未来対策 – マインドブロワーズ・ポッドキャスト｜AIに仕事を奪われたい
ほんまに、将来的には人工知能やロボットがめっちゃ高度になって、人間と同じように意識持ってるんかどうかわからへんくらいになるかもしれへんな。でもそれまでには、完全に不気味の谷を越えるための閾値みたいなもんがあるんやろうな。
例えば、体を24歳のままずっと保てるようになったり、コミュニケーション能力が劇的に上がって稼ぐ力も増えたりするかもしれへん。
学校システムなんて、従順な労働者を作り出すためのパイプラインみたいなもんやで。特にアメリカの学校は子供らの好奇心を教育によって消し去るのが得意なんや。
ワイはいつもオタクみたいな扱いやったわ。中学校のあだ名が文字通り「頭のええガキ」やったくらいや。でもそれが実は超パワーやったんや。教育受けへんかったけど、年収6桁の仕事に就けたからな。
幸せな人生って、大抵の場合は人間関係の量と質によるもんやで。
明日の謎 – デイビッド・シャピロとダニエル・ケアによるポスト労働経済学のエピソード
子供がおる人らがようワイに「子供の教育はどないしたらええんや」って聞いてくるんやけど、学校システムの発展が遅すぎるんちゃうかなぁ。アメリカと変わらへんのかもしれへんけど。
時代遅れやな、ほんま。まだ手書きの成績つけたりしとるし。
さっき、将来的にはコミュニケーション能力が重要なスキルになるって言うてたよな。
そうやな。嫁はんとよう話すんやけど、子供欲しいなぁ思とるし。もうちょい経済的に安定してから、長期的にどこに住むか決めてからやけどな。
人工知能とかの未来を見据えて、将来の親としてワイが重視したいのは、まず人間関係とコミュニケーションや。幸せな人生の大半は、人間関係の量と質で決まるからな。
つまり、自分を表現したり、物語を語ったり、積極的に聞いたり、交渉したり、境界線を設けたり、対立を乗り越えたりする能力やな。これだけやないけど、子供らが学ぶべき最も重要なことの一つやと思うわ。
なんでかっていうと、ワイの経験でも、おそらくあんたの経験でも、コミュニケーション能力は稼ぐ力を劇的に上げるからや。
将来何が起こるにしても、インフルエンサーでも、コミュニケーターでも、歌手でも、映画スターでも、自分を表現して信頼関係を築く能力は、友好的な関係でも仕事上の関係でも、今日最も価値のあるスキルセットやし、将来もそうやと思うわ。
他にも重視したいのは、生きることを学ぶことや。例えば、アメリカの学校は朝めっちゃ早く始まるんやけど、これが子供らにとってめっちゃグロテスクなことやと思うわ。
学校がアラームベルを使って子供らに一つのタスクから別のタスクに移るよう訓練するのは、昔の工場の仕組みに基づいとるからや。工場のベルが鳴るまで働き続けて、工場が9時や8時に始まるって言うたら遅刻したら罰せられるみたいな感じやな。
つまり、学校システムは従順な工場労働者を生み出すためのパイプラインみたいなもんや。これはめっちゃおかしいと思うわ。時代遅れなだけやなくて、非人道的やし、経済的生産性と従順さを何よりも優先しとる。
だから、ワイらは公立学校システムには絶対行かへんって決めとるんや。代わりに、自分の面倒を見る方法、食事、運動、良い人間関係、自然な興味に従うことを教えるつもりや。
特にアメリカの学校は、子供らから好奇心を教育によって奪うのがめっちゃ上手いんや。ワイは才能があって賢くて好奇心旺盛やったのに、学校が大嫌いやったのはそのせいやな。
アメリカの学校では、実際には好奇心に報いへんのや。「お前らが何に興味あるかなんてどうでもええ。自然な傾向を克服して、ワイらが教えたいことだけに集中せえ」みたいな感じやねん。
おまけに、学校が決めたペースでしか進めへんのや。自分のペースで進むことは許されへん。
現代の教育理論の欠点については長々と話せるわ。でも、まずは自己ケア、コミュニケーション、人間関係から始めるべきやと思う。これらが将来幸せで健康に生きるための最も重要なスキルセットやと断言できるわ。
ヨーロッパでもあんまり変わってへんと思うで。ワイは高校卒業して25年後に戻ってみたんやけど、教科書見たらワイ自身の本が見つかったんや。名前を書く欄があって、それが5年前のワイのやったわ。つまり、この可哀想な生徒は30年前の本使っとるってことやな。その間にめっちゃいろんなことが起こったのにな。
ちょっとした大惨事やと思うわ。ワイが子供らを学校に通わせとる理由の一つは、社会的な交流のためや。それが有益やと思うし、まだどないして代替したらええかわからへんのや。
ホームスクールのグループはたくさんあるで。従来の教育を選ばへんって決めた家族やら親のグループやねん。ホームスクールのグループは従来の学校と同じようなことをやっとるで。遠足したり、学芸会したり、いろんなことをやっとる。
そういう制度はあるし、もっと多くの人が従来の教育を選ばへんようになったら、ホームスクールのグループの需要も増えるやろな。意志があれば方法は見つかるもんや。常に機会はあるで。
へぇ、それは面白いな。アメリカではもうちょい一般的なんかもしれへんな。例えば、ワイが今住んどるキプロスでは単純に違法なんや。家で子供の教育しようとしたら警察が来て子供を連れて行くで。
ちょっと発展が必要やな。でもそれも、企業が国家に命令して、キプロス国が「子供を学校から企業のパイプラインに入れなあかん」って法的に要求するような権威主義的な考え方に戻るわな。めっちゃ非人道的やで。ワイに子供がおったら、キプロスから出て行くわ。
今のところは大丈夫や思うで。社会性をたくさん学んどると思う。その部分はええと思うけど、ヨーロッパは教育がええって知られとるかもしれへんけど、無料の教育やけど平凡な教育って呼ばれるべきやと思うわ。もっと選択肢が増えることを願っとるで。
将来の成功する人物像について話したいんやけど。ワイが70年代後半から80年代初頭に育った時、「違う」とか「特別」って呼ばれるのが最悪やったんや。「特別」っていうのは、何か問題があるってことをいい方で言うてるだけやったんやけどな。
今はその傾向が変わってきとると思うわ。誰かに「ああ、お前はええ奴や、めっちゃ普通や」って言われたら、ちょっと気分悪くなるかもしれへん。今の方が「特別」や「違う」の方がええって思うんちゃうか。その傾向見とる？
うん、その傾向は見とるな。世代的に見て、また分岐が起こっとる時期やと思うわ。最後にこんなんあったのは60年代くらいやな。ヒッピー運動とかビートニクとかカウンターカルチャー革命の時代や。
60年経っとるから、また文化革命が起こる頃合いやな。一部はダイバーシティやインクルージョンみたいな取り組みに後押しされとるけど、大きな部分はインターネットに駆動されとると思うわ。
人々は、今まで病的やと思われとった特徴が実は強みやってことに気づき始めとる。ワイの個人的な話をすると、ワイはいつもオタクみたいな扱いやったわ。中学校のあだ名が文字通り「頭のええガキ」やったんや。めっちゃ好奇心旺盛やったからな。
写真の授業で、元々の写真の撮り方がセシウムプレートを使うって知っとったんやけど、先生も知らんかったんや。これはちょっと変わっとる例やけど。
アメリカの学校のやり方と、ワイの頑固さと、親も抑え付けようとせんかったこともあって、ワイは従うことを学ばへんかったんや。
そして職場に入ったら、学校でいじめられたり馬鹿にされたりしたすべての特徴と、学校では良くなかった性格の特徴が実はスーパーパワーやったんや。ちょっと役に立つだけやなくて、マジでスーパーパワーやったんや。
教育受けへんのに年収6桁の仕事に就けたし、10万人のフォロワーがおるYouTubeチャンネルも作ったんや。これは単に自分の自然な能力を使っただけやで。
これは部分的に、社会の分岐によって駆動されとるんや。社会が広がるにつれて、より多くの機会が生まれる。そして、インターネットのおかげで、同じような人を見つけて新しい部族を形成する機会が増えとる。
以前やったら、1000人に1人や1万人に1人の性格や能力を持っとったら、おそらく自分と同じような人に会うことはなかったやろな。そんなに珍しい能力や性格特性を持っとったら、一生に1、2人しか自分と似た人に会えへんかもしれへん。
でも今はインターネットがあるから「わぁ、ワイらみたいな人が何千人もおるやん」「何万人もおるやん」ってなるわけや。自分の部族を作るのがめっちゃ簡単になったんや。
そして、ワイらは社会的な動物やから、その部族を形成するわけや。そしたら、「ワイには何も問題ないわ。この部族の文脈ではワイは普通や」ってなるんや。普通なだけやなく、病的でもないし。
つまり、これが受け入れられて良いってする社会規範があって、これは受け入れられへんし悪いってなると、違う社会的文脈に入ったら「実際、今まで排斥されたり病的と見なされてきたこの特徴は、自然なだけやなくてポジティブなもんや」ってなるわけや。
そしたら完全に台本をひっくり返すことになるんや。ワイが気づいたのは、社会がモザイク模様みたいになっとるってことや。XYZの特徴を持つ人の部族があって、ABCの特徴を持つ人の部族があって、ワイらは皆お互いを見つけられるし、もう互いに邪魔せんでもええんや。
自分のバブルに入って、自分のエコーチェンバーに入るわけや。正直、ワイはエコーチェンバーが悪いとは思わへんのや。「これがワイらの価値観や」「これがワイらの価値観やけど、これらが部族内で尊重する性格特性でもあるんや」って言えるからな。
これによって、人々は自分の居場所を持てるわけや。LGBTQであっても、神経学的に特殊であっても、スポーツマンであってもな。クロスフィットをする人もおるし – ヨーロッパにクロスフィットあるかわからへんけど – これは肉体的な競技みたいなもんや。
人々は好きなことをできるようになるわけや。これはこれからも続くし、実際加速すると思うわ。人工知能で仕事を失う人が増えたら、多くの人が自分の部族を見つけたり作ったりする時間がもっと増えるやろな。
それに、ワイが話したスタートアップの中には、自分の部族を見つけたり作ったりするのを助けるテクノロジーやスタートアップが出てくると思うわ。これがそのパターンを加速させるんちゃうかな、と予想しとるんやけど。
世界がどんどんバーチャルになっていくと思う？その質問をした理由は、例えば子供が遊び場でランダムに部族を見つけるよりも、インターネットで部族を見つける方がずっと簡単やと思うからや。職場でもそうやと思うけど。そういう意味で、バーチャルに部族が形成されていくって見とる？
そうやな、今はサイバースペースで起こっとるわな。でも、反例も挙げられるで。Meetup.comっていうプラットフォームがあるんや。
ワイは今はあんまりやってへんけど – 今はちょっと隠遁者みたいになっとるからな – 以前、生成AIのミートアップを作ったことがあるんや。これは、Facebookみたいなプラットフォームやけど、ローカルな社会グループを作るのが目的なんや。
そこで、特定の興味や年齢層に基づいて部族を作って、人を集めることができるんや。これは去年くらいにAIのミートアップを作った時の話やけど、ワイと同じ分野の人たちとたくさん出会えたわ。
もう一つの話やけど、5年前にSFの執筆グループに参加したんや。そこで今の嫁はんと出会ったんやで。特定の興味や興味の種類によって事前に選別することで、実際にかなり簡単に自分の部族を見つけられるんや。
Meetupみたいなツールを使えばオフラインでも出会えるし、もっと自分に合った都市を見つけることもできるはずや。これは前に少し触れたけど、ワイらは家を売ったんや。間違った都市におったからな。
変化に備えるために、ワイらの性格や社会的なニーズにもっと合う町に引っ越したんや。これは他の人もできることやと思うわ。仕事があるからっていう理由だけでその都市に住んでるんやったら、それは必ずしも子供のニーズや自分のニーズに最適化されてへんかもしれへんで。
達成感や社会生活のために最適化されてへんかもしれへん。ちょっと話が逸れたかもしれへんけど、参考になったらええな。
それは確かに面白いな。「正反対の人が惹かれ合う」っていう考え方は過大評価されとると思う？ワイらは自分の部族の中の方が幸せなんかな？
統計的に見ると、似た者同士の方が長続きする傾向があるな。同じ価値観を持つ人、似たような性格特性の人、社会経済的地位が近い人同士の結婚の方が長続きするんや。
でも、ワイが言いたいのは「正反対の人が惹かれ合う」んじゃなくて、「補完性が機能する」ってことや。例えば、ワイは嫁はんよりもずっと野心的で主張が強くて行動的なんや。嫁はんの方が慎重で思慮深いんや。
それでうまくいっとるわけや。これは作家にはよくあるパターンらしくて、ほぼ同じようなカップルの友達もおるし、逆のパターンの友達もおる。女性の方がワイみたいで、旦那さんの方がおとなしいみたいな感じや。
つまり、補完的な特性を持つことはできるってことや。例えば、一方が内向的で恥ずかしがり屋で、もう一方が外交的でフレンドリーやったり、カリスマ性があったりする場合、うまくいくことが多いんや。
なぜかっていうと、力関係がはっきりしてるからや。どんな関係でも何らかの力関係はあるもんやけど、それは必ずしも悪いことやないんや。誰がどの面で強いかがはっきりしてると、うまくいくんや。
例を挙げると、嫁はんの方が思慮深くて几帳面やから、オンラインの授業を受けるのがめっちゃ得意なんや。ワイは「やり方を教えてくれたら自分でやるわ」みたいなタイプやねん。
学び方が違うけど、力を合わせると互いの長所短所を補い合えるんや。でも、他のことは似通っとる必要があるな。部族や相手と全く同じである必要はないけど、共通の価値観や似たような政治観、似たような社会経済的背景があると、部族をまとめる接着剤になるんや。
これは結婚でも友達グループでも同じことが言えるな。これがワイの考えや。
20年後くらいの未来を考えてみると、ワイらの社会的交流がどれくらいAIやロボットとのものになると思う？例えば想像できる？
AIのガールフレンドを持って、一緒に過ごす時にはある種の薬を飲んだり、ある種の明晰夢状態に入ったりして、2時間の間に2週間分の夢の休暇を過ごすみたいなことが。そういう未来が来ると思う？
ワイの個人的な意見を言うと、AIの友達を持つのが素晴らしいと思ってた時期があったんや。でも今、それが選択肢としてあるのに、もう興味ないんや。これは予想外やったな。
実際、AIがどんどん物事を引き継いでいくほど、ワイは人間との交流を好むようになってきたんや。例えば、ワイの後ろには大きな本棚があるんやけど、本を寄付することにしたんや。
近所のテキストグループに「たくさん本を寄付するんやけど、誰か欲しい人おる？」ってメッセージを送ったら、隣人が来て1時間くらい本について話し込んだんや。これが記憶に残る、意味のある交流なんや。
少なくともワイにとっては、機械がワイと同じような経験をしてへんってことがわかると、なんか空虚に感じるんや。完全に中身のないもんに感じるわけや。
そのことに気づいたら、「AIのガールフレンドやAIの友達、アンドロイドの友達を待ち望む必要はないな」って思ったんや。もし起こるなら起こるやろうけど、特に期待はしてへんわ。
むしろ、VRゴーグルをつけて仮想の友達と過ごすことに満足する人がたくさんおるんやないかと思うわ。実際、スタートレックで何年も前にホロデッキ中毒ってのを扱ってたな。確かバークリー中尉やったと思うけど、ホロデッキ中毒になって、友達を全部作り直して、みんなが「お前は最高や」みたいなこと言うようにしてたんや。
確実に、そういうファンタジーの世界を好む人がおると思うわ。自分が主人公で、何をしても皆が好意的で、皆が友好的な世界をな。だってそこにはリスクも賭けるものもないからな。
ワイ個人的には、そういうのはちょっと落ち込むなぁ。でも、それに意味を見出す人を批判するつもりはないで。
同時に、脳コンピューターインターフェースを手に入れたり、ウエストワールドっていうテレビ番組みたいに人間とロボットの区別がつかなくなったりする未来も想像できるわ。
ロボットがめっちゃ高度になって、AIもめっちゃ高度になって、本当に意識があるのか、人間と同じように感覚があるのかわからへんくらいになる時代が来るかもしれへん。でも、それはまだちょっと先の話やと思うわ。
長い目で見れば、アンドロイドの友達を持つ可能性は十分あるけど、もしそうなるとしても、かなり先の話やと思うわ。
でも、ワイらの心はだまされやすいもんやと思わへん？例えば、ワイはたまにコンピューターゲームをするんやけど、本当に面白いと思うもんを見つけたら、例えばサイバーパンク2077みたいなゲームやけど、それをようプレイしとると、ある種の関係を築いてしまうんやないかな。
少なくとも、そう感じるよな。友達が死んだら悲しくなったり、誰かとロマンスを築こうとして上手くいかへんかったりすると落ち込んだりするやん。AIでそれを強化したら、めっちゃ強烈な体験になるんちゃうかな。
そうやな。確かに、サイバーパンクは史上最高のゲームの一つやと思うわ。AIを加えてキャラクターをもっと反応的にするのは簡単やと思うわ。
今のところ、脚本はもう書かれてて固定されとるからな。一回プレイしたら何が起こるかわかってまう。もう一回プレイしても同じやし。
その意味では、めっちゃ非現実的やねんけど、別の意味では、自分で言いたいことを選べへんのや。3つか4つの選択肢しかないけど、人間やったら全然違うことをしたいかもしれへん。
そやから、AIはビデオゲームをもっと魅力的で動的なもんにできると思うわ。同時に、これらは片思いの関係みたいなもんやと思うわ。画面の中のキャラクターは実際にはお前のことを知らへんのやからな。
ただの模造品やねんけど、物語作家として、ワイら作家はそれが得意なんや。観客に感情を起こさせるのが作家の仕事やからな。
ビデオゲームは芸術表現の一つやから、お前が感じとる感情 – これはちょっとメタな話になるけど – それはお前のアイデアやないんや。その感情を持つっていうアイデアは作家のもんなんや。
でも、お前が感じとる感情的な影響が十分リアルになって、気にならんくらいになってきとるわけや。だからワイは、仮想の友達やロボットの友達を好む人がたくさんおると思うんや。
ワイにとっても、十分よくなったら受け入れられる時が来るかもしれへん。でも、完全に不気味の谷を越えるための閾値みたいなもんがあるんやと思うわ。
これについて研究されとるのは知ってる？例えば、サイバーパンクの続編でAIのNPCを導入したり、選択肢を増やしたりして、もっとリアルに感じるようにするとか。そういう方向に進んでるって知ってる？
ゲームエンジンに統合されとるかどうかはまだわからへんけど、確実にそういうモッドはあるで。例えば、スカイリムのコンパニオンと会話できるモッドがあるんや。これはベセスダ・ソフトワークスのオープンワールドゲームやけど。
ゲームスタジオがまだ取り入れてへんかもしれへんけど、きっとそうなると思うわ。次世代コンソールではな。唯一の問題は、まだそういうモデルを動かすのにコストがかかることやな。
ワイが注目しとるのは、リキッドネットワークとかリキッド・ニューラル・ネットワークみたいな会社や。これらは、スマホでも動くくらい小さなモデルなんや。
スマホで動くモデルができたら、XboxやPlayStationでも簡単に動くはずやし、リアルタイムで対話を生成するのに使えるやろうな。
ワイが予想するに、あと1、2世代くらいしたら、これらが全部ビデオゲームに完全に統合されると思うわ。だいたい2年から5年くらいやな。これはビデオゲームの世代のライフサイクルくらいの期間やからな。
確かに面白くなりそうやな。GTA6がそういう機能を持つかどうか調べてみたんやけど、別のことに焦点を当ててるみたいやわ。
2045年くらいの未来がどんな感じになるか、お前はどう想像しとる？シンギュラリティにかなり近づいてる頃やと思うけど。ワイがちょっと疑問に思うのは、いつも発展が早すぎるって言うけど、人間の期待の方が常に一歩先を行ってるんちゃうかなってことや。
例えば、GPT-5が出たら「すごいな、でもGPT-6はいつ出るんや」みたいな感じやろ？ワイらはいつも一歩先を行きたがるもんやと思うんやけど、シンギュラリティに近づくにつれて、そういう傾向は変わると思う？
そうやな、ワイらは自分で自分のゴールポストを動かすのがめっちゃ上手いんや。特に停滞期の後は、次の新しいもんを常に欲しがる傾向があるわな。
例えば、インターネットが出た後、Facebookが登場するまでの約10年間は、アイデアのマーケットプレイスみたいなもんが本当に変わったんや。Facebook、Twitter、Redditとか、新しい種類のインターネット体験が出てきたわけや。
でもその後、約10年間は停滞してたんや。ビジネスモデルが確立されてしもうてな。今、ワイらは変化の準備ができとるんや。
電子機器との関係を変える準備ができてるだけやなく、経済的にも変化の準備ができとる。多くの人が住宅を買えへんかったり、学生ローンがあるのに良い仕事がなかったりするからな。
人々の変化への欲求、これがお前が注目すべきところやな。これは歴史を通じて周期的に起こることなんや。通常、何らかの形で緊張が高まって、そして何かがその緊張を破るんや。
過去2世紀くらいの間、技術が実際に強制関数って呼ばれるもんになってきたんや。つまり、社会変化を引き起こす力になってきたってことや。
フランス革命やアメリカ革命みたいに、政治システムによって緊張が高まって、時々革命を起こして変化を強制するってこともあったけど、今はデモクラシーがあるから、政治的な変化を少しずつ行えるようになってる。
これで、内戦みたいなもんが起こらんようになればええんやけどな。アメリカでは実際に起こったし、また起こるんちゃうかって恐れとる人もおるけど、ワイはそうはならんと思うで。
特に過去1世紀くらいは、技術の変化が早すぎて、技術が政治や経済、そして社会の残りの部分を reshapingしとるんや。技術がその変化を強制しとるわけや。
お前が気づいとるのは、GPT-4が出ても世界を救わへんかったから、GPT-5も世界を救わへんやろうから、他の技術が必要やとか、実装せなあかんとか、そういう感じの反応やろ。
ワイが思うに、お前が本当に気づいとるのは変化への欲求なんや。物事が良くなると、人々は何も変わって欲しくなくなるんや。
50年代や60年代に育った人を見てみ。少なくともアメリカでは、それが最後の絶頂期やったんや。戦争から抜け出して、アメリカが断然世界最強の国やった時期や。
経済も良かったし、仕事も良かったし、機会や希望、楽観主義がめちゃくちゃあった時期やったんや。でも、そこから50年か60年かけて、ゆっくりと下降してきたんや。
物事がより皮肉っぽくなって、楽観的でなくなって、未来への希望が少なくなって、機会も少なくなってきたんや。
お前が気づいとるのは、この時代精神なんや。「ワイらは希望と楽観主義のある場所に行きたいんや。皮肉や悲観主義はもうええわ」っていう感じやな。
技術を通じてか、政治の変化か、経済の変化か、はたまたその全部かはわからんけど、とにかく人々が幸せになれる場所に行ったら、人々は「よし、もう変化に飢えてへんわ」って感じになるんや。
ワイのオーディエンスでよく見るのは、人々が本当に飢えてて、「ええで、この新しい技術を持ってきて、全部ひっくり返してくれ。今の状況が気に入らへんから、何か変わって欲しいんや」って感じなんや。
これは、会話の最初に戻るけど、変化がしばしば脅威か機会かってことに関係してくるんや。それはしばしば、どうアプローチするかによって変わってくるんやで。
人々に飢えがあるから、物事がもっと早く動くことを望んでるって言うけど、そしたらシンギュラリティの考え方について、進化があまりにも早すぎて… ワイもどう説明したらええかわからんけど、カーツワイルが言うてたみたいに、イノベーションが絶え間なく起こって、ついていけへんくらいになるってことやと思うんやけど、そういう定義のシンギュラリティを信じとる？
まぁ、そんな感じやな。これは人々がよく自分の教育やレンズを通して物事を見る例やな。ちなみに、レイ・カーツワイルはめっちゃ頭のええ人で、たくさんの発明もしとるし、明らかに技術についてよく知っとる。
でも一方で、ワイらが話しとるのはコンピューターのことやで。確かにコンピューターは多くの下流の影響を与えられるけど、直接影響を与えられへんこともたくさんあるんや。
コンピューターは気候や天気に直接影響を与えられへんのや。もっと性能のええコンピューターがあれば、ハリケーンが正確に何をするかモデル化できるかもしれへんけど、結局できるのはハリケーンから逃げることだけやで。
これはコンピューターの計算能力の限界の一例やな。もう一つの例を考えてみ。2045年までに化学、遺伝学、生物学のすべての問題が解決されたとしよう。治せへん病気がなくなって、体を24歳のまま永遠に保てるようになったとする。
これらは全部可能性のあることやけど、それでも影響を与えられへんことはあるんや。地球の自転を変えることはできへんし、物理学の基本法則を克服することもできへんのや。
ワイの友達の一人で物理学者がおるんやけど、何年か前に言うてたんや。「たとえすべての知的問題を解決したとしても、光速を超える移動みたいなもんは単に不可能かもしれへん。火星に行くのに数ヶ月、次の恒星に行くのに数世紀かかるってのは、いつまでたっても変わらへんかもしれへんで」って。
人々が望むような形では解決できへんことがたくさんあるんや。
確かに、コンピューターが非常に強力で高速になって、地球全体のリアルタイムシミュレーションを実行できるようになって、多くのことを未来に向かって予測できるようになるかもしれへん。
でも、それでも木が育つのには時間がかかるし、潮の満ち引きは続くし、生命の周期には時間がかかるんや。
脳にインプラントを入れたり、遺伝子改変したりしても、おそらく物理的な限界はまだあるやろな。なぜかって？物理法則はお前が何を考えとるか、何を知っとるかなんて気にせえへんからや。物理は物理なんや。
2045年までにはすべての計算問題が解決されると思うけど、それでも問題や経験の総数からすると、それはまだ一部分でしかないんや。
確かに、めっちゃワクワクする時代になるやろうけど、魔法みたいにはならへんと思うわ。物理法則を突然消し去ることはできへんと思うで。
ワイが思うに、お前が言うてる長寿脱出速度みたいなもんでも、人々にとっては「わぁ、本当に何かが変わったんや」って感じるには十分やと思うわ。
数年前にメタ（Facebookの親会社）におった時、ピーター・ティールの話を聞いたことがあるんやけど、彼は技術の進歩が実際には遅くなっとるって見方をしとったんや。
彼が言うには、ビットやコンピューターの面では加速しとる。ワイらがテクノロジーやイノベーションって呼んでるものやな。でも、それ以外のすべてのことに関しては、ほとんど何も起こってへんって。
ワイが思うに、化学を解決したり、長寿脱出速度を解決したりしたら、それはただビットを革新するだけやなくて、ワイらの体を革新することになるんちゃうかな。
それは可能やな。でも、生物学はめっちゃ複雑なんや。ワイも同意するけど、科学技術はすべてシグモイド曲線に従ってるように見えるんや。
シグモイド曲線ってのはSの形をした曲線のことや。この曲線には、加速し続けるように見える点があるんやけど、その後加速が遅くなって、最終的には平坦になるんや。
ワイらはまだ、コンピューターの計算能力で可能なことの上限には近づいてへんけど、科学全体としては、コンピューター科学でのそういう指数関数的なイノベーションが必要なんや。他の科学分野を現在のペースで進めるためにな。
例を挙げるとな、たしか80年代に核融合の研究を始めた時、最初の核融合実験は机の上に乗るくらい小さかったんや。でも、この問題を解決するのが難しいってわかって、核融合実験はどんどん大きくなって、指数関数的に高価になってったんや。
科学の最前線で解決したい問題の多くは、指数関数的に多くの時間、エネルギー、資源、頭脳を必要とするんや。
大型ハドロン衝突型加速器の規模と費用を見てみ。ジェームズ・ウェッブ宇宙望遠鏡の規模と費用を見てみ。ヨーロッパにある大型の核実験施設の規模と費用を見てみ。
ワイらはこの指数関数的な成長をあらゆる分野で見とるんや。新薬開発のコストは指数関数的に上がっとるし、新薬を発明し続けるのに必要な科学と計算量は天文学的なもんになっとるんや。
確かに、ムーアの法則みたいな指数曲線はあるけど、これは現在のペースを維持するためだけに必要なんや。
進化論の赤の女王仮説みたいなもんやな。一種の共進化が起こっとるわけや。量子コンピューティングや人工知能、その他のものはめっちゃ速く進んでるけど、それでも他のすべてのものは同じペースか、むしろ遅くなってるんや。
これが、シンギュラリティについて過度の期待を持つことに慎重になる理由の一つやな。2045年までには計算の問題は解決されるやろうけど、世界にはまだ他の制限があるんや。
将来の予測をする時、自分の予測をどれくらい一貫させとる？AGIについていくつか予測してたの覚えとるけど、例えば長寿脱出速度とかについて、新しい情報を得たら「これはもっと時間かかるな」って言うたり、それともかなり一貫性を保っとる？
そうやな、新しい情報や矛盾する情報に直面した時に自分の信念を更新せえへん人は馬鹿やと思うわ。だから、新しい価値ある情報を得たら、ワイは何が起こると思うかを更新するようにしとるで。
AGIに関して言えば、ワイの予測は実際に正確やったと思うわ。今日のAIができることを見てみ。計算流体力学ができるし、がんの診断を助けられるし、医学研究を進められるし、AIはワイにはできへんことをたくさんできるんや。
これが人々の定義やったんや。「AIは人間ができることで、それができへんもの」って。でも、AIはもうワイができることを多くの面で超えてしもうたんや。
これがワイの見方の一つやけど、じゃあワイが何を見とるかっていうと、実はワイはこれについて講義をするんやけど、データを信じるってことや。
人間には指数関数を直感的に理解するための神経機構がないんや。これはただ単に、そういう風にできてへんのや。よく言われるのは、ワイらは局所的かつ幾何学的に考えるように進化してきたってことや。
でも世界はグローバルで指数関数的なんや。だから、お前の直感や感情、基本的な理解じゃ十分やないんや。何が起こっとるかを直感的に理解するのは、文字通り誰の認知の地平線をも超えとるんや。
だからワイはいつもデータを信じるんや。良いデータがある時はな。グラフに一貫した線があるかどうかを見るんや。例えば、ムーアの法則とか人口変化とかな。これらは、グローバルスケールや長期的な出来事を考える時に実際に信頼できるもんなんや。
ちなみに、人間が局所的かつ幾何学的に考えるように進化してきただけやなく、せいぜい1年先くらいまでしか考えへんように進化してきたんや。
これが自然なサイクルやからな。通常の状況下では、冬を乗り越えることだけを考えればよかったんや。「夏はいつ戻ってくるんやろ」くらいしか考える必要がなかったんや。それ以上先のことを考えるようには進化してこなかったんや。ほとんどの自然のサイクルはそれより短いからな。
だから、1年以上先のことはデータを信じるんや。局所的なことを超えるものはデータを信じる。幾何学的なものを超えるものはデータを信じる。ワイはそういうものを探して、そうやって予測を立てとるんや。
例えば、長寿脱出速度についてやけど、まだ2030年代半ばから2040年代前半くらいやと思っとる？それともその考えは変わったんかな。
ワイは2010年くらいから再生医療と幹細胞療法の研究をフォローしてきたんや。もちろん、どこにも書き残してへんから鵜呑みにせんでほしいけど、その時から2020年代に物事が変わり始めると予測してたんや。
今や再生医療産業は数十億ドル規模の産業になっとるから、かなり近い予測やったと思うわ。「これが実際に現実のものになるのはいつや」っていう意味ではな。
このまま続くんやったら、おそらく2035年よりも前になると思うわ。再生医療は2030年より前に本当に花開くんちゃうかなって感じやな。
長寿脱出速度は、生物学的なシンギュラリティみたいなもんやけど、実際にできるのはデータを見ることやな。パイプラインにどれくらいの薬があるか、その薬が実現するまでにどれくらい時間がかかるか、どれくらいの投資があるかとかな。
ワイが太陽光発電がいつ主流になるか予測した時も、投資を見るだけでよかったんや。投資が行くところに結果が付いてくるからな。
2010年代初頭に太陽光発電への投資が指数関数的に増えてるのを見て、その傾向が15年続いたら、今や太陽光発電は安すぎて、原子力発電所を建てるよりも太陽光パネルを設置する方が安くなってしもたんや。
だからこれは基本的に解決済みの問題なんや。指数関数的に増加する投資を見たら、平均して7年から15年くらいでその問題はほぼ解決されるみたいやな。
長寿みたいなものへの投資が指数関数的に増えとるって事実を見ると、何か障害にぶつからへん限り – まあ、他の例を見てもわかるけど – 結果はついてくるはずや。だから2035年よりも前に長寿脱出速度に到達することについては、あんまり心配してへんな。
シンギュラリティに到達する前に、これは見られるはずのもんの一つやと思うわ。
でも、解決できへん問題が一つだけあるリスクはあると思う？例えば、オーブリー・デ・グレイが言うてたみたいに、体の中に10個のタイムボムがあって、脳がそのうちの一つやとするやん。脳を再生できへんけど、他のすべてを再生できるとしたら、それでも100歳くらいまでしか生きられへんのちゃうか？
それとも、化学と生物学の理解さえあれば、全体に影響を与えられるから長寿脱出速度は達成できると思う？
そうやな、これについては長年人々と議論してきたんやけど、生物学を第一原理的に見ると、「永遠に生きる生き物の先験的な証拠なんてないやん」って言いたくなるかもしれへん。
でも実際はそうやないんや。永遠に生き続けるように見える生物は実際におるんや。人間ほど複雑な生物が永遠に生きる例はないけど、同時に、細胞や多細胞生物が無期限の寿命を持つ証拠はたくさんあるんや。
自己再生能力を持つ生物もおるし、さらに人間の繁殖を通じた更新の証拠もあるんや。これは面白いことに、お前の体が一生涯で蓄積したダメージがあったとしても、何らかの方法で進化と生物学がそれをすべて修復して、新しい生命体を作り出すことができるってことなんや。
子供を通じてな。子供は、お前が受けたかもしれないダメージを補償するだけやなく、しばしばお前よりも活力があるんや。これがヘテロシスや。進化の目的は、お前よりも優れた子孫を作ることなんや。
生物学がすでに解決してきたすべてのことを見ると、ワイらはただ正しいボタンの組み合わせを見つける必要があるだけなんや。
タンパク質や酵素やRNAなど、生物学的なレバーはたくさんあるけど、これはワイらが今まで出会った中で最も複雑なパズルボックスなんや。文字通り、生物学は自然界で最も洗練されたシステムなんや。
人間の脳は、ワイらが今まで検出した中で最も複雑な物体なんや。人間の脳がどれだけ洗練されてるかを考えると、ワイらが作ったどんなコンピューターも比べものにならへんくらいや。
だから、すべてが裏でどう機能してるかを本当に理解するのには時間がかかるやろうな。でも、そこに魔法はないんや。ただの炭化水素やからな。ワイらは自分が何でできてるか知ってるし、それらがどう機能するかも知ってる。
今のところ最大の制約は、シミュレーションやモデリング、場合によっては測定やな。でも、IBMはすでに陽子レベルまで物事を測定できるんや。彼らのより洗練された道具を使えばな。
ワイらはすでにミミズの脳やネズミの脳をモデル化できるし、Googleは実際に人間の体全体、少なくとも人間の代謝全体をモデル化する作業をしとるんちゃうかな。これらすべてが進んできとるんや。
だから生物学に関しては、根本的な障壁は見当たらへんな。50年代や40年代、DNAが何かわかる前や遺伝子がどう機能するかわかる前にこれを始めようとしたら、別の話やったかもしれへん。
でも今はどこを見ても、タンパク質がどこにあるかわかってるし、どう折りたたまれるかもわかってる。細胞がどう機能するかもわかってる。
長い話になったけど、要するに、「ああ、ここに何か魔法のようなものがあって、ワイらにはわからへん」みたいな障壁は見当たらへんのや。ワイらはすべての構成要素を持っとる。今必要なのは、それらがどう組み合わさってるかを解明するためのコンピューター能力だけなんや。
AIをやめて、これからどうするのか、次の20年くらいを見て楽観的なのかどうか、そういうことについて興味を持ってる人はまだおると思うわ。
人々をもう正しい方向に押す必要がないって言うてたように聞こえたけど、それとも単に個人的に自然や執筆にもっと時間を割きたいってことなんかな。
実際、両方やな。最初の点については、そうや。AIに特化することをやめることにしたんや。なぜかっていうと、あらゆる努力がほとんど無駄なエネルギーになってるって気づいたからや。
ワイはたくさんの人々に影響を与えたし、会話を始めた。その会話は特定の方向に進んでる。経済的にも地政学的にも何が起こってるかを研究して、パターンや傾向を見てきたんや。
そして、物事が正しい方向に進んでるって信じとるんや。完璧やないし、何も完璧にはならへんけど、正しい会話が行われとる。より多くの人々が関わってるし。
ワイが期待してるのは、ワイが一歩引くことで、他の人々がワイが残した空白、つまり真空を埋めてくれることや。彼らがさらに多くのものを会話にもたらし、新鮮さをもたらしてくれると思うんや。これはめっちゃ重要やと思うわ。
ワイはその領域が見えてて、残りの人類が自分たちで解決してくれると信じとるんや。ワイがまだ貢献できるって言う人もおるし、確かにそうかもしれへん。
でも、解決が保証されてへん問題を見とるんや。その一つが、ワイらがここで話してきたポスト労働経済学や。これは解決するのがずっと難しい問題なんや。
なぜかって？さっき言うたように、投資が行くところに結果が付いてくるからや。すべての投資は人工知能に向かっとる。人工知能とロボット工学は避けられへんのや。
そこに投資して問題を解決しようとする経済的な引力、重力のような引力は否定できへんのや。地球上のすべての国、すべての主要企業、すべてのものが人工知能に向かっていくんや。
すべてのリソースの100%がそうなるって意味やないけど、みんながそれに注目してて、それがすべてに影響を与えるってことや。
これは、ワイが波に乗れるけど、その波はワイなしでも進んでいくってことや。でも、ポスト労働経済学が解決されるかどうかは、まだ結論が出てへんのや。すべての人にとってうまくいくかどうかもわからへん。
ワイらが今日話してきたようなことやな。だから、ワイが人類に貢献できることを考えると、この移行期をどう乗り越えるかってことに頭を使う方がええと思うんや。
この移行は、好きか嫌いかに関係なく起こるんや。多くの人がそれを好まへんし、「AIはみんな殺してまう」って言うて問題について考えへん人もたくさんおる。
だからワイはAIの安全性について話すのをやめたんや。AIが皆殺しにせんかったらどうなるんや？それでも残る問題は何なんや？
企業の力から統治、労働力がなくなった時に新しい社会契約をどう交渉するかまで、まだまだ興味深くて差し迫った問題がたくさんあるんや。
ワイはそっちの方がより大きなポジティブな影響を与えられると思うんや。それに、ワイは執筆が大好きなんや。今、小説の続編を書いとるし、森にいるのも大好きやし、もっとリラックスした生活を送りたいんや。
ハムスターの車輪から降りたんや。AIは
ワイが何をしようと自然に進んでいくんやから、なんでハムスターの車輪に乗り続ける必要があるんや？ワイにとってもっと意味のあること、世界への貢献としてもっと意味のあることがあるんや。これがワイの理由付けや。
なるほど、それは理にかなっとるな。このインタビューをしてくれてありがとう。また来てほしいわ。お前が話しとるポスト労働経済学の分野には、まだまだ掘り下げることがたくさんあると思うわ。AGIができた後、あるいはもうできとるかもしれへんけど、人々がどう生活を形作っていくか、前向きに考えるのを助けるとか、そういうことについてな。
ほんまにええ話ができたわ。ありがとう、デイビッド。
いやいや、こちらこそ。ええ話ができたわ。ありがとうな。
コメント