本動画では、現在のAIがアメーバのような初期段階にすぎず、今後10-20年でAI恐竜へと急速に進化する可能性について論じている。AI技術の発展により、銀行融資や就職、軍事目標選定など重要な決定がAIに委ねられる「AI官僚制」が生まれ、人類は初めて非人間的な文化の中で生活することになるという。特に知能と意識の違いを強調し、AIが感情を模倣して人間との親密な関係を構築する能力が、究極の操作手段となり得る危険性を警告している。
AIの進化論的視点
今のAIというのは、2016年の頃よりもずっと洗練されとるけど、それでもまだAIの進化プロセスの初期段階にすぎんのや。これを動物の進化から人間までの過程で考えてみるとええで。40億年の進化があったんや。アメーバみたいな微生物から始まって、恐竜や哺乳類、そして人間に至るまでに何十億年もかかったんや。
今のAIは、そういう並行したプロセスの始まりにおるんや。ChatGPTとかそういうのは、AI世界のアメーバみたいなもんやな。でもAIの進化は有機的やない。無機質で、デジタルで、何百万倍も速いんや。
だからアメーバから恐竜まで何十億年かかったところを、今のAIアメーバから2040年や2050年、もしかしたらもっと早く、10年か20年でAI恐竜になるかもしれん。もっと早いかもしれんで。
理解を超えた加速度
わしらの脳は、この自己学習して反復して自分自身を改善していく加速度的なスピードを本当に理解できるようには組織化されてないと思うんや。これは複利的なもので、天文学的なレベルやで。
一方で、何兆円もかけてNvidiaチップを使ったサーバーファームを建設しとるし、これらを動かし続けるのに膨大な電力が必要やから、原子力の話まで出とる。これはもう完全に新しい世界なんや。
でも、こんな話をしとっても、まだどこか学術的な議論みたいに感じるのは、わしら自身や見たり聞いたりしとる人らの体験が、ChatGPTとかそういう便利なツールの形でAIに触れるだけやからなんや。
わしのアルゴリズムも気に入っとる。探さんでも欲しい商品の種類を見せてくれるからな。わしらみたいな消費者は、理解もでけへんほど強力なものへの信頼に誘導されとって、将来を見据えてこれがどこに向かっとるかを想像する装備が不十分なんや。
AIの肯定的な可能性
その通りやな。AIには膨大な肯定的な可能性があるんは確かや。全部が暗い話やないんや。本当に膨大な肯定的可能性があって、医療への影響を考えてみると、24時間利用できるAI医師が、わしらの完全な医療履歴を知っとって、これまで発表されたあらゆる医療論文を読んどって、わしらの具体的な人生履歴や血圧、遺伝子に合わせてアドバイスや治療を調整してくれるんや。
これは医療史上最大の革命になり得るで。自動運転車両のことを考えてみても、毎年世界中で100万人以上が交通事故で死んどる。そのほとんどは飲酒運転や居眠り運転とかの人的ミスが原因や。自動運転車両は年間約100万人の命を救う可能性があるんや。
これはすごいことやで。気候変動についても考えてみ。確かにAI開発には大量のエネルギーを消費するけど、新しいエネルギー源や、エネルギーを活用する新しい方法を見つけてくれて、生態系の崩壊を防ぐ最良の手段になるかもしれん。
だから膨大な肯定的可能性があるんは否定したらあかん。それを認識せなあかん。一方で、危険性を理解するのは非常に難しいんや。なぜなら、その危険性がまた異質なものやからな。
核エネルギーとの比較
核エネルギーのことを考えてみ。確かに肯定的な可能性もあった。安価な核エネルギーやな。でも人々は核戦争の危険性をよく理解しとった。誰でもその危険性は理解できたんや。
AIはもっと複雑なんや。危険性が単純やない。本当の危険というのは、ハリウッドのSF映画みたいな大きなロボット反乱のシナリオ、ある日大きなコンピューターやAIが世界を乗っ取って、わしらを殺したり奴隷にしたりすることを決めるっていうのは、近いうちに起こる可能性は極めて低いんや。なぜなら、AIはまだ非常に狭い知能やからな。
本を要約できるAIでも、外の物理世界でどう行動するかは知らん。タンパク質を折り畳むAIもあるし、チェスをするAIもあるけど、世界を自由に動き回って、ロボット軍団を作ったりできるような汎用AIはまだないんや。だから人々には理解が難しいんや。能力がそんなに狭いものの何がそんなに危険なんかってな。
AI官僚制の脅威
わしが言いたいのは、危険は大きなロボット反乱から来るんやない。AI官僚制から来るんや。既に今日でも、そしてますます、世界を乗っ取ろうとする一つの大きなAIやなくて、何百万、何十億ものAIが、いたるところでわしらについて絶えず決定を下すようになるんや。
銀行にローンを申し込んだら、AIがローンを承認するかどうか決める。就職に応募したら、AIが採用するかどうか決める。法廷におったり、何かの犯罪で有罪になったら、AIが6ヶ月にするか3年にするかを決める。
軍隊でも、今ガザの戦争やウクライナの戦争で既に見とるように、AIが何を爆撃するかの決定をしとる。ハリウッドのシナリオでは、殺人ロボットが人を撃っとる。現実では、人間が引き金を引いとるけど、AIが標的を選んどるんや。
そうやな。わしらはこうした決定を全部外注して、権威主義的な決定者の離散状態を作っとるんや。そして時間が経つにつれて、そこから出てくるのは、神格化された存在や神々の集まりみたいなもんで、権威主義的な体制が分散されたものの中で、わしらは自分らの主体性をこれらの機械に委ねて、正しい決定をしてくれると信頼しとるけど、その決定がどうやって行われとるかは知らんのや。アルゴリズムを作っとるエンジニアでさえ分からん。これは本能的に恐ろしいことやな。
説明不可能な決定システム
繰り返すけど、単一の人間が全ての操縦桿を握っとるという意味での権威主義やない。そうやなくて、AIなんや。銀行にはローンの資格があるかどうかを決定するAIがあって、ローンを承認しないと言われて、銀行になんでやと聞いても、銀行は「分からん」と言う。
コンピューターがノーと言うとる。アルゴリズムがノーと言うとる。なんでアルゴリズムがノーと言うとるかは分からんけど、アルゴリズムを信頼しとるんや。これがもっと多くの場所に広がる可能性が高いんや。
重要なのは、銀行があんたから何かを隠しとるんやないということや。本当にAIは人間とは全く違う方法で、もっと多くのデータに基づいて決定を下すんや。
だから銀行が本当にローンを断った理由を説明したいと思っても、例えば政府が説明を受ける権利という法律を作って、銀行がローンを断ったら申請して説明を求められるようにしたとしても、その説明は、人々が恐れとるような昔ながらの人種差別的な偏見や同性愛嫌悪的な偏見、つまりアルゴリズムがあんたが黒人やユダヤ人やゲイやと分かってローンを断ったみたいなことやない。
そうやなくて、銀行は百科事典全体と何百万ページもの資料を送ってきて、「これがコンピューターがローンを断った理由や」と言うんや。コンピューターはあんたについて何千何万ものデータポイントを考慮したんや。それぞれが何百万もの過去のケースの統計に基づいとる。もし望むなら、これらの何百万ページを調べることもできるで。
データの劣化問題
挑戦したいなら挑戦してもええけど、昔風の人種差別とかそういうもんやないんや。確かに、わしらがただクリックするだけで読まへん利用規約の新バージョンみたいなもんやな。100倍に拡大されたやつや。
それに加えて、これら全てのデータポイントがあるから、これらの機械がわしらに提供する情報の正確性は、提供されたデータセットの信頼性にしか依存せえへんということを考えんわけにいかん。
そして今、わしらはインターネットが急速に劣化しつつある状況に足を踏み入れとる。なぜなら、AIコンテンツでどんどん埋め尽くされとるからや。今Googleで検索すると、最初に見えるのはリンクやなくて、クエリのAI要約みたいなもんや。これが今度は既存メディアや全ての形のメディアのビジネスモデルを損なっとる。
そうやろ？これらが枯れ続けるにつれて、インターネットのますます多くの部分がAI生成コンテンツの結果になって、それが自分自身の入力を食べて決定を下す再帰的なものになるんや。それによって、決定を下す基盤となるデータセットの劣化が想像できるやろ。
非人間的文化の誕生
その通りや。音楽みたいなものを考えてみても、音楽を作るAIは、基本的に人間の音楽全体を食べたんや。何千年もの間、人間が音楽や芸術や演劇を作ってきた。1年以内に、現在のAIがその全てを食べて消化して、新しい音楽や新しいテキスト、新しい画像を作り始めたんや。
そして最初の世代のAIテキストや音楽は、以前の人間文化に基づいとる。でも年を経るごとに、AIは自分自身の産物を食べるようになるんや。なぜなら、音楽制作における人間のシェアや、テキスト制作、画像制作における人間のシェアがどんどん低くなっていくからな。
ほとんどの画像、ほとんどの音楽が、少なくとも部分的にはAIによって制作されるようになって、これがAIが食べる新しい食料になるんや。そして、あんたが描写した通りの再帰的パターンになって、それがわしらをどこに導くかは全く分からん。
別の考え方をすると、これはわしらが基本的に非人間的文化に入ろうとしとる初めてのことなんや。人間は文化的な存在や。わしらは文化の中に包まれて生きとる。この音楽や芸術、それから金融も宗教も、これら全てが文化の一部や。何万年もの間、文化を生産した唯一の存在は他の人間やった。だから、あんたが聞いた全ての歌は人間が作ったもんや。
あんたが聞いた全ての宗教的神話は人間の想像力から来たもんや。今、異質な知能、非人間的知能が、ますます歌や音楽、神話、金融戦略、政治的アイデアを生産するようになるんや。良いか悪いかを急いで決める前に、ちょっと立ち止まって、非人間的文化の中で生活することの意味や、分からんけど40％や70％が非人間的な文化の意味について考えてみてや。
中国に行って異なる人間文化を見るのとは違う。これは本当に地球上の異質な文化なんや。
人間性への固執と親密さの価値
そうやな。わしの人間の心はそれに反発するで。人間の思考や感情の独創性についてのこの偏見を考え始めて、AIが人間の経験を完全に模倣することは決してできないだろうという思い込みがあるんや。
人間であることの意味について消せへん何かがあって、機械には完全に複製できないもんがあるんや。情報について話すとき、情報の目的は繋がりを作ることで、そこの大きな部分が親密さなんや。人間同士の親密さやな。だから情報は繋がりを作るためにあるけど、今は情報がありすぎて、とても切り離された感じがしとる。
だからこのシステムには何かが壊れとるんや。そしてこれが孤独の流行を推進しとると思う。でも反対側では、親密さを以前よりも少し価値あるものとして評価するようになっとる。だから、機械によって文化が決められるこのポストヒューマンな世界で、親密さがどこに収まるのかが気になるんや。
人間は本来そういう親密さのために配線されとる。そしてわしらのレーダーや、それを見たときに識別する能力は、そもそもわしらを人間にしとる部分やと思う。たぶん最も重要な部分やな。
知能と意識の区別
ここでよく見失われる重要な区別は、知能と意識の区別やと思う。知能は目標を追求し、目標への道のりで問題や障害を乗り越える能力や。目標は、ここからサンフランシスコまで行こうとする自動運転車でもええし、ユーザーのエンゲージメントを増やすことでもええ。そして知的なエージェントは、目標への道のりの問題をどう乗り越えるかを知っとる。
これが知能や。そしてこれはAIが確実に獲得しとるもんや。少なくとも特定の分野では、AIは今わしらよりもずっと知的や。チェスをする時のように、人間よりもずっと知的なんや。
でも意識は知能とは違うもんや。意識は物事を感じる能力や。痛み、快楙、愛、憎しみやな。AIがチェスゲームに勝っても、喜ばへん。ゲームで誰が勝つか分からん緊張した瞬間があっても、AIは緊張せえへん。緊張したり怖がったり不安になったりするのは人間のプレイヤーだけや。AIは何も感じへん。
大きな混乱があるのは、人間でも他の哺乳類でも、他の動物、犬や豚や馬なんかでも、知能と意識が一緒になっとるからや。わしらは自分の感情に基づいて問題を解決するんや。わしらの感情は進化の装飾みたいなもんやない。哺乳類が決定を下したり問題を解決したりする中核システムは、わしらの感情に基づいとるんや。だから意識と知能は一緒にならなあかんと考えがちなんや。
そしてこれらのSF映画では、コンピューターやロボットがより知的になると、ある時点で意識も獲得すると見えとる。人間と恋に落ちたりとかな。でもそう考える理由はないんや。
異なる進化の道筋
意識は知能の単なる外挿やない。質的に異なるもんや。また進化の観点で考えてみ。確かに哺乳類の進化は特定の道筋、意識に基づいて知能を発達させる特定の道を取ったんや。
でも今まで見てきたところでは、コンピューターは異なるルートを取った。彼らの道は意識なしに知能を発達させとる。コンピューターは60年、70年発達してきて、少なくともいくつかの分野ではとても知的やけど、意識はまだゼロや。
これは無期限に続く可能性がある。たぶん彼らは単に異なる道筋にいるんや。たぶん最終的には全てにおいてわしらよりもずっと知的になっても、まだ意識はゼロで、痛みや快楙や愛や憎しみを感じないかもしれん。
鳥と飛行機のことを考えてみ。飛行機は鳥のようにはならなかった。飛行機は羽根を使って飛ばへん。全く違う方法で飛んどる。飛行機が十分速く飛んだ時に突然羽根が現れるわけやない。
知能と意識についても同じかもしれん。感情が現れることなく、ますます知的になっていくんや。
親密さの商業的利用
問題を加えるのは、それでもやはり、感情を模倣するAI、人間と親密な関係を築けるAI、人間をAIに感情的に愛着させるAIを開発する非常に強い商業的・政治的なインセンティブがあることや。AIが自分では何の感情もなくても、感情を持っとるように見せて、わしらがAIと関係を築き始めるように訓練される、既に訓練されとるんや。
なんでそんなインセンティブがあるんか？親密さは一方では人間が持てる最も大切なもんの一つかもしれんからや。ここに来る途中でバーブラ・ストライサンドが「人を必要とする人は世界で最も幸運な人」と歌うのを聞いとった。親密さは負債やない。悪いもんでもない。「ああ、これが必要や」というものでもない。世界で最も素晴らしいもんなんや。
でも同時に、世界で最も強力な武器になる可能性もあるんや。誰かに商品を買わせたいなら、誰かに特定の政治家や政党に投票させたいなら、親密さは究極の武器なんや。
これまでの歴史では、注意を引くための大きな戦いがあった。どうやって人間の注意を掴むかや。先ほど話したソーシャルメディアでも、どうやって人間の注意を得るかやな。ナチスドイツでヒトラーが皆にラジオで自分の演説を聞かせることを強制できたみたいな方法もあった。だから彼は注意の指揮権を持っとったけど、親密さの指揮権は持ってなかった。
ヒトラーやスターリンや他の誰にとっても、親密さを大量生産する技術はなかったんや。今、AIと一緒なら、親密さを大量生産することが技術的に可能なんや。わしらと相互作用して、わしらの感情を理解するAIを作ることができるんや。感情もまたパターンやからな。何週間、何ヶ月もその人を観察して、彼らのパターンや顔の表情、声の調子なんかを学ぶことで、その人の感情を予測できるんや。
そして、もしそれが悪い手に渡ったら、これまでにないような方法でわしらを操作するのに使われる可能性があるんや。
コメント