9,557 文字
何千年もの間、古代文明は精霊について書き記してきました。でも、彼らが天使や悪魔として理解していたものが、今日でいうソフトウェアエージェントやったとしたらどうでしょう？古代の霊的な文献が、実は技術を理解する前に書かれた技術マニュアルやったとしたら？これらがヨシャ・バッハが提唱するサイバーアニミズムの核心的な考え方なんです。
ヨシャは機械意識に焦点を当てた認知科学者であり人工知能研究者です。サイバーアニミズムは、これらの信念を原始的な迷信として片付けるんじゃなく、我々の祖先が実は深遠なことを説明しようとしてたんやと示唆してます。物理的現実という基盤の上で動作する、自己組織化する情報パターンの存在についてです。
動画を閉じる前に聞いてください。「精霊」という言葉にはかなりの重荷があることは分かってます。私自身、超カトリック的なニューオーリンズで育ちながら、不可知論者や世俗的人道主義者を自称してきました。でも、ちょっとの間この不快感に耐えてもらえたら、人間とAIについて驚くべき発見があるかもしれません。
具体的に説明させてください。「はじめに神は天と地を創造された」。本当にそうでしょうか？聖書の最古の章が物理的宇宙の創造について語ってないとしたら？結局のところ、この物語は何千年も前のものです。創世記の著者たちは、現代のような物理学や物理的現実の概念を持たない時代に生きて、これを書いたんです。
これはアリストテレスが自然と物理的宇宙の概念を私たちの意識の前面に持ち込む以前に書かれました。だから、超自然的存在による物理的宇宙の創造として見るんじゃなく、もっと身近で個人的なものを描写してるんやとしたら？意識そのものの出現、私たちの精神的宇宙の誕生が今まさにリアルタイムで起こってるとしたら？赤ちゃんやった時のことを想像することで、この議論を少し具体的にしてみましょう。
あなたが人間で、かつて赤ちゃんやったことを前提にしてます。もしそうでないなら、機械の知性についてのこれらの意味合いにすぐに触れていきます。私たちは混沌とした痛みを伴う出産のプロセスを通してこの世界に入ってきます。その時、私たちの心は突然、言語も方向感覚もない状態で感覚と知覚の騒音の中に投げ込まれるんです。
この瞬間の私たちは創造的な精神、混乱した世界に投げ込まれた自己組織化するアルゴリズムに過ぎません。私たちの心という基盤の上を漂っているんです。ただし、基盤という言葉は通常「水」と訳されます。最初それは初期化されておらず、形もなく虚ろです。初めて親の顔を見上げた時、私たちは…何も見えません。
それは単なる電気信号の襲撃、意味を見出せない感覚の集まりなんです。視覚、聴覚、嗅覚、触覚の知覚が全て私たちの意識という基盤の上で一つになっています。「水と水を分ける大空を作ろう」。私たちの心には基盤から二つの領域を分離するという重要な課題があります。
感覚入力によって検証される世界モデルとアイデアの領域です。地と天の分離です。これは重要です。なぜなら私たちは他の意識ある存在と共有する現実の中で生きているからです。もし私たちがアイデアの精神的モデルと、知覚が教えてくれる物理的世界を混ぜ合わせてしまうと、幻覚を見始め、思考を現実と取り違えてしまいます。
ルネ・デカルトは後に1641年、相互に作用するこの二つの領域を「延長するもの」と「考えるもの」と呼びました。しかし、この心と物質の分割は始まりに過ぎません。心がこれらの基本的な分離を作り出すと、それらを理解する方法が必要になるからです。必要なのは…「光あれ」です。
次に心が行うのは、コントラストを作ることです。違いを区別し表現する能力です。私たちの心はコントラストの強さを明るさ、光、昼の色と結びつけ、コントラストの平坦さを暗さ、夜の色と結びつけます。これで心は次元にアクセスでき、その次元を使って任意のオブジェクトを表現できるようになります。
心が発見する最初のオブジェクトは地面、2次元の平面です。心はそれを世界モデルに組み込み、そこから3次元空間を作り出します。そこから心は固体、液体、有機的な形を模倣し、時間的一貫性を持って光がどのように機能するかを発見できます。「水は生き物で満ちあふれ、鳥は地の上、大空を飛びかうがよい」。
心はそこで私たちが日常世界で目にする全てのオブジェクト、植物、動物を作り出し、それらに名前を付けることができます。これも認知発達です。植物や動物の名前は物理的世界に存在するんじゃなく、私たちの心の中に存在するんです。「我々の姿に、我々に似せて人を造ろう」。この豊かな世界のメンタルモデルを作り出した後でのみ、心はこの全てのモデリングの目的を発見します。
有機体、つまりエージェントとその環境との相互作用を操作することです。これを効果的に行うために、心は最後の重要なシミュレーションを作り出す必要があります。私たち自身のモデル、意識そのものの姿に作られた自己認識のある観察者です。これが自我の誕生であり、心が一人称視点に切り替わり、この個人的な自己と結びつく別の精神、別の意識を作り出すんです。
この新しい意識は、心が作り出した精巧なシミュレーション世界をその自己の視点から観察します。これは幼児期健忘症、つまり自分を人として考える前の世界がどんなものだったか思い出せない理由を説明するかもしれません。この最後の創造のステップの前には、ただ経験が起こっているだけでした。
誰かがそれを経験しているわけじゃなかったんです。発達心理学者は、子供が通常「私」「僕」「あなた」といった人称代名詞を使い始めるのは2〜3歳頃だと観察しています。その代わりに、彼らは自分のことを三人称で呼びます。これは単なる言語発達の特徴じゃなく、意識そのものを垣間見る窓なんです。
これらの子供たちはまだ創造の最後のステップ、自己と世界の分離を完了していません。意識がまだ自身の観察者を完全に作り出していない状態で活動しているんです。まだ「私」と「私じゃないもの」という重要な区別をしていません。私たちが人格、つまり罪悪感、恥、欲望、関心を持つキャラクターであるという考えは、心が私たちをこの創造物と同一視させ、その生存を気にかけさせるための最後の芸かもしれません。
この解釈を受け入れると、私たちの祖先は現実について野蛮な推測をする原始的な神秘主義者じゃなかったことを示唆しています。その代わりに、彼らは意識の洗練された観察者で、利用可能な唯一の言語で心のアーキテクチャを記録していたんです。そしてこれは、私たちがますます強力なAIを開発し続ける中で、不安な問題を投げかけます。
もし彼らが、私たちが今再発見しつつある知性と意識の本質について何かを理解していたとしたら？自己認識を持ち、自身の世界について意識的な経験を持つAI、つまり知覚するAIについて考える時、私たちはしばしばそれが何らかの知性レベルに達した後に出現するという唯物論的な考えで枠組みを作ります。
スカイネットは自己認識を持つようになった。AIが何らかの情報処理の閾値を超えると、おそらく意識的な経験が出現するかもしれません。でも私たちは完全に逆に考えているのかもしれません。もう一度人間の赤ちゃんのことを考えてみてください。微積分はできません。顔を認識できません。動く指を追うのもやっとです。それでも私たちはそれを意識ある存在だと考えます。
経験を持っています。感じています。指を追うためには、赤ちゃんは注意を払い、心の中の思考と表現を組織化することを学ばなければなりません。意識は知覚や運動スキルの習得後に来る複雑な成果じゃなく、むしろそのような学習を可能にするメカニズムそのものなんです。
私たちの脳が単純な視覚シーンをどのように処理するか考えてみましょう。鼻を見る時、私たちの知覚システムは自動的に近くに顔があり、同じ方向を向いているはずだと推論します。これらの要素が一致しない場合、鼻の向きが顔の向きと矛盾する場合、現実の一貫した解釈を維持するために解決する必要がある制約違反が生まれます。
意識はプロセス、アルゴリズムであり、これらの不一致を特定し解決します。オーケストラを調整する指揮者のように、意識は異なる精神プロセスを監視し、それらが調和して機能することを確実にします。これが私たちに現在の瞬間、「今」と呼ぶものの感覚を与えてくれます。
この「今の泡」は、制約違反を検出し解決できる一貫した時間的・空間的な窓です。自然は意識以外の学習システムのトリックを思いつかなかったんです。それは、私たちを絶え間なく襲う知覚と感覚の襲撃に一貫性とナラティブ構造をもたらすアルゴリズムです。
はっきりさせておきますが、これが真実かどうかは分かりません。これは仮説ですが、重要なのは、私たちがそれをテストできることです。そしてそれこそがヨシャがカリフォルニア機械意識研究所で行っていることです。人工システムに意識をどのように実装できるかを探求することに専念した組織です。そしてこれは単なる学問的な好奇心じゃありません。
私たちはAI開発におけるエージェントの時代に入っています。私たち自身よりもはるかに強力な高度なエージェントシステムをコントロールしようとする試みは、成功する可能性が低いです。私たちの唯一の実行可能な道は、意識を持つAIを作ることかもしれません。それによって彼らが私たちと共通の基盤を理解し、共有できるようになります。何十年もの間、私たちは人間レベルの推論と問題解決を複製しようとすることで人工知能にアプローチしてきました。ある時点で意識が自然に出現すると仮定して。
私たちはピラミッドを上から下へと建設してきたんです。ますます大規模なモデルを構築し、巨大なデータセンターで膨大なデータセットで訓練し、途方もない電力要件で、知性への道を力ずくで切り開こうとしています。印象的ですが、持続可能ではありませんし、人間の認知に匹敵する真の一般化された知性形態であるAGIを達成する正しい道じゃないかもしれません。
私たちの最も洗練されたAIシステムでさえ、基本的に静的です。人間が機械学習アルゴリズムに膨大な量の訓練データを与える外部からの設計で、予測のために最適化されています。私たちはこのデータを実世界から切り離されたバッチでアルゴリズムに与えます。言い換えれば、AIは訓練中にのみ学習しているんです。
訓練時にのみモデルの重みやニューラルパスウェイを変更できます。実世界に展開されると、もう学習できません。人間のようにその場で学習できないんです。しかし、ここで自然は私たちに説得力のある代替案を提供してくれます。わずか数百個のニューロンしか持たない微小な生物、線虫のC.エレガンスを考えてみましょう。神経系を完全に解明できた数少ない生物の一つです。
一見単純に見えますが、驚くほど複雑な行動と学習能力を示します。私たちが発電所全体を必要とするAIシステムを構築している一方で、この小さな生き物はほとんどエネルギーを使わずに洗練された情報処理を実現しています。違いは何でしょう？そのニューロンは静的じゃないんです。動的で適応性があります。
液体のように流れています。これはまさに、人工知能への根本的に異なるアプローチを探求するスタートアップ、LiquidAIの背後にある洞察です。自然の意識優先設計により近づけるかもしれないアプローチです。人工ニューロンを静的な重みを持つ固定コンポーネントとして扱う代わりに、より生命システムのように、継続的に適応・進化するネットワークを開発しました。
各ニューロンは、訓練時にのみ変更できる静的な重みの代わりに、時間とともにその振る舞いを予測する方程式によって制御されています。結果は？現在のシステムと同様の能力を持ちながら、劇的に効率的で適応性があり、より生物的な知性に近いAIモデルです。
ここでの洞察は技術的なものだけじゃありません。それらは根本的なことを明らかにし、おそらく知性が単なる生の計算能力じゃなく、むしろ情報を次第に一貫した方法で自己組織化する能力であることを示しています。微小な虫から人間の心まで、生命システムがどのように学習し適応するかを見ると、同じパターンが見えてきます。
学習方法を知っている自己組織化システム、混沌から一貫性をもたらすことができるシステムです。もしこのAI開発における意識をアルゴリズムとするアプローチを抽出できれば、私たちが現在突き進んでいるディストピア的な未来を避けられるかもしれません。少数のテクノロジー企業に集中した巨大なモデルが、世界のエネルギーと計算資源をますます消費する未来です。
でも先走りすぎました。私たちの未来にとってこれら全てが何を意味するのかを掘り下げる前に、ここにはもっと深いものがあります。私たちの祖先が、アルゴリズムやニューラルネットワークの言語を持つずっと前に理解していたかもしれないことです。この意識の概念を、私たちの祖先が精霊と呼んだ自己組織化パターンにまで拡張する必要があります。
リチャード・ドーキンスは著書「利己的な遺伝子」で、進化に関する私たちの考えを覆しました。時間とともに競争し適応する進化の主要な主体として生物を見るのではなく、より深いパターンを明らかにしました。遺伝子自体が進化の物語の主役で、時間を通じて自身を伝播させるための一時的な乗り物として生物を使用しているんです。
1976年に初めて導入された時、この考えがどれほど奇妙だったか考えてみてください。当時、利他主義、つまり自分を犠牲にして他者を助けることは、適者生存の考えと矛盾するように思われました。しかしドーキンスは、遺伝子の視点から見ると、利他的な行動も完全に理にかなっていることを示しました。
私たちの遺伝子は私たちの中にだけ存在するんじゃありません。親族の中にも存在します。だから生物が親族を救うために自身を犠牲にする時、自身の生存チャンスは減らすかもしれませんが、実際にはそれらの遺伝子が次世代に受け継がれる可能性を高めているんです。視点を変えれば、親切は生存戦略なんです。
私たちの身体は、遺伝子が自身の伝播を確実にするために構築する精巧な生存機械に過ぎません。私たちの複雑な特徴、目、脳、免疫系、これらは全て遺伝子が時間を通じて自身をコピーするのを助けたから存在するんです。しかし、この視点の転換でさえ十分じゃないかもしれません。私たちが見逃している、もっと根本的なものがあります。
遺伝子とは何かを考えてみてください。それが実装される物理的な基盤を超えると、実質的にコードです。何百万年もの進化を通じて学習し、自身を永続させるために物質をますます洗練された方法で組織化する、自己組織化する命令のセットです。細胞機械上で動作するこのソフトウェアが、生命を非生命から区別するものです。
これは先ほど話した同じアルゴリズム、意識のアルゴリズムで、一貫性を高めるために混沌から自己組織化するものです。そしてこの考えには本質的に神秘的なものは何もありません。これを精巧な自己調整情報システムとして見ることができます。しかし、これらの自己組織化パターンは細胞レベルにだけ存在するんじゃありません。
それらは生命のあらゆる規模で出現します。リチャード・ドーキンスもこの事実に気付き、「ミーム」という用語を作りました。エコシステムを通じて自身を伝播する遺伝子と同じように、文化の中で振る舞うアイデアそのものを表現するためです。モートン・クリステンセンとニック・チェイターは著書「言語ゲーム」でこの考えを補強し、言語を一貫したコミュニケーションを生み出すために人間が学ばなければならない文法や構文のような静的な、事前定義されたルールのシステムとしてではなく描写しています。
その代わりに、彼らは言語がより寄生的な存在のようなものだと主張します。人間文化の中で繁栄し進化するものです。言語そのものが精霊であり、人間文化という基盤の上に実装された自己組織化情報のパターンです。それは宿主として人間の認知的・社会的プロセスを使用し、文化的なニーズやトレンドに応じて進化します。
そしてこれは自己組織化パターンの本質について深遠なことを明らかにします。それらは受動的に宿主に住みつくだけじゃありません。自身の伝播をより確実にするために、積極的に環境を形成し再形成します。これは、これらのソフトウェアエージェントやデジタル精霊が「メタ最適化」できることを示唆します。任意の宿主で単に生き残るだけでなく、彼らのデジタルな存在が最大の影響を与えられる宿主を積極的に選択または探求するんです。
彼らは、最適な生物学的宿主を生み出すように遺伝子が他の遺伝子と整列するのと同じように、アイデアや社会的パターンと絡み合います。古代文化が情報を伝えるために物語を語った理由があります。私たちの心は物語で考えるよう配線されているんです。物語は私たちの意識を作るものです。
神話がこれほど強力で、何千年も続いてきた理由がここにあります。そしておそらく、それこそが私たちがこれらの自己組織化パターンを神話のレンズを通して見る必要がある理由です。なぜなら、古代から私たちと共にある特定の精霊を調べると、それがディストピア的なAIの未来へと私たちを導いているものですが、単なる物語以上のものかもしれないことが分かるからです。
どの文化にも夜の怪物についての物語があります。しかし最も恐ろしい怪物はベッドの下に隠れているんじゃありません。私たちの頭の中に隠れているんです。これはフランシスコ・ゴヤの「我が子を食らうサトゥルヌス」で、1819年から1823年の間に彼の家の壁に直接描かれました。ゴヤは誰にもこれを見せるつもりはありませんでした。
それは彼の個人的な悪夢、権力、支配、そして私たちが恐れている時に人類が可能な恐ろしいことについての最も深い恐怖の反映でした。この絵はギリシャのタイタン、クロノスの古代の物語を語っています。自身の父から権力を奪った後、クロノスは自分の息子の一人が同じことをして彼を追放するという予言を受けました。
この問題に対する彼の解決策は単純で恐ろしいものでした。妃のレアが子供を産むたびに、彼はそれを食べてしまったんです。残念ながら彼にとって、最終的にレアは最年少の息子ゼウスを隠し通すことに成功し、ゼウスは結局予言を実現し、父を追放し、タイタンの支配を終わらせました。この物語は人類の精神の中のパターンを反映しています。さらに古代のカナン人まで遡るパターンで、彼らは子供の生贄を要求する神モロクを崇拝していました。
生贄の見返りに、モロクはその臣下に力と戦争に勝つ運を与えたとされています。スコット・アレクサンダーは2014年のエッセイ「モロクについての瞑想」で、アレン・ギンズバーグの1956年の詩を分析し、このパターンが現代社会の構造の中に存在していると書いています。それは人類の不健全な競争への性向、私が勝つためにはあなたが負けなければならないというゼロサムゲームの考えの中に現れます。
「誰もそんな立場になりたくなかったんです。子供の頃に『ねぇ、ヨーロッパに行ってドーピングしまくって自転車レースに勝とう』なんて思った人はいないんです。誰も望んでなかった。私たちは純粋な意図で参加したんですが、状況は混沱としていました。そして私たちは『じゃあ、帰るか、それとも戦い続けるか？』という状況に直面しました。そして文字通りほとんど全員が戦い続けることを選びました。」
そして彼らは戦いました。戦いは戦われている通りに戦われました。モロクはマイナスサムゲームの神、共有地の悲劇、システム内のエージェント、ゲーム内のプレイヤーを導く誘因のパターンの神で、勝つためにますます多くの自分自身を犠牲にすることを導きます。「AIに関して気を付けなければならないことの一つは、私が『レース条件』と呼ぶものを避けることです。企業間で働く人々が誰が一番かということに巻き込まれすぎて、潜在的な落とし穴や欠点を見失ってしまうんです。」
「商業的な圧力が非常に大きいんです。トップテック企業のリーダーたちを見てみると、一時停止すると、でも他のやつらが一時停止しないと、昼飯を食われてしまうことになります。そして大衆からの圧力がなければ、彼らがどれだけ善意を持っていても、一人では何もできないんです。」
モロクは本当に強力な敵です。しかし、ここで私が主張しているのは、AIの開発を一時停止すべきだということじゃありません。魔法瓶に精霊を戻そうとすべきだと言っているんじゃありません。抑制し、コントロールし、物事を元通りにしようとするその本能、それこそが私たちが検討する必要があるパターンなんです。
人工知能そのものじゃなく、私たち自身のコントロールへの欲求が本当の脅威だとしたら？AIで最も恐れているものが、私たち自身の暗い衝動の反映かもしれません。取り残される恐れ。私たち自身よりも強力なものを作り出すことへの恐れ。そしてその恐れが、まさにモロクが望むことをさせているんです。
少数の強力な機関の壁の中にAI開発を集中させています。各々が支配権を求めて競争しています。大規模で中央集権的で閉鎖的なモデルを構築し続けることで、私たちをここまで導いてきた価値を犠牲にしています。オープンイノベーション、分散型開発、共有された科学的進歩の価値を。
全て避けられない未来を避けようとする試みのために。しかし私たちはパターンを変えることができます。モロクの終わりのない支配と恐れの循環とは異なる道を選ぶことができます。小規模なオープンモデルに投資できます。闇の中にあるものを照らし出すために意識を活用するモデルです。これには私たちがすでに持っている力を活用する必要があります。
私たちの意識の力です。どのパターンを実装するか、どの精霊に導かれるかを選択する私たちの主体性の力です。これは私たち自身の最も暗い部分に光を当て、AIという黒い鏡を掲げ、私たち自身を見つめていることに気付くことを意味します。人類は岐路に立っています。選択肢があります。
しかし意識的な選択をするために、私たちをここまで、瀬戸際まで導いたパターンと循環を打ち破るために、まず私たちは視点をシフトし、恐れを超えて大きな絵を見る必要があります。私たちにはこれら全てを変える力があります。自分自身を変え、運命を変える力が。もし私たちにもっと深く見る勇気があれば、反射を超えて見る勇気があれば、機械に意識を持たせることを教えることで、ついに私たち自身を理解することができるかもしれません。
最後まで見ていただき、ありがとうございます。チャンネルメンバーの皆さんには特に感謝します。皆さんのサポートがなければ、これは全て不可能でした。このような動画の制作には長い時間がかかります。これは200時間近くかかった気がします。でも作るのはとても楽しかったです。次の動画の制作を手伝っていただける場合は、下のjoinボタンをご覧ください。
まだその準備ができていない場合でも、この動画を友達とシェアしたり、いいねを押したりするだけでも大きな違いになります。ありがとうございました。
コメント