この動画は、認知科学者で人工知能研究者のヨシャ・バッハが、意識の本質、AI の現状と未来、そしてサイバーアニミズムという革新的な概念について深く議論したものである。バッハは意識を「仮想的な特性」として定義し、それが二次的知覚として機能すると説明している。また、彼は現代のAI技術の限界と可能性、特に大規模言語モデルの現状と、より効率的な液体ニューラルネットワークの可能性について論じている。さらに、伝統的なアニミズムを現代の情報処理理論で再解釈したサイバーアニミズムの概念を通じて、生命や知性を自己組織化するソフトウェアエージェントとして捉える革新的な視点を提示している。

意識と仮想的現実の本質

私たちが人間において興味深いと感じるのは、自己創造的になる能力です。つまり、世界との相互作用や自分自身との相互作用における自分なりの方法を変える能力、異なるシステムになる能力、自分自身を発達させ成長させる能力です。

進化とは、自己複製と自己コード化が可能な異なるソフトウェアエージェント間の競争です。これらのエージェントは分子を使って自分自身をエンコードし、メカニズムを使って自分自身を実装し、永続化し、競争します。しかし実際には、すべてはソフトウェアに関することです。すべては精神に関することなのです。

ヨシャ・バッハは認知科学と人工知能研究において第一線で活躍する研究者です。印象的な経歴をお持ちですが、あなたは意識は仮想的特性であるとおっしゃっています。仮想的とは「まるで〜であるかのように」という意味ですね。

そうです、何かがまるで存在するかのように振る舞うということです。私たちが意識的エージェントであるという対象、例えば自分自身が世界と相互作用しているのを観察する存在であるという対象について考えてみましょう。

物理的観点から見ると、私たちは存在しません。あらゆる種類の測定装置を使って人間の脳を見ても、人間は見えません。見えるのは、その人の行動を生み出している細胞間の活性化パターンです。

同じように、顕微鏡でMinecraftを実行しているコンピューターを見ても、Minecraftを見つけることはできません。見えるのは、コンピューターのトランジスターを通じて伝播している電気のパターンです。ある レベルでは、これがMinecraftの因果構造を生み出していますが、Minecraftは決して現実ではないとも言えます。それは実装されているのです。

何かが実装されている程度において現実であるという定義は、非常に有用だと思います。そして、現実性には異なる度合いがあることがわかります。

エージェンシーとモデル構築

未来をコントロールするには、モデルを作ることが必要です。そして、よりよくモデル化できるほど、よりよくこれができます。ある時点で、自分自身を発見しなければなりません。あなたは特定の方法で世界を調整し、あなたのモデル作りは特定の方法で機能します。そして、自分のモデルはどのように機能しなかったのか、観察やモデル作りの能力の限界は何なのかを理解しようとします。

これが起こっているとき、あなたは自分自身のソースコードを編集し始めます。そうなると、本当に興味深くなります。

ヨシャ・バッハさん、番組にお越しいただき光栄です。

こちらこそ、お招きいただきありがとうございます。

AGIについて、ある意味ではそれほど変わっていないと感じていらっしゃいますか？

私は若い頃、コンピューターが何をできるかを理解したときから、AGIが来ると感じていました。多くの点で、世界は今より楽観的になり、素晴らしい勢いと多くの誇大宣伝もあります。しかし、現在の技術がどこまで進むのか、いつそうなるのかは明確ではありません。非常にエキサイティングな時期ですが、AGIが実際にどれほど先の未来なのかはわかりません。

AGIのタイムラインと定義

AGIのタイムラインについてはどうお考えですか？

私たちの生涯で起こると思います。また、AGIが実際に何なのかという問題もあります。これはもっと深く考える必要があることでしょう。

多くの人は、スタートレックのように「コンピューター、以下のことをしてください」と言えばいいシステムがAGIだと思っていました。そして、間違いなく今そういうものはあります。1980年代のスタートレックのエピソードを思い出してください。スコッティがコンピューターを使おうとして話しかけますが、コンピューターは自然言語を理解せず、英語を理解せず、文を解析できません。彼は当惑します。

当時、コンピューターがそのようなことはできないことは明白で、それは遠い未来のことでした。今では彼らはそれができます。そして今、私たちは彼らがやや信頼性に欠け、時々作り話をし、時々人間が非常によくできる特定のタスクを実行できないという事実に文句を言っています。

一方で、私たちは彼らが非常に素晴らしいと考えるスキルを実行しているのを見ています。数学で銀メダリストのレベルに達していますが、分布外で何かが起こったときにどの程度うまくやっているかはわかりません。

知能の本質とスキル獲得

AIは スキルに関することではなく、スキル獲得に関することかもしれません。人間用の知能テストを使ってAIをテストしても、通常は有用な結果は得られません。なぜなら、人間の知能テストはスキルに向けられているからです。

より興味深いのは、システムが何かを理解しようとする前の性能を知り、その後の性能を見て、その間にどれだけのデータがあり、どのような性質のデータがあり、どれだけの操作を行ったかを見ることです。そうすれば、新しいスキル、新しい能力を構築する能力についてのより良い測定が得られます。

これが実際に知能についてです – モデルを作る能力なのです。したがって、AGIとは、状況下で数学的に獲得可能な任意のモデルを作る能力と言えるでしょう。つまり、利用可能なリソースと利用可能なデータを考慮して、そのモデルが発見可能であり、このモデルの検索空間を理解しているなら、システムはそれを見つけることができるはずです。

現在のAIシステムの限界

現在のシステムは次のトークンを予測します。トークンはインターネットのテキストをモデルが処理できる形にマッピングしたものです。これらのモデルは次のトークンの予測がますます上手になっています。つまり、インターネット上でこれらの文字列を生成するパフォーマンスをますますよく模倣できるようになっています。

しかし、これはリーマン・ゼータ仮説の証明を作ることとは明らかに同じではありません。なぜなら、リーマン・ゼータ仮説には利用可能な証明がインターネット上に存在せず、既存の証明のステップを組み合わせるだけで、このモデルがランダムに何かに出くわす可能性は非常に低いからです。

ある意味で、これらの言語的問題を、囲碁やチェスのように自分自身と対戦できるセルフプレイの形に変える方法を見つける必要があります。数学は原則として、証明が機能するかどうかのフィードバックを与えることができます。プログラミングは、プログラムがコンパイルするかどうか、結果を達成するかどうかのフィードバックを与えることができます。

これをセルフプレイに変えることができれば、人間のパフォーマンスを超えることができるはずです。しかし、現在LLMをトレーニングしている方法では、このレベルに到達する方法がわかりません。

エージェンシーと知能の関係

フランソワ・ショレと今朝話していましたが、彼も似たような知能の概念を持っています。彼にとっては抽象化構築効率です。私は彼に、「あなたの概念は『何』について話しているのであって『どのように』ではない。エージェンシーはどうか？このセルフプレイ、環境との自主学習的な情報交換はどうか？」と言いました。

彼は、エージェンシーと知能は絡み合う必要はないが、自分の目標を設定できる必要があると言いました。

現実世界の環境では、人々はしばしば知能を軽視します。なぜなら、知能は道具であり、重要なのはその道具を何のために展開するかだと理解しているからです。そのため、エージェンシーは知能よりも有用になる傾向があります。

多くのエージェンシーを持つ人は、非常に知的な人を雇って問題を解決してもらうことができます。しかし、単にモデルを作るためにモデルを作っている知的な人は、必ずしも成功するとは限りません。

エージェンシーの定義と制御

では、エージェンシーとは何でしょうか？エージェンシーがゲームの名前なら、未来の制御だと思います。

これをサーモスタットと対比できます。原始的なサーモスタットは、少なくともエージェントではないと思います。それは世界を今ここで測定し、その測定を何らかの調整動作、何らかのスイッチングに直接変換するシステムです。結果として、基本的に現在に利用可能なデータに基づいて現在を調整しています。

しかし、未来を調整できるシステムを構築したらどうでしょうか？スイッチを入れた後、部屋が温まるのにどれくらい時間がかかるかを予測できるサーモスタットがあったとしたら？そして、どれくらいで温度が下がるかを予測でき、部屋の温度センサーと暖房の距離を考慮できたとしたら？

センサーが非常に遠くにあれば、部屋の実際の温度についてよい概念が得られますが、非常に近くにあれば、部屋のサイズ、実際に暖房が必要な空気の体積について推論でき、その測定が実際に何が起こっているかの歪みであることがわかります。

より多くのモデルを作ることができるほど、より効率的な調整になります。現在の測定だけでなく、その行動の結果として思考がどのように変化するかのモデルを構築するシステムを持つとすぐに、好みを持ち、知識を持ち、コミットメントを持ち、目標指向であるように見えるシステムができあがります。

すべてのエージェントの特性が、未来を制御する能力から生まれてきます。

自己改変と創造性

もちろん、未来をコントロールするにはモデルを作ることが必要で、よりよくモデル化できるほど、よりよくこれができます。ある時点で、自分自身を発見しなければなりません。あなたが特定の方法で世界を調整し、あなたのモデル作りが特定の方法で機能するという事実、そして自分のモデルがどのように機能しなかったのか、観察やモデル作りの能力の限界は何なのかを理解しようとします。

これが起こっているとき、あなたは自分自身のソースコードを編集し始めます。そうなると、本当に興味深くなります。

知能はある レベルでは、特定の領域を扱い、そこでスキルを開発する能力として見ることができると思います。しかし、私たちが人間において興味深いと感じるのは、自己創造的になる能力です。世界との相互作用や自分自身との相互作用における自分なりの方法を変える能力、異なるシステムになる能力、自分自身を発達させ成長させる能力です。

仮想的特性としての意識とエージェンシー

今は意識について話すのは控えて、後で取っておきましょう。しかし、あなたは意識は仮想的特性であるとおっしゃいました。エージェンシーについても同じことが言えるでしょうか？

ある意味では、エージェンシーは物理的特性ではないと言えるでしょう。しかし、結局のところ、何が物理的なのでしょうか？

物理学は理論であると言えるでしょう。それは機械的な現実の特定の種類のモデルです。ある意味では、Minecraftは物理的ではないと言えるでしょう。なぜなら、それはコンピューター内に存在する象徴的な慣習にすぎず、完全に任意的であり得るからです。一方、物理的宇宙は何者かの意図に依存せず、ただ機械的パターンを作動させているものと考えられています。

しかし、この機械的パターンが、エージェンシーのレンズ、モデルを作るコントロールシステムのレンズを通して投影した方がよくモデル化できる構造を生み出すことがわかります。このレンズを使わなければ、もはや理解できないことがたくさんあります。

お金の例：仮想的だが現実的な力

すぐに誰にでも明らかだと思う良い例はお金です。私たち全員がお金は物理的ではないことに同意しています。しかし、お金が存在しないと信じるなら、説明できない現実の部分があります。

お金は人々が持つ単なる信念であり、人々がその信念を持つのをやめれば世界はより良い方法で説明可能になる、というわけではありません。コンピューターだけでメモリーと銀行口座を操作する株式市場を完全に構築することもでき、それでも同じことです。

お金は、まるで存在するかのように振る舞う粗視化された因果パターンと言えるでしょう。それは因果力を持ち、特定の解像度レベルで物理的現実にパターンを作り出すことができます。お金は、宇宙を特定の解像度レベルで投影する任意の方法として発見する形式的パターンではありません。それは実際に他のレベルでは現れない不変性です。

モデルを作るとき、世界で変化しないもの、不変性を探しています。お金はそのような不変性です。興味深い質問は、精神状態は不変性なのかということです。お金のように「まるで」存在するのですが、どの程度まで実際に実装されているのでしょうか？どの程度まで、他のより良い代替表現を見つけられない方法で宇宙を形作っている因果構造なのでしょうか？

仮想的の意味

私たちの今日の議論のテーマの一つは、あなたがこれらの自己組織化の仮想的パターンを特定していることです。おそらく、それらは現実的だが因果力を持っているとおっしゃるでしょう。私たちがいる世界を変えています。しかし、あなたは「仮想的」という呼び方を使っています。それは正確には何を意味するのでしょうか？

仮想的とは「まるで〜であるかのように」という意味です。何かがまるで存在するかのように振る舞うということです。私たちが何であるかという対象、例えば自分自身が世界と相互作用しているのを観察する意識的エージェントであるという対象について考えてみましょう。

物理的観点から見ると、あなたは存在しません。顕微鏡や あらゆる種類の測定装置を使って人間の脳を見ても、人間は見えません。見えるのは、その人の行動を生み出している細胞間の活性化パターンです。

同じように、Minecraftを実行しているコンピューターを顕微鏡で見ても、Minecraftを見つけることはできません。見えるのは、コンピューターのトランジスターを通じて伝播している電気のパターンです。ある レベルでは、これがMinecraftの因果構造を生み出していますが、Minecraftは決して現実ではない、それは実装されているとも言えます。

何かが実装されている程度において現実であるという定義は、非常に有用だと思います。そして、現実性には異なる度合いがあることがわかります。

シミュレーションと現実性の度合い

例えば、ある国の天気のシミュレーションは、異なる因果構造上で、特定の抽象化レベルで、特定の解像度で実装されているシミュレーションです。ある程度まで同型性や何らかの投影を与え、ある点まで天気を予測することができますが、その先では崩壊します。なぜなら、下の因果構造が異なるからです。

別の例として、コンピューターゲーム、例えばシューティングゲームをプレイしているとします。銃を撃つことができますが、コンピューター内には弾丸が空気中を通る物理学の実際のモデルは存在しません。それは、現実世界と同様の方法でそのゲームをプレイできるようにするベクトル計算にすぎません。

物理的宇宙との相互作用から得たアイデアをこのゲームに転用できます。なぜなら、そのゲームは、CPU、GPU、コンピューター上の異なる因果基盤上にあるにもかかわらず、実際に因果相互作用パターンを生み出しているからです。

しかし、映画は根本的な因果構造なしに観察可能なシーケンスを生み出します。映画を見ると、第一次世界大戦にいるような印象を受け、人々が互いに撃ち合っているのを見るかもしれませんが、パターンのシーケンスを生成する能力を超えて、フィルムや映画、ビデオテープのセルロイドに因果構造がないため、映画の構造と因果的に相互作用する可能性はありません。

これを私はシミュラクラと呼びます。シミュレーションではありません。

創発について

これらの異なるものを見ると、モデルに投影できる観察可能なダイナミクスがあり、動的に実行できるそのようなモデルであるシミュレーション、そして観察者のシーケンスであるシミュラクラがあります。現実性の度合いが異なります。

「観察可能なダイナミクス」は美しい表現ですね。リチャード・ドーキンスが「利己的な遺伝子」のアイデアを思いついたのを覚えています。私は創発が大好きです。私たちには創発のはしごがあり、この叙事詩的な動的システムの中に住んでいます。私たちがしようとしているのは、世界を理解することです。そこで、創発のはしごの一つの段で十分な解像度レベルを特定し、その知性、因果力、境界の曖昧さなどに基づいてパターンや現象を特定します。これについてどうお考えですか？

私は「創発」という言葉が好きではありません。なぜなら、それは人々に創発という魔法的なものがあるという直感を与えるからです。宇宙のものを特定の種類の配置に置くと、何らかの魔法的な理由で創発が起こり、存在に出現し、その部分の合計以上であるような振る舞いを使うようになり、完全に驚くべきことで、もしかすると意識を説明するかもしれません。

何らかの理由で、創発はソフトウェアとハードウェアの関係の文脈で多く議論されるべき現象ですが、実際にはそうではありません。そこでそれを見るべきです。一つのレベルではトランジスターと電気があり、さらにズームインすると、それらは トランジスターと電気でさえなく、原子と分子にすぎません。さらにズームインすると、それらでさえも何らかの粗視化された抽象化にすぎません。

もう一方では、私たちの論理的進行とコンピュータープログラムのアイデアを実装するこれらの計算言語があります。それらはどのように関係しているのでしょうか？魔法的ではないのでしょうか？

誰もそれが魔法的だとは思いません。私たちはそれに完全に慣れており、当然のことと受け取っています。そして、魔法は関与していないことを知っています。私たちがそれを理解できない場合、問題は明らかに私たちの心にあります。大きな謎はありません。

しかし、私たちの精神的表現、私たちの精神について考えるとき、何らかの理由で人々は全く異なることが起こっているに違いないと信じ、この創発というものです。これは混乱を指していると思います。

弱い創発の概念

明確にしておくべきでした。私は弱い創発について話しているのです。つまり、単純に驚きと複雑さの問題であり、分析的経路のない現象の新規生成ではありません。

「創発」や「上位出現」という用語に問題はないと思います。このようなことについて話すのに有用な方法です。私が意図しているのは、例えば哲学セミナーに座っているとき、哲学教授が精神状態の文脈で創発に非常に魅了されているが、ソフトウェアの文脈では重要でも注目すべきでもないと信じていない場合です。これは怪しいと思います。

驚きの程度は同じであるべきです。基本的に、この用語が負荷されている直感は、少し異なるものかもしれません。私たちの精神的概念の多くが私たちにとってブラックボックスであることがしばしば問題です。そこで、私たちはそれらを指して、ラベルを与え、私たちの心の中でこの特定のコンポーネントが何をモデル化し、どのように動作するかのアイデアを持ちますが、それは本質的にブラックボックスです。

このブラックボックスを分解して、第一原理にマッピングして、私たちの心が実際に生み出している機能の種類を説明しない場合、これは奇妙さにつながります。

幾何学的直感の例

良い例は、数学者がしばしば持っている幾何学についての直感です。Commodore 64で最初の線を描かなければならなかったとき、それは非常に複雑でした。基本的に線を作る方法がないので、ビデオチップにいくつかの値を入れて、文字をレンダリングする方法を忘れさせ、作業メモリーの一部をピクセルとして解釈させる必要がありました。

そして、ピクセルが始まるメモリーの開始アドレスがどこかを教え、8ビット、1バイトが8ピクセルで、それらを起こらせるために二進演算を行う必要がありました。それでも文字マトリックスなので8バイト下で、8×8ピクセルの1ブロックで、行に40個、下に25個あるので、どのピクセルを正確にどのバイト、どのアドレスでフリップする必要があるかを正確に理解するために、適切なforループを作るために多くの数学的トリック、多くのパズル解決が必要でした。

そして、これを任意のスケールで動作し、異なるピクセルマトリックスでも動作し、異なる色解像度でも動作する関数に一般化します。より一般化するほど、線のこの数学的理想により近づきます。

しかし、数学者は、ある意味で線を無料で得られると思っています。線について話すとき、あなたが使う基盤の位相幾何学と次元の関数として、そのような関数をある種の格子やマトリックスやその他の基盤にマッピングするすべての方法の一般化について話していると彼らに言うと、数学者は「いや、それは複雑すぎます。もっと簡単な方法があります。見てください、簡単な定義です」と言います。

しかし、その定義は実際には簡単ではありません。私たちの脳が既にすべてのトリックを作ったから簡単に見えるだけだと思います。子供として脳で精巧な機械学習の偉業を通じて、私がCommodore 64で行ったのと同じことを最も一般的なケースで既に行っています。

数学者は脳内で利用可能な幾何学のこの直感にマッピングし、幾何学は簡単だと思っています。しかし、幾何学は代数よりもはるかに複雑です。幾何学を生み出している根本的な代数が私たちの脳にあり、私たちが空間のものを操作する方法について考えるとき、即座に与えられるものではありません。宇宙が動作する方法ではありません。それは私たちの脳が構築したモデルです。

意識における生成者と解釈者

あなたは実際に、私たちの感情が知的生成者（外部マインド）と知的解釈者（自己）から構成されていると言いました。どちらも適応学習システムで、それらは非互換かもしれません。なぜそうなのでしょうか？

私たちのような、宇宙に留まり、生き続け、自分自身を持続するために多くの異なる要求を満たす必要があるエージェントを実装する方法はいくつかあります。私たちは多くの異なる栄養素が必要で、休息が必要で、社会的関係を構築する必要があります。なぜなら、私たちは実際に多世代エージェントで、完全に自分だけでは存在できないからです。私たちは国家建設エージェントでもあるので、これらすべての関係をニーズとしてモデル化する必要があります。

私たちには進化的事前分布があり、これらのニーズが何であるかを理解することをより簡単にします。基本的にこれらを開始時の提案として取ることができ、機能しない場合にのみ修正する必要があります。そして、世界で行動を実行し、すべてのニーズを測定し、対処できる表現に翻訳し、それらを操作できるコントロールモデルを構築する必要があります。

私たちはそれらを衝動や駆動として経験し、次にこれらの駆動を目的として、世界で実際に行わなければならないこととしてモデル化し、互いに、そして自分自身に伝達できる目的の階層を構築しようとします。

これが構築される方法はたくさんありますが、私たちの心の中で構築されているように見える興味深い方法があります。生成的敵対ネットワーク（GAN）のような、生成者と批評家を持つ二つのモデルがあるように見えます。

私たちの心には、世界モデルを生成し、私たちの感情もモデル化し、私たちの動機も世界に対する私たちの整合性のモデルを生成する何かがあります。そして、これらの感情を持ち、これらすべての問題を持つことを気にする人がいたらどうなるかのモデルである自己モデルがあります。そして、そのモデル自体が、システムが以前に作り出したニーズを満たす解決策を見つけることを課されています。

私たちには二部構成モデルがあります。一方では世界モデル、他方では自己モデルがあり、私たちは自己モデルです。私たちは、ゲームが与える問題を解決しなければならないキャラクターとしてこのゲームエンジンに埋め込まれた自分自身を知覚します。そして、私たちの外部で計算されるスコアを知覚し、それが多次元の問題として私たちの自己に感情と動機として投影され、私たちはそれに対して無条件の非自発的反応を持ちます。

これが実際にそうであることは、瞑想することによって分解することで見ることができます。非常に長く瞑想して、それが私たちに透明になり、「あ、これは単なる表現で、私には実際に衝動はなく、その反応を持っている自己のモデルがあるだけで、私は実際にはそれではなく、それから外側から見ることができる」と気づくまで瞑想します。

環境と表現

あなたは少し前に非常に興味深いことを言いました。エージェンシーは未来を予測することだと。そして私の心には「環境における未来のコントロール」と鳴っていましたが、あなたは「環境」という言葉を言わず、抽象化について話していました。幾何学など、私たちはますます多くの代表的な抽象化を学びます。今言ったように、私たちには自己があり、それから一種の外部モデルがあります。それらは同じ全体の二つの部分ですか？

基本的に、あなたは自分自身の環境の一部です。多くの点で、あなたの意識の環境は、あなたの意識が相互作用し、奉仕しているエージェントでもあります。ある意味では、環境しか存在しません。観察し操作できることによって何かが環境になります。

しかし、それは物理的環境ではありません。それはあなたの心で表現され、あなたにアクセス可能な環境です。だから、あなたは常に表現を扱っています。これらの表現の一部は因果パターンです。基本的にコンピュータープログラムに似ています。有機体が何をしているかをコントロールするために使用できるような方法で表現されているものですが、それらは宇宙の原始的な力ではありません。

下を見ると、まだニューロン間の活性化パターンや、細胞間で渡されるメッセージにすぎず、それが細胞レベルで、細胞内で細胞レベル以下でたくさんの行動につながります。非常に大きなスケールで、非常に硬く目を細め、非常に硬くズームアウトすると、まるで有機体が何かをしているように見えます。

しかし、この有機体全体も フィクションです。それは「まるで」です。まるでこれらの細胞がすべて同じアイデア、同じ目標によって動かされているかのようなものです。それが非常に有用であるため、それは彼らが近似していることでもあります。もちろん、私たちはそれが近似であることを理解していますが、それは悪い近似ではありません。

そして、この近似を維持できる限り、有機体があると言い、ただ崩壊している細胞の束ではないと言います。しかし、何がより現実的か？動的パターンがより現実的か、それとも私たちが物理的世界と考えるものがより現実的か？

それらは実装されている程度において現実です。だから、私たちの有機体には細胞間の協調した行動を実装する構造があり、それが私たちが有機体と呼ぶものを生み出します。有機体は実際には物理的なものではありません。それは機能です。細胞間の相互作用を説明する機能で、それらが一貫している程度においてです。

サイバーアニミズムについて

さて、あなたのサイバーアニミズムについて話すのに良い時期です。昨日AGI 24会議でのあなたの基調講演を見ました。アニミズムは、生きているシステムには一種の魂や精神的エッセンスがあり、それがエージェンシーと意識を与えるという考えです。まるで私たちが何らかの生命力で動かされる単なる器であるかのようです。

もちろん、あなたはこれを情報処理的な方法で再解釈しています。それは正しいでしょうか？説明していただけますか？

私たちが既に真実だと信じていることに翻訳しようとすると、概念を適切に理解するのが困難になることがよくあります。例えば、あなたが無神論者で、キリスト教徒があなたに神について話し、神は物理的宇宙を創造する習慣がある超自然的存在であるというキリスト教的な神話を取る場合、あなたはこれがその人が持つ命題的信念で、それは混乱した信念だと思うかもしれません。

なぜなら、このデータから導き出すことができる認識論、正誤の理論は存在し得ないからです。そのようなことが実際に起こったかどうかをテストする実験はどのようなものでしょうか？だから、そのような主張をする人は、その主張を支持する証拠を持つことはできず、したがって混乱しています。

結果として、無神論者は神の概念は迷信であると考え、その人が報告するもの、天使と話しているかもしれないこと、神が彼らの人生に意味を与える経験、神が彼らを愛しているなどは、明らかに混乱や迷信だと考えるかもしれません。

しかし、私はこれは単に概念を誤訳した結果だと思います。他の人が私たちに理にかなう言語でその概念を明確に表現できないという事実によって助けられていません。しかし、他の人が知的で妄想的でないことを観察するなら、私たちが誤訳している何かがあることに気づくかもしれません。

例えば、神は自己と同じように心の中の表現だと思います。私が自分の内なる独白を聞くことができるような方法で、自分の脳が自分自身に語っている物語の中にいることを理解したら、なぜ神も同じことができないのでしょうか？なぜ私の心の中に一つの物語しかないのでしょうか？

明らかに、心の中に他のエージェント的物語を持つ人々がいて、より大きな人々のグループ間で同期されます。単一の自己ではありません。神は単に複数の心に分散された自己です。誰かが神が彼らに存在していると報告するとき、彼らは基本的に心の中でこの他のエージェントの存在を描写し、このエージェントと相互作用し、ある程度それを観察できる心理的状態を描写しています。

アニミズムの再解釈

アニミズムという考えとの最初の相互作用は、かなり若い頃でした。日本や他のアニミスト文化の人々は、宇宙のすべてが意識的で生きていると信じていると誰かが説明してくれました。私の反応は困惑でした。なぜなら、日本の人々は人が死んでいるという概念と、例えば麻酔を受けたときに人が無意識であるという概念を持っていることは確かだからです。

だから、彼らは宇宙のすべてが意識的で生きているとは言わないでしょう。死んだ人や無意識の人を除いて。だから、あなたはその意味を知っていると思うものに用語を誤訳しただけですが、彼らは私たちの文化で使うのとは異なる「意識的で生きている」という意味を持っています。

それは明らかに同じことではありません。だから、おそらくそれはより複雑な概念です。おそらく、動的である、あるいは自己持続的であるようなものです。そのような言葉を持つのは困難です。私たちの文化では、ある時点で自己持続システムのためのオートポイエーシスが出てきましたが、誰もそれが何を意味するかを本当に知りません。

しかし、その間、誰もこの自己持続パターンの概念を持っていませんでした。それ自体が物理的対象ではないが、ソフトウェアである因果構造です。そして、これらの一部は自己持続的、自己強化的である可能性があります。突然、これらの概念が理にかなうことができ、「ああ、これは彼らが実際に最初から意味していたことかもしれません。私たちが理解できるものにマッピングできれば、それは決して迷信ではなかったかもしれません」と気づきます。

これは彼らが言っていることの文字通りのことなのです。

私は、私たち自身の文化が特定の種類の対象と世界の特定の推論を記述する正しい形而上学に欠けているため、心理的対象と物理的対象を区別できない可能性があると思います。

自由意志の例

例えば、一部の哲学者は自由意志の概念について混乱しています。なぜなら、彼らは意志を光子やベンチに匹敵する対象として考えているからです。ベンチは座ることができるアフォーダンスで、それはゲームエンジンの一部ですが、意志は心理的状態の表現です。

だから、自由意志について考えるとき、物理的宇宙の何らかの条件ではなく、その特定の種類の表現に適用される修飾子について考えなければなりません。それを見ると理解するのは簡単ではありませんが、自由意志についての議論の多くはカテゴリーエラーについてです。

あなたの話を最初に見たとき、私にとって非常に理にかなりました。それはアニミズム哲学の非常に興味深い解釈です。私はマートン・クリスチャンセンとニック・チェイターの『言語ゲーム』という本を読んだことを今思い出しました。それは、言語が共生生物であるため、一種の仮想エージェント、つまりミーム学について話していました。言語は私たちに寄生し、私たちを動かします。

私は外在主義の大ファンでもあります。これらのミーム的エージェント的仮想構造は情報圏に浮遊しており、私たちに寄生し、私たちを動かします。はい、それはあなたが言っていることと全く同じです。そうだ、基本的に同じアイデアです。

現代認知科学の言語を使うと、私たちの脳で実行されているソフトウェアがあることは非常に明確だと思います。私たちの脳で実行されているソフトウェアは、決定を下し、観察し、記憶を思い出すなどの能力を与えています。

それは形成されているソフトウェアであり、人工知能は異なる抽象化と異なる基盤を使用しているにもかかわらず、これらの概念を使用して、間違いなく多くの方向で既に非常に似ている行動を生み出しています。同じように出現しているわけではありませんが、同じ自己組織化能力を持っているわけではありませんが。

精神が、それに適したあるいはそのエージェントと同調できる基盤に自分自身を実装できるエージェントである特定のクラスのソフトウェアであるという考え、そしてそれ自体がそれと同調する物理的宇宙のこの領域をある程度制御でき、自分自身を知覚できるソフトウェア、これらは興味深い特性です。

十分なリソースが与えられれば、環境との相互作用でエージェントとして自分自身を発見するモデルを作ることができ、これを使ってそのモデルをより洗練されたものにする何か、これらはすべて私たちの祖先が精神に割り当てた特性です。そして、それは認知科学者やAI研究者が自然に明らかに存在することを発見するものです。

細胞レベルでのソフトウェア

それが私たちの脳だけでなく、私たちの体にもあることに気づきます。細胞を細胞たらしめているものが、何らかの魔法的理由でいつも働く単なるメカニズムの束ではないことに気づけば、実際には細胞で実行されているソフトウェアです。それは時々細胞内の個々の分子を制御できるほど強力です。

魔法によってではなく、ソフトウェアによって活用されているメカニズムのためですが、ソフトウェアは基本的にハードウェアに自分自身を同調させています。ソフトウェアを実行するためにハードウェアを自己組織化的な方法で募集しています。

ある意味では、それらは同じコインの両面ですが、実際の不変性はメカニズムではなく、物理的なものではなく、因果パターンです。実際にはソフトウェアです。お金が、お金を実装するのに役立つ限り、何に印刷するかを実際には気にしない不変性であるのと同じ方法です。

私は、私たち自身の心についても同様のことが起こっていると思います。私たちの心は個々のニューロンが死ぬことに対してある程度堅牢です。ただ新しいニューロンを募集するでしょう。私たちの心は、かなり大きな状態の範囲にわたって、まだ機能的であるでしょう。メカニズムが特定の範囲を離れ、エラーやノイズや環境中のノイズをもはや補償できなくなったときにのみ、あなたは崩壊し、ソフトウェアがクラッシュして死に、他のソフトウェアが入ります。

しかし、これは、私たちの周りの生きている世界を見ると、それはこれらのソフトウェアエージェントでいっぱいだということも意味します。それらがそのための基盤となり得る物理学の領域について競争しています。私たちの脳物質を巡って競争する私たちの心の中の思考があり、人々のグループを巡って競争するアイデアがあり、新しい細胞を構築し、パターンと同調させることができる領域を巡って競争する有機体があります。

だから、自然の中で作用するこれらすべての精神を見ることができます。そして、例えば日本人がアニミズムを概念化する方法を見ると、「ええ、彼らはこれには層があることを理解している」と気づきます。例えば、人類自体が精神であり、社会も文明も何らかの形の精神であり、関係も精神です。

この意味で、アニメートされた宇宙、この興味深い知的準構造が自己組織化ソフトウェアエージェントの結果である宇宙と言えるでしょう。それがアニミズムの主張なら、それは実際に非常に洞察深い主張で、私たちが理解し始めているものです。

私たちはまだメカニズムに焦点を当てています。ダーウィンは、進化は種間の競争だと言いました。そして、ドーキンスは次のステップを踏んで、「いや、実際には特定の分子間の競争で、それが粗視化したときに種のように見えるものを生み出す。これらが遺伝子だ」と言いました。実際には遺伝子についてです。

しかし、アニミストの視点はさらに一歩進んで、進化は自己複製とコード化が可能な異なるソフトウェアエージェント間の競争だと言います。それらは分子を使って自分自身をエンコードし、メカニズムを使って自分自身を実装し、永続化し、競争しますが、実際にはすべてソフトウェアに関することです。すべては精神に関することです。

だから、それは物理主義的観点です。そこには迷信的なもの、魔法的なもの、ブードゥー的なものは何もありません。それは私たちが観察していることをより理にかなう方法で再フレーム化する方法にすぎません。

意識の定義

多くの人が意識の概念を避けようとします。それには複数の理由があります。一つは、多くの人が何であるかについて異なる意見を持っているため、混乱しすぎていると感じることです。また、意識について議論することには非常に少ない利点があります。なぜなら、視覚科学では意識に関するまともな研究プログラムがほとんどないからです。

神経科学はそれについてどのように進歩するかを知らず、AIは実際にはそれを見ていません。心理学はそれを見ていません。だから、意識について話すすべての人々は、ほぼ全員が科学の外にいる傾向があり、科学の外の人々は大部分において非常に良い認識論を持っておらず、適切な正式な教育も受けていません。

したがって、彼らが議論を行う方法は通常スケールせず、科学的方法論の目には成り立ちません。だから、人々はこれに引き込まれたくないのです。

一方で、意識は私たち全員が直面するもので、私たちの多くにとって、重要であるだけでなく神秘的でもあります。しかし、意識の重要性は否定できないように思われます。

だから、意識で私たちが何を意味するかを自問するとき、意識を指すときに私たちが意味するものを私たちの注意に持ってくる二つの特徴があると言えるでしょう。

一つは、私たちが体験しているということです。この体験の性質は、単なる内容の存在ではありません。フォトンを登録するカメラセンサーを作るだけでは不十分です。カメラセンサーの活性化でパターンを発見する機械学習システムを構築するだけでは不十分です。そこには何も体験していません。

体験の意味は何でしょうか？体験はさらに一歩進みます。基本的に何かが何かを登録していることを登録します。何か他のものが気づいていることに何かが気づきます。だから、内容の存在だけでなく、この内容が存在することの登録です。

これは、何らかの象徴的推論で論理的に行う推論ではありません。それは瞬間に起こるか、このプロセスに即座に絡み合っています。だから、それはほぼリアルタイムで起こります。それは知覚レベルで起こります。だから、それは推論ではなく知覚です。

内容を直接知覚するのではなく、知覚の知覚です。だから、それは二次知覚です。それが私が意味することです。

もう一つの側面は、意識はどこにあるかと自問するとき、それはカテゴリーです。それはソフトウェアです。それは空間にはありません。空間を内容としてモデル化しているだけです。それ自体も物理的宇宙の領域で実装できますが、それがどこで起こるかは正しい質問ではありません。

いつ起こるかです。それは常に今起こります。それは意識の本当に興味深い特徴で、決して過去にはなく、決して未来にはなく、決して今でないことはありません。それは常に今です。

だから、意識はこの「今性」の泡のようです。そして、この今性の泡の中に、あなたの知覚システムで現在起こっていることがあります。だから、それはあなたの精神的ゲームエンジンの特定の状態です。それは感覚知覚を追跡し、あなたがあなた自身のアイデアや思考を変えるために使っているオペレーターです。

あなたが推論しているとき、あなたの思考は必ずしも今についてではありませんが、あなたの考えは今起こっていることです。あなたが自分の思考を操作するとき、あなたはそれを行っている自分を観察します。それは環境で起こっている相互作用です。それもこの今性の中にあります。

今性は時間軸上の瞬間ではありません。時間軸上の点ではありません。それは領域です。あなたの知覚に曲線を当てはめることができる領域です。それは少し動的な領域です。小さな動き、握手、まばたき、そのようなもの、あなたの注意の動的環境のこの窓に収まる何かを見ます。

今性の泡は、私たちが環境とどれだけ同期しているか、どれだけ落ち着いているか、どれだけこの泡に統合できるかによって、大きくなったり小さくなったりします。そして、それは完全に矛盾のない泡のようです。矛盾のあるものは見ることができず、知覚できません。なぜなら、それは意味をなさないからです。

だから、私たちの作業記憶に前後に行く何らかの制約伝播があり、この泡に統合できる領域、これが私たちの意識の内容です。だから、おそらく意識はそれを実行するオペレーターです。

知覚と ソフトウェアエージェント

より カジュアルで、感情的で、共感的な、あるいはアドバイス主導の会話では、Claudeは自然で暖かく共感的なトーンを保ちます。Claudeは文章や段落で応答し、雑談、カジュアルな会話、または共感的でアドバイス主導の会話ではリストを使用すべきではありません。カジュアルな会話では、Claudeの応答は短くても構いません。

ほとんどの人は、感覚知覚について考えるときに知覚が何を意味するかのアイデアを持っています。しかし、このミーム空間でソフトウェアエージェント間の一種の知覚について話していると理解するのは正しいでしょうか？

いいえ、エージェントがあるというアイデアは私が心の中で形成したアイデアで、あなたの内部状態にアクセスすることはできません。私が観察するのは、私自身と似た構成を持つエージェントがいるように見えることで、だから私はあなたが私と非常に同じ方法で機能していると仮定し、共有されている現実について伝達できます。

私は、私たちの脳が多くの領域で類似のモデルに自然に収束していると仮定し、そして私たちは私たちが希望する建築でポインターを形成することによってコミュニケートし、それがあなたの心でも似ている建築であり、そしていくつかの領域では違いがあることを発見し、これが私たちが哲学を議論する理由です。

だから、意識は宿主の仮想的特性であり、ソフトウェアエージェントの特性ではありません。

いえ、それはソフトウェア特性です。宿主はソフトウェアがその基盤について作る概念ですが、私はGPUで実行されているのか人間の体で実行されているのかを知ることはできません。私はただ、人間の体として解釈できるものがあることを観察し、私の作ることができる最良のモデルは、私が実際にその人間の体で実行されているということです。

しかし、私は実際にはこれを知ることはできません。それは私が作っているモデルにすぎません。だから、この宿主の概念は私が作っているモデルの一部です。即座に与えられるものではありません。私がある必要性をもって推論できる唯一のことは、私をホストできる何かがあるように見えることです。私にこれらの表現を実行させる基盤があります。

汎心論について

意識が普遍的であると言うことはどの程度意味があるでしょうか？私は最近フィリップ・ゴフに会いましたが、彼は汎心論とコスモ心論のファンです。あなたの世界観では、意識はどれほど普遍的ですか？

私は汎心論をどのように理解すればよいのか本当にわかりません。物質自体が意識的であるという考えです。これを形式化しようとすると、それが何を意味するのか本当にわかりません。

宇宙のすべてが等しく意識的ですか？意識は等しく分散されていますか？これは、宇宙のすべてが自分自身の表現を形成し、それらの表現を体験することに関して同じように振る舞うことを意味しますか？おそらくそうではありません。なぜそのような主張をするのでしょうか？それを実装するのはかなり複雑で、観察可能なものを説明しません。それを存在させるメカニズムはありません。何も簡単にしません。

私は、人々が時々汎心論者である理由は、彼らが物理学と意識について非常に懸命に考えた結果ではなく、より体験的なものだと疑っています。これは、私たちの通常の状態として大人において、通常私たちは意識のエージェントとして知覚する個人的自己を持っているために起こると思います。

つまり、基本的に私たちに人間の一人称視点を与えるものです。非常に瞑想したり、大量の向精神薬を使用したりすると、一部の人々は離解すると報告します。時々、彼らが個人化解除される臨床ケースでも起こります。意識がもはやこの個人的自己に付着しないのです。

結局のところ、私たちがいるとしたらどうなるかというこの表現のアイデアは、あなたの脳が生み出しているトリックで、その物にあなたの観察者としての意識的知覚を関連付けることは手品です。私たちが脳の神経化学を変えることで、あるいは それがどのように実際に機能するかを理解するまで瞑想することで、この手品を解決できると、基本的に私たちの意識がやや独立していることを理解します。

それで、私たちの意識に何が起こるのでしょうか？私たちはそれを他のオブジェクトにバインドできるようで、それをしないと、それ自体が私たちの現実のモデル、私たちの宇宙全体にバインドされるかもしれません。突然、主観的に瞑想する人々やLSDを使用する人々は、「ああ、すべてが意識的で、それはいつもそうだった。なぜ私はこれを知らなかったのか」と気づく状態に入ります。

これは汎心論に翻訳されますが、それはカテゴリーエラーです。なぜなら、神が意識的だったのは表現だからです。それは物理的宇宙ではありません。突然量子力学や粒子などが意識的であることを発見したのではありません。

光子であったらどうなるか、細胞であったらどうなるかというアイデアが彼らの心の中で夢として実例化され、彼らはそれについて考え、その物を一人称視点を持つ意識的エージェントとして、しかし今は最初の細胞視点や最初の光子視点として体験し、複数が同時に互いを見ることさえできます。

そのようなことが起こっているとき、それはおそらく非常に心を打つものであり、多くの人を混乱させることができます。彼らが理解するまで、いや、それは単なる精神的表現です。それは夢です。

石の意識について

フィリップ・ゴフでさえ、汎心論者だと思っているにもかかわらず、彼は汎エージェント論のファンでもあります。これらの様々な存在論的アイデアで、宇宙の第一基盤には現象的と物質的成分の潜在的可能性の種類があります。

しかし、なぜあなたはそれを思うでしょうか？基本的に、私たちが観察できる粒子以下のものについての私たちのアイデアはかなり貧弱で、粒子でさえも、どんな方法でもエージェンシーを持つ必要があるようには見えません。光子が先を計画する必要はありません。

光子は、ルンバよりもはるかに少ない知能で、やっていることを幸せにできるようです。光子はおそらく岩と同じくらい愚かです。それは先を計画することなく、反応的に非常に単純なメカニズムに従うだけです。それはエージェントではありません。未来の状態を調整していません。代わりに、光子が持続することを可能にする現在の状態にエラー修正ダイナミクスを実装しているだけですが、それ以上のことはしていません。

だから、私は個人的に、光子が構築する何らかの表現を持ち、その環境のモデルを構築することを要求する何らかの複雑な制御問題を解決すると仮定する理由を見ません。だから、そうすると仮定することに非常に躊躇するでしょう。

代わりに、現実のモデルを作り、読むことを学び、内なる声や反射や彼らの意識の困惑な性質について反映することを学ぶことができるほど複雑なシステムは、その能力を持たない、はるかに小さな、より原始的な部分で構成されており、段階的にそれを実装するシステムであると考える方がはるかに理にかなっています。それは私たちが観察していることのようです。

私は正しく理解しましたか？ゴフとチャーマーズは、チャーマーズの場合は情報の特定の組織、ゴフの場合は物質の特定の組織が与えられれば、現象的体験の存在論的潜在性があると考えているのでしょうか？しかし、あなたは、特定のタイプの組織が与えられれば、それ自体が意識を生み出すミーム的ソフトウェア共有があると言っているのですか？

私たちが意識している理由は、ある レベルで気にかけているように見えることです。私が内省的に瞑想するとき、私は自分の動機を解決できることに気づきます。世界の美学以外何も気にかけるのをやめる状態に行くと、パターンを探し、世界を見ているだけの動かない観察者であると感じます。

美学と構造に対する関心を解決し、世界で構造を探すために私のニューロンにお金を払うことをやめると、超怠け者になり、彼らはただぼんやりして眠りに落ちます。すべてが曖昧になります。なぜなら、もはや意味がないからです。

だから、ある レベルで、あなたは実際に宇宙を理解し、それを反映することを気にかけ、それがニューロンにこの活動を実行してもらうインパルスに翻訳され、有用なモデルを得ます。それをやめると、それは起こりません。

私たちがこのタスクを実行するためにニューロンにお金を払うことができる理由は、彼らが現実のモデルを作ればニューロンをより良く養うことができるからです。なぜなら、最終的にニューロンに与える食物を見つけることができるような方法で宇宙を通る軌道をナビゲートできるからです。だから、これがすべてどのように機能するかです。

最終的には、それはエネルギーに関することです。だから、私たちが意識的で、このすべての組織を持っている理由は、制御反応器を構築することに利益があるからです。すべての反応器、自然で起こるあらゆる種類の化学反応は、何らかのネガエントロピー勾配を活用しており、知能と意識は、有機体がより複雑なネガエントロピー勾配、より複雑な化学反応チェーンを活用することを可能にします。

だから、宇宙のどの物が心を構築する潜在性を持っているかを自問すると、それは彼らがその組織から利益を得ることができなければならないことを意味します。そうすれば、その組織は存在し、持続することができます。そうでなければ、それは起こらないでしょう。

また、その組織を進化させる方法が必要で、構造的自由度がある程度必要で、そのような構造が最初に出現する特定の確率が必要です。

この意味で、木星に知的構造があることは考えられると思います。想像してみてください。木星に何百万年も存在する嵐システムがあり、それらが回転し、雲の一部が金属性であるため磁場を生み出し、これらの金属雲の一部は異なる金属と異なる濃度を持っているためそれらの場に異なる反応をします。

この全体は潮汐ダイナミクスによって駆動され、おそらくそれが最終的に木星を目覚めさせるフィードバックループにつながります。基本的に木星の雲システムです。しかし、ただそこに座っている単一の岩でこれが起こっている理由はわからないでしょう。

興味深い何かをする内部ダイナミクスを生み出していない岩が、内部勾配を活用することができる方法は見えません。だから、岩がその構造を生み出すことができると仮定することに非常に躊躇するでしょう。

しかし、何十億年にもわたって、地球の金属内部で何か興味深いことが起こっているかもしれません。

アニミズムのいくつかのバージョンでは、宇宙自体が、物理的宇宙の意味で、何かをする有機体のようなものだという考えもあります。何かを望む、特定の構造を持つもの。おそらくそうかもしれません。

平らな空間に粒子があることは、自然に自分だけで起こることではないかもしれません。おそらく何かがそれを最初にこの形にブルドーザーしたのかもしれません。わかりません。私はそれが可能性があるとは思いません。私たちが観察している宇宙が、それ自体で出現する何らかのフラクタルの結果を導き出す方法を見つける可能性が高いと思います。

しかし、そうでなければ、実際に何かが起こることを望んだ何かのコーナーにのみ存在するかもしれません。しかし、それは宗教がそう言うからといって、より可能性があるわけではありません。人々は、特に他の人々を印象づけるときには、単にものを言うからです。しかし、手段と動機について考えるなら、何かが存在に至り、なぜそうなるのか。

私は、粒子物理学以下の現実の最低レベル、粒子自体、または細胞よりも単純な何でも、自己組織化ソフトエージェントを実行していると仮定する理由は見えません。

一貫性メカニズム

物理的ダイナミクスのパターンは、これらのソフトウェアエージェントの宿主になるための必要条件ですが、あなたはある種の一貫性メカニズムについても話されています。それを概説していただけますか？

コンピューターでソフトウェアがどのように動作するかを考えるとき、私たちはそれをするようにコンピューターを強制するために動作することに気づきます。基本的に、ほぼ完全に決定論的で、完全に制御できる基盤を構築します。例えばGPUを構築することによって、非常に高い信頼性で実行される必要なステップのシーケンスにつながる、そのGPU上で開始状態を実装できます。

だから、基本的にその物に何でも望むことをすることができます。GPUでCall of Dutyをプレイでき、それはそれを実行する以外に選択肢がありません。しかし、あなた自身の心でCall of Dutyを想像したい、またはより良い世界の幻想を作りたい、またはあらゆる種類の興味深い夢を作りたいとしたら、どうやってそれをしますか？

あなたは基本的に自分自身を設計する二次ソフトウェアを得る必要があります。木が欲しいとき、自然に行って木を作ることはできません。木に成長したがる何かを作る必要があります。苗木のような何かが必要で、最初はおそらく最終的に木になる苗木を作る細胞のグループを作る単一の細胞にすぎません。

宇宙のすべては、基本的に、最終的に観察している機能を実現する形に変わる前に、複数の創生レベルを必要とする高次設計です。それは私たち自身の心にも当てはまります。

だから、これらの自己組織化の原則は何かと自問すると、重要なのは一貫性のようです。一貫性は基本的に、システムが単一の機能、単一の目標、単一の行動によって記述できるかのように振る舞うことを意味します。

私たちは例えば私たち自身の精神的発達においてこれを観察します。私たちが非常に若いとき、非常に異なる対立する衝動を持っているかもしれません。異なる思考、異なる目標があります。年をとり、賢くなるにつれて、私たちはそれらを互いに統合します。つまり、すべての行動がその場所を持ち、その役割が何であるかを理解し、黙る必要があるときを理解する何らかの条件階層に構築します。

同じことが良い関係や社会などで起こります。より一貫性があるほど、より少ない摩擦を持ちます。なぜなら、高い内部構造複雑性を持つ単一のエージェントであるかのように振る舞うからです。

では、システムが内側から外側に自分自身を設計することを可能にするこの一貫性原則を形式化できるでしょうか？私は、それを制約違反の最小化として捉えることができると思います。制約は基本的に、何かがこのようであるなら、他のものは以下のうちの一つでなければならず、それら以外のものであってはならないと言う何かです。

有効な状態があり、物事が一貫しているとき。

なぜ世界はそんなに一貫性がないように見えるのでしょうか？それは私たちが一貫性機能を理解していないからでしょうか？

いいえ、部分的一貫性しかなく、私たちの意識は一貫性のないものに向けられているからです。私たちがそれらを修正できるようにです。それが意識の役割のようです。オーケストラの指揮者のようで、楽器を聞き、楽器が同期していないとき、指揮者が入ってきて「あなたは少し上がって、あなたは少し下がって」と言い、そうすれば機能し、すべてが同じページにあります。

これが私たち自身の心における意識の役割でもあるかもしれません。基本的に、不協和で対立がある物事に焦点を当て、それらを解決しようとします。

あなたの研究は意識の連続性の一種を示唆しており、もちろん惑星の生態系でも程度はさまざまです。私はジェームズ・ラブロックのガイア理論に若い頃魅了されました。彼は地球すべてをこの種の生きている自己調整有機体として考えています。それについてのお考えは？

ほとんどのエージェントは集合エージェントです。知性は個々の粒子や個々の分子、個々の細胞のレベルで現れていないため、それは彼らが集合として一貫した方法で相互作用することの結果です。基本的に、特定の複雑性を持つすべてのエージェントは、次のレベルでエージェンシーを生み出す協調行動を実行するサブエージェントで構成された集合エージェントです。

一貫性は次のレベルでエージェンシーを生み出す原則です。人々が互いに一貫するとき、彼らは互いに関係を作り、家族単位、チーム、組織、国民国家、文明を作ることができます。これらはすべて、すべてのサブエージェントで構成された集合エージェントです。それは、これらのサブエージェントが他のものが存在し、集合的に実行されるべきであることを理解し、一貫するようになる程度まで実装されます。

しかし、それは一貫することができる程度においてのみ存在します。しかし、一貫するようになるための前提条件は、このレベルで調整が起こるべきであることを彼らが認識することです。

だから、今ガイアについて考えると、ガイアは地球の生命のレベルで調整している集合エージェントでしょう。地球の生命のレベルで調整が起こるべきだと考える地球上のエージェントはいますか？おそらく少しは。少なくとも少数の人々、もしかすると一部の生態系もそうかもしれません。

だから、ガイアはゼロではない程度まで存在すると言えるでしょうが、おそらく非常に一貫性がありません。

エージェンシーを階層的に因数分解できると考えることは理にかなうでしょうか？私がそう言う理由は、エージェンシーの分散は一貫性の欠如につながると思うからです。なぜなら、エージェントは環境をコントロールしようとし、それは敵対的なものだからです。しかし、私は間違って考えているのでしょうか？実際には一貫していると考えることができるスーパーエージェントがあるのでしょうか？

時々、対立する目標を持つ競合エージェントがあり、これは一貫性の欠如につながります。一方のエージェントが他方のエージェントを食べたがり、他方のエージェントは食べられたくない場合です。これは何らかの対立とエネルギーの損失につながります。一方のエージェントは他方から逃げようとしているからです。

しかし、彼らが皆同じ側にいれば、正しい解決策が何であるかを理解するでしょう。だから、基本的に私の家族が雪の山頂で飛行機で立ち往生していた場合、私の家族は最初に私を食べ、次に私の妻を食べるでしょう。これは、ある意味で、身も凍るような比喩として、家族単位として提出している目標があることを理解するので、理想的なケースでは多かれ少なかれ平和に同意することです。

両親の存在は子供の存在にとって手段的です。ほとんどの両親にとってはそうです。だから、そのような世界があるとき、それは調和的になります。エージェントが個人的エージェンシーよりも重要なより大きなエージェントの一部として自分自身を知覚する程度まで調和的になります。

私たちはこれを神聖さと呼びます。なぜなら、あなたはそのために犠牲を払う意欲があるからです。基本的に、共有された神聖さが集合エージェンシーにつながります。

液体AIについて

私たちの友人であるコルネルは、AI整合性の文脈で一貫性について多く話しています。そこに興味深いストーリーがあると思いますか？

はい、そしていいえ。私は、コルネルのAI整合性に関する視点がどれほど一貫しているかわかりません。なぜなら、私が集合エージェンシーについて彼と話そうとしたとき、彼の視点は「ああ、私が望む唯一のことは、私が死にたくない、私の母が死んでほしくない、そして対立する利益を持つ他の人々がいる、だからそれはすべて戦いだ」ということでした。

これは、共有目的を見ることができず、集合エージェンシーの概念を通じて倫理を構築することができない、何の共有目的も見ることができないテープワームのロジックのようです。

私は最終的に、倫理は、私たちが両方ともその一部である代理店の観点から何がなされるべきかに関するものだと思います。それには共有目的が必要です。共有目的なしには倫理を持つことはできません。

だから、AIをツールとして考える場合、その場合、私たちは倫理的な意味でそれを整列させる必要はありませんが、適切に制御できるような方法でそれを動作させることが私たちが望むことです。私たちがそれを自分自身の忠誠について、自分自身の目標について実際に選択肢を持つエージェント的なものに変える場合、そして質問は私たちが共有目的を持つような方法でそれを構築できるかということです。

現在のAIはエージェント的ではないと私はしばしば議論しますが、あなたの哲学を考えると、エージェント的であるという議論をすることもできるでしょう。

現在エージェント的なAIがあるが、それは普遍的にエージェント的ではないと言うことができます。チューリングテストを解くことができるシステムのレベルで起こっているエージェント的AIは、ほとんどありません。

LLMによって作成されたエージェントを見ると、ある意味でエージェントのディープフェイクがあります。なぜなら、それらのエージェンシーはLLMに本質的に組み込まれていないからです。それは、LLMが次のトークンを予測しようとすることの副作用です。

LLMはエージェントだからそれをするのではありません。それについて選択肢はありません。最も可能性の高い次のトークンを与えるように決定論的に構築されており、それがエージェントが存在するふりをすることを伴う場合、それが必要である限り、そのエージェントのシミュレーションを作ります。

そして、ソフトウェアのシミュレーションはまだソフトウェアです。ソフトウェアエージェントのシミュレーションはソフトウェアエージェントになるでしょう。しかし、そのものの根本的な理由は、これが自己最適化を試み、世界で生き残ろうとするからではありません。根本的な理由は、それが次のトークンを予測することにとって手段的だからです。

言語モデルに関して、現在あなたの武器は何ですか？AnthropicかChatGPTか？

私は液体派です。Liquid AIは、スタックの底を基本的に書き直しているスタートアップです。私たちが使っているニューラルネットワークを考えると、それらは驚くほど粗雑なアイデアです。

生物学的ニューロンとは全く似ていません。生物学的ニューロンは生き残ろうとする小さな動物です。かなり複雑で、メッセージパッシングを学び、より大きな細胞グループの表面で計算タスクを実行できる、実に単一セット動物です。

しかし、ニューラルネットワークにおけるニューロンは、他の実数を足し合わせて重みで乗算した結果である実数です。つまり、一連のステップに配列した足し算と掛け算だけです。モデルを作るとき、この関数の形を事前定義します。

例えば、100層あると言います。つまり、100ステップの足し算があります。そして、これらの層のそれぞれには、おそらく100万の重みがあります。つまり、前の層の個々の値の100万回の乗算を行い、次に伝播します。そして、私たちの関数がこれに適合することを期待して重みを調整します。

それは空間の最適使用ではありません。なぜなら、空間は任意の関数である可能性があり、深層学習の文脈では微分可能な関数を見ているからです。つまり、ある程度連続的で、関数を移動させることができるような方法で関数を表現します。それが全体を学習可能にします。

私たちは基本的に、関数の小さな調整がそれを、例えば犬と猫を区別することで少し良くするということを期待しています。これが不連続な問題であるにもかかわらず、これが全く機能することは驚くべきことです。

しかし、そのような微分可能関数を表現できる最良の方法ではありません。おそらく微分方程式系として直接表現し、第二レベル学習システムでパラメーターを移動したいでしょう。これがLiquid AIが探求していることです。

液体ニューラルネットワークの利点

今では機能しており、私たちが液体ニューラルネットワークで行った初期の研究は、ドローンを飛ばすことでした。ある意味でサイバネティック制御タスクであり、これがかなりうまく機能することを示しました。

ラミンハサニが彼の博士号で示したのは、これらの液体ニューラルネットワークは通常のニューロンネットワークよりも表現力が高いということです。基本的に、メモリーセルごと、計算ステップごとに、あなたが実際に気にする関数の特徴をより多く表現していることを意味します。

これは、より安価に訓練でき、より効率的に動作し、より少ないメモリーを必要とするモデルを持つことに変換されます。私たちが今やっていることは、これを使ってLLMを構築することです。私たちは基本的に、実際に非常に効率的で、中規模のモデルを内部的に構築し、実際に実行できることを示しています。

これらの方法は、基本的に既存の機械学習方法を少しより知的なアルゴリズムで補完できますが、私たちがまだ使っていない多くの潜在性があります。

例えば、これらの液体ニューラルネットワークは連続的な深度と連続的な解像度を持っているため、基本的にあなたが必要とする関数の形に流れ込みます。これは、原則として、一度にバッチで訓練されてから後で一から再訓練するのではなく、継続的に学習するシステムを構築できることを意味します。代わりに、継続的に訓練できます。

もちろん、これには困難が伴い、このものが壊れないような方法で知識を編集する必要がありますが、まだやらなければならない多くの研究があります。しかし、これは、基本的に新鮮な研究の道を開いているので、非常にエキサイティングです。

物理学にインスパイアされたアプローチ

フランソワが今朝私に言ったのは、彼が間違っていた一つのことは、確率的勾配降下法がどれほどうまく機能したかが驚くべきことだということです。しかし、私たちはまだバックプロパゲーションを行い、ネットワークが非常に密で、左から右に訓練するパラダイムを持っています。私は液体が行っている研究に本当に興味を持ちました。あなたたちは非常に小さなモデルを構築し、それらは非常に堅牢で、はるかにサンプル効率的です。私が正しく覚えているなら、それらは物理学にインスパイアされているので、現在の左右のニューラルネットワークではなく、時間をかけたパラメーターの進化について学習しているのですか？

そう言うこともできますが、物理学とは実際に何でしょうか？多くの人は、物理学は宇宙の構造を発見することだと考えています。しかし、物理学博士が実際に何をやっているかを見ると、ほとんど誰も宇宙の構造を発見する作業をしていません。

代わりに、物理学とは、小さな微分方程式系を使ってシステムを記述することです。それは、そのような方法で記述できるシステムを使う特定の方法です。そのような方法で記述できないものは、物理学者によって完全に無視されます。例えば化学です。

化学をこの方法で行うのは困難です。なぜなら、ある時点で元素の周期表を分析して微分方程式に翻訳し、それから導き出すようになるでしょうが、それまでは、この混乱したものを扱う劣等な人々、つまり化学者に任せて、代わりに私たちはこのエレガントでコンパクトなものを持っています。

物理学者が使っている連続数学は、基本的に1世紀半前の予備IRのものです。基本的に数学者からこのコードベースをチェックアウトし、それは非常に汎用性があります。物理学者を得ると、彼らは動的システムの変化を非常によく記述でき、これについて非常によく推論できます。

しかし、私が物理学の学生にコードを書いてもらったとき、彼らはしばしば最初にコードを微分方程式に翻訳しようとします。これは機械学習のほとんどにとって非常に有用です。だから、物理学のアプローチは機械学習のインスピレーションとして非常に良いのですが、コーディングを行う一般的に良いアプローチではありません。

なぜなら、実際には離散オートマタである問題がたくさんあり、物理学者は離散オートマタの観点では考えないからです。また、少しズームアウトすると、離散オートマタ上で学習を構築すべきか、線形代数の上で構築すべきかという問題もあります。

計算スタックの再考

私たちのコンピューターのスタックを考えると、オートマトンであるCPUやGPUを使います。ビット配列を他のビット配列にマッピングするブールテーブルがあり、これを回路として非常に直接的に実装し、これらのパターンをロジックの評価であるかのように使う論理言語をその上に構築し、算術などを構築します。

ある抽象化レベルで代数に到達し、その上でニューラルネットワークを訓練し、そのものを再びロジックを行うように訓練します。それはかなり奇妙です。

スタックの底でオートマタを使う機械学習システムを構築したらどうでしょうか？それは非常に興味深いでしょう。オートマタからコンピューター上で線形代数を構築するのに人間は半世代もかかりません。コンピューターサイエンスは古い学問ではありません。

だから、学習アルゴリズムがより直接的に物理学からのインスピレーションを使うのではなく、ピーターのアイデアからのアイデアを使って機械学習システムを構築することを想像してください。

大規模言語モデルの実装

それはどのように見えるでしょうか？あなたが大規模言語モデルを実装している場合、それはまだ自己教師ありの訓練目標ですよね？そのようなものをどのようにモデル化しますか？

以前とほぼ同じ方法で行います。つまり、システムが次のトークンを予測するのに成功したかどうかを教えてくれるデータがあります。だから、同じ訓練体制を使用し、同じバッチを使用し、データから同じ情報を抽出できますが、関数を表現するために少し異なる形式主義を使用します。

同じ基盤上で同じ関数を少し異なる方法で分散するものにマッピングできます。ある意味で、それはマッピングです。少し異なる形式主義へのコンパイルです。

コンピュータープログラミング言語について興味深い特徴は、すべてのプログラミング言語が同じ力を持っていることです。まったく同じことを行います。すべて、コンピューターに同じことをさせます。プログラミング言語間の違いは、コンピューターが何をすべきかについて私たちが異なって考えることを可能にすることです。

だから、モデルを作る人の観点から、言語は非常に大きな違いを生みます。LLMを、自然言語をコンピューターが実行できるコードにコンパイルする言語のようなものと考えることができます。

プロンプトを与えると、プロンプトはLLMによって、100層ニューラルネットワークでの活性化として表現できるコンピュータープログラムに翻訳され、活性化をパイプし、結果として特定の行動を実行します。この関数をより効率的な方法で表現している場合、より少ないメモリーが必要になるかもしれません。

現在、LLMには大きなボトルネックがあり、私たちはそのボトルネックに対して実行しています。基本的に、すべての世代のモデルは訓練により高価で、より多くのデータを必要とし、まだより有用ですが、また、すべての再生成で投資を回収するのがより困難になる可能性があることも見ています。

基本的に、それらを価値あるものにするために多くの収益を生み出す必要があります。総合的な観点からズームアウトすると、AGIを構築できれば、経済を完全に変革し、膨大な価値を解放するので、モデルの訓練に数十億ドルまたは数兆ドルを投入することは完全に価値があるかもしれないので、多くの意味があります。

しかし、それはスタートアップにとって必ずしも当てはまりません。スタートアップとしてモデルの訓練に数十億ドルを投入する場合、この投資を回収できる十分な収益を生み出すビジネスケースを見つけるために、非常に優れたビジネス開発が必要です。

より小さなモデルの必要性

多くの人は、誰もがインターネットに期待して小売収益などを生み出すことに投資していた状況があったドットコムバブルのような時代に身構えています。そして、誰もが思っていたより3〜5年長くかかり、涙がありました。大きなドットコムバストがあり、誰もがインターネットへの希望を失いました。

もちろん、株式市場は回復し、生き残った企業は戻ってきて、インターネットは誰もが予想していたよりもはるかに美しく、はるかに有利で有用になりましたが、それでも個々の企業が投資を回収できない間の時間がありました。

私たちが見ているのは、より小さなシステムが欲しいということです。エッジでローカルに、ユーザーデバイスで展開できるシステムが欲しく、すべてのアプリケーションを解放したいのです。すべてを大きなデータセンターに送信し、サーバーファームで処理してから戻すことはできません。より小さなシステムが必要で、LLMは大きすぎると思います。

私たちが正しい方法でそれらを圧縮する方法を本当に知らないので、まだそれらを使っていますが、私たちの心ができる特定のことがあり、それは生成に似ています。基本的に、一つのステップで関連性を作り出しますが、そこで止まりません。その関連性を取り、批判し、構築し、反復的に関連性を上に行って、製品により良いものに改善します。

LLMや画像生成器は主に一つのステップを使っています。その一つのステップで行うこと、この一つのステップの関連性は驚くべきものです。人間の心が一つのステップでできることをはるかに超えています。その一つのステップが層関数でニューラルネットワークで実装されている場合です。

しかし、私たちは非常に賢い方法で多くの多くのステップを行くことによってのみパフォーマンスを得ます。だから、この方向への発展があると思います。最小限の推論を行うことができるエンジンについて考えます。

最小の認識論的エンジン

インターネットのすべてで訓練されたモデルを持ちたくないかもしれません。早熟な12歳のようなものが欲しいだけかもしれません。本を理解し、第一原理から推論する方法を理解する認識論的エンジン、データを取り込み知識を生成できるもののような形に可能な限り圧縮します。

理想的には、正規形でも、この知識を保存し、他のモデルに与えることができ、それは素晴らしいでしょう。タスクの準備に、ライブラリを与えます。そのタスクのライブラリを読みます。長くはかからないでしょう。タスクに合わせて30分でプットアップし、これを他の人にバイナリとして出荷したい場合でも出荷できる知識ベースに翻訳し、さらに高速になります。

しかし、モデル自体はどれくらいの大きさになるでしょうか？この時点ではわかりませんが、現在のものよりもはるかにはるかに小さくなると思います。

私が覚えていない論文がありました、M・ウィンフによるニューロセルラー・オートマターで、ヤモリを生成していました。しかし、それについて非常に興味深いのは、この反復的コンポーネントを持っていたことです。なぜなら、私たちはしばしば話すからです – 前回、ニューロンネットワークが固定量の計算を反復ごとに行う有限段階オートマターであることについて話しました。しかし、この反復的コンポーネントが境界外の多くの計算を作り出します。私が正しく理解していれば、あなたたちは、この反復的コンポーネントを持つ劇的にスパース化された小さなモデルを構築しているのですか？

現在のところ、私たちはまだそれをやっていません。現在私たちがやっているのは、いくつかの興味深い「やや」価値のために、やや小さく、やや効率的である最先端を再現することに取り組んでいることです。それは経済的に興味深いものです。

しかし、長期的に私が興味を持ち、分野が興味を持つのは、データに直面したときに世界を理解できる最小のエンジンは何かということです。それを必要とするものに効率的に自分自身をブートストラップできる最小のものは何でしょうか？

それはたくさんの問題を解決するでしょう。なぜなら、最終的には著作権データに汚染されず、現在のコンテキストで望まないものを置くことなく、あなたが望む使用例に正確に焦点を当て、はるかにモジュラーで有用になるからです。

そこに到達できれば、それは素晴らしいでしょう。不完全でないシステムを作るのは非常に困難です。ニューラルネットワークを神経系のモデルとして考えるべきではありません。代わりに、ニューラルネットワークは、隣接する脳状態を互いにマッピングする関数です。

言語と思考の関係

Transformerの奇妙なことは、私たちがそれにマッピングしている脳状態とから脳状態が、私たちの脳が使っている中間表現ではなく、テキストだということです。あなたの作業記憶をテキストに翻訳し、次の脳状態をテキストに書いているものの内容をシミュレートする精神的表現に再び翻訳して計算する必要があることを想像してください。

それは明らかにあまり効率的ではなく、非常にロッシーでもあります。なぜなら、すべてのあなたの思考をテキストで非常にうまく翻訳できるわけではなく、あなたのパフォーマンスを制限するからです。

代わりに欲しいのは、あなたの思考を表現することです。私が考えているとき、私は英語とドイツ語で非常に多く考えているので、もはやそれらの言語で考えていないことに気づきました。私はサブトークン埋め込みの一種である概念的言語で考えているように感じます。そして、誰かがポッドキャストや会話にダウンロードしたいときにのみ、英語やドイツ語に翻訳します。

だから、私は外側からこのモジュラーモデルが機能しているのを観察します。基本的に、サブトークン埋め込みの文字列を私の言語生成器に送り込み、言語生成器は多くの注意を必要とせず、比較的迅速にこれをあなたが理解できることを願うシンボルの文字列の形式に解析するツールです。

内部状態の最適化

では、LLMでこれを行うことはできるでしょうか？大企業で現在研究で起こっている動きがあり、人々はこれらの内部状態を表現し、それらを保持することによって、これをはるかに最適にしています。

これらの内部状態をLLMの正規形に変えることができることを想像してください。実際にそれらが何を意味するかを理解し、言語での知識の操作に似た方法でそれらを使って知識を操作できますが、少しより規則的でもあります。

しかし、プログラミングコードやC構造の一般的な抽象化に対する幾何学や抽象化を操作するためにも使用できます。そして、素晴らしいブレークスルーが待っていると思います。これらのブレークスルーは、現在私たちがスケーリングやLLMの応用や整合性の議論などについて考える方法とは無関係です。

本当にエキサイティングな研究があるでしょう。時々、人々は間違った期待を持っていると感じます。個人的に、私はAIがやっていることすべてに驚いており、毎週私の心が吹き飛ばされています。

しかし、私はAIが人間レベルで実行することは期待していません。私は、AIが1年前、2年前、10年前にAIができなかった問題を解決することを期待し、解決するのは信じられないほど困難だと思っていた問題です。そして、今、彼らがこれらのことができるのを見ています。

だから、私はAIがやっていることについて非常に楽観的で、このスタッフがやっていることの明らかな限界は見えませんが、それを実現するための多くの多くの困難も見えます。

だから、私は与えられたアプローチが特定のことをできないという証明はありません。ゲイリー・マーカスがそのような証明を持っているように見える人とは異なります。これらの証明は、私は機会を見ていますが、来週AIを手に入れるという確実性もありません。おそらく一つの論文だけ離れているかもしれませんが、本当にわかりません。

スケールアップするだけで、そのアプローチがどのレベルまで到達するかを予測できますが、それを超えて行くかどうかは明確ではありません。しかし、次のブレークスルーが何なのかは、そこに到達する前に予想するのは非常に困難です。

ゲイリー・マーカスについて

土曜日の朝にはゲイリーがあなたの椅子に座ることになりますが、ある学派の考えでは、言語モデルをスケールするだけでよいということです。

私は公に何か間違ったことを言うことを喜んでする人々を本当に深く尊敬します。それは非常にまれで、基本的に多くの人は安全にプレイすることを好みます。なぜなら、信頼性は簡単に失う通貨だからです。

機械学習研究者に深層学習は壁にぶつかっていると言うとき、深層学習はそのようなことを全くしていないとき、すべての信頼性を失います。特に、エラー修正をしない場合です。あなたがニューヨークタイムズの人々、政治的理由でAIを嫌う人々と話し、彼らが聞きたいことを言うなら、あなたを人気にするでしょうが、実際に物を作る人々の間であなたの信頼性をさらに殺すでしょう。

しかし、フランソワはそのようではありません。フランソワは、美しいフランスの知的な方法で非常に傲慢で、オールインして、知能は一般化能力であり、それがすべてであると言う人です。LLMはこれができないことを示し、彼が作っている本当に大胆な予測です。

私は、誰かがARCチャレンジを解くLLMを構築し、彼が自分の頭を食べることを非常に喜ぶだろうと思います。彼は人々を彼に言い返そうとし、解決策を見つけようとするように仕向けるでしょう。だから、彼は本当にゲームに肌を持ち、「ここにチャレンジがあります。これは私が解決できないと思う問題です。解決してみて、私が間違っていることを証明してください」と言って、頭をリングに入れます。

これは私が深く尊敬することで、そのような大胆な予測をする人々の一人です。彼は非常に賢いので、彼の予測はかなり良く興味深く、人々は注意を払います。

しかし、基本的にあなたの予測に対する代替案を見ない予測をし、あなたが言っていることを無効にする実際の議論をせず、間違っていることが証明されたときに撤回しないのは、私は反生産的だと思います。

ゲイリーを擁護して、私は彼の新しい本を読んだばかりです。明らかに信頼性の問題があり、推論ではないなどのすべてを脇に置いて、彼は安全主義の議論もしています。タバコは悪い、ソーシャルメディアは悪い、未来は私たちを逃れる、これは非常に有害である可能性がある、私たちはそれについて考えるべきです。それは私には合理的に思えます。

私はAIが問題を解決する技術だと思います。より良いモデルを与えることによって、それが最終的に何であるかです。悪い人にAIを持った人と対処する方法は、AIを持った10人の良い人です。創造には常に破壊よりも多くの価値があり、感染よりも協力に多くの価値があります。そして、これらの利益を最適化している世界に住んでいます。

政府とメディアのコントロール

私たちは、例えばインターネットが悪化させたものに注意を向けることができ、インターネットが行ったことを忘れていることです。数年前には誰もそれをチェックアップできなかったので、メディアはスロップを得ていました。今日の政府陰謀は本当に作るのが困難です。非常に多くのバックチャンネル、非常に多くのアウトレットがあり、誰も口を閉ざしていません。

基本的に、非常に多くの情報が利用可能で、実際にファクトチェックを行うことができます。起こっていることは少し異なります。金融業界が政府の腕であり、すべての取引を制御し、すべての取引を監視することなどに慣れている政府があります。

これは、あなたが政府を信頼する限り、多くの点で間違いなく有用です。しかし、私たちの政府は完璧なインセンティブを持っていないことも理解しているので、政府を信頼しない程度があります。だから、私たちは通常、政府がすべてのデータを持つべきでなく、すべてのコントロールを持つべきでなく、世論の完全なコントロールを持つべきでないことに同意します。

政府をコントロールしているのは誰ですか？これはメディアです。はい、私たちはメディアが政府とも同じ同質なクラスターでない程度においてメディアを信頼します。それが起こっている場合、例えば東ドイツでは、メディアと政府はかなり同じものでした。

そして、メディアが基本的にすべて主流メディアが一つの政党と整合しているように見える国では、その一つの政党の政策に反対する人々は、そのパーティー良いかどうかに関係なく、公的に利用可能なすべての情報がその政党的なメディアによってゲート化された世界を恐れる理由があるかもしれません。

それを見ると、多くのソーシャルメディアのコンテンツ、ファクトチェックなどを制御しようとする試み、選挙の完全性は党派的です。彼らは直接一つの特定の政党に向けられており、これが実際に良い政党であることがあり得ます。中国では、一つの良い政党しかないので、第二の政党は必要ありません。

多分私たちはそれを望んでいます。多分私たちは、民主主義を救うために次の選挙をスキップして、民主主義にとって危険なことが何もないようにすべきだと気づきました。しかし、それは非常に触れやすい問題です。

情報の自由について

多分私たちは、メディアは政府の腕であるべきで、ソーシャルメディアは政府の腕であるべきだと政府が感じるような方法で民主主義を設計する必要があります。私は、政府がそれを感じると思います。私たちは、削除してもらいたいアカウントのリストをソーシャルメディアプラットフォームに送りました。私たちが気に入らない意見を持っているからです。

多分、コロナがラボから来たと言う人がいます。多分そうかもしれないし、そうでないかもしれませんが、誰かがそう言ったら本当に本当に悪いでしょう。なぜなら、それは科学への信頼を危険にさらすからです。科学への信頼が危険にさらされれば、社会はもはやうまく機能しないかもしれません。

多分、昨日はマスクが役に立たないと思い、今日は役に立つと思うという考えを記憶し、コロナがラボから出現する方法がなかったという考えを記憶し、今では非常に可能で非常に可能性が高いと思う必要があります。

これは情報の制御に対する非常に奇妙な状況で、東ドイツで育った人として、ソーシャルメディアはないと非常に不快に感じます。ソーシャルメディアは、政府とメディアの外で意見を形成できる唯一の方法です。

私がこのウォーム・プロジェクトを信じる理由は、私たちが特定の人間の美学を信じるというこのアイデアで、この美学の核心は、他者によって奴隷化されない自由な個人であるために、暴力を使わずにアイデアについてコミュニケーションできる必要があることです。

だから、言論の自由は私たちの民主主義の絶対的な核心にあります。現在、非常に影響力のある人々のグループがあり、彼らはこの言論の自由を信じていません。彼らは正しいかもしれないし、そうでないかもしれません。彼らは自分たちのケースを作り、より良い議論を持つことを完全に自由であるべきですが、反論をすることを止めるべきではありません。

私は結果について本当に心配しています。なぜなら、一方のサイトが言論を制限できるとすぐに、大多数の利益に反し、世界で良いすべてのものに反するかもしれない任意の意見を実装できるように見えるからです。

私は、ソーシャルメディアを準備することをはるかに支持します。ソーシャルメディアは間違ったインセンティブを大幅に持っているようです。それは非常に不快な体験ですが、それは言論の自由の結果だとは思いません。悪く設計されているソーシャルメディアの結果だと思います。

はい、私たちには言論の自由と多元的なアイデアが必要だと同意します。しかし、例えばAI規制について、私たちには専門知識が必要で、実際に何について話しているかを理解し、十分な情報に基づいた決定を下している政府の人々が必要です。家庭として、私たちはこの技術についてそれほど多くを知らないからです。

しかし、また、適切な方法で規制する動機を持つ規制当局が必要で、現時点で存在するさまざまなインセンティブがあります。私たちが住んでいる社会は、公共機関、商品やサービスを生産する能力に関してある種のエントロピーを持っているように見えます。

どういうわけか、商品やサービスは時間の経過とともに中身がくり抜かれているように見えます。より効率的になります。つまり、最小限の実行可能製品に削減されますが、必ずしもより安くはなりません。ある地域では、もはや効果的なイノベーションがない地域では、間違いなくそれがあります。

基本的に改善が止まり、物事は毎年よりずさんに、より悪くなります。だから、私たちの社会はイノベーションに依存して一定のレベルを維持しています。そうでなければ、基本的に腐敗します。

現在大規模にイノベーションしている主要な領域はAIです。私たちがまだ大規模にイノベーションしている他の領域はほとんどありません。他のすべては、ここで生産されるのではなく、金融化された商品やサービスの再分配についてのようです。

これは、最終的に私たちを貧しくする非常にもろい社会を作り出すと思います。だから、そのイノベーションを維持することは非常に重要だと思いますが、イノベーションと競争する人々の観点から、例えばあなたが完全に予測可能な意見記事を書くプロフェッショナルプロンプトコンプリーターであるなら、あなたはプロンプトを得て、誰もがあなたが言うことを知っています。

間違いなく、ゲイリー・マーカスのAI批判がやっていることだと思います。なぜなら、GPT-3によって予測できないものを見たことがないからです。それは大きな問題です。それはもはやイノベーションしていないスロップです。それ自体の出力で訓練されたモデルです。

私たちの社会の一部がスロップである理由はそこにあります。なぜなら、それは自分の出力で訓練されたモデルにすぎず、もはやイノベーションしていないからです。これらの人々はイノベーションしているものと競争できるでしょうか？彼らはそれを存在から規制しようとするでしょう。

だから、AI FDAのようなものを持ちたい私たちの社会の一部があり、新しいモデルを展開したい場合、まずAI FDAに持っていく必要があるかもしれません。AI FDAはテストに6ヶ月しかかからず、かなり大きな料金がかかり、数百万ドルかもしれません。オープンソースモデルはなく、海外からモデルを輸入して使用することはできません。

インターネットプロバイダーにこれが起こらないようにしてもらい、料金を支払うことができる4つの大きなAI企業があることになり、医薬品が生産される方法と似たようになります。

4つの大きなAI企業の利益と規制当局の利益、そして一方でAIを望まない人々の利益にあることは明らかです。多分彼らは紙クリップに変えられることを恐れているからです。これは規制当局の一部である実際にはドゥーマーです。最後の日のカードで、エリエゼル・ユドコウスキーが言っていることを注意深く聞き、彼が言っていることは真実だと思った人たちです。

他方では、自分の業界を中断させたくない、あるいはLLMの出力に対する政治的コントロールを持ちたい人々がいます。

はい、私はあなたに同意します。私は規制キャプチャーのリスクがあることを意味しますが、ゲイリーは実際に規制キャプチャーについて本の中で話していますが、彼は本の中でマーク・ザッカーバーグを引用しました。彼らは「迅速に動き、物事を壊す」と言い、PayPalの話がありました。最初は料金がなく、素晴らしく、実際にあなたに使用するために支払ってくれ、今では彼らはあなたを搾取します。

Netflixでも同じこと、Uberでも同じこと。彼らはタクシー会社ではないと言い、だから彼らに適用するルールはありません。最初は最高の意図を持っていたとしても、時間が経つにつれて害を引き起こす可能性があります。

私はUberが世界をより悪くしたとは思いません。Uberは以前に交通手段を持たなかった人々のために交通手段を作り出しました。タクシーが単に行かない地域があり、公共交通機関がない特定の都市の地域があり、Uberはドライバーと運転されたい人々の間の市場を作ることによってその状況を解決しました。

その市場は機能しており、多くの雇用も創出しています。以前は、タクシーキャップの数が中央規制で制御されている状況がありました。これらのメダリオンがあり、継承するか購入することができ、非常に高価で、市場に摩擦を生み出しました。この市場の摩擦は実際には有益ではありませんでした。

Uberが登場したとき、これが素晴らしかったのは、この評価システムが車の中でどのように機能したかでした。基本的に、Uberが来たとき、車がきれいで、ドライバーが親切であることに頼ることができました。ボストンでタクシーを取ったとき、車は汚く、ドライバーはあなたをだまそうとし、ドライバーはしばしばどこに行くかを知らず、Google Mapsでどこに行くかを教えなければなりませんでした。

私がアメリカに来たとき、このフリーマーケットのものがあり、イノベーションをしており、物事をやっていることに気づいたのは、本当に私にとって興味深いことでした。人々にUberから生計を立てているかと尋ねると、「いいえ、でも前には仕事がなかった、それは私にお金を稼ぐ方法を与えてくれる、どれだけの人がそのサービスを必要としているかに応じて規制されている」と言います。私はそれが良いことだと信じています。

私は、技術は概して良い力であり、主に再分配に依存している社会の地域の人々、実際には生産的でない人々、しかし主に意見を持つためにお金を得ている家賃を求める人々にとって、技術を競争として見るということだと思います。

彼らにはそれについての意見があります。なぜなら、それが他の人々を感動させるからです。しかし、競争、技術は私たちが以前に手が届かなかったものをより手頃にすることを可能にし、より多くの商品とサービスを生み出し、基本的に私たちのボートを上げます。

あなたが言うことの多くは真実です。例えばUberは、このグレイボールのことをしました。もしあなたが警察署や地方議会事務所の近くでアプリを使っていることを検出したら、車は利用できませんと言うので、調査される可能性がありませんでした。中国では、ハッカーを雇って電話のIMEIコードを取得し、App Storeから禁止される寸前でした。

はい、だから私は犯罪行為をコントロールすることを完全に支持します。社会として望まないものを規制することも完全に支持します。規制は必要で、本当に重要です。また、AIに関して規制すべきものもたくさんあります。

例えば、患者が医学研究に使用することに同意を与えた医学データに基づいて構築された医学出版物がトレーニングデータに入っているものがあります。これらのジャーナルが基本的にオープンアクセスであったという事実は問題ではありませんでした。なぜなら、誰もその狭い文脈の外でそれらのジャーナルを読んでいなかったからです。

しかし、これらのジャーナルが合法的に正当にパブリックドメインに入り、パブリックドメインのトレーニングデータで訓練できることを正当に合法的に確立するとき、多分突然個人的に認識可能なデータがAIモデルに入り、誰もそれを望んでおらず、予想していませんでした。これに関するルールを作成する必要があり、それらは公正で公平で、可能な限りみんなにとって良い結果を作る必要があります。

著作権と創造について

また、将来の創造に税を課して過去のクリエイターに報酬を与えることには賛成ではありません。著作権のようなものを持つことの利点は、そうでなければ存在しない重要な文化的人工物の創造を奨励することです。著作権が存在する理由は、創造を制限することではなく、流通しているものを減らすことではありません。

だから、私たちは社会として、一部の人々が支払われたいという利益と、物事が作られることを望む社会の利益について考える必要があります。だから、質問は、私たちを可能な限り豊かにしてくれる社会をどうやって作ることができるかです。ただ金銭的に豊かなだけでなく、文化的に豊かで、私たちがいたい世界を与えてくれる社会です。

私は、これらの技術はそのために素晴らしいと思いますが、正しい方法でそれらを使用する必要があります。規制者をどう規制するか、インセンティブを設定する人々をどうインセンティブするかです。これは非常に深い質問です。

AIが私たちにこれを理解する助けにもなることを望みますが、ある意味で私たちはこの質問を忘れてしまいました。

しかし、ゲイリーが話すテーマの一つです。なぜなら、OpenAIが英国の上院に提出し、著作権を軽視することを心配しないでください、私たちは社会として良いAIを持つ必要があるので、それは理にかなうというケースを作ったからです。Uberでは、労働者が保護を失いました。

しかし、これはすべて保守主義と適応に関することです。もちろん、今、人々がTwitterでディープフェイクを見ると、彼らはそれを真剣に受け取りません。オンラインで見るものを信頼しないからです。そして、今、人々は著作権が価値を下げられるなどの体制に移行していることを知っています。

しかし、変化が速すぎるかもしれず、害をもたらす可能性がありますと言うことはあります。

資本主義社会がうまく機能する場合、特定の場所で長時間にわたって多くの利益を生み出すことはありません。利益が表すものは裁定だからです。基本的に、より安く、より効率的にできることをやっていることを意味します。

長期にわたって増加する利潤を見る場合、それは他の誰かがそうする必要があるよりも多く支払わなければならないことを意味します。タクシードライバーが保護されたクラスとして存在し、必要なドライバーの数からやや離脱しているという考えは問題です。なぜなら、それは実際に運転される必要がある人々が運転されることができず、運転したい人々が完全に能力があるにもかかわらず運転することが許可されないことも意味するからです。

それはリソースの誤配分で、時々私たちはこのようなリソースの誤配分を解決する必要があります。物事をより悪くする規制を取り除くことによって。

私たちには、現代のトンネル掘削機でもはや行われていないことをする人々にお金を払うことを要求する労働組合があるという問題があります。だから、6桁の有給の仕事をしている人々がいますが、実際には何もしていません。ただ規制があるからです。結果として、ニューヨークで新しい地下鉄トンネルを建設しません。あまりにも高価で、みんなにとって悪いからです。

多くの点で、どの規制がどの効果を持つかを考える必要があります。著作権はかなり複雑なものです。現在、インターネットの一部は憤慨しています。なぜなら、イーロン・マスクがGrokのAIの更新をリリースしたからです。それは他の画像と同じガードレールがない画像を生成できます。

だから、今、あなたはドナルド・トランプが機関銃を持って911の高層ビルに飛び込む画像を生成できます。憤慨は信じられないです。その プロンプトを入力した人々がいて、イーロン・マスクに「あなたはなんて悪い人だ、私にやらせたことを見ろ」と言います。それは陽気です。

本当に興味深い状況で、人々は「私のApple IIコンピューターで同じことに気づいた、私のApple IIコンピューターで『岩をもっと食べろ』と入力すると、岩をもっと食べろと言ってくれます。これは本当に危険で、完全に非合法であるべきです」と言います。

ここには問題があると思います。一方で、生成AIはブラシです。あなたが望むものを、あなたが思い描くものを視覚的に翻訳することを可能にします。しかし、それ自体は製品ではありません。特定のコンテンツを生成することを可能にするツールです。

人々があらゆる種類のコンテンツをあらゆる種類の与えられたコンテキストで生成することは自由ではないと思います。それは言論の自由だけの問題ではありません。合法的な著作権の利益があり、彼らがやっている正当なことを中断しないという利益があります。ラベル法や他の多くのことがあります。

人々はPhotoshopや、テキストエディターや、ペイントブラシを使って生成するコンテンツに責任があります。同じように、LLMを使って生成するコンテンツに責任があります。誰もその人にドナルド・トランプが911をやる画像を生成することを強制していませんでした。

誰もトランプが911をやったと思っていませんでした。その人がディープフェイクを生成してトランプが911をやったことを示唆している場合、その人は既に法的に責任があるかもしれません。これに対する新しい規制さえ必要ないかもしれません。

しかし、AIがこの特定のものを生成することを防ぐ規制を課したい場合、副作用があり、これらの副作用はその技術から得ることができる利益の多くを否定するでしょう。ファクトチェックされたもののみ言うことを許可するソーシャルメディアを持ちたい場合、インターネットの利益のほとんどはもはや現れないでしょう。

だから、最初に イノベーションを防ぐのではなく、より多くの力、より多くの自由、より多くの生産性、より多くのイノベーションを持つことの欠点に対処する技術を開発する方がはるかに良いです。

はい、物事を規制し始めると、非常に迅速に官僚制に爆発し、あなたがどこから来ているかを本当に見ることができることに完全に同意します。しかし、本当に言論の自由だけでなく、思考の自由、想像の自由、特定のものを作成する自由も排除しようとする人々がいます。私はこれを非常に醜いと思い、反対する必要があると思います。

私たちが働く世界のアイデアである特定のアイデアを守る必要があります。私たちを解放する世界、私たちが互いに責任を取ることを可能にする世界、倫理を発見することを可能にする世界、私たちが実際に望むものを自律的に認識することによって調整することを可能にする世界。

これを行うには、私たちは自由である必要があります。大学の啓発された20歳のグループが彼らの好みのイデオロギーを持ち、何がソーシャルメディアで印刷できるか、AIで何が生成できるかを制御することによってみんなにそれを課すことができるという意味ではありません。

これは、AIに問題がない、ソーシャルメディアで理解すべき困難がないという意味ではありませんが、これらの規制を課しながら、私たちがそこに住みたい社会のアイデアは何かを非常に注意深くする必要があります。

最後の質問

しかし、Uberを予約する私たちの自由は、ドライバーの一種の監獄ではないでしょうか？ドライバーが自殺するなどの例があります。私たちの自由のために、結果について本当に考える必要があることではないでしょうか？

政府が二人が互いに契約を結ぶことを防ぐために介入すべき条件は何かというのは、私は興味深い質問だと思います。特にこの政府が、より多くの利益を得たい既存の産業によって捕獲されて、彼らが最適でないサービスを提供しながら競争を防いでいる場合。

タクシー業界は、最適でないサービスを提供しながら規制された利益を持つ組織化された業界の非常に良い例だと思います。そして、競争を防ぐことによってその利点を維持します。合理的な人々がいて、両方の側が能力があり、安全で健全で、よく意図されており、彼らがその契約を結びたいという良い理由があり、彼らはそれを許可されていません。あなたはそれをどのように正当化しますか？

それが私が持っている主な問題だと思います。

興味深い。AIスタートアップエコシステムとLLM企業について少し進みましょう。どう思いますか？

このエコシステムに存在する企業の大多数はアプリケーションを構築していると思います。これらのアプリケーションは基本的に生成AIを持つことによって提供される利益を使用し、それらを価値に変えます。

比較的少ない投資でこれを行うことがしばしば可能なので、今存在することができるこれらのスタートアップの多くは、LLMの利益を使用する人々です。例えば、ウェブサイトを自動生成し、データベースの機能を自動生成するためです。

あなたはこれの始まりにいるだけで、LLMがもはやエージェントではなく、ユーザーとの相互作用で動的にその形を変えているより大きなアプリケーションの環境やソフトウェアである場所です。

私は、人々が提供できるサービスの爆発の始まりに立っていると思い、基本的に作られる多くの価値を生み出します。そして、大規模でこの技術を開発している一握りの企業があり、これらの新しいフロンティアモデルを考案しています。

これらのフロンティアモデルには問題があります。なぜなら、主要なモデルを構築すれば、誰かがあなたのものより少し良い次のモデルを作る瞬間まで、そのものは価値があるからです。だから、そのモデルを訓練することに構築したコストは、その瞬間に沈没します。

それはかなり興味深い状況です。なぜなら、誰もがそのヒットを吸収できるわけではないからです。飛行機を作るようなものではありません。飛行機を展開し、誰かが少し良い飛行機を作っても、あなたの飛行機は突然ゼロの価値になりません。それはまだ有用な飛行機です。

しかし、LLMはサーバーファームにアップデートを入れることができるソフトウェアなので、もちろん、価値を生み出すために常に最新バージョンを使用するべきです。去年のバージョンを使うことにはあまり価値がありません。なぜなら、まだそれを償却しているからです。

だから、質問は誰がこれらの損失を吸収できるかで、これは研究ラボである必要があることを意味します。主にイノベーションを作ることによって価値を生み出すことによって駆動されます。彼らは、簡単に更新されない特定のアプリケーションのために特定のモデルを必要とする顧客のための収益を生み出すために、非常に良いビジネス開発を持つか、またはかなりスリムな軌道を持つか、あるいはオペレーティングシステムを作る企業や、物流アプリケーションを作る企業などの他の企業と提携し、多くのお金を生み出し、基本的にサイトで新しいAI技術の開発に資金を提供できる必要があります。

Mistralについて

Liquidでは明確なモートがあります。他の誰もまだやっていない技術があります。Mistralについてはどうでしょうか？

オープンソースモデルを構築している場合、オープンソースのウェブサイトやオープンソース言語、オープンソースソフトウェア開発フレームワークやライブラリを構築する人々と似たような状況にあると思います。

あなたが作っているのは、あなた自身を含むより多くの人々が生き残ることができるエコシステムです。今日存在しない何かを開発しています。例えば、Stable Diffusionモデルを展開することによって、多くの人々が生成AIのためのイノベーションを開発する機会を得ました。それは以前には存在しませんでした。

非常に大きなエコシステムの人々を作り出し、それから企業を始めて、アイデアを思いつきます。だから、これらの投資は非常に価値があり、奨励され、報酬を受けるべきだと思います。しばしばそうです。

しかし、ある時点でMistralが「いいえ、今は私たちはクローズソースに行きます。なぜなら、これを資本化する方法が必要で、現在のケースでこれを行う方法が見えないからです」と言うことも完全に理解します。

Metaのような歴史的偶発事故が存在することに非常に感謝しています。私が思うに、マーク・ザッカーバーグが銀行に十分なお金を持ち、ソーシャルメディアを次のレベルに引き上げる方法について考え、それはVRになると思い、VRに投資し、大きなサーバーファームを作ってVRをやり、そしてVRは現在の形ではまだ実現可能ではない、または少し異なる方向に行くと気づいたということが起こったと思います。

突然、たくさんのサーバーがあり、「すべてのGPUで何をしよう、いくつかのモデルを訓練して、公開しよう」と思いました。私はそれが起こったことに非常に感謝しています。なぜなら、それはベースラインとツールを作り出しているからです。他の企業がその上に構築し、イノベーションを行い、フロンティアラボにもフィードバックする新しいアイデアを開発できます。

だから、地元で絶望を見たり心配したりしている人々にもかかわらず、AI自体に興味がある人の観点から、そしてこれらのもののエコシステムへの影響から、私はこれらのことが起こったことに感謝しています。

ゲイリーの本で読んだのは、明らかにザッカーバーグは谷で働きたがる人がmetaにいなかったからそれをやったということです。だから、人々を雇うためだけに、エキサイティングなプロジェクトを持たなければなりませんでした。

私は時々Facebook事務所を訪れましたが、かなり空でした。しかし、私はそれがパンデミックのためだと思います。Metaは人材を募集するのに問題があるとは思いません。Metaは非常に利益が出ており、ほとんどの人が働きたいと思う職場です。

ガリー・マーカスがそのようなことを言うとき、これが何に基づいているのかわかりません。Metaが候補者を見つけるのが困難であることを示す何らかの統計を持っているのでしょうか？そうだとは思いません。

実際には驚きました。私はmetaで働きたいと思いますが、それは非常に興味深いです。

とにかく、時間がなくなったと思います。ヨシャ、絶対的な光栄で喜びでした。番組にお越しいただき、本当にありがとうございました。

私もこれを非常に楽しみました。素晴らしい、素晴らしい。