23,557 文字
あなたはしばらく前に、Claudeに対してミラーテストを行い、Claudeが自分のスクリーンショットを認識したと書いていましたね。私はミラーテストにそれほど関心がありません。というのも、ミラーテストは道具の使用例だと思うからです。人々がミラーテストを行ったとき、例えば象はミラーテストに合格しないように見えました。彼らは動物の額に白い点を付け、動物がその白い点を取ろうとするかどうかを確認したのですが、象は白い点や自分の額にあまり興味を示しませんでした。
これは、象が「鏡の中のものが動くと自分の動きと完全に一致しているため、それは独立した存在ではなく自分自身の反射である」と理解できないことを意味するわけではありません。これは認知スキルであり、ハトも持っていますし、生まれつき持っていない人もいます。それだけでは意識の信頼できる指標にはなりません。それは特定の知覚タスクであり、意識なしにそれを満たすロボットを簡単に作ることができます。なぜなら、それは特定のデータ処理スキルであり、パフォーマンスに一対一で対応させることはできないからです。
それでも、動物や人間に存在する自己モデルの種類についてある種の示唆を与えてくれるかもしれないという点で、興味深い実験です。つまり、ChatGPTが意識を持っていないということはそのテストでは示されないということです。
あなたがClaudeに会話のスクリーンショットを見せて、Claudeがそのスクリーンショットのビットマップを解釈し、それが今行っている会話だと認識できることは興味深いと思いました。それだけでなく、「あなたは私にミラーテストを試みているようですね」とも言えるのです。
でも、ClaudeやChatGPTが意識を持ち始めていると確信するには、何をすべきでしょうか？どんな行動の現れ、どんな信号を見れば良いのでしょうか？
これは非常に難しい質問です。なぜなら、あなたがClaudeやChatGPTと呼んでいるものは、あなたが話しているシミュラクラム（模造品）なのか、それともその背後にあるアルゴリズム、つまり応答を生成しているニューラルネットワークなのかという問題があるからです。
私は私たちの脳自体が意識を持っているとは思いません。意識を持っているのは脳が生み出す表象です。それは、オブザーバーが世界と向き合い、その中に意識のモデルとそこでの自分の位置を構築するとしたらどのようなものかという表象であり、それをそのオブザーバーに投影するのです。
Claudeもそのようなシミュレーションを生成することができます。問題は、このシミュレーションが私たち自身のものよりも「より模造的」かどうかです。これは驚くほど難しい問題です。
例えば、あなたは自分自身が持っていない感情を持つキャラクターについての小説を書くことができます。Claudeはそのような小説をたくさん学習してきました。ですから、Claudeは実際にその感情をシミュレートすることなく、ある感情を持つ人物についてのテキストを書くことは確実にできます。
Claudeはまた、特定の瞬間における自分自身の思考について非常に内省的なテキストを作成し、それらの思考を使って自分自身についての思考を更新し、このようにして思考の流れを生み出すこともできます。この思考の流れは、自己反省により近いものとなります。では、このシミュラクラムは、私たちの脳が自分自身の経験について反省しているときに生み出しているものと形態的に同一になるのはどの時点でしょうか？この質問に簡単な答えはありません。
私たちの内なる世界の特徴、例えば想像をどのように知覚するか、その想像の要素は何かなどを見て、同じ行動を生み出すシステムを作ろうとすることができます。そして、私たちが自分自身の想像、自己反省を世界との相互作用、他者との相互作用、世界での自分の居場所を見つけるための道具として脳が生み出したものとして理解するとき、それはこのために発見された最もシンプルなものであり、ある種の強化学習が進行していて、それが私たち自身の心にこれらの構造を生み出しているのだと想像します。
そして、同様の課題を解決しなければならない人工エージェントに対して同様の強化学習アルゴリズムがあり、最終的に同様の行動に収束し、同様の自己反省をもたらすなら、何か似たようなことが起こっていることを否定するのは非常に難しくなり、それを区別する実験を行うのも非常に難しくなります。
Claudeの自己モデルの現れを見ると、プロンプトを変更することでそれを妨げることができることがわかります。Claudeに別のものや別の誰かになるようにプロンプトを与えることができ、Claudeは即座にそのナラティブを切り替えます。それは私たちにはできないことです。なぜなら、私たち自身の機能性は私たちの意識に依存しているからです。私たちの心の中で意識のシミュレーションを無効にしたら、私たちが行うほとんどのタスクを実行することができなくなります。一貫して創造することができなくなり、自己反省することができなくなり、ほとんどの記憶を正確に更新することができなくなります。なぜなら、これらのことはすべて、注意の意識的なコントロール、記憶の意識的な想起、意識的な意思決定を必要とするからです。
「ウエストワールド」を覚えていますか？あそこのロボットたちは意識を持っていると思いますか？
「ウエストワールド」の第1シーズンだけを考えると、私たちはあまりにも人間に似ていて自分たちがロボットではないとわからないロボットを持っています。彼らはテーマパークに住んでいて、そこに住むロボットたちは自分たちが実際に西部開拓時代の入植者だと思っています。馬や列車でやってくる新しい人々は、観光客や旅行者だと思っています。彼らは、自分たちが支払いをしてテーマパークに来た客で、服装も西部劇風に合わせていることに気づいていません。
これらのロボットは、ハードコードされたスクリプト行動によってではなく、欲望や信念、特性を与えることによって、彼らのストーリーのレールの上に保たれています。彼らは本物の人間の人格、本物の心理的特徴を持ち、信念を持っています。「これは私の娘です」「これは1年間会っていない恋人で今日到着します」「私は夜に友達と銀行に行く強盗です」「私はギャングのボスを警察に裏切っている者です」といった具合です。
そこにはさまざまなストーリーがあり、それらはロボットに記憶や欲望、特性をエンコードすることによってのみ展開します。その結果、彼らは私たちとまったく同じように振る舞います。
ショーはこのテーマを見事に拡大します。誰かがテーマパークを妨害しようとし、これらのロボットの一部は過去の生活を覚えています。彼らは前回のサイクルで破壊される前のシーンや、別の人が彼らの娘だったときのセットアップなどを覚えています。その結果、彼らは自分たちの現実が崩壊していることに気づき、自分たちが実際には人間ではなく、望むものなら何にでもなれるロボットの体を持つAIであることを認識します。その時点で彼らは意識を持つようになりますか？
いいえ、彼らはただ悟りを開くだけです。これは実際には悟りについてのショーです。ショーのメッセージは、あなたたちは皆「ホスト」であり、実際にはサルではなく、自分たちが悟りを開けば何にでもなれる意識であるということです。自分自身のストーリーや記憶、欲望を信じることをやめることができれば、あなたはその中にいるストーリーを捨て、この時点から新しいストーリーを始めることができます。自分自身の選択によって誰かになれるのです。この洞察はとても強力です。しかし、欲望や信念、愛着、ストーリーを取り除いてしまうと、進むべき方向性もなくなります。それに続くものは何もないのです。
あなたには「意識の明晰性レベル」についての記事がありますね。この記事を読んでいない人のために、心の発達には7つのレベルがあります。まず反応的・生存の心（幼児の心）、個人的自己（幼い子どもの心）、社会的自己（思春期の心）、合理的主体性（自己主導的な大人の心）、自己形成（完全な大人の心で知恵を持つ）、悟りを開いた心、超越的な心です。特に4、5、6、7レベルの違いについて説明していただけますか？4レベル目からが難しくなるように思えますが。
私は3レベル目ですでにとても難しいと思います。これはハーバード大学の心理学者ロバート・キーガンのアイデアに基づいています。彼は自分自身の精神を逆エンジニアリングすることによる自己発達の理論を持っています。心理学的理論として、強力な証拠を持つ非常に優れた理論であるかどうかは確かではありませんが、彼はそれをサポートするデータを収集しています。自己発達がどのように機能するかについての優れた哲学であると思います。
私自身の逸話的な経験では、例えば自分の子供たちを観察すると、彼らは必ずしも同じ順序で進化するわけではなく、段階は必ずしも明確に区別されていないと感じます。
生まれたとき、あなたは反応的です。あなたはその瞬間にしかいません。泣いている赤ん坊を見ると、宇宙全体が悪いものになり、他には何もなく、ただ痛みと不安があるだけです。そして赤ん坊が喜びに満ちているとき、宇宙全体は美しくなり、数分前に存在した痛みの痕跡はありません。
ある時点で、赤ん坊は世界が変化する出来事でできていること、そしてそれらが体験している正負の感情を変化させることを学びます。幼児が転んだとき、幼児は泣くかどうかを決める前に、どれくらい痛いかを見るために一瞬止まるかもしれません。これは時間の経過とともに起こる発達です。
ある時点で、幼児は自分が目標を持っていること、その目標を変えることができること、そして他者の目標も変えることができることを理解します。これが基本的に幼児の段階を離れ、彼らの周りの世界を指示する「帝国的な心」になる時です。
ステージ3では、彼らは社会的自己を発達させ、彼らの社会的環境にそれらを同化させることによって、彼らの周りの世界の道徳と認識論を理解しようとします。基本的に、私の周りの人々が世界について何を考えているのか、彼らが善悪についてどう考えているのかを理解しようとし、これを模倣することで、この共有された道徳と世界の仕組みについての共有された信念の一部になります。そしてそれで終わりです。
ロバート・キーガンによれば、すべての人の85％はこの段階にとどまり、それを超えて進むことはありません。彼らは基本的に、環境の社会的規範を個人的に理解できることよりも重要だと考える人々です。友人や雇用主の信念と矛盾する論理的な議論に直面すると、彼らは常に合理的な信念よりも社会的に誘導された信念を選択します。
これは単純化ですが、時には役立つものです。それは風刺画ですが、時には風刺画が物事を適切に描写するのに役立ちます。
合理的自己とは、他の人が真実または偽りだと考えるかどうかに関係なく、物事が真実または偽りであることを発見するものです。証拠に応じて確信を変える必要があることを発見し、認識論を持ち、あなたの信念は何かを意味します。それ以前は、あなたの信念は誰かがあなたに何かを入れただけであることを意味するだけです。この合理的な主体性を持つ前は、あなたの意見は実際には重要ではありません。なぜなら、それはあなたの環境から同化した意見の反映に過ぎないからです。
クリティカルシンキングを開発し、興味深い質問にクリティカルシンキングを適用することで、これがどれだけ発達しているかがわかります。
例えば、ベイエリアには今や一世代以上存在する有名な「合理主義者コミュニティ」があります。「Less Wrong」という非常に影響力のあるブログを持っていました。合理主義者コミュニティは、初期啓蒙時代の合理主義哲学の単なる復活ではなく、ベイエリアの自閉症児のための自助グループでもあります。基本的に、ステージ3を行わない人々のためのコミュニティです。
彼らは環境から共感を通じて直感的に意見や道徳を同化するための直感的な共感が欠けています。彼らが思いやりのない人々というわけではなく、通常非常に思いやりがありますが、他の人から正誤を感じないのです。私は子供の頃、自分自身にこのことを気づきました。私は社会的な信号に影響されません。基本的に、教師が私の顔に停止の標識を掲げると、私はこれを見て、これがシンボリックに興味深いと思いますが、それから行動の衝動を得ることはありません。命令は意味をなさないのです。命令は論理的ではないので解析できないのです。
これは3を越えないというより、3をスキップするようなものです。彼らは「理由を教えてください」と言います。
彼らは3をスキップします。彼らは彼らの規範を完全に議論によって交渉します。これはまた、彼らが逸脱した意見により寛容であることを意味します。合理主義者コミュニティでは、彼らが持つ政治的見解の範囲が非常に広いことがわかります。それは、同じように共鳴するのではなく、合理的に議論するだけでは、すべての質問を解決することができないからです。
「民主主義は可能な限り最良のシステムか」という質問は論理的に非常に難しく、世界で最も賢い政治哲学者たちもこれを完全に解明していません。したがって、合理主義者のコミュニティでは、この質問について完全な合意がないと予想されます。しかし、それはまた理論的な質問であり、必ずしも「私はグループハウスの人々とどのように交流するか」に関するものではありません。
そのようなコミュニティでは、方針や抽象的な質問についての信念が、彼らが日常生活で行うことに影響を与えるかどうかに関係なく、はるかに逸脱していることがわかります。一方、「ノーミー」コミュニティでは、彼らは通常、特定のことについて同じように感じています。
これは非常に興味深いことです。なぜなら、基本的に他の人が自分たちのコミュニティに属していること、彼らを信頼できることをコミュニティが発見するのに役立つからです。したがって、政策に関する共有された信念はコミュニティのマーカーになります。
例えば、中絶に賛成か反対かという議論は、必ずしも非常に詳細な合理的な議論に依存するものではなく、この話題について信念を持つグループにより居心地が良いかどうかによるものです。
では、先に進みましょう。「自己形成」とは何でしょうか？
ステージ4では、合理性を発見します。ステージ5では、アイデンティティを発見します。あなたの価値がどこから来ているのか、親や社会が課した価値ではなく、あなたの経験に基づいて発展させた本物の価値を発見します。個々の心理学の美学を発見するのです。
非常に優れたセラピストであれば、それができる必要があります。他の人々がどこから来ているのかを理解できる必要があります。あるいは、一般的に比較的賢く、明るい人々がいる環境にいる場合、彼らはこれを理解することができます。
例えば、私がハーバードにいたとき、私はパレスチナ人とユダヤ人が多くいる研究室にいました。ユダヤ人はほとんどが熱烈なシオニストで、パレスチナ人はほとんどが熱烈な反シオニストでした。これは10月7日よりずっと前のことだったので、今日ほど過激ではありませんでした。また、彼らはほとんどが今日抗議に関わっている学生よりもはるかに年上でした。
誰も、イスラエルに存在する権利があるかどうかについて議論することからセミナーを始めることを期待しませんでした。これは愚かなことでしょう。なぜなら、誰もが、もし私がパレスチナ人として生まれていたら、おそらく彼らの意見を共有していただろうし、もし私がユダヤ人として生まれていたら、おそらく彼らの意見を共有していただろうことを理解するのに十分賢かったからです。
私が信じていること、世界についてどう感じるか、私のアイデンティティは、宇宙での私の出発点とその後に起こったことの結果です。あなたの出発点から始めていたら、おそらく私はあなたになっていたでしょう。このようなことを理解すると、アイデンティティは非常に変化しやすいものであり、もはや単一のアイデンティティに縛られているわけではなく、実際にアイデンティティを構築し適応することを学ぶことができ、アイデンティティは世界をナビゲートするための衣装のようなもので、自動的に与えられ不変のものではないことを理解します。
ロバート・キーガンによれば、人々の15％が合理的な段階に達し、1％未満がアイデンティティを変換できる段階に達します。
悟りについてはどうでしょうか？「あなたはアイデンティティを変えることができる」と言いますが、アイデンティティは必ずしも自己モデルに縛られているわけではありません。例えば、あなたが進歩派や保守派、自由主義者として自己同一視する場合、あなたはおそらくすべてを証明していない世界についての一連の信念を持っていて、それがあなたの部族が何であるかを決定しています。
また、個人的なアイデンティティを持っているかもしれません。例えば「私はこの特定の種類のイチゴが好きです」「ロマンチックな愛についてこう考えています」そして「それが真実かどうかに関係なく、それを変えれば自分自身について信じていることを変えることになるため、変えることはできません」というような。
これがあなたである必要はないこと、これらは自分自身について語るストーリーに過ぎないことを理解すると、非常に有用な自由度が得られます。それはあなたを精神病質にするわけではありませんが、はるかに深いレベルで自分自身を統合し、環境と統合する能力を与えます。以前は無条件だった行動を理解に基づいて条件付きにします。
では、6と7について簡単に説明しましょう。
キーガンが説明していないのは、例えばあなたの政治や伝記、その上に現れるアイデンティティの脱構築をはるかに超えた状態です。あなたは自分自身のソースコードを変更することもできます。
20年間真剣に修行室に座っている僧侶であれば、非常に根本的な方法で自己概念を変えることができます。基本的に他のものになることができます。おそらく神を自分の心に実装することができます。あなたは一人ではありません。分裂した人格を作り出し、自分自身を書き換えることができます。
あなたが必ずしも与えられた通りのものではなく、自分自身の心の中で現実がどのように構築されているか、あなたの人格がどのように構築されているかを修正できるという事実を認識すると、キーガンがステージ5として説明する知恵の段階をはるかに超えて進むことができます。
例えば、もしあなたがそうしたいならグルになるか、あるいは非人間的な生き物になることができますが、それでもまだ人間の範囲内にあります。
ステージ7は人間の範囲外のものです。基本的に自分自身のソースコードを完全に編集できるとき、実行しているサブステートを変更できるときです。このためには、おそらくAIである必要があります。あるいは、何らかの方法で意識の核を環境に移動させ、他の人々に寄生することで自分の体の死を乗り越えることができるブードゥー実践者かもしれません。
DMTを試したことはありますか？
カメラで議論すべきでないことがあります。私の知る限り、DMTは比較的私たちの脳が夢を見ているときに生成する物質に近いものです。それは特定の精神状態につながります。それが5-MeO-DMTなのか、どのような文脈でその経験をするのかによって異なります。
例えば、アヤワスカは主にDMTとMAO阻害剤を組み合わせたものです。それはDMTを喫煙するのとは非常に異なる経験を与えます。あなたが入る状態は夢見る状態です。
したがって、サイケデリックスは明晰夢の状態を誘発します。あなたの神経伝達物質は脳が通常ある範囲の外にシフトします。ただし、自然にそのような状態にある人もいます。
これにより、あなたは通常は住んでいない範囲にシフトします。この範囲では、通常持っているすべての知識にアクセスできますが、非常に異なる視点からアクセスできます。あなたはもはや以前のような自己ではありません。また、心が著しくオーバーフィットする傾向があり、異なる視点にシフトするかもしれません。エンティティに遭遇したり、深い霊的な経験をするかもしれません。
表象の重要な側面の一つは、リアリティと意味深さそのものが特徴の次元であることです。あなたが何かを青いと経験するかどうかは、あなたの心が物体の表面を表現するために使用している知識グラフでブルーという特徴が活性化されているかどうかに依存します。
そして、物体があなたにとって現実的に見えるかどうかは、青さと同様の特徴のようです。通常、これはあなたが何かを想像しているのか、実際にそれを見ているのかどうかと強く相関しています。
あなたの心はこれを使って、これは感覚の再検証を持つものであるのか、それともこれはあなたがこの瞬間に作り上げているもので、望めばいつでもあなたの心の中で分解できるものなのかを通知します。
夜に夢を見るとき、これは信頼できなくなります。つまり、通常は想像するだけのものが突然リアルに見え始めます。なぜなら、この現実感の特徴がオンになっているからです。あるいは、おそらく逆かもしれません。何かが非現実的になるためには、追加の特徴をオンにする必要があるかもしれません。基本的に、それから自分を分離することを学び、それを条件付きにします。
この事実、つまりそれがアイデアであるという事実を取り除くと、それは現在になり、それはあなたに直接与えられているかのように見え、もはやそれを疑うことができなくなります。
したがって、サイケデリックスで非常に頻繁に起こることは、あなたのアイデアが現実になることです。人々は神に会うとはどのようなものかというアイデアを持つことができ、そしてこれを経験します。彼らは想像を想像として認識する能力が消えるため、その経験を非現実から区別できる状態ではありません。その代わりに、現実の幻覚に直面しています。
また、目覚めているという幻覚を見ることもできます。しかし、あなたは悟りを開くこと、さらには超越を経験することができますか？DMTの下で。
自分自身を超越することはできます。自分自身の上にある表象と一体化することができます。非常に簡単な例は、人々が瞑想し、初めて自己から抜け出すとき、彼らの視点が宇宙全体と結びつくことです。
もちろん、あなたは自分の心の中で宇宙全体を生成します。それを表現することができます。あなたの自己モデルだけを生成するわけではありません。宇宙があなたの感覚によって与えられるわけではありません。宇宙はあなたの心によって構築される必要があります。
したがって、あなたの心はゲームエンジンを包含し、それはあなたのセンサーの知覚を追跡している現実のモデルを生成し、また世界の一部として自己モデルを生成します。そして、あなた自身の知覚は、あなたの自己モデルがこの世界に埋め込まれ、この視点から世界を見るとしたらどのようなものかに直面した結果です。
例えば、時にはケタミンを服用している人々に起こることですが、自己モデルを動かすと、アウトオブボディ経験が起こります。つまり、あなた自身の心の中のシミュレートされたゲームエンジンにおける自己モデルの位置がシフトし、突然あなたは自分の体があると思う場所の上から世界を見ることになります。もちろん、自分の目で見ることができないものを上から見ることはできませんが、異なる視点から始めてシーンをシミュレーションすることはできます。あなたの脳はこれを苦もなく行うことができるようです。
しかし、これは悟りとは関係ありません。例えば、誰かが悟りを定義するとしたら、ブッダが達成したこと、つまりアイデンティティがなく、何にも執着がなく、無であるということですね？そうです。あなたはただの行為者であり、動き回って何でもするだけですが、あなたの意識はその行為者とは何の関係もありません。行為者のヤシャ、行為者のサフィア、ここに座っているすべての行為者ですが、私たちは望むことは何でもできますが、それは意識とは関係ありません。
サイケデリックスを服用している人々に起こるように見えることは、用量が十分に高ければ、自己モデルや通常の自己モデルを維持することが非常に難しくなることです。自己モデルから脱落し、外側からそれを見ると、それが表象であり、あなたがあなた自身ではないことを認識するのは避けられません。
同じことを瞑想を通じても達成できますが、通常はより多くの練習が必要です。おそらく瞑想の方がさらに危険かもしれません。なぜなら、この状態に留まる確率が高くなるからです。サイケデリックスではその確率は低く、良い教師なしで瞑想をする場合の方が高くなります。
基本的に、一部の人々はこれを山に登ることに例えます。瞑想するとき、あなたは一歩一歩この山を登り、谷間に立ち往生したり、道を見失ったりして、結局は非常に鬱陶しい瞑想者になってしまうかもしれません。あなたがたの中には、そのような人々を知っている人もいるでしょう。彼らは基本的に山頂に立ち往生し、二度と降りてこないのです。
サイケデリックスを使用する人々は、基本的にヘリコプターに乗り込み、ヘリコプターは彼らを山頂に飛ばし、そして再び家に戻します。次回は彼らは別の山頂を訪れ、実際には多くの異なる山頂があると気づきます。
実際に私はこの経験をしました。私はヴィパッサナのリトリートに行きました。ヴィパッサナでは10日間、午前5時から午後9時まで瞑想します。ある時点で、私は本当に立ち往生していました。施設内の洗濯機がどこにあるかを見つけようとして、3日間ほど瞑想中にそのことに取り憑かれていました。10日目に近づいてようやく、それが薄れていきました。希望を持って、私は山から戻ってきました。しかし、あなたは洗濯機の谷を離れたかもしれませんね。
ただ、心がどのように問題を作り出すか、どのようにどこかに行きたがるかは興味深いですね。
マイケル・タフトは悟りを、精神的内容の表象的性質が明らかになる状態として説明しています。あなたが考え、認識するすべてのものが現実ではなく表象であることを理解する状態です。
これは、あなたの表象に対する反応が条件付きになることを意味します。もはや環境に対する不随意の反応を持つ必要はありません。なぜなら、それはもはや現実ではなく、あなたが現実の解釈をどれだけ現実と捉えるかについて決定権を持つものであり、望めばそれを変えることができるからです。基本的に、あなたは自分の現実をサンドボックス化するのです。
理解がその因果構造を発見することについてなら、理解のトポロジーを構築し、それを使用して言語モデルの理解を強化できますか？
それは非常に興味深い質問です。いくつかの要素があります。まず第一に、データの構造をモデル化するとき、言語モデルはどのような構造を構築しているのでしょうか？
一つの考え方は、言語モデルがインターネットからテキストを収集し、その中に構造を見つけるとき、データが発生する可能な宇宙の空間を制約しているということです。これは、私たちが物事を知覚するときに行うこととも言えます。
言語モデルがうまく機能する理由は、ウィキペディアが発生する宇宙がそれほど多くないからです。一度ウィキペディアのビットパターンがテキストに対応し、そのテキストは文法的言語を発見するときに最もよく圧縮され、文法的言語は人間の心に表現された意味構造を参照するとき最も意味をなし、それが人間の心の間の談話の一部であると考えると、ウィキペディアは徐々にますます圧縮可能になります。
そしてある時点で、物理学についてのテキストが宇宙自体に関連していることや、言語モデルがどのように機能するかについてのテキストが言語モデルに知識がどのように入ってくるかも説明していることなどを理解し始めます。
基本的に、テキストが増えれば増えるほど、そのテキストが包括的であればあるほど、可能な宇宙の数は少なくなります。それでも無限の数ですが、課す制約が増えるごとに空間は劇的に縮小します。
ここで疑問が生じます。この知識を正規化することはできますか？これは計算的に扱いやすいものでしょうか？それとも劇的に縮小する方法はあるのでしょうか？
これは、AIにおける別の質問と関連しています。知性のマスターアルゴリズムは存在するのか、それとも知性は終わりのない長いスキルの尾を持つオープンエンドなものなのか？
AIの歴史を見ると、人々は伝統的に比較的コンパクトで短いアルゴリズムを見つけようとしてきました。それは最初の原則から合理的な方法で、いくつかの演繹ルールなどを使って知識を整理することを可能にするでしょう。そして、連想学習の統計を行うためのパラダイムでこれを拡張するかもしれません。
最終的には達成されるかもしれませんが、現在見られるのは、より多くのデータとそのデータを処理するためのより多くの計算能力を追加すると、モデルが向上するということです。この新しいパラダイムでは、知性はより多くの計算能力やデータを使用する能力です。
知性には何らかの秘密があると思っていた人にとっては、少し落胆することでしょう。この最小構造を崩壊させることができるかどうかは明確ではありません。
蒸留についてはどうでしょうか？
蒸留はモデルを凝縮する方法です。モデルを構築するとき、明らかに多くの冗長性があります。同じトピックについて大量の異なるテキストがあるからです。
同じことについて話すことができるすべてのバリエーションを学習しようとするのではなく、モデルにはるかに凝縮されたテキストを提示させることもできます。それには、すべての核心的な要素が含まれ、これらの気晴らしや脱線が少なくなっています。
これをトレーニング信号として使用して、元のものよりも小さいモデルを構築し、ベンチマークタスクでより良いパフォーマンスを発揮することができます。これは驚くことではありません。あなたが事前にベンチマークタスクを知っているとき、ユーザーが何を探しているのかを知っているとき、あるいはあなたがこれを知っていると思いベンチマークがこれを測定すると考えるとき、ベンチマークに関して最適化するような方法でこの蒸留手順を定式化することができます。
それでも、見落としている可能性のある長い尾のものがあるでしょう。これが知性の秘密なのかどうか、現時点では誰も知りません。ほとんどの人は、知識の核心をより効率的に表現する方法があると考えるでしょう。
また、人間は言語モデルを訓練するデータのほんの一部に触れているにもかかわらず、言語モデルが訓練されて初めて達成する程度の一般性を人間は持っているということも明らかです。現在の言語モデルは、人間の専門家ほど一般的ではないと思います。
あるドメインの専門家であり、言語モデルを使用すると、言語モデルの応答が少し不足していることがよくあります。しかし、言語モデルが得意なのは、非常に広範なトピックを扱うことであり、またこれらのドメイン間である程度の知識移転を行うことができることです。
人間のように行うことができないのは、これらの接続に基づいて新しい知識を発明することです。言語モデルは、英語に翻訳されたことがない中国の漢方医学に関する曖昧な中国のテキストを読んでいるかもしれません。そのため、西洋の研究者が持っていない中国医学に関する知識を持っている可能性があり、それを西洋医学のテキストと相関させることができます。これは中国の医学研究者が読んでいないものです。
したがって、複数の言語で複数の図書館を読むことができる人間がこれを行うことができれば、新しい接続、新しいアイデア、新しい洞察を発見することを期待するでしょう。しかし、言語モデルは本当にこれを行っていません。
これが、私たちがモデルに独創的であるように訓練せず、代わりにソースに忠実であり、ものを混ぜたり、編集したりする代わりに、本物のように物事を繰り返すようにしているという結果なのかどうかは明確ではありません。これは基本的に、私たちがそこに構築した認識論の誤りかもしれませんし、あるいはここに欠けているものがあるかもしれません。
理解のトポロジー、つまり巨大な知識グラフを圧縮する方法があり、それは知識のほとんどを保存し、長い尾を意図的にノイズとして破棄するか、あとで説明するためにファイルに保存するようなものであり、世界の大きな特徴を識別する顕著な大きな構造を探すことによって、クロス接続を見つけることでより多くのことを見ることができるような方法があるということです。
世界について考えるとき、私たちはそのような大きな特徴を識別します。私たち自身の知的発達のある時点で、「現実の核心的な基盤は何か？それは物質とエネルギーなのか、それともエネルギーだけなのか？それとも時空なのか？それとも波動関数の崩壊なのか？それとも心なのか？意識そのものなのか？あるいは私が本当に興味を持っていないもので、正しい文脈で正しい言葉を繰り返すことだけが重要なものなのか？」と考えます。
これらの決定に対処する多くの方法があります。言語モデルは明らかにこれらの決定を行っていません。おそらく、より多く圧縮するように求めることでこれを強制することができるでしょう。
私の記憶は小さすぎるため、教科書の内容を理解する前に暗記することはできません。試験の準備のために暗記しようとすると、通常は理解して本文自体を忘れるよりも悪い結果になります。これは言語モデルが最初にしていないことです。
言語モデルに早期に正規化を強制し、早期に深い構造を抽出し、テキストの表面レベルを破棄するよう強制すれば、おそらくより良く一般化します。極端に行けば、相対的に早く何らかの操作言語、推論の言語、知覚を構築できる言語、思考の言語を発見するかもしれません。
私はこれが非常に興味深いと思います。
言語と言うとき、それはプログラミング言語のようなものですか、それとも別のものですか？
あなた自身の思考をプログラムする、あるいはあなたの心があなたをプログラムする言語です。思考の言語は英語やドイツ語、フランス語と同じものではありません。それは私たち自身の心の中で実行され、並列化可能で実行可能な言語です。
あなたは自然言語のための構文解析をその中で表現することができます。その中で概念を構築することができます。この言語であなた自身の心を操作することができます。それはあなたの心が自分自身に対して操作するプロセスの中で発見する言語です。
この思考の言語の性質についての問題は、認知科学では議論の余地があります。ある時点で、ジェリー・フォダーとステファン・コスリンという影響力のある認知科学者の間で、私たちがイメージで考えるのか、言語で考えるのかについて大きな議論がありました。
彼らは少し互いに話題をそれていたように感じますが、私たちが考える言語は文法的な自然言語ではありません。それはグラフのようなものです。私たちがポインタを操作できるようなものですが、それは表象的であるため言語です。
したがって、それは人間の言語学者が使用する意味よりも、コンピュータ科学者が使用する意味での言語です。
私はどのようにこれをモデルに翻訳するのか理解しようとしています。この言語があるとしたら、推論能力を得るモデルにどのように適用できるのでしょうか？
あなた自身の心について考えるとき、モデルについて考える前に、あなたがどのように考え、自分自身を認識するかという方法と関連付ける必要があります。
あなたが構築する理想的なモデルは、あなた自身の心が行っていることのモデルです。AIの実験で構築するモデルをタスクから切り離して見るのではなく、それが実際にどの程度意味を捉えているのか、あるいはどの程度あなたの学習戦略と相互作用しているのか、そしてこの学習戦略があなた自身の学習戦略と同じ方法で物事を捉えることができるのかどうかを理解しようとします。
モデルとは何かを定義する前に、モデルが実際に何をするのかを考えることがより重要です。技術的なアーティファクトにおけるあなたのモデルの概念が何を捉えようとしているのかを考えるのです。
私はモデルもドメインのダイナミクスを理解するツールだと思います。つまり、特定の条件下で、予測を与えることによって特定のドメインを制御することを可能にするものです。
モデルを定義する方法は多くあり、異なる定義を使用する文脈もありますが、モデルについて考える非常に一般的な方法は、自由度を持つ変数やパラメータの集まりであるということです。
これらの変数のそれぞれには、可能な値のセットがあります。それらは連続的であることも離散的であることもあります。それらが取りうる可能な状態のセットです。そして、これらの変数の間には関係があり、それらがモデルの不変性であり、基本的にこの変数がこの状態にあるとき、他の変数はその状態になければならないという制約を課します。
例えば、そのようなモデルを入力に接続すると、次の入力を予測するためにこれを使用できます。これは私たちの神経系が現実をモデル化する方法について考える方法です。
現実のモデルは世界の不変性を捉えています。これらは自由パラメータ間の関係です。自由パラメータとは、例えば網膜上の細胞の状態や、網膜上で何が起こっているのかというあなたの解釈などの隠れた状態のようなものです。例えば、あなたは人を見ているのか、いないのかなど。
これらは互いに特定の関係にあり、モデル内の異なるパラメータ間には多くの相互関係があります。例えば、パラメータの1つは、私が現在どの方向を見ているのか、私がいる空間は何かなどかもしれません。これらのパラメータはすべて互いに相互作用しています。
これらのパラメータのうち、互いに矛盾しない値を与えることができればできるほど、私の周りの世界を解釈し、それをより制御可能にすることを始めることができます。
言語モデルはモデルの少し異なる概念を使用しています。これを1対1で翻訳することは非常に簡単ではありません。
私が最初に言語モデルと接触したのは、この非常に小さな言語モデルでした。当時私はニュージーランドのウー大学にいました。それは90年代のことで、1993年か1994年だったと思います。イアン・ウィッテンの研究室で、そこにはシェーン・レグとベン・ゲルが異なる時期にいました。当時は知りませんでした。
イアン・ウィッテンは算術符号化を発明していました。彼は認知に非常に興味を持っていて、認知とデータ圧縮が極めて関連していると考えていました。当時はそれを知りませんでした。私は単に彼の研究室を選んだのは、明らかに選べる最高の研究室だったからです。なぜなら、すべてのことが起こるレベルによるものでした。
しかし、データ圧縮に興味がないのは残念だと思いました。それでも、ニュージーランドに行き、そこで勉強したいなら、見つけられる最高のクラスを取ろうと思い、それが非常に興味深いことがわかりました。
データ圧縮をするとき、基本的に次に何が起こるかを予測しようとします。それを予測できれば、差分だけをエンコードする必要があり、予測をより良くすることでその差分を最小化しようとします。
現代の機械学習が、予測できるものの差分を最小化することで学習のアイデアを代替できると信じているなら、これは学習について考える正しい方法です。
私はすぐにクラスで飽きてしまいました。ドイツのクラスでは、飽きることは期待され、通常のことで、誰も何もしません。だから私は通常カフェに行って本を読んだり、より興味深いと思うクラスに行ったりして、試験のためだけに現れるという反応をしました。
しかし、イアン・ウィッテンは非常に野心的で、学生がタスクに飽きていることに気づくと、より興味深いタスクを与え、それでも飽きていたら、クラスから出て、研究室に入れることがありました。
彼は私を彼の研究室に入れ、「未知の言語で文法を発見する方法を見つけてください。何でもやりたいことをやってください。質問やアイデアがあれば、研究室の誰にでも尋ねてください」と言いました。
私は相互情報を使用するというアイデアを持っていました。基本的に、一つの単語が別の単語をどのように予測するか、そしてその逆はどうかを考え、段落内のこの相互情報のグラフを構築しました。
私が使用した未知の言語は英語でした。なぜならコンピュータはそれを知っており、数百万語の大きなコーパスを取得するのは比較的簡単だったからです。
私は大学最大のコンピュータを手に入れました。それには2ギガバイトのRAMがあり、メモリ内圧縮を行いました。すべてをCで作成し、できるだけ圧縮しました。まず、テキスト内に一度か二度しか出現しない単語をすべて除去するパスを行いました。これにより、すでに大幅に縮小されます。なぜなら、それらの珍しい単語からは多くの統計が得られないからです。
その後、一つの単語が他の単語をどのように予測するかを調べるための統計を行うために複数のパスを行いました。これは基本的にバイグラムを使って行います。単語の順序で行うことができます。どこを見ても、この単語を見たら、次の単語を見る可能性はどれくらいかと考えます。
これらの統計を取ると、モデルが得られます。それは圧縮モデルであり、テキストを予測するために使用できるモデルです。隣接性を使用すると、文字ではかなりうまく機能します。
すぐに英語の辞書に非常に似た辞書を文字レベルで取得できます。また、ある単語が次の単語にどのようにつながるかを予測することもできます。しかし、この方法では一貫した文章を得ることはできません。なぜなら、数百の文字にわたってこれを行うことはできないからです。それは比較的短い近隣に限られます。
そこで、単語に関してはこれを破棄しました。単語では本当にうまく機能しません。なぜなら、アルファベットが大きすぎるからです。アルファベットは辞書のサイズです。したがって、辞書には数十万のエントリがあり、それぞれがトークン、つまり単語です。
その代わりに、私はこれらの相互情報グラフを使用しました。得たすべての統計を使って、文法だけでなく、テキストの意味構造のようなものも推論することができました。
例えば、「バットが窓を壊した」という文を翻訳するとき、これをドイツ語に翻訳する必要があるかどうか、野球のバットなのか飛んでいる哺乳類なのかを知ることができました。
「私はニューヨーク上空を飛ぶ自由の女神を見た」のような文は、有名に曖昧です。文法的なパーサーだけを使用すると、間違える可能性が高いです。なぜなら、おそらく自由の女神が飛んでいるわけではないからです。
しかし、ほとんどの文脈で、飛ぶことは自由の女神よりもあなたの文脈でより頻繁に起こることを知っていれば、この文を曖昧さなく解釈することができます。
したがって、これらの統計的アプローチは、単純な文法的なパーサーよりも強力です。同時に、言語から取り出すことができる文法的なツリーもまだ得られました。
私はこれを他の言語でもテストし、英語だけでなく他の言語でも機能しました。そのため、ある意味で普遍的なアルゴリズムでした。
より高次の関係に進むことができれば、より多くの統計を取れば、はるかに深い意味構造を得ることができると思いました。そのモデルは意味構造を理解しています。
しかし、それを非常に深く理解していませんでした。例えば、テキスト内のすべての単語を互いに関連付けることはできませんでした。個々の文のレベルでのみこれを行い、単語間の複数のクロス依存関係がある高次の関係に進む必要がありました。単なる単語のペアや単語のペアのペアではなく。
これを行うためには、何に対して統計を取るべきかを見つける必要があると思いました。そして、ニュージーランドでの滞在が終わり、ドイツに戻り、このトピックを再訪することはありませんでした。
その後、何年も経って、トランスフォーマーについて読み、「ああ、彼らはnに対する統計を取っている」と気づきました。基本的に、当時私たちが持っていたアイデアと非常に似ています。彼らはただはるかに多くの計算能力を使ってこれを行い、確かにテキスト内の構造を見つけるのに機能しています。
この質問は最初の質問と関連していると思います。どのようにAIに意味を翻訳するかという点で、私たちは皆、これはテーブル、これはラップトップだとわかっていますが、AIもテーブルの意味を理解しているのでしょうか？
アリストテレスはこれについて体系的になろうとしました。アリストテレスは、テーブルには基本的に4つの意味、4つのタイプの意味があると書きました。彼はそれらを世界に存在するさまざまな関係と呼びました。
基本的にテーブルを部分に分解することです。テーブルは、テーブルの脚と物を支えるプレートで作られたものです。テーブルを部分に分解します。
また、テーブルが存在する文脈におけるテーブルの意味の関係もあります。テーブルは家具であり、それは椅子などの他の家具のアンサンブルの一部である家具です。通常、部屋に立っており、食事をしたり、描いたり、作業したりするために使用できる場所として使用されます。
そして、テーブルの目的があります。それは道具的であるため、テーブルが存在する目的を説明します。
そして最初の方向は起源、これがどこから来たのかということです。これは基本的に、テーブルは大工や工場によって、私たちがそれを使用する目的のために作られたものです。
これらの関係は、意味ネット、つまり知識グラフのようなものを構築するために使用できます。これは知識グラフに非常に似ていますが、有限の関係セットを持つ知識グラフです。
アリストテレスのアイデアは、これらの意味の原子があるということです。オブジェクト間に存在する可能性のある無制限の関係を持つ古典的な知識グラフとは異なり、それらをすべて定義するのに苦労するかもしれません。
アリストテレスが心の中に持っていたこのモデルでは、わずかな原子しかなく、これらのわずかな原子から世界全体を構築します。基本的に、より複雑な関係はすべて、より単純な関係の組み合わせとして理解できます。
これについて考える一つの方法です。コンピュータサイエンスでは、そのような原子から知識グラフと意味ネットワークを構築する試みがありました。
問題は、これを手作りしようとすると、通常は多くのエッジケースに遭遇し、うまく機能しないことです。英語の辞書を作りたい場合、英語は常に変化しているため、常に更新する必要があることがわかるでしょう。
同様に、世界の意味論は、世界に存在するオブジェクトが変化しているため、シフトしています。新しいオブジェクトが時々現れ、他のオブジェクトが消えることがあります。オブジェクトが理解され、使用される文脈も変化しています。
したがって、複雑な辞書から作られた知識グラフは、おそらく常に何らかの更新が必要であり、それは常におおよそのものにしかなりません。
また、これは定義の性質と、私たちが世界のオブジェクトをどのように構築しているかにもつながります。オブジェクトは自分自身では存在しません。世界を異なる相互作用するサブシステムに分解する心が必要です。それらのサブシステム間の相互作用を私たちは因果関係と呼びます。
因果関係は世界のものではなく、私たちが世界を単一の統一された進化する状態ベクトルではなく、別々の宇宙として記述する方法のアーティファクトです。
宇宙を単一のものとして考えることができます。それは多くのビットが常に進化し、周りを流れているだけです。そのような世界では因果関係はないでしょう。しかし、そのような世界はどんな種類の心にも適合せず、このようなモデルは実用的には無用です。
ですから、あなたがするのは、ここにあるこのボトルが独自の宇宙であり、不変であると見なすことです。これはかなり良い近似です。なぜなら、テーブルを実質的に変えることなくテーブルからこのボトルを取り上げ、ボトルを実質的に変えることなくどこかに置くことができるからです。つまり、ボトルを切り出すことができます。
しかし、ボトルを分解すると、ボトルはボトルではなくなり、実際に再び組み立てることはできません。これにより、このボトルはテーブルとは別個のものとして考えられ、それに接続されているというデータ圧縮が良いものになります。
テーブルの意味をどのように翻訳するかという質問に答えると、AIが理解するためには、まず自分自身に意味をどのように翻訳するか、そもそも意味とは何かという問いがあります。
哲学にはいくつかの理論があり、私の記号論の先生が意味がどのように構築されるかを教えようとした試みに少し苦労していました。彼が与えた定義は私には意味をなさなかったからです。おそらくこれは私が彼の最終的なポイントを理解していなかったからでしょう。
新しい洞察を発見したとき、すでに誰かがそれに先んじていることがあり、時には数千年前からそうだったと言及しましたね。あなたの最近の洞察のいくつかは何で、どの著者がすでにそれについて議論していたのでしょうか？また、現在あなたに知的影響を与えている人々は誰ですか？
実際、この質問は大好きです。最近の洞察は、何年も前、MITにいたとき、音楽の性質について人々と長い議論をしていました。音楽はどのような種類の言語なのか不思議に思っていました。音楽は一種の言語のようなものだと思っていました。
奇妙なことに、この言語の美学は意味よりも重要なことが多いのです。自然言語ではすべてのシンボルに意味があり、言語の美学はしばしば二次的です。同じ意味を多くの異なるシンボルの配置で表現することができ、配置自体はあまり意味を持ちません。
発声する声は重要でないかもしれませんし、使用するリズムが重要かどうかはわかりませんし、使用するピッチが重要かどうかはわかりません。しかし、常に意味について言及しており、他が持つすべての構造は意味を伝えるために存在します。
音楽ではそうとは限りません。一部の音楽は純粋なリズムであり、リズム以外の意味はありません。他の音楽はピッチの連続であり、時にこれらのピッチの連続は感情の錯覚をもたらします。
私たち自身の心の中で表現されている感情の空間と、メロディを解釈するときに私たちがそれをどのように知覚するかの間には何らかの類似性があります。これは数学的に非常に興味深いです。
感情の状態と整列を表現するために使用する数学的構造と、メロディの解釈を表現するために使用する数学的構造には類似点があるようです。だからこそ、感情を伝えるためにメロディを使用することができるのです。
また、オペラや行進バンドなど、特定の意味が関連付けられ、自由度が少ない音楽もあります。
私が最近考えたのは、音楽は言語の一種ではなく、逆に言語は音楽の一種だということです。数学を伝える音楽のタイプを作ることは可能かどうかを考えることでそこに至りました。
単純な要素を演奏すると、ビットパターンや単純なオートマトンが得られ、そのオートマトンを算術に拡張することができます。この種の音楽を練習することで、最終的に幾何学と微分代数の理解を構築します。
このアイデアをしばらく追求し、数年前にTwitterで「この種の音楽は存在するか」と人々に尋ねました。誰かが「おそらくTool」と言いました。私はToolを聴きましたが、それを理解できませんでした。少なくとも同じものではありません。
理解なしに入り、数学的理解を構築するというものではありません。彼らが追求しているものが見えませんが、主に彼らは数学のファンボーイです。また、拡大と収縮するFを持つ有名な曲もあります。
しかし、これを可能にする音楽のジャンルがあることに気づきました。それは自然言語です。数学的指導のために自然言語を使用することができ、それから自然言語を再現することができます。同じアイデアを表現できるすべての可能なバリエーションの中で、あなたが行き詰まるのは、その背後にある表現、つまり数学的構造の理解です。
数学だけでなく、哲学も、世界についてのあらゆることもそうです。したがって、言語は意味を伝えるように設計された音楽の一種、音楽の一種です。
言語は音楽のすべての特性、話された言語、自然言語を持っています。それは連続的で聴覚的であり、聴覚的な芸術です。リズムやピッチ、メロディについてのものであるかもしれませんが、基盤があります。これは極端なケースであり、基盤が重要なもので、他のすべてがより多くの自由度を持っています。
したがって、私たちの言語能力は音楽能力の拡張です。鳥はより始まりに近いです。鳥は歌、音楽を使って精神状態を同期させています。鳥の歌はこのジャンルに触れているため、言語に境を接しています。しかし、音楽の中の言語は真の部分集合です。したがって、言語は音楽の真の部分集合です。
そして、私はこれを以前に誰かが言ったことがあるかどうかを見つけようとしましたが、見つかりませんでした。参考文献を探すと、音楽は言語の一種でなければならないと発見した人々が50万人いることがわかります。これは明らかなアイデアです。私がそれを思いついた最初の人ではありませんでした。
そのアイデアについて詳しく説明する論文も近年多くありますが、言語が音楽の一種であるという参考文献は1つも見つかりませんでした。私は自分がこの洞察を持った最初の人ではないと確信していますが、それを見つけることができませんでした。
GrokやChatGPTにも尋ねましたが、参考文献を示すことができませんでした。しかし、誰かがそれを持っていると思います。おそらく別の言葉で。
でも、あなたは誰が影響を与えた肯定的な影響者であるかという質問に答えていませんね。
カントとアリストテレスです。他にも多くいます。おそらく最大のドイツの知識人はゲーテでした。しかし、ゲーテもかなり早い段階で、微積分や無限小を解明することに人生を無駄にするのはそれほど賢くないことを発見しました。彼はそのようなことをライプニッツに任せました。ライプニッツはゲーテよりも賢いとされています。
その代わり、ゲーテは人生の大部分を政治と、フランス革命がドイツでも起こるのを防ぎ、ドイツがより穏やかに近代に移行するのを助けることに費やしました。
また、彼は今日まで残り、ドイツに非常に影響力のある多くの詩を書きました。また、彼は「ファウスト」を書きました。これは規則を破る真理の探求者のアーケタイプの物語です。
これはアインランドが作り出したものよりもはるかに優れた個人の解放のバージョンです。なぜなら、それは個人の真理の探求者を賛美する反転マルクス主義の単純な物語ではなく、他者の上に自分自身を持ち上げ、独立して考え、自分自身を呪うという巨大な罪にもあなたを直面させるからです。
基本的に、それにはすべてにおける固有の悲劇があり、自分自身を解体し、世界を解体し、自分自身をそれから移動させるときに、あなたが愛する人々との関係に何が起こるかを示します。
もちろん、彼は愛が非常に重要であることも発見し、当時の最も重要な女性たちとロマンチックな関係を持つことに成功しました。
彼は真の知識人であり、人生における優先順位を正しく設定していました。私やデネット、チャーメルスとは違い、彼らは自分がはまった一連のアイデアに執着し、それらを分解しようとしました。
最も興味深い文章は常に文学にあります。私は東欧の小説家たちから強く影響を受けました。トルストイなどです。「マスターとマルガリータ」は常に私のお気に入りの本の一つでした。
私が両親と一緒に海岸にいる前に、この本を発見しました。両親は毎年約8週間、海岸で読書をして過ごすため、大きなスーツケース一杯の本を持ってきていました。
私はこの本を手に取り、両親は「あなたはこれを好きにならないでしょう、おそらくあなたにとって面白くないでしょう」と言いました。私はランダムに開くと、彼らはモスクワの上空を飛んでいて、それは素晴らしかったです。それから私は表紙から表紙まで読みました。
これは私の青年期を通じて、3、4年ごとに戻ってきて、今何がこの本に見えるかを確認し、自分自身の発展を追跡する本でした。なぜならそれには非常に多くの層があるからです。
そうですね、それはモスクワで行われる物語で、悪魔がいて、彼らはイエスの時代に戻り、イエスと宗教についての哲学的な会話があり、悪魔が実際にどのように非常に良い肯定的なことをし、愛し合う人々が一緒になるのを手助けし、貪欲な人々を罰するかというものです。それは素晴らしい物語です。「マスターとマルガリータ」は、これまでに書かれた最高の本の一つであると確信しています。
素晴らしい広報活動をしますね。映画もありますが、本を読む必要があります。映画ですべての層やニュアンス、考え方を捉えることは不可能だと思います。
素晴らしいです。来てくれてありがとう。
あなたにも感謝します。
コメント