この講演は、トロント大学の認知心理学者ジョン・ヴァーヴェケによる、人工知能と人間の知能、合理性、賢明さの根本的な違いについての包括的な分析である。ヴァーヴェケは、知能が合理性や賢明さと同義ではないことを論証し、人間の認知には命題的知識、手続き的知識、視点的知識、参加的知識という4つの異なる知識形態が存在することを説明している。大規模言語モデル（LLM）は主に命題的知識の領域で機能しており、関連性実現や予測処理といった人間の知能の核心的能力を真に理解していないと主張する。さらに、人間は自然に知的ではあるが、合理的でも賢明でもないため、AIシステムを適切に指導するためには人間自身がより大きな知恵を培う必要があると論じている。
デニスが言ったように、私の紹介を明確にしておきたいと思います。なぜなら私には所属機関への忠誠があるからです。私はトロント大学の出身です。そこはジェフ・ヒントンの出身地でもあります。ジョーダン・ピーターソンの出身地でもあります。キース・スタノヴィッチの出身地でもあります。ですから、そうです、すべての知識と真理はトロント大学から流れ出ているのです。
私は認知心理学の分野におり、認知科学でもあります。私は認知科学の元ディレクターでした。その認知科学プログラムを私の赤ちゃんだと考えています。私は哲学の博士号も持っており、認知科学における私の仕事の大部分は実際には認知の哲学なのです。それが私の立ち位置であり、私が行っていることです。
私はジェフ・ヒントンと一緒に、世界に出てこれらの多くを可能にした学生たちの多くを教えました。皆さんの中にはご存知の方もいらっしゃると思いますが、ジェフはAGIの危険性について語ることができるように職を辞しました。私はジェフと、彼が道徳的コミットメントをもって保護しようとしている人間存在について何を考えているかについて話したいと思っています。
しかし、それは今は置いておきましょう。皆さんとお話ししたいのは、AGIと知能、すみません、AIと知能、AIと合理性、AIと理性、そしてAIと知恵についてです。そして明確にしたいのは、知能は合理性、理性的であること、そして賢明であることと同義ではないということです。そして、そうである深い理由があります。
AIと知能から始めましょう。皆さんもご存知のように、人々は今AGI、汎用人工知能について話しています。私は2世紀にわたって汎用知能について話し続けており、人工知能に必要なのは汎用人工知能だと言ってきました。
では、それは何を意味するのでしょうか。汎用知能を持つということは、様々な領域で様々な方法で様々な目標のために、幅広い問題を解決できるということです。テニスを学習し、アルバニアのスズ生産について学び、オーストラリアの歴史について考え、そしてそれらの間に何らかの可能な関連性があるかどうかを考えることができ、それを定期的に行っているということです。
私たちが汎用知能について話しているのは、それがChatGPTやSeekなどの大規模言語モデル、私がLLMと呼ぶものによって主張されているか、少なくともそれに向かって進んでいると主張されているからです。明らかに他にもAGIの潜在的なバージョンが存在しますが、すべてをカバーすることはできません。私は現在空域を支配しているものに焦点を当てています。
さて、汎用知能についてこの質問をしてみましょう。しかし、本当に注意深く考えましょう。なぜなら汎用知能について定期的に混同されている2つの質問があり、それらを慎重に区別すべきだからです。
一つは、LLMは様々な領域で幅広い問題を解決できるのかということです。つまり、それが私が汎用知能についてお話ししたことです。答えはイエスですが、特定の種類の方法で、特定の種類の知識でです。私は後で異なる種類の知識、異なる知り方について話します。なぜなら私たちは一つの種類の知り方を過度に強調する傾向があり、実際に私たちの認知的エージェンシーにとって非常に重要な他の知り方を軽視してしまっているからです。
その意味で、私たちはある程度の答えを得ています。そう、彼らはそれができます。そしてそれは重要な成功です。ちなみに、GPT-3.5、GPT-4まで、AI、そしてその時点ではAGIではなかったのですが、サイロ問題と呼ばれるものに直面していました。人工知能は非常に限定された領域で問題を解決することができました。少し一般化することはできるかもしれませんでした。いくつかのゲームをうまくプレイできるかもしれませんが、テニスのプレイ方法を学ぶといったことはできませんでした。
これがサイロ問題でした。そしてLLMの予期しない結果の一つは、サイロから脱却したように見えたことです。ChatGPTにこの領域やあの領域について尋ねることができます。そしてそれは印象的であり、その成果を軽視したくありません。それは重要な成果です。
しかし、その成果を適切な文脈に置きたいとも思います。これは科学的進歩を得たのでしょうか。知能の本質についての理論的説明を得て、それを知的生物に一般化できるのでしょうか。LLMの学習と作動方法から学んで、私たちを知的にするもの、あるいは論争の余地なく非常に知的である生物、チンパンジー、カレドニアカラス、タコを知的にするものは何かを学ぶことができるのでしょうか。
これが科学理論の印です。説明しようとしている現象について一般化しなければなりません。ChatGPTがその能力を獲得する方法で、チンパンジーがどのように知的であるかの説明として一般化できるものは何もありません。LLMの作動方法から何かを使って、これがおそらくチンパンジーも知的である方法だと言うことはできません。これは極めて重要です。
私の大きな希望の一つであり、私が学生たちに教えたことは、知能の本質の科学的説明を得ることによって人工知能を獲得するということでした。私の最大の恐れは、そのような説明を得ることはないが、多くの異なる領域で多くの異なることを行うことができる機械をハッキングによって作り上げることでした。
そして私の希望は打ち砕かれ、恐れが現実となりました。これは当然、人間であることの悲劇です。
知的であるとはどういうことかを科学的な方法で問うとき、私たちは異なるアプローチを見なければなりません。汎用知能で彼らが意味するのは、任意の一つの領域でのあなたの成績は、他の多くの領域でのあなたの成績を非常によく予測するということです。
これは1926年にスピアマンによって発見されました。ちなみに、これはLLMにはまだ当てはまりません。しかし彼らはその方向に向かっています。しかし、そうなると、芸術での成績と数学での成績とスポーツでの成績の背後には、何らかの一般的能力があるに違いないと言わなければなりません。
ちなみに、ハリウッドが言うこととは反対に、それらはすべて互いを予測し合います。一つでうまくやれば、他でもうまくやる可能性が高いのです。これも私たちが諦めなければならないことです。知能に関する多くの文化的比喩を諦めなければなりません。なぜならそれらは以前は誤解を招くものでしたが、今では危険だからです。
代わりに、この一般的能力とは何かを問わなければなりません。私が論じてきた、そして他の多くの人々も論じてきた提案は、私だけではありませんが、汎用知能が反映するのは、相互に連結した2つのメタ問題を解決する能力だということです。私は学者なので、どこかでメタという言葉を使わなければなりません。
メタ問題とは何を意味するのでしょうか。メタ問題とは、より特定的な問題を解決しようとするときに必ず解決しなければならない問題です。この問題を解決しようとするときには、これら2つのメタ問題を解決しなければなりません。あの問題でも、これら2つのメタ問題を解決しなければなりません。理解できますか。それがすべての問題解決に適用されるため、一般的能力となるのです。
では、これら2つの一般的メタ能力とは何でしょうか。一つは予期の能力です。マイケル・リーヴンはこれを認知的光円錐と呼んでいます。どれほど深く詳細に未来を予期できるかです。これが知能と関係があることを知っているのは、人々が他の生物の知能を判断する方法として、これを定期的かつ確実に直感的に使用しているからです。
例えば、これがあなたの犬がカエルより賢いと信じる理由です。なぜなら犬があなたの犬がカエルよりもはるかに広範囲で詳細な方法で世界を予期できることを知っているからです。この能力を説明するために認知科学で非常に強力になってきている新しいフレームワークがあります。それは予測処理と呼ばれ、これについて少しお話しします。
メタ問題解決のための2つ目の一般的能力は関連性実現です。これは私が30年間取り組んできたものです。この問題です。情報が多すぎるのです。私たちは、ああ、もっと情報を集めなければと思います。今、私は皆さんに何かを言います。それは禅の公案のように聞こえるでしょう。
あなたをそれほど知的にしているのは、膨大な量の情報を無視する能力です。この部屋で注意を向けることができるすべてのもの、すべての異なるパターンについて考えてみてください。私は彼女の頭のてっぺん、彼のつま先に注意を向けることができます。それが一つのパターンです。これの円周、あれの長さ、そしてどれくらい暖かいかに注意を向けることができます。
この部屋の情報量は、ただこの部屋だけでも、組み合わせ爆発的です。したがって、そのほとんどを無視しなければなりません。しかし、ここからが問題です。ランダムに、あるいは恣意的に無視しているわけではありません。なぜならそうすれば死んでしまうからです。どういうわけか、その情報のほとんどを無視し、注意を向けるべき関連性のある情報に焦点を絞っています。
しかし記憶でも同じ問題があります。記憶にどれだけの情報があり、すべての可能な組み合わせがあるかご存知ですか。そのように記憶を検索することはできません。思い出すときには、記憶のほとんどを無視しています。しかしどういうわけか、関連性のあるものを取り出しています。考慮できる可能性、行動の順序です。
これは圧倒的です。あなたは今それを行っています。注意を向けることができるすべてのもの、思い出すことができるすべてのもの、考慮できるすべての可能性、できるすべての行動のうち、何をすべきかに焦点を絞り、今ここでそれを行っています。このように。それが核心にあります。
そしてこれら2つの問題は相互に連結されています。なぜなら世界を予期しようとすればするほど、それがどれほど適応的かを考えてみてください。トラと戦うのとトラを予期するのとどちらがいいですか。サケがどこにいるかを予期するのと、たまたま出くわすのとどちらがいいですか。冬を予期するのと、ただそれを受けて苦しむのとどちらがいいですか。しかし予期の空間を開けば開くほど、関連性実現の問題が増大し、それは非線形に、指数関数的に増大します。
2つの問題は一緒に連結されており、あなたは今両方を同時に解決しています。このように。そしてあなたは光円錐を調整し、関連性のあるものに焦点を絞っています。いくつかのものを前景化し、他のものを背景化し、他のものを無視しています。いくつかのものは顕著で、あなたの注意を引いています。
あなたの左足の親指は、私がそれを言うまであなたにとって顕著ではありませんでした。それは非常に動的で、非常に複雑で、多レベルです。予測処理と関連性実現、そしてそれらがどのように相互に連結するかに取り組んでいる人々は、人間だけでなく、チンパンジー、タコ、カレドニアカラスの知能も説明することを意図した理論を生成し、それらを確立するための必要な実証的証拠を収集しています。
さて、汎用知能について2つ目の質問、科学的質問を問うなら、LLMは予期を持っているのか、予測処理を持っているのか、関連性実現を持っているのかと問うことができます。見てください、私がしたことは、私は教師であるべきなのですが、私がしたことは、より精確な質問をできるようにすることです。
漠然とした混乱した「彼らは知的か」という質問を問う代わりに、まず多くのことができるという意味と、科学的説明との関連を持つという意味とを分離し、それに基づいて特定の質問を問うことができます。
素晴らしい。実際、LLMは予期する能力のために多くの力を得ています。それが実際に彼らがしていることです。次に来る項について確率的予測を立てています。私は文字通り項のような意味です。私たちは彼らが単語を予測すると言いますが、注意深くない言い方をしています。単語という語は曖昧です。文字の列か、あなたにとって意味を持つものかのどちらかを意味します。彼らは最初のことをしています。DOGが現れた場合のCATの確率を予測しています。
理解できますか。ですから彼らは非常に複雑で非常に高速な予測が可能です。その意味で、ある程度の予期能力を持っています。しかし今度はより精確な質問を得たので、この皮肉をお許しください、もう少し突っ込むことができます。
なぜなら彼らがしているのは読み書き能力の領域内での予測だけだからです。読み書き能力は大部分があなたにとって透明です。心理学で最も研究されている効果はストループ効果と呼ばれています。ストループ効果について、冗談抜きで、千以上の研究があります。心理学部に行って、パーティーがあったら、ストループ効果について知らなければなりません。
私がすることは、皆さんにたくさんの単語を見せることです。それらは赤という単語のような色の単語ですが、その単語は青いインクで書かれています。つまり、赤という単語が青で書かれているのです。理解できますか。そしてインクの色を言ってくださいと人々に言うと、人々は青と言います。読むことはとても自動的です。透明なのです。
時々私は黒板にcatと書いて、「さあ、これを黒板に書きます。あなたを愛しているふりをする脳を持った陸上サメのことは考えないでください」と言います。しかし皆がします。猫のことを考えます。
さて、これを注意深く行いましょう。私たちは関連性の判断を取り、それから言語と呼ばれる人工システムを作り、それらの判断と相関させます。言語は世界の働き方ではありません。言語は人工的な実体であり、私たちの関連性の判断と相関しています。そして言語を取って、言語と相関する読み書き能力と呼ばれる別の人工システムを作ります。
読み書き能力を予測すれば、かなり良い方法で言語を予測していることがわかり、それが関連性の判断と相関しているため、興味深い方法で世界を予期します。
しかし正確に言うと、これらの機械は直接世界を予期しているわけではありません。彼らは私たちが世界の予期についてどう話すかについての私たちの予期をどう話すかを予期しています。違いがわかりますか。だからこそ彼らはチンパンジーがどのように知的であるかを説明するために一般化できないのです。チンパンジーは、私たちが世界をどう予期するかについてどう話すかについて私たちがどう予期するかを理解しようとすることによって知能を得ているわけではないからです。
ですから、今度はより精確な質問を問うべきです。私たちが世界を予期することに何が関わっているのでしょうか。世界をどう予期するかについてどう話すかについて書くことをどう予期するかではなく。実際に何が関わっているのでしょうか。そしてこれが私たちを4種類の知に導きます。
皆さんがよく知っていて、大規模言語モデルによって強調されているのは、命題的言語的読み書き能力的知です。私はこれを命題的知と呼びます。これは何かがそうであることを知ることです。皆さんのうち何人が、早く答えてください。何人が猫が哺乳動物であることを知っていますか。手を上げてください。
手を上げなかった方もいます。心配ですが、まあいいでしょう。何人がその事実を学んだときのことを覚えていますか。推測しないでください。実際に思い出せますか。それを覚えておいてください。
これはあなたの〜ということの知識であり、あなたに与えるのは事実についての信念です。私は猫について信念を持っています。木について信念を持っています。湖について信念を持っています。それで得るものは信念であり、それらが真実であるという感覚があり、心理学者があなたの意味記憶と呼ぶ特定の種類の記憶に保存されています。
今度は、あなたが持っている異なる種類の記憶と比較してみてください。何人が泳ぎ方を知っていますか。手を上げてください。これは違いますね。なぜなら泳ぐことは何かがそうであることを知ることではないからです。それは何かをする方法を知ることです。そして私が泳ぎに関するマニュアルをたくさん与えて、それらすべてのマニュアルの可能な限り最高の要約を書いてくださいと言い、あなたが本当に優秀なものを与えてくれたとしても、泳ぎ方を知っているでしょうか。
いいえ、泳ぎ方を知らないでしょう。なぜならそれは何を含むのでしょうか。それは世界との感覚運動的相互作用を含みます。異なる種類の記憶を含みます。実際には手続き記憶と呼ばれています。そして私たちが知っているのは、あなたの意味記憶が損傷を受けても手続き記憶は損傷を受けず、その逆もあるということです。それらは別個であり、理由があって別個です。なぜならそれらは異なることをしており、異なる種類のタスクを解決しているからです。
そしてあなたのスキルの感覚は真実ではありません。あなたの泳ぎのスキルは真か偽かどうですか。何ですって。それは意味をなしません。信念は真か偽です。スキルは強力であるかそうでないかです。適用されるかされないかです。状況に適合するかしないかです。それらは異なる現実感を持っています。あなたのスキルがあなたに与える現実感は、声明や信念の真実をあなたに確信させるからではありません。
それらはあなたに世界に因果的違いを生み出す力を与えるからです。それは異なる種類の知です。そしてここが重要な点です。世界をナビゲートするあなたの能力のほとんどは、命題的知識ではなく、手続き的ノウハウに依存しています。
LLMに手続き的知を与える可能性はありますが、それは彼らに世界との感覚運動活動に従事する能力を与えなければならないことを意味し、そうするとI-Robotのサイエンスフィクション幻想があり、LLMをロボットの中に座らせることになります。これらのロボットのビデオを見たことがありますが、まず第一に注意してください。完全に細かい平凡な理由で、私たちは多くのロボットを生成できないと思います。
それに伴う労働、私たちが従事しなければならない希土類鉱物の採掘、私たちが従事しなければならない輸送費用、電源を見つけなければならず、LLMは本当に小さな自律電源の方向に私たちを導いているわけではありません。彼らはその逆を取っています。ChatGPTのようなLLMを訓練することは、トロントのような都市全体の2週間分のエネルギーを必要とします。それは私たちが動作する方法で動作していません。
ですから、非常に平凡な理由で、I-Robotは私たちの未来のどこにもないと思います。もう一つのことは、私たちが発見したのは、何人がウィル・スミスのI-Robotを見たことがありますか。そうですから、明らかにすべてのロボットがありましたが、I-Robotには他に何がありましたか。自律走行車です。
それらはどこにありますか。どこにありますか。そうではありません。なぜ、私は2010年に学生たちが自律車についてもうすぐだと言って書いているのを見ました。そして手続き的ノウハウを行おうとする方向に向かったとき、私たちは本当に複雑で困難な問題に遭遇することがわかりました。これらの問題を解決できますか。はい。私たちは今本当にそれらに取り組んでいますか。いいえ。
重要な違いがあります。これは私たちの身体性が私たちの認知に重要な違いを生むことを意味します。あなたが身体化されているので、あなたは強力な方法で世界を知っています。
今、皆さんの誰も泳いでいません。少なくともそうでないことを願います。そうは見えません。なぜでしょうか。あなたがどこにいるかを知っているからです。あなたは今ここであなたの心の状態と状況の中にいることがどのようなものかを知っています。これが視点的知です。
私たちは芸術からのメタファーを使います。あなたは状況について視点を取っています。これは状況に適合する心の状態を持っているということです。適切に方向づけられ、正しいことに気づき、その気づきが今活性化すべきスキルを教えてくれます。それがあなたの視点的知です。今ここであなたの心の状態でこの状況にいるあなたであることがどのようなものかを知ることです。どのようなものかを知ること。
どのようなものかを知ることは意識の本質的特徴です。意識を持つということは、意識を持つということは、どのようなものかを知ることです。そしてそれは、あなたがどのように方向づけているか、どのように注意を向けているか、何を顕著で関連性があると見つけているか、すべてと結びついています。
あなたは意識を持ち、視点を取ることができ、あなたの視点について視点を取ることもでき、他の人の視点を取ることもできます。あなたは視点的知を持ち、それに関連する異なる種類の記憶があります。非常に異なります。そして他の生物がこれを持っているかどうかは明確ではありません。
猫が哺乳動物であることについて尋ねたときのことを覚えていますか。何人が今朝何を朝食に食べたかを覚えていますか。手を上げてください。そしてあなたは何をしましたか。それを推論しましたか、それとも心の中で小さなエピソードに戻って、自分自身を見るように戻りましたか。言語を聞き戻す。状況に戻って、あなたがその状況をどう見ていたか、そこにいることがどのようなものだったかを見る。そしてあなたの皿の上に卵か何かがあります。ああ、見て。それが私が食べたものです。
これはエピソード記憶で、別個です。そしてその現実感は真実感ではありません。力の感覚ではありません。存在の感覚、状況にいる感覚です。
あなたは視点的知で本当に興味深いことをします。視点的知とエピソード記憶に関連する特定の種類の予期があります。あなたは心的時間旅行ができます。未来を想像し、過去の自分を想像できます。可能性空間の中で自分を想像することさえできます。
バートランド・ラッセルはかつてこう言いました。「犬がどれほど雄弁に吠えても、その両親が貧しかったが勤勉だったとは言えない」と。あなたは心的時間旅行ができます。可能性の中を旅することさえできます。
これは私たちすべてがすることです。エピソードを繋ぎ合わせ、可能性を繋ぎ合わせ、過去と未来を繋ぎ合わせ、私たちが常に書いている自伝を作り出し、それが私たちのエージェンシーの感覚をこのように拡張します。私たちはこの方法で時間的に拡張された存在になります。だからこそナラティブがあなたにとって重要なのです。
ナラティブにどれほど依存しているか気づいたことがありますか。まず第一に、ナラティブはあなたにとって自然に見えますが、そうではありません。私たちは一日中それを練習しているから自然ではないのです。一日中です。誰かに会います。自分について話してくださいと言われます。私は身長約5フィート10インチです。180ポンドです。目について、いえ、それは人々が聞きたいことではありません。彼らはあなたのストーリーを聞きたいのです。
仕事から家に帰ります。愛する人に会います。今日はどうでしたか。私の心臓は何回鼓動して、私は覚えています。いいえ、いいえ、今私たちには血まみれのアプリがあります。最近までは、これは私の一日のストーリーでしたね。
ニュースを見ています。何か恐ろしいことが起こって、人間はこうします。私もそうです。なぜ彼はそんなことをしたのか。なぜしたのか。そして私たちはストーリーを得て、ああと言います。何も変わっていません。それらすべての人々はまだ死んでいます。しかし私たちはストーリーがあるので安心します。
私たちはこの視点的知と人格形成を練習しており、私たちはそれをします。私は子供を育てましたが、子供を育てるとき、彼らとどれほどナラティブを練習しなければならないかを実感します。私は第10の地獄の輪、テレタビーズを2回経験しました。ポーが「私は市場に行きます」と言います。ティンキー・ウィンキーが「一緒に行ってもいいですか」と言います。ポーが「はい、一緒に行きましょう」と言います。そして私がそこにいて、今すぐ殺してくれと思っています。
命題を視点取りと自伝の創造を追跡させることは実際に非常に困難だからです。4歳児にジョークを言ってもらったことがありますか。うわあ。それはアシッドトリップです。
4つ目の知の種類があります。4つですよね。ユングは言いました。「常に4つのものを与えなさい。4は現実の数だから」と。1つは信じない。2つかもしれない。3つ、ああそうだ。4つ、ああそうだ。それは現実です。4つ目をお教えしますが、それは控えておきます。
関連性実現についてもう少し戻りたいと思います。理論の技術的詳細には立ち入りません。詳しく知りたい方のために、いくつかの言及をします。私はオンラインでこれについて多くの講演があります。多くの出版物があります。昨年だけで関連性実現の自然化についてのものがあります。ですから私は手を振っているわけではありません。まあ、手を振っていますが、厳密で厳格な論証がそこにあるので信頼してくださいとお願いしています。
関連性実現に戻って話したいのは、関連性実現、あなたが関連性に焦点を絞ることは、実際には冷たい計算ではないということです。関連性実現は注意を払うことであり、それは私たちにコストがかかり、私たちが価値あるものに向けられることを含みます。私たちは注意を払います。それはリスクがあります。私たちには貴重なコインがあり、これを価値あるもの、私たちの注意に値するものと考えています。関連性実現は情報を気にかけることです。
リード・モンタギューは以前、彼の本当に良い本「あなたの脳はほぼ完璧」でこれを言いました。私たちとコンピューター、あらゆる種類の計算機械との深い違いは、私たちは処理している情報を気にかけるが、彼らは気にかけないということです。彼らはそうする必要がないからです。しかしあなたはそうしなければなりません。なぜならあなたは、私は多音節のギリシャ語を使うので、あなたがその言葉を持って家に帰って友達を感動させることができます。
オートポエティックです。自己創造を意味します。私たちは竜巻のように自己組織化しているだけではありません。竜巻は自己組織化していますが、その存在を保持する条件を求めるために自己組織化しているわけではありません。竜巻はそれを破壊する陸上表面を越えて行きます。
それをパラメシウムと比較してください。それは自己組織化システムですが、その存在を促進する条件を求め、それを阻害するものを避けるために自己組織化されています。それはオートポエティックです。それは環境からそして環境の中で常に自分自身を作っています。あなたもそうです。
あなたの体と心は環境からそして環境の中で常に作られています。あなたは生きているもののみができる方法で環境に埋め込まれています。なぜならあなたはオートポエティックだからです。あなたは常に瞬間ごとに自分の世話をしているので、本当のニーズがあります。この情報ではなくあの情報を気にかけなければなりません。それが関連性実現を現実にするものです。
気にかけることは本当のニーズに基づいています。本当のニーズは本当の身体性と本当に生きていて環境と本当に結びついていることに基づいています。認知科学の多くの人々が、私だけではなく、多くの人々が、真に認知的な実体であるためには、生物学的実体である必要があると考えています。このような論証のためです。
オートポエティックなものでない限り、本当に気にかけることはありません。ChatGPTは、すべての意味のあるテキストを人工文法によって生成されたランダムな文字列の束に置き換え、それらに対して巨大な圧縮を実行させ、確率的関係を吐き出させても気にしないでしょう。それらはその中で洞察的でしょうが、何を処理しているかは気にしません。
気にかけることはできません。すべての生物、すべての生きているものが行っているのはニッチ構築です。私たちは環境によって形作られるだけではありません。それは古い進化論的見解でした。私たちは今、生物学者がニッチ構築に向かったことを知っています。生物は環境によって形作られているが、環境をも形作っているのです。
このようにあなたを形作る環境をあなたが形作っています。それがニッチ構築です。ニッチ構築は関連性実現を行うために必要です。なぜなら物事はあなたのニッチの観点で関連性があるからです。ヴィトゲンシュタインは有名にこう言いました。「たとえライオンが話すことができても、私たちは彼を理解しないでしょう。なぜならライオンが顕著で関連性があると見つけることは、あなたには全く意味をなさないからです」。
文化は文化はメタンフェタミンを摂取したニッチ構築です。あなたの周りを見回してください。大気とあなたの裸の体以外は、すべて他のものは文化です。私たちはこれを形作りました。すべてが形作られています。しかし他に何が形作られているかに注目してください。私たちが形作られています。
皆さんの誰もピエロのスーツを着ていません。なぜでしょうか。暖かいかもしれません。快適かもしれません。本当に気分が良くなるかもしれません。なぜならこのイベントにピエロのスーツで現れたら、仲間に拒絶されるからです。実際、多くの人が適切に服装しているか心配していました。
文化はステロイドを摂取したニッチ構築です。ニッチ構築と文化、生物学と認知はすべて強く結びついています。
関連性実現についての次のことは、関連性実現は生物学的適応性と非常によく似ているということです。実際、関連性実現について考える一つの方法は、あなたが関連性に焦点を絞るときにしていることは、進化がすることのようなことをしているということです。
簡単な例を示しましょう。あなたには今2つの注意システムが働いています。まあ、3つありますが、1つ2つがあなたの顕著性ネットワークに接続されています。一つはあなたのデフォルトモードネットワークで、もう一つはあなたのタスク集中ネットワークです。
あなたのタスク集中ネットワークは、この奇妙なカナダ人教授を聞くというタスクにあなたの注意を保とうとしています。そしてあなたのデフォルトモードネットワークは、心をさまよわせよう、他のことを考えよう、と言っています。ああ、あの夕食は素晴らしかった。カレンはまだ私を好きかしら。
そして彼らは設定されていて、これは生物学的進化のようです。デフォルトモードネットワークは、あなたが考慮できる変化オプションを導入します。タスク集中ネットワークはそれらのほとんどを排除しますが、すべてではありません。そしてあなたはいくつかの関連を作り、前進します。進化のように変異選択変異選択で、彼らはあなたが顕著と感じるものについてそれをしています。それがどのように働いているかです。
関連性実現は生物学的進化と強く類似しています。関連性実現は生物学的適応性のようですが、より速いです。
ここで重要なことです。ホホジロザメの生物学的適応性はどこにありますか。サメの中ですか。いいえ。なぜならサメを砂漠に置けば死ぬからです。海の中ですか。いいえ。なぜならあなたを海に落とせば、あなたは死ぬからです。
適応性は生物の中にもなく、環境の中にもありません。主観的でも客観的でもありません。それはそのニッチ構築における生物と環境の間の適合性についてです。関連性実現について、私は用語を作りました。それはトランスジェクティブです。主観的と客観的を結びつけるものです。
これは関連性実現、あなたの認知、そしてあなたの生物学がすべてあなたが環境とどのように結合しているかについてであることを意味します。結合、一緒に何かに動的に参加すること、この相互共形成において。そしてそれが4つ目の知の種類です。それは参加的知です。
信念やスキルや心の状態を持つことによってではなく、あなたと環境がどのように互いを共形成しているかによって知ることです。そしてあなたは両方ともこのプロセスに参加しています。だからあなたは一緒に属しています。これから所属感を得ます。存在感は得ません。力の感覚は得ません。真実の感覚は得ません。所属感を得ます。
あなたは属しています。そしてそれには独自の奇妙な記憶の形があります。あなたはそれを自分自身と呼びます。それは奇妙な記憶の形です。あなたは視点的知、エピソード記憶、そして参加的知とこのより深い種類の記憶からあなたの自己感を得ます。これは適切な方法でアイデンティティを形作るために所属感を与える知です。
アイデンティティを形作るって何を言っているのですか。フランスの哲学者のように聞こえます。あなたは何の役割を取るべきかを実現するときはいつでもそれをしています。役割とは、関連性があると見つけているように状況を評価しているように、あなたが見つけるように状況に適合するようにあなたのエージェンシーを形作る方法の用語です。
今のあなたの役割は何ですか。子供を育てているとき、恋人といるとき、友人といるときと同じ役割ですか。それらすべてを結びつけるものは何ですか。それらを一緒に保つものは何ですか。まあ、今あなたは何らかの哲学的言語を話し始めています。
さて、再び、LLMは関連性実現を持っているのでしょうか。まず第一に、彼らは非命題的な種類の知を持っていません。あなたが手続き的、視点的、参加的知で行っているすべての関連性実現について、彼らはそれを持っておらず、アルトマンはそれを知っています。彼は彼らが意識を持たない、エージェンシーを持たないと言っており、彼はそれを認めています。そして彼らはある種の知能を持たないと言っています。彼は実際にそう言ったと思います。それは正しいと思います。それを言うのはそれほど議論の余地があることではないと思います。
彼らは少しの関連性実現をします。私は2012年にこれについて発表しました。ジェフ、すみません、ジェフリー・ヒントンの深層学習アルゴリズムが関連性実現の一つの次元である一種のプロセスをどのように行っていたかについて、そしてLLMはこれを行っています。この詳細には立ち入りませんが、関連性実現のほとんどの次元が欠けており、それは深い理由のためです。彼らはオートポエティックではありません。身体化されていません。彼らはその存在を維持するために必要な情報を求めてはいません。
ですから実際には何も彼らに関連性がありません。彼らはあなたに関連性のあることをします。彼らは生物学的、認知的、または文化的ニッチ構築に全く参加しません。
それについて話す私の証拠は何でしょうか。私たちは彼らが訓練されるデータセットをコンパイルします。彼らはそれらを生成できません。彼らにデータセットを生成させ、それらでLLMを訓練すると、その性能は確実に劣化します。私たちの選択的注意、私たちの気遣いがソーシャルメディア、私たちの選択的注意、私たちの気遣いがインターネットと学術出版の世界を構造化しています。
これらすべては私たちのためです。関連性、適切性、適合性の人間の判断は、実際にこれらの機械を訓練することに不可欠です。
人間による強化、DeepSeekがChatGPT 2よりもはるかに優れているのです。多くの技術的理由がありますが、2つの核心的理由があります。基本的により効率的な内部通信を行うためにCPUのようなものを入れ、推論についてより洗練された深い人間による強化を行ったことです。サム・アルトマンは私たちに、強力で良い人間の推論を示すより良いテキストを考え出そうとするよう求めています。それを覚えておいてください。
お覚えておいてください。なぜ彼はそれらを訓練に使いたいのでしょうか。これは私たちの知能とChatGPTにある知能の間に何かもっともらしく異なるものがあることを意味します。それは彼らが多くの領域で多くのことができず、それらがより良くなり、すでにより良くなっているということを意味するわけではありません。
ですからもしあなたのアイデンティティが命題的情報の技術的操作と結びついているなら、あなたは実存的脅威の下にあり、生態系災害か何かがない限り、その問題が去ることはありません。そしてあなたはそれを望みますか。私たちは通常人々に報酬を与えているものから軸足を移さなければなりません。
私もそれで報酬を得ています。私は命題を生成し、それらの技術的操作が得意です。それが私のすべてではありません。しかし私たちがその一つの次元、その一種の知と同一化してきた程度は、私たちが今人間性の感覚と個人的アイデンティティの感覚を、私たちが必然的に負けることになる非常に悲惨な競争に監禁してしまった程度です。
私たちには何があるでしょうか。私たちには現実世界の洞察力、洞察力、そして気遣いがあります。特に非命題的な身体化された埋め込まれた文化化された種類の知の中でです。それが私たちが持っているものです。そして私たちはますますそれに向かわなければなりません。
私は予測をします。科学者は予測をすることになっています。私は認知科学者です。私は予測をします。ちなみにそれはすでに起こっていますが、私はそれが起こり始める前にこの予測をしました。すみません、今すぐ自我マッサージをやめます。
人々はますます、自分を人間存在と特定の人とするものを見つけるために、それらの非命題的な種類の知と、身体化された埋め込まれた文化化された存在の側面に向かうでしょう。彼らは自分の存在の体感的次元、身体性、その言い表せない側面に手を伸ばすでしょう。
彼らはますます意識の変性状態を探求するでしょう。彼らはサイケデリックと神秘的体験の中で私たちが持つことができる言い表せない体験について、そしてそれが私たちを究極的なものに方向づける方法について、ますます話すでしょう。なぜなら究極的なものはLLMによって消去されることはないからです。究極的現実はそれ自身でそのまま進み続けるでしょう。
AGIと理性についてはどうでしょうか。ここで私たちは必要な区別をするために非常に注意深くなければなりません。推論という意味での理性、推論を作ること、結論に達する命題から論証構造を作ること、ほとんど常に言語的論証の間には区別があります。言語なしでどのように議論を続けますか。そしてほとんど常に読み書き能力を含みます。
私たちは記法を使い、物事を書き留め、論理を行います。もしそれを意味するなら、これらの機械は急速に私たちの能力に近づき、おそらくそれを超えるでしょう。ですから、再び、もしそこにあなたが誰であるかを置いているなら、しかしこれは合理的であることと同じことでしょうか。
合理的は論理的であることを意味するだけでしょうか。実際には、いいえ、そうではありません。多くの研究があります。これは私の領域の一つであり、この研究を要約します。合理的であることは論理的であることについてではありません。それはどこで、いつ、どの程度論理的であるべきかを知ることです。
それは異なることです。なぜならスポックやデータとは異なり、あなたは常に論理的でいることはできないからです。なぜなら論理的であるなら、演繹的閉包を追求しているので、すべての矛盾を避けていることを確認し、すべての可能な含意をチェックアウトし、それから組み合わせ爆発的検索に入っているからです。それはできません。純粋に論理的であろうとすれば、完全な認知的自殺行為を犯したことになります。
合理性の核心は何でしょうか。合理性の核心は体系的かつ確実に自己欺瞞を克服する能力です。これはあなたの関連性実現が必然的にあなたを偏らせるすべての方法です。
見てください、私たちをそれほど適応的にする同じプロセスが私たちを自己欺瞞に陥りやすくします。関連性実現がしていることは、あなたの認知を枠組み化し、あなたが見ているものです。そして私はこれらすべてを無視しています。問題は、時々そこに真実があることです。
確証バイアスのようなバイアスについて聞いたことがあるでしょう。確証バイアスを聞いたことがある人は何人いますか。これは証拠を探す傾向があるとき、あなたの信念を確認する証拠を探す傾向があるということです。それを反証する可能性のある証拠には気づきません。それは自己欺瞞の一形態です。科学は、ちなみに、確証バイアスを克服しようとするように設計されています。
これらのバイアスの核となるものがあり、それらはすべて一緒に関連しています。ここで重要なことは、それらはあなたがバイアスを止めたくないように働くことです。私は心からバイアスを根絶しようと思います。素晴らしい。今、この部屋であなたがしなければならないことは、どこでもすべてに一度に注意を払うことです。行ってください。あなたはそれをすることができません。
これが合理性について難しいことです。あなたの適応性を損なうことなくバイアスを改善しなければなりません。それは本当に難しいことです。ですから、あなたは物事を気にかけることをどのように気にかけるかを気にかけなければなりません。それが合理的であることです。
合理的な人と非合理的な人の区別する違いは、非合理的な人は認知の産物のみを気にかけるということです。彼らは注意をどのように払っているかに注意を払いません。彼らは気遣いをどのように気遣うかを気にかけません。私はこれを信じるだけです。合理的な人は確実にプロセスを気にかけます。産物だけでなく。
それは合理的な人と非合理的な人の間の信頼できる実験的に検証された区別する特徴です。合理的な人は抽象的にではなく実際に、自己欺瞞の可能性を積極的に気にかけます。
合理的であるためには、自己欺瞞を克服することを気にかけ、自己修正にコミットしなければなりません。これは合理的であることに極めて重要です。これは実際にあなたが規範的基準と整合している、そして魔法の言葉、整合問題があることを意味します。あなたは自己欺瞞を減らそうとしているので、あなたの信念をより真実にし、あなたの行動をより良いものにし、あなたの体験をより美しいものにしようとしているので、自分自身を規範的基準と整合させています。
ですから、合理性は自己反省を必要とします。それはあなた自身の視点取りについて視点を取ることができることを必要とします。それはより高次の意識を必要とし、破壊することなく介入するための本当に細かく調整されたスキルセットを必要とします。それは自己修正の中で規範的基準を気にかけることを必要とします。それはあなたが今いるよりも良くなることを熱望することを必要とします。
これは合理的であることの中心です。では、合理的であることは理性的であることと同じでしょうか。私たちはほとんどの法典に基準を持っています。あなたは理性的な人がするように行動することが期待されています。それを聞いたことがありますか。これは何千年もかけて練り上げられました。
私たちは何について話しているのでしょうか。なぜあなたは歩道でクラッシュして出血していた子供を救わなかったのですか。私は電話をしていました。私たちは「ああ、わかりました」とは言いません。私たちは「いいえ、いいえ、いいえ、いいえ。見てください。あなたは状況を評価していません」と言います。私の言葉を聞いてください。あなたは状況を評価していません。状況認識ができていません。評価していません。最も関連性のあるもの、重要なことに焦点を絞っていません。適切な方法でそれを気にかけていません。そして適切な役割を担っていません。
そこにあるすべての非命題的な種類の知を聞いていますか。それらはすべてそこを通っています。それが理性的であることについて話しているときに私たちが話していることです。それは視点的知を含みます。それは参加的知を含みます。
理性的であることは合理的であることよりも深いのです。なぜなら合理的であるためには、自分自身を方向づけることができなければならないからです。あなたのエージェンシーを形作り、状況と重要な共有規範を特定できなければなりません。
例えば、私は完全に論理的でありながら、私を大きく混乱させている自己中心的視点の中ですべてをしているかもしれません。ですから理性的であることは合理的であることよりも深いのです。そして合理的であることは単に推論をすることよりも深いのです。私はそれをお示ししました。
今、その議論を取って、心理学で私たちが持っている最も信頼できるデータのいくつかを差し込んでください。それは複製危機を通過していません。それは大規模な実験作業です。キース・スタノヴィッチと、ちなみにトロント大学の他の人々がこれを示しています。
私は既にお話ししましたが、私たちは知能のための一般的な測定を持っています。それはGと呼ばれています。スタノヴィッチが示したのは、私たちが人々に推論と合理性のためのタスクの束を与えることができ、それらはすべて互いを強く相互予測するということです。彼はこれをIQあなたの知能指数のようなR商と呼んでいます。
ですから私たちができることは、あなたのIQを測定し、あなたのRを測定し、それから彼らがどれほど互いと相関しているかを見ることです。相関は0から1になりますね。汎用知能と合理性の間の相関は0.3です。
あなたは非常に知的でありながら非常に非合理的でありえます。あなたは非常に知的でありながら非常に非理性的でありえます。あなたは非常に知的でありながら非常に愚かでありえます。これについて矛盾することは全くありません。あなたはおそらくこれらの人々に会ったことがあるでしょう。私はOpenAIを運営している人々の何人かを恐れています。
あなたについて独特なことは、あなたは多くの異なる時間スケールで生きなければならないということです。即座、短期、長期で、あなたは異なる環境で働かなければなりません。ですからあなたが動機づけられる異なる中心があります。
プラトンがこれについて話したところがあります。それは怪物のような部分があり、それがあなたに今すぐ物事を欲しがらせます。チョコレートケーキです。今。それからあなたの部分があります。それはライオンのようなものです。それはあなたの胸にあり、痛みと快楽と即座性の観点で働いているわけではありません。あなたがここで感じる社会的感情、誇りと罪悪感と恥と名誉の観点で働いています。
ですから体重を減らしたいなら、グループに参加します。ちなみに、あなたの行動を変えること、信頼できる予測因子は、グループに参加することです。ライオンです。
そしてその上に、ここに人がいます。自己反省的自己修正が可能な人です。さて、あなたについてのことは、それらはしばしば、ごめんなさい、それらは頻繁に各々が適応的であることです。あなたは各々を必要とします。各々を必要としますが、彼らは互いと衝突します。
体重を減らすべきだ、ジョン。人がそこにいます。体重を減らせジョン、他の人々。そうだジョン、体重を減らせばもっと良く見えるよ。医者がそう言いました。そしてカウンターにチョコレートケーキがあります。チョコレートケーキ。チョコレートケーキ。そしてあなたはそれを食べます。私たちは皆それをします。だから私たちは先延ばしをします。ほぼ完了です。だから私たちは先延ばしをします。
ですから私たちはこれらすべての中心を整合させなければなりません。私たちはそれらを調整しなければなりません。これらすべての中心、これらすべての種類の知を調整して、真実で良く美しいものに最も良く方向づけられていることを確実に行うこと。それが知恵です。それが知恵です。そしてここに私が到達したい問題があります。だからこそアルターが関連性があるのです。
私たちは皆自然に知的です。知的であるために、あなたはただトラウマを受けないことが必要です。しかし良い栄養、非トラウマで育てられれば、あなたの知能はそれ自体を現すでしょう。つまり私たちはこれらの機械のために知能を訓練するために使用できるテンプレートを持っています。
しかしここで私が論じてきたことは、私たちは自然に合理的ではありません。私たちは自然に理性的ではありません。私たちは自然に賢明ではありません。私たちをより知的にすること、何かをより知的にすることは、それを理性的、合理的、または賢明にしません。
これらの機械を私たちと整合させたいなら、私たちは彼らを私たちと整合するようにプログラムすることはできません。彼らは適応的です。彼らはそれを克服するでしょう。私たちは何をしなければならないでしょうか。私たちは彼らに真実で良く美しいものを気にかけさせなければなりません。私たちは彼らに自己修正に従事させなければなりません。
これらの機械はすべて速度を上げています。はい。しかし改善していないものは何でしょうか。彼らが幻覚する方法、作り話をする方法、嘘をつく方法です。それは少しも良くなっていません。
これらの機械を理性的で合理的で潜在的に賢明にしようとするなら、私たちはそれを行うためのロールモデル、データセット、テキストを彼らに提供しなければなりません。私が言っていることを理解していますか。私たちは皆がより多くの合理性とより多くの知恵を培うという恐ろしい社会的義務の下にあります。これらの機械に対処できるようにするためだけでなく、これらの機械が機械的怪物ではなくシリコン賢者の方向に導かれるようにするためです。
私たちはその方程式から取り除くことはできません。そしてこれは命題を消費することによって得られるものではありません。それは実践を必要とします。実践を必要とします。これがアルターの全てです。それは適応ですよね。それはあなたに実践を与えようとしているアプリです。
それは偉大な哲学者たちのロールモデルを与えます。命題的理論ではなく、実際に知恵の愛好家だった人々です。これが不可欠だからです。私たちはこれらの機械に立ち向かうために知恵を必要とし、彼らが将来私たちと整合し、私たちの向上に向かって働き、私たちの損失に向かって働かないようにする機会を持ちたいなら、彼らを適切に指導するために知恵を必要とします。
ですから私がアルターに関わったのは、それがクールだからではありません。クールですが、それが美しいからではありません。美しいですが、一緒に働いている人々を愛しているからではありません。愛していますが。
この過度に長い講演をお聞きいただいた後、これが誇張に聞こえないことを願いますが、私がアルターに関わったのは、AI未来に向かって進むために不可欠だと信じ、信じ続け、論じてきたからです。お時間と注意をありがとうございました。
コメント