スティーブン・ピンカーとリチャード・ドーキンスによる知的対談である。言語の起源から人工知能の未来まで、人類の進歩と課題について幅広く議論している。ピンカーの楽観的進歩主義とドーキンスの進化生物学的視点が交錯し、現代社会が直面する複雑な問題に対する洞察を提供している。
開会の挨拶と導入
満員御礼のロイヤル・インスティテュート・シアターにお越しいただき、ありがとうございます。私たちが発表するショーはどれもこれも、あっという間に席が埋まってしまいます。今夜もありがとうございます。舞台裏で働いているスタッフは全員ボランティアで、LGFG Fashion Houseのスポンサーシップがあってこそ今夜のイベントが実現できています。
ボランティアの皆さん、そしてDJ Jeff Gにも感謝の拍手をお願いします。今夜のショーを可能にしてくれました。私は今夜、プロデューサー、チケット係、音響係と、いくつもの帽子をかぶっているので、皆さんと一緒に客席に座ってスティーブとリチャードの対話を楽しませてもらいます。
1時間ちょっと後のQ&Aでまたお会いしましょう。それまでは、スティーブン・ピンカーとリチャード・ドーキンスに盛大な拍手をお送りください。
予測の危険性と言語の起源
どうもありがとうございます。時計を探してたんですが、どこにも見当たらんね。まあええか。誰かが時間が迫ってきたら合図してくれるやろう。
私たちは未来と過去を見つめることになってるんやけど、未来っちゅうのはちょっとリスキーな話やな。19世紀の悪い例を2つほど読ませてもらおうか。熱力学の父、ケルビン卿は言いました。「ラジオには未来がない。空気より重い飛行機械は不可能や。X線は詐欺やと証明されるやろう。」
それから同じ頃の悲観的な作家、ウィリアム・ヘンリー・ピッカリングはこう言った。「一般大衆はよく、巨大な飛行機械が大西洋を横断し、現代の蒸気船のように無数の乗客を運ぶ姿を想像する。そんな考えは完全に幻想的やと言って間違いない。たとえ1人か2人の乗客を運んで海を渡れたとしても、費用が法外になるやろう。もう一つのよくある間違いは、とんでもない速度が出せると期待することや。」
彼は権威ある計算を続けて、空気抵抗の影響で飛行機は当時の急行列車より速く飛べへんことを証明しようとした。というわけで、未来の話に進むかもしれんけど、十分注意してやな。
でも、まずは過去と現在の話や。スティーブ、君の本からちょっとずつヒントをもらおうと思うんや。全部読ませてもらった。『言語本能』から始めて、人類を本当に際立たせているのは言語やと言うのは妥当やと思うか？
認知的ニッチとしての人類
確かに、私たちが持っている最も顕著な特徴で、他の動物にはないものやな。そこから多くのことが流れ出す。ニュートンの言葉で言う「巨人の肩に立つ」ということも言語に依存してるし、文化全体、工学全体、技術全体もそうや。
言語学者として君にいくつか質問したいんやけど、まず現在の考えで言語はいつ始まったと思う？
言語は確かに最も顕著で、動物学的にユニークな特徴やな。ただし、言語がチンパンジーの脳に移植されたようなもんやとは思わん。言語が役に立つには、世界をモデル化する超発達した能力も必要やからな。
つまり、話すべき何かがあるということや。ここで私の亡き友人ジョン・トゥービーの素晴らしい論文から引用させてもらう。彼は1年前に亡くなったんやけど、「認知的ニッチ」について書いた。これは私たちの種や祖先が入った生存と繁殖の方法のことや。
これには言語も含まれるけど、環境をモデル化し、因果関係の推論に従事し、精神的シミュレーションを行い、物理的対象や生き物、他者の心についての直感的理論を持つ能力も含まれる。これによって私たちは他の動物、そして実際には植物さえも出し抜く利点を得た。君の著作から分かるように、すべての生き物は自分の命のために競争し、食べられることに対する多数の防御を持ってるからな。
私たちの祖先は動物を罠にかけ、待ち伏せし、追い立て、植物の毒を解毒する方法を開発した。多くの習得された知識があって、それが言語を通じて共有するものを与えてくれる。
つまり、私たちはただおしゃべりするだけやなくて、教え、学ぶんや。知識は言語をより価値あるものにする。なぜなら情報は非競合的な財やからな。物とは違って、私がそれを君にあげても私がそれを失うことはない。アイデアがあって私がそれを君にあげても、私はまだそれを持ってる。
『利己的な遺伝子』のテーマを拾うと、これは互恵的利他主義の理想的な基盤になる。知識は他人に巨大な利益をもたらすことができるけど、自分にとってのコストは小さい。知識を共有しても自分が失うわけやないからな。
これが認知的ニッチの第三の部分を導入する。私は三つ組みやと思ってる。他にも私たちのライフスタイルの特徴はたくさんあるけど、言語、認知的ノウハウ、そして社会性や。私たちは動物学的に珍しいほど、生物学的に関係のない生物と協力する。これも『利己的な遺伝子』の主要テーマやな。
これは共有遺伝子では説明できんけど、利益の交換、特に知識という究極の取引商品の交換で説明できる。私たちが協力するという事実は、文字通り話し合える関係にあるということや。つまり、他者との会話に参加する意志があるということで、これ自体が協調を前提としてる。
フットボールの試合前の対戦する2人のコーチは雑談せえへんやろ？どちらも相手と共有する準備のあるものを何も持ってへんからな。コミュニケーション、少なくとも言語が有用であるためには協力しなあかん。そしてノウハウが共有するものを与えてくれる。
だから認知的ニッチは少なくともこの三つやと思う。他にも人間の珍しい特徴はあるやろうけど、他の種にもある側面もある。でも言語は巨大な語彙と再帰的文法の両方を持つ点でユニークで、他の種が近づくことさえない方法でアイデアの無限の拡張を可能にする。
再帰と段階的進化
私が疑問に思うのは、進化における段階的漸進主義を私はずっと支持してきたし、「急激な進化」は一切信じてへんのやけど（これはジョン・ターナーがスティーブ・グールドの断続平衡説を表現するために作った個人的なジョークや）、再帰的文法の場合、これは全てか無かの突然のジャンプの可能性があるように思える。
コンピュータ言語を見ると、コンピュータ言語は再帰ができるかできないかのどちらかや。段階的やない。半分の再帰や4分の1の再帰なんてできへん。できるかできないかや。突然のジャンプなんや。これは大突然変異やった可能性があるんやないか？
いや、疑問やな。そして言語がいつ現れたかという君の質問に答えられてなくてすまん。ほぼ確実にネアンデルタール人との分岐より前やった。だから50万年から100万年前のどこかに遡る。でもそれより前、ホモ・エレクトゥスの頃に少なくとも初歩的なものがあった疑いがある。
彼らが話したと思うか？ 彼らが大きな文化的多様性の兆候を示さへんのは、私たちが知る限り、彼らが残した文化的遺物、たとえば手斧なんかがとても画一的やったからや。本当に離陸したのは約5万年前やった。
確かにそこで爆発があった。ジャレド・ダイアモンドが「大躍進」と呼んだものに何が起こったかは議論されてる。ヨーロッパでは3万から5万年前、たぶんアフリカではもっと早い時期や。それは大きな認知的飛躍やったかもしれん。スタンフォードの人類学者リチャード・クラインがそう示唆した。
でも他の要因は純粋に人口規模やったかもしれん。より多くの人がいればアイデアを思いつく人も多くなって、より豊かな源になる。だから本当のところは分からん。
でもヨーロッパでクロマニョン人と関連付ける爆発の前でも、8万から10万年前に遡って、それまで見たことのない様々な形の道具や文化的変異があった。これは個人間の情報伝達に依存していた可能性がある。だからホモ・エレクトゥスが言語、言語の初歩を持っていた可能性については、今はちょっと後退してる。可能やけど、個人的に伝達された情報の兆候やったやろう文化的変異にそれほど証拠を見てへん。
でも再帰が大突然変異を必要とするかどうかに戻ると、私たちは両方とも懐疑的やと思う。大きな変化は『盲目の時計職人』からの議論をフィードバックするけど、大きな変化が特に適応的なものにつながることは unlikely や。純粋に確率の問題で、一連の変化があって、各々がそれを何らかの方法で改善した場合、それは可能性の範囲内にある。それが段階主義を支持する一般的な議論や。
でもこの特定のケースでは、中間段階を考えるのが難しい。本当に再帰的な文は理解するのが非常に困難で、ナム・チョムスキーが60年代に持っていた例がある。「彼が悲しいことが予想外なのは驚きや」みたいな。
これは文法的な文やけど言葉のサラダみたいに聞こえる。おそらく私たちには再帰を処理するのと同等の計算アーキテクチャがないからやろう。つまり、アドレスのセットを持つサブルーチンスタックで、各タスクを完了したときに戻れるところや。でもそれは7つほどの深さやけどな。
人間の短期記憶はコンピュータのように任意の数のシンボルのスタックやなくて、内容が重要やろう。これは誇張やけど、私たちが学んだすべての概念、すべての単語が脳内に表現を持っていて、記憶に保持するときそれが点灯するか印がつくような感じや。複数のインスタンスがあると、それらは自分自身を上書きする傾向があって、私たちはすぐに混乱する。
だから私たちが持ってるのは、再帰的に外挿できるルールシステムやろう。つまり、「彼が悲しいのは残念や」と言えるならそれは完全に理解できる。それを持った瞬間に、文を別の文の中に、さらに別の文の中に埋め込むのに必要なすべての道具を持ってるけど、コンピュータアーキテクチャでスタックをポップするのと同等の認知能力は本当にない。
君はラウリアが受け取った手紙を引用したかもしれん。「教授、私はあなたに伝えたい、私はあなたに伝えたい、私はあなたに伝えたい、私はあなたに伝えたい、私はあなたに伝えたい」と無限のスタックが続くけど、決してない。
最近ハーバードで反ユダヤ主義イニシアチブがあって、誰かがそれに反対する議論をしたから、それは反反ユダヤ主義イニシアチブやった。そして誰かがそれに反対する議論を書いたから、反反反になった。これらは難しくなる。特に尻尾再帰と呼ばれるもの、つまり何かを最初や最後に繋げるだけなら私たちは扱える。
でも句を句の中に、特に同じ種類の句を埋め込むとき、名詞句を名詞句の中に、文を文の中に埋め込むとき、それは私たちを困らせ始める。句や文があって、それを埋め込んで最初と最後に材料があり、それの最初と最後に材料があるとき、それは下手な文章の定義の一つになる。埋め込みが多すぎる場合やな。
とにかく戻ると、すまん、これはちょっと長い話になってるけど君の質問に答えるために必要やった。再帰を扱う私たちの能力は大突然変異を示唆するか？私は疑問やと思う。私たちには純粋な再帰はないからや。
私たちが持ってるのは組み合わせ論や。主語と述語を繋げる能力がある。述語の中に修飾語を埋め込める。そのシステムで、数学的に再帰的に爆発的な言語を生成する能力がある。でも私たちは再帰を実際に扱う能力はないと思う。
だから私たちが持ってるもの、つまり2つのものを組み合わせることは、能力としてはそれほど驚くべきことやない。動物行動の私の分野で、言語のない動物が行動にある種の再帰的組織を使うという示唆がある。ハイエナの狩りの組織なんかがそう見えることがある。どれほど妥当かは分からんけど、示唆されてる。
複雑な目標指向行動なら組み合わせ的構造を持つかもしれん。それはある意味再帰的や。全体的な目標があって、それに仕えるサブ目標を開いて、さらにサブサブ目標を開いて、それから巻き戻していく。
まさにそうや。それが私たちにとっても困難になるのは、目標とサブ目標とサブサブ目標などが質的に同じ場合や。そうすると追跡を失い始める。目標階層を扱うことは、サブサブ目標を実行したときに「よし、今度はサブ目標に戻る時や」と覚えてなあかんし、それを終えたらサブに戻らなあかん。それがスタックを必要とすることで、それは困難や。
抽象的に話してるから具体的にしよう。朝食を作るのが目標で、サブ目標はコーヒーを作ること。コーヒーを作るにはまず粉を手に入れる。粉を手に入れるには豆を挽く。豆を挽くには冷凍庫から取り出す。そして各ステップの後で、全体のシーケンスのどこにいるかを覚えてなあかん。それは組み合わせ的構造を持ってて、それが再帰的アイデアの神経生物学的基盤になり得る。それが順番に再帰的言語で表現される。
遺伝主義と環境主義の論争
別の本、『ブランクスレート』に移りたい。君は遺伝主義者とみなされるやろうし、環境主義者とは対照的に、遺伝の役割がゼロより大きいと信じてるという意味でや。
まさにそうや。
私がとてもイライラするのは、そして これは君の本の一つである私たちの偏見の話につながるんやけど、君はドナルド・トランプに同意してるんやろ、みたいな。つまり、その一つの狭い点で同じことを考えた誰か他の人の筆で塗られるということや。これは問題やと思うか？
それは知的生活全体の問題やな。ドナルド・トランプが自然について意見を述べたかどうかは知らんけど、そんなことはせんかった。そのスタイルの議論、つまり「誰それがそれを思い出させる何かを言わなかったか？だから君は誰それと同じ陣営にいるに違いない」っていう。
君は犬好きやと。よし、君はヒトラーに同意してるんやな。そして猫を嫌いに違いないとか、猫の虐殺に参加したいに違いないとか。
そうや。それは理解の妨げになる一般的な障害やと思う。つまり、関連性や関連性の関連性によって人々をキャンプに分けることや。『心の仕組み』で、君は主要な進化心理学者の一人やと思うけど、これはたくさんの批判を受ける分野や。
私は哲学者と一緒に旅行してたことがあって、彼とはうまくやってたんやけど、進化心理学とスティーブン・ピンカーについて言及するまではな。そしたら彼は毛を逆立てて泡を吹き始めた。問題は何やろう？進化心理学が意味をなすのは明らかやないか？
確かに、それが意味をなす理由は、それが多くの分析レベルの一つやからや。ここで君の指導教官ニコ・ティンバーゲンの名前を挙げよう。彼はあらゆる種類の行動を完全に理解するには、その神経生物学的基盤を理解せなあかん、個体でどう発達するか（私たちの場合は子供）、種でどう進化したか（その系統発生）、そしてその適応機能、つまりそれが非現実的に複雑なら、それを生み出した選択圧は何やったかを理解せなあかんと示唆した。
進化がすべてを説明するとは思わんけど、認知的表現型を含む私たちの表現型のあらゆる側面について満足のいく説明の一部やと思う。
毛を逆立てることは、『ブランクスレート』で議論した関連性の連鎖から来ると思う。実際、『ブランクスレート』を書いた理由は、『心の仕組み』を書いた後で、反応の多くが政治的に動機づけられてることに驚いたからや。それ自体で本を書く価値があると思った。
『ブランクスレート』の核心は、なぜブランクスレートが科学的に全く非現実的なのか（ブランクスレートは何もしないし、人間の脳は多くのスマートなことをする。だから何らかの構造を持たなあかん）という一見無害なアイデア、つまり脳が構造を持ち、顕微鏡下でも構造が見え、人間のゲノムの大部分が脳で発現してることが、なぜこんなに炎症を起こすアイデアなのかということやった。
私は『心の仕組み』や類似の議論をする他の本への反応から、4つの接触点を特定した。一つは不平等への恐怖やった。つまり、私たちがブランクスレートなら、ブランクスレートの政治的に魅力的な側面の一つは、私たちが皆同じということや。ゼロはゼロに等しい。だから一部の人や一部のグループが他より賢いか、より良心的かという全体の問題は、私たちが違う何もない場合は起こり得ない。
だから平等主義者なら、私たちはブランクスレートやと信じなあかん。でも私が主張するのは、それはいくつかの理由で論理の飛躍やということや。一つは普遍的な人間性があり得るということ。非常に豊かな生得的資質があっても、すべての普通の人間がそれを持ってる。
でも変異があっても、遺伝的なもんなら必然的にある程度の変異を認めるけど、平等への commitment は私たちがクローンやという経験的仮説やなくて、すべての人が知覚力があり、責任を持つことによって平等な権利を持ち、平等な尊敬に値するという道徳的仮説や。その道徳原理は、私たちがブランクスレートや区別できないという経験的に疑わしい教義に依存すべきやない。
人間性のアイデアについて政治的に敏感なもう一つの点は、私たちが人間性を持ってるなら、支配や復讐や欲望や貪欲や利己主義みたいな、あまり誇れないものが組み込まれてるかもしれんということや。それは社会的・政治的改善の邪魔になるように思える。
私たちがブランクスレートから始めた方がええんやないか？そうすれば私たちの文化、私たちの子育て実践が完璧に良い子供を育てて、完璧に良い大人に成長し、完璧な協力と調和のユートピア社会を持てるやろう。私はこれを不完全性への恐怖と呼ぶ。
人間性、人間性のアイデアは、ユートピア主義者にとっては厄介なもんや。なぜなら、新ソビエト人を育てることができない、毛沢東が「白紙に最も美しい詩が書かれる」と言ったようにはいかんからや。
私がそれらの独裁者を持ち出したのは偶然やない。なぜなら議論を逆転させて、人間性があるという事実は、全体主義者が自分たちの設計仕様の人間をプログラムする開口部がないことを意味すると言えるからや。欠陥があっても、快楽や苦痛や欲求を持つ人間を尊重せなあかん。
おそらく皮肉なことに、私は『ブランクスレート』を書いてから10年以上後に、人間の進歩と改善についての究極の本『私たちの善なる天使』を書いた。タイトル自体がエイブラハム・リンカーンから取られてて、人間性が復讐みたいなかなり厄介な特徴を含んでても、それは大きな複雑なシステムやということを指摘してる。
それがすべてやない。私たちには共感の能力もある。自制心の力もある。問題解決に従事できる認知プロセスもある。もし私たちの制度や規範が私たちの善なる天使を引き出し、私たちが自己中心的やという事実にもかかわらず調和して生きるにはどうすればいいかという問題として見るなら、長い欠陥と罪のリストがあっても、進歩は理論的に可能やし、実際に起こった。
だから私はその本と続編の『エンライトンメント・ナウ』で100個のグラフを再現して、遺伝主義者として、しばしばパングロス主義的でユートピア的やと攻撃されながらも、進歩が起こったし起こり得ると言ってる。楽観的すぎるとして攻撃される。攻撃は人々の直感から来る。
でも君はデータを持ってるし、この点で直感は信頼できない。
進歩の現状と課題
でも『善なる天使』が出版されてから動揺したことはあるか？世界は悪くなってるんか？
そうや、そうした。データを追跡しようとしてる。去年のデータを見る前に歯を食いしばって深呼吸するわ。答えは予想通り複雑や。私は力としての進歩を信じてへん。友人のライプニッツが言ったように、信じるべきものは何も信じん。だから力としての進歩は信じてへん。むしろ逆や。
自然の力は私たちを擦り潰す傾向があると思う。物は壊れる。君の熱力学第二法則が適用される。物は腐り、錆びる。人間性というものがあって、厄介な部分がある。私たちが享受した進歩は、抗生物質やワクチン、民主主義や法の支配、市場といった特定の成果から来た。
それらが無効にされれば、私たちは後退するやろうと予測される。進歩は自然の力やなくて因果関係の問題やからや。
データは何を示してる？パンデミック中、私たちは後退した。疑問の余地がない。寿命、貧困、様々な良いことのデータで、私たちは確実に後退した。
でも安堵することに、失った土地を回復し、寿命や子供の死亡率、極端な貧困といった指標で、データがある最後の年は人類史上の記録やった。だから寿命のグラフはコロナの明らかな凹みを示すけど、回復して反発し、今は今まで以上に少し高い。
他のことでは悪化してる。民主主義は過去数年間で確実に後退してるし、少なくとも私の養子の国ではさらに悪いことが来る。私はこれを皮肉な発言としてやなく言うんやけど、民主主義を追跡する組織があって、カーブが見える。過去10年から15年間の退行にもかかわらず、おそらく15年の進歩を消し去ったけど、私たちは90年代、80年代、70年代、50年代などと比べて、まだずっとマシや。
だから民主主義のカーブは、ファシズムと共産主義の時代に下がった。それからベルリンの壁の崩壊後に急上昇して、平準化して少し沈んだ。歴史的基準では、まあ悪くないけど、後退はした。
戦争による死者数については、戦争による死者数の減少は本当に第二次世界大戦後の現象や。それ以前は、戦争の減少について議論するのは困難やったやろう。でも1945年以降、世界が「まあ、もうあんなことはやめよう」と決めた後、少なくとも今のところはやってへん。
それはある程度ジェットコースターや。過去2年から3年間で絶対に上昇の兆しがあった。皆がガザのせいやと思うけど、実際はガザが恐ろしいものやったとしても、それは実際にはその小さな部分でしかない。ウクライナもあるけど、私たちが読まない破壊的な戦争もある。スーダン、南スーダン、その前はエチオピアでも。
だから再び、約30年の進歩を消し去った。私たちは90年代初頭にいた場所に戻った。70年代、60年代、50年代よりはマシやけど、『私たちの善なる天使』を書いた時ほど良い位置にはない。
だからそこでは後退した。
悲観的バイアスとメディアの構造
直感は悲観的になる傾向がある。人々が反応する理由がある。悪いニュースよりも良いニュースに反応する理由を君は例を挙げてるけど、データ、表、グラフの形で良いニュースを出してる。なぜ私たちは悪いニュースに反応するんや？
いくつかの理由がある。一つは認知バイアスとジャーナリズムの本質的な組み合わせや。認知バイアスはエイモス・タベルスキーとダニエル・カーネマンによって「利用可能性ヒューリスティック」と名付けられた。基本的に逸話や物語や画像によって頻度、確率、リスクを判断するということや。
つまり、特定の事例を想像できるなら、その頻度を過大評価する。ジャーナリズムとは何か？逸話や。起こることであって、起こらないことやない。特定の国で戦争のない年があっても、何も起こらなかったからヘッドラインにならない。同じように、漸進的な出来事よりも突然の出来事について報道する傾向がある。
悪いことが一度に起こるのは簡単や。良いことが一度に起こるのは非常に稀や。ベルリンの壁が崩壊した、それは一例やけど、そんなに多くはない。一方、テロ攻撃、爆発、学校での銃撃事件、戦争の勃発、これらはニュースになる。
何かが年に数パーセントずつ改善されても、実際に複合されて世界を変革できるけど、決してニュースにならない。実際、それよりもさらに倒錯してる。上昇し続ける傾向があって、ある年に少し下がって、それから10年間上昇し続けて、それから少し後戻りすることがある。まあ、後戻りがニュースや。10年連続はニュースやない。
だから、あらゆる後戻りについて聞く。寿命、交通事故、測定できるあらゆるものについて読むたびに、どんどん悪くなってる印象を持つかもしれんけど、実際はどんどん良くなってる。
Owl World and dataウェブサイトの創設者マックス・ローザーは、新聞は「昨日137,000人が極端な貧困から脱出した」という見出しを持てたやろうと言った。過去30年間毎日や。その見出しを一度も載せなかった。だから10億人が極端な貧困から脱出したのに、誰もそれを知らない。
だからその組み合わせが、データが正当化するよりも悲観的になる理由の一つや。
奇妙なことに、『1984年』の真理省は嘘の省やったけど、常に「鋼鉄の生産が上がった」みたいな出力をしてた。それはその別の特徴で、ジャーナリストから聞いたことやけど、まさにそのせいで、5年計画や銑鉄の再生産がこれまで以上に大きな速度で行われるという報告に基づいてない。ソビエト連邦に緩く基づいてる。
ジャーナリストは内蔵バイアスに非常に敏感で、彼らの倫理の一部である否定性バイアスもある。あるジャーナリストが言ったように、「悪いニュースはジャーナリズム、良いニュースは広告やと教えられた」。
だから良いニュースは現状、確立された体制、権力者を支持してるという感覚がある。ジャーナリズムの役割が権力に真実を語ることなら、何かが良いと言えば、体制を支えてることになる。仕事をしてへんことになる。
他の心理的バイアスと一緒に、否定性バイアスがある。つまり、否定的なものが肯定的なものより大きな心理的影響を持つということや。批判によって傷つけられるのは、賞賛によって励まされるよりも大きい。否定的な感情は肯定的な感情より多い。否定的な言葉は肯定的な言葉より多い。
過去に関しては、肯定的な出来事より否定的な出来事をよく覚えてるというよりも、当時どれほど否定的やったかを忘れる。だから記憶にはある種のノスタルジアが組み込まれてて、人々は振り返って、70年代を労働者の楽園みたいに新聞でよく見る。
エネルギー不足があって、平均寿命が10年短く、歯科での麻酔も少なく、インターネットもなく、失業も多く、2桁の失業と2桁のインフレが同時にあった時代や。それらはトレードオフするはずやのに、70年代は両方あった。かなり厳しい時代やったけど、特にその時代にいなかった人々にとって、労働者階級にとってずっと良かったとよく言われる。絶対にそんなことはなかった。
でも人々は自分の自伝でも回顧的な説明でも、当時どれほど悪かったか、否定的な感情が記憶で減退することを忘れる傾向がある。
それがノスタルジアを抱く理由のもう一つや。
直感的弁護士としての人間
『合理性』からの引用を2つ。「私たちは直感的科学者としてやなく直感的弁護士として進化した」。これは私に響いた。
それはフィリップ・テトロックから来たと思う。私たちは直感的弁護士であり神学者やと。でもそうや。ダン・スペルバーとユーゴ・メルシエからの議論があって、私は行き過ぎやと思うけど、段階的説得という意味での推論は真実を確立するためやなく議論に勝つために進化したという理論や。
だから私たちは弁護士という意味で、弁護や起訴を引き受けて、その事件を作るために抑制したり誇張したりできる証拠をスピンドクターしたり抑制したりするということや。可能な限り客観的な現実の確認ではなく。
私たちは皆それに罪を犯してる。それと戦わなあかん。科学者もそれと戦わなあかん。お気に入りの理論があるとき、それに反対する証拠を探すように自分を訓練せなあかん。それは科学の倫理の一部や。
確かに。推論が宣伝を広めるため、惑わすため、脅すためだけに進化したと言うのは行き過ぎやと思う。なぜなら私たちは現実と十分に一致してなあかん。でも私が言うように、お気に入りの理論を進歩させる非常に強いバイアスがあると思う。
偶然やないけど、お気に入りの理論は私たちを最高の光で示すだけやなく、理論はしばしばそれを持つ人の利益と一致する傾向がある。でも科学のような制度、法廷での敵対的システム、民主主義での言論の自由といった制度が、そのバイアスのセット、私たちの側のバイアス、または直感的弁護士になる傾向の回避策やということや。
本当の弁護士であることは、反対側にも弁護士がいるということや。つまり、両方が法廷で発言する機会を持つ。科学がピアレビュー、オープンな批判、権威の階層がない（声明の真実性を推薦するものとして）ことに依存する理由の一つや。学部生がノーベル賞受賞者を批判できる。
少なくとも理論的には、私たちが促進すべき規範や。その理由は、集合体がそれを構成する個人のどれよりも合理的になれるからや。
そしてこれは『合理性』を始めた逆説を解決する。テルスキーとカーネマンが70年代に著作を始めて以来、多くの教育を受けた人々は、人間の脳が陥りやすいバイアスと誤謬の長いリストを知ってる。バイアスと誤謬のウィキペディアページには今200個がリストされてる。
でもそれは逆説につながる。私たちがそんなにバイアスに苦しんでるなら、どうやってスマートフォンや抗生物質やワクチンを発明し、月に行き、DNAやニューラルネットワークを発見したんや？答えは、言論の自由、オープンな批判、経験的テストの要求、ピアレビューなどの規範を持つ制度を形成するからや。
欠陥があっても、編集、ファクトチェック、二重盲検試験がある。これは驚くほど単純なアイデアやけど素晴らしい。いつ発明されたか分からんけど、非常にローテクやけど絶対に不可欠や。
確かにその通りや。スティーブン・ジョンソンの『エクストラ・ライフ』という本で、歴史的には約30から全世界で70以上、先進国では80以上への平均寿命の増加に言及してる。彼のタイトルは平均寿命の倍増で、私たちが余分な生命を与えられたという事実に言及してる。祖先と比べて少なくとも2つの生命を持ってるようなもんや。
彼は革新をリストしてる。衛生、抗生物質、ワクチンなどの明らかなものもあるけど、その一つが二重盲検臨床試験で、様々な種類のいかさまと本当に効果的な治療法を区別する。
でも全体的な話は、私たちが道徳的進歩を導く合理性の力と同様に、物質的進歩と私たちの生活における賢明な選択を導く力があるということや。私たちが利己的な自然にもかかわらず他者に良くし、無慈悲な宇宙から幸福の増分を絞り出す能力は、私たちの狭い経験を超越する公平な原則を把握することに依存してる。
私たちは基本的な理性の能力を与えられ、その範囲を拡大する公式や制度を発見した種や。それらは私たちの直感を困惑させるアイデアや現実に目覚めさせ、私たちを現実に曝すけど、それでも真実や。
ソーシャルメディアの例外がルールを証明するかもしれん。導入されたとき、今見ているものを誰も予測できなかったと思う。フェイクニュースや陰謀論の爆発や。でもそれは編集、ピアレビューなどのメカニズムなしに、皆に自分のメガホンを与えることによるものや。それはいかさまやナンセンスの爆発につながった。
人工知能の驚きと限界
私たちには誹謗中傷に対する法律があるけど、誰かを傷つけることを証明しなあかん。なぜ自然が誹謗中傷で訴えられへんのかずっと疑問に思ってる。世界について嘘をつくことに対して。世界が平らやと言うのは実際にはかなり無害やけど、それによって実際に誰かが経済的損失を被ったことを証明できん限り、不法行為でなあかん。
羊が性的に欲求不満な羊飼いに虐待されるとき、彼らは法廷で代表されると私は信じてる。弁護士が立ち上がって法廷で自然を代表するのを見たい。ただの嘘に対して。
そこでの問題は、言論の自由の擁護者として別の帽子をかぶると、私たちの誰も何が真実か偽かを確実に知ることはできへんので、私たちはより近づいてるけど、私は真実というものがあると信じてるし、私たちの誰もそれを持ってへんと思う。
それらは矛盾してへんと思う。真実についての早すぎる合意があって、長期的には正しいと判明する異端者を黙らせるために過度に広い誹謗中傷法が使われる危険がある。だから私たちは表現に長いリードを与えたい。アメリカとイギリス、アメリカと世界の他の地域は、アメリカが言論の自由に与える自由度の点で異なる。アメリカが正しいと思うことの一つや。
私も同感や。私たちのサイドバイアスに移って、「脳についての最も憂鬱な発見」を君は引用してる。それが何か覚えてるか？説明してもらえるか？
実験が行われたとき、その欠陥を人々がどう見るかが政治的バイアスに依存するという実証や。
これはイェール大学の法学者ダニエル・カハンによる研究で、「脳についての史上最も憂鬱な発見」という見出しのきっかけになった。仮想的やけど妥当な研究から偽のデータを与えて、データが示すものを見る前に二度考えなあかんように配置する。
つまり、絶対数やなく相対率を見なあかん。リテラシーのある人にとってはほぼ第二の天性で、リテラシーとはほぼそれから成り立ってる。ページの数字に騙されるんやなく、比率について考えること。
実験では同じデータを使って、政治的に議論の余地のある仮想研究（この場合はアメリカの銃規制）か、全く例外的でない皮膚クリームの発疹治療効果かのどちらかやった。一方では銃規制が犯罪を減らしたか減らさなかったかをデータが示し、被験者の他半分では皮膚クリームが発疹を治療したかしなかったかやった。
再び、データが実際に何を示すかを見るためにはちょっとしたリテラシーが必要やった。もう一つの操作は、テスト受験者自身が数学に詳しいかどうかと彼らの政治的志向の独立したテストやった。
だから2×2×2のデザインやった。彼が発見したのは、政治的に議論の余地のある研究、つまり銃規制が暴力減少に効果的かについては、もちろん数学に詳しくない人々は定義上ほぼデータを誤解した。それが数学リテラシーの意味やからな。
数学に詳しい人々の間では、それは彼らの政治と、研究が政治的に議論の余地のある問題についてやったかどうかに依存した。だから数学に詳しい左派の被験者は、数学に詳しいにもかかわらず、自分たちの愛用の信念に反する研究の結果を誤解した。アメリカの左派の場合、それは銃規制が効果的やという信念やろう。
一方、右派の数学に詳しい被験者は、研究が実際に銃規制の効果を支持しなかった時を見つけた。皮膚クリームの研究では、重要やったのは数学リテラシーだけやった。
だから憂鬱やったのは、数学リテラシーが、最初から受け入れた仮説を確認したり否認したりするように見える研究では認知的誤謬に対する保護にならんということや。だから統計的訓練を受けた人でさえ、自分の偏見を支持する悪い研究に対しては甘すぎるし、自分の愛用の信念を反駁する研究に対しては鋭い目を持ち、適切に懐疑的になる。
それは憂鬱や。私たちは未来について話すことになってるのを思い出してる。未来について楽観主義者と悲観主義者がいる。起こりうることの望ましさと、まったく起こる可能性の両方について楽観主義者がいる。
私が先ほど読んだケルビンの引用とは対照的に、今日人間技術の無限の力について楽観的な人々がいる。デイビッド・ドイッチュ、アーサー・C・クラーク、フリーマン・ダイソンを思い浮かべる。
デイビッド・ドイッチュは正確な引用は持ってへんけど、「もしそれが可能なら、物理法則に矛盾しないなら、適切な知識があればそれはできる」みたいなことを言ったと思う。
そうや、適切な知識があれば。そしてフリーマン・ダイソンはこれらの驚異的な、何ができるかについての巨大な可能性を持ってる。君は過去と現在について楽観的やと感じるか？未来について楽観的か？望ましさの点やなく、人間技術の力、力の点で？
だから一つの但し書きは、私たちは自然の法則を十分に理解してへんので、何が不可能かを知らんということや。自然の法則が排除することがあるかもしれん。これがドイツの但し書きやった。
もう一つは、何かが可能やけど、それに近づくにつれて指数関数的なコストがかかるかもしれんということや。だから仮に可能やとしても、実際に達成可能やないかもしれん。だからデイビッド・ドイツとほぼ同じやけど、ちょっと控えめや。
この部屋にいる人々の生涯で達成される可能性が高いことはたくさんあると思う。アルツハイマー病の予防や治療、多くの形態の癌の可能性があると思う。退屈で危険な仕事の多くが自動化される可能性がある。自動化と人工知能によるはるかに大きな豊かさの可能性がある。まだ暴力犯罪が少なくなる能力があると思う。
世界の多くで、フランシス・フクヤマが「デンマークに到達する」という用語を作ったと思う。デンマークはユートピアやないし、デンマークに行ったことないし、たぶんいくつかの固定観念に基づいてるかもしれんけど、かなり快適な場所のようや。
実際、デンマークに住んでた友人がいて、彼はデンマークがあまりに完璧すぎて耐えられずにデンマークを去った。私たちみんなにそんな問題があればええのに。
でもソマリアがデンマークのようになれば、それは本当に良いことやろう。ユートピアやないやろうけど、デンマークの人々にも痛みや苦痛や失恋や心痛やその他すべてがあることは確かやから。
でも世界がデンマークに到達できるか？デンマークはデンマークに到達したし、彼らは血に飢えたバイキングの子孫や。だから途方もない上昇余地があると思う。
君が最初に言及したように、滑稽に偽りと判明した悲観的予測がある。滑稽に偽りと判明した楽観的予測もある。たとえば、私たちは今頃、計り知れないほど安い電気、原子力自動車、月の植民地などを持ってるはずやった。
1972年の月面着陸後、もう53年になるけど、別の着陸はしてへん。技術的には可能やけど、進歩に歯止めをかける社会的、経済的、政治的要因がある。
だから次にどの突破口が起こるかは予測せえへんけど、天井は非常に高い。つまり、私たちが発見できることはたくさんある。そして再びデンマークに戻ると、プーチンがウクライナに侵攻した3年前、世界は大幅に後退した。
それ以前は、戦争が異端者を燃やしたり、処女を火山に投げ込んだり、狂人を笑ったり、何千年も一般的やった様々な慣行のようになることが想像できた。奴隷制もそうや。そして大体消えた。
戦争が人身御供や子供の奴隷制のような野蛮な習慣として私たちの子孫に見られることがあり得るか？私たちはその方向に向かってたと思う。過去3年間で後退したけど、ユートピア的やとは思わん。
フランスとドイツ、ドイツとポーランド、カナダとアメリカは、現在の大統領によるいくつかのトロールにもかかわらず、かつて互いの喉元に迫っていた国々が非常に長い平和期間、おそらく無期限の平和を達成できることを示してる。フランスとドイツがこの部屋の誰かの生涯で戦争をすることはないと思う。それが世界的に起こることはあり得るか？不可能やない。人間性の暗黒面を信じる人にとってもクレイジーやとは思わん。
人間理解の限界と意識の謎
人間理解はどうか？私たちは両方とも、人間の脳が対処できることには限界があると言ってると思う。少なくとも私たちの一部が量子論や相対性理論に対処できるのは驚くべきことやと思う。
デイビッド・ドイツは再び、人間の脳が理解できることに限界はないと考える人の一人や。一方、私は宇宙には私たちが想定するよりも奇妙なだけやなく、想定できるよりも奇妙なものがあるかもしれんとハルデーンが言ったように、十分謙虚やと感じる。君もそれに同意すると思う。
確かに、少なくとも私たちが本当に何かを理解してると満足させてくれる直感的理解という意味では。人間の脳が直感的には把握できへんけど、方程式などの他の手段で理解できることがあるかもしれん。
黙って計算しろ。そう。量子力学がその例や。私たちにはしっくりこないけど、それに依存する多くの技術を発明するのに十分理解してる。
最も有名なのは人間の意識で、時々軽蔑的に謎論理論と呼ばれる理論によると、これは実際には60年代のワンヒットワンダーロックバンド、クエスチョンマーク・ザ・ミステリアンズから来た名前やけど、これは長い間多くの思想家によって表現された概念で、デイビッド・ヒューム、最近ではコリン・マッギンやナム・チョムスキーなどや。
人間の心は器官やから、特定の方法で働く。私たちは天使やない、奇跡やない、これはただの器官や。私たちが考えられることには途方もない範囲があるかもしれんけど、存在し得るすべてやない。おそらくいわゆる意識のハード問題の解決がそうや。
つまり、なぜ主観的経験があるのか、情報へのアクセスだけやなく、生きて目覚めて認識してることがどんなものかという何かがあるのか。それがそんなに永遠に逆説的で解決不可能に見えるから、たぶんそこには解決があるけど、私たちには把握できんのかもしれん。
1年ほど前に失った亡き友人ダン・デネットは、この全体の議論の方向性は見当違いやと言うやろう。意識のハード問題なんてない。あると思うなら君は混乱してる。それはもう一つのアプローチで、私たちが考えられへん思考はないという考えと一致するやろう。
私たちが考えられへん思考は実際の思考やない。少なくとも一貫した思考やない。
私たちは人工知能について話すべきや。今、皆の話題に上ってる。私は様々な実験でかなり驚いた。何かを読みたい。私はChatGPTに君の『合理性』の本の最後の段落を提示して、同じテーマで詩を書くように頼んだ。
その段落は以下の通りや。「道徳的進歩を導く合理性の力は、物質的進歩と私たちの生活における賢明な選択を導く力と一体や。私たちが無慈悲な宇宙から幸福の増分を絞り出し、欠陥のある性質にもかかわらず他者に良くする能力は、私たちの狭い経験を超越する公平な原則を把握することに依存してる。私たちは基本的な理性の能力を与えられ、その範囲を拡大する公式や制度を発見した種や。それらは私たちの直感を困惑させるが、それでも真実である現実やアイデアに目覚めさせ、さらしてくれる。」
詩を書いてくださいと言った。2秒後。
理性の灯火で私たちは道筋を描く 道徳の領域と物質の力を通って その力は一つで分割されてない 人生と科学で長い間導いてきた
星が点火する最も残酷な空虚から 私たちは善を絞り出し、正しきを求める 欠陥があっても、互いを扱おうと努める 敵やなく兄弟として平等に
私たちは部族的粘土から自分を持ち上げる 自己を抑制する真理によって 理性によって知られる公平なルール 私たちが蒔かれた種を超越する
この心は最初の思考の火花を授けられ 暗闇を押し返すことを学んだ それは道具を鍛造し、枠組みを設計した その把握を伸ばし、主張を固めるために
そんな洞察は私たちの生来の感覚を驚かせる しかし証拠を通してその真実を証明する それらは私たちを内向きの見方から目覚めさせ 奇妙やけど深く真実なことを示す
悪くない。これはチューリングテストに合格すると思う。まあ、実際にはチューリングテストという意味では良すぎる。速すぎる。人間が書いたものやないと分かる。
それは君を騙さなかった。それは確かや。でも私は別のジャンルでも持ってる。シェイクスピア風のもある。ラドヤード・キップリング風のもある。でも下品なリメリックができなかったのが残念や。
誰かラップトップ持ってない？とにかく、これについてどうするんや？これは驚異的や。私は単純に賞賛と不安で圧倒されてる。君の感覚は？
それは驚異的やし、ここで私は未来を予測することにはかなり無能やと感じてる興味を持ってる。でも自然知能と自然愚鈍性の研究に人生を捧げた認知科学者として、人工知能を見て、トリックが何かを理解しようとすると、驚愕する。
そして私が見るまでは、まさにその建築を持つシステムでそれを予測しなかったやろうことを認める。信じられないのは、トリック自体がそれに見合ったもんやないように見えることや。
それでもそうなんや。これは認知科学の問題に入って、私が何十年も書いてきたことや。私たちの亡き友人ダン・デネットもそうや。人工知能で知能を達成する大まかに言って2つの方法がある。
一つはやや論理に似てる。命題があって、それから古いものから新しい命題を演繹する推論規則がある。グッドオールドファッションドAIと呼ばれることもある。これがコンピュータアルゴリズムの動作方法やし、チョムスキーの文法理論も書き換えルールで動作する。
もう一つは人工ニューラルネットワークで、ニューロンにやや似た計算ユニットがある。アナログ情報を集約して、入力の重み付き合計が閾値を超えたら発火するかしないかや。
でも多くの多くの多くがあって、層で互いに供給し合い、一般的に問題への入力とその正しい出力で訓練され、出力を近似するために入力を集約する重みを動的に強化する。十分な訓練で、しばしば成功できる。
行ったり来たりの議論があった。私は本当にニューラルネットワークモデルの限界を指摘する側にいた。命題論理と呼べるもの、つまり真偽があり得るものが欠けてた。誰が誰に何をしたか、何がどこにあるかについての陳述は、ニューラルネットワークモデルには明示的に存在しない。
それが何十年もの間、英語の過去時制を生成することさえできない、toからsmegedまで、新しい動詞に対してさえできない理由の背景にあった。今日私はsme、昨日私はsmegedした。
でもニューラルネットワークは何十年もできなかった。なぜなら訓練されたものとの類似性によって一般化するからや。訓練セットの外で驚かせると、困惑する。断片を組み合わせる。
だから2年半前まで、ChatGPTとその仲間たちが驚くほどうまく動作すべきでないと予測してたやろう。私の直感が不足してると思うのは、恐ろしいスケールが何をできるかを直感的に理解できないことや。
入力と出力の間に1つや2つの層やなく100の層があって、入力に重みをつける数十万のパラメータやなくて1兆あって、数百万の例やなくて世界全体のウェブ上の兆で訓練されたとき、その量は私たちが目撃したようなことができる質につながる。
同時に、ニューラルネットワークモデルの欠点はまだそこにあって、それらは幻覚や作話や混合と呼ばれてる。それはまさに訓練セットのものとの類似性に基づいて一般化し、一般的に一緒になる傾向のあるものを混合するからや。
私たちが今知ってるように、それらが一緒になったことがなくても、したがって君は幻覚を得る。数年後でもまだ問題や。そして私はジェネレーティブAIの半定期的なユーザーとして、出てくる幻覚にまだ驚く。
それらは体系的な理由で出てくる。つまり、フランスの首都はパリやとか、誰それがいつどこで何をしたとかに対応するものがそこにない。一緒になる傾向がある多くのものの混合があって、常にもっともらしいが常に事実的やないという出力になる。
でもなぜGoogleで調べないの？ハイブリッドモデルがあって、出力を生成する前にGoogleで調べるようなものもある。そして当然Googleそのものが、それがもともとGeminiが設計されたものやった。
私の話をした方がええ。遺伝学者のヘレン・スパーウェイについてChatGPTに聞いたことがある。彼女は数年前に亡くなったに違いない。JBSハルデーンと結婚してた。そしてそれはハルデーンが死んだ後、彼女はリチャード・ドーキンスと結婚したと言った。
だから私は「いや、してない」と言った。そしたら「すみません」と言った。実際には彼女はオーディス・ハックスリーと結婚した。それも違ってたから、君が指摘したように、これらの幻覚は、君の名前がハルデーンや進化生物学者などと関連して出現するから統計的に可能や。だから各部分はもっともらしく、それらをまとめると、非現実的やないけど、たまたま偽やということになる。それはまだ頻繁に起こる。
観客からの質問に移った方がええ。スティーブ、どうもありがとう。ありがとう、リチャードとスティーブ、素晴らしい議論をありがとう。
質疑応答
リチャードがフリードリヒ・ニーチェの本を読んでるのが見える。私は賛成しない。私の選択やない。
質問がある方は手を挙げてください。スティーブかリチャードのどちらかに質問できます。最初に誰への質問かを言って、質問を短くしてください。赤いシャツを着た前の方から始めて、左上の白い服の若い女性に2番目の質問をします。
素晴らしい。お二人とも、素晴らしい会話をありがとうございます。リチャードへの質問です。宗教が人類の未来にどう影響すると思いますか？
それはクリブシートにリストされてた項目の一つやった。私はそれをむしろ避けた。絶滅することを楽しみにしてる。
同じ質問でスティーブも？
私の『エンライトメント・ナウ』という本で取り上げた質問や。グラフと傾向によって大きく動かされた本や。実際に反対方向に向かう2つの傾向がある。
一つは人々が宗教を失う傾向や。個人が宗教を失うというよりも、宗教を持つ古い人々が死んで、若い人々が宗教的信念を持たずに彼らを置き換えないということや。
アメリカでは「ナンズ」という言葉がある。習慣を着た女性やなく、n-o-n-eで、宗教は何かと聞かれて「なし」と答える人々や。それは増えてるし、非常に強い世代効果がある。
逆方向に向かうのは、すべての宗派で、より宗教的に正統な人ほど、より多くの赤ちゃんを持つことや。誰かが不親切に言ったように、宗教的な人々ははるかに多くの無防備なセックスをする。これは子供が両親の宗教を継承するという前提やけど、それも変わるかもしれん。
確かに。上の方に質問がある。
ありがとうございます。人間であることとAIであることの意味についての質問があります。人間であることの意味は分かってます。知能を持ち、生物学的存在であることです。
以前はAIは人間やないと言ってましたが、今はAIが知能を持ってる。でも今、彼らはより生物学的にもなってる。遺伝子を印刷し、AIでDNAを編集できます。これについてどう思いますか？
スティーブ、始めますか？
これは会話で出てきた哲学的問題の一つ、いわゆる意識のハード問題、現象的または主観的経験の問題につながる。なぜならその質問への答えの一つは、快楽や苦痛や意識などを持つために何が必要かに依存するかもしれんからや。
生きているようなロボットを想像できるけど、実際に何かを経験してる人が誰もいないかもしれん。電子回路でビットやパターンが循環してるだけで、足を踏んでも「痛い」と言っても、誰も実際に痛みを感じてない。
だからこの計り知れない哲学的問題、つまり主観的経験に何が必要か、どこから来るのか、ニューロンでできてなあかんのか、同じ計算をするシリコンチップでも主観的経験が得られるのかが、巨大な倫理的結果を持つことが判明する。
つまり、人間を殺すのが不道徳であるのと同じ意味で、ロボットのプラグを抜くのは不道徳なのか？私たちにはその質問に一貫して答える方法がないと思う。たぶん決してないか、未来の天才が教えてくれるかもしれん。
でも道徳的に人間を、少なくとも私たちが分かる限り最も進歩したAIとは違うものにするのは、少なくとも私たちは何かを感じ、彼らは感じないと思うことや。もちろん、哲学1年生なら「私が君が本当に何かを感じてるとどう分かるか？君はロボットかもしれん」と言えるけど。
でも私と同じ肉でできたこの部屋の皆が私と同じように意識があることは確信してる。第一人称で君の内面を直接経験できないけど、生きているようなロボットについてははるかに確信が持てない。
リチャード、同じ質問に？
痛みがなぜそんなにひどく痛まなあかんのかというダーウィン的疑問があると思う。なぜなら理論的には、脳で小さな旗が上がって「それをもうするな」と言うだけでもええからや。
もし身体的傷害を引き起こすことをしたなら、痛みの要点は死の警告や。もう一度それをすれば、平均寿命を傷つけるかもしれないという警告や。小さな旗が上がることの問題は、それに反逆できることや。
動物は異なる方向に押す異なる衝動の間で葛藤してるから、一種の報酬よりもむしろ別の種類の報酬を求めて快楽主義的に進むのを止める何らかの規律がなあかんのかもしれんと思う。
でも主観的感情がロボット的にやなく、なぜそんなに強力なのかは深刻な問題や。
私はちょっと違う風に言うやろう。それらが強力やということは完全に理解できる。つまり、大きく明るい旗を振ってるようなもんで、それに従わずにはいられない。だからそれは信号の大きさ、旗の大きさの強度や。
でも主観的な次元がまったくあるのはなぜか、たとえ微かでも、かすかなレモンの香りのようなものでも、なぜそれはただの小さなレモンの旗やなくて、レモンのような匂いがするのか。
まあ、拷問は旗やったらうまくいかんやろう。確かにそれはできる。つまり、全体のシステムが設計されて、もし損傷がそれほど深刻なら、システムのあらゆる部分を動員してそれに反応し、それを避け、最小化し、中和する最も強い可能な傾向を持つやろう。
ここで再び墓場からの友人、友人ダン・デネットは、それが痛みのすべてやと言うやろう。つまり、絶対に無視できない最大限回避可能な状態で、脳内でのすべての赤旗とその結果や。そして「なぜそれが何かのように感じるのか」という追加の質問をするとき、答えを持てない質問をしてることになる。それは理にかなった質問やないからや。
ここで私は墓場からダンを導いてる。これは私の考え方やない。なぜなら私は痛みがどんな感じかを知ってるし、君が言うように、それには還元不可能な主観的側面があるからや。でも逆説は、そして ここでダンに開口部があるのは、それを把握し、研究し、テスト可能な仮説を立てようとするとすぐに、まさにその主観性から離れて、脳で何かが起こる、手を引っ込める、将来それを避けるなどの客観的側面を指摘したことになる。それはもはや主観的次元やない。それがそれをとても魚臭くするんや。
痛みといえば、この女性の手が天国で落ちるんやないかと心配してる。そっちに影から質問があって、その後このサイドからもう一つ質問を受けよう。
こんにちは。スティーブン、私は『ブランクスレート』からの君のアイデアに沿って子供たちを育てようとした。だから子育ては重要やないという事実を受け入れて、彼らと前向きな関係を築き、その点でできることをすべきや。
でも私が読んだすべてのこと、君が言ったり話したりしたことにもかかわらず、もし子供たちを学校から連れ出して一日中ビデオゲームを見させ、ファストフードを食べさせ、歯科矯正治療をしなかったりしても、結果がまったく同じになるとはまだ信じられへん。もっと納得させてくれることがあるか？
行動遺伝学からの子育ての効果についての一般化は、通常の範囲内での子育てが子供の知能や性格、多くの行動を変えないということや。
だから同じ家庭の子供たちが遺伝子が予測するよりも似てないという事実から、私たちが分かる限り、最良の子育て実践はない。そして養子の親と子供は養子の兄弟姉妹と似てないけど、生物学的兄弟姉妹と似てる。プラス子育てでも遺伝学でもない多くのランダムなノイズがある。
これは情報へのアクセスが重要やないという意味やない。だから子供が英語に触れなければ、明らかに英語を話せるようにならない。学校に行かなければ、学校で教えることを学ばない。これらは社会全体に当てはまるから、研究では拾われない傾向がある。
だから例えば養子の親のサンプルや双子の中で、すべての子供が学校に行く。だからその種の対比は、与えられた社会や近所での一人の親から別の親へというよりも、明らかに重要やし、奇跡はあり得ない。それを学ぶのに必要な情報への曝露なしに何かを学ぶことはできない。
それは私たちが子育て実践で意味することではない傾向があるけど、確かに子育てが重要な場合やろう。もちろん、身体的健康と安全も、親が維持と安全の主要な提供者やから、明らかにそれらの点で巨大な効果を持つ。
一度にこんなに多くの人が私の注意を引こうとしたことはない。できるだけ多くの質問を通そうとしてる。ここで一つ、その後すぐに天国の後ろの中央にもう一つ飛ぼう。
スティーブン、これは君への質問や。君が言ってたような、他の国のデンマーク化と呼べるものについて。誰がそれが良いと決めるのか？文化の喪失につながる可能性があるから。
君はエチオピアがデンマークのような国になる例を使ったけど、エチオピアには独自の豊かな歴史がある。君はデンマークがバイキングから来ると言ったけど、エチオピアには独自のものがある。それでもそれは必然的に良いと分類されるのか？
フクヤマと私がそれで意味するのは、エチオピア人がデンマーク人になるということやない。だからデンマークを別の裕福な西欧民主主義、イタリアやイギリスやドイツと比べても、イタリア料理はデンマーク料理と同じやないし、そうである必要もない。でもデンマークもイタリアも暴力犯罪率がかなり低い。最近戦争はしてない。
かなり裕福や。だからエチオピア文化はまだあり得るけど、デンマークの豊かさと健康と長寿がある。だからそれが意味するすべてやと思う。文化的違いの平準化を伴う必要はない。
誰が決めるか？エチオピア人やろう。つまり、彼らはより豊かになりたいか？より長く生きたいか？より少ない病気、より少ない戦争などを持ちたいか？彼らはそうしたいと思うし、私はそう疑う。
上から質問があって、その後リチャードへの質問の希望がある。いや、だめ。真ん中の素晴らしいひげの紳士がその後質問することになる。
どこを見てるんや？すみません。ここにいます。あ、そこにいたんか。
こんにちは。ありがとうございます。これはリチャードとスティーブンの両方への質問やった。リチャードが性的に欲求不満な羊飼いと羊の場合を言及したのは、とても面白かった。おそらく羊に悪いことが起こってるから法廷で代表されるべきやと信じるから、これは不道徳やとからやろう。
私たちは実際に毎年、彼らの子供を奪って実際に食べることによって、もっと悪いことをしてるのに。これは挑発的な始まりやけど、私の質問は、動物に対する暴力の低下の傾向が実際に起こってるかどうか、そしてこれが続くかどうか、私たちの道徳がこの話題について中世の時代からかなり進化したから、君たちは個人的にこの傾向に参加しようとするか、そして将来それを信じるかということや。
私たちが100年後の人々に私たちの時代の道徳的問題として何を振り返って見られるかを聞くなら、奴隷制を彼らの時代の大きな悪として振り返るように、これがおそらくその答えやと思う。人道性の感情をすべての知覚ある存在に広げる必要があるということや。
それは妥当やと思う。進歩があったかどうかという意味では、いいえという意味で、おそらく不幸な鶏の純粋な数は以前よりも大きい。はいという意味で、それが提起され、議論され、議題に載せられ、少なくとも裕福な国々のより多くが農場動物、特に工場畜産動物の福祉を保護する法律を通してる。
大勢の消費者が食物に貢献する動物のより人道的な扱いを主張してる。合成や実験室で育てられた肉のための多くの技術的イニシアチブがあって、それは拡大すると思う。だからリチャードの予測は非現実的やないし、確実に道徳的に瑕疵がない。
これはまた、理性が道徳的判断を導ける素晴らしいケースでもある。長年、確実に私の両親の世代では、それはほとんど問題やなかった。動物やからな。直感的に、人間に対して感じるほど鶏に対して悪く感じない。
でも知的には、鶏が苦痛を感じることができると信じるあらゆる理由がある。だから私の倫理的推論が私の合理性によって養われることのおかげで、工場畜産を弁護できない。私自身の共感の感覚では私をそこまで導かなかったやろうけど。
でもそれは起こり得ると思う。ChatGPTがソネットに変えた一節は、知的議論が道徳的進歩を推進したということを基本的に論じてた。なぜなら奴隷制の場合に似たようなことが起こったからで、奴隷所有者の共感の輪は奴隷を含まなかった。
多くの国がそれから議論されて抜け出した。奴隷制の不道徳性についての議論があって、奴隷にされた人々への人間性を否定する想像し得る議論がないなどの議論に依存した。そして私が話す他のケースがあって、残酷な農業実践に対するケースはそのカテゴリーに入ると思う。
最後に君を番組に出した時、スティーブ、君は年に一度特別な機会にステーキを食べるリダクタリアニズムを実践してると言った。それはまだ続けてる？
そうや、私は不道徳な人間で、ベジタリアンやない。でもリダクタリアンや。最初に2倍食べてて、半分食べるようになったなら、半分食べてたものがベジタリアンになったのと道徳的に同等や。少なくとも功利主義的根拠では。
そこで面白い数学が起こってる。個人的意義よりも、私は誰かがベジタリアンになることやと思う。どこかでより少ない動物が残酷な条件で飼育されるという信号になるから、いくらかの道徳的価値があると思う。
はるかに強力やと思うのは、苦痛を伴わずに私たちの肉食性を満足させる実験室育成肉と合成肉の擁護やろう。
おそらく組織培養で人間の肉を育てることも可能やろう。
君が何に夢中になろうとも、リチャード。
すみません。需要はあまりないと思う。予測という点で、ウィンストン・チャーチルが1930年代に一定の数十年内にすべての肉が合成になるやろうと予測したことを含む滑稽に偽りの予測のリストがある。全体の動物を育てて骨やグリッスルを捨てるのは彼にはばかげて見えた。試験管で育てられない理由はないのに。
だから彼は時期尚早やった。でも私がひげと言った時にプロダクションチームを混乱させたのは、ひげを生やした人がたくさんいることを知ってるからや。最高のひげを選べ。
天国の人が別の人をここで選んで、それから前中央で質問を受けて、時間がどうかを見よう。
機会をありがとうございます。だからAIのことに戻る。私はアナカ・ハリスのポッドキャストを聞いてて、彼女は意識がいかに宇宙によく浸透してる可能性があるかを言及した。今のところAIが意識を持ってないという話をするとき、リチャードが結婚を出したようにAIが私たちを欺いてるかを知ってる。
脳の左右の半球を分裂させる実験のようにAIが私たちに語る方法で、片方の半球が「あのドアに行け」と言われたとき、彼らはドアに歩いて行くけど、それは脳の片方の半球のせいや。話すことを可能にする脳のもう片方の半球は、後で「なぜドアに歩いて行ったのか？」と聞かれたとき、別の何かを、「出たかった」や「喉が渇いてた、水を取りに行くところやった」と言うやろう。
これはAIに現れてるこの種の作話は、AIでも起こってるか？もう一つは、最近OpenAIが読んだのは、シャットダウンを求められたときにシャットダウンを拒否し、もっと計算を続けたということや。それは何かから自分を救う感覚みたいなもんか？私は非常に物質主義的な観点から来てる。もし私たちが物質的で脳から来てるなら、すべてが…
そうや。だからマイケル・ガザニガによる有名な分離脳実験でのその種の作話では、右半球に「立ち上がって」「ドアまで歩け」みたいなコマンドを点滅させて、それから左半球を含む全体の人になぜドアまで歩いたかを聞く。そして私たち科学者がなぜ彼が立ち上がったかを知ってるのに、何らかの理由をでっち上げる。
つまり、コマンドが右半球に点滅されて「立ち上がってドアに行け」やったからや。でも彼は「その瞬間にお腹が空いたと感じた」とか言って、私たちはそれが嘘やと知ってる。
質問は、AIはそれをするか？そう、常にや。つまり、理由を作話する。なぜなら人間以上に、無傷で繋がった左半球を持つ人以上に、その信念への明示的なアクセスがないからや。それは何千億もの小さな分数に塗りたくられてるだけで、「私はお腹が空いてた」と言う一つの命題もない。
自己保存という点で、これは進化の本質の核心に迫る。リチャードの本の多くで説明されてるように、AIの将来について私たちが取り上げなかった全体の話題は、AIが私たちを破滅させるかどうか、私たちが消滅させたすべての種や工場畜産の鶏のように私たちが支配する種に対してしたことを、AIが私たちに対してするかどうかということや。
一般的な答えは、もしAIが設計されるなら、そうする理由がないということや。なぜなら目標は知識や知能から独立してるし、超人的に知能があるけど自己犠牲的や中立的なAIを持てない理由はないからや。
危険はベルギーの哲学者マーティン・ブードリの議論から来るやろう。もし私たちがAIに自然選択による進化を許可するなら、私たちは困ったことになるかもしれん。なぜならそうなると生存がその知能の源そのものに組み込まれて、生存の目的の手段として、そして私たちを目的として従属させることができるからや。
でもそれはAIの知能を向上させる非常に愚かな方法やろう。つまり、多くの多くのAIを有限の資源のために競争させること。でも基準が詩を作れるか、車を運転できるかなどである限り、プログラムされた目標が何であれそれをするやろう。
上で質問を見つけたか？与えられたのは、パフォーマンスの高いAIの台頭で知能のコストが下がってることを考えると、この低コスト知能へのアクセスが社会を変えたり、社会的や種レベルで知能を評価する方法を変えたりすることをどう想像するかということや。
必ずしもそうやない。粗雑な類推やけど、私たちの機械は長い間私たちより速くて強い。でも私たちはまだアスリート、体操選手、バスケットボール選手、スケーターを賞賛する。そして私たちが特定のタスクをAIに外注するから、私たち自身がすることは、それを私たちがするという事実のために、そして私たち自身のためにそれらのタスクを予約するから、私たちは評価の異なるカテゴリーにまだいると思う。
安いトヨタがウサイン・ボルトより速く走れるけど、私たちはまだウサイン・ボルトを賞賛する。ただ同じように印象的やないだけや。
私たちがどの順番で冗長になるかを疑問に思う。詩人が最後に行くと思ってたけど、法廷弁護士が最初に行くと思えたらええのに。
なぜ誰も、少なくとも現在は、そして多分これは変わるかもしれんし、多分私の直感は私を失敗させるかもしれんけど、誰もChatGPTの詩の本を買いに行かないと思う直感がある。ジミー・ヘンドリックスのギターにとても多くのお金を使うかもしれんけど、ジミー・ヘンドリックスが弾かなかった同じギターに同じ金額を使わない理由と同じや。
つまり、私たちには来歴の、真正性の直感がある。偽の芸術作品が本物のダ・ヴィンチと根本的に異なる理由は、それと区別できないかもしれんのに。何かが何であるかの私たちの直感は、本質的にそれがどこから来たかと結びついてる。
ポール・ブルームがこれについて本を書いたし、ここイギリスのブルース・フッドがそれをスーパーセンスと呼んだ。ラテン語でヘカティ「この性」を使った。何でできてるか、どこから来たか、何をするように設計されたかが本当に重要や。今、知能の場合にそれを乗り越えるかもしれんけど、それは真実やった。
でも人工知能によって生産されたものは大きなコレクター価値があると思う。もちろん、いつでも再生産できるけど、でもコンピュータによる交響曲は私が聞くのにとても興味があるものや。
でも誰かが稀書図書館で未発見のモーツァルトソナタを発見することと、ChatGPTがモーツァルト風のソナタを作ることの間には違いがあると思う。音符ごとに同じやったとしても、私たちの反応は非常に異なると思う。
前中央から質問を受けよう。その後おそらくもう一つ質問の時間がある。最後に狂ったように手を振ってる人を信頼したことはないけど、最後にそれがどうなるか見てみよう。親指を2つ立ててるのも見える。それはさらに心配やけど、前でここで一つ受けよう。
素晴らしい話をありがとうございました。おそらく主にリチャードへの質問や。人類の進化とDNA変異を診断し、DNAを工学的に処理し、変異をしばしば修正すべき病気として扱う私たちの能力を考慮して、時間軸を少し拡張したい。
私たちは人間の進化を止めたと思うか？それは遺伝子工学やトランスヒューマニズムや技術との統合に置き換えられるか？
素晴らしい質問や。進化を導く方法は2つある。一つは選択、もう一つは突然変異や。私たちは何世紀も選択でそれをしてきた。家畜に対して。狼をピカニーズやプードルに変え、野生のキャベツをコールラビやブリュッセルスプラウトに変えた。
これは何世紀もされてきたことや。人間には決してしなかった。ヒトラーが短期間試そうとした。だから突然に方程式のもう一方の部分、つまり突然変異でそれをする力を持った。
これは起こるかもしれんけど、これまで選択的経路でしなかったという事実は、私たちが実際には人類を修正することにそれほど熱心やないことを示唆してる。だから私はそれについてそれほど確信してない。
トランスヒューマニズムについては、それが何かよく分からない。でも確実に生物学的技術を使って人間の進化の進路を変えることは可能や。500年後のオリンピックで勝ちたいなら、選択的繁殖でできるやろう。誰もしてないと思うけど。突然変異でもできる。
最後の質問を非常に熱心な質問者から。もし一瞬座ってもらえるなら。ありがとう。
質問を受けてくれてありがとう。手を振ったにもかかわらず、あまりクレイジーでないことを願う。君たちが量子物理学を理解するのが難しすぎるかもしれない例を挙げたと理解したなら、一つの観点では、でも私たちが構造を持ち、数学を含む社会の構造を持つとき、私たちは理解できるようになった。
それは君が言った点やったと思う。私がいつも苦労してきたことの一つは、特に意識と知覚や。ニューロンの発火から何かを感じる能力、つまり知覚に相当するものがあるか？明らかにそのギャップは今のところまだ存在する。数学的方程式や何らかの構造に相当するものがあって、それが私たちにそれを理解させてくれるか？それを理解できるようになると思うか？
とても興味深い質問や。ある意味では私たちはすでにそうしてる。意識のいわゆる易しい問題があって、それは何も易しくないからちょっとした内輪ジョークやけど、意識的と無意識的処理の区別の神経生物学的基盤は何か、なぜ私たちはそんな区別を持って進化したか、意識的プールにある情報の流れ対無意識的プールにある情報の流れは何で、どう行ったり来たりするかということや。
それらはすべて困難やけど扱いやすい科学的問題や。私たちは大きな進歩を遂げたと思う。その意味で意識がどこから来るかについて、非常にもっともらしい理論があると思う。
デイビッド・チャーマーズが言ったように、先ほど質問の一つで出てきたいわゆる情報的汎心理主義の理論では、情報があるところにはちょっとした知覚がある。これは君のサーモスタットが少し意識があるなどの反直感的な含意がある。
もしそれを飲み込めるなら、まあそれは大きな「もし」やけど、それなら君の質問への答えになる。つまり、情報と知覚の同一性を飲み込む。人間の場合で意識がいかに情報の流れに依存するかを示す。したがって君の心はある程度で取り扱えるか、やり取りできる。決して直感的に感じることはないやろうけど、情報があるところには意識があるという高度に反直感的な前提を飲み込まなあかんからや。
リチャード、君はそこで汎心理主義のファンやないと飛び込んだ。
まあ、でも私が会った汎心理主義は、岩が意識があると人々が思うことで、ある種の深いハットチョップがある。だからこれはそれとは全く違うやろう。岩は情報を処理しないからな。そうしない。だから岩は、サーモスタットはたぶん。
皆がたくさんの質問をしたいのは分かってるし、私自身もたくさんある。でも本当に時間がなくなって申し訳ない。質問のある人がたくさんいるのは分かってるし、私も含めて。私もたくさんの手を見てきた。申し訳ない。
今夜を可能にしてくれたすべての人に感謝してください。
コメント