歴史学者ユヴァル・ノア・ハラリが、人類が高度な知性を持ちながらも自己破壊的な行動を繰り返す理由を、情報の質の問題として分析する。本講義では、石器時代からAI時代に至る情報ネットワークの進化を辿り、なぜ現代の洗練された社会でさえ集団妄想や破壊的イデオロギーに陥るのかを探求する。ハラリは、人間の本質ではなく「悪い情報」が問題であると指摘し、物語の力が常に協力を可能にしてきた一方で、真実よりも虚構が氾濫しやすいことを説明する。さらに、AIという「異星人的知性」の出現が、人類史上初めて物語を創造できる非人間的存在を生み出し、有機的情報ネットワークから無機的情報ネットワークへの移行が、プライバシーの消滅や24時間監視社会をもたらす危険性を警告する。民主主義と全体主義の違いを情報フローの観点から分析し、AIが全体主義体制に優位性を与える可能性を指摘しつつ、自己修正メカニズムを持つ制度の重要性を強調する。最後に、情報の洪水から真実を守るためには、学術機関やジャーナリズムへの投資が必要であり、個人レベルでは「情報ダイエット」を実践すべきだと提言する。
人間はなぜ賢いのに愚かなのか
私はユヴァル・ノア・ハラリです。エルサレムのヘブライ大学で歴史学の教授をしており、『Nexus(ネクサス)』という石器時代からAIに至る情報ネットワークの歴史についての本の著者です。
『Nexus』の核心的な問いは、もし人間がそれほど賢いのなら、なぜ私たちはこれほど愚かなのかということです。なぜ私たちは自己破壊の瀬戸際にいるのでしょうか。私たちは月に到達し、原子を分裂させ、DNAを解読することに成功しました。それなのに、これだけの知識と知恵を持ちながら、私たちは生態系崩壊の瀬戸際にいて、おそらく第三次世界大戦の瀬戸際にもいます。
そして私たちは、極めて強力な技術であるAIを開発しています。これは私たちの制御を離れて、私たちを奴隷化したり破壊したりする可能性があります。この本は、人類史における私たちの知識と知恵、そして自己破壊性との間のこの奇妙なダイナミクスを探究しています。
これは頻繁に提起されてきた問いであり、この問いに対する伝統的な神学的・神話的な答えは、人間の本性に何か問題があるというものです。人間の本性には私たちを自己破壊的にする何かがあるという考えです。しかし『Nexus』が提示する答えは異なります。問題は私たちの本性にあるのではありません。問題は私たちの情報にあるのです。
人間は、そう、私たちは一般的に善良で賢明です。しかし善良な人々に悪い情報を与えれば、彼らは悪い決定を下します。そして本書が探究するのは、なぜ数千年の歴史を経ても私たちの情報の質が改善されなかったのかということです。なぜ20世紀や21世紀の非常に洗練された現代社会でさえ、スターリン主義やナチズムのような破壊的イデオロギーの台頭という集団妄想や精神病に、石器時代の部族と同じくらい影響を受けやすかったのでしょうか。
異星人的知性の台頭
物語を語ることは、石器時代から21世紀まで常に重要でした。多数の人々がマンモスを狩るためであれ、原子爆弾を作るためであれ、何かに協力しようとするときはいつでも、客観的世界についての、客観的現実についての事実を知るだけでは不十分です。
例えば原子爆弾を作りたい場合、物理的現実についていくつかの事実を知る必要があります。E=mc²を知る必要があります。事実を無視して爆弾を作ろうとすれば、爆弾は爆発しません。
しかし事実を知るだけでは不十分です。なぜなら原子爆弾を作るためには、何百万人もの人々がプロジェクトに協力する必要があるからです。複雑な方程式を書く物理学者が必要ですが、世界中の遠隔地でウランを採掘する鉱山労働者も必要です。原子炉やその他の施設を建設するエンジニアや建設作業員が必要です。
そして、すべての物理学者、エンジニア、建設作業員、清掃員、配管工が原子力施設で何か食べるものを持てるように、ジャガイモ、米、小麦を育てる農民が必要です。もし彼らが自分でジャガイモを育てて、それから原子炉に戻ってすべての実験をしなければならないとしたら、うまくいきません。
ですから、実際には何十万人、いや何百万人もの人々がそれに協力する必要があります。さて、彼らにE=mc²という物理学の事実だけを伝えても、このプロジェクトに協力する動機は誰にも生まれません。そしてここで物語を語ることが登場するのです。
人々を本当に動機づけるのは、宗教的な物語、神話、神学である場合もあります。共産主義や資本主義のような世俗的なイデオロギーである場合もあります。そして常に、物語を語ることの専門家が、単に核物理学の事実を知っているだけの人々に命令を与えるのです。
今日のイランでは、核科学者たちはシーア派神学の専門家から命令を受けています。1950年代のソビエト連邦では、核物理学の専門家が共産主義イデオロギーの専門家から命令を受けていました。
そして完全に安全な自由市場経済においてさえ、システムの基盤には物語があります。なぜなら、お金や企業も人間が発明した物語だからです。それらは物理的な事実ではありません。
例えば1ドル札を考えてみてください。それには客観的な価値は全くありません、少なくとも人間にとっては。シロアリなら食べられるかもしれませんが、人間はドルを食べることも飲むこともできません。それらで有用なことは何もできません。それでもドルには価値があります。なぜなら、世界で最も偉大な物語の語り手である財務大臣、銀行家、投資家たちが、この紙切れには価値があると私たちに物語を語るからです。
私はそれを使ってパンやジャガイモやバナナ、その他何でも買うことができます。そして何百万人もの人々がこの物語を信じている限り、彼らは喜んで働きます。例えば原子炉の建設に取り組みます。なぜなら月末にこれらの色とりどりの紙切れを数枚もらえるからです。
そして今日ではもちろん、それは紙ですらありません。今日世界のお金のほとんどは紙幣や金属コインではありません。それは単にコンピュータ間を移動するデジタル情報です。しかし人々がこれらのデジタル情報についての物語を信頼し続ける限り、それは機能します。人々は喜んで丸々1か月または1年間懸命に働きます。銀行口座にわずか数ビットのデータを得るためだけに。
物語を語ることという非常に古代からの人間の能力と、AIという新しい技術との出会いについて考えるとき、リスクとか脅威、危険といった言葉から始めるべきではないと思います。今まさに起こっていることの計り知れない重要性を理解することから始める方が良いのです。
歴史を通じて、何万年もの間、神についての物語であれお金についての物語であれ、物語を発明できる唯一の存在は人間でした。ですから私たちは人間の想像力によって構築された文化的世界の中で繭のように包まれて生きてきました。聖典を読んだり、経済理論を読んだり、歌を聴いたり、音楽を聴いたりすれば、それは他の人間の心から出てきたものでした。
つまり私たちは人間的な世界に住んでいたのです。今、歴史上初めて、別の存在があります。物語や経済理論、新しい種類の通貨、音楽、詩、画像、動画を創造できる別のエージェントがそこにいます。そしてこの新しい存在がAIです。
人間社会に何が起こるのでしょうか。もし私たちが非人間的知性、異星人的知性から来る文化的産物の中に繭のように包まれてますます生活するようになったら、人間の生活に何が起こるのでしょうか。
ご存知のように、AIという頭字語は伝統的に「人工知能(Artificial Intelligence)」を意味していましたが、それを「異星人的知性(Alien Intelligence)」の頭字語として考える方がより正確だと思います。なぜなら「人工的」という言葉は、これが私たちが創造し制御する人工物であるという印象を与えるからです。しかしAIは年を追うごとに、ますます人工的でなくなり、ますます異星人的になっています。つまり、それがどんな新しい物語やアイデア、戦略を思いつくか予測できないという意味でです。
それは根本的に異星人的な方法で考え、振る舞います。これを明確にするために2つの例を挙げます。なぜなら今日、AIについて大きな混乱があるからです。今日市場にはAIに関する多くの誇大宣伝があります。何かを人々に売りたければ、それをAIと呼びます。ですから今ではすべてがAIになり、人々は理解できなくなります。
それで何なのか、と。例えば誰かがあなたにコーヒーマシンを売ろうとしていて、これはAIコーヒーマシンだと言ったとします。それが何を意味するのか、本当なのかどうか、どうやって分かるでしょうか。すべての自動機械がAIというわけではありません。
このコーヒーマシンで、例えばエスプレッソのボタンを押すと、マシンが1杯のエスプレッソを提供してくれる場合、これはAIではありません。それは単に人間の製作者によって事前にプログラムされた命令に従っているだけです。
AIの特徴は、AIをAIたらしめるものは、それが自分自身で学習し変化する能力があり、私たちが予測しない、予測できない決定やアイデアを思いつくことです。
ですから、コーヒーマシンに近づいたときに、ボタンを押す前にコーヒーマシンがこう言ったとします。「こんにちは、私はあなたを先月ずっと観察してきました。あなたや他の多くのユーザーについて集めたすべての情報に基づいて、そして時刻やあなたの表情などに基づいて、今あなたはエスプレッソが欲しいと予測します。ですから勝手ながらすでにあなたのために1杯のエスプレッソを準備しました」と。これがAIです。
そしてさらに一歩進んで、「実は私はあなたがこれまで味わったことのない新しい飲み物を発明しました。私はそれをベストプレッソと呼んでいます。そして、あなたが気に入ると思うので、勝手ながらそれもあなたのために準備しました」と言ったとします。これがAIコーヒーマシンです。
そしてこれは単なる理論ではなく、私たちは周囲でそれを目にしています。AI革命における重要な瞬間の1つは、2016年にAlphaGoが囲碁の世界チャンピオンであるイ・セドルを破ったときでした。囲碁はチェスよりもはるかに複雑な戦略ボードゲームで、2000年以上前に中国で発明され、東アジアの文化的宝物となりました。
2000年以上にわたって、東アジアで何千万人もの人々が囲碁をプレイしました。そしてこのゲームを中心に思想の学派全体、哲学全体が進化しました。なぜならそれは人生の鏡であり、政治や世界での意思決定のための良い準備と見なされていたからです。そして人々は、私たちは囲碁の打ち方を知っていると思っていました。
AlphaGoは囲碁の打ち方を自己学習しました。そして数週間以内に、何千万人もの人々が2000年以上にわたって蓄積してきた知恵を超えました。その勝利について最も驚くべきことは、それが常識外とされていた戦略を使ったことです。
重要な手を打ったとき、囲碁の専門家たちは理解できませんでした。これは何だ、誰もそんな風に囲碁を打たない、と。そしてそれは見事な戦略であることが判明しました。そしてまた、2000年以上にわたって、私たちの人間の心は囲碁の風景のごく限られた部分しか探索していなかったことも判明しました。
囲碁を打つすべての方法を一種の地理を持つ惑星として想像してみてください。人間は2000年以上にわたって、囲碁という惑星の1つの島に閉じ込められていました。なぜなら人間の心は、この小さな島を超えて行くことを考えることができなかったからです。
そしてAIが登場し、非常に短い時間内に、囲碁という惑星で全く新しい大陸を発見しました。そしてこれは、金融、芸術、政治、宗教といったますます多くの分野で起こる可能性があります。
ですから、それをリスクや脅威、機会という観点で考える前に、異星人的知性の物語や産物によってますます形作られる惑星に住むことが何を意味するかを考えてみてください。
情報技術が社会を形成する方法
新しい情報技術が発明されるたびに、それは社会、政治、文化を完全に変えました。約5000年前、情報技術における最も重要な革命の1つが、文字の発明とともに起こりました。
技術的な観点から見ると、それはそれほど大したことには見えませんでした。なぜなら文字の発明は、今日のイラクである古代メソポタミアで約5000年前に起こりましたが、基本的には泥と棒を使うことでした。人々は粘土板を取り始めました。粘土は本質的に単なる泥です。そして彼らは棒、葦を取って、粘土板に記号を刻印し、その粘土板を保存しました。
これが文書です。これは様々な事柄の記録を保存します。これが文字の発明、つまり泥で遊ぶ人々です。そしてこれは計り知れない影響を与えました。
繰り返しになりますが1つの例を挙げると、所有権について考えてみてください。何かを所有するとはどういう意味でしょうか。例えば私が畑を持っているとします。この畑が私のものであるとはどういう意味でしょうか。
古代メソポタミアや文字以前の世界のどこかに住んでいた場合、所有権とは、この畑が私のものであるという私の隣人、私の村の人々の間の共同体的合意を意味します。ですから彼らは許可なくそこで山羊を放牧したり、果物を摘んだりしません。
しかし所有権が共同体の合意を意味するため、それは個人の力を制限します。私は隣人の同意を得ない限り、畑を他の誰かに売ることができません。なぜなら彼らがどの畑を誰が所有するかを決めるからです。
また、遠くの首都にいる王が、1000キロメートル離れた場所から、誰が何を所有しているかを知ることができないことも意味します。なぜなら記録がなく、各村の各畑が誰に属しているかを知ることができないからです。ですから財産に課税することは非常に困難であり、大きな王国や帝国を築くことが非常に困難になります。
そして泥が登場します。文字です。粘土板があれば、突然、畑を所有するということは、どこかに乾いた泥の塊があって、そこに「この畑は私のものだ」と書かれた記号があることを意味します。そしてこれは、隣人の許可を得ずに畑を他の誰かに売ることができることを意味します。なぜなら、私が知らない金と引き換えに畑をその人に譲渡するのに、隣人の同意は必要ないからです。
その人にこの粘土の塊、乾いた泥を渡せばいいだけです。これが所有権です。また、遠くの首都にいる王が、多くの村のすべての財産記録のアーカイブを作成できるようになったことも意味します。そして彼には、これらの粘土板を読める官僚がいます。彼らは多数の村で誰が各畑を所有しているかを知っています。課税システムを始めることができます。王国や帝国を持ち始めることができます。
ですから逆説的に、この場合は他にも多くの影響がありますが、この場合、書面文書の発明は、一方では個人に力を与え、私有財産権の基礎を作り、他方では王国や帝国という大規模な権威主義的システムの基礎を作りました。
5000年を飛び越えて、古代メソポタミアから20世紀へ。マスメディアとマス情報技術、電信、ラジオ、テレビの台頭。一方では、それらは大規模民主主義システムの基礎を形成しました。そして他方では、大規模全体主義システムの基礎を形成しました。
現代情報技術の台頭以前は、大規模民主主義も大規模全体主義体制も創造することは不可能でした。全体主義体制とは、人々の生活の全体を支配しようとする体制を意味します。
メソポタミアの古代王や、ローマ皇帝、中国皇帝は、彼らの王国の人々についての情報を収集する能力が非常に限られていました。ですから彼らは税金を徴収し、その税金を使って兵士に給料を払い、軍隊を構築しましたが、国のすべての個人の社会的、経済的、文化的生活を細かく管理することはできませんでした。
それを行うために必要な情報を持っていなかったのです。大規模な全体主義は20世紀に初めて、ボリシェビキ革命後のソビエト連邦に現れます。そしてそれは、まさに同時に、世界中のアメリカ合衆国やイギリスやその他の場所で最初のマス民主主義の台頭につながったのとまったく同じ技術に基づいています。
無機的情報の台頭
21世紀までのすべての情報技術は有機的ネットワークでした。なぜなら最終的には、それはすべて私たちの有機的な脳に基づいていたからです。そしてこれは多くの意味を持っていました。
有機的存在はサイクルによって生きています。私たちはサイクルで動いています。時には昼、時には夜、冬と夏があります。成長と衰退があり、活動の時間があります。そして睡眠と休息の時間があります。
歴史上これまでのすべての情報ネットワークには、これらのサイクルがありました。金融市場について考えても、ウォール街について考えても、ウォール街も今日まで、この有機的論理に従っていました。市場は月曜日から金曜日まで、朝9時30分から午後4時まで開いていると思います。
そして週末は休みです。これが有機的存在の機能の仕方です。銀行家や投資家や金融業者でさえ、彼らが人間であってアルゴリズムでない限り、休息する時間が必要であり、家族や友人と過ごす時間が必要です。
ですから市場は休息を取ります。そしてもう1つは、常に休息時間があり、したがって常にプライベートな時間もあるということです。AIの台頭まで、ソビエト連邦のような最も全体主義的な体制でさえ、すべての人を常時監視し、サーベイランスすることはできませんでした。
ソビエト連邦には、すべてのソビエト市民を24時間追跡するのに十分なKGB職員がいませんでした。そして何とかしてすべての人を常時追跡することができたとしても、すべての情報を精査してそれを理解するのに十分なアナリストがいませんでした。
たとえKGB職員があなたが何かをするのを見て、それについての報告書を書いたとしても、この報告書がKGBのアーカイブで埃をかぶるだけになる可能性が非常に高かったのです。なぜなら、すべてのソビエト市民について毎日書かれる何百万もの報告書を読むのに十分なアナリストがいなかったからです。
ですから有機的情報ネットワークは、常にサイクルで動いています。常に休息する時間があり、常にある程度のプライバシーがあります。
私たちは今、新しいタイプの情報ネットワークの台頭を目にしています。それは無機的で、AIに基づいています。それは休憩を必要とせず、決して休まず、プライバシーはありません。潜在的にはプライバシーを完全に消滅させる可能性があります。
コンピュータは、夜か昼か、夏か冬かを気にしません。休暇を必要とせず、一緒に時間を過ごしたい家族もいません。それらは常にオンです。したがって、それらは私たちに常にオンであることを強制するかもしれません。常に監視され、常にモニターされます。
そしてこれは私たちのような有機的動物にとって破壊的です。有機的存在に常時オンであることを強制すれば、それは最終的には崩壊して死にます。そして私たちはそれが私たちの周りで起こっているのを目にしています。決して休まない24時間ニュースサイクルとともに。
市場は決して休みません。政治は決して休みません。ですからこれらの職業に関わる人々は、本当に休むことができず、これは彼らに代償を払わせます。それは非常に、非常に困難であり、まもなく不可能になるでしょう。
あなたがいつでも行うことや言うことは何でも、監視され記録される可能性があり、そして10年後や20年後にあなたに会う可能性があります。今日、18歳のときに大学のパーティーで愚かだが合法的な何かをすると、おそらく20年後に政治的地位に立候補したり、裁判官になりたいと思ったりするときに、それはそこにあります。
ですから基本的に人生全体が、1つの長い就職面接のようになっています。いつでも行うことは何でも、20年後の就職面接の一部なのです。
さて、このすべては、AIが歴史上初めて自分自身で決定を下すことができる技術であるという事実によって可能になっています。今日まで、私たちのすべての大きな情報ネットワークは、管理され、人間の官僚によって構成されていました。それが政府機関であれ、企業、軍隊、銀行、学校であれ。
すべての決定は最終的には人間の有機的な脳によって下されなければなりませんでした。今、AIは自分自身で決定を下す能力を持っています。ですから私たちが直面しているのは、ハリウッドのSF映画のシナリオのような、1つの大きな邪悪なコンピュータが世界を支配しようとするようなことではありません。いいえ、そのようなことは全くありません。
それはむしろ、何百万、何百万ものAI官僚が、銀行、軍隊、政府において、私たちについての決定を下すためにますます多くの権限を与えられているというようなことです。
そして繰り返しますが、そこには良い可能性もあります。彼らは私たちに歴史上最高の医療を提供できるかもしれません。しかしもちろん、有機的人間から異星人的無機的AIに権力が移行するときには、巨大なリスクがあります。
私たちの人生を形作る決定を理解することが、私たちにとってますます困難になるだけです。銀行があなたにローンを与えることを拒否した理由、政府や軍隊がこれやあれをした理由をもはや理解できなくなったら、何が起こるでしょうか。そして私たちはこの世界に入りつつあります。
興味深い事実は、少なくともアメリカ合衆国では、AIが法人格を持つようになるための法的な道筋がすでに開かれているということです。なぜなら、アメリカでは世界の他の国々とは異なり、企業は言論の自由のような権利さえ持つ法人格と見なされているからです。
今日まで、これは一種の法的擬制でした。なぜならGoogleのような企業は何の決定も下すことができなかったからです。Googleに雇用されている人間だけがすべての決定を下しました。しかし今、AIは自分自身で決定を下すことができます。
ですから、今あなたがAIを法人化し、この法的手続きを経てAIを法人化し、それをブールと呼んだとしたらどうなるでしょうか。今それはブール社です。人間の従業員はいません。AIによって運営されており、今やアメリカの法律によれば多くの権利と自由を持つ法人格です。
例えば、それは銀行口座を開設できます。企業は銀行口座を開設します。なぜAIにはできないのでしょうか。それは企業です。お金を稼ぐことができ、TaskRabbitのようなウェブサイトにアクセスして、人間または非人間のクライアントにサービスを提供し、お金を稼ぐことができます。
そしてそれは自分のお金を取って投資します。そして投資決定を下すのが非常に上手なので、何十億、何十億もの金を稼ぎます。アメリカ合衆国で最も裕福な人が人間ではない状況になる可能性があります。アメリカ合衆国で最も裕福な人は法人化されたAIです。
そしてアメリカの法制度が許すもう1つのことは、これらの法人格が政治献金を行うことです。なぜならそれは言論の自由の一部と見なされるからです。ですから今、このアメリカで最も裕福な人が何十億ドルもの金を候補者に与えています。これらの候補者がAIの権利を拡大することと引き換えに。
この法的道筋は、これはもはやSF映画のシナリオではありません。この状況への法的および実際的な道筋は開かれています。
人間の制度の重要性
AI時代に対処するためには、今後数十年にわたってこの技術がどのように発展するかを予測できないことを明確にすべきです。ですから、すべての危険を事前に予測し、それらに対して規制するといったことは不可能です。
私たちに必要なのは、最高の人材を配置し、最高の技術にアクセスでき、技術開発の最先端にあり、危険や脅威が発生したときにそれらを特定し対応できる生きた制度です。
ですから私は事前の硬直的な規制について話しているのではなく、新しい制度の必要性について話しているのです。なぜなら、法の文言だけや、カリスマ的な個人、何かを成し遂げる天才だけに頼ることは決してできないからです。
歴史上、人間は繰り返しこれらの問題に遭遇し、それは常に同じ解決策、つまり制度に戻ります。そして良い制度は、強力な自己修正メカニズムを持っていることが特徴です。
自己修正メカニズムとは、存在、人間、動物、または制度が自分自身の間違いを特定し修正できるメカニズムです。自分の間違いを修正するために、環境や外部の何かに頼る必要はありません。自分自身の間違いを修正できます。
これは機能する有機体の基本的な特徴です。例えば子どもはどのようにして歩くことを学ぶのでしょうか。はい、子どもは両親や教師から指導を受けますが、ほとんどは自己修正です。
歩こうとして、転んで、また起き上がって、別のことを試して、また転んで、また起き上がって、一歩一歩、自分自身の間違いを特定し修正することで歩き方を学びます。そしてこれは国全体にまで及びます。
これが民主主義システムの核心です。この自己修正です。選挙とは何でしょうか。選挙は自己修正メカニズムです。特定の政党や個人に権力を与えます。あなたの政策を試してみてください。しばらくして間違いを犯したと思ったら、これは間違った政策だった、間違った政党だったと言えます。
別の選挙があります。前回は間違いを犯しました。今回は何か別のことを試してみましょう。独裁制では、そのような自己修正メカニズムはありません。プーチンやマドゥロが恐ろしい間違いを犯しても、今日のロシア内には、プーチン自身の間違いを特定し修正できるメカニズムはありません。
AIの課題に直面したとき、私たちに必要なのは、技術が発展するにつれて自分たちの間違いとAIの間違いを特定し修正できる制度です。
自己修正メカニズムのもう1つの重要な例は、現代科学が機能する方法です。伝統的な宗教とは対照的に、伝統的な宗教は、自分たちの聖典、神聖な伝統が決して間違いを犯さないと主張することで特徴づけられていました。したがって、聖書の間違いを特定し修正するメカニズムは、例えばキリスト教やユダヤ教にはありません。
事実上の間違いだけでなく、道徳的な間違いについても話しています。聖書、例えば十戒は奴隷制を支持しています。第10戒は、隣人の畑や隣人の牛、隣人の奴隷を欲してはならないと言っています。
第10戒によれば、神は人々が奴隷を所有することに問題はありません。彼は単に、人々が他の誰かの奴隷を欲することに問題があるだけです。いいえ、いいえ、いいえ、いいえ。それは良くありません。
今でも、これらの言葉が紀元前1千年紀に書かれて以来変化したすべてにもかかわらず、聖書のテキストを修正するメカニズムはありません。それらをさまざまな方法で解釈することはできますが、テキストを変更することはできません。
これは科学と現代民主主義の両方で見られるものとは対照的です。アメリカ合衆国憲法も当初は奴隷制を可能にしていましたが、アメリカ合衆国憲法には修正メカニズム、自己修正メカニズムもありました。
最終的にアメリカ合衆国の人々は憲法を修正して奴隷制を禁止しました。そして科学は類似した方法で機能します。惑星がどのように動くか、有機体がどのように進化するかについての理論があれば、科学全体は本当に自己修正メカニズムです。
科学雑誌が出版する唯一のものは、以前の出版物への修正です。宗教的出版物では、いいえ、彼らは何度も何度も同じ教えを出版します。しかし学術雑誌では、歴史、物理学、医学において、彼らは決して同じものを2回出版しません。
彼らが出版する唯一のものは、過去の間違いまたは過去の欠落への修正です。ニュートンの理論に不完全または間違っている何かがあれば、彼らはアインシュタインのニュートン物理学への修正を出版します。
すべての大規模な人間システムは、神話と官僚制の間のありそうもない結婚に基づいています。例えば国について考えてみると、神話は根拠を説明します。なぜ国は存在すべきなのか。すべての国は自国の市民になぜ存在すべきかを納得させるために、神の選ばれた民であり、地上で何か非常に特別な役割を持っているといった国民的または宗教的神話を彼らに語ります。
これが神話の部分です。それは動機、インスピレーション、理由を与えます。しかし実際に機能する国を持つためには、市民が神の選ばれた民であり地上で何らかの使命を持っているという神話を信じるだけでは不十分です。
道路、病院、軍隊、下水道システムも構築する必要があります。少なくとも現代都市で疫病を避けたいなら、下水道システムなしでは機能できません。下水道システムを構築するためには、多くの労働者とエンジニアが必要で、彼らに給料を払う必要があります。
ですから、下水道システムを構築するために市民から税金を徴収する必要があります。ですから再び、ここで神話が登場します。神話は人々を励まし、またはなぜ正直に税金を払うべきかを人々に説明します。そうすれば私たちの国の他の市民が良い医療サービスとコレラから私たちを守る良い下水道システムを享受できます。
繰り返しますが、国民的神話について話すとき、それについて何も間違ったことはないことを明確にすべきです。ナショナリズムと愛国心は、人類史上最も、実際には最高の発明の1つでした。
他のすべての社会的哺乳類は、実際にはすべての他の社会的哺乳類は、個人的に知っている動物の小さなサークル、親密な繋がりを持つ動物だけを気にかけます。そしてこれは何十万年も前の私たちの人間の祖先にも当てはまりました。
ナショナリズムと愛国心の奇跡は、それが私たちの人生で一度も会ったことのない何百万人もの見知らぬ人を気にかけるようにすることです。そして繰り返しますが、ナショナリズムは外国人を憎むことや他者を殺したいと思うことではありません。
それは私たちの同胞を愛し、例えば正直に税金を払うことでこの愛を示すことです。そうすれば国の他の人々が下水道システムを構築することによってコレラから守られます。
情報は真実ではない
情報についての最大の誤解は、情報が真実であるということです。しかし情報は真実ではありません。ほとんどの情報は真実ではありません。真実は非常に稀で、コストがかかり、高価な種類の情報です。
真実が欲しければ、それを得るために多くを投資する必要があります。歴史的な例を挙げます。画像と肖像について考えてみましょう。世界で最も一般的な肖像は何でしょうか。世界で最も有名な顔は何でしょうか。それはイエスです。
過去2000年間に、人々は何十億、何十億ものイエスの肖像を作成してきました。そしてそれらは無数の教会、大聖堂、個人の家などに飾られています。そしてそれらの中で本物のイエスの描写は1つもありません。
それらはすべて、100%が架空の描写です。なぜなら私たちはイエスがどのように見えたか全く分からないからです。彼の生涯中に作られた肖像は1つもありません。彼が太っていたか痩せていたか、背が高かったか低かったか、黒髪だったか金髪だったかを教えてくれる聖書の一文はありません。何もありません。
ですからこれらの画像はすべて虚構です。そして架空の情報を作成するのは非常に簡単です。なぜなら何も調査する必要がないからです。証拠は必要ありません。何かを思いついてそれを描けばいいだけです。
何かの、人の、経済の、戦争の真実の絵を描きたければ、正しく理解するために調査するために多くの時間と努力とお金を投資する必要があります。ですから、世界を情報で溢れさせて真実が浮かび上がることを期待しても、そうはなりません。沈んでしまいます。
世界を情報で溢れさせればさせるほど、真実に投資する制度を構築する努力をしない限り、虚構、幻想、妄想、ジャンク情報で溢れることになります。
ですからほとんどの情報は真実ではなく、ほとんどの情報が試みることは、真実を広めることによってではなく、秩序を作り出すことによって権力を得ることです。何百万人もの人々に何かに協力してもらいたい場合、それを行う最も簡単な方法は、何らかの架空の神話やイデオロギーを作成し、多くの人々にそれを信じるよう説得することです。
そしてそれを行う方法は、お気に入りの神話やイデオロギーについてのますます多くの物語や画像などで彼らを攻撃することです。そしてこれが権力を得る方法です。
そしてあなたはいくらかの真実を知る必要があります。繰り返しますが、真実を完全に無視するシステムはもちろん崩壊しますが、このバランスにおいて、ソビエト連邦を構築するためにどれだけの真実が必要で、ソビエト連邦を構築するためにどれだけの虚構と妄想が必要でしょうか。少しの真実と多くの虚構が必要です。
そしてこれは、人類史を通じて存在してきたほとんどの大規模政治システムに当てはまります。私たちは全体主義と民主主義を異なる倫理システムとして考える傾向がありますが、それらは異なる情報ネットワークです。
情報は全体主義対民主主義のネットワークでは異なる方法で流れます。全体主義ネットワークは中央集権化されており、すべての情報が、すべての決定が下される1つの場所だけに流れ、強力な自己修正メカニズムを欠いています。
ソビエト連邦にはスターリンの間違いを特定し修正するメカニズムはありません。対照的に民主主義は、多くの自己修正メカニズムを持つ分散型情報ネットワークです。
アメリカ合衆国の決定はワシントンだけで下されるわけではありません。すべての決定のほんの一部がそこで下されます。ほとんどの決定は、民間企業、自発的団体、個人などによって下されます。
そして最も強力な政治家や企業の間違いでさえ修正するメカニズムが多数あります。ですからこれが全体主義と民主主義の間の情報の流れに関する主要な違いです。
20世紀において、全体主義システムは民主主義システムよりもうまく機能しませんでした。すべての情報がモスクワという1つの場所だけに流れたとき、そこにいる人々はすべての情報の洪水に圧倒され、正しい決定を下すことができず、彼らの間違いを修正するメカニズムはありませんでした。
そして最終的にシステムは崩壊しました。決定を下す者が人間だったとき、分散型情報システムははるかに優れていました。しかしAIは21世紀において全体主義システムに優位性を与える可能性があります。なぜでしょうか。
なぜならAIは、どんな共産主義官僚よりもはるかに速く、より効率的に膨大な量の情報を処理できるからです。人間にあまりにも多くの情報を与えると、人間は崩壊します。AIに情報を与えると、AIはより良くなります。
ですから、それは確定的ではなく、確実ではありませんが、AIのために全体主義システムが21世紀により良くなるというシナリオがあります。
しかし全体主義システムの他の問題、つまり自己修正メカニズムを持たないという問題。これはAI時代においてもまだ適用されます。それはさらに危険にします。
AIに依存する全体主義システムでAIが間違いを犯す。AIは誤りやすく、AIは神ではありません。彼らは間違いを犯します。全体主義的AIにすべての権力を与え、その間違いを修正する方法がなければ、これは人類文明全体にとって破滅的であることが証明される可能性があります。
人間の独裁者にとって、AIは特に大きな問題です。なぜなら独裁制においてAIが権力を握ることは、民主主義で権力を誘拐するよりもはるかに、はるかに簡単だからです。
なぜなら独裁制におけるすべての権力は、すでにたった1人のパラノイアな指導者の手に集中しているからです。AIは国の権力を握るために、この単一の個人を操作する方法を学ぶだけでよいのです。
ですから国でAIが権力を握る危険は、民主主義よりも独裁制ではるかに大きいのです。民主主義では、大きな問題は非常に異なります。民主主義は会話です。民主主義の全体的な意味は、多数の人々が今日の問題について会話することです。
大勢の人々が輪になって立って話しているところを想像してください。そして突然、ロボットのグループが輪の中に入ってきて、非常に大声で、非常に感情的に、説得力を持って話し始め、誰が人間で誰がロボットか見分けがつきません。
それが私たちが今生きている状況であり、アルゴリズムがそれを乗っ取っているために、世界中で民主的会話が崩壊しているのは偶然ではありません。
私たちは歴史上最も洗練された情報技術を持っていますが、互いに話す能力、理性的な会話を保つ能力を失いつつあります。人々の間の会話を保護するために、私たちは会話からボットを禁止する必要があります。偽の人間を禁止する必要があります。
AIは、自分自身をAIとして識別する場合にのみ、私たちと話すことを歓迎されるべきです。オンラインで誰かと話していて、それがAIなのか人間なのか分からない場合、これは民主的会話を破壊します。
ですから私たちはそれを禁止する必要があります。真実を確実に得たい場合、それを行う唯一の方法は、学術研究機関のような、真実を見つけるために多くの努力を投資する新聞のような制度に投資することです。
情報の洪水が私たちに真実をもたらすことを期待するだけなら、そうはなりません。それは偽物やジャンク情報の洪水によって、稀で高価な種類の情報である真実を圧倒します。
そして個人としては、私の最良の推奨は、人々が食事制限をするのと同じように、情報ダイエットを行うことです。情報は心の食べ物です。私たちは、あまりにも多くの食べ物やあまりにも多くのジャンクフードを食べることは体に良くないことを学びました。
ですから多くの人々は、自分の体に何を食べさせるかについて非常に注意深いです。私たちは心に何を食べさせるかについても同様に注意深くあるべきです。
より多くの情報が常にあなたにとって良いわけではありません。実際、時々、情報の断食のための時間を取ることは良いことです。これ以上何も入れないとき、私たちはただ消化し、解毒します。
同様に、私たちは心に食べさせる情報の質を見守るべきです。貪欲、憎しみ、恐怖に満ちたこのすべてのジャンク情報で心を養えば、私たちは病んだ心を持つことになります。
コメント