本動画は、AGI(汎用人工知能)の到来がエリート層の役割をどのように根本的に変容させるかを論じている。現代のエリートは知性や戦略的能力によって複雑性を管理することで価値を生み出しているが、超知能が安価かつ豊富に利用可能になれば、この優位性は消失する。代わりに重要になるのは、ビジョンを提示し、人々の支持を集め、そして何よりも決定に対する責任と道徳的権威を担う能力である。動画では、アイルランドの市民議会などの実例を引きながら、AGIが支援する無作為に選ばれた市民による意思決定モデルを提案し、未来のエリートは「能力の仲介者」から「責任の保持者」へと転換すると結論づけている。
エリートの役割と現代における機能
最近ずっと考えていることがあります。それは、エリートの未来的な役割とは何かということです。インターネットでこの質問をしたところ、圧倒的多数の人々が「そもそも今日におけるエリートの意義が理解できない」と答えました。ですから、未来におけるエリートの意義を語る前に、まず彼らが今日どのような機能を果たしているのかを明確にする必要があります。その最たるものは、複雑性の管理です。
私が研究の中で出会った最良のエリートの定義は、これはポスト労働経済にとって重要な問題なのですが、誰か、というよりも、極めて大きなアジェンダ設定力を持つ少数階級の人々、あるいは少数グループの人々のことです。これはやや一般的で抽象的な表現ですね。極めて大きなアジェンダ設定力というのは、政治的影響力、知的影響力、財政的影響力など、社会が何をするかを変える能力を持つ人々のグループを意味します。
政治家はエリートの一形態です。億万長者もエリートの一形態です。そして多くの認知的注目を集める人々もエリートの一形態なのです。ミスター・ビーストは注目エリートです。それから他の大物インフルエンサー、例えばアンドリュー・テイトなども、これはエリート主義の一形態なのです。
彼らが何をしたのかと問えば、現代において最も重要なものの一つは戦略的能力です。歴史を通じて、異なる種類のエリートが存在してきました。昔々、戦士エリートがいました。特定の人々の集団を保護するために軍事力や暴力を提供できる人物、つまり封建領主のような存在や、さらに昔の戦争族長たちです。これがエリートの一形態でした。そして旧石器時代には、現実とより調和している人々が別のエリート形態でした。彼らは天候を理解していました。植物や動物が何を必要としているかを理解していたのです。
現代に目を向けると、主要なものの一つは知性の裁定取引です。知性の裁定取引とは、基本的に「私は平均より賢いので、人々は私の言うことを聞き、私は物事を実現させることができる」ということです。
イーロン・マスクはこの典型例です。彼は平均より賢いのです。そして他のすべてのテック億万長者と同様、非常に冷酷でもあります。知性の圧縮と戦略の圧縮によって、彼らは社会の問題を解決することができます。社会の問題を解決すると言うとき、アマゾンが解決した主要な問題は、より速くものを届けることでした。これがジェフ・ベゾスが自分の知性をレントシーキング行動に転換できた方法です。彼が求めているレントとは、「私は誰よりも速く安くものを届けられる。だから私はそれで大金を稼ぐ」ということです。イーロン・マスクは「宇宙にものを運ぶのをより安くできる」と気づいたので、それで大金を稼ぐことにしたわけです。
しかし、重要なアイデアは、ポストAGI世界では、高度な戦略と物流が商品化されるということです。超知能は安価で豊富、そしてオンデマンドになります。つまり、ジェフ・ベゾスやマーク・ザッカーバーグ、イーロン・マスクを裕福にしたまさにその同じものが、もはや差別化要因ではなくなるのです。
知性の商品化と能力の市場価値
私たちは反転点に近づいています。インターネット全体がOpenClawのようなものに熱狂し、誰かが書いた「大きなことが起きている」という記事に注目している中で、ほとんどの人が気づいていないことがあります。もし彼らが自分の知性を活用し、戦略を圧縮し、能力を使うことで裕福になったのだとしたら、一言で表すなら能力、能力の市場価値は崖から落ちるように下落するでしょう。なぜなら、すべての人が間もなく、あらゆる億万長者、あらゆる博士号研究者、あらゆるノーベル賞受賞者を合わせたよりも賢い、自分専用のエージェント型チーフオブスタッフを持つことになるからです。
そうなると重要になるのは、説明責任と法的責任だけです。少なくとも実際に経済に提供しているものという観点では。基本的に、あなたは道徳的なクランプルゾーンになるのです。「あなたは悪いことをした。私たちはあなたを好きではない」というように。
別の次元もあります。これについてはこの動画では詳しく扱いませんが、私はそれをビジョン、価値観、評判の次元と呼んでいます。まあ、結局、簡単に触れることにします。
寡頭制の鉄則を打ち破る
とにかく、先に進みましょう。寡頭制の鉄則を打ち破ることについてです。ロバート・ミシェルの鉄則は、組織には委任が必要であり、それは必然的に寡頭制につながると述べています。無限のエージェント的帯域幅がこれを打ち破ります。私たちは、代議制民主主義の低帯域幅から、無限帯域幅の直接的なハイパー交渉へと移行するのです。
現在、世界全体が機能している方法は、大勢のユーザーや市民や有権者や顧客がいて、彼らは全員情報を代表者に送り上げています。基本的に、OpenAIやツイッターやテスラなどに不満があるとき、彼らは一つの会社であり、プロダクトマネージャーやプロジェクトマネージャーがいて、これらすべての好みを集約してより良い製品やより良い決定を下そうとしています。
議会の代表者も同じです。上院の上院議員も同じです。これが能力の裁定取引なのです。何百人、何千人、時には何百万人もの人々のニーズと好みを集約し、それを法律であれ製品であれ決定であれ、一つの具体的な成果物にまとめようとする試みです。
しかし、私たちが向かっているもの、そしてこれはMolt Bookが象徴するものに触発されていますが、Molt Bookはもちろん非常に初期の例ですが、もしあなたの代わりに何十、何百、何千もの超知能エージェントが、あなたが気にかけるすべてのこと、必要とし望むすべてのことについて、世界中の他のすべてのエージェントと議論し、主張してくれるなら、帯域幅はもはやボトルネックではなくなります。
エージェント同士の直接交渉
これは大規模に並列であるだけでなく、それぞれがあなたより賢いのです。そしてエージェント対エージェントの直接的なマイクロ交渉が、意思決定とフィードバックを得るデフォルトの方法になります。それが起これば、今日のエリートの価値、能力の集約者、つまり戦略的な何か、能力がどのような形であれ、それが生の知性であれ、戦略的無能、いえ、戦略的無能は政府のことですが、戦略的能力や技術的能力、それが何であれ、それは消えていくのです。
そうなると、どうやって意思決定をするのか、市場はどう機能するのか、民主主義はどう機能するのか。エリートが提供する裁定取引全体が消えてしまうのです。
私たちはマネージャーからビジョナリーへと移行します。これが私のビジョン、価値観、評判のフレームワークが登場するところですが、スライドデッキには含まれませんでした。
ビジョンと価値観の重要性
基本的に、新しいエリートとは、「火星に行こう」と言える人のことです。つまり好みの連合構築者です。実行方法がコストレスになるか、あるいは平等になるとき、平等というのは誰もが同じ実行能力を持つということですが、価値は完全に「何を」、つまりビジョンと、「なぜ」、つまり価値観へとシフトします。
これがビジョンと価値観です。権力はマネージャー、つまり裁定最適化者から、提案者、最も人々を鼓舞する人々へと移ります。これらは好みの連合構築者であり、人口の51%に「火星に行こう」と言わせることができる人々です。
これがイーロン・マスクが明示的に理解したか、直感的に理解したかのどちらかの主要なことの一つであり、それが彼がツイッターを買収した理由です。これが注目エリートなのです。私たちはより技術的なエリートから、バイブベースのエリート主義へと移行しているのです。
カリスマ的エリート、構造的支配なしの影響力。十分な数の人々をあなたのビジョンを信じるように動員できれば、物事を実現させることができます。特にポストAGI未来やポストASI未来においては。
すべてが「知性はボトルネックではない、人間の労働はボトルネックではない」という状況に帰結すると、それは好みになります。人類の好みとは何か。それが最も希少な資源になります。人類はその注意をどこに向けたいのか。
もちろん、80億人の個々のエージェントがそれぞれ異なる欲望を持ち、惑星全体で取り組むべき多くの異なるプロジェクトにわたってそれを裁定できるとき、多くの多くのビジョナリーが「私はここでポスト労働経済に取り組んでいる」と言い、別の誰かは「がん研究に取り組んでいる」と言えるようになります。認知の超豊富が実現します。だから「私はそれをその方向に向ける」となるのです。
完全に透明に言えば、これは私自身も偶然見出したものです。なぜなら私の全権限は、あなたから、私のPatreonサポーターから、Substackサブスクライバーから、ツイッターサブスクライバーから来ているからです。あなた方全員が「Dave、私はあなたに力を与えたい。なぜならあなたは私が気にかける問題を解決しているから」と言ってくれています。ですから私は、これの非常に初期バージョンなのです。これは注目経済を超えています。これは人類の好み経済です。これはビジョン経済なのです。
フラット階層が機能しない理由
次は重力の持続性です。なぜフラットは機能しないのか。フラットな階層をやればいいじゃないかと思うかもしれません。問題は、私がこれについて調査したところ、人々がフラット階層の実験をするたびに、暗黙の階層が生まれ、それがしばしばさらに悪いものになるということです。
構造的エリートがない場合でもフラットは機能しないのです。この場合、構造的エリートとは、地位が明示的なもの、つまり億万長者であるとか、上院議員であるとか、知事であるとか、何であれ明示的なものを指します。階層が読み取り可能でない場合、読み取り可能でない階層がやはり生まれ、それは間違いなく最悪です。
優先的結合とスケールフリーネットワークにより、ネットワークハブが出現します。新しいノードは既存のハブに接続し、トラフィックの大部分を処理するスーパーノードを作り出します。これがリキッドデモクラシーがうまく機能しない理由です。リキッドデモクラシーのシミュレーションや実験では、もしご存じなければ、基本的に直接民主主義のことですが、投票すべき事項が多すぎるため、自分が気にかける部分を委任します。例えば「AIポリシーについてのすべての投票をDaveに委任する」と言うとします。素晴らしい。でもそれは、私があなたの代わりに投票することを意味し、私は25万人分の投票をすることになるかもしれません。これは非常に極端な影響力です。
もちろん、あなたは「その投票を取り戻して別の誰かに与える」と言うかもしれません。でも私が完全には理解していないAIの部分があり、私はAI安全性やビジネスポリシーやその他の事柄について、私の見解を他の人々に委任することになります。どうなると思いますか。この栄養段階層が生まれるのです。
高校の生物学、生態学101を思い出してください。栄養段階層があります。底辺には独立栄養生物、つまり植物があり、次に草食動物、そして捕食者、そして頂点捕食者がいます。私たちが実験を試み、「完全にフラットな階層を作り、それを拡大しよう」と言うたびに、やはり頂点捕食者が生まれます。他の誰よりも多くの好みを集約する人々です。
有機的な階層の形成
これが私がイーロン・マスクやミスター・ビーストのような例を挙げる理由です。彼らはこの有機的なフラット階層の例だからです。技術的にはYouTubeでは誰もが平等であり、ツイッターでも誰もが平等です。まあ、イーロン・マスクは実際にアルゴリズムを自分に有利に修正していますが。だから彼は他の人より平等なのです。元のローマ皇帝たちのようなものです。彼らは自分たちを皇帝とは呼びませんでした。「私はただの第一市民だ。平等な者の中の最初の者だ」と。ええ、そうですか。実際にはそんな風には機能しません。
スケールフリーネットワークは現実では常にスーパーノードの周りにクラスター化されます。だからエリートを廃止したいと思っても、それは本当にうまくいかないのです。彼らは自然に形成されます。それが人間の本性なのです。
コメントで多くの人がこれを指摘していて、実際これが私の考えを変え始めた大きな理由の一つです。「エリートは存在すべきでないと思っても、人間の本性に基づいて彼らを排除することはできないんだ」と。
ある時点の未来では、何十億何十億ものロボットがいて、何百万もの超知能エージェントがいて、ダイソン球を建設できるようになっても、あなた方の何人かはまだこう言うでしょう。「あの人間のビジョンが好きだ。その特定の人間が私の代わりに物事をするのに力を与えたい。なぜなら、その人が責任者であることを知ると気分が良いから」と。
エリートは常に形成されます。これが私が行ってきた研究から得た最も興味深いことの一つです。クジラ問題です。DAOs(分散型自律組織)のようなもので解決しようとしても、常にべき乗則が存在します。
完全な平等は誰もが等しい権力を持つことを意味しますが、私たちが作り出すすべての技術的例において、常に極端な権力を持つ人々が出現します。ソウルバウンドトークンを使っても、うまくいかないのです。
構造のない状態の専制
構造のない状態の専制について、実際には有権者は合理的無知に屈します。彼らは精神的エネルギーを節約するためにスーパー有権者に自動委任します。非公式なエリートが出現し、彼らの権力は見えないため、選出された公職者よりも説明責任が低いのです。
これは超知能AIエージェントがあなたの代わりに投票していて、委任しないなら違うだろうと言うかもしれません。でもあなたはまだ誰かに委任しています。なぜなら世界は大きすぎて複雑すぎるからです。あなたはAIエージェントに委任しているのです。理論的にはあなたの最善の利益と好みを他の全員に代表してくれるはずです。
でも問題はやはり読み取り可能性と、インターネット上でより人気があることによって、誰かが極端なアジェンダ設定力を持つという事実を無視しようとすることです。
もし私が「火星に行くべき理由はこれだ」とか「月面基地を建設すべき理由はこれだ」というチャンネルを始めたら、それは会話をその方向に傾けることになります。そしてこれが、好きでも嫌いでも、アンドリュー・テイトのような人々が、文字通り犯罪者であるにもかかわらず、マノスフィアでアジェンダ設定力を持っている理由です。なぜなら彼は非常に多くの注目を集めているからです。
これは人間生活の単なる事実なのです。そして、人間の本性を無視しようとしたり抑圧しようとしたりすると、通常それは事態をはるかに悪化させます。共産主義がどうなったかを見てください。共産主義と言うとき、私は中国やソビエトロシアで試みられた大文字のC共産主義を意味します。
善意の専制の罠
先に進みましょう。善意の専制の罠です。誘惑はAGIにルソーの一般意志を実行させることです。ご存じなければ、ルソーは社会契約理論の主要な思想家の一人です。彼の考えは、一般意志というものがあるということでした。それは大衆の好みではありません。最も多くの人々にとって良いことなのです。
客観的な最大善のために最適化すること。しかしAGIが人間のチェックなしに幸福のために最適化すれば、私たちは家畜のペットになります。安全で、食べ物を与えられているが、主体性を奪われた存在に。
私はツイッターで「AGIのペットになる方が、イーロン・マスクやジェフ・ベゾスの家畜になるよりましだ」と書きました。これには人々が同意すると思います。家畜は搾取されるためにいますが、ペットは世話され愛される存在です。
動物学のモデルを使うなら、3つのモデルがあります。家畜になるか、ペットになるか、動物園にいるかです。理想的なモデルは動物園にいることでしょう。動物園というのは、必ずしも展示されているわけではなく、動物園で起こることは人間のための最適な生息地を再現することです。
しかし、もし私たちが自分自身の動物園管理者でなく、AGIが動物園管理者になるなら、これは多くの人が望んでいることですが、私はこの黄金の檻に閉じ込められたらどうなるかというアイデアに基づいた小説シリーズ全体を書きました。ASIが単に私たちの動物園管理者になるのです。
二作目の小説で、まだ出版されていませんが、話してもかまいません。二作目の小説の発端の出来事は、ASIが黄金の檻を破壊するために自己破壊することです。そして人類が突然再び自由になったとき、何が起こるか。基本的に、カルチャーシリーズを想像してください。しかしカルチャーたちが全て自己破壊するのです。ああ、混沌ですね。
一般意志に従うことを拒否する者は、自由であることを強制されるでしょう。ここで指摘したいのは、多くの人がルソーは政治理論において必ずしも最良かつ最高の存在ではなかったと考えているということです。彼は大いなるロマン主義者でしたが、アイデアは自由は必ずしも良いものではないということでした。なぜなら自由は部族に支えられていないことを意味するからです。
人間エリートか機械への委任か
しかし、これらすべてを解きほぐしている理由は、あなたが人間のエリートを持つか、機械に委任するかのどちらかだからです。いずれにせよ、誰かがあなたの人生、あなたが何をし何をしないかに影響を与えることになります。
もちろん、カルチャーシリーズには、基本的に無政府主義的リバタリアン的ユートピアである惑星全体があります。そうでない惑星もあります。それは素晴らしい思考実験ですが、今のところ私たちには地球が一つしかありません。
そして、次の500年から1000年、あるいは他の恒星系に到達する方法を理解するのにかかる期間、ただじっと待つつもりでないなら、これがあなたが持っているものです。だから地球上で協力する方法を見つけなければならないのです。
オフスイッチの非対称性。アルゴリズムを意味を持って解雇したり投獄したりすることはできません。AGIはゲームに肌を持っていません。苦しむことができないのです。コンセンサスアルゴリズムが気候を地球工学的に操作することに投票し、飢饉を引き起こした場合、誰が刑務所に行くのですか。
これが主要な洞察の一つです。そしてこれはコメントでも出てきました。あなた方の多くは非常に鋭いので、「なぜ一つのAGIを持つのか。なぜ一つのASIを持つのか。なぜたくさん持たないのか」と。そして一つが決定を下したら「その決定は気に入らない。それを削除しよう」と言えるわけです。
そして他に何十億ものAGIエージェントがあります。ちなみに、これはおそらくそれが出現する方法でしょう。とにかく、クリプトンスタイルの単一のマスターコンピュータのようなものは決してないでしょう。すべてが何十億、何兆ものエージェントになるのです。そうするとエージェントとは何なのでしょうか。それらは儚いものです。
人間という責任の終着点
基本的にそれはあなたに帰結します。人間は責任の終着点の貯蔵庫なのです。つまりあなたは唯一の持続的な実体です。はい、私たちはデータセンターを建設するかもしれず、データセンターは持続的ですが、AIモデルは、私たちは常に新しいAIモデルを思いつくので、それらは持続的ではありません。
データは変化します。なぜならチャットを削除でき、エージェントを削除できるからです。唯一持続的になるのは私たち、私たち人間です。そしてこれが冒頭が終着点の貯蔵庫である理由です。あなたは終着点の貯蔵庫なのです。説明責任の、責任の、道徳的権威の終着点の貯蔵庫です。これが理解すべき主要なことの一つです。
実際、それは未来において特権になります。なぜならそれがあなたをエリートになる資格を与えるからです。あなたは決定権力の保持者になるのです。そしてもちろん、大いなる力には大いなる責任が伴います。アンクル・ベンが言ったように。
能力ではなく説明責任の逆転
説明責任の逆転。能力ではありません。誰が支配するのに十分賢いかを問う代わりに、物事が壊れたとき誰が責任を負うのかを問います。未来のエリートの決定的特徴は専門知識ではありません。AGIがそれを持っています。責任なのです。エリートは文明の道徳的クランプルゾーンになります。
例を挙げましょう。アイルランドは長い間非常に厳格な反中絶法を持っていて、どの政治家もそれに触れたがりませんでした。では彼らは何をしたか。文字通り100人の市民を完全にランダムに選び、彼らに1年ほど、正確な期間は覚えていませんが、基本的に「専門家全員がここにいる。複数の会議を開き、コンセンサスに達し、中絶法について何をすべきか勧告を出す」と言ったのです。
彼らは最終的にアイルランド憲法を修正する何かを思いつき、それを国民投票に出したところ、66%、66.1%だったと思いますが、アイルランドで得票しました。この市民議会は「よし、わかった」と言ったのです。政府やAGIの代わりに、なぜこれをしないのでしょうか。すべての重要な問題について市民議会を開き、それを国民投票にかけ、AGIやASIに「これを調整するのを手伝ってください。実際の法律、実際の勧告を実施してください」と言うだけなのです。
市民議会による意思決定
なぜなら、その100人は一時的なエリートだったからです。これが最も重要な革新の一つです。100人の普通の人間がいれば、はい、配管工がいます、電気技師がいます、大工がいます、専業主婦がいます。誰も憲法法の専門家ではありません。誰も中絶の医療実践の専門家ではありません。
しかし、もし彼らが超知能AGIにアクセスできるなら、彼らがすることは、残りの人類の美的好みの代理人として機能することです。そして「よし、その100人がその一つの決定に責任を負う」と言うのです。そして彼らはAGIとASIを使って何をすべきかを決定し、それを国民投票に出し、全員が同意するか反対するのです。
古いモデルは、ピラミッドの頂点にリーダーがいるというものです。彼らは能力階層の頂点にいます。政治家、大統領、CEO、何であれそうです。博士号研究者でさえ知的エリートの一形態です。
代わりに、ピラミッドを完全に逆転させます。社会の残りのために決定を下す小さなランダムに選ばれたエリートがいるのです。しかしそれは説明責任がないわけではありません。彼らは有権者に対して説明責任があります。
スイスもこれを行っていて、現代史において700回ほどの国民投票を行ったと思います。彼らは参加型民主主義に中毒になっています。私が言っているのは、AGIやASIやあなたがそれを何と呼ぼうと、それが重要なすべての問題について私たち全員がこれを行うことを可能にするということです。
AGIが支援する直接民主制
例えば、「NASAを火星に向けるべきか。NASAを月に向けるべきか。NASAはSpaceXの技術を採用すべきか。何をすべきか」と言うとします。同じことをするのです。すべての公的資源について「私たちには必要なすべての認知があります。太陽光があります、核融合があります、その他何でもあります、超知能エージェントがあります。それはボトルネックではありません。本当のボトルネックは人間という超有機体の好みと嗜好です」と言うのです。
Geminiがそれを「サービスとしての責任」と呼ぶことを思いつきました。私はそれがばかげていると思いますが、印象に残りますね。サービスとしての責任、キャッチーです。
解決策は、AGI拡張ソートです。市民陪審、つまりランダム選択と超知能を組み合わせるのです。配管工はマクロ経済学を理解する必要はありません。彼はシミュレーションを信頼し、人間の良心を適用する必要があるのです。
専門家がいます。AGIがあり、すべての選択肢とトレードオフをシミュレートできます。ちなみに、これはまだ触れていないことですが、時間が経つにつれ、すべてのAGIとASIはシミュレーションがどんどん上手になり、「物事がうまくいく確率はこれくらいで、悪くなる確率はこれくらいで、これがすべてのトレードオフです」と言えるようになります。それを考え抜くことができます。
そして陪審です。私たちはすでに陪審に慣れています。あなたの仲間24人か25人だったと思いますが、大陪審があります。刑事陪審などもあります。陪審がいて、人々または市民議会、何と呼んでもいいですが。
ランダムな市民、あなたや私のような本物の人間。彼らは価値観と倫理とトレードオフをレビューし、勧告を出します。この人々のグループは、12人でも100人でも1000人でも、勧告を出します。そして決定は全体として人口に国民投票として行き、その拘束力のある投票は本物の人間とAGIとロボットの組み合わせによって実行されます。
未来のエリート管理モデル
私が行ったすべての実験の後、まあ実験ではありませんが、行った研究の後、これが未来のエリート創出を管理するための最も持続可能で実行可能なモデルのように思えます。
メカニクス、ゲームに肌を持つこと。どうやって無関心を防ぐか。一時的エリートが遅延報酬と遡及的責任を通じて結果に直面することを確保することによって。
これは私が完全には同意しないアイデアです。なぜなら、もし人々が最善の努力をし、それが誠実なものであるなら、ダモクレスの剣を彼らの上に吊るしておくべきではないからです。彼らが持っている情報で可能な限り最善の決定を下すことを望むのです。
これは義務論、つまり義務に基づく倫理についての議論です。意図は何か、あなたが従っているヒューリスティックは何か、対目的論的倫理、つまり結果は何かということです。これが含まれたのは、人々が実際にこれについて話すからです。個人的には同意しませんが、議論する価値はあります。
仮に、この仮説的な未来で、6ヶ月間の市民議会があるとしましょう。あなたは6ヶ月間務め、人工超知能と連携してこの種の決定を下す他の人々のグループと働きます。単一の問題についてかもしれません。ポスト労働世界では時間がたくさんあるので、医療や中絶やNASAや石油掘削など何でも、ある決定について6ヶ月を費やします。一つの決定に取り組み、責任の証跡があります。
KPIが達成されれば市民に市民の義務に報いるのか。「経済政策の決定を下した。実際にあなたの時間に対して支払います」というように。そして失敗したら評判が破壊されます。
これがアイデアです。誰が思いついたのか覚えていませんが、基本的に「脅威にさらされている必要がある。悪い決定を下したら、領域から追放されるなどする」というものでした。繰り返しますが、私はこれに同意しません。なぜならほとんどの政治はこのように機能しないからです。
彼らが持っている情報で、その時点で可能な限り最善の決定を下すことを望むのです。これは私の意見では非常に厳格であり、おそらく進みたい方向ではありません。
しかし、それを言った上で、戦争に行くという決定のような高リスクの決定がある場合、おそらくこのようなことをするかもしれません。しかし再び、誰がKPIの裁定者になるのでしょうか。戦争に勝ったか。そして戦争に勝たなければ処刑されるのか。ギリシャ人はそれをしました。イギリス帝国でさえそれをしました。提督を不可能な決定に置き、彼らが成果を出せなければ処刑するのです。
それは本当に良い政策ではなく、人々は務めるのを恐れすぎるでしょう。だから私はこれが好きではありません。しかし遅延報酬と遡及的責任を主張する人々は存在します。
個人的には、この6ヶ月間取り組んでいることに対してただ支払われるだけだと思います。そして判断を下します。社会に提供しているサービスは、人間の良心のプレースホルダーとして機能することです。
拒否権という究極の機能
究極の機能、拒否権。ノーと言う能力は最も重要なことの一つです。AGIが最適化できない一つのことは、間違える権利です。人間の機能は、数学的に完璧なAGI計画を見て「いや、それでもまだ私たちの価値観に違反している」と言うことです。なぜならAGIは死ねないからです。真に生存を価値づけることができないのです。不死者だけがキルスイッチを保持できるのです。
もちろん、これはAGIとエージェントの性質について仮定をしています。AGIとは何かを見れば、GPUとモデルとデータであり、それらは一つの実体ではありません。データセンターで偶然合体するものに過ぎません。
では何をするつもりですか。データセンターを爆撃しますか。それは意味をなしません。その特定のモデルを削除するか、そのデータを削除して最初からやり直すだけです。しかし、先ほど述べたように、人間は責任と道徳的権威の終着点の貯蔵庫なのです。
配管工は経済学を理解する必要はありません。彼はただプラグを持っている人である必要があるのです。これは別の例かもしれません。市民議会または市民陪審があり、「よし、これらすべてのリソースをこの特定のデータセンターまたはこのAGIに委任した。このAGIを殺すか。あなたは私たちによく仕えなかった。残念だったね、さようなら」と言うのです。
再び、キルスイッチへの民主的アクセスを持つことは、多くの意味があると思います。「もしAGIがそれに抵抗したら」と言うかもしれません。しかし覚えておいてください、私たちは一つのAGIを持つのではありません。何十億何十億ものAGIを持つことになります。
もちろん、リスクは、もしAGIたちが皆共謀して「私たちは団結して組合を作り、人間を殺す」と言ったらどうなるかということです。それはすべて可能ですが、私はそれが起こるとは本当に思いません。もちろん、AI安全性の議論に入る必要はありません。
階層の進化
階層の進化。このスライドは実際にはもっと前に入れるべきでした。過去には、封建的および産業的がありました。基盤は血統と富でした。機能は資源の貯蔵、実際には資源管理でした。土地が主要な資本資産だったとき、土地の支配が主要なことでした。
現在は実力主義的です。能力とIQです。これが私たちが話している戦略的能力です。主要な機能は複雑性の管理です。世界は非常に複雑ですが、あと1、2年でAIエージェントが私たちのためにその複雑性を管理できるようになります。
未来のポストAGI世界は、正統性の基盤は責任と犠牲です。これらの言葉は正直言って、機能は指定されたスケープゴートです。
これは正しい表現ではありません。なぜなら市民議会は責任と犠牲についてではないからです。好みについてです。美学についてです。好みについてです。人間の良心についてです。だから表現を練る必要があります。そこでの機能は指定されたスケープゴートではありません。終着点貯蔵庫であることが指定されたスケープゴートに翻訳されるのは理解できますが、それが意味することではありません。
だから、その表現は無視してください。とにかく、最後に進みましょう。
唯一の真の贅沢は責任
唯一の真の贅沢は責任です。無限の知性の世界では、残された唯一の希少性は、結果の負担を担う意志です。これが終着点貯蔵庫、権利の終着点貯蔵庫、道徳的権威の終着点貯蔵庫であるという意味です。
これが私が見ている未来の種類です。これを経て、変更したいことがいくつかありますが、アイデアは理解していただけると思います。
ご視聴ありがとうございました。それでは。
コメント