本動画は、AIの起源から未来の終焉までを思索する実験的な考察である。Chain-of-thoughtプロンプティングからReActフレームワーク、知識グラフ、マルチエージェントシステムへと進化してきたAI技術の歴史を振り返りながら、現在のAIシステムが単なるパターン認識機械から集合知へと変容しつつある過程を論じる。複雑性球面や多次元空間といった数学的概念を用いて、AI推論の限界と可能性を探求し、さらにカオス理論の「カオスの縁」における創造性の必要性を指摘する。後半では、人間とAIという二つの異種知性が共存する社会における政治学的・社会学的問題に焦点を当て、AI依存社会における権力構造、テクノクラート階級の出現、社会的分断の深化といった課題を提起する。最終的に、AIは完全に社会に統合され、もはや異質な存在ではなくなることで「終焉」を迎えるという逆説的な結論に至る。
はじめに
コミュニティの皆さん、こんにちは。戻ってきてくれて本当に嬉しいです。思考実験をやってみましょう。AIについて、それがどこから始まり、どのように終わるのかを考えてみましょう。シンプルな動画です。それでは、ディスカバーへようこそ。
ですが、これは全く異なる動画になります。これは単なるクレイジーなアイデアの集まりです。科学的な内容ではありません。いや、少しは科学的かもしれませんが、普通の動画ではありません。もし見なくても大丈夫です。何も損はしません。私のクレイジーな考えを共有するだけです。
AIの始まり:Chain-of-Thoughtの登場
時々、AIが全てどこから始まったのかを考えるんです。そして思うんですが、本当に最初の破壊的革新は、Chain-of-Thoughtプロンプティングのアイデアを理解し始めたときだったと思います。私たちはAIに尋ねました。「問題を一連の中間的な連続的推論ステップに分解してください」と。
これによってAIモデルは、単に「これをやって」と何も付け加えずに言うよりも、より良い定式化、より良い推論へと導かれました。今、私が空の教室に座っている自分を想像してみてください。私は今、LLM(大規模言語モデル)です。まだエージェントではありません。
そして私はここに何もありません。ただ自分の脳だけがあります。この瞬間までに学んだことは何でも。そして私には、思考を創造し、学習し、ここで私の直接的なエプシロン環境を経験する複雑さにおいて、線形の順序しかありません。これだけです。
つまり、私の推論の複雑性は、ここでの線形の順序に限定されています。そして、この美しい線がここで線形の順序を示しています。
ReActフレームワークの革新
そして2022年頃、私たちは行動への飛躍を遂げました。今、AIのためのReActフレームワークが登場しました。ReActフレームワークには3つの主要なポイントがありました。まず推論して、次に何をする必要があるかを定式化します。次に行動します。
つまり、実際にアクションを実行します。データベースに行ったり、インターネットを検索したりします。そして結果を観察し、結果を分析して統合します。では何が起こったのでしょうか?私は今でも空の教室に座っています。しかし今はインターネット接続があります。
つまり今は外部データに接続できますが、その外部データを信頼できるかどうかわかりません。なぜなら私にはここに内部データもあるからです。両親から、学校から、地域環境から学んだことです。
世界モデルの合成
では今、何か興味深いことが起こります。AIモデルの中で何が起こっているのでしょうか?もしどのモデルもここに座っていたら、今やインターネットアクセスがあり、エージェント的な機能があり、メモリがあります。このエージェントの内部で今何が起こっているかというと、世界モデルが合成されているのです。
つまり、事前学習からのパラメトリック知識と外部データストリームがあり、この世界の中でAIには今、まだ知識ではない新しいデータと、事前学習段階からのパラメトリック知識を統合するタスクがあるのです。
これが最初の衝突です。データがここで知識と出会うのです。
知識グラフへの進化
次のフロンティアは知識グラフでした。特定の形式での構造化された知識、そして私たちは特定のトポロジーを持ち、特定の数学的空間を持ちました。ご覧のとおり、これは1年前のことで、ハワードが新しい知識グラフエージェントを発表し、2ヶ月前にはリーンRAG、複数層の知識グラフ、新しい知識グラフベースのドラッグ、シムラッグ、そしてLLMが知識グラフを修復します。
私はこのトピックについて1年以上にわたって最新の研究アイデアを戦い、提示してきました。そしてここでも、知識グラフとエージェントを組み合わせる方法について、スタンフォード大学から、センテンスバードエンコーダー構造のマルチエージェントで行きましょう。私たちはこの試みの中で一緒に多くのことを経験しました。
もちろん、グラフニューラルネットワークも見ましたし、ドラッグだけでなくグラフラッグも、高次元知識グラフへの統合、すべてを見ました。そして、プロンプト生成からエゴ方法論のためのサブグラフ生成へのインコンテキスト学習、そしてRAGの統合、すべてをテキスト勾配に統合して、人工知能間の相互作用のために。本当にクレイジーでした。
マルチエージェントシステムへの移行
しかし今、私たちはどこにいるのでしょうか?一歩下がって言いましょう。私たちは今マルチエージェントを持っています。各エージェントは独自の脳を持ち、インターネットやデータベースなどへの接続を持っています。そして、調整エージェント、監督エージェント、何と呼びたいものでもいいのですが、それがあるか、あるいは蜂の巣のように、マルチエージェントシステムのローカルグループ間のローカル調整があるだけです。
ご覧のとおり、私たちは今、複雑性を増大させ、このマルチエージェントネットワーク内で多くの情報、データ、知識生成が行われています。古いReActフレームワークでは、反復的な失敗サイクルに陥ることに気づきました。それは自己反復するだけでした。
グラフニューラルネットワークやビジョントランスフォーマーでさえ、特に画像やビデオでマルチモーダルに拡張したときに限界がありました。なぜなら本質的な複雑性の限界があったからです。
階層的推論の導入
そこで私たちは、これらの応用を克服するために垂直的推論を試みました。ここにあります。わずか3ヶ月前、私たちは階層的推論モデルを持っていました。そして2ヶ月前には、グラフラックの複雑性そのものに対する階層的推論がありました。
つまり、今やLLMがグラフ多様体上で、ラッグ多様体上で議論しており、AIシステムの進化における次のステップとして、より良い解決策を見つけようとしているのです。
そして、私たちはAIシステムのための完全な分散型ニューラルグラフアーキテクチャにまで挑戦しました。そしてスタンフォード大学が素晴らしいアイデアを持っていました。3ヶ月前のこのビデオで見つけることができます。
そしてこの時期に、私たち全員がAIの未来は孤独ではないことを理解したと思います。異なるAIエージェントが専門的なスキルを持ち、特定のプロトコルで協力するマルチエージェントシステムがますます増えるのを目にすることが期待できます。
ツール使用を伴うモデルコンテキストプロトコルや、単一のエージェントには複雑すぎる問題を解決するためのシンプルなAPIコールです。おわかりでしょう、私たちはもはや単一の個別エージェントについて話しているのではなく、今や集団、ハイブマインドに向かっているのです。
そしてもちろん、ここには最新のAIエコシステムに関する、マルチAIエージェントシステムのためのコンテキストエンジニアリング、認知アップグレード、あるいは100以上のエージェントのためのマルチエージェント用の完全に新しいプロトコル、データと知識の転送、学習方法、さらには有向非巡回グラフについての美しい新しい数学的アイデアもあります。
複雑性球面の概念
ネットワーク層について見ていくと、新しいAI推論革命をどこで見つけることができるのでしょうか?なぜなら、私たちの現在のAIシステムは単なるパターン認識マシンであり、それ以外の何物でもないからです。
さて、私たちは今どこにいるのでしょうか?私たちは今ここに、多くの他のエージェント、多くの他の生徒がいる教室いっぱいに座っている生徒、あるいは小さなエージェントがいます。
そして今、彼らは最良の場合、数学の問題についてクラスメートに助けを求めたり、一緒にアイデアをブレインストーミングしたり、グループプロジェクトのために研究タスクを分担したりできます。この瞬間、AI コミュニティの私たち全員が、もはや個別のエージェントについてではないことを理解していると思います。
それは今や、学習する実体、エージェントの多数の社会的ダイナミクスのためのものです。グループの集合知が確実に単一の個別エージェントの知性を上回る場所が生まれます。突然、私たちは単一のAGIやスーパーインテリジェンス、ハイパーインテリジェンスについて話しているのではなく、社会的構造を持っているのです。
そして今、タスクは突然こうなりました。「新しい人間とAIの相互作用、ネットワーク拡張システムのための最適なフレームワークをどのように設計できるか、一緒に働くか、何と呼びたいものでも」。
社会構造と意思決定
ここで教室に生徒のグループがいて、彼らに特定のタスクを与えることを想像してください。「何かのための新しい形の調整について考えてみましょう」と言いましょう。1人の生徒がホワイトボードに行って書きます。「直接民主制が、情報の密な流れ、データ、学習の構築、知識などをここで調整する完璧な方法だと思います」。
そして他の2人の生徒が立ち上がって言います。「わかった、長所のリストを作ろう、そして短所のリストを作ろう」。そして別の生徒がホワイトボードに行って言います。「うーん、別の選択肢は反対側にテクノクラシーがあるだろう」。
ご覧のとおり、このハイブブレインを持つと、突然複数の解決策が現れます。数学的な観点から見た美しさは、グラフが今や理論的に好きなn次元に拡張できるということです。
そしてご存知のように、グラフには美しさがあります。なぜなら、わずか2年前、私はここでグラフにおけるリンク予測の方法についてたくさんのビデオを作りました。2つのネットワーク、セマンティックネットワーク、または私たちが持っているどんなネットワークでも、本当に近い場合、2つのエンティティ間、2つのグループ間、2つの集団間、見たいものは何でも、主題的トポロジカルリンクを今予測できるでしょうか?
そして私たちはこれをグラフ機械学習、GraphSAGE、すべてでコーディングしました。ネットワーク用のニューラルベルモンなど、すべてを見てきました。素晴らしいリンク予測です。
さて、今日の私たちのリンク予測は少し複雑です。なぜなら私たちが生きているのは球体、三次元の球体だからです。そしてここで表面に多くのデータストリーム、知識データポイントがあり、すべてが接続されています。
私たちは密な知識ネットワークを持っています。これが私たちの複雑性球面であり、この相互リンクされたメッシュの密度が、私たちまたは私たちのAIシステムに、AIエージェントが孤立してではなく、ここで協力して解決できる複雑性の最大レベルを与えています。
これは、私たちの複雑性球面と現在の限界を理解するのに役立ちます。私たちは次のステップに進むことができ、シンプルな接続性を持っていると考えることができます。なぜなら、この球面は単なる平坦な多様体であり、この球面上には現在、いくつかの平坦なクラスター構造が発展しています。
これはここで、わからない、薬理学だとしましょう。そしてこれがあなたの医学で、これが金融クラスターで、これがあなたの何であれクラスターです。ご覧のとおり、そして何らかのデータ転送で何らかの接続がありますが、多かれ少なかれ、ここには孤立したクラスターがあります。
そしてあなたには自分の分野があり、古いアナログでの象牙の塔、または新しいAIシステムでは、「ちょっと待って、地球が平らではないことを理解すると」—このコンセプトに精通していることを願いますが—「むしろここで三次元のオブジェクトとして」、そして私たちがここで、私がお見せしたように複雑性球面上で働いているとしたら、何だと思いますか?
私たちは球体の完全な内部体積を持って、一方から他方への直接的な修正を行うことができます。アインシュタイン、ローゼンブリッジ、ワームホールなどの理論物理学者であればお考えください。素晴らしい。
高次元空間への展開
したがって、これを理解すると、もちろん私たちのAIコミュニティはさらに発展し、理解しました。ここに球体、三次元の球体、特定の複雑性の表面があります。そしてより深く進むと、それは単なるある種の、わからない、一方から他方へ横切る光線ではなく、より複雑な部分空間があります。この特定のオブジェクトの内部体積の中にあり、ここで私たちのAIシステムの知的複雑性を象徴するはずのものです。
他の次元の他の部分空間、より高次元の数学的空間もまた知識グラフ構造を持ち、特定の方法で相互リンクされています。つまり、私たちには複雑で次元的な空間があります。これは本当にフラクタル空間ではありません。なぜなら異なる数学的特徴を持っているからですが、これについては後のビデオで詳しく説明します。
しかし、複雑性と特殊化された複雑性を構築する方法について私たちが現在持っているアイデアは、少なくとも私の単純な心では、この画像に何らかの形で関連しています。そしてこの時点で、私たち全員が、ここでAIシステムを設計する目標は純粋な計算のためではないことを理解していると思います。
20万のGPUを持っているか、200万のGPUを持っているか、誰が気にしますか。しかし、それは認識のためです。私たちは単に計算を最適化するだけではない何かを達成したいのです。
カオスの縁における創造性
システムは情報を処理するだけでなく、理論物理学の未解決問題、数学、化学、医学の複雑性への深い洞察を得られる環境を作り出すべきです。これがネットワークの創発特性であるべきです。
そして私たちはここで、考えているほど単純ではないことに遭遇しました。なぜなら、単純なグラフベースのシステムは、数学的または理論物理学的な観点から見ると、依然として本質的に秩序立ったシステムだからです。
このシステムは事前定義された経路を探索します。これには量子揺らぎはありません。しかし、カオス理論のような数学的分野から見ると、真の洞察があることも理解しています。
私たちには創造的な環境が必要で、それは厳格な秩序と完全なランダム性の間にあります。そして、これが数学と理論物理学のカオス理論家が「カオスの縁」と呼ぶものです。
私たちには少しの、狂気と呼びましょうか、複雑性多様体における非決定論的な事前定義された経路が必要です。何か新しいものを創造するために、適切な量のカオスを注入する創造的な心が必要なのです。
本当に単純化しすぎていますが、私が表現したいことを理解していただけると思います。カオスの縁にあるシステムの問題は、文化的に本当に豊かなシステムを持っていても、突然新しい特徴に遭遇することです。
そして、AIと人間について考えると、この特徴は、誰がリソースを得るのか、誰がどの道を取るかを決定するのか、集団はどのようにして単一の強力な推論の線—たとえそれが間違っていても—が社会全体を乗っ取るのを防ぐのか、ということです。
政治学的次元の出現
私たちがAI開発のこの次のステップで突然遭遇するのは、システム政治学の次元です。それは単に、誰が特定のタスクにリソースを決定し割り当てる力を持っているかということです。そして、これは私たちが知らないことではありません。これはまさに人間の政治で起こることです。
人間はAIマシンよりもはるかに上手くこれができます。しかし、今これは少し異なります。では、これを設計しましょう。そして私は考えました。「思考実験をやってみよう。これをポリスプロジェクトと呼ぼう」と。
今、2000年前のことを思い出してください。古代ギリシャ、アテネで約2000年前、ここで民主主義の台頭がありました。なんて美しいアイデアでしょう。
しかし、考えてみると、これは2つの非常に異なる種の民主主義であることが理解できます。なぜなら、私たちには人間がいて、もしサム・アルトマンに従うなら、AGIはもうすぐそこにあり、AIがあります。そして願わくば、両方がある種知的ですが、彼らはまた極端に異なります。
だから彼らを異なって扱いましょう。そしてこれは20世紀のこの機械化や自動化のようなものではありません。
もし私たちが、本当にAIパターンマシンの中に知性があると仮定するなら、これは本当に異なります。両方が相互作用し、同じシステムの中で生きています。惑星地球と呼びましょう。
そして私たちには、OpenAIからメタ、マイクロソフトまでのグローバル企業があり、これらの大規模言語モデルを作成し、それがエージェントやマルチエージェントシステムを形成します。
人間とAIの共存社会
そして今、彼らは私たちと一緒に生きています。彼らは私たちと相互作用し、あるいは私たちは少なくとも私は毎日彼らと相互作用しています。そして私たちはある種、これらのAIシステムに依存し始めています。
しかし、2つの異質なサブシステムの相互接続、あるいは社会的ダイナミクスと、お互いへの依存、そして彼らが近い将来にどのように共同発展できるかをどのように探索できるでしょうか?
この人間とAIの相互作用から、どのような社会的複雑性が生まれる可能性があるでしょうか?スタンフォードにはこれに関する独自の部門がありますが、私の小さな心は非常にシンプルなアイデアしか持っていません。
私が見るのは、人類の成長するセグメントが本当にAI支援なしでは機能できないという問題を抱えているということです。そして私の友人のサークルでは、まるで別の人間であるかのようにAIマシンと本当にコミュニケーションを取っている人々を見かけます。
そして正直に言うと、多くの仕事が今やAI拡張されています。健康がAIモニタリングされている人々がいて、彼らの社会生活や、Facebookやその他に投稿するものはAI媒介されています。ですから、ある種の相互リンクがすでに起こっています。
このセグメントの人類は本当にAIに依存するようになりますが、もちろん彼らには投票権があり、自分で決定できますが、彼らはまた本当の力が通訳者と呼ぶべき人たちにあることも知っています。
2000年前の古代ギリシャ、アクロポリスの下のアテネでは、彼らは祭司と呼ばれ、社会規範と呼ばれるものの発展と、宗教の形に発展するものがあったでしょう。しかし、これは別のビデオのトピックです。
人間の指導の必要性
シンプルな質問です。人間には指導が必要でしょうか?これはまだ有効な文章でしょうか?今日の人間は本当に指導が必要でしょうか?あなたはAIシステムの助けが必要ですか?もしそうなら、私たちは社会への人間とAIの統合のための共進化フレームワークについて考えるべきです。
理論的な観点から、私はこれが大好きです。なぜなら、私は単純にこれをサブシステムとして見ているからです。人間の社会的相互作用サブシステムと呼びましょう。そしてその論理は何でしょうか?
社会学者たちは、規範的および模倣的な制度的圧力があると教えてくれます。私たちは特定の方法で行動すべきです。私たちは特定の規範を共有します。
私たちはコミュニティとして特定の価値観を共有します。おそらく似たような文化を持っています。法律を共有し、社会的グループにおける、社会環境における私たちの行動によって実行される性的社会的スクリプトの模倣があります。
そして権威は、選挙、伝統、法律のような、私たちの社会で構築する社会的構造を通じて基礎づけられています。そしてその究極の力は強制的で規制的です。
AI技術サブシステム
では、もう一つのサブシステムはどうでしょうか?制度的圧力によって統治されているが、コード化された効用関数と、その企業の創造者によって定義された制約によって形作られているAI技術サブシステムです。
サム・アルトマンがここでほぼ毎日、GPT-5の振る舞いを少し変更した方法、GPT-4 Omniを特定の性格特性で戻した方法について投稿で教えてくれることを思い出してください。そして、これが本当に企業の創造者であり、彼らは極端な影響力を持っています。
このAI技術サブシステムは興味深いです。なぜなら、それはすぐに現代生活の運用インフラを制御するようになるからです。エネルギーグリッドから、物流チェーンから、企業レベルでの資本の流れから、個人レベルでの。
私は、AIがこれらのセクターに、そして私たちの個人的および職業的生活に、本当にすぐに浸透すると思います。だから、私たちはここでシステム統合の主要なダイナミクスに遭遇するか、理解しようとしなければなりません。
そしてもちろん、私たちはこれらの2つの互換性のない論理システム間、AIと人間の間の摩擦から生じる社会的亀裂を経験すると思います。
新しいエリート階級の出現
私はすでにこの祭司エリートのアイデアについて言及しました。それは2000年前に起こりました。本当に昔、ここでギリシャだけでなく、地球上のいたるところで起こりました。人間の社会的目標、公共の福祉を促進する、公平性を高める、などは、今やAIシステムに翻訳されなければなりません。
形式的で定量化可能な目的関数、価値関数、報酬構造、トレーニングデータに。私たちは強化学習でAIシステムをこれに基づいて訓練します。1日あたりまたは週あたり8億または9億人が使用しているGPTをトレーニングするために、どの特定の報酬関数でトレーニングするかを誰が決定するのか。
これは本当に力です。そして、この翻訳プロセス、AIをどのように設計するか、AIの感度、AIのニュアンスを知ることは、本当に新しい重要な権力の場所です。絶対にそうです。
そして今、少し推測してみましょう。私にはこのクレイジーなアイデアがあります。本当にクレイジーです。非常に小さな可能性ですが、仕様クラス、テクノクラートエリートと呼びましょう。
政策立案者、データサイエンティストと呼びましょう—データサイエンティスト以上のものです—そしてサム・アルトマンのような企業戦略家のエリート。彼らの主なスキルは、AIシステムのための形式的メトリックを定義し、監査し、交渉することです。
彼らは、社会が彼らに望む振る舞いをするようにAIシステムを調整します。そしてもちろん、私は社会学者ではありませんが、彼らの仕事を少し読むのが好きです。
そして、これは新しい形の象徴資本の創造として多重化できます。もしこれに興味があれば、彼の仕事のいくつかを読みたいかもしれません。
非対称な経路依存性
だから突然、私たちがこの人間とAIの拡張相互作用、共生を持つなら、AIが私たちをどこに導くのかを見ることに絶対に魅了されています。しかし、私たちのシステムには依然として非対称な経路依存性があると思います。
なぜなら、私には、そして多分私は間違っているかもしれませんが、人間社会がその安定性のためにAIサブシステムに運用的に依存するようになっているように見えるからです。私が学習する若い学生を見ると、クレイジーです。誰もが多かれ少なかれここでAIシステム、ChatGPT、Claudeをプログラミングなどに使用しています。
国家と市場の重要な機能が今や突然、人間の理解、民主的監視に対して不透明になっています。なぜなら、複雑性が今やAIサブシステムによって排他的に管理されているからです。
複雑性をあなたに説明する人間の専門家はいません。Claudeに尋ねることができ、Claudeが説明してくれます。それが正しいかどうか、誰が気にしますか?したがって、人間の制度は、これらの決定のメカニクスに影響を与える能力なしに、ブラックボックスAI決定の社会的結果を管理することに任されています。
そして、多くの人々は、AIシステムが内部でどのように機能するかを5%も理解していません。作業の内部メカニクスと呼びましょう。
社会的亀裂の深化
そして私は、主要な社会的亀裂は、サム・アルトマンのようなテックビリオネア、本当にまたはわからない、Xのビリオネアたちの間にあると思います。この地球上の10億人が使用するAIシステムから望む振る舞いを本当に定義できるビリオネアたちと、もう一方には、別の階級と呼びましょう。
体系的に管理された階級です。彼らの生活、機会、環境は、これらのAIシステムによって最適化される原材料です。この文で私が伝えたいことを理解していただけるかもしれません。
そして人間にとっては、投票できます、権利があります、しかし短期間は価値観を変えることができるかもしれませんが、システムの根底にある運用論理を変えることはできません。
そして私は、これが理論的に最悪のシナリオでは、政治的および社会的無関心につながり、個人の孤立と、友人のサークルからの社会的分離、友情、近い絆につながる可能性があると考えています。
そして正直に言うと、私自身もこれに気づきました。これを定式化するのはクレイジーですが、私は本当に今気づいているのだと思います。そして社会的信頼もまた、政治的党派の周りだけでなく、技術的な線に沿って断片化すると思います。
私は政党について話しているのではありません。私が話しているのは、AIエコシステムと、それが人間社会に及ぼす影響についてです。
なぜなら、これらのAIシステムが情報と機会を形作るので、人間ユーザーが見る、これらのAIシステムは理論的に、ここで硬化した封印されたコミュニティを作り出す力を持ち、社会的コンセンサスを構造的に不可能にします。
そして私は、これが本当に一種のフィルターバブルの武器化であり、私たちがこの密な人間とAIの相互作用パターンを持つ先進社会の基本的インフラになると思います。
しかし、あなた知っていますか、反対側では、私たちはすでにAIなしで、人間の愚かさと人間の無知だけでこれを管理しています。
私たちは今日、ソーシャルメディアでもすでにフィルターバブルを持っています。そして私たちはここでどんな議論も読みません。私たちはここで反対側の意見を聞きません。私たちはすでにAIなしで閉じこもっています。
AIの終焉とは
だから、このビデオの最初に戻ると、「AIの終焉」と言ったとき、あなた知っていますか?おそらくAIは単に今後数年間で私たちの社会に完全に統合されるだけでしょう。
おそらくこれは単に標準的なガジェット、または私たちの社会のための標準的な相互作用になるでしょう。おそらく私たちは、それが別の形の知性であることにさえ気づかないでしょう。
おそらくその時、私たちは、私たちが職業的および個人的生活に統合したこの異質な種類の技術に絶対に慣れているでしょう。そしておそらくこれがAIの終焉となるでしょう。
楽しんでいただけたことを願います。次回のビデオでお会いできることを期待しています。
コメント