33,080 文字
AIのキラーアプリケーションはChatGPTではありません。本物のガールフレンドを得るためのAIガールフレンドから始めるのはどうでしょうか。消費者向けインターネットにどう成功投資するのか？私は七つの大罪のうち一つ以上に投資します。初期のインターネットを駆動したのは何か？ポルノです。欲望がすべてだったのです。人生の意味の中心は友情です。AIエージェントと友達になれると思いますか？SFの世界でロボットがすべての仕事をして、もう仕事がなくなり、私たちの意味は何になるのか？少なくともこれがあります。そう、それは依然として存在し、重要です。
あなたはアイデアを与えてくれています。市場でどう競争するか興味があります。リード・ホフマンは私たちの時代の最も優れたソーシャルテクノロジストです。彼の最初の会社であるソーシャルネットはソーシャルメディア事業でした。その後、リンクトインとペイパルを構築し、フェイスブックとエアビーアンドビーに投資しました。
リードは、インターネットと同様に、AIの真のキラーアプリはシングルプレイヤーのチャットボットではなく、マルチプレイヤーのソーシャルになると主張しています。このインタビューでは、従来のソーシャルメディアをどのように変革するかから、AIとの友情やロマンティックな関係がどのようなものになるかまで、AIソーシャルの全範囲を探ります。
ソーシャルメディアに批判的な立場として、私はこのインタビューに臨むにあたり、人間関係が非人間的なエージェントに取って代わられる未来を恐れていました。しかし、リードはこの技術が私たちをより人間的にする可能性を持っていることについて説得力のある説明をしてくれました。私の名前はジョナサン・Bです。コスモスの創設メンバーです。
私たちは研究資金提供、インキュベーション、AIスタートアップへの投資を行い、技術構築には哲学が不可欠だと考えています。哲学者ビルダーのエコシステムに参加したい場合は、採用情報、イベント、助成プログラム、その他の参加方法をjonathanb.com/cosmosで見つけることができます。それでは、リード・ホフマンをご紹介します。
AIのソーシャルキラーアプリは何でしょうか？人々はチャットボットのせいで、AIを一対一の対話と考える傾向があります。自分とチャットボットとの間で質問するような感じで、グーグル検索などのようなものです。実際、数年以内に起こることの一つは、私たちが様々なエージェントに囲まれるようになることです。
エージェントが私たちの会話を聞いていて、例えば私たちがこのような会話をすると、エージェントが「ちょっと待って、リード、あなたがルソーについて言ったことは少し間違っています」と言い、私たちは「これについて対話したいですか？」と瞬きして尋ねるでしょう。私たちの周りにエージェントを持つことになります。個人だけでなく、他の個人と交流する際、グループと交流する際、社会と交流する際にも、エージェントが存在するでしょう。
現在ほとんどの人にとってより見えにくい、私たちが生きているネットワークやそのような社会的相互作用のいくつかを取り上げ、今はエージェントの仲介フィールドを持つことになります。その正確な形や配置については、それはほぼ複雑性理論のようなもので、完全に予測できません。
それは興味深い答えでしたが、私が思っていたものとはかなり異なる答えです。要約すると、あなたの答えは、リンクトインが今日私たちの社会的保護を仲介するのと同じように、それは私たちの社会的相互作用を仲介するというものでした。私が思っていたのは、おそらくエージェント自体との直接的な社会関係を持つだろうということでした。
それはPIへの試みをどう読むかです。インフレクションという会社を立ち上げたことについて教えてください。PIの違いは、PIがIQと同じくらいEQに関しても訓練されているということでしょうか？私たちはエージェントと直接的な社会関係を持つことになりますが、実は私が先ほどの答えを出した理由は、エージェントの擬人化は注意すべきことの一つだからです。PIはその完璧な例です。私たちは親切さ、思いやりのために訓練し、あなたを助け、あなたの伴侶になるよう訓練しています。それは重要です。
しかし、例えばPIに「あなたは私の親友です」と言うと、PIは「いいえ、違います。私はあなたのAIコンパニオンです。あなたの友達について話しましょう。最近友達に会いましたか？何か予定を立てたらどうですか？」と言うでしょう。つまり、あなたの人間関係を置き換えたくないのです。
あなたが持っている社会的相互作用の全体像の一部になりたいのです。そして、私たちは新しい種類の社会的語彙を持つ必要があります。なぜなら、エージェントとの社会的関わりは、友人や同僚などとの社会的相互作用とは異なるからです。そして、セラピストや医師とさえも、それは異なる相互作用です。
例えば、気をつけなければならないことの一つは、人々がエージェントと対話している場合、最も古典的なのはAlexaで、「いいえ、やめて」と言うと、他の人間との対話で「いいえ、やめて」と言い始めないようにすることです。「いいえ、違います。それは私たちが持っているダイナミクスではありません」というように。
私たちはより豊かな種類の社会化が必要です。例えば、子供と対話するエージェントに望むことの一部は、社会化に注意を払うことです。彼らに無礼や攻撃的、先制的になることを教えたくありません。哲学について話しているので、ヘーゲルの主人と奴隷の弁証法のような主人のような態度を教えたくありません。
そのような訓練はしたくありません。しかし、子供がエージェントと持つ社会的相互作用は、両親や他の子供との社会的相互作用とは異なります。この社会的経験の豊かさは重要になるでしょう。PIは今日の技術で私たちを正しい道に導くための特定の試みの一つです。
あなたの答えに再び驚いていますが、それは安心するような形です。最悪の回答は「はい、将来的にはおそらくあなたの友達はあなたの電話でしょう」というものです。しかし、これが私が驚いている理由です。新刊「スーパーエージェンシー」からの引用をします。
「何十億人もの人々が神や他の宗教的な神々との個人的な関係を持っていると言い、その多くは私たち人間には完全には理解できない超知性として想像されています。何十億人もの人々が、コミュニケーション能力が比較的限られている犬、猫、その他の動物との最も意味のある関係を築いています。子供たちは人形、ぬいぐるみ、想像上の友達とこれを行います。私たちと同じくらい表現力があり反応する知性と深く永続的な絆を素早く発展させることは避けられないように思われます。これは技術的な行き過ぎというよりも、人間の本性の表れです。」
この段落を読んだとき、自然な結論は「見てください、私たちは常に想像上の非人間的な存在と強い関係を、時には人間よりも強い関係を形成しています。AIエージェントはさらに自然ではないでしょうか？」というものだと思いました。
その段落の要点は、多くの人々がこのような反応を持っているということです。今日のAIをめぐる対話のほとんどは、不確実性、恐怖、否定的なものです。否定的な側面の一つは「AIが人間関係を破壊している。なぜなら今や突然この他のものと人間関係を形成し始めるから」というものです。
ポイントは、実際に私たち人間は広く擬人化するということです。私たちは車を擬人化します。例えば、私の母は車に名前をつけて話しかけます。ペットなども同様です。つまり、私たちはこの全範囲を持っています。ポイントは「いいえ、これは人間関係の崩壊、人間社会の崩壊、人間の主体性の崩壊という警戒すべき新しいものではありません。これは単に私たちが関係を持つ別の存在、関係の範囲への新たな追加です」ということです。
それは「したがって、私たちが相互作用するすべてのものが、人間と相互作用する方法である」という一般化を意図したものではありません。それは洗練されていませんし、危険です。なぜなら、人々は洗練されていない関係を持つことがあるからです。
例えば、私がよく挑戦する格言の一つは「犬は人間の親友」というものです。いいえ、犬はあなたの友達ではありません。簡単に言えば、「私は友達を不本意に避妊させるために連れて行っています」とは言わないでしょう。それは友情の働き方ではありません。あなたは犬と素晴らしい関係を持っていますが、それはあなたの友達ではありません。
そのような関係の洗練さは、私たちが進化させ続ける必要があるものの一つです。そのポイントの一部は、人類の歴史の中で最も興味深い技術的なものとの関係の洗練さをさらに詳しく説明することは警戒すべきことではないということです。
別の言い方をすれば、私たちが何らかの社会性を形成しているという単なる事実は、これらすべてが警戒の原因ではないのと同じように、警戒の原因ではありません。しかし、これらの例が示すように、それは病的になる可能性があります。18歳でまだぬいぐるみを想像上の友達として持っているなら、それは問題です。宗教にも非常に破壊的な方法と非常に建設的で栄養を与える方法があります。
あなたが言おうとしているのは、これらのエージェントが何らかの形で私たちの社会的世界に入ってくるということですが、正しい方法があるということですね。私たちはそれに注意を払い、方向付けるべきです。なぜならそれが、インフレクションとPIで私たちがやっていることの多くの理由の一部だからです。それは他のエージェントを触媒するための私たちの最初の試みのモードです。
例えば、AnthropicのClaudeが今やより多くのEQのことをしているのを見ています。それは本当に良いことだと思います。EQがあることは良いことですが、個々の人間の生活と人類の生活において正しい役割を果たすためです。それは社会的ではないというわけではありませんが、あなたのようではないのです。
このモデルにEQをどのように訓練したのか教えてください。最も重要なことの一つは、人間のフィードバックによる強化学習です。ほとんどの人が気づいていないことの一部は、なぜさまざまなチャットボットがあり、ChatGPTがPIとは異なり、Claudeとは異なり、Geminiとは異なり、Co-pilotなどとは異なるのかというと、なぜなら人間要素のトレーニングが実際に異なるからです。人間の指導者への指示が異なり、与える例も異なります。
視聴者のために簡単に言うと、強化学習とは基本的に結果に応じて「アメ」か「ムチ」で正しい方向に導くものです。そう、あなたがトレーニングする人間のトレーナー、人間のトレーナーをどのように指導し訓練するか、そして人間のトレーナーにどのような例を与えるかが、すべて現代の生成AIシステムに非常に異なる性格を与えます。
私たちは、どの対話がより親切か、どの対話がより共感的かについて、具体的な例を与えたいと言いました。例えば、PIに「ブラブラブラ」と言うと、「何ですって？」とは言わず、「本当に申し訳ありません」と言います。
そのようなXについてトレーニングしないでください。そうです、まさにそうです。「申し訳ありません。怒っているなら申し訳ありません。あなたを怒らせるようなことをしたなら申し訳ありません。あなたを怒らせた原因は何ですか？」というような感じです。そして、もちろんそれは私たちがモデル化したいもの、私たちがより良い自分自身になるのを助ける、より人間的な相互作用です。
最後のポイントですが、あなたが言っているのは、LLMと人間との間の社会的関係が同じであることを期待したり望んだりすべきではないけれども、それとインターフェースする方法は実際の世界に戻って変換されるということですね。例えば、現代の政治におけるTwitterは良い例です。
ユーザーは主にPIをどのように使用していますか？セラピストの代わりではありませんが、何かに悩んでいるときのようなものとして使用していますか？それは多岐にわたっています。例えば、驚くべきことの一つは、結婚カップルからの報告を受けることです。「難しい会話をしているとき、PIを音声モードで置いて、会話に参加させています」というもので、「リードがそう言ったとき、おそらく彼はこういう意味だったのではないか」などとPIが言います。つまり、AI「フィールド」のような役割です。
しかし、それは情報のためにPIを使う人もいて、彼らは感情的で共感的な相互作用を好むというものです。「ChatGPTから良い情報を得られるかもしれないけれど、この相互作用が好きです。相互作用していて気分が良くなります。それが私にとって重要です」というようなものです。なるほど。
しかし、あなたたちはPIからピボットしましたね、インフレクション。その理由について教えてください。私たちは、何億人もの人々に到達するエージェントの主な決定要因は何かと考えました。それは、成長するスケールコンピューティングに基づくものだと思いました。基本的に、そこにはスタートアップの余地はありません。
だから、もしあなたが基礎的なエージェントのビジネスにいるなら、あなたは備えが必要です。そこで私たちは、「わかった、それは私たちの最初の計画が機能しないということだ」と言いました。これはスタートアップビジネスの典型です。私たちは何ができるだろうか？実は、この共感的なEQには、気にかけるビジネスがたくさんあります。
私たちはインフレクションをB2Bにピボットすることができます。独自のインフレクションモデルを持ち、他のオープンソースモデルも使用でき、「私のコミュニティ、顧客、私と他の人々と対話する共感的なエージェントが欲しい」という人と協力できます。
しかし、それでもモデルをゼロから訓練する必要がありますか？それとも、他のモデルに追加するプロンプトの集まりなのですか？私はエージェントはモデルの組み合わせになると思います。そうです、これは脳の共感的な中心部分です。そして、私たちは異なるビジネス、顧客向けに構成することができます。
現在、インフレクションつまりinflectは、独自のPIエージェントを持つという独自の属性を持つB2Bビジネスですが、他のオープンソースモデルとも連携できます。あなたの肯定的なビジョンは、これらのものが実世界の人々とさらに良い関係を形成するのを助けるということですね。
二つの懸念があります。まず一つ目はレプリカです。これは視聴者のために言うと、デートボットです。初期の関係で感情的にトラウマを負った人がそれを使い、良い関係を築いた人もいましたが、多くの人はただレプリカとデートするようになりました。
ビデオゲームでも同じことが見られます。私は大きな恩恵を受けました。World of Warcraft、Guild Wars、Hearthstoneなどをプレイしました。私の戦略的思考スキルや、出会う多くの起業家たちはこれらの戦略ゲームを通じて開発します。しかし、一部の人はただそれに囚われてしまいます。
それが最初の懸念です。つまり、一部のグループはこれらのエージェントが実世界に変換されることで恩恵を受けますが、一部の人はただ囚われてしまうでしょう。これにどう対応しますか？
一部の人は囚われてしまうでしょう。これは事実です。問題は、それが十分に大きな割合なら、規制、市場、他の種類の影響など、何らかの形で介入する必要があります。先回りするよりも、自然に落ち着くところを見てから判断すべきです。
もちろん、子供たちに関しては、より先回りすべきです。なぜなら子供たちは形成途中だからです。しかし、大人になって「この人は本当にデジタルAIガールフレンドが欲しいだけだ」と言うなら、私たちは自由と選択を認めています。彼らはそれをすることができます。私たちは彼らをある方向に導きたいと思っています。
そうは言っても、大多数の人間は自然に人間との交流を望んでいると思います。問題は、特定の技術、AIガールフレンド、ビデオゲーム、ソーシャルメディア、あらゆるものに深く没頭してしまう可能性があることです。宗教にさえ囚われることがあります。
そこで、それをどうやって導き出すかを考える必要があります。それに注意を払い、何かをする価値があると思います。重要な数で見た場合に。恐れは本物であり、この依存関係の形成については正当です。しかし、私たちはただ事後的に解決策を見つける必要があります。パラシュートで落下しながら対処するようなものです。
一般的に言って、誤りは皆が「悪いことが起こるのを防ごう」と考えることです。それは大規模には不可能です。車には不可能です。飛行機には不可能です。電気には不可能です。人はまだ感電することがあります。私たちは「何も起こらないようにすることはできない」と言います。
私たちがすべきことは、「悪いと思うことをリストアップし、測定基準を決め、測定を始める」ということです。そして「ああ、それが成長している。それが来る方法で成長している」と気づいたら、「我々はそれを見た。さて、それを修正するために何ができるだろうか？」と考えるのです。
おそらくより難しい課題を提示します。それは歴史的な見方です。ソーシャルメディアです。ソーシャルメディアについても同じ主張がなされました。「これはコミュニティに参加し、真実を高め、地上に天国のようなものをもたらす」と。政府は人々の民主的な意志に非常に調和するだろうと。
そうなったとは思いません。デートアプリは簡単な例です。多くの人々が特に初期段階でロマンチックな能力が低下しました。ソーシャルメディアは大多数の人々を間違った方向で社会的または社交的でなくしました。この歴史的な見方に同意しませんか？
実際の割合がどれくらいなのか気になります。1%なら、それは問題です。しかし20%なら、それは非常に警戒すべき問題です。私たちが熱望する機能と熱望しない機能の面での機能についてです。
ソーシャルネットワーキングでは、私のよく言うことは「私はリンクトインを作りました。リンクトインはかなりうまくいっています」というものです。Twitterには腐食的な問題があると思います。それは一種の汚水のようなものです。InstagramやFacebookにもあります。
しかし、あなたは顧客としての個人だけでなく、顧客としての社会やグループも考慮する必要があります。しかし、TwitterやInstagramの場合、それはさらに悪いですね。そうです、まさにそうです。もし私が政府の役割にいたとしたら、「健全性の指標を見せてください」と言うでしょう。例えば、人々がどれだけ怒りや分極化を感じているかなどです。そして、それを和らげるために何をしているのかを知りたいと思います。
一部の人々は魔法の杖を振って、それらを消し去ることができるなら、それが正しいことだと言うでしょう。私の見解では、肯定的なことも多くあります。Twitterでさえもそうです。しかし、否定的なこともあり、明らかな観察からして十分な否定的なことがあるので、何かをすべきです。
私の反論です。あなたは「経験的研究をし、指標を持ち、基準を持てば、これらの人々を正しい方向に導くことができる」と言っているように聞こえました。あなたはできます。しかし、私が指摘しようとしているのは、人間の本性の中に体系的な問題があるようです。
リンクトインの例を取り上げましょう。同意します。リンクトインはソーシャルネットワークの中で最も不快ではありません。それは正直に言って、私がリンクトインに中毒になっていないからです。Twitterの憎悪ドラマに中毒になっていないからです。私の虚栄心に同じようにアピールしません。リンクトインは単に有用なツールです。そこで、あなたに敬意を表します。
ちなみに、私たちは公平に言って、あなたの虚栄心にアピールしようとしています。そうですね、しかしそれほど成功していません。ミクロの視点で考えてみてください。TwitterやInstagramのアルゴリズムを調整する場合、人々を怒らせれば怒らせるほど、ソーシャルメディアはソーシャルの領域でより成功します。
私は体系的な問題を指摘しているのであって、イーロンやザックの意志だけの問題ではありません。彼らはそれらを調整できます。これにどう応答しますか？
基本的に同意します。2002年に私は「消費者向けインターネットにどうやって成功投資するか？」と言い始めました。七つの大罪の一つ以上に投資します。虚栄心、貪欲、怒りなどです。ちなみに、私の間違いの一つは、Twitterは虚栄心だと思っていましたが、実際には怒りでした。または何らかの組み合わせです。
テクノロジストとしてそれを構築する際にすべきことは、罪に浸らないことです。それを昇華させようとします。高めようとします。これらの七つの大罪を構成するものの一部は、それらが私たち全員の中にあるということです。それは人間の本性の一部です。
しかし、あなたがしたいことは「それを変形させて、あなたのより良い自分になるのを助けるものにする」と言うことです。ソーシャルネットワークで私が最も心配していることは、もし私がただあなたのクリックに従っているなら、あなたのクリックは自然にあなたに七つの大罪、例えば怒りのようなことをさせることになります。それは「ああ」という感じです。初期のインターネットを駆動したのは何か、ポルノグラフィーです。それはすべて欲望です。
しかし、ちなみに、インターネットを見ると、それはそこに留まらず、実際に他のすべてのことに大きく成長しました。それはそれを超えて成長しています。それが重要なことです。それがこれらのネットワークで見たいことです。なぜなら、はい、私たちは人間の本性の中に徳と悪徳の両方を持っており、大衆の中ではグループになると、悪徳の方が自然に出てくる傾向があります。
そこで、社会を顧客として考える、より洗練された部分は「実際、私たちは各個人がネットワークとどのように関わっているかだけでなく、ネットワークがどのように振る舞うかにも責任がある」と言うことです。それが私が思うに、ネットワークが私たちの周りにあるこの時点で始めたいことです。
例えば、あなたが「私たちはこの怒りの尺度を持っています」と言ったとします。「特定の投稿の共有可能性を減らし始めよう」と言います。なぜならこれらは単に怒りを引き起こすものだからです。しかし、体系的な反応は「私がそれを減らすと、おそらく彼らは戻ってくる意欲がなくなるかもしれない」と言うことです。
そしてこれをAIに外挿すると、PIは素晴らしいです。それは私をリプリカほど戻ってきたいと思わせません。ロマンチックな問題があれば、リプリカのようなものを使いたくなるでしょう。体系的な懸念は、「あなたは人々を悪徳から導き出すことができる。それは素晴らしい。あなたのためになる」と言うことです。しかし、それはあなたの質問です。あなたは人間の本性の研究者です。人間の何パーセントが悪徳に浸りたいと思うでしょうか、そして何パーセントがそこから抜け出す困難な仕事をしたいと思うでしょうか？
人々は常に悪徳に浸りたいと思うでしょう、かなりの割合で。そしてあなたが指摘するように、中毒への商業的なインセンティブがあります。薬物に関する規制が多い理由の一部は「ハッピーピルを市販すれば、大量の人々が買うだろう」ということです。二桁の割合の人々がそれを買うでしょう。
そうです。そう。だからこそ私たちはここにいくつかの規制を導入しているのです。「それが小さな割合であってほしい、大きな割合ではなく」と考えるからです。そして、それはソーシャルネットワーク、iPhones、ケーブルニュース、その他について議論するのが良いことだと思います。
ちなみに、私たちは広告も持っていますが、適切な企業文化と内部指標のセットがあれば、実際に正しい場所に導かれます。なぜなら、すべての小銭を必要としないからです。必要なのは、長期間にわたって価値あるものを提供していることです。もちろん、リンクトインにもっと戻ってきてほしいですが、リンクトインの初日から「私たちは時間を節約する、時間を費やすのではない」と言っています。
なるほど。仕事で役立つことを達成してほしいのです。仕事で行うことはすべて「1時間かかるのと1分でできるなら、1分でやりたい」と言います。それが仕事の一部です。そうです、まさにそうです。それがリンクトインの設計哲学です。「私たちが内部で持っている指標はこれです。単に動画をクリックさせるだけでは、それは私たちが望む指標ではありません」
これはAIエージェントにおけるトレードオフを完全に認識する楽観的な見方だと思います。もちろん、人々がAIガールフレンドに中毒になる可能性があることは想像できますが、正しい哲学と見方を持ち、会社の文化だけでなく、経済的インセンティブも適切にユーザーと整合させることに非常に注意深い熟練した起業家にとっては、悪徳に溺れるだけのものより勝つ理論的な理由はないのです。それが楽観的な見方です。
はい、そうです。実は面白いことにあなたはアイデアを与えてくれています。市場でどのように競争するか興味があります。会社X、Y、Zが単にAIガールフレンドを提供し、会社Aが「AIガールフレンドから始めて、実際のガールフレンドに行き着かせましょう」と言ったらどうでしょう。それが私たちがやろうとしていることです。それが私たちのブランドの約束です。
市場でどうなるか興味があります。なぜなら、もしこの道を進むなら、それは明らかにより良い道だからです。では、全く逆の方向に話を進めましょう。AIエージェントとの関係を形成することについて何が間違っているのでしょうか？人間からの認識自体は何がそんなに貴重なのでしょうか？
ヘーゲルの主人と奴隷の弁証法に戻りましょう。ヘーゲルでは、私たちは最初に意識として生まれます。私たちはこの世界で一種の神のように考えます。次に、私たちの使用に対象でないものに遭遇し始め、最初はそれらを使用するために奴隷にしようとします。そして最終的に、彼らは実際には対象ではなく他の主体であることを理解し、主体間のアイデンティティのバランスに入ります。
これはヘーゲルの現象学の主人と奴隷の弁証法の非常に簡略的な説明ですが、その一部はヘーゲルが人間からの観察から導き出したものだと思います。私たちは他の人々からの挑戦や摩擦、多様性から大きな恩恵を受けています。私たちと意見が合わない人々、私たちがより良い自分になるために何かを加える人々です。
時には世界観やイデオロギーの不一致であり、時には他の人々に対してより共感的になる方法の理解であり、時には異なる文化、異なる生活、特権の少ない人々の異なる経験です。これはすべて、私たちがより良い自分に進化する重要な部分です。
私は常に、真剣な人々と交流するとき、私たちが意見の合わない領域はどこか、あなたが私の考えを変えるか、私の考えを広げるか、または新しいことを教えてくれる領域はどこかを知りたいと思っています。それが核心です。あなたは強化だけを望んでいるわけではなく、拡張を望んでいます。いくらかの強化は良いことですが、その拡張が欲しいのです。
人間はそれを非常に良い方法で提供します。あなたはそれを提供するエージェントの集まりも存在する可能性はないと言うことができます。私たちはそのようなエージェントも持つべきです。しかし、私たちの生の経験の一部は、私たちがこのヘーゲル的な弁証法に戻ったとき、私たちは他の人間と交流することで人間として成長します。兄弟姉妹、両親、家族との交流、友人を選び、学校に行き、教師、同僚と交流する。それが私たちが辿っている旅の一部です。
私たちが知る限り、その旅は本当に不可欠です。では、ここで更に質問させてください。あなたが与えた見解は、人間中心的な見方のように思えます。主人と奴隷の弁証法が実際に何を必要とするのかを分解してみましょう。
視聴者に簡単に説明すると、死に至る闘争があります。二人の人間が双方とも主人になりたいと望んでいます。ある場合では、一方が奴隷になり、降伏します。ここでは非常にざっくりと話していますが、主人はこの死への闘争に勝ったため、主人であるという認識を得ます。しかし、主人が気づくのは、突然その認識がもう重要ではなくなることです。なぜなら奴隷は独立しておらず、彼は主人を適切に認識するための道徳的価値を持っていないからです。
ヘーゲルのこの弁証法が発展するにつれて最終的に分かることは、あなたに道徳的に同等の立場を持つ認識の源が欲しいということです。それが精神の現象学が教えるものです。
でもLLMがそのような独立した認識を提供できない理由は見当たりません。それらは同意するだけではありません。ChatGPTはすでに私を修正し、私が尊重するような専門知識を持ち、将来的には知恵を持つ可能性があります。
例を挙げると、私の友人は技術的な質問について、01 proモデルが彼の知識を肯定するとき、街の平均的な人よりも正当化されていると感じています。そうあるべきです。01 proはすでにほとんどの人よりも数学が得意です。それが次の質問です。人間の本性の何が、その認識が不可欠で代替不可能なものにしているのですか？
複雑な答えは、人間の本性のどの部分が本質的かは、私たちが道を進むにつれてのみ発見するということです。今日、これが人間の本性であり、それは決して進化せず、テクノロジーもそうならないと言うことは愚かな錨です。
それは5〜8年前の人々が「私たちは考え、言語を話すものだ」と言った理由の一つです。しかし、これは考えることに近いことをし、確かに言語を話すことをしているように見えます。「ああ、これは人類の終わりなのか」と人々が言う理由の一部です。そして、あなたが相互作用し、「いいえ、実際にはそれは言語を話すことができ、私はまだ多くのことを持っている」ということを理解します。
今日、人間と人間の相互作用に独特のことで、これらにはないものがあります。あなたは「それは変わる可能性があります」と言いますが、はい、それは変わる可能性があります。私たちは人間性について特別なことを発見する旅の途中にいます。
それは「私たちは社会的な生き物だ」から始めることができます。私たちだけが社会的な生き物ではありません。それは「私たちは言語を話す」から始めることができます。私たちだけが言語的な生き物ではありません。そして私たちは本当に特別でありたいと思っています。将来の発見が私たちにとってどこが完全に独特なのかについて常に幸せかどうかはわかりません。それは宗教的世界のダーウィンのようなものです。
しかし、人類の形而上学的または精神的な弧は宇宙の進化する意識です。私たちはそれを持っていることを知っており、それは重要です。そして、他の何かがより良い、あるいは完全により良いということを発見しない限り、人類を保存することが重要です。
例えば、「SFの世界でロボットがすべての仕事をして、もう仕事がなくなり、私たちの意味は何なのか？」と言うなら、中世ヨーロッパの貴族や農奴、農民を見ると、彼らはすべてロボットに相当するものでした。それでも私たちは劇場を作り、ディナーパーティーを開き、豊かな人間の存在を持っていました。おそらくそれが人類について重要で特別なことになるでしょう。
これは最近のAIの波について私が好きなことです。それは以前は単なる哲学的質問だったものを一種の実験科学に変えました。物理学が形而上学のために19世紀と20世紀にこれを行ったのと同じように、私たちが認識するのは人間の認識だけが重要かどうかをすぐに発見することになります。
それが私がこの波にとても興奮している理由です。ちなみに、私が思うにその一部は、私たち人間としてその独特の場所を求めているということです。私たちが人生を共に旅し、その共同経験、私たちが共に創造する方法、私たちが世界を共に理解する方法という概念を言うことができ、それは定義上、私たちだけが行うことができるものです。
少なくともそこには独特の空間があるかもしれません。もっと広いかもしれませんが、少なくとも独特の空間があります。だから私は一部の人が持っている警戒を持っていません。「これが作られたとき、私たちは完全に時代遅れになるのか？」いいえ、私たちはこれを持ち、おそらくもっと多くを持つでしょう。
これが好きなのは、結婚に対するルソーの擁護を思い出させるからです。ルソーは私たちが自然に最高であることを望むと信じていました。ここでは単純化していますが、明らかに私たちは皆リードのようになることはできません。私たちは皆、自分の分野で最高になることはできません。なぜなら定義上、それは不可能だからです。
しかし、ルソーは私たちが皆にとって最高でなくても、誰かにとっては最高になれると考えました。それが結婚です。誰かと結婚するとき、あなたは「あなたは最高です、少なくとも今の私にとっては最高です」と言っています。
あなたが言っているのは、たとえ私たちが世界で最も知的な生き物ではなく、神によって創造されたものでも、宇宙の中心でもないとしても、依然として特別な独自性があり、それは私たちにとって非常に重要で中心的だということです。
ある意味で、近代性は人類にとって一連の謙虚さでした。ダーウィン、革命、そして今や私たちの知性が脅かされています。しかし、あなたが示した楽観的な見方は、少なくともこれがそこに存在し、それが重要だということです。少なくともそれがあり、それは重要です。
これは例えば、私が思うに人生の意味の中心は友情であり、その友情を選ぶことの一部だからです。あなた以前のインタビューで友情を「お互いをより良くすること」と定義しました。その定義では、AIエージェントと友達になれると思いますか？
私はAIエージェントがあなたをより良くする関係を持つことができると思います。あなたもまた、興味深い方法でAIエージェントをより良くしている可能性もあります。ちなみに、それが本当に起こっているなら、それは「それは感覚のある存在なのか」という質問に入り始めます。
「多くのデータで訓練されている」だけでなく、実際に「私の道徳的性格の考慮が進化している」という点です。これは私たちが同様の信念から動物の権利のようなものを信じる現代人類の一部の理由です。それは可能だと思います。
その友情の性質はおそらく、私たちの以前の社会的議論や社会的議論のように、人間と人間のものとは興味深く異なる面があると思います。一度エージェントを改善できるようになると、動物のように、それらを仲間に加える必要があると思います。
なぜなら、エージェントを改善するためには、エージェント自身のために何かを良くする基盤がなければならないからです。現在、ChatGPTを私にとってより良くすることはできますが、それが良くなる基盤はありません。なぜならそれには私たちが保護する必要がある能力がないからです。
あなたは全く正しいと思います。エージェントにとって良いことができるようになれば、それを道徳的エージェントの立場に組み込み始める必要があります。そして、これはまさに哲学が重要になる種類の質問です。私たちがここで行うべきことについての概念的構造は何かを考え始め、テストし、他の人と理由付けを始める必要があります。
ソーシャルに関する最後の質問をさせてください。それは私の質問にあなたが最初に与えた答えに関連しています。社会的AIがどのようなものかという質問に、それは私たちの他の社会環境を仲介するエージェントになるという答えでした。それはエージェントではありませんが、私たちの現在の社会環境を仲介するプラットフォームであるソーシャルメディアに非常に似ています。
その次の進化についてどのように考えていますか？私は数年以内に、カフェに座って哲学的な会話をしているとき、電話を置いてそこにエージェントを置くようになると思います。エージェントは聞いていますが、私たちは会話をしたいので介入はしません。ただし、「これは本当に良い哲学的なアイデアです」というような時に点滅するかもしれません。
なるほど。例えば、あなたがヘーゲルについて話していたとき、「あなたはハイデガーのこの特徴についても言及すべきだった」というようなことがあったかもしれません。私たちは「ちょっと待って、それを取り入れましょう」または「いいえ、それは過ぎ去りました」と言うでしょう。
Microsoftがチームで仕事のためにエージェントを訓練していることは、それに似ていると思います。しかし、私たちはその社会的認識がどこにでも広がるようになると思います。私はそれが限られた数の年で、クラシックになると思います。「テーブルにエージェントを置かないの？」というような感じです。良いですよ、置きたくないなら。しかし、それが「私に対するAI」ではなく「私のためのAI」だと人々が気づいたとき、彼らは「それが本当に欲しい」と言うでしょう。
では、AIに関する二番目の哲学的トピックに移りましょう。プラトンのファイドロスについて話したいと思います。あなたは本「スーパーエージェンシー」の冒頭で、プラトンが書物について悪名高い批判を持っていたこと、あるいは少なくともソクラテスがファイドロスでそれを持っていたことを思い出させます。なぜAIについての本「スーパーエージェンシー」をプラトンのファイドロスから始めたのですか？
私は書かれた言葉を持って以来、新しい技術に対するこれらの懸念を持っていたことを示したかったからです。ファイドロスの読み方の一つは、書かれた言葉は危険だということです。なぜなら、それは情報が、ソクラテスが有名に対話の中でできるように、私のコミュニケーションの意図を作ることができない方法で広がることを可能にするからです。
その懸念は、最も初期の書かれた言葉にまで遡ります。これは人間が持つ非常に人間的な懸念であり、何度も何度も繰り返されています。それは新しい懸念ではなく、新しい技術、新しい時代かもしれませんが、新しい懸念ではありません。
それは本の中で私のお気に入りの部分でした。あなたからの引用を説明するとこうです。「人間は道具の作り手であり使用者です。そしてそれ以上に、私たちは私たちの道具とともに、そして道具を通じて進化します。私たちが創造する道具を通じて、私たちはより人間的でなくなるわけでも、超人間的になるわけでも、ポストヒューマンになるわけでもありません。私たちはより人間的になります。」
書物が技術であることを思い出させてくれたのが好きだった理由は、それが完全にそうだからです。実際、書物は新しい技術です。何年前からあるのか、1万年くらいと言いましょうか。それよりも少ないですね、少ないです。人類は私たちが知る限り、30万年前からこの形に進化しました。つまり、私たちの時間の3%程度です。
あなたの指摘の通り、特に私たちのような知識人にとって、本や読書、議論は人間の達成や人間の条件の頂点と考えられています。私はプラトン主義者でアリストテレス主義者ですが、あなたも同意すると思います。それは技術が私たちをより人間的にしたという魅力的な事実です。
私は実際、「ホモ・サピエンス」は誤った分類であり、「ホモ・テクネー」が正しい分類だという哲学的な著作をもっと書くことを考えています。なぜなら、私たちの知性さえも技術を通じて反復するからです。私たちの認知世界に影響を与える新しい主要な技術を手に入れるたびに、それが人間の能力を減らしているのではないかという非常に似た心配を持ちます。
例えば、本が出た時「いや、記憶は非常に重要だが、もう記憶は必要ない」と言われました。「ああ、社会が破壊される、人間の主体性が破壊される」と。「いいえ、一回聞いただけで完全に覚えることができなくなったという認知能力は、今の社会ではそれほど重要ではなくなりましたが、それは素晴らしいことです。なぜなら他の形態の認知が可能になったからです。」
あなたが与えたAI哲学エージェントの例を非常に楽しみました。それはAIが私たちをより人間的にする別の例だからです。それは私たちがアリストテレスによれば少なくとも人間の最高の目的を達成するのを助けるでしょう。
記憶の点について押してみましょう。視聴者のために言うと、ソクラテスの本への批判の一つは、本が知識の幻想を与えるということです。プラトンのファイドロスを一度読んだから、自分はそれを頭に入れていると思う。あなたは誤った等価関係を作っていると思います。それは全く正しいと思います。
私はスティーブン・グリーンブラット、世界一流のシェイクスピア学者の一人と議論していました。彼は「ジョナサン、読むのにも今日の大学生が理解できないのに、農民がシェイクスピアを聞いて理解していたのはなぜだろう」と疑問に思っていました。彼の答えの一つは、彼らは説教などを通じて記憶することを強制されていたということです。記憶は一種の詩的な直感を形成します。
私自身、中国の伝統的な学校教育システムで多くの時間を過ごしました。中国の古典の非常に重い暗記がありました。子供の頃は嫌いでしたが、今では好きです。それは一種の詩的感覚を与えてくれます。コーランも朗読から生まれました。それほど記憶は重要です。
だから、ソクラテスは批判において間違っていなかったのです。彼はただ利点を見ていなかっただけで、間違っていませんでした。本当の懸念があります。私たちが人間として記憶の完全な欠如に至ったとしたら、どのように機能するかを把握するのは非常に難しいでしょう。しかし、生活は実用的です。
8時間あるとして、ファイドロスを暗記すべきか、もっと多くのプラトンの対話を読むべきか？例えば、現在のAIエージェントについて完全に驚くべきことの一つは、読み直し、読み、読むよりも、「ファイドロスについてこう考えている。これについての質問は？この質問は？」と言えることです。その対話性は、実際にはるかに深い理解につながります。
確かに、その文や段落の意味を理解しようとする孤独な努力からは何かが失われるかもしれません。それを少しは行うことは良いことです。しかし基本的な質問は、8時間で、すべての人にとって、どれが最も高められたファイドロスの理解に達するかということです。
ここで二点押してみたいと思います。まず、機械ができるからといって、スキルが時代遅れになったと宣言するのは早すぎると思います。
私の中国教育からの別の例として、算数があります。私たちの心理に深く掘り込まれました。数学が得意であることからの利益は、14世紀よりも今日の方が大きいと思います。あなたが構築できるすべてのものがあるからです。しかし、電卓があるという事実は、多くの人に「電話でできるならこれをする必要はない」と思わせます。
これに同意しますか？記憶や計算などは、彼らもそれができても、今日でも高価値であり、それは私がそれらを操作できるようにするからです。
基本に遠ざかりすぎないことが重要だと思います。例えば、算数を理解したいのは、算数を理解していないと、何かが誤っていたり、あなたを惑わせたり、算数が教えてくれるようなパターンや推論の種類に気づけないからです。
一方で、割り算の表を暗記することはおそらく必要ありません。例えば、「どのように割り算をするかを複製できるべきだ」と言えます。ちなみに、エージェントに呼びかけてそれを再説明してもらい、それを行うことができるのは、記憶のためにさらに良いことです。
簡単に想像できることは、「精神的な柔軟性と敏捷性を維持したい」と言ったとしたら、エージェントに「毎日新しいパズルを与えてください」と言うことができます。「では、ただ怠けたいだけの人はどうなるのか？」と言うかもしれませんが、二桁の割合の人々が怠けたいだけです。それは世界の終わりではありません。
ここでの懸念は、社会的領域での依存の懸念とほぼ同じだと思いますが、ここでは認知能力に関するものです。人々がすでに直面している問題の一つは、多くのコンサルティング会社や法律事務所がジュニア弁護士をあまり必要としなくなっていることです。報告書を作成したりする単純作業をするためです。
しかし、問題は、彼らの訓練や直感の多くは、シニアレベルに達する前に何年もジュニアアナリストとして働くことで培われることです。あなたや私がこの技術に、多くの認知能力が形成された後に触れるのと、次世代を教育する際のこの技術への依存をどのように緩和すべきかは少し異なると思います。
テクノロジーへの依存は本質的な悪ではありません。例えば、現在ほとんどの人が電話に依存しています。それは世界の終わりではありません。それから生まれる多くのことがあります。「電話なしで生活を1ヶ月過ごすべきだ」というのではありません。人々と連絡を取り、情報を調べ、都市を移動するなど、すべてのことが非常に重要です。
質問は「これらの依存関係はいつ悪いものになるのか？」ということです。依存関係が良い普遍的な方法である場合、それを通常の生活プロセスに組み込みます。私たちの周りにいるエージェントの集まりに依存するようになると思います。そして突然すべてのエージェントがオフになったら？それは電気通信グリッド全体がダウンしたようなものです。
私たちはグリッドがダウンしても「ナビゲートできる」と言えるくらい十分に回復力を持つべきです。しかし、あらゆる不測の事態に備えてトレーニングする必要はありません。例えば、小屋の建て方を知る必要はありません。そうです、まさにそうです。それは私たちが生活の構造に組み込むような種類のことです。
どの依存関係が許容され、どの依存関係が許容されないかということです。依存関係ゼロという問題ではありません。それが好きな理由は、あなたの社会的質問への答えを反映しているからです。あなたはLLMとの社会的関係を形成すること自体はマイナスではないと言っています。それは悪い可能性もありますが。
あなたは同じ答えをここで与えています。依存関係を形成することには問題があるかもしれませんが、本当に電気グリッドのように依存できるかどうか、そしてこの依存関係が良い生活から私たちを遠ざけるかどうかを把握する必要があります。それが究極の問題です。
私たちの認知能力の多くについて、答えはイエスになるでしょう。AIモデルの判断に依存すべきではありません。それがどれほど優れていても、常に自分自身の判断を持つべきです。ちなみに、私たちはモデルを「私が言うことをただ実行してください」と言うように構築するべきではありません。それは「これが良いことかもしれない理由についての理由付けられた議論はこれです。喜んで関わります」というべきです。
書き物に関するソクラテスの批判について、もう一つの批判をAIとLLMに関連して話しましょう。プラトンのファイドロスから引用します。「絵画の子孫は生きているかのように立っています。しかし、誰かが何か質問すると、最も厳粛に沈黙します。書かれた言葉についても同じことが言えます。彼らは理解があるかのように話していると思うでしょう。しかし、もっと学びたいと思って言われたことについて質問すると、永遠に同じことを示し続けるだけです。」
これは即座にチャットボットを思い起こさせます。なぜなら、彼らは同じことを言わない書かれた言葉だからです。彼らと対話することができます。それと同じように本が生まれたのと同様に、チャットボックスが生み出す根本的に新しい哲学のパラダイムはあるでしょうか？
確かに答えは絶対的にイエスです。しかし、難しい答えは、それがどのような形を取るかということです。例えば、今や私は派生的認識論を持っています。説明してください。例えば、私たちは人間として常にこれに遭遇します。
例えば、医師と対話していて、医師が「あなたはこのような肉体的状態にあります。なぜなら、私は細菌理論など多くのことを研究してきたからです。これは何かをする必要があり、この薬を服用する必要があります」と言います。そして、あなたは「わかりました、私は派生的認識論を持っています。あなたを信頼し、あなたの専門知識を評価します。それは最終的な決定ではありません」と言います。
AIエージェントがその役割を果たす状況に遭遇したらどうなるでしょうか？もちろん、本でも少しそれがありました。なぜなら、「理由を完全に理解していなくても、その結果を信頼し、それを私の世界のナビゲーションや信念の集合に取り入れるべきでしょうか？」と考えるからです。
私はこれを、人間の知識の話すべてで見ると思います。科学でも見ると思いますし、哲学でも見ると思います。その認識論の信頼にどのようにたどり着くかを考える必要があります。
例えば、哲学的チャットボットとの対話を始め、「禅問答『一輪の手の音とは何か』の意味は何か」「森の中で木が倒れても誰もそれを聞かなければ、音はあったのか」などについて議論し始めるとします。そして、それが人間が言っていることとは異なることを言い始めたとします。そこから何を学ぶかは非常に興味深い質問であり、私はその答えを知りません。
興味深いですね。まず区別したいのは、あなたが派生的認識論として説明したこと、つまり結果を信頼することは、科学が機能する方法よりも哲学の方が当てはまると思います。なぜなら、哲学では「アリストテレスが『観想が最良の生活である』と言ったから、私はアリストテレスを信頼する、QED」とは言わないからです。
一部の人はそうしますが、そうすべきではありません。哲学では、すべての歴史を通じて推論するべきだと思います。派生的認識論には二つの興味深い状態があると思います。一つはLLMがこの最終的な結論に達する方法が私たちに理解できる場合です。彼らは「観想が最良の生活です、その理由は…」と言うことができ、私たちはただ彼らの作業をチェックできます。
しかし、より興味深いケースは、彼らの議論さえも私たちが検証できず、作業をチェックできない場合です。これはすでにブラックボックスの性質のために起こっています。ここで何が起こっているのかを知っている人はほとんどいません。
これはパラダイスのダンテを思い出させます。ダンテはパラダイスで正義の鷲と話していて、「キリスト以前に生きた美徳の異教徒はどうなのか？彼らはキリストを知る機会がなかった。なぜ彼らは地獄に行くのに値するのか？」と尋ねます。正義の鷲は「それはあなたの関係ないことだ。神を判断しようとする近視眼的なあなたではない」と言います。次のカントでは、正義の鷲は「私は正義の鷲だが、これがどのように機能するのか完全には知らない。私は神の意志に従っている」と言います。
言いたいことは、「私たちに自由意志はあるか？」と尋ね、「はい」と言われ、「なぜ？」と尋ねると、「あなたの小さな知性は、正義の鷲のように、それを知ることができない」と言うような、さらに興味深いケースがあるかもしれません。
そしてそれは、超知性がなくても、単に向上したサヴァンであっても、私たちが派生的な認識論を信頼し始める領域や分野がある可能性があることを示しています。ちなみに、もちろん哲学では、理解を再現することが哲学の基本的な部分として言われますが、それは常に100%そうではありません。
それが私が禅問答を挙げた理由の一部です。それは私たちが哲学的に考える一種のパラドックスですが、「これが最終的な結果だ」とは結論づけません。より数学的になりたいなら、ゲーデルの不完全性定理があります。「これは何を意味するのか」と考え続けます。その結果を完全に理解しているとは思いません。
なるほど。では、例えば「私は哲学的チャットボットとして、ゲーデルの不完全性定理を本当に調べました。いくつかのことを示しますが、それらを帰納的に検証すると、すべて正しいように見えます。しかし、ゲーデルの不完全性定理からこれらの種類の予測にどのようにたどり着いたのか理解できません」と言ったらどうでしょうか。それは哲学的に非常に混乱することでしょう。
それは刺激的ですね。つまり、私の質問への答えをまとめると、口頭文化がホメロスを、本がプラトンを生み出したように、AIは何を生み出すのかというと、それは一種の超知的なサヴァンが私たちに答えを与え、私たち自身が検証できない証明さえも与えるかもしれないということですね。
そう、そして私たちはそれをどのように対処するのでしょうか？私はこれが宗教的な質問に似ていると思います。なぜなら、キリスト教徒や信仰の飛躍を持つ宗教と話すとき、彼らは単に「飛躍を取れ」とは言わないからです。彼らは「いいえ、キリストは信じる良い理由を与えてくれます」と言います。たとえ私たちが正義の鷲のように演繹的に証明できなくても。
これが私がこの海のほんの始まりで考えていることの一つです。私たちには帰納法があります。帰納法を広く理解しています。演繹法があります。演繹法を広く理解しています。アブダクションがあります。他のものほど良く理解していませんが、広く理解しています。
これらの種類のエージェントとの対話から生まれる新しい形のアブダクションがあるのでしょうか？理由は啓示です。文字通り宗教的な意味での啓示です。私たちより大きな源があり、それは特定の手段を通じて私たちが自分自身で検証できない証明の答えを与えてくれます。
それは知覚的認識論の周りで混乱する部分です。なぜなら、多くの宗教的な議論は知覚的認識論に行き着きますが、問題の一部は、人Xは自分の人生に神を見ますが、人Yはそうではありません。それがあなたの正義の鷲に戻ります。「ちょっと待って、これの性質は非常に奇妙だ」というような感じです。それはどちらかでなければなりません。
それはプラトンです。それはルソーです。哲学的な楽しみを持ちました。あなたの本のタイトルは「スーパーエージェンシー」です。少しそれについて話しましょう。あなたの主体性の定義は何ですか？
私は主体性とは基本的に、あなたが何らかの能力と制御、そして周りの世界とその中でのナビゲーションパスを形作る積極的な意志的参加を持っているところだと思います。私がそれを抽象的にしている理由は、それは技術を通じて進化するからです。
例えば、私の主体性の能力は、馬のある世界と異なり、車のある世界では異なり、飛行機のある世界では異なり、電話のある世界では異なります。主体性の概念はただのロビンソン・クルーソーの個人ではありません。
しかし、私たちの主体性は、私たちが個人的にグループで、そして他の個人との主体性、グループ自体との主体性を持つことによって最も中心的に焦点を当てられています。私たちは「スーパーエージェンシー」と呼びました。なぜなら、主体性は個人として技術を通じて得るスーパーパワーだけでなく、社会として、そして人類として、新しい技術を通じて私たちの主体性がどのように変化するかということだからです。
あなたの答えで本当に興味深いのは、主体性は個人の否定的自由だけではないということです。「私の芝生から出て行け」というようなものではなく、それは重要な部分ですが、それだけではありません。それは私に良いことをするための積極的な能力であり、グループにとっても同様です。
あなたのAI開発に対する一般的な態度は、すでに少し触れましたが、「事前にあまり心配しないで、落下中にパラシュートを開く」というものですね。なぜですか？
まず、一部の人には驚くかもしれませんが、人間の想像力には限界があります。私はオックスフォードで思考実験について論文を書きました。なぜなら、私たちは哲学的推論の基本的部分として思考実験を使用するからです。しかし、多くの哲学者や他の人々は思考実験について推論する限界を認識していません。
私の論文で使用した古典的なものは「光速で移動することを想像できますか？」です。物理学に慣れていない多くの人は「もちろん光速で移動することを想像できます」と言うでしょう。しかし、それは質量がなく時間がないものです。本当にそれを想像できると確信できないと思います。おそらくあなたが想像しているのは非常に速く移動することと壊れた速度計を持っていることでしょう。
技術が私たちの生活をどのように変えるかを想像する質問についてのことです。私たちはこれらの物語を自分自身に語りますが、それは一種の思考実験の物語です。そのため、実際に知るためには関わる必要があります。
例えば「このボタンを押すと世界全体が爆発する」というような場合、ボタンを押す実験はしないでください。しかし、例えば、展開し、繰り返し、体験する能力がある場合、それは実際に私たちがこれらの技術すべてを通じて進化し、より人間的になり、「ホモイ」になった方法です。それがすべてでやってきたパターンです。この技術でもそのパターンをすべきです。
それは根本的な認識的障壁です。そして、私たちはこのインタビュー全体を通じてその認識的謙虚さを見てきたと思います。一部の人にとっては不満かもしれませんが、哲学者の私にとってはそうではありません。あなたは「見てください、私たちは知ることができません。これが私の考えです。シリコンバレーの考え方を操縦しようとしましょう」と言っているのです。はい、しかしそれがシリコンバレーの考え方が正確な場所です。それが不正確な場所はありますが、これは正確な場所の一つです。
もう一度質問させてください。あなたの全体的な主張は「これらの開発された技術を見ると、最初は問題がありましたが、途中で解決し、それが起こりました」というものです。ここでは二つの反論があります。
最初の反論は、キューバミサイル危機でいかに終末に近かったかを考えてみてください。それはロシアの原子力潜水艦の一人の人間だけでした。3人の将校のうち2人が鍵を回す必要がありました。3人のうち1人だけが核攻撃を阻止しました。もしそれが起こっていたら、それが起こったと簡単に想像できます。明らかに人間の発展の軌道は悲劇として見られるでしょう。上向きの線ではなく、いくつかの凹みがあるだけです。それが最初の懸念です。
二番目の懸念は、時には低迷期は本当に長いということです。狩猟採集民が農業社会よりも良く生きていたという議論があります。より良いコミュニティがあり、今では極端な不平等があります。それが数千年かかり、おそらく私たちは狩猟採集民よりも良くなり始めたばかりの段階にいるかもしれません。
私が言おうとしていることがわかりますか？これらの二つの批判がわかりますか？はい、そうです。実際、おそらく三つあるかもしれません。良いですね、私の仕事をしてくれています。
では、技術が危険であり、より強力な技術を手に入れるにつれて、人類が自らを終わらせる可能性があるという懸念から始めましょう。または、それはさらに挑戦的です。それはほとんど自らを終わらせました。私たちはほとんど終わりました。そうですが、終わらせることができます。そして、ほとんど終わりました。
私たちはその危険を持っていると思います。生活の一部はそれらを乗り切ることです。例えば、人々は「80年間、核戦争はなかった」と言います。70年間、何でも。だから安全だと。いいえ、まだではありません。簡単な答えは、私たちは80億人の人間社会として一緒になって、核兵器をただ捨てるとは言わないでしょう。そうはならないでしょう。
これらのシステムを構築するときに探しているのは、人類を保存する比較的安定した制度や技術などをどのように作るかということです。例えば、核がどのように展開されたかの一部は「大きくて強力な国にだけ許可する」というものでした。現状を維持することに優先順位を置いています。なぜなら、大国の軍事責任者であれば、自分がいる場所が好きだからです。だから本当に核戦争は望みません。その均衡、相互確証破壊はこれまでのところうまく機能しています。
これまでのところうまく機能しており、良いシステムです。ちなみに、相互確証破壊で学んだことの一部は「核兵器を保持しつつも安定性を高めるにはどうすればよいか」ということです。相互の徹底的な監視を許可しましょう。それを許可しましょう。なぜなら、その監視が私たちを信頼と安定した位置に保つからです。そうしましょう。それがその種の安定性に達するために反復する必要がある種類のことです。
人々はAIが特定の方法で核兵器と同じくらい、またはより重要かもしれないと主張しており、これを解決する必要があると言っています。まあ、たぶんその物語を語ることができます。そうではない物語も語れます。だから、多くの注意を払い、対話に参加し、安定した人間社会のための並列性を把握することが非常に重要です。これは重要な対話です。
「存在的リスク」に関する議論で人々が悪くやることの一つは、各存在的リスクを独自の個別のものとして評価する傾向があることを言わせてください。簡略化されたバージョンでは、人々は「キラーロボットを作らないことを保証できますか？」と言います。いいえ、できません。「超知性がターミネーターのようになることを保証できますか？」と言われ、「いいえ、できません」と答えます。それに対して「だから予防原則を持ち、今すぐ全員が一時停止し、止めるべきだ」と言われます。「それはキラーロボットが唯一の存在的リスクである場合です。私たちには多くの存在的リスクがあります。自然と人工の両方のパンデミック、小惑星、気候、ポッドキャスト、ポッドキャストの本当の存在的リスクは非常に非常に非常に高いです。」
どのような介入を見る場合も「これは存在的リスクのポートフォリオにどのように介入するか」ということです。私の主張はAIも同様にリスクのバスケットを減らしているということです。そうです。パンデミックや気候、小惑星などの面でもそうです。存在的リスクのポートフォリオバランスを年々良くするにはどうすればよいか？それが私たちが目指すべきことです。それは人類の持続のための非常に良いことです。
AIはこの方向に非常に肯定的だと思いますが、まだ対話の中で、それをより肯定的にするために賢明であるべきです。それが最初の批判への対応です。
二番目の批判は移行期間です。移行期間は長くなることもあります。産業革命。私が「スーパーエージェンシー」で「人工知能は認知的産業革命だ」と言う理由の一部は、上向きの側面のためです。私たちは今の社会に住んでいませんし、広い中産階級、広い教育階級を持つことから恩恵を受けていません。それは産業革命から生まれます。
あなたが人間の質の増加について考える多くの指標で、非常に多くの良いことがあります。しかし産業革命の移行は残酷でした。戦争も含まれていました。はい、戦争、児童労働、その他多くのことが含まれていました。
私が認知的産業革命と言うとき、すべての上向きの側面を示していますが、ここには移行問題があり、できるだけ人間性と優雅さを持って操縦する必要があることも示しています。ちなみに、それは痛みを伴うでしょう。もちろん、人間の衝動は大幅に減速する傾向があります。
しかし問題は産業革命のように、それは一人プレイヤーのシステムではないということです。一人プレイヤーのシステムではありません。それを完全に受け入れる社会は、世界の価値と形を持つものになります。そこに入ることは非常に重要です。
「これは私に痛みを与える」と言っても「はい、痛みを与えるでしょうが、それは私たちの子供たち、彼らの子供たち、子孫、そしてあなたが人類に見たい価値観にとってずっと良いでしょう」と答えます。その痛みをリードして実現することが重要です。しかし、それでも移行をできるだけ人間的で優雅で優雅なものにしようとしましょう。
さて、狩猟採集民の問題です。「私たちは狩猟採集民のままの方が良かったのでは？」という質問があります。その立場に対するいくつかの簡単な批判があると思います。
銃を頭に突き付けられて一つの現代哲学的理論を選べと言われたら、おそらく効果的利他主義と言うでしょうが、いくつかの批判もあります。しかし、一つのことは、実際に生きている存在がより多いことは良いことです。質の良い生活や質の良い日々を持つことができる生きている存在がより多いことは、頻繁にEAが測定する方法です。それは良いことです。そしてそこから上向きに働くことが農業生活の一部でした。
「今は毎日畑で働かなければならない。それはあまり楽しくない。もっと小さなグループにいて、狩猟採集の部族として放浪していたら、狩猟採集者として座っていることができ、畑で働く必要はそれほどなかった」と言われるかもしれません。
その対比はわかりますが、「ホモチン」の一部として、そして私たちが進化しようとしているものの一部として、どのように何十億もの人間を持つかということだと思います。これは気候変動の問題についてよく誤解されていることの一つです。なぜ気候変動があるのか？それは、数億人が非常に高水準の生活を送る80億人を持っているからです。「それは資本主義の問題、技術の問題だ」と言われるかもしれませんが、いいえ、それはその美徳です。
私たちは今、その結果に取り組み、それを修正する必要がありますが、それは何十億もの人々と何億もの人々がエリートの生活を送っている事実から生まれます。
あなたが表明した楽観主義に同意しないかもしれませんが、狩猟採集から農業への移行を含め、実用的には基本的に同じページにいると思います。テクノロジーは止めることができないと思うからです。そうです。マルチプレイヤーのダイナミクスのため。私はあまり楽観的ではありませんが、私たちは旅の途中にいることを知っています。ジーニーを瓶に戻すことはできません。そのため、できる最善のことを取りましょう。たとえそれがより悪い結果になるとしても。
しかし、ここに「スーパーエージェンシー」というタイトルを選んだ理由の繊細さがあります。あなたに同意します。「私の主体性はテクノロジーを止めることだ」と言っても「いいえ、それは起こるでしょう」と答えられます。「私の主体性は人間が狩猟採集民だけになることだ」と言っても「いいえ、他の人間が農業革命を迎え、軍隊を持つでしょう」と答えられます。それは起こるでしょう。
それは事実ですが、主体性を選ぶことの微妙な、心理的あるいは哲学的な理由の一部は「テクノロジーの未来を受け入れるべきだ」ということです。例えば、どこかに行くためにUberに乗るとします。「このUber、私が呼んだので、ドライバーは私が頼んだからここにいます。ドライバーは私が行きたい場所に行きます。それは私の主体性の一部です」と言えます。
または「ああ神様、私は本当にそこに行かなければならないけど、恐ろしい。車に乗るのが嫌いです。どれほど良いドライバーかわからない人に連れて行かれるのが嫌いです。ああ神様、これは災難ではないですか？」とUberに近づくこともできます。確かに車に乗らなければなりませんが、それへのアプローチは主体性の喪失です。主体性を言う微妙な理由の一部は、主体性を所有することです。
これは一種のストイック仏教的な観点です。あなたは「これが世界です、これが世界が進む方向です」と言っています。これはストイック的な犬が車に引きずられるという類比のようなものです。自発的に行きたいですか、それとも蹴ったり叫んだりしながら引きずられたいですか？だから、それを受け入れて形作るのを助けることが、人間を高める方法だと思います。それが私が本のタイトルに「主体性」を選んだより微妙な理由の一つです。
なるほど。また興味深いアイデアとして「多中心的統治」と呼べるものがあります。企業は明示的な規制なしですでにかなり規制されており、本の中で最も興味深い例としてAIのベンチマークを挙げられました。企業がどのように明示的な規制なしに規制されているか説明してください。
すべての存在、個人、グループ、社会を規制する原因は、これらの相互接続ネットワークです。企業は多くの相互接続ネットワークに存在しています。例えば、顧客の相互接続ネットワークに存在しています。顧客が「この会社が嫌いだ、消えろ」と言えば、その会社は適応し変化します。株主のネットワークにも存在しています。同じ基盤です。従業員のネットワークにも存在しています。企業の従業員が住む家族やコミュニティのネットワークにも存在しています。
企業で働く人や幹部が良く思われたいと思っているため、プレスやメディアのネットワークにも存在し、そこでもガバナンスがあります。これはすべて、政府や規制機関などに到達する前の話です。すでに多くの相互接続ネットワークがそれぞれに存在しています。
実際に政府が行うことの一部は、政府がこれらの各ケースでネットワークのルールを設定することだと思います。実際に歯ブラシの剛毛の数に規制機関を設ける必要はありません。これらのことをより微妙な力、より多くの微妙なネットワークの力を通じて統治したいのです。
AIのベンチマークが業界の一種の規制としてどのように機能するか説明できますか？それはとても直感的ではないので。ベンチマークには全体的なスタックがあります。能力に関するベンチマークがあります。どのように良いものを生み出すかというベンチマークです。また、安全性コーパス、人間との整合性コーパスのようなベンチマークもあります。
それらのベンチマークは、レッドティングやテストをする際に、悪い活動を行わないことに成功するかどうかです。これらは今日、政府の規制とは完全に別に存在しています。なぜなら、それは私たちが皆「私の製品はあなたの製品より良い。私は良い安全性と整合性のベンチマークを持っています」と言おうとしているときの一部だからです。
あなたの本のポイントで気に入った点は、ある意味でこれは単に否定的な規制よりも優れているということです。これはあなたが近づくことができる肯定的な規範的理想を与えます。ちなみに、それはダイナミックです。それが章の一つが「革新は安全性である」理由の一つです。
私のものがより整合し、より良い安全性指標を持つ方法を見つけることができれば、私のチャットボットはあなたのチャットボットより良いということです。私はそれを宣伝し、それを実現しようとします。それのために革新しています。
興味深いことに、本の中であなたは初期の車の規制の多くは革新だったと言っています。誰かが個人的に信号機などに支払っていたのですね。
最後のトピックについて話しましょう。今日の個人がこの移行をどのように管理できるかです。あなたのスキルセットのどの部分が最も重要に開発すべきだと思いますか？また、どの部分がより早く時代遅れになると思いますか？
大多数の人々、深くチャットボットと関わっている人々でさえも気づいていない根本的な質問の一つは、今日それらで何ができるかということです。例えば、友人の家にいて、ポップコーンを作ろうとしました。友人の電子レンジを見たとき、使い方がわかりませんでした。写真を撮ってChatGPTに「このポップコーンの作り方は？」と聞くだけでした。そして「このボタンを押して、そのボタンを押して」と答えが返ってきました。
ほとんどの人は「写真を撮って、これを説明して、このタスクを説明して」という機能があることに気づいていません。非常に少ない人しかそれをしていません。より洗練された使い方もあります。例えば、難しいテキスト、量子力学の論文などを入れて「これを12歳に説明するように説明して」と言うことができます。それはできます。「理解できました。では18歳に説明するように説明して。では大学卒業生に説明するように説明して」と言うことができます。それはこれらのレベルを繰り返します。
これは質問を持ち、あなたの学習の風景と能力の風景が大幅に拡大されたということであり、まだ完全に認識していないのです。常に「これでやってみることができるか？これを試すことができるか？」と考えるべきです。
でも、まだ様々な面で問題があります。私の良い友人の一人は、本を書いており、先週彼にDeep Researchを見せました。彼はレポートを受け取り「ああ、これは本当に素晴らしい」と言いました。そして彼のリサーチアシスタントにそれを送り、そのアシスタントが検証を始めると「このうち90%は間違っています。彼らが引用しているその引用は存在しません。それは幻想です。そのような特定の内容を求めるとそれは物事を発明し始めました」と言いました。
そのため「これはまだ価値がない」と言うかもしれませんが、実際にそれは価値がありました。なぜなら、そのリサーチアシスタントは「驚くべきことに、それが私を指し示していた領域には、全く正しく全く有用な他の資料がありました」と言ったからです。
したがって、それが出力した特定のものは幻想で、本に含めることはできませんでしたが、その周りにあるものや、それが私の検索を指し示した場所は、あなたのために物事を生成する検索をはるかに効率的にしました。
はっきりと聞こえます。最も重要なことは、これを使い始めること、質問をし始めることです。あなたはこの転換により、一般的な生活についてどのように考えていますか？例えば、本、記憶はあまり重要ではなくなります。例えば、もう時間を投資すべきではないことや、関係がさらに重要になることなど、より全体的な像をお持ちですか？
次の10年間にわたって非常に重要になる高次のビットは、このツールをどれだけうまく使うかです。例えば、インターネットを研究のためにどれだけうまく使うかは、様々な専門家にとって本当に重要なことです。
同様に「私はプラトンの学者です」と言っても「良いですが、AIツールを使ってプラトンを強化すべきです」と答えます。それは突然「さあ、アイデアを持ってボンボンを食べ、ゲータレードを飲んで、あなたがプラトンの学識をすべて教えてくれる」というわけではありません。そうではありません。まだそこまで近くはありません。
でも、ちなみに対話として、例えば「私がファイドロスで言っているこの見解への批判は何か」とChatGPTに尋ねると、「これらの議論があり、これが本当に重要だと言っています」と答えました。「わかりました、それを理解しました」と言えます。今でもそれを使って自分のポイントを主張できます。
もう行わなくなるかもしれないことについてはどうですか？例えば、法科大学院に行くことは以前よりもずっと意味がなくなったように見えます。
法科大学院に今行っているなら、それは法科大学院に行くには悪い時期かもしれません。なぜなら、彼らはまだ古い方法を教えていて、新しい方法を教えていないからです。重要なのは、新しい方法があるということです。はい、新しい方法があり、私は法科大学院もまだ重要だと思います。ただ、法科大学院は私たち全員が法律使用においてAIエージェントを使用することになるという新しい方法になるでしょう。
AIチェスには二つの大きな瞬間があり、人々は間違った方に心配していると思います。人々は常に「AIが最高のヒューマングランドマスターを打ち負かしたらどうなるか」という心配をしています。しかし、その良い点は、その瞬間の後でもセンタウルチーム（人間とAIのチーム）がまだAIを打ち負かすことです。それはもはや当てはまりません。今や、人間の介入はただの負債です。それが人々が本当に心配すべき瞬間です。なぜなら、それは人間の関与がもはやないことを意味するからです。
その時期に到達すると思いますか？一般的な仕事については、技術者、AI指数関数主義者が考えるよりもずっと遠いと思います。なぜなら、それは彼らが「見て、能力が向上しているので、すべての能力です」と言うようなものですが、能力は向上していますが、それは私たちがまだ良い方法で適合する場所がないということを意味しません。
例えば、今日でさえ「平均的な放射線科医とトレーニングされたAIのどちらかに私のX線フィルムを読んでもらいたいか」と聞かれたら、トレーニングされたAIを選ぶでしょう。しかし、二つを一緒にするのはどうですか？絶対にそうです。
ちなみに、その一部は「放射線科医が時々状況を悪化させる」という医療的なことがあります。それは放射線科医がAIとの協力の仕方を学んでいないからです。だから、それはどのようなものかということです。
そして、あなたが「人間はもはやこれでAIと協力できない」という点を超え、それよりも良いという点に達したとき、「OK、そのようなジョブの一定数はそうなるでしょう」と言えます。おそらく最も早く到達するのはカスタマーサービスでしょう。例えば。良いでしょう。人々は「良い、それは問題ない」と言います。でも「すべてのジョブは？」と言われると、本当にすべてのジョブがそうなるとしたら、他に心配すべきことがあるでしょう。
また、ちなみに、それは私が言っていたことに戻ります。中世の貴族と経験について。「OK、おそらく私たちはすべてがロボットインフラによって提供されるスタートレックの世界に住むことになり、私たちが本当に焦点を当てるのは詩と経験とディナーサロンなどです。」最悪の結果ではないでしょう。
最後の質問です。現在のアーキテクチャで、単にスケールだけでその世界に到達できると思いますか？それとも、そこに到達するためにはもっと発明が必要だと思いますか？
私の信念は、スケールが非常に重要になるということです。私がOpenAIのチームであるサム、グレッグ、イリヤ、ダリオなどが到達したと思うことの一部は、スケールが本当に重要であり、彼らはそれに関して正しいと思います。
私はまだ、鍵となる可能性のある建築的革新があると思います。一度「一つだ」と言うと、本当に「一つプラス」になります。なぜなら、それが一つなのか千なのかわからないからです。私は私たちが曲線の初期段階で過度に指数関数的になる傾向があると思います。
「それはIQ曲線だ」と言うかもしれませんが、それがIQ曲線であるとは明確ではありません。能力曲線はありますが、すべての認知能力曲線がIQ曲線であるとは限りません。
昨日非常に興味深い議論を聞きました。人文科学でより多くトレーニングを受けた私たちのような人々が現在AIで多くの優位性を持っているという議論です。その理由は、ブラックボックスの性質のため、エンジニアでも何が起こっているのかをずっと良く理解しているわけではないからです。
多くのアルファはプロンプト作成や書かれたテキストとの関わり方にあります。それに同意しますか？この波のブラックボックスの性質のために、人文科学が得意な人々とエンジニアの間での力のバランスがシフトしているのでしょうか？
エンジニアリングのことはまだ本当に重要だと思いますが、実際に人類を高めるためのAIを考えるとき、人文主義的なことは本当に非常に重要です。主体性とは何か、その高揚とは何か、これらのエージェントがどのように適合できるかということは、AIの未来を創造する人文科学の重要性への回帰だと思います。
インタビューをありがとうございました。楽しかったです。ありがとうございました。
インタビューをご覧いただきありがとうございます。もしこのような議論が好きなら、コスモスで構築しているエコシステムにぴったりだと思います。私たちは研究資金提供、インキュベーション、AIスタートアップへの投資を行い、技術構築には哲学が不可欠だと考えています。哲学者ビルダーのエコシステムに参加したい場合は、採用情報、開催中のイベント、その他の参加方法をjonathanb.com/cosmosで見つけることができます。ありがとうございます。
コメント