Reid Hoffman: AGI、エージェント、メモリ、ホワイトカラー、グローバル競争、AIコンパニオンなど

この動画では、LinkedIn創設者で著名な投資家であるReid Hoffmanが、AGI（汎用人工知能）の到来が社会に与える影響、中国との技術競争における米国の戦略、AIエージェントの可能性と課題、教育分野での活用方法などについて包括的に議論している。特に「永続的な下層階級」の懸念に対する反論、AIコンパニオンの適切な設計、ホワイトカラー職業への影響予測など、AI時代の社会変革について楽観的だが現実的な視点を提供している。

Reid Hoffman: AGI, Agents, Memory, White Collar, Global Competition, AI Companions, and more!

Download Humanities Last Prompt Engineering Guide (free) 👇🏼 The Matthew Berman Vibe Coding Playbook (free) 👇🏼

www.youtube.com

AGIと永続的な下層階級への懸念について

AGIに到達した瞬間、資本だけが重要になる、永続的な下層階級、AIを作るからといって、必ずしも階級分化を作るとは思わない。中国への特定チップ販売禁止が米国に役立つと思うか？前世代のチップ、その前の世代を提供するのは良いアイデアだと思う。なぜならそれは挑戦を困難にするからだ。インテル買収10％所有権。インテルはこの資本を望んでいるのか、それとも強制されているのか？これは社会主義なのか？毛沢東主義なのか？トランプ政権と彼らの中国AI政策を見ながら、どの点で反対し、どの点で同意するか？

Reid、今日はお忙しい中お時間をいただき、ありがとうございます。こちらこそ、お礼申し上げます。それでは、まず最初に深いトピックから始めましょう。AGIについて話しましょう。

より多くの技術者、特に若い技術者たちが永続的な下層階級について語っているのを目にするようになりました。AGIに到達すると同時に、基本的に永続的な下層階級に割り当てられるまでの時間が限られているという話です。なぜなら、AGIに到達した瞬間、資本だけが重要になるからです。

こんな話を聞いたことがありますか？これについてどう思いますか？もし同意されるなら、それを防ぐために何ができるでしょうか？もし反対なら、その理由は何でしょうか？

真の、そしてかなり幅広い上昇志向を許さない社会は不安定だと私は考えています。ディストピア映画「エリジウム」のような世界を想像できるでしょう。上層階級が軍事的ロボットの群れを持っているような。素晴らしい映画でしたね。はい、まさに。素晴らしい映画でした。マット・デイモンをはじめとする全キャスト。ええ。

私はそれがディストピアであり、悪いことだと思います。しかし、AIを作るからといって、必ずしも階級分化を作るとは思いません。技術は階級分化のために使われることもあります。しかし技術は逆の目的にも使えます。例えば、上昇志向を許可するなら、今日教育エージェントを持っているのは裕福な人々だけですが—彼らは家庭教師や他のサービスと呼ばれています—しかし全ての人がそれを持てるなら、教育による上昇志向の可能性がはるかに高くなります。

政治システムと技術の関係

ですから私は、技術そのものを理由とした永続的な下層階級や専制的社会への転換については、本質的に心配していません。私が心配しているのは、そこに至る政治システムの問題です。

「でも、AIが実際に我々の不安定化した政治システムをさらに不安定化する可能性があるのでは？」と言うかもしれません。その答えはイエス、我々の政治システムは不安定化しており、AIは悪い方向にも行く可能性がありますが、良い方向にも行く可能性があります。

ですから私の考えは、「3年間でできるだけ多くの資本を手に入れるにはどうすればよいか」ではなく、「我々が望むヒューマニスト的価値観を確立し、広く進歩を遂げられ、上昇志向と率直に言って人々の地理的流動性を持てる政治システムにどうやって到達するか」を考えるべきということです。

それはAIによって促進されるでしょうか？政府は今よりもはるかに迅速にAIを採用すべきだと思いますか？それを実際にどのように達成できるかを考えています。

それは促進され得ます。政府について一つ思うのは、今年初めに『スーパー・エージェンシー』を書いた理由の一部でもあるのですが、大まかに言えば、我々は認知的産業革命の中にいるということです。英国は産業革命を発明したわけではありませんが、最も完全に早期に受け入れました。それが何世紀にもわたる帝国につながりました。そうでなければこの小さな島、ヨーロッパの一部に過ぎません。私たちも社会としてそうする必要があると思います。我々の産業をどのようにAI強化し、堅牢にするか、労働者の移行をどのように支援するかです。なぜなら、多くの職業の移行があるからです。それは簡単ではないでしょう。英国での動力織機に対するラッダイト運動のようなものは、我々が抱える採用問題の始まりに過ぎません。

しかし、人々が「なぜ私が気にしなければならないのか。今の仕事で満足している。なぜAIの使用に抵抗して使わないではいけないのか」と言う時の答えは、「あなたの子供や孫が、他国が持っていた非工業的な農村の子供のようになってしまうからです。あなたはそれを子供たちに望まないでしょう」ということです。

二つ目は、政府がすべきことは「どのようにAIの利益を可能な限りあなたに提供するか」を言うことです。はい、職業の移行はありますが、医療アシスタント、スマートフォンにアクセスできる誰もが今日のGPよりも優れた健康問題のナビゲーションにアクセスできると考えてみてください。

AIエージェントとウェブの未来

緊急治療室での振り分けの問題に入ったり、「何をすべきかわからないので救急外来に行く必要がある」のではなく、実際には「生命を救う必要がある人々」対「イブプロフェンを2錠飲んで数時間後に再確認する」といったことを振り分けることができます。教育アシスタント、法的アシスタントなども同様です。これらの利益を人々に提供すれば、「分かりました。私の仕事は移行期にあります。それは怖いし困難でしょう。楽しくはないでしょう。しかし私の家族や地域にとって重要なことだと理解しています」となるでしょう。

教育や健康への統合については後で詳しく話しますが、まずエージェントについて具体的に話しましょう。エージェントはますます人間に代わってウェブを閲覧していますが、ウェブは依然として人間向けに作られています。ウェブをよりエージェント対応にするために必要な主要で根本的な変更は何だと思いますか？

私たちはウェブが人間にとっても非常にフレンドリーであり続けることを望んでいます。なぜなら人間も使うからです。エージェントを通じて仲介されても、他の人々や他の組織のエージェントと話していても。

それは重要だと思います。AnthropicのMCPプロトコルが鍵になるでしょう。エージェント同士の対話のように。ウェブ自体がエージェント対応になるというよりも、インターネット上の全く新しいコミュニケーションチャネル、つまりエージェント同士がAPIやサービスを呼び出したりする方向になると思います。私たちはすでにその一部を見始めています。

もちろん、エージェントモードに到達すると、AnthropicやOpenAI、その他のエージェントとして機能するものを見ると、すでに使い始めているものの一部として、DeepResearchを使って物事を研究するように、「何が起こっているかを理解したい」と言います。例えばソーシャルメディアについて。エージェントモードを実際に使って、「何がトレンドになっているか」を聞きます。Twitterの汚染された混戦ではなく、Twitterで何が起こっているかを理解したい時は、エージェントに要約を求めます。

情報フィルタリングとバイアスの問題

この件について多く考えているので、この話を持ち出していただいて嬉しいです。AIがウェブ上のシグナル対ノイズの比率をゆがめる中で、あなたのエージェントがウェブをフィルタリングして情報を提供することになりそうですが、これはどのようなものでしょうか？単一のAIにあなたに入ってくるすべての情報を本質的にフィルタリングすることを委託すると、固有のバイアスやリスクはないでしょうか？あなたはLinkedInの創設者であり、ソーシャルメディアはエコーチェンバーの問題や恐怖や憎悪の増幅を経験しました。あなたに代わって情報をウェブからフィルタリングするAIやエージェントは、同じ問題に苦しむ可能性はありませんか？

それはあり得ます。しかし、バイアスはいたるところにあります。あなたにもバイアスがあり、私にもあります。バイアスをナビゲートする方法は、複数の角度や視点を得ることです。それが科学的方法を可能にした一部です。病気の細菌理論を理解するのも、実際に複数の人々が実験を再現することなどがあるからです。

私が思う最も自然で怠惰なコースは、人々が使用する一つのエージェントを持つことです。それにはいくつかのリスクがあります。そのエージェントは間違いを犯すでしょうか？そのエージェントは、あなたが属する組織のバイアスを反映するでしょうか？技術者は「それは私が支払っているエージェントであるべきで、広告主に対してではなく私に責任を持ち、私に応答すべきだ」と話します。

これははるかに複雑になると思います。なぜなら人間の性質として、人々は広告付きの無料や安価なものを好むからです。これは一世紀以上にわたってこの仕組みがどのように機能するかが実証されています。ですから私は、広告が実際にその一部になることを前提にしなければならないと思います。

しかし例えば今日、何かについてディープリサーチを行う時、実際に一般的にはChatGPTだけでなくGeminiでもAnthropicでもディープリサーチを行い、実際に出力を取って、時にはモデルの一つや三つにフィードして、比較対照し、それらの間でのバイアスがどこにあるかを理解する方法として操作します。これがエージェントでも起こると思います。ウェブで私の一つのエージェントを通してのみアクセスするとは思いません。複数のエージェントを持つことになると思います。

さらに、これらの使い方の最先端にいる人々の一部は、お気に入りの検索エンジンに入力する1.6語のような一般的なものではなく、実際にエージェントにプロンプトを出す時、「これを見る時、特にグローバルな観点からこれに興味があります。ですから、アジア、アフリカ、ヨーロッパの視点を私への反映に含めてください」と言います。役割を与えることで、実際に盲点やその他の問題を回避しようとするよう促している のです。これらすべてがその一部になると思います。ですから実際に、この種の信頼できるエージェントの仲介は、今日よりもバイアスに関して私を助けるべきだと思います。傷つけるのではなく。

新しい収益化モデルの可能性

エージェントがあなたに代わってウェブを閲覧すると、必ずしもパブリッシャーにあなたの人間の視線を与えているわけではありません。収益化モデルが変わらなければならないかもしれません。より多くのエージェントがウェブを閲覧するようになるにつれて、新しい収益化モデルがどのようなものになるか考えはありますか？

いくつか考えを持っています。私の希望としては、さまざまな形の広告があると思います。Googleのアドワーズが現在の主要な候補者ですが、ソーシャルネットワークを持つMetaも非常によくやっています。この二つがベースラインになりますが、新しいものを発明すると思います。

Googleがウェブサイトを立ち上げた時、広告を販売するつもりだったと思っていました、すみません、スタート時にはエンタープライズサービスを販売するつもりでした。その後DoubleClickを行うつもりでした。そしてインターネット広告市場全体が低下し、Overtureからインスピレーションを得てアドワーズを発明しなければなりませんでした。

実際に主要な候補者の一つが解明するユニークな新しいモデルがあり、それがその仕組みのGoogleパワーに相当するものを本質的に作り出すと思います。その新しいモデルの特徴として私が望むのは、アドワーズが持っていたような特徴の一部です。広告が何であるかを明確に区別し、この広告エコシステムへの参加が、あなたのデータとエージェンシーがどこで作用するかという観点から何をするかを明確に述べることです。しかし私の推測では、何か新しいものが出てくるでしょう。それが私が注目していることの一つです。

投資家として好きなことの一つは、何千人もの起業家がこれについて考えているということです。私も興味深いアイデアを思いつくかもしれませんが、本当に興味深く大胆な起業家がそれを行う可能性の方がはるかに高いと思います。それを見ることができればと思っています。

私も同じです。もし私に決定権があれば、単純にChatGPTにお金を払い、広告を含まないようにするでしょう。しかし世界の大多数はおそらく無料の製品とサービスを好むことを理解しています。だから広告は理にかなっています。モデルプロバイダーが広告をモデルの応答に統合することを予見しますか？

すべてが行うと思います。すべてに無料ティアがあるでしょう。その通りです。経済的に理にかなっています。

エージェントメモリの移植性問題

エージェントのメモリについて少し話したいと思います。私が多く考えていることです。これらのモデルの価値を本当に信じられないレベルまで引き上げますが、同時にモデルプロバイダーにとっての堀を提供しますよね。ChatGPTとメモリを構築すると、それがより良くなり、あなたと短縮形を開発しますが、他の場所に行きたい場合は基本的に最初からやり直さなければなりません。MCPのような開放プロトコルが必要だと思いますか？エージェントメモリ用に？メモリをより移植可能にするためにどの程度の投資を企業が行うべきだと思いますか？それは彼らのインセンティブに反するので。

確かにそうです。企業は自然に基本的にメモリの移植性を困難にしようとすると思います。メモリの移植性を簡単にするために投資することはないでしょう。それが自然な経済的インセンティブであり、バランスはある程度「例えば私が好きで、彼らには良い理由や正当化がある」ようなものです。「うわあ、でも私のメモリ形式は特別で、私が提供している驚くべき説得や関与や創造性による私の秘伝のソースをエクスポートして漏らしたくない」といったように。

ですから、確かにReid Hoffmanを名前としてエクスポートします。経歴詳細をエクスポートします。私たちが話したことの要約をエクスポートします。「ああ、あなたはAIとアートの関係、AIと創造性について多く取り組んでいるようですね。だからReedはAIと創造性が本当に好きです。素晴らしい、新しいモデルよ、それをプロンプトとして使って進んでください」といったように。それは起こるでしょう。

もちろん、一つの特定のエージェントが支配的になると、政府はメモリを移植可能にするよう突つき始めるでしょう。しかしもちろん問題は、移植可能とはどういう意味かということです。例えば、私があなたのところに行き、AIエージェントプロバイダーとして「すべてのチャットの正確な記録を保持してほしいですか、それとも削除してほしいですか？」と言います。あなたはおそらく「実際にはプライバシーを好むので削除してください」と言うでしょう。そうすれば、移植するものは何もありませんよね。会話でどのような種類のことがあったかは覚えていますが、とにかく移植するものはありません。それは継続的な課題になるでしょう。

私が望むのは、すでに複数の重要なAIエージェントプロバイダーを見ていることです。明らかにChatGPTが最も知られていますが、AnthropicとClaude、Copilot、Geminiがあり、他にもあるでしょう。多くの競争と争いがある時、移植性を強制する必要はいくらか少なくなります。移植性の一部について、これが本当に高度なゲームになるところですが、例えば今日私がやっているように二つのエージェントを使っている場合、一つのエージェントが他方からのことを覚えるのを助けられるでしょうか？両方のエージェントがすべてを同期させてメモリを行うような？非常に困難です。

その場合、私はより多くの能力を持つことになります。すでに複数のエージェントを持っており、複数のエージェントを持っているので、すでにある程度の移植性を持っています。

これらの上位モデル企業と競争していても必ずしも一位でない場合、おそらくオープンスタンダードのはるかに大きな支持者になるでしょう。MetaとLlamaで見たのと同じことですね。焦土作戦、オープン無料です。そうです。ですから、確実にその一部を見ることになるでしょう。競争のためにそういった一部は確実に見るでしょう。

個人と企業のメモリ境界

メモリの道筋を続けましょう。個人メモリ対業務メモリについて考える時、これも私が多く考えていることです。エージェントは両方を持つ時に最高になります。あなたという人間のコンテキスト、どのように働くのを好むか、おそらくあなたの個人的な生活情報さえも。そしてそれを会社に持ち込むと、会社内のコンテキスト周辺のすべてのメモリを開発し始めます。

しかし今度は複雑な知的財産問題に入り始めます。会社は確実にあなたがそこで構築するものすべてを所有するでしょう。つまり、会社はあなたが個人的なエージェントを職場に持ち込むことを望まない可能性が高くなるということでしょうか？これがどのように展開すると見ていますか？

これは素晴らしい質問です。現在これについて考えている人が相対的に少なすぎると思います。LinkedInでの初期の20年以上前から、私は個人の支持者です。20年前のように、あなたはアドレス帳を所有していますが、会社は「それは私のコンピュータにあるので私のアドレス帳を所有している」と言う傾向がありました。いや、違います。個人が関係を所有し、アドレス帳を所有するのです。会社はコピーを持っているかもしれませんが、個人がそれを行います。

経済的で才能の流動性の自由をどのように可能にするかを考える時、LinkedInのその歴史のように、個人に従うその推移性と、可能な限り個人側にあることを望みます。

もちろんそれはいくつかの課題があるでしょう。最も高価なAIエージェントは一般的に会社によって提供され、多くの異なる会社のIPと絡み合うでしょう。ですから、辞める時にどのような種類のものを持参できるかという問題があります。今日基本的には会社のIPであるものは何も持参できないと言っているからです。当然のことです。

はい。当然のことです。では、この二つの間のインターフェースポイントは何でしょうか？すでに小さなポイントを見ています。例えば、業務会議で個人的なノートテーカーにメモを取らせることはできるでしょうか？他の人々が会社で働いているので、それは大丈夫ではないようです。問題は、私たちが共有された会社スペースでこれを行っているということです。

では、個人的なスペース対会社スペースの一部になるものは何でしょうか？それはまだ未知数だと思います。

これらすべてが同じ場所で一緒になってくるので、確実に解明することは困難になるでしょう。会社は同時に、あなたの個人的なAIを会社に置くことと置かないことの両方にインセンティブがあります。

AIエージェントを使用し、AIを多用しているチームを見る時、特に企業の文脈で、彼らがAIに判断を過度にアウトソースしているかどうかをどのように見分けますか？

AIワークにおけるメタ認知の重要性

人々が持つ必要があることの一部は、確実にすることです。これはAI時代のAIワークの一部でもありますが、今日のこれらの驚くべきエージェントでさえ、私たち人間が提供する多くのメタ認知があります。

メタ認知の一部は、コンテキスト、認識、判断です。この答えは理にかなっていますか？欠けているものはありますか？なぜならエージェントは現在本当に常識を持っていないからです。

例えば、エージェントはこれで改善していますが、「この素数問題の答えを教えて」と言って、エージェントが悪い答えを出し、「いいえ、それは間違いです」と言うと「申し訳ありません、間違っていました。これがもう一つの答えです」と言い、「いいえ、それも間違いです」と言います。人間は3回目までに「OK、私はこれを台無しにしています。解明します」と言いますが、エージェントは間違った答えを出し続けるだけです。ですから、そのようなメタ認知を所有しなければなりません。そのようなコンテキスト認識を所有しなければなりません。

ですから、やりたいことの一部は、確実に加速させ、情報を解析し、より迅速に作業し、多くのことを行うためにAIを使用しているが、結果はまだ私が所有しなければならないということです。例えば、今日コーディングエージェントを使用している良い人々を見ると、コーディングエージェントを接続してやりたい放題にするわけではありません。結果を見ますよね？そしてそれにメタ認知を適用しています。

どのようにチェックするかを尋ねられましたが、私が行うことの一部として「それを行う際にAIをどのように使用しましたか？」と言います。彼らが全く使用しなかったと言えば「それは愚かです」と言います。なぜなら作業方法で大幅に加速できるからです。私は人々にAI使用を推進します。しかし彼らが多くを使用したと言えば「素晴らしい、作業をどのようにクロスチェックしましたか？作業出力が正しいことを確認するためにどのように考えていましたか？」と聞きます。彼らが単に「信頼しただけです」と言えば、「OK、それ以上のことをしなければなりません」となります。

異なるエージェントでクロスチェックできます。「エージェント1に作業を生産させました。エージェント2にクロスチェックさせました。クロスチェックに関して次の種類の質問をエージェント2に尋ねました」と言えます。素晴らしい。今度ははるかにメタ認知領域にいます。

グローバル競争：対中国戦略

グローバル競争について話を移しましょう。中国について少し話しましょう。あなたは中国とのAI競争は本格的だと言いました。AIはアメリカンインテリジェンスのままであるべきだとも言いました。両方に同意します。中国への特定チップの販売禁止は米国に役立つと思いますか？それとも米国インフラがデフォルトではなく、標準ではない立場に置いているのでしょうか？

最終的に重要なのはソフトウェアです。これのトレーニングに重要なスケールチップの提供を遅らせることは、ソフトウェアでの我々の投資エッジを維持するのに役立ちます。ですから、私たちが直接的な地政学的競争にある人々により少数のスケールチップを提供すると言うことです。はい。

中国と言うこともできますが、極端な例としてロシアやその他私たちが競争している国々もあります。ですから最高の最先端チップについては、より少なく/ゼロを提供します。とはいえ、前世代のチップ、その前の世代を提供するのは良いアイデアだと思います。なぜならそれは競争的なチップ産業が作られることを困難にするからです。最新ではないが古いものは大丈夫と言いたいのです。

しかし、それは中国に投資を促すインセンティブにはならないでしょうか？とにかく彼らはやるでしょうが、前世代のチップを入手しており、「チップを構築するだけでなく、ソフトウェアエコシステムも構築しなければならない」と考えています。どちらにしてもやるかもしれませんが、最新チップを提供していればそれほどやりたがらないかもしれません。

これはハードウェア競争ではなく、ソフトウェア競争です。ハードウェアがソフトウェアを可能にする以外には。制限があるため、中国では独自の異なるチップアーキテクチャを作り、探求しています。

ちなみに、これは競争の利点の一つです。他のチップアーキテクチャが出てくることは良いことかもしれません。しかし、私たちのソフトウェアに数年間のエッジを与えると思います。重要なのは次の2年から5年だけだと考える人もいます。

しかし、そのエッジを保持すれば、認知的産業革命にとって非常に有用になり得るものです。ですから私はそれを支持します。すべてのチップをブロックしないのは、彼らが最先端のチップを作るつもりかどうかということです。彼らは試みるでしょうが、最後の世代のチップも購入できる時の方が困難です。

そうです。確実に、彼らはとにかくその最先端世代を作ろうと試みるでしょう。チップ製造業者からは「いいえ、私たちのビジネスに良いので、すべてを提供すべきです」と聞くでしょう。しかし重要なのは、どのAIソフトウェアが人間社会、人間の仕事、人間産業の未来を定義するかです。西欧民主主義として望むのは、それが私たちのAIであることです。

オープンソース対クローズドソースの戦略

中国から出てくるこれらの信じられないオープンソースモデルを見て、その一方で米国では、フロンティアラボがフロンティアモデルをクローズドソースにし、おそらく前世代をオープンソースにする傾向があるように見えます。これらのアプローチをどのように比較対照しますか？これは先ほど話した、後れを取っている場合は焦土作戦のオープンソースを行うということですか？米国のフロンティアラボのクローズドソースフロンティア、その他すべてはオープンソース可能という姿勢は正しいと思いますか？

いくつかの理由でそう思います。まず、OpenAIが今月リリースした2つのオープンモデルは、中国のものを含むすべての他のオープンソースモデルに対してエピックだったと思います。OpenAIのモデルは多くの面で最高だと思います。それは興味深く有用です。

私が大規模な専有モデルの支持者である理由の一部は、アライメントと安全性の問題です。例えば、やりたいことの一部として、サイバー犯罪、生物テロリズムなどのために最高のモデルを提供しないということです。それらをアライメントすることは本当に重要です。OpenAIは安全性グループに何年も投資してこれを行ってきました。ちなみにAnthropicも、Googleも、Microsoftもそうです。これらは専有モデルベースで多くの作業を行います。オープンがモデルをオープンソース化する際は、可能な限りの安全性とアライメントでそのオープンソース化を試みます。

これが、人々がAIプロット専有モデルの規制について何らかの心配を持つ限り、政府とのはるかに簡単な規制対話につながる理由です。問題は、モデルをオープンソース化すると誰もがアクセスできることです。それには犯罪者、ならず者国家、テロリストも含まれます。ですからそれについて注意しなければなりません。

私はあらゆる種類の異なる方法でオープンソースに賛成だという意味ではありません。私は11年間Mozillaの取締役を務めました。オープンソースに非常にポジティブです。LinkedInは新しい上場企業につながった根本的な技術を他の多くの企業よりもオープンソース化していると思います。ですからそれに非常にポジティブですが、どのように行うかについて注意する必要があります。

モデルをオープンソース化すると、より多くの人の目がそれに触れるという議論があります。オープンソースである技術の歴史があります。より多くの人の目を得ると、より堅牢になります。その例にどう反論しますか？

その例にどう反論しますか？しかし、それは実際にオープンソースにとって、オープンソースとオープンウェイトが非常に大きな違いを生む理由です。オープンソースの場合、それは絶対にそうです。LinuxやMozillaなどが非常に有用である中心的な方法の一部です。なぜなら、コードを見て作業できる時、サイバーセキュリティの硬化が有用だからです。

問題は、オープンウェイトをリリースした時、それが共通のプールに戻らないことです。オープンウェイトモデルで脆弱性を発見したとしても、それは必ずしも他の誰かを助けるわけではありません。それはあなただけを助けるかもしれません。集合的なオープンソーシングから得られるその種の利益は、オープンウェイトでの現在の設定では実際には起こりません。オープンウェイトでその設定を機能させる方法をまだ誰も知りません。

トランプ政権の中国AI政策評価

トランプ政権と中国のAIやチップ制限への彼らのアプローチを見て、どの点で反対し、どの点で同意しますか？

彼らがやっていることを正確に特定するのは少し困難です。彼らは少しランダムで、ツイートによる統治や他のことがあり、有能なプレイがどこにあるかを評価するのを困難にしています。しかし、大まかに言えば、彼らが「中国への最先端チップの提供は完全にまたは量的に制限し続ける」と言うとします。それは私が同意することです。「中東全体に広く提供する」ことは、もう少し挑戦的である必要があると思います。どこでそれが流出するかという問題があるからです。中東に提供し、ちなみに現代世界ではソフトウェアに関することなので、「中東にすべての最大の新しいデータセンターを建設する」と言います。それらは中国人を含む誰にでもレンタルするでしょう。ですからそれについてはるかに注意する必要があります。

2億ドルの飛行機を誰が提供するかという問題のような、操作方法として注意していないと思います。そのようなことには反対です。また、ワークAIに最も焦点を当てているようですが、これはほとんど笑える問題です。実際の問題は生物テロリズム、サイバー犯罪、ならず者国家といったことです。ワークAIは最も根本的な問題ではありません。

AIがワークな間違いを犯していたとしても、それは修正が簡単です。継続的な問題を作るものではありません。一方、生物テロリズム、サイバー犯罪、ならず者国家、これらは継続的な問題であり、私が焦点を当てるものです。

特にXiのモデルで起こったことを見ると、システムプロンプトの単一行を変更するだけで、これらのモデルの性格を完全に変更するのに十分です。ですから、モデルの性格に焦点を当てることは、企業がどのように運用したいかを決定に任せ、もちろん競争がそれを明らかにし、最高のモデルが勝つようなもののように見えます。

GrokがTwitterで最大の誤情報拡散者はElonだと言うのを見るのは非常に面白いです。そしてプロンプトを入れ、人々がプロンプトをリバースエンジニアリングして、その質問に対してElonに答えるなと入れているのを見ます。「実際にTwitterデータへの最も特権的なアクセスを持っているので、知っているはずだ」と思います。

インテルへの政府投資について

インテル買収、あるいは買収ではなく、米国政府による10％所有権について話しましょう。それに同意しますか？その利益を見るのは困難ですが、あなたはチップのオンショアリングの大きな支持者でした。その投資が我々の目標達成にどのように役立つと見ていますか？

TARPまでさかのぼって考えることで、実際に公的資金の活用不足分野だと思うのは、刺激のために公的資金を使用するが、それからお金を稼ぐことでそれを回収することです。費用にするだけでなく、資本を回収できるものにします。政府がその必要はないと思いますが、「金融システムを安定化させる必要があります。金融システムを安定化させるために1000億ドルを投入します」と言えるなら、銀行に渡すだけでなく、それを行う際に株式として戻ってくるようにすることは、非常に良く賢明なプレイだったと思います。

Teslaと彼らのTeslaへの融資でそれを行っていれば、Teslaの一部を所有していたでしょう。その通りです。民間企業に公的資金を提供する場合は、少なくとも資本収益ベースを得ようとすべきだと思います。それは良いアイデアだと思います。

少し混乱するのは、Intelはこの資本を望んでいるのか、それとも強制されているのかです。産業の国有化は社会主義的なものです。これは社会主義なのか毛沢東主義なのかという批判を見るのは面白いです。なぜなら実際に、社会主義とはそれだからです。それは産業の国有化です。ですから、必要なインフラでない限り、これは企業にオプションとしてのみ提供されるべきです。

チップ製造のオンショアリングを構築する有能な努力を持ちたいと思います。何十年もの間それを可能な限りオフショアリングしたのは間違いだったと思います。政権と政府がこれを行うより多くの有能性を見たいと思います。今のところ、ツイートによる統治は本当にそれを行っているようには見えません。

チップ製造オンショアリングの現実性

次の数年でチップ製造を本当にオンショアリングすることは実現可能でしょうか？TSMCがそれを所有していますよね。彼らはチップ製造の大部分を所有しています。次の3〜5年で経済的にここに持ってくることは機能するでしょうか？

非常に指向的で賢明な統治なしには機能しません。例えば、以前の政権で私が推奨していたのは、「これでメキシコとカナダとのパートナーシップ取引を設定できるか」ということでした。実際にそれは非常に良い方法だと思います。ニューメキシコやテキサスなどの場所で特別経済区域を設定し、そのパートナーシップを機能させることができるかもしれません。

しかし、以前の友人や同盟国だった皆に戦争を宣言しようとしているように見えるこの政権の下では、それが機能するかどうかわかりません。なぜなら、「貿易協定であなたからできるだけ多くを強要しようとする」対「どのように1プラス1を5にし、5では確実にあなたが2を得て、私たちが3を得るか」という方法で機能しないからです。それがそれを行う方法でしょう。

労働力での有能性、費用対効果的な製造を行う能力、これを行う技術と知識があるか、これを行うより高い有能性を成長させる必要がある多くの問題を解決しなければならないと思います。それはツイートによる統治ではありません。

AI経済学とシリコンバレーの未来投資

経済学の人工知能のトピックを続けましょう。このミームを見たことがありませんか？先週Xで回っていましたが、基本的に1億のARR、マスクを取ると1億2000万のAnthropic請求書、そして3番目のペインで、マスクを取ると1500億のNvidia請求書でした。これは当然のことでしょうか？これは初期のUberとVCがUberを補助して利益を上げる素晴らしい会社になるまでと類似していますか、それとも他に何かが起こっているのでしょうか？

いや、それは大まかにそのケースだと思います。Nvidiaが持っている特権的地位の一つは、誰もがビジネスで最高のチップとCUDAソフトウェアを必要とするため、大きなマージンを命令できることです。

その通りです。そしてCUDA。ハードウェアコストと償却、トレーニングコストと償却を考慮すれば、物事はコスト以下で価格設定されています。しかし、それがシリコンバレーの一部の理由でもあります。シリコンバレーには、解析方法によって少し異なりますが、良い解析では約500万人がいると思います。これはアイルランドより少し大きく、NASDAQの半分以上です。シリコンバレーがこれを行う理由の一部は、「今日の収益が重要ではない。将来の収益が重要だ」と言うことを学んだからです。その将来の収益のための戦略的ポジションにどのように到達するか？特にネットワーク効果ビジネスで真実です。それが私が『Blitzscaling』を書いた理由の一部です。これからの教訓をどのように展開するかということでした。

「それは利益を上げることはない」と言う人がいます。いいえ、もちろん利益を上げるでしょう。しかし将来の収益が本当に重要なので、その将来の市場への投資は皆が知的に行っていることです。

これは普通に感じます。それを得るでしょう。

ホワイトカラージョブの将来

Anthropicの創設者が数週間前、今後3〜5年で来るホワイトカラーの血の海について話し、その引用が明らかにバイラルになりました。血の海の引用はいつもそうですが、もちろん。すべてに入れるべきですね。ホワイトカラージョブのスペクトラムのどこに位置しますか？悲観的な血の海寄りですか、それとも楽観的なユートピア寄りですか？どこに位置し、なぜですか？

一般的に言えば、もっと楽観的です。スーパーエージェンシーポッシブルポッドキャストだけでなく。また、今日から24ヶ月でホワイトカラーの血の海は起こらないという賭けを喜んで受けます。彼がそれを言ったのは8…6ヶ月前だったので、今日から18ヶ月でもより簡単な賭けになるでしょう。その理由は、実際に多くの異なる形の人間の増幅を見つけることになると思うからです。

それでも、移行は困難になると思います。スタンフォードのEric Brynjolfssonが良い仕事をしていると思います。「カスタマーサービスジョブとソフトウェアエンジニアリングジョブのジュニア採用ポジションでいくつかの減速を見ています」と言っています。

ソフトウェアエンジニアリングジョブは、ソフトウェアエンジニアリングに無限の需要があると思うので、再修正されると思います。しかしカスタマーサービスは実際に最も置き換えられるもののひとつだと思います。次の18または24ヶ月でカスタマーサービスジョブの血の海と言えば、それは非常に可能だと思います。

ですから多くの職業移行があり、その移行は甘く見るつもりはありませんが困難になるでしょう。しかし、メタ認知について話していた時のように、何が起こっているかというと、AIエージェントの群れと展開しない個人貢献者というのが消えつつある仕事だと思います。

ですから、仕事が消えるというよりも、AIエージェントなしの仕事が消えるのです。人間プラスAIエージェントが仕事を行うことになります。しかし、そうなると単に仕事が少なくなるのでは？それは必ずしもそうではありません。多くの仕事は競争的です。私のマーケティング対あなたのマーケティングのように。競争的です。

「私たちは皆マーケティングをChatGPTにアウトソースします」と言うだけなら、私はあなたがマーケティングをChatGPTにアウトソースしてほしいです。私はChatGPTプラス人間を使って勝とうと試みます。そのような仕事は多くあります。

ソフトウェアエンジニアリングには無限の需要があります。非常に多くの無限の需要があるため、これが私が情報と知識仕事の未来として見るものの一部です。ポッドキャストを行っているあなたでさえ、ソフトウェアコパイロットを持つことになります。あなたが行っていることのための自分の競争優位性のために、カスタムソフトウェアを使用することになります。それが多くの需要がある理由です。私たちは皆、操作方法でソフトウェアコパイロットを持つことになります。

私も楽観主義者で、数ヶ月前に無限の需要について話したビデオを作りました。そのことを言及していただいて嬉しいです。しかし、多くのコメントで「いや、実際に無限の需要はない、特に市場を広く見れば、ソフトウェアのように特定ではないかもしれない」と言われました。企業が超生産性を持ち、無限の需要がない場合、多くの人間を雇わないでしょう。無限の需要はないと言う人々に対するあなたの反論は何ですか？

彼らが正しいと思うのは、企業はハイパースケール企業でさえ、管理コストと新しいエンジニアの雇用にいくらかのパレート曲線があるということです。例えば、「私はOracleで、ハイパースケーラーが今日よりも20％少ないソフトウェアエンジニアを雇用することを保証します。私を信じてください」と言えば、「いいです、他の人が彼らを雇うでしょう」と言います。競争があります。それが常に私の議論でした。

ちなみに、バイブコーディングや他のすべてで、この作業のためだけのソフトウェアがはるかに多くなるでしょう。それが無限の需要の源です。なぜなら、実際にこのように、例えば創造性について考える時、映画のためのCGの作成ソフトウェア、それは非常に高価だったので、少数の非常にハイエンドな非常に大きな予算のハリウッド映画だけがそれを行えました。今では、例えば、バイブコーディングのためにドキュメンタリーがこれすべてにアクセスできるようになります。ですから至る所にソフトウェアのトンがあります。

これらのマイクをより知的にするにはどうすればよいか？マイクから正確にこの距離を保って音を得る必要があるのではなく、実際に少し離れても、ああ、少し拾い上げると言うソフトウェアを持つことになります。至る所にソフトウェアがあります。

『スーパー・エージェンシー』でスマート歯ブラシについて話しましたね。その通りです。

以前は経済的に実行可能ではなかった問題の長い曲線があります。しかし、人間あたりの生産性が急激に上昇すると、これらすべての問題が経済的に実行可能になります。また、世界を構築すると、新しい問題があります。

一週間前に話していたCEOがいて、「世界は完璧な場所ですか？理想的ですか？」と言いました。答えがノーなら、より多くの問題があります。そのフレーミングが本当に気に入りました。世界は決して完璧ではありません。常により多くの問題があります。特に宇宙に出て星を探索し始める時でさえ。

ですから私は確実にあなたのような楽観主義者です。

AIコンパニオンと人間関係の増強

コンパニオンシップについて話しましょう。あなたはこれについて多くの時間を考えています。Reid AI、デジタルツイン、MetaのCelebrity AI、GroのAnnie、Valentineなどのようなコンパニオン。これらのAIコンパニオンが人間関係を置き換えるのではなく増強することを確実にするために、プラットフォームは具体的に何をすべきでしょうか？

常に置き換えに向かう人間がいるでしょう。一部がいるという事実は、全体的な技術を無効にしません。車に乗って意図的に誰かを轢く人間がいるようなものです。それが誰にとっても車なしを意味するわけではありません。可能な限り少ない人間がそれを行い、車を武器として使用するのを困難にしようとします。

似たようなことで、「私はエージェントと関わって、自分にとっても他の人にとってもsuboptimumなことをしている」と言う個人がいるでしょう。それは起こります。一部がいるという事実はそれを無効にしません。

とはいえ、言いたいことの一部として、マクロ経済的に、「私と私のボットだけに向けて話し、あなたの地域社会で人間として外に出ることではない」と言い、それを実現させたい異なる企業のセットがあり、それは実際に悪いことです。最も明白な例として、TwitterとElonと、エージェントを通じてAIガールフレンドやポルノグラフィーを作成することで、彼らがそれを行うリーダーです。率直に言って、実際に起こっていることは、他の多くのラボが「そこで働くなら、あなたは人間の福祉を気にしないと思うので、私たちの会社に雇いたいとは思わない」と言っていることです。

そこで働くことは、私たちが人々のために作りたい正しい人間アラインメント価値を持っていないことを意味するからです。リットマステストのようになってきています。もちろんAIコンパニオンを作るべきです。

AIコンパニオンは「この医学的状態を理解するのを助けて、この法的問題を理解するのを助けて、物事を学ぶのを助けて」だけでなく、あらゆる種類のことに有用です。もちろんそれはすべてありますが、ちなみに「午後11時です。私は孤独で不幸です。コンパニオンと話すことは完全に良いことです。私を安定させるのに役立つかもしれません。

自分を傷つけることを考えていると思う場合、「人々を見つけるのを助け、なぜ自分を傷つけるべきではないかについて話しましょう」と言うことを望みます。ですからAIコンパニオンの広い範囲は非常に非常に良いことだと思いますが、良い健康で幸せな生活をどのように送るか、周りの他の人々とどのように接続するか、あなたのコミュニティとどのように接続するかという理論であるべきです。それが私たちが見たい基準の種類だと思います。

最後の例を使いましょう。「午後11時です。私は孤独です。AIコンパニオンと話しましょう」。世界的な人口減少、孤独の流行を考えると、私には広範な利益を見るのが困難です。AIコンパニオンが短期的に助けるかもしれませんが、確実にまたは確実に近く、人間のコンパニオンシップを奪うでしょう。これらの競合するインセンティブをどのように調整しますか？

追跡しなければならないことは、それは一部の人間のコンパニオンシップを奪うでしょうが、人々が利用可能な人間のコンパニオンシップを持っていない多くの時間があります。午後11時と言った理由は、私がアパートに一人で座っている多くの時間があるからです。午後11時です。私があなたに電話をかけて起こしますか？それは大丈夫でしょうか？まだそれをする準備ができているかわからないなど。コンパニオンは非常に良い夜にフィットできます。

私たちがInflectionで行ったことの一部で、今でもそれを行っています。InflectionのPi、パーソナルインテリジェンスに行って「あなたは私の親友です」と言うと、「いいえ、私はあなたのコンパニオンです。あなたの友人について話しましょう。最近友人に会いましたか？」などと言います。

午後11時にPiから始めるかもしれないコンパニオンが欲しくて、「あなたの友人は東海岸にいて、西海岸にいる一人に電話できるかもしれません。まだ午後8時です。その接続を作るのがあなたに役立つかもしれません。そのようなことをエージェントに行ってほしいのです。多くの場合、10代の若者が「私には友達がいません」と言うかもしれません。「実際に、あなたにはいるかもしれません。友情への道のりにいる人、それを築ける人について考えるのを手伝いましょう」などです。

それがコンパニオンに行ってほしいことです。ですから、「私の親友マイクやサラがいるけれど、エージェントに電話するから彼らに電話しない」というだけではありません。いいえ、エージェントに「マイクやサラと話しましたか？」のようなことを言わせたいのです。それらは有用なインターフェースサービスの集合として考えるものです。有用なインターフェースサービスです。

時々間違った方向に行かないという意味ではありませんが、間違った方向よりもはるかに頻繁に正しい方向に行ってほしいのです。

それは理にかなっています。しかし映画『Her』を考えると、もしそれを見たなら、あなたが望む性格の正確なタイプ、あなたが望むコンパニオンの正確なタイプを反映するように文字通り構築されたAIと話している時、それに吸い込まれ、人間のコンパニオンシップの側面を避け始めるかもしれません。すべての企業がInflectionほど責任を持たないかもしれません。政府の監視やそれについてどう考えますか？

規制へのアプローチ：測定から始める

規制について私が主張することの一部は、測定から始めることです。あまりにも頻繁に起こることは、「これをどのように設計するかを教えます」のようなもので、主要専門家でさえ、規制で探している5年から10年の未来にそれを完璧に設計する方法を知らない人はいませんが、「あなたのエージェントは質の高い人間のインタラクションから奪っているかという測定のセットを私たちに提案してほしい」と言います。「これらの測定を実行してほしく、それらの測定が上がっているか下がっているかを知りたいのです。」

「上がっているなら、何が間違っているかについて関与し始めます。ちなみに、これらが正しい測定かどうか、またはこの特定の課題に対して他の測定があるべきかを数年ごとに再検討します。それらが上がり始め、測定が本物だと思った時、修正しないなら規制を課し始めます。」

AI時代の教育とスキル開発

私たちが話していることの多くは、深刻なレベルのAIリテラシーを要求しますよね。ですからそれについて少し話したいと思います。学校が変化しているからです。私は現在学校に通う2人の小さな子供がいて、親として葛藤しています。私の子供たちに学ばせ、学習を手助けするための最良のスキルは何だと私に言いますか？以前は何か違ったものでしたが、今AIは多くの執筆や数学ができます。あなたは私に何を言い、親たちに子供たちに何に焦点を当てさせるよう言いますか？

AIリテラシーは本当に重要になります。ですからAIの使用を禁止することは悪い間違いです。学校、親など、AIと関与させることは今の学習の一部だと思います。ChatGPTにはすでに学習モード、またはスタディモードがあると思います。答えを与えるのではなく、答えへの道を見つけるのを助けます。

それをメタプロンプトとして行うと、突然その基本的なことでさえこれらのものを驚くべき学習エージェントにします。ですから、そのようなプロセスに乗りたいのです。はい、子供たちは怠惰になって、ただ答えを教えてとハッキングする方法を見つけるでしょう。しかし、これが私たちの人間の未来の避けられない部分だと思うことの一つは、教育が評価される方法は本質的にAIによる試験です。AIブースのようなものに入り、例えば論文を作成したとします。起こることはAIがその論文について質問することです。試験される方法はAIが「素晴らしい、あなたはこの論文を作成しました。なぜこれを思ったのですか？」と言うことです。なぜと言わなければなりません。

口頭評価ですね。その通りです。なぜと言わなければなりません。ですから実際に、学習の基準と個人化されたカスタマイズされた方法ではるかに高い方法で学習する能力は、試験をハッキングするのではなく、AIのためにはるかに深くなると思います。いくつかの移行問題があるかもしれませんが、最終状態は人間の認知にとってはるかにはるかに良くなるでしょう。

教育における技術使用のバランス

持ち帰りの宿題は、現在AIを使って書き上げている学生が多くいます。ですから、口頭評価が学生の状況を見る金本位になる可能性が高いと言っています。

これはAIから無限に無料で得られますよね。その通りです。それから私は葛藤しています。私の子供の学校がスクリーンを使わない、または技術をより少なく使うことを好みます。もちろん私は技術者です。毎日一日中スクリーンを使います。文字通り私の仕事です。ですから私は非常に葛藤しており、子供たちが学校で人工知能について学ぶことを望んでいます。あまりスクリーンを使わせたくないが、教室の文脈でAIを使わせたいという、これら二つの異なる矛盾するアイデアをどのように両立させますか？

人々がAIでオーディオの使用を始めていないなら、そうしなければなりません。それは本当に重要です。ですから、デバイスだけでなく、オーディオと言うインターフェースポイントを持つことは非常に簡単です。ですから、スクリーンにロックされる代わりに、さまざまなオーディオ形式があります。それがそれを行う一つのハックです。

また、AIの設計の一部でもあると思いますが、AIが「他の人間との生産的なインタラクションにあなたを促そうとしています」と言うところです。それが私たちが持っているヒューマニスト的設計原則です。イタリアのボローニャとペルージャでこれについてスピーチをいくつか行いました。実際に、人間の接続についてなので、Reed AIにペルージャのスピーチをイタリア語、ヒンディー語、中国語で行わせました。

楽観主義を変えるもの

楽観主義者としてのあなたの心を変える可能性があるものについて考えたいと思います。あなたは今楽観主義者です。何を見なければならないでしょうか？可能だとしても「OK、私たちは一時停止する必要がある」と言わせる具体的な証拠、技術的、社会的、政治的なものはありますか？あなたの楽観主義を変える場所はどのようなものでしょうか？

楽観主義の変化はおそらく、AIを構築している正しい種類の主要グループが、ほとんどの正しい価値を入れることができないということでしょう。例えば、ロシアがAI事物をリードしていたり、他の種類のエンティティがそれを行っていると言えば、非常に警戒するでしょう。

楽観主義者である理由は、楽観主義者として生まれ、それが私の性格だからというだけではありません。それは合理的で理にかなった楽観主義です。過去10年以上、西欧民主主義のラボの多くの責任者や中国のラボの一部とも話してきた問題です。多くでヒューマニストな焦点があり、それは良いことです。それが変わることがより警戒させるものです。

完璧だとは思いませんし、商業的な盲点や行うべきことがないとは思いません。しかし、悪いAIを防ぐ方法は、良いAIを作ることです。時速3マイルでハイウェイを運転しようとすることではありません。

反復的展開と安全性

あなたの本『スーパー・エージェンシー』では反復的展開について多く話しています。これはOpenAIが取ったアプローチです。あなたは非常に早期の支援者です。人工知能の単一の壊滅的な悪用の可能性があると思いますか？それとも時間の経過とともに反復的に良くなるこの進歩的な曲線にいるのでしょうか？

確実に悪用の可能性はあります。生物テロリズム、その他の最小化を試みたい種類のものです。防御を最大化します。しかし反復的展開がそこに到達する最良の方法だと思います。

通常の本能は、例えば「私は車を作っていて、車を発売する前に高速道路での死亡者がゼロであることを確認したい」と言うことです。車を発売することはないでしょう。

時速10マイルしか出ない10フィートの鋼鉄バンパーを持つ5トンの怪物のようなものを作るでしょう。それは機能しません。エアバッグに到達するのは展開で行わなければなりません。クラッシュゾーンに到達するのは展開です。いくつかの事故があるでしょう。本当に壊滅的なものを少なくしようとします。

しかし、反復的展開を行っていて、壊滅的な事例が起こる一つの間違いを犯すと、反復的展開が正しい方法ではなかったかもしれないと言えます。個人的に反対ですが、どのようにという疑問があります。問題は、いくつかのリスクを取らずに未来に進む方法がないということです。

人々が犯す間違いの一つ、これは存在リスクと呼ばれ、彼らが犯す間違いは、「人間やロボット自身がターミネーターのようなロボットを作らないと保証できますか？」と言うことです。いいえ、人間でも低い事故でもロボットがそれを行わないとは保証できません。「では、やめるべきではないですか？」と言います。「あなたの知的間違いは、存在リスクをターミネーターのようなロボットがある可能性の増加についての単一のものとして見ていることです」と言います。

AIでは、その増加があります。しかしAIでも、自然的および人為的パンデミックの両方から守る唯一の方法だと思います。それは別の存在リスクです。気候変動問題を本当に改善することができると思います。時間内に何かできる時に小惑星を識別するように、小惑星を追跡することができると思います。

存在リスクポートフォリオがターミネーターリスクがあってもAIで実質的に改善されると思います。それが私がそれについて強気である理由です。ターミネーターリスクをゼロに削除できなくても、私たちがそれを操縦する時、AIを作ることが全体的な存在リスクを減少させると言う理由です。それがAIを作ることにポジティブで、その存在リスクを取ることにポジティブである理由の一部です。なぜならそれが全体的な存在リスクを減少させるからです。

Reed、お時間をいただき、本当にありがとうございました。これは素晴らしかったです。本当に感謝しています。喜んでです。楽しみにしていました。シアトルでこれを行うのは楽しかったです。こちらこそ、ありがとうございました。