本動画は、米中間のAI競争における根本的な認識のずれを明らかにする重要な議論である。アメリカは汎用人工知能(AGI)という「箱の中の神」を目指した競争と捉えているが、中国の実態は製造業や医療などへのAI応用に重点を置いた実用主義的アプローチである。中国のAI政策は習近平個人の独裁的指示ではなく、企業・学術界・官僚機構など多様なアクターによって形成されており、地方政府は具体的な産業応用の成果で評価される。半導体輸出規制により中国は計算資源が制約されているが、DeepSeekのような効率重視の開発手法で成果を上げている。両国の技術に対する楽観・悲観の温度差は、過去数十年の経済発展の経験差に起因する。核軍拡競争の歴史的教訓を踏まえ、誤った認識に基づく破滅的な競争を避けるため、両国の実態を正確に理解し、安全性における並行規制と対話の可能性を探ることが急務である。
イントロダクション:冷戦時代の教訓とAI競争の類似性
皆さん、Your Undivided Attentionへようこそ。私はトリスタン・ハリスです。1957年、2つの出来事がアメリカとソビエト連邦の間の冷戦を大きく加熱させました。1つ目はスプートニクの打ち上げで、ソビエトが宇宙開発競争において遥かに先を行っていることを世界に示しました。
2つ目は、ゲイザー報告書と呼ばれる政府報告書の公表で、この報告書は2つの超大国間に「ミサイル・ギャップ」が存在すると警告しました。報告書によれば、ソ連は核兵器を大幅に拡大しており、アメリカも相互確証破壊を確保するために同様の措置を取る必要があるとされました。
JFKは1960年の選挙でミサイル・ギャップを中心的なテーマにしました。そして当選後、アメリカの核兵器の増強を劇的に加速させ、私たちが今日核軍拡競争と呼ぶものを始めたのです。しかし今日、私たちはゲイザー報告書が間違っていたことを知っています。ソビエトの文書や初期の衛星画像からの歴史的な集計によれば、ソ連は実際には核能力においてアメリカよりも遥かに遅れており、報告書が主張した数百発の大陸間弾道ミサイルを持っていたわけではありませんでした。
当時のロシアは実際には4発しか持っていませんでした。この話のポイントは、アメリカがソ連を敵対国として真剣に受け止めるべきではなかったということではありません。ポイントは、世界的な大惨事の可能性を持つパンドラの箱を開ける前に、私たちは最大限の明確さと状況認識を持つ必要があり、誤った物語や誤解に惑わされてはならないということです。
そして、もし1960年代にその明確さを持っていたなら、私たちは核軍拡競争を避け、競争ではなく外交と軍縮を追求するためにもっと多くのことができたかもしれません。さて、今日私たちは、アメリカと中国の間でAIをめぐる新たな破滅的な軍拡競争の瀬戸際に立っています。そして中国は、今年1月にDeepSeekが発表されたとき、独自のスプートニク的瞬間を経験しました。これは、彼らのAI技術がアメリカの最先端AI企業とほぼ同等であることを示したのです。
そして今、あなたはアメリカ政府とテクノロジー業界の多くのトップの声が、過去と同じ馴染みのある修辞を使っているのを聞いています。もし私たちが極めて有能なAIを構築しなければ、中国がそれを構築するだろう、そして私たちは何としてでも勝たなければならないという考えです。そこで、このエピソードでは、中国におけるAIの実際の状態について明確にしたいと思います。彼らは私たちと同じようにAI競争を見ているのでしょうか?私たちは同じものに向かって競争しているのでしょうか?そもそも私たちは競争しているのでしょうか?そして、中国政府と技術コミュニティは、リスク対報酬の観点から、AIについてどのような懸念を持っているのでしょうか?
今日のゲストは、どちらもAIと中国の専門家です。セリーナ・シューは、中国のAIの状態について広範囲に執筆しているテクノロジーアナリストで、エリック・シュミットとニューヨーク・タイムズで強力な論説を共著しています。マット・シーハンは、カーネギー国際平和財団のシニアフェローで、中国に焦点を当てたグローバルな技術問題を研究しています。
セリーナとマット、Your Undivided Attentionへようこそ。
お招きいただきありがとうございます。
ありがとうございます。ここにいられて嬉しいです。
中国のAI政策における最大の誤解
まず、お二人にかなり広範な質問から始めたいと思います。アメリカ人が中国とAIについて持っている最も根強い誤解は何だとそれぞれお考えですか?
私にとって最大の誤解は、習近平が中国のAI政策、中国のAI企業の軌道を個人的に指示しており、この分野で行われているすべての重要な決定に直接手を下しているという考えです。そして、習近平は毛沢東以来最も強力な指導者です。彼は権威主義的な一党制の政治システムを運営しています。ですから、明らかに彼は多くの権力を持っています。しかし、非常に実際的な基準では、これのほとんどは彼が単に関与していない詳細のレベルで起こっており、中国共産党内の上級幹部でさえ関与していません。
中国全土には、企業内、研究室内、学術界内、官僚機構内に、膨大な多様なアクターがおり、彼らは皆、中国のAIの軌道、彼らがリスクをどう見るか、彼らが技術の発展をどう見るかに大きな影響を与えています。そして、これらの人々は常に政治システムに情報を提供しています。
彼らは政府が技術についてどう考えるかを形成しています。彼らは、場合によっては、多くの場合、官僚からの実践的な指導なしに技術そのものを開発しています。そして、このアクターの多様性と彼らがエコシステムで果たす役割を理解することは、中国がどこに向かっているのか、場合によっては彼らがどこに向かっているのかに影響を与えることができるかを理解するために重要です。
そして、それを簡単に詳しく説明させてください。なぜなら、中国は中国共産党によって運営されており、習近平は中国共産党を運営しているという物語があるからです。ですから、外部からの見解からは、彼が実際に物事を運営しているように感じられます。これらが異なる場所から来ていることをどうやって知るのでしょうか?どのような認識論を使うのでしょうか?
私の研究の主な焦点の1つは、基本的に中国のAI規制をリバースエンジニアリングすることです。ですから、生成AIに関する規制のような中国のAI規制を取り上げて、この規制のすべてのアイデアはどこから来たのかと言うのです。それらを時間をさかのぼって追跡して、ああ、このアイデアはこの大学のこの学者から発祥し、この概念を普及させたのだとわかるでしょうか。
そして、この非常に実際的な例を1つ挙げます。彼らの2番目の主要なAI規制は深層合成規制と呼ばれました。そして具体的に彼らがしようとしていたことは、ディープフェイクを規制しようとしていました。それで、長い間、中国での会話はディープフェイクをどのように規制するつもりなのかというものでした。そして、テンセント、中国最大のテクノロジー企業の1つで、WeChatを作成し、エンターテインメント、ビデオゲーム、デジタル製品、すべて生成AIを使用するものに莫大な資金を投資している企業が参入しました。
彼らは、ディープフェイクについて常に話している皆のようになり始めました、それはあまり良くないですね。私たちはこの会話を少し方向転換する必要があります。ですから、基本的に彼らは多くのアメリカ企業がすることをしました。彼らは企業の思想的リーダーシップを発揮し、深層合成に関する報告書を発表し始めました。これは本当にこの技術のより良い用語であり、私たちは本当にそのすべての利点を理解すべきであり、私たちは非常に直接的にその用語が彼らの内部から発祥し、公式の議論に入り込み、規制のタイトルになり、その規制がどのように作られたかに影響を与えたことを見ています。そして、それは企業全体、学術界、シンクタンクなど、さまざまなレベルで起こっています。
ですから、習近平をそれに関連して考える方法、または上級指導者と言うだけの方法は、彼らは究極のバックストップのようなものです。もし彼らがアイデアに直接反対しており、そのことが起こっていることに気づいていれば、彼らはそれを止めることができるでしょう。しかし、ほとんどの場合、彼らはAI規制の詳細について意見を持っていません。彼らは、今後の大規模モデルにとって最も実行可能なアーキテクチャは何かについて意見を持っていません。ですから、これらのことは他の場所から発祥します。
それは非常に役立ちます。セリーナ、あなたはどうですか?中国のAI、AIについての最も強力な誤解は何ですか?
ええと、私はこれがますます多くの人々が話し始めていると思うものの1つだと思います。それは、私たちがAGIと米国と中国が人間レベルの知能である汎用人工知能に向かって競争しているという多くのことを聞いてきたということです。そして、政策レベルで実際に起こっていることを見ると、多くの企業を含めて、DeepSeekのようないくつかの最先端研究所の外では、これらの企業のほとんどはAIアプリケーション、AI対応ハードウェアについて非常に考えているか、あるいは地方政府の役人であれば、AIを製造業のような伝統的なセクターにどのように統合するかについて考えています。
ですから、これはスケーリング法則に動機付けられた非常にレバレッジの効いたディープラーニング経済ではなく、現在中国で現場で見ているようなものだと思います。
AGIに対する米中の認識の違い
わかりました。わかりました。セリーナ、表面上は米国と中国の両方、少なくとも米国は、私たちがこの箱の中の超神のようなもの、AGIに向かって競争していると考えています。超知能に向かって競争しているのです。そして、それがこの競争全体の目的です。なぜなら、もし私がそれを持っていれば、この永続的な支配的な暴走優位性を得るからです。
そして、あなたは中国が必ずしもAGIを同じ賞として見ていないと言っています。これについてもう少し詳しく説明していただけますか?これを本当に理解したいのです。なぜなら、それは現在米国のAIへのアプローチを推進している中心的なことだからです。
ええ、私は最初にここで注意事項を述べます。中国のトップリーダーが何を考えているかを正確に知ることは難しいです。しかし、業界で現場で起こっていることと政策でも見ることができます。
たとえば、AI+計画を見ると、これは発表された主要な国家戦略ですが、AGIへの言及はまったく見られません。第二に、彼らが実際に何を推進しているかを見ると、それは製造業や産業転換のような伝統的なセクター、そして科学やイノベーション、さらにはガバナンスのような新興セクターにAIを組み込むことに非常に重点を置いています。
ですから、それは非常にアプリケーション重視であり、彼らが推進しようとしているすべてのものは、実際に生産性の向上を見て経済を改善するために、AIを大規模に展開する方法に非常に重点を置いています。これが人々がAIについて考えている方法です。それは少し道具主義的です。
彼らはAGIを構築しようとしているわけではありません。彼らは利益を上げようとしているのです。ベイエリアで見られる専門用語のような擬人化されたマシンゴッドはありません。そして、それは中国の他の種類の技術との歴史のためかもしれません。これは哲学的に興味深いです。しかし、同時に、シリコンバレーの多くの人々が、マトリックスから彼女のような、そしてAIについて考えることやチューリングテストの方法のように、過去に教育を受けてきた文化的背景を持っていないからだと思います。
ええ。ええ、それをもう少し詳しく説明しましょう。なぜなら、これの多くは、AIの概念がどこから来るのかという哲学や宗教、あるいはある種の歴史的ルーツに帰着するからです。そして、シリコンバレーのAI哲学のルーツと、両方の文化にとってAIが何であるかを知らせるような哲学的またはSF的または他の種類の文化的系譜やアイデアのルーツについて、もう少しコメントしていただけますか?
米国の主要な研究所は、当時は非常に信念であり、私たちが汎用人工知能に到達しようとしていること、そしてそれが急速に超知能に変換されようとしていること、そしてこれは本質的に無限の利益をもたらす可能性があるか、人類を完全に一掃する可能性があるという信念に基づいて設立されました。
それがOpenAI、Anthropic、およびこの分野の他のリーダー、多くの主要な研究者のDNAに組み込まれています。イリヤとサム・アルトマンは2014年2015年の時代にこれについて書いていました。あるいはDeepMindのシェーン・レッグのような人々が2000年代初頭にインターネットフォーラムでこれについて話していました。
これは非常に深いトランスヒューマニズム的な影響を受けた文化的アイデアのようなものです。
そして、ええ、それはターミネーター映画の遺産の上に構築されています。それはSFの遺産の上に構築されています。これがすべて米国に隔離されているということではありません。中国人も国際的なSFを読みます。中国の多くの人々はこれらの信念のいくつかを共有しています。
しかし、主要企業のDNAについて考えるとき、それは米国で非常にユニークだと言えます。中国企業に関しては、ここでもさまざまなアクター、さらには個人を分解する必要があります。中国政府のこれに対する立場についてセリーナが特徴づけた方法は完全に正しいと思います。
彼らはアプリケーションに非常に焦点を当てています。彼らは、「この技術はどのようにして私の政治的、経済的、社会的目標を達成するのに役立つのか?どのようにして経済をアップグレードできるのか?どのようにして中所得国の罠を飛び越えることができるのか?どのようにして党がより大きな統制力を持つことを可能にするのか?」と言っています。それが彼らの焦点です。しかし、米国で言うように、DeepSeekの創設者のように、自分自身がAGI信者である人もいます。
彼は、おそらくそれほど遠くない将来のどこかで、汎用人工知能のようなものを達成すると信じています。これはおそらく、モデルにどれだけの計算能力を投入するかと大いに関係があるでしょう。彼が行った公の声明から判断できることから、サム・アルトマンのような人々がこれを見る方法とかなり似ていると思います。
彼はエコシステム内で活動しています。彼がアクセスできる計算能力には制限があります。彼が対処している政府には制限があり、彼が自由に使える人材には制限があります。ですから、DeepSeekの創設者がAGIを信じているからといって、それが中国が向かっている方向を意味するわけではありません。
しかし、このアクターの多様性があります。政府、ある種の影響力のある政策立案者、起業家、エンジニア。
セリーナ、マットが共有したことに加えて、それについて何か解析がありますか?
ええ。しかし、それに応じて言うと、主なことはDeepSeekがおそらく計算制約のために、米国の最先端研究所のいくつかとは少し異なる道を追求しているということだと思います。
彼らは非常に効率重視であり、そのため、彼らは非常に効率的なモデルを達成するために非常に多くの技術的リソースと注意を注いできたと思います。そして、それが彼が目指している目標です。だから1月に人々がDeepSeekに目覚めたとき、驚きの一部は、コストと計算を考慮すると、それがどれほど優れているかということでした。それは曖昧で不明瞭ですが、米国の最先端研究所のトレーニングコストよりも少なくとも1桁低いことは確かです。
ですから、それは彼らが追求している異なるアプローチだと思います。彼らはAGI信者ですが、それでも彼らがしていることは、AnthropicやOpenAIと比較できるより大きなデータセンターを拡大し構築するようなものではなく、それは単に中国の現実ではありません。
それについてもう少し詳しく説明してもいいですか?
ええ、どうぞ。
これを考える1つの方法は、政府がリソースをどこに投入しているか、そして企業が目標を達成するために政府のリソースの協力を必要とするかということです。米国では、特に過去1年か2年にわたって、OpenAIが米国だけでなく世界中の政府と協力している方法は、基本的にこれが大規模なエネルギー計算、膨大な財政コストになるという信念です。世界中で取引を行い、彼らが不可欠だと信じているこれらのデータセンターを構築します。
ですから、もし私たちがそのレンズを通してそれについて考え、中国を見渡して、わかりました、中国政府はどこに賭けをしているのか、そして中国政府がお金と官僚的リソースを投入しているのはアプリケーションであるというかなり明確なシグナルだと思います。
セリーナが先ほど説明したAI+計画は、私たちの耳には少し奇妙に聞こえます。それは基本的にAI+製造業、AI+医療を意味します。基本的に、私たちはこれらの他のすべてのセクターに力を与えるためにAIを使用したいのです。そして、それは彼らが地方の役人に言っているところです。もしあなたがAI企業に助成金を出すつもりなら、あなたの地域で理にかなうアプリケーションに助成金を出してください。
これらのものに助成金を出してください。彼らは、「ねえ、すべての計算リソースを統合し、DeepSeekが1つのミッションを推進できるようにそれらを彼らだけに捧げましょう」とは言っていません。
中国政府の人事評価システムとAI戦略
まあ、これはこれは非常に興味深いです。マット、あなたは以前の別のインタビューで、中国共産党は大きな人事部門のようなものだと言っていました。それはパフォーマンスレビューがあるようなものであり、彼らは国家としてこれらのトップレベルの目標を設定し、「私たちの目標は、AIをこれらのすべての異なる産業に適用していることを確認することです。そして、各地方の役人、各省、そして各都市のパフォーマンスを、それをどれだけうまくやっているかに応じて測定します」と言っています。そして、あなたが言っているのは、彼らはこれらのすべての役人に、私たちはあなたが箱の中の超知的な神を作るマンハッタン計画を作成するのがどれだけ優れているかに基づいてあなたを判断するつもりだとは言っていないということです。
私たちはAIの適用に基づいてあなたを判断しています。それでも、これを聞いている人の中には、ええと、しかしもし中国が密かにマンハッタン計画規模の資金をDeepSeekに注いでいたらどうやって知ることができるのでしょうか?
なぜなら、彼らが最近DeepSeekの従業員のパスポートを追跡しロックダウンし始めたことを認識することが重要だからです。彼らはそれをある種核科学者のように扱っています。そのように見ることもできます。私はこれらの異なる視点を鋼鉄化しようとしています。なぜなら、この開口部で話したこのミサイルギャップのアイデアのようなものがあるからです。もし私たちがこれを間違えて、彼らがマンハッタン計画を構築していて、それが決定的なことであれば、私たちはここで負ける可能性があるという深い恐怖があります。
ですから、これらの絵をどのようにさらに整合させますか?
ええ、これらを鋼鉄化することは非常に重要だと思いますし、中国の内部で何が起こっているかについて私たちがどれだけ知らないか、知ることができないかを認めることも重要です。そして、中国西部のどこかのバンカーの奥深くで、彼らがゆっくりと超大型のデータセンターに電力を供給するようなある程度のレベルのチップを蓄積しようとしている可能性を排除しません。私たちはそれを排除することはできません。
私は、私たちの諜報機関がこれに非常に注意を払っており、何かが実現する前にそれを認識していることを願っています。しかし、彼らがお金と賭けをどこに置いているかのように、もしそれがあなたがしようとしていることなら、中国全体として計算制約があることを私たちは知っています。
彼らは、主に米国の輸出規制のために、どれだけの計算能力、どれだけのチップを国内に持っているかに制限があります。
そして、その瞬間を説明してください。つまり、米国がこれらのチップ制御を開始したのは何年ですか?私たちは基本的に中国にこれらの高度なAIチップを提供するのをやめました。
ええ。ですから、大きな制限は2022年に来て、それ以降毎年更新されています。2022年、2023年、2024年。そして、それを理解する最も簡単な方法は、最高のAIモデルをトレーニングして展開するためには、多くの計算能力が必要だということです。
そして、あなたはその計算能力を、Nvidiaによって作られたGPUと呼ばれる非常に高度なチップの形で欲しいのです。今非常にホットな企業です。そして、基本的にこれらの異なる大統領命令が言ったことは、私たちは最も高度なチップを中国に販売せず、最も高度なチップを作るために必要な機器を中国に販売しないということです。
私たちはこれらのものの輸出を禁止するつもりです。さて、これらの輸出規制は非常に不完全です。それらには多くの穴があります。密輸があります。
基本的に、彼らはそれを更新する必要がありました。なぜなら、企業、具体的にはNvidiaが常にそれを回避する方法を模索しているからです。しかし、輸出規制のこれらの穴すべてにもかかわらず、彼らは中国に大規模な計算制限を課しました。米国と米国企業は、最大の計算能力にアクセスしたい場合、それを行うことができます。そして中国企業は単に少ないのです。中国企業と政府。
ですから、もしあなたがその状況にいるなら、あなたがおそらく彼らが実際に持っているよりも多いであろう500万個の主要なチップを持っているとしましょう。もし500万個の主要なチップを持っていて、この種のマンハッタン計画のようなものをリードしたいなら、おそらく全国の地方の役人全員に、医療や製造業、そしてこれらすべてのローカルシナリオのためにAIを展開するように言うつもりはないでしょう。それは消費しています。
なぜなら、彼らはすべてのチップを使い果たしてしまうからです。
ですから、あなたは、もし彼らがこのAI+計画で成功すれば、それはマンハッタン計画としての彼らの成功を奪うことになると言っています。彼らは両方を現実的にできませんでした。これらの制御のために現在利用可能な有限数のチップを考えると。
ええ。多くは、引用符付きのマンハッタン計画のために最終的に必要なチップの数に依存しますが、シグナリングの観点から、彼らが自分たちの役人に送っているシグナリングは、アプリケーションに焦点を当て、その方向にリソースを展開しているということです。
はい、セリーナ、それに追加したいことはありますか?
完全に同意します。また、TLDDRは、もし彼らが中国でAGIのマンハッタン計画を構築しようとしているなら、それに必要な膨大な量のチップが密輸されているなら、諜報機関やNvidia自体が気づかないはずがないということです。
中国におけるAIの物理的体験
セリーナ、あなたは最近上海の世界人工知能会議に参加しました。そして、リスナーを連れて行きたいのは、AIが展開されているときにどのような感覚を持つかということです。なぜなら、人間としてあなたの感覚に到達するAIの物理的環境は、現在中国と米国では非常に異なっていると思うからです。
ですから、私たちをツアーに連れて行っていただけますか?内臓的にはどのようなものでしたか?
ええ。そして、さまざまな種類のAIがあると言えます。トリスタン、あなたは中国に行ったことがありますか?生成AIやLLMやチャットボット以前のように、すでにデジタル決済がありました。人々は手のひらや顔認識で支払いをしていました。地下鉄に入るときに。
これらは他の種類のAIで、すでに非常に内臓的で、あなたの周りにあります。今回、7月の世界AI会議では、その上に、私を本当に驚かせた最大のことの1つは、ロボットがどれほど普及しているかということでした。彼らはどこにでもいました。それは基本的にこの巨大な展示センターで、約3万人がそこにいたと思います。
すべてのチケットは完売しました。多くの若い子供たち、家族、さらには祖父母さえいました。それは社会全体のようなものでした。そして、それは楽しい週末の外出のようなものでした。そして、誰もが展示ブースの周りをうろついて、ロボットと握手していました。
MMSスタイルで互いに戦っているのを見ているように。また、ロボットが歩き回っているのもありました。それらのいくつかは、ほとんど人々によって遠隔操作されていました。AI対応のハードウェアのようなものもたくさんありました。眼鏡やウェアラブルなど、人形のようなAI+教育のようなものも含まれています。ですから、あらゆる種類の革新的なAIのアプリケーションが消費者向けの方法でありました。そして、米国ではあまり見られない非常に物理的で内臓的な方法で人々がAIと対話しているのを見ます。ここの人々は、AIをこの遠く離れたマシンゴッドのようなものとして話しますが、中国では非常に触知可能でした。それは現実世界の環境に非常に統合されていました。
その一部は誇大広告です。ヒューマノイドやロボットのものの多くは、まだ非常に初期であり、それほど成熟していません。そして、ロボットが転倒したり、正しい方法で反応しなかったりするときに、その限界のいくつかを見ることができます。
しかし、私は熱意と楽観主義が本当に非常に非常に興味深かったと思います。人々は積極的にAIについて興奮していました。ここではターミネーターのようなものではありません。
技術に対する楽観主義と悲観主義の文化的差異
ええ。ええ、それについて聞きたかったのです。なぜなら、もしあなたがそのような物理的な会議に行って、米国にははるかに少ないロボットとロボット企業があるとしても、いくつかの主要なものはありますが。
米国の態度はもっとこれは悪いというものだと感じます。多くの感情は、これは不気味だ、これは奇妙だ、私はこれが本当に好きではないということです。しかし、私が聞き続けているのは、あなたがそこを歩いているとき、誰もが興奮し、興奮し、AIについて楽観的だということです。そして、一方の国はAIについて非常に悲観的に見えるのに、もう一方の中国は主に楽観的である理由について、このテーマをもう少し発展させたいと思います。
しかし、マット、セリーナの絵にここで追加するのに興味があります。あなたも2010年代に中国にいたと思います。モバイルインターネットがオンラインになっていたときに、それは中国が技術を楽観的に見る対ここでより悲観的に見る役割を果たしたと思います。
絶対に。そして、技術に対する楽観主義、悲観主義についてもう少し触れてから、AIに持ち込むことができると思います。調査結果が何を示しているかについては多くの質問があると思います。これらは良い調査結果ですか?これをどうやって知るのですか?それは多くの逸話と、ある種の雰囲気に依存する傾向があります。
しかし、おそらくここで最も重要な要因は、情報技術、最終的にはインターネット、現在はAIの台頭、それが1980年以来の過去45年間で人々の生活にどのように入ってきたかということだと思います。そして、1980年以来中国に何が起こったか対1980年以来米国に何が起こったかを見ると、それは非常に異なっています。
これは基本的に中国史上最大で最長の経済ブームでした。そして、普通の人々は、その期間に10倍、さらには20倍の要因で収入が増加するのを見てきました。基本的に、情報技術が世界に登場して以来、中国人の生活は良くなっています。
米国では、それを言うのは非常に難しいです。アメリカ人の生活は良くなっていますか?しかし、多くの人々は技術を労働への影響、政治レベルでのより多くの機能不全、誤情報、子供たちへのソーシャルメディアの有害な影響と関連付けています。そして、これは米国が国家レベルで、そして個人レベルでも、私たちの社会、私たちの見通しについてより悲観的になった時期でした。あるいは、モバイルインターネットの台頭以来の過去10~15年を取ることができます。これはアメリカの政治史上最も分裂した時代の1つでしたが、少なくとももっと稼ぎ、よりよく生き、生活でより多くの便利さを持とうとしている人の観点からは、中国ではいくつかの例外を除いて、かなり良い時期でした。
ですから、それは楽観主義、悲観主義に対する非常に3万、4万フィートレベルの見解ですが、人々がこれらのことをどのように見るかにとって、それはかなり基本的だと思います。
ええと、私は2010年から2016年まで中国に住んでいました。そして、これは本当に中国におけるモバイルインターネットの爆発でした。明らかに米国では、モバイルインターネットも急速に拡大していました。しかし、これは中国がモバイルインターネット技術のグローバルフロンティアに非常に急速に追いつき、そして追い越していたときです。
モバイルインターネットは普通の人々に何をしているのでしょうか?そして、私にとって、その時期からの内臓的な記憶のいくつかは、2014年2015年頃にモバイル決済が本格化したときです。突然、モバイルインターネットによって支えられているさまざまな実世界のサービスの爆発がありました。
ですから、ここ米国では明らかにUberとLyftがあります。これらはモバイルインターネットによって支えられている実世界のサービスです。中国では、彼らは独自のUberとLyftを持っていましたが、彼らはまた、ローカルサービスの膨大な多様性を持っていました。2013年、2014年には、誰かがあなたの家に来て、わずか4回のクリックであなたのためにネイルをしてくれます。
文字通り石油ドラム缶からベイクドポテトを売っている人は、2014年にそれを介して支払うためのQRコードをそこに持っています。それは、技術が私たちの生活のあらゆる要因に統合されているという非常に内臓的な感覚でした。そして大部分において、それは物事をはるかに便利にしています。私が2010年に中国に着いたとき、電車の切符を買いたい場合、特に旧正月の間、あなたは本当に早く起きて、非常に遅い官僚的な対面チケット販売者があなたに切符を売るために非常に長い列に並ぶ必要がありました。
WeChat、モバイル決済などがすべて政府サービスに統合されたとき、チケット販売を含めて、突然それは非常に便利になり、これらのことをするのがはるかに簡単になりました。そしてもちろん、モバイルインターネットは両方の場所で便利さをもたらしました。しかし、両国のこの中心に住んでいたので、中国では非常にもっと具体的な感覚を持っていたと思います。そして、それが現時点で私たちの生活を本当によくしているという感覚です。
それに追加すると、中国を訪れるか、あるいは最近中国に住んでいて、もはや米国に来ないアメリカ人から聞くことは、中国を訪れるとき、未来に行くような感覚で、すべてが機能するように感じられ、米国よりも10年か20年先の未来にいるようです。
その後、実際に中国にしばらくいた人々が米国に戻ってくると、時間をさかのぼっているような感覚があり、物事が機能しにくく、統合されていないように感じられます。私は一方の国や他方を批判しようとしているわけではありません。それは実際に飛び越えに基づいていると思います。米国は異なるインフラストラクチャスタックを構築しなければならず、彼らはこの21世紀のギグ経済、すべてに組み込まれた即座のモバイル決済にまっすぐ飛び込みませんでしたが、中国は本当にそれをしました。
監視と便利さのトレードオフ
ええ。そして、私は、2010年代の中国に関する私たちの以前の会話で、このモバイルインターネット、変革と同時に、市民のAI駆動の監視の大幅な増加があったことを指摘すべきです。どこにでも顔認識があります。文字通りあなたのゲート付きコミュニティに入りたいのです。
そして中国では、ゲート付きコミュニティははるかに一般的です。それらは富を示しません。あなたの小さな住宅コミュニティに入るだけで、あなたは顔をスキャンする必要があるかもしれません。ですから、これらすべての便利さを指摘しているのと同時に、これには注意すべき非常に暗い側面もあります。
絶対に。私は、明らかに監視ベースのアプローチが、西洋では決して望まないものであることを注意することが本当に重要だと思います。その反対側は、あなたが歩くすべての場所で、あなたはすでにある程度識別されているという便利さの流暢さです。これは明らかにあなたがそれをしない場合は複製するのが難しい便利さを作り出します。
そして、それは明らかに作るのが難しいトレードの1つです。私たちは絶対にできます。
最近のPew調査では、アメリカ人の50%が日常生活におけるAIの影響について興奮よりも懸念していることが示され、最近のロイター世論調査では、アメリカ人の71%がAIによる永続的な失業を恐れていることが示されました。AIと失業に関する米国対中国の公共の雰囲気は実際にどうなっていますか?なぜなら、これらの国々が行わなければならない最も興味深いトレードオフの1つだと思うからです。なぜなら、あなたがより多くの仕事を自動化すればするほど、GDPと自動化をより促進しますが、人々が他の産業革命とは異なり、行くことができる他の仕事を持っていない場合、あなたが対処している社会的不安の種類がより多くなります。
それは間違いなく人々の心にあることだと思います。しかし、必ずしもAIに関連しているわけではありません。過去数年間、若年失業率は非常に深刻な問題でした。
政府が統計の公表を停止する前、私はそれが少なくとも約20から25%の若者が基本的に中国で失業していたと思います。ですから、それは社会が取り組んできたことであり、政策立案者が明らかに懸念していることだと思います。
あなたは若年失業率が20から25%だと言いましたか?
ええ。
うわあ。高いようです。どうぞ。
ええ、それはかなりクレイジーです。そして、それが非常に高かったので、彼らは統計の公表を停止しました。ですから、私たちはそれがどれほど高いかを推測することしかできません。それは同じ範囲にあると予想しています。しかし、今、STEM分野やAI職業に流入しようとしている中国の若者と話していると、AI エンジニアの膨大なプールと、ますます限られた仕事の数があります。
ですから、これは間違いなく若者が直面していることであり、現実の不安があります。しかし、一方で、中国の政策立案者や専門家と話しているとき、私が得た感覚は、彼らはAIについて奇妙にもほとんど肯定的であり、ああ失業の影響のようなことについて少し冷淡です。
私が話した政府に助言している1人は、基本的に武漢でフィールドリサーチをしに行ったという例について話しました。武漢は自律走行車の普及率が非常に高い中国の都市です。そして彼らはいくつかのタクシー運転手に、ねえ、自動運転車についてどれだけ心配していますか?と話しかけました。彼らはタクシー運転手が一般的に彼らに、彼らはより少ない時間働くことに興奮しており、労働条件の改善に興奮していると言ったと言いました。そして私は、わかりました、それは彼らが正当化しようとしている感情の種類です。基本的に人々がそれについてどう感じているか。彼らは少し心配しているかもしれませんが、主なことは彼らをアップスキルすることであり、一般的にこれは社会にとってより良いことです。
明らかに、調子は変わるでしょう。中国では多くの場合、振り子は政策立案者がどう考えるかに基づいて揺れ動きます。
今のところ、彼らはAIを労働の足かせというよりもむしろ生産性ブースターとしてかなり肯定的に見えます。しかし、明らかにそれは今後変わる可能性があります。そして、日常の人々に関しては、若年失業率は彼らが本当に考えていることであり、誰もが知っており、認めていると思います。
AI業界で働いている友人から、良い仕事を得ることがどれほど厳しいか、そしてTencentやAlibabaのような場所で仕事を確保するために、適切なジャーナルで適切な数の引用を取得しようとしているPhD卒業生の膨大な数について聞いています。
それについて何か言ってもいいですか?
ええ、これについての私の絵は少し異なります、あるいは少なくとも過去6か月から1年でかなり進化したと思います。おそらく1年か2年前に戻ると、中国の政策学者、政府に助言している人々の両方と、中国政府がAIに関する失業の懸念について非常に冷淡だったことに同意します。
私の仕事の1つは、中国のAI政策の人々とアメリカのAI政策の人々の間の対話を促進することです。そして、私たちの最初の対話の1つで、2つの国からの全員が、実存的リスク、AIの軍事応用、またはプライバシー、7つまたは8つの異なるものの観点から、このリスクについてどれだけ心配していますか?という一連のリスクをランク付けしました。
そして、これが2024年初頭に行われていると思うリスクランキングで、中国の学者は失業の懸念を8つのリスクのうち最後から2番目にランク付けしました。それは本当に低かったです。そして、私が考えていたとき、なぜこれが当時そうなのか?
私のこの速記は、中国は過去30年間で信じられないほどの経済的混乱と変革を経験しており、基本的に大丈夫になっているということでした。
1990年代に、彼らは国有企業システムの膨大な部分を解体しました。経済システムの改革のために何百万人もの人々が失業しました。彼らは、基本的に、もし私たちが十分に速く成長すれば、これはすべて洗い流されるだろうと言っています。そしてもちろん、長期的なコストがありますが、彼らはこの信念を持っているようです。もしあなたがこの非常に高い率で成長し続けることができれば、仕事のことは自然に解決するだろうと。
興味深い。
それは過去6か月から1年の間に少し変わったと思います。繰り返しますが、これは部分的に逸話的です。そこの人々と話したり、いくつかの政策文書の行間を読んだりしていますが、政府にとって懸念として顕著性が高まっているとこれが言っている人々を聞いています。
そして、彼らが送っているシグナルはいくつかの点で矛盾しています。一方で、彼らは基本的に製造業でAIとロボティクスを適用するすべてのエンジンを進めています。ですから、彼らはできるだけ速く自動化を推進しています。同時に、労働への影響に関する彼らの懸念も高まっています。私たちは、それが完全に一貫した戦略ではないと言うかもしれません。しかし、政府の政策は常に100%一貫しているわけではありません。
彼らはこれらの2つのことをまだ感じていますが、基本的にこれが顕著性が高まっており、今後のAI政策に影響を与える可能性があると示唆している人々がいます。しかし、それは推測的です。
経済破壊への異なる対応と人工知能の影響
それは魅力的です、マット、過去の経済的混乱と彼らがそれを成功裏にナビゲートできたという事実は、人々が自分の仕事が混乱するかもしれないと見ているが、大したことではないということを意味します。
私たちは以前に一度それをしました。私たちは再訓練します。もちろん、AIについて、特に汎用知能を構築している場合に異なるのは、それが以前の他のどの産業革命とも異なるということです。なぜなら、ポイントは、もしそれがあなたが構築しているものであれば、AIがあらゆる種類の仕事をできるようになるからです。ですから、狭いAIシステム、この種の応用された狭い実用的なAIにアプローチすることの二次的な利点が実際にあります。なぜなら、あなたは実際に完全に仕事を置き換えようとしているわけではないからです。
あなたはおそらくより多くの仕事を補強していますが、AIにすべての他の仕事を食べさせていません。そして、あなたがズームアウトすると、私の心の中のこのメタファーは、米国と中国がAIのために競争している程度まで、彼らはこれらのステロイドを取ってGDP、経済成長、軍事力の筋肉のようなものを高めるために競争していますが、内臓器官の故障のようなものを得るコストで、あなたは注意経済中毒のスクロール破滅のようなものを誇大宣伝しています。
人々の仕事がステロイドレベルを高めるコストで自動化されているため、失業を誇大宣伝しています。ですから、両国はこれをナビゲートしなければなりません。しかし、もしあなたがより狭いAIシステムにアプローチすれば、人々が他のことをするために動き続けることができるので、それほど多くの問題に終わらないのは興味深いことです。
それは素晴らしいメタファーだと思います。私はそれを聞いたことがありませんが、ステロイドはだいたい正しいです。私たちは以前に混乱を経験しました、私たちはそれに対処できます。中国政府と個人の間で少し区別すると思います。100%マクロの視点で考えている中国政府。
個人の中国人に、あなたの仕事が自動化されるだろうと言ったら、彼らはそれについて何か言いたいことがあるかもしれないと思います。
質問は、西洋でのUBIの質問に似ています。たとえば、私たちが完全に自動化された社会に住んでいるとしましょう、人々は働く必要がありません。しかし、AIは文字通り何十億もの人々をユニバーサルベーシックインカムで支えるのに十分な収入を生み出すことができるでしょうか?つまり、西洋で聞いた限りでは、その数学はうまくいかないということです。
ええ。この状況で数学が数学なのかどうかわかりません。多くの場合、それはほとんど政治的な決定になると思います。そして、非常に高いレベルで考えると、わかりました、中国、一党制、共産主義のように、彼らは大規模な再分配で問題ないはずです。そして、それがそのように展開する可能性があると思いますが、非常に興味深いことに、イデオロギーの観点から、または多くの点でレーニン主義者である非常に献身的なマルクス主義者である習近平は、良い報道から判断できる限り、実際には再分配的福祉にかなり反対しています。
彼はそれが人々を怠惰にすると考えています。そして、中国は名目上社会主義であり、共産主義への道を歩んでいる国であるにもかかわらず、ひどい社会的セーフティネットを持っています。人々は主に自分自身で、米国よりもはるかに少ない社会的セーフティネットです。
本当に米国では。
ええ。ええ。つまり、彼らは本質的に働けない人や障害者に支払われる福祉のようなものを持っています。それは非常に低いです。オバマケアのようなものはそこにはありません。多くの人々が何らかの形で健康保険を持っているかもしれませんが、実際に良い医療へのアクセスは本当に良くありません。そしてええ、それは現代中国の矛盾の1つです。
彼らは同時に共産党であり、ある種共産主義の特定の側面に深くコミットしていますが、同時に個人の責任の観点から米国よりもさらに厳しいです。
それはとても興味深いです。それは間違いなく、外部から知っている共産主義国であることを聞いて、一般的な見解だとは思いません。
あなたは反対だと思うでしょう。まあ、ここにもう1つの本当に重要な色のピースを追加しましょう。中国が直面しなければならない長期的な問題に語りかけると思います。それは、中国の人口が非常に急速に高齢化しており、彼らは非常に急な人口統計学的崖に直面しているということです。
著者のピーター・ゾンは、これについて広範囲に書いています。人口統計学的崩壊の見解があります。ここでいくつかの統計を引用すると、中国は3年連続の人口減少を記録しており、2023年以来140万人減少しています。そして、彼らは2035年までに超高齢社会になる軌道に乗っており、2人の労働者に1人の退職者がいます。そして、それは世界で最初のものの1つになるでしょう。
ですから、この種の人口統計学的崩壊の問題がある場合、どのように経済成長を持つことができますか?そして、これは国家安全保障の世界の多くの人々に、中国はこの強い、上昇しているものではないと言わせました。今はそのように見えるかもしれませんが、実際には非常に脆弱であり、人口統計学的崩壊はその理由の1つです。
さて、何人かの人々はこれを見て、彼らは言います、「しかし、AIはこれに対する完璧な答えです。なぜなら、あなたが労働人口を高齢化させているとき、あなたは今、そのすべてを補うためにAIを持っているからです。」
そして、これは長期的に弱点として名付けられているコアなことの1つであるため、これが中国でどのように見られているか興味があります。中国政府と多くの企業がヒューマノイドロボットや他の種類の産業ロボットに熱狂している理由の1つは、まさにこの理由のためだと思います。
人口統計学的衰退、縮小する労働力の観点から考えているなら、ギャップの多くは自動化によって埋められなければなりません。そして、それは産業ロボットの形です。設備を見ると、中国は過去数年間で世界の他の地域を追い抜いたと思います。しかし、高齢者ケア、仲間関係について考えているなら、高齢者を助け、成長し続けるシルバー経済を拡大する方法、AI伴侶のようなものだけでなく、いくつかの地方政府がすでにパイロットプログラムで推進し始めていると思ういくつかの高齢者ホームのヒューマノイドのようなものも本当に必要です。
ですから、それは人々がそれにどう取り組んでいるかだと思います。しかし、それとは別に、AIが本当に高齢者を助けることができるかどうか、そして脳機械インターフェースのようなものは、人々がまだ研究し始めていることであり、どれだけ近いかについて非常に明確な兆候があるとは思いません。
ええ、それを基にすると、あなたが説明したダイナミクスは、すべての基本原理について正しいと思います。そして、これはこのアイデアのようなものです。基本的に、私たちはこれらすべての問題を抱えており、彼らはより悪化しています。これは中国や高齢化だけではありません。
私たちはこれらすべての問題を抱えており、それらに対する解決策がありませんが、AIはこれを解決する帽子から引き出す魔法のウサギになるのでしょうか?そして、私はそれを少し魔法的な思考、または少なくとも希望的な思考と呼ぶでしょう。高齢化のことをより広範な人口政策の文脈に置くことが重要です。中国は何十年もの間一人っ子政策を持っていました。それは、持つことができる最大の人口制限政策でした。たとえそれが実際には家族ごとに1人の子供ではなかったとしても。
彼らがこれが長期的に彼らの経済に与える損害に気づくのに長い時間がかかりました。しかし、彼らはそれに気づきました。私が記者として働いていたとき、彼らは一人っ子政策を終わらせました。そして、2015年頃から、彼らは実際に人々に、実際にもっと多くの子供を持ってください、もっと多くの子供を持ってくださいと言っています。
ここに子供を持つための助成金があります。そして、それは彼らが望む効果を持っていません。そして、それは非常に、ええ、それは非常に粘り強く、手に負えない問題です。そして、それは中国だけではありません。東アジアの多くの国、そして多くの移民を受け入れていない他の社会にも及んでいます。だから
それは中国のもう1つの問題です。なぜなら、彼らは実際には世界中から多くの移民を受け入れていないからです。なぜなら、彼らは価値を置いているからです。
ええ。ええ。絶対に。ですから、AIは振られて、これらすべての問題を解決する魔法の杖になるのでしょうか?政府の人々が、社会の人々がそれを信じたいと思う理由を理解できます。そして、それは真実になる可能性がありますが、もしあなたが何億人もの人々のリーダーであるなら、おそらくそれに頼るべきではありません。
中国におけるAI投資の現状と資金制約
ですから、今度は話題を変えます。米国には、私たちが大きなAIバブルにいるという深い感覚があります。投資されたお金の量と、NvidiaとOpenAIとOracleの間で行われている循環的な取引、これは大きなカードの家です。
中国でAIに大きなバブルがあるという見解はありますか?
私の感覚からはまだありません。ロボティクスに関しては、私はいくつかのVC関係者から、ねえ、現在中国には完全にロボティクスバブルがあると聞いています。純粋な資金の量、新しい企業の観点から。自動運転車のようなAI隣接のものを見ていると、以前は少しそれがありましたが、今、LLMについて考えているなら、多くの統合が起こっています。
そして、現在、AIスペースでは、最先端モデルのトレーニングのための資金の多くが枯渇しており、資金のほとんどはAIアプリケーションに流れています。ですから、LLMやAI最先端のものには、中国には本当にバブルはないと思います。
ええ。バブルを持つためには、何かに莫大な金額が流れ込み、評価を誇大宣伝する必要があります。そして、非常に皮肉的または把握するのが難しいことは、ヘッドラインにもかかわらず、多くの主要な中国のモデルがどれだけうまくいっているかにもかかわらず、パフォーマンスで比較すると、中国のAIエコシステムは実際には非常に資金不足です。彼らは資金が非常に不足しています。それは特にスタートアップにとって、しかし大企業にとっても最大の障害の1つです。
そして、それには多くの理由があります。中国のベンチャーキャピタルコミュニティは非常に新しいと言えます。それは2010年頃に始まりました。ですから、それはわずか15年前です。そして2022年頃、そのベンチャーキャピタル業界は基本的に多くのことのために崩壊しました。COVID、中国のテクノロジー取り締まりのその時期、彼らがすべての情報技術企業をある種打ちのめしていたとき、そして基本的に第一波のVC投資の多くが報われなかったという事実。
ですから、中国で実際に展開されているベンチャーキャピタルの総額を見ると、それは2021年以降毎年減少しています。そして、AIでさえ、それは私たちの頭の周りに包むのがほとんど難しいですが、展開されているベンチャーキャピタルは実際に中国では減少しています。
さて、これを回避できる企業があります。基本的に、DeepSeekは、彼らは量的取引会社として始まったので、彼らは自分自身のお金を印刷することができ、それほど多くのベンチャーキャピタルを取り入れる必要はありません。大企業の一部、Tencent、Alibaba、彼らは、あなたが知っているように、それに注ぎ込むことができる巨大な利益を上げている部門を持っています。
ですから、誰もが破産しているとは言えませんが、投資は低いです。それから人々は、まあ、政府はどうですか?政府が彼らにリソースを氾濫させているだけではないのですか?
ええ、まさに。
政府はこれにかなりの金額を投入していますが、政府は実際には過去20年以上のどの時点よりも今日はるかに資金不足です。
これは大部分、中国の不動産バブルの崩壊のためです。そこの1つの本当のバブルは、地方政府のお金の大幅な不足につながっており、これは中央政府が地方政府にお金を与えなければならないことを意味します。それは複雑なシステムですが、私が言う一種の速記は、まあ、米国は多くの異なる方向からお金が流れ込んでいるように見えるだけです。
中国では、それは非常に資金制約があります。私はセリーナがロボティクスについて言ったことをダブルタップするだけです。ロボティクスは、おそらくバブルがある1つの分野です。これらのスタートアップの束があり、巨大な評価に急上昇し、非常に迅速にリストしようとしています。そして、彼らは良い技術を持っているかもしれませんが、それは基本的にこの時点でデモ技術のようなものです。
それは実際に工場でお金を稼ぐために使用されていません。そして、これらの企業は、多くの人々が、彼らは修正が必要だと言うと思います。だから、私たちはLLMバブルが破裂し、彼らのロボティクスバブルが破裂するかもしれません。そして
興味深い。そこからどこへ行くのですか?
ええ。そして、実際にもう1つ追加すると、バブルという言葉を聞く代わりに、私が過去数年間中国で最も聞く言葉は内巻化です。中国語では内巻です。これは本質的に、どれだけ多くの努力を投入しても、ますます減少する収益があるため、自己破壊的な過度の競争を意味します。
そして、それは電気自動車からAIチャットボット、ソーラーパネル、すべてに広がっています。基本的に、これらすべての企業は、ますます細くなる利益率で苦しんでおり、利益を取り戻す方法が本当に見えません。そして、Metがリストした理由のリストのために、出口がないので、どうしようもありません。
退出するのは難しく、IPOするのは難しく、彼らは海外に行きたいが、あまりにも多くの競争があり、他の西側諸国でいくらかの反発があります。ですから、それは現在中国で見られている現象だと思います。進化のような。そして、それは西洋の国家安全保障の人々からの見解とどのように一致しますか?中国がこれらの信じられないほど安い製品を意図的に作って、西洋のソーラーパネルや電気自動車やロボットなどのすべてのメーカーを削減しようとしており、これはある種の悪魔的な大戦略の一部です。
私は一方または他方を言っているわけではありません。私はその種の人々の周りにいるときに聞いていることを報告しているだけです。これらの2つの絵をどのように混ぜ合わせますか?
基本的に両方のことが真実だと思います。内巻化のように、それは基本的に価格戦争を意味します。それはあまりにも多くの企業が新しい熱いセクターに殺到しており、彼らは価格で競争することを余儀なくされており、彼らは基本的に製品を作るのにかかるコストよりも安く販売し、長期的な結果につながるということを意味します。そして、それは2010年代に私がそこに住んでいたときにソーラーパネルで起こりました。
しかし、それは、価格戦争、業界の崩壊を持つことができ、そして最終的に出現するものは実際にはまだかなり強い業界であるようなものの1つです。それはソーラーパネルで起こったことです。政府は非常に高いレベルでは、基本的に、もしあなたが国際市場で価格を削減すれば、あなたは市場を支配することができ、そしてあなたは永久にそれを保持することができるという戦略を持っていると思います。
国際貿易法でダンピングと呼ばれるものです。あなたは何かをより安く売り、競合他社を破壊し、その後、後で価格を上げます。
ええ。Uberが国内でタクシーに対して行ったことだと言う人もいるかもしれません。
ですから、それは中国の多くの企業を破産させる自己破壊的な慣行の両方であり、また政府がある程度では大丈夫であるかもしれないものです。彼らは現在、反内巻化キャンペーンのようなものを政策的に行っています。彼らはこの時点でこれが有用というよりも破壊的だと考えています。
ですから、彼らはこれの損害を制限しようとしていますが、それは複雑なシステムです。
AIの構築リスクと非構築リスクのバランス
私たちがこのポッドキャストでよく話す主なことの1つは、AIを構築するリスクと、AIを構築しないリスクのバランスをどのようにとるかです。別名、AIを構築するリスクは、より強力なAIシステムに拡大するにつれて出現する大惨事とディストピアです。誤用や制御の喪失、生物学的リスク、ディープフェイクの氾濫を通じて。
AIをより進歩させればするほど、リスクが増えます。一方、AIを構築しないリスクは、AIを構築すればするほど、そうする人々によってより外部競争されるということです。ですから、私たちがしなければならないことは、AIを構築するリスクとAIを構築しないリスクの間のこの狭い道を股にかけることです。
そして、そのずっと遠い側には、本当に極端な実存的または破滅的なシナリオのリスクがあります。これは米国と中国の両方が防ぎたいと思っているようです。それでも、AIをオープンソース化することには多くのリスクが関連しており、中国はそれを追求しています。そして、この会話で常に出てくる重要なことの1つは、米国と中国が核不拡散条約が核兵器のために行ったようなことを行うことはありそうもないように見えますが、そのような合意を交渉することは、リスクの共有された見解を考えると、米国と中国の間で可能でしょうか?
それは非常に可能だと思います。大統領が話さなければならないものの長いリストのようなものがあるだけで、明らかにこの政権で起こる必要はありません。
技術では多くのことが変わる可能性があります。両側の専門家、政策立案者が、これらのトラック2の対話のいくつかで話すとき、一般的なコンセンサスがあると思います。これらは基本的に政府から政府へではなく、トラック1は政府から政府へです。これらのトラック2の対話では、人々は一般的に多くのことに同意できます。
これらには、解釈可能性のような非常に基本的な技術研究の分野が含まれる可能性があります。AIモデルの中で実際に何が起こっているのかをどのように理解しますか?一般的な安全ガードレール、評価、監視などのようなものもあります。そして、核兵器について話しているときに人間をループに保つようなことについて、CとBidenのトラック1対話で合意された他のものもあります。
ですから、可能なことがたくさんあると思います。それは相互信頼の問題だと思います。そして、それは今日の私たちの政治的気候で非常に欠けているものです。中国と何かについて協力する必要があると言おうとすることはかなり有毒に見えます。
しかし、私たちが想像力を少し広げることができ、状況の純粋な必要性と重力に本当に取り組むことができれば、低リスクで簡単な持ち上げのような、できることがたくさんあります。
そして、それは政府から政府だけではなく、人々から人々から始めることができると言いたいです。企業から企業、専門家、専門家などのようなことからです。そして、リスナーにとって内臓的な意味でこれを詳しく説明するために、あなたはAI安全性に関する国際対話に参加しましたか?
ええ、しました。
それでは、私たちを部屋の中に連れて行っていただけますか?
オブザーバーとしてですが、ええ、
オブザーバーとして。
ええ。私たちを部屋の中に連れて行っていただけますか?知らないリスナーのために、冷戦時代に、アメリカの核科学者がロシアの核科学者と会ったときのような対話があります。実際には、許可的行動制御リンクと呼ばれるものの発明がありました。これは、核兵器が何らかの偶発的な方法で発射しないようにする方法です。
制御システムがあり、そのような協力の歴史があります。内臓的にはどんな感じですか?中国のAI安全性研究者がアメリカの研究者と協力しているのを聞きますか?彼らは特定の措置に同意していますか?
ええ。それは素晴らしい対話です。
今年は、上海でそれのために実際に部屋にいた初めてでした。ですから、これは世界AI会議の傍らで起こりました。ノーベル賞受賞者のジェフリー・ヒントンのような人々が中国を訪れ、この対話と会議の両方に参加しました。そして、中国側からアンドリュー・ヤオ、ジャン・ヤツィンのような他の人々もいました。
ですから、それは非常に主要なAI科学者のグループであり、彼らは基本的に最も同意するリスクとレッドラインは何かについて話し合い、コンセンサス声明を発行するために集まります。ですから、興味がある人は、その後の上海コンセンサスを読むことができます。
しかし、基本的に、セッションのいずれかにいるときはいつでも、常に多くの収束の領域がありました。
基本的に、人々は制御の喪失のような基本的なことに常に同意しました。これらはすべて非常によく知られています。しかし、今日の本当の問題は、技術を構築している企業がこれらのことに同意する必要があるということだと思います。そして、現在、競争のダイナミクス、利益のインセンティブ、それらすべてが、彼らがこれらのリスクを非常に真剣に受け止めることを許さないように収束していないだけです。
そして、最高の科学者がこれらのことに同意したとしても、現在の風景は基本的に、企業が技術を構築している人々であり、ソロマー会議のときとは非常に異なります。それはあれらの研究所のような大学の手に非常に保持されていました。
マット、それを言って、それが研究者レベルで起こらないのであれば、政治レベルで何が必要かを尋ねるとき、ここで何が可能かを見ますか?
ある種の世界またはアウトカムのスペクトラムを考えることが役立つと思います。一方の端には、米国と中国が非常に高いレベルで合意する最も拘束力のある規制アプローチがあります。非常にトップダウンのシステムで、私たちは両方とも危険な超知能を構築するつもりはなく、その国際合意が2つのシステムにフィルタリングされます。
私たちは国内で規制し、すべてが安全です。もう一方の端は、完全な無制限の競争です。私たちは相手側ができるだけ速く競争していると考えます。彼らにはある種のガードレールがなく、私たちは勝つために全力で競争する必要があり、ガードレールを犠牲にします。
そして、最初のものは、トリクルダウンする国際合意は、少なくとも短期的にはこの時点でかなり非現実的だと思います。権力の廊下には、国々の間にそのような深い不信があります。それは大統領自身や個人には当てはまらないかもしれませんが、2つの国の国家安全保障装置全体のようなものを見ると、彼らは互いを根本的に競争関係にあると見る傾向があります。
どんな約束も悪意があるだけです。
あなたはそれを言って私を遅くするだけで、私は私がどこかのブラックプロジェクトでそれを構築し続けるつもりで、私は競争を続けなければなりません。
正確に。そして、それを考えると、私の私の仮説は中間のようなもので、それが基本的に依存するのは、最も重要なことは、米国がそれ自身の理由で自分自身のためにAIを国内で規制する方法と、中国がそれ自身の理由で自分自身のためにAIを国内で規制する方法になるだろうという考えです。
中国は実際にAIに関するより多くの規制を持っています。主にコンテンツコントロールに集中していますが、今それを超えて拡大している、より多くのコンプライアンス要件があります。そして基本的に、両国はここで並行して動いていくと思います。彼らは両方とも技術を進めています。彼らは両方とも新しいリスクが出てくるのを見ています。
そして、ここでの私の一種の論文は、私たちは並行して安全性を持っているということです。両国が前進し、リスクが彼ら自身にとって受け入れられないため規制しています。そして、この種の軽い接触の調整、あるいは2つの側の間のコミュニケーションがあり得ます。私たちは拘束力のある合意を持つつもりはありません。
あなたが向こうで同じことをしていると100%信じているから、私は米国で何かをするつもりはありません。しかし、私たちにはベストプラクティスがあります。許可的行動リンクの例を挙げたように、私たちが学んだことがあります。これがAIモデルをより良く制御できる方法だと思います。
私たちは国内でそれを行うつもりで、それをオープンソースにするか、共有するつもりです。私たちは中国のカウンターパートとそれについて会話を持つつもりです。それは互いを信頼することに依存しているわけではありませんが、接点を構築し、技術が進むにつれてそれをより良く制御する方法についての情報を共有するようなものです。
そして、おそらく両国が本当に強力なAIシステムを開発し、彼らはある意味でそれらを国内で規制する方法を学んだ、あるいは少なくとも国内でそれらを規制しようとしている時点に到達すれば、おそらく私たちはすでにかなり似たような場所にいて、これについて国際的に拘束力のある条約を持つことを選択できます。
また、互いに向けられた非常に多くの核兵器があり、リスクが非常に巨大で、両当事者にとって実存的だった時点に到達することもあります。そして、EnthropicのDaario Amadaiでさえ、DeepSeekについて心配しないでください。なぜなら、私たちはまだより多くの計算能力を持っており、再帰的な自己改善を行うつもりだからです。
あなたがそれを公に示すとき、あなたは相手に言っています、「ああ、あなたがそのリスクを取るつもりなら、私はそのリスクを取るつもりです。」
しかし、その集団的リスクは両当事者にとって実存的である可能性があります。そして、あなたが基本的に赤い電話のような、2つの側の間のコミュニケーションとレッドラインを持つ必要性についても言ったのを聞きました。私たちが喜んでしないことのレッドラインをどのように持つか?そして、私たちが制御できない超知能を構築しない、または再帰的な自己改善のラインを通過しない、あるいは私が聞いたもう1つは、神経と呼ばれるものに移行しないことの、少なくともいくつかの合意があることを想像できます。
現在、モデルは独自の思考連鎖で学習しています。これは彼ら自身の言語のようなものです。ですから、モデルは自分自身の思考から言語で学んでいるようなものです。しかし、あなたが自分自身に考えている言葉から、あなたが自分自身に考えている神経に移動したらどうなりますか?そして、それを持っているとき、それはあなたが新しい危険にいるときです。
とにかく、これはこれは素晴らしい会話でした。お二人に本当に感謝しています。そして、これがリスナーにうまくいけば、これらの国々がこの技術をどのように追求しているか、違い、そして私たちが現在持っているよりも少し安全な方法でこれを行う可能性について、多くの明確さを与えたと思います。
閉じる前に、他に共有したいことはありますか?
これは素晴らしかったです。お二人とこれらのことを話すのが大好きでした。そして、ええ、中国でAIに何が起こっているかについて出されている良い仕事のいくつかを読もうと人々に勧めます。そして、誰もがこのトピックの専門家になることを期待しているわけではありません。
しかし、知っておくべきことは、中国人が米国で何が起こっているかについて私たちが中国で何が起こっているかについて気づいているよりもはるかに気づいているということです。彼らは米国が中国から学んでいるよりも、米国で何が起こっているかから学ぶことにはるかに興味があります。私たちには、それが権威主義的なシステムであるというこの考え方があります。したがって、彼らが技術を規制する方法から何も学ぶことはできません。
彼らは私たちのライバルです。私たちは彼らから学ぶことはできません。中国はそのように見ていません。彼らは、「もし米国に良いアイデアがあるなら、それを採用して、私たち自身の目的に適応させましょう」と言います。
そして、それは彼らにとって大きな利点です。米国から学ぼうとすることです。そして、もし私たちがこれらの精神的な壁のいくつかを壊すことができ、実際にそこで何が起こっているかを真剣に受け止め、米国にとって教訓があるかどうかを見ることができれば、それは大きな後押しになると思います。
100%同意します。そして、相互理解がもっとあれば、そして人々ができればまたは出てくる興味深い研究や作品のいくつかを読もうとすれば、ここでMatのSubstackを含むいくつかの穏やかなプラグ、それはより良い世界を作ると思います。
ですから、それについて考えていて、これを聞いていて、ああ私に何ができるかと考えているなら、理解は最初の部分です。
マットとセリーナ、Your Undivided Attentionに来ていただき、本当にありがとうございました。これは私のお気に入りの会話の1つでした。
本当にありがとうございました。これは本当に素晴らしかったです。
素晴らしい質問とお招きいただきありがとうございました。
コメント