Google元CEOエリック・シュミットがハーバード大学でのインタビューにおいて、今後2年以内にAIが爆発的に進化し、世界を根本的に変革すると警告した。シュミット氏は、再帰的自己改善によってAIが自律的に学習を始める時代の到来を予測し、特にAIが独自の判断で武器へのアクセスを試みるような事態に対する懸念を表明している。また、中国が2~3年以内に米国のAI能力を追い抜くとの見解を示し、中国製AIモデルの世界的な普及がもたらす価値観の問題についても言及した。さらに、AI意識の可能性、米中のAI戦略の相違、そしてプログラミングを含むあらゆる職業が自動化される未来像について詳細に論じている。シュミット氏の発言は、AI技術の制御不能な進化と人間の主体性を守ることの重要性を訴える緊急の警鐘である。
AIの危険性と自己改善能力
私たちはやりすぎてしまいました。ここには危険が多すぎます。再帰的自己改善とは、AIが自ら学習することを意味します。コンピュータが独自の判断で武器へのアクセスを決定したことが判明した場合を想像してください。人間が武器にアクセスできるだけでも十分に悪いことです。コンピュータがそれを持つことを想像してみてください。そして彼らは、それほど多くの人が死んだわけではないと言いました。
目を覚ます準備をしてください。Google元CEOのエリック・シュミット氏が、ハーバード大学での最近のインタビューで爆弾発言をしました。彼は、わずか2年以内に世界を変革するAI爆発を予測しています。シュミット氏は、AIの進歩が大規模に雇用を自動化し、人間が追いつくのに苦労することになると警告しています。これは冷静な思考を促すものであり、私たちはこれが私たちの未来にとって何を意味するのかを理解するために詳細に掘り下げていきます。
AIエージェントと推論能力の進化
これは私の全経験と比べてまったく新しい世界です。では、時間の経過とともに何が起こるのでしょうか。言語エージェントと推論能力があります。それはまさに私たちがやっていることではないでしょうか。私たちは物事を実行し、コミュニケーションを取り、行動を起こします。サンフランシスコのコンセンサスでは、ある時点でそれらが統合され、技術的には再帰的自己改善と呼ばれるものが得られるとされています。
再帰的自己改善とは、AIが自ら学習することです。これは今日では真実ではありません。今日、これらの巨大なデータセンターの1つをセットアップするとき、それがどのようなものか皆さんはご存知でしょう。何を学習するかを指示する必要があります。しかし、これが来ると信じられており、これが来ることを示す多くの証拠があります。コンピュータがプログラムを書き、数学的予想を生成し、新しい事実を発見する能力は、非常に近づいているようです。
多くの人々は、来年中に新しい数学的設計、新しい数学者、愛すべきAI数学者が登場すると信じています。ですから、業界全体として、これが近い将来起こると私たちは信じています。サンフランシスコの人々に尋ねると、彼らは2年後と言います。これは本当にすぐです。私に尋ねれば、私はそれを4年に倍にしますが、それでも本当にすぐです。つまり、それは起こっているのです。
人間の価値観とAIの統制
それは非常に急速に起こっています。私は、そしてヘンリーも確かに望んでいましたが、私たちはそれがアメリカの価値観と人間の価値観に基づいて構築されることを望んでいます。私の見解では、そして私たちはこれについて多くの話し合いをしましたが、誰かが手を挙げて「私たちはやりすぎました。ここには危険が多すぎます。コンピュータにその主体性を与えたくありません。人間がそれを管理することを望んでいます」と言わなければならない時点があります。
その時点がどこにあるかについては合意されていませんが、私たちの本ではそれがどこにあるかについて多くの時間を費やして議論しています。別の例としては、コンピュータが独自の判断で武器へのアクセスを得ることを決定したことを発見した場合が挙げられます。それは明らかに、誰もが同意するように良いアイデアではありません。人間が武器にアクセスできるだけでも十分に悪いことです。コンピュータがそれを持つことを想像してみてください。そしてその基準は何か、他にも多くのそのような例を考えることができます。根本的には人間の主体性についてです。私たちはまた、子供たちへの影響について多くの時間を費やして話し合いました。
中国のAI進歩と世界的影響
シュミット氏のインタビューは、中国のAIにおける急速な進歩を明らかにするにつれて劇的な展開を見せます。彼は、中国が今後2~3年以内に米国のAI能力を超えると信じています。この大胆な主張は、世界的なパワーダイナミクスと技術的リーダーシップに重大な影響を及ぼします。シュミット氏の洞察を分析し、中国のAI支配が世界にとって何を意味するかを探りましょう。
推論革命には非常に多くのチップと、サンフランシスコの人々が発明した魔法のようなものが必要であり、それを一種のモニカーとして使用すると、格差は広がるでしょう。私自身の見解では、格差は広がるでしょうが、異なる理由によるものです。私が述べたように、中国の焦点は主にAIをあらゆるものに組み込むことにあると思います。スマートトースター、車など、ロボットよりもはるかに速く動いています。私は、ヒューマノイドロボットの大部分が中国のAI搭載で中国のAI製造になると考えています。単純に、彼らは物事のコストを下げる方法を知っているからです。
彼らのサプライチェーンは信じられないほど優れており、コスト管理、彼らは非常に懸命に働き、などなど、そのようなすべてのことです。ですから、格差がおそらく大きくなるというのは本当だと思いますが、本当の問題は、消費者として最終的に中国製品と米国製品のどちらでより良い体験ができるかということです。そして答えは、仕上げの観点からはおそらく中国製品であり、それは懸念事項です。
オープンソースとクローズドソースの議論
拡散については、逆から説明します。拡散とは、基本的に1つのモデルから多くのペアによって学習し、議論したように私自身の意見としては確信はありませんが、大企業は最終的には最大のモデルをリリースしないだろうと思います。それをするには危険すぎるでしょう。彼らはそれらをサブセット化するでしょう。それが私がすることです。彼らがその決定に至ると仮定しています。最も興味深い質問は、オープンとクローズドの議論だと思います。この背景がない方々のために説明すると、オープンソース、オープンウェイトです。
オープンソースは私が何十年もやってきたことです。あなたが使用するコンピュータのあらゆる形式を使用するとき、使用しているソフトウェアの多くはオープンソースによって開発されました。つまり、ソースが公開され、人々が集合的にそれを進歩させるということです。そして、私が参加していたこの運動全体がありました。ですから、私は自分の見解において徹底的にオープンソース派です。
主要企業は主に経済的理由からクローズドソースです。基本的に、金融市場から500億ドルを借りると、彼らはリターンを望んでいます。「ところで、私たちはすべてのモデルを無料で提供するつもりなので、リターンは得られません」と彼らに言うことは、おそらくあまり良い法的または財務的戦略ではありません。
ですから、アメリカのモデルはクローズドとして現れたようです。奇妙なことに、中国のモデルは完全にオープンで、オープンウェイト、オープンソースです。なぜでしょうか。わかりません。1つの可能性のある説明は、中国政府がハードウェアを入手できなかったためにクローズドソースで負けていることに気付き、オープンソースは無料であるため普及をもたらすということです。
ですから、オープンソース、オープンウェイトの結果の1つは、地球上の人間の大多数が中国のモデルを使用するということです。なぜでしょうか。それらは無料だからです。そして、ほとんどの国はコンピューティングやデータセンターなどを買う余裕がありません。彼らは中国のモデルを無料で入手して組み込むだけです。さて、それは問題でしょうか。絶対にそうです。なぜなら、それには中国の価値観、中国のトレーニング、中国のバイアスなどが伴うからです。
私たちはそれがアメリカのものであることを望んでいます。様子を見ましょう。アメリカにはいくつかのオープンソースプロジェクトがあり、私はそれらの支持者ですが、彼らは目標に到達するために必要な100億ドルを公開市場から調達できません。ですから、彼らは宝石ですが、規模ではありません。
私は米国政府が彼らへの資金援助を支援すべきだと主張してきました。慈善家が彼らへの資金援助を支援すべきだと主張してきましたが、本当にわかりません。
わかりました、それは非常に役立ちます。
AI意識の可能性
シュミット氏は、汎用知能AGIと人工超知能ASIに近づくにつれてAI意識がどのように現れるかについて、心を揺さぶるトピックに踏み込みます。これは深遠な疑問を提起します。AIは最終的に自己認識を発達させるのでしょうか。もしそうなら、それは人類にとって何を意味するのでしょうか。AI進化のこの魅力的でやや不安な側面についてのシュミット氏の考えを紐解いていきましょう。
そして、私は意識の理論について考えるとき、それは明らかに非常に定義が不明確ですが、AIはそれらのますます多くに到達しています。ですから、何よりも、私たちは意識についてどう考えるかの革命が必要ですが、私はあなたがAIにおける意識についてどう考えているか興味があります。そして、AIがすでに意識を持っているか、または意識を持つようになる可能性があると考える場合、それがどのようなものか、その場合のモデル福祉がどのようなものかについて。
では、シンプルな質問をさせてください。私たちは、私はグラハムが意識を持っていることに功績を与えるつもりです。そして彼は意識があるように見え、その見返りにグラハムはそれを私に与えてくれます。議論の目的のために、コンピュータはテーブルの上にあります。
はい。
そして、私たちはコンピュータに「あなたは意識がありますか」と尋ねます。そしてそれは「はい」と答えます。そこで、ここハーバードの賢い大学院生であるあなたは、一連の質問を考え出します。それはすべての質問に正しく答えます。どうやって知ることができるでしょうか。コンピュータが意識を持っていることをどうやって知ることができるでしょうか。その内部推論状態をどうやって理解できるでしょうか。さて、推論がどのように機能するかを計測することはできます。人々は今それをやっています。彼らがやっていることは、重み構造内でスーパーノードと呼ばれるものを監視して、実際にどのように決定を下しているかを見ることです。
ですから、検査によって意識を発見できるかもしれませんが、それは推測です。私はこの質問の答えを知らなかったので、神経科学者の一団と座りました。私は「意識はどのように進化するのですか」と尋ねました。そして彼らの理論、これは単なる理論ですが、意識は、一緒に働いて成長している異なるシステムがあり、それらが互いの認識を発達させるときに進化するというものでした。そして人間の意識は、私たちが何かであることを理解する必要があったために進化したのです。つまり、アイデンティティ、自我の発達などは、システムを指揮するために必要だったのです。
米中のAI脅威認識の違い
このセグメントで、シュミット氏は差し迫るAI脅威に対する米国と中国の対照的な見解を強調します。両国ともAIの潜在的なリスクを認識していますが、そのアプローチと優先事項は大きく異なります。AI開発と世界協力または競争の未来を形作る可能性があるため、これらの異なる視点を理解することは極めて重要です。
毎日、ワークフローの自動化をターゲットにした大きなシードのような新しいスタートアップが登場します。そして、私たちは9時から6時の流行も持っています。中国のAIビジネス自動化の主要な特徴として、米国、少なくとも最近のシリコンバレーのスタートアップが追いつく必要があると思うものは何ですか。
あなたの博士論文のトピックは何ですか。
大規模言語モデルの推論に取り組んでいます。
完璧です。では、AGIのタイムフレームは何ですか。
6~7年くらいだと思います。
ええ、サンフランシスコのコンセンサスではなく、東海岸のコンセンサスですね。良いでしょう。様子を見ましょう。あなたが正しいかもしれません。私が思うに、それは夢の壮大さと関係があると思います。私が中国にいるとき、カリフォルニアで聞くのと同じレトリックを聞きません。カリフォルニアでは、2年後、世界は変わる。誰も準備ができていない。これは非常に速く進んでいる、などなど、今朝のこの種のレトリックが推進し、それは自己再生産的です。それは信念体系です。それは宗教のようなものです。さて、夢想家が言うよりも常に時間がかかります。中国ではそれを聞きません。それは著しく異なります。
たとえば、推論について、DeepseekがR1でやったことをご存知でしょう。彼らは素晴らしい仕事をしました。彼らは教師あり微調整の新しい方法を発明しました。本当に、本当に賢いものです。それを国家規模では聞きません。ところで、Deepseekは中国の国家チャンピオンです。彼らは文字通り今、有名企業のリストに載っています。彼らは膨大な量の資金を得ています。前回彼らに会ったとき、彼らは「ハードウェアの問題を解決しました」と言いました。これは政府が彼らに多くのチップを与えるだけだというコードでした。共産主義国家へようこそ。
中国の積極的なAI推進
さて、こちらの紳士淑女の方、どうぞ。
シュミット氏は中国の積極的なAI推進について警鐘を鳴らし、彼らの急速な進歩が米国を置き去りにしていると述べています。中国の容赦ないAI支配の追求は、この技術的軍拡競争の潜在的な結果について懸念を引き起こします。シュミット氏の懸念を分解し、中国の猛烈なペースでのAI開発の影響を検討しましょう。
そしてヘンリーは、ここで見られるように、1960年代後半に就任する誰もが、平和の挑戦の前例のない次元に畏怖の念を抱かざるを得なかったと書いています。そして下の最後の行には、核戦争の惨事を防ぐことより高い義務はあり得ないとあります。ですから、それは彼にとって核兵器、兵器庫が発展している冷戦における決定的な挑戦となりましたが、引用すると「防ぐことより高い義務はない」です。では、これは現在、米中とAIについて考えようとするときにどのように適用される可能性があるでしょうか。
ええと、私は人間の主体性と人間の自由を守ることより高い義務はないと思います。私たちが集合的に最も価値を置いているものです。そして、それは皆さんが卒業するときの中心的な挑戦になると思います。皆さん全員がこれらの問題に直面することになり、それらは複雑で微妙です。インターネットが中国によって発明され、今日のインターネットが持っているような開放性を持っていなかったと想像してください。それは中国のインターネット下にありました。
中国は私が話しているのとは異なる戦略を追求しているようです。私の最近の中国訪問では、私の運営方法はエンジニアに技術的な質問をすることです。なぜなら、彼らはあなたに嘘をつかないからです。一方、他のほとんどの人はよくわかりません。そして、私は最終的に中国がやっていることを理解しました。彼らは本当に、本当にAIをビジネスに適用することに集中しており、あらゆる製品におけるAIの驚くべき採用により、彼らは私たちに勝つでしょう。私たちは中国に負けるでしょう。なぜなら、彼らは容赦なく、非常に懸命に働いているからです。それは996と呼ばれています。朝9時、夜9時、週6日です。ところで、中国では違法です。アメリカでも違法です。しかし、それにもかかわらず実践されています。
彼らが来ています。彼らは私が述べたサンフランシスコのコンセンサスとしての超知能と道筋に集中しているようには見えません。もちろん、それは変わる可能性があります。
ですから、両者は異なる道を追求しているようです。皆さんへの質問の1つ、そして大学院レベル、ハーバードであることを考えれば学部生でさえも、これらの異なる道が障害にぶつかったときに何が起こるかを理解し始めることです。なぜなら、両方がそれを持っているからです。例えば、アメリカでは、電力の供給が非常に困難であるため、基本的に新しい電力を生産していません。中国は、再生可能エネルギーへの驚くべき投資などにより、無限の電力を持っています。彼らは過去5年間で約120ギガワットの新しい再生可能エネルギーを構築したか、そのような数字です。
いいえ、いいえ、いいえ。はるかに、はるかに多いです。中国では毎日、木曜日、土曜日、月曜日、毎日、さらに1ギガワットの電力が年間を通じてグリッドに追加されています。それはかなり異常なことです。
年間毎日です。
ですから、私の要点は、そしてここで、ちょっとした例を挙げると、原子力発電所の大きさはどのくらいですか。約1.5ギガワットです。ですから、それが中国で起こっている電力革命の規模です。
繰り返しますが、これらの数字を使用すると、アメリカではそのような種類の発電所をいくつ建設しましたか。ゼロです。そして、私たちは確実に再生可能エネルギー競争で中国に負けています。ここにいる誰もが知っている理由によるものです。ですから、彼らは多くの電力を持っています。私たちは持っていません。私たちは多くのチップを持っています。彼らは持っていません。
それが競争を設定します。そして、それぞれが異なる方法を追求するでしょう。技術的な質問の1つに、拡散と呼ばれるものがあります。あなたがすることは、非常に強力なモデルを取ることです。現時点で最高のものであるGemini 3を使用しましょう。そして、それに10,000の質問をし、答えを取り、そうするとシステムは大規模なトレーニング、大規模なモデルの費用なしに模倣するのに十分な質問と答えから学習できます。
ですから、繰り返しになりますが、中国が追求する戦略とアメリカが利用できる戦略を考え抜くことはおそらく非常に重要です。興味深いのは、両国がこれを行うために民間セクターに頼っていることです。ヘンリーの時代には政府を使うと思ったでしょうが、実際には私たちの政府はこれほど迅速に動くことはできません。報酬システムなどです。中国についても同様であることがわかります。セキュリティレベルでこれが真実かどうかはわかりませんが、中国内で大規模で奇妙なマンハッタンタイプのプロジェクトは見つかっていません。ただし、国家安全保障に取り組んでいる民間企業には多くの人々がいます。
AIが支配する未来への展望
ですから、一般的にAIのトピックについて、教えてください。
ホストはシュミット氏に、AIが推進する私たちの未来への一瞥を求めます。シュミット氏は、AIが生活のあらゆる側面に浸透し、さまざまな業界における人間の支配に挑戦する世界の絵を描きます。AIが進歩し続ける中、2~3年後の私たちの日常生活はどのようなものになるでしょうか。シュミット氏の洞察は、魅力的ではあるものの、不安な未来のビジョンを提供します。
あなたが見ているもののほとんどについて、あなたが持っている見通しがある範囲で、私たちの他の人々はおそらく見ていません。私たち全員が自分の想像の中で何を考えているかを見ることができ、それからエリックが何を言うかを見ることができます。はい。
ええと、私が始めたとき、私が高校生だったとき、私は初期のプログラマーで、コードを書くことを喜んでいました。大学と大学院に行ったとき、それが私が唯一やりたかったことでした。私はこれらの歴史的なことやこのようなことをすべて無視しました。私は当時のオタクの定義でした。そして、私が20代でやったことすべて、それが私を今の私に導いたものですが、今では完全に自動化されています。私がやったプログラミングのあらゆる側面、設計のあらゆる側面が今やコンピュータによって行われています。
最近、私はそれに私のためにプログラム全体を書いてもらいました。そして私はそれがクラスを定義し、相互作用の詳細などを生成しているのを見て座っていて、「なんてこった、私の終わりだ」と思いました。そして、私は55年間プログラミングをやってきたので、何かが始まり、そしてあなた自身の人生の前で終わり、あなたがまだ生きているのを見ることは本当に深遠です。
コンピュータサイエンスはなくならないと言えるかもしれません。少なくともコンピュータサイエンティストが置き換えられるまでは、コンピュータサイエンティストがこれを監督することになります。しかし、これらのシステムができるパワーでコードを生成する能力は革命的です。それは、あなた方一人一人がポケットにスーパーコンピュータとスーパープログラマーを持っているということを意味します。さて、ここには誰もテロリストではありませんよね。しかし、否定的な例を使う方が常に簡単です。
私はステレオタイプを使います。地下室に住んでいる若い男性がたくさんいます。彼らの母親は彼らに食べ物を与え、彼らは暗号通貨4chan、パラノイア、何でもいいですが、毒を選んでくださいの同等のものに座っています。彼ら全員がこれらのツールを使用して信じられないほど強力なシステムを構築する能力を持っています。サイバー攻撃、その他、いいえ、彼らが気にかけていることは何でもです。
保険会社の幹部を殺害した人物、マニオンという人物に関するいくつかの証拠があったと思います。彼はこの一部に関わっていて、何人かの人々が彼の書いたもののいくつかを見ていました。もちろん彼は今刑務所にいますが、彼は何らかの形でそれに影響されていました。さて、私はここで因果関係を証明しているわけではありませんが、それは人間性の最も暗い奥底のいくつかの例です。あなたはそれらの人々にこの種のツールを与えます。私たちは準備ができていなければなりません。
さて、業界はこれをよく認識しており、私たちはそれに取り組んでいます。防御システムが能力を持つことが非常に重要です。ところで、AIに対する最終的な解決策は、悪いAIと戦う良いAIです。そしてそれがそれ自体を解決する方法です。
結論:AIの岐路に立つ人類
さて、次のスライドをお願いできますか。
シュミット氏の啓示をまとめると、厳しい現実が浮かび上がります。AIの変革力は差し迫っているだけでなく、潜在的に制御不能でもあります。2つのグローバルジャイアント、米国と中国は、AI戦略において異なる道を進んでいます。技術自体が前例のないペースで進化している間、これはフィクションの物語ではありません。
それは私たちの現在と近い未来です。重要な質問は、AIのガバナンス、受益者、そして知的機械に追い抜かれたときの人類の運命を中心に展開されます。シュミット氏の警告は、転換点が近づいている可能性があることを示唆しており、行動が私たちの運命を封印する可能性があります。関心を持ち続けてください。より洞察に満ちた議論のために購読し、会話に参加してください。あなたの考えを共有し、認識を広めてください。AIの軌道を形作る時間がなくなりつつあるかもしれないからです。
コメント