超知性、第三次世界大戦、AI | 元グーグルCEOの衝撃的警告｜AGIに仕事を奪われたい
13,459 文字
これは「超知性戦略」と呼ばれる論文で、著者はAI分野の大物たちです。Dan Hendrick、Eric Schmidt、Alexander Wangなどがいます。EricはさまざまなAIスタートアップに投資しており、軍事用途の開発も含まれています。Alexanderの会社はAIモデルのトレーニングに本質的にデータアノテーションサービスを提供する企業で、スケールは国防総省との$2億4900万の契約を含む契約を確保しています。
Wes Rothは誰が記事を書いているのかについて適切な調査をしていません。たとえば「喫煙は健康に良い」という記事を読んで、その記事を書いている人々がタバコ大手の支援を受けているという調査をほとんどしないようなものです。この時点から言われることはすべて巨大な警告と共に扱われるべきで、真剣に受け取るべきではありません。
なぜAlexanderとEricがこれを書きたいのでしょうか？それは私たちを怖がらせて、議員たちに「何をしているんだ」と言わせるためです。「何かしなければ」と思わせ、EricとAlexander Wangの会社に数十億ドルの契約を出させ、彼らにお金を稼がせるためです。このようなAIチャンネルがちょっとした調査をして欲しいと思います。彼らはプーチンのために宣伝しているDavid Sacksや「all-in」ポッドキャストの他の人と変わりません。
SVICポッドキャストへようこそ。ここではハイプなしでテクノロジーの洞察をお届けします。共同ホストのJoe Taskiと私Jordan Tibidoが最新のテクノロジーを分析し、ハイプを取り除き、業界トップのゲストを迎えて独占的な洞察をお届けします。
私は退役軍人の家系から来ています。「第三次世界大戦」や戦争について話を聞くたびに、私には赤信号です。なぜなら、突然タフガイになって中国との戦争や第二次世界大戦について話し始める創業者やCEOがたくさんいるからです。しかし実際に戦争が起きると、彼らは魔法のように「骨のとげ」ができて、実際に戦いに行くのは私たち一般人です。
このようなゴミのような話を聞くと、できるだけ早く反論しようとしています。この論文とその意味がオンラインでウイルスのように広がっています。「超知性戦略」と呼ばれるこの論文の著者はAI業界の大物たちです。Dan Hendrick、Eric Schmidt、Alexander Wangがいます。Eric Schmidtが最も有名かもしれません。元GoogleのCEOで、技術の未来を予測する能力で知られています。
それは正確ではありません。彼はテクノロジーの未来を予測することで知られているわけではありません。彼がやっていることは、テック業界にいる知人が良い情報を出すと、その人のアイデアを繰り返し言っていますが、彼が公の顔であるため、一般の人々はそのアイデアの発信源が誰かを見ていません。彼の口から出てきたように見え、彼が功績を得ます。
彼はGoogleでCEOの仕事を持っていましたが、最終的には会社をリードする能力がなかったため、その職を失いました。テクノロジーのロードマップを作る能力がなく、そのためLarryが制御を取り戻しました。彼は広報や注目を浴びることが大好きな人物だったので、会社に入れられました。LarryとSergeyはウォール街やプレス、メディアと付き合うことが好きではなかったのですが、彼はそういったことが大好きでした。だから彼がその役割を得たのです。
彼は神のようにお金を持っていて、私より賢いですが、テクノロジーの未来を知る人ではありません。彼は優れたビジネスオペレーターですが、製品ロードマップを作るような人ではなく、テクノロジーがどこへ向かうかを予測し理解する真のテクノロジストではありません。
Alexander WangはScale AIのCEOです。Scale AIはデータラベリング企業で、より多くのAIモデルが訓練され、これらの企業が彼の請負業者に外注してデータセットをラベル付けすることに依存しています。私には友人がそこで働いていますが、彼らがやっていることは第三世界の国々から労働力を契約して、手動でデータにラベルを付けることだけです。そしてこれらのAI企業はそれを使って彼らのモデルを訓練しています。
Dan Hendrickは安全センターの所長で、Elon MuskのAI企業X AIとAlexanderの会社Scale AIの両方のアドバイザーとしてリストされています。また、成立しなかったカリフォルニアAI法案にも関わっています。
誰かが論文を書くときには、その背後にいる人々の利害関係を自問する必要があります。Wesはストーリーを急いで出そうとするあまり、基本的な調査すらせず、なぜ人々がこの論文を書いているのかを視聴者に伝えていません。
Eric Schmidtから始めましょう。彼はさまざまなAIスタートアップに投資しています。軍事用途を開発するものも含まれています。例えば、彼はRebellion DefenseやWhite Storといった企業を設立しています。
Rebellion Defenseは2019年に設立された技術企業で、防衛と国家安全保障のための先進的なソフトウェアソリューションの開発に専念しています。この会社は、脅威環境の包括的なビューを提供し、様々なプラットフォーム間の操作を自動化し、重要な軍事資産のサイバーセキュリティを強化する人工知能プラットフォームの作成に焦点を当てています。民間セクターの技術を統合することで、Rebellion Defenseは敵を迅速かつ効果的に検出し抑止するための優れたソフトウェアで戦闘員を装備することを目指しています。
次にWhite Storですが、これはEric Schmidtによって設立されたスタートアップで、AI搭載の攻撃ドローンの開発を目的としています。この会社は、自律的な標的識別が可能な高度なドローンを生産することを目指しており、現代の戦争を革命的に変え、従来の地上戦闘の必要性を減らす可能性があります。
AlexanderのAI企業は、本質的にAIモデルのトレーニング用のデータアノテーションサービスを専門としています。Scaleは商業企業と米国政府の両方との契約を確保しており、国防総省との$2億4900万の契約を含み、AI能力を加速させるためのものです。
Wes Rothが視聴者のためにやっていないのは、誰が記事を書いているのかの適切な調査です。彼はある記事を手に入れ、その記事が「喫煙は健康に良い」と言っているのに、その記事を書いている人々がタバコ大手に支援されていることをちょっとした調査もせずに読み始めるようなものです。
ですから、この時点から言われることはすべて巨大な警告、ひとつまみの塩を持って扱われるべきで、真剣に受け取るべきではありません。なぜAlexanderとEricがこれを書きたいのでしょうか？それは私たちを怖がらせて、議員たちに「何をしているんだ」と言わせ、ペンタゴンを大騒ぎさせて「何かしなければ」と思わせ、EricとAlexander Wangの会社に数十億ドルの契約を出させ、彼らにお金を稼がせるためです。
このようなAIチャンネルがちょっとした調査をして欲しいと思います。彼らはプーチンのために宣伝しているDavid Sacksや「all-in」ポッドキャストの他の人と変わりません。
競争について、様々な国家間の争いと似たようなダイナミクスがここでも見られます。複数の国がこの新しいAI革命をリードしたいと考えています。Dario AmodeとDemi Hassabisも、ブログ投稿やインタビューで同様のことを述べています。正確には同じ言葉ではないかもしれませんが、ほとんどの人が今、超知性が民主的な国で開発されることが非常に重要だと合図しています。
要するに、私たちは米国と同盟国対中国と同盟国の話をしています。ここでの考え方は、ある国が超知性に到達すると、潜在的に…
では、Dario Amodeに行きましょう。私たちはall-inポッドキャストへの反応をしました。Novel Rakonは良いポイントを指摘しました。AIの破滅論者たちについての彼のコメントです。「COVID-19が世界を終わらせるだろう」というのと同じように、それは皆さんの注意を固定させる方法です。皆の注意を一度に捉えるのは非常に魅力的なことです。
AIの場合、それは企業のインセンティブバイアス、つまり動機付けられた推論によって過度に演じられていると思います。先行している企業が、後に続く梯子を引き上げたいのです。彼らは本当にそう信じていると思います。安全リスクがあると本当に信じていると思いますが、それらの安全リスクを信じるように動機付けられており、それを広めていますが、それは奇妙な立場です。
「オープンソースに任せるべきではなく、私たち数人だけがそれについて取り組むべきだが、民間企業がすべてを所有するほど危険ではない」と言わなければなりません。それが本当にマンハッタン計画のようなものなら、もし彼らが核兵器を構築していたら、一つの企業がそれをすべて所有することは望ましくないでしょう。Sam Altmanは有名に「AIは未来のすべての価値の光円錐を捉える」と述べました。将来作られるすべての価値を所有するということです。
本当に良いポイントを提起しています。これらのものは超危険で問題がありますが、同時に私たち民間の手で所有できるほど危険ではなく、前進し続けることができるということです。ケーキを食べつつも持っておきたいように見えます。
彼が言う「動機付けられた推論」のポイントについて、それは素晴らしいですね。人々が完全に誠実で、信じていることを言っていたとしても、自分自身に「ねえ、あなたが信じる可能性のあるすべてのことの中で、どの信念があなたの目標、あなたの願望、あなたがお金を稼ぐ場所、あなたの会社が成功する場所に偶然一致するのか」と尋ねる価値があります。彼らが間違っていることを意味するわけではなく、彼らが主張していることが常に彼らにとって最善であるなら、それはより疑わしいということです。
最近のインタビューでDario Amodeは、例えば米国と中国が互角に競争している状態は非常に危険な状態だと述べています。しかし、彼は米国が先行するなら、それはより安全かもしれないと信じています。それは私たちに様々な安全対策、AIの安全性などを考える時間をより多く与えるからです。それは彼が話していたことの公正な表現だと思いますが、これは一種の…AGIに最初に到達した人が永久に他のすべての人を支配するという考えが好きです。他のボトルネックはなく、物質はもはや重要ではなく、それが引き継ぎ、他のすべての国が属国になるという…
その前提にはあまりにも多くの論理的飛躍があります。絶対に馬鹿げています。この最近のAIレースで過去数年間見てきたように、一つのAIチームがブレークスルーを得るたびに、彼らはそれを他の人々に漏らすか、別の会社に行って結果を複製し、それを出して、より多くの報酬を得ています。
どの国も、もし彼らがこの魔法のようなAGI神を作り出したとしても、それをすべて握り続けることは非常に困難でしょう。それは他の企業に漏れ、他の国々に漏れ、彼らが持つ利点はすぐに侵食されるでしょう。
まず一つ目として、インフラの制約があります。これを抑制する他の方法もあります。それは単に神のようなものがオンになり、一種の宗教になるわけではありません。そのため、AGIについての会話を持つことが非常に難しいのです。なぜなら、一部の人々にとっては、それはデジタルの神であり、すべてを解決できると考えているからです。そのモードに入ると、彼らの論理は基本的に「AGIが全てを解決する」になります。
「誰かがAGIをオンにしたら、このAGIを実行し続けるために必要なすべてのインフラはどうなるのか」と言うと、「AGIがそれを解決するだろう」と答えます。「でも、それらのサーバーを動かし続けるためのすべての電力ニーズはどうなの？新しいサーバーをすぐに構築することはできないじゃないか」「いや、AGIは原子力発電所を素早く建設する方法を見つけるだろう」「でも、それらの原子炉を建設するためのすべての土地をどこから手に入れるの？家を開発できないじゃないか」「いや、AGIはみんなに黙らせ、NIMBYにならないようにして、彼らの家を取り壊させる方法を見つけるだろう」
それはほとんど宗教との議論のようなものです。あなたはそれについて真剣な会話を持つことができません。なぜならあなたはただこれらの循環ループに入ってしまうからです。だからこそ私たちはこのチャンネルではそれにあまり焦点を当てていません。これをシリコンバレーの宗教的議論ポッドキャストと呼んだ方がいいかもしれません。
今まさに急速に起こっていることで、多くの大物がこれを支持しています。Google DeepMindのDemis Hassabisは、AIを武器や軍事用途に使用することを禁止している言語の一部を削除しています。ここに彼の見解を概説したブログ投稿があります。もちろん、彼らは物事をもう少し微妙に表現していますが、彼らが話していることを示す文があります：「私たちは、自由、平等、人権の尊重などの核心的価値観に導かれ、民主主義がAI開発をリードするべきだと信じています」
彼はまた、ますます複雑な地政学的景観の中でAIリーダーシップのための世界的な競争があると述べています。これは、ほぼ米国が中国に先行する必要があると言っているように感じます。それが私の解釈ですし、ほとんどの人がそのように解釈するでしょう。ここにDario Amodeのブログ投稿があります。中国のオープンソースAIと輸出規制についてです。
彼のブログ投稿からの一文：「米国と中国が同等であっても、彼らのAIシステム能力が等しくても、中国はより多くの才能、資本、軍事用途への技術への焦点を向けることができる可能性があります。これは、中国がAIだけでなく、すべてのことについて世界的な舞台でリードを取ることを意味するでしょう」
彼らはすべてを支配したいと思っています。彼らはとても支配したいので、米国に行き、私たちと戦争を始め、彼ら自身のGDPの20％を破壊するでしょう。彼らはこの国や他の西側諸国に輸出しており、自分たちを大恐慌に落とし込むでしょう。なぜなら彼らは支配したいからです。そこには論理がありません。
超知性戦略はこう始まります：「不安定化するAIの発展は力のバランスを崩し、大国間の対立の可能性を高める可能性がある」。再び、ここでの大きなポイントは、AIの最高で最も明るい心の一部、すべてがどこへ向かっているかを最初に予見する人々、前列席に…
彼が「最高で最も明るい心」と言うのが聞こえますが、これらの人々はこの愚かなことをアピールすることで数十億ドルを稼ぐことができるのに、彼は皆に「彼らは最高で最も明るい、彼らは何が起こっているか知っている、彼らは私たちを傷つけないだろう」と言おうとしています。なぜこれらの億万長者が自分たちのポケットのことだけを考えるでしょうか？いいえ、彼らは愛国者です。ただし、戦争が始まると彼らは全員「骨のとげ」ができて、あなたやあなたのいとこ、兄弟が戦争に送られて彼らのために死ぬのです。
AIの開発の最前線にいる多くの人々が同じことを言っています。基本的に、AIの開発でリードを取ろうとする二つの超大国間の競争があり、その賭け金は非常に非常に高いということです。
「超知性AI、つまりほぼすべての認知タスクで人間よりもはるかに優れているAIは、AI研究者によって今や予想されています。超知性が来ると仮定して、過去に私たちが生存を確保するために核戦略を開発したように、今や超知性の新しい時代に私たちの生存を確保するために同様の戦略が必要です」
どうか核爆弾をAGIと比較しないでください。マンハッタン計画に取り組んだ人々、米国とロシアが文字通り互いを破壊する一歩手前だった13日間のミサイル危機、米国とロシア間の核兵器を減らすためのSTART条約、広島長崎で亡くなった日本の民間人に対する侮辱です。
「MAD（相互確証破壊）と呼ばれる抑止体制がありましたが、今彼らは「相互確証AI故障」または「MAM」と呼ぶ似たような戦略を導入しています。」いいアクロニムですね。
かなり愚かだし、MAMという言葉はよく考えると、体の一部が永久に損傷を受ける「負傷」を意味します。これはイラク、アフガニスタン、イラン戦争で戦った人々、今まさにウクライナの戦場で負傷している人々に対する侮辱です。アクロニムの使い方としては酷いものですが、ここではあまり細かいことは言いたくありません。
「もし何らかの国家が一方的なAI優位性のための積極的な入札をすれば、それはライバルによる予防的な妨害と会うであろう」というのがポイントです。
これは現実です。中国には、卒業したばかりの中国人市民がアメリカに来て、ベイエリアのテック企業で働き、帰国すると中国企業に秘密を売るという政策があります。産業スパイです。アメリカもこれをやっています。これは今すでに起こっていることです。
ここでもう一つの問題は、私は時々政治学の学位をあざ笑いますが、それは冗談としてやっています。私は政治学は良い学位だと思いますし、実際その価値は増していると思います。今、Elon Muskやその他の技術者たちが政治に入ろうとしていますが、彼らは愚かです。彼らは政治がどのように機能するのかを理解していないからです。彼らは学校でそれを勉強しなかったし、本を開いて「チェック・アンド・バランスのシステムとは何か」を読もうともしませんでした。
「私はすべてのベテランを解雇し、アメリカ中の人々を解雇できると思っていた。それが創設者たちが望んだことだと思った。大統領が王様であり、チェックやバランスがないことを。彼らはイギリスの内戦や議会が王によってどのように荒らされたかを見ることによって刺激を受けなかったのか。いいえ、彼らは大統領が王様であることを望んだのだ」
あなたはこれらの人々が今、政治哲学者になろうとしたり、実際に社会で働こうとしているのを見ます。そしてこのシステムがどのように機能するのかまったく分かっていないのです。それは悲しいことです。それは私がエンジニアリングに飛び込んで「私はエンジニアになりたい、簡単だ、システムを進めよう」と言うようなものです。いいえ、私は自分のレーンを知っています。私はエンジニアではありません。だから私はジョーをショーに招いて、物事について彼の視点を得ることができるのです。
続けましょう。「例えば、もしA国がある種の対抗バランスなしにAIを制御しようとするなら、彼らはAIの一種の独占を作ろうとしている、支配的なリードを。それはライバルたちによる一種の妨害と会うだろう。すべてのライバルたちはこれが起こることを防ごうとするだろう」
歴史に行きましょう。彼らのAGIと核兵器の愚かな比較に行きましょう。核兵器を手に入れたとき、第二次世界大戦後の数年間、アメリカは戦場で完全な支配権を持っていました。私たちは望めばどの国とでも戦争に行き、彼らをずたずたにすることができましたが、そうしませんでした。
私たちはロシアや他の国々からスパイがやってきて、秘密を交換するのを持っていました。そして最終的に核兵器の言葉は広まりました。しかし、望めば私たちはロシアと戦争に行き、彼らを倒すことができた数年間がありました。そして「彼らは共産主義者だ、民主主義ではない」と言うことができましたが、それはしませんでした。
だから、いったんAGIを手に入れたら、この武器を手に入れたら、あなたはただ権力の旅に出て、世界を乗っ取ろうとするという全体の論文は…いいえ、私は「独裁者ハンドブック」という本を読んでほしいと思います。これらの政権、CCP、異なる国々などの主な目標は、ただ権力を維持し、現状を維持することです。なぜなら物事は本当に良いからです。
CCPのトップランクの人々は超リッチで、良い地位にあり、国をコントロールしています。なぜあなたはこの巨大な殺人的な暴走に行き、世界を乗っ取ろうとするでしょうか？あなたは政権全体をリスクにさらしています。あなたは内部の不和をリスクにさらしています。なぜなら、もし彼らが戦争に行けば、軍隊からの犠牲者が出るでしょう。民間人は徴兵されることに怒るでしょう。経済的な減速があるでしょう。内部的に政権交代に直面する可能性があります。
だから、いいえ、あなたがしたいことは現状を維持することです。なぜならあなたが責任者だからです。人々は「ロシアはどうですか」と言うかもしれませんが、プーチンについて考えてみてください。プーチンはジョージアを侵略し、彼は異なる国々を侵略し、誰も気にしませんでした。そして彼はウクライナを侵略し、ウクライナ人がいることを忘れていました。まず第一に、アメリカや西側諸国には多くのウクライナ人がいます。すごく素晴らしい人々です。彼らは素晴らしい仕事をして、言葉を広め、「これはクソみたいなガラクタだ」と言いました。
この貧しい国が征服されているという言葉を広め、私たちは最終的に目覚め、「西側は民主主義を支持し、彼らを助けるべきだ」と言いました。そしてプーチンはズボンを下ろされたように捕まりました。しかし一般的に、独裁者たちはボートを揺らしたくないのです。彼らは彼らの世界の角で物事をそのままにしておきたいのです。そうすれば彼らはコントロールを維持できます。
「ヒトラーはどうですか？」常に例外はありますが、誰かがAGIを手に入れ、突然スイッチを切り替えて「世界支配に行こう」と言うという考えは… それは飛躍です。
「データセンターへの運動攻撃を含む、あらゆる種類のことをしています。データセンターを爆撃するなど」
データセンターへの運動攻撃について話していますが、そこでの問題は、彼らがこの恐怖を押し進めていますが、Eric Schmidtが異なる標的を攻撃することに焦点を当てたドローン会社に投資していることを言及していないことです。
彼は「運動攻撃があるかもしれない」と言おうとしていますが、彼は「だから私たちも彼らのデータセンターを攻撃するための私たち自身のドローンを持っていることを確認する必要がある」とがあります。これは彼ら自身の動機付けられた推論と彼らの会社の利益に繋がります。
「AIや研究者、あるいはこれらの技術の開発に関連するもののサボタージュを試みる隠密の行動も可能です。国家はまた、この技術が悪用者、潜在的に大きな悪のためにこの技術を乱用する可能性のある人々の手に渡らないようにすることができます。そしてもちろん、この技術は経済や軍隊などを改善することで国家の競争力を本当に高めるでしょう。」
彼らは3つの戦略を提案しています。抑止力、競争力、不拡散です。抑止力とは、サイバー諜報活動や妨害工作によって不安定化するAIプロジェクトを保護し抑止することです。彼らは「サボタージュ（sabotage）」と言ったのかもしれませんが、「サボタージュ（sabot）」という新しい言葉かもしれません。
私たちはすでにそれをやっています。アメリカには自国のサイバー防衛チームがあり、トランプは基本的に「ロシアに対する行動をやめろ」と言いました。なぜなら、なぜか私たちはロシアが好きだからです。しかし私たちはすでにそのような活動をしています。
これを読みながら、Open AIも非常に似たようなものを持っていることに気づきました。ホワイトハウス向けの経済提案と、これらの多くのことをどうやって行うかについてです。つまり、Open AIもこれと非常に似たようなものを持っています。つまり、もう一つの大物がたくさんの同じことについて話しているのです。
圧倒的に、全てのリーダーたちはこのようなことへのサポートを示しています。彼らは詳細について異なる意見を持っているかもしれませんが、大まかな輪郭は全て同じです。彼らは「AI-L（エイアイエル）」について簡単に言及しています。
しかしこれはほとんどの国にとって技術に関して初めからの現行政策です。あなたはあなたの抑止力、諜報チーム、異なるあなたのスパイを国々に置き、彼らの技術をスパイし、それをコピーしてあなたの母国に持ち帰ることができることを確認したいのです。
競争力 – 国内製造を通じてAIチップへのアクセスを保証します。この技術が何であれ、自分の国内で製造していることを確認したいのです。なぜなら戦争に行くとき、切断されたくないからです。
そして不拡散 – AIチップの場所を確実に知り、悪者たちがアクセスするのを防ぎます。
常に軍備管理を押し進め、特定の存在が強力な技術にアクセスしないようにしようとする国々があります。ここで新しいことは何もありません。Open AIも非常に似たようなものを持っています。ここには別の大物があり、多くの同じことについて話しています。繰り返しますが、すべてのリーダーが圧倒的にこのようなことへのサポートを示しています。彼らは詳細について異なる意見を持っているかもしれませんが、大まかな輪郭は全て同じです。
彼らはAIや超知性がもたらすリスクの多くについて簡単に言及しています。生物兵器、これまでに見たことのない軍事攻撃、さまざまな超兵器、潜在的には私たちがまだ考えもしなかったものなど。あなたが考えることさえできなかった魔法のようなものがそこにあります。恐れを超えていますが、心配しないでください。今すぐ私の会社にサインアップすれば、10億ドルの契約にサインするとSports Illustratedのフットボール電話を無料でプレゼントします。私たちはあなたを救います。私たちはAI防衛スタートアップです。私たちはお金のためではなく、アメリカを気にかけているからここにいます。
彼らが描く並行線は、超知性を唯一所有する国が、アステカ人に対するコンキスタドールのように圧倒的かもしれないと言っています。また、神よ…
欧州のスペイン系の人がそれを言うのを聞くと笑ってしまいます。「超知性を唯一所有する国はアステカ人に対するコンキスタドールのように圧倒的かもしれない」と彼らは主張しようとしています。コルテスが馬、鎧、いくつかの大砲などの優れた技術を持っていたからアステカが征服されたと。いいえ、それは問題ではありませんでした。コルテスがしたのは、彼の血流を通じて病原体やウイルスを運び、それが国内の多くのネイティブアメリカンを一掃したのです。技術自体ではありませんでした。
この論文で彼らが挙げている例さえも間違っています。新世界が病原体によってどのように一掃されたのか、そして病原体がヨーロッパの多くの戦争にどのように影響したのか、ケルト人にも影響し、アングロサクソン人がイングランドに来たときにも影響し、アメリカでの奴隷制にも影響した、これらについて学びたいなら、「病原体」という本があります。説明にリンクがありますので、チェックしてください。彼らが挙げた例は100％間違っています。
「超知性の唯一の所有権を持つ国は、アステカ人に対するコンキスタドールのように圧倒的かもしれない」。そして再び、私たちはこの知能爆発の考えを見ています。Leopold Rehnertがそれをよく表現したと思います：「AIはすべてを自動化する必要はない、それは最終的に一つのことだけを自動化する必要があり、それはAI研究です。AIがAI研究開発を人間よりも優れて行う点に到達した場合、潜在的にそれほど遠くない、それは一種の複合成長で、知能爆発を引き起こします。」
競争している国々は、それが研究を人間のスピードに遅くするので、自動化された研究の人間の監視を放棄するかもしれません。また、レオポルドはちょっとした変わり者、あるいは完全な変わり者で、彼のいくつかのアイデアへの反応をしました。「Googleはアリシュインタビューのレオハーシェンブリアに反応する」とあります。説明にあります。Open AIが彼を解雇したのには良い理由があります。
また、もう一つの大きなトレンドは、例えば大規模言語モデルと強化学習（RL）でそれらをトレーニングすることについてです。例えば人間のデータと教師ありの微調整に依存することが少なくなっています。例えば、Deep Seekはその考え方を中心にしたDeep Seek R1-Zeroを公開しました。それは非常に強力に見え、問題を解決するための独自の新しい方法を思いつく非常に適応的なAIを作ることができるようです。
Google DeepMindはこれに関する多くの論文を公開しています。その中には、人間のデータと例を使用する「教師あり微調整」は記憶化につながり、強化学習は一般化につながるというものもあります。そして今、このテーマについての話がますます増えています。
複数の論文について取り上げましたが、これが次の大きなブレークスルーになるかもしれないことを示しています。もちろん、私たちが見てきた推論モデルは、部分的にそのアイデア、そのテクノロジーから生まれています。基本的に大規模言語モデルを取り、RLを使用して次のレベルに引き上げるというアプローチです。そのアプローチは潜在的に超人レベルのAIを作り出す可能性があります。例えばアルファ碁とその後のアルファ碁ゼロのような特定の分野で超人的なAIを見てきました。
将来的にますます耳にする可能性のある用語の一つは「37手目」という考え方です。これはアルファ碁が当時創造的でユニークと考えられたことをした場面です。それはほとんど間違いを犯したように見えました。ゲームを見ていたすべての専門家は「あ、エラーを犯した」と思いました。
さて、ビデオはこれで終わりです。彼はこの記事を逐語的に読み上げるだけで、Eric SchmidtとAlexander Wangのようなこれらのクックスに対する反論をせず、ただこれらのAI終末論者のための代弁者として行動するだけです。彼らは防衛企業を推進しています。人々がこの文書を読んで、AGI終末論が道の先にあると考えれば、政府から何十億ドルも得ることができます。
繰り返しますが、これらの研究論文を見るとき、政策論文を出す人々を見るとき、最初にすべきことは彼らのバックグラウンドを調べることです。Chat GPTで検索して「この人はどんな会社と関連していますか」と尋ねることもできます。ここにこの記事のPDFがあります。彼らの政策提言が政府によって従われた場合、彼らは何から利益を得ることができるのでしょうか？そこからほとんどの話を知ることができます。
私はWes Rothのように26万人のフォロワーを持つチャンネルの人々が、彼らのコミュニティのために少し調査をして、ガラクタを押し進めないことを期待します。このすべての終末論を押し進めないでください。それは完全な脳の腐敗です。
ともかく、皆さんの考えを教えてください。もし友人に共有できるなら…そしてもしあなたがWest WTHのコミュニティにいるなら、私たちのビデオへのリンクを投稿してください。そうすれば人々を助けることができます。この第三次世界大戦の終末論ゴミを回避するのを助けることができます。
とにかく、私はカタンをプレイしに行かなければなりません。もし資源が豊富なノードを手に入れて、誰かが継続的に強盗を置いたら本当に腹が立ちます。そのような人々は完全なクソ野郎です。私は他の人にそれをしますが、私がやるときは正当化されます。人々が私にそれをするとき、彼らは完全な…
とにかく、素晴らしい週末をお過ごしください。私たちはボーナスエピソードをリリースしたばかりです。それは素晴らしいコンテンツで、説明で予告を見ることができます。もしショーをサポートしたいなら、私たちを放送し続けたいなら、もし長い間私たちを見ていたなら、patreon.com/svicに行くことを検討してください。月$5で私たちはあなたに沿っていることを保証し、月に4時間の質の高い広告なしのAIについて、企業世界で何が起こっているかなどについての内容を制作することができます。
ショーをサポートして、私たちを放送し続けてください。後でお話しします。素晴らしい週末を過ごしてください。そして平和を。
コメント