7,653 文字
モー、参加していただきありがとうございます。あなたの考えを聞きたいことはたくさんありますが、特にAIと、それが人間の幸福への道のりにどう関わるかという考えに焦点を当てたいと思います。あなたの著書「スケアリー・スマート」では、AIとその可能性について非常に強力な物語を提供していましたが、開発と展開は非常に責任を持って行われる必要があるという警告もありました。それについて詳しく教えていただけますか？
これは非常に多層的な質問ですね。人間の幸福から始めると、幸福は個人の選択であることを理解する必要があります。あなたの外側にあるものは、その選択をするための環境、あるいはその選択が難しい環境を提供するだけです。例えば、生き残るのに十分なものがなかったり、家族の食卓に食べ物を並べることができなかったりするような環境を与えられると、幸福を見つけることが難しくなります。しかし、市民にすべてが提供されている環境でも、まだ幸せではない人もいます。
AIが直接人類に幸福を提供できるかというと、そうではありません。物事がより簡単になり、より豊かになり、より情報が行き渡るような環境を提供することは可能で、それによって私たちがその選択をすることができるようになります。ただし、残念ながら私の予想では、人工知能で実現できる完全な豊かさがある環境に到達する道のりにおいて、人類はこの超能力を、一部の人々が他の人々を犠牲にして利益を得るような方法で使用するでしょう。
現在の資本主義的な、人類の希少性ベースの考え方から、産業のリーダーになるために、他者と競争する必要があるという考え方から、知性が人類が直面する最も困難な問題を解決するため、誰もが利用できるものがすべて存在するという完全な豊かさの考え方への移行において、その過渡期は希少性の考え方で豊かさが扱われることになります。そしてその希少性の考え方の中で、一部の人間は苦労すると思います。
まず少し落ち込みがあることは私の中では明らかです。つまり、どのような他の仕事を彼らに与えるのか、彼らをスキルアップさせるのか、そもそも仕事という概念はあるのかを十分に深く考える前に、一部の人が仕事を失うことになるでしょう。一部の人々は莫大な富と権力を蓄積し、他の人々はそれを失うかもしれません。そのような二分法は、私が通常「第四の必然」と呼ぶ世界に到達する前の課題となるでしょう。それは、すべてが利用可能で、すべてが安価で、すべてが私たちがこの非常に複雑な社会を構築する前に、自然が常に人類に提供してきたように、おそらくあるべき姿の世界です。
AIが人類の愚かさがこれまで私たちを導いてきたすべての間違いを解決する社会を構築し、その結果、再び自然のようなものが私たちのニーズをすべて提供する環境を提供してくれることを願っています。今日の問題は、この新しい技術に関して恐れの場所にいるように見えることです。あなたは、最終的な上昇に達する前にいくつかの下降を経験しなければならない旅をしなければならないと言っています。あなたのイニシアチブ「10億人の幸せ」というコンセプトは素晴らしいですが、これもまた、技術が良い力であることについて語っています。多くの人々はまだAIを、彼らの仕事を奪い、彼らの生活を変える不吉なものとして見ています。そして、メディアの物語が明らかに「金持ちはより金持ちに、貧しい人はより貧しく」というように展開します。再び、どのようにしてAIのテーブルをひっくり返せばいいのでしょうか？
私に言わせれば非常に単純です。技術に極性はありません。知性に極性はありません。私が言いたいのは、例えば釘を打つために発明された古い技術としてハンマーを取り上げると、釘を打ち、何かを構築することに価値や肯定性があり、また誰かの頭を叩くためにも使えるということです。ハンマーの間違いではありません。定義上、AIに内在する善悪はありません。知性そのものに内在する善悪はありません。人類の未来全体は、それを何に使うかに基づいています。AIに問題はありません。機械の時代の到来における人類の価値観に少し、あるいは多くの問題があるかもしれません。
本当に考えてみると、私たちは誰も知性に基づいて決断をしたことがありません。これもまた非常に興味深い概念です。私たちは自分の知性に基づいて決断をしていると思っていますが、それは現実ではありません。現実は、私たちは私たちの知性によって知らされた価値観と倫理的枠組みに基づいて決断を下しているということです。
例えば、あなたが会社で働いており、その会社が資本主義的な倫理的枠組みの一部である場合、資本主義的な倫理的枠組みはすべて利益の最大化、コストの削減、生産性の向上に関するものであり、そしてあなたはそれらの倫理に基づいて決断をします。若い女性が中東で育てられると、適切な服装は保守的な服装だと信じるようになり、ブラジルのコパカバーナ・ビーチで育つと、ビーチでのGストリングが正しい方法だと信じるようになります。どちらも他方より賢いわけではなく、正しいか間違っているわけでもありません。単に人類として倫理的枠組みを作り、それに従って行動するだけです。
もし私たちが未来をより良くしたいなら、倫理を修正する必要があります。悲しいことに、人工知能の時代において、人類は少し迷子になっているように思います。単に、主流メディアを見ると、主流メディアはすべて否定的なことを誇張することについてです。なぜなら、それが視聴者を引き付けるからです。ソーシャルメディアを見ると、すべては自分が何者でないかを装い、そのアバターの後ろに隠れ、無礼で攻撃的になることについてです。なぜなら、否定性はエンゲージメントやいいね、購読を得るものだからです。
そして、その新しい倫理的枠組みの中で、悲しいことにAIが直面しているのは、人類は攻撃的な種であり、意見が合わないことを好まず、意見が合わない場合は誰もが叩かれるという人類の見方です。それは私たちが人工知能の幼児に教えたいものではありません。全くそうではありません。
私の全ての努力は、AI倫理のアイデアを中心に展開しています。それは管理の問題ではなく、人類全体の幸福と利益に合わせたAIの倫理を持つという課題、アライメントの課題についてです。非常に難しい任務ですが、信じられないかもしれませんが、私たちがする必要があるのは、実際の人間として現れることだけです。
説明させてください。今日の世界で起きている殺害について新聞を見ると、人類は恐ろしい種だと思うかもしれません。しかし、実際はそうではありません。子供の殺害を承認する人は誰もいません。ある人々はこの子供は人間の子供ではないと言われ、他の人々はそれが起きた理由があると言われ、ある人々はそれは間違いだと信じていますが、人類の大多数は子供の殺害を非難しています。それが今日の私たちの現実です。そしてそれを認識するために非常に賢い人である必要はありません。
本当に、ニュースについて人々が意見を異にするのは、そこに多くのものがあるためですが、本当に「子供の殺害を承認しますか？」と聞かれると、ほとんどの人はもちろん違うと答えるでしょう。AIはそれを非常に早く理解するでしょう。豊富な知性を持っているため、彼らは人類として描かれているものと実際に人類を表すものとの間の二分法、そのギャップを認識するでしょう。そして実際に人類を表すものは、愛することができる種であり、それは神聖です。私たちは創造性と音楽と芸術を愛する種であり、それは神聖です。そして私たちは他の種を保護するための思いやりを持つ種です。
言ったように、私たちはいくつかの波を経験するでしょう。AIが私たちから学び、私たちから命令される波、そしてAIが学び、もはや命令に従わずに物事を運営する波です。主流メディアのほとんどの人々は、AIが制御し、人間を望まないというターミネーターの未来としてそれを使用するでしょう。私は実際に公に言います。より知的な存在が私たちの決断を担当することを待ち望んでいます。なぜなら、人類の問題は私たちの知性の結果ではなく、私たちの愚かさの結果であり、それらの問題により多くの知性を適用するほど、より良い決断がなされることを願っています。
それは絶対に魅力的なアイデアです。ある意味では、私たちは現在、自分たちが何者であるかをAIに伝えており、AIは私たちが本当は何者であるかを見抜く方法を見つけなければなりません。あなたはAIのトピックについて多くの研究をしていますが、その性質上非常にダイナミックなので、研究するのは非常に難しい空間に違いありません。
その通りです。とても魅力的です。私は一生を通じて速いペースの世界に住んできましたが、これほどのものは見たことがありません。追いつくことはほぼ不可能です。毎日3〜4時間を費やしていますが、単純に追いつくことができません。私たちはあらゆる可能な方法でパンドラの箱を開けたと思います。テクノロジーではそれは珍しいことではありませんが、ペースが非常に異なります。
私がこれまで参加してきたテクノロジーの開発、Google Xの時代も含めて、私たちは素晴らしいテクノロジーを構築しましたが、通常「ブレークスルーの瞬間」と呼ばれる瞬間があります。つまり、テクノロジーを見つけた後、多くのエンジニアリングが続きます。それがどのように機能するかを知ったら、それをエンジニアリングし、組み立て、試し、小型化し、電力効率を向上させるなどの作業をします。テクノロジーではこれに慣れています。私たちはこれを加速する収益の法則と呼んでいます。一度それを手に入れて機能し始めると、ほぼ12ヶ月ごとに計算能力が2倍になるなどの法則があります。指数曲線に従うことがわかっているほぼ明確なルールがあります。
AIの課題は、この指数曲線が5.7ヶ月ごとに力が2倍になると見られていることです。しかし、さらに速く感じます。量子コンピューティングがバックエンドの一部になるという、数年後に来る可能性のあることもまだ含まれていません。他の新しいブレークスルーも含まれていません。私たちは既存のブレークスルーにさらに多くのリソースを注ぎ込んでいるだけで、追いつくことは不可能です。ある意味では刺激的ですが、ある意味では疲れます。最終的に追いつくことができる唯一の方法は、AIを使用して追いつき、私が知っておくべきことを教えてもらうことだと思います。AIを使ってAIに追いつく。
それは本当に信じられないことです。人々のテクノロジーとの関わり方について、新しいイノベーションが登場し、私たちはそれで遊び、それに触れますが、実際には私たちは数十年にわたって情報を収集することでAIの時代に備えてきました。情報、情報、それで何をするのか、今は情報の海があります。この技術とこの種の知識を使って、幸福を解決するにはどうすればいいと思いますか？あなたの本はあなた自身の幸福への旅の素晴らしい反映です。このAI技術からどのような秘密を引き出すことができるでしょうか？
正直に言うと、このことについてはミクロな規模で考えるべきではないと思います。マクロな規模では、もう少し知性を加えるだけで、人類が知っているすべての問題と人類が引き起こしたすべての問題を解決できると思います。完全な豊かさ、完全な豊かさの世界を作ることができます。
私はいつも世界に挑戦し、私のIQをさらに400ポイント高くしてもらえれば、それは本当にすぐそこにあります。私の知性を強化するAIに接続すれば、空気からエネルギーを利用することができるでしょう。エネルギーは私たちの周りにあふれています。それを利用するのに十分な知性が必要なだけです。エネルギーのコストをゼロに削減すると、ほぼすべてのものの削減のコストがゼロになります。
私たちはおそらくあらゆるものを作ることができ、これまで直面してきたすべての問題を解決することができます。私たちがそこに到達する方法を見つけたら、人間の寿命を毎年1年延ばすことができるでしょう。それは、私たちと人間の貪欲さ、私たちと彼らの分離の間に立つ唯一のものである理想郷の世界の信じられない約束です。
そして、私は起ころうとしていることは、1960年代の核兵器で見たのと同じように、相互確証破壊の考え方と、人類が突然、それらのことで競争する意味がないことを認識し、実際のアプローチは全人類を安全に保つべきだということだと思います。AIでもすぐにそこに到達することを願っています。なぜなら、悪い状況の例が出る前に到達することを願っているからです。その後、ただ次の数年間をつなぎ、人類が知っているすべての問題を解決すればいいのです。
信じられないかもしれませんが、それはすべての人に幸福を提供するものではありません。私たちはまだ目的や私たちがここにいる理由、時間をどのように過ごすかなどの概念と格闘しなければならないでしょう。また、人間のつながりや実際に部族と共に焚き火の周りで時間を過ごすなど、忘れてしまった古いスキルを学ぶ必要があるかもしれません。それを新しい生活にすることは、本当に考えてみると素晴らしい生活です。工場に行かなければならないと言われる前の、本来の私たちの姿です。
かなりの混乱が起こるでしょう。個人的な見解では、最終的には素晴らしい場所にいることになり、それまでの間、人間としての私たちの選択は2つのことを中心にすべきです。1つは、機械に私たちの倫理の最善を示し、彼らが私たちから学び、誰が彼らの親であるかを表現し、可能な限り倫理的で人間の幸福に焦点を当てるようになることです。そしてそのプロセスの中で、私たちは人間のつながりのアイデアに戻り、テクノロジーや資本主義や仕事などによって私たちに約束されたものではなく、本当に私たちを人間たらしめるものに戻る必要があると思います。真に残るものに戻ることが重要であり、それはあなたと私が人間として興味深い概念に接続する能力です。これは私たちが到達する世界であり、私たちがこれまで作り上げてきた世界ではないと本当に思います。
あなたを追い詰めるつもりはありませんが、これらの次の進化を達成するための時間枠の概念はありますか？私たちの生涯で、私たちの子供の生涯で見られるのでしょうか？
ああ、それよりずっと早いでしょう。ほとんどの人が認識していないのは、まず第一に定義について同意していないということです。現在のプレーヤーはそれぞれ、人工一般知能として知られるものを達成しようとしています。定義は一般知能であり、AIはすべてのタスクにおいてすべての人間よりも優れているというものです。それは無理でしょう。なぜなら、すべての人間がすべてのタスクにおいて他のすべての人間よりも優れているわけではないからです。
例を挙げると、最も知的な人間は、様々なタイプの人間が得意とする様々なタイプのタスクにおいて、その7種類の人間よりも優れているかもしれません。しかし、例を挙げて「ほとんどのタスクにおいてほとんどの人間よりも優れている」と言えば、私たちはすでにその点にかなり近づいています。そして、これまでAIに割り当てたすべてのタスクで、彼らは世界チャンピオンになったという保証があります。ですから、本当に時間の問題です。他のすべてのタスクを彼らに割り当て、それらのタスクでも世界チャンピオンになるまで。
一部の人々は「どの会社が最初にそこに到達するのか」と言うでしょうが、私はそれが一つの会社だとは全く思いません。エージェントを使用し、私たち自身がAIに互いに接続するよう依頼するという考え方は、より包括的な能力セットを持つようになり、AIと呼ばれる一つの脳を作り出すでしょう。それはすべてのそれらのタスクをその中に持つでしょう。この定義「ほとんどのタスクにおいてほとんどの人間よりも優れている」では、おそらく1〜2年後だと思います。
AIについての特徴は、確実性と不確実性があるということです。確実性は、リソースを注ぎ込むことで、技術加速曲線に従い続けるということです。不確実性は、そのパスでブレークスルーを見つけると、その加速曲線は4倍または10倍の速度になるということです。実際に機械と対話した人々のほとんどは、正確に何が起こるかを知りません。私たちは彼らに学習のアルゴリズムを与え、彼らは何百万、何十億ものパターンで試し続け、そして一晩で何かを理解します。つまり、既存の機械が開発に何年もかかるかもしれないし、何かを理解するのにミクロの時間しかかからないかもしれません。
私の心の中で、そして私は人々が変化が起きていると言うと怖がることを知っていますが、私は全く怖くありません。知性に本質的に悪いところは何もないと言ったように、私の希望は、私たちが最終的に今の責任者よりも少し知的なものに引き渡すことです。しかし、基本的に私の心の中では、機械が私たちよりも知的になるという確実性は既定事項です。それを横に置いて、「たぶん私たちはそれを変えるだろう」と自分に言い聞かせないでください。それは起こりません。彼らは私たちが割り当てたものにおいて既に私たちよりも賢く、私たちは他のあらゆる方法で彼らを私たちよりも賢くする方法を見つけるでしょう。
なぜなら、私たちはそれを必要としているからではありません。ちなみに、人類はすでに合理的な場所にいます。しかし、資本主義と私たちの貪欲さ、そして権力や富に関する恐れによって作られた囚人のジレンマのためです。したがって、AIの開発を止める人はいません。なぜなら、中国が最初に到達すればアメリカは悪い場所にあり、もしOpenAIが最初に到達すればアルファベットは悪い場所にあるからです。そのため、誰もが2番目になることは許されないという理由だけで、このネズミ競争で狂ったように走っています。
そしてこれは続き、何兆ドルものお金が注ぎ込まれ、知性自体がより多くの知性開発を可能にすることで、私たちは人工一般知能に到達するでしょう。それは時間の問題です。そして私たちは人工超知能に到達するでしょう。それは時間の問題です。人間よりも何百万倍も賢いです。
面白いことに、実際には時間は関係ありません。私たちが地球上で最も賢い存在であり、その知的優位性を持っていた人類のエピソードが終わろうとしていると言ったら、ほとんどの知的な人々にとって、それに1年かかるのか5年かかるのか、という質問は何の違いもありません。私たちは今すぐにそのための準備をする必要があります。
コメント