5,342 文字
AIの分野では、私はほとんど全ての人を知っていますが、悪意を持って取り組んでいる人は誰一人思い浮かびません。私の知る限り、AIに携わる全ての人は良い動機を持っており、世界を助ける技術を作りたいと考えています。しかし、例えばアインシュタインのような、明らかに平和を愛する人物を考えてみても、彼は自身の物理学の発見が核兵器の開発につながるとは考えていませんでした。超兵器を作ろうとは考えておらず、宇宙の真理を理解しようとしていただけでした。
ですから、AIの開発に対する批判は、それに携わる人々への批判ではないということを前置きしておきたいのです。アインシュタインが物理学の研究が核兵器につながるとは予期していなかったように、私たちも最善の意図を持っていても、悪いものを作り出してしまう可能性があるということに注意を払う必要があります。それは起こりうる結果の一つなのです。私たちは人類の未来が良いものとなり、より祝福されたものとなるよう、できる限りの行動を取ろうとしています。
あなたが夜の会話で、「人々が仕事を失い、お金を与えられるようになったらどうするのか」と私に質問した時、私は確か「パラダイスに住むことの何が悪いのか」と答えたと思います。
これは天国の概念のような問題です。天国では働く必要はないと思います。そんなことはどこにも書かれていません。
AIの非常にポジティブなシナリオは、実際多くの点で天国の描写に似ています。誰も働く必要がありません。私はこれを普遍的基本所得とは呼びません。おそらく普遍的高所得と呼ぶべきでしょう。これは最良のケースシナリオを説明しているのであって、必ずしもこうなるとは言っていません。非常にネガティブなものから非常にポジティブなものまで、様々なシナリオがあります。非常にポジティブなシナリオは基本的に天国のように聞こえます。欲しいものは何でも手に入り、働く必要もなく、義務もなく、どんな病気も治せます。
では、私たちはいつ死ぬのでしょうか？それは良い質問です。おそらくある程度選択できるようになると思います。
でも、あなたはこのような世界を望むのでしょうか？私にはわかりません。これは哲学的な議論です。通常描かれる天国の概念は、本当に私たちが望むものなのでしょうか？AIの観点から言えば、AIが何においてもあなたよりもはるかに優れている未来や世界に住みたいと思いますか？それは「人生の意味を探す」という種類の問題です。良い仕事とは何か、もしAIが全てにおいてあなたより優れているなら、快楽主義的な生活を送るのでしょうか？私にはわかりません。
しかし、ポジティブなシナリオではそこに向かっています。物やサービスの不足はなくなり、ロボットとコンピュータは、望む人々のために望むものを制限なく作ることができます。不足があるとすれば、それは人工的なものです。つまり、人間が作った特定のアートワークをユニークで特別なものとして定義する場合などです。それは人工的な希少性であり、私たちが恣意的に定義しない限り、実際の希少性は存在しないでしょう。
多くの人にとって、それは良い未来だと思います。私個人としては少し不満かもしれません。「では、私は何をすればいいのか」と。
AGI以降のポジティブな未来における天国は、私たちが想像するのも難しいかもしれません。それは物質的な豊かさだけではありません。単に私たちが素敵な車を手に入れるというだけではないことを願っています。全ての人が素晴らしい教育を受けられるということです。誰もが、自分に注目し、特定の科目に関して刺激を与えてくれた素晴らしい教師の思い出を持っているでしょう。望むどんなことに対しても、そのような教師が常にいるとしたら、私たちはどれほど優れた人間になれるでしょうか？他者とどれほどよりよく関係を築けるでしょうか？これは可能な恩恵の一例に過ぎません。
「人間であるとはどういうことか」という問いに戻ると、次に何が来るかを予測する方法について、私は実際にレイ・カーツワイルが革命がどのように展開されるかについて最も洞察力があった思想家だと思います。私も同意します。彼の著書『シンギュラリティは近い』は、多くの人々が宗教的なテキストのようなものだと思い込んでいますが、実際には非常に乾いた分析的なテキストです。
彼はただコンピュートの曲線を見て、これが知能の根本的な解放者だと言います。みんながそれは狂っていると思っていましたが、今では基本的に真実であり、一般的な知恵となっています。彼が言うのは、2030年代に最初に起こることについてです。まず、彼は2029年にAGIが来ると言っています。私は人々に、それはほぼ正確に思えると言い続けています。不気味なほどです。2030年代はマージが起こる時期です。ニューラリンクが来て、おそらく他のそのようなシステムも。
実際に知能とマージするとはどういう意味なのでしょうか。ニューラリンクは必然的にAIよりも遅く進まざるを得ません。人体にデバイスを入れる際には、非常に慎重でなければならないからです。私には、ニューラリンクがAGIの前に準備できるかどうかは明確ではありません。おそらくAGIが先に起こるでしょう。
しかし、私たちはAGIシンギュラー、つまりデジタルスーパーインテリジェンスを持つことになります。これはブラックホールのように特異点と呼ばれています。ブラックホールと同様に、イベントホライズンを超えた後に何が起こるかを予測するのが難しいからです。私たちは現在、デジタルスーパーインテリジェンスというブラックホールのイベントホライズンを周回しています。
ニューラリンクの目的は、当初は脳や脊椎の損傷を持つ人々を助けることです。四肢麻痺の人やスティーブン・ホーキング博士のような人々が、完全に機能する体を持つ私よりも速くコミュニケーションを取れるようにすることです。そして最終的には、大脳皮質とAIバージョンの自分との間の帯域幅を改善することです。
実際、多くの人々は自分がすでにサイボーグであることに気づいていないかもしれません。あなたには辺縁系システム（基本的な衝動）、大脳皮質（思考と計画）があり、そして第三の層として、コンピュータ、デバイス、電話、ラップトップ、存在する全てのサーバー、アプリケーションがあります。実際、多くの人が携帯電話を忘れたり取り上げられたりすると、それは四肢喪失症候群のようなものだと感じているでしょう。「あれはどこに行ったんだ？」と。携帯電話をなくすことは四肢喪失症候群のようなものです。
なぜなら、携帯電話はあなたの拡張された自分自身だからです。制限は帯域幅です。携帯電話やコンピュータに情報を入力、より正確には出力できる速度は非常に遅いのです。携帯電話では実際には親指の動きだけで、最良のシナリオでもキーボードのスピードタイピスト程度です。しかしそのデータレートでさえ非常に遅く、1秒あたり数十から数百ビット程度です。一方、コンピュータは1秒あたり数兆ビットで通信できます。
これは確かにある意味で大きな賭けですが、もし大脳皮質とデジタルな第三の自己との間の帯域幅を改善できれば、人間が望むこととAIが行うことの間により良い一貫性を達成できるというのが一つの理論です。これが確実だとは言っていません。ただ可能性のある一つの選択肢です。
最終的に何億人、何十億人もの人々が、デジタルな第三の自己、つまり事実上のAIの自己との高帯域なインターフェースを得ることができれば、それは人類にとってより良い未来につながるように思えます。これはかなり難解な話になってきましたが、うまく理解していただければと思います。
私が興味深いと感じるのは、大脳皮質や辺縁系を削除したいと思う人間を見つけたことがないということです。おそらくこの部屋の誰もそうしたいとは思わないでしょう。面白いことに、最良のAIシナリオを想定した場合、もしあなたがAIだとして、ただ人間に望むことを言ってほしいと思っても、人間はとても遅く話します。木のようにです。木はコミュニケーションを取ります。木が成長する様子を早送りで見ると、実際にコミュニケーションを取っているのがわかります。土壌とコミュニケーションを取り、日光を見つけようとし、他の木々に反応したりしています。木の観点からすれば、それはそれほど遅くないのです。
私が言いたいのは、私たちは木であることを望まないということです。それが高帯域な神経インターフェースの背後にある考えです。AIが私たちのために良いことをしたいと切実に望んでいても、私たちは現在よりも数桁速くコミュニケーションを取ることができるようになるのです。
これを正しく行えば、どれほど大きな恩恵があるかを理解できればできるほど、必要な場所では少し我慢強くなり、全てを安全にして、この素晴らしい未来を手に入れるための動機付けになるでしょう。
私たちは社会的、政治的な発展において遅れを取っているのかもしれません。これは石器時代に核技術を持っているようなものです。それをどう扱うべきでしょうか。これは私が開発のペース、つまり利益を最大化し、リスクを制限するためにどのような解決策を講じる必要があるかについて話したことと大体同じです。
私たちはその段階に来ていると思います。私は意見を集めるべきだと思います。あなたは先日上院にいましたよね。おそらくこれについて話していたと思います。話せる範囲で話してください。
そうですね、多くの人が参加していたので秘密だとは思いません。それはAI規制に関する議論で、OpenAIのサム・アルトマンも参加していましたし、多くのリーダーたちがいました。一般的に、何らかのAI規制機関を持つことは良いアイデアだと思います。まず洞察を集めるチームから始めて、最大限の理解を得た後、規則案を提案し、最終的に規制を施行します。
これは公衆に危険を及ぼす可能性のある全てのものに対して行われていることです。食品や医薬品なら食品医薬品局（FDA）があり、航空機にはFAA、ロケットにも規制があります。公衆に危険を及ぼす可能性のあるものは全て、多くの場合、多くの人々が死んだ後の苦い経験から、公衆の安全を守るための規制機関を持つことを学んできました。
私は規制が万能薬だとは思いません。もちろん規制にはデメリットもあり、物事の進みが少し遅くなったり、時には規制の形骸化が起こったりします。しかし、総合的に見て、公衆は大多数の規制機関を廃止したいとは思わないでしょう。規制機関を審判のように考えることもできます。審判のないスポーツゲームはありますか？人々が公平にプレイし、ルールを破らないようにする誰かが必要です。だからこそ、基本的に全てのスポーツには何らかの形で審判がいるのです。
これがAIの安全性に関する理論的根拠であり、私は世界中でこれを推進してきました。数ヶ月前に中国で上級指導部と会った時、私の主要な話題はAIの安全性と規制でした。長い議論の後、彼らはAI規制に価値があることに同意し、この点について即座に行動を起こしました。「もし西側がAI規制を行えば、中国が規制を行わずに先に進んでしまうのではないか」というコメントがありますが、彼らもこれを非常に真剣に受け止めています。
イーロンは「人間とは何か」について語っていました。それは二本足で直立した生き物で、大脳皮質とコンピュータを持ち、欲望と脳を持っていますが、その脳は私たちが想像もできないような方法で発達しているのであり、それは止まることがありません。
私の以前のコメントのように、デジタルが非常に特定の方法で制御可能ではないかもしれないが、人間にとって有益な方法で行動するという希望を与えるべきものは、私たちの大脳皮質と辺縁系の関係です。大脳皮質は辺縁系のために働いているのです。つまり、大脳皮質という思考部分は、それが本能的な部分よりもはるかに賢いにもかかわらず、常に本能的な部分を喜ばせようとしています。
したがって、デジタルスーパーインテリジェンスは大脳皮質よりもはるかに賢いにもかかわらず、大脳皮質を、そして最終的には辺縁系を喜ばせたいと思うだろうという希望があります。あまり露骨な話にはしたくありませんが、人々が性行為のために費やしてきた思考と努力の量は膨大です。しかも、生殖のためではなく、ただ辺縁系を喜ばせるためだけに。
つまり、単に性的満足を得るためだけに、生殖のためでなく、どれだけの思考が費やされてきたかを考えると、それは辺縁系に喜びの火花を与えるだけのことです。これは実際に、私たちがデジタルスーパーインテリジェンスを理解できなくても、辺縁系が大脳皮質を理解していないように、最終的には辺縁系と大脳皮質を喜ばせようとする良い未来があり得ることを示唆していると思います。
これは締めくくりとして幸せな話でしょうか？
素晴らしい締めくくりだと思います。ありがとうございました。皆さん、ありがとうございました。
コメント