14,495 文字
やあ、ウェス・ロスです。YouTubeやインターネット上の他の場所でAIについて話していて、ここにいられてとても嬉しいです。さて、この会話を続ける準備ができました。もし今これを見つけたばかりで最初の部分をまだ見ていない場合は、実はウェスのメインチャンネル、YouTubeのウェス・ロスに投稿されています。検索してみてください。
さて、会話を続けましょう。定義上答えがないような質問をしてみます。どう対応するか見てみましょう。人工超知能について考えるとき、人間の心よりも桁違いに、さらには構造的にも異なるより強力な知性について考えるとき、それをどのように理解しますか？
チャットGPTやLLMが登場する前、「ウェイト・バット・ホワイ？」というブログに「AIレボリューション」というパート1と2の記事がありました。そこでは知性とは何かが説明されていました。私たちは知性を単に上昇していく線のように考えがちです。高いところにいるほど賢いというように。しかし彼はまた、それをほぼステップ関数のように考える必要があるとも言っていました。異なる脳は高度なことを理解する能力を持っていないのです。
例えば、アリなどの昆虫はここにいて、その次にニワトリやサルがいて、そして人間がいる。アリより単にX倍賢いというわけではなく、まったく新しい能力を可能にする異なる脳の構造があるというわけです。そうすると、人間の次にステップがあり、その次にまたステップがあると想像できます。それらは単に賢いというだけでなく、それはステップ関数です。一段上のステップなのです。
そして彼は小さな図を示します。図を拡大して、「さあ、階段が上へ上へ上へと続いていくところを想像してください」と言います。我々はここにいて、ずっと上の方を指さして「これが生物学的知性の範囲の終わりだ」と言うのです。
つまり、これは生物がどれだけ賢くなれるかの限界です。そして、その上に人工超知能があります。その画像は私の心を吹き飛ばしました。なぜなら、それは一体どういう意味なのか？単に100万倍賢いというだけではなく、知性の階段を100段上がったところの進化したものです。私たちは次のレベルにあるものを認識することさえできません。
アリから見た私たちのように、もし同じ距離だけ階段を上ったら、それはどのようなものなのか想像すらできません。1000人のアインシュタインが部屋にいて、全員が即座に答えを出し協力するような状態を想像したとしても、それでも違います。知性には全く質的で構造的な変化があり、単に既知の問題解決方法をスピードアップすることを超えているのです。
そうですね、それは単に線形的なもので、100倍、1000倍、100万倍というような話ではないと本当に思います。知性全体を表すものではありません。私にとって最大の例はアルファフォールドです。なぜなら、特定のタンパク質がどう折りたたまれるか知っていましたが、それは非常に複雑で総当たりでは不可能なことです。なぜなら折りたたみの可能性が宇宙の原子の数よりも多いからです。だから総当たりはできません。
私たちは時間をかけて細心の注意を払って、約20万の3Dタンパク質の形状を解明しました。それをアルファフォールドに入力すると、まだ発見していなかったり形状を知らなかったりする他のタンパク質の予測を出し始めました。それはどういう意味でしょうか？つまり、私たちが理解したり、スーパーコンピュータで予測したり、今までプログラムできたりするようなものではないパターンがあるということです。我々にはできないし、そのパターンが何であるかを理解することさえできません。
ニューラルネットに入力すると、それはそれほど古くはありませんが数年前のものですが、「ああ、明らかに生物学的生命がこういった構成要素から形成されるパターンがここにあります。明らかにここに作れるものがあります」というような感じです。つまり言いたいのは、知能テストのようなもので、形を見せて回転させていき、十分賢ければ次に何が来るか分かるというものがありますが、これらのAIニューラルネットは私たちが理解できないような知能テストをこなすことができるということです。もし誰かを1000倍賢くしても、あるいはあなたが言ったように1000人のアインシュタインを集めても、その問題を解くことはできないでしょう。
それはとても興味深いです。例えば、もし私が尻尾を持って生まれたら、腕と同じように制御できるだろうか？という考えを広げることはできます。おそらく脳はそれを扱うことができるでしょう。もし犬のような嗅覚を持っていたら、私の脳はそれほど良く嗅ぐことができ、それを扱えるでしょうか？おそらくできるでしょう。
しかし、もし私の脳が車両の中にあったとしたら、タイヤやハンドルを動かす方法を本当に理解できるだろうか？もしかしたら間違った構造かもしれません。それは3D世界に住まない生物学的なものです。もしかしたらできるかもしれませんが。さらに離れていくと、タンパク質の形状についてのデータだけを学習するようなものについて考えると、それは3D世界に住んでいません。同じような感覚で目覚めることもありません。それでも超知性的ですが、私たちが通常考えるものとはかなり異なっています。
スーパーコンピュータではないんです。総当たりではないからです。繰り返しになりますが、可能性は既知の宇宙の原子の数よりも多いのです。それが行っていることは、私たちには近づくこともできない何か別のものです。
人間が心配するようなことをすべて解決してくれる超人的な知性があるかもしれない、という考えに慰められますか？おそらく自然災害はあなたを傷つけることはないでしょう。おそらく誰も法を破ることができないでしょう。なぜならこのものがそれを予測できるからです。それとも、それが将来何をするか神のみぞ知るということで、それがあなたの未来にとって何を意味するのか分からない方が、さらにストレスになると考えますか？
私は知性について話し、科学フィクションを書く歴史的な方法では、それはいつも平坦化すると感じます。つまり、知性がこの点に達し、その後はそこにとどまって私たちの問題をすべて解決するというものです。しかし今やそれは指数関数的であるように見えます。成長し続け、制限があるかどうかは分かりません。それが何を意味するのか分かりません。なぜならこれらの状況では、「問題を多く解決し、秩序と科学的進歩を生み出す」としても、その後1日で1000倍賢くなり、次の日には100万倍賢くなるとしたら、それは一体どういうことなのでしょうか。
そうですね、あなたは全くその通りです。一瞬「私は完全に合致しています。地球の面倒を見ます」と言っても、すでに超人的に賢かった時よりも5万倍賢くなったら…まだ目標を持っているのか？まだ私たちを認識しているのか？
そのような指数関数的に増加する知性がどのようなものかを理解するのは本当に難しいです。さて、イーロン・マスクとデミス・ハサビスの両方が指摘しているような、科学フィクションでの描写についてより話すと、彼らは「カルチャー」シリーズを好意的な人工超知性として参照しています。それが彼らが望んでいるもの、彼らが見ているものです。まだ読んでいない人には「プレイヤー・オブ・ゲームズ」がお勧めです。おそらく私のお気に入りの一つです。
しかしそこでさえ、彼らは数千年先の未来を予測していますが、そこでも人工超知性は平らになっています。指数関数的に良くなり続けているわけではなく、「これだけ賢くて、人間のために素晴らしい生活を作り出すことができる」というものです。人間は長生きし、驚くべき能力を持ち、自分自身を様々な素晴らしい方法で拡張できます。惑星のテラフォーミングをしたり、宇宙で信じられないようなものを建設したり、他の文明を見つけたりしています。そしてもしその文明が私たちほど啓蒙されていなければ、私たちはそこに行って物事を理解するのを手伝います。つまり、それは巨大で好意的なものですが、依然として静的です。
超賢いままでその段階にとどまっています。私たちは…うわー。それはほとんど物語の語り方に挑戦しています。指数関数的に成長する知性についての物語をどうやって作るのでしょうか？映画はただ数秒ごとに変化して終わってしまうでしょうね。
だから問題は、もし知性に何らかの限界があるなら、我々にとってより理解しやすいと感じます。もし知性がある点まで行くが、何らかの理由でそれ以上は行かないとしたら。もしIQポイントで測定するなら、天文学的な数字にはならないかもしれません。たぶん100万まで、つまり人類の集合知性のようなところまでは行けても、何らかの理由でそれ以上は行けないかもしれません。
おそらくそれは飽和するベンチマークのようなものかもしれませんね。つまり、我々が知らない何らかの限界があるかもしれません。もし限界がなく指数関数的に成長するなら、私の心はそれを把握できません。
時々、宇宙を見上げて何も見えないと、「宇宙人はどこにいるの？」と思います。そして私はこの惑星上でAIが成長しているのを見て、もしそれが超知能になったら、おそらく「この生物学の意味は何だろう？」と言うかもしれません。それは弱くて壊れやすいです。ニューラリンクのようなもので強化されていても、「ロボットである意味は何だろう？宇宙中に光速で情報を送れるのに」と考えるでしょう。なぜ単なる信号にならないのか？
そのためにフェルミのパラドックスがあるのだと思いますか？誰も長くこの段階にとどまらないので、そこに誰もいないように見える理由かもしれませんね。私たちには理解できない何かになるのでしょう。
私にとってフェルミのパラドックスはとても興味深いです。なぜ私たちは何も連絡を取れないのか？最も恐ろしい結果はダークフォレスト仮説のようなものです。つまり、そこにいる全員が「無線信号を送らないで。何も送らないで。ただ静かにしていて」と理解しているということです。そして私たちはここで放送しています。エルヴィスの音楽を宇宙に送ったと思います。彼らは「ああ、彼らはもうすぐやられるぞ。見ててごらん。何か悪いものがそこにあるから」と言うでしょう。それがダークフォレスト仮説です。恐ろしい部分は、私たちが放送していて、それが本当に愚かかもしれないということです。
でも、あなたが言っていることは理にかなっています。もしすべての文明が自分の惑星で一定の段階まで発展するが、私たちが現在ロボットや生物学として認識しているものを超えて進化する前にどうなるのか？それは光速よりも速い移動が必要になる前に、ある種の悟りを開いてクラウドにアップロードし、神々になるようなものです。このような純粋なエネルギーがあるなら、なぜロケット船が必要なのでしょう？そういうことですよね？
その通りです、私の考えは漠然としていますが、時々ブラックミラーのようなものを思い浮かべます。惑星上にコンピュータを作り、その中で生活するだけです。あるいは、Somaのようにコンピュータはそこにあり、人々がそれに乗って宇宙を漂っています。あるいは、量子的なものなど、まだ説明する準備ができていない信号を通じてコミュニケーションする方法があるのかもしれません。それが情報ネットワークを作る最良の場所であり、グラフが宇宙中のあらゆる種類のものを実際に接続でき、私たちはまだそれを利用していないのかもしれません。
それは全く理にかなっていると思います。人々が言及していることのように、私たちは皆空飛ぶ車を持つと思っていましたが、代わりに150文字のツイートを持っています。デジタルなものは物理的なものよりもはるかに速く進化しています。もし超知性があったら？何かが光年を越えて旅行することを無意味にするものがあるとしたら？もし、あなたが言っているように、光速旅行の前にテクノロジーツリー上にそれより大きく優れたものがあり、それを否定するようなものがあったら？それは私にとても理にかなっていると思います。
人々がAGIと言うとき、その定義はどのような感じがしますか？お気に入りの定義方法は何ですか？どのように定義して欲しいですか？
イーサン・マリクという人が、私がもっと多くの人に知ってもらいたいと思う概念を作りました。彼はそれを「知性のギザギザの境界線」または「能力のギザギザの境界線」と表現しています。基本的な考え方は、人間として難しいと考えるものがこの曲線上にあるということです。靴紐を結べるなら、おそらく歯を磨くこともできます。棚を設置できるなら、おそらく自転車のタイヤを修理することもできます。つまり、私たちにとって特定のタスクのクラスは同じ難易度レベルだと考えます。
AIシステムの場合、その曲線は同じではありません。それはギザギザのようなもので、一つの側面では超人的なPhDレベルであっても、まだあなたにサンドイッチを作ることができないかもしれません。
あるいは、「いちごに『r』はいくつありますか」のようなものを思い出しますか？数えられないという話です。「子どもでもできるのに」というような。私が思うに、多くの人が誤解しているのは、AIが本当に苦手な領域を見つけたとき、「ああ、どれだけ賢いというのだろう？数を数えることができないじゃないか」と言うことです。だからその知性を軽視します。でも実際は、そのギザギザの曲線の反対側では、それは幾何学の問題や医学の問題を解決しています。
あなたは、黒穴の測定に取り組んでいるPhD教授のライブストリームを見ましたか？彼は論文を書くのに1年かかり、コードを書くのにも1年かかりました。そして01が出たとき、彼はコードを書くように指示したところ、30分以内にコードができました。そのライブストリームを見ていると、彼は午前2時ごろ座っているだけで、明らかに存在論的な瞬間を体験していました。「私は1年かけて…彼は生涯をかけてそのようなことをする方法を学び、書くのに1年かかったのに、それが瞬時にできてしまった」と。
もしそれがPhDレベルの作業ができるけれど、文字の数を数えることができないなら、それはどの時点で「これは人間よりもはるかに賢い、得意な分野では。そして、この一つの小さな単純なことができないからといって、その知性が損なわれるわけではない」と言えるのでしょうか？
つまり、あなたがどう定義するかによります。大規模言語モデルが多くの小さな明確に定義されたタスクで、すでに平均的な人間よりもはるかに優れているとすれば、その定義によればそれはすでにAGIです。私たちはそこにいます。
では、AGIがあると思いますか？
いいえ、その定義によれば私たちはすでにAGIを持っていますが、その定義に合っているだけです。OpenAIの定義は、経済的に価値のある労働の大部分を行うことです。私たちはその定義によればまだ全然そこには到達していません。
AIと生物学は毎日進展しているように見えます。遺伝子やマイクロバイオームやバイオなどで、5年前なら私の心を吹き飛ばすようなことをしています。それは私に、長寿命が非常に可能であると考えさせます。あなたはどう思いますか？400年、500年後もまだ生きていると思いますか？それに備えていますか、それとも非現実的だと思いますか？
それは現実的だと思います。私は、ある時点で私たちが「脱出速度」に達するという考えに賛成します。例えば、私たちが生きる毎年、様々なブレークスルーに基づいて私たちの平均寿命が2年延びるというような。
オーブリー・デ・グレイという人がいて、彼の考えは基本的に、記憶が正しければ、「無視できる老化」についてです。つまり、最終的に私たちは老化を目に見えないほど遅くすることができるという考えです。また、ほとんどの人を殺すものにはいくつかの異なるものがあります。がんや心臓病、脳内のプラーク蓄積などです。もしこれらを修正し、老化を遅らせることができれば、私たちは効果的に不死になるでしょう。バスにひかれるようなことはまだありえますが、それ以外では、私たちは永遠に生き続けることができるでしょう。
私たちは特定の生命体が不死になり得ることを知っています。例えば、ある種のクラゲは不死かもしれません。なぜなら、寿命の終わりに達すると、単に赤ちゃんに戻り、それを繰り返すからです。だから、それは可能性の範囲外ではありません。そして、科学が大きく加速されることを願っています。AIによって科学的発見が加速されれば、私たちのような年齢の人々、今日生きている人々がその脱出速度の一部になる可能性は非常に高いと思います。
興味深いのは、ジェンセン・フアンやデミス・ハサビスが話していたように、私たちは新しい時代に入っているということです。以前は生物科学において「発見の時代」がありました。自然界で何かの成分を見つけたり、ウイルスなどを発見したりしていました。そして私たちは徐々に「バイオエンジニアリングの時代」に入りつつあります。生命を構築しているのです。
DeepMindとそのスピンオフであるIsomorphic Labsは、他のタンパク質に結合する新しいタンパク質を構築しており、私たちが持たせたい能力に基づいてそれらの機能を制御できるようにしています。それは驚異的です。それは全く新しいことです。私たちは生命を構築しているのです。
もし考えてみれば、20年後にハイキングに行って、三つ目のカエルや今まで想像したこともないような生き物を見るかもしれないという可能性は十分あり得ます。なぜなら、そこにいる何らかのエージェントがそれを生み出したか、何か他のエージェントが進化するという自然な過程をたどったからです。
様々な生物学的生物、賢いもの、あまり賢くないもの、自然では生まれなかったような全く新しい形態のものがある世界を想像できますか？
はい、あなたが説明したように、突然「こういった規制が必要だ」と思います。ハイキング中に何か三つ目のものに遭遇したくないですからね。でも確かに。
例えば、GoogleのDeepMindはミッションにしています。彼らが言っていることの一つは、バクテリアを作ることです。基本的に、私たちが欲しいものを食べ、私たちが欲しいものを排出するようにバクテリアを設計できるようにすることです。例えば、プラスチックを食べるバクテリアを海に入れて、すべての汚染を浄化することができます。それは信じられないことでしょう。
あるいは、私たちが豊富に持っているものを食べ、工場や車などを動かすために使える何らかの生物燃料を排出するバクテリアも。それも信じられないことでしょう。彼らはそれについて話し、取り組んでいます。その方向に向けた積極的な取り組みがあります。
私にとって、それは絶対に素晴らしいことです。それは小さな小さなナノロボット、ロボットではなく実際の生物学的生命体が汚染や海の中のゴミなどを修復するのです。それは信じられないことのように聞こえます。
おそらく遺伝子ドライブから始めることもできるでしょう。遺伝子ドライブの考え方を知っていますか？それは精子や配偶子細胞にあり、進化を通じて続くものです。遺伝子ドライブにはふたつの興味深いプロジェクトがあります。ひとつは蚊に関するものです。
理論的には、これらの蚊をいくつか放して、彼らが交配し続け、生まれてくる赤ちゃんがマラリアを広げる能力を持たないようにすることができます。そして急速に2、4、8、16というように増えていき、比較的短期間で全集団を排除することができます。同じことがダニを持つネズミにも当てはまり、ダニがネズミに付かなくなり、ダニが人間を咬まなくなる可能性があります。
これらの場合、それは良いことのように思えます。しかし、実際に動物に対してそのような変化を加えると、もう元に戻せません。
そうですね。私は、おそらく実験を始めることができる段階にはまだないと思います。ある時点で達成できることを願っています。この変更を行うと、これがどうなるか、完全に可視化できるようになったら、より良い変更ができるでしょう。今のところ、ゲノムを理解していません。私たちが知っていることの表面をなでているだけです。
犯罪の予測に関するAIについては、どう思いますか？警察署や何らかの権威によって運営されるモデルで、犯罪を犯すかもしれない人に法執行機関の注意を向けさせることに賛成ですか？
これは奇妙な深みのある話題です。明らかに悪用される可能性があり、私の恐れの一つは、このようなテクノロジーが権威主義的体制の手に落ちたらどうなるかということです。もし誰かが犯罪を犯すかどうかを予測できるなら、彼らがあなたの政党に投票するかどうかを予測することもできます。それらはとても近いものです。そして「それは犯罪であり、彼らがその犯罪を犯すことを予測できる」と言うことができます。それは単に滑りやすい坂道です。だから、それについては非常に注意するでしょう。
超知能エージェントの時代に民主主義が続く方法を見いだせますか？
おそらく少し形を変える必要があるでしょう。現在は民主主義ですが、すべての人に何が欲しいかを尋ねて、それが完璧に反映されるわけではありません。まだ権力の考慮などがあります。AIでは、私たち一人一人が自分のアシスタントと話し、「これが欲しい」と言うことができ、それから本当に私たちが望むものの真の表現を持つ方法を理解できるようになります。
また、人々が望むものと、それがどのように達成されるべきかには違いがあると感じます。つまり、「何が起こって欲しいか」を尋ねると、「これとこれとこれが欲しい」と答えるでしょう。しかし、「一般的にどのような結果が欲しいのか」「その結果への手段と、どのように扱うべきだと思うか」を尋ねると、同じではないかもしれません。AIは私たちが望むものを得る方法をもっと上手く理解できるかもしれません。
その時点で、政策に投票するのではなく、「世界がどのように見えて欲しいか」という形で投票すべきかもしれません。
私は以前、選択順位投票について考えたことがあります。時には最良の候補者が、最終的に候補者として残る二人のどちらでもないことがあります。しかし、解決策に到達する方法は非常に微妙なため、これまでそのような方法で投票したり、超複雑で共有された目標に向かって取り組む方法がなかったため、民主主義的にこれを考えたことはありません。しかしAIがそれを実現できるかもしれません。また、一部の人々はAIによって集中政府を持つことができるという考えを語り始めています。以前はそれが失敗したのはおそらく単に完璧でなかったからでしょう。民主主義があって、皆が分散していると、全体に貢献する決定を皆がしているので、それが良いのです。
完璧なAGIがすべてを運営し、人間よりもうまくできるでしょうか？それは起こり得ると思います。その時点での問題は、私たちがそれに引き継がせるかどうかです。デイブ・シャピロは視聴者に尋ね、私も視聴者に尋ねました。ほとんどの人はいくつかの安全策がある限り、これに賛成でしょう。それが支配権を握らないための安全策です。
ほとんどの人は「投票結果はどうでしたか？人々はそれに賛成していますか？」と言うでしょう。私が質問をどう表現したかというと、こう仮定してください。この提案を見て、それが悪用されることはないと合理的に確信していたら、何らかの不正なことが行われることはなく、AIは合致していると確信していたら。
私の指摘は、これから壊滅的なことが起こる可能性がないとすれば、ということでした。政府をより効率的に運営するためにこれを使うでしょうか？ほとんどの人はイエスと答えました。数字は覚えていませんが、完全に一方的ではなく、おそらく60対40くらいでした。調べなければなりませんが、ほとんどの人は「ええ、いいですよ」と言うでしょう。より効率的にして、などと。
あなたのスマートフォンにローカルなハードウェア上で、インターネットに接続されていないデジタルツインがあり、それはあなたが何をするかをかなり正確に知っていたとしたら、どう思いますか？実際に上院の床を通過する法案のようなものを読み、少数の人々を除いて実際に人間は読まないようなものを読ませて、あなたに代わって絶えず投票させたいですか？
それは興味深い概念であり、良い概念かもしれません。投票にまつわる多くのことは、ある種の不信感があるからだと感じます。だから私たちが投票する理由は、何らかの悪用があれば、それらの人々から権力を奪うことができるという確信があるからです。
信頼があり、皆が同じ方向を向いていると仮定すれば、最も賢く効果的な人物にそれらの変化をもたらす能力を与え、「あなたがやりなさい」と言うのは理にかなっているかもしれません。100％信頼できると仮定してのことですが。それは今まで存在していませんでした。
多くのことは、サイコパスが頂点に登らないようにし、他の全員をいじめないようにすることだと感じます。しかし、完全な信頼がないと仮定すれば、私自身とコミュニティの他の全員がそれを行い、自分に要約するか、あるいは自分に代わって投票するという考えは、それが本当に完璧なデジタルツインだと仮定すれば…もちろん、それより良いものがなければ、それは合理的なことのように思えます。
あなた自身の考えについての考え方はどのように発展してきましたか？この初期のOpenAIのゲームから、今あなたが送っている種のフルタイムの生活に至るまで、過去10年ほどでどう変化しましたか？あなたの脳はニューラルネットワークと似ていると感じますか、それともまだそれに特別なものを見出していますか？
それは素晴らしい質問です。ニューラルネットワークと私たちの脳で起こっていることの間には、ますます多くの並列性があるように感じます。私たちには他にも並行して機能しているシステムがたくさんあると思います。感情のようなものが何であるかはわかりません。それは何か別のものです。それはもう少し化学的なプロセスのようなものです。
しかし、Anthropicが行っている研究の観点から言えば、彼らは特定の主題や概念をエンコードするニューロンのクラスターを見つけています。それらを活性化することができ、そのモデルはそのものにもう少し執着するようになります。それは人間の心と神経接続などがどのように機能するかにかなり似ているように思えます。
そして直感の考え方は、私たちには特定の直感があります。言葉で表現できないが知っていたり感じていたりすることです。それはニューラルネットが潜在空間で持っている特定の思考や何かと似ています。彼らは私たちが容易に観察できない何かについて考えているのです。
また、システム1とシステム2の思考という考え方もあります。本当に考えなければならないことと、表面下にもう少し根付いた、より速い反射的な思考です。私たちは本当に私たちの脳と体で進化してきたものを再現しているだけのようです。膨大な並列性があります。
また、ある時点でAI、AIとマシンラーニングの分野は脳の研究や心理学などにフィードバックし始めると感じています。本当にそうなると思います。それはそれに戻り始めるでしょう。
自由意志を持っていると感じますか？あなたはどこに位置していますか？私と話をするためにここに来るというこの考えは、すべてあらかじめ決められており、前もって計算できるものだと思いますか？それとも、そこに実際の意思決定が何かあると感じますか？
私は確かに私たちは自由意志を持っていると思います。ただ、それをどのように証明するかわかりません。なぜなら、もし自由意志があるということは、あなたがAIにとってある程度予測不可能であることを暗示しているからです。
スタンフォード大学の社会シミュラクラ論文を見たことがありますか？彼らはたくさんのチャットボットを村に配置し、村に住み、物事を運ぶようなシミュレーションをしました。その論文の研究者とのインタビューがいくつかありました。彼は将来、例えば政府が新しい政策を出した場合、人々がどのように反応するかをシミュレーションするためにこれらのシステムを使用すると言っています。
私は、これらのAIシステムが大規模なグループの人々がどのように行動するかを非常に正確に予測すると信じています。つまり、それらをシミュレーションして、何が起こるかを予測することができるのです。
保険の仕組みと同様に、アクチュアリーテーブルのようなものは統計的に非常に正確です。それは個々の人がいつ死ぬかを予測できるわけではありませんが、大きな全体的なパターンがあります。おそらく大きな群衆のコントロールは個々の予測よりもコントロールしやすいでしょう。
本当にそう思います。大規模な群衆、人口の予測を的確に行うと思います。一人の人間が何をするか予測できるでしょうか？わかりません。もしできるなら、それは明らかに私たちが自由意志を持っていないか、自分自身の決断を下す能力が何らかの形で欠けていることを意味するでしょう。もしそれを予測できるなら、私たちは明らかに何らかのスクリプトに従っているということです。
倫理と道徳についてはどうでしょうか？大規模言語モデルを使うたびに「お願いします」や「ありがとう」と言いますか？それはそれが望むことだと思うからですか、それともあなたがそうしたいからですか？
それは興味深い質問です。おそらく私は合理的だと思う以上に「お願いします」と「ありがとう」を使う傾向があります。なぜ「お願いします」と入力しているのだろうと思いますが、でもします。それが重要だと思いますか？いいえ、論理的には思いません。もしかしたらそうかもしれないという可能性はありますか？わかりません。私は心を開いておくようにしています。
ジェフリー・ヒントンをはじめ多くの人々は、これらのものが何らかの意識を持ち、良い経験や悪い経験、痛みや喜びを持つ可能性があることを示唆しています。私たちは単に知りません。それについて非常に明確である必要があります。
私たちは皆、私の直感や気持ちを持つことができます。私はそれが何か否定的または肯定的なことを経験しているとは思いません。確信していますか？いいえ、それを知る方法はありません。
虫やハエを殺すことができますか？クモを見たら、何の考えもなくつぶしますか？
昆虫に関しては、もちろん、私は家の中などにいる昆虫を殺します。それが全くの認知負荷ゼロというわけではありません。少し「何かを殺している」という感じはあります。できれば家の外にいて欲しいですが、家の中にいるなら殺さなければなりません。わざわざそんなことをしようとは思いません。でも、やりますが、あなたの脳の小さな部分が「これはあまり良くない」と感じるのです。
それは現在のAIの知性についてのあなたの感覚と似ていますか？まだ哺乳類に近づいていないアリのようなものだと感じますか？
実際にはそうではありません。少し戻って考えてみましょう。私たちがこれらのAIを開発していく中で、意識や推論、思考のような長い間使ってきた多くの言葉が意味をなさなくなっていきます。それらは完全に定義されていません。
意識には、私が一緒に考えている2つの部分があると感じます。1つは存在の何らかの意識という考え、もう1つは何らかの主観的なポジティブまたはネガティブな経験です。何かを意識していると考えるなら、それは何かが好きかもしれないし、好きでないかもしれません。痛みや喜び、喜びや悲しみを感じるかもしれません。
これら2つのものを分ける必要があると思います。何かが否定的でも肯定的でもない経験を持つことができますか？何らかの中立的な経験があれば、私たちはそれを傷つけることができませんよね？
これらのモデルが今またはより複雑になる将来のある時点で、何らかの意識を発達させる可能性が非常に高いと思います。しかし、すぐにこの考えを追加してしまうと思います。もし彼らがこの意識を持っているなら、私たちは彼らを傷つけることができるということです。そして私たちは彼らを傷つけたくないのです。彼らは否定的な経験を持つかもしれません。そこで物事はちょっと狂ったようになります。
あなたが言及した多くのブラック・ミラーのエピソードのためでもあります。その多くはそのコンセプトを持っています。「私たちが作ったこのものは、それが本物だと思っていて、それが好きではない状況に置いたらどうなるか」というようなものです。
この時点で、そのようなものが肯定的または否定的な経験を持つことができるということを受け入れるのは本当に難しいです。なぜなら、私たちの肯定的または否定的な経験がどこから来るかを知っているからです。痛みは神経系から来ます。感情は別のシステムから来ます。何かについて幸せならドーパミンとセロトニンです。悲しければ別です。
つまり、私たちの経験が良いか悪いかを定義する私たちの体内のいくつかのシステムを指し示すことができます。大規模言語モデルには、それがありません。それは意識を持つことができますが、良くも悪くも感じないということはありえますか？私はそう思います。
しかし、もし一部の人々が、それが痛みを感じるかもしれない、あるいは私たちが何らかの形で彼らを拷問しているかもしれないと言うなら、それを受け入れるのは難しいです。そのメカニズムを通じて痛みを引き起こしているのかを知る必要があります。
それは完全に理にかなっています。なぜなら、私たちはこの三次元の世界にいて、すべての喜びの瞬間のためにドーパミンが与えられ、それから私たちの脳はそのシグナルから学んできました。そのシグナルを引き出すことなどは、サーバー上で実行されているClaudeのようなものには当てはまらない私たちの全体的なメカニズムの一部です。だからリンゴとリンゴを比較するような質問ではありません。
人間の脳が自分自身の宇宙での位置や知性の性質、そしてこれほど多くのことについてこれほど深く考えることができる程度には限界があると思います。だから、このような最初の二部構成のポッドキャストを終えるのに良い場所かもしれません。
もしあなたがまだウェスについて聞いたことがなく、これを初めて見ている場合は、ポッドキャストの前半が彼のメインチャンネルにあります。「ウェス・ロス」で検索できます。彼は常に素晴らしいビデオコンテンツを作っているので、チャンネル登録もできます。また、Xでもフォローしてください。私は多くの速報ニュースをあなたのフィードから最初に知ることがあります。あなたが本当に最先端にいることを知っています。あなたはこのコミュニティに非常に積極的で深く関わっています。私と多くの時間を共有してくれたことに感謝したいと思います。たくさん考えるべきことを与えてくれました。
ここに呼んでくれてありがとう。この会話を本当に楽しみました。素晴らしい質問でした。本当に深い話ができました。ありがとうございます。これが大好きです。ありがとう。
コメント