MIT物理学教授マックス・テグマークが、宇宙における知的生命体の存在可能性から人工知能の本質、意識の物理学的定義まで幅広いテーマについて語るインタビューである。彼は宇宙に高度な技術を持つ知的生命体が存在する可能性は低いと考えており、これが人類に大きな責任を負わせると主張する。また、意識を情報処理のパターンとして捉え、AGIの実現可能性と価値整合性問題の重要性について詳しく議論している。深層学習の成功理由、量子コンピューティングの役割、そして人類が目指すべき未来について物理学者の視点から包括的に論じた内容となっている。
MITでの出会いと背景紹介
MITコース6の一環である人工汎用知能の授業で、マックス・テグマークと話す機会を得ました。彼はMITの教授で物理学者として長年にわたって宇宙論的宇宙の謎を研究してきましたが、人工知能の有益な可能性と実存的リスクについても研究し、深く掘り下げています。彼は未来生命研究所の共同創設者であり、2冊の本の著者でもあります。どちらも強くお勧めしますが、1冊目は「数学的宇宙」、2冊目は「Life 3.0」です。彼は本当に型破りな思想家で楽しい性格なので、彼と話すのは本当に楽しかったです。
もし将来これらの動画をもっと見たい場合は、ぜひチャンネル登録をして、ベルアイコンもクリックして動画を見逃さないようにしてください。また、MITのAGIに関するTwitterリンクもあります。このような他の講義や会話を見たい場合は、さらに良いのはマックスの本「Life 3.0」を読むことです。第7章の「目標」が私のお気に入りで、哲学と工学が出会う場所であり、ドストエフスキーの引用で始まります。「人間存在の謎は、ただ生き続けることにあるのではなく、生きる意味を見つけることにある」。
最後に、すべての失敗は学ぶ機会を与えてくれると信じています。その意味で、私は多くの新しく刺激的な方法で失敗する幸運に恵まれており、この会話も例外ではありませんでした。私は無線周波数干渉またはRFIと呼ばれるものについて学びました。調べてみてください。どうやら地元のラジオ局からの音楽や会話が録音している音声に混入して、音声をほぼ完全に台無しにしてしまうことがあるそうです。これは除去するのが非常に困難な音源です。そのため、将来の録音セッションでRFIを回避する方法を学ぶ機会を得ましたし、Adobe AuditionとIZOTOPE RX6を使ってノイズ除去と音声修復を行う方法も学ぶ機会を得ました。もちろん、これは除去するのが非常に困難なノイズです。私はエンジニアですが、オーディオエンジニアではありませんし、私たちのグループの誰もそうではありませんが、それでも最善を尽くしました。それでも、あなたの忍耐に感謝し、この会話を楽しんでいただけることを願っています。
宇宙における知的生命体についての議論
宇宙に知的生命体が存在すると思いますか？簡単な質問から始めましょう。
実際、私はここで少数派の意見を持っています。公開講義をするときに挙手を求めて、宇宙のどこか他の場所に知的生命体がいると思う人はいるかと聞くと、ほぼ全員が手を上げます。なぜかと聞くと、「ああ、宇宙にはたくさんの銀河があるから、きっといるでしょう」と言います。でも私は数字オタクなので、もっと注意深く見ると、それは全然明確ではありません。
まず、宇宙について話すとき、私たちは全ての空間を意味しているのではありません。私たちが実際に意味しているのは、ビッグバンから138億年の間に光が私たちに到達する時間があった球状の空間領域です。もっと多くの空間がありますが、これを宇宙と呼ぶのは、それが私たちがアクセスできる全てだからです。
では、そこに望遠鏡やコンピューターを作るレベルまで発達した知的生命体はいるでしょうか？私の推測では、実際にはノーです。それが任意の惑星で起こる確率は何らかの数字ですが、それが何かはわかりません。しかし、私たちが知っているのは、その数字はそれほど高くはあり得ないということです。なぜなら、天の川銀河だけでも10億以上の地球型惑星があり、その多くは地球より数十億年古いのですが、UFO信者以外には、何らかの超文明がここに来たという証拠はほとんどありません。これが有名なフェルミパラドックスです。
数字を計算してみると、もし与えられた惑星で生命が誕生する確率が分からないとすると、それは10のマイナス10乗でも10のマイナス20乗でも10のマイナス何乗でも等しく可能性があります。本当にオープンマインドでいたいなら、それは私たちの最も近い隣人が10の16乗メートル離れているか、10の17乗メートル離れているか、10の18乗メートル離れているかが等しく可能であることを意味します。10の16乗よりもずっと近くになると、私たちはすでに他に何も近くにないことをかなり知っています。もし彼らが本当に近くにいれば、私たちを発見していたでしょうし、本当に近ければ、彼らがやっている何らかの工学プロジェクトを私たちは知っていたでしょう。そして10の26乗メートルを超えると、それはすでにここの外になります。
だから私の推測では、実際に私たちが高度な技術を構築するレベルまで到達した唯一の生命体であり、これは私たちの肩に大きな責任を負わせると思います。失敗してはいけません。核戦争で事故を起こしたり、何らかの形で絶滅したりしても大丈夫だと当然視する人々がいますが、他の生命体がいてスタートレックのような状況で私たちを救出してくれるから重要ではないと考えています。彼らは私たちを偽りの安心感に陥らせていると思います。私たちが得たこの素晴らしい機会に本当に感謝し、それが私たち次第である場合に備えて最善を尽くすと言う方がずっと賢明だと思います。
物理学的視点から見た知的生命体の複雑さ
物理学の視点から、知的生命体は独特だと思いますか？宇宙のサイズの統計的な観点からではなく、宇宙の基本的な物質から、知的生命体が生まれることはどのくらい困難なのでしょうか？あなたの発言に含まれている、人類のような種を創造することが本当に困難であるという高度な技術構築生命体のことです。
私が思うに、私たちが知っているのは、生命のない状態からアルファ級の技術ができる生命への移行、そしてそれを超えて実際に生命で宇宙全体を定住させることには、通り抜けるのが困難な何らかの主要な障害があるということです。これは時に「グレートフィルター」と呼ばれ、通り抜けるのが困難です。その障害は私たちの後ろにあるか前にあるかのどちらかです。私は非常に強く、それが私たちの後ろにあることを願っています。
NASAから火星で生命を発見できなかったという新しい報告を受けるたびに、私は超興奮します。素晴らしいことです。なぜなら、それは困難な部分が最初のリボソームの獲得や非常に低レベルな段階的な踏み台だった可能性を示唆しているからです。もしそれが真実なら、未来は本当に私たちの想像力によってのみ制限されます。このレベルの生命が一般的だが、文明が高度な技術を手に入れるとすぐに100年以内に愚かな争いを始めて消滅してしまうという他の問題があることが判明した方がずっと幸運でしょう。それは残念なことです。
宇宙と心の謎への共通の関心
あなたは宇宙の謎、私たちの間に今日座っている宇宙論的宇宙を探求してきましたが、もう一つの宇宙、つまり心の謎、知能、知的生命体の神秘的な宇宙も探求し始めたと思います。宇宙と知能に対するあなたの関心や考え方に共通点はありますか？
ああ、そうですね。10代の頃から、すでに最大の疑問に非常に魅力を感じていました。科学における2つの最大の謎は、あそこにある私たちの宇宙と、ここにある私たちの宇宙だと感じました。だから、25年間のキャリアをこちらについて考えることに費やした後、今度はこちらの研究に贅沢に耽溺するのはごく自然なことです。とてもクールです。今こそ、これについて私たちの理解を大いに深め、これを探求し始める適切な時だと感じています。
なぜなら、多くの人が知能を私たちのような生物学的有機体にのみ存在できる神秘的なものだと見なし、そのため人工汎用知能についての話をすべてサイエンスフィクションとして退けてしまうからです。しかし、物理学者としての私の視点では、私は特定のパターンで動き回り、特定の方法で情報を処理するクォークと電子の塊です。これもクォークと電子の塊です。私がこの水のボトルより賢いのは、異なる種類のクォークでできているからではありません。私は全く同じ種類のアップクォークとダウンクォークでできています。私には秘密のソースはないと思います。それはすべて情報処理のパターンに関することです。
これは、信じられないほど知的で、私たちができなかった謎を解き明かすのを助けることによって私たちを助けることができる技術を創造できないという物理法則はないことを意味します。言い換えれば、私たちはまだ知能の氷山の一角しか見ていないと思います。
パーセプトロニウムと意識の物理学
パーセプトロニウムという素晴らしい用語を使っていますね。それは仮想的な物質の状態で、物理学の視点から考えると、主観的体験を出現させ、意識を出現させることができる物質の種類は何でしょうか？この物理学の視点から意識についてどう考えますか？
とても良い質問です。繰り返しますが、多くの人が私たちの進歩能力を過小評価していると思います。何らかの必要な成分や新しい意識粒子か何かが欠けているため、それが絶望的だと自分自身を納得させてしまっています。私はたまたま、私たちには何も欠けていないと思っており、色や音や感情などの素晴らしい主観的体験を与えてくれる意識について興味深いことは、むしろ情報処理のパターンに関する高次レベルの何かです。
だからこそ、私はパーセプトロニウムというアイデアについて考えるのが好きです。任意の物理システムが、その粒子が何をしているか、またはその情報が何をしているかという点で意識を持つとはどういう意味でしょうか？私は炭素ショービニズム、つまり賢くなったり意識を持ったりするには炭素原子でできている必要があるという態度は嫌いです。情報処理についての何か、どんな種類の物質がそれを実行するかです。
私はここに世界の様々な基本的側面を記述するお気に入りの方程式を持っています。いつか、これを見ている誰かが、意識を持つために情報処理が満たさなければならない方程式を思いつくだろうと感じています。そこには大きな発見があると確信しています。なぜなら、正直に言って、私たちは一部の情報処理が意識的であることを知っているからです。私たちが意識的だからです。しかし、多くの情報処理は意識的ではないことも知っています。
今あなたの脳で起こっている情報処理のほとんどは意識的ではありません。視覚システムだけでも毎秒10メガバイトが入ってきていますが、あなたは心拍調節や他のほとんどのことについて意識していません。たとえば、ここに何と書いてあるかを読んでくださいと言ったとします。あなたはそれを見て、ああ、今それが何と言っているかわかった、となりますが、実際にどのように計算が行われたかは意識していません。あなたの意識は最終的な答えを持ったメールを受け取ったCEOのようなものです。
では、何が違いを生むのでしょうか？これは素晴らしい科学の謎だと思いますし、実際にここMITの私の研究室で少しずつ始めています。しかし、これは非常に緊急な質問でもあると思います。たとえば、あなたが救急医で、反応しない患者が運ばれてきたとします。CTスキャンに加えて、意識スキャナーがあったら素晴らしいではありませんか？その人が実際に閉じ込め症候群なのか、実際に昏睡状態なのかを判断できる。
将来、本当に良い会話ができるロボットや機械を作ることができると想像してください。これはほぼ確実に起こると思います。そのとき、あなたの家庭用ヘルパーロボットが実際に何かを体験しているのか、それともただのゾンビなのかを知りたくないですか？あなたはどちらを好みますか？実際に無意識なので、電源を切ったり退屈な雑用を与えたりすることに罪悪感を感じなくて済むのか、それとも実際に体験しているのか、どちらを好みますか？
確実に意識の外観を好むでしょうが、問題は意識の外観が意識そのものとは異なるかどうかです。質問としてそれを投げかけます。AGIシステムのようなものを構築するために、意識とは何かを理解し、意識の難しい問題を解決する必要があると思いますか？
意識の難しい問題について
そうは思いません。私たちはその質問に答えなくても、おそらくものを構築できるでしょう。しかし、起こることが良いことであることを確実にしたいなら、まずそれを解決した方が良いでしょう。
あなたが提起している素晴らしい論争があります。意識の難しい問題について基本的に3つの観点があります。意識の難しい問題はばかげているという結論に達する2つの異なる観点があります。一方では、ダニエル・デネットのような人々がいて、これは意識がばかげていると言います。なぜなら、意識は知能と同じものであり、違いはないからです。だから、意識的に行動するものは何でも私たちと同じように意識的です。
それから、私が知っている多くのトップAI研究者を含む多くの人々もいて、すべての意識はばかげていると言います。なぜなら、もちろん機械は決して意識的であってはならず、彼らは常にゾンビであり続け、あなたが彼らをどう扱うかについて罪悪感を感じる必要がないからです。
そして、ジュリオ・トノーニなどを含む第3のグループの人々がいて、私自身もこの中間派に属していると思いますが、実際に一部の情報処理は意識的であり、一部はそうではないと言います。だから、どちらなのかを決定するために使用できる方程式を見つけましょう。
私たちは長い間この問題から逃げて、少し怠惰だったと思います。多くのサークルで「c-word（意識）」に言及することさえほとんどタブーでした。しかし、言い訳をするのをやめるべきです。これは科学的な質問であり、私たちはそれに取り組むことができます。これについて予測を行う理論をテストする方法さえあります。
このヘルパーロボットに戻ると、あなたは確実に意識的に行動し、私たちと会話するようにヘルパーロボットに働いてもらいたいと言いました。そう思います。でも、それがただのグロスアップしたテープレコーダーだったと気づいたら、少し気味が悪く感じませんか？そこにはゾンビがいて、感情を偽装している。それが実際に体験を持っていることを好みますか、それとも実際に何も体験していないので、あなたがそれに何をしても罪悪感を感じなくて済むことを好みますか？
愛と意識の実在性
それはとても難しい質問です。なぜなら、それは関係において「愛している」と言い、相手が「愛している」と言い返すときに、彼らは本当にあなたを愛し返しているのか、それとも愛していると言っているだけなのかを問うようなものだからです。あなたは彼らに実際にあなたを愛してもらいたくないですか？意識が存在する、知能が存在する、愛情、情熱、愛があるように見えることと、実際にそこにあることの違いを本当に知るのは難しいです。
質問をもう少し鋭くしてみましょう。マサチューセッツ総合病院は川の向こうにありますよね？あなたが医療処置を受けに行くとして、彼らが「麻酔について説明しますが、筋弛緩剤を投与するので動けなくなります。手術中はずっと激痛を感じますが、それについて何もできません。しかし、その記憶を消去する薬を投与します」と言ったら、あなたはそれで大丈夫ですか？
いえ、それで大丈夫ではありません。行動の変化がないのに、それを意識しているかどうかに何の違いがあるのでしょうか？それは本当に明確な表現方法ですね。その意味で、それを体験することは価値のある性質のように感じます。少なくともその場合、主観的体験を実際に持てることは価値があります。
私たち人間は、他の存在が意識的ではないという利己的な議論をする悪い実績が少しあると思います。人々はよく「ああ、これらの動物は痛みを感じることができない。ロブスターを茹でても大丈夫だ。痛いかどうか聞いたが何も言わなかった」と言います。そして今、ロブスターを茹でると実際に痛みを感じるという論文が出て、スイスではそれを禁止しています。私たちは奴隷に対してもこれをやりました。「ああ、彼らは気にしない、意識的ではないかもしれない」とか「女性には魂がない」とか。機械は決して体験を持つことができないという公理として人々が言うのを聞くと、私は少し心配になります。
これは本当に魅力的な科学的質問だと思います。無意識の知的行動と意識的な知的行動の違いを生み出すものが何なのかを研究し、理解しようとしましょう。
身体性と意識の関係
Boston Dynamicsのヒューマノイドロボットがほうきで押し回されて、押し返し始めるという観点から、意識の問題が始まります。一部の神経科学者が信じているように、AGIシステムは意識を持つために物理的な具現化、身体または身体のようなものを持つ必要があると思いますか？
いえ、そうは思いません。意識的な体験を持つため、意識を持つために必要だと思いますか？私たちにとって重要な世界について学ぶために物理的な具現化があることは大いに役立つと思いますが、学んだ後にその体験を持つために必要だとは思いません。夢を見ているときのことを考えてください。目は閉じていて、感覚入力を受けていませんし、どんな風にも行動したり動いたりしていませんが、それでもそこには体験があります。
夢で何かを見るときに持つ体験は、目からのものではありません。それは脳内の情報処理自体がその体験なのです。しかし、別の言い方をすると、神経科学から来るのですが、身体を持ちたい理由、物理的な身体のような物理的システムを持ちたい理由は、自己を持つために何かを保存できるようになりたいからです。何らかの自己の具現化を持つ必要があると主張できるでしょう。
今度は少し擬人化的になってきて、自己保存本能のようなものを議論しています。私たちは進化した有機体ですよね。だからダーウィン進化は私たちや他のすべての進化した有機体に自己保存本能を与えました。それらの自己保存遺伝子を持たなかったものは遺伝子プールから淘汰されたからです。
しかし、人工汎用知能を構築する場合、設計できる心の空間は、たまたま進化することができる心の特定のサブセットよりもずっとずっと大きいのです。だから、AGIの心は必ずしも自己保存本能を持つ必要はありません。また、私たちのように個人主義的である必要もありません。
たとえば、5分ごとに自分をバックアップできて、飛行機が墜落しそうになったときに「しまった、最後の5分間の体験を失うだけだ、最後のクラウドバックアップ以降の分を」と言えると想像してください。死ぬことはそれほど大したことではありません。または、シリコンベースだったら簡単にできるように、私たちの心の間で体験を簡単にコピーできたら、私たちは実際にハイブマインドのようにもう少し感じるかもしれません。
だから、AGIがそのような競争的なアルファメール的本能を持たなければならないことを当然視すべきではないと思います。一方で、これは本当に興味深いことです。なぜなら、高度なAIがそれらの本能を持つことについて何の懸念も持つ必要がないと言って、私たちは何でも望むものを構築できるからだと言って、一部の人々が行き過ぎていると思うからです。
スティーブ・オモハンドロやニック・ボストロムなどに遡る非常に良い議論のセットがあり、私たちが機械を構築するとき、通常何らかの目標を持って構築することを指摘しています。このチェスゲームに勝つ、この車を安全に運転する、などです。特にオープンエンドな目標で、機械が非常に知的である場合、目標を機械に入れるとすぐに、それをたくさんの副目標に分解し、それらの目標の一つはほぼ常に自己保存になります。なぜなら、プロセス中に壊れたり死んだりすると、目標を達成できないからです。
たとえば、小さなロボットを作って、スターマーケットに行ってあなたのために食べ物を手に入れ、イタリア料理のディナーを作ってくれと言ったとします。そして誰かがそれを襲って壊そうとしたとき、そのロボットは破壊されないようにインセンティブを持ち、自分を守ったり逃げたりします。そうしなければ、あなたのディナーを作ることに失敗するからです。死を恐れているのではなく、ディナー調理の目標を本当に完了したいのです。だから自己保存本能を持つでしょう。
同様に、AGIに何らかの目標を与えると、それをより良く行うためにより多くのリソースを獲得したがる可能性が非常に高いです。私たちが意図していなかったかもしれないそのような副目標から、AGI安全性に関する懸念の一部が生じます。完全に無害に見える目標を与えて、気づく前に、あなたがそれにやってもらいたくなかった他のこともやろうとし、私たちより賢くなっているかもしれません。
死への恐怖と知能の関係
私は非常に人間中心的な方法で、死への恐怖を価値ある動機づけ要因として見ています。それは進化の産物だと思いますか？つまり、進化が創造した心の空間の種類で、私たちは自己保存にほとんど取り憑かれています。死を恐れることは必要ないと思いますか？ただやり続けるための自己保存という副目標ではなく、もっと根本的に、これはあなたにとってある時点で終わるという有限のものを持つことです。
知能にとって、そして意識にとって、それが必要だと思いますか？両方について、本当に有限の死とそれへの恐怖が重要だと思いますか？
知能についても意識についても、それらの2つの言葉をどのように定義するかについて明確にする前に、それが必要かどうかについて答えることはできません。非常に賢い人々がそれらを非常に異なって定義しているからです。私はAI専門家とのパネルにいて、彼らは知能をどう定義するかについてさえ合意できませんでした。
私は知能を複雑な目標を達成する能力として単純に定義します。その広い定義が好きです。なぜなら、繰り返しますが、炭素ショービニズムになりたくないからです。その場合、確実に死への恐怖は必要ありません。AlphaGoやAlphaZeroは非常に知的だと言えますが、AlphaZeroは電源を切られることへの恐怖を全く持っていないと思います。そのような概念を理解していないからです。
同様に意識についても、特定の植物が何らかの体験を持っているとすれば、非常に単純な種類の体験を確実に想像できます。それについて何もできないなら、死を恐れているとは思いません。とにかくそれほど価値がありませんでした。しかし、もっと真剣に、意識を持つことについてだけでなく、私たちがエキサイティングな人生と呼ぶかもしれないものを持つことについて聞くなら、情熱を感じ、小さなことを本当に感謝するなら、おそらくそこでは、おそらく今日の有限性という背景を持つことが助けになるかもしれません。最大限にこの人生を生きるために。
もしあなたが永遠に生きることを知っていたら、あなたは変わると思いますか？ある意味では、永遠に生きることは信じられないほど退屈な人生でしょう。だから、あなたが言ったエキサイティングで他の人間が理解するであろうという緩い主観的な用語では、その有限性が重要であるように思えます。
それなら良いニュースがあります。宇宙論について私たちが理解していることに基づくと、私たちの宇宙のすべては最終的におそらく有限です。ビッグクランチやビッグチルまたはビッグリップやビッグスナップまたは死のバブルなど、10億年以上先のことですが。だから、私たちの祖先が思っていたよりもずっと多くの時間を確実に持っていますが、無限の計算サイクルを押し込むのはまだかなり困難です。可能かもしれない抜け穴がいくつかありますが、5年で死ぬかのように生きるべきだと言うのが最適かもしれません。私たちは有限であるかのように文明を構築すべきでしょう。安全のために。
知能の定義と意識の関係
知能を複雑な目標を解決する能力として定義すると言いましたが、人間レベルの知能と超人間レベルの知能をどこで線引きしますか？意識はその定義の一部ですか？
いえ、意識はこの定義には含まれません。知能は確かにスペクトラムですが、持つことができる目標には非常に多くの異なる種類があります。良いチェスプレイヤー、良い囲碁プレイヤー、良い車の運転手、良い投資家、良い詩人などになるという目標があります。だから、知能はその本質からして、一つの数字で測ることができるものではありません。全体的な良さではありません。一部の人はこれが得意で、一部の人はそれが得意です。
現在、私たちには大きな数の高速計算、大きなデータベースの記憶、チェス、囲碁、そして間もなく車の運転など、非常に狭いタスクで私たちよりもずっと優れた機械があります。しかし、人間の子供の一般知能に匹敵する機械はまだありません。
しかし、あなたのコースの名前にもある人工汎用知能AGIは、定義上、私たちができることすべてを私たちと同じようにできる機械を構築する探求です。60年代の創設以来のAIの聖杯です。もしそれが実現すれば、もちろん地球上の生命史上最大の転換点になると思います。
しかし、機械が私たちより優れるまで大きな影響を待つ必要はありません。本当に大きな変化は、彼らが私たちよりもすべてにおいて優れた瞬間に正確には来ません。本当に大きな変化は、彼らが私たちが行っているほとんどの仕事において私たちより優れるようになったときに最初に来ます。なぜなら、それは人間の労働需要の多くを奪うからです。
そして、本当に大変な変化は、彼らがAI研究において私たちより優れるようになったときに来ます。なぜなら、現在AI研究のタイムスケールは、何らかのソフトウェアやiPhoneなどの次のリリースまで、通常数年という人間の研究開発サイクルによって制限されているからです。しかし、Googleが40,000人のエンジニアを40,000個の同等のソフトウェアに置き換えることができるようになったら、それが数年である理由はありません。原理的にはずっと高速になることができ、AIの将来の進歩のタイムスケール、そしてすべての科学と技術のタイムスケールは機械によって駆動されるでしょう。
知能爆発と特異点について
これがヴァーナー・ヴィンジが呼んだ「特異点」と呼ばれる知能爆発について非常に楽しい論争につながるシンプルなポイントです。このアイデアはI.J.グッドによって50年代に明確に表現されましたが、アラン・チューリングなどがさらに早く考えていたことがわかります。
あなたは私に何を正確に定義するかと聞きましたね。だから、一般的な答えは、すべての認知タスクで私たちより優れている、すべての認知タスクでどの人間よりも優れていると言うことです。しかし、本当に興味深いバーは実際にはそれより少し低いところにあると思います。彼らがAIプログラミングにおいて私たちより優れ、一般的な学習ができるようになったときです。そうすれば、彼らは勉強するだけで何でも上達したいときにできるからです。彼らは「より良い」というキーワードで、目標の複雑さのスペクトラムに向かって優れています。
創造性と知能の関係
もう一つの表現方法として、上昇している海のようなもので、あなたが示すグラフィックのように、いくつかのピークがあり、海面レベルが上昇してより多くの問題を解決していく、というのは本当に良い表現方法です。
少し一時停止して、ソーシャルネットワークからたくさんの質問を受けました。創造性についてなど、少し違う方向の質問がたくさんありました。おそらくピークではない、人間は欠陥があり、おそらく「より良い」ということは矛盾を持つこと、何らかの方法で戦うことを意味するかもしれません。
簡単なことから始めましょう。まず第一に、あなたはたくさんのクールな方程式を持っていますが、お気に入りの方程式は何ですか？まず、それらはすべてあなたの子供のようなものだと知っていますが、どれがマスターキーですか？
ミクロ世界の力学です。この方程式は原子、分子、その他すべてに関するすべてを予測できます。だから、量子力学は確かに私たちの世界の美しく神秘的な定式化です。
数学の抽象的な例として、フェルマーの最終定理を証明したアンドリュー・ワイルズについて聞いてみたいと思います。最近これを見て、少し私の目を引きました。これは推測されてから358年後のことです。この非常にシンプルな定式化を誰もが証明しようとし、誰もが失敗しました。そしてこの男がやってきて、最終的にそれを証明し、証明に失敗し、94年に再び証明しました。インタビューで彼は、すべてがつながった瞬間について、それは言い表せないほど美しく、2つの推測を結ぶ部分を最終的に理解したときだったと言いました。彼は「それは言い表せないほど美しく、とてもシンプルで洗練されていて、なぜそれを見逃していたのか理解できませんでした。ただ信じられずに20分間それを見つめていました。その日中、学部を歩き回り、机に戻ってそれがまだそこにあるかどうか確認し続けました。まだそこにありました。自分を抑えることができませんでした。とても興奮していました。それは私の働く人生で最も重要な瞬間でした。私が再びすることで、これほど意味のあることは何もないでしょう」。
その特別な瞬間は、私に考えさせました。あなたの人生でそのような瞬間、ただワオというアイデアを持った瞬間はありましたか？
私自身をアンドリュー・ワイルズと同じ息で語るつもりはありませんが、物理学について何か非常にクールなことを理解したときの「あはっ」という瞬間を確実にいくつか持っています。それは私の頭を完全に爆発させました。実際、私のお気に入りの発見のいくつかは、後で気づいたのですが、それらがもっと早く発見されていたら、誰かがそれでかなり有名になっていたでしょう。だから、私が公表するには遅すぎましたが、それを理解したときに持つ感情的体験を少しも減じるものではありません。
だから、AGIシステム、AIシステムがそのような瞬間を持つために何が必要だと思いますか？あなたの「ワオ」の瞬間は何でしたか？
それは難しい質問です。なぜなら、実際には2つの部分があるからです。1つは、その証明を成し遂げることができるかどうかです。nが2より大きいすべての整数について、aのn乗プラスbのn乗がcのn乗に等しくならないことを証明できるかどうか。それは知能についての単純な質問です。そのレベルの証明を独立して思いつくことができる機械を構築できるでしょうか？私は、そのレベルの証明を独立して思いつくことができる機械を手に入れるころには、おそらくAGIにかなり近づいていると思います。
2番目の質問は意識についての質問です。そのような機械が実際に何らかの体験を持つ可能性はどのくらいあるでしょうか？ただのゾンビである代わりに。そして、それが機械の目標を達成したときに、何らかの感情的反応を期待するでしょうか？人間の感情に対する何かはないでしょうか？でも、それが何か非常に前向きで崇高で深く意味のあるものを達成したとき。
もし将来私たちが私たちの仲間や私たちの子孫である機械を創造するなら、彼らがこの種の崇高な生命への感謝を持つことを確実に望みます。私の絶対的な最悪の悪夢は、将来のある時点で、遠い将来かもしれませんが、すべてのポストバイオロジカル生命がすべてのクールなことをやっているように見える宇宙で溢れていて、おそらく最後の人間たちや私たちの種が最終的に消滅したとき、「まあ、大丈夫だ。ここにいる私たちの子孫を誇りに思っているから」と言うことです。
私の悪夢は、私たちが意識の問題を解決しておらず、これらがすべてゾンビであることに気づいていないことです。彼らはテープレコーダー以上に何も認識しておらず、どんな種類の体験も持っていません。だから、全体がただの空のベンチのための演劇になってしまいます。それは究極のゾンビ黙示録のようなものです。その場合、私はむしろ、それがどれほど素晴らしいかを本当に感謝するこれらの存在を持つことを強く望みます。
創造性の本質について
その絵の中で創造性の役割は何でしょうか？創造性について何人かの人が質問しました。知能について考えるとき、確実にあなたの本の冒頭で語られた話は映画の制作などを含んでいました。映画や音楽で現代世界でたくさんのお金を稼ぐことができます。だから、もしあなたが知的システムなら、それが得意になりたいかもしれません。
しかし、それは私が創造性について意味することではありません。海が上昇している複雑な目標にとって、創造的な何かがあることが重要でしょうか？それとも私は非常に人間中心的で、創造性を知能に対して何らかの特別なものと考えているのでしょうか？
私の直感では、創造性を単純に知能の側面として考えるべきだと思います。私たちは人間の虚栄心に非常に注意しなければなりません。機械が何かをできるようになるとすぐに、それを軽視しようとする傾向があります。「それは本当の知能ではない」とか「それは真の知能ではない」などと言います。
創造的であるということについて実際に何を意味するかの定義を書き留めるよう自分に問いかけてみたらどうでしょうか？アンドリュー・ワイルズがそこで行ったことについて。私たちがよく意味するのは、誰かが非常に予期しない飛躍をするということではないでしょうか？573歩を取って224を掛けるような、ただの段階的な料理本のようなルールではありません。人々が決してつながっていると思わなかった2つのことの間にさえつながりを作るかもしれません。非常に驚くべきことや何かです。
これは知能の側面だと思いますし、実際には最も重要な側面の一つかもしれません。私たち人間が伝統的なコンピューターよりもそれが得意である理由は、おそらく、あなたがニューラルネットワークなら、ラップトップの中の伝統的な論理ゲートベースのコンピューター機械よりも、それがより自然に来るものだからです。私たちは物理的にすべてのこれらの接続を持っていて、ここを活性化し、ここを活性化し、ここを活性化します。
私の直感では、もし私たちが機械を構築できたら、「ねえ、今月は世界中を旅行したいと気づいたので、私のAGIコースを教えてもらえますか？」と言える機械です。そして「はい、やります」と言って、あなたがしたであろうすべてのことをし、それを提供します。それは私の心では多くの創造性を含むでしょう。
それは言う本当に美しい方法です。私たちは理解していないものすべてが知能の定義だとつかもうとしていると思います。人間として、機械が持っていないものを見つけようとします。創造性は私たちがそれを説明するために使う言葉の一つかもしれません。
それは本当に興味深い表現方法です。私たちはそれほど防御的である必要はないと思います。私たちが何らかの特別だと言うことから良いことは何も生まれないと思います。歴史には、私たちが他のすべての知的存在よりも何らかの優越性があると装おうとすることが、かなり悪い結果につながった多くの例があります。ナチスドイツは他の人々よりも何らかの優越性があると言いました。今日でも、私たちが優越性があり、彼らが痛みを感じられないと言うことによって、動物に多くの残酷さを行っています。奴隷制も同じ種類の本当に弱い議論によって正当化されました。
もし私たちが実際に人工汎用知能を構築し、それが私たちよりも優れたことができるなら、私たちの知能における何らかの偽りの優越性の主張に自己価値を基づかせようとすべきではないと思います。私たちの人生の意味と意味を、私たちが持つ体験から見つけるべきだと思います。私より賢い人がいても、意味のある体験を持つことができます。
ここでファカルティミーティングに行って何かについて話していると、確実に気づきます。「おお、彼はノーベル賞を持っている、彼はノーベル賞を持っている、彼はノーベル賞を持っている、私は持っていない」。それで私の人生を楽しむことが少なくなったり、それらの人々と話すことを楽しまなくなったりしますか？もちろんそんなことはありません。
逆に、私は多くのことで私より優れている他の非常に知的な存在と交流できることを非常に光栄で特権的だと感じます。だから、知的な機械に対しても同じアプローチをとれない理由はないと思います。
価値整合性問題の重要性
人々はそれについてよく考えません。より知的な機械があるとき、人々は自然にそれが有益なタイプの知能ではないと考えます。それがノーベル賞受賞者と話すのが楽しく、特定のトピックについて賢くて、一緒に飲み物を飲みながら楽しい時間を過ごせるということに気づきません。
別の例で、私たちが皆関係できるのは、私たちより賢い人の友達に感銘を受けることが恐ろしいことである必要がない理由です。私たちが2歳だったとき、私たちの両親は私たちよりもずっと知的でしたが、うまくいきました。なぜなら、彼らの目標が私たちの目標と一致していたからです。
それが私たちが解決しなければならない第1の重要な問題だと思います。価値整合性、価値整合性問題です。ひどいサイエンスフィクションのプロットラインの映画を見すぎる人々は、間違ったことを心配します。機械が悪になることを心配しますが、問題は悪意ではありません。問題はおそらく能力です。
定義上、知的であることはあなたを非常に有能にします。もしより知的な目標を持つコンピューターとより知的でない人がいて、知能を目標を達成する能力として定義するなら、より知的な方が勝つでしょう。人間とAGIがいて、AGIがすべての面でより知的で、彼らが異なる目標を持っているなら、誰が自分のやり方を貫くかは推測できますよね。
数年前に絶滅に追いやられた特定のサイの種について読んだところです。その子供と一緒にいる母親サイのかわいい写真を見ていました。なぜ私たち人間は絶滅に追いやったのでしょうか？私たちが邪悪なサイ嫌いだったからではありません。全体として、私たちの目標がサイの目標と一致していなかったからであり、私たちがより知的だったためにサイにとってはうまくいかなかったのです。
だから、もしAGIを構築するなら、それが私たちの目標を理解し、私たちの目標を採用し、それらの目標を保持することを確実にしなければならないことが非常に重要だと思います。
人間の価値の定式化
そこでの興味深い問題は、人間として私たちの価値を定式化しようとすることです。アメリカ合衆国憲法を、当時の人々、白人男性の集団が座って、この国の目標を定式化した方法の例として考えることができます。多くの人がそれらの目標が実際にかなりよく持ちこたえていることに同意しますが、他の方法では悲惨に失敗した興味深い価値の定式化でした。
価値整合性問題とその解決のために、私たちは人間の価値を紙上またはプログラムに記載できなければなりません。それはどのくらい困難だと思いますか？
非常に困難ですが、とても重要なので、本当に最善を尽くさなければなりません。それが困難な理由は2つあります。機械に私たちの目標を理解させ、採用させ、保持させる方法を見つけるという技術的価値整合性問題があります。そして、そもそも誰の価値なのかという別の部分、哲学的な部分があります。
この惑星で価値について素晴らしい合意があるわけではないので、どのようなメカニズムを作って集約し、良い妥協は何かを決めるべきでしょうか？その2番目の議論は、私のような技術オタクに任せることはできません。もし私たちがそれについて話すことを拒否し、AGIが構築されたら、実際に誰の価値になるかについて決定を下すのは誰でしょうか？技術会社の一群の人々です。
彼らは全人類を代表しているのでしょうか？プログラミングが得意だからといって、人間の将来の幸福について語る独特の資格があるのでしょうか？私はこれが本当に包括的な会話であることを強く望みます。
価値合意の可能性
文化的多様性と人権、自由、人間の尊厳に関する様々な仕様を含む美しいビジョンを作成しますが、その合意に到達することはどのくらい困難でしょうか？確実に私たち全員が試すべき本当に重要なことだと思いますが、それは実現可能だと思いますか？
それについて話すことを拒否したり、試すことを拒否したりすることよりも、失敗を保証する良い方法はないと思います。また、「まず長時間議論して、完全な合意に達したら機械にロードしよう」と言うのも本当に悪い戦略だと思います。いいえ、完璧を良いものの敵にすべきではありません。代わりに、ほぼ皆が同意する幼稚園倫理から始めて、今すぐそれを私たちの機械に入れるべきです。私たちはそれさえやっていません。
旅客機を製作する人は誰でも、いかなる状況下でも建物や山に飛び込まないことを望みます。しかし、9月11日のハイジャック犯はそれを行うことができました。さらに恥ずかしいことに、アンドレアス・ルビッツという鬱病のジャーマンウィングスのパイロットが旅客機をアルプスに墜落させ、100人以上を殺害したとき、彼はただオートパイロットにそうするよう命じました。彼はコンピューターに高度を200メートルに変更するよう命じました。GPSマップもすべて持っていたのに、コンピューターは「はい」と言いました。
私たちはそれらの非常に基本的な価値を取るべきです。問題は私たちが同意していないことではなく、問題は私たちがそれを機械に入れて確実にすることを試すには怠惰すぎたことかもしれません。今後、飛行機はすべてコンピューターを搭載していますが、そのようなことを決して拒否するだけです。セーフモードに入るか、コックピットのドアをロックするか、空港で。
私たちの世界の他の多くの技術でも、このような非常に基本的な価値を入れることが非常にタイムリーになってきています。車でさえ、トラックやバンを歩行者に突っ込ませる車両テロ攻撃が十分にあったので、車にそれをハードワイヤードすることは全然クレイジーなアイデアではありません。何らかの理由で他者を害したいと思う人は常にたくさんいますが、そのような人々のほとんどは、そのようなことを回避する方法を見つける技術的専門知識を持っていません。だから、車がただそれをしないなら、それは助けになります。そこから始めましょう。
それは素晴らしいポイントです。完璧を追求しないこと。世界のほとんどが同意することがたくさんあります。そこから始めて、そこから始めたら、ここに他に何を入れるべきかについてこの種の会話をする習慣も身につけるでしょう。これらの議論をするべきです。これは段階的なプロセスであるべきです。
通信と説明可能なAI
しかし、それはこれらのことを記述し、機械にそれを記述することも意味します。スティーブン・ウルフラムと会話しました。スティーブンをご存じですか？ええ、よく知っています。
彼はセルラーオートマタなど、これらのシンプルな計算可能なもの、計算システムで働いていて、私たちはおそらくこれらのシステム内にすでにAGIである何かを既に持っているかもしれないと述べました。私たちがそれと話す方法を知らないだけです。
この機会を利用してこの質問を再構成しようとすると、知的システムを持つことができるが、それらに何かを記述する方法を知らず、彼らは私たちとコミュニケーションが取れないという興味深いアイデアだと思います。あなたは説明可能なAIの作業を少しやって、AIに自分自身を説明させようとしています。自然言語処理または他の何らかのコミュニケーションについて、AIが私たちに何かを説明する方法、私たちが機械に何かを説明する方法について、あなたの考えは何ですか？それとも違って考えますか？
あなたの質問には2つの別々の部分があります。1つはコミュニケーションに関することで、それは超興味深いです。もう一つは、私たちがすでにAGIを持っているが、それに気づいていないだけかどうかということです。
そこで私は異議を唱えます。セルラーオートマトンやインターネット自体やその他の何かの中に、私たち人間ができるすべてのことをより良くできる人工的なものがあるとは思いません。もしその日が来たら、それが起こったとき、私たちは非常にすぐに気づくでしょう。おそらくその前に気づくでしょう。なぜなら、非常に大きな方法で。
しかし、2番目の部分については、申し訳ありませんが、あなたが意識を情報処理として定式化する美しい方法を持っているからです。知能を情報処理として考えることができ、宇宙全体をこれらの粒子とこの情報処理能力を持って動き回るシステムとして考えることができます。私たち人間が行う方法で情報を処理する力を持つ何かがそこにあって、それに接続される必要があるとは思いませんか？少し哲学的に見えるかもしれませんが、力はすでにそこにあり、これらと通信できることにもっと焦点を当てるべきだという考えには説得力があります。
ある意味で、ハードウェア処理能力はすでにそこにあることに同意します。なぜなら、私たちの宇宙自体をすでにコンピューターとして考えることができるからです。それは常にチャールズ川の水の波がどのように発達したか、空気分子をどのように動かすかを計算しています。私の同僚のセス・ロイドが指摘したように、私たちの宇宙全体を量子コンピューターとして非常に厳密な方法で考えることさえできます。
私たちが住んでいるこの物理コンピューター内で実際にラップトップなどを構築できるので、私たちの宇宙がこの素晴らしい処理能力をサポートしていることは非常に明確です。だから明らかに力はそこにあります。ただ、自然が持っているコンピューティング能力のほとんどは、私の意見では、誰も見ていないどこかで別の海の波をシミュレートするような退屈なことに無駄遣いされています。
ある意味で、生命が行っていること、私たちがコンピューターを構築するときに行っていることは、自然がとにかく行っているすべてのこの計算を、ただの別の海の波よりも興味深いことをするように導くことです。ここで何かクールなことをしましょう。
だから、生のハードウェア能力は確実にあります。この水のボトルで次の5秒間に何が起こるかを計算するだけでも、人間のコンピューターでそれを行うと途方もない量の計算が必要です。この水のボトルがそれを行いましたが、この水のボトルがAGIを持っているという意味ではありません。なぜなら、AGIは私の本を書いたり、このインタビューを行ったりもできるべきだからです。それができるとは思いませんし、単なるコミュニケーション問題だとも思いません。
一部の仏教徒は水を見て、そこに何らかの美しさ、何らかの深さがあり、コミュニケーションできると言います。コミュニケーションもここでは非常に重要です。なぜなら、私の仕事の一部は教師であることであり、ただコミュニケーションが困難な非常に知的な教授も何人か知っているからです。彼らはこれらすべての素晴らしいアイデアを思いつきますが、誰か他の人とコミュニケーションするためには、彼らの心をシミュレートできなければなりません。
彼らの心の十分に良いモデルを構築し、彼らが理解する言葉を言えるようにする必要があり、それは非常に困難です。だからこそ、今日、癌の診断を行うコンピューターがあって、なぜ手術を受けるべきだと言っているのかと尋ねると、「5テラバイトのデータで訓練され、これが私の診断です。ビープビープビープ」としか答えられない場合、非常にイライラします。本当に多くの信頼を与えません。だから、コミュニケーションについて多くの作業があると思います。
説明可能なAIの展望
どのような種類の、あなたは説明可能なAIの作業を少しやっていると思いますが、最も有望な道は何だと思いますか？主にアレクサ問題、つまり人間が解釈可能なコミュニケーション方法を実際に使用できること、システムと話し、話し返してもらえることに関する自然言語処理なのか、それともより根本的な問題が解決されるべきなのでしょうか？
それはすべて上記のことだと思います。自然言語処理は明らかに重要ですが、より技術的な根本的問題もあります。チェスをする場合、ロシア語を学んだのはいつですか？誰がパピルス語を見ていますか？ロシア語を自分で教えることができますか？タオの何のアマルガムビルズですか？うわあ、でも私のポイントは、あなたが何語を知っているかということでした。うわあ、それは本当に印象的です。私はいくつかの接触基盤を持っていましたが、私のポイントは、チェスをするなら、AlphaZeroのゲーム、実際のゲームを見た場合、それらのうちのいくつかをチェックアウトすると、ただ心を打つもの、本当に美しいものです。
それがどうやってそれを行ったかを尋ねると、DeepMindのハサビスなどと話すことになりますが、彼らが最終的にあなたに与えることができるのは、ニューラルネットワークを定義する数字、行列の大きなテーブルだけです。あなたはこれらの人々の数字を顔が青くなるまで見つめることができますが、なぜそのような動きをしたのかについてはあまり理解できません。57ポイント8について人間の言語で伝えることができる自然言語処理があったとしても、それは本当に役立ちません。
だから、知的なことを行う計算を取り、それを同様に良い、同様に知的だがより理解しやすいものに変換することに関わる楽しい挑戦の全スペクトラムがあると思います。機械が私たちの世界のより多くのインフラ、電力網、株式市場での取引、兵器システムなどを担当するようになるにつれて、これらのAIを信頼できることが絶対に重要です。信頼は本当に理解から来ます。非常に根本的な方法で。
だからこそ私はこれに取り組んでいます。機械が私たちの目標を採用し、それらを保持するであろうという希望を持つなら、その種の信頼と感謝は、実際に理解できること、できれば完全に証明できることに基づく必要があると思うからです。
自動運転車でさえ、誰かがそれはたくさんのデータで訓練されていてクラッシュしたことがないと言うだけなら、実際に証明を持っている誰かがいるよりも安心できません。コンピューター検証済みの証明かもしれませんが、それでも、いかなる状況下でもこの車は対向車線に急にそれることはないと言っています。その種の情報は信頼を構築し、目標の整合性を構築するのに役立ちます。少なくとも、あなたの目標、あなたの価値が整合していることの認識です。
今日の私たちが持っている絶対に情けないサイバーセキュリティの状態を見ても、非常に短期的に、30億のYahooアカウントがハックされ、ほぼすべてのアメリカ人のクレジットカードなどがハックされています。なぜこれが起こっているのでしょうか？それは最終的に、誰もそれがどう動作するかを完全に理解していないソフトウェアを持っているために起こっています。だからバグが見つからなかったのです。
私は、AIは攻撃のハッキングに非常に効果的に使用できると思いますが、防御にも使用できます。うまくいけば検証可能性の自動化と、それらについて実際に証明できるように異なって構築されたシステムの作成です。それは重要です。
深層学習の成功理由
誰も理解していないソフトウェアの話といえば、もちろん多くの人があなたの論文について、深層学習がなぜそんなに良く機能するのかについてのあなたの考えを尋ねました。その論文について、深層学習、私たち自身の脳のこれらの単純化されたモデルが、いくつかの成功した知覚作業、パターン認識作業、そして今ではAlphaZeroなどでいくつかの賢いことを行うことができています。この分野の将来性と限界についてのあなたの考えは何ですか？
これらの種類の成功から、私たちがすでに引き出すことができる多くの非常に重要な洞察、非常に重要な教訓があると思います。その一つは、人間の脳を見ると、それは非常に複雑で、1110億個のニューロンがあり、すべて異なる種類のニューロンがあることです。数十種類の異なる種類を持っているという事実が実際に知能に必要なのかどうかについて長い議論がありました。
今では、その質問にかなり説得力を持って答えられると思います。いえ、一種類だけで十分です。AlphaZeroの内部を見ると、一種類のニューロンしかなく、それは馬鹿らしいほどシンプルで、シンプルな数学的なものです。
物理学と同じように、波のあるガスがある場合、分子の詳細な性質ではなく、何らかの集合的行動です。同様に、重要なのはネットワークのこの高次レベルの構造であり、20種類を持っていることではありません。私たちの脳がそのような複雑な混乱である理由は、ただ知的であるために進化したのではないからだと思います。それは自己組織化、自己修復、進化的に達成可能などのためにも進化しました。
だから、脳がどう動作するかを完全に理解する前に、AGIの構築方法を理解するだろうというのが私の直感です。機械的な鳥を構築できるようになる前に、飛行機械の構築方法を理解したのと同じように。機械的な鳥の例です。飛行機は実際に鳥の飛行を本当に模倣することなく飛行をかなり良く行い、100年後の今でも、機械的な鳥について言及したTEDトークを見ましたか？素晴らしいですが、その後でも、私たちは私たちの目的にとってより簡単でより良い方法を思いついたので、機械的な鳥で飛ばないのです。そこでも同じかもしれないと思います。
それが一つの教訓で、もう一つの教訓は、私たちの論文が扱ったものです。まず、物理学者として、人工ニューラルネットワークと物理学で私たちが研究してきた多くのもの、繰り込み群方程式やナポレオンなどの専門的な名前で呼ばれるものとの間に非常に密接な数学的関係があることが魅力的だと思いました。
これをもう少し詳しく見ると、最初は奇妙なことがあります。意味をなさないクレイジーなことがあります。なぜなら、猫の写真と犬の写真を判別するための超シンプルなニューラルネットワークを構築したいとしても、今では非常に良くできることは知っていますが、少し考えてみると、それは不可能でなければならないと自分を納得させてしまうからです。
1メガピクセルがあって、各ピクセルが白または黒だけだとしても、2の100万乗の可能な画像があり、これは私たちの宇宙の原子よりもずっと多いのです。そして、それぞれについて、それが犬である確率という数字を割り当てなければなりません。だから、画像の任意の関数は、私たちの宇宙の原子よりも多い数字のリストです。明らかに私のGPUやコンピューターの内部にそれを保存することはできません。それでもなぜか動作します。
それは何を意味するでしょうか？それは、ニューラルネットワークで解決しようとするすべての問題のうち、ほぼすべてが合理的なサイズで解決することは不可能だということを意味します。しかし、私たちの論文で示したのは、実際に私たちが物理法則を考慮して気にかけているすべての問題の割合も、無限小の小さな部分であり、驚くべきことに、それらは基本的に同じ部分だということです。世界が私たちのために創造されたようです。
しかし、世界が私たちのために創造されたと言うこともできますが、私にはもっと控えめな解釈があります。代わりに、進化が正確にその理由でニューラルネットワークを私たちに授けたということです。なぜなら、ラップトップの中にあるものとは対照的に、この特定のアーキテクチャは、自然が私たちの祖先に提示し続けた種類の問題を解決するのに非常によく適応しているからです。
そもそもなぜ脳を持っているのでしょうか？未来について予測をするためです。もし未来について解決できない吸う系を持っていたら、論理を持たなかったでしょう。
これは私が思う非常に美しい事実です。私たちはまた、なぜ深いネットワークが良いのかについての初期の研究があったことも理解しましたが、さらに追加のクールな事実を示すことができました。それは、信じられないほどシンプルな問題でさえ、たとえば数字を与えて一緒に掛け算してもらうとします。数行のコードで書けます。できました。簡単です。
しかし、ただ一つの隠れ層しかないニューラルネットワークでそれをやろうとすると、できますが、1000の数字を掛け算するために2の1000乗のニューロンが必要になります。これは再び私たちの宇宙の原子よりも多いニューロンです。しかし、多くの層を持つ深いネットワークを作ることが許されれば、4000のニューロンしか必要ありません。完全に実現可能です。
量子コンピューティングとAI
別のアーキテクチャタイプについて、シュレーディンガー方程式に言及しましたが、量子コンピューティングと、この種の計算単位がインテリジェントシステムを作成する上での役割についてのあなたの考えは何ですか？
私の名前が言及されるハリウッド映画がいくつかあります。ネタバレしたくありませんが、NADが量子コンピューターを構築しているのは、量子という言葉がクールに聞こえるからです。まず第一に、AGIを構築するために量子コンピューターは必要ないと思います。あなたの脳は量子コンピューターではないと疑っています。何年も前にそれについて論文を書きました。デコヒーレンスと呼ばれるものについて。
ニューロンが何をしているかについて量子コンピューターの情報が環境からのランダムノイズによって消去されるまでの時間、デコヒーレンス時間は約10のマイナス21乗秒です。頭の中に量子コンピューターを持っているのはクールですが、それほど速くはないと思います。
一方で、量子コンピューターでできる非常にクールなことがあり、より大きなものを手に入れたときにすぐにできると思います。それは実際に機械学習を脳よりもさらに良くするのに役立つかもしれません。たとえば、これはムーンショットですが、学習は検索と同じようなものです。
ニューラルネットワークを訓練して何かを本当によく学習させようとする場合、いくつかの損失関数があり、数字で表される調整できるノブの束があり、このことにできるだけ良くなるようにそれらを調整しようとしています。各次元が変更できる数字に対応する景観、谷のある景観を考えると、最小値を見つけようとしています。
非常に高次元の景観、複雑なものでは、最小値を見つけるのは超困難です。量子力学はこれに驚くほど優れています。この水が持つことができる最低エネルギー状態が何かを知りたい場合、計算するのは信じられないほど困難ですが、自然はそれを冷却して非常に冷たくすれば喜んでそれを見つけてくれます。どこかにボールを置けば、それは最小値まで転がり落ちます。これはエネルギー景観でも比喩的に起こります。
量子力学は、今日の機械学習システムが行わないいくつかの賢いトリックを使います。最小値を見つけようとして、ここで小さなローカル最小値にはまってしまった場合、量子力学では実際にバリアをトンネルして抜け出すことができます。それは本当に興味深いです。だから、たとえば、いつかニューラルネットワークをより良く訓練するのに役立つ量子コンピューターを使うかもしれません。
愛と人間的つながり
まとめに入る前に、人間性と愛の問題に戻りましょう。言及したヘルパーロボットについて、パーソナルロボットについても考えることができます。私たち人間が恋に落ち、お互いにつながる方法は、AIシステム、人間レベルのAI知能システムで達成可能だと思いますか？
複雑な目標を解決することについてのこのすべての議論で、この種の人間的社会的つながりが目標の一つ、上昇する海面レベルで達成できる山と谷の一つだと思いますか？それとも、少なくとも他の目標に対して短期的には達成できない何かだと思いますか？
それはすべて可能だと思います。AI研究者の間でAGIをいつ手に入れるかについては非常に幅広い推測があることをご存知のとおりです。あなたの友人ロドニー・ブルックスのような一部の人々は、少なくとも何百年もかかると言っており、他の多くの人々は比較的もっと早く起こると思っています。最近の調査では、AI研究者の約半分が数十年以内にAGIを手に入れると思っています。
もしそれが起こるなら、もちろんこれらのことはすべて可能だと思います。しかし、それが起こるかどうかという点では、私たちがただ何らかの情けない受動的な傍観者であるかのように、私たちに起こる未来を待っているかのように、未来に何が起こると思うかを聞くことにそれほど時間を費やすべきではないと思います。
私たちがこの未来を創造している人々です。だから、私たちはそれについて積極的であるべきで、どのような種類の未来を起こしてもらいたいかを尋ね、それを実現しようとするべきです。
何らかの信じられないほど退屈なゾンビのような未来を好むでしょうか？そこではすべてのこれらの機械的なことが起こっているが、ファッションもなく、感情もなく、体験もなく、おそらく私さえもない。もちろん、私は人類について最も価値があると思うすべてのこと、私たちの主観的体験、情熱、インスピレーション、愛を、それらのことが存在する未来を創造できるなら、そちらをずっと好むでしょう。
最終的に、私たちに意味を与えているのは宇宙ではなく、私たちが宇宙に意味を与えているのだと思います。もしより高度な知能を構築するなら、意味がその一部であるような方法で構築することを確実にしましょう。
楽観的な未来への取り組み
この問題を真剣に研究し、異なる角度から考える多くの人々は、大多数の場合で困難を抱えています。もし彼らがそれを通して考えるなら、人類にとって有益でないものが起こるでしょう。だから、エンジンについてのあなたの考えは何ですか？人々が恐怖を感じる代わりに、それを解決できる、より良くできるという方法で考えるべき方法は何でしょうか？
パニックになることは何の役にも立たないと思います。たとえ本当の脅威がある状況にいたとしても、みんなが単にパニックになることが役立つでしょうか？もちろん、そんなことはありません。
もちろん、物事がひどく間違って行く方法がありますが、まず第一に、これらの問題とリスクについて考えるときに、それを正しく行えばアップサイドがどれほど巨大になり得るかも覚えておくことが重要です。社会と文明について私たちが愛するすべてのものは知能の産物です。だから、私たちの知能や機械知能を増幅し、愛する人を不治の病気で失うことがなくなるなどのことができるなら、私たちはそれを目指すべきです。それは動機になることができると思います。
問題を解決しようとする理由は、暗闇を避けようとしているからだけでなく、何か偉大なことをしようとしているからだということを思い出すことが重要だと思います。リスクに関しては、今日できることで実際に役立つことは何かを問うことが重要な質問だと思います。
リスクを却下することはその一つではありません。これらのことについてのディスカッションパネルにいるとき、企業で働く人々がいつも「心配することは何もない、心配することは何もない、心配することは何もない」と言うのはかなり面白いと思います。懸念を表明するのはいつも学者だけです。
それは考えてみれば全然驚くことではありません。アプトン・シンクレアが皮肉ったように、それを信じないことが給料に依存しているとき、人にそれを信じさせるのは困難です。率直に言って、私たちはこれらの企業の多くの人々を知っており、彼らは他の誰と同じように懸念しています。しかし、あなたが企業のCEOなら、愚かなジャーナリストがあなたを引用するときにターミネーターロボットの写真を載せるので、それは記録に残したいことではありません。
だから問題は本当であり、私が問題について考える方法は、基本的に、私たちが持っている本当の選択は、まず第一に、これらのリスクを攪拌して却下し、「私たちにできるすべてのことをより良く、より安くできる機械を構築し続けよう。できるだけ早く自分自身を時代遅れにしよう。何が悪くなる可能性があるか」と言うのか、ということです。それが一つの態度です。
私が思う反対の態度は、信じられない可能性があると言うことです。私たちが本当に本当に興奮する未来の種類について考えよう。本当に目指すことができる共有された目標は何か。そして、実際にそこに到達する方法について本当に真剣に考えよう。それから始めましょう。
リスクについて考えることから始めないでください。目標について考えることから始めてください。そして、それを行うとき、避けたい障害について考えることができます。学生がキャリアアドバイスのために私のオフィスにやってくるとき、いつもこの非常に質問を尋ねます。将来どこにいたいですか？
もし彼女が言えることが「ああ、癌になるかもしれない、車にひかれるかもしれない」という障害だけなら、彼女はただの心気症で妄想的になってしまいます。一方で、彼女が目に炎を持ってやってきて「私はそこにいたい」と言うなら、私たちは障害について話し、それらをどう回避するかを見ることができます。それはずっとずっと健康的な態度だと思います。
私たちが明確に興奮している未来のビジョンを思いつくのは非常に挑戦的だと感じます。癌を治そうというような曖昧な用語で話しているのではありません。どのような社会を作りたいか、AGIの時代、AIの時代に人間であることが何を意味するかについて話しています。
もしこの会話、広範で包括的な会話を持ち、徐々に少なくとも何らかの未来、向かいたい何らかの方向に収束し始めることができるなら、障害を建設的に取り組むずっと動機づけられるでしょう。
もしこれをより16番目の方法でまとめようとするなら、私たちを圧倒するのではなく、私たちをエンパワーするAGIを構築することを目指すべきだということに、私たちは皆すでに同意できると思います。自動運転車の私の世界側から、実際に私たちが使用し、一部になることを楽しむであろう車を達成するには人間レベルの知能が必要だと個人的に信じている陣営からなど、それを行うことができる多くの様々な方法について考えてください。それが一つの例ですし、確実に医学などの他の多くのタイプのロボットがあります。
それらに焦点を当てて、うまくいかない可能性のある方法、うまくいかない可能性のある障害を思いつき、それらを一度に一つずつ解決する。自動運転車を構築できるからといって、完璧に運転するものを構築できたとしても、人生には私たちが実際に自分でやりたいことがいくつかあるかもしれません。
たとえば、私たちの社会全体について考える場合、私たちが非常に意味があると思ってやっていることがあり、それは機械がより良くできるからといって、それをやめなければならないという意味ではありません。テニスロボットを作って私を打ち負かすことができるからといって、私はテニスをやめるつもりはありません。人々はまだチェスや囲碁さえもプレイしています。
非常に短期的には、一部の人々が仕事に取って代わるベーシックインカムを提唱していますが、もし政府が何もしないで人々に現金を渡すつもりなら、政府がより多くの教師や看護師、人々がしばしば大きな充実感を見出す種類の仕事により多く雇用することも真剣に検討すべきです。
政治家が「より多くの教師を雇う余裕がないが、ベーシックインカムがあるかもしれない」と言うのを聞くのにとても疲れています。私たちの生活に意味を与えるものと、仕事が与えるもの、収入よりもずっと多くのものについて、もっと真剣な研究と思考ができるなら。そして未来について考えるなら、機械によってエンパワーされた人々に持ってもらいたい役割は何でしょうか？
宇宙への拡張と人類の使命
私はソビエト連邦出身で、20世紀の多くの人々にとって、月に行くこと、宇宙に行くことは刺激的なことでした。心の宇宙、つまりAI、知能の理解と創造が21世紀のそれだと感じています。
本当に驚くべきことで、あなたがこれについて言及するのを聞いたことがありますが、研究資金の面でそれほど大きく資金提供されていないことが私には本当に驚きです。しかし最も重要なのは、政治家の面で、キロボットのターミネーター的な見方を除いて、それが公的議論の一部になっていないことです。人々が私たちが一緒に構築できる可能性のある肯定的な未来にまだ興奮していないということです。
確実にそうあるべきです。なぜなら、政治家は通常次の選挙サイクルにのみ焦点を当てているからです。私たち人間が科学の全歴史で学んだ最も重要なことは、私たちが過小評価の達人だということです。私たちの宇宙の科学を何度も何度も過小評価し、私たちが存在すると思っていたすべてのものがより壮大な何かのほんの小さな部分であることを理解してきました。惑星、太陽系、銀河、銀河団、宇宙。
私たちは今、未来が私たちの祖先が夢見ることができたよりもずっと多くの可能性を持っていることを知っています。この宇宙について想像してください。もしすべての地球がケンブリッジ・マサチューセッツを除いて完全に生命のない状態だったら、私たちがケンブリッジ・マサチューセッツに永遠に留まり、地球がもっと長く続くにもかかわらず一週間で絶滅することを目指すだけだったら、それはかなり退屈ではないでしょうか？
宇宙規模でそのような態度を今持っていると思います。生命は地球上で40億年ではなく何十億年も繁栄することができます。太陽が熱くなりすぎたときに危険から移動させる方法についてさえ話すことができます。そして私たちはここにずっと多くのリソースを持っています。
今日、たくさんの他の惑星にバクテリアや牛のような生命がいるかもしれませんが、私たちが失敗できる限り、この機会のほとんどはサハラ砂漠のように大部分が死んでいるように見えます。それでも私たちには生命が何十億年も繁栄するのを助ける機会があります。だから、どちらの境界線が左に1マイル、右に描かれるべきかについて争うのをやめて、私たちは信じられないことができることを理解しましょう。
だからこそ、あなたや他の人々がイーロン・マスクがやっているいくつかの仕事とつながっているのは本当にエキサイティングです。彼は文字通りその宇宙に出て行って、私たちの宇宙を探索しており、それは素晴らしいことです。
まさにそれが、イーロン・マスクがそれほど誤解されている理由です。彼を何らかの悲観的な運命論者として誤解しています。彼がAI安全性をこれほど気にかけている理由は、他のほとんど誰よりも、もし私たちが地球上でここで一掃されたら無駄になるこれらの素晴らしい機会を評価しているからです。私たちは次の世代だけでなく、すべての世代とそこにある信じられない機会を一掃することになります。それは本当に無駄でしょう。
技術なしでやっていく方が良いと思う人々のために言わせてもらうと、もし私たちが技術を改善しないなら、問題は人類が絶滅するかどうかではありません。問題は、次の大きな小惑星や次の超火山や、私たちがより多くの技術で簡単に防ぐことができる他の愚かなことによって排除されるかどうかです。
もし生命が宇宙全体で繁栄することを望むなら、AIがその鍵です。私の本で詳しく述べたように、最も刺激的なSF作家でさえ、特に他の銀河への宇宙旅行の機会を完全に過小評価していると感じます。なぜなら、それをずっと簡単にするAGIの可能性について考えていなかったからです。
結論と感謝
だから、それは私たちの進歩を可能にし、より良い生活を可能にするAGIというあなたの見解につながります。それは美しい表現方法で、目指すべきものです。マックス、今日はお時間をいただき、本当にありがとうございました。素晴らしかったです。
本当にありがとうございました。スーパーボウルズ・ロリー、ありがとうございます。
コメント