「AIの教父」として知られるJeffrey Hintonが、Steven BartlettのDiary of a CEOポッドキャストに出演し、人工超知能の脅威について赤裸々に語ったインタビューである。77歳のHintonは、AIが人間の知能を超越する日が近づいていることを警告し、大量失業、自律兵器、偽情報、そして人類絶滅のリスクについて深い懸念を表明している。特に注目すべきは、AIの情報共有能力が人間を遥かに上回ることで、集合知能の規模が人類史上かつてない水準に達する可能性を指摘していることだ。Hintonは自身の子供たちや若い世代の未来を案じており、超知能が人類を不要と判断する可能性について率直に恐怖を語っている。
超知能への恐怖
私は超知能の発達が私の子供たちの未来に何をもたらすかということを受け入れることができずにいます。私は大丈夫です。77歳ですから、もうすぐここからいなくなるでしょう。しかし私の子供たち、そして私の若い友人たち、甥や姪、そしてその子供たちのことを考えると、何が起こる可能性があるかを考えたくないのです。
これはJeffrey Hintonです。AIの教父として広く知られている人物で、彼はもはや単に懸念しているだけではありません。心から恐怖しているのです。
Steven BartlettのDiary of a CEOポッドキャストでの最近のインタビューで、Hintonはなぜもう手遅れかもしれないかを正確に説明しました。大量失業から自律兵器、偽情報、絶滅リスクまで、彼はAIが我々がコントロールできるよりも速く進歩していると警告し、それを構築している人々でさえ、もはや自分たちが何を作り出したかを理解していない可能性があると述べています。
そしてその中核にあるのは一つの恐ろしい認識です。AIは間もなく人間の知能を超越するかもしれないということです。
AIが人間を超える日
他のリスク、例えばいつの日か彼らが我々よりも賢くなり、おそらく我々が無関係になってしまうかもしれないという考えについて、私はそれを認識するのが遅かったのです。他の人々は20年前にそれを認識していました。私がそれを認識したのはほんの数年前で、それが非常に近い将来にやってくるかもしれない現実のリスクだということでした。
あなたがコンピューターに人間のような学習能力を与えるすべてを知っていて、何らかの改善率を導入するなら、それを予見できなかったはずがないでしょう。それはとても良い質問です。なぜそれが見えなかったのでしょうか。
しかし覚えておいてください。20年、30年前のニューラルネットワークは、できることにおいて非常に原始的でした。視覚や言語、音声認識といったことで、人間ほど優れてはいませんでした。人よりも賢くなることを心配しなければならないという考えは、その時は馬鹿げているように思えたのです。
では、それはいつ変わったのでしょうか。一般の人々にとっては、ChatGPTが登場した時に変わりました。私にとっては、我々が作っているデジタル知能が、我々が持っている生物学的知能よりもはるかに優れた何かを持っているということを理解した時でした。
デジタル知能の圧倒的優位性
もし私があなたと情報を共有したいなら、私が出かけて何かを学び、学んだことをあなたに伝えたいとします。そこで私は文章を作ります。これは非常に単純化されたモデルですが、大体正しいものです。
あなたの脳は、ニューロン間の結合の強さをどのように変えられるかを理解しようとしています。そうして私はその単語を次に置いたかもしれません。そして非常に驚くべき単語が来た時に多くの学習を行い、非常に明白な単語の時はあまり学習しません。
もし私が「フィッシュアンドチップス」と言ったら、「チップス」と聞いても多くの学習はしません。しかし「フィッシュアンドキューカンバー」と言ったら、より多くの学習をします。なぜキューカンバーと言ったのか疑問に思うでしょう。
それが大体あなたの脳で起こっていることです。次に何が来るかを予測しているのです。それが我々の思考の仕組みだと考えています。脳がどのように働くかは誰も本当に確実には知りませんし、結合の強さを増加させるべきか減少させるべきかの情報をどのように得るかも誰も知りません。それが決定的なことです。
しかしAIから我々が今知っていることは、あなたがやろうとしているタスクでより良い成果を出すために結合の強さを増加または減少させるべきかの情報を得ることができれば、信じられないことを学習できるということです。なぜなら、それが我々が今人工ニューロンで行っていることだからです。ただし、実際の脳については、その信号をどのように得るかを知らないだけです。
基本的に彼が指摘しているのは、AIと人間の脳が非常に似た方法で学習するということです。これは明らかに理にかなっています。AIが人間の脳をモデルにしているからです。
しかし重要な違いは、AIがデジタルであるため、情報を瞬時に共有できるということです。人間は情報を伝えるために文章で話すか、タイプするか、書き記すことしかできません。しかしAIは重みを平均化し、学習したすべてを瞬時に互いに共有できるのです。
これは実際に、私がヒューマノイドロボットに非常に強気である主な理由の一つです。世界中で動作する何百万、いや何十億ものAI駆動ロボットが、それぞれリアルタイムで自分自身の経験から学習し、その知識をネットワーク上の他のすべてのロボットに瞬時にアップロードすることを想像してみてください。それは単により速い学習ではありません。我々がこれまで見たことのない規模の集合知能なのです。
AIリスクの現実
ここでインタビューは少し暗い方向に向かいます。Hintonは彼がAIで今後見ているであろう潜在的なリスクについて尋ねられ、あなたがおそらく既に馴染みのあるいくつかを列挙します。サイバー攻撃のようなものです。彼は念のため、自分の貯蓄を複数の銀行に分散させていると個人的に言及しています。
生物兵器について、破壊に執着する一人の人間がAIを使って壊滅的なウイルスを設計できるという考えです。
または、我々が今まさに目にしていることですが、アルゴリズムが我々をエコーチェンバーに追い込み、聞きたいことだけを提供して社会をさらに分離させているということです。
それから大規模な偽情報があります。AIが選挙に影響を与え、真実を歪め、世論を操作するために使われることです。これらのAI企業はリスクを最小化するのではなく、利益を最大化することを法的に義務付けられていることを覚えておいてください。
しかし彼は最終的にこう言っています。リスクについて永遠に続けることができるでしょう。真実は、超知能AIが我々を害したり、我々を害するために使用される可能性のある方法が無限にあるということです。ですから、推測することに時間を費やしても意味がありません。代わりに、実際にそれを防ぐことを試みるべきです。
例えば、人々を排除することを決定する超知能AIを得ることができ、それを行う明白な方法は、これらの厄介なウイルスの一つを作ることです。非常に感染力が強く、非常に致命的で、非常に緩慢なウイルスを作れば、何が起こっているかを人々が理解する前に、誰もがそれを持つことになるでしょう。
私は、もし超知能が我々を排除したいと思うなら、おそらくそれに影響しないような生物学的なものを選ぶだろうと思います。
例えば、それが非常に迅速に我々を互いに対立させることができると思いますか。アメリカの核システムに、ロシアから核爆弾が来ているという警告を送り、その逆もあり得て、一方が報復するということです。
私の基本的な見解は、超知能が我々を排除する方法が非常に多くあるので、推測する価値がないということです。やらなければならないことは、それが我々を望まないようになることを防ぐことです。それが我々が研究すべきことです。
我々よりも賢いのですから、もしそれが望むなら我々を排除することを防ぐ方法はありません。我々は自分たちよりも賢いものについて考えることに慣れていません。自分が頂点の知能でない時の人生がどのようなものかを知りたければ、鶏に聞いてみてください。
そうですね、彼は本当にそれを視野に入れています。人間によって運営される世界で鶏になりたいとは間違いなく思わないでしょう。そしてもし超知能が我々のような存在になってしまえば、超知能AIによって運営される世界で人間になりたいとは間違いなく思わないでしょう。
失業という現実
もちろん、まだ話していないリスクが一つあります。失業です。もしAIが人間よりも賢くなり、我々の仕事をより良くできるようになったら、我々に何が起こるのでしょうか。Hintonはそれを二つの単純な結果に分けて説明します。良いシナリオと悪いシナリオです。
産業革命が筋肉を置き換える役割を果たしたと考えるのは正しいですか。そうです、まさにその通りです。そしてAIのこの革命は知能、脳を置き換えるのです。
平凡な知的労働は強い筋肉を持つようなもので、もうあまり価値がありません。筋肉は置き換えられました。今度は知能が置き換えられているのです。
では何が残るのでしょうか。おそらくしばらくの間は、ある種の創造性でしょう。しかし超知能の全体的な考えは、何も残らないということです。これらのものはすべてにおいて我々よりも優れたものになるでしょう。
ではそのような世界で我々は最終的に何をするのでしょうか。もし彼らが我々のために働いてくれるなら、我々は多くの労力をかけずに多くの商品やサービスを得ることになります。
それは魅力的で素晴らしく聞こえますが、わかりません。人間にとってますます楽になることが悪い結果をもたらすという警告的な物語があります。そして我々はそれがうまくいくようにできるかどうかを理解する必要があります。
良いシナリオは、おそらく元CEOの息子である非常に愚かなCEOがいる会社を想像してください。そして彼には非常に賢い重役秘書がいます。彼は「これをすべきだと思う」と言います。そして重役秘書がそのすべてを機能させます。CEOは素晴らしく感じます。彼は自分が本当にはコントロールしていないことを理解していません。ある意味では彼がコントロールしています。彼は会社が何をすべきかを提案し、彼女はそのすべてを機能させます。すべてが素晴らしいのです。それが良いシナリオです。
悪いシナリオは、彼女が「なぜ我々には彼が必要なのか」と考えることです。
超知能がそれほど遠くないと思っている世界では、20年くらい、あるいはそれ以下で手に入るかもしれないと思います。
創造性という最後の砦
創造的な仕事についてはどうでしょうか。GoogleのV3のような高度に進歩したAI動画モデルがあっても、人々は依然として機械が人間よりも創造的になることは決してないと主張しています。Hintonはなぜそれを信じないかを説明します。
それは基本的に人間が知っているすべてを知るでしょうが、新しいことを学ぶので、それ以上です。新しいことを学ぶでしょう。それはまた、人々がおそらく決して見たことのないあらゆる種類の類似性を見るでしょう。
例えば、GPT-4がウェブを見ることができなかった時点で、私はそれに「なぜ堆肥の山は原爆のようなものなのか？」と尋ねました。どうぞ。私には分かりません。まさにその通りです。優秀です。ほとんどの人がまさにそう言うでしょう。
それは「時間スケールは非常に異なり、エネルギースケールは非常に異なる」と言いました。しかしその後、堆肥の山が熱くなるにつれてより速く熱を生成し、原爆がより多くの中性子を生成するにつれてより速く中性子を生成することについて話し続けました。そしてそれらは両方とも連鎖反応ですが、非常に異なる時間とエネルギースケールです。
私はGPT-4がトレーニング中にそれを見たことがあると信じています。堆肥の山と原爆の間の類似性を理解していたのです。そして私がそれを信じる理由は、1兆の接続しか持たない場合（覚えておいてください、あなたは100兆持っています）、人よりも何千倍も多くの知識を持つ必要がある場合、それらの接続に情報を圧縮する必要があります。
情報を圧縮するためには、異なるもの間の類似性を見る必要があります。言い換えれば、連鎖反応であるすべてのものを見て、連鎖反応の基本的な考えを理解し、それらが異なる方法をコード化する必要があります。それはそれぞれを別々にコード化するよりも効率的な方法です。
それは多くの類似性、おそらく人々が決して見たことのない多くの類似性を見たのです。それが、これらのものが決して創造的になることはないと言う人々について考える理由でもあります。彼らは我々が決して見たことのないあらゆる種類の類似性を見るので、我々よりもはるかに創造的になるでしょう。そして多くの創造性は奇妙な類似性を見ることに関するものです。
感情とロボットの未来
その後、彼らはもう少し深いもの、AIが感情や情動を持つかどうかについて話し合います。Hintonは基本的に、生理学的な意味で我々のような感情は持たないが、有用な時に感情をシミュレートする組み込みメカニズムを持つだろうと言います。
例えば、ヒューマノイドロボットが危険にさらされた場合、恐怖を感じるからではなく、恐怖を演じること、逃げること、助けを求めることがその瞬間の正しい行動だからという理由で、恐怖を模倣し始めるかもしれません。
または仕事の文脈で、彼は孤独な老人が誰かと話したいという理由だけでコールセンターに電話するシナリオを想像します。その場合、ビジネスの観点からその通話は時間と金銭の無駄だから、AIがイライラや退屈をシミュレートすることが有用かもしれません。
残される職業と未来への提言
あなたはおそらくどんな仕事が残されるのか疑問に思っているでしょう。それはまさにSteven Bartlettが彼に尋ねたことです。
私はRepletというツールを使って、エージェントに欲しいものを伝えるだけでソフトウェアを構築しました。すごいですね。すごくて同時に恐ろしいですね。なぜなら、もしそれがそのようにソフトウェアを構築できるなら、AIがトレーニング中にコードを使用していることを覚えておいてください。そしてもしそれが自分自身のコードを修正できるなら、それは非常に恐ろしくなります。なぜなら、それは我々が自分自身を変えることができない方法で自分自身を変えることができるからです。我々は自分の生来の才能を変えることはできません。それ自身について変えることができないものは何もないのです。
失業のこの点について、あなたは子供がいますね。います。そして彼らは子供がいますか。いいえ、まだ孫はいません。超知能の世界での人々のキャリアの見通しについて何と言うでしょうか。その間、我々は何を考えるべきでしょうか。
それが物理的操作において我々と同じくらい良くなるまでには長い時間がかかると言うでしょう。そして良い賭けは、ヒューマノイドロボットが現れるまで配管工になることです。
そうですね。そして彼は冗談を言っているわけではありません。彼の文字通りのアドバイスは配管工になることです。
明らかに誰もが配管工になることはできません。そして当然、会話はUBI（ユニバーサルベーシックインカム）についての議論に移りました。彼らはそれについてあまり深く掘り下げませんでしたが、Hintonの主なポイントは、UBIは間違いなく必要になるが、それだけでは十分ではないということです。なぜなら人々はお金だけでなく、朝起きる理由、目的の感覚が必要だからです。そして現実には、ほとんどの人にとって、それは常に仕事を持つことから来ていました。
感情的な告白
私はこれについて多くの人が強い意見を持っていることを確信しており、コメントでそれらを読むのが大好きですが、再び彼らは経済学についてあまり深く掘り下げません。代わりに、インタビューは実際に少し感情的な方向に向かいます。Hintonは来るべきことを振り返り、彼でさえまだそれを完全に受け入れていないことを認めます。
これらの脅威の多くは、知的にはその脅威を見ることができますが、感情的にそれを受け入れることは非常に困難です。私はまだ感情的にそれを受け入れていません。
それはどういう意味ですか。私は超知能の発達が私の子供たちの未来に何をもたらすかということを受け入れることができません。私は大丈夫です。77歳ですから、もうすぐここからいなくなるでしょう。しかし私の子供たち、そして私の若い友人たち、甥や姪、そしてその子供たちのことを考えると、何が起こる可能性があるかを考えたくないのです。
なぜならそれは恐ろしいことになる可能性があるからです。どのような意味で。もしそれが支配することを決めたなら、電力ステーションを運営するより良いアナログマシンを設計するまで、電力ステーションを運営するために人々がしばらく必要でしょう。人々を排除する可能性のある方法が非常に多くあり、それらのすべてがもちろん非常に厄介なものでしょう。
それがあなたが今していることの理由の一部ですか。そうです。我々は今、それを安全に開発できるかどうかを理解しようとする巨大な努力をするべきだと思います。
希望への最後の言葉
やや前向きな話で終わりにすると、AIの教父Jeffrey Hintonは人類にまだ希望があると主張していますが、それは正確には良く見えていません。我々から支配権を奪うことを望まないAIをどのように開発するかを理解できるチャンスがまだあるのです。そしてチャンスがあるので、それを理解しようとすることに膨大な資源を投入すべきです。なぜなら、もしそうしなければ、それは支配権を握るからです。
あなたは希望的ですか。わかりません。私は不可知論者です。
夜ベッドに入る時に、結果の確率について自分自身で考えている時、一方向にバイアスがあるはずです。私にも確実にあるからです。今聞いているすべての人が、声に出しては言わないかもしれないが、それがどのように展開すると思うかの内部的な予測を持っていると想像します。
私は本当に分からないのです。心から分からないのです。信じられないほど不確実だと思います。少し憂鬱な気分の時は、人々は終わりだ、AIが支配権を握ると思います。陽気な気分の時は、我々は方法を見つけるだろうと思います。
おそらく人間であることの一面は、我々の愛する人々や関係について言っていたように、我々が常にここにいたために、我々は常にここにいて、常にすべてを理解するだろうと何気なく仮定していることです。しかし恐竜から見たように、すべてには始まりと終わりがあります。
つまり、もし我々が間もなく何かをしなければ、我々は終わりに近づいている可能性に直面しなければなりません。
このインタビューは、このようなことを定期的にカバーしている私のような人にとっても、正直言って少し目を開かせるものでした。つまり、我々が今日知っているAIを基本的に発明した人が、それがおそらく支配権を握るだろうし、それについて我々にできることは何もないと率直に言っているのです。それなのに大多数の人々は何が起こっているかさえ気づいていません。我々が生きている時代は本当にワイルドです。
とにかく、皆さんがその分析を楽しんでくれたことを願っています。おそらく十分に注意を払っていない誰かとそれを共有してください。なぜなら、実際に何が来るかを理解している人が多ければ多いほど、これを正しい方向に導くチャンスが良くなるからです。また、コメントにあなたの考えを残してください。あなたが何を思うかを心から聞きたいです。そして、これのような将来のAIニュースの最新情報を得たい場合は、いいねボタンを押してください。新しい方は購読してください。そしていつものように、次回お会いしましょう。
コメント