Google DeepMindの共同創業者でありAGIという用語の生みの親であるShane Leggが、AGI実現の明確なタイムラインと社会への影響について語った重要なインタビューである。彼はAGIを段階的な概念として定義し、最小限のAGIは2年程度、完全なAGIは10年以内に実現すると予測している。現在のAIシステムはすでに言語能力や知識量では人間を超えているが、継続的学習や視覚的推論などの分野ではまだ課題が残る。しかしLeggはこれらの制約は数年以内に解決されると確信しており、その先には人工超知能ASIが不可避的に到来すると述べる。この変化は特にソフトウェア開発などの認知労働分野で急速な経済的混乱をもたらすが、適切に構造化されれば人類の繁栄をもたらす黄金時代になり得ると主張している。重要なのは、この技術的変革が遠い未来ではなく今後数年以内に始まるという点であり、あらゆる分野の専門家がこの現実を真剣に受け止め、望ましい未来社会の在り方について今すぐ考え始める必要があると警鐘を鳴らしている。
AGIは本当にもうすぐそこまで来ているのか
あなたはまだ2028年までに50%の確率だと考えていますか。
はい、そう考えています。
人間の知能は人工超知能と比べると矮小なものです。それは社会にとって何を意味するのでしょうか。
それは大規模な変革を意味します。人間の知能が可能なことの上限になるわけです。
これは単なるテック業界の誇大広告屋ではありません。これはShane Legg、AGIという用語を生み出した人物であり、Google DeepMindの共同創業者で、現在はGoogleのチーフAGI科学者を務めています。
数学者のHannah Fryとの対話の中で、彼は誰もがスクロールを止めるべき主張を展開しています。彼はAGIはあと数年で実現すると言います。そして人工超知能はその直後に続くと。そして、やってくるものは社会、経済、そして人間の存在意義そのものを再構築すると述べています。しかし、タイムラインの話に入る前に、なぜならそれはみんなが知りたいことですから。
私たちは極めて重要なことを理解する必要があります。Shane Leggにとって、AGIは単一の「ああ、そうか」という瞬間ではありません。一夜にして切り替わるスイッチではないのです。彼はAGIを段階のはしごとして見ており、そして最上部にははるかに危険な何かが座っています。人工超知能です。そして、最初の段が実際にどれほど低い位置にあるかを理解すれば、なぜこれが誰もが予想していたよりも速く起こっているのかがわかるでしょう。
AGIの段階的定義と現在地
つまり、それには単なるより多くのデータ以上のものが必要です。ある種のアルゴリズムとアーキテクチャの変更が必要です。だから答えはこれらの組み合わせだと思いますし、それは特定の問題が何かによります。
あなたがAGIを単一のイエスかノーか、つまり越えるべき閾値だとは考えていないことは知っています。むしろある種のスペクトラムのようなもので、これらのレベルがあるということですね。それについて説明していただけますか。
はい。私が「最小限のAGI」と呼ぶものがあります。それは、少なくとも私たちが通常人々にできると期待するあらゆる種類の認知的なことができる人工エージェントのことです。そして、私たちはまだそこに到達していません。それは1年後かもしれないし、5年後かもしれません。
おそらく2年くらいだと推測しています。
それが最低レベルなんですね。
それが私が「最小限のAGI」と呼ぶものです。その時点で、私は「よし、このAIは、もし人にその認知タスクを与えたら驚くような失敗の仕方をしなくなった」と言えるでしょう。そして、それが最低限の基準だと思います。しかし、それは人間の知能の能力に到達する方法を完全に理解しているという意味ではありません。なぜなら、物理学や数学で新しい理論を発明したり、素晴らしい交響曲を作曲したり、驚くべき文学作品を書いたりといった、驚異的な認知的偉業を成し遂げる非凡な人々がいるからです。
そして、私たちのAIが典型的な人間の認知ができるというだけでは、非常に非凡な人間の認知的偉業を達成するために必要なすべてのレシピやアルゴリズム、すべてを知っているという意味にはなりません。私たちのAIが人間の認知で可能なことの全範囲を達成できるようになったら、その時こそ、少なくとも完全に人間レベルまで達成したことが本当にわかったということになります。
それを私たちは「完全なAGI」と呼んでいます。
その先にレベルはありますか。
ええ、あります。人間の認知で可能なことを超え始めると、人工超知能、つまりASIと呼ばれるものに向かい始めると思います。それについて本当に明確な定義はありません。
実際、私は何度もその良い定義を考え出そうとしてきました。私が考え出したすべての定義には、何らかの重大な問題があります。しかし、少なくとも漠然とした言い方をすれば、それはAGIであるということです。つまり、AGIの汎用性を持っているが、今や全般的に非常に有能で、人間が到達できる能力をはるかに超えているということです。
あなたがAGIというフレーズを生み出すのを助けた一人だったことは知っています。
Leggは、AGIを最小限のAGIから完全なAGI、そして最終的には人工超知能へと段階に分けています。そして、ここにあなたを不安にさせるべき部分があります。AGIの最低基準は驚くほど低いのです。最小限のAGIは、単に人間ができるあらゆる認知タスクを実行できるシステムを意味します。
より良く、完璧にではなく、ただ能力があるということです。しかし、ここにひねりがあります。これらのシステムは、全般的に人間と一致する必要はありません。いくつかの領域では、すでに私たちをはるかに超えています。他の領域では、まだ奇妙に壊れています。そして、その不均一性、それはバグではなく、兆候なのです。なぜなら、Leggによれば、私たちはAGIが到来するのを待っているわけではないからです。
私たちはすでにその初期の火花を今まさに目にしているのです。本当の問題は、私たちが近いかどうかではありません。すでにどれだけ近いか、そして誰が次に来るものに準備ができているかです。
現在のAIの能力と限界
だから、私たちはまだ本当にはそこに到達していないように感じます。一方で、もし最低基準をそれよりもはるかに高く設定したら、多くの人々、実際多くの人々が、私たちがAGIに要求しているいくつかのことを実際にはできないレベルに設定することになります。
つまり、私たちは人々が何らかの、何と言うか汎用知能のようなものを持っていると信じています。だから、もしAIが人々が通常できる種類の認知的なことを、おそらくそれ以上にできるなら、私たちはそれをそのような種類のクラスの中にあると考えるべきだと感じます。
今私たちが持っているものは、それらのレベルのどこにありますか。
そうですね。それは不均一です。
すでに言語を話すことに関しては、人々よりもはるかにはるかに優れています。150の言語を話すでしょう。誰もそんなことはできません。そして、一般知識は驚異的です。私が育った郊外について尋ねることができます。ニュージーランドの小さな町ですが、偶然にもそれについて知っていることがあるのです。
一方で、人々が通常できると期待するようなことをするのにまだ失敗しています。継続的な学習、つまり長期間にわたって新しい種類のスキルを学ぶことがあまり得意ではありません。そして、それは非常に重要です。たとえば、新しい仕事に就く場合、仕事に到着したときにパフォーマンスを発揮するためにすべてを知っていることは期待されていませんが、時間をかけてそれを学ばなければなりません。
また、推論にもいくつかの弱点があります。特に視覚的推論のようなものです。
AIは、たとえば物体を認識するのが非常に得意です。猫や犬やこれらすべての種類のものを認識できます。しばらくの間それをやってきました。しかし、シーン内のことについて推論するように頼むと、かなり不安定になります。
だから、赤い車と青い車が見えると言うかもしれません。そして、どちらの車が大きいか尋ねます。人々は遠近法が関係していることを理解していて、もしかしたら青い車の方が大きいかもしれませんが、遠くにあるから小さく見えるのです。AIはそれがあまり得意ではありません。
あるいは、ノードとそれらの間のエッジがある何らかの図があれば。
ネットワークのような。
ネットワーク、はい。または数学者が言うところのグラフですね。そして、それについて質問をして、グラフ上のノードの1つから出ている、エッジやスポークの数を数えなければなりません。人は異なる点に注意を払い、それから実際に心の中でそれらを数えるか何かすることでそれをします。AIはそのタイプのことをするのがあまり得意ではありません。だから、このようなあらゆる種類のことがあります。現在私たちが見ているものですが、これらのどれについても根本的な障害があるとは思いませんし、これらのことができるシステムを開発する方法についてアイデアがあります。そして、これらの領域の多くで時間とともにメトリクスが改善されているのを見ています。だから、私の期待では、数年のうちにこれらのことはすべて対処されるでしょうが、まだそこには到達していません。そして、人々ができるあらゆる種類の認知的なことのかなり長いテールを通過するのに少し時間がかかると思います。AIがまだ人間のパフォーマンス以下である領域です。それに到達し、それが数年後に来ると思います。
Leggは、継続的学習や視覚的推論のような最後のいくつかのボトルネックがまだあることを認めています。しかし、ここに不安にさせる部分があります。彼はそれらについて全く心配していません。彼は、これらの制限がわずか数年以内に解決されると確信しています。そして、会話は急転換します。なぜなら、彼はAGIについて話すのをやめ、その後に来るもの、人工超知能について話し始めるからです。
可能性としてではなく、警告としてでもなく、基本的に不可避だと彼が信じている何かとして。そして、その理由こそが本当にあなたを心配させるべきことなのです。
意識と人工超知能の不可避性
そして、それは厳密な科学的問いにすることさえ非常に難しい問題です。なぜなら、これを測定可能なものとしてどう組み立てればいいのかわからないからです。私が確実に起こると思うのは、一部の人々はそれらが意識を持っていると考え、一部の人々は持っていないと考えるだろうということです。
それは確実に起こるでしょう。特に本当によく受け入れられた科学的定義とそれを測定する方法がない場合には。そして、私たちはそれをどうやって乗り越えていくのか、それも非常に興味深い問題です。
しかし、これは1つの問題に過ぎません。たとえば、AGI、つまり完全なAGIから人工超知能、人間の知能をはるかにはるかに超えるものへと進むのか。それは素早く起こるのか、ゆっくりか、決して起こらないのか。そして、もし人工超知能に進むなら、その人工超知能とは何なのか。その人工超知能の認知プロファイルは何なのか。人間をはるかにはるかに超えている特定のことがあるのか。すでに200の言語を話せることがわかっています。それは明らかです。
第一原理から、Leggはこの結果は避けられないと言います。AIは生物学的な脳ではありません。それはデジタル知能です。人間の脳は生物学によって縛られています。固定されたサイズ、限られたエネルギー、遅い化学信号。デジタルシステムはそうではありません。それらはより大きく成長し、より速く実行され、ハードリミットなしでより効率的になることができます。だから、もし私たちが最小限のAGI、つまり人間ができるあらゆる認知タスクを実行できるシステムに到達したら、なぜそこで止まるのでしょうか。止まりません。
私たちはそれをスケールさせ、より多くの計算を与え、より強くより強く押し進めるでしょう。そして、それが起これば、知能そのものが希少でなくなります。これが本当の問題につながります。機械が非常に有能になったとき、何が起こるのか。仕事、権力、経済、そして人間の存在意義。Shane Leggによれば、私たちは見つけ出すために長く待つ必要はありません。
変化は今後数年以内に始まります。
経済と社会への影響
時々、これらのことを駆動している根本的なものがあります。そして、もしその根本的なものを理解すれば、大きな変化が本当に来るという考えを真剣に受け止める必要があります。そして、時々大きな変化は本当に来るのです。
しかし、これは何を意味するのでしょうか。つまり、あなたは完全なAGIがあり、繁栄が共有される可能性があるような長期的なビジョンを描いています。しかし、そこに到達するまでには、つまり、私たちは本当に大きな、いや、それは控えめな表現ですね、大規模な経済的混乱、構造的リスクについて話しているのです。今後数年間がどのようになると予想するか説明してください。2020年3月に私たちが知らなかったことを教えてください。
今後数年間で、あなたが話しているような大きな混乱は見られないと思います。今後数年間で見られると思うのは、AIシステムが非常に便利なツールから、実際に経済的に価値のある仕事をする上でより多くの負担を担うようになることです。
そして、それはかなり不均一になると思います。特定の分野で他の分野よりも速く起こるでしょう。たとえば、ソフトウェアエンジニアリングでは、今後数年間でAIによって書かれるソフトウェアの割合が増えると思います。だから、数年後には、以前は100人のソフトウェアエンジニアが必要だったところが、おそらく20人で済むようになり、その20人は高度なAIツールを使うことになります。数年のうちに、AIは単なる便利なツールから、本当に意味のある生産的な仕事をするものへと変化するのを私たちは見るでしょう。
そして、それらの分野で働く人々の生産性を高めることになります。また、特定の分野の労働市場にもいくらかの混乱を生み出すでしょう。そして、それが起こるにつれて、AIをめぐる議論の多くが変化し、はるかに真剣なものになると思います。
だから、それは単に「ああ、これは本当にクールだ。休暇の計画を立ててもらえるし、子供たちが何かに行き詰まって宿題を理解できないときに助けてもらえる」といったようなことから変化するでしょう。
これは単なる素晴らしい新しいツールではない、というようなものへと。これは実際に経済と社会、あらゆる種類のものを構造的に変えるものなのだと。そして、私たちはこの新しい世界をどう構築するかを考える必要があります。なぜなら、もし私たちがこの能力を活用できれば、これは本当の黄金時代になり得ると私は信じているからです。なぜなら、今私たちには多くのタイプのものの生産を劇的に増加させることができる機械があるからです。そして、科学を進歩させ、もし機械ができるなら私たちがする必要のないあらゆる種類の労働から私たちを解放します。だから、ここには機会があります。しかし、それがいいものになるのは、私たちがこの信じられないほどの機械の能力を、この能力から恩恵を受ける個人として、そして社会の集団としての人々の繁栄があるような社会のビジョンに何とか変換できた場合だけです。
保護される仕事と影響を受ける仕事
なぜなら、その間にはもはや必要とされない80人のソフトウェアエンジニアがおり、現時点でのエントリーレベルの従業員である他のすべての人々、つまり、これによって最初に影響を受けることに気づいている卒業生がいるからです。これによって影響を受けない産業はありますか。
今後数年間で、AIが純粋に認知的な意味でかなり速く発展したとしても、ロボット工学は配管工になれる時点には到達していないと思います。そして、それが可能になったとしても、人間の配管工と価格競争力を持つようになるまでにはかなり時間がかかると思います。だから、純粋に認知的ではない、あらゆる種類の仕事があり、それらはこのようなものから比較的保護されると思います。
興味深いのは、現在非常に高い報酬を受けている仕事の多くが、いわばエリート認知労働だということです。世界中で複雑な合併買収の取引を行う高度な弁護士や、金融で高度なことをしている人々、あるいは今では高度な機械学習ソフトウェアエンジニアリングをしている人々、これらすべてのタイプの仕事です。
数学者も。
私がかなり気に入っている経験則の1つは、もしインターネット経由でリモートで仕事ができるなら、ノートパソコンだけを使って、何らかのフル触覚ボディスーツでロボットを制御するのではなく、通常のインターフェース、キーボード、画面、
カメラ、スピーカー、マイクロフォン、マウス。もしその方法で完全に仕事ができるなら、それはおそらく非常に認知的な仕事です。だから、もしあなたがそのカテゴリーにいるなら、高度なAIはその空間で、ある程度、動作できるようになると思います。
もう1つ、保護的だと思うのは、たとえそれが認知的な仕事であっても、ある種の仕事や人々がすることには人間的な側面があり得るということです。
たとえば、あなたがインフルエンサーだとしましょう。その仕事はリモートでできるかもしれませんが、あなたが特定の性格を持つ特定の人物であり、そこで起こっていることの背後に人がいることを人々が知っているという事実が、多くの場合価値があるかもしれません。
それでもかなり多くの人が残りますね。
私たちが必要としているのは、私がラッセルグループに提案したことに沿ったもので、社会のこれらすべての異なる側面を研究する人々がAIを真剣に受け止める必要があるということです。そして、私の印象では、これらの人々の多くはそうしていません。そして、私がこれらの特定のことの1つに興味を持っている人々に話に行くと、「ああ、そうですね、それはちょっと興味深いツールです。ちょっと面白いね」といった感じです。
しかし、彼らは、今見ているものや、現在知っている現在の制限事項が、ちなみにしばしば古くなっているという考えを内面化していません。しばしばこれらの人々は「ああ、1年前にそれで何かしようとしたんだ」と言います。1年前は、現在のモデルがやっていることと比べると、今や古代史のようなものです。そして、1年後にはさらに良くなっているでしょう。彼らはその傾向をある意味で見ていません。
実際、私は一般の人々の多くが専門家より先を行っていると思います。なぜなら、人間の傾向として、現在のAIシステムについて非テック系の人々に話すと、一部の人々は私に「ああ、それはすでに人間の知能のようなものを持っているんじゃないの?私よりも多くの言語を話すし、高校で私ができたよりもうまく数学や物理の問題ができる。私よりも多くのレシピを知っている。税金の申告について私が混乱していたことを説明してくれたり、あらゆる種類のことで助けてくれる。では、どういう意味で知能的でないの?」と言います。これが私が多くの非テック系の人々と話すときに受ける反応の種類です。
しかし、特定の分野の専門家である人々は、自分の分野が非常に深く特別で、このAIは本当に彼らに触れることはないと感じたいのです。
AGI実現の予測と未来への展望
私は、あなたのAGIについての今や非常に有名な予測で終わりたいと思います。そして、あなたはこれについて10年以上にわたって驚くほど一貫しています。
実際、あなたは2028年までにAGIが実現する確率が50%であると言っています。
はい。
それは最小限のAGIですか。
はい。
ワオ。そして、あなたはまだ2028年までに50%の確率だと考えていますか。
はい。
2028年。そして、それは私の2009年のブログで見ることができます。
完全なAGIについてはどう思いますか。あなたのタイムラインは何ですか。
それから数年後です。
3年、4年、5年、6年後かもしれません。
10年以内に。
ええ、10年以内だと思います。このすべての知識を持って、虚無的な気持ちになることはありませんか。
ここには莫大な機会があると思います。多くの人々が多くの努力を払って多くの仕事をしていますが、そのすべてがそれほど楽しいわけではありません。
そして、産業革命がエネルギーの利用であらゆる種類の機械的な仕事をしたのと同じように、社会により多くの富を創造したように、ここには信じられないほどの機会があると思います。今、私たちはデータとアルゴリズムと計算を利用して、あらゆる種類のより認知的な仕事もすることができます。
そして、それは人々のために存在する莫大な量の富を可能にします。富とは、単に商品やサービスの生産などだけでなく、新しい技術、新しい医薬品、あらゆる種類のもののことです。だから、これは利益のための信じられないほどの可能性を持つ技術です。さて、課題は、リスクや潜在的なコストなどに対処しながら、これらの利益をどのように得るかです。
私たちは、知能が私たちの繁栄を本当に助けてくれる未来の世界を想像できるでしょうか。そして、それはどのようなものでしょうか。そして、それは私だけが答えられるものではありません。私はそれに非常に興味があります。できる限り理解しようとします。しかし、これは本当に深い問題です。
それは哲学、経済学、心理学、倫理学、あらゆる種類の問題に触れています。そして、これについて考え、その肯定的な未来がどのようなものかを想像しようとする、より多くの人々が必要です。
Shane、本当にありがとうございました。控えめに言っても、心を広げられるものでした。
そして、正直なところ、そのエンディングがどれほど力強いかを無視するのは難しいです。
AIの利点は段階的なものではありません。それは文明レベルのものです。しかし、答えのない問題もそうです。それが創造する富を実際に得るのは誰なのか。リスクをどのように減らすのか。特に、まだ特定さえしていないリスクを。意味、目的、そして人間であることの意味さえ、何が起こるのか。どの単一のラボもこれに答えることはできません。
どの政府も単独でそれを解決することはできません。これはグローバルな会話です。そして、もしShane Leggが正しければ、これは遠い未来の問題ではありません。それは今後数年の問題です。つまり、これらの会話はもはや任意ではありません。それらは緊急なのです。
Shaneの視点についてあなたがどう思うか興味があります。私にとって、彼は稀なバランスを保っています。リスクについて明確な目を持ちながら、善のための驚異的な可能性について正直です。
彼のタイムラインは楽観的すぎると思いますか。それとも的を射ていますか。コメント欄にあなたの考えを残してください。そして、これが価値があると思ったら、いいねを押して、新しい方は登録してください。次回お会いしましょう。
コメント