イリヤ・サツケヴァーがOpenAI退社後初めて沈黙を破り、AIの急速な進歩と社会への影響について深刻な懸念を表明した。一方で、AGIの到達時期については専門家間で大きく意見が分かれており、ヤン・ルカンのような慎重派とダリオ・アモデイのような緊急性を訴える派に二分されている。しかし、AGIの実現時期に関わらず、AI自動化による雇用への影響は既に現実的な脅威として迫っており、特に運転業務やホワイトカラー職種での自動化が急速に進むと予測されている。
イリヤ・サツケヴァーの告白
イリヤ・サツケヴァーは、OpenAIの元チーフAI科学者でした。ChatGPTとGPT-4の背後にある天才的な頭脳であり、サム・アルトマンを解任しようとした主要人物の一人でしたが、その後自身が追放されることになりました。数か月間沈黙を保っていた彼が、ついにその沈黙を破り、AIの差し迫った未来に対する深い懸念を明かしたのです。
「政治に興味がなくても、政治の方があなたに興味を持つ」という格言がありますが、AIにも同じことが何倍も当てはまるのです。
しかし、イリヤの警告は、AI議論全体を悩ませているより深い問題を反映しています。一方には誇大宣伝を作り出す人々、つまりAIブームから利益を得る内部関係者や投資家がいます。彼らはAIの力を誇張し、ユートピアを約束したり終末を予言したりします。いずれにしても、彼らが望む注目と投資を獲得するのです。
もう一方には、注目競争で取り残される人々がいます。彼らはAIの影響を過小評価し、あらゆる欠陥や限界を指摘して、それが単なる煙と鏡の効果に過ぎないことを証明しようとします。これは必ずしも悪意によるものではありません。強力なインセンティブに反応する人間の心理によるものが多いのです。
しかし、これらの矛盾する議論はほとんどの人を混乱させています。論文を読み、ツールを使い、議論を聞くことに無数の時間を費やしてきた者として、私の目標は物語そのものをめぐる戦いを分析することです。そうすることで、誰を信じるべきか、そして次に何が起こるかにどう備えるべきかを自分で決めることができるでしょう。
失われた理想への想い
イリヤは、約10年間人生を捧げた会社を失った気持ちから話を始めました。
「ジェフ・ヒントンがその大学にいたという事実は、私の人生の大きな幸運の一つでした。私たちはどこよりも最高のAI研究を行っており、最も革命的なアイデア、最も刺激的な仕事をしていました。しかし、それは遠い昔のことです」
「現実をありのままに受け入れ、過去を後悔しないよう努め、状況を改善しようとすることです。なぜこう言うかというと、それを採用するのがとても難しいからです。過去の悪い決断や不運、何か起こったこと、何か不公平なことについて考えるのはとても簡単で、そのようなことを考えるのに多くの時間を費やすのも簡単です。しかし、『よし、物事はこのような状況だ。次の最善の一歩は何か』と言う方がはるかに良く、生産的です。私自身がこれを実行するたびに、すべてがうまくいくことがわかります。しかし、それは困難です。感情との絶え間ない闘いなのです。だからこそ皆さんにお話しするのです。おそらく皆さんの中にも自分で採用される方がいるでしょう」
これは、できる限りこの考え方を採用するための注意喚起であり、また私自身への注意喚起でもあります。
AIがもたらす劇的で避けられない影響
イリヤが沈黙を破った時、彼はOpenAIの騒動にこだわりませんでした。最初の助言の後、話はこれから起こるAIの劇的で避けられない影響に転じました。
「私たちは皆、これまでで最も異常な時代に生きています。これは人々がよく言うことかもしれませんが、今回は実際に真実だと思います。そして今回真実である理由は、AIのためです」
「AIの本当の課題は、それが真に前例がなく、真に極端であることです。そして将来は今日とは大きく異なることになるでしょう。AIが私たちができることのすべてを行う日が来るでしょう。一部だけでなく、すべてです。私が学べること、皆さんの誰もが学べることを、AIも同様に行えるようになるのです」
「そうなると、進歩の速度は少なくともしばらくの間、本当に極めて速くなるでしょう。これらは極端なことです。これらは想像を絶することです。ですから今、私は皆さんを少しその頭の状態に、AIが創造するこの本当に極端で急進的な未来の思考空間に引き込もうとしています」
「しかし、それを想像するのも非常に困難です。内面化し、感情レベルで本当に信じることは非常に困難です。私でさえそれに苦労しています。それでも論理は、これが起こる可能性が非常に高いことを示しているようです」
AIとの避けられない関わり
「政治に興味がなくても、政治の方があなたに興味を持つという格言がありますが、AIにも同じことが何倍も当てはまります」
「単にAIを使用し、今日の最高のAIができることを見ることで、直感を得ることができます。AIが1年、2年、3年と改善し続けるにつれて、直感はより強くなり、私たちが今話していることの多くがはるかに現実的になり、想像上のものではなくなるでしょう」
「特に将来の非常に賢い超知能AIでは、非常に深刻な問題が発生するでしょう。しかし全体的に、AIができることを単に見て、それを無視しないことで、時が来ればAIが提起する巨大な課題を克服するために必要なエネルギーが生成されるでしょう」
「AIが提起する課題は、ある意味で人類史上最大の課題です。そしてそれを克服することは、ある意味で最大の報酬ももたらすでしょう」
「好むと好まざるとにかかわらず、あなたの人生はAIによって大きく影響を受けることになります。ですから、それを見て、注意を払い、そして発生する問題を解決するためのエネルギーを生み出すこと、それが主要なことになるでしょう」
対照的な見解：ヤン・ルカンの慎重論
これがイリヤの見解です。激しく、緊急で、差し迫った急進的変化に焦点を当てています。しかし、議論の全体像を理解するには、この分野のもう一人の巨人であるヤン・ルカンが代表する、議論の反対側の意見を聞く必要があります。彼は有名なほど根本的に異なる見解を持っています。
「数年以内に、2年以内に、データセンターに天才の国ができるという予測は、ナンセンスです。完全にナンセンスです」
「言語を扱うより現実世界を扱う方がはるかに困難です。ですから、現実世界を真に扱うことができるシステムに必要だと私が考えるアーキテクチャの種類は、現在私たちが扱っているものとは完全に異なります」
「世界の抽象的な精神モデルを学習し、それらを推論と計画に使用できるシステムという私が説明している概念は、おそらく3年から5年以内に、少なくとも小規模では機能させる良い手がかりを得るでしょう。そしてそれは、人間レベルのAIに到達するまで、それらをスケールアップすることの問題になるでしょう」
「AIにおいて歴史的に、新しいパラダイムを発見し、『これで決まりだ、10年以内に、あるいは5年以内に人間レベルの知能を持つことになる。すべての領域で人間より賢い機械を持つことになる』と主張するAI研究者の世代が次々と現れています。それが70年間続いています」
「現在の波も間違っています。LLMを拡張したり、何千ものトークンシーケンスを生成させて良いものを選択したりするだけで人間レベルの知能に到達し、数年以内に、2年以内にデータセンターに天才の国ができるという考えは、完全にナンセンスだと思います」
業界リーダーたちの保守的なタイムライン
ヤン・ルカンは異端ではありません。デミス・ハサビス、スンダー・ピチャイ、セルゲイ・ブリンなどの他の影響力のある人物も、あなたが思うよりも彼の保守的なタイムラインにはるかに近い立場にいます。
「2030年より前のAGIか、2030年より後のAGIか。2030年、本当に微妙なラインに置きますね。私は『前』と言います」
「『前』です。デミス、私は『後』と言います」
「プレッシャーはありませんね、デミス。まさに。しかし、戻ってもっと一生懸命働く必要があります」
「AIは2030年までにAGIに到達したと思うでしょうか。私たちはそのタイムラインを少し下回ると思います。つまり、もう少し時間がかかると思います」
緊急性を訴える声：ダリオ・アモデイの警告
多くの主要プレイヤーがAGIはまだ遠いと信じているなら、なぜAnthropicのCEOであるダリオ・アモデイのような人物がインタビューでこのようなことを言うのでしょうか。
「ダリオ、あなたはAIがすべてのエントリーレベルのホワイトカラー職の半分を消去し、失業率を10％から20％に急上昇させる可能性があると言いました。それはいつ頃起こるでしょうか」
「しかし、このAIブームについて私にとって印象的なのは、それがより大きく、より広範囲で、これまでの何よりも速く動いているということです。以前の技術変化と比較して、私は労働への影響について少し心配しています。単純に、それがとても速く起こっているため、人々は適応するでしょうが、十分に速く適応できない可能性があり、調整期間があるかもしれません」
ダリオの警告は、イリヤのものと同様にはるかに緊急に聞こえます。ここでインセンティブを無視することは不可能になります。Googleであれば長期的な視点を持つ余裕がありますが、より小さな研究所は、AIが今すぐ焦点を当てるべき最も差し迫った影響力のある技術として見られる場合にのみ関連性を持ちます。
AGI不要論：現在のAIでも十分な脅威
インセンティブを超えて、ダリオ・アモデイの主張には真実があります。AGIは遠いかもしれませんが、雇用を自動化し人々を置き換えるのにAGIさえ必要でしょうか。おそらくあなたはその答えを気に入らないでしょう。
「明確にするために、私たちがここで触れてきたことですが、AI進歩が完全に停滞したり、モデルが本当にスパイキーで一般的な知能を持たないと思ったとしても、これらすべての異なる仕事、これらのホワイトカラーの仕事タスクに関するデータを収集することは非常に経済的価値があり、十分に簡単なので、今後5年以内にそれらが自動化されることを期待すべきです」
「モデルにすべての単一タスクを手作業で教える必要があったとしても、経済的に価値があります。アルゴリズムの進歩が停滞し、進歩を続ける方法を理解できないとしても（私はそうは思いませんが、まだ停滞していないようで、順調に進んでいるようです）、現在のアルゴリズムスイートは、適切な種類のデータが十分にあれば、ホワイトカラー業務を自動化するのに十分です」
自動運転：AGI不要の自動化の先例
一部の専門家はAGIが遠いと考え、一部はより近いと考えていますが、彼らはほとんど雇用の混乱、つまりAI自動化が本当に近いことに同意しています。そしてそれは、包括的な人間の退職イベントではなく、産業ごと、職業ごとに起こる可能性があります。
おそらく最も差し迫った例は自動運転です。確実にAGIではないAIですが、私たちはすでに自動化された輸送の時代にいるようで、これは世界最大の雇用カテゴリの一つです。
「私の予測では、おそらく来年末までに、米国で自動運転を行うTeslaが数十万台、数十万台でないなら100万台以上になるでしょう」
「それらのうち何パーセントがサイバーキャブではなく、完全自動運転レベル4の監視なしの完全自動運転、つまり注意を払う必要がないという意味でしょうか。私がTeslaを所有していて、ソフトウェアがその能力を持っているなら、はい、Tesla所有者であれば、Airbnbのように予備の寝室や家を貸し出すのと同じように、使用していない時に車をフリートに追加または削除できるようになります」
経済成長への懐疑論
この見解では、AI自動化は差し迫っており、輸送業務のような大きなアドレス可能市場を持つ産業や、コーディングやAI研究のような研究者により近い産業から始まり、徐々にホワイトカラー職全体のカテゴリを引き継ぎます。
しかし、急速な経済成長に関する尊敬すべき専門家たちは、全く異なる見解を持っています。彼らは何らかの形で正反対の立場を取り、AGIを達成したとしても、急速な経済成長と社会変化は見られないと言っています。
「経済学者の視点もありますが、人類学者、社会学者の視点もあります。それらすべてが重要ですが、異なる多元的視点を積み重ねれば積み重ねるほど、知能であろうとなかろうと、押すことができる単純なレバーがあって、それが爆発的な経済成長を与えるというのを見ることは困難になります」
「予測市場はすぐには超急速成長を予測していません。経済成長の専門家を見ると、昨日ここにいたチャド・ジョーンズは超急速成長を予測していませんが、AIが成長率を加速させる可能性があると考えています。ですから、専門家と市場は合意しています。専門家と市場とは異なることを言う私は誰でしょうか」
「なぜAIのために20％以上の爆発的経済成長がないのでしょうか。理由や技術に関係なく、爆発的経済成長を得ることは非常に困難です。一つの問題は、経済の一部が非常に急速に成長し、その後、AIをうまく使用できない経済の他の部分でコスト病が発生することです」
「米国経済を見てください。これらの数字は推測ですが、政府消費は18％、医療はほぼ20％、教育は6～7％、非営利セクターはわかりませんが、それらをすべて合計すると経済の半分になります。彼らはAIをどれだけうまく使用するでしょうか。AIの使用に失敗したからといって、すぐに消失して置き換えられるのでしょうか。いいえ、それには30年かかるでしょう。ですから、規制の少ない経済のいくつかのセクターでは非常に迅速に起こるでしょうが、それは成長率のわずかな押し上げしかもたらさず、経済全体が年間40％成長するようなことは何もありません」
現実的な合意点と今後への指針
つまり、あなたと私は自分たちの立場について独自の信念を持っていますが、個人的な信念を超えて、最も影響力のある頭脳の平均的な見解を取ると、このようになります。
AGIはおそらく5～10年先、場合によってはそれ以上です。狭いAI自動化は大規模な新しいレバレッジとなり、したがって雇用に影響を与えるでしょうが、それは非常にまばらで業界に依存します。AI研究者と技術愛好家対経済学者と社会科学者の間で、AIの結果としてどれだけの経済成長とより一般的な社会変化が起こるかについて根本的な意見の相違があります。
ですから、すべての証拠を積み重ねると、明確な階層が現れます。AGIのタイムラインは投機、経済成長の速度は議論の余地がありますが、雇用を混乱させる自動化の到来は現在進行中の現実です。これは、イリヤ・サツケヴァーから経済学者まで、誰もが最終的に同意する一つの真実です。
そしてそれは、唯一の合理的な行動は、将来の仮想的なものではなく、今起こっている具体的な変化に焦点を当てることを意味します。周りを見回して、あなたの業界がAIによって標的にされる時に備えて足元を固めておいてください。
この件について何か興味深い見解や個人的な経験があれば、コメントで共有してください。ご視聴ありがとうございました。次回もお楽しみに。
コメント