8,593 文字
アンスロピックのCEOであるダリオ・アモデイが、AIの未来が社会に与える影響について非常に楽観的な見方を示した大規模な1万5000字のエッセイを発表し、AI業界内外で大きな波紋を呼んでいます。
このエッセーで彼は、非常に大胆でインスパイアリングなビジョンを描いていますが、同時にAIの現実的な可能性とリスクについて議論を巻き起こしています。
エッセイのタイトルは「愛の恵みの機械」で、副題は「AIが世界をよりよくする方法」となっています。
このタイトルを見た瞬間に、「これはどういう意味やねん？」って思うかもしれませんな。実はこれ、リチャード・ブローンという詩人の「愛の恵みの機械に見守られて」っていう短い詩からとってるんです。この詩は、テクノロジーと人類と自然が完璧に調和した存在を想像してるんですわ。
エッセイ本体では、アモデイがこの前向きな未来がAIでどう実現されるかについて、かなりラディカルな予測をしています。いくつか特に目立つものを挙げると…
まず、彼が「パワフルAI」って呼んでるもんがあるんですが、これは彼いわく「AI」って言葉はあんまり好きやないらしいんですけど、要するにめっちゃ有能で強力なAIのことなんです。これが早ければ2026年にも登場するんちゃうかって予測してるんです。
彼の定義によると、このパワフルAIっていうのは、ほとんどの分野でノーベル賞受賞者を超える知性を持つAIのことやそうです。自律的にタスクをこなせて、場合によっては何百万ものコピーが協力して目標を達成できるようなAIやねんて。
このパワフルAIが登場したら、アモデイは主要な分野にめっちゃ大きな影響があると予測してるんです。彼が特に注目してるのは、生物学、神経科学、世界の経済発展、ガバナンス、そして仕事の未来。これ以外にもめっちゃたくさんの影響があるって認めてるんですけどね。
めっちゃラディカルな予測をいくつか挙げると…例えば、AIが7〜12年以内にほとんどの病気を治療し、がんを根絶し、アルツハイマーを止められるって言うてるんです。精神疾患の薬をAIが5〜10年以内に開発するとも予測してます。
人間の平均寿命が倍の150歳になるって言うてるし、AIが世界の飢餓問題を解決して気候変動を逆転させられるとも考えてるんです。
途上国の経済成長も劇的に進むと予測してて、例えばサハラ以南のアフリカのGDPが10年以内に現在の中国のレベルに追いつくんちゃうかって言うてるんです。
それに加えて、アモデイはAIが雇用市場を混乱させることは認めてるんですけど、人間はしばらくの間はAIの能力を補完できる比較優位を保てると考えてるんです。
ただ、長期的には「このAIがめっちゃ幅広く効果的になって、めっちゃ安くなるから、ある時点で今の経済の仕組みがもう通用しなくなる」って言うてるんです。
これはほんの一部やけど、めっちゃたくさんのことが書かれてるんですわ。ほんまに考えさせられる内容やね。
まずは最初から見ていきましょか。アモデイの視点がなんでこの話題で重要なんか、このエッセイのどの部分に特に注目すべきやと思う？
ちょっと思い出してもらうと、彼がどういう人物かってことなんやけど…なんでこの人の意見が重要なんかっていうと、彼はもともとOpenAIでGPT-2とGPT-3を開発するチームを率いてたんです。その前はGoogle Brainで上級研究科学者として1年ほど働いてたんやけど、GPT-3の開発チームを率いた後に、言語モデル会社、つまりフロンティアモデル会社を作る機会を見出したんです。
2021年にOpenAIを退社して、スタッフの約10%を連れて行って、アンスロピックを設立したんです。彼は共同創業者でCEOやねんけど、これまでに76億ドルを調達してるんです。最近のポッドキャストエピソードで話したように、また資金調達をする噂があって、今度は400億ドルの評価額やって言われてるんです。
最大で一般的に使えるモデルを開発する会社を見てみると、たぶん5社くらいあるんちゃうかな。OpenAIはもちろんのこと、Google、Meta、アンスロピック、そしてイーロン・マスクのxAIってとこやね。これについてはもうちょっと後で話すけど。
他にもフロンティアモデルを作ってる会社はあるけど、小さめのモデルを作ってる会社もあるし。今のところMistralってとこが注目されてるけど、たぶん長続きせーへんやろうな。これらの大手が調達してるレベルの資金を集めるのは本当に難しいからね。
だからこの5社が一番大きなモデルを作る主要な会社になりそうなんです。
ダリオが言うてることとか、これからどうなると思ってるかってのは、めっちゃ大事なんです。だって、もし彼がそういうビジョンを持ってるんやったら、彼は未来を作ってる5人の主要な人物の1人やからね。
去年のエピソードでも話したけど、彼はあんまり喋らへんのよ。インタビューもほとんどせーへんし、サム・アルトマンみたいにTwitterでも活発やないし。ダリオがどう考えてるかを知るのはめっちゃ難しいんです。
でも時々、長いポッドキャストに出たり、今回みたいに1万5000字のエッセイを発表したりして、何を考えてるか教えてくれるんです。
まず冒頭で重要なポイントを指摘してるんやけど、「人々は時々、私が悲観主義者やドゥーマー（世界の終末を予言する人）で、AIはほとんど悪いものか危険なものだと思ってると結論付けることがある」って言うてるんです。
ここで覚えておいてほしいのは、彼らはSB147を支持してたってことやね。アンスロピックは、カリフォルニアで議論されてて最終的に知事が拒否権を発動した法案を支持してたんです。だからこそ彼は「人々は私をドゥーマーだと思ってる」って言うてるんやと思うんやけど。
でも彼は「全然そうやないんです。実際、リスクに焦点を当てる主な理由の1つは、それが私が見てる根本的にポジティブな未来との間に立ちはだかる唯一のものやからなんです」って言うてるんです。
「多くの人がAIの上昇側がどれだけラディカルになり得るかを過小評価してると思うんです。同時に、多くの人がリスクがどれだけ悪くなり得るかも過小評価してると思うんです」って。
彼はこのエッセイで「パワフルAIのある世界が、もし全てがうまくいったらどうなるか」っていうのを描きたかったって言うてるんです。
そして、さっき言うたように、5つの主要な分野に焦点を当ててるんやけど、これは彼が神経科学と生物学のバックグラウンドを持ってて、経済発展についてもそこそこ知識があるからやね。あとは平和とガバナンス、仕事と意味についての大きなビジョンもあるからやと思うわ。
パワフルAIについてちょっと触れたけど、何度も話してきたように、AGIが何かってことですら意見が一致せーへんし、AGIって言葉すら使いたくない人もおるんやから、今度はパワフルAIっていう言葉も出てきて混乱してるんやけど。
彼がどう分類してるか見てみるのは面白いと思うんやけど、彼は「今日のLLMと形態は似てるかもしれへんけど、違うアーキテクチャに基づいてるかもしれへん」って言うてるんです。つまり、もしかしたらTransformerじゃないかもしれへんし、Transformerの新しいバージョンかもしれへんって示唆してるんやね。
「複数のモデルが相互作用してるかもしれへんし、違う方法で訓練されてるかもしれへん」って言うてるんです。これ、めっちゃ近い将来のことを想定してるのに、「かもしれへん」がめっちゃ多いなって思ったんよ。これは私にとっては、もしかしたら彼らがすでに新しいアーキテクチャのアプローチを持ってるんちゃうかって思わせるんやけどね。
ノーベル賞受賞者の話に戻るけど、ここで面白いのは…彼のタイムラインにまた戻るけど、このパワフルAIがどういうもんかをはっきりさせるのは大事やと思うんです。
最近のエピソードでGoogle DeepMindのAGIレベルについて話したけど、ショーノートにリンク貼っておくから。彼らのAGIレベルは、レベル0の「AIなし」からレベル5の「スーパーヒューマン、100%の人間を上回る」まであるんです。レベル4は「バーチュオーソ、少なくとも熟練した大人の99パーセンタイル」やねんけど。
彼が言うてるこのパワフルAIは、基本的にGoogle DeepMindのAGIレベルでいうとレベル4か5になるってことやね。これは重要な区別やと思うわ。
彼は具体的に「人間が仮想的に作業する時に使えるすべてのインターフェースを持ってる」って言うてるんです。「テキスト、音声、ビデオ、マウスとキーボードの制御、インターネットアクセスを含む」って。
つまり、オンラインの世界で人間ができることは全部できるってことやね。「このインターフェースで可能なあらゆるアクション、コミュニケーション、リモート操作を行える。インターネット上でのアクション、人間への指示の受け渡し、材料の注文、実験の指示、ビデオの視聴など」って言うてるんです。
ここでまた彼のタイムラインに戻るけど、彼が考えてるこのパワフルAIがどういうもんかを覚えておいてな。これはめっちゃ大きな進歩やで。
次に私がまとめたのは、高度な推論と主体性やねんけど、彼の言葉を借りると「ただ受動的に質問に答えるだけやなくて、タスクを与えられて何時間も何日も何週間もかけてそれを完了し、賢い従業員みたいに自律的にタスクをこなすんです。必要に応じて明確化を求めたりもします」って。
「コンピューターを通じて既存の物理的なツール、ロボット、実験装置を制御できる」っていうのもめっちゃ重要なポイントやね。
「モデルの訓練に使われたリソースを再利用して、何百万ものインスタンスを実行できる」っていうのもすごいよな。
「モデルは人間の10〜100倍の速度で情報を吸収してアクションを生成できる。ただし、物理的な世界や相互作用するソフトウェアの応答時間によって制限される可能性がある」とも言うてるんです。
これ、AIの研究コミュニティの外の人からしたら、めっちゃSFみたいに聞こえるかもしれへんな。でも、めっちゃ注意深く追ってきた人にとっては、これ全部つじつまが合うんです。
レオポルドの状況認識に関する論文とも一致するし、OpenAIから聞こえてくることとも一致してる。私にとっては、ここで見たものは全部新しいものやないんです。だって、彼らみんながこういうことを話してるからね。
そして、ちょっと狂気じみてるのは、「これらの何百万ものコピーが、それぞれ独立して関係のないタスクに取り組んだり、必要に応じて人間が協力するのと同じように全部一緒に働いたりできる。場合によっては、特定のタスクが特に得意になるように微調整された異なるサブ集団があるかもしれへん」って言うてるところやな。
これはOpenAIのAIレベルの話につながるんやけど、その話もしてきたよな。OpenAIのAIレベルでは、レベル1がチャットボット、レベル2が推論機（GPT-4で少し見られたやつ）、レベル3がエージェント（今デモが出てきてて、1〜2年後には信頼できるようになるかも）、レベル4がイノベーター（基本的に新しい科学を生み出すやつ）、レベル5が組織（数十、数百、数千、数百万のエージェントが協力して会社を運営するやつ）っていう感じやったよな。
これで思い出すのが、2023年7月のイリヤ・スツケバーの発言やね。「将来のAIについて、私が考えてるのは、あなたや私くらい賢いっていうんじゃなくて、自動化された組織なんです。その構成AIは、ミツバチの巣みたいに高速で作業してコミュニケーションを取るんです。そんなAI組織が1つあれば、50のAppleやGoogleくらいの力を持つことになるでしょう」って言うてたんや。
イリヤとダリオはOpenAIで一緒に働いてたから、こういうアイデアは共有してたんやろうな。ジェンセン・フアンの発言についてはまた後で触れるけど、ダリオはこの未来を「データサインの天才の国」って表現してるんや。
で、彼はこれをいつ頃実現すると考えてるかっていうと、さっき言うたように早ければ2026年って言うてるんや。つまり、今話したことの全てが、彼から見たら今から1〜2世代のモデル、つまりGPT-6やClaude 5で科学的に可能やと考えてるってことやねん。
これで昨日の夜、日曜の夜やのに眠れんくなってしまって、エピソード94のことを思い出したんや。マイク、覚えてるやろ？エピソード94のリンクも貼っておくけど、あれはアンスロピックのAI安全性レベルについて話したやつやねん。
そのエピソードでは、ダリオ・アモデイとのエズラ・クラインのインタビューについて話したんやけど、そのインタビューでこの安全性レベルについて話してたんや。
彼らにはASLっていうAI安全性レベルがあって、ASL1は「意味のある壊滅的リスクをもたらさないシステム」、例えば2018年のLLMsみたいなやつ。ASL2は「現在の大規模言語モデル」で、ClaudeやGeminiとかがここに入る。危険な能力の初期の兆候を示すけど、まだコントロールできるレベルやね。
ASL3は「かなり高いリスク」で、「壊滅的な誤用のリスクを大幅に高めるシステム」を指す。この時点では、これらは理論上のレベルやった。
ASL4は「推測的でさらに高い」レベルで、まだ定義されてへんかった。どう測定したらいいかもわからへんかったんや。
そのインタビューでエズラが「ざっくり言って、ASL3とASL4がどれくらい先やと思う？この指数関数的なスケーリングカーブについてめっちゃ考えてきたやろ。予想でいいから教えて」って聞いたんや。
ダリオは「うん、ASL3は今年か来年にも簡単に起こり得ると思う」って言うたんや。そしたらエズラ・クラインが「なんてこった」って遮ったんやけど、ダリオは「いや、いや、私は指数関数を信じてるって言うたやろ。ASL4は2025年から2028年の間に起こり得ると思う」って言うたんや。
そしたらエズラが「これらのモデルが危険になるほど強力になることを信じてへんのなら別やけど、あんたはそう信じてるよな。これが実際にどう展開すると想像してるんや？」って聞いたんや。
ダリオは「正直、答えはないんや。私はこれを導こうとしてる多くのプレイヤーの1人やねん。多くは善意やけど、そうやない人もおる。私にはこれに影響を与える能力は限られてるんや」って答えたんや。
この話を持ち出したのは、このエッセイの全てが、彼らが作ってるモデルが今後1〜2年以内にASL3か4、つまり彼ら自身のリスクレベルでいうと最高レベルになることを示唆し続けてるからなんや。
そのインタビューは確か今年の4月頃やったと思うんやけど、つまり5〜6ヶ月後の今も、彼はこの道筋を続けてるってことなんや。
彼のこの先のビジョンがどうなるのか、正直わからへんわ。
まとめると、未来を思い描いて作ってる起業家とAI研究者が何人かおって、ダリオが言うたように、彼はその1人やねんけど、それに影響を与える能力はそんなにないと思ってる。でも、実際にモデルを作ってるのは彼らなんや。
だからこそ、マイクと私はこういうことに時間を使ってるんや。この記事を読んでると、ちょっと変な感じがするし、SFみたいに感じるかもしれへん。でも、彼らは今まさに決定を下してて、彼らが選ぶ道筋が私たち全員、私たちの子供たち、私たちのコミュニティ、ビジネス、全てに影響を与えるんや。だから、彼らが考えてること、言うてること、やってることが重要なんや。
私は未来に対して楽観的でありたいと思ってる。でも現実には、知られてるリスクもあるし、知られてへんリスクもある。だから、これを乗り越えるには、情報を得て、個人レベルで最善を尽くして、ビジネスや業界、キャリア、学校でAIを責任を持って応用することを意識的に選ぶしかないんや。
ダリオみたいに、私も本当に未来が豊かで素晴らしいものになり得ると信じてる。でも、責任を持って人間中心のアプローチを選ぶ必要があるんや。
それでも、人類の未来を動かしてる5つの主要な会社が、本当にその未来がどんなものかについて意見が一致してるのかどうか、まだ心配やねん。だって、AGIが何かってことすら意見が一致せーへんし、もう同じ言葉すら使ってへんやんか。
正直わからへんわ。これは日曜の夜に考えるには重すぎる内容やったし、エピソード94に戻って考えると、当時からちょっと不安やったんやけどな。
私が気になったのは、あんたと私はAGIの話のある版を長いこと追いかけてきたけど、もし彼がこのエッセイを3年前に発表してたら、誰も相手にせーへんかったやろうってことやな。
サム・アルトマンが2021年に「全てにムーアの法則を」って言うたとき、AI研究コミュニティの外では、ほとんどの人が無視したんや。あまりにも突飛すぎて、考える必要がないって思われたんやろうな。
私もあんたに同意やわ。多くのビジネスリーダーや政府のリーダー、教育システムのリーダーがこれを見て、狂ってるとかSFやとか、考える必要のないもんやって思うんやろうな。
でも私たちが言うてるのは、考えるべきやってことやねん。だって彼らは、これが1〜2年以内に現実になると考えてるんやから。
これは次の10年で信じられないほどのことになり得るんや。生物学や社会、飢餓や病気の解決など、すべての素晴らしいブレークスルーにつながる可能性があるんや。
でも、それは約束されたもんやないんやで。「もし全てがうまくいったら」っていうのが、基本的に彼が言うてることなんや。
彼は全ての時間を、どうすれば最高の未来を確実に手に入れられるかを考えることに費やしてるんやけど、最後には「これが多くの人が望む未来かどうかさえわからへん。ただ、私が美しいと思う未来なんや」って言うてるんやで。
このトピックをまとめるにあたって、私が燃えるような疑問を持ってるのは、「数年以内に、ほとんどの分野でノーベル賞受賞者と同じくらい機能的なAIができると信じてる」ってエッセイを始めるのに、なんでこのエッセイの半分を使って、ノーベル賞受賞者やないすべての人の仕事への影響について話さへんのやろうってことやな。
そんな世界で、人間がちょっとでも比較優位を持つと想像するのは、めっちゃ難しいと思うんやけど。
まあ、彼もそれには触れてるんやけどな。経済と仕事の話は最後にしてて、「全てをやってくれるAIがある世界で、人間はどうやって意味を見出すんやろう？そもそも、経済的にどうやって生き残るんやろう？」って始めてるんや。
そして基本的に「これについては一番言うことが少ないんや。一番わからへんことやねん」って言うてるんや。でも「いくつか言葉を費やす価値はある。このセクションが短いからって、これらの問題を深刻に受け止めてへんってわけやないで。逆や。明確な答えがないってことの表れなんや」って言うてるんや。
そして人間の意味と仕事の意味について触れてるんやけど、結局「奇妙なことになるやろうし、正直何を言うたらいいかわからへん」って感じなんや。
基本的に「GDPは劇的に上がるやろうし、それは人々が仕事をする機会をもっと作り出すはずや。たとえ以前の10%しか仕事せえへんくなっても、それでもまだ何かしらの意味は見出せるはずや」って言うてるんや。
彼らがわかってへんのは明らかやし、サム・アルトマンもはっきり言うてるよな。彼もわからへんって。
これが私の一番の懸念なんや。別に不安を煽りたいわけやないんやけど、現実は彼らみんなが2年以内に経済も仕事も全然違うもんになると思ってて、でもそれが何を意味するのかについては答えがないし、合理的なアイデアすらないってことなんや。
ユニバーサルベーシックインカム以外に政策のアイデアもないし、彼もそれを投げ出して「それかもしれへんし、違うかもしれへん。わからへん」って言うてるんや。
なんでこれが、もっと時間をかけて研究してる主題やないんやろう？私にはわからへんわ。
そうやな、それが言いたかったんや。これは簡単に解決できる問題やないってのはよくわかるけど、もしこんなに近い将来に来るんやったら、私たちはまだ全然準備できてへんのに、誰かがこれを主題にせなアカンのちゃうかな。
政府でもGoogleでもMicrosoftでもええねん、誰でもええから、これを自分たちのテーマにしてほしいわ。深く研究せなアカンのや、経済の未来について。後ろ向きに見てたらあかんのや。経済学者はそうやって過去を見て未来を予測しようとするけど、それはここでは役に立たへんのや。
そういう人たちも聞いてくれてるって知ってるから、このエピソードを聞いてくれたらええなと思うわ。誰か何かしてくれ。私らも手伝うで。電話してくれたら何でもするわ。でも私らには、これをするのに必要なお金がないんや。
コメント