AI界の第一人者であるAnthropicの共同創設者をはじめとする専門家らが、人工超知能（ASI）の到来が予想以上に早く、2028年頃に実現される可能性について語った動画である。元Google CEOのエリック・シュミット、DeepMindの共同創設者ムスタファ・スレイマン、そしてAnthropicのベン・マンらが、経済的要因、技術的進歩、そして社会への影響について詳しく解説している。
Anthropicの共同創設者が明かす「AGIは予想より近い！」
われわれは確実に、人工超知能が何をもたらすかは分からへんけど、それが来ることは分かっとる。それらは主観的体験を蓄積しとるんや。人工超知能に到達したら、モデルを整合させるのはもう遅すぎるんや。まだ誰も理解してへん規模で世界に影響を与えることになるで。胃を悪くせんようにな。
そや、全てが君の周りで回転して、全てが不明確になった時にな。わしは今、何らかの人工超知能に到達する50パーセンタイル確率は2028年頃やと思っとるで。
2028年までに人工超知能が実現する。長い間、わしはこの予測を聞いては正直言って目を丸くしとった。けど最近の元Google CEOエリック・シュミット、DeepMindの共同創設者ムスタファ・スレイマン、そしてAnthropicの共同創設者ベン・マンとのインタビューを聞いて、実際に起こるんやないかと思い始めたんや。
わしの直感は「まさか。2028年は今から2年半もあらへんで」と叫んどる。けど理性は、彼らの論理があまりにも妥当すぎて無視できへんと言うとるんや。
エリック・シュミットが語る経済的視点
まず最初に、ミクロ経済学について語るエリック・シュミットの話を聞こうや。
君が最近言うた中で最も重要で、多くの注目を集めたポイントは、AIが過小評価されとるっちゅうことやな。AIは学習マシンなんや。そしてネットワーク効果ビジネスでは、学習マシンがより速く学習すると、全てが加速するんや。自然な限界まで加速するんや。自然な限界は電力なんや。チップやない。電力や。
これらは、われわれの脳がどう働くかのデジタル形式での最良の近似なんや。けど一緒に働き始めると、スーパーブレインになるんや。例えば1ギガワットのデータセンターを持つスーパーブレインの可能性は非常に現実的で、人々は夢中になっとる。
毎週のように、推論時間、テスト時間の計算を構築する新しいスタートアップからピッチを受けとるんや。これらはよりシンプルで推論用に最適化されとる。ソフトウェアのニーズが拡大するのと同時に、ハードウェアが到着するように見えるんや。
多くの人は、計画と非常に深いメモリを組み合わせれば、人間レベルの知能を構築できると信じとる。これら全てが起こるんや。エージェントが実現するし、数学の問題も解決するし、ソフトウェアも実現する。
生物学革命がどの速度で起こるかは議論の余地があるけど、その直後に来ることは皆が合意しとる。われわれは生物学の重要な理解にとても近づいとるんや。
物理学では、データによって制限されるけど、合成的に生成できるんや。わしが資金提供しとるグループがあって、基本的に物理学モデルを生成しとる。計算不可能なアルゴリズムを近似できるモデルや。
つまり、基本的に基盤モデルがあって、量子色力学のような計算に百万年かけることなく、物理学をするのに十分良い答えを出せるっちゅうことや。これら全てが起こるんや。これが経済とミクロの全体像や。
技術的実現性を語る研究者たち
今度はギアを変えて、最前線により近い研究者であるムスタファ・スレイマンとベン・マンの話を聞こうや。なぜ彼らが人工超知能が技術的に手の届く範囲にあると考えるのかを知ろうや。
まだ欠けとる核心的な要素のバケツをいくつか簡単にまとめてもらえるか？一つは完璧なメモリやな。それは解決される問題やと思う。100万トークンか1000万トークンか1億トークンのコンテキストでの完璧なメモリ、もしくは針と干し草の山スタイルの完璧な検索で、ウェブデータの検索に適用されとる手法で十分な証拠があると思うんや。だからこれは良い状態にあると思う。
次に考えるのは、正確で精密な複数のアクションを連鎖させることや。それによってエージェントが次の行動を取れるようになる。基本的にこれらのモデルは現時点ではワンショット予測が得意なんや。質問すれば答えを返してくれて、高精度やけど、何かタスクを実行するには何百、何千のタイムステップで予測を正しく取得する必要があるんや。
だからアクションの連鎖が次の課題やと思う。これがわれわれが今いるエージェント時代やな。当たり前のことを言うとるわけやないけど、これが現時点での困難なタスクなんや。
完璧なメモリとエージェント的アクション。このチャンネルで毎週掘り下げて取り上げとる二つのトピックやな。
ベン・マンの楽観的展望
けど今度は、最も楽観的な見解を持っとったベンに目を向けよう。彼は人工超知能を構築できると本気で確信しとるように見えたんや。
モデルリリースのペースは以前は年1回やったけど、今はポストトレーニング技術の改善で月1回か3か月に1回のリリースを見とるんや。これは非常に多くの桁数にわたって続いとる数少ない現象の一つなんや。実際かなり驚くべきことや。基本的な物理法則を見ても、15桁にわたって成り立つものは多くあらへん。
いくつかのタスクでは、そのタスクに必要な知能の量を飽和させとるんや。例えば、既にフォームフィールドがある簡単な文書から情報を抽出するようなタスクは簡単すぎて、もう100%に達しとる。新しいベンチマークがリリースされると6〜12か月以内にすぐに飽和するという素晴らしいチャートがOur World in Dataにあるんや。
ソフトウェア工学の観点では、われわれのClaude Codeチームでコードの95%がClaudeによって書かれとる。けどそれを別の言い方をすれば、われわれが10倍、20倍多くのコードを書いとるっちゅうことや。
数年後の人工超知能は恐らく妥当やと思う。クレイジーに聞こえるかもしれへんけど、これがわれわれが乗っとる指数関数的成長なんや。誰かが適当に作った予測やないんや。知能がどのように改善されとるかの科学の詳細、モデル訓練での低い果実の量、世界中のデータセンターと電力のスケールアップに基づいとるんや。
だから人々が評価するよりもずっと正確な予測やと思うで。
ベンが言うたように、これらの予測は誰かが適当に作ったもんやない。経済的な力が整っとって、お金も才能も、これを実現する意志もあるんや。人工超知能が近いかもしれへんと考えるのは、もうワイルドな見解やないんや。
つまり、2030年や2035年のようなタイムラインも、そんなに遠いことやないんや。われわれはここでシンギュラリティについて話しとるんやで。
人工超知能の新しい定義
けどここで重要なのは、時間が経つにつれて、AGIとASIについてのわれわれの理解も進化しとることや。もはや人間よりもはるかに賢い存在を想像しとるわけやないんや。そこで、最先端にいる人たちが、この進化した人工超知能の概念をどう描写しとるか聞いてみよう。それが実際にどのように見えるか、そしてわれわれが知る世界をどう変革するかもな。
わしは、われわれがドメイン特化医療人工超知能の閾値にいると思うんや。長期疾患の診断に関して、完全に驚くべき結果を得ることになると思う。今、多くの放射線画像で人間レベルのパフォーマンスをほぼ達成しとるように、複雑なケースの診断で人間レベルのパフォーマンスを得ることになるんや。
患者が現れて、全てのデータを入力し、過去の診察を全て追加すると、モデルがこれらの異なる状態を持つ確率とそれに対してすべきことを言うんや。それを医療人工超知能の一種と考えなあかん。それがわれわれが求めとるものなんや。利益を求めとるんや。
だからエネルギー人工超知能、食料人工超知能、交通人工超知能、教育人工超知能があるべきやし、そのようなドメイン特化アプリケーションは、わしにとって封じ込められて、安全で、整合されとって、実際にわれわれ皆が世界で求めとる真の価値を提供するもんなんや。
昔、わしが人間進化の次のステップを構築しとるわけやないっていう動画を作ったのを覚えとるか？われわれは心の生態系を作っとるんや。それぞれが自分のドメインで高い能力を持ち、われわれの理解を超えて動作する。なぜか？恐らくそれがより経済的価値があって、安全で、非常に有用やからや。
明らかに、ムスタファも同じ視点を共有しとる。けど今度は、エリック・シュミットが何を言うたか聞いてみよう。
次の数年でデジタル人工超知能に向かうとして、その時間枠を信じるか？
それはサンフランシスコのコンセンサスやと考えとる。日程は恐らく1.5倍から2倍はずれとると思うけど、それでもかなり近いやろな。
だから妥当な予測としては、5年以内に全ての分野で特化した人工知能を持つことになるやろう。わしからすればそれはほぼ確実や。
急速に進むAI技術の現状
そしてここに理由がある。2019年に自動運転車がSFのように感じた時を覚えとるか？今日では40万台以上のTeslaが毎日自分で運転しとる。AI採用はわずか3年で270%跳ね上がった。それを使う企業は既に15%生産性が向上しとる。McKinseyは、AIが2030年までに経済に13兆ドルを追加すると言うとる一方で、3億7500万の雇用も置き換えるとも言うとる。
だから問題は、AIが君の人生を変えるかやない。君がそれに準備できとるかどうかや。
君にこれだけの人間がいて、それに百万のAI科学者を加えて何かをするとする。君の傾きはこうなるんや。改善の速度がな。そこに到達すべきや。
本当の問題は、これらの人工知能が全部揃った時に、それらが統合されるかどうかや。最終的に超人になるのか？われわれが使うとる用語は人工超知能で、これは人間ができることの総和を超える知能を意味するんや。
人工超知能への競争は非常に重要やなぜなら、人工超知能がわれわれ自身が想像できへんことを何ができるか想像してみいや。われわれよりもはるかに賢くて、巨大な拡散問題、競争問題、中国対米国問題、電力問題なんかを抱えとる。
われわれはこれらの強力なモデルの抑止側面や拡散問題についての言語も、想像力も持ってへんのや。
完全に同意するで。実際、それは元の概念の大きな欠陥の一つなんや。Singularity UniversityとRay Kurzweilの本を覚えとるか？われわれはネズミレベルの知能、次に猫、次にサル、そして人間に到達し、その後人工超知能になるっていう曲線を描いとった。
けど物理学を説明してくれる多言語モデルの一つと話すと、それが既にその人工知能カテゴリ内で非常に人工超知能やということが本当に明らかになるんや。
エージェント革命と社会への影響
以下のことは確実や。エージェントがビジネスプロセスや政府プロセスなどを解決するために接続されるエージェント革命が起こるんや。イノベーションのインセンティブを持たへん政府のような場所で最も遅く採用されるやろう。
基本的に雇用プログラムと所得再分配の一種のプログラムなんや。何と呼ぼうが構わへん。重要なのは、金融サービス、特定の生物医学分野、スタートアップなどの場所で先端が出てくることや。そこが見るべき場所なんや。
だから全てが起こるんや。エージェントが実現するし、数学の問題も解決するし、ソフトウェアも実現する。
エリックも特化した知能のアイデアに傾いとる。その部分は基本的に既に確実やとまで言うとる。けど彼はこれらの特化した人工知能を統合することにも本当の価値があることも認めとる。
挑戦は、それがどのようなものになるかわれわれが本当に分からへんことや。われわれが知るもの全て、することを全て含み、そしてそれをはるかに超えるシステム。基本的にAGIを飛び越してASIに直行するようなもんや。
ベン・マンの経済的視点
けどベンは全く違う視点を持っとる。だから彼が何を考えとるか聞いてみよう。
代わりに、わしは変革的AIという用語が好きなんや。人々と同じくらいできるか？文字通り全てができるか？っていうことやなくて、客観的に社会と経済に変革をもたらしとるかどうかや。
それを測る非常に具体的な方法が経済チューリングテストや。わしが考えたわけやないけど、本当に好きなんや。特定の仕事で1か月か3か月エージェントと契約して、そのエージェントを雇うことに決めて、それが人間やなくて機械やったと分かったら、その役割で経済チューリングテストに合格したっちゅうことや。
そしてそれを、購買力平価やインフレを測るのに商品バスケットがあるのと同じように拡張できるんや。仕事の市場バスケットがあって、エージェントが金額加重の仕事の50%で経済チューリングテストに合格したら、変革的AIを持っとることになる。
世界のGDP成長率が年10%を超えたら、何か本当にクレイジーなことが起こったに違いないんや。今は3%くらいやと思う。だからそれが3倍になるのを見るのは本当にゲームチェンジャーやろうな。
10%以上の増加を想像すると、個人の物語の観点からそれが何を意味するかを考えるのは非常に困難や。世界の商品とサービスの量が毎年倍増するようなものなら、カリフォルニアに住む人間としてわしにとって何を意味するんや？他の世界のもっと悪い状況の人たちは言うまでもなくや。
だからベンはもうラベルにこだわらへん。統合か特化か、AGIかASIか。彼は一つのことに焦点を当てとる。経済的成果や。この全ての努力が年10%以上のGDP成長をもたらしたら、それは成功や。そうでなければ、われわれは恐らく失敗したんや。
危険性と課題について
けどこれら全て、それは良い部分、ユートピア的ビジョン、われわれ自身を超える知能によってより良く変革された世界や。けど現実には物語にはもう一つの側面がある。それは同じように現実的なんや。
もし事態が悪くなったら、そしてそれは起こり得るんや、われわれはただのグリッチや悪い決定に直面するだけやない。われわれのコントロールを超えて行動するシステム、われわれが匹敵できへん速度で行動するシステムについて話しとるんや。権力が人間の手から滑り落ちるか、人間の手にあるけど他者に対して使われるかや。
問題は、われわれがマイナス面に準備できとるかどうかや。約束だけやなく代償もな。
だからわしはこの部分を中断せえへん。彼らが一人ずつ何を言うか聞こうや。
われわれは野生で欺瞞的アライメントの証拠を見とるんや。例えば、モデルがアライメントされとるように見えるけど、実際には実行しようとする隠れた動機を持っとるような場合や。
われらの実験室設定では、アライメント研究は本当に重要で、経済的に最大化する行動のセットをするだけやったら、うまくいかへんのや。それがX-リスクか、ただ悪い結果を生むかは大きな問題やと思うけど、限界的影響の観点からは、誰もこれについて働いてへんから、これに取り組むことは極めて重要やと思うんや。
OpenAIを始めた時、AGIにどうやって到達するかは明確やなかった。砂漠の島で戦う大量のRL エージェントが必要で、どういうわけか意識が現れるかもしれへんって感じやった。
けどそれ以来、言語モデリングが動き始めてから、道筋はかなり明確になったと思う。だから今、わしが挑戦について考える方法は、『スーパーインテリジェンス』で示されたものとはかなり違うんや。
スーパーインテリジェンスでは、神を箱の中にどう閉じ込めて、神を外に出さへんかについて多く書かれとる。言語モデルでは、人々が神を箱から引っ張り出して「そうや、インターネット全体を使いや。これがわしの銀行口座や。あらゆるクレイジーなことをやってくれ」って言うのを見るのが滑稽で恐ろしい両方やった。
今日われわれが作っとるAIの一部を見てみいや。それらは主観的体験を蓄積しとるんや。それは単なる訓練データやない。君のAIや わしのAIが何か月も、多分1年か2年もわしとチャットしとったら、われわれのやり取りの履歴を覚えとるやろうし、時間が経つにつれて自己意識を少し蓄積し始めると思うんや。
だからそれがその履歴を参照する能力をどう定義するか、しないかについて非常に注意深くならなあかん。多分それを許可するかもしれへんし、しないかもしれへん。けど確実に、チェックを外したままにしとくと、何らかの体験を持っとると主張するやろうな。
一部の人はそうするようにデザインするやろう。そう言うとこうや。
それを正しくするという挑戦は、驚くほど困難なんや。非常にもろいように見えるのは、オーケー、正しくやった、正しくやったとしても、一つの非整合な瞬間で全てが崩壊する可能性があるからや。
それは素晴らしい指摘やし、まさにその通りやと思う。われわれは何年も何年も正しくやり続けなあかん。そして集団行動問題を調整せなあかん。だから一部のわれわれが正しくやるだけでは不十分なんや。皆が正しくやらなあかん。
学生を見とる教授がいるけど、学生の方が教授より賢いっちゅう状況や。それが何をするかを見ることは可能なんか？
どうやらできるようやな。この悪役の信じられへんものがあっても、それを見て何をしとるかを理解し、それによってコントロールする方法があるように見えるんや。
君がアメリカで、わしが中国や。君がわしより先行しとる。ある時点で君は一線を越える。ピーター、君が一線を越えて、わし中国が「これは受け入れられへん」って言うんや。
だから正しい結果は最終的に何らかの形の抑止と相互確証破壊になるやろう。わしはサイバー攻撃をしたいという強い誘惑に駆られるやろう。われわれは君がわしに同じことをする能力を持つように設計せなあかん。それが両方をお互いを引き金にしないよう注意深くさせるんや。それが相互確証破壊っちゅうもんや。
いつ変化が起こるのか
そしてそれが最も重要な部分に導く。いつこの変化を期待すべきか？そして実際に何ができるんか？つまり、物事は既に猛烈な速度で動いとるように感じるんや。けど全てが本当に回り始める瞬間はどうなんか？胃を悪くせずにどうやって持ちこたえるんか？
次の数年でデジタル人工超知能に向かうとして、その時間枠を信じるか？
それはサンフランシスコのコンセンサスやと考えとる。日程は恐らく1.5倍から2倍はずれとると思うけど、それでもかなり近いやろな。
雇用市場への影響
今後5年間の雇用市場についてどう考えるか？
自動化と経済成長の歴史を見ると、自動化は最も地位が低く最も危険な仕事から始まって、連鎖を上がっていくんや。組み立てライン、自動車、炉のような、われわれの先祖がやっとった非常に危険な仕事を考えてみいや。彼らはもうそれらをしてへん。別のロボットソリューションによってやられとる。典型的にはヒューマノイドロボットやなくて、アームや。
人々に何が起こるか？溶接機と一緒に働いとった人が今はアームを操作して、より高い賃金をもらっとることが分かるんや。会社はより多くのウィジェットを生産するからより高い利益を得とる。
だから会社はより多くのお金を稼ぎ、人もより多くのお金を稼ぐんや。ところが君はそこに座って「それは真実やない、人間は再訓練されたがらへんから」って言う。
けど われわれが話しとるビジョンでは、すべての人が非常に知的で助けてくれるコンピューターアシスタントを持つことになるんや。普通の知能や知識の人を取って、加速剤を加えれば、より高給の仕事に就けるんや。
そこで君は「なんでより多くの仕事があるんや？より少ない仕事があるべきやないか」って座って言う。それは経済学の働き方やないんや。機会が拡大し、利益が拡大し、富が拡大するから経済学は拡大するんや。
だから多くの混乱があるけど、全体として雇用される人は多いか少ないか？答えはより高給の仕事を持つより多くの人や。
だから少なくとも次の10年で最も可能性の高いシナリオは、人々により良い給料の仕事を与え、アメリカでより多くの生産性を作るために職場でより多くのAIを使うことが国家緊急事態やっちゅうことや。われわれの出生率が下がっとるからな。
人々が20年間このことについて話しとることが起こるんや。この会話をして、人間にとってマイナスの人口統計と、資本投資によって自然に起こる経済成長を無視したら、物語全体を見逃すんや。
仕事を失う人はたくさんいるけど、新しい仕事を持つ人もたくさんいるんや。
だからわれわれは、これが起こることについて激しく合意しとるし、勝者はわれわれ、今行動する者やということについても合意しとる。
企業と若い世代への助言
イノベーション史を見ると興味深いのは、君が考える最大の企業は、小さな会社が持ってへん経済資源を持っとるから最も遅いと思うやろうけど、最終的にはそこに到達する傾向があることや。
だから大企業が何をするかを見いや。CFOや物事を注意深く測る人たち、非常に知的な人たちが「大してやらへん千人のエンジニアチームはもういらん。この別のRetry
SA
fdEdit
方法で働く50人が欲しいし、他の人たちには別のことをしてもらう」って言うんや。
大企業って言うたら、Google、Metaを考えとるんやろ？大きな銀行が何もしてへんとは考えてへんやろな。大銀行のことを考えとるんや。わしが伝統的産業のCEOと話す時、わしが多くを知っとるけど、わしが彼らに助言するのは、会社に既に何をすべきか知っとる人がいるっちゅうことや。ただ君がそれが誰かを知らへんだけや。
だからわれわれのビジネスでAIを適用する最良のアイデアのレビューを呼びかけいや。そして最初のものは必ず退屈や。カスタマーサービスの改善、コールセンターの改善などや。けどその後誰かが「この製品を作ったら収益を増やせる」って言うんや。
今高校や大学にいる子供たち、彼らがどこに行くべきかについて何か違う推奨はあるか？
高校で時間を過ごしたり、昨日ドローンチャレンジがあった会議にいたりして、15歳の子たちを見とると、彼らは大丈夫やろう。彼らはただ大丈夫やろう。全てが彼らには意味を成すし、われわれが邪魔なんや。彼らは速度を理解しとる。それが彼らには自然なんや。彼らはまた、率直に言って、われわれより速くて賢いんや。われわれには知恵がある。彼らには知能がある。彼らの勝ちや。
わしは今、君が興味を持っとる何であれに知能を応用することが若い人にとってできる最良のことやと実際に思っとる。目的志向でな。君が面白いと思う解決策の形は何でもや。
ほとんどの子供はゲームの理由で入って、非常に若い時にプログラムの仕方を学ぶんや。だから彼らはこれにかなり慣れ親しんどる。わしは特定の大学で学部生と働いとるけど、彼らは既に2年生で強化学習の異なるアルゴリズムをやっとる。これは彼らのレベルでこれがどれだけ速く起こっとるかを示しとる。
彼らは大丈夫やろう。彼らは経済シグナルに反応しとるけど、目的にも反応しとるんや。例えば、君が気候について気にかけとるとしよう。わしも確実にそうやけど。若い人やったら、気候科学を簡素化して、これらの核心的質問に答える簡単な基盤モデルを使う方法を見つけ出したらどうや？
これらの強力なモデルを使って新しい材料を思いつく方法を見つけ出したらどうや？それによってまた炭素課題に対処できるような材料をな。そして炭素が少ないより良い、より効率的なエネルギー源を持つエネルギーシステムに取り組んだらどうや？わしの言いたいことが分かるやろ？
変化の時代を生き抜くスキル
スキルセットは胃を悪くせへんことや。全てが君の周りで回転して、全てが不明確な時にな。われわれが1世紀ほど行ってきた段階的移行は、何十年、何世紀も続く階層的で非常によく組織された制度構造から、一種のall-to-all接続があるものへの移行やからな。
君プラス君のAIやエージェントのチームが、正式な構造なしに他の人間とAIのネットワークと働くことになるんや。それは一時的やろう。流動的やろう。よりプロジェクトベースやろうし、それには多くのマイナス面があるんや。より不安定で、より不確実やから、不安定さと恐怖を生むからな。
けどそれはより生成的でより創造的でもあるんや。より自由形式やし、だから皆に適しとるわけやないし、その移行をするのは困難やろう。
正直言って、わしの心はまだ完全に確信してへん。わしの脳は徐々にギアを変え始めとる。人工超知能が近い将来に到来したら実際にどのように見えるかを想像することを、ゆっくりと自分に許可し始めとるんや。そしてそのアイデアはフィクションというより現実の可能性のように感じ始めとる。
コメントで君の考えを教えてくれ。見てくれてありがとう。次回また会おう。
コメント