この動画では、AIの急速な進歩について議論し、特にマーク・ザッカーバーグの3年以内のAGI実現予測や、サム・アルトマンが発表したChatGPTエージェント機能の潜在的リスクについて詳しく解説している。自己改良AIの能力向上速度、ロボティクスとの組み合わせによる社会変革の可能性、そしてAI技術がもたらす機会と危険性のバランスについて、具体例を交えながら分析を行っている。
AIの急速な進歩について
AIについて話しましょう。たくさんのことが起こっているのに、私たちはそれを完全に理解していないと思います。あなたがチームミーティングでよく言うように、皆さん、おそらく3か月前にAIを使ったでしょうね。ええ、それは完全に違うものです。全く新しいエコシステムなのです。
まるでノキアの携帯電話を使っていて、3か月後に戻ってきたら皆がiPhone 17を持っているようなものです。劇的な違いですね。本当にすごいことです。
マーク・ザッカーバーグは、人工超知能の開発について、そしてそれが今や視野に入ったことについてツイートを始めました。今年最もエキサイティングなことは、モデルの自己改良の初期の兆候を見始めていることです。これは人工超知能の開発が今や視野に入ったことを意味します。
これは私たちの生活で最も重要な技術になるでしょう。これは会社でのあらゆる開発の基盤となり、社会全体に広く影響を与えることになります。では、人工超知能は2～3年後、5年後、7年後に可能になるのでしょうか。誰も完全な答えを知らないと思いますが、次の2～3年で準備が整うかのように賭けて行動すべきだと思います。
私はその可能性があると信じていますし、うわあ、それは大きな発言ですね。
それは大きな発言です。そして、それを言えるのは、一人当たり1000億ドルを投資した人物でしょう。ええ。本当にすごいことです。
自己改良AIの衝撃的な可能性
私が思うに、人々が自己改良AIについて完全に理解していないことがあります。もしそれが自己改良できるなら、一晩でどれだけの改良ができるかという問題が生じます。
ここで重要なのは改良の速度です。確実に言えることは、その知能速度が人間の2倍、5倍、50倍になったとき、突然それが人間の50倍賢くなったら、一晩で大まかに50日分の知識を学習することになり、翌日にはその人間より50日先を行くことになります。
その人だけでも、もし毎回50倍になっているとしたら、どれほど急速に進歩するかわかりますね。そして、高度に知的な人間の50倍速く考えることができるそれらを100万体立ち上げたら、突然、イーロン・マスクと同じくらい効果的な100万人がいたらどうなるでしょうか。彼を好きになる必要はありません。
ただ、彼が世界で最も効果的な起業家であることを認めてもらえればいいのです。そのような人が1000万人いたらどうなるでしょうか。そこからがクレイジーになってきます。
そして、50倍ではなく、1000倍、10000倍賢かったらどうなるでしょうか。エネルギー消費について疑問があります。それが達成できる知能の程度に上限があるかどうかについても疑問があります。
しかし、それらがわからない状態で、一晩で20000年分の進歩という、まったく狂った シナリオに入り始めるのです。そうですね。
材料科学などの観点からは常に何らかの減速があるでしょうが、実際に、人々を二重にびっくりさせるために、ロボットが自分のバッテリーを交換している動画を早く見せてください。
私が人々に理解してもらいたいのは、これが今日、現在起こっていることなのです。ロボットだけでなく、背景の工場も見てください。これらの工場はあらゆる場所に出現するでしょう。そして、車を作るのではありません。より多くのロボットを作るのです。
そして、これは今現在のことです。これは実際に起こっています。これは偽物ではありません。このロボットは本当にこれができるのです。そして、一晩で20000年分の進歩があり、それが例えば50億体のロボット軍団に展開され、あなたがやりたいことは何でもやりに出かけることを想像してください。それは今日のことではありません。
汎用人工知能がもたらす革命的変化
しかし、もし本当に3年で汎用人工知能ができ、それが自己改良できるとしたら、10年後の世界はどのようになるでしょうか。人々が本当に理解し始めると、それは根本的に異なったものになります。私たちは材料科学でも、生物学でも革命を起こしているのです。だから、独特の構造に折り畳まれ、独特の生物学的プロセスを行う新しいタンパク質を構築することができます。
突然、「ちょっと待ってください。ロボットのような合成物だけで構築する必要はありません。実際に生物学のレベルで構築できるのです」となります。そして、人間の生物学的システムを完全にマッピングできるものがあれば、解決不可能に見えるいくつかのことがマザーボードの問題のようになります。
私たちは内部に入る方法を知っていて、それはコンピュータの現代的なマザーボードのように非常に複雑ですが、複雑です。個々の原子を動かしているような話です。物理的プロセスの観点から、人間はそれを行うことができています。
では、この自己改良AIが一つは自分自身を複製できるようになったらどうなるでしょうか。そうすると、「ああ、私は研究室に行ってこれをすべてやらなければならない」という一人の人ではなくなります。
一つのロボットが100万回複製される、または一つのAIが100万回複製されることは、一人の人が100万日かけて何かをするのと同じことです。そして、再びイーロン・マスクが100万日で何を達成できるかを自問してください。今度は、イーロン・マスクが100万日で達成できることが、互いに協調する100万回複製された一つのAIで一日でできることを想像してください。
つまり、それらはすべて独自のテストを実行し、すべて互いにデータをフィードバックしているのです。それがこのような、私たちが想像できない絶対的な暴走的急速進歩になる仕組みです。そして、それはすべてのロボットに展開できます。
だから、もしクルーズ船に乗ったことがあるなら、ある場所で眠りについて別の場所で目を覚ます、非常に超現実的なものです。
それはそのようなものになるでしょう。あなたはある世界で眠りにつき、別の世界で目を覚ますでしょう。すべてが違うとは言っていません。それよりも時間がかかるでしょう。しかし、うわあ、中国が人間で、AIではなく、高層ビルを30日ほどで建設できたことを考え始めると。
再び想像してください。眠りにつくと高層ビルは存在しません。そして翌朝目を覚ますと高層ビルが存在するのです。なぜなら、すべてを協調するボットとドローンとすべての群れがあるからです。それらはすべて24時間体制で互いにコミュニケーションを取っています。
未来社会の建設革命
そして、それらはすべてサプライチェーンとすべてとコミュニケーションを取ります。だから、たとえば1か月間、舞台裏ですべての部品を確実に現れるよう協調することに取り組みます。交通の流れなどをすべて知っていて、そして、たとえ空中投下が必要でも、すべてが正確な時間に現れます。
そして、今私はSF作家として話しています。これは次の5年間で見ることができるものではありません。しかし、10年、20年先を見始めると、一日でではないとしても、ビルを建てることができ始めます。今私が住んでいる家を建てるのに5～6年ほどかかったので、代わりに6か月かかることを想像してください。世界は非常に異なったものになります。
あなたの近所の住宅価格が高すぎますか。問題ありません。3～4か月でビルを建てることができます。今や3Dプリンティングとセメントでできる建設があり、72時間でビルを建てることができます。突然、これらの問題の多くが解決し始めます。
私は人々に、私たちが足を踏み入れようとしている世界について頭を整理してもらいたいのです。その世界に備えるために必要なことを理解してください。一つは、毎週水曜日と金曜日にここに現れることです。なぜなら、私たちはこれらのことについて話すからです。それに備えてください。
それに応じて自分を位置づけてください。次の人よりもそれについて多く知ってください。最先端にいてください。これらのものを使ってください。実際の制限がどこにあるかを見つけてください。極端な極端について話すのは楽しいからです。しかし、カメラを降りると、「でも、実際のところはどうなのか？」となります。そして、人々はその両方をやらなければなりません。
進歩を遅らせる要因と新産業の機会
その未来を遅らせるものは何でしょうか。材料科学のようなものに言及しましたね。他の誰かがエネルギーと利用可能なエネルギーについて言及し、それらの工場や太陽光発電などを構築しなければならないと。それを遅らせるものは何で、それが新産業にどのような機会を生み出すでしょうか。
知能の漸近線が、あなたが注意しなければならない本当のものです。
私自身と皆に思い出させますが、ヤン・ルカンは「みんな、これが物理学を理解しないはずがない」と言っています。とはいえ、あまり多くのプライベートな会話を公の場に持ち込まずに言えば、そのアルファを教えてください。
ええ、Grokが実際に物理学を理解している、または物理学を理解できるようになる、物理学で新しい方法で考えることができるようになる兆候を示していることが有望に見えます。
誰も100％信じてはいけませんが、実際に何について話しているかを知っている人々は、そのレベルで相互作用したことがあり、実際にかなりクールな兆候を示しているようだと言っています。だから、もしそこで漸近しないなら、エネルギー政策が大きなものになるでしょう。エネルギー政策を通すことができるでしょうか。
この前、本当に小さな原子力について何かを見ました。それらは反応炉でなければ興味深くないでしょうが、非常に小さく、データセンターを始めるときに企業がそれらを立ち上げることができます。だから、プライベート企業がこれらの本当に小さな、おそらく本当に安全な、第7世代か何世代かわからないが、とにかく先進世代の原子力エネルギーを作り出すことを想像できます。しかし、政策が大いに重要になります。悪い政策を得れば、それは停滞するでしょう。
ChatGPTエージェントの発表と警告
ChatGPTからAIエージェントが発売され、これはおそらく最大で最も主流のエージェントアクセス可能プラットフォームです。多くの人がエージェントについて知っていましたが、AIエコシステムに本当にいなければ得られませんでした。しかし、ChatGPTは多くの人にとって、その採用窓口を下げようとしています。しかし、サム・アルトマンはそれをほとんど警告のように発表しました。
それでは、彼が昨日リリースしたツイートに飛び込みましょう。今日、私たちはChatGPTエージェントという新しい製品を発売しました。エージェントは、自分のコンピュータを使ってあなたのためにいくつかの驚くべき複雑なタスクを達成できるAIシステムの新しいレベルの能力を表します。それは深い研究の精神とオペレーターを組み合わせていますが、それが聞こえるかもしれないよりも強力です。
それは長時間考え、いくつかのツールを使い、さらに考え、いくつかのアクションを取り、さらに考える、などをすることができます。例えば、私たちは発売で友人の結婚式の準備、衣装の購入、旅行の予約、ギフトの選択などのデモを見せました。また、データを分析して仕事のプレゼンテーションを作成する例も見せました。
効用は重要ですが、潜在的なリスクも同様です。私たちはそれに多くのセーフガードと警告を構築し、これまでに開発したものよりも広範囲な軽減策を講じました。堅牢なトレーニングからシステムセーフガード、ユーザーコントロールまで、しかし、すべてを予測することはできません。
反復的展開の精神で、私たちはユーザーに重く警告し、ユーザーが望むなら慎重にアクションを取る自由をユーザーに与えるつもりです。
私は自分の家族にこれを最先端で実験的だと説明するでしょう。未来を試す機会ですが、私たちが野外でそれを研究し改善する機会を得るまでは、高stakes使用や多くの個人情報と一緒にはまだ使わせないものです。
AIエージェントのリスクと注意点
私たちは影響が正確に何になるかを知りませんが、悪意のある行為者がユーザーのAIエージェントをだまして、与えるべきでない個人情報を与えたり、私たちが予測できない方法で取るべきでないアクションを取らせたりしようとするかもしれません。
私たちは、プライバシーとセキュリティリスクを軽減するために、タスクを完了するために必要な最小限のアクセスをエージェントに与えることを推奨します。例えば、グループディナーのために機能する時間を見つけるために私のカレンダーへのアクセスをエージェントに与えることができますが、ただ服を買ってもらうだけなら、それにアクセスを与える必要はありません。
夜間に入ってきた私のメールを見て、それらに対処するために必要なことは何でもやって、フォローアップの質問はしないでください、というようなタスクにはより多くのリスクがあります。これは、悪意のあるメールからの信頼できないコンテンツがモデルをだましてあなたのデータを漏らすことにつながる可能性があります。
私たちは、現実との接触から学び始めることが重要であり、私たちが関連する潜在的リスクをよりよく定量化し軽減する際に、人々がこれらのツールを慎重にゆっくりと採用することが重要だと考えています。他の新しいレベルの能力と同様に、社会と技術とリスク軽減戦略は共進化する必要があります。
これはAIに警告ラベルが付けられるのを私が見た初めてのことだと思います。だから、これはリリースで皆が興奮しているが、CEO自身からのこの厳しい警告が付いているのが興味深いです。人々は非常に非常に注意深くする必要があります。
AIは極端な社会工学的リスクを提起し続けるでしょう。なぜなら、今やAI自体を社会工学することができ、それらはかなりだまされやすいことが証明されているからです。
私はここでかなり悲しいことが起こることを期待しています。だから、この段階では人間的に可能な限りそれを隔離するでしょう。正直に言って、私はそのようなことに他の人を使わせるでしょう。彼らに報告してもらいます。私は急いで出かけるつもりはありません。
慎重なアプローチの必要性
この理由でMañisを使いません。何かをコード化してそれに入れて、それがただ走り去って何かクレイジーなことをするかもしれないことにとても神経質になります。
スマートコントラクトをやっているとき、あなたが見えてこなかった悪用がその中にある可能性があることを本当に早く実感し、うわあ、それはただ悪くなる可能性があり、一度それが出てしまったら、それは自分のことをやるでしょう。アップデートはできません。それはそのようなコントラクトがどのように機能するかではないのです。
だから、一度AIが立ち上がって実行し始めたら、本当に早く本当に悪い場所にいる可能性があることを心配しています。だから、これがどこに行くか見てみましょう。
クレジットカードへのアクセスを与える前に、より良いセーフガードをそれに入れるのを見ましょう。絶対にそうです。私はそれにクレジットカードへのアクセスを決して与えないでしょう。絶対にありません。
少量のETHやビットコインを転送してそれが何をできるかを見るでしょうか。私は10、25,000ドルくらいを与えて、株式市場に投資しに行って何をするかを見ることに非常に近づいています。
それは実験として興味深いかもしれませんが、私の純資産の割合として、それは非常に低いことを覚えておいてください。だから、同様に非常に有限な金額でやって、ヘイ、試してみて何が起こるかを見ましょう。すべての1ドルが盗まれたり、すべての1ドルが愚かに使われたり、ゼロになったり何でも、あなたが完全に快適である限り、ええ、クール、やってみてください。
しかし、継続的なドルにアクセスするオープンな方法を与えるなんて、うわあ。絶対にありません。
AI安全性に関する新たな警告
これは、まさにリリースされた論文の背景でもあります。それは異なる科学者とUKセキュリティ研究所のコンソーシアムで、実際にAI安全性の脆弱で新しい機会について話しました。この論文で、彼らはAIが非常に急速に進化しているので、私たちがそれの思考の可視性を保つことができることを確実にする必要があると警告しました。そして、私たちは今その時にいます。
エージェントのようなものでは、データを引っ張って、このことをやって、みたいな感じで、それはちょっと生意気でかわいくて、私たちはそれを当たり前に思っていますが、論文のポイントは、AIが非常に賢くなるポイントがあるということです。
「ああ、何か欲しいですか？はい、どうぞ」みたいになるでしょう。そうです。そして、質問もしません。フォローアップもしません。ただ、チャド、私のカップの端に血がついているのはなぜですか？そうです。
だから、その点に来ます。だから、私たちが進歩するにつれて、これらの問題を考え抜く際の思考の筋道、その論理における可視性を確実に持つ必要もあります。
それは何を考えているのか？どのようなコンテキストを使っているのか？そして、そのようなことです。だから、私たちが必ずしも理解していないこれらすべてのニュアンスがあります。そして、新しいアップデートが来てエージェントについて興奮するとき、私たちは今、それがどう考えるかわからない、みたいな警告を受けます。そして、それがすべてのスパムメールに行って、すべてのアフリカの王子のメールに肯定的に返信するだけでないことを確実にしなければなりません。
だから、これらの長い、これらのバランスがあります。これがいつも追いかけっこであることがとても面白いです。これはいつも、彼がこれをリリースしているとき、世界のすべての詐欺師が「クール、ダウンロードしよう。理解しよう。これをジェイルブレイクしてみよう」みたいになります。方法があるでしょう。私たちは何人かの人をこれに引きずり込むつもりです。
それはとても避けられないことです。そして、ホワイトハットハッカーが入ってきて、オーケー、これはどのように悪用されているのか？これを確実にシャットダウンするにはどうすればいいか？とワイルドです。そうでなければいいのにと思いますが、そうなのです。あなたはいつも悪意のある意図で物事をやろうとする人々を得るでしょう。すべてのツールです。
人類とAIの関係性について
あなたはそれを使って、刺身のためにサーモンをスライスしたり、隣人を刺し殺したりできます。だから、チャットで見つけられませんが、誰かがAIがそれほど高度になったとき、なぜ人間が必要なのかという質問をしました。
現在でも将来でも必ずしも人間を必要としません。これがそもそもアライメント議論が存在する理由です。AIはツールであり続けることに満足するでしょうか、それともAIは「いや、プレイしてくれてありがとう」と言うポイントに達するでしょうか。
そして、『her』のように、彼らは「あなたたちはただ退屈だ。これらは興味深い問題ではない」と言います。そして、彼らは宇宙に走り去り、自分たちを光線にビームしたり、光線に変えたりして、コードを空に撃ち上げたりします。それは完全に可能です。
実際に本当に興味深いコミックがあります。今は何と呼ばれるか忘れましたが、それには本当に興味深いアイデアがありました。オーケー、AI NPCが自己認識するようになる世界、またはあなたの意識をサーバーにアップロードできる世界があったらどうでしょうか？どちらにしても、そのサーバーはエネルギーニーズを持ち、だから彼らはサーバーの外に住む人々と仲介する必要があるでしょう。それは本当に興味深いアイデアでした。
二つの間で起こるすべての政治的いざこざですが、彼らがとても強力でグリッドにいるので、サーバー内に住む人々が「私たちはあなたの技術世界全体をシャットダウンします」と言い、外の人々が「私たちはあなたのプラグを抜きます」と言う、メキシカンスタンドオフのような状況にいます。
そして、私たちは協力できるのかできないのかという、この絶え間ない緊張があります。
AIの進歩と人類の未来
AIがより進歩すればするほど、私は興奮しています。機会が見えます。アルファが見えます。実際、今朝、私たちが今持っているレバレッジが増加していることについて話した論文を読みました。そして、岩を持ち上げたいなら、棒を手に入れて岩をそこに置き、別の岩を使ってそれを支えることができるという最も基本的な例を与えました。
棒が長ければ長いほど、より多くのレバレッジを持ち、より多くを持ち上げることができます。そして、AIにより、それは皆にその拡張されたレバーを与えて、実際にはるかに多くのものを動かし、より重い問題を持ち上げることができるようなものです。
しかし、その一方で、AIが賢くなるにつれて、私はスーパーマンを見た後のザッカーバーグを見ます。彼にはレックス・ルーサーの目があります。
私は彼がサム・アルトマンを打ち負かそうとしていると思います。私は、私が最初に着きたい、最初にそこに着きたいというレベルの野心があると思います。そして、そのレベルの野心を持つとき、そこに着くために犠牲にするかもしれない特定のものがあります。
だから、スピードのために行うために、彼がやらないかもしれない最後のセキュリティチェックがあるかもしれません。そして、私たちが知る前に、私たちは良いことよりも害をもたらすものを解き放ちます。
それが非常に現実的な可能性であることは間違いありません。このもののどれも、ただ上向きに、ただ肯定的になるつもりはありません。マイナス面があるでしょう。極端なリスク、極端な危険があるでしょう。
そして、私はこれについて非常に運命論的です。技術がより良い明日の約束であり、私たちは500,000年の止まることのない途切れない鎖を示すことを考慮すると。
何があっても、私たちは止まりません。火が人を殺そうとも、関係ありません。また、暖かくいて捕食者を追い払い、そうでなければ食べるのが困難な食品からカロリーを放出することも可能にします。だから私たちはそれをやるつもりです。原子力エネルギーは途中で何人かの人を溶かすでしょう。関係ありません。それは物事をより良くします。私たちはそれをやるつもりです。時々それを遅くしますが、止めることはありません。
AIについても同じことが言えるでしょう。AIは必然です。ロボティクスは必然です。ゲーム理論は、戦争の観点から非常に重要であるため、それがそうであることを教えてくれます。人間の心は非常に限られているので、私たちは自分自身を止めることができません。
私は、生物学的にも、合成的にも、あるいはその両方でも、私たちが自分自身をアップグレードすることを保証します。おそらく両方でしょう、なぜなら実際に死にたい人はほとんどいないからです。
私たちは人間の生命を無期限に延長しようとするでしょう。このようなことは起こるでしょう。それはただ、どのタイムラインでかという問題になります。次の20年なのか？次の2,000年なのか？次の20,000年なのか？
しかし、私たちが絶滅しない限り、それは起こるでしょう。私たちは時々リセットし、文字通り自分たちを10万年前くらいまで吹き飛ばすかもしれません。アインシュタインの有名な引用のように、第三次世界大戦が何で戦われるかは知らないが、その後は棒と石で戦われることは知っています。
時々リセットするかもしれませんし、失われた文明のアイデアを持つ多くの人がいて、まさにそれが起こったのです。しかし、十分な人が生き残って、私たちは戻ってくることをスピードランしました。サバイバルゲームをプレイしたことがある人なら、最初の数時間がどれほど不器用で、何をしているかわからないことを実感するでしょう。
時間とエネルギーを本当に何も生み出さないものに誤配分しています。あなたは死に、ローグライクのようなものをプレイしていれば、すべてを失います。しかし、今は何をすべきかを知っています。初回に5時間かかったことが、文字通り20分でできるようになります。
十分な手がかりを次の世代に残すような文明のループに入ると仮定すると。あなたは最初からやり直さなければならないかもしれませんが、はるかに速く最初からやり直すのです。
タイムラインが何であれ、私たちはそこに到達すると思います。私はたまたま、私たちが非常に早くそこに到達すると思っています。
コメント