7,743 文字
サム・アルトマンは今日2つの記事を公開しました。1つ目は6語の物語で、2つ目は「リフレクションズ」というもので6語よりもずっと長いものです。どちらがより衝撃的かはわかりませんが、まずは短い方から始めましょう。
サム・アルはツイートしました。「6語の物語を書いてみたかった。こちらです。シンギュラリティの近く、どちら側か不明」。シンギュラリティとは、私たちの技術的進歩が急激に加速する地点のことです。機械知能が人間の知能を超え、進歩を理解し、おそらく制御する私たちの能力が及ばなくなる地点です。
シンギュラリティに入るというこの時点は、人工知能における制御不能な離陸点のようなものです。彼が言う2つの見方とは、2つ目は離陸の決定的瞬間が実際にいつ起きるかを知ることの不可能性ですが、彼はそのような制御不能な離陸点に近づいていることを示唆しているのかもしれません。
シミュレーション仮説に関しては、解釈の余地がありますが、私の見方では、私たちがシミュレーションのどちら側にいるのかを理解できる地点に近づいているということかもしれません。私たちの存在全体が誰か他者によって作られ、シミュレートされてきたことを発見するのでしょうか。そして、この存在を作った誰か、あるいは何かによるシンギュラリティの瞬間に近づいているのでしょうか。言い換えれば、私たちはシンギュラリティを作り出しているのか、それとも誰か他者の実験の中からただ目撃しているだけなのでしょうか。
異なる見方があれば教えてください。皆さんがどう考えているのか興味があります。これは単なる私の解釈ですが、彼は今日もう1つのものを投稿しました。1月5日の「リフレクションズ」です。これは彼の個人ブログsam.altman.comに投稿されたもので、時々重要な投稿を1、2本することがあります。
ChatGPTの2歳の誕生日が1ヶ月ちょっと前に過ぎ、今や私たちは複雑な推論ができる新しいパラダイムのモデルへと移行しました。新年は人々を振り返る気分にさせるものですが、これまでの進み方と、途中で学んだことについての個人的な考えをいくつか共有したいと思います。
AGIに近づくにつれ、私たちの会社の進歩を振り返る重要な時期だと感じています。まだ理解すべきことがたくさんあり、まだわからないことがたくさんあり、まだ初期段階ですが、始めた時よりもずっと多くのことを知っています。
私たちは約9年前にOpenAIを設立しました。それはAGIが可能であり、人類史上最も影響力のある技術になり得ると信じていたからです。私たちはそれをどのように構築し、広く有益なものにするかを理解したいと考えました。私たちは歴史に足跡を残すことに挑戦することに興奮していました。私たちの野心は並外れて高く、その仕事が社会に同じように並外れた利益をもたらすかもしれないという信念も同様でした。
当時、ほとんどの人々は関心を持っていませんでした。関心を持った人々も、主に私たちには成功の見込みがないと思っていたからでした。2022年、OpenAIは静かな研究所で、一時的にChatGPT 3.5と呼ばれるものに取り組んでいました。
彼は「私たちは研究よりもネーミングが下手です」と言っています。私たちはAPIのプレイグラウンド機能を使用する人々を観察し、開発者たちがモデルとの対話を本当に楽しんでいることを知っていました。その体験をデモとして構築することで、人々に未来について重要なことを示し、モデルをより良く、より安全なものにするのに役立つと考えました。最終的に、ありがたいことにChatGPTと呼ぶことにし、2022年11月30日に発表しました。
その日から世界が少し変わったように感じませんか？とにかく、彼は続けます。私たちは抽象的には、ある時点で転換点を迎え、AI革命が始まることを常に知っていました。しかし、それがどの瞬間になるかはわかりませんでした。私たちの驚きとして、それがこのChatGPTの発表だったのです。
ChatGPTの発表は、私たちの会社、業界、そして世界全体で見たことのないような成長曲線を引き起こしました。私たちは finally AIから常に期待していた大きな可能性の一部を目にしています。そして、近い将来さらに多くのことが来ることがわかります。
それは簡単ではありませんでした。道のりは平坦ではなく、正しい選択も明白ではありませんでした。過去2年間で、私たちはこの新しい技術を中心に、ほぼゼロから会社全体を構築しなければなりませんでした。
これに対する訓練方法は、実際にやってみる以外にありません。技術カテゴリーが完全に新しい場合、それがどのようにあるべきかを正確に教えてくれる人は誰もいません。このような高速で、ほとんど訓練なしに会社を立ち上げることは、混沌としたプロセスです。
しばしば前に2歩進んで1歩下がり、時には1歩進んで2歩下がることもあります。進みながら間違いは修正されますが、独創的な仕事をしている時には本当にハンドブックやガイドポストはありません。
ちなみに、私たちが見ている多くの競合他社は、OpenAIのモデル、そのデータを模倣し、蒸留プロセスを行っています。OpenAIは真に独創的な仕事をしており、多くのことのトレンドセッターなのです。
彼は続けます。未知の領域で速度を保つことは信じられないような経験ですが、すべての関係者にとって非常にストレスフルでもあります。衝突と誤解が満ちあふれています。これらの年月は、私の人生でこれまでで最も充実し、楽しく、面白く、疲れ果て、ストレスフルで、特に最後の2年は不愉快な年月でした。
圧倒的な感情は感謝です。いつか私は牧場で引退し、植物が育つのを眺めながら、少し退屈して、子供の頃から夢見ていた仕事ができたことがどれほど素晴らしかったかを振り返ることでしょう。ある金曜日の午後1時までに7つの悪いことが起きた時のことを思い出すようにしています。
1年ちょっと前のある金曜日、その日に起きた主な悪いことは、ビデオ通話で突然解雇されたことでした。明らかに彼らはGoogle Meetを使用していました。これは少し奇妙だと思いましたが、通話が終わるとすぐに、取締役会はそれについてのブログ投稿を公開しました。
私はラスベガスのホテルの部屋にいました。説明することがほとんど不可能な程度に、悪夢のような感じでした。予告もなく公の場で解雇され、本当にクレイジーな数時間と、かなりクレイジーな数日が始まりました。戦争の霧のような部分が最も奇妙でした。何が起こったのか、なぜ起こったのかについて、私たちは誰も満足のいく答えを得ることができませんでした。
それはかなりクレイジーな数日でした。私はそれが起こっている様子をリアルタイムで動画にしていました。OpenAIで何が起きているのかについて、多くの種類のリークや垣間見えるような情報を得ていましたが、それは正気を失うようでした。サンフランシスコの小さなOpenAIビルに、物事を軌道に戻そうとする多くの有力プレイヤーが降りかかってきたからです。そしてその全体の中で、一部のプレイヤーは今日に至るまで、彼らが何を考え、何をしていたのか、あるいは動機が何だったのかを本当に説明していません。
サムは続けます。この出来事全体は、私の意見では、善意の人々による大きなガバナンスの失敗でした。私自身も含めてです。振り返ってみれば、確かに違う方法で物事を行えばよかったと思います。そして、私は1年前よりも今の方が、より良い、より思慮深いリーダーになっていると信じたいです。
また、複雑な課題の管理において、多様な視点と幅広い経験を持つ取締役会の重要性も学びました。良いガバナンスには多くの信頼と信頼性が必要です。私は、多くの人々が協力してOpenAIのためにより強力なガバナンスシステムを構築し、AGIが人類全体に利益をもたらすことを確実にするという私たちの使命を追求できるようにしてくれたことに感謝しています。
私の最大の教訓は、どれほど感謝すべきことがあるか、そしてどれほど多くの人々に感謝の言葉を伝えるべきかということです。この夢を追いかけることを選び、時間と努力を費やしてくれたOpenAIで働くすべての人々に。危機の瞬間を乗り越える手助けをしてくれた友人たちに。私たちを支持し、彼らの成功を可能にすることを信頼してくれたパートナーや顧客に。そして、彼らがどれほど気にかけてくれているかを示してくれた私の人生の人々に。
私たちは皆、より結束力のある前向きな方法で仕事に戻り、それ以来の私たちの集中力を誇りに思っています。私たちは間違いなく、これまでで最高の研究のいくつかを行いました。週間アクティブユーザーは約1億人から3億人以上に成長しました。ChatGPTはもちろん、発表された時点で史上最速で成長したアプリでしたが、それ以来3倍になっているようです。
何よりも、私たちは人々が本当に愛し、実際の問題を解決する技術を世界に送り出し続けています。9年前、私たちは最終的に何になるのか本当にわかりませんでした。今でもある程度しかわかりません。
AI開発には多くの曲がり角があり、将来もさらに多くあると予想しています。喜ばしい曲がり角もあれば、困難な曲がり角もありました。着実な研究の奇跡が起こるのを見るのは楽しく、多くの否定論者が真の信者になりました。
また、同僚の何人かが分かれて競合他社になるのも見てきました。チームは規模が拡大するにつれて入れ替わる傾向があり、OpenAIは本当に急速に拡大しています。これはある程度避けられないと思います。スタートアップは通常、新しい主要な規模レベルごとに多くの入れ替わりを経験し、OpenAIでは数が数ヶ月ごとに桁違いに上がっています。
過去2年は、普通の会社の10年のようでした。会社が急速に成長し進化する時、当然、利害は分かれます。そして、重要な業界のリーダー企業は、特に競争しようとする時、様々な理由で多くの人々から攻撃を受けます。
私たちのビジョンは変わりません。戦術は進化し続けます。例えば、始めた時、私たちは製品会社を構築しなければならないとは全く考えていませんでした。ただ素晴らしい研究をするだけだと思っていました。また、こんなにも途方もない額の資本が必要になるとも考えていませんでした。
数年前には理解していなかった新しいことを今構築しなければならず、将来にはほとんど想像もできない新しいことがあるでしょう。私たちはこれまでの研究と展開の実績を誇りに思っており、安全性と利益共有についての考えを前進させることに引き続き取り組んでいます。
私たちは、AIシステムを安全にする最良の方法は、それを段階的に世界に公開し、社会が技術に適応し共進化する時間を与え、経験から学び、技術をより安全にし続けることだと引き続き信じています。私たちは安全性とアライメント研究の世界的リーダーであることの重要性と、その研究を実世界アプリケーションからのフィードバックで導くことを信じています。
私たちは今、伝統的に理解されてきたAGIをどのように構築するかを確信しています。この一文は今後数日、数週間の間によく引用されることになるでしょう。
彼は続けます。2025年には、最初のAIエージェントが世界の労働力に加わり、企業のアウトプットを実質的に変えることを私たちは信じています。素晴らしいツールを段階的に人々の手に渡すことが、広く分散された素晴らしい結果につながると引き続き信じています。
注目すべきは、2025年にAIエージェントが仕事に就き、労働力に加わり、現実世界に影響を与えることが今年来るということです。私たちはその先を目指し始めています。真の意味でのスーパーインテリジェンスへと。私たちは現在の製品を愛していますが、私たちはスーパーインテリジェンスによる輝かしい未来のためにここにいるのです。
スーパーインテリジェンスのツールは、私たちが自力でできることをはるかに超えて、科学的発見とイノベーションを大きく加速させることができます。そして今度は、豊かさと繁栄を大きく増加させることができます。
ちなみに、業界の内部関係者の何人かが同じようなことを言っています。スーパーインテリジェンスという言葉がますます頻繁に登場するようになってきています。9年前、10年前にOpenAIが設立され、AGIを構築すると言った時、人々は公然と嘲笑していたことを覚えておいてください。彼らは笑い、それは馬鹿げたことだと言いました。サム・アルトマンとチームを笑っていましたが、今では誰も笑っていません。
サム・アルトマンの言葉を引用すると、そういう話です。だから彼がスーパーインテリジェンスが数千日、何千日かの内に来るかもしれないと言う時、まだ嘲笑う人もいるかもしれませんが、私たち残りの人々にとっては、彼はおそらく冗談を言っているわけではないと思います。
そして彼は続けます。これは今のところSFのように聞こえ、話すこと自体がいささか狂気じみています。それでいいのです。私たちは以前もそこにいましたし、また同じ立場にいることは問題ありません。私たちは、数年以内に誰もが私たちの見ているものを見ることになり、私たちの仕事の可能性を考えると、利益と権限の最大化を追求しながらも大きな注意を払って行動する必要性がいかに重要かということを、かなり確信しています。
OpenAIは普通の会社になることはできません。この仕事に貢献できることは、なんて幸運で謙虚な気持ちにさせられることでしょう。Josh Tyrangielに感謝します。もっと時間があればよかったのですが。
多くの人々への感謝の言葉で締めくくられていますが、その部分は省略します。リンクは下に貼っておきますので、読みたい方はどうぞ。
さて、重要なポイントをまとめると、彼らはAGIの構築方法を知っています。AIを構築中か、AIを構築することになるか、あるいはすでに内部的に持っているかのいずれかです。重要なのは、その到達点を私たちは今通過しているか、彼らの定義するAIとAGIのレベル1において、まもなく通過することになるということです。
チャットボットはレベル1のAIです。つまりChatGPTはレベル1でした。レベル2は推論を行うもので、それが新しいo1 o3モデルで見られるものです。裏で行われている思考の連鎖などがそうです。それらが推論者であるレベル2です。
レベル3はAIエージェントです。つまり、意味のある仕事をし、コンピュータと対話し、長期的な目標を追求し、長期的な計画を立て、特定の課題に直面した時にそれを回避する方法を見つけ出し、アプローチを適応させるなどができるAIエージェントです。
2024年はレベル2に到達した年でした。彼は2025年にはレベル3を見ることになると言っています。実際のAIエージェントが現実世界で実際の仕事をするということです。この時点で、賢明な賭けはそれが起こるだろうということです。何かに賭けるとしたら、最初のAIエージェントが労働力に加わることに賭けます。私はそれに賭けることはないでしょう。
そしてもちろん、レベル4は革新者AIです。科学的発見やイノベーションを加速させることができるAIです。GPT-4で、ロボットの報酬関数のトレーニングや翼型の形状の最適化など、特定のプロセスを改善・最適化できる例をすでに見てきました。
しかし、状況認識に関する論文が非常によく説明していたように、AI研究がAI自身によってより適切に行われるようになる時点がまもなく来るでしょう。つまり、私たちよりも速く自己改善を行うようになり、それがシンギュラリティの始まりというアイデアです。
機械知能が人間の知能よりも賢くなり、それが自己改善を始め、科学的発見を行い、私たちの宇宙に関する知識を前進させ始める地点です。もちろん、そのようなAI研究者の1つの例を持つことができれば、それを複製することもできます。コピー＆ペーストです。100万個持つことができます。
そのうちの1つが新しいプロセスや改善を学ぶたびに、それが他のすべてに広がります。アシュン・ブレンの論文「状況認識」は、なぜある種の離陸点に達するとこのような上昇軌道に入るのかを本当によく説明しています。レベル4、つまりAI革新者のレベルに達した時点で、私たちはその上昇軌道に入り、どこかでシンギュラリティが始まります。
もちろん、まだ信じない人もいて、これはただのハイプだと言うかもしれません。しかし、これまでのところ、彼は予測を立て、それを的中させてきました。数週間前、サム・アルトマンは彼らがArcAGI、つまり人間レベルのベンチマークを破った可能性があることを示唆しました。
皆さんの意見を聞いたところ、コメント欄では意見が分かれました。破ったと言う人もいれば、そうでないと言う人もいました。そして数週間前、公式には破っていないことがわかりましたが、o3モデルを使用し、公式ルールが要求するよりもはるかに多い、少なくともより多くの計算リソースを使用して、人間のベンチマークを破ったことがわかりました。
この時点で、もし私が賭ける人間なら、2025年にAIエージェントを見ることに賭けます。ちなみに、そのAGIのレベル5は、基本的に組織全体を運営できるAIです。マイクロソフトのようなものがAI CEOと配下のAIワーカーによって完全に管理されることを想像してください。あるいはおそらく、政府全体がAIによって統治されることも。
しかし、皆さんはどう思いますか？興奮していますか？少し不安ですか？もし少しも不安を感じないのなら、彼が言っていることを理解していないと思います。AGIとASIは、人類が作る必要のある最後の発明かもしれません。それは他のすべてのことを解き放つものかもしれません。
そして、あなたと私は、それが起こるのを自宅の快適な環境からリアルタイムで目撃しています。これを構築している人々が、このシンギュラリティ、スーパーインテリジェンス、離陸点にどれだけ近づいているかについて、ツイッターで更新情報を提供しているのを見ています。そして私たちは「やった！それが好きだ！」と言うことができます。
つまり、あらゆる確率に反して、人類史上最も興奮する出来事がここにあり、私たちはそれをリアルタイムで目撃しているのです。それはたまたま私たちの人生の時代に、私たちが目撃している時に起こったのです。あるいは、私たちはシミュレーションの中に生きていて、すべてが計画通りに展開しているのかもしれません。
しかし、いずれにせよ「シンギュラリティの近く、どちら側か不明」なのです。
ここまで見ていただき、ありがとうございました。私の名前はWes Rothです。また会いましょう。
コメント