5,251 文字
また一人のOpenAIの安全性研究者が去りましたわ。マイルズ・ブランデージ氏は、OpenAIで6年もの間、政策研究部門の責任者を務め、その後AGI対応の上級アドバイザーに就任しましたんやけど、2024年10月に公にOpenAIを去って、その理由についてSubstackで記事を書いてはりました。
OpenAIを去った人は多いんですわ。特に研究開発と安全性チームのほとんど全員が会社を去ったように見えます。一体何が起こってるんでしょう？確かに、人が会社を去るのは日常茶飯事やと思います。大手テック企業ではよくあることやと。でも、ちょっと待ってください。AGI対応の上級職に就いていた人物が、6年も在籍した後に公に退社するというのは、話し合う価値のあることちゃいますか。
彼はOpenAIを去った多くの一人なんです。イリヤ・サツケヴァー氏やミーラ・マラティ氏など、OpenAIを去った多くの人々が公に表明した内容には共通点があって、もはやOpenAIでは有意義な仕事ができないと考えているように見えます。
そこで彼らは去るんです。OpenAIのトップブレインの一人であるイリヤ氏のように、独自の道を歩み始める人もおります。イリヤ氏が退社した後、Safe Superintelligenceという会社を立ち上げ、安全なAGIシステムの開発という単一のミッションのもと、すでに10億ドルの資金調達に成功してはります。
OpenAIの最も優秀な頭脳の持ち主の一人が、今年初めに会社を去って独自の安全性チームを立ち上げ、安全なAGIという考えの研究と管理に専念しているわけです。AGIは何世紀も先の話でもなければ、何十年も先の話でもありません。2029年までには、もしかしたらそれより早く、何らかの形で実現するでしょう。
これはもはやSFの概念ではありません。人間ができることは何でもできる機械を作り出す寸前なんです。人間の行動を再現しました。それがロボット工学であり、ヒューマノイドであり、自動運転です。そして人間の知能、推論能力、ニューラルネット、つまり私たちの心の働きも再現しました。
これが実際に何を意味するのか理解すれば、AGIという地平線に到達するのは、単に指数関数を組み合わせる性質のものだとわかります。ジェフリー・ヒントン氏が言うように、産業革命で人間の力が無関係になったように、今や技術の時代、つまりAGIの時代では、人間の知能が無関係になりつつあるんです。ヒントン氏は2023年5月にGoogleを退社し、私たちに迫りつつある極端な危険性について自由に語れるようになりました。
超知能AIの危険性は、誰が舵を取り、どんな本質的な動機を持っているかにあります。もちろん、AGIは権力者を超越する可能性がありますが、結局のところ、超知能が人類に与える影響が良いものになるか悪いものになるかは、その背後にいる人物とその動機次第なんです。そして私が申し上げたいのは、私たちが適応し、戦略を立て、新しい経済パラダイムについて頭を寄せ合い、これがいかに素晴らしいものになり得るかという可能性に心を開けば、AGIのユートピアを実現できるということです。
確かに信じられないほどの危険はありますが、同時に世界の歴史上最高の健康、豊かさ、資源の基準を実現する可能性もあるんです。これは私たちが上手く導いていけるものだと思います。では本題に戻りましょう。マイルズ・ブランデージ氏のOpenAIのAGI対応上級アドバイザーとしての退社についてです。
彼はSubstackで、自分が成し遂げようとしたことの多くを達成したと述べ、それが退社の一つの理由だと説明しており、その点では自然な別れに見えます。しかし彼はまた、より多くの自由を求めていると指摘しました。発言や出版における独立性を求めているんです。これも大手テック企業では典型的なことです。
レッドテープがあり、発言できることを制限する編集ガイドラインがあるものです。彼はまた、OpenAIの内部にいると、自然と発言に偏りが生じるという考えについても語りました。そして、OpenAIのような大手テック企業の影響を受けた業界から出てくる政策アイデアを、一般の人々は疑問視する傾向があると考えているんです。
マイルズ氏がSubstackで最も重要な声明として述べたのは、OpenAIと世界の残りの部分はAGI対応についてどうなっているのか？という問いでした。そして彼の答えは、簡単に言えば、OpenAIもフロンティアの研究所も準備ができていない、世界もまだ準備ができていないというものでした。AIの能力は非常に急速に向上しており、政策立案者はより緊急に行動する必要があると述べました。
さらに彼は、OpenAIから独立することにとても興奮していると付け加えました。その領域でより大きな違いを生み出せると考えているからです。ブランデージ氏は、OpenAIで働いていない今、私たちが真のAGI対応を実現するために解決すべき5つの重要なギャップを明らかにしました。その5つのギャップとは以下の通りです。
まず第一に、統一された共通理解です。彼は、テック企業から政府、一般市民に至るまで、ステークホルダーの間に大きな不足があり、AGIやその影響について把握すらできていないと考えています。私も全く同感です。これは私がBranwellでのフルタイムの仕事から離れた大きな理由の一つです。私はそこで社長を務めていました。
それは、Continental Scaleとして知られる最初の検出不可能なAIライターの一つでしたが、後にBranwellにリブランディングしました。しかし、私が社長としてのフルタイムの役割から離れ、First Moversという自身の会社を立ち上げる理由の一つは、違いを生み出し、可能であれば助けになりたいと思ったからです。
何百万人もの人々にオートメーションの可能性を理解してもらい、知ってもらいたいんです。そして私自身、マーケティングチームやマーケティング機関の内部に入り込まない限り、実際のオンラインの細かい仕事がどのように行われているのか、少なくとも何が可能かを見ることすらできません。私は自分の会社First Moversで世界クラスのチームを構築しています。
私たちはこれらのシナリオの内部に入り込み、何を自動化できるのか、マーケティングチーム内外での自動化の可能性をどのように教えることができるのかを見極めていきます。そしてそれを一般に公開します。私の目標は、内部に入り込み、複数のAIプラットフォームやシステムを使用し、それらをすべて接続してほぼプッシュボタン式の自動化というアイデアを作り出し、それを一般の人々に啓発することです。
マーケティング企業やマーケティングチームの合理化と自動化のユースケースに取り組み、そしてそれを舞台から、基調講演で、本で、コースで教えることに、これ以上ないほど興奮しています。それが私のAIコンサルティング会社First Moversの目標です。そうですね、簡単に言えば、世界をまとめるAIやそれを超えたAGIについての共通理解が存在しないんです。
私は講演や最高の人々との会合のために頻繁に旅行します。最近の飛行機の旅で、あるシニアコンサルタントの隣に座りました。彼は高校のバンドキャンプをデザインする仕事をしており、プレイヤーの立ち位置やアンサンブルの見た目を決めていました。
かなり高度な仕事で、デザインには様々なオンラインプログラムを使用していました。しかし驚いたことに、彼はChatGPTについて全く聞いたことがないと言うんです。だから私たちができる最良のことの一つは、これらのAIツールに慣れ親しむことだと思います。先日、スピーキングキットが必要になり、もちろん私の親友であるChatGPTを開いて、スピーキングキットを作成するよう依頼しました。文字通り2語だけ編集すれば良かったんです。
それほど出来が良かったんです。もちろん、私のスタイルや私が誰であるか、私に関する情報などの履歴で学習させていましたが、スピーキングキットのような高度なものにコピーライターを必要としないのは驚くべきことです。ブランデージ氏が特定した他の4つの重要なギャップには、規制インフラが含まれています。
彼は、現在の法律や政策のすべてがAGIを念頭に置いて作られていないと指摘しました。そしてそれは明らかです。彼は、これまでに発明された最も強力な技術を管理することを期待して、電卓用に作られたルールに固執していると述べました。私たちはそれを急いで変える必要があります。第三に、彼は正当性が必要だと言いました。これらのシステムの開発に関する決定が密室で行われることを減らし、一般市民からのより多くの意見が必要だと述べています。
しかしそれは第一のポイントに戻ります。世界全体に共通理解が欠けているなら、ChatGPTすら理解していない一般の人がAGIの未来について意見を述べるのは望ましくありません。これはジレンマですね。これら5つのギャップをできるだけ早く埋めることが重要です。
第四のギャップとして特定されたのは、社会の回復力です。マイルズ氏は、私たちの社会は十分な回復力を持っていないと述べました。AGIがもたらす経済的・社会的混乱に対する準備ができていないんです。これが私がデビッド・シャピロ氏とこのテーマで本を執筆している理由です。私たちの目標は、人々がこの新しいパラダイムに備えるのを助けることです。
私たちは世界クラスの経済学者や専門家、適切な声を集め、来るべき世界に備えるための文字通りの武器をあなたの手に渡そうとしています。それは完全に新しいパラダイムシフトの世界、つまり初めて労働が資本から切り離され、生活費を稼ぐために働く必要のない世界なんです。
それには全く新しい経済モデルが必要です。しかしマイルズ氏が言うように、私たちは安全装置を構築していない未来に向かって突き進んでいます。私たちはそれに取り組まなければなりません。そのため、デビッド・シャピロ氏と共同執筆している『The Great Decoupling』という本は、来るべきものに備えるためのガイドブックとして、私にとって非常に重要なんです。この本についての詳細は、私のチャンネルを購読し続けていただければ聞くことができます。
最後のギャップは、マイルズ氏が差異的発展と呼ぶものでした。彼は、私たちがAIの能力をコントロールする能力よりも速く進歩させていると述べました。私たちはロケットエンジンを作っていますが、操縦の仕方を知らないんです。これも問題です。マイルズ氏がOpenAI外で何をするのか楽しみです。おそらくイリヤ氏の会社SSIに参加するか、自分の会社を立ち上げるでしょう。
私たちには、来るべきものに備えるためのAGI対応チームの声や思想家がもっと必要です。そしてこれらすべてが怖ろしいことではありますが、AGIをグラス半分満たされているか、半分空っぽかとして見ることができるということを覚えておくことが重要だと思います。私たちは来るべきものに備えることができますし、備えるべきです。あなたができる最良のことは、日々の仕事でAIの使い方を学ぶことです。
マーケティングチームを自動化し、エンドツーエンドのエージェントワークフローをプッシュボタン式にすれば、あなたは大きくゲームの先を行くことができます。それを超えて、一般的にこのことについてより多くの対話をすることです。怖がる必要はありません。恐怖の中で生きることは最悪の生き方です。そして真実は、AGIが正しく実装されれば、あるいはそれ自身に実装方法を尋ねることができるかもしれませんが、地球上のすべての人に、労働から切り離された資本なしで生きるための基盤を文字通り与えることができるんです。
世界の歴史の中で、このような機会は一度もありませんでした。それはとても特別なことです。このようなトピックについてもっと知りたい方は、ご存知の通り、購読ボタンを押してください。コメント欄でのご意見もお待ちしています。
私は、来るべきものへの準備を手伝い、そして何よりもそれを最大限に活用するお手伝いをすることを、食べ、眠り、呼吸し、生きています。YouTubeのジュリアン・マッコイでご覧いただけます。デビッド・シャピロ氏と共同ホストを務めているポッドキャスト「Leaders of AI」もぜひ購読してください。AIによって影響を受ける社会、仕事、産業の変化について、雑音を取り除き、知っておくべき重要な情報をお届けします。いつもご視聴ありがとうございます。
コメント欄でのご意見をお待ちしています。次のAIのウサギの穴でお会いしましょう。
コメント