4,195 文字
人気ポッドキャスト「マスターズ・オブ・スケール」で、AI業界のリーダーであるムスタファ・スレイマン氏の新しいインタビューが公開されましたんや。これは注目に値すると思いますわ。
このポッドキャストは主にリンクトインの共同創業者で、以前はOpenAIの取締役、現在はマイクロソフトの取締役を務めるリード・ホフマン氏が司会を務めてはります。ムスタファ氏はAI企業インフレクションの共同創業者でもあって、その会社は基本的にマイクロソフトに買収されたんですわ。
今やムスタファ氏はマイクロソフトAIのCEOとして、AIの最前線で開発に携わるだけやなく、マイクロソフトのAI戦略において重要な役割を担ってはります。また、この回で少し詳しく話すことになりますけど、OpenAIとの関係においても重要な立場にあるんです。
ほな、ポールさん。この回で気になった点をいくつか見つけはったみたいですけど、説明してもらえますか？
はい、確かにこの回は聞く価値がありますね。先ほど述べたように、スレイマン氏のマイクロソフトでの役割を考えると、彼らがどの方向に進もうとしているのかがよく分かりますわ。
主要な点をいくつか挙げさせていただきますと、まず彼は再帰的自己改善について話してはりました。このインタビューの重要な点は、彼がこれらの重要な要素がいつ頃発生すると考えているかについて、時期を示してくれたことなんです。
再帰的自己改善というのは、モデルが自身の弱点や欠陥、幻覚を特定して修正する能力のことですわ。表面的には素晴らしく聞こえますが、同時に恐ろしい面もあります。というのも、これはAI懐疑派が心配している要素の一つで、システムが自己改善能力を持つことで、急速な進化が可能になり、非常に短期間で極めて賢くなる可能性があるからです。
彼によると、2025年にはチームがこれの実験を始めると予測してはります。Claudeからもこれについて聞いたことがありますし、OpenAIの01のプレビューでも少し触れられてました。推論やChain of Thoughtの能力が発達すると、そのプロセスの中で思考の連鎖が途切れた時や、真実でなくなった時、あるいは誤情報が見つかった時に、それを特定して修正できるようになるんです。
2024年1月のアンドレ・カーパシーによる「LLMsへの入門」というYouTube動画でも、再帰的自己改善について触れられてました。
もう一つ興味深かったのは、EQとIQの話です。つまり、感情知性と知能指数についてですな。これは驚きませんでした。というのも、これは彼がインフレクションで構築しようとしていたものだからです。そして今、それをマイクロソフトにも持ち込もうとしてはるんですわ。
IQはこれらのモデルが得意とする分野で、よく測定対象となるのは認知能力や知的ポテンシャル、論理的思考、問題解決能力、数学的スキル、分析能力、推論力、言語理解力といったものです。一方、感情知性は自分自身や他者の感情を認識し、理解し、管理し、影響を与える能力のことで、自己認識、自己制御、動機付け、共感、社会的スキルといった、AIには伝統的に期待されないものが含まれます。
彼の言葉を借りると、「実際のところ、これらのモデルのトーン、スタイル、感情知性、質問をする程度、使用する言語のタイプを反映する程度など、その実質的な内容を届ける手段は、ウィキペディアの客観的な再現よりも、大多数の消費者にとってより重要かもしれない」とのことです。
さらに彼は「これは主要な機能の一つになると思います。今や皆がこれと格闘し始めています」と続けました。このエージェント的な未来を見据える中で、これらのモデルのパーソナリティについて、良い面も悪い面も含めて考える必要があるんです。
私たちは以前から、モデルが人間らしくなりすぎる時の課題について話してきました。高い感情知性を持つAIが適切に保護されていない場合、人間がAIと不健全な深い関係を築いてしまう可能性があるんです。これは非常に微妙な問題ですわ。
今、私たちは感情知性と再帰的自己改善について話してきましたが、ムスタファ氏はこれらを必然的なものとして捉え、積極的に構築しようとしてはります。ただし、マイクロソフトはこれらの機能を、他社やオープンソースモデルよりも倫理的に実装する可能性があることは覚えておく必要がありますな。
AIエージェントについても触れてました。エージェント的な未来への最初のステップは、コパイロットが「見る」能力を持つことやと。これは非常に重要になってきます。マイクロソフトのこの分野での取り組みについては何度も話してきましたが、GeminiのプロジェクトAstra、OpenAIの取り組み、彼らはこれらのシステムが画面を見ることができるようにしたいと考えてはります。Claudeのコンピュータ使用についても話しましたね。
彼は「AIの仲間は見ることができなければならない。ブラウザやデスクトップ、スマートフォンの画面上のピクセルを実際に見ることができる補助者や助手、仲間を持つということは、感覚入力に関する新しいレベルの認識を意味し、それによって仲間はあなたが見ているものを観察し、行動を起こすことができる」と述べてます。
興味深いことに、先週マイクロソフトのコパイロットのTwitterアカウントは「私が見ているものをブラウザが見ることができたらいいのに。あ、待って。コパイロットビジョンがまもなくそれを可能にします」とツイートしてました。これはマイクロソフトが実現しようとしていることと一致してますわ。
メモリも重要な要素の一つでした。私たちはメモリが次の重要な breakthrough の一つになると話してきましたが、これは会話から会話へと移行する際に、インフレクションやChatGPT、マイクロソフトコパイロットがすべてを記憶し、その履歴に基づいてすべてをパーソナライズする能力のことです。
OpenAIもこれに取り組んでおり、多くの話題を提供してきましたが、彼は「2025年までにメモリを完成させる。永続的なメモリについて、私は本当に自信を持っています」と述べてます。
考えてみると、ウェブ上では既にメモリが存在してます。コパイロットは非常に優れた引用機能を持っており、約15分前に更新されたニュースも把握してます。これを個人の知識グラフに圧縮して、自分のドキュメントやメール、カレンダーなどを追加すると、メモリは体験を完全に変革することになるでしょう。
というのも、Gemini、ChatGPT、インフレクションと意味のある会話をして、創造的なアイデアについて興味深い探索をした後、3、4、5セッション後に戻ってきた時に、また最初からやり直さなければならないのは frustrating なことですからね。何も覚えていないわけですから。
モデルについても話してました。良いニュースは、モデルが大きくなると同時に小さくもなっているということです。これについては本番組で何度も話してきました。しかし、彼は最大のモデルにはまだまだ余地があると考えてはります。これらのシステムに取り込める新しいデータはまだたくさんあり、少なくとも今後数年は frontier モデルの成長に減速は見られないだろうと。
frontier モデルは不釣り合いな影響を与え続けますが、小さなモデルも未来にとって重要になります。彼が使った例が良かったんですが、これは以前にも共有したことがありますね。小さなモデルが理にかなっている理由について、彼はこう説明してます：
「小さいモデルは間違いなく未来になります。なぜなら、非常に大きなモデルにクエリを投げかけた時、そのクエリに関係のない何十億もの経路の神経表現が点火するからです。これは誰かが私に何かを尋ねた時に、私の脳全体が反応するようなものです。私たちの脳ではそんなことは起こりません。私たちの脳の非常に小さな部分が、特定の認知タスクに結びついているんです」
つまり、私たちの脳は各認知タスクにすべてのニューロンを使用するわけではないので、非常に効率的なんです。しかし現在の大規模言語モデルは、「昨夜のサッカーの試合の得点は？」と聞かれただけでも、基本的にすべてのニューロンを発火させてしまうんです。そこで、これらの機能を可能にする小さなモデルの構築を目指しているわけですな。
最後に彼の締めくくりの言葉を紹介させていただきます。これは先ほど話した成長と経済的影響の可能性とも一致するものです：
「これは会社を設立し、スケールアップする時期です。起業家でなくても、キャリアを大きく転換する時期です。活動家や組織者、学者であっても、本当に注意を払うべき時期です。なぜなら2050年までには列車は駅を出発してしまい、状況は全く異なっているでしょうから。これは私たちが集団として物事を形作り、影響を与えるチャンスを本当に持っている瞬間です。何も予め決まっているわけではありません。人類にとって最善のものを形作ることは、本当に私たちの手の届くところにあるんです。これは非常に素晴らしいことで、私たちはこの時代に生きていることを非常に幸運に感じます。これは大きな責任を伴いますが、非常にエンパワーメントを感じる瞬間です」
私はムスタファ氏のすべての発言に同意するわけではありませんし、彼らが取り組んでいることの中には、人間として私があまり興奮しない要素もあります。しかし、最後の彼の考えには共感しますし、私もよく同じようなことを言ってきました。
私たちがこういった仕事をし、これほど多くのことを考えられるのは、信じられないほど豊かな未来の可能性があると信じているからです。懸念や恐れ、不確実性はありますが、私は楽観的であることを選びます。
常に心配していても何の得にもならないと思いますので、自分自身や家族、そして他のすべての人にとって、可能な限り最高の結果を確実にするための行動を取ることを選びます。それが私がこの分野で日々前進し続けられる理由です。
そうですね。このスペースをカバーしながら、楽観的でいる方法とサニティを保つ方法について、定期的なセグメントが必要かもしれませんね。
コメント