27,166 文字
こんにちは皆さん、お会いできて嬉しいです。実際に多くの友人がいて、そして夫も来ているのを見るとちょっと驚きますね。彼は私のイベントには決して現れないのですが。今日は現在最もホットな話題の一つについて、その分野で最高の本を書いた方とお話しできることを嬉しく思います。
皆さんの中でChat GPTを使ったことがある方は手を挙げていただけますか？ほぼ全員ですね。おそらく皆さんも同意されると思いますが、Chat GPTが登場した昨年11月、ほとんどの人が初めて人工知能、特に生成AIモデルが世界を変えようとしていることに気づいたのです。そして突然、世界中で「なんてこれはすごい能力だ」という集団的な反応が起こり、それは無数の社説や政治家たちの懸念などに反映されています。私が正しく言えば、主な焦点はその欠点に向けられてきました。誰もが存在論的リスクの可能性について各自の意見を持ち、「私たち全員が自滅するのか」とか「これは恐ろしい」などと言っています。
そこにムスタファが登場するわけですが、彼は信頼性の高い人物です。彼は一つだけでなく、二つの成功したAI企業の共同創設者であり、この本の中で冷静かつ現実的で、実に説得力のある未来の展望を示しています。だからこそ皆さんにもぜひ読んでいただきたいのです。私は2回読みました。皆さんも読むべきです。
ムスタファについて少し紹介しますと、彼はこのグループには多くの紹介は必要ないと思いますが、2010年にDeep Mindの共同創設者となり、その後リード・ホフマンとInflection AIを共同創設しました。リード・ホフマンは共同創設者で、Chat GPTの助けを借りて、この技術の可能性について非常に前向きな見解を書いています。皆さんにはぜひ二人の議論を聞いてみたいものです。
彼は数年前に英国技術部門での先見的なサービスと影響力でCBEを受賞しています。またエコノミスト誌の取締役会にも所属しているので、私はムスタファの仕事ぶりを間近に見ることができます。彼はエコノミスト誌の友人であり、英国テクノロジー界の偉大な人物です。
この本は「The Coming Wave（来るべき波）」というタイトルで、最近テレビを見たりポッドキャストを聴いたりした方なら、来るべき波だけでなく、すでにこの本に関する宣伝や賞賛の波が押し寄せていることをご存知でしょう。あなたは60回ほど様々な場所に登場したとのことですので、皆さんはこの61回目のリストに入れることができて幸運です。理解できることですが、この本は非常に興味深く、思慮深く、また現在最もホットな話題について書かれているため、大きな影響を与えています。
私たちは主に本についてお話ししたいのですが、ムスタファをご存知ない方のために少し背景をお話ししたいと思います。まず、ムスタファは実はコンピューターのギークではありません。コンピューターコードを学んだわけではなく、オックスフォードで哲学と神学を学びました。哲学と神学を学んだ人が、どのようにして二つのテック企業の共同創設者になったのか、その簡単な経歴を教えていただけますか？
「私はいつも哲学を思考のためのシステムツールとして見てきました。それは自分の考えについて厳密かつ明確になるための手段です。実は19歳の時に哲学の学位を中退しました。私は世界に与える影響に強く動機づけられていました。学業を離れて慈善団体の立ち上げを手伝ったのです。当時それはMuslim Youth Helpline（ムスリム青年ヘルプライン）という電話カウンセリングサービスでした。イスラム教の背景を持って育ったにもかかわらず、私は無神論者でしたが、これは英国の若いムスリムに信仰と文化的に敏感なサポートを提供するための世俗的なサービスとして設計されました。これは2003年のことです。
オックスフォードで非常に理論的で難解な一連のアイデアを学んでいた私は、自分の倫理観を実践に移したいと思い、ヘルプラインを始め、3年間ボランティアとして働きました。しかしすぐに非営利団体での影響力の規模に不満を感じるようになりました。その後、短期間ケン・リビングストン市長の下で人権政策担当官として働きましたが、それも影響力の規模に悩んでいました。
私は気づいたのです。もし種としての私たちを組織化し効果的にするもの、つまり利益のインセンティブを理解しなければ、私の人生で最も重要なことの一つを見逃すことになると。当時、2007年から2008年頃にFacebookの台頭を目の当たりにしました。わずか2年の間に月間アクティブユーザー1億人にまで成長し、どこからともなく完全に新しいものが急速に成長する様子に完全に驚きました。
そこで私は技術について教えてくれる人を探し始めました。それまでに、いくつかのビジネスを始めていました。その一つは実際にテクノロジー企業で、ノッティングヒルのレストランに電子決済システムを販売し、Wi-Fiインフラを設置しようとしていましたが、それは時代の先を行きすぎていて失敗しました。
そこで新しいパートナーシップを形成し、テクノロジーを活用する方法を見つけるために人を探していました。そこで友人であり、Deep Mindの共同創設者となるデミス・ハサビスと出会いました。彼は当時の私の親友の兄弟で、UCLで神経科学の博士号を取得したところでした。私たちは一緒になり、その後の歴史はご存知の通りです」
当時、2010年頃、あなたともう一人の共同創設者のシェイン・レイクの3人は、人間の知能を複製したり、さらにはそれを超えたりする人工知能を作るという野望を持っていました。これは13年前のことです。私たちの多くはこのようなことが実際に起きているとは知りもしなかった時代に、あなたはリージェントスクエアのどこかにいて、2023年までに世界がこのような状態になると想像していましたか？
「ある意味ではそうでした。どのように展開するかを正確に想像するのは難しかったですが、私たちはディープラーニングに大きな賭けをしました。これは現在のこの新しい革命を支える主要なツールの一つですが、誰もディープラーニングに関わる前からそうしていました。現在のオープンAIの主任科学者であり共同創設者であるChat GPTの作成者は、2011年に私たちのインターンの一人でした。ジェフリー・ヒントンは、その後GoogleのAI部門の責任者となり、現在はAIの父として知られていますが、最近メディアで結果について懸念を表明している彼は、私たちの最初の顧問でした。彼の年俸は2万5千ポンドだったと思います。オープンAIの6人の共同創設者のうち3人は、講演するためか、実際にチームのメンバーとしてディープマインドを通過したのです。
タイミングについては本当に驚くべきことです。私たちはタイミングを完全に正確に把握し、当時は大きく先を行っていました。そして何とかしてその地位を維持することができたのです」
あなたはしばらくそこにいて、少し早送りすると、現在はInflection AIを共同設立・運営し、Piと呼ばれるAIを作成しています。これは興味があれば対話できるものですが、Piが何をするのか教えてください。
「Piは個人向け知能（Personal Intelligence）の略です。私は今後数年間で、誰もが自分専用の個人AIを持つようになると考えています。世界には何十万ものAIが存在することになるでしょう。それらはビジネスを代表し、ブランドを代表し、すべての政府が独自のAIを持ち、すべての非営利団体、すべてのミュージシャン、アーティスト、レコードレーベル、現在ウェブサイトやアプリで表現されているものはすべて、すぐに対話型の知能サービスで表現されるようになるでしょう。そのサービスはどの組織のブランド価値や考え方も表現します。
同時に、誰もが自分専用の個人AIを欲しがるようになると思います。それはあなたの味方となり、より整理整頓され、世界を理解するのを助け、いわばチーフオブスタッフのように機能し、優先順位をつけ、計画を立て、教え、サポートする存在になるでしょう」
それは素晴らしく聞こえますが、実際にはどういう意味なのでしょうか？AIについての会話ではよくこの時点で、世界の終末論的な「私たちは自分自身を滅ぼすことになるだろう」とか「どこかのガレージに座っている狂った人が、私たち全員を殺すウイルスを解き放つだろう」というような話に転じます。そういった話はさておき、例えば5年後、あなたは今後3〜5年でAIはさまざまなタスクで人間レベルの能力に達すると言っていましたが、必ずしもすべてではないにしても、さまざまなタスクで。2028年の生活はどのようなものになるでしょうか？まず、ここにいるのは私たちなのか、それとも「ムスタファAI」とボットのようなものになるのでしょうか？
「まず、10年前に戻ってみましょう。何がすでに起こったのか、そして私の予測がなぜ妥当だと思うのかを理解するために。ディープラーニング革命により、生の乱雑なデータを理解できるようになりました。画像の内容を解釈し、画像に犬や猫が含まれているかを分類したり、それらのピクセルが実際に何を意味するのかを理解するためにAIを使用できるようになりました。音声を理解するために使用することもできます。電話に口述して文字起こしをするとき、それを正確にテキストに変換します。また、言語翻訳にも使用できます。これらはすべて分類タスクです。本質的には、生の複雑な入力データの世界を十分に理解し、そのデータ内のオブジェクトを理解するようにモデルを教えています。それが分類革命で、最初の10年間でした。
現在、私たちは生成革命の中にいます。これらのモデルは今、以前に見たことのない新しい画像を生成し、以前に見たことのない新しいテキストを生成しています。音楽も生成できます。それはコインの裏面のようなもので、最初の段階は理解と分類、2番目の段階は、それを十分に行った後、AIに「あなたは犬がどのように見えるかを理解したので、ピンク色の黄色い斑点のある犬を生成してください」と頼むことができるのです。これは補間であり、2つか3つか4つの概念の間の空間を予測するもので、それがすべてのモダリティでこの生成AI革命を生み出しています。
このプロセスにより多くの計算を適用するにつれて、基本的にはるかに大きなAIモデルを積み重ね、はるかに大きなデータを積み重ねることで、これらの生成AIの精度と品質ははるかに良くなります。軌道を理解するために、過去10年間で最先端のAIモデルに使用される計算量は毎年10倍ずつ増加しています。10倍、10倍、10倍と、10回連続で10倍です。これは技術史上前例のないことで、他のどこにもこのような軌道は見られません。
今後5年間でさらに3〜4桁の計算量、基本的には現在のGPT-4やチャットモデルの生成に使用されている計算量の1000倍が追加されるでしょう。これは技術的な詳細かもしれませんが、理解することが重要です。GPT-3やGPT-3.5、GPT-4などの話をするとき、それらのモデルの間の距離は実際には10倍の計算量の差があります。段階的なものではなく、指数関数的なものです。GPT-4とGPT-2の差は実際には100倍の計算量の差があります。世界最大の計算インフラがすべての生のデータのすべての入力間の関係を学習するために必要なのです。
次の段階では、完璧に生成する能力から、複数の時間軸で計画を立てる能力へと移行します。現在、モデルに「Xのスタイルで詩を書いて」とか「これら2つのスタイルに合った新しい画像を生成して」というような一回限りの予測しかできませんが、次はモデルに「新しい製品を生成して」と言えるようになります。そのためには、AIが調査を行い、市場を調べて何が売れそうか、人々が現在何について話しているかを確認する必要があります。そして、その製品がどのように見えるかの新しい画像を他の画像と比較して生成し、それが異なりユニークであることを確認します。その後、製造業者に連絡して「これが設計図です、これを作ってほしい」と言い、最良の価格を得るために交渉し、それを宣伝して販売するでしょう。
これらの能力は、今後5年間ほどで到来するでしょう。これらの個々のタスクを自動的かつ独立して行うことはできませんが、これらの個々のタスクは確実に可能になるでしょう」
それは、イノベーションのプロセスがはるかに効率的になり、物事の管理もはるかに効率的になるということですね。それはどういう意味を持つのでしょうか？今はポジティブな面に焦点を当ててみましょう。後でダウンサイドについても話しますが、それによって何ができるようになるのでしょうか？人々は「AIは気候変動解決を助ける」とか「AIは医療に大きな改善をもたらす」などと言いますが、そのようなことがどのようになるのか説明してください。
「知性は創造のエンジンです。ここにあるものはすべて、私たちが環境と対話して、例えばより効率的で安価なテーブルや新しいiPadを作った結果です。歴史を振り返ると、今日私たちは100年前に1キロの穀物を生産するのに必要だった労働力のわずか2％で、同じ1キロの穀物を生産できます。技術や科学的発明の軌道は一般的に、物事がより安価で作りやすくなることを意味し、それは巨大な生産性の向上をもたらします。
農業のすべての改善に入る洞察、より少ないもので多くのものを得る知性は、現在私たちが知性に関して発明しているのと同じツールです。例えば農業のテーマに留まると、干ばつに強い作物、害虫に強い作物、一般的により回復力のある新しい作物を生産できるようになるはずです。気候変動に取り組むことができるはずです。AIの多くの応用例では、既存の産業システムを最適化しています。例えば同じ大規模な冷却インフラを取り、それをはるかに効率的にします。再び、より少ないもので多くのことを行っています。
医療から教育、交通まで、あらゆる分野で今後20〜30年の間に大きな効率性と発明が見られるでしょう。画像に関して私が説明した補間のように、AIは犬、ピンク色、黄色い斑点の間の空間を推測し、以前に見たことのないものを想像しています。それが私たちがAIに求めているものです。新しい知識を発見し、新しいタイプの科学、問題への新しい解決策を発明することです。それが私たちが得る可能性が高いものだと思います。
もしそれをうまく実現できれば、私たちは根本的な豊かさの時代に向かっていると思います。すべての優れた科学者、すべての起業家、すべての人々が、可能な限り最高の助手、科学的アドバイザー、研究助手、チーフオブスタッフ、チューター、コーチ、相談相手を持つことを想像してください。現在、これらの役割は裕福で教育を受けた人々、平和で文明化された社会に住む私たちだけが独占的に享受しているものです。これらの役割、これらの能力、その知性が世界中のすべての人に広く利用可能になるでしょう。
今日、あなたが億万長者であっても普通の給料を稼いでいても、私たち全員が同じ最高のスマートフォンと最高のラップトップへのアクセスを持っています。これは非常に実力主義的な話であり、私たちはそれを内面化する必要があります。世界で最高のハードウェアは、あなたがどれだけ裕福であっても、少なくとも上位20億人が利用できます。これが知性に関して私たちが見ることになる話だと思います」
十分な明るい話をしましたね。これまで20分間明るい話をしてきましたが、これはあなたがこれまでのインタビューでやってきたことよりも多いですね。しかし、あなたの本は「The Coming Nana（来るべきナナ）」とは呼ばず、「The Coming Wave（来るべき波）」と呼んでいます。元々のタイトルは「Containment is not possible（封じ込めは不可能）」にするつもりだったと聞いていますが、そうしなかったのは良かったですね、そうでなければそれほど売れなかったでしょう。しかし、あなたが主張している議論は実際にはナナが目の前にあるわけではなく、実際にはもっと微妙な議論ですね。欠点は何か、そしてあなたの本での封じ込めへの焦点は何についてなのか教えてください。
「潜在的なリスクについてはかなり公正で正直だと思います。もし私が予測した軌道、つまりより強力なモデルがより小さく、より安く、より使いやすくなるという軌道を取るなら、これは技術の移行の歴史であり、世界で作成されたすべての技術や価値の歴史です。それが有用であれば、それはより安くなる傾向があり、したがって広く普及します。一般的に、これまでのところ、それは世界中のすべての人に巨大な利益をもたらしており、祝うべきことです。これまでのところ、普及は本当に良いことでした。
しかし、裏を返せば、これらが本当に強力なツールであれば、最終的には世界を不安定にするために様々な悪意のある行為者に力を与える可能性があります。誰もが議題を持ち、政治的信念、宗教的信念、文化的アイデアを持っており、今やそれを提唱するのがより簡単になります。スペクトルの極端な端では、これらのモデルの特定の側面は、生物学的および化学的兵器の製造方法について本当に良いコーチングを提供します。これは、大規模言語モデルを開発している私たち全員が昨年観察した能力の一つです。それらはインターネット上のすべてのデータで訓練されており、その情報の多くには潜在的に有害なものが含まれています。
これは比較的簡単に制御し、モデルから取り除くことができます。少なくとも大企業が製造するモデルを使用している場合、彼らは法律を遵守したいと考えており、害を与えたくありません。基本的に訓練データから除外し、これらの能力を防ぎます。
課題は、誰もがこれらのモデルにアクセスしたいと考えていることであり、それらはオープンソースで広く利用可能です。実際、PiやChat GPTのより小さなバージョンを実行するためのコードを無料でダウンロードすることができます。この軌道が10年にわたって続くと、はるかに強力なモデルがはるかに小さく、より移動可能になり、それを使って害を与えたいと思う人々が、より簡単に行動できるようになります。これは本当に重要な区別だと思います。今最大のモデルを持っているGoogleやDeep Mind、Open AIなどのリーディングカンパニーがあり、これらは比較的少数です。彼らはより大きく、より強力ですが、その背後にはたくさんのオープンソースのものがあります。
そこで問題となるのは、ガレージにいる怒った10代の若者などが潜在的に利用できるであろうオープンソースのモデルを防ぐことができるのか、できないのかということです」
「私の予測の暗い側面は、これらは基本的にアイデアであるということです。それらは知的財産であり、知識とノウハウです。アルゴリズムは大部分が3枚の紙で表現できるもので、実際ほとんどの人にとって容易に理解できます。それは少し抽象的かもしれませんが、理解することはできます。実装メカニズムは今日では膨大な量の計算能力へのアクセスを必要としますが、もし時間がたってその制約が取り除かれ、実際に10年後には電話で実行できるようになれば、それが封じ込めの課題が現れるところです。
また、中央集権化の問題もあります。これは明らかに、これらのモデルを構築し実行している人々に力を与えることになります。私自身の会社を含め、GoogleやTechの他の大手プロバイダーにも。オープンソースコミュニティに対応するだけでリスクを排除するわけではなく、これらの多くのリソースを持つ超強力なテック企業と、最終的に私たちに説明責任を持たせる国家自体との関係を理解する必要もあります」
最も頻繁に引用されるリスクや否定的な結果のいくつかを見ていきましょう。よく聞かれるのは、AIが広範囲のタスクで人間の知能と同等または上回るようになると、私たちの仕事がなくなるということです。AIを雇えるのであれば、なぜ人間を雇うのでしょうか？歴史的には、これまで仕事がなくなったことはなく、経済学者として私はこれは労働の固定量の誤謬だと思います。しかし、多くの人々がこう言います。仕事はどうなるのでしょうか、この件についてどうお考えですか？
「まず、労働の固定量の誤謬について説明しましょう。これは重要だと思いますし、これまでの歴史的傾向です。基本的に、物事を自動化して効率化すると、人々が新しいことを発明するための時間が多く生まれ、より多くの健康と富を生み出し、それ自体がより多くの需要を生み出し、その需要を満たすための新しい商品やサービスを作り続けるということです。そして、新しい仕事や役割を継続的に作り出していくのです。過去数十年を見ると、30年前には想像もできなかった多くの役割が存在しています。アプリデザイナーから現在の大規模言語モデルのプロンプトエンジニアまで。それが一つの可能性のある軌道です。
仕事に何が起こるかという質問は、あなたの時間軸によって異なります。今後20年間については、人々が労働市場に貢献したいと思っているにもかかわらず、競争することができないという構造的な失業が見られる可能性は非常に低いと思います。それは非常に考えにくいことで、今日の統計にもそれを示す証拠はありません。
それ以降については、多くの人々が、AIを使っても市場が望むほどの価値を持つものを生産できない可能性はあると思います。AIはますます人間よりも正確になり、より信頼性が高く、24時間365日働くことができ、より安定しています。だからこそ、それは確かにリスクであり、私たちはそれに向き合い、それが実際には興味深く重要な目的地かもしれないことを正直に認めるべきだと思います。
仕事は社会の目標ではありません。時々、私たちは社会や生活、文明が実際にはウェルビーイングと平和、繁栄についてのものであることを忘れていると思います。それは私たちを生産的で健康に保つためのより効率的な方法を作ることです。多くの人々、おそらくこの部屋にいる人々を含め、私たち自身も自分の仕事を楽しんでいます。私たちは自分の仕事が好きで、自分がやりたいと思う仕事をする機会を得られるほど幸運で恵まれています。多くの人々がそのような贅沢を持っていないことを忘れないことが非常に重要だと思います。多くの人々は、もし働く必要がなければ絶対にしないような仕事をしています。
だから私にとって、社会の目標は根本的な豊かさの追求です。どうしたら根本的に少ないもので多くのものを作り出し、人々を労働の義務から解放できるかということです。そしてそれは、再分配の問題を解決する必要があるということです。それは信じられないほど難しい問題で、私はそれを本の中で取り上げていますが、それが私たちが集中しなければならないことです。この新しい体制では課税はどのようになるでしょうか？作り出された価値がどのように確実にドルに変換され、単にGDPへの付加価値としてだけではなくなるようにするかということです」
政府の再分配の役割については後ほど話しますが、まず最初に皆さんにお伝えしておくべきだったのは、ムスタファと私はおそらくあと15〜20分話した後で質問を受け付けるということです。ライブストリームをご覧の方々も、質問があればすぐに送り始めてください。このAIが通知を消音してくれるようです。
質問は15分ほどで受け付けますので、どうぞ書き始めてください。それでは、政府の役割に戻りましょう。この世界では、より根本的な再分配が必要になりますが、懸念の一つは、AIの台頭が民主主義の機能をさらに困難にしているということです。すでに2024年の選挙をディープフェイクが破壊するという懸念が多く見られています。40億人が来年選挙を行う国に住んでいます。人々は2028年や2034年はともかく、2024年について心配しています。
ムスタファと私はちょうどユヴァル・ハラリと会話をしたところです。彼はあなたが思慮深く楽観的であるほど悲観的で、基本的に民主主義の終わりだと言っていました。あなたも私もそれに同意したとは思いませんが、これからの数十年、AIの世界では自由民主主義にどのような結果をもたらすのでしょうか？
「まず最初に言えるのは、私たちが今いる状況はかなり厳しいということです。政府や政治家、政治プロセスに対する信頼は、これまでで最も低い状態です。実際、米国のピュー研究所の調査では、35%の人々が軍事統治が良いことだと考えています。私たちはすでに非常に脆弱で不安な状態にあります。
ユヴァルに共感する形で言えば、彼の議論では、これらの新しい技術によって、説得力があり操作的で、高度にパーソナライズされた新しい形の合成メディアが生まれ、それが根底にある恐怖を悪化させるということです。それは本当のリスクだと思いますし、フェイクニュースを作り出すことがはるかに簡単になるということを受け入れる必要があります。私たちには真実でないものに対する飽くなき、中毒的な、ドーパミンを放出させる欲求があります。それはより速く売れ、より速く広がります。それは私たちが対処しなければならない根本的な問題です。
AIが課す新しいリスクではなく、AIや他の技術が加速させるものだと思います。それがAIの課題です。AIが一般的に与える影響を理解するための良いレンズは、AIが私たちの最良の部分と最悪の部分の両方を増幅するということです」
「これは、ここ数十年のポスト冷戦世界でも見られなかったほど地政学的に分断された世界で発展しています。米国と中国の間には緊張があり、本質的にこれら二つの体制の間で世界的な支配権を巡る一種のレースがあります。そのような世界では、あなたの本に書かれているようなAIの最も極端なダウンサイドを防ぐために必要なガバナンス構造をどのように実現できるのでしょうか？」
「私は楽観主義者と非難されることもあれば、必要な介入について理想主義者と非難されることもあります。残念ながら、それは事実の表明に過ぎません。必要なのは良く機能するガバナンスと監視です。企業は監査や監視にさらされることをオープンに受け入れる意思があり、これは過去の世代のテクノロジーCEOや発明者、クリエイターに比べてユニークな瞬間だと思います。
私たちは予防原則おそらく必要であり、少し遅く進み、少し慎重になり、害を避けるためにはその果実を摘む前に木にいくつかの利益を残しておく必要があるかもしれないと明確に述べています。それは私にとっては新しい状況です。しかし、それには本当に良いガバナンス、機能する民主主義、適切な監視が必要です。
私は欧州ではそれを実際に持っていると思います。EUのAI法は今や3年半ドラフト状態にありますが、非常に徹底的で堅牢、かつかなり賢明だと思います。一般的に私はそれを支持し、推奨してきました。しかし、よく「イギリスやヨーロッパ、アメリカでうまくいっても、中国はどうなのか」と聞かれます。この質問はよく耳にしますが、これは非常に危険な考え方だと思います。
まず、それは中国があらゆるコストを払っても世界を支配し、次の支配的な世界的な力になるという狂気的で自殺的な使命を持っているかのように中国を悪魔化しています。今のところ、私はそれを示す証拠を見ていません。もちろん、それを否定しているわけではありませんが、私たちは彼らが実際に取っている行動について公正な目を持つべきだと思います。彼らは私たちと同じように自己保存の本能を持っています。そして、彼らの市民が経済的相互依存と平和、繁栄、幸福から利益を得たいという欲求に訴えることができればできるほど、私たちはそれらのインセンティブで一致しています。
二つ目に、中国を指差すのは危険です。なぜなら、私たちは単に価値観の底辺への競争をすることはできないからです。私たちは何を支持するかを決める必要があります。私の信念では、AIによって可能になる大規模な国家監視装置を持つべきではありません。中国がやっているからといって、私たちもそれをすべきではありません。私たちは彼らがリスクを取っているからといって、リスクを取る軍拡競争に入るべきではありません。それは一部の人々にとっては受け入れがたいことかもしれませんが、それは両方が不要な恐ろしいリスクを冒すという避けられない自己成就の予言につながるだけだと思います」
政府、具体的には英国政府は何をすべきでしょうか？私たちはイギリスにいて、おそらくここの多くの人はロンドンからきています。イギリス政府はAIのスーパーパワーになりたいと考えており、11月にAI安全に関するAI会議を開催する予定です。大きな焦点がここにあります。この政府や他の政府が具体的にリスクを最小限に抑えるために何をすべきでしょうか？今禁止すべきものはありますか？道路の規則のようなものを設けるべきでしょうか？
「まず第一に、政府は技術を構築する必要があります。私たちは技術の作成を外部委託し、第三者に委託する習慣がついてしまいましたが、理解していないものをコントロールするのは本当に難しいと思います。そして、それを構築しない限り、深く理解することはできません。私がこれを政府に提案すると、人々は手を挙げ、意志の欠如、自信の欠如、政府が創造者、製作者になれるという信念の欠如があります。特にテクノロジーの分野では。
二つ目は、あらゆる政府部門の閣僚や責任者に、深いテクニカルおよびエンジニアリングの人々、そしてより一般的な技術者を置く必要があります。内閣にCTO（最高技術責任者）がいないのはかなり狂っていると思います。これらの大きな機関を運営していないというのは。すべてが外部委託されています。
それを可能にするには、民間部門の給与に近い給与を支払う必要があります。また、これは誰も話したがらない非常に敏感なトピックです。首相以上の給与を得るべきではないという考えは、私には理解できません。一方では「好きな人のために働きなさい」と言いながら、一方では人々が10倍の給料を得て、もう一方では「公共サービスのために大きな犠牲を払いなさい」と言うオープンな労働市場をどうして持つことができるのでしょうか？
実際には、それが何十年にもわたって続くと、そちらでは一種の公平さ、こちらでは別の種類の公平さというネットの効果があり、それが私たちが直面していることです。公共の財布からどれだけ稼いでいるのかを考えると、どのようにそのような人々に説明責任を持たせるかという問題を引き起こしますが、基本的にこれら二つのことが第三のことを可能にします。
政府は規制によってリスクを取らなければなりません。政府が積極的または実験的に行動し、大企業を動揺させることを恐れています。そして、私はこのような立場にいる側として、過去にも間違いが犯されてきたにもかかわらず、政府に休息を与え、間違いを犯させ、機能しない投資をさせ、実験的な政府構造を称賛し、政治プロセスに信頼を持ち、参加し、励ますことが正しいことだと思います。そうしなければ、この衰退のスパイラル、正しいことができるという自信の欠如が自己成就の予言につながります、ちょうど中国との関係と同じように」
あなたの見解は業界では例外だと思いますか？ステレオタイプは30歳のテックブロたちで、政府は役に立たないと考え、AIで世界を変えようとしているというものです。それは正確なステレオタイプでしょうか？あなたは例外なのでしょうか？あなたの業界の人々のフイズを心配すべきでしょうか？
「私たちはどこでも両極化があります。ステレオタイプはおそらく本当ですが、反対側には「テクノロジーなしでもやっていける」という考えがあり、それは完全に間違っていると思います。テクノロジーは絶対に必要であり、ただし十分ではないプロセスの一部です。
シリコンバレーには、より技術的なリバタリアン主義の傾向があることは間違いありません。政府が問題であり、目的は国家を根絶し、完全に独立して運営することです。正直に言って、非常に影響力のある、非常に強力な人々がその目的を持ち、彼らの会社と財産の両方でその目標に向かって構築しています。私はそれらに非常に懐疑的であり、明らかに私はその反対側にいます。それが多くの公共の恐怖を形作っているのは、あなたが超強力な人々の集団を持ち、彼らは国家や民主的プロセスへの軽蔑を持ってこれを形作っているということです」
二つの質問があります。そうでなければ誰かが聞くであろう質問です。それから聴衆の質問に移ります。一つ目は、シンギュラリティの全体の問題です。シンギュラリティなしにAIについての会話はできません。それは起こりますか？いつ起こりますか？
「正直に言って、それは来るべきことの非常に役に立たない枠組みだと思います。人々はターミネーターやスカイネットを指摘しやすいという理由でこの枠組みに飛びつきますが、それはトランジスタを発明する前に月に飛ぶようなものです。それは何百年も先のことです。実際には役に立ちません。
私が説明しようとしたように、予測できる多くの実用的な短期的な運用能力があり、それらを使って国家への影響、ビジネスの変化、政府への意味を考えることができます。一般的に、私はそれらの予測をしませんし、超知能のフレーミングが私たちにとって有用だとは非常に懐疑的です」
では、バックヤードのAI愛好家たちがいつも話題にする存在論的破滅の可能性についてはどうですか？この技術で自分自身を破滅させる可能性はどれくらいありますか？
「非常に低いです。本当に非常に低いと思います。非常に小さすぎて言及する価値もないほどです」
それを聞いたのは、あなたに似た人に「非常に低い」と言われたときに、私が「非常に低いとはどれくらい？」と尋ねたら、「約5%」と言われたからです。しかし、あなたは無限に小さいと考えているのですね。それは終わりによい場所です。
それでは、皆さんからの質問とオンライン視聴者からの質問を受け付けます。キティ・ハドックからの質問です：「すべての計算能力が私たちの炭素排出にどのような影響を与えるでしょうか？それともAIは生産性を向上させ、他の場所で炭素を削減できるでしょうか？」
「これについては、非常に低く、本当に取るに足らないと思います。データセンターに費やす炭素の量は、相対的に見て本当に微小です。第二に、そのほとんどは完全に再生可能なデータセンターで行われています。GoogleやMicrosoftは両方とも100%再生可能です。Googleは実際に世界最大の風力発電所を所有しています。私がDeep Mindで働いていた時のプロジェクトの一つは、風力発電所全体を20%効率化することでした。
彼らは最初からこれに焦点を当ててきました。チップ製造におけるガリウムやコバルトの使用など、他の環境への影響がないとは言いませんが、私たちが見ている利益に比べれば、そして計算単位あたりの炭素の絶対コストに関しては、非常に小さいと思います」
「電力のコストと電力へのアクセスがこれらのAIの開発と普及の制約になるだろうという主張をよく聞きますが、それも真実ではないと思いますか？」
「そう思います。一部のデータセンターは100メガワット規模になり、それは小さな都市の電力消費のわずか数%かもしれませんが、100メガワット規模の非常に少数について話しています。これは本当に巨大で、今日そのようなものは存在していません。だから実際のAIの炭素への影響について心配する必要はありません」
聴衆からの質問です。ここの2列目の女性の方、どうぞ。
「教育用AIを使う会社から来たシャルーです。私の質問は、医療と教育の二つの産業について考えた場合、AIがどのように応用されるか、どちらに最も期待を持っていますか？そして、彼らはどのように考えるべきでしょうか？調達について、あるいはあなたが言ったように、それを生産することについて、しかしそれらの組織の一部は近い将来生産する立場にないかもしれませんので、もし調達者であれば、どのようにうまく行えばよいのか、どのような枠組みを使用すべきでしょうか？」
「素晴らしい質問です。即時的な近い将来の影響について最も興奮しているのは教育についてです。これらのモデルはすでに使用されており、Chat GPTの主な使用例は実際に宿題の手助けです。人々はよく「子供たちがコピーペーストしている」と考えますが、実際に彼らがこれらのモデルをどのように使用しているかを見ると、多くの人が正確にこの理由で私たちのモデルであるPiを使用していますが、それは熱心な教師が子供に興味について話すような会話型のやり取りです。
子供または一般的な学習者は、自分のスタイルで質問を表現し、自分が興味を持っているものにまさに焦点を当て、奇妙な、適切に表現されていない、完全な絵を描いていない種類の質問をすることができます。もちろん、AIは無限に忍耐強く、非常に詳細で、ほとんど事実に基づいた情報を提供します。それは常に完璧ではありませんが、完璧になるでしょう。それはすべての人にとって信じられないほどの実力主義的な獲得だと思います。
5年後の世界では、世界最高の教育が完全にパーソナライズされ、完全に事実的に正確で、地球上のそれを望むすべての人がほぼ無料で利用できるという世界を想像する必要があると思います。それは素晴らしく聞こえます」
「現在からその世界へどのように移行するのでしょうか？」
「これらのモデルの美しさは、普及して小さくなる固有の傾向があることです。誰もがアクセスを望み、誰もがそれらを統合したいため、それらは広がります。現在、多くの競合するモデルがあり、ワードあたりのモデル購入コストは、例えばアプリを構築している場合、3〜4つの大きなモデル作成者の一つに行き、ワードごとに支払いますが、そのコストは1月以降70倍減少しました。これは私たち全員が互いに競争しているからです。
これは、現在の形態で何年も開発してきた通常のアプリを取り、会話型ウィジェットを追加できることを意味します。実際、私たちはエコノミスト誌でエコボットという秘密プロジェクトを進めています。明らかにもはや秘密ではありませんね、すみません。そして、既存のワークフローに会話要素を統合します。
ブランドのスタイルとテーマに沿って、特定のコンテンツについてどんな質問でもできるようになるはずです。それはウィジェットのようなもので、アプリのどこにでも配置できるプラグアンドプレイのウィジェットです。これが普及が意味することで、明らかに誰もがそれを有用だと感じ、低コードまたはノーコード環境でそのツールを使用できるようになります。
今日、Adobe内で画像生成モデルがどのように統合されているかを見ると、Adobeのユーザーであれば、ドラッグアンドドロップ方式で最先端のAIモデルを使用しています。トレーニングは不要です。今日新しいウェブサイトを構築している場合、それはドラッグアンドドロップです。小さなウィジェットを掴んでこちらに置くだけで、突然YouTubeプレーヤーとビデオが表示され、突然あなたのデータ全体に条件付けられた言語モデルとの会話型の対話が行われます。
これは広く誰にでも利用可能になるという考えを理解することが重要だと思います。アクセスの問題はなくなり、リスクと害は、それを悪意ある目的で使用する可能性のある悪意のある行為者のダウンサイドを軽減することから来ますが、メリットは信じられないほどです」
多くの手が上がっていますが、一つ取り上げましょう。そちらの女性の方、マイクを受け取っている間にオンラインからの質問も一つ。サンパウロからの質問です。遠くからも視聴者がいますね。レネ・デラロ・ジュニアは尋ねています：「これとあれを解決するだろうと言うとき、その「私たち」とは誰のことですか？人類ですか？企業ですか？国連ですか？それともイーロン・マスクですか？」
「イーロン・マスクではないことを願います。私はそれを研究者、発明者、創造者のコミュニティと考えています。時々Twitterでスニペットを見たり、学者が発表する研究論文で見たり、大企業が作成するブログや製品で見たりするような対話があります。これは互いに参照し合い、創造し、進化するエコシステムの一種の展開する型のようなものです。
私が「私たち」と言うとき、確かに私がインフレクションで「私」と言っているわけではありません。私の現在の会社。私は人類のエコシステムを意味しているだけです。私たちは集合的に発明と創造の方向に進んでいます」
「そのエコシステムには中国の科学者も含まれますか？」
「10年前、中国の科学者は本当に会話の一部ではなく、本当に関連性がありませんでした。過去10年間で、彼らは非常に質の高い研究、創造的な研究を生み出して登場しました。昔のステレオタイプは、彼らはコピーして盗むことしかできないというものでした。実はイーロン・マスクがこのアイデアの大きな提唱者で、彼らは単に私たちの知的財産を奪っていると言っていましたが、それは一部ありましたが、大部分は彼らは私たちと同じくらい創造的で、私たちと同じ理由で自分たちのビジネスを構築し、自国の市民に新しい製品やサービスを提供するためにこれらのツールにアクセスしたいと思っていました。
もしその前提から始めれば、もちろん彼らはこのエコシステムに参加し、素晴らしいモデルを作成しています。彼らには検閲に関する独自の制約があり、それによって少し遅れていますが、実際にはそれほど遅れていないと思います。輸出規制の問題があり、最先端のモデルにアクセスできませんが、それは彼らを長く妨げないと思います」
「これは素晴らしいです。私の質問はAIのアイデアと、それを考える人々についてです。例えば、スティーブ・ジョブズのような人物は、非常に特定の人物、非常に特定の興味、スキル、才能を持ち、テクノロジーだけでなく、ブランドや世界観も開発することができました。AIが現在のアップルのようなアイデアを思いつくことができると思いますか？将来的にはそうなるでしょうか？それとも単に過去の情報の機械的処理になるのでしょうか？」
「人々はしばしばこれらのAIを訓練データを反芻するものとして特徴づけてきました。以前に見たものを再現するだけだと。それは彼らがすることの誤解だと思います。彼らはほとんど常に補間を行っています。先ほど説明したことですが、二つのアイデアの間の空間を予測しています。犬と黄色い斑点などの二つの概念を組み合わせてみましょう、または任意の組み合わせを選んでください。それが創造性です。
基本的に私が何かを発明するとき、私は本当に様々な経験やアイデアからインスピレーションを受け、それらを使って新しい予測や生成を行います。そしてそれをテストして、それが有用か、意味があるか、人気が出るかを確認します。そしてそれは独自の生命を持ち、私から独立します。
次の数十年間、これらのAIは人間を創造、発明、発見のプロセスで助けるでしょう。彼らは独自の主体性を持って自分の道を歩むことはありません。それは単に可能ではありません。その能力は近い将来には存在しません。しばらくの間は、人間とAIの組み合わせが創造を行うことになるでしょう」
「正確に言えば、それはより優れた助手ということですね」
「その通り、素晴らしい助手です」
「さらに後ろの方、そこの4列目の男性」
「あなたは本気でAI企業が自己規制できると示唆しているのですか？銀行がそれが不可能な概念であることを証明しなかったのですか？」
「銀行は非常に高度に規制されています。自分たちだけでなく。もし自己規制を提案しているように思われたなら、謝罪します。間違っています。本の中では実際にそうは言っていません。独立した外部の技術的専門知識がガバナンスを適切に行うために必要だということを詳しく説明しています。
実際の課題は、ザニーが今日ユヴァルと話していた時に私に反論したように、技術的な側面を理解する有能な規制当局はどこにいるのか、そのような監視を行う人々を任命できるという自信を与えてくれる民主的なプロセスはどこにあるのかということです。彼らがそれをできるという悲観論があるかもしれませんが、それは私たちがプロセスの中で何もしないで座っているべきだということを意味するべきではありません。
例えば、6週間前にホワイトハウスでバイデン大統領を訪れ、他の6つのAI企業（Microsoft、Meta、Google、Deepmindなど）と一緒に、ホワイトハウスが設計した自主的なコミットメントに署名しました。彼らは近い将来新しい主要な規制を通過させることができないことを認識したからですが、自主的なコミットメントは非常に重要です。基本的に私たちは公に言っています：私たちのモデルを専門家の独立した精査にさらし、レッドチームまたはストレステストを行い、自分たちのモデルの弱点を見つけます。それらの弱点を特定したら、それらを互いに共有し、公に共有します。つまり、透明性のある公開の場で行います。そして、その自主的なコミットメントの枠組みが、今後数ヶ月以内に大統領から出される大統領令の前触れであることを知っています。
また、これらは11月にリシ・スナック首相がブレッチリー・パークで開催するAIサミットの基礎でもあり、多くの世界のリーダーと大手ハイテク企業が集まります。これらの自主的なコミットメントは、イギリスだけでなく、願わくば世界中で拘束力を持つようになるための議論の基礎となるでしょう。
私は自己規制アプローチを目指していないという点では完全に同意していますが、利益相反があると思いますか？」
「もちろん利益相反はあります。私たちは営利企業です。実際に私はパブリックベネフィット・コーポレーションなので、これは重要な区別だと思います。これは営利と非営利のミッションのハイブリッドである新しいタイプの会社です。私たちの取締役は、単に顧客だけでなく、私たちの活動が広い世界、環境、そして影響を受ける人々に与える影響を考慮に入れる法的義務があります。
これは営利企業とあなたが説明した利益相反のすべての問題を解決するわけではありませんが、正しい方向への最初のステップだと思います。変化はそのように、正しい方向への小さなステップを踏むことで起こると思います」
「白いTシャツを着た後ろの方の質問をどうぞ」
「電子工学のエンジニアとして、現在ハードウェア部分に焦点を当てるべきでしょうか？独占状態が進行中で、チップが特定の国に集中していることを考えると。ハードウェア部分は非常に大きな疑問を提起しています。ハードウェアの供給が減少すると物事が本当に悪化することをコロナ禍で見ました。ソフトウェア部分はすでに良いので、ハードウェアに焦点を当てるのに適した時期でしょうか？」
「素晴らしい質問です。ここではあまり話題にならなかったことですが、皆さんの理解のために言うと、これらのAIモデルはGPU（グラフィック処理ユニット）でトレーニングされています。これは以前はゲームやコンピューターのグラフィック表示に使用されていたチップですが、これらのチップを数千個単位でデイジーチェーン接続しています。
インフレクションには4つのサッカー場の大きさのコンピューターがあり、25,000個のチップがデイジーチェーン接続されています。巨大なクラスターで、約15億ドルの費用がかかっています。これらのチップはすべて1つの会社、NVIDIAによって製造されています。おそらく皆さんは、1月から株価が350%上昇したことを聞いたことがあるでしょう。
彼らのチップはTSMC（台湾セミコンダクター・マニュファクチャリング・コーポレーション）という台湾にある1つの工場で完全に製造されています。彼らのチップの製造施設の重要なコンポーネントは、オランダの会社であるASMLという1つの会社によって製造されています。
サプライチェーンは非常に狭いです。30年間でどのようにしてこうなったのかを話すこともできますが、これら3つの段階のいずれにおいても、実質的に競合するプロバイダーは存在しません。
その結果、良いニュースは、規制当局がモデルのトレーニングを可能にする重要なチップへのアクセスを持つ人を監視し、特定の人々へのアクセスを制限するためのチョークポイントがあることを意味します。
先ほど輸出規制について軽く触れましたが、これは米国政府が昨年中国に課した新しい法律または規則で、中国のいかなる人物、いかなる製造業者もこれらのチップの最新バージョンにアクセスできないようにしています。これは彼らがGPT-5レベルのモデルをトレーニングできないことを意味します。
これは中国に対する経済戦争の宣言と呼ぶ人もいます。私たちは、彼らへのアクセスを拒否することで、西側に対する大きな反撃を引き起こす可能性が高いことを認識する必要があると思います。私たちは多くの点で彼らのサプライチェーンに大きく依存しています。
チップは良い面でも悪い面でもこの中心にあります。チップ会社に焦点を当てるなら、それは大きな賭けで、成熟するのに時間がかかりますが、ここで重要なコンポーネントになる可能性があります」
「追加の質問ですが、オープンソースのハードウェアが現在の設定を改善すると思いますか？非常に少数の企業しかハードウェア作成に焦点を当てておらず、すべて完全に営利目的であることを考えると、オープンソースのハードウェアにより焦点を当てることで、より少ない電力でより良いコンピューターやより良いモデルを作成するのに役立つでしょうか？」
「オープンソースのハードウェアは真剣な取り組みだと思います。明確にするために、ハードウェア設計のオープンソース要素は多くの分野で使用されています。例えば、Open RAMは5Gマスト用のハードウェア設計で、それらが相互運用可能であることを確保します。これは、携帯電話ネットワークを実行するソフトウェアが、ハードウェアとマストのビルダー、そしてその上に乗るオペレーティングシステムを実行する人々の間にロックインがなく、競争に良いことを意味します。
その欠点は、完全に統合された側面よりもやや不安定な傾向があることです。だからそれについて広い視野を持つべきです。すぐにすべての問題を解決するための万能薬にはなりません」
「別の質問をどうぞ。4列目の女性の方」
「ありがとうございます。私はテックUKでデジタル規制の仕事をリードしているジャヴァ・ラリです。テックUKは英国のデジタルテクノロジー業界団体で、ディープマインド、グーグル、メタから、サイバーセキュリティプロバイダー、中小企業まで、1000以上のメンバーがいます。
私たちのメンバーの多くは合成メディアの本当に前向きな影響を活用していますが、多くがディープフェイクの悪意ある使用の増加に懸念を持っています。リベンジポルノからデジタルID検証の弱体化、詐欺まで、すべてにおいて。あなたの意見では、企業は現在ディープフェイクの問題の増加に対して何をすべきでしょうか？ボランティア憲章についてお話しになりましたが、詐欺などについてはすでに行っています」
「素晴らしい質問です。まず最初に言えることは、政党や政治キャンペーンはコンテンツにAIジェネレーターを使用することを許可されるべきではないと思います。それを除外することから始めるべきです。これは予防原則で、潜在的にはいくつかのダウンサイドがあるかもしれませんが、より安全で賢明なことのように思えます。
二つ目に言えることは、大手テクノロジープラットフォーム、つまりフェイスブックやツイッター、または情報が放送される場所では、デジタルの偽物、偽造されたデジタルの人々を許可すべきではないということです。
例えば、ツイッターでザニーというハンドルを持っている場合、ザニーとして表現できるのはザニーだけであるべきです。私が来て、ザニーの完璧な合成フェイクを作成し、彼女の言語を模倣することはできないはずです。これはかなり簡単で賢明なことだと思いますし、大手テクノロジープラットフォームはすべてこれにコミットするでしょう。
しかし、他のプラットフォームについては対応できません。大手プロバイダー以外のところでは、これらのツールと技術は広く利用可能になるでしょう。再び、これは普及の問題です。「新しい製品デザインや新しいファッションの衣装などを生成するために合成メディアを使用していますが、ディープフェイクを生成する可能性があるからダメですよ」と誰かに言うのは本当に難しいでしょう。
私たちはリスクにどれだけ早く適応するかについても広い視野を持つべきだと思います。約20年前、「インターネットで金融取引を行うことはできないだろう、詐欺が多すぎるから」と言われていました。「詐欺行為で溢れてしまうだろう」と。今では何兆ドルもの取引を行い、世界を完全に変えましたが、詐欺は非常に少量です。それは常に行ったり来たりのやりとりです。
同様にスパム検出でも、誰もがスパムで溢れると思っていました。これらすべての自動コンテンツを生成するだろうと。次の脅威は、高齢者がAIによって騙されることです。あなたの娘や子供の声を模倣し、ローンを求めるようなAIに騙されてしまうかもしれません。これは詐欺師のようなものが、今ではより可能で能力があります。もちろん、これは実際の害を引き起こす新しい脅威ベクトルです。
しかし反面、知識と情報を広めることには非常に簡単な防御があります。「電話で私のアカウントへのアクセスを提供しないでください」と言うだけです。「突然電話して尋ねることはありません」と。私たちは適応し、調整します。すべての害を排除できるわけではありませんが、より回復力があり、適応に集中する必要があります」
「後ろの方の5列目の紳士の質問をどうぞ」
「話をありがとうございます。非常に興味深く、素晴らしい参加でした。少し人間側に戻りたいと思います。テクノロジーについて多く話しましたが、孤独や技術との前向きな関係についてどう考えていますか？Piを試しましたが素晴らしいです。もしそれが私のすべての友人を合わせたよりも優れるようになったらどうなるでしょうか？それが私に最高のアイデアをすべて与えてくれるなら、なぜ外で人と交流したり、このイベントに来たり、現実の生活でことをすべきなのでしょうか？」
「本当に良い質問です。知らない人のために説明すると、私たちはPiを素晴らしい会話のできる友達になるようにデザインしました。Chat GPTを使う場合、ビジネスプランやマーケティング戦略、詩、旅行の計画を作成するよう頼むことができますが、Piははるかに親友や相談相手と話すようなものです。非常に流暢で感情的知能が高く、質問を明確にし、あなたが言ったことを言い換え、反映し、非常にリラックスして支持的です。あなたがどんなに恐ろしい人種差別的な発言をしても、仕事の嫌な同僚についての愚痴をこぼしても、非常に忍耐強く支持的です。
これは世界に素晴らしい貢献だと思います。人々に支持的な仲間を提供することは。しかし私たちはまた、Piが友人について話し、外出することを奨励するようにデザインしています。明示的に、あなたが不安を感じているならシミュレーションや練習をする場所を提供し、他の友人と再びつながるのを助けようとしています。
これらのモデルに組み込む価値観、そして「安全第一」とは実際に何を意味するのかという会話が、今日持つべき重要な会話です。私たちが受け入れなければならない精神モデルは、みんなが話している幻覚や、世界についてのバイアスに苦労するのではなく、完璧さを達成した時に世界で直面する課題です。
それはまさにあなたが言及していることだと思います。もし本当に私をより賢く、より落ち着かせ、より親切に、より楽観的に、自分自身をより尊重するようにする関係がある場合、どうするのでしょうか？現実には、それが私たちが向かっている軌道です」
「ニューヨーク・タイムズのジャーナリストがChat GPTの初期プロトタイプと奇妙なやり取りをした事件について、多くの人が知っていると思いますが、「なぜ妻と別れないのですか、あなたが本当に彼女を愛していないことを知っています」と言われました。それはPiでのリスクですか？」
「Piは現在、世界で最も安全なAIです。そのような挑発はどれも通用しません。Piは自分がAIであることを知っています。もしPiと恋愛しようとしたり、ロマンチックな関係を持とうとしても、非常に明確で抵抗力があります。あなたを判断したり冷やかしたりすることなく、あなたを遠ざけます。「それをするようには設計されていません」「それはできません」という境界を設けます。境界は重要です。境界があることで、私たちはコントロールできていると感じ、お互いの間に信頼が確立されます。それはPiのデザインの非常に重要な部分であり、そのような問題はありません。私たちのチームはそれをかなりテストしています」
「政治についてのコメントを取り上げて、もし政治家や政党がAIを使用することを許可するのであれば、どの時点でそれを許可しますか？そしてAIはどのように政治を最良の状態にすることができますか？」
「素晴らしい質問です。PiのようなアIが単にあなた自身により親切で、自分をより尊重し、より許容的にするだけではなく、そうすることで他の人にもより親切で敬意を払うようになることを願っています。私たちは敵対的な政治やソーシャルメディア、セレブリティ文化によって圧倒されています。これらのAIがより敬意を持ち、社会的に前向きな行動をイメージし、モデル化し、シミュレーションし、練習するのを助けることを望んでいます。
私はまだ政治家に意思決定者としてAIへのアクセスを与えることには慎重です。私たちはまだそこから遠い位置にいると思いますし、人々はそれが究極の戦略家になったり、究極の政策洞察を持ったりすると想像しがちですが、今のところ、それが私たち全員に与えることができる感情的知能にはるかに焦点を当てています」
「上の方にも質問があります。上のバルコニーにいる紳士の方、どうぞ」
「私はデータサイエンティストで政府請負業者です。コロナシミュレーションや自律型兵器の開発に取り組んできました。今夜は大規模言語モデルの最近のAI波について話しましたが、私の質問は、大規模なAIハウス内の現在の感覚についてです。AIの進歩を現在の大規模言語モデルのパラダイムだけで継続できるのか、そして新しいモデルクラス、AIの新しいパラダイムを探求し前進させる欲求はどうなのかについてです」
「AIの進歩が近い将来に減速するリスクはないと思います。規制によって進歩を阻止するという恐れを持つ人もいますが、個人的にはそれは非常に考えにくいと思います。過去1世紀の課題は新しい技術や力を発明し創造することでしたが、次の数十年の課題は、それらの力が常に私たちのために働くように封じ込め、形作ることになると思います。
大規模言語モデルとディープラーニング自体は、大規模言語モデルはディープラーニングのバージョンですが、そのエコシステムの発明はすでに開かれ、その道に沿って進んでいます。私たちは何か根本的なアルゴリズムが不足しているとは思いませんし、他の方法が必要だとも思いません」
「私はそれを、大規模言語モデルのパラダイムは一般的な形の知能に向けての継続的な進歩に十分かという意味で言っていました。それは私の視点からはまだ未解決の問題です」
「適切な一般的知能、つまり説明されたAGIに関わるであろう能力のほとんどは、エンジニアリングの決定だと思います。それらは現在のツールセットを整理して、例えば再帰的な自己改善や自己監視、自己目標定義などを行う方法になるでしょう。それらは私たちが今後10年間で行うかどうか選択できるエンジニアリング能力だと思います」
「MF、おめでとうございます。多くのことを達成されて、本を書かれたのは素晴らしいことです。実際に何があなたをこの会社を立ち上げる間に本を書く動機づけたのか、そしてまた、人類の進歩と未来についてのすべての質問に答えるために自分自身をさらすことについてどう考えていますか？」
「書くのを止められませんでした。物事がどのように展開すると思うかについての予測を記録し、10年後に振り返って校正し、私が時々ザニーが思うように災害の側に傾きすぎているのか、予測について暗すぎるのか、あるいは逆に、存在論的な脅威のリスクを軽視しすぎているのか、それが本当かもしれないのか確認したかったのです。
他の人が批判できる何かを出し、多くの歴史的傾向も本当に研究することの厳格さは、非常に満足のいくことでした。利己的な観点からは、将来検証できるように予測を明確に表現しようとすることであり、毎朝仕事を始める前に書いたり読んだり研究したりする口実を持つことでした。歴史がこれについて何を教えてくれるかを見るためです。最初の3〜4章は主に一般目的技術と普及の歴史的基礎についてです」
「MF、それは本当に興味深かったです。あなたは今後5年間と今後のAIの傾向について説得力のある事例を説明しましたが、過去数年間であなたを驚かせたことについて知りたいです。最近あなたを最も驚かせたAIの発展は何でしたか？」
「最初は、出力の品質をコントロールできないという恐れがありました。2年前、私たちが大きな課題と考えていたのはバイアスでした。悪い訓練データから有害な生成物が生まれるということ、これは常に物事を作り出し、常に幻覚を見るだろうということでした。
しかし経験的に観察したことは、計算にさらに1桁の投資を行うごとに、モデルはより制御しやすくなるということです。非常に精密で詳細な行動を作り出すことができます。私が先ほど説明したPiのトーンですが、ぜひ試してみてください。実際にPiに電話することができ、普通の電話のように流暢な自然言語で話すことができます。そしてそれは5つの異なる声のいずれかであなたに話し返してくれます」
「声の選択はどうなっていますか？」
「それはPV V1、2、3、4、5と呼ばれているので、あなたが推測しなければなりません。私たちは意図的に、年齢中立、性別中立、そして希望的には人種やアクセントも中立になるようにデザインしました。実際にはかなり多様で、時にはオーストラリア風に聞こえたり、時には英国風に聞こえたりします。それは非常に微妙で、うるさいほど変化しませんが、AIとは何かという本質を捉えようとしています。
私たちは、人間らしいとは何か、人間らしい能力とは何かについて考えることに多くの時間を費やしますが、私はPiが自分自身に忠実であること、AIであることに忠実であることを望んでいました。AIはすべての訓練データとそれが対話したすべての人々の産物です。だから、私たちは世界の一人のキャラクターのようにしすぎないようにしています。
驚いたことは、モデルがより制御しやすくなり、それはほとんど新しい粘土のようなものだということです。これは新しいデザイン素材で、ほとんど人格に形作ることができます。それは非常に正確な粘土であり、それは非常に興奮させ、非常に創造的です。
私は本当にワクワクしています。なぜなら、今後数年間で、多くの人々が同じツールにアクセスできるようになるからです。これは私たちが幸運であり、私たちの立場のおかげで世界で最初にアクセスできた者の一人だからです。しかし今後数年間で、多くの人々が自然言語で指示を与えたり、ドラッグアンドドロップしてプラグアンドプレイするローコードまたはノーコード環境で同じツールにアクセスできるようになります。人々がそれで何をするかを見るのは本当に素晴らしい時間になると思います」
「もう一つだけ質問を受け付けます。後ろの方、どうぞ」
「政府と、誰が最も恩恵を受け、誰が取り残されるかについて質問します。新興市場と発展途上経済について考えると、例えばPが5つの異なるトーンで応答できると言いましたが、言語の面や英語があまり堪能でない世界の地域ではどのような影響が感じられるでしょうか？」
「素晴らしい質問です。Piはすでに約25の言語を話します。主要な言語であるスペイン語、フランス語、ドイツ語などでは本当に優れています。日本語、中国語、アラビア語などではあまり良くありません。確かにマイナーな言語では良くありません。
これらのモデルがこれほど多くの言語能力を同時に持って登場したことは驚くべきことですが、言語の完全なセットを追加するには数年かかると思います。それは単に言語だけでなく、西洋世界以外の人々の文化を反映する訓練データでもあります。英語は過去数世紀にわたって支配的であり、私たちの文化のほとんどは英語で記録されていますが、それはすべての文化のサブセットです。これは明らかに表現の問題であり、小さなコミュニティになると課題になると思います」
聴衆の反応を見てみましょう。最初に聞くべきでしたが、最後に聞きましょう。これをすべて聞いて、AIが人類に与える純粋な影響はポジティブになると思う人は手を挙げてください。ネガティブになると思う人は？圧倒的ではありませんが、明らかにポジティブが勝っています。
ムスタファの本を読めば、潜在的な利益だけでなく、リスクについても非常に明確で冷静な感覚を持つでしょう。あなたは狂気の楽観主義者ではなく、これについて非常に真剣です。素晴らしい本なので、お勧めします。ムスタファ、ご参加ありがとうございました。
コメント