オープンAIは製品をどんどん放棄しています。彼らは機械の神を作ろうとしているのです。優秀な人材がいれば、AGIのための次の技術を開発させるでしょう。コンピューティングパワーがあれば、それにも投入します。ちなみに、彼らは今年、ほとんど偶然のように30億ドルの年間売上を達成しそうです。現時点では本当の製品はありません。チャットボットとAPIだけです。この分野の多くの人々は、スケールが問題を解決すると単純に考えているようです。現在の本当の問題は、世界中のスタートアップがAGIに賭けていないことです。これは面白いですね。なぜなら、資金提供者たちは「ええ、AGIは今後5年以内に来るでしょう」と言っているからです。もしそうなら、なぜこれらのスタートアップ企業に資金を提供しているのでしょうか。AGIの世界では、それらの企業は生き残れないでしょう。
さあ、イーサン。この対談をとても楽しみにしていました。私はあなたの大ファンなんです。今日は参加してくれてありがとうございます。
ありがとうございます。私は長年起業家教育の教授をしていました。AIの仕事が知られる前からです。なので、VCや起業の世界とつながることはいつも素晴らしいことです。
あなたの仕事を知らない人のために、60秒でご自身の仕事と、ここ数年でどのように有名になったかを紹介していただけますか。
私自身も元起業家です。90年代後半に共同創業した会社で、ペイウォールを発明しました。今でもそのことで償いをしているような気分です。その後、MITで訓練を受け、それ以来ウォートン校で起業家教育の教授をしています。起業家がどのように成功するかについての研究や教育を多くしていますが、同時にAIと教育について考えることも副業的にやってきました。メディアラボでAIの創始者の一人であるマービン・ミンスキーと働いていた時、私は非技術系の人間として、研究所の仕事を世界に翻訳しようとしていました。それ以来、起業家教育をスケールアップするためのツールを開発してきました。起業家教育の小さな部分が人々の人生に大きな違いをもたらすことがわかったからです。AIやその他のツールを使って実験してきました。
AIが登場した時、私は奇妙な立場にいました。実際にこれらのツールを長年実用的に使っていたのです。他の人々がこれらを真剩に受け止めていたのは、主にコンピューターサイエンティストだったことがわかりました。私はビジネスや起業家精神、教育の分野の知識があり、これらは実際にかなり有用だったのです。そして、すでにかなり多くのTwitterフォロワーがいたので、私はある意味でこの分野のゴ トゥーパーソンになりました。そして、マシュー効果のようなものがあり、すべての研究所が私と話すようになり、すべてのインサイダー情報を得るようになりました。その分野では一種の自己強化的な予言になるのです。
ちなみに、あなたのTwitterのゲームは素晴らしいです。どうぞそのまま続けてください。大好きです。
さて、始めたいと思います。タイミングもぴったりですね。昨日、新しいLlama 3.1モデルがリリースされました。イーサン、あなたの考えをぜひ聞かせてください。予想通りでしたか。
Llamaモデルには4〜5の興味深い側面があります。オープンウェイトやオープンソースの一つのモデルについて話すこともできます。最先端の最新モデルに追いついたことは驚きませんが、クロ ズドソースの研究所が近い将来にどれだけの弾薬を持っているかを人々はおそらく過小評価していると思います。しかし、オープンソースのGPT-4級のモデルができたのは素晴らしいことで、それはすぐにあらゆる所で使われるようになるでしょう。そのモデルによってどれだけのギャップが埋まるかは興味深いですね。
以前は、モザンビークの子供たちがGPT-4を通じてアクセスできるAIよりも劣ったAIしか持っていなかった国家政府もありました。今では、オープンに利用可能で微調整可能なモデルができました。AIによる奇妙な効果が遅れて起こるのを見ることになるでしょう。実際に使ってみると、かなり良いです。現時点ではClaudeと比べて際立っているわけではありませんが、すぐにそうなるでしょう。人々が取り組んでいくからです。そして、これはダウンロード可能なオープンウェイトモデルなので、大きな意味を持ちます。
クロ ズドソースのプロバイダーが次のリリースでそのギャップをどれだけ埋めると思いますか。
多くのことがわかっていません。モデルをトレーニングする人々でさえ、多くのことを知りません。ここで奇妙なのは、モデルをトレーニングする人々は基本的にみなコンピューターサイエンティストだということです。彼らは自分たちのシステムの影響についてあまり大きなアイデアを持っていません。オープンAIがGPT-3.5をリリースした時、高等教育を破壊し、みんなが不正行為をするようになって再構築しなければならなくなるとは予想していませんでした。すでに不正行為は行われていましたが、今では本当にうまくやっています。世界がどのように機能するかについて大規模な見直しが必要になるとは予想していなかったのです。
次世代のモデルはより賢くなるというのが、私がみんなから聞いている話です。指数関数的な成長が続くかどうかはわかりません。それが現実世界にどう影響するかは別の問題です。
イーサン、私が難しいと感じるのは、毎週Twitterを見ると、異なるプロバイダー間で支配力の移り変わりがあることです。オープンAIが何かをすると「すごい!」となり、次にClaudeが何かをすると「すごい!」となり、Llamaが何かをするとまた「すごい!」となります。毎週、これが勝者で他は負けているように見えます。そしてこの変化があまりに速くて移ろいやすいので、どこに注目すればいいのかわからなくなります。これは理解できることですか。
ソ シャルメディアがこういったバズを好むのは助けになりません。普通の人々は座って見ているだけで、みんなチャットGPTを使い続けるでしょう。それを使っているのだから。徐々にClaudeに移行するかもしれませんが、熱狂的なコミュニティは外の世界の人々とは非常に異なります。
大局的に見れば、本当に重要なのはこれらのモデルがいつ頂点に達するか、そしてそれにどれくらい時間がかかるかです。ある時点で誰がリードしているかを気にするよりも、大きな研究所はみな開発を続けるということの方が重要だと思います。Llamaには、普通ではない何か秘密の突破口を示すようなトリックは本当に何もありませんでした。他の研究所に非常に異なる秘密のソ スがあるかどうかはまだわかりません。ある意味でとても初期の段階なのです。
私のような、この技術に熱狂的な人なら、ぜひフォローして、MLAの評価を追い続けてください。しかしそれ以外の人は、この段階で細部にこだわる必要はないと思います。人々はできることを過小評価しているように思います。
わかりました。頂点に達することについて触れましたが、それが起こった時のことを議論する前に、あなたが著書で強調している4つの潜在的な結果について始めたいと思います。フレームワークとして役立つと思うので、まずそこから始めましょう。4つの潜在的な結果とは何ですか。
4つの結果のうち、Twitterやメディアが本当に話題にしているのは1番目と4番目だけです。まず1番目と4番目について説明し、その後で退屈な中間の選択肢を説明しましょう。
オプション1は「これで終わり」です。モデルはあまり良くならないか、この騒ぎ全体が消えてしまうというものです。これはありそうにありません。モデルは良くなっていくでしょうし、私たちはまだそれを仕事に統合し始めてもいないからです。現段階では、人々はチャットボットと会話をするという狂気じみたプロセスで仕事に使っているのです。まだシステムを人間のシステムに統合する段階には至っていません。
しかし、物事が一定のレベルで安定する可能性はあります。その場合、現在のシステムを人間のシステムにゆっくりと統合していく10年ほどの期間があるでしょう。経済的な改善は見られるでしょうが、おそらく大規模な大きな変化は見られないでしょう。ただし、一部の産業は他よりも大きく変化するかもしれません。例えば、現在のシステムで写真や顧客サービスが大きく変わる可能性が高いと思います。これがオプション1です。大したことは起こらない。
次にオプション4は「機械の神」です。AGIとスーパーインテリジェンスを達成し、機械が人間より賢くなり、知能の爆発が起こり、その後何が起こるかわかりません。私たち人類は数十万年の良い歩みをしてきましたが…後継者が何になるかを考えることになるでしょう。これについては多くの執着があります。推進派も批判派も、まずこのことを考えるからです。スーパーインテリジェンスについてです。
より一般的なシナリオは、技術が指数関数的に成長し続けるか、能力が線形に成長するかのどちらかだと思います。これに対する準備が不足していると思います。
この分野のトレンドラインを見ると、みんなすべてのモデルがここから指数関数的に成長するか、すべてが頭打ちになるかを予測しようとしています。しかし、より可能性が高いのは、来年にはAIがコンサルタントの上位80パーセンタイルのレベルになり、その次の年には85パーセンタイル、90パーセンタイル、81パーセンタイル、80パーセンタイルというように変動することです。私たちにはわかりません。
大部分は、モデルが毎年少しずつ良くなっていく線形成長の世界だと思います。これは指数関数的に成長し続け、AGIの世界に近づいていく世界よりもはるかに調整可能です。正しいかどうかはわかりませんが。
私はいつもiPhoneのリリースについて考えます。最初のiPhoneでは、初期のリリース、3から4への移行などで大きな違いがありました。その後、少しずつカメラが良くなり、バッテリーが良くなり、計算機のボタンが少し大きくなるといった具合になりました。AIが持っている、あるいは人々がAIが持っていると信じているもので、開発の脱出速度を達成し、決して平坦化しないと信じられているものは何でしょうか。
今はまさに、技術の最上位にいる典型的な段階です。新しいiOSのリリースで計算機が大きな要因になっているような段階です。これは私には面白いと思えます。
プロセスとしてのムーアの法則を見ると、実際には数年間にわたって持続的な指数曲線を描いています。違いは、基礎となる技術が次々と入れ替わっていくことです。本当の問題は、この最上位の知能が何をできるようになるか、その上限は何かということです。
AIの限界は人間の仕事を完全に代替できるほどなのでしょうか。現時点では、研究用AIは不均一です。一部のことは非常に得意ですが、他のことは非常に苦手です。その結果、人間の仕事のすべてを代替することはできません。どんな機械でもそうですが、仕事の一部は素晴らしくこなし、他の部分は悪い仕事をします。問題は、この不均一性が克服できるかどうかです。これらの質問に対する答えはまだわかっていません。
ケビン・スコットは常々、コンピューティングパワーがすべての問題を解決すると言っています。多くの人々は、パフォーマンスはコンピューティングパワーによって答えが得られると信じてきました。一方で、Scaleのアレックス・ワンのように、データがコアのボトルネックだと言う人もいます。コンピューティングパワー、データ、アルゴリズムについて考える時、現在そして今後12〜24ヶ月のパフォーマンスのコアボトルネックは何だと思いますか。
その質問に答える前に、まず対照的な見方を示したいと思います。それは、ほとんどの人にとってはどうでもいいことだということです。例えば、LLMが頭打ちになり、マンバなど他のものに切り替える必要があるとしても、誰も気にしません。人々はこれらのシステムを使っているのです。TRのような専門家の混合など、細かいことを見ていくと、スポーツゲームのように誰が勝っているか、どういう状況かといったことに注目しがちですが、トップラインの能力が重要なのであって、そこにはまだ多くの余地が残されています。
私にとって、これらのコンピューターサイエンスの議論で取り残されているのは、システム、人間のシステム、これらのものが相互作用しなければならない組織のシステムです。そこにもっと成長が必要だと思います。
とはいえ、ボトルネックが何かはわかりません。科学の歴史には「逆突出部」という概念があります。技術は前進しますが、常に何かが遅れていて、すべての努力がその遅れを修正することに向けられるというものです。電気の初期の頃は、発電機はありましたが、送電が問題でした。そこで送電を改善するために膨大な作業が行われました。現在の新しい電気経済では、バッテリーがそうです。太陽光パネルは良いのですが、バッテリーが良くないので、バッテリーに膨大な作業が向けられています。
私は、私たちはただ一連の逆突出部に直面するだけだと感じています。例えば、データパイプラインが十分に良くないとします。では、実世界のデータや合成データを使う方法はあるでしょうか。あるいはこれが終わりなのかもしれません。しかし、科学のすべてが一つのことに集中すると、私たちは前進する方法を見つける傾向があります。
私は、遅れている指標が何かについて一連の議論があり、そしてそれが解決されるとみんなそれを忘れてしまうのだと思います。それは悪いアプローチではありません。それはむしろ技術がどのように機能するかということです。なぜなら、お金はすべて逆突出部にあるからです。データが行き詰まっている分野で10億ドルを稼ぐことができるなら、あなたはデータ企業になります。これは資本主義と科学が働いているようなものです。困難な問題は、すべてのお金と名声が得られる場所なのです。
あなたは以前、お金がどこにあるかについて素晴らしい類推を言いました。多くの人々がゴールドラッシュにおけるつるはしとシャベルの類推を使いますが、あなたはそれはあまり良い類推ではなく、蒸気機関の方が適切だと言いました。なぜその類推が良くないと考え、なぜ蒸気機関の方が適切だと考えるのですか。
類推は非常に強力です。そして私たちはAIについて非常に悪い類推を持っています。VCの人々はこれに惑わされています。「つるはしとシャベルを売りたい」という話をよく聞きますが、まず、みんながそれを少し違って定義しています。「いや、コンピューティングパワーを売りたいんだ」とか「人々がスケールアップするのを助けるツールを売りたいんだ」とか言います。それが実際に何を意味するのかは100%わかりません。
しかし、もっと深い問題は、新しい技術が組織に広がる方法がそうではないということです。金を掘ろうとする人々につるはしとシャベルを売りたいのではありません。代わりに、この新しい技術を使う方法を見つけ出すことが重要です。そしてそれにはゴールドラッシュの類推は全く当てはまりません。
代わりに、蒸気機関の秘密は、ジェームズ・ワットの蒸気機関そのものではありませんでした。それは確かに重要な大きな突破口でした。ちなみに、興味深いことに、ワットの特許が切れるまで物事は本当に動き出しませんでした。そして、オープンに適応できるようになりました。
しかし、蒸気機関の本当の価値は、工場に熟練した職人がいて、「往復運動をする力を持っているけど、これをどうやって歯車につなげて、紡績機や弾薬製造機、瓶成形ツールにつなげられるだろうか」と考えたことから生まれました。すべてを機能させ、製造業者にすべてのお金を獲得させたのは、熟練した職人たちだったのです。
今、あなたは熟練した職人になりたいのです。LLMの往復する力を取り、それを組織内で使える仕事に変換する方法を見つけ出したいのです。
同意します。私を驚かせるのは、これらのツールを効果的に使う方法についての人間による説明が不足していることです。誰も「初心者のためのLLMの使い方」や「初心者のためのAIの使い方」というような本を書いていません。これは誰もが必要としているものなのに。なぜこれらのプロバイダーは、明らかに必要なことをしないのでしょうか。
シリコンバレーの人々と話すと、彼らは超知能のレースに非常に執着しています。それは完全に理解できます。機械の神を作ることができれば、あなたの勝ちです。これが背後にある秘密の物語です。スケールがすべてを解決するという本当の信念があるのです。時間を無駄にする最大の要因は、スケーリング以外のことをすることです。最も賢い人々はスケーリングに取り組まなければなりません。すべてのコンピューターはスケーリングに使わなければなりません。より大きなモデルがすべての問題を解決するでしょう。あなたが言ったように、それがシリコンバレーの見方です。
そこにはある程度の真実があります。ある非常に大きな金融機関と話をしましたが、彼らはGPT-3を利用した営業アシスタントツールの構築に多額の資金を投じました。しかし、チャットGPTが登場するとすぐに、そのツールは瞬時に時代遅れになりました。なぜこの種のことに取り組むのかと考えるわけです。当時は賢明なアイデアでした。彼らは曲線の遥か先を行っていたのです。
しかし、本当の問題は、その結果として、このようなものの使用がすべて放棄されてしまったことです。これらのものに対するマニュアルは存在しません。AIが得意なことと苦手なことについての一連の要点さえありません。その結果、私はこれを「噂によるドキュメンテーション」と呼んでいます。Twitterで17人くらいの人がLLMの働き方を理解しようとしているのを投稿していて、他のみんなはただチャットボットのように使っているだけです。非常に奇妙な状況です。
シリコンバレーについて、そして真の価値がどこにあるかについての彼らの考え方について言及しましたね。一方でヴィノッド・コ サは、そのような強力なモデルをオープンソースにすることはできないと言い、他方でマーク・アンドリーセンらは、それらはオープンソースでなければならないと言っています。あなたはどちらが良いと考えますか。
私は一般的に技術の進歩に賛成です。オープン性は人々に多くの本当に興味深いことをする自由を与えると思います。AIには、医療や教育分野で非常に明白な低木の実のようなチャンスがあり、良い医師や家庭教師にアクセスできない世界の大部分で非常に役立つと思います。そういったものにアクセスできる場所では、これらのことにAIを使うべきかどうかについてはもっと微妙な議論があります。
オープンモデルは大きな違いを生み、起業家精神を刺激すると思います。私たちは、ケニアですでにうまくいっていた創業者がAIからアドバイスを得るとさらに良くなることを知っています。オープン性には本当にワクワクするようなことがたくさんあります。
しかし、リスクもあります。人々が「すべてが一つのこと」だとか「もう一つのこと」だとか言うのは非常に奇妙に感じます。オープンモデルはすぐにガードレールを突破されると思います。すでに3〜4の低木の実のような脅威がわかっています。
人々は科学フィクションのような脅威を過度に心配していると思います。現時点では、ウイルスを作るのを助けるほど良くはありません。将来的にはそうなるかもしれませんが、今はわかりません。
私が心配しているのは、私たちのコンピューターセキュリティシステム全体が、スピアフィッシングが非常に高価であることに依存しているということです。これはスケールでスピアフィッシングを行います。それについてどう思いますか。これらのシステムは、非常に優れたカトフィッシングキャンペーンに利用されるでしょう。それについてどう思いますか。
このような会話がないように感じます。オープンモデルにはリスクと報酬の両方があると思います。このことについてあまり考えられていないように思います。現時点では、すべて企業戦略だと思います。メタは本当にモデルからお金を稼ぎたくないので、ライバルの邪魔をするでしょう。マイクロソフトはGoogleに対抗するチャンスがあるので、BingにAIを追加します。少数の企業の間で多くの駆け引きがあり、オープンソースAIの完全な意味がわかっていないと思います。これが超強力で何でもできるから高リスクだと言いながら、同時にそれほど大したことではないと言うのは少し奇妙です。
あなたは「多くの思考が投入されていない」と言いましたが、どのような思考が投入されるべきだと考えますか。どのような程度の思考と分析が適切だと思いますか。
これらのモデルに対する迅速な反応のために準備する必要があると思います。私が心配しているのは…トロント大学のジョシュア・ガンズ教授が、AIの規制についてとても良いモデルを持っていると思います。それはおそらく正しいと思いますが、新しい技術があるとき、どんな問題や課題が出てくるかわからないので、先行規制をするのではなく、何が良いか悪いかわからないので、何が起こっているかを見守り、政策や迅速な対応を行うルールを設けるというものです。
政府がそれを行うように構築されていないこと、業界とうまく協力していないことについて話すことはできますが、オープンソースについても同じように考えるべきだと思います。非常に強力なモデルをオープンソースでリリースしましたが、これの影響が何になるかを学ぶために誰が準備しているのでしょうか。そして、彼らはオープンソースモデルの製作者にフィードバックする経路を持っているのでしょうか。
メタを止めるものはありますか。メタがモデルをオープンソース化するのを止めるような出来事はありますか。誰がそれを見ているのでしょうか。これが世界をどのように混乱させているかを知るために、何らかのモニタリングシステムはあるのでしょうか。そのようなものは存在しないように見えます。
私にとって、本当に責任ある見方は、確かにオープンソースでリリースしましょう。しかし、次の6ヶ月間を見守って、これが何に良いのか悪いのかを把握し、それに反応しましょうということです。それが私を少し心配させているのです。
私はヨ ロッパにいますが、ここではEU AI法があり、非常に厳しいものです。EUは規制に関しては特に才能があります。私は非常に心配しています。実際にはこの厳しい規制が、開発と採用の両面でAIの頭打ち効果を引き起こすのではないかと。厳しい規制の精査は、より発展したAIシステムへの道のりにおいて懸念すべき原因だと思いますか。
はい、迅速で反応的でないことは問題だと思います。新しい技術を開発してほしいですし、これらの技術を開発してほしい社会で開発してほしいです。民主的な方法で開発してほしいです。そのすべてが、継続的な成長を見たいということを示しています。
しかし、多くの会話では二者択一のように感じます。規制も精査もまったくなく、技術は常に誰にでも利益をもたらすか、あるいは発生していない害を防ぐために事前に規制しなければならないか、のどちらかです。私は技術の楽観主義者です。技術は人々に利益をもたらしますが、リスクがまったくないというのは奇妙です。
一方で、現在のモデルのレベルでは明らかに引き起こさないであろう害を防ぐために、事前に規制しなければならないという考え方があります。Llama 3.1から暴走する超知能は得られないでしょう。ここには何らかのバランスが必要です。
EUは確かに多くの厳しいものを導入しました。ヨ ロッパがAIをリードしていたかどうかはわかりません。奇妙なエコシステムの問題があります。VCについて話すと、VCは常にアメリカのものでした。ロンドンはしばらくうまくいきましたが、それ以外は…私が教えている学校のペンシルベニア大学には、2022年の最後のチェックでは、フランスとドイツを合わせたよりも多くのお金が投資されました。
私たちはすでに多くのイノベーション・エコシステムの問題を抱えています。規制はその一つですが、多くの人々がEUの規制を指さして「これが原因だ」と言っているとは思いません。ヨ ロッパ対アメリカの技術開発には多くの原因があります。
みんなシリコンバレーに移動します。なぜならそうしなければならないからです。そしてすべての統計が示すように、ほとんどすべてのベンチャーにとって、それは実際に本当に良いアイデアなのです。ここには常に機能し続けるマシンがあるのです。
より大きな問題に戻ると、AIの初期段階に厳しい規制を多く課すことは確かに問題だと思います。LlamaはEUの高セキュリティリスクレベルを、フロップ数の点で突破しています。
あなたは多くの素晴らしいことを言いました。今日、あなたの学生たちに、勝つチャンスを増やすためにはバレーに移動しなければならないと言いますか。
それは多くの研究からの経験的な結果です。イスラエルの企業がバレーに移動したり、ニ ヨークの企業が移動したりしています。問題は、そこにVCがいるということです。少なくともパンデミック前は、平均してVCと投資先企業の距離は約40マイルでした。これは驚くべきことではありません。VCが時間を費やす場所を見ると、ネットワーキングと監視です。ネットワーキングは他の人々と交流し、企業について学ぶことです。そして監視はポ トフォリオ企業を監視することです。これは地元にいる方がはるかに簡単です。Zoomでは同じように監視することはできません。
実際、SFOと別の都市の間に直行便が追加されると、その都市へのVC投資が増加します。なぜなら、そこに飛んで行って監視を助けるのが簡単になるからです。これはローカルなビジネスです。みんな「ああ、それはグロ バルだ、つながっている」と言いますが、これはローカルなビジネスです。
異なる市場参加者についていくつか掘り下げたいと思います。すでにいくつか触れましたが、AI研究所から始めたいと思います。先ほどLlamaとモデルの進歩について触れました。AI研究所について、企業自体について彼らが理解していないことは何だと思いますか。
それは非常に重要な質問だと思います。リリースされている製品は本当に奇妙です。ユ スケースについてほとんど考慮されていないと思います。これらの組織内で大企業で働いた経験のある人の数を見てください。
私はよく冗談を言います。西海岸に行くと、冷水浴や永遠に生きる方法についての話ばかりです。東海岸では、死ぬまでコーヒーを飲み続け、目標は仕事を終わらせて家に帰ることです。大企業では非常に異なります。
大企業に対する軽蔑のようなものがあると思います。しかし、そこに最も賢い人々がいるのです。シリコンバレーの仕事ではない他の仕事をしている大規模な組織にいるのです。プログラマー1人に対して16人の管理職がいます。
これらのものが彼らに何をもたらすかについての感覚がないと思います。その結果、素晴らしいが半分しか構築されていない製品がたくさんあり、そこから離れてしまいます。コ ドインタープリターはデータアナリスト向けの世界を変えるような大きな製品ですが、オープンAIによって部分的に放棄されました。それ以来、彼らはその針を動かしていません。
チャットボットとAPIが主な領域のままです。ほとんどすべてのドキュメンテーションは技術的なドキュメンテーションです。そして、ほとんどすべての興味深いユ スケースは、技術者によって発見されているわけではありません。技術者はAIの使用が下手なことが多いです。なぜなら、通常の技術のように機能しないからです。エンドユーザー、マネージャーによって発見されているのです。
システムはそれらのために構築されていません。技術と使用の間には大きなギャップがあるのです。
非常に素朴で申し訳ありませんが、コ ドインタープリターがアナリスト向けの世代を定義するような製品であるなら、なぜそれから離れたり、開始時と同じように進歩しなかったりするのでしょうか。
オープンAIは製品をどんどん放棄します。これらの製品は様々な人々の情熱プロジェクトだと思います。繰り返しますが、彼らは機械の神を作りたいのです。才能ある人材がいれば、AGIのための次の技術を開発させるでしょう。スタッフがいれば、それに投入します。コンピューティングパワーがあれば、それにも投入します。
ちなみに、彼らは今年、ほとんど偶然のように30億ドルの年間売上を達成しそうです。しかし、現時点では本当の製品はありません。チャットボットとAPIだけです。システムはより賢くなり、より多くの問題を解決します。
この分野の多くの人々は、スケールが問題を解決すると単純に考えているようです。あるいは開発が問題を解決すると。なので、なぜ1年後には時代遅れになる製品化について考える時間を費やす必要があるのでしょうか。
逆に、企業自体についてお聞きしたいと思います。AIについて企業が間違って理解していることで、もっと知るべきことは何ですか。
私は常に組織と話をしています。まず、誰もこれらのシステムを使っていないという観点から言えば…みんなチャットGPTを試しました。ほとんどの場合、GPT-3.5のバージョンです。しかし、どの部屋でも5〜10%の人々しか、これらのモデルを使っていません。これはシリコンバレーの実際の人々、大手銀行、イノベーション専門家の会議でも同じです。おそらく5〜10%の人々が使っていて、2〜3%の人々が10時間以上使っています。これが私のガイドラインの最小数です。
繰り返しますが、オンボーディングがありません。チャットボットに直面すると、人々は空白のページを前にしてパニックになります。このシステムと何について話せばいいのでしょうか。情報もなく、指示もありません。そのため、人々は本当に使っていないのです。
部分的には、彼らが採用する必要があるからです。人々が使い始めると、用途を見つけるからです。デンマークで行われた新しい研究によると、知識集約型の職場環境でチャットGPTを使用している人々は、タスクの30%以上で50%の時間を節約していると推定しています。
人々がそれを使うと、生産的な用途を見つけます。そこで問題になるのは、それらの用途をどのように活用するか、どのような方針を持つかです。企業が間違っていることについては、多くのことを話すことができます。
用途の活用に関して、何を変えたいと思いますか。それは生産性を根本的に向上させることができる場所だからです。これは議論の余地なく最も重要なことです。
まず、方針から始まります。企業を見ると、多くの企業がGPT-4へのアクセスさえ許可していません。規制環境が不明確だからです。規制の観点から素晴らしいことの一つは、銀行や製薬会社が規制されている理由があるように、AIの積極的な使用方法について明確なガイダンスを提供することです。これについては少し動きがありましたが、EUにもっと多くのことをしてほしいと思います。つまり、倫理的な使用事例は何か、そしてそれに対する規制を開放すべきかということです。
しかし、それは企業の方針の時間にまで及びます。企業の方針はしばしば非常に曖昧です。「これを使わないでください」とか「使っても首にならない方法で使ってください」といった具合です。そして、報酬を得る方法や、仕事の解決策を見つけた場合に何が起こるかについて、多くの不確実性があります。
組織内で私が講演を終えると、多くの人々が私のところに来て、彼らが秘密のサイボーグだったことを明かします。彼らはずっとこれをすべての仕事に使っていたのですが、誰にも言っていませんでした。言わない理由は、首になるのではないかと心配しているからです。人々が自分の仕事を尊重しなくなるのではないかと心配しています。AIが書いたことを知られると。今、Redditには「私は仕事で魔法使いだと思われている」と言う人々でいっぱいです。彼らはその評価を失いたくないのです。
人々がこれを使うと、スタッフの必要性が減ることに気づき、自分や同僚が解雇されるのではないかと心配しています。これをすれば、もっと多くの仕事を割り当てられるだけで、報酬はもらえないのではないかと心配しています。だから、みんなAIの使用を隠しているのです。
ある女性と話をしましたが、彼女は大手銀行でチャットGPTを禁止しました。しかし、その禁止文を書くのに自分の電話でチャットGPTを使いました。なぜ手で書く必要があるのでしょうか。
人々が使い始めると、みんな秘密裏に使っているのです。そして、私は言いました。これに対してどう報酬を得るのか、明確にする必要があります。自分の仕事を自動化したらどうなるのか。
産業革命の類推に戻ると、1700年代初頭にビール醸造所を経営していて、地域社会に供給していたとします。すべてが地域的だったからです。そして蒸気力を手に入れたとします。選択肢があります。多くの人を解雇して、同じ量のビールをより少ないお金で作り、より高い利益率を得るか。あるいは、ギネスのように生産を世界中に拡大し、さらに10万人を雇用するか。
私たちは、ソリューションがコスト削減の手段であることに慣れています。30%の生産性向上があれば、30%の人員を削減します。そのような率では、人々は決してAIの使い方を見せてくれません。そして、本当に産業革命が起きているなら、そのような世界では勝てません。
方針が本当に問題の核心にあるのです。
多くの場合、私たちは単に才能を再配分していると感じます。あなたが言ったように、新しいプロジェクト、新しいイニシアチブ、拡大のために、より効果的に人材を活用します。私が心配なのは、特に初期段階では、これが低階級の人々を殺しているということです。ひどい言い方をすれば。CLが顧客サービスでAIによって70%の改善を達成し、多くの従業員を削減したように、特に顧客サービスが主要なトロイの木馬になっているのを見ています。私が見る多くの場合、現在90%の顧客サービスチームが置き換えられています。才能の再配分ではなく、才能の除去が続くと思いますか。それともそれは過大評価でしょうか。
これは、少し楽観的すぎると思う事例です。再び、すべての技術革命において、人々は仕事を失い、その後新しい仕事が生まれます。しかし、これには2つの大きな注意点があります。
注意点の1つ目は、必ずしもそうではないということです。1930年代から電話交換台が手動から機械式に変わり始めた時、当時16人に1人の女性が電話オペレーターとして働いた経験がありました。それは仕事でした。そこから解雇された場合、若ければ他の仕事を見つけましたが、年配の場合はそれほど良い仕事を二度と見つけられませんでした。なぜなら、電話オペレーターとして本当に優れていたからです。すべての仕事が新しいカテゴリーに置き換わるわけではありません。
もう1つの点は、産業革命を生きることは実際にはかなり大変だということです。後から振り返って「素晴らしい、みんなより良い仕事を得て、今はずっと豊かになった」と言えますが、自分の仕事が奪われないように機械を破壊する人々もいました。多くの不安がありました。資本主義とマルクス主義の大論争が起こったのはこの時期です。なぜなら、この時期に深刻な不安があったからです。
私が心配しているのは、少し楽観的すぎる見方です。すべてがうまくいくという楽観的な見方を持っていたとしても、それは自動的に起こるわけではありません。市場がすべてを素晴らしくするから心配する必要はない、あるいは誰もが仕事を失うからユニバーサルベーシックインカムが必要だ、と言うことはできません。はるかに具体的なことが必要です。経済には混乱の波が押し寄せるでしょう。再訓練のような、私たちが非常に下手なことをどのように行うかについて。これは解決すべき問題です。SF小説のように作る必要はありません。
私がより心配しているのは、実際には知識と生産性の分配対富の分配です。つまり、シリコンバレーやテクノロジーエリートの1%のような人々がAIと周辺製品を信じられないほどうまく使って、以前の10倍の仕事をし、はるかに効率的で費用対効果が高くなっています。そして残りの世界は…ヨ ロッパについて冗談を言いましたが、私はイギリスに住んでいます。イギリスの一部の地域に行くと、チャットGPTが何なのかさえ全く知りません。99%安くて10%の時間で作れるマーケティングキャンペーンを作る方法はおろか。これはさらに多くの知識と生産性を1%に与え、世界が取り残される可能性があると思います。それを恐れるのは正しいでしょうか。
はい、そうですね。先ほど話したデンマークの研究では、これを使用している人々は主に男性で裕福な人々に偏っていることがわかりました。これは、かなり一般的な技術採用カーブの傾向です。
AIで異常なのは、まずその普及性です。通常、新しい技術をインストールするには、コンピューターの使い方をよく知っていて、GitHubからdroをどうやって取得するかなど、本当に詳しくなければなりません。時間、労力、お金が必要な狭い作業の集合です。しかし、ここではそうではありません。チャットボットは169カ国で電話からアクセスできます。世界最高のAIシステムにアクセスできます。これが1つ目のポイントです。チャットは特に音声があれば、かなり普通のインターフェースです。
2つ目は、初期の証拠によると、プログラマーはAIとの作業が特に得意ではありません。期待通りに動作しないからです。私の好きな例は、Simon Williamsonです。彼は素晴らしい人物で、この分野で本当に優れています。彼はデータジャーナリズムに取り組んでおり、政治献金のOCRにClaudeを使用していました。チェックしてみると、Claudeは名前と住所があったため、公開情報であっても、プライバシーを侵害したくないと言って作業を拒否しました。与えられたタスクに異議を唱えたり、時には議論したり、毎回異なる答えを出すシステムに慣れていません。
そのため、プログラマーはしばしん最良のユーザーではありません。多くの場合、最良のユーザーは人間との作業が本当に得意な人々です。私の妻はおそらく地球上で最高のプロンプトエンジニアの一人です。彼女は博士号を持っていて、AIラボの共同ディレクターとして一緒に働いています。彼女は一度もコーディングをしたことがありませんが、OpenAIやAnthropicが「それは本当に素晴らしいプロンプトだ、知らなかった」と言うようなことをします。Googleは彼女のプロンプトを、微調整されたモデルを測定するゴールドスタンダードとして使用しました。
彼女が持っているのは、長年教育用ゲームを作ってきた経験と、他の人々に対する優れた心の理論です。指示を書くことができれば、管理できれば、これを使用できます。
だからこそ私は希望を持っています。技術採用カーブのように見えますが、技術に詳しい人々は他の分野で持っていた優位性を持つべきではありません。言葉が広まる必要があるだけです。
質問しなければなりません。プロンプトの質について言及し、あなたの妻がプロンプトの質に関して素晴らしいということについて触れました。また、白紙の恐怖について、何をすべきかわからない空白のテンプレートについても言及しました。以前、チャットボットのインターフェースが奇妙なインターフェースだということについて率直に述べていました。AIの力と消費者の間のインターフェースはどのようなものになると思いますか。
マルチモーダルが本当に答えだと思います。すべての要素が揃っています。私が話す最も興味深い人々の中には、本当に会話をしている人々がいます。アマゾン出身のAli Millerのことを考えます。彼女はAIについて多くのことを考えてきた本当に素晴らしい人物です。彼女は毎朝髪をセットしながらAIと会話をしています。限られたチャットインターフェースでも、これらのものに完全な視覚機能があれば、それは人間を呼び出すのに近くなります。
これらは多くの潜在的な能力を持っていて、人々はまだ認識していません。マルチモーダルで彼らとチャットできるようになると、オンコールの人間がいるようになります。そこに行動を起こす能力を加え始めると、世界で行動を起こせるようになります。私は、これらのものの使い方について「どうやって」という段階を飛ばして、「ああ、そうか。電話で話すと、アシスタントがあなたの望むことをやってくれる」というところに行くのではないかと思います。
プロンプトのスタイルが本当に重要で、これらのシステムを最新に保つことが重要な狭い期間があると思います。しかし、その後、それらはあなたの電話に来て…ちなみに、時間と労力を節約してくれるなら、人間は努力を最小限に抑える方法を見つけるように絶妙に設計されています。大学でチャットGPTの採用率が70%を超えているのに対し、世界の他の場所では数パーセントにとどまっている理由があります。私たちはこのようなことを理解します。
大学では宿題やコースワークの時間を短縮するために理解しますが、仕事では技術的に宿題やコースワークがあるのに、なぜ時間を短縮しないのでしょうか。
まず、大学には他の場所にはない多くのコミュニケーションがあります。大企業と話すと、他の組織の人々とあまり話をしません。友人から聞くことを期待しなければなりません。しかし、大学ではみんな自分の仕事について話し、一緒にクラスを受けています。この情報を広める障壁は、技術的・非技術的というよりも、単に「ああ、友達が数学の問題をすべて解いてくれるって教えてくれた」というようなものです。これが一つの理由です。
また、良くも悪くも、チャットボットは宿題が本当に得意です。マーケティングには専門家である必要がありますが、チャットボットは現時点では、ほとんどの場合問題を解決し、ほとんどの人よりも良いエッセイを書きます。しかし、マーケティングでは、あなたの家のスタイルに合わせたり、コンテキストを理解するために会話をしたりする必要があります。そこには少し摩擦があります。
今日、宿題やコースワーク、多くの学生の回答でAI、特にチャットGPTが広く使用されていることを考えると、大学や教育施設が宿題やコースワークを課す意味はありますか。
もちろんあります。みんなすでに不正行為をしていました。アリゾナ大学の素晴らしい研究があります。2008年には宿題をすると80%の人のテストスコアが向上しましたが、2020年には20%の人にしか役立ちませんでした。これは宿題が役に立たなくなったからではなく、みんなが不正行為をしているからです。
これには対処方法があります。教育におけるAIの使用には本当に2つのオプションがあります。1つは慎重に禁止することです。人々は説明者として使い続けるでしょうが、教室内でのテストや青本での筆記をさせます。数学ではこの問題を解決しています。演習をさせ、作業をさせます。誰も好きではありませんが、学習への近道はありません。愚かに聞こえるかもしれませんが、教師が言ったことが正しかったのです。何かを理解するには、大量の作業を行う必要があります。交差練習を行う必要があります。学ぶには多くのことをする必要があります。
私たちは絶対に教室内で青本の作業をさせることができます。ひどい監視システムをインストールすることもできます。私はこのアプローチが好きではありませんが、いくつかの企業はすでにこれを持っています。タイピングを監視し、AIから何かを貼り付けていないことを確認します。再度言いますが、必ずしもお勧めしませんが、これらは可能性です。
人々は、これらのことをどれだけできるかを過小評価していると思います。宿題は価値があり、不正行為は悪いことです。AIによる不正行為とは何でしょうか。それを定義する必要があります。
私は大きな変革派です。私のクラスは現在100%AIベースです。学生たちはAIのメンターやチューターと話をします。AIベースの課題があります。採用の仕方を学ぶ時、実際に誰かを模擬採用するシミュレーターを作りました。AIが面接を受ける人を演じ、多肢選択の回答を与え、学生は課題で振り返りをしなければなりません。他の課題の1つは、AIに何かを教えなければなりません。本当にエキサイティングなことができます。ただし、すぐには起こりません。
私たちが話したさまざまな機能や用途には、多くの集中的なコンピューティングパワーが必要です。サムの最後の引用があなたの引き金になったので、もう1つ引用します。「コンピューティングパワーは未来の通貨だ」とサム・アルトマンは言いました。次世代のAI使用がもたらすエネルギー要件を考えると、社会におけるAIの次世代の使用に必要なエネルギー要件についてどう考えますか。そして、サムの言うように、コンピューティングパワーは未来の通貨なのでしょうか。
サムはAGIを信じており、近い将来達成可能だと考えています。OpenAIの内部者と話すと、彼らも同じように感じています。もしそうなら、オンデマンドの知能が現実になり、それが電力を大量に消費し、オンデマンドの知能に対する需要が無限にあるなら…AGIがあれば、私の医療記録をすべて見て、私たちの空域を監視し、科学的なアイデアを見つけ、やらなければならないプロジェクトを手伝い、究極の旅行のチケットを予約してほしいと思うでしょう。知能に対する需要は無限にあります。
そうなると、コンピューティングパワーが通貨になり、エネルギーが大きな問題になります。比較的短期間に多くの原子力発電所を建設することになるでしょう。あるいはAGIが核融合の方法を見つけて、それが問題でなくなるか。あるいは私たちは全員バッテリーに変えられるか。マトリックスのように。ただし、私たちはそれほど多くのワット数を生成しませんが。
ほとんど冗談です。エネルギーの議論は興味深いものです。なぜなら、破滅論者と楽観主義者の両方がこれについて話したがるからです。リスクの面では、AIに懐疑的な人々と会うと、最初に話すのはエネルギー使用についてです。
真実は、AIはクエリあたりはるかに多くのエネルギーを使用します。正確にはわかりませんが、おそらくGoogleの検索の2桁ほど多いでしょう。しかし、人間が同じ量の仕事をするのに比べれば、桁違いに少ないエネルギーです。ラップトップを使用する人間と比較して、どのようにバランスを取るかが問題になります。
現在、米国の電力の1%がデータセンターに使われており、そのうちの最大10%がAIに使われていると思われます。つまり、これが問題になる前にまだ多くの余地があります。
繰り返しますが、AGIがすぐに利用可能で、即座に有用であると仮定しています。その場合、絶対的にコンピューティングパワーとエネルギーが問題になります。しかし、それが逆突出部になります。未来の通貨がコンピューティングパワーで、コンピューティングパワーがエネルギーなら、自前の原子力発電所を建設することで大金を稼げるでしょう。人々はそれをするでしょう。
最後の質問の前に、クイックファイアラウンドをしたいと思います。短い文を言いますので、すぐに思ったことを言ってください。よろしいですか。
はい、大丈夫です。
あなたの周りのほとんどの人が信じていないことで、あなたが信じていることは何ですか。
AIが人々が考えているよりもはるかに優れていて、さらに良くなり続けるという非常にシンプルなアイデアです。これは、ほとんどの人が実際には信じていないと思います。
AIがもたらす可能性のある最も懸念される未来は何ですか。
最も懸念される未来は、私たちが行動力を失うことです。必ずしもAIシステムに対してではなく、AIを組み込んだシステムに対してです。
つまり、AIを人間の繁栄のために使用する機会がありますが、それは自動的なプロセスではありません。会社でAIを導入した時に人々を解雇するのではなく、彼らにとって価値のある他の用途を見つけ出すことを意味します。これらのものを使用した結果、人々がより多くのことを達成していると感じられるようなシステムを構築することを意味します。
私は、十分な人々がそのような行動をモデル化しているのを見ていないことを心配しています。すべてが技術そのものについてだけで、どうやってコスト削減をするかということだけです。
過去12ヶ月で最も考えを変えたことは何ですか。
技術にどれだけの余力が残っているかについて、行ったり来たりしました。今は、まだ多くの余力があると考えています。指数関数的な成長がしばらく続くと思います。長い間それについて明確ではありませんでした。
その変化の原因は何でしたか。
証拠の蓄積です。ケビン・スコットがスケーリングがすべてを解決すると言っていることについて話しましました。6ヶ月前や8ヶ月前には、スケーリングがすべてを解決すると話していなかった人々が多くいます。今はより自信を持っています。これは、新しい世代のモデルが登場し、すべての研究所の人々が再び不気味な表情をしていることを示しています。
いつこれらのモデルを見ることができるかはわかりません。しかし、明らかに人々は、曲線にまだ多くのものが残っていることを示すものを見ています。そして、みんながそれについて話しています。
大手プレイヤーや既存企業がすべてチッププレイヤーに移行するのを見ることになりますか。アップルがチッププレイヤーに移行し、マージンを内部化し、NVIDIAへの依存を減らすのを見ました。これはすべてのプロバイダーの大きな変化として見られますか。
はい。サプライチェーンパイプラインにおける要件は、価値を食べることです。それがアイデアの全体です。チップに多くのお金を使っているなら、チップ製造に参入することになります。倉庫に多くのお金を使っているなら、倉庫コストを削減する方法を見つけ出します。何かを見つけ出さなければなりません。
AIの開発のどの要素が最も肯定的に驚かされましたか。
これらのものがいかに賢いかということです。私のTwitterフィードを見たことがあれば、AIに「西部戦線異状なし」という小説からイカに関する言及を削除するよう頼んだのを見たでしょう。これらのシステムは本当に賢いのです。使うのが楽しいです。それが少し驚きだと思います。
最後の質問です。あなたが聞かれることのない質問で、もっと聞かれるべきだと思う質問は何ですか。
人々が聞くべきだと思う質問で、まだ答えがないのは、なぜこれほど多くの人々がこれらのシステムから離れているのかということです。なぜ多くの人々がそれを少し使って、そして永遠に使わないのでしょうか。単純にそれが機能しなかったからではありません。人々はこれらのものに少し不気味さを感じているようで、私たちはこれらのツールに人間がどのように関係しているのかを本当に理解していません。
私たちは常にシステム、技術、産業がどのように変化するかについて話しています。デート機能のようなものだけでなく、AIとの関係を持つことについてです。しかし、私たちはこの種のツールにどのように関係しているのでしょうか。これは多くの質問の1つです。
2つ目の質問をさせてください。人々は仕事の意味について十分に質問しません。これについて多く考えます。グレーバーの「ブルシット・ジョブ」は、調査データやその他のものに基づくと、ほとんど正しくないと思います。しかし、それは現実です。人々は仕事から疎外感を感じています。ほとんどの従業員は、少なくとも10%の時間は退屈していると言います。
しかし、彼らは意味のある仕事をしていると感じています。人々を調査すると、ほとんどの人は自分の仕事が世界で重要だと考えています。私が非常に心配しているのは、工場長としてAIが自分の仕事をし、誰も気にしないことに気づいた時に何が起こるかということです。
これは仕事の性質にとって何を意味するのでしょうか。人々が気にしないとしたら、どうなるのでしょうか。AIが代わりに仕事をし、あなたが送ったメールにボスがAIの答えで応答しているとしたら。私は、この意味の危機について十分に話し合っていないと思います。仕事を失うことは一つのことですが、自分自身を半分置き換えて、なぜこれをしているのかわからなくなるのは別のことです。これはより大きな問題になると思いますが、私たちはそれについて話していません。
イーサン、様々な方向に話が進んでしまい、申し訳ありません。私の基本的な質問にも耐えていただき、ありがとうございます。これは素晴らしい対話でした。あなたの文章のファンとして、私にとって大きな喜びでした。
これは素晴らしかったです。サム・アルトマンに彼に同意しなかったと言わないでください。彼は機械の神を作っているので、私に怒らないでほしいです。
コメント