この動画は現在のAIブームに対する誤解と現実について論じている。AppleのAI研究レポートを出発点として、AIに対する過度な恐怖と過度な期待の両方を批判的に検証し、現在のAI技術が実際には高度なパターンマッチングに過ぎないことを解説している。また、真のAGIや人工超知能への道のりは遠く、現在の技術では到達不可能であることを示しながら、個人がAIを活用してレバレッジを構築する具体的な機会について提案している。
AIの現実と誤解について
Appleが最近発表した新しい研究レポートは、現在のAIブームを取り巻く多くの誇大宣伝を覆すものです。少なくとも彼らはそう主張しています。問題の複雑さのレンズを通して推論モデルの強みと限界を理解する：思考の錯覚というタイトルの新しいレポートを見て、私は今AIに関して2つのカテゴリの人々がいることに気づきました。
1つ目は、AIに凍りついている人々です。彼らはこの技術が何をするのか、今何ができて何ができないのかを本当に理解しておらず、現在の技術の状況に基づいていない未来に対するディストピア的な見方を持っています。
2つ目は、AIを使って構築している人々です。彼らはAIが何をするのか、どのように動作するのか、その真の能力と弱点を本当に理解しており、これを使って自分たちに大きなレバレッジを構築しています。
私が前回の動画を公開した後、コメント欄で同じような恐怖と誤解を何度も見かけました。基本的に「あなたは分かっていない、AIはすでに人間より賢く、私たちは破滅し、大量失業が起こる」といったものでした。そして私は何かに気づいたのです。ほとんどの人は技術そのものではなく、神話に反応しているということです。
この動画では、AIが実際に何であるかを詳しく説明し、なぜAIが同時に一部の分野で大幅に過大評価され、他の分野で大幅に過小評価されているのかについて話したいと思います。これを間違えると、現代世界で最大のレバレッジ、自由、富の創造の機会の1つを逃すだけでなく、2年後には関係なくなるスキルやプロジェクトに時間、エネルギー、努力を投資することになります。
テクノロジー業界における誇大宣伝の実態
なぜ私が現在AIについて議論されているすべてについて楽観的でありながら懐疑的でもあるのかについて少しお話ししたいと思います。私はキャリア全体をテクノロジーで過ごしてきました。そして創業者たちが原則として、プレスを得るためとマーケティング目的の両方で、自分たちの技術の能力について劇的に誇張する、つまり嘘をつくということをお話しできます。
いくつか例を挙げますが、創業者が自分たちの技術について私が聞いた主張のうち、完全にナンセンスだったものについてだけで動画全体を作ることもできるでしょう。
私は、与えられた利用可能な小売スペースでの小売ビジネスの成功を予測するはずの、いわゆるマッチングアルゴリズムを持つ会社と働いたことがあります。これは機械学習とAIを使っていました。多くは今でも話しているものです。しかし、そのアルゴリズムは実際には何だったのでしょうか。それは、この非常に裕福な男性の19歳の息子が、彼の広大なウェストハリウッドのオフィスのコーヒーテーブルに座って、商業不動産のZillowのようなCoStarのリストをめくりながら、与えられたスペースで何がうまくいくかもしれないかを決めて、それをシステムに戻すというものでした。
私は、独自の脅威アルゴリズムを使って最高情報セキュリティ責任者のために脅威マトリックスを使用して脅威をランク付けするとされるセキュリティ会社を持っていました。これは機械学習などを使用した別の独自アルゴリズムでした。その独自アルゴリズムとは、基本的にインドの小さなチームがITチケットを見て、紛失したラップトップを、その人が誰で、そのラップトップにある情報の重要度に応じて赤、黄、緑でランク付けするというものでした。
私は最近、AIコンテンツ再利用ツールのバックエンドを製品チームと一緒に見て、これがどのように動作するのかについて話していました。このツールの目的は、長編コンテンツからバイラルコンテンツを特定し、それをさまざまな方法で再利用することです。私は「では、これはどのようにバイラルコンテンツを選び出すのか」と聞きました。それは単に特定の単語を選び出しているだけです。高揚したエネルギー、クレイジー、ばかげたと見なされる任意のものなどです。バイラルとされる特定の単語にフラグを立てますが、あなたの意図、コンテンツの意図、何をしているかの意図については全く理解していません。そして、それらの単語を転写によって取り、基本的にクリップの少し前と少し後から始まる30秒と60秒のセグメントに切り取って再利用し、事前にテンプレート化されたものを使って転写テキストを差し込みます。素晴らしい自動化、脳ではありません。
WeWorkは、共有オフィススペースを取ってテック会社だと言うことで160億ドルの投資資本を失いました。私のポッドキャストで、当時Gongの最高マーケティング責任者だったUdi Lettergoreに、スタートアップマーケティングで最も重要なことは何かと尋ねました。彼はテクノロジー業界にいる人なら誰でも知っている人ですが、スタートアップマーケティングは、2年後に製品がやろうと希望していることを、現在の状態のように聞こえる方法で話すことだとコメントしました。これは誰よりも長くゲームに参加してきた人の一人です。
人々は技術の能力をプレスを得るために大幅に誇張します。これは事実です。
人工知能の現実
では、人工知能が今日実際に何であるか、そしてそれが実際に人工的に知的であるかどうかについて話しましょう。
私たちが現在AIと呼んでいるものは、自然言語コンピューティングとより良く表現されます。それが現在行っていることには、実際にはほとんど知的なものはありません。AIは考えていません。パターンマッチングをしています。これを非常に高速で非常によく行いますが、単純にパターンマッチングです。
これがすべてどのように動作するかを説明しましょう。ChatGPTに質問をするとき、例えば「お腹が空いた、昼食に何を食べるべきか」と言うとします。AIまたはChatGPTまたは使用するモデルは、それをトークンと呼ばれるものに分解します。これはそのフレーズの構文の断片に過ぎず、それぞれに数学的値が割り当てられ、予測アルゴリズムに押し込まれます。これは基本的に「この順序でのこれらのトークンに対して、統計的に最も可能性が高い応答は何か、これらのトークンが提示された後に来る次のものは何か」と言います。それだけです。非常に高度な確率エンジンです。
ちなみに、これが突破口となり、現在の状態で任意の程度の精度で動作する理由は、第一に、現代のLLM（大規模言語モデル）の大きな突破口は、これらのモデルに十分なデータを投げれば、それらがより良くなるだろうという洞察でした。そして実際にそうなりました。当時、多くの人々は実際にはそれがそうだとは信じていませんでした。必ずしもこれらのモデルがより多くのデータでただ良くなるとは思っていませんでした。
第二に、多くの人が気づいていないことは、これらのモデルは本質的に人々からの数百万の相互作用によって訓練されているということです。何も考えていません。非常に低賃金の労働で統計的確率を強化し、基本的に「この文章で次に来るものは何か」と言います。数百万の反復にわたって人々に提示し、シーケンスで次に来るべきものを検証します。これらのモデルの動作方法がこれです。
現在、より高度な技能の結果のためにアウトソーシングされた労働を提供している完全な会社があります。医師、弁護士、会計士と会社を結び、人間による強化に基づいてモデルをさらに訓練するのを手伝っています。ChatGPTで「どちらの応答を好みますか」と表示されるとき、あなたはそのモデルを訓練しているのです。何も考えていません。ただパターンマッチングをしているだけです。
ChatGPTで時々意味不明な完全に奇妙な結果を得る理由を疑問に思ったことがあるなら、モデルには温度と呼ばれるものがあります。温度とは基本的に、「お腹が空いた、昼食に何を食べるべきか」という質問をして、訓練されたインスタンスの90%で人々が「サンドイッチを食べるべきだ」と言うが、0.1%のインスタンスで人々が「ホットソースと一緒にマーカーを食べるべきだ」と言うとしましょう。それは意味をなさないにもかかわらず、0.01%の時間で人々がそう言います。温度をゼロに設定すると、最も可能性の高い次の単語、つまり90%の時間のものを単純に教えてくれます。温度を1に設定すると、昼食にマーカーを食べるように教えるような狂ったことを始めます。これが私たちが現在扱っている知能のレベルです。
ちなみに、OpenAIの創設者であるSam Altmanでさえ、これらのモデルは本当にただの非常に優秀な次の単語予測器だと言っています。彼はツールが乗っ取るなどのディストピア的恐怖をあまり共有していません。これは非常に人間のコントロール下にあり、私たちは非常に遠い道のりにいます。
現在持っている技術の限界と、自然言語コンピューティングから任意の種類の真のAIに行くことが、単純に一方が他方に到達させないという大きな確率がある理由について、さらに話しましょう。
AGIとASIの真実
Sam AltmanがChatGPTまたはGPT-4について引用している言葉で、基本的に彼は「正確な情報についてはこれに頼るべきではない」と言っています。別の記事で、彼は過去6か月間、AGIに関する自分の予測についてもハードルを下げる作業をしてきたと説明しています。彼がここで言っているのは、「私の推測では、私たちはほとんどの人が思うよりも早くAGIに到達するだろうが、それが世界に与える影響ははるかに少ないだろう。世界はほとんど同じように続き、物事はより速く成長するが、私たちがAGIと呼ぶものから私たちが超知能と呼ぶものまでには長い継続がある」ということです。
AI運動のもう一つの著名な人物であるGary Marcusは、基本的にLLMがAGIへの直接的な道だと考える人は誰でも自分をだましていると明確に言っています。
VCスペースで尊敬されているJosh Wolfからのコメントで、基本的に複雑な推論において、これらのモデルが完全に崩壊することについて話しています。彼らがこれらのテストを実行した方法などに対する批判を行っている人々がいますが、ここではすべての詳細には入りませんが、私たちはAGIから非常に遠いと言えるでしょう。
現在の状態では、LLMは理解しません、計画しません、正確性について自分自身をチェックすることさえしません。彼らがしているのは、人間による強化に基づいて訓練されたデータの全体性において、このトークンのシーケンスで次に来る可能性が最も高いものを言っているだけです。それが彼らがしていることであり、彼らはその事において信じられないほど優秀で、その技術は様々な状況で信じられないほど有用です。思考の代替ではありません。
AIの3つのカテゴリー
AIが雇用市場にどのような影響を与えるか、人間の労働にどのような影響を与えるか、あなたにどのような影響を与えるかについて議論するとき、考えることができる基本的に3つのAIのカテゴリーがあります。
狭いAIがあります。これは実際には自然言語コンピューティングで、今日私たちが持っているものです。これは新しいインターフェースで、技術、コンピューターと関わる新しい方法です。信じられないほど有用なツールですが、実際にできることは非常に限られています。
次は汎用人工知能で、これは人間のように、別の人と接しているように感じ始めるところです。
そして人工超知能があります。これは、物事が自分自身を教え始め、社会を乗っ取るディストピア的未来です。
私たちが現在扱っているファンシーなオートコンプリートは、この人工超知能のアイデアから光年離れています。
AGIの定義と限界
AGIを定義することから始めて、技術の限界について話しましょう。Sam AltmanはAGIを定義しており、私たち全員がAGIについて話すときに有用な定義です。AGIは平均的な人間です。同僚として雇うことができる平均的な人間と同等です。
思考の文脈でこれが実際に何をするかというと、書き写しコピーが役立ち、もはや必要ない基本的なタスクを行います。契約の最初の草案、バナー広告のリサイズ、何度も同じような方法で起こる医療診断についての書き写し予測の作成などです。
現在の状態で、そして人々の技術についての大きな主張に対する私の懐疑論に戻って、それがしていないのは、真のAGIのようなもので、確実にASIではありません。
Metaの最高AI科学者からのこのアイデアについて話している引用があります。彼は「今日のAIシステムは狭いAIの例です。特定のタスクは得意ですが、真の汎用知能は欠いています。AIの人々は常に間違いを犯しており、『OK、今私たちはチェスで私たちを打ち負かすことができるシステムを持っているので、すぐに彼らは私たちと同じくらい賢くなるだろう』と言っています。システムがテキストを含む認知推論タスクを処理できる一方で、物理的世界を理解し操作することになると崩壊します。私たちは近いうちに自動化された配管工を持つことはないでしょう」と言っています。
Appleの論文が説明し続けることは、要約を見ることができますが、推論に入り始めると、予測は理解を意味しないため、これらのモデルは完全に崩壊するということです。それらは完全に異なるものです。そのため、彼らはすべてを乗っ取るディストピア的政府を運営し始めることはないでしょう。
私たちがどこにいるかとどこに行く必要があるかを文脈化するための簡単なメタファーがあります。60年代に宇宙競争が進行していたとき、私たちはロケット技術で巨大な飛躍を遂げ、月に到達し、今では無人機でさらに遠く火星まで行きました。しかし、これらの技術的進歩は、銀河系から出ることはもちろん、宇宙全体を探検するには完全に劣っています。私たちをここに連れてきたものが、そこに連れて行くことはできません。そして、これがLLMについて多くの専門家が予測していることです。これらの大規模言語モデルを取り、大量のデータで訓練することが、これらの信じられない技術的驚異である言語コンピューターを生み出したが、人と話しているように感じるからといって、実際にそうではありません。単にそう感じるだけです。私たちは全体を擬人化しています。
今日私たちが持っているこの技術、これらのLLMは、私たちをASIに導くことはできません。完全に異なるアプローチが必要になります。私たちが決してそこに到達しないという意味ではありません。今そのようなものは何も持っていないという意味です。
AIの真の機会
現在のAIの真の危険は、AIを誤解し、目の前にある機会を誤解することです。AIはデジタル脳ではありません。あなたがすでにしていることを拡張、高揚、増幅するのを助ける素晴らしいツールです。メールの下書き、文書の要約、YouTubeの研究、散らかった思考の整理など、if-thenパターン認識が役立つ場所では優秀です。しかし、この種の仕事は興味深い仕事ではありません。
あなたが尊敬する人々、磁力的なブランドを持つ人々、6〜7桁のコンサルティングビジネスを運営する人々、成功したソロソフトウェアビジネスを持つ人々について考えてみてください。彼らはコピーのように感じません。平均に向かっているのではありません。独特で真実で明確に感じられます。彼らは自分自身のユニークなバージョンのように感じられます。そして私の推測では、あなた方の多くにとって、あなたもコピーのコピーのように感じていません。あなたは自分自身の独特な声を持っています。
そして、ここがAIの大きな機会です。他の人が知らないあなたがすでに知っているスキル、専門知識、ナレッジを増幅することです。産業経済では、価値は歯車であることから来ました。AI経済では、洞察のノードであることから来ます。そして、私たちが手のひらに置かれている非常識な技術に頼り込み、使用する意欲があれば、これは私たち全員に利用可能です。
特定の種類の人のために特定の問題を解決し、AIによる自動化を通じてそれらの解決策を増幅できれば、あなたは勝ちます。そして、あなたは巨大なスケールで勝ちます。時間を解放し、社内でできるよりもはるかに多くのお金を稼ぎ、レバレッジされた方法でそれを行う機会で勝ちます。そして、このレバレッジが新しい経済で自由を作り出すものです。
私のコミュニティであるLeverage Labで頻繁に話し合うことで締めくくりたいと思います。多くの人にとってこれが手の届かないものに感じられることを知っていますが、このコミュニティにはあらゆる歩みの人々がいて、彼らのスキルと専門知識を収益化しています。世界には80億人がいます。これは、あなたが物を売ることができる無限の数の人々がいるという別の言い方です。
私たちがこれを呼ぶのはレバレッジスタックで、これは4つの部分から成ります。
ナレッジ：あなたが情熱的で、素晴らしいものは何ですか。仕事からのスキルであろうと、専門家になりたい個人生活のスキルであろうと。
オファー：その後、そのナレッジをどのように他の人のための変革のポイントとして使用しますか。糖尿病で病気から健康で糖尿病でなくなるように、または膨張したサプライチェーンから効率的なサプライチェーンに、または過去15年間の私のビジネスでのポジショニングについて不明確から、彼らがどのように異なり、ユニークで、世界にどのように現れるかについて明確で自信を持つように。
システム：その後、自動化などを使用してその結果をスケールでどのように提供しますか。
スケール：その後、製品、製品化されたサービス、人々にサービスを提供するために作成する宇宙を通じて、彼らにサービスを提供する方法を拡張することによって、時間をお金から離れて、これをより多くの人々にどのように持ち込みますか。
これは空想的なアイデアではありません。あなたのような非常に現実的な人々がいて、単に快適ゾーンから出て、行動を起こし、すべての変化に直面して麻痺する代わりに、それを利用している人々がいます。あなたがそれを私たちのコミュニティを通じて行うか、下にあるチートシートを通じて行うか、あなたにとって正しい道が何であれ、変化を利用するために行動を起こすことが、この時代に麻痺するのではなく繁栄する方法です。
全体を締めくくりましょう。ディストピア的ビジョンを忘れてください。これは現在単純に事実ではありません。私たちは個人として自分自身のために巨大な量のレバレッジを作成する機会を持っています。そして、それはすべて技術が現在実際に何であるか、何でないか、そしてそれにどのように行動を起こすかを理解することから始まります。
コメント