この動画では、計算神経科学と哲学の博士号を持つPan AIの共同創設者兼CEOであるZohar Bronfman博士が、予測AIと生成AIの融合について詳しく解説している。人間の行動が予測可能であることから始まり、従来の機械学習による予測分析と最新の生成AIを組み合わせることで、企業がいかに革新的なビジネス価値を創出できるかを探求する内容である。特に、人間の認知バイアスや意思決定プロセスの限界を機械学習で補完する手法や、透明性の課題、そして実際のビジネス現場での応用事例まで幅広く議論されている。
予測AIと人間の行動予測可能性
AIは私たちが何かを行動する前に、その行動を知ることができるのでしょうか。人間の行動がそれほど予測可能であり、私たちが何かをしようと意識的に決断する前に、AIがすでにそれを知っている可能性があるとすれば、それは私にとって衝撃的なことです。これは人工知能の発展にとって深刻な意味を持ちます。特に予測分析と組み合わされた場合には。
この話は時として複雑になることがありますが、Asia Tech podcastでは複雑なトピックを理解しやすい要素に分解して、変化が起きても驚かないようにしたいと考えています。
私は幸運にも、Pan AIの共同創設者兼CEOであるZohar Bronfman博士とこれらすべてについて話すことができました。Zoharは計算神経科学と哲学の二重博士号を持っており、人間の脳がどのように機能するかを理解するために多くの時間を費やしてきました。これは彼の人工知能に関する研究の基盤となっています。
私たちは人間の行動がいかに予測可能か、生成AI、予測AI、そして人工知能の未来がどのようなものになるかについて議論しました。それではZoharをショーにお迎えしましょう。
始める前に、今回のエピソードのスポンサーであるDr Techに感謝したいと思います。Dr Techは、わずか数日でeコマースストアを構築し、オンラインやソーシャルメディアで素早く販売を開始できるよう支援してくれます。Dr Techのストアは美しく、モダンで、レスポンシブです。完全にカスタマイズ可能で使いやすく、オンラインでより多く販売するために役立つ数百の最適化機能が含まれており、すべての質問に答えてくれるサポートチームもあります。
Dr Techでは隠れたコストも販売手数料も購入すべきアドオンもありません。すべてが一つのシンプルなサブスクリプションに含まれています。Hello dr.Tech Tech /pにアクセスして無料トライアルを取得し、ストアの構築を開始してください。リンクは下記の説明欄にあります。
また、Dr TechはAsia Tech podcastのリスナーに特別なディールを提供しています。無料トライアル後、最初の1か月をわずか1ドルで利用できます。このディールを受けるには、ライブチャットにATPと入力すれば、特別なプロモコードを送ってくれます。スポンサーのDr Techに再度感謝し、それでは番組に戻りましょう。
神経科学と哲学への興味の原点
もしよろしければお聞きしたいのですが、神経科学や科学哲学、そしてこれらすべての認知研究に興味を持ったきっかけは何でしょうか。子供の頃にご家族がそのようなことを話し合っていたとか、お祖母さんがそういう方だったとか、どこから来ているのでしょうか。
ああ、正直に言うと、私は物理学や数学、生物学の一般科学に関してはかなり知識があると自負していますが、神経科学と心について考えると、何も遠く及ばないほど興味深いものはありません。それは一方では心であり、他方では神経科学なのです。明らかにこれらは非常に密接に関連しています。
実際に起こったことは、純粋な知的好奇心から哲学の修士課程を始めたことでした。非常に賢い人々が知識について、世界について、そこにあるものについてどのように考えているかを理解したかったのです。哲学を学んでいる間に、私はパズルの一部しか見ていないことに気づきました。大きな他の部分、隣接する、または関連する視点は科学的な視点であることを理解し、そこで認知と神経科学のことを並行して理解しようと決めたのです。それにより、同じトピックについて異なる角度から非常に総合的な視点を得ることができました。
それは本当に興味深いですね。深く掘り下げすぎたくないのですが、もしよろしければ、これは本当に興味深いと思います。ある程度哲学を理解することは、どの角度から見ても、どの視点から見ても非常に興味深いですよね。しかし、その神経科学を学び始めると、なぜ私たちはこれらの哲学を持つのか、それらはどこから生まれるのか、なぜそこにあるのかという疑問が生まれ、心がどのように機能し、その出力が何であるかについて全く異なる視点を与えてくれるはずです。それは理解できますか。
その通りです。どこまで深く話したいかにもよりますが。
では少し続けてください。
私が言いたいのは、私たちはそこに非常に多くの知識がある時代に生きているということです。以前のように、その知識にアクセスできるかどうかという問題ではなく、どの知識を消費することを決めるかという問題なのです。それは自分自身のために知識をどのように構築するかということです。
私の個人的なアプローチは、今日の知識の構造が極端に垂直的で、非常に狭く、非常に深いものであるためでした。ある分野を理解するために30年を費やすことができます。人々が特定の分野でかなりの専門家になり、50年前の同僚よりも100倍多くのことを知っているという大きな利点があります。しかし、より大きな全体像を失ってしまうという欠点もあります。そのため、私はこれら二つのラビットホールを組み合わせて補完したかったのです。
言語と認知の深い関係
それはとても興味深いです。もう少しこの話を続けたいと思います。大学で日本語を学んでいた時、教授は授業で日本語のみで話し、翻訳はありませんでした。実際、私はイェシーヴァでこれを学んだのですが、これはおそらく驚くことではないでしょう。なぜなら私たちはヘブライ語で聖書を学んでいたからです。なぜこの話をしているのかわかりませんが、教師は「英語に翻訳してはいけません。なぜなら直接的な一対一の翻訳は存在しないからです」と言っていました。私は9歳か10歳の時にこれを学び、人生の残りの期間でそれを使ってきました。
しかし重要なのは、日本語を学んでいた時、教授は語源学で博士号を取得していたことです。月曜日の朝に授業に来ると、しばらく眠っていないように髪が乱れていました。なぜなら、任意の言語、特に複数の言語で単語がどこから来るのかを考えると、ある時点で本当に心を揺さぶられるのです。なぜ私たちは言っていることの意味を理解するのでしょうか。
認知神経科学の研究を哲学と合わせて行っていた時、特に同様の経験をしたことがありますか。何かを学んだり、何かを理解したりした時に、「それは狂っている」と思うような瞬間があったでしょうか。
はい、はい、絶対にあります。その話をしていただくと、私は本当に鳥肌が立ちます。なぜなら、一般的に、先ほど言ったように特定の知識分野で非常に深いラビットホールに入ると、ある時点で神の目を見つめることになると思うからです。そしてそれは語源学に関連し、宗教に関連し、今日私たちが持っているあらゆる科学的および非科学的分野に関連しています。
私にとって間違いなく思い出せる1つか2つの分野があります。1つの例を挙げると、これは心を吹き飛ばすものだと思いますが、日常的にどれだけの人が実際にこれについて考えているかはわかりません。
科学は歴史的に合理的な疑いを超えて、人間の行動が非常に大きな程度まで予測可能であることを証明しています。つまり、個人は脳内で特定の出来事がすでに起こった後に、自分が下した決定を認識するようになるのですが、彼らはそれを認識していませんでした。
言い換えれば、今日科学コミュニティは理論的に、Michael、あなたが200ミリ秒後に水を掴むことをあなた自身が認識する前に教えてくれるデバイスを構築することができます。そしてこれはより大きな決定にも当てはまります。
私たちの脳で多くのことが起こっており、最終的に私たちの決定に影響を与え、これらのことが解読され予測できることを認識すること、これは私が最初に遭遇した時の畏敬と完全な謙遜の瞬間でした。
今日の残りの時間は素晴らしいものになりそうです。なぜなら、これについて考えることをやめられなくなるからです。しかし、これは私が話したい他のことへの本当に良い導入になります。
予測AIの核心概念
予測AIについて話したいと思います。これはあなた方が本当に一生懸命取り組んでいることで、再び、私はある程度理解していると思いますが、そうでなければ、これを構成要素に分解したいと思います。
これを私のために分けてもらえますか。ほとんどの人が理解していると感じている生成AIと、予測分析、そしてこれら二つを組み合わせることの力が実際にビジネスコンテキストでどのように機能するかを、一般の人向けに説明してください。それは公平でしょうか。
はい、絶対に。明らかに二つの大きなトピックで、どちらも非常に長く深い歴史を持っているので、生成AIは新しいものではないと言うことが重要です。科学コミュニティとAIコミュニティは確実に10年以上、生成AIを行ってきました。
生成AIは、その観点から非常に自明な名前を持っています。人工知能モデル、特にニューラルネットワークを使用します。これはAIモデルの一つのサブクラスです。特定のタイプのニューラルネットワークを使用して、初期入力の一部ではなかった何かを作成します。
ニューラルネットワークを考えてみてください。例として、何十万もの猫と犬の画像を入力として受け取るとします。ニューラルネットワークの最初の実装では、ニューラルネットワークはパターンの分離と認識に非常に優れていました。猫と犬の間のパターンを認識し分離することの例として、この特定の特徴セットのため、これは犬だと言うのに非常に優れていました。
私たちも脳でそれを行います。猫や犬の写真を見ると、瞬時に、それが一つのクラスまたは別のクラスに属するかどうかを言うことができます。
生成モデルはさらに一歩進めました。そして、犬のクラスと猫のクラスが何であるかを理解したと言うことができるだけでなく、ある種の入力を取って、機械学習モデルとして消費したサンプルの一部ではないが、猫のクラスと非常に似た特徴を持つ新しい種類の猫を作成することができるようになりました。それが生成AIです。学習したものから別のサンプルを生成する能力なのです。
多くの場合機械学習とも呼ばれる予測モデリングは従兄弟のようなものです。どちらもAI技術ですが、非常に異なることをします。哲学的な視点によっては異なり、似ている場合もあります。
機械学習、予測モデルは、何らかの歴史的パターンを持つデータを消費し、将来の出来事について何かを言うと仮定します。この特定の出来事が将来起こる可能性はどのくらいかという意味で。
二つの間の大きな違いは、それらが扱っている入力のタイプです。ニューラルネットワークと生成モデルは、時として非構造化データと呼ばれるものに非常に焦点を当てています。画像、音声、テキストです。これらがニューラルネットワークが焦点を当てる分野です。
従来の機械学習予測モデルは数値データ、取引データ、表形式データ、構造化データに焦点を当てています。これらのタイプのデータは、ビジネス領域で非常に豊富です。想像できる任意のビジネスを考えてみてください。そのビジネスは、ユーザーがウェブサイトにログインした時間、そのアクション、いつ起こったか、いつ購入したか、いつ、いつ、いつ、そして購入の規模などのデータを収集します。これらすべての質問は数値的な質問であり、ビジネスに基づく独自の構造を持っています。
興味深いのは、そして私は終わりに向かっていますが、これら二つを融合することです。興味深いのは、予測モデリング、機械学習予測モデリングには非常に長い歴史的なビジネス応用があることです。ビジネスイベントの観点から将来を予測しているなら、あなたはビジネスに劇的な変化をもたらしています。
最初の分野は、Renaissanceのようなファイナンシャルアルゴリズム企業がこれらのモデルを使用してデリバティブと株式がどのように動くかを予測していた50年代と60年代でした。これらのAI手法がどれほど昔に遡るかということです。
生成的側面はまだビジネス応用を探している段階です。なぜなら、生成AIの能力は世界との対話や、OpenAIなどから見られるような特定のテキスト、ビデオ、音声の生成に非常に優れているからです。
興味深いのは、それらが決して融合されなかったことです。これらの大規模言語モデル、これらの生成AIモデルをビジネスコンテキストで使用して、機械学習ベースのAIである予測を提供するケースは決してありませんでした。これは技術がまだ許可していなかったことであり、今や組織にとって変革的になる可能性があるものです。
チャットのような体験のような生成インターフェース、機械と話しているような感覚を想像できますが、将来のビジネス成果について質問することができ、それは完全に機械学習ベースのAIなのです。
ビジネスへの応用と Renaissance の例
これについてお聞きしたいのですが、認知神経科学について話していた時に、適切な情報があれば、科学者は私がいつ水のボトルを飲むかを予測できるということを科学コミュニティで既定のこととして言われました。あなたの心では、私たちが今これを知っているということが素晴らしい一方で、それは当然のこととして注目に値しないものになっています。
しかし、それがビジネスに、そしてこの予測分析と生成AIの組み合わせにどのように変換されるのでしょうか。そしてRenaissanceについて話すことができると思います。なぜなら私はプログラム・トレーディングの背景から来ているからです。
私たちが運営していた時の質問の一つは、アルゴリズム取引はこの歴史が長く、ポートフォリオ取引デスクとエクイティ取引デスクで20年、現在では30年近く行ってきました。この予測AIと生成AIの組み合わせは、その取引をはるかに洗練されたものにし、はるかに良いものにするのでしょうか。それはその一つの使用例にすぎません。
なぜなら、私たちが過去に行っていたのは、検証されクリーンな大量のデータがあり、特定の状況下で、過去のデータにマッピングできる状況下で、バックテストにより、現在または今から一瞬後に何が起こるかを予測する方法でした。これがRenaissanceが大規模に、そして本当に迅速に、巨大なスループットで行ったことで、そして取引決定を下すことでした。
そして他の質問は、あなたが話したようなビジネス応用にどのように適用されるかです。犬の服や猫の服を販売しているだけの売上を行っているeコマース会社のような会社では、これらすべてのものがどこで一緒になるのでしょうか。
はい、はい。許可をいただければ、2番目の質問から始めたいと思います。想像してみてください、あなたがeコマース会社だとします。Amazonのような巨大企業ではありません。なぜなら彼らは明らかに巨大で、独自の予測と機械学習の能力を持っているからです。ちなみに、それは彼らをAmazonにした大きな部分です。
一般的に考えてみると、大きく巨大で成功した企業を大きく巨大で成功させたものは、通常、適切な場所で適切な時期に洗練された機械学習に帰結します。
あなたがeコマース会社で、活動の適度なボリュームがあり、ビジネスプロセスがあるとします。プロモーション、メールマーケティングキャンペーン、次のベストオファー推薦、保持努力があります。最終的に、顧客獲得、エンゲージメント、保持努力の古典的な柱があり、それらに従事しています。
通常、標準的なeコマース会社では、これらは通常、いかなる種類の予測によっても情報を得られていません。基本的にあなたの基本的なデータ分析と直感を使用して、過去2週間で購入を行っていないすべての顧客に10%のプロモーションを与えるべきだと言っています。
それは素晴らしいビジネスロジックであり、素晴らしいビジネスルールですが、それはMichaelがこのエピソードで次の15分以内に水を飲むであろう、彼が腕を伸ばす時はいつでも、と言うようなものです。それは公正な予測です。私たち人間は常に予測をしています。
しかし、私があなたが特定の時点で飲むことを事前に知っていたり、特定の顧客が離脱するか、彼らの生涯価値は何か、私が彼らに与えるべきプロモーションは何かを予測によって知っていたとしたら、KPI、ビジネス最適化は完全に異なったものになっていたでしょう。
それが生成AIと機械学習の融合が従来のeコマースおよび他の企業に提供するものです。それは生成のようなインターフェースで動作する能力を提供します。そのため、仮想エージェントと話しているような感覚ですが、その仮想エージェントは単にテキストやコードを作成しているのではなく、実際にはあなたの仮想予測エージェントなのです。それは何が起こるかを教えてくれ、ビジネスを運営し、主要なプロセスを最適化するのを助けてくれます。
人間の認知バイアスと意思決定の限界
これについてお聞きしたいのですが、あなたが書いたものの一つで、私はあなたが書いたもののいくつかを少し読んだので、あなたが確実に知っていることを私が読み返しているように聞こえたら申し訳ありません。引用します。
「決定精度を最大化するためにすべての証拠を等しく重み付けする必要がある場合でも、意思決定者はしばしば証拠の流れの早期または後期に発生する証拠により強い重みを与える」。
あなたが行った研究から、なぜそれがそうなのかを教えていただけますか。そして、それがケースであったビジネス例について話し、AIがその問題をどのように解決するかについて話していただけますか。それは持続性の問題だと思いますが、あなたがこれをどう見ているかに興味があります。
それは素晴らしい逸話です。なぜなら、それは私たち人間に組み込まれているバイアスの量への窓だからです。私たちが通常の熟慮プロセス中にすべての情報を過小評価する意識的な決定を下すわけではありません。それは単に、私たちの脳が方法によって構築されているだけです。
あなたがビジネスの意思決定者として情報の流れを考慮している時はいつでも、始まりに非常に多くの注意を払うでしょう。非常に強い一次効果があります。始めに起こったことを非常によく覚えているでしょう。そして非常に強い近接効果があります。
それをU字型の重み付け関数として少し考えてみてください。証拠の主要部分と最近の部分を最も重く重み付けします。進化、異なる考慮事項を考えると、それを行う良い理由があります。それは完全に偏見のないものであり、すべてを同じ方法で考慮することは非常に困難ですが、明らかにビジネス領域では、途中で起こるすべての良いことを過小評価する余裕はありません。
熟慮の過程であなたのビジネスで何が起こっているかを理解したい場合、データを考慮しようとするなら、完全に偏見のない方法でそれを考慮したいのです。
それを強調したかった非常に重要なことは、人間の心が数値データ、ビジネスデータでパターン認識を行うことは極めて困難だということです。画像やテキストとは異なります。これには進化的理由があります。
画像を見ると、すぐにその画像を理解します。何かを聞くと、すぐに聞いたことを理解します。私たちの感覚、私たちの認知、感覚装置全体は、テキスト、画像、音声のためにすべて調整されています。ビジネスデータ、数値データは私たちがうまく扱えません。
そこで機械学習が実際に活躍します。私たちの数値データを分析する能力の欠如を補償してくれます。機械学習に依存することで、あなたが単に見えない、盲目であるいくつかのことを修正することができます。それは決して決定を下すことはありません。他の事業主と同様に、あなたがあなたのビジネスにとって何が最良かを知っています。しかし、以前にはなかった考慮事項を浮上させるだけです。
進化的背景と認知の限界
あなたがすべての研究を行い博士号を取得していた時に研究した特定のことで、途中で起こることをその考えを裏付けるものはありますか。人間がそのようなことを無視する物理的または認知的または神経科学的理由はありますか。
そして、進化的理由があると言いましたが、なぜ私たちの中にそのような構築があるのでしょうか。なぜ私たちはそのように構築されなかったのでしょうか。私は犬を見ると、それが犬だとわかります。それについて考える必要はありません。音楽を聞くと、それがBilly Joelだとわかります。分析していません。ただ知っているのです。しかし、数字の束を見ると、それは単なる線と円の束です。
はい、明らかに2人の科学者を部屋に入れると4つの意見があるので、まだ議論されています。しかし、私の個人的な解釈と今日科学コミュニティがそれについてどう考えているかをお話しします。
私は実際には、いわゆる「途中」を過小評価しているのではないと思います。初期と最後の証拠を過大評価していると思います。そしてなぜでしょうか。
初期の証拠には突然性と関係するものがあると思います。初めて何かを見ると、より大きな印を残します。そのため、多くの場合人々は「2回目の印象を残すチャンスはない」と言います。「第一印象を残すのは一度だけ」です。まさにそれが私が考えていたことです。申し訳ありません、続けてください。
そのため、人々は証拠についての物語の始まりを過重に重み付けします。終わり、最近の要素には異なる考慮があります。それは私が思うに、あなたがビジネスを運営し、決定を下す必要がある時点に達する必要がある時から来る効果だと思います。
最も最近に起こったことは、最も持続する可能性が高いものであると仮定するでしょう。そして、ある意味でそれを仮定することは理にかなっています。なぜなら、私たち人間として、十分に数字を分析する方法を知らないからです。
なぜなら私たちは機械ではないからです。だから基本的に自分自身に、昨日何かが起こっているのを見たら、今日も同じように続くと仮定すると言います。一方で、季節性や何らかのサイクルが起こっているかもしれず、3週間前に起こったことが実際には遥かに重要かもしれませんが、あなたは言うことができません。機械が必要なのです。
スポーツアナロジーと人間の判断バイアス
これはほとんどすべての人生の歩みに当てはまります。完全に関係のないアナロジーを作ってもいいですか。Patrick Mahomesが大学フットボールをプレイしていた時、人々は彼を見て、ボールを投げすぎる、インターセプトを投げすぎる、何も勝てないだろうと言いました。なぜなら、それが彼らが見たすべてだったからです。
外因的な影響のようなものもあり、他のすべてのことが起こっていて、今彼は史上最高のクォーターバックのようです。彼がそうかどうかは言いませんが、意見がそのように変わったのは、彼らが持っているデータの突然性と近接性のためです。
これもあなたの会社にとって販売上の問題または販売上の課題になるでしょう。Pan AIに参入して、私たちはこのすべてのことに注意を払うつもりだと言う時、あなたが構築している製品を売り込むチームをどのように特徴づけますか。
私たちが話してきたように、あなたは彼らよりも詳細なすべてのことを理解している可能性があります。彼らにとって学習曲線があるはずですが、あなたが話している突然性のあははの瞬間は何でしょうか。そこで彼らは「ああ、わかった。私たちはそのようなことを無視してきたが、今それを知って予測的利益を見ることができるなら、それは私たちのビジネスを変える」となります。
私たちの旅路の非常に早い段階で、私たち自身のあはの瞬間がありました。機械学習を使い始めるべきだと私たちが考える方法で、企業内の個人のオーディエンスまたはサブセットが完全に構築されていることに気づきました。
私が言及しているのは、通常アナリティクス、ビジネスアナリティクス、データアナリティクスと呼ばれる役割です。その役割について少し説明し、なぜ彼らが機械学習を使用するための素晴らしいオーディエンスなのかを説明したいと思います。
ビジネスインテリジェンス、ビジネスアナリティクス、データアナリティクスの個人は、ビジネスと肩を並べて働いている個人であり、私が言及したそれらのビジネスプロセスでデータに人間のアナリティクスを実行することで彼らをサポートしています。
例えば、彼らは先週何人の顧客がウェブサイトを訪問したか、そのうち何人が私たちの新しいオファリングに変換したかを尋ねることができます。それは人間のアナリティクスです。データに人間の知能の質問を尋ねる人間の個人です。
これは実際に15年、20年前に私たちのビジネス領域で革命でした。1世紀前ではありません。これらの個人は機械学習を行うために知る必要があるすべてを知っています。彼らはビジネスを知り、データを知り、人間のアナリティクスに依存するビジネスプロセスを理解しています。
彼らは人間として、2つまたは3つ以上のデータポイントに依存する洗練された分析を行うことができないことを知っています。それは単に私たちの認知能力を超えているのです。2つまたは3つのポイントを分析することができ、その後私たちは森の中で迷子になります。
だから、これらの個人は、彼らの人間の分析知能をAI分析で増強できる何かに手を置くことを切望していると言えます。そうすれば、データを取って、自分の直感を注入しない質問をすることができ、むしろ機械にビジネスが必要とすると信じる予測を提供させることができます。
このコミュニティのもう一つの良い点は、機械学習とAIで特に経験と技術を持つデータサイエンティストのような他のグループほど経験と技術を持っていませんが、ビジネスの他の分野では、彼らはAI の世界に完全に関連しているということです。彼らは組織にツールと能力を構築してもらうだけです。それが私たちが取っている個人的な革命です。
透明性とリスク管理の課題
これらの企業に入って、ビジネスに密接に関連しているがセールスを行っていない、しかしセールスチームにアナリティクスを提供している人々を見つけると、あなたは「もしこれを使ったらどうだろう」と言います。それが彼らのあはの瞬間で、「ああ、これは私が密接に関連しているが自分ではやっていない他のことを本当に変えることができる」となります。理解できますか。
100%です。しかし、リスクは何でしょうか。これらの人々に到達し、ツールを与えて、もし彼らが期待に応えられなかったらどうなるでしょうか。
これが問題なのです。人工知能の周りには多くの魔法があり、おそらくこれらのビジネス開発役割やデータアナリティクス役割やビジネスアナリティクス役割をしている人たちが、これらのツールがあればこのことでずっと良くなれると思っているかもしれません。
そして「この新しいレポートを見るまで待っていてください」という人間の傾向があります。それが新しいビジネスを生み出さなかったり、これらの新しいKPIに応えなかったりしたら、リスクは何でしょうか。そして人々が「そのようなことはやらない」と言うだけになってしまうことを、どのようにそのリスクを緩和するのでしょうか。
はい、この指先でAI予測の大きな力を持つことの裏側は、なぜ予測モデルが行った予測を正確に行ったのかの明確さが、私たち自身の知能よりも曖昧になることです。
これは再び私たちの認知構造に戻ります。人間として、2週間ウェブサイトを訪問しなかったすべてのユーザーに10%のプロモーションを与えると言う時、なぜそのユーザーがプロモーションを与えられたかを正確に理解しています。
また、期待される結果もあります。あなたは2か月間これをしなかった、以前に買ったものに10%の割引があります、おそらくまた買うでしょう、というようなことです。それは非常に明確です。
それは明確で、報告可能で、理解可能で、そのルールを作ったデータアナリストに「一体何を考えてそれをやったのか」と言うことは非常に困難です。ばかげています。起こりません。
予測モデルがプロモーションを与えるべきだと言った人にのみプロモーションを与えると言う時はいつでも、ほとんど制御を失うような、未知への恐怖のような行為があります。そしてそれは本当のことです。組織は何がフードの下で起こっているかを十分理解していないためにAIを採用しない場合が多いのです。
そのため、私たちは企業として、そしてコミュニティとして、機械がその決定を下した理由の概要と一般的な視点を提供するために多くのカロリーを投資してきました。
しかし、考慮に入れなければならない追加のことが一つあります。それは心理的バイアスのようなものです。マーケティングを行い、GoogleやFacebook、LinkedInに多額のお金を支払って、彼らが特定のリードを持ち帰ってくる時、あなたは彼らのフードの下で何が起こったかを本当に知りません。あなたは彼らを盲目的に信頼しているだけです。
マーケッターとして行ったことは、良いマーケティング演習を実践している場合、A/Bテストを実施したことです。なぜなら、プロセス主導ではなく結果主導になったからです。
結果について考えて、LinkedInがこれらのリードを私に持ち帰り、その金額を投資した場合、彼らは今自分自身のAIを使用しているので、それで構いません。
同じことがここにも適用されます。私たちは常にパートナーや顧客に推奨し、実装を支援しています。あなたのビジネスプロセスの一部を増強するためにAI、生成AI、機械学習、またはこれらのモデルのブレンドを再利用しようとする場合、完全な明確さを持てないという事実を受け入れる必要があります。なぜなら、あなたはもはや人間の知能の領域にいないからです。人工知能の領域にいるのです。それを受け入れてください。
二つ目、常にテストしてください。常にテストしてください。常に分割でき、常に測定でき、常に目玉で人間の知能に依存することとAIに依存することの大きな違いを見ることができます。
透明性の哲学的課題
これは私があなたと議論したい別のトピックを持ち出します。それはあなたも書いたり研究したりしたことについての透明性です。これは私も信頼していることについてのちょっと曖昧な小さな世界に入りますが、バックエンドで何が起こっているかについてもう少し情報が欲しいのです。
私たちもトレーディングデスクでこれをやっていました。VWAPアルゴリズム、ベストプライス、すべてのこれらの異なるアルゴリズムがありました。ある時点で買い側トレーダーは私たちにアルゴリズムが何をしているのかを尋ねるでしょう。なぜそれをしたのか、なぜなら意味をなさないように見えたからです。
公平に言うと、VWAPアルゴリズムが何かを知っているかどうかはわかりません。これは最もシンプルなアルゴリズムの一つです。出来高加重平均価格だと思います。しばらくやっていないのですが、出来高加重ですよね。だから大量の出来高が取引されると、VWAPアルゴリズムは追いつこうとします。単純化された用語では、決定を下すつもりはありません。ただ大量の出来高が取引されるのを見たので、出来高に遅れたくないと言うだけです。
しかし、時間が経つにつれて、これらのアルゴリズムを開発していくと、おそらくそれは異常かもしれない、すべてが戻ってくるかもしれない、おそらくそれが価格を高くしすぎて、待てばより良い価格が得られるとも考えることができます。人間のトレーダーがその決定を下すことができますが、アルゴリズムはそれができるでしょうか。しかし、少なくとも私たちは何が起こっているかを理解していました。
この透明性について話していただけませんか。
はい、話したいと思います。これは最終的に私の学術的哲学的背景に戻ってくることが非常に面白いです。なぜなら最終的に、それを煮詰めると、人々もまた認知的動物であるという事実に行き着くからです。私たちには物事について考えたり分析したりする独自の方法があり、実際には私たちが物事について考える方法と機械が物事について考える方法の間にはギャップがあります。
知っておくべきことは、透明性の観点から行うことができることはたくさんあり、1分後にそれに触れますが、私たちがテーブルに置いて正直でなければならない根本的なことがあります。私たち自身の決定を理解する方法で機械学習とAIアルゴリズムを理解することは決してできないでしょう。
理由は、これらは二つの異なる説明レベルだからです。人間のために何かを説明したい場合、哲学で意図と呼ぶものを使用します。彼らの意図、目標駆動行動、考慮論理と無意識の考慮を説明しようとします。「彼は喉が渇いていたのでボトルに手を伸ばした」。
しかし、機械がその決定を説明しようとする時、それはこのようなものになるでしょう。「この神経群がこの速度で発火し、その神経群がその速度で発火したため、腕が水のボトルに向かって伸ばされることになる」。意図的説明対メカニスティック説明です。
同じ論理がビジネス理解と一対一で適用されます。2週間ウェブサイトを訪問していない人にプロモーションを与えたい場合、それは意図です。ログインするのを忘れた人を助けたいという意図があります。
機械学習アルゴリズムがそれらを与えたいためにプロモーションを与えたい場合、それは彼らがログインした地理的場所、週前にウェブサイトで行った何か、類似する他の要素、そしてこれらすべてが誰も本当に説明できない曖昧な数字によって乗算されていることを意味します。
それらすべてが組み合わされて、プロモーションが与えられた場合の変換の可能性のメカニスティック説明を提供します。
AIの採用を考えている個人として透明性について考える時、意図的スタンスを脇に置かなければなりません。なぜなら、スイッチを切り替えて、機械学習モデルが提供するものであるメカニスティック説明を使用することに完全に快適でなければならないからです。
なぜなら、ある程度では、説明を聞いても、それが完全に透明であっても、あなたはそれを理解しないかもしれません。そして、ほとんどの場合、人々は決してそれを理解しないと思います。なぜなら、それは意図的ではなくメカニスティックだからです。これは通常あなたが人生を生きる方法です。
しかし、なぜあなたがそれをしたのかと私があなたに言った場合、あなたは「私は喉が渇いていた」と言うことができ、私は完全に理解します。これ以上の説明は必要ありません。しかし、機械にあなたがそれをした理由を尋ね、それがこれらすべての他の数値的説明を与えた場合、私は「わかりました。より多くの販売をしましょう」と言うだけです。なぜなら、そのように考えない、決してそのように考えることのない人間には意味がないからです。それは公平ですか。
完全に公平です。
AIの遍在性と電気との類推
これについても聞きたいことがあります。これはもっと意見のようなものですが、今朝人工知能についても会話をしていて、機能それ自体であるというよりは、私たちが行うすべてのことの一部になるだけという、より持続的な側面への何らかの等価性を作ろうとしていました。
彼が思いついたのは電気でした。この後電話を切った後でこれについて考えていたのですが、私はそれらのライトがどのように機能するかまったくわからないのと同じです。私は長い間、20年か30年間これについて考えてきました。
もし宇宙にあるすべてのもの、このテーブルでもこのマイクでもこのコンピュータ画面でも、ただ消えてしまって、私がそれを再構築しなければならないとしたら、不可能です。なぜなら私はこれらのもののどれがどのように機能するかを知らないからです。あそこにカメラがありますが、どのようにオートフォーカスするのかまったくわからない。推測はできますが、再現することは決してできないでしょう。
しかし、相対的な用語である電気のようなシンプルなものでさえ、私はあそこのスイッチを回すとライトが点くことを知っていますが、それがどのように機能するかはまったくわからず、ほとんどの人も知らないと思います。
私たちが使用するAIのものが非常に持続的になり、どこにでもあるようになる時点に到達するでしょうか。多くの場合、ほとんどの人は一つはそれがそこにあることを知らないか、二つはそれがどのように機能するかを知らないでしょうか。
これは非常に良い考え方で、間違いなく共鳴します。すぐに同意したいと思います。一般として人間として、文明として、革新的技術を採用し適応するのに時間がかかります。すべての新技術がそうです。おそらくそうあるべきです。
健全な懐疑主義、健全な懸念で迎えられ、それは完全に良いことです。しかし最終的に、人生を変革する革新的技術は常に採用され、私たちは種として適応します。実際、それは私たちの中核的な進化的強みの一つです。
専門化、基本的にあなたが説明していることは専門化です。私はスクリーンの作り方がまったくわからないし、スクリーンを作る私の同僚はポッドキャストや知識や、またはあなたの職業が何であれ、その作り方がまったくわからない。
私たち人間が専門化し、各個人が知識の深い垂直化になることができたという事実、先ほど言ったように、ますます増加するだけです。文明としてそれを楽しむのを助けることができるAIをマスターする人々は、明らかに他の人と同様に文明にとって極めて重要になるでしょう。
少し時間がかかります。規制がより良くなり、一般的な教育がより良くなるまで、それほど多くの時間はかからないでしょう。なぜなら採用の利益が非常に高いからです。そして、あなたが言及するように豊富になると、それは私たちの日常の一部になります。
ちなみに、AIは非常に長い間私たちの周りにあり、気づかなくても使用しています。Amazonで買い物をする時はいつでも、AIに基づく推薦を受けます。Siriと話す時はいつでも、完全なAIアルゴリズムを使用します。
すでにそこにあります。文明の一部である限り、技術の一部である限り、AIから逃れることはできません。AIは私たちの周りにますます増えていくでしょう。私たちは認識し、技術が最良の方法で使用されることを確認するために考慮、常識、規制を発揮しなければなりません。なぜなら、技術を自分自身の議題に仕えさせようとする人々が常にいて、悪い議題の場合もあるからです。
イスラエルの起業家精神と困難な状況
少し話題を変えたいと思います。もしよろしければ、この会話の最後で何かについて話したいと思います。今朝誰かが何かについて話しているのを聞いていて、彼らはリンカーン暗殺について話していました。有名な引用があるのですが、正確には覚えていません。「そのことを除けば、劇はどうでしたか、リンカーン夫人」というようなものです。
私はそのような感じがします。今日、しかし今日は私の心では過去75年間と何も違わないような気がします。イスラエルの起業家であることは特定の種類の回復力のある人を作り上げるのではないかと好奇心があります。根本的にゼロから物事を構築することに長けており、スタートアップを構築することに伴うすべての逆境に耐えることができる人です。
今朝私のビジネスパートナーである友人と話していました。今日私たちは契約にサインし、それは文字通り五分五分でした。私はこれをあまり共有しませんが、今日私たちは契約にサインし、本当にクールでした。それが起こるかどうか100%確信していませんでしたが、もし起こったら素晴らしく、もし起こらなかったら、私たちは再編成して、私たちは大丈夫かを考える必要があっただけでした。
しかし、私が感じるのは、それがスタートアップを構築すること以外のイスラエル起業家の日常生活だということです。私は、人々がより良い感覚を得ることができるように、政治的観点からではなく、個人的観点から日常的にどのようなものかについて、自由にコメントしていただければと思います。
はい、確実に。明らかに私はこれがトピックであることを嬉しく思いません。私たちがすべて、これがトピックでもなかったことを願っていますが、そうなのです。特に最近は逃れることができません。
イスラエルからイスラエル人として運営することには、挑戦と利点があります。まず利点について話すことができます。なぜなら、私たちがイスラエル人として市民として直面しなければならないストレスに直面する時、あなたはあなたが死ぬことを明示的に述べる人々に囲まれているという状況があります。
北米、南米、アジア、ヨーロッパの人々にとって、それは想像すらできないことだと思います。あなたの周りのすべての人があなたが死ぬことを明示的に述べていることは。
それは多くの方法であなたを鍛えると思います。それはあなたを非常に回復力があるものにし、何も当たり前と思ってはいけないということを理解させ、あなただけに頼っているため成功しなければならないということを理解させます。リラックスできません。のんびりできません。落ち着くことができません。安らぐことができません。
基本的に私たちはガスペダルから足を離すことを許しません。それが理にかなっているでしょうか。
それも一つのことです。職場で大きな挑戦がある時はいつでも、物事を展望に保つのも助けになります。
私たちはイスラエル人として、私は聴衆の皆さんが承知していると確信していますが、私たちにとってここは厳しい時代です。常に起こる脅威、本当の脅威があります。仕事は重要です、極めて重要です。私たちは日々を仕事に捧げますが、何が本当に重要かを知っています。そして、タッチウッド、健康で一緒にいる限り、それも非常に地に足の着いたものです。物事を展望に置きます。
最後になりましたが、イスラエルの起業家として共有できる他の大きな利点は、会社を率い、素晴らしい会社を構築し、イスラエル経済に貢献するという役割が、ほぼ愛国的レベルの追加の特別なレベルに持っていかれることです。私は私の会社だけでなく、私たちの従業員だけでなく、国のために、国家のためにも成功したいのです。
しかし、挑戦もあります。明らかに非常に困難です。想像できるように戦争が続いている時に運営することは運営的に困難であり、ビジネスの観点から重要なことに焦点を保つことも困難です。残念ながら非常に多くの気を散らすものが周りで起こっている時です。
しかし、私が常に言うように、私たちはタフで、強く、正しく、勝たなければならないし、勝つでしょう。それは私自身、ここの素晴らしいチーム、そしてイスラエルのエコシステムから素晴らしい会社を運営しているすべての同僚と仲間にとって励みになります。
それは本当に本当に力強いです。Pan AIの共同創設者兼CEOであるZohar Bronfman博士、それは素晴らしかったです。最後に共有していただいて本当にありがとうございました。人々が理解し、これらのことを人間化して、何が起こっているかの本当の感覚を得ることが本当に重要だと思います。お時間をいただいて本当にありがとうございました。
ありがとうございました。
コメント