ウォートン校とMITはAIについて合意できない:実際のAIプロジェクト構築において両者が見逃しているもの

AI活用
この記事は約17分で読めます。

ウォートン校とMITが発表した、大企業における生成AI導入に関する調査研究は、一見矛盾する結果を示している。MITは95%の失敗率を報告し、ウォートン校は75%の成功率を主張する。この矛盾の根本原因は、成功の定義と測定基準の違いにある。MITは短期間での収益への直接的な影響という極めて厳格な基準を採用したのに対し、ウォートン校は生産性や効率性などより従来的なソフトウェアROI指標を用いた。しかし、両研究とも、組織がAIで真に成功するための実践的な構築方法については十分に言及していない。本動画では、AIネイティブな組織が持つべき「制度的流暢性」の3つの核心要素を提示する。それは、チームレベルでのコンテキスト認識の醸成、個人レベルでの所有権とチームレベルでのスキルという従来とは逆転した関係性、そして組織全体に民主化されるべき審美眼である。

Wharton & MIT Can't Agree on AI: Here's What Both are Missing on Building Real AI Projects
It's AI Fight Club for Academic studies.The common story is that MIT found a 95% failure rate and Wharton found 75% succ...

矛盾するAI導入研究の真実

皆さんがAIについて混乱しているとしても、私は人々を責めることはできません。なぜなら、発表されている研究自体が混乱しているからです。今週、10月28日に、ウォートン校が大企業における生成AIの投資対効果と実装に関する研究を発表しました。もしこれが聞き覚えのあるテーマに聞こえるなら、その通りです。なぜならMITがわずか数ヶ月前に同じ企業グループを研究していたからです。驚くべきことはこれです。

MITの研究ではAIプロジェクトの失敗率が95%だったのに対し、ウォートン校は75%の成功率という結果を出しました。これらが互換性のない数字であることを理解するのに、高度な数学的スキルは必要ありません。両方が正しいということはあり得ないのです。そこで私は、企業で実際に何が起こっているのか、この2つの数字をどう統合すべきか、そして率直に言って、意味をなさず常に変化し続けるこれらの見出しから受ける吐き気を乗り越える合理的な前進の道は何かを、時間をかけて解き明かしたいと思います。

ビジネスには一貫性が必要です。ビジネスには明確性が必要です。そしてビジネスには、意味のある方法で実際に構築できる能力が必要です。ですから、私の目標は、この動画の終わりまでに皆さんを確固たる地盤に立たせることです。そうすれば、人々が「75%なのか、95%なのか」と言っているときに、振り回されたり混乱したりすることがなくなります。実際に何が起こっているのか、お話ししましょう。

MITとウォートン校の測定基準の違い

95%という数字は、MITがプロジェクトの成功に課した極めて厳格なスクリーニングから生まれました。これは、彼らがバイラルになる見出しを効果的に作り出した方法の一つです。そして、はい、私はあえて言います。彼らは見出しを意図的に作り出したと思います。なぜなら、そのスクリーニングは私がこれまで見た他のほぼすべての社内ソフトウェア測定基準よりも厳格だからです。この場合、MITが言っているのは、わずか数ヶ月以内にビジネスのトップラインではなくボトムラインに対するドルとセントでの影響を測定できない限り、すべてのプロジェクトはデフォルトで失敗だということです。

6ヶ月か12ヶ月か何であれ、そういう期間でした。それができなければ、それは無用だということです。これは私が見た他のどのソフトウェアとも違います。ソフトウェアを購入する際に、そのような方法で測定されることはありません。常に、より大きなビジネス価値につながると思われる内部指標で測定します。そして、それがウォートン校の研究と75%の成功率につながります。

ウォートン校のアプローチは、経営幹部と話をして、彼らがどのようにROIを測定しているかを彼ら自身に語らせることでした。そして経営幹部が圧倒的に語ったのは、彼らが他の指標を使っているということです。彼らはボトムラインのドルとセントだけを使っているわけではありません。彼らは生産性を見ています。時間の節約を見ています。

スループットを見ています。そしてこれらすべてを見たとき、経営幹部は非常に明確な成功の尺度が得られると感じているのです。そこから75%という数字が出てきます。ですから、まず何が起こっているのか、なぜ違うのかを知りたいなら、これはリンゴとオレンジを比較しているようなものです。MITからは非常に厳格な利益測定があり、ウォートン校からはより緩やかで、より従来的なソフトウェアROIの全体像があります。

両研究が見逃している重要な視点

両者が正しく捉えていないこと、そして私が共感を持っている部分は以下の通りです。MITは、私たちがAIにかなり高い基準を課す必要があるという点で正しいと思います。これは変革的な技術です。同時に高価な技術でもあります。従業員一人当たりのコストが、以前のどのソフトウェアよりも10倍以上高くなる瀬戸際にあります。

はい、私たちは異なるROI測定基準を持つことになるでしょう。ですから、MITがリーダーシップに対してソフトウェア購入のROIについて異なる考え方をするよう挑戦しているとき、彼らは何かを捉えていると思います。しかし、ウォートン校は現場の実態を分析するという素晴らしい仕事をしていると思いますし、経営幹部が定義上、慣例上、そして彼らが通常行動する方法で実際に物事を測定する方法を分析しています。

ですから、もし私がこれらすべてを持ち帰るとしたら、私からのお願いは、このような見出しにあまり注意を払わないでほしいということです。私には問い合わせが来ます。メールを受け取り、メッセージが届きます。わかります。ニュースメディアが矛盾する情報を報道するのが好きなとき、それは混乱を招きます。しかし、AIで成功している組織での現実ははるかに安定しています。

そして、それが基盤の観点から皆さんに残したい部分です。私たちがAIシステムで構築し、それが実際に機能するとき、これら両方の研究と非常によく一致するいくつかのことがあります。それについて説明しますが、研究はそれらに到達していません。つまり、研究はどのように積極的に構築するかには到達していないのです。それが私のスタイルですよね。それが私が大好きなことです。

制度的流暢性の第一要素:コンテキスト認識

まず最初に皆さんに示したいのは、これらを組織の流暢性を構築できる一種の構成要素として考えてほしいということです。数週間前に個人の流暢性について話しました。今日は制度的流暢性について話したいと思います。これがこれら2つの研究をつなぐ欠けている要素の一つだと思います。そして、それがどのように機能するかを理解することで、次にどんな研究がどんな数字で出てきても、振り回されたり押し流されたりしないようになると思います。

制度的流暢性の最も大きな部分、もし会社全体でAIに関する流暢性を確立したいなら、あなたの会社はチームと個人のためにコンテキスト認識を理解し形成することに長けなければなりません。そして、チームが本当に原子単位だと思います。個人は来ては去りますが、チームは安定しています。

チームには担当する特定の縦割り領域があります。チームには特定のドメイン所有権があります。そして、AIに流暢な組織は、チームの価値とは彼らが存在するコンテキストであり、特に彼らがAIシステムに明確に伝えることができるコンテキストであることを理解しています。ですから、私たちがコンテキストエンジニアリングについて話すとき、通常それは一つの仕事です。

私はそれを一つの仕事としてではなく、すべての人の仕事としてもっと考えるべきだと提案しています。コンテキストは私たち全員がテーブルに持ち込むものです。コンテキストはチームが意図的に維持する必要があるものです。どういう意味でしょうか。もしあなたが非常に深いレベルで理解しているなら、これが私のドメインが実際に機能する方法です。これが私が実際にビジネスに価値をもたらす方法です。

これらが私が使える独自のプロセスとワークフローです。これらが不確実性の領域であり、より良くなるために私のドメインで探求する必要がある領域です。そして、もしあなたがチームとしてそれをLLMに意図的に明確に伝えることができるなら、あなたは個人が単独でAIに取り組む場合や、2022年以前、つまり生成AI以前に行っていた仕事と比較して、ビジネスに対して倍増した価値を提供できる立場にあることになります。ここではコンテキストが王様です。

コンテキストは、ビジネス内のローカルレベルで有用であるために必要なものをAIに供給するのを助けます。もしチームがAIにコンテキストを明確に伝える方法を理解できなければ、他のすべてのことで問題を抱えることになるでしょう。そして、これはウォートン校の研究と成功を見るとき、ここで起こっていることの一部は、リーダーたちがチーム間で説明責任のある加速を見ていると言っていることです。

私がそれを読み取る方法は、リーダーたちがチームが自分たちの専門分野でコンテキストを取り上げ使用して価値を推進し始めているのを見始めているということです。そして経営幹部はそれを測定し、潜在的に功績を認め、成功として数えることができます。ですから、コンテキストが私が指摘したい最初の要素です。

AIにおいて制度的に流暢な組織は、コンテキストがローカルであること、コンテキストが個人レベルではなくチームレベルで機能することを理解しており、チームレベルのコンテキスト流暢性を意図的に育成しています。

制度的流暢性の第二要素:問題解決スキルの逆転

私が皆さんと共有したい2番目の要素は、制度的に流暢な組織が持っているものは問題解決スキルです。

これは本当に明白に聞こえます。なぜなら、私たちは従業員のトレーニングとスキルアップの要素として問題解決スキルについて何十年も話してきたからです。生成AIのはるか前からですね。しかし、これらの問題解決スキルを社会化することは、マネージャー、ディレクター、そしてそれ以上の人々が私のところに個人的に来て、これは本当に難しいと言っていることです。これは簡単ではありません。

そして、ウォートン校とMITの測定基準の間に不一致が見られる理由の一部は、MITの測定基準、95%の失敗率の測定基準が、組織全体が問題解決において非常に優れていて、ボトムラインを有意義に押し上げることを要求しているからだと思います。これは極めて高い基準です。問題解決が得意なチームをたくさん持つことができますが、もし2、3の悪い要素があれば、プロセスのどこかでボトルネックになり、ボトムラインに価値を提供するのに苦労することになります。

ですから、私たちが必要としているのは、問題解決スキルをチームの流暢性における重要なパッチとして扱うことです。これなしでは生きていけないもの、すべてのチームに持たせなければならないもの、そして必要であれば完了させるために採用するものとして扱う必要があります。言い換えれば、AI問題解決は今日、私たち全員の問題になりつつあり、実際にそれを修正するまで良くならないのです。

では、AI問題解決は実際にはどのようなものでしょうか。私たちはそれを言うことができますが、チームが合理的に学べるものは何でしょうか。心に留めておいてください。チームがコンテキストを知っていれば、チームは問題を知ることになり、チームは問題を解決することを学ぶことができるでしょう。私が提案したいのは、問題解決とは本当に、玉ねぎの皮をむいて深く考えると、AIが情報について考え処理する方法を理解することの関数だということです。

なぜなら、AI以前の問題解決について従来的に考えると、私たちは曖昧な問題空間を解き明かすために情報を操作しているからです。ですから従来は、プロダクト要件文書を書くとか、このデータ分析を行うとかでした。そして、私たちは複雑な顧客体験や運用上のペインポイントを解き明かすために、より近づくために情報を操作していました。

そして、批判的思考スキルや優れた文章力など、私たちが話しているすべてのものは、個人として、そしてチームとしてこれらの問題を解決するために、手動で拡大できる方法でした。そしてその世界では、個人が情報の流暢性を前進させたため、個人のスキルが非常に重要でした。

もし個人が文章を上手に書けるなら、その人はチーム全体が引き上げられるほど上手に書けるかもしれません。そして所有権はチームレベルに存在しました。そして、チームマネージャーは問題の解決、障害の回避など、優れたマネージャーにやってほしいすべてのことに対して責任を持ち、所有していました。それが反転し始めています。

そして、これは以前に共有したことがありません。これは本当に興味深いと思います。AI問題解決の時代に私たちが見始めていると思うのは、代わりに個人が所有権に非常に高くインデックスする必要があり、マネージャーやチームがスキルに高くインデックスする必要があるということです。これは通常とは逆です。ですから、問題解決スキル、LLMがどのように機能するかを理解する能力は、実際にチームのレベルに存在できますが、進歩を遂げるためには所有権の部分が個人に存在しなければなりません。そして、なぜその反転が起こったのかを説明します。

AI時代に問題を解決することについて考えるとき、実際にやっていることは、AIが理解して作業できる方法でAIに問題を供給するのに十分なAIについて理解することです。そして、この部分については以前に話しました。問題を細かく切り刻み、分解して、ロボットAIが問題を拾い上げて操作し、問題空間をより速く通過するのを助けることができるようにするという部分です。

それが全体の目標です。ロボット知能が私たちと一緒にその問題に取り組んでいるなら、問題を解決しやすくなります。ここで以前に話していないのは、実際のチームが実際のAIシステムを構築している実践においてです。私が見ているのは、AIと協働する個人のレベルでの所有権が不可欠だということです。もしあなたが個人として、個人の貢献者として、所有権と品質、そしてAIが解決に使っている基準を評価し、それが本当に十分でないときにAIが十分に良くないと主張する非常に強い感覚を持っていなければ、あなたは全く価値を追加することができなくなります。

一方、過去には、その基準をチームレベルで設定でき、マネージャーが情報の基準を管理できました。そして、すべての人間が一緒に作業していて、情報がゆっくりと移動し、問題をゆっくりと探求していたため、マネージャーが品質の基準として機能できたので、それで大丈夫でした。

今日この時代では、それは真実ではありません。AIはすべての人に非常に多くのスーパーパワーを与えているため、所有権を個人の貢献者のレベルまで委譲しなければなりません。そして、それが根本的に、組織がAI変革に非常に苦労している理由の一つだと思います。それは私たちの個人の貢献者に対して、これまで以上に多くのことを要求しているのです。

そして、私たちは個人の貢献者がマネージャーではなく企業の原子単位である世界に慣れていません。企業は管理理論に基づいて設立されています。考え方は、マネージャーがドメインに対して、部門に対して責任を持つということです。彼らはビジネスの代表者です。彼らは個人の貢献者と協働します。

それが何百年もの間、私たちがやってきた方法です。私は、それがAIネイティブな組織が実際に構成される方法ではないと考え始めています。AIで持つパワーは個人に非常に重く存在しています。他の方法でできるとは思いません。所有権を個人の貢献者のレベルに置かなければならないと思います。

そして、それは人々をどのようにトレーニングするかについて深い意味を持っています。なぜなら、本当に人々をトレーニングする必要があることは、自分のドメインと状況、自分の問題、AIとの作業方法、使用する基準の所有権を取ることから始める必要があるからです。すべてがそこから流れます。そして皮肉なことに、私たちが以前個人レベルで持っていたこの種のスキル、これは本当にスキルのある作家だよね、この素晴らしい作家、彼なしではできなかった。

そして彼がチーム全体を引き上げる。そういったことが今はチームレベルに存在できるようになりました。チームがお互いにプロンプトを共有している様子を見てください。お互いにClaudeスキルを共有しています。チームがお互いにカスタムGPTを共有しています。AIは多くのスキルの商品化を可能にしています。そしてAI問題解決に関して言えば、技術的スキルやAIの理解の多くを共有可能な形式でエンコードできます。

ですから、誰かがトランスフォーマーアーキテクチャがどのように機能するか、AIが問題を首尾一貫して読めるように問題をどのようにチャンクしたいかについてあまり詳しくないとしましょう。それは大丈夫です。彼らのためにプロンプトを書きます。チームとプロンプトを共有します。それが何をするかについて話すブラウンバッグセッションを開きます。しかし、彼らはすぐにプロンプトを実行でき、スキルが移転し、チームの他のメンバーと社会化するにつれて時間とともにスキルを獲得できます。

しかし、できないことは、スキルを与えて彼らが所有感を持たないことです。それは壊れます。それは機能しません。ですから、私たちはコンテキストについて話しました。問題解決と、それがどのように従来のチームと管理規範を逆転させるかについて話しました。

制度的流暢性の第三要素:審美眼の民主化

今日話したいもう一つの要素があります。それは、この制度的流暢性の概念の根底にあるもので、あまり頻繁には語られていないものだと思います。

以前は、審美眼の概念、これが優れているか、これが並外れているか、これが顧客にとって素晴らしいオファーであるかという概念を、会社内の小さな、いわば神官階級に委任できました。私たちの会社のスティーブ・ジョブズはここにいます。彼には審美眼があります。

彼は並外れた構築者です。彼は素晴らしい発明家です。これを彼に通して、それで問題ないでしょう。AI時代には、もし本当に迅速に動きたいなら、審美眼はもうそのようには機能しないと思います。ですから、やりたいことの一つは、実際に審美眼の感覚をチームレベルまで与えて社会化することです。そうすれば、チームは並外れた品質を犠牲にすることなく自律的に動くことができるようになります。

そして、その品質のトレードオフが、私がウォートン校とMITの研究で本当に考え続けてきた要素の一つだと思います。MITは本質的に極めて高い品質基準を持ち、ウォートン校はよりリラックスした従来のソフトウェア品質基準を持っていたと感じます。そして、もし繁栄し、実際に機能するAIネイティブな企業を構築したいなら、チームのDNAに組み込まれるところまで、品質と審美眼に対するその狂気じみた、ほとんど創業者レベルの執着心を社会化する方法を見つけなければなりません。なぜなら、彼らはAIエージェント、AIツールで非常に多くのパワーを持ち、自分たちの製品を立ち上げ、ビジネスの自分たちのコーナーを推進できるからです。

これは会社によって異なる見え方をするかもしれません。もしかしたら、チームレベルではなく部門レベルだと言うかもしれません。しかし、ポイントは変わりません。審美眼は、AI以前の時代よりもはるかに民主化されたレベルで現れるものです。

そして興味深いのは、これは製品が良いかどうかの審美眼だけではないということです。それは問題における審美眼です。どの問題が私たちが解決すべきスパイシーなものなのか。それは問題解決スキルにおける審美眼です。学習方法における審美眼です。私が言っているのは、組織の収益性マトリックスのどこにジュースがあるのかという感覚を開発しなければならないということです。

おそらく、あなたのチームができる最も効果的なことは、今後3ヶ月間スケールアップすることで、他のチームはそれを必要としないかもしれないが、あなたのチームは必要としているということです。おそらく、あなたができる最も効果的なことは、問題空間の発見に倍賭けすることで、他のチームは製品を構築しているかもしれないし、あるいは審美眼のより伝統的な定義で、あなたは優れた製品に取り組んでいるかもしれません。

しかし、それが重要な理由は、チームが審美眼を持たなければ、高い所有権を持つ問題解決で使っているツールが無駄になるからです。審美眼は本質的に、取り組むべき正しいものを選び、良いものがどのように見えるかを本当によく知っていることを確認するという、格好良い言い方です。それが審美眼です。

ファッションにおいて高い審美眼を持つ人について話すとき、彼らは着るべき正しいものを選び、それを良く見えるように着る方法を知っています。非常に似た考え方です。そして、それが以前はほんの一握りの人々に、組織が異常を破ることを認可された10人から15人の小さなコレクションに委任できたものだと思います。そして彼らは創造的思考を導入できるように組織によってそれを行うことを認可されていました。IBMが最盛期にいたとき、IBMには審美眼を持つ人々がいました。彼らは組織のすべての規範を破ることを認可された10人から15人のグループでした。

彼らの審美眼は民主化されなければなりません。そのアイデアはもう機能しません。私たちは審美眼の感覚を社会化する組織を構築する必要があります。そして、これは普遍的ではないことを提案したいです。LLMがどのように機能するかは普遍的です。LLMで問題を解決することを学ぶ能力も普遍的なスキルです。

所有感は普遍的なスキルです。審美眼はそうではありません。審美眼はあなたの縦割り領域に特有です。審美眼はあなたの状況に特有です。審美眼は、この動画の冒頭で述べたコンテキストにより似ています。審美眼は、あなたがローカルドメインを非常によく知り、問題における優れた審美眼を持つことを要求します。さあ、どうぞ。

ウォートン校とMITの間で本当に話しているのは制度的流暢性だと思います。そして、3つの鍵はコンテキスト、そして所有権とスキルの間の従来の関係をチームが反転させ始める能力です。所有権は今や個人レベルに、スキルはチームレベルに存在します。そして最後に審美眼です。審美眼は私たちが組織に押し下げなければならないものであり、それも新しいことだと思います。

組織におけるAI流暢性について、あなたが見逃していると思うこと、または私が見逃していることは何でしょうか。これは進化している分野です。私はリアルタイムでこれを学び、見ています。あなたは何を言っていますか。

コメント

タイトルとURLをコピーしました