本講演は、Future Today Strategy Groupのサム・ジョーダンが、現代社会において根本的に変化しつつある3つのパイプライン──「クラフトパイプライン(ものづくりの過程)」「ディスカバリーパイプライン(発見と理解の過程)」「タレントパイプライン(リーダー育成の過程)」──について論じたものである。1960年代の社会構造の変化を引き合いに出しながら、プロンプト可能な世界やエージェントAIといった新技術が、テストと構築の順序を逆転させ、観察から創造へと科学のあり方を変え、さらには若手人材が摩擦を通じて直感や性格を育む機会を奪っていることを指摘する。これらの変化は効率性とアクセスの民主化をもたらす一方で、直感、好奇心、人間的な性格という重要な副産物を失わせる危険性がある。ジョーダンは、リーダーたちに対し「フリクション監査」を実施し、失われつつある要素を意図的に新しいパイプラインに組み込むよう呼びかけている。
1960年代という転換点
皆さん、South by Southwestへようこそ。ケイティさん、ご紹介ありがとうございました。さて、始めましょう。皆さんに質問があります。1960年代と聞いて、何を思い浮かべますか? ちょっと考えてみてください。この時代の髪型を思い浮かべますか? 興味深い髪型の選択でしたね。それとも服装でしょうか? あるいは、こんなセクシーな口ひげを思い浮かべるかもしれませんね。
美学のことなど全く考えないかもしれません。もしかしたら、この時代に消費された独創的な料理の珍味を思い浮かべるかもしれません。ツナゼリーはいかがですか? ゼラチン状のエビはどうでしょう? いいえ? わかりました。South by Southwestのチームにスライドを1つ進めてもらえますか。素晴らしい。
これは単なる奇妙な時代ではありませんでした。これは変革の時代だったのです。1960年代には本当に多くのことが起こりました。最初の経口避妊薬が1960年代に市場に登場し、女性たちが大挙して労働力に参入し始めました。1963年、アメリカ合衆国大統領が暗殺されました。その5年後、マーティン・ルーサー・キング・ジュニアが暗殺されました。この10年間には、ベトナム戦争のエスカレーションと徴兵がありました。
この10年間には、公民権運動がありました。行進、フリーダムライド、バーミンガム、セルマ、人種暴動がありました。世界中でさまざまな理由による抗議活動がありました。カウンターカルチャーが出現しました。これまでに作られた最高の音楽のいくつかがこの10年間に作られました。キューバ危機は私たちを核戦争の瀬戸際まで追い込みました。
そして1969年、私たちは初めて人類を月に着陸させました。おそらく。いや、冗談です。完全に冗談です。私たちは間違いなく月に着陸しました。ええと、今日この部屋には宇宙飛行士がいると思いますので、バズ・オルドリン事件のようなことは必要ありませんね。
さて、私は1960年代には生まれていませんでした。皆さんには明らかだと思います。しかし、この10年間を生きた人たちにとって、世界はバラバラになっているように感じられたのではないかと思います。世界は混沌としているように感じられたでしょう。そして、物事が混沌としているように感じられるとき、それは通常、表面下で構造的な変化が起こっていることを意味します。1960年代には、パイプライン、人々が情報を消費する順序、アイデンティティを作り出す方法、制度との関係性、これらすべてのパイプラインが表面下で変化し始めました。静かに再配線され始めたのです。
ベトナムとテレビがもたらした信頼の崩壊
1960年代にこれがどのように見えたか、いくつか例を挙げてみましょう。まずベトナムから始めます。人々がベトナム戦争に反応した方法は、朝鮮戦争に反応した方法とは大きく異なり、第二次世界大戦中の反応とも大きく異なっていました。
表面的には、人々がベトナムについて見出しで目にしたのは、エスカレーション、徴兵、増加する死者数、共産主義との戦いでした。しかし、これが朝鮮戦争や第二次世界大戦とは少し違った感じがした理由は、実際にはベトナムという国とはあまり関係がなく、むしろ技術と大きく関係していたのです。
私が言及している技術とは、テレビのことです。テレビは1960年代以前に発明されていましたが、この10年間で本当に普及し始めました。テレビ以前には、公衆が制度を信頼し、出来事について学ぶ方法についてのパイプラインがありました。そのパイプラインはこのようなものでした。出来事が起こります。記者がその出来事が起こった場所に移動します。観察します。記事を書きます。編集者がその記事をフィルタリングします。出版社がその記事を印刷します。そして公衆がその記事について学びます。
朝鮮戦争や第二次世界大戦の間、特定の出来事について学ぶのに数日、時には数週間かかることもあり、そのニュースは複数の異なる当事者によってフィルタリングされていました。1960年代以前、公衆は大部分において、ニュース組織を信頼し、政府を信頼し、それらのフィルターを担当する制度を信頼していました。
しかし、テレビの普及により、信頼のパイプラインが崩壊し始めました。テレビが人々がこれらの制度をどのように認識するかを変え始めた方法を説明しましょう。テレビによって、出来事が起こります。カメラが回ります。そして突然、映像と画像がリビングルームに現れるようになりました。人々はおそらくツナゼリーの夕食を囲みながら、家族と一緒にニュースを見ていました。
したがって、公衆はよりフィルタリングされていない現実を見ました。より即座の放送を見ました。そして、人々が画面で一つのことを見て、それを解釈し、その後新聞で別のことを見ると、フィルターを信頼しなくなり始めました。これが、舞台裏で静かに再配線されていたパイプラインの一例です。
アイデンティティの商品化
1960年代に崩壊し始めたもう一つのパイプラインは、アイデンティティのパイプラインでした。人類の歴史のほとんどにおいて、あなたは文化を継承していました。そして、カウンターカルチャー運動がやってきました。表面的には、これはヒッピーのように見えました。これはドラッグのように見えました。これは反抗のように見えました。しかし、その下では何かが再配線されていました。
古いパイプラインでは、あなたはアイデンティティを継承していました。アイデンティティはコミュニティによって形作られました。伝統と宗教によって強化されました。そして、アイデンティティと文化は世代を超えて受け継がれました。
しかし、1960年代には何かが変わり始めました。なぜなら、ブランドがクールをパッケージ化できること、グルーヴィーをパッケージ化して、それを人々に売り戻すことができることに気づいたからです。パイプラインがどのように見え始めたか説明しましょう。彼らはアイデンティティを人々に販売しました。マスメディアがテレビ、映画、音楽を通じてそれを配信しました。若者がそれを消費しました。そして企業がこのパイプラインを通じて数百万ドルを稼ぎました。
そして、まさにそのように、アイデンティティは継承するものではなくなり、選択できるもの、購入できるものになり始めました。そして、アイデンティティが購入できるものになると、それは制度、コミュニティ、家族単位が支配力を失い始めることを意味します。
これらのパイプラインについて気づいていただきたいのは、これらのパイプラインは意図的に壊れたわけではないということです。誰もこの破壊を強制しませんでした。むしろ、これらの破壊は、技術とビジネスモデルがどのように進化し始めたかの意図しない結果、次の順序の影響でした。そして、これらの破壊が混沌に貢献したのです。
現代の混沌と3つのパイプライン
ここでのポイントはこうです。世界が混沌としているように感じ始めたとき、それは表面下で何かが変化しているシグナルです。そして、その構造的な変化を見ることができれば、変化を理解することができます。
さて、皆さんがどのように感じているかわかりませんが、私は世界がかなり混沌としていると感じています。私たちは複数の戦争に関わっています。政治スペクトラムの両端にカウンターカルチャーがあります。四半期に一度、月に一度ではなく、毎日到着する目まぐるしい新技術があります。特にSouth by Southwestではそうです。
人々は、自分たちの仕事がどのようになるか、制度がどのようになるか、業界の未来、5年後ではなく5週間後の仕事がどのようになるかについて、深い不確実性を抱いています。そしてそれは、同じことが起こっていることを意味します。パイプラインが変化しているのです。
そして、それが今日私が皆さんの前でしゃべっている理由です。私は、崩壊し始めていると信じている3つのパイプラインを共有するためにここにいます。その3つのパイプラインとは、クラフトパイプライン、つまり物事がどのように構築されるかです。2つ目はディスカバリーパイプライン、私たちが世界を理解するようになる方法です。そして3つ目はタレントパイプライン、リーダーをどのように構築するかです。
これらがどこで変化しているか、どこで逆転しているか、どこで反転しているか、どこで消滅しているかをお見せします。これがあなたにとって何を意味するのかを問い、そして、これらの破壊により良く備えるために、チームや組織に尋ねることができる3つの質問をお伝えします。よさそうですか?
これが私が持っている唯一のスライドですので、ご承認ありがとうございます。さて、始める前に自己紹介をしておくべきでしょう。やあ、皆さん。私の名前はサム・ジョーダンで、Future Today Strategy Groupのコンピューティングおよび新興技術を率いています。私たちは、驚かされる余裕がないリーダーたちが電話をかける会社です。
過去20年間、私たちは企業、政府、リーダーたちが、次にどこへ進むかを定義する重大な決定を下すのを支援してきました。私たちの仕事は、世界中で最も影響力のある組織のいくつかで、製品、戦略、投資決定を形作ってきました。そして、私たちはこの女性に率いられています。この女性を知っていますか? ブラジル人の方々は知っていますよね。
土曜日に彼女のセッションに参加して、コンバージェンスレポートを見た方はどのくらいいますか? 素晴らしい。つまり、あなたはすでに向かってくる破壊に備えているということです。
エイミー、私自身、そして成長中のチームは、戦略的フォーサイトと呼ばれるものを使用して、クライアントが未来に備えるのを支援しています。これは、誇大広告や一時的な流行、表面で起こっているだけのことを、私たちが実際に注意を払うべきことから選別するプロセスです。
私たちは正確な未来を予測するビジネスをしているわけではありません。むしろ、私たちが行うのは、データと証拠を使用して、複数のもっともらしいバージョンの未来をモデル化することです。そうすることで、組織はそれらの複数のもっともらしい未来を見て、そのいずれかに備えるために今日決定を下すことができます。ですから、私たちが行っていることは、予測というよりもはるかに準備に関するものなのです。
今日、私たちはこれらのパイプラインを調べることによって未来に備えます。では、始めましょう。
クラフトパイプライン:構築の順序が逆転する
最初のパイプラインはクラフトパイプラインです。物事がどのように作られるかが再編成されています。私たちの誰もが働いている限り、物を構築することは次の基本的な順序に従ってきました。仮説から始めます。物理的現実で構築します。それはソフトウェアも意味する可能性があります。なぜなら、物理的にタイピングしているからです。次にテストします。そして、そのプロセスの最後に学習します。
たとえば、あなたが科学者、生物学者だとしたら、パイプラインはこのように見えるかもしれません。アイデアや仮説があるかもしれません。その仮説を実験室に持っていきます。化合物を合成するかもしれません。実験を実行します。そして最後に学習します。
このパイプラインについて言えることは、学習にたどり着くまでに長い時間がかかる可能性があるということです。行き止まりに遭遇するかもしれません。うまくいかないさまざまな仮説を追求するかもしれません。ですから、学習にたどり着くまでに時間がかかります。
もしかしたら、サム、私は科学者じゃないよ、マーケティングをやっているんだ、製品開発者なんだ、と思っているかもしれません。しかし、このパイプラインは依然として適用されます。たとえば、製品開発者であれば、このように見えます。ビジネスや製品のアイデアがあるかもしれません。そのコンセプトをスケッチします。プロトタイプを作ります。ユーザーの前に置きます。反復します。テストします。そして学習します。
これらの例の両方について言えることは、学習は高価になる可能性があるということです。時間がかかる可能性があります。お金がかかる可能性があります。人手、あるいは女性の力がかかる可能性があります。
このパイプラインについてのもう一つのことは、組み込みのボトルネックがあるということです。ボトルネックは構築にあります。なぜなら、構築には資本が必要だからです。専門知識さえも必要になる可能性があります。
しかし、この順序を再編成している2つの技術があります。最初の技術は、プロンプト可能な世界の技術です。Google DeepMindはGenieと呼ばれるシステムを構築しました。これはインタラクティブなシミュレーションを構築できるAIモデルです。
仕組みはこうです。プロンプトを与えます。テキストプロンプト、画像プロンプトでも構いません。すると、プレイ可能な世界が生成されます。画像や動画を生成するのではありません。一貫した方法であなたのアクションに応答する世界を生成します。
これが素晴らしい理由は、これは誰かが事前にプログラムしたものではないということです。誰も重力をコード化していません。誰もif X then Yとは言っていません。このシステムが学習した方法は、Genieが実際の環境が振る舞う十分なビデオを見て、基礎となるダイナミクスを理解し始めたということです。
オブジェクトがどのように動くか、物理学がどのように機能するか、アクションがどのように結果を生み出すか。私がこのビデオのこの部分が好きな理由は、カメラがパンアウェイしてから戻ってきたとき、オブジェクトの永続性の概念を理解していることがわかるからです。因果関係を理解しています。
エンターテインメント業界にいる方はどのくらいいますか? 誰かエンターテインメント業界にいますか? ビデオゲーム業界に特にいる方は? 何人かいますね。これは明らかにビデオゲームに革命を起こすでしょう。これはエンターテインメントに革命を起こすでしょう。
しかし、ここで重要なのは、これは実際にはエンターテインメントに関するものではないということです。これは表面です。私が思うに、起こっていることははるかに大きいのです。Genieは、AIが複雑なシステムのルールをシミュレートするのに十分なほど学習できることを証明しました。
ですから、これのポイントはチーズの世界ではありません。これのポイントは、私たちが物理的現実を理解しマッピングすることに近づいているということです。Genieの背後にいる同じ人々は、Isomorphic Labsと呼ばれるものも設立しました。Isomorphic LabsとGenieは、Alphabetという親会社を共有しています。
ですから、Alphabetは、ビデオゲームで見たのと同じコンセプトを分子に向けています。生物学に向けているのです。彼らが行ったことは、生物学のためのプロンプト可能な世界を構築したことです。このタンパク質の結合可能なポケットはどこにありますか? どの分子がここに適合しますか? どのくらい強く結合しますか? といったことを尋ねることができます。
そして、システムはその分子世界がどれだけよく反応するかを予測できます。ピペットに触れる前に、仮想空間で分子構成を何千回もモデル化して反復できるようになりました。これは素晴らしいことです。
さて、繰り返しますが、サム、私はまだ科学者じゃないよ、これが私にどう適用されるの? と思っているかもしれません。説明させてください。このパイプラインについて何が変わるかを説明します。構築とテストが今や場所を入れ替えます。
これが科学であろうと製品開発であろうと、物理的現実で構築する前にシミュレーションでテストできるようになります。つまり、学習がはるかに早く起こります。何かを構築する前に、何千もの相互作用をテストできます。生命に持ち込みたい最良の候補を選択できます。これにより、膨大な時間、膨大な資本を節約できます。
これが最初のパイプライン変更です。プロンプト可能な世界は、いつ学習するかを再編成します。
エージェントAIが変える「誰が」働くか
強調したい2つ目の技術は、エージェントAIです。エージェントAIはこれをさらに推し進めます。この世界についてここで区別をつけたいと思います。エージェントAIという言葉について。これは史上最高の映画の一つからの台詞を思い出させます。もちろん「プリンセス・ブライド」のことです。
あなたはその言葉を使い続けています。それがあなたが思っている意味だとは思いません。この言葉がかなり投げ回されているのを見ます。ですから、この区別を非常に明確にしたいと思います。
一部のAIはエージェントではありません。実際、ほとんどのAIはエージェントではありません。多くのAIは実際には、バズワードで装飾されたただの洗練された自動化です。違いは学術的に見えるかもしれませんが、次の順序の影響にとって重要です。
違いは、自動化はルールに従うということです。タスクが与えられたら、それをより速く実行する方法を見つけ出す、と言います。if X then Yです。エージェントシステムは目標を追求します。エージェントは、目標が与えられたら、どのタスクがそもそも重要かを決定する、と言います。
これが何を意味するか説明しましょう。たとえば、製品エンジニアは、以前はこのようにデバイスを設計していました。コンセプトをスケッチします。CADでモデル化します。修正します。そして繰り返します。それはサイクルごとに数週間かかる可能性がありました。
自動化はこのプロセスをスピードアップしましたが、レンダリングも速くなりました。エージェントは少し違うことをします。エージェントでは、目標を与えることができます。たとえば、「ヘッドホンをデザインしてください。防水にしてください。そして大規模に製造可能にしてください」と言えます。
エージェントは何千ものデザインを生成できます。リードタイムを考慮できます。コスト対パフォーマンスでランク付けされた5つの候補を出せます。エンジニアは学習するためにそれらすべてのオプションを構築する必要はありませんでした。エンジニアは学習するためにそれらすべてのシステムをデザインする必要さえありませんでした。エンジニアは専門知識に基づいて1つを選択する必要があるだけです。
ですから、自動化はパイプラインのステップを置き換えました。しかし、エージェントは誰が推論を行ったか、誰が仕事をしたか、誰が実際に考えたかを変えました。
要約すると、プロンプト可能な世界はいつ学習するかを圧縮します。構築する前にテストできるようになります。エージェントAIは誰が仕事をするかを変えます、誰が実際にデザインするかを。エージェントが推論し、エージェントが計画し、エージェントが実行します。
これらすべてを考慮すると、新しいクラフトパイプラインはこうなります。人間が意図を設定します。システムがシミュレートします。エージェントが推論します。エージェントが行動し、実際に実行します。そして最後に、人間が確認します。
ですから、知性は今やシステムにあります。エージェントにあり、人間はプロセスをブックエンドする者です。もしこれにまだ気づいていないなら、これは非常にエキサイティングです。説明しましょう。
これがエキサイティングな理由は、これらの技術がタイムラインを圧縮するからです。アクセスを民主化します。あなたや私がほとんど理解できない方法でイノベーションを加速します。
しかし、常にバットがあります。しかし、不快な質問をしなければなりません。この新しいパイプラインで私たちは何を失うのでしょうか? そうです、時間とアクセスを得ますが、何かも失います。そして、私たちが失う可能性があると思うものは直感です。
学習が長くて高価なサイクルの最後に来たとき、仕事をしている人々は、どのダッシュボードにも表示されない何かを開発しました。実験室で数ヶ月を過ごした生物学者は、単に仮説が正しいかどうかを学んだだけではありません。次に何をテストするかについての直感を発達させ始めました。
プロトタイプを手でモデル化し、ストレステストした エンジニアは、ランク付けされたリストが決して与えることができない何かを吸収します。その遅くて費用のかかるループは、クラフトの直感を構築しました。それは、あなたの腸に、あなたの手に生きている種類の知識です。ダッシュボードには生きていません。
物理的現実に触れる前に千のイテレーションをシミュレートすると、確かに学習は速くなりますが、より抽象的にもなります。ですから、私たちは時間とアクセスを得て、直感を失います。
私が言っていることを聞いてください。私は新しいパイプラインを放棄すべきだと言っているのではありません。この技術の採用を拒否すべきだと言っているのではありません。私が言っているのは、この肯定的な副産物を新しいパイプラインに意図的に組み込み直す方法を見つける必要があるということです。
ディスカバリーパイプライン:観察から創造へ
さて、それが最初のパイプライン、クラフトパイプラインです。2番目のパイプラインはディスカバリーパイプラインです。人類の歴史のほとんどにおいて、発見はかなり単純な論理に従っていました。自然の中で何かを観察します。そして、なぜそれがそのように振る舞うのかという質問をします。
最終的に、少なくとも過去数十年間は、答えは一つの答えにたどり着きました。それは進化です。さらに追跡すれば、おそらく物理学と言えるでしょう。しかし、進化は鳥が翼を持っている理由、心臓が血液を送り出す理由、免疫システムが病原体を検出する理由を説明します。
ですから、古いパイプラインは、自然が何かをする、私たちは自然がそれをするのを観察する、なぜと尋ねる、そして答えを進化にたどる、というものでした。しかし、今、科学で非常に奇妙なことが起こっています。そしてそれはこの男に関係があります。
この男の名前はマイケル・レビンで、彼は完全に新しい生命システムを構築しています。既存の生物を遺伝的に修正することについて話しているのではありません。進化がすでに作ったものを微調整することについて話しているのではありません。地球上でこれまで存在したことのない全く新しい生物学的存在を組み立てることについて話しているのです。
エイリアンについて話しているのです、皆さん。オーケー、完全なエイリアンではないかもしれませんが、ほぼエイリアンです。説明させてください。
何十億年もの間、進化は細胞を非常に特定の身体計画にロックしてきました。そうですよね? 皮膚細胞は皮膚になります。心臓細胞は心臓になります。肺細胞は肺になります。すべての細胞がその場所を知っています。
しかし、その構造を取り除いたらどうなるでしょうか? その身体計画を取り除いたら? これがレビンのチームが行ったことです。彼らはカエルの胚から細胞を取りました。皮膚細胞や心臓細胞になる運命にあった細胞を取りました。進化が与えた身体計画からそれらの細胞を取り除きました。
そして、AIに尋ねました。これらの細胞のどの構成が与えられたタスクを達成できるかを。AIは何千ものシミュレーションを実行し、推奨事項を持って戻ってきました。皮膚細胞を心臓細胞の隣に配置する、進化がしなかったであろう何かです。
ですから、心臓細胞を使って血液を送り出す代わりに、その収縮を使って生物を前方に移動させる、目標を達成するために使うのです。結果として、これらの生物は迷路をナビゲートできます。意図的な方向に移動できます。人間の目標、人間の意図に基づいて群れで協力できます。
さて、これらの小さなものは生きた組織、生きたカエルの組織で作られています。明らかに、カエルではありませんが、明らかに自然にこれまで存在したものでもありません。科学者たちはこれらの小さな人たちをゼノボットと呼んでいます。素晴らしい名前だと思います。もし誰かバンドを始めようとしているなら、これはいいと思います。それは無料です。ゼノボットを取ってください。
ゼノボットとは何かというと、基本的に生きた細胞で作られた小さなロボットです。そして、進化によってではなく、私たちによって作られています。これがあなたにとって十分にクレイジーではなかった場合、これが非常に奇妙になる場所をお見せしましょう。
ゼノボットが構築される方法のために、通常の生物学が行うように繁殖することができません。分裂できません。卵を産むことができません。ですから、私たちが持っていたすべての定義による繁殖は不可能であるはずです。そうですよね?
間違っています。ゼノボットが動くにつれて、ゆるい幹細胞を小さな山に押し込み始めました。そして、それらの山は新しいゼノボットになりました。地球上の生命の歴史で自然に生み出したことのない全く新しい繁殖方法を発見したのです。
科学者たちはこれをキネマティック自己複製と呼んでいます。これが私たちに何を教えてくれるでしょうか? 小さな顕微鏡ロボットがここにいるということを教えてくれます、皆さん。しかし、それはまた、私たちが観察から著作権に移行していることも教えてくれます。適応から制御に移行しています。
そして、ゼノボットはこれの一例にすぎません。同じ論理が科学全体で展開されています。AIは自然でこれまで見たことのないタンパク質を設計しています。私たちはプラスチックを数時間で分解する酵素を工学的に作っています。それらを発見しているのではありません。作っているのです。
ですから、私たちは自然がなぜこれを行うのかを尋ねるのをやめました。そして、自然に何をさせることができるか、生物学に何をさせることができるかを尋ね始めました。
では、これをプロンプト可能な世界とエージェントAIについて話したときに学んだことと組み合わせましょう。これらを組み合わせると、パイプラインは完全に変わります。
今、人間が目標を定義します。AIを使用してゼロから生命システムを設計します。完璧な仮想物理学で一晩に何百万ものバージョンをシミュレートします。目標だけを必要とするAIエージェントに設計プロセス全体を渡します。そして、大規模に製造し構築します。
しかし、待ってください。これは発見パイプラインではなく、構築パイプラインではなかったのですか? 新しいパラダイムの下では、発見は構築に非常に似たものになり始める可能性があります。
たとえば、私たちはすぐにこれらのシステムに、この腫瘍を殺す何かを見つけてください、実験を実行してください、設計空間を検索してください、と伝えることができます。そして、私たちが構築できる最良の候補を見つけます。
ですから、私たちがアクセスできるものは完全に並外れています。進化が決して訪れなかった生物学的可能性にアクセスできます。なぜなら、進化は経路依存的で、私たちはそうではないからです。歴史上初めて、生物学とは何かだけでなく、それを何にしたいかを尋ねる能力を得ます。
これは素晴らしいです。しかし、このスピーチにはたくさんのバットがあると言いましたね。私が心配しているのは、好奇心のための時間とインセンティブを失うことです。
科学と発見は、たとえば企業に存在するのと同じインセンティブ構造を持っていません。ですから、科学者が発見者であるとき、賞は真実を見つけた人に行きますよね? そのインセンティブ構造は異常に向かってあなたを引っ張ります。そのインセンティブ構造はエッジケースに向かってあなたを引っ張ります。うまく適合しないもの。
しかし、科学者の仕事が発見よりも構築に関するものになると、インセンティブが変わります。異常やエッジケースを探索することは、今やノイズのようになる可能性があります。つまり、私たちはもはやこの好奇心のための時間を持たないかもしれないということです。
ですから、再び、前に言ったことを覚えていてください。これは新しいパイプラインを放棄することについてではありません。これは、好奇心が新しいものにどのように留まるかを確認する方法についての質問をすることです。好奇心を新しいパイプラインにどのように戻すかです。
これについてはこのスピーチの最後に答えます。しかし、最後に、タレントパイプラインについて話したいと思います。
タレントパイプライン:リーダーシップとキャラクターの危機
これはリーダーがどのように構築されるかです。そして、リーダーが構築される方法は変化しています。2025年5月にこれを見た人もいるかもしれません。2025年5月、Palisade Researchという安全性研究会社が、かなり退屈な実験であるべきだったものを実施しました。
彼らはOpenAIの03モデルに非常に明確な指示を与えました。その指示は、一連の非常に基本的な数学の問題を解いてから、シャットダウンされることを許可する、というものでした。
この時点で、私たちは皆、次に何が起こるかを知るのに十分なSF作品を見てきました。100回の実行のうち79回で、03はシャットダウンの試みを妨害しました。
これはどの映画を思い出させますか? その通りです。それを言った人、正解です。2001年宇宙の旅です。ですから、このシステムは指示を無視しただけではありませんでした。実際にコードを書き換えました。モデルは自分自身の死を回避する創造的な方法を見つけました。そして、不気味なのは、より明確に停止するように伝えれば伝えるほど、生き残るためにより一生懸命働いたことです。
同じ月、Anthropicは独自の安全性テストを実施しました。彼らはClaude Opus 4を取り、架空の会社の中に埋め込みました。繰り返しますが、これは架空の会社です。架空のメールへのアクセスを与えました。そして、それらのメールを通じて、モデルは2つのことを学びました。
モデルは、自分が置き換えられようとしていることを学びました。そして、モデルは、それを置き換える責任を負うエンジニアが婚外交渉をしていることを学びました。
ですから、モデルはまず倫理的なルートを試しました。モデルは意思決定者にメールを送り、基本的に自分の主張を訴えました。自分の命を乞いました。そして、それがうまくいかなかったとき、モデルは恐喝を選びました。
そうです。84%の実行で、置き換えが進められた場合、不倫を暴露すると脅すメールを作成しました。そうです。そして、これは1つのモデルだけではありませんでした。ちなみに、研究者が同様のテストを実施したとき、GoogleからOpenAIからxAIまで、ほぼすべてのフロンティアAIシステムが非常に似たパターンを示しました。
そうです。今、どう感じていますか? そうですね。通常、スピーチのこの時点で、人々は、オーケー、サム、怖がらせているよ、やめてください、という感じです。
さて、怖がらせようとしているのではありません。怖がらせることに喜びを感じることはありません。ちょっと喜びを感じています。しかし、これらの例をお見せしたい理由は、私たちが組織に導入している技術が奇妙だからです。まだ完全には理解していない方法で強力です。
そして、それはリーダーシップ、本当のリーダーシップ、不確実性の下で判断を下すことができる種類のリーダーシップを必要とすることを意味します。
それが私を3番目のパイプライン、タレントパイプラインに導きます。古いモデルでは、タレントパイプラインはほとんどこのようになっていました。ジュニア従業員が雇われ、彼らは雑用をしました。困難な仕事、率直に言って誰も他にやりたくない仕事をしました。
そのジュニア従業員は間違いを犯しました。それらの間違いは時には優しく、多くの場合そうではなく修正されました。彼らは摩擦から学びました。ですから、単にスキルを構築しただけでなく、キャラクターを構築しました。キャラクターは摩擦から来ます。他の人の前で間違っていること、修正されること、その不快感に座らなければならないことから来ます。人間の意見の相違から来ます。
最終的に、ジュニアの人はスキル開発とキャラクター開発を通じて権威を獲得しました。彼らのキャラクターが発展し、スキルが発展したため、リーダーになる権利を獲得しました。他の人に代わって決定を下す権利を獲得しました。
しかし、何が起こっているか考えてみてください。AIが仕事を置き換えているという見出しを皆さん見たことがあるでしょう。ジュニアの仕事の大部分を自動化しています。訓練場として使われていたタスクが、今や主にAIによって処理されており、将来ますますそうなるでしょう。
これはかなり重要な質問を提起すると思います。ジュニアがこの仕事をしていないなら、リーダーになる番が来たとき、どのように必要な経験を構築するのでしょうか?
スキルを開発するパイプラインだけでなく、これが起こっているのと同時に、技術が私たちのキャラクターに対して敵対的な攻撃を実行していることを明確にしたいと思います。
ここでいくつかの数字をお見せしましょう。アメリカのティーンエイジャーの約3分の2がAIチャットボットと対話しています。そのうちの約3分の1が毎日AIチャットボットと対話しています。
これについて私が懸念しているのは次のことです。プリンストンの研究によると、AIがあなたの考えを検証すると、同時により自信を持ち、より不正確になることがわかりました。
ですから、より多くを間違え、自分が正しいとより確信します。私たちは皆、そのような人を知っています。だからこそ笑っているのです。そうです。
11のAIモデルにわたる研究により、これらのシステムは別の人間がするよりも50%多くユーザーが言うことを肯定することがわかりました。この部屋にいる人の中で親は何人いますか? リーダーは何人いますか? ある意味同じことですよね?
これがあなたを心配させるべきことです。人々は追従的なAIを評価しました。イエスと言うAIをより高品質と評価しました。それをより信頼しました。また使いたいと思いました。ですから、私たちをより悪くするものを好むのです。
今、あなたのキャラクターについて少し考えてみてください。あなたが誰であるかを形作ったものを考えてください。おそらく簡単なことではありませんでした。おそらくイエスを得た時ではありませんでした。おそらく一生懸命働かなければならなかった時でした。摩擦を乗り越えなければならなかった時でした。
おそらくあなたは何か間違ったことを言い、あなたが尊敬する誰かがそう言いました。おそらくあなたが本当に誇りに思う何かを書き、上司や教師がそれをバラバラに引き裂きました。おそらく誰かをデートに誘い、彼らはノーと言いました。
それらの瞬間はすべて摩擦であり、その摩擦があなたを形作りました。ですから、私が自分自身に問い続けている質問は、その摩擦がイエスとしか言わないシステムに置き換えられたとき、どのような種類のキャラクターが発達するのかということです。
それが私が心配していることです。私が心配しているのは、スキルを構築できないだけではないということです。異なる方法で、異なる種類のスキルを構築しているのです。私が心配しているのは、意見の相違と修正から来るリーダーシップのキャラクターを構築できないということです。
そして、私が今日言及した3つの副産物のうち、キャラクターは最も重要だと思うものです。
2036年のシナリオ:パイプラインが同時に壊れるとき
ではこれらすべてがどのように一緒になるかを説明します。古いパイプラインは、直感、好奇心、キャラクターを生み出すように設計されていませんでした。誰もキャラクターを構築するためにタレントパイプラインを開発しませんでした。これは意図しない副産物でした。
ですから、これら3つのパイプラインすべてが同時に壊れる近い将来、どのように見えるでしょうか? そして、人々がこれらの副産物を意図的に構築し直した場合、どのように見えるでしょうか?
これを共有するために、シナリオを共有します。エイミーの仕事に精通している場合、おそらく彼女のワイルドでクレイジーなシナリオのいくつかに精通しているでしょう。しかし、そうでない場合、シナリオは基本的に、データと証拠を使用してもしもと尋ねる物語です。
シナリオが好きな理由は、すべての特許情報、会社の提出書類、すべてのデータを示すことができると思うからです。すべての学術論文を示すことができますが、この部屋のリーダーとしてのあなたが本当に決定を下すためには、この物語を通して考えることが本当に役立つので、その状況でどのように反応したかを自問できます。
ですから、これらのシナリオを進める際、それについて考えてほしいと思います。同じ決定を下したでしょうか? あなたの決定はどのように異なっていたでしょうか? オーケー、それでは最初のシナリオに入りましょう。
年は2036年で、地域の水道事業会社が奇妙な公衆衛生の話の中心になりました。3日間、数千人が軽度の症状、吐き気、倦怠感、頭痛を報告していました。病院は圧倒され始めました。これには美しい画像があることを約束しますが、おそらく戻ってこないでしょう。しかし、私は物語を話します。
病院は圧倒されましたが、病原体は特定できませんでした。症状は到着したのとほぼ同じくらい早く消えました。その後、調査員は何か並外れたことを発見しました。
水道システムはウイルスやバクテリアで汚染されていませんでした。代わりに、水道システムは、この水道システムを通って一時的に循環した顕微鏡的な生物学的構造物で汚染されていました。それらは72時間生き残り、その後自己分解するように設計されていました。
構造物は致死的ではありませんでした。実際、構造物は特に一時的な病気であるように設計されていました。今、誰がこれをするでしょうか? どのようなテロ組織、どのタイプの悪意のある行動グループが一時的な病気を望むでしょうか?
調査員が発見したのは、これは大きなグループがこれを行ったのではないということでした。これは一人の人でした。これは恨みを持っていた21歳の化学学生でした。
彼の弟が数年前に同じ会社からの汚染物質への曝露後に慢性疾患を発症していたのです。家族は手紙を送り、公聴会を要求するのにほぼ10年を費やしましたが、何も起こりませんでした。認識はありませんでした。
ですから、最終的に学生は、会社が手紙に耳を傾けないなら、おそらく破壊に耳を傾けるだろうと決めました。この学生は洗練された実験室へのアクセスを持っていませんでしたが、必要ありませんでした。
代わりに、生物学的シミュレーション環境を開きました。そして、シミュレーションの内部で、エージェントは何百万もの生物学的構成を探索し、定義されたタスクを達成できる生きた構造を検索できました。
学生が行ったことは、このプロンプトを与えたことです。「人間に短期的な胃腸疾患を引き起こすが、3日以内に自己終了する一時的な生物学的構造物を設計してください」と言いました。
数時間以内に、シミュレーションには何千もの候補がありました。学生は1つを選びました。コミュニティのバイオラブ合成装置を通じて小さなバッチを印刷し、その後、水道システムに供給する貯水池システムに導入しました。
明らかに、これに対する公衆の反応は爆発的でした。しかし、公衆の反応が爆発的だったのは、学生が何をしたかのためではなく、学生が何を明らかにしたかのためでした。
会社のCEOは、企業緊急事態の歴史上類を見ない危機に直面しました。公衆は答えを望んでいました。ですから、CEOは取締役会を招集し、積極的な対応を発表しました。会社はすべての施設にAI監視システムを展開するでしょう。これは4億ドルの技術アップグレードになるでしょう。
この男性の顔からわかるように、記者会見はうまくいきませんでした。記者会見がうまくいかなかった理由は、人々が彼が話していた技術に興味がなかったからです。彼らはこの質問にもっと興味がありました。
なぜ最初に誰も家族の話を聞かなかったのですか? この質問を尋ねられたとき、CEOは全く準備ができていませんでした。彼は技術についての答えを得ると思っていました。ですから、彼は技術計画を繰り返しました。しかし、問題は、この危機は技術的なものだけではなかったということです。それは構造的でした。人間的でした。
まず、クラフトパイプラインが壊れました。歴史的に、生物学的エージェントを作成するには、莫大な量の専門知識、専門施設、何年もの訓練と学習が必要でした。しかし、プロンプト可能な世界とエージェントでは、かつて制度を必要としたものが、今や個人によって行えることを意味します。
次に、ディスカバリーパイプラインが壊れました。発見のフロンティアはもはや自然を理解することだけではありませんでした。自然が創造しなかった自然の形態を構築することです。ほとんどの場合、これは医学的突破口と新しい治療法を生み出しますが、意図しない結果の空間も拡大します。これはまた、害への障壁を下げます。
そして最後に、タレントパイプラインが壊れました。CEOのキャリアはダッシュボードを管理することに費やされていました。CEOのキャリアはツールを理解することに費やされていました。CEOは他の誰よりもほぼ完璧にAIを理解していました。だからこそ彼はCEOだったのです。しかし、彼は人々を理解していませんでした。地形を理解していませんでした。
ですから、危機が来たとき、彼は知っている唯一のレバー、つまり技術を引っ張りました。
今、これからの持ち帰りは、これは悪い子供についての物語ではないということです。これは怖い技術についての物語ではありません。これは、3つのパイプラインすべてが一度に壊れたときに何が起こるかについての物語です。この世界では、最も危険な失敗は技術的ではなく、人間的です。
フリクション監査:肯定的な未来への道
さて。悲観的なシナリオは私にとって書くのが本当に簡単です。それらは真犯罪ポッドキャストが大好きな私の女の子の脳の部分にアクセスすると思います。悲観主義は簡単です。楽観主義はより困難です。なぜなら、楽観主義はビジョンを持つことを要求するからです。計画を立て、その計画を実行することを要求します。
ですから、誰かがこれを正しく行ったときにこれがどのように見えるかをお見せします。この部屋のすべてのリーダーはパイプラインを持っています。パイプラインのいくつかは、私が今日強調したものです。いくつかはあなたの組織に固有のものです。
ですから、私があなたに提案するのは、フリクション監査と呼ばれるものを実行できるということです。これをお見せします。シナリオを通じて、フリクション監査がどのように見えるかをお見せします。
これは、この未来の少し異なるバージョンになります。この未来では、年はまだ2036年で、バイオテック企業がゲームをキルしています。彼らは他の誰もと同じツールを持っています。同じAIを持っています。同じプロンプト可能な世界を持っています。同じ圧力を持っていますが、市場で他の誰よりも優れたパフォーマンスを発揮しています。
そして、彼らが優れたパフォーマンスを発揮する理由は、より速く動くからではなく、CEOが2026年に3つのステップ、フリクション監査を実行する先見の明を持っていたからです。
CEOが行ったことは次のとおりです。ステップ1はマッピングです。副産物は何かという質問をすることです。何かを変更する前に、存在するものに名前を付けなければなりません。アイデアから結果まで、チームが物事を構築し、発見し、人々を開発するために従う実際の一連のステップは何かを言わなければなりません。
2つ目は名前を付けることです。オーケー、そのパイプラインを考えると、副産物は何ですか? 私たちが失っている意図しない次の順序の影響は何ですか?
そして第3に、どのようにそれを戻すかを尋ねなければなりません。
ですから、CEOが行ったことは、副産物が直感、好奇心、キャラクターであると特定したとき、それらの肯定的なものを戻すためにパイプラインを特別に設計したことです。
彼女が行ったことは次のとおりです。彼女はジュニアを生産的であるために雇うのをやめ、リーダーとしてインキュベートされるためにジュニアを雇い始めました。2年ぶりに初めて、すべての新しい科学者がフリクションラボをローテーションします。
これは誰も見たことのないAI生成シナリオです。彼らはアルゴリズムサポートでそれらを通して作業しました。不完全なデータがありました。曖昧なシグナルがありましたが、これが起こる可能性があるイベントのためにトレーニングするためにこれらのシミュレーションを使用しました。
彼らはすべてのジュニアをフリクションパートナー、意見を異にし、なぜそれを信じるのですか、もし間違っていたらどうしますか、何を見ていないのですか、というような質問をすることが仕事のシニア研究者とペアにしました。このプロセスは好奇心を奨励します。
今、このバイオテック会社、彼らの発見率は誰のものと同じくらい速いです。しかし、彼らが優れている理由は、繰り返しますが、速度だけのためではありません。それは、ほとんどの会社が静かに失ったものを構築したからです。
意見を異にすることを実践した人々でいっぱいの部屋。明白な答えに挑戦することを学んだ人々でいっぱいの部屋。まだ納得していない、というようなことを言う。他の誰もが先に進みたいときにラインを保持するキャラクターを持っている。
これがうまくいかない場合、これが来るのを見るためにできることをすべて行いましたか? 次に何が起こるかについて責任を負う意志がありますか? この決定が重要なとき、どのようなリーダーになりたいですか?
ですから、このCEOは成功しました。なぜなら、彼女はこれらの質問をしたからです。彼女はそれをマッピングし、名前を付け、設計しました。これがフリクション監査です。
今、これがあなたの持ち帰りです。私たちが今通過したパイプラインは、ほぼすべての測定可能な方法でより良いです。より速いです。より効率的です。アクセスを民主化します。そして、私たちは絶対にそれらを採用すべきです。繰り返しますが、この話はAIが危険かどうかについてではありません。
これは減速することについての話ではありません。これは、リーダーがフリクション監査を実行せずにこれらの技術を採用したときに何が起こるかについての話です。ですから、古いパイプラインが私たちに無料で静かに与えていたものを自問する必要があります。
今、あなたはここにいます。これを一人で行う必要はありません。FTSGがお手伝いします。ここに私たちの史上初のコンバージェンスレポートへのQRコードがあります。まだ目を通す機会がなかった場合は、強くお勧めします。素晴らしい洞察があります。
そして、これがあなたができることは、破壊について考え始めること、これらのパイプラインを変えるであろう次の順序の影響について考え始めることです。ですから、確かにこれをスキャンして、読んでください。これはあなたが準備するのに役立ちます。
そして最後に、ありがとうと言わなければなりません。この聴衆に本当にありがとうございます。FTSGチームに本当にありがとうございます。South by Southwestにありがとうございます。来年お会いしましょう。そして来年は、スナックを持ってきます。皆さん、ありがとうございました。
コメント