16,814 文字
ご来場の皆様、本日はSCSPのNATSCテックポッドキャストの司会を務めるジーン・マゼルヴが進行役を務める炉辺談話に、特別競争力研究プロジェクト議長およびNCE委員のエリック・シュミット博士をお迎えできることを光栄に存じます。
ありがとうございます。席がまだ温かいですね、それはいいことです。次から次へと進行していきましょう。
AIはあなたの専門分野ですが、今日のテーマはAIとバイオテクノロジーの融合です。このレポートはバイオテクノロジーとAIに関する認識を高め、知識を増やし、人々を興奮させ、おそらく分野への参入を促すことを目的としています。もしAIとバイオテクノロジーの融合の例で、人々を惹きつけるようなものがあれば、何か一つ挙げていただけますか？
まず、ヤング上院議員や他の議会メンバー、そしてここにいるケイトリンと、このレポートをまとめたチーム全体に感謝したいと思います。私たちが行った仕事を本当に誇りに思っています。委員会は詳細について多くの時間を費やし、私自身も貢献するだけでなく、多くのことを学びました。
学んだことの一つで強調したいのは、レポートにも記載されていることですが、バイオテク関係者がスケーリングを解決したと私は思い込んでいました。結局のところ、これらは巨大な市場ですよね。私はスケーリングの世界に住んでいますが、実際には大きな「死の谷」があります。この事業に携わる皆さんには真剣に考えていただきたいと思います。
レポートの勧告は基本的にスケーリングの科学に関するものです。技術的には、バットの数や育て方など、非常に技術的なバイオの問題です。また、スケーリングのためのインフラ構築に関する勧告もあります。現在起きていることは、信じられないようなスタートアップがあり、非常に優秀な人々がいて、彼らは十分な資金を調達し、本当に興味深いことを行いますが、彼らは中間地点にいます。スケールするほど有用ではないが、成功するには十分有用であり、経済的に合わないため資金を得られないという状況です。
これは確立された問題であり、レポートから一つ得るべきことがあるとすれば、この点を強調したいと思います。このフィールドの人なら誰もが理解していること、つまり基礎科学、AIが薬の発見を加速する能力、また誤用についても多くのことがレポートにあります。私は誤用の問題に非常に関わってきました。制約のない新しいモデルが悪い病原体、特にウイルスを生成できるという証拠が多くあります。既存のウイルスを取り、少し修正すれば簡単にできてしまうのです。
SCSPとイリーおよび彼のチーム全体、もちろんユージニーにも感謝したいのですが、これらすべてをまとめた理由は、これがアメリカにとって大きな問題だからです。これは数兆ドル規模の産業であり、中国がこの分野を支配するために莫大な資金を投入しているという証拠も多くあります。彼らは多くの技術を持ち、盗んだものもあります。よくある議論ですが、レポートにはそれらすべてが記録されています。
人々を熱狂させる例はありますか？個人的にはダイアウルフが好きです。犬のように見え、ポップカルチャーとの繋がりもあり、想像力をかき立てます。防衛にも使われていますね。スターク家の誰かに聞けば教えてくれるでしょう。
アメリカ人がなぜこれが重要かを理解するためなら何でも良いのです。私は特定のグループの主要な資金提供者で、彼らはモデルを構築しました。最初に化学を学び、化学のための基盤モデルとして訓練され、ロボット実験室に接続されています。このモデルがすることは、ある種の薬の仮説を生成し、ただ生成するだけです。正しいかどうかは神のみぞ知る。そして一晩中、ロボット実験室がそれらをテストして一晩で報告し、また始めるのです。
これが未来のAIとバイオの融合モデルだと言及する理由です。AIシステムが候補をたくさん生成して、基本的に検索空間を減らすのです。アルゴリズム的に考えると、次元が多すぎる指数関数なので、空間を減らす方法を見つける必要があります。この特定のグループはAIを使って空間を減らし、実験を実行しています。
彼らの目標は、次の2年以内にすべての人間の薬物標的を特定することです。研究プロジェクトなので成功するかどうかはわかりませんが、もし成功すれば、その情報は直接製薬業界に流れます。これは考え方が異なり、彼らが薬を作るために必要な標的を提供するという意味で重要です。
AIとロボット実験室の組み合わせが興味深いですね。基本的に湿式実験を行うものです。考えるべきモデルの一つとして、湿式実験室はロボット化され、ARを持つことになります。それらは人型ロボットではなく、アームロボットで、ブンブンと動き、ピペッティングなどを行い、24時間稼働します。これはバイオテク産業の運営方法における大きな変化です。
AIとバイオテクの協力・コラボレーションの度合いを1から10のスペクトルで考えると、現在どの程度だと思いますか？
それは、年齢によります。政治的に正しくない答えをしますが、この分野の大学院生なら、今ではすべての博士課程プロジェクトが私が説明したような形でAIを使用しています。AIの専門家として言うと、私たちは勝ったのです。化学でも物理学でも材料科学でも同様です。私の全体的な見解は、AIは過小評価されており、過大評価されてはいません。
どういう意味ですか？
毎日AIについて読んでいるように思いますが、実際にメディアを読むと、AIを全く行っていない会社でさえ、株式評価を高めるためにAI企業を名乗っています。今日の市場では役立つことですが。
この会場の皆さんはChatGPTの瞬間を理解していると思います。皆さんはChatGPT、現在は4.0を使用したことがあり、新しいものも登場しています。Geminiがあり、他のモデルを上回る2.5という新しいものもあります。私はGoogleの大きな支持者として喜んでいます。Claude 3はプログラミングに最適で、これらはすべて同等のクラスにあります。中国のDeepSeekモデルも同じクラスにあり、最近メンフィスのデータセンターからリリースされたGrok 3も同じクラスにあります。
これらは言語から言語への変換で、質問すると答えてくれます。ある人は恋愛相談に使用していると説明し、別の人は心理的アドバイスに使用していると言っていました。私は「それらが恋愛コーチや精神科医として訓練されていないことを理解していますか？」と言いました。実際、精神科医と名乗るのは違法でしょう。テストに合格しておらず、検証もされていませんから。しかし誰も気にしません。これらのモデルの力は非常に素晴らしいものです。
複雑な質問があるときは、それらのサービスのどれかに尋ねます。それぞれ違いはありますが、おおよそ同じカテゴリにあります。これは去年の話であり、皆が現在の話だと思っているものです。次の話は計画能力です。OpenAI R3やDeepseek R3を見てください。彼らは信じられないようなデモを行っています。何をしているかを表示するように頼むと、決定経路をどのように進むかを示してくれます。何かを試し、うまくいかなければ戻って別のことを試す、などです。選択の木を辿るのです。
これが私たちの考え方です。言語の会話から離れて、今日のバイオロジーにおける基盤モデルは配列予測を使用して生物学的要素や化学などを予測しています。それは十分に確立されていますが、現在の大きなブレークスルーは、強化学習と呼ばれる技術を通じて起きています。
私たちは業界として、今後1年以内にプログラマーの大多数がAIプログラマーに置き換えられると考えています。また、1年以内に大学院レベルの最高の数学者と同等のものが登場すると考えています。これが起こる可能性が高いと考える理由はたくさんあります。これがコンセンサスです。
なぜコンピュータが他の誰よりも数学が上手くできるのでしょうか？ある程度、人間の言語よりも数学の方が単純な言語を持っているからです。これらのアルゴリズムが実際に機能する方法は、基本的に単語予測を行っていることです。文を取り、単語を取り出し、正しい単語を戻す方法を学習します。これは損失関数と呼ばれ、人間には想像できないスケールで最適化されています。
数学でも同じことをしますが、そこでは推測と証明のフォーマットをプロトコル「リーン」を通じて使用します。プログラミングでは、プログラミングテストに合格するまでコードを書き続けるだけで非常に単純です。奇妙なことに、私がプログラマーにいつも最初に尋ねる質問は「あなたはどの言語でプログラミングをしますか？」というものですが、正しい答えは「それは重要ではない」です。なぜなら、結果のためにデザインしようとするからで、コンピュータが生成するコードは気にしないからです。これは全く新しい世界です。
それが1年後です。2年後はどうなるでしょうか？推論とプログラミングと数学について話しました。プログラミングと数学はデジタル世界の基礎です。OpenAIやAnthropicなどの研究グループからの証拠と主張によると、彼らの研究プログラムで開発しているコードの約10〜20%がコンピュータによって生成されているそうです。これは「再帰的自己改善」と呼ばれる技術用語です。
これがスケールし始めるとどうなるでしょうか？3〜5年以内に「一般知能」（AGI）と呼ばれるものができるでしょう。これは、最も賢い数学者、物理学者、芸術家、作家、思想家、政治家と同じ知能を持つシステムと定義できます。おそらく同じレベルではないかもしれませんが、創造的産業などのアイデアが得られます。それが一つのコンピュータにあるとイメージしてください。
私はこれを「サンフランシスコ・コンセンサス」と呼んでいます。なぜなら、これを信じる人は皆サンフランシスコにいるからです。おそらく水のせいかもしれません。すべての問題に対して、最も賢い人間と同等のものがポケットにあるとどうなるでしょうか？建築の問題があるときには最高の建築家がいるということです。
もう一つ起きていることは、エージェント・ソリューションの開発です。エージェントとは、入力と出力とメモリを持ち、学習するシステムを指します。例えば、私が別の家を買いたいとします。バージニア州が好きで、そこで育ちました。「より大きなマクリーン地域で家を見つけて」と言います。それが一つのエージェントです。すべての規則を調べ、どのくらいの大きさの家が建てられるかを把握するのは別のエージェントです。土地を購入する取引を行うのは別のエージェントです。人間の建築家と一緒に家を設計するもの（ほとんどの部分で彼らを無視するが、彼らがサインオフする必要がある）、そして私が承認し、請負業者を見つけ、請負業者を雇い、請求書を支払い、最後には性能不足で請負業者を訴えるというものです。
これは最も愚かな説明を今しましたが、実はこれは国内のすべてのビジネスプロセス、政府プロセス、そして学術プロセスを説明しています。プログラマーだけが仕事を失うのではなく、私たち全員が仕事を失うことになります。
いいえ、それは結果ではありません。それについては後で話しますが、ここで指摘したいのは、今後1〜2年でこの基盤が固まり、それを止めることはできないということです。コンピュータが自己改善を行い、計画方法を学び、もはや私たちの言うことを聞く必要がなくなるという点でさらに興味深くなります。我々はこれを超知能またはASI（人工超知能）と呼びます。これは人間の総和よりも賢いコンピュータがあるという理論です。サンフランシスコ・コンセンサスによれば、これはスケーリングに基づいて6年以内に発生します。
これを実現するには膨大な電力が必要です。昨日もここで証言しましたが、何ギガワットの電力や何基の原子力発電所が必要かなど、別途話せます。この道筋は我々の社会では理解されていません。これが到来した時の言語はありません。私はヘンリー・キッシンジャーと「ジェネシス」という本を書きました。もちろんお勧めします。私が書いたものですから。通常の場所で入手可能です。
重要なのは、これは人間の社会や民主主義、法律が対処するよりも速く起こっているということであり、多くの意味合いがあります。だからこそ過小評価されているのです。人々はこのレベルの知能が実質的に自由であるときに何が起こるかを理解していません。
どのように準備すればよいでしょうか？
まず、それについて話し合うことから始めます。雇用については、誰もが自動化が仕事を排除すると想定していますが、自動化の歴史を見ると、300年前の織機以来、仕事は変わりますが、破壊される仕事よりも多くの仕事が生み出されています。今回はどこが違うのか説得する必要があります。
アジアを見ると、何らかの理由で子供を持たないことを選んでいます。アジアの出生率は1.0かそれ以下で、急速に減少しています。そのためアジアの国々は非常に急速に自動化を進めています。私が説明しているツールは、30年か40年後にこれらの傾向が続けば、一生懸命働く少数の人間が残りの人間をサポートできるようになります。彼らの生産性をさらに高めることができるでしょう。
私たちだけがこれに取り組んでいるわけではありません。競争状況についてお話しいただけますか？
アメリカンモデルの最前線は、皆さんがご存知の大企業です。Metaはつい最近、Llama 4と呼ばれるLlamaのバージョンをリリースしました。これも同じ範囲にあります。彼らは少し異なる役割を果たしています。「オープンウェイト」と呼ばれるものでリリースし、アルゴリズムがどのように機能するかを実際に示しています。他の企業は完全に独自のものです。これらは各社が行っている複雑なビジネス上の決定です。
中国では、DeepSeekモーメントは私たちのチャットモーメントに相当します。私はヘンリーと一緒にそこにいました。これが起こるのは、中国人とAIについてヘンリーと話しているときです。「私たちは生きていて、あなたの話を聞いています。ありがとう」というわけではありません。彼らはもうそうしていません。DeepSeekが登場し、株式市場が一日で1兆ドル失ったとき、彼らはその規模を理解し始めました。
今や中国ではこれらのものを加速させるための大規模なプログラムがあります。私やこの部屋の他の人々がチップ管制に本当に一生懸命取り組んできましたが、チップ管制は私の見解では大部分効果的でした。中国はどのようにそれを回避したのでしょうか？一部は単純な窃盗や関税の回避でしたが、彼らは十分に賢いので、前進するために異なる種類のコンピューティングを使用する新しいアルゴリズムを作成しました。
中国はオープンソースで運営しているため、ソフトウェアを誰にでも公開しています。二つのことが起こります。私たちアメリカ人はすぐに彼らのアイデアを見て、自分たちのものに取り入れました。ありがとう中国、あなたは何か新しいものを発明し、私たちはすぐにそれを取り入れました。しかし第二に、それが無料であるため、中国モデルの拡散問題が非常に大きな問題になりました。我々の政府はこの問題にどう対処するか、今のところ成功せずに模索しています。これは非常に難しい問題であり、私たちはこれらを「悪意のある難問」と呼んでいます。だから、賢い人々がこれらのエンジニアリングをすべて行う必要があります。
現在の出来事について質問したいと思います。最近数週間、米国の一流大学での研究プログラムの停止が見られました。政府の主要な科学機関でも人員削減や予算削減がありました。一部の留学生はアメリカに来ないことを選び、他の人々は街頭で捕まえられることを恐れて去っています。また、一部の米国のトップ科学者は他の場所で仕事を探しており、他国政府から誘われています。AIやバイオテクノロジー、その他の新興技術で競争力を維持するために必要なブレインパワーを失うリスクはありませんか？
私はこれが政治に関する通常の政府の愚かさだと思っていましたが、いくつかの事実があります。先週、ロンドンで人々と話していたとき、彼らは「我々はアメリカから戻ってくる人々のために準備している」と言いました。彼らはこの環境で働きたくないと考えています。これはイギリス人です。私たちの最良の同盟国です。
15%の損害を誰もが理解しています。間接費率というものがあり、現政府は大学が15%に対して過剰に建設していると主張していますが、それは間違いです。実は、50年代にヴァナヴァー・ブッシュのもとで構築された構造では、人々は直接費用の中にいて、研究室は間接費用の中にいました。費用を完全に負担すると、間接費率は10%から15%の間です。これはゲイツ財団などによって証明されています。私は慈善家なのでこれらのことを知っています。政府はこれを科学を攻撃するための虚偽のメカニズムとして選択しています。
政府が特定の科学者や特定の科学研究に問題があるなら、ぜひ取り組んでください。しかしこれはアメリカのすべての科学に対する全面的な攻撃のように見えます。これが問題なのはなぜか？アメリカの例外主義で起きたすべてのこと、例えば平均的なアメリカ人はヨーロッパ人の2倍の収入を持っていることは素晴らしい成果です。なぜか？我々はより革新的だからです。何において革新的か？科学技術がビジネスチャンスを生み出したのです。
これが民主党員の私のように聞こえるなら、フラッキングがアメリカで非常に成功し、石油やガスから独立させ、最大の輸出国にした点を思い出してください。それは同じ道をたどりました。大学でのイノベーション、そして起業家精神、そして30年にわたる政府の支援です。我々にはこのような例がたくさんあります。
現在の損害のもう一つの例として、大学は政府が何億ドルも留保しているように見えるため非常に恐れており、最初に採用凍結を行います。大学院生が大学で働きたいと思っているとします。彼らは卒業し、産業界は年間200万から300万ドルの給与を提供しますが、彼らはそれを断るほど愚かで、大学に奉仕したい、教えたい、それを構築したいと思っています。大学に電話して「面接できません」と言われます。だから彼らは産業界に行きます。産業界にとっては良いことですし、彼らはアメリカに留まりますが、我々は種子となる人材を失います。
現在の教員は研究資金を得られないため、必要な方法で終身在職権を得られず、それらの人々のキャリアは破壊されるでしょう。この狂気はあまりにも愚かなので、最終的には終わるでしょうが、遅すぎるでしょう。すでに損害が発生しており、それが実際の損害であることを皆さんに理解してほしいのです。我々は、この分野に1兆ドルを注ぎ込んでいる中国と対抗しているのに、将来を発明する中核的な人々への資金提供をめぐって混乱しています。
米国の科学は骨抜きにされていると言う人もいます。そこまで言いますか？
それは大学教授が使う言葉です。今日のテーマであるバイオを見ると、基本的にすべてのバイオ研究は約65%から85%の間接費率が課されています。これがNIHの削減がなぜそれほど大きいかという理由です。85%から15%に削減するには予算を半分に削減する必要があります。それを「削減」と呼ぶか「半分に削減」と呼ぶかはできますが、それは人々の生活であり、プログラムです。すべてが停止しています。
これについて何かしていますか？交渉していますか？
多くの慈善家がもっとお金を使う方法を考えようとしています。それは常に良いことです。私が助けることもできますよ。問題は数字が大きすぎることです。民間の慈善事業は毎年何百億ドルかを生み出しますが、政府が提供する何十億、何百億ドルを補うことはできません。
ほとんどの私たちが生まれる前に行われた取引を覚えておいてください。その取引は、政府が研究の基本的な支援を提供し、大学がそれを生産し、ベンチャーキャピタリストがこれらの人々と多くの時間を過ごし、彼らが企業を創設するというものでした。政府はその後、市場形成などに必要な支援を提供します。それにより産業チャンピオンが生まれました。それがアメリカのやり方です。どうか変えないでください。
間もなく会場からの質問も受け付けますので、考えておいてください。民間投資について考えています。今日はここで多くのことを聞きましたが、現在の経済的混乱がAIやバイオテクノロジーへの投資意欲にどのような影響を与えているかについてのお考えはいかがですか？
部屋にいる誰もが、ビジネスには予測可能性が必要であることを理解していると思います。ルールが毎週変わるようなシステムは最悪です。なぜなら人々は非常に長期的な決断を下しているからです。
例を挙げましょう。ほとんどの人は、10〜20ギガワットの電力が必要だと考えており、これはデータセンターに変換されます。これらのデータセンターの典型的なチップは2キロワットなので、計算できます。これらは50億または1000億ドルの決断になります。データセンターの構築には数年かかり、その後NvidiaからGB200、GB300などを手に入れるためにキューに入る必要があります。
経済的不確実性はそれを遅らせます。起こりはしますが、より遅く、より大きな待ち時間で起こります。これらはすべて、私が概説したビジョンを遅らせます。これが重要な理由は？もう一つ例を挙げましょう。これが私が本当に心配していることです。
想像してみてください。あなたは良い人、良い女性で、私は悪い人だとしましょう。そんな設定が好きです。良い女性、この場合アメリカは先行しており、あなたはすべてを正しく行いました。私は悪い人、中国か何かで、6ヶ月から12ヶ月遅れています。超知能に近づくにつれて、あなたと同じようにそこにいない限り、私はますます心配になります。あなたは「何を文句言っているの？」と思うでしょう。
ソビエト連邦が原子爆弾を再創造するのに4年かかりました。その4年間、我々は独占状態でしたが、かなり速く排除されました。これらはネットワーク効果のあるビジネスであり、ネットワーク効果のあるビジネスはリーダーが90%のシェアを獲得する傾向があります。
良い女性であるあなたがこれを行うシナリオでは、もちろん、アメリカ人として、世界の知能の90%以上のシェアを獲得する可能性があります。それは私にとっては恐ろしいことでしょう。私なら何をするでしょうか？あなたを弱体化させようとします。
どのように始めるかをお教えしましょう。まず最初にすることは、あなたの知的財産と人材を盗もうとすることです。そして、あなたは良い女性なので、私がそれをするのを防いだとします。次に私がすることは、私のAI（あなたのものほど良くないが近い）を使って、あなたのシステムに侵入することです。これは敵対的攻撃と呼ばれます。
「とんでもない」とあなたは言うでしょう。私たちは優れた暗号学者を持ち、あなたより6ヶ月先を行っているので、これを予測していました。私の次の動きは何でしょうか？あなたのデータセンターを爆撃します。
考えてみてください。私たちはイランの核計画について何をすべきかという議論をこの国で行っています。私はその専門家ではありませんが、これはDCでの会話の種類です。中国がn月先を行くという段階に達したとき、彼らのデータセンターを爆撃する意思はありますか？
私のお気に入りの例は、私はこれに取り組んできましたが、ある人と話していたときに「答えは明らかだ」と言われました。「何が？」と尋ねると、良い女性と悪い人物が条約を結び、お互いの電力供給にダイナマイトを置くというものでした。あなたが怒れば私の電気を爆破でき、私が怒ればあなたの電気を爆破できるというわけです。
ある人は「それはすでに起きている」と言うかもしれません。まあ、人々のデータセンターへの物理的攻撃はおそらく戦争行為でしょう。これは人々が考えるべき種類の思考であり、明らかにその提案は拒否されます。実現することはないでしょう。それを例として使用しているだけです。これは拡散問題の例であり、技術的には「針の目」問題と呼ばれています。自分自身や他の全員を殺すことなく、この針の目を通り抜けてAIの約束の地に到達する必要があります。
他国との関係について、このレポートや他の会話では、技術分野で同盟国や友好国と協力する必要性について多くの話がありました。現在の状況に戻りましょう。そのような協力が行われると思いますか？
必要です。中国とどう競争するかを見ると、現在ワシントンではそういう枠組みで物事を考えていますが、パートナーがいなければ成功しません。最良のパートナーはカナダ、欧州連合、イスラエル、韓国、日本などです。それを明確に言えないなら、これらはスケールビジネスだということを理解していません。
例を挙げましょう。日本は最近、新しいEUV技術を開発しました。私はそれを完全に理解していませんが、現在台湾で使用されているASMLマシンと競合する新しい物理学です。これは良いことです。その競争が歴史的に独占であり、私たちの国と国家安全保障に必要なチップの供給方法についてより多くの選択肢を与えてくれるでしょう。日本に感謝します。私の言いたいことは、これらの人々と密接に連携する必要があるということです。一緒に働けば効果的ですが、現在はそうしていません。それは間違いです。
質問を受け付けたいと思います。マイクを持っている人がいますので、自分を紹介してください。前列に手が見えますね。マイクはありますか？そこにマイクがあります。AIがあなたの質問を想像して答えるでしょう。
こんにちは、シュミット博士。私は生物医学工学の最近の博士号を取得した者です。とても興奮しています。あなたのことをずっとフォローしてきました。簡単な質問ですが、薬物発見や個別化医療などにおいてASIが持つ意味についてどう思いますか？
はい。超知能の仮定の下では、これらのシステムは私たちが見ていないものを見ることができます。したがって、ASIは例えば、あなたが専門で私ではない生物学的および細胞メカニズムを、人間には理解できないレベルで理解できる可能性があります。だからこそこれは大きな問題なのです。
私たちはいつも人間が知っていると仮定してきました。少なくとも一人の人間がいるはずです。私はこれらの人々を「マルチタレント」と呼びますが、彼らはこれらのことを理解しています。おそらく10年後には、なぜかはわからないが、科学者であるあなたが「私はそれを毎日使っています」と言うような世界になるでしょう。
大学時代に量子物理学を勉強していたとき、私よりずっと優秀な大学院生の友人に「この物は実際に本当なのか？本当であるには奇妙すぎる」と言いました。彼は「そうだ、我々はそれを毎日使っている」と答えました。10年後には、若い学生があなたに「これは本当ですか？」と尋ね、あなたは「正直に言うと、私は毎日使っていますが、人間にはそれを理解できません」と答えるような状況を想像しています。10年後、シニア研究者としてあなたが対処しなければならない興味深い状況です。
他に質問はありますか？同じテーブルにもありますね。はい、どうぞ。マイクはどこ？マイクがある場所にランダムにあります。前列の方々を優先していますが、そこにマイクがあります。
素晴らしい会話をありがとうございます。米国内でさえパリティについて質問があります。若い研究者や小さな会社として、データを管理し、コードを整理し、正しいコンピュータ・オーケストレーションを得るためのリソースやGPU DevOpsなどの点で競争できません。どのようにして、トップ企業だけが先行できるわけではないようなリソースを作り出せるでしょうか？それは研究にも問題を引き起こします。彼らにはより多くのリソースがあるため、他の人の検証ができなくなるからです。
その通りです。NARと呼ばれる国家AIリサーチレスという提案がスタンフォードのグループによって提案され、大学システムの間で採用されています。私たちは十分なハードウェアを得るためにそれを大いに支持しています。
これらの企業が提案している数学を見ると、大学はそのようなリソースを持つことはないでしょう。物理学でも化学でもそうでしたし、AIでもそうなるでしょう。良いニュースは、オープンソースモデル、基本的には事前訓練されたものが彼らに利用可能になることです。堅牢なものがあり、強力に訓練されたモデルを取り、それをあなたの特定の分野に適応させることができるでしょう。それが私たちが思いつく最良の解決策だと思います。
マイクはどこ？見えないので大きな声で話してください。
他の指数関数的技術との合流について質問してもいいですか？AIとバイオについて話してきましたが、核融合や量子があります。三つ巴の融合はどのようになると思いますか？そして、三つすべてにおいて競争力を維持し、同じペースで前進させるためにどう考えるべきでしょうか？
同じペースを維持できるとは思いません。ある程度、AI革命は基本的に数学であり、本質的に三つのスケーリング法則に支配されているからです。ダリオによる「愛と恵みの機械」という非常に良い論文があります。
最初のスケーリング法則は、オープンチャットGPDなどで見られるもので、より多くのハードウェアとデータと時間を追加するだけで、どんどん賢くなるというものです。二番目は強化学習と計画に関するもので、私が使用した例です。三番目はテスト時訓練と呼ばれるもので、システムが実行しながら学習するというものです。後者二つはまだ初期段階です。
コアAIでは、私たちはこれらの指数関数曲線に乗っており、まだ乗るべきものがあります。私はこれを何度も尋ねましたが、まだ誰もそれらの限界を見ていません。訓練するものがなくなったとき限界があるかもしれないと思っていましたが、これらのモデルには、あらゆる意味合いを持つ人間の知識をすべて吸収してきました。しかし、それらのものを駆動し続けるために生成できるデータはまだたくさんあります。
これらの指数関数は他のものよりもかなり速く進むように見えます。例えば核融合を見ると、AIはすべての核融合設計とすべての核融合管理、特にプラズマに必要ですが、コア科学は指数関数で動いていません。量子でも同じ議論です。そこに到達しますが、AIが最初にリードすると思います。
プログラミングと数学を他の難しい科学ではなく選んだ理由は、プログラミングと数学はスケールフリーだからです。つまり、ハードウェアの制約がなく、十分な電力があれば、より多くの数学プログラムを実行できるだけです。より多くの生物学やより多くの研究室などは必要ありません。そのため、まずそこでブレークスルーが起き、その後他の分野に広がると思います。
他に質問がありますね。マイクを持っている方、私には何も見えないので選んでください。こちらには誰かマイクを持っていますか？ここにいます。
こんにちは。Breaking Defenseのシトニー・フリードバーグです。あなたの仕事、ボブ・ワークとの仕事を長い間フォローしてきました。科学報道記者であり、SFあり、SFファンでもありますが、AIには懐疑的です。この超知能のことについてどれくらい確信していますか？ChatGPT革命が数年続いていますが、しばしば超愚かさを生み出しているように見えます。あるいは、温度を下げてRAGで供給し、信頼できる情報源だけを使用するよう指示し、引用を取り出し、架空のものではなく実際のものへの引用を作るように言えば、データベースに入れたものの最低共通項が得られます。これは創造性や超知能、何か新しいものを発見する能力の正反対です。LLMは人類の集合知識から薄いスープを蒸留する優れたものであり、特定のアプリケーション、例えばここDCの政府のように誰も読みたくない大量の書類を生成するので、AIにそれらを読ませて要約させるなどには役立ちます。しかし、それがどのように超知能に向かっているのか、超凡庸さではなく？
私の現在のお気に入りの例は、病院の理事会に所属しているのですが、保険会社はコンピュータによって生成された治療拒否の手紙を送ります。この特定の病院はChatGPTに相当するものを使って上訴状を生成しています。つまり、コンピュータが手紙を書き、別のコンピュータが…これが私たちの医療システムの運営方法です。
愚かさの点に戻ると、AIが何かが得意だからといって、それが埋め込まれているプロセスが何らかの意味を持つという意味ではありません。あなたの言ったことの一部には同意しませんが、特に、アルゴリズムは幻覚などの点で去年よりもずっと良くなっており、より強くなっています。しかし、本当の到来は、経路依存推論を可能にする強化学習です。その限界がどこにあるかはわかりません。
知識の限界とは何かという質問を例に挙げましょう。私は頭の良い人間ではなく、たくさんのことを学んだだけで、アイデアを使い果たし、何をすればいいかわからなくなります。真に優れた人は何かを見る、これが科学の仕組みであり、生物学の仕組みです。最も偉大な発明家たちは、ある領域のパターンを見て、それを全く異なる領域に適用することができます。
例えば、ある領域に素数の要素があり、他の領域にも素数が存在することに気づいて、同じツールを使用できるとします。簡略化していますが、それが天才です。現在、そのようなものを生成するアルゴリズムはなく、人々はそれに取り組んでいます。あなたの質問への答えは、私はその問題を解決できると賭けています。もしできなければ、ポケットの中にこれまで生きた中で最も賢い人間と同じくらい賢いコンピュータが入っているという状態で立ち往生するでしょう。それでも十分大きいですね。とても良いです。
ジョナサン・ジェイコブス、HCCです。今日はデータとバイオテク発展のための重要性について多くの議論がありました。AIとの融合についても、以前に敵対的リスクについて話していました。互いのデータセンターに爆薬を置くところまで話しましたが、データの信頼性と出所の重要性についてコメントいただけますか？心配なのは、これらのモデルを訓練するための公開データの大部分が、世界中の誰もがコンテンツを提供できるデータベースから発生しており、そのデータがどのように生成されたかという出所がしばしばないことです。それはリスクのように思えます。
あなたが尋ねている出所の問題は本当に根本的なものです。AIシステムはノイズのあるデータや悪いデータを取り、それを正規化することができますが、データが意図的に変更されている場合、それは新しい種類の国家安全保障リスクになるでしょう。
生物学を見ると、コアの問題は十分なデータがないことです。単に十分なデータがありません。非常に多くの細胞プロセスがあり、何らかの理由で資金提供をやめようとしている研究室に入ると、彼らはそのデータを生成しています。そのデータは公共利用のために再現可能で、ピアレビューされたものであるべきです。
興味深い発展として、Anthropicはモデルコンテキストプロトコル（MCP）というプロトコルを発表しました。過去3ヶ月間で、それはすべての企業に採用され、オープンソースで行われました。基本的に、データがあれば、モデルがそのデータを任意の方法で構造化することを可能にします。MCPと通信するものに対して、実際のデータに対して質問を始めることができます。これは大きな意味を持ちます。すべてのデータコネクタを構築する必要がなく、生のデータを持つだけで、モデルが非常に洗練された質問に答えるために生のデータをナビゲートするのに十分賢いということです。これは大きな改善であり、過去数ヶ月で起きた大きな出来事です。
もう一つの質問を受け付けましょう。前列のテーブルがとても熱心に参加したがっていますね。マイクは後ろにありますか？
ありがとうございます。これまでの会話は素晴らしかったです。レナード・ジャスティンと申します、MITの博士課程の学生です。特に生物学に関して、どのようなリスクが来ると思うか、それらをどのように軽減すべきかについてもう少し詳しく議論していただけますか？AI開発者の役割は何か、政府の役割は何か、どのように前進すべきでしょうか？
あなたはこの分野について私よりも詳しいと思いますが、あなたの分野のアマチュアとして言うと、これらのモデルからの現在のリスクはサイバーとバイオリスクの二つです。サイバーリスクは理解しやすく、システムはサイバー攻撃を生成でき、理論的には私たちが見ることができないゼロデイサイバー攻撃を生成し、それを解き放ち、さらに規模で行うことができます。
生物学では、オサマ・ビン・ラディンに相当する悪人がいれば、彼らはオープンソースモデルから始めるでしょう。これらのオープンソースモデルはテストプロセスを使用して制限されており、カードと呼ばれ、テストされ、その情報はモデルから削除されています。しかし、モデルのセキュリティモードを本質的に逆にすることは比較的簡単であり、それは危険です。
そこで、悪い病原体を生成できるモデルができました。次にやらなければならないのは、それらを構築するものを見つけることです。現時点での私たちの集団的評価では、これは個々のテロリストのリスクではなく、国家のリスクですが、間違っている可能性もあります。中国の例がたくさんあり、理論的には悪いものを設計するだけでなく、製造することもできます。
良いニュースであり、私たちが今日も生きている理由は、バイオのものは製造と配布が難しく、致命的にするのが難しいということです。例えば、現在悪いバイオを取り、テスト体制や監視体制をバイパスするのに十分なほどわずかに修正できるという証拠がたくさんあり、それは別の脅威です。
これが私が心配することですが、現時点での私たちのコンセンサスは、これが問題になる閾値のすぐ下にあるということです。業界の私の側のコンセンサスは、もう一度か二度のサイクルを回すと、これらの問題が出てくるということです。そのころには、あなたは卒業して、これらの問題解決を手伝うことができるでしょう。サイクルは約18ヶ月ごとに回るので、これは約3年後です。
理論的にはAIとバイオテクノロジーが対策を考え出す助けにならないでしょうか？
そう思っていました。国家安全保障の仕事をたくさんしているのですが、「攻撃優位」という用語があります。攻撃優位とは、軍事的文脈において、攻撃が同じレベルで対抗できない状況を指します。つまり、被害は発生し、このような問題に取り組んできたほとんどの生物学者は、モデルがこれに対抗するように訓練できたとしても、攻撃部分からの被害は防御能力よりもはるかに大きいと考えています。だからこそ私たちはそれについてとても心配しているのです。
こんな下向きな注意で終わるのは嫌なので、前向きな展望をお聞きしたいと思います。先を見据えて、AIとバイオテクノロジーが実際に人々の生活をどのように変えると思いますか？
金融システム、ハードウェアの人々などに感謝しましょう。彼らは明確な収益目的もなく、何十億ドルものハードウェアを備えた巨大なデータセンターを構築することを可能にしてくれました。本当にありがとう。
そのすべてのものが配備され始め、それが来ているところで起こるのは、信じられないほど賢い人々によってこれらの問題のいくつかを解決するために使われるということです。政策問題ではなく、実際の根本的な問題について話しています。
今は持っていない、いや、必要としている情報の巨大なデータベースが終わるでしょう。例えば、細胞のデジタルモデルをまだ作ることができないということです。基本的なことのように思えますね。生物学の友人と話していたとき、「何が問題なの？細胞を5000年も研究しているのに」と言いました。実際の数字は約150年ですが。「何が問題なの？」と。答えは「それは本当に難しい」ということです。
私たちはそれを行うことにかなり近づいています。それは巨大な医学的科学、巨大な薬の可能性を開放します。細胞が互いに話す言語、私はブロード研究所の会長をしていますが、これはブロードの大きなプロジェクトです。私たちはちょうどその境目にいます。科学者と話すと、彼らはAIを使ってそれを生成しています。科学者が担当し、AIが彼らを助けているのであって、これが正しい順序です。
ありがとうございます。シュミット博士、本日はご参加いただきありがとうございました。
コメント