本動画は、Open Philanthropyのバイオセキュリティプログラムを統括するAndrew Snyder-Beattieへのインタビューである。彼は生物学的大災害から人類の絶滅を防ぐために8年以上取り組んでおり、そのリスクを少なくとも半減させる具体的な計画を提示している。旧ソ連の生物兵器プログラムから最新のミラー細菌の脅威まで、様々な生物学的リスクを解説し、個人用防護具、建物のバイオハードニング、早期検出、医療対策という四本柱戦略を詳述する。特に注目すべきは、わずか10ドルで製造可能な高性能マスクや、既存の化学物質を活用した空気浄化技術など、意外なほど低コストで実現可能な防御策の提案である。AI技術の進歩が生物兵器開発を容易にする可能性がある中、物理的防御の重要性を強調し、2年半以内にこの戦略を実装することで人類絶滅のリスクを大幅に低減できると主張している。
- 防護具と生物学的脅威への備え
- バイオセキュリティへの取り組み
- 歴史的な生物兵器の脅威
- 絶滅シナリオの可能性
- AIと生物兵器の脅威
- 生物兵器の戦略的使用
- ミラー細菌の脅威
- ミラー細菌の競争優位性
- ミラー細菌への対抗策
- ミラー細菌のリスクと影響
- 四本柱戦略の概要
- 個人用防護具の重要性
- バイオセキュリティ分野への参入
- バイオリスクとAIリスクの比較
- 実験の困難さと2年半の期限
- 予防策への投資
- ミラー細菌のリスク軽減
- 生物学的脅威からの絶滅可能性
- 四本柱戦略の詳細
- 採用職種について
- 病原体の弱点
- 検出方法と早期発見
- 第四の柱：医療対策
- 四本柱プログラムの評価
- 計画の最大の弱点
- なぜこの計画が広まっていないのか
- 生存率とマスクの備蓄
- 世界的な対策の重要性
- グローバルな不安定性のリスク
- 環境への脅威
- 採用とキャリアアドバイス
- その他の機会と分野の選択
- キャリアの戦術的アドバイス
- 適切な野心のレベルの選択
- 気候変動への効果的アプローチ
- 個人的な準備
防護具と生物学的脅威への備え
これはエラストメリックレスピレーターです。こちらはプロピレングリコールです。次亜塩素酸も物を殺菌する興味深い方法です。フィルターを交換せずに6か月連続で着用できます。保存期間は20年です。
もし政府がこれらを大量購入すれば、基本的に20年間の防護が得られることになります。つまり人口を守ることができるのです。これは病原体の膜を破壊する化学物質です。また脱水させる効果もあります。米国内の基本的にすべての産業用床面積と、広範囲の住宅スペースを24時間年中無休でカバーするのに十分な量があります。
これは塩水と電気を使って自宅で作ることができます。目に入れないようにする必要がありますが、皮膚には完全に安全です。顔や手指消毒剤として使えます。このようなものの防護係数は約100倍です。つまり99%の粒子を濾過するということです。そうですね、できますよ。わかりました。
そこを押すと吸い込まれるので、側面から空気が入り込めないことがわかります。ブロードウェイのショーのフォグマシンに使われています。極めて安全です。つまり、これを使えば、慈善家が国全体をカバーすることも可能です。
ノルウェーに誰かいれば、5000万ドルでノルウェーにパンデミックはなくなります。別のタイプの攻撃優位性があります。それは防御側がいくら費やしても突破されてしまうというものです。核兵器がその良い例だと思います。生物学においては、そうではないと思います。私たちができる実行可能なことがあります。
少なくとも時間を稼ぐためには、驚くほど手頃な価格のものもあると思います。より高額な対抗手段が実用化されるまでの間です。
バイオセキュリティへの取り組み
今日はAndrew Snyderと話をしています。彼はOpen Philanthropyのバイオセキュリティプログラムを運営しており、これまでに数億ドルを分配し、さらに数億ドルの分配を検討しています。
Andrewは多くの年月、おそらく少なくとも8年、もしかしたらそれ以上を、最悪の生物学的大災害から人類の絶滅を防ぐ方法について考えてきました。そして彼のOpen Philanthropyのチームは、そのリスクを少なくとも半分、場合によってはもっと大幅に減らすことができると考える具体的な計画を立てました。彼らはこの計画を四本柱戦略と呼んでいますが、かなりクレイジーに聞こえる要素がたくさんあります。
今日はそのクレイジーに聞こえる要素を検証していきます。ポッドキャストに来ていただきありがとうございます、Andrew。お招きいただきありがとうございます。
歴史的な生物兵器の脅威
あなたを夜も眠れなくさせる、本当に心配させる脅威は何ですか。興味深い出発点として、歴史的なソ連の生物兵器プログラムについて考えてみるのが良いかもしれません。
70年代と80年代に、ソビエト連邦は基本的に数万人の科学者を擁していました。生物兵器禁止条約に違反して、考えられる限り最も恐ろしい兵器を開発していたのです。天然痘とエボラをキメラウイルスに組み合わせるようなもの、16種類の異なる抗生物質に耐性のあるペストの菌株を作ること、あるいは病原体に自己免疫反応を引き起こすものを入れることで、対抗するのが非常に困難になるようなものです。これらすべてが80年代にソ連の兵器プログラムが行っていたことでした。
40年の追加技術を考えれば、将来の生物兵器の可能性ははるかに恐ろしいものです。もしこれらの生物兵器の多くが放出されていたら、どのようになっていたでしょうか。
実際、ここでは仮定的な話をする必要はありません。ソ連では多くの事故がありました。そのうちの一つは、海上で天然痘兵器をテストしていて、それが漁船に当たったというものです。漁船が着いた時、全員を隔離してワクチン接種しなければなりませんでした。封じ込めに成功したのは非常に幸運でした。他にも多くの事故がありました。
スヴェルドロフスクの大きな炭疽菌事故がありました。その炭疽菌の煙が都市に広がりました。しかしこれらはすべて比較的封じ込められました。なぜなら、これらは80年代の兵器だったからです。将来、もっと悪いことが起こる可能性があります。もし感染力があり非常に致死的なものがあれば。
もしエボラがもっと感染力が強く、表面だけでなく実際に気道を使って拡散できるようにすることができたら。これらのようなものは、実際に絶滅を引き起こす可能性があると思いますか。全員またはほぼ全員を殺すことができるでしょうか。あるいは十分に殺して、最終的に文明が崩壊し、人類が続くかどうか疑問になるほどでしょうか。確かにそうです。
絶滅シナリオの可能性
いくつかのことが起こっていると思います。一つは、文明は自転車に乗っているようなもので、勢いが必要で、もしすべてが崩壊したら、物事を元に戻すのは非常に難しいと考えるかもしれません。しかし、生物兵器が地球上の人口の非常に大きな割合を直接殺す可能性もあると考えるかもしれません。
これが起こる方法はいくつかあります。一つは、病原体が長期間拡散していて、私たちがそれが拡散していることに気づかない可能性があるということです。HIVを例に挙げることができます。80年代に発見しましたが、発見する50年以上前から循環していました。幸いなことに、空気感染するウイルスではありませんでした。しかしもしそうだったら、もっと悲惨な状況にあったかもしれません。
同様に、人間から他の人間へ拡散するだけでなく、環境中に持続する病原体もあり得ます。カエルのように、真菌感染によって絶滅する種の絶滅例がいくつかあります。
そして最後に、これはもう少しSF的に聞こえますが、Ryanが以前のポッドキャストで言及していました。AIシステムが、人類を生物兵器で倒して廃墟から再建するという非常にリスクの高い戦略を賭けることをいとわない可能性があると想像できます。
したがって、たとえシステムが最初のアプローチで全員を倒すことができなくても、その後にフォローアップ攻撃があるかもしれません。
AIと生物兵器の脅威
これは人々が推測してきたことです。AIが持つ一つの利点は、これらの生物学的大災害に対してまったく脆弱ではないということです。
もし人間またはほとんどの生物学的生命を破壊するようなものを放出すれば、乗っ取るためにはるかに有利な立場に立つ可能性があります。あるいは、私は暴走した、あなた方全員を殺せる生物兵器を持っていると脅すだけでも、シャットダウンされないようにしようとしているなら、非常に強い交渉の立場に立てます。すべてがやや推測的だと思いますが、少なくとも検討する価値はあると思います。
これは、これらの対応策の一部でさえも、将来のAIシステムにとってこれらの生物兵器をあまり魅力的でなくするための抑止戦略に少なくとも役立つ可能性がある理由についての興味深い議論だと思います。
これらの生物兵器プログラムはまだ続いているのでしょうか。ロシアは今でも持っているのでしょうか。国務省は、ロシアと北朝鮮の両方が現在進行中の攻撃的兵器プログラムを持っていると信じていると公に述べています。
しかし、彼らが正確に何をしているかは公開されていないと思います。80年代に何をしていたかについて出てきたことに基づいて推測するしかありません。その通りです。
兵器プログラムの歴史について読むことができます。そして時々、科学者が出てくる出版物があります。興味深いことの一つは、ソ連のプログラムの多くで、兵器プログラムの一部である人々の多くは、自分たちが兵器プログラムの一部であることさえ知りませんでした。同心円のようなものがありました。
ペストを研究していた巨大な研究所がありました。そこにいるほとんどの人は、ペストのリスクを減らしていると思ってペストを研究していただけでした。そして内側の輪があり、それらの研究結果をすべて使って兵器化する方法を見つけていました。
生物兵器の戦略的使用
多くの人が、生物兵器を使うことは決して理にかなわないと言っています。なぜなら、超ペストのようなものを放出すれば、ほぼ常に自分に跳ね返ってくるからです。これらのものの戦術的または戦略的な使用は何だと思いますか。北朝鮮やロシアがこれらのものを開発するかもしれないが、決して放出することはないだろうと考えるのは強い議論ですか。
これは強い議論だと思います。最も強い反論は二つあると思います。一つは、第二撃兵器として有用である可能性があるということです。階層化された防御があり、それがソビエト連邦の考え方だったと思います。
二つ目は、経験的に言えば、ソ連のプログラムは天然痘に多額の資金を投資していたということです。これは非常に感染力の強いウイルスです。したがって、これがやや非合理的だったとしても、事実として彼らは実際にそれをやっていました。
これらの兵器プログラムの歴史を読むと興味深いのは、合理的な戦略的動きだと思われるものからやや離れていくということです。
これらの兵器プログラムは独自の官僚的利益を得ます。生物科学のための資金、他のもののための資金が欲しいのです。そして、たとえそのような兵器の戦略的有用性からやや離れていても、可能な限り最も厄介なものを考え出そうとしているような暴走文化があります。
記憶が正しければ、ゴルバチョフはバイオプレパラート(ソ連の生物兵器プログラム)を閉鎖したかったのですが、もしそうしたらクーデターで解任されると言われたと思います。この利益集団は非常に強力で、プログラムを閉鎖されたくなかったからです。それが彼らの生活だったのです。その通りです。
その正確な事実については知りませんが、確かに、ソ連の防衛予算の1%までが生物兵器に費やされていたようなことがありました。かなり大規模な重要な事業でした。まさに。
ミラー細菌の脅威
生物兵器についてはそれくらいにして、過去1年間で人々のレーダーに上がってきたまったく別のクラスターがあります。それはミラー細菌またはミラー生命です。それは何か説明できますか。
地球上の多くの分子は二つの形態で存在できます。左手型と右手型です。この一般的な例は砂糖です。グルコースは右手型で存在でき、それが私たちが食べるバージョンですが、左手型もあり、それは消化できません。これは非常に興味深いことです。
これらの二つの分子は、鏡に映すと同一です。手のようなものです。ある意味では同一ですが、互いに鏡像です。多くの特性では全く同じで、多くの特性では異なります。
たとえば、右手に左手の手袋をはめることはできません。面白いのは、体内の多くの分子、実際にはすべての大きな最も重要な分子がこのキラル特性を持っているということです。
DNA鎖を想像すると、すべての小さなA、C、Gは、すべて右手型を使用しています。
そして、体内のすべてのタンパク質、より大きな機械を構成するより大きな分子のようなものは、すべて左手型を使用しています。実験室の科学者であれば、砂糖の鏡像バージョンを作成できるのと同じように、それらの小さなA、C、Gの鏡像バージョンも作成できます。
そして、それらの小さなA、C、Gの鏡像バージョンを置くと、反対方向に回転し、通常のDNAの鏡像のように見える鏡像DNA鎖を作成できます。
興味深いのは、これは人間の生物学だけでなく、地球上の基本的にすべての生命に当てはまるということです。細菌、人間、植物、すべて、すべての動物が右手型DNA、左手型タンパク質を使用しています。
多くの科学者は、DNAやタンパク質だけでなく、細菌全体の鏡像バージョン、つまり鏡像生物全体を作れたら面白いだろうと考えていました。これを調査している研究室がいくつかありました。刺激的なプロジェクトとして。
NSFもこれに約400万ドルの助成金を提供しました。しかしこれには大きな問題があります。それは、免疫系が認識する分子で訓練されているということです。もしその分子を鏡像バージョンに反転させたら、免疫系はそれらの分子を検出または分解することができません。
つまり、この細菌が肺や血流に入ると、キラル栄養素で成長し、致死的な感染を引き起こす可能性がかなりあります。さて、それなら、致死的な感染を引き起こす細菌はたくさんあるのではないかと思うかもしれません。これがそれほど悪い理由は何ですか。
これが悪い理由は、人間の免疫系だけでなく、地球上のほとんどの免疫系が特定のキラリティで訓練されているからです。したがって、これは人間を感染させて殺すだけでなく、多くの動物種、おそらく植物種さえも感染させて殺す可能性があります。植物の免疫系も非常に似た方法で機能します。
つまり、これは環境中で非常に持続的である可能性があるということです。広範囲に広がる可能性があります。これは人間から人間へのパンデミックとはかなり異なりますが、土壌中、環境中に持続するものになるでしょう。
家の外に感染した木があって、風が吹き込んだら、それはあなたを感染させる可能性があります。したがって、これは免疫系なしで生きているようなものにはるかに近いでしょう。
特定の受容体が壊れている遺伝病を持つ人々は、通常幼少期に死亡します。非常に厄介な病気です。そしてこれは、世界全体がその状況に陥るようなものです。
ミラー細菌の競争優位性
この理論が正しければ、これらのミラー細菌は他のすべての生物に対して巨大な競争優位性を持つことになります。なぜなら、基本的にすべての他の生物の免疫系を回避できる可能性があるからです。そして、その意味で自然な競争相手はいないでしょう。
動物の内部では競争優位性が大きいと思います。免疫系を回避しているが、他の病原体は免疫系を回避していない場合です。したがって、そこでは競争優位性があります。
土壌中や泥の中などでどれだけ大きな競争優位性があるかは、あまり明確ではないと思います。いくつかの利点はあるでしょう。たとえば、ウイルスは感染できません。ファージは通常、細菌集団を削減します。
細菌を捕食する他の原生生物も、それを食べて消化することができません。したがって、いくつかの適応度の利点がありますが、いくつかの大きな不利な点もあります。
たとえば、水平遺伝子伝達がありません。したがって、異なる環境に適応するのがそれほど速くありません。また、得られる栄養素の種類もかなり限られています。おそらく、あまり豊富ではないキラル栄養素に依存しているでしょう。
したがって、これは文字通り生態系全体を乗っ取って、すべての細菌がすべてを競り落とすために突然ミラー細菌に変わるようなものではないと思います。そのようには見えないでしょう。代わりに、微量がありますが、どこにでも微量がある可能性があると思います。
最初にこのアイデアを聞いたとき、私が最初に思いついた反論は、それが私たちを攻撃したり消化したりできるが、私たちはそれを攻撃したり消化したりできないというのは、実際には意味がないということでした。そこには何らかの対称性があるべきではないでしょうか。
あなたのすべてを攻撃または消化しているわけではありません。機能する方法は、あなたの非常に小さな部分だけを消化しているということです。言い換えれば、血流中のキラル栄養素です。これらは、ピルビン酸、グリセロール、グリシンのようなものです。これらはこの手性特性を持たない栄養素です。
血流中には十分な量があり、成長して持続するのに十分です。したがって、基本的には血流中で成長し、もしよければあなたの小さな部分を食べているだけであり、それは敗血症や血管を詰まらせて脳卒中を引き起こすような大きな問題を引き起こすのに十分です。
ミラー細菌への対抗策
もう一つの反論は、なぜ他の細菌を治療するのと同じように抗生物質を使ってこれらの細菌を治療できないのかということです。なぜそれが必ずしも機能しないのか、人々を治療するだけでなく、基本的に地球全体を抗生物質でコーティングして、すべての植物や動物を通して成長するのを止めなければならないということを示唆しています。
最初の反論は、この方法で作物や生態系を救うことは必ずしもできないということです。それには膨大な量の抗生物質が必要になるからです。しかし、他にも二つの反論があると思います。
まず、農業用抗生物質生産を含む米国の抗生物質生産の100%を転換したとしても、米国人口の約10%しかカバーできません。したがって、このスケーリングだけでもかなり厳しいでしょう。
二つ目は、これらの免疫不全を持つ人々は、抗生物質を与えても死ぬ傾向があるということです。したがって、抗生物質を予防的に服用する必要があります。
これは感染症を治療するようなものではありません。つまり、私たち全員が人生の残りの期間、毎日抗生物質を服用しなければならないということです。そして、自然界がおそらく死んでいくのを見ながらそれをするでしょう。
これは非常に不安定な状況に私たちを置きます。なぜなら、発電所が停止したり、抗生物質生産施設が停止したりしたら、それはゲームオーバーだからです。
ミラー細菌のリスクと影響
ミラー細菌を作成した場合、世界中の植物の多くが、この細菌が広がって感染し始めると、徐々に死に始める可能性が高いと疑っていますか。それが数ヶ月か数年か、それ以上かかるかわかりますか。
まだ多くの不確実性があると言うべきです。これがどのように相互作用するかを正確に予測するのは非常に難しいです。なぜなら、細菌の種がどれかさえわからないからです。
明日ミラー細菌が放出された場合、壊滅的になる可能性が10%以上あると言えるでしょう。しかし、必ずしも80%以上とは思いません。まだ多くの不確実性があると思います。
しかし、10%以上の可能性はまだ、これは一種の終末シナリオです。速度の問題については、興味深いことに、細菌性病原体は、植物だけに感染する場合、かなりゆっくりと拡散する傾向があります。
果樹園が何かに感染しても、1年以内に果樹園の反対側にさえ到達しない可能性があるという研究があります。とはいえ、動物は細菌を非常に速く拡散させることができます。昆虫がミラー細菌に感染し、植物から植物へ拡散している場合、森林をかなり速く飽和させる可能性があります。
また、人間の旅行も物事を非常に速く移動させることができます。COVIDは基本的に世界中にかなり速く広がりました。したがって、ミラー細菌についてもそうでない理由はありません。
四本柱戦略の概要
これらの高度技術の問題に対処するために、ミラー細菌を作ったり、他のことをしたり、高度な生物兵器プログラムを持ったりする能力があることによって作り出される可能性のある問題に対処するためには、それに対抗するために本当に高度な技術が必要だと考えるかもしれません。
実際、それは人々がこの種の問題に取り組むために本当に高度な技術を探すという考え方に少し囚われてきたと思います。しかし、あなたは実際に、これらの対策をすべての人に、または可能な限り多くの人に、ほぼ瞬時に拡大する必要があるため、理想的には数週間以内に、場合によってはそれ以下で、大規模に製造できる最も低技術のものを見つけ出す必要があると考えています。
低技術のものの一つの例を持ってきたと思います。これはエラストメリックレスピレーターです。これはミラー細菌シナリオのようなひどいものを含む、幅広いシナリオで役立つと思います。
おそらく比較的洗練された対抗手段が、何か大きな災害があった場合に穴から抜け出すために必要になるでしょう。しかし、より高価な対抗手段が実用化される間、短期的に人々をどのように保護するかを知る必要があるという問題があると思います。
COVIDの間、ワクチンを立ち上げて稼働させるのに長い時間がかかったことを覚えています。その期間を短縮するための作業が必要ですが、対抗手段が実用化される間、短期的に人々をどのように保護するかについても、本当に知る必要があると思います。
個人用防護具の重要性
マスクのような物の利点は、特定の病原体に固有ではないということです。原則として、十分に強力または効果的なマスクは、適切に一貫して着用すれば、基本的にあらゆる細菌または潜在的にあらゆるウイルスが到達するのを止めることができます。
しかし、COVID中にN95マスクがあり、パンデミックを大幅に止めることはできませんでした。そして、それらは少なくとも原則的には人々が感染するのを止めるのにかなり効果的でした。なぜ、過去にうまくいかなかった、非常に低技術のものが、COVIDよりもはるかに危険なものに対して根本的な違いを生む可能性があるのでしょうか。
最初に言えるのは、十分なN95マスクがなかったということです。実際、戦略的国家備蓄には大量のN95マスクがありましたが、期限切れで使用期限が過ぎており、ゴムバンドが壊れていたので、着用することさえできませんでした。
エラストメリックレスピレーターと比較すると、エラストメリックレスピレーターは約20年の保存期間があります。したがって、はるかに長く持続します。
もう一つは、COVIDは危険なほど致命的で人々を殺すが、おそらく人々が非常に厳格な措置を講じるほど危険ではないという、ある種の危険なスイートスポットにありました。
そして、もしCOVIDが実質的により致命的であったなら、実際に封じ込めることができた可能性があると思います。より多くの動機があったでしょうから。そして、これは韓国などの場所で封じ込めに成功した別のコロナウイルスであるSARSで見られました。
それは約10倍致命的で、より重要な対応だったと思います。人々は実際により頻繁にマスクを着用する意欲がありました。私たちの生涯の間に、基本的に家を出るすべての人がこれらのマスクまたはより良いものを着用することを望む生物学的大災害が発生する可能性はどれくらいだと思いますか。
グローバル開発センターは、今後25年以内にCOVIDと同じくらい悪いかそれ以上のパンデミックが発生する可能性が50-50であるという数字を出しています。
それから、実際に人類の生存を脅かす大災害の確率はどれくらいかという別の質問があり、その数字もかなり高いと思います。それは1〜3%くらいだと思います。これは低い数字のように聞こえますが、それが意味するのは、交通事故で死ぬよりも生物学的大災害で死ぬ確率の方が高いということです。
まあ、交通事故で死ぬよりも、生物学的大災害で全員が死ぬということですね。そうです。
バイオセキュリティ分野への参入
なぜ他のすべてのリスクよりも、特に生物学的大災害に取り組むことを選んだのですか。この番組では通常AIについてより多く話していると思います。現時点では特に顕著ですが、他にも取り組むことができたことがあります。
オックスフォードのこの存在リスク研究所で働いていました。実際にあなたと一緒に、かなり昔に。基本的に当時、誰もがAIに焦点を当てており、バイオセキュリティに焦点を当てている人の数は非常に少なかったです。
バイオセキュリティに惹かれた理由は、バイオセキュリティに一般的に焦点を当てている大きなバイオセキュリティコミュニティがあったものの、壊滅的リスクやこれらの最悪のケースの結果について考えている人の数が非常に少なかったということです。
短い答えは、非常に実行可能だと思うということです。極めて無視されていると思います。最悪のケースのシナリオを包含する戦略に常勤で取り組んでいる人は基本的に100人未満だと思います。そして、重要性はAIリスクのようなものほど重要でないとは思いません。
バイオリスクとAIリスクの比較
なぜそれが1桁以上重要でないとは思わないのですか。基本的に、AIにどれだけのリスクを置くかによります。AIからの絶滅の可能性を30%とすると、バイオからの絶滅の1〜3%の可能性は、実行可能性と無視されている度合いの議論がそれを上回る可能性があります。
AIのリスクとバイオのリスクが関連しているという議論をすると思っていました。二つが絡み合っている理由の一つは、生物兵器を作ることがAIが人類を脅かす一つの方法だからです。なぜなら、特にオープンウェイトのAIモデルが、独自の生物兵器プログラムを実行したい悪意のある行為者にとって非常に役立つ可能性が高いと人々が考えているからです。
彼らははるかに優れた専門家のアドバイスと支援を得ることができるので、以前は数千人の労働者を持つソビエトプログラムのようなものを必要としたものが、将来的には数十人でできる可能性があります。それはかなり厄介です。ああ、それはかなり厄介です。
それが起こるのを止めるために何かできることはありますか、それとも遅かれ早かれこれらのオープンウェイトモデルがジェイルブレイクされて、この種の作業を行うのに非常に役立つようになるというのは、ある程度避けられない結論なのでしょうか。
完全に避けられない結論だとは思いません。より良いDNA合成スクリーニングのような異なることを想像できます。たとえモデルが生物兵器を作る方法について恐ろしい指示を与えていたとしても、最終的にはその攻撃を実行するために物理的なものを入手する必要があります。
それらの物理的なものを入手するのは簡単ではありません。したがって、テロリズムを防ぐためのさまざまなチェックポイントがある可能性があります。
実験の困難さと2年半の期限
良いアドバイスをコンピューターから得ていたとしても、実験を行うのは難しく、研究室で作業を行うのは難しいということが、私たちにとってどの程度役立つと思いますか。生物学は有名に扱いにくいですから。
絶対にそうです。ノートに、2年半で四本柱戦略を実施するクラッシュプログラムを実施したいと書いてあったと思います。それはある種、AI技術の進歩により脅威が悪化する可能性があるため、このAI期限によって設定されていますか。
ある意味では、2年半で実現できると思うからです。だからなぜ非常に野心的な期限を設定しないのでしょうか。しかし、AIの進歩がある中で、生物兵器の作成をより速く助ける可能性があります。
たとえそれが10%の可能性しかなくても、それは本当に全力で取り組み、そのリスクを閉じるために努力すべきことだと思います。
予防策への投資
理想的には、これらのパンデミックや生物学的大災害が最初から存在しないようにすることができるでしょう。予防は治療よりも理想的に優れています。予防側で何に資金提供していて、何に最も興奮していますか。
多くの素晴らしいことに資金提供しています。より良いDNA合成スクリーニングメカニズムについて考える作業に資金提供し、政策立案者がより良いDNA合成スクリーニングを規制に組み込む方法について考える作業に資金提供しています。
AIモデルと、生物兵器を作る方法を漏らさないようにするためのガードレールの方法について多く考えています。基本的に誰もが良いことだと同意する非常に常識的なことです。
予防にほとんどの予算を費やしていますか。そうです。それは続くと思いますか。場合によります。これから話す戦略のいくつかは、はるかに多くの資金を吸収する可能性があり、より広範な慈善家の連合を含む可能性があると思います。
まだ未定ですが、当面のところ、私たちの作業のほとんどは予防だけです。
ミラー細菌のリスク軽減
ミラー細菌とミラー生命は、そのプロフィールと潜在的に引き起こす可能性のある損害の点で、かなりユニークなリスクとして際立っていると思います。誰もその忌まわしいものを決して作らないようにするために何が行われてきましたか。
多くは、このことの最前線にいた多くの科学者によって推進されています。興味深いと思ってミラー細菌を作りたいと考えていたほとんどの科学者も含まれます。
リスクを検討し、他の科学者と話し合った後、これは私たちがすべきことではなく、ミラー細菌を作るべきではないという規範とタブーを設定する道をリードしてきたと思います。
赤線をどこに引きたいかについては、まだ未解決の問題があると思います。ミラー細菌を作りたくないということに全員が同意するなら、ミラータンパク質や本当に複雑なミラータンパク質はどうでしょうか。
それらのほとんどは作っても全く問題ないでしょうが、たとえばミラーリボソームや完全なミラープロテオームは一線を越えている可能性があります。科学者の間でまだ議論があると思いますし、私たちはそれらの議論を支援しています。
そこでの課題は、ミラーリボソーム自体は危険ではないかもしれませんが、それを本当に簡単に行うための科学と技術を開発すれば、将来の悪意のある行為者や無謀な人が、安全で許可されているものから実際に完全なミラー細菌を作ることへの脱却時間を短縮することになるということです。
まさにその通りです。では、その閾値をテロリストが潜在的にできることからどれだけ後ろに設定したいかという問題です。
現在、それは非常に困難な注文ですが、興味深いのは、比較的大規模な生物兵器予算を持つテロ組織があったということです。オウム真理教はこの終末カルトでした。
彼らの化学・生物兵器プログラムには年間約300万ドルが割り当てられていました。ミラー細菌を作るにははるかに多くの費用がかかるでしょう。科学者の中には約5億ドルかかると見積もる人もいます。
したがって、まだ2桁離れています。また、通常テロ組織が持っていない非常に才能のある科学者も必要になるでしょう。しかし、閾値を高く保つ良い理由だと思います。
この分野のほぼすべての科学者の間で、ミラー細菌を作りたくないということについてほぼ一致があると理解しています。今後50年間にミラー細菌の放出が起こる可能性があるリスクをどれくらい減らしたと思いますか。
かなり。おそらく2倍、4倍、そのようなものです。文脈として、以前はミラー細菌による絶滅の可能性を1〜2%と見ていました。それがおそらく0.25%に下がっているかもしれません。これはまだ恐ろしく大きな数字であり、そのリスクをさらに減らす必要があります。
本当にそれをやりたい人がいないのに、どうやってミラー細菌が生まれるのでしょうか。閾値を十分に遠くに設定しないということだと思います。したがって、瀬戸際まで行き、すべての科学者がミラー細菌を作りたくないということに同意したとしても、おそらくすべてのコンポーネント、すべての前駆物質がそこにあります。
AIシステムがそれを非常に簡単にし、閾値のすぐ近くにあるすべてのものを取り、それをどのように構築し、どのようにテストするかを教えてくれるかもしれません。したがって、参入障壁は、将来数十年にわたってアクセス可能になるまで着実に侵食され続けます。それが悪夢のシナリオです。
北朝鮮が抑止目的で開発する可能性もあると思います。つまり、それはかなりワイルドなことです。自国の政治指導者を殺すような兵器を開発することになります。
終末兵器として良い兵器であることに対する他の議論もあると思います。テストして確実に機能することを知るのは非常に難しいでしょう。核兵器の利点は、テストできることです。多くのテストを実行して、正確に何が得られるかがわかります。
生物兵器のようなものでは、信頼できる抑止力を作るのは実際にはかなり困難です。環境でどのように機能するかを正確に知るのは非常に難しいからです。
生物学的脅威からの絶滅可能性
多くの人は、生物学的脅威から本当に絶滅することはできないという考えを持っていると思います。なぜなら、それらはある程度自己制限的だからです。本当に速く人々を殺す、またはほぼ全員を殺す病気は、拡散するのが非常に困難だからです。
病原体が環境を通じて、すべての植物を通じて、土壌を通じて拡散していて、それに感染する可能性がある場合、それは当てはまらないことがあります。致死性が遅延している場合も拡散を減らすことができます。
HIVは再び良い例だと思います。致死的な症状は通常8〜10年後まで現れず、それはウイルスが拡散する窓の外です。したがって、それも非常に悪くなる可能性がある別の方法です。
四本柱戦略の詳細
ここでの防御戦略の四つの異なる柱は何ですか。基本的にすべてに名前を付けて、それぞれが何であるかを高レベルで説明できますか。
最初に言うべきことは、四本柱計画は基本的に時間を稼ぐための計画だということです。可能な限り早い段階で介入し、医療対策のために時間を稼いでいる間、社会と文明が機能し続けることを確実にしたいのです。医療対策が、本当に悪いシナリオから抜け出すための最終的な方法だと思います。
四本柱は順番に、最初は個人用防護具です。本当に良いエラストメリックレスピレーター、呼吸器病原体から人々を保護するマスク、おそらく他の種類のPPEのようなものです。
第二の柱は基本的に保護された建物です。最終的にはPPEを脱ぐ必要があり、清潔で安全な環境でそれを行う必要があります。
第三の柱は検出です。何も知らないうちに拡散していないことを確認したいのです。したがって、本当に良い検出システムを持つことは非常に重要です。
そして最後に、医療対策です。医療対策で攻防バランスが最終的にどこに落ち着くかという問題があると思います。そして願わくば、防御側が勝つことで落ち着くと思います。もしそうであれば、医療対策は非常に有望だと思います。
第一の柱は個人を保護するための個人用防護具です。第二の柱は、人々を感染させる可能性のあるものが侵入するのを防ぐための、家やオフィスのような環境のバイオハードニングです。
第三の柱は、病原体をできるだけ早く検出し、防止できると思っていた場所で拡散しているかどうかを観察できることです。そして早く知れば知るほど、これらの他の措置をより早く実施でき、その間に殺される人が少なくなります。
第四は、全員がバイオハードニングされた家にいるこの状況から脱出しようとしているということです。最終的には、病原体を実際に取り除くか、人々を永遠に保護できるような、より永続的な医療的解決策が欲しいのです。まさにその通りです。
採用職種について
今エピソードの最後にもっと詳しく話しますが、多くの役職、かなり上級の役職を含めて採用しようとしていて、この計画を実現させようとしていることを示すために、今いくつかの役職を挙げておくのが有用だと思いました。
現在採用しようとしている役職は何ですか。多くの役職を採用しています。Open Philanthropy自体では、助成金提供者を探しています。これらの生物学的リスクを減らすために数千万ドルを展開できる人々、新しい分野について学び、情報を得て、人々と話すことができる人々です。
助成金提供は、申請が来るのを座って読むことだと誤解されることが多いと思います。そのような方法で行う助成金は非常に少ないです。助成金提供の大部分は、プロジェクトの最初の5%を自分で行って、それが何であるかを理解する必要があります。
コミュニティの人々を知って、ここで誰が良い仕事をしているかを理解し、世界で行う必要があることを行うためにトップの人々をヘッドハンティングしたいのです。
そのことで言えば、Open Philanthropyの外で多くの役職も探しています。たとえば、話すPPEプロジェクトでは、基本的にそれを運営する本当に優れた非営利団体をリードする人が必要です。製造、流通を実行し、そこで行う必要があるすべてのことを考えます。それは非常に上級の役職です。
探している他のもののいくつかでは、基本的に問題の非常に大きな部分を所有する人々が必要です。より多くの研究者を探しています。そして、キャリアを転換していて、何をしたいか分からない人々も探しています。
バイオセキュリティに移行する人々のための奨学金とフェローシッププログラムがあります。したがって、Google フォームがあると思います。リンクがあると思いますので、バイオセキュリティへの移行に興味がある場合は、それに記入することをお勧めします。
今まで、ほとんどの人は生物学を攻撃が防御よりも強い典型的なケースだと考えてきたと思います。そして、これらの脅威から私たちを守ることは潜在的に非常に困難になる可能性があります。
それは、状況がほとんど絶望的であるか、本当にできることは最初にこれらのものを作る人々を阻止しようとすることだけで、もし作れば私たちはかなり困ったことになるという程度の運命論につながる可能性があります。
バイオにおける攻防バランスについてどう思いますか。攻防バランスについて話すとき、意味する可能性のある多くの異なることがあると思います。
一つは、攻撃のコストと防御のコストについて話すことができます。攻撃者が大きな利点を持つ例があります。この非常に具体的な例は、9/11の後、米国は基本的に米国全人口をカバーするために3億回以上の天然痘ワクチンを購入しました。それには10億ドル以上の費用がかかりました。
それでは、天然痘を作るのにどれくらいの費用がかかるかという問題があります。一つの数字は、ある博士研究員が約10万ドルで馬痘(非常に似たウイルス)を合成したというものです。
専門知識を獲得したり合成スクリーニングメカニズムを回避したりするために1桁を追加したとしても、攻防比は1万対1程度です。10万ドルの数字を取れば、1万対1です。
非常に偏っており、1万対1のコスト比のような他の国家安全保障分野を考えるのは難しいです。それが非常に恐ろしいことの一つであり、生物学が潜在的に攻撃優位であると言うときの意味だと思います。
しかし、別の問題があると思います。特定の人または特定の都市を取ります。その都市または都市の大部分の人々を、本当に必要で、そのお金を使う意志があれば、保護できるでしょうか。
なぜなら、別のタイプの攻撃優位性を想像できるからです。それは、防御側がいくら費やしても、攻撃を通すことができるというものです。核兵器がその良い例だと思います。ミサイル防衛があるかもしれませんが、それ以前は、防御側ができることはほとんどありませんでした。
生物学においては、そうではないと思います。実行可能なことができると思います。実際、少なくとも時間を稼ぐために、驚くほど手頃な価格のものもあると思います。より高価な対策が実用化されるまで。
攻防バランスについて考える別の方法は、ちょっと愚かな思考実験を通じてです。思考実験は、箱の中に人がいて、攻撃者と防御者の両方が、箱の中の人に何らかの生物学的または化学的物質を放出できると想像することです。
そして、問題は、防御者はその人を生き続けることに成功できるかということです。ここでは、答えはおそらくノーだと思います。攻撃者が大きな利点を持っていると思います。
しかし、それはケースではないと思います。それは現実的な思考実験ではないと思います。なぜなら、人々は広がっており、物理的なものを人々に届けるのはかなり難しいからです。そして、それが防御側が利点を持っている根本的なことだと思います。
したがって、接続された10個の異なる箱に10人がいて、攻撃者が最初の人を感染させることができ、防御者は他の人々をできるだけ多く保護しようとしている代替思考実験を想像できます。最初の人を保護しようとしているかもしれませんが、それは無理かもしれません。
しかし、防御者ができることは、壁を築いて、病気の拡散を防ぐことです。そして、それは防御側が本当の根本的な利点を持っている分野だと思います。
病原体の弱点
基本的に、細菌とウイルスとして全員を殺そうとしているなら、あなたが持っている核心的な弱点は、壁や物理的障壁を突破する方法がないということですか。
ほとんどの遺伝子配列は、ほとんどのものが保存され再利用されているため、他の種の他の遺伝子配列と似ていると思います。もしAI駆動ツールを使って、タンパク質がどのように折り畳まれ、何をするかを正確に把握できる、まったく新しいタンパク質をゼロから考え出したら、それは基本的に目立つでしょう。自然には決して生じない可能性があります。
しかし、そのようなものを検出するためにバイオインフォマティクスを設計し、本当に強力なベースラインを持ち、他のことをする必要があると思います。
核酸観測所は、ボストンの周りで人々をスワブしています。なぜボストンだけでやっているのですか。以前にこれが提案されたのを聞いたとき、それはいつも、空港でやるべきだ、飛行機からものを取るべきだというものでした。
すみません。米国全土で20以上の廃水流域を調べています。したがって、ボストンよりもはるかに広範です。スワブは、彼らが検討している初期のパイロット研究です。まだそれをスケールアップするかどうかはわかりません。
理想的には、おそらく世界中からサンプリングして、物事を早く捕まえるでしょうが、それをすべて行う許可を得るのははるかに困難だと思います。飛行機の廃棄物は興味深いことに本当に良いです。なぜなら、非常に冷たく、b多くの洗剤が入っているからです。
したがって、人間の廃棄物が入ると、そのままの状態で保存される傾向があります。多くの場合、廃棄物には細菌が成長し、数が爆発的に増えるため、信号対雑音比が混乱します。
したがって、冷たい滅菌廃棄物を持つことは、メタゲノミクスシーケンシングにとって理想的です。飛行機の廃水が人類を救う方法です。その通りです。
検出方法と早期発見
このような作業を行うことに、より平凡な公衆衛生上の理由だけで、どこにある病原体を検出するかについて、多くの関心がありますか。これに特に焦点を当てていない資金を持ち込むことができれば素晴らしいと思います。
メタゲノミクスのものは、実際に多くの異なる理由で有望だと思います。興味深い結果の一つは、核酸観測所が見つけたものです。インフルエンザにはいくつかの異なるタイプがあります。インフルエンザAとインフルエンザBがあります。インフルエンザCもあり、多くの人が聞いたことがありません。
それは非常にまれで、テストする価値さえないと考えられているからです。しかし興味深いことに、彼らはこのメタゲノミクスアプローチを使用していたため、基本的にすべての人間のウイルスとすべての可能な病原体を検索していたため、実際にミズーリ州の1つの都市で、インフルエンザCレベルがインフルエンザAレベルと基本的に同じであることを発見しました。
したがって、これらの方法を使用して、より広く公衆衛生にも適用できる興味深いことを学んでいると思います。
この種の方法を使用して、どれくらい早く物事を検出できるでしょうか。サンプリングしている領域の数と、どれだけ深くシーケンシングしているかによると思います。
現在、年末までに、人口の累積1%に感染する前に何かを検出できるようなものに達することができるはずです。これはあまり良くありません。かなり遅いです。かなり遅いです。
理想的には、これをさらに数桁下げて、他の可能な信号を得ることができるでしょう。しかし、1%でさえ、人々がそれをキャッチするステルスのようなシナリオでは良い可能性があると言うべきです。それは、ほとんどの人がそれをキャッチすることと、かなり早い段階でそれを止めることの違いになる可能性があります。
つまり1%ですね。改善する必要があり、行う必要がある重要な作業がたくさんあると思いますが、順調に進んでいると思います。
この検出のものの課題は、1%の人が持っているときではなく0.1%の人が持っているときに捕まえるためには、それを行うのと同じ確率を持つために、10倍のものをスキャンする必要があるということです。
したがって、10倍高価になります。したがって、早くやりたい各倍加時間ごとに、コストはかなり大規模にエスカレートします。そうです。これは大きな問題だと思います。これを他の検出方法で補足するのが良いと思います。
それでも、これらの種類の技術を使用して、新しい病気を非常に早く発見し、封じ込めて、拡散しないようにすることができないと人々が考える主な理由ですか。
メタゲノミクス戦略が発生を封じ込める方法になるとは思いません。より伝統的なアプローチの方がおそらくそこでは優れていると思います。病院に来る人をスキャンするか何かです。
繰り返しますが、それは症状が長期間待機しない、または一般的な風邪のように見える症状によってマスクされていないものに依存しています。それは悪いでしょう。クールです。検出についてもっと言うことはありますか。
いいえ。病気監視に取り組んでいる非常に広いコミュニティがあり、本当に重要な仕事をしていると思います。
これらの長い潜伏期のものについて具体的に考えている人の数は非常に少なく、ミラー細菌をどのように検出するかについて話す必要があることがもう一つあります。なぜなら、それらは完全に異なるからです。
残念ながら、検出は必要ないと思います。ミラー細菌シナリオでは、森林が破壊され、都市が破壊されるでしょう。つまり、微妙ではないでしょう。
人々に感染し始めた初期段階ではどのように見えるでしょうか。血液に入り込む可能性があるため、基本的に敗血症になると言っていましたね。実際には本当に不明です。
脳卒中で死ぬ可能性があります。細菌が蓄積するからです。敗血症で死ぬ可能性があります。それは制御不能に成長し、免疫系が最終的に特定のものの垣間見ることができるからです。
どのように死ぬかは実際には明確ではありませんが、一般的に言えば、血流中に何かが制御不能に成長することは、一般的に死につながります。
陽気な話題ですね。私もいつもそれについて笑っています。それでは、検出から進みましょう。
第四の柱：医療対策
第四の柱に移りましょう。ここから脱出しなければなりません。最悪の場合、全員が仕事に行くためにマスクを着用し、社会を機能させ続けているというシナリオを想像していると思います。
他の全員は家に隠れて、時々愛する人に会っています。検出段階はとっくに終わっています。どうやって文明が再開できるような正常な状態に戻るのでしょうか。
この穴から抜け出す方法は、最終的には何らかの医療対策を通じてでなければならないと思います。COVIDでやったのはそれです。ロックダウンがあり、最終的にワクチンができました。ワクチンによって正常に戻ることができました。
より壊滅的な出来事でも同様だと思います。さて、医療対策については、特に医療対策を回避するように設計しているかもしれない意図的な敵対者を考えているとき、少し複雑になると思います。
医療対策の弱点について少し話す前に、なぜ良いのかについて話すかもしれません。ある意味で明らかだと思いますが、私たちは皆、そうですね。
人々はこれらの日、パンデミックはそれほど深刻な問題にはならないという反応をよくします。なぜなら、mRNAワクチンを作るだけで、それが基本的に解決するからです。なぜそれが信頼できる戦略ではないのですか。
私の希望は、それが多くの異なる脅威に対して信頼できる戦略になるということです。SEPIや他のグループが行っている作業は絶対に不可欠だと思います。
しかし、意図的に物を設計している敵対者がいるシナリオでは、それは必ずしも持続可能または理想的ではないかもしれないと心配しています。
それから、より一般的な批判があります。医療対策は生産するのに長い時間がかかるというものです。COVIDではほぼ1年かかりました。100日ミッションは人々が興奮していることであり、本当に刺激的だと思いますが、それでもワクチンを得るまでに100日かかります。
オミクロン変異株が中国を通過した速度を比較すると、6週間以内に中国人口の約80%に感染しました。したがって、ある意味で100日はまだはるかに遅すぎます。
それが、他のことができるようになっている間、拡散を遅らせ、物事を機能させ続けるために、防護具や他のものが必要だと思う理由です。
しかし、mRNAワクチンのようなものを、これらの異なる脅威のほとんどに対して作ることができると思いますか。多くの異なるものに対してmRNAワクチンを作ることができるかもしれませんが、何にでも対してmRNAワクチンを作ることができるとは必ずしも思いません。
ミラー細菌は良い例だと思います。ミラー細菌に対しては特別な結合ワクチンが必要であり、mRNAはそれに適していないと思います。実際、細菌性病原体全般はワクチン接種がはるかに困難です。
炭疽菌ワクチンのようなものは5回の異なる投与が必要で、一般的に抗生物質の方がはるかに効率的です。したがって、生物学的脅威によって、ワクチンはより効果的またはより効果的でない可能性があります。
それが第二のポイントにつながります。あらゆる可能な脅威に対して医療対策を作ることができることは明らかではありません。いくつかの例があります。
一つは、オーストラリアに多くの研究者がいて、マウスポックス(天然痘のマウス版)を研究していて、免疫調節遺伝子をウイルスに挿入しました。なぜなら、実験のためにマウスを不妊化しようとしていたからです。
それがワクチン接種されたマウスでさえ殺すことになりました。ワクチン接種されたマウスでも非常に致死的でした。これはこのウイルスに挿入した1つの遺伝子だけでした。
繰り返しますが、ソビエトプログラムを見ると、数千人の科学者が、ワクチン接種、医療対策を克服する方法を見つけ出していました。16種類の異なる抗生物質に耐性のあるペストのようなものです。
したがって、脅威の前に医療対策を見つけることについてはそれほど楽観的ではありません。なぜなら、攻撃者が選択できる非常に多くの異なるオプションがあるからです。
したがって、おそらくそれが何であるかを知った後、反応的な意味で医療対策を行う必要があるでしょう。そしてその後でさえ、医療対策が任意の状況で迅速に機能することは明らかではありません。
HIVはこの良い例だと思います。HIVは、最初にワクチン接種応答を起動するために必要な免疫細胞に感染するウイルスです。これがそれほど困難だった理由です。
HIVワクチンを得ようとして40年間取り組んできましたが、非常に非常に困難でした。最近、いくつかの有望な兆候があることを願っていますが、人間の免疫系はある意味で固定された標的のようなものです。
技術が良くなるにつれて、免疫系を非常に根本的な方法で壊す脆弱性を見つけることができないかどうかはあまり明確ではありません。
あなたが言っているのは、もし積極的に悪意があって、設計した病気が与えるダメージを最大化しようとしているなら、免疫系をできるだけ損傷させるウイルスや細菌を選ぶ可能性が非常に高いので、免疫応答が不可能になるということですね。
そうです。そしてそれはmRNAアプローチを壊します。
免疫系を通さない、特定の化学物質や抗生物質のようなものは、まだ使うことができると思います。それが希望でしょう。現在、それらはかなり遅く、新しいものを設計する人々が多くないと思います。
抗ウイルス薬と抗生物質の開発にもっと多くのお金が投入される必要があると思います。Open Philanthropyは、抗ウイルス薬を作る新しい方法についてのいくつかの良い作業に資金を提供しています。
ワクチンやmRNAなどで免疫系を助けることがテーブルから外れていると仮定すると、かなり困難な状況にあるように聞こえます。なぜなら、100日、あるいは1年で、発見したばかりの任意の新しい病気に本当に効果的に作用する、新しい抗生物質や新しい抗ウイルス薬を迅速に作成した例がないからです。
そのようなものは何もないと思います。そして、大規模な重圧の下、非常に困難な時期にこれを行うことになるでしょう。
人間の免疫系を補完することはテーブルから外すべきではないと思いますが、必ずしも確実なことではないとは思いません。したがって、バックアップオプションが必要だと思います。
しかし、長期的には医療対策が一種の防御バイアスになる可能性があるという、少なくともいくつかの理論的な理由があると思います。
これはまだやや推測的な仮説ですが、話すのは興味深いかもしれません。仮説はレンチ仮説と呼ばれ、ナノテクノロジーについて考えていたときに生まれました。
拡散して物を食べて人々を殺すこの小さなナノボットのようなグレイグーシナリオのようなものです。
そして問題は、ナノボットを止める何らかの対策を開発できるかということです。答えはイエスであるべきだと思います。基本的に、ナノボットのどこかの部分に適合し、それを詰まらせるが、人間にはそれをしない分子を見つけなければなりません。
そのような形状があるはずで、その形状に適合する分子があるはずです。そうです。
それがまさに抗生物質の機能です。これは基本的なことです。細菌は、内部に多くの小さな機械でできた小さな機械のようなものだと考えることができます。
抗生物質の機能は、中に入って機械に付着する分子であり、歯車を詰まらせて、その機械が機能するのを防ぐだけです。細菌内の十分な小さな機械を壊せば、細菌自体が死にます。
したがって、壊すことが不可能なレンチを見つけることが不可能な自己複製機械を持つことができるかという問題があると思います。答えは基本的にノーだと思います。
自己複製している場合、栄養素を取り込んでいる必要があります。分子を引き込んでいる必要があります。それを担当する繊細なものがあるでしょう。
限界では、別のものが付いた栄養素のようなものを想像できます。それは結局それを壊すだけです。したがって、悪意のある分子と成長して複製するために必要なものを区別するのは難しいです。
これはウイルスにも当てはまると言うべきです。ウイルスは自己複製するためにあなたの機械の多くを使用しますが、すべてのウイルスは、自分自身が作る少なくとも1つまたは2つの小さな機械を持っており、それらはあなたとは異なります。
それがほとんどの抗ウイルス薬が標的にしているものです。それらの小さな機械をブロックして壊しています。
原則として、技術が十分に進歩すれば、防御側がここで勝つと考えています。理由の一つは、彼らが2番目に移動できることです。
誰かが病原体を設計し、ナノボットを設計しなければなりません。そしてそれはそれほど適応できません。それほど速くはありません。そして、あなたが思う弱点を選ぶだけです。
そして、10個選ぶこともできますよね。本当に得意になれば、1つで止まる理由はありません。
では、この事実を利用するために何をすべきでしょうか。はるかに一般的で、はるかに速い医療対策を持つ可能性を利用するために何かできることはありますか。
これはまだ初期段階です。これはまだ一種のSF技術のようなものですが、将来、モデルが本当に良くなれば、基本的に非常に迅速に抗生物質と抗ウイルス薬を生産できることを想像できます。
このSF技術のようなものを想像できます。新しい配列を取得し、すべての機械が何をしているかを示すAlphaFold++のようなものに入れます。
そして、それらの機械に付着して壊す分子の巨大なライブラリを設計できます。そして、それを毒性スクリーニングにかけて、人間の機械を壊さない、または他の有害な分子に分解しないことをかなり確信できます。
そして、本当に迅速に大規模に製造できるものをフィルタリングすることもできます。そして、それをたくさん生産してテストします。
理論的にはこれは良く聞こえます。実際には、多くのボトルネックがあり、私が説明していることは非常に非常に困難であり、これは2年半でできるようなことではないと思います。
しかし、これを考え抜いている初期段階にあると思いますし、1人の研究者がさまざまなボトルネックを調べていますが、もっと多くの人々がこれについて考え、取り組むべきだと思います。
タンパク質フォールディング問題を解決する方法を見つけ出すための大きな努力があったと思います。生物学的大災害を止めたいからだけでなく、それが生物医学研究全体で信じられないほど有用だからです。
このようなことについて考え、考え抜いている人々の広いコミュニティがあります。Open Philが資金提供してこのようなものをスピードアップできる特定の欠けている部分はありますか。
これを調べている初期段階にあると思いますし、理想的には、資金提供が実際にこの種の未来を加速できるかどうかを理解できる誰かを雇いたいと思います。
任意のナノボットや細菌やウイルスに投げる任意のものを見つけることができると言っていましたが、人間の体をシミュレートして、私たちのすべての機械を壊す任意の数の特定の毒を見つけることもできるのではないでしょうか。それは私たちをかなり暗い状況に置くのではないですか。
それをすることができると思いますが、基本的にやっていることは化学兵器の大きなライブラリを生成することです。化学兵器は複製しないので、根本的には全員に配布するのが難しいのです。
本当に良い毒を作るかもしれませんが、生物兵器が恐ろしい理由は、それらが自己複製してどこにでも行くからです。一方、新しい分子を見つけることは、人々を殺す分子を見つけることは、すでに人々を殺すトンの分子があります。
毒を見つけました。信じられないでしょう。すでに持っていました。それが防御側にバイアスをかける主な議論だと思います。
四本柱プログラムの評価
ズームアウトして、四本柱プログラム全体を考えましょう。気に入る点がたくさんあると思います。懐疑的な人でさえ、これの一部は機能するかもしれないと思うでしょう。
しかし、本当に安全であるためには、これらの四つの異なることがすべてある程度機能する必要があります。物を十分早く検出し、PPEを数千万人、理想的には世界中の数十億人にロールアウトすることを確実にする必要があります。
そして、物が拡散するようにオフィスをバイオハードニングし、家に入るものもバイオハードニングする必要があります。そして、すべてが崩壊しているかもしれないときに、人々が生き残るのに苦労しているときに、できるだけ速く最高の生物医学研究を行い、数十億人に十分な量を製造しなければなりません。
かなりの努力です。これらすべてが一緒に機能できると思いますか、それとも一つが壊れて、それが私たちを台無しにするでしょうか。
必ずしも四本柱すべてが必要だとは思いません。直面している脅威の種類と、どれが必要かによると思います。
本当に驚くべきSF医療対策のようなものがあって、10個の新しい抗生物質を瞬時に生産できるなら、実際には他のものは必要なく、少しの間マスクが必要なだけかもしれません。
しかし、繰り返しますが、その種のSF技術に賭けたくないので、本当に堅牢な物理的防御、物理的殺菌、シンプルで安価なマスクが、他のもののための時間を稼ぐ方法だと思います。
四本柱は集約として意味されています。最悪の基本的なストーリーに対して私たちを守ることができます。しかし、他の多くのものはそれに満たないでしょう。そして、モデリングを通じて、少なくとも絶滅を防ぐのに十分かもしれません。
四本柱すべてが基本的に恩恵を受けると思います。なぜなら、将来の技術がそれらを壊すとは思わないからです。技術が良くなり、良くなるにつれて、四本柱すべてが防御側にバイアスをかけ、攻撃者が良くなるよりも速く良くなるはずです。
それが背後にあるアイデアの一部です。
計画の最大の弱点
計画の最大の弱点は何ですか。もし機能しなかったら、理由は何ですか。二つの議論があると思います。一つは多くの人的エラーです。
まだこのようなものの多くを実際にテストしていません。紙の上では機能していますが、実際に物事を実行して、マスクが8時間または10時間後にどれだけフィットするかを理解する必要があります。
しばらく着用しましたが、丸1週間着用したことはありません。おそらくいつか、他の人にこれをやるように言っているので、自分自身の薬を味わうためにそれをすべきです。
実際にこれのいくつかを行う予定のチームウィークがあります。もう一つの大きな弱点は、AIが生物兵器を展開するAIシナリオを心配している場合、生物兵器だけではないかもしれないということです。
サイバー攻撃や人々を狙い撃ちするドローンについても心配する必要があるかもしれません。それは防御を大幅に複雑にする可能性があります。
もう一つの議論は、生物学的大災害を想像しているだけなら、通常、大災害について考えるとき、それらの間の相関について考えないのは理にかなっていると思います。
同時にパンデミックと小惑星が発生する確率は、明らかに低いです。しかし、生物兵器では、ソ連のような計画は、最初に核攻撃し、その後生物兵器を使用するというものでした。
したがって、いくつかのシナリオでは、核兵器や他のインフラ破壊的なものと生物兵器との間に密接な相関があることを想像できます。そして、計画はそれに対して堅牢ではありません。
核の黙示録を経た後、これをすべて成し遂げようとするのは、本当に厳しいようです。それに対処する方法はないようです。
つまり、PPEのようなものの一部はまだ機能するはずです。すでに自宅に保管しています。放射性降下物に対しても役立つでしょう。しかし、それは明らかにはるかに厳しい状況です。
同様に、ミラー細菌シナリオのようなもので、人間を保護するだけでなく、農業が同時に破壊される可能性があります。それは問題を大幅に悪化させます。
したがって、階層化された防御を持つことと、これらのシステムが、本当にストレスの多い悪い環境でも実行できるほど堅牢であることを確認することについて何かがあると思います。
これらすべてが同時に起こることから保護する方法についての計画はないようですね。しかし、他の人々が確実に核戦争がないようにするなど、他の人々も自分の仕事をする必要があると思います。そのようなことです。
そうです。
なぜこの計画が広まっていないのか
これがそれほど良く、ある意味では後から見れば明らかな計画であるなら、なぜ他の誰もそれを提案していないのですか。政府や広範なパンデミック管理分野の人々に話をしたと思いますが、なぜ私たちはすでにこれをやっていないのかと言われたとき、彼らの反応はどうでしたか。
短い答えは、実際にはこの計画についてあまり話していませんし、これが初めて公に話すことです。したがって、もっと書く予定ですし、もっと広めるためにもっとやる予定です。
具体的なことについて、エラストメリックは非常に好評だと思います。政府の賢い人々はそれを見て、ああ、それは実際に多くの意味があると思います。
政府がそれらをたくさん買う計画はありますか、誰かが本当にそれらを買っていますか。知っている限りではありません。米国国防総省がいくつか注文を出しましたが、それは理にかなっていて良いことだと思います。しかし、他の大きな注文は知りません。
生存率とマスクの備蓄
米国人口の何割が生き残ると思いますか。原則的には、人々が間違いを犯さなければ、ほぼ全員のようなものである可能性があります。間違いはあるでしょう。
必須労働者を保護するために5000万枚のマスクを備蓄することから、米国用に3億枚、世界中の全員用に100億枚のようなものを持つことへの大きな利益はありますか。
そう思います。一つは、割り当ては決して完璧にはならないということです。そのような状況をトリアージしなければならない場合、本当に厳しいでしょう。理想的には、全員に十分以上あって、全員がマスクを手に入れることができる豊富さから運用したいです。それが理想的な状況です。
したがって、より多くの人々をカバーすることには、まだ利益があると思います。
また、AIの乗っ取りと戦うようなよりクレイジーなシナリオも想像できます。おそらく、サイバーものを扱っている人々や、データセンターをシャットダウンする人々など、思っていたよりもはるかに多くの人々が働く必要があるかもしれません。
したがって、AIに対する戦争を眠りながら、兵器のようなもので、すべてを台無しにすることなく戦うことができるでしょう。
世界的な対策の重要性
多額のお金をこの計画に投入し、5000万枚のマスクをどこかに備蓄することができたとしましょう。おそらく、これは世界の他の場所では起こらないでしょう。米国外、少なくとも豊かな国の外では、はるかに多くの死者が出る可能性があるとしたら、どれくらい大きな問題でしょうか。
世界中のサプライチェーンは、この時期に経済が巨大に縮小しているようなもので、最高の医療対策を行うために必要な他のすべての種類の材料の供給を得るのを難しくする可能性があります。
これは大きな懸念である可能性があると思います。COVIDワクチンのいくつかを見ると、200以上のコンポーネントが多くの異なる国からのサプライチェーンを持っていたと思います。
したがって、複雑なサプライチェーンが必要かもしれません。つまり、人道的な理由でできるだけ多くの人々を保護するために、非常に多くの人々を保護する必要があるかもしれません。
米国に焦点を当てているわけではないようですね。米国が良い初期の場所であるといくつかの理由があると思います。比較的利他的です。全員をカバーするのに十分な食料があります。エネルギーの独立性があります。米国を比較的大災害に対して堅牢にする多くのことがあります。
しかし、そこで止めるべきだとは思いません。カバーしたい他の国についてもっと研究を行うべきだと思います。一般的に、できるだけ多くの命を救いたいと思います。
したがって、これをできるだけ広範囲に広げることは、地球上のすべての人にマスクを届けたい場合、約500億ドルかかります。それはたくさんのお金です。コストを実際に5ドルまで下げることができると仮定すると、それは確実なことではありません。
1000億ドルとしましょう。1000億ドルです。世界のGDPの何分の一ですか。世界のGDPの0.1%のようなもの、基本的に一回限り、または20年ごと、20年ごとです。
したがって、継続的に0.005%のGDPのようなもので、全員にそのようなマスクを持たせることができます。非常に実行可能に見えます。おそらくそうすべきですね。世界的にアイスクリームにどれだけ費やしているかわかりませんが、潜在的にはかなりもっと多いでしょう。完全に。
海外でこれを推進するために、人々を雇う計画はありますか。はい、絶対に。新しい非営利団体を設立しています。暫定CEOがいます。個人防護具の問題に興奮している素晴らしい人々のチームを見つけたいと思っています。
製造の専門家、物流の専門家、グローバルヘルスの専門家が必要です。このアイデアを前に進めて、製造し、慈善戦略を行うべきか、ドナーのコレクションから資金調達するべきか、政府にこれを行わせるべきか、あるいは両方かを考える本当に大きな人々のチームが必要です。
グローバルな不安定性のリスク
保護されていない他の国がある場合、サプライチェーンを縮小し、損傷を与える可能性があると以前話していました。一部の国が保護されていて、一部の国が保護されていないことを人々が見ることができる場合、それも不安定化する可能性がありますか。
文字通り全員が飢餓で死にかけているのに、米国だけがたくさんの食料を持っていたら、人々は暴力に訴えると思います。つまり、米国は攻撃するのが難しいと思いますが、国際関係が緊張するのが見えると思います。
確かに。つまり、それが、All Fedがここで興味深い仕事をしている理由だと思います。彼らは実際に基本的に全員を養おうとしているだけです。
天然ガスの上に、ストップギャップとして多くのことができ、それは15%だけだったので、米国も世界の他の地域を養うためにもっと多く生産できます。
All Fedには、潜在的に使用できる他のカロリー源についての他のアイデアがたくさんあると言及しましたね。したがって、すべての卵を魚の餌のバスケットに入れるわけではありません。
環境への脅威
環境についてはどうですか。正直に言うと、人々が想定している環境撹乱が何であるか、実際には知りません。つまり、光合成をシャットオフするようなものや、ミラーシアノバクテリアのようなもので、炭素を吸い出して、農業を本当に難しくする氷河期を作るようなことを想像できます。5歳児に説明してください。
ミラー細菌があれば、ウイルスはそれを攻撃しないでしょう。海にぶら下がっていれば、基本的に消化されないため、他の生物よりも速い速度で炭素を引き下げるでしょう。
ここでの背景情報は、海のどこにでもシアノバクテリアがいるということです。それらは光合成の大規模な推進力です。したがって、空気から二酸化炭素を引き出し、それを酸素に変える多くの作業を行いますが、それらの個体数レベルはウイルスの存在、それらを食べるものによって調整されています。
しかし、ミラーシアノバクテリアがあれば、自然の捕食者はいないでしょう。通常のシアノバクテリアの個体群を制御するために進化したすべてのウイルスは存在しません。それらは並外れた程度まで繁殖するでしょう。
それらが引き下げる炭素は消化されず、その後吐き出されません。したがって、反対の手性を持つ糖にあるため、より高い速度で海底に沈むでしょう。誰も食べることができず、誰も消化できませんでした。
懸念である可能性がありますが、実際の存在的懸念だとは思いません。基本的に、これらすべてのシナリオは、時間がかかりすぎます。
たとえミラーシアノバクテリアが海全体にあったとしても、数十年、数世紀かかるでしょう。多くの世紀かかり、かなり明白な対策があります。ミラーファージを作ることもできます。他のことをすることもできます。基本的なジオエンジニアリングのようなことをすることもできます。
それに対処するのに数百年あるでしょうし、かなり明白な対策があります。一般的に言えば、地球の環境をいじるには本当に本当に長い時間がかかります。
たとえすべての光合成を止める魔法のボタンがあったとしても、それは想像できる最悪のことですが、それでも約1000年の酸素が私たちのために物事を理解するためにぶらぶらしているでしょう。
したがって、最悪の最悪のシナリオでさえ、これらのシナリオはかなり非現実的だと思います。
採用とキャリアアドバイス
計画とさまざまな反論についてかなり深く掘り下げたと思いますが、私はかなり納得しています。これの多くが起こるのを本当に見たいと思いますし、多くのリスナーも同じように感じていると想像します。
示唆したように、各異なる柱でリードする本当に才能のある人々を得ようとして、採用しているようです。採用している最も重要な役職をすべて見ていくべきかもしれません。
もちろんです。現在の最も重要な役職には、Open Philanthropyの助成金提供者が含まれます。したがって、数千万ドルを展開するために基本的に助成金提供の役割に興味がある場合、資金を展開する方法を見つけ出すために私のチームを成長させようとしています。
特に四本柱計画だけでなく、幅広い異なるバイオセキュリティ問題全体にわたって資金提供します。Google フォームに記入してください。
助成金提供者の役割に適した人はどのような人ですか。起業家精神があり、できるだけ多くの人々と話したい、情報を収集したい人だと思います。
助成金提供の役割には、入ってくる多くの申請をレビューして、承認または却下するだけという一般的な誤解があると思います。それは役割がどのようなものかとはまったく違います。
特に、分野が非常に小さく、見たいものを作成しなければならない分野では、役割はそのようなものではありません。Open Philanthropyのほとんどの助成金提供の役割を、ベンチャーキャピタルやヘッドハンティングのようなものに近いと説明します。
外に出て人々を見つけて、最も重要な問題に取り組んでもらいたいのです。
人々は特定のバイオバックグラウンドや特定のドメインの専門知識が必要ですか。これは素晴らしい質問であり、バイオセキュリティに貢献するために、人々が本当に強力な生物学的技術バックグラウンドを必要とするという本当に一般的な誤解だと思います。
非常に役立つことがあります。私のチームの半分は生物学のバックグラウンド、博士号を持っています。しかし、他の半分は持っていません。
私は経済学を専攻しました。この分野に入った多くの人々は、物理学をやったり、起業家だったりしました。最も影響力のある人々の中には、Amazonのソフトウェアエンジニアで、その後スタートアップを経営した人もいました。
したがって、多くの異なるバックグラウンドを持つ多くの人々が貢献できます。必ずしも生物学のバックグラウンドを持つ必要はありません。
一つの議論の仕方は、核戦争の確率を減らすために物理学のバックグラウンドが必要ないようなものだということです。したがって、生物学的詳細を抽象化しても、人々ができることはたくさんあると思います。
それが、あなたのチームで助成金提供者になることです。次に最も重要な役職は何ですか。個人防護具計画です。これが大きく進めたいものかどうかをまだ把握している段階であり、それがどのように機能する可能性があるかを考えています。
それらすべての詳細を実行し、マスクの設計が特定の方法であるべきか、どれだけコストを下げることができるかを理解するために、より大きな人々のチームが必要だと思います。
暫定CEOがいて、彼女は素晴らしい仕事をしていますが、そのためのより永続的なCEOが必要だと思いますし、製造、製品設計、コミュニケーションで働く人々も必要です。現在PPEプロジェクトには多くの作業があり、おそらく3人のフルタイムの人々がいます。
これは人類にとって最も重要なプロジェクトの一つかもしれないので、興味があれば、ぜひお聞きしたいと思います。Google フォームに記入してください。
製造や物流、そのようなことに興味がある人々のための役職がこれほど多くあることはめったにありません。したがって、番組を聞いていて、私のための役職があればいいのにと思っているなら、これがそのための場所だと思います。
完全にそうです。実際、エンジニアリングの学位、機械工学を取得し、その後AI安全性を行うことになりました。彼女はMeterを簡単に実行し、その後PPEのことに取り組んでいます。
マスクの設計を改善し、はるかに安くし、より大規模に製造する方法を理解し、最悪のシナリオでどこにでもそれを届ける方法を理解することがあると思います。
これは非常に具体的な問題です。おそらく一般的に言えることの一つは、バイオセキュリティは、非常に具体的な物理的問題を取り、それを進展させたい人々に本当に適しているということです。
これはおそらく、多くのAI作業と対照的かもしれません。多くは推論するのがかなり難しく、明確ではありません。純粋にポジティブかどうかさえ明確ではないものもあります。
バイオセキュリティでは、問題はある意味で非常にシンプルな問題です。拡散している可能性のあるものがあり、その拡散を止めたいのです。物理的障壁と物理的殺菌を建てたいのです。
ある意味で非常に直接的な戦略であり、進歩を測定し、実際にこれらのリスクを削減しているかどうかを理解する方が簡単です。
人々はその役割についてどこでもっと学ぶことができますか。繰り返しますが、Google フォームに記入してください。すべてはGoogle フォームにあります。
次は何ですか。言及したように、グリコールは本当に興味深い戦略である可能性があります。そのサプライチェーンと配布方法について考えて働いているフルタイムの人は何人いますか。ゼロです。
このことを調べているパートタイムの人々がいて、それが私たちがこれらの初期数値を実行した方法ですが、これについて考えて取り組む1人のフルタイムの人が必要だと思います。
同様に、空気濾過のようなもの、それを即興で行う方法について考え、それを考え抜くことについて、それに取り組んでいるフルタイムの人はゼロ人います。実際にそれが機能するかどうかを検証し、考え抜き、理解する必要があります。
それらは、最終的に良い仕事をしていればチームをリードできる役職です。
次は何ですか。医療対策戦略について、Open Philanthropyに研究者がいます。彼女は少しこれに取り組んでいますが、ここでもっと知的努力が必要だと思います。医療対策戦略がどうあるべきかを考える人々がもっと必要です。
それについて考える研究者も良いでしょう。おそらくズームアウトして、一般的にバイオセキュリティには多くの役職があると言うでしょう。奨学金もあり、フェローシップもあります。この分野に関わりたい人々にとって、それは始めるのに本当に良い方法です。
この分野に入りたいが、どこから始めればよいかわからない人々のためのキャリア移行助成金を提供しています。それらは非常に成功しています。この分野のトップの人々の中には、その経路を通じて入ってきた人もいます。
Google フォームに記入してください。
医療対策のものは、おそらくドメインの専門知識を持つことが恩恵を受ける役職のように聞こえます。なぜなら、何が実行可能で何が実行可能でないかという、かなり技術的な生物医学的問題を扱うことが多いからです。絶対にそうです。
バイオハードニングについては、もっと実地的なエンジニアリング側のもののような役職のように聞こえます。実地的なエンジニアリングは良いでしょう。絶対に。
チームの管理、組織の管理、プロジェクトをまとめることの経験です。一般的に、多くのイニシアチブを持ち、このようなことの一部で誰も行ったことのない場所に喜んで行く人が欲しいように聞こえます。起業家精神のある人々です。
その他の機会と分野の選択
それらの役職に適していないと感じた場合、他に何を指摘できますか。多くの組織が本当に重要な仕事をしていると思います。説明した早期検出システムは、まだおそらく10〜12人が取り組んでおり、もうすぐより多くの役職を採用すると思います。
バイオインフォマティクス経験、ウェットラボ経験を持つより多くの人々、物流や政府関係の経験さえあると思います。一般的に言えば、政策はこれらすべての異なる分野にわたって、本当に重要だと思います。
これらの役職を行うのに適している可能性のある多くの人々は、AIポリシー、AI技術作業、または他のAI関連プロジェクトに入ることも検討しているかもしれません。これは現時点で非常に話題の問題です。
この作業は競争力があるか、おそらくAI関連の作業よりも影響力があると思いますか。もっと影響力がある可能性があるという強い議論があると思います。
その議論は単純に、もっと無視されているということです。ほとんどのサブエリアで働いている人ははるかに少ないです。3〜4人のようなものです。
また、非常に実行可能です。基本的な計画があり、リスクを大幅に削減できると思いますが、AIでは介入がどれだけ成功するかははるかに不明確だと思います。
最後に、それほど重要でないとは思いません。バイオにおける大災害を引き起こす存在リスクの可能性が1〜3%対AIであると考えるなら、おそらく桁違いの範囲内です。
したがって、無視されている度合いと実行可能性の議論は、限界で人々がバイオセキュリティで働く方が良い可能性があることを簡単に意味することができます。
個人的なフィット感もあります。誰かが物流が主な焦点である場合、これははるかに良いフィット感かもしれません。絶対に。
キャリアの戦術的アドバイス
何年にもわたって形成してきた多くの戦術的なキャリアのことについて話しましょう。ノートに書いたことの一つは、人々はパイプラインの後にそれを使うことができる人がいると期待して作業を行うことが多すぎるが、多くの場合これは完全に妄想的だということです。完全に。それについて話してください。
実際、二つのことがあると思います。一つは、私自身の初期のキャリアを考えると、これらの存在リスクの議論に出会い、ああ、それは本当に重要だ、キャリアをそれに集中すべきだと考えていました。
そして、かなりばかげたことをすることになりました。小惑星偏向慈善団体に寄付していましたが、振り返ってみるとあまり効果的ではありませんでした。
修士論文でグレートフィルターと宇宙人の生命を見つける確率について行っていました。おそらく役立つ可能性があるので、異なることを考慮に入れていました。
私は、ああ、私よりもはるかに賢い存在リスクに焦点を当てている他のトンの人々がいて、彼らは問題を解決するために出かけるだろうという考え方を持っていたと思います。
私は、人類の知識の海に入れる知識の小さな小さな滴を持つだけで、それが私の貢献になるでしょう。
これらの問題がどれほど途方もなく無視されているか、そして少し努力を入れるだけで、非常に重要な立場で多くの責任を持つことになる可能性があることを完全には理解していなかったと思います。それはある意味恐ろしいことです。
しかし、その反対側は、人々が問題の所有権を本当に取れば、多くの影響を与えることができると思います。
作業を引き渡すことについては、誰も読まないレポートを書くことで政策に影響を与えるつもりだと考えている人々や、人々がその研究を読んで使用することを期待して問題について研究を行うつもりの人々にこれをよく見ます。
興味深いことの一つは、私と私のチームが行っている研究の質は、実際にははるかに優れていると思います。なぜなら、お金の割り当て方法について決定を下しているからです。
非常に重要な決定があり、行っている研究がその決定に直接情報を提供しているので、一般的に必要なのは、行う必要がある決定とその決定に情報を提供している研究との間の本当に緊密なフィードバックループです。
そのフィードバックループが壊れていると、人々が実際に世界で行っている重要な決定や決定からかなり切り離された研究を行うのは非常に簡単だと思います。
なぜ人々は、前駆的な作業を行い、誰かがそれを拾って使うことを期待するというアイデアを非常に自然に感じるのでしょうか。それらの人々が誰であるかのアイデアさえなく、彼らが存在するかどうかを確認するために行ったこともない場合でも。
わかりません。一つの仮説は、彼らの多くが意思決定の役割にいなかったので、それらの決定を行うために何が必要かについての良いモデルを持っていないということです。
また、学術界がこの習慣を植え付けることがあると思います。学術界でうまくやるためには、トレンディなトピックで働き、そこで貢献しなければなりません。
ますます専門化されたサブフィールドで貢献することができ、成長する海に知識の小さな滴を追加しているだけです。特定のトピックでは非常に重要だと思いますが、本当に世界で良いことをしようとしているなら、実際にはまだ良い作業がないかもしれない、極めて無視されているものを見つけたいと思います。
それがもう一つの大きな違いだと思います。
シリコンバレーの起業家グループの間では、従来の知恵は、新しいビジネスのための有望で興味深い機会が、実際に試すことができる起業家よりもはるかに多いということだと思います。
その根本的な理由が何であるかはわかりませんが、従来の知恵はおそらく正しいと思います。世界は大きいですが、実際に新しいビジネスを始めようとしている人はそれほど多くありません。
以前に存在したことのない製品を実際に作ることは、ある種の異常な追求であり、世界の多くの人々はそれを行う立場にありません。
したがって、人々を大幅に縮小し、技術が常に変化しているため、私たちが試すことができるもののフロンティアは常に潜在的にかなり広いです。
事前に何が機能し、何が機能しないかを判断するのは難しいです。したがって、アイデアよりもアイデアを思いつくことがほぼ常に簡単であるという場合である可能性があります。
それが機能するかどうかを判断するのに十分な確実な試みを与える起業家を思いつくことよりも。
これらの役職の多くを採用しようとしてきた経験がありました。通常、誰かに、あなたはこの役職を取るべきだと思う、あなたは本当に良いフィット感だと思うと言います。
彼らは、明らかに2番目の人と反事実があるので、交代は誰ですかと言います。多くの場合、交代はありません。
仕事ができると思う人は1人だけで、人々はこれに驚く傾向があります。
人々は政府がやっていることよりももっとやっていると仮定する傾向があると思いますか。ネットセキュリティには非常に多くの人々がいるので、彼らはこれすべてに取り組んでいないでしょうか。
確かに。つまり、COVID前にこれを信じていました。政府がCOVIDを扱うのに本当に有能であり、CDCがそれを解決するだろうと仮定していました。かなりショックでした。
何がうまくいっていないと思いますか。これらのグループの予算がいつもあるわけではないと思います。これらのグループは、特に人の生涯の間にまれにしか発生しないリスクを扱っている場合、実際に物事を行うことができるかどうかを判断するために常にストレステストされているわけではありません。
それがトップにあるかどうかを知るのは本当に難しいです。完全にそうです。より慢性的で進行中の問題を扱う方がはるかに簡単だと思います。フィードバックループを得ることができます。
多くの公衆衛生機関を見ると、タバコの使用やHIVのようなものに焦点を当てていました。良い仕事をしていたと思いますが、不確実性の下で非常に迅速に決定を下さなければならない急速に動くパンデミックとは非常に異なります。
適切な野心のレベルの選択
もう一つの間違いまたは人々が正しい決定を下すのに苦労する場所は、大きな影響を与えるのに十分に野心的なものを選ぶが、実際に達成できる範囲を超えて野心的でないものを選ぶことだと思います。それを説明できますか。
時々、人々はサブ問題のサブ問題のサブ問題を取り、バトンを渡す人がいると仮定するだけで、そこで時間を無駄にすることがあると思います。
しかし、EAコミュニティの人々が、国がどのように相互作用するかの壮大な戦略を研究すべきだとか、それがAIについてどのように考えるべきかに情報を提供できるというようなことを夢見ることもあると思います。
それは時々興味深いことがあると思いますが、通常、そのような考えから出てくる実際の具体的な結果にはかなり失望しています。
バイオセキュリティで追求してきたより有望なことは、人間から人間への伝染に焦点を限定するなど、問題をカットオフしようとすることだと思います。
そのサブカテゴリーを解決できますか。そのサブカテゴリーを解決するために何が必要ですか。そして、そのサブカテゴリーを解決するための野心的な計画を持ちます。
したがって、これはより多くの人々が検討すべき一般的な戦術だと思います。
そのバランスをどのように取りますか。まあ、チームを構築すれば、これを扱うことができるか、答えを思いつくことができると思うものです。
基本的に、私たちのために他の人々に依存して、そのすべての作業を行うことなく、それを解決するプロジェクトを思いつくことができます。
実際に進歩を遂げているなら、狭すぎることと広すぎることの間のスイートスポットにいるかどうかがわかると思います。研究が実際に実行可能であれば。
おそらく私のホットテイクは、効果的な利他主義は、人々に何が重要かについて考えさせることに本当に押し込んでいると思います。それは本当に良いことだと思いますが、興味深いことに、人々は実行可能性のようなものを忘れてしまうだけです。
人々は、まあAIが最も重要なことだから、AIでキャリアをやろうと考えることに多くの時間を費やし、実行可能性を忘れて、必ずしもそれほど影響を与えていないかもしれないキャリアに行き着くことになります。
それは今日のAIでもまだ当てはまると思いますか。10年前は方向性を見つけるのが難しかったように感じますが、よくわかりません。それについてはあまり可視性がありませんが、間違いなくそれが私の仮説です。
技術的なAI安全性は、プロジェクトが何であるかがより明確になっていると思っていました。10年前よりも今の方が実行可能だと思います。しかし、AIポリシーやAI技術作業で賢明なプロジェクトをやっていたとしても、最終的には重要でない可能性が圧倒的に高いと思います。
運が悪かったために無関係になってしまうでしょう。明確にすると、私がやっていることのどれもが重要になるとは思いません。なぜなら、生物学的大災害がないからです。
したがって、常に不確実性の下で運用していると思いますが、効果的な利他主義が最も重要なことに焦点を当てているので、全員が最も重要なことに群がるような感じを時々得ます。
皮肉なことに、5歳児がサッカーボールに群がるようなものです。それが最も重要なことで、そして全員がそれに向かいます。
そして、どこに配置されるべきか、他の重要だが少し重要でないかもしれないことに焦点を当てるべきか、人々はもう少し広がるべきかについての考えがはるかに少なくなります。私の推測では、そうだと思います。
人々は最も人気のあるものに群がったり群れたりする傾向があると思います。それがダイナミクスだと思います。もちろん、それはあなたが最も見られたい社会的ダイナミクスですが、おそらくそうだと思います。
他の人々が助けている道を持つ方が簡単だからです。調整メカニズムがないと思います。存在リスクを気にするすべての人々全体の比率が賢明であることを保証するために。
全員がその時点で最も重要に見えるものを選ぶようなものですが、2番目、3番目、4番目に重要なことを誰かがやるかどうかの感覚がありません。完全にそうです。
これが私の仕事です。広がり、物事を理解します。
気候変動への効果的アプローチ
あなたは自分の分野に人々を入れたいと少し偏っている可能性がありますか。効果的な利他主義内での従来の知恵は、世界全体が気候変動に焦点を当てているので、限界で気候変動に焦点を当てた1つの追加キャリアはそれほど影響を与えないということだと思います。
高レベルでは、それは正しいと思います。これらのより無視されているリスクに焦点を当てる方が良いです。しかし、Hannah Ritchieはこの素晴らしい本を書きました。
より効果的な利他主義者のレンズを通して気候変動を見て、実際に何が効果的で何が効果的でないかを考えています。なぜ誰かがその本を書くのに20年かかったのでしょうか。
EAは他の問題にもっと早くその本を書くことができたかもしれません。なぜなら、他の問題に重要性、無視されている度合い、実行可能性のフレームワークを適用すれば、多くの進歩を遂げることができるからです。
したがって、より多くの人々がより奇妙でユニークなことをすべきだと実際に思います。
Johannes Akbarとのインタビューがありました。彼は効果的な利他主義を念頭に置いた気候変動の助成金提供に取り組んでいました。彼らのチームが見始めるとすぐに、他の誰もが資金提供していたものとはまったく異なる提案を思いつきました。
彼らは、私たちの観点から、太陽光や風力にはまったく焦点を当てたくないと言っていました。なぜなら、それが問題を解決するなら、それは基本的にすでに処理されているからです。
したがって、実際にはうまくいかない特定のシナリオに基本的に集中する必要があります。それは実際にかなりもっともらしく、それからその場合に何が機能するかを考えます。
それは、ほぼどこでも他のグループによって基本的に扱われていない質問でした。そのことに取り組んでいると思ったフルタイムの人は何人いましたか。まあ、正確な言葉を彼らの口に入れたくないと思いますが、非常に小さいか、非常にニッチな問題だったと思います。
これは世界の多くのことに当てはまると思います。人々が考えるよりも、途方もなく無視されているものが多いです。
これらの特定のプロジェクトのほとんどで、広いコミュニティがありますが、問題に本当に無慈悲に焦点を当てているフルタイムの人の数は、通常、2〜5人の間です。
したがって、これらの問題のいずれかに興味がある場合、フォームに記入できます。フォームに記入してください。必死に必要です。
個人的な準備
最後の質問は、聴衆から来たものです。人々は、純粋に利己的な観点から、本当に悪い出来事が起きたときに生き残る可能性を高めるために、人々が何をすべきか知りたがっていました。
本当に解決するためには社会的な対応が必要です。なぜなら、最終的に社会の他の部分が崩壊したら、おそらく終わりだからです。
しかし、準備するために個人的にやっている有用なものはありますか。良いエラストメリックレスピレーターを手に入れることをお勧めします。3Mのものが好きです。EM Proも持っています。
そして、たとえば3ヶ月間、外に出る必要なく社会的距離を置くことができるのに十分な食料を手に入れます。
食料についてアドバイスはありますか。乾燥食品です。長期間保存できる棚安定のものは、かなり安全な賭けのようです。
水を備蓄しますか、それとも奇妙に思えますか。実際にはしません。実際、驚くほど準備をあまりしていません。
大災害が水が遮断されたり電力が遮断されたりするほど悪い場合、自転車に乗って町を出ます。
人々は主要都市に住んでいる場合、そこから出る計画を持つべきですか。妥当に思えますが、必ずしも私の準備アドバイスを信頼しないでください。
全員を救おうとしていて、個々の人々ではありません。生物学的大災害の始まりにいたら、時間をどのように過ごすと思いますか。
おそらく電話で人々に気にかけてもらおうとしています。COVIDの初期にこれをやっていました。2月に、これらの政府ロビイストに電話して、人々に注意を払ってもらおうとしていました。
人々は、狼少年になりたくないと言っていました。1月、2月に何かが起こっていたのはクレイジーでした。
人々は謝罪しましたか。謝罪を要求するために電話をかけ直したかどうかわかりませんが、いいえ、しませんでした。
彼らに何をするように押そうとしていたと思いますか。それを真剣に受け止めて目を覚ますように。つまり、生物兵器が十分に悪ければ、人々は非常に異なる反応をするかもしれません。
COVIDはある意味で、人々が本当に反応しなければならないほど十分に悪くなかったスイートスポットにあったと言っていました。
やるべきことはたくさんあると思います。政府が行うべき異なるパンデミック対策と異なることがあります。したがって、医療対策のクラッシュプログラム、病院が準備されていることを確認するなど、やる必要があるトンのものがあります。
四本柱以外にもっと多くのものが必要になるという計画を実装することのようなものです。しかし、四本柱は、他の政府が構築できる基本的な構成要素のようなものだと思います。
うまくいけば、次回は対応がより迅速になるでしょう。
今日のゲストはAndrew Snyder-Beattieでした。80,000 Hours Podcastに来ていただきありがとうございます、Andrew。お招きいただきありがとうございます。楽しかったです。
コメント