哲学者ウィリアム・マカスキルをゲストに迎え、AI技術がもたらす未来のリスクとグローバルな覇権争いについて議論するエピソードである。効果的利他主義の観点から、AIによる経済や軍事力の極端な集中、自律型兵器の脅威、そしてアメリカと中国の技術覇権争いの現状を詳しく解説している。また、現在の政治がいかにしてこの長期的な課題に向き合うべきかについても深く掘り下げていく。
AIによる権力の集中とリスク
一つの国が世界の経済的および軍事的な力の99パーセントを握るという事態は十分に起こり得ます。AIをめぐるあらゆる熱狂にもかかわらず、人々はそのリスクを過小評価しているように思えます。一人の人間によって制御される何百万もの自律型兵器からなる軍隊が存在する世界を迎える可能性もあるのです。アメリカにおける最高司令官は、世界がこれまで目にしたことのないほど激しい権力の集中を体現しています。アメリカが、我々は単独でやっていく、と宣言することも十分にあり得ます。そしてその時点で、他のすべての国はほとんどの経済力から締め出され、それだけで世界に対する完全な覇権を握るには十分なのです。現在最大の軍隊を持つ二人の最高司令官、習近平とトランプのうち、どちらがその競争に勝っているのでしょうか。
哲学者とは何か
ザ・レスト・イズ・ポリティクス・リーディングへようこそ。私、アラステア・キャンベルと、ローリー・スチュワートでお送りします。本日はウィリアム・マカスキルをお迎えしています。彼は非常に興味深い思想家であり、皆さんが居住まいを正し、自分たちの人生を根本から考え直すきっかけを与えてくれるでしょう。彼は世界に対する私たちの道徳的義務について深く考えている人物です。貧困や気候変動、エネルギー問題、AI、そして民主主義についてどう考えるべきかを論じてきました。彼は哲学者ですが、非常に珍しく実践的な傾向を持っています。特に彼を有名にしているのは、世界をより良い場所にするために自分個人の資金を効果的に使うべきだという、効果的利他主義への献身です。世界をより良くするとはどういうことか、そしてそれを最も効率的に行うにはどうすればよいかを真剣に考えています。しかし彼は同時に、自分が説くことを実践していることでもよく知られています。彼自身の収入の非常に大きな部分を寄付しており、私たちがこの時代を代表する偉大な人物たちについても多くを知っている人物です。本日はご参加いただきありがとうございます。
番組に呼んでいただき本当にありがとうございます。とても光栄です。
まずは哲学者という肩書きについて伺ってもよろしいでしょうか。もし私たちがフランスのポッドキャストだったら、あなたは哲学者というレッテルを貼られ、偉大な知的指導者としてひれ伏されることでしょう。しかしイギリスでは未だに、哲学者といえばどこかに座って本を読んでいるだけで、実際には世界にあまり貢献していない人だという感覚があるように思います。あなたにとって哲学者とはどのような定義ですか。
それは妥当な指摘だと思いますし、実際に多くの哲学者はただ座って本を読んでいるだけです。もし私が効果的利他主義について考え始めていなければ、私もそのような人生を歩んでいたかもしれません。論理や言語といった非常に興味深い問題に取り組むことは、素晴らしい満足感を得られる人生だったでしょうが、同時に完全に無意味なものになっていたでしょう。
ここで少し横道にそれますが、以前、アメリカの大学で莫大な基金の使い道などの大きな資金決定を行う担当者と話したことがあります。ある人が、数学科に寄付するのが一番好きだ、なぜなら彼らが必要とするのは黒板とゴミ箱だけだからだ、と言ったのです。すると別の人が、いやいや哲学科だよ、彼らの場合はゴミ箱すら買う必要がないんだから、と答えたそうです。ええ、まさにその通りですね。
投資の格言と哲学の探求
このエピソードはIGの提供でお送りします。5月に売って立ち去れ、というのは金融業界の奇妙な格言かもしれませんが、多くの政治家が知っているように、気の利いた言葉が必ずしも効果的な戦略とは限りません。過去10年間のFTSE100のパフォーマンスを見てみると、この格言が通用したのはわずか2年だけでした。ですから、5月の祝日があなたに休息を促したとしても、あなたのポートフォリオまで休ませる必要はありません。投資ポートフォリオをIGに移管し、株式やETFの取引手数料ゼロ、プラットフォーム手数料ゼロのメリットをご活用ください。詳しくはig.comを検索し、最新のウェルカムオファーをご確認ください。IGはトレード、投資、前進をサポートします。投資にはリスクが伴い、その他の手数料が適用される場合があります。
世界がどこへ向かうべきか、善とは何か、良い人生を送るとはどういうことか、といった思考への資金提供に世界がどれほどの額を費やしているか考えてみてください。それはわずか0.00001パーセント程度です。非常に安上がりです。とても賢い人たちにこの問題を考えてもらうのに、それほど多くのお金を払う必要はありません。哲学とは何かという問いについては、非常に重要でありながら科学では解明しきれていない問題の研究と調査だと考えています。真実を見つけるために非常に信頼できると証明された方法が二つあります。一つは物理学や化学などの経験的科学の基礎となる実験的手法です。そしてもう一つは証明、つまり数学や論理学です。しかし、良い人生とは何か、私たちに自由意志はあるのか、意識とは何かといった、これらの方法だけでは完全には解決できない重要な問題がまだたくさんあります。そこで私たちは、少し劣るものの、ある程度のところまで私たちを導いてくれる方法に頼らざるを得ません。それは、極めて明確で質の高い非形式的な推論を用いることで、最終的に証明や実験的手法によって問題に答えが出せる段階まで到達しようとすることです。
私たちは哲学のポッドキャストではないので、言葉遣いについて学術的で厳密な注意を払うよう求めるつもりはありません。しかし、あなたは人生のある時点で、ピーター・シンガーのような人々の伝統から非常に大きなインスピレーションを受け、形成されたと思います。彼が他の人々に対する私たちの義務について主張している非常に急進的な内容を、一般のリスナーに分かりやすく説明していただけますか。
溺れる子供と私たちの道徳的義務
もちろんです。これを説明するには、ある思考実験を用いるのが一番分かりやすいでしょう。あなたが仕事に向かっているところを想像してみてください。重要なビジネスミーティングがあり、あなたは一番良い高価なスーツを着て、高価な靴を履き、急いでそこに向かっています。遅刻するかもしれません。そしてその途中、池のそばを通りかかると、顔を伏せて浮いている人がいます。どうやら子供のようで、溺れているように見えます。ここであなたには選択肢があります。水に飛び込んで子供を救うこともできますが、おそらくあなたの素敵なスーツは台無しになるでしょう。数千ポンドの損害になります。ビジネスミーティングにも間に合わず、重要な取引や昇進の機会を失うかもしれません。あるいは、そのまま通り過ぎることもできます。直感的に、あるいは常識的な道徳に照らし合わせれば、もしあなたがそのまま通り過ぎたとしたら、道徳哲学者の専門用語を使うまでもなく、あなたは通り過ぎて子供を見殺しにするような最低な人間だということになります。
最低な人間と言ってもいいですかね。アラステアがここにいるのでつい言ってしまいましたが。大丈夫です。私が最低な人間だからですか、それとも私がよく汚い言葉を使うことで知られているからですか。なるほど、わかりました。気を悪くしないでくださいね。あなたなら間違いなく子供を救うと確信しています。私なら間違いなく救いますね、それに池で泳ぐのも結構好きですし、服がどうなっても構いません。
そうですよね。数千ポンドを失うこと、あるいはそれが1万ポンドや数十万ポンドだったとしても、その損失は子供の命を失うこととは比べ物になりません。もしあなたがこれほど低いコストで簡単に子供の命を救えるのであれば、そうすべきなのです。しかし、ここからが核心です。あなたの目の前にいるその子供と、数千ポンドの寄付を非常に効果的な組織に行えば救えるかもしれないサハラ以南のアフリカ、インド、あるいはガザにいる子供との間に、一体何の違いがあるのでしょうか。議論の結論は、何の違いもないということです。唯一の違いは、目の前の子供の存在感と、遠く離れた場所にいる子供の存在感の差だけなのです。
政治における同心円状の義務とキリスト教精神
そこでアラステアが求めていた政治の話に繋がりますね。JD・ヴァンスが昨年の初めに、聖アウグスティヌスから着想を得たというオルド・アモリス、つまり愛の秩序という概念を持ち出して議論を起こしました。彼は、私たちには同心円状の義務があるという考えを持っていたようです。彼の説明によれば、私たちが最も義務を負っているのは直接の家族であり、次に自分たちの小さな地域社会、そして国家であると主張しているようでした。実際、彼がこれを主張していたのは、米国際開発庁が廃止され、対外援助の支出が削られようとしていた時期と重なっていました。私たちの主な義務は最も身近で大切な人々にあり、世界の他の地域のことなど気にするべきではないという考えのようでした。あまり政治的な話に深入りしない範囲で、この考えに対するあなたの見解を聞かせてください。
言いたいことはいくつかあります。まず第一に、私の見解では、これは基本的なキリスト教思想の甚だしい誤解だということです。初期のキリスト教神学者の文献を読み、新約聖書そのものの記述を読めば、それが貧困に対してどれほど急進的であるかがわかります。金持ちが天国に行くのは、ラクダが針の穴を通るよりも難しい、というのは文字通りの意味です。それは極めて困難なことなのです。初期のキリスト教の文献には、もしあなたが金を持っていて他の人々が貧しいなら、それはあなたが彼らの手からパンを盗んだのと同じことだ、と書かれています。
あなたはキリスト教徒ですか。
私はキリスト教徒ではありませんが、その倫理思想の多くの側面に共感しています。よく人は、慈善は家から始まる、という言葉を引用しますが、これもまた言葉の誤解です。なぜなら完全な引用は、慈善は家から始まるが、そこで終わるわけではない、だからです。重要なのは、友人や家族を通じて愛を育み、そこから世界中のすべての人が、希望や夢、苦しみや喜びといったニーズを持つ一人の人間であり、あなたがその人生に潜在的な利益をもたらすことも、危害を加えることもできる存在だと気づくことです。そして、そのことを真剣に受け止めるべきなのです。ですから、キリスト教への真の理解、そして私の見解における真の倫理的理解とは、自分自身が扱われたいと願うように行動すべきだ、と考えることです。もしあなたが貧しい国で5ドルの蚊帳が手に入らずに死にかけているとしたら、貧しい国ではなく豊かな国に生まれたというだけの理由であなたを助ける素晴らしい能力を持っている人々に助けてもらいたいと願うはずです。
罪悪感ではなく助けることの喜び
しかし、私たち全員にとってリスクはないのでしょうか。私もあなたもメンタルヘルスやうつ病の問題を経験してきたことを知っています。現在レバノンで爆撃を受けている子供や、ガザで両親を失った子供、あるいは文字通り今この瞬間に世界のどこかで溺れている子供の存在を、自分自身の責任だと感じ込んでしまうリスクはないのでしょうか。その結果、自分が完全に無力だと感じ、常に罪悪感を抱き、外に出て何か行動を起こすという自分の中の可能性を押し潰してしまう危険性です。私たちは誰一人として十分なことをしていないのですから。
これは素晴らしい質問だと思います。確かにリスクはあります。私の人生の初期、初めてこれらのアイデアと格闘していた頃、私は学生の奨学金で生活しながら、5パーセントから10パーセントを寄付しようとしていました。スーパーマーケットに行くと、どのシリアルを選ぶかで立ちすくんでしまいました。一番安いものにするべきか、でもそうすると健康に悪いのではないか、どうすべきかと考え込んでしまい、それは持続可能な状態ではありませんでした。しかし重要なのは、その罪悪感を感じる必要はないということです。私は、人が助ける道徳的義務を負っており、理想的にはできる限りの助けをする道徳的義務があると考えています。しかし、それが利益をもたらさないのであれば、それについて罪悪感を感じる義務はないのです。
ここでもう一つの思考実験をしてみましょう。ある日あなたが溺れている子供を救ったとします。そして数週間後、燃えているビルに遭遇します。あなたは燃え盛るビルに飛び込み、再びドアを蹴破ります。そこには救うべき別の人がいます。あなたはその人を引っ張り出します。あるいはまた誰かが溺れていて、あなたは泳いでいきその人を救います。あなたは、この世界は少し狂っていると思うだけでなく、これは自分の人生で行った最も意義深いことの一つだと感じるでしょう。自分自身を誇らしく思うはずです。私の兄は17歳の時に溺れている人を救いました。それは彼の人生で最も重要な瞬間の一つであり、彼には自分を誇りに思う十分な権利があると思います。私たちが住んでいる世界は、実はそれができる世界なのです。同じように地元の新聞に載ることはないかもしれませんが、小切手を切るだけで、毎月その燃えるビルに飛び込む人になることができるのです。実際、これは素晴らしい機会であり、特権であり、誇りと喜びを感じてできることだと考えることができます。それが今の私が抱いている感情です。以前はメンタルヘルスの深刻な問題を抱えていましたが、今では私が知る限り、自分は最も幸せな人間の一人だと思っています。
つまりあなたは、自分自身についてより良い感情を持てるようになった理由の一部は、世界に対する前向きな態度と、その中で自分ができることを見出したからだと言っているのですね。
その通りです。私が知る多くの人々、そしてかつての私自身も、ただ途方に暮れていました。自分の人生の目的は一体何なのかと感じていました。シティで仕事に就き、働いて、それが一体何のためなのか。私にはよく理解できませんでした。一方で私にとって、何をすべきかという問いは今でも非常に難しいものです。しかし、私はこの世界に生まれてきた時よりも、少なくともほんの少しでも意義深い形で、この世界をより良い場所にして去ることができると感じています。もちろん、今でもひどく落ち込んだり、強い不安を感じたりする日はあります。しかしそんな日でも、仮に今年自分が何もしなかったとしても、寄付をすることだけはできた、それによって本来なら存在しなかったはずの子供たちが生きているんだ、と考えることで、どれだけ気分が落ち込んでもその底を支えてくれるのです。
サム・バンクマン＝フリードとの関わりと影響
リスナーに少し説明しておきたいのですが、ウィリアムが効果的利他主義とともに非常に深く関わってきた活動の一つに、トビーという別の哲学者と共に行っているものがあります。それは、お金を最も効果的に使う方法を探求し、個人に自分の収入の一定割合を寄付する「ギビング・プレッジ」への署名を促すことです。ギビング・プレッジは収入の10パーセントを寄付することに焦点を当てていますが、ウィリアム個人の場合、そこから得られる人生の満足感について語っていますが、実際には生活に必要な最低限の金額を超えた収入のすべてを寄付しています。
ええ、それが生活のための最低限の金額だとは決して言いません。現在は、2009年にオックスフォードで決めた税引き後2万ポンドという額です。正確に言えば、現在は税引き後で年間約3万2000ポンドになっています。それを自分の手元に残す額としているのですね。そして、それ以上のさまざまな形で得た税引き後の収入は、多様な慈善団体を支援するために寄付しているわけですね。
その通りです。昨年は約10万ポンドを寄付しました。つまり、あなたの手元に残る収入の数倍の額ですね。
政治の話に戻りますが、現在の政治が、世界に対するあなたの態度を共有していないと思われる人々にこれほど支配されている状況で、そのような考え方を維持するのは簡単ですか、それとも難しいですか。トランプはもちろんのこと、先ほど名前が挙がったJD・ヴァンスやその仲間たちが、私たちが持っているすべてのお金を使って人々を助けようなどと話し合っているとは到底想像できません。それどころか、彼らは政府の資金を使ってそれらの人々に多くの問題を引き起こし、私生活では特にトランプとその家族が、人々を犠牲にして私腹を肥やしているように見えます。この状況は、あなたの考え方を維持する上でプラスに働きますか、それともマイナスですか。
確かに厳しい状況です。最近よく振り返っていることの一つが過去10年間のことです。私の著書『Doing Good Better』の改訂版が出版されたので、過去10年を振り返り、効果的利他主義の成功例についても考えました。世界の健康と開発に資金が投じられたことで、主として子供たちを中心に推定約34万人の命が救われました。ですから、それはかなり良いことだと感じています。しかし同時に、世界で起きている出来事に目を向けると、例えば米国際開発庁の予算削減だけで、100万人、おそらく数百万人の命が失われている規模です。ここイギリスでの予算削減も、左派政権でさえGDPの0.3パーセントにまで引き下げてしまったことは残念です。それは悲しいことですし、一個人として、世界の巨大さと比べて自分がいかにちっぽけな存在かを考えると辛くなります。しかし、それは物事の考え方として遠回りだと思います。その代わりに、絶対的な基準で自分にどれほどの良いことができるかを考えるべきです。絶対的な基準で言えば、先ほど言ったように、燃えるビルに飛び込んだり、溺れる子供を救ったりすること、それぞれの個別の命は絶対的に巨大な価値があります。ですから、一個人として収入の一定割合を寄付すると誓約することは重要です。ローリー、あなたも少なくとも一定の割合を寄付するという試験的な誓約をしたと聞いています。
私もウィルに感化されて10パーセントを寄付しています。素晴らしいですね。ありがとうございます。私たちの間で言えば、葬儀代などを引いてもすでに10パーセントを超えていると思います。それでは、あなたもぜひ誓約書に署名すべきですね。「Giving What We Can」にアクセスしてください。
でも今朝、フィオナに今日あなたとお会いすると伝えた時、彼女は、それってサム・バンクマン＝フリードと関わりがあった人？と聞いてきたんです。彼はあなたの最大の採用者というか、仲間だったわけですよね。この件が効果的利他主義の評価や見え方にどのような影響を与えたのか興味があります。
ええ、それについて話すのは全く構いません。手短に言えば、悪意のある人物がこれらのアイデアと結びついていたからといって、10パーセントを寄付するというあなたのコミットメントや、他人にもそれを勧めるという姿勢が損なわれるべきではないということです。ユナボマーことテッド・カジンスキーが環境保護主義を推進するために人を殺したからといって、環境保護の大義が損なわれるべきではないのと同じです。
それは非常に健全な政治的、哲学的視点だと思います。
はい。しかし、私がその人物と関わりがあり、彼を信頼していたことは事実です。そして結果的に、私はひどく騙されていたことが判明しました。今でもそのことについて話すのは辛いですが、彼は私の目の前で嘘をついていたのです。そのことについては、本当に巨大な恥の意識を感じています。膨大な数の人々が被害を受けました。
彼から少しでも資金を取り戻すことはできたのですか。
この一連の出来事における奇妙で悲しいことの一つは、彼が若さの割に実際にかなりの額を寄付していたことですが、破産手続きにおいては、会社や個人が企業の株式を購入した場合、そこには対価が存在したため、その企業は投資を保持することができます。しかし、その人物が慈善団体に寄付をした場合、そこには対価が存在しなかったため、破産財団はその資金を回収しに行くことができるのです。ですから、正味の慈善効果は極めてマイナスでした。寄付をした慈善団体から資金を返還しなければならなかっただけでなく、膨大な法的費用の負担、ストレス、そして評判へのダメージがありました。それはとてつもない打撃でした。
貧困対策とAIの破局的リスク
この話題のついでにお話ししたいのですが、少し主題から外れるかもしれませんが、あなたが身を置いている世界の複雑さを示す興味深い余談になると思います。私はかつて「ギブ・ダイレクトリー」という組織をしばらく運営していました。これも効果的利他主義運動の重要な一部であり、アフリカの極度の貧困層に1ドルを与えることは、イギリスの誰かに100ドルを与えるのと同じ価値がある、ルワンダとウガンダの国境にいる家庭に1000ドルを与えれば、あなたが描写した燃え盛るビルに飛び込むのと同じように、その人の人生を真に変えることができると強く主張していました。しかし、この世界に入り込み、あなたが知っている多くの人々や共に働いてきた寄付者たちと出会って気づいたのは、しばしば少し奇妙な会話に陥るということでした。ピーター・シンガーやダスティン・モスコヴィッツと話し、「これが非常に良いと思うプロジェクトで、人々の生活にこれだけ違いをもたらしているというかなり良い証拠があります」とプレゼンすると、それが蚊帳やワクチン、あるいはキラーロボットの対策などと比べて全く同じ投資対効果があるのかどうかという、非常に難解な議論に巻き込まれるのです。
これが私にとって決定的に現れたのは、サム・バンクマン＝フリードの財団と連絡を取った時でした。最終的に彼の財団のトップとつながり、電話をかけて彼が話を聞いてくれました。私はアフリカの極度の貧困について短いプレゼンを行いました。15分後、彼はこう言いました。「ああ、まあ、それはともかく、正直なところ結構お腹が空いてきたんだ。お昼ご飯を食べに行きたいから、じゃあね」。私は「それは結構ですが、フォローアップのミーティングをして、マラウイの貧困を私たちがどのように本当に変えられるか説明したいのです」と言いました。すると彼は「正直言って、私は貧困というテーマにそれほど興味がないんだ」と言って、電話を切りました。それで終わりです。私は少し面食らいました。なぜなら、それが効果的利他主義の世界のもう一つの奇妙な側面、つまり礼儀正しさや思いやり、共感の欠如といった奇妙な感覚を示していたからです。たとえ彼が私の特定の慈善団体に寄付したくないと結論づけたにせよ、「貧困にはただ興味がない」というのは、人間の反応として少し私を動揺させました。
ええ、その人物が誰かは大体見当がつきます。彼を弁護するわけではありませんが、貧困に限らず、私や他の人々も過去に彼に対して、彼は実際には深く愛と思いやりのある人間であるにもかかわらず、その態度がしばしば全く違うように見えるとフィードバックをしたことがあります。彼が運営していた基金は破局的リスクに焦点を当てたもので、貧困に焦点を当てていたわけではありませんでした。他にも基金はありました。
その破局的リスクと、よく特徴づけられる奇妙な議論について教えてください。今日ウガンダの国境に住む貧しい女性にお金を与えるか、それとも小惑星の地球衝突やキラーロボットの進化、あるいは破局的なAIを防ぐための投資をするか、という議論です。
ええ、これはある意味で効果的利他主義の恐怖と私がよく呼んでいるものですが、私たちが助けられる異なるグループ間だけでなく、異なる助け方の間でも信じられないほど厳しいトレードオフを行わなければならないという、世界の現実の恐ろしさです。ギブ・ダイレクトリーのように極めて証拠に基づいており、多くの人々の生活を大幅に改善することが基本的に保証されているものと、より推測的なものを比較しなければなりません。長年かけて私たちが学んだこと、あるいは少なくとも私が学んで見解を変えたことの一つは、非常に推測的に見える特定の推論モードが、今ではかなり強力な実績を持つようになっているということです。効果的利他主義に関わる私たちは、COVID以前、ChatGPTの登場以前から何年もの間、パンデミックやAIの問題に取り組むための資金提供の必要性を警告してきました。パンデミックについてはもっと多くのことができていればよかったと思います。COVIDの後でも、世界的な対応は驚くほど少ないままでした。今後数年で新しいウイルスを作り出す能力が民主化されるにつれて、パンデミックのリスクは劇的に上昇すると考えています。
そして、AIからの課題も、AIに対する現在のあらゆる熱狂にもかかわらず、実際には過小評価されていると思います。人々はAIからのリスクを過小評価しています。私はそれが4つの段階で進むと考えています。サイバー兵器からのリスク、生物兵器、権力の集中、そして最終的には制御の喪失です。新しい病原体が誰かのガレージで設計されて大規模なパンデミックが起きたり、国家元首が完全自動化された軍隊を指揮することで世界がこれまでに見たことのないような激しい権力の集中が起きたりしないように、新しい技術的進歩に備え、早期に対策を講じることは極めて重要です。しかし、それをギブ・ダイレクトリーや蚊帳の配布のような証拠に基づいたものとどう比較すればよいのでしょうか。それは極めて難しい問題です。答えは明らかにAIだ、と簡単に言うつもりはありません。しかし私が言いたいのは、誰もがこの問題と真剣に向き合い、推論を重ねるべきだということです。少なくとも、どの分野に焦点を当てるのが正しいのかについて、可能な限り情報に基づいた見解を持とうと努めるべきなのです。
政治における長期的な視野の欠如
インタビューの序盤で、哲学とは何か、何について考え、どのような問題に取り組んでいるのかについてお話しいただいた際、私は政治も同じようにそれを行うべきだと考えていました。そして、今あなたが話されたようなことに対して、現在の政治、あるいは歴史を通じた政治が本当に真剣に取り組んでいると感じるかどうかをお聞きしたいと思いました。それとも、現状も過去も、それは周辺的な問題として扱われているだけでしょうか。これまで政治指導者やあらゆるレベルの政治家を見て、この人は哲学的な観点から物事に取り組んでいると感じたことはありますか。それとも、私たちの政治は短期的な利益に深く囚われており、その先を見据えることはほぼ不可能だとお考えですか。
私に真っ先に思い浮かぶ例は、アメリカ合衆国憲法の起草です。あの時、驚くほど優秀な思想家たちが3ヶ月間一つの部屋に集まり、この文書の文言を練り上げました。ジョン・アダムズ自身が、私たちが今構築している制度は何千年も続くかもしれない、もしそれが道を誤れば、正しい道に修正するのは困難になるだろう、だからこそこれを正しく行うことは極めて重要だ、と述べています。実際、彼らは多くの点において信じられないほど先見の明がありました。これは新しい秩序、すなわちアメリカ合衆国そのものが誕生するという稀なケースであり、政治家や思想家たちが長期的な視野を持ち、そこまで先を見据えなければならない課題に取り組むことができた事例です。
そして現在、その憲法が深刻な脅威にさらされていると感じる時代においては、それは同時にかなり憂鬱なことでもありますね。
極めて憂慮すべき事態だと思います。この例が興味深いのは、このような転換点が訪れることがあるからです。第二次世界大戦の終結、国連の設立、マーシャル・プランなどもその一つです。
それは哲学的な立場から主張できることでしょうか。
もちろんです。現実政治や国益に強く突き動かされている今日の世界と比較すると、非常に奇妙に感じられますが、第二次世界大戦終結後のアメリカがどれほど理想主義的になり得たかを考えてみてください。当時、アメリカは唯一の核保有国であり、素晴らしい、これで我々が世界を支配する、と言うこともできたはずです。もちろん、ある程度は自国の価値観を輸出しましたが、全体的な方向性としては、世界全体を豊かにし、肯定的な方向へ導こうとするものでした。過去数十年間における政治的風土がそこから離れ、今やその領域からさえも遠ざかっているというのは、単なる悲しい事実です。
少し話を展開させて、私とアラステアの少し風変わりなこだわりに戻りましょう。私たちはジャン・モネと欧州連合の創設に非常に感銘を受けています。そこには、5年、10年、15年先を見据えたかなり長期的なビジョンを持ちながら、同時に非常に実践的で、これを成し遂げた人物がいました。私たちの夢は、イギリスが再びヨーロッパに大きく近づき、ノルウェー、ウクライナ、カナダなどを巻き込んで、第二次世界大戦後にアメリカが行ったような役割の一部を果たすべく、価値観に基づいたグローバルシステムの第四の角を構築し始める未来かもしれません。これを10年、20年、30年のスパンで実現するためには何が必要だと考えますか。今はそのための時期としては非常に不運なタイミングなのでしょうか。
実現の可能性はあると思います。これをお聞きして私の頭に最も明確に浮かぶのは、この構想とAIとの関係です。AIに何が起こるかについての私の見解は、直感に反するものであり、私自身もそこにたどり着くまでに長い時間がかかりました。私の見解では、おそらく今後5年以内に、AIの研究開発自体を自動化できるAIが登場するでしょう。AIの能力において、この飛躍的な進歩が起こります。その後は、10年未満の間に1世紀分に相当するような技術的進歩が起こるでしょう。事実、アメリカ以外のヨーロッパやイギリス、その他の民主主義国家がその世界において大きな交渉力を持つことができれば、はるかに良い世界になると思います。しかし現時点では、それはアメリカと中国の二国間に限られています。これは計算能力がどこに置かれているかを見るだけでわかります。現在、それはほぼ完全にアメリカと中国であり、台頭しつつあるのは例えばアラブ首長国連邦などです。したがって、イギリスやヨーロッパなどからこの種の前向きな影響力や価値観を発揮するためには、本質的におそらく史上最も重要な技術となるであろうAIの開発に対する交渉の切り札を持つ必要があります。そしてそれには、コンピューターチップや製造能力といったハードパワーを持つことが含まれます。
AIがAIを開発する時代の到来
あなたは「フォアソート（Forethought）」という組織を設立されました。リスナーや視聴者に伝えておきたいのは、あなたが単に哲学を学んだからAIについても知っていると言っている人物ではないということです。あなたはこの問題を専門に研究する「フォアソート・リサーチ」を立ち上げ、民主主義がAGI（汎用人工知能）を生き残る確率は50パーセント未満であると公に述べています。つまり、プーチンやトランプのような人物が民主主義を脅かしていなくても、技術そのものが人間よりもさらに大きな脅威になるとお考えなのですね。
はい、民主主義がなぜ存在するのかを考えてみてください。私たちが民主主義を失うシナリオはいくつかあると思います。一つは、非民主的な国が非常に強力になることです。単一の国が世界の経済力と軍事力の99パーセントを握るようになる可能性は十分にあります。
99パーセントですか。
ええ、あるいはそれ以上です。
それ以上というのは100パーセントのことですね。トランプなら面白い見解を持ちそうですが。
そのプロセスについて少し説明してください。一つの国が巨大な経済力を蓄積する状態に、どのようにしてたどり着くのでしょうか。
軍事力も含めてですね。これを説明する際にも言っておきますが、これらのことは最初は私にとっても狂気じみて思えました。ここに至るまで何年にもわたって取り組み、考え、議論を重ねてきた結果なのです。重要な点は、現在の状況から極めて強力なAIが存在する社会への移行を通じて、本質的に規模の収穫逓増が生じるということです。AIが自らより優れたAIシステムを設計できるようになる時点のことです。検証可能なタスクに関して言えば、すでに極めて優れたコーディング能力を持つAIが存在します。それは世界最高のプログラマーと同等の能力を持っています。より曖昧なタスクについてはまだそこまでではありませんが、それも解決されつつあります。AIが機械学習エンジニアの仕事をこなせるようになる時点は、おそらくそれほど遠くありません。私の最良の推測では、今後5年以内に起こる可能性が非常に高いです。
その時点で、より優れたAIシステムを設計できるAIシステムが存在することになります。そして、その優れたAIシステム自身が、さらに優れたAIシステムを設計できるようになります。つまり、同じ数のチップ上であっても、数万人の人間の機械学習エンジニアから始まり、瞬く間に何十万人ものAI機械学習エンジニアへと移行し、彼らがさらに優れた機械学習エンジニアを設計するのです。そうして、数百万人のAI科学者の集団が誕生し、人間よりも優れた形で、より速く次世代の設計を行うことができるようになります。
ということは、現在大学を卒業しようとしている人たちは、自分が就くかもしれなかった仕事がもう消滅してしまったと考えるわけですね。社会や経済への影響は計り知れません。
全くその通りです。その点については確実に深く掘り下げることができます。魅力的であると同時に、かなり混乱を招く話です。しかしここで重要なのは、私たちのモデリングが示唆するように、数年という極めて短期間のうちに、アメリカや中国といったトップランナーの国が強力なAIを持った状態から、突然、数億人の労働者に相当する力を手に入れるということです。世界で最も賢い人物を想像してみてください。そしてその人物が、24時間365日、与えられたあらゆるタスクに対して完璧な集中力で休むことなく働いている姿を想像してください。しかもそれが数億人いるのです。そのうちの一人が何かを学習するたびに、全員が同じ教訓を共有できます。これは経済的、政治的権力の面において異常なほどの格差を生み出します。経済力の観点で言えば、机上で行えること、あるいは人間に物理的な世界で行動を指示することで行えるあらゆることを考えてみてください。そこには膨大な科学研究が含まれます。戦略の策定、サイバー能力、生物兵器の設計、そしておそらくは原子力潜水艦などを含む監視やモニタリングなど、すべてが含まれます。
それはエネルギー問題でも私たちを救ってくれるでしょうか。
それについては二つの要因があるでしょう。より安価な新しいエネルギー源が見つかる一方で、膨大なエネルギー需要も生まれます。なぜなら、H100チップを使って、先ほど言ったような最も賢い人間の働きを24時間体制で稼働させることができるようになるからです。ですから、その世界ではエネルギー価格は上昇すると私は考えています。
経済的覇権と自律型兵器の脅威
この絶え間なく続く厳しい話の中に、少し前向きな要素を加えたかったのですが。あなたは素晴らしい説明をしてくれていますが、リスナーのために少し基本的なところに戻らせてください。例えば、アメリカがこの道をたどり、5年後か10年後には、ChatGPT 15.0のようなものがヨーロッパの企業に提供されてシステムを動かすのではなく、アメリカ国内で自社のものを構築するようになる。そして突然、世界中のほぼすべての企業がアメリカに集中するようになる。なぜなら彼らの方がはるかに賢く、生産性が高く、製造からロボティクスまですべてが優れているからです。そうなれば、世界の他の地域の経済は崩壊し、すべての経済価値がシリコンバレーに吸い込まれるという巨大な音響効果が生じるわけですね。
はい、そしてそれは意図的な選択になり得ます。すでに現時点で、アメリカは中国へのチップの販売を制限しています。もし生物兵器を製造できるAIシステムがあり、それを要求できるとしたら、トップの国はその技術を国境内に限定したいと考える可能性があります。あるいは国家安全保障の用途に限定するかもしれません。どうなるかはわかりません。ですから、この時点でアメリカが、我々は単独でやっていく、と宣言することも十分にあり得ます。あるいは、軍事技術などを部分的に制限したまま保持するかもしれず、それだけで世界に対する完全な覇権を握るには十分なのです。または、現在誰の所有でもない資源を獲得し、それによって完全な支配権を得るかもしれません。イーロン・マスクはすでに宇宙空間にデータセンターを設置することについて語っています。短期的には経済的な意味をなさないと思いますが、長期的には、ほぼすべての計算処理が行われる場所になるでしょう。なぜなら、そこにはすべてのエネルギーがあるからです。太陽は他のどのエネルギー源の10億倍ものエネルギーを持っていますから。
地球上ではエネルギー消費を1000倍に増やすことができるかもしれませんが、宇宙空間なら20億倍以上にもなります。これは本当に大きな利益です。現在、これらはすべて宇宙条約によってカバーされており、いかなる国家によっても所有されることはできません。しかし、それが真の経済的価値を持つようになった時、宇宙条約は本質的にゴミ箱に捨てられると予想しています。アメリカはこう言うでしょう。「我々は誰の領土も奪うつもりはないが、最初に宇宙に行くのは我々だ。スペースXはすでに民間打ち上げで事実上独占状態にある。我々がこれらの資源をもらうよ」と。そしてその時点で、他のすべての国はほとんどの経済力から締め出されることになります。
民主主義の生き残りという点に戻ります。あなたは、ある国（それがアメリカであれ中国であれ、私たちはこの2カ国のリストと共に生きています）に権力が集中する可能性について語りました。また、人間の経済的価値が失われ、私たちの脳や手で行うことが余剰となり無関係になることにも触れました。そこから社会的な問題が生じるとお考えですね。しかしあなたはさらにその先、これらのますます賢くなるAIモデルが、服従の構造を持たない軍隊を創り出すという点まで踏み込んでいます。命令に従うという構造が存在しないということですね。
いや、逆です。彼らは常に命令に従います。少なくともそれがリスクです。あるいは彼らが自律的になるかです。
はい、これは巨大な課題になるでしょう。私が現在取り組んでいることの一つでもあります。AIはすでに軍事で大々的に使用されています。マドゥロ政権の奪取にも関与しましたし、イランでも関与しています。これも遠い未来の話ではありません。繰り返しますが、すべてが狂気じみて聞こえますが、それは技術の進歩が非常に速いからです。それほど狂った話ではないのです。私たちは完全に自律的な兵器を手にする可能性があります。そこには選択肢があります。
自律的とはどういう意味か説明してください。
ええ、私たちはドローンが飛び回っているのを見たことがあるでしょう。自律的とは、人間のコントローラーがそのすべての動きを誘導するのではなく、非常に自由度の高い目標を与えたり、あるいはドローンの艦隊全体に自由度の高い目標を与えたりできるということです。例えば「ロンドンを破壊せよ」といったように。あるいは「我々は中国と戦争状態にある。勝利したい」とだけ伝えれば、AIが戦略を考え出し、それを実行します。完全な自律走行車を思い浮かべてみてください。「オックスフォードに行きたい」とだけ伝えれば、最適な経路を見つけ出し、そこまで運転してくれます。その技術が実現可能になるまで、それほど遠くはありません。しかし、その世界で権力がどのように変化するかを考えてみてください。現在であれば、将軍が国を支配したいと考え、兵士たちに国会議事堂の襲撃を命じたとしても、兵士たちはノーと言うでしょう。自律型兵器をどのように管理し、設計するかはまだ未解決の問題です。一つの考え方は、これらは単なる道具だというものです。ハンマーは、それで誰かの頭を殴ろうとしても抵抗しません。同様にAIも道具であり、指示通りに動くべきだという考え方です。しかし、そのような自律型兵器何百万機からなる軍隊を、たった一人の人間、例えばアメリカの最高司令官が制御する世界になる可能性もあります。それは非常に恐ろしい状況であり、私たちが回避するために積極的に取り組むべき事態です。
米中のAI開発競争と規制の必要性
アメリカの最高司令官について言及されました。必要以上に彼の名前を出すのは避けましょう。しかし、現在最大の軍隊を持つ二人の最高司令官、習近平とトランプのうち、どちらがその競争に勝っているのでしょうか。
現在のAIに関しては、圧倒的にアメリカです。フロンティアAI企業はすべてアメリカを拠点としており、現在のトップランナーはアンスロピック、オープンAI、そして特にグーグルのディープマインドです。これらが主要な3社です。計算能力の大部分もアメリカにあり、世界の計算能力の約60パーセントがアメリカに集中していると思います。中国は遅れを取っており、変動はありますが、およそ9ヶ月ほどの遅れです。もし彼らが単独でこれを行わなければならなかったとしたら、さらに大きく遅れを取っていたでしょう。この背景の大きな部分は輸出規制によるものです。数年前にアメリカのバイデン政権が、最も強力なチップの中国への販売を制限すると発表しました。そのため中国は、より性能の劣るハードウェアで稼働させざるを得ず、また多くの優秀な科学者はいるものの、アメリカほど人材のエコシステムが十分に発達していません。ですから彼らはファストフォローアップの手法をとっています。しかし、技術の最前線に追いつくのは非常に簡単です。さまざまな手法を使用できます。ですから、わずか9ヶ月の差なのです。
仮に、その二人あるいは現在これに真剣に取り組んでいる世界のリーダーたちが、あなたを招いて座らせたとしましょう。中国のことは一旦置いておき、民主主義国家だと仮定します。彼らが「わかった、あなたの主張は理解した。しかし選挙を控えた政治家として、これらの問題に対処しなければならない我々は、私たちの世代だけでなく未来のために、今何をすべきなのか」と尋ねてきたら、どう答えますか。対象はアメリカですか、それともイギリス、フランス、ドイツ、オーストラリア、日本、韓国といった民主主義国家全体ですか。
いくつかやるべきことがあると思います。ソフトウェアの側面について言えば、規制のアプローチの一つとして、理想的にはすべての民主的な同盟国間で合意されるべきことですが、フロンティアモデル、つまり最も強力なAIシステムを開発するすべての企業に対し、「モデルスペック」と呼ばれるものを持つよう義務付けることです。これは単なる英語の文書で、我々のAIにこのように振る舞ってほしいという仕様を記したものです。例えば、「生物兵器を設計して」と入力された場合、AIが「申し訳ありませんが、それはできません」と答えるようにするものです。つまり、モデルスペックにおいて、特定の基本原則に従うことに同意しなければならないというルールです。
なぜ政府は新しい生物兵器の設計を望まないのでしょうか。また、なぜ中国は「あなた方民主主義国家が禁止事項を教え合っている間に、我々はあなた方ができないと言っているものをすべて吸い上げ、その方法を見つけ出そう」と考えないのでしょうか。
特に生物兵器に関しては、これは誰にとっても完全に負け戦だからです。自分たちに戻ってこないものを放出するのは非常に困難です。ですから最大のリスクは北朝鮮のようなならず者国家にあります。彼らはあまりにも力がないため、狂気じみた無謀な脅威を作り出すことが実際に非常に強力な武器になり得るのです。もちろん、それらの原則をどうするか、国家安全保障のための例外をどうするかについては、巨大な交渉が必要になるでしょう。しかし手短に言えば、ソフトウェアの側面にこのような文書を用意し、いかなるフロンティアモデルも、AIが非常に珍しいシナリオにおいても仕様通りに振る舞うことを実証できなければならないとするのです。つまり、内部的であれ外国の干渉であれ、サボタージュされていないこと、AIが自らの目標を形成していないこと、つまり適切に一般化されることを示さなければならないということです。この話はまだまだ続けられますが。
半導体サプライチェーンと国家の交渉力
ええ、ウィルの立場から派生する質問は58個くらいありそうですね。でもアラステア、私はあなたに聞きたいことがあります。ウィルは今後5年から10年の間に起こり得る、非常に急進的で恐ろしく、しかし残念ながら非常に説得力のあるビジョンを提示してくれました。それなのに、世界中の政治はこれについてほとんど語っていません。私たちはセルビアの大統領と会ってきたばかりですし、過去4年間世界中で選挙を取材してきましたが、この問題について本格的に話している人は誰もいません。実際、選挙キャンペーンは未だに1980年代にとどまっているように感じます。生活費の問題ばかりです。どう思いますか。もしあなたがダウニング街10番地にいた頃に戻り、ウィルのような人物がやってきて、「5年から10年で私たちが知る世界は終わりを迎えます」と聞こえるような急進的なことを言ったとしたら。人々は砂の中に頭を埋めて、「彼は気が狂っているか過激派だ、聞きたくない」と言うのがオチでしょうか。あなたならこのような事態にどう対処しますか。
もし私たちが当時の政権にいたとしたら、そしてビル・クリントンについても同じことが言えると思いますが、当時のトニー・ブレアに会いに来ていたら、彼は完全に魅了されていたでしょう。実際、彼は現在でもこの問題に強い関心を持っています。クリントンも同じように考え、「イギリス（あるいはアメリカ）として、どうすればこれに先んじることができるか」と考えたはずです。そして同時に、より大きな全体像も見ていたと思います。政治や政治的議論が狭量化してしまったことが、政治家が長期的な議論を恐れるようになった原因の一つだと思います。リシ・スナクの公平を期すために言えば、彼はおそらく、あのような年次サミットを始めることで、これに挑戦しようとした唯一の人物だと思います。ただ、その頂点がイーロン・マスクと対談することであり、彼がいつもの「マスク的な」ナンセンスを並べ立てたことで、多くの信頼を失ったと思いますが。イーロン・マスクはあなたの熱烈な賞賛者だと見かけましたが。
過去にはそうでしたが、今は違います。今は全く違います。
なるほど。ですから、私は他の現役の世界の指導者に誰かいないかと考えています。もし政治家がこれに取り組み、知識と科学、そしてあなたの哲学的な視点にある「真実」に基づいて世界に警鐘を鳴らすなら、人々は耳を傾け始めると思います。私たちはAIの恩恵を目の当たりにし、感じていますから。しかし、大衆や政治家の一部には、気候変動の問題と少し似ていて、私たちが文字通り自分自身を燃やし尽くそうとしているかもしれないという現実の規模に直面したくないという思いがあるのだと思います。「我々はこれに1億5000万ポンドを投じ、ソーラーパネルを増やしているから対処している」と言う方が簡単だからです。前の世代の指導者たちなら「我々はこれを解決しなければならない」と言ったはずです。
しかし奇妙なのは、私は長期主義、つまり未来の世代を真剣に考え、はるか先を見据えることの重要性について書いてきましたが、今の世界がおかしいのは、私が話しているこれらのことが今後5年という期間の話だということです。今後数年のうちに、AIがより優れたAIを構築し、技術的能力が大きく飛躍するという離陸が始まる可能性が非常に高いのです。今後1、2年ではないかもしれませんが、それも完全にないとは言い切れません。
ローリーのAIに関するミニシリーズをお聞きになったかどうかわかりませんが、彼はAIがどこへ向かっているのかについて、より懐疑的になり、警戒を強めているように感じました。その能力について懐疑的というより、能力の大きさに警戒しているということです。私も常にかなり恐ろしい場所にいると感じています。政治家がこれに大きな影響を与えるには遅すぎると思われますか。
決して遅すぎることはありません。世界はまだ目を覚ましていないからです。すでにアメリカと他の国の間にはハードパワーの面で格差がありますが、他の国々も一定の力を持っています。オランダにはASMLという企業があり、極端紫外線（EUV）露光装置の世界生産の100パーセントを担っています。YouTubeにあるVeritasiumの素晴らしい動画を見ることを強くお勧めします。とても面白いです。これは本質的に世界で最も洗練された技術です。
オランダがその一部の100パーセントを支配し、台湾が別の部分のほぼ100パーセントを支配し、そしてアメリカの企業がまた別の部分のほぼ100パーセントを支配しているということですね。すべてのAIモデルの基盤となる高度なコンピューターチップは、エヌビディア、この台湾の企業、そしてオランダの企業と深く結びついているのに、私たちはそれを活用できていないように見えます。なぜオランダという小さなヨーロッパの国の一つの企業にそれができたのでしょうか。政府が関与していたのですか。
私の知る限り、政府の関与はありません。ただオランダに生まれた誰かが偶然それを始めたということです。多くの企業が関わっていましたが、この技術について説明しましょう。この機械は非常に大きく、複数のボーイング747ジャンボジェットで運ばなければなりません。彼らが行っているのはチップの設計をエッチングすることですが、あなたの爪を1秒間見つめて、その間に伸びた長さを想像してください。この巨大な機械はそれほど微細なレベルでエッチングを行っているのです。1秒間に5万滴の小さなスズの液滴を発射し、それに3回レーザーを当てて紫外線を作り出し、それによってエッチングを行うという驚くべきプロセスが含まれています。技術的に信じられないほど困難なのです。多くの企業が挑戦し、この1社を除いてすべて失敗しました。最先端チップの90パーセントを生産している台湾のTSMCも同様です。やはり非常に難しく、多くの企業が失敗してきました。
ということは、かつてノキアが電話市場を支配し、フィンランドが突然巨大な経済大国になったように、オランダがヨーロッパで最も強力な経済国になる可能性もあるということですか。
彼らは自分たちが思っている以上にはるかに大きな交渉力を持っています。輸出規制に関しては、ASMLとオランダはアメリカに完敗し、正直なところ脅しに屈してしまいました。しかし彼らにはそれが可能なはずです。彼らだけでなく、日本、韓国、ドイツも半導体サプライチェーンにおいて不可欠な役割を果たしています。
このリストにイギリスはあまり入っていませんね。
イギリスが持っているのは人材の拠点としての強みです。ロンドンはサンフランシスコに次ぐ、AI人材にとって世界で二番目に重要なハブです。人数ベースでは約3分の1の規模ですが、機械学習の研究者が多数存在します。グーグルのディープマインドがロンドンを拠点にしており、アンスロピックやオープンAIのオフィスもあります。しかし製造やハードパワーの役割という点では、アメリカでさえ大きく遅れを取っています。アメリカは望めばそれを変えられるはずですが、最近のニュースでは、イングランド北部にさらにデータセンターを建設する計画が、許認可の問題や十分なエネルギーを確保できないこと、そして著作権の理由で頓挫しました。
テック企業のリーダーたちと権力の集中
あなたが帰られる前に、AIやテック業界を支配している人々のパーソナリティについて少しお話ししたいと思っていました。なぜなら、私たちの世界がますます3つ、あるいは4、5の企業（数百億ドルの資産を持つイーロン・マスクやマーク・ザッカーバーグもここに含まれるかもしれません）の手に委ねられようとしているのは事実だからです。あなたは、幅広い民主的な基盤ではなく、こうした孤独で寡頭支配的な人物たちに重点が置かれることを指摘しています。率直に言って、彼らは非常に風変わりな生活を送り、世界に対して奇妙な見方をし、幼少期のトラウマを抱え、SFに執着し、奇妙な不安を抱えているかもしれません。あなたは彼らの一部に会ったことがあります。ある意味でサム・バンクマン＝フリードもその一人でした。あなたの様々なプロジェクトに寛大に支援してくれた友人たちを中傷することなくお聞きしますが、ある程度これらの人々によって運営される世界において、私たちは何を警戒すべきなのでしょうか。
ええ、私は彼ら全員について非常に率直に話すことに全く躊躇はありません。二つのことを申し上げます。第一に、倫理的な問題を扱う企業の打率として考えると、エクソンやフィリップ・モリスのような企業を基準にすれば、主要な3社がデミス・ハサビス（彼はグーグルの一部なので最終的に方向性にどれだけ影響力を持てるかは限定的ですが）、ダリオ・アモデイ、サム・アルトマンによって率いられていることは非常に幸運だと思っています。彼らは皆、平均を上回っています。安全性に投資するなどの対策も講じています。
少し誇大妄想的な傾向を発展させながらですね。
そうですね、彼らは誇大妄想的でもあります。その両方が真実であり得るのです。さて、心配すべきことについてですが、第一に、非常に成功した起業家というのは、すでに一般の人々とは極めて異質な存在です。10億ドル規模の会社を経営するのは楽しい仕事ではないからです。ですから、ある程度誇大妄想的でなければならず、権力を渇望し、何らかの形で成功を本当に強く望んでいなければなりません。また、そのような人々に非常に特徴的なのは、信じられないほどの競争心です。そのようなリーダーたちが同時に強烈なゲーマーであることが多いのは印象的です。協調性が求められる分野において、強烈な競争心は必ずしも我々が望むものではありません。
そして最後に、あなたが今置かれている状況を想像してみてください。人生において何度もクレイジーな賭けをし、他の誰も持っていない信念を持ち、彼らが全員間違っていて自分が正しかった。そして今、あなたは億万長者です。さて、今度は新しいクレイジーな信念を持ったとします。他の人は皆、あなたが間違っていると言います。あなたは再び自分の信念に賭けるでしょう。ですから私は、どれほどの権力が政府の手に渡り得るかについて心配すべきだと考えており、それが私が最も懸念していることですが、同時にどれほどの権力が企業の手に渡り得るかについても深く心配すべきだと思います。ほんの数年のうちに企業の価値は数十兆ドルに達すると予想しています。しかも比較的少数の従業員で。最終的には従業員数が1人、つまりCEOが完全に自動化された労働力を指揮する状況にまで減るでしょう。今後数年のうちに、すべてのスタッフが人工知能であるような1人企業がますます増えていくでしょう。かつて東インド会社が独自の軍隊を持ち、国家レベルの権力を持っていたことを思い出してください。同じようなことが企業で起こる可能性は十分にあります。
ロボット開発の遅れと人間の役割
何か少し私たちを元気づけるようなことを考えようとしていたのですが。
最後に私が言えるのは、私は今日ずっとニヤニヤしながら、というか人工知能の話題になってからずっと当惑したように笑っていますが。もう一度言いますが、私はSFマニアではありませんし、AIのハイプ（誇大宣伝）を煽る側の人間でもありません。企業で働いているわけでもなく、非営利団体で働いています。これらすべてのことについて自分が間違っていると証明されることほど嬉しいことはありません。しかし、私たちが目の当たりにしている変化や、そこから導かれる予測によって、私はもがくようにしてこれらの結論に引きずり込まれたのです。
私の最後の質問はこれです。社会的、経済的な影響についてどのような考察がなされているか何度か言及しました。あなたは先ほど、人間の従業員を必要とせず、個人として巨大な経済力、さらには軍事力を持つCEOのビジョンを描写しました。では、私たち人間は何をするのでしょうか。どうやって生きていくのでしょうか。
そこには少しばかりの楽観的な要素があるかもしれません。この期間、世界は驚くほど豊かになります。富が平等に分配されるとは思いませんが、極端な集中が起こる前に、一度きりの再分配があるでしょう。なぜなら、ロボットの開発が遅れているからです。自分が何を言おうとしているのか分かっているので笑ってしまいますが。現在のところ、ロボットは認知スキルの面でAIに大きく遅れを取っています。進化の過程と、進化が私たちの脳を最適化するのに費やした時間を考えれば、科学はまだ非常に新しいものです。私たちが進化してきた目的とは全く異なりますが、細かい運動の調整、例えばこのグラスを持ち上げてまた置くという動作は信じられないほど複雑です。私たちにとってはあまりにも自然なことなのでそうは感じませんが、それはすべて進化によって脳に組み込まれているのです。さらに言えば、ロボットはまだ存在しません。私たちの触覚の繊細さに匹敵する人間の手と同等のものを実際に作ることはまだできないのです。
ですから、私たちが現在のAIから人間の認知能力をはるかに超えるAIへと移行していく期間、そのAIと人間の労働者との間には補完関係が存在するでしょう。少なくとも、私たちが物理的な世界で行動し、細かい運動スキルを持っており、ロボットがまだ作られていないからです。これは一度きりの利益となる期間であり、人間の賃金は大幅に上昇するでしょう。なぜなら、最終的に私たちを置き換えることになるロボットを作るために、私たちが現場に出て働く必要があるからです。
なるほど。ですから、スマートフォンにカメラやマイクがついていて、それを頭に装着し、AIが何をすべきか指示を出すわけです。まるで監督やコーチがついていて、あなたがロボットを作るための正確な物理的な動きを指示してくれるという状況になるのですね。
もし私が世界を支配しようとしている大物AIグルの一人で、これを聞いていたら、「この男は自分が何を言っているかよく分かっているようだ。我々にとっても少し問題になりそうだから、彼を引き抜いて私がCEOとしてもらっている給料の千分の一くらい（それでも莫大な額ですが）を提示して、彼の頭脳を利用しよう」と考えるのではないでしょうか。あなたの年収3万2000ポンドという上限を超えるような誘惑は全くないのですか。
完全に正直に言うと、それは私がよく侵入思考（強迫観念）に悩まされる問題です。親しかった友人たち、今でも良い友人であり、ともにこの倫理的プロジェクトに参加していた仲間たちが、今や数億ドル、あるいは数十億ドルの資産を持っています。倫理的な観点から言えば、「これが私の収入であり、それ以上の生活はしない」と公言して大きな声で主張してきたことは良かったと思っています。なぜなら、それによって誘惑に負けることができなくなるからです。もし私が「やっぱりあの誓約は諦めて高額な給料をもらおう」と言えば、極めて恥ずかしい思いをすることになります。もちろん、寄付をするためにそうすることも可能ですが、私たちが抱えているボトルネックは資金よりも、アイデアや自由に発言する能力にあると考えています。ですから、知っている人がこれほどまでに裕福になるのを見るのは非常に印象的なことですが、私が立てた誓約の予期せぬ恩恵は、そのような誘惑が選択肢から消えることなのです。
彼らの何百万人もの人々の代弁はできませんが、「ザ・レスト・イズ・ポリティクス」のファミリーの多くは、彼らよりもあなたに深い敬意を抱くのではないかと思います。
それはこれからわかることですね。
ウィル、本日は本当にありがとうございました。素晴らしい対話でした。ありがとうございます。
インタビューを振り返って
ごくたまに、夜中に目が覚めて、「どうして大統領や首相みたいなゲストを引っ張ってくるのはいつも俺ばかりで、ローリーは時折ヒヒと時間を過ごすような奴らを連れてきては、哲学者と話したいんだなんて言い出すんだ？」と考えることがあります。セルビアで一緒にいたチームのみんなにも「なんでこの哲学者なんていう奴を取り上げるんだ？」と言っていましたからね。しかし、私はこのエピソードは絶対的に素晴らしかったと思います。本当に釘付けになりました。
なぜこれほど夢中になったかというと、私はそういう思考回路を持っているのだと思います。シリーズであなたが話していたことも追いかけて聞いていましたし、本も読みます。ビッグネームの伝記も読みましたし、サム・アルトマンの長編プロファイル記事があれば読みます。しかし、私たちが普段話しているような他の話題ほど、この問題に深く飛び込んではいません。そしてそれは、部分的には恐怖から来ているのだと思います。彼が基本的に言っていたのは「ええ、あなたが恐れるのは正しい。我々はそれに直面し、理解しなければならない」ということだと思います。
そしてあなたが指摘した、現在の政治の状況についてのポイントもそうです。先日保守党の地方選挙の放送を見ましたが、あなたが言った通り、私たちの政治は80年代で止まっています。「より強い経済を提供します」「学校を良くします」「これに対処し、あれに対処します」といった具合で、本当に別の時代に戻ったような感覚でした。彼は「これが今の時代であり、私たちはこれについてもっと話さなければならない」と言っているのです。ですから、リスナーの皆さんもこのエピソードをとても気に入ってくれると思います。
あなたの最後の質問も本当に良かったと思います。彼は高度な知性を持ち、非常に理路整然と話す人物でありながら、私たちが後で話したように、「えー」や「あー」を多用することなく、非常に複雑なことをとてもシンプルに説明する能力を持っています。それは知性というものの本当に優れた定義だと思います。さらに彼は今でも独立性を保っており、あなたが指摘したように、それは非常に稀なことです。もし私がこれらの企業の一つからアプローチを受けたらどう感じるか神のみぞ知るですが、実際にその一つから年間2億ドルのオファーを受けた人を知っています。彼が自虐的に、侵入思考に襲われるし非常に誘惑されることもあると言いながらも、自分はそういうことをしない人間だと公言しているから、そうするのは本当に恥ずかしいことだと言えるのは素晴らしいことです。それがどれほど強力な抑制力になっているか。そして、そのような姿勢をもっと見たいと切に願います。
ロマンチックになりすぎるつもりはありませんが、過去にはもっと多くの人々が、強い恥の意識や当惑を感じることで、今の政治ではますます普通になっているような行動に歯止めをかけていたと思います。トランプ政権はその最も極端な例です。しかし本当にありがたいことです。なぜならおっしゃる通り、彼らの大半は買収されてしまうからです。偉大なAIの頭脳のほとんどは、最終的にこれらの企業の株式を持ったり、コンサルティンググループに入ったりしてしまいます。そうなってしまえば、誰が彼らを本当に批判できるでしょうか。
興味深かったことのもう一つは、政治家や政府がまだこれをコントロールできると彼が明らかに考えている点です。私はそれについては確信が持てません。なぜなら、これらの人々の多くは今や経済的にも技術的にもあらゆる面で非常に強力になり、彼らこそが真の主権的個人であり、最終的には国家以上の権力を持つことになると思うからです。おそらく彼に聞くべきだったのは、彼が話していたアルトマンやマスク、その他の人々は、中規模のラテンアメリカ、ヨーロッパ、アジアの国の大統領や首相と比べて、より強力なのか、それともそうではないのかということでした。私ははるかに強力だと思います。
彼が唯一言いそうなことは、アメリカの連邦政府のような権力を決して過小評価すべきではないということだと思います。もし政府が望めば、彼らを刑務所に放り込むことだってできるわけですから。それでも、アメリカ政府は軍隊を持っていますが、彼らにはありません。
しかし現実的な問題として、あなたの言う通りです。これらの人々は非常に裕福で影響力があり、トランプ政権は腐敗しています。これは完璧な嵐（最悪の事態）です。長期的でまともな規制を求めるには、トランプが大統領である今は最悪のタイミングです。AIの爆発的進化という、世界におけるテクノロジーの最も危険な瞬間に、この問題に全く関心のない大統領がいるのです。さらに競争という要素も加わります。これらのリーダーたちは皆、AIの安全性について懸念していると言いますが、競合他社がアクセルを踏み続けている限り、自分たちだけが対策を講じるつもりはありません。そして彼らは中国を引き合いに出して同じ主張をします。我々だけがアメリカ国内で規制しても意味がない、もし中国がそのまま進んだらどうなるのか、と。つまりこれは囚人のジレンマの問題であり、底辺への競争なのです。誰もが「もちろん、私一人の問題ならもっとうまく振る舞うが、他の全員がやっているなら、私がやる意味があるのか」と言う状況です。
そしてそれは、あなたが言っていた未来の選択に繋がっていくのだと思います。彼が民主主義が生き残る確率を50パーセント以下だと言ったように。だからこそ、AIの進歩は確かに非常に速いですが、彼が「中国は9ヶ月遅れている」と言った時、私にはそれが長い時間には感じられませんでした。
ええ。それに独裁国家であれば、もっと早く追いつくことができます。何より彼らは非常に優秀ですし、サンフランシスコやロンドンの話が出ましたが、現在中国ではどれほどの素晴らしい頭脳がこれに取り組んでいるのでしょうか。
信じられない数です。清華大学は現在、アメリカのどの大学よりも多くのトップレベルのコンピューター科学者を輩出しています。中国の圧倒的な人材の重みを考えれば、彼らが不利だと賭けるのは得策ではないでしょう。
私から最後に二つほど言わせてください。現在私たちがやっていることについて、実はかなり明るい気分になっている理由の一つでもありますが、政党の献金者や雇用主の言うことを過度に気にすることなく、比較的オープンに物事を話せる状況にいることの幸運さを実感しています。政治家が自分の考えていることを正直にオープンに話す上で、どれほど制約を受けているかを考えると心配になります。
もう一つ、ウィルの素晴らしい点は、インタビューの序盤でメンタルヘルスについて尋ねた時、彼がどう答えたかです。最初は彼にとってそれが信じられないほど苦痛だったと語りました。もっと安い朝食用シリアルを買えば、アフリカの極度の貧困層にもっと寄付できるのではないかといった不安のスペクトラムに囚われていました。それが今では、私が知る限り、驚くほどユーモアがあり、機知に富み、リラックスしていて、世界の複雑さや不条理さに対して明るい態度を保っています。それは非常に元気づけられる話でした。私はまだそこまでは到達していませんが。
心配いりません。まだまだ先は長いですからね、アラステア。
いずれにせよ、ありがとうございました。リスナーの皆さんがどう思うか楽しみです。サポルスキーの回が意外なヒットだったことは認めます。でも、ごくたまには、ローリー、大統領や首相を引っ張ってきてほしいものですね。ごくたまには。
ええ、ええ。それに、私が大物を引っ張ってきたと感じる時、あなたはしゃしゃり出てきて彼らの功績を横取りし、「どうしてやってくれないんだ」なんて言うのが好きですよね。
ちょっと待ってください。ケミ・ベーデノックについて話すなら、私ならテキストメッセージ1通でイエスをもらえますよ、もうそこまで進んでいます。
数日前のテキストメッセージのやり取りを共有しましょうか？私はあなたと違って、どこかへ行くとすぐに自分の手柄を他の人に自慢したりしませんから。
なるほど、じゃあ自慢大会と行きましょうか。自分が頑張って働いている時に、何もしていないと他人を侮辱するなんて、チームのモチベーションを上げる方法じゃありませんね。
私はチームのモチベーションを上げるのはかなり得意な方だと思いますが。
まあ、今のペースじゃこのチームは無理でしょうね。私たちはたぶん、また哲学の世界に迷い込もうとしているんだと思います。
全くですね。私たちとケミのいざこざなんて、誰も聞く必要はないでしょう。さて、アラステア、どうもありがとうございました。ケヴィン・ブロックが出演してくれたら、リスナーもさぞかし興奮するでしょうね。
ありがとうございました、アラステア。さようなら。
コメント