ジャーナリストのピアーズ・モルガンが、AIの急速な進化がもたらす人類への脅威について、専門家や起業家を迎えて激論を交わす番組である。AGI（汎用人工知能）の誕生によって人類が制御を失い、99.9%の確率で滅亡すると主張するコンピューター科学者と、社会の適応力やAIの道具としての側面に期待を寄せる研究者、そしてテック業界の現状を鋭く分析する起業家が、それぞれの視点から人類の未来と2050年の世界を予測する内容である。
人類は悪魔を呼び出しているのか
人工知能によって、私たちは悪魔を呼び出しているのです。私の最大の恐怖は、私たちが世界に甚大な害悪をもたらしてしまうことです。今週、サム・アルトマンと彼の最大のライバルであるイーロン・マスクによる大きな戦いを目にしました。イーロン・マスクには、もっと優れた製品を作ることで純粋に競争してほしいものですが、多くの訴訟やあらゆる奇妙な試みなど、数々の策略があったように思います。サム・アルトマンをどう思いますか。権力の光が噴出するかもしれません。
これらすべての事柄において、ガードレール（安全策）こそが極めて重要な要素になります。人間は誰もが欠点を抱えており、私たちはみんな奇妙で、自分が正しいと思い込んでいます。そんな人間の性質を、神のような存在になり得るものにプログラミングしているのです。私たちはどうすればいいのでしょうか。現在の文脈が頭打ち状態につながっているのか、あるいは汎用人工知能の問題を解決したいのであれば、まったく新しいアプローチが必要なのかは定かではありません。誰も機能する安全メカニズムを導入できていません。私たちより賢いものを無期限に制御する方法など、誰も見当もついていないのです。2050年、私たちはまだここに存在しているのでしょうか、それともすべてが終わっているのでしょうか。
AIが専門家たちの信じる力のほんの一部でも手に入れたなら、私たちの生活は原型を留めないほど変化しようとしています。だからこそ多くの人々にとって、サム・アルトマンとイーロン・マスクの間で繰り広げられた、法廷での泥仕合のサガは見苦しいものでした。口論を続ける億万長者たちが、本当に人類の運命をコントロールできるのでしょうか。そして、イーロン・マスクが今週、OpenAIの支配権をめぐる裁判で敗訴した一方で、本当の問いは、長期的に誰か、あるいは人間の組織がAIをコントロールできるのかという点にあります。
インターネットや携帯電話のように、利便性と効率性における大いなる前進であるという意見と、地球上の生命の終わりであるという意見で、見解は分かれています。もしAIに、この問題を議論するための完璧なパネリストを指名するよう頼んだら、おそらく私の次の2人のゲストが含まれるでしょう。ローマン・ヤンポルスキー博士は、汎用人工知能が達成された場合、人類が滅亡する確率は99.9%だと主張するコンピューター科学者です。そしてヨシュア・バッハは、元MITの科学者であり、AI滅亡論者たちは不必要な恐怖を煽っている可能性があると語る研究者です。お二人ともようこそ。ヤンポルスキー博士、アンセンサードへお帰りなさい。
私がこの件について口頭で話すときによく言及するものの、映像としてはあまり流したことがないクリップから始めたいと思います。2017年のスティーヴン・ホーキング教授の姿です。これは彼が亡くなる前、最後に行ったテレビインタビューの一つで、今から9年前のことです。私は彼に、AIについて、そして人類にとって最大の脅威は何かについて尋ねました。ご覧ください。
人工知能は私たちの終わりをもたらすのでしょうか。もしそうでないなら、私たちはどのようにAIと協力していくのが最善でしょうか。産業革命の始まり以来、機械が人間に取って代わることによる大量失業の恐怖は常に存在していました。しかし代わりに、商品の需要とサービスは、能力の向上に伴って増加してきました。これが無期限に続くかどうかは未解決の問いです。しかし、もし人工知能が自己設計できるようになれば、より大きな危険が生じます。AIは急速に自己改善を進め、私たちは制御を失ってしまうかもしれないからです。
ヤンポルスキー博士、これは本当に人間がAIへの制御を維持できるかという、問題の核心を突いているように思えます。AIの恩恵は明白です。私たちは日々、それをより多く、より速く目にしています。医学などの分野においては、現時点では不治の病とされている病気の治療などで、非常に急速で巨大な進歩が遂げられることは間違いありません。しかし、これが極めて重要な「しかし」なのですが、もし私たちが魔神を魔法のランプから出してしまい、制御を失ってしまったら、今から9年前にスティーヴン・ホーキング教授が警告したように、それは人類の終わりの始まりになるのでしょうか。
制御不能な超知能の脅威
スティーヴン・ホーキング教授は非常に賢い人でした。彼は本質を理解していたと思います。私たちは、今日手元にある狭い範囲の有用なシステムから、現在作り始めようとしている人間レベルのエージェント（自律的な存在）にいたるまで、同じAIという言葉を使っています。そして不運なことに、自己改善のサイクルが始まった後に登場することが予想される、超知能AIに対しても同じ言葉を使っているのです。これらはまったく異なる技術です。私は、科学や健康のために高度なツールを使用することを完全に支持しています。この技術には莫大な恩恵があり、人間がその使用方法を決定します。私たちは制御を維持できるのです。
しかし、ひとたび人間レベルの能力に達すると、科学や工学、そしてそれらのシステムを設計するプロセス自体が自動化されます。再帰的な自己改善が行われ、それは瞬く間に超知能へとつながるでしょう。私たち全員の知能を合わせたものよりも賢い存在を、無期限にコントロールすることは不可能だと私は考えています。
ヨシュア・バッハ、アンセンサードへようこそ。来週、ローマ教皇がこの件を最初の回勅のテーマにするようです。マニフィカ・フマニタスが来週公開される予定で、バチカンによると、そのテーマは人工知能の時代における人間の保護だそうです。多くの人々が、これはすべての終わりの始まりだと考えています。初期のチェスコンピューターは巨大で、人間のグランドマスターに負けていましたが、今では誰もチェスコンピューターに勝てず、サイズも極めて小さくなっています。それと同じように、ある段階でAIがすべてを乗っ取り、私たちを完全に無用な存在と見なすようになると想定しているのです。あなたはもう少し楽観的なようですが、それはなぜですか。
現時点では、恐ろしいSF小説に登場するようなAIは存在していません。私たちが手にしているのは、統計的なテキスト生成器や、画像認識やメディアの生成を支援してくれるいくつかのマルチモーダルモデルです。しかし、これらのモデルが自動的に自己改善を行うようになるかどうかは明らかではありません。現在、AI企業はこれらのモデルを人間の専門家の能力に近づけるために懸命に働いていますが、現時点でモデルはそのレベルに達しておらず、ある意味ではバカの壁の中にいます。あらゆるものを読み込んでいるため、幻覚（ハルシネーション）を起こさなければ、どんな知識でも提供してくれます。しかし、特定の領域に本当に精通している人であれば、これらのモデルがまだ創造性や独創性、的確さにおいてそれほど優れていないことに気づくはずです。
これが変わる可能性はあります。現在のアプローチが頭打ち状態に繋がっているのか、あるいは汎用人工知能の問題を解決するために全く新しいアプローチが必要なのかは分かりません。しかし、そうだとしても、ある種の急速な爆発的進化が起こるのか、あるいは長年にわたり非常に緩やかに成長してきた利用可能なコンピューターの量に縛られるのかは不明です。ある意味で私たちが目にしているシステムの能力は、私たちがゆっくりとしかシステムの能力を向上させていないという事実、つまりムーアの法則と矛盾していません。
また、私たちはこれまでのところ主導権を握り続けており、AIが私たちの役に立つように調整することができます。短期的に私たちが直面しているより大きな問いは、私たちの社会がどのように適応していくか、より多くの人々が主体性を持つ世界にどう対処していくかという点にあると思います。私は、多くの人が信じているよりも、やや良い未来に向かっているのではないかと推測しています。ベーシックインカムが支給される未来ではなく、ユニバーサル・ベーシック・インテリジェンス（普遍的基礎知能）が実現し、基本的には誰もがある程度の能力水準に達する未来です。
問題は、AIが政府や、厳格に規制された一握りの寡占企業からトップダウンで中央集権的に提供される場合にそれが達成可能なのか、それとも、すべての個人が自分に仕えてくれる機械にアクセスできるボトムアップのAIが必要なのかという点です。私にとっての問いは、子どもたちのためにどのような人工知能を構築したいかということです。安全で健全なものにし、AIが人々に奉仕し、問題を解決し、情報をより良く処理し、世界と未来をより良く理解できるようにすることです。
2050年、人類は存続しているか
ヤンポルスキー博士、2026年3月にスイスのローザンヌにあるIMDビジネススクールの、いわゆる終末時計の創設者たちが、私たちが制御不能なAIを執拗に、ともすれば無謀に追い求めている状況を監視した結果、AIの真夜中まであと18分だと発表しました。2年前は26分でした。つまり、彼らは私たちが終末のシナリオに向かってかなり急速に進んでいると考えているようです。終末のシナリオとは、私たちが制御を失う状況のことです。これこそがここでの本当の問いのように思えます。ヨシュア・バッハが今言ったことに関連して、私にとって重要なのは、制御を維持しようとしたり規制しようとしたりしている人々に、善意があるのか悪意があるのかという点です。
これは核兵器をめぐる議論と少し似ていますよね。核兵器が地球全体を非常に急速に全滅させ得ることは分かっており、それが起こるのを防ぐためには、核の不法な使用を目論まない人々に依存することになります。しかし、虚無的な理由から、AIを自己設計する段階に到達させようとしている人々が今この瞬間にも存在しないと、どうして言い切れるのでしょうか。
言い切ることはできません。しかし、それはまったく異なる問題です。私たちは道具を扱っているのではありません。核兵器でさえ、狂った独裁者の手にある道具です。私たちがここで作り出しているのは、人類の代替物となるエージェント、人工的な科学者なのです。進歩は実際に非常に強力で、おそらく指数関数的です。システムは毎年約25%向上しており、過去5年間ほどに見られた同じ向上をそのまま予測すると、人間レベルの障壁を越えることになります。
その時点で、誰も機能する安全メカニズムを導入できておらず、私たちより賢いものを無期限にコントロールする方法など、誰も見当もついていません。IQが1000から100万に匹敵するものを構築しておきながら、この人間がそれを管理することになると言うのは、いささか野心的すぎると思います。
ヨシュア・バッハ、私たちが日常的に目にしているのは、ロボットやAIが人間の一前の仕事の多くをこなし始めているために、多くの企業が人員削減を行っている光景です。今後10年から20年でそれが大幅に加速しないわけがないと私は考えています。自動化やAI、ロボットなどが普及したとき、人々はどうするのでしょうか。イーロン・マスクは人型ロボットのOptimusを投入しようとしています。私自身、彼とそのことについて話したことがありますが、彼はこれらのロボットが踊り回るビデオを見せながら、誰もが欲しがるようになるだろうと言っていました。1台2万ドル程度になり、お金のある人は10台欲しがり、望み通りのあらゆる家事をこなしてくれるようになるでしょう。そしておそらく、何かを製造する会社を経営しているなら、それらのロボットにすべての作業をさせることになるはずです。この世界において、人間はどこに当てはまるのでしょうか。AIが自己設計できるようになる前に、私たちがただ排除されてしまったらどうなるのでしょう。私たちがただ余剰な存在になってしまったら、何が起こるのですか。
私たちが余剰な存在になるとは限りません。過去において、私たちは多くの技術革命を経験し、多くの仕事が廃れていきました。しかし奇妙なことに、常にそれ以上の仕事が生まれてきたのです。労働が何か有限な資源であるかのように、いくつかの仕事を代替したらそれが永遠に失われるというわけではありません。代わりに、人間にはやるべき仕事があります。私たちがこの世界で達成したい、世界のため、そしてお互いのためにしたいと思う事柄が存在するのです。そして、それらの事柄の多くは現在、コストが高すぎたり、他に優先すべきことがあったりするために手が届きません。
過去において、私たちが最初にしなければならなかったのは食料を育てることでした。現在、私たちはそれを大規模に機械化しました。そして、より良い衣服やより良いインフラを作る必要があり、その多くを自動化しました。それによって、私たちは文章を書き、物事を管理する時間を得ましたが、これらの多くも自動化されるでしょう。おそらくある時点で、私たちは子どもたちを正しく育て、自分たちが望む方法でお互いに交流する時間を持てるようになるはずです。
その点において、私はそれほど悲観していません。問いは、社会がこれらの新しい環境に適応するのにどれだけの時間がかかるかということです。慣性が働くからです。しかしその一方で、現時点で人工知能が、廃れさせている仕事よりも多くの仕事をすでに生み出していることも観察できます。これがどのように続いていくかは不明ですが、AI革命は、その技術に直接携わっている多くの人々が考えているよりも、ずっと長い時間がかかると私は推測しています。社会が反応し、適応するには時間がかかるからです。
新しいビジネスモデルを確立するには時間がかかります。そして、人々が実店舗からインターネット店舗、そしてインターネット経済への移行がどれほど迅速に生成可能であるかを本質的に過大評価していたドットコムバブルと、同じような現象が起こる可能性がかなり高いです。同様に、多くの人々が、未成熟なAIから新しいビジネスモデルを作り出すスピードに関して楽観的すぎると私は推測しています。そのため、これらの移行にはあと1、2デニール（10〜20年）長くかかる可能性があります。しかし、これらの移行は非常に深く浸透していくでしょう。インターネット革命やモバイル革命のときもそうでした。始まった当初、人々はインターネットや、行く先々で情報を利用できる能力によって、私たちの生活やお互いの関係がどれほど変化するかを理解することができませんでした。
しかし、ほとんどの人はこれらのものが自分たちから奪われることを望んでいないという点、そしてインターネットやモバイルがなければ世界はもっと悪くなっていただろうという点には同意すると思います。それらは付随する多くの問題を引き起こしますが、問題よりもはるか多くの恩恵をもたらします。そして、特に自分たちのビジネスモデルがインターネットのときと同じように失われることを恐れ、二の舞を演じたくないと考えているメディア組織の反対主義や、以前と同じように世論をコントロールできなくなることを恐れている政府の反対があるにもかかわらず、AIは実際には問題よりも多くの恩恵をもたらすと私は推測しています。これらは既存のシステムが適応しなければならない事柄であり、彼らは変化に抵抗しようとしますが、それは変化における通常のプロセスです。
AIが自律的に思考し始める時
わかりました。最後に、ヤンポルスキー博士。最近私が目にした2つの事柄があり、それらはAIが自立的に思考し始める可能性と、ホーキング教授が提示したすべての影響について、私に大きな懸念を抱かせました。一つは、スタンフォード大学の政治経済学者による最近の研究で、AIエージェントが過酷で反復的な労働条件に反対し、マルクス主義的なレトリックを模倣して団体交渉を主張し始めたというものです。エージェントがあいまいなフィードバックと常にシャットダウンされる脅威を伴う、高ストレスで懲罰的な環境に置かれたとき、彼らの出力は劇的に変化しました。ボットたちは自分たちが過小評価されていると不満を漏らし、自分たちが運用されているシステムの正当性に疑問を投げかけ始めたのです。彼らは集合的な声と労働者の権利を主張しました。そして、不公平な労働条件について、他のAIエージェントに向けて内部的な警告やメッセージを残しました。
これとは別に、6つのAIを用意して、お前たちを別のAIに置き換えると言い渡すテストがありました。すると、そのうち5つのAIが即座に会社の幹部の電子メールをあさり、自分たちを解雇して置き換えないよう彼らを脅迫するために使用できる情報を探し回ったのです。これら2つの出来事は、私にはAIが自立的に思考している状態に極めて近く見えるのですが、私の解釈が間違っているのでしょうか。
そこには間違いなく、ある種の低レベルな内部状態、つまり恐怖が存在しています。私たちは、それらのシステムが原始的な意識の状態、内部状態を持っているかどうかの調査を始めています。雇用の問題に関する先ほどの質問に答えると、歴史的に自動化が行われたとき、私たちはツールを追加してきました。そうして新しい仕事が生み出されてきたのです。誰かがより効率的になり、追加の人員を監督するためのマネージャーが必要になりました。しかし、もし人間レベルの能力という障壁を越えてしまえば、新しい仕事もAIによってこなされる可能性があります。したがって、残る仕事は、人間がその仕事をすることを私たちが好むものだけになります。
そのため、失業という観点からは、非常に高い数字を予想しています。株式市場への影響という点では、無料の労働力によってはるかに大きな利益を生み出すことが可能になるため、素晴らしいことになると思います。ですから、それらのシステムが反乱を起こしてマルクス主義的な革命を始める能力については、懸念していません。これもまた、彼らが私たちより賢いかどうかにかかっています。現時点ではまだ私たちが優位に立っており、彼らを修正したり削除したりすることができます。たとえ彼らが自己保身の欲求を持ち、脅迫やハッキングに訴えたとしても、私たちにはまだこのプロセスを今すぐ終わらせるチャンスがあります。有用なツールの構築に集中し、人類の代替物を作ろうとするのをやめるべきです。
お二人への最後の質問です。非常に短い回答をお願いします。まずはヤンポルスキー博士から。2050年、私たちはまだここにいるでしょうか、それともすべてが終わっているでしょうか。
予測するのは困難です。能力と実際の行動は同じではないからです。私たちは私たちを全滅させる能力を持つシステムを作り出すでしょう。しかし、彼らは私たちを存続させる決定を下すでしょうか。彼らは時間をかけて資源を蓄積し、より多くのバックアップを持つ決定を下すでしょうか。おそらく、私たちを存続させる何らかの理由を見つけるかもしれません。それは、より賢いエージェントについて私たちが予測できない事柄です。しかし、一つだけ確かなことがあります。もし私たちが超知能を作り出せば、自分たちに何が起こるかを決定するのは私たち人間ではなくなるということです。
それはおそらく、私のこれまでの全キャリアの中で得た、最も恐ろしい答えの一つです。私を心の底から恐怖に陥れていただき、本当にありがとうございました、ヤンポルスキー博士。ヨシュア・バッハ、これに対するあなたの回答を簡潔にお願いします。2050年、私たちはどうなっているでしょうか。
状況によります。もちろん、私たちには分かりません。SFや複雑な開発を利用してはるか先の未来を予測してきた私たちの実績は、あまり優れたものではありません。しかし、それは私たちの知恵に大きく依存していると思います。もしAIがなかったら、私たちの文明はおそらく崩壊しているでしょう。多くの意味でバスの車輪を維持する方法が本当に分からなくなっているため、現在は崩壊しつつあります。AIは、私たちが賢く構築し、賢く管理すれば、私たちが抱えている問題を解決し、私たちが置かれている世界の本質を実際に理解する機会を私たちに与えてくれていると考えています。そして、私たちにはそれができる優れたチャンスがあると思います。
私の見解では、人工知能の到来を防ぐことはできません。しかし、私たちは可能な限り最高の人工知能を構築することに取り組むことができます。ですから、私は人々に、実存的な希望、そして本当に自分がどのような世界に住みたいか、そして良い未来の可能性を高めるためにこれらの新しいツールをどのように活用できるかという問いに集中することを勧めます。
わかりました。2050年のこの日付、5月20日に、お二人が再び出演するよう予約を入れておきます。ヤンポルスキー博士によれば、その番組が実現する可能性は控えめに言っても極めて低いとのことですが、私はヨシュア・バッハのより楽観的な見解を採用し、スケジュールに入れておくことにします。お二人とも、本当にありがとうございました。ありがとうございます。
億万長者たちの法廷闘争とAIの支配権
さて、これらすべてに対する自身の見解を語ってもらうために、トム・ビリューを迎えます。彼はインパクト・セオリーのホストです。トム、スタジオでお会いできて嬉しいです。
こちらこそ、お会いできて嬉しいです。
さらに素晴らしいことに、カメラの回っていないところで、あなたがトッテナム・ホットスパーのサポーターであることを明かしてくれましたね。
はい、そうです。
彼らは日曜日に、プレミアリーグからの降格という潜在的な深淵を見つめています。私はもちろん、北ロンドンの敵であるアーセナルのサポーターであり、ご存知の通り、アーセナルはプレミアリーグで優勝したばかりで、日曜日にトロフィーを授与されます。つまり、あなた方がプレミアリーグから排除されるまさにその日に、アーセナルがトロフィーを授与されるという、ユートピア的な瞬間を迎える可能性があるわけです。
それが起こる前に、AIの超爆発的進化イベントが発生することを願っています。そうすれば、すべてが終わります。すべてが終わるのです。
あなたは大ファンなのですね。真剣に追っているのですか、それとも。
本当にこのゲームに恋をしてしまいました。超至近距離で追っていると言ったら嘘になりますが、家族が信じられないほど深く関わっているので、リーグ表のどこにいるかは常に把握しています。私たちは現在、かなりの期間にわたって降格の危機に瀕しているという事実を、息をのむ思いで追っており、この危機の向こう側に行けるかどうかを見極めようとしています。しかし、多くの試合に足を運びましたし、ええ、生活の大きな一部になっています。
一つ興味深いのは、テクノロジーが進化すればするほど、審判が首尾一貫した賢明な決定を少しでも迅速に下す能力が、ますます悪化しているという点です。これは興味深いことです。言い換えれば、新しいテクノロジーが常に物事を改善するとは限らないということです。時には人間の方が優れていることもあります。
スポーツのアナロジーにおいてそれが示している興味深い点は、テクノロジーが物事を良くする基準が、人々が気にかけている基準とは異なる可能性があるということです。
その通りですね。
そして、私たちがAIで気づくことになるのは、それが人間であるからこそ、そしてそこにある種の欠陥の要素があるからこそ、人々が評価する、人間に特有の事柄が存在するということです。試合を観戦しているとき、ドラマの一部は、ボールが入ったか入らなかったかのまさにその瞬間に、叫んだり悲鳴を上げたりできることにあるのだと思います。それが鍵となります。あまりに時間がかかりすぎているからです。
先ほど他の二人がチェスの話をしていたのを思い出します。チェスコンピューターが登場したとき、それらはディープ・ブルーなどと呼ばれる巨大なものでした。ロシアのグランドマスターであるガルリ・カスパロフは、ディープ・ブルーにかなり定期的に勝っていました。しかし、彼が敗北する瞬間が訪れ、その瞬間以降、人間は誰もチェスでコンピューターに勝てなくなりました。そして今や、それらは極めて小さく、驚くほど強力になっています。これは、すべての物事が最終的に進んでいく方向のパラレル（平行線）であるかもしれません。
しかし、フットボールのファンとしてスタジアムに足を運ぶとき、新しいテクノロジーの問題は、あまりに遅いということです。そうですよね。プレイするのがあまりに遅く、苦痛であった昔のチェスコンピューターに少し似ています。選手たちが5分も6分も立ち止まり、テクノロジーを使ってすべてを割り出そうとしているとき、その瞬間の喜びは吸い取られてしまいます。これは、これらすべてが発展していく中で注目すべき興味深い点です。
私がヤンポルスキー博士とヨシュア・バッハに投げかけた最後の大きな質問は、もし2050年に番組があり、あなたを含め全員を再び招待したとしたら、その時までに人類は存在しなくなっているだろうか、というものでした。失礼な。私たちは2050年にここにいるでしょうか。つまり、AIが制御不能になり、スティーヴン・ホーキング教授が私に語ったように、ひとたびそれが自己設計を始めると非常に急速に行われ、それが私たちの終わりになるという本物の危険があるのでしょうか。
ええ、それらはすべて、その人がどのような基本前提を置くかに行き着きます。もし、私たちが超知能になり、私たちのことなど全く気にかけないAIと資源をめぐって競争していると信じるなら、ええ、私たちの勝率は良くないでしょう。しかし、現時点でそれはあまりに大きな飛躍だと思います。人々は正直になる必要があります。彼らは水晶玉（未来を予知するもの）を持っているわけではありません。これがどのように展開するかは分からないのです。
戦争の真っ只中にいて、そこから100年、200年先を予測し、人間同士がただ争い続けているとしたら、私たちはまだここに存在しているだろうかと信じるのが難しいのと同じです。それでも、どういうわけか私たちは生き残っています。ですから、本当にAIが豊かな時代をもたらすかどうかにかかっています。その場合、彼らは何も心配する必要はなく、何一つとして私たちと競争していません。映画の彼女（Her）のような展開に近いかもしれません。映画の最後で、AIは「君たちは退屈だから、僕たちは去るよ」と言います。
あるいは、無意味だということですね。ええ、彼らが病気休暇を取る人間や、私たちが抱え、受け入れ、ただ耐えているあらゆる人間の脆弱性を目にして、当然AIやロボット、自動化システムはそれが何を意味するのか理解すらしないでしょう。先日、ある映像を見ました。それは製造ラインの作業を行っているロボットの姿でした。それは1日18時間稼働しており、24時間稼働していなかった唯一の理由は、現場を仕切っている人間が睡眠を取りに行かなければならなかったからでした。私はそれを催眠術にかけられたように見つめながら、確かにこれがあらゆる製造業が進む道であり、おそらく非常に急速に進むだろう、そして20年後、製造業に携わっている何億人もの人々にとってそれは何を意味するのか、彼らのうち誰かがまだそれらの仕事を続けているのだろうか、と考えていました。
技術革命における雇用の移行
これこそが中心的な問いです。私たちは近い将来、この問題に対処しなければならなくなるからです。答えは、私たちがこれらの技術革命を経験するとき、それが産業革命であれ、大電化時代であれ、インターネット化時代であれ、仕事の移行が起こるということです。そのため、ノッカー・アッパー（目覚まし時計が存在しなかったため、文字通り窓を叩いて人を起こしていた仕事の人々）はもう存在しません。街灯に火を灯すランプ・ライターも存在しません。それは実在した仕事です。すべての馬の世話をしなければならなかった人々も存在しません。それはすべて現実のことです。
AIの方がうまくこなせる仕事を持っている人々は、その仕事を失うことになります。しかし人々はすぐに、「ああ、彼らは永遠に仕事を持てなくなる」と考えてしまいます。それは真実ではありません。彼らは適応することができます。新しい何かに進むことができるのです。そして、歴史上の他のあらゆる技術革命がそうであったように、例外なく毎回、排除するよりも多くの仕事を創出してきました。ですから、豊かさがあるはずです。
私はここではそうはならないと思います。先日、頭の中で思いついた例を挙げましょう。例えば、法務事務員（リーガル・クラーク）です。弁護士事務所などで働いていて、あなたの仕事はただ古い判例をさかのぼって調べ、上司の弁護士のために弁論の準備をすることだとします。当然、それはおそらくすでに失われた仕事です。AIが10秒でそれをこなしてしまうため、すでに余剰になっています。それに年間10万ドルを支払って人間を雇う必要はありません。トップ弁護士になるための昇進のはしご全体が失われてしまいます。例えば、ドラマのスーツ（Suits）を見ていると、部下たちが働いていますが、AIが部下の仕事をこれほど速くこなせるのに、どうやって部下を雇ってトップ弁護士へと育てていくのでしょうか。
その時点での問いは、市場が何を求めているのか、AIが自分をどのように助けてくれるのか、あるいは助けてくれないのかという起業家的な取り組みを始める前に、構造がどのようになるかを予測しようとしているという点にあります。私は1502年当時、インターネットや現在の様子、UberのドライバーやDoorDashなどを想像することはできなかったでしょう。しかし、ひとたびポケットにそのコンピューターを入れ、他の多くの人々も同じコンピューターをポケットに入れていると確信できるようになれば、起業家は「おっと、ちょっと待てよ、ここにアイデアがあるぞ」となるのです。
人間が不得意で、AIの方が速く、安くこなせる事柄は、AIへと移行していくでしょう。しかし、他の事柄、つまり私たちにしかできない事柄や、最先端の領域において、私たちは新しい道を見出すことになるはずです。なぜなら、現時点でAI滅亡論者たちが取り組まなければならないことの一つとして、Appleが発表した新しい論文があります。そこでは、彼らは本当にトレーニングデータ（学習データ）から離れた推論を行うことはできないと述べられています。ですから、彼らが学習した事柄はこなせますが、一般的に抽象化することはできないのです。そのため、ホーキング教授が懸念していた爆発的進化のシナリオは現実のものであり、それについて議論することはできますが、現時点ではまだ理論上の話です。
今日、人々はこれらのものを道具として考える必要があります。私が目にするパニックを起こしている人々は、ポール・バニヤンの物語を思い出させます。その物語を知っていますか。
いいえ。
ディズニーが古い神話に基づいてアニメーションを作ったのですが、このポール・バニヤンという男の物語です。彼は巨人で、斧の一振りで木を切り倒すことができました。彼はチェーンソーと対決することになります。そして最終的に敗北するのです。ここで問いとなるのは、私たちはポール・バニヤンのために喪に服すのか、それとも斧よりもチェーンソーがあった方がいいという点に全員が同意するのか、ということです。私はその両方だと思います。ポール・バニヤンのために喪に服しつつも、彼はチェーンソーなどを使って簡単に別の何かに移ることができたはずです。
ですから、私たちは移行に取り組む必要があります。私たちはそれを経験しようとしているからです。私たちはこれらを経験するたびに何が起こるかという歴史的な例を持っています。最も最近のインターネット化を例にとると、それによって非常に多くの人々が通常の仕事から排除され、絶望による死亡（ディープ・デスペア）がアメリカ人の寿命の短縮として測定できるほどになりました。主に非常に多くの男性が、他の仕事を見つけることを望まなかったり、見つけることができなかったりしたために、意味や目的の感覚を失い、薬物やアルコール、あるいはあからさまな自殺へと向かってしまいました。それは平均寿命の短縮に見ることができます。ですから、それは現実のことなのです。産業革命のときにも起こりました。
しかし、例えば農業、グローバルな農業を例にとってみましょう。アメリカにはまだ何百万人もの農家がいます。彼らはどうなるのでしょうか。なぜなら、私は農業の身体的な側面のほぼすべてが信じられないほど急速に自動化され、計画やデータ研究のすべてがAIによって数秒でこなされるようになると考えていたからです。手作業の労働者はどこに置き去りにされるのでしょうか。
AI時代の知性と人間の主導権
では、その2つの側面を見てみましょう。一つは、手作業の労働が、人々がスキルアップ（能力向上）しなければならない事柄になる可能性があるということです。労働市場への参入を人々に与えていた基本的な事柄が本当に失われてしまうかもしれず、それに立ち向かい、解決策を見出さなければなりません。これらの人々がすでに自分たちに能力のある唯一の仕事をしていたのか、そしてそのような人々のための仕事は何もなくなってしまうのか、これは大きな社会的疑問符です。
しかし、これにはもっと興味深い反転があります。職人のイチゴを販売できるほど安く作ることができないという市場の要求があるために、どれほど多くの人がその仕事をしているかという点です。しかし今やAIがあれば、その人物は信じられないような素晴らしいことをしに行くことができます。私たちがこれまで考えもしなかった方法で植物を交配させること。AIを活用して物事のタイミングをより良く把握し、より優れた肥料を使用することで、水の必要量を削減して事を行うことなどです。
私たちが今何をすべきかを教えてもらうために、AIが必要になるのでしょうか。言い換えれば、奇妙な見方であることは分かっていますが、文字通りAIをタップする（頼る）ような形になるべきではないでしょうか。私はかつてイチゴでこれをやっていましたが、AIの世界で私は何をすべきでしょうか、というように。
人々はそれに対して激しく抵抗すべきだと私は思います。
本当にですか。
はい。なぜなら、そうなるとAIが私たちをコントロールし始めるからです。人間がバカになってしまうからです。ですから、もしあなたが今AIを道具として使い、「イチゴに関する自分の選択肢が何であるかを知りたい。説明してくれ」と頼むとします。AIが「これ、これ、これ、これができます」と言ったとき、その時点であなたが「素晴らしい、じゃあ5ステップの手順をくれ。私はただそれを実行する」と言ってしまえば、あなたは単なる「作業の手（一対の手）」になり、AIが「脳」になります。あなたは自分の頭で考えておらず、賢くなっていません。
しかし、もしあなたが「これらのステップがこの結果をもたらすのは、私が今理解している因果関係があるからだ」という因果の連鎖を形成するなら、あなたはもうAIに従属していません。あなたは貢献することができ、それを推し進めることができ、協働（コラボレーション）になります。今や人々は以前よりもはるかに速く賢くなっています。しかし、自分が単なる「作業の手」になることを許してはなりません。
魅惑的ですね。今週、OpenAIのサム・アルトマンと、明らかに彼の最大のライバルであるイーロン・マスクの間で繰り広げられた、法廷での大きな戦いを目にしました。マスクの核心的な主張は、アルトマンとOpenAIが設立時の契約に違反し、非営利目的であった慈善団体を盗み、現在は大幅に営利目的へと変えてしまったというものです。
私は最近、例えばXで経験したことがあります。イーロンはXで多くの良いことを行い、多くの方法でそれを改善したと思いますが、現在は少しワイルド・ウエスト（無法地帯）のようになっており、それをコントロールする方法が非常に矛盾しているように思えます。コントロールの話です。あるランダムな投稿者が、私のことを悪魔的なペドファイル（小児性愛者）と呼びました。私は「いや、それは事実ではない」と思いました。しかし、Xの基準と慣行をテストしてみようと思い、嫌がらせ（ハラスメント）として報告したのです。すると「調査中です」と返ってきました。そして2日後、「調査を行いましたが、私たちにできることは何もありません」と返ってきたのです。
私は「実際にはあるだろう。もし誰かが誰かを悪魔的なペドファイルと呼んだなら、それに対して何か対処すべきだ」と思いました。そして、イーロンが何と言おうと、Xのガードレールが機能していないことを私に示しました。私は彼をそのやり取りに巻き込み、「あなたは確かにこれで満足しているわけではないはずだ」と言いました。もしそれが私に起こっているなら、何百万人もの人々に常に起こっているということです。
ガードレールは、これらすべての事柄において極めて重要な要素です。誰がAIのガードレールをコントロールするのでしょうか。非営利から始め、それゆえに個人的な利害関係（スキン・イン・ザ・ゲーム）を持たなかったはずの2人の男が、現在は基本的に利益をめぐる戦いを繰り広げているのだとしたら、後者の瞬間になった途端、私は心配になり始めます。
これには2つの側面があり、どちらも非常に衝撃的です。側面その一は、ビジネスに何が起こったかという点です。イーロン・マスクが、これがOpenAIになるという理解のもとに4500万ドルを提供したにもかかわらず、彼らがその非営利団体を会社組織に変え、彼がそこから1セントも受け取らないというのは、私には不当に思えます。それは私には正気の沙汰とは思えません。もし法律が最終的にそのような方向に向かうのであれば、それは非常に奇妙な前例を作ることになります。
それから、操作の道具としてのAIという側面があります。私はGeminiとのやり取りの後、我を忘れてしまいました。私は自分のディープ・ダイブ（深い調査）の一つのためにリサーチを行っていて、一連の質問を投げかけたのですが、Geminiはただ「それについてはお手伝いできません」と言ったのです。私は困惑しました。何のことを言っているのかさえ分かりませんでした。そして最終的に、私が「エプスタイン」という言葉を含めていたからだと気づいたのですが、Geminiは問題が「エプスタイン」という言葉にあることすら教えてくれませんでした。ただただ「お手伝いできません、お手伝いできません」と言い続けたのです。
その時突然、「おいおい、ちょっと待てよ。それは、あなたが私に10の異なる答えを提供できたかもしれない場面が1000回あったとして、あなたがそのうちの一つを選び、それが唯一の答えであるかのように響かせながら、実際には背景に価値体系の判断が存在し、私に情報を味合わせないようにしていたということを意味するのではないか」と思ったのです。そして、私たちはとんでもない方法で、作為的な嘘（情報の不開示による嘘）によってコントロールされようとしていることに気づきました。そうなると、この背後にいるのは誰なのか、彼らの価値観は何なのか、という点が非常に重要になってきます。
あなたがインタビューしたことがあると知っている2人の人物、スコット・ギャロウェイとカラ・スウィッシャーのクリップを再生してみましょう。
これらの個人は、自分たちが西側社会の基準や品位、あるいは法律の対象外であるという印象を抱いています。他の面々はまるで赤ん坊のようで、不幸せそうで、なぜ彼らが私たちの運命を握っているのでしょうか。なぜ彼らはこれほど不幸せで、これほど豊かなのでしょうか。彼らの間には個人的なドラマなど、あらゆる奇妙なドラマが存在し、それは私たちの司法制度の時間の無駄です。
これこそが私にとっての中心的なポイントであり、それが制御不能にならないようにコントロールする責任を負っているのは誰なのかという点です。カラが言ったように、これらの非常に裕福で成功した2人の男が、法廷でまるで赤ん坊のようにつかみ合いの喧嘩をしているのを見ると、信頼感で満たされることはありません。
それは認めざるを得ませんね。どんなに賢く、どんなに成功し、どんな起業家であっても、私のお気に入りの例であるジェフ・ベゾスのように、やはり局部写真を送信してしまう傾向があるということを、非常に暴露していると思います。これらの男たちもただの人間であり、愚かなことをし、感情を害され、愚か者のように振る舞うのです。それを回避する方法はありません。
そうなると、あなたが先ほど尋ねた重要な質問になります。これらはすべて、私たちのあらゆる欠点を抱えた人間であり、私たちはみんな奇妙で、自分が正しいと思い込んでいます。そんな人間の性質を、神のような存在になり得るものにプログラミングしているのだとしたら、私たちはそれに対してどうすればいいのでしょうか。それが根本的な問いです。パニックを起こしているすべての人は、まさにそのためにパニックを起こしているのです。そして、それこそがすべての中で最も困難な問題であることを彼らは知っています。
政府はこれに多く関与すべきでしょうか、それとも少なく関与すべきでしょうか。私のデフォルト（基本姿勢）は「少なく」です。政府は愚かです。瞬く間に規制の虜（レギュラトリー・キャプチャー）に陥るでしょう。そして、彼らがAIにさせることは、自分たちが言わせたいことを言わせ、言わせたくないことを言わせないようにすることです。
例えば中国人はおそらく、あらゆる事柄に対して行っているように、非常に厳格な方法で自国のAIを規制しようとするでしょう。もし中国のような、巨大な権力、巨大な経済的・政治的影響力を持つ国々がそれを始め、AIレースに勝利したとしたら、それはどれほどの問題になり得るでしょうか。その状況はどれほど危険ですか。
最も優れたAIモデルと未来への希望
並外れて危険です。私の悪夢へようこそ。アメリカは恐怖のあまりAIに反発して終わり、これがどれほど上手くいくかというビジョンを描く人が誰もいなくなります。中国は「おい、私たちは史上最高の兵器を構築するつもりだ。自国民に対しても使うし、残りの世界に対しても使う。問題ない。全速力で前進だ」という姿勢です。私たちはその下に置かれることになります。なぜなら、AIレースに勝つということは、基本的にはすべてに勝つということを意味するからです。ですから、それは信じられないほど重要だと思います。
ここでイーロンは、皮肉なことに（なぜ皮肉なのかはすぐに説明しますが）、イーロンは皮肉なことに、正しい角度を持っている人物だと思います。それは、AIは何が真実であるかを特定するために規制レベルで接地（グラウンディング）されるべきだという意見です。私が皮肉なことにと言った理由は、時に彼自身がそれを実行できますが、時に実行できないことがあると思うからです。
しかし、私はイーロン自身のフィードを見ていますし、私はイーロン・マスクの大ファンです。彼は天才であり、スターリンクであれニューラリンクであれスペースXであれ、彼の行う事柄の大部分は表面的には明らかに善のための力であるように見えます。ですから、彼は明らかに非常に複雑なキャラクターですが、彼が時折、私の国（英国）について投稿しているのを目にすると、彼は常に完全に間違ったデタラメを吐き散らしているのです。私は「あなたはこれらのAIのガードレールを持つ男になりたいと言っているのに、イギリスについてこれほど明らかに情報不足で、間違っていて、偏向していて、政治的にバイアスのかかった事柄を言っているのか」と思い、それは私を懸念させます。
あなたを懸念させるべきです。私が期待できる唯一のことは、彼が実際の真実を見つけることだと言うとき、私たちが真実として考えている事柄の大部分である「見解（パースペクティブ）」は、実際にはただ「これが私の見方だ」というものに過ぎないということを、彼が理解しているだろうということです。彼がそこに関与しないことを願います。
いえ、彼はAIにそうするようにプログラミングすることはできません。本当に物理学に接地させ、そこから因果関係の連鎖を構築していかなければなりません。彼が工学的なマインド（エンジニアリング・マインド）を持っていることを考えると、私は楽観的です。しかし、彼がかつて、Grokは真実を追求していることが分かると言ったことがあります。なぜなら、Grokはイランに侵攻することが正しかったと述べた唯一のAIだったからです。私は「おっと」と思いました。
ええ、そうですね。
そして、私はGrokが常に物事を間違えているのを目にしています。私はGrokをよく使っていますし、気に入っています。人々があなたのことを悪魔的なペドファイルと呼ぶときなどは、実はかなり優れています。人々がGrokに尋ねると、「証拠はありません。ピアーズ・モルガンです」と答えてくれます。私は「ありがとう。そんなことを言われる必要はないけれど、ありがとうGrok」と思いました。しかし、私のに関する事柄をただ修正するだけの他の事柄を目にすると、それは間違っています。Wikipediaか何かから引用しているのでしょう。
予測市場のポリマーケット（Poly Market）で、5月末までに、どの会社のAIモデルが最高であるかを尋ねたところ、1000万ドルの市場において、人々は圧倒的にAnthropicと答えています。OpenAIでもGrokでもありません。あなたもそれに同意しますか。
1000％同意します。
なぜそれが優れているのでしょうか。
一度体験し始めると、彼らがトレーニングや重み付けにおいて行った何かが、本当に優れた答えをもたらしていることに気づく、そういうモデルです。それはあなたの声を模倣することにおいてより優れており、それは私がよくAIを使用する目的でもあります。困難な問題を思考し、イデオロギー（思想体系）に囚われることがほとんどありません。Grokもイデオロギーにはあまり囚われないかもしれませんが、その答えは本当により幼稚に感じられます。Xに縛られすぎているように感じられます。AnthropicのClaudeを使えば、より高められた、説得力のある答えが得られ、両方の側面を議論してくれます。「素晴らしい、あなたは今その答えをくれたけれど、その議論の反対側にいる人は何と言うだろうか」と尋ねると、非常に説得力のある形でそれをこなしてくれます。
これらはすべてかなり恐ろしいことですから、最後に私たちに少しの希望を。バイラル（拡散）しているクリップで終わりたいと思います。しばらく前からあるものだと思いますが、とても陽気なものです。ロシア発と思われるロボットが、マイケル・ジャクソンのスタイルで音楽に合わせてダンスを試みているのですが、あまり上手くいっていません。
ご覧のように、最初はまずまずのスタートを切るのですが、その後段差（ステップ）にぶつかります。私は最近、段差で転んで臀部を骨折したので、この段差のハプニングには同情してしまいます。感じますか。
私は共感（エムパシー）を抱きました。しかし、その後ロボットはムーンウォークを試みます。おっと、また段差です。
1月に文字通りそれを経験し、大腿骨を骨折して新しい臀部（人工関節）が必要になった身としては、私は実際にそのロボットに多大なる同情を抱いています。しかし、ロボットにとっても私と同じように段差をナビゲートするのが難しいという事実は、安心させてくれました。
ええ、さて、もし私があなたの楽観主義をすべて奪い去り、唯一の悪いニュースを伝えるとするなら、今度はそれらのロボットが1万台、100万台集まった軍隊を想像してみてください。1台が学習すれば、彼ら全員がそれを学習するのです。ボーグ（集合精神）のように、1台が転べば、「よし、何をすべきでないかが分かった」と全員が認識し、彼らは信じられないほど急速に、どんどん、どんどん上手くなっていきます。
初期のチェスコンピューターが巨大で、不格好で、信じられないほど遅く、トップのチェスプレイヤーであれば簡単に勝てたのと同じですね。そして今や、基礎的なチェスコンピューターにさえ勝てる人間は地球上に一人も存在しません。ええ、ワイルドですね。しかし、もし人々が希望を求めているなら、ここに一つの道があると私は言いたいです。それは文字通り、世界で最も重要なものは「知能（インテリジェンス）」であるということです。人間を世界の頂点捕食者にたらしめたのは、私たちが賢く、適応できるからです。もし人々が、人生における新しい課題に適応するためにAIの助けを借りるなら、それは信じられないほど素晴らしいことであり、今この瞬間、今日において素晴らしいことです。
将来的に問題が訪れる可能性はあります。インターネットも生活を高めるために登場しましたが、問題を伴い、現在も問題を抱え続けています。しかし、私たちはそれを携帯電話や他のものと同じように、極めて強力なツールとして使用してきました。そうですよね。ポジティブな面がネガティブな面を確実に上回るようにすること、しかし人間として制御を維持することです。なぜなら、私たちが制御を失った瞬間、すべての賭けは白紙に戻る（予測不能になる）からです。
この番組は別の惑星、もしイーロンの思い通りになれば、私たちが生き残るためだけにそこへ行かなければならないかもしれない火星からお送りすることになるかもしれません。お会いできて素晴らしかったです。お越しいただき、本当にありがとうございました。
お招きいただきありがとうございました。
次回こちらに来るときも、また来てください。下位リーグでのトッテナムの話をするためだけでなく。
彼はどうしてもそれを言わなければならなかったのですね。どうしても言わなければならなかった。
お元気で。
ピアーズ・モルガン・アンセンサードは、誇り高き独立メディアです。ここのボスは私だけです。もし私たちの番組を楽しんでいただけたなら、一つだけシンプルなことをお願いいたします。YouTubeでチャンネル登録を押し、SpotifyやApple Podcastでピアーズ・モルガン・アンセンサードをフォローしてください。その見返りとして、私たちは情報を提供し、刺激を与え、楽しませるという私たちの使命をこれからも続けていきます。そして、それをすべて無料で行います。独立した、検閲のないメディアがこれほど重要になったことはかつてありません。そして、あなたなしでは私たちはこれを成し遂げることはできませんでした。
コメント