本動画は、OpenAIのCEOであるサム・アルトマンの自宅に火炎瓶が投げ込まれた事件を契機として、AIの発展に伴う社会的な恐怖や怒りの高まりについて警鐘を鳴らす内容である。AI開発の一時停止を求める急進的な運動が、確率論的テロリズムとも呼べる暴力的な段階へとエスカレートしつつある現状を指摘している。同時に、AIによる失業などの不安を抱える人々の心情にも理解を示し、技術の加速的な進化が避けられない事実である以上、暴力や破壊行為によってそれに抵抗するのではなく、社会全体で新たな技術にどう適応し、平和的に統合していくべきかについて率直な対話を求めている。
サム・アルトマン襲撃事件と事態の重大性
この動画の構成や、このテーマについてどう話すかについては、細心の注意を払う必要があります。そして、今起きている事態の重大性を強調しておきたいと思います。もしご存じなければお伝えしますが、サム・アルトマンの自宅に火炎瓶を投げ込んだとして逮捕者が出ました。詳しい状況は分かりませんが、サムのブログによると、投げ込まれた凶器は建物の外壁で跳ね返り、被害はなかったようです。
窓を突き破ったと言う人もいますが、今のところ私たちが把握している事実は、何者かが逮捕され、殺人未遂で起訴されたということです。そこが出発点です。この容疑者に関する情報が増えるにつれ、どうやら彼はAI開発の一時停止を求めるポーズAI運動や、AI開発を阻止しようとする運動に関わりがあったようです。私はこのことについて、無関心でいたくはありません。
軽薄な態度を取るつもりもありません。私はしばらく前から、効果的利他主義やレス・ロングといった思想への傾倒に対して、公然と批判的な立場をとってきました。また、この動画では特定の個人の名前を出すことは避けるつもりです。なぜなら、特定の個人との意見の賛否が問題なのではないからです。これは、世の中に存在する非常に現実的な怒りと恐怖について、真剣かつ冷静な対話を持つためのものです。
確率論的テロリズムと暴力の無意味さ
怒りやフラストレーション、恐怖にはもっともな原因があることを認めつつも、その暴力について、私は今のところテロリズムと呼ぶつもりはありません。個人的には、私たちが目にしているものは確率論的テロリズムと呼ばれるものに等しいとは思っています。しかし、大げさにはしたくありません。なぜなら、たった一人の個人の行動には、様々な説明が成り立つ可能性があるからです。
精神的な病を抱えた人かもしれませんし、イデオロギーに囚われた人かもしれません。私たちはまだ、この人物の全体像を把握していません。ですから、性急な結論を出すべきではないのです。しかし同時に、戦争になる犠牲を払ってでもデータセンターを爆撃すべきだ、といったことを発言する人々はたくさん存在しています。
この界隈には、AIを止めるためなら刑務所に入る覚悟を持つべきだと発言する人もいます。繰り返しになりますが、名前は出しません。でも、知っている人は知っているはずです。そして、確率論的テロリズムの手法を通じて暴力を正当化しようとする人々は、まさにそのようなことを言うのです。そのような言葉を利用するのです。議論がオンライン上にとどまっているうちは、まだ一つの側面でしかありません。
人々が想像力を働かせて人工超知能について語り、開発を止められるのかどうか、アライメント問題は解決可能なのかどうかを議論しているうちはいいのです。しかし、ここで一つ指摘しておきたいのは、今回のようなケースにおいて、暴力は絶対に何も生み出さないということです。法的・道徳的な問題を一旦脇に置いたとしても、仮にあなたの目標がAIを遅らせたり止めたりすることだとしたら、暴力によってその状況が変わることは一切ありません。
様々な理由から、むしろ逆効果になる可能性が高いと私は考えています。AIに反対する人々が、常軌を逸した異常な存在として周縁化されればされるほど、なんだ、君たちは単なる破滅主義者や減速主義者ではなく、テロリストになったのか、と受け取られてしまうからです。それは思考停止につながります。ここでもう一つ別の観点から話したいのですが、私はこれらの問題を混同しないよう、非常に注意を払いたいと思っています。というのも、AI推進派であれ反AI派であれ、多くのYouTuberや思想家の話を聞いていると、彼らは物事を混同しがちだからです。ですから、私が次に指摘することは、破滅主義者たちがこれから私が話す人々と同じだと言っているわけではありません。しかし、反AIという共通のテーマが存在しているのも事実です。
反AI運動の多様な側面と合法的な抵抗
一方には、減速主義者や破滅主義者、そして私が個人的に確率論的テロリズムに等しいと信じている行為に加担している人々がいます。そしてもう一方には、労働組合のメンバーなど、AIの導入を妨害している人々がいます。Z世代の若者たちも、AIの導入を妨害しています。これは器物破損という意味ではありません。企業内での受動的な抵抗のことです。電気自動車のプラグを抜くような、そういった類のことです。
そして、組合活動など、自分たちの権限の範囲内で合法的な手段を使っています。ですから、抵抗や怒り、フラストレーション、恐怖には、様々な次元があるということを私は言いたいのです。そしてもう一度強調しますが、私はAIに対して受動的に抵抗している人々や、合法的な手段で積極的に抵抗している人々を、非合法的な手段を主張する人々と同一視しているわけではありません。
それに、違法な手段というのは、サム・アルトマンに火炎瓶を投げることだけではありません。器物破損や脅迫などもそうです。例えば、殺害予告を出すことは、言論の自由で保護されるものではありません。私はここ数年、状況が良くなる前にまずは悪化するだろうと言い続けてきました。
現実主義者としての楽観主義とAIの進化
私がこの動画を作ろうと決めた理由は、より多くのコメンテーターや思想家たちが、多かれ少なかれ同じような結論に達しつつあるのを目にしているからです。AIによる大規模なレイオフの波にはまだ直面していないという事実を考えてみてください。少なくとも生成AIが、軍事作戦にほんの少し統合され始めたばかりだということを考えてみてください。
私たちは、現在のツールが持つ能力の全貌をまだ目にしていません。将来の進化は言うまでもなく、現在の形、現在の反復段階においてさえもです。それなのに、私たちはすでにこれほどの怒りと恐怖を目にしているのです。私はよく、楽観的すぎるとか、バラ色の眼鏡をかけていると非難されます。なぜなら、私はすべての問題は解決可能だと信じており、今回の件もすべて解決可能な問題だと信じているからです。
私は、現実主義者であることもまた、楽観主義者の責任だと考えています。だからこそ、私はこの動画を作っているのです。AIを支持し、技術の加速を支持し、人類や社会の進化の先にあるものを支持する者にとって、無責任であってはならないからです。ラッダイト運動の反乱や抗議活動など、過去の歴史を学ぶことは一つの側面です。
人々の恐怖と抗議活動の現実
しかし、それがリアルタイムで現実味を帯びてくるのを目にするのは、また別の話です。OpenAIやAnthropicの建物の外で、最初の小規模な組織的抗議活動が行われました。本当に小さなものでした。もちろん、人々はプラカードを掲げ、かなり滑稽な格好をしていました。まだ見ていない方は、ぜひ調べてみてください。
魔法使いのような格好をしている人もいて、真面目に受け取るのは比較的難しいものでした。彼らはネットのミームを基にしたようなプラカードを持っていて、例えば、ネクサスの苦痛をダウンロードするわけがないだろう、みたいな内容でした。まあ、それはいいでしょう。それに、本当にごく少数のグループで、しかも土曜日に行われました。
ですから、本当にばかばかしい行動ではあります。しかし、私があの運動はばかばかしい、土曜日に抗議に行くべきではなかったなどと個人的な判断を下すことと、現に多くの人々が恐怖を感じているという事実を勇気を持って認めることとは、全く別の問題です。この恐怖には様々な次元があり、様々なレベルがあります。一方には、AIがアートなどを生成できるようになったことで、生計を立てられなくなるのではないかと恐れているアーティストたちがいます。
仕事を失っているライターやコピーライター、フリーランサーたちもいます。フリーランサー向けのネット掲示板やコピーライターのコミュニティなどを覗いてみると、多くの人の仕事が干上がってしまっていることが分かります。私の知っている成功しているコピーライターの中には、むしろAIを積極的に取り入れている人もいます。
彼らはAIを使い、それをはっきりと公表しています。もちろん、クライアントは気にも留めません。良い結果さえ出してくれるなら何でもいいよ、プロセスなんてどうでもいい、という感じです。しかし、それは少数派です。すべての仕組みがそう上手く回っているわけではありません。そしてもちろん、私は労働を前提としないポスト労働経済について語っている人間です。
ポスト労働経済への道と技術の統合
向こう側へとたどり着ける地点まで、何とか進んでいきましょう。そしてその向こう側の世界というのは、人々の生活が仕事に依存しなくなるだけでなく、市民としての力や影響力、尊厳といったものも労働と結びつかなくなる状況です。楽な道はないとか、突破するしかないとか、抜け出すための唯一の道は突き進むことだとか、そういった意味のない陳腐な言葉に逃げたくはありません。
しかし、そうした言い回しが時として人々の記憶に残るのには理由があります。口で言うほど簡単なことではないからですよね。肩をすくめて、まあ混乱は避けられないだろうし、笑って耐えるしかないさ、と言うことはできます。でも、それはただの言い訳に思えてしまいます。私がこの動画を通じて達成したいと願っているのは、事象に名前を付け、一部の人々の振る舞いが確率論的テロリズムに似ていると指摘することで、それが何を意味するのかについて、より率直な対話の場を持つことです。
そして、怒りやフラストレーションを表現するもっと良い方法がないかを探ることです。そこには極めて現実的な懸念が存在します。あらゆるテクノロジーは常に諸刃の剣です。新しい技術はいつだって、傷つけ破壊するためにも、助け構築するためにも使うことができます。生成AIも例外ではありません。原子力技術も例外ではありませんでした。インターネットも同じです。
すべてのテクノロジーは両義的です。私が言う両義的とは、無関心だという意味ではありません。二つの異なる方向性を持っているということです。それがアンビバレントの本来の意味です。良い方向と悪い方向の二つです。すべては、それがどのように使われ、どのように展開されるかにかかっています。しかし同様に、私たちがそのネガティブな側面にどう反応することを選ぶかにもかかっています。私たちがこの技術を社会に統合していく中で、お互いにどう関わり合うかということです。なぜなら、この新しい能力を私たちの文明にどのように組み込んでいくか、それこそが最終的な目標だからです。
加速するAIと汎用技術としての性質
過去においても、そして現在においても、これは技術を遠ざけておくということではありません。過去には、工業化やテクノロジーが誰かに利益をもたらす可能性がある時、誰よりも早くそれに手を伸ばし、自分の利益を最大化してやる、と考える先行者たちがいました。多くの場合、それは他者を排除したり、他者に不利益をもたらしたりする結果となりました。
そして、それと同じことが今日も起きているのです。こんな風に言う人もいるかもしれませんね。ちょっとデイブ、そんなことを言いながら、どうして自分を加速主義者だなんて言えるんだい。それに対する私の説明は、加速こそが単にデフォルトの方針だから、というものです。それこそが物事の進んでいる方向なのです。そして、それを変える方法があるようには思えません。
なぜなら、インセンティブの構造が極めて明確だからです。アメリカと中国の間には地政学的な競争があります。ですから、最も高いレベルにおいて、この技術は大きく前進していくことになります。さらに、国内レベルでは自由市場での競争があります。もちろん国際レベルでも同様です。
つまり、すべてを加速へと引き寄せる数多くの引力が働いているのです。ですから、これは抵抗できるようなものではないと私は考えています。同時にそれは、逃れようのない形で、人々が一緒に押しつぶされていくことを意味します。私が言いたいのは、AIに賛成であれ反対であれ、それが良いものだと信じていようと悪いものだと信じていようと、楽観的であろうと悲観的であろうと、あるいは懐疑的であったとしても、ということです。
もしかしたら、AIなんてたいしたものにはならないと疑っているかもしれません。ただの大騒ぎで中身がないだけだ、と。そう言う人はまだたくさんいます。人々が持つあらゆる信念の構造が、ストレステストにかけられることになるでしょう。そして、この種の技術が本質的に持っている特徴の一つは、カーブの先にあるものがほんの少ししか見えないということです。
どういうことかと言うと、これは汎用技術だということです。人工知能、特に生成AIは汎用技術です。そして汎用技術の特徴の一つは、継続的に絶え間ない改良が行われ、常に新しい用途が見つかり続けるということです。
一つ例を挙げましょう。私たちが初めて蒸気や電力を利用した時、一見したところのそれらの実装は、大抵とてもシンプルなものでした。電力に関しては、最初はそれで何をすればいいのか分かりませんでした。それで光を作り出せることも、磁気やモーターなどを作れることも知りませんでした。だからこそ、トーマス・エジソンは安定した電灯を作る方法を解き明かすために、千回も、あるいは一万回も様々な挑戦をしなければならなかったのです。
その後、人々はそれをコイルに巻き付けて電磁石を作れることを発見しました。そして、それでモーターが作れると分かるまでには時間がかかりました。さらに、ラジオやコンピューターチップなどが作れると分かるまでにも時間がかかったのです。人工知能そのものも、電力を利用したことの川下にある結果なのです。
そうして今、一世紀以上が経過した現在でも、私たちは電力の新しい使い道を発見し続けています。人工知能もこれと同じような進化を遂げ、私たちがより多くの新しい用途を見つけ出していくことになります。そしてそれは、非常に広く浸透する技術です。ですから、誰かが恐怖や不安を抱いたり、未来のことは誰にも分からない、などと言ったりする時はいつでも。
抵抗ではなく適応へ向けた対話を
それは客観的に見て真実です。そこには、真剣に立ち向かい、心の準備をしておかなければならない、どうにも還元できない複雑さが存在します。そしてもちろん、準備できることには限りがあります。こんな風に言う人の姿が想像できますね。ねえデイブ、君は減速主義者になるための完璧な理由を説明しているじゃないか。だって、もし加速がデフォルトの方針であり、それが避けられない結果なのだとしたら、私たちは準備する時間を稼ぐために、総力を挙げて可能な限りそれを遅らせるべきだよ。
私は誰にも、何をすべきか指図するつもりはありません。それは、あなたが下すことのできる、完全に論理的で合理的な選択です。しかし私個人としては、エネルギーは適応するために費やした方が良いと言いたいのです。ただ抵抗するだけでなく、適応するのです。そして、この対話とこの動画を通じて私が促したいと願っているのは、その恐怖や不安について、私たちはお互いに正直にならなければならないということです。
異なる陣営の存在を認めるために、そうした勇気ある対話を持つ必要があります。そして、暴力も器物破損も、いかなる違法行為も必要としない、適応と協調のためのより良い方法を見つけ出すのです。それが私の達成したいことです。これらの考えを皆さんに残しておきたいと思います。最後にもう一つ、誰もが気になっている明白なことについて触れておきましょう。
スタジオ改装と最後のご挨拶
私の後ろにあるこの黄色いものは、引っ越し用の段ボール箱ではありません。吸音材です。本の録音をする時にもっと良い音で録れるよう、このスタジオを大改装しているところなんです。というわけで、今回は以上です。安全に、そして親切に過ごしてください。そして、ただ正直でありましょう。
コメント