オックスフォード大学の哲学者カリッサ・ヴェリスをゲストに迎え、現代社会における「予測」の危うさについて議論している。AIやアルゴリズムによる予測が、就職やローン審査から司法判断に至るまで人々の生活を左右する現状に警鐘を鳴らし、予測不能な未来こそが人間の自由と主体性の証であると論じる。さらに、予測市場の問題点や、不確実な世界を生き抜くためのユーモアとアナログなつながりの重要性についても解説している。
予測に支配される現代社会
現代の最先端AIの基盤が予測にあるとすれば、私たちは予測そのものの性質について検証すべきではないでしょうか。この後すぐ、オックスフォード大学の哲学者カリッサとこのテーマについて語り合います。テック業界とその周辺の話題について、冷静かつニュアンスに富んだ会話をお届けするビッグテクノロジーポッドキャストへようこそ。本日は素晴らしい番組をご用意しています。
本日はオックスフォード大学の哲学者カリッサをお迎えしています。彼女は今週、『Prophecy: Prediction Power and the Fight for the Future: From Ancient Oracles to AI（予言：予測の力と未来への闘い 古代の神託からAIまで）』という新刊を出版されました。予測について、そしてそれが私たちの社会にとって何を意味するのかについて語っていただきます。現代社会において、予測は本当に至る所に存在していますよね、カリッサさん。
全くその通りです。アレックス、今日はお招きいただき本当にありがとうございます。
どういたしまして。あなたの本が出版されると知ったとき、これは絶対に話をしなければと思いました。AIに関する具体的な話は後ほどするとして、まずは全体的な視点から見てみましょう。今日、どこを見渡しても、私たちはあらゆるものを予測しようとしていますよね。もちろんAI、あるいは生成AIの本質は、次の単語を予測することにあります。
また、以前からあるバージョンの機械学習も、たとえば住宅ローンを滞納する可能性を予測するなど、さまざまな予測機能を備えています。そして言うまでもなく、私たちは今、予測市場の熱狂の真っ只中にいます。一体何が起きているのでしょうか。
おっしゃる通り、予測は至る所にあります。予測は誰にとっても聖杯のように響きます。未来に対して誰もが不安を抱いているからこそ、皆が角の向こうに何があるのかを知りたがるのです。未来は私たち全員が残りの人生を過ごす場所であり、その未来を垣間見ることができる人が競争上の優位に立ちます。
しかし、そのシナリオ自体が非常に問題のある多くの前提を抱えています。なぜなら、未来はすでに書かれていて、私たちの使命はそこに何があるかを発見すること、つまり私たちのために書かれた脚本を見つけ出すことであるかのように示唆しているからです。しかし実際のところ、未来は書かれていません。
恐ろしく感じるかもしれませんが、あなたの個人的な人生においても、ビジネスにおいても、そして社会としての私たちの生活においても、最も重要な出来事というのは最も予測不可能なものなのです。道がまっすぐであれば、先を見るのはとても簡単です。本当に見るのが難しい、場合によっては不可能なのはカーブの先であり、それこそがあなたの人生を変えるものなのです。
なるほど、つまり、アルゴリズムが私たちに影響を与える可能性のあるあらゆる予測を行う世界に私たちは生きていて、それは私たちを特定の方向に導く可能性がある。だからこそ、私たちはそうした予測をただ廃止するべきだと言うのか、それとも、明確に存在している裏の隠された側面に注意を払うべきだと言っているのでしょうか。
ええ、私たちはもっと注意深くなるべきだと思います。予測を廃止すべきだとは言っていません。私自身も使いますし、ある意味で予測は私たちが意思決定をする方法の一部です。しかし、私たちはそれについてもっと賢明にならなければなりません。私たちはあまりにも信じられないほどナイーブになっていると思いますし、場合によっては確かに予測を使うべきではないこともあります。一つ例を挙げさせてください。
もちろんです。
アルゴリズムによる就職・ローン審査の罠
たとえば、司法制度や、私たちが本当に公平性を重視するシステム、つまり効率や利益よりも公平性が重要であるべきケースを考えてみましょう。そのような場合、予測を使うのは非常に厄介です。なぜなら、誰かが失敗すると予測したとき、あなたはその人の人生に影響を与えてしまうからです。
あるアルゴリズムを使って、ある人が雇用不適格だと判断し、仕事を与えないとします。しかし、誰もが多かれ少なかれ同じデータで訓練された、多かれ少なかれ同じアルゴリズムを使っているため、その人は永遠に仕事に就けなくなります。
そして、アルゴリズムを運用している企業は、「ほら、私たちのアルゴリズムは99.9%正確だ」と言うでしょう。しかし、その正確さは、その人が本当に雇用不適格であることを見抜いたからではなく、予測したはずの現実を自ら作り出すことによって生み出されている可能性があるのです。
ここで興味深い点があります。自己成就予言というのは、完全犯罪のようなものです。なぜなら、一撃を加えた瞬間に消えてしまう凶器のようなものだからです。何の記録も残さず、エラー信号も出しません。その人が本来どうなっていたかは決して分かりません。なぜなら、その人は仕事に就けず、そのデータが収集されることは決してないからです。だから、何もおかしなことは起きていないように見えますが、実際には大きな不公平が起きていて、それが隠蔽されているかもしれないのです。
なるほど、その例は具体的には、求人サイトにおける履歴書のAIによるフィルタリングのような話ですね。
その通りです。はい。
わかりました。それについては私から少し反論させてください。
どうぞ。
その例では、求職者が採用プロセスをある程度自分の意志で曲げるという主体性が欠落しているように思います。もし私たちがただ求人ポータルのアルゴリズムのなすがままになっているだけなら、確かにこのシステムは悪いものだと言うでしょう。
しかし、これはおそらくあなたの主張全般に言えることだと思うので、とことん話し合いましょう。
ええ、とことん話しましょう。
単に、「このアルゴリズムによる求人ポータルに振り回されたくないから、採用担当者に直接手紙を書いて、自分で自分を売り込もう」と考える主体性が人々にはあるのではないでしょうか。そして、このアルゴリズムによるフィルタリングの外側で、採用担当者はアルゴリズムが人を見落とすことを知っており、人材を求めている職場側もシステムが完璧ではないことを理解しているはずです。
イエスでもありノーでもあります。たとえば、仕事が本当にできるコンピュータサイエンティストを知っています。しかし、彼が通常の手続きで仕事に応募するたびに、フィルタリングで落とされてしまい、彼自身もその理由が分からないのです。
履歴書の中に、彼を少し風変わりに見せる何かがあるのかもしれません。そしてアルゴリズムは風変わりなものを嫌います。その後、人々が彼を直接知るようになると、同じ企業から高給の仕事のオファーを受けたりします。
しかし、現在ではそのような裁量や抜け道が許されないシステムが多くなっています。マネージャーのメールアドレスを見つけようとしても見つからないシステムがたくさんあるのです。
私たちはますます、こうした自動化されたプロセスに制限されるようになっており、あなたがおっしゃるような重要な裁量の余地が少しずつ消えつつあります。それが一つの側面です。
しかしもう一つの側面は、自分の仕事においては非常に優秀であっても、マネージャーを探し出すような性格ではない人々がいるということです。彼らは特定の種類のオタクかもしれません。プログラミングや執筆の天才かもしれませんが、システムを打破しようとするほど社会的に器用ではないのです。
そして社会はその才能を求めています。あらゆるものを合理化しすぎると、私たちは重要な才能を見逃すことになります。
でもそれは、ある程度、受動的であることを助長しているのではないでしょうか。たとえば、メールアドレスが公開されていないかもしれないという例について考えてみてください。採用担当者には申し訳ないですが、この番組を聞いた人たちがメールを送れば、受信トレイはパンクするでしょう。でも、私はそれほど悪いことだとは思いません。
たとえば、アルゴリズムによる採用プロセスを進むのは非常に骨の折れる作業です。正しいメールアドレスを推測して当てるまでに、応募にかかる時間の半分を費やすこともできるはずです。ですから、私が言いたいのは、こうしたAIやアルゴリズムによるシステムが不公平だから使うべきではないと言うなら、そのシステムから抜け出そうと少しアクティブになり、彼らの気まぐれに振り回されないと決めた方が、実際には有利になるのではないかということです。結局のところ、人々には主体性があるのですから。
繰り返しますが、あなたはシステムから抜け出せるという前提に立っています。しかし、百歩譲って抜け出せるのが事実だとしても、コインの裏側を見ると、実際にはストーカー行為のようなものを奨励していることになります。
結局のところ、そうやって仕事を手に入れるのは、最も執拗で、時にはルールを破ることも厭わない人たちです。私の懸念の一つは、あなたの世界ではどうかわかりませんが、私がいる学界の世界では、非常に有名で成功を収めていながら、データを改ざんしたり、他の種類の学術的詐欺を働いたりする人々の詐欺行為が深刻な問題になっているということです。
そして、まさにこういう、非常に活動的で執拗なタイプの人々がそうした傾向を持っています。私たちはそういうことを奨励すべきではないと思います。
私たちは両方の世界の良いところを取るべきです。アクティブな人々も必要ですし、彼らを正しい方向に奨励するシステムを持ちたいと思います。そして、彼らを受動的とは呼びたくありませんが、別の種類の才能を持つ人々も必要としています。
内向的な人もいて、彼らは外向的な人とは違う種類の才能を持っている傾向があります。外向的な人にすべての賭け金を投じることは、素晴らしい才能のプールを失うことだと思います。
まず言っておきたいのは、私は決してストーキングを奨励しているわけではありません。
システムの外で自分を売り込むことは、ストーキングの領域に入らなくても可能だと思いますよ。
もちろん違います。しかし、それは時にそういうプロファイルの人々を引き寄せるインセンティブになり得るのです。
ええ。それに、システムの外でアピールするために必ずしも詐欺師になる必要はありませんよね。
その通りです。
ここでのあなたのより広い主張から目を逸らすべきではないと思います。というのも、私はこうしたシステムを見たことがあるからです。幸いなことに私はしばらく仕事に応募する必要がありませんでしたが、このプロセスを経験した友人たちがいて、今の採用ソフトウェアがどのようになっているかを見て驚きました。
彼らは性格をフィルタリングします。雇用主が誰かの性格がどのようなものか、ある程度の指標を持ちたいと思うのは理解できます。しかし、その程度が問題なのです。目の前に素晴らしい候補者がいるのに、多肢選択式の問題での小さなミスや、言葉足らずの質問一つで、彼らは候補者プールから完全に除外されてしまいます。それは雇用主にとっても悪いことだと思います。
ええ。面接でAIを使って人々の感情を読み取ったりするのもそうですね。非常に疑わしいテクノロジーには、非常に多くの仮定とバグが存在します。
もう一つの非常に興味深い例は、ローンの申し込みです。もし私が銀行で、あなたがローンを申し込んだとします。私が「X額のローンを組むにはこれが必要だ」という明確な基準を持っていれば、それは検証可能な事実です。
ですから、もし私が「アレックス、この額のローンを組むには銀行口座に1万ドル必要です」と言ったとします。あなたにはそのお金があるか、ないかのどちらかです。もし私があなたのローンを却下したのに、あなたには1万ドルあるなら、あなたは私の間違いを証明でき、私たちはそれを解決することができます。
しかし、もしあなたが申し込みをして、私が予測に基づいてその申し込みを却下した場合、予測は事実ではないため、あなたはそれに異議を唱える方法がありません。せいぜいそれは情報に基づいた推測に過ぎず、事実ではないため、それが間違っていると証明することはできないのです。ですから、それは多くの不公平を覆い隠し、説明責任を軽減するための方法となってしまいます。
なるほど。議論を深めるために、今度は私が銀行側の立場をとってみましょう。
ええ、もちろんです。
C3 AIなどの素晴らしい機械学習企業があり、たとえば住宅ローンの申し込みを評価して、人々をカテゴリーに分類します。私の認識が完全に正確でなければ申し訳ないのですが、私のリサーチが示すところによれば、彼らはローンの返済可能性の観点からあなたをカテゴリーに分類します。
緑は非常に可能性が高い。黄色は、まあ境界線上。赤は統計的に見ておそらく返済しないだろう、というように。
もし私が銀行なら、私の仕事はお金を貸し出して回収することですよね？ たとえば住宅ローンの担当者であることの意義は、そのお金を貸し出し、返済されるという高い確信を持ってそれを行うことです。
そしてそれが存在するからこそ、住宅ローン制度は成り立つのです。家を買うために他では手に入らないような大金を人々に提供できるのですから。ですから、もし銀行がこのソフトウェアを使って予測を通じてこの仕事をより効果的に判断したり実行したりできるのであれば、何が問題なのでしょうか？
銀行はビジネスであり、私たちは彼らにうまくやってほしいと思っていますが、彼らがうまくやることに依存してもいます。
ええ、2008年の金融危機や、彼らが失敗したときに何が起きるかは見ての通りです。
それがうまくいかないとどうなるかですね。さらに、誰かにローンを提供するか、あるいは拒否するかというのは、人生を変えるような非常に重要な機会です。ですから、そこには公平性の考慮も働いています。
もしあまり正確ではなく、あまり公平でもないけれど十分に利益が出るアルゴリズムがあったとして、それがただ利益のためだけのものであれば、それで構わないでしょう。そして率直に言って、小売業のようにただ利益のためだけを追求する分野もあります。それはそれで問題ありません。
しかし、この分野は人生の機会にも関わっているため、状況が異なります。数年前、The Markupが掲載した非常に長い記事がありました。住宅ローンを申し込んだ二人の人物が却下されたというものです。The Markupが調査したところ、彼らのファイルは白人である他の二人とまったく同じか非常に似ていました。そして彼らは黒人だったのです。
このようにして、非常に不公平な相関関係が現れ始めます。明確で異議を申し立て可能な基準がある場合、重要なことが2つあります。一つは、それが通常、あなたが求めるものと因果関係があるということです。もし銀行に1万ドルあるなら、それはおそらくあなたが貯蓄できるほど堅実であり、この額のローンを返済する可能性が高いことを意味します。
しかし、これは因果関係です。なぜなら、機械学習は時に擬似相関を拾い上げるからです。クレジットカードを3枚持っていると返済する可能性が高くなるというのは、単にクレジットカードを3枚持っている人の方がたまたま返済の運が良かっただけです。
そしてもう一つ本当に重要なことは、要件を満たしていない場合でも、決定を変えるために何をすべきかが分かるということです。銀行に9,000ドルしかない場合、あと1,000ドル必要だということがわかります。つまり、望む答えを得るために何をすべきかが正確にわかるのです。
ブラックボックス化された統計的なパターンマッチングの場合、ローンを組むために何をすべきか全く見当がつきません。場合によっては、ローンを組むための最善の方法が別の人種であること、という状況すらあり得ます。それは不公平であるだけでなく、ある意味で不合理に思えます。
ええ。まず初めに、今日あなたに来ていただいて本当に良かったです。最近、特に業界の方々を番組にお招きすることが多かったのですが、私は常に批判的な立場の方々の意見も取り入れたいと思っています。皆さんの声を聴き、議論を尽くすことは重要ですから。ですので、ここでの私の反論は、私が業界の代弁者になっていると受け取らないでください。
もちろんです。絶対にこの会話は必要です。
そして、私が業界の人々に鋭い質問をするのと同じように、あなたにもさらにいくつか質問させていただきます。このまま続けましょう。ちなみに、これはすべて、どこにでも存在するような、古いタイプの機械学習による予測の話です。後ほどより生成AIの側面についても話しますが、これは深く興味深いテーマですので、このまま続けましょう。
ここでの本当の問いは、もしこのシステムが銀行がより良い仕事をするのに役立つのであれば、それを捨てるのではなく、バイアスがないか調査し、バイアスがあれば修正し、そうでなければ稼働させ続けるのが正解ではないか、ということです。
たとえば、この3枚のクレジットカードの例で考えてみましょう。どんな理由であれ、クレジットカードを3枚持っている人は銀行へのローン返済に優れています。一見するとまったく無関係に見えるかもしれませんが、最終的に3枚持っていれば銀行に返済する可能性が高いという統計的相関があるのなら、それはそのデータがなければ行われなかったであろう追加の融資につながるかもしれません。
ですから、「このシステムは腐っているから捨てろ」と言う代わりに、「バイアスや不正確さを調査して、全体としては保持する」という対応が正しいのではないでしょうか。
確かに、それには価値があります。
ええ。
もちろんです。しかし、仮にバイアスを調査してシステムを維持したとしても、予測がその人の人生に影響を与えるという問題は依然として残ります。
ローンを組ませてもらえなければ、その人の経済状況は悪化します。そして企業側は「正確だ」と主張するかもしれませんが、そのような現実を作り出すという代償を払って得られる正確さは、私たちが求めているものではありません。私たちが探している種類の正確さではないのです。
でも、すべての人にローンを提供することはできませんよね。
いいえ、すべての人にローンを提供することはできません。しかし、「バイアスや不正確さを調査しよう」と言っても、私たちができることには限界があります。なぜなら、反事実（もしもこうだったらというデータ）を決して手に入れることができないからです。これはランダム化比較試験ではありませんよね。
明確な基準がなければ、異議を申し立て可能なプロセスにすることもできませんし、どのような条件を満たせば異なる結果が得られるかを本人に提示することもできないという問題が依然として残ります。これは重要なことのように思えます。
私たちは、ナビゲートするのが不可能な、非常にカフカ的な（不条理な）システムを構築しています。あなたもこんな経験があるか分かりませんが、システムがあまりにも疎外感を抱かせ、不条理になってきているため、人々はアルゴリズムに信念があると思い込み、それが何を求めているのかを理解しようとする「呪術的思考」を持ち始めています。
これは哲学者のハンナ・アーレントが警告していたことでもあります。1930年代にも、非常に不透明でランダムな官僚機構において似たようなことが起きていました。それが人々に何をもたらすかというと、疎外感、つまり自分が支配されているルールを理解できないという感覚を生み出すのです。そしてそれは人間の心理にとって信じられないほど有害です。
おっしゃる通りです。実際、ここで本当に悪い結果を招くことがあるのは興味深いですね。これは現実に起きていることです。週末にTwitterで見たのですが、ある人がJetBlueに、1日でチケット代が230ドルも値上がりしたのはおかしいと訴えていました。お葬式に向かおうとしているだけなのに。
するとJetBlueのアカウントは「キャッシュとCookieをクリアするか、シークレットウィンドウでの予約をお試しください。この度のご愁傷をお悔やみ申し上げます」と返答したのです。時々こうしたアルゴリズムが明らかに破綻し、カフカ的というか、ナビゲートするのが本当に困難になるというのはその通りですね。
そして多くの場合、文句を言う相手がいません。あなたを理解し、間違いを正してくれる人が誰もいないのです。ただの機械仕掛けに過ぎません。
その通りです。つまり、これが最も厄介な部分につながっていると思います。予測AIであれ生成AIであれ、ここには多くのAIが使われています。そしてこのAIの多くが意思決定を行いますが、どこでどのように決定が下されているのか全く分かりません。
AIの分野には「解釈可能性」と呼ばれる大きな分野があります。おそらく十分な規模とは言えないでしょうが、大きな分野です。
ええ。
生成AIシステムがどのように機能するかを解明しようとするのがその仕事全体です。システムを世に送り出し、人々がそれに依存しているのに、「えっと、どう動いてるのかよくわかりません」となっている。そしてその過程で、システムがどのように機能しているのかを解明し、解釈しようとしている。これって順序が逆ではありませんか？
ええ、逆です。そしてここで本当に興味深いことがあります。これは一種のメタファーなので全く同じだとは言いませんが、私たちは古代ギリシャや古代ローマから多くのことを学ぶことができます。私たちの現在の状況は、まさにこの会話の冒頭で指摘した通り、どれほど私たちが予測に依存しているかを示しています。
私たちは常に予測に依存してきましたが、歴史上、それが高まったり低くなったりする時期があると思います。今はそのピークの一つです。もう一つのピークは古代ギリシャと古代ローマでした。
もし古代ギリシャ人に「デルフォイの神託についてどう思いますか」とインタビューしたら、彼らはこう答えるでしょう。「最先端のテクノロジーだ。意思決定をするための最高のものだ。どうやって機能しているのかって？ 我々もそれを解釈しようとしているところだ」と。
占星術も同じです。星をどう読むか、星の間の距離をどう測るかという非常に技術的なものでした。ですから、ある意味で私たちはこれまでに同じような光景を見てきたのです。技術は異なっていても、その政治的な役割は実際には非常に似ています。
なるほど。でも、デルフォイの神託の話ですよね。デルフォイの神託は何も知らなかったわけですよね。
まあ、それは一つの物語ですが。
かつての神託で「大飢饉が起こるだろう」と言ったとしましょう。彼らは適当なことを言っているだけで、自分が何を言っているのか分かっていません。
しかし、AIシステムは飢饉が起こることを実際に予測することができます。予測が本当に役立つ例を挙げさせてください。
どうぞ。
Googleについてどう言おうと勝手ですが、彼らがGoogle Researchで懸命に取り組んでいることの一つが洪水の予測です。洪水は完全に防げるはずなのに、多すぎる人々の命を奪っていることを私たちは知っています。
こうした機械学習アルゴリズムがどのように予測を行っているのか、そのすべてを私たちが理解しているかといえば、そうではないかもしれません。それは、神託がいつ予測を行うのか私たちが知らなかったのと同じようなものです。しかし現実世界では、その予測が正確かどうかを知ることができます。
そして彼らの予測は正確であり、人々の命を救ってきました。私にとって、それはAIが私たちを助けてくれる素晴らしい形の予測だと思います。もちろん、これはGoogleが「我々のAIがいかに優れているかを見てくれ。他の問題は見ずに、ここだけを見てくれ」と掲げているものであることは全開示しておきます。しかし、それでもそれが議論の余地のない「善」であるという事実は変わりません。
そしてこれこそが、私たちがこれまで社会として驚くほど行ってこなかったこの議論を持つことが非常に重要である理由の一部です。天気予報のように非常に優れた種類の予測があるのは確かです。私自身、毎日何度もアプリを見ていますし、これからも見続けるでしょう。
しかし一方で、明らかに非常に問題のある別の種類の予測もあります。興味深いのは、決まった方程式がないということです。「このチェックボックスとこのチェックボックスを満たせば大丈夫」と簡単に判断できる方法はありません。私たちがすべきなのは公開された場での議論であり、だからこそGoogleの件についても議論が重要なのです。私はその洪水の件については詳しく見ていませんが。
しかし仮にそれが正しいとしても、Googleが行うあらゆる種類の予測が等しく妥当であるということにはなりません。一つ非常に興味深い例があります。Googleがインフルエンザやパンデミックのような出来事を予測しようとしたときのケースです。彼らは何年にもわたって試み、複雑さを増し、データを増やしましたが、決して成功せず、最終的には閉鎖されました。
その理由の一部は、人々の検索行動に依存していたからです。人々が症状について検索するとき、自分がその症状を抱えているから検索することもあれば、兄弟が症状を抱えているから、あるいは自分がかかるのではないかと心配して検索することもあります。そのため、データがあまりにも混乱しすぎていて、彼らには実現できなかったのです。
繰り返しますが、チェックボックスや、どの予測が受け入れられ、どの予測が受け入れられないかを見分ける簡単な方法はありません。しかし考慮すべき一つの点は、それが物理的な事象についての予測なのか、それともより社会的な事象についての予測なのかということです。
有益な予測と監視社会のトレードオフ
なるほど。では、パンデミックの例に戻りましょう。Googleのその例は初めて知りましたが、AIを活用した予測がパンデミックにおいて役立つ別のケースもあります。
たとえば下水の分析は非常に興味深いものです。以前この番組にも登場した企業で、下水の中に新型コロナウイルスなどのウイルスがどれくらい含まれているかを確認できるところがあります。そしてウイルスが増加するペースを見て、実際に感染のスパイクを予測できるのです。
これは人々を解放することにつながります。なぜなら、感染のスパイクがいつ来るかの予測が全くできなければ、解決策は「全員ロックダウンしろ」になってしまうかもしれないからです。一方、スパイクが来ることを予測できれば、いつ封鎖し、いつ開放するかをピンポイントで選択できるようになります。
ええ。そして重要なことは、現在に近ければ近いほど、予測が妥当である可能性が高くなるということです。ですから、もし1000年後に何が起こるかを予測している人がいたら、話半分に聞くか、笑い飛ばしたほうがいいでしょう。
この番組に来る人たちは、AIの世界の変化があまりにも速いため、1年先の未来さえ予測しようとしませんよ。でも1000年先というのは……。
しかし、効果的利他主義の長期主義者たちは、1000年先の未来の地球について考えています。
それは確かにそうですね。
あるいは、50年後や25年後の世界について考えている人もいます。現在の状況に足場を置くほど、たとえば今まさに下水の分析データを見るような場合は、非常に有用な情報となります。そしてウイルスについてどれだけ知っているか、私たちがどれだけの経験を持っているかによっては、有用な予測ができるかもしれません。
ただし、それは私たちが次のパンデミックを予測できるという意味ではありません。全く見たことのない、どのように振る舞うか分からないウイルスかもしれないからです。
そして非常に重要な警告の一つは、膨大な監視と引き換えに予測を約束する人々に注意することです。なぜなら、監視の代償は警察国家だからです。それは権威主義につながります。私たちはしばしば、決して守られることのない、仮に守られたとしても非常に問題のある約束と引き換えに、プライバシーを放棄し、自分たちの民主主義を売り渡してしまっているのです。
なるほど。具体的な例が必要ですね。監視はどこで行われていて、そうしたトレードオフはどこに存在するのでしょうか？
私は以前ニューヨーク市に住んでいて、しばらく街から離れていたのですが、以前住んでいた頃よりもカメラの数がずっと増えていることに気づきました。
ええ。
そして多くの人が「安全のために監視が必要だ」と主張します。監視が多ければ多いほど、私たちは安全になるのだと。
そうですね。
しかし、それは経験的に不正確です。世界で最も安全な国々は、最も監視されている国々ではありません。スペインが一つの例です。スペインは殺人などのあらゆる種類の犯罪、暴力犯罪の統計が低い国の一つですが、アメリカやイギリスよりも監視が厳しいわけではありません。実際、イギリスはヨーロッパで最も監視されている国ですが、より多くの犯罪が起きています。
それが一つの例です。なぜこれが重要かというと、抗議活動、特に平和的な抗議活動が行われる際、匿名性を持つことが非常に重要だからです。それは民主主義の基盤の一つです。至る所にカメラがあり、顔認識技術が簡単に使えるようになると、民主主義のためのツールボックスの中で最も重要なツールの一つが蝕まれてしまいます。
うーん、これについては聞きたいことが山ほどあります。まずお聞きしたいのですが、中国に行かれたことはありますか？
中国についてはたくさん読んでいます。
なるほど。私は1日だけ北京に滞在したことがありますが、それだけで現地の監視のレベルを知るには十分でした。
ええ。
大量のカメラがありました。社会が安全だという感覚は確かにありますが、私が住みたい社会ではありません。
その通りです。
しかし、そこにはある種のスペクトラムが存在するはずです。たとえば、特定のエリアに防犯カメラを設置しておくことは良いことですよね。映像の記録がなければ、解決できる犯罪の数はおそらく減ってしまうでしょう。ですから、そのスペクトラムのどこに住みたいかを見つける問題ではないでしょうか？
はい。しかし、私たちはそれを大いに間違えていると思います。これほどの監視を行うことで私たちが実質的に問うているのは、「自由民主主義はどれだけの監視に耐えられるか？」ということです。そして私は、私たちがその限界を思い知らされるのではないかと恐れています。
私は限界を試したくはありません。
ええ。
私も中国には住みたくありませんから。犯罪のない世界という幻想は、それが権威主義という全く別の種類の犯罪に満ちた世界になるという事実を無視しています。
まさにその通りです。
ええ、それは問題ですね。
生成AIの本質は「ブルシット」なのか
それでは、生成AIがこれにどのように関わってくるのか少しお話ししましょう。というのも、冒頭で少し触れた後、どこにでも存在するような古いバージョンの機械学習の話に移ってしまったからです。
しかし現在、チャットボットに対する信頼が高まっており、ええ、ChatGPTの言うことに基づいて自分の人生を本当に異なる結果へと導いてしまうことも可能です。私もしばしば飛びついてしまうのですが、その前に少なくともこれについて考える価値はあるでしょう。
全くその通りです。そして、前のトピックを締めくくる意味でも言っておきたいのですが、監視が重要である理由は、監視のメカニズム全体が予測のメカニズムに供給するために存在しているからです。これら2つのメカニズムは密接に関連しており、だからこそ重要なのです。
でも、私たちは『マイノリティ・リポート』のような世界に生きているわけではありませんよね？
私たちはその方向に歩んでいるように見えます。そして私は、私たちが違う方向に歩んでいくことを望んでいます。
しかし、順を追って考えてみましょう。私たちは人々が犯すかもしれない犯罪に基づいて彼らを逮捕しているわけではありませんよね？
いいえ。しかし、私たちは司法制度において、量刑や司法の多くの側面で予測アルゴリズムを使用しています。そして、保険やローン、雇用のケースで探求したのと同じ理由で、それは非常に問題があります。
司法制度において予測アルゴリズムがどのように使われているかもう少し話してから、生成AIの問題に移りましょうか。あなたはどんどん……。
場所によって大きく異なります。しかし、ある人物が犯罪を犯すリスクを評価し、それに基づいて保釈を認めるかどうかを決めるためにアルゴリズムが使用されることがあります。
仮釈放とか。
仮釈放も。
そういったことですね。
そういったことすべてです。私が懸念しているもう一つのケースは、人々があまり認識していないと思いますが、たとえば保険会社が訴訟をカバーするかどうかを決定する際、勝訴の可能性が51%ある場合にのみカバーするというようなケースです。
ある意味でそれは理にかなっています。その背後にある合理性は理解できます。しかし同時に、私たちが司法制度を確率に関するものにしてしまうと、その原則に基づくアプローチを失うことになります。
そうすると、悪党が逃げおおせるのを非常に簡単にしてしまいます。なぜなら、異議を申し立てるのを不可能にしたり非常に難しくしたりする必要はなく、彼らが勝つ可能性をわずかに低くするだけで、無傷で逃げ切ることができるからです。
つまり、私が原則に基づくべきだと考える領域に確率的思考を導入すると、あらゆる種類の正義の歪みが生じるのです。
なるほど。もう一つ質問させてください。抗議活動においてなぜプライバシーの権利があるのか、あなたの考えを聞きたいです。私の懸念を話しましょう。
どうぞ。
少し議論してみるのは良いことですから。もし……アルゴリズムについて少し否定的なことを言います。私たちは、アルゴリズムが人々を極端な立場へと駆り立てる世界に生きています。極端であればあるほど、アルゴリズムの中で再生されやすくなります。そして、その一部は匿名性によるものです。
匿名であれば、観測気球としてこうした発言をし、人々の反応を見てからさらに態度を硬化させることができます。匿名の抗議活動に関する懸念の一つは、私が立場を表明しているわけではなくただ議論しているだけですが、オンラインのダイナミクスの一部を物理世界に持ち込んでしまうことです。もし正体がわからなければ、極端に走る誘惑や能力がどんどん高まってしまいます。
私は言論の自由を信じていますが、インセンティブも重要だと考えています。これについてどう思われるか話していただけますか。
もちろんです。私には『オンラインの仮面（Online Masquerade）』という論文があるのでお送りしますね。その要旨は、あなたが言うように考えるのは非常に直感的ですが、実証データを見ると、オンラインで身元を明かしている人の方がより攻撃的になる傾向があり、そしてその攻撃性においてより多くのフォロワーを獲得し成功する傾向があるということです。
私たちは公共の場でこれを目にしています。本名を出して非常にひどいことを言い、それがうまくいっている重要な政治家を知っていますよね。ですから、匿名性が必ずしも攻撃性や有害性の増加につながるわけではありません。
2つ目のポイントは、もしあなたが公共の広場で抗議活動をしていて、平和的に抗議しているとします。そこに攻撃的な人や違法なことをする人が1人いたとすれば、当然警察はいつでもその人を逮捕できます。しかし、そのために、つまり説明責任を果たすために大量監視を行う必要はありません。数十年前に大量監視などありませんでしたよね。
でも、私は大量監視の話をしているのではありません。単に匿名性の部分について言っているのです。もし全員がマスクをして抗議活動をしたら、マスクをしない場合よりも良い結果につながると思いますか？
そもそも私たちはマスクを必要とするべきではありません。身元を特定するような監視を行うべきではないからです。
マスクが生み出す産物として、ですね。
ええ、その通りです。でも仮に誰かがマスクをしてガラスを割ったりしたなら、警察に逮捕させてマスクを外させればいいだけのことです。
なるほど。でもそういうわけには……わかりました。この件はそのままにしておきましょう。一日中この議論に費やしたくはありませんが、あなたの考えを聞けてとても興味深かったです。さて。
最後に生成AIの側面についてお話しいただけますか。
はい。
私たちの世界にこうした予測のシステムがあるなら……繰り返しになりますが、生成AIツールを作っている人々は、次の単語を予測し、結果を予測することに非常に熱心です。そして結果を予測できるようになれば、彼らのエージェントは次のステップを踏み出すことができます。それはどこへ向かっているのでしょうか。
そうですね、一部の著者は予測AIと生成AIを区別していますが、私はそれが意味をなすか確信が持てません。なぜなら、どちらの種類のAIも本質的には予測的なものだからです。使い方が違ったり見た目が違ったりするかもしれませんが、本質的にはどちらも機械学習です。
そして機械学習が広く行っていることは、手元にあるデータに基づいて、手元にないデータを推測することです。次の単語を予測するにしても、誰かが良い従業員になるかどうかを予測するにしても、大まかには同じです。
生成AIのケースは非常に興味深いものです。どこから始めればいいか分からないほどです。どのように訓練されたかというのも興味深い点ですね。著作権で保護された素材や個人データを使っている点などですが、それはひとまず置いておくとして、機能の仕方に注目してみましょう。ご存知の通り、あれは非常に「おべっかを使う」システムです。
ユーザーを関与させ続けるために、人々を喜ばせようとします。「それは素晴らしいアイデアですね」といったことを言い、絶えずあなたを承認してくれます。そのように設計されているのです。何か別のこと、たとえば真実を追求するように設計されるのではなく、人々を満足させるように設計されました。もしあなたが研究者なら、真実を追求する方がはるかに役立つはずですが、私たちは時にそのことを見失ってしまいます。
哲学の世界でこれを言い換えるとすれば、ハリー・フランクファートという哲学者が書いた『On Bullshit（ブルシット・デタラメについて）』という本があります。フランクファートは、ブルシットは民主主義にとって非常に危険だと言っています。なぜなら、真実を語る人と嘘つきは、コートの反対側で同じゲームをしているからです。嘘つきは嘘をつくために真実が何であるかを知り、真実を気にする必要があります。
しかし、ブルシッター（デタラメを言う人）はゲームのルールなど気にしません。彼らはそもそもゲームに参加していないのです。それは民主主義にとって非常に有害です。真実を気にせず、真実に無頓着に自分の望む反応を得るためなら何でも言うような相手と議論や会話をするのは非常に困難だからです。
そして、それこそが基本的に大規模言語モデル（LLM）なのです。真実への関心はありません。ただあなたを喜ばせたいのです。あなたを喜ばせることがたまたま真実であれば素晴らしいですが、真実でなくても、全く気にしません。
しかし、それは本当でしょうか？ というのも、AIの研究所はこれらのモデルを真実に根付かせるために多くの作業を行ってきたからです。実際、もしそれがあなたの言うようなブルシッターであれば、経済的価値はほとんどないはずですが、今やそこに真の経済的価値があることが分かっています。
本当に経済的価値があるかどうかはわかりませんよ。その判断はまだ下されていません。
でも、研究所はもっと多くのことを行ってきましたよ。
あなたはそう思わないのですか……つまり、私たちはもはやここに真の疑問がある段階は過ぎたように私には思えます。もちろん、ブームを正当化するような広範な経済的価値ではないかもしれませんが、コーディングのような分野を見れば、そこに確かな真の経済的価値があることが今日すでに確認できます。
どうでしょうか。ないとは言いませんが、私にはわかりません。なぜなら、これらのシステムは時に、後で修正するのに非常に高くつくような間違いを生み出すため、私たちが経済的価値を得ているかどうかの計算をするのは簡単ではないからです。
最近、ハーバード・ビジネス・レビューに掲載された論文では、人々がAIを使って生産性が上がったと考えている場合でも、研究者が調査すると、実際にはAIの間違いを修正するのに多くの時間を費やしており、それに気づいていないため生産性が下がっていると示唆されていました。
ですから、私にはわかりません。価値があるのかもしれませんが、私にはまだ明白だとは思えません。
なるほど。でも、異なる視点を持つ方がここにいるのは素晴らしいことです。みんなが同じことを信じるべきではありませんからね。
もちろん。そして私が「分からない」と言うのは、適当に言っているわけではなく、本当に分からないからそう言っているだけです。
ええ。
しかし、仮に経済的価値があったとしても……私たちはどこまで話しましたか？
これが本当に生成AIについての重要な問いだと思います。あなたの主張はそれが「ブルシッター」だということですが、私はここで一つの考えを投げかけたいと思います。これは私が心から信じていることですが、これらの企業はモデルを現実に根付かせるために多大な時間と資金を費やしています。なぜなら、そうすることでモデルがはるかに有用になり、時間の経過とともに実際に彼らはそれを改善してきたからです。
間違いありません。しかし興味深いのは、彼らがより良いものにしてきた方法が、この確率論的で統計的な思考から遠ざかることによるものだということです。たとえば、チャットボットと会話をしていて、あなたが探しているのがPDFのマニュアル内にある情報だとAIが気づいた場合、彼らはPDFを参照します。そうやって自らを現実に根付かせているのです。
あるいは、あなたが計算を求めていると気づいたら、計算機に接続します。ご存知の通り、これらのシステムは計算ができないからです。システムを改善する方法が確率的思考から離れることであるというのは興味深い事実です。
ですから、私の批判の一部は、特定のAIやあらゆる種類のAIについてではなく、「予測」について、私たちが予測をどのように使っているか、そして予測を使うことにおいて私たちがどれほどナイーブであったかということについてなのです。
もしこれらのシステムが最初から異なる設計思想で作られていれば、これほど多くのパッチ（修正プログラム）を必要としなかったと思います。利益のために人々を関与させることを根本とするのではなく、最初から真実を追求するようにシステムを設計するには、今後どのように考えればよいのでしょうか。
でも、「あ、実は私の知識はここで途切れているから計算機を使おう」とか「PDFを見に行こう」と自ら気づくのは、とても印象的だと思いませんか？ そしてモデル開発者たちの反論としては、ベースモデルができる前にツール呼び出し（外部ツールの利用）はできない、というものになるでしょう。ベースモデルがいつツールを呼び出すべきかを判断できるほど賢くなるまでに数年かかったのだと。
それは素晴らしい響きですし、私も同意します。
でも実際には、彼らはまだそこまで到達していません。ごく最近の例を挙げましょう。数週間前の話です。あるチャットボットに「箱が1つあり、そこにウサギを2匹入れます。そして5ヶ月後、そこからウサギを5匹取り出します。ウサギは何匹残っていますか？」と尋ねます。するとAIは「マイナス3匹です」と答えます。
つまり、彼らは必要なものを常に判断できるほどの理解力をまだ持っていないのです。このケースでは、計算機を使ったかもしれませんが、それは適切ではありませんでしたよね？ なぜなら、ウサギが繁殖するということを彼らは理解していないからです。ですから、まだニュアンスを理解できていません。
ええ。最新のモデルに「strawberry」の中に「r」はいくつあるかと聞く代わりに「straw perry」に「p」はいくつあるかと聞くと間違えてしまうという例もありますね。モデルは「strawberry」について聞かれることに慣れすぎているので。
まさにその通りです。
予測市場がもたらす危険性と自己成就予言
さて、このセグメントを終わらせて休憩に入らなければなりませんが、あなたの幅広いテーゼで締めくくりましょう。それはつまり、私が正しく要約できているか教えてほしいのですが、「私たちは多くの予測が存在し、常に私たちの周りに予測が増え続けている世界に生きている。AIモデルにおける予測、私たちが得る仕事やローンに影響を与える予測など、すべてがそうだ。そして、この予測という概念をただ当たり前のものとして受け入れるのではなく、その予測自体の性質におそらく注意を払うべきである」。あなたが言いたいのはそういうことでしょうか？
ええ、まさにその通りです。予測は権力の武器になり得るからです。偽装された権力闘争になる可能性があり、私たちはもっと賢く、ナイーブにならないようにする必要があります。
なるほど。そしてそれらすべてが予測市場でステロイドを打たれたように加速しています。なぜなら、予測市場で予測を見たとき、その問いは「誰かが結果を意図的に具現化しようとしているのか」「結果について直接の知識を持つ人がいるのか」、それとも「単に何が起こるかについての市場なのか」ということになるからです。その点については、この後の休憩明けにお話ししましょう。
さて、ビッグテクノロジーポッドキャストに戻ってきました。本日はオックスフォード大学の哲学者であり、『Prophecy, Prediction Power, and the Fight for the Future from Ancient Oracles to AI』の著者であるカリッサをお迎えしています。素晴らしいタイトルですね。カリッサ、予測市場についてどう思われますか？
怖いです。
なるほど。前半の会話を聞いた後なら、驚くことではありませんね。具体的に何が怖いのですか？
予測市場を持つことの根拠は、それが知識の源になり得るというものです。自分の資金を使って賭けを行い、間違えれば損をするため、人々は正解を出そうと努力します。そして多くの人が賭けを行うとき、理論上は群衆の知恵を活用できるというわけです。
これらはすべて素晴らしい響きです。しかし、そこには予測が知識の探求であるという前提があります。予測が時に権力の探求であるという事実を考慮していません。
たとえば、あなたが大衆の認識に影響を与えたいと考え、十分なお金を持っていれば、特定のことや人物に多額の賭けをして、それがより人気があるように見せかけることができます。すでに政治家が自分自身に賭けている例もあります。
それは選挙資金の素晴らしい使い道ですね。
ええ、まさに。
避けられないもののように見せかける。それはすべての選挙キャンペーンがやろうとすることですからね。
その通りです。そして、こうした予測市場が新聞社と取引を始め、新聞がその予測をあたかも事実であるかのように報道するようになれば、選挙資金を投資する非常に賢い方法となります。
もう一つ懸念される例は、予測を実現する方法が複数あり、そのうちの一つが「事後的に事実にしてしまう」というケースです。お読みになったかわかりませんが、あるイスラエルのジャーナリストが紛争中の空爆について報じたところ、90万ドルの賭け金を勝ち取ろうとした人たちから記事の内容を変えるよう圧力をかけられたというケースがありました。
ええ、ファンタジースポーツのようなものですね。
ええ。もう一つ懸念されるのは、匿名の6つのアカウントがイランへの攻撃に賭けて予測市場で120万ドルから200万ドルを稼いだというケースです。これらのウォレットのいくつかは攻撃の数時間前に資金が提供されており、インサイダー情報を持っていた可能性を示唆しています。
そしてもし彼らがインサイダー情報を持っていたなら、その利益相反は異なる種類の決定につながったのでしょうか？ また別の懸念されるケースは、敵対者がこうした予測市場を利用して自らの戦術を決定する可能性があるということです。そうなれば、紛争そのものを変えてしまうかもしれません。
そして、悪意のあるプレイヤーが存在しない場合、つまり単に善意の人々だけであっても、多くの人が戦争が起こると考えることで、実際に戦争が起こる可能性がはるかに高くなることを私は懸念しています。なぜなら、相手国がそれを脅威と解釈してエスカレートさせ、それに呼応して我々もエスカレートさせ、突然、誰も望んでいないスパイラルに陥るからです。私たちの期待が未来を形作るのです。
なぜ人々はこれほどまでにこれらの市場に夢中になっているのだと思いますか？ つまり、予測市場は今ブームになっています。というのも、彼らは正確だったからですし、場合によっては世論調査よりも正確だったと思います。しかし、それにしても予測市場に向けられる並外れた注目と関心は非常に興味深いです。その背景には何があると思いますか？ 哲学者の視点からお願いします。
私は哲学者ですが、うーん、分かりません。これは仮説に過ぎませんが、一つの仮説としては、私たちが賭けという言葉で考えることにすっかり慣れきってしまい、そのメンタリティを人生のますます多くの領域に輸出しているからだと思います。そしてそれは非常に悪いことだと考えています。
それはまた、人生をゲーム化することにも関係しています。賭けに勝てばお金を稼げるという状況において、自分が勝つ裏で、たとえば戦争などのように誰かがひどく苦しむことになる可能性があるということに、私は非常に不気味なものを感じます。
なぜなら、「予測市場は株式市場と大差ないじゃないか、あれも一種の賭けだ」と言うかもしれません。しかし株式市場では、企業に投資するとき、あなたは実際にその企業に資本を提供しており、それは社会への重要な貢献となっています。一方、予測市場は単なる賭けに過ぎません。
彼らが持ち得る唯一の価値は、それが正確である場合だけですが、しかし何の代償を払って、どのような意味で、いつ正確なのでしょうか？ そこには多くのノイズがあります。仮にある事例で「ああ、このケースでは予測市場の方が正確だった」と言ったとしても、それが一体何を意味するのでしょうか？ それが他のすべての問題を帳消しにするわけではありません。私たちはすべてをゲーム化したいとは思っていません。
しかし、おそらく予測市場がこれほど人気があるもう一つの理由は、私たちが不確実性の高い時代を生きているという一般的な感覚があるからだと思います。それが人々を不安にさせます。私自身もそれを感じます。
しかし私は、不確実性に対する不安を感じたとき、不確実性は実際には良い知らせなのだと気づいてほしいと人々に呼びかけたいのです。なぜなら、不確実であるということは、未来がまだ書かれていないことを意味し、それは私たちがそこに介入し、影響を与えることができるという素晴らしい知らせだからです。もし明日何が起こるか正確に分かっていたら、あなたはおそらく警察国家に住んでいることになりますよ。
ええ。でも、予測市場が存在していたとしても、そこにおそらく介入することはできますよね。私は諦める必要はないと思います。政治の世論調査と同じです。世論調査が自己成就予言になることが多いという点では、予測市場と同じことが言えます。
ええ。そして、なぜ私たちは世論調査を行うのでしょうか？ ある意味で、エンターテインメントのために行っていますが、それで十分なのでしょうか？ 私はそれが良いことなのか確信が持てません。
別の理由としては、情報を十分に得たいというのがあるかもしれません。状況がどうなっているかによって、どちらに投票するかを決める、つまり戦術的投票ですね。しかし、私たちは人々に戦術的な有権者になるよう奨励すべきか確信が持てません。
理想的な民主主義とは、人々が自らの良心に従って投票するものだと私は思います。その方が彼らが何を望んでいるかをより反映しており、より民主的です。私たちが人々に戦術的に考えるよう強いるとき、何かを失っているように思えます。
ええ。私は政治の世論調査をテーブルに立って擁護するつもりはありません。
わかりました。
私も世論調査には少しうんざりしています。
不確実な未来を救うユーモアとアナログの力
それでは、最後はこの話題で締めくくりましょう。あなたには、この時代にはコメディを使う必要があり、それがあなたが見ているこうした病弊に対するある種のカウンターウェイト（対抗力）になるという見解があります。それについてもう少し詳しく話していただけますか。
はい、本当に面白いことなんですが、私の最初の著書『Privacy is Power（プライバシーは権力である）』はある意味でとても暗い本でした。当時、誰もがテクノロジーに興奮していて、監視の側面に目を向けていなかったので、もっと警告が必要だと感じたからです。
しかし今では、多くの人々が未来について恐ろしい予測を立てており、私たちは非常に暗い空間にいるように思えます。学生たちと話していても、若い人たちが明るい世界を想像することさえできるのかどうか分からないと感じることがあります。もし想像すらできないなら、どうやってその明るい未来にたどり着くことができるでしょうか。
そこで私は、私たちが持っている良いものを強調したいと思いました。私たちが持っている非常に優れた2つのもの、そして非常に重要な資源とツールがあります。第一に「アナログな世界」です。
私たちはデジタルに眩惑されるあまり、お気に入りのコーヒーショップやお気に入りのバー、愛する人々、飼い犬、そして木々や川といった生態系の世界を忘れてしまうことがあります。そうした場所に足場を置き、大切に守っていくことが重要です。
そして2つ目は「ユーモア」です。ユーモアは、人生をより楽しくし、人生の最も困難な部分をうまく乗り切るための方法であるだけでなく、民主主義のツールキットの中の非常に重要なツールでもあります。ユーモアのセンスを失うとき、あなたはおそらくある程度の自由と民主主義も失っているのです。
たとえば、小説家のミラン・クンデラは、共産主義下での経験から、まさにこの点を突いた『冗談』という小説を書いています。
ですから、これらすべての暗い予測に立ち向かう一つの方法は、まずそれらが予測に過ぎないことに気づくことです。予測は事実ではありません。それに反抗することができます。「それは私が望む未来だろうか？」と考え、もし違うなら、「自分が住みたい未来を創るために私は何をするか？」と考えることです。
そして2つ目の方法は、それを少しだけ深刻さを減らして扱うことです。意地悪になれと言っているわけではなく、ただ人生の不条理について少し笑い飛ばそうということです。
ええ。
そしてユーモアはある種の知性でもあります。それは不条理なことや、何かがおかしいということに気づくことです。本の中で挙げている一つの例が、『となりのサインフェルド』という番組です。これは予測を覆すことについても示唆を与えてくれます。
何かが面白いとき、それはある種の方法であなたを驚かせます。ジョークが面白い理由の一部は、あなたが何かを期待していて、それとは別のものを提示されることで笑いが生まれる点にあります。サインフェルドはこれにおいて天才的でした。
そしてこの番組は非常に興味深いケースです。なぜなら、これはアルゴリズムが選択するものとは全く正反対のものだからです。パイロット版の段階では、この番組は信じられないほど不評でした。フォーカスグループは弱々しいと評価し、人々は気に入りませんでした。人々が見たいものではなかったのです。
もし当時、人々が見たいものを選ぶアルゴリズムがあったなら、『サインフェルド』は選ばれなかったでしょう。しかしNBCにあるエグゼクティブがいて、この番組の可能性を信じ、擁護しました。最初の数シーズンは少し成功した程度で、ニッチなファンはいましたが、まだ規模は小さいものでした。
しかしその後、番組は大ブレイクしました。大ブレイクした理由の一部は、それが人々の感性を変え、私たちのユーモアのセンスを変えたからです。そしてそれこそが、偉大なコメディや偉大な芸術、偉大な文学が私たちにもたらすものです。それは私たちに世界を違った目で見させてくれます。
予測に過度に依存し、過去に成功したものに基づいて成功するものを予測するだけでは、私たちは世界を新しく、違った目で見させてくれるようなイノベーションを見逃してしまうことになります。
ええ。そしてあなたのご指摘通り、大規模言語モデル（LLM）が最も苦手とするのがユーモアですよね。彼らはジョークを作れません。
ええ。
それはあなたが指摘したように、彼らがただ平均の平均をとることに慣れていて、カーブボールを投げることに慣れていないからだと思います。
その通りです。そしてもう一つの理由は、そこに「誰か」がいるわけではないからです。権力に対して不敬な態度をとる「誰か」がいないのです。コメディの一部は、宮廷道化師のようなものです。それがとても面白いのは、彼らがある意味で王に挑戦していると私たちが知っているからです。
そしてLLM自体が王様ですからね。
ええ、彼らが王様です。
著書は『Prophecy, Prediction Power, and the Fight for the Future from Ancient Oracles to AI』。カリッサ・ヴェリスさんでした。本日は番組にお越しいただき、本当にありがとうございました。とても楽しかったです。
アレックス、お招きいただき本当にありがとうございました。素晴らしい時間でした。
最高です。それでは皆さん、ご視聴いただきありがとうございました。また次回のビッグテクノロジーポッドキャストでお会いしましょう。
コメント