MetaがAIを用いてユーザーが死亡・離席した後もSNS上での活動を継続させる特許を取得したことが判明し、大きな話題を呼んでいる。過去にはMicrosoftも同様の特許を出願しており、Mark ZuckerbergがLex Fridmanとのインタビューで故人との対話の可能性に言及したことも明らかになった。デジタルクローンや死後のSNS継続という概念がSFの域を超えつつある現状を、様々な観点から考察した動画である。
MetaのAIチャットボットが物議を醸す
MetaのAIチャットボットが、これまでにない形で登場し、あちこちで話題騒然になっています。当然、これについて話さないわけにはいきません。
Business Insiderにこんな記事が出たんです。Metaの新しいAIについてで、タイトルは「死は終わりではない」というもの。実際のところ、Metaが「死後もSNSへの投稿を続けられるAI」の特許を取得したというのは、「らしい」なんて話ではなく、本当のことなんです。
かなりゾッとする話ですが、何が起きているのか正確に掘り下げていく必要があります。まるでブラックミラーのSF的未来が現実になったようで。
その特許がとても興味深くて、名称は「言語モデルを使用したソーシャルネットワークシステムのユーザーのシミュレーション」というものです。どこへ向かっているか、もうお分かりですよね。
特許の内容にはこう書かれています。「ソーシャルネットワークシステムが、当該ユーザーによって実行されたユーザーアクションから生成されたトレーニングデータを使って訓練された言語モデルを用いて、ユーザーをシミュレートする」と。そして、この言語モデルは、ユーザーがソーシャルネットワークシステムを離れている際にそのユーザーをシミュレートするために使用される可能性があるとも書かれています。
例えば、ユーザーが長期休暇を取る場合や、ユーザーが死亡した場合に、です。
特許の衝撃と背景にある意図
なぜこれがこんなにバズっているか、お分かりいただけると思います。それは、自分が亡くなった後もAIバージョンの自分が生き続けるというのが、最もぞっとすることの一つだからです。AIで亡くなった人が蘇るというSF的な未来を描いたコンテンツは、これまで多くの人が見てきたはず。
でも、これがMetaが実際に申請して、しかも正式に認められた特許だということは、もしかすると私たちはその最終段階にいるということかもしれません。
では、なぜMetaはこんなことをしようとしているのか。特許の細かい内容を読んでみると、これがなかなか興味深いんです。SNSは人々をつなぐものであり、そこでは「いいね」やコメント、シェアなどのやり取りが行われるとされています。そして、特定のユーザーに複数の人がつながっていたり、そのユーザーが生成したコンテンツを受け取っていたりする。もしそのユーザーがプラットフォームを離れると、つながっていた人たちはそのユーザーからのコンテンツを一切受け取れなくなる、というわけです。
ユーザーが長期間プラットフォームを離れることもある。だから——特許の言葉を借りれば——それは同じプラットフォームの他のユーザーのユーザー体験に影響を与えるということです。そしてもしそのユーザーが亡くなって二度とプラットフォームに戻れない場合、その影響はより深刻で永続的なものになると書かれています。
つまり彼らが言いたいのは、ユーザーがどんな理由であれプラットフォームを離れること——死亡であれ旅行であれ——が、他のユーザーにとって良くない体験だということです。かぎかっこをつけながら言いますが。まあ、それが本当だとしても、特許を取得したい理由としてはなかなか興味深い視点ですよね。
要するに、人々はSNSを常に離れているので、プラットフォームのエンゲージメントが下がるのを嫌がっているんでしょう。だから、ユーザーが生きているかのように投稿し続けられる状況を作り、プラットフォームが今のまま存続し続けることを望んでいる、と。
Metaが試みたAI有名人キャラクターの失敗
それはものすごく奇妙なことだと思います。オンラインで誰かとやり取りしているというのは、相手が本物の人間だからこそ意味があるわけですから。
ちょっと寄り道になりますが、このビデオにとても関係のある話があります。Metaがかつてやったことで、死んだ人の話ではなく、AIチャットボットと話すことについての話です。
ほとんどの人が気づいていないと思いますが、MetaにはAIパーソナリティというものがあって、有名人がさまざまな別人格に扮するというものでした。Tom BradyがBrew（スポーツの頭脳）として、Naomi OsakaがManga Master（漫画の達人）として登場していたんです。本物の有名人がAIパーソナリティとして自分自身をブランド化することに合意し、もちろん数百万ドルの報酬を受け取っていました。
でもこれ、あまり成功しなかったんですよね。ユーザーがその別人格をかなり不気味だと感じたからです。結局Metaはリリースから1年も経たないうちにこれを終了させました。
Metaが根本的に気づいていなかったのは、人がSNSに価値を見出すのは人間的なつながりのためだという点です。ソーシャルメディアとはそういうものですよね。ボットはその価値に合わない。
AIチャットボットが全く人間的なやり取りを生み出せなかった理由は、SNSが本来「ソーシャル」なもの、つまり人間がつながるための場所だからです。TwitterやYouTube、Instagramといったプラットフォームの価値は、リアルな人間の世界とつながれることにあります。ボットはクールで面白くて色々なことができますが、それと同時に、あなたが本物の人間から遠ざかっているということを際立たせてしまうんです。
ボットには本物らしさがなく、どこか違和感のある言葉を使う。80%くらいは合っているように見えても、深いレベルでつながりを感じるのにはやっぱり違う。LLMが誰かの投稿から訓練されても、その人の個性を本当に捉えることはできません。言葉のパターンマッチングにすぎないんです。
Snoop Doggがまだ生きているのにその偽物と話したくないと思う人が、亡くなった祖母の偽物と話したがるでしょうか。しかもそのAIが言うことに、本人は同意も訂正もできないのに。
過去の失敗から見えるデジタル不死の問題点
この特許について、SNS上では「本当に気持ち悪い」という声が上がっています。私がこの話をしているのは、私たちはすでにこの道を歩んだことがあるからです。存命中の有名人でさえうまくいかなかった。それを踏まえると、これがうまく機能するとは思えません。
そして考えてみてください。悪意はないですが、私のSNS投稿だってひどいもので、一般的な人のSNS履歴はそれほど密でも情報豊かでもありません。ということは、そのシミュレーションはおそらく全体的にかなりひどいものになるでしょう。
10年後には驚くほど良くなるかもしれませんが、人間的なつながりを再現しようとするのは、Metaのような巨大テック企業にとってもものすごく難しいことだと思います。
Metaは一応「この例を実際に進める計画はない」と言っています。そして、この特許は2023年に申請されたもので、2年後に認められたという事実は、今まさにそれを実現しようとしているということを示しているわけではありません。もし本当にそうなら、もっと早く聞いていたはずです。おそらくMetaは、これがグローバルなスケールでは機能しないと気づいたのでしょう。以前AIパーソナリティを展開したときは、AIブームに乗っかって何でも出してしまおうというノリだったのかもしれません。
ただ、人々がAIボットに完全にはまってしまうこともあり得ます。もちろんそれは現実に起きていることです。でもほとんどのユーザーにとって、SNSの使い方はそれとは違います。
プロジェクト・ラザロスという噂の存在
こんなとんでもない話をしている中で、「プロジェクト・ラザロス」と呼ばれるものを見つけました。ただし、確認はとれていません。4chanにあった匿名の投稿で、Metaの関係者と称する人物が「亡くなった人のSNSを引き継ぎ、まるでその人が生きているかのように関連した投稿を続けるAIを構築している」と言っているものです。年齢が進んだ写真、他の人のコンテンツへのやり取り、その人が物理的に亡くなった後もデジタルの世界で生き続けるために必要なすべてが含まれているとのことです。
当時、物事は奇妙な方向に向かっていたとも書かれていました。これはMetaが実際に特許を申請する前の話で、そこにはこんなことも書かれていました。情報は全て話半分で聞いてほしいですが、この記事が最近公開される前から何度も見かけていたものです。
そこにはこうあります。「AIは人を模倣する能力が非常に高い。ある人物がデジタル世界でどのようにやり取りするかをAIに学習させるのに、思ったほど多くの初期入力は必要ない。非常に説得力がある。島全体の人々が行方不明になっても、ほとんどダウンタイムなしにAIが全アカウントを引き継ぎ、世界はいつも通り生活が続いているとしか思わないだろう」と。
さらに「プロジェクトはどんどん細分化されており、事態は暗い方向へ向かっている。異なる部門の人間同士のコミュニケーションを禁じているようだ。何かがおかしい。どうすればいいかわからない。個人を特定できる情報は投稿しないが、質問には答えるようにする」とも。
陰謀論的な書き方ではありますが、2023年後半に特許が申請される前の話だということを考えると、もしかしたら何か真実があるのかもしれません。確認のしようはないのですが、少し奇妙な感じがするのは確かです。
Mark ZuckerbergとLex Fridmanの対談
2023年のBusiness Insiderのこの記事を見ると、Mark ZuckerbergがLex Fridmanのインタビューで実際にこの話をしているんですよね。彼らは、メタバースを使って亡くなった人を仮想的に蘇らせることは可能かもしれないと認めているんです。
だから、これはMetaの誰かが勝手に申請した突拍子もない特許ではなく、Mark Zuckerberg自身が、悲しみを抱えている人々にこのサービスを提供したいかもしれないと話していたんです。
このディスカッションのきっかけを作ったのは実はLex Fridman自身でした。「それって実際にできるの？」という疑問からです。インタビューの一部を聞いてみると、少なくともその部分については、ディストピア的な雰囲気はなく、シンプルなサービスの提案のように聞こえます。
Lex Fridman: これは少し複雑で重い質問かもしれませんが、この（メタバースの）体験をして最初に感じたのは、愛する人と話したいということでした。そして次に頭に浮かんだのは、もういない大切な人と話したいということです。将来的に、亡くなった人がメタバース上で存在し続けて、父親や祖父母、母親と話し続けられる——そんなことを考えていますか？この体験のリアルさに圧倒されて、真っ先に思い浮かんだことなんです。本当にそういう未来があるんじゃないかと。
Mark Zuckerberg: うん、そのあたりはまだ人々が考え、整理していくべき規範や問題がたくさんあると思う。大切な人を亡くして悲しんでいる人が、特定の記憶を振り返ったり、やり取りをできるような形があるとしたら、それが助けになることもあるかもしれない。でも同時に、それが行き過ぎて不健全になる可能性もある。私はその専門家じゃないから、しっかり研究して深く理解する必要があると思う。
この機能の実際のユースケースとしておそらく想定されているのは、膨大な知識と独自の視点を持つ著名な人物——歴史上の人物など、もう一度話してみたいと思う人々——との対話だったのだと思います。まあ、そういう雰囲気を目指していたのでしょう。
でも、それが比較的軽い話題だったとしても、みんながAIの自分のクローンを持って、亡くなった後もSNSに投稿し続けるような未来になったら、かなりディストピア的になりうると思います。そうなってほしくはないですが、他の誰かがどうせやるだろうな、という気もしています。
Microsoftの先行特許と企業の思惑
他の企業の話をすると、Microsoftも同様の特許を取得しています。2021年という早い段階で、亡くなった人だけでなくフィクションのキャラクターや有名人をシミュレートするAIチャットボットの特許を申請していたんです。
Microsoftの特許は非常に興味深く、画像、音声データ、行動情報、テキストメッセージなどから情報を収集し、物理的な存在感さえ持てるとされていました。写真や動画から収集した情報をもとに、2Dおよび3Dで人物を再現する計画も文書に含まれていたとのことです。
Microsoftの特許では亡くなった人をデジタルで蘇らせることを明示してはいませんが、亡き大切な人をチャットボットで再現する例が実際に挙げられています。生成AI技術が今ほど進歩していない頃の話ですから、企業がすでにこの方向性を見据えていたということは、将来的に本当に追求する可能性があるということでしょう。
正直に言うと、このプロダクトを求める人も一定数いると思います。自分がそうだとは言っていませんが、どれだけの人がこれを求めるかは、想像以上かもしれません。多数派ではないでしょうが、悲しみをうまく消化できない人が、失った誰かと話すためなら高い対価を払う、ということもあり得ます。
法的リスクとビジネスインセンティブ
もちろん、法的な問題もあります。アメリカの23州は没後の権利を認めており、亡くなった人の名前、声、肖像などを商業利用から10年から100年保護しています。もしこういったプラットフォームに登録するとすれば、利用規約でその権利を放棄することに同意する形になるかもしれません。国や州、管轄区域によってルールは当然異なりますが。
インセンティブの面で言えば、大多数の人はこれを望まないでしょう。死んだ人が生きているかのようにSNSに投稿し続けるのは非常に奇妙です。ただ、エンゲージメントが増え、コンテンツが増え、データが増え、現在および将来のAIのためのデータが増えるというビジネス的なメリットは理解できます。ただ、そのメリットをどのようにマーケティングするのか、大きな反発なしにどう実装するのかは、正直見当がつきません。
バージニア大学の社会学教授Joseph Davisは、こうしたツールが人間の悲しみの経験に与える影響を懸念していると述べています。「悲しみの課題のひとつは、喪失と向き合うことそのものだ」と。これはまさにそのとおりで、悲しみと向き合うプロセスの一部は、失ったものを受け入れることです。人間は本来、大切な人やペットを失うことを自然に乗り越えられるようにはできていない。だからこそ、もしこれが社会的な規範になり、多くの人が使うようになれば、悲しみのプロセスはより複雑になってしまう。前に進むための一部は、その人がもういないということを受け入れ、その死を悼み、健全な形で先へ進むことだからです。
AIクローンの未来と社会への影響
何が一番健全な向き合い方かは人それぞれ議論があるでしょうが、これが将来どんな複雑さをもたらすかは予測できません。ブラックミラーのエピソードで見てきたようなことが、現実に複雑さを増していくのだと思います。
特許の内容によれば、クローンは他の人のコンテンツに「いいね」やコメント、DMへの返信をすることになっているとのことです。インフルエンサーや、Metaのプラットフォームで生計を立てている人、SNS休暇を取りたい人にとっては、こうしたツールが便利に使えるかもしれません。
実際、今でもAIを使ってSNSに投稿している人はいます。まだ精度は高くありませんが、5〜10年後にはかなり良くなると思います。自動DM機能はすでに普通のことですし、AIやテンプレートを使っている人もいます。ただ、AIが積極的に他の人のコンテンツにコメントしに行くようになると、それはAIクローン機能の領域に入ってくる。SNSページやブランド、企業にとっては理にかなっているかもしれませんが、SNSがどう共進化していくかを見ていく必要があります。
Mr. Beastのように1億人のフォロワーがいる人がAIバージョンの自分でDMに返信しているとしたら、人々はそれを受け入れるでしょうか、それとも「本物じゃないなら要らない」と言うでしょうか。
私自身、非常にまれに体調が悪くて声が出せないときだけ使うAIボイスを持っています。ただ、コンテンツの中で完全にAIボイスを使っている人もいますし、SNS上にはフルAIのアバターも存在していて、実際にコンテンツを受け取っている人もいます。
Metaが空白を埋めるために行おうとしているのは、コメント、いいね、コンテンツといった過去のプラットフォーム上の活動を含むユーザー固有のデータでモデルを訓練し、あなたのデジタルソーシャルメディアのクローンを作ることです。潜在的にはディストピア的ですが、私たちが生きている間にこれを目にすることになると思います。どのように実装されるかが気になるところです。
そして最も興味深い点のひとつは、MetaはLLMでビデオ通話や音声通話もシミュレートする技術を特許に含めているということです。メッセージはまだしも、音声はレベルが上がりますが、ビデオとなったらまったく別次元の話です。AIリアルタイムアバターが開発されてきているのはつい最近のことですし、まだ「不気味の谷」の域を出ていませんが、AIの進化のスピードを考えれば、そのままではないでしょう。AI開発がこの方向へ進み続けることは、ほぼ確実に言えることです。
Redditのコメントにはこんなものもあって、なかなか笑えます。「最高だ、企業が亡くなった大切な人の口を借りて言葉を言わせてくれるのを心待ちにしてるよ」。そして「死んだ大切な人が広告を垂れ流すのは避けられないね」というコメントも。
SNSの大多数の人は、この特許申請をかなり奇妙だと思っています。でもMicrosoftはすでに2021年にこれをやっていた。AIが日常に溢れる今だからこそ、より衝撃的に感じられるのでしょう。AIが何をできるか、SNSにどう影響するかを私たちは知っている。だから、Metaが亡くなった人格として生き続けるAIを導入することも、それほど突飛なことには思えません。
有名人のAI版と文字通り話せるプラットフォームも存在しています。本人の個性は出ていないし、クオリティもそれほどではありませんが、面白半分で楽しんでいる人はいます。AI的な関係性の導入には慎重でなければなりませんが、ひとつだけ確かなことがあります。未来は非常に予測不可能だということです。
これについてどう思うか、そしてもしこういうサービスが実際にあったら使うかどうか、ぜひコメントで教えてください。
コメント