本動画は、AI技術の急速な進化により、インターネット上で人間とボットを区別することがいかに困難かつ重要な課題となっているかを解説している。Tools for HumanityのCEOであるアレックス・ブラニアをゲストに迎え、Worldcoinが推進する「Proof of Human（人間証明）」の概念や、虹彩認証デバイスであるオーブを用いたプライバシー保護の仕組みについて深く掘り下げている。さらに、AIが引き起こすディープフェイク詐欺やSNSのボット問題、そしてこれからの民主主義や経済インフラにおいて、確固たるアイデンティティ基盤がいかに不可欠であるかを議論している。
人間であることの証明とは
相手が人間であると、どのように証明すればいいのでしょうか。
それは驚くほど難しい問題ですね。やがて人々は、自分はボットではないかと疑われるようになると思います。
私たちが今目にしているものは、おそらく1年か2年後に起こる現実の1パーセントにも満たないものです。AGIが非常に根本的な変化をもたらすという考えは、もはや明らかだと思えます。
AIは人間をプログラミングするのが本当に得意です。人間がAIをプログラミングするよりもはるかに優れていますからね。
まったくその通りです。AIはGitHubのアカウントを持つこともできれば、投稿することもできます。さらに他の5つのAIに対して、彼らが実際には人間ではないにもかかわらず、人間であると証明することすらできるのです。正直なところ、今すぐこの問題を真剣に受け止めないと大変なことになります。
アレックス、ポッドキャストへようこそ。来てくれて嬉しいです。
お招きいただきありがとうございます。
さて、今「Proof of Human」、つまり人間証明という概念が注目を集めていますね。まず、この言葉に馴染みのない方のために背景を説明していただけますか。今まさに何が起きているのか、そしてなぜこのような状況になったのでしょうか。
エージェントと人間の境界線
ええ、そして人間証明とは何かということですね。
名前が示唆する通り、人間証明とは、インターネット上であなたが交流している相手が人間なのか、それとも人間以外の何かのかを知る手段です。そして現在私たちが問うべきなのは、あなたが交流している相手が人間なのか、人間の代理として動くエージェントなのか、それとも単なるエージェントなのか、ということです。大きく分けてこの3つの領域を区別する必要があると考えています。
単なるエージェントと、人間の代理として動くエージェントの違いについてもう少し説明してもらえますか。その違いをどのように捉えていますか。
はい。それでは、まず人間証明という言葉そのものと、その何が難しいのかを簡単に説明してから、それが人間の代理として動くエージェントにどう当てはまるかを説明しましょう。
人間証明が本当に意味しているのは、プラットフォーム上で活動するすべての個人が、理想的にはただ1つのアカウント、あるいは限られた数のアカウントしか持たず、そのアカウントの所有者であり続けるという性質を確保することです。つまり、最初は匿名性が高くてプライバシーを厳格に保護するような形での本人確認を行い、その後も同じ人物がアカウントを管理し続けていることを継続的に認証する仕組みを探しているわけです。
他にもあると便利な二次的な性質はいくつかありますが、本当に難しいのは一意性の確保です。現在Xなどのプラットフォームで起きていることは、リプライ欄に大量のアカウントやボットが溢れかえっているということです。おそらくどこかにいる1人の人間が、数万から数十万のAIを送り出しているのでしょう。
そして、Xなどはそうしたボットを見つけてブロックするというイタチごっこを続けており、おそらく毎日何百万というボットをブロックしているはずですが、それは全体の100分の1程度に過ぎないのではないでしょうか。
その通りです。まさにそのような状況です。そして、人間の代理として動くエージェントがどういうものになるかというと、おそらく私たち全員が自分専用のエージェントを持つようになると思います。それが1つのエージェントになるのか、それとも役割や性格の異なる複数のエージェントになるのかはまだわかりません。最終的には、私が自分のエージェントの特定の行動を承認し、一定の権限を与えるという形になるでしょう。私の代理として行動するように指示するわけです。
なるほど。私のXアカウントに投稿して、Instagramにも投稿して、というようにですね。
例えばそういうことです。
しかし、それは私のInstagramであり、それを所有しているのは私という一意の人間であるわけですね。
その通りです。プラットフォームとしてのXやInstagramがそれを許可するかどうかは彼ら次第ですが。
ええ。
でも、そういうやり方が可能になるということです。
ボットを見破る3つのアプローチとその限界
なるほど、理解できました。では、誰かが人間であることをどのように証明するのでしょうか。それは驚くほど難しい問題ですよね。
はい。
なんというか、今のエージェントは非常に賢いですからね。
ええ。
面白いことに、私たちが数年前にこの会社を立ち上げたのは、ChatGPTのようなものが登場するずっと前のことでした。ですが、遅かれ早かれAIがチューリングテストに合格し、人間だと主張できるようになるだろうと私たちは前提として考えていたのです。インターネット上ではもうAIと人間を見分けられなくなるだろう、と。さらに、AIが高度な自律性を持ち、あちこちを動き回って自分の意思で行動するようになるとも予測していました。そうなると、問題を解決するのは本当に難しくなります。会社を始めた当時、人々が関心を持っていた大きなアイデアは主に3つありました。
1つ目は、Web of trust（信用の輪）やそれに類するアイデアです。これは、インターネット上での過去や現在の行動履歴を見るというものです。通常は、数年前から所有しているアカウントをいくつか持ち、GitHubなどに定期的に投稿やコメントをしている、といった要素の組み合わせです。例えば、私たち3人がそうしたアカウントを持っていて、私が現実世界であなたを知っていると証明し、あなたも私を知っていると証明する。そうやって信頼のグラフを構築していくというアプローチで、当時はこれが非常に注目されていました。
しかし、私たちはそのアイデアをほぼ即座に却下しました。なぜなら、デジタル上で完結することなら、やがてAIにもすべてできるようになると想定していたからです。そして今、まさにそうなっていますよね。
ええ、まさにその通りです。
AIはGitHubのアカウントを持ち、投稿を行い、アカウントを所有し、実際には人間ではない他の5つのAIを人間だと証明することすらできるようになります。
ですから、これが1つ目のアプローチでした。2つ目のアプローチは、すべてに政府発行のIDを使うというものです。しかし、これもいくつかの理由から即座に全員で却下しました。
1つ目の理由は、言論の自由や権力の分散という観点から、政府がそのようなインフラを管理しない方が絶対に良いと考えられるからです。また、その方法では匿名性が失われてしまいます。
即座に失われますね。
匿名性を維持できるシステムを理論上は構築できるかもしれませんが、非常に困難です。そして2つ目の理由は、政府の身分証明システムはそもそもそのような目的のために作られていないということです。
この問題の何がそんなに難しいかというと、これはグローバルな問題だということです。例えば、シンガポールのように完璧なインフラを持っている政府があったとしても、それはあまり意味を持ちません。
ええ。例えばMetaは、他の多くの国々のユーザーを含めて30億人のユーザーを抱えるグローバルなプロダクトですからね。
シンガポールの人口は200万人かそこらですよね。
その通りです。シンガポール以外のすべての人を締め出したいわけではありませんからね。このように、政府のIDを却下した理由は他にもたくさんあります。そして最後のアプローチがバイオメトリクス（生体認証）です。これを聞くと、最初は拒絶反応を示してしまうかもしれません。
なぜ虹彩認証なのか
この問題の難しさをさらに深掘りすると、最初にお話ししたように、最も重要なのは一意性なのです。
ごく簡単な言葉でこの問題を説明しましょう。まず、Face IDは何をしているのでしょうか。Face IDは、私が再び自分のスマートフォンを使おうとしている同じ人物かどうかを確認しています。
なるほど。
つまり、それは1対1の認証なのです。スマートフォンの中にはデータが保存されていて、私の顔の写真を撮り、新しいデータを作成して、過去のデータと比較します。それが十分に近ければ、私はスマートフォンを使うことができます。
ですが、それは1つのデータを新しい1つのデータと比較するだけですよね。
人間証明の課題を解決するには、1人の新しい個人を、過去のすべての個人と区別する必要があります。ベンがサインアップしようとしているとき、ベンが過去にサインアップしたことがないことを確認しなければならないのです。
ええ。
そうなると突然、1対1の比較から、1対Nの比較に変わります。このNは、基本的には証明しようとしているネットワークの規模になります。
そうですね。
そこから計算をすれば、数学的なエントロピー、つまり情報理論的にどれだけの情報量が必要になるかがわかります。これは指数関数的な問題になるため、非常に大きな数字になります。
ええ。
そして計算を進めていくと、顔や指紋のようなものでは機能しないことがわかります。数千万人のユーザーを超えたあたりで壁にぶつかってしまうのです。
なるほど。そして行き着くのが、目の筋肉である虹彩ですね。虹彩には十分なエントロピーがありますから。
それなら一意性が保てるわけですね。
十分に一意性を証明できます。
プライバシーとゼロ知識証明の仕組み
そしてもう一つ、歴史的に生体認証が常にさらされてきたリプレイ攻撃の問題にはどう対処するのでしょうか。あなたの目玉そのものを持っていなくても、十分な情報を手に入れれば、あなたになりすましてリプレイ攻撃を仕掛けることができますよね。
これについても、検証と認証を分けて考えることが重要です。古い言葉で言えば、検証とはパスポートを取得することであり、認証とは特定の事柄のためにパスポートを継続的に提示することです。
ええ。
検証の段階については、私たちが開発したオーブというデバイスが、こうした攻撃を防ぐために多くの対策を講じています。例えば、電磁波スペクトルの複数のセンサーを搭載しており、画面上の画像を見せてもそれを見破ることができるようになっています。ですから、この点についてはうまく対処できていると思います。消費者側の再認証となると、スマートフォンをある程度信頼する必要があるため、はるかに難しくなります。
私たちが実際に行っているのは、あなたがオーブで検証を行う際、完全な匿名性とプライバシーを保護した方法で一意性を確認するだけでなく、後で再認証に使用できる署名付きの顔画像をスマートフォンに送信するということです。
なるほど。
新しいiPhoneならそのデータに対して十分な信頼を置くことができますが、古いAndroid端末では基本的に不可能です。
ええ、画面越しに見せたり、カメラのストリームに直接映像を流し込んだりして、ディープフェイクを見せることができてしまいますからね。
それが問題なのです。ですから、新しいiPhoneやそれに類するスマートフォンを持っていれば、検証時に撮影した画像を使ってそのまま再認証できます。そうでなければ、定期的に、例えば年に数回程度、再びオーブのところに行って再認証する必要があるかもしれません。
なるほど。
その通りです。
興味深いですね。
そして、初期の頃によくあった誤った批判の1つが、「彼らに目玉のデータを奪われてしまう」というものでした。
彼らが私のプライバシーにアクセスし、あらゆることをするんじゃないか、Worldcoinが私になりすますんじゃないか、といった批判です。しかし、それは事実ではありません。これもまた、解決すべき非常に複雑なエンジニアリングの課題でした。
本当に非常に複雑でした。虹彩について人々が十分に評価していないと思う点があり、それは私たちが当時賭けに出た部分でもあるのですが、虹彩は認証の手段としてごく一般的なものになるだろうということです。なぜなら、私たちは皆、いずれそうした機能を備えたARやVRのデバイスを身に着けるようになると思うからです。
AppleはすでにVision ProでOptic IDとして導入していますよね。
ですから、これは多くの異なるデバイスで使われる一般的な技術として普及していくと考えています。
プライバシーの点については、非常に多くの時間を費やしました。というのも、6年前の私たちの想定に基づいて、生体認証のために専用のハードウェアデバイスが必要だと決断したときは、実はかなり恐ろしかったのです。
ええ、それは非常に高くつく決断ですからね。
ものすごく費用がかかりますし、それを世界中に配布しなければならないと考えるだけで、数十億ドルもの資金をどうやって集め、世界中に配布するための大規模な計画をどう実行するのかという問題が立ちはだかりました。
それに加えて、私たちが重視するすべての要件を満たすシステムをどう構築するかというプライバシーの課題もありました。これを解決するための2つの主要な高度なアイデアが、マルチパーティ計算とゼロ知識証明でした。
なるほど。
Face IDとの違いをもう一度説明しましょう。Face IDはデータがスマートフォン内に保存されているため、非常にプライバシーが守られています。過去の自分自身と比較するだけなので、データがスマートフォンから外に出る必要はありません。
しかし、一意性を確認するためには、過去のすべての人と比較する必要があります。ですから、何かしらのデータが外部に出なければなりません。
ええ。
何かのデータを出して、他の誰かと比較する必要がある。これがはるかに難しい課題なのです。
私たちはこの問題にマルチパーティ計算を用いてアプローチしました。オーブで検証を行う際、デバイス上で計算が行われますが、そのデータは複数の断片に分割されます。例えば、虹彩の画像を撮影して虹彩コードを計算し、そのコードを複数の断片に分割して、複数のコンピューターに送信します。
なるほど。
そのため、中央のデータベースのようなものは存在しません。誰もあなたに関する情報を持っていないのです。
そうですね。
そして、巧妙な手法を使って、これらの異なるコンピューターが情報を分割したまま計算を行えるようにします。
なるほど、なるほど。誰も全体像を把握できないようにするわけですね。
ええ。誰も全体像を持っておらず、計算の最中でも全体像は存在しません。しかし、巧妙なやり取りを行うことで、最終的な結論を導き出すことができるのです。
ゼロ知識証明の手法に少し似ていますね。
非常に異なりますが、達成する性質という意味では似ているかもしれません。
誰もあなたについて何も知らないけれど、協力してあなたに関する証明を出すことができるわけですね。
その通りです。
マルチパーティ計算にデータを送信し、「はい、その個人は一意です」という結果が返ってきます。そして次に行うのが、これらすべてのプロセスとあなた自身を、ゼロ知識証明を用いて切り離すことです。
つまり、あなたは自分のスマートフォンに秘密の鍵を持っていますが、他の誰もそれを持っていません。サーバーも持っていませんし、私たちも持っていません。そして後で、このマルチパーティ計算のシステムに対して、「私はこの計算のプロセスに含まれる秘密の鍵を持っており、実際の一意の人間です」と言うことができるのです。そして、それをプラットフォームに対して証明できます。私たちにも、SNSのプラットフォームにもあなたの個人情報を一切知られることなく、あなたが独自のユーザーであることをSNSプラットフォームに証明できるのです。
生体認証を使用しているにもかかわらず、匿名性と極めて高いレベルのプライバシーを維持できるという、非常に直感に反する性質を持っています。これは本当に素晴らしいことだと思います。
人間証明が不可欠になる未来のシナリオ
ソーシャルメディアは、かつては単なる煩わしい存在だったボットが、今やプロパガンダや心理戦などに利用され、圧倒的な脅威になりつつある一つの分野です。人間証明が将来実現しなかった場合、他にどのような分野でボットの問題が耐え難いものになるでしょうか。
ええ。これに関する私のシンプルな考え方は、インターネット上で人間同士が直接、あるいは間接的に交流するあらゆる場面が影響を受けるというものです。
わかりやすい例で言えば、デーティングアプリですね。相手が本当に人間かどうかは非常に重要です。
ええ。リスナーには悪い知らせかもしれませんが。
自分が期待している人物かどうかですね。
ええ、まさにその通りです。なりすまし詐欺が話題になる前からこの問題はありましたからね。
ええ、ええ。
ですから、それは明白な例です。例えば、Tinderはすでにその理由でこの技術を利用しています。
Tinderでの活用例はどのようなものですか？
私たちはテスト市場として日本で展開を始めました。まさに今議論した通りの内容です。
オーブで検証を行うと、あなたが間違いなく人間であることを他の人に示す小さなバッジが表示されます。これにより、高度な検証が行われていることがわかります。そしてまだ実装はされていませんが、次に来るのは、あなたが主張している通りの人物であることを確認する機能です。
つまり、プロフィール写真に関連付けられたワールドIDを持っているということです。
ええ、それがすべて正しいかどうかを簡単にチェックするわけですね。
そうすることで、ボットとやり取りしていないことがわかるだけでなく、完全に本物のプロフィールを持つ相手とやり取りしていることが確認できるのです。
ええ。
少し意外に思われるかもしれませんが、ビデオ会議も大きな課題になると思います。すでにディープフェイクが存在していますからね。
ええ。今日のビデオ会議には出たくないから、自分のディープフェイクを参加させておこう、なんてことも。
ええ。実はこの問題を最初に指摘してくれたのはあなたなんですよ。それがきっかけで、私たちはこのためのプロダクトを作り始めました。これは最初、非常に価値の高いユーザーから導入が始まるでしょう。例えばあなたのようにファンドを運用している人たちにとって、お金の借り入れやそういった話をする通話は非常に価値の高いものになりますから。
ああ、なるほど。誰かが私になりすまして、「エリック、このナイジェリアの王子に4億ドルを送金してくれないか」と言うようなことですね。
まさにその通りです。
それは知っておいて良かったです。ええ。
そうですね。今はまだこうした技術が完全にリアルタイムではないため、多少は仮説の域を出ませんが、もうすぐそこまで来ています。
ええ、非常に近づいていますね。
あと1年もすれば完全にコモディティ化し、超絶なまでに写真のようにリアルで、完全にリアルタイムなものになるでしょう。ビデオ通話ではもう何も見分けがつかなくなります。ですから、これも重要な分野だと思います。もう一つ面白い分野を挙げるとすれば、ゲームですね。
ああ、なるほど。
ゲーマーにとって、相手がAIでないことは非常に重要ですから。
それはフラストレーションが溜まりますね。
特にお金を賭けている場合はなおさらです。
その通りです。お金を失うわけですから。毎日何時間もトレーニングしてやっと上達したのに、あらゆる面で人間を超越したAIに突然ボコボコにされるわけですからね。
面白いことに、これについてあなたがどう考えているか気になっていたんですが、私自身まだ明確なイメージを持てていません。動画プラットフォームのビジネスモデル全体も崩壊するのではないかと思うのです。この問題にはいくつかの側面がありますが、1つは、コンテンツの作成が非常にスケーラブルになっているということです。例えば、YouTubeで1日に100本もの動画を作成し、月に数万ドルを稼いだという人の話を聞きました。その動画はすべてAIによって生成されたものでした。
ええ。
そして人々はそれにすっかり騙されたのです。そこで問われるのは、それがYouTubeが望むようなマネタイズの形なのか、ということです。
ええ、興味深いですよね。彼らは騙されましたが、もしかしたらその動画を楽しんでいたのかもしれません。
そうかもしれません。でも、「これは人間が作った動画だ」「これはAIが作った動画だ」とわかる方が確実に良いですよね。
私の考えでは、コンテンツには明らかにフィクションであるカテゴリーが存在すると思います。
ええ。
映画などがそうですね。現実との接点がなくても気にしません。完全なフィクションの物語ですから。しかし、TikTokのようなものを考えると、人々がそれに惹かれるのは、そこに現実との何らかの繋がりがあるからです。
ええ。現実であることと、人間と繋がっていることは違いますからね。例えば、科学論文をGeminiに読み込ませて「これをポッドキャストにして」と指示すれば、かなり面白いポッドキャストが作れますし、現実の情報を基にしているという意味ではリアルですが、それでもAIが作ったと知りたいですよね。
知りたいですよね。
ええ、私は知りたいです。
広告主としても、それを見ているのが人間なのかAIなのか知りたいはずです。
ええ、その通りです。私が100本のAI動画を作り、100万のAIにそれを見せたとします。
ええ。そしてYouTubeから大金を稼ぐわけですね。
まさにその通りです。今日、YouTubeファームの動画を見ました。
ええ。何千台ものスマートフォンが、ただひたすら動画を再生し続けているんです。
ええ、ええ。それはYouTubeの広告主にとって何の価値もありませんからね。YouTubeにとって深刻な問題です。
そうですね。過去10年間のクリエイターエコノミーのプラットフォーム、例えばSubstackやSpotify、Patreonなどでアーティストを支援している人々は、YouTuberやクリエイターと個人的なつながりを持っています。単に作品が好きだというだけではありません。もし彼らがボットだとわかったら、同じようには支援したくなくなるでしょう。
ええ。高額な投げ銭をしたりはしないでしょうね。
ええ。生身の人間を支援したい、本当のつながりを持っていると感じたいという一定の層の人々がいると思います。
ええ。そして、人々がまだ本当に理解していないと思うのは、それがもたらす結果の重大さです。ここには2つのポイントがあります。1つは、私たちが現在経験していることは、これから起こることのごくごく一部に過ぎないということです。
ええ、ほんの垣間見ているだけですね。
その通りです。知能のコストはほぼ指数関数的に下がり、エージェントの能力は超線形的に向上しています。私たちが今目にしているものは、おそらく1、2年後の姿の1%にも満たないでしょう。そして2つ目は、これらのAIが多くの面で人間を超越するということです。彼らはあなたを完璧に理解し、適切な方法で語りかけることができるようになります。例えば、後で削除されてしまったと思うのですが、ある論文がありました。
ええ。
Redditの「Change My Mind」というコミュニティを使った、チューリッヒ大学の研究です。AIに実際にコミュニティで対話させたのです。
ええ。AIは人々の考えを変える能力において人間を超越していました。彼らは投稿者のプロフィールを遡り、政治的な動機や話し方を理解し、完璧な方法で対話していたのです。
ええ、人々の心のボタンを的確に押していくわけです。
AIは人間をプログラミングするのが本当に得意です。人間がAIをプログラミングするよりもはるかに優れています。
間違いありません。ですから、これはかなり恐ろしいことになると思います。しかし、少なくとも自分が心理戦の標的になっていることや、それがAIによる高度なものだとわかっていれば、非常に役立つはずです。
全くその通りです。
アメリカ市場への本格参入と普及戦略
現在のビジネスやプロダクトの状況についてもう少し教えてください。現在どれくらいのIDが発行されているのか、進捗や今後の進化についてもお話しいただけますか。
まず第一に、これは多面的な問題であり、主に3つの側面を考慮する必要があります。1つ目は、この技術を利用してくれるプラットフォームが必要です。RedditやXなどのことです。2つ目は、デバイスの普及です。これを考える上で適切な指標は、平均して何分でデバイスにたどり着けるかということです。現在の世界平均を取ると、多くの人が飛行機に乗らなければならないため、数日といったひどい数字になります。しかし、これを全米で15分以内に抑えるにはどうすればいいでしょうか。そのためにはおそらく5万台程度のデバイスを展開する必要があります。狂気じみた数ではありませんが、決してゼロでもありません。実行するのは困難です。
そして最後が、これらすべてがどう組み合わさって、多くの人が本当に使いたいと思うものになるかということです。それは各プラットフォームの実用性の組み合わせでもありますが、その上に乗る付加価値でもあります。例えば、Redditアカウントで使えば特定のサブスクリプションが無料になる、といったことです。様々な要素の組み合わせになると思いますが、ある時点でこれら3つすべてを同時に実現する必要があり、それは非常に難しいことです。
現在、アプリ内には4,000万人のユーザーがおり、そのうち1,800万人が認証済みです。しかし最大の課題は、私たちが暗号資産を利用しているため、過去の政権下では長い間アメリカへの投資を控えてきたということです。しかし、今私たちが進めている主要なシフトはそれではありません。
このすべてにおいて最も重要なのはアメリカ市場なのです。
Clarity Actが近いうちに可決されることを願っています。
ええ、そうなれば本当に素晴らしいですね。状況がクリアになりますから。
ええ。ですから、私たちが現在進めている大きな焦点は、アメリカ市場に全力で取り組むことです。今後1年間、会社の労力の90%はアメリカ市場に向けられることになります。どうやってデバイスの普及率を上げるか、どうやって最終的にすべてのスターバックスにデバイスを置くか。それがごく当たり前のことになり、人々が日常的に使うようになるにはどうすればいいかを考えています。
それがプラットフォーム側の話ですね。そして、個人的に非常に興味深い経験をしたのですが、数年前までは誰もが私たちのことをただ笑っていたのです。
Andreessen Horowitzや、信じてくれた他の数人を除いては、ですが。
ええ、メディアもそうでした。近視眼的な人たちがいかに多いかを示していますね。
その通りです。「ボットが来ると思わないのか？」と言いたくなります。
私たちが最初にプレゼンしたとき、あなたはどう思いましたか？あなたでさえ、これはクレイジーだと思ったはずです。
あのオーブのインパクトが凄すぎましたからね。「よし、人々の網膜をスキャンして、それで人間だと証明しよう」というわけですから。あなたが私たちにプレゼンしたのは、もう6年前ですよね。
ええ、コロナ前でした。オーブを持ってきてくれましたね。
ええ。
当時はまだAIがここまで進化していませんでしたし、ボットの存在は分かっていましたが、今と比べれば非常に粗末なものでした。でも、いずれこうなることは避けられないように思えました。少なくとも当時の感覚では、未来から来たアイデアのようで、「タイミングはいつになるのか」といった心配は常にありました。しかし、あなたのプレゼンは十分に印象的でしたし、いずれ必ず起こることでした。非常にエキサイティングなアイデアだったので、「よし、やろう」と決断できたのだと思います。ただ、そのタイムフレームでうまくいくかどうかは、決して明白ではありませんでした。
長い間、うまくいくようには見えませんでしたね。最終的な形と最初のプレゼンでは、どの程度違っていましたか？
実は、プレゼンの内容は当時からほぼ同じです。
内容は同じですね。デバイスは変わりました。はるかに経済的で使いやすくなりましたが。
その通りです。
でも、初期の直感は正しかったわけですね。
基本的には、誰もが自分が人間であることを証明しなければならなくなるか、インターネット上で人間証明を持たなければならなくなる。そうならなければ、非常に悲惨な世界になる。ロボットに支配されて終わりだ、ということです。
ええ。そして2つ目の側面は、それ自体が大きな意味を持つだけでなく、それが重要になったとき、AIの世界において人間のネットワークを持つことが信じられないほど重要なことになり、結果として最も価値のあるネットワークの1つを構築できるだろうということでした。ですから、大きく2つのポイントですね。人間であることを証明する必要が出てくること、そしてそれが強力なネットワーク効果を生み出すということです。
プラットフォームに関しても、彼らにとってボットが最大の問題になっているにもかかわらず、です。イーロン・マスクがTwitterの買収を撤回しかけたのを覚えていますか？すべてのデータがボットによるものだったからです。彼らはそれを知っていても、「人間証明が必要だ」と未来を見据えて考えるのは難しかったのです。
ええ。
かなり明白なことなんですけどね。
みんな「それってどういう意味？」という感じでしたから。「人間証明って何だ？」と。
Proof of Humanという言葉はいつ思いついたのですか？
私たちは長い間、「Proof of Personhood」という言葉を使っていました。この資料にもそう書いてあります。
ええ。
でもある時、「いずれAIもPersonhoodを持つようになるだろうから、これでは通用しない」と気づいたのです。
ええ、でもAIはしばらく網膜を持つことはないでしょうからね。
それもいずれ来るかもしれませんが。
本当に面白かったんですが、私が会ったOpenAIの人たちが、「アレックス、これは本当にダークな未来になるぞ。AIにPersonhoodを認めないなんて、みんなから憎まれるぞ」と言ったんです。それで私は「わかった、じゃあ『Proof of Human』と呼ぶことにしよう」と。
それは面白いですね。
そうやって変わっていったんです。そして去年のChatGPTの登場後、大きな変化がありました。人々にとってAIが突如として現実のものになったのです。その頃から人々は私たちと話をするようになりましたが、それでもまだ「未来の問題だ」「数年先の話だから今は気にしない」「連絡を取り合おう」といった反応が一般的でした。
ええ、でも信じて長期的な賭けに出てくれたCEOたちもいましたよ。彼らの名誉のために言っておきますが。しかし、2つ目の大きな変化は、最近のClaudebotなどの登場でしたね。
ええ。
もう後戻りできない状況になった、ということですね。
ええ。ですから、正直なところ、今これを真剣に受け止めていないなら、別の仕事を探した方がいいと思います。
ええ、彼らはROMのあり方について正しく考えていないだけです。それがきっかけで、多くの人が連絡してくるようになりました。今では市場リスクや仮説の問題ではなく、はるかに実行の課題のように感じています。
市場リスクではなく。
ええ、それでもまだ大きな課題ですが。どうやって5万台のデバイスを普及させるか、どうやってコストを下げるか、どうやって経済的に成り立たせるか。これら3つを同時に実現するのは非常に難しい問題です。スターバックスなどで気味悪がられないように、どうやってその行動を一般的なものにするか、などです。
でも、いずれ人々はそれに慣れると思いますよ。
ええ、なぜなら代替案があまりにもひどくて、人々はそれに耐えられなくなると思うからです。
それに、人々はオンライン上で自分が人間であることにもっと誇りを持つようになると思います。自分がボットだと疑われるようになるわけですから。本当に奇妙な世界になりますよ。
明確な境界線がなければ、大混乱に陥るでしょう。人間とボットを区別しないソーシャルメディアプラットフォームが成り立つと考える人がいるなんて、私には理解できません。馬鹿げています。
馬鹿げていますね。今後数ヶ月の間に、これらのプラットフォームがスマートフォン上の顔認証のようなものを使おうとする動きが見られると思います。それがうまくいかないことは分かっていますが、そのサイクルを経験することになるでしょう。ですから、私たちは次のフェーズに間に合うように急速にスケールアップする必要があります。オーブのようなものが唯一の解決策になると思います。現在、真の競合は存在しないと考えています。
競合は見たことがありませんね。あまりにも突飛なアイデアですから。
突飛ですし、デバイスを作るのも非常に難しく、さらに大規模なネットワーク効果がありますからね。
ええ。
今から始める人は、あなたより6年も遅れていることになります。
でも、問題がこれほど明白になった今、必ず競合は現れると思います。
新たなインターネットと民主主義のインフラ
AIが進化し続ける中で、どのような経済政策や方向性が必要になるとお考えですか？
政府は、市民にお金を送る方法を見つける必要があると思います。彼らは市民からお金を取るのは得意ですが、その逆は苦手ですからね。
新型コロナウイルスの刺激策プログラムを振り返るだけでもわかります。
4000億ドルが盗まれたと言われていますね。
送金先が確実に一意の人間であると知りたいはずです。市民でなくても、少なくとも一意の人間であればよかったのですが。
ええ。
アメリカの社会保障システムはめちゃくちゃですからね。
完全に崩壊しています。
ええ。ですから、誰がどの国の市民であるかを特定するための、暗号学的に強力な方法を確立する必要があります。そうしないと、非常に深刻な問題になるでしょう。そうしなければ、民主主義を維持することすら不可能です。
SAVE法案でやろうとしていることはかなり粗削りですが、完全に狂っているわけではありません。投票している人が実際の人間なのか、生きている人間なのか、どうやって確認するのか。現在、私たちはそれを本当に把握できていません。郵便投票のシステムなども、まったく違う世界のために作られたものです。
その通りです。
大規模ななりすましが可能なAIの世界において、社会保障システムが崩壊している状況では、もはや国民の意志を反映することはできなくなると思います。ですから、誰が誰であるかを証明する暗号学的に強力なインフラが必要になるでしょう。
同様に、現在のような社会保障プログラムの複雑な仕組みではなく、はるかに効率的に人々に資金を届けることができるようになる必要があります。社会保障やメディケアなどにどれだけの無駄や不正があるかを考えてみてください。ユナイテッド・ヘルスケアのCEOが銃撃され、それを人々が喜ぶほど、メディケアは人々にフラストレーションを与えています。それがどれほどひどいシステムか想像できるでしょう。
政府は医療費として多額の資金を送っていますが、そのやり方は極めて非効率です。しかし、今や私たちにはそれを解決するテクノロジーがあります。AIはこれらの問題をさらに悪化させるでしょう。不正請求を行ったり、ブラックマーケットで社会保障番号を買ったりすることが簡単にできるようになるからです。ご存知ないかもしれませんが、これは現実の話です。誰の社会保障番号でも売りに出されているのです。
ええ。AIは、そうした緩いブラックマーケットの地下詐欺を、大規模かつ極めてスケーラブルなものにする手段になってしまいます。
全く同感です。
ええ。ですから、人間証明は、インフラ全体をアップグレードするための非常に重要なパズルの一片だと思います。そうしなければ、私たちはもはや民主主義国家ではいられなくなるでしょう。それが私の予想です。
同感です。
もう少し詳しく教えてください。来年の市場開拓はアメリカに焦点を当てるとおっしゃっていましたが、人々が認証を行う動機は、特定のサービスを利用できるからでしょうか。それとも別の経済的なインセンティブがあるのでしょうか。どのように構想していますか。
基本的に、1ヶ月ほど前から私たちのプロジェクトは全く異なるフェーズに入りました。私たちが現在統合を進めている多くのプラットフォームが、大量のユーザーを私たちのプラットフォームに呼び込んでくれると確信しています。そうなると考え方が根本的に変わります。10億人のユーザーを抱えるプラットフォームがユーザーを送り込んでくるとなれば、どうやってその需要に応えるかという問題になります。私たちは今、その段階に入ろうとしています。
ええ。ですから、まず第一に、近い将来、多くの巨大プラットフォームが統合されるのを目にすることになるでしょう。期待値を調整しておくために言っておきますが、最初はゆっくりとしたペースになると思います。プロダクトを理解してもらう必要もありますし、Tinderで行ったように、まずは日本のような特定の地域に焦点を当ててテストを行い、概念を一般化していくことになるでしょう。しかし、それは確実に起こります。
そして2つ目として、現在私にとって最優先事項の1つとなっているのが、どうやってこのオーブの普及率を上げるかということです。大まかに言っていくつかの側面がありますが、1つはプロダクトが大規模かつ監視なしで機能しなければならないということです。これは想像以上に難しいことです。規模が大きくなると、あらゆるエンジニアリングの課題が想像以上に複雑になります。なぜなら、1%の品質向上のために、あらゆる依存関係をうまく組み合わせる必要があるからです。これが現在の最大のエンジニアリングの焦点の1つです。
次に、オーブを設置する場所を見つける必要があります。大規模な流通パートナーシップとしては、ウォルマートのような場所が考えられます。野心的に考えれば、スターバックスのような場所かもしれませんし、お洒落なカフェにただ置かせてもらうという形でもいいでしょう。最終的にはDMVに行って設置することになるかもしれません。これが今私たちがパズルのように組み立てようとしている課題です。
おそらく、それらのすべてを組み合わせた形になるでしょう。大規模なパートナーシップもあれば、個別のカフェへの設置もあるでしょう。
ああ、実はもうすぐ立ち上げる予定の機能がありまして。今ここで言うとチームに怒られそうですが、オンデマンド・オーブというものです。
ええ。ベイエリアなどでは、すべての人にオーブを届けるというのは本当に厄介な問題です。設備投資がとんでもないことになりますから。
ですから、オーブをバイクに積んであなたのところまで走っていく方が、実ははるかに安くて簡単なんです。狂っているように聞こえるかもしれませんが。ベイエリアやニューヨークのような場所では、「今すぐ認証したい」と言えば、15分後にオーブがやってきて認証できるようになります。
なるほど。例えば、「この人は間違いなく一意の人間だ」というレベルと、「この人はiPhoneで認証したから、確実性は少し落ちるけれど一意の人間かもしれない」というような、異なるレベルを設けることは考えましたか？
ええ、ええ。すでに導入していますよ。
私たちは基本的に、この問題の解決に役立つ可能性があるものは何でも作るという方針です。そして、「Face Check」と呼ばれる機能を開発しました。これはスマートフォンのカメラから顔を認識するものです。システム全体に構築したマルチパーティ計算を使用しているため、匿名性は維持されます。
なるほど。
もちろん、精度ははるかに落ちます。ですから、システムとしては「少なくとも1人が100個のアカウントを作ることはできず、せいぜい10個か20個だろう」といった程度のことが分かるにとどまります。つまり、少なくともある程度の制限にはなるわけです。
ただ、免責事項として言っておきますが、ディープフェイクなどの技術を使えば、これは根本的に破られると考えています。
なるほど。
ですから、これはあくまでスケールアップするまでの暫定的な解決策だと捉えています。
また、政府発行のIDも同様の形で利用しています。NFC対応のICチップが搭載されているものだけを使用し、マルチパーティ計算を使うことで匿名性を維持します。プラットフォーム側はこれを利用するかどうかを選択できますが、実際には誰も使いませんでした。どういうわけか非常にネガティブなレッテルが貼られており、それは理解できる気もします。
ええ。でも基本的には、目的を達成できる手段なら何でも使うということですね。
ええ、どんな手段を使ってでも、です。
その通りです。
ええ。
本日はポッドキャストにお越しいただきありがとうございました。素晴らしい時間でした。
ええ、ありがとうございました。感謝します。
お招きいただきありがとうございました。
コメント