15,284 文字
ビル・ゲイツは言うてましたな。「我々の時代に、あんたほど科学とイノベーションの限界を押し広げた人物はおらん」って。まあ、誰かにそないなこと言われるんは、ええことやと思いますわ。ビル・ゲイツからやったらなおさらやね。
でも、おもろいことに、AIに関しては、あんたは10年ほど前から逆のことを言うてはったんちゃいますか。「ちょっと待て、何をしとるんか考えなあかん」とか「これを安全にするにはどないしたらええんや」とか「もしかしたら、そないに急いで突き進むべきやないんちゃうか」みたいなことを。
10年も前からそないなこと言うてはって、何がきっかけでそないに考えるようになったんですか？ 何で心配せなあかんのか、教えてもらえますか？
ほな、わしは長いこと、カッサンドラみたいな立場やったんですわ。人々に「AIのこと、マジで心配せなあかんで」言うても、みんな「何言うとんねん」って感じやったんです。AIのこと、ほとんど経験したことないさかいね。
でも、わしはずっと技術の中におったから、それが近づいてくるのが見えとったんです。今年になって、いくつかのブレイクスルーがあって、例えば、動的に作られた自分の動画を見られるようになったとか。誰かがリアルタイムであんたの動画を作って、あんたが何でも言うてるように見せられるようになったんです。
ディープフェイク動画は本当にめっちゃ上手くなって、時には本物より説得力あるくらいです。それから、ChatGPTみたいなんも出てきて、めっちゃすごいもんになってきました。
わしはGPT1、GPT2、GPT3、GPT4と、全部の経過を見てきたんです。だから、どこに向かっとるんかわかりやすかったんですわ。点と点を結んで、そのトレンドが続くと仮定したら、人間の知能をはるかに超えるAIができるのは明らかです。
でも今は、みんなが安全性のことを真剣に考えてくれとるのを見て、うれしいです。このAI安全サミットを開いてくれたことに感謝したいですわ。これは歴史に残る重要なもんになると思います。本当に深遠なことやと思いますわ。
全体的に見て、AIが良い影響を与える可能性はあると思います。公共の安全が危険にさらされる時は、政府が役割を果たすのはええことやと思います。
ほとんどのソフトウェアでは、公共の安全はリスクにさらされへんけど、スマホやラップトップのアプリがクラッシュしても大惨事にはならへんからね。でも、デジタルの超知能の話になると、それは公衆にリスクをもたらすかもしれん。そやから、公衆の利益を守るために政府が役割を果たすべきやと思います。
これは多くの分野で当てはまることです。航空、自動車とかね。わしは世界中の規制当局と付き合うてきました。通信、ロケット、航空宇宙、自動車の分野でね。だから、規制当局との付き合い方はよう知っとります。実際、大半の規制には賛成です。時々、意見が合わんこともあるけど、それは規制の1%未満、たぶん0.1%くらいやと思います。
シリコンバレーの人々の中には、規制当局と付き合ったことがなくて、規制がイノベーションを潰して、スピードを落として、イライラさせるって思うとる人もおるんです。確かに、イライラさせられることはあるんやけど、そこは間違うてへんのやけど、でも、長年の経験から、審判がおるのはええことやって分かってきたんです。
どんなスポーツの試合でも、必ず審判がおるでしょ。審判なしでスポーツの試合をしようって提案する人はおらへんと思います。そないに考えるのが正しいと思うんです。政府が審判になって、スポーツマンシップを守り、公共の安全に気を配る。公共の安全を大事にせなあかんのです。
技術に対して楽観的すぎることもあるかもしれません。わしは技術者やから、そのことはよう分かっとります。全体的に見て、AIはええもんになる可能性が高いと思いますけど、悪くなる可能性もゼロやないんです。だから、悪くなる可能性を減らす努力をせなあかんのです。
ほな、審判の話をしましたけど、まさにそれを目指しとるんですな。
そうですね。デミスと長いこと前に話し合うたんです。デミスは彼の仲間と一緒に、自分たちで自分たちの宿題をチェックするのは正しくないって言うてくれました。独立した誰かが必要やって。だから、ここに安全研究所を作ったんです。
政府が専門知識を身につけられると思いますか？ デミスやサムたちは、めっちゃ頭のええ人たちを大勢抱えとるんです。政府はすぐに能力とか人材の面でツールアップせなあかんのです。今、そないなことをしとるんですけど。
技術の進歩のスピードを考えたら、政府がそれに追いつくスピードで対応できると思いますか？ それとも、確実に追いつくために何かせなあかんことがあると思いますか？
ええ質問ですね。AIの進歩のスピードは、わしが今まで見てきたどの技術よりも速いです。能力が少なくとも5倍、たぶん10倍のペースで毎年成長しとるように見えます。来年は間違いなく1桁は伸びると思います。
現在、AIの開発の中心地は、サンフランシスコ・ベイエリアとロンドン周辺です。他の場所でもやっとるけど、この2つが中心やね。
アメリカとイギリスと中国が安全性について足並みを揃えたら、ええことやと思います。そこがリーダーシップを取っとるからね。
実は、中国をこの2日間のサミットに招待したんです。簡単な決断やなかったです。批判する人も多かったです。でも、わしの考えでは、真剣な会話をしようと思うたら、必要やったんです。
あんたは世界中でビジネスをしとるから、どう思いますか？ 中国と協力すべきですか？ 信頼できると思いますか？ 招待したのは正しかったと思いますか？
中国がAIの安全性に賛同してくれへんかったら、話にならんのですわ。AIの規制や安全管理に対する一番大きな反対意見は、「中国はやらへんやろ。だから、中国が先に行って、我々を追い越してまうで」ってことなんです。
でも実際、中国はAIの安全性に参加する気があるんです。招待してくれてありがとうございます。中国が参加してくれたことに感謝せなあかんと思います。
わしが今年の初めに中国におった時、中国のリーダーたちと話し合うた主な話題はAIの安全性でした。これは本当に気にせなあかんことやって言うたんです。彼らも真剣に受け止めてくれました。あんたもそうやし、ええことやと思います。
中国をここに呼んだのは、本当に重要やったと思います。彼らが参加せんかったら、意味がなかったと思います。
そうですね。昨日の議論に参加してくれて、最後は他の国と同じコミュニケを出してくれたのは、うれしかったです。ええスタートやと思います。
みんなが似たようなアプローチを取らんと、現実的にこの問題を解決するチャンスはないと思います。
さっき、イノベーションと規制が面倒くさいって話があったけど、今日はオープンソースについてええ議論がありました。あんたは、アルゴリズムの透明性を支持して、Xのアルゴリズムの一部を公開したりしてましたよね。
ジェフリー・ヒントンの話をしとった時に、彼はオープンソースモデルが悪い人たちに使われることを特に心配しとるって言うてました。一方で、イノベーションには分散型のやり方が重要やって言う人たちもおります。
完璧な答えはないかもしれませんが、難しいバランスやと思います。このオープンソースの問題にどないアプローチすべきやと思いますか？ 規制やモニタリングをどこに向けるべきやと思いますか？
オープンソースのアルゴリズムやデータは、クローズドソースより6〜12ヶ月遅れとるんです。でも、改善のスピードを考えたら、クローズドソースとオープンソースの間には実際かなり大きな差があります。
もし5倍以上のペースで改善しとるとしたら、1年遅れとるということは5倍悪いってことになります。かなり大きな差やね。でも、それでもまあええかもしれません。
確実に、人間レベルの知能に近づいたり、それを超えたりするオープンソースAIが出てくる時が来ると思います。どないしたらええんか、正直わかりません。
ある程度のオープンソースは避けられへんと思います。わしはオープンソースの方がちょっとええと思うとるんです。少なくとも何が起こっとるか見えるからね。クローズドソースやと、何が起こっとるんかわからへんのです。
でも、AIの場合、たとえオープンソースやったとしても、本当に何が起こっとるんかわかるんかって話になります。巨大なデータファイルがあって、何十億ものデータポイントや重みやパラメータがあったら、それを読んで何をするんかを知ることはできへんのです。
巨大な、理解不能な数字のファイルになるんです。テストはできます。いろんなテストを走らせて、何をするんか見ることはできます。でも、確定的やなくて、確率的なんです。
従来のプログラミングみたいに、はっきりした論理があって、結果が予測できるってわけやないんです。各行を読んで、各行が何をするんかを見ることはできへん。ニューラルネットは、ただの確率の塊なんです。
結局のところ、巨大なカンマ区切りの値のファイルになるんです。我々のデジタルの神様はCSVファイルみたいなもんやね。
そうですね、まあそないなもんです。
今言うたことは、我々がずっと話し合うてきたことなんです。技術を開発しとる人たちと話をしても、今あんたが言うたのと同じ点を指摘しとるんです。
通常のソフトウェアみたいに、インプットを改善したら、このアウトプットが改善されるって予測できるもんやないって。モデルが繰り返し改善されていくと、最後に何が出てくるんかよくわからんのです。
デミスもそれに同意すると思います。だからこそ、これはAIとその労働市場への影響、人々の仕事への影響について、あんたはどう考えとるんですか？ 人々はこのことをどう捉えたらええと思いますか？
我々は、歴史上最も破壊的な力を目の当たりにしとると思います。初めて、最も賢い人間よりも賢いものができるんです。
その瞬間がいつなのか、正確に言うのは難しいですけど、仕事が必要なくなる時が来ると思います。個人的な満足感のために仕事をしたいって人はできますよ。でも、AIがすべてをできるようになります。
それで人々が安心するんか、不安になるんか、わかりません。だからこそ、わしは言うとるんです。もし、どんな願いでも叶えてくれる魔法のランプがあったらって。3つまでとか、そんな制限はなしで、好きなだけ願いが叶うんです。
ええことも悪いこともあるんです。将来の課題の一つは、もし何でもできる魔法のランプがあったら、人生の意味をどこに見出すんかってことです。
新しい技術が出てくると、通常はS字カーブを描くんです。でも、今回の場合は、そのS字カーブの指数関数的な部分に長いこと留まることになると思います。
何でも頼めるようになるんです。ユニバーサル・ベーシック・インカムやなくて、ユニバーサル・ハイ・インカムになるんです。ある意味、平等化や均等化につながるんです。
みんながこの魔法のランプにアクセスできるようになるからです。どんな質問でもできるようになります。教育にはめっちゃええと思います。最高のチューターになるし、一番辛抱強いチューターにもなります。
モノやサービスが不足することもなくなります。豊かな時代になると思います。イアン・バンクスのカルチャー・シリーズを読むことをおすすめします。AIの未来を描いた本の中で、断トツで一番ええと思います。他に近いものはないです。
バンクスの本は全部ええです。どれがええって言うんやなくて、全部読むことをおすすめします。それを読んだら、AIの未来がどないなもんかわかると思います。まあ、かなりユートピア的というか、ポジティブな未来ですけどね。
あんたが言うたように、ユニバーサル・ハイ・インカムっていうのはええ言い方ですね。物質的な意味ではええことですけど、そこから次の疑問が出てきますね。
わしは、仕事は意味を与えてくれるって信じとる人間です。ご存知のように、わしはよくそのことについて考えとります。仕事はええもんやと思うんです。人生に目的を与えてくれます。
でも、そのかなりの部分がなくなったら、どうなるんでしょうか。モチベーションや目的をどこから得たらええんでしょうか。
あんたは長時間働いとるって聞きましたけど、どう思いますか？ さっき話しとった時に言うたんですけど、わしはある種の意図的な自己欺瞞をせなあかんのです。
仕事のプロジェクトに血と汗と涙を注ぎ込んで、夜中の3時まで頑張っとるんです。でも、ふと「なんでこんなことしとるんやろ。AIができるまで待っとけばええやん。わざわざ自分を痛めつけとるだけやん」って思うことがあるんです。
罰ゲームが好きなんかもしれませんね。デミスに電話して、急いでくれって言うたら、休暇が取れるかもしれませんね。それがプランです。
ほんまに難しい問題ですね。我々の仕事の一つは、あんたが描いたかなりポジティブな未来に向かって進んでいくことを確実にすることです。
人々がそこに至るまでの過程を乗り越えられるように手助けすることです。これらの変化は、我々が見てきたように、労働市場に大きな変化をもたらします。
そうですね、全体的にはええことやと思います。不快や危険、退屈な仕事がたくさんありますからね。コンピューターはそういう仕事を問題なくこなせます。一日中喜んでやってくれるでしょう。
料理を作るのは楽しいけど、皿洗いはそないに楽しくないですよね。でも、コンピューターは皿洗いを完璧にこなしてくれます。
スポーツはまだありますね。人間同士が競い合うオリンピックとかね。機械の方が人間より速いのは明らかですけど、それでも人間同士で競争したり、スポーツで競い合ったりしとります。
たとえ機械の方が優れとっても、人間の中で誰が一番優れとるかを競うことに、人々は充実感を見出すんです。これは、たぶんええ例やと思います。
機械が我々より速くて強くても、我々はまだ人間同士で競い合って楽しんでいる。少なくとも、人間の中で誰が一番優れとるかを見るためにね。
そうですね、ええたとえですね。リスク管理の話をずっとしてきましたけど、最後にチャンスについて少し話しましょうか。
あんたはいろんな会社と関わっとります。ニューラリンクは明らかにすごいことをやっとります。わしが一番わくわくしとるのは、あんたも触れた教育の分野です。
多くの人が、サル・カーンが今年初めにTEDトークで話したのを見たと思います。あんたが言うたように、個人チューターみたいなもんです。すごい個人チューターですね。
個人チューターを付けることで、学習にどれだけ違いが出るかは明らかです。教室での学習と比べたら、信じられんくらい違います。
もし、すべての子どもが個人チューターを持てるようになったら、しかもそのチューターが子どもと一緒に成長していくようなものやったら、それはすごいことになると思います。
わしはそれを見て、「おお、これはもう手の届くところにあるんや」って思うとるんです。これが一番わくわくする利点の一つやと思います。
あんたが見とる可能性のある風景の中で、特にわくわくしとることは何ですか？
AIのチューターは本当にすごいと思います。もしかしたら、もうすでにそうなっとるかもしれません。
それから、コンパニオンシップもあるかもしれません。コンピューターが本当に友達になれるなんて、変に聞こえるかもしれませんけど。
記憶を持つAIがあって、あんたとのやり取りを全部覚えとって、あんたがこれまでにしたことを全部読む許可をもらえたら、そのAIはあんたのことを誰よりも、もしかしたらあんた自身よりもよく知ることになります。
毎日そのAIと話ができて、その会話が積み重なっていくんです。本当にええ友達ができると思います。その友達が友達でい続けられて、電源を切られたりせんかぎりはね。友達の電源を切らんでくださいよ。
これは本当に起こることやと思います。わしの息子の一人に、学習障害があって、友達を作るのが難しい子がおるんです。その子にとって、AIの友達は本当にええと思うんです。
意外な答えでしたね。でも、考えてみる価値のあることですね。実際、我々はもうそれを目にしとります。
心理療法を提供する時に、今ではデジタルや電話でやることが多くなっています。それで大きな違いが出てきとるんです。
AIが人々に社会的な利益をもたらす世界が見えてきとるんです。
Xについて簡単な質問をさせてください。それから、みんなに質問を開放しましょう。
あんたは多くの変更を加えましたね。その中の一つ、言論の自由とモデレーションのバランスに関わる変更について聞きたいんです。
政治家として、我々もそのバランスに苦心しとります。あんたは、手動の人間によるモデレーションから、コミュニティノートに移行しましたね。
これは面白い変更でした。他の人がやっとることとは違います。その理由と、なぜそれがより良い方法だと思うのか、教えてもらえますか？
問題の一つは、人々を検閲者として権限を与えると、彼らのバイアスが入ってくることです。そして、検閲者を任命する人が実質的に情報をコントロールすることになります。
コミュニティノートの背後にある考え方は、真実へのコンセンサス主導型のアプローチをどうやって取るかということです。
純粋な真実に到達できるかもしれませんが、少なくともより真実に近づくことはできます。
コミュニティノートの重要な点は、実際には何も削除せんってことです。単にコンテキストを追加するだけです。そのコンテキストは「これは以下の理由で間違うてます」となることもあります。
でも重要なのは、コミュニティノートのすべてがオープンソースやってことです。ソフトウェアの各行を見ることができます。コミュニティノートに入ったすべてのデータを見ることができます。
独立してそのコミュニティノートを作ることもできます。データの操作を見つけたら、それを指摘して「システムが悪用されとるみたいや」って言うこともできます。改善の提案もできます。
最大限の透明性を確保しとるんです。これが、より良い答えにたどり着くための群衆の知恵と透明性を組み合わせたものやと思います。
コミュニティノートの重要な要素の一つは、ノートが表示されるためには、過去に意見が分かれとった人々が同意せなあかんってことです。
ここでちょっとAIも使うとるんです。各コントリビューターのパラメータ空間を作って、それぞれにベクトルを関連付けとるんです。
単純に右か左かってもんやないんです。数百のベクトルがあります。物事はもっと複雑やからね。
そして、逆相関をします。「ふだんは意見が合わん人たちやけど、このノートには同意しとる」みたいな感じです。そうすると、そのノートに信頼性が出てくるんです。
これが核心部分です。めっちゃうまく機能しとります。実際、数時間以上残っとる間違うたノートを見たことがありません。
人々がコミュニティノートについて心配しとる時、「偽情報やないか」って言うてくるんですけど、具体例を挙げてって言うたら、挙げられへんのです。
だから、かなりええと思うとります。Xプラットフォームの全体的な目標は、公衆に情報を提供し、エンターテインメントを提供することです。できる限り正確で真実であることを目指しとります。
たとえ誰かが真実を好まんとしても、ですね。人々はいつも真実を好むわけやないですからね。
でも、それが我々の目標です。真実に忠実であり続ければ、人々はこのシステムを使って何が起こっとるのかを学び、理解するようになると思います。
自己欺瞞に陥りたくないんやったら、真実に忠実であることが賢明な選択やと思います。
素晴らしい、とても参考になりました。それでは、みなさんに質問を開放しましょう。マイクを持って回りますので、手を挙げてください。はい、どうぞ。
質問者: こんばんは。アリス・ベンティンと申します。エントレプレナー・ファーストの者です。興味深いお話をありがとうございます。お二人に一つずつ質問があります。
首相、イギリスには世界最高レベルの大学がありますし、人材もいます。イギリスがユニコーン企業の真の温床になるために必要なものは何でしょうか。
イーロン、イギリスで起業することは、まだ最高レベルの技術者たちにとって明白な選択肢ではありません。これを変えるために必要な文化的要素は何でしょうか。ありがとうございます。
イーロン: そうですね、文化的な要素があると思います。新しい会社を作ることを称賛する文化があるべきです。小さな会社を支援することに偏った文化があるべきです。小さな会社こそ育成が必要やからです。大きな会社はそないに育成は必要ありません。
庭に例えたら、小さな芽には手入れが必要ですけど、大きな樫の木にはそないに手入れは必要ないってことです。
これは重要な考え方の変化やと思います。でも、ロンドンはすでにAIの中心地の一つになっとることを言うておきたいです。
ロンドンとサンフランシスコ、あるいはベイエリアが、本当にAIの二大中心地なんです。ロンドンは実際、めっちゃうまくいっとります。
地球上の二大拠点ですね。サンフランシスコの方が少し先を行っとるかもしれませんけど、ロンドンもめっちゃ強いです。ロンドンとその周辺地域ですね。
とにかく、インフラも必要です。新しい会社に喜んで物件を貸してくれる家主が必要です。新しい会社を支援してくれる法律事務所や会計事務所も必要です。
全体的に考え方を変えることが必要です。その一部はすでに起こっとると思いますけど、文化的に、これがええことやって決めることが必要やと思います。
質問者: ありがとうございます。本当に大きなアイデア、世界を変えるようなアイデアについて話してきましたね。特に科学技術のスーパーハブの創造という文脈で興味深いんですが、これがテキサス州オースティンに住んでいる人々の日常生活にどう影響するのか、あるいはわたしの場合、イギリスのイーストミッドランズ地方のノッティンガムに住んでいる人々の日常生活にどう影響するのか、それがどう進展していくと考えておられますか？ AIの日常的な影響についてお聞きしたいんです。
イーロン: 文脈を説明すると、セブはイギリスのCVSやウォルグリーンズみたいな会社を運営しとるんです。
セブ: そうです。毎日何百万人もの人がわたしの店に来ます。
イーロン: 実際に訪問したことがありますね。質問の要点は、これをその人たちにとってどう関連性のあるものにするかってことですね。
首相: ええ質問ですね。実際にわたしから答えさせてもらいます。先ほどチームと話し合っとったんですが、今現在AIをどう使って人々の生活に違いをもたらしとるかを確認しとったんです。
gov.ukっていうサイトがあるんですが、これは数年前に作られた先駆的なもので、政府のすべての情報を一つのウェブサイトにまとめたんです。運転免許証やパスポートの取得など、政府とのやりとりはすべてここでできます。ほとんどの国よりもずっと使いやすいサイトになっとります。
このプラットフォーム全体にAIを導入しようとしとるんです。これは毎日数百万人が利用するものです。つまり、人口のかなりの部分が毎日gov.ukを使って、日常的なタスクをこなしとるんです。
セブの顧客全員がこれらのことをやっとるわけです。そこにAIを導入して、プロセス全体をずっと簡単にしようとしとるんです。
例えば、「今ここにおるんやけど、パスポートをなくしてしもうて、5時間後にフライトがあるんや」っていう状況を考えてください。今のシステムやと、どうしたらええか分かるまでに何段階も必要です。
でも、AIを導入したら、そのまま状況を説明するだけで、ボンボンボンって対処法を教えてくれるはずです。これは毎日何百万人もの人々の役に立つんです。
これは、わたしの立場からAIを使って人々の日常生活を助ける非常に実用的な方法やと思います。ヘルスケアの発見とかそういうことだけやなくて、この部屋にいる皆さんが作り出したものを使って、人々の日常生活を少し楽にできるっていう強力なデモンストレーションやと思うんです。
イーロン: そうですね。一番すぐに目に見える変化は、とても賢い友達に何でも聞けるようになることです。何かの作り方とか、問題の解決方法とか、何でも聞けるんです。
もちろん、企業もこれを採用するでしょう。顧客サービスがずっと良くなると思います。たぶんそれが最初に気づく変化になると思います。
それから、教育の話もしましたね。どんな科目でも素晴らしいチューターを持てるようになります。これはもうほとんど実現しとります。
もちろん、まだ幻覚を見るのを止めんといかんですけどね。間違うた答えを自信満々に、きれいな文法で、箇条書きで、引用付きで与えてくるっていう問題がまだあります。
完全に正確になるまでにはもう少し時間がかかりますけど、それもすぐに実現すると思います。
首相: コロナ禍の時に子どもたちを家庭学習させとった親なら、子どもたちが何を助けてほしがっとるかよく分かると思います。これは本当に大きな救いになると思います。
では、こちらの質問に移りましょうか。マイクはありますか？ ブレントさん、そこにいますか？
ブレント: はい、ブレント・ホブマンです。豊かさの時代について雄弁に語っていただきました。AIの場合、すべてがどこでも一度に起こるように感じますが、ロボットについても同じことが言えると思います。
豊かさの時代に到達するには、たくさんのロボットが必要です。あなたもロボットについて多くの仕事をされていると思いますが、政治家が考えるべき制約はありますか？
例えば、ある国がロボット開発に大きく先行して、すべてのことをこなせるロボットを手に入れ、豊かさの時代に突入してしまうと、他の国々は戦略的に不利な立場に置かれるのではないでしょうか。
イーロン: 実際のところ、コンピューターで動かせるものは全部ロボットみたいなもんです。テスラの車は車輪の付いたロボットやと考えられます。インターネットにつながっとるものは全部、人工知能のエンドポイントアクチュエーターみたいなもんです。
ボストン・ダイナミクスは長年印象的なロボットを作っとります。今はたぶん現代自動車が大部分を所有しとると思うので、現代自動車が人型のロボットを作ることになると思います。
面白い形のロボットもあります。車輪が付いて、カンガルーみたいな形のロボットとかね。何なのかよく分からんですけど、ちょっと凹んどるように見えます。
いろんな種類のロボットができると思います。イギリスにはダイソンという会社があって、かなり印象的なものを作っとります。イギリスはこの分野で遅れを取ることはないと思います。
イギリスにはARMもあります。これは世界で最高のチップデザイン会社の一つ、たぶん最高の会社やと思います。テスラもARMの技術をたくさん使っとります。実際、ほとんどの会社が使っとります。
だから、イギリスは強い立場にあると思います。ドイツももちろんたくさんの産業用ロボットを作っとります。
一般的に言うて、どんな種類のロボットでも作っとる国は、たとえ従来型に見えるものでも、大丈夫やと思います。
ただ、特に人型ロボットについては安全上の懸念があります。少なくとも車はこの建物を追いかけてくることはできません。簡単にはね。
木に登って逃げたり、階段を駆け上がって逃げたりすれば、テスラから逃げることはできます。車が憑依されたらどうなるかっていうスティーブン・キングの映画があったと思いますけど。
でも人型ロボットやったら、どこにでも追いかけてこれるんです。だから、インターネットから更新できないようなハードウェアのローカルな切断スイッチみたいなものが必要やと思います。
インターネットからソフトウェア更新できるものは、当然オーバーライドできます。でも、ローカルなオフスイッチがあって、キーワードを言うたらロボットが安全な状態になるとか、そういうローカルな安全状態にする能力が必要やと思います。
ロボットに近づかんでもオフにできるスイッチが必要です。これらのものが何百万台も世界中を動き回るようになったら、ある日ソフトウェアの更新が来て、急に友好的じゃなくなったらどうするんですか。
ジェームズ・キャメロンの映画みたいになってしまいます。
首相: 面白いですね。今日のセッションでも、あなたが言うたのとまったく同じ指摘がありました。
ジェームズ・キャメロンの名前は出さんかったですけど、映画の話をしとったんです。考えてみると、ジェームズ・キャメロンの映画だけやなくて、電車や地下鉄、車、バスが出てくる映画は全部、基本的に同じプロットやって。
結局、人間がそれをオフにするか、シャットダウンする方法を見つけるっていう。あなたが言うたのと同じ指摘をしとって、実際の物理的なオフスイッチの重要性を強調しとったんです。
技術は全部すばらしいですけど、基本的に同じ映画を50回くらい見とるようなもんです。みんなが見とる映画は、だいたい同じように終わります。誰かがただそれをシャットダウンする方法を見つけるっていう。
あなたが似たようなことを言うたのは面白いですね。一番明らかな答えやないかもしれませんけど、これがAIのテストの一つになるかもしれません。「ブランクはあなたの好きなジェームズ・キャメロン映画です」って、空欄を埋めさせるんです。
イーロン: すばらしいですね。
首相: はい、次の質問に行きましょう。
質問者: はい、質問があります。わたしはAIとMLのスケールアップ企業の創業者で、リーズにいます。北部のAIの第三の中心地ですね。少し偏見があるかもしれませんが。
ChatGPT3が発表されてから3ヶ月後、はるかに洗練された言語パターンを使ったフィッシング攻撃が急増しました。企業や消費者がこの技術をより信頼できるようにするために、我々は何をすべきでしょうか？ また、どうやって彼らをその旅に連れて行けばいいでしょうか？
イーロン: 実際のところ、そんなに信頼しない方がいいと思います。これは本当に大きな課題です。オープンソースのAIでさえ人間のキャプチャテストを通過できるところまで来とるんです。
「あなたは人間ですか？」とか「この写真の中の信号を識別してください」みたいなテストがありますよね。AIはそれを問題なくこなせます。実際、人間よりも上手く、速くこなせます。
人間のテストを人間よりも上手く通過できるAIができた時点で、どんなテストが意味を持つんでしょうか。これは本当に問題です。わたしにもいい解決策はありません。
Xプラットフォームでも、これにどう対処するか考えとるところです。オープンソースで、誰でも使えるAIでさえ、これらのテストで人間を上回れるところまで来とるんです。
だからこそ、年間1ドルか1ポンドくらいの本当に少額の料金を課すことを考えとるんです。とても小さな金額ですけど、それでも100万のボットを作るには法外に高くなります。
特に100万の支払い方法が必要になると、盗んだクレジットカードはすぐになくなってしまいます。
だから、AI搭載のボットの襲来に対処するために、1日3セントくらいの本当に少額の料金を課すことを考えとるんです。
これは増大する問題ですけど、来年にはおそらく乗り越えられない問題になると思います。
そうなると、情報操作の問題も出てきます。AIパワードのボットからの大量のいいねや再投稿で、実際はそうでもないのに、何かがとても人気があるように見せかけることができるんです。
だからこそ、ボットのコストを劇的に上げるために、少額の支払いが必要になると思うんです。
正直言うて、これをやらないソーシャルメディアシステムは、単純にボットに乗っ取られてしまうと思います。
首相: わたしの一般的な答えは、我々がリスクを軽減することに真剣に取り組んでいることを示す必要があるということです。そうすれば、人々は技術を信頼できるようになります。
実際、この2日間の安全サミットはそのためのものでした。安全研究所に投資し、これらの問題に対する研究をする人材を確保し、リスクをどう軽減するかを考え出すことを示すためです。
そして、これを速やかに行い、継続的に改善していく必要があります。なぜなら、この部屋にいる我々はみんな、この技術が信じられないほど強力になる可能性があると信じているからです。
でも、人々をこの旅に連れて行かなければなりません。存在するリスクに対処していることを示さなければなりません。やるべきことがあって、この2日間でよい進展があったと思います。
ポジティブな面に焦点を当て、これらの問題を管理したいと思いますが、そのためには行動が必要です。この2日間はそのためのものでした。
あなたの話、たとえ話は実際、ここのタスクフォースで働いているチームが昨日発表し、提示した研究の一部でした。見ましたか？
要するに、AIを使って大量の偽のプロフィールをソーシャルメディアに作成し、特定のグループに潜入して特定の情報を広めるというものでした。
あなたが指摘したように、現時点では基本的にコストフリーです。100個のプロフィールが1ペニーくらいで作れるような状況になりつつあります。
これらのソーシャルネットワークの中には、近所や町レベルのものもあります。そこでは、そんなに多くの偽プロフィールを作る必要はありません。
すぐに作って、突然どこにでもいるようになり、何か地域の問題があると、チームがそのシミュレーションを行いました。突然、みんなとやり取りを始めて、あなたが言ったように誤情報を広めるんです。
これは昨日、我々が誤情報に関して発表した研究の一部です。本当に大きな課題です。
イーロン: その通りです。画像に関しては、誰かの写真を盗む必要すらありません。それは追跡可能ですからね。
実際には、存在しない人物のリアルな画像を新しく作り出し、存在しない現実的な経歴を作り、それを大量に行うことができます。
実際、見分けがつく唯一の方法は、文法が完璧すぎることかもしれません。
首相: タイプミスがないのが怪しいですね。
イーロン: そうそう。
司会: 時間切れの合図が出ていますが、最後に一つだけ簡単な質問を受け付けましょう。良い質問にしてください。はい、あなた、前の方どうぞ。
質問者: イーロンさん、Xプラットフォームに関連した質問です。視覚メディアに関して、我々ができる簡単なことはありますか？
あなたのような人物が、実際には言ったり行ったりしていないことを言ったり行ったりしているように見せるのが、かなり簡単で事実上無料でできるようになっていることを指摘されましたね。
暗号で署名されたメディアのようなものは可能でしょうか？ わたしはAdobeの者ですが、このプロジェクトに取り組んでいます。TwitterはメンバーでしたACTプログラムにXが戻ってきてほしいです。
デジタル署名されたメディアで、AIによって作成されたものだけでなく、カメラから来たものや本物のものを示すことで、メディアへの信頼を与えることはできないでしょうか？
イーロン: それは良いアイデアだと思います。何らかの認証方法があれば良いですね。そうですね、それは良いアイデアだと思います。おそらくそうすべきでしょうね。
首相: その点について言えば、わたしの仕事をしている人々にとって特に重要です。すでにそういう状況を経験しました。
偽の画像が広まって、否定的な影響を与えます。それが偽物だと分かった頃には、すでに被害は出ているんです。
今日も議論していましたが、来年のことを考えてみてください。アメリカ、インド、インドネシア、そしておそらくここでも大きな選挙がありますね。
世界の人口のかなりの部分が来年投票するんです。EUの選挙もあります。
これらの問題は、まさに目の前にあります。来年は、これが本当に問題になる最初の選挙のセットになるでしょう。
我々の民主主義の完全性を望む人々にとって、これをどう管理するかを考え出すことは、ミッションクリティカルだと思います。
イーロン: そうですね。その中には、かなり面白いものもあります。プーファージャケットを着た法王の画像を見ましたか？
首相: 見てないですね、すごそうですね。
イーロン: まだそれが本物だと思っている人に会うことがあります。「7月にローマでプーファージャケットを着ている可能性はどのくらいあるんだ？汗かいてるだろ」って思うんですけどね。
でも、実際にはかなりダンディーに見えました。AIファッションは本当に一つのジャンルになると思います。
我々は最も興味深い時代に生きています。これは80%の確率で良いことで、20%が悪いことだと思います。
悪い部分に注意を払い、慎重であれば、全体としては我々が望む未来、あるいは望ましい未来になると思います。
ある意味、平等化の要因にもなるでしょう。誰もが物やサービス、教育にアクセスできるようになると思います。おそらく、人類の幸福につながるでしょう。
楽観的なノートで締めくくりたいと思います。
司会: 素晴らしい締めくくりですね。イーロン・マスクさん、リシ・スナック首相、ありがとうございました。
コメント