5,904 文字
営利組織への移行について、もう少し詳しく説明していただけますか。それは閃きのような瞬間だったのでしょうか？
単純な理由として、非営利組織として集められると考えていた以上の、膨大な資本が必要だったのです。コンピューターのスケーリングが重要になることは分かっていましたが、それでも必要な規模を過小評価していました。
では、それは誰も非営利組織としてAIに意味のある形で取り組むことができないということを示唆しているのでしょうか？
いいえ、確実に他にもできることはあります。ただし、最先端の研究をスケールさせるためには、おそらく非営利では難しいでしょう。
政府はどうでしょうか？
政府は望むことは何でもできますが、はい、そしていいえ。企業の方が政府よりもはるかに優れている分野があるということです。
エネルギー省や国防総省が、皆さんと同じようにOpenAIを運営できると思いますか？
アポロ計画はとても印象的でした。それが別の道筋となる可能性はありますか？
ある意味で、うまく機能する社会であれば、これは政府のプロジェクトになるべきだと思います。しかし、それが実現していない現状では、このように、アメリカのプロジェクトとして進めていく方が良いと考えています。
また、政府や、「社会」という言葉を使われましたが、ガードレールを設定したり、公平性を組み込んだりする上で役割があると何度かおっしゃいました。それ以上の役割かもしれません。しかし、それはどのように…社会は実体のあるものではありませんよね？
確かに、多くの異なるステークホルダーの複雑な交渉ですが、私たちは時間とともにこれを正しく行うことができます。
例を挙げていただけますか？
ボーイングの問題は別として、飛行機は一般的に非常に安全です。それは主に従来型の規制の結果として実現しました。
私が言いたいのは、人々が飛行機に乗って死なないと確信したいと思い、社会がそれに応えたということです。
そうですね、具体的には政府が対応し、飛行機メーカーも、人々が乗りたいと思う飛行機を作り続けたいと考えれば、確実に政府には役割があります。科学者やエンジニアも責任感を持って取り組んでいます。複数の関係者が関わっているのですが、規制には確実に大きな役割があります。
あなたは、この展開していくゲームで明らかにプレイヤーになるでしょう。大きなプレイヤーになると私は賭けてもいいくらいです。どのようにお考えですか？
また、ハーバード・ビジネス・スクールでインターネットが登場した時期と少し比較してみると、ソーシャルメディアやインターネットが登場した時の人々は「政府は入ってくるな、サイバースペースは自由でありたい、ブラックヘリは我々のビジネスに関与するな」と言っていました。政府に対する自身の立場をどのようにお考えですか？
本当のパートナーシップになることを願っています。これまでのところ、かなり建設的です。規制が多すぎると明らかにイノベーションが遅くなり、規制が不足すると明らかに一連の別の問題が生じます。誰もがこの2つの点では同意していると思います。そして、そのスペクトルのどこに位置すべきかという問題があるのです。
国土安全保障省と協力していると知っていますが、エネルギー省や国防総省など、特にどの政府機関と橋渡しを築きたいとお考えですか？
楽観的になりすぎて、深入りしすぎるのは簡単ですが、これは社会のあらゆる部分、政府のあらゆる部分に触れることになると思います。しかし、それらを構築するのは確かに難しいことです。
でも、インターネットも社会のほぼすべての部分に触れましたよね？
しかし、議論の余地があるように、その一部は本当に間違えてしまいました。
そうですね、多くの部分で間違えました。いくつかの部分は正しかったですが、すべての問題があっても、インターネットを元に戻すべきだと言う人はほとんどいないでしょう。
学生たちを見ていると、面白いことに、ソーシャルメディアで育った彼らの多くは、インターネットのその部分がなくなることを望んでいますね。
AIにも、なくなってほしい部分が出てくるでしょう。しかし、学生の何人が、全てのコンピューターとインターネット全体を破壊するボタンを押したいと思うでしょうか？
誰もいませんね。10年後のあなたの学生が好まない部分も出てくるでしょう。しかし、全体としては大きな純益になると思います。
学生の何人かがこれを質問しましたが、もう少し深く掘り下げてみましょう。社会的な観点からも、商業的な観点からも、個人的に最も期待しているAIの部分は何でしょうか？
科学的発見の速度を大幅に向上させることに最も期待しています。大きく俯瞰してみると、それこそが世界を持続的に良くする方法だと信じています。そしてより多くの発見がなされることは素晴らしいことです。他にも多くの分野があります。素晴らしいAIチューター、素晴らしいAI医療アドバイザーができると思いますが、個人的には科学に非常に期待しています。
科学の特定の分野はありますか？
個人的に一つ選ぶとすれば、物理学のすべての問題を解決することですが、私はあらゆる分野に期待しています。
なぜ物理学のすべてなのですか？
私には incredible な個人的好奇心があり、また、物理学についてより理解を深めることができれば、宇宙をより操作できるようになると信じています。それが何につながるかは分かりませんが、それを見つけ出すことは恐らく重要だと思います。
では明らかな質問ですが、物理学者たちはどうなるのでしょうか？
少し冗談めかしていましたが、もし本当に物理学に全く問題が残っていないとすれば、私にも分かりません。私が予想するのは、現在の問題に答えを出し、さらに多くの、より難しい、より興味深い問題を見つけることです。
ジョン・メイナード・ケインズの「我々の孫たちの経済的可能性」という文章を読んだことはありますか？
いいえ。
送らなければなりませんね。1930年に書かれた素晴らしい文章です。100年後の世界がどうなるかについて書いています。すべての問題が解決された後について、彼は私たちはただ芸術を作り、お金を気にしなくなるという、ちょとした奇妙な答えを出しています。物理学者に何が起こるのか、そういった実存的な問いについて考えることはありますか？
みんなが長い間議論してきていて、彼は間違っていたと思います。1930年代に戻って、今日の多くの人々を見ると、彼らはただ芸術を作っていて、お金を気にしていないと言えるかもしれません。しかし、それは彼らの経験ではありません。
今日の人々を見て、さらに100年先に進んで、未来の人々の仕事について尋ねると、「芸術の定義としては奇妙だけれど、まあ彼らは芸術を作っていて、誰もお金を気にしていない」と言うでしょう。彼らには信じられないほどの物質的豊かさがあります。
もう少し深く考えてみると、彼らは忙しそうで、ストレスを感じているように見えます。彼らは自分たちがしている仕事から大きな満足感を得ているように見えます。それを芸術とは呼んでいませんが、まだ十分ではないと感じ、もっと欲しがっています。
彼らはまだ互いを比較する新しい方法を見つけています。家が隣人より大きいか小さいかを見る代わりに、より素敵な銀河系を所有しているかどうかを見ているかもしれませんが、人間の欲求は続いていくのです。人間の本質は変わらないように思います。
私は奇妙な本の中で、私たちがロボットと恋に落ちるだろうという予測について書いています。これは、私が実際に考えていることを誇張したバージョンですが、私たちは感情的な仲間としてAIエンティティを受け入れることになるでしょう。あなたはどう思われますか？
シンギュラリティ的なビジョン、つまり融合があり、生まれたものではなく創造されたものと感情的なつながりを築き始めるというビジョンの支持者ですか？
将来のエンターテインメントは今とはかなり異なる形になると思います。おそらく、今日のテレビ視聴やビデオゲームプレイの多くは、AIとのインタラクティブな体験に置き換わるかもしれません。そこから何らかの形の仲間意識を得ることになるでしょう。
しかし、そのような世界では、ほとんどの人にとって、本物の人間との本物の関係の価値はむしろ上がると思います。確かに、私たちはAIとたくさん話をすることになり、それは素晴らしいエンターテイメントの世界になるでしょう。
しかし、それが他の本物の人間であるか否かという知識は、人間の本質に深く関わる何かがあり、本当に重要だと思います。もっとも、同じ街に住んでいても、私が最も大切にしている人々の何人かとは、完全にテキストを通じてしか話をしないこともありますが。
そうすると、彼らが入れ替わっていても分からないかもしれませんし、もし彼らが亡くなっていたとしても、それでも構わないかもしれません。
それが問題です。その背後にいるのが本物の人間ではないと分かっていたら、あなたは違う感じ方をするでしょうか？
あなたはそうだと主張するでしょうね。
それは分かることになりますよ。でも、私はそうだと思います。
よし、賭けをしましょう。100年後に見られたら良いですね。良いオッズを付けますよ。
先ほどの別の部分に戻りたいのですが、あなたは講演で、学生の一人が公平性について質問した際に、とても良い答えをされました。私も同意する答えで、この技術は恐らく公平性を促進するだろうが、いくらかの後押しが必要だろうということでした。どのような後押しを考えていますか？
まず、全く後押しが必要ないかもしれません。時には技術がそうである場合もあります。また、学術的に正しい後押しの方法を知ることは難しいと思います。経験的にそれを行う必要があります。今の私のアイデアは全て完全に間違っているでしょう。
私は、密接なフィードバックループを作り、問題が発生している箇所を観察し、それを修正し、新しい問題を見つけることが、後押しの方法だと考えています。ただし、それは難しいですね。
私はちょうどデンマークから戻ってきたところですが、デンマークのような小さな国では、それを実践しているのが見られます。彼らは本当に良いデータを持っています。一方、アメリカは規制を通過させるのに30年かかります。その後押しについてどのようにお考えですか？
企業がそれを行うことを願っています。アメリカの規制に頼るのであれば…。
ところで、2晩前にあなたの「すべてのためのムーアの法則」という記事を講義で取り上げました。
しばらく読んでいませんね。どうでしたか？
私はとても興味深いと思いました。なぜなら、課税システムの変更について話していて、それは特に突飛なものではないからです。現在の政治状況では実現可能です。それは別の問題ですが、基本的に土地と技術への課税について話していますよね。
私はそれが気に入っています。まだそれが正しいと思いますか？
確かにそう思います。ただ、すべては覚えていませんが…。
AIの世界では、主に所得と法人利益に課税するのは適切ではないように思います。何らかの形で資本への課税に移行する必要があると思います。
はい、それは本当に興味深いアイデアで、ユニバーサルベーシックインカム（UBI）とは異なりますが、ある意味でつながっているにもかかわらず、十分な注目を集めていません。
AIに対して一つだけ願いを叶えられるとしたら、何を望みますか？
人類への愛です。
それを組み込むことはできますか？
できると思います。驚くほどうまくいっているのは、AIシステムを特定の方法で行動するように調整する能力です。そして、もし私たちが様々なケースでそれが何を意味するのかを明確に示すことができれば、システムにそのように行動させることができると思います。
OpenAIは独自のルールを作る力を持つべきだと思いますか？なぜ私たちはあなたを信頼すべきなのでしょうか？
信頼すべきではありません。私たちを信頼すべきではないと思います。そうあるべきだとも思いません。
ちなみに、それは必ずしも政府機関に任せるべきだということを意味するわけではありません。私が興味深いと思う方向性の一つは、これらのシステムの一つが、全てのユーザーと対話し、「あなたの価値観を説明してください。そして私はそれを集合的に調整します」と言うことを想像できます。
テクノロジーのユーザー、それによって最も影響を受ける人々が、そのガバナンスについて最も大きな発言権を持つべきだと私は信じています。そのようなことができるでしょう。
特に、また膨大な資金を考えると、それは実現可能ですか？
完全に実現可能です。これは以前にはなかった、この技術によって可能になった新しいことだと思います。
それは、Anthropicが目指しているようなものですか？
彼らが何をしているのか、私にはよく分かりません。
彼らはデザイン原則をクラウドソーシング的に公開するという、少し素朴に思える考えを持っていたようですが。
システムが何をするか、しないかのトレードオフをどのように行っているかを示すのは非常に良いことだと思います。しかし、私が言いたかったのは、AIがあなたと数時間、価値観について対話し、私とも、そして他のすべての人とも対話し、そして「全ての人を常に満足させることはできないので…」と言うような思考実験に興味があるということです。
基本的にはAIを使って合意を形成するということですか？
AIを使って全ての人と話をし、何十億人もの合意を深いレベルで理解するということです。AIなしではおそらくできないことです。
ただ、それをこの国の建国文書と比較してみるのは興味深いでしょうね。それらは明確に、良くも悪くも多数決支配に反対しているわけですから。
あなたが述べていることは異なりますが、すぐに基本的な問題になってきますね。
しかし、それは基本的に、いくつかの権力チェックを伴う民主主義についてです。
はい、それらのチェックがどのように見えるか考える必要がありますね。
もし合意が、AIは悪である、邪悪であるというものだった場合、どのようにチェックを設定するのでしょうか？
それはガバナンス構造について人々が投票すべきことの一部だと思います。
素晴らしい、ありがとうございます。
ピッチに行かなければなりませんね。
本当にありがとうございました。
コメント