OpenAIのフォーラムにおいて、サム・アルトマンCEOらが超知能の到来が目前に迫っていることを明らかにした。研究者たちは現在開発中のモデルの能力を目の当たりにし、COVID-19発生前夜と同様の切迫感を抱いている。超知能は科学、医療、経済に革命的な変化をもたらす一方、サイバー攻撃やバイオリスクなど新たな脅威も生み出す。そのため社会全体での多層的なレジリエンス構築が不可欠である。AIインフラの大規模整備による民主化、税制改革を含む経済システムの再設計、労働者の意思決定への参加、そして誰もが恩恵を受けられる制度設計が求められている。OpenAIは2028年3月までに自動化されたAI研究者の実現を目標としており、それ以降は進歩の加速が予想される。この技術転換に備えた公開議論を今から始めることが、適切な意思決定のために極めて重要であるとしている。
超知能の到来が目前に迫っている
皆さん、こんにちは。OpenAIフォーラムへようこそ。私はクリス・ニコルソンです。今日は皆さんとご一緒できて嬉しく思います。このフォーラムは、AIが世界でどのように使われているか、そこから何を学んでいるか、そしてより多くの人々がその方向性を形作るのにどう貢献できるかについて、真剣な対話を行う場です。
今日の対話は、テクノロジーにおける最大の問いの一つに焦点を当てています。AIシステムが劇的に能力を高めていく中で、それが何を意味するのか、そして科学、仕事、私たちの共同生活、そしてガバナンスへの影響をどう考えるべきかという問題です。この議論のため、OpenAIの共同創業者でCEOのサム・アルトマン、OpenAIのチーフ・フューチャリストであるジョシュ・エイム、そして長年この分野で研究を続けているエイドリアン・アカフェの三名に参加していただいています。
では始めましょう。サム、今朝リリースしたブループリントでは超知能について多く語られていますね。私が気になっているのは、なぜ今このタイミングなのかということです。そして、内部から見えているもので、皆に知ってほしいことは何でしょうか。
最大の理由は、進歩のスピードが加速し続けているということです。そして私たちは今、非常に近いところまで来ていると信じています。これは一度きりのことではありません。今後数年間にわたって、世界に重要な影響を与える強力なモデルが次々と登場するでしょう。
これらのアイデアに取り組んでいる研究者たちは、本当に素晴らしい仕事をしてくれました。これらは議論を始めるための初期のアイデアです。世界中で議論が進めば、きっともっと良いアイデアが生まれるでしょう。研究者たちは、目の前のパイプラインにあるモデルを見つめています。私たちは間違っているかもしれませんし、何らかの壁にぶつかるかもしれません。私たちは完璧ではありません。しかし、私たちが見ているものを踏まえると、極めて能力の高いモデルの世界がすぐそこまで来ていると予想しています。そして、その能力の上昇カーブは継続していくでしょう。
これは経済、私たちの生活様式、私たちができることに巨大な影響を与えると思います。世界がいくつかの転換期を経験するのを見てきて、私が観察してきた一つのことがあります。それは、実際に決断を下さなければならなくなる前に、一般の人々、リーダーたち、政治システムがアイデアについて議論する時間が長ければ長いほど、良い決断を下せる可能性が高くなるということです。
だから、私たちが見ているものを考えると、これが非常に大きな公共の議論の問題になる前に、今この議論を始めることが重要だと思うのです。
研究者の視点からの緊急性
その通りですね。議論といえば、私たちはこのプロセスの非常に早い段階で多くの研究者を巻き込みました。エイドリアン、これはある意味ユニークな取り組みだったと思います。政策について深く考える人々と一緒に働いた研究者の数は、かなりのものでしたよね。密接に結びついていました。あなたにとって、そして研究グループ全体にとって、それはどのような経験でしたか。
とても興味深い経験でした。私にとって、政策文書に積極的に取り組むのは初めてのことでした。ある意味、謙虚な気持ちにさせられる面もありました。研究者として、私たちは「ああ、この経済的影響について本当に考えるべきだ」とか「安全のための政策について考えるべきだ」といった抽象的なアイデアを持つことがあります。
でも、それについて考えることと、実際にペンを取って、同僚の研究者たちによって議論されることになる具体的な政策アイデアを書き出すことは別のことです。それは私にとって興味深い経験でした。
研究者たちがこれほど早期に、そしてこれほど深く関わったことは、最終的な成果物にとって非常に役立ったと思います。特にこれが非常に前向きな内容であることを考えると、サムが指摘したように、この技術を日々扱っている人々、それをどう構築するか知っている人々、安全スタックがどう機能するか知っている人々、そして進歩のスピードを目の当たりにしている人々が必要なのです。
この数ヶ月間のプロセスの一環として、私が覚えていることの一つは、多くの研究者が、自分でコードのほとんどを書く状態から、AIにコードのほとんどを書かせる状態への移行を経験したことです。そして、それがある程度、「このテクノロジーは本物で重要だ、誰もが見られるわけではない速さで動いている」という緊急性を彼らにもたらしたのだと思います。そしてそれは、なぜ今なのかというあなたの先ほどの質問の一部でもあります。私たちがこの緊急性を目の当たりにしているからです。
COVID-19前夜との類似性
それで思い出した短い話をしてもいいですか。2020年1月末から2月初めだったと思いますが、ある夜、OpenAIの研究者たちが世界の他の人々より先にCOVIDに夢中になった時期がありました。私たちは常にそのことを話していて、毎日数字を見ていました。そして「これは起こる」と言っていたのです。
在宅勤務に移行する計画を立てていました。そして、私たちを嘲笑するような記事が出ました。「OpenAIのこのクレイジーな人たち」みたいな感じで。覚えていますか、私たちがドアノブに銅か何かを取り付けたことを。ジャーナリストがそれについて書いて、いろんなことが起こっていました。そして、計画を立てました。シャットダウンが起こると想定していました。何かが来ていて、世界は注目していない。
何らかの理由で、指数関数的なものに取り組んでいると、こういうことをよりよく理解できるようになるんです。だから私たちは、それをするのに適した人々のグループだったと思います。
そして、ある夜がありました。とても寒い夜でした。当時私はミッション地区に住んでいました。そして私は「もうすぐ家に閉じ込められる」と思いました。「散歩に行こう。もう一度だけ」と思ったんです。何が起こるか分からなかったので。
それで、街を何時間も歩きました。寒くて冷たい夜でした。そして人々を見ていました。レストランやバーの窓越しに、お互いの顔に息を吹きかけ合っている人々を。私はマスクを着けていて、クレイジーに見えていました。そして、マスクを着けている他の一人の男がいて、お互いにうなずき合いました。でも、それ以外は、人生は完全に普通に感じられていました。
あの瞬間ほど、今この瞬間を強く感じたことはありません。クレイジーな変化が起こりつつあります。変化はすでに起こっています。モデルはすでにあるレベルに達しています。社会はまだそれを消化していません。
私たちにははっきりと見えています。世界に伝えようとしています。これから起こると。それを伝えるのは難しいですが、COVID初期の街を歩いていたあの夜の感覚に戻ったような気がしています。
科学と医療における革命的可能性
それは本当に興味深いですね。そして、あなたは解き放つべきプラス面について少し話してきました。科学をその手段として多く語ってきました。それでは、COVIDと対比させる形で、私たちのパイプラインにある非常にポジティブなものは何でしょうか。
私が答えましょう。プラス面はあまりにもポジティブなので、ここで考えているすべてのことについて、もっと話すべきだと思います。科学について触れましたね。もし本当に10年分の科学的進歩を1年で成し遂げられるなら、もし多くの病気を治せるなら、もし人々のための個別化医療を実現できるなら、安価で安全なエネルギーを作るための新しい素材を見つけられるなら、もしスタートアップのアイデアを思いついた人なら誰でも、AIにそれを実装させ、欲しいソフトウェアを書かせることができるなら、あなたにとって最も楽しいカスタムビデオゲームを作れるなら。こういったことはすべて素晴らしいものです。
今、このブループリントを緊急性を持って発表する理由の一部は、緩和しなければならない多くのことが来るからです。しかし、このテクノロジーの恩恵は、目の前の選択肢の空間と私たちができることを大きく変えます。
研究者たちがそれを書いた後にブループリントを読んだ私の最初の反応の一つは、素晴らしいけれども、こういった種類のことについて信頼できる形で話せるというのは少しクレイジーだな、ということでした。
だから、もしAIが私たちが考えるほど優れていれば、そしてこれらすべての素晴らしいことが起これば、潜在的なマイナス面を緩和するのを助けてくれる素晴らしい新しいツールも手に入ります。
そうですね。それは皆のためのツールです。ジョシュ、あなたに聞きたいのですが、私たちはこれを、人々が働き、学び、社会に参加する方法を変える社会インフラとして話してきました。社会がそれに備えるのを助けるために、私たちや機関にはどんな責任があるでしょうか。どう考えていますか。
万人のための基本的サービスの実現
そうですね。ここで私が考えることの一つは、皆のための広範な恩恵という話に戻ります。長い間、社会では、誰もが食料、住居、電気、医療を持てるという素晴らしい願望がありました。
そして、こういった種類のものを皆に提供する方向への新しいステップがあることを常に見たいと願ってきました。そうすれば、誰もが自分の人生で最も重要なことに集中できるようになります。しかし、何度も何度も「実際にはそれはできない。高すぎる。支払う方法がない。素敵だけど、それをすべて行うのは社会にとって負担が大きすぎる」と言われてきました。
そして、AIと超知能が解き放つのは、これまで可能だったよりもはるかに低いコストで、それをすべて行う自由だと思います。そして、テクノロジーの管理者である私たちには、実際にこれらの恩恵を完全に実現し、労働者、中産階級、低所得国の人々が、非常に裕福な人々だけでなく本当に恩恵を受けられるようにする政策とシステムの構築に参加する特別な責任があります。
それは私がここで重要な責任だと考えていることです。そして、とてもワクワクしています。さらに、マイナス面のリスクも非常に深刻で、起こりうるシステミックなショックがあります。準備しなければなりません。慎重でなければなりません。それらについて正直でなければなりません。
多層的なレジリエンス戦略
そうですね。つまり、レジリエンスの問題のように聞こえます。そして、文書を見たり皆さんと話したりすると、レジリエンスを層として考えているように思えます。そして、その多くはAIが出る前ではなく、AIが出た後のことでもあります。AIへの私たちの対応や、人々がそれにどう準備するかという点で。
実は、レジリエンスについてどう考えているか、お一人ずつに聞きたいと思います。エイドリアン、あなたから始めましょうか。
そうですね。おそらく一つ区別したいのは、古典的に私たちは安全性について、モデルに対して安全評価を実施し、緩和策を実装することを考えてきました。そして、レジリエンスと層という観点から言えば、これは非常に重要な層であり、継続して行い、拡大すべきだと思います。
しかし同時に、社会が、おそらく安全テストをあまり行わないアクターがいる可能性に備える必要があります。その場合どうなるか。その場合、社会はAIからのリスクにどう対応できるか。
ブループリントで話したことの一つは、航空業界のモデルに少し倣ったインシデント報告です。ニアミスや小さなインシデントがあったときはいつでも、それがデータベースに報告されます。そうすれば、すべての企業が「これはリスクだ。ここに実装できる緩和策がある」と知ることができます。だから、社会全体のレベルで起こりうることはたくさんあります。
もう一つは、リスクに対する防御です。私たちは、コーディングがずっと上手なモデルについて話しています。それはサイバー能力も意味します。悪いアクターがサイバー攻撃を実行するのを助けられるでしょうか。そして、レジリエンスの一部は、ソフトウェアシステムをより安全にし、AIを使ってこれらのことを行うことだと思います。だから、おっしゃったように、これらすべての層があるわけです。それが私のレジリエンスの質問に対する受け止め方です。
サム、ショーの前に、AIへのアクセスが皆にあるとき、繁栄は創発的になりうるという話をしていました。レジリエンスも創発的になりうると思います。どう考えていますか。
古典的AI安全思考からの転換
そうですね。私たちの当初のAI安全の考え方、そして分野全体の考え方は、古典的AI安全思考と呼びますが、世界には極めて少数のAIしか存在しないだろうというものでした。重要なのは、それらのAIが正しいことをするようにすることだけです。そして、それらを整合させ、安全でないことをしないようにする限り、世界は大丈夫だというものでした。
今の状況は、実はより安定していますが、より複雑です。世界には多くのAIが存在することになります。そして、ある一つの企業が、AIが決してすべきでないことをしないようにすると言うだけでは十分ではありません。
社会全体にわたる創発的な対応が必要になります。エイドリアンがその一部について少し話しましたが、私たちが来ると予想している脅威の例をいくつか挙げると、サイバーセキュリティは間違いなく大きな問題になるでしょう。
AIはソフトウェアの脆弱性を見つけるのが信じられないほど得意になります。そして、世界は自分たちのソフトウェアが思っていたよりもずっと脆弱で、ずっと安全性が低いことに気づくと思います。人間には脆弱性を見つける能力に限界があっただけです。
一つか二つか三つのモデルプロバイダーが、自分たちのシステムがこれを行わないようにすると言うだけでは十分ではありません。なぜなら、コードは非常に有用なものであり、コードを書くのが得意であることは、セキュリティ問題を見つけるのにも役立つからです。そして、たとえ私たち全員が何らかの形で自分たちのモデルがこれに使われないようにできたとしても、すぐにオープンソースのモデルが登場し、それらはコードが得意で、したがってセキュリティ脆弱性の発見も得意になるでしょう。
起こらなければならないのは、世界がこれらのモデルを使わなければならないということです。そして、差別的アクセスを与えることができます。既知の信頼できる防御者に最初に与えることができます。私たちにはそのためのプログラムがあります。他の企業も同様のことをするでしょう。
そして、ソフトウェアを防御する企業に力を与えなければなりません。なぜなら、20年間誰もソフトウェアを理解していない発電所があり、誰もパッチを当てられず、大きな問題があるからです。それについて何かしなければなりません。
しかし、ここでのレジリエンスアプローチは、世界に新しいものがあるということです。コンピュータシステムを悪用するのが本当に得意なAIがあります。AIを使ってそれを防御しましょう。そして、それは一企業のことではありません。これには巨大な努力が必要になります。
もう少し先に進むと、これのバイオ版があると思います。古典的に人々は「モデルが病原体を開発できないように制限するだけだ」と言ってきました。誰かがいつか何らかのモデルを使って病原体を開発するでしょう。そして、世界はそれに対する防御シールドが必要です。検出システム、迅速な対応治療、その他多くのものです。
これは、私たちが自分たちのシステムを整合させ、安全なシステムを構築するという責任から解放されるわけではありません。まだそれをしなければなりません。フロンティアにいる限り、時間的優位性は得られます。
しかし、世界が自らの仕事をし、社会がこの創発的な魔法を持ち、これらの防御シールドの層を構築する必要があります。この二つ以外にも多くの脅威がありますが、時間が短いのでこれで十分でしょう。
新しい民主的メカニズムと制度
確かに。ジョシュ、あなたは私に、それぞれの巨大な技術的変化が新しい制度と新しい民主的メカニズムを生み出してきたという興味深い考えを共有してくれました。そして、今出現するかもしれない新しい制度についてもたくさん考えていますね。最もワクワクするアイデアは何ですか。そして、超知能への集団的な対応という点で、本当に考えたいことは何でしょうか。
そうですね。まず、レジリエンスの話題について一つ言わせてください。私たちがAIが新しい外部性を生み出すことを懸念している問題の多くは、AIが存在するかどうかに関わらず世界に存在する問題と脆弱性です。AIは単に行動の緊急性を高めるだけです。
COVIDに話を戻すと、当時私たちは、ほとんどの人が以前意識していたよりも、サプライチェーンの機能への依存が深いことに気づきました。サプライチェーンは非常に重要です。食料、物資、文明を支えるすべてのもののサプライチェーンです。
そしてもちろん、民主主義のような他のタイプの脆弱性についても。人々が不適切に社会に影響を与えているとき、本当のリスクがあることを、私たちは何年も議論してきました。そして、AIがこれらのことを近い将来攻撃しやすくするのではないかと心配しています。なぜなら、人々がこれまで持っていなかったツールを手にすることになるからです。
私がワクワクしているのは、これらの脆弱性を是正するためにAIを使う新しい制度と国家能力を構築できる可能性です。AIを使えば、過去にはできなかった方法で体系的にそれらを特定できます。過去にはできなかった方法で体系的にそれらを閉じることができます。そして、AIを使って特定のタイプの問題に対抗する取り組みを拡大し、攻撃者にとってあまりにも高価にすることができる可能性があります。
だから、サイバーとバイオについては、全体として、攻撃者がサイバー攻撃を実行しようとするのがあまりにも高価になるような防御者のエコシステムを構築できると楽観視しています。そうすれば、それを行うインセンティブがあまりなくなるでしょう。
そして、バイオレジリエンスの側面を完全に実装できれば、人間に影響を与える可能性のある病原体だけでなく、特に食料サプライチェーンのためにも。これは私の持論で、機会があるたびに話します。食料サプライチェーンのバイオリスクに人々は十分注意を払っていないと思います。しかし、AIを使えば、今日ではコスト的に禁止的である規模でそれをレジリエントにできます。だから、そこで構築できるものに非常にワクワクしています。
個人の価値創造と起業の民主化
もう一つ質問です。多くの人にとっての個人的な移行について話すとき、仕事がどのように見えるか、価値がどこにシフトするか。あなたはそれについてたくさん考えていますね。人々がAI経済で他の価値創造の方法に移行していく中で、何が起こると思いますか。
ああ、それは非常に広範ですね。人々はエージェンシーを行使する機会がずっと増えると思います。新しいビジネスを始めて、自分が専門知識を持っていないビジネスのすべての機能を処理するAIのチームを持つことができれば、何かを立ち上げるのがずっと簡単になります。
だから、あなたが以前にはできなかったより多くのことをするのを助けるツールへのアクセスと能力を人々に与えると、経済が根本的に変わる方法がたくさんあります。
確かに。サム、同様の質問です。あなたはスタートアップについて多くの経験を持っています。スタートアップを運営したり、Y Combinatorを管理したり、あるいは長い間エコシステムにいたり。スタートアップがどう変わると思いますか。そして、AIで新しいアイデアを実現する可能性はどう変わるでしょうか。
私はその空間を探求することに夢中です。正確にどうなるかは分かりませんが、ジョシュが話していたように、一人または非常に小さなチームがスタートアップ全体をかなり迅速に作成できるというこのアイデア。私のすべての直感は、そこには深くて重要な何かを見つけ出すべきものがあると言っています。
私たちの業界で、スタートアップを始める際の摩擦コストのようなものが大きく下がるたびに、驚くべき新しいことが起こってきました。私が覚えている移行の一つは、私がスタートアップをやっていたときのことです。基本的にAWSが登場し、突然クラウドというアイデアが生まれ、小さなスタートアップは以前にやらなければならなかった多くのクレイジーなことをする必要がなくなりました。
クローゼットのラックを管理する必要がなくなったんです。
そうです。そして、それは少人数のスタートアップができることに対する素晴らしい変化でした。来るべき変化はもっと大きく、その間にいくつかありました。しかし、スタートアップが2、3人と大量のGPUで、本当に民主化できる、誰がスタートアップを始められるかを民主化できるとしたら、それがどうなるかを本当に見つけたいです。
そうですね。その民主化の側面は、AIの広範な利用可能性に行き着きます。より多くの人々を取り込み、AIアクセスを民主化するための最良のフレームワークは何でしょうか。
AIアクセスの民主化とインフラ整備
人々がAIの民主化について話すとき、二つの異なることを意味していると思います。一つは共有アクセスで、誰もが自分の生活を改善したり、他の人のために何かを構築したりするのに十分なAIを使えるようにすることです。もう一つは、それがどこに向かうかについての発言権のようなものです。
両方とも非常に重要だと思います。このブループリントのようなことをする理由の一部は、社会として問題について議論することです。また、そもそも製品を実際にリリースする理由の一部でもあります。人々がこれを感じていなければ、人々がこれについて話していなければ、人々が意見を持つための前提条件のようなものです。
しかし、それだけでは十分ではありません。人々の意見に耳を傾け、その意見がシステムに取り込まれる方法も必要です。
だから、それは本当に重要だと思います。もう一つは、ChatGPTのようなサービスだけでなく、人々がスタートアップを始めたり、科学的発見をしたりできる、本当の高性能で価値のあるサービスを、多くの人々の手に広く届ける必要があります。
そうですね。そして、それには新しい経済モデルや、より安価な推論が必要になりますよね。それを広く普及させるために。そして、それは解決すべき多くの問題の中でもインフラの問題です。
私たちはOpenAIで何年も、いつ計算能力不足を乗り越えられるか、いつ十分な計算能力を構築して、それほど逼迫しなくなるかについて話してきました。私たちがきちんと仕事をすれば、インテリジェンスのコストを下げ、インテリジェンスの能力を上げ続ければ、需要は無制限だと思います。決してそこから抜け出せないと思います。
そして、十分なインフラを構築しない世界では、権力と計算能力の狂ったような集中が起こると思います。なぜなら、人々はただ価格をどんどん吊り上げていくからです。
だから、長期的な民主化戦略として私が本当に信じている唯一のことは、非常に多くのAIインフラを利用可能にし、モデルを非常に優れた能力のあるものにして、人々が「このすべての計算能力を使うアイデアを考えるのに助けが必要だ」と言うような世界に到達することを望むことです。実際にはそうならないと思いますが。
しかし、計算能力が非常に限られていれば、世界で最も裕福な人々と最も裕福な企業が、価格を極端な程度まで吊り上げるだけだと確実に思います。それは独占される別の種類の希少性になります。つまり、より多くのデータセンターは、実際には非常に平等主義的な取り組みであり、AIアクセスをより広範にできるという意味です。
エネルギーとAIの類似性
歴史を通じて多くの例を見ることができます。人々の生活の質を本当に向上させるために私たちがこれまでに行った最良のことの一つは、電気の価格を大幅に下げたことです。エネルギー全般の価格を大幅に下げたことです。
エネルギーは生活の質と信じられないほどよく相関しています。少なくとも長い間そうでした。今はAIについてかもしれませんが。そして、エネルギーを豊富にし、50年前、100年前、200年前のコストに比べて驚くほど安くすることで、世界全体を引き上げるのにかなり貢献してきました。
AIでも同じことをする必要があると思います。そして、それは多くのAIが必要だということだと思います。そして、エネルギーと同じように、それをはるかに手頃な価格にする新しい方法を革新する必要があります。
私もこの問題全体について考えを述べてもいいですか。AIへの広範なアクセスについて少し話しました。これは非常に重要だと思いますし、世界にとって非常に役立つ、人々にとって非常に有用な多くの新しい製品を生み出す可能性があります。
このブループリントを書く際に考えようとしたことの一つは、必ずしもスタートアップを始めるわけではない普通の人々が、このテクノロジーに取り残されないようにすることです。
これは、AIが経済の構成をどう変えるかということに関連していると思います。それを資本に向けてより多く動かすのか、それともAIによって行われる労働に向けて動かすのか。
税制改革と繁栄の再分配
そして、ブループリントで話していることの一つは、このような経済のために税基盤をどう近代化するかです。そして、このテクノロジーによって生み出される繁栄をどう分配するか。これが皆のための繁栄であり、比較的少数の人々のための富ではないことをどう確保するか。だから、これはブループリントで取り組もうとしたことですが、ここでもそれについて話せたらと思います。
私が見た大きなアイデアのいくつかは、労働者が職場でAIがどう展開されるかを共同で作成するというものでした。それについて、ジョシュ、聞きたいですし、また、社会が全般的にどうプラス面を捉えられるかについても皆さんに聞きたいです。どんな制度的形態がそれを実現するでしょうか。でもまずあなたから始めましょう、ジョシュ。
確かに。この計算能力の質問について1秒だけ言わせてください。計算能力の配分問題。計算能力が比較的希少な間に、AIで人々を助けるためにどんなことに計算能力を使うかを考えることは、おそらく今後数年間の最も重要な社会全体の質問の一つになるでしょう。
そして、辛い選択の質問をしなくて済むように、できるだけ多くの、できるだけ速く計算能力を増やすよう努力すべきです。そこには、皆に提供できる並外れた善があるのに、計算能力のコストが非常に高いために「それをどう支払うつもりか」と誰かに言われて、難しい質問に行き詰まるという状況です。
AIに労働者を関与させることについて、実際、ちょっと後退して、部屋の中の象を認めたいと思います。多くの労働者がAIについて懸念しています。彼らはAIが自分たちにとって何を意味するか心配しています。職場でAIをどう使うかを考えることの見通しに、すぐにはワクワクしていません。「ああ、私の神様、AIが私を置き換えるのではないか」と考えています。
そして、ここでの重要な最初のステップは、AIに取り組んでいる私たちや、これの管理者である私たちが、このブループリント文書のようなものを出すことだと思います。そこで私たちは「ここに、経済が公平であり、何があってもあなたがサポートされることを確保するために、私たちが提唱する政策があります」と言います。
そして、この安全網のレベルを作った上で、今、私たちに対する信頼を持って、一緒に良い会話をすることができます。労組がAIをどこでどう使うかについて賢明な選択をする力をどう与えるかを考えるべきです。労働者が職場でのAIの許容される使用についての会話に参加する力をどう与えるか。
多くの人々が、職場でのAI監視について正当に懸念していると思います。労働者がそういったタイプのことについての決定の一部となることを確保することは非常に重要に感じます。そして、人々がAIを使って自分たちの生活をより良くしたり、小さなビジネスを始めたり、潜在能力を実現するのを助けるために必要なツールを得られるよう、AIリテラシーへの大きな推進が必要です。
新しい制度設計の可能性
確かに。皆がプラス面の一部を捉えることを可能にする制度にはどんなものがありますか、ジョシュ。
新しい種類の制度について見てみましょう。経済の一部をより詳細な粒度で測定する国家能力があれば、ある場所や別の場所で経済的シフトがあった場合に対応できます。
監視ですね。
AIは実際に、それを過去よりも拡張可能で安価にする非常にエキサイティングなツールだと思います。
また、企業と政府の間に位置する制度がもっとあってもいいと思います。それらはガバナンスの面で非常に異なるレベルの説明責任を持っています。その中間レベルの説明責任を持つ何かが必要かもしれません。
社会的セーフティネットタイプのサービスを提供できるような。
企業の取締役会と規制当局の間の何か。
そうです。これらすべてが、非常に最小限のガバナンスを持つ民間企業だけで起こることはできません。また、かなりゆっくり動く政府がすべてを非常に速くやることも期待していません。だから、何かをプロトタイプするのを助けてくれる中間的な制度が必要かもしれません。
これは少し思いつきです。そして、これはブループリントで完全にカバーされているとは思いませんが、聞かれたので、新しい制度という観点で、私たちができる種類のことだと思います。
いいですね。サム、制度的に、人々がどう広くプラス面に参加できると想像していますか。
非常に広範なアクセスについて、そして多くの人々に多くの計算能力を与えることについて、先ほど話しました。ユニバーサル・ベーシック・コンピュートのような、素晴らしいブランディングを持つアイデアを聞きます。
しかし、それが本当に意味するのは、従来の考え方である「AIがすべての仕事をするとき、人々に月々の手当やお金などを与える」というものとは異なるということです。人々は自分が必要とするものについてかなり良く知っていて、物事の使い方についてかなり創造的だと思います。
しかし、人々がこのリソースへのアクセスから締め出されていたら、それは課題になります。
AIが世界の知的作業のほとんど、または少なくとも今日の作業を行っている世界では、課税の方法を変更しなければならないだろうと思います。
おそらく、従来の意味での人間の所得に課税する代わりに、それに課税する何らかの方法を探る必要があるでしょう。
新しい種類の移行支援、失業保険、そういったものを提供する必要があると思います。
そして、最終的には、人々がこれすべてのプラス面のオーナーになる方法を新しい方法で考える必要があると思います。
資本主義は、労働と資本の間の特定のバランスに依存しています。そして、それが完全にバランスを崩したら、現在のシステムは機能しなくなり、何らかの進化が必要になるでしょう。
それが何なのかは非常に開かれた質問だと思いますし、繰り返しますが、ここでの目標の一部はいくつかのアイデアを投げかけることですが、もっと多くのアイデアがあります。そして、私は常にいくらかの余地を残して言います。おそらく私たちは間違っていて、おそらく変更はまったく必要なく、何らかの形でこれは私たちが考えるのとは違った形で機能するのかもしれません。
しかし、繰り返しますが、考え、議論するために持っている時間を使うという精神で、ここでアイデアを始めるのには良い時期のようです。
条件付き対策と段階的実装
この「おそらく私たちは間違っている」という側面について、何か言ってもいいですか。ブループリントには、税基盤の近代化や、おそらく週32時間労働制のような提案があります。
そして、ここには重要な何かがあります。AIからの混乱を条件として、追加的な失業保険のようなものがあり、週32時間労働制のようなこれらの対策があるということです。しかし、これらの対策の一部は現在の世界では良いかもしれませんが、多くは非常に破壊的だと思います。そして、私たちは本当に、大きく変化する世界について話しているのです。
だから私にとって、制度的に必要なのは、AIから起こりうる潜在的な混乱は何か、そしてそれらが来ているのを見たときに実装できることは何かについての考え方です。混乱に対抗し、その時点で広く利益を分配するために。
そうですね。そして、報告の中のアイデアの一つは、ポータブル・ベネフィットでしたね。アメリカでは今、給付が雇用主に非常に結びついているので。
正しいです。そうです。そして、これはより米国に焦点を当てた提案の一つの例だったと思います。もちろん。
しかし、素晴らしいアイデアだと思います。すでにそれがないのは狂っていると思いますし、米国の給付の世界が進化してきた方法は本当に悪いです。しかし、素晴らしいアイデアだと思います。
誰も仕事を失ったら医療を失うべきではありません。それは単に起こるべきではありません。
同意します。エイドリアン、研究組織の内部から、この加速を見ていますね。それはあなたにとって現実です。これらのモデルで行われている科学的進歩のいくつかを見ることができます。適応のための時間枠はどれくらいだと思いますか。
2028年3月の自動化AI研究者
そうですね。数字を出すのは難しいと言おうとしていました。これらの数字には多くの不確実性があると言えます。私たちは、2028年、または2028年後半に自動化された研究者を持つことについて話してきました。そして、
2028年3月が公式の目標です。
何ですって。
2028年3月です。
3月。ありがとうございます。そして、ここで考えるのに有用なことの一つは、一旦このAI研究ができる自動化AI研究者を持ったら、潜在的に混乱の二重の打撃のようなものがあるということです。
まず第一に、明らかに高度な認知作業ができるモデルがあり、AI研究はそうです。それ自体が破壊的です。しかし、それはさらなるAI進歩を加速するかもしれません。
だから、その時点の後、例えば1年後に正確にどれだけの進歩を遂げたかは言えませんが、おそらくこれまで私たちが遂げてきた進歩のペースよりも多いでしょう。
だから、これが私たちが話している時間枠の種類です。おそらく。
ありがとうございます。さて、私たちは会話の時点に来ました。ここからは私だけではありません。コミュニティのメンバーからの質問です。では、ここに一つあります。セトラナ・ロマノヴァからです。
人間の本質的価値と人間関係の重要性
AIがより能力を高めるにつれて、将来最も重要になると思う人間の資質は何ですか。お一人ずつに聞きたいです。ジョシュ。
時代を超えて常に重要であり続ける人間の資質があると思います。人格、コミットメント、努力、思いやり。それらは大いに重要だと思います。
そうですね。
すべてそうです。創造性、他の人が何を望んでいるかを理解すること。しかし、最近私に強く印象づけられた逸話を共有します。物事は私たちが望むようには進まないということです。
私は初めてロボットカフェに行きました。試すのがとてもワクワクしていました。絶対に気に入ると思っていました。しかし、それは最も期待外れの経験でした。
そして、私は、スターバックスのバリスタが私に微笑んで「こんにちは」と言い、今日どうだったか聞いてくれることが必要ない人間だと思っていました。本当にそれを気にしていないと思っていました。しかし、実際には本当にそれを望んでいることが分かりました。
画面を押して、ロボットが作業をして、美味しいコーヒーを渡してくれるところに歩いて入るのは、深く満たされない、これは欲しくないという経験でした。
そして、私は気にしないと思っていました。
私も一日を通してのそういった小さなやり取りを本当に感謝しています。さて、ここに一つあります。
ああ、大丈夫です。大丈夫です。どうぞ。まあ、私が言おうとしていたことは、サムが言ったことに沿ったもので、ブループリントにあると信じていることですが、人間はお互いを必要としています。人間は他の人間を気にかけていると思います。
実際、ある程度、テクノロジーとソーシャルメディア、ビデオゲームなどの発展で最も恐ろしいことの一つは、おそらくそれが、私たちがかつて持っていた繋がりを少し失わせてしまったことです。
しかし、それは人々にとって非常に重要なことであり、AIがより高度になり、人間の繋がりを必要としないこれらの他のタスクのいくつかを実行できるようになるにつれて、人々は実際にこれをますます認識するようになると思います。だから、それは私が拡大すると信じている一つの大きなことです。
それは私には良いことのように思えます。これはもちろん、一種の仕事にもなりえますよね。看護や、ケア経済のこれらすべてのタイプの仕事、教育。
しかし、それは私たちの生活にとっても重要なことです。そして、それが私にとっては大きな資質になると思います。人として他の人々に対してどれだけ良いか。
はい、同意します。さて、アメリカでは医療、育児、高齢者ケアのようなものが非常に高価です。ここに質問があります。AIはどのようにして一般の人々のためにそれらへのアクセスを拡大できるでしょうか。ジョシュ、
AIによる医療アクセスの改善
私が非常にワクワクしていることの一つは、AIが誰にでも世界最高の医療を提供するのを助ける方法です。
医療システムをナビゲートする人々から、どこに行けばいいか分からない、保険をどうナビゲートすればいいか、どの専門医と話せばいいか分からないという多くの話を聞いてきました。
そして、診断のために何年も何年もあちこち行き来して、どこにも到達しない人々の話を聞きます。最も思いやりがあり、思いやりのある看護師と医師がいても、誰にでも最高品質のケアを提供するのに十分な時間がない医療システムに行き詰まっている人々の話を聞きます。
そして、AIは最高品質のケアを規模で提供することを可能にすると思います。医師を置き換えるとは思いません。彼らの作業負荷を管理可能にすると思います。そして、患者が可能な限り最高の経験を得ることを可能にすると思います。
そうですね、私もそれに同意します。多くの患者のエンパワーメントがそこにあります。
私たちは皆、ソーシャルメディアで人々がこの驚くべき医療体験を持っているのを見た話を何度もしてきました。私にはそれほど驚くべきものはありませんが、少なくとも私に起こったことなので、自分の話をします。
最近、血液検査を受けました。彼らは何も深刻な問題はないけど、いくつかのマーカーが範囲外だと言いました。そして、何百もの項目があるリストを眺めて、少し範囲外のものを見ます。
医師に尋ねたら、「おそらくそれらはすべて十分近いです。大丈夫です」と言われました。ChatGPTに入力しました。「ええ、大丈夫です。でも、ここで何が起こっているかというと、このサプリメントを一つ取って、1ヶ月後にまた血液検査を受けてください。大丈夫なはずです」と。
そして、実際にやりました。繰り返しますが、私はそれほど病気ではありませんでした。しかし、血液検査をアップロードして、ちょっと複雑なことに対して即座に正しい答えを得られるという事実は、素晴らしい経験でした。
医療、教育、これらすべての他の分野にわたって、このような多くのことがあると思います。
高齢者ケア、
それは、私たちが人々にやってほしいことの一つですね。
しかし、医療と教育のコストを本当に下げる多くの方法があると思います。
確かに。そして、パーソナライズされた学習でさえ、まだ人間ができますが、個人をどう教えるかを考え出すことができますよね。あなたはどう考えていますか。
そうですね、似たようなことを言います。もちろん。つまり、医療に関してもう一つ基本的なことは、AIが医学研究を助けることができることを願っています。
そして、それは医療を人々にとってより良くする基本的なことです。しかし、ケア経済について話しましたし、ある程度、AIが医療のより官僚的な側面を促進し、実際に個人に実際の医療を提供する人々をより多く持つことができる限り、それはポジティブなことのように思えます。
AIがこれを提供するのではなく、私たちは実際にこの仕事をする人々を解放することになります。
そうですね、期待できます。今年、私たちは能力のオーバーハングについて多く話してきました。AIが今、ほとんどの人々がそれに傾倒していない非常に多くのことができるということです。
創造性と想像力の解放
そして、私は時々、それは人々が現状の世界に諦めているからではないかと疑っています。PGはそれをシュレプ盲目と呼んでいますよね。だから、彼らはより良い何かが可能であることを考えることをやめてしまっているのです。
だから、彼らはもっと傾倒し始めると思います。そして、彼らが傾倒するとき、彼らの行動が実際に、あらゆる技術的ブレークスルーと同じくらい社会を変えると思います。その採用の瞬間だけで。
あなたの人生の中で、誰かが何かに気づいて「ああ、これができる。もう古いやり方に諦めて生きる必要はない」と実感する瞬間を見たことはありますか。
待って、私は最初にたくさん質問を受けてきました。エイドリアン、試してみますか。
今、あなたに考える時間を与えます。
ああ、神様。まあ、
その場で言わせますね。
そうですね。おそらく、本当に考える時間が欲しいかもしれません。しかし、あなたの指摘に対して、人々が新しいテクノロジーに適応するのに時間がかかるのは確かにその通りだと思います。
能力対人々が実際にそれらをどれだけ使っているかという点で、能力のオーバーハングが大きいかもしれないと思います。ある程度、それは能力がどれだけ速く改善しているか対人々が物事が良くなることにどれだけ慣れているかの関数だと思います。
私のお気に入りを述べさせてください。
私のお気に入りは、ここには多くの選択肢がありますが、すべての中で私のお気に入りは、訓練によってコーダーである親が、自分の子供が初めてCodexを使うのを見るのを見ることです。
そして、たくさんのアイデアを持っていて、従来の限界、何が難しいか簡単かについて全く知らない子供が、ビデオゲームを説明し始めます。
そして、Codexがそれを作ります。そして、子供が通る創造的な旅。つまり、しばしば子供がこれをほとんど音声でやっているのを見ます。
そして、親はただ「それはうまくいかない」と思っています。そして、それがうまくいきます。そして、彼らは「うわあ、私の子供は彼または彼女がこれを期待するだけの世界で育つんだ。これが起こるんだ」と思います。
そして、私はちょっとまだ、試してみようとさえ思わなかったでしょう。なぜなら、うまくいかないと確信していたからです。
だから、親の目を通して、子供が初めてそれをするのを見ること、特に親が訓練によってソフトウェアエンジニアである場合、それは素晴らしいです。
それは魅力的です。これは古くからの話ですよね。子供たちは常に80年代のVCRの使い方を知っているとか、何でもそうですよね。そして、
興味深いです。
それは面白いです。
能力のオーバーハングと、能力が到着したときに人々がどれだけ速く気づくかについて、興味深い時間スケールのミスマッチがあります。AIについて超詳しくない人々は、何かが起こっているという遠い認識を持っています。
そこに製品があることを知っています。数ヶ月に一度、それをチェックするかもしれません。彼らはすぐに本能的にその能力の最大限まで探ろうとはしません。そして、彼らはしばしばそれを思考設定にしません。推論モデルが起こったことを知りません。
彼らはそこにある既定のチャットモデルに留まります。だから、物事が彼らが思っているほど速く動いていないという誤認を持つことになります。そして、人々が「まあ、幻覚がある。それはスロップだ。間違いを犯している。不正確だ。なぜ彼らはそれが素晴らしいことをすると私たちに言うのか」と話すのを聞きます。
そして、この内臓的な信念のギャップは、彼らが他の人々や機関が最大限の推論設定で、最も能力の高い設定でAIを非常に成功裏に使うのを見始めるときに克服される問題だと思います。彼らにとって衝撃的な方法で。
このビデオゲームの例のように、しかし社会全体の規模で。彼らは多くの人々が、誰かが速く得られるとは予想しなかったような診断を得るのを見るでしょう。そして、それが彼らをアップデートします。
そして、AI進歩の時間スケールは週と月であり、人々が現在チェックバックインする時間スケールは半年ごとのようなものだというのは、興味深い現象だと思います。そして、
人々が今日の能力の最大限を実感したときに、大きな変化が起こるでしょう。
そうですね。同意します。あなたが持ち出した点、サム、子供たちについては、創造的な人々がどれだけ有利かを本当に示してくれます。単にアイデアの泉のような人々がいます。
それらのアイデアの多くは決して実現されてきませんでした。科学者もいれば、芸術家もいますし、多くは子供たちです。そして、彼らがより多くのことを実現するための水門が開かれているように感じます。
あなたは、実際にCodexリストを使い果たして、もう一晩中実行させていないと言ったと思います。
私たちは、良い新しいアイデアを思いつくのを助けるモデルを作る必要があるだけです。これは実際に行う最もエキサイティングなことの一つになると思います。私たちは、私のすべてのテキストメッセージ、すべてのメール、私のコンピュータ全体を見て、私について見つけられるものは何でも見て、私が断片として示唆したアイデアや私にとって興味深いかもしれないアイデアを提案してください」と言えるモデルから、それほど遠くないと思います。
そして、私はそれらを構築します。
そうですね。同意です。思考パートナーです。多くの人々がそのように使っているのを見ます。さて、私たちはここで締めくくっていると思います。だから、今日参加してくださった皆さん、ありがとうございます。そして、サム、ジョシュ、エイドリアン、ありがとうございます。これはかなりクールでした。
これはとても楽しかったです。ありがとうございます。
そうですね。
今後の対話への招待
だから、議論されたアイデアは、皆さんにとって野心的に聞こえるかもしれません。そして、そうであることを意図しています。しかし、それらも初期で探索的であることを知っています。
私たちはこれらを最終計画としてではなく、政策立案者や社会の誰もとの非常に公開的な会話における出発点として提供しています。より多くの議論と研究と議論を奨励するためです。
OpenAIはこの会話が続くことを望んでいます。会社は、新しいメールアドレスを通じてフィードバックを招待しています。それはnewindustrialpolyです。すべて一つの単語です。newindustrialpolicy@openai.comです。あなたの最高のアイデアを送ってください。
私たちは、最大10万ドルの資金と最大100万のAPIクレジットのための、フェローシップと集中研究助成金のパイロットプログラムを立ち上げています。
そして、5月にワシントンDCで開設される新しいOpenAIワークショップで、さらなる議論を招集しています。
だから、このフォーラムの一部になってくださって、再びありがとうございます。皆さんがこの会話に持ってきている時間と思考に感謝します。そして、それを続けることを楽しみにしています。
コメント