OpenAIが新たに発表した「知能時代のための産業政策」は、超知能の到来が社会に及ぼす影響と、それに備えるための政策提言をまとめた文書である。人間の能力を超えるAIシステムが実現した場合、労働の形態、富の分配、社会契約そのものが根本的に変わる可能性があると指摘し、週4日労働制、ユニバーサルベーシックインカム、AI課税、サイバー攻撃対策など、幅広いテーマを扱っている。OpenAIはこの変化を「人々を第一に考える」枠組みで捉えようとしているが、一方でその変化を引き起こす技術を開発しているのも彼ら自身である。これは責任あるリーダーシップなのか、それとも先回りした損害管理なのか。本動画では、この文書の内容を詳しく紐解き、超知能時代における社会の在り方について考察する。
超知能への移行が始まっている
私たちは今、超知能への移行を始めています。AIに支援された最も賢い人間たちをも上回る性能を持つAIシステムの時代へと向かっているのです。これは、OpenAIが発表したばかりの「知能時代のための産業政策」という文書からの直接の引用です。この文書は新しいモデルについてではなく、AIが人間よりも有能になった後に何が起こるかについて書かれたものなんです。
週4日労働からユニバーサルベーシックインカム、ロボット税、サイバー攻撃、富の不平等、さらにはAIの権利に至るまで、超知能が社会を再構築し、完全に新しい社会契約を強いる可能性のあるほぼすべての方法について取り上げています。しかし、一部の人々が指摘し始めていることがあります。
OpenAI、より具体的にはサム・アルトマンは、これを人々第一の取り組みとして位置づけていますが、これらすべてを引き起こす可能性のある技術を実際に構築しているのも彼ら自身なのです。では、これは責任あるリーダーシップなのでしょうか、それとも先回りした損害管理なのでしょうか。そしてどちらにせよ、これは実際に私たちにとって何を意味するのでしょうか。掘り下げていきましょう。
知能時代のための産業政策とは
さて、知能時代のための産業政策から始めましょう。ご覧のとおり、サブタイトルは文字通り「人々を第一に保つためのアイデア」となっていて、これはすでに重要なことを示唆しています。つまり、人々を第一に保つための政策が必要だということは、おそらく私たちがそうではない世界に向かっているということを意味しているわけです。
彼らはまず、どのようにしてここに至ったかについて話しています。長い進歩の連鎖を説明していて、時間の経過とともに、基本的には砂を溶かし、不純物を加え、原子レベルの精度で構造化してコンピューターチップにし、それらのチップにエネルギーを流すことから、最終的にますます強力な人工知能を構築できるシステムを作るに至ったというわけです。
そして今、OpenAIによれば、私たちは次の段階に入りつつあります。彼らはこう書いています。わずか数年で、AIは高速で狭い範囲のタスクが可能なシステムから、人々がかつては何時間もかけて行っていた一般的なタスクを実行できるモデルへと進歩しました。この傾向が続けば、そして彼らはそう信じているのですが、私たちはまもなく超知能を手にすることになります。AIに支援されている場合でさえ、最も賢い人間を上回る性能を持つAIシステムです。
これは組織の運営方法、知識の創造方法、そして人々が意味や機会を見つける方法を完全に再構築することになるでしょう。しかし彼らは言います。超知能の可能性は並外れたものです。電気が家庭を変革し、内燃機関が移動手段を作り直し、大量生産が必需品のコストを下げたように、超知能は科学的および医学的なブレークスルーを加速し、生産性を大幅に向上させ、必需品を安くすることで家庭のコストを下げ、まったく新しい形の仕事、創造性、起業家精神への道を開くでしょう。
AIの恩恵とリスクのバランス
そして、彼らは強くこう信じているのですが、AIの恩恵は課題をはるかに上回るものの、リスクについても明確に認識しています。仕事や産業全体が混乱すること、悪意のある行為者が技術を悪用すること、人間の制御を逃れる不整合なシステム、民主的価値を損なう方法でAIを展開する政府や機関、そして権力と富がより広く共有されるのではなく、より集中してしまうことなどです。
つまり、この文書を公開する理由全体としては、人々を目覚めさせることなんです。彼らは基本的に、政策が技術に追いつかなければ、そしてこれまでのところ追いついていないのですが、私たちが今日頼りにしているシステムでは、これから起こることに対処するのに十分ではないかもしれないと言っているのです。十分に速く適応しなければ、私たちは困ったことになります。
三つの主要目標
彼らの解決策は、三つの主要な目標に集約されます。
一つ目、繁栄を広く共有すること。ここでのアイデアはシンプルです。もしAIが莫大な富を生み出すなら、その富は少数の企業や個人に行くべきではありません。実際にはより高い生活水準、より低いコスト、そしてすべての人にとっての医療や教育へのより良いアクセスに変換されるべきなのです。
二つ目、リスクを軽減すること。これは経済の混乱から、サイバーセキュリティや生物学における誤用、ますます強力になるシステムの制御を失うことまで、うまくいかない可能性のあるすべてについてです。彼らは、これらのリスクが完全に現実化する前に、セーフガード、制度、ガバナンスシステムを構築する必要があると言っています。
そして最後に三つ目、アクセスを民主化すること。これは最初のものに少し似ています。AIの未来は、それから恩恵を受ける一握りの企業や政府だけが管理するべきではありません。あらゆる場所の人々が、有用で手頃な価格で、経済に参加する能力を実際に高めるAIにアクセスできるべきなのです。
新しい産業政策の必要性
だからこそ、彼らは新しい産業政策の必要性を訴えているのです。彼らは、私たちが以前にもこのような瞬間を経験してきたことを認識しています。産業革命の間、大規模な混乱がありました。大勢の人々が農村部の農業労働や熟練した職人仕事から、工業化された非熟練の工場労働へと移ることを余儀なくされました。しかし最終的には、社会は適応しました。
彼らは、進歩主義時代やニューディールのようなものを指摘していて、政府が実際に介入して労働保護、安全基準、社会的セーフティネット、そしてより広範な教育へのアクセスを創出しました。しかし彼らの主張は、今回はさらに大きなものが必要になるだろうということです。なぜなら、過去の技術とは異なり、これは単に産業を再構築するだけでなく、人間と労働そのものとの関係を再構築しているからです。
そして人々はすでにこれを感じ始めています。彼らは、雇用の安定に対する懸念、AIが家族に影響を与えること、さらにはデータセンターがコミュニティやエネルギー価格に影響を与えることへの懸念などに言及しています。つまり、これは遠い未来のシナリオではなく、すでに始まっているのです。
市場原理だけでは不十分
そして彼らはここで本当に興味深いことを言っています。通常、市場が独自に機能するのを許すことはうまくいきます。資本主義は、その欠点にもかかわらず、歴史的にイノベーションをすべての人のための繁栄に変えることに長けてきました。しかし繰り返しますが、このような前例のない瞬間には、市場の力だけでは十分ではないかもしれません。
これが本当に彼らの主張の核心です。私たちは、既存のシステムが来るべきものに対処するために単純に構築されていない段階に入りつつあります。だから小さな調整ではなく、手遅れになる前に、野心的なシステムレベルの政策変更を求めているのです。
オープンな経済の構築
では、それは実際にどのようなものなのでしょうか。彼らが焦点を当てている主なものの一つは、オープンな経済を構築することです。ここでのアイデアは再び、もしAIが莫大な価値を生み出すなら、その価値は実際にすべての人に恩恵をもたらすべきであり、一握りの企業や投資家、あるいはトップにいる少数の人々だけではないということです。
OpenAIは、AIが仕事を混乱させ、産業を再構築し、仕事の機能の仕方さえも変えるだろうと公然と認めています。そしてさらに重要なことに、その混乱は均等には起こらないということです。一部の人々は大きな恩恵を受けますが、他の人々は取り残されます。彼らは、何も変わらなければ、私たちがすでに対処しているものよりもさらに大きな富の不平等の問題を抱える可能性があると警告しています。
そこで彼らは、公的な富のファンドのようなものを提案しています。すべての市民に、金融市場に投資していない人々でさえも、AI主導の経済成長における権利が提供されるというものです。彼らはこう書いています。政策立案者とAI企業は協力して、ファンドに種をまく最良の方法を決定すべきです。ファンドは、AI企業とAIを採用および展開する幅広い企業の両方の成長を捉える多様化された長期資産に投資することができます。ファンドからのリターンは市民に直接分配され、より多くの人々が、出発時の富や資本へのアクセスに関係なく、AI主導の成長の上昇に直接参加できるようになります。
税制の現代化とAIへの権利
彼らはまた、税制の現代化についても話しています。なぜなら今のところ、政府の資金の多くは所得税と労働から来ているからです。しかしAIが人間の仕事を置き換えると、そのモデルは崩れ始めます。彼らは代わりに資本に課税すること、AI主導の利益に課税すること、そして潜在的には自動化された労働に課税することへの移行を提案しています。
彼らはまた、AIへの権利というアイデアも導入していて、AIへのアクセスは電気やさらにはインターネットへのアクセスと同じくらい不可欠になる可能性があるというものです。だから誰もが手頃なアクセス、それを使用する能力、そして実際にそれから恩恵を受けるツールを持つべきなのです。
そしてここで週4日労働制のようなものが登場します。そのアイデアは、もしAIが人々をより生産的にするなら、それは単により多くの生産を意味するべきではないということです。それはまた、より多くの自由時間を意味する可能性もあります。週4日労働制は決して新しい概念ではありませんが、知能時代においては、ついに現実になるかもしれません。
つまり、全体を見渡すと、このセクションは基本的に一つのことについてです。AIが単に金持ちをより金持ちにするのではなく、実際にすべての人の生活水準を上げ、真のオープンな経済を可能にすることを確実にすることなのです。
レジリエントな社会の構築
しかしもちろん、それは方程式の一面に過ぎません。なぜなら、もう一方の面は、もし物事がうまくいかなかったらどうなるかということだからです。そしてここで彼らは、この第二部、レジリエントな社会の構築を導入します。
すでに設置されているシステムを再構成するだけでなく、これから起こることに人々を準備させる必要もあります。これが私がこのチャンネルでやろうとしていることです。AIがあなたを置き換え、すべてを変えるという事実を無視してそれに対処しようとしても意味がありません。それは単に、あなたと私たちが反対側に無事に出てくる可能性を低くするだけです。
サイバー攻撃、生物学的リスク、私たちが完全には理解していない方法で動作するシステム、あるいは意味のある人間の監視を超えて動作するシステムさえも。これらは、今後数年間で対処する方法を学ばなければならないことのほんの一部です。
そしてより高いレベルでは、これは政府や機関のような、私たちが頼りにしているシステムにプレッシャーをかけ始める可能性があります。だから、ここでのレジリエンスのアイデアは、すべてが変わり始めても、社会が機能し続けられるようにすることです。
安全性とガバナンスの重要性
これを実現するには、明らかにより多くの人々が、何が起こっているのか、何が起こり得るのか、そしてこれがどこに向かっている可能性があるのかを知る必要があります。さて、ここで彼らは興味深い点を指摘しています。彼らは、これまでの焦点のほとんどは、AIがリリースされる前に安全対策を実装することに当てられてきたと言っています。これには、テスト、安全評価、レッドチーム、規制などが含まれます。
しかし今後、OpenAIはそれだけでは十分ではないと示唆しています。なぜなら、本当の課題は展開後に何が起こるか、つまりこれらのシステムがすでに現実世界に出て、他の現実のシステムと相互作用し、不確実性のレベルの下で動作しているときだからです。
そして再び、彼らはこれを過去の技術と比較しています。電気が安全基準を必要としたように、あるいは車が交通法と安全システムを必要としたように、あるいは航空がモニタリングと調整を必要としたように。要点は、安全性は自動的ではなかったということです。それはゼロから時間をかけて構築されなければなりませんでした。
しかし今回は、彼らは同じ時間の余裕がないと言っています。私たちははるかに速くシステムを構築しなければなりません。だから彼らの提案は、主にいくつかのカテゴリーに分類されます。
一つ目、安全性とモニタリングシステム。リスクを検出し、誤用を防ぎ、何かがうまくいかなかった場合に迅速に対応するツールです。二つ目、信頼性と説明責任。AIの出力を検証し、システムの動作を追跡し、何かが失敗した場合に責任を割り当てられるようにすることなどです。そして三つ目、ガバナンスと調整。政府、企業、さらには国が、特に高リスクのシナリオにおいて実際に調整できるようにすることです。
グローバルな調整の必要性
これらがなぜそれほど重要なのかの一例は、たとえば、一度リリースされたら、もはやそれを封じ込めることができないほど強力なAIシステムを持っていたとしたらということです。そのシナリオでは、どのように対応するでしょうか、特にモデルが理論的にどれだけ速く広がる可能性があるかを考えると。つまり、これまでに見たことのない規模でのグローバルな調整が必要になるように思えます。
だからそう、この文書全体は、超知能のある世界で社会がどのように機能するかのほとんど青写真のように感じられます。彼らは、現在のシステムがどのように混乱するか、なぜそれが起こっているのか、そして準備するために何をすべきだと考えているかを説明しています。
OpenAIの視点と責任
しかし、ここで重要な部分があります。これはOpenAIの視点であり、彼ら自身が世界全体の働き方を完全に再構築しようとしていると主張するまさにそのAI革命を先導している会社なのです。
そしてサム・アルトマンはこのことについてかなり明確です。これは彼らが、これがまさに起こることだと言っているわけではありません。むしろ、これは私たちが物事が向かっていると思う場所であり、なぜ人々が今注意を払い始めるべきかということなのです。
そしてこの最近のAxiosのインタビューで、彼は彼らがなぜこのようなものを出しているのかを正確に説明しています。見てみましょう。
まず第一に、これらはアイデアです。私はアジェンダという言葉は強すぎると思います。私たちはこれらのことを会話に入れたいのです。いくつかは良いものになるでしょうし、いくつかは悪いものになるでしょう。しかしあなたが言ったように、私たちは緊急性を感じており、これらの問題についての議論が真剣に起こり始めるのを見たいのです。
繰り返しますが、おそらくもっと多くの解決策、私たち自身が考えられるよりも良い解決策が、より広い世界にはあるでしょう。しかし、私たちが見ている変化が本当に来る前に、いくつかの解決策を用意し始められるように、これらの問題について議論することを今真剣に始めるべき時だと考えています。
さて、私たちは間違っているかもしれません。しかし、技術が私たちが予想する軌道に留まったとしても、社会がこれらの変化のいくつかに適応するのに、私たちが予想するよりもはるかに長い時間がかかる可能性はあります。しかし今、AIは増え続ける量の実際の仕事をし始めているように感じられますし、過去数年間私たちが疑問に思っていたいくつかの変革が起こり始めているように感じられます。
したがって、これらのモデルがコードを書くのが非常に上手になり、他の種類の知識労働を行うのが上手になるにつれて、特に新しい種類の科学を行うのが上手になるにつれて、経済、私たちの社会が機能する方法、仕事の形、これらのことは変わると思いますし、人々がそれがどのように進むべきかについて考え始めるのを見たいのです。
責任あるリーダーシップか損害管理か
だから、このビデオの冒頭で提起した元の質問に戻ります。これは責任あるリーダーシップなのか、それとも先回りした損害管理なのか。なぜなら、もしOpenAIとサム・アルトマンが私たちが今通過したすべてを本当に信じているなら、私たちが明らかにそれに準備ができていないときに、なぜ彼らはこれを非常に積極的に推し進めているのでしょうか。
公平に言えば、彼らはAIの恩恵はその課題をはるかに上回ると強く信じている、科学を加速し、すべての人の生活の質を向上させ、これまでに見たことのないレベルの進歩を解き放つ可能性があると言っています。そして個人的には、私はそれがそれらすべてのことを行うことができると本当に信じています。
しかし、私のことは、なぜこれが展開する速度を選ぶのがOpenAIなのか、あるいは他のトップのAI研究所なのかということです。そして私が思うに、OpenAIがこの文書で実際に言っているのは、そうであるべきではないということです。彼らは文字通り、より多くの政府規制を求めています。
だから、わかりません。あなたたちはこれについてどう思いますか。サム・アルトマンや、より一般的には会社としてのOpenAIについて、多くの人々が複雑な意見を持っていることは知っていますが、彼らの未来のビジョンは何年にもわたって比較的一貫していると思います。そして彼らは、自分たちが構築しているものの影響について、それが常に良いものでなくても、深く考えているようです。
だから、下にあなたの考えを自由にドロップしてください。そしてこの解説を楽しんでいただけたなら、いいねボタンを押してチャンネル登録してください。そしていつものように、次の動画でお会いしましょう。
コメント