イーロン・マスクのAI倫理観に疑問符

2,475 文字

Hugging Face Chief Ethics Scientist Dr. Margaret Mitchell discusses the shifting tides of AI ethics, concerns, and Elon ...

法律制定者だけでなく、企業からもAIの安全性に関して、私たちが全く異なる時代に入ったという事実に直面し始めていることについて、トーンの変化が見られています。アメリカでは、企業の姿勢に変化が見られます。
MetaやGoogleのような企業では、利用規約や責任ある実践における言葉遣いの一部を削除しています。説明責任や監視への不参加といった事柄、そして安全性という一般的な概念への焦点が薄れてきています。
最近のアクションサミットでは、J.D.ヴァンスが登壇し、焦点は機会に当てられるべきだと述べました。大手テクノロジー企業もそれに追随しているようです。マーガレット、大手テクノロジー企業がルールや規制の枠組みを設定しないのであれば、政府が介入する必要があるのでしょうか？あなたの見解をお聞かせください。
政府の役割についての私の見解は、人々によって意見が分かれるところですが、政府は企業を保護するのではなく、人々を保護するために設置されるべきだと考えています。企業が繁栄できるアイデアの市場を作り出すことは大切ですが、最終的には企業が踏み込めない部分に政府が介入し、公平な競争の場を確保することで、市場のダイナミクスの中で誰もが責任ある行動を取れるようにする必要があります。
企業は利益を追求するために存在しているので、利益を追求しない場合はどうなるのか、人々のことを考えた場合はどうなのかというバランスを取る必要があります。そして全ての企業が従うべきことを定め、その公平な競争の場に照らして市場のダイナミクスを変えていく必要があります。
トランプ政権は人々を保護する政策を実行すると確信していますか？それについては、まだ判断を下せない状況だと思います。経済を成長させることには確かに関心があります。健全な競争を生み出すことについて多く語っていますが、人々の保護とは何かについての考えはあまり見えていません。
現在は反動的な力が働いていると思います。倫理には常に振り子のような揺れがあり、人々は倫理や安全性などを非常に重視したかと思えば、まったく気にしなくなったりします。予見可能なリスクをそれほど懸念しない方向に振り子が少し振れているように思います。
しかし、政府は人々の意思を聞き、他に誰も助けてくれない場合には介入してくれることを願っています。マーガレット、ほんの数年前には、企業やコミュニティの広範な層が、いわゆる終末論者と呼ばれる安全性グループが指摘した存在論的リスクを強調していました。
イーロン・マスクはワシントンでの影響力を増しており、自身もAI技術を開発する中で、これらの存在論的リスクを指摘する最前線にいました。彼の影響力と、以前から指摘されてきた存在論的リスクについてどう考えますか？そこには多くの論点があります。これは倫理サークルで本当に大きな議論になっています。
存在論的リスクに焦点を当てる人々が、現在の差別に関する懸念を押し流してしまう傾向があり、それが倫理的議論において少し緊張を生んでいます。特にイーロン・マスクについては、現在の政府全体における彼の役割に非常に懸念を感じています。特にAIの文脈では、技術が差別的でないこと、あるいは特定の集団に不当な害を与えないことを確実にするために立ち上がる人物には見えません。
存在論的リスクは今では以前ほど問題視されていません。この数ヶ月の間に、この振り子の揺れの一部として、そうした懸念は後退しています。そのため、AIによる即時的かつ現在の害がより中心的な課題となることが期待されます。
しかし、現状では、現在の害も予見可能な害も、あまり焦点が当てられていないようです。パリのアクションサミットでさえ、多くの言葉が安全性からセキュリティへとシフトし、英国安全性研究所が英国セキュリティ研究所へと改称されました。革新的な技術だけでなく、責任あるAI技術を構築するためのリーダーとして、どこに注目すべきでしょうか？
これにはいくつかのアプローチがあります。一つは政府を通じたもの、もう一つは異なる企業を通じたものです。例えば、私の勤務先であるHugging Faceは、透明性とオープンさを重視するアプローチを取っています。なぜなら、それは人々に対して説明責任を果たす方法だからです。利益を追求する市場のダイナミクスの中でも、自分たちの仕事を見せ、責任ある行動を取っていることを示す必要があります。
これは、オープンさが責任ある実践を推進する上で本当に役立つ分野です。また、EUでは法制化に関して多くの素晴らしい取り組みがありました。EUと米国は現在、何を優先すべきかについて完全には一致していませんが、予見可能な害やリスク、そして利益を見据えた法制化への取り組みは非常に評価できるものです。
マーガレット、ここでの賭け金は何でしょうか？社会としてこれを正しく扱えなかった場合、何が問題になり得るのでしょうか？現在、大企業に権力が大きく集中しており、多くの人々が仕事を失う一方で、彼らは多くの富を蓄積しています。
トルドーが最近言ったように、持てる者と持たざる者の間の分断が広がっています。裕福な人々はますます裕福になり、生活に苦しむ人々は仕事を失うか、大手テクノロジー企業が利益を得るAIシステムで自分たちのデータが使用されているか、基本的な収入さえ得られない状況にあります。
この巨大な分断は現在進行形で起きています。UBI（ユニバーサルベーシックインカム）についての議論もありましたが、それは素晴らしいアイデアにもかかわらず、AI界では本当に前進しているようには見えません。そしてこれは、力を奪われた人々がより監視の対象となり、彼らのコンテンツが同意なく使用され、それがさらなる害を及ぼす可能性があることを意味します。
例えば、ソーシャルメディアでの発言が原因で必要な医療給付を受けられないといったことが起こり得ます。一般市民の権利、人々が持つ権利という観点で、非常に厄介な領域に入り込む可能性があります。