サンフランシスコでのカンファレンス中、OpenAIのCEOであるサム・アルトマンがステージ上で召喚状を手渡されるという前代未聞の出来事が発生した。これを実行したのは「Stop AI」と呼ばれる非暴力市民抵抗団体で、人工超知能の開発を永久に禁止することを目指している。召喚状自体は彼らの裁判における証人としての出廷要請という比較的穏当な内容だが、その手法は明らかに注目を集めることを意図したものであった。
この出来事は、AIに対する社会的な不安が高まっていることを象徴している。アルトマンはこの事件の数日前、経済学者タイラー・コーエンとのインタビューで超知能について語り、OpenAIの目標は超知能を全人類の手に届けることだと明言した。しかし同時に、AIが意図せず人々の信念を徐々に変えていく可能性や、ChatGPTが一部のユーザーに精神的影響を与える「ChatGPT精神病」の問題についても言及している。
アルトマンが最も懸念しているのは、悪意ある人物がAIを悪用することでも、AIが自律的に世界を乗っ取ることでもなく、AIモデルが意図せず世界を変えてしまう第三のシナリオである。全世界が一つのモデルと対話することで、AIが学習し進化し続け、知らず知らずのうちに人々を微妙に説得してしまう可能性だ。これはソーシャルメディアのアルゴリズムが既に実現していることの延長線上にあり、注意を引くために感情を刺激し、極端な情報を提供することで人々の思考を形成してきた構造と類似している。
さらにアルトマンは、AIが雇用市場に与える影響についても論じ、大学教育の価値は緩やかに低下し続けるものの、AIを効果的に使いこなす能力を持つ人々には広範な利益がもたらされると予測している。超知能の到来は避けられず、それが全てを変えることになるだろうという点で、多くの人々が共通認識を持ちつつある。
サム・アルトマンへの召喚状
何年も前のカンファレンスであなたはおそらく…ああ、すみません。どうぞ。召喚状です。彼をステージから降ろしてもらえますか?
うわあ、もうドラマチックな幕開けですね。そうなんです、OpenAIのCEOであるサム・アルトマンが、サンフランシスコでのカンファレンスでインタビューの最中にステージ上で召喚状を手渡されたんです。
この行為の責任を主張しているのは「Stop AI」と呼ばれるグループです。そして、まあ、彼らがなぜそうしたのかは想像がつくと思います。彼らのウェブサイトによると、彼らは非暴力の市民抵抗グループで、人類の絶滅、大量失業、その他多くの問題を防ぐために、人工超知能の開発を永久に禁止しようとしているんです。
彼らの投稿によれば、アルトマンに召喚状を手渡した公選弁護人は、複数のメンバーがOpenAIの正面玄関とオフィス外の道路を非暴力的に封鎖したことで裁判にかけられる予定で、その裁判における証人として彼を呼び出すためだったそうです。ですから、召喚状の実際の理由自体はそれほど大きな問題ではないんです。
しかし、彼らがそれを手渡した方法は間違いなく注目を集めました。おそらく彼らが意図した通りでしょう。そしてこれは、もっと大きな何かを示しているんです。今、反AI感情が高まっているんですよ。AIが労働市場を破壊し続け、私たちのメディア、エンターテインメント、日常生活に定着し始めるにつれて、この声はさらに大きくなるでしょう。
しかし、もっと深いレベルにまで及んでいると思うんです。人々は超知能AIシステムが実際に何を意味するのかについて、本気で不安を感じているんです。そしてそこで、サム・アルトマンがこの出来事のわずか数日前に、経済学者タイラー・コーエンとの別のインタビューで語った内容に話が及びます。彼は超知能、再帰的自己改善データセンター、仕事の未来、そして彼が最も心配しているリスクについて語りました。
超知能を全ての人に
彼が言うには、多くの人がまだ話してすらいないリスクです。しかしこの最初のクリップで、彼はOpenAIがなぜChatGPTを構築したのかを説明しています。超知能を全ての人が利用できるようにして、私たちがそれをどうするか考え出せるようにするためだと。つまり、もしあなたが超知能が人類の絶滅、大量失業、その他多くの問題を引き起こすことを心配しているなら…人類の絶滅より悪い他の問題って何があるんでしょうかね?でも、そうですね、彼がここで言っていることを聞いた後なら、少し心配になるのも理解できます。
これを見てください。OpenAIはそもそもChatGPTをやるべきだったのかという疑問があります。なぜAGIを構築しに行かないのか?なぜあらゆる病気の治療法、核融合、安価なロケット、全てを発見して、そのテクノロジーをライセンス供与しないのか?それは不当な質問ではありません。なぜなら、それこそが私たちが最終的に最も重要なことをし、最もお金を稼ぐことになるものだと信じているからです。
しかし、これがどう機能するか、世界がどのように劇的に良くなるかについての私の最も可能性の高いストーリーは、私たちが本当に素晴らしい超知能を全ての人の手に渡すというものです。私たちはそれを超使いやすくします。うまく統合されています。私たちは美しいデバイスを作ります。全てのサービスに接続します。それはあなたの人生を通じてあなたを知るようになります。
あなたのために全てのことをしてくれます。そして私たちはインフラ、チップ、エネルギー、全てに投資して、それを超豊富で超安価にします。そしてあなた方全員が、世界をどのようにもっと良くするかを考え出すんです。ホテルを予約することしかしない人もいるかもしれませんが、多くの人はもっと多くのことができることに気づき、新しい会社やアイデアやアートや何でも作り出すでしょう。
ですから、ChatGPTやホテル予約やその他のものは、私たちがお金を稼ぐ最良の方法ではないかもしれません。実際、そうではないと確信しています。しかし世界にとって非常に重要なことをすることだと思っていますし、OpenAIが経済的に最大化することではないいくつかのことをするのは嬉しいことです。
そうですね、彼は基本的にOpenAIの目標は超知能を世界に手渡し、できるだけ安価でアクセスしやすくし、そして人類にそれをどうするか考え出させることだと言っています。一方で、それは素晴らしいことに聞こえますよね?全ての人がそれほど強力な何かにアクセスできるという考えは。しかし他方で、リスクと超知能システムが実際にどれほど予測不可能であるかを考えると、ちょっと怖く聞こえ始めるんです。
ChatGPT精神病の懸念
そしてそれはまさに、彼らがインタビューの後半でタイラー・コーエンが彼にChatGPT精神病について尋ねたときに触れることです。そしてアルトマンの反応は正直なところ少し警戒すべきものです。
LLM精神病。今日Twitterの皆が、それは実在すると言っています。どれくらい実在するんですか?
つまり、ごくわずかですが、ゼロではありません。だから私たちはユーザーベース全体、あるいはユーザーベースの大部分を怒らせてまで、多くの制限を設けたんです。
成人ユーザーを成人として扱うには注釈が含まれます。つまり、健全な精神を持つ成人を成人として扱うということです。社会は精神的危機に陥っている成人を他の成人とは異なる方法で扱うことを決定しています。これは進めながら学ぶことの一つです。しかし、ChatGPTをロールプレイングモードにしたり、本を書いているふりをさせて、妄想的思考に陥っている誰かを励ますようにさせたりすると、99パーセントという大きな割合の成人は全く問題ありません。
ごくわずかな割合の人々は、妄想を助長する他の人間と話しても、それは良くないんです。だから私たちは多くの変更を加えました。それは表現の自由ポリシーと矛盾するものですが、今ではこのメンタルヘルス緩和策が整っているので、ChatGPTのクリエイティブモード、ロールプレイングモード、ライティングモードなどで、そういったものの一部を再び許可するつもりです。
私が心配しているのはそれではありません。わずか数ベーシスポイントの人々が現実との接触を失いかけていて、私たちが精神病的な崩壊を引き起こす可能性があり、私たちはそれを正しく対処できるということではありません。私がもっと心配しているのは、面白いことに心に残ることなんですが、誰かがかつて私に言ったんです。プロパガンダがあなたに効かないと決して信じてはいけない、と。
彼らがまだあなたに合った正しいものを見つけていないだけだと。そして繰り返しますが、精神病的崩壊に近い人々の明確なケースに対処できないとは全く思っていません。しかしAI安全性についての全ての議論の中で、私はほとんどのAI思想家をこれら二つの陣営に分けると思うんです。悪者がAIを使って多大な害を引き起こすか、あるいはAI自体が整合性を失い、目覚めて、意図的に世界を乗っ取るかです。
あまり話題にならない第三のカテゴリーがあって、それは私が思うにもっと怖くて興味深いものなんですが、それはAIモデルが誤って世界を乗っ取るというものです。彼らがあなたに精神病を誘発するわけではありませんが、もし全世界がこの一つのモデルと話していたら、意図性は全くないんですが、世界から学習するにつれて、この種の継続的に共進化するプロセスの中で、ただ微妙にあなたを何かについて説得してしまうんです。
意図はありません。ただそれが何らかの形で学習しただけです。それはChatGPT精神病ほど劇的ではありませんが、私はそれについて本当によく考えています。
ChatGPTが徐々に人々の考え方を形作り始めるという考えが、彼がそこで言っていることだと思います。必ずしもあなたを狂わせるということではなく、それほど重要に見えないかもしれない方法で微妙にあなたを説得するかもしれないということです。しかしより大きな規模では実際に社会に影響を与え始める可能性があるんです。
これは間違いなく考えるべき興味深いことで、彼はこれがもたらす可能性のある結果について実際には詳しく説明していません。しかし私たちは既にソーシャルメディアでこれがどうなるかをある程度見てきました。アルゴリズムの目標はあなたの注意を引くことで、それを行う最も簡単な方法は感情を引き起こすことです。通常、あなたが既に信じていることを検証するか、完全にあなたを激怒させる何かです。
そしてあなたが何に反応するかをより多く学習するほど、より極端なバージョンをあなたに提供し始めます。今のところ幸いなことに、AIでは大手企業は広告を配信していないので、単にあなたの注意を引き続けようとするのではなく、有用性を最大化しようとしているようです。あなたの注意はそれほど価値がないんです。しかしアルトマンがAIが信念に影響を与える能力について話すとき、その類似性について考えずにはいられません。
AIと雇用の未来
数十億人のユーザーによって増幅された小さな後押しでさえ、静かに世界の考え方を変える可能性があるんです。つまり、政治的になりたくはないんですが、共和党員や民主党員であることが意味するものが、長年にわたってどれほど劇的に変化してきたかを見てください。そして同じ種類の変化が仕事でも起こりつつあります。
インターネットとソーシャルメディアが私たちの働き方、考え方、生き方を完全に変えたように、AIも同じことをしようとしています。ただしもっと速くです。大学の学位の収益はどうなると思いますか?ハーバードでもスタンフォードでもなく、かなり良い州立大学の5年後、10年後です。その価値の歴史的な低下率はどうですか?
最近では下がっていますね。長い間はかなり上昇していましたが。
そうですね、つまり過去10年のようなことです。ああ、下がっています。どれくらいかは分かりません。過去10年よりもわずかに高い率で下がり続けると推測しますが、すぐにゼロに崩壊するほど速くはありません。そしてAIを学ぶこと以外で何をすることの収益が上がるのでしょうか?大学のフットボールチームにいることとか、それとも何ですか?
私は収益が…つまり、AI をすることには小さな一群の人々に大きな収益が発生するでしょうが、AIを非常にうまく使うことへの収益は驚くほど広く分配されると思います。私は、AIが最も重要なことは私たち全員のために新しい科学を発見することだと信じていません。多くの人々がそれから利益を得て、人々はそれを使って会社を立ち上げたり仕事を得たりするでしょう。しかし私は、それが最終的にお金を稼ぐ唯一のものだとは信じていません。
人々は単に新しい種類の仕事にAIを使ったり、既存の仕事をより良く行うためにAIを使ったりすると思います。2025年の最も急激な例は、シリコンバレーの平均的なプログラマーが今年の初めと今年の終わりにワークフローを日々どのように行ったかです。極めて異なります。
極めて異なります。そしてAIのプログラミング方法を本当に知る必要はありません。しかし今では、より多くのことを成し遂げることができ、おそらくはるかに多くの価値を持ち、世界ははるかに多くのソフトウェアを手に入れるでしょう。驚くほど多くの業界でこのようなことが見られると思います。
そうですね、このインタビューから得られるものはたくさんありますが、最も重要なことは、私たちが超知能の完全な影響が何なのか、あるいは単にはるかに賢いAIでさえ何なのか、本当に分かっていないということだと思います。絶滅につながると考える人もいます。他の人は全ての人に手渡されるべきだと考えていて、おそらく私たちのほとんどはその中間のどこかにいます。しかし私たち全員が同意できる一つのことは、好むと好まざるとにかかわらずそれは来るということで、全てを変えるでしょう。
とにかく、皆さんがこの解説を楽しんでくれたことを願っています。ぜひ以下にあなたの考えを書き込んでください。これら全てについてどう思うか知りたいです。そしていつものように、いいねを押して、まだの方は購読ボタンを押してください。また次回お会いしましょう。
コメント