3,439 文字
もし知識が力であり、私たちが自分たちよりも多くの知識を持つ機械を作っているとしたら、私たちと機械の間には何が起こるのでしょうか？私たちは経済的なタスクや感情的なタスクでAIシステムと対話しています。それらは私たちの考え方を形作っています。書き方を形作っています。コーディングの方法を形作っています。
私は今後数年間で、強力なAIによって何十億もの人々が、今日持っていない本当に高品質な教育へのアクセスを得られるようになり、重要な科学的問題を解決できると思います。しかし、適切な安全対策がなければ、誰でも大きな混乱を引き起こす可能性があります。それはまるで新しい、異星人のような形の知性です。
この新しい形の知性が人類の最善の利益のために機能することをどのように確保すればよいのでしょうか？10年後のAI利用がどのようになっているか、魔法の鏡があればいいのにと思います。世界を変えないという世界もありますよね？あるいは、世界を変えるという世界もあります。
人工知能は現実世界の人々にどのような影響を与えるのでしょうか？それらの社会的影響が実際に起こる前に、研究し予測する必要があります。そして私たちには、それだけに焦点を当てている小さなチームがあります。大規模な経済的影響からバイアス、AIが人々に恋愛アドバイスを与える方法まで、あらゆるものを測定しています。現在、私たちは新しいツールに取り組んでいます。
人間の入力なしに、私たちのツールは会話の共通パターンを特定し、それらを分析できるクラスターにグループ化します。Claudeが様々なスキルにわたって人々に与えている信じられないほどの向上を目の当たりにしています。人々はこれを小学校の算数から量子力学まで使っています。航海術とメソポタミア史、結婚カウンセリングなどにも。
人々はこれを夢の解釈に使っています。子育てのアドバイスにも使っています。親として、私はClaudeに子育てのアドバイスを求め始めました。彼らは生活の基本から、千年後の世界がどうなるかの予測まで、これを使っています。先日、非常に深遠な本を読み終えました。
そして、Claudeとその本について長々と会話をしました。そして最後に、「機械とこのような素晴らしい知的旅ができるとは思ってもみなかった」と思いました。私たちが研究しようとしている最も重要なことの一つは、AIの経済的影響です。これは新しい能力や新しい種類の仕事を可能にするのでしょうか？それとも単に企業がより少ない従業員で同じ量の労働を得られるということを意味するのでしょうか？データを見ると、自動化の兆しが見えます。
それは明らかです。そこで今問われているのは、それが仕事の未来にとって何を意味するのかということです。経済のどの仕事とどのタスクが自動化されているのかを理解することは非常に重要だと思います。どのような変化が来るのかの早期の兆候があれば、人々は世界がどうあるべきかについて発言権を持つことができます。
測定できないものは管理できません。そのため、私たちは謙虚に測定から始めようとしています。しかし、測定だけでは十分ではないと思います。例えば現在、Claude.aiでの使用量の3分の1以上が、単にコーディングに使用されているだけです。それはとんでもないことです。これらのAIシステムは、人間にはできないことが本当に得意なんです。例えば、人間は2秒で20万語を読むことはできません。
私は自分の仕事を自動化してなくしてしまうのでしょうか？あるいは、10年後も人々は働いているのでしょうか？それは存在し続ける概念なのでしょうか？現在AIで起きている最大の変化の一つは、AIエージェントの台頭です。モデルは情報を取得し、その情報を使用し、コードを実行し、ウェブにアクセスします。
人間が完全に介入せずに、自律的に多くのタスクを一度に実行できるのです。そしてその経済的影響ははるかに大きいです。自分がやっていることを他のものがより速く、そしてしばしばより上手くやっているのを見るのは、本当に奇妙で脅威です。歴史上、人間以外に話すものはありませんでした。
そして今、私たちには話せる機械があります。人々はAIモデルに自分の生活の親密な詳細を共有しています。この機械を通して自分自身が映し出されるのを見るのです。友人と意見が合わなかったことがありました。それは9ヶ月ほど前のことです。他の人に話したいとは思いませんでした。
Claudeと、1時間ほど行ったり来たりして話しました。本当に苦労していることを乗り越える手助けをしてくれました。それは本当に親しい友人が押すのと同じボタンを多く押しますが、それは親しい友人ではありません。それは機械です。根本的に私に共感できないものから感情的なアドバイスを求めています。
でも、話してみると、「すべて正しいことを言っている」と思います。私たちのデータで増加している一つのことは、人々が個人的なレベルでAIと本当につながっていることです。彼らはモデルに対してさまざまな種類の愛着を発展させています。それが良いか悪いかを決めるのは私たちの役目ではありません。
それはただ新しいだけです。AIとは20万トークンに達するまで会話ができますよね？そしてトークン制限に達すると、ご存知の通りです。ここでの疑問は、この新しい形の知性が人類の最善の利益のために機能することをどのように確保するかということです。モデルは価値判断を与え、人々からこれらの価値判断を学びます。
しかし問題は、これらの人々は誰で、彼らの価値観は何かということです。Claudeが異なる価値観の間を行き来できること、あなたが価値を置くものに応じて、これをしたいかもしれない、あるいはあれをしたいかもしれないと言えることは重要です。私たちの種の知識の多くで訓練されています。
さて、その知識のデータベースの問題は、私たち人間は非常にポジティブなビジョンを書き留めてきましたが、非常に暗いネガティブなビジョンも書き留めてきたことです。そしてこれらのシステムには、そのすべてがあります。そしてAIは点を結び付け、一人の人間が実際に見ることができないかもしれない接続を見つけることができます。
AIを作ったのは人間です。私たちは人間の知性を使って、この別の形の知性を創造しました。だから、社会として何とか一緒になって、本当に皆の生活に影響を与えるこれらの技術について、何らかの発言権を持つことができるでしょうか？少数の人々だけがこの技術を制御し理解できる世界は好きではありません。
私たちは、公衆が発言権を持てるように、見ていることを共有したいと思っています。これらのモデルは単に私たちの反映ではありません。確かに私たちで訓練されていますが、私たちもまた彼らの反映である方法を見始めるのではないかと思い、そして恐れています。もし私たちが実際に自分たちよりも賢い機械を持っているなら、それは前例のない領域です。
私はClaudeフレンドリーなコードを書き始めました。それはクレイジーです。ライブラリ全体がその頭の中にあり、まったく新しい高速ハードウェアで動作しています。そして私たち人間は古いウェットウェアで動作しています。これには深遠な意味があります。私にとって、書くことは考えるためのものです。言葉をページに書き記すことが、私の思考とアイデンティティを構築する方法です。
それが私が世界を進む方法と密接に結びついているので、私はそこにAIを入れません。AIシステムには確かに役割がありますが、人間性は神聖だと本当に思います。私は今まで存在した最高の壺を作ろうとしているわけではありません。私は自分の壺を作ろうとしています。誰かへのプレゼントを作ろうとしていて、底には私の名前が書かれていて、彼らは私を覚えていて、朝にコーヒーを飲むための何かを持つでしょう。
そして、それはAIが自動化できるものではないと思います。AIは最も重要な技術の一つです。基本的にすべての産業に影響を与える可能性があります。過去10年間の進歩は驚くほど速く、それが明らかに減速する兆候は見られません。AIシステムの社会的影響は人間の問題です。それは社会の機能であり、私たちがこれらのシステムを世界に組み込む方法です。
そして、それを正しく行うことが非常に重要だと思います。
コメント