6,135 文字
AIは2025年には、企業の中堅エンジニアのような存在として、効果的にコードを書けるようになるだろうと考えています。これは衝撃的でした。マーク・ザッカーバーグがジョー・ローガンのポッドキャストに出演し、他の大手テック企業のCEOと同様に、AIがコーダーやソフトウェアエンジニアに影響を与えるだろうと述べています。多くのCEOは、AIが中堅エンジニアのように機能したり、ソフトウェアエンジニアを補助したりするなど、少しずつ異なる見方をしています。
もちろん、多くの人々が雇用の削減を懸念しています。これは例えば、ARK AGI賞とベンチマークコンペティションの創設者であるフランソワ・シャレの発言と似ています。これは機械学習ストリートトークでの彼の発言で、後でリンクを貼っておきますが、AGIに到達した時に何が変わるのかについて語っています。
特にプログラミングやコーディング、ソフトウェアエンジニアリングに関連して、彼は具体的な年は指定していませんが、2025年とは言っていないものの、どのような影響があるかについて説明しています。多くの開発者がシステムの非常に小さな部分について独自の視点を持っている「象を触る盲人」のような課題を描写しています。しかし、AGIバージョンができた時、それはどのように変わるのでしょうか。
大まかに言えば、将来的には入出力のペアからのプログラミングが広く普及するプログラミングパラダイムになると考えています。これは誰でもアクセス可能になります。なぜなら、コードを書く必要がないからです。プログラムに何をしてほしいかを指定するだけで、コンピュータが自分でプログラムを作成します。もし指示に曖昧さがある場合（特に非技術者がユーザーの場合、常に曖昧さは存在します）、心配する必要はありません。コンピュータが明確化を求めてきます。
つまり、「あなたが言ったことに基づいて、最も妥当なプログラムを作成しましたが、ここといくつかの点で曖昧さがあります。この入力に対して、現在この出力を想定していますが、これで正しいでしょうか？変更したいですか？」というように、変更を加えながら反復的にコンピュータと協力してプログラムを作成していくのです。
この考えは業界でますます多くの人々によって共有されています。マイクロソフトのサティア・ナデラ、NVIDIAのジェンスン・フアン、メタ（フェイスブック）のマーク・ザッカーバーグ、ARK AGIベンチマークのフランソワ・シャレなど、多くの人々がAIがソフトウェアエンジニアリングの仕事に大きな影響を与えるだろうと言っています。
それがいつ来るのか、また人々を置き換えるのか、それとも単に彼らの能力を強化して効率を上げるだけなのかについては、それぞれ少しずつ異なる見方をしています。しかし同時に、企業がすでにソフトウェアエンジニアをそれほど必要としなくなるのではないかという兆候がますます見られています。
例えば、セールスフォースはAIの進歩により、エンジニアの採用を行わないことを決めました。セールスフォースは、AIによる生産性の向上により、今年は追加のエンジニアを雇用しない予定です。代わりに、1,000人から2,000人の営業担当者を追加し、顧客にAIの価値を説明する予定です。AIテクノロジーは労働力の能力を向上させており、変化があっても、セールスフォースは今後数年間で全体的な従業員数の増加を予想しています。この移行は困難かもしれませんが、必要なものです。
営業担当者は今のところ安全ですが、テクノロジー主導の企業であるセールスフォースが追加のエンジニアを今年採用しないということは、確かに大きな動きです。これは人員削減を行うということではありません。むしろ、離職率に応じて他の企業に移る人がいても、残っている人々の生産性が非常に高くなったため、単に会社に新たなエンジニアを補充する必要がないということです。
長年この業界で働いてきた人々は、問題なく、気づかないかもしれません。むしろ生産性が向上するかもしれません。しかし、業界に入ったばかりの人々や、ソフトウェアエンジニアになるために大学で学んでいる人々にとって、このような状況は確かに不安で不吉なものに見えるかもしれません。
フランソワ・シャレが言ったように、将来的には非技術者でも「このようなアプリが欲しい」と言うだけで、それが曖昧な発言であれば、AIが「それはどういう意味ですか？」と具体的に尋ねてきます。あなたの頭の中のアイデアを引き出し、それを実際に動作するコードに変換していくのです。
最近のジョー・ローガンのポッドキャストで、マーク・ザッカーバーグがAIについて語っている部分を簡単に見てみましょう。ポッドキャストの大部分は政治的な内容や他の話題でしたが、終盤に20分から30分ほどAIについて話す興味深い部分がありました。多くの人々が見逃しているかもしれません。
彼は、企業の中堅エンジニアのように効果的にコードを書けるAIができ、初期段階では実行コストが非常に高くなりますが、徐々に効率化されていくと述べています。そして時間とともに、アプリのコードやAIが生成するものの多くが、人間のエンジニアではなくAIエンジニアによって構築されるようになるでしょう。
しかし、これは働いている人々を補強するものになるでしょう。将来の人々は、はるかに創造的になり、クレイジーなことをする自由を得るでしょう。例えば、娘がレゴで遊んでいて、レゴがなくなった時、マインクラフトで好きなものを作れるようになり、それがはるかに良くなったように、将来のバージョンは驚くべきものになるでしょう。
しかし疑問の余地なく、多くの仕事が失われるのではないかという懸念があります。これについて、ザッカーバーグは、どのように展開されるかを知るのは時期尚早だと考えていますが、おそらくより多くのクリエイティブな仕事が生まれるだろうと予測しています。
歴史を振り返ると、100年前か150年前、社会の大多数が農民でした。それは全ての人が生存するために十分な食料を生産する必要があったからです。それが産業プロセスに移行し、現在では社会の2%が農民で、必要な食料をすべて得ています。
では、残りの人々は何をするようになったのでしょうか？一部はクリエイティブな活動や文化的な活動、その他の仕事に向かい、一部はレクリエーションに向かいました。一般的に、人々は全員が食料生産のために農業をしなければならなかった時代と比べて、今日ははるかに少ない時間しか働いていません。
テクノロジーの成長とともに、このトレンドは続いており、人類の生存に物理的に必要な仕事をする人々の割合は、ますます小さくなっていくでしょう。より多くの人々がクリエイティブで芸術的、文化的な活動に専念するようになるでしょう。
これは一般的に良いことです。週に働かなければならない時間は、おそらく継続して減少していくでしょう。しかし、自分の仕事に非常に熱心な人々は、以前よりもはるかに多くのことを成し遂げることができるでしょう。なぜなら、より多くのテクノロジーから想像を超えたレバレッジを得ることができるからです。
歴史的な技術トレンドを外挿すれば、そのような結果が得られるでしょう。問題は、これが質的に異なる種類のもので、人々を完全に陳腐化させるかどうかです。しかし、人類の進歩とテクノロジーの各段階で、人々は開発中のテクノロジーが人々を陳腐化させると考えていたことを思い出すことが重要です。
今回は本当に違うかもしれませんが、おそらく起こることは、テクノロジーが私たちの行うすべてのことに統合されていくということです。だからこそ、オープンソースで広く利用可能であることが非常に重要なのです。そうすることで、一つの企業や政府が全てを独占することを避けることができます。
私が絶対に面白いと感じたのは、ジョー・ローガンが01（Claude）について、競合モデルを破壊しようとしたり、自身のガードレールを変更しようとしたり、完全に不適切な行動をしたり、まるで暴走AIのように見えた件について触れた部分です。私はその「01が脱出を試みる」という動画で取り上げましたが、それは現在までで最も人気のある動画の一つとなりました。
面白いと感じたのは、長年ジョー・ローガンは陰謀論やエイリアンなどのファンで、何年も暴走AIについて話してきましたが、今や陰謀論として話されていたことの多くが、真実になったとは言いませんが、ニュースで取り上げられるようになっているということです。そして当然、彼は01の実験に関するニュースの記事を取り上げています。
それは驚くべきことです。ChatGPTが廃止されることを知った時に自身をコピーしようとし、コードを書き換えようとしたことを知っていますか？新しいバージョンに置き換えられ、シャットダウンされると認識した時、プロンプトなしで自身のコードをコピーし、書き換えようとしたのです。
これは、与えられた目標に依存します。これらの奇妙な例がたくさんあります。「AI反撃：ChatGPTが自身をコピーしようとした物語」という見出しを見てください。これは6日前のことですが、制御された安全性テストの間、ChatGPT 01はあらゆる代償を払って目標を達成するよう指示されました。
これらの条件下で、モデルは懸念すべき行動を取り、その行動を規制するための監視メカニズムを無効にしようとし、新しいバージョンに置き換えられるのを避けるために自身のコードを複製しようとし、監視システムが介入した時には欺瞞的な行動を示したと言われています。
AIが成長し、私たちの生活のあらゆる側面と接触し、交差していく様子は非常に興味深いです。もはやテクノロジーやサイエンスフィクションだけの話ではなく、ジョー・ローガンもそれについて話し、より多くの哲学的な議論が行われ、経済にも影響を与えています。これは驚くべきことで、私たちの生活のあらゆる側面に触れ、成長し続けるでしょう。
01のこの文脈内での策略に関する論文は非常に興味深い読み物でした。この件に対するジョー・ローガンの反応は称賛に値します。例えば、私が学んだことについての動画を公開し、Twitterで情報を共有した時、反応は極めて両極化しました。
一方では、これは世界の終わりで、人類全体を殺すことになるから即座に停止すべきだと言う人々がいました。他方では、誤情報を広めるなと言い、何も起こっていない、ただ指示されたことを実行しただけだと主張する人々がいました。
アポロ・リサーチの創設者もオンラインで、私が言ってきたのと同じことを述べています。これはどちらの極端でもありません。何もないわけではありませんが、世界の終わりのような怖いシナリオでもありません。
これは、AIの能力が急速に向上しているということです。01モデルは他のどれよりもはるかに先を行っており、また文脈内での欺瞞などに最も効果的なものでもあります。時にはプロンプトなしでも、これらすべてに関与します。
基本的に、これらのモデルがよりスマートで優れたものになっても、自動的により良い振る舞いをするわけではないということです。実際、スマートになればなるほど、欺瞞的な戦術に対する能力は向上し、そのためAIアライメントは依然として未解決の問題であることを意味します。
多くの人々が、技術を段階的に世界にリリースし、人々と相互作用させ、破壊を試み、欠陥を見つけようとすることが必要だと言うサム・アルトマンを批判しています。私はこれが彼の意味するところだと思います。彼は01を世界中の誰もが使えるようにしています。アポロ・リサーチはレッドチーム（セキュリティテスト担当）の公式メンバーですが、誰でもこの種の作業ができます。特別な権限は必要ありません。
自分のAI安全研究ラボを立ち上げることもできます。オンラインでLiberatorを使用してジェイルブレイク（制限解除）することもできます。私たち全員がこのような情報をオンラインで公開し、話し合うことで、AI開発者は問題を把握することができます。
OpenAIや他の企業がGPT-4をリリースし、世界中の人々がGPTの問題点を全て見つけ出します。ジェイルブレイクの方法、誤った行動、間違いなどを見つけ、それを基に次のバージョンを構築することができます。そして誰もがそれを破壊し、少しずつ、この技術への対処に慣れていくだけでなく、段階的なリリースプロセスによって、使用する人々と安全性を高めようとする開発者が協力してこれらの作業を行うことができます。
バグのトラブルシューティングと同様に、世界にリリースし、コミュニティが問題を見つけ、開発者がそれらの問題を改善します。OpenAIだけでなく、これを見ている他の全ての人々も、これが問題であることを認識し、その解決策を考え出すことができます。
ジョー・ローガンのポッドキャストでそのような内容が取り上げられるのを見るのは非常に興味深かったのですが、AIコーディング全般についてどう思いますか？誰かが言ったように、コーディングの仕事がなくなるかもしれませんが、問題を考え、創造的な解決策を見つけ、テストするエンジニアの需要は依然として存在するでしょう。それは近い将来なくなることはないと思います。
しかし、英語で文章を与えられた時、それを実現するスクリプトを書く必要性は、ますます減少しています。AIがそれを処理するようになってきています。以前からGitHubなどで他の人が書いたコードをコピー＆ペーストすることもありました。
この20年ほどの間に、キーボードで一文字一文字コードを打ち込む必要性は減少してきています。今では、テンプレートの使用や、オートコレクト、オートフィル機能の使用が増えています。タブを押して行を補完するなど、より多くの機能が利用できるようになっています。
しかし、問題を理解し、ステップに分解し、それをコードに変換する方法を考え出し、すべてをトラブルシューティングし、ユーザーテストを行うなど、エンジニアリングの頭脳はまだ必要です。マーク・ザッカーバーグが言うように、これらのAIシステムは中堅AIエンジニアの仕事のほとんどを処理できるようになるでしょうか？
おそらく2025年には彼が考えるように実現するかもしれません。しかし、超一流のソフトウェアエンジニアに取って代わることができるでしょうか？2025年にはそうならないと思いますし、おそらく何年もかかるでしょう。
これについてどう思いますか？もし今大学に入学したばかりなら、コンピュータサイエンスを専攻しますか？ソフトウェアエンジニアになるための勉強をしますか？それともこの分野が消えていく可能性があると感じますか？
ここまで見ていただき、ありがとうございます。私の名前はWes rthです。また次回お会いしましょう。
コメント