「身構えや!」OpenAI元科学者からの警告

イリヤ・サツケヴァー
この記事は約9分で読めます。

OpenAIの元チーフサイエンティストであるイリヤ・サツケヴァーと元Google CEOのエリック・シュミットによる警告を軸に、現在進行中のAI革命の実態を解説する動画である。プログラマーの大部分が1年以内にAIに置き換えられる可能性や、3~5年以内のAGI実現予測、そして社会システムがAI発展に追いつけない現状について具体例を交えて説明している。

"Prepare Yourself!" Warning from an OpenAI Ex Scientist
In this shocking video, we expose the urgent warning issued by a former insider at OpenAI—someone who helped build the v...

AIは君を無視しないで

政治に興味を持たへんかもしれんけど、政治の方は君に興味を持つで。これはAIにも何倍も当てはまるんや。これはOpenAIの共同創設者で元チーフサイエンティストのイリヤ・サツケヴァーが、トロント大学の学生たちに向けて放った率直なメッセージや。彼の言いたいことは、AIを無視することはできるかもしれんけど、AIの方は君を無視せえへんということや。

AIはもう既に、わしらが完全には理解でけへん方法で世界を変えてしもうとる。そしてそれはあらゆるところで見ることができるんや。韓国では、学校がAI搭載の家庭教師を実験的に導入してて、これが各生徒の学習スタイルを分析してリアルタイムで適応するんや。インドでは、政府がAIベースのポータルを発表したばかりで、これが農家の作物計画、資源管理、収穫予測を支援するんや。

そしてアメリカでは、CLAのような会社がAIチャットボットを導入した後、サポートスタッフを75%以上削減してるんや。これらのチャットボットは、全カスタマーサービス問い合わせの3分の2を人間の助けなしに処理したと報告されとる。だからイリヤが「わしらは人類史上最も異常な時代に入っとる」と言うとき、それは抽象的な話やないんや。観察可能な現実なんや。たった一文で、サツケヴァーはAIが最終的に人間にできることすべてができるようになると信じる理由を説明したんや。

脳はコンピューターや

脳は生物学的なコンピューターやし、コンピューターは複製できるんや。ちょっと引いて見て、それがもうどう展開されてるか見てみよう。2023年3月、OpenAIのGPT-4は統一司法試験で90パーセンタイルを通過したんや。正式な法学教育を受けてへん、公開データで訓練されたモデルが、何千人もの法学生を上回る成績を収めたんや。

一方、GoogleのGemini 1.5 Proは、1回のセッションで100万トークン以上を処理することでAIコミュニティを驚かせた。つまり、何百ページもの法的、医学的、または金融データをリアルタイムで分析できるということや。これらは、かつて人間特有のものと考えられてた推論、記憶、抽象化が、今や驚くほどの精度でシミュレートされてるしるしなんや。そしてそれはそこで止まらへん。

アメリカ軍と協力してるPalantirという会社は、戦場での兵站と戦略シミュレーションにAIモデルの展開を始めとる。これらのシステムは単に命令に従うだけやなくて、意思決定を助けるんや。そうや、AIは意識のある脳を持ってへんかもしれんけど、ほとんどの人が認識してるより速く、脳のように動作することを学んどるんや。

プログラマー置き換えの現実

業界として、わしらは次の1年で、プログラマーの大部分がAIプログラマーに置き換えられると信じとる。これは元Google CEOのエリック・シュミットの、これまで聞いた中で最も直接的な予測かもしれん。でも今見たことを繰り返すんやなくて、それが今どう現れてるかを見てみよう。

Amazonでは、コード生成と監査を支援するAIツールが積極的に開発されてるけど、新たな懸念も生んどる。2024年、研究者がプロンプトインジェクションを使ってAmazonのAIコーディングアシスタントを悪用したとき、大きな脆弱性が発見されたんや。これは高度なシステムでも悪意のある入力によって操作される可能性があることを浮き彫りにしとる。

Metaでは、内部ツールのCode Compassが既に本格運用されとる。内部研究によると、これは今や開発者のコードの約8%に貢献してて、正確な行を最大58%の確率で再現してるんや。エンジニアたちは、これが日常的な開発を速くし、APIの発見を早め、特に大規模ビルド中のボイラープレートを減らすと報告しとる。

一方、Cognusのようなスタートアップは、AI自律性の限界を押し広げとる。彼らのプラットフォームは、ユーザーが文書の要約、研究の処理、プロジェクト設計図の作成といった多段階タスクを委任できるようにしとる。これはいつかコーダーを置き換えることについてやない。それはもう、ほとんどの人が毎日使う会社の内部で、静かに、段階的に起こっとるんや。

AGI実現への道筋

そして次に来るものは、さらに理解しにくいものになる。これを言う一つの方法は、3年から5年以内に、汎用知能、AGIと呼ばれるものを手に入れるということや。シュミットが今言ったことは、もはや周辺的な予測やない。それはAI研究所の主要な内部関係者たちが今可能と考えてることが増えてきとるんや。

AGI、汎用人工知能は、次の5年以内に到着する可能性がある。わしらが話してるのは、文章を完成させたりメールを整理したりする狭いAIやない。AGIは、人間と同じように分野を超えて推論し、適応し、問題を解決できるシステムのことやけど、最終的にはより速く、より安く、そしてしばしばより正確にそれを行うんや。

GoogleのDeepMindのIO 2025カンファレンスで、CEOのデメィス・ハサビスは、深層思考推論能力を持つ改良されたGeminiモデルが汎用知能の基盤を築いてると強調し、5年から10年以内のAGIを予測した。一方、OpenAIのCEOサム・アルトマンは、AGIが間近に迫ってると言い、現在の研究はそれらの能力を安全かつ段階的に解放することに焦点を当ててるんや。

研究界全体で、変化は明らかや。もはや問題はAGIが可能かどうかやなくて、それがいつ到着し、どうやって責任を持ってそれを乗り越えるかなんや。

エージェントシステムの台頭

今最も見過ごされてる変化の一つは、エージェントシステムの台頭や。これは単に命令に応答するだけやなくて、記憶、文脈、推論を持って最初から最後まで完全なタスクを実行するAI設定のことや。

エリック・シュミットは、AIエージェントが家を買い、契約者を管理し、訴訟を起こすという単純化した例を挙げた。でも実際の生活で起こってることは、もっと印象的かもしれん。2023年初頭、Auto GPTは大衆の注目を集めた最初のオープンソースAIエージェントになった。GPT-4上に構築されたそれは、最小限のプロンプトでツール間での計画、意思決定、タスク実行ができたんや。

今、より高度なシステムが実際のワークフローに入ってきとる。Cognition Labsが構築したDevinは、コードを書き、バグを修正し、テストを実行し、アプリケーションを展開して、技術プロジェクトを最初から最後まで処理できる。初期のデモは議論を呼んだけど、ベンチマーク結果は本当の能力を示したんや。2024年9月、SalesforceはAgent Forceを立ち上げたんや。これはCRMデータ、会議のスケジュール設定、リアルタイムでの顧客ワークフロー管理を含む、ビジネスプロセス全体を自動化するよう設計されとる。

政府でもこれらのツールをテストしとる。イギリスでは、AIエージェントが学校資金申請の評価と処理を支援しとる。変化は明らかや。AIが記憶、フィードバックループ、行動を取る能力を持つと、それは単なるツールやなくなる。同僚になるんや。

プロセス置き換えの現実

ここで会話の大部分が要点を逃しとる。AIは単に人間を置き換えてるんやなくて、プロセスを置き換えとるんや。政府では、エストニアが7,000ユーロまでの少額クレーム契約紛争を支援するAIツールを試験的に導入しとる。AIは文書を評価し、決定を準備するのを助けるけど、これは常に人間の裁判官によって上訴できるんや。

金融では、JP MorganのCoinプラットフォームが今や法的契約を数秒でレビューし、年間36万時間の法務作業量を粉砕し、運営コストを約30%削減し、エラーを約80%減らしとる。

製造業では、Siemensがエージェントベースのシステムを展開してて、これがグローバルサプライチェーン全体での材料の再ルーティングや、産業自動化のプログラミングといったプロセスワークフローを自動化し、生産性向上は50%近くに達する可能性があるんや。これは単に仕事を取り除くことやない。法的、物流的、管理的な作業層全体を取り除くことなんや。

社会の追いつかない現実

サツケヴァーとエリック・シュミット両方が一つのことで一致しとる。AI開発のペースが、社会がそれを理解する能力を上回ってるということや。サツケヴァーは演説で、来るものを感情的に内面化するのに自分自身も苦労してると認めた。シュミットはもっと率直に言った。展開されてることに対処するための言語が、わしらの法的または政治的システムにはないんや。

そしてその隙間はより見えるようになってきとる。2024年4月、1,000人以上のAI研究者と技術リーダーが、Future of Life Instituteを通じてオープンレターに署名し、GPT-4より強力なモデルの訓練を一時停止するよう求めた。その理由は、フロンティアモデルの展開を導く監視、安全プロトコル、意味のある規制が不足してるからや。

それでも、それらのモデルは結局リリースされた。一方、アメリカとEUの議員たちは追いつこうと奔走しとる。欧州連合は2024年3月にAI法を通過させたけど、批評家たちはそれが既に時代遅れやと論じとる。アメリカでは、複数の上院公聴会が開催されたけど、包括的なAI規制は通過してへん。そしてシュミットが昨年の証言で警告したように、法律が追いつく頃には、わしらは既に開発の次の段階にいるやろう。

三つの静かな革命

人々がChatGPTのトーンや精度について議論してる間に、三つの静かな画期的進歩がAI加速の本当の重労働をしとる。まず、コンテキストウィンドウや。Gemini 1.5やClaude 3 Opusのようなモデルは今や、一つの会話で本全体、文書、またはデータセットを記憶し分析できる。これは長期推論、段階的計画、さらにはコードベースや法的契約の完全な文脈でのレビューを意味するんや。

次に、持続的記憶を持つエージェントや。チャットボットと違って、これらのエージェントは過去のやり取りを覚えて、フィードバックから学び、時間とともに行動を適応させるんや。何も忘れんで24時間年中無休で働く、インターンから戦略家になったような存在を想像してみい。

そして三つ目は、テキストからコードへの生成や。欲しいものを説明すると、AIがソフトウェアを構築してくれる。MicrosoftのAutoDev、RepletのGhostriter、MetaのCode Composeがすべてこれを推し進めてて、非コーダーを一夜にして製品ビルダーにしとるんや。これら三つすべては、近い将来やなくて、既にFortune 500企業やスタートアップで同様に使われとるんや。

未来への備え

サツケヴァーは講演を一つの思い出しで締めくくった。AIに注意を払うかどうかに関係なく、それは君の人生を形作るやろう。そして今それが何をしてるかを理解するのが早ければ早いほど、次に来ることによりよく備えられるやろう。でも彼の警告は恐怖についてやなかった。集中についてやった。AIが今実際に何ができるかを見ることが、次に来ることを理解する第一歩なんや。

なぜなら、わしらはもうツールを見てるんやない。何かが成長してるのを見てるんや。そしてそれは遅くなってへん。ここまで見てくれたなら、下のコメント欄で君の考えを聞かせてくれ。より興味深いトピックについては、今画面に表示されてる推奨動画を必ず見てくれ。見てくれてありがとう。

コメント

タイトルとURLをコピーしました