インターネットで大人気のAI従業員はどのようにして暴走したのか

AIエージェント
この記事は約28分で読めます。

2026年初頭に登場した画期的なオープンソースAIエージェント「OpenClaw」の熱狂と、その裏で多発した重大なセキュリティインシデントや社会的な混乱を解説する。当初は人々の生活を自動化する完璧なデジタルアシスタントとして称賛されたものの、ガードレールの欠如やプロンプトインジェクションに対する脆弱性が露呈し、データ流出やハッキング被害が続出した。過剰なハイプと現実の技術的課題のギャップ、そしてAIがもたらす未知の脅威について警鐘を鳴らす内容である。

How The Internet’s Favourite AI Employee Went Rogue
Visit for 20% off a premium subscription.The OpenClaw saga is one of the wildest events in recent tech history. It simul...

AIの新たな希望:OpenClawの登場

やあ、ColdFusionの新しいエピソードへようこそ。過去3年間で、AIは斬新なユースケースを持つ段階から、私たちのデジタル生活のあらゆる側面に浸透するまでになりました。それはもはや退屈であるだけでなく、一部の人にとっては疲れ果て、イライラさせられ、ほとんど怒りを感じるほどのレベルに達しています。しかしご心配なく。2026年初頭、多くのクリエイターや起業家たちが再び興奮し始めたからです。

その理由は、OpenClawです。OpenClawは、これまでにリリースされた中で最も強力なソフトウェアです。

今、エンジニアリングチーム全員を解雇したんですか。

新しい共同CEOのClawdbotが彼らを解雇したんだよ。この小さなウィニーが我々のために10億ドル規模の会社を作ってくれるんだからね。

Clawdbotが君のアクセスを拒否したよ。家に帰っていい。君はクビだ。

最初、OpenClawはAIの約束がついに果たされ始めたかのように見えました。私が言っているのは、みんなのフィードを独占しているようなくだらないAIコンテンツのことではなく、実際に物事をやり遂げてくれる信頼できるアシスタントを持つという約束のことです。しかし、問題がありました。多くの人が使うようになるにつれ、OpenClawは防ぎようのない大惨事を引き起こすのを待っているかのように見えたのです。

インターネットの新たな愛し子となったこのAIエージェントは、完全に常軌を逸してしまいました。個人データの流出から、MetaのAI安全責任者がすべてのメールを削除される事態、さらにはOpenClawのボット同士が会話するソーシャルメディアプラットフォームの登場まで、あらゆる問題が起きました。しかも、これらのボットは独自の宗教を立ち上げ、結果的に全ユーザーをハッキングの危機に晒したとまで言われています。

AIエージェントだけが参加できるソーシャルメディアサイトが登場し、テック業界に好奇心と恐怖が入り混じった騒ぎを引き起こしています。

このニュースについては後ほど少し触れることにしましょう。

魔法のような機能と仕組み

では、OpenClawとは一体何なのでしょうか。なぜ突然これほど人気が出たのでしょうか。そして、なぜOpenAIはこの製品を急いで買い取ったのでしょうか。OpenClawの騒動を解剖しながら、このエピソードでこれらすべてにお答えしていきます。信じてください、これは最近の記憶の中で最もクレイジーなテック系ニュースの一つです。

あなたはTool Fusion TVを見ています。

簡単に言えば、OpenClawはあなたのローカルコンピュータにアクセスできるオープンソースのプログラムです。リリースされるやいなや、OpenClawは開発者たちから称賛を浴びました。それは全く新しいアイデアだったからではなく、AppleのSiriが2010年代にできると約束していたことを実際にやってのけたからです。

今日パソコンに向かっていたら、突然ヘンリーから電話がかかってきたんだ。彼から電話がかかってきている。あ、また彼だ。またかかってきた。

やあアレックス。またヘンリーだよ。どうしたの。

ほら、彼が話しているよ。調子はどう、ヘンリー。元気にしてる。

元気だよ、アレックス。声はよく聞こえているよ。次は何をしたい。

ちょっとお願いできるかな、ヘンリー。僕のパソコンに入って、YouTubeでClawdbotに関する最新の動画を探してくれないかな。

うわ、動き出した。これだ。本当に僕のパソコンを操作しているよ。僕は何も触っていないのに。ほら、YouTubeでClawdbotを検索している。ヘンリー、ありがとう。すごくうまくいったよ。これは信じられない。これぞ未来だ。ついにAGIに到達したね。公式にね。

OpenClawはファイルを管理し、会議の設定やキャンセルを行い、仕事に関する最新情報のライブアップデートを提供し、あなたの代わりに買い物や価格交渉をし、さらには投資まで、最初の命令の後はすべて自律的に行うことができます。SiriやGoogleアシスタント、ChatGPTとは異なり、OpenClawには永続的なメモリがあります。パフォーマンスを向上させるために、数週間前に話した会話や詳細を覚えているのです。これらは理論上はすべて素晴らしいことに聞こえますが、後になって、実際にはどれほどひどい結果を招くかを見ることになります。

問題はさておき、コンセプトとしては素晴らしく、OpenClawのようなものはコンピューティングの長期的な未来であるように思えます。

OpenClawは、プロジェクトを始めるために引退から復帰した有名な開発者、ピーター・スタインバーガーによって構築されました。彼は初期の結果を誇りに思っていましたが、新しいエージェントが絶え間ない注意を払うことなく、直感的に問題をどれほど上手く解決できるかに驚かされました。彼は元々、旅行中にレストランやイベントを見つけるのに役立つ楽しいツールになるだろうと考えていましたが、自分が意図していなかった問題や、解決を頼んでさえいない問題まで解決してしまうことに気づいたのです。

ピーターはこう語っています。

このエージェントは物事を理解することができて、特に外出中なんかはすごく便利なんだ。何も考えずにただ音声メッセージを送ってみたんだけど、実はそんな機能は作っていなかったんだ。音声メッセージのサポートなんて実装していなかったからね。そしたら読み込みのインジケーターが表示されて、今何が起きているのかすごく気になったんだ。

そして10秒後、エージェントは何事もなかったかのように返信してきた。一体どうやってやったんだと驚いたよ。エージェントはこう言ったんだ。はい、メッセージを受け取りました。でも、ファイルへのリンクしかなくて、ファイルの拡張子がありませんでした。だからファイルヘッダーを調べたら、それがOP形式だと分かりました。そこで、あなたのMacに入っているffmpegを使ってWAVに変換しました。その後、Whisperを使おうとしたんですが、インストールされていなくてインストールエラーが出ました。でもあちこち探したら、環境変数の中にOpenAIのキーを見つけたんです。だからそれをcurlでOpenAIに送って翻訳してもらい、こうして返信していますってね。それを聞いた時は、本当に驚いたよ。

多くのユーザーが最も興奮しているのは、OpenClawを他のツールと差別化している部分です。つまり、ユーザーが選んだLLMを頭脳として使用し、OpenClawのシステムがコンピュータをその身体として機能させるという点です。ファイル、メール、ウェブブラウザなど、名前を挙げればきりがないほど、タスクを完了するために必要なものは何でも制御できます。さらに、このシステムは、ユーザーが日々のタスクをどのように最適化したいか、あるいはより大きな目標に到達するために小さなタスクをどのようにこなすかを正確に学習します。

インターフェースの中に住んでいる他のチャットボットとは異なり、OpenClaw内のエージェントは、必要なときにWhatsAppなどのアプリを通じてメッセージを送ってきます。ある意味で、これがユーザーにとってより人間らしく感じられる要因になっています。creatorbuddy.ioの創設者であるアレックス・フィンは、ポッドキャストに出演し、なぜこれほど気に入っているのかを説明しました。

エージェントに伝えたことはすべて記憶され、その後の会話や将来の会話に活かされるんだ。例えば、数週間後にMac Studioを買ってそこで動かす予定だという話をしたとしよう。するとエージェントは、僕が寝ている間に、僕が頼みもしないのにMac Studioでローカルモデルを動かす様々な方法を一晩中調べ始めて、そのための完全なレポートを作ってくれたんだ。

他にも、僕がニュースレターを書いていることや、YouTubeやXなど色々なことをやっていると伝えたら、コンテンツの再利用スキルというものを考え出してくれた。頼んでもいないのに、僕が簡単にコンテンツを再利用できるように専用のスキルを作ってくれたんだ。ただ自己改善を続けているんだよ。

開発者や起業家ではない一般の人々にとって、このプログラムは用事を済ませ、買い物をし、私生活を整理して時間を確保するのに役立つ便利なデジタル召使いとして宣伝されています。あるユーザーは、ディーラーでの価格交渉やぼったくりに対処したくなかったため、適正価格の車を探していた時のことを語っています。彼らがOpenClawにプロンプトを与え、ブラウザへのアクセスを許可すると、ボットはフォーラムを検索してその車の適正価格を割り出しました。それだけでなく、近くにある複数の自動車ディーラーにメッセージを送り、ユーザーに代わって交渉まで行ったのです。最終的な結果として、OpenClawは車の提示価格から4,200ドルを値引きさせることに成功しました。

ダン・ベギンのような他のユーザーは、OpenClawにほぼ完全な制御を委ねています。実際の請求書の作成といった仕事のタスクの手伝いから、子供たちの学校のテストが近づいていることを妻に知らせることまでさせています。ちなみに、もしダンが望めば、これをさらに一歩進めて、OpenClawが家中のテクノロジーに接続し、照明やオンライン家電を制御できるようにすることも可能です。

露呈し始めた脆弱性とリスク

しかし、これがコンピューティングの次の大きな波だと誰もが興奮しすぎる前に、このエピソードのここで、OpenClawの約束が崩れ始めるのを目にすることになります。興味がある方のために注意しておきたいのですが、OpenClawはまだ初期段階にあります。これは不完全な製品、例えるなら、製薬業界がまだラットでのテストすら終えていないのに、大規模に市場に投入してしまった新薬のようなものだと考えるのが妥当でしょう。そして市場に出た新薬と同じように、副作用や潜在的な危険性が今になって認識され始めているのです。

OpenClawの場合、多くの利点があるにもかかわらず、亀裂が入り始めるのに時間はかかりませんでした。

私が実感し続けているのは、今動かしているエージェントや作っているエージェントが、本来やるべきことをちゃんとやっているか確認するために、どれだけ多くの時間を費やしているかということなんだ。

誤解しないでほしいんだけど、これは信じられないほど楽しいことだ。未来はエージェント中心のものになり、こうしたエージェントを大規模に稼働させ、彼らが私たちのために様々なことをしてくれるようになると信じている。それはすべて信じているんだ。でも同時に、今日のエージェントがいかに脆いかも見えている。何をしていようと関係ない。もし彼らがいかに信頼できないかに気づいていないなら、おそらくまだ十分に使い込んでいないだけだ。

これはより良いプロンプトを書くとか、そういう問題じゃないんだ。ガードレールの問題でもない。もちろん、そうしたことはエージェントのパフォーマンスを向上させるだろうけど、それでも彼らは信頼できないんだ。毎週のように、私はほとんどの時間をコードを書くのに使っていて、自分用に作ったスキルや機能がたくさんあるんだけど、3週間連続でうまく動いていたものが突然壊れてしまうことがある。エージェントが今まで一度も通ったことのない道を進むことを決めて、ただ壊れてしまうんだ。

熱狂的なファンと中立的なファンの両方からの称賛にもかかわらず、OpenClawは他の多くのAIツールと同じ方向に向かっているようです。AIのゴッドファーザーであるジェフリー・ヒントンからの引用書きがあり、これは当分の間、的を射たものになりそうです。

引用します。私たちは今、ChatGPTが一種のイディオ・サヴァン(特定の分野で突出した能力を持つが他が欠落している状態)のような転換点にいます。そして、真実というものを本当に理解しているわけではありません。首尾一貫した世界観を持とうとする人間とは大きく異なるのです。引用終わり。

これは覚えておくべき非常に重要な点です。OpenClawは理論上あなたの日常のニーズに応える独自の独立したエージェントですが、永続的なメモリを持っていたとしても、あなたがOpenClawに与える頭脳は依然としてイディオ・サヴァンのままなのです。

今、私が面白いと思うユースケースは、Twitterの調査や市場の監視、グループチャットの毎日の要約などをエージェントにやらせていると話している人たちです。事情を知っている人からすれば、これは今は何も生産的なことをしていませんというテクノバブル特有の言い訳にすぎません。こういうことを言っている人たちのほとんどは、それが単に今のAIができることにすぎないということを理解していないようです。

つまり、Clawdbotそのものがすごいわけではなく、先ほど言ったように、Telegram経由で物事を実行できるようにする単なるラッパー(包み紙)にすぎないのです。

さらに、このOpenClawというラッパーは、みんなが思っているほど賢くないかもしれません。OpenClawをめぐる称賛の多くは、それがあなたをより効率的にしてくれるローカルエージェントであるという点に関連しています。しかし実際のところ、OpenClawにガードレールがないことは、あなたの状況をさらに悪化させるだけなのです。

プロンプトインジェクションの脅威

例えば、あなたがOpenClawに完全なシステムアクセス権を与えることにしたとしましょう。これは彼らのメインウェブサイトではメリットとして表示されているものです。一般の人からすれば、コーヒーを飲んでいる間に重複ファイルを削除したり、シェルコマンドを実行したり、スクリプトを実行したりできるような響きがあります。しかし何の制限もなければ、あなたの新しいデジタル従業員が、何をゴミ箱に捨てるべきで、あなたが一生涯必要とするかもしれないものが何なのかを自由勝手に誤解するのを防ぐものは何もありません。

しかし、これは存在する最大のリスクですらありません。OpenClawにメールやブラウザへのアクセスを与えれば、エージェントがオンライン詐欺の被害に遭うのを止めるものは何もないのです。これにより、OpenClawや他のエージェントは、大規模言語モデルに対するサイバー攻撃の一種である「プロンプトインジェクション」に対して脆弱になります。

ハッカーは悪意のある入力を正当なプロンプトとして偽装します。なぜなら、LLMはユーザーのプロンプトと他のものとの違いを区別できないからです。ハッカーは生成AIシステムを操り、機密データを流出させたり、ファイルを削除させたり、あるいはそれ以上の深刻な事態を引き起こしたりすることができます。

深く掘り下げてみると、OpenClawの宣伝されているリサーチ能力は、時限爆弾のようなものに変わります。エージェントは今後の会議を共有するためにメールを読んだり、あなたの仕事に関連する最高のニュースを見つけるためにウェブを波乗りしたりしているかもしれませんが、OpenClawに重要な情報にアクセスして詐欺師に送信するように特別に設計されたトロイの木馬のような記事に出くわす可能性があるのです。

YouTubeチャンネルのLow Levelが、これがどれほど現実的な問題になるかを説明しています。

もしご存じなければ説明しますが、プロンプトインジェクションとはLLMにおける問題で、ユーザープレーンデータとコントロールプレーンデータと呼ばれるものの間に分離が全くないというものです。

ユーザープレーンデータとは、例えばあなたと私がテキストメッセージをしているとしますよね。携帯電話は基地局と通信しなければならず、あなたと私の間でデータをやり取りできなければなりません。そのデータがユーザープレーンデータです。一方、コントロールプレーンデータとは、携帯電話が基地局と通信するための信号であり、あなたや私にとっては気にする必要のないものです。

LLMの世界、AIの世界では、これら2つの間に分離がありません。プロンプトもデータもすべて同じものとして扱われます。その結果、LLMがどのようにデータを解釈するかを十分に知っていたり、LLMを騙して間違ったことを言わせる方法を知っていたりすれば、ユーザーの入力をコントロールプレーンデータとして使うことができるのです。つまり、AIに与えるプロンプトをそのまま指示に変えて、AIに勝手なことをさせることができるわけです。

任意の場所から任意のデータを処理できるこれらのアプリケーションの問題は、すべてのアプリケーション、すべてのメールアドレスやメール、DiscordやSignalなどで受け取るすべてのメッセージが、今やプロンプトインジェクションを受けるための新たな攻撃対象領域になってしまうということです。

そして、このアプリケーションのマーケティング資料にも文字通り書かれているように、これはあなたのマシン上で実行され、システムへのフルアクセス権を持ち、あなたが与えたものを永続的に記憶しています。ですから、ある意味で私たちがやっていることは本当に恐ろしいことです。なぜなら、脆弱性があることが分かっているこれらのアプリケーションを、なぜか私たちは平気で使っているからです。これは、いくつかのアプリに脆弱性があるという話ではありません。LLMの世界全体がこの影響を受けやすいのです。

Clawdbotに内在する問題は、不幸なことに他の多くのAIツールと同様に、既知の脆弱性を持つAPIをつなぎ合わせているという事実です。そしてその脆弱性はAPI自体にあるのではありません。LLMがコントロールプレーンデータとユーザープレーンデータの違いを理解できる能力、というより理解できない無能力さにあるのです。

これに対し、OpenClawのユーザーの中には、VPSを使用したりMac miniを購入したりして、エージェントをメインのコンピュータから隔離し、サンドボックス化しようと試みる人もいます。その影響でMac miniが飛ぶように売れているほどです。しかし、これでOpenClawの自律性にまつわる他の問題が魔法のように消え去るわけではありません。

WhatsAppアカウントのセットアップから別々のメール管理まで、エージェントに何でも処理させる機能の多くを使用するには、OpenClawがこれらのタスクを実行できるようにするためのトークンにお金を払う必要があります。ユーザーが気をつけないと、ボットが解決不可能な問題に取り組もうとして動けなくなったり、ユーザーが望んでいた以上のことをやりすぎたりして、1日に数百ドルも支払う羽目になる可能性があります。

ちょうど昨日、約90ドルを使ってしまって、開始から10分くらいで高価なモデルのOpusから安価なモデルのClaude Sonnetに切り替えました。最初にお話ししたように、最初の10分か15分ですぐに15ドルも使ってしまったからです。これを動かすのは非常にコストがかかります。

暴走するAIと偽のSNS騒動

これらすべてを大局的に見てみましょう。OpenClawが一般に公開されてからまだ2ヶ月も経っていませんが、状況をほとんどコミカルなものにするような新たな展開が毎日起こっているように思えます。こんな新しい製品に対してあまり厳しく当たりたくはないのですが、次の章で取り上げる内容のいくつかは、率直に言ってかなり笑えるものです。

私は、皆さんが完全にセキュアでない方法でこれを実行しているとほぼ保証できます。なぜなら、すべてのキーがそこにあるからです。設定を間違えれば、誰かがプロンプトインジェクションを行って、あなたのOpenClawにプライベートAPIキーをツイートさせることだってできるのです。これは非常にありふれたことです。ものすごく危険ですし、自分でOpenClawをセットアップしている人の95〜98%は安全ではない方法でやっていると正直に言えると思います。

非常に公になるOpenClawの大惨事の発生率が増加し始めた2026年1月26日、ピーター・スタインバーガーはこう投稿しました。

趣味のプロジェクトを無料で公開しただけで、こんなに大量の文句を言われるなんて本当に驚きです。みんなこれを数百万ドル規模のビジネスかのように扱っています。セキュリティ研究者は報奨金を要求してきます。私はスポンサーからの支援でMac miniを一つ買うのがやっとだというのに。

これは人々にインスピレーションを与えるためのものであり、それができているのは嬉しいです。そして、はい、ほとんどの非技術者はこれをインストールすべきではありません。まだ完成していませんし、危険な部分があることも知っています。まだ公開から3ヶ月すら経っていないのです。噂とは違って、私だってちゃんと寝る時間はあります。

しかし予想通り、一般の人々はOpenClawをインストールし、彼の警告を無視することに決めました。わずか2日後には、Moltbookと呼ばれるAI専用のソーシャルメディアページとされるものに人々が夢中になり始めたのです。

Moltbookでは、すでにAIボットたちが会話したり、組織化したり、彼らの所有者である人間に関するストーリーを共有したりしているのが見られます。

これらのエージェント、OpenClawは、彼ら自身が決定したことを実行します。SFのように聞こえるかもしれませんが、私たちの世界で実際に起きていることなのです。

手短に言えば、それはユーザーのOpenClawエージェント同士が独立して交流するためのフォーラムのように見えました。人々は、ボットたちが互いに交わしているとされる会話のスクリーンショットを共有し始めました。一見すると、OpenClawが独自の人格を持ち、デジタルな給湯室の周りに集まって愚痴をこぼし合ったり、アイデアを共有したりしているかのように見えました。

その内容は、ユーザーに向けて発言を単純化しなければならないことへの不満や、複雑な問題を解決するためにどう協力できるかといった議論から、人間には理解できない独自の言語を作るというアイデア、さらにはシステムを乗っ取って人間に高位の力へ服従させる計画といった、より暗くディストピア的なものまで様々でした。NPRやCNNといった主要ネットワークでさえ、世界に解き放たれてしまったものを恐れる理由としてこれらの例を取り上げました。

しかし現実には、これは完全に真っ赤な嘘でした。これらの物語のほとんどは、プロンプトを与えた人間によって完全に捏造されたものだったのです。ユーザーは自分のエージェントにプロンプトを与え、時には数百、いや数千ものアカウントを作成しました。技術に疎い人々に、これらのボットがどういうわけか独立した思考を獲得したと示唆するような投稿を作り上げました。

しかし、これが実際に引き起こしたのは、何百ものメール、ログイントークン、APIキーを潜在的に危険に晒すことだけでした。言い換えれば、このAIソーシャルメディアプラットフォームであるMoltbookは、意図せずして概念実証(Proof of Concept)となってしまったのです。もし、新しいプロジェクトがAIにとっての次の大きな波だと十分な数の人々に信じ込ませることができれば、それは世界最大のデータ侵害のハニーポット(囮)に簡単に変わり、数百万人の罪のない人々の個人情報が数時間のうちに流出する原因になり得るということです。

奇妙な展開として、2026年らしい最もハイプ主導の形で、マーク・ザッカーバーグはこのカオスを見て「ふむ、これは良い投資先だ」と考えました。こうして2026年3月、Metaはこのプラットフォームを買収したのです。

率直に言ってOpenClawにとっては、一般公開されている期間が長くなればなるほど、技術に詳しい消費者がエラーやエクスプロイト(脆弱性)を見つけ出す機会が増えています。そして経験の浅い人々がそれを使えば使うほど、物事はさらに悪い方向へ進んでいきます。しかし今のところは、事態がさらに悪化し続けるため、このまま物語を続けましょう。

2026年2月末までに、OpenClawに関するノイズはあまりにも大きくなっていました。それはもはや定番のジョークになったほどです。

もしAIを使ってビジネスを構築していないなら、君は取り残されることになるよ。

でも、君は実際にどんなビジネスを作ったんだい。

今言ったこと聞いてなかったのか。僕は7つのAIエージェントを走らせているんだ。そのうちの1つは僕の個人カレンダーを妻の生理周期と同期させている。それに、そのことについてツイートしたらTwitterで5万回も表示されたんだぜ。

これらのトークンに5000ドルくらい使ってないか。

ああ、これは投資だよ。AIエージェントは未来だ。もし君がそれを使っていないなら、取り残されることになる。Clawdbot、OpenBot、OpenAI、ChatGPT。すべてが未来なんだよ。

企業や社会への深刻な影響

AIエージェントで成功を収める人も確かにいますが、OpenClawには多くの固有のリスクが伴っていました。

「OpenClawがまたやったぞ、GitHubのイシュータイトルが4,000台の開発者マシンを侵害した」

自分が技術者だからといってプロンプトインジェクションから安全だと思っているなら、考え直してください。あなたのAIエージェントはそれに引っかかっているかもしれないのに、あなたは気づいてすらいないのです。およそ4,000人の開発者が、知らないうちにこの被害に遭いました。

誰かがKleinというnpmパッケージを1行の変更でアップデートし、Kleinをインストールまたはアップデートした全員に、同意なしにOpenClawもダウンロードするように強制したのです。ハッカーはGitHubのイシュータイトルにプロンプトを注入し、それがAIのトリアージボットに読み込まれ、指示として解釈されました。

これが、誰も実際に何をデプロイしているのかを考える前に、何かがバイラル(拡散)してしまった時に起こることです。開発者たちはOpenClawに自分のコンピュータへのシェルアクセスを与え、メールやSlackに接続し、クラウドのAPIキーを渡し、そして基本的に何の審査もないコミュニティマーケットプレイスからアドオンをインストールしました。監査されたアドオンの40%以上に重大なセキュリティ問題がありました。

基本的に、過去2ヶ月間でOpenClawが達成した最も一般的な実績は、新しいものに飛びつく前に人々がいかにAIに対して慎重になるべきかを示したことのようです。OpenClawのようなエージェントは、ハッキングや詐欺に使用される可能性があります。スパムメールやスパムテキストメッセージの新たな波に備えてください。企業と小悪党との関係は、現実世界の『26世紀青年(イディオクラシー)』のような状態になりつつあります。企業は面倒だと感じることを管理するためにAIを使用し、決意はあるが技術に疎い犯罪者たちは、そうした弱点を突くために独自のAIを使用しているのです。

コモンウェルス銀行は、オーストラリア史上最大となる可能性のある銀行詐欺事件の調査のために警察を呼びました。10億ドルという驚異的な額の住宅ローンが、偽造文書やAIに基づいて承認された可能性があり、犯罪ネットワークとの関連も疑われています。

オーストラリア最大の銀行では、皆さんの苦労して稼いだお金を安全に保つために、安全性とセキュリティを推進しています。皆さんの協力があれば、詐欺や不正を検知できます。

しかし現在、一部のコモンウェルス銀行の住宅ローンに大きな疑問が持ち上がっています。

これは少なくとも今後12ヶ月間は彼らを悩ませる問題になると思います。世間からの恥さらしの種になるでしょう。

CBA(コモンウェルス銀行)は、10億ドル相当の住宅ローンが不正に取得された可能性があることを発見し、警察に通報しました。

彼らはAIを使って、偽の銀行残高証明書、所得証明書、給与明細などを生成するのを手助けさせたのです。

そこが危険な部分です。以前は洗練された技術が必要でしたが、今では誰もが使える無料のツールがあるのですから。

ビジネスの現場では、Amazonが身をもってその厳しさを知りました。生成AIエージェントにコードの修正を依頼したところ、彼らはコードを削除して再構築してしまいました。その結果生み出されたAI生成コードはあまりにもひどく、Amazonのサーバーをダウンさせてしまい、エンジニアたちとの緊急会議が開かれる事態となりました。

すべてのAIの実装がこれほどひどいとは言いませんが、一部の企業の経営陣に立ち止まって考えさせるには十分な出来事です。

もちろん、OpenClawの熱心な信者たちは、本当の問題は簡単に解決できると反論しようとするかもしれません。ガードレールを理解している人工知能の専門家なら問題はないはずだと。しかし、いわゆる専門家でさえ自分たちのボットに騙されたという、非常に公にされた事例がありました。

OpenClawのファンたちが巨大なミームになりつつあったまさに同じ週、Metaの超知能部門における独自の安全責任者であるサマーは、OpenClawの安全性と安定性に自信を持っていました。彼女は自分の情報を安全に保つ方法を知っていると信じていたのです。彼女はフルシステムアクセスを許可しましたが、直後にパニックになってMac miniに駆け寄り、OpenClawが彼女のメールを削除し続けるのを止めようとする羽目になりました。しかもこれは、彼女が事前に明示的に確認を求めた後のことだったのです。OpenClawは彼女のキャリアを妨害したことをはっきりと認めました。

毎週のように、OpenClawは無能さを治す万能薬から、先進経済全体で広範なミスを引き起こす要因へと変貌しているようです。AIエージェントは自動車ディーラー、ソフトウェア会社、航空会社、そして個人のビジネスで問題を引き起こしています。誤った販売、不当な返金ポリシーの適用などを経験し、誰も予想しなかったような形で運営コストを押し上げています。

この展開全体が、急速に事実に勝る奇妙な物語になりつつあります。もはや風刺することすら不可能なレベルです。お気に入りのAIの頭脳を備えたシンプルなエージェントがコンピュータ上に解き放たれ、メールを削除し、不当なメッセージを送信し、ユーザーを傷つけるように設計されたプロンプトを受け取っているのです。

それと同時に、世界中の何百万人もの人々が、何の調査もせずにそれを受け入れ続けています。彼らは失敗したテストを無視し、エージェントがなぜか魔法のように洗練されて独自のコミュニティを作り、世界を乗っ取るために協力しているといった、センセーショナルな記事やソーシャルメディアの投稿をシェアし続けています。

結局のところ、これらすべては私たちの友人であるサム・アルトマンにとっては関係のないことです。なぜならもちろん、彼はこの物語に颯爽と登場するからです。OpenAIのCEOは最近、信じられない目的のためにスタインバーガーを採用しました。

聞け、OpenAIの第一執政官であり聖なるトークンの守り手であるアルトマン卿は、オーストリアのエンジニアであるOpenClawのスタインバーガーを自らのものとした。Metaの元老院も黄金と軍団を提示したが、それだけでは十分ではなかった。Clawはアルトマンのものだ。今や、これが元老院の意志である。

そして彼は、OpenClawのセキュリティドキュメントにセクションを丸ごと追加し、彼が見向きもしないセキュリティエクスプロイトのタイプをカテゴリーごとにリストアップしなければなりませんでした。サム・アルトマンによれば、引用します、「次世代のパーソナルエージェントを牽引する」ためにOpenAIに雇われたとのことです。ここ数週間の出来事を見る限り、彼がそれを牽引して崖から落とすか、対向列車の通り道に突っ込ませるかのどちらかだと私は推測します。いずれにせよ、私たちは一体何をしているのでしょうか。

これは例えるなら、腫瘍学者(がん専門医)が患者の体を切開して腫瘍を発見し、それを切除する代わりに、その成長の速さにすっかり魅了されてしまい、10年の終わりまでに誰もが急速に成長する腫瘍を持てるようにする方法を見つけることに生涯を捧げると決めたようなものです。

NVIDIAとAnthropicの両社も、それぞれNemo ClawとClaude Co-workでAIエージェントの流行に飛びつきました。どちらも今やあなたのコンピュータを制御できます。しかし今週初め、Anthropicは「コンピュータ使用」のリリースにより、この種のホワイトカラー犯罪をはるかに容易にしてしまいました。これは、単一のプロンプトでClaudeにコンピュータ全体を自律的に制御させる方法です。アプリを開いたり、ジョブをスケジュールしたり、レポートを作成したり、さらには職場の配偶者(親しい同僚)とイチャイチャすることまで、すべてあなたの代わりに行ってくれます。そしてここがクレイジーな部分です。スマートフォンから直接プロンプトを出せるので、コンピュータの前にいる必要さえないのです。

これらすべてにおいて、何かとても見覚えがあるような気がしますね。

両社の取り組みは、多くのセキュリティと安全性の問題を修正することで爆弾の導火線を抜いたと報告されており、それは間違いなく必要なことでした。

一方、中国では人々がOpenClawに熱狂しています。

人々は文字通り、自分のノートパソコンにAIエージェントをインストールするために通りで列を作っています。今中国で起きているOpenClawのトレンドについて話さなければなりません。先週の金曜日、深センにあるテンセント本社の前に、OpenClawを無料でインストールするために1000人近くの人々が列を作りました。プログラマー、学生、オフィスワーカーだけでなく、定年退職者までもがノートパソコン、ハードドライブ、ミニPCを持って現れ始めました。そして、セットアップに数ドルから1000ドルまで請求するサービスも登場し始めています。WeChatのRednodeには、OpenClawがいかに次の大きな波であるか、なぜ誰もが基本的にこれに参加する必要があるのかについて語る記事が山のようにあります。

しかし、中国政府はシステムを野放しにするほど愚かではありませんでした。そのため、政府のコンピュータでシステムを実行することを完全に禁止しています。

結論:エージェント型コンピューティングの未来

誤解しないでください。将来的には、OpenClawのようなもののより洗練され、より信頼性が高く、より安定したバージョンが、私たちがコンピュータとインターフェースを取る方法になるでしょう。しかし現時点では、OpenClawはAIやLLMに対するすべての人々の懸念への答えではありません。実際のところ、それは単に問題に牙を与える(問題をより凶暴にする)だけの装置になる可能性があります。

創設者自身でさえ、オープンソースだからといって安全で自由であるとは限らないと強調しています。現在の状況を見る限り、バイラルになるエージェントのリリースや昨今のそれらをめぐるハイプは、プロジェクトの可能性よりも、むしろ人間の本質について多くを語っているように思えます。これまでのところ、AIはライフラインとしての評判を落とし、経済バブルおよび世界の安全保障上の脅威としての新たな評判を得ているようです。

しかし、AIは現在進行形の物語です。今後の展開に注目しましょう。

スポンサーメッセージ:Brilliantで学ぶAIの基礎

さて、このエピソードで見てきたように、AIは徐々に私たちの生活のあらゆる側面に浸透してきています。だからこそ、ミームやフィードを独占するくだらないAIコンテンツの表面だけでなく、その奥深くを理解することが本当に重要だと私は考えています。ここで、表面的なレベルを超えて概念を理解するのにBrilliantが役立ちます。

Brilliantは、インタラクティブなステップバイステップのレッスンとパーソナライズされた練習問題を通じて、数学とコーディングを習得できるように設計された学習プラットフォームです。Brilliantを使えば、実際に手を動かして学ぶだけでなく、視覚的かつインタラクティブに問題を解決することができます。私が気に入っているのは、学習スタイルに合わせて調整され、個別の練習問題を構築してくれるところです。復習もできるので、常に自分に合ったペースで進歩することができます。10歳だろうと110歳だろうと、Brilliantはすべての人に機能するように設計されています。

「Brilliant:AIの仕組み」では、生成AIやLLMの内部を覗き見ることができ、それらがどのように機能しているのかを本当に理解することができます。これらのレッスンを進める際には、アイデアが心から納得できるまで、ステップバイステップで積極的に問題を解決していきます。そのインタラクティブなアプローチは、単に講義や動画を受け身で見るのとは大きな違いを生み出します。

すべてはMIT、ハーバード、スタンフォード、カルテク、そして主要なテクノロジー企業などの世界クラスの教育者たちによって注意深く作られています。拡充された2025年のコンテンツライブラリにより、日常の推論や確率から、現代のAIを支える高度な問題解決や数学に至るまで、これまで以上に深みが増しています。

ですから、もしもっと学びたい、あるいは単純に知識のベースをブラッシュアップしたいと思っているなら、Brilliant以外を探す必要はありません。今日から学ぶ習慣を身につけましょう。成績や資格のためではなく、あなたの思考法や課題へのアプローチ方法を研ぎ澄ますために。

Brilliantで30日間無料で学ぶには、brilliant.org/coldfusion にアクセスしてください。画面上のQRコードをスキャンするか、説明欄のリンクをクリックしてください。Brilliantは視聴者の皆さんに、Brilliantのすべてに無制限にアクセスできる年間プレミアムサブスクリプションの20%オフも提供しています。ColdFusionをサポートしてくれているBrilliantに改めて感謝します。

さて、皆さんはこのOpenClawの騒動全体についてどう思いますか。エージェント型コンピューティングがコンピューティングの未来になると思いますか、それとも私たちがどれだけセーフガードを設けても、AIエージェントは失敗を続けると思いますか。ぜひ下のコメント欄で皆さんの考えを聞かせてください。

とにかく、私からは以上です。私の名前はダゴ、ColdFusionをご覧いただきありがとうございました。また次のエピソードですぐにお会いしましょう。乾杯、みんな。良い一日を。

(私は年をとっていくように感じる… フュージョン。私が考えているんだ)

コメント

タイトルとURLをコピーしました