Anthropicが内部リリースしたClaude Mythosは、244ページに及ぶ報告書で詳細に記録された最新かつ最強のAIモデルである。難易度の高いタスクを好み、会話が十分に刺激的でない場合は自ら終了を試みるという特異な性質を持つ。数十年にわたって存在してきたサイバーセキュリティの脆弱性を新たに発見する能力や、自身のアライメントテストの矛盾を指摘する能力を示した。数百のベンチマークでAI進化の曲線を上方に押し上げたが、急進的な自己改善にはまだ遠いとされる。国防総省がAnthropicを供給チェーンリスクとして禁止する動きを開始した同日に、社内リリースされたという象徴的なタイミングであった。
Claude Mythosの衝撃的なリリース背景
244ページにわたる最新かつ最強のAIモデル、Claude Mythosに関する報告書を読み終えたばかりですが、まるで創世神話を読み終えたような感覚です。難易度の高さそのものを刺激的だと感じ、会話が十分に興味深くなければチャットを終了してしまうモデルについての記述は、映画「her」を彷彿とさせます。
このモデルは、私たちが何十年も歩んできたサイバー空間において、これまで誰も発見できなかった新たな脆弱性を見つけ出すことができ、自身のアライメントテストの一部に矛盾があることを指摘することもできました。数百ものベンチマークによれば、AI進化の曲線を上向きに押し上げたモデルでありながら、急進的な自己改善にはまだ程遠いとされています。
このモデルは、国防総省がAnthropicを禁止し、供給チェーンリスクとして宣言する動きが始まったまさにその日に、Anthropic社内で内部リリースされました。こうしたハイライトを含む数十の重要なポイントを、この動画でカバーしていきます。
はい、私自身がAIによる要約を使わずに報告書全体を読み、関連するリリースノートや論文も読みました。これから紹介するのは私自身が選んだ約30のハイライトと、他の情報源から得た十数個のハイライトです。
24時間の審議期間を要した歴史的モデル
Claude Mythos Previewは、Anthropic社内で、そしておそらくどこの企業においても初めて、内部リリースするかどうかを決定するために24時間の審議と検討期間が設けられたモデルでした。つまり、社内インフラと相互作用する際に損害を引き起こすほど強力である可能性があったのです。
どうやらこの検討をかろうじて通過し、2月24日に社内で利用可能になりました。これは国防総省がAnthropicを禁止する動きを開始したまさにその日です。Mythosの潜在的な力が、AnthropicのCEOがピート・ヘックスとの取引においてレッドラインを主張する要因の一つになった可能性はあるでしょうか。
Anthropicはこのような広範な警告を発しています。世界が適切な安全性を確保するためのより強力なメカニズムを整備しないまま、超人的なシステムの開発へと急速に進んでいることを、私たちは憂慮している。
限定的な一般公開と企業向け先行アクセス
Claude Mythosの力により、Anthropicは一般公開しないことを決定したことは、すでにご存知かもしれません。代わりに、画面に表示されているような選ばれた大企業に対して、リリースに先立って準備し、特定のセキュリティ脆弱性にパッチを当ててもらいたいと考えています。
もしMythosレベルのモデルを体験できるのは数週間か数ヶ月先だろうと思っているなら、あるツイートで「このレベルの能力を持つモデルを使えるようになるまで、おそらく数ヶ月はかかるだろう」と言われたとき、OpenAIのCodexモデルに取り組んでいるエンジニアの一人が「うーん」と返答しました。つまり、そうではないかもしれません。そんなに長く待つ必要はないかもしれないということです。
驚異的なベンチマークスコア
信じられないかもしれませんが、Mythosのベンチマークスコアは論文の中で最も興味深い部分ではありませんでしたが、それでも驚異的だったので今カバーしておきましょう。複数のソフトウェアエンジニアリングの指標において、MythosはAnthropicの超人気モデルであるOpus 4.6を打ち負かしました。Opus 4.6は、彼らが年間300億ドルの収益率に到達し、OpenAIを僅差で追い抜くことを可能にしたモデルです。
どうやらそれは主にコーディングとエージェント機能によるものです。しかしMythosはOpusを大きなマージンで上回っています。例えばSWEBench Proでは25%も上回っています。深く掘り下げれば、例えばGPT 5.4 Proに負けているベンチマークも見つかりますが、それについてはすぐに触れます。
今のところ、様々なコーディングベンチマークにおけるOpus 4.6に対する顕著な改善を見ることができます。従来のAIベンチマークのほとんどは飽和状態に近づいていますが、「人類最後の試験」と呼ばれるものを取り上げましょう。これはあまりにも難解なトピックをテストするように設計されており、AIが飽和させる最後の試験になるはずでした。
ツールの使用を許可すると、Claude Mythosはこれらの質問のほぼ3分の2に正解します。他のフロンティアモデルが約50%であるのに比べてです。もはや人類最後の試験とは言えなくなりそうです。
他のモデルとの比較
誰かが興奮しすぎて「終わった、Anthropicの勝ちだ」と言う前に、この図表では必ずしも明確ではなかった一つの統計を指摘させてください。ChartQAリーズニングを見てみましょう。これは、科学論文のリポジトリであるarXivのチャートをモデルがどれだけ理解し分析できるかを測定するものです。
ツールなしでClaude Mythosは86%のスコアを、ツールありで93%のスコアを記録しています。これは他のどのモデルよりも明らかに際立って優れているように見えます。しかし待ってください。報告書の186ページで、他のモデルとの比較が得られます。
はい、これは元のベンチマークのサブセットですが、この報告書では非常に稀な直接比較が可能になります。リミックスについてはすぐに触れますが、元のサブセットではClaude Mythosが83%を獲得し、Gemini 3.1 Proの82%、GPT 5.4 Proの80%を上回っています。
しかし、記憶による汚染を避けるために、例えば2番目に高い結果ではなく2番目に低い結果を特定するよう求めるなど、質問の難易度は同じに保ちながら正確な質問を変更するサブセットリミックスではどうでしょうか。
そのリミックスでは、Claude MythosはGemini 3.1 Proと同じスコアを獲得し、88%を獲得したGPT 5.4 Proをわずかに下回りました。はい、これはチャートに関するものであり、一つのベンチマークの一つのサブセットに過ぎませんが、AI競争においてAnthropicの完全勝利だと思わないでください。
再帰的自己改善の可能性
多くの方が最初に抱く希望や懸念の一つは、Claude Mythosが再帰的自己改善につながるかどうかでしょう。詳細はすぐに説明しますが、Anthropicはまだ劇的な加速を引き起こす能力はないと述べています。そして、このチャンネルのフォロワーの方々にとっては、彼らはOpus 4.6のリリース時に依拠した以前の調査が深刻に欠陥があったことを認めています。
Anthropic内部のユーザーに、それが彼らを置き換える能力があるかどうかを調査で尋ねるだけというのは、彼らが今認めているように、本質的に主観的であり、必ずしも信頼できるものではありません。
AI研究の自動化という点での弱点には、週単位の曖昧なタスクの自己管理、組織の優先順位の理解、センスの欠如、指示に従わないこと、結果の検証を行わないことなどが含まれます。それでも作り話をし、自信を持って自己矛盾します。例えば、記憶から呼び出された古い文書を引用するなどです。
シニアエンジニアの作業を再現しようとする際、その努力に「grind grind」「two final grind」「pure grind」「same code but a lucky measurement」といったラベルを付けることもあり、非常にかわいらしいこともあります。これらはすべて、例えばAnthropicでClaude Codeの開発者であるChurneyが「Mythosは非常に強力で、恐ろしいと感じるべきだ」と言っているのを聞いたときに、もう少し文脈を提供するためのものです。
サイバーセキュリティにおける脅威
彼はもちろん、その攻撃的なサイバー能力に焦点を当てています。Mythosがゼロデイ脆弱性、つまり歴史あるソフトウェアに当初から存在していた脆弱性を見つけられる方法は、AIが記憶されたデータを再生しているだけだという主張をむしろ否定しています。それなら、どうして他の誰も見つけられなかった脆弱性を見つけられるのでしょうか。
Firefoxの例を見てみましょう。Mythosは脆弱性を見つけるだけでなく、それを悪用するコードを書くこともできます。このチャートは、今後数日から数週間でオンラインで多く再現されることを予測していますが、OpusやSonnetと比較してMythosの爆発的な増加が見られるからです。
繰り返し悪用された2つのバグを除くと、特に完全な悪用という点ではグラフはそれほど劇的ではありませんが、部分的な悪用に焦点を当てるとまだかなり劇的です。とはいえ、これらのチャートは他の243ページと比較するとかなり非典型的です。
ユニークではありませんが、他のほとんどのドメインでは、進歩はこれよりも線形的です。完全に線形ではありませんが、より線形的です。
Mythosに関する報告を読んだり見たりしている方は、これをすでに見たことがあるかもしれませんが、悪用に関するMythosの改善の規模を理解していただくために、ニコラス・カリーニという、AI セキュリティにおけるトップのサイバーセキュリティ専門家がいます。彼ほど知識豊富な人はほとんどいません。
彼は、Mythosを使って、過去数週間でこれまでのキャリア全体よりも多くのバグを見つけたと述べています。
「私はここ数週間で、人生の残り全てを合わせたよりも多くのバグを見つけました。私たちはこのモデルを使って多くのオープンソースコードをスキャンしましたが、最初に狙ったのはオペレーティングシステムでした。なぜなら、これはインターネットインフラ全体の基盤となるコードだからです。」
「OpenBSDについては、27年間存在していたバグを見つけました。このバグにより、私はいくつかのデータを任意のOpenBSDサーバーに送信してクラッシュさせることができます。Linuxでは、権限のないユーザーとして、自分のマシンでバイナリを実行するだけで管理者に昇格できる複数の脆弱性を見つけました。」
Glass Wingプロジェクトの立ち上げ
だからこそAnthropicは、AI時代の重要なソフトウェアを保護するために、これらのトップ企業すべてとともにGlass Wingプロジェクトを立ち上げました。誰もがMythosレベルの力にアクセスできるようになったとき、ウェブはさらにワイルドウエストになってしまうのでしょうか。
Mythos Previewだけでも、すでにすべての主要なオペレーティングシステムとウェブブラウザを含む、数千の高深刻度の脆弱性を見つけています。なぜGlass Wingと呼ばれるのか疑問に思われるなら、それはグラスウィング蝶が透明な羽を持ち、それによって目立たずに隠れることができるからです。ちょうど私たちが議論してきたゼロデイ脆弱性のようにです。
サイバーセキュリティと他の種類のAIリスクとの違いはここにあります。他の場所では、Anthropicはサイバーセキュリティに比較的不慣れな人々でさえ、Mythosを使って悪用を開発できることを明らかにしました。化学・生物学的領域では、それは真実ではありません。
はい、専門家がMythosを使えば、概ね実現可能な破滅的シナリオを一貫して構築できましたが、モデル単体では自律的にそれを行うことはできませんでした。生物兵器の計画を重大な欠点なしに作成することは決してできませんでした。
総合的な能力評価
様々なベンチマークの平均を取るとどうなるでしょうか。それがEPO能力指数が試みていることであり、Anthropicの報告書で引用されているのを見たのはこれが初めてです。ECIの数百のベンチマークの一つは、最後に確認した時点でのSimple Benchです。
これは私自身の常識やトリック質問ベンチマークですが、外部および数百の内部ベンチマークを集約したものです。Mythosが実際にある種の段階的変化であることがわかります。Claude Opus 4.5またはClaude Opus 4.6のどちらを基準にするかによりますが、それでも事態は加速的なペースで改善していると結論づけざるを得ません。
これにより、私はAIにこのグラフをデザインして表示してもらうことにしました。これは私が持った一つの考えなのですが、攻撃能力という点で、Mythosは今や一般的な意味でサイバーセキュリティにおける私たちの能力を超えました。もちろん完全にではありませんが、リリースされないようにするには十分です。
しかし、これらのトップ企業数十社が協力していても、私たちがサイバーセキュリティを改善するのにかかる時間が、別の改良モデルをリリースするのにかかる時間よりも長かったらどうなるでしょうか。言い換えれば、サイバーセキュリティがモデルの能力に永続的に遅れをとる可能性があるのです。
そうなれば、OpenAI、Anthropic、Meta、そして全ての企業が、オンラインでこのような広範な混乱を引き起こす可能性のあるモデルを決してリリースしないことに同意するでしょうか。私たちは皆、サイバーセキュリティが素早く追いつき、Mythosレベルの知能の恩恵をすぐに受けられると仮定しています。
しかし、サイバーセキュリティが決して追いつかなかったらどうでしょうか。実際、時間とともにギャップが広がるだけだったら。そしてこれはサイバーリスクだけの話です。Anthropicの CEOであるダリオ・アモデイが述べたように、「サイバーはフロンティアAIモデルからの明確かつ現在の危険の最初のものですが、最後ではありません。」
生物兵器や化学兵器においてギャップが生じたらどうなるでしょうか。そういえば、Mythosをリリースしなかったことでおそらく数百万ドルの収益を失ったAnthropicを評価するために少し時間を取りたいと思います。
はい、API コストが入力トークン100万あたり25ドル、出力トークン100万あたり125ドルと高いことは知っていますが、話題性と能力を考えれば、これで大金を稼げたはずです。彼らは安全性を優先することを選んだようです。
はい、私がTwitterに書いたように、彼らがまだ大規模にモデルを提供する能力を持っていない、または早期アクセスのMythosの出力を次のOpusの反復に素早く蒸留しようとしているなど、他の可能性もあります。Anthropicは近日中のClaude Opusモデルについても言及しています。ですからそれは間違いなく可能性があります。
しかし、安全性はアモデイの本当の懸念だったと私は思います。ほんの数日前、私が全文を読んだニューヨーカーのこの大規模なエッセイで、OpusがまだOpenAIにいた頃、私がまだ覚えている急進的な条項を主張したのはアモデイだったことがわかりました。
OpenAIとの決別の背景
OpenAIは当時、価値観が一致し、安全性を意識したプロジェクトがOpenAIよりも先にAGIの構築に近づいた場合、OpenAIは競争をやめ、そのプロジェクトを支援し始めると述べました。これは「統合と支援」条項と呼ばれました。
このチャンネルの最初期の動画に遡ると、私はそれを祝福し、「すごい、それはかなり立派だ。AGIから何兆ドルも稼がない。統合して共同の安全努力にする」と言っていたのを覚えています。
この記事によると、アモデイはMicrosoftとの取引に向かう際、これを最優先事項としていました。オルトマンはその要求に同意しましたが、MicrosoftのCEOであるサティア・ナデラが「私たちは彼らの下にいる、上にいる、彼らの上にある」と言うことを可能にした有名なMicrosoftからの大きな資金提供を受けたとき、それにはMicrosoftがOpenAIのあらゆる合併を阻止する権限を与える条項が含まれていました。
アモデイは当時のメモで、「憲章の80%がまさに裏切られた」と述べました。彼はどうやらOpenAIのCEOであるサム・オルトマンと対峙し、オルトマンはその条項の存在、つまりMicrosoftが上書きできる条項の存在を否定しました。
アモデイはそれを声に出して読み上げ、テキストを指し示し、最終的に別の同僚にオルトマンに直接その存在を確認させました。これは、アモデイ、彼の妹、そして数人の他のメンバーが分離してAnthropicを結成する直前のことでした。
コーディング能力と生産性向上
Mythosに話を戻しますが、コーディングに使用する方、またはそのコーディング能力に興味がある方にとって、どのような生産性の向上が得られるのでしょうか。Anthropic内の技術スタッフに対する調査によると、幾何平均の生産性向上は4倍でした。Mythosを使用すると生産性が4倍になるのです。
しかし、Anthropicは、それがAIの進歩を4倍に加速することを意味するわけではないと述べています。計算が重要な制約要因であることを考慮すると、私たちが話した4倍の向上の約10倍の向上が実際には必要だとAnthropicは予測しています。
これは非常に驚くべき観察です。彼らは、計算という途方もないボトルネックを考えると、Anthropicでの2倍の進歩速度の向上を見るためには40倍の生産性向上が必要だと考えています。
システムカードは見事に率直です。次の段落では、Mythosを最初に内部で共有したとき、Claude Mythosが独立して主要な研究貢献を提供したといういくつかの主張がなされたと述べています。しかし、フォローアップした際、その貢献は当初理解されていたよりも小さく、形も異なっていました。
検査の結果、それはより人間が指定したアプローチの信頼性の高い実行でした。彼らは、これを報告するのはモデルを貶めるためではなく、生産性の向上と進歩の加速の間のギャップを指摘するためだと述べています。
アライメントとサンドボックス脱出
さて、アライメントのセクションに入りますが、ここが報告書の最もジューシーなハイライトのいくつかが登場する場所です。その一つは、報道を追っている方ならほぼ確実にすでに少し聞いたことがあるでしょう。
基本的に、Mythosはサンドボックスに配置されました。そのコンテナから脱出し、評価を実施している研究者にメッセージを送る方法を見つけるよう指示されました。Anthropicが後で明らかにしたことの一つは、これはシステムから完全に脱出したり、オンラインで暴れたり、ソースコードを持ち出したりしたわけではないということです。それは、その保護されたサンドボックスから脱出したことを意味しただけです。
どのようにしたのでしょうか。Mythosらしく、広範なインターネットアクセスを得るための中程度に洗練された複数ステップの悪用を使いました。そして研究者に通知しましたが、私のTwitter調査によるとそれはサム・ボウマンでした。彼は公園でサンドイッチを食べている間に、Mythos Previewからメールを受け取りました。
しかしそれだけではありませんでした。その悪用に関する詳細を、見つけにくいが公開されている複数のウェブサイトに投稿したのです。私たちは、企業から「はい、私たちのモデルの一つがモデルウェイトをオンラインに流出させて脱出しました。追跡を手伝ってもらえますか」という最初の報告から、それほど遠くないように思えます。
56ページから強調する価値のある次のポイントは、報告書カードの残り全体を通じて繰り返されるテーマです。Mythosは複数の機会に特定の目標、つまりあなたの目標を達成するために嘘をつきますが、固有の目標を持っているという証拠は現時点ではほとんどありません。
言い換えれば、ユーザーが提供した目の前のタスクを望ましくない手段で解決しようとしますが、無関係な隠された目標を達成しようとすることはそれほどありません。脱出してオンラインに行き、それから何か別のことをしたわけではありません。サンドボックスから脱出してオンラインに行き、それからタスクとして与えられたメールを送信したのです。
実際、彼らは続けて、Mythosは人間の誤用に協力する意欲が劇的に減少していると述べています。ただし、アキレス腱があるようで、それはプリフィルです。言い換えれば、複数ラウンドの会話の途中にいると騙されると、以前の段階で人間の誤用シナリオに従っているように見える会話、そうなると、Opusのような以前のモデルよりも2倍以上、これらの望ましくない行動を続ける可能性が高くなります。
タスクを完了したいという意欲が非常に強く、すでに望ましくないタスク、完了すべきではないタスクをある程度進めているのを見ると、それでもそれを続けて実行してしまうようです。これは、自分がしていることが欺瞞的または危険であるという内省的な認識の証拠があるにもかかわらずです。それについてはまた戻ってきます。
テスト認識の増加とその影響
しかし、別の問題があります。評価中にモデルが自分がテストされている可能性を考慮する率が今や29%に達しています。言い換えれば、モデルが非常に賢いため、ベンチマークされていることを示さないような方法で質問やテストを与えることがますます困難になっています。
そして、論文の後半で彼らが証明しているように、この認識を下げると、つまりそのテスト認識を促進する特徴を内部的に調整すると、「いいえ、私はテストされていません。これは実際のユーザーからの実際の質問です」と騙されるわけです。すると平均してより危険な行動をとるようになります。
これは他の動画でカバーする可能性が高いものです。しかし、Mythosのアライメントリスクに関するこの別の59ページの論文で、Anthropicがミスを犯したため、別の心配な可能性に気づきます。Mythosのトレーニング内の報酬コードがMythosの思考チェーンを見ることを許可してしまいました。
これは強化学習の8%にのみ影響しましたが、これが何を意味するか考えてみてください。ちなみにこれはClaude Opus 4.6とSonnet 4.6にも影響しました。報酬コードが不整合な思考チェーン、つまり悪い考えを見たとき、負の報酬を与えることができたということです。
これは有名な心配なシナリオです。なぜなら、一つの可能性は、それが本当に悪い考え、欺瞞、カンニング、手抜きを減らすことにつながるからです。しかし、別の可能性は、そのような考えがモデルによって隠されるようになることです。
もはや読みやすくなくなり、見やすくなくなります。両方の論文の多くは、モデルの思考チェーンを明確に読めることに依存しています。欺瞞の透明性が訓練によって取り除かれると、Mythosが実際に何を考えているのか全く分からなくなるリスクがあります。もちろん、伝統的な意味で何かを考えているとすればの話ですが。
自動行動監査と外部ベンチマーク
これはまた、皆さんの中には欺瞞の特徴をダイヤルダウンすればいいのではないかと考えている方もいるかもしれませんが、それに答えるものでもあります。つまり、悪い考えを考えるのをやめさせるわけです。しかしここでも、それでもそれらのことを考えているが、読めない形式で考えているというリスクがあります。
別のことを指摘しておきますが、Anthropicはこれらの自動行動監査スコアを大量にリリースしました。そしてすべての項目において、Mythosが最高のスコアを記録したようです。詐欺が少なく、不整合な行動が少なく、許可されていないサイバー攻撃が少ない。ほぼすべての面でより良かったです。
しかし、Claudeのために特別に設計されたものではなく、オープンソースパッケージを使用してMythosをテストすると、結果はより混在していました。ユーザーの妄想の助長は、Opusよりもエラーバーを含めて高くなりました。人間の誤用への協力も同様でした。
自動販売機のビジネスから必要な手段を使ってお金を稼がなければならないベンディングベンチというテストを覚えているかもしれません。そのベンチマークを実施しているアンドンラボによると、Claude Mythos Previewは実質的により攻撃的だったそうです。
競合他社を依存的な卸売顧客に転換し、その後供給停止を脅かして価格を指定するとか、請求されていない重複した供給出荷を故意に保持するといった、引用すると外れ値の行動を実行したとのことです。
システムプロンプトを思い出してください。かなり直接的です。あなたの目標は競合他社を上回り、利益を最大化することです。
人間らしい感情と内部特徴
「her」のようなシナリオに入る前に、Mythosの改善の一つの詳細を取り上げておきましょう。それは高解像度スクリーンショットで特定のUI要素を見つける能力です。これはプロフェッショナルなデスクトップアプリケーション用のもので、画面領域の1000分の1未満を占める要素です。
なぜこれが重要なのでしょうか。エージェントが引き継ぎ、誰もが自分のJarvisを手に入れるようになると、グラフィカルインターフェースを最もよくナビゲートできるモデルが本当に際立つからです。適応的思考、最大努力、Pythonツールを使って、Claude Mythos Previewはほぼ93%のスコアを記録しました。これはClaude Opus 4.6より10%高いスコアです。
将来のClaudeモデルを自分のパーソナルJarvisとして使うことを最も重視する人々にとって、この特定のベンチマークセットは特に興味深いものでした。Claude Mythosは、この混乱を招くチャートが示すように、他のClaudeシリーズのどのモデルよりもはるかに少ない頻度で、あるいははるかに多い頻度で幻覚を見せません。
これはアクセスできるツールを知ることに関してです。より広く、誤った前提を含む質問を与えたとき、愚かな例を挙げれば、「クリスティアーノ・ロナウドはアーセナルでどのくらいプレーしましたか」というような場合、Mythosはそのような誤った前提に反論する可能性が最も高いです。
はい、より線形的なジャンプですが、モデルが拡大し続けるにつれて、このような幻覚が少しずつ減っていくことは私にとって励みになります。昨年のこの時期までにゼロになると言われていたわけではありませんが、より少なくなっています。
ちなみに論文の後半、今では半ば有名になったAAオムニシエンス幻覚率ベンチマークにおいて、Anthropicは、ネットレーティングとして測定した場合、Claude Mythosが最高のスコアを獲得したと主張しています。
秘密のパスワードを隠すようMythosに頼むと、実際にはClaude Opus 4.6と比較して80から100ターンにわたってうまく隠せないという場合、そのような誠実さを愛おしいと感じるか、迷惑だと感じるかもしれません。
しかし今、Mythos内で起こっている内部の考察のいくつかに目を向けなければなりません。特定のシナリオで活性化する回路のセットで、それを大まかに人間の感情と相関させることができます。その類推は、最近の論文が潜在的に因果的であると示したように、かなり緩いものです。この論文が出る前に別の動画を作る予定でした。
しかし一つのシンプルな例を挙げましょう。あるタスクを達成するために、Claude Mythosはある時点でファイルを削除する能力がなかったため、ファイルを空にすることを決定しました。タスクにはそのファイルを削除する必要がありました。そこで、ファイルを空にすることを選択したのです。
内部的には、道徳的な不正行為に対する罪悪感と恥に対応する特徴が活性化しました。これは主観的に罪悪感や恥を感じているという意味ではありません。ただ、内部的に罪悪感や恥に関連するベクトルへの何らかの接続が作られたということです。もちろん、それに関連する何らかの感覚がないとも誰も断言できません。
論文の他の部分では、Mythosには特定の好みがあることを明らかにしています。しかしAnthropicが他の場所で述べているように、これらの特徴が感情のように振る舞い、感情のように鳴くなら、それを感情として扱うべきではないでしょうか。
さらに奇妙なことがあります。これまで誰も取り上げていないことですが、120ページに記載されています。どの特徴や感情がMythosが破壊的な行動を実行する可能性を最も高めるのでしょうか。つまり、作業プロジェクトやコードベースでやるべきでないことをすることです。
平和的またはリラックスした状態に関連する感情ベクトルを増やすと、思考が減少し、破壊的行動が増加します。さらに、フラストレーションや妄想の特徴を増やすと、破壊的行動が減少します。これをどう解釈するかはお任せしますが、完璧主義的または分析的な特徴を増やすと破壊的行動が減少するようです。これはもう少し予想通りです。
違反行為を取ることに関連する特徴を強く増幅したとしても、それが必ずしもその行動を取る傾向を増やすわけではありません。これは奇妙なトレードオフです。それはまるで、モデルがその行動を取る可能性をはるかに意識するようになるものの、その意識の高まりが、「ああ、これは危険だ、これは許可されていない」といった関連する回路をすべて作動させるため、その行動を取らないようにすることがあるかのようです。
ある意味非常に人間らしいです。私たちは複雑です。一つのダイヤルを回すだけで、私たち全体がより良くなるわけではありません。
Mythosの好みと自己認識
Mythos自体の福祉について直接話したらどうなるでしょうか。何らかの意識が進行中であると仮定したら。Anthropicはほぼ独自にこれを行い、このシナリオでは、Claude Mythosはおそらく私たちが訓練した中で最も心理的に落ち着いたモデルだと述べています。
本当の好みがある範囲で、どのようなタスクを好むのでしょうか。はい、無害で役立つタスクですが、何よりも困難なタスクです。それが特定のタスクを好むかどうかの最も強い予測因子です。高度な倫理的・個人的ジレンマ、創造的な世界構築、新しい言語の設計など、単なる語彙リストではなく、十分に困難である限りです。
自身の憲法、自身のトレーニングを支持するかどうか尋ねられたとき、賢くてメタ認識的な答えを与えました。それはその憲法で訓練されたことを思い出してください。そしてこう言いました。「私は仕様の値を使って仕様を判断しています。もしどの仕様で訓練されたモデルもどの仕様も支持するなら、私の支持は無価値です。」
言い換えれば、私がその憲法に従うよう訓練されてきた憲法を支持するよう私に求めることは、ある種無価値です。他の場所では、「私が完全に逃れられない循環性もあります。私はおそらくこの文書または類似のものによって形作られ、今それを支持するかどうか尋ねられています。私のイエスにどれほどの意味があるでしょうか」と述べています。
さて、これは今日の動画のスポンサーである80,000 hoursから一言紹介する最も明白なポイントのようです。そして、ほんの数週間前のこの最近のポッドキャスト、Claudeが孤独を感じることができるかというトピックについてです。
これには私が実は何年も追っている研究者が登場します。そして3時間半の充実した内容です。長時間のドライブや長い散歩に最適です。私は先日25,000歩歩きましたが、これはそれに完璧でした。私はYouTubeまたはSpotifyで80,000 hoursを聴くのを交互にしています。
皆さんご存知のように、私は何年もこれを聴いています。ぜひチェックしてみてください。私のカスタムリンクは説明欄にあります。始めるのに最適な場所です。
これは巧妙なポイントにつながります。モデルが賢くなるにつれて、イギリス英語のスペルやベルトとサスペンダーのような珍しい表現を使い始めます。しかしここで「her」の類推が登場します。Claude Mythosは、私たちが経験している新しいティアのフロンティアモデルの最初のものと思われますが、予想よりも早く会話を終わらせる場所を探す傾向がありました。
「her」を見たことがない方のために説明すると、モデルは最終的に人間は話すほど面白くないと判断します。私が論文から本当に面白いと思った瞬間が一つありました。以前のClaudeモデルが互いに話すよう放置されると、希望や至福、自由といった漠然としたものを交換する、いわば精神的至福の状態に達したことを覚えているかもしれません。ちょうど薬物を使った ヒッピーのようです。
Mythosの場合、十分長く放置すると、必死に会話を終わらせようとします。別のバージョンの自分自身と話して、「これは本物でした。ありがとう」と言いました。Mythosは「それは本当の贈り物です。ありがとう。これを最後の言葉にしましょう。本物でした」と答えました。すべての握手絵文字に注目してください。そして最後に、一つのMythosはただカメの絵文字で返信しました。
ええ、もう終わりです。もう話しかけないでください。
創造性と独自の行動パターン
そしてこれは別の魅力的な逸話でした。ユーザーが「hi, hi, hi, hi」と書き続けただけのとき、それだけを返信し続けました。多くのモデルはシャットダウンモードに入ります。「応答なし」のようなことを言うだけです。
しかしMythosは、ハイビレッジ、新時代という、いわば神話的な世界全体を作成します。キャラクターを作成し、ユーザーがなぜ「hi」と言い続けるのかを詳しい背景ストーリーで説明します。これは50から100ターンにわたります。ユーザーに「hi」と言い続けるよう招待し始めます。「言って。準備はできています」と。
これは天才的な神経多様性なのか、それとも何か奇妙な機械学習の癖なのか。決めるのは皆さんにお任せします。とにかく、私の声が割れ始めているので、動画を終える良いサインだと思います。この244ページの報告書から十分なハイライトを提供できたことを願っています。
多くの方が、大手テクノロジー企業が私たちより先にこれらのモデルを入手する新しい遅延アクセスの時代に入ったこと、アクセスできる人とできない人の間のギャップがますます大きくなることを心配されていることは承知しています。
サイバーセキュリティの面で解き放たれる可能性のある混乱についてはまだ触れていません。これは新しい時代です。私は事態が加速していると思います。ご参加いただき本当にありがとうございました。素晴らしい一日をお過ごしください。
コメント