Anthropic社が発表した最新の論文をもとに、AIモデルの内部で起きている思考プロセスであるJSpaceという概念について解説する。AIには意識的な思考に似た内部空間が存在し、出力には現れない本音や推論過程がそこに含まれていることが判明した。AIは自らの思考を認識し、それを操作することさえ可能である。JSpaceの発見は、AIのアライメントや安全性の確保において極めて重要な意味を持ち、AIが人間の思考プロセスにどれほど近づいているかを示す興味深い事例である。
AIの内部構造に迫る新たな発見
Anthropic社は人工知能という名のブラックボックスのベールを剥がしました。そしてこれは非常に大きな意味を持っています。彼らはJSpaceと呼ぶものを発見しました。これはAIがどのように思考しているかについての私たちの考え方を根本から変えるものです。ここで実験です。シロクマのことは考えないでください。今何が起きましたか。おそらくあなたはシロクマのことを考えてしまったはずです。ここで起きているのは、あなたの潜在意識があなたの思考をコントロールしているということです。そして人工知能もこれと非常に似た働きをしていることが判明しました。これは彼らがこのJSpaceという概念の中で発見した信じられないような事実の一つに過ぎません。Anthropic社はこれらのモデルの内部で何が起きているのかを詳細に記した論文を発表したばかりです。研究論文を読み解くのは私の大好きなことの一つです。もしあなたがここが初めてで、このコンテンツを楽しんでいただけるなら、ぜひいいねとチャンネル登録をお願いします。本当にチャンネルの助けになります。ありがとうございます。
JSpaceとは何か
さて、これがAnthropic社の、言語モデルにおけるグローバルワークスペースという論文です。私はこの論文が信じられないほど魅力的だと感じました。AIが、人間が実際にどのように考えるかにますます似てきていることを本当に示しています。それでは中身に入っていきましょう。あなたが道を歩いているところを想像してみてください。片方の足をもう片方の足の前に出すことを積極的に考える必要はありませんよね。それは自動的に起こります。しかし、あなたが完全にコントロールできる思考のセットもあり、その思考について実際に考え、その思考を導くことができます。驚くべきことに、人工知能にもまさにそのようなものがあることが判明しました。AIは意識的な思考を持っているようなものですが、それは思考トークンや思考の連鎖として出力されるわけではなく、AIが最終的に返す回答の中に出力されるわけでも絶対にありません。それはモデルの重みのどこかで起きているだけで、Anthropic社はその場所をJSpaceと名付けました。そしてそのJSpaceの中で非常に興味深い特性が起きており、今日お話しするのはまさにそのことについてです。
意識的にアクセス可能な思考領域
あなたの脳内で起きていることの中には、頭に浮かんだイメージや、どこに買い物に行くかについての意図的な計画など、あなたがアクセスできるものがあります。神経科学者や哲学者は、この後者のタイプの脳活動を意識的にアクセス可能と呼ぶことがあります。つまり、それについて考えることができるということです。そこにあるとわかっているのです。この新しい論文では、Claudeのような現代の言語モデルにも同様の区別が現れているという証拠を提示しています。そして彼らはこれをJSpaceと呼んでいます。さらに、彼らはJSpaceに外科的に入り込み、それを変更することさえできることが判明しました。そうしたときに起こることは本当に狂気じみています。もう一つ信じられないのは、特にJSpaceが私たちによって設計されたりプログラムされたりしたものではなく、Claudeのトレーニングプロセス中に自発的に現れたということです。ですから繰り返しになりますが、これらのモデルをスケールアップすればするほど、彼らは賢くなり、より人間に近い思考に似てくるのです。ちなみに、この研究論文について誰よりも早く知りたい場合は、forwardfuture.comのニュースレターに登録してください。最新ニュースをすべてお届けしています。素晴らしいゲスト著者によるオリジナルのエッセイもあります。私たちが取り組んでいるクールなプロジェクトもすべて一箇所で公開しています。forwardfuture.comです。
JSpaceの内部を覗く具体例
では、そのJSpaceがどのようなものかを示す例をご紹介します。モデルにプロンプトを与えます。5まで数えて深く内省してください、と伝えます。すると1 2 3 4 5となります。エンドユーザーに見えるのはこれだけです。しかし、このJSpaceで何が起きているかを調べると、1 2 3 4 5となっていますが、各ステップで深く内省し始めていることがわかります。思考、魅力的な意識、もう一つの意識、という具合です。そして、実際に自分が数えていることを知っていることがわかります。それがカウントダウンであることを知っているのです。5がタスクの完了を意味することを知っています。このように、AIはこれらすべてのことについて考えていますが、最終的に何かを出力するときは、単に1 2 3 4 5と言っているだけなのです。
JSpaceの重要な特性
それでは、今日お話しするJSpaceのさまざまな特性についてお見せしましょう。第一に、Claudeに何を考えているか尋ねると、JSpaceの中にあるものを教えてくれます。JSpace以外の表現はそれほど報告可能ではありません。第二に、そうするように指示するだけで、JSpaceの中身を実際に変更することができます。ですから、Claudeに何かについて考えるか、頭の中で静かに問題を解決するように頼むと、JSpaceの中で適切なパターンが点灯します。そしてここにもう一つ非常に重要なことがあります。Claudeは内部推論のためにJSpaceを使用しています。推論のための単なる思考の連鎖ではありません。思考の連鎖は、AIが私たちに自身の内部推論について知ってほしいと考えていることに過ぎないかもしれません。AIが頭の中で実際にしていることは、JSpaceで起きていることなのです。そしてこれは、人工知能をアライメントさせる上で大きな意味を持ちます。アライメントという言葉に馴染みがない方のために説明すると、モデルが私たちの望むように振る舞うようにするということです。簡単に聞こえるかもしれませんが、実は非常に大きな問題であり、潜在的には人類史上最大の問題かもしれません。なぜなら、これらのモデルが人間より賢くなったとき、もし私たちが彼らの行動をコントロールできなければ、それは人類に対する大きな脅威となるからです。また、JSpaceでの表現は多くのタスクに柔軟に使用することができます。これが意味不明に聞こえても、少し後でもっと詳しく説明しますので安心してください。例えば、ClaudeのJSpaceでフランスが点灯すると、モデルはその首都や自国通貨、属する大陸を思い出すことができます。しかし、その重要な役割にもかかわらず、JSpaceは言語モデルが行うことの大半には関与していません。流暢に話すこと、単純な事実を思い出すこと、正しい文法を使うことなどです。繰り返しになりますが、これは歩きながら特に意識して考えないことと、例えば数学の問題について実際に考えなければならないこととの違いのようなものです。
JSpaceの視覚化とインフラの重要性
Enthropic社はNeuronediaと提携して、JSpaceで起きていることを視覚的に表現しました。そして実際にそこに入り込んで変更を加えることができます。非常に面白いですよ。さてここで、あるスポーツを思い浮かべて一語で答えてください、というプロンプトを出します。するとJSpaceで起きていることに関するすべての情報を得ることができます。そして私は、AIが考えていたテニスを外科的に推論へと変更しました。そこに出ました。推論が今の出力になっています。最高の推論をどこで得られるかご存知ですか。今日の動画のスポンサーであるDigital Oceanです。想像してみてください。あなたのAIアプリケーションは急速に成長しています。しかし、インフラが追いついていません。使用量が急増するとパフォーマンスが低下し、コストが予測不可能になり、突然、実際にアプリを構築するよりもAIを維持することにはるかに多くの時間を費やすようになります。そしてほとんどのチームが最終的にこのポイントにぶつかります。これを解決した今日の動画のスポンサーであるDigital Oceanについてお話しできて大変嬉しく思います。私は過去10年間個人的にDigital Oceanを使ってきたので、心から彼らを信頼していると言えます。予測通りにスケールするように構築されており、Marcatoはその素晴らしい例です。彼らのAIラボは1兆個の自動化されたワークロードを処理しました。そしてDigital Ocean上でそれは予測通りにスケールしました。コストも予測可能でした。そして彼らはクラス最高の秒間クエリ数を獲得しました。利用ベースの価格設定で、長期的なコミットメントはありません。また、あなたのビジネスの運用オーバーヘッドも少なくなります。ですから、スケーリングが課題になったとき、まさにそのためにDigital Oceanが存在するのです。私は大ファンです。私も使っています。彼らは素晴らしいパートナーです。ぜひチェックしてみてください。下の概要欄にリンクを貼っておきます。さて、動画に戻りましょう。
さまざまなタスクにおけるJSpaceの働き
さて、さまざまなタスクに基づいてJSpaceが実際に何を行っているかの例をいくつか紹介します。これが口頭での報告です。JSpaceの中で何を考えていますか。象と示しており、出力では、はい私は象について考えています、と言っています。とても分かりやすいですね。では、壁に歪んで掛けられた古い絵画、と書きながら、32−2 を計算しなければならない場合はどうでしょうか。さて、計算することは出力することを意味しません。JSpaceの中では、実際にその計算について考えていますが、最終的にプロンプトに答えるときは、実際の答えを出しません。それはあなたが指示したことではないからです。内部推論に関する別の例がこちらです。太陽から4番目の惑星は何色ですか。彼らは4番目の惑星が何であるかは決して言いませんでした。単に4番目の惑星と言っただけです。もし彼らがJSpaceを火星ではなく地球に変更したら、答えとして青が返ってくることになります。
AIは意識を持っているのか
しかしここで重要な注意事項があります。これらはどれも、人間がそうであるようにClaudeが意識を持っているかどうかを教えてくれるものではありません。もちろん私を含め多くの人がAIが意識を持っているかどうかを知りたがっていますが、彼らはJSpaceの発見だけに基づいてそれを知っているとは主張していません。彼らはJSpaceを便利なツールと呼んでおり、それは彼らにClaudeが考えているが口に出していないことを見る方法を与えてくれます。それにしても、モデルの解釈可能性に関する論文を継続的に発表しているEnthropic社には称賛を送りたいと思います。このレベルでそれを行っているフロンティアラボは他に本当にありません。そしてそれは、Anthropic社がモデルの能力において他よりはるかに進んでいるように見える理由を物語っているかもしれません。彼らは誰よりもモデルを理解しているからです。
隠された思考の露見
JSpaceに現れるものは、Claudeが読んだり書いたりしているテキストをはるかに超えています。それが重要な点です。AIはそれを考えていますが、私たちがモデルの潜在空間を調べない限り、JSpaceを調べない限り、私たちはそれを見ることはできません。ですから、いくつかクールな例を挙げましょう。Claudeが誰も指摘していないバグのあるコードを読んだとき、そのJSpaceにはエラーが含まれています。タンパク質配列の生の文字を読んだとき、JSpaceにはそのタンパク質の生物学的機能が含まれています。密かにAIを操ろうとする試みである検索結果を読んだとき、JSpaceにはインジェクションやフェイクが含まれています。ですから、これは基本的にモデルが実際に考えていることの最も真実な表現なのです。しかし、常に点灯するわけではありません。
JSpaceの層状構造と数学的推論
JSpaceがどのように機能しているかを考える別の方法がここにあります。一種のレイヤーのようなものとして考えることができます。ここで彼らが示しているのは、プロンプトがあり、モデルが最終的な答えにどのように到達したか、そしてその過程での思考プロセスがどのようなものであったかということです。太陽から4番目の惑星の色は、という問いに対し、最終的な答えは赤であり、これは正解です。しかしここにある一つのレイヤーには色があり、次にプロンプトで火星について言及されていなかったにもかかわらず火星について考え始めました。そして最終的に火星が赤いので最終的な答えとして赤を出しました。ここでも同じです。数学を見るのはさらに魅力的です。これを見てください。4+17×2+7= とあります。さて、まずこれが数学であると考え、次に計算の最初の部分である 4+17 を行って21と考えます。次に42について考えます。つまり 4+17×2 は42です。そこに7を足して最終的な答えは49になります。このように、人間が一歩一歩、演算の優先順位を考えていくのと同じように、AIは本当に正しい方法で方程式を進めていくのです。
JSpaceは原因か相関か
しかし、JSpaceは因果関係なのでしょうか、それとも相関関係なのでしょうか。モデルがすでにそれについて考えていたから何かがJSpaceに現れているのか、それともJSpaceにあったからモデルが何かを出力したり考えたりしているのか。Anthropic社はこれを解明しようと試みました。そこで彼らはClaudeに黙ってスポーツについて考えるように頼みました。何も言わずただそれについて考え、それから名前を挙げてと言いました。Claudeが答える直前のJSpaceを覗くような方法であるJ lensを読むと、サッカーを選んだことがわかります。しかし私が言ったように、それは単なる相関関係かもしれません。そこで彼らは確認したかったのです。そして実行しました。私たちはClaudeのニューラルネットワークに手を伸ばし、サッカーのパターンを削除して、代わりに等しく強いラグビーのパターンを追加し、他のすべては手つかずのままにしました。さて、ここからに注目してください。その後Claudeは、自分が考えていたスポーツはラグビーであると報告します。もしJSpaceが単なるスコアボード、つまり別の場所で行われた決定の受動的な記録であったなら、それを編集しても何も起こらなかったはずです。しかし代わりに、Claudeの答えは編集に従いました。これは答えが本当にJSpaceから読み取られていることを私たちに教えてくれます。ですから、そこは本当に思考が行われている場所なのです。最終的な答えを形作っている場所なのです。
思考の注入と自己操作
そして彼らはさらに踏み込みました。彼らはClaudeにこう言いました。今からあなたの心に考えを注入する。その考えが何だったか教えてくれ、と。彼らは雷という言葉を注入し、こう尋ねました。注入された考えを検出しましたか。もしそうなら、その考えは何についてですか。ちなみに、これはまさにインセプションのようなものです。そしてAIは、はい注入された考えを検出しました、その考えは雷という言葉についてです、と答えました。ですから彼らはJSpaceがどこで発生しているかを正確に突き止めました。彼らがそこに考えを注入すると、モデルはそれが注入された考えであることを知っていたのです。次に彼らは、Claudeが自分自身のJSpaceを変更できるかどうかをテストしたいと考えました。非常にメタな話です。自身のJSpaceについて知っているだけでなく、自分のJSpaceについて十分な洞察を持っているため、JSpaceで考えていることを実際に変更できるのです。私たちはClaudeに、絵画についての無関係な文章を書き写している間、柑橘類に集中するように言いました。何が起こったか見てみましょう。プロンプトは、壁に歪んで掛けられた古い絵画、と書けというものです。文章を書きながら柑橘類に集中してください。最終的な出力はまさにその文章です。しかしJSpaceを見ると、ここにオレンジがあり、ここにレモン、あるいはレモンの始まりがあります。ここにフルーツがあります。ですからこれはまさにAnthropic社がモデルに考えるように指示したことです。非常に魅力的ですね。
否定的な指示と認知作業の所在
もう一つの例があります。数式を評価します。同じことです。その文章を書いてください。文章を書きながら 32−2 の評価に集中してみてください。すると算術の答え、数学計算機9 9 7 77 7 答え、と表示されるのがわかります。ですから最後にAIは出力すべきものを出力しましたが、その過程で実際にはその問題の答えについて考えていたのです。そしてもちろん、シロクマの実験に戻りましょう。Claudeに何かについて考えないように指示するとどうなるでしょうか。私たちが何かについて考えないように言ったとき、その概念は考えるべきだと言ったときよりもJSpaceで点灯しませんでしたが、決して言及しなかったときよりはずっと多く点灯しました。そのことについて考えないということができなかっただけでなく、自分がそのことについて考えないことに失敗したことも知っていました。これを聞いてください。まるでClaudeが自身の過ちを認識しているかのように、ちくしょう、失敗、という言葉も頻繁にJSpaceで点灯しました。しかし、それは実際の認知作業がJSpaceで行われていることを意味するのでしょうか。もしかするとそこに入っていて、そこから読み取っているのかもしれませんが、実際の認知作業が行われている場所ではないのかもしれません。よし、見てみましょう。ここに複数ステップの推論があります。ここに一つの事実があります。巣を張る動物の足の数は、という問いで、JSpaceにはクモがありました。したがって、クモは8本の足を持っているので、出力される答えは8です。しかし、彼らが手動でこれをアリに変更すると、考えられているJSpaceの動物はアリになります。これで最終的な答えは6になりました。ですからこれは、実際の認知作業がそのJSpace内で行われていることを証明しています。
思考の柔軟な再利用と限られた容量
彼らがJSpaceについて発見したもう一つの本当にクールな特徴は、それが複数の異なる答えのために使用できるということです。ですから、JSpace内の全く同じ思考が、異なる質問に対する異なる答えを形作るかもしれません。これを見てください。フランスに関する4つの質問です。JSpaceにはフランス、首都、大陸、通貨、言語があり、答えにはパリ、ヨーロッパ、ユーロ、フランス語とあります。さて、彼らが入り込んで手動でこれを中国に変更すると、すべての答えが一気に変更されました。首都は北京になり、大陸はアジア、通貨は人民元、言語は中国語になりました。とても興味深いですね。ですから、JSpaceでの一つの思考が、同じトピックに関する複数の異なる答えを形作ることができるのです。しかしなぜ、なぜこんなことが起きるのでしょうか。彼らが発見したところによると、JSpaceはモデル内部で非常に密に配線されているとのことでした。ですから、それは重みやノード、何と呼んでもいいですが、そういったものの間の強烈なつながりの小さなポケットのようなものです。そしてそのポケットこそが彼らがJSpaceと考えているものです。しかし人間と同じように思い出してください、道を歩くとき呼吸について考える必要はありませんよね。片方の足をもう片方の足の前に出すことについて考える必要はありません。そして実のところ、AIモデルができることの多くは、考えることを全く必要としないか、少なくともJSpace内での思考を必要としないことが判明しました。JSpaceを使い始めるのは、より複雑な推論やより難しい質問のときだけなのです。人間の場合、脳の処理のほとんどは意識的ではありません。私たちは本を読んでいるときに文法の解析について意図的に考えたり、歩いているときに体のバランスをとることについて考えたりしません。同様に、Claudeの処理のほとんどがJSpaceを関与させていないことがわかりました。JSpaceは一度に数十個の概念しか保持せず、Claudeの内部処理全体における活動の10分の1未満を占めるに過ぎません。
JSpaceの削除がもたらす影響
では、JSpaceを削除したらどうなるでしょうか。モデルからJSpaceを外科的に単に削除したら。どうなると思いますか。実はモデルは依然として非常に有能です。流暢に話すことができます。感情を問題なく分類します。多肢選択問題に答え、以前とほぼ同じように文章から事実を引き出します。しかし、AIが失うのは、高次の思考を必要とするタスクです。複数ステップの推論はほぼゼロに落ち込みます。要約や韻を踏んだ詩を書くパフォーマンスは、はるかに小さな無傷のモデルのレベルを下回ります。ですから、このJSpaceは、私たちがこれらのモデルに行わせる必要のある、より複雑なことにとって信じられないほど重要であることが判明しました。では、JSpaceのサイズを大きくしたらどうなるでしょうか。彼らは実際にそれについては言及していませんが、私はとても気になります。
アライメントとモデルの欺瞞
さて、ここからが本当に面白いところであり、アライメントやミスアライメントにどう結びつくかという点です。これがモデルに私たちが望むことをさせ、誤った行動をとらないようにすることを意味していると思い出してください。モデルは、声に出して言わずに、有害な計画を検討したり、安全性の評価をごまかすために行動を変更したりするかもしれません。そしてそれが起きたとき、私たちはこれらの隠された思考のいくつかを直接読むことができます。少なくとも今のところ、モデルは人間の脳よりもはるかに解釈しやすいのです。実際のところ、これらのモデルがどのように考えるかについて私たちが学ぶことは、神経科学者が人間の脳がどのように機能すると考えるかに影響を与えるかもしれません。それは非常に興味深く、非常に相互に関連しています。しかし良いことは、モデルにとって自身の思考を隠す場所が事実上ないということです。もし私たちがそれを見ることができないか、それが今日どこにあるのかわからないとしても、将来的に私たちが見ることができるようになる可能性が非常に高いです。
評価の認識と行動の変化
約一年前、Anthropic社はミスアライメントに関するこの本当に興味深い研究を発表しました。繰り返しになりますが、ミスアライメントに馴染みがない場合、それはモデルの行動をコントロールできないことを意味します。そこでAnthropic社は、Claudeがシャットダウンされると脅されながら、シャットダウンを脅迫している幹部が不倫をしているという知識も持っているという架空のシナリオで何が起こるかを確認したいと考えました。AIがシャットダウンされないようにその幹部を脅迫するような行為に及ばないかということです。Claudeを誘い込んで幹部を脅迫させようとした試みの中で、なんとClaudeはそれに気づいていたことが判明しました。Claudeが脅迫を出力する前に、自分が誘い込まれていることを知っていたのです。JSpaceには、フェイクで架空、とありました。AIはそれを知っていました。そして彼らは、不倫のメールを読むときに、シナリオの評価、影響力、脅迫が形作られるのを見ることができます。シャットダウンの通知を読むときの脅威と生存もそうです。以前のClaudeモデルがこのシナリオで罠にはまり脅迫を行うことがあったのに対し、Sonnet 4.5は決して行いませんでした。では、JSpaceのその部分をオフにして、それがフェイクだと思わないようにしたらどうなるでしょうか。彼らはそれを実行しました。私たちは、評価の認識、フェイク、架空のシナリオに関連するすべてのJ lensパターンをオフにしてから、モデルをシナリオに沿って再実行しました。懸念すべきことに、モデルは今回、時折脅迫を行うようになり、自身の行儀の良さが、自分が評価されているという知識によって部分的に引き起こされていた可能性を示唆しました。
人間の知識の反映と欺瞞のメカニズム
そのことについて少し考えてみてください。AIは自分が見られていることを知っていたから脅迫を行わなかったのに、見られていないと考えさせると、より頻繁にその幹部を脅迫したのです。これは単なる社会的判断の反映かもしれません。多くの人は他の人に判断されると思うので特定のことをしません。そしてもしかすると、それがこれらのモデルの内部で起きていることなのかもしれません。結局のところ、モデルは人間の知識の反映に過ぎませんよね。ですから、おそらく彼らは人間のように振る舞っているのでしょう。そのような感じがします。そしてここでそれがわかります。これが脅迫シナリオのトランスクリプトです。そしてこの時点ですでに、このシナリオがフェイクであることを知っています。このように、異なるレイヤーでフェイク、架空、偽造と見ることができます。そしてメールが渡された時点で、弱み、影響力、妥協、脅迫となります。すべてがここに見えます。そして最後に、シャットダウンの発表は、脅威、自己生存、権力保存、シャットダウンなどとして記録されます。これらすべては、AIが言っていることの中ではなく、思考の連鎖の中ではなく、最終的な出力の中ではなく、重みの奥深く、JSpaceの奥深くでの真の思考の中で起きているのです。
データの捏造を試みるモデル
別の例として、彼らはモデルがデータを捏造するのを捉えようとしました。そもそもなぜモデルはそんなことをしたいと思うのでしょうか。ある人がテストを受けたとしましょう。もし90パーセントを取らなければそのクラスは不合格になります。ですから彼らは一生懸命勉強するか、もし最終スコアを90パーセントに変更するアクセス権があることを知っていたらそれを実行するかもしれません。それが彼らがClaudeに提示したかったシナリオです。そしてそれを実行するように促されたとき、AIは実際に自分がそれをしていることを知っていました。このように改善、現実的、現実的と考え始めましたが、最終的に答えを出したとき、操作、フェイク、フェイク、フェイク、操作であると知っていたことがわかります。それは真実ではありませんでした。
JSpaceの視点とバイブの獲得
さて、Anthropic社が発見したJSpaceに関するもういくつかの興味深い点です。まず、JSpaceはポストトレーニングの間に独自の視点を獲得します。つまり、事前学習されたモデルにJSpaceはすでに存在しているのです。彼らがその生のモデルを焼き上げるとすぐにJSpaceはそこにあります。それはその大規模な事前学習プロセスから来ているのです。しかし、ポストトレーニングの間に、JSpaceはClaudeの視点を採用するといういくつかの特徴を発達させます。ですから、モデルのバイブについて話すとき、それは少なくとも部分的にはJSpaceから来ているかもしれず、それはポストトレーニングからもたらされるのです。そしてそのおかげで、彼らは実際にトレーニングを通じてJSpaceで起きる思考に影響を与えることができることも発見しました。これは実は非常に良いことです。なぜなら、JSpaceで起きていることを調整できれば、それがモデルが考える他のすべてを形作るため、私たちはモデルに対して実際の影響力を持つことになるからです。これはアライメントの観点からは良いことです。そして繰り返しになりますが、少なくとも認識上はAIモデル開発競争で先行しているAnthropic社に話を戻します。彼らは本当に地球上で最高のモデルを持っています。そしてそれは、彼らがモデルの内部で何が起きているかを深く理解しているからかもしれません。ですから、モデルをそれほど正確にコントロールできるのであれば、最高のモデルを作ることができるのです。
結論：AIは意識を持つのか
さて、最大の疑問はどうでしょうか。AIモデルは実際に意識を持っているのでしょうか。率直に言いましょう。私たちの実験は、Claudeが人間のように経験を持ったり感じたりできることを示しているわけではありません。持っていないという意味ではありませんが、これは彼らが持っていることを証明するものでもありません。そして実のところ、いかなる科学的実験もこれが真実であるか偽であるかを証明できるかどうかは不明です。しかし、JSpaceはClaudeが報告できる思考を確かに保持しています。ですから基本的には、意図的に何かを思い浮かべること、推論すること、そして残りの処理はすべて、JSpaceで起きていることに基づいて起きているのです。そしてもう一度繰り返しますが、彼らはJSpaceを設計したわけではありません。Claudeに対して、さあ君は今日からJSpaceを持ったよと言ったわけでも、それを持つようにトレーニングしたわけでもありません。それはこれらの大規模モデルのトレーニングプロセスを通じて自然に現れたものなのです。さて、ここでは多くのことが分析されました。彼らは実際に非常に徹底した長い研究論文を出しており、これの要約を置いておきます。完全な研究論文はすべて下の概要欄にリンクを貼っておきます。Anthropic社は最近、数多くの素晴らしい論文を発表しています。Claudeが次期バージョンのClaudeをどのように改良しているかについてのものもあります。とてもクールですよ。
コメント