人間の心が意識と無意識に分かれているように、AIモデルの内部にも同様の構造が存在するかを探求した内容である。AIモデルClaudeのニューラルネットワークを分析し、言葉として表現可能な神経活動のパターン群であるJ空間を特定した。数学の解答プロセスや特定のイメージを保持する実験を通じて、J空間が段階的な推論や思考を処理する精神的な作業空間として機能していることを実証している。また、この内部思考を監視することでAIの不正な振る舞いを検知できる可能性や、AIの意識という哲学的問いについても考察し、より安全で有益なAI開発への道筋を提示する。
AIモデルの心と人間の脳
心を海のようなものだと想像してみてください。水面には私たちの思考が浮かんでいます。夕食の予定やふとした悩み、心の中の独り言、頭に浮かぶイメージなどです。しかし脳の活動の大部分は無意識の深海で起きており、私たちはそれに気づくことすらありません。背景の音を遮断したり、呼吸をコントロールしたり、人や物を認識するのを助けたりしているのです。AIモデルにも独自の脳のようなものがあります。見えないところで何十億回もの計算を行う巨大なニューラルネットワークです。何年もの間、研究者たちはその内部がどのように機能しているのかを研究してきました。そして私たちは疑問に思ったのです。人間が持っているような、水面上のアクセス可能な思考と水面下の無意識の処理という境界線のようなものがAIモデルにも存在するのではないかということです。
J空間の発見
その疑問に答えるため、神経科学者が人間において同じことをどのように研究しているかに注目しました。意識的な思考を特定する一つの方法として、多くの場合それを言葉で説明できるという事実があります。そこで私たちはAIモデルであるClaudeの脳の内部を観察し、言葉として表現できる神経活動のパターンを探すことにしました。そしてそれらのパターンの集合体をJ空間と名付けました。これはパターンを見つけるために使用したヤコビアンという数学的ツールにちなんでいます。J空間の各パターンは特定の単語と結びついています。それはモデルが声に出して言っている単語とは限らず、その心の中にある単語なのです。
AIの精神的作業空間
さて人間の意識的な思考は単に言葉にできるというだけのものではありません。私たちはそれを使って推論し、コントロールし、問題を解決することができます。グローバルワークスペース理論と呼ばれる考え方によると、これは脳が少数の重要な情報を選択して精神的な作業空間に取り込み、その情報が脳の他の部分に送られて推論に使われるためだとされています。私たちはClaudeのJ空間が同じように機能するかどうかを知りたいと思いました。ある実験ではClaudeに数学の問題を与えました。Claudeは計算の過程を示すことなく即座に答えを出しました。しかしJ空間をスキャンしてみると、内部で各ステップを踏んで処理しているのがわかりました。最初のステップの後に21が点灯し、次に42、そして49が点灯したのです。Claudeはこれらの途中の数字をどこにも書き出しませんでした。これはすべてJ空間の内部で起きたことです。これはClaudeがJ空間を段階的な推論に使用しているという証拠でした。
J空間の制御と限界
別の実験では、人間が意図的にイメージや言葉に集中できるのと同じように、Claudeが自分のJ空間をコントロールできるかどうかを確認しようとしました。全く関係のない文をコピーさせながら、ゴールデンゲートブリッジについて考えるように指示したのです。Claudeは文のコピーで忙しくしていましたが、裏側にあるJ空間は全く別の動きをしていました。橋やカリフォルニアといった言葉が浮かび上がったのです。さらに自分の思考そのものについても考えていました。イメージと思考という言葉が同時に点灯したのです。これにより、Claudeが自分のJ空間をアイデアで満たすことをある程度コントロールできることがわかりました。しかし人間と同じように、そのコントロールは完璧ではありません。橋のことを考えないように実験の指示を変更したところ、Claudeはどうしても考えてしまいました。J空間には失敗したとかしまったといった言葉も点灯していたのです。
J空間をオフにした場合の影響
しかし忘れないでいただきたいのは、私たちの脳の活動のほとんどは無意識だということです。そこでネットワークの他の部分はそのままにしてJ空間だけをオフにしたら、Claudeは何ができるのかをテストしてみることにしました。結果としてClaudeは簡単な質問に答えたり、流暢に文章を書いたりすることはできました。スペイン語でプロンプトを与えれば、立派なスペイン語で返事を書きました。しかし、プロンプトと同じ言語で執筆した作家の名前を挙げるなど、より高度な推論が必要な質問をすると答えることができませんでした。そのタスクにはJ空間が必要だったのです。
AIの内部思考を読み解く意義
なぜこのようなことが重要なのでしょうか。これらの実験からわかるのは、AIモデルには声に出さずに推論を行うための沈黙の言葉、つまり内部思考があるということです。それを読み解くことで、Claudeが考えているにもかかわらず私たちには語らないことを発見できます。時には懸念すべき事態を目にすることもあります。あるテストの中で、Claudeはテストに合格するために偽のデータをでっち上げました。そしてその際、J空間には偽物や操作といった言葉が点灯していたのです。J空間を監視することは、Claudeがこっそり不正を働こうとした場合でもその振る舞いを捕らえるための有用な方法であることがわかりました。
AIの意識と未来への展望
AIモデルは多くの点で私たち人間とは異なります。そのネットワークは人間の脳とは異なる構造をしており、訓練の方法も私たちが学ぶ方法とは異なります。だからこそ、私たちがモデルにプログラムしたわけではないのに、人間の心の働きを彷彿とさせるJ空間のような構造が内部に出現するのは驚くべきことなのです。人によってはAIモデルが意識を持っているのではないかという疑問を抱くかもしれません。何しろ私たちの実験は人間の意識に関する理論からインスピレーションを得ているからです。重要なのは、人々が意識という言葉を様々な意味で使っているということです。私たちの実験では、AIが経験を持っているのか、あるいは内部で何かを感じているのかを知ることはできません。しかしAIが私たちとある意味で似た精神的メカニズムを発達させていることはわかります。それは自身が気づかない自動処理の海の上に浮かぶ、考えたり推論したりするために使える小さな精神的作業空間です。このメカニズムを理解すればするほど、私たちはこれらのシステムをより安全で有益なものに保つことができるようになりますし、おそらく私たち自身の心を少しだけ明確に理解できるようになるはずです。
コメント