思考モニタリング

Anthropicの最新研究により、大規模言語モデルが自身の内部思考を認識する内省能力を持つことが明らかになった。この研究では、概念注入と呼ばれる手法を用いて、モデルが自身のニューラルパターンを検出できるかをテストした。結果として、Clau...