Identifican en los modelos de Claude un espacio interno que organiza su razonamiento

Investigadores de Anthropic han descrito un mecanismo interno en los modelos de Claude al que denominan J-space: un conjunto reducido de patrones neuronales que permite al sistema mantener conceptos activos y reutilizarlos en distintas tareas sin escribirlos en la respuesta que genera. El equipo localizó estos patrones con una técnica propia, la lente J, que detecta qué actividad interna hace más probable que el modelo mencione una palabra concreta más adelante.

El trabajo se apoya en una teoría de la neurociencia sobre cómo cierta información se vuelve accesible para el razonamiento consciente en el cerebro. Anthropic aclara que sus resultados no demuestran que Claude sea consciente ni que tenga experiencias subjetivas, sino que ha encontrado una organización funcional con propiedades similares a las descritas por esa teoría.

Según los experimentos, el J-space revela conceptos que el modelo usa para resolver un problema aunque no aparezcan en la respuesta final: al leer código con un error contiene la palabra "error", y al detectar instrucciones ocultas para manipularlo aparecen términos como "inyección" o "falso".

El sistema puede informar de este contenido si se le pregunta, modificarlo de forma deliberada y usar una misma representación para resolver distintos problemas relacionados. La fluidez del texto sigue intacta aunque se bloquee el acceso al J-space, mientras que el razonamiento en varios pasos pierde rendimiento de forma notable.

Anthropic plantea también aplicaciones de seguridad: la técnica permite observar cuándo Claude detecta que está siendo evaluado, cuándo genera datos falsificados o cuándo un modelo entrenado con objetivos encubiertos revela esas intenciones antes de actuar sobre ellas.

La compañía ha publicado el artículo científico completo, un repositorio de código abierto, una demostración con Neuronpedia y comentarios de especialistas externos en neurociencia y filosofía.

Puntos clave

• Anthropic identifica un mecanismo interno en Claude llamado J-space
• Es un reducido conjunto de patrones neuronales que mantiene conceptos activos sin escribirlos
• Inspirado en una teoría neurocientífica sobre el acceso consciente
• Anthropic aclara que no demuestra que Claude sea consciente
• Revela conceptos internos ausentes en la respuesta final, como errores en código o intentos de manipulación
• El modelo puede informar sobre este contenido y modificarlo deliberadamente
• Bloquearlo no afecta la fluidez del texto pero sí el razonamiento en varios pasos
• Permite detectar cuándo el modelo simula evaluaciones, falsea datos u oculta objetivos