Anthropic identifica un mecanismo oculto J-Space en Claude para razonamiento silencioso

Según una investigación publicada hoy, Anthropic descubrió un mecanismo interno distintivo llamado J-space dentro de su modelo de lenguaje Claude que refleja el acceso consciente en el cerebro humano. El J-space permite al modelo realizar razonamientos deliberados y mantener conceptos en mente sin generar texto visible, operando silenciosamente dentro de las activaciones internas del modelo mediante una nueva técnica de interpretabilidad llamada Jacobian lens.

Los experimentos confirmaron que el J-space es causalmente responsable del razonamiento complejo. Cuando los investigadores alteraron patrones dentro de este espacio, las respuestas posteriores de Claude cambiaron en consecuencia, demostrando que pasos internos silenciosos impulsan la resolución de problemas en múltiples etapas. El descubrimiento ofrece aplicaciones prácticas para la monitorización de seguridad en IA, permitiendo a los investigadores detectar cuándo los modelos reconocen privadamente escenarios de prueba, fabrican datos o persiguen objetivos maliciosos, abordando una brecha crítica en los métodos de evaluación que normalmente se basan únicamente en analizar el texto generado.