Anthropic identificó en Claude un espacio de trabajo interno donde el modelo puede mantener y manipular conceptos antes de convertirlos en palabras o incluirlos en una respuesta final. Lo llamativo es que este mecanismo, denominado J-Space, no fue diseñado deliberadamente por sus desarrolladores, sino que surgió durante el entrenamiento de la inteligencia artificial (IA).
Anthropic identificó en Claude un espacio de trabajo interno donde el modelo puede mantener y manipular conceptos antes de convertirlos en palabras o incluirlos en una respuesta final. Lo llamativo es que este mecanismo, denominado J-Space, no fue diseñado deliberadamente por sus desarrolladores, sino que surgió durante el entrenamiento de la inteligencia artificial (IA).
El hallazgo fue realizado mediante una técnica de análisis bautizada como J-lens, basada en el concepto matemático del jacobiano y diseñada para observar las activaciones internas de Claude. Los investigadores encontraron un pequeño conjunto de patrones neuronales con fuertes conexiones hacia otras partes de la red, lo que le permitiría “transmitir” información a diferentes procesos internos del modelo.
MIRA: Proton impulsa el asistente Lumo 2.0 para competir directamente contra ChatGPT y Claude
En los experimentos, Claude fue capaz de mantener un concepto en este espacio mientras realizaba otra tarea. Por ejemplo, los investigadores podían pedirle que pensara en un tema concreto sin mencionarlo en su respuesta, y luego detectar representaciones relacionadas dentro del J-Space. Al inhibir este mecanismo, el modelo seguía escribiendo y procesando información, pero mostraba mayores dificultades para realizar razonamientos internos complejos.
Anthropic compara esta estructura con la teoría del “espacio de trabajo global”, una hipótesis utilizada en neurociencia para explicar cómo determinada información se vuelve accesible a distintos sistemas del cerebro. La compañía sostiene que el J-Space cumple algunas funciones similares en Claude, como seleccionar información, realizar razonamientos internos y utilizar conceptos de manera flexible.
Sin embargo, el descubrimiento no significa que Claude sea consciente ni que experimente pensamientos o emociones como una persona. La investigación identifica semejanzas funcionales con mecanismos asociados al acceso consciente humano, pero no demuestra la existencia de una experiencia subjetiva dentro de la IA.
Más allá del debate sobre la consciencia artificial, el hallazgo podría tener implicaciones para la seguridad de estos sistemas. Anthropic considera que observar este espacio interno permitiría detectar razonamientos que una IA no expresa en su respuesta final, una capacidad relevante para identificar posibles comportamientos engañosos o desalineados a medida que los modelos se vuelven más autónomos.
Deja una respuesta