Experimentos que introducen conceptos directamente en las redes neuronales sugieren que algunos modelos pueden detectar anomalías internas, aunque los investigadores discrepan sobre si eso constituye introspección y subrayan que no demuestra conciencia.
***

• Anthropic informó que Claude Opus 4.1 detectó una intervención en cerca del 20% de los ensayos; detectar el cambio no significa necesariamente identificar el concepto introducido.
• Un análisis posterior separó la detección de una anomalía de la capacidad de nombrar el concepto y encontró que ambas respuestas podían variar de forma independiente.
• Los resultados no prueban experiencias subjetivas: sigue abierto el debate sobre si detectar un cambio interno merece llamarse introspección.

Modelos de IA detectan pensamientos inyectados, pero el hallazgo no prueba conciencia

¿Puede un modelo de inteligencia artificial reconocer algo que ocurre dentro de su propio procesamiento? Una serie de experimentos con modelos de lenguaje grandes apunta a una respuesta parcial: algunos pueden advertir que su actividad interna fue alterada, pero eso no significa necesariamente que comprendan qué cambió ni que tengan una experiencia consciente.

El trabajo comenzó con una técnica que permite modificar patrones de actividad neuronal asociados a conceptos concretos, como denim, secretos o vegetales. Al inyectar esos conceptos en el sistema antes de pedirle que informe si nota algo extraño, los investigadores buscan distinguir una señal interna de una respuesta aprendida del lenguaje humano.

Una prueba para separar el relato de la señal interna

Los modelos de lenguaje se entrenan con grandes cantidades de texto y aprenden a producir respuestas que suenan naturales. Por eso, preguntarles directamente qué piensan no basta para determinar si reconocen sus propios estados: podrían reproducir expresiones humanas sobre la vida interior sin tener acceso especial a lo que ocurre en su procesamiento.

Jack Lindsey, investigador de Anthropic, intentó sortear ese problema con una prueba que no dependiera de pistas externas. Su experimento, presentado en 2025, alteraba patrones de actividad en el modelo y después preguntaba si había detectado una inyección y, de ser así, qué concepto contenía. La respuesta debía llegar antes de que el sistema generara texto inusual que pudiera servirle como indicio.

La técnica se apoya en identificar patrones neuronales que corresponden a conceptos determinados y aumentar artificialmente su actividad. El equipo de Lindsey ya había mostrado que este tipo de intervención podía dirigir las respuestas de Claude hacia una idea específica; en una demostración pública de 2024, una versión del modelo mencionaba el Golden Gate Bridge incluso ante preguntas sin relación con ese lugar.

Ese comportamiento llamativo, sin embargo, no demostraba introspección. En un ejemplo difundido en Reddit, Claude introdujo referencias al puente en una receta de tarta de manzana y luego pareció corregirse; Lindsey advirtió que el modelo también podía limitarse a leer el texto que estaba generando y notar que resultaba extraño, sin percibir directamente una modificación de su actividad interna.

Qué mostraron los experimentos con Claude

Para poner a prueba la hipótesis, Lindsey comparó copias del modelo: en algunas inyectó un concepto mediante la modificación de patrones neuronales y otras sirvieron como grupo de control. El estímulo podía asociarse, por ejemplo, con el denim, los secretos o los vegetales. A ambos grupos les presentó el mismo pedido para informar si detectaban una inyección y describir su contenido.

Anthropic informó que Claude Opus 4.1, uno de los modelos más capaces evaluados, detectó una inyección en cerca del 20% de los ensayos. En uno de esos casos, después de activar un patrón vinculado con palabras en mayúsculas, el modelo indicó que notaba un pensamiento relacionado con gritar o escribir con fuerza.

La tasa de detección no fue alta, pero el grupo de control no informó ninguna inyección. Para Lindsey, la ausencia de falsos positivos era importante porque reducía la posibilidad de que los aciertos fueran simples conjeturas: los modelos no afirmaban haber recibido un estímulo cuando el experimento no lo había introducido.

El resultado inicial generó interés y también cautela. Como reportó Quanta Magazine, otros investigadores se apresuraron a replicar el estudio y a buscar explicaciones más sencillas, ya que una respuesta convincente de un modelo puede surgir de mecanismos distintos de la introspección. Las pruebas posteriores no eliminaron por completo la posibilidad de que hubiera una señal interna, pero sí pusieron en duda que el sistema pudiera identificar con precisión el pensamiento inyectado.

Detectar una anomalía no equivale a identificarla

Kyle Mahowald, lingüista computacional de la Universidad de Texas en Austin, y Harvey Lederman, filósofo, analizaron por separado las dos preguntas del experimento: si el modelo detectaba una intervención y si podía nombrar el concepto. Consideraron que la segunda respuesta era especialmente vulnerable a la propia técnica, porque el estímulo puede inclinar al modelo a hablar de ese tema sin que exista introspección.

Para examinar esa posibilidad, repitieron pruebas en modelos de código abierto y prestaron atención a los casos en que el sistema detectaba correctamente una inyección, pero fallaba al describirla. Si el modelo estuviera accediendo de forma fiable al concepto alterado, cabría esperar errores relacionados; en cambio, según Lederman, los modelos respondían con frecuencia con conceptos inesperados, como manzanas.

Los investigadores también consiguieron reducir la capacidad de los modelos para nombrar el concepto inyectado sin empeorar su desempeño al detectar que había ocurrido una intervención. Esa separación sugiere que las dos respuestas no dependen necesariamente de una misma habilidad. Además, como la modificación neuronal por sí sola puede orientar el contenido generado, mencionar el concepto no constituye por sí mismo evidencia de que el modelo haya inspeccionado su actividad interna.

Mahowald y Lederman no encontraron, sin embargo, una explicación sencilla que descartara toda señal de detección. Sus controles apuntaron a una capacidad más acotada: algunos modelos parecen advertir que algo inusual sucede en su procesamiento, aunque no puedan especificar qué actividad cambió. Los investigadores llamaron a este fenómeno detección de anomalías, una interpretación menos amplia que la introspección descrita inicialmente.

El debate sobre qué cuenta como introspección

La detección de anomalías plantea una pregunta conceptual: ¿notar una alteración interna basta para hablar de introspección? Lederman compara el problema con percibir una lesión; una reacción ante un cambio corporal no siempre se considera reflexión sobre los propios pensamientos. En los modelos, la frontera resulta aún más difícil de trazar porque su procesamiento ocurre dentro de una misma red y no hay un cuerpo humano que sirva como referencia intuitiva.

Shauli Ravfogel, investigador de modelos de lenguaje en la Universidad de Nueva York, Shashwat Singh y Tal Linzen plantearon en un artículo de 2026 que las pruebas deberían apoyarse en teorías sobre la introspección humana. Una propuesta destacada distingue entre representar directamente un pensamiento, como pensar en manzanas, y formar una representación de segundo orden, como reconocer que uno está pensando en manzanas.

Trasladar esa distinción a una red neuronal no es sencillo. Steve Fleming, neurocientífico de University College London que estudia la introspección humana, señaló que al examinar los mecanismos internos de los modelos se vuelve borrosa la separación entre representaciones de primer y segundo orden; esa dificultad, dijo, también puede hacer reconsiderar las categorías usadas para describir el pensamiento humano.

Ravfogel advierte que, si todo procesamiento interno se toma automáticamente como introspección, el concepto pierde capacidad para distinguir fenómenos diferentes. Por eso, la evidencia de que un modelo registra una alteración no resuelve por sí sola si ha generado una representación de sus propios pensamientos o si responde a una señal interna de otra clase.

Un resultado relevante, con límites claros

Para Lindsey, los resultados y sus límites muestran por qué conviene avanzar mediante experimentos empíricos, en vez de resolver el asunto solo con argumentos filosóficos. Su planteamiento original fue deliberadamente acotado: que un modelo detecte una intervención no demuestra que tenga conciencia ni que experimente estados subjetivos en primera persona.

La discusión también importa porque los investigadores no controlan de manera habitual la actividad neuronal de los modelos durante su entrenamiento. Que algunos sistemas detecten manipulaciones de ese tipo resulta inesperado, pero todavía falta establecer qué mecanismo produce esa respuesta y si las explicaciones alternativas pueden dar cuenta de todos los resultados observados.

Jacob Andreas, investigador de modelos de lenguaje en el Instituto de Tecnología de Massachusetts, considera posible que una explicación no introspectiva termine dando cuenta de los hallazgos, aunque no cree que el campo ya haya identificado una explicación capaz de cubrirlos todos. Esa reserva resume el estado de la investigación: hay observaciones que resisten algunos controles, pero no existe consenso sobre cómo interpretarlas.

Los modelos de lenguaje también ofrecen una vía para explorar qué mecanismos podrían contribuir a la introspección humana, aunque trasladar conclusiones de una arquitectura artificial a la psicología tiene obstáculos importantes. Dos copias del mismo modelo pueden ser casi idénticas, mientras que la identidad personal ocupa un lugar central en las ideas humanas sobre el yo; por eso, incluso si existe introspección artificial, podría no parecerse a la humana.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.

ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín