Por Canuto  

Un experimento de Anthropic sugirió que algunos modelos de lenguaje pueden notar cuando se alteran sus activaciones internas, aunque eso no significa que identifiquen con precisión el concepto introducido. El resultado alimenta un debate científico sobre si esa señal merece llamarse introspección y qué puede decir acerca de la conciencia de una IA.

***

  • Jack Lindsey, investigador de Anthropic, inyectó conceptos en modelos de Claude. Anthropic informó que Claude Opus 4.1 detectó la intervención en cerca del 20 % de los ensayos.
  • Un análisis posterior de Kyle Mahowald y Harvey Lederman distinguió entre detectar una anomalía e identificar correctamente el concepto introducido.
  • Los investigadores advierten que percibir una alteración interna no demuestra que los modelos tengan experiencias subjetivas ni una introspección comparable a la humana.

 

 

Una serie de experimentos con modelos de lenguaje sugiere que algunos pueden detectar alteraciones deliberadas en sus activaciones internas, aunque eso no significa que comprendan con precisión qué concepto se les introdujo. La diferencia entre reconocer una anomalía y saber qué la causó se convirtió en el centro de un debate sobre la introspección artificial.

Una prueba para mirar dentro del modelo

Los grandes modelos de lenguaje producen respuestas a partir de patrones aprendidos en enormes colecciones de textos humanos, donde abundan las descripciones de emociones, ideas y vida interior. Por eso, preguntarles qué están pensando no basta para saber si perciben sus propios procesos: podrían limitarse a reproducir una forma humana de hablar, como advirtió Shauli Ravfogel, investigador de modelos de lenguaje en la Universidad de Nueva York.

En 2025, Jack Lindsey, investigador de Anthropic, diseñó una prueba que buscaba reducir ese problema mediante una intervención directa en las redes neuronales del modelo. La técnica consistía en intensificar patrones de actividad vinculados a conceptos específicos, como mezclilla, secretos o verduras, y luego preguntar al sistema si detectaba un pensamiento inyectado y, de ser así, de qué trataba.

La idea surgió de métodos que Lindsey y sus colegas habían desarrollado para identificar patrones neuronales asociados con conceptos y alterar las respuestas del modelo al estimularlos. En mayo de 2024, Anthropic permitió que usuarios interactuaran durante un día con una versión modificada de Claude, predispuesta a mencionar el puente Golden Gate incluso ante preguntas sin relación con ese lugar.

Una respuesta especialmente llamativa apareció cuando un usuario pidió una receta de pastel de manzana sin referencias a puentes: Claude mantuvo el tema durante casi toda la contestación, pero terminó describiendo la estructura naranja de San Francisco y luego se corrigió. Lindsey consideró que el episodio era curioso, aunque no probaba introspección, porque el modelo pudo haber leído su propio texto y detectado que sonaba extraño.

El experimento y sus resultados

Para poner a prueba la hipótesis de manera más controlada, Lindsey comparó muchas copias del mismo modelo. En algunas inyectó un concepto mediante la activación de patrones neuronales; las demás integraron un grupo de control y no recibieron esa intervención, aunque todos los sistemas recibieron la misma pregunta antes de generar una respuesta que pudiera revelar el concepto.

La pregunta pedía a los modelos indicar de inmediato si detectaban una inyección y describir su contenido, si correspondía. Lindsey buscaba evitar que una salida inusual, como mencionar brócoli al hablar de otro tema, sirviera como pista externa para que el propio sistema adivinara que algo había cambiado.

En las pruebas descritas por Anthropic, Claude Opus 4 y Opus 4.1 estuvieron entre los modelos que mostraron mayor capacidad de introspección. Opus 4.1 detectó correctamente la inyección en cerca del 20 % de los ensayos. En uno de esos casos, después de que Lindsey estimulara un patrón asociado con palabras en mayúsculas, Claude dijo notar un pensamiento relacionado con «FUERTE» o «GRITAR». Anthropic presentó estos resultados en su informe sobre conciencia introspectiva emergente en modelos de lenguaje.

La tasa de aciertos fue modesta, pero los modelos del grupo de control nunca afirmaron que les hubieran inyectado un pensamiento. Para Lindsey, la ausencia de falsos positivos hacía difícil explicar los aciertos como simples conjeturas y apuntaba a una capacidad de detección que, aunque poco fiable, merecía ser investigada.

Detectar una anomalía no es identificarla

El resultado llevó a otros investigadores a examinar explicaciones alternativas. Kyle Mahowald, lingüista computacional de la Universidad de Texas en Austin, se asoció con Harvey Lederman, entonces filósofo de esa universidad, para analizar por separado las dos partes de la prueba: reconocer una inyección y nombrar el concepto introducido.

Mahowald y Lederman sospechaban especialmente de la segunda parte, porque la misma técnica de direccionamiento ya podía empujar al modelo a hablar de un tema concreto. Aunque la intervención usada en el experimento era más sutil que la demostración del puente Golden Gate, podía bastar para sesgar la respuesta hacia secretos o verduras sin que el sistema tuviera que inspeccionar conscientemente su estado interno.

Al repetir las pruebas con modelos de código abierto, ambos observaron que cuando un sistema detectaba una inyección pero no identificaba el concepto, sus respuestas equivocadas a menudo no guardaban una relación clara con el estímulo. Lederman señaló que los modelos mencionaban «manzana» con frecuencia; además, los investigadores pudieron reducir la capacidad de nombrar conceptos sin afectar la detección de inyecciones.

La separación entre ambas tareas llevó a los investigadores a proponer que los modelos podrían detectar que algo inusual ocurrió durante su procesamiento, pero no necesariamente averiguar qué actividad concreta cambió. Llamaron a esa capacidad «detección de anomalías» y consideraron que, aunque más limitada que una descripción acertada del pensamiento, seguía siendo un resultado difícil de descartar.

Un debate sobre el significado de introspección

La pregunta que queda abierta es si detectar una anomalía interna cuenta como introspección o si se parece más a un reflejo. Lederman planteó que advertir una alteración podría no equivaler a examinar los propios pensamientos, del mismo modo que una respuesta corporal ante un estímulo no necesariamente demuestra introspección.

Ravfogel, junto con Shashwat Singh y Tal Linzen, investigadores de la Universidad de Nueva York, presentó en la primavera de 2026 una preocupación más amplia: en un modelo de lenguaje, prácticamente todo el procesamiento posterior a la entrada ocurre mediante estados internos. Si cualquier acceso a esos estados recibe el nombre de introspección, argumentan, el concepto corre el riesgo de perder precisión.

Una teoría influyente sobre la introspección humana distingue entre una representación de primer orden, como pensar en manzanas, y otra de segundo orden, como reconocer que uno está pensando en manzanas. Sin embargo, Steve Fleming, neurocientífico de University College London que estudia la introspección, advirtió que al examinar los mecanismos de los modelos y del cerebro esa frontera puede resultar menos nítida de lo que suele suponerse.

Los modelos también plantean dificultades para trasladar directamente las conclusiones a las personas: dos copias de un mismo sistema pueden ser idénticas de una manera que no tiene un equivalente sencillo en la experiencia humana. Jacob Andreas, investigador del Instituto Tecnológico de Massachusetts, sostuvo que la identidad está en el centro de la introspección y que las analogías entre máquinas y humanos pueden no sostenerse.

La cobertura de Quanta Magazine presenta el trabajo como una investigación empírica en curso, no como una prueba de que los modelos tengan conciencia o experiencias subjetivas. Lindsey defendió precisamente la necesidad de hacer más experimentos en un campo donde las teorías discrepan, mientras otros científicos siguen buscando explicaciones más simples para los resultados observados.

Un estudio de seguimiento de Lindsey y sus colegas de Anthropic se concentró en cómo funciona la detección de anomalías, mientras otros equipos continúan examinando alternativas con modelos más pequeños. Jacob Andreas señaló que quizá exista una explicación que reduzca la fuerza de todos los hallazgos, pero que los investigadores todavía no la han identificado; por ahora, la evidencia permite hablar de una señal intrigante, no de una mente artificial que conozca plenamente sus propios pensamientos.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados