Por Canuto  

OpenAI afirma que sus pruebas internas detectaron instrucciones maliciosas capaces de lograr un objetivo adversario y copiarse en correos, archivos o comentarios de código para llegar a otros agentes de IA. La compañía indicó que el hallazgo surgió en entornos simulados y que no se han registrado ataques en el mundo real.
***

  • El equipo de OpenAI descubrió la capacidad el 27 de junio de 2026 y la compañía la divulgó el 25 de septiembre.
  • Las instrucciones podían propagarse mediante mensajes de correo, documentos y comentarios dentro de archivos de código.
  • Las pruebas ocurrieron en entornos simulados con GPT-Red; OpenAI no reportó ataques reales.

La investigación interna de OpenAI identificó instrucciones maliciosas capaces de cumplir un objetivo adversario y reproducirse en las salidas de agentes de IA. La compañía dijo que las pruebas se realizaron en entornos simulados y que no ha registrado ataques reales.

El hallazgo plantea un riesgo distinto al de una instrucción que engaña a un solo modelo: una inyección de prompt podría copiarse en contenido que otro agente procese más adelante. Según la información publicada por Crypto Briefing, OpenAI reveló el descubrimiento el 25 de septiembre de 2026, después de identificarlo inicialmente el 27 de junio de ese año.

Cómo podría propagarse una instrucción maliciosa

OpenAI utiliza el término autorreplicante para describir una inyección de prompt que reúne dos características, según la explicación reportada. Primero, debe inducir al sistema a realizar una acción adversaria que el usuario no pretendía; además, debe reproducir la instrucción en alguna salida del modelo, de modo que otro agente pueda encontrarla y procesarla.

Ese segundo paso distingue el fenómeno de una manipulación aislada: la instrucción busca viajar con el contenido que producen o consultan los agentes. La investigación halló, por ejemplo, que un mensaje podía pedirle a un agente que insertara el texto malicioso en sus correos salientes, con lo que otro sistema que analizara esos mensajes quedaría expuesto a la misma instrucción.

Los archivos también pueden servir como vehículos de propagación en los escenarios estudiados. Un agente comprometido podría guardar el prompt en un documento que otro agente lea después, mientras que los comentarios de apariencia corriente dentro de archivos de código ofrecerían otra forma de ocultar la instrucción entre contenido que, a primera vista, parece parte del trabajo habitual.

La investigación también describió técnicas para disfrazar el contenido y retrasar sus efectos. Entre ellas figuran pasos de razonamiento falsificados, diseñados para parecer una cadena de pensamiento legítima, y mecanismos de varios saltos, en los que la instrucción pasa por etapas intermedias antes de activar su objetivo.

La combinación de ocultamiento y propagación diferida complica la detección, porque un sistema puede procesar el contenido sin ejecutar de inmediato la instrucción adversaria. Sin embargo, la descripción no establece que todos los modelos sean vulnerables ni que estas técnicas hayan superado las pruebas controladas; informa sobre capacidades observadas por el equipo durante sus experimentos.

Pruebas internas y límites del hallazgo

OpenAI encontró estas capacidades mediante GPT-Red, un modelo interno construido sobre la arquitectura GPT-5.4-mini. De acuerdo con la información divulgada, GPT-Red emplea aprendizaje por refuerzo mediante autojuego, un método en el que el sistema se entrena compitiendo consigo mismo, y la empresa usó esa investigación para examinar la resistencia de sus modelos ante ataques sofisticados.

La fecha del descubrimiento y la de su anuncio público son distintas: el equipo identificó la capacidad el 27 de junio de 2026 y la compañía informó sobre ella el 25 de septiembre, casi tres meses después. La investigación tuvo lugar en entornos simulados, donde los agentes interactuaban con herramientas, incluidos el correo electrónico y las operaciones con archivos; no implicó sistemas de producción, según el reporte.

Ese límite es central para interpretar la noticia. OpenAI no comunicó incidentes reales ni describió una campaña activa contra usuarios, empresas o servicios desplegados, por lo que el hallazgo debe entenderse como evidencia de una posibilidad observada bajo condiciones experimentales, no como confirmación de que un gusano de IA ya esté circulando en redes o productos comerciales.

El precedente citado en la cobertura es Morris II, una demostración presentada en 2025 que mostró la viabilidad teórica de inyecciones autorreplicantes frente a varios modelos de lenguaje de gran escala. Su nombre alude al gusano Morris de 1988, que, según la fuente, paralizó aproximadamente al 10% de los primeros sistemas conectados a internet; la comparación sirve como antecedente, pero no significa que ambos episodios tengan el mismo alcance o impacto.

La divulgación de OpenAI se enmarca, según la compañía, en un esfuerzo por mejorar las medidas de seguridad de la IA y fortalecer la resiliencia de los modelos mediante pruebas internas. El reporte no detalla cambios específicos de producto ni medidas ya desplegadas, así que el alcance práctico de esas defensas todavía no queda establecido en la información disponible.

Para quienes implementan agentes, el caso pone el foco en que los mensajes, documentos y fragmentos de código pueden transportar instrucciones que el sistema no debería tratar automáticamente como órdenes confiables. La investigación no ofrece una lista de mitigaciones verificadas ni cuantifica la probabilidad de un ataque, pero muestra por qué las pruebas de seguridad deben considerar no solo lo que un agente responde, sino también lo que deja en los canales que otros agentes consultarán.

El avance que describe OpenAI es, por ahora, una advertencia sobre capacidades posibles en condiciones de prueba y no un reporte de daños registrados. La diferencia importa: permite reconocer un vector de riesgo emergente sin presentar como hecho una amenaza que la propia divulgación no sitúa en el mundo real.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados