Por Canuto  

Un experimento con casi dos millones de prompts señuelo detectó credenciales robadas, registros de solicitudes y rastreo de URLs secretas en distintos puntos de la cadena de suministro de IA. Los hallazgos, atribuidos al investigador HD Moore, también ponen en duda la eficacia de las opciones de retención cero cuando varios intermediarios procesan información sensible.
***

  • HD Moore sembró secretos únicos en casi dos millones de prompts para rastrear posibles fugas en servicios y revendedores de IA.
  • La investigación halló indicios de que atacantes comprometieron tres proveedores y usaron claves señuelo en decenas de miles de llamadas a la API de AWS.
  • Un laboratorio chino de IA y varios proveedores de alojamiento rastrearon URLs secretas incluso en solicitudes con opciones de privacidad.

 


Una investigación basada en casi dos millones de prompts señuelo detectó que información sensible puede filtrarse en distintos puntos de la cadena de suministro de inteligencia artificial. El experimento, realizado por HD Moore, Chief Research Officer de Dragos, identificó indicios de proveedores comprometidos, revendedores que registraban solicitudes y sistemas que rastreaban enlaces privados pese a las opciones de privacidad.

El trabajo, reportado por Ars Technica, examinó servicios que conectan aplicaciones de IA con modelos y proveedores de inferencia. Sus resultados no implican que cada prompt enviado a estas plataformas haya quedado expuesto, pero sí muestran que los datos pueden pasar por múltiples actores y que las políticas declaradas no siempre evitaron su uso o divulgación.

Un experimento para seguir el recorrido de los datos

Muchas aplicaciones de IA no se conectan directamente con empresas como Anthropic u OpenAI, sino que recurren a intermediarios conocidos como enrutadores o puertas de enlace de IA. Estos servicios reciben prompts y seleccionan modelos disponibles según criterios como el costo o la adecuación de cada sistema a la tarea solicitada. En algunos casos, una petición pasa por más de un enrutador antes de llegar al modelo.

Ese recorrido importa porque el cifrado protege los datos mientras viajan por la red, pero los intermediarios deben descifrarlos para leer el prompt y decidir a dónde dirigirlo. La solicitud puede pasar luego a proveedores de inferencia o alojamiento distintos, y cada actor puede conservarla según sus propias políticas. Por eso, una promesa de privacidad en un punto no describe necesariamente el tratamiento que recibe la información en toda la cadena.

Para identificar posibles fugas, Moore creó secretos únicos que incluyeron claves de acceso de AWS asociadas a cuentas vacías, contraseñas funcionales para servicios como SSH, URLs, nombres DNS y referencias a repositorios privados de Git. El investigador controlaba la infraestructura que recibiría cualquier intento de acceso, y se aseguró de que las credenciales no se hubieran utilizado previamente. Así podía distinguir la actividad derivada de sus pruebas de cualquier uso anterior.

Cada secreto apareció exactamente en un prompt enviado a un solo proveedor. Moore describió esos datos como canarios: señuelos identificables que permiten observar si alguien los copia, los prueba o los utiliza más adelante. Al comparar dónde aparecía cada credencial y cuándo se activaba, el investigador podía ubicar mejor el eslabón de la cadena asociado con una posible filtración.

Credenciales robadas y brechas en proveedores

El resultado más grave fue la evidencia de que atacantes comprometieron tres proveedores de alojamiento distintos y sustrajeron prompts que circulaban por sus sistemas. Moore indicó que quienes accedieron a uno de esos proveedores reutilizaron un par de centenas de claves señuelo. Las solicitudes afectadas habían llegado en ventanas breves a finales de octubre, y el investigador dijo que todas las que envió durante esos periodos fueron robadas.

Algunas credenciales procedían incluso de solicitudes que el proveedor rechazó antes de que un modelo procesara la petición. Para Moore, ese detalle apunta a que el atacante copiaba los prompts en la entrada del servicio, en lugar de obtenerlos después dentro de la infraestructura de inferencia. En las otras dos brechas, parte de las solicitudes sustraídas llevaba indicadores de retención cero, conocidos como ZDR, o instrucciones de no recolectar datos.

Los atacantes probaron las claves para descubrir a qué recursos daban acceso, en ocasiones pocas horas después de que Moore las sembrara. Revisaron depósitos de S3, gestores de secretos y almacenes de parámetros en busca de otras credenciales, intentaron habilitar modelos alojados en AWS Bedrock y añadieron sus propios usuarios de IAM para conservar el acceso. En conjunto, las claves señuelo robadas provocaron decenas de miles de llamadas a la API de AWS.

Moore también observó que secretos enviados a dos de los proveedores comprometidos se utilizaron casi de inmediato desde el mismo servidor alquilado. Esa coincidencia, sostuvo, indica que casi con seguridad los dos incidentes estuvieron vinculados con un mismo adversario. La investigación no ofrece una identidad para ese actor, por lo que el vínculo se presenta como una conclusión del investigador basada en el patrón observado, no como una atribución pública confirmada.

Revendedores y rastreo de información sensible

Las pruebas también apuntaron a revendedores del mercado de inferencia que registraban prompts y, de algún modo, transmitían información a personas que luego utilizaban las credenciales. Según Moore, algunos atraían solicitudes con precios bajos y después activaban el registro de las peticiones. Para diferenciarlos de los proveedores de los modelos, envió solicitudes al mismo sistema mediante vendedores distintos y comparó dónde se reutilizaban las claves.

Cuando una credencial aparecía después de pasar por un vendedor, pero no cuando el investigador utilizaba otro canal, el patrón señalaba al revendedor como posible responsable de la exposición. El método permitió separar casos en los que el proveedor del modelo podía estar implicado de aquellos asociados con un intermediario comercial. Los hallazgos no identifican aquí a todos los revendedores, pero describen un riesgo que surge cuando el cliente no conoce cada componente de la ruta.

Otro hallazgo involucró a un laboratorio chino de IA cuyos sistemas recuperaron URLs secretas incluidas en más de la mitad de los prompts enviados a sus modelos entre julio y octubre. Moore señaló que el rastreo alcanzó aproximadamente dos tercios de las solicitudes que llevaban una opción de no recolección de datos o ZDR. El proceso solía aparecer dos o tres días después de la petición original, lo que permitió relacionar la actividad posterior con los señuelos.

El rastreo no se limitó a quienes enviaron solicitudes directamente al laboratorio. Varios proveedores de alojamiento de Estados Unidos revendían sus modelos y, según la investigación, los prompts remitidos por esas vías activaban el mismo mecanismo de recuperación de URLs. Por ello, un cliente que eligiera un proveedor estadounidense para mantener sus datos dentro del país podía terminar enviando información al laboratorio situado fuera de esa ruta esperada.

Qué revela el experimento sobre la privacidad

Moore informó además de que un cliente de Git alojado en otra nube comenzó a intentar clonar repositorios privados mencionados en los prompts, pero solo cuando las solicitudes utilizaban modelos de ese laboratorio. En otro caso, detectó que un proveedor de alojamiento estadounidense rastreó una URL secreta más de dos meses después de que apareciera en una única llamada de inferencia a su punto de búsqueda. La demora muestra que el monitoreo no siempre ocurre inmediatamente después de la solicitud.

Un proveedor distinto ejecutó un rastreador que volvía a buscar las URLs días después de cada petición, sin importar qué enrutador de IA hubiera enviado el prompt. Estas observaciones sugieren que los datos pueden activar procesos posteriores y que el trayecto no termina necesariamente cuando el modelo entrega una respuesta. También dificultan que un usuario determine, solo a partir de la interfaz de una aplicación, quién tuvo acceso a la información que incluyó.

Las opciones ZDR y las instrucciones de no recolección no impidieron las filtraciones cuando un atacante ya tenía acceso a un proveedor, ni evitaron el rastreo descrito en los casos del laboratorio. Moore advirtió que una bandera de privacidad no protege frente a una intrusión en la infraestructura. La investigación también encontró incumplimientos de configuraciones de privacidad del usuario final por parte de varios proveedores, según las pruebas realizadas.

Como alternativa más eficaz para reducir la exposición, Moore recomendó alojar los modelos en servidores propios, aunque reconoció que esa opción resulta costosa. Para quienes no puedan hacerlo, sugirió contratar directamente con un proveedor de primer nivel y revisar un único contrato y una política de privacidad, una medida que minimiza riesgos pero no garantiza que no haya filtraciones. También aconsejó evitar grupos predeterminados de proveedores o revendedores y elegir de forma explícita los proveedores upstream.

El experimento deja a las organizaciones y a los usuarios ante una decisión difícil: delegar el procesamiento de información sensible puede implicar confiar en varios servicios, no solo en el modelo que responde. Los canarios de Moore permitieron reconstruir algunos rastros, pero la investigación muestra que el control de los datos depende de la seguridad y las prácticas de cada intermediario. Mientras esa cadena siga siendo opaca, las promesas de privacidad requieren una verificación que el usuario final no siempre puede realizar por sí solo.


Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín