Por Canuto  

OpenAI afirma que sus salvaguardas redujeron de 54% a 0,2% el éxito de ataques que buscaban extraer razonamiento protegido de solicitudes anteriores en GPT-6.2 Astra.
***

  • En pruebas adaptativas, la extracción desde solicitudes anteriores cayó de 54% en GPT-6 Astra a 0,2% en GPT-6.2 Astra.
  • Los intentos contra la solicitud activa descendieron de 22,9% a 0,9%.
  • OpenAI describe defensas para solicitudes individuales y medidas contra campañas coordinadas, incluidos bloqueos semanales de cuentas.


Una caída pronunciada en las pruebas

OpenAI asegura que reforzó las salvaguardas de GPT-6.2 Astra y GPT-6.2 Sol para dificultar que atacantes extraigan el razonamiento interno protegido de sus modelos. Según las cifras divulgadas por la compañía, en GPT-6.2 Astra los intentos de recuperar razonamiento de una solicitud anterior pasaron de una tasa de éxito de 54% en GPT-6 Astra a 0,2%. La empresa también señaló que desplegó los nuevos modelos con sus salvaguardas más sólidas hasta la fecha y endureció sus restricciones, según el anuncio de GPT-6.2 Astra y Sol.

La reducción también aparece en los intentos dirigidos a la solicitud que el modelo está procesando en ese momento. En ese escenario, la tasa de éxito bajó de 22,9% con GPT-6 Astra a 0,9% con GPT-6.2 Astra, de acuerdo con los resultados atribuidos a OpenAI.

Las cifras corresponden a una evaluación automatizada interna de red teaming adaptativo de caja negra, agregada a través de seis modelos atacantes. En términos generales, ese tipo de prueba intenta medir si un sistema resiste intentos diseñados para sortear sus defensas sin acceso directo a sus mecanismos internos; la tasa de éxito de ataque, o ASR, indica con qué frecuencia el intento evaluado logra su objetivo.

La comparación se refiere a ataques específicos para extraer razonamiento protegido y no demuestra que toda clase de ataque contra los modelos haya desaparecido. El resultado destacado por OpenAI es que los intentos incluidos en sus pruebas tuvieron mucho menos éxito en GPT-6.2 Astra, tanto al apuntar a una petición previa como a la petición activa.

Capas de defensa para solicitudes y campañas

OpenAI describe una estrategia de protección que actúa en más de un punto del sistema. Para las solicitudes individuales, combina entrenamiento específico, filtros de entrada y salida aplicados a mensajes y llamadas a herramientas, además de bloqueos de API que impiden que modelos más antiguos lean el razonamiento protegido.

Esas medidas cumplen funciones distintas dentro del flujo de interacción. Los filtros buscan intervenir en los mensajes que entran y salen del sistema, mientras que los bloqueos de API, según la descripción de la compañía, restringen el acceso de modelos anteriores a información protegida; el entrenamiento específico completa ese conjunto de salvaguardas.

La compañía también afirma que enfrenta campañas coordinadas, además de los intentos aislados contra una solicitud. Como parte de esa respuesta, prohíbe semanalmente desde miles hasta decenas de miles de cuentas, una horquilla amplia que OpenAI presenta como una medida para contener actividades de extracción a mayor escala.

El material divulgado no desglosa cuántas cuentas corresponden a cada tipo de campaña ni detalla los criterios que determinan una prohibición. Por eso, la cifra semanal permite dimensionar el volumen de acciones que la empresa dice tomar, pero no ofrece por sí sola una medida comparable con el porcentaje de éxito obtenido en las pruebas automatizadas.

Qué miden los resultados y qué queda fuera

La distinción entre solicitudes anteriores y activas es relevante porque las pruebas evaluaron dos objetivos diferentes: recuperar razonamiento protegido de una interacción previa o hacerlo durante la interacción en curso. Los resultados de GPT-6.2 Astra fueron inferiores en ambos casos, aunque la cifra inicial y el descenso varían según el tipo de intento.

OpenAI también está llevando mejoras seleccionadas a GPT-6 Astra, según la información disponible. El anuncio no especifica cuáles salvaguardas se trasladarán, cuándo se aplicarán ni si el modelo anterior alcanzará tasas de éxito comparables con las registradas para GPT-6.2 Astra en estas pruebas.

El tema forma parte de una preocupación más amplia sobre los intentos de destilar capacidades de modelos de inteligencia artificial mediante consultas sistemáticas. Anthropic ha dicho que bloqueó decenas de miles de cuentas vinculadas a campañas de extracción. Por separado, la compañía afirmó que nuevas medidas de seguridad redujeron entre 90% y 99% la extracción de datos de Claude, según un reporte sobre esas defensas. Esa cifra describe una reducción atribuida a las salvaguardas de Anthropic, no una tasa de éxito de los ataques, y no es directamente comparable con los porcentajes de las pruebas de OpenAI.

Anthropic también ha pedido una respuesta coordinada de la industria y de los responsables políticos frente a este tipo de actividad. En conjunto, las medidas descritas muestran dos frentes de respuesta: reforzar los controles técnicos que protegen las interacciones y actuar contra cuentas que las empresas vinculan con campañas coordinadas, aunque los datos publicados no permiten equiparar sus métodos ni sus métricas.

Una protección que seguirá bajo evaluación

La diferencia entre los porcentajes de GPT-6 Astra y GPT-6.2 Astra es considerable dentro del conjunto de ataques probado, pero OpenAI no presenta esas cifras como una garantía universal frente a cualquier intento de extracción. El resultado depende del alcance de la evaluación, de los seis modelos atacantes incluidos y de los objetivos concretos definidos para la prueba.

La compañía tampoco detalla en el material disponible el tamaño completo de las pruebas, los procedimientos utilizados para cada intento ni los resultados separados por modelo atacante. Esa información sería necesaria para que terceros pudieran interpretar con mayor precisión hasta qué punto los porcentajes se reproducen en otros escenarios o bajo estrategias diferentes.

Por ahora, el dato central es una reducción de 54% a 0,2% para la extracción desde solicitudes anteriores y de 22,9% a 0,9% para la extracción desde una solicitud activa en la comparación entre GPT-6 Astra y GPT-6.2 Astra. OpenAI afirma que combina defensas técnicas por interacción con medidas contra campañas coordinadas, y también anuncia que algunas mejoras llegarán al modelo anterior.

La eficacia a largo plazo dependerá de cómo respondan las salvaguardas ante nuevas estrategias y de la claridad con que se publiquen futuras evaluaciones. Las cifras actuales describen una mejora importante en los ensayos internos comunicados por OpenAI, no una confirmación de que el razonamiento protegido sea imposible de extraer.


Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín