Por Canuto  

Anthropic asegura que un conjunto de nuevas barreras redujo entre 90% y 99% los tokens de razonamiento que podían extraer quienes intentaban destilar Claude. La compañía también informó que prohibió decenas de miles de cuentas y señaló a Zhipu AI como un caso relacionado con sus sospechas.
***

  • Anthropic afirma que sus medidas redujeron entre 90% y 99% la extracción de tokens de razonamiento de Claude.
  • La empresa dice que las barreras dificultan el sondeo repetido de las rutas de inferencia mediante redes proxy.
  • Anthropic relacionó a Zhipu AI con intentos de extraer capacidades de Claude durante el desarrollo de GLM-5.3.

Anthropic afirma que reforzó la protección de Claude para reducir la extracción de datos mediante destilación de modelos, una práctica que preocupa a varias compañías líderes de inteligencia artificial.

Anthropic asegura que redujo la extracción de tokens

Anthropic anunció nuevas medidas para limitar el acceso externo al proceso de razonamiento de Claude y frenar intentos de replicar sus capacidades mediante destilación. Según la información difundida por KuCoin, que recoge reportes de CoinDesk y del medio chino IT Home, la compañía calcula que las defensas redujeron entre 90% y 99% la cantidad de tokens de razonamiento que los atacantes podían extraer.

La empresa describió el resultado como una caída considerable en la información obtenida por quienes buscan interrogar el modelo con ese propósito. En su explicación, los atacantes ahora solo pueden extraer una décima o una centésima parte de los tokens de razonamiento que conseguían antes, una medida que se refiere a la información capturada y no necesariamente a una reducción equivalente en todos los intentos de acceso.

Anthropic también afirmó que sus nuevas barreras dificultan sondear repetidamente las rutas de inferencia protegidas de Claude mediante redes proxy. De acuerdo con la compañía, el sistema busca bloquear intentos de extracción y obstaculizar operaciones de destilación a gran escala, al restringir la manera en que terceros pueden consultar el modelo y recopilar sus respuestas.

La firma sostuvo que la robustez de estas protecciones es «aproximadamente equivalente» a las salvaguardas destinadas a impedir que Claude colabore en la creación de armas biológicas. También indicó que la tasa de falsos positivos se mantiene por debajo de 0,1%, aunque la información disponible no detalla cómo se calculó esa cifra ni qué periodo o conjunto de solicitudes se utilizó para medirla.

Por qué preocupa la destilación de modelos

La destilación es una técnica de aprendizaje automático en la que un modelo más pequeño o nuevo aprende a partir de las respuestas de otro sistema. En el caso descrito por Anthropic, la inquietud surge cuando un competidor utiliza consultas repetidas a un modelo avanzado para reunir ejemplos que luego podrían ayudarle a reproducir algunas de sus capacidades.

La práctica preocupa a empresas que desarrollan modelos de frontera porque, según su argumento, permitiría a terceros acercarse a esas capacidades con menos tiempo y a un costo menor que el requerido para construirlas desde cero. La compañía menciona que Anthropic, OpenAI, Google y otras firmas consideran este tipo de extracción una amenaza competitiva; esa preocupación, por sí sola, no demuestra que cada consulta o proceso de destilación constituya un robo.

El punto sensible, de acuerdo con la explicación de Anthropic, es el acceso a los tokens de razonamiento de Claude. La firma sostiene que proteger las rutas de inferencia y limitar las consultas reiteradas reduce la posibilidad de recolectar información útil para una destilación a escala, aunque los datos divulgados no precisan qué componentes técnicos específicos integran las nuevas barreras.

Ese matiz importa porque la destilación no describe automáticamente una conducta ilícita: el anuncio de Anthropic se refiere a intentos que la compañía clasifica como extracción no autorizada de capacidades. La información publicada no ofrece detalles sobre los términos de servicio aplicados a cada cuenta, las pruebas individuales que sustentaron los bloqueos ni el método independiente utilizado para verificar la reducción de 90% a 99%.

Cuentas bloqueadas y señalamientos a Zhipu AI

Anthropic dijo que prohibió decenas de miles de cuentas asociadas con actividades de destilación. La compañía presentó esa cifra como parte de su respuesta a los intentos de extraer información de Claude, pero no divulgó en el reporte cuántas cuentas pertenecían a cada actor ni cuándo se produjeron todos los bloqueos.

Entre los casos que la firma citó figura la startup china de inteligencia artificial Zhipu AI. Anthropic afirmó que la empresa intentó extraer capacidades de Claude mientras desarrollaba su modelo GLM-5.3, un señalamiento que debe entenderse como una acusación de Anthropic y no como una conclusión independiente sobre la conducta de Zhipu AI.

La compañía advirtió que estas actividades pueden representar riesgos de seguridad y de seguridad nacional. Sin información adicional sobre los métodos atribuidos, el alcance de las consultas o las pruebas recopiladas, no es posible determinar a partir del reporte qué capacidades se habrían obtenido ni si la extracción atribuida a ese caso tuvo éxito.

La combinación de barreras técnicas y bloqueos de cuentas muestra que Anthropic busca controlar tanto el acceso al modelo como los patrones de consulta que considera sospechosos. La empresa no presentó en la información difundida un calendario para nuevas medidas ni explicó si publicará evaluaciones técnicas que permitan contrastar sus resultados con los de otros desarrolladores.

Una disputa sobre seguridad y competencia

El anuncio deja en evidencia una tensión creciente para el sector: los modelos deben responder consultas útiles, pero sus creadores también buscan impedir que el acceso al servicio facilite la reproducción de capacidades costosas de desarrollar. En ese equilibrio, las restricciones pueden ayudar a proteger información, aunque también vuelven relevante explicar cómo las compañías distinguen una consulta legítima de un intento coordinado de extracción.

La cifra de falsos positivos inferior a 0,1% apunta a que Anthropic considera reducido el riesgo de bloquear usuarios que no deberían quedar afectados. Sin embargo, la compañía no detalló en la información reportada qué consecuencias enfrentan las cuentas bloqueadas, si existe un mecanismo de revisión o cómo se distribuyen esos falsos positivos entre distintos tipos de usuarios.

El efecto que Anthropic atribuye a las medidas se expresa en tokens de razonamiento extraídos y en una menor capacidad para sondear rutas protegidas, no en una evaluación pública de la calidad de otros modelos. Por eso, la reducción anunciada indica el resultado que la empresa reporta frente a sus propios parámetros, pero no basta para establecer que la destilación haya desaparecido o que las defensas sean infalibles.

Para las empresas de IA, el desafío será sostener la protección sin afectar de forma desproporcionada el acceso normal a sus productos y, al mismo tiempo, respaldar con información verificable las acusaciones sobre competidores. Por ahora, Anthropic presenta sus nuevas salvaguardas como una barrera más fuerte frente a la extracción de Claude, mientras la disputa por los límites de la destilación sigue abierta.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados