Por Canuto  

Anthropic presentó FlashProve, un prototipo de código abierto que busca comprobar qué modelo produjo una respuesta de IA sin exponer sus pesos. La propuesta funciona en una GPU con un modelo de 400.700 millones de parámetros, aunque generar las pruebas todavía exige entre 70 y 95 veces más cómputo que una inferencia estándar.
***

  • FlashProve usa pruebas de conocimiento cero para vincular una respuesta con un modelo comprometido, sin revelar sus pesos ni activaciones.
  • En una prueba con Llama 4 Maverick, cada solicitud de 1.024 tokens produjo una prueba de unos 19 MB, verificable en CPU en 17 a 21 segundos.
  • El costo computacional, de 70 a 95 veces el de una inferencia normal con vLLM, mantiene el proyecto en fase de investigación.

FlashProve busca verificar respuestas de IA sin revelar los pesos del modelo

Anthropic presentó FlashProve, un prototipo de investigación de código abierto que aplica pruebas criptográficas para comprobar qué modelo generó una respuesta, sin revelar los parámetros internos que lo componen. La herramienta apunta a una brecha de confianza en los servicios de inteligencia artificial: quien envía una consulta suele depender de que el proveedor utilice efectivamente el modelo que anunció.

El sistema busca ofrecer una verificación matemática de esa correspondencia. Sin embargo, sus propios resultados muestran el desafío práctico: en las pruebas reportadas, producir una prueba demandó entre 70 y 95 veces el tiempo de GPU de una inferencia estándar con vLLM, por lo que Anthropic lo describe como una herramienta de investigación intermedia y no como una solución lista para producción.

Una prueba criptográfica para rastrear la respuesta

FlashProve se basa en un zkSNARK de tipo hash, una clase de prueba de conocimiento cero que permite demostrar que un cálculo se ejecutó correctamente sin revelar los datos privados que intervinieron. En este caso, la prueba vincula un modelo previamente comprometido con los tokens que generó ante un prompt determinado. La meta es que un tercero pueda comprobar esa relación sin inspeccionar los pesos de la red neuronal.

El proceso tiene dos etapas. Primero, el proveedor realiza fuera de línea un compromiso criptográfico con un conjunto específico de pesos; ese compromiso ocupa alrededor de 6,5 MB y, según las pruebas reportadas, su generación tarda unos 39 minutos. Después, para cada inferencia, FlashProve construye una prueba sucinta que confirma que el modelo comprometido produjo la salida declarada en respuesta a la consulta.

La privacidad de los componentes internos es parte central del diseño: los pesos, las activaciones y las decisiones de enrutamiento permanecen ocultos durante la verificación. Esto resulta especialmente pertinente para las arquitecturas de mezcla de expertos, conocidas como MoE, que dirigen cada entrada hacia un subconjunto de redes especializadas. Revelar qué rutas internas se activaron podría exponer información sobre el funcionamiento del modelo.

El problema que intenta abordar va más allá de una respuesta incorrecta o de una alucinación. Un servicio de enrutamiento podría, en teoría, reemplazar el modelo anunciado por otro más barato para reducir gastos, mientras que una persona usuaria no tendría una forma directa de advertir el cambio; también cabe la posibilidad de que un atacante manipule el flujo de tokens. FlashProve pretende aportar evidencia verificable sobre el origen de la salida, aunque no elimina por sí solo todos los riesgos de los servicios de IA.

Resultados prometedores y una factura computacional alta

Anthropic evaluó el prototipo con Llama 4 Maverick, de Meta, cuantizado a 4 bits y con 400.700 millones de parámetros. En una sola GPU H100 de NVIDIA, el sistema alcanzó aproximadamente 110 tokens por segundo en la etapa de prefill y procesó un lote de 24 solicitudes en cerca de 223 segundos. Esos datos muestran que el enfoque puede operar con un modelo de gran escala en una sola GPU, aunque no bastan para demostrar que resulte económicamente viable en servicios masivos.

En la configuración probada, cada solicitud de 1.024 tokens produjo una prueba de alrededor de 19 MB. Una CPU estándar pudo verificarla en unos 17 a 21 segundos y no necesitó acceso a los pesos del modelo, una propiedad importante para separar la generación de la respuesta de su auditoría. El tamaño de los archivos, sin embargo, podría hacer más pesado verificar cada interacción a gran escala que realizar controles puntuales.

La principal limitación está en el costo de producir las pruebas. Anthropic estimó que esa tarea requiere entre 70 y 95 veces el tiempo de GPU necesario para una inferencia estándar con vLLM, de modo que verificar la legitimidad de una respuesta puede demandar mucho más cómputo que generarla. La cifra corresponde al prototipo y a las condiciones evaluadas, no a una medición universal para todos los modelos o sistemas de inferencia.

Por eso, la compañía no presenta FlashProve como un producto listo para desplegar en operaciones de producción. La brecha entre demostrar que una técnica es posible y hacerla asequible sigue siendo considerable, sobre todo si cada respuesta debe llevar una prueba propia. Reducir esa sobrecarga y encontrar casos donde la verificación justifique su costo serán pasos necesarios antes de considerar un uso generalizado.

Criptografía en lugar de hardware confiable

FlashProve recurre a pruebas matemáticas, no a un chip seguro que certifique el cálculo, como ocurre con algunos enfoques basados en hardware confiable. Esa diferencia plantea una alternativa para quienes necesitan verificar una inferencia sin depositar toda la confianza en un componente físico especializado. No significa que la propuesta carezca de supuestos técnicos, sino que su mecanismo de verificación se apoya en propiedades criptográficas.

El equipo afirma que las propiedades formales de seguridad de las pruebas fueron verificadas por máquina con Lean, un asistente de pruebas. Este tipo de revisión busca comprobar rigurosamente que las afirmaciones de seguridad se desprenden de la especificación matemática, en vez de depender únicamente de una inspección informal del código. La verificación formal no sustituye las pruebas de rendimiento ni resuelve el costo computacional observado.

El proyecto fue liderado por Roy Rinberg y Alex Allain, de Anthropic. Entre los colaboradores figuran Alessandro Chiesa, Giacomo Fenzi y Guy Weissenberg, de EPFL; Chiesa también está afiliado a StarkWare. La lista incluye además a Miranda Christ, vinculada con MIT y RESI, y a Rahul Dalal, del Programa STEM Fellows de Anthropic y Succinct.

Ben Mayer, del Programa Anthropic Fellows y MIT, también contribuyó al trabajo. El código y los materiales técnicos están disponibles bajo la licencia Apache 2.0 en el repositorio anthropics/FlashProve de GitHub, según la información del proyecto. Esa licencia permite que otras personas estudien y reutilicen el desarrollo de acuerdo con sus términos, aunque la disponibilidad del código no implica que la herramienta ya esté preparada para un despliegue comercial.

La verificación todavía debe volverse práctica

El valor potencial de FlashProve está en permitir que un usuario o auditor compruebe si una respuesta procede del modelo declarado, sin exigir que el proveedor divulgue sus pesos. En servicios que ofrecen varios modelos o ajustan dinámicamente sus rutas, esa evidencia podría ser útil para contrastar lo prometido con lo ejecutado. Por ahora, el prototipo demuestra una posibilidad técnica, no que todos los proveedores puedan o deban usarla de inmediato.

El tamaño de la prueba y el costo de generarla plantean obstáculos distintos. Un archivo de unos 19 MB por cada solicitud de 1.024 tokens puede ser manejable para auditorías selectivas, pero multiplica el volumen de datos si se pretende verificar cada interacción. Al mismo tiempo, la sobrecarga de entre 70 y 95 veces frente a la inferencia estándar pone presión sobre los recursos de cómputo y, por extensión, sobre la viabilidad de ofrecer el proceso a gran escala.

La evaluación se limita a las condiciones descritas para Llama 4 Maverick cuantizado, una GPU H100 y el sistema de inferencia usado como referencia. No permite concluir que FlashProve alcance el mismo rendimiento con otros modelos, configuraciones de hardware o cargas de trabajo. Tampoco establece que la herramienta detecte cualquier intervención posible en una cadena de servicio; su propósito reportado es probar que el modelo comprometido generó los tokens declarados ante un prompt.

La siguiente etapa, según el reto que dejan los resultados, será disminuir el costo de generación y evaluar si el tamaño de las pruebas permite auditorías más amplias. FlashProve ofrece una demostración de que un modelo de escala fronteriza puede someterse a verificación criptográfica en una sola GPU, pero la utilidad cotidiana dependerá de que ese control no resulte desproporcionadamente caro. La propuesta convierte la confianza en una pregunta comprobable; hacer que comprobarla sea práctico sigue siendo el trabajo pendiente.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados