Un marco de Columbia y CertiK utiliza Lean y herramientas SMT para comprobar kernels de GPU a nivel PTX. En 149 instancias analizadas, el equipo demostró que 83 cumplían las propiedades especificadas y reportó 38 errores en seis proyectos, incluida una carrera de datos en FlashAttention-4 que, según los investigadores, no apareció en 17.760 ejecuciones de prueba.
***
- TensorLean evaluó 149 instancias de kernels y demostró que 83 cumplían las propiedades especificadas.
- El equipo reportó 38 errores en seis proyectos; 23 corresponden a FlashAttention.
- El marco verifica carreras de datos, terminación, tolerancia numérica y que la memoria ajena a la salida permanezca intacta.
Investigadores de la Universidad de Columbia y CertiK presentaron TensorLean, un marco de verificación formal diseñado para comprobar kernels de GPU después de su compilación a PTX. Según el reporte de MarkTechPost, el equipo evaluó 149 instancias de kernels y demostró que 83 cumplían las propiedades verificadas. En el conjunto de proyectos analizados, los investigadores reportaron 38 errores. Entre los hallazgos destaca una carrera de datos en FlashAttention-4 que, de acuerdo con el equipo, no apareció en 17.760 ejecuciones de prueba.
Un kernel es una rutina que ejecuta una operación en una GPU, a menudo con muchas tareas simultáneas, y PTX es una representación intermedia del código que se compila para ese hardware. TensorLean parte del código fuente sin modificar y compara el comportamiento del kernel compilado con una especificación matemática expresada en Lean. La propuesta apunta a que los desarrolladores puedan detectar errores que una batería de pruebas convencionales podría no revelar.
Qué comprueba TensorLean en un kernel
TensorLean verifica cuatro propiedades: que no haya carreras de datos, que la ejecución termine, que la salida respete la especificación dentro de una tolerancia y que las regiones de memoria ajenas al resultado permanezcan intactas. Una carrera de datos ocurre cuando tareas concurrentes acceden a una misma ubicación de memoria de manera incompatible, lo que puede producir resultados incorrectos o impredecibles. El marco trata esos aspectos como obligaciones de prueba explícitas, no como supuestos derivados de que el programa haya funcionado en algunos ensayos.
La especificación se escribe en Lean a nivel de tensores y toma como base Mathlib, la biblioteca matemática de ese sistema. Sus operadores siguen nombres familiares para usuarios de PyTorch: por ejemplo, el símbolo @ representa una multiplicación de matrices. La estructura separa la operación matemática que se espera del kernel de la forma concreta en que sus datos ocupan la memoria, una distinción relevante cuando varias implementaciones pueden calcular la misma función mediante diseños distintos.
Cada especificación incluye cinco componentes: spec_math, spec_mut, spec_layout, spec_tol y requires. En conjunto, describen el cálculo esperado, la memoria modificable, la disposición de los datos, la tolerancia permitida y las condiciones previas para ejecutar el kernel. Esa separación permite expresar qué debe producir una rutina sin confundir la definición matemática con decisiones de implementación como el orden de carga, el almacenamiento temporal o la organización de los hilos.
La afirmación de corrección, por tanto, tiene un alcance definido: se refiere a las propiedades codificadas en la especificación y a las condiciones contempladas por el verificador. No equivale a declarar que cualquier programa que use la GPU está libre de todo defecto posible. El valor de TensorLean consiste en hacer explícitos requisitos que suelen ser difíciles de cubrir con pruebas de ejecución, particularmente en código paralelo y optimizado.
Del código fuente a una prueba formal
El proceso empieza con el código fuente original y una especificación tensorial preparada por un desarrollador. Luego, el kernel se compila a PTX y TensorLean incorpora una semántica para analizar esa representación de bajo nivel. Este paso permite que la comprobación no se limite a revisar la intención expresada en una rutina de alto nivel: el objeto del análisis es el código compilado que ejecutará la GPU.
Después, el sistema construye un grafo de relaciones de sucede-antes para examinar la concurrencia y la terminación. Según la descripción del proyecto, esa estructura permite razonar simbólicamente sobre CTA, hilos e iteraciones, en lugar de limitarse a observar una secuencia particular de ejecución. La diferencia importa porque el orden de las operaciones concurrentes puede cambiar y exponer fallas que no se manifiestan en una ejecución escogida al azar.
El verificador también ejecuta simbólicamente el kernel para obtener una memoria final que debe ser idéntica entre los cronogramas considerados. A continuación, reduce la especificación matemática al nivel de memoria de PTX y descarga las obligaciones de prueba en el kernel de Lean, junto con los solucionadores SMT Z3 y cvc5. Así conecta la función tensorial deseada con los accesos y resultados concretos del código compilado.
Para escalar el análisis, TensorLean emplea invariantes de bucle sobre semianillos y formas cerradas para ciclos en mosaico y acumulaciones, entre ellas el softmax en línea. El equipo indica que esas representaciones requieren una consulta SMT por bucle. También permite agregar aserciones tensorlean_assert al código fuente: una vez demostradas, pueden reutilizarse como pistas para otras partes de la verificación, en vez de volver a resolver desde cero cada obligación relacionada.
Los errores detectados en seis proyectos
El balance reportado incluye 38 errores repartidos entre FlashAttention, Liger Kernel, TileOPs, TileLang, DeepGEMM y Triton. FlashAttention concentra 23; Liger Kernel, siete; TileOPs, tres; TileLang y DeepGEMM, dos cada uno; y Triton, uno. TensorLean indica que los 23 errores de FlashAttention fueron comunicados a sus desarrolladores. El material disponible no detalla el estado de las correcciones ni la respuesta de cada proyecto.
Las categorías publicadas se superponen, por lo que no deben sumarse como si describieran errores independientes. El recuento incluye 19 problemas de acceso a memoria y 13 numéricos, además de siete carreras de datos, cinco lecturas de memoria no inicializada y cinco casos de comportamiento indefinido. También aparecen tres errores algorítmicos, dos compilaciones incorrectas y un bloqueo; un mismo defecto puede pertenecer a más de una categoría.
En FlashAttention, el equipo examinó 102 instancias: 56 superaron las cuatro propiedades y 46 fallaron al menos un objetivo de prueba debido a errores en el código fuente. Ese desglose se refiere a instancias analizadas, no a 46 defectos distintos, y convive con los 23 errores atribuidos al proyecto. La distinción evita interpretar cada configuración fallida como un problema independiente.
El caso más llamativo fue una carrera de datos en FlashAttention-4 que, según el equipo, no se manifestó en 17.760 ejecuciones de prueba. El dato ilustra el límite de confiar únicamente en ensayos: una prueba valida los recorridos que efectivamente ejecuta, mientras que el análisis formal busca demostrar propiedades para el conjunto de escenarios representados por el modelo. El hallazgo no implica que las pruebas sean inútiles, sino que pueden complementarse con técnicas que examinan sistemáticamente la concurrencia.
Alcance, recursos y comparación
TensorLean cuenta con un analizador de PTX de 1.800 líneas, mientras que sus especificaciones suman 10.278 líneas frente a 151.285 líneas de código fuente de kernels. El equipo describe esa relación como especificaciones aproximadamente 15 veces más pequeñas que el código analizado. La comparación sugiere que una descripción matemática compacta puede servir para revisar implementaciones extensas, aunque redactar y mantener las especificaciones también forma parte del trabajo de ingeniería.
El sistema se ejecutó en una estación de trabajo de 16 núcleos y verificó PTX compilado para kernels destinados a A100, H100 y B200. El tiempo mediano de verificación fue cercano a 10 minutos y el máximo informado llegó a 50 minutos. Esos datos ofrecen una referencia del costo observado en el estudio, pero no garantizan que todas las rutinas o configuraciones se verifiquen en el mismo tiempo.
El proyecto compara su enfoque con Volta, ProofWright y un verificador de PTX en Lean desarrollado por Koska y otros autores. En esa comparación, TensorLean destaca por analizar 149 instancias de varios proyectos y por cubrir operaciones asíncronas como wgmma y TMA en FlashAttention-3 y FlashAttention-4; la tabla señala que Volta queda fuera de ese alcance. Para ProofWright, el material no divulga algunos detalles comparables, de modo que no permite establecer una clasificación general entre sistemas.
El equipo también diferencia TensorLean de los verificadores de equivalencia que desenrollan bucles para una configuración concreta. Su enfoque emplea parámetros simbólicos, lo que busca ampliar la cobertura más allá de un único caso fijo. Esa característica no elimina la necesidad de definir correctamente las condiciones de entrada ni convierte cualquier configuración posible en una prueba automática: el alcance depende del modelo y de las propiedades que el desarrollador haya especificado.
Por qué importa la verificación formal
Los kernels optimizados son piezas centrales de las cargas de trabajo de inteligencia artificial, pero su rendimiento suele depender de operaciones paralelas, accesos afinados a memoria y mecanismos asíncronos. Esas decisiones pueden aumentar la velocidad y, al mismo tiempo, multiplicar las interacciones difíciles de cubrir con casos de prueba. TensorLean propone revisar formalmente la relación entre el resultado matemático esperado y el comportamiento del código de bajo nivel que ejecuta la GPU.
Para los equipos que desarrollan infraestructura de IA, el resultado plantea una alternativa complementaria a las pruebas tradicionales, no un reemplazo inmediato. Una especificación incorrecta puede formalizar expectativas equivocadas, y los tiempos medidos muestran que la verificación también consume recursos y trabajo especializado. Aun así, localizar defectos antes de que afecten una ejecución de producción puede ayudar a reducir riesgos en componentes que se reutilizan en múltiples modelos y aplicaciones.
El balance inicial combina resultados positivos con errores encontrados: 83 instancias demostradas correctas y 38 errores reportados en seis proyectos. La diferencia entre ambos datos recuerda que la verificación aporta tanto evidencia a favor de una implementación como una vía para hallar defectos concretos. En el caso de FlashAttention-4, además, el equipo sostiene que una carrera sobrevivió a miles de ejecuciones de prueba, lo que refuerza el argumento a favor de métodos complementarios.
El trabajo deja como siguiente desafío ampliar la cobertura y facilitar la escritura de especificaciones para más kernels y configuraciones. La información publicada no afirma que TensorLean ya resuelva todos los problemas de seguridad o corrección de GPU, pero sí presenta un método operativo con resultados en proyectos reales y hardware de distintas generaciones. Su aporte será medible en la medida en que otros equipos puedan reproducir las pruebas, adoptar el marco y comprobar cómo evoluciona la corrección de los kernels analizados.
Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.
Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.
ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.
Suscríbete a nuestro boletín
Artículos Relacionados
Empresas
RUM Group casi cuadruplica sus ingresos y la IA ya supera al negocio de video
Estados Unidos
Himes amenaza con frenar fondos para SpaceX por la disputa de Starshield en Ucrania
Energía
El 77% de la expansión de centros de datos de EE. UU. quedaría bajo gobernadores demócratas
Economía
