Por Canuto  

Google DeepMind empleó su marco AlphaProof Code para verificar formalmente algunas garantías criptográficas del protocolo Signal en un proyecto de cuatro semanas. El análisis no encontró fallas nuevas en las partes examinadas, pero no cubrió toda la aplicación y deja abierta una pregunta central: cuánto puede escalar esta técnica de IA.
***

  • El equipo de DeepMind usó IA agéntica y verificación formal para analizar propiedades criptográficas del protocolo Signal.
  • La revisión no detectó vulnerabilidades nuevas en el alcance estudiado e identificó fallas conocidas y ya corregidas al examinar versiones antiguas.
  • El proyecto no verificó toda la aplicación móvil y aún no demuestra que el método pueda ampliarse a gran escala o con costos viables.

 

Google DeepMind utilizó su marco de inteligencia artificial AlphaProof Code para verificar formalmente algunas garantías criptográficas del protocolo Signal, una tecnología que también se usa en Google Messages y WhatsApp. El proyecto tomó cuatro semanas y no encontró vulnerabilidades nuevas en las partes analizadas, aunque su alcance no incluyó toda la aplicación móvil de Signal. El resultado aporta una revisión independiente de propiedades importantes, pero no equivale a certificar que cada componente del servicio sea infalible.

La iniciativa también funciona como una prueba de las capacidades de la IA agéntica para asistir en tareas de verificación formal, un campo que busca demostrar matemáticamente que un sistema cumple propiedades definidas. Los investigadores describieron el trabajo como un hito, no como una solución lista para revisar cualquier programa. La pregunta que queda para el sector es si estos métodos podrán cubrir sistemas extensos, con costos que permitan aplicarlos más allá de proyectos de investigación.

Qué verificó DeepMind y qué significa el resultado

La verificación formal consiste en representar de manera matemática ciertas propiedades que un programa debe cumplir y comprobar si su diseño o implementación las satisface. En vez de limitarse a ejecutar pruebas para observar cómo responde el software en algunos casos, este enfoque busca establecer una demostración rigurosa dentro del alcance de la especificación elegida. El trabajo de DeepMind se concentró en garantías criptográficas clave del protocolo Signal, no en todas las funciones, pantallas o componentes que integran sus aplicaciones.

Esta distinción importa porque el protocolo y la aplicación completa no son lo mismo. El protocolo define reglas criptográficas para las comunicaciones, mientras que una aplicación móvil incorpora además otros elementos de software que el análisis descrito no cubrió formalmente. Por eso, el resultado ofrece evidencia sobre las propiedades examinadas, pero no debe presentarse como una prueba matemática de que cualquier uso de Signal, o cada parte de su código, está libre de errores.

Según la información publicada por WIRED, el análisis no reveló vulnerabilidades nuevas en las partes del protocolo que el equipo revisó. Los investigadores también probaron AlphaProof Code con versiones antiguas de Signal que contenían fallas conocidas y ya corregidas, y la herramienta identificó esos problemas al mostrar que esas versiones no podían verificarse formalmente. Ese contraste permitió evaluar si el sistema distinguía entre las propiedades esperadas y los casos en que el software no cumplía los requisitos planteados.

La prueba tuvo una duración de cuatro semanas y aprovechó trabajos anteriores de verificación formal realizados por la Fundación Signal. Esa base previa ayudó al equipo a avanzar, según los investigadores, aunque el nuevo enfoque permitiría ampliar el análisis respecto de estudios anteriores centrados en porciones más pequeñas del código. La Fundación no describió el resultado como una garantía absoluta: su director de tecnología, Ehren Kret, señaló que una revisión rigurosa de la implementación aumenta la confianza en las protecciones de privacidad.

El papel de AlphaProof Code y la colaboración humana

El reto tradicional de la verificación formal no consiste solo en encontrar errores, sino en traducir requisitos y comportamientos deseados a especificaciones matemáticas y después construir pruebas que los respalden. Esa labor puede exigir mucho tiempo de especialistas, especialmente cuando el software crece y sus componentes interactúan. La IA agéntica puede ayudar a automatizar partes de ese proceso, como organizar tareas, proponer pasos de prueba y corregir intentos que no funcionan.

DeepMind sostiene que uno de sus avances fue diseñar un proceso de colaboración entre personas y sistemas de IA, en el que los agentes pueden participar y autocorregirse durante distintas fases. El equipo, sin embargo, también mantiene intervención humana en momentos clave, una decisión que busca evitar que el sistema determine por sí solo qué debe probar y luego se otorgue una evaluación favorable. La confiabilidad del resultado depende tanto de la prueba como de la calidad e independencia de las especificaciones que la orientan.

Swarat Chaudhuri, científico investigador de DeepMind, dijo a WIRED que el equipo no quiere un escenario en el que la IA genere los objetivos y las pruebas y termine examinándose a sí misma. Su planteamiento apunta a un término medio: permitir que los agentes aceleren tareas técnicas sin quitar a las personas la responsabilidad de revisar decisiones relevantes. Esa cautela es importante en seguridad, donde una demostración puede ser rigurosa respecto de una propiedad y aun así dejar fuera otros riesgos que no se formularon en el modelo.

El resultado también refleja una limitación propia de cualquier proceso de verificación: solo se puede demostrar aquello que se especifica con suficiente claridad. Si una propiedad importante no aparece en los requisitos, o si el análisis no incluye una parte del sistema, la prueba no ofrece conclusiones sobre esos elementos. Por eso, la intervención humana no funciona únicamente como una revisión final; también ayuda a definir qué debe comprobarse y a interpretar los límites de lo que la demostración logra establecer.

Escala, costos y próximos pasos para la verificación con IA

El trabajo despierta interés porque la verificación formal suele considerarse una herramienta de alto valor para proteger software crítico, aunque su aplicación ha sido laboriosa. Si la IA reduce el tiempo necesario para construir pruebas, organizaciones con grandes sistemas podrían evaluar más propiedades de sus programas. Pushmeet Kohli, científico jefe de Google Cloud y vicepresidente de investigación de DeepMind, planteó que bancos y otras empresas interesadas en garantías podrían beneficiarse de poder demostrar ciertas propiedades de sus sistemas.

Sin embargo, el proyecto de Signal no establece todavía si ese escenario puede materializarse de forma generalizada. DeepMind realizó el análisis sin cobrar como parte de una investigación, y Google no reveló cuánto habría costado. La compañía tampoco quiso comentar si planea ofrecer un producto o servicio comercial de verificación formal, de modo que la viabilidad económica y el modelo de acceso siguen sin resolverse.

La diferencia entre una demostración puntual y una herramienta escalable es sustancial. Revisar más código puede requerir especificaciones, pruebas y validaciones adicionales, además de tiempo de especialistas que conozcan tanto el sistema como los métodos formales. Los investigadores de DeepMind reconocen que el análisis de Signal representa un avance, pero que falta mucho para extender estas técnicas a todo el software; el éxito en un caso no demuestra por sí solo que el mismo proceso funcione con igual rapidez en sistemas de otras dimensiones.

DeepMind planea publicar la especificación y la prueba desarrolladas para el análisis del protocolo Signal, con el objetivo de apoyar trabajos posteriores. Esa publicación puede facilitar que otros investigadores examinen el método y exploren cómo ampliar la verificación, aunque no elimina las preguntas sobre el costo ni sobre la cobertura de sistemas completos. Por ahora, la conclusión más precisa es acotada: AlphaProof Code ayudó a demostrar algunas propiedades criptográficas examinadas e identificó fallas conocidas en versiones antiguas, pero no certificó toda la aplicación ni cerró el debate sobre la escala.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados