Por Angel Di Matteo   𝕏 @shadowargel

Después de unos 31 millones de pruebas, el investigador Bill Swearingen asegura haber desarrollado patrones visuales capaces de confundir el sistema de detección utilizado por cámaras de vigilancia de Flock. El vehículo continúa siendo perfectamente visible para las personas, pero el modelo de IA puede dejar de reconocerlo como automóvil.

***

  • Bill Swearingen realizó alrededor de 31 millones de pruebas durante un año para desarrollar los patrones de noRecognition.
  • Una demostración en Def Con utilizó un Toyota Yaris de 2009 cubierto con uno de los diseños frente a una cámara de Flock.
  • La técnica explota las diferencias entre la percepción humana y los sistemas de visión artificial mediante aprendizaje automático adversarial.

 

Un automóvil cubierto por un llamativo patrón gráfico puede seguir pareciendo perfectamente normal para una persona y, al mismo tiempo, convertirse en algo difícil de interpretar para una inteligencia artificial. Esa diferencia entre percepción humana y visión computacional es precisamente lo que el investigador de seguridad Bill Swearingen lleva aproximadamente un año intentando explotar.

Desde su casa en Kansas City, Swearingen, cofundador del encuentro de seguridad SecKC, ejecutó alrededor de 31 millones de pruebas para desarrollar patrones destinados a confundir sistemas automatizados de detección. El proyecto, denominado noRecognition, apunta específicamente a tecnologías de vigilancia desplegadas en espacios públicos.

Swearingen presentó públicamente los resultados por primera vez el viernes durante la conferencia de seguridad Def Con. Junto con el canal Donut Media, cubrió un Toyota Yaris de 2009 con uno de sus nuevos patrones y lo hizo circular frente a una cámara de Flock.

Según explicó el investigador a TechCrunch, la demostración confirmó la efectividad del sistema, aunque las ruedas del automóvil plantearon dificultades adicionales. Donut Media tiene previsto publicar un video del experimento durante las próximas semanas.

El automóvil no desaparece, la IA deja de entender lo que está viendo

La técnica no bloquea físicamente la cámara ni impide que registre imágenes. El video continúa grabándose normalmente y cualquier persona que observe las imágenes puede reconocer que delante de la cámara circula un automóvil.

El objetivo es confundir la capa de inteligencia artificial encargada de interpretar esas imágenes. Ese software identifica objetos como vehículos y matrículas para posteriormente clasificarlos y registrar la información correspondiente.

Los diseños desarrollados por Swearingen introducen ruido visual específicamente construido para interferir con los cálculos utilizados por esos modelos. Para una persona, el resultado puede parecer simplemente una decoración gráfica particularmente estridente.

Un algoritmo de visión artificial procesa esas mismas formas de manera diferente. Bajo determinadas condiciones, el patrón puede impedir que el clasificador determine correctamente que el objeto observado corresponde a un automóvil.

Como resultado, el vehículo permanece físicamente visible en la grabación, pero puede dejar de producir el registro automatizado que normalmente generaría el sistema. En lugar de eliminar la evidencia visual, la técnica busca neutralizar la interpretación automática que convierte una grabación en información estructurada y rastreable.

Una IA aprende a engañar a otra IA

El principio utilizado por noRecognition pertenece al campo del aprendizaje automático adversarial, que estudia cómo entradas especialmente diseñadas pueden provocar errores en sistemas de inteligencia artificial.

Swearingen desarrolló sus diseños utilizando un modelo de aprendizaje por refuerzo que evalúa repetidamente sus propios resultados. Si un patrón continúa siendo detectado, el sistema lo modifica y vuelve a probarlo, repitiendo el proceso para encontrar configuraciones más efectivas.

El investigador describió el procedimiento como enseñar al modelo “cómo pintar”. Después de millones de iteraciones, el sistema puede producir actualmente nuevos patrones aproximadamente cada minuto.

Swearingen asegura que conserva fuera de línea algunos de los diseños más efectivos. Su intención es evitar que los fabricantes de cámaras obtengan fácilmente esos patrones y los incorporen a nuevos conjuntos de entrenamiento para enseñar a sus sistemas a reconocerlos.

Cada fallo, según explicó, proporciona información que permite mejorar el modelo. La competencia podría convertirse así en un proceso continuo donde los sistemas de detección aprenden a reconocer nuevos patrones mientras las herramientas adversariales buscan nuevas maneras de confundirlos.

El proyecto apunta directamente a la vigilancia automatizada

La motivación de Swearingen no es únicamente técnica. El investigador presenta noRecognition como una herramienta relacionada con la privacidad y sostiene que las personas deberían tener mecanismos para evitar el seguimiento automatizado.

La idea comenzó a tomar forma el año pasado, cuando consideraba asistir a una protesta y le preocupaba que las cámaras pudieran registrar automáticamente a quienes participaran. Swearingen sostiene que la privacidad constituye un derecho fundamental y describe sus patrones como una posible forma de excluirse de determinados sistemas de rastreo.

Su trabajo presta especial atención a Flock, cuyos sistemas de vigilancia y lectura automatizada se han extendido por Estados Unidos. La compañía también enfrenta un creciente escrutinio político por el alcance potencial de esas tecnologías.

Documentos internos citados en la información de referencia mostraron que Flock planteó un proyecto para convertir 350.000 cámaras instaladas en vehículos de Uber y Lyft en una flota móvil capaz de escanear matrículas.

La preocupación alrededor de estas tecnologías también responde a errores documentados en sistemas automatizados. Lectores de matrículas han contribuido anteriormente a detenciones erróneas de conductores inocentes, mientras herramientas de análisis basadas en IA han generado críticas por su utilización para rastrear inmigrantes y manifestantes.

La batalla entre vigilancia y evasión no comenzó con la IA

Los intentos de confundir sistemas automatizados existen desde mucho antes de noRecognition. Activistas y especialistas en privacidad llevan años experimentando con técnicas físicas y visuales para interferir con cámaras, vehículos autónomos y reconocimiento facial.

En San Francisco, por ejemplo, activistas descubrieron que colocar conos de tráfico sobre el capó de robotaxis de Waymo y Cruise podía inmovilizar temporalmente los vehículos. El método explotaba el comportamiento del sistema autónomo sin necesidad de modificar software.

También existen prendas diseñadas con patrones que pretenden confundir algoritmos de reconocimiento facial. Otros productos incluyen gafas y accesorios que prometen reducir la capacidad de estos sistemas para identificar personas, aunque la evidencia sobre la eficacia de algunas soluciones ha sido limitada.

La diferencia que Swearingen atribuye a su proyecto reside en haber probado sus diseños específicamente contra tecnologías utilizadas a gran escala. En lugar de desarrollar un patrón genérico contra la visión computacional, su trabajo busca evaluar sistemas concretos desplegados en el mundo real.

El debate se extiende además hacia otros dispositivos. Legisladores estadounidenses también han planteado interrogantes a Meta sobre las capacidades de reconocimiento facial vinculadas a gafas inteligentes, ampliando las discusiones sobre qué herramientas pueden utilizar legalmente las personas para resistirse al reconocimiento automatizado.

De un Toyota experimental a camisetas y vehículos

Swearingen intenta ahora convertir noRecognition en un proyecto accesible para otras personas. La iniciativa mantiene una campaña de financiación colectiva destinada a producir inicialmente camisetas y sudaderas con sus diseños.

Una etapa posterior contempla cubiertas completas para automóviles. El desafío consiste en conseguir suficiente resolución para mantener la efectividad de los patrones a distancia sin sacrificar completamente su atractivo visual.

El uso de estos diseños sobre vehículos también introduce interrogantes legales independientes de su efectividad técnica. Las normas relacionadas con matrículas y su obstrucción varían entre estados de Estados Unidos, aunque Swearingen especifica que sus patrones cubren la carrocería y no las placas.

Por ahora, la demostración representa principalmente una prueba de las limitaciones inherentes a la visión artificial. Una cámara puede registrar correctamente cada píxel de una escena y aun así fallar cuando otro sistema debe determinar qué significan esos píxeles.

La paradoja resume buena parte del problema: el Toyota sigue allí, el conductor humano puede verlo y la cámara conserva la grabación. Lo único que desaparece es la certeza de la máquina sobre aquello que tiene delante.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados