Por Canuto  

Una camisa estampada creada por el artista Simon Weckert pone a prueba la capacidad de las cámaras con IA para reconocer personas y reabre el debate sobre privacidad, vigilancia y confianza algorítmica.

***

  • El artista berlinés Simon Weckert diseñó Digital Camouflage para reducir la confianza de los sistemas de detección de personas.
  • El patrón adversarial fue probado contra YOLO y utiliza colores saturados y formas superpuestas para distorsionar la silueta humana.
  • La prenda cuesta aproximadamente USD $88, pero su creador aclara que no garantiza anonimato frente a sistemas específicos.

 

El artista y tecnólogo berlinés Simon Weckert creó una camisa abotonada llamada Digital Camouflage, diseñada para dificultar que algunas cámaras de detección de objetos con inteligencia artificial reconozcan a quien la lleva como una persona.

La prenda apareció como respuesta al sistema de videovigilancia con IA que comenzó a operar este mes en Kottbusser Tor, un concurrido punto de tránsito del distrito Kreuzberg, en Berlín.

La propuesta no se presenta como una herramienta infalible de anonimato, sino como una provocación sobre la confianza que merecen los sistemas automatizados. Según explicó Weckert, bastaría una tela relativamente barata para poner en evidencia que un modelo puede perder seguridad ante una apariencia que se aleja de los patrones utilizados durante su entrenamiento.

El estampado combina formas entrelazadas en tonos rosas, naranjas y verdes, con una apariencia cercana a la de una camisa hawaiana especialmente llamativa. Para una persona, el diseño puede parecer simplemente estridente; para un detector computarizado, la mezcla altera los bordes, las texturas y el contorno corporal que suelen contribuir a identificar una figura humana.

La iniciativa llega en un momento de mayor rechazo contra redes de cámaras y sistemas automatizados de monitoreo. Cryptopolitan vinculó el proyecto con una reacción más amplia registrada en 2026 contra herramientas de vigilancia, incluida la red de lectores de placas de Flock Safety en Estados Unidos.

Cómo funciona el patrón adversarial

Weckert sostiene que estos sistemas no aprendieron una definición abstracta de lo que es una persona, sino una representación estadística de cómo suelen verse los seres humanos en millones de imágenes de entrenamiento. En las primeras capas de una red neuronal, el modelo identifica bordes y texturas, mientras que en capas más profundas intenta reconocer elementos como la cabeza, los hombros y las proporciones de las extremidades.

Digital Camouflage intenta interferir con ambas etapas del proceso mediante colores saturados y formas que se superponen sobre la silueta del cuerpo. La idea es que las señales visuales iniciales resulten demasiado intensas y que, posteriormente, el sistema no logre reunir las distintas partes en una única figura humana con suficiente confianza.

El diseño se construyó mediante un proceso que Weckert describe como un bucle adversarial. Primero generaba un estampado candidato, después lo mostraba a un detector para medir cuánta seguridad conservaba el software al identificar a una persona y, finalmente, modificaba el patrón para repetir la prueba.

Para esas rondas, el artista utilizó un método generativo identificado como TC-EGA, sigla de Toroidal-Cropping-based Expandable Generative Attack, y contrastó los resultados con YOLO. Este último es un sistema de detección de objetos en tiempo real y de código abierto, basado en una clase de tecnología similar a la que emplean numerosos productos comerciales de vigilancia.

Una advertencia, no una promesa de anonimato

El alcance de la camisa tiene límites importantes. Weckert aclaró que no la diseñó para derrotar una cámara gubernamental específica, porque los sistemas externos no pueden probarse de manera completa desde fuera de sus arquitecturas, configuraciones y condiciones operativas.

En su propio sitio, el creador advierte que Digital Camouflage no constituye una promesa de anonimato y que no afirma vencer ningún despliegue concreto de vigilancia. Esa precisión distingue el proyecto artístico de una solución de seguridad: que un patrón reduzca la confianza de un modelo en una prueba no significa que oculte al usuario de todas las cámaras, sensores o métodos de identificación.

La prenda se comercializa por aproximadamente USD $88, y una parte de cada venta se destina a grupos dedicados a los derechos civiles digitales. El precio y el destino de esos fondos refuerzan el carácter público de la obra, que busca estimular una discusión sobre privacidad más que ofrecer una garantía técnica para quienes la compren.

La discusión también plantea una pregunta relevante para el desarrollo de la IA: si un sistema puede ser confundido por una alteración visual relativamente sencilla, ¿qué nivel de precisión y supervisión debería exigirse antes de utilizarlo en espacios públicos? La respuesta no depende solamente de que una cámara acierte o falle, sino de las consecuencias que puede producir una clasificación errónea sobre personas que no tienen forma de revisar el proceso.

El contexto internacional de la vigilancia automatizada

El proyecto se relaciona directamente con las cámaras instaladas, de acuerdo con los reportes sobre el sistema de videovigilancia de Berlín, en Kottbusser Tor. El software busca clasificar a los transeúntes entre comportamientos considerados “normales” y “sospechosos”, y el artista cree que otras tres ubicaciones de Berlín podrían seguir en la lista.

La clasificación automatizada de conductas introduce una capa adicional de riesgo frente a la simple observación de imágenes. Un sistema no solo intenta detectar que hay una persona, sino que puede convertir señales ambiguas en categorías con efectos potenciales sobre la forma en que las autoridades o los operadores interpretan una situación.

En Estados Unidos, el gobernador de Texas, Greg Abbott, ordenó el viernes a las agencias estatales dejar de financiar a Flock Safety, cuyos lectores de placas superan los 120.000 dispositivos en 49 estados. Además, el senador republicano Josh Hawley abrió una investigación sobre la manera en que la empresa gestiona los datos capturados por su red.

El rechazo a Flock Safety aumentó después de informes sobre usos abusivos del sistema con fines personales. En un caso, un oficial de Kentucky accedió aproximadamente 2.000 veces para vigilar los movimientos de su expareja, mientras que otro agente de Georgia, quien también era jefe de policía, realizó más de 600 búsquedas sobre su exnovia y la hija de ella antes de quitarse la vida mientras enfrentaba cargos por acoso y uso indebido de equipo policial.

Del experimento de Google Maps al debate público

Digital Camouflage no es el primer proyecto de Weckert que utiliza una manipulación de sistemas automatizados para cuestionar su funcionamiento. En 2020, el artista arrastró por Berlín un carrito con 99 teléfonos para simular un atasco de tráfico en Google Maps, una acción que mostró cómo una señal artificial podía alterar la representación digital de una calle.

Ambas obras parten de una premisa parecida: los sistemas basados en IA pueden producir resultados convincentes sin comprender el mundo de la misma forma que las personas. En un caso, la intervención modificó un mapa; en el otro, intenta modificar la lectura que una cámara hace de un cuerpo humano mediante un patrón visual cuidadosamente construido.

La diferencia es que la vigilancia con IA opera sobre espacios compartidos y puede involucrar decisiones relacionadas con seguridad, movilidad o intervención policial. Por esa razón, la posibilidad de confundir un detector no debería presentarse como una invitación a evadir controles, sino como una señal para exigir transparencia, auditorías y límites claros al uso de estas herramientas.

La camisa deja abierta una cuestión que seguirá acompañando a la expansión de la inteligencia artificial: cuando un modelo falla ante una apariencia inesperada, el problema no es solamente técnico, sino también institucional. La obra de Weckert convierte esa fragilidad en una imagen fácil de entender, justo cuando Berlín y otras ciudades discuten cuánto poder deben conceder a los sistemas que observan y clasifican a sus habitantes.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA.

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados