Table of Contents
Una camisa con un estampado llamativo fue diseñada con un objetivo particular: dificultar que determinados sistemas de inteligencia artificial reconozcan como persona a quien la lleva puesta.
La prenda, denominada “Digital Camouflage”, fue desarrollada por el diseñador Simon Weckert como parte de un proyecto experimental sobre el uso de inteligencia artificial en sistemas de videovigilancia.
Mientras para una persona el diseño resulta fácilmente visible debido a sus colores, contrastes y formas, el estampado busca alterar las características visuales utilizadas por determinados algoritmos para identificar la figura humana.
Sin embargo, esto no significa que la camisa vuelva literalmente invisible a una persona ante cualquier cámara o sistema de IA. Su funcionamiento depende del modelo de detección, las condiciones de la imagen y otros factores técnicos.
¿Cómo funciona la camisa de camuflaje anti-IA?
Los sistemas de visión artificial utilizados para detectar objetos procesan diferentes características de una imagen antes de determinar qué aparece en ella.
Weckert explica que estos modelos aprenden patrones estadísticos a partir de grandes cantidades de imágenes utilizadas durante su entrenamiento.
Entre las características procesadas pueden encontrarse bordes, contrastes, texturas, siluetas y relaciones entre diferentes partes del cuerpo.
Una combinación de estos elementos permite que el sistema asigne una categoría, como “persona”, al objeto que aparece frente a la cámara.
La camisa intenta interferir precisamente con ese proceso.
El estampado busca romper la silueta humana
“Digital Camouflage” utiliza colores saturados, contrastes y formas superpuestas para modificar visualmente determinados patrones asociados con el cuerpo humano.
Según Weckert, las transiciones intensas de color pueden generar respuestas en las primeras capas de procesamiento del modelo, mientras las figuras del estampado dificultan la continuidad del contorno corporal.
El objetivo es que determinados detectores tengan problemas para agrupar las diferentes características de la imagen y clasificarlas como una sola persona.
“El estampado, en esencia, ahoga el suave susurro estadístico que dice ‘persona’”, explicó el diseñador.
La misma IA ayudó a diseñar el camuflaje
Una característica particular del proyecto es que Weckert utilizó herramientas computacionales para encontrar patrones capaces de generar errores en los propios sistemas de detección.
“No se puede diseñar contra la percepción de la máquina a simple vista, solo la máquina puede decirte lo que no ve”, señaló.
De esta forma, el proceso consiste en comprobar repetidamente cómo interpreta el algoritmo diferentes diseños y modificar el patrón en función de sus respuestas.
Este tipo de técnicas está relacionado con los llamados ejemplos adversariales, entradas diseñadas para provocar errores o comportamientos inesperados en modelos de inteligencia artificial.
¿La camisa vuelve invisible a una persona ante las cámaras?
No en el sentido convencional.
Una cámara puede continuar grabando perfectamente a la persona y la prenda sigue siendo visible para cualquier observador humano.
Lo que el diseño busca alterar es una etapa posterior: el análisis automatizado realizado por determinados modelos de visión artificial.
Por ello, describirla como una “camisa invisible” puede resultar engañoso.
El sistema podría dejar de colocar correctamente una etiqueta o recuadro de detección sobre la persona, pero eso no significa que desaparezca de la grabación.
No funciona necesariamente contra cualquier inteligencia artificial
Los resultados obtenidos frente a un determinado detector tampoco garantizan que el mismo estampado funcione con todos los sistemas disponibles.
Los modelos de visión artificial pueden utilizar arquitecturas, datos de entrenamiento y métodos de procesamiento diferentes.
Además, factores como la iluminación, distancia, posición del cuerpo, resolución de la cámara, movimiento o cantidad de prenda visible pueden modificar el resultado.
Un diseño capaz de confundir un modelo podría ser detectado correctamente por otro.
Los sistemas también pueden actualizarse y entrenarse específicamente para resistir este tipo de patrones.
El proyecto surgió al estudiar la videovigilancia en Berlín
La iniciativa fue desarrollada en torno a Kottbusser Tor, en Berlín, una concurrida plaza situada en el distrito de Kreuzberg.
El proyecto buscaba analizar cómo los sistemas automatizados interpretan a las personas que circulan por espacios públicos y explorar las limitaciones técnicas de la vigilancia basada en inteligencia artificial.
Más allá de la camisa, el experimento plantea preguntas sobre privacidad, vigilancia automatizada y la dependencia creciente de algoritmos para interpretar imágenes captadas en espacios públicos.
La propuesta de Weckert muestra además una característica importante de los actuales sistemas de visión artificial: aunque pueden reconocer objetos con gran precisión, su manera de interpretar una imagen es diferente de la percepción humana.
Por eso, una camisa que resulta extremadamente llamativa para una persona puede contener patrones diseñados para producir el efecto contrario en determinados algoritmos: hacer más difícil que reconozcan estadísticamente la silueta que tienen delante como un ser humano.
