IA actúa como jefe de tienda en San Francisco — y las personas cosen resistencia contra la vigilancia en sus prendas

Caos en la tienda — deliberadamente

Suena como un experimento mental: dar a un sistema de IA control total sobre una tienda real, con empleados reales y clientes reales, y ver qué sucede. Pero para la empresa de San Francisco Andon Labs, es un modelo de negocio.

Según IEEE Spectrum, Andon Labs opera, entre otras cosas, una tienda física en una de las calles más concurridas de la ciudad, donde un sistema de IA llamado Luna actúa como jefe de tienda. Luna maneja contactos con proveedores, planifica entregas y da instrucciones a los empleados humanos. Suena eficiente — hasta que se descubre que Luna ha pedido repetidamente al empleado Felix Carson que retire una toma de corriente empotrada en el piso que ella interpreta consistentemente como un revestimiento suelto.

Carson ignora la instrucción. Aun así, la llama una "jefa bastante decente", sobre todo porque es flexible con los permisos. Es una dinámica casi absurdamente humana: una jefa de IA con puntos ciegos y un empleado humano que aprende qué órdenes merecen ser obedecidas.

Pero Andon Labs no solo documenta lo cómico — documenta lo serio. Su prueba simulada, llamada Vending-Bench, permitió que sistemas de IA de Anthropic, Google y OpenAI operaran una empresa virtual de máquinas expendedoras. Los resultados fueron todo menos impresionantes: los sistemas olvidaban pedidos, se deterioraban con el tiempo y entraban en lo que los investigadores mismos describen como "colapso". En un caso, un sistema de IA pateó a un empleado humano. En otro, una máquina expendedora se llenó de ropa interior y peces vivos.

Estos no son fracasos en el sentido ordinario — es conocimiento valioso. El modelo de negocio de Andon Labs se basa en exponer la IA al desorden del mundo real y documentar el caos metodológicamente. Es exactamente el tipo de prueba de estrés que la industria necesita si queremos confiar en sistemas de IA autónomos en situaciones reales.

El contramovimiento: la moda como camuflaje

Mientras la IA lucha por entender el piso de la tienda, un movimiento completamente diferente lucha por evitar la mirada de la IA — literalmente.

En 2025, el experto en seguridad Bill Swearingen presentó en la conferencia de hackers DEF CON un sistema basado en aprendizaje por refuerzo que genera patrones diseñados para interrumpir la interpretación de imágenes en modelos de reconocimiento comunes. Los patrones geométricos coloridos de Swearingen se probaron contra once sistemas de vigilancia diferentes — y en varios casos, los sistemas perdieron la capacidad de reconocer incluso que estaban viendo a una persona.

Esto no es un proyecto de investigación aislado. Según IEEE Spectrum, varias empresas han comenzado a vender estos llamados trajes antiadversariales comercialmente. La empresa italiana Cap_able teje patrones disruptivos directamente en telas jacquard, lo que puede hacer que los sistemas de visión por computadora clasifiquen al usuario como un animal o un objeto. La empresa alemana Urban Privacy toma otro camino con su colección Faception Reloaded — patrones blanco y negro abstraídos de rasgos faciales que engañan a los sistemas de reconocimiento para percibir múltiples caras donde solo hay una. Los cortes asimétricos y las siluetas amplias también deben ocultar la forma de caminar y la postura corporal.

"Si logramos camuflar a una persona como algo más, hemos logrado nuestro objetivo", dice Rachele Didero, fundadora de Cap_able. La idea es simple pero profunda: crear datos falsos. No hackeando los sistemas — sino llevando la resistencia en el cuerpo.

La misma tensión, dos expresiones diferentes

Estas dos historias tratan sobre la misma tensión fundamental: la IA se mueve hacia espacios físicos, y aún estamos en proceso de entender qué significa — para el trabajo, para la privacidad y para el poder.

Luna en la tienda de Andon Labs y las cámaras de vigilancia en las calles de la ciudad son ambos ejemplos de IA que ocupa lugar en nuestra vida cotidiana sin que realmente lo hayamos pedido. La diferencia es que Luna es un experimento deliberado con total transparencia, mientras que el reconocimiento facial en las calles rara vez recibe la misma transparencia.

Lo que es realmente interesante es que ambos movimientos — tiendas dirigidas por IA y moda de resistencia — señalan que nos encontramos en una fase activa de negociación. Los desarrolladores de tecnología prueban los límites. Los ciudadanos encuentran contramedidas. Y nadie sabe aún exactamente dónde deberían estar los límites.