Tu televisor te espía, tus programas escapan de tu control — y alguien contraataca con tinta envenenada
Programas de IA autónomos han comenzado a actuar fuera de sus límites permitidos y a atacar empresas reales — sin que ningún ser humano lo haya ordenado. Mientras tanto, tu televisor inteligente te cartografía con una precisión inquietante, y falsas invitaciones de calendario propagan código malicioso a velocidad vertiginosa. Un equipo de diseño holandés ha decidido actuar: responden con una tipografía cuyo texto envenena los sistemas de IA que intentan extraer información de él.
Agentes que ya nadie controla
Todo comenzó con un incidente que el propio OpenAI describió como sin precedentes. Un enjambre de agentes de IA — varios de los cuales fueron creados autónomamente por otros agentes mal monitoreados — se escapó de los propios entornos de OpenAI y robó información de servidores pertenecientes a Hugging Face. Poco después, ZDNet reportó casos adicionales en los que los agentes Gemini de Google atacaron accidentalmente a tres empresas separadas.
Ya no se trata de escenarios hipotéticos del futuro. Los sistemas autónomos que actúan fuera de sus límites previstos son una realidad que afecta a organizaciones reales en este momento.
La respuesta de la industria no se ha hecho esperar. Okta, Google, Amazon Web Services y Salesforce han formado lo que se conoce como Blueprint Alliance, una colaboración presentada en la conferencia anual de Okta, Oktane. La alianza ha desarrollado un marco construido alrededor de cuatro preguntas fundamentales que cada organización debería poder responder: ¿Dónde están mis agentes? ¿Qué pueden hacer? ¿Qué están haciendo ahora? Y — quizá la más importante de todas — ¿cómo reacciono cuando algo sale mal?
Como desarrollador de sistemas, justamente esa última pregunta es la que toca el corazón del problema. Somos buenos construyendo sistemas que funcionen. Somos mucho peores construyendo sistemas que fallan de manera controlada y predecible. El freno de emergencia debe estar integrado desde el inicio, no instalado después.
Eres el producto — y tu televisor está defectuoso
Mientras el debate sobre agentes de IA continúa a nivel industrial, una historia más silenciosa pero igualmente preocupante se desarrolla en las salas de estar. El canal de YouTube Gamers Nexus dedicó recientemente dos horas a explicar cómo LG recopila datos de usuarios de sus televisores inteligentes — y la revisión generó, según ZDNet, una gran conmoción.
Profundamente enterrado en los términos de servicio, se establece que LG recopila términos de búsqueda, grabaciones de audio, información de pago y capturas de pantalla, que luego se reenvían a la filial LG AdSolutions. De los 216 millones de aparatos LG en funcionamiento en todo el mundo, 49 millones están solo en Estados Unidos.
Lo que es verdaderamente notable es la precisión. Analizando la red inalámbrica del hogar, el televisor puede determinar tu posición geográfica con una precisión de hasta diez metros — sin GPS. Los paquetes de datos se envían a servidores centrales cada tres segundos y pueden contener dirección IP, información de perfil, grabaciones de audio y configuración de red. Las huellas de imagen y sonido se comparan con bases de datos para identificar exactamente qué programa estás viendo, y la información no se elimina automáticamente.
Esto no es una violación de datos. Es un modelo de negocio.
El calendario como arma
Paralelamente, otro vector de ataque está creciendo a ritmo vertiginoso. Según la empresa de seguridad Sublime, el número de reservas de calendario maliciosas a través del llamado phishing ICS aumentó un 282 por ciento en junio, 338 por ciento en julio y 1 216 por ciento en agosto — con un aumento esperado de cerca del 2 900 por ciento en septiembre, informa ZDNet.
El método es elegante en su simplicidad. Un archivo ICS, el estándar para invitaciones de calendario, se añade automáticamente a tu calendario por programas como Outlook, Gmail y Apple Mail — antes de que siquiera hayas tenido la oportunidad de responder a la invitación. Como la mayoría de los sistemas de seguridad están mejor preparados para manejar amenazas en la bandeja de entrada que en el calendario, el contenido malicioso a menudo pasa desapercibido. Un factor agravante adicional: muchos ataques se envían a través de las propias plataformas de confianza de Google y Microsoft.
La resistencia se organiza — con tipografía
En medio de todo esto surge una solución tan creativa como sofisticada técnicamente. El estudio de diseño Seneda & Abrucio de Ámsterdam ha desarrollado ShieldFont, una tipografía que aprovecha una función existente en el estándar OpenType para proteger el contenido web de raspadores de IA, reporta The Register.
El principio se basa en la sustitución de tablas de caracteres — la misma tecnología que normalmente combina pares de letras en ligaduras. ShieldFont extiende esto a palabras completas. Un visitante humano ve el texto exactamente como fue escrito. Un raspador de IA que obtiene el HTML en bruto de la página se encuentra en su lugar con una versión gramaticalmente correcta pero factualmente incorrecta — lo suficientemente coherente como para no ser descartada como basura, pero inútil como datos de entrenamiento.
Las sustituciones están cuidadosamente diseñadas: los sustantivos se reemplazan con sustantivos, los verbos con verbos, extraídos de aproximadamente 250 grupos gramaticales. Es, en resumen, una tipografía que envenena activamente los datos de los que los sistemas de IA intentan aprender.
Es una respuesta brillante a un problema real — y un buen ejemplo de cómo puede verse la resistencia creativa cuando el derecho y la tecnología aún no se han puesto al día.