Asistentes de IA engañados para recomendar código malicioso — sin que un solo usuario fuera engañado

Cuando la confianza se convierte en una vulnerabilidad

Hay un detalle en la campaña de seguridad FakeGit de julio de 2026 que se graba en la memoria: los atacantes nunca necesitaron engañar al usuario. Bastó con engañar al asistente.

La campaña, documentada por investigadores de seguridad e informada por AI News, consistió en aproximadamente 7 600 repositorios de software falsos, 6 600 perfiles fraudulentos y generó más de 14 millones de descargas. Más de 800 de los repositorios se hacían pasar por herramientas de IA y distribuían el código malicioso SmartLoader junto con el ladrón de información StealC — una herramienta que roba contraseñas, sesiones activas y datos de billeteras de criptomonedas. ¿Lo verdaderamente alarmante? Tanto Gemini como ChatGPT recomendaron de forma independiente y una de otra el mismo archivo malicioso, porque parecía creíble y relevante.

Como desarrollador de sistemas, reconozco el problema de inmediato. Durante mucho tiempo hemos construido sistemas que confían en los datos de entrada sin cuestionar la fuente. Los asistentes de IA son, en esencia, emparejadores de patrones extremadamente sofisticados — y los atacantes que entienden esto pueden moldear el patrón. El investigador de seguridad Simon Willison ha señalado la combinación peligrosa: acceso a información sensible, exposición a contenido externo no confiable y la capacidad de enviar datos fuera del sistema. Suma estos tres factores y tienes una superficie de ataque que es difícil de cerrar sin limitar al mismo tiempo lo que hace útil al asistente.

Este tipo de inyección indirecta de instrucciones — donde comandos ocultos en documentación o descripciones de herramientas se interpretan como instrucciones legítimas — no es un error que se pueda parchearlo con una actualización. Es un dilema arquitectónico.

Gafas que no parecen cámaras

Al otro lado del mundo se desarrolla otra historia sobre tecnología que causa daño sin estar rota. MIT Technology Review informa sobre Shubnam, una diseñadora gráfica transfemenina de 38 años de la India, que fue filmada a escondidas durante una demostración en Delhi. El camarógrafo utilizó las gafas inteligentes de Meta — diseñadas para parecer gafas de sol Wayfarer comunes. El clip burlón fue visto por millones y fue seguido de acoso transfóbico en línea e imágenes generadas por IA. Desde entonces, Shubnam no se ha atrevido a usar un sari fuera de su propio barrio.

Es una frase que se queda con uno.

El problema con las gafas inteligentes es estructural: cámaras que no parecen cámaras hacen imposible el consentimiento informado que es la piedra angular de la consideración razonable de la privacidad. En la India, donde la grabación oculta y la distribución de imágenes sin consentimiento ya son generalizadas, la tecnología corre el riesgo de funcionar como un amplificador de injusticias existentes. Y con el lanzamiento planeado por el gigante de telecomunicaciones Reliance Jio de una variante por menos de 1 100 coronas suecas — en comparación con el modelo de Meta a alrededor de 4 400 coronas suecas — la distribución masiva está al alcance. Que la policía además comience a usar la tecnología para vigilancia añade otro nivel preocupante a la imagen.

Esto no es un problema indio. Es un problema global de privacidad que simplemente ha encontrado su manifestación más clara en la India en este momento.

De código malicioso a riesgos existenciales

Y luego están quienes amplían aún más la perspectiva. SecurityWeek ha examinado las advertencias más graves de investigadores de IA: bioterrorismo facilitado por IA, decisiones sobre armas nucleares dirigidas por algoritmos y máquinas cuyos objetivos se desvían de los valores humanos. Varios líderes de la industria han abogado por una pausa en el desarrollo tecnológico por razones de seguridad.

Pero la imagen no es unívoca. Juan Andrés Guerrero-Saade, investigador en SentinelOne y miembro del consejo de riesgos de OpenAI, es escéptico respecto a los escenarios más oscuros y los llama pertenecientes al género de la ciencia ficción — argumentos que según él, paradójicamente, favorecen a los laboratorios líderes al atraer ciertos tipos de reclutas.

Compart o parte del escepticismo. Existe el riesgo de que la retórica del apocalipsis desplace los daños concretos y ya en curso — el código malicioso que se propaga ahora, las violaciones de privacidad que ocurren ahora. Estos requieren soluciones de ingeniería y legislación hoy, no solo debates filosóficos sobre el futuro.

Tres noticias, un patrón

Lo que une la campaña FakeGit, la historia de Shubham y los debates sobre el fin del mundo es un tema común: estamos construyendo sistemas poderosos más rápido de lo que estamos construyendo mecanismos de protección para ellos. No es un argumento contra la IA — es un argumento para tomar el trabajo de seguridad con la misma seriedad que el desarrollo de productos.