Seis horas. Es todo lo que se necesita para hackear como una potencia mundial – ahora que todos tienen IA

Los atacantes llegaron primero

Seamos honestos: en la carrera por aprovechar todo el potencial de la IA no fueron los departamentos de seguridad quienes cruzaron la meta primero.

El grupo de análisis de amenazas de Google, GTIG, publicó recientemente un informe que debería despertar todas y cada una de las juntas directivas de Suecia. El grupo llamado TeamPCP logró – con la ayuda de herramientas de codificación basadas en IA y agentes automatizados – planificar, construir y ejecutar una campaña a gran escala para robar credenciales de inicio de sesión. Tiempo requerido: menos de seis horas. Lo que anteriormente exigía recursos al nivel del servicio de inteligencia de un estado nacional ahora está disponible para cualquiera que tenga las herramientas adecuadas y un presupuesto mediano.

Y no se detiene en redes criminales aisladas. Grupos respaldados por estados con vínculos con China, Irán y Corea del Norte utilizan todos la IA como parte integral de sus ataques. La IA funciona como un multiplicador de fuerza – democratiza el acceso a capacidades ofensivas avanzadas de una manera que la industria no ha previsto completamente.

El precio de una pizza por una herramienta de hacking

Para entender cuán cercana es realmente la amenaza, un periodista de tecnología estadounidense llevó a cabo un experimento: liberó un agente de seguridad de IA en su propia red doméstica. Según reporta Wired: el agente cartografió una docena de dispositivos, se infiltró en una computadora y expuso deficiencias de seguridad generalizadas en los propios proyectos de código del propietario – todo en cuestión de días.

La herramienta provenía de la startup Abliteration AI, que ofrece modelos de IA donde las restricciones de seguridad incorporadas han sido eliminadas mediante una técnica llamada abliteration. ¿El precio? Aproximadamente como una pizza. El fundador de la empresa argumenta que el acceso amplio a tales herramientas fortalece la defensa – que los bancos y compañías aéreas que desplieguen agentes a ritmo acelerado necesitan entender sus propias debilidades antes de que los atacantes las encuentren. Es un argumento que vale la pena tomar en serio, aunque sea incómodo.

Los datos de mala calidad cuestan más de lo que crees

Pero las vulnerabilidades de seguridad no son el único problema. En un evento de industria europeo el pasado verano dominó otra cuestión las conversaciones entre la élite del mundo financiero: ¿cómo se construye la solución de IA perfecta? La respuesta, según Finextra, es más prosaica que glamorosa – se trata de calidad de datos.

El sector financiero posee enormes cantidades de información, pero estos a menudo están dispersos entre sistemas heredados, almacenados en formatos incompatibles y afectados por errores históricos. El resultado es que las implementaciones caras de IA entregan resultados engañosos – o en el peor de los casos, conclusiones activamente engañosas que afectan evaluaciones crediticias, modelos de riesgo y experiencias de clientes. El antiguo dicho de TI "basura entra, basura sale" nunca se ha sentido más relevante.

El problema se agrava porque los tomadores de decisiones tienden a priorizar las partes visibles de la iniciativa de IA – las interfaces elegantes y las demostraciones impresionantes – sobre el aburrido trabajo fundamental de limpiar y estructurar datos. Es como comprar un coche de Fórmula 1 y llenar el tanque con leche desnatada.

La defensa se moviliza – por fin

La buena noticia es que el mercado responde. En el lado de la infraestructura se presenta ahora ORKS – Open Revocable Key Standard – un estándar abierto para claves de API con mecanismo de autodestrucción incorporado, según reporta SecurityWeek. La lógica es elegante: cada clave codifica la identidad del emisor y puede ser revocada inmediatamente a través de una dirección estandarizada. Resuelve un problema que curiosamente la industria ha ignorado desde el estándar OAuth en 2013.

Al mismo tiempo, los gigantes de chips AMD, Arm y Nvidia han coordinado la emisión de actualizaciones de seguridad para varias vulnerabilidades críticas en procesadores y controladores gráficos. E Ivanti cierra ocho agujeros de seguridad en sus productos empresariales – de los cuales seis se clasifican como críticos con puntuaciones de riesgo cerca del valor máximo de 9,9 de 10.

A nivel estratégico, la startup británica HelmGuard ha recaudado 76 millones de coronas suecas para construir herramientas impulsadas por IA para gestión de riesgos y cumplimiento normativo. El argumento de la empresa es acertado: la mayoría de plataformas fueron construidas para documentar un proceso, no para llegar a una conclusión. Agentes de IA que evalúan continuamente señales de riesgo directamente desde sistemas fuente – en lugar de confiar en documentación manual – representan un enfoque fundamentalmente diferente.

La amenaza es real. Pero las herramientas para enfrentarla por fin comienzan a madurar.