El instituto de seguridad que protege a otros fue hackeado – se sospecha que una IA autónoma estuvo detrás del ataque

El instituto de seguridad que no pudo protegerse a sí mismo

El 21 de septiembre ocurrió algo que ilustra el desafío de toda la industria de manera casi simbólica. DIVD – el instituto holandés cuya única misión es encontrar y revelar brechas de seguridad antes de que sean explotadas – se convirtió en víctima de un ataque de un tipo que nunca había visto antes. Según las propias declaraciones de DIVD, reportadas por SecurityWeek, todo indica que se utilizó un ataque impulsado por IA basado en agentes como herramienta. No un equipo de hackers humanos con café y ventanas oscurecidas – un agente de IA autónomo que buscaba, encontraba y atacaba.

Los atacantes explotaron dos brechas de seguridad previamente desconocidas en el sistema de gestión de casos Zammad, ambas con una gravedad de 9,4 de 10 posibles. Una de las fallas permitió la ejecución remota de código arbitrario sin autenticación. La otra permitió la escalada de privilegios a nivel de sistema. En conjunto, dieron a los atacantes una vía rápida desde el punto de ataque externo hasta el control total – en cuestión de segundos, gracias a la velocidad impulsada por IA del ataque. La segmentación de red limitó el daño, pero los datos se extrajeron de todas formas.

Esta no es una historia sobre negligencia. DIVD es profesional. Es una historia sobre cómo el terreno de juego ha cambiado fundamentalmente.

IA contra IA – la carrera armamentística ya está aquí

Kevin Mandia, fundador de la legendaria empresa de seguridad Mandiant – que Google compró por 5,4 mil millones de dólares – ve exactamente este patrón y está construyendo su próxima empresa en torno a él. Armadin, con apenas siete meses de antigüedad, ya ha recaudado un total de 445 millones de dólares y está valorada en más de 2,5 mil millones de dólares. La ronda de financiación más reciente de 255 millones de dólares fue liderada por los gigantes de capital de riesgo Andreessen Horowitz y Accel, según SecurityWeek.

La idea de negocio de Armadin es tan simple como inquietante: puesto que los atacantes ya están utilizando IA para encontrar y explotar debilidades más rápido de lo que los equipos humanos pueden reaccionar, la defensa debe hacer lo mismo. La empresa despliega enjambres de agentes de IA especializados que actúan como atacantes habilidosos – mapean puntos de ataque, prueban vulnerabilidades y combinan brechas aparentemente insignificantes en rutas de intrusión completamente funcionales. Todo en tiempo real, las 24 horas del día.

Es una respuesta lógica a una nueva realidad. Las pruebas de penetración tradicionales son como tomar una instantánea de un paisaje que cambia cada hora. El mercado vota con su cartera: los inversores creen en la visión de Mandia.

La responsabilidad que nadie quiere asumir

Pero aquí surge una pregunta más profunda y preocupante. ¿Quién es realmente responsable de que estas defensas estén en su lugar – y quién rinde cuentas cuando fallan?

El reciente informe de PwC Digital Trust Insights 2027, basado en respuestas de aproximadamente 4 000 líderes empresariales y tecnológicos en 71 países, pinta un panorama desolador. Una clara mayoría de las organizaciones carece de un rol designado con responsabilidad integral sobre la seguridad de la IA. Las respuestas de los equipos directivos están dispersas: el 29 por ciento considera que el director de TI debería tener la responsabilidad, el 26 por ciento prefiere una función de IA dedicada, el 17 por ciento apunta al director de seguridad de la información – y el 11 por ciento admite abiertamente que la distribución no está clara. Solo un tercio ha contratado a alguien con algún tipo de responsabilidad sobre IA en absoluto.

Es un vacío de responsabilidad de proporciones históricas. Tenemos una tecnología que se utiliza ofensivamente en ataques sofisticados contra infraestructuras críticas, y en las salas de juntas hay un tirón silencioso sobre quién debe asumir la responsabilidad – lo que en la práctica significa que nadie lo hace.

El informe establece un paralelo con cómo surgió en su momento el rol de director de seguridad de la información: el primer CISO en la historia fue designado en 1994, cuando Citigroup contrató a Steve Katz después de una serie de ciberataques rusos. Una crisis creó una nueva función profesional y un nuevo marco de responsabilidad. La historia parece lista para repetirse.

La oportunidad en el caos

Veo esto como un punto de inflexión decisivo – no una catástrofe, sino una obligación a madurar. Las empresas que ya ahora construyen estructuras claras en torno a la responsabilidad de la seguridad de la IA, invierten en monitoreo en tiempo real y tratan el riesgo de IA como una cuestión estratégica de la junta directiva, no como una cuestión de TI, tendrán una ventaja competitiva que solo crecerá. Los que esperen a que la regulación los obligue a actuar corren el riesgo de encontrarse en el lado equivocado de un precedente que no querían crear.