Miles de millones fluyen hacia la IA – pero la seguridad se queda en el andén

Cuando la velocidad se convierte en un proyecto de riesgo

Es difícil no maravillarse con la energía que existe en el sector de la IA en este momento. Tomemos AfterQuery como ejemplo: una empresa fundada por dos personas de veintitantos años, con raíces en el lote de invierno 2025 de Y Combinator, que según TechCrunch fue valorizada recientemente en 3,2 mil millones de dólares – una multiplicación por diez en menos de seis meses. Según Gustaf Alströmer, socio de Y Combinator, es la velocidad más rápida en la que alguien en la historia del acelerador ha pasado del lanzamiento al estatus de unicornio. No es una noticia, es casi una leyenda.

Al mismo tiempo, The Verge reporta que Google está dispuesto a pagar cientos de millones de dólares – potencialmente miles de millones – para licenciar contenido protegido por derechos de autor de Hollywood para sus modelos de IA. Solo el derecho de recrear un único personaje de Disney o Pixar puede generar hasta 40 millones de dólares para un estudio. Cifras de esa magnitud no señalan experimentación – señalan que el capital ha tomado una decisión.

Pero en medio de este flujo de capital eufórico, el analista Pete Shoard de Gartner pisa el freno.

– No creo que estén listos, dice, refiriéndose a las empresas que ahora están integrando rápidamente herramientas de IA en sus operaciones.

La brecha de seguridad de la que nadie habla en las reuniones de presentación

Según Computer Sweden, las amenazas para las empresas son tanto internas como externas. Información sensible puede filtrarse a grandes modelos de lenguaje sin que los usuarios ni siquiera sean conscientes de ello. Las herramientas de IA pueden cargar accidentalmente archivos confidenciales en repositorios de código abiertos. El riesgo inmediato más grande, explica Shoard, son las contraseñas codificadas y las claves criptográficas que a través de programas codificados incorrectamente crean entradas abiertas para los atacantes.

Estas no son amenazas abstractas. Son errores cotidianos que ocurren cuando las organizaciones fuerzan tecnología nueva en flujos de trabajo antiguos sin actualizar sus procedimientos de seguridad al mismo ritmo.

Las pequeñas y medianas empresas son especialmente vulnerables. A menudo carecen de recursos internos de seguridad y les resulta difícil financiar los servicios basados en contratos que ofrecen las grandes empresas de seguridad. El resultado es una brecha peligrosa: quienes tienen los menores márgenes para gestionar un incidente son también quienes están peor preparados para prevenirlo.

El analista Jack Gold de J. Gold Associates señala un patrón de comportamiento que es tanto humano como problemático – las empresas se enfoca más en levantar barreras que en entender qué necesitan proteger realmente.

Cuando ni siquiera sabemos qué estamos midiendo

A esto se suma una nueva herramienta del Allen Institute for AI, llamada BenchMIRT, que añade otra capa de complejidad. La herramienta revela que los puntos de referencia utilizados para evaluar la seguridad y confiabilidad de los sistemas de IA a menudo miden cosas completamente distintas de lo que pretenden hacer. El punto de referencia BBQ, diseñado para detectar si los sistemas de IA se basan en prejuicios sociales, resultó en la práctica estar midiendo razonamiento lógico general. WildJailbreak, que prueba la resistencia a indicaciones maliciosas, contiene una mezcla de señales que hacen que la interpretación sea incierta.

Esto significa que nos encontramos actualmente en una situación donde enormes flujos de capital impulsan una tecnología cuya seguridad no podemos verificar completamente – con herramientas que no miden lo que creemos que miden.

La oportunidad es real – pero requiere seriedad

Quiero ser claro: no veo esto como un argumento en contra de la transición a la IA. Todo lo contrario. El éxito de AfterQuery demuestra que existe una necesidad genuina y creciente de datos de entrenamiento de calidad. La apuesta de Google por Hollywood, por compleja que sea desde el punto de vista de los derechos de autor, señala que la IA generativa busca legitimidad cultural – lo cual es saludable para la industria a largo plazo.

Pero las oportunidades y los riesgos no son antípodas – son compañeros de viaje. Toda organización que hoy se apresura a implementar IA sin construir en paralelo su capacidad de seguridad asume un riesgo que no aparece en el documento de presentación pero muy bien podría aparecer en el próximo informe trimestral.

El cambio de un pensamiento de seguridad reactivo a uno preventivo – donde las organizaciones simulan activamente escenarios de amenaza y mitigan vulnerabilidades antes de que sean explotadas – no es un costo. Es un requisito previo para que la inversión en IA entregue realmente el valor que promete.