El sector financiero se lanza hacia el futuro de la IA, pero no sabe cómo protegerlo

La transformación se acelera, y la brecha crece

Suceden cosas en este momento. El sector financiero se encuentra en medio de uno de los cambios tecnológicos más rápidos de las últimas décadas, y cada semana se presentan nuevos ejemplos de cómo la IA gana terreno en la actividad principal. Liberty Finance ha puesto recientemente en funcionamiento la plataforma de financiación de activos de Lendscape, un sistema diseñado para hacer posibles flujos de trabajo impulsados por IA a lo largo de todo el ciclo de vida de los contratos de financiación, desde la solicitud hasta la liquidación. Paralelamente, TS Imagine anuncia que integra el análisis normativo en tiempo real en su plataforma de IA TSIQ, mediante el marco de protocolos de Gentek.ai. El objetivo: ofrecer a los agentes del mercado de capitales un soporte de decisiones integral en un panorama regulatorio cada vez más complejo.

Es un movimiento impresionante. Así es precisamente como se ve la transformación cuando ocurre de verdad.

Pero en medio de esta aceleración llega un informe de PwC que debería hacer que cada consejo de administración se detenga.

El punto ciego más cómodo

Según PwC, los directivos afirman que, entre todas las amenazas de ciberseguridad existentes, se sienten menos preparados para los ataques dirigidos específicamente contra los sistemas de IA. No el ransomware. No el phishing. No las amenazas internas. Los ataques contra la IA.

Es una paradoja difícil de ignorar: cuanto más agresivamente adopta una empresa la IA, mayor es la superficie de ataque que deja desprotegida. Los atacantes pueden manipular los datos con los que se entrenan los modelos de IA, alterar la base de información de las decisiones de los sistemas o aprovechar vulnerabilidades en las cadenas de software que rodean las soluciones, y todo ello sin que se active ni un solo cortafuegos tradicional.

Entiendo cómo se ha llegado hasta aquí. Las organizaciones han invertido con fuerza en introducir la IA, y esa es la prioridad correcta. Pero la protección de estos sistemas no ha seguido el mismo ritmo. No es descuido, es velocidad. La transformación ha avanzado tan rápido que el trabajo de seguridad ha quedado rezagado.

El problema es que esa brecha empieza a ser peligrosa.

Cuando la IA opera en infraestructuras críticas, las apuestas aumentan

Lo que hace que el informe de PwC sea especialmente relevante en este momento es el contexto. Liberty Finance gestiona con su nueva plataforma contratos de financiación sensibles para sus clientes. TSIQ, de TS Imagine, es utilizado por operadores profesionales y gestores de carteras para tomar decisiones en los mercados de capitales, en tiempo real y con el análisis normativo integrado directamente en el flujo.

No se trata de entornos experimentales. Son sistemas de producción en la actividad financiera principal.

Cuando la IA ocupa este nivel, cuando es la IA la que interpreta requisitos regulatorios, automatiza decisiones de crédito y dirige flujos de negociación, una brecha de seguridad deja de ser un asunto de TI. Es un riesgo empresarial, un riesgo regulatorio y, a la larga, un riesgo sistémico.

Para ponerlo en perspectiva: una manipulación de los datos de entrenamiento de un sistema de IA para evaluación crediticia puede dar lugar a decisiones sistemáticamente erróneas que afecten a miles de clientes antes de que nadie note nada. Un atacante que influya en la base de información de una plataforma de negociación puede causar daños que se extiendan mucho más allá del operador individual.

¿Qué se necesita ahora?

Lo alentador es que la solución existe, pero requiere un tipo de pensamiento en seguridad distinto al que la mayoría de las organizaciones está acostumbrada. La protección de los sistemas de IA no consiste solo en mantener alejados a los usuarios no autorizados de los servidores. Se trata de:

• Revisar y probar los modelos de IA de forma continua, no solo en el momento del lanzamiento
• Proteger toda la cadena de datos, desde la recopilación hasta el entrenamiento y la puesta en funcionamiento
• Desarrollar competencia interna que entienda cómo funcionan los ataques específicos contra la IA
• Integrar la seguridad como principio de diseño, no como un añadido posterior

Las empresas que ya están desarrollando esta capacidad en paralelo con su apuesta por la IA tendrán una ventaja considerable, no solo en seguridad, sino también en la confianza de clientes y autoridades supervisoras.

La oportunidad es enorme. Pero exige que tomemos la seguridad tan en serio como la transformación.