El sector financiero exige: la IA debe demostrar que funciona, no solo afirmar que funciona

La crisis de confianza que nadie puede seguir ignorando

Durante mucho tiempo ha existido un acuerdo tácito en el sector financiero: si un sistema de IA parece funcionar y no han estallado grandes escándalos, confiamos en él. Ese acuerdo está empezando a desmoronarse.

Un artículo de opinión publicado en Finextra afirma lo que muchos en el sector han susurrado, pero pocas veces han dicho en voz alta: no basta con que una organización afirme que sus soluciones de IA son fiables o justas. Los usuarios, las autoridades supervisoras y el público exigen ahora poder examinar y confirmar esas afirmaciones, sobre una base técnica y organizativa real, no sobre directrices bien formuladas.

Es un cambio de paradigma. Y está ocurriendo ahora mismo.

De las palabras a las huellas auditables

El problema central, como destaca el artículo de Finextra, es estructural: faltan estándares comunes sobre cómo medir, informar y verificar la confianza por parte de terceros independientes. Los métodos actuales para comunicar la seguridad de la IA son demasiado vagos y, en la práctica, imposibles de comprobar desde fuera.

Lo que se necesita es concreto:

• Registros de decisiones auditables: ¿cómo toma decisiones el sistema de IA y puede explicarse a posteriori?
• Auditoría independiente de los algoritmos y los datos de entrenamiento
• Cadenas de responsabilidad claras cuando un sistema de IA causa daños

No es ciencia ficción. Es trabajo de ingeniería y cultura organizativa. Con el Reglamento de IA de la UE a punto de entrar en vigor, la presión regulatoria aumenta, pero la cuestión es si la normativa por sí sola basta o si es el propio sector el que debe tomar la iniciativa.

Mi convicción es que es lo segundo. La regulación establece el suelo. La ambición establece el techo.

Sumsub construye la infraestructura que exige la confianza

Una respuesta concreta a este desafío llegó recientemente de la empresa de cumplimiento normativo impulsada por IA Sumsub. Durante la conferencia Token2049 en Singapur, la compañía lanzó un portal para la conocida como debida diligencia reutilizable del cliente: un sistema en el que un usuario que ya ha pasado por la verificación de identidad con una entidad puede reutilizar esa verificación con otras entidades dentro de la misma red.

La primera en integrar la solución es MiniPay, una de las carteras de monedas digitales estables de más rápido crecimiento. Es una solución elegante para un problema doble: para los usuarios se reduce drásticamente la fricción, mientras que las empresas de la red pueden partir de clientes ya revisados y verificados, con menores costes de cumplimiento normativo como consecuencia.

Pero lo interesante aquí no es solo la comodidad. Es la arquitectura. Sumsub no construye una herramienta aislada, sino una infraestructura para una confianza escalable y compartible. Es precisamente el tipo de solución que reclama el debate sobre la confianza verificable en la IA: sistemas en los que la verificación no se queda encerrada en una sala cerrada, sino que puede circular, reutilizarse y auditarse.

Los bancos elevan el listón, pero el equilibrio es difícil

Al mismo tiempo, Finextra informa de cómo los principales bancos del mundo están reforzando su protección contra el fraude de cara a 2026. La amenaza ha cambiado de forma fundamental: la IA permite ahora una comunicación engañosa más convincente y ataques automatizados a una escala que antes requería grandes organizaciones criminales.

La respuesta de los bancos combina la supervisión de transacciones en tiempo real, un control de identidad mejorado y una comunicación proactiva con los clientes ante actividad sospechosa. Las estrategias de varias entidades líderes se basan en combinar el aprendizaje automático con la experiencia humana: no se trata de una opción o la otra, sino de una interacción.

Sin embargo, persiste el dilema central: demasiados obstáculos en el flujo de pagos frustran a los clientes, y muy pocos abren la puerta a los estafadores. Es un equilibrio que exige precisamente lo que todo el sector empieza ahora a reclamar: sistemas de IA que no solo funcionen, sino que puedan demostrar que funcionan, y cuyos márgenes de error puedan medirse y explicarse.

Un sector que despierta

Lo que une estos tres movimientos —la exigencia de confianza verificable, la solución de infraestructura de Sumsub y la modernización de la protección contra el fraude por parte de los bancos— es la constatación de que la IA ya no es un experimento. Es infraestructura de importancia crítica para la sociedad.

Y la infraestructura de importancia crítica exige algo más que buena voluntad. Exige capacidad de auditoría, responsabilidad y estructuras que aguanten incluso cuando surgen problemas.

No es un obstáculo para la transformación de la IA. Es su condición indispensable.