Los bancos se apresuran a desplegar IA autónoma, pero la gobernanza se cose a posteriori
Los sistemas de IA autónomos que toman miles de decisiones al día en cuentas reales de clientes ya no son una visión de futuro, sino la realidad a la que se enfrenta el sector financiero en este momento. Pero mientras los bancos compiten por desplegar lo último, los expertos señalan un punto ciego decisivo: la gobernanza rara vez se incorpora desde el principio, sino que se cose a posteriori, cuando los problemas ya han surgido. Es un error que puede resultar costoso.
La verdadera competencia no gira en torno a la tecnología
Es fácil quedarse atrapado en el debate sobre qué modelo de IA es el más inteligente o qué sistema puede automatizar más procesos. Pero los bancos que realmente lograrán la transición hacia la IA son los que entienden que la tecnología es la parte sencilla.
¿Y la parte difícil? Construir las estructuras que permiten usar la tecnología a gran escala, de una manera que sea responsable, trazable y predecible.
Ese fue el núcleo del mensaje que Akber Jaffer, consejero delegado de Smartstream, transmitió en la edición de este año de Sibos, una de las principales conferencias del mundo sobre tecnología financiera. Y es un mensaje que da en el centro de los desafíos a los que el sector financiero, incluidos los grandes bancos suecos, se enfrenta en este momento.
El paso del piloto a la producción es enorme
Hoy en día, muchos bancos tienen proyectos piloto exitosos con IA agéntica: sistemas que pueden tomar decisiones de forma independiente, ejecutar flujos de trabajo complejos y actuar sin una supervisión humana constante. Es impresionante. El problema surge cuando se intenta dar el siguiente paso.
Un proyecto piloto puede gestionarse con un equipo pequeño, controles estrictos y una exposición limitada. Pero cuando un sistema agéntico debe desplegarse a gran escala, tomando miles de decisiones al día en cuentas reales de clientes y con dinero real, todo el perfil de riesgo cambia.
Según Finextra, una de las conclusiones más importantes del razonamiento de Jaffer es que la gobernanza debe construirse desde el primer momento, y no añadirse a posteriori, cuando los problemas ya han surgido. Suena evidente. Pero en la práctica, eso es exactamente lo que ocurre: se construye deprisa, se despliega y después se intenta regular sobre la marcha.
En el sector financiero, esto es una receta para los problemas.
Tres pilares para un escalado responsable
A partir de lo que se planteó en Sibos y de lo que veo en el sector en general, el escalado seguro de la IA agéntica depende de tres cosas:
1. Responsabilidades y competencias claramente definidas
Cada sistema agéntico debe tener límites bien definidos. ¿Qué puede decidir el sistema por sí mismo? ¿Cuándo debe escalar el caso a una persona? Estos límites deben estar integrados técnicamente, no solo documentados en un manual de políticas.
2. Trazabilidad completa
En un sector regido por normativas estrictas y que maneja enormes cantidades de información sensible, cada decisión tomada por un sistema de IA debe poder explicarse y justificarse a posteriori. Esto exige unos requisitos elevados sobre cómo los sistemas registran y documentan su razonamiento. Sin trazabilidad no hay rendición de cuentas.
3. Seguimiento y revisión continuos
Los sistemas agénticos aprenden y cambian con el tiempo. No basta con validar un sistema una sola vez en el momento de su lanzamiento. Los bancos necesitan establecer rutinas de revisión continua y estar preparados para intervenir con rapidez si un sistema empieza a comportarse fuera del marco previsto.
Un cambio cultural, no solo técnico
Lo que hace este asunto especialmente interesante, y también exigente, es que no consiste en comprar la herramienta adecuada. Se trata de transformar la forma en que las organizaciones piensan sobre la responsabilidad, el riesgo y la toma de decisiones.
Cuando un sistema de IA toma una decisión errónea: ¿quién es responsable? ¿Cómo se comunica al cliente? ¿Cómo se corrige? La tecnología por sí sola no puede responder a estas preguntas. Exigen respuestas organizativas claras y una cultura en la que estas preguntas se planteen siquiera.
Para los bancos suecos, que ya operan en un entorno muy regulado, con Finansinspektionen y el Reglamento de IA de la UE como marco, estas no son cuestiones opcionales. Son requisitos que se van a exigir, y es mejor afrontarlos de forma proactiva que reactiva.
La oportunidad es enorme para quienes lo hacen bien
Quiero ser claro: la IA agéntica es una de las oportunidades más transformadoras que ha visto el sector financiero en décadas. La automatización de flujos de trabajo complejos, decisiones de crédito más rápidas, una gestión del riesgo más precisa, mejores experiencias para el cliente: el potencial es real y considerable.
Pero el banco que gane a largo plazo no es el que despliega más rápido. Es el que construye los cimientos adecuados y puede demostrar a sus clientes, a sus supervisores y a sus empleados que la tecnología se utiliza con criterio y responsabilidad.