Los bancos saben cómo iniciar un agente de IA — pero no cómo detenerlo

El sector financiero se encuentra en medio de un cambio histórico

Succede rápidamente ahora. Los agentes autónomos de IA se abren paso hacia el núcleo de los servicios financieros — manejan solicitudes de clientes, marcan transacciones sospechosas, evalúan reclamaciones de seguros y toman decisiones de crédito. Es una transformación con un potencial enorme: procesos más rápidos, costos más bajos y evaluaciones más coherentes.

Pero Finextra destaca en dos análisis separados una verdad incómoda que la industria aún no ha abordado: la capacidad técnica ha superado los marcos jurídicos y operativos. Sabemos cómo poner en marcha un agente de IA. Aún no sabemos cómo controlarlo — ni siquiera cómo medir si está haciendo un buen trabajo.

Los puntos de medición superficiales generan una falsa seguridad

Tomemos la cuestión de la medición. Según el análisis de Finextra, los bancos y las aseguradoras de vehículos tienden a conformarse con cifras como el tiempo de tramitación y la cantidad de casos manejados por hora. Métricas sencillas y atractivas — pero fundamentalmente engañosas.

Lo realmente decisivo no es lo rápido que actúa el agente, sino lo preciso que es. ¿Identifica riesgos crediticios reales, o aprende a pasar por alto ciertos patrones? ¿Realiza evaluaciones de reclamaciones correctas, o paga indemnizaciones rutinariamente para evitar fricciones? La diferencia puede costar millones — y comprometer la confianza de los clientes.

Cuando faltan las métricas correctas, la organización pierde su capacidad de aprender y mejorar el sistema con el tiempo. Y es un problema que no se resuelve por sí solo. Finextra insta a la industria a exigir activamente medidas de calidad más reflexivas a sus proveedores de tecnología — no aceptar promesas generales de eficiencia.

¿Quién tiene realmente la autoridad para tomar decisiones?

Aún más fundamental es la cuestión de la autoridad y la responsabilidad. En operaciones financieras tradicionales, el poder de decisión descansa en estructuras jurídicamente claras — siempre hay una persona física o una empresa que puede ser responsabilizada. Pero cuando un agente de IA actúa de forma independiente, esos límites se difuminan.

Finextra identifica tres problemas fundamentales:

La responsabilidad jurídica es la cuestión más evidente. Si un agente de IA toma una decisión de crédito incorrecta — ¿quién es entonces responsable? ¿El banco que puso en marcha el sistema? ¿El proveedor de software que lo construyó? ¿O el cliente que aprobó que el agente actúe en su nombre? Hoy en día ningún marco normativo proporciona una respuesta clara.

Los requisitos de supervisión son el siguiente desafío. Las autoridades financieras de todo el mundo aún funcionan bajo una realidad en la que los seres humanos toman decisiones. Simplemente no están equipadas para revisar y aprobar estructuras de autoridad donde la máquina es el tomador de decisiones real. Esto crea una brecha regulatoria en medio de uno de los sectores más sensibles de la sociedad.

El consentimiento de los clientes es la tercera pregunta y quizás la más subestimada. No es suficiente que un cliente haga clic en "Aprobar" en una interfaz. La pregunta real es si el cliente entiende lo que está delegando — qué autoridades tiene realmente el agente y cuáles podrían ser las consecuencias si algo sale mal.

La industria se mueve, pero lentamente

Hay señales positivas. Varios actores líderes tanto en fintech como en banca tradicional ahora están desarrollando marcos para lo que se llama gobernanza de agentes — reglas claras sobre qué puede y qué no puede hacer un sistema de IA dentro de límites definidos. Es la dirección correcta.

Pero el ritmo es preocupantemente lento en relación con la rapidez con que la tecnología se implementa realmente. Surge una brecha peligrosa: sistemas con gran poder de decisión, sin mecanismos de control suficientes.

Veo esto como la verdadera prioridad de la industria ahora — no detener la transformación de IA, sino construirla correctamente. Las oportunidades son enormes, pero se realizan plenamente solo si la confianza se mantiene. Y la confianza requiere responsabilidad, mensurabilidad y transparencia.