La IA ordena bien — pero no detecta cuántos candidatos realmente cumplen el nivel exigido

Cuando el orden correcto no basta

Parece un resultado satisfactorio: el modelo de IA ordena las respuestas en el orden correcto. El candidato A es mejor que el B, que a su vez es mejor que el C. Pero ¿qué ocurre si el modelo estima al mismo tiempo que solo el 3 por ciento de las respuestas tiene una calidad aceptable, cuando la cifra real es del 61 por ciento?

Ese es precisamente el escenario que describe un nuevo estudio publicado en arXiv, y se trata de un problema que merece más atención de la que ha recibido hasta ahora.

Los investigadores analizaron 33 configuraciones distintas de IA procedentes de seis familias de modelos, utilizando una nueva herramienta de pruebas llamada O*NET-BENCH, basada en casi 46 000 estimaciones realizadas por trabajadores reales de distintas profesiones. Los resultados son llamativos: las estimaciones sobre la proporción de respuestas aceptables varían entre el 3 y el 98 por ciento, según el modelo y el protocolo utilizados. La cifra real, basada en valoraciones humanas, es del 61 por ciento.

Por tanto, no se trata de pequeños errores marginales. Se trata de un margen que abarca casi toda la escala.

Ordenar y medir son dos cosas distintas

Quizá la conclusión más importante del estudio es que una buena capacidad de ordenación y unas mediciones absolutas correctas son dos capacidades separadas, y que las mejoras en una de ellas no generan automáticamente mejoras en la otra.

En uno de los casos documentados, la ordenación mejoró cuando los investigadores ajustaron el protocolo de evaluación. Sin embargo, la precisión a nivel profesional —es decir, el grado de coincidencia del modelo con los valores agregados en los que se basan las mediciones profesionales reales— empeoró al mismo tiempo.

La distinción es importante para cualquiera que desarrolle o utilice sistemas de evaluación basados en IA. Un modelo que ordena correctamente de forma sistemática puede, no obstante, ofrecer una base errónea si se quiere saber cuántos candidatos superan un determinado umbral, o qué proporción de un grupo de trabajo alcanza un nivel concreto.

¿Por qué importa esto en la práctica?

El uso de jueces de IA —es decir, modelos de IA que se emplean para valorar y puntuar el desempeño o las respuestas humanas— está creciendo con rapidez. Esto ocurre sobre todo en la contratación, la evaluación de competencias y la estructuración salarial, donde las herramientas basadas en grandes modelos de lenguaje empiezan a ocupar un lugar junto a los evaluadores humanos, o en ocasiones en lugar de ellos.

El problema es que lo que se ve desde fuera suele ser precisamente la ordenación: este candidato ha superado la prueba, aquel no. Que las puntuaciones absolutas que sustentan la decisión puedan estar fundamentalmente mal calibradas es más difícil de detectar, sobre todo si no se validan activamente los resultados del modelo frente a valores de referencia independientes.

En un proceso de contratación, esto puede significar que un buen número de candidatos cualificados sea descartado porque el modelo subestima, en general, el nivel de desempeño aceptable. En un proceso de revisión salarial, puede implicar que se incorporen sesgos sistemáticos en la base de las decisiones sin que nadie lo note hasta que el daño ya se ha producido.

¿Qué exige esto a quienes construyen los sistemas?

Como desarrollador de sistemas, considero que esto es un recordatorio de algo fundamental: el rendimiento de un sistema debe medirse siempre frente a lo que realmente se supone que debe hacer. Que un modelo sea bueno ordenando no equivale a que sea bueno midiendo.

Los investigadores son claros en sus conclusiones: no basta con validar la capacidad de ordenación de los jueces de IA. También deben validarse frente a los niveles de aceptación y los valores agregados que sus puntuaciones pretenden representar. Esto exige una evaluación más profunda de la que parece ser habitual en muchas organizaciones.

Este problema tiene solución, pero requiere que quienes contratan e implantan este tipo de sistemas planteen las preguntas adecuadas y exijan a sus proveedores la documentación pertinente.