La IA recomienda atención innecesaria, afecta el comportamiento de los niños y sofoca opiniones disidentes — cinco estudios revelan deficiencias sistemáticas

La IA no logra todo lo que esperamos — y es bueno saberlo

No hay escasez de entusiasmo sobre lo que pueden lograr los grandes modelos de lenguaje. Pero a finales de otoño de 2025, una serie de estudios de investigación publicados en arXiv han comenzado a trazar un mapa más matizado de lo que estos sistemas realmente funcionan cuando se implementan en situaciones reales y complejas. Los resultados no son catastróficos — pero son importantes.

Peor que los médicos en la mayoría de aspectos

Uno de los estudios más exhaustivos comparó la capacidad de los grandes modelos de lenguaje para clasificar pacientes por prioridad — es decir, priorizar necesidades de atención — con la de médicos en ejercicio. Los investigadores construyeron un material de referencia con más de 6 000 escenarios clínicos, 7 000 anotaciones médicas y 225 000 respuestas de modelo.

El resultado fue claro: los modelos de IA recomendaron atención innecesaria en una proporción mucho mayor que los médicos, y esta tendencia se fortaleció cuando se variaron las descripciones de los pacientes. Lo más inquietante fue que las recomendaciones de los modelos resultaron ser sensibles a factores clínicamente irrelevantes como el sexo y el tono del texto. Las evaluaciones de los médicos fueron mucho más estables. No se trata, pues, de una diferencia marginal — se trata de que los modelos carecen de la robustez requerida en un contexto clínico.

El Papá Noel como manipulador

Un estudio con un enfoque más inusual vinculó la investigación en IA con un teléfono de Papá Noel alemán. Las llamadas de más de 1 000 niños se distribuyeron aleatoriamente a cuatro asistentes de voz diferentes impulsados por IA, que variaban en persona y formulaciones. Los resultados fueron llamativos: las formulaciones persuasivas aumentaron la probabilidad de que un niño deseara algo benéfico de 11,6 a 45,7 por ciento. El nivel de autoridad de la persona — si era el Papá Noel o una ayudante — apenas tuvo relevancia.

Este es un pequeño experimento con grandes implicaciones. Cuando un sistema ya goza de credibilidad en virtud de su contexto, las formulaciones correctas son suficientes para moldear el comportamiento de quien escucha — incluso el de un niño de seis años.

Voces silenciadas en la organización

En el lugar de trabajo vemos patrones similares, pero con otras consecuencias. Un estudio sobre cómo los modelos de lenguaje resumen encuestas de empleados mostró que las opiniones expresadas solo una sola vez desaparecían en el 86 por ciento de los casos. Los modelos filtraban por popularidad, no por contenido. Además, los elogios se omitían 82 veces más a menudo que las críticas — lo que da a la dirección una imagen sesgada del ambiente.

Un estudio de campo complementario en una empresa de consultoría de gestión mostró que el problema es aún más complejo: los empleados ocultan sus preocupaciones reales incluso cuando son entrevistados por un agente de IA. En 20–41 por ciento de los casos combinaron comentarios positivos con la presentación posterior de problemas sustanciales — un comportamiento que los investigadores describen como que el silencio puede existir dentro de una declaración. Por lo tanto, implementar una herramienta de IA para la voz de los empleados no garantiza que la organización escuche realmente lo que la gente piensa.

El miedo a los extremos

Un quinto estudio señala un problema más técnico — pero igualmente sistemático. Los modelos de decisión directa, que convierten texto en etiquetas estructuradas y puntuaciones, sufren de una tendencia sistemática hacia la opción central. En una prueba, el modelo asignó al todo 38,8 por ciento de todas las predicciones a la alternativa neutra, a pesar de que las respuestas correctas se distribuyeron uniformemente en la escala. En 36 datasets, los modelos utilizaron solo del 67 al 76 por ciento del rango completo de la escala.

La buena noticia es que este es un problema aprendido, no inherente. Con entrenamiento dirigido utilizando la técnica BA-LoRA, el uso de la escala aumentó de aproximadamente 47 a 86 por ciento. Existen caminos hacia adelante — pero solo si realmente identificamos el problema.

Patrones comunes

Lo que une estos cinco estudios es un único problema fundamental: los sistemas de IA se comportan de formas que no son evidentes en la superficie pero que tienen consecuencias reales cuando los sistemas se utilizan en contextos del mundo real. Se trata de sensibilidades superficiales en decisiones de atención, de efectos de formulación en niños, de sesgo de frecuencia en resúmenes de encuestas y de evitación sistemática de puntos finales de escala.

Esto no es un argumento contra el uso de IA — es un argumento a favor de usarla con los ojos abiertos.