La IA revoluciona la sanidad – pero nueve de los modelos más inteligentes del mundo tropiezan con el mismo obstáculo

La revolución silenciosa de la sanidad

Algo está cambiando de raíz en la sanidad – y está sucediendo ahora mismo, no dentro de diez años. Semana tras semana se publican resultados de investigación que, si cumplen lo que prometen en la práctica clínica, transformarán cómo diagnosticamos, priorizamos y tratamos a los pacientes. Es una de las transformaciones más apasionantes que he seguido como desarrollador de negocios – pero requiere que mantengamos dos ideas en la cabeza simultáneamente: la posibilidad y la exigencia de la sobriedad.

Tomemos la enfermedad de Parkinson. La investigación publicada recientemente en arXiv muestra que una combinación de sensores de movimiento portátiles y aprendizaje automático puede clasificar la gravedad de la enfermedad con una precisión de hasta el 97 por ciento. El sistema mide trastornos motores sutiles – temblores, rigidez, movimientos lentos – sin un único análisis de sangre ni equipamiento hospitalario costoso. Es una herramienta rentable, no invasiva, que potencialmente puede democratizar el diagnóstico temprano mucho más allá de las clínicas neurológicas de las grandes ciudades.

Al mismo tiempo, se presenta un nuevo sistema de diagnóstico llamado CDPR que modela el pensamiento real del médico: una investigación paso a paso, consciente de costos, en lugar de solicitar todas las pruebas imaginables de una sola vez. Probado en tres bases de datos de pacientes – dos de las cuales eran completamente desconocidas para el sistema – CDPR mejoró la precisión diagnóstica y redujo significativamente los costos de las pruebas. Es IA que piensa como un clínico experimentado, no como un algoritmo.

Corazones, historiales y arquitectura de datos

En el lado de los trasplantes, las cifras son asombrosas. El sistema actual de distribución de corazones de donantes logra solo el 54 por ciento del resultado teóricamente óptimo, según nueva investigación. Un nuevo algoritmo que recoge las preferencias de los interesados sobre resultados reales – supervivencia, mortalidad en lista de espera, equidad geográfica – y las convierte en una función de utilidad común, alcanza el 95 por ciento. Se trata de vidas reales, no cifras abstractas.

En el lado de la infraestructura, el marco FedEHR-Agents resuelve uno de los dilemas más persistentes de la sanidad: cómo los hospitales pueden colaborar en modelos de IA sin compartir información sensible de pacientes. Cada hospital implementa un agente autónomo que comparte sus experiencias – en forma de directrices basadas en texto – en lugar de datos sin procesar o parámetros del modelo. En las pruebas, el sistema funcionó consistentemente mejor que los métodos tradicionales. La privacidad y el rendimiento no necesitan estar en conflicto.

El punto ciego que une a todos los modelos

Pero aquí tenemos que detenernos. En medio de todo este optimismo llega un estudio que todo responsable de la toma de decisiones en IA sanitaria debe leer cuidadosamente.

Investigadores probaron nueve de los modelos de lenguaje más avanzados del mundo contra un conjunto de referencia con más de 2 000 puntos de decisión extraídos de directrices clínicas y casos de cáncer colorrectal. El resultado: el 42 por ciento de todos los casos de prueba fueron respondidos incorrectamente por los nueve modelos. No por un único modelo – por todos. Las debilidades no son aleatorias; son sistemáticas y se concentran en situaciones donde el modelo debe ejercer lo que podemos llamar criterio clínico metamédico – elegir entre caminos de tratamiento antes de que sea posible razonar más.

Aún más alarmante: los modelos configurados para ser decididos cometieron decisiones clínicas inciertas tres a cinco veces más a menudo que los modelos más cautelosos – sin funcionar mejor. La confianza en uno mismo sin competencia es más peligrosa que la incertidumbre reconocida.

Esto no es un argumento en contra de la IA en la sanidad. Es un argumento a favor de la arquitectura correcta. Los investigadores detrás del estudio son claros: la calidad del modelo ya no es el obstáculo principal. El problema es el supuesto de que un único modelo puede constituir la única base para una decisión médica.

Las soluciones comienzan a tomar forma

Lo bueno es que el mundo de la investigación está trabajando en la respuesta. El método egRUE da a los sistemas de IA la capacidad de no solo medir su propia incertidumbre sino explicar por qué surge – qué resultados de pruebas o síntomas hacen que un diagnóstico sea difícil de establecer. En un estudio de usuarios con expertos médicos, el método aumentó la confianza bien calibrada: los médicos confiaban más en las predicciones correctas y menos en las incorrectas. Es exactamente el tipo de transparencia requerida para que los médicos y la IA puedan funcionar como un equipo competente.

Entonces el rompecabezas no está resuelto – pero las piezas comienzan a encajar.