La IA tropieza con la realidad, pero aún puede transformar la atención sanitaria

Herramienta adecuada, tarea equivocada, o herramienta equivocada, tarea adecuada?

Existe la tentación de hablar de la IA en la atención sanitaria como un fenómeno uniforme. O bien es revolucionaria, o bien está sobrevalorada. Pero la realidad es más matizada -y más interesante- que eso.

Tomemos los resultados de investigación más recientes publicados en arXiv. Por un lado, un estudio muestra que los grandes modelos de lenguaje fracasan de forma fundamental cuando se utilizan para valoraciones clínicas continuas. Por otro, un sistema ayuda a los médicos a navegar por resúmenes de investigación complejos con una precisión impresionante. La misma familia tecnológica. Resultados muy diferentes. Eso nos dice algo importante sobre cómo usamos la IA, no solo sobre la capacidad de la IA en sí.

Cuando la IA no sigue el ritmo de la realidad

La medicina interna y los cuidados intensivos son entornos en los que el estado de los pacientes cambia de una hora a otra. Que un modelo de IA pueda hacer una valoración inicial es una cosa; que actualice su valoración de manera fiable cuando llegan nuevos datos es un desafío muy distinto.

Según el estudio actual, basado en datos de historiales clínicos de unidades de cuidados intensivos, los modelos de lenguaje aumentan sus errores de valoración en lugar de reducirlos cuando tienen en cuenta sus propias conclusiones anteriores. Se trata de un problema estructural: los modelos se ven desproporcionadamente influidos por sus propias estimaciones de riesgo previas. Una valoración anterior de un riesgo del 90 por ciento frente a un 10 por ciento desplaza las nuevas estimaciones nada menos que 26 puntos porcentuales, a pesar de que los datos actuales del paciente son idénticos. No es una desviación pequeña. Es clínicamente peligrosa.

Los investigadores que están detrás del estudio han desarrollado un método, denominado EVLU, que identifica menos revisiones, pero más fiables. Es loable, pero también subraya que el problema es real y que se necesitan mecanismos de protección específicos para gestionarlo.

Esto no es un argumento en contra de la IA en la atención sanitaria. Es un argumento a favor de que debemos ser precisos al decidir qué tareas asignamos a los sistemas de IA.

Donde la IA realmente aporta valor: transparencia y acceso al conocimiento

En el mismo arXiv se publicaron recientemente noticias sobre FD-SCoPE, un marco que hace algo diferente: ayuda a los clínicos a buscar y revisar resúmenes de estudios clínicos de forma transparente y trazable. Cada conclusión va acompañada de una explicación clara de cómo se ha llegado a ella, un requisito fundamental para que los médicos puedan confiar en el sistema y utilizarlo de verdad.

Los resultados son notables. En una prueba con una base de datos oncológica de 159 estudios sobre inhibidores de puntos de control inmunitario, el sistema llevó a cabo 140 tareas de preguntas clínicas con una precisión de entre el 90,7 y el 97,9 por ciento. Superó a cuatro métodos alternativos y mejoró aún más sus resultados con la retroalimentación de expertos: la puntuación de precisión subió del 77,9 al 84,9 por ciento.

Esta es una IA que potencia la competencia del médico en lugar de reemplazarla. El sistema resuelve un problema real y bien conocido: la enorme brecha entre la investigación médica disponible y lo que un clínico individual realmente tiene tiempo de leer y asimilar.

La distinción decisiva

Los dos estudios, tomados juntos, ofrecen un mapa de cómo deberíamos pensar sobre la IA en la atención sanitaria en este momento. Hay tareas en las que la IA está lo bastante madura como para aportar valor real: búsqueda de información, síntesis de conocimiento, sistemas de apoyo a la decisión transparentes que mantienen al médico al mando. Y hay tareas en las que todavía no hemos llegado: valoraciones autónomas y continuas en entornos de alta complejidad y condiciones que cambian rápidamente.

No se trata de un revés. Es una calibración. Y es precisamente el tipo de calibración que exige un desarrollo tecnológico maduro.

Las organizaciones y hospitales que logren llevar a buen término la transformación con la IA serán aquellos que no pregunten '¿debemos usar la IA?', sino 'para qué tarea concreta, en qué condiciones, con qué mecanismos de protección?'. Es una cuestión estratégica, y la respuesta depende siempre del contexto.