Estudio: El personal sanitario de Reino Unido usa Google Translate sin espíritu crítico: las abreviaturas médicas pueden provocar traducciones erróneas peligrosas

Cuando la tecnología elude la responsabilidad

Existe una clase de optimismo tecnológico que es genuinamente peligrosa. No el entusiasmo bien fundado por lo que la IA puede lograr, sino la confianza acrítica en que una herramienta digital es automáticamente lo bastante buena para la tarea. Un nuevo estudio publicado en arXiv ilustra esto de una forma que debería dar a todos los que trabajan en la sanidad motivos para detenerse.

Los investigadores analizaron cómo el personal sanitario de Reino Unido utiliza la traducción automática, y sobre todo Google Translate, para comunicarse con pacientes que no hablan inglés. Los resultados son preocupantes. De los 21 profesionales sanitarios entrevistados, de distintas funciones y especialidades, la mayoría carecía de una conciencia básica de los riesgos que surgen cuando un algoritmo interpreta información médica sensible.

Abreviaturas que pueden costar vidas

La elección del foco de estudio es acertada. Los investigadores eligieron las abreviaturas médicas como objeto de estudio, y con buenas razones. Son fuentes de problemas bien conocidas ya en el idioma original. Una abreviatura mal leída en una historia clínica puede llevar a una medicación equivocada, a un diagnóstico erróneo o, en el peor de los casos, a la muerte del paciente. Al presentarles ejemplos clínicos en francés y español, traducidos mediante Google Translate, el personal en gran medida no sabía que las traducciones podían ser directamente engañosas.

No se trata de que el personal sanitario sea descuidado o carezca de conocimientos en su campo médico. Se trata de que una herramienta de consumo de fácil acceso, diseñada para ayudar a los turistas a entender menús y letreros, se ha deslizado sin fricción hacia un contexto para el que nunca fue concebida. Y nadie ha puesto freno a ello.

Un espejo de un desafío más amplio

Quiero ser claro: esto no es un argumento en contra de la IA en la sanidad. Al contrario, veo enormes posibilidades en soluciones de IA bien implementadas en diagnóstico, administración y comunicación con los pacientes. Pero es precisamente la palabra bien implementadas la que resulta decisiva.

Lo que vemos aquí es un ejemplo clásico de lo que sucede cuando la tecnología se escala horizontalmente sin que las organizaciones logren hacerlo verticalmente, es decir, sin construir el conocimiento, las directrices y las estructuras de responsabilidad que correspondan al uso de la herramienta. Google Translate es un recurso potente en el contexto adecuado. En un entorno clínico, sin validación médica y sin protocolos claros, se convierte en un factor de riesgo.

Esto no es exclusivo de la sanidad. Vemos el mismo patrón en el derecho, las finanzas y la educación: sectores en los que las herramientas de IA se extienden de abajo arriba, impulsadas por la comodidad individual más que por una gestión estratégica. La diferencia en la sanidad es que las consecuencias de los errores pueden ser irreversibles.

¿Qué se necesita ahora?

El estudio subraya la necesidad de directrices claras sobre cuándo y cómo puede utilizarse la traducción automática en la sanidad. Pero las directrices no bastan por sí solas. También se necesita:

• Formación que dé al personal sanitario una comprensión real de lo que la traducción automática puede y no puede hacer
• Alternativas validadas: existe, de hecho, software de traducción médica entrenado con datos clínicos que mantiene un nivel de calidad sustancialmente superior
• Una rendición de cuentas clara: ¿quién asume la responsabilidad si un error de traducción provoca un daño al paciente? Hoy esa pregunta sigue sin respuesta en la mayoría de las organizaciones
• Apoyo de sistemas que haga tan fácil hacer lo correcto como equivocarse

Lo irónico es que la solución bien podría ser más IA, pero del tipo adecuado y con la gobernanza adecuada. Los modelos de lenguaje especializados, entrenados en terminología médica e integrados en sistemas de historia clínica con trazabilidad y revisión humana, son un camino razonable hacia adelante.

Pero para ello las organizaciones sanitarias tienen que dejar de tratar las herramientas de IA como un complemento secundario y empezar a tratarlas como lo que realmente son: infraestructura crítica que exige el mismo cuidado y la misma regulación que cualquier otro producto sanitario.