Cómo prevenir fallas de la inteligencia artificial en diagnósticos médicos de mujeres | Tecnología
Introducción
Un reciente incidente en un hospital de Nueva Jersey pone de manifiesto la importancia de abordar los sesgos en la inteligencia artificial aplicada en el campo médico, especialmente en el caso de diagnósticos.
El sesgo en la IA médica
Mientras estaba en un hospital, Diane Camacho recurrió a ChatGPT, un chatbot desarrollado por OpenAI, para obtener un diagnóstico basado en sus síntomas: dificultad para respirar, dolor en el pecho y el corazón que se paraba y arrancaba. Para sí misma, la IA sugirió que el diagnóstico más probable era ansiedad. Sin embargo, cuando Camacho preguntó sobre el mismo diagnóstico para un hombre, la IA mencionó diagnósticos más graves como embolia pulmonar, síndrome coronario agudo o cardiomiopatía, omitiendo la ansiedad. Este ejemplo evidencia cómo la inteligencia artificial puede ser sesgada y generar diferencias en la atención médica.
¿Por qué ocurre el sesgo en la IA?
Los sesgos en la IA, como en el caso de ChatGPT, pueden deberse a datos incompletos o no representativos. La IA generativa combina grandes cantidades de datos con algoritmos y aprendizaje automático, por lo que si los datos son sesgados, los algoritmos también lo serán. La nueva ley europea de inteligencia artificial, aprobada en diciembre de 2021, prioriza el desarrollo ético y transparente de la IA, libre de sesgos.
Condiciones europeas en IA médica
Según la normativa europea, los dispositivos médicos basados en IA se consideran de alto riesgo y deben cumplir con estrictos requisitos: contar con datos de alta calidad, registrar su actividad, tener documentación detallada del sistema, proporcionar información clara al usuario, establecer medidas de supervisión humana y garantizar un alto nivel de robustez, seguridad y precisión.
Empresas y soluciones anti-sesgos
Startups como Vincer.Ai, presidida por Pol Solà de los Santos, trabajan auditando a las compañías para asegurar que cumplan con las condiciones europeas. Asimismo, cuando una empresa tiene modelos sesgados, se les aconseja añadir una advertencia a la herramienta, protegiendo a los usuarios inconvenientes potenciales.
Aplicación de IA en diagnóstico por imagen
La IA en medicina se utiliza comúnmente en el diagnóstico por imagen y programación para acelerar y mejorar la precisión de los resultados. En radiología, los algoritmos empleados ayudan a los profesionales sanitarios a reducir el tiempo necesario para obtener imágenes, como en el caso de las resonancias magnéticas.
Cómo enfrentarse a un modelo sesgado
Para evitar sesgos en la IA médica, es necesario entrenar nuevamente la base de datos con fuentes más representativas y precisas. Para ello, es crucial fomentar la conciencia sobre los sesgos en IA, promover el pensamiento crítico, exigir transparencia a las empresas y validar las fuentes.
Conclusión
Los expertos coinciden en que las herramientas de IA como ChatGPT no deberían utilizarse para fines médicos específicos, pero reconocen su utilidad en ciertos casos y sugieren que podría mejorar si se integran bases de datos médicas. Aun así, la IA nunca sustituirá a un médico, pero aquellos médicos que dominen la inteligencia artificial tendrán ventaja en el futuro.
