«Ratón deformado» entre las imágenes absurdas de IA publicadas en la revista científica
Inteligencia Artificial genera imágenes falsas en publicación científica
Recientemente, la revista Frontiers in Cell and Developmental Biology publicó un estudio que incluye imágenes generadas por Midjourney, uno de los generadores de imágenes con inteligencia artificial más populares. Las imágenes en cuestión, lejos de representar contenidos científicos precisos, muestran representaciones incorrectas de los testículos y células madre en ratas.
Análisis de las imágenes generadas por IA
El estudio en cuestión presenta imágenes que intentan ilustrar la relación entre las células madre en los testículos de mamíferos y una vía de señalización responsable de mediar la inflamación y el cáncer en las células. Sin embargo, en lugar de representar esta relación de manera precisa y científica, las imágenes generadas por IA muestran una rata etiquetada con términos incomprensibles e incorrectos, como «células madre sentólicas», «Dissilced» y «iollotte sserotgomar».
A pesar de ser evidente para cualquier persona con conocimientos científicos que las imágenes no son precisas, se publicaron en la revista científica tras pasar por varios procesos de revisión y control de calidad. Los investigadores han admitido en el artículo que las imágenes fueron generadas por Midjourney.
Implicaciones éticas y riesgos para la integridad científica
La publicación de este tipo de imágenes incorrectas en una revista científica pone en evidencia el riesgo que supone el uso de la inteligencia artificial en el ámbito científico. La IA tiene la capacidad de generar imágenes atractivas visualmente, pero puede resultar difícil lograr transmitir todos los matices de la precisión científica en una solicitud de diagrama o ilustración.
Por otra parte, el uso de la IA en la generación de textos científicos ha demostrado ser lo suficientemente convincente como para engañar a expertos humanos, lo que podría desencadenar una crisis de integridad científica. A medida que la IA se populariza y se masifica, es importante considerar tanto sus beneficios como sus riesgos potenciales en el campo de la investigación científica.
Recomendaciones y prevención en el uso de IA en la investigación científica
El caso expuesto refuerza la importancia de implementar mejores prácticas en la utilización de la inteligencia artificial en la investigación científica y en la revisión por pares. Además, se hace necesario establecer políticas que permitan la corrección o retractación de publicaciones que contengan imágenes generadas por IA erróneas o inexactas.
También es fundamental promover una discusión y análisis sobre cómo la IA puede ser aprovechada en el ámbito científico sin comprometer su integridad y calidad, teniendo en cuenta que esto representa una oportunidad para democratizar la ciencia y facilitar su acceso a personas de diversos niveles de conocimiento científico y habilidades lingüísticas.
