Ingenieros de la Universidad de Vigo desarrollan un sistema para detectar imágenes generadas por inteligencia artificial
Investigadores desarrollan inteligencia artificial para identificar imágenes generadas por IA
La creación de imágenes realistas mediante inteligencia artificial (IA) plantea preocupaciones respecto a la distinción entre imágenes reales y generadas por IA. Sin embargo, un grupo de investigadores del centro atlanTTic ha desarrollado un sistema basado en redes neuronales que logra diferenciar imágenes reales de las generadas, con una precisión superior al 95%.
Explotando la experiencia en redes neuronales y sistemas de IA
Los investigadores Fernando Martín y Mónica Fernández, junto con Rocío García, utilizaron su experiencia previa en redes neuronales y sistemas de IA para desarrollar este innovador método. Martín comentó que la creciente eficacia y rapidez de programas que generan imágenes a partir de texto fue el catalizador para plantearse si se podía aplicar la IA con este propósito.
Entrenamiento con más de 1000 imágenes
El sistema fue entrenado con más de 1000 imágenes reales y generadas por IA para diferenciarlas con alta precisión. El equipo aprovechó las técnicas existentes que permiten identificar el origen de fotografías y videos reales mediante la detección de huellas dactilares.
Detección de imperfecciones en imágenes
Las imágenes digitales siempre presentan imperfecciones que, aunque imperceptibles a simple vista, son únicas y permiten relacionarlas con la cámara con la que se tomaron. Al aplicar esta técnica de falta de uniformidad de la fotorespuesta (PRNU) a las imágenes generadas por IA, los investigadores descubrieron que también se podían obtener resultados interesantes.
Aplicación de técnicas forenses de imágenes
Los investigadores también evaluaron la efectividad de otra técnica, el análisis del nivel de error (ELA), originalmente utilizada para detectar la manipulación de imágenes en sistemas de análisis forense para imágenes reales. Aplicando ELA en imágenes generadas por IA, se puede advertir que han sido editadas completamente.
Recomendación de uso conjunto de técnicas
El equipo concluyó que ambas técnicas ofrecen resultados prometedores y sugiere utilizar las dos de forma conjunta como un doble control. Si cualquiera de las técnicas indica que una imagen es sintética, es muy probable que lo sea, mientras que el uso combinado de ambas técnicas reduce el porcentaje de error significativamente.
Un candidato prometedor para una solución comercial
Aunque ya existen otros métodos para detectar imágenes generadas por IA, el sistema desarrollado por los expertos del centro atlanTTic es un candidato prometedor para convertirse en una solución comercial. Continuar enriqueciendo la base de datos y reentrenar el sistema es fundamental para su evolución y adaptación a las nuevas aplicaciones de IA que surgen constantemente.
