Numerosos expertos en inteligencia artificial consideran que las falsificaciones serán imposibles de detectar
Introducción: Retos en la detección de contenidos generados por IA
El Primer Ministro británico, Rishi Sunak, es solo uno de los numerosos personajes públicos que han sido víctimas de anuncios falsos en Facebook, creados mediante Inteligencia Artificial (IA). En su caso, se utilizó un video falso en el que Sunak promocionaba una supuesta aplicación de inversión, también atribuida falsamente a Elon Musk. La detección de este tipo de engaños y falsificaciones es un tema que preocupa a muchas empresas y especialistas en Inteligencia Artificial.
Fenómeno Deepfake: creación y detección de contenidos generados por ordenador
El gran avance de la IA en la generación de imágenes, videos y textos ha dado lugar a los deepfakes, pero también ha aparecido un mercado de software especializado en detectarlos. Estos programas de detección se basan en identificar los patrones y «huellas» que dejan los modelos de IA, ya sea en forma de errores o anomalías.
El desafío consiste en que cada vez son más difíciles de detectar por el ojo humano. Sin embargo, aún existen detalles delatores que pueden ser rastreados por programas de IA entrenados para diferenciar contenidos generados por humanos y máquinas.
Dificultades en la efectividad de los programas de detección
El principal problema de estos programas de detección es su tendencia a generar falsos positivos y falsos negativos. Según un estudio realizado por la Universidad de Shanghái, el programa con mejores resultados aún falla al detectar imágenes generadas por ordenador en un 13% de los casos, mientras que los seres humanos fallan en un 39%. Para el caso de los textos, el porcentaje de detección efectiva es del 80%.
Marcas de agua: una solución alternativa
Otra opción para identificar contenidos generados por IA es etiquetarlos con marcas de agua digitales antes de su publicación. Esto se logra mediante técnicas que manipulen ciertos aspectos del contenido, como las palabras en el caso de textos generados o los píxeles y colores en imágenes y videos.
Avances y posibles problemas de las marcas de agua
En 2023, se han propuesto diversas técnicas de marcas de agua para imágenes y textos. Sin embargo, es posible que los investigadores que buscan eliminar tales marcas también encuentren la manera de hacerlo. Por ejemplo, algunos científicos de la Universidad de Harvard presentaron un método (aún no revisado por pares) que, aseguran, puede borrar marcas de agua.
En ese sentido, se está llevando a cabo una carrera armamentística entre los creadores de marcas de agua y quienes buscan burlar estas técnicas. A pesar de ello, contar con protecciones imperfectas sigue siendo mejor que no tener ninguna.
Como resultado, empresas de IA como OpenAI y Google, en colaboración con el gobierno de Estados Unidos, han comenzado a impulsar proyectos de investigación en marcas de agua y su aplicación en la detección y prevención de contenidos falsos generados por IA.
