Investigan a cinco menores en Valencia por difundir imágenes de alumnas desnudas creadas con inteligencia artificial

Introducción

La utilización de Inteligencia Artificial (IA) para generar imágenes de personas desnudas es un delito, especialmente cuando se trata de menores de edad. A pesar de ello, las controversias relacionadas con esta práctica persisten, y no es fácil eliminarla por completo. Según Nuria Oliver, investigadora en IA y directora de la Fundación Ellis, se han registrado casos tanto en España como internacionalmente, siendo estrellas como Rosalía y Taylor Swift algunas de las víctimas. Aunque las grandes empresas pueden regular sus algoritmos, muchas soluciones de IA de código abierto no pueden ser controladas tan fácilmente.

Investigación de la Guardia Civil de Valencia

La Guardia Civil de Valencia está investigando a cinco menores por su presunta vinculación con la modificación y difusión de imágenes en redes sociales de alumnas de varios centros educativos, a las que mostraban desnudas utilizando IA. Los cinco menores de nacionalidad española están siendo investigados por la comisión de un delito de revelación de secretos. Se ha acreditado un total de diecisiete mujeres afectadas, trece de ellas menores de edad.

El origen en dos institutos valencianos

A finales de noviembre, las direcciones de dos institutos de educación secundaria de la provincia de Valencia detectaron la difusión de fotografías de mujeres menores de edad, modificadas con IA para mostrarlas completamente desnudas. Los presuntos responsables son cinco menores de edad. Al parecer, obtuvieron las fotografías originales de las redes sociales de las víctimas y, posteriormente, las alteraron con IA para eliminar la ropa, antes de compartirlas sin el consentimiento de las afectadas.

Aplicación del protocolo de acoso escolar

En estos casos, se aplica el protocolo de acoso escolar, que ha sido recientemente modificado para agilizar la intervención de profesionales del centro en menos de 24 horas. Con el objetivo de actuar con rapidez, el antiguo protocolo ha sido eliminado debido a su excesiva burocracia, ya que podía pasar mucho tiempo desde que se notificaba un caso hasta que se tomaban medidas.

Cuando se detecta un caso de acoso, se comunica al docente y, de manera inmediata, al equipo directivo. Debido a la gravedad de este caso, el equipo directivo denunció la situación directamente ante la Guardia Civil, que inició las investigaciones pertinentes y arrestó a los cinco menores acusados de divulgar este contenido sin consentimiento.

El programa informático en cuestión

El programa informático utilizado por los menores implica que solo las imágenes de personas mayores de edad pueden ser manipuladas, pero no cuenta con un sistema de control efectivo para evitar su uso indebido. Es fundamental seguir desarrollando soluciones tecnológicas que monitoreen y prevengan la difusión de este tipo de contenidos en la red.