Investigación en Mallorca sobre manipulación de imágenes pornográficas con IA que involucra a menores – El Mundo
Introducción
La Policía Judicial de la Guardia Civil en Mallorca investiga un caso de abuso y manipulación de imágenes utilizando inteligencia artificial (IA) que involucra a menores de edad. La técnica conocida como «deepfake» permite modificar fotos y videos para crear contenido pornográfico con apariencia real.
Investigación del caso
El caso fue descubierto cuando un menor denunció haber recibido imágenes pornográficas manipuladas de su imagen a través de las redes sociales. La investigación ha revelado que al menos tres menores habrían sido responsables de la creación y difusión de estas imágenes falsas mediante el uso de programas informáticos basados en IA. Las víctimas y los presuntos autores son compañeros de colegio y tienen entre 14 y 15 años.
Repercusiones legales y consecuencias
El uso de la tecnología deepfake en menores podría constituir un delito de trata de seres humanos, especialmente si se trata de imágenes explícitas. Además, podría considerarse como violencia de género y ciberacoso, ya que en la mayoría de los casos las víctimas son niñas y adolescentes. Los menores investigados podrían enfrentarse a consecuencias legales y sanciones tanto a nivel educativo como penal.
Prevención y concienciación
Ante estos hechos, la directora de la Oficina Balear de la Infancia, Ana Ferrer, busca aumentar la prevención y sensibilización sobre los riesgos y peligros asociados con el uso de IA en la sociedad. Ferrer destaca la importancia de la educación y la formación en el uso responsable de las tecnologías y las redes sociales, así como de la denuncia de cualquier comportamiento abusivo o inapropiado.
Recomendaciones
Para protegerse de los peligros asociados al deepfake y otras técnicas de manipulación de imágenes utilizando IA, se recomienda:
- Crear conciencia sobre los riesgos y el impacto emocional y social de estas prácticas.
- Educar a los menores y sus familias en el uso seguro y responsable de las redes sociales y las tecnologías de la información.
- Denunciar cualquier acto sospechoso o inapropiado en línea a las autoridades competentes.
- Impulsar acciones de prevención y sensibilización en los centros educativos y en la comunidad en general.
