Fotos falsas explícitas de Taylor Swift impulsan iniciativas para luchar contra los deepfakes

Abuso de la tecnología IA

La aparición en redes sociales de fotos explícitas falsas de la cantante Taylor Swift realizadas mediante deepfakes ha generado un gran revuelo. Legisladores de Estados Unidos han solicitado medidas enérgicas contra la producción de imágenes falsas no consentidas y han propuesto la legislación para tipificar como delito esta práctica. Se ha denunciado la aparición de estas imágenes en plataformas como X y Telegram.

Llamado a la acción legislativa

El representante estadounidense Joe Morelle expresó su repudio a la difusión de dichas imágenes en un post en la plataforma de redes sociales X e hizo referencia a su proyecto de ley, la Preventing Deepfakes of Intimate Images Act, que tipifica como delito federal la producción de imágenes falsas no consentidas. Morelle hizo un llamado urgente para tomar medidas sobre este asunto.

Deepfakes y sus peligros

Los deepfakes utilizan la inteligencia artificial (IA) para crear vídeos manipulados en los que se altera la cara o el cuerpo de alguien. A pesar de que no existen leyes federales que regulen el intercambio o la creación de imágenes falsas, algunos legisladores están trabajando en iniciativas para abordar este problema.

X, una de las plataformas afectadas, publicó un comunicado en el que menciona que está tomando medidas pertinentes contra las cuentas responsables de difundir las imágenes y que está vigilando de cerca la situación para garantizar la eliminación de estos contenidos.

Un problema extendido: impacto en mujeres y avances en IA

La representante demócrata Yvette D Clarke señaló en la plataforma X que la situación con Taylor Swift es solo un ejemplo más de un problema extendido que afecta principalmente a mujeres. Clarke enfatizó que la creación de deepfakes se ha vuelto más accesible y asequible gracias a los avances en IA.

En el Reino Unido, compartir pornografía deepfake se volvió ilegal en 2023 como parte de su Ley de Seguridad Online. El informe State of Deepfakes del año pasado reveló que la mayoría de los deepfakes publicados en línea involucran pornografía, y aproximadamente el 99% de las personas afectadas por estos contenidos son mujeres.

Preocupaciones en todo el mundo

La preocupación por los contenidos generados por IA ha aumentado a nivel global. El Foro Económico Mundial (FEM) destacó en su 19º Informe sobre Riesgos Mundiales los resultados adversos de las tecnologías de IA, incluyendo consecuencias negativas intencionadas o no sobre personas, empresas y economías. La principal agencia de inteligencia nacional de Canadá, el Servicio de Inteligencia de Seguridad Canadiense (CSIS), también ha expresado su preocupación por las campañas de desinformación que utilizan deepfakes generados por IA.

En un informe del 12 de junio, las Naciones Unidas destacaron los medios generados por IA como una amenaza significativa para la integridad de la información, especialmente en redes sociales, afirmando que el riesgo de desinformación en línea ha aumentado debido a los rápidos avances tecnológicos, en particular en la inteligencia artificial generativa, centrándose específicamente en los deepfakes.