Meta identificará el contenido generado por inteligencia artificial para combatir la desinformación
La empresa matriz de Facebook, Instagram y Threads, Meta, ha anunciado que reconocerá cualquier contenido de imagen o audio creado por inteligencia artificial (IA) con el objetivo de luchar contra la desinformación en línea.
Etiquetas «hechas con IA» se expandirán a varios tipos de contenidos
La empresa prevé comenzar a etiquetar en mayo de 2024 el contenido generado por IA, según informó Monika Bickert, vicepresidenta de contenido de Meta, en su blog. La etiqueta «Made with AI», que ya se aplica a imágenes fotorrealistas, se utilizará también en una amplia gama de contenidos de video, audio e imágenes.
El contenido será marcado por la plataforma si se detectan «indicadores de imagen de IA conforme a las normas de la industria» o si «las personas indican que están subiendo contenidos generados por IA».
Se incorporará una «marca de agua» digital invisible
Además de las etiquetas visibles, los contenidos serán marcados por la plataforma con una «marca de agua» digital invisible. Esta técnica ya ha sido utilizada por compañías como Google, Microsoft y OpenAI.
Modificación en el enfoque hacia el contenido generado por IA
Tras consultar con su junta de supervisión, Meta cambiará su enfoque al tratar con contenidos generados por IA. La compañía cree que “la transparencia y un mayor contexto son la mejor manera de tratar los contenidos manipulados” y evitar «restringir innecesariamente la libertad de expresión».
En lugar de eliminar el contenido generado por IA, como había estado haciendo hasta ahora, Meta le añadirá«etiquetas y contexto».
Por otro lado, cualquier contenido, ya sea creado por humanos o IA, que viole las normas de la plataforma en relación a la interferencia en procesos electorales, la intimidación, el acoso, la violencia o cualquier otra política, será retirado.
Confianza en la red de verificadores de datos
Para detectar contenidos falsos o engañosos generados por IA, la empresa afirmó depender de una red de “aproximadamente 100 verificadores de datos independientes”.
La etiqueta «Made with AI» y la adición de contexto a las imágenes son acciones necesarias para luchar contra la desinformación, según expertos como Nicolas Gaudemet, director de IA del gabinete de análisis francés Onepoint.
Preocupación por la desinformación y el contenido degradante
El temor por la utilización de herramientas de IA para difundir desinformación y crear caos político es real. Además, el desarrollo de programas de IA generativos también ha llevado a la producción de contenido degradante, como “deepfakes” pornográficos de mujeres famosas, lo cual también afecta a personas anónimas.
