Introducción
La creación de canciones falsas y suplantación de identidades utilizando inteligencia artificial (IA) se ha vuelto cada vez más común. Hace unas semanas, el cantante Bad Bunny se mostró molesto debido a una canción falsa generada con su voz mediante IA. Pero los riesgos de esta tecnología van más allá, incluyendo la posibilidad de ciberdelincuencia y delitos como fraude y suplantación de identidad. Descubre cómo detectar un «deepfake» de voz y qué precauciones se pueden tomar al respecto.
Definición de «deepfake»
Un «deepfake» es una producción multimedia generada artificialmente que emula la imagen, voz o comportamiento de una persona real. Los deepfakes pueden incluir videos, imágenes y audios que presentan a sujetos en situaciones inexistentes o diciendo cosas que nunca han dicho. A medida que esta tecnología avanza, sus posibles usos indebidos y riesgos en áreas como la ciberseguridad aumentan.
Proceso de generación de deepfakes
Crear un deepfake de alta calidad no es tarea sencilla y requiere recursos considerables. Es necesario contar con un conjunto diverso de datos, como imágenes desde diferentes ángulos y con distintas expresiones faciales. Además, se necesita software especial y alta capacidad de computación. Algunas herramientas gratuitas disponibles actualmente producen resultados poco realistas. La generación de deepfakes para videollamadas es aún más compleja, ya que se deben crear imágenes en tiempo real sin pérdida de calidad.
Prevalencia de los deepfakes
Aunque los deepfakes de alta calidad todavía son costosos y difíciles de producir, ya ha habido casos de fraudes y delitos en los que se han empleado. En algunos casos, los estafadores se hacen pasar por personas conocedoras de inversión, solicitando el envío de criptomonedas o realizando transferecias fraudulentas.
Cómo detectar un deepfake de video
Para identificar un deepfake de video, Kapersky recomienda observar los siguientes elementos:
- Movimiento de los ojos poco natural
- Expresiones faciales y movimientos artificiales
- Color de piel o cabello inusual
- Rostros extremadamente lisos
- Posición extraña de rasgos faciales
- Cejas dobles
- Falta de emoción
Otra estrategia es verificar si hay incongruencias en el discurso, problemas con la sincronización del audio y el video, o movimiento de los labios no coincidente con el sonido.
Detección de deepfakes de voz
Los deepfakes de voz también pueden ser utilizados en estafas. Para detectar un deepfake de voz, hay que prestar atención a la calidad del sonido y buscar indicios de ruido, distorsión o tono robótico. Además, plantear preguntas inesperadas puede causar retrasos en las respuestas si la voz es controlada por un estafador o un programa informático.
El científico de datos senior de Kapersky, Dmitry Anikin, recomienda no obsesionarse con la detección de voces falsas, pero ser conscientes de las amenazas y prepararse para el futuro. A medida que la tecnología avanza, las empresas y plataformas tecnológicas buscan implementar estrategias para detectar y combatir la proliferación de deepfakes y noticias falsas.
