Qué es deepfake y cómo detectarlo

En muy poco tiempo, la pregunta sobre “qué es deepfake” ha terminado siendo una preocupación para un amplio número de ciudadanos. 

A medida que la Inteligencia artificial se aplica de forma cada vez más extendida, crecen tanto el entusiasmo como las reservas sobre su posible impacto en la sociedad, y los deepfakes y ejemplos de su utilización nefasta se hallan en el centro de esta polémica. Lo analizamos.

¿Qué es el deepfake?

El deepfake es un archivo digital que utiliza la inteligencia artificial para crear imágenes, vídeos o audios que son falsificados pero que parecen reales. 

Su creación se basa en el uso de redes neuronales avanzadas e inteligencia artificial generativa. Capaces de imitar las características de una persona, generan un archivo de audio, vídeo o imagen que imita a una persona en su apariencia y en la forma en que habla. Otro de los métodos populares para la creación de deepfakes es el lip-syncing: lograr la sincronía entre los labios de una persona que habla en un vídeo y un audio que se añade al vídeo.

Cómo se crea un deepfake

La creación de los deepfakes ha sido potenciada y puesta en manos de cualquier usuario en internet a través de aplicaciones como FaceSwap, que permite manipular imágenes para incorporar el rostro de una persona en una imagen en la que, en principio, no aparecía. 

El funcionamiento de todas estas aplicaciones (incluidas las vinculadas a generar deepfakes de audio) se basa en un mismo paradigma: entrenar un modelo de IA disponible públicamente con datos de una persona específica (por ejemplo, grabaciones de su voz). Después, estos modelos avanzados son capaces de replicar estas características y aplicarlas a un nuevo archivo de audio, vídeo o imagen.

Detrás de estos modelos se hallan sistemas de machine learning altamente avanzados, incluidas las llamadas redes adversariales generales (GAN), altamente capaces de generar imágenes similares a las humanas.

¿Por qué son peligrosos los deepfakes?

Las autoridades han entendido desde bien temprano la peligrosidad de los deepfakes: ya en 2022 se publicaba el primer informe de la Europol sobre el uso de la tecnología deepfake con fines criminales. 

Su principal peligro reside en que los deepfakes pueden resultar muy convincentes e imitar con alta calidad las características de la realidad. Así, si bien los deepfakes también están siendo utilizados con fines no maliciosos como el entretenimiento o la educación, esta tecnología presenta riesgos al emplearse de los siguientes modos:

• Generar desinformación y fake news altamente creíbles
• Uso de falsificación de la voz o el rostro de una persona para la suplantación de su identidad o para cometer fraude
• Empleo de los deepfakes contra la privacidad de las personas y con fines de acoso en contextos digitales o extorsión

En este sentido, está siendo igualmente importante la capacidad de los desarrolladores tecnológicos en generar herramientas capaces de detectar deepfakes.

Ejemplos de deepfake

• Quizás el primer ejemplo de deepfake que llegó al público general tuvo lugar en 2018, cuando se publicó un vídeo en el que el cómico estadounidense Jordan Peele conversaba con un Barack Obama creado con tecnología deepfake, al que se le entrenó para que hiciera algunos comentarios irreverentes con fines de entretenimiento.
• La página web This Person Does Not Exist se basa en la creación de retratos fotográficos altamente realistas de personas que no existen.
• En 2021, se utilizó un deepfake para hacer creer a diputados holandeses que mantenían una conversación con un político ruso vinculado a la oposición.
• En una campaña contra la malaria, se generó un deepfake de David Beckham en el que el futbolista trataba de crear conciencia sobre esta enfermedad hablando en 9 idiomas diferentes.
• La exposición “Dalí Lives” creó un deepfake de este artista para incorporarlo a una muestra en 2019

Estos ejemplos de deepfake demuestran las luces y sombras de esta tecnología. Una herramienta altamente avanzada cuyo impacto positivo o negativo depende en gran medida de la intención del usuario que la crea, más allá de la tecnología que la genera.

En BeeDIGITAL ayudamos a democratizar el acceso a herramientas de IA avanzadas para pymes y autónomos, todo ello desde un uso responsable y ético de esta tecnología. ¡Descubre nuestra plataforma y todas las oportunidades que podemos ayudarte a aprovechar!