El término viene de mezclar dos vocablos en el idioma inglés: “deep learning”, que se puede traducir como “aprendizaje de máquina”; y “fake”, que como sabemos puede significar una “falsificación”. Deepfake, entonces, se refiere a una falsificación, específicamente de videos, imágenes o audio a través de herramientas de inteligencia artificial. Puede enfocarse en crear escenarios y eventos, en material audiovisual de personas que ya existen o que sean completamente generadas por computadora.
¿Cuáles son sus aplicaciones?
Se utiliza para fines educativos, comerciales, de entretenimiento, y se están desarrollando usos médicos y terapéuticos.
En lo académico, encontramos animaciones de personajes históricos, modelos visuales de traducción y el propio estudio de los modelos informáticos de inteligencia artificial. En el ámbito comercial se están generando algoritmos de atención al cliente y realizando ensayos para la industria de la ropa, que permiten realizar vestidores virtuales con una fotografía o video del usuario. En la industria del entretenimiento, las productoras de cine, televisión y videojuegos ya la utilizan para crear secuencias completas con versiones distintas de los actores y actrices (con maquillaje, más joven, más viejo), inclusive creando escenas de quienes ya han fallecido; también permite hacer ediciones al audio y video en la etapa de postproducción. Para fines médicos, se exploran programas de acompañamiento por luto; para terapia de pacientes con condiciones neurológicas, y soporte para personas que han perdido la voz.
¿Cuáles son los riesgos?
El riesgo principal es la generación de información con intención de manipulación, difamación y delincuencia. Las llamadas fake news cada vez contienen más material deepfake y resultan más complicadas de detectar a simple vista. La propaganda falsa, robo de identidad e incriminación son también situaciones que ya están ocurriendo.
Uno de los mayores retos será su oportuna detección para evitar que la generación de evidencia falsa sea un obstáculo en la correcta aplicación en los sistemas de justicia.
¿Se puede detectar?
Las producciones de baja calidad suelen ser sencillas de identificar como deepfake; como en el video de la reina Isabel II de Inglaterra, realizando bailes para Tiktok, en el cuál se usó un mensaje real de navidad que había ofrecido la monarca para un canal británico, con fines de entretenimiento. Algunos “errores” alertan fácilmente a nuestra percepción, especialmente de forma visual, cuando la sincronización de labios no corresponde al sonido de la voz o cuando los personajes en un video parpadean menos de lo que un humano promedio suele hacerlo.
Pero no es tan sencillo detectar el deepfake cuando la producción es realizada con mayor calidad, por lo que gobiernos, empresas de tecnología y universidades ya enfocan recursos en desarrollar software que sea capaz de detectar las falsificaciones, lo que representa un reto para quienes generan deepfake.
Conclusión
Como cualquier herramienta, el deepfake puede ser utilizado para diferentes fines, productivos o dañinos; por lo que es necesario reiterar que toda información debe observarse a través del pensamiento crítico, y que es recomendable mantenerse actualizado con noticias de distintas fuentes.