Esta app permite poner la cara de quien tú quieras en vídeos porno

En diciembre, Motherboard descubrió a un usuario de Reddit que se hacía llamar “deepfakes” y que tenía una afición muy curiosa: poner caras de celebridades en los cuerpos actrices porno. Este usuario hizo varios vídeos, bastante convincentes, de celebridades —entre las que se incluían Gal Gadot, Maisie Williams y Taylor Swift— utilizando un algoritmo de aprendizaje automático, el ordenador de su casa, vídeos disponibles al público en general y tiempo libre.

Desde que escribimos sobre los deepfakes por primera vez, la producción de porno falso mediante inteligencia artificial (IA) ha aumentado considerablemente. Hay cada vez más gente que crea pornografía falsa con caras de famosas a través del aprendizaje automático, y los resultados son realmente sorprendentes.

MIRA:

Otro usuario de Reddit diseñó una aplicación que permitía que los usuarios sin conocimientos de informática pudieran producir también porno falso. Todas las herramientas que uno necesita para hacer estos vídeos son gratuitas, públicas y van acompañadas de instrucciones para guiar a los novatos durante el proceso.

En nuestro primer artículo, los expertos con los que hablamos ya nos advertían sobre estos desarrollo. ¡Es increíble lo rápido que han llegado!

Poco después de que Motherboard publicara el artículo, hace dos meses, “deepfakes” creó un subreddit con su nombre, dedicado a su afición. En este período tan corto de tiempo ha conseguido más de 15.000 subscriptores. Dentro de la comunidad, la palabra “deepfake” se ha convertido en el nombre de estos vídeos falsos generados en la red neuronal que promovió su creador homónimo.

Otro usuario, que se hace llamar “deepfakeapp ”, creó la FakeApp, una aplicación sencilla que permite que cualquiera pueda recrear estos vídeos con sus propios grupos de datos. La aplicación está basada en el algoritmo de “deepfakes ”, pero “deepfakeapp ” la creó sin la ayuda de los vídeos originales de su competidor. Le envié un mensaje a “deepfakes ” pero no respondió cuando le propuse que comentáramos la recién descubierta popularidad de su creación.

“Deepfakeapp” me explicó en un mensaje de Reddit que su objetivo con la creación de FakeApp era habilitar la tecnología que empleaba “deepfakes” para la gente sin conocimientos técnicos o experiencia en programación.

“Creo que la versión actual de la aplicación es un buen comienzo, pero espero que se haga mucho más famosa en las próximas semanas”, dijo él. “Con el tiempo, quiero mejorarla hasta el punto de que los futuros usuarios puedan, simplemente, seleccionar un vídeo en sus ordenadores, descargar una red neuronal vinculada a una cara en concreto de una galería de acceso público y poner una cara distinta al vídeo solo con pulsar un botón”.

LEE:

A principios de enero, poco después de que Motherboard publicase su primera historia sobre los deepfakes, llamé a Peter Eckersley, informático jefe de la Electronic Frontier Foundation (Fundación Frontera Electrónica) para hablar de las implicaciones de esta tecnología en la sociedad en general.

“Creo que el fenómeno que ha provocado esta tecnología tan simple y extendida no ha hecho más que comenzar”, me comentó, a lo que añadió que los vídeos de “deepfakes ” eran bastante complicados de hacer. “Hoy en día se pueden producir vídeos falsos con redes neuronales, pero si te fijas bien, se nota que han sido modificados. Sin embargo, muchas de las técnicas empleadas siguen siendo bastante avanzadas. Esto va a cambiar en cuestión de un año o dos”.

De hecho, cambió a los dos meses escasos. Según nuestros cálculos, existen docenas de usuarios que están experimentando con pornografía hecha a través de IA, algunos de los cuales han logrado vídeos increíblemente convincentes.

Otro de los usuarios de Reddit, “UnobtrusiveBot” , puso la cara de Jessica Alba en el cuerpo de la actriz porno Melanie Rios con la aplicación FakeApp. “Es muy rápida, pero solo estoy aprendiendo a modificar el modelo original. En unas cinco horas ya lo tenía, no está nada mal”, escribió en un comentario.

El usuario “nuttynutter6969” utilizó FakeApp para sustituir la cara de una actriz porno por la de Daisy Ridley, de Star Wars.

Los vídeos falsos publicados en el subreddit de “deepfakes” ya se han tomado por reales en otros sitios web. Uno de los vídeos difundidos fue un deepfake de Emma Watson en la ducha, subido por CelebJihad —sitio web bastante conocido donde regularmente se difunden publicaciones hackeadas de celebridades desnudas— en el que podía leerse, “Este vídeo nunca antes visto es de mi colección privada, y muestra a Emma Watson totalmente desnuda y exponiendo abiertamente sus órganos sexuales mientras se ducha con otra chica”.

Otros usuarios de Reddit se han descargado vídeos de historias públicas de Instagram de celebridades y los han utilizado para poner las caras de dichas celebridades en Snapchats de desnudos publicados por aficionados.

“Tuve la suerte de que esta aficionada bailara de esa forma tan tonta y tuviera las mismas expresiones faciales que Chloe en sus historias de Instagram”, escribió el autor de un deepfake de la actriz Chloe Bennet.

La mayoría de las publicaciones de r/deepfakes hasta ahora son pornográficas, pero algunos usuarios también están haciendo vídeos que muestran las enormes repercusiones de una tecnología que permite que todo aquel que tenga el material suficiente pueda poner cualquier cara en cualquier vídeo. Un usuario con el nombre de “Z3ROCOOL22” combinó imágenes de Hitler con las del presidente de Argentina, Mauricio Macri:

Según “deepfakeapp”, cualquiera que tenga la posibilidad de descargarse y utilizar FakeApp puede producir uno de estos vídeos con solo tener uno o dos vídeos de alta definición con las caras que quieran falsificar. Según el wiki del Reddit, FakeApp es “una aplicación de escritorio desarrollada por la comunidad para poder ejecutar el algoritmo de los deepfakes sin necesidad de instalar Python, Tensorflow, etc.”, y que todo lo que se necesita para utilizarla es una “buena GPU (unidad de procesamiento de gráficos que suelen necesitar los videojuegos 3D de alta definición) con soporte para CUDA (plataforma de computación paralela y modelo de programación de NVIDIA)”.

Si los usuarios no tienen la GPU adecuada, siempre pueden utilizar una temporalmente a través de servicios como Google Cloud Platform. Realizar todo el proceso, desde la extracción de datos a la conversión de una cara a otra, puede llevar de ocho a doce horas si se hace correctamente. Algunos usuarios afirman haber tardado mucho más, y a veces con resultados desastrosos.

“En honor a aquellos que lo han intentado pero que no lo han logrado, aquí dejo mi desgracia de vídeo”, escribió el usuario “MrDrPresidentNotSure” sobre la chapuza que le salió al intentar un intercambio de rostros:

“Cuando esto es lo que consigo, ¿significa que debería practicar más tiempo?”, publicó el usuario “yu78156853” sobre su intento fallido con FakeApp:

El intercambio de rostro de la Princesa Leia de Rogue one que hizo el usuario “derpfake” destaca por su gran parecido con la realidad, según me explicó “deepfakeapp”. La versión de FakeApp y la escena producida por Hollywood en la película son casi idénticas, o al menos eso parece en estos GIF de baja resolución.

“Mi deseo es que en los próximos años las herramientas de aprendizaje automático como esta sean más accesibles y den a la gente de a pie —que no deben tener necesariamente conocimientos técnicos— la oportunidad de explorar y crear con la tecnología digital de alta definición, que es la que utilizan hoy en día las empresas de efectos especiales con mayor presupuesto”, me contó “deepfakeapp”.

“Las secuencias de arriba han sido extraídas de Rogue one y muestran extrañas imágenes de Carrie Fisher generadas por ordenador. Presupuesto de la película: 162 millones de euros”, escribió “derpfake” sobre su creación. “El vídeo de abajo es un fake de veinte minutos que podría haberse hecho de la misma manera con una actriz de aspecto similar. Mi presupuesto: 0 euros y una canción de los Fleetwood Mac”.

Una aplicación de uso sencillo para hacer vídeos falsos caseros —de sexo y de porno vengativo, pero también de discursos políticos y de todo lo que te apetezca— que evoluciona y mejora a tanta velocidad podría cambiar la forma en que la sociedad consume contenidos en los medios de comunicación. La combinación de todas las posibilidades que tenemos de acceder a redes neuronales de gran velocidad junto con nuestra capacidad cada vez menor de distinguir la verdad de las noticias falsas, así como la manera en la que difundimos las noticias a través de los medios, nos ha preparado para las graves consecuencias.

“Tanto social como culturalmente, esto es algo bastante injusto pero soportable”, me comentó por correo electrónico Jay Owens, analista y director de investigación de la plataforma de inteligencia de audiencia Pulsar. "Los vídeos virales y los medios de las celebridades ya operan en un plano de entretenimiento puro, pero esto se volverá cada vez más sexy, divertido e irreal que nunca. También se harán más memes sobre el tema”.

MIRA:

Deborah Johnson, catedrática de ética aplicada en la escuela de ingeniería de la Universidad de Virginia, me explicó que no hay ninguna duda de que esta tecnología va a mejorar tanto que va a ser imposible ver la diferencia entre un intercambio de rostros generado por IA y las imágenes o vídeos reales.

“La gente puede decir que la única novedad es el grado de perfección que se puede conseguir, o la credibilidad, pues estamos llegando al punto en que no se puede distinguir lo que es real de lo que no lo es. Pero el caso es que antes de estos avances tecnológicos tampoco lo distinguíamos”, dijo ella. “Lo que es nuevo es el hecho de que ahora está disponible para todo el mundo, o lo estará. Este tipo de vídeos van a minar por completo el tema de la confianza y la fiabilidad”.

Este artículo se publicó originalmente en Motherboard, nuestra plataforma dedicada a la ciencia y a la tecnología.