Motherboard

Con inteligencia artificial cualquier porno puede ser porno de celebridades

Alguien usó un algoritmo para pegar la cara de la estrella de ‘La Mujer Maravilla’, Gal Gadot en un video porno y las implicaciones son aterradoras.
12.12.17
Imagen: captura de pantalla de SendVids

Este artículo fue publicado originalmente en Motherboard, nuestra plataforma de tecnología.

Hay un video de Gal Gadot teniendo sexo con su medio hermano en Internet. Pero no es realmente el cuerpo de Gadot, y apenas es su propia cara. Es una aproximación, un cambio de cara para parecer que ella está actuando en un video porno de incesto.
El video fue creado con una máquina que aprende algoritmos, usando materiales de fácil acceso y un software de código abierto que cualquiera con un conocimiento profundo en el aprendizaje de algoritmos podría usar.

Toma del video completo, subido a SendVids, mostrando la cara de Gal Gadot en el cuerpo de una estrella porno.

No va a engañara nadie que lo mire detenidamente. A veces la cara no mapea correctamente y se produce un efecto extraño al reproducirlo, pero a primera vista parece creíble. Es especialmente notable, considerando que supuestamente se trata del trabajo de una persona —un Redditor bajo el nombre de ‘deepfakes’—, no un gran estudio de efectos especiales que pueda recrear una joven princesa Leia digitalmente en Rogue One usando CGI. En cambio, deepfakes usa una máquina de aprendizaje con código abierto como TensorFlow, que Google deja gratuitamente disponible a investigadores, estudiantes graduados y cualquiera que esté interesado en una máquina de aprendizaje.

Publicidad

Como la herramienta de Adobe que puede hacer a la gente decir lo que sea, y el algoritmo Face2Face que puede intercambiar un video grabado con uno de tiempo real, este nuevo tipo de porno falso muestra que estamos a punto de vivir en un mundo donde es técnicamente fácil fabricar videos creíbles de gente haciendo y diciendo cosas que nunca hicieron. Incluso teniendo sexo.

Hasta ahora, deepfakes ha publicado videos de porno usando la cara de Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza, y Gal Gadot en Reddit. He contactado a las compañías y/o publicistas que representan a cada una de estas actrices, informándoles sobre los videos falsos, y si obtengo una respuesta la subiré.

El porno falso de celebridades, en el que las imágenes son retocadas para lucir como gente famosa posando desnuda, es una categoría de porno antigua con una base de fanáticos apasionados. La gente comenta y vota en la subreddit donde hay grandes admiradores del trabajo de deepfakes. Este es el último avance en dicho género.

“Esto ya no es física cuántica”

De acuerdo con deepfakes –quien se negó a darme su identidad para evitar el escarnio público– el software se basa en múltiples librerías de extensos recursos, como Keras, con apoyo de TensorFlow. Para la compilación de los rostros de las celebridades, deepfakes dijo que usaba la búsqueda de imágenes de Google, fotos de archivo y videos de YouTube. El aprendizaje profundo consiste en redes de nodos interconectados que autónomamente transportan cálculos en la base de datos. En este caso, él entrenó el algoritmo en videos pornográficos y la cara de Gal Gadot. Luego de suficiente ‘entrenamiento’, los nodos se ordenan por sí solos para completar una tarea en particular, como manipular un video convincentemente.
El investigador de inteligencia artificial Alex Champandard me dijo en un correo que una tarjeta decente de consumidor gráfico podría procesar este efecto en horas, pero un computador podría trabajar un poco más lento, en días.

“Esta ya no es física cuántica”, dijo Champandard.

Publicidad

La facilidad con la que alguien puede hacer esto es aterradora. Aparte del desafío técnico, todo lo que se necesita son imágenes suficientes de tu rostro y muchos de nosotros estamos creando extensas bases de datos con nuestras propias caras: En todo el mundo, se subieron alrededor de veinticuatro mil millones de selfies en Google Photos entre 2015 y 2016. No es difícil imaginarnos a un programador novato ejecutando su propio algoritmo para crear un video sexual de alguien a quien quiere acosar.

Deepfakes dice no ser un investigador profesional, sino solo un programador con interés en máquinas de aprendizaje.

“Yo solo encontré una forma más inteligente de hacer cambio de rostros”, dijo, refiriéndose a sus algoritmos. “Con cientos de rostros, puedo fácilmente generar millones de imágenes distorsionadas para entrenar la red”, dijo. “Después de eso, si alimento la red con el rostro de alguien más, la red pensará que solo es otra imagen distorsionada y tratará de hacerla parecer al rostro de entrenamiento”.

En un hilo de comentarios en Reddit, deepfakes mencionó que utiliza un algoritmo similar al que fue desarrollado por los investigadores de Nvidia que usa el aprendizaje profundo para, por ejemplo, transformar un video de verano en uno de invierno instantáneamente. Los investigadores de Nvidia, se negaron a comentar sobre esta posible aplicación.

En casi todos los ejemplos que deepfakes ha publicado, el resultado no es perfecto. En el video de Gadot, un cuadro aparece ocasionalmente alrededor de su cara en donde la imagen original se asoma y su boca y ojos no van acorde a las palabras que la actriz está diciendo, pero si uno mira de reojo y deja sus creencias de lado, bien podría ser Gadot. Otros videos hechos por deepfakes son más convincentes.

Publicidad

La actriz de porno Grace Evangeline me escribió en un mensaje directo de Twitter que las estrellas porno están acostumbradas a que su trabajo sea distribuido en páginas gratuitas como SendVid, donde el video falso de Gal Gadot fue posteado sin su permiso. Pero ella dijo que era diferente, nunca había visto algo como esto.

“Algo importante que siempre debe haber es el consentimiento”, dijo Evangeline. “Tanto el consentimiento en la vida privada como en una grabación. La creación de escenas sexuales falsas de celebridades va más allá de su consentimiento. Está mal”.

Incluso para las personas que viven de estar en frente de una cámara, la violación a la privacidad es un problema. Le mostré a Alia Janine, una estrella de porno retirada que estuvo en la industria sexual por quince años, el video de Gadot. “Es realmente perturbador”, me dijo al teléfono. “Esto muestra cómo algunos hombres ven a las mujeres solo como objetos que pueden manipular y forzar para hacer cualquier cosa que quieran… Muestra una completa falta de respeto por las estrellas porno de la película y también por las actrices”.

Le pregunté a deepfakes si consideraba las implicaciones éticas de esta tecnología. ¿Acaso tenía en mente el consentimiento, el chantaje y el porno de venganza mientras desarrollaba el algoritmo?

“Cada tecnología puede ser usada con malas motivaciones y es imposible detenerla”, dijo al comparar la misma tecnología que fue usada para recrear la actuación de Paul Walker en Rápidos y Furiosos 7. “La diferencia es lo fácil que es hacerlo. No creo que sea malo que más personas conozcan sobre las máquinas de aprendizaje”.

Éticamente, las implicaciones son “enormes”, dijo Champandard. La malicia usada por la tecnología no puede ser evitada, pero sí contrarrestada.

“Necesitamos tener un debate público y en voz alta”, dijo. “Todos necesitan saber lo fácil que es falsear imágenes y videos, hasta el punto de no ser capaces de distinguir las falsificaciones en unos pocos meses. Por supuesto, esto pudo ser posible por un largo rato, pero habría necesitado de muchos recursos y profesionales en efectos especiales para lograrlo. Ahora puede hacerse por un solo programador con un hardware actualizado”.

Champandard dijo que los investigadores pueden empezar a desarrollar tecnología para detectar los videos falsos y ayudar a moderar lo que es falso y lo que no es, y la política de Internet podría mejorar para regular lo que pasa cuando este tipo de acoso sucede.

“De una forma extraña”, esto es algo bueno, dijo Champandar. “Necesitamos enfocarnos en transformar la sociedad para ser capaces de lidiar con esto”.