Estamos jodidos: todos están haciendo porno falso con inteligencia artificial

En diciembre, Motherboard descubrió a un usuario de Reddit llamado 'deepfakes' quien disfrutaba un hobby perturbador: cambiar el rostro de actrices porno con estrellas famosas. Elaboró varios videos porno convincentes de celebridades —incluyendo a Gal Gadot, Maisie Williams y Taylor Swift— usando un algoritmo de aprendizaje automático, su computadora casera, videos públicos y un poco de tiempo libre.

Desde que escribimos acerca de los videos falsos, la práctica de producir porno con Inteligencia Artificial ha estallado. Más personas están creando porno falso con celebridades usando el aprendizaje automático, y los resultados son realmente convincentes. Otro redditor creó una aplicación especialmente diseñada para permitir a los usuarios sin mucho conocimiento técnico crear porno falsa con Inteligencia Artificial. Todas las herramientas que se necesitan para hacer este tipo de videos son gratis, están disponibles al instante y vienen acompañadas de instrucciones para ayudar a los novatos a lo largo del proceso.

Estos son desarrollos que nosotros y los expertos con los que hablamos advertimos en el artículo original, sólo que llegaron a una velocidad aterradora.

Poco después de que Motherboard publicara esta historia, deepfakes creó un posteo en reddit con su nombre dedicado a esta práctica. En sólo dos meses, ya amasó más de 15,000 suscriptores. Dentro de esta comunidad, la palabra “deepfake” se ha convertido en un sustantivo para los videos falsos que su homónimo inauguró.

Otro usuario, llamado 'deepfakeapp', creó FakeApp, una aplicación amigable que permite a cualquiera recrear estos videos con sus propias bases de datos. La aplicación está basada en el algoritmo de deepfakes, pero deepfakeapp creó FakeApp sin la ayuda del original deepfakes. Le envié mensajes a deepfakes para pedirle un comentario sobre la creciente popularidad de su invención, pero no respondió.

Deepfakeapp me dijo en un mensaje directo por Reddit que su meta al crear FakeApp era hacer disponible la tecnología de deepfakes para la gente sin conocimiento técnico o experiencia en programación.

Relacionados: Con inteligencia artificial tu porno puede tener celebridades

“Creo que la versión actual de la aplicación es un buen inicio, pero espero mejorarlo en los próximos días y semanas”, dijo. “Eventualmente, quiero optimizarlo hasta que los posibles usuarios sólo tengan que seleccionar un video de su computadora, bajar una red neural relacionada a cierta cara de una biblioteca pública y cambiar el video con un rostro diferente sólo presionando un botón”.

A principios de enero, poco después de que la historia de deepfakes viera la luz, llamé a Peter Eckersley, especialista en computación para la Electronic Frontier Foundation, para hablar sobre las implicaciones de esta tecnología en la sociedad en general: “Me parece que estamos en la cúspide de esta tecnología porque es simple y se extiende rápidamente”, me dijo, añadiendo que los videos falsos eran muy difíciles de hacer hasta ahora. “Puedes elaborar videos falsos con redes neuronales hoy en día, pero la gente podrá darse cuenta si miras con atención y algunas de las técnicas para hacerlos son muy avanzadas. Pero esto no será así dentro de un año o dos”.

De hecho, apenas fue cierto por dos meses. Contamos docenas de usuarios que están experimentando con porno falsa de IA, algunos de ellos ya han creado videos increíblemente convincentes.

El usuario de Reddit UnobtrusiveBot puso la cara de Jessica Alba en el cuerpo de la actriz porno Melanie Rios usando la FakeApp. “Súper rápido, sólo es aprender a reciclar tu modelo. Casi 5 horas es decente para lo que resultó”, escribieron en un comentario.

El usuario nuttynutter6969 utilizó FakeApp para poner la cara de Daisy Ridley en otra actriz porno:

Los videos falsos publicados en el posteo de Reddit ya fueron lanzados como reales en otros sitios; un video falso de Emma Watson bañándose fue resubido por CelebJihad —un sitio de porno de celebridades que en general publica nudes de celebridades hackeadas— como un “video nunca antes visto es de mi colección privada y parece mostrar a Emma Watson completamente desnuda y presumiendo sus órganos sexuales mientras se baña con otra chica”.

Otros participantes de Reddit han tomado videos de las historias públicas de Instagram de las celebridades y los usan para transferir los rostros a Snapchats desnudos publicados por amateurs: “Me di cuenta de que a veces esta amateur hace bailes torpes y expresiones faciales como en sus historias de Instagram", escribió el creador de los videos falsos de la actriz Chloe Bennet.

La mayoría de las publicaciones en r/deepfakes hasta el momento son porno, pero algunos usuarios también están creando videos que muestran el gran alcance de una tecnología que permite a cualquiera con suficiente material trabajar y colocar cualquier rostro en cualquier video. Un usuario llamado Z3ROCOOL22 combinó imágenes de Hitler con el presidente de Argentina Mauricio Macri:

Según deepfakeapp, cualquiera que pueda descargar y ejecutar FakeApp puede crear uno o dos de estos videos con buena calidad con las caras que desee. La información en Reddit dice que FakeApp es “una aplicación desarrollada por la comunidad que ejecuta el algoritmo de deepfakes sin instalar Python, Tensorflow, etc.” y que todo lo que se necesita para usarla es una “buena GPU [tarjeta gráfica, el tipo que requieren juegos 3D de alta gama] con apoyo de CUDA [la plataforma de computación alterna y modelo de programación de NVIDIA]". Si los usuarios no tienen una GPU adecuada, también pueden rentar una GPU en la nube a través de servicios como Google Cloud Platform. El proceso completo, desde extraer la información cuadro por cuadro para convertir un rostro en otro, tomaría unas 12 horas si se hace de forma correcta. Otras personas dicen que tardan mucho más, a veces con resultados desastrozos.

“En honor de todos los que han intentado y fallado al hacer este trabajo: les entrego mi video jodido”, escribió el usuario MrDrPresidentNotSure como introducción a su intento por hacer un face swap:

“Cuando obtengo estos resultados, ¿significa que debo entrenar más?”, escribió el preocupado usuario yu78156853 por su intento fallido con la FakeApp:

El face swap de la Princesa Leia de Rogue One por el usuario derpfake sobresale por ser tan bueno, según la opinión de deepfakeapp. La versión de FakeApp y la escena producida por Hollywood son casi idénticas, al menos en los gifs de baja resolución.

“Espero que en los próximos años las herramientas del aprendizaje automático como ésta se vuelvan más accesibles y les ofrezcan a las personas normales que no necesariamente saben de tecnología la oportunidad de explorar y crear con las tecnologías de manipulación digital, cuyo dominio sobre todo está en las manos de compañías de efectos especiales con grandes presupuestos”, me dijo deepfakeapp.

“El de arriba es material original de Rogue One con una Carrie Fisher recreada con efectos especiales. El presupuesto de la película: 200 millones de dólares”, escribió derpfake sobre su creación. “El de abajo es una toma falsa creada en 20 minutos que pudo haber sido creada de la misma forma con una actriz muy parecida. Mi presupuesto: 0 dólares y algunas canciones de Fleetwood Mac”.

Una aplicación increíblemente fácil de usar para hacer videos falsos caseros —ya sean porno o sexo de venganza, pero también en discursos políticos y cualquier otra cosa que se te ocurra— que se mueve y crece a esta velocidad, podría tener un impacto transformador en la sociedad en la forma en que consumimos los medios. La combinación de la investigación de redes neuronales poderosas y abiertas, nuestra poca habilidad para reconocer lo cierto de lo verdadero y la forma en que se extienden las noticias en redes sociales, nos traen serias consecuencias.

Relacionados: ¿Estamos listos para la vida sexual con robots de Inteligencia Artificial?

“Social y culturalmente, la situación puede explotarse, pero también sobrevivirse", me dijo Jay Owens, analista de medios digitales y director investigador de la plataforma inteligente Pulsar, vía email. “Los videos virales y las celebridades de las redes sociales ya operan en un plano de puro entretenimiento, pero esto sólo puede volverse más sexy, llenarse de más memes, más risas y ser aún más irreal”.

Deborah Johnson, profesora emérita de Ética Aplicada en la escuela de ingeniería de la Universidad de Virginia, me dijo que no hay duda de que esta tecnología sería tan buena que será imposible distinguir la diferencia entre un cambio de rostro creado con Inteligencia Artificial y algo real.

“Podrías sostener que lo nuevo es el grado en que puede hacerse, o la credibilidad, estamos llegando a un punto en que no podemos distinguir qué es y qué no es verdad; pero bueno, tampoco podíamos antes”, dijo. “Lo nuevo es el hecho de que ahora está disponible para todo el mundo, o lo será… Esto desestabiliza el estado de la cuestión. La industria entera de la confianza y confiabilidad estará amenazada por esta tecnología”.