Esta terrorífica app crea un nude de cualquier mujer con un simple clic

Nota del editor, 27 de junio 01:05 PM EST: Este artículo incluía originalmente cinco imágenes dobles en las que aparecían las imágenes de varias famosas al lado del desnudo falso generado por DeepNude. Aunque las imágenes habían sido editadas para no mostrar desnudos explícitos, tras atender a nuestros lectores, a expertos y colegas, consideramos que las imágenes podían dañar a las personas reales que aparecen en ella. Creemos que es importante mostrar los efectos negativos que las nuevas tecnologías pueden desencadenar en el mundo, pero también queremos estar seguros de que nuestros reportajes minimicen ese daño. Por esa razón, hemos eliminado las imágenes de la historia y lamentamos el error.

Un programador ha creado una aplicación que utiliza redes neuronales para crear versiones desnudas de fotos de mujeres, consiguiendo un desnudo muy realista.

El software, llamado DeepNude, utiliza una foto de alguien con ropa y crea una nueva imagen de la misma persona, pero esta vez desnuda. Intercambia la ropa por pechos y vaginas, y solo funciona con imágenes de mujeres; cuando Motherboard intentó usar una foto de un hombre, sustituyó la ropa interior por una vagina. DeepNude tiene un mayor o menor grado de éxito sobre imágenes de mujeres vestidas, y parece ser que los mejores resultados son los que genera a partir de las fotos donde ya se muestra una gran parte de la piel. Probamos la aplicación con una docena de fotos, y las más convincentes fueron aquellas en alta resolución, sacadas de Sports Illustrated Swimsuit.

MIRA:

Desde que Motherboard descubrió los deepfakes a finales de 2017, los medios de comunicación y los políticos se han centrado en los peligros que suponen este tipo de herramientas, en torno a las cuales hay mucha desinformación. Pero el uso más devastador de los deepfakes siempre ha sido el que se hace contra las mujeres: puede ser experimentando con la tecnología con imágenes femeninas sin consentimiento o difundiendo porno de manera no consensuada y con fines maliciosos. DeepNude supone una evolución en cuanto a la tecnología de fácil uso, con un proceso de creación más rápido que el de deepfakes. DeepNude te ayuda a exigir el derecho de propiedad sobre el cuerpo de una mujer.

“Es totalmente aterrador”, explicó Katelyn Bowden, fundadora y directora ejecutiva de la organización activista que se reivindica en contra del porno vengativo en Badass. “Ahora, cualquier persona puede ser víctima del porno por venganza sin ni siquiera haberse sacado una foto sin ropa. Este tipo de tecnología no debería estar al alcance del público”.

Es una “invasión de la privacidad sexual”, explicó a Motherboard Danielle Citron, profesora de derecho en la Universidad de Maryland Carey, quien recientemente testificó ante el Congreso sobre la amenaza de deepfake.

“Aunque no sea tu vagina, las otras personas podrían pensar que te están viendo desnuda”, nos dijo. “Como me dijo una víctima de un deepfake: sentía que miles de personas la habían visto desnuda y que su cuerpo ya no era el mismo”.

DeepNude se presentó con una página web con una muestra de cómo funcionan el software y la aplicación, que se puede descargar para Windows y para Linux, el 23 de junio.

Motherboard se descargó la aplicación y la probó con Windows. La instalación y la puesta en marcha fueron iguales que las de cualquier otra aplicación de Windows, y no necesitan ningún tipo de conocimiento tecnológico específico. En la versión gratuita de la página web, las imágenes resultantes están tapadas parcialmente por una enorme marca de agua. En la versión de pago, que puedes obtener por 50 dólares, la marca de agua se elimina, pero en lugar de ello la aplicación coloca un sello con la palabra fake en la esquina superior izquierda (recortar el cartel de fake o eliminarlo con Photoshop no requeriría mucho esfuerzo).

La aplicación se puso a prueba con más de una docena de imágenes de mujeres y hombres vestidos de diferentes maneras (desde manga larga hasta un simple bikini de tiras) y de diferentes tonos de piel. Los resultados variaron enormemente, pero cuando la app trabajaba con una imagen de una mujer mirando a cámara directamente, bien iluminada y en alta resolución, el resultado de este falso nude era bastante realista. El algoritmo rellena aquellos huecos donde solía haber ropa con la forma de los pechos bajo la ropa, los pezones y las sombras.

Pero no es perfecta. La mayoría de las imágenes, en especial aquellas en baja resolución, crearon auténticas rarezas visuales. DeepNude fracasó por completo con las fotografías que tenían algún ángulo complicado, una mala iluminación o aquellas en las que la modelo llevaba alguna vestimenta rara, que parecieron despistar a la red neuronal que utiliza la aplicación. Cuando la probamos con una imagen del personaje de dibujos animados Jessica Rabbit, la distorsionó y destruyó totalmente, poniendo unos pezones sobre una imagen amorfa.

En un correo electrónico, el creador anónimo de DeepNude, que se le llamara Alberto, explicó a Motherboard que el software se basa en pix2px, un algoritmo de uso libre desarrollado por los investigadores de Berkeley en 2017 en la Universidad de California. Pix2pix usa un sistema GANs ( generative adversarial networks), que funciona entrenando a un algoritmo con un gran conjunto de datos de imágenes —en el caso de DeepNude, 10 000 fotos de mujeres desnudas, según el programador— y a partir de eso trata de mejorar. Este algoritmo es similar al que se usaba con los vídeos deepfake, y al que tienen los vehículos autónomos para imaginar posibles rutas.

El algoritmo solo funciona con mujeres, dijo Alberto, porque las imágenes de mujeres desnudas son más fáciles de encontrar en internet —pero espera crear también una versión masculina.

“Contiene múltiples redes porque cada una tiene una tarea distinta: localizar la ropa, ocultarla, especular con distintas posiciones anatómicas y reproducirlas”, dijo. “Todo eso hace que el proceso sea lento (30 segundos en un ordenador cualquiera), pero podría mejorar y ganar en velocidad en un futuro”.

Los vídeos deepfake, en comparación, tardan horas o días en conseguir un vídeo creíble con caras intercambiadas. Incluso para un editor especializado, cambiar una foto de alguien con ropa a un desnudo usando Photoshop podría suponer varios minutos.

Alberto nos dijo que a la hora de crear DeepNudes, se inspiró en los anuncios de gafas con rayos X que había visto mientras ojeaba revistas de los 60 y los 70, las cuales tenía al alcance de su mano cuando era pequeño. El logo de DeepNude, un hombre con gafas de espirales, es un homenaje a ese tipo de anuncios.

“Como todo el mundo, me fascinaba la idea de que pudiesen existir de verdad, y todavía pienso en ello”, dijo. Aproximadamente hace dos años, descubrí el potencial de AI y empecé a estudiar los fundamentos. Cuando vi que los sistemas GAN eran capaces de transformar una foto de día en una nocturna, me di cuenta de que sería posible transformar una foto de una persona vestida en una de una persona desnuda. Eureka. ¡Me di cuenta de que las gafas de rayos X eran algo real! “Impulsado por este descubrimiento hice las primeras pruebas para pasármelo bien, y obtuve resultados interesantes”.

Alberto dijo que continuó con el experimento, dejando atrás “las risas” y la curiosidad.

“No soy un pervertido, simplemente me considero un amante de la tecnología”, nos dijo. “Sigo mejorando el algoritmo. Hace poco, debido a anteriores fracasos (otros proyectos) y problemas económicos, me pregunté si podría obtener beneficios económicos de este algoritmo, y por esa razón creé DeepNude”.

De forma impulsiva, nos dijo que siempre se había preguntado si debería haber creado el programa: “¿Está bien hacer esto? ¿Podría herir a alguien?”, se preguntaba.

“Creo que con Photoshop puedes conseguir un buen resultado, algo similar a lo que hace DeepNude (después de algún tutorial de unas horas)”, dijo. DeepNude no difunde ninguna de sus imágenes, solo las crea y le permite al usuario hacer lo que quiera con los resultados.

“También me dije a mí mismo: la tecnología está lista (con el alcance de todo el mundo)”, nos dijo. “Así que, si alguien tiene malas intenciones, el hecho de tener DeepNude no cambia nada… Si no lo hago yo, lo hará otra persona dentro de un año”.

Ha pasado un año desde que Motherboard descubrió los deepfakes en Reddit y, desde aquel entonces, el aprendizaje automático que emplea esta tecnología ha avanzado a una velocidad vertiginosa. En 2017, los intercambios de caras que generaba el algoritmo necesitaban cientos de imágenes y tardaban días en procesarse, pero ahora simplemente necesita unas cuantas fotos, o incluso una entrada de texto y pocas horas.

Motherboard le enseñó la aplicación a Hany Farid, un profesor de informática en la Universidad de California, Berkeley, que se ha convertido en un experto ampliamente citado en los análisis forenses digitales de los deepfakes. A Farid le sorprendió este desarrollo, también su facilidad.

“Vamos a tener que mejorar en cuanto a la detección de los deepfakes, y los académicos e investigadores van a tener que pensar de manera más crítica para poder conseguir que la seguridad en relación a los avances tecnológicos pueda mejorar, y que no se conviertan en un arma para fines involuntarios o hirientes”, dijo Farid. Además, plataformas de las redes sociales van a tener que pensar más en cómo defender y reforzar sus políticas en torno a este tipo de contenido. Los legisladores van a tener que reconsiderar la manera en que regulan ese espacio”.

Los deepfakes se han convertido en un fenómeno muy extendido a nivel internacional, pero por el momento la moderación de la plataforma y la legislación no ha cumplido con el seguimiento de esta tecnología de rápido avance. Mientras tanto, las mujeres siguen siendo víctimas de los deepfakes y permanecen en el olvido, a la espera de una narrativa más política. Sin embargo, en la mayoría de casos los deepfakes han sido utilizados como un arma contra las mujeres y sin su consentimiento, y gran parte de los titulares y el miedo político que tienen se centran en el potencial de las noticias falsas.

Incluso las propuestas de ley como la Ley de Responsabilidad de los Deepfakes ( DEEPFAKES Accountability Act), que se introdujo el mes pasado, siguen sin ser suficiente para frenar este tipo de tecnología y terminar con el uso inapropiado que se hace de ellas y que puede herir a personas reales.

Se trata de un problema muy grave —los deepfakes desafían la mayoría de las leyes de estado relacionadas con el porno vengativo, porque no representan la desnudez real de la víctima, pero, sin embargo, las leyes federales protegen a las compañías y las plataformas de las redes sociales donde proliferan”, nos explicó la abogada Carrie Goldberg, cuyo bufete de abogados está especializado en el porno vengativo. “Evitar el consumo de lo que en mi oficina llamamos humili-porn es responsabilidad del público. Ya sea porno por venganza o producto de los deepfakes, ¡no cliques en el enlace ni lo compartas! Así es como este tipos de páginas web consiguen dinero. Necesitamos hacer que la gente deje de usar la identidad de otras personas y que internet se use manera ética y conscientemente.

DeepNude es más fácil de usar y es más accesible de lo que nunca han sido los deepfakes. Mientras que hacer este tipo de vídeos es algo que requiere muchos conocimientos tecnológicos, una gran cantidad de datos y acceso a costosas tarjetas gráficas, DeepNude es una aplicación dirigida a los consumidores mucho más fácil de utilizar que la mayoría de videojuegos, además de ser capaz de reproducir un nude bastante creíble en 30 segundos con un simple clic.

Nota del editor, 27 de junio a las 13:05 p.m.: Originalmente, esta historia incluía imágenes de varias personas famosas e imágenes manipuladas por DeepNude de las mismas celebridades. A pesar de que las imágenes estaban censuradas para no mostrar el desnudo explícito, después de informarnos con nuestros lectores, académicos expertos y compañeros, nos dimos cuenta de que esas imágenes podrían llegar a herir a personas reales. Creemos que es importante mostrar las consecuencias reales que pueden desencadenar las nuevas tecnologías en el mundo si no se advierte de ello, pero también queremos asegurarnos de que nuestros informes minimizan los daños. Por esa razón, hemos eliminado las imágenes de la historia, y lamentamos el error.