Motherboard

KI-gestützte Fake Pornos sind da – und wir sind alle am Arsch

Mit einem Algorithmus verwandelt ein Redditor Schauspielerinnen kinderleicht in realistische Pornostars. Auch für Privatpersonen könnte die Technologie fatale Folgen haben.
13.12.17

Im Netz kursiert gerade ein Clip, der die Wonder Woman-Schauspielerin Gal Gadot beim Sex mit ihrem Stiefbruder zeigt. Natürlich ist es nicht tatsächlich Gadots Körper, der hier zu sehen ist. Mit einem cleveren Algorithmus wurde Gadots Gesicht auf den Körper der eigentlichen Pornodarstellerin gesetzt. Das Erschreckende an diesem gefälschten Film: Der Deep-Learning-Algorithmus hätte praktisch von jedem erstellt werden können, denn er besteht aus frei zugänglichen Tools und Open-Source-Codes.

Anzeige

Auch wenn das Video auf den ersten Blick realistisch wirkt, hält es einer genaueren Betrachtung dann doch nicht stand: Manchmal passt das Gesicht nicht zu den Bewegungen des Körpers. Rund um Gadots Gesicht sieht man außerdem gelegentlich einen Bereich, in dem das Gesicht der echten Darstellerin durchschimmert.

Trotzdem ist das Video bemerkenswert, denn angeblich wurde es von einer einzelnen Person geschaffen – von einem Redditor mit dem Nutzernamen 'deepfakes'. Nach eigenen Angaben hat er es mit öffentlich verfügbaren Tools wie TensorFlow zusammengebastelt. TensorFlow ist eine Datenbank für Lern-Algorithmen von Google, die Forschern, Studenten und allen anderen Interessierten zur Verfügung steht.

Weiterlesen auf Motherboard.