Anzeige
Tech

Wie ein fragwürdiges Forschungsprojekt mit Häftlingen zu diesem absurden Foto führte

Für ein FBI-Programm haben Forschende ungefragt 15.000 Fotos benutzt, die sensible Informationen über Häftlinge verraten. Auf die heftige Kritik einer Bürgerrechtsorganisation reagieren sie mit einem ungewöhnlichen Schritt.

von Kaleigh Rogers
23 August 2018, 9:48am

Bild: NIST

Es gibt Menschen, die gut mit Kritik umgehen können, und solche, die bei kritischen Worten eher empfindlich reagieren. Und dann gibt es noch diese Forschenden der US-Behörde NIST, die Kritik an ihrer Studie zum Anlass nahmen, ihre T-Shirts auszuziehen, sich falsche Tattoos auf Arme und Bauch zu malen und das dann abzulichten. Um zu verstehen, wie es soweit kommen konnte, müssen wir uns zunächst die Vorgeschichte des jüngsten Eklats in der Wissenschafts-Community anschauen.

Alles begann damit, dass die US-amerikanische Bürgerrechtsorganisation Electronic Frontier Foundation (EFF) vor zwei Jahren eine Bilderkennungssoftware für Tätowierungen analysierte, die gemeinsam vom FBI und dem National Institute for Standards and Technology (NIST) entwickelt wurde. Die EFF stellte fest, dass das System mit Fotos von Tattoos von Inhaftierten trainiert wurde – ohne deren Einverständnis.

Fotos verraten Details aus dem Leben von Gefangenen ohne deren Zustimmung

Dieses von der EFF gepixelte Foto zeigt die Tattoos der Flüchtlinge.
Dieses Bild landete in der Broschüre der NIST-Studie. Bild bereitgestellt und verpixelt von der EFF

Einer der Vorwürfe der EFF: Fotos von Gefangenen seien in einem öffentlich verfügbaren Leitfaden, wie man Tattoos für die Forschung am besten fotografieren sollte, zu sehen. Auf den Bildern seien auch die Bilder von Familienmitgliedern, Religionszugehörigkeit, und tätowierte Namen von anderen Personen zu sehen. Die oben gezeigte, geblurrte Version des Leitfadens, den die EFF uns zur Verfügung gestellt hat, zeigt, wie spezifisch die Bilder waren und wie leicht Gefängnisinsassen anhand dieser Fotos identifiziert werden konnten.

Als Reaktion auf die Kritik beschlossen die Forschenden des NIST, den Leitfaden mit neuen Bildern nachzustellen: Ein Mitarbeiter zog sein Shirt aus, schrieb "Tattoo" mit bunten Textmarkern auf seinen Körper und ließ sich fotografieren. Der neue Leitfaden mit den eher ungewöhnlichen Bildern ist inzwischen online verfügbar.

Dieses Bild zeigt nicht mehr die Tattoos von Häftlingen, sondern die neu aufgenommenen Fotos der Forscher.
Bild: NIST

Die EFF bezeichnet den neuen Leitfaden als "peinlich" und "verwirrend": "Wir sind froh, dass die Bilder der Gefangenen von den Postern des NIST entfernt wurden, aber das neue Poster ändert ja nichts an der grundlegenden Problematik des Forschungsprogramms."

Warum die EFF die Studie weiterhin kritisiert

Die Tattoo-Software wird nicht nur entwickelt, um Tatverdächtige leichter identifizieren zu können. Sie soll auch Tätowierte tracken und dabei helfen, Täterprofile für zukünftige Analysen zu erstellen. Das NIST meint, dass Tattoos über verschiedene persönliche Informationen Aufschluss geben können, "wie die Verbindung zu Gangs, Subkulturen, religiöse oder ritualistische Ansichten oder politische Ideologien".


Bei VICE: Hinter den Kulissen des gewinnorientierten Kautionssystems der USA


Doch die 15.000 Fotos, die für das Training der Software verwendet wurden, wurden erst nachträglich für Forschungszwecke genehmigt, das Einverständnis der fotografierten Insassen wurde nicht eingeholt bevor die Aufnahmen gemacht wurden. Aber die Insassen hätten vorher gefragt werden müssen. In den USA gibt es bestimmte Regeln, die Inhaftierte davor schützen sollen, in Forschungsprojekten ausgebeutet zu werden. Nach Meinung des EFF verstoßen die Forschenden gegen diese Regeln, indem sie die nicht-einvernehmlich gesammelten Bilder zwar von den Postern entfernt haben, sie jedoch weiterhin nutzen, um ihren Algorithmus zu trainieren.

Außerdem wurden die Bilder und Datensätze an 19 Drittfirmen und -organisationen weitergegeben. Informationen der EFF zufolge hat NIST inzwischen 28 Bilder aus dem Datensatz entfernt, die persönliche Informationen enthalten könnten. Ob auch die Drittfirmen angewiesen wurden, die sensiblen Bilder zu entfernen, ist nicht bekannt.

Folgt Motherboard auf Facebook, Instagram, Snapchat und Twitter