Mensch gegen Maschine: Bei den Tech-Firmen anfangen

Fotos: Maria Gruzdeva

Aus der Technologieausgabe.

Dr. Hany Farid ist Professor und Lehrstuhl für Informatik am Dartmouth College und Senior Adviser beim Counter Extremism Project.

Menschen nutzen das Internet heute für viele abscheuliche Zwecke: Sie rekrutieren und radikalisieren Terroristen, betreiben Menschenhandel zur sexuellen Ausbeutung sowie illegalen Waffenhandel, Cyberstalking und Cybermobbing, sie verbreiten "Revenge Porn", stehlen persönliche Daten, veröffentlichen Lügen und Hetze und vieles mehr. Technikfirmen reagieren derweil frustrierend langsam auf diese realen Bedrohungen mit ihren realen Konsequenzen.

Wir sollten also nicht fragen, wie wir die Technologie besser für unsere Zwecke nutzen können, sondern wie wir die Technik firmen dazu bringen, besser für uns zu arbeiten.

Tech-Firmen, vor allem im Bereich Social Media, müssen einsehen, dass ihre Plattformen für illegale Aktivitäten genutzt werden, die oft verheerende Folgen haben. Diese Firmen müssen ihre Verantwortung für die Handlungen, die auf ihren Seiten stattfinden, ernster nehmen. Und die Milliardenkonzerne müssen ihre Macht aggressiver einsetzen, um Lösungen zu finden.

Diese besorgniserregenden Tendenzen sind nicht neu. Anfang der 2000er rief das US-Justizministerium die Führungsriegen der größten Tech-Firmen zusammen und fragte, warum sie nicht mehr täten, um Kindesmissbraucher von ihren Plattformen zu löschen. Sie antworteten, es gebe eine Reihe Schwierigkeiten im Zusammenhang mit Technik, Privatsphäre, Gesetzen und wirtschaftlichen Faktoren, die sie davon abhalte.

Im Laufe der nächsten fünf Jahre unternahmen die Firmen aber nichts, um diese zu lösen, obwohl das Justizministerium die Branche weiter unter Druck setzte. Zwischen 2008 und 2010 entwickelte ich mit Microsoft und dem National Center for Missing & Exploited Children eine Technologie namens PhotoDNA, die es Technikfirmen ermöglicht, Material im Zusammenhang mit Kindesmissbrauch aufzuspüren, zu entfernen und zu melden. Nachdem PhotoDNA-Lizenzen großzügig zugänglich gemacht wurden, konnten die Technikfirmen ihre Untätigkeit immer schlechter rechtfertigen. Der anhaltende öffentliche Druck führte letztendlich zum weltweiten Einsatz von PhotoDNA. Heute haben so gut wie alle großen Technikfirmen der Welt die Technologie angenommen.

PhotoDNA ermöglicht es den Unternehmen, illegale Inhalte zu entfernen, ohne dass ihre täglichen Geschäfte oder ihre Mission darunter leiden müssten. Der springende Punkt ist, dass Technikfirmen – Microsoft ausgenommen – sich nicht gerade um Lösungen bemüht haben. Wenn es um andere Formen des Missbrauchs oder illegale Aktivitäten geht, hören wir weiterhin dieselben Ausflüchte, warum die Firmen ihre Plattformen nicht von diesen schrecklichen Inhalten bereinigen.

Vor allem im Kampf gegen Extremismus im Netz zeigen sich Tech-Firmen größtenteils gleichgültig, während ihre Plattformen genutzt werden, um zu rekrutieren, zu radikalisieren und extremistische Gewalt zu glorifizieren. (Große Tech-Firmen haben kürzlich angekündigt, handeln zu wollen, bisher ist allerdings noch nichts geschehen.)

Das ist besonders frustrierend, weil eine PhotoDNA-ähnliche Technologie sicherlich erfolgreich extremistische Inhalte finden und entfernen könnte. Die moderne Technik ermöglicht uns selbstfahrende Autos, Virtual Reality und das Internet an jeder Straßenecke, da können wir doch wohl etwas gegen Online-Extremismus und Fake News unternehmen. Die komplexen Entscheidungen, die es zu fällen gilt, sollten wir diskutieren. Wir sollten diese Komplexität allerdings nicht als Ausrede nutzen, um uns aus der Verantwortung zu ziehen. Technikfirmen sollten zum Handeln motiviert werden, nicht nur im Namen des Gemeinwohls, sondern auch in ihrem eigenen Interesse.

Die Öffentlichkeit hat immer weniger Geduld mit der sturen Gleichgültigkeit der Firmen gegenüber den schädlichen Einflüssen ihrer Technologie. Dieser Kampf findet statt, und es ist an der Zeit, dass Tech-Firmen sich daran beteiligen und ihn gewinnen, indem sie endlich ihre soziale Verantwortung wahrnehmen.

Folge VICE auf Facebook, Instagram und Snapchat.