Anzeige
Tech

Warum Amazons Kleiderschrank-Kritiker Echo Look ein Überwachungsalbtraum ist

Amazon stattet Alexa mit Augen und Ohren aus, damit sie dein Outfit beurteilen und praktische Modetipps geben kann. Doch dafür müssen Nutzer vielleicht mehr von sich preisgeben, als ihnen lieb ist.

von Jason Koebler
27 April 2017, 1:12pm

Amazons virtuelle Assistentin Alexa wird dir künftig sagen können, ob du in deiner Hose fett aussiehst. „Echo Look" ist mit einem Lernalgorithmus, einem Mikrofon und einer Kamera ausgestattet und soll irgendwo in deinem Schlafzimmer oder Badezimmer – oder wo auch immer du dich normalerweise anziehst – platziert werden.

Sein neues Produkt bewirbt Amazon als bequeme Lösung, Fotos von deinen Outfits zu knipsen und mit deinen Freunden zu teilen. Und falls du dir mal nicht sicher bist, ob dir deine Kleidung steht oder nicht, dann gibt es da auch noch die integrierte App StyleCheck. Im Hinblick auf Datensicherheit lohnt es sich jedoch, Amazons neue Erfindung nochmal genauer unter die Lupe zu nehmen.

Folgt Motherboard auf Facebook, Instagram, Snapchat und Twitter

Bevor du Echo Look in dein Schlafzimmer einziehen lässt, hier ein paar grundsätzliche Fragen:

  • Möchtest du, dass ein Algorithmus, maschinelles Lernen und anonyme „Fashion-Spezialisten" darüber entscheiden, ob du heute passabel aussiehst oder nicht? Welche einprogrammierten Vorurteile wird die KI-Fashionista wohl haben? Erst vergangenes Jahr wurden in einem Schönheitswettbewerb, in dem eine Künstliche Intelligenz die Jury sein durfte, fast ausschließlich weiße Gewinner gekürt.
  • Fühlst du dich wohl bei dem Gedanken, dass Amazon jedes deiner Kleidungsstücke sehen und eventuell katalogisieren kann? Wer braucht schon den Dash-Button von Calvin Klein, wenn dein Echo dir sagen kann, dass es Zeit für neue Unterwäsche ist und die von Kik auf keinen Fall infrage kommt? Findest du es ok, dass Amazon eine Kamera und ein Mikro in deinem Schlafzimmer platziert?

Amazon hat uns bestätigt, dass die Bilder und Videos, die Echo Look aufnimmt, unbegrenzt gespeichert werden. Tonaufnahmen von Echo wurden bereits in der Aufklärung eines Mordfalls eingesetzt, obwohl man der Fairness halber sagen muss, dass Amazon sich in diesem Fall gegen den richterlichen Beschluss wehrte.

„Alle Bilder und Videos, die mit Echo Look aufgenommen werden, werden sicher in der AWS-Cloud und lokal in der Echo Look-App gespeichert, bis ein Nutzer sie löscht", erklärt ein Amazon-Sprecher gegenüber Motherboard. „Du kannst die Fotos oder Videos von deinem Account jederzeit aus der App löschen."

Auf die Frage, ob von Echo Look aufgenommene Bilder, Videos und die damit verbundenen Daten auch an Dritte verkauft werden würden, ging Amazon jedoch nicht ein.

Die US-Tech-Soziologin Zeynep Tufekci sieht das Fashion-Gadget kritisch: Sie warnt, dass maschinelles Lernen in Kombination mit Ganzkörperfotos und Videos für viel mehr benutzt werden könnten, als dir neue Klamotten anzudrehen oder Werbung exakt auf dich zuzuschneiden. Tufekci meint, dass Amazon anhand der Daten intime Informationen über Nutzer gewinnen könne – beispielsweise ob eine Nutzerin schwanger sei, oder ob jemand unter Depressionen leide.

Klar, es gibt auch virtuelle Assistenten, die einem das Leben minimal erleichtern können. Und im Endeffekt ist Echo Look auch nicht viel mehr als ein mit dem Internet verbundenes Babyphone (die übrigens alle naselang gehackt werden). Doch die KI-Erweiterung und Amazons Hang dazu, seinen Kunden immer mehr Produkte auf immer mehr Wegen anzudrehen, geben dem Gadget einen dystopischen Beigeschmack.

Tagged:
tech
Motherboard
amazon
Fashion
überwachung
Datenschutz
Künstliche Intelligenz
bias
KI
Alexa
Datensicherheit
Echo Look