Amazon veut installer une caméra et un micro dans votre chambre

Echo Look a la ferme intention de vous dire si votre petit haut vous boudine, mais aussi d'en apprendre beaucoup sur vous.

|
28 Avril 2017, 5:00am

Amazon a décidé de donner des yeux à Alexa. Du coup, elle pourra vous aider à choisir vos fringues.

L'Echo Look, annoncé mercredi par Amazon, est un assistant virtuel doté d'un micro et d'une caméra destiné à être installé dans votre chambre, votre salle de bain, ou dans n'importe quelle pièce où vous jugez pertinent de vous habiller au quotidien.

Amazon présente l'affaire comme un moyen d'envoyer très facilement des photos de votre #ootd à vos amis quand vous n'arrivez pas à savoir si vous êtes la plus belle pour aller danser, mais il faut surtout se pencher sur l'appli intégrée, baptisée StyleCheck, qui mérite de poser quelques questions.

  • Vous trouveriez ça normal, voire cool, qu'un algorithme de machine learning et des "spécialistes de la mode" décident de la qualité de votre look du jour ? Par quel genre de biais ces "fashionistas de l'IA" seront-ils affectés ? Rappelons au passage que récemment, un concours de beauté dont le jury était composé d'IA a désigné presque uniquement des vainqueurs à la peau blanche.
  • Ça ne vous dérangerait pas, genre pas du tout, qu'Amazon puisse voir - et éventuellement cataloguer - tous les vêtements que vous possédez ? Vous êtes chaud(e) pour qu'Echo vous dise d'acheter de nouveaux sous-vêtements ? Alexa parviendra-t-elle à vous dissuader d'acheter un nouveau jeans G-Star ?
  • Et... Ça ne vous choquerait pas qu'Amazon installe une caméra dans votre chambre ? Sûr ?
  • Amazon conserve les photos et vidéos prises par Echo Look pour une durée indéterminée, nous a confirmé l'entreprise. Des enregistrements audio réalisés par l'Echo original ont déjà été utilisés dans le cadre d'un procès pour meurtre ; à sa décharge, Amazon avait résisté dans cette affaire.

"Toutes les photos et vidéos prises par votre Echo Look sont stockées dans le cloud AWS et dans l'appli Echo Look jusqu'à ce qu'un client les efface, explique un porte-parole de l'entreprise. Vous pouvez supprimer les photos et les vidéos liées à votre compte à tout moment dans l'appli Echo Look."

Nous avons également demandé à Amazon si les photos, vidéos et données recueillies par Echo Look seraient vendues à des tiers ; nous n'avons pas obtenu de réponse à cette question.

Comme le souligne la technosociologue Zeynep Tufekci, le machine learning combiné à des photos et des vidéos peut, au moins potentiellement, être utilisé pour bien d'autres choses que simplement vendre des vêtements ou diffuser des pubs. Amazon aura notamment la capacité à détecter si vous êtes enceinte, et même si vous êtes déprimé. 

Les gens achètent des assistants personnels parce qu'ils sont plutôt cools, que c'est toujours marrant de les montrer à ses amis à une soirée, et qu'ils s'avèrent parfois même assez pratiques. Mon père a offert un Google Home à ma mère simplement parce qu'elle a déjà presque tous les gadgets, alors pourquoi pas celui-ci. Ils rendent nos vies un tout petit peu plus faciles, et ils nous donnent l'impression de vivre "dans le futur."

En pratique, l'Echo Look n'est pas très différent d'une caméra Nest ou d'un babyphone connecté (qui a de très fortes chances d'être hacké, au passage). Mais l'addition d'une intelligence artificielle et la tendance qu'a Amazon à utiliser ses produits pour nous vendre plus de choses ont de quoi inquiéter et font un peu trop penser à Black Mirror.