Quand la stratégie de personnalisation de Netflix frôle le profilage racial

On a tous remarqué que, depuis quelque temps, Netflix fait preuve de créativité en choisissant les images illustrant les titres. Par exemple, pour le film I, Tonya, l’algorithme alterne entre l’affiche officielle, une photo d’une paire de patins et celle du visage de l’actrice principale, Margot Robbie. Jusque là, rien de bien grave.

Le hic, c’est quand le service de vidéo sur demande se met à spéculer sur l’ethnicité de ses abonnés et ajuste le choix des images en conséquence. C’est ce que Stacia L. Brown, l’auteure derrière le podcast Hope Chest, a découvert et dénoncé sur Twitter.

Sur sa page d’accueil, Netflix, pour le film Like Father, la photo montrait deux acteurs noirs. Le problème, c’est que cette production met en vedette Kristen Bell et Kelsey Grammar, deux acteurs blancs. Les deux acteurs noirs n’ont que des rôles secondaires et un court passage à l’écran.

L’image est tout sauf représentative du long-métrage, que Stacia L. Brown avait déjà vu avant qu’il s’affiche sur sa page Netflix. « C’est étrange de tenter de faire croire qu’un film a des acteurs principaux noirs (en créant une affiche avec seulement des personnes noires) quand c’est un film blanc. Un film très blanc. Je l’avais déjà regardé le mois dernier, alors je savais que c’était une technique de marketing », écrit-elle sur Twitter.

Elle a posté d’autres exemples qui montrent que Netflix met bel et bien les personnages noirs de l’avant quand elle s’y connecte.

D’autres abonnés ont par la suite fait de même en publiant ce que Netflix leur proposait. Et le contraste est flagrant. À Kelly Quantrill, Netflix présente des vignettes pour les mêmes films sur lesquelles tous les personnages représentés sont blancs.

Interrogé à ce sujet par Deadline, le porte-parole de Netflix a affirmé que la compagnie ne détient pas d’information sur la couleur de peau, le genre ou l’origine ethnique de ses utilisateurs et donc qu’elle ne peut pas recourir à ces données pour personnaliser leur expérience. « La seule information que nous utilisons, c’est l’historique de visionnement de nos membres. » Netflix a aussi indiqué au National Post que les images et les vignettes changeaient régulièrement et que c’était pour s’assurer de montrer des images utiles pour les consommateurs lorsque vient le temps de choisir un contenu à regarder.

Netflix n’a jamais nié qu’elle personnalise son service pour chaque utilisateur. La compagnie en parle longuement dans un billet de blogue publié sur la plateforme Medium. Dans un des exemples, la compagnie justifie les différentes affiches ainsi : « Une personne qui a regardé plusieurs comédies romantiques pourrait être intéressée par le film Good Will Hunting si la vignette montre Matt Damon et Minnie Driver, tandis qu’un autre utilisateur qui a écouté beaucoup de comédies sera peut-être plus attiré par le film si la vignette montre Robin Williams. »

Évidemment, en ayant recours à des outils d’analyse de plus en plus précis et raffinés, Netflix arrive à mieux connaître ses abonnés, et ce, sans même qu’ils aient à lui dévoiler quoi que ce soit autre que leur passion dévorante pour The Office ou Orange is the New Black.