L’intelligence artificielle pourra bientôt identifier les manifestants partiellement masqués

Dans les manifestations, les militants portent souvent des foulards et lunettes fumées, entre autres, pour éviter d'être reconnus, soit par les autorités, soit par leurs opposants. Cependant, ces efforts ne feront pas le poids contre l'intelligence artificielle.

Un article décrivant un algorithme d'apprentissage profond – un sous-ensemble d'apprentissage automatique utilisé pour détecter des séquences dans de gigantesques quantités de données – qui a la capacité d'identifier une personne même si une partie de son visage est cachée sera présenté à l'International Conference on Computer Vision 2017. Le système a réussi à identifier correctement une personne au visage masqué par un foulard photographiée devant un arrière-plan complexe, des conditions semblables à la réalité d'une manifestation, 67 fois sur 100.

L'algorithme d'apprentissage profond fonctionne d'une façon novatrice. Les chercheurs derrière cette technologie, qui sont de l'Université Cambridge, du National Institute of Technology en Inde et Indian Institute of Science, ont d'abord déterminé 14 zones clés du visage et un modèle d'apprentissage profond a ensuite appris à les identifier. L'algorithme relie ces points pour former une structure et se base sur les angles pour identifier la personne. Il peut y parvenir même quand une partie du visage est masquée par des lunettes, un foulard, un chapeau, un capuchon.

Cet algorithme pourrait avoir de troublantes conséquences pour les militants et dissidents. « Pour être honnête, quand j'ai essayé de mettre au point cette méthode, j'essayais de me concentrer uniquement sur les criminels », explique Amarjot Singh, chercheur et doctorant de l'Université Cambridge qui a travaillé sur ce projet. Il dit ne pas savoir comment prévenir l'utilisation de cette technologie par des régimes totalitaires dans l'avenir. « Elle devrait être réglementée… Elle ne devrait être utilisée que par des gens qui veulent l'utiliser pour le bien. » Garantir que les algorithmes comme celui qu'il a mis au point tombent entre de mauvaises mains est un problème avec lequel on est déjà aux prises.

Zeynep Tufekci, professeure à l'Université de la Caroline du Nord, à Chapel Hill, et un journaliste au New York Times ont évoqué sur Twitter les nombreuses conséquences de la création de l'algorithme décrit dans l'article : « trop d'éléments inquiétants à propos de ce que l'intelligence artificielle – comme si c'était une entité indépendante – nous fera. Trop peu de gens s'inquiètent de ce que le pouvoir fera avec l'intelligence artificielle », a-t-elle écrit.

Ne paniquez pas tout de suite, par contre. Bien que l'algorithme décrit dans l'article soit plutôt impressionnant, il n'est certainement pas assez fiable pour que des autorités s'en servent. Mais les chercheurs fournissent à leurs confrères un gros cadeau pour les aider à accomplir leur travail. L'un des problèmes avec les modèles d'apprentissage automatique est qu'il n'y apas assez de bases de données de qualité pour qu'ils apprennent à la hauteur de leur potentiel. Ils offrent aux chercheurs deux bases de données différentes, chacune comprenant 2000 images, pour permettre aux algorithmes d'apprendre à effectuer des tâches similaires.

« C'est un article mineur : résultats étroits, conditionnels. Mais c'est la direction, et ce sera fait avec des données nationales – pas par des étudiants de premier cycle », a ensuite écrit Zeynep Tufekci.

Le système décrit dans l'article ne permet pas d'identifier des personnes malgré tous les accessoires possibles pour se masquer. Amarjot Singh a mentionné que, par exemple, l'algorithme serait impuissant contre les masques de Guy Fawkes que portent souvent les membres du groupe Anonymous. Il espère un jour arriver à identifier les gens même s'ils portent un masque rigide. « Nous essayons de trouver des moyens d'examiner ce problème », dit-il. Par ailleurs, il est pertinent de souligner que l'on peut déjà identifier une personne dans 99 % des cas à partir de sa façon de marcher.

Amarjot Singh et ses collègues ont de grands projets à partir de l'algorithme. Ils voudraient que la technologie fonctionne localement en temps réel, sans connexion au réseau Wi-Fi. De cette façon, les autorités pourraient utiliser une caméra pour identifier une personne qui porte un foulard ou un autre accessoire pour se cacher le visage sans avoir à transmettre les données à un serveur. L'équipe souhaite aussi que l'algorithme se perfectionne en traitant de plus vastes bases de données sur des personnes, en particulier de différentes couleurs de peau.

Ce n'est pas une première. Un article publié en 2014 décrivait aussi un algorithme pouvant reconnaître des visages même s'ils sont en partie masqués (le nouvel algorithme se base cependant sur une technique différente et une plus grande quantité de données). Et un article analysant les effets sur les algorithmes de certains accessoires pour se masquer ainsi que des coupes de cheveux différentes avait même été publié en 2008.

À l'opposé, de nombreuses recherches ont été effectuées sur les moyens de tromper ou de neutraliser les systèmes de reconnaissance faciale. Par exemple, une équipe de chercheurs de l'Université Carnegie Mellon a mis au point l'an dernier des lunettes qui peuvent déjouer un algorithme de reconnaissance faciale.

Le futur sera peut-être le terrain d'une compétition entre des experts en intelligence artificielle (potentiellement au service du gouvernement) qui essaient de créer des systèmes de reconnaissance facile toujours plus performants et d'autres experts qui, eux, tentent de les déjouer.