Le gouvernement américain utilise des prisonniers pour entrainer des algorithmes

Le département scientifique du gouvernement américain s'est associé au FBI pour créer un système de reconnaissance de tatouages automatisé. Pour ce faire, ils ont utilisé des détenus des prisons fédérales et de prisons d'État comme « source inépuisable de données gratuites, » selon les documents publiés par l'Electronic Frontier Foundation.

Les tatouages constituent une forme d'expression de l'individualité, et disent quelque chose d'unique sur les expériences, la personnalité ou les croyances de celui ou celle qui les porte.

Le fait que la police et les services secrets se servent régulièrement de l'analyse de tatouages pour identifier un suspect ou établir son profil psychologique n'a rien d'un nouveau. Mais, plus récemment, le FBI a fait équipe avec des scientifiques de l'Institut américain des normes et de la technologie (NIST) pour créer un système capable d'identifier et de regrouper des profils d'individus en fonction de leurs tatouages, et de faire des déductions à partir de ces données. L'Electronic Frontier Foundation estime que cette activité est incompatible avec le Premier Amendement de la Constitution des États-Unis.

Une slide d'une présentation du NIST, intitulée « Pourquoi les tatouages ? » montre les utilisations possibles de ce système, issu du travail de sociétés privées, d'universités et d'instituts de recherche privés pour faire du profiling en masse. Selon ladite présentation, les tatouages « laissent deviner une affiliation à un gang, à une sous-culture spécifique, des croyances religieuses ou rituelles, voire une idéologie politique » et « contiennent des renseignements inestimables pour interpréter les intentions, les motivations et le messages » de la personne tatouée.

Les chercheurs oublient de préciser que les 15 000 photos de tatouages utilisées lors de l'expérience initiale, baptisée « Tatt-C, » provenaient de prisonniers qui n'avaient pas consenti à voir leur corps utilisé de la sorte. Aux États-Unis il s'agit donc d'une violation des règles éthiques fédérales sur la recherche.

L'utilisation de prisonniers pour la recherche scientifique s'accompagne d'un certain nombre de mises en garde visant à protéger les détenus de l'exploitation. La législation définit précisément le types de tests qui peuvent être effectués, et qui nécessitent toujours la surveillance d'un comité indépendant (où siège au moins un prisonnier).

Mais selon les documents obtenus par l'EFF, les chercheurs ont négligé de prévenir les détenus qu'ils les utilisaient pour une expérience. Selon eux, les données ont été « collectées de manière opérationnelle, » ce qui ne signifie pas grand-chose. La NIST n'a pu approuver cette étude que rétrospectivement, croyant qu'elle n'impliquait pas de données issues de sujets humains.

Les données en question ont été distribuées à 19 entreprises et organisations différentes, dont MorphoTrak, une entreprise de technologie biométrique qui fait déjà affaire avec des agences gouvernementales américaines.

« Les chercheurs du NIST utilisent des photos de tatouages obtenues auprès des prisons sans se demander une seule seconde si ces expériences nécessitent de se conformer aux règles éthiques fédérales en matière de recherche sur les prisonniers. Ils ont traité les détenus comme une réserve de données gratuites, voilà tout, » expliquent les chercheurs du FEP Dave Maas et Aaron Mackey.

« Maintenant que le NIST et le FBI sont sur le point de lancer une nouvelle expérience, de plus grande envergure, qui exploitera plus de 100 000 photos, il faudrait suspendre le développement de la technologie de reconnaissance de tatouage jusqu'à ce que les problèmes de ce genre d'études au regard du premier amendement aient été examinés et identifiés, » ajoutent Maas et Mackey.

Le système de reconnaissance de tatouage pourrait permettre de grossir les bases de données biométriques du FBI, dont beaucoup contiennent des données sur des individus qui n'ont jamais été soupçonnés de crime, et encore moins accusés ou condamnés.

Dans un communiqué récent, le FBI révèle son intention de soustraire son système de reconnaissance faciale et la base de données qui lui est associé à la Loi sur la protection des renseignements personnels américaine. Il fait valoir l'argument selon lequel il lui faudrait conserver indéfiniment les données concernées afin de pouvoir identifier et prédire les crimes dans le futur. Selon des estimations, cette base de données contiendrait plus de 52 millions d'images de visages, dont des millions de visages d'Américains innocents ayant fait des demandes des visas ou ayant été l'objet d'enquêtes de la part de leur employeur.