Relayée par le Washington Post, une étude menée à l’échelle fédérale par le NIST (National Institute of Standards and Technology), une agence du département du commerce des États-Unis, s’inquiète de l’utilisation grandissante des systèmes de reconnaissance faciale. Après avoir testé quelque 189 algorithmes mis à sa disposition par 99 éditeurs privés et publics, l’agence fédérale a constaté que l’imprécision des systèmes variait notablement en fonction de l’ethnie des personnes. Ainsi, insiste le NIST, « les Asiatiques et les Afro-Américains étaient jusqu’à 100 fois plus susceptibles d’être mal identifiés que les hommes blancs ». Quant aux Amérindiens, ils avaient le taux de faux négatif (identification de la mauvaise personne) « le plus élevé de toutes les ethnies ». Et la « ségrégation » de ces intelligences artificielles (IA) ne s’arrête pas là. Les femmes, les enfants mais aussi les personnes âgées ont été plus souvent plus mal identifiés que les hommes d’âge moyen dans chaque groupe ethnique.

Un outil largement utilisé par la police

Si les systèmes de reconnaissance faciale n’étaient utilisés que pour débloquer l’accès des smartphones, l’enjeu serait mineur. Mais voilà, comme le rappelle le Washington Post, ces outils sont de plus en plus répandus dans l’administration et notamment dans les services de police. Ainsi, précisent les journalistes du quotidien américain, « le FBI, à lui seul, a enregistré plus de 390 000 recherches de reconnaissance faciale dans différentes bases fédérales et locales depuis 2011 ». Sans parler des contrôles automatiques qui tendent à se généraliser dans les aéroports. Une situation qui inquiète Jay Stanley de l’Union américaine pour les libertés civiles (ACLU) pour qui « un faux positif peut entraîner des vols manqués, de longs interrogatoires, des rapports tendus avec la police, des arrestations injustifiées, ou pire encore ».

Alertées par les risques, certaines grandes villes américaines (San Francisco, Oakland, Somerville et Brookline) viennent d’interdire l’usage des systèmes de reconnaissance faciale par leurs services publics. L’État de Californie en a également interdit l’usage à ses policiers. D’autres limitations pourraient bien suivre si l’on se fie à l’accueil indigné que cette étude a reçu à la Chambre des représentants et au Sénat américains.

De son côté, le NIST souhaite que son rapport permette, a minima, aux éditeurs de ces différents algorithmes de prendre conscience des dysfonctionnements de leurs outils et de les corriger.