Certains logiciels de reconnaissance faciale, dont il a été démontré à plusieurs reprises qu'ils étaient biaisés contre les personnes de couleur, ont suscité, ces dernières années, le débat sur l'utilisation de cette technologie par les forces de l’ordre. Mais un projet de loi présenté conjointement jeudi dernier par les législateurs de la Chambre des représentants et du Sénat, qui interdirait effectivement l'utilisation de la technologie de reconnaissance faciale par les services de police fédéraux aux États-Unis, pourrait changer la situation.Les membres du Congrès américain ont présenté un nouveau projet de loi, le "Facial Recognition and Biometric Technology Moratorium Act of 2020", qui interdirait l'utilisation de fonds fédéraux américains pour acquérir des systèmes de reconnaissance faciale ou « tout système de surveillance biométrique » utilisé par des fonctionnaires du gouvernement fédéral. Le projet de loi est parrainé par les sénateurs démocrates Ed Markey et Jeff Merkley ainsi que par les représentantes démocrates Ayanna Pressley et Pramila Jayapal. Pressley avait auparavant présenté un projet de loi interdisant l'utilisation de la reconnaissance faciale dans les logements publics, tandis que Merkley avait présenté un projet de loi de moratoire sur la reconnaissance faciale en février avec le sénateur Cory Booker.
Le projet de loi intervient au milieu de protestations généralisées contre la violence policière et de la controverse croissante autour des systèmes de reconnaissance faciale. Mercredi, Boston a voté pour interdire l'utilisation de la reconnaissance faciale dans la ville, devenant ainsi la deuxième plus grande municipalité au monde à le faire, d’après le site Web wbur.org. Le conseil municipal de Boston a voté mercredi l'interdiction de cette technologie avec une majorité.
La technologie est également confrontée à de nouveaux défis juridiques. Au début de la semaine dernière, l'Union américaine des libertés civiles du Michigan a déposé une plainte administrative auprès du service de police de Detroit pour ce qui pourrait être la première arrestation injustifiée connue aux États-Unis impliquant une technologie de reconnaissance faciale. Selon la plainte de l'ACLU, les forces de l'ordre de Detroit, après avoir suivi une piste fournie par la reconnaissance faciale, pensent qu'un homme nommé Robert Williams a volé plusieurs montres dans un magasin local en janvier dernier, d’après un article du Washington Post publié mercredi dernier. Robert Williams a été arrêté devant son domicile et a passé plus de 30 heures dans un centre de détention en dehors de Detroit.
Si le nouveau projet de loi est adopté, il serait aussi plus difficile pour les forces de police locale d'utiliser la reconnaissance faciale. En effet, la loi cible également directement l'un des programmes fédéraux, connu sous le nom de Edward Byrne Memorial Justice Assistance Grant Program, qui allouent des millions de dollars aux programmes d'application de la loi et de correction des États et des collectivités locales dans tout le pays.
Les préjugés raciaux dans les technologies de reconnaissance faciale
Les préjugés raciaux dans les technologies de reconnaissance faciale sont bien connus, des études ayant montré que la technologie a du mal à lire les visages des personnes de couleur et les identifie mal à un taux plus élevé que les personnes blanches. Les experts en apprentissage automatique ont également largement condamné l'utilisation d'algorithmes prédictifs par la police, notant que ces systèmes reproduisent les résultats biaisés du système de justice pénale.
Le débat sur l'utilisation de la technologie de reconnaissance faciale (d’Amazon en particulier) par les services du gouvernement s'est intensifié au cours de ces dernières années en raison de preuves de préjugés raciaux et d'erreurs dans l'outil, comme lorsque l'ACLU a effectué un test sur le logiciel Rekognition et a constaté que 28 membres du Congrès avaient été identifiés à tort comme correspondant à des photos de criminels. Les fausses correspondances impliquaient de façon disproportionnée des membres du Congrès qui sont des personnes de couleur. Mais, à l’époque, Amazon a déclaré dans un billet de blog que l'ACLU avait utilisé le mauvais réglage pour le logiciel.
« La technologie de reconnaissance faciale ne constitue pas seulement une grave menace pour notre vie privée, elle met en danger physique les Noirs américains et d'autres populations minoritaires dans notre pays », a dit le sénateur Markey dans une déclaration. « Alors que nous travaillons à démanteler le racisme systématique qui imprègne chaque partie de notre société, nous ne pouvons pas ignorer les préjudices que ces technologies présentent ».
Les partisans de l'interdiction de la reconnaissance faciale affirment que même si les problèmes de préjugés raciaux et d'identification erronée sont résolus, la reconnaissance faciale sera toujours utilisée pour cibler les communautés de couleur. Le Perpetual Lineup du Center for Democracy and Technology de l'université de Georgetown, qui suit l'utilisation de la reconnaissance faciale par les services de police locaux et fédéraux, a constaté qu'au moins un policier sur quatre aux États-Unis a aujourd'hui accès à la technologie de reconnaissance faciale. Le groupe a également averti que cette technologie aura un impact disproportionné sur les Afro-Américains.
« La reconnaissance faciale est la technologie parfaite pour la tyrannie »
« La reconnaissance faciale est une forme de surveillance particulièrement dangereuse. Ce n'est pas seulement une technologie Orwellienne du futur - elle est utilisée par les forces de l'ordre dans tout le pays en ce moment, et elle fait du mal aux communautés en ce moment », a déclaré dans un communiqué Evan Greer, directeur adjoint de Fight for the Future, un groupe de droits numériques qui a demandé l'interdiction de l'utilisation de la reconnaissance faciale par les forces de l'ordre.
« La reconnaissance faciale est la technologie parfaite pour la tyrannie. Elle automatise les opérations de police discriminatoires et exacerbe les injustices existantes dans notre système de justice pénale profondément raciste. Cette législation interdit effectivement l'utilisation de la reconnaissance faciale par les forces de l'ordre aux États-Unis. C'est exactement ce dont nous avons besoin en ce moment. Nous soutenons pleinement ce projet de loi », a ajouté Greer.
Au cours de l'année dernière, une poignée de gouvernements locaux et municipalité ont également interdit l'utilisation de cette technologie. La Californie, le New Hampshire et l'Oregon ont tous interdit l'utilisation de la reconnaissance faciale dans les caméras de surveillance du corps de la police, et les villes d’Oakland et de San Francisco ont interdit son utilisation par les agences municipales.
La nouvelle législation intervient également au moment où des entreprises comme Amazon, IBM et Microsoft ont convenu de mettre fin à la vente de la technologie de reconnaissance faciale pour la police. Ce faisant, les responsables des trois entreprises ont demandé une réglementation fédérale de cette technologie. La décision d’Amazon est arrivée lors des nombreuses manifestations de Black Lives Matter après l'assassinat de George Floyd par la police, et après qu'IBM ait annoncé qu'il cesserait de développer des logiciels de reconnaissance faciale et ait condamné les logiciels de surveillance à caractère raciste.
« Nous mettons en place un moratoire d'un an sur l'utilisation par la police de la technologie de reconnaissance faciale d'Amazon. Nous continuerons à permettre à des organisations comme Thorn, le Centre international pour les enfants disparus et exploités, et Marinus Analytics d'utiliser Amazon Rekognition pour aider à sauver les victimes de la traite des êtres humains et à réunir les enfants disparus avec leurs familles », a écrit Amazon. « Nous avons plaidé pour que les gouvernements mettent en place des réglementations plus strictes pour régir l'utilisation éthique de la technologie de reconnaissance faciale, et ces derniers jours, le Congrès semble prêt à relever ce défi. Nous espérons que ce moratoire d'un an pourrait donner au Congrès suffisamment de temps pour mettre en œuvre des règles appropriées, et nous sommes prêts à apporter notre aide si on nous le demande ».
Dans son message, Amazon ne parle ni de réparer sa technologie ni de l'abandonner, mais il renvoie simplement la balle au Congrès. Amazon ne mentionne pas non plus explicitement les préjugés raciaux de Rekognition, ni les événements ayant conduit aux dernières vagues de protestations contre la violence policière. Il faut noter aussi qu’Amazon possède toujours Ring, une société de surveillance des domiciles qui s'est associée à plus d'un millier de services de police.
Si cette proposition de loi est adoptée, ce serait une grande victoire pour les défenseurs de la vie privée qui, depuis des années, appellent à la prudence dans l'utilisation des systèmes d'identification biométriques. Cependant, si le projet de loi pourrait avancer à la Chambre des représentants dirigée par les démocrates, les républicains détiennent actuellement la majorité des sièges au Sénat américain et pourraient donc en bloquer l'adoption.
Sources : Projet de loi, Amazon
Et vous ?
Que pensez-vous de ce nouveau projet de loi ? Que peut-on attendre de ce projet ? Pourrait-il être adopté ? Amazon suspend la vente de la reconnaisse faciale à la police afin que le Congrès puisse réglementer la technologie. Que se passera-t-il s’il n’y parvient pas au bout d’un an ?Voir aussi :
La technologie de reconnaissance faciale d'Amazon identifie à tort 28 membres du Congrès US comme des criminels, quels dangers pour les Américains ? San Francisco devient la première ville US à interdire l'usage de la reconnaissance faciale, pour des raisons en lien avec les droits de l'Homme Bernie Sanders promet d'interdire l'utilisation de la reconnaissance faciale par le gouvernement US, et ravive le débat global sur l'usage de cette technologie par les forces de l'ordre Jeff Bezos : Amazon est en train de rédiger ses propres lois sur la reconnaissance faciale pour les soumettre aux législateurs fédéraux, espérant qu'ils adopteront une grande partie de son projet 
