Facebook a essuyé un autre échec dans sa tentative de mettre fin à un recours collectif de 35 milliards de dollars concernant une présumée utilisation abusive des données de reconnaissance faciale en Illinois. Le vendredi dernier, à San Francisco, la Cour d'appel du 9e circuit des États-Unis, qui auraient pu faire cesser le recours, a rejeté la demande de Facebook pour une audience en formation plénière dans cette affaire. L'affaire va maintenant être jugée à moins que la Cour suprême n'intervienne.Facebook avait demandé une audience en formation plénière pour en appeler de la décision rendue en août par le 9e circuit, dans laquelle le tribunal avait déterminé que les demandeurs avaient qualité pour intenter une poursuite, même si les actions alléguées de Facebook ne leur avaient causé aucun préjudice financier quantifiable. En effet, en début du mois dernier, un jury de trois juges a rejeté la requête en irrecevabilité de Facebook et l'appel interjeté contre la certification de l’action de classe des plaignants. L'un de ces juges avait déclaré qu'il « semble probable » que les données de reconnaissance faciale de Facebook puissent être utilisées pour les identifier dans des séquences de surveillance ou même pour déverrouiller un téléphone cellulaire biométriquement sécurisé.
Depuis 2015, trois résidents de l'Illinois ont porté plainte contre Facebook pour sa technologie de reconnaissance faciale. Les poursuites, qui ont finalement été regroupées en une seule plainte de recours collectif, stipulent que la fonction « Tag Suggestions » de Facebook, utilisant une technologie de reconnaissance faciale, viole une loi de l'Illinois adoptée en 2008 – la BIPA (Biometric Information Privacy Act). De plus, le réseau social utiliserait cette fonctionnalité sans l'approbation de ses utilisateurs puisqu'elle était activée par défaut. Le juge James Donato chargé de l'affaire a déclaré en avril 2018 : « un recours collectif est clairement supérieur aux procédures individuelles dans ce type de cas. »
Pour rappel, l'outil de « tags suggestions » de Facebook identifie les utilisateurs dans les photos téléchargées et suggère le marquage automatique par les amis. Il fonctionne globalement en quatre étapes : le logiciel essaie de détecter les visages dans les photos téléchargées. Une fois un visage détecté, Facebook calcule une « signature », une série de chiffres qui « représente une image particulière d'un visage » basée sur une photo et une base de données « visage » que le système utilise pour rechercher des signatures pour une correspondance. Si la signature correspond, Facebook suggère alors l'étiquette. Facebook a dit ne pas stocker les signatures faciales et ne conserver que les modèles de visages.
Le 5 août dernier, une cour d’appel fédérale a rejeté un premier appel de Facebook, affirmant qu’elle avait collecté et stocké illégalement des données biométriques de millions d’utilisateurs sans leur consentement. Lors d'un entretien, Shawn Williams, l’avocat des demandeurs dans le recours collectif, a déclaré que « Ces données biométriques sont si sensibles que si elles sont compromises, il n'y a tout simplement aucun recours ». « Ce n’est pas comme une carte de sécurité sociale ou un numéro de carte de crédit où vous pouvez changer le numéro. Vous ne pouvez pas changer de visage », a-t-il ajouté.
Nicholas Iovino, un reporter fédéral qui couvre la cour fédérale de San Francisco, a partagé la décision judiciaire de vendredi sur Twitter. Un porte-parole de Facebook, en donnant son avis sur la décision, a déclaré : « Facebook a toujours parlé aux gens de son utilisation de la technologie de reconnaissance faciale et leur a donné le contrôle sur l'utilisation qui en est faite. Nous sommes en train de revoir nos options et nous continuerons à nous défendre vigoureusement ».
Maintenant que le recours collectif peut aller de l'avant, Facebook serait passible d'une amende pouvant aller jusqu'à 5 000 dollars pour chaque violation délibérée de la loi de l'Illinois, si l'affaire est effectivement portée en justice et que l'entreprise perd. Soit une amende totale d’environ 35 milliards de dollars, puisqu’il y a environ 7 millions d'utilisateurs de Facebook dans l'Illinois.
La reconnaissance faciale aussi décriée pour ses faux positifs
Pendant que le géant des réseaux sociaux pourrait payer 35 milliards de dollars dans un procès contre sa technologie de reconnaissance faciale qui fait très bien ce qu’elle est censée faire, une autre application de la reconnaissance faciale fait face à des critiques à cause de ses faux positifs.
L'American Civil Liberties Union (la branche du Massachusetts) a actualisé le test que l’organisation effectue sur le logiciel Rekognition d'Amazon et a publié les résultats le lundi. Lors du test, l’ACLU de Massachusetts a comparé par erreur de nombreux athlètes professionnels de Nouvelle-Angleterre à des photos d'agresseurs tirées d'une base de données. L'ACLU a comparé les images de 188 athlètes des équipes des Bruins de Boston, des Celtics de Boston, des Red Sox de Boston et des New England Patriots avec une base de données d'environ 20 000 photos des personnes arrêtées. L'ACLU a constaté que 27 des athlètes de haut niveau, soit plus de 14 %, étaient faussement identifiés parmi les photos.
Le test fait partie de la campagne d'éducation publique dénommée Press Pause on Face Surveillance de l'ACLU. Ce n’est pas la première fois que Rekognition fait parler de ses faux positifs. La section de Californie du Nord de l'ACLU a effectué un test similaire en juillet 2018, au cours duquel Rekognition a incorrectement identifié 28 membres du Congrès dans une base de données de photos d'identité de criminels. 40 % des correspondances erronées lors du test de l’ACLU à l’époque étaient des personnes de couleur, alors que les personnes de couleur ne représentent que 20 % du Congrès.
Bien avant ce test, dans une lettre à Jeff Bezos, Black Caucus du Congrès avait exprimé son inquiétude à propos des « graves conséquences néfastes inattendues » que Rekognition pourrait avoir pour les Noirs, les immigrants sans papiers et les manifestants. Les faux positifs de Rekognition continuent d’inquiéter d’autant plus qu’Amazon a activement courtisé des partenariats avec les services de police pour étendre l'utilisation de Rekognition par les forces de l'ordre, ainsi par les agences fédérales frontalières. Au cours des deux dernières années, l'entreprise a également élargi sa collaboration avec les services de police afin de vendre ses sonnettes à caméras Ring ainsi que des produits de surveillance à domicile.
C’est pour toutes ces raisons que des employés et des actionnaires d’Amazon, une coalition de presque 70 associations de défense des libertés civiles, plus de 400 membres de la communauté universitaire et plus de 150 000 citoyens ont élevé leurs voix pour exiger d’Amazon qu’elle arrête de fournir sa technologie de reconnaissance faciale au gouvernement. Ils demandent également au Congrès de prendre les dangers découlant de la reconnaissance faciale au sérieux et d’empêcher cette technologie d’être utilisée jusqu’à ce que les éventuelles conséquences néfastes soient examinées de fond en comble de manière à ne pas pouvoir fragiliser des communautés déjà vulnérables.
Mais en dépit de ces nombreuses protestations, Amazon a réaffirmé, en mai dernier, sa ferme intention de continuer à vendre son application de reconnaissance facile aux forces de l'ordre et au service de contrôle de l'immigration et des douanes (CED) des États-Unis.
Pour rappel, l'ACLU avait attiré l'attention en 2018 sur le dépôt d'un brevet d’Amazon qui permettrait d’intégrer Rekognition dans les caméras Ring. Ed Markey, sénateur du Massachusetts au Congrès des États-Unis, a insisté pour que la société explique en détail ce nouveau brevet plus tôt cette année. Dans un tweet publié mardi, M. Markey est revenu sur les dérives de la technologie de reconnaissance faciale d’Amazon en déclarant : « L'amateur de sport moyen serait probablement plus à même d'identifier ces athlètes que la technologie Rekognition d'Amazon ». « Les forces de l'ordre ne devraient pas se fier à cette technologie potentiellement discriminatoire », a-t-il ajouté.
Sources : ACLU, Tweets (1 & 2)
Et vous ?
Que pensez-vous du dernier rebondissement dans l’affaire reconnaissance faciale de Facebook ? Quel commentaire faites-vous des derniers faux positifs de Rekognition d’Amazon ?Lire aussi
La technologie de reconnaissance faciale d'Amazon identifie à tort 28 membres du Congrès US comme des criminels, quels dangers pour les Américains ? USA : Facebook attaqué en recours collectif pour son système de reconnaissance faciale, l'entreprise n'aurait même pas prévenu les utilisateurs Facebook pourrait être condamné à une amende de plusieurs milliards de dollars, dans le cadre du procès sur son système de reconnaissance faciale USA : des associations s'érigent contre la technologie de reconnaissance faciale d'Amazon, craignant une surveillance de masse par la police 
