IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Clearview AI utilise vos photos en ligne pour vous identifier instantanément.
C'est un problème, d'après un procès intenté par des militants des libertés civiles

Le , par Stan Adkens

86PARTAGES

5  0 
Des militants des libertés civiles intentent une action en justice pour mettre fin au grattage (scraping) de données par Clearview AI. Le procès déposé devant la Cour supérieure du comté d'Alameda en Californie s'inscrit dans le cadre d'un effort croissant visant à restreindre l'utilisation de la technologie de reconnaissance faciale. Les villes de la Bay Area – dont San Francisco, Oakland, Berkeley et Alameda – ont mené cette charge et ont été parmi les premières aux États-Unis à limiter l'utilisation de la reconnaissance faciale par les forces de l'ordre locales en 2019.

Le groupe de droits civils affirme que Clearview AI a illégalement stocké des données sur 3 milliards de personnes à leur insu et sans leur permission. L'action en justice affirme que la société basée à New York viole la constitution californienne et demande une injonction lui interdisant de collecter des informations biométriques en Californie et l'obligeant à supprimer les données concernant les Californiens.


Clearview AI a constitué une base de données de plus de 3 milliards de photos de personnes en exploitant des sites tels que Facebook, Twitter, Google et Venmo. C'est plus que toute autre base de données de reconnaissance faciale connue aux États-Unis, y compris celle du FBI. La société utilise des algorithmes pour cartographier les photos qu'elle stocke, en déterminant, par exemple, la distance entre les yeux d'une personne pour construire une "empreinte faciale".

Cette technologie de reconnaissance faciale est fournie aux forces de l'ordre et aux entreprises privées du monde entier, qui peuvent l'utiliser en temps réel pour aider à déterminer l'identité des personnes. Mais elle a également attiré l'attention des défenseurs des libertés civiles et des activistes, qui allèguent dans l’action en justice déposée mardi que le grattage automatique de leurs images par la société et l'extraction de leurs informations biométriques uniques portent atteinte à la vie privée et entravent les discours et activités politiques protégés.

Les plaignants, dont quatre militants individuels des libertés civiles et les groupes Mijente et NorCal Resist, affirment que Clearview AI « s'engage dans la collecte généralisée d'images et d'informations biométriques de résidents californiens sans préavis ni consentement ». Cette situation a des conséquences particulièrement graves pour les partisans de la réforme de l'immigration ou de la police, dont le discours politique peut être critique à l'égard des forces de l'ordre et qui peuvent être membres de communautés historiquement ciblées par des tactiques de surveillance, disent-ils.

Clearview AI renforce les efforts des forces de l'ordre pour surveiller ces militants, ainsi que les immigrants, les personnes de couleur et les personnes perçues comme des "dissidents", tels que les militants de Black Lives Matter, et peut potentiellement les décourager de s'engager dans un discours politique protégé, affirment les plaignants.

Cette pression intervient à un moment où les attentes des consommateurs en matière de protection de la vie privée sont faibles, car beaucoup en sont venus à considérer l'utilisation et la vente d'informations personnelles par des entreprises telles que Google et Facebook comme une fatalité de l'ère numérique. Une étude publiée par Pew Research Center en 2019 a conclu que la majorité des Américains interrogés étaient inquiets, confus et ayant le sentiment de ne pas avoir le contrôle de leurs informations personnelles. Ils pensent que leurs données personnelles sont moins sûres aujourd'hui, que la collecte de données présente plus de risques que d'avantages et qu'il est impossible de vivre au quotidien sans être suivi.

Contrairement à d'autres utilisations d'informations personnelles, la reconnaissance faciale présente un danger unique, a déclaré Steven Renderos, directeur exécutif de MediaJustice et l'un des plaignants individuels dans le procès. « Si je peux laisser mon téléphone portable à la maison [et] je peux laisser mon ordinateur à la maison si je le veux », a-t-il déclaré, « l'une des choses que je ne peux pas vraiment laisser à la maison est mon visage ». Clearview AI « contourne la volonté de beaucoup de gens » dans les villes de la région de la Baie qui ont interdit ou limité l'utilisation de la reconnaissance faciale, a-t-il ajouté.

« C'est un cauchemar de surveillance pour chacun d'entre nous »

L'amélioration de la capacité des forces de l'ordre à identifier et à suivre instantanément les individus est potentiellement effrayante, affirment les plaignants, et pourrait empêcher les membres de leurs groupes ou les Californiens en général d'exercer leur droit constitutionnel de manifester.

« Imaginez des milliers d'officiers de police et d'agents de l'ICE à travers le pays capables de connaître instantanément votre nom et votre travail, de voir ce que vous avez posté en ligne, de voir toutes les photos publiques de vous sur Internet », a déclaré Jacinta Gonzalez, organisatrice principale de campagne à Mijente. « C'est un cauchemar de surveillance pour chacun d'entre nous, mais c'est le plus grand cauchemar pour les immigrants, les personnes de couleur et tous ceux qui sont déjà la cible des forces de l'ordre ».

En plus d’une injonction à cesser de collecter des informations biométriques en Californie, les plaignants demandent également la suppression permanente de toutes les images et données biométriques ou informations personnelles contenues dans leurs bases de données, a déclaré Sejal R. Zota, directeur juridique de Just Futures Law et l'un des avocats représentant les plaignants dans cette affaire.


« Nos plaignants et leurs membres sont très attachés à la possibilité de contrôler leurs identifiants biométriques et de continuer à s'exprimer politiquement en critiquant la police et la politique d'immigration sans être menacés par une surveillance clandestine et invasive », a déclaré Zota. « Et la Californie a une Constitution et des lois qui protègent ces droits ».

Dans une déclaration mardi, Floyd Abrams, un avocat de Clearview AI, a déclaré que la société « se conforme à toutes les lois applicables et que sa conduite est pleinement protégée par le 1er amendement ». Sur son site Web, la société dit « Clearview AI aide les forces de l'ordre à identifier de manière précise, fiable et légale les personnes soupçonnées d'activités criminelles, ainsi que les victimes auxquelles elles s'en prennent ».

Ce n’est pas la première fois que les services de Clearview sont remis en cause pour violation des données privées

L'American Civil Liberties Union (ACLU) poursuit Clearview AI dans l'Illinois pour violation présumée de la loi sur la confidentialité des données biométriques de l'État. Mais ce dernier procès est l'un des premiers intentés au nom d'activistes et d'organisations de base « pour qui il est vital de pouvoir continuer à s'engager dans un discours politique qui critique la police, la politique d'immigration », a déclaré Zota.

Clearview AI fait également l'objet d'une surveillance internationale. En janvier, l'Union européenne a déclaré que le traitement des données par Clearview AI violait le règlement général sur la protection des données. Le mois dernier, le commissaire à la protection de la vie privée du Canada, Daniel Therrien, a qualifié les services de l'entreprise d'« illégaux » et a déclaré qu'ils équivalaient à une surveillance de masse qui mettait toute la société « continuellement dans une ligne de police », a rapporté The Times. Il a exigé que l'entreprise supprime les images de tous les Canadiens de sa base de données.

Plusieurs personnes ont dénoncé les agissements de la société, mais sans beaucoup de succès. L’une d’entre elles est Thomas Smith, cofondateur et PDG de Gado Images, qui a essayé d’obtenir le fichier que Clearview AI possède sur lui. Smith a expliqué, dans un rapport publié en 2020, qu'il a reçu un dossier contenant ses données de la part de Clearview AI et ce qu’il a découvert était très intriguant. « Je me rends compte que tout cela ressemble à un ramassis de balivernes sur la théorie du complot. Pourtant, ce n'est pas le cas. La technologie de Clearview AI est très réelle, et elle est déjà utilisée », a-t-il écrit.

Clearview AI a vu l'adoption généralisée de sa technologie depuis sa fondation en 2017. Le directeur général Hoan Ton-That a déclaré en août que plus de 2400 organismes d'application de la loi utilisaient les services de la société. Après l'émeute de janvier au Capitole américain, l'entreprise a vu un bond de 26 % dans l'utilisation de la technologie par les forces de l'ordre, a déclaré Ton-That.

Selon l'action en justice, la société continue de vendre sa technologie aux services de police de toute la Californie ainsi qu'aux services de l'immigration et des douanes, malgré plusieurs interdictions locales de l'utilisation de la reconnaissance faciale. L'ordonnance de San Francisco qui limite l'utilisation de la reconnaissance faciale cite spécifiquement la propension de cette technologie à « mettre en danger les droits civils et les libertés civiles » et à « exacerber l'injustice raciale ».

Des études ont montré que la technologie de reconnaissance faciale ne parvient pas à identifier les personnes de couleur. Une étude fédérale de 2019 a conclu que les personnes noires et asiatiques étaient environ 100 fois plus susceptibles d'être mal identifiées par la reconnaissance faciale que les personnes blanches. Il y a maintenant au moins deux cas connus de personnes noires mal identifiées par la technologie de reconnaissance faciale, ce qui a conduit à leur arrestation injustifiée.

Ton-That a précédemment déclaré au Times qu'une étude indépendante avait montré que Clearview AI n'avait pas de préjugés raciaux et qu'il n'y avait pas de cas connu où la technologie avait conduit à une arrestation injustifiée. L'ACLU, cependant, a déjà remis en question l'étude, en disant spécifiquement qu'elle est « très trompeuse » et que son affirmation que le système est impartial « démontre que Clearview ne comprend tout simplement pas les méfaits de sa technologie dans les mains des forces de l'ordre ».

Selon la nouvelle action en justice, Facebook, Twitter, Google et d'autres sociétés de médias sociaux ont demandé à Clearview AI d'arrêter de gratter des images parce que cela violait leurs conditions de service avec les utilisateurs.

Sources : Plaintes (1 & 2), Communiqué de Presse

Et vous ?

Que pensez-vous de cette action en justice contre Clearview ? Partagez-vous les préoccupations exprimées ?
Le procès demande la suppression permanente de toutes les images et données biométriques contenues dans leurs bases de données. Quels commentaires en faites-vous ?
Ce procès pourrait-il pousser Clearview à cesser ses activités en Californie, voire dans le reste de tout le pays ?

Voir aussi :

« J'ai obtenu mon profil auprès de Clearview AI et ça m'a fait peur », a déclaré Thomas Smith, dont le profil contient des articles, des images, des URL, des pages de réseaux sociaux et autres
L'utilisation de la technologie de reconnaissance faciale de Clearview AI a augmenté de 26 % après le siège du Capitole, les forces de l'ordre s'en servent pour traquer les émeutiers
San Francisco devient la première ville US à interdire l'usage de la reconnaissance faciale, pour des raisons en lien avec les droits de l'Homme
Reconnaissance faciale : un algorithme accuse à tort un Afro-américain qui écope d'une garde à vue pour plus de 24 heures, et de poursuites auxquelles l'ACLU demande à la justice de mettre un terme

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Marwindows
Membre éclairé https://www.developpez.com
Le 12/03/2021 à 11:20
Une base de 3 Milliards de photos, si on considère que pour une reconnaissance exacte d'une personne sous tous les angles, il faut à minima un package d'une centaine de photos, ça fait 30,000,000 ... soit à peine la moitiés du nombre d'habitants en France, ça fait relativement peu finalement à l'échelle mondiale.
0  0