La Commission européenne a lancé une proposition de loi visant à lutter contre le matériel pédopornographique en ligne, mais qui soulève de graves problèmes de respect de la vie privée. Pour tenter de convaincre l'opinion publique de la soutenir, elle a lancé une campagne vidéo. Danny Mekić, un chercheur néerlandais, a dénoncé la campagne comme une tentative de manipulation et d’intimidation de la part de la Commission. Il a publié ses découvertes sur son blog et a contacté plusieurs médias et politiciens pour attirer l’attention sur cette affaire.La proposition de la Commission européenne pourrait obliger les entreprises technologiques à analyser les messages privés à la recherche de matériel d'abus sexuel d'enfants (CSAM pour Child Sexual Abuse Material) et de preuves de pédopiégeage, même lorsque ces messages sont censés être protégés par un chiffrement de bout en bout.
D'après le projet de régulation, les messageries devraient, d'ici à l'an prochain, mettre en place des outils pour détecter l'échange d'images pédopornographiques. Il est question de se servir d'outils basés sur l'intelligence artificielle pour analyser ces contenus, dans le but de détecter une image suspecte ou une conversation problématique. En cas de suspicion, une alerte serait envoyée à une agence européenne dédiée, à des fins d'analyses complémentaires.
La Commission affirme que cette mesure est nécessaire pour protéger les enfants des prédateurs sexuels et pour aider les autorités à poursuivre les criminels. Cependant, de nombreux experts, activistes et organisations de défense des droits de l’homme s’opposent à cette proposition, estimant qu’elle constitue une atteinte disproportionnée à la vie privée et à la sécurité des communications en ligne
La pilule a du mal à passer
Lors d'un séminaire public organisé ce 23 octobre, de nombreux experts ont toutefois pointé du doigt l'impossibilité de recourir à de telles analyses sans mettre à mal la vie privée des internautes européens.
Helen Charles, représentante des affaires publiques de Whatsapp, a exprimé ses « inquiétudes concernant l'implémentation » d'une telle solution à l'occasion de ce séminaire : « Nous pensons que toute demande d'analyse des contenus dans une messagerie chiffrée pourrait nuire aux droits fondamentaux » a-t-elle indiqué, tout en plaidant pour l'utilisation d'autres techniques, comme le signalement d'utilisateurs mais aussi le suivi du trafic des internautes pour détecter des comportements suspects.
Le même jour, le Contrôleur européen de la protection des données (CEPD), une institution indépendante de l’Union européenne, a rendu son avis sur le CSAM :
Il est techniquement impossible de mettre en œuvre une analyse de contenu connu ou nouveau et une détection de toilettage par un fournisseur de services sans affaiblir le chiffrement de bout en bout et porter atteinte à la vie privée des utilisateurs. C’est la conclusion sans équivoque de centaines d’éminents scientifiques et chercheurs dans le domaine. En outre, de nombreux experts s’accordent sur le fait que les solutions technologiques de détection les plus récentes ne sont pas suffisamment fiables et sont également vulnérables aux cyberattaques.
La proposition CSAM n’offre pas non plus de solutions sur la manière d’atténuer le risque émergent du « CSAM synthétique », c’est-à-dire des images, des vidéos et du texte/voix générés par ordinateur, y compris à l’aide d’applications d’IA générative accessibles au public.
La proposition CSAM n’offre pas non plus de solutions sur la manière d’atténuer le risque émergent du « CSAM synthétique », c’est-à-dire des images, des vidéos et du texte/voix générés par ordinateur, y compris à l’aide d’applications d’IA générative accessibles au public.
Rappelons que, dans son étude d'impact, la Commission européenne assure pouvoir atteindre un taux de précision de 99,9%. Toutefois, cette statistique ne vaut que pour l'analyse d'une image qui serait déjà présente dans une base de données et caractérisée comme image pédopornographique. Un procédé qui consiste, de façon plutôt basique, à comparer automatiquement deux clichés entre eux.
Danny Mekić, un chercheur néerlandais, a déclaré à ce sujet :
L’intelligence artificielle ne peut pas détecter avec précision les activités criminelles, mais elle signalera à tort des millions de citoyens innocents comme suspects. Pendant ce temps, les criminels contournent facilement ce système en supprimant ces applications de leur téléphone ou en disparaissant sur le dark web. Même si la proposition de la commissaire européenne aux Affaires intérieures, Ylva Johansson, est inefficace, elle signifie néanmoins la fin des conversations numériques privées pour tous. Pour des raisons évidentes, cela est incompatible avec le droit à la vie privée, à la liberté de communication et à la présomption d'innocence.
En septembre, la Commission a lancé une campagne publicitaire sur X, anciennement Twitter, visant à promouvoir sa proposition et à influencer l’opinion publique. La campagne présentait des vidéos mettant en scène de jeunes filles et des hommes sur un fond sombre, accompagnées d’une musique inquiétante. Les vidéos affichaient des statistiques issues d’un sondage sur la pédopornographie et la vie privée en ligne, réalisé par la Commission.
Les résultats du sondage suggéraient qu’une majorité de citoyens européens soutiendraient le scanneur de tous leurs messages numériques. Cependant, ces résultats semblaient biaisés et entachés d’erreurs. Le sondage aurait induit en erreur les participants, selon des lecteurs de Twitter/X qui ont ajouté du contexte à la vidéo dans des versions en d'autres langues :
Cette annonce est trompeuse. La proposition permet à l'UE de scanner tous les messages et images présents sur les téléphones de tous. L'enquête cache ce fait et parle de « messages EN LIGNE, e-mails, chat et réseaux sociaux ». « La majorité des citoyens soutiennent la proposition » est donc incorrect.
C'est également ce que pense Danny Mekić. Lorsqu'il est tombé sur la campagne, il a pensé que les vidéos étaient inhabituelles pour une organisation gouvernementale et a décidé d'approfondir. Les résultats de l'enquête présentés dans les vidéos suggèrent qu'une majorité de citoyens de l'UE seraient favorables à la numérisation de toutes leurs communications numériques. Après une inspection plus approfondie, il a découvert que ces conclusions semblaient biaisées et erronées. Les résultats de l'enquête ont été obtenus en trompant les participants, affirme-t-il, ce qui a pu induire en erreur les destinataires des annonces ; la conclusion selon laquelle les citoyens de l’UE étaient satisfaits d’une plus grande surveillance n’a pas pu être tirée de l’enquête, et les résultats se sont heurtés à ceux des sondages indépendants.
Danny Mekić affirme que les questions posées étaient ambiguës, trompeuses ou orientées.
Par exemple, une question demandait aux participants s’ils étaient d’accord avec l’affirmation suivante : « Je pense qu’il est important que les fournisseurs de services en ligne prennent des mesures pour empêcher que du matériel pédopornographique ne soit partagé sur leurs plateformes ». Cette question ne mentionnait pas le fait que ces mesures impliqueraient de scanner des messages privés des utilisateurs.
Mekić a également constaté que la campagne publicitaire ciblait des destinataires spécifiques, en fonction de leurs croyances religieuses et de leur orientation politique, ce qui pourrait constituer une violation des lois européennes sur la protection des données et des conditions d’utilisation de X. Il a remarqué que les annonces étaient diffusées uniquement dans les sept pays qui n’avaient pas soutenu le projet de loi au Conseil.
Voici un extrait de son billet :
Fait inquiétant, le lendemain, le 15 septembre, le commissaire européen a lancé une campagne publicitaire payante pour dire qu'il ne voulait pas voter pour la proposition actuelle le 14 septembre. La campagne, qui a été vue plus de quatre millions de fois, utilise des images choquantes de jeunes filles aux côtés d'hommes à l'allure sinistre, une musique menaçante et commet une forme de chantage émotionnel en suggérant que les opposants au projet de loi ne voudraient pas protéger les enfants. Tout aussi trompeuse est l'affirmation de la Commission selon laquelle le projet de loi serait soutenu par la majorité des Européens, sur la base d'une enquête qui mettait uniquement en évidence les avantages mais pas les inconvénients de la législation proposée. Les enquêtes menées par les agences de recherche YouGov et Novus, qui ont souligné les inconvénients, n'ont montré pratiquement aucun soutien à la proposition parmi la population européenne.
Pour plier l’opinion publique européenne à sa volonté, la Commission européenne est allée encore plus loin. Le rapport de transparence de « spanexit » ou de Victor Orbán, Nigel Farage ou du parti politique allemand AfD). Pour des raisons peu claires, les personnes intéressées par le christianisme (les personnes intéressées par le terme « chrétien ») ont également été exclues. Après avoir exclu les groupes politiques et religieux critiques, l'algorithme de X a été configuré pour trouver des personnes dans la population restante intéressées par le message publicitaire, ce qui a donné naissance à une chambre d'écho non critique. Ce micro-ciblage basé sur des convictions politiques et religieuses est contraire à la politique publicitaire de X, à la loi sur les services numériques - que la Commission elle-même doit contrôler - et au règlement général sur la protection des données.
Si le soutien à un projet de loi est insuffisant, la
Pour plier l’opinion publique européenne à sa volonté, la Commission européenne est allée encore plus loin. Le rapport de transparence de « spanexit » ou de Victor Orbán, Nigel Farage ou du parti politique allemand AfD). Pour des raisons peu claires, les personnes intéressées par le christianisme (les personnes intéressées par le terme « chrétien ») ont également été exclues. Après avoir exclu les groupes politiques et religieux critiques, l'algorithme de X a été configuré pour trouver des personnes dans la population restante intéressées par le message publicitaire, ce qui a donné naissance à une chambre d'écho non critique. Ce micro-ciblage basé sur des convictions politiques et religieuses est contraire à la politique publicitaire de X, à la loi sur les services numériques - que la Commission elle-même doit contrôler - et au règlement général sur la protection des données.
Si le soutien à un projet de loi est insuffisant, la
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par BugFactory
