Le plan européen de surveillance CSAM est un point de basculement pour les droits démocratiques,

Avertissent les experts

Une proposition controversée de surveillance du matériel d’abus sexuel d’enfants (CSAM), actuellement examinée par les législateurs européens, constituerait à la fois une mauvaise réponse à un problème de société sensible et multiforme et une menace directe pour les valeurs démocratiques d’une société libre et ouverte. Plus de 20 intervenants ont exprimé leur opposition à une proposition législative de l’Union européenne qui obligerait les services de messagerie à analyser le contenu des communications des utilisateurs à la recherche de CSAM connus et inconnus, et à essayer de détecter le grooming en temps réel.

Les critiques soutiennent que cette approche va à l’encontre des libertés fondamentales qui sont au cœur des sociétés démocratiques. Jusqu’à présent, la Commission européenne s’est vigoureusement opposée à ce type de critiques, arguant que la proposition constitue une réponse proportionnée et ciblée à un problème croissant. Elle a même été repérée récemment en train d’utiliser des publicités microciblées pour promouvoir le plan, se tournant apparemment vers le ciblage secret pour attaquer les critiques en suggérant qu’ils ne soutiennent pas la protection de l’enfance (malgré l’existence d’une autre proposition législative européenne en cours qui cherche à restreindre l’utilisation du microciblage politique… ). Le débat controversé est toujours d’actualité et il appartient désormais aux colégislateurs de l’UE, au Parlement européen et aux États membres, par l’intermédiaire du Conseil, de trouver une voie à suivre.


Le Contrôleur européen de la protection des données (CEPD) lui-même, Wojciech Wiewiórowski, a suggéré que l'UE pourrait se trouver à un point de non-retour si les législateurs allaient de l'avant et adoptaient une loi qui rendrait obligatoire la surveillance systémique et massive des messageries privées. Dans ses remarques préliminaires, il a suggéré que la proposition de la Commission pourrait avoir des conséquences qui vont « bien au-delà de ce qui concerne la protection des enfants ».

« On entend souvent dire dans le débat que cette proposition ne concerne que la protection des enfants. J'aimerais que ce soit le cas, mais ce n'est pas le cas », a-t-il poursuivi, affirmant que la proposition de la Commission remet en question les « fondements » de ce que signifie la vie privée dans une société démocratique, et soulignant que la vie privée, une fois ébranlée, conduit à « un changement radical dont il pourrait être impossible de revenir », comme il l'a dit.

Sans amendements, la proposition « changerait fondamentalement l'Internet et la communication numérique tels que nous les connaissons », a également averti Wiewiórowski à la fin de l'événement, en invoquant son expérience personnelle d'enfant vivant sous la surveillance et les restrictions de la liberté d'expression imposées par le régime communiste en Pologne. Et, très certainement, c'est une comparaison gênante pour l'exécutif de l'UE que d'être invité à contempler de la bouche de l'un de ses propres conseillers experts.

La proposition législative controversée de la Commission européenne suscite des inquiétudes

Le CEPD, une institution européenne qui conseille la Commission sur la protection des données et de la vie privée, n'est pas non plus un critique nouvellement converti de la proposition de la Commission. En effet, le contrôleur et le Conseil européen de la protection des données ont publié un avis commun il y a un an, dans lequel ils avertissaient que le projet législatif soulevait « de sérieuses préoccupations en matière de protection des données et de la vie privée », notamment en ce qui concerne le chiffrement. Mais cette expression commune d'inquiétude au sein de l'UE n'a pas réussi, jusqu'à présent, à persuader Johansson ou la Commission de revoir leur soutien inconditionnel à la surveillance de masse des communications privées des citoyens.

Les participants au séminaire ont appris que Johansson avait été invitée à participer à l'événement, mais qu'elle avait décliné l'invitation. Aucun autre représentant de la Commission n'a accepté de participer. La Commission a présenté son projet de législation CSAM en mai 2022. Depuis lors, l'opposition s'est développée au sujet de l'impact sur les droits de l'homme, à mesure que les implications de la proposition devenaient plus claires. Alors que les inquiétudes - et même les soupçons - concernant les forces motrices derrière la proposition ont augmenté, non aidées par un manque perçu d'engagement de la part de la Commission avec les organisations de la société civile et d'autres personnes exprimant des doutes sincères. Le débat émotionnel s'est aussi parfois prêté à une polarisation inutile.

Dès le départ, la légalité de la proposition a été clairement remise en question. La législation européenne exige que toute ingérence dans les droits fondamentaux tels que la vie privée et la liberté d'expression soit nécessaire et proportionnée. L'imposition d'une obligation générale de surveillance des contenus sur les plateformes en ligne est interdite. Comment cela s'accorde-t-il avec une loi qui pourrait mettre sous surveillance les messages de centaines de millions d'Européens, à dessein ? Lors du séminaire, Frederik Borgesius, professeur à iHub, Université Radboud, aux Pays-Bas, a donné son point de vue sur la légalité de la proposition de la Commission, estimant qu'il ne s'agit pas d'une manière proportionnée d'interférer avec les droits fondamentaux.

Il s'est référé à la jurisprudence relative à la conservation des données dans le cadre de la lutte contre le terrorisme - la comparaison la plus pertinente - qui a vu la plus haute juridiction de l'Union européenne rejeter à plusieurs reprises le stockage général et indiscriminé des métadonnées des Européens. (Ce qui n'a pas empêché les États membres de continuer à enfreindre la loi).

Les outils basés sur l’IA pour la protection des enfants en ligne ne sont pas encore prêts à être déployés à grande échelle

Claudia Peersman, associée principale de recherche au sein du groupe de recherche sur la cybersécurité de l'université de Bristol, avait une évaluation pertinente à proposer concernant les travaux auxquels elle a participé au Centre Rephrain. Ce groupe d'experts universitaires a récemment évalué de manière indépendante cinq projets de démonstration de faisabilité, développés au Royaume-Uni avec le soutien du gouvernement, pour analyser le contenu du End-to-end encryption (E2EE) ou chiffrement de bout en bout à la recherche de CSAM sans compromettre la vie privée des personnes, comme le prétend le ministère de l'intérieur.

Le problème, c'est qu'aucun des projets n'a été à la hauteur. « Aucun de ces outils n'a été en mesure de répondre aux critères [de notre évaluation]. Je pense que c'est la partie la plus importante de notre conclusion. Cela ne...[/de notre évaluation]