La Commission des libertés civiles a adopté sa position sur les nouvelles mesures visant à protéger les enfants en ligne en prévenant et en arrêtant les abus sexuels sur les enfants. Les lignes directrices sont : équilibre entre la nécessité de lutter contre les abus sexuels des enfants en ligne et celle d'éviter une surveillance généralisée de l'internet, les plateformes doivent évaluer les risques liés à leurs services. Si les mesures d'atténuation ne suffisent pas, des ordonnances de détection validées par les tribunaux pourront être utilisées pour repérer les contenus illégaux. Le Parlement souhaite exclure de la détection les contenus chiffrés de bout en bout.Le projet de position du Parlement a été adopté par la Commission des libertés civiles, de la justice et des affaires intérieures par 51 voix pour, 2 contre et 1 abstention. Les négociations interinstitutionnelles ont été autorisées avec 48 voix pour, 2 contre et 4 abstentions.
Pour protéger les enfants en ligne, les nouvelles règles obligeraient les fournisseurs d'accès à Internet à évaluer s'il existe un risque significatif que leurs services soient utilisés à des fins d'abus sexuels en ligne sur des enfants et de sollicitation d'enfants, et à prendre des mesures pour atténuer ces risques. Les députés souhaitent que les mesures d'atténuation soient ciblées, proportionnées et efficaces, et que les fournisseurs puissent décider des mesures à utiliser. Ils veulent également s'assurer que les sites pornographiques disposent de systèmes adéquats de vérification de l'âge, de mécanismes de signalement des contenus pédopornographiques et d'une modération du contenu humain pour traiter ces signalements.
Pour éviter que les mineurs ne soient sollicités en ligne, les députés proposent que les services destinés aux enfants exigent par défaut le consentement de l'utilisateur pour les messages non sollicités, qu'ils disposent d'options de blocage et de sourdine et qu'ils renforcent le contrôle parental.
Ordres de détection
Afin d'éviter une surveillance de masse ou un contrôle généralisé de l'internet, le projet de loi permettrait aux autorités judiciaires d'autoriser des ordonnances limitées dans le temps, en dernier recours, pour détecter tout CSAM et le retirer ou en désactiver l'accès, lorsque les mesures d'atténuation ne sont pas efficaces pour le retirer.
En outre, les députés soulignent la nécessité de cibler les ordonnances de détection sur des individus ou des groupes (y compris les abonnés à une chaîne) liés à l'abus sexuel des enfants, en utilisant des "motifs raisonnables de suspicion".
Dans le texte adopté, les députés ont exclu le chiffrement de bout en bout du champ d'application des injonctions de détection afin de garantir la sécurité et la confidentialité des communications de tous les utilisateurs. Les fournisseurs seraient en mesure de choisir les technologies à utiliser, à condition qu'elles respectent les garanties solides prévues par la loi, et sous réserve d'un audit public indépendant de ces technologies.
Centre européen de protection de l'enfance
La loi prévoit la création d'un centre européen de protection de l'enfance, chargé de contribuer à la mise en œuvre des nouvelles règles et d'aider les fournisseurs d'accès à Internet à détecter les messages publicitaires non sollicités. Il collecterait, filtrerait et distribuerait les signalements de ce type aux autorités nationales compétentes et à Europol. Le Centre développerait des technologies de détection pour les fournisseurs et tiendrait à jour une base de données de hachages et d'autres indicateurs techniques de MCS identifiés par les autorités nationales.
Le Centre soutiendrait également les autorités nationales dans l'application du nouveau règlement sur les abus sexuels sur les enfants, mènerait des enquêtes et imposerait des amendes pouvant aller jusqu'à 6 ;% du chiffre d'affaires mondial en cas de non-respect du règlement.
Enfin, les députés proposent de créer un nouveau forum consultatif sur les droits des victimes et des survivants afin de s'assurer que la voix des victimes soit entendue.
Le rapporteur Javier Zarzalejos (PPE, Espagne) a déclaré : "Pour relever efficacement ce défi impérieux, nous avons trouvé un compromis juridiquement solide, soutenu par tous les groupes politiques. Il créera des règles uniformes pour lutter contre l'abus sexuel des enfants en ligne, ce qui signifie que tous les fournisseurs devront évaluer s'il existe un risque d'abus dans leurs services et l'atténuer par des mesures sur mesure. En dernier recours, des ordonnances de détection pourront être utilisées pour retirer les contenus abusifs qui circulent encore sur l'internet. Cet accord établit un équilibre entre la protection des enfants et la protection de la vie privée."
Prochaines étapes
Le projet de position du Parlement doit encore être approuvé par la plénière. Le 20 novembre, le début des négociations sera annoncé et les députés auront jusqu'à la fin du jour suivant pour s'y opposer. Si un nombre suffisant d'entre eux choisissent de le faire, il y aura un vote au cours de la même session.
Tuta : une victoire de la vie privée
Tuta, anciennement Tutanota, a donné son avis sur cette décision du Parlement européen. Pour eux, la volonté du Parlement européen de supprimer le contrôle des chats et de préserver le chiffrement sécurisé est un accord historique et une victoire pour la vie privée.
Le contrôle du chat - l'un des pires projets de l'Union européenne, également décrit comme un monstre de surveillance - doit être stoppé. Le Parlement européen vient de décider de le faire ! Dans le cadre d'un accord historique sur le règlement de la Commission européenne relatif aux abus sexuels commis sur des enfants (RAEP), le Parlement européen souhaite supprimer les exigences en matière de contrôle du chat et garantir un chiffrement sécurisé. Cette décision a été prise à la suite d'une levée de boucliers contre la proposition initiale de la part d'experts en technologie et en sécurité, de scientifiques internationaux et de citoyens de toute l'Europe. C'est une grande victoire pour notre droit à la vie privée et pour le maintien de nos valeurs démocratiques en Europe, mais le combat continue !
Le Parlement européen s'est prononcé en faveur d'une version alternative du contrôle du chat, qui, heureusement, ne mérite plus ce nom : Après une opposition massive aux méthodes de surveillance incluses dans le règlement CSA, le Parlement européen a décidé de défendre le droit à la vie privée de chaque citoyen et a souligné l'importance de préserver nos valeurs démocratiques. L'Europe ne doit pas suivre des régimes autocratiques comme la Chine et la Russie en surveillant tous ses citoyens.
Patrick Breyer, membre du Parlement européen et participant aux négociations sur le RAEP, a déclaré :
"Sous l'impression de protestations massives contre l'imminence d'un contrôle aveugle des chats par balayage de masse des messages privés, nous avons réussi à gagner une large majorité en faveur d'une approche différente et nouvelle de la protection des jeunes contre les abus et l'exploitation en ligne. En tant que pirate et combattant de la liberté numérique, je suis fier de cette avancée. Les gagnants de cet accord sont d'une part nos enfants, qui seront protégés de manière beaucoup plus efficace et à l'abri des poursuites judiciaires, et d'autre part tous les citoyens, dont la confidentialité de la correspondance numérique et la sécurité des communications seront garanties.
"Même si ce compromis, soutenu par les progressistes et les conservateurs, n'est pas parfait sur tous les points, c'est un succès historique que la suppression du contrôle du chat et le rétablissement d'un chiffrement sécurisé soient l'objectif commun de l'ensemble du Parlement. Nous faisons exactement le contraire de la plupart des gouvernements de l'UE qui veulent détruire la confidentialité numérique de la correspondance et le chiffrement sécurisé. Les gouvernements doivent enfin accepter que ce projet de loi extrêmement dangereux ne peut qu'être fondamentalement modifié ou ne pas être adopté du tout. La lutte contre le contrôle autoritaire du chat doit être poursuivie avec toute la détermination nécessaire !
"Même si ce compromis, soutenu par les progressistes et les conservateurs, n'est pas parfait sur tous les points, c'est un succès historique que la suppression du contrôle du chat et le rétablissement d'un chiffrement sécurisé soient l'objectif commun de l'ensemble du Parlement. Nous faisons exactement le contraire de la plupart des gouvernements de l'UE qui veulent détruire la confidentialité numérique de la correspondance et le chiffrement sécurisé. Les gouvernements doivent enfin accepter que ce projet de loi extrêmement dangereux ne peut qu'être fondamentalement modifié ou ne pas être adopté du tout. La lutte contre le contrôle autoritaire du chat doit être poursuivie avec toute la détermination nécessaire !
Qu'a décidé le Parlement européen ?
Breyer écrit sur son site web que les services et les applications Internet doivent être "sécurisés dès leur conception et par défaut". Le Parlement européen a décidé de :
"préserver le secret numérique de la correspondance et supprimer les projets de contrôle généralisé des chats, qui violent les droits fondamentaux et n'ont aucune chance devant les tribunaux. Le contrôle volontaire actuel des messages privés (et non des réseaux sociaux) par les entreprises américaines de l'internet est en train d'être supprimé. La surveillance ciblée des télécommunications et les perquisitions ne seront autorisées que sur la base d'un mandat judiciaire et limitées aux personnes ou groupes de personnes soupçonnés d'être liés à des contenus pédopornographiques."
Contrairement à la proposition initiale de contrôle du chat, la version du Parlement européen souhaite qu'un nouveau centre européen de protection de l'enfance recherche de manière proactive des contenus pédopornographiques dans les parties de l'internet accessibles au public, par le biais d'une exploration automatique, ce qui peut également avoir lieu dans le darknet et serait beaucoup plus efficace que les mesures de surveillance privée prises par les fournisseurs d'accès. Les contenus abusifs découverts doivent être signalés et retirés par le fournisseur.
Le combat n'est pas terminé
Bien que la décision du Parlement européen soit une grande victoire, le combat n'est pas terminé. On s'attend à ce que la Commission européenne continue à faire pression en faveur de mesures de contrôle du chat de surveillance générale. Il est temps pour chacun d'entre nous de se joindre à ce combat !
L'opposition au contrôle du chat
Le contrôle des chats fait l'objet de discussions depuis un certain temps déjà, et les critiques à l'encontre de ce projet de loi sont nombreuses. Les experts en technologie et en sécurité ne sont pas les seuls à s'accorder sur le fait que l'analyse côté client n'est pas possible sans mettre en péril la sécurité de tous. Les scientifiques, le grand public et même le service de recherche de l'UE s'opposent également à la proposition de la Commission européenne en matière de contrôle du chat.
Lettre des scientifiques au Parlement européen
300 scientifiques du monde entier ont envoyé une lettre ouverte au Parlement européen pour demander aux décideurs politiques de mettre un terme au contrôle du chat, la proposition de règlement de l'UE sur les abus sexuels envers les enfants. Selon eux, s'il incombe aux responsables politiques de protéger les enfants contre les abus sexuels, "notre recommandation professionnelle, en tant que scientifiques, est de ne pas donner suite à cette proposition", car les techniques d'analyse que l'UE propose d'utiliser sont profondément erronées et mettraient en péril la sécurité de tous ceux qui utilisent l'internet.
Les scientifiques font passer la proposition de l'UE pour un vœu pieux : "Compte tenu de la nature horrible des abus sexuels commis sur des enfants, il est compréhensible, voire tentant, d'espérer qu'une intervention technologique puisse les éradiquer. Pourtant, si l'on considère la question dans sa globalité, on ne peut échapper à la conclusion que la proposition actuelle n'est pas une telle intervention."
Il n'existe pas de clé magique qui permette à la police d'analyser tous les messages de discussion, les courriels et autres pour y déceler des contenus préjudiciables, sans mettre en péril la sécurité et la vie privée de chacun. C'est techniquement impossible.
Les scientifiques affirment que le contrôle des chats représente une trop grande menace pour tout le monde et qu'il faut donc y mettre un terme :
"Avant tout, nous reconnaissons que l'abus et l'exploitation sexuels des enfants est un crime très grave qui peut causer des dommages à vie aux survivants. Il incombe aux autorités gouvernementales, avec le soutien des entreprises et des communautés, d'entreprendre des interventions efficaces pour prévenir ce crime et réagir rapidement lorsqu'il se produit.
"La Commission européenne a proposé une loi dont l'objectif déclaré est de mettre un terme à la diffusion en ligne de matériel pédopornographique et à la sollicitation d'enfants en ligne (grooming). Pour ce faire, la loi permet aux autorités d'obliger les fournisseurs d'applications ou d'autres services en ligne à analyser les messages, les images, les courriels, les messages vocaux et les autres activités de leurs utilisateurs. Dans le cas des applications chiffrées de bout en bout, l'argument avancé est que cette analyse peut être effectuée sur les appareils des utilisateurs - ce que l'on appelle l'"analyse côté client" (CSS)".
"L'adoption de cette législation porte atteinte au travail réfléchi et incisif que les chercheurs européens ont fourni dans le domaine de la cybersécurité et de la protection de la vie privée, notamment en contribuant à l'élaboration de normes mondiales en matière de chiffrement. Une telle remise en cause affaiblira l'environnement des travaux sur la sécurité et la vie privée en Europe, réduisant ainsi notre capacité à construire une société numérique sûre".
"Le règlement proposé créerait également un précédent mondial en matière de filtrage de l'internet, de contrôle de l'accès à l'internet et de suppression de certains des rares outils dont disposent les citoyens pour protéger leur droit à une vie privée dans l'espace numérique. Cela aura un effet dissuasif sur la société et risque d'avoir un impact négatif sur les démocraties du monde entier".
"Nous mettons donc fortement en garde contre la poursuite de ces mesures ou de mesures similaires, car leur succès n'est pas possible compte tenu de la technologie actuelle et prévisible, alors que leur potentiel de nuisance est substantiel."
"La Commission européenne a proposé une loi dont l'objectif déclaré est de mettre un terme à la diffusion en ligne de matériel pédopornographique et à la sollicitation d'enfants en ligne (grooming). Pour ce faire, la loi permet aux autorités d'obliger les fournisseurs d'applications ou d'autres services en ligne à analyser les messages, les images, les courriels, les messages vocaux et les autres activités de leurs utilisateurs. Dans le cas des applications chiffrées de bout en bout, l'argument avancé est que cette analyse peut être effectuée sur les appareils des utilisateurs - ce que l'on appelle l'"analyse côté client" (CSS)".
"L'adoption de cette législation porte atteinte au travail réfléchi et incisif que les chercheurs européens ont fourni dans le domaine de la cybersécurité et de la protection de la vie privée, notamment en contribuant à l'élaboration de normes mondiales en matière de chiffrement. Une telle remise en cause affaiblira l'environnement des travaux sur la sécurité et la vie privée en Europe, réduisant ainsi notre capacité à construire une société numérique sûre".
"Le règlement proposé créerait également un précédent mondial en matière de filtrage de l'internet, de contrôle de l'accès à l'internet et de suppression de certains des rares outils dont disposent les citoyens pour protéger leur droit à une vie privée dans l'espace numérique. Cela aura un effet dissuasif sur la société et risque d'avoir un impact négatif sur les démocraties du monde entier".
"Nous mettons donc fortement en garde contre la poursuite de ces mesures ou de mesures similaires, car leur succès n'est pas possible compte tenu de la technologie actuelle et prévisible, alors que leur potentiel de nuisance est substantiel."
Le service de recherche de l'UE s'oppose au contrôle des chats
En avril, le service de recherche du Parlement européen (EPRS) a présenté une nouvelle étude sur la légalité de la proposition de règlement sur les abus sexuels envers les enfants, également appelé "Chat Control ou Control du chat".
Selon cette analyse, les projets de la Commission européenne pour lutter contre les images d'enfants abusés sur Internet ne sont pas très efficaces et violent les droits fondamentaux des utilisateurs d'Internet. Si le nombre de cas signalés est susceptible d'augmenter de manière significative, la précision des résultats obtenus est également susceptible de diminuer de manière significative, ce qui accroît la charge de travail des autorités chargées des enquêtes.
Conséquences du projet de loi de l'UE
Les experts juridiques du service scientifique du Parlement européen concluent que :
"en pesant les droits fondamentaux affectés par les mesures de la proposition du CSA, il peut être établi que la proposition du CSA violerait les articles 7 et 8 de la Charte des droits fondamentaux en ce qui concerne les utilisateurs".
"Un ordre de détection du contenu des données interpersonnelles, que ce soit sur l'appareil ou sur le serveur, compromettra l'essence du droit à la vie privée en vertu de l'article 7 du CFR sous la forme de la confidentialité des télécommunications. Il s'agit d'une forme d'accès généralisé, conformément à l'arrêt Schrems, qui implique une analyse de toutes les communications passant par le serveur.
En outre, l'étude sur le contrôle des chats conclut : "Il est incontestable que les enfants doivent être protégés contre les abus et les représentations d'abus en ligne... mais ils doivent aussi pouvoir bénéficier de la protection des droits fondamentaux comme base de leur développement et de leur transition vers l'âge adulte."
L'eurodéputé du Parti des pirates, Patrick Breyer, opposant de longue date à la numérisation de masse des communications privées, commente :
"Le service scientifique du Parlement européen confirme aujourd'hui en termes clairs ce que moi-même et de nombreux militants des droits de l'homme, responsables de l'application de la loi, experts juridiques, victimes d'abus et organisations de protection de l'enfance avons mis en garde depuis longtemps : le projet de balayage général et indiscriminé de nos conversations privées et de nos photos détruit la confidentialité numérique de la correspondance et viole nos droits fondamentaux. Une avalanche de rapports d'activité suspects, pour la plupart faux, rendrait les enquêtes efficaces plus difficiles, criminaliserait les enfants en masse et ne permettrait pas de traduire en justice les auteurs d'abus et les producteurs de ce type de matériel. Selon cette expertise, la recherche dans les communications privées de matériel d'exploitation sexuelle des enfants, connu ou inconnu, n'est légalement possible que si les dispositions relatives à la recherche sont ciblées et limitées aux personnes présumées impliquées dans ce type d'activité criminelle".
"Ce dont nous avons réellement besoin, au lieu d'un contrôle non ciblé des chats et d'obligations d'identification pour la vérification de l'âge, c'est d'obliger les services répressifs à retirer de l'internet le matériel d'exploitation connu, ainsi que de normes européennes pour des mesures de prévention efficaces, l'aide et le conseil aux victimes, et pour des enquêtes criminelles efficaces."
"Ce dont nous avons réellement besoin, au lieu d'un contrôle non ciblé des chats et d'obligations d'identification pour la vérification de l'âge, c'est d'obliger les services répressifs à retirer de l'internet le matériel d'exploitation connu, ainsi que de normes européennes pour des mesures de prévention efficaces, l'aide et le conseil aux victimes, et pour des enquêtes criminelles efficaces."
Arrêter le contrôle du chat : la campagne de Mullvad est un véritable succès !
Le contrôle du chat est l'un des pires projets de l'UE à ce jour et doit être stoppé. Mullvad VPN a récemment lancé une grande campagne pour lutter pour la démocratie.
La campagne de Mullvad, lancée le 3 mars, appelle les décideurs politiques de l'UE à mettre fin au contrôle du chat et à repenser leur position par rapport à la proposition de la Commission européenne visant à détecter et à poursuivre le partage de matériel pédopornographique (CSAM) sur Internet. La proposition de l'UE comprend des mesures de surveillance de grande envergure, telles que l'analyse côté client, qui obligerait les services en ligne à analyser chaque message de chat et chaque courriel envoyé par un citoyen de l'Union européenne afin d'y déceler du matériel pédopornographique.
Cette législation priverait de facto les citoyens de l'UE de toute vie privée sur Internet, elle saperait même le chiffrement et affaiblirait ainsi la sécurité de tous les utilisateurs d'Internet.
C'est la raison pour laquelle le projet de l'UE de scanner les messages à caractère pédopornographique est fortement critiqué par les experts en chiffrement, les organisations de défense des droits de l'homme et les activistes de l'internet dans toute l'Europe.
Tout récemment, l'Allemagne a rendu publique son opposition à l'analyse côté client. Avec la résistance de l'Allemagne, de l'Irlande, de l'Autriche et des Pays-Bas à la proposition de l'UE, une minorité de blocage est à portée de main.
Un timing parfait
Mullvad ajoute à la pression avec sa nouvelle campagne, qui a été lancée pendant la présidence suédoise de l'UE, qui a débuté le 1er janvier 2023. Le moment ne pouvait donc pas être mieux choisi.
Mullvad déclare sur sa page de campagne :
L'heure est au débat et à l'action
Une société démocratique se construit sur des discussions, avant que les propositions de loi ne deviennent réalité. Nous avons entamé la conversation dans les rues de Suède, pendant la présidence suédoise de l'Union européenne.
Une société démocratique se construit sur des discussions, avant que les propositions de loi ne deviennent réalité. Nous avons entamé la conversation dans les rues de Suède, pendant la présidence suédoise de l'Union européenne.
Opposition au contrôle du chat
L'organisation de défense des droits numériques EDRi a récemment lancé la campagne "Stop Scanning Me", dans le cadre de laquelle les citoyens européens peuvent signer une pétition contre le plan de surveillance de l'UE.
Qu'est-ce que le contrôle des chats ?
La proposition de l'Union européenne sur le contrôle des chats veut obliger les services en ligne à analyser chaque message et chaque courriel à l'aide d'une IA pour y déceler d'éventuels contenus (connus ou inconnus) relatifs à la sollicitation d'enfants et aux abus sexuels sur les enfants. Les messages suspects signalés par l'IA seront signalés aux services de police et feront l'objet d'une enquête.
La recherche automatique de matériel de pédopornographie et d'abus sexuels est une procédure qui s'appuie sur l'intelligence artificielle (IA). L'IA n'est pas sans faille et signalera un grand nombre d'images inoffensives et privées, qui feront ensuite l'objet d'une enquête par la police. Les experts s'attendent à ce que 10 à 20 % des images signalées soient des faux positifs.
Il s'agit d'une énorme intrusion dans la vie privée de millions de citoyens innocents.
Le contrôleur européen de la protection des données, Wiewiórowski, parle d'une "illusion de légalité" : Ce type de balayage aveugle des communications privées "sera toujours illégal en vertu de la Charte des droits fondamentaux (et probablement aussi en vertu de plusieurs lois constitutionnelles nationales)".
Les risques du contrôle des chats
Pour beaucoup, les risques du contrôle des chats sont négligeables. Après tout, en tant que citoyens respectueux des lois, qu'y a-t-il à craindre ?
Mais la vérité est tout autre : Les risques d'un outil de surveillance tel que le contrôle du chat sont illimités.
1. Vous ne savez pas si les lois vont changer.
Jan Penfrat l'a parfaitement dit sur Mastodon :
"Vous n'avez rien à cacher jusqu'à ce que le gouvernement déclare soudainement votre comportement illégal."
Le texte de l'image qu'il a postée est tiré d'une information diffusée par Business Insider : "La police poursuit les demandeurs d'avortement en utilisant leurs données numériques - et Facebook et Google l'aident à le faire".
2. Un chiffrement compromis n'est pas un chiffrement
Une fois que le chiffrement est rompu pour permettre l'accès aux "bons", la sécurité et la protection de la vie privée promises par le chiffrement disparaissent.
Il n'est tout simplement pas possible de mettre en place une porte dérobée de chiffrement qui ne puisse être utilisée que par les forces de l'ordre.
Les meilleurs échecs de portes dérobées de l'histoire l'illustrent d'ailleurs très bien. La vérité, c'est que Les services secrets ont déjà tenté de saper le chiffrement, mais chaque fois qu'ils ont réussi, d'autres l'ont fait aussi. Les intrus malveillants sont devenus très puissants.
En Europe, nous ne devons pas affaiblir l'épine dorsale de la sécurité dont dépend notre vie numérique : le chiffrement.
Arrêtons l'analyse côté client
En tant que citoyens européens et membres de la société civile, nous devons maintenant faire pression sur les législateurs pour qu'ils s'opposent à une législation qui placerait chaque courriel et chaque message de chat que nous envoyons sous surveillance constante.
Ensemble, nous pouvons mettre fin au contrôle des chats !
Et vous ?
Quel est votre avis sur le sujet ?Voir aussi :
La réglementation européenne eIDAS 2.0, dont l'article 45 est enfoui dans le texte, fera reculer la sécurité du web de 12 ans, ce qui nous ramène à l'âge des ténèbres de 2011, d'après l'EFF Le Conseil et le Parlement parviennent à un accord provisoire sur un nouveau cadre pour l'identité numérique européenne (eID), un projet qui soulève des craintes liées au respect de la vie privée Victoire de la vie privée : Le contrôle du Chat a été reporté pour la deuxième fois ! Voici pourquoi les plans de balayage CSAM de l'UE doivent échouer, d'après Tutanota