Laissez-vous surveiller : les gouvernements de l'UE sont susceptibles d'approuver ChatControl dès le mois de juin

Et ainsi ouvrir la voie à une surveillance de masse que des acteurs comme Signal dénoncent

Sur la base d'une nouvelle proposition du ministre belge de l'intérieur, les gouvernements de l'UE pourraient finalement approuver le très critiqué règlement sur les abus sexuels sur les enfants (CSAR ou contrôle des chats) dès le mois de juin. C'est ce que révèlent des informations internes divulguées à l'eurodéputé du Parti Pirate et rapporteur fictif Patrick Breyer. Ce serait alors la voir ouverte à une surveillance de masse dont des observateurs estiment qu’elle préfigure du totalitarisme en gestation en Europe.

De façon spécifique, selon la proposition, les utilisateurs d'applications dotées d'une fonction de communication devraient accepter, par le biais de conditions générales ou de messages contextuels, que toutes les images et vidéos envoyées à d'autres personnes soient automatiquement analysées et éventuellement signalées à l'UE et à la police. À cette fin, des portes dérobées de surveillance devraient être intégrées dans les services de messagerie précédemment chiffrés de bout en bout, même si les Belges affirment que le système de « modération de l'upload » qu'ils proposent diffère du « scan côté client » tant critiqué.

Si un utilisateur n'accepte pas que ses photos et vidéos privées soient scannées, il pourra toujours utiliser le service pour envoyer des messages texte, mais ne pourra plus partager d'images et de vidéos. Les algorithmes de scan sont censés signaler les CSAM connus ainsi que les images et vidéos inconnues jugées potentiellement suspectes par l'intelligence artificielle. L'analyse des messages textuels à la recherche d'indices de toilettage, qui n'a pratiquement pas été utilisée jusqu'à présent, serait supprimée du projet de législation, de même que l'analyse des communications audio, qui n'est pas du tout utilisée.


La proposition a déjà fait l’objet d’au moins deux séances de débats au cours du mois qui tirent à son terme. Une adoption aurait comme conséquence de voir des millions de conversations privées et de photos privées de citoyens innocents scannées à l'aide d'une technologie peu fiable, puis divulguées sans que les utilisateurs concernés ne soient liés, même de loin, à des abus sexuels commis sur des enfants. Les photos de nu et celles de famille se retrouveraient entre les mains d'étrangers à qui elles n'appartiennent pas et avec qui elles ne sont pas en sécurité. Ces mesures saperaient le chiffrement de bout en bout précédemment sécurisé afin de transformer les smartphones en espions.

Chat Control 2.0, with client side scanning, is a dangerous violation of privacy
🇳🇱 https://t.co/SWGzC0gjHu
🇬🇧 https://t.co/BtazGarm4f#CSAM👁️#ChatControl #EU🇪🇺🏴☠️#Pirates

Why we are so glad that we as Pirates have stopped this (for the time being): 👇pic.twitter.com/R497IFYG0p https://t.co/AWka71Jts0

— Matthijs Pontier 🏴☠️Piratenpartij - De Groenen🌻 (@Matthijs85) May 20, 2024

La « modération de l’upload » est plutôt susceptible de renforcer le « scan côté client »

La loi britannique sur la sécurité en ligne contient une disposition controversée, surnommée la « clause espion » par certains organismes de défense des droits numérique. Elle prévoit une obligation des plateformes en ligne utilisant le chiffrement de bout en bout à mettre en place des mécanismes permettant d’identifier et de signaler les CSAM. Le chiffrement de bout en bout garantit que seuls l’expéditeur et le destinataire d’un message peuvent en voir le contenu ; même le fournisseur du service ne peut pas accéder aux données non chiffrées.

Le gouvernement britannique n’a pas précisé la technologie que les plateformes devraient utiliser pour identifier les CSAM envoyés sur les services chiffrés, mais la solution la plus souvent citée est dénommée le scan côté client. Il s’agit d’examiner le contenu du message avant qu’il ne soit envoyé - c’est-à-dire sur l’appareil de l’utilisateur - et de le comparer à une base de données de CSAM hébergée sur un serveur ailleurs. Selon Alan Woodward, professeur invité en cybersécurité à l’Université de Surrey, cela reviendrait à « un logiciel espion approuvé par le gouvernement qui scanne vos images et éventuellement vos [textes] ». L’entrée en vigueur de la « modération de contenu » serait donc un moyen d’obtenir des citoyens de l’UE leur consentement pour se soumettre au scan côté client.

Les conséquences de l’entrée en vigueur de ce projet de loi seraient alors que :

• toutes les conversations en ligne et tous les courriels seront automatiquement fouillés pour détecter tout contenu suspect. Rien ne reste confidentiel ou secret. Il ne sera pas nécessaire d'obtenir une ordonnance du tribunal ou d'avoir un soupçon initial pour effectuer une recherche dans les messages ;
• si un algorithme classe le contenu d'un message comme suspect, les photos privées ou intimes pourront être consultées par le personnel et les sous-traitants de sociétés internationales et les autorités policières. Ces mêmes contenus pourront être consultés par des personnes inconnues ou se retrouver entre les mains d’individus mal intentionnés ;
• les conversations intimes pourront être lues par le personnel et les sous-traitants de sociétés internationales et les autorités policières, car les filtres de reconnaissance de texte qui ciblent la "sollicitation d'enfants" signalent souvent à tort les conversations intimes ;
• des tiers pourront être faussement signalés et faire l'objet d'enquêtes pour diffusion présumée de matériel d'exploitation sexuelle d'enfants. Les algorithmes de contrôle des messages et des chats sont connus pour signaler des photos de vacances tout à fait légales d'enfants sur une plage, par exemple. Selon les autorités de la police fédérale suisse, 86 % de tous les signalements générés par des machines s'avèrent sans fondement ;
• lors d’un voyage à l'étranger, l’on peut se retrouver face à de gros problèmes. Les rapports générés par les machines sur les communications pourront être transmis à d'autres pays, comme les États-Unis, où la confidentialité des données demeure très mal encadrée, ce, avec des résultats incalculables ;
• ce serait la porte ouverte pour les services de renseignement et les pirates sur les conversations et courriels.

Et vous ?

Que pensez-vous de cette multiplication de projets de loi qui menacent les libertés individuelles en Europe ? Vers un espace européen totalitaire ?

Voir aussi :

Le bitcoin vaut moins que le coût d'extraction, selon JPMorgan, le coût de revient moyen pondéré d'un bitcoin étant estimé à environ 4060 $
La cryptomonnaie de Facebook, une opportunité de 19 milliards de dollars de revenus, et une nouvelle affaire autre que la publicité, selon Barclays
La majorité du marché de bitcoin est une tromperie, 95 % du volume des échanges de cette monnaie étant truqué, selon une nouvelle étude
Cryptomonnaie : le crash du marché laisse des entreprises en faillite dans son sillage, des développeurs étant privés de financement supplémentaire
L'État de New York approuve deux cryptomonnaies liées au dollar : deux nouveaux stablecoins à la suite du TrueUSD aux États-Unis