IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Projet de loi CSAM: les législateurs européens assurent que le chiffrement de bout ne sera pas affecté
Par le règlement qui oblige les grandes entreprises Tech à lutter contre la pédopornographie

Le , par Stéphane le calme

1PARTAGES

10  0 
Les législateurs de l’Union européenne ont approuvé mercredi un projet de règlement qui obligerait les grandes entreprises technologiques à détecter et à signaler les contenus liés à la pornographie infantile sur leurs plateformes, affirmant que le chiffrement de bout en bout ne serait pas affecté. Le projet de règlement vise à harmoniser les normes de protection des enfants en ligne dans les 27 États membres de l’UE et à renforcer la coopération entre les autorités nationales et les fournisseurs de services de communication.

Une proposition de la Commission européenne pourrait obliger les entreprises technologiques à analyser les messages privés à la recherche de matériel d'abus sexuel d'enfants (CSAM pour Child Sexual Abuse Material) et de preuves de pédopiégeage, même lorsque ces messages sont censés être protégés par un chiffrement de bout en bout.

Proposé par la Commission européenne l'année dernière, le CSAM est une graine de discorde entre les partisans des mesures de sécurité en ligne et les militants de la vie privée qui s'inquiète des mesures de surveillance qui pourraient en découler. L'exécutif de l'Union européenne a présenté la proposition CSAM après que le système actuel de détection et de signalement volontaire par les entreprises se soit révélé insuffisant pour protéger les enfants.

D'après le projet de régulation, les messageries devraient, d'ici à l'an prochain, mettre en place des outils pour détecter l'échange d'images pédopornographiques. Il est question de se servir d'outils basés sur l'intelligence artificielle pour analyser ces contenus, dans le but de détecter une image suspecte ou une conversation problématique. En cas de suspicion, une alerte serait envoyée à une agence européenne dédiée, à des fins d'analyses complémentaires.

La Commission affirme que cette mesure est nécessaire pour protéger les enfants des prédateurs sexuels et pour aider les autorités à poursuivre les criminels. Cependant, de nombreux experts, activistes et organisations de défense des droits de l’homme s’opposent à cette proposition, estimant qu’elle constitue une atteinte disproportionnée à la vie privée et à la sécurité des communications en ligne


La pilule a du mal à passer

Lors d'un séminaire public organisé ce 23 octobre, de nombreux experts ont toutefois pointé du doigt l'impossibilité de recourir à de telles analyses sans mettre à mal la vie privée des internautes européens.

Helen Charles, représentante des affaires publiques de Whatsapp, a exprimé ses « inquiétudes concernant l'implémentation » d'une telle solution à l'occasion de ce séminaire : « Nous pensons que toute demande d'analyse des contenus dans une messagerie chiffrée pourrait nuire aux droits fondamentaux » a-t-elle indiqué, tout en plaidant pour l'utilisation d'autres techniques, comme le signalement d'utilisateurs mais aussi le suivi du trafic des internautes pour détecter des comportements suspects.

Le même jour, le Contrôleur européen de la protection des données (CEPD), une institution indépendante de l’Union européenne, a rendu son avis sur le CSAM :

Il est techniquement impossible de mettre en œuvre une analyse de contenu connu ou nouveau et une détection de toilettage par un fournisseur de services sans affaiblir le chiffrement de bout en bout et porter atteinte à la vie privée des utilisateurs. C’est la conclusion sans équivoque de centaines d’éminents scientifiques et chercheurs dans le domaine. En outre, de nombreux experts s’accordent sur le fait que les solutions technologiques de détection les plus récentes ne sont pas suffisamment fiables et sont également vulnérables aux cyberattaques.

La proposition CSAM n’offre pas non plus de solutions sur la manière d’atténuer le risque émergent du « CSAM synthétique », c’est-à-dire des images, des vidéos et du texte/voix générés par ordinateur, y compris à l’aide d’applications d’IA générative accessibles au public.
Il faut également rappeler que les entreprises technologiques se sont farouchement opposées à un affaiblissement du chiffrement.

En décembre, Apple a abandonné ses projets de construire une technologie de scan côté client pour iCloud, affirmant plus tard qu’il ne pouvait pas faire fonctionner le système sans porter atteinte à la vie privée de ses utilisateurs. Les opposants au projet de loi affirment que l’installation de portes dérobées dans les appareils des gens pour rechercher des images CSAM ouvrirait presque certainement la voie à une surveillance plus large de la part des gouvernements. « Vous rendez la surveillance de masse presque inévitable en mettant [ces outils] entre leurs mains », estime Alan Woodward, professeur en cybersécurité à l’Université de Surrey. « Il y aura toujours des « circonstances exceptionnelles » auxquelles [les forces de sécurité] penseront et qui justifieront qu’elles recherchent autre chose. »


Bruxelles se rétracte : le chiffrement de bout en bout ne sera pas affecté

Les législateurs européens ont convenu mercredi d'un projet de règles exigeant que Google, Meta et d'autres services en ligne d'Alphabet identifient et suppriment la pédopornographie en ligne, affirmant que le chiffrement de bout en bout ne serait pas affecté.

Ordres de détection

Afin d’éviter une surveillance de masse ou un contrôle généralisé de l’internet, le projet de loi permettra aux autorités judiciaires d’autoriser, en dernier ressort, des ordonnances limitées dans le temps de détection et de surveillance des contenus à caractère pédopornographique et d’effacement ou d’interdiction d’accès à ces contenus, lorsque les mesures restrictives ne sont pas efficaces pour l’éliminer.

En outre, les députés soulignent la nécessité de cibler les ordres de détection sur des individus ou des groupes (y compris les abonnés à une chaîne) liés à des abus sexuels commis sur des enfants, en s’appuyant des « motifs raisonnables de suspicion ».

Dans le texte adopté, les députés ont exclu du champ d’application des ordres de détection le chiffrement de bout en bout, afin de garantir que les communications de tous les utilisateurs sont sécurisées et confidentielles. Les fournisseurs seront en mesure de choisir les technologies à utiliser tant qu’elles respectent les garanties strictes prévues par la loi et sous réserve d’un audit public indépendant de ces technologies.

Centre européen pour la protection de l’enfance

La loi créera un centre européen pour la protection de l’enfance afin de contribuer à la mise en œuvre des nouvelles règles et d’aider les fournisseurs d’internet à détecter les contenus à caractère pédopornographique. Il collectera, classera et distribuera les rapports liés à ces contenus aux autorités nationales compétentes et à Europol. Le Centre mettra au point des technologies de détection pour les fournisseurs et tiendra à jour une base de données sur les hachages et autres indicateurs techniques des contenus à caractère pédopornographiques identifiés par les autorités nationales.

Le Centre aidera également les autorités nationales à appliquer le nouveau règlement sur les abus sexuels commis sur des enfants, à mener des enquêtes et à prélever des amendes allant jusqu’à 6 % du chiffre d’affaires mondial en cas de non-respect.

Enfin, les députés proposent de créer un nouveau forum consultatif sur les droits des victimes afin de veiller à ce que les voix des victimes soient prises en compte.

Quelques exemples d'amendements relatifs au chiffrement de bout en bout

(9a) Le chiffrement, et notamment de bout en bout, est un outil de plus en plus important pour garantir la sécurité et la confidentialité des communications de tous les utilisateurs, y compris les enfants. Toute restriction ou atteinte au chiffrement de bout en bout peut être utilisée et abusée par des tiers malveillants. Aucune disposition du présent règlement ne doit donc être interprétée comme interdisant, affaiblissant ou compromettant le chiffrement de bout en bout. Les fournisseurs de services de la société de l'information ne devraient en aucun cas être empêchés de fournir leurs services en utilisant les normes de chiffrement les plus élevées, étant donné que ce chiffrement est essentiel à la confiance et à la sécurité des services numériques.
Ou encore :

[...]Par conséquent, le présent règlement laisse au fournisseur concerné le choix des technologies à utiliser pour se conformer efficacement aux ordres de détection et ne doit pas être compris comme incitant ou dissuadant l'utilisation d'une technologie donnée, à condition que les technologies et les mesures d'accompagnement répondent aux exigences de présent règlement. Cela inclut l'utilisation de la technologie de chiffrement de bout en bout, qui constitue un outil important pour garantir la sécurité et la confidentialité des communications des utilisateurs, y compris celles des enfants.

[...]Lors de l'exécution de l'ordre de détection, les prestataires devraient prendre toutes les mesures de sauvegarde disponibles pour garantir que les technologies qu'ils emploient ne peuvent pas être utilisées par eux ou leurs employés à des fins autres que le respect du présent règlement, ni par des tiers, et ainsi éviter de porter atteinte à la sécurité et la confidentialité des communications des utilisateurs, tout en garantissant la détection efficace des matériels pédopornographiques et l'équilibre de tous les droits fondamentaux en jeu. À cet égard, les prestataires devraient garantir des procédures et des garanties internes efficaces pour empêcher une surveillance générale. Les ordres de détection ne doivent pas s’appliquer au chiffrement de bout en bout.

[ndlr. emphase mise sur le document]
Une position acclamée par les défenseurs des droits numériques

Les législateurs européens doivent régler les derniers détails avec les États membres avant que le projet puisse devenir une législation dans le cadre d'un processus qui pourrait être finalisé l'année prochaine.

La décision des législateurs d’exempter le chiffrement de bout en bout du projet de règles a suscité les éloges des défenseurs de la vie privée.

« La position du Parlement européen supprime le contrôle aveugle des discussions et permet uniquement une surveillance ciblée d'individus et de groupes spécifiques raisonnablement suspects d'être liés à du matériel pédopornographique avec un mandat judiciaire », a déclaré la Jeunesse libérale européenne (LYMEC).

Sources : communiqué de presse du Parlement européen, amendements

Et vous ?

Quelle lecture faites-vous des propositions de Bruxelles ?

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de totozor
Membre expert https://www.developpez.com
Le 11/01/2024 à 7:53
Quel est votre avis sur le sujet ?
L'automutilation, du suicide et des TCA chez les jeunes est un sujet délicat et je ne suis pas sûr que cette décision soit idéale parce qu'elle censurera sans doute autant la prévention que l'encouragement.
Le prévention sur les réseaux sociaux a sauvé des vies, probablement moins que l'encouragement, j'en conviens.
Donc jeter le bébé avec l'eau du bain est bénéfique mais ne pas le faire l'est probablement encore plus, même si ça complique les choses.
Dans quelle mesure ces nouvelles mesures de protection des adolescents sont-elles une réponse efficace aux préoccupations liées à la sécurité sur les plateformes de Meta, et sont-elles susceptibles de résoudre les problèmes sous-jacents ?
Le mal être des adolescent est quasi intrinsèque à cette période de la vie, les réseaux sociaux sont loin d'être le premier problème (la représentation d'une société idéale dans les œuvres culturelles est probablement encore plus proche de la source du problème) mais les réseaux sont un catalyseur critique.
Donc les limiter aura un effet mais ne résoud en aucun cas le problème de fond.
Les récentes annonces de Meta concernant la protection des adolescents ne sont-elles pas simplement une réaction à la pression gouvernementale, plutôt qu'une initiative proactive de l'entreprise ?
Bien sûr que si et la pression gouvernementale va retomber immédiatement même si l'on constatait que la mesure n'est pas efficace.
Le gouvernement attends des actes à vendre plutôt que des résultats réels sur ce genre de sujet.
Face aux multiples scandales liés à la confidentialité des données et aux contenus nuisibles sur ses plateformes, comment Meta peut-elle garantir que ces nouvelles mesures ne sont pas simplement des actions superficielles pour redorer son image ?
Il va suivre tout ça, sortir une étude pas forcément si pertinente que ça avec un beau camembert, quelques histogrammes et un graph parlant avec des bonhomme barrés ou pas et il se félicitera de ça.
Mais ce n'est que le glaçage sur le gâteau du nettoyage de son image.
En tant que société qui a profité de la viralité de contenus controversés par le passé, comment Meta peut-elle prétendre sérieusement vouloir créer un environnement en ligne plus sûr pour les adolescents sans compromettre ses propres intérêts commerciaux ?
Une meilleure image rime aussi avec des annonceurs qui reviennent ou sont prêts à y mettre un peu plus de moyens.
En valorisant la sureté des ado Meta redore son blason et augmente la valeur de ce qu'il partage.
Les influenceurs en profiteront et Meta aussi.
4  0 
Avatar de marsupial
Expert éminent https://www.developpez.com
Le 24/01/2024 à 10:51
Dans un rapport de la CNIL, il est mentionné que seuls 45% des 40% que représentent les données sensibles dans le cloud sont chiffrées (source ziff davis). Un guide de bonnes pratiques est publié avec ce rapport. Si les CNIL européennes se battent pour le respect du RGPD, ce serait effectivement un mauvais signal que d'abandonner le chiffrement en rase campagne pour une cause, certes juste, mais disproportionnée en conséquences par rapport au but à atteindre. Il n'existe pas de raison assez juste pour mettre sur écoute 450 millions de citoyens pour sauver une infime proportion d'entre eux d'attitudes marginales même si elles sont abjects.

Je propose plutôt des descentes de police spécialisée dans le Dark Web qui concentre l'immense majorité des sites illégaux et le renforcement des moyens pour y parvenir comme l'envisage la France. source lefigaro.fr
4  0 
Avatar de AoCannaille
Expert confirmé https://www.developpez.com
Le 11/01/2024 à 11:01
Citation Envoyé par Jon Shannow Voir le message
Le mieux est de ne rien faire. Ça s'appelle la sélection naturelle.
La sélection naturelle ne marche que sur les défauts génétiques, et que en cas de décès avant reproduction.

Ici on parle de mutilation, ce qui n'empêche pas la reproduction, et dûe non pas à des facteurs génétiques, mais environnementaux.

En d'autre terme, cette phrase, que j'espère volontairement cynique, est scientifiquement fausse...
3  0 
Avatar de ALT
Membre émérite https://www.developpez.com
Le 26/11/2023 à 17:35
Bon, sur le fond, je maintiens que le contrôle systématique des communications numériques est un scandale. Surtout que personne ne parle de contrôler tous les courriers postaux, qui sont depuis longtemps protégés contre les intrusions sauvages (protection [élémentaire] de la vie [ici, la correspondance] privée).
Ceci dit, que la Commission européenne se permette de violer le RGPD m'attriste beaucoup.
2  0 
Avatar de marsupial
Expert éminent https://www.developpez.com
Le 04/12/2023 à 16:01
Citation Envoyé par Kipling
Si tu peux voir détruit l'ouvrage de ta vie
Et sans dire un seul mot te mettre à rebâtir,
Ou perdre en un seul coup le gain de cent parties
Sans un geste et sans un soupir,
Si tu peux être amant sans être fou d'amour;
Si tu peux être fort sans cesser d'être tendre
Et, te sentant haï, sans haïr à ton tour,
Pourtant lutter et te défendre;
Si tu peux supporter d'entendre tes paroles
Travesties par des gueux pour exciter des sots,
Et d'entendre mentir sur toi leurs bouches folles,
Sans mentir toi-même d'un mot;
Si tu peux rester digne en étant populaire,
Si tu peux rester peuple en conseillant les Rois,
Si tu peux aimer tous tes amis en frères,
Sans qu'aucun d'eux soit tout pour toi;
Si tu sais méditer, observer et connaître,
Sans jamais devenir sceptique ou destructeur,
Rêver, mais sans laisser ton rêve être ton maître,
Penser, sans n'être qu'un penseur;
Si tu peux être dur sans jamais être en rage,
Si tu peux être brave et jamais imprudent,
Si tu peux être bon, si tu sais être sage,
Sans être moral ni pédant;
Si tu peux rencontrer triomphe après défaite
Et recevoir ces deux menteurs d'un même front,
Si tu peux conserver ton courage et tête
Quand tous les autres les perdront;
Alors les Rois, les Dieux, la Chance et la Victoire
Seront a tout jamais tes esclaves soumis,
Et, ce qui vaut mieux que les Rois et la Gloire,
Tu seras un Homme, mon Fils.
2  0 
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 11/01/2024 à 11:23
C'était de l'humour grinçant, un peu de "politiquement incorrect".
2  0 
Avatar de chrtophe
Responsable Systèmes https://www.developpez.com
Le 01/02/2024 à 13:15
Mark Zuckerberg s'excuse auprès des familles des enfants qui se sont suicidés après avoir rejeté la suggestion de créer un fonds de compensation
Si il veut vraiment faire quelque chose, qu'il mette en place une vraie modération, mais bien sûr que ne sera pas fait.
3  1 
Avatar de OrthodoxWindows
Membre émérite https://www.developpez.com
Le 11/01/2024 à 10:27
Citation Envoyé par Jon Shannow Voir le message
Le mieux est de ne rien faire. Ça s'appelle la sélection naturelle.
C'est ironique ?
1  0 
Avatar de OrthodoxWindows
Membre émérite https://www.developpez.com
Le 11/01/2024 à 11:08
Citation Envoyé par AoCannaille Voir le message
La sélection naturelle ne marche que sur les défauts génétiques, et que en cas de décès avant reproduction.

Ici on parle de mutilation, ce qui n'empêche pas la reproduction, et dûe non pas à des facteurs génétiques, mais environnementaux.

En d'autre terme, cette phrase, que j'espère volontairement cynique, est scientifiquement fausse...
Je suis totalement d'accord, scientifiquement il n'y a que les défauts génétiques induisant un décès avant reproduction qui comptes.
Pour montrer la fausseté de cette affirmation, Albert Jacquard prenait l'exemple de Leonard de Vinci et de Ludwig van Beethoven qui n'avait probablement pas eu d'enfant ; au sens de la sélection naturelle, c'était donc des êtres inférieurs
1  0 
Avatar de byrautor
Membre éclairé https://www.developpez.com
Le 11/12/2023 à 19:49
Le 22 novembre, le Parlement européen a officiellement adopté sa position sur le projet de "règlement établissant des règles pour prévenir et combattre les abus sexuels concernant les enfants" (CSAR). Les sept groupes politiques européens :

Comment appliquer cela avec la déclaration :
CSAR : le Parlement européen rejette la numérisation de masse des messages privés dans l'un des projets de loi les plus controversés, ce qui marque une évolution positive pour les droits de l'homme

0  0