Prochainement, le Congrés américain s’apprête à voter sur la loi sur la sécurité en ligne des enfants (Kids Online Safety Act - KOSA). La loi KIDS vise à renforcer la protection des enfants en ligne en matière de confidentialité et de santé mentale. Cependant, selon l'Electronic Frontier Foundation (EFF), la loi KIDS contient des dispositions qui obligeront les services en ligne à vérifier l’âge de tous les utilisateurs, imposeront des politiques de modération des discours en ligne dictées par le gouvernement, et iront même jusqu’à créer de nouvelles règles concernant les communications privées et chiffrées. L'EFF affirme : « À l’instar de nombreux autres aspects de la loi KIDS, ces dispositions relatives à la messagerie privée reposent également sur la capacité des sites web et des applications à distinguer les mineurs des majeurs. Il en résulte davantage de contrôles d’âge, davantage de restrictions et une diminution de la confidentialité en ligne. »L’Electronic Frontier Foundation (EFF) est une ONG internationale de protection des libertés sur Internet basée à San Francisco, Californie. Fondée en 1990 aux États-Unis par Mitch Kapor, John Gilmore, et John Perry Barlow, auteur de la Déclaration d'indépendance du cyberespace, l'EFF travaille à exposer les abus du droit encadrant Internet, organise des actions politiques et de l'envoi de mail en masse, avance des fonds pour la défense dans les procès, apporte son expertise comme amicus curiae, défend les individus et nouvelles technologies contre les menaces abusives de recours en justice, soutient certaines avancées technologiques qui préservent les libertés individuelles, et maintient une base de données et des sites internet indépendants qui relaient des nouvelles et conseils.
Fin juillet 2024, la loi sur la sécurité des enfants en ligne (Kids Online Safety Act, KOSA) a été adoptée par le Sénat US. La KOSA a bénéficié d'un large soutien bipartisan au Sénat et a été adoptée par 91 voix contre 3, en même temps que la Children's Online Privacy Protection Action (COPPA) 2.0. Ces deux lois visent à contrôler la quantité de données pouvant être collectées auprès des mineurs et à réglementer les fonctionnalités des plateformes susceptibles de nuire à la santé mentale des enfants.
Depuis, les groupes de défense des libertés civiles tiennent à attirer l’attention sur les dangers pour la vie privée et les élans de censure autoritariste en toile de fond. Des groupes tels que l'American Civil Liberties Union (ACLU), l'Electronic Frontier Foundation (EFF), LGBT Tech et NetChoice ont écrit une lettre aux sénateurs que le devoir de diligence pourrait entraîner « un filtrage agressif des contenus ». Ils craignent également que les plateformes soient amenées à imposer des systèmes de vérification de l'âge, ce qui soulèverait des problèmes supplémentaires en matière de respect de la vie privée et de constitutionnalité.
Récemment, l'EFF a réitéré son avertissement concernant les dangers de la loi KIDS. Voici l'avis de l'EFF :
La loi KIDS imposera une vérification de l’âge pour accéder à Internet
Au cours de la semaine prochaine, le Congrès s’apprête à voter sur la loi KIDS, un vaste ensemble de mesures législatives visant à contrôler la navigation sur le Web et la messagerie privée des Américains. Ce paquet comprend une version révisée du Kids Online Safety Act (KOSA), associée à un ensemble d’autres projets de loi sur Internet, d’études législatives, d’obligations de déclaration et de nouvelles réglementations. Au lieu de débattre du bien-fondé de chacune de ces propositions, les législateurs tentent de les faire adopter toutes en même temps dans le cadre d’une procédure ultra-accélérée.
Cet ensemble de projets de loi bricolés est un véritable fouillis, avec des systèmes de vérification de l’âge différents selon les services, utilisant des normes disparates. Cela représente une grande complexité et un risque juridique considérable. Face à cela, de nombreuses entreprises en concluront que l’option la plus sûre consiste à mettre en place des pratiques restrictives de vérification de l’âge sur l’ensemble de leurs plateformes.
Le KIDS Act contient des dispositions qui obligeront les services en ligne à vérifier l’âge de tous les utilisateurs, imposeront des politiques de modération des discours en ligne dictées par le gouvernement, et iront même jusqu’à créer de nouvelles règles concernant les communications privées et chiffrées. Alors que ses partisans continuent d’affirmer que ce projet de loi protège les mineurs en ligne, ses exigences se font au détriment de la vie privée, de la liberté d’expression et de la capacité des personnes de tous âges à utiliser Internet sans divulguer de données sensibles.
La loi KIDS oblige les plateformes à vérifier l’âge de tous les utilisateurs
Les partisans de la section KOSA ont affirmé que le projet de loi n’exigeait pas de vérification de l’âge. Et techniquement, la section KOSA du projet de loi précise effectivement que celle-ci ne doit pas être interprétée comme imposant une vérification de l’âge.
Mais à la lecture du reste du projet de loi, cette mise en garde perd de sa crédibilité.
Tout au long de la section KOSA du texte de loi, des protections spéciales, des contrôles, des paramètres de messagerie et des outils parentaux sont exigés dès lors qu’un site web ou une application « sait ou aurait dû savoir » qu’un utilisateur est un enfant (défini dans le projet de loi comme toute personne âgée de moins de 13 ans) ou un adolescent (défini comme toute personne âgée de 13 à 16 ans).
Le problème est qu’un exploitant de site web n’a pas besoin d’avoir la certitude qu’un utilisateur est mineur pour s’exposer à des poursuites judiciaires. Cette obligation s’applique dès lors qu’une plateforme « sait ou aurait dû savoir » l’âge d’un utilisateur — un critère de connaissance peu exigeant, relevant de la négligence. Si un service en ligne se trompe, il appartiendra aux tribunaux et aux autorités de régulation de décider, a posteriori, si ce service « aurait dû » savoir qu’un utilisateur avait 16 ans.
Pour tenter d’échapper à toute responsabilité, les services devront déterminer quels utilisateurs sont des adolescents et lesquels ne le sont pas. La plupart ne pourront pas se contenter de faire confiance à leurs utilisateurs. Ils devront collecter davantage d’informations sur l’âge, avant qu’une action en justice ou une intervention des pouvoirs publics ne survienne. Certaines entreprises pourraient réagir en demandant des permis de conduire ou des passeports. D’autres s’appuieront sur des systèmes d’estimation de l’âge qui tentent de deviner l’âge des utilisateurs en analysant leur activité ou en effectuant des analyses faciales. Les systèmes d’estimation existants commettent des erreurs lorsqu’il s’agit d’estimer correctement l’âge des enfants, ce qui constitue un problème majeur alors que c’est précisément cette population que la loi KOSA cherche à protéger. De plus, ces systèmes échouent plus fréquemment pour les personnes de couleur, les personnes en situation de handicap, ainsi que les personnes transgenres et non binaires.
Les auteurs du projet de loi semblent conscients de ce problème. D’un côté, la nouvelle section de la loi KOSA stipule que la vérification de l’âge n’est pas obligatoire. De l’autre, elle impose à plusieurs reprises des obligations qui dépendent de la connaissance de l’âge de l’utilisateur (moins de 17 ans ou non). Or, une clause de non-responsabilité n’élimine pas comme par magie le risque juridique, en particulier pour les petits services et les start-ups qui n’ont pas les moyens de se défendre en justice ou de lutter contre les autorités de régulation.
La loi KOSA n’est pas la seule mesure de ce dispositif à exercer une pression en matière de vérification de l’âge. À l’instar de la loi KOSA, la loi SAFE BOTS repose sur le principe selon lequel si un service « sait ou aurait dû savoir » qu’un utilisateur est mineur, il ne peut pas proposer certaines fonctionnalités de chatbot.
La loi SCREEN impose aux services hébergeant du contenu sexuellement explicite de déterminer si les utilisateurs ont « plus de chances que le contraire » d’être en dessous de la limite d’âge applicable, avant de leur permettre d’accéder à certains contenus.
Les conséquences de cette responsabilité ne se limiteront pas aux mineurs. Si l’on attend des sites web et des applications qu’ils identifient de manière fiable les adolescents, les adultes seront eux aussi invités à prouver qu’ils sont bien majeurs. Il en résultera un Internet moins respectueux de la vie privée pour tout le monde.
La loi KIDS oblige les plateformes à contrôler les discours licites
La nouvelle version de la loi KOSA supprime la disposition controversée relative au « devoir de diligence », ce qui constitue un changement significatif. La version révisée de la loi KOSA exige des plateformes concernées qu’elles « établissent, mettent en œuvre, maintiennent et appliquent » des politiques et des procédures portant sur plusieurs catégories de contenus et de comportements.
Certaines catégories, telles que les menaces réelles et l’exploitation sexuelle, impliquent des activités illégales. D’autres sont beaucoup plus larges. Le projet de loi exige spécifiquement des politiques traitant de la « vente ou de la consommation » de stupéfiants, de produits du tabac, de produits à base de cannabis, des jeux d’argent et de l’alcool. Il restreint également les discussions autour de la fraude financière.
Cela semble assez simple. Puis on se souvient de la façon dont les gens parlent réellement — en ligne et hors ligne. Les adolescents peuvent-ils discuter de dépendance et de rétablissement ? Une jeune fille de 15 ans peut-elle publier un message indiquant qu’elle s’inquiète pour une amie qui boit trop ? Peuvent-ils demander conseil au sujet du problème de jeu d’un parent, ou obtenir de l’aide s’ils ont été victimes d’une arnaque ou si un membre de leur famille l’a été ? Peuvent-ils participer à des communautés de réduction des risques ou discuter des traitements contre la toxicomanie ? Tous ces jeunes tiendraient des propos tout à fait légaux s’ils abordaient des sujets relevant des préjudices énumérés par la loi KOSA.
Le projet de loi n’interdit pas directement ces conversations. Mais il exerce une pression énorme sur les plateformes pour...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
