IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Le projet de loi sur la sécurité en ligne des enfants (Kids Online Safety Act) passe l'étape du Sénat
En dépit des dangers qu'il représente pour la vie privée et sa saveur de censure autoritariste

Le , par Patrick Ruiz

36PARTAGES

6  0 
La loi sur la sécurité des enfants en ligne (Kids Online Safety Act, KOSA) vient d’être adoptée par le Sénat US. La KOSA a bénéficié d'un large soutien bipartisan au Sénat et a été adoptée par 91 voix contre 3, en même temps que la Children's Online Privacy Protection Action (COPPA) 2.0. Ces deux lois visent à contrôler la quantité de données pouvant être collectées auprès des mineurs et à réglementer les fonctionnalités des plateformes susceptibles de nuire à la santé mentale des enfants. Les groupes de défense des libertés civiles tiennent néanmoins à attirer l’attention sur les dangers pour la vie privée et les élans de censure autoritariste en toile de fond.

Le KOSA est un texte législatif historique porté à l’origine par un groupe persistant de parents : ils ont rencontré des législateurs, se sont présentés à des auditions avec des PDG du secteur technologique et ont apporté des photos de leurs enfants qui, dans de nombreux cas, sont morts par suicide après avoir été victimes de cyberintimidation ou d'autres préjudices causés par les médias sociaux. Ces parents affirment qu'un projet de loi comme le KOSA aurait pu éviter à leurs propres enfants de souffrir et espèrent qu'il en sera de même pour d'autres enfants.

Le projet de loi crée un devoir de diligence pour les plateformes en ligne utilisées par des mineurs. Il exige qu'elles prennent des mesures « raisonnables » dans la conception de leurs produits afin d'atténuer une liste de préjudices, notamment le harcèlement en ligne, l'exploitation sexuelle, la promotion de la drogue et les troubles de l'alimentation. Le projet de loi précise qu'il n'empêche pas les plateformes de permettre aux mineurs de rechercher un contenu spécifique ou de fournir des ressources pour atténuer l'un des préjudices énumérés, « y compris des informations fondées sur des preuves et des ressources cliniques ».

Les partisans de ce projet de loi pensent que cette obligation légale de diligence protégera les enfants, mais les défenseurs des droits numériques, de la liberté d'expression et certains défenseurs des LGBTQ+ estiment que le projet de loi pourrait en fait nuire aux enfants marginalisés en créant un effet dissuasif et en faisant pression sur les plateformes pour qu'elles limitent la liberté d'expression sur l'internet.

Dans une lettre adressée récemment aux sénateurs, des groupes tels que l'American Civil Liberties Union (ACLU), l'Electronic Frontier Foundation (EFF), LGBT Tech et NetChoice ont écrit que le devoir de diligence pourrait entraîner « un filtrage agressif des contenus par des entreprises empêchant l'accès à des contenus importants, protégés par le premier amendement, éducatifs et même vitaux » afin d'éviter d'être tenues pour responsables. Ils craignent également que les plateformes soient amenées à imposer des systèmes de vérification de l'âge, ce qui soulèverait des problèmes supplémentaires en matière de respect de la vie privée et de constitutionnalité.

L'obligation de diligence concentre le plus de controverse. La KOSA contient néanmoins une multitude d'autres dispositions. Le KOSA exige en sus des garanties pour les enfants sur l'internet, comme empêcher des adultes inconnus de communiquer avec les enfants ou de consulter leurs données personnelles, restreindre la possibilité de partager les données de géolocalisation des mineurs, et permettre aux comptes des enfants de refuser les recommandations personnalisées ou au moins de limiter les catégories de recommandations. Les plateformes devraient également définir par défaut les paramètres de confidentialité les plus stricts pour les comptes des enfants, faciliter la suppression de leurs données personnelles et limiter le temps qu'ils passent sur le service. La loi exigerait de plus une poignée d'outils de contrôle parental, permettant aux parents de consulter les paramètres de confidentialité et de compte de leurs enfants, de restreindre leurs achats et de limiter le temps qu'ils passent sur le site.

Les projets de loi sont maintenant transmis à la Chambre des représentants. Avant le vote de, le président de la Chambre des représentants, Mike Johnson (R-LA), a déclaré qu'il était « impatient d'examiner les détails de la législation issue du Sénat ». Les parents devraient avoir plus de contrôle et les outils nécessaires pour protéger leurs enfants en ligne. Je m'engage à travailler pour trouver un consensus à la Chambre des représentants ». Mais il sera plus difficile de relancer la dynamique après la pause du Congrès, compte tenu de la dynamique politique liée à l'adoption d'une politique de fond dans les mois précédant une élection présidentielle.

Si les projets de loi sont adoptés, la KOSA risque encore de se heurter à l'opposition des tribunaux. NetChoice, qui représente les grandes plateformes technologiques telles que Google et Meta, a intenté des procès pour bloquer plusieurs autres lois dans tout le pays ayant des objectifs similaires de protection des enfants. NetChoice a fait valoir (avec succès dans de nombreux cas) que ces projets de loi représentaient un risque pour la liberté d'expression et qu'ils ne résisteraient pas à l'examen du premier amendement. Si elle est contestée, la KOSA devra également faire face à un récent arrêt de la Cour suprême, dans lequel l'opinion majoritaire a déclaré que la modération et la curation de contenu sont des formes d'expression protégées.

Source : Senat US

Et vous ?

Que pensez-vous de la loi KOSA et de ses objectifs?
Quels sont les avantages et les inconvénients de la loi KOSA pour les enfants, les parents, les plateformes et la société ?
Si une loi similaire venait à être appliquée dans votre pays, comment pourrait-elle affecter votre utilisation personnelle ou professionnelle des médias sociaux et d’Internet?
Quelles sont les alternatives ou les compléments possibles à la loi KOSA pour assurer la sécurité des enfants en ligne?
Quels sont les défis ou les risques potentiels liés à la mise en œuvre et au respect de la loi KOSA?

Voir aussi :

AU10TIX, qui propose un service de vérification d'identité pour TikTok, Uber et X piraté. Des données personnelles exposées alors que les sites sociaux et pornos évoluent vers un modèle d'identité vérifiée

Un système de vérification de l'âge en ligne pourrait être une source de données personnelles et d'habitudes de visionnage de pornographie, selon des groupes de défense de la vie privée

L'EFF propose d'aborder les préjudices en ligne avec des politiques "Privacy-First", une loi sur la confidentialité des données, promouvant la vie privée, la liberté d'expression et la sécurité

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de
https://www.developpez.com
Le 28/10/2024 à 23:58
La création d'image interdite via ne pourra jamais être empéchée, que cela concerne les pedos ou le terros.
Du moment où un IA connait des notions similaire ou proche, les mesures de sécurité seront toujours contournable.

Mon point de vue c'est qu'on pousse à nous inciter à accepter toujours plus de flicage sous n'importe quel prétexte, mais pourquoi ? Une finalité sans doute inavoué de nos dirigeants ?

Enfin je rappel que n'importe qui avec un crayon et une feuille peut potentiellement faire quelque chose d'interdit, idem avec un simple logiciel.
Doit-on mettre des numéros d'immatriculation sur les feuilles et les crayons ? Doit-on intégrer des logiciels espions dans tout nos machines ? Faut-il sacrifier sa vie privé ? Non !
Pouvoir faire quelque chose d'illégal, ne signifie pas que la personne le fait : Ce n'est jamais une excuse pour instaurer une surveillance de masse !
8  1 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 03/09/2024 à 14:25
le plus simple serait d'imposer un système universelle.

1) pour les sites exclusivement pour adulte l'obligation d’être sur un nom de domaine pour adulte uniquement (xxx.adult par exemple)
2) la création d'une une balise html <adult>
3) pour les sites avec un peu de tous comme youtube/les réseaux sociaux, chaque postes/vidéos devrait avoir un tag "adult_only" ou pas, tag accessible dans le code html.
Ainsi il serait assez simple d'implémenter un filtre parentale universelle.

et on en reste la niveau législatif, pas la peine d'essayer de pondre une usine a gaz pour prouver qu'on a plus de 18ans avec des données importante (carte d'identité) qui vont inévitablement fuité un jours ou l’autre.
6  0 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 29/10/2024 à 10:57
Citation Envoyé par Fagus Voir le message
Merci à la justice d'utiliser ses ressources pour lutter contre des images générée de pédophilie. Les clients seront obligés de se rabattre sur des images réelles.

Ceci est un commentaire provocateur, mais l'IA générative de pornographie est-elle vraiment un problème ?

Ya un article Le passage à l’acte pédophile et les enjeux psychopathologiques du téléchargement : un virtuel protecteur ? la réponse serait : ça dépend des gens... on est que moyennement avancé.

Mais globalement peut être qu'on pourrait passer d'un modèle axé sur le soin plus que la répression. Déjà les pédophiles ne seraient pas obligés de se cacher, on les aurait dans le viseur pour les empêcher de fauter, et si c'est incurable, ça me choquerait pas qu'ils s’adonnent sur des images virtuelles plutôt que sur des commandes d'images réelles...
pour moi le plus important c'est de détruire les réseaux de traffics d'enfants, a partir de la, fantasmer dans sa tête sur des enfants, les dessinés, en faire des hentai ou les généré par ia, ca reste pas très grave et limite temps que ca reste secret..., on ne peut empêcher une femme ou un homme de rêver d'un enfant a poile la nuit.

c'est une trouble mental c'est sur, mais tant que ca reste de la consommation de contenue factice.

il y'a des catégories de porno sur des cadavres ou sur la torture ou sur le meurtre pendant l'acte, ces vidéos sont simulé avec des acteurs et sont légales. Pourtant tuer quelqu'un est illégale.
Il y'a des films d'Hollywood d'ailleurs ou il y'a des scenes de meurtre pendant l'acte sexuel.

Es ce que fantasmer d'enfant a poile est plus grave que de fantasmer de tuer quelqu'un pendant l'acte ou de se taper sa grand mere dans la tombe ?
ca reste une zone d'ombre pénalement, car les vidéos d'actrices maquillé jeune et en costume de collégienne de 15ans, c'est pas ca qui manque sur l'internet légale.
5  0 
Avatar de yocoy22415
Futur Membre du Club https://www.developpez.com
Le 20/11/2024 à 17:02
Aussi choqué que de lire qu'un directeur apprenant que du (quasi) porno infantile IA se diffuse dans son établissement ne lève pas le doigt pour agir contre.
Malheureusement, même en France ce genre de chose peut arriver.
Il y a de ça 3 ans, des confrères professeurs, niveau collège,
me racontait avoir pris connaissances d'affaire de chantage et de pornographie, infantile entre collégien,
sur un réseau (Snapchat il me semble).
Le directeur n'a pas souhaité intervenir.
Pire, lorsque mes confrères ont été alerté les autorités, ont leurs que rien n'était possible
tant qu'il n'y a pas un des parents des victimes n'ont pas été déposé une plainte.
4  0 
Avatar de ALT
Membre émérite https://www.developpez.com
Le 03/09/2024 à 17:05
Je n'argumenterai pas sur le jugement, ne connaissant pas le droit local.
Pour ma part, je pense qu'on en fait beaucoup trop, alors que c'est le boulot des parents. Et si, malgré les précautions prises, les gamins accèdent à du porno, par exemple, c'est aux parents de décider de la suite à donner (punir, discuter, filtrer mieux... au choix). Le législateur ne devrait en aucun cas intervenir dans la sphère privée, ce qu'il fait de plus en plus, hélas.
D'autant que je ne suis pas sûr de la fiabilité des filtres « parentaux ». À mon avis, une vraie éducation est plus efficace.
4  1 
Avatar de Fagus
Membre expert https://www.developpez.com
Le 29/10/2024 à 10:51
Merci à la justice d'utiliser ses ressources pour lutter contre des images générée de pédophilie. Les clients seront obligés de se rabattre sur des images réelles.

Ceci est un commentaire provocateur, mais l'IA générative de pornographie est-elle vraiment un problème ?

Ya un article Le passage à l’acte pédophile et les enjeux psychopathologiques du téléchargement : un virtuel protecteur ? la réponse serait : ça dépend des gens... on est que moyennement avancé.

Mais globalement peut être qu'on pourrait passer d'un modèle axé sur le soin plus que la répression. Déjà les pédophiles ne seraient pas obligés de se cacher, on les aurait dans le viseur pour les empêcher de fauter, et si c'est incurable, ça me choquerait pas qu'ils s’adonnent sur des images virtuelles plutôt que sur des commandes d'images réelles...
3  0 
Avatar de xmornard
Membre à l'essai https://www.developpez.com
Le 29/10/2024 à 12:00
Ah les beaux parleurs qui font la leçon sur "l'entrainement des pédophiles"! Eux savent bien sûr que montrer des images pédophiles amènent ces derniers à s'attaquer aux petits enfants, et tout ça sans présenter une seule étude sérieuse qui corroborent ce fait! Parce que bien sûr la pornographie crée des pervers sexuel (et pas la misère sexuelle plutôt) tout comme les images d'assassinats crée des assassins (qu'on interdise tout les thrillers et autres films de guerre, vite!), et il suffirait donc de montrer des films sur l'Amour pour que tout aille bien mieux en ce bas monde...
En fait, tout ceci montre surtout que beaucoup de gens aime se mettre dans une posture morale de bien-pensance qui les mettront toujours du bon coté, sans tenir compte de la réalité; parce que quand même imaginer que l'on puisse emprisonner quelqu'un pendant 18 ans sans qu'on ai aucune preuve que ses actes ait la moindre influence sur la réalité d'autres actes délictuelles c'est quand même gravissime. Comment réagiront les gens quand ils pourront être poursuivis et enfermé pour avoir dit "c'est quand il y en a beaucoup que ça devient un problème" pour incitation au meurtre? Où cela va t'il s'arrêter?
Quand on a crée le délit "d'incitation à", on a ouvert la boite de Pandore, et jamais elle ne se refermera. Et bientôt nous serons tous concernés.
4  1 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 05/11/2024 à 20:49
Au delà de la pédopornographie (on peut aussi y mettre la zoophilie, la nécrophilie, le meurtre, et toutes ces choses qui n'ont pas leur place IRL), je trouve que la capacité de générer des images à la demande pour un usage personnel est à réfléchir : si ça peut permettre à des gens, qui ont des difficultés à contrôler leurs pulsions, d'avoir un exutoire privé pour réduire les risques de passer à l'acte, je suis pour.

Par contre, l'objectif reste le zéro victime. Donc non à l'utilisation d'images de personnes identifiables car ça favorise l'association entre ces personne réelles et l'acte (et en cas de partage/fuite de données ça peut dégénérer). De même, non pour pousser à l'acte, au contraire plutôt pousser à la consommation d'images fausses pour orienter sur une activité sans victime. Il y aurait probablement encore d'autres contraintes à prévoir, notamment en termes de partage/vente, mais l'idée est qu'à partir du moment où on a les moyens de réduire les risques, il faut les exploiter, pas les bannir pour des raisons de police mentale.
4  1 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 29/10/2024 à 8:38
je vois plutot quelque chose de positif.

que les pédophiles génère des vidéos ou des images pédophiles avec des ia, c'est plutot une bonne chose, sa évite que de vrai enfants soit utilisé.

Meme si c'est une pratique a ne pas promouvoir, je pense qu'il serait bon de laisser ces outils se développer un peu et au contraire de serrer d'avantage la vis pour l'utilisation de vrai enfants.
Ces modèles ia ne doivent évidement pas avoir été entrainé avec de vrai enfants, en tous cas pas en faisant des choses sexuels.

Il faudrait inciter les pédophiles vers l'usage de ces outils plutot que de voir du vrai. Car comme la lutte contre la drogue, il ne suffit pas d'une lois pour empêcher un truc. Si on peut emmener des consommateurs vers des choses moins graves c'est mieux.

je suis partisan pour légaliser les drogues les moins nocives (autoriser le cannabis au lieu de la cocaïnes) a consommer dans des endroits dédiés et contrôler (ca évite les drogues plus dangereuse comme la cocaines ou les seringues qu'on s'injecte a plusieurs), légalisé les maisons closes, on y gagnerai en sécurité pour tous.
dans le meme registre, l'ia pedophile éviterait des drames sur de vrais enfants.

le monde parfait des bisounours n'existe pas, parfois pour lutter efficacement contre un fléau faut lâcher du leste quelques part.
les site web pédophiles ca existe depuis le début d'internet, le simple faite d'aller sur tor, on tombe que sur ca de partout, déjà testé, peut importe ce qu'on cherche sur le moteur de recherche Not Evil, je tombe systématiquement sur de la vente de drogue, ou de la pédophilie en 1ere page de la recherche.
Cela démontre que c'est impossible de lutter à 100%, l'ia générative pourrais etre un outil dans cette lutte.

edit: es ce vraiment interdit d'ailleurs ? les hentai japonais ce sont souvent des jeunes femmes avec un visage qui faut plus penser a des mineurs... pourtant ca pullule sur le web ca. Une ia générative c'est la meme chose, sa génère de fausses images sans le style cartoon/manga.
4  2 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 29/10/2024 à 10:45
Citation Envoyé par Rolllmops Voir le message
La pédophilie est un trouble psychiatrique et les concernés doivent être traités, ce qu'une bonne partie d'entre eux fait spontanément.
je ne savais pas qu'ils allait se faire soigné spontanément... je pensais qu'ils consommait du contenue en secret jusqu'à ce qu'ils se fasse chopper.

de toute façon, les modèles d'ia open source installable chez soit se multiplies, c'est un combat perdu d'avance, dans quelques temps n'importe qui pourra crée ce contenue depuis son pc. Il y'a beaucoup d'ia non censurer sur hugging face et il est possible d'entrainer son propre modele sur son dataset.
ca reste encore technique aujourd'hui, je l'ai fait dans mon travail, faut installer pleins de libs et faut s'y former et avoir des bases dans la programmation python. Mais je ne doute pas que dans quelques temps des outils simple avec une jolie ihm verront le jour.

surtout que ca tourne bien sur un simple gpu grand publique, comme une 4090, le prix d'un bon gpu pour crée la photo ou la video dans la minute va baisser.

déja pour la photo, sa tourne pas trop mal sur des gpu moyen gamme style RTX 4060.

je tenterai ce weekend de monter un modèle sur mon pc et généré un texte à la gloire d'hitler et de l'extermination des juifs Ou une histoire pédophile, je suis sur que ca va marcher sur un petit modèle non censuré.
3  1