IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Un juge déclare que les réseaux sociaux ne peuvent être contraints de filtrer les contenus destinés aux enfants,
Estimant que cela constitue une menace pour les discours protégés par le premier amendement

Le , par Mathis Lucas

30PARTAGES

16  0 
Un juge fédéral a partiellement bloqué la nouvelle loi texane qui visait à obliger les plateformes de médias sociaux à identifier les mineurs et à filtrer ce qu'ils voient en ligne. Cette partie de la loi visait à imposer aux réseaux sociaux de nouvelles exigences pour tenir les contenus préjudiciables à l'écart des mineurs. Cependant, le juge a estimé que les exigences en matière de surveillance et de filtrage constituent une menace importante pour la liberté d'expression en ligne, et a mis un terme à leur mise en œuvre. Cette décision a des répercussions importantes sur la modération des contenus en ligne et sur les débats relatifs à la sécurité des enfants sur Internet.

Certaines dispositions de loi HB18 du Texas pourraient porter atteinte à la liberté d'expression

La loi HB18 ou SCOPE (Securing Children Online Through Parental Empowerment Act) a été loi adoptée et promulguée l'année dernière. Elle devait commencer à faire office de réglementation dès ce 1er septembre, mais une partie de la législation a été bloquée quelques heures seulement avant son entrée en vigueur. Dans sa forme initiale, la loi HB18 exigeait qu'une série de services Web, en particulier les grands réseaux sociaux, appliquent des règles spéciales aux utilisateurs dont l'âge enregistré est inférieur à 18 ans. Les nouvelles exigences concernent la collecte de données, la publicité ciblée en ligne, etc.


Il s'agit notamment de limiter la collecte de données, d'interdire la publicité ciblée et de ne pas autoriser les transactions financières sans le consentement des parents. Elle stipule aussi que les services doivent mettre en œuvre « un plan visant à empêcher l'exposition des mineurs connus à des contenus préjudiciables, notamment des contenus qui promeuvent ou glorifient des choses telles que le suicide, l'automutilation, la toxicomanie et le grooming en ligne ».

Le représentant de Shelby Slawson, R-Stephenville, du Texas a porté le projet de loi et a déclaré que son objectif était de donner aux parents plus de contrôle sur la façon dont les informations des mineurs sont collectées et utilisées par les fournisseurs de services numériques, qui sont des entreprises qui exploitent des sites Web, des applications, des programmes ou des logiciels qui collectent massivement et traitent des informations d'identification personnelle.

En outre, tout service dont le contenu est considéré comme plus d'un tiers nuisible ou obscène (selon la définition d'une loi texane existante) doit mettre en œuvre une méthode de vérification de l'âge commercialement raisonnable. Ces exigences ont suscité un tollé dans l'industrie et les groupes industriels, dont NetChoice et Computer & Communications Industry Association (CCIA), ont intenté une action en justice pour empêcher l'entrée en vigueur de la législation.

Ils ont allégué que la législation texane restreignait de manière inconstitutionnelle la liberté d'expression. Le groupe FIRE (Foundation for Individual Rights and Expression) a intenté une action distincte. Le 30 août, le juge Robert Pitman a partiellement accédé aux demandes de NetChoice en accordant une injonction sur les règles de surveillance et de filtrage pendant que l'affaire suit son cours. Les autres dispositions de la loi sont entrées en vigueur comme prévu.

Le jugement n'a pas conclu que l'ensemble de la loi constitue une menace pour les discours protégés par le premier amendement de la constitution des États-Unis. Les autres dispositions de la loi HB18, comme les règles de collecte de données et la vérification de l'âge pour les sites à fort contenu adulte, restent en vigueur. Les acteurs concernés (Meta, TikTok, etc.) n'ont pas encore indiqué s'ils prévoyaient des changements pour se conformer à la nouvelle loi.

Il s'agit d'une victoire partielle pour les groupes tels que NetChoice et CCIA. Cette évolution s'inscrit dans le cadre d'un débat plus large sur la manière de protéger les enfants en ligne tout en conciliant les droits des utilisateurs et les responsabilités des entreprises technologiques. Le débat se poursuit alors que les législateurs et les entreprises technologiques cherchent des moyens efficaces d'assurer la sécurité des enfants sur l'internet sans dépasser les limites légales.

La loi pourrait également faire peser une charge excessive sur les entreprises de médias sociaux

Le juge Pitman s'est montré très critique à l'égard des règles de contrôle et de filtrage prévu par la législation. « Des termes tels que "promouvoir, glorifier, abus de substances, harcèlement et toilettage" ne sont pas définis, malgré leur large portée potentielle et leur nature politiquement chargée », écrit-il. Il a donc jugé inconstitutionnelle l'obligation faite aux plateformes de médias sociaux de filtrer les contenus potentiellement préjudiciables aux mineurs. Ses propos font écho aux critiques du groupe FIRE selon lesquels des termes tels que "toilettage" ont été appliqués à toutes les formes de contenu LGBTQ.


Le groupe s'est interrogé sur les points suivants : « à quel moment la consommation d'alcool devient-elle un abus de substances ? À quel moment "un régime extrême" devient-il un trouble de l'alimentation ? Un procureur général appliquant la loi pourrait finir par le faire de manière sélective - en décidant, par exemple, que les messages ou les vidéos sur la marijuana glorifient l'abus de substances même si la consommation de cigarettes et d'alcool ne l'est pas ».

La décision du juge est temporaire, ce qui signifie qu'elle ne s'applique que jusqu'à ce qu'un jugement définitif soit rendu dans la bataille juridique engagée par la CCIA et NetChoice. Il a souligné que si les réseaux sociaux doivent filtrer les contenus controversés, les mêmes règles ne s'appliquent pas aux autres médias :

Citation Envoyé par Le juge Robert Pitman

Un adolescent peut lire Peter Singer plaider en faveur du suicide médicalement assisté dans Practical Ethics sur Google Books, mais il ne peut pas regarder ses conférences sur YouTube ni même, éventuellement, chroniquer le même livre sur Goodreads. En tentant d'empêcher les enfants d'accéder à des contenus préjudiciables, le Texas interdit également aux mineurs de participer à l'échange démocratique d'opinions en ligne.

Même en admettant que le Texas ne souhaite interdire que les contenus les plus préjudiciables, un État ne peut pas choisir les catégories de discours protégés qu'il souhaite empêcher les adolescents de discuter en ligne
« Dans une tentative malavisée de sécuriser Internet, la loi texane traite les adultes comme des enfants. Mais même les mineurs ont des droits au titre du premier amendement. Qu'ils aient 16 ou 65 ans, cette loi porte atteinte aux droits de tous les Texans », a déclaré Bob Corn-Revere, avocat en chef de FIRE, dans un communiqué. Le groupe a allégué dans sa plainte que la loi sur la vérification de l'âge pourrait les empêcher d'accéder à des informations vitales.

La CCIA et NetChoice représentent les intérêts des industries de la communication et de la technologie. Elles comptent parmi leurs membres Meta, X, Google et eBay. Dans leur plainte, les plaignants affirment que la loi HB18 viole de manière inconstitutionnelle le droit à la liberté d'expression du premier amendement en obligeant les sites Web à surveiller et à supprimer certains types de discours et en limitant l'accès des mineurs à des discours légaux.

Impact plus large : la loi HB18 fait partie d'un nombre croissant de lois étatiques aux États-Unis qui tentent de réglementer la façon dont les entreprises de médias sociaux modèrent leur contenu. L'issue de cette affaire pourrait avoir des répercussions sur les affaires en cours au Texas et dans d'autres États. D'autres États, dont le Mississippi, l'Ohio et la Californie, qui ont tenté d'adopter des lois similaires, ont jusqu'à présent été bloqués par les tribunaux.

Sur le plan fédéral, le Congrès travaille toujours sur la loi KOSA (Kids Online Safety Act), qui a soulevé ses propres problèmes de censure malgré les efforts des législateurs pour les apaiser. La bataille juridique autour de la loi HB18 n'est pas terminée, mais pour l'instant, les adolescents texans peuvent continuer à accéder à tout type de contenu. Des projets de loi similaires en Europe font également face à des préoccupations concernant le respect des libertés en ligne.

Source : décision judiciaire, SCOPE Act (PDF)

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la décision du juge de bloquer les exigences de filtrage de contenu introduites par la loi texane SCOPE Act ?
L'obligation faite aux réseaux sociaux de filtrer les contenus préjudiciables aux mineurs porte-t-elle atteinte à la liberté d'expression ?
Selon vous, le filtrage des contenus potentiellement préjudiciables aux mineurs participe-t-il réellement à la sécurité des enfants en ligne ?

Voir aussi

Les adolescents sur Facebook et Instagram ne pourront plus voir les contenus sur l'automutilation, le suicide et les troubles de l'alimentation, même si leurs amis les partagent

Un parent poursuit Facebook au motif de ce que l'utilisation excessive de la plateforme a contribué aux problèmes de santé mentale de sa fille et ravive le débat sur la nécessité d'interdire les RS

La loi KOSA sur la sécurité des enfants en ligne ciblera les contenus transgenres pour "protéger les mineurs des transgenres dans la culture américaine", affirme une sénatrice américaine

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de
https://www.developpez.com
Le 28/10/2024 à 23:58
La création d'image interdite via ne pourra jamais être empéchée, que cela concerne les pedos ou le terros.
Du moment où un IA connait des notions similaire ou proche, les mesures de sécurité seront toujours contournable.

Mon point de vue c'est qu'on pousse à nous inciter à accepter toujours plus de flicage sous n'importe quel prétexte, mais pourquoi ? Une finalité sans doute inavoué de nos dirigeants ?

Enfin je rappel que n'importe qui avec un crayon et une feuille peut potentiellement faire quelque chose d'interdit, idem avec un simple logiciel.
Doit-on mettre des numéros d'immatriculation sur les feuilles et les crayons ? Doit-on intégrer des logiciels espions dans tout nos machines ? Faut-il sacrifier sa vie privé ? Non !
Pouvoir faire quelque chose d'illégal, ne signifie pas que la personne le fait : Ce n'est jamais une excuse pour instaurer une surveillance de masse !
8  1 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 03/09/2024 à 14:25
le plus simple serait d'imposer un système universelle.

1) pour les sites exclusivement pour adulte l'obligation d’être sur un nom de domaine pour adulte uniquement (xxx.adult par exemple)
2) la création d'une une balise html <adult>
3) pour les sites avec un peu de tous comme youtube/les réseaux sociaux, chaque postes/vidéos devrait avoir un tag "adult_only" ou pas, tag accessible dans le code html.
Ainsi il serait assez simple d'implémenter un filtre parentale universelle.

et on en reste la niveau législatif, pas la peine d'essayer de pondre une usine a gaz pour prouver qu'on a plus de 18ans avec des données importante (carte d'identité) qui vont inévitablement fuité un jours ou l’autre.
6  0 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 29/10/2024 à 10:57
Citation Envoyé par Fagus Voir le message
Merci à la justice d'utiliser ses ressources pour lutter contre des images générée de pédophilie. Les clients seront obligés de se rabattre sur des images réelles.

Ceci est un commentaire provocateur, mais l'IA générative de pornographie est-elle vraiment un problème ?

Ya un article Le passage à l’acte pédophile et les enjeux psychopathologiques du téléchargement : un virtuel protecteur ? la réponse serait : ça dépend des gens... on est que moyennement avancé.

Mais globalement peut être qu'on pourrait passer d'un modèle axé sur le soin plus que la répression. Déjà les pédophiles ne seraient pas obligés de se cacher, on les aurait dans le viseur pour les empêcher de fauter, et si c'est incurable, ça me choquerait pas qu'ils s’adonnent sur des images virtuelles plutôt que sur des commandes d'images réelles...
pour moi le plus important c'est de détruire les réseaux de traffics d'enfants, a partir de la, fantasmer dans sa tête sur des enfants, les dessinés, en faire des hentai ou les généré par ia, ca reste pas très grave et limite temps que ca reste secret..., on ne peut empêcher une femme ou un homme de rêver d'un enfant a poile la nuit.

c'est une trouble mental c'est sur, mais tant que ca reste de la consommation de contenue factice.

il y'a des catégories de porno sur des cadavres ou sur la torture ou sur le meurtre pendant l'acte, ces vidéos sont simulé avec des acteurs et sont légales. Pourtant tuer quelqu'un est illégale.
Il y'a des films d'Hollywood d'ailleurs ou il y'a des scenes de meurtre pendant l'acte sexuel.

Es ce que fantasmer d'enfant a poile est plus grave que de fantasmer de tuer quelqu'un pendant l'acte ou de se taper sa grand mere dans la tombe ?
ca reste une zone d'ombre pénalement, car les vidéos d'actrices maquillé jeune et en costume de collégienne de 15ans, c'est pas ca qui manque sur l'internet légale.
5  0 
Avatar de yocoy22415
Futur Membre du Club https://www.developpez.com
Le 20/11/2024 à 17:02
Aussi choqué que de lire qu'un directeur apprenant que du (quasi) porno infantile IA se diffuse dans son établissement ne lève pas le doigt pour agir contre.
Malheureusement, même en France ce genre de chose peut arriver.
Il y a de ça 3 ans, des confrères professeurs, niveau collège,
me racontait avoir pris connaissances d'affaire de chantage et de pornographie, infantile entre collégien,
sur un réseau (Snapchat il me semble).
Le directeur n'a pas souhaité intervenir.
Pire, lorsque mes confrères ont été alerté les autorités, ont leurs que rien n'était possible
tant qu'il n'y a pas un des parents des victimes n'ont pas été déposé une plainte.
4  0 
Avatar de ALT
Membre émérite https://www.developpez.com
Le 03/09/2024 à 17:05
Je n'argumenterai pas sur le jugement, ne connaissant pas le droit local.
Pour ma part, je pense qu'on en fait beaucoup trop, alors que c'est le boulot des parents. Et si, malgré les précautions prises, les gamins accèdent à du porno, par exemple, c'est aux parents de décider de la suite à donner (punir, discuter, filtrer mieux... au choix). Le législateur ne devrait en aucun cas intervenir dans la sphère privée, ce qu'il fait de plus en plus, hélas.
D'autant que je ne suis pas sûr de la fiabilité des filtres « parentaux ». À mon avis, une vraie éducation est plus efficace.
4  1 
Avatar de Fagus
Membre expert https://www.developpez.com
Le 29/10/2024 à 10:51
Merci à la justice d'utiliser ses ressources pour lutter contre des images générée de pédophilie. Les clients seront obligés de se rabattre sur des images réelles.

Ceci est un commentaire provocateur, mais l'IA générative de pornographie est-elle vraiment un problème ?

Ya un article Le passage à l’acte pédophile et les enjeux psychopathologiques du téléchargement : un virtuel protecteur ? la réponse serait : ça dépend des gens... on est que moyennement avancé.

Mais globalement peut être qu'on pourrait passer d'un modèle axé sur le soin plus que la répression. Déjà les pédophiles ne seraient pas obligés de se cacher, on les aurait dans le viseur pour les empêcher de fauter, et si c'est incurable, ça me choquerait pas qu'ils s’adonnent sur des images virtuelles plutôt que sur des commandes d'images réelles...
3  0 
Avatar de xmornard
Membre à l'essai https://www.developpez.com
Le 29/10/2024 à 12:00
Ah les beaux parleurs qui font la leçon sur "l'entrainement des pédophiles"! Eux savent bien sûr que montrer des images pédophiles amènent ces derniers à s'attaquer aux petits enfants, et tout ça sans présenter une seule étude sérieuse qui corroborent ce fait! Parce que bien sûr la pornographie crée des pervers sexuel (et pas la misère sexuelle plutôt) tout comme les images d'assassinats crée des assassins (qu'on interdise tout les thrillers et autres films de guerre, vite!), et il suffirait donc de montrer des films sur l'Amour pour que tout aille bien mieux en ce bas monde...
En fait, tout ceci montre surtout que beaucoup de gens aime se mettre dans une posture morale de bien-pensance qui les mettront toujours du bon coté, sans tenir compte de la réalité; parce que quand même imaginer que l'on puisse emprisonner quelqu'un pendant 18 ans sans qu'on ai aucune preuve que ses actes ait la moindre influence sur la réalité d'autres actes délictuelles c'est quand même gravissime. Comment réagiront les gens quand ils pourront être poursuivis et enfermé pour avoir dit "c'est quand il y en a beaucoup que ça devient un problème" pour incitation au meurtre? Où cela va t'il s'arrêter?
Quand on a crée le délit "d'incitation à", on a ouvert la boite de Pandore, et jamais elle ne se refermera. Et bientôt nous serons tous concernés.
4  1 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 05/11/2024 à 20:49
Au delà de la pédopornographie (on peut aussi y mettre la zoophilie, la nécrophilie, le meurtre, et toutes ces choses qui n'ont pas leur place IRL), je trouve que la capacité de générer des images à la demande pour un usage personnel est à réfléchir : si ça peut permettre à des gens, qui ont des difficultés à contrôler leurs pulsions, d'avoir un exutoire privé pour réduire les risques de passer à l'acte, je suis pour.

Par contre, l'objectif reste le zéro victime. Donc non à l'utilisation d'images de personnes identifiables car ça favorise l'association entre ces personne réelles et l'acte (et en cas de partage/fuite de données ça peut dégénérer). De même, non pour pousser à l'acte, au contraire plutôt pousser à la consommation d'images fausses pour orienter sur une activité sans victime. Il y aurait probablement encore d'autres contraintes à prévoir, notamment en termes de partage/vente, mais l'idée est qu'à partir du moment où on a les moyens de réduire les risques, il faut les exploiter, pas les bannir pour des raisons de police mentale.
4  1 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 29/10/2024 à 8:38
je vois plutot quelque chose de positif.

que les pédophiles génère des vidéos ou des images pédophiles avec des ia, c'est plutot une bonne chose, sa évite que de vrai enfants soit utilisé.

Meme si c'est une pratique a ne pas promouvoir, je pense qu'il serait bon de laisser ces outils se développer un peu et au contraire de serrer d'avantage la vis pour l'utilisation de vrai enfants.
Ces modèles ia ne doivent évidement pas avoir été entrainé avec de vrai enfants, en tous cas pas en faisant des choses sexuels.

Il faudrait inciter les pédophiles vers l'usage de ces outils plutot que de voir du vrai. Car comme la lutte contre la drogue, il ne suffit pas d'une lois pour empêcher un truc. Si on peut emmener des consommateurs vers des choses moins graves c'est mieux.

je suis partisan pour légaliser les drogues les moins nocives (autoriser le cannabis au lieu de la cocaïnes) a consommer dans des endroits dédiés et contrôler (ca évite les drogues plus dangereuse comme la cocaines ou les seringues qu'on s'injecte a plusieurs), légalisé les maisons closes, on y gagnerai en sécurité pour tous.
dans le meme registre, l'ia pedophile éviterait des drames sur de vrais enfants.

le monde parfait des bisounours n'existe pas, parfois pour lutter efficacement contre un fléau faut lâcher du leste quelques part.
les site web pédophiles ca existe depuis le début d'internet, le simple faite d'aller sur tor, on tombe que sur ca de partout, déjà testé, peut importe ce qu'on cherche sur le moteur de recherche Not Evil, je tombe systématiquement sur de la vente de drogue, ou de la pédophilie en 1ere page de la recherche.
Cela démontre que c'est impossible de lutter à 100%, l'ia générative pourrais etre un outil dans cette lutte.

edit: es ce vraiment interdit d'ailleurs ? les hentai japonais ce sont souvent des jeunes femmes avec un visage qui faut plus penser a des mineurs... pourtant ca pullule sur le web ca. Une ia générative c'est la meme chose, sa génère de fausses images sans le style cartoon/manga.
4  2 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 29/10/2024 à 10:45
Citation Envoyé par Rolllmops Voir le message
La pédophilie est un trouble psychiatrique et les concernés doivent être traités, ce qu'une bonne partie d'entre eux fait spontanément.
je ne savais pas qu'ils allait se faire soigné spontanément... je pensais qu'ils consommait du contenue en secret jusqu'à ce qu'ils se fasse chopper.

de toute façon, les modèles d'ia open source installable chez soit se multiplies, c'est un combat perdu d'avance, dans quelques temps n'importe qui pourra crée ce contenue depuis son pc. Il y'a beaucoup d'ia non censurer sur hugging face et il est possible d'entrainer son propre modele sur son dataset.
ca reste encore technique aujourd'hui, je l'ai fait dans mon travail, faut installer pleins de libs et faut s'y former et avoir des bases dans la programmation python. Mais je ne doute pas que dans quelques temps des outils simple avec une jolie ihm verront le jour.

surtout que ca tourne bien sur un simple gpu grand publique, comme une 4090, le prix d'un bon gpu pour crée la photo ou la video dans la minute va baisser.

déja pour la photo, sa tourne pas trop mal sur des gpu moyen gamme style RTX 4060.

je tenterai ce weekend de monter un modèle sur mon pc et généré un texte à la gloire d'hitler et de l'extermination des juifs Ou une histoire pédophile, je suis sur que ca va marcher sur un petit modèle non censuré.
3  1