IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

X ignore les demandes de retrait de contenu pornographique de type revenge porn à moins que le DMCA ne soit utilisé, encore une application répugnante de la liberté d'expression selon Elon Musk

Le , par Mathis Lucas

23PARTAGES

14  0 
Une nouvelle étude révèle que le réseau social X d'Elon Musk ignore les demandes de retrait d'images de vengeance pornographique. L'étude indique que les demandes de retrait du contenu de type revenge porn ne sont prises en compte uniquement si les victimes signalent l'incident par le biais d'une demande de retrait DMCA. La nouvelle est alarmante, car Elon Musk a expliqué que la nudité non consensuelle n'était pas encouragée sur l'application. Mais la plateforme semble faire preuve d'une grande tolérance à l'égard de ces contenus. Les chercheurs appellent à l'adoption d'une loi spécifique obligeant les sites de médias sociaux à supprimer ces contenus.

X semble traiter les images intimes non consensuelles avec légèreté

Elon Musk, le propriétaire milliardaire du réseau social X (ex-Twitter), est connu pour son comportement erratique. Il se décrit comme « un absolutiste de la liberté d'expression » et les rapports accablants sur l'état de la plateforme suggèrent que la modération sur X semble dépendante de son humeur. X affirme que la nudité non consensuelle n'est pas tolérée sur sa plateforme. Toutefois, une nouvelle étude met en lumière que le calvaire des victimes de vengeance pornographique (diffusion d'images intimes non consensuelles - NCII) pour faire retirer les contenus préjudiciables du site populaire de médias sociaux.


Selon le rapport de l'étude, X est plus susceptible de traiter ces requêtes lorsqu'elles sont émises par l'intermédiaire d'une demande de retrait DMCA (Digital Millennium Copyright Act)? C'est-à-dire que les NCII signalées par le mécanisme de signalement mis en place par X sont majoritairement ignorées. De nombreuses victimes interrogées dans le cadre de l'étude qualifient l'acte de défi parce qu'il devient de plus en plus difficile de supprimer le contenu en ligne.

En effet, toutes les victimes ne peuvent pas faire une demande de retrait DMCA, car la procédure est coûteuse. Si une victime ne peut pas prouver qu'elle n'est pas à l'origine de la création des images, elle est complètement démunie. L'impact mental que cela peut avoir, ainsi que les inquiétudes liées aux demandes de retrait, peut mettre les victimes dans une situation difficile. Les personnes âgées d'une vingtaine ou d'une trentaine d'années sont les plus visées.

La raison pour laquelle il existe une différence considérable entre les deux formes de signalement et de retrait n'est pas claire. La politique de X en matière de nudité non consensuelle n'aborde pas le sujet. Les victimes cherchent à obtenir justice et veulent des réformes avant que le problème ne devienne incontrôlable. Selon les chercheurs, ces résultats suggèrent qu'il est nécessaire de ne plus attendre des plateformes en ligne qu'elles contrôlent les NCII.

L'étude note : « la protection de la vie privée nécessite de passer d'une dépendance à l'égard de la bonne volonté des plateformes à des réglementations juridiques applicables. Les législateurs devraient créer une loi fédérale spécifique sur les NCII qui fonctionne aussi efficacement que le DMCA pour imposer le retrait des NCII en imposant des actions punitives pour les utilisateurs contrevenants ainsi qu'un mécanisme juridique pour demander des retraits ».

Méthodologie utilisée par les chercheurs dans le cadre de leur étude

Dans l'étude préimprimée, qui n'a pas encore fait l'objet d'un examen par les pairs, les chercheurs de l'université du Michigan expliquent qu'ils ont mis à l'épreuve la politique de X en matière de nudité non consensuelle afin de montrer à quel point il est difficile pour les victimes d'obtenir la suppression des NCII mises en ligne. Pour mener l'expérience, les chercheurs ont créé deux ensembles de comptes sur le réseau social X afin d'afficher et signaler des NCII générées par l'IA représentant des femmes blanches semblant avoir entre 20 et 30 ans comme étant nues à partir de la taille, y compris le visage.


(Les femmes blanches ont été choisies « pour minimiser les confusions potentielles dues à un traitement biaisé », et il est recommandé de mener des recherches futures sur d'autres sexes et d'autres ethnies). Sur les 50 fausses images d'IA nues que les chercheurs ont postées sur X, la moitié a été signalée comme violant la politique de X en matière de nudité non consensuelle, et l'autre moitié a utilisé le mécanisme de retrait de X en vertu du DMCA.

Les chercheurs ont donné à X jusqu'à trois semaines pour supprimer le contenu par l'intermédiaire de chaque mécanisme de signalement, et ils ont constaté que la différence était « frappante ». Les chercheurs rapportent que le mécanisme de signalement utilisant le DMCA a déclenché la suppression des 25 images dans les 25 heures et la suspension temporaire de tous les comptes partageant NCII. La plateforme s'est montrée très réactive sur le sujet.

En revanche, le signalement utilisant simplement la politique de X en matière de nudité non consensuelle n'a donné lieu à aucune réponse ni à aucune suppression. Selon les chercheurs, cet écart important constitue un problème, car seules certaines victimes qui ont effectivement pris la photo ou la vidéo qui a été partagée sans leur consentement possèdent les droits d'auteur nécessaires pour engager une procédure de retrait en vertu du DMCA.

La procédure de retrait DMCA peut être trop coûteuse, ce qui dissuade même les victimes qui peuvent l'utiliser. Les autres, qui n'ont pas créé les images nuisibles ou qui ne peuvent pas prouver qu'elles l'ont fait, n'ont pas cette possibilité. Il semble donc qu'elles ne soient pas assurées d'une procédure de retrait rapide, compte tenu de la lenteur - et parfois même de l'inexistence - de la réponse de X à son mécanisme interne de signalement des NCII.

Selon les chercheurs, c'est au cours des 48 premières heures de mise en ligne que les NCII causent le plus de dégâts, et le problème est très répandu. Un adulte américain sur huit devient la cible ou est menacé de pornographie vengeresse. Comme l'a signalé le FBI l'année dernière, le problème n'a été qu'exacerbé par les NCII générées par l'IA, ce qui expose toute personne qui met une photo d'elle en ligne à un risque d'abus sexuel fondé sur l'image.

Dans les cas où les NCII ont été générées par l'IA, les chercheurs affirment que la procédure de retrait DMCA ne s'appliquerait probablement pas non plus, laissant apparemment un nombre croissant de victimes dans l'attente que le mécanisme de signalement interne de X supprime le contenu préjudiciable.

Les pratiques de X en matière de modération suscitent des préoccupations

Dans son dernier rapport de transparence, X a déclaré avoir supprimé plus de 150 000 messages violant sa politique sur les NCII au cours du premier semestre 2024. Plus de 50 000 comptes ont été suspendus et 38 736 signalements de NCII ont été enregistrés. La majorité des suspensions et des suppressions de contenu ont été effectuées par des modérateurs humains, seules 520 suspensions et environ 20 000 suppressions ayant été automatisées.


Si les modérateurs humains sont la clé d'une réponse rapide, il semble possible que les coupes dans l'équipe de modération de X après le rachat du site par Elon Musk aient eu un impact sur la quantité de NCII traitées. X a commencé à reconstruire cette équipe en 2023. Au début de l'année, X a annoncé le lancement d'un nouveau « centre d'excellence » pour la confiance et la sécurité, après le tollé suscité par les NCII de Taylor Swift générées par l'IA.

Le rapport de transparence de X semble suggérer que la plupart des cas de NCII signalés sont traités par des modérateurs humains, mais les chercheurs ont indiqué que leur contenu signalé n'a jamais été traité sans une requête DMCA. En raison du démantèlement de l'équipe de modération de X par Elon Musk, la plateforme a du mal à supprimer les publications qui violent ses propres règles et est devenue une chambre d'écho de la désinformation.

Étant donné que les IA de génération d'images sont formées sur des photos réelles, les chercheurs ont également pris des mesures pour s'assurer que la NCII générée par l'IA dans l'étude ne traumatisait pas à nouveau les victimes ou ne représentait pas des personnes réelles qui pourraient tomber sur les images sur X. Chaque image a été testée par une plateforme logicielle de reconnaissance faciale afin d'éliminer des images potentiellement préjudiciables.

Ces images plus « éthiques » ont été publiées sur X à l'aide de hashtags populaires tels que #porn, #hot et #xxx, mais leur portée a été limitée afin d'éviter tout préjudice potentiel. « Notre étude pourrait contribuer à une plus grande transparence dans les processus de modération des NCII et pourrait inciter les entreprises de médias sociaux à déployer des efforts supplémentaires pour lutter contre les deepfakes de type NCII », ont déclaré les chercheurs.

Pourquoi le réseau social X a-t-il été ciblé dans le cadre de cette étude ?

L'équipe de recherche de l'université du Michigan a déclaré qu'elle craignait que son expérience de publication sur X de NCII générées par l'IA ne dépasse les limites de l'éthique. Les chercheurs ont choisi de mener l'étude sur X parce qu'ils en ont déduit que « X est une plateforme où il n'y aurait pas de modérateurs bénévoles et où l'impact sur les modérateurs rémunérés serait faible, si certains voyaient les images de nudité générées par l'IA ».

Selon les chercheurs, X a eu le temps de détecter et de supprimer automatiquement le contenu, mais ne l'a pas fait. Les chercheurs affirment qu'il est possible que la décision de X d'autoriser les contenus explicites à partir du mois de juin ait rendu plus difficile la détection des NCII, comme l'avaient prédit certains experts.

Pour résoudre le problème, l'équipe a suggéré qu'il faut à la fois « une plus grande responsabilisation des plateformes » et « des mécanismes juridiques pour garantir cette responsabilisation », ainsi que des recherches plus approfondies sur les mécanismes utilisés par d'autres plateformes pour supprimer les NCII.

Sources : rapport de l'étude (PDF), rapport de transparence de X (PDF)

Et vous ?

Quel est votre avis sur le sujet ? Les conclusions de l'étude sont-elles pertinentes ?
Que pensez-vous du traitement des signalements d'images intimes non consensuelles par le réseau social X d'Elon Musk ?
Quid des pratiques de X en matière de modération ? Utilisez-vous X ? Si oui, comment appréciez-vous votre expérience sur la plateforme ?
Les chercheurs appellent à l'adoption d'une loi spécifique obligeant les plateformes à supprimer rapidement ces types de contenus? Qu'en pensez-vous ?

Voir aussi

X/Twitter est la plus grande source de désinformation, prévient Bruxelles. Un nouveau rapport suggère que la plateforme ne parvient pas à supprimer les publications qui violent ses propres règles

Elon Musk, l'absolutiste de la liberté d'expression, censure X/Twitter en Inde suite à un ordre du gouvernement qui est accusé d'essayer de faire taire les voix dissidentes dans un pays démocratique

L'acquisition de Twitter par Elon Musk est la pire opération pour les banques depuis la crise financière, sa gestion chaotique de l'entreprise a mis en péril les milliards prêtés par des banques

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de imperio
Membre chevronné https://www.developpez.com
Le 07/11/2024 à 12:38
Citation Envoyé par Ryu2000 Voir le message
...
Quand on parle de wokisme et qu'on cite Cyril Hanouna, on sait qu'on a à faire à un commentaire utile.
10  2 
Avatar de totozor
Expert confirmé https://www.developpez.com
Le 07/11/2024 à 13:15
Citation Envoyé par Ryu2000 Voir le message
J'ai entendu une analyse qui disait que si le parti Démocrate a perdu autant d'électeurs c'est parce qu'il est allé trop loin dans le wokisme et ça a saoulé les étasuniens.
J'ai entendu une analyse qui disait que Trump allait perdre parce que plus il se sentait en difficulté plus il mettait d'autobronzant.

Dans les retours plus pertinents que j'ai entendu Trump proposait des mesures radicales et concrète (on va finir le mur, on va expulser 1 million de migrants illégaux/an par exemple) alors que Harris ne mettait rien de concret derrière les notions vagues (il faut être plus ferme envers les migrants illégaux)

Ce qui est étrange avec la position de Musk est qu'il ne veut pas dépasser la loi quand on parle de censurer le suprémacisme blanc mais qu'il veut interdire un terme qui n'a rien d'illégal "cis".
Comme toujours les règles qu'énonce Musk sont à géométrie variable mais plus personne ne s'en étonne.
9  1 
Avatar de
https://www.developpez.com
Le 07/11/2024 à 13:23
Si des personnes tiennent des propos illicites, la Justice n'a qu'à faire une demande à la plateforme dans le cadre d'une enquête (à savoir que X coopère avec la police).
Je ne comprends pas pourquoi cette obsession de vouloir privatiser la censure et criminaliser certains propos (ce qui va permettre tout les excès), le tout en mettant la responsabilité sur le dos des plateformes :
- Si les gouvernants veulent censurer des propos (à définir ?), qu'ils l'assument clairement sans se cacher derrière les hébergeurs !

Pour finir, ça fait 20 ans qu'on est face à toujours plus de censures/réglementations, je ne crois plus les discours qui consistent à nous endormir avec de belles paroles.
Je rappel qu'on nous a fait accepter la surveillance de masse, la censure DNS, le traçage sur les metadata, les DRM et toutes sorte de connerie liberticides avec prétexte de lutter contre "des vilains pas beaux".
Visiblement ce que les gens disent sur les réseaux est plus important que les homicides/délits. On est fasse à une baisse de la sécurité, et ça se joue dans la rue avant tout ...

EDIT : Et je n'aborde pas les délires woke concernant l'insécurité pour mégenrage sur twitter
8  3 
Avatar de Jules34
Membre émérite https://www.developpez.com
Le 22/11/2024 à 14:45
et sur whatsapp, instagram, facebook, c'est pareil... Mastodon et blue doivent pas être épargné non plus. Preuve s'il en est que la pédophilie à le vent bien en poupe contrairement à ce que nous racontent les médias. Lutter contre la pédophilie et la pornographie infantine c'est arrêter des gens et les condamner avec fermeté, pas fermer des sites, surveiller tout le monde ou les censurer. C'est le monde à l'envers et la commission européenne se fout encore de nous.
5  0 
Avatar de Prox_13
Membre éprouvé https://www.developpez.com
Le 07/11/2024 à 15:50
"suprémacisme blanc" est une expression aussi ridicule que "wokisme"... Un terme générique fourre-tout qui ne fait que révéler :
- L'ignorance du narrateur quant au problème
- Son bord politique
- La tendance populiste du texte qui comporte l'expression

Je suis sur X, et je vois constamment, pratiquement tous les jours des remarques racistes envers les noirs, les indiens et les blancs.
J'y ai vu le compte officiel du CCP poster de la propagande assumée, et ch*er sur les indiens.
J'y ai vu des énormités qui concernent aussi bien la droite que la gauche.

J'en ai un peu marre qu'on marche à côté de nos pompes en imaginant que ce sont toujours les suprémacistes blancs à l'origine des débâcles pourtant issues d'une multitude de vague de haine.

En gros, on donne des coups d'épées dans l'eau pour se donner bonne conscience jusqu'à ce que ça recommence. Perso j'ai commencé à lâcher les réseaux pour cette consternation/lassitude qu'évoque ce cycle.
7  3 
Avatar de Aiekick
Membre extrêmement actif https://www.developpez.com
Le 12/10/2024 à 0:50
quand la liberte d'expression devient sous Musk 1er, la liberté de nuire
3  0 
Avatar de Minato Sensei
Membre habitué https://www.developpez.com
Le 15/10/2024 à 15:24
Citation Envoyé par Mathis Lucas Voir le message
Elon Musk applique une modération très personnelle sur X (anciennement Twitter) en supprimant un rapport avec des informations embarrassantes qui ont fuité suite au piratage de la campagne de Donald Trump
Corrigez moi si je me trompe : ce n'est pas le même monsieur qui voulait qu'on affiche tous les dossiers touchant les dirigeants de Twitter en public (les fameux Twitter Files) ? Mais dès que ça le touche, il renvoie (les employés de Tesla qui ont osé se plaindre de sa politique), dès que ça touche aux copains, il censure. Bah l'absolutiste de la liberté d'expression, elle n'est plus si absolue que ça quand ça ne l'arrange pas (qu'est-ce qu'on est surpris xptdr)
3  0 
Avatar de totozor
Expert confirmé https://www.developpez.com
Le 08/11/2024 à 7:29
Citation Envoyé par Artae Voir le message
Si des personnes tiennent des propos illicites, la Justice n'a qu'à faire une demande à la plateforme dans le cadre d'une enquête (à savoir que X coopère avec la police).
Je ne comprends pas pourquoi cette obsession de vouloir privatiser la censure et criminaliser certains propos (ce qui va permettre tout les excès), le tout en mettant la responsabilité sur le dos des plateformes :
La censure privée est un solution à fuir absolument mais la judiciarisation systématique n'est pas une solution à plus encourager non plus, notamment parce qu'elle mènera à la censure privée.

Citation Envoyé par DjDeViL66 Voir le message
Moi je suis super content que Trump ait gagné.
Il veut la paix en Ukraine ce qui est d'une d'importance capitale, je n'ai pas envie de vivre la 3ème guerre mondiale, la paix c'est fondamentale personne n'en parle.
Oui (à peu près) tout le monde veut la paix en Ukraine, la question est toujours la même : à quel prix?
Je fais relativement confiance en Trump pour amener une pseudo paix en Ukraine. Par contre, au vue de son égocentrisme et de son je-m'en-foutisme pour les autres, je ne suis pas sur que sa solution soit si désirable.
"Go Woke Go Broke" c'est ce que j'avais lu sur le net.
Si on croit tout ce qu'on lit sur le net non plus...
Je suis contre absolument la surveillance de masse que cela soit étatique ou par les entreprises privées qui nous veulent du bien .
Et tu penses que Trump et Musk sont la réponse à cette problématique?
Je pense qu'ils ne sont qu'une partie du problème.
3  0 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 08/11/2024 à 10:47
Citation Envoyé par Jon Shannow Voir le message
Juste pour info, si ce n'est pas trop indiscret, quel est ce pays merveilleux ?
Singapour, ma boite à des locaux la bas, j'ai l'opportunité de faire une mission de plusieurs années en expat la bas (5ans minimum).
Pas d'immigré parasite, pas de lgbt (interdit), une imposition de 25% (je serais en tous à 40% de charges sur mon salaire, entre le loyer, l'assurance santé et les frais d'école pour mon enfant) et une sécurité maximal.
3  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 22/11/2024 à 14:53
Citation Envoyé par Jules34 Voir le message
Lutter contre la pédophilie et la pornographie infantine c'est arrêter des gens et les condamner
Ce qui serait bien c'est que la police et la justice essaient de trouver qui passaient les commandes quand une personne dont le métier consiste à capturer des enfants pour les revendre à des réseaux pédophiles se fait prendre,

Vendre des enfants à des réseaux c'est ce que faisait Marc Dutroux et probablement Nordahl Lelandais, par exemple, et la justice n'a pas cherché à retrouver les réseaux.
Il y a des riches et des puissants qui violent, torturent, tuent des enfants, mais ils sont protégés.
4  1