Elon Musk a doté Grok d'une fonctionnalité permettant à un utilisateur de X de générer des images explicites à partir de la photo d'un autre utilisateur sans son consentement. La plateforme a rapidement été inondée d'images explicites, y compris de mineurs, suscitant un tollé mondial. Dans un premier temps, X a rejeté la responsabilité sur les utilisateurs, sans annoncer de correctifs techniques immédiats, puis a décidé quelques jours plus tard de limiter l'outil aux abonnés payants. Mais cette mesure est jugée insuffisante. En réaction, des voix au Royaume-Uni, au Canada et en Australie appellent à interdire X, mais cette mesure est controversée.Au début de l'année, le réseau social X (ex-Twitter) d'Elon Musk a introduit un nouveau bouton « Modification d'image par IA » qui permet à tout utilisateur de modifier les images publiées par d'autres, même sans le consentement de l'auteur original. Les propriétaires des images ne sont pas informés lorsque des modifications sont apportées, et la fonctionnalité est activée par défaut pour tous sans une option de désactivation (du moins pour l'instant).
L'outil comprend des options permettant d'écrire des prompts, de prévisualiser les résultats et de partager l'image modifiée sur les pages de profil et le flux « Pour vous ». Le bouton apparaît sur tous les profils, qu'ils appartiennent à des utilisateurs réguliers, à des comptes vérifiés ou à des personnalités publiques.
Le lancement de cette fonctionnalité a suscité une vive réaction non seulement parmi les artistes et les photographes, qui voient leurs contenus protégés par le droit d'auteur utilisés et modifiés sans effort, mais aussi parmi des milliers d'utilisateurs lambda, en particulier des femmes dont les photos partagées sont modifiées sans leur consentement pour créer des scénarios suggestifs ou intrusifs, ce qui constitue une violation flagrante de la vie privée.
Dans un post, désormais supprimé, Grok a retouché une photo de deux jeunes filles vêtues de tenues légères et dans des poses sexuellement suggestives. Des responsables français ont réagi au problème posé par Grok et le contenu sexuel généré, notamment lorsque des images de mineurs ont été impliquées.
Cette capacité de Grok a suscité un tollé dans le monde entier
Grok est un chatbot gratuit que les utilisateurs peuvent taguer directement dans les publications ou les réponses sous les publications d'autres utilisateurs sur X pour lui demander une réponse particulière. De nombreux utilisateurs ont demandé à Grok de modifier des images de femmes afin de les montrer en bikini ou légèrement vêtues, ce qui, selon les personnes concernées, leur a donné un sentiment « d'humiliation » et de « déshumanisation ».
Le 9 janvier, Grok a informé les utilisateurs qui lui demandaient de modifier des images téléchargées sur le site que « la génération et la modification d'images sont actuellement réservées aux abonnés payants ». Grok a ajouté que les utilisateurs peuvent s'abonner pour débloquer ces fonctionnalités. Certaines publications sur la plateforme suggèrent que seuls les abonnés payants ont pu demander avec succès des modifications d'images à Grok.
Le Dr Daisy Dixon, maître de conférences en philosophie à l'université de Cardiff et utilisatrice de X, qui a déclaré avoir constaté une augmentation du nombre de personnes utilisant Grok pour la déshabiller, a salué ce changement, mais a déclaré qu'il s'agissait d'une « solution provisoire ».
Elle invite Elon Musk à repenser les garde-fous de Grok. « Grok doit être entièrement repensé et doté de garde-fous éthiques intégrés pour empêcher que cela ne se reproduise. Elon Musk doit également reconnaître cela pour ce que c'est : un autre exemple de violation fondée sur le genre », a-t-elle déclaré. Hannah Swirsky, responsable des politiques à l'Internet Watch Foundation, a déclaré que « cette mesure ne répare pas le mal qui a été fait ».
« Nous ne pensons pas qu'il soit suffisant de simplement limiter l'accès à un outil qui n'aurait jamais dû avoir la capacité de créer le type d'images que nous avons vu ces derniers jours », a-t-elle déclaré. L'organisation a précédemment rapporté que ses analystes ont découvert des « images criminelles » de filles âgées de 11 à 13 ans qui « semblaient avoir été créées » à l'aide de l'IA Grok. Ces modifications ont également visé des chefs d'État.
X est menacé d'une éventuelle interdiction dans certains pays
La sanction pourrait être incisive ailleurs. Le Royaume-Uni, le Canada et l'Australie envisagent d'interdire le réseau social X d'Elon Musk. La ministre britannique de la Technologie, Liz Kendall, a déclaré qu'elle soutiendrait l'autorité de régulation Ofcom si celle-ci bloquait l'accès au Royaume-Uni à la plateforme pour non-respect des lois sur la sécurité en ligne. L'Ofcom affirme qu'il est en train de décider de toute urgence de la suite à donner à Grok.
Liz Kendall a déclaré : « la manipulation sexuelle d'images de femmes et d'enfants est méprisable et odieuse. Moi-même, et surtout le public, nous attendons de l'Ofcom qu'il nous informe des prochaines étapes dans les jours qui viennent, et non dans les semaines à venir ». Elle a ajouté que « la loi sur la sécurité en ligne (Online Safety Act) permet de bloquer l'accès aux services au Royaume-Uni qui ne se conforment pas à la législation britannique ».
Un porte-parole de l'Ofcom a déclaré : « nous procédons actuellement à une évaluation accélérée en urgence et fournirons de nouvelles informations sous peu ». Les pouvoirs de l'Ofcom en vertu de la loi sur la sécurité en ligne lui permettent notamment de demander une ordonnance du tribunal pour empêcher des tiers d'aider X à lever des fonds ou d'être accessible au Royaume-Uni, si l'entreprise refuse de se conformer aux lois britanniques.
D'après un récent article de BBC News, des messages divulgués provenant du groupe WhatsApp du Parti travailliste parlementaire montrent qu'au moins 13 députés travaillistes ont appelé le gouvernement à cesser d'utiliser le réseau social X d'Elon Musk. Ils montrent également que les députés travaillistes appellent le gouvernement à « prendre position » et choisir une nouvelle plateforme pour « diffuser les messages officiels du gouvernement ».
Le Premier ministre australien Anthony Albanese a déclaré : « le fait que cet outil ait été utilisé, que des personnes se servent de sa fonction de création d’images via Grok, est, selon moi, tout simplement odieux. C'est, une fois de plus, un exemple de l'absence de responsabilité sociale des réseaux sociaux ».
La menace d'interdiction de X...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par Artaeus
je suis parfaitement d'accord avec cette remarque pleine de bon sens:
Avec moins d'argent et en beaucoup moins de temps ils font mieux.
Tu sais que prendre cette décision va avoir des conséquences dramatiques sur ta vie, mais tu le fais quand même, car ta conscience te dicte que c'est la bonne chose à faire. Le gars subissait beaucoup moins d'attaques avant les histoires de rachat de Twitter. Il n'a strictement rien gagné de positif, il a bossé pour le DOGE mais son travail n'a servi à rien (les dépenses de l'état US sont toujours énorme). Pourvu qu'avec le temps le système le lâche un peu. Parce qu'il ne mérite pas le traitement qu'il subit, c'est pas un monstre dangereux pour l'humanité comme le sont Bill Gates et George Sorros.