Elon Musk a doté Grok d'une fonctionnalité permettant à un utilisateur de X de générer des images explicites à partir de la photo d'un autre utilisateur sans son consentement. La plateforme a rapidement été inondée d'images explicites, y compris de mineurs, suscitant un tollé mondial. Dans un premier temps, X a rejeté la responsabilité sur les utilisateurs, sans annoncer de correctifs techniques immédiats, puis a décidé quelques jours plus tard de limiter l'outil aux abonnés payants. Mais cette mesure est jugée insuffisante. En réaction, des voix au Royaume-Uni, au Canada et en Australie appellent à interdire X, mais cette mesure est controversée.Au début de l'année, le réseau social X (ex-Twitter) d'Elon Musk a introduit un nouveau bouton « Modification d'image par IA » qui permet à tout utilisateur de modifier les images publiées par d'autres, même sans le consentement de l'auteur original. Les propriétaires des images ne sont pas informés lorsque des modifications sont apportées, et la fonctionnalité est activée par défaut pour tous sans une option de désactivation (du moins pour l'instant).
L'outil comprend des options permettant d'écrire des prompts, de prévisualiser les résultats et de partager l'image modifiée sur les pages de profil et le flux « Pour vous ». Le bouton apparaît sur tous les profils, qu'ils appartiennent à des utilisateurs réguliers, à des comptes vérifiés ou à des personnalités publiques.
Le lancement de cette fonctionnalité a suscité une vive réaction non seulement parmi les artistes et les photographes, qui voient leurs contenus protégés par le droit d'auteur utilisés et modifiés sans effort, mais aussi parmi des milliers d'utilisateurs lambda, en particulier des femmes dont les photos partagées sont modifiées sans leur consentement pour créer des scénarios suggestifs ou intrusifs, ce qui constitue une violation flagrante de la vie privée.
Dans un post, désormais supprimé, Grok a retouché une photo de deux jeunes filles vêtues de tenues légères et dans des poses sexuellement suggestives. Des responsables français ont réagi au problème posé par Grok et le contenu sexuel généré, notamment lorsque des images de mineurs ont été impliquées.
Cette capacité de Grok a suscité un tollé dans le monde entier
Grok est un chatbot gratuit que les utilisateurs peuvent taguer directement dans les publications ou les réponses sous les publications d'autres utilisateurs sur X pour lui demander une réponse particulière. De nombreux utilisateurs ont demandé à Grok de modifier des images de femmes afin de les montrer en bikini ou légèrement vêtues, ce qui, selon les personnes concernées, leur a donné un sentiment « d'humiliation » et de « déshumanisation ».
Le 9 janvier, Grok a informé les utilisateurs qui lui demandaient de modifier des images téléchargées sur le site que « la génération et la modification d'images sont actuellement réservées aux abonnés payants ». Grok a ajouté que les utilisateurs peuvent s'abonner pour débloquer ces fonctionnalités. Certaines publications sur la plateforme suggèrent que seuls les abonnés payants ont pu demander avec succès des modifications d'images à Grok.
Le Dr Daisy Dixon, maître de conférences en philosophie à l'université de Cardiff et utilisatrice de X, qui a déclaré avoir constaté une augmentation du nombre de personnes utilisant Grok pour la déshabiller, a salué ce changement, mais a déclaré qu'il s'agissait d'une « solution provisoire ».
Elle invite Elon Musk à repenser les garde-fous de Grok. « Grok doit être entièrement repensé et doté de garde-fous éthiques intégrés pour empêcher que cela ne se reproduise. Elon Musk doit également reconnaître cela pour ce que c'est : un autre exemple de violation fondée sur le genre », a-t-elle déclaré. Hannah Swirsky, responsable des politiques à l'Internet Watch Foundation, a déclaré que « cette mesure ne répare pas le mal qui a été fait ».
« Nous ne pensons pas qu'il soit suffisant de simplement limiter l'accès à un outil qui n'aurait jamais dû avoir la capacité de créer le type d'images que nous avons vu ces derniers jours », a-t-elle déclaré. L'organisation a précédemment rapporté que ses analystes ont découvert des « images criminelles » de filles âgées de 11 à 13 ans qui « semblaient avoir été créées » à l'aide de l'IA Grok. Ces modifications ont également visé des chefs d'État.
X est menacé d'une éventuelle interdiction dans certains pays
La sanction pourrait être incisive ailleurs. Le Royaume-Uni, le Canada et l'Australie envisagent d'interdire le réseau social X d'Elon Musk. La ministre britannique de la Technologie, Liz Kendall, a déclaré qu'elle soutiendrait l'autorité de régulation Ofcom si celle-ci bloquait l'accès au Royaume-Uni à la plateforme pour non-respect des lois sur la sécurité en ligne. L'Ofcom affirme qu'il est en train de décider de toute urgence de la suite à donner à Grok.
Liz Kendall a déclaré : « la manipulation sexuelle d'images de femmes et d'enfants est méprisable et odieuse. Moi-même, et surtout le public, nous attendons de l'Ofcom qu'il nous informe des prochaines étapes dans les jours qui viennent, et non dans les semaines à venir ». Elle a ajouté que « la loi sur la sécurité en ligne (Online Safety Act) permet de bloquer l'accès aux services au Royaume-Uni qui ne se conforment pas à la législation britannique ».
Un porte-parole de l'Ofcom a déclaré : « nous procédons actuellement à une évaluation accélérée en urgence et fournirons de nouvelles informations sous peu ». Les pouvoirs de l'Ofcom en vertu de la loi sur la sécurité en ligne lui permettent notamment de demander une ordonnance du tribunal pour empêcher des tiers d'aider X à lever des fonds ou d'être accessible au Royaume-Uni, si l'entreprise refuse de se conformer aux lois britanniques.
D'après un récent article de BBC News, des messages divulgués provenant du groupe WhatsApp du Parti travailliste parlementaire montrent qu'au moins 13 députés travaillistes ont appelé le gouvernement à cesser d'utiliser le réseau social X d'Elon Musk. Ils montrent également que les députés travaillistes appellent le gouvernement à « prendre position » et choisir une nouvelle plateforme pour « diffuser les messages officiels du gouvernement ».
Le Premier ministre australien Anthony Albanese a déclaré : « le fait que cet outil ait été utilisé, que des personnes se servent de sa fonction de création d’images via Grok, est, selon moi, tout simplement odieux. C'est, une fois de plus, un exemple de l'absence de responsabilité sociale des réseaux sociaux ».
La menace d'interdiction de X suscite des réactions contrastées
Cette éventuelle interdiction a suscité des réactions mitigées, des critiques accusant les trois pays de censure et de violation de la liberté d'expression. Elon Musk, qui a rejeté la responsabilité sur les utilisateurs, a dénoncé cette initiative. Sur X, en réponse à un message demandant pourquoi les autres plateformes d'IA n'étaient pas concernées, il a déclaré que « le gouvernement britannique cherchait n'importe quelle excuse pour censurer ».
L'utilisation de Grok pour générer des images à caractère sexuel non consensuelles a été condamnée par les politiciens de tous bords, mais beaucoup ont rejeté l'idée d'une interdiction de X. Le leader du parti Reform UK, Nigel Farage, estime que cette utilisation de l'IA est « horrible à tous points de vue ». Il a ajouté que « X doit aller plus loin que les changements qu'il avait apportés à Grok », notamment en limitant l'outil aux abonnés payants.
Cependant, Nigel Farage a ajouté que « l'idée d'interdire X au Royaume-Uni est franchement épouvantable et constituerait une atteinte à la liberté d'expression ». Les libéraux-démocrates ont demandé que l'accès à X soit temporairement restreint au Royaume-Uni pendant l'enquête sur le site se poursuive.
De nombreux internautes interprètent cette éventuelle interdiction de X comme une atteinte à la liberté d’expression ou un geste de censure de la part du gouvernement. Un utilisateur de X a écrit : « je ne pense pas qu'ils comprennent à quel point cela va leur nuire ». Un autre a ajouté : « c'est une décision insensée. Un pays ne devrait pas pouvoir interdire un réseau social. Les gens devraient être libres de choisir la façon dont ils s'informent ».
En Irlande, l'organisme de surveillance des médias a déclaré avoir fait part à la Commission européenne de ses inquiétudes concernant l'utilisation de Grok pour déshabiller numériquement des femmes et des enfants à des fins de diffusion sur X. Le régulateur irlandais a qualifié ce problème de « très préoccupant ».
Vives réactions en France face aux dérives de Grok d'Elon Musk
Les produits d'IA d'Elon Musk sont largement commercialisés comme étant fortement sexualisés et peu protégés. Le générateur de vidéos Grok créait facilement des deepfakes topless de Taylor Swift, malgré la politique d'utilisation acceptable de xAI interdisant « la représentation de personnes de manière pornographique ». Grok semble disposer de peu de garde-fous pour empêcher la génération de contenus ne relevant pas de la nudité explicite totale.
En revanche, les outils Veo de Google et Sora d'OpenAI ont mis en place des garde-fous autour de la génération de contenu NSFW, bien que Sora ait aussi été utilisé pour produire des vidéos d'enfants dans des contextes sexualisés et des vidéos fétichistes. Selon un rapport de la société de cybersécurité DeepStrike, les images deepfake sont de plus en plus répandues, et beaucoup d'entre elles contiennent des images sexualisées non consenties.
Des ministres français ont signalé aux procureurs de la République des contenus générés par Grok qualifiés de « manifestement illégaux » en raison de leur caractère sexuel ou sexiste, un acte qui vise à déclencher une action judiciaire contre ceux qui diffusent ou facilitent de tels contenus. Cette démarche judiciaire s’appuie sur des éléments qui, selon l’exécutif, enfreignent le droit pénal français. (Les procureurs ne sont pas encore prononcés.)
Les ministres ont précisé avoir également signalé ces contenus au régulateur français des médias et du numérique Arcom. Les autorités françaises invitent le régulateur à vérifier leur conformité avec le Digital Services Act (DSA) de l'Union européenne. Des parlementaires (dont Éric Bothorel et Arthur Delaporte) ont également saisi la justice, contribuant à l’élargissement d’une enquête judiciaire déjà ouverte sur le plateforme controversée d'Elon Musk.
Des personnalités comme Sarah El Haïry, haute-commissaire à l’enfance, ont également dénoncé ces usages de l’IA, exprimant leur indignation quant à la création et la diffusion de demandes visant à sexualiser des femmes ou des mineurs et rappelant que les préjudices sont réels même si les images sont artificielles.
Un risque juridique et réputationnel sous-estimé
La production de contenus pédopornographiques n’est pas une simple entorse aux règles communautaires : il s’agit d’un crime lourdement sanctionné dans la quasi-totalité des juridictions. En laissant entendre que le problème relève uniquement de l’usage, X s’expose à des risques juridiques considérables, notamment en Europe où la responsabilité des plateformes et des fournisseurs de technologies est de plus en plus encadrée.
Au-delà du droit, l’impact réputationnel est potentiellement dévastateur. Pour les annonceurs, les partenaires technologiques et même les développeurs internes, être associé à un outil d’IA impliqué dans de telles dérives constitue un signal d’alarme majeur.
Le Royaume-Uni est en faveur d’une action forte, jusqu’à envisager un blocage de l’accès à X si le site ne remédie pas à ces problèmes. Le gouvernement fédéral du Canada n’envisage pas, pour le moment,...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par Artaeus
je suis parfaitement d'accord avec cette remarque pleine de bon sens:
