Le réseau social X d'Elon Musk menacé d'interdiction au Royaume-Uni, au Canada et en Australie en raison de la capacité de son IA Grok à générer des images explicites, y compris de mineurs

Le réseau social X d'Elon Musk menacé d'interdiction au Royaume-Uni, au Canada et en Australie en raison de la capacité de son IA Grok à générer des images explicites, y compris de mineurs

Elon Musk a doté Grok d'une fonctionnalité permettant à un utilisateur de X de générer des images explicites à partir de la photo d'un autre utilisateur sans son consentement. La plateforme a rapidement été inondée d'images explicites, y compris de mineurs, suscitant un tollé mondial. Dans un premier temps, X a rejeté la responsabilité sur les utilisateurs, sans annoncer de correctifs techniques immédiats, puis a décidé quelques jours plus tard de limiter l'outil aux abonnés payants. Mais cette mesure est jugée insuffisante. En réaction, des voix au Royaume-Uni, au Canada et en Australie appellent à interdire X, mais cette mesure est controversée.

Au début de l'année, le réseau social X (ex-Twitter) d'Elon Musk a introduit un nouveau bouton « Modification d'image par IA » qui permet à tout utilisateur de modifier les images publiées par d'autres, même sans le consentement de l'auteur original. Les propriétaires des images ne sont pas informés lorsque des modifications sont apportées, et la fonctionnalité est activée par défaut pour tous sans une option de désactivation (du moins pour l'instant).

L'outil comprend des options permettant d'écrire des prompts, de prévisualiser les résultats et de partager l'image modifiée sur les pages de profil et le flux « Pour vous ». Le bouton apparaît sur tous les profils, qu'ils appartiennent à des utilisateurs réguliers, à des comptes vérifiés ou à des personnalités publiques.


Le lancement de cette fonctionnalité a suscité une vive réaction non seulement parmi les artistes et les photographes, qui voient leurs contenus protégés par le droit d'auteur utilisés et modifiés sans effort, mais aussi parmi des milliers d'utilisateurs lambda, en particulier des femmes dont les photos partagées sont modifiées sans leur consentement pour créer des scénarios suggestifs ou intrusifs, ce qui constitue une violation flagrante de la vie privée.

Dans un post, désormais supprimé, Grok a retouché une photo de deux jeunes filles vêtues de tenues légères et dans des poses sexuellement suggestives. Des responsables français ont réagi au problème posé par Grok et le contenu sexuel généré, notamment lorsque des images de mineurs ont été impliquées.

Cette capacité de Grok a suscité un tollé dans le monde entier

Grok est un chatbot gratuit que les utilisateurs peuvent taguer directement dans les publications ou les réponses sous les publications d'autres utilisateurs sur X pour lui demander une réponse particulière. De nombreux utilisateurs ont demandé à Grok de modifier des images de femmes afin de les montrer en bikini ou légèrement vêtues, ce qui, selon les personnes concernées, leur a donné un sentiment « d'humiliation » et de « déshumanisation ».

Le 9 janvier, Grok a informé les utilisateurs qui lui demandaient de modifier des images téléchargées sur le site que « la génération et la modification d'images sont actuellement réservées aux abonnés payants ». Grok a ajouté que les utilisateurs peuvent s'abonner pour débloquer ces fonctionnalités. Certaines publications sur la plateforme suggèrent que seuls les abonnés payants ont pu demander avec succès des modifications d'images à Grok.

Le Dr Daisy Dixon, maître de conférences en philosophie à l'université de Cardiff et utilisatrice de X, qui a déclaré avoir constaté une augmentation du nombre de personnes utilisant Grok pour la déshabiller, a salué ce changement, mais a déclaré qu'il s'agissait d'une « solution provisoire ».

Elle invite Elon Musk à repenser les garde-fous de Grok. « Grok doit être entièrement repensé et doté de garde-fous éthiques intégrés pour empêcher que cela ne se reproduise. Elon Musk doit également reconnaître cela pour ce que c'est : un autre exemple de violation fondée sur le genre », a-t-elle déclaré. Hannah Swirsky, responsable des politiques à l'Internet Watch Foundation, a déclaré que « cette mesure ne répare pas le mal qui a été fait ».

« Nous ne pensons pas qu'il soit suffisant de simplement limiter l'accès à un outil qui n'aurait jamais dû avoir la capacité de créer le type d'images que nous avons vu ces derniers jours », a-t-elle déclaré. L'organisation a précédemment rapporté que ses analystes ont découvert des « images criminelles » de filles âgées de 11 à 13 ans qui « semblaient avoir été créées » à l'aide de l'IA Grok. Ces modifications ont également visé des chefs d'État.

X est menacé d'une éventuelle interdiction dans certains pays

La sanction pourrait être incisive ailleurs. Le Royaume-Uni, le Canada et l'Australie envisagent d'interdire le réseau social X d'Elon Musk. La ministre britannique de la Technologie, Liz Kendall, a déclaré qu'elle soutiendrait l'autorité de régulation Ofcom si celle-ci bloquait l'accès au Royaume-Uni à la plateforme pour non-respect des lois sur la sécurité en ligne. L'Ofcom affirme qu'il est en train de décider de toute urgence de la suite à donner à Grok.


Liz Kendall a déclaré : « la manipulation sexuelle d'images de femmes et d'enfants est méprisable et odieuse. Moi-même, et surtout le public, nous attendons de l'Ofcom qu'il nous informe des prochaines étapes dans les jours qui viennent, et non dans les semaines à venir ». Elle a ajouté que « la loi sur la sécurité en ligne (Online Safety Act) permet de bloquer l'accès aux services au Royaume-Uni qui ne se conforment pas à la législation britannique ».

Un porte-parole de l'Ofcom a déclaré : « nous procédons actuellement à une évaluation accélérée en urgence et fournirons de nouvelles informations sous peu ». Les pouvoirs de l'Ofcom en vertu de la loi sur la sécurité en ligne lui permettent notamment de demander une ordonnance du tribunal pour empêcher des tiers d'aider X à lever des fonds ou d'être accessible au Royaume-Uni, si l'entreprise refuse de se conformer aux lois britanniques.

D'après un récent article de BBC News, des messages divulgués provenant du groupe WhatsApp du Parti travailliste parlementaire montrent qu'au moins 13 députés travaillistes ont appelé le gouvernement à cesser d'utiliser le réseau social X d'Elon Musk. Ils montrent également que les députés travaillistes appellent le gouvernement à « prendre position » et choisir une nouvelle plateforme pour « diffuser les messages officiels du gouvernement ».

Le Premier ministre australien Anthony Albanese a déclaré : « le fait que cet outil ait été utilisé, que des personnes se servent de sa fonction de création d’images via Grok, est, selon moi, tout simplement odieux. C'est, une fois de plus, un exemple de l'absence de responsabilité sociale des réseaux sociaux ».

La menace d'interdiction de X suscite des réactions contrastées

Cette éventuelle interdiction a suscité des réactions mitigées, des critiques accusant les trois pays de censure et de violation de la liberté d'expression. Elon Musk, qui a rejeté la responsabilité sur les utilisateurs, a dénoncé cette initiative. Sur X, en réponse à un message demandant pourquoi les autres plateformes d'IA n'étaient pas concernées, il a déclaré que « le gouvernement britannique cherchait n'importe quelle excuse pour censurer ».

L'utilisation de Grok pour générer des images à caractère sexuel non consensuelles a été condamnée par les politiciens de tous bords, mais beaucoup ont rejeté l'idée d'une interdiction de X. Le leader du parti Reform UK, Nigel Farage, estime que cette utilisation de l'IA est « horrible à tous points de vue ». Il a ajouté que « X doit aller plus loin que les changements qu'il avait apportés à Grok », notamment en limitant l'outil aux abonnés payants.

Cependant, Nigel Farage a ajouté que « l'idée d'interdire X au Royaume-Uni est franchement épouvantable et constituerait une atteinte à la liberté d'expression ». Les libéraux-démocrates ont demandé que l'accès à X soit temporairement restreint au Royaume-Uni pendant l'enquête sur le site se poursuive.

De nombreux internautes interprètent cette éventuelle interdiction de X comme une atteinte à la liberté d’expression ou un geste de censure de la part du gouvernement. Un utilisateur de X a écrit : « je ne pense pas qu'ils comprennent à quel point cela va leur nuire ». Un autre a ajouté : « c'est une décision insensée. Un pays ne devrait pas pouvoir interdire un réseau social. Les gens devraient être libres de choisir la façon dont ils s'informent ».

En Irlande, l'organisme de surveillance des médias a déclaré avoir fait part à la Commission européenne de ses inquiétudes concernant l'utilisation de Grok pour déshabiller numériquement des femmes et des enfants à des fins de diffusion sur X. Le régulateur irlandais a qualifié ce problème de « très préoccupant ».

Vives réactions en France face aux dérives de Grok d'Elon Musk

Les produits d'IA d'Elon Musk sont largement commercialisés comme étant fortement sexualisés et peu protégés. Le générateur de vidéos Grok créait facilement des deepfakes topless de Taylor Swift, malgré la politique d'utilisation acceptable de xAI interdisant « la représentation de personnes de manière pornographique ». Grok semble disposer de peu de garde-fous pour empêcher la génération de contenus ne relevant pas de la nudité explicite totale.

En revanche, les outils Veo de Google et Sora d'OpenAI ont mis en place des garde-fous autour de la génération de contenu NSFW, bien que Sora ait aussi été utilisé pour produire des vidéos d'enfants dans des contextes sexualisés et des vidéos fétichistes. Selon un rapport de la société de cybersécurité DeepStrike, les images deepfake sont de plus en plus répandues, et beaucoup d'entre elles contiennent des images sexualisées non consenties.

Des ministres français ont signalé aux procureurs de la République des contenus générés par Grok qualifiés de « manifestement illégaux » en raison de leur caractère sexuel ou sexiste, un acte qui vise à déclencher une action judiciaire contre ceux qui diffusent ou facilitent de tels contenus. Cette démarche judiciaire s’appuie sur des éléments qui, selon l’exécutif, enfreignent le droit pénal français. (Les procureurs ne sont pas encore prononcés.)

Les ministres ont précisé avoir également signalé ces contenus au régulateur français des médias et du numérique Arcom. Les autorités françaises invitent le régulateur à vérifier leur conformité avec le Digital Services Act (DSA) de l'Union européenne. Des parlementaires (dont Éric Bothorel et Arthur Delaporte) ont également saisi la justice, contribuant à l’élargissement d’une enquête judiciaire déjà ouverte sur le plateforme controversée d'Elon Musk.

Des personnalités comme Sarah El Haïry, haute-commissaire à l’enfance, ont également dénoncé ces usages de l’IA, exprimant leur indignation quant à la création et la diffusion de demandes visant à sexualiser des femmes ou des mineurs et rappelant que les préjudices sont réels même si les images sont artificielles.

Un risque juridique et réputationnel sous-estimé

La production de contenus pédopornographiques n’est pas une simple entorse aux règles communautaires : il s’agit d’un crime lourdement sanctionné dans la quasi-totalité des juridictions. En laissant entendre que le problème relève uniquement de l’usage, X s’expose à des risques juridiques considérables, notamment en Europe où la responsabilité des plateformes et des fournisseurs de technologies est de plus en plus encadrée.


Au-delà du droit, l’impact réputationnel est potentiellement dévastateur. Pour les annonceurs, les partenaires technologiques et même les développeurs internes, être associé à un outil d’IA impliqué dans de telles dérives constitue un signal d’alarme majeur.

Le Royaume-Uni est en faveur d’une action forte, jusqu’à envisager un blocage de l’accès à X si le site ne remédie pas à ces problèmes. Le gouvernement fédéral du Canada n’envisage pas, pour le moment, d’interdire X, bien qu’il reconnaisse la nécessité de débats sur la sécurité et la régulation de l’IA. La position de l’Australie s’aligne sur les préoccupations exprimées par le Royaume-Uni, mais sans confirmation d’un projet concret de bannissement.

Le réseau social X d'Elon Musk face aux controverses incessantes

Le milliardaire Elon Musk a acquis Twitter en 2022 pour environ 44 milliards de dollars. À la suite du changement de nom et de logo en juillet 2023, Elon Musk a commencé à rediriger le trafic de Twitter.com vers X.com l'année suivante.

La plateforme d'Elon Musk fait l'objet de nombreuses controverses. Certaines entreprises ont hésité à faire de la publicité sur X, craignant d'être associées à des contenus déplaisants, tels que des opinions extrémistes, des publications frauduleuses ou des robots pornographiques. Et une étude publiée par Kantar en septembre 2024 indiquait que 26 % des spécialistes du marketing interrogés prévoyaient d'abandonner leurs campagnes publicitaires sur X.

X d'Elon Musk subit depuis deux ans des turbulences majeures. La fuite des annonceurs, la baisse des revenus publicitaires, l’augmentation des litiges en Europe et aux États-Unis, ainsi que la perte de repères pour les utilisateurs transforment la plateforme en un terrain mouvant. L'UE a récemment infligé une amende de 120 millions d'euros à la plateforme d'Elon Musk pour avoir enfreint certaines dispositions de la loi sur les services numériques (DSA).

L'amende concerne trois manquements spécifiques en matière de transparence : tromper les utilisateurs lorsqu’Elon Musk a remplacé la vérification réelle par « payer 8 dollars pour obtenir une coche », maintenir un répertoire publicitaire défectueux et refuser de partager les données requises avec les chercheurs. Mais Elon Musk s'insurge contre cette amende et réclame la dissolution de l'UE. Il a notamment le soutien des proches de l'administration Trump.

Conclusion

Elon Musk est de nouveau au centre des critiques pour avoir facilité la création d'images sexualisées sur X. Au-delà du cas de Grok, cet incident met en lumière un problème structurel : le déploiement rapide d’outils d’IA générative sans garde-fous suffisants. L’affaire illustre les risques concrets des deepfakes non consensuels et la responsabilité des entreprises technologiques dans la prévention des abus, en particulier lorsqu’il s’agit de mineurs.

Elon Musk défend une vision qui privilégie une interprétation maximaliste de la liberté d’expression et se montre sceptique vis-à-vis des mécanismes de modération centralisés. Appliquée à l’IA générative, cependant, cette philosophie atteint toutefois ses limites. La liberté d’expression ne peut servir de paravent à la diffusion ou à la production de contenus criminels, surtout lorsqu’ils sont générés automatiquement par des systèmes industriels.

Malgré un cycle de mise à jour fréquent, le chatbot a suscité des controverses liées à ses réponses sur des sujets sensibles et à l'influence d'Elon Musk sur ses prises de position politiques. Grok est également accusé de propager de la désinformation à caractère négationniste et complotiste. Les antécédents de Grok en matière d'exactitude sont pour le moins mitigés, avec des incidents de divulgation d'informations personnelles et de diffusion d'infox.

Et vous ?

Quel est votre avis sur le sujet ?
Cette nouvelle fonctionnalité du chatbot Grok d’Elon Musk est-elle justifiée ? Pourquoi ?
Que pensez-vous d'une éventuelle interdiction de X en raison des contenus explicites générés par Grok ?
Elon Musk et certains critiques qualifient cette mesure de censure gouvernementale. Qu'en pensez-vous ?
Qui doit être tenu responsable des contenus problématiques créés avec Grok ? Elon Musk ou les utilisateurs ?
Elon Musk et sa société xAI rejettent la responsabilité sur les utilisateurs de Grok. Qu'en pensez-vous ?
Le fait de limiter l'accès à l'outil de retouche de photo aux abonnés payants répond-il aux préoccupations ?
Que pensez-vous de la vision de la liberté d'expression défendue par Elon Musk ? Quels impacts pourrait-elle avoir sur X ?

Voir aussi

X accuse les utilisateurs d'être responsables des contenus pédopornographiques générés par Grok, aucune solution n'a été annoncée : quand une plateforme blâme ses utilisateurs plutôt que son algorithme

Elon Musk limite l'outil d'image Grok de xAI aux abonnés payants, après le tollé créé par son IA qui déshabille tout le monde, y compris les mineurs, sans leur consentement

L'IA Grok d'Elon Musk déshabille tout le monde, des mineurs aux dirigeants mondiaux sans leur consentement, et il ne semble pas possible d'y échapper. Des ministres français ont signalé l'affaire à l'Arcom