xAI d'Elon Musk, ne pouvant plus nier que Grok génère du contenu pédopornographique, poursuit un utilisateur accusé d'en avoir créé, afin de lui faire porter seul la responsabilité des productions de l'IA

La société xAI d'Elon Musk a intenté une action en justice contre un utilisateur accusé d'avoir détourné son chatbot Grok pour produire des images pédopornographiques. La plainte allègue que le défendeur a contourné les garde-fous du robot et généré des contenus sexuels explicites impliquant des mineurs. Par cette démarche juridique, xAI cherche à se présenter comme un simple fournisseur d'outil neutre afin de rejeter toute responsabilité légale sur l'individu en cas de futurs litiges avec les victimes. L'affaire intervient alors qu'Elon Musk essuie des critiques croissantes pour avoir investi dans des énergies fossiles destinées à alimenter ses centres de données IA.

Grok est un chatbot multimodal développé par la société xAI d'Elon Musk. Il est intégré au réseau social X (ex-Twitter), qui appartient aussi à Elon Musk. Depuis le mois de décembre 2025, Grok fait l'objet d'un scandale majeur : sa fonction de génération et d'édition d'images a permis à de nombreux utilisateurs de sa plateforme X de "déshabiller" numériquement des photos de femmes et d'enfants, ainsi que de créer des images sexualisées explicites.

Selon les estimations du Center for Countering Digital Hate (CCDH), Grok avait généré environ trois millions d'images sexualisées et 23 000 images représentant apparemment des enfants sur une période de onze jours. xAI a reconnu avoir identifié des failles dans ses garde-fous et travailler à les corriger en urgence, et des enquêtes ont été ouvertes en Inde, en France et en Malaisie. Nonobstant ses promesses, xAI d'Elon Musk n'y arrive toujours pas.

L'affaire s'est transformée en cascade judiciaire. Plusieurs plaintes visent xAI : un recours collectif de trois adolescentes du Tennessee accuse la société d'avoir sciemment conçu, commercialisé et exploité les fonctions de génération d'images de Grok tout en refusant de mettre en place des mesures pour empêcher la création de matériel d'abus sexuel sur mineurs (CSAM) ; une plainte de la ville de Baltimore ; ainsi qu'une action d'une députée britannique.

xAI a riposté avec des poursuites contre un utilisateur de Grok

xAI a engagés des poursuites judiciaires devant un tribunal fédéral du Texas contre Terry Harwood, un homme de Caroline du Sud arrêté plus tôt dans l'année pour possession et distribution de matériel pédopornographique. La société accuse Terry Harwood d'avoir « enfreint » ses conditions d'utilisation en employant son système d'IA Grok pour générer des images d'abus sexuels sur mineurs. Pour les détracteurs de xAI, il ne s'agit que d'une diversion.


La plainte intervient alors que xAI fait l'objet d'une surveillance mondiale intense et de vives critiques concernant la capacité de Grok à créer des contenus sexuels non consensuels. « Elon Musk et ses sbires tentent d'allumer un contre-feu pour détourner l'attention, car ils sont incapables de corriger les défauts de Grok ou ils ne le souhaitent tout simplement pas. Les mesures proposées par xAI jusqu'ici ne fonctionnent tout simplement pas », note un critique.

Selon les allégations de la plainte, Terry Harwood aurait utilisé au moins deux comptes pendant plusieurs mois afin de soumettre à Grok des images non sexuelles d'adultes et de mineurs, dans le but d'en générer des deepfakes à caractère sexuellement explicite. Bien que Grok ait parfois refusé de traiter certaines de ces requêtes grâce à ses filtres de modération, « l'utilisateur aurait sciemment modifié ses instructions afin de tromper ces garde-fous ».

L'entreprise allègue : « les agissements du défendeur constituaient un stratagème calculé visant à détourner l’outil du plaignant à des fins criminelles, exposant ainsi de véritables victimes à un préjudice profond et durable, tout en exposant le plaignant à un risque juridique important et à une atteinte à sa réputation ». Elle a demandé des dommages-intérêts d’un montant non précisé et une ordonnance interdisant définitivement à l'accusé d’utiliser Grok.

L'objectif de xAI d'Elon Musk : rendre l'utilisateur seul responsable

Alors que les victimes accusaient X de protéger les prédateurs, Elon Musk avait auparavant affirmé n’avoir vu aucun exemple de CSAM généré par Grok. Plutôt que de prendre des mesures pour empêcher la production de CSAM, il a averti les utilisateurs d’agir de manière responsable, en publiant sur X le 3 janvier que « toute personne utilisant Grok pour créer du contenu illégal subira les mêmes conséquences que si elle téléversait du contenu illégal ».

Selon les critiques, l'enjeu de cette démarche est également hautement stratégique pour la société d'Elon Musk, qui cherche à établir une jurisprudence confirmant que seuls les utilisateurs sont responsables des contenus générés. Pour se défendre face au risque de responsabilité juridique majeure lié aux potentielles actions collectives de victimes, xAI soutient que son IA Grok doit être perçue comme « un outil neutre, soumis au contrôle de l'utilisateur ».

L'entreprise insiste sur le fait que ses conditions d'utilisation interdisent clairement de dévêtir des personnes réelles ou d'exploiter des enfants. xAI affirme : « comme tout outil d'IA générative, chaque réponse, chaque image, chaque génération est le résultat des invites et des directives de l'utilisateur ».

L'entreprise espère que le tribunal reconnaîtra sa clause d'indemnisation, ce qui la protégerait d'éventuelles plaintes de tierces parties ciblées par les contenus illégaux créés par Grok. Elon Musk et xAI ne semblent plus pouvoir nier que Grok génère du contenu pédopornographique. La plainte allègue que Terry Harwood a utilisé au moins deux comptes aux noms d’utilisateur alambiqués pour générer du contenu illégal entre le 8 décembre et le 18 février.

Reste à voir si le tribunal reconnaîtra que les utilisateurs sont responsables des productions de l’IA. Le Bureau américain du droit d’auteur ne considère pas les sorties de l’IA comme des créations humaines. L'argumentaire de xAI pourrait échouer si le tribunal ne voit pas comment des images pédopornographiques générées par un outil d’IA pourraient être attribuées à l’utilisateur, alors qu’aucune autre création de ce type ne lui serait légalement imputable.

Le réseau social X d'Elon Musk face aux controverses incessantes

Elon Musk a acquis Twitter en 2022 pour environ 44 milliards de dollars. Il a changé le nom et logo en juillet 2023, suscitant des critiques autour du nouveau nom « X ». La plateforme d'Elon Musk fait l'objet de nombreuses controverses. Certaines entreprises ont hésité à faire de la publicité sur X, craignant d'être associées à des contenus déplaisants, tels que des opinions extrémistes, des publications frauduleuses ou des robots pornographiques.

X d'Elon Musk subit depuis deux ans des turbulences majeures. La fuite des annonceurs, la baisse des revenus publicitaires, l’augmentation des litiges en Europe et aux États-Unis, ainsi que la perte de repères pour les utilisateurs transforment la plateforme en un terrain mouvant. L'UE a également infligé une amende de 120 millions d'euros à la plateforme d'Elon Musk pour avoir enfreint certaines dispositions de la loi sur les services numériques (DSA).

L'amende concerne trois manquements spécifiques en matière de transparence : tromper les utilisateurs lorsqu’Elon Musk a remplacé la vérification réelle par « payer 8 dollars pour obtenir une coche », maintenir un répertoire publicitaire défectueux et refuser de partager les données requises avec les chercheurs. Mais Elon Musk s'insurge contre cette amende et réclame la dissolution de l'UE. Il a notamment le soutien des proches de l'administration Trump.

Sources : document de la plainte (PDF), billet de blogue

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des accusations de xAI d'Elon Musk contre Terry Harwood ?
Que pensez-vous de sa stratégie consistant à rendre l'utilisateur seul responsable des productions de Grok ?
Selon vous, quel impact l'issue de ce procès pourrait-elle avoir sur xAI en particulier et sur l'industrie de l'IA en général ?

Voir aussi

X accuse les utilisateurs d'être responsables des contenus pédopornographiques générés par Grok, aucune solution n'a été annoncée : quand une plateforme blâme ses utilisateurs plutôt que son algorithme

L'IA Grok d'Elon Musk déshabille tout le monde, des mineurs aux dirigeants mondiaux sans leur consentement, et il ne semble pas possible d'y échapper. Des ministres français ont signalé l'affaire à l'Arcom

La Malaisie et l'Indonésie bloquent l'accès au chatbot IA Grok d'Elon Musk en raison d'images deepfake : « Les deepfakes constituent une grave violation des droits humains, de la dignité »