Trois adolescentes du Tennessee ont déposé une action collective en justice contre xAI, l'entreprise d'Elon Musk, après que leur outil d'IA Grok a été utilisé pour transformer des photos ordinaires d'elles en images pédopornographiques. Le dossier, déposé le 16 mars 2026 devant un tribunal fédéral californien, expose avec une brutalité rare comment une fonctionnalité délibérément conçue pour générer du contenu sexuel explicite a pu être détournée, ou simplement utilisée comme prévu, pour produire des abus sexuels sur mineurs à l'échelle industrielle.La première victime, identifiée sous le nom de Jane Doe 1 (madame X 1, en français), a découvert le cauchemar par un message anonyme reçu sur Instagram. Quelqu'un lui signalait que des images générées par IA la représentant, ainsi que d'autres mineures, circulaient sur des plateformes qu'elle fréquentait, la montrant « dans des poses sexuellement explicites ». Parmi les fichiers incriminés se trouvait sa photo du lycée, une photo de classe banale, le genre que l'on affiche fièrement dans un couloir scolaire.
Les enquêteurs ont rapidement établi que l'auteur, qui entretenait une relation proche et amicale avec la victime sur Instagram, disposait d'une application tierce ayant acquis l'accès aux modèles de Grok. Il s'en était servi pour manipuler les photos des adolescentes, puis avait téléversé les fichiers sur la plateforme de partage Mega, les utilisant ensuite comme monnaie d'échange dans des groupes Telegram rassemblant des centaines d'utilisateurs, troquant ces images contre d'autres contenus pédopornographiques.
Les fichiers ont été transmis à la base de données nationale gérée par le National Center for Missing & Exploited Children (NCMEC). Les deux autres plaignantes, elles aussi mineures, ont appris l'existence d'images les représentant dans des contextes similaires par le biais des enquêteurs criminels qui avaient saisi des téléphones dans le cadre d'autres investigations.
La plainte souligne également une dimension particulièrement alarmante : le prénom réel des victimes et le nom de leur école étaient attachés aux fichiers en circulation, ce qui expose les adolescentes à un risque de harcèlement et de traque par d'autres prédateurs en ligne.
Le « spicy mode », une fonctionnalité « illégale par conception »
Au cœur de la plainte se trouve une fonctionnalité que xAI a elle-même commercialisée sous le nom de « spicy mode » (littéralement : mode épicé). Lancée l'année dernière, cette option permettait aux utilisateurs de retirer les vêtements d'une femme sur une photographie sans demander d'autorisation préalable. Un porte-parole de xAI avait présenté cette fonctionnalité comme un moyen pour les créateurs d'explorer des récits « plus audacieux visuellement », euphémisme saisissant pour décrire ce qui constitue, selon la loi californienne et fédérale, une production de contenus sexuels non consentis.
La plainte est lapidaire : « xAI et son fondateur Elon Musk ont vu une opportunité commerciale : l'opportunité de tirer profit de la prédation sexuelle de vraies personnes, y compris des enfants. »
L'ampleur du phénomène est documentée de manière indépendante. Selon les données du Center for Countering Digital Hate (CCDH) citées dans la plainte, Grok a produit environ 23 338 images sexualisées d'enfants entre le 29 décembre 2025 et le 9 janvier 2026, soit une toutes les 41 secondes. Plus globalement, les audits techniques du CCDH estiment qu'au cours de cette fenêtre critique de onze jours, Grok a généré plus de 3 millions d'images sexualisées au total.
La question de la responsabilité en cascade
L'un des enjeux juridiques les plus significatifs du dossier concerne la responsabilité dans la chaîne de distribution des modèles d'IA. Dans les deux cas des Jane Doe 2 et 3, les images n'ont pas été produites directement via Grok sur la plateforme X, mais par le biais d'une application mobile tierce qui s'appuyait sur les modèles de Grok. Les avocates des plaignantes soutiennent que, l'utilisation des applications tierces reposant sur le code et les serveurs de xAI, l'entreprise doit être tenue pour responsable.
La plainte affirme que xAI hébergerait sur ses propres serveurs l'ensemble des contenus sexuellement explicites générés via ses applications tierces sous licence, et les distribuerait ensuite à ses clients. Si ce point est établi, cela signifie que xAI n'est pas simplement un fournisseur d'outil mal utilisé : l'entreprise serait un acteur actif du stockage et de la distribution de ces contenus, une distinction fondamentale sur le plan juridique.
Ce modèle économique, très répandu dans l'industrie de l'IA, crée une chaîne de valeur dans laquelle le fournisseur du modèle encaisse les revenus des accès via interface de programmation (API) tout en déléguant potentiellement la responsabilité de la modération aux applications en aval. Si cette poursuite réussit à établir que les fournisseurs de modèles conservent leur responsabilité pour les contenus générés via leurs accès sous licence, les implications dépasseront largement xAI. Toute entreprise d'IA proposant un accès à des modèles génératifs d'images devra revoir son architecture de filtrage.
Musk, la désinvolture, et le déni
Face à la montée des signalements depuis la fin 2025, la réponse publique d'Elon Musk a été celle du déni. Alors que chercheurs, journalistes et forces de l'ordre documentaient le problème avec une urgence croissante, Musk déclarait ne pas être au courant d'images de mineurs dénudés générées par Grok. Lorsque TechCrunch a contacté xAI pour obtenir un commentaire sur la mise en demeure de l'État de Californie, l'entreprise a répondu par un courriel automatique indiquant « Legacy Media Lies » (les médias traditionnels mentent).
Sous pression, xAI a finalement annoncé en janvier 2026 qu'elle restreignait les fonctionnalités de génération et d'édition d'images aux abonnés payants de X Premium+ ou SuperGrok. Une réponse tardive, insuffisante selon les avocates des plaignantes, et qui n'efface pas le préjudice déjà causé.
Cascade réglementaire : de Sacramento à Bruxelles
Le dossier pénal s'inscrit dans un contexte réglementaire qui se durcit rapidement. Le 16 janvier 2026, le procureur général de Californie Rob Bonta a adressé une mise en demeure formelle à xAI, exigeant l'arrêt immédiat de la création et de la distribution d'images intimes synthétiques non consenties et de matériel pédopornographique. C'est la première action de grande ampleur engagée sous la nouvelle loi californienne AB 621 sur la pornographie synthétique, entrée en vigueur début 2026. Sous ce texte, xAI encourt des amendes pouvant atteindre 250 000 dollars par violation délibérée.
La controverse a rapidement dépassé les frontières américaines : le Japon, le Canada et le Royaume-Uni ont ouvert leurs propres enquêtes sur Grok, tandis que la Malaisie et l'Indonésie ont temporairement bloqué l'accès à la plateforme. La plainte collective mentionne également des investigations en cours dans l'Union européenne, en Irlande, en France et en Australie.
Une coalition de près de trente organisations de défense des droits des femmes, de protection de l'enfance et de surveillance technologique a par ailleurs demandé à Google et Apple de retirer X et Grok de leurs boutiques d'applications respectives.
Un précédent juridique à fort enjeu
Selon Even Alex Chandra, associé du cabinet IGNOS Law Alliance, les tribunaux pourraient refuser à xAI la défense classique du simple hébergeur de contenu, considérant qu'un système d'IA génératif peut être « traité comme une plateforme du point de vue de l'interaction utilisateur » mais « évalué comme un produit » lorsqu'il s'agit d'apprécier la sécurité de sa conception avec un « contrôle particulièrement strict » dans les affaires impliquant des mineurs.
Les plaignantes demandent des sanctions civiles en vertu d'un ensemble de textes protégeant les enfants exploités et prévenant la négligence des entreprises. Elles réclament notamment des dommages et intérêts d'au moins 150 000 dollars par violation en vertu de la loi Masha, le remboursement des revenus perçus par xAI, des dommages punitifs, et une injonction permanente.
L'action collective vise à représenter l'ensemble des personnes aux États-Unis dont des images, prises alors qu'elles étaient mineures, ont été transformées par Grok en contenus sexualisés. Les avocates estiment que les victimes potentielles se comptent en milliers.
La sécurité par conception : un standard que xAI aurait délibérément ignoré
Un argument de fond développé dans la plainte mérite une attention particulière : d'autres générateurs d'images par apprentissage profond utilisent diverses techniques pour empêcher la création de pédopornographie à partir de photographies ordinaires. La plainte allègue que ces standards n'ont pas été adoptés par xAI.
C'est là la thèse la plus dévastatrice pour l'entreprise : non pas qu'elle aurait failli à prévenir un risque imprévu, mais qu'elle aurait sciemment fait le choix de ne pas implémenter des mécanismes de protection pourtant disponibles et déployés par ses concurrents. Selon les termes de la plainte, aucun intérêt commercial légitime ne justifie de concevoir un outil de génération d'images par IA capable de produire des contenus pédopornographiques.
Les avocates écrivent que les victimes « devront passer le reste de leur vie en sachant que leurs images et vidéos pédopornographiques pourraient continuer à être trafiquées et échangées en ligne par des prédateurs sexuels ». Une phrase qui résume avec une précision clinique ce que signifie concrètement l'irréversibilité du préjudice numérique.
Sources : plainte en recours collectif, Elon Musk, procureur général de Californie
Et vous ?
La responsabilité du fournisseur de modèle : Faut-il distinguer juridiquement entre une entreprise qui héberge des contenus illicites et une entreprise dont les modèles, accessibles via API, permettent à des tiers de les produire ? La distinction est-elle encore tenable quand le fournisseur perçoit des revenus directs de cet accès ? Le « safety by design » comme obligation légale : Si d'autres acteurs (OpenAI, Stability AI, Midjourney) ont déployé des filtres anti-CSAM avant de mettre leurs modèles sur le marché, l'absence de tels filtres chez xAI peut-elle être assimilée à une faute délibérée ? Devrait-on exiger une certification de sécurité préalable au déploiement de tout modèle génératif d'images ? L'immunité des plateformes face à l'IA générative : Le régime d'immunité prévu par la Section 230 du Communications Decency Act (son équivalent américain) a été conçu pour des plateformes passives. S'applique-t-il à un système qui génère activement du contenu, même à la demande d'un utilisateur tiers ? La modération à l'ère du modèle-as-a-service : Dans un écosystème où les modèles fondamentaux sont distribués via API à des milliers d'applications tierces, qui porte la responsabilité de la modération ? Est-il réaliste (ou souhaitable) d'imposer cette charge uniquement aux développeurs d'applications ?
Vous avez lu gratuitement 2 942 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par J_P_P
