La Commission européenne a ouvert une enquête sur X, la société d'Elon Musk, soupçonnée d'avoir utilisé son outil d'IA Grok pour créer des images à caractère sexuel de personnes réelles

La Commission européenne a ouvert une enquête sur X, la société d'Elon Musk, soupçonnée d'avoir utilisé son outil d'IA Grok pour créer des images à caractère sexuel de personnes réelles

La Commission européenne a ouvert une enquête sur X, la société d'Elon Musk, car son outil d'IA Grok a été utilisé pour créer des images à caractère sexuel de personnes réelles. Cette décision fait suite à une annonce similaire faite par l'autorité de régulation britannique Ofcom. Si le site est reconnu coupable d'avoir enfreint les règles de l'UE en vertu de la loi sur les services numériques, la Commission pourrait infliger à l'entreprise une amende pouvant atteindre 6 % de son chiffre d'affaires annuel mondial. Avant l'annonce de la Commission, Elon Musk a publié une photo sur X semblant minimiser les nouvelles restrictions mises en place autour de Grok.

Elon Musk a doté Grok d'une fonctionnalité permettant à un utilisateur de X de générer des images explicites à partir de la photo d'un autre utilisateur sans son consentement. La plateforme a rapidement été inondée d'images explicites, y compris de mineurs, suscitant un tollé mondial. Dans un premier temps, X a rejeté la responsabilité sur les utilisateurs, sans annoncer de correctifs techniques immédiats, puis a décidé quelques jours plus tard de limiter l'outil aux abonnés payants.

Mais cette mesure est jugée insuffisante. En réaction, des voix au Royaume-Uni, au Canada et en Australie appellent à interdire X. La ministre britannique de la Technologie, Liz Kendall, a déclaré qu'elle soutiendrait l'autorité de régulation Ofcom si celle-ci bloquait l'accès au Royaume-Uni à la plateforme pour non-respect des lois sur la sécurité en ligne. L'Ofcom affirme qu'il est en train de décider de toute urgence de la suite à donner à Grok.

Récemment, la Commission européenne a ouvert une enquête sur X, la société d'Elon Musk, car son outil d'IA Grok a été utilisé pour créer des images à caractère sexuel de personnes réelles. Cette décision fait suite à une annonce similaire faite par l'autorité de régulation britannique Ofcom. Si le site est reconnu coupable d'avoir enfreint les règles de l'UE en vertu de la loi sur les services numériques, la Commission pourrait infliger à l'entreprise une amende pouvant atteindre 6 % de son chiffre d'affaires annuel mondial.

Une déclaration précédente du compte Safety de X indiquait que la plateforme de médias sociaux avait empêché Grok de modifier numériquement des photos de personnes afin de leur retirer leurs vêtements dans les « juridictions où ce type de contenu est illégal ». Regina Doherty, membre du Parlement européen représentant l'Irlande, a déclaré que la Commission évaluerait si des « images sexuellement explicites manipulées » avaient été montrées aux utilisateurs dans l'UE.

Les militants et les victimes ont déclaré que la possibilité de générer des images sexuellement explicites à l'aide de cet outil n'aurait « jamais dû exister », et l'Ofcom a déclaré que son enquête se poursuivrait. Le régulateur européen a déclaré qu'il pourrait « imposer des mesures provisoires » si X refusait de mettre en œuvre des ajustements significatifs. Il a également déclaré avoir prolongé son enquête en cours, lancée en décembre 2023, sur les risques associés aux systèmes de recommandation de X, l'algorithme qui recommande des publications spécifiques aux utilisateurs.

Avant l'annonce de la Commission, Elon Musk a publié une photo sur X semblant minimiser les nouvelles restrictions mises en place autour de Grok. Le propriétaire de X a déjà critiqué ceux qui examinent de près la fonction d'édition d'images de l'application, en particulier le gouvernement britannique, la qualifiant de « prétexte à la censure ». Le compte Grok sur X a affirmé que plus de 5,5 milliards d'images avaient été générées par l'outil en seulement 30 jours.


D'autres enquêtes sur le chatbot de la plateforme sont en cours en Australie, en France et en Allemagne. Grok a été temporairement interdit en Indonésie et en Malaisie, bien que cette dernière ait désormais levé l'interdiction. Selon un rapport du Center for Countering Digital Hate (CCDH) et une enquête conjointe du New York Times, Grok a été capable de produire environ 3 millions d'images à caractère sexuel, dont 23 000 semblent représenter des enfants, sur une période de 11 jours entre le 29 décembre et le 8 janvier, alors que xAI était censé lutter contre les deepfakes « dénudés ». La publication a également établi un lien entre la forte augmentation de l'utilisation de Grok et les publications publiques du PDG Elon Musk le représentant en bikini, générées par Grok.

Henna Virkkunen, vice-présidente exécutive chargée de la souveraineté technologique, de la sécurité et de la démocratie à la Commission, a qualifié les deepfakes à caractère sexuel de « forme violente et inacceptable de dégradation ». « Grâce à cette enquête, nous déterminerons si X a respecté ses obligations légales en vertu de la DSA, ou s'il a traité les droits des citoyens européens, y compris ceux des femmes et des enfants, comme des dommages collatéraux de son service », a-t-elle déclaré.

Doherty a déclaré qu'il y avait des « questions sérieuses » quant à savoir si des plateformes telles que X respectaient leurs obligations légales « d'évaluer correctement les risques et d'empêcher la diffusion de contenus illégaux et préjudiciables ». « L'Union européenne a des règles claires pour protéger les personnes en ligne », a-t-elle déclaré. « Ces règles doivent avoir un sens dans la pratique, en particulier lorsque des technologies puissantes sont déployées à grande échelle. Aucune entreprise opérant dans l'UE n'est au-dessus des lois. »

Andrea Simon, directrice de la coalition End Violence Against Women, a déclaré que « compte tenu de la nature évolutive des préjudices générés par l'IA », la responsabilité « ne devrait pas s'arrêter » au retrait de contenu par X. « Nous attendons du gouvernement britannique qu'il fasse davantage pour garantir que les plateformes technologiques ne puissent pas tirer profit des abus en ligne, par exemple en s'appuyant sur la loi sur la sécurité en ligne afin qu'elle soit adaptée à son objectif », a-t-elle ajouté.

Si le Royaume-Uni envisage d'interdire X en vertu de la loi sur la sécurité en ligne, les sénateurs américains font pression sur Apple et Google pour qu'ils retirent l'application de leurs boutiques en ligne. En réponse, le PDG d'Epic Games a appelé les entreprises d'IA à « mettre fin aux demandes incessantes des politiciens qui exigent de tous les gardiens qu'ils censurent tous leurs adversaires politiques ». « Toutes les grandes IA ont connu des dérapages documentés ; toutes les grandes entreprises d'IA font de leur mieux pour lutter contre cela ; aucune n'est parfaite », a poursuivi Sweeney. « Les politiciens qui exigent des gardiens qu'ils écrasent de manière sélective l'entreprise de leurs adversaires politiques pratiquent tout simplement le capitalisme de copinage. »

Cette décision intervient un mois après que l'UE a infligé une amende de 120 millions d'euros à X pour ses badges bleus, affirmant qu'ils « trompent les utilisateurs » car l'entreprise ne « vérifie pas de manière significative » qui se cache derrière le compte. En réponse, le secrétaire d'État américain Marco Rubio et la Commission fédérale des communications (FCC) ont accusé le régulateur européen d'attaquer et de censurer les entreprises américaines. « L'amende infligée par la Commission européenne n'est pas seulement une attaque contre X, c'est une attaque contre toutes les plateformes technologiques américaines et le peuple américain par des gouvernements étrangers », a-t-il déclaré. Ses propos ont été republiés par Musk, qui a ajouté « absolument ».

Voici le communiqué de la Commission européenne :

La Commission enquête sur les systèmes de recommandation de Grok et X au titre de la loi sur les services numériques

La Commission européenne a ouvert une nouvelle enquête formelle à l'encontre de X au titre de la loi sur les services numériques (DSA). Parallèlement, la Commission a prolongé son enquête en cours, lancée en décembre 2023, sur le respect par X de ses obligations en matière de gestion des risques liés à ses systèmes de recommandation.

La nouvelle enquête permettra de déterminer si l'entreprise a correctement évalué et atténué les risques liés au déploiement des fonctionnalités de Grok dans X au sein de l'UE. Cela inclut les risques liés à la diffusion de contenus illégaux dans l'UE, tels que les images sexuellement explicites manipulées, y compris les contenus pouvant constituer du matériel pédopornographique.

Ces risques semblent s'être concrétisés, exposant les citoyens de l'UE à des préjudices graves. Compte tenu de cela, la Commission examinera plus en détail si X respecte ses obligations au titre de la DSA, à savoir :

- évaluer et atténuer avec diligence les risques systémiques, y compris la diffusion de contenus illégaux, les effets négatifs liés à la violence sexiste et les conséquences négatives graves pour le bien-être physique et mental résultant du déploiement des fonctionnalités de Grok sur sa plateforme.

- réaliser et transmettre à la Commission un rapport d'évaluation des risques ad hoc pour les fonctionnalités de Grok dans le service X ayant un impact critique sur le profil de risque de X avant leur déploiement.

Par ailleurs, la Commission a prolongé la procédure formelle engagée à l'encontre de X en décembre 2023 afin de déterminer si X a correctement évalué et atténué tous les risques systémiques, tels que définis dans la DSA, associés à ses systèmes de recommandation, y compris l'impact de son passage récemment annoncé à un système de recommandation basé sur Grok.

Si elles sont avérées, ces défaillances constitueraient des infractions aux articles 34, paragraphes 1 et 2, 35, paragraphe 1, et 42, paragraphe 2, de la DSA. La Commission va désormais mener une enquête approfondie en priorité. L'ouverture d'une procédure formelle ne préjuge pas de son issue.

Pour préparer cette enquête, la Commission a collaboré étroitement avec Coimisiún na Meán, le coordinateur irlandais des services numériques. En outre, Coimisiún na Meán sera associé à cette enquête, conformément à l'article 66, paragraphe 3, en tant que coordinateur national des services numériques dans le pays d'établissement au sein de l'UE.

Prochaines étapes

La Commission continuera à recueillir des preuves, par exemple en envoyant des demandes d'informations supplémentaires, en menant des entretiens ou des inspections, et pourra imposer des mesures provisoires en l'absence d'ajustements significatifs du service X.

L'ouverture d'une procédure formelle habilite la Commission à prendre d'autres mesures coercitives, telles que l'adoption d'une décision de non-conformité. La Commission est également habilitée à accepter tout engagement pris par X pour remédier aux problèmes faisant l'objet de la procédure.

L'ouverture d'une procédure formelle décharge les coordinateurs des services numériques, ou toute autre autorité compétente des États membres de l'UE, de leurs pouvoirs de surveillance et d'application de la DSA en ce qui concerne les infractions présumées.

Source : Communiqué de la Commission européenne

Et vous ?

Pensez-vous que cette décision est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

X accuse les utilisateurs d'être responsables des contenus pédopornographiques générés par Grok, aucune solution n'a été annoncée : quand une plateforme blâme ses utilisateurs plutôt que son algorithme

Grok a finalement été mis à jour pour ne plus dévêtir les femmes et les enfants. Le procureur général de Californie va enquêter pour déterminer si le bot d'Elon Musk a enfreint les lois américaines

Elon Musk affirme que son chatbot IA, Grok, doit avoir une « constitution morale » après la condamnation de son entreprise d'IA pour l'utilisation abusive de Grok dans la création de photographies obscènes