La Commission européenne a ouvert une enquête sur X, la société d'Elon Musk, car son outil d'IA Grok a été utilisé pour créer des images à caractère sexuel de personnes réelles. Cette décision fait suite à une annonce similaire faite par l'autorité de régulation britannique Ofcom. Si le site est reconnu coupable d'avoir enfreint les règles de l'UE en vertu de la loi sur les services numériques, la Commission pourrait infliger à l'entreprise une amende pouvant atteindre 6 % de son chiffre d'affaires annuel mondial. Avant l'annonce de la Commission, Elon Musk a publié une photo sur X semblant minimiser les nouvelles restrictions mises en place autour de Grok.Elon Musk a doté Grok d'une fonctionnalité permettant à un utilisateur de X de générer des images explicites à partir de la photo d'un autre utilisateur sans son consentement. La plateforme a rapidement été inondée d'images explicites, y compris de mineurs, suscitant un tollé mondial. Dans un premier temps, X a rejeté la responsabilité sur les utilisateurs, sans annoncer de correctifs techniques immédiats, puis a décidé quelques jours plus tard de limiter l'outil aux abonnés payants.
Mais cette mesure est jugée insuffisante. En réaction, des voix au Royaume-Uni, au Canada et en Australie appellent à interdire X. La ministre britannique de la Technologie, Liz Kendall, a déclaré qu'elle soutiendrait l'autorité de régulation Ofcom si celle-ci bloquait l'accès au Royaume-Uni à la plateforme pour non-respect des lois sur la sécurité en ligne. L'Ofcom affirme qu'il est en train de décider de toute urgence de la suite à donner à Grok.
Récemment, la Commission européenne a ouvert une enquête sur X, la société d'Elon Musk, car son outil d'IA Grok a été utilisé pour créer des images à caractère sexuel de personnes réelles. Cette décision fait suite à une annonce similaire faite par l'autorité de régulation britannique Ofcom. Si le site est reconnu coupable d'avoir enfreint les règles de l'UE en vertu de la loi sur les services numériques, la Commission pourrait infliger à l'entreprise une amende pouvant atteindre 6 % de son chiffre d'affaires annuel mondial.
Une déclaration précédente du compte Safety de X indiquait que la plateforme de médias sociaux avait empêché Grok de modifier numériquement des photos de personnes afin de leur retirer leurs vêtements dans les « juridictions où ce type de contenu est illégal ». Regina Doherty, membre du Parlement européen représentant l'Irlande, a déclaré que la Commission évaluerait si des « images sexuellement explicites manipulées » avaient été montrées aux utilisateurs dans l'UE.
Les militants et les victimes ont déclaré que la possibilité de générer des images sexuellement explicites à l'aide de cet outil n'aurait « jamais dû exister », et l'Ofcom a déclaré que son enquête se poursuivrait. Le régulateur européen a déclaré qu'il pourrait « imposer des mesures provisoires » si X refusait de mettre en œuvre des ajustements significatifs. Il a également déclaré avoir prolongé son enquête en cours, lancée en décembre 2023, sur les risques associés aux systèmes de recommandation de X, l'algorithme qui recommande des publications spécifiques aux utilisateurs.
Avant l'annonce de la Commission, Elon Musk a publié une photo sur X semblant minimiser les nouvelles restrictions mises en place autour de Grok. Le propriétaire de X a déjà critiqué ceux qui examinent de près la fonction d'édition d'images de l'application, en particulier le gouvernement britannique, la qualifiant de « prétexte à la censure ». Le compte Grok sur X a affirmé que plus de 5,5 milliards d'images avaient été générées par l'outil en seulement 30 jours.
D'autres enquêtes sur le chatbot de la plateforme sont en cours en Australie, en France et en Allemagne. Grok a été temporairement interdit en Indonésie et en Malaisie, bien que cette dernière ait désormais levé l'interdiction. Selon un rapport du Center for Countering Digital Hate (CCDH) et une enquête conjointe du New York Times, Grok a été capable de produire environ 3 millions d'images à caractère sexuel, dont 23 000 semblent représenter des enfants, sur une période de 11 jours entre le 29 décembre et le 8 janvier, alors que xAI était censé lutter contre les deepfakes « dénudés ». La publication a également établi un lien entre la forte augmentation de l'utilisation de Grok et les publications publiques du PDG Elon Musk le représentant en bikini, générées par Grok.
Henna Virkkunen, vice-présidente exécutive chargée de la souveraineté technologique, de la sécurité et de la démocratie à la Commission, a qualifié les deepfakes à caractère sexuel de « forme violente et inacceptable de dégradation ». « Grâce à cette enquête, nous déterminerons si X a respecté ses obligations légales en vertu de la DSA, ou s'il a traité les droits des citoyens européens, y compris ceux des femmes et des enfants, comme des dommages collatéraux de son service », a-t-elle déclaré.
Doherty a déclaré qu'il y avait des « questions sérieuses » quant à savoir si des plateformes telles que X respectaient leurs obligations légales « d'évaluer correctement les risques et d'empêcher la diffusion de contenus illégaux et préjudiciables ». « L'Union européenne a des règles claires pour protéger les personnes en ligne », a-t-elle déclaré. « Ces règles doivent avoir un sens dans la pratique, en particulier lorsque des technologies puissantes sont déployées à grande échelle. Aucune entreprise opérant dans l'UE n'est au-dessus des lois. »
Andrea Simon, directrice de la coalition End Violence Against Women, a déclaré que « compte tenu de la nature évolutive des préjudices générés par l'IA », la responsabilité « ne devrait pas s'arrêter » au retrait de contenu par X. « Nous attendons du gouvernement britannique qu'il fasse davantage pour garantir que les plateformes technologiques ne puissent pas tirer profit des abus en ligne, par exemple en s'appuyant sur la loi sur la sécurité en ligne afin qu'elle soit adaptée à son objectif », a-t-elle ajouté.
Si le Royaume-Uni envisage d'interdire X en vertu de la loi sur la sécurité en ligne, les sénateurs américains font pression sur Apple et Google pour qu'ils retirent l'application de leurs boutiques en ligne. En réponse, le PDG d'Epic Games a appelé les entreprises d'IA à « mettre fin aux demandes incessantes des politiciens qui exigent de tous les gardiens qu'ils censurent tous leurs adversaires politiques ». « Toutes les grandes IA ont connu des dérapages documentés ; toutes les grandes entreprises d'IA font de leur mieux pour lutter contre cela ; aucune n'est parfaite », a poursuivi Sweeney. « Les politiciens qui exigent des gardiens qu'ils écrasent de manière sélective l'entreprise de leurs adversaires politiques pratiquent tout simplement le capitalisme de copinage. »
Cette décision intervient un mois après que l'UE a infligé une amende de 120 millions d'euros à X pour ses badges bleus, affirmant qu'ils « trompent les utilisateurs » car l'entreprise ne « vérifie pas de manière significative » qui se cache derrière le compte. En réponse, le secrétaire d'État américain Marco Rubio et la Commission fédérale des communications (FCC) ont accusé le régulateur européen d'attaquer et de censurer les entreprises américaines. « L'amende infligée par la Commission européenne n'est pas seulement une attaque contre X, c'est une attaque contre toutes les plateformes technologiques américaines et le peuple américain par des gouvernements étrangers », a-t-il déclaré. Ses propos ont été republiés par Musk, qui a ajouté « absolument ».
Voici le communiqué de la Commission européenne :
La Commission enquête sur les systèmes de recommandation de Grok et X au titre de la loi sur les services numériques
La Commission européenne a ouvert une nouvelle enquête formelle à l'encontre de X au titre de la loi sur les services numériques (DSA). Parallèlement, la Commission a prolongé son enquête en cours, lancée en décembre 2023, sur le respect par X de ses obligations en matière de gestion des risques liés à ses systèmes de recommandation.
La nouvelle enquête permettra de déterminer si l'entreprise a correctement évalué et atténué les risques liés au déploiement des fonctionnalités de Grok dans X au sein de l'UE. Cela inclut les risques liés à la diffusion de contenus illégaux dans l'UE, tels que les images sexuellement explicites manipulées, y compris les contenus pouvant constituer du matériel pédopornographique.
Ces risques semblent s'être concrétisés, exposant les citoyens de l'UE à des préjudices graves. Compte tenu de cela, la Commission examinera plus en détail si X respecte ses...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.