Après des perquisitions en France et au Royaume-Uni, l'autorité européenne de protection des données a ouvert une enquête « à grande échelle » sur X, l'entreprise d'Elon MuskL'autorité irlandaise de protection des données a lancé une enquête « à grande échelle » sur X après que des rapports ont révélé que des millions d'images à caractère sexuel explicite ou suggestif avaient été créées sans consentement à l'aide de l'IA Grok. Le siège européen de X est situé à Dublin. L'enquête de la Commission de protection des données (DPC) vise à déterminer si X Internet Unlimited Company (XIUC) a respecté ses obligations au titre du RGPD, et plus précisément la légalité du traitement des données et les exigences légales relatives à la réalisation d'une analyse d'impact sur la protection des données concernant les personnes concernées dans l'UE.
Grok est un chatbot à intelligence artificielle générative (IA générative) développé par xAI. Il a été lancé en novembre 2023 par Elon Musk et dispose d'applications pour iOS et Android et est intégré à Twitter et au robot Optimus de Tesla. Le chatbot a généré diverses réponses controversées, notamment des théories du complot, des éloges à Adolf Hitler, de l'antisémitisme et la création d'images non consensuelles et sexualisées de femmes et d'enfants dénudés.
Selon un rapport du Center for Countering Digital Hate (CCDH) et une enquête conjointe du New York Times, Grok a été capable de produire environ 3 millions d'images à caractère sexuel, dont 23 000 semblent représenter des enfants, sur une période de 11 jours entre le 29 décembre et le 8 janvier, alors que xAI était censé lutter contre les deepfakes « dénudés ». La publication a également établi un lien entre la forte augmentation de l'utilisation de Grok et les publications publiques du PDG Elon Musk le représentant en bikini, générées par Grok.
Ce rapport intervient alors que la société mère de Grok, xAI, fait l'objet d'une enquête de la part de plusieurs gouvernements étrangers et de l'État de Californie pour son rôle dans la génération de deepfakes sexualisés ou « dénudés » de personnes et de mineurs. Début février, la brigade cybercriminalité du parquet de Paris a mené une perquisition dans les bureaux locaux de la plateforme de médias sociaux X (anciennement Twitter), propriété d'Elon Musk. Le fondateur et PDG de Telegram, Pavel Durov, a révélé : « La police française perquisitionne actuellement les bureaux de X à Paris. La France est le seul pays au monde à poursuivre pénalement tous les réseaux sociaux qui offrent une certaine liberté aux utilisateurs (Telegram, X, TikTok...) ».
Récemment, l'autorité irlandaise de protection des données a lancé une enquête « à grande échelle » sur X après que des rapports ont révélé que des millions d'images à caractère sexuel explicite ou suggestif avaient été créées sans consentement à l'aide de l'IA Grok. Le siège européen de X est situé à Dublin. L'enquête de la Commission de protection des données (DPC) vise à déterminer si X Internet Unlimited Company (XIUC) a respecté ses obligations au titre du RGPD, et plus précisément la légalité du traitement des données et les exigences légales relatives à la réalisation d'une analyse d'impact sur la protection des données concernant les personnes concernées dans l'UE.
« La DPC est en contact avec XIUC depuis que les médias ont commencé à faire état, il y a plusieurs semaines, de la capacité présumée des utilisateurs de X à demander au compte @*Grok sur X de générer des images à caractère sexuel de personnes réelles, y compris des enfants », a déclaré Graham Doyle, commissaire adjoint de la DPC. « La DPC a lancé une enquête à grande échelle qui examinera le respect par XIUC de certaines de ses obligations fondamentales en vertu du RGPD en ce qui concerne les questions en jeu ».
Les utilisateurs de X pouvaient demander à Grok de « nudifier » des personnes après que la plateforme ait doté le bot IA de la capacité de modifier des images à la fin du mois de décembre dernier. Selon une analyse, les demandes adressées à Grok pour déshabiller des personnes concernaient généralement des femmes et des enfants. La réaction officielle de l’entreprise a surpris, voire choqué : X rejette la responsabilité sur les utilisateurs, sans annoncer de correctifs techniques immédiats. Après une vive réaction, X a décidé de limiter les capacités d'édition d'images du chatbot aux abonnés payants de la plateforme, avant de bloquer géographiquement la fonction de « nudification » de Grok dans les « juridictions où elle est illégale ». Cependant, il semble que ces fonctionnalités soient toujours accessibles via un VPN.
L'enquête irlandaise sur X fait suite à des enquêtes similaires lancées le mois dernier par la Commission européenne et le gouvernement britannique sur la plateforme détenue par Elon Musk. Parallèlement, une enquête menée depuis un an par les autorités françaises s'est élargie afin d'examiner le rôle éventuel de Grok dans la diffusion de négationnisme et de deepfakes à caractère sexuel. La Californie a également lancé le mois dernier une enquête similaire sur X et la société mère de Grok, xAI.
L'UE poursuit également une enquête distincte, qui dure depuis plusieurs années, sur X afin d'évaluer si la plateforme a atténué les risques liés à ses systèmes de recommandation, y compris l'impact du passage récemment annoncé à un système de recommandation basé sur Grok. Dans ce contexte de difficultés juridiques pour X, l'entreprise spatiale de Musk, SpaceX, a récemment annoncé avoir racheté xAI afin de créer la plus grande entreprise privée au monde, estimée à environ 1 250 milliards de dollars.
Voici le communiqué de l'autorité irlandaise de protection des données :
La Commission de protection des données ouvre une enquête sur X (XIUC)
La Commission de protection des données (DPC) a annoncé aujourd'hui avoir ouvert une enquête sur X Internet Unlimited Company (XIUC) en vertu de l'article 110 de la loi de 2018 sur la protection des données.
L'enquête porte sur la création et la publication apparentes, sur la plateforme X, d'images potentiellement préjudiciables, intimes et/ou à caractère sexuel, sans consentement, contenant ou impliquant le traitement de données à caractère personnel de personnes concernées de l'UE/EEE, y compris des enfants, à l'aide d'une fonctionnalité d'intelligence artificielle générative associée au modèle linguistique Grok au sein de la plateforme X.
La décision d'ouvrir l'enquête a été notifiée à XIUC le lundi 16 février. L'enquête a pour but de déterminer si XIUC a respecté ses obligations au titre du RGPD, notamment celles prévues à l'article 5 (principes relatifs au traitement), à l'article 6 (licéité du traitement), à l'article 25 (protection des données dès la conception et par défaut) et à l'article 35 (obligation de réaliser une analyse d'impact relative à la protection des données) en ce qui concerne les données à caractère personnel traitées de personnes concernées de l'UE/EEE.
Lors de l'annonce du lancement de l'enquête, le commissaire adjoint Graham Doyle a déclaré :
« La DPC est en contact avec XIUC depuis que les médias ont commencé à faire état, il y a plusieurs semaines, de la capacité présumée des utilisateurs de X à demander au compte @Grok sur X de générer des images à caractère sexuel de personnes réelles, y compris des enfants. En tant qu'autorité de contrôle principale de XIUC dans l'UE/EEE, la DPC a ouvert une enquête à grande échelle qui examinera le respect par XIUC de certaines de ses obligations fondamentales en vertu du RGPD en ce qui concerne les questions en jeu. »
Source : Communiqué de l'autorité irlandaise de protection des données
Et vous ?
Pensez-vous que cette décision est crédible ou pertinente ? Quel est votre avis sur le sujet ?Voir aussi :
Elon Musk dénonce la perquisition française dans les bureaux de X comme une "attaque politique", après des accusations d'abus d'algorithme, de négationnisme et de génération de deepfakes sexuels par l'IA Grok La Commission européenne a ouvert une enquête sur X, la société d'Elon Musk, soupçonnée d'avoir utilisé son outil d'IA Grok pour créer des images à caractère sexuel de personnes réelles Elon Musk affirme que son chatbot IA, Grok, doit avoir une « constitution morale » après la condamnation de son entreprise d'IA pour l'utilisation abusive de Grok dans la création de photographies obscènes
Vous avez lu gratuitement 2 892 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par Artaeus
Ruy2000,
Avec moins d'argent et en beaucoup moins de temps ils font mieux.
Tu sais que prendre cette décision va avoir des conséquences dramatiques sur ta vie, mais tu le fais quand même, car ta conscience te dicte que c'est la bonne chose à faire. Le gars subissait beaucoup moins d'attaques avant les histoires de rachat de Twitter. Il n'a strictement rien gagné de positif, il a bossé pour le DOGE mais son travail n'a servi à rien (les dépenses de l'état US sont toujours énorme). Pourvu qu'avec le temps le système le lâche un peu. Parce qu'il ne mérite pas le traitement qu'il subit, c'est pas un monstre dangereux pour l'humanité comme le sont Bill Gates et George Sorros.