La Malaisie et l'Indonésie bloquent l'accès au chatbot IA Grok d'Elon Musk en raison d'images deepfake : « Les deepfakes constituent une grave violation des droits humains, de la dignité »

La Malaisie et l'Indonésie bloque l'accès au chatbot IA Grok d'Elon Musk en raison d'images deepfake : « Les deepfakes constituent une grave violation des droits humains, de la dignité »

L'Indonésie est devenue le premier pays à refuser tout accès chatbot IA Grok d'Elon Musk. « Le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l'espace numérique », a déclaré une ministre. La Malaisie a également suspendu l'accès au chatbot Grok d'Elon Musk en raison de contenus pornographiques générés par l'IA, a déclaré l'autorité de régulation des technologies du pays.

Grok est un chatbot d'intelligence artificielle générative (IA générative) développé par xAI. Il a été lancé en novembre 2023 par Elon Musk comme une initiative basée sur le grand modèle de langage (LLM) du même nom. Grok dispose d'applications pour iOS et Android et est intégré à Twitter et au robot Optimus de Tesla. Le bot a généré diverses réponses controversées, notamment des théories du complot, du nazisme, y compris des éloges à Adolf Hitler, de l'antisémitisme et des images sexualisées d'enfants, ainsi que des références aux opinions de Musk lorsqu'il était interrogé sur des sujets controversés ou des décisions difficiles.

Depuis cette année, le réseau social X d'Elon Musk permet de modifier les images d'autres utilisateurs à l'aide de l'IA sans leur consentement. Le chatbot Grok habille Elon Musk en bikini à sa demande, et fait de même avec des enfants, des dirigeants mondiaux et des femmes. Le site a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées. Et il n'est pas possible de désactiver cette fonctionnalité. Les contenus sexuellement explicites partagés par Grok ont suscité l'indignation en ligne.

Face à cette situation, l'Indonésie est devenue le premier pays à refuser tout accès à cet outil, qui est limité aux abonnés payants dans les autres pays. La ministre indonésienne des Communications et des Affaires numériques, Meutya Hafid, a annoncé des blocages sur X. « Le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l'espace numérique », a déclaré la ministre.

La Malaisie a également suspendu l'accès au chatbot Grok d'Elon Musk en raison de contenus pornographiques générés par l'IA, a déclaré l'autorité de régulation des technologies du pays. La Commission malaisienne des communications et du multimédia a déclaré dans un communiqué qu'elle avait « ordonné une restriction temporaire de l'accès à l'intelligence artificielle Grok pour les utilisateurs en Malaisie », avec effet immédiat.


Ces décisions font suite à une vague de protestations mondiales après qu'il est apparu que la fonctionnalité de création d'images de Grok permettait aux utilisateurs de sexualiser des photos de femmes et d'enfants à l'aide de simples invites textuelles. « Cette mesure fait suite à des utilisations abusives répétées de Grok pour générer des images obscènes, sexuellement explicites, indécentes, grossièrement offensantes et manipulées sans consentement », a déclaré le régulateur malaisien.

Le communiqué cite « des contenus impliquant des femmes et des mineurs, malgré un engagement réglementaire préalable et des avis formels » adressés à la société X Corp. de Musk et à la start-up xAI qui a développé Grok. L'outil d'IA est intégré à la plateforme de médias sociaux X.

Le régulateur malaisien a déclaré qu'il jugeait les mesures de protection de la plateforme insuffisantes, ajoutant que l'accès ne serait rétabli qu'après vérification des modifications requises. X Corp. « n'avait pas su répondre aux risques inhérents à la conception et au fonctionnement de l'outil d'IA », s'appuyant « principalement sur des mécanismes de signalement initiés par les utilisateurs », a déclaré le régulateur.

Grok semblait avoir détourné les critiques grâce à une nouvelle politique de monétisation, publiant que la génération et l'édition d'images étaient désormais « réservées aux abonnés payants », avec un lien vers un abonnement premium. Des responsables européens et des militants technologiques ont critiqué Grok après que sa fonctionnalité controversée de création d'images ait été réservée aux abonnés payants, affirmant que ce changement ne répondait pas aux préoccupations concernant les deepfakes à caractère sexuel.

Sources : Ministre indonésienne des Communications et des Affaires numériques, Commission malaisienne des communications et du multimédia

Et vous ?

Pensez-vous que ces décisions sont crédibles ou pertinentes ?
Quel est votre avis sur le sujet ?

Voir aussi :

X accuse les utilisateurs d'être responsables des contenus pédopornographiques générés par Grok, aucune solution n'a été annoncée : quand une plateforme blâme ses utilisateurs plutôt que son algorithme

Le réseau social X d'Elon Musk menacé d'interdiction au Royaume-Uni, au Canada et en Australie en raison de la capacité de son IA Grok à générer des images explicites, y compris de mineurs

Grok, l'IA « anti-woke » d'Elon Musk, dérape : éloge d'Hitler, glorification de Musk pour avoir supprimé les filtres « woke », attaque contre Donald Trump au sujet des inondations au Texas