Selon un rapport de NBC News, Apple aurait menacé en privé X (anciennement Twitter) et xAI d'Elon Musk de retirer l'application Grok de l'App Store, plus tôt cette année, à la suite de plaintes concernant des deepfakes à caractère sexuel générés par le chatbot d'intelligence artificielle (IA). La marque à la pomme a estimé que les applications X et Grok enfreignaient ses règles en matière de contenu et a exigé des mesures de modération plus strictes. Après avoir examiné les nouvelles mises à jour des applications, Apple a jugé que X avait largement remédié à ses manquements, tandis que Grok n'avait pas réussi les contrôles de conformité. Suite à de nouvelles soumissions des développeurs de Grok, Apple a approuvé la version révisée du chatbot, mais des rapports indiquent que celui-ci continue de générer certaines images à caractère sexuel non consensuelles.Pour rappel, en janvier dernier, les applications Grok et X d'Elon Musk ont suscité l'indignation en ligne après que le chatbot IA Grok a généré des images à caractère sexuel, notamment d'enfants, de femmes et de dirigeants mondiaux, sans leur consentement. Le réseau social X a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées, et il n'était pas possible de désactiver cette fonctionnalité.
Après avoir subi des pressions, Apple aurait menacé X et xAI de retirer l’application Grok de l’App Store plus tôt cette année. Selon un rapport de NBC News, le fabricant de l’iPhone a adressé une lettre à des sénateurs américains pour leur expliquer comment il avait agi en coulisses afin de régler les incidents, alors viraux, liés aux deepfakes à caractère sexuel générés par Grok.
Alors qu'Apple était restée silencieuse à l'époque, NBC News affirme que la société « a estimé que X et Grok enfreignaient ses directives » et « a menacé en privé de retirer » Grok de l'App Store.
Selon le rapport, Apple « a contacté les équipes derrière X et Grok après avoir reçu des plaintes et pris connaissance des articles consacrés à ce scandale », exigeant « des développeurs de ces applications qu'ils élaborent un plan visant à améliorer la modération des contenus ». Le rapport de NBC News indique que X a soumis une mise à jour de l'application Grok pour examen, mais que celle-ci a été rejetée car « les modifications n'allaient pas assez loin ».
Ce qu'Apple a déclaré dans sa lettre adressée à X et xAI d'Elon Musk
Comme le rapporte NBC News, Apple a déclaré dans cette lettre :
Envoyé par Apple
Apple a examiné les nouvelles soumissions des développeurs et a estimé que X avait largement remédié à ses infractions, mais que l'application Grok restait non conforme. En conséquence, nous avons rejeté la soumission de Grok et avons informé le développeur que des modifications supplémentaires seraient nécessaires pour remédier à l'infraction, faute de quoi l'application pourrait être retirée de l'App Store.
[…] À la suite de nouveaux échanges et des modifications apportées par les développeurs de Grok, nous avons constaté que Grok s'était considérablement amélioré et avons donc approuvé sa dernière version.
Cependant, dans un autre rapport, NBC News indique que Grok « continue de générer des images à caractère sexuel de personnes sans leur consentement », après avoir recensé des dizaines de cas de ce type au cours du mois de mars dernier. Le média précise par ailleurs que le volume d'images a considérablement diminué depuis le début de l'année.
Source : NBC News
Et vous ?
Quel est votre avis sur le sujet ? Trouvez-vous cette initiative d'Apple crédible ou pertinente ?Voir aussi :
Grok a inondé X en générant environ 3 millions d'images à caractère sexuel, dont 23 000 représentant des enfants, en 11 jours Grok transforme des photos scolaires en pédopornographie : xAI d'Elon Musk poursuivie dans un procès en recours collectif intenté par des mineures qui pourrait redéfinir la responsabilité des fournisseurs d'IA La Commission européenne a ouvert une enquête sur X, la société d'Elon Musk, soupçonnée d'avoir utilisé son outil d'IA Grok pour créer des images à caractère sexuel de personnes réelles
Vous avez lu gratuitement 3 197 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
