Un rapport révèle que les promesses de "revenus passifs" sur Amazon ont donné lieu à des menaces de mort pour un avis négatif en ligne. Dans le cadre de l'opération "Operation AI Comply", la FTC a annoncé cinq mesures d'application de la loi à l'encontre d'entreprises qui utilisent le battage médiatique sur l'IA ou vendent des technologies d'IA susceptibles d'être utilisées de manière trompeuse et déloyale.La Commission fédérale du commerce (FTC) sévit contre les entreprises d'"automatisation" qui lancent et gèrent des activités en ligne pour le compte de clients en échange d'un investissement initial. La dernière affaire en date vise Ascend Ecom, qui a mis en place un système de vente en ligne pour gagner de l'argent, principalement sur Amazon. La FTC accuse la société de commerce électronique d'avoir escroqué les consommateurs d'au moins 25 millions de dollars par le biais de fausses déclarations, de pratiques commerciales trompeuses et de tentatives de suppression des critiques négatives.
Selon un rapport de CNBC, Jamaal Sanford a reçu un courriel inquiétant en mai 2023. Le message, dont l'expéditeur prétendait faire partie d'une "équipe fantôme russe", contenait l'adresse du domicile de Sanford, son numéro de sécurité sociale et le nom de l'établissement d'enseignement supérieur de sa fille. Il était accompagné d'une menace très précise. L'expéditeur affirmait que Sanford, qui vit à Springfield, dans le Missouri, ne serait en sécurité que s'il supprimait une critique négative en ligne. "Ne jouez pas les durs", disait l'e-mail. "Vous n'avez rien à gagner en conservant les avis et TOUT à perdre en refusant de coopérer."
Quelques mois plus tôt, Sanford avait laissé un commentaire cinglant sur le site d'évaluation Trustpilot à propos d'une société d'"automatisation" du commerce électronique appelée Ascend Ecom. La prétendue activité d'Ascend consistait à lancer et à gérer des vitrines Amazon pour le compte de clients, qui payaient pour le service et la promesse de gagner des milliers de dollars en "revenus passifs".
Sanford avait investi 35 000 dollars dans un tel projet. Il n'a jamais récupéré l'argent et est aujourd'hui endetté, selon un procès intenté par la FTC. Son expérience est un élément clé du procès intenté par la FTC, qui accuse Ascend d'avoir enfreint les lois fédérales en faisant de fausses déclarations concernant les revenus et les performances de l'entreprise, et en menaçant ou en pénalisant les clients qui publient des commentaires honnêtes, entre autres violations. La FTC cherche à obtenir une réparation pécuniaire pour les clients d'Ascend et à empêcher Ascend de faire des affaires de façon permanente.
La FTC annonce des mesures de répression contre les allégations et les stratagèmes trompeurs en matière d'IA
La Federal Trade Commission (FTC) prend des mesures à l'encontre de plusieurs entreprises qui se sont appuyées sur l'intelligence artificielle pour renforcer les comportements trompeurs ou déloyaux qui nuisent aux consommateurs, dans le cadre de sa nouvelle opération d'application de la loi baptisée "Operation AI Comply".
Les affaires annoncées comprennent des actions à l'encontre d'une société promouvant un outil d'IA permettant à ses clients de créer de fausses critiques, d'une société prétendant vendre des services d'"avocat de l'IA", et de plusieurs sociétés prétendant pouvoir utiliser l'IA pour aider les consommateurs à gagner de l'argent par l'intermédiaire de vitrines en ligne.
"L'utilisation d'outils d'IA pour tromper, induire en erreur ou escroquer les gens est illégale", a déclaré Lina Khan, présidente de la FTC. 'Les mesures d'application de la FTC montrent clairement qu'il n'y a pas d'exemption pour l'IA par rapport aux lois en vigueur. En s'attaquant aux pratiques déloyales ou trompeuses sur ces marchés, la FTC veille à ce que les entreprises et les innovateurs honnêtes puissent tirer leur épingle du jeu et à ce que les consommateurs soient protégés".
Les allégations relatives à l'IA sont de plus en plus répandues sur le marché, notamment les promesses fréquentes sur la manière dont elle pourrait améliorer la vie des gens grâce à l'automatisation et à la résolution de problèmes. Les cas inclus dans ce balayage montrent que les entreprises ont saisi l'engouement autour de l'IA et l'utilisent pour attirer les consommateurs dans de faux projets, et fournissent également des outils alimentés par l'IA qui peuvent donner un coup de fouet à la tromperie.
Les affaires de l'"Operation AI Comply" annoncées s'appuient sur un certain nombre d'affaires récentes de la FTC portant sur des allégations relatives à l'intelligence artificielle, notamment : Automators, un autre système de vitrine en ligne ; Career Step, une société qui aurait utilisé la technologie de l'IA pour convaincre les consommateurs de s'inscrire à une fausse formation professionnelle ; NGL Labs, une société qui aurait prétendu utiliser l'IA pour assurer la modération dans une application de messagerie anonyme qu'elle a illégalement commercialisée auprès des enfants ; Rite Aid, qui aurait utilisé la technologie de reconnaissance faciale de l'IA dans ses magasins sans garanties raisonnables ; et CRI Genetics, une société qui aurait trompé les utilisateurs sur l'exactitude de ses rapports ADN, y compris en affirmant qu'elle utilisait un algorithme d'IA pour effectuer des comparaisons génétiques.
DoNotPay
La FTC prend des mesures contre DoNotPay, une société qui prétendait offrir un service d'IA qui était "le premier avocat robot du monde", mais le produit n'a pas été à la hauteur de ses nobles prétentions selon lesquelles le service pouvait se substituer à l'expertise d'un avocat humain.
Selon la plainte déposée par la FTC, DoNotPay promettait que son service permettrait aux consommateurs de "poursuivre pour agression sans avocat" et de "générer des documents juridiques parfaitement valides en un rien de temps", et que l'entreprise "remplacerait l'industrie juridique, qui pèse 200 milliards de dollars, par l'intelligence artificielle". DoNotPay n'a toutefois pas pu tenir ses promesses. La plainte affirme que l'entreprise n'a pas effectué de tests pour déterminer si les résultats de son chatbot IA étaient équivalents à ceux d'un avocat humain, et que l'entreprise elle-même n'a pas embauché ou retenu les services d'avocats.
La plainte affirme également que DoNotPay propose un service qui vérifie si le site web d'une petite entreprise n'enfreint pas des centaines de lois fédérales et d'État, en se basant uniquement sur l'adresse électronique du consommateur. Cette fonction est censée détecter les infractions légales qui, si elles ne sont pas corrigées, pourraient coûter 125 000 dollars à une petite entreprise en frais de justice, mais selon la plainte, ce service n'était pas efficace non plus.
DoNotPay a accepté une proposition d'ordonnance de la Commission réglant les accusations portées contre elle. Le règlement exigerait qu'elle paie 193 000 dollars, qu'elle envoie un avis aux consommateurs qui se sont abonnés au service entre 2021 et 2023 pour les avertir des limites des fonctions juridiques du service. La proposition d'ordonnance interdira également à l'entreprise de faire des déclarations sur sa capacité à se substituer à tout service professionnel sans preuve à l'appui.
Ascend Ecom
La FTC a intenté une action en justice contre un programme d'opportunités commerciales en ligne qui, selon elle, a faussement prétendu que ses outils "de pointe" alimentés par l'IA aideraient les consommateurs à gagner rapidement des milliers de dollars par mois en revenus passifs en ouvrant des vitrines en ligne. Selon la plainte, le système a escroqué les consommateurs d'au moins 25 millions de dollars.
Le système est dirigé par William Basta et Kenneth Leung, et a fonctionné sous différents noms depuis 2021, notamment Ascend Ecom, Ascend Ecommerce, Ascend CapVentures, ACV Partners, ACV, Accelerated eCom Ventures, Ethix Capital by Ascend, et ACV Nexus.
Selon la plainte déposée par la FTC, les opérateurs de ce système facturent aux consommateurs des dizaines de milliers de dollars pour créer des boutiques en ligne sur des plateformes de commerce électronique telles qu'Amazon, Walmart, Etsy et TikTok, tout en leur demandant de dépenser des dizaines de milliers de dollars supplémentaires pour l'achat d'inventaire. Le contenu publicitaire d'Ascend affirmait que la société était un leader du commerce électronique, utilisant des logiciels propriétaires et l'intelligence artificielle pour maximiser le succès commercial des clients.
La plainte note que, bien qu'Ascend promette aux consommateurs de créer des magasins générant des revenus mensuels à cinq chiffres dès la deuxième année, pour la quasi-totalité des consommateurs, les gains promis ne se matérialisent jamais, et les consommateurs se retrouvent avec des comptes bancaires épuisés et des factures de carte de crédit élevées. La plainte affirme qu'Ascend a reçu de nombreuses plaintes de la part de consommateurs, qu'elle a fait pression sur ces derniers pour qu'ils modifient ou suppriment des avis négatifs sur Ascend, qu'elle n'a souvent pas respecté sa "garantie de rachat" et qu'elle a illégalement menacé de retenir la prétendue "garantie de rachat" pour ceux qui auraient laissé des avis négatifs sur la société en ligne.
À la suite de la plainte déposée par la FTC, un tribunal fédéral a ordonné l'arrêt temporaire du système et l'a placé sous le contrôle d'un administrateur judiciaire. La procédure engagée par la FTC contre le système est en cours et sera tranchée par un tribunal fédéral.
Les bâtisseurs d'empire du commerce électronique
La FTC a accusé un programme d'opportunités commerciales de prétendre faussement aider les consommateurs à construire un "empire du commerce électronique alimenté par l'IA" en participant à ses programmes de formation qui peuvent coûter près de 2 000 dollars ou en achetant une vitrine en ligne "faite pour vous" pour des dizaines de milliers de dollars. Ce système, connu sous le nom de Ecommerce Empire Builders (EEB), prétend que les consommateurs peuvent potentiellement gagner des millions de dollars, mais la plainte de la FTC affirme que ces profits ne se matérialisent pas.
Selon la plainte, le PDG d'EEB, Peter Prusinowski, a utilisé l'argent des consommateurs - jusqu'à 35 000 dollars provenant des consommateurs qui achètent des magasins - pour s'enrichir, tout en ne tenant pas les promesses de revenus importants par la vente de biens en ligne. Dans son marketing, EEB encourage les consommateurs à "laisser tomber les conjectures et à démarrer dès aujourd'hui un commerce d'un million de dollars" en exploitant la "puissance de l'intelligence artificielle" et les stratégies supposées du système.
Dans les publicités diffusées sur les réseaux sociaux, EEB affirme que ses clients peuvent gagner 10 000 dollars par mois, mais la plainte de la FTC indique que l'entreprise ne dispose d'aucune preuve pour étayer ces affirmations. De nombreux consommateurs se sont plaints que les magasins qu'ils ont achetés à EEB ne leur ont rapporté que peu ou pas d'argent, et que l'entreprise s'est refusée à les rembourser, soit en refusant de les rembourser, soit en ne leur accordant que des remboursements partiels.
À la suite de la plainte déposée par la FTC, un tribunal fédéral a rendu une ordonnance ordonnant l'arrêt temporaire du système et le plaçant sous le contrôle d'un administrateur judiciaire. La procédure engagée par la FTC à l'encontre du système est en cours et sera tranchée par un tribunal fédéral.
Rytr
Depuis avril 2021, Rytr a commercialisé et vendu un service d'IA "assistant d'écriture" pour un certain nombre d'utilisations, dont l'une était spécifiquement la génération de "Testimonial & Review". Les abonnés payants pouvaient générer un nombre illimité d'avis de consommateurs détaillés sur la base d'informations très limitées et génériques.
Selon la plainte déposée par la FTC, le service de Rytr générait des avis détaillés contenant des détails spécifiques, souvent importants, qui n'avaient aucun rapport avec les données fournies par l'utilisateur, et ces avis étaient presque certainement faux pour les utilisateurs qui les copiaient et les publiaient en ligne. Dans de nombreux cas, les avis générés par l'IA des abonnés contenaient des informations susceptibles de tromper les consommateurs potentiels qui utilisaient ces avis pour prendre des décisions d'achat. La plainte affirme également qu'au moins certains des abonnés de Rytr ont utilisé le service pour produire des centaines, et dans certains cas des dizaines de milliers, d'avis contenant potentiellement de fausses informations.
La plainte accuse Rytr d'avoir violé la loi sur la FTC en fournissant à ses abonnés les moyens de produire un contenu écrit faux et trompeur pour les avis des consommateurs. La plainte allègue également que Rytr s'est livrée à une pratique commerciale déloyale en offrant un service susceptible de polluer le marché par une surabondance de faux avis qui nuirait à la fois aux consommateurs et aux concurrents honnêtes.
La proposition d'ordonnance réglant la plainte de la Commission vise à empêcher Rytr d'adopter un comportement illégal similaire à l'avenir. Elle interdirait à l'entreprise de faire de la publicité, de promouvoir, de commercialiser ou de vendre tout service dédié à la génération d'avis ou de témoignages de consommateurs ou promu comme tel.
Machine FBA
En juin, la FTC a pris des mesures à l'encontre d'un système d'opportunités commerciales qui aurait faussement promis aux consommateurs qu'ils gagneraient un revenu garanti grâce à des vitrines en ligne utilisant un logiciel alimenté par l'IA. Selon la FTC, ce système, qui a fonctionné sous les noms de Passive Scaling et FBA Machine, a coûté aux consommateurs plus de 15,9 millions de dollars en raison de promesses de revenus trompeuses qui ne se concrétisent que rarement, voire jamais.
Selon la plainte, Bratislav Rozenfeld (également connu sous les noms de Steven Rozenfeld et Steven Rozen) exploite le système depuis 2021, initialement sous le nom de Passive Scaling. Lorsque Passive Scaling n'a pas tenu ses promesses et que les consommateurs ont demandé des remboursements et intenté des actions en justice, Rozenfeld a rebaptisé le système FBA Machine en 2023. Les documents de marketing de ce nouveau nom affirment que FBA Machine utilise des outils "alimentés par l'IA" pour aider à fixer le prix des produits dans les magasins et à maximiser les profits.
Les prétentions de l'escroquerie étaient très variées, promettant aux consommateurs qu'ils pourraient exploiter une "entreprise à sept chiffres" et citant de prétendus témoignages de clients qui "génèrent plus de 100 000 dollars de bénéfices par mois". Les agents commerciaux de la société ont affirmé aux consommateurs que l'activité était "sans risque" et ont faussement garanti des remboursements aux consommateurs qui ne récupéraient pas leurs investissements initiaux, qui allaient de dizaines de milliers à des centaines de milliers de dollars.
À la suite de la plainte déposée par la FTC, un tribunal fédéral a ordonné l'arrêt temporaire du système et l'a placé sous le contrôle d'un administrateur judiciaire. L'affaire contre le système est toujours en cours et sera jugée par un tribunal fédéral.
Source : Commission fédérale du commerce (FTC)
Et vous ?
Quel est votre avis sur le sujet ?Voir aussi :
La FTC annonce un règlement final interdisant les faux avis et témoignages, afin de renforcer l'application de la loi d'imposer des sanctions aux contrevenants et de dissuader les faux avis générés par l'IA L'IA est utilisée pour créer de fausses critiques dans les magasins d'applications qui servent souvent à gonfler artificiellement la crédibilité d'une application, selon un rapport alarmant L'IA et la prolifération de la désinformation en ligne : « Nous sommes vraiment à l'orée de la fin de l'internet et personne n'en parle », les défis du déluge de contenus générés automatiquement