Le consultant politique Steven Kramer, ancien président du Parti démocrate du New Hampshire, a été condamné à une amende de 6 millions de dollars par la Commission fédérale des communications (FCC) pour avoir envoyé des appels automatisés générés par intelligence artificielle (IA) imitant la voix du président Joe Biden à des électeurs avant les primaires présidentielles du New Hampshire. Cette amende est la première du genre impliquant la technologie d’IA générative. La société accusée d’avoir transmis ces appels, Lingo Telecom, risque également une amende de 2 millions de dollars. Dans les deux cas, les parties pourraient négocier un règlement avec la FCC.Steve Kramer, un agent démocrate qui a admis avoir commandé un appel téléphonique automatisé imitant la voix du président Biden, généré par une intelligence artificielle, qui demandait aux électeurs du New Hampshire de ne pas voter tôt cette année, est maintenant accusé d'infractions pénales et se voit infliger des amendes fédérales. Kramer, qui a travaillé pour Dean Phillips, candidat démocrate de longue date à l'élection présidentielle qui a mis fin à sa campagne en mars, a affirmé avoir créé cet appel automatisé pour sensibiliser le public aux dangers de l'IA dans les campagnes politiques.
L'appel, qui a été lancé le week-end précédant les primaires du New Hampshire, ressemblait à une voix générée numériquement et usurpant l'identité de Biden, qui conseillait aux gens de ne pas voter mardi, selon les plaintes que le procureur général du New Hampshire avait déclaré examiner en janvier. L'appel, qui commençait par une phrase de Biden qualifiant l'élection de « tas de bêtises », disait aux électeurs : « Il est important que vous gardiez votre vote pour les élections de novembre » (rendez-vous à 1:00 de la vidéo).
Biden ne figurait pas sur le bulletin de vote de la primaire présidentielle démocrate du New Hampshire, mais un groupe de démocrates a organisé une campagne visant à inscrire son nom en signe de soutien au président sortant. « Voter ce mardi ne fait que permettre aux Républicains d'élire à nouveau Donald Trump », disait l'appel, selon un enregistrement audio fourni par un organisateur de la campagne d'inscription de Biden. « Votre vote fera la différence en novembre, pas ce mardi ».
Il a été inculpé
Le procureur général du New Hampshire, John Formella, a annoncé jeudi que Kramer avait été inculpé pour suppression d'électeurs et usurpation d'identité d'un candidat. Il fait face à un total de 26 chefs d'accusation dans quatre comtés, sur la base des résidences de 13 habitants du New Hampshire qui ont reçu les appels.
La Commission fédérale des communications a également annoncé jeudi qu'elle proposerait d'infliger une amende de 6 millions de dollars à Kramer pour avoir enfreint la loi sur la vérité de l'identification de l'appelant (Truth in Caller ID Act). Dans un communiqué, Formella a déclaré qu'il espérait que les mesures d'application fédérales et étatiques « envoient un signal dissuasif fort à tous ceux qui pourraient envisager d'interférer avec les élections, que ce soit par l'utilisation de l'intelligence artificielle ou d'une autre manière ».
Phillips, qui a nié toute implication dans l'appel automatisé, a déclaré dans un communiqué après l'inculpation de Kramer que cette affaire « est un canari dans la mine de charbon ». « Le Congrès doit prendre des mesures immédiates pour gérer l'utilisation néfaste de l'intelligence artificielle avant qu'elle ne nous gère sûrement », a-t-il poursuivi.
En février, Kramer a déclaré qu'il avait envoyé l'appel à « un peu moins de 5 000 » personnes figurant sur la liste des « démocrates les plus susceptibles » de voter lors des primaires du New Hampshire.
L'implication de Lingo Telecom
« Nous agirons rapidement et de manière décisive pour garantir que les mauvais acteurs ne puissent pas utiliser les réseaux de télécommunications américains pour faciliter l'utilisation abusive de la technologie d'IA générative afin d'interférer avec les élections, de frauder les consommateurs ou de compromettre des données sensibles », a déclaré Loyaan Egal, qui dirige le bureau d'application de la FCC, dans un communiqué.
Selon la FCC, Kramer a engagé Voice Broadcasting Corp. pour gérer les transmissions d'appels, qui à son tour a utilisé les services de Life Corp. basée au Texas pour acheminer les appels via le fournisseur de services vocaux Lingo Telecom.
Lingo a ensuite transmis ces appels et les a incorrectement marqués avec le niveau le plus élevé d'attestation d'identification de l'appelant, réduisant ainsi les chances que d'autres fournisseurs identifient les appels comme des communications fictives, a ajouté l'agence. Dans le cadre d'une action distincte annoncée jeudi, la Commission a proposé une amende de 2 millions de dollars à l'encontre de Lingo pour n'avoir pas utilisé les mesures adéquates de connaissance du client destinées à authentifier les données d'identification de l'appelant liées aux robocalls.
« Parce que lorsqu'un appelant ressemble à un politicien que vous connaissez, à une célébrité que vous aimez ou à un membre de votre famille qui vous est familier, chacun d'entre nous peut être amené à croire quelque chose qui n'est pas vrai avec des appels utilisant la technologie de l'IA », a déclaré Jessica Rosenworcel, présidente de la FCC, dans un communiqué.
Présidente de la FCC : « ce n'est que le début »
La présidente de la FCC, Jessica Rosenworcel, a déclaré dans un communiqué que ces mesures n'étaient « qu'un début », car « les technologies d'intelligence artificielle qui permettent d'inonder facilement et à peu de frais nos réseaux de fausses informations sont utilisées de bien des façons, ici et à l'étranger ».
Ci-dessous, un extrait de son communiqué :
« L'année dernière, au Nigéria, un clip manipulé à l'aide de l'intelligence artificielle s'est largement répandu. Il montrait un candidat à l'élection présidentielle en train de truquer des bulletins de vote. En Slovaquie, les habitants du pays ont entendu un clip audio manipulé montrant un candidat de l'opposition soutenant à la fois la fraude électorale et une tentative d'augmentation du prix de la bière.
« Mais il n'est pas nécessaire de se rendre dans des contrées lointaines pour voir comment l'IA peut semer la confusion. En effet, cette année, aux États-Unis, une campagne frauduleuse a ciblé les électeurs du New Hampshire. Elle a utilisé un clonage vocal généré par l'IA pour imiter un message non autorisé du président Biden, deux jours avant l'élection primaire dans cet État. C'est inquiétant. En effet, lorsqu'un appelant ressemble à un homme politique que vous connaissez, à une célébrité que vous appréciez ou à un membre de votre famille qui vous est familier, chacun d'entre nous peut être amené à croire quelque chose de faux grâce à des appels utilisant la technologie de l'IA. C'est exactement comme cela que les mauvais acteurs derrière ces appels indésirables avec des voix manipulées veulent que vous réagissiez
« Aussi, lorsque nous avons constaté que cela se produisait ici, sur nos côtes, nous avons agi rapidement. La Commission fédérale des communications a rendu une décision déclaratoire qui établit clairement que les appels téléphoniques robotisés "à voix artificielle ou préenregistrée" utilisant la technologie de clonage de la voix artificielle violent la loi sur la protection des consommateurs en matière de téléphonie (Telephone Consumer Protection Act). Nous nous sommes associés à cet effort avec les procureurs généraux des États, y compris celui du New Hampshire, qui est l'un des 49 procureurs généraux des États à avoir signé un protocole d'accord pour travailler avec cette agence sur les appels téléphoniques indésirables. Cette décision est importante. Elle donne à nos collègues des États le droit de poursuivre les acteurs malveillants à l'origine de ces appels et de demander des dommages-intérêts...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.