Le consultant politique Steven Kramer, ancien président du Parti démocrate du New Hampshire, a été condamné à une amende de 6 millions de dollars par la Commission fédérale des communications (FCC) pour avoir envoyé des appels automatisés générés par intelligence artificielle (IA) imitant la voix du président Joe Biden à des électeurs avant les primaires présidentielles du New Hampshire. Cette amende est la première du genre impliquant la technologie d’IA générative. La société accusée d’avoir transmis ces appels, Lingo Telecom, risque également une amende de 2 millions de dollars. Dans les deux cas, les parties pourraient négocier un règlement avec la FCC.Steve Kramer, un agent démocrate qui a admis avoir commandé un appel téléphonique automatisé imitant la voix du président Biden, généré par une intelligence artificielle, qui demandait aux électeurs du New Hampshire de ne pas voter tôt cette année, est maintenant accusé d'infractions pénales et se voit infliger des amendes fédérales. Kramer, qui a travaillé pour Dean Phillips, candidat démocrate de longue date à l'élection présidentielle qui a mis fin à sa campagne en mars, a affirmé avoir créé cet appel automatisé pour sensibiliser le public aux dangers de l'IA dans les campagnes politiques.
L'appel, qui a été lancé le week-end précédant les primaires du New Hampshire, ressemblait à une voix générée numériquement et usurpant l'identité de Biden, qui conseillait aux gens de ne pas voter mardi, selon les plaintes que le procureur général du New Hampshire avait déclaré examiner en janvier. L'appel, qui commençait par une phrase de Biden qualifiant l'élection de « tas de bêtises », disait aux électeurs : « Il est important que vous gardiez votre vote pour les élections de novembre » (rendez-vous à 1:00 de la vidéo).
Biden ne figurait pas sur le bulletin de vote de la primaire présidentielle démocrate du New Hampshire, mais un groupe de démocrates a organisé une campagne visant à inscrire son nom en signe de soutien au président sortant. « Voter ce mardi ne fait que permettre aux Républicains d'élire à nouveau Donald Trump », disait l'appel, selon un enregistrement audio fourni par un organisateur de la campagne d'inscription de Biden. « Votre vote fera la différence en novembre, pas ce mardi ».
Il a été inculpé
Le procureur général du New Hampshire, John Formella, a annoncé jeudi que Kramer avait été inculpé pour suppression d'électeurs et usurpation d'identité d'un candidat. Il fait face à un total de 26 chefs d'accusation dans quatre comtés, sur la base des résidences de 13 habitants du New Hampshire qui ont reçu les appels.
La Commission fédérale des communications a également annoncé jeudi qu'elle proposerait d'infliger une amende de 6 millions de dollars à Kramer pour avoir enfreint la loi sur la vérité de l'identification de l'appelant (Truth in Caller ID Act). Dans un communiqué, Formella a déclaré qu'il espérait que les mesures d'application fédérales et étatiques « envoient un signal dissuasif fort à tous ceux qui pourraient envisager d'interférer avec les élections, que ce soit par l'utilisation de l'intelligence artificielle ou d'une autre manière ».
Phillips, qui a nié toute implication dans l'appel automatisé, a déclaré dans un communiqué après l'inculpation de Kramer que cette affaire « est un canari dans la mine de charbon ». « Le Congrès doit prendre des mesures immédiates pour gérer l'utilisation néfaste de l'intelligence artificielle avant qu'elle ne nous gère sûrement », a-t-il poursuivi.
En février, Kramer a déclaré qu'il avait envoyé l'appel à « un peu moins de 5 000 » personnes figurant sur la liste des « démocrates les plus susceptibles » de voter lors des primaires du New Hampshire.
L'implication de Lingo Telecom
« Nous agirons rapidement et de manière décisive pour garantir que les mauvais acteurs ne puissent pas utiliser les réseaux de télécommunications américains pour faciliter l'utilisation abusive de la technologie d'IA générative afin d'interférer avec les élections, de frauder les consommateurs ou de compromettre des données sensibles », a déclaré Loyaan Egal, qui dirige le bureau d'application de la FCC, dans un communiqué.
Selon la FCC, Kramer a engagé Voice Broadcasting Corp. pour gérer les transmissions d'appels, qui à son tour a utilisé les services de Life Corp. basée au Texas pour acheminer les appels via le fournisseur de services vocaux Lingo Telecom.
Lingo a ensuite transmis ces appels et les a incorrectement marqués avec le niveau le plus élevé d'attestation d'identification de l'appelant, réduisant ainsi les chances que d'autres fournisseurs identifient les appels comme des communications fictives, a ajouté l'agence. Dans le cadre d'une action distincte annoncée jeudi, la Commission a proposé une amende de 2 millions de dollars à l'encontre de Lingo pour n'avoir pas utilisé les mesures adéquates de connaissance du client destinées à authentifier les données d'identification de l'appelant liées aux robocalls.
« Parce que lorsqu'un appelant ressemble à un politicien que vous connaissez, à une célébrité que vous aimez ou à un membre de votre famille qui vous est familier, chacun d'entre nous peut être amené à croire quelque chose qui n'est pas vrai avec des appels utilisant la technologie de l'IA », a déclaré Jessica Rosenworcel, présidente de la FCC, dans un communiqué.
Présidente de la FCC : « ce n'est que le début »
La présidente de la FCC, Jessica Rosenworcel, a déclaré dans un communiqué que ces mesures n'étaient « qu'un début », car « les technologies d'intelligence artificielle qui permettent d'inonder facilement et à peu de frais nos réseaux de fausses informations sont utilisées de bien des façons, ici et à l'étranger ».
Ci-dessous, un extrait de son communiqué :
« L'année dernière, au Nigéria, un clip manipulé à l'aide de l'intelligence artificielle s'est largement répandu. Il montrait un candidat à l'élection présidentielle en train de truquer des bulletins de vote. En Slovaquie, les habitants du pays ont entendu un clip audio manipulé montrant un candidat de l'opposition soutenant à la fois la fraude électorale et une tentative d'augmentation du prix de la bière.
« Mais il n'est pas nécessaire de se rendre dans des contrées lointaines pour voir comment l'IA peut semer la confusion. En effet, cette année, aux États-Unis, une campagne frauduleuse a ciblé les électeurs du New Hampshire. Elle a utilisé un clonage vocal généré par l'IA pour imiter un message non autorisé du président Biden, deux jours avant l'élection primaire dans cet État. C'est inquiétant. En effet, lorsqu'un appelant ressemble à un homme politique que vous connaissez, à une célébrité que vous appréciez ou à un membre de votre famille qui vous est familier, chacun d'entre nous peut être amené à croire quelque chose de faux grâce à des appels utilisant la technologie de l'IA. C'est exactement comme cela que les mauvais acteurs derrière ces appels indésirables avec des voix manipulées veulent que vous réagissiez
« Aussi, lorsque nous avons constaté que cela se produisait ici, sur nos côtes, nous avons agi rapidement. La Commission fédérale des communications a rendu une décision déclaratoire qui établit clairement que les appels téléphoniques robotisés "à voix artificielle ou préenregistrée" utilisant la technologie de clonage de la voix artificielle violent la loi sur la protection des consommateurs en matière de téléphonie (Telephone Consumer Protection Act). Nous nous sommes associés à cet effort avec les procureurs généraux des États, y compris celui du New Hampshire, qui est l'un des 49 procureurs généraux des États à avoir signé un protocole d'accord pour travailler avec cette agence sur les appels téléphoniques indésirables. Cette décision est importante. Elle donne à nos collègues des États le droit de poursuivre les acteurs malveillants à l'origine de ces appels et de demander des dommages-intérêts en vertu de la loi. Nous avons ensuite travaillé avec les opérateurs pour retrouver les responsables de cette campagne d'appels. Lorsque nous avons trouvé l'opérateur responsable, nous avons immédiatement envoyé une lettre de cessation et d'abstention et avons notifié à tous les autres opérateurs qu'ils devaient cesser d'acheminer ce trafic
« Aujourd'hui, nous clôturons notre enquête sur ces appels dans le New Hampshire par deux actions distinctes.
« Tout d'abord, nous tenons Steve Kramer pour responsable des appels frauduleux qu'il a mis en place pour escroquer les électeurs en utilisant une technologie d'usurpation d'identité qui viole la loi sur la vérité de l'identification de l'appelant. L'amende s'élève à 6 000 000 de dollars.
« Deuxièmement, nous tenons Lingo Telecom, l'opérateur qui a mis en ligne ces appels frauduleux, pour responsable du non-respect de nos politiques d'authentification des appels. L'amende s'élève à 2 000 000 de dollars.
« Mais ce n'est qu'un début. Nous savons en effet que les technologies de l'IA qui permettent d'inonder facilement et à peu de frais nos réseaux de faux messages sont utilisées de bien des manières, ici et à l'étranger. Il est particulièrement effrayant de voir qu'elles sont utilisées dans le cadre d'élections. C'est pourquoi, hier, j'ai partagé avec mes collègues une proposition visant à exiger des publicités électorales aux États-Unis qu'elles indiquent simplement si elles utilisent des technologies d'IA. Je pense qu'à mesure que ces outils deviennent plus accessibles, chacun d'entre nous a le droit de savoir ».
Conclusion
Cette affaire soulève des questions importantes sur l’utilisation de l’IA dans les campagnes politiques et met en lumière les conséquences potentielles pour ceux qui cherchent à manipuler les électeurs par le biais de messages automatisés. La FCC espère que cette amende servira d’avertissement aux autres consultants politiques et entreprises de télécommunications qui pourraient envisager d’utiliser des techniques similaires à l’avenir.
Source : FCC
Et vous ?
La liberté d’expression vs. la désinformation : jusqu’où devrait aller la liberté d’expression dans les campagnes politiques ? Comment pouvons-nous empêcher la diffusion de fausses informations sans restreindre la liberté d’expression ? Responsabilité des entreprises de télécommunications : les entreprises de télécommunications devraient-elles être tenues responsables des appels automatisés générés par IA qu’elles transmettent ? Comment pouvons-nous les inciter à surveiller et à filtrer ces appels ? Réglementation de l’IA : faut-il mettre en place des réglementations spécifiques pour l’utilisation de l’IA dans les campagnes politiques ? Si oui, quelles devraient être ces réglementations ? Transparence et authentification vocale : comment pouvons-nous garantir que les appels automatisés générés par IA sont transparents et authentifiés ? Devrions-nous exiger que les messages automatisés divulguent clairement leur origine ? Sanctions appropriées : l’amende de 6 millions de dollars est-elle suffisante pour dissuader d’autres consultants politiques d’utiliser des techniques similaires ? Quelles autres sanctions pourraient être efficaces ?