La Californie s'est dotée d'une loi visant à empêcher la diffusion en ligne de deepfakes générés par l'IA et ciblant les candidats politiques à l'approche d'une élection. Mais l'application de la loi vient d'être bloquée par un juge fédéral. Il reconnaît que la crainte des deepfakes peut être justifiée, mais affirme que cette inquiétude ne donne pas aux législateurs une licence débridée pour passer outre la longue tradition de critique, de parodie et de satire protégée par le premier amendement. La décision du juge stipule que la loi californienne entrave l'expression humoristique et étouffe de manière inconstitutionnelle l'échange libre et sans restriction d'idées.Un juge fédéral affirme que la loi AB 2839 entrave la liberté d'expression
La loi californienne AB 2839 vise les personnes qui partagent des deepfakes générés par l'IA en ligne, en particulier si leur message ressemble à celui d'un candidat politique et que l'auteur sait qu'il s'agit d'un faux susceptible de tromper les électeurs. Cette loi est unique, car elle ne s'attaque pas aux plateformes sur lesquelles apparaissent les deepfakes d'IA, mais plutôt à ceux qui les diffusent. La loi permet aux juges californiens d'ordonner aux auteurs de deepfakes générés par l'IA de les retirer sous peine de sanctions pécuniaires. Toutefois, elle suscite une forte opposition et a été attaquée devant les tribunaux.
Après avoir signé la loi AB 2839, le gouverneur californien Gavin Newsom a suggéré qu'elle pourrait être utilisée pour forcer Elon Musk à retirer un deepfake de la vice-présidente Kamala Harris qu'il avait partagé sur son réseau social X (ce qui a déclenché une petite bataille en ligne entre les deux hommes). Cependant, un juge californien vient de décider que l'État ne peut pas obliger les gens à retirer les deepfakes électoraux, car ils sont protégés par la constitution.
En effet, Christopher Kohls, le créateur du deepfake de Kamala Harris, a intenté un procès pour empêcher l'État d'appliquer la loi. Dans sa plainte de protestation, Christopher Kohls a déclaré que « la vidéo qu'il a publiée est protégée par le premier amendement parce qu'il s'agissait d'une parodie ». Le juge de district des États-Unis John Mendez lui a donné raison :
Envoyé par John Mendez, juge de district des États-Unis
Presque tous les contenus modifiés numériquement, lorsqu'ils sont laissés à l'appréciation d'un individu arbitraire sur Internet, peuvent être considérés comme nuisibles. Par exemple, des chiffres approximatifs générés par l'IA sur le taux de participation des électeurs pourraient être considérés comme un faux contenu qui mine raisonnablement la confiance dans le résultat d'une élection en vertu de cette loi.
D'un autre côté, de nombreuses représentations « préjudiciables », lorsqu'elles sont montrées à un grand nombre d'individus, peuvent en fin de compte ne pas influencer les perspectives électorales ou miner la confiance dans une élection. Comme le souligne de manière convaincante le plaignant, « la loi AB 2839 repose sur divers termes subjectifs et sur une mens rea maladroitement formulée », ce qui a pour effet d'impliquer de vastes quantités de discours politiques et protégés par la Constitution...
Bien que la crainte fondée d'un paysage médiatique manipulé numériquement puisse être justifiée, cette crainte ne donne pas aux législateurs une licence débridée pour passer outre la longue tradition de critique, de parodie et de satire protégée par le Premier Amendement. Les vidéos YouTube, les posts Facebook et les tweets X sont les publicités des journaux et les caricatures politiques d'aujourd'hui, et le premier amendement protège le droit d'un individu à s'exprimer, quel que soit le nouveau support de ces critiques.
D'autres causes d'action prévues par la loi, telles que les délits liés à la protection de la vie privée, la violation des droits d'auteur ou la diffamation, offrent déjà un recours aux personnalités publiques ou aux particuliers dont la réputation peut être affectée par des représentations artificiellement modifiées colportées par des satiristes ou des opportunistes sur Internet...
Le dossier démontre que l'État de Californie a tout intérêt à préserver l'intégrité des élections et à s'attaquer aux contenus artificiellement manipulés. Cependant, l'intérêt de la Californie et les difficultés auxquelles l'État est confronté sont minimes par rapport à la gravité des valeurs du premier amendement en jeu et aux violations constitutionnelles permanentes que le plaignant et d'autres créateurs de contenu se trouvant dans une situation similaire subissent en voyant leur discours étouffé.
Comme il s'agit d'une injonction préliminaire, il faut attendre pour voir si la loi est bloquée pour de bon, mais dans tous les cas, il est peu probable qu'elle ait beaucoup d'effet sur les élections de novembre 2024. La loi AB 2839 est l'une des 18 nouvelles lois relatives à l'IA que Gavin Newsom a signées en septembre 2024.
Elon Musk et ses alliés échappent à des poursuites avec cette injonction
La loi A2839 qui rend illégale la distribution de médias audio ou visuels matériellement trompeurs d'un candidat 120 jours avant une élection et, dans certains cas, 60 jours après. La loi permet également aux candidats ciblés de demander à un tribunal de retirer toute publicité truquée et de poursuivre la personne qui l'a diffusée, bien que les parodies et les satires truquées divulguées en tant que telles soient exemptées. Deux autres lois, AB 2655 et AB 2355, portent respectivement sur les plateformes et sur le traitement de ce type de contenu par les groupes de campagne. Ces deux dernières entreront en vigueur.
Le blocage de la loi AB 2839 est une grande victoire pour Elon Musk et ses partisans. Dans les jours qui ont suivi la signature de l'AB 2839 par Gavin Newsom, Elon Musk et ses alliés habituels ont partagé en ligne une série de deepfakes générés par l'IA, probablement dans le but de défier la nouvelle loi californienne. Christopher Kohls, qui a intenté le procès contre la loi, a réagi sur son compte X en déclarant : « VICTOIRE ! Le procès contre Newsom a été gagné ».
Peu après la décision du tribunal, Elon Musk a tweeté : « la loi anticonstitutionnelle californienne portant atteinte à votre liberté d'expression a été bloquée par le tribunal ». Elon Musk a félicité Christopher Kohls en disant : « un point pour le droit du peuple à la liberté d'expression ». Musk avait partagé en juillet la vidéo créée par Christopher Kohls. Le message de Musk faisant la promotion de la vidéo mette en scène Kamala Harris a été vu plus de 135 millions de fois sur X.
Le gouverneur californien Gavin Newsom s'était alors rapidement engagé à signer une loi visant à réprimer les deepfakes politiques, ce à quoi Elon Musk a répondu : « la parodie est légale aux Érats-Unis ». Après la signature des lois par Gavin Newsom, Elon Musk a reposté la vidéo montrant Kamala Harris et a écrit : « vous n'allez pas le croire, mais Gavin Newsom vient d'annoncer qu'il a signé une loi rendant la parodie illégale, sur la base de cette vidéo ».
Theodore Frank, un avocat de Christopher Kohls, a déclaré dans un communiqué qu'ils étaient satisfaits que le tribunal de district soit d'accord avec leur analyse. De son côté, Izzy Gardon, le porte-parole du gouverneur Gavin Newsom, a déclaré dans un communiqué que « le bureau du gouverneur est confiant dans le fait que les tribunaux confirmeraient la capacité de la Californie à réglementer les deepfakes ». Izzy Gardon a déclaré que la loi était raisonnable.
Selon le porte-parole, la loi est conforme à une mesure similaire adoptée en Alabama pour restreindre les deepfakes. « Les deepfakes menacent l'intégrité de nos élections et ces nouvelles lois protègent notre démocratie tout en préservant la liberté d'expression. La satire reste bien vivante en Californie, même pour ceux qui n'ont pas compris la chute », a déclaré le porte-parole. Il n'a pas donné de détail sur ce que la Californie prévoit de faire par la suite.
Source : décision du juge fédéral John Mendez (PDF)
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous de la décision du juge de bloquer la loi californienne sur l'IA ? Selon vous, les dispositions de la loi AB 2839 entravent-elles la liberté d'expressions en ligne ? Quels impacts le blocage de la loi AB 2839 pourrait avoir sur les élections de novembre 2024 aux États-Unis ? Voir aussi
Le créateur de la vidéo parodique de Kamala Harris poursuit la Californie en raison de la loi "deepfake" après l'interdiction de sa parodie de la vice-présidente Kamala Harris Le gouverneur de Californie signe 9 projets de loi réglementant les contenus générés par l'IA pour répondre aux risques liés aux "deepfakes" malgré que les Big tech de l'IA y voient un frein à l'innovation Le gouverneur de Californie oppose son veto à un projet de loi controversé sur la sécurité de l'IA, Gavin Newsom souhaite des règles plus complètes pour le projet de loi auquel s'opposent Google, OpenAI et Meta 
