Aux États-Unis, l’État de Californie a voté deux nouvelles lois pour lutter contre les deepfakes. Les deux lois, AB 730 et AB 602, cible des situations bien déterminées où les deepfakes sont les plus courants. La première loi rend illégale la diffusion de toute vidéo manipulée qui pourrait discréditer un candidat dans les 60 jours avant une élection et l’autre permettra aux résidents de poursuivre en justice quiconque met leur image dans du porno sans leur approbation. Les deux lois ont été signées jeudi dernier par le gouverneur de la Californie, Gavin Newsom.Un deepfake ou hypertrucage en français est une technique de synthèse d'images basée sur l'intelligence artificielle. Il est utilisé pour combiner et superposer des images et des vidéos existantes afin de les manipuler à l’aide de l’apprentissage automatique. C’est une technologie en développement et les chercheurs continuent d’améliorer les méthodes qui contribueront sans doute à révolutionner certains secteurs d’activité, mais qui ne manqueront peut-être pas de se retrouver comme une arme entre les mains des personnes malveillantes.
Malheureusement, ce dernier cas a commencé à être observé sur le net ces dernières années. Des deepfakes mettant en scènes des politiciens ou des deepfakes orientés vers le secteur de la pornographie ont envahi le net récemment. Bien sûr, la plupart des gouvernements considèrent cette technologie comme nuisible pour la sécurité nationale, mais ils sont peu, ou quasi inexistants, ceux qui disposent de lois fédérales pour lutter contre la propagation des deepfakes. L’État de Californie, aux États-Unis, a décidé de sévir par rapport à cela et s’est doté de nouvelles lois ce jeudi.
L’État de la Californie se dote de deux lois pour lutter contre les deepfakes
Jeudi dernier, la Californie a adopté une loi visant à empêcher les vidéos altérées d'influencer les élections, et une seconde loi donnant droit à un citoyen californien d’intenter une action en justice contre quiconque met son image dans du porno sans son approbation. Les deux nouvelles lois ont été signées par le gouverneur de la Californie, Gavin Newsom, et portent respectivement les noms AB 730 et AB 602. Ces deux nouvelles lois visent à mettre un terme à ces contrefaçons vidéo plus néfastes, mais soulèveraient quelques problèmes sur la liberté d’expression.
La loi AB 730 criminalise la diffusion d'audio ou de vidéo qui donne une impression fausse et préjudiciable des paroles ou actions d'un politicien. La loi AB 730 s'applique à tout candidat dans les 60 jours avant une élection. Autrement dit, elle rend illégale la distribution de vidéos manipulées visant à discréditer un candidat politique et à tromper les électeurs dans les 60 jours avant une élection, mais elle comporte certaines exceptions. Les médias d'information seront exemptés de cette exigence, tout comme les vidéos faites pour la satire ou la parodie.
« La loi actuelle interdit à toute personne ou entité déterminée de produire, distribuer, publier ou diffuser, avec une intention malveillante, du matériel de campagne, tel que défini, qui contient (1) une image ou une photographie d'une personne ou de personnes dans laquelle l'image d'un candidat à une charge publique est superposée ou (2) une image ou une photographie d'un candidat à une charge publique dans laquelle l'image d'une autre personne ou de plusieurs personnes est superposée, à moins que le matériel de campagne contienne une divulgation précise ».
Toujours au niveau des directives de la loi AB 730, la vidéo ou l'audio potentiellement trompeuse sera également autorisée si elle comprend une clause de non-responsabilité indiquant qu'il s'agit d'un faux. La loi arrivera à expiration fin 2023. Les deux lois, AB 730 et AB 602, ont été proposées par le membre de l'Assemblée de Californie Marc Berman. Il a déclaré que les deepfakes et les vidéos modifiées telles que celle dans laquelle on retrouve Nancy Pelosi, la présidente de la Chambre des représentants, peuvent induire les électeurs en erreur et perturber les élections.
« Les électeurs ont le droit de savoir quand les vidéos, les audios et les images qu'on leur montre, pour tenter d'influencer leur vote lors d'une élection à venir, ont été manipulés et ne représentent pas la réalité », a déclaré Berman. « Dans le contexte des élections, la capacité d'attribuer à un candidat un discours ou une conduite qui est fausse, ce qui ne s'est jamais produit, fait de la technologie deepfake un outil puissant et dangereux dans l'arsenal de ceux qui veulent mener des campagnes de désinformation pour semer la confusion chez les électeurs ». La seconde loi signée par Gavin Newsom est la loi AB 602. Elle vient sévir dans un domaine où les deepfakes font de plus en plus de ravage depuis quelques années : celui de la pornographie.
Une étude montre que 96 % parmi plus de 14 000 vidéos en ligne étaient des deepfakes de nature pornographique
À en croire une récente étude de Deeptrace, une entreprise spécialisée dans la cybersécurité, 96 % parmi plus de 14 000 vidéos qu’elle a pu trouver en ligne étaient des deepfakes de nature pornographique. De plus, Deeptrace a décrit 96 % de ces contenus comme des contenus pornographiques non consentis. Un phénomène qui s'amplifie de jour en jour.
Dans son rapport d’étude, l’entreprise a indiqué qu’elle a analysé plusieurs milliers de vidéos provenant à la fois des sites pornographiques proposant des vidéos deepfakes, des sites pornographiques mainstream, des hébergeurs de vidéos comme YouTube, Vimeo ou Dailymotion, les résultats de recherches Google et des forums (Reddit, 4chan, 8chan, etc.). 96 % des contenus sont décrits comme des contenus pornographiques non consentis. Il s’agissait notamment de stars (actrices, chanteuses, etc.) dont le visage avait été rajouté sur le corps d’une actrice pornographique.
Plus encore, Deeptrace a notifié que le trafic sur les sites Web qui créent et hébergent de la pornographie deepfake est phénoménal. Il a notifié que sur quatre gros sites dédiés aux contenus pornographiques de type deepfakes, ces vidéos ont été visionnées plus de 134 millions de fois, depuis décembre 2018. Ensuite, le nombre de vidéos y aurait doublé ces sept derniers mois, passant d’environ 7 000 à plus de 13 000. Selon le cabinet d’étude, ces sites spécialisés hébergeaient pour la plupart des contenus de nature pornographique.
« Ce nombre important de téléspectateurs témoigne du marché des sites Web qui créent et hébergent de la pornographie deepfake, une tendance qui continuera de croître à moins que des mesures décisives ne soient prises », a écrit Deeptrace. C’est contre cela que la loi AB 302, proposée par le parlementaire Marc Berman, cherche à lutter. Ainsi, la nouvelle loi AB 302 donne aux Californiens le droit de poursuivre en justice une personne qui crée des deepfakes qui les placent dans des vidéos pornographiques sans leur consentement.
« La loi existante crée un droit privé d'action contre une personne qui distribue intentionnellement une photographie ou une image enregistrée d'une autre personne qui expose les parties intimes du corps de cette personne ou d'une personne se livrant à un acte sexuel sans son consentement si certaines conditions sont remplies », peut-on lire dans les directives de la loi AB 602.
En ce qui concerne la France, la législation est très protecteur du droit à l’image
En France également, il n’y a pas de législation propre aux deepfakes, mais l’on estime que le droit français est très protecteur concernant le droit à l’image. En effet, il faut savoir qu’en France, la loi interdit la diffusion de montages pornographiques. Dans l’article 226-8 du Code pénal, on peut lire ce qui suit : « Est puni d’un an d’emprisonnement et de 15 000 euros d’amende le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention ». Toutefois, les textes français et américains ne font pas une mention spécifique du mot deepfake.
Concernant les fake news en période électorale, la législation française serait également déjà assez protectrice pour inclure les nouvelles technologies. Le cadre législatif aurait été enrichi d’une loi spécialement conçue pour lutter contre la manipulation de l’information, en décembre 2018. En revanche, les États-Unis sont eux obligés d’inscrire ces délits dans la loi au vu de la prédominance de la liberté d’expression, consacrée dans le premier amendement de la constitution. La différence avec le système juridique en France est donc d’ordre structurel.
« Aujourd’hui, en France, nous avons tous les outils pour répondre à ces nouveaux défis », a déclaré un avocat spécialisé dans les affaires de revenge porn. « S’il n’y a pas de législation spécifique au deepfake, le droit français est très protecteur concernant le droit à l’image que ce soit pour les citoyens lambda ou les candidats à une élection politique ». Selon lui, il n'y a pas besoin d'une nouvelle loi. Tout de même, une des deux lois US a également soulevé des inquiétudes quant à la liberté d'expression.
La loi concernant les élections, AB 730, a soulevé des inquiétudes quant à la liberté d'expression et des groupes comme l'Union américaine des libertés civiles de Californie ont mis en doute la valeur de la loi. « Malgré les bonnes intentions de l'auteur, ce projet de loi ne résoudra pas le problème des vidéos politiques trompeuses », a déclaré le groupe.
Sources : Loi AB 730, Loi AB 602, Deeptrace
Et vous ?
Qu'en pensez-vous ? Cette loi pourra-t-elle vraiment lutter efficacement contre les deepfakes selon vous ? Auriez-vous une solution à suggérer pour lutter contre les deepfakes ? Laquelle ?Voir aussi
Deepfake : des chercheurs présentent un logiciel qui permet d'éditer le discours d'une vidéo et faire dire au sujet ce que vous voulez Les législateurs US estiment que la technologie deepfake constitue une menace à la sécurité nationale et appellent à des contremesures Le Congrès américain va enquêter sur les deepfakes, alors qu'une fausse vidéo de Pelosi a été visionnée des millions de fois sur les médias sociaux Une vidéo deepfake de Donald Trump diffusée sur une chaîne de TV nationale ? L'employé responsable a été licencié Ce Deepfake de Zuckerberg teste les règles de suppression de vidéos de Facebook, alors qu'il avait déclaré qu'une telle vidéo resterait en ligne 
