Le développement rapide de la technique de deepfake – une technique de synthèse d'images basée sur l'intelligence artificielle (IA) – et la multiplication de ses applications poussent de plus en plus de pays à adopter des règles pour lutter contre ces contenus vidéo et audio contrefaits et diffusés sur Internet. La dernière règle anti-deepfake en date, qui entrera en vigueur en janvier, est celle de la Chine. En effet, les régulateurs chinois ont annoncé de nouvelles mesures régissant les contenus vidéo et audio en ligne, qui interdisent de publier et de diffuser des « fausses nouvelles » créées à l'aide de technologies comme l'IA et la réalité virtuelle (VR).La nouvelle loi, rapportée vendredi par Reuters, interdit la publication de fausses informations ou de deepfakes en ligne sans qu'il soit dûment révélé que le message en question a été créé avec la technologie AI ou VR. Le non-respect de ces mesures pourrait être considéré comme une infraction pénale, a déclaré la Cyberspace Administration of China (CAC) sur son site Web. Les règles entreront en vigueur le 1er janvier 2020 et seront appliquées par l'organisme central de réglementation.
« Avec l'adoption de nouvelles technologies, telles que le deepfake, dans l'industrie de la vidéo et de l'audio en ligne, il y a eu des risques à utiliser ces contenus pour perturber l'ordre social et violer les intérêts des gens, en créant des risques politiques et en ayant un impact négatif sur la sécurité nationale et la stabilité sociale », a déclaré le CAC dans un avis aux sites d'hébergement vidéo vendredi, selon le South China Morning Post. La nouvelle règle avait déjà été publiée, plus tôt la semaine dernière, à l'intention des fournisseurs de services vidéo et audio en ligne.
Le CAC a mis en lumière les problèmes potentiels causés par la technologie de la contrefaçon profonde, qui utilise l'IA pour créer des vidéos hyperréalistes où une personne semble dire ou faire quelque chose qu'elle n'a pas dit. Le principal organe législatif du pays avait déclaré plus tôt cette année qu'il envisageait de rendre cette technologie illégale. En vertu de la nouvelle loi, il semble que le gouvernement chinois se réserve le droit de poursuivre les utilisateurs et les services d'hébergement d'images et de vidéos qui ne respecteront pas la mesure. Il faut noter que la position de la Chine sur la question fait écho à une récente législation introduite aux États-Unis pour lutter contre les deepfakes.
En septembre dernier, une nouvelle application chinoise ZAO – utilisant la technologie deepfake –, qui permettait aux utilisateurs d'échanger de manière convaincante leur visage avec des célébrités, des stars du sport ou n'importe qui d'autre dans un clip vidéo, est devenue l’une des applications les plus téléchargées du pays, dès sa sortie. Mais, après de nombreux critiques, le créateur de l’application a dû modifier la politique de confidentialité de l'application, qui disposait de droits « gratuits, irrévocables, permanents, transférables et dont la licence peut être reconduite » sur tout contenu généré par l'utilisateur.
La loi chinoise est le reflet de la nouvelle loi californienne sur la publicité politique
En octobre dernier, la Californie est devenue le premier État américain à criminaliser l'utilisation de contrefaçons profondes dans la promotion de campagnes politiques et la publicité. L’État a adopté deux nouvelles lois, l’une, la loi AB 730, criminalise la diffusion d'audio ou de vidéo qui donne une impression fausse et préjudiciable des paroles ou actions d'un politicien. Autrement dit, elle rend illégale la distribution de vidéos manipulées visant à discréditer un candidat politique et à tromper les électeurs.
Cette loi s'applique à tout candidat dans les 60 jours avant une élection. Toutefois, les médias d'information et tout comme les vidéos faites pour la satire ou la parodie seront exemptés de la législation. La loi AB 730 est conçue pour expirer d'ici 2023, à moins qu'elle ne soit adoptée de nouveau explicitement. L’autre, la loi AB 602, donne droit à un citoyen californien d’intenter une action en justice contre quiconque met son image dans du porno sans son approbation.
En octobre, une loi similaire est entrée en vigueur à Singapour, malgré les protestations de géants des nouvelles technologies, de médias et de défenseurs des droits de l’homme, selon lesquelles cette loi pourrait être utilisée pour supprimer la liberté d'expression dans la Cité-Etat. La loi oblige les plateformes numériques – y compris les réseaux sociaux, les moteurs de recherche et les services d'agrégation de nouvelles – à retirer ou à ajouter des messages de « correction » à côté des posts jugés faux par les autorités. Les personnes reconnues coupables d'avoir enfreint la loi peuvent être passibles d'amendes allant jusqu’à 36 000 dollars ou d'une peine d'emprisonnement maximale de cinq ans.
La loi anti-deepfake de Singapour a contraint Facebook à publier une étiquette corrective sur le message d’un utilisateur
Le gouvernement de Singapour, qui attend d’organiser des élections générales d'ici quelques mois, a déclaré vendredi qu'il avait donné instruction à Facebook de « publier un avis de correction » sur un post du 23 novembre qui contenait des accusations d'arrestation d'un supposé dénonciateur et de fraude électorale, a rapporté Reuters samedi. Les autorités, qui ont déclaré que les allégations étaient « fausses » et « calomnieuses », ont d’abord ordonné à l'utilisateur Alex Tan, qui dirige le blog du States Times Review, de publier l'avis de correction sur le billet. Mais, M. Tan, qui ne vit pas à Singapour et qui se dit citoyen australien, a refusé d’obéir aux ordres des autorités.
Selon Reuters, Facebook a déclaré samedi qu'il avait publié un avis de correction sur le message en question à la demande du gouvernement de Singapour. L’avis de correction, qui a été intégrée au bas du message original sans aucune modification du texte et qui n'est visible que par les utilisateurs de Singapour, disait : « Facebook est légalement obligé de vous dire que le gouvernement de Singapour dit que ce message contient de fausses informations ».
Reuters a rapporté que Facebook bloque souvent le contenu que les gouvernements allèguent violer les lois locales, avec près de 18 000 cas dans le monde entier au cours de cette année jusqu’en juin, selon le « rapport de transparence » de l'entreprise. Cependant, la nouvelle loi anti-deepfake singapourienne est la première à exiger que Facebook publie des corrections lorsque le gouvernement le lui demande.
Un porte-parole de Facebook a déclaré dans un communiqué envoyé par courriel : « Comme l'exige la loi singapourienne, Facebook a apposé une étiquette sur ces messages, dont le gouvernement de Singapour a déterminé qu'ils contenaient de fausses informations ». « Comme l'entrée en vigueur de la loi n'en est qu'à ses débuts, nous espérons que l'assurance donnée par le gouvernement de Singapour qu'elle n'aura pas d'impact sur la liberté d'expression conduira à une approche mesurée et transparente de son application », a-t-il ajouté.
L’IA fait en général peur à tout le monde, mais les deepfakes encore plus, car personne ne veut vivre dans un monde où l'on ne peut distinguer la vérité de la contrefaçon.
Sources : Reuters 1 & 2
Et vous ?
Que pensez-vous de la nouvelle législation anti-deepfake et anti-fausses informations de la Chine ? Selon la formulation chinoise de la loi, y a-t-il une différence entre cette loi et les récentes lois similaires des autres États (Californie et Singapour), selon vous ? Laquelle ? Selon vous, ces mesures constituent-elles une solution contre les contenus trafiqués et diffusés sur Internet ?Lire aussi
Deepfake : l'app gratuite Zao vous permet de changer le visage d'un personnage de film par le votre, après avoir téléchargé une photo Un sénateur propose un projet de loi prohibant l'utilisation de la technologie deepfake, si elle venait à servir des buts frauduleux Twitter a décidé de bannir les annonces à caractère politique de sa plateforme dès le 22 novembre, et tacle Facebook au passage Le Congrès américain va enquêter sur les deepfakes, alors qu'une fausse vidéo de Pelosi a été visionnée des millions de fois sur les médias sociaux
