La semaine dernière, le Sénat américain a présenté un nouveau projet de loi visant à interdire l'utilisation contraire à l'éthique des contenus générés par l'IA et de la technologie « deepfake ». Baptisé « Content Origin Protection and Integrity from Edited and Deepfaked Media Act » (COPIED Act), le projet de loi « établit de nouvelles directives fédérales en matière de transparence pour le marquage, l'authentification et la détection des contenus générés par l'IA, protège les journalistes, les acteurs et les artistes contre le vol par l'IA et tient les contrevenants pour responsables des abus commis ». En droite ligne avec des développements similaires en UE, le président français fait montre d’un certain scepticisme.Proposée et parrainée par les démocrates Maria Cantwell (Washington) et Martin Heinrich (Nouveau-Mexique), ainsi que par la républicaine Marsha Blackburn (Tennessee), la législation vise à établir des normes de transparence applicables au développement de l'intelligence artificielle. Les sénateurs ont l'intention de charger l'Institut national des normes et de la technologie d'élaborer des lignes directrices raisonnables en matière de transparence si le projet de loi est adopté.
« La loi bipartisane COPIED, que j'ai présentée avec les sénateurs Blackburn et Heinrich, apportera une transparence indispensable aux contenus générés par l'IA », a déclaré la sénatrice Cantwell.
🚨 [AI REGULATION] A new AI law was introduced in the US to combat deepfakes, increase AI transparency, and empower creators. Here's what you need to know:
— Luiza Jarovsky (@LuizaJarovsky) July 15, 2024
➡ The Content Origin Protection and Integrity from Edited and Deepfaked Media Act (COPIED ACT) was introduced last week by… pic.twitter.com/yBrij4hb26
La législation vise également à limiter l'utilisation non autorisée de données dans les modèles d’entraînement. L'acquisition de données de formation se situe actuellement dans une zone grise sur le plan juridique. Au cours des dernières années, nous avons assisté à des débats et à des procès concernant la légalité de l'utilisation d'informations publiques en ligne. Clearview AI est probablement le plus grand abuseur de cette méthode de formation, mais il n'est pas le seul. D'autres entreprises, dont OpenAI, Microsoft et Google, ont eu du mal à franchir la ligne infiniment fine entre la légalité et l'éthique lorsqu'il s'agit d'entraîner leurs systèmes sur du matériel protégé par le droit d'auteur.
« L'intelligence artificielle a donné à des acteurs malveillants la possibilité de créer des imitations profondes de chaque individu, y compris ceux de la communauté créative, afin d'imiter leur image sans leur consentement et de tirer profit de contenus contrefaits », a déclaré le sénateur Blackburn. « La loi COPIED constitue une étape importante pour mieux défendre des cibles communes telles que les artistes et les interprètes contre les deepfakes et autres contenus inauthentiques ».
Les sénateurs estiment qu'il est essentiel de clarifier et de définir ce qui est acceptable et ce qui ne l'est pas en ce qui concerne le développement de l'IA, afin de protéger les citoyens, les artistes et les personnalités publiques des dommages qu'une mauvaise utilisation de la technologie pourrait causer, notamment en créant des « deepfakes ». Les faux pornos sont un problème depuis des années, et la technologie n'a fait que s'améliorer. Il est révélateur que le Congrès ait ignoré le problème jusqu'à présent. La proposition intervient quelques mois seulement après que quelqu'un a utilisé une technologie de clonage de voix pour se faire passer pour le président Biden et dire aux gens de ne pas voter.
Les « deepfakes » constituent une véritable menace pour notre démocratie, ainsi que pour la sécurité et le bien-être des Américains », a déclaré le sénateur Heinrich. « Je suis fier de soutenir la loi COPIED de la sénatrice Cantwell, qui fournira les outils techniques nécessaires pour lutter contre les contenus nuisibles et trompeurs générés par l'IA et pour mieux protéger les journalistes professionnels et les artistes contre l'utilisation de leurs contenus par des systèmes d'IA sans leur consentement.
La Nashville Songwriters Association International, la SAG-AFTRA, la National Music Publishers' Association, la RIAA et plusieurs organismes de radiodiffusion et de presse ont publié des déclarations applaudissant cette initiative. En revanche, Google, Microsoft, OpenAI et d'autres fournisseurs d'IA sont silencieux.
Des lois similaires en vigueur en UE empêchent les géants technologiques de siphonner les données des internautes à leur guise mais certains acteurs estiment qu’elles sont susceptibles de constituer un frein à l’innovation
Meta a interrompu son projet d’entraînement de ses systèmes d'intelligence artificielle en utilisant les données de ses utilisateurs dans l'Union européenne et au Royaume-Uni. Cette décision fait suite au refus de la Commission irlandaise de protection des données (DPC), le principal régulateur de Meta dans l'UE, qui agit au nom de plusieurs autorités de protection des données dans l'ensemble de l'Union.
Seulement certains intervenants sont d’avis que l’application de ces lois constitue un frein à l’innovation qui mettra l’Europe en retard sur les USA et la Chine.
« Autre axe, c'est évidemment l'intelligence artificielle. Là-dessus, point n'est besoin d'y revenir, j'en ai beaucoup parlé il y a encore quelques jours. On a une révolution en cours. Mais au fond, sur ce sujet, on a eu une étrange semaine. On a eu à la fois Mistral qui a levé des financements record dans le secteur, près de 400 millions d'euros. Chapeau, bravo ! Vous pouvez les applaudir. C'est vraiment le génie français comme on aime à le voir et à le célébrer. Et on a eu une réglementation européenne qui est venue consolider, c'est une bonne chose, un modèle français de la régulation mais qui, à mes yeux, je vous parle en toute franchise, fait qu'on est le premier endroit au monde où sur les modèles dits fondationnels d'IA, on va beaucoup plus réguler que les autres.
Moi, je pense que ce n'est pas une bonne idée et je le dis en toute honnêteté. Il faudra donc l'évaluer parce qu’aujourd'hui, quand je regarde, la France est sans doute le premier pays en termes d'intelligence artificielle en Europe continentale, on est au coude à coude avec les Britanniques. Mais eux n'auront pas cette régulation sur les modèles fondationnels et surtout, on est tous très loin des Chinois et des Américains. Alors on peut décider de réguler beaucoup plus vite et beaucoup plus fort que nos grands compétiteurs mais on régulera des choses qu'on ne produira plus ou qu'on n’inventera pas. Ce n'est jamais une bonne idée. Il faut donc qu'on soit toujours à la bonne vitesse et en tout cas au bon rythme. Donc moi, je demande à ce qu'on évalue de manière régulière cette réglementation et si on perd des leaders ou des pionniers à cause de ça, il faudra revenir. C'est clé », estime le président français.
C’est une position similaire à celle du co-fondateur et PDG de Limit à propos de l’AI Act : « Il s’agit de la pire réglementation : large, radicale, tout le monde est techniquement en infraction d’une manière ou d’une autre, mais vous pouvez payer pour la combattre. Les entrepreneurs obéissants et respectueux des règles perdront tout leur temps et leur argent à essayer de se conformer à chaque paragraphe de la loi sur l’IA. De plus en plus d’entrepreneurs soucieux de la Realpolitik placeront leur entreprise dans une zone grise, supposeront que s’ils réussissent, ils seront un jour poursuivis en justice et économiseront des fonds pour cette...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par Fluxgraveon
