Le gouverneur de Californie a signé 9 projets de loi réglementant les contenus générés par l'IA, pour répondre aux risques liés aux "deepfakes". Deux projets de loi concernent les acteurs et les interprètes, trois projets de loi visent à lutter contre l'utilisation abusive de contenus générés par l'IA et quatre projets de loi visent à règlementer l'utilisation de l'IA dans les campagnes électorales. Mais les Big tech de l'IA critiquent le projet de loi pour la régulation de l'IA, y voyant un frein à l'innovation.Ce mois de septembre 2024 a été particulièrement animé par le débat autour de la règlementation de l'intelligence artificielle (IA) en Californie aux États-Unis. Fin août, le projet de loi controversé sur l'IA a été adopté par l'Assemblée législative. Le gouverneur californien Gavin Newsom avait jusqu'au 30 septembre pour décider de le promulguer ou d'y opposer son veto.
Le projet de loi, connu sous le nom de "Safe and Secure Innovation for Frontier Artificial Intelligence Models Act", propose des mesures strictes pour garantir la sécurité des modèles d’IA avancés. Le projet de loi imposerait davantage de responsabilités, notamment des tests de sécurité et la mise en œuvre de mesures de protection. Les entreprises doivent également accepter de se soumettre à des audits par des tiers.
Parmi les partisans de la règlementation de l'IA, plus de 125 acteurs, réalisateurs, producteurs, artistes musicaux et leaders de l'industrie du divertissement d'Hollywood ont signé une lettre pour exhorter le gouverneur Gavin Newsom à signer le projet de loi. De l'autre côté, les Big tech comme Google, OpenAI ou Meta, s'y opposent, arguant que le projet de loi pourrait freiner l'innovation. Ils ont également adressé des lettres exprimant leurs préoccupations.
La décision tant attendue du gouvernement de Californie vient de tomber le 26 septembre 2024. Le gouverneur Gavin Newsom a signé 9 projets de loi réglementant les contenus générés par l'IA. La législation vise à répondre aux risques liés aux "deepfakes".
Le gouverneur de Californie, Gavin Newsom, a signé neuf projets de loi visant à lutter contre les risques liés aux contenus générés par l'IA, en particulier les "deepfakes". Vingt-neuf autres textes législatifs relatifs à l'IA attendent sa signature ou son veto avant la fin de la session législative de l'État, le 30 septembre.
Parmi les textes législatifs qu'il a récemment signés figurent deux projets de loi visant à protéger l'image numérique des acteurs et des interprètes - vivants ou décédés - contre toute utilisation non autorisée de l'IA et d'autres technologies numériques :
- L'AB 2602 exige des contrats pour l'utilisation d'imitations profondes de la voix ou de l'image d'un artiste générées par l'IA, et l'artiste doit être représenté professionnellement lors de la négociation du contrat.
- L'AB 1836 interdit l'utilisation commerciale de copies profondes d'artistes-interprètes décédés dans des films, des émissions de télévision, des jeux vidéo, des livres audio, des enregistrements sonores et d'autres médias sans le consentement des ayants droit de l'artiste-interprète.
Trois projets de loi visent à lutter contre l'utilisation abusive de contenus générés par l'IA, notamment les "deepfakes" à caractère sexuel :
- Le projet de loi SB 926 criminalise la création et la distribution d'images sexuellement explicites d'une personne réelle qui semblent authentiques lorsqu'elles sont destinées à causer une détresse émotionnelle.
- Le SB 981 exige que les plateformes de médias sociaux créent un mécanisme permettant aux gens de signaler les deepfakes sexuellement explicites d'eux-mêmes. Une fois le signalement effectué, la plateforme doit bloquer temporairement le matériel pendant qu'elle enquête et le supprimer définitivement s'il est confirmé.
- Le SB 942 exige que les systèmes d'IA générative placent des filigranes invisibles sur le contenu qu'ils produisent et fournissent des outils gratuits pour les détecter afin que le contenu généré par l'IA puisse être facilement identifié.
Quatre projets de loi visent à lutter contre l'utilisation de deepfakes et d'autres contenus trompeurs générés ou modifiés numériquement dans les campagnes électorales.
- L'AB 2655 exige des grandes plateformes en ligne qu'elles retirent ou étiquettent les contenus politiques trompeurs ou modifiés numériquement pendant des périodes précises autour des élections et qu'elles fournissent des moyens de les signaler.
- L'AB 2839 étend la période pendant laquelle il est interdit aux entités politiques de distribuer sciemment une publicité ou tout autre matériel électoral contenant un contenu trompeur généré par l'IA.
- L'AB 2355 exige que les publicités politiques utilisant un contenu généré par l'IA révèlent que le matériel a été modifié.
- L'AB 2905 exige que les robocalls informent les destinataires si la voix est générée artificiellement.
Le gouverneur Gavin Newsom a commenté cette annonce :
Nous continuons à avancer en terrain inconnu lorsqu'il s'agit de savoir comment l'IA et les médias numériques transforment l'industrie du divertissement, mais notre étoile polaire a toujours été la protection des travailleurs. Cette législation permet à l'industrie de continuer à prospérer tout en renforçant les protections des travailleurs et la manière dont leur image peut ou ne peut pas être utilisée.
Personne ne devrait être menacé par quelqu'un sur Internet qui pourrait l'imiter, en particulier de manière sexuellement explicite. Nous sommes à une époque où les outils numériques tels que l'IA ont d'immenses capacités, mais ils peuvent aussi être utilisés de manière abusive contre d'autres personnes. Nous prenons des mesures pour protéger les Californiens.
La sauvegarde de l'intégrité des élections est essentielle à la démocratie, et il est primordial de veiller à ce que l'IA ne soit pas déployée pour miner la confiance du public par la désinformation, en particulier dans le climat politique actuel. Ces mesures permettront de lutter contre l'utilisation néfaste des deepfakes dans les publicités politiques et d'autres contenus. Il s'agit de l'un des nombreux domaines dans lesquels l'État agit de manière proactive pour favoriser une IA transparente et digne de confiance.
Personne ne devrait être menacé par quelqu'un sur Internet qui pourrait l'imiter, en particulier de manière sexuellement explicite. Nous sommes à une époque où les outils numériques tels que l'IA ont d'immenses capacités, mais ils peuvent aussi être utilisés de manière abusive contre d'autres personnes. Nous prenons des mesures pour protéger les Californiens.
La sauvegarde de l'intégrité des élections est essentielle à la démocratie, et il est primordial de veiller à ce que l'IA ne soit pas déployée pour miner la confiance du public par la désinformation, en particulier dans le climat politique actuel. Ces mesures permettront de lutter contre l'utilisation néfaste des deepfakes dans les publicités politiques et d'autres contenus. Il s'agit de l'un des nombreux domaines dans lesquels l'État agit de manière proactive pour favoriser une IA transparente et digne de confiance.
Le texte le plus controversé est le SB 1047, qui oblige les développeurs d'IA à mettre en œuvre des mesures de protection pour réduire le risque que leur technologie provoque ou permette une catastrophe, telle qu'un événement impliquant un grand nombre de victimes ou une cyberattaque. Jusqu'à présent, Gavin Newsom s'est montré timide quant à ses projets concernant ce projet de loi.
Le projet de loi sur la sécurité de l'IA, SB 1047, imposerait davantage de responsabilités à tout développeur dépensant plus de 100 millions de dollars pour construire un modèle d'IA. Les exigences comprennent des tests de sécurité, la mise en œuvre de mesures de protection et la possibilité pour le procureur général de l'État de prendre des mesures à l'encontre du développeur de tout modèle d'IA qui cause un "préjudice grave", tel que des pertes massives ou des incidents entraînant des dommages d'une valeur de 500 millions de dollars ou plus.
Si la nécessité de limiter les risques liés aux nouveaux modèles d'IA puissants est largement admise, les critiques ont fait valoir que les propositions étoufferaient les start-ups, profiteraient aux rivaux américains et compromettraient la position centrale de la Californie dans l'essor de l'IA. Jason Kwon, directeur de la stratégie d'OpenAI, avait déclaré que le projet de loi SB 1047 menace "le statut unique de la Californie en tant que leader mondial de l'intelligence artificielle". Il ajoute que cela pourrait "ralentir le rythme de l'innovation et inciter les ingénieurs et les entrepreneurs californiens de classe mondiale à quitter l'État à la recherche de meilleures opportunités ailleurs".
Dans une déclaration concernant le veto sur SB 1047, Newsom a déclaré : « Bien que bien intentionné, le SB 1047 ne prend pas en compte si un système d’IA est déployé dans des environnements à haut risque, implique une prise de décision critique ou l’utilisation de données sensibles. Au lieu de cela, le projet de loi applique des normes strictes même aux fonctions les plus élémentaires, à condition qu'un grand système les déploie. Je ne pense pas que ce soit la meilleure approche pour protéger le public des menaces réelles posées par la technologie.»
Source : Legislature de Californie
Et vous ?
Quel est votre avis sur le sujet ? Pensez-vous que ces projets de loi sont crédibles ou pertinents ?Voir aussi :
AI Act : les nouvelles règles européennes en matière d'intelligence artificielle entrent en vigueur. L'objectif déclaré est d'encourager le développement et l'adoption de systèmes IA sûrs et fiables en UE Les Big Tech (GAFAM) veulent réglementer l'IA, mais les autres entrepreneurs sont sceptiques, selon eux leur réelle volonté serait juste de geler le marché de l'IA pour conserver leur monopole Le Sénat US présente un projet de loi visant à établir un cadre juridique pour le développement éthique de l'IA et ravive le débat sur la possibilité de frein à l'innovation telle que soulignée par Macron 
