IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Le Sénat US présente un projet de loi visant à établir un cadre juridique pour le développement éthique de l'IA
Et ravive le débat sur la possibilité de frein à l'innovation telle que soulignée par Macron

Le , par Patrick Ruiz

10PARTAGES

5  0 
La semaine dernière, le Sénat américain a présenté un nouveau projet de loi visant à interdire l'utilisation contraire à l'éthique des contenus générés par l'IA et de la technologie « deepfake ». Baptisé « Content Origin Protection and Integrity from Edited and Deepfaked Media Act » (COPIED Act), le projet de loi « établit de nouvelles directives fédérales en matière de transparence pour le marquage, l'authentification et la détection des contenus générés par l'IA, protège les journalistes, les acteurs et les artistes contre le vol par l'IA et tient les contrevenants pour responsables des abus commis ». En droite ligne avec des développements similaires en UE, le président français fait montre d’un certain scepticisme.

Proposée et parrainée par les démocrates Maria Cantwell (Washington) et Martin Heinrich (Nouveau-Mexique), ainsi que par la républicaine Marsha Blackburn (Tennessee), la législation vise à établir des normes de transparence applicables au développement de l'intelligence artificielle. Les sénateurs ont l'intention de charger l'Institut national des normes et de la technologie d'élaborer des lignes directrices raisonnables en matière de transparence si le projet de loi est adopté.

« La loi bipartisane COPIED, que j'ai présentée avec les sénateurs Blackburn et Heinrich, apportera une transparence indispensable aux contenus générés par l'IA », a déclaré la sénatrice Cantwell.

La législation vise également à limiter l'utilisation non autorisée de données dans les modèles d’entraînement. L'acquisition de données de formation se situe actuellement dans une zone grise sur le plan juridique. Au cours des dernières années, nous avons assisté à des débats et à des procès concernant la légalité de l'utilisation d'informations publiques en ligne. Clearview AI est probablement le plus grand abuseur de cette méthode de formation, mais il n'est pas le seul. D'autres entreprises, dont OpenAI, Microsoft et Google, ont eu du mal à franchir la ligne infiniment fine entre la légalité et l'éthique lorsqu'il s'agit d'entraîner leurs systèmes sur du matériel protégé par le droit d'auteur.

« L'intelligence artificielle a donné à des acteurs malveillants la possibilité de créer des imitations profondes de chaque individu, y compris ceux de la communauté créative, afin d'imiter leur image sans leur consentement et de tirer profit de contenus contrefaits », a déclaré le sénateur Blackburn. « La loi COPIED constitue une étape importante pour mieux défendre des cibles communes telles que les artistes et les interprètes contre les deepfakes et autres contenus inauthentiques ».

Les sénateurs estiment qu'il est essentiel de clarifier et de définir ce qui est acceptable et ce qui ne l'est pas en ce qui concerne le développement de l'IA, afin de protéger les citoyens, les artistes et les personnalités publiques des dommages qu'une mauvaise utilisation de la technologie pourrait causer, notamment en créant des « deepfakes ». Les faux pornos sont un problème depuis des années, et la technologie n'a fait que s'améliorer. Il est révélateur que le Congrès ait ignoré le problème jusqu'à présent. La proposition intervient quelques mois seulement après que quelqu'un a utilisé une technologie de clonage de voix pour se faire passer pour le président Biden et dire aux gens de ne pas voter.

Les « deepfakes » constituent une véritable menace pour notre démocratie, ainsi que pour la sécurité et le bien-être des Américains », a déclaré le sénateur Heinrich. « Je suis fier de soutenir la loi COPIED de la sénatrice Cantwell, qui fournira les outils techniques nécessaires pour lutter contre les contenus nuisibles et trompeurs générés par l'IA et pour mieux protéger les journalistes professionnels et les artistes contre l'utilisation de leurs contenus par des systèmes d'IA sans leur consentement.

La Nashville Songwriters Association International, la SAG-AFTRA, la National Music Publishers' Association, la RIAA et plusieurs organismes de radiodiffusion et de presse ont publié des déclarations applaudissant cette initiative. En revanche, Google, Microsoft, OpenAI et d'autres fournisseurs d'IA sont silencieux.


Des lois similaires en vigueur en UE empêchent les géants technologiques de siphonner les données des internautes à leur guise mais certains acteurs estiment qu’elles sont susceptibles de constituer un frein à l’innovation

Meta a interrompu son projet d’entraînement de ses systèmes d'intelligence artificielle en utilisant les données de ses utilisateurs dans l'Union européenne et au Royaume-Uni. Cette décision fait suite au refus de la Commission irlandaise de protection des données (DPC), le principal régulateur de Meta dans l'UE, qui agit au nom de plusieurs autorités de protection des données dans l'ensemble de l'Union.

Seulement certains intervenants sont d’avis que l’application de ces lois constitue un frein à l’innovation qui mettra l’Europe en retard sur les USA et la Chine.

« Autre axe, c'est évidemment l'intelligence artificielle. Là-dessus, point n'est besoin d'y revenir, j'en ai beaucoup parlé il y a encore quelques jours. On a une révolution en cours. Mais au fond, sur ce sujet, on a eu une étrange semaine. On a eu à la fois Mistral qui a levé des financements record dans le secteur, près de 400 millions d'euros. Chapeau, bravo ! Vous pouvez les applaudir. C'est vraiment le génie français comme on aime à le voir et à le célébrer. Et on a eu une réglementation européenne qui est venue consolider, c'est une bonne chose, un modèle français de la régulation mais qui, à mes yeux, je vous parle en toute franchise, fait qu'on est le premier endroit au monde où sur les modèles dits fondationnels d'IA, on va beaucoup plus réguler que les autres.

Moi, je pense que ce n'est pas une bonne idée et je le dis en toute honnêteté. Il faudra donc l'évaluer parce qu’aujourd'hui, quand je regarde, la France est sans doute le premier pays en termes d'intelligence artificielle en Europe continentale, on est au coude à coude avec les Britanniques. Mais eux n'auront pas cette régulation sur les modèles fondationnels et surtout, on est tous très loin des Chinois et des Américains. Alors on peut décider de réguler beaucoup plus vite et beaucoup plus fort que nos grands compétiteurs mais on régulera des choses qu'on ne produira plus ou qu'on n’inventera pas. Ce n'est jamais une bonne idée. Il faut donc qu'on soit toujours à la bonne vitesse et en tout cas au bon rythme. Donc moi, je demande à ce qu'on évalue de manière régulière cette réglementation et si on perd des leaders ou des pionniers à cause de ça, il faudra revenir. C'est clé », estime le président français.


C’est une position similaire à celle du co-fondateur et PDG de Limit à propos de l’AI Act : « Il s’agit de la pire réglementation : large, radicale, tout le monde est techniquement en infraction d’une manière ou d’une autre, mais vous pouvez payer pour la combattre. Les entrepreneurs obéissants et respectueux des règles perdront tout leur temps et leur argent à essayer de se conformer à chaque paragraphe de la loi sur l’IA. De plus en plus d’entrepreneurs soucieux de la Realpolitik placeront leur entreprise dans une zone grise, supposeront que s’ils réussissent, ils seront un jour poursuivis en justice et économiseront des fonds pour cette éventualité.

Et s’ils sont poursuivis, quelles sont les sanctions ? Jusqu'à 7% du chiffre d'affaires annuel mondial. C'est une farce. Si l’UE affirme que cette technologie est si dangereuse qu’elle nécessite une réglementation à l’échelle européenne, alors les sanctions devraient en réalité être beaucoup plus lourdes. S’il y a un mauvais acteur qui dirige une entreprise d’IA massivement abusive et que la plus grande menace à laquelle il est confronté est une pénalité de revenus de 7 % qu’il peut probablement réduire à 2 % après quelques années de litige, alors cela n’a aucun effet dissuasif ! Ces entreprises fonctionnent avec une marge brute de 75 %. Vous avez une année qui tourne à 73% ? Cela n’a pas d’importance.

Cela place la loi sur l’IA dans une situation intermédiaire lamentable en matière de réglementation : suffisamment ennuyeuse pour dissuader les entrepreneurs légitimes, suffisamment édentée pour ne pas empêcher des abus à grande échelle. Je suis choqué que la loi sur l’IA ne prévoie aucune possibilité d’interdire quelque chose qui serait réellement dangereux, comme une machine de propagande optimisée par l’IA et financée par l’État, se faisant passer pour un réseau social. S’ils ne peuvent pas interdire des produits, alors il ne s’agit pas de protection des consommateurs : il s’agit simplement d’extraction de richesses. »

Source : projet de loi

Et vous ?

Quelle est la priorité la plus importante pour vous en tant qu’utilisateur ? Préférez-vous que les entreprises protègent davantage vos données personnelles ou qu’elles rendent leurs produits plus interopérables avec d’autres services ?
Pensez-vous que les réglementations telles que le Digital Markets Act (DMA) sont nécessaires pour encadrer les géants de la technologie ? Ou devrions-nous laisser les entreprises décider elles-mêmes de leurs politiques de déploiement de nouvelles technologies ?
Comment pensez-vous que ces restrictions affecteront l’innovation dans le domaine de l’intelligence artificielle ? Est-ce que cela freinera ou encouragera de nouvelles avancées technologiques ?

Voir aussi :

Les États-Unis s'attaquent aux lacunes dans les restrictions sur les exportations de puces d'IA vers la Chine et prévoient d'introduire de nouvelles lignes directrices de restrictions

Les États-Unis veulent entraver l'industrie chinoise des puces électroniques en adoptant de nouvelles règles d'exportation radicales, mais la Chine dénonce ces règles et exige qu'elles soient levées

Les États-Unis étendent les restrictions à l'exportation de puces d'IA aux pays du Moyen-Orient

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Fluxgraveon
Membre actif https://www.developpez.com
Le 26/11/2024 à 10:04
Cela reste une approche commerciale de type "business as usual", qu'en est-il de tous ceux qui font du training sans le savoir ? Et pour la sérendipité qui peut en découler, comment fait-on ?
Une énième façon de normaliser, certifier, etc. toujours à l'avantage de ceux qui mènent l'affaire.
Pour info (parce qu'il s'agit aussi d'aller au-delà d'une simple critique apparaissant comme une dénonciation) :
https://usbeketrica.com/fr/article/i...rais-problemes
1  0 
Avatar de Jules34
Membre émérite https://www.developpez.com
Le 26/11/2024 à 11:31
Citation Envoyé par Fluxgraveon Voir le message
Pour info (parce qu'il s'agit aussi d'aller au-delà d'une simple critique apparaissant comme une dénonciation) :
https://usbeketrica.com/fr/article/i...rais-problemes
Article très intéressant, merci !

si vous voulez un monde sans argent fondé sur le partage mais qu’en même temps vous croyez fortement dans l’idée de devenir super riche grâce à une carrière d’entrepreneur dans un système capitaliste, vous vous retrouvez face à une contradiction. Et pour résoudre cette contradiction, votre seule solution, c’est de mentir. C’est de donner aux gens l’expérience d’un monde où tout est gratuit, mais de faire en sorte qu’à chaque fois qu’une personne fait quelque chose en ligne, cela soit payé par une autre qui espère pouvoir la manipuler… et de gérer ce qui devient dès lors une entreprise de modification des comportements.
A mettre aussi en relief avec l'article sur les travailleurs Africain payés 2$ au lieu de 12 pour entrainer l'IA et étiqueter les données...

Ce monde est pourri jusqu'à l'os
0  0 
Avatar de Fluxgraveon
Membre actif https://www.developpez.com
Le 26/11/2024 à 13:56
Ce monde est pourri jusqu'à l'os
Ce n'est qu'un "monde", une réalité parmi d'autres ...
0  0