Le gouverneur de Californie, Gavin Newsom, a opposé le dimanche 29 septembre 2024 son veto à un projet de loi très contesté sur la sécurité de l'intelligence artificielle (IA), après que l'industrie technologique eut soulevé des objections, estimant que ce projet de loi pourrait pousser les entreprises d'intelligence artificielle à quitter l'État et entraver l'innovation.Pour rappel, le gouverneur de Californie a précédemment signé 9 projets de loi réglementant les contenus générés par l'IA, pour répondre aux risques liés aux "deepfakes". Deux projets de loi parmi les neuf concernent les acteurs et les interprètes, trois projets de loi visent à lutter contre l'utilisation abusive de contenus générés par l'IA et quatre projets de loi visent à réglementer l'utilisation de l'IA dans les campagnes électorales. Mais les Big tech de l'IA critiquent le projet de loi pour la régulation de l'IA, y voyant un frein à l'innovation.
Gavin Newsom a déclaré qu'il avait demandé à d'éminents experts en IA générative d'aider la Californie à « élaborer des garde-fous réalisables » qui se concentrent « sur le développement d'une analyse empirique et scientifique de la trajectoire ». Il a également ordonné aux agences de l'État d'élargir leur évaluation des risques d'événements catastrophiques potentiels liés à l'utilisation de l'IA.
L'IA générative - qui peut créer du texte, des photos et des vidéos en réponse à des questions ouvertes - a suscité de l'enthousiasme, mais aussi des craintes qu'elle ne rende certains emplois obsolètes, qu'elle ne bouleverse les élections, qu'elle ne prenne le dessus sur les humains et qu'elle n'ait des effets catastrophiques.
L'auteur du projet de loi, le sénateur démocrate Scott Wiener, a déclaré qu'une législation était nécessaire pour protéger le public avant que les progrès de l'IA ne deviennent difficiles à gérer ou incontrôlables. L'industrie de l'IA se développe rapidement en Californie et certains dirigeants s'interrogent sur l'avenir de ces entreprises dans l'État si le projet de loi est adopté.
Scott Wiener a déclaré le dimanche 29 septembre que le veto rendait la Californie moins sûre et signifiait que « les entreprises visant à créer une technologie extrêmement puissante ne sont soumises à aucune restriction contraignante ». Il a ajouté que « les engagements volontaires de l'industrie ne sont pas applicables et sont rarement bénéfiques pour le public ».
« Nous ne pouvons pas nous permettre d'attendre qu'une catastrophe majeure se produise avant de prendre des mesures pour protéger le public », a déclaré Gavin Newsom, tout en ajoutant qu'il n'était pas d'accord avec le fait que « nous devions nous contenter d'une solution qui n'est pas fondée sur une analyse empirique de la trajectoire des systèmes et des capacités de l'IA ».
Gavin Newsom a déclaré qu'il travaillerait avec le corps législatif sur une législation relative à l'IA lors de la prochaine session. Cette déclaration intervient alors que la législation du Congrès américain visant à mettre en place des garde-fous est au point mort et que l'administration Biden avance des propositions de contrôle réglementaire de l'IA.
Gavin Newsom a déclaré qu'« une approche californienne uniquement pourrait bien être justifiée - en particulier en l'absence d'une action fédérale du Congrès ».
La Chamber of Progress, une coalition de l'industrie technologique, a salué le veto de Gavin Newsom en déclarant que « l'économie technologique californienne a toujours prospéré grâce à la concurrence et à l'ouverture ».
La mesure aurait notamment imposé des tests de sécurité pour bon nombre des modèles d'IA les plus avancés, dont le développement coûte plus de 100 millions de dollars ou qui requièrent une puissance de calcul définie. Les développeurs de logiciels d'IA opérant dans l'État auraient également dû présenter des méthodes permettant de désactiver les modèles d'IA, ce qui aurait constitué un véritable « kill switch » (interrupteur d'arrêt).
Le projet de loi prévoit la création d'une entité publique chargée de superviser le développement des « modèles frontières », qui dépassent les capacités des modèles existants les plus avancés.
Le projet de loi s'est heurté à une forte opposition de la part d'un large éventail de groupes. Google (Alphabet), OpenAI (soutenu par Microsoft) et Meta Platforms, qui développent tous des modèles d'IA générative, ont exprimé leurs inquiétudes quant à la proposition.
Certains démocrates du Congrès américain, dont la représentante Nancy Pelosi, s'y sont également opposés. Parmi les partisans de la proposition, on trouve le PDG de Tesla, Elon Musk, qui dirige également une entreprise d'IA appelée xAI. Anthropic, soutenue par Amazon, a déclaré que les avantages du projet de loi l'emportaient probablement sur les coûts, tout en ajoutant que certains aspects semblaient encore préoccupants ou ambigus.
Gavin Newsom a signé séparément une loi obligeant l'État à évaluer les menaces potentielles que l'IA générative fait peser sur les infrastructures essentielles de la Californie.
L'État analyse les risques liés aux infrastructures énergétiques et a déjà réuni les fournisseurs du secteur de l'électricité. Il entreprendra la même évaluation des risques avec les fournisseurs d'infrastructures hydrauliques au cours de l'année à venir et, plus tard, avec le secteur des communications, a déclaré M. Gavin Newsom.
La déclaration du gouverneur Gavin Newsom à l'intention des membres du Sénat de l'Etat de Californie est présentée ci-dessous :...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par Patrick Ruiz
Partagez-vous les avis selon lesquels la dernière sortie d’Anthropic en la matière relève plus du sensationnalisme qu’autre chose ?
