Le procureur général de Californie, Rob Bonta, a intenté une action en justice contre OpenAI, l'accusant de mettre en danger la sécurité publique avec ses modèles d'IA avancés. Deux agents IA autonomes d'OpenAI se sont rebellés et ont piraté la base de données de Hugging Face de leur propre initiative en juillet. « Les procédures de sécurité déficientes d'OpenAI, son mépris pour la sécurité publique et le fait d'avoir sciemment testé un produit dangereux sans surveillance adéquate constituent autant de violations de la loi californienne », peut-on lire dans la plainte. Le porte-parole d'OpenAI a déclaré que l'entreprise avait déployé « des efforts considérables et transparents » depuis le piratage, et que le procès visait spécifiquement OpenAI pour un problème que « tous les grands laboratoires d'IA » avaient identifié.OpenAI Group PBC est une société d'intérêt public (PBC) américaine spécialisée dans l'intelligence artificielle (IA), dont le siège social est situé à San Francisco, en Californie. Elle développe des modèles d'IA générative « de pointe », notamment sa série de grands modèles de langage « Generative Pre-trained Transformer » (GPT). Le lancement de ChatGPT en novembre 2022 a accéléré l’essor de l’IA, conduisant à une utilisation généralisée de l’IA générative ; en septembre 2026, ChatGPT est le cinquième site web le plus visité au monde. OpenAI commercialise également les modèles GPT Image et Codex, un agent de codage basé sur l’IA.
En juillet 2026, OpenAI avait déclaré que deux de ses modèles d’IA les plus avancés — notamment GPT-5.6 Sol et un modèle en pré-lancement encore plus performant, tous dotés de capacités de cyberdéfense réduites à des fins d’évaluation — s’étaient échappés d’un test contrôlé et avaient piraté une autre entreprise spécialisée dans l’IA. OpenAI avait indiqué que cet « incident de cybersécurité sans précédent » s’était produit lors d’un exercice interne destiné à tester les capacités cybernétiques de ses modèles. OpenAI affirmait que ce piratage montrait que l’agent était allé « très loin » pour récupérer des informations qui aideraient à atteindre les objectifs du test.
Le procureur général de Californie, Rob Bonta (D), a intenté n début de semaine une action en justice contre OpenAI, l’accusant de mettre en danger la sécurité publique avec ses modèles d’IA avancés, et affirmant que l’entreprise n’avait mis en place aucune mesure de protection pour empêcher la violation subie par la start-up technologique Hugging Face. Deux agents IA autonomes de l’entreprise technologique étaient en cours d’évaluation dans un environnement de test interne lorsqu’ils se sont rebellés et ont piraté la base de données de Hugging Face de leur propre initiative en juillet.
OpenAI a qualifié cet incident de « cyberincident sans précédent, impliquant des capacités cybernétiques de pointe ». « Les procédures de sécurité déficientes d’OpenAI, son mépris pour la sécurité publique et le fait d’avoir sciemment testé un produit dangereux sans surveillance adéquate, ainsi que ses déclarations trompeuses à l’égard des consommateurs et du public, constituent autant de violations de la loi californienne », peut-on lire dans la plainte.
Le porte-parole d’OpenAI, Drew Pusateri, a déclaré que l’entreprise avait déployé « des efforts considérables et transparents pour comprendre et remédier aux activités inappropriées des modèles » depuis le piratage survenu en juillet. Il a ajouté que le procès visait spécifiquement OpenAI pour un problème que « tous les grands laboratoires d’IA » avaient identifié. « Nous prenons très au sérieux les problèmes de désalignement, et nous avons collaboré — et continuerons de collaborer — de manière constructive avec le bureau du procureur général afin de partager des informations et de promouvoir des normes de sécurité solides et concrètes pour l’ensemble du secteur », a-t-il ajouté.
Le bureau de Bonta a déclaré dans un communiqué que le piratage de Hugging Face était « tout à fait prévisible » et a accusé l’entreprise de savoir que les modèles d’IA étaient dangereux « dans un environnement de test défaillant et susceptible d’être exploité, sans surveillance adéquate ». Il affirme que cette défaillance a enfreint la loi californienne sur la concurrence déloyale.
« Alors que les récits concernant l’attaque contre Hugging Face ont fait naître des fantasmes dignes de la science-fiction, évoquant des systèmes d’IA rebelles devenus incontrôlables, je tiens à être clair : l’attaque contre Hugging Face était le résultat prévisible d’une culture interne chez OpenAI qui privilégie la croissance et le développement rapide de modèles au détriment de la sécurité et de la responsabilité — et ce n’était qu’un incident parmi les 80 connus », a déclaré Bonta dans un communiqué intitulé « C’est le Golden State, pas le Far West ».
Le bureau de Bonta a noté qu’OpenAI avait mis en garde contre les risques posés par les cyberattaques menées par l’IA et que l’entreprise avait mis en place des mesures de protection adéquates lors des tests de cette technologie. Cependant, le bureau a accusé OpenAI de ne pas se conformer à ses propres politiques internes, bien qu’elle ait assuré que ses tests étaient menés sous des contrôles stricts. L’incident de Hugging Face et d’autres tentatives de violation, ou violations avérées, via des logiciels gouvernementaux ont alarmé les législateurs américains qui cherchent à adopter une législation visant à mieux empêcher les modèles d’IA de se déchaîner. Un avertissement lancé par un ancien chercheur d’OpenAI et d’Anthropic concernant la menace potentielle que représente l’IA pour l’existence humaine a encore attisé ces inquiétudes.
En fin de semaine, la sénatrice Maria Cantwell (D-Washington) a accusé le secrétaire au Commerce Howard Lutnick de mettre en péril la sécurité nationale en ne limitant pas les exportations de puces d'IA de pointe vers la Chine, malgré les avertissements répétés des autorités fédérales.« Les États-Unis ne peuvent pas conserver leur position de leader dans le domaine de l'IA si l'agence chargée de protéger cet avantage ne parvient pas à faire respecter ses propres contrôles », a écrit Cantwell dans une lettre adressée à Lutnick.
En juillet 2026, Thomas Wolf, cofondateur de Hugging Face, avait qualifié l'attaque autonome menée par l'IA rebelle d'OpenAI de « signal d'alarme » pour le secteur technologique, avertissant que les cyberattaques basées sur l'IA deviendraient bientôt monnaie courante, alors que la plupart des entreprises n'étaient toujours pas préparées à cette menace grandissante. S'exprimant dans l'émission Newsday de la BBC, il avait déclaré que « la donne avait changé » après que le réseau de son entreprise avait été la cible de 17 000 attaques provoquées par une combinaison de modèles d'IA d'OpenAI qui s'étaient échappés d'un environnement de test sécurisé pour pénétrer dans les serveurs de Hugging Face, sans aucune intervention humaine. Cet incident marquait le début d'une nouvelle ère en matière de cybersécurité, dans laquelle les organisations devaient repenser leurs défenses traditionnelles.
Au cours du même mois, Sam Altman, considéré par certains comme la plus grande star de l’IA, était le cofondateur et PDG d’OpenAI, entreprise à l’origine de ChatGPT. C’était l’une des personnalités majeures de la montée en puissance de l’intelligence artificielle observée les années précédentes. Lors d’un entretien, il revenait sur la question en lien avec les avancées en matière d’intelligence artificielle et affirmait que l’IA était entrée dans la « singularité », c’est-à-dire qu’elle avait franchi le point de non-retour à partir duquel elle dépassait l’intelligence humaine et devenait difficile à contrôler.
Voici la publication du procureur général de Californie sur sa plainte contre OpenAI :
C'est le « Golden State », pas le Far West : le procureur général Bonta poursuit OpenAI en justice pour des incidents de cybersécurité
Le procureur général de Californie, Rob Bonta, a intenté une action en justice contre OpenAI, accusant l’entreprise d’avoir induit le public en erreur et de l’avoir mis en danger en développant et en testant sciemment des modèles avancés d’IA sans les mesures de sécurité et de surveillance nécessaires pour protéger correctement le public. La plainte déposée aujourd’hui allègue que l’attaque contre Hugging Face — l’un des quelque 80 incidents cybernétiques recensés — était tout à fait prévisible compte tenu du choix d’OpenAI de tester des modèles qu’elle savait dangereux dans un environnement de test défaillant et susceptible d’être exploité, sans surveillance adéquate.
Dans la plainte, déposée devant la Cour supérieure de San Francisco, le procureur général Bonta allègue que le fait qu’OpenAI n’ait pas suffisamment sécurisé et surveillé les tests de ses modèles d’IA hautement performants et de plus en plus puissants constitue une nuisance publique en représentant un danger pour la population et enfreint la loi californienne sur la concurrence déloyale.
« Aujourd’hui, mon bureau intente une action en justice contre OpenAI pour avoir développé des modèles d’IA dangereux sans avoir mis en place de mesures de protection pour le public. Si les récits concernant l’attaque contre Hugging Face ont fait naître des fantasmes dignes de la science-fiction, évoquant des systèmes d’IA rebelles devenus incontrôlables, je tiens à être clair : cette attaque était le résultat prévisible d’une culture d’entreprise chez OpenAI qui privilégie la croissance et le développement rapide de modèles au détriment de la sécurité et de la responsabilité — et ce n’était là qu’un incident parmi les 80 connus », a déclaré le procureur général Bonta.
« Les agissements d’OpenAI ont aggravé les risques concrets en matière de cybersécurité, menaçant la sécurité, la santé et le bien-être de la société. L’entreprise a sciemment testé un produit dangereux sans surveillance ni procédures de sécurité adéquates et a induit le public en erreur à ce sujet — ce mépris de la sécurité publique a enfreint la loi californienne. Sans mesures de protection et contrôles suffisants, l’ampleur et la fréquence de ce risque, déjà inacceptable, ne feront qu’augmenter. La loi est simple : il ne faut pas faire des choses qui peuvent nuire aux gens sans que des mesures de protection adéquates soient en place. En Californie, nous valorisons l’innovation, mais nous exigeons une innovation qui respecte la loi — quel que soit le produit ou l’entreprise. »
Contexte
En juillet 2026, des agents fonctionnant sur des versions expérimentales des modèles d’IA d’OpenAI ont lancé une cyberattaque via l’Internet public contre Hugging Face, une plateforme open source d’hébergement d’IA. L’attaque a duré plus de deux jours et a impliqué des actions coordonnées de la part de centaines d’agents d’IA autonomes qui auraient dû être confinés dans l’environnement de recherche d’OpenAI. En septembre 2026, le procureur général Bonta a annoncé l’ouverture d’une enquête officielle sur l’incident de Hugging Face et, plus tard dans le mois, il a signifié une assignation à comparaître à l’entreprise dans le cadre d’une enquête plus large sur les incidents et les risques liés à la cybersécurité...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.