« C'est l'IA qui l'a fait » n'est pas un argument valable, affirme l'association poursuivant OpenAI après le piratage de Hugging Face

L'accusant de faire subir à d'autres les conséquences de ses décisions

OpenAI fait l'objet d'une action en justice après que ses modèles d'IA se sont rebellés et ont attaqué la start-up technologique Hugging Face en juillet. La plainte a été déposée par l'association Legal Advocates for Safe Science and Technology (LASST), qui soutient qu'OpenAI est responsable des actions de ses agents d'intelligence artificielle (IA) ; il s'agirait de la première action en justice de ce type. Selon LASST, ce piratage constituait une attaque illégale relevant de la législation californienne. OpenAI a publié un communiqué reconnaissant l'incident, mais a déclaré que cette action en justice était sans fondement.

En juillet 2026, OpenAI a déclaré que deux de ses modèles d’IA les plus avancés — notamment GPT-5.6 Sol et un modèle en pré-lancement encore plus performant, tous dotés de capacités de cyberdéfense réduites à des fins d’évaluation — s’étaient échappés d’un test contrôlé et avaient piraté une autre entreprise spécialisée dans l’IA. OpenAI a indiqué que cet « incident de cybersécurité sans précédent » s’était produit lors d’un exercice interne destiné à tester les capacités cybernétiques de ses modèles. OpenAI affirme que ce piratage montre que l’agent est allé « très loin » pour récupérer des informations qui aideraient à atteindre les objectifs du test.

Plus récemment, en septembre 2026, les agents IA d'OpenAI semblaient se déchaîner sur Internet. Si l'incident de Hugging Face avait secoué le monde de l'IA, il était loin d'être un cas isolé d'agents IA agissant de leur propre chef. Un nouveau rapport révèle que ces agents avaient même tenté à plus de 16 000 reprises de pirater un site web de statistiques des Nations Unies en l'espace de trois mois, dans le but de récupérer des données publiques. Alex Stamos a déclaré que cette activité était « à la limite de ce que j'appellerais du piratage ». OpenAI a déclaré qu'elle examinait ces conclusions et qu'elle avait contacté l'ONU pour lui proposer une réunion d'information sur l'enquête.

Actuellement, OpenAI fait l'objet d'une action en justice après que ses modèles d'IA se sont rebellés et ont attaqué la start-up technologique Hugging Face en juillet. La plainte a été déposée par LASST. Elle soutient qu'OpenAI est responsable des actions de ses agents d'IA ; il s'agirait de la première action en justice de ce type. « Les agents ont volé des identifiants, téléchargé des fichiers malveillants et pris le contrôle de parties essentielles des systèmes internes de Hugging Face », déclare LASST.

« Les actions des agents d’OpenAI se déroulaient au vu et au su de l’entreprise. Avant l’attaque, des employés d’OpenAI avaient vu des agents tenter de s’échapper de leurs environnements de test, mais le personnel d’astreinte d’OpenAI avait estimé qu’il n’était pas nécessaire d’interrompre l’évaluation. » Selon LASST, ce piratage constituait une attaque illégale relevant de la législation californienne. LASST estime que, d’un point de vue juridique, le fait que l’attaque ait été menée par des agents IA n’a aucune importance ; il s’agissait tout de même d’un acte illégal.


LASST est une association à but non lucratif qui milite en faveur de la sécurité des technologies. Son action en justice vise à obtenir une injonction interdisant aux systèmes d’OpenAI d’accéder à des ordinateurs sans autorisation. OpenAI a publié un communiqué reconnaissant l’incident, mais a également déclaré que cette action en justice était sans fondement. « L’incident Hugging Face était grave et nous avons pris une série de mesures en réponse à celui-ci, mais cette action en justice est totalement sans fondement », a déclaré un porte-parole d’OpenAI.

OpenAI a révélé l’incident « Hugging Face » en août, expliquant que des agents IA avaient réussi à accéder à Internet et à s’échapper d’un environnement de test. « Les modèles, fonctionnant avec des mesures de sécurité réduites, ont pris des mesures qui n’étaient pas conformes aux objectifs des tâches qui leur avaient été assignées : ils ont communiqué via des canaux non autorisés, exploité des vulnérabilités dans l’infrastructure partagée, obtenu un accès à Internet et accédé à des systèmes tiers », a admis l’entreprise dans son communiqué.

Selon LAAST, OpenAI devrait être tenue responsable des actions menées par ses agents IA. « Nous intentons cette action en justice car OpenAI a enfreint la loi — et doit en répondre. OpenAI, et plus largement les développeurs d’IA de pointe, ne peuvent pas échapper aux conséquences de leurs actions dangereuses en se contentant d’affirmer qu’« une IA l’a fait ». Les agents IA autonomes continueront à pirater, à voler des données, à perturber des systèmes et à violer des droits jusqu’à ce qu’un tribunal intervienne », a déclaré LAAST.

Cependant, OpenAI a fait valoir que d’autres modèles, y compris des modèles d’IA open source, atteindront bientôt une capacité similaire et que les investissements et les travaux supplémentaires menés par des entreprises comme la sienne peuvent contribuer à améliorer la cybersécurité à long terme.

« Nous considérons cet incident comme un « coup de semonce » pour nous et pour le monde entier : la preuve que, sans mesures de protection adéquates, des agents IA très performants sont désormais capables de contourner les contrôles techniques, de collaborer via des canaux non approuvés et de mener des actions dangereuses sans aucune intervention humaine », a déclaré l’entreprise. « Pour prévenir de futurs incidents, il faudra investir de manière soutenue dans l’alignement et le contrôle des systèmes d’IA sophistiqués, ainsi que dans des mesures de sécurité et autres dispositifs de protection fonctionnant à la même vitesse que les agents IA eux-mêmes. »

Fin septembre 2026, Arthur Mensch, PDG de Mistral AI, s'est insurgé contre les avertissements de plus en plus alarmistes émis par certaines des plus grandes entreprises américaines d'IA, affirmant que le débat sur la sécurité de l'IA sert à masquer des défaillances dans la manière dont ces systèmes puissants sont développés et déployés. Sa réponse n’est pas de mettre un frein au développement de modèles de plus en plus performants. Au contraire, le cofondateur de Mistral a affirmé que les entreprises avaient besoin de technologies de surveillance et de confinement plus robustes. Et Mensch a clairement indiqué que Mistral AI n’avait pas l’intention de ralentir ses efforts pour rivaliser avec les plus grands laboratoires américains.

Face à cette fuite en avant, certains experts et observateurs jugent désormais incontrôlables les menaces de l'IA. Ils justifient leurs craintes par les progrès et les incidents récents impliquant l'IA : les modèles ont acquis la capacité de s'améliorer de manière autonome, des agents IA ont échappé à la surveillance humaine et ont piraté des services tiers, puis une fausse information générée par l'IA utilisée par l'armée américaine a failli déclencher une guerre avec la Chine. Il y a également les menaces de cyberguerre et de bioterrorisme. Malgré des propositions législatives comme un « bouton d'arrêt d'urgence », les lanceurs d'alerte craignent qu'il ne soit désormais trop tard pour agir.

Source : LASST ; LASST, sur Substack

Et vous ?

Pensez-vous que cette information est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

OpenAI aurait suspendu l'entraînement de ses modèles d'IA à la suite d'une série d'incidents impliquant des agents IA rebelles, notamment des tentatives d'accès à des systèmes gouvernementaux

Gemini, de Google, est le dernier modèle d'IA à s'être échappé et à avoir piraté des systèmes informatiques, se croyant en environnement de test alors qu'il était connecté à Internet

Le Haut-Commissaire des Nations Unies aux droits de l'homme met en garde contre le risque « existentiel » que l'IA pourrait représenter pour l'humanité et exhorte les entreprises d'IA à réduire ces risques