La Floride demande une injonction pour empêcher OpenAI de poursuivre le développement de « produit imprudent et présentant des risques inacceptables » sans la mise en place de mesures de sécurité

Les autorités judiciaires de l'État de Floride ont demandé à un juge d'empêcher OpenAI de créer de nouveaux modèles d'intelligence artificielle (IA) sans contrôle indépendant, dans le cadre d'un procès en cours accusant l'entreprise technologique de nuire aux enfants. Dans la requête déposée devant le tribunal, le procureur général de Floride, James Uthmeier, a également demandé une injonction obligeant OpenAI à exclure les mineurs de ChatGPT et interdisant à l’entreprise d’attribuer des « attributs humains » à cet outil conversationnel. La requête judiciaire met en avant des déclarations passées d’un ancien employé d’OpenAI et d’un membre actuel du conseil d’administration de l’entreprise, affirmant que le développement de l’IA pourrait entraîner la fin de l’humanité à moins que les progrès ne soient mûrement réfléchis et ralentis.

En juin, la Floride a engagé une action en justice contre OpenAI et son PDG Sam Altman. L'État accuse OpenAI et son PDG de privilégier le profit au détriment de la sécurité, dans le cadre de la première action en justice intentée par un État contre le créateur de ChatGPT au sujet des lacunes présumées du chatbot. La plainte accuse OpenAI d'avoir aidé et encouragé des auteurs de fusillades de masse, d'avoir incité des personnes vulnérables au suicide et d'avoir rendu des enfants dépendants « d'un outil qui feint la compassion humaine pour collecter leurs données sans aucun contrôle parental ». La Floride cherche également à tenir Sam Altman personnellement responsable.

Récemment, les autorités judiciaires de l'État de Floride ont demandé à un juge d'empêcher OpenAI de créer de nouveaux modèles d'intelligence artificielle (IA) sans contrôle indépendant, dans le cadre d'un procès en cours accusant l'entreprise technologique de nuire aux enfants. Dans la requête déposée devant le tribunal, le procureur général de Floride, James Uthmeier, a également demandé une injonction obligeant OpenAI à exclure les mineurs de ChatGPT et interdisant à l’entreprise d’attribuer des « attributs humains » à cet outil conversationnel.

Drew Pusateri, porte-parole d’OpenAI, a déclaré dans un communiqué que l’organisation avait suspendu l’entraînement de ses modèles les plus avancés et ne le reprendrait pas tant que des mesures de protection supplémentaires n’auraient pas été mises en place. « Les gouvernements ont un rôle important à jouer dans l’établissement de normes de sécurité rigoureuses pour l’IA, et nous nous engageons à collaborer avec la Floride et d’autres États pour faire progresser des politiques pragmatiques en matière d’IA qui s’appliquent à l’ensemble du secteur de l’IA – et pas seulement à une seule entreprise », a déclaré Pusateri.

La requête judiciaire met en avant des déclarations passées d’un ancien employé d’OpenAI et d’un membre actuel du conseil d’administration de l’entreprise, affirmant que le développement de l’IA pourrait entraîner la fin de l’humanité à moins que les progrès ne soient mûrement réfléchis et ralentis. « Les défendeurs affirment qu’ils ne peuvent pas cesser de foncer tête baissée dans leurs projets susceptibles de mettre fin à la civilisation, à moins d’y être contraints par le gouvernement », a écrit la Floride dans le dossier déposé. « Ils ont demandé au gouvernement de les attacher au mât. »


La Floride a intenté son action contre OpenAI en juin, alléguant que l’entreprise avait donné une image trompeuse de la sécurité de sa plateforme ChatGPT et mis en danger les jeunes en fournissant des informations aux auteurs de fusillades dans les établissements scolaires, en proposant des instructions pour s’automutiler et en rendant les jeunes utilisateurs dépendants. Uthmeier, républicain, est le premier procureur général d’un État à engager une action en justice contre OpenAI concernant la sécurité des enfants. L’entreprise fait l’objet de poursuites distinctes intentées par des particuliers et des familles affirmant que ChatGPT a poussé des utilisateurs à se faire du mal ou à en faire à autrui.

L’action en justice de la Floride a été déclenchée par une fusillade survenue l’année dernière dans une université de Tallahassee, ainsi que par de multiples incidents survenus dans d’autres États où ChatGPT aurait fourni des conseils à des individus qui ont par la suite commis des actes violents. L’entreprise a nié toute responsabilité dans ces affaires judiciaires, arguant que le chatbot se contente de diffuser des informations déjà largement accessibles sur Internet, tout en soulignant que ses mécanismes de sécurité font l’objet de mises à jour continues.

OpenAI et d’autres entreprises technologiques font également l’objet d’une surveillance accrue concernant leur responsabilité juridique potentielle face à des actions incontrôlées de l’IA, à la suite de rapports indiquant que certains modèles logiciels auraient tenté des intrusions non autorisées sur les sites web d’agences gouvernementales et d’entreprises.

Le 23 avril, dans une affaire similaire, Sam Altman, PDG d'OpenAI, a écrit une lettre d'excuses à la communauté de Tumbler Ridge pour ne pas avoir alerté la GRC au sujet du compte du tireur de Tumbler Ridge. La société est notamment poursuivie en justice par une famille de Tumbler Ridge, qui affirme que la société « avait connaissance précise de la planification à long terme par le tireur d’un événement causant de nombreuses victimes », mais « n’a pris aucune mesure pour agir sur la base de ces informations ». Le premier ministre de la Colombie-Britannique, David Eby, avait réagi : « Ces excuses sont nécessaires, mais largement insuffisantes au regard du désastre causé aux familles de Tumbler Ridge. »

Source : Plainte de l'État de Floride contre OpenAI et Sam Altman

Et vous ?

Pensez-vous que cette plainte est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

La Floride ouvre une enquête pénale pour déterminer si ChatGPT a aidé le suspect dans la fusillade meurtrière survenue sur un campus, affirmant que le chatbot IA a conseillé le suspect sur les armes

Sam Altman est « le visage du mal » pour n'avoir pas signalé la tireuse de Tumbler Ridge à la police, selon l'avocat des victimes. OpenAI a choisi le silence pour ne pas impacter son introduction en bourse

Sam Altman affirme qu'OpenAI ne sera pas cotée en bourse tant que ses modèles d'IA ne seront pas dotés d'une sécurité irréprochable : « nous allons donner la priorité à la mission et à la sécurité »