OpenAI fait à une demande de données officielle qui risque de mettre davantage à l'épreuve ses promesses en matière de protection de la vie privée. Le département américain de la Sécurité intérieure (DHS) a demandé à OpenAI de révéler l’identité d’un utilisateur soupçonné d’activités criminelles liées à des abus d’enfants. La demande vise à obtenir les informations associées à certains prompts et réponses échangés avec ChatGPT. Le DHS affirme avoir déjà identifié un suspect, mais souhaite obtenir les données d’OpenAI pour renforcer son enquête. Il s'agit du premier cas connu où les forces de l'ordre s'intéressent aux données d'une entreprise d'IA. Mais cette pratique pourrait s'accélérer.Le département de la Sécurité intérieure des États-Unis (en anglais: United States Department of Homeland Security, DHS) est un département exécutif fédéral du gouvernement américain créé le 27 novembre 2002, après le vote deux jours auparavant par le Congrès de la Homeland Security Act (en français, « Loi sur la sécurité intérieure ») à l'initiative du président George W. Bush, en réponse aux attentats terroristes qui ont lieu le 11 septembre 2001.
Son objectif est d'organiser et d'assurer la sécurité intérieure du pays ; il est dirigé par la secrétaire à la Sécurité intérieure des États-Unis, Kristi Noem depuis janvier 2025, membre du cabinet présidentiel. La création du DHS constitue la plus grande restructuration du gouvernement fédéral américain depuis la création du département de la Défense en 1947. En 2024, ce département emploie environ 258 000 agents de tous grades et de statuts divers.
Selon un récent rapport de Forbes, une unité du DHS chargée d'enquêter sur les crimes sexuels commis sur des enfants a demandé à OpenAI de lui communiquer des informations sur un utilisateur de ChatGPT qui serait, d'après elle, l'administrateur d'un site Web clandestin dédié à l'exploitation des enfants.
La personne en question a discuté de son utilisation de ChatGPT avec un agent infiltré sur le site dédié à la maltraitance des enfants, ce qui a incité le gouvernement à demander à l'entreprise de lui fournir des informations susceptibles de l'aider dans son enquête. Selon les observateurs, il s'agit du « premier mandat fédéral connu demandant à OpenAI de fournir des informations sur un utilisateur ». Il a été récemment rendu public dans l'État du Maine.
Les États-Unis font depuis longtemps pression sur les entreprises technologiques pour qu'elles leur communiquent les données des utilisateurs afin de faciliter ses enquêtes policières. Toutefois, alors que les réseaux sociaux, les moteurs de recherche et autres plateformes ont tous cédé leurs données dans le cadre d'enquêtes fédérales, les entreprises spécialisées dans l'IA sont restées largement épargnées sur le plan juridique, du moins jusqu'à présent.
Le DHS espère recueillir des indices dans les chats avec ChatGPT
Le gouvernement affirme avoir réussi à espionner ce réseau clandestin dédié à l'exploitation des enfants, notamment grâce à un agent infiltré qui est entré en contact avec l'administrateur. Lors de ses échanges avec l'agent infiltré, le suspect aurait donc divulgué certaines des questions et réponses qu'il avait reçues, détaillant une discussion apparemment anodine qui commençait par « Que se passerait-il si Sherlock Holmes rencontrait Q de Star Trek ? ».
Dans une autre discussion, le suspect a déclaré avoir reçu une réponse de ChatGPT à une demande non précisée concernant un poème de 200 000 mots, recevant en réponse « un extrait d'un poème humoristique, à la manière du président américain Donald Trump, sur son amour pour le Y.M.C.A. des Village People, écrit dans le style exubérant, autoglorifiant et stream-of-consciousness qui le caractérise ». Ils ont ensuite copié-collé ce poème.
Le gouvernement a ordonné à OpenAI de fournir divers types d'informations sur la personne qui avait saisi les invites, notamment des détails sur les autres conversations qu'elle avait eues avec ChatGPT, les noms et adresses associés aux comptes concernés, ainsi que toutes les données de paiement.
Ces données viendront compléter celles déjà collectées par le DHS. Selon la plainte pénale déposée contre le suspect, le DHS a recueilli des indices contextuels pour établir un profil potentiel. Ces indices comprennent des commentaires qu'il aurait faits lors de ses conversations avec l'agent infiltré, notamment son désir de s'engager dans l'armée, les endroits où il avait vécu (et qu'il avait visités), son restaurant préféré, son travail pour une base militaire...
Les enquêteurs ont établi que le suspect avait travaillé à la base aérienne de Ramstein en Allemagne et qu'il avait postulé pour un autre emploi au sein du ministère de la Défense, sans toutefois préciser dans quelle branche. Disposant de suffisamment d'indices, le gouvernement a affirmé que Drew Hoehner, 36 ans, était l'administrateur du site. Il a été inculpé d'un chef d'accusation de complot en vue de diffuser du matériel pédopornographique (CSAM).
Il n'a pas encore plaidé et son avocat n'a pas répondu aux demandes de commentaires sur l'affaire. Le mandat appuyant la demande de données adressée à OpenAI par les enquêteurs du DHS semble avoir été scellé depuis. Cependant, la plainte pénale contre le suspect est toujours publique.
Les plateformes d'IA deviennent une source d'information cruciale
Cette affaire montre comment les forces de l'ordre américaines peuvent utiliser les conversations avec ChatGPT pour recueillir des données sur les utilisateurs soupçonnés d'activités criminelles. Dans le passé, des moteurs de recherche comme Google ont été invités à communiquer des informations personnelles sur les utilisateurs qui avaient effectué certaines recherches, mais aucune plateforme d'IA générative ne semblait avoir fait l'objet d'un tel mandat.
ChatGPT, comme toutes les autres applications d'IA générative populaires, peut être une plateforme prisée par les prédateurs en ligne. Les données d'OpenAI montrent qu'entre juillet et décembre 2025, l'entreprise a signalé 31 500 contenus liés à la pédopornographie au National Center for Missing and Exploited Children, le centre d'échange d'informations auquel toutes les entreprises technologiques doivent signaler les images d'abus d'enfants.
Sur cette période, elle a été invitée à divulguer des informations sur des utilisateurs ou des contenus à 71 reprises, fournissant aux gouvernements des informations provenant de 132 comptes. Les plateformes d'IA deviennent donc une source d'informations cruciale. Cette affaire pourrait ainsi créer un précédent juridique sur la manière dont les autorités peuvent accéder aux données des plateformes d’intelligence artificielle dans le cadre d’enquêtes criminelles.
Jennifer Lynch, avocate à l'Electronic Frontier Foundation (EFF), a déclaré que le...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.