OpenAI fait à une demande de données officielle qui risque de mettre davantage à l'épreuve ses promesses en matière de protection de la vie privée. Le département américain de la Sécurité intérieure (DHS) a demandé à OpenAI de révéler l’identité d’un utilisateur soupçonné d’activités criminelles liées à des abus d’enfants. La demande vise à obtenir les informations associées à certains prompts et réponses échangés avec ChatGPT. Le DHS affirme avoir déjà identifié un suspect, mais souhaite obtenir les données d’OpenAI pour renforcer son enquête. Il s'agit du premier cas connu où les forces de l'ordre s'intéressent aux données d'une entreprise d'IA. Mais cette pratique pourrait s'accélérer.Le département de la Sécurité intérieure des États-Unis (en anglais: United States Department of Homeland Security, DHS) est un département exécutif fédéral du gouvernement américain créé le 27 novembre 2002, après le vote deux jours auparavant par le Congrès de la Homeland Security Act (en français, « Loi sur la sécurité intérieure ») à l'initiative du président George W. Bush, en réponse aux attentats terroristes qui ont lieu le 11 septembre 2001.
Son objectif est d'organiser et d'assurer la sécurité intérieure du pays ; il est dirigé par la secrétaire à la Sécurité intérieure des États-Unis, Kristi Noem depuis janvier 2025, membre du cabinet présidentiel. La création du DHS constitue la plus grande restructuration du gouvernement fédéral américain depuis la création du département de la Défense en 1947. En 2024, ce département emploie environ 258 000 agents de tous grades et de statuts divers.
Selon un récent rapport de Forbes, une unité du DHS chargée d'enquêter sur les crimes sexuels commis sur des enfants a demandé à OpenAI de lui communiquer des informations sur un utilisateur de ChatGPT qui serait, d'après elle, l'administrateur d'un site Web clandestin dédié à l'exploitation des enfants.
La personne en question a discuté de son utilisation de ChatGPT avec un agent infiltré sur le site dédié à la maltraitance des enfants, ce qui a incité le gouvernement à demander à l'entreprise de lui fournir des informations susceptibles de l'aider dans son enquête. Selon les observateurs, il s'agit du « premier mandat fédéral connu demandant à OpenAI de fournir des informations sur un utilisateur ». Il a été récemment rendu public dans l'État du Maine.
Les États-Unis font depuis longtemps pression sur les entreprises technologiques pour qu'elles leur communiquent les données des utilisateurs afin de faciliter ses enquêtes policières. Toutefois, alors que les réseaux sociaux, les moteurs de recherche et autres plateformes ont tous cédé leurs données dans le cadre d'enquêtes fédérales, les entreprises spécialisées dans l'IA sont restées largement épargnées sur le plan juridique, du moins jusqu'à présent.
Le DHS espère recueillir des indices dans les chats avec ChatGPT
Le gouvernement affirme avoir réussi à espionner ce réseau clandestin dédié à l'exploitation des enfants, notamment grâce à un agent infiltré qui est entré en contact avec l'administrateur. Lors de ses échanges avec l'agent infiltré, le suspect aurait donc divulgué certaines des questions et réponses qu'il avait reçues, détaillant une discussion apparemment anodine qui commençait par « Que se passerait-il si Sherlock Holmes rencontrait Q de Star Trek ? ».
Dans une autre discussion, le suspect a déclaré avoir reçu une réponse de ChatGPT à une demande non précisée concernant un poème de 200 000 mots, recevant en réponse « un extrait d'un poème humoristique, à la manière du président américain Donald Trump, sur son amour pour le Y.M.C.A. des Village People, écrit dans le style exubérant, autoglorifiant et stream-of-consciousness qui le caractérise ». Ils ont ensuite copié-collé ce poème.
Le gouvernement a ordonné à OpenAI de fournir divers types d'informations sur la...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.