Les données numériques des gens restent généralement sur leurs plateformes de médias sociaux après leur décès. La juriste américaine Victoria Haneman affirme que cette persistance pose un problème majeur à l'ère de l'IA : il est possible de recréer et de raviver la présence numérique d’une personne, même si elle ou sa famille ne souhaite pas ce type de mémorial. Victoria Haneman plaide pour un cadre légal permettant aux héritiers de demander la suppression des données numériques du défunt. L’objectif de cette loi est d’empêcher toute forme de « résurrection numérique » non désirée, tout en laissant un délai pour des usages légitimes.L'essor de l'IA générative a permis de perfectionner les deepfakes et de les rendre plus réalistes que jamais. L’IA générative est capable de reproduire voix, image et comportements à partir de données en ligne. D'une part, ce progrès a entraîné l'explosion des cas de fraude et d'escroqueries basées sur la duperie. D'autre part, l'IA générative a également ouvert la voie au phénomène que les experts appellent : la « résurrection numérique » des défunts.
Exemple : Chris Pelkey, un vétéran de l'armée américaine âgé de 37 ans, est mort dans une fusillade survenu en Arizona en 2021. Mais avec l'aide de l'IA, il est "revenu" lors de la condamnation de son meurtrier pour prononcer lui-même la déclaration de la victime. La version IA de Chris Pelkey a déclaré à son meurtrier qu'il était dommage qu'ils aient dû se rencontrer ce jour-là, dans ces circonstances, et qu'ils auraient pu être amis dans une autre vie.
Récemment, l'ancien correspondant en chef de CNN à la Maison Blanche Jim Acosta a été condamné pour son interview macabre avec la version IA d'un adolescent tué dans la fusillade scolaire de Parkland, en Floride. L'épisode a suscité l'indignation. Dans la présentation, le journaliste a décrit l'épisode comme une « émission à ne pas manquer » et une « interview unique en son genre » – afin de promouvoir un message sur le contrôle des armes à feu.
Mais un chat en direct sur le Substack de Jim Acosta pendant la diffusion de la conversation a été inondé de messages la qualifiant de « glauque », « bizarre » et « dérangeante ». Les critiques ont dénoncé la « manipulation éhontée de l'image d'un défunt ». (L'avatar d'Oliver a été créé par son père, Manuel.)
Il existe déjà un secteur en plein essor qui consiste à former des modèles d'IA générative à partir de fichiers numériques personnels, afin que ces modèles puissent répondre de manière à évoquer le créateur de ces fichiers. Des entreprises telles que Seance.ai, StoryFile, Replika, MindBank.ai et HereAfter.ai offrent la possibilité de recréer la voix et l'apparence d'une personne. Cependant, cette pratique fait l'objet de nombreuses préoccupations.
Un cadre légal pour encadrer ou interdire la résurrection numérique
La juriste Victoria Haneman milite pour l'adoption d’un cadre légal pour limiter ou interdire ces recréations lorsqu’elles ne sont pas souhaitées. Victoria Haneman, titulaire de la chaire de droit fiduciaire à la faculté de droit de l'université de Géorgie, soutient que la législation américaine devrait accorder à la succession d'une personne décédée un droit limité à la suppression numérique afin de lutter contre l'exploitation des vestiges numériques.
Elle défend cette thèse dans un article intitulé « The Law of Digital Resurrection » (La loi de la résurrection numérique), publié plus tôt cette année dans la revue Boston College Law Review. « La résurrection numérique par ou via l'IA nécessite les données personnelles du défunt, et la quantité de données que nous stockons en ligne augmente de manière exponentielle chaque année », a-t-elle écrit. Victoria Haneman compare ces données à l'uranium.
La juriste explique : « on dit que les données sont le nouvel uranium, extrêmement précieuses et potentiellement dangereuses. Le droit à la suppression donnera au défunt un droit limité dans le temps à la suppression de ses données personnelles ». Ce qui, selon elle, empêcherait leur utilisation par l'IA.
Une personne vivante peut avoir son mot à dire sur la question grâce au contrôle de ses documents numériques personnels et de sa correspondance. Mais une personne décédée ne peut pas s'y opposer, et la législation américaine n'offre pas beaucoup de protection aux données des personnes décédées en matière de droit à la vie privée, de droit de la propriété, de droit de la propriété intellectuelle ou de droit pénal. Ce qui pourrait favoriser les abus.
Pour Victoria Haneman, protéger la « dignité numérique » des morts est un impératif éthique, comparable à la protection physique des restes humains. Elle appelle donc à combler ce vide juridique avant que les technologies d’IA ne rendent la « résurrection » de personnes décédées banale et incontrôlable.
La gestion actuelle des données des défunts par les plateformes sociales
L'industrie de la résurrection numérique connaît une croissance rapide. Aux États-Unis, la loi révisée sur l'accès fiduciaire aux actifs numériques (RUFADAA), élaborée pour aider les fiduciaires à gérer les fichiers numériques des personnes décédées ou incapables, peut entrer en jeu dans ce cas. Mais Victoria Haneman explique que la plupart des gens meurent intestats (sans testament), laissant les choses entre les mains des plateformes technologiques.
La réponse de Facebook aux utilisateurs décédés est de permettre à quiconque de demander la commémoration d'un compte, ce qui permet de conserver les publications en ligne. Quant à la RUFADAA, elle ne fait pas grand-chose pour régler la question de la résurrection numérique, selon Victoria Haneman.
Envoyé par Facebook
Après le décès d'une personne, nous souhaitons respecter ses volontés concernant son compte. Si un membre de la famille ou un ami utilise ce formulaire pour soumettre une demande, le compte passe dans un état commémoratif spécial, sauf si la personne a demandé que son compte soit supprimé à son décès.
La commémoration d'un compte permet notamment de sécuriser le compte en empêchant quiconque de s'y connecter. Le compte restera visible sur Facebook, mais la seule personne pouvant gérer un compte commémoré est un contact légataire sélectionné par le titulaire du compte. Si le titulaire du compte n'a pas sélectionné de contact légataire, le compte ne sera plus géré activement par quiconque après la demande de commémoration.
N'oubliez pas que si le titulaire du compte a demandé la suppression définitive de son compte après son décès, nous supprimerons son compte dès que nous aurons été informés de son décès. Si vous souhaitez demander la commémoration d'un compte, veuillez utiliser ce formulaire pour nous en informer.
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.