Un expert en droit plaide pour une loi permettant de supprimer les données des défunts afin qu'elles ne puissent pas être utilisées par l'IAdans le cadre d'une « résurrection numérique » non autorisée
Les données numériques des gens restent généralement sur leurs plateformes de médias sociaux après leur décès. La juriste américaine Victoria Haneman affirme que cette persistance pose un problème majeur à l'ère de l'IA : il est possible de recréer et de raviver la présence numérique d’une personne, même si elle ou sa famille ne souhaite pas ce type de mémorial. Victoria Haneman plaide pour un cadre légal permettant aux héritiers de demander la suppression des données numériques du défunt. L’objectif de cette loi est d’empêcher toute forme de « résurrection numérique » non désirée, tout en laissant un délai pour des usages légitimes.
L'essor de l'IA générative a permis de perfectionner les deepfakes et de les rendre plus réalistes que jamais. L’IA générative est capable de reproduire voix, image et comportements à partir de données en ligne. D'une part, ce progrès a entraîné l'explosion des cas de fraude et d'escroqueries basées sur la duperie. D'autre part, l'IA générative a également ouvert la voie au phénomène que les experts appellent : la « résurrection numérique » des défunts.
Exemple : Chris Pelkey, un vétéran de l'armée américaine âgé de 37 ans, est mort dans une fusillade survenu en Arizona en 2021. Mais avec l'aide de l'IA, il est "revenu" lors de la condamnation de son meurtrier pour prononcer lui-même la déclaration de la victime. La version IA de Chris Pelkey a déclaré à son meurtrier qu'il était dommage qu'ils aient dû se rencontrer ce jour-là, dans ces circonstances, et qu'ils auraient pu être amis dans une autre vie.
Récemment, l'ancien correspondant en chef de CNN à la Maison Blanche Jim Acosta a été condamné pour son interview macabre avec la version IA d'un adolescent tué dans la fusillade scolaire de Parkland, en Floride. L'épisode a suscité l'indignation. Dans la présentation, le journaliste a décrit l'épisode comme une « émission à ne pas manquer » et une « interview unique en son genre » – afin de promouvoir un message sur le contrôle des armes à feu.
Mais un chat en direct sur le Substack de Jim Acosta pendant la diffusion de la conversation a été inondé de messages la qualifiant de « glauque », « bizarre » et « dérangeante ». Les critiques ont dénoncé la « manipulation éhontée de l'image d'un défunt ». (L'avatar d'Oliver a été créé par son père, Manuel.)
Il existe déjà un secteur en plein essor qui consiste à former des modèles d'IA générative à partir de fichiers numériques personnels, afin que ces modèles puissent répondre de manière à évoquer le créateur de ces fichiers. Des entreprises telles que Seance.ai, StoryFile, Replika, MindBank.ai et HereAfter.ai offrent la possibilité de recréer la voix et l'apparence d'une personne. Cependant, cette pratique fait l'objet de nombreuses préoccupations.
Un cadre légal pour encadrer ou interdire la résurrection numérique
La juriste Victoria Haneman milite pour l'adoption d’un cadre légal pour limiter ou interdire ces recréations lorsqu’elles ne sont pas souhaitées. Victoria Haneman, titulaire de la chaire de droit fiduciaire à la faculté de droit de l'université de Géorgie, soutient que la législation américaine devrait accorder à la succession d'une personne décédée un droit limité à la suppression numérique afin de lutter contre l'exploitation des vestiges numériques.
Elle défend cette thèse dans un article intitulé « The Law of Digital Resurrection » (La loi de la résurrection numérique), publié plus tôt cette année dans la revue Boston College Law Review. « La résurrection numérique par ou via l'IA nécessite les données personnelles du défunt, et la quantité de données que nous stockons en ligne augmente de manière exponentielle chaque année », a-t-elle écrit. Victoria Haneman compare ces données à l'uranium.
La juriste explique : « on dit que les données sont le nouvel uranium, extrêmement précieuses et potentiellement dangereuses. Le droit à la suppression donnera au défunt un droit limité dans le temps à la suppression de ses données personnelles ». Ce qui, selon elle, empêcherait leur utilisation par l'IA.
Une personne vivante peut avoir son mot à dire sur la question grâce au contrôle de ses documents numériques personnels et de sa correspondance. Mais une personne décédée ne peut pas s'y opposer, et la législation américaine n'offre pas beaucoup de protection aux données des personnes décédées en matière de droit à la vie privée, de droit de la propriété, de droit de la propriété intellectuelle ou de droit pénal. Ce qui pourrait favoriser les abus.
Pour Victoria Haneman, protéger la « dignité numérique » des morts est un impératif éthique, comparable à la protection physique des restes humains. Elle appelle donc à combler ce vide juridique avant que les technologies d’IA ne rendent la « résurrection » de personnes décédées banale et incontrôlable.
La gestion actuelle des données des défunts par les plateformes sociales
L'industrie de la résurrection numérique connaît une croissance rapide. Aux États-Unis, la loi révisée sur l'accès fiduciaire aux actifs numériques (RUFADAA), élaborée pour aider les fiduciaires à gérer les fichiers numériques des personnes décédées ou incapables, peut entrer en jeu dans ce cas. Mais Victoria Haneman explique que la plupart des gens meurent intestats (sans testament), laissant les choses entre les mains des plateformes technologiques.
La réponse de Facebook aux utilisateurs décédés est de permettre à quiconque de demander la commémoration d'un compte, ce qui permet de conserver les publications en ligne. Quant à la RUFADAA, elle ne fait pas grand-chose pour régler la question de la résurrection numérique, selon Victoria Haneman.
Envoyé par Facebook
Après le décès d'une personne, nous souhaitons respecter ses volontés concernant son compte. Si un membre de la famille ou un ami utilise ce formulaire pour soumettre une demande, le compte passe dans un état commémoratif spécial, sauf si la personne a demandé que son compte soit supprimé à son décès.
La commémoration d'un compte permet notamment de sécuriser le compte en empêchant quiconque de s'y connecter. Le compte restera visible sur Facebook, mais la seule personne pouvant gérer un compte commémoré est un contact légataire sélectionné par le titulaire du compte. Si le titulaire du compte n'a pas sélectionné de contact légataire, le compte ne sera plus géré activement par quiconque après la demande de commémoration.
N'oubliez pas que si le titulaire du compte a demandé la suppression définitive de son compte après son décès, nous supprimerons son compte dès que nous aurons été informés de son décès. Si vous souhaitez demander la commémoration d'un compte, veuillez utiliser ce formulaire pour nous en informer.
Victoria Haneman indique que dans certains États, comme l'Idaho, il est théoriquement possible d'être poursuivi pour diffamation ou calomnie à l'égard d'une personne décédée, mais elle ajoute que ces poursuites ont diminué, car elles empiètent sur le droit constitutionnel à la liberté d'expression. Certains pays européens, comme la France et l’Italie, prévoient des mécanismes permettant aux proches d’accéder aux données d’un défunt et de les supprimer.
Conclusion
La juriste américaine Victoria Haneman cherche à éviter que les données numériques d’une personne décédée soient utilisées par l’IA dans le cadre d'une « résurrection numérique » — c’est-à-dire une recréation réaliste de sa voix, de son image ou de sa personnalité — sans que la personne ou sa famille l’ait voulu. Elle souligne le vide juridique aux États-Unis, et appelle à l'adoption d'une législation pour encadrer la gestion des données numériques des défunts.
En Europe, il existe un droit à l'oubli qui a été étendu en France pour inclure la suppression des données personnelles des comptes d'utilisateurs décédés, et en Italie pour inclure le droit des héritiers d'accéder aux données personnelles d'un parent décédé et éventuellement de les effacer. Selon Victoria Haneman, le droit à l'oubli ne fonctionnerait pas aux États-Unis, car il serait probablement considéré comme une violation du premier amendement.
Victoria Haneman soutient qu'une loi sur la suppression des données des personnes décédées serait fondée sur les lois régissant les restes humains, selon lesquelles les cadavres bénéficient d'une protection contre les abus bien qu'ils ne soient ni des personnes ni des biens.
Source : The Law of Digital Resurrection, de Victoria Haneman
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous de la croissance rapide de l'industrie de la résurrection numérique ? Que pensez-vous de la proposition de Victoria Haneman pour contrôler ce phénomène avant qu'il ne devienne banal et incontrôlable ?Voir aussi
Faire revivre un mort grâce à un deepfake IA n'est pas du goût de tous le monde : une interview macabre critiquée avec une victime décédée d'une fusillade dans une école Le clone IA de la victime d'une fusillade en Arizona s'adresse à son meurtrier devant le tribunal, un nouveau cas d'utilisation de l'IA générative dans les salles d'audience qui suscite des réactions mitigées Pour Eugenia Kuyda, PDG de Replika, il n'y a pas de problème si nous finissons par épouser des chatbots d'IA. Mais un rapport de Mozilla note que les applications de ce type récoltent et vendent vos données
Vous avez lu gratuitement 2 756 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.