L’introduction de l’IA dans les tribunaux marque une évolution majeure du fonctionnement de la justice. Les juges et les avocats s'appuient de plus en plus sur l'IA, ce qui suscite de nombreuses inquiétudes. Un expert a déclaré qu'il est « effroyablement probable » que de nombreux tribunaux américains ne tiennent pas compte des hallucinations de l'IA. De nombreux avocats ont déjà été sanctionnés après avoir cité au tribunal de fausses affaires hallucinées par l'IA. Les experts craignent que les juges et les avocats se fient trop à l'IA et oublient ses limites, alors qu'elle reste une machine incapable d’assumer ses erreurs ou d’expliquer clairement ses décisions.Un collège de trois juges de la cour d'appel de Géorgie, aux États-Unis, a annulé en juin 2025 une ordonnance qui semble être la première décision connue dans laquelle un juge s'est rangé du côté de quelqu'un qui s'est apparemment appuyé sur de fausses citations de cas générées par l'IA pour gagner un combat juridique. Ce qui a suscité un grand débat. L'ordonnance annulée a été rendue dans le cadre d'une affaire de divorce dans l'État américain.
L'un des juges de la cour d'appel de Géorgie, Jeff Watkins, a déclaré que l'ordonnance elle-même avait été rédigée par l'avocate du mari, Diana Lynch. Il s'agit d'une pratique courante dans de nombreux tribunaux, où les juges surchargés s'appuient traditionnellement sur les avocats pour rédiger les ordonnances.
Mais ce protocole fait aujourd'hui l'objet d'un examen approfondi, car les avocats et les non-avocats font de plus en plus appel à l'IA pour rédiger et rechercher des documents juridiques, et les juges risquent d'entériner de faux avis en n'examinant pas attentivement les citations générées par l'IA. La confiance aveugle dans les documents générés par l'IA, nonobstant les hallucinations et les biais algorithmiques, fait craindre un affaiblissement du rôle du juge.
Les dérives liés à l'introduction de l'IA générative dans les tribunaux
L'ordonnance erronée s'appuyait en partie sur « deux affaires fictives » pour rejeter la requête de l'épouse - dont Jeff Watkins a suggéré qu'elles étaient « peut-être des hallucinations inventées par l'IA » - ainsi que sur deux affaires qui n'avaient « rien à voir » avec la requête de l'épouse. Diana Lynch s'est vu infliger 2 500 $ de sanctions après que l'épouse a fait appel, et la réponse du mari semblait également avoir été préparée par son avocate.
La réponse citait 11 affaires supplémentaires qui étaient soit hallucinées, soit sans rapport avec le sujet. Le juge Jeff Watkins s'est en outre irrité du fait que « Diana Lynch ait étayé une demande d'honoraires d'avocat pour l'appel en citant l'une des nouvelles affaires hallucinées », écrivant que cela ajoutait « l'insulte à l'injure ». Fait inquiétant, le juge de la cour inférieur n'a pas été en mesure de confirmer si les faux cas avaient été générés par l'IA.
Il n'a pas non plus été capable de déterminer si l'avocate du mari, Diana Lynch, avait inséré les faux cas dans les documents déposés au tribunal, ce qui montre à quel point il peut être difficile pour les tribunaux de tenir les avocats responsables des hallucinations présumées de l'IA. Diana Lynch n'a pas répondu aux demandes de commentaire, et son site Web semble avoir été supprimé à la suite de l'attention portée par les médias américains à cette affaire.
« Nous n'avons aucune information sur la raison pour laquelle le mémoire de l'appelant cite à plusieurs reprises des affaires inexistantes et nous ne pouvons que spéculer sur le fait que le mémoire a peut-être été préparé par l'AI », a écrit le juge Watkins dans la décision de la cour d'appel de Georgie.
La cour d'appel a finalement renvoyé l'affaire, en partie parce que les fausses affaires l'ont empêchée d'examiner correctement la requête de l'épouse visant à annuler la décision précédente. Toutefois, quelle que soit l'issue de l'affaire en Géorgie, l'ordonnance initiale restera sans doute à jamais dans les mémoires comme un avertissement pour les juges qui sont de plus en plus scrutés pour leur incapacité à déceler les abus de l'IA dans les tribunaux.
L'IA générative pose un risque existentiel pour l’autorité judiciaire
Le juge Jeff Watkins a noté que « les irrégularités dans ces documents suggèrent...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.