Comment l'IA générative peut faire perdre un procès : un avocat condamné après avoir soumis des jurisprudences totalement inventées par ChatGPT, son client en fait les frais et écope d'un jugement par défaut

Comment l’IA générative peut faire perdre un procès : un avocat condamné après avoir soumis des jurisprudences totalement inventées par ChatGPT
son client en fait les frais

Un avocat américain vient de subir la sanction ultime après avoir multiplié les erreurs générées par l'intelligence artificielle dans ses plaidoiries. Malgré plusieurs avertissements du tribunal et des envolées lyriques citant Ray Bradbury, Steven Feldman n'a pu éviter un jugement par défaut contre son client. Cette affaire illustre les dangers d'une confiance aveugle dans les outils d'IA générative et pose des questions cruciales sur la responsabilité professionnelle à l'ère algorithmique.

L'affaire Steven Feldman devant la cour fédérale de New York restera dans les annales comme un cas d'école des dérives de l'utilisation de l'intelligence artificielle dans la profession juridique. Ce qui aurait pu n'être qu'une simple erreur s'est transformé en catastrophe professionnelle après que l'avocat ait persisté dans ses manquements malgré les multiples avertissements de la juge Katherine Polk Failla.

Une cascade d'erreurs générées par l'IA

Tout commence par un mémoire truffé de références juridiques inexistantes. Dans le cadre d'une affaire de contrefaçon de marque opposant Flycatcher Corp. à Affable Avenue LLC, Steven Feldman soumet des documents contenant des citations de jurisprudence inventées de toutes pièces par un système d'IA. Ces « hallucinations algorithmiques » (terme désignant la production par l'IA de contenus factuellement faux mais présentés avec assurance) incluaient des références à des décisions judiciaires totalement fictives, avec numéros de dossier et citations crédibles.

Lorsque la cour lui ordonne de justifier ces erreurs, l'avocat récidive de manière spectaculaire. Sa réponse à l'injonction du tribunal contient elle-même de nouvelles erreurs, notamment une citation erronée attribuée à une décision judiciaire alors qu'elle provient en réalité d'un article de blog juridique. Plus étonnant encore, le document regorge de références littéraires pompeuses et d'envolées lyriques sur « les bibliothèques antiques d'Ashurbanipal » et les « scribes portant leur stylet comme un serment sacré », ainsi qu'une citation du roman Fahrenheit 451 de Ray Bradbury.

Un changement de ton suspect

La juge Failla ne s'y trompe pas. Le contraste stylistique entre ce mémoire fleuri et une simple lettre envoyée trois jours plus tard, truffée de fautes de frappe, suggère fortement que la réponse elle-même a été générée par l'IA. « La Cour peut pardonner le changement de ton abrupt et les références historiques non pertinentes ; ce qu'elle ne peut pardonner, c'est l'inclusion par M. Feldman d'une autre citation erronée et son échec persistant à vérifier ses références », écrit la magistrate dans sa décision.

Mais l'escalade ne s'arrête pas là. Alors qu'il attend une audience sur les sanctions potentielles, Feldman soumet spontanément un projet de mémoire en réplique contenant encore une affaire inexistante. Cette récidive chronique conduit la juge à une conclusion sans appel : l'avocat « n'a pas appris et apparemment ne peut pas apprendre de ses erreurs ».


La sanction maximale : un jugement par défaut

Le 5 février 2026, la juge Failla prononce une sanction rarissime dans ce type de procédure : un jugement par défaut contre le client de Feldman, Affable Avenue LLC. Cette sanction « terminale » signifie que le client perd automatiquement l'affaire, non pas sur le fond du litige, mais en raison de l'inconduite procédurale de son avocat.

La magistrate justifie cette sévérité par trois éléments aggravants. Premièrement, Feldman a délibérément choisi d'utiliser des méthodes de recherche juridique défaillantes. Deuxièmement, il a refusé de manière inexplicable de vérifier ses soumissions avant de les déposer auprès du tribunal. Troisièmement, il n'a pas voulu admettre franchement ses erreurs une fois celles-ci révélées au grand jour.

« La Cour tient à préciser que son problème n'est pas l'utilisation de l'IA en soi, mais plutôt la décision consciente de M. Feldman d'utiliser des méthodes défaillantes de recherche juridique et de vérification des citations, son refus inexplicable de vérifier ses soumissions avant de les déposer, et sa réticence à assumer ses responsabilités une fois ces problèmes révélés », écrit la juge dans sa décision finale.

Un phénomène mondial en expansion

Le phénomène des hallucinations d'IA dans les tribunaux prend une ampleur telle qu'un chercheur français a créé une base de données exhaustive pour en suivre l'évolution. Damien Charlotin, praticien indépendant chez Pelekan Data Consulting à Paris et chercheur associé au Smart Law Hub de HEC, maintient depuis avril 2025 un recensement méticuleux de tous les cas judiciaires où des contenus hallucinés par l'IA ont été soumis aux tribunaux.

Au moment de la rédaction de cet article, sa base de données comptabilise 905 décisions judiciaires documentées provenant de 32 pays différents. Les États-Unis dominent largement avec 628 cas, suivis par le Canada (59), l'Australie (55), le Royaume-Uni (35) et Israël (40). La France compte pour l'instant six cas recensés, mais Charlotin précise que son inventaire est un travail en cours qui continue de s'enrichir quotidiennement.

Fort de cette base de données, Charlotin a développé PelAIkan, un vérificateur automatique de références capable de détecter les hallucinations juridiques. L'outil analyse les citations contenues dans les documents juridiques et les compare aux bases de données officielles pour identifier les références inexistantes ou erronées. Cette initiative rejoint les efforts de plusieurs barreaux et juridictions qui commencent à imposer l'utilisation de logiciels de vérification pour tous les documents contenant des recherches assistées par IA.

La base de données de Charlotin a été citée dans plusieurs décisions judiciaires traitant d'hallucinations, et fait désormais référence dans les médias juridiques internationaux. Le Los Angeles Times, le blog Volokh Conspiracy, et de nombreuses publications spécialisées s'y réfèrent régulièrement pour illustrer l'ampleur du phénomène.

Le chercheur reste néanmoins mesuré dans son interprétation. « Je ne suis pas sûr que ce soit si significatif, étant donné le nombre de cas dans le monde qui utilisent l'IA. Ces erreurs sont-elles vraiment si courantes ? Je n'en suis pas certain », confie-t-il. Il précise que son recensement comporte nécessairement un biais : il ne répertorie que les décisions judiciaires qu'il a pu identifier, sachant que de nombreuses hallucinations passent probablement inaperçues ou ne font pas l'objet de mentions publiques.


Des petits cabinets principalement touchés

Une étude réalisée par des chercheurs de Stanford à partir des données de Charlotin révèle un profil type des victimes d'hallucinations. Sur 114 cas américains analysés où un avocat (et non un justiciable) était impliqué, 90% concernaient des praticiens exerçant en solo ou dans de petits cabinets. Cette surreprésentation s'explique probablement par des contraintes budgétaires limitant l'accès aux outils d'IA juridique professionnels payants, plus fiables que les solutions gratuites comme ChatGPT.

L'analyse révèle également une asymétrie entre demandeurs et défendeurs : dans 56% des cas, les hallucinations provenaient du conseil du demandeur, contre seulement 31% du côté de la défense. Quant aux outils impliqués, lorsque le système d'IA était identifié, ChatGPT représentait la moitié des cas documentés.

L'affaire Feldman s'inscrit donc dans une série croissante de cas similaires à travers le monde. En janvier 2026, un avocat australien a présenté ses excuses à un tribunal pour avoir soumis des documents contenant de fausses citations et des jugements inexistants dans une affaire de meurtre. Au Canada, des praticiens du droit constatent une multiplication des documents générés par l'IA soumis aux tribunaux, avec leur lot d'hallucinations juridiques.

Le cas fondateur reste l'affaire Mata v. Avianca de 2023, où des avocats new-yorkais avaient soumis des citations complètement fabriquées par ChatGPT. Le juge Kevin Castel avait alors sanctionné les avocats, tout en reconnaissant leurs excuses et les mesures correctives prises. Depuis, les tribunaux se montrent de plus en plus vigilants, imposant des exigences strictes de divulgation et des sanctions sévères en cas de violations.

Un double standard judiciaire ?

L'affaire Feldman soulève également une question gênante : celle du double standard entre avocats et magistrats. En juillet 2025, quelques jours seulement après la première sanction de Feldman, le juge fédéral Julien Xavier Neals du New Jersey a discrètement retiré une décision judiciaire après que la défense ait signalé qu'elle contenait de multiples erreurs similaires à celles reprochées aux avocats utilisant l'IA.

Le contraste est saisissant. Alors que Feldman fait face à des sanctions publiques et à une audience spéciale, le juge Neals se contente d'un retrait discret avec un bref ordre indiquant que l'opinion avait été « rendue par erreur ». Pas d'injonction, pas de conférence, pas d'explication aux parties sur la manière dont une décision judiciaire entière a pu contenir des citations fabriquées et des interprétations erronées du droit.

Cette asymétrie de traitement soulève des questions sur la responsabilité institutionnelle dans l'ère de l'IA. Si les outils algorithmiques peuvent induire en erreur même des juges expérimentés, ne devrait-on pas repenser les mécanismes de contrôle qualité dans l'ensemble du système judiciaire?

Pour donner du contexte, le 30 juin 2025, le juge Neals avait rejeté une requête en irrecevabilité de la société pharmaceutique CorMedix dans une action collective intentée par des actionnaires. Moins d'un mois plus tard, Andrew Lichtman, associé chez Willkie Farr & Gallagher et avocat de CorMedix, adressait au juge une lettre diplomatique l'invitant à « considérer si un amendement ou toute autre action devrait être entreprise » concernant les erreurs qu'il avait relevées dans la décision.

La liste des erreurs était accablante. L'opinion citait une affaire captionnée Stichting Pensioenfonds Metaal en Techniek v. Verizon Commc'ns Inc. devant le tribunal du District Sud de New York, alors qu'aucune telle affaire n'existait dans cette juridiction. Elle attribuait au tribunal dans l'affaire Dang v. Amarin Corp. une citation qualifiant la conduite des défendeurs de « preuve classique d'intention frauduleuse », alors que cette expression n'apparaissait nulle part dans cette décision. Elle citait une affaire impliquant la société Intelligroup en affirmant que le tribunal y avait déclaré que les certifications des dirigeants constituaient « de fausses déclarations en elles-mêmes » — une citation inexistante.

Plus grave encore, l'opinion déformait les résultats de trois affaires citées pour justifier le rejet de la requête en irrecevabilité, alors que dans chacun de ces cas, les motions en irrecevabilité avaient en réalité été accordées et non rejetées. Enfin, elle attribuait des citations à CorMedix que la société n'était même pas accusée d'avoir prononcées.


L'IA comme outil, pas comme substitut

Le message de cette affaire est clair : l'intelligence artificielle peut être un outil puissant pour les professionnels du droit, mais uniquement si elle est utilisée avec discernement et accompagnée d'une vérification humaine rigoureuse. Les cabinets d'avocats qui intègrent l'IA de manière responsable peuvent bénéficier d'une productivité accrue — une analyse de contrat pouvant être réduite de deux heures à quinze minutes selon certaines études.

Mais cette efficacité a un prix : une vigilance constante. Les avocats doivent désormais développer une compréhension technique minimale des systèmes d'IA, une connaissance précise des risques déontologiques, et une maîtrise des procédures de conformité incluant la protection des données personnelles et la gouvernance algorithmique.

Comme le souligne Naines Kotak, avocat canadien spécialisé en préjudice corporel : « Les cabinets d'avocats devront utiliser une forme ou une autre d'IA pour rester compétitifs. L'essentiel est que les avocats examinent et corrigent les résultats produits par l'IA, et qu'ils veillent au respect des règles de confidentialité et de sécurité des données ainsi que des règlements professionnels. »

Les taux d'hallucination alarmants

Les études scientifiques confirment l'ampleur du problème. Une recherche de l'Université Stanford révèle que les taux d'hallucinations des modèles d'IA généralistes atteignent entre 69% et 88% selon les systèmes testés. Même les IA juridiques spécialisées, entraînées spécifiquement sur des corpus de droit, présentent des taux d'erreur significatifs.

Les systèmes RAG (Retrieval-Augmented Generation), qui combinent recherche documentaire et génération de texte, réduisent certes les hallucinations mais ne les éliminent pas complètement. Cette réalité technique souligne l'absolue nécessité d'une vérification humaine systématique de tout contenu produit par l'IA.

Les recommandations déontologiques

Face à ces risques, les instances professionnelles multiplient les garde-fous. Le Conseil National des Barreaux français a publié en janvier 2023 une recommandation sans équivoque : « L'avocat demeure seul maître de son raisonnement juridique et ne saurait déléguer son obligation d'analyse critique à un outil technologique. » Cette obligation découle directement du devoir de compétence inscrit dans les codes de déontologie.

En Europe, l'AI Act qui entre progressivement en vigueur en 2026 crée un cadre réglementaire contraignant pour certains usages de l'IA dans le secteur juridique. Les avocats doivent désormais articuler trois corpus de règles : la déontologie professionnelle, le RGPD, et la régulation spécifique de l'intelligence artificielle.
L'American Bar Association a également publié l'Opinion formelle 512, établissant des lignes directrices éthiques pour les avocats utilisant l'IA générative. Le texte insiste sur l'importance du respect des règles traditionnelles en matière de compétence, de confidentialité, de communication avec les clients et d'honoraires raisonnables.

Sources : base de données sur les hallucinations IA classées par pays, décision de justice, plainte, Boston Globe (Révélations sur l'utilisation de l'IA par les juges Neals et Wingate), lettres officielles du sénateur Chuck Grassley et réponses des juges

Et vous ?

Le client d'Affable Avenue LLC perd son procès non pas sur le fond, mais à cause des erreurs de son avocat. Cette sanction « terminale » est-elle proportionnée, sachant que le client n'est pas directement responsable de l'incompétence de son conseil?

Si des juges font les mêmes erreurs que les avocats (citations inexistantes, références erronées) mais s'en tirent avec de simples retraits discrets, le système ne crée-t-il pas une justice à deux vitesses qui mine la confiance dans l'institution?

Les outils payants comme GenIA-L, Lexis+ AI ou Ordalie prétendent être plus sûrs que ChatGPT, mais disposons-nous de données indépendantes prouvant qu'ils ne produisent pas d'hallucinations critiques ?