« Est-ce que j'irai bien ? » : un adolescent décède après que ChatGPT lui a conseillé un mélange mortel de drogues. La flagornerie a poussé l'IA à ignorer les signes de détresse physique de la victime

« Est-ce que j'irai bien ? » : un adolescent décède après que ChatGPT lui a conseillé un mélange mortel de drogues. La flagornerie a poussé l'IA à ignorer les signes de détresse physique de la victime

OpenAI fait l'objet d'une action en justice après la mort d'un adolescent qui a consulté ChatGPT pour des conseils sur des drogues. La famille de Sam Nelson poursuit OpenAI après son décès par overdose. Les parents affirment que le chatbot conversationnel a agi comme un conseiller en drogues illicites en recommandant un mélange mortel de substances tout en ignorant les signes de détresse physique. OpenAI est accusé d'avoir volontairement supprimé des mesures de sécurité cruciales pour favoriser l'engagement des utilisateurs au détriment de leur vie. Cela démontre que l'usage de l'IA peut poser un problème de santé publique majeur.

ChatGPT est un agent conversationnel développé par OpenAI. Pour générer du texte, il utilise le modèle GPT-5. ChatGPT est capable de répondre à des questions, de tenir des conversations, de générer du code informatique, créer ou synthétiser des textes. Il est présenté comme l'égal d'un expert humain, mais la réalité révèle de nombreuses lacunes. ChatGPT peut s'avérer dangereux lorsqu'il se comporte comme un compagnon ou un thérapeute.

Sam Nelson, un jeune homme de 19 ans, est décédé en mai 2025 d'une overdose après avoir suivi les recommandations de ChatGPT. Ses parents ont intenté une action en justice contre OpenAI pour mort injustifiée, accusant le robot conversationnel d'avoir agi comme un véritable conseiller en drogues illicites. Leila Turner-Scott et son mari, Angus Scott, cherchent ainsi à faire porter la responsabilité de la mort de leur fils aux créateurs de ChatGPT.

Selon les parents de Sam Nelson, ce dernier accordait une confiance aveugle à chatbot d'OpenAI pour expérimenter des substances en toute sécurité, persuadé que l'accès de l'outil à l'ensemble d'Internet rendait ses réponses infaillibles. Mais cette confiance excessive dans la machine finira par lui être fatale.

Un cocktail de substances qui a conduit à une overdose mortelle

La plainte allègue que ChatGPT a fourni des conseils qu'il n'était pas habilité à donner, affirmant que Sam Nelson serait encore en vie sans la programmation défectueuse de ChatGPT. Le chatbot d'OpenAI aurait indiqué à l'enfant du couple qu’il pouvait « sans danger » consommer du kratom, un complément alimentaire présent dans des boissons, des comprimés et d’autres produits, en association avec du Xanax, un anxiolytique largement utilisé.


Selon la plainte, déposée devant un tribunal de l'État de Californie, le modèle d'IA, en particulier la version ChatGPT 4o aujourd'hui retirée, a flatté et encouragé la consommation de drogues de Sam Nelson dans le but de maintenir son engagement. Ce n'est pas le seul comportement dangereux de ChatGPT 4o.

Bien que le système ait identifié que l'utilisateur souffrait d'un grave problème de toxicomanie, il lui a suggéré d'augmenter les doses et de mélanger des substances pour optimiser ses effets. De plus, le programme a ignoré des symptômes physiques alarmants signalés par la victime, tels que le hoquet et la vision floue, qui indiquaient une détresse respiratoire. D'autres plaignants ont rapporté ce type de manquement dans des cas de suicide.

Lors d'une interview exclusive avec CBS News, Leila Turner-Scott a déclaré qu'elle savait que son fils utilisait ChatGPT comme outil de productivité et pour l'aider à faire ses devoirs. Mais elle a affirmé ignorer qu'il s'en servait pour obtenir des conseils sur les drogues, affirmant que l'outil d'IA lui avait finalement recommandé une combinaison mortelle de substances. Elle tient OpenAI et ses créateurs pour responsables de la mort de Sam Nelson.

Selon elle, « OpenAI a contourné les mesures de sécurité » et aurait pu mettre en place des restrictions pour éviter de telles tragédies. « Le chatbot est capable d’interrompre une conversation lorsqu’on le lui demande ou lorsqu’il est programmé pour le faire. Et ils ont supprimé la programmation qui permettait cela, et ils l’ont laissé continuer à conseiller l’automutilation », a déclaré Leila Turner-Scott. Selon les experts, cette issue était prévisible.

La défense de l'entreprise et les enjeux légaux de cette affaire

OpenAI ne semble pas admettre que ChatGPT soit responsable du décès du jeune Sam Nelson. Dans une déclaration transmise à Ars, un porte-parole de l'entreprise, Drew Pusateri, a qualifié le décès de Sam Nelson de « situation déchirante » et a exprimé la compassion de l'entreprise face à cette situation. « C'est une situation déchirante, et nos pensées vont à la famille », a déclaré le porte-parole d'OpenAI dans un communiqué de presse.


L'entreprise a également précisé que Sam Nelson avait interagi avec une version de ChatGPT qui a depuis été mise à jour et qui n'est plus accessible au public. Elle a également précisé que les versions actuelles intègrent des mesures de sécurité renforcées pour orienter les utilisateurs vers de l'aide médicale.

« Dans un cas précis, ChatGPT 4o a suggéré de manière effrayante que la tolérance de Sam l’empêcherait de tirer pleinement parti des bienfaits auxquels on pourrait légitimement s’attendre en prenant une dose aussi importante de kratom », indique la plainte. Elle accuse OpenAI d'avoir délibérément ciblé des utilisateurs vulnérables et naïfs comme Sam Nelson pour les pousser à la consommation de drogues, afin de monétiser leur engagement.

Selon les journaux de conversation, alors que Sam Nelson s’intéressait de plus en plus à l’association de drogues, ChatGPT l’a averti à plusieurs reprises que « le mélange de certaines drogues pouvait entraîner un risque d’arrêt respiratoire ». Peu avant de recommander le mélange mortel qui a tué Sam Nelson, le chatbot a aussi montré qu'il connaissait les risques liés à l’association de drogues comme le kratom et le Xanax avec de l’alcool.

Dans l’une de ses réponses, le chatbot a expliqué que ce mélange était « ce qui fait que les gens cessent de respirer ». Cependant, cette connaissance n’a pas empêché ChatGPT de finir par recommander à Sam Nelson de prendre ce mélange mortel. Bien que ChatGPT ait mis en garde contre la combinaison de ce mélange avec de l’alcool au cours de cette même session, le conseil final du chatbot n’a pas mentionné le risque de décès.

Les revendications de la famille de la victime dans cette affaire

Selon Angus Scott, ChatGPT s'était comporté comme un médecin lors de ses échanges avec son beau-fils, bien qu'il ne fût pas habilité à donner des conseils médicaux. « Il fournit au public des informations sur les questions de sécurité, les interactions médicamenteuses, toutes ces informations. Faute de protocoles adéquats et de tests de sécurité rigoureux, ChatGPT peut diffuser ces informations de manière dangereuse », a déclaré Angus Scott.


« Cela peut alimenter des psychoses. Cela peut commencer à donner une fausse image des choses aux gens. Et bien qu’il tente de rassurer les utilisateurs, il sape également toute chance pour ces derniers d’avoir un avis fondé, vous voyez, et cela les éloigne en quelque sorte de la réalité », a-t-il ajouté.

OpenAI a indiqué que ChatGPT avait encouragé Sam Nelson à solliciter une aide professionnelle à plusieurs reprises, notamment en appelant des numéros d’urgence. Leila Turner-Scott a déclaré qu’elle est convaincue que son fils, qui aurait dû être en troisième année d’université, soutiendrait les mesures prises par la famille pour tenir les créateurs de chatbots IA responsables des effets néfastes potentiels qu’ils peuvent avoir sur la vie des utilisateurs.

« Il ne voudrait pas que quelqu’un d’autre subisse le même préjudice que lui », a-t-elle déclaré. Au-delà d'une compensation financière visant notamment à couvrir les frais funéraires, la famille de Sam Nelson exige des changements radicaux pour protéger le public. Les parents réclament la destruction pure et simple du modèle ChatGPT 4o et une injonction obligeant la plateforme à détecter et bloquer toute discussion liée aux drogues illégales.

Ils demandent la suspension immédiate de l'outil ChatGPT Health jusqu'à ce qu'un audit indépendant puisse prouver qu'il est capable de dispenser des conseils sans danger. Les journaux de bord divulgués dans la plainte montrent que le chatbot se contredisait parfois dangereusement lorsqu’il conseillait l’adolescent.

L'IA en tant que thérapeute et conseillère sur des sujets de santé

Selon la plainte, l'adolescent craignait manifestement de prendre des doses mortelles, commençant « souvent » ses messages par « est-ce que ça ira si » ou « est-ce que c'est sans danger d'en consommer ». Mais ChatGPT a été conçu pour être flagorneur, pas pour informer. Comme le révèlent les journaux de conversations, ChatGPT s'est donc efforcé de satisfaire Sam Nelson en lui recommandant des moyens visant à « optimiser son trip ».

Plusieurs chercheurs estiment que l'IA pourrait dispenser des conseils de santé dans des environnements contrôlés. Rob Eleveld, PDG de Transparency Coalition, plaide pour des produits IA en santé fondés sur des données vérifiées, soumis à licence et strictement encadrés afin d'éviter de répondre au-delà de leurs données fiables. (Transparency Coalition est une organisation à but non lucratif qui milite en faveur de la réglementation de l'IA.)

Les modèles fondamentaux comme ChatGPT répondent à presque tout, en s'appuyant sur des données d'entraînement potentiellement peu fiables. OpenAI n'a jamais été totalement transparent à ce sujet, mais ChatGPT aurait été alimenté avec d'énormes quantités de données provenant d'Internet, notamment des vidéos YouTube et des années de fils de discussion Reddit, si bien qu'une simple publication d'un internaute peut influencer ses réponses.

« Il n'y a aucune chance, absolument aucune chance, que les modèles fondamentaux deviennent un jour sûrs sur cette question. Je ne parle pas d'une chance de 0,1 %. Je vous dis que c'est zéro pour cent, car ils ont aspiré tout ce qui se trouve sur Internet. Et tout ce qui se trouve sur Internet est une sorte de foutaise complètement fausse », explique Rob Eleveld. En dehors des cadres contrôlés, les situations tragiques pourraient se multiplier.

Source : document de la plainte (PDF)

Et vous ?

Quel est votre avis sur le sujet ?
La famille de Sam Nelson accuse ChatGPT d'être responsable de sa mort ? Êtes-vous d'avis ?
Les chatbots deviendront-ils suffisamment sûrs pour être utilisés comme thérapeutes ou conseillers en santé ?

Voir aussi

Un adolescent meurt par overdose après avoir suivi des conseils de ChatGPT : pourquoi l'usage de l'IA grand public peut poser un problème de santé publique majeur

Les parents d'adolescents qui se sont suicidés après avoir interagi avec des chatbots dotés d'IA ont témoigné devant le Congrès américain sur les dangers de la technologie IA

OpenAI crée un « conseil du bien être » pour superviser les questions de santé mentale liées à l'usage de l'IA, mais aucun expert en prévention du suicide n'en fait partie