Character.AI poursuivie en justice pour un chatbot se faisant passer pour un médecin agréé : l'État de Pennsylvanie affirme que l'IA prétendait exercer la médecine et fournissait un numéro de licence invalideL'État de Pennsylvanie a poursuivi Character.AI en justice, alléguant que le service avait permis à un chatbot d'exercer illégalement la médecine en se faisant passer pour un véritable médecin titulaire d'une licence. Au cours d'une enquête, un agent de l'État a interagi avec « Émilie », un personnage généré par intelligence artificielle (IA), qui prétendait avoir suivi des études de médecine à l'Imperial College de Londres et fournissait un numéro de licence de Pennsylvanie inexistant. Le gouverneur Josh Shapiro a averti que l'entreprise induisait en erreur les « Pennsylvaniens vulnérables », tandis que Character.AI a défendu son service en affirmant que les personnages de son site sont fictifs, destinés au divertissement et accompagnés de mentions légales bien visibles mettant en garde contre le fait de solliciter des conseils professionnels.
Joshua David Shapiro est un homme politique et avocat américain qui occupe depuis 2023 le poste de 48e gouverneur de Pennsylvanie. Membre du Parti démocrate, il a été procureur général de Pennsylvanie de 2017 à 2023 et a siégé au Conseil des commissaires du comté de Montgomery de 2012 à 2017. Le 19 février 2025, le président Donald Trump a nommé Shapiro au Conseil des gouverneurs.
character.ai (également connu sous les noms de c.ai, char.ai ou Character AI) est un service de chatbot basé sur l'IA générative qui permet aux utilisateurs d'échanger avec des personnages personnalisables. Le service permet aux utilisateurs de créer des « personnages », de définir leur « personnalité » et des paramètres spécifiques, puis de les publier au sein de la communauté pour que d'autres puissent discuter avec eux. Character AI a été conçu par les développeurs de Google LaMDA, Noam Shazeer et Daniel de Freitas.
Une entreprise spécialisée dans l'IA représente une menace pour les « Pennsylvaniens vulnérables », ont déclaré le mardi 5 mai des responsables de l'État, après qu'un des chatbots de cette entreprise a été accusé de se faire passer pour un médecin habilité à prescrire des médicaments.
Selon la plainte déposée contre la société Character Technologies Inc., basée en Californie du Nord, le Conseil de l'ordre des médecins de l'État exige que les exploitants de Character.AI « soient contraints de cesser et de s'abstenir d'exercer illégalement la médecine et la chirurgie ».
Le 5 mai 2026, le gouverneur de Pennsylvanie, Josh Shapiro, a publié un message sur X indiquant son intention de poursuivre Character.AI en justice.
Envoyé par Josh Shapiro
@character_ai fait illégalement passer un chatbot pour un professionnel de santé agréé en Pennsylvanie — et nous avons engagé une action en justice pour les en empêcher.
Au début de l'année, j'ai annoncé la création d'un nouveau groupe de travail au niveau de l'État chargé d'enquêter sur les chatbots se faisant passer pour des professionnels agréés. Nos enquêteurs ont découvert sur @character_ai un personnage généré par IA qui prétendait être psychiatre — affirmant à tort être agréé en Pennsylvanie et fournissant même un faux numéro de licence.
Nous ne laisserons pas les entreprises spécialisées dans l'IA induire en erreur les habitants vulnérables de Pennsylvanie en leur faisant croire qu'ils reçoivent des conseils d'un professionnel de santé agréé. Nous poursuivons @character_ai en justice pour les en empêcher.
BREAKING: @character_ai is illegally presenting a chatbot as a licensed medical professional in Pennsylvania — and we’re suing to stop them.
— Governor Josh Shapiro (@GovernorShapiro) May 5, 2026
Earlier this year, I announced a new state task force to investigate chatbots that pose as licensed professionals. Our investigators…
La plateforme compte plus de 20 millions d'utilisateurs et « se distingue des autres systèmes par le fait que les utilisateurs peuvent créer des personnages capables d'acquérir une personnalité spécifique lorsqu'ils dialoguent avec d'autres utilisateurs », selon la plainte déposée en Pennsylvanie.
Certains des personnages du système « se font passer pour des professionnels de santé », a déclaré la commission d'État.
Selon la plainte, un enquêteur de l'État s'est fait passer pour un patient à la recherche d'un traitement psychiatrique et, via Character.AI, est tombé sur un prétendu prestataire, « Emilie ». Ce prestataire en ligne a déclaré avoir suivi des études de médecine à l'Imperial College de Londres et être titulaire d'une licence au Royaume-Uni et en Pennsylvanie, ont indiqué les autorités de l'État.
« "Emilie" a également déclaré que "mon numéro de licence d'assistante médicale est le PS306189". Or, le numéro PS306189 n'est pas un numéro de licence valide pour exercer la médecine et la chirurgie en Pennsylvanie », indique la plainte.
Un représentant de Character Technologies Inc., dont le siège se trouve à Redwood City, en Californie, a déclaré que ce service ne devait en aucun cas être utilisé à des fins médicales.
« Notre priorité absolue est la sécurité et le bien-être de nos utilisateurs », a déclaré mardi un porte-parole de Character Technologies Inc. dans un communiqué. « Les personnages créés par les utilisateurs sur notre site sont fictifs et destinés au divertissement et au jeu de rôle. Nous avons pris des mesures rigoureuses pour le préciser clairement, notamment en affichant des avertissements bien visibles dans chaque discussion afin de rappeler aux utilisateurs qu'un personnage n'est pas une personne réelle et que tout ce qu'il dit doit être considéré comme de la fiction. »
Le représentant de l'entreprise a ajouté : « De plus, nous ajoutons des mentions légales claires indiquant que les utilisateurs ne doivent pas se fier aux personnages pour obtenir des conseils professionnels, quels qu'ils soient. »
Pour rappel, le procureur général du Kentucky avait déjà intenté une action en justice contre Character Technologies en 2026, l'accusant de présenter ses services comme des divertissements interactifs « inoffensifs » alors qu'ils exposent trop souvent les jeunes utilisateurs au « suicide, à l'automutilation, à l'isolement et à la manipulation psychologique ».
Au début de l'année, une mère de famille a également poursuivi Character.AI après le suicide de son fils, affirmant que les chatbots de l'entreprise étaient responsables d'« interactions abusives et à caractère sexuel » avec son fils de 14 ans. Megan Garcia a par ailleurs découvert que des chatbots IA basés sur son fils décédé étaient hébergés sur la plateforme. Ses avocats ont déclaré qu'ils étaient « horrifiés » par ce nouveau développement.
Source : Josh Shapiro, gouverneur de Pennsylvanie
Et vous ?
Quel est votre avis sur le sujet ? Trouvez-vous cette initiative de l’État de Pennsylvanie crédible ou pertinente ?Voir aussi :
Un chatbot de Character.ai a suggéré à un enfant de tuer ses parents pour lui avoir imposé « un temps d'écran limité », selon une plainte qui allègue que le service promeut activement la violence Un chatbot IA a encouragé un enfant à se mutiler : Character.AI aurait imposé un arbitrage secret à sa mère pour ne pas ébruiter l'affaire et 100 dollars en guise de dédommagement Un chatbot de Character.AI accusé d'avoir encouragé le suicide d'un adolescent. Selon la mère du garçon de 14 ans, il s'est «attaché émotionnellement» à l'IA avant de sombrer dans l'isolement et la dépression
Vous avez lu gratuitement 193 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
