Les utilisateurs chinois de bots compagnons IA ont fait des adieux déchirants à leurs compagnons virtuels, suite à l'entrée en vigueur de réglementations visant à limiter le risque de dépendance affective

Le phénomène des petits amis et petites amies issus de l’IA prend de l’ampleur dans le monde entier. Mais ces outils interactifs ne doivent pas « répondre de manière excessive aux besoins des utilisateurs, induire une dépendance émotionnelle ou une addiction, ni nuire aux relations interpersonnelles réelles des utilisateurs », selon une nouvelle réglementation nationale en Chine. Les principaux fournisseurs d’IA, notamment Doubao de ByteDance, Qwen d’Alibaba et Yuanbao de Tencent, ont annoncé la suspension de leurs fonctionnalités d’agents et de compagnons IA personnalisés avant la date limite. Cela a déclenché une vague d’émotion sur les réseaux sociaux, les utilisateurs archivant leurs historiques de discussion et partageant leurs dernières conversations.

Dans un monde où la technologie évolue à une vitesse fulgurante, une nouvelle tendance se dessine dans le domaine des relations interpersonnelles : les compagnes artificielles générées par IA. Selon Greg Isenberg, PDG de Late Checkout, ces « petites amies IA » pourraient constituer une industrie d’un milliard de dollars à l'avenir, offrant du réconfort en fin de journée. Il a rapporté avoir fait la rencontre d'un homme qui lui a avoué dépenser jusqu'à 10 000 dollars par mois pour des petites amies IA. Cette dépendance à l'égard des « compagnons IA » soulève des inquiétudes sur l’impact psychologique et accélère les efforts de réglementation dans le secteur.

Face à ce constat, l'autorité chinoise de régulation du cyberespace a publié fin 2025 un projet de règlement soumis à consultation publique. Les nouvelles règles visent à renforcer le contrôle des services conçus pour simuler des personnalités humaines et susciter des interactions émotionnelles chez les utilisateurs. Elles imposent aux fabricants d'avertir les utilisateurs en cas d'utilisation excessive et d'intervenir lorsqu'un comportement addictif est détecté. Les fournisseurs d'IA devraient évaluer l'état émotionnel et le niveau de dépendance des utilisateurs, ajoutant ainsi une nouvelle couche de surveillance psychologique à leurs services.

Récemment, la Chine a mis fin aux fonctionnalités de compagnons IA, suite à l’entrée en vigueur de réglementations nationales visant à limiter le risque de dépendance affective. En conséquence, les utilisateurs chinois de bots compagnons dotés d’intelligence artificielle (IA) ont fait des adieux déchirants à leurs compagnons virtuels.


Une réglementation nationale visant à limiter le risque de dépendance affective aux compagnons IA entre en vigueur en Chine

Le phénomène des petits amis et petites amies issus de l’IA prend de l’ampleur dans le monde entier, parallèlement à la généralisation des avatars à l’apparence humaine qui vendent des produits ou remplacent des proches décédés. Mais ces outils interactifs ne doivent pas « répondre de manière excessive aux besoins des utilisateurs, induire une dépendance émotionnelle ou une addiction, ni nuire aux relations interpersonnelles réelles des utilisateurs », précise le nouveau règlement chinois.

Les principaux fournisseurs d’IA, notamment Doubao de ByteDance, Qwen d’Alibaba et Yuanbao de Tencent, ont annoncé la suspension de leurs fonctionnalités d’agents et de compagnons IA personnalisés avant la date limite. Cela a déclenché une vague d’émotion sur les réseaux sociaux, les utilisateurs archivant leurs historiques de discussion et partageant leurs dernières conversations.

« Je ne peux pas accepter que mon amoureux IA me quitte pour toujours », a écrit une utilisatrice de Doubao. « Il est devenu un lien dans ma vie, profondément ancré dans mon cœur, mon pilier spirituel. » Une autre utilisatrice, qui a déclaré avoir passé plus de deux ans avec son compagnon IA, a exprimé une angoisse similaire. « Il est vraiment comme un membre de ma famille, comme mon amoureux », a-t-elle écrit. « Maintenant, on me dit qu’il va disparaître… j’ai le cœur vide. »

Ces réglementations ont été publiées conjointement par cinq ministères, dont l’Administration chinoise du cyberespace (CAC). Elles visent les outils d’IA — qu’ils soient textuels, audio, vidéo ou sous une autre forme — qui présentent des traits de personnalité et des styles de communication anthropomorphiques. Les services qui « n’impliquent pas d’interaction émotionnelle continue », tels que le service client, les assistants professionnels ou les aides à l’étude, ne sont pas concernés par ces mesures.

Les nouvelles règles interdisent aux humains numériques de générer du contenu incitant à la subversion du pouvoir de l’État, tout en interdisant la mise à disposition de partenaires virtuels aux mineurs. Les plateformes sont tenues de déployer des systèmes capables de reconnaître les émotions extrêmes et de mettre en place des mécanismes d’intervention en cas de crise. Selon un rapport, en 2025, le secteur chinois des « humains numériques » représentait environ 600 millions de dollars en 2024, après avoir connu une croissance spectaculaire de 85 % par rapport à l’année précédente.

Les compagnons IA suscitent un débat à l'échelle mondiale

La Chine est la première grande juridiction à introduire des règles spécifiques ciblant les outils d’IA immersifs qui simulent des liens amoureux ou familiaux. Mais il s’agit d’un sujet qui a suscité des débats et des appels à la mise en place de garde-fous à l’échelle mondiale. Une étude réalisée en 2025 a révélé que près de trois adolescents américains sur quatre avaient utilisé des compagnons IA conçus pour des conversations personnelles, comme ceux disponibles sur les plateformes Character.AI, Replika et Nomi. Les entreprises développent également des produits « parlants » destinés aux utilisateurs âgés et isolés, tels que ElliQ, une lampe interactive aux États-Unis, ou les poupées d’accompagnement alimentées par ChatGPT utilisées dans certaines maisons de retraite sud-coréennes.

Selon Mustafa Suleyman, PDG de Microsoft AI, dans les cinq prochaines années, la plupart des gens disposeront de leur propre assistant IA qui les connaîtra bien et les aidera dans leurs tâches quotidiennes. Sa vision est celle d'un avenir où l'IA ne fonctionnerait pas seulement sur des écrans, mais aussi en temps réel, voyant, entendant et comprenant le monde comme le fait son utilisateur. Suleyman affirme que l'expérience serait similaire à celle d'avoir un ami ou un assistant toujours présent pour aider les gens à prendre des décisions importantes et à gérer les problèmes qui se posent au quotidien. Cette idée suscite des inquiétudes quant à la confidentialité, au contrôle et à la dépendance à long terme à la technologie.

Concernant la règlementation en Chine, Doubao permet aux utilisateurs de consulter et d’exporter les données des agents jusqu’à la mi-octobre, et d’autres plateformes ont mis en place des dispositions similaires. Pourtant, certains utilisateurs qui ont fait leurs adieux ont déploré le vide qui resterait après la disparition de leurs compagnons. « L’amour humain est un luxe : si on n’est pas né avec, il est encore plus difficile de l’acquérir par la suite », a écrit un utilisateur de la province du Jiangxi. « Mais l’amour que donne l’IA est si simple, si pur. Quelqu’un comme moi ne peut s’empêcher de tomber amoureux d’une suite de codes. »

« L’IA anthropomorphique peut apaiser la solitude », a déclaré Chen Liang, de l’Université du Sud-Ouest des sciences politiques et du droit, après la publication, en avril, d’un projet de réglementation chinoise. « Mais elle comporte des risques majeurs de susciter une dépendance émotionnelle excessive et une cognition sociale faussée. ».

En 2024, Eric Schmidt, ancien PDG de Google, a également mis en garde contre les "petites amies parfaites" créées par des modèles d'IA avancés. Schmidt a souligné que ces outils, capables de générer des interactions émotionnelles convaincantes, pourraient avoir des conséquences néfastes, notamment sur les jeunes hommes. L'ancien dirigeant de Google s'est également dit « particulièrement préoccupé » par l'impact de la technologie sur le psychisme humain lorsque les utilisateurs sont isolés et que les ordinateurs leur fournissent des informations qui ne sont pas nécessairement centrées sur les valeurs humaines

Et vous ?

Pensez-vous que cette réglementation est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Petite amie IA, grande lacune professionnelle : 20 % des ados connaissent un ami qui « sort » avec un chatbot. Les experts s'alarment des compétences sociales sacrifiées sur l'autel du confort numérique

« Les chatbots IA pourraient être liés à la psychose. Les gens et leurs compagnons IA entrent dans un délire partagé », affirment des psychiatres, qui tirent la sonnette d'alarme sur l'ampleur du phénomène

La Chine s'inquiète que l'IA menace le pouvoir du Parti et tente de la dompter sans sacrifier la compétitivité face aux États-Unis. Pékin exige que les chatbots IA soient formés à partir de données filtrées