Pavel Durov change son discours sur la modération de sa plateforme après son arrestation en France. L'entrepreneur franco-russe, autrefois laxiste sur la question, a annoncé récemment que la modération de Telegram ne sera plus un sujet de critiques à l'avenir, mais un sujet d'éloges. Dans la foulée, Telegram a introduit de nouvelles fonctionnalités visant à rendre l'application moins perméable aux escrocs et aux bots malveillants. Telegram a commencé par réajuster certaines fonctionnalités afin d'éliminer leur utilisation à mauvais escient. Par ailleurs, l'entreprise se dit prête à collaborer davantage avec les forces de l'ordre à l'avenir.Telegram opère un revirement surprenant sur la question de la modération
Telegram est très controversé en raison d'une quasi-inexistence de modération sur l'application. Selon un récent rapport sur le sujet, cela a favorisé l'émergence de milliers de chaînes Telegram qui vendent des identités volées, des drogues illicites et du matériel pédopornographique (CSAM), faisant de la plateforme un nouveau type de darknet pour les criminels. Cependant, les choses commencent apparemment à changer avec l'arrestation en France du PDG Pavel Durov. Les premiers changements introduits par Telegram suggèrent que l'application veut se débarrasser de sa réputation de paradis pour les criminels.
Telegram, qui ignorait largement les réquisitions judiciaires, serait désormais pleinement disposé à collaborer avec la justice et les forces de l'ordre. « La porte s’ouvre vraiment », a confirmé à Libération Johanna Brousse, cheffe de la section J3 de la juridiction nationale de lutte contre la criminalité organisée (Junalco) du parquet de Paris. La section J3 est dédiée à la cybercriminalité. L'entreprise aurait même déjà collaboré sur certains cas pour montrer sa bonne foi.
Le média souligne notamment : « selon nos informations, l'application de messagerie a en effet donné suite à des demandes formulées par l’Office mineurs (Ofmin) de la police nationale et la gendarmerie dans plusieurs enquêtes pénales, en livrant des éléments susceptibles d’identifier certains suspects. Des dossiers de pédocriminalité, notamment, sont concernés. Un changement de pied perceptible dès la garde à vue de Dourov ». Toutefois, Telegram va plus loin.
Dans deux longues annonces successives sur sa chaîne Telegram, le PDG Pavel Durov a fait savoir que la plateforme sera mieux modérée à l'avenir et a présenté quelques changements mis en œuvre pour rendre l'application plus sûre pour les utilisateurs. Voici les changements qu'il a annoncés :
Envoyé par Pavel Durov
Aujourd'hui, nous introduisons de nouvelles fonctionnalités tout en supprimant quelques fonctionnalités obsolètes.
- nous avons supprimé la fonction « Personnes à proximité », qui était utilisée par moins de 0,1 % des utilisateurs de Telegram, mais qui posait des problèmes avec les bots et les escrocs.
- à sa place, nous allons lancer « Entreprises à proximité », mettant en avant des entreprises légitimes et vérifiées. Ces entreprises pourront afficher des catalogues de produits et accepter des paiements de manière transparente.
- nous avons également désactivé le téléchargement de nouveaux médias sur Telegraph, notre outil de blogue autonome, qui semble avoir été utilisé à mauvais escient par des acteurs anonymes.
Si 99,999 % des utilisateurs de Telegram n'ont rien à voir avec la criminalité, les 0,001 % impliqués dans des activités illicites donnent une mauvaise image de l'ensemble de la plateforme et mettent en péril les intérêts de notre milliard d'utilisateurs.
Nous nous engageons cette année à faire de la modération sur Telegram non plus un sujet de critiques, mais un sujet d'éloges.
En Europe, outre la France, d'autres pays auraient également déclaré avoir constaté des changements dans les pratiques de longue date de Telegram. Le parquet fédéral belge aurait déclaré à Libération : « nous constatons en effet que, depuis quelque temps, Telegram est plus enclin à collaborer avec la justice. Nous surveillons ce dossier de près, en espérant que la collaboration continuera d’évoluer dans le bon sens ». Mais d'importants chantiers restent à aborder.
Telegram : une sorte de nouveau darknet pour les criminels et les trafiquants
Avant l'ascension de Telegram, les criminels se regroupaient généralement dans des zones d'Internet connues sous le nom de « darknet ». Ces sites ne sont pas indexés par les navigateurs Web et ne sont accessibles qu'à l'aide d'un logiciel spécifique qui masque l'identité des utilisateurs. Les utilisateurs réguliers d'Internet les rencontrent rarement. Un exemple bien connu est celui du marché noir en ligne Silk Road, qui a été démantelé depuis. Silk Road utilisait le bitcoin et le réseau Tor afin d'assurer l'anonymat à la fois des acheteurs et des vendeurs, dans le cadre de vente de produits illicites, notamment des stupéfiants.
Les sites du darknet sont parfois lents, avec des interfaces encombrantes et des serveurs vulnérables aux opérations de démantèlement des forces de l'ordre. Telegram est rapide et fonctionnel, avec des fonctions qui facilitent l'achat et la vente d'articles directement sur l'application. L'utilité de Telegram a donné un coup de fouet à plusieurs types d'activités criminelles présumées, en particulier la vente de données personnelles volées et de matériel pédopornographique.
« Telegram marque la prochaine itération après qu'Internet a permis aux pédophiles de se regrouper en ligne », a déclaré Dan Sexton, directeur de la technologie à l'Internet Watch Foundation (IWF), un groupe britannique spécialisé dans les abus sexuels sur les enfants. L'IWF a constaté que les sites Web qui vendent du matériel pédopornographique dirigent les internautes vers Telegram pour échanger des informations financières et effectuer des transactions.
Contrairement à d'autres entreprises de médias sociaux telles que Meta et Snap, Telegram ne signale pas les images d'abus sexuels d'enfants à l'IWF ou à son homologue américain, le National Center for Missing and Exploited Children (NCMEC). Dans ses discussions avec Telegram, l'IWF a encouragé l'entreprise à devenir membre, ce qui lui donnerait accès à sa vaste base de données d'images d'abus étiquetées afin d'empêcher les délinquants de les partager davantage.
L'arrestation du Durov semble avoir mis un coup de pression sur Telegram, provoquant certains changements dans sa politique de modération. Jeudi, Telegram a mis à jour sa FAQ pour indiquer que les chats privés ne sont plus protégés contre la modération. « Toutes les applications Telegram sont dotées d'un bouton "Signaler" qui vous permet de signaler des contenus illégaux à nos modérateurs, en quelques clics seulement », indique l'entreprise sur sa page FAQ.
L'ancienne formulation de la page FAQ indiquait que les chats privés étaient protégés contre les demandes de modération. « Tous les chats de Telegram et les chats de groupe sont privés entre leurs participants. Nous ne traitons pas les demandes qui y sont liées », indiquait la page FAQ. En outre, Sexton a déclaré que l'IWF n'a pas eu de succès dans sa tentative de collaborer avec Telegram. Vendredi, Telegram a déclaré avoir contacté l'IWF pour rouvrir les discussions.
Telegram permettrait de trouver facilement un job lucratif à l'aide d'actions illégales, voire criminelles. Une expérience a montré que l'application permet de trouver facilement un job lucratif pour faire du trafic de drogues ou du blanchiment d'argent, entre autres. Les auteurs de l'expérience déclarent qu'il n'est pas nécessaire de connaître le darknet pour acheter ou vendre de la drogue, trouver des contrats criminels rapides. Telegram permet de le faire facilement.
La politique de modération laxiste adoptée par Telegram favorise la diffusion du CSAM
La justice française accuse Durov d'avoir laissé libre cours à diverses formes d'activités criminelles sur Telegram, notamment la vente et la diffusion de matériel pédopornographique sur la plateforme. Il est visé par pas moins de douze chefs d'accusation et a été mis en examen après une garde à vue de 48 heures. (L'application Instagram de Meta fait aussi l'objet de critiques concernant la modération de ce type de contenu.) Les chercheurs indiquent que l'approche non interventionniste dans la modération de contenu, adoptée par Durov, a transformé Telegram en un "véritable réseau" pour les pédocriminels.
Toutefois, Durov a défendu la philosophie de Telegram et a déclaré que son arrestation était « malavisée ». Il a laissé entendre que la France crée un dangereux précédent dans le domaine de l'entrepreneuriat technologique en tenant un PDG pour responsable des abus de son innovation. Selon Durov, dans un tel climat, aucun entrepreneur ne sera enclin à construire de nouveaux outils, même s'ils pourraient être utiles pour une majorité de personnes.
Durov a également déclaré que les allégations de certains médias selon lesquelles Telegram serait une sorte de paradis anarchique ne tiennent pas la route : « [...] Tout cela ne signifie pas que Telegram est parfait. Même le fait que les autorités puissent ne pas savoir où envoyer les requêtes est quelque chose que nous devrions améliorer. Mais les affirmations de certains médias selon lesquelles Telegram serait une sorte de paradis anarchique sont fausses ».
Mike Ravdonikas, directeur de l'exploitation de Telegram, a déclaré que l'explosion du nombre d'utilisateurs a entraîné des difficultés de croissance dans la modération du contenu et la société travaille pour y remédier. « Telegram n'a pas été conçu pour les criminels, mais pour l'écrasante majorité des utilisateurs légaux », a-t-il ajouté. Il a déclaré que Telegram lutte activement contre les contenus illégaux, mais cette déclaration est fortement controversée.
Les autorités judiciaires françaises ont déclaré le mois dernier qu'il est extrêmement difficile de collaborer avec Telegram et que de nombreuses demandes adressées à l'entreprise dans le cadre d'enquêtes criminelles sont restées sans réponse. En outre, contrairement à Telegram, Meta et Google et d'autres entreprises de médias sociaux disposent d'équipes de modération qui retirent les contenus illégaux et répondent aux demandes des forces de l'ordre.
À la suite de son arrestation en France, Durov a déclaré que la plateforme sera mieux modérée à l'avenir. Dans sa déclaration publiée jeudi, il a admis qu'il est devenu difficile de faire respecter la loi sur Telegram et a promis d'améliorer la modération sur Telegram. Toutefois, les experts indiquent que ces mesures sont encore insuffisantes pour améliorer la qualité de l'application et lutter efficacement contre les activités criminelles qui s'y déroulent.
Source : Pavel Durov, PDG de Telegram (1, 2)
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous de la volte-face du PDG de Telegram au sujet de la modération sur Telegram ? Que pensez-vous des changements introduits par Telegram ? Vont-elles contribuer à rendre la plateforme plus sûre ? Selon vous, quels impacts ces changements pourraient-ils avoir sur les utilisateurs de la plateforme ?Voir aussi
Telegram s'est conformé à la demande des autorités en Corée du Sud de retirer certains contenus pornographiques "deepfake" et s'est excusé pour son manque de réponses aux crimes sexuels numériques Un rapport indique que des milliers de chaînes Telegram vendent des identités volées, des drogues illicites et du matériel pédopornographique, faisant de l'outil un nouveau type de darknet pour les criminels À la suite de son arrestation en France, le PDG de Telegram, Pavel Durov, annonce que la plateforme sera mieux modérée à l'avenir, et Telegram ajoute discrètement la possibilité de signaler les chats privés 
