Telegram serait devenu un bastion pour les groupes qui incitent à la violence contre les juifs et Israël. Une analyse révèle que le jour des attentats, les messages antisémites ont augmenté de 433,76 %, passant d'une moyenne de 238,12 à 1 271 par jour. Bien que ce pic ait diminué, la moyenne actuelle de 321,22 messages quotidiens reste nettement supérieure aux niveaux d'avant les attentats. L'étude fait suite à un précédent rapport selon lequel des milliers de chaînes Telegram vendent des identités volées, des drogues illicites et du matériel pédopornographique, faisant de l'application de messagerie chiffrée un nouveau type de darknet pour les criminels.Les contenus antisémites connaissent une forte augmentation sur Telegram
L'étude en question a été réalisée par le groupe Anti-Defamation League (ADL). Il s'agit d'une organisation non gouvernementale dont le but premier est de soutenir les Juifs contre toute forme d'antisémitisme. Elle a été fondée en 2015 et son siège est basé à New York, aux États-Unis. L'analyse a suivi un échantillon de 793 chaînes/groupes et 7 769 utilisateurs, représentant ceux qui ont posté au moins un message antisémite/anti-israélien violent entre avril 2023 et 2024.
L'influence du contenu antisémite est mesurée par le volume des messages et l'engagement des utilisateurs, en particulier par la fréquence à laquelle ces messages sont partagés. Selon l'étude, avant le 7 octobre 2023, en moyenne 12,18 utilisateurs uniques transmettaient des messages antisémites extrêmes chaque semaine ; ce chiffre est passé à 20,96 après cette date. Le nombre de messages antisémites violents transmis chaque semaine est passé de 204,03 à 346,4.
Daniel Kelley, directeur de la stratégie et des opérations et responsable du centre Anti-Defamation League pour la technologie et la société, s'est penché sur les conclusions du rapport : « après l'arrestation [du PDG de Telegram, Pavel Durov, en août 2024] par les autorités françaises, Telegram a commencé à partager certaines données avec les gouvernements, ce qui n'était pas le cas auparavant. Cependant, elle n'a pas changé ses règles de base », a déclaré Daniel Kelley.
« Ils ont ajouté une règle à leurs conditions de service, qui stipule que si quelque chose est illégal dans de nombreux pays, ils prendront des mesures. Mais ils n'ont toujours pas mis en place de mesures fondamentales de modération du contenu. Telegram n'interdit pas les discours haineux et n'a pas de règles contre l'extrémisme ou le soutien aux extrémistes », a déclaré Daniel Kelley. Il estime que les règles « les nouvelles règles adoptées par la plateforme sont inutiles ».
Bien que les experts considèrent ces règles de base et que les plateformes tentent de les appliquer, Telegram semble hésiter à reconnaître que la haine contre les groupes marginalisés n'est pas acceptable sur sa plateforme, même à la lumière de sa récente tentative d'interdire les contenus notoirement illégaux.
Les nouvelles politiques adoptées par Telegram jugées inutiles et inefficaces
L'arrestation du PDG de Telegram, Pavel Durov, a attiré l'attention sur la façon dont les réseaux pédophiles, les voleurs d'identité et les trafiquants de drogue utilisent la plateforme comme une vitrine pour vendre leurs marchandises. Les chercheurs ont recensé des milliers de chaînes et de groupes sur Telegram qui proposent des identités volées pouvant être utilisées pour ouvrir des comptes bancaires et des comptes d'investissement. L'antisémitisme y prospère également.
Selon Arik Segal, fondateur et PDG de Conntix, un cabinet de conseil qui facilite une communication efficace et constructive sur les plateformes virtuelles, la lutte contre la haine nécessite des changements juridiques et technologiques coordonnés afin de protéger la liberté d'expression tout en mettant un terme à l'antisémitisme. Il a souligné comment et pourquoi les changements récents apportés par Telegram en matière de confidentialité n'auront pas l'effet escompté.
Envoyé par Arik Segal
Je ne pense pas qu'elles auront un quelconque impact. Tout d'abord, je pense que la plupart des gens ne sont pas au courant de ces changements. Ensuite, les gens ne considèrent pas les messages haineux comme un délit, mais comme une méthode de communication légitime. Enfin, je ne pense pas que la police aura le temps et les ressources nécessaires pour s'occuper de ce qui n'est pas strictement criminel, de sorte que les gens ne verront aucune application de la loi.
David Strom, un expert technique spécialisé dans le domaine des technologies numériques, affirme : « Telegram a intérêt à être plus réactif, sinon elle se verra infliger des amendes massives. Je pense que les entreprises qui dépendent de Telegram pour leurs communications passeront à des courriels fortement chiffrés et à des VPN qui ne partagent pas les données des utilisateurs et migreront de Telegram à Signal pour la messagerie ». Il doute aussi que l'IA puisse aider.
Telegram est-il capable de lutter contre la prolifération des discours haineux ?
Interrogé sur la manière de lutter contre les discours haineux sur Telegram, Daniel Kelley a déclaré qu'il ne pense pas qu'il s'agisse de la bonne plateforme pour effectuer un tel travail, car « la plupart des personnes radicalisées ne sont pas disposées à revoir leur vision du monde ». Selon lui, d'autres plateformes pourraient constituer un moyen plus efficace d'atteindre les personnes qui ne sont pas totalement acquises aux positions extrémistes, dont YouTube et Facebook.
« TikTok, YouTube ou Facebook peuvent être utiles là où il y a plus de place pour le dialogue », a déclaré Daniel Kelley. Bien conscient que TikTok connaît également de nombreux problèmes, le groupe Anti-Defamation League a indiqué que TikTok répond généralement aux plaintes lorsqu'elles proviennent de l'organisation. Mais selon le groupe de défense, lorsqu'un utilisateur moyen les signale à TikTok, il y a beaucoup moins de chances qu'elles soient prises en compte.
TikTok a mis à jour ses efforts afin de protéger les utilisateurs dans le cadre du conflit en cours. La plateforme a renforcé ses lignes directrices communautaires, élargissant les politiques contre les discours de haine pour inclure des références indirectes à l'antisémitisme. TikTok indique également avoir supprimé plus de 4,7 millions de vidéos et suspendu 300 000 livestreams pour des violations liées aux discours de haine et à la désinformation depuis le 7 octobre 2023.
La plateforme aurait également supprimé 500 millions de faux comptes dans le monde, en renforçant considérablement la modération des contenus grâce à des outils automatisés améliorés et à des modérateurs formés. Des initiatives telles que la campagne #SwipeOutHate visent à inciter la communauté à signaler les contenus haineux. Malgré ses efforts, TikTok est menacé par une interdiction aux États-Unis en raison de préoccupations liées à « la sécurité nationale ».
Selon le ministère américain de la Justice, TikTok est un outil de manipulation politique dont la Chine pourrait se servir pour influencer les élections américaines. « Permettre à TikTok de continuer à être exploité par sa société mère actuelle pourrait permettre au gouvernement chinois d'influencer secrètement les élections américaines », a déclaré le ministère américain de la Justice dans un document déposé auprès d'une Cour d'appel fédérale en juillet 2024.
Telegram : une sorte de nouveau darknet pour les criminels et les trafiquants
Avant l'ascension de Telegram, les criminels se regroupaient généralement dans des zones d'Internet connues sous le nom de « darknet ». Ces sites ne sont pas indexés par les navigateurs Web et ne sont accessibles qu'à l'aide d'un logiciel spécifique qui masque l'identité des utilisateurs. Les utilisateurs réguliers d'Internet les rencontrent rarement. Un exemple bien connu est celui du marché noir en ligne Silk Road, qui a été démantelé depuis. Silk Road utilisait le bitcoin et le réseau Tor afin d'assurer l'anonymat à la fois des acheteurs et des vendeurs, dans le cadre de vente de produits illicites, notamment des stupéfiants.
Les sites du darknet sont parfois lents, avec des interfaces encombrantes et des serveurs vulnérables aux opérations de démantèlement des forces de l'ordre. Telegram est rapide et fonctionnel, avec des fonctions qui facilitent l'achat et la vente d'articles directement sur l'application. L'utilité de Telegram a donné un coup de fouet à plusieurs types d'activités criminelles présumées, en particulier la vente de données personnelles volées et de matériel pédopornographique.
« Telegram marque la prochaine itération après qu'Internet a permis aux pédophiles de se regrouper en ligne », a déclaré Dan Sexton, directeur de la technologie à l'Internet Watch Foundation (IWF), un groupe britannique spécialisé dans les abus sexuels sur les enfants. L'IWF a constaté que les sites Web qui vendent du matériel pédopornographique dirigent les internautes vers Telegram pour échanger des informations financières et effectuer des transactions.
Contrairement à d'autres entreprises de médias sociaux telles que Meta et Snap, Telegram ne signale pas les images d'abus sexuels d'enfants à l'IWF ou à son homologue américain, le National Center for Missing and Exploited Children (NCMEC). Dans ses discussions avec Telegram, l'IWF a encouragé l'entreprise à devenir membre, ce qui lui donnerait accès à sa vaste base de données d'images d'abus étiquetées afin d'empêcher les délinquants de les partager davantage.
L'arrestation du PDG semble avoir mis un coup de pression sur Telegram, provoquant certains changements dans sa politique de modération. Telegram a mis à jour sa FAQ pour indiquer que les chats privés ne sont plus protégés contre la modération. « Toutes les applications Telegram sont dotées d'un bouton "Signaler" qui vous permet de signaler des contenus illégaux à nos modérateurs, en quelques clics seulement », indique l'entreprise sur sa page FAQ.
L'ancienne formulation de la page FAQ indiquait que les chats privés étaient protégés contre les demandes de modération. « Tous les chats de Telegram et les chats de groupe sont privés entre leurs participants. Nous ne traitons pas les demandes qui y sont liées », indiquait la page FAQ. En outre, Dan Sexton a déclaré que l'IWF n'a pas eu de succès dans sa tentative de collaborer avec Telegram. Telegram a déclaré avoir contacté l'IWF pour rouvrir les discussions.
Telegram permettrait de trouver facilement un job lucratif à l'aide d'actions illégales, voire criminelles. Une expérience a montré que l'application permet de trouver facilement un job lucratif pour faire du trafic de drogues ou du blanchiment d'argent, entre autres. Les auteurs de l'expérience déclarent qu'il n'est pas nécessaire de connaître le darknet pour acheter ou vendre de la drogue, trouver des contrats criminels rapides. Telegram permet de le faire facilement.
Source : Anti-Defamation League
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous du rapport de l'Anti-Defamation League sur la prolifération des discours haineux sur Telegram ? L'Anti-Defamation League pense que Telegram n'est pas la plateforme idéale pour lutter contre les discours haineux sur Telegram ? Qu'en pensez-vous ? Pensez-vous qu'il est plus difficile de lutter contre la prolifération des discours de haine sur Telegram que sur les autres plateformes de messagerie ?Voir aussi
Un rapport indique que des milliers de chaînes Telegram vendent des identités volées, des drogues illicites et du matériel pédopornographique, faisant de l'outil un nouveau type de darknet pour les criminels Il n'y a pas que TikTok, les applications chinoises, les médias sociaux et les jeux en ligne espionnent également les utilisateurs du monde entier pour collecter leurs données personnelles, avertit une étude L'algorithme de TikTok : un outil de manipulation politique ? Oui, selon le ministère de la justice, qui affirme que la Chine pourrait s'en servir pour influencer les élections américaines 
