Telegram serait devenu un bastion pour les groupes qui incitent à la violence contre les juifs et Israël. Une analyse révèle que le jour des attentats, les messages antisémites ont augmenté de 433,76 %, passant d'une moyenne de 238,12 à 1 271 par jour. Bien que ce pic ait diminué, la moyenne actuelle de 321,22 messages quotidiens reste nettement supérieure aux niveaux d'avant les attentats. L'étude fait suite à un précédent rapport selon lequel des milliers de chaînes Telegram vendent des identités volées, des drogues illicites et du matériel pédopornographique, faisant de l'application de messagerie chiffrée un nouveau type de darknet pour les criminels.Les contenus antisémites connaissent une forte augmentation sur Telegram
L'étude en question a été réalisée par le groupe Anti-Defamation League (ADL). Il s'agit d'une organisation non gouvernementale dont le but premier est de soutenir les Juifs contre toute forme d'antisémitisme. Elle a été fondée en 2015 et son siège est basé à New York, aux États-Unis. L'analyse a suivi un échantillon de 793 chaînes/groupes et 7 769 utilisateurs, représentant ceux qui ont posté au moins un message antisémite/anti-israélien violent entre avril 2023 et 2024.
L'influence du contenu antisémite est mesurée par le volume des messages et l'engagement des utilisateurs, en particulier par la fréquence à laquelle ces messages sont partagés. Selon l'étude, avant le 7 octobre 2023, en moyenne 12,18 utilisateurs uniques transmettaient des messages antisémites extrêmes chaque semaine ; ce chiffre est passé à 20,96 après cette date. Le nombre de messages antisémites violents transmis chaque semaine est passé de 204,03 à 346,4.
Daniel Kelley, directeur de la stratégie et des opérations et responsable du centre Anti-Defamation League pour la technologie et la société, s'est penché sur les conclusions du rapport : « après l'arrestation [du PDG de Telegram, Pavel Durov, en août 2024] par les autorités françaises, Telegram a commencé à partager certaines données avec les gouvernements, ce qui n'était pas le cas auparavant. Cependant, elle n'a pas changé ses règles de base », a déclaré Daniel Kelley.
« Ils ont ajouté une règle à leurs conditions de service, qui stipule que si quelque chose est illégal dans de nombreux pays, ils prendront des mesures. Mais ils n'ont toujours pas mis en place de mesures fondamentales de modération du contenu. Telegram n'interdit pas les discours haineux et n'a pas de règles contre l'extrémisme ou le soutien aux extrémistes », a déclaré Daniel Kelley. Il estime que les règles « les nouvelles règles adoptées par la plateforme sont inutiles ».
Bien que les experts considèrent ces règles de base et que les plateformes tentent de les appliquer, Telegram semble hésiter à reconnaître que la haine contre les groupes marginalisés n'est pas acceptable sur sa plateforme, même à la lumière de sa récente tentative d'interdire les contenus notoirement illégaux.
Les nouvelles politiques adoptées par Telegram jugées inutiles et inefficaces
L'arrestation du PDG de Telegram, Pavel Durov, a attiré l'attention sur la façon dont les réseaux pédophiles, les voleurs d'identité et les trafiquants de drogue utilisent la plateforme comme une vitrine pour vendre leurs marchandises. Les chercheurs ont recensé des milliers de chaînes et de groupes sur Telegram qui proposent des identités volées pouvant être utilisées pour ouvrir des comptes bancaires et des comptes d'investissement. L'antisémitisme y prospère également.
Selon Arik Segal, fondateur et PDG de Conntix, un cabinet de conseil qui facilite une communication efficace et constructive sur les plateformes virtuelles, la lutte contre la haine nécessite des changements juridiques et technologiques coordonnés afin de protéger la liberté d'expression tout en mettant un terme à l'antisémitisme. Il a souligné comment et pourquoi les changements récents apportés par Telegram en matière de confidentialité n'auront pas l'effet escompté.
Envoyé par Arik SegalJe ne pense pas qu'elles auront un quelconque impact. Tout d'abord, je pense que la plupart des gens ne sont pas au courant de ces changements. Ensuite, les gens ne considèrent pas les messages haineux comme un délit, mais comme une méthode de communication légitime. Enfin, je ne pense pas que la police aura le temps et les ressources nécessaires pour s'occuper de ce qui n'est pas strictement criminel, de sorte que les gens ne verront aucune application de la loi.
David Strom, un expert technique spécialisé dans le domaine des technologies numériques, affirme : « Telegram a intérêt à être plus réactif, sinon elle se verra infliger des amendes massives. Je pense que les entreprises qui dépendent de Telegram pour leurs communications passeront à des courriels fortement chiffrés et à des VPN qui ne partagent pas les données des utilisateurs et migreront de Telegram à Signal pour la messagerie ». Il doute aussi que l'IA puisse aider.
Telegram est-il capable de lutter contre la prolifération des discours haineux ?
Interrogé sur la manière de lutter contre les discours haineux sur Telegram, Daniel Kelley a déclaré qu'il ne pense pas qu'il s'agisse de la bonne plateforme pour effectuer un tel travail, car « la plupart des personnes radicalisées ne sont pas disposées à revoir leur vision du monde ». Selon lui, d'autres plateformes pourraient constituer un moyen plus efficace d'atteindre les personnes qui ne sont pas totalement acquises aux positions extrémistes, dont YouTube et Facebook.
« TikTok, YouTube ou Facebook peuvent être utiles là où il y a plus de place pour le dialogue », a déclaré Daniel Kelley. Bien conscient que TikTok connaît également de nombreux problèmes, le groupe Anti-Defamation League a indiqué que TikTok répond généralement aux plaintes lorsqu'elles proviennent de l'organisation. Mais selon le groupe de défense, lorsqu'un utilisateur moyen les signale à TikTok, il y a beaucoup moins de chances qu'elles soient prises en compte.
TikTok a mis à jour ses efforts afin de protéger les utilisateurs dans le cadre du conflit en cours. La plateforme a renforcé ses lignes directrices communautaires, élargissant les politiques contre les discours de haine pour inclure des références indirectes à l'antisémitisme. TikTok indique également avoir supprimé plus de 4,7 millions de vidéos et suspendu 300 000 livestreams pour des violations liées aux discours de haine et à la désinformation depuis le 7 octobre 2023.
La plateforme aurait également supprimé 500 millions de faux comptes dans le monde, en renforçant considérablement la modération des contenus grâce à des outils automatisés améliorés et à des modérateurs formés. Des initiatives telles que la campagne #SwipeOutHate visent à inciter la communauté à signaler les contenus haineux. Malgré ses efforts, TikTok est menacé par une interdiction aux États-Unis en raison de préoccupations liées à « la sécurité nationale ».
Selon le ministère américain de la Justice, TikTok est un outil de manipulation politique dont la Chine pourrait se servir pour influencer les élections américaines. « Permettre à TikTok de continuer à être exploité par sa société mère actuelle pourrait permettre au gouvernement chinois d'influencer secrètement les élections américaines », a déclaré le ministère américain de la Justice dans un document déposé auprès d'une Cour d'appel fédérale en juillet 2024.
Telegram : une sorte de nouveau darknet pour les criminels et les trafiquants
Avant l'ascension de Telegram, les criminels se regroupaient généralement dans des zones d'Internet connues sous le nom de « darknet ». Ces sites ne sont pas indexés par les navigateurs Web et ne sont accessibles qu'à l'aide d'un logiciel spécifique qui masque l'identité des utilisateurs. Les utilisateurs réguliers d'Internet les rencontrent rarement. Un exemple bien connu est celui du marché noir en ligne Silk Road, qui a été démantelé depuis. Silk Road utilisait le bitcoin et le réseau Tor afin d'assurer l'anonymat à la fois des acheteurs et des vendeurs, dans le cadre de vente de produits illicites, notamment des stupéfiants.
Les sites du darknet sont parfois lents, avec des interfaces encombrantes et des serveurs vulnérables aux opérations de démantèlement des forces de l'ordre. Telegram est rapide et fonctionnel, avec des fonctions qui facilitent l'achat et la vente d'articles...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
