« Techno nazie » : sur TikTok, l’extrême droite déjoue la modération en musique
Sur TikTok, les discours de haine avancent parfois camouflés sous des mélodies entraînantes et des tubes techno, expose une étude publiée par des chercheurs des universités d’Amsterdam et Düsseldorf.
C’est l’histoire d’un hymne techno célébrant l’amour, transformé en chant xénophobe par l’extrême droite allemande. Un sombre destin que le DJ italien Gigi d’Agostino ne soupçonnait certainement pas lorsqu’il a sorti son tube « L’Amour toujours » en 2000.
Tout commence en mai 2024 lorsque des vidéos de jeunes Allemands chantant à tue-tête « Ausländer raus ! » (« Les étrangers dehors ! ») ou encore « L’Allemagne aux Allemands » sur l’air de cette chanson circulent sur les réseaux sociaux. Sur TikTok, des internautes se mettent à partager cette version haineuse grâce à la fonctionnalité « Utiliser le son » (accessible sur n’importe quelle vidéo). Au point que le morceau a fini par être complètement « associé » aux revendications du parti d’extrême droite allemand AfD, qui milite notamment pour la « remigration » des personnes d’origine étrangère, retracent les auteurs d’un article de recherche pré-publié le 25 juin dernier sur la plateforme arXiv.
Sur TikTok, la chanson de Gigi d’Agostino est présente sous un nombre incalculable de versions différentes : accélérée, ralentie, déformée et même remixée avec un discours déclarant que « Hitler était l’homme de votre vie » (partagée plus de mille fois grâce à travers la fonctionnalité « Utiliser le son »).
« Les goûts musicaux sont importants »
Les recherches menées par Marloes Geboers, de l’Université d’Amsterdam, et Marcus Bösch, de l’Université Heinrich-Heine de Düsseldorf, ont consisté à analyser des milliers de clips à partir des flux TikTok allemands, britanniques et néerlandais. Leur étude identifie par ailleurs des liens entre des comptes d’extrême droite et d’autres titres populaires, comme la version accélérée de « Kiss Me Again » de Roy Bee et « Around the World » d’ATC.
On trouve aussi le titre « Ex’s and Oh’s » d’Elle King, dont les paroles – « They always wanna come and never wanna leave » (ils veulent toujours venir mais jamais repartir) – permettent ici de dénoncer l’immigration en Europe, associées à des images de Blancs aux yeux bleus et évoquant l’empire romain. Une manière détournée de faire passer un message haineux.
L’un des titres mentionnés par les chercheurs, qui appelle à tuer des personnes d’origine turque, s’est quant à lui propagé en surfant sur la tendance « Musikgeschmack ist wichtig » (« Les goûts musicaux sont importants »), qui consiste à ne diffuser que l’introduction de la chanson pour inciter les internautes à deviner la suite. « Cette tendance musicale se prête parfaitement à ce que l’on appelle la stratégie de “dissimulation amplificatrice”, expliquent les chercheurs. Diffuser uniquement l’intro, sans paroles, est un signal codé pour les initiés. Un algorithme de détection ne détectera pas les paroles désobligeantes, car elles ne figurent pas dans la publication et, souvent, ne sont pas (complètement) présentes dans les commentaires. »
« Atmosphère extrémiste »
De toute évidence, ces subterfuges fonctionnent. Les auteurs de l’étude ont trouvé que 89 % des vidéos contenant la chanson raciste appelant à la haine des Turcs étaient encore accessibles sur la plateforme quatre mois plus tard – signe qu’elles avaient échappé aux algorithmes de modération de TikTok. En comparaison, « seulement » 65 % des contenus reliés à cette même chanson où étaient apposés des textes à caractère raciste ou haineux étaient encore en ligne après ce laps de temps. La preuve que le format audio pose des difficultés particulières, même lorsque les chansons contiennent des paroles plus ou moins ouvertement racistes.
En réalité, même si ces audios étaient retirés de la plateforme, leurs occurrences sont si dispersées – et présentes parfois dans des versions différentes, remixées – qu’en venir à bout reviendrait à se battre contre l’hydre à neuf têtes. Pour s’assurer de leur pérennité, les internautes n’hésitent pas, en effet, à « réutiliser les sons dans le cadre de campagnes coordonnées » et à « créer des modèles de mèmes sonores pour une amplification et une diffusion rapides » tout en « supprimant les sons originaux afin de dissimuler l’identité des instigateurs », soulignent les chercheurs.
« Il existe de la techno nazie, de la pop nazie, du folk nazi… il y en a pour tous les goûts »Marcus Bösch, co-auteur d'une étude intitulée "Comment l'extrême droite surfe sur les tendances audio de TikTok"
Alors certes, la plupart des publications en question ne suscitent qu’un engagement assez modeste. Les publications intégrant la chanson sur les Turcs n’ont été vues que 1821 fois, par exemple. Il n’en reste pas moins que ce type de contenus est susceptible d’apparaître dans les résultats de recherche liés à des trends TikTok a priori inoffensives comme « Les goûts musicaux sont importants », y compris par des internautes éloignés de la fachosphère. « Le fait que ces contenus sont à peine modérés signifie qu’ils continuent d’entretenir une “atmosphère” extrémiste », alertent les auteurs de cette étude.
Une ambiance qui se décline à toutes les sauces : « Il existe de la techno nazie, de la pop nazie, du folk nazi… il y en a pour tous les goûts », appuie Marcus Bösch auprès du média Fast Company, en précisant que « l’objectif est de diriger les utilisateurs vers du contenu hors plateforme destiné à les endoctriner à l’idéologie nazie. » Leurs conclusions ne vont certainement pas arranger le cas de TikTok, déjà visé par une commission d’enquête en France portant sur ses impacts sur la santé mentale des jeunes.
