IDPI lance un observatoire de la haine en ligne

Le think tank Idpi, structure non profit d’Antidox, entreprend une étude de long-terme sur les nouveaux modes d’expression de la haine, à travers la collecte et l’analyse des propos échangés sur internet et les réseaux sociaux. Permettant de comprendre comment des stéréotypes émergent et se répondent, cet observatoire entend tester de nouvelles méthodologies quant à l’étude de l’opinion  en ligne (machine learning, analyse de données).

Racisme, homophobie, négrophobie, sexisme, antisémitisme, « babtouphobie », islamophobie… Les community managers et modérateurs le savent bien, tous les types de stéréotypisation, plus ou moins haineux, existent sur internet et les espaces sociaux, se répondent et perturbent les échanges. En mai 2014, un #MerciHitlerPour3945 avait ainsi fait irruption dans la liste des « trending topics », c’est-à-dire qu’elle devenait ce jour-là une des expressions les plus relayées sur le Twitter français. Un an auparavant, les #UnBonJuif et #UnJuifMort avaient déjà placé Twitter sous le feu des critiques et conduit le réseau social à proposer à plusieurs associations antiracistes de travailler ensemble, puis à mettre directement en place un bouton en-dessous de chaque message, pour que tout utilisateur puisse signaler un éventuel dérapage.

Mais comment faire la part entre ceux qui utilisent ce hashtag sérieusement, ceux qui le détournent pour s’en amuser et ceux qui le citent pour s’en indigner ? L’enjeu pour Idpi est précisément de sortir des discours faciles amalgamant les réseaux sociaux et les plateformes de commentaires avec un exutoire bon marché.

Si cette étude s’inspire des recherches menée dans le monde anglo-saxon, elle n’en est pas moins inédite car jusqu’ici, comme le montre le benchmark international réalisé par Idpi, les initiatives de suivi et d’analyse des discours haineux se révélaient essentiellement quantitatifs ou alors centrés sur certains utilisateurs. Pour la première fois, un baromètre quantitatif et qualitatif permettra d’éclairer le phénomène de manière globale et compréhensive.

Les résultats du benchmark seront progressivement disponibles dans la section « opinion design » du site internet d’Idpi, et regroupés ensuite dans un ouvrage de synthèse.

Note de 2020 :

Ce travail d’analyse et d’étude du « hate speech » a été mobilisé lors de la vague d’attentats qu’a traversée la France, notamment en lien avec le sociologue Joël Gombin.

Forte de ce corpus de connaissance, Idpi (devenue Civic Fab) a engagé une travail de lutte contre la haine en ligne, en créant notamment la plateforme What the fake.