Un contre-discours basé sur l'empathie peut réduire les discours haineux

Les discours haineux en ligne sont devenus un problème urgent dans le monde entier. Sur les réseaux sociaux, les minorités sexuelles sont vilipendées, les membres de certaines religions sont intimidés et les groupes ethniques font l'objet de discriminations. En outre, les discours haineux constituent une menace pour la démocratie, car ils peuvent empêcher celles et ceux qui sont visés de participer au débat public.

Pour modérer les commentaires haineux, de nombreuses plateformes de médias sociaux ont mis au point des filtres sophistiqués. Cependant, ceux-ci ne suffisent pas à régler le problème. Par exemple, Facebook estime (selon les documents internes divulgués en octobre 2021) ne pas être en mesure de supprimer plus de 5% des commentaires haineux publiés. En outre, les filtres automatiques sont imprécis et pourraient nuire à la liberté d'expression.

Susciter l'empathie pour les personnes concernées

Une alternative à la suppression des commentaires problématiques est l'utilisation de contre-discours ciblés. Le contre-discours est utilisé par de nombreuses organisations visant à lutter contre les discours haineux en ligne. Cependant, jusqu'à présent, on sait peu de choses sur les stratégies de contre-discours les plus efficaces pour lutter contre l'hostilité en ligne. Une équipe de recherche dirigée par Dominik Hangartner, professeur de politique publique à l'ETH Zurich, s'est associée à des collègues de l'Université de Zurich pour étudier le type de messages susceptibles d'encourager les auteur·es de discours haineux à s'abstenir de tels messages à l'avenir.

À l'aide de méthodes d'apprentissage automatique, les chercheuses et chercheurs ont identifié 1350 utilisatrices et utilisateurs anglophones de Twitter qui avaient publié des contenus racistes ou xénophobes. Ils et elles ont assigné de manière aléatoire ces comptes à un groupe de contrôle ou à l'une des trois stratégies suivantes de contre-discours souvent utilisées: messages suscitant l'empathie avec le groupe visé par le racisme, humour ou avertissement des conséquences possibles.

Les résultats, qui viennent d'être publiés dans la revue Proceedings of the National Academy of Sciences (PNAS), sont clairs: seuls les messages de contre-discours suscitant de l'empathie pour les personnes touchées par les discours haineux sont susceptibles de susciter une modification de comportement. Un exemple d'une telle réponse pourrait être le suivant: «Votre message est très douloureux à lire pour les personnes juives...». Par rapport au groupe témoin, les auteur·es de tweets haineux ont posté environ un tiers de commentaires racistes ou xénophobes en moins après une telle intervention induisant de l'empathie. En outre, la probabilité qu'un tweet haineux soit supprimé par son auteur·e a augmenté de manière significative. En revanche, les auteur·es de tweets haineux ont à peine réagi aux contre-discours humoristiques. Même un message rappelant à l'expéditeur que sa famille, ses ami·es et ses collègues pouvaient également voir ses commentaires haineux n'a pas été efficace. Ce constat est frappant car ces deux stratégies sont fréquemment utilisées par les organisations qui s'engagent à lutter contre les discours de haine.

«Nous n'avons pas trouvé la panacée contre les discours haineux sur l'internet, mais nous avons découvert des indices importants sur quelles stratégies qui peuvent fonctionner ou pas», déclare Dominik Hangartner. Il reste à étudier si toutes les réponses fondées sur l'empathie fonctionnent aussi bien ou si certains messages sont plus efficaces. Par exemple, on pourrait encourager les auteur·es de discours haineux à se mettre à la place de la victime ou leur demander d'adopter une perspective analogue («Comment vous sentiriez-vous si les gens parlaient de vous comme ça ?»).

Combinerenseignement et recherche

Aux côtés des professeur·es Karsten Donnay et Fabrizio Gilardi du Digital Democracy Lab de l'Université de Zurich, 13 étudiantes et étudiants en master du Centre d'études comparatives et internationales (CIS) de l'ETH Zurich ont également été fortement impliqué·es dans le projet. Ils et elles ont participé à toutes les phases du projet, du développement d'un algorithme pour détecter les tweets haineux, au test des stratégies sur Twitter, en passant par l'analyse statistique et la gestion du projet. «Pour moi, ce nouveau type de séminaire collaboratif illustre une forme d'éducation qui équipe les étudiantes et étudiants non seulement d'outils importants pour la science des données et les sciences sociales, mais aussi pour l'éthique de la recherche. Mon espoir est que cette éducation pratique leur permette d'avoir un impact positif dans le domaine de la numérisation et des médias sociaux», déclare Dominik Hangartner.

Les étudiantes et étudiants concernés sont du même avis. «Nous ne nous sommes pas contentés de lire des articles sur les recherches des autres, nous savons maintenant comment fonctionne un grand projet de recherche», explique Laurenz Derksen. «Bien qu'il y ait eu beaucoup de travail, cette expérience a allumé un feu en moi et m'a donné envie d'une recherche ambitieuse et collaborative», poursuit-il.

Buket Buse Demirci, aujourd'hui doctorante, estime que le projet a dépassé de loin le cadre normal des séminaires. Elle cite en exemple le plan de préanalyse: l'enregistrement public de chaque étape de la recherche avant le début de l'expérience, ce qui accroît la crédibilité des analyses statistiques ainsi que la fiabilité des résultats. Un autre facteur de motivation, dit-elle, est que les 13 étudiantes et étudiants figurent tous comme coauteur·es de l'étude détaillant les résultats, qui est publiée dans l'une des plus prestigieuses revues scientifiques interdisciplinaires. «J'ai contribué à une étude qui a non seulement été publiée dans une revue scientifique, mais qui pourrait aussi avoir un impact dans le monde réel», déclare Buket Buse Demirci.

Applications pratiques à travers les ONG et les médias

Dominik Hangartner est conscient que ce type de recherche, intégré à un séminaire, peut parfois donner des résultats nuls. Mais l'expérience est en tout cas précieuse pour les étudiantes et étudiants, dit-il. Elle peut les aider à anticiper ce qui les attend s'ils et elles se lancent dans des études de doctorat et leur permet d'acquérir une expérience pratique de la recherche, ce qui est un atout pour de nombreuses carrières dans le monde universitaire et en dehors.

Le séminaire de recherche collaborative s'inscrit dans le cadre d'un projet plus global visant à développer des algorithmes de détection des discours haineux, ainsi qu'à tester et à affiner d'autres stratégies de contre-discours. À cette fin, l'équipe de recherche collabore avec l'organisation faîtière suisse des femmes Alliance F, qui a lancé le projet de société civile Stop Hate Speech. Grâce à cette collaboration, les scientifiques sont en mesure de mettre directement en pratique les résultats de leurs recherches et de fournir une base empirique à Alliance F pour optimiser la conception et le contenu de ses messages de contre-discours.

«Les résultats de la recherche me rendent très optimiste. Pour la première fois, nous disposons de preuves expérimentales qui démontrent l'efficacité des contre-discours dans des conditions réelles», déclare Sophie Achermann, directrice exécutive d'Alliance F et co-initiatrice de Stop Hate Speech. Les entreprises de médias Ringier et TX Group, par l'intermédiaire de leurs journaux Blick et 20 Minuten respectivement, ont également participé au projet de recherche, qui a été parrainé par l'agence suisse pour l'innovation Innosuisse.