1. médialab Sciences Po
  2. News
  3. Les discours de haine sur Youtube passés au crible

Les discours de haine sur Youtube passés au crible

Dans le cadre d'une seconde collaboration avec la Commission Nationale Consultative des Droits de l'Homme, une équipe du médialab s'est à nouveau penchée sur les méthodes de détection automatique des discours de haine sur YouTube.

Post

La Commission nationale consultative des droits de l’homme (CNCDH) a été nommée Rapporteur national indépendant sur la lutte contre le racisme sous toutes ses formes en 1990. Chaque année, elle remet au Gouvernement un rapport qui dresse un état des lieux du racisme, de l’antisémitisme et de la xénophobie en France, ainsi que des moyens de lutte mis en oeuvre par les institutions de la République et la société civile.

Rapport 2022 sur la lutte contre le racisme, l'antisémitisme et la xénophobie

Le nombre de faits recensés à caractère raciste, antisémites et xénophobes se maintient à un niveau élevé. Bien que le baromètre CNCDH témoigne cette année du maintien d’un haut niveau de tolérance parmi la population française, la lutte contre le racisme, l’antisémitisme et la xénophobie est plus que jamais d’actualité.

Focus #1 : Rejet de l’Autre : combattre les instrumentalisations politiques

L’année 2022 a été marquée par le franchissement d’un seuil dans la façon dont les thématiques racistes, antisémites et xénophobes s’expriment dans le débat politique et médiatique. Dans un contexte de crise politique, sociale, économique et identitaire, un certain nombre de personnalités politiques ont activement participé de la politisation du rejet de l’Autre, figure mouvante aux visages multiples. Pourtant l’indice de tolérance du baromètre CNCDH indique que, depuis plusieurs années, les préjugés et les sentiments de haine à l’égard de l’Autre ont tendance à s’atténuer. Ce paradoxe est exploré à travers l’étude des discours qui cherchent à faire de l’Autre le responsable de tous les maux et dont l’instrumentalisation politique contribue à transformer des crispations identitaires en politiques d’exclusion.

Focus #2 : Les discours de haine sur la plateforme YouTube

Cette enquête, confiée à une équipe interdisciplinaire de chercheurs (médialab de Sciences po et Laboratoire Interdisciplinaire Sciences, Innovations, Sociétés [LISIS]), élargit le champ de l’étude sur l’empreinte antisémite dans les commentaires YouTube, publiée par la CNCDH en 2020, en incluant d’autres registres de la haine en ligne : racisme, hostilité à l’égard des personnes musulmanes et de l’islam, complotisme et masculinisme.

La contribution du médialab

Travaillant sur un corpus de départ de 35 millions de commentaires laissés sur YouTube, et sur un périmètre d'environ 1000 chaînes, l'équipe a construit un détecteur de discours de haine semi-supervisé. À partir d'une liste de mots-clés et d'un assemblage algorithme capable d'évaluer la toxicité des discours, la méthode permettait de repérer la concentration dans certains territoires de YouTube, de discours antisémites, racistes, hostiles aux musulmans et à l'Islam.

Les conclusions, cette année encore, font état d'une forte prévalence de ces discours au sein des chaînes liés à la droite radicale et à la "manosphère", se greffant parfois sur des vidéos aussi diverses que des vidéos de sport, de gastronomie ou de tourisme. L'inventivité de ces discours et la grande variabilité des thèmes dont ils peuvent se saisir, pour incriminer des communautés sur des critères ethniques ou religieux, a notamment suscité l'attention de l'équipe de recherche. On trouve également de grandes porosités entre ces formes discursives, certaines passerelles entre contenus antisémites et contenus islamophobes étant établies par des généralisations assimilées à des théories du complot.

Retrouvez l’intégralité du rapport en ligne.

Iframe https://www.rts.ch/play/embed/?urn=urn:rts:audio:14144269