1. médialab Sciences Po
  2. Actualités
  3. Tasks, or Natural Language Processing’s other Black Box

Tasks, or Natural Language Processing’s other Black Box

Pour le prochain séminaire du médialab, Gabriella Chronis, sémioticienne computationnelle, explorera les présupposés idéologiques qui sous-tendent le traitement automatique du langage naturel (TAL), en s'intéressant notamment à la manière dont la notion de « toxicité » a été définie et opérationnalisée dans le cadre de la modération automatisée des contenus.

Rendez-vous, Séminaire de recherche

⇥

Salle K.008, 1 Place St-Thomas d'Aquin, 75007 Paris

Résumé

Tout instrument de mesure inclut certains éléments d’un cadre et en révèle d’autres ; tout système d’annotation repose sur une théorie de ce qui compte dans la construction du sens. Le problème de la recherche en traitement automatique du langage naturel (TAL) n’est pas l’idéologie, mais son invisibilité : l’idée d’un modèle impartial confond les orientations idéologiques d’une communauté avec leur absence. Appliquée aux archives du TAL, la sémantique distributionnelle permet de rendre ces orientations visibles et de comprendre comment les outils de la discipline influencent les significations idéologiques de ce qu’ils mesurent, tout en étant influencés par elles.

La collecte de données pour l’apprentissage automatique est souvent considérée comme une démocratisation du sens. Par exemple, la modération automatisée repose sur des jeux de données participatifs concernant le « langage toxique ». Ces jugements de locuteurs natifs servent à entraîner des algorithmes chargés d’identifier les discours indésirables. Pourtant, la signification de la « toxicité » dépend aussi de la manière dont les tâches d’annotation s’inscrivent dans les discours scientifiques. Cette présentation retracera une généalogie latourienne de la détection de la toxicité, de son émergence à sa reconnaissance comme tâche standard de l’apprentissage automatique, montrant comment chaque communauté discursive imprime ses propres orientations idéologiques au terme.

Bien que cette approche réduise la toxicité à une « substance toxique » (le texte), les discours scientifiques mobilisent un cadre métaphorique plus large. En se concentrant uniquement sur cette substance, ils conservent implicitement le pouvoir de définir les autres rôles, notamment la « source » et la « victime », sans interroger le rôle des plateformes dans les préjudices causés par les discours.

Pour compléter cette généalogie critique, je présenterai une analyse distributionnelle du mot « toxic » dans la littérature en TAL. Comparés à un corpus d’anglais américain standard, ses usages en TAL activent principalement les caractéristiques sémantiques associées à la substance, plutôt qu’aux autres rôles du cadre conceptuel de la TOXICITÉ. Inspirée de la sémiotique dynamique de M. V. Volochinov, cette analyse considère les modèles distributionnels comme des artefacts idéologiques. Contrairement à de nombreuses critiques des biais, elle soutient que les artefacts du TAL ne peuvent être moins idéologiques.

Biographie

Gabriella Chronis est sémioticienne computationnelle. Ses recherches portent sur les enjeux politiques de l'intelligence artificielle ainsi que sur le développement d'une sémantique lexicale computationnelle qui envisage le sens comme un phénomène dynamique, pragmatique, situé et sujet à contestation.

Sa thèse, intitulée « NLP as Language Ideology: Discourse and Distribution », a bénéficié du soutien du programme de bourses doctorales de la National Science Foundation (NSF Graduate Research Fellowship Program) et a reçu le Dean's Distinguished Graduate Award de l'Université du Texas à Austin.

Elle travaille actuellement avec des organisations du centre du Texas pour s'opposer à l'expansion des centres de données qui menacent la région et le climat.

Informations pratiques

Date : 20 octobre 2026

Horaire : 14h00 – 15h30

Lieu : Salle K.008, 1 Place St-Thomas d'Aquin, 75007 Paris 

Langue : Anglais

Inscription obligatoire via ce formulaire.