L'éthique de l'intelligence artificielle en pratique. Enjeux et limites.
Jean-Marie John-Mathews, doctorant au médialab et à l’Institut Mines-Télécom, viendra présenter les travaux réalisés dans le cadre de sa thèse en éthique de l'IA au séminaire du médialab.
Résumé
Alors que l’Intelligence Artificielle (IA) est de plus en plus critiquée en raison des enjeux éthiques qu’elle pose, un ensemble d’outils et de méthodes ont émergé ces dernières années pour la normer, tels que les algorithmes de mitigation des biais, les métriques d’équité, la génération d’explications, etc. Ces méthodes, dites de l’IA responsable, doivent s’adapter à des algorithmes qui s’alimentent de données de plus en plus granulaires, volumineuses et comportementales. Dans ce travail de recherche, Jean-Marie John-Mathews décrit comment l’IA prétend calculer le monde lui-même sans l’usage des catégories normatives que nous utilisons habituellement pour formuler des critiques. Comment normaliser une IA qui prétend justement se positionner en deçà des normes ? Pour répondre à cette question, Jean-Marie John-Mathews a développé, à partir de la littérature technique dans la discipline de l’éthique de l’IA, un dispositif pour normer les modèles afin de faire face aux enjeux de discriminations, d’opacité et de vie privée. Ensuite, il a formulé quatre critiques empiriques et théoriques pour souligner les limites des outils techniques de l’éthique.
Premièrement, Jean-Marie John-Mathews montre les limites des méthodes de génération d’explications a posteriori de décisions émanant d’IA dites « boîte noire ».
Deuxièmement, il montre la difficulté de normer l’IA avec des méthodes d’explication libérales supposant la capacité des IA à dévoiler d’elles-mêmes leurs propres biais. Jean-Marie John-Mathews montre ensuite, en s’inspirant de la sociologie pragmatique de Boltanski, que les méthodes pour lutter contre les discriminations tendent vers un système de domination experte dans lequel l’IA modifie constamment les contours de la réalité sans offrir une prise à la critique. Enfin, il montre que l’IA s’insère plus généralement dans un mouvement d’extension diluant le rôle des institutions qui ont le pouvoir de stabiliser les critiques sociales tout en donnant une prise sur le monde. Ces quatre critiques empiriques et théoriques permettent finalement d’ajuster la première proposition pour normer l’IA. En partant d’un outil technique, Jean-Marie John-Mathews propose finalement une enquête ouverte et matérielle permettant de réactualiser constamment la question des fins et des moyens au sein des collectifs de l’IA.
Biographie
Jean-Marie John-Mathews est data scientist et doctorant en éthique algorithmique sur les impacts des algorithmes dits « éthiques by design » en intelligence artificielle. Il travaille avec le Médialab sur le projet Algoglitch (étude de la sensibilité publique aux calculs algorithmiques). Par ailleurs, il est membre coordinateur de la chaire académique Good In tech, chaire pilotée conjointement par l’Institut Mines-Télécom (IMT BS, Telecom Paris Tech, Telecom Sudparis) ainsi que Sciences Po (Ecole de Management et de l’innovation), traitant le développement et l'innovation numérique responsable. Il est également enseignant à Sciences Po en méthodes quantitatives pour les sciences sociales et à l’université PSL en mathématiques et probabilités.
Par le passé, il a travaillé trois ans en tant que data scientist dans le conseil puis l’industrie après une formation en mathématiques, économie puis philosophie.
Informations pratiques
Séminaire en ligne ouvert à tous sur inscription : s'inscrire