1. médialab Sciences Po
  2. Activities
  3. Algoglitch

Algoglitch

How do we want to be calculated? A Public sensitivity to algorithmic computation

Les algorithmes ont-ils pris la commande de nos sociétés, comme il se dit beaucoup aujourd’hui ? Peut-on résister à leur emprise et leur opposer d’autres manières de guider et de calculer ?

Research

De suite d'instructions traduites en langage informatique aux récents développements de l’IA, les “algorithmes” ont été investis d’un sens bien différent depuis qu'ils sont devenus des compagnons quotidiens de nos activités en ligne, et influencent notre vie économique, sociale et politique. Vastes assemblages socio-techniques de données, de plateformes et de calculs, ils reconfigurent nos activités et concentrent un pouvoir dont il est parfois difficile de saisir la nature. 

Par l'intermédiaire d'une méthodologie interdisciplinaire croisant sciences sociales et design, nous reprenons le terme de glitch et convoquons différents imaginaires qui lui sont associés pour désigner un bref moment où l’algorithme produit un résultat qui trouble les attentes de l’utilisateur et les hypothèses qu’il peut faire sur son fonctionnement. La figure du glitch permet de convoquer un imaginaire alternatif qui rééquilibre la relation entre intelligence humaine et intelligence artificielle et offrir des prises possibles pour des micro-opérations critiques. Quelles sont les situations qui font « problème » et celles qui ne le font pas ? Sur la base de quelles normes ou de quels principes peut-on qualifier un calcul de « normal » (juste, équilibré, sincère, etc.) et d’autres de « problématiques » (injustes, déséquilibrées, trompeurs, discriminatoires) ?

Les moments de tension avec les technologies de calcul permettent de rendre compte de l'expérience des utilisateurs calculés par les algorithmes, et poser les bases d'une éthique de la négociation avec l’agentivité algorithmique et ainsi tenter de comprendre la manière dont nous voulons individuellement et collectivement être calculés ? 

Projets de l'axe "Algoglitch"

Enquête sur les situations Algorithmiques 

Ce projet s'intéresse aux situations de négociations entre utilisateurs et technologies de calcul et aux effets des algorithmes sur la construction des publics.Il propose d'interroger de manière située l'expérience d'être calculé, à partir de formats participatifs d'enquêtes et workshops. Par exemple, les glitchs algorithmiques expérimentés par les utilisateurs de plateformes numériques ont été discutés et mis en scène lors d’un workshop à la Gaîté lyrique.

Ride

Dans le cadre de la collaboration avec le master SPEAP et à partir d'une proposition de recherche formulée par le CNNUM, un groupe d'étudiants a investigué les effets des plateformes numériques sur le corps des individus. Plus précisément, la recherche s'est concentrée sur le processus par lequel un "livreur" devient un "rider" grâce à une série de méthodes expérimentales telles que la participation active à la livraison de biens et de nourriture, ou l'intervention active dans la modification des différents rôles des acteurs du système algorithmique. Les résultats de la recherche ont été diffusés à la fois sous forme de performances artistiques et de publications dans des revues culturelles.

COZY/FLAT

The project Cozy/Flat: A Visual Inquiry into the Private Spaces We Share explores the aesthetic of the Airbnb listings in Milan and the interface logic of the platform. It focuses on social and cultural impacts in terms of cultural homogenisation and gentrifications 

Cartographie des écosystèmes de l’IA

En mobilisant des méthodes de cartographie du Web, ce projet vise à identifier les acteurs liés à l'IA (économiques, institutionnels, recherche, ONG, etc.) et à rendre compte des structures et des logiques d'associations sur le Web. Ces cartographies sont aussi une manière d'identifier et d’accéder à des ressources textuelles émisent par ces acteurs permettant d’alimenter d’autres volets du projet.

Critique de l'IA dans la presse 

Depuis plusieurs années, les troubles liés aux calculs algorithmiques montent en visibilité dans la sphère médiatique. De nombreux articles de presse se font le relais de discours critiques, mettant en lumière les dangers et les risques de l'IA et des algorithmes, constituant progressivement la question du calcul en un problème public. 

En s'appuyant sur le traitement linguistique de plusieurs grands corpus d'articles issus de la presse et du web, constitués d'affaires médiatiques, ce projet cherche à explorer les controverses relatives à l'IA et aux algorithmes et tenter de rendre compte de la variété des principes d'acceptabilité des ces agents calculateurs dans nos sociétés. 

Arbitrage et éthique des algos

Ce projet vise à proposer une interface d’arbitrage des “dimensions éthiques” de l’IA, à savoir l’équité envers des minorités, l’interprétabilité, la protection de la vie personnelle et la performance. Il s’agit de créer un outil qui soit à la fois une réponse opérationnelle pour “paramétrer l’éthique” dès la conception de l’algorithme (ethic by design) et un support d’étude des comportements d’utilisateurs mis en situation. Contrairement aux chartes éthiques qui proposent des principes souvent trop généraux et peu opérationnalisables, cette interface opérationnelle et interactive permettra de prendre en compte la spécificité contextuelle du problème algorithmique à traiter et ses différentes dimensions éthiques. Cet outil servira de base pour construire des enquêtes de terrain ou des ateliers collectifs de mise en discussion d’une situation algorithmique problématique.

Regards calculants et calculés

Dans le cadre de la Chaire innovation publique, l’ENSCI et le médialab de Sciences Po engagent un projet de recherche-expérimentation sur l’usage des algorithmes dans des contextes d’espace public et de réseaux sociaux numériques. Ce projet mettra en scène deux domaines d’application relevant de situations algorithmiques : l'identification de personnes par reconnaissance faciale dans l'espace public et la modération de contenus en ligne par analyse d’image et de texte. Ces deux situations conjuguant opérations d’algorithmes et interventions humaines, il s’agit d’étudier les transactions, micro-négociations, chorégraphies, appropriations, qui s’y déroulent.