1. médialab Sciences Po
  2. Activités
  3. AI4AD: AI for Augmented Deliberation

AI4AD: AI for Augmented Deliberation

Comment les systèmes d'IA post-génératifs peuvent-ils améliorer la délibération et la prise de décision collective ?

Recherche

Résumé du projet

La démocratie participative est souvent considérée comme un remède possible pour lutter contre la défiance croissante des citoyens vis-à-vis de nos représentants. Cependant, l'avènement de dispositifs démocratiques expose les citoyens à des problèmes tels que la participation déséquilibrée, le coût de l'organisation de consultations à grande échelle, etc. Si la perspective de processus décisionnels délibératifs et collectifs améliorés par l'IA ne s'est pas encore pleinement concrétisée, l'émergence de grands modèles linguistiques est perçue comme une chance d'élargir la participation, de faciliter la délibération, de suggérer des terrains d'entente ou de déduire des préférences non exprimées. À l'inverse, l'utilisation des technologies d'IA dans des contextes aussi sensibles présente également des risques en raison des biais inhérents à leurs réponses et de leur exploitation potentielle à des fins de manipulation des décisions, ce qui remet en question les hypothèses fondamentales des cadres classiques.

L'objectif de ce projet est donc d'explorer comment les systèmes d'IA post-génératifs peuvent améliorer la délibération et la prise de décision collective, afin de promouvoir des politiques équitables et collectivement acceptables. L'objectif est de concevoir des mécanismes et des outils d'IA pouvant être utilisés dans les processus démocratiques délibératifs, et d'évaluer expérimentalement et d'apprécier leur intérêt réel à différentes échelles et dans différents contextes (par exemple, assemblées civiques, plateformes délibératives en ligne, négociations internationales ou locales, etc. Pour atteindre cet objectif, nous envisageons une combinaison :

  • D'approches descriptives, basées soit sur des approches quantitatives massives soit sur des études locales situées. L'objectif est d'analyser et de visualiser comment les gens délibèrent réellement et émettent des alertes précoces sur les risques potentiels de manipulation ou de coercition (cartographie des controverses, dynamique des coalitions, diagnostic de l'influence entre les personnes, etc.) ;
  • D'approches descriptives-normatives basées sur des simulations multi-agents, permettant de faire fonctionner in silico des systèmes complexes basés sur des comportements validés empiriquement, et de tester des scénarios contrefactuels ;
  • D'approches normatives basées sur des modèles idéalisés, qui explorent les propriétés des mécanismes de délibération et de décision collective. Plus précisément, le choix social computationnel, l'argumentation formelle, l'aide à la décision multicritères et l'apprentissage des préférences offrent une gamme de nouvelles techniques pour concevoir des mécanismes dont les propriétés souhaitables sont théoriquement garanties. Nous avons l'intention d'expérimenter ces cadres délibératifs augmentés par l'IA dans diverses situations réelles.

Financement du projet

Ce projet est financé par l'ANR (France 2003).

Institutions partenaires

LIPS6 (Sorbonne Université), Nukk.AI, CESE