La Machine de Habermas — le médiateur IA de Google DeepMind pour une délibération à la manière des assemblées citoyennes

Google DeepMind, en collaboration avec l'Université d'Oxford et la Sortition Foundation, organisatrice d'assemblées citoyennes, a mis au point la 'Machine de Habermas' : un système fondé sur un grand modèle de langage, entraîné pour arbitrer des délibérations politiques en petits groupes en rédigeant des déclarations collectives qui synthétisent les opinions et les raisons individuelles des participants.

Dans une étude publiée dans Science (octobre 2024), 5 734 participants britanniques ont été répartis en petits groupes (de cinq à six personnes) pour débattre de sujets clivants — Brexit, immigration, salaire minimum, changement climatique et garde d'enfants universelle — en comparant des déclarations de groupe rédigées par l'IA à celles rédigées par des médiateurs humains.

Les déclarations de groupe rédigées par l'IA ont été préférées à celles des médiateurs humains dans 56 % des cas, et ont été mieux notées par des juges indépendants en termes de qualité, de clarté, de contenu informatif et d'équité perçue. Les groupes ayant délibéré avec le médiateur IA ont également convergé davantage vers des positions communes — un effet qui ne s'est pas produit lorsque les mêmes groupes échangeaient directement, sans médiation.

Le système ne peut actuellement ni vérifier les faits, ni maintenir la discussion sur le sujet, ni modérer lui-même la conversation, et des éthiciens ayant examiné l'étude (comme Joongi Shin) ont exprimé des inquiétudes quant au fait que les participants n'aient pas été explicitement informés qu'une IA générait les déclarations qui leur étaient présentées (les formulaires de consentement mentionnaient des 'algorithmes' de façon générale). DeepMind a indiqué ne pas avoir prévu de rendre le système public, de sorte que son adoption par des gouvernements au-delà de futures études académiques et pilotes reste non testée.