La Máquina de Habermas — el mediador de IA de Google DeepMind para la deliberación al estilo de asambleas ciudadanas

Google DeepMind, en colaboración con la Universidad de Oxford y la organizadora de asambleas ciudadanas Sortition Foundation, desarrolló la 'Máquina de Habermas': un sistema basado en un gran modelo de lenguaje, entrenado para mediar en deliberaciones políticas en grupos pequeños redactando declaraciones colectivas que sintetizan las opiniones y razones individuales de los participantes.

En un estudio publicado en Science (octubre de 2024), 5.734 participantes del Reino Unido se organizaron en grupos pequeños (de cinco a seis personas) para debatir temas divisivos —el Brexit, la inmigración, el salario mínimo, el cambio climático y el cuidado infantil universal—, comparando declaraciones de grupo redactadas por IA con las escritas por mediadores humanos.

Las declaraciones de grupo redactadas por IA fueron preferidas frente a las de mediadores humanos en el 56% de los casos, y recibieron calificaciones más altas por parte de jueces independientes en cuanto a calidad, claridad, valor informativo y equidad percibida. Los grupos que deliberaron con el mediador de IA también convergieron más hacia posiciones comunes, un efecto que no se produjo cuando los mismos grupos intercambiaron opiniones directamente, sin mediación.

El sistema actualmente no puede verificar hechos, mantener la discusión centrada en el tema ni moderar la conversación por sí mismo, y algunos especialistas en ética que revisaron el estudio (como Joongi Shin) plantearon preocupaciones porque no se informó explícitamente a los participantes de que un sistema de IA estaba generando las declaraciones que se les presentaban (los formularios de consentimiento mencionaban 'algoritmos' de forma genérica). DeepMind ha declarado que no tiene planes de publicar el sistema, por lo que su adopción gubernamental más allá de futuros estudios académicos y pilotos sigue sin comprobarse.