A Máquina de Habermas — o Mediador de IA da Google DeepMind para Deliberação ao Estilo de Assembleias de Cidadãos

A Google DeepMind, em colaboração com a Universidade de Oxford e a organizadora de assembleias de cidadãos Sortition Foundation, desenvolveu a 'Máquina de Habermas': um sistema baseado em modelos de linguagem de grande escala, treinado para mediar deliberações políticas em pequenos grupos, redigindo declarações coletivas que sintetizam as opiniões e razões individuais dos participantes.

Num estudo publicado na revista Science (outubro de 2024), 5.734 participantes do Reino Unido foram organizados em pequenos grupos (de cinco a seis pessoas) para discutir temas divisivos, incluindo o Brexit, a imigração, o salário mínimo, as alterações climáticas e a assistência universal à infância, comparando declarações de grupo redigidas por IA com as escritas por mediadores humanos.

As declarações de grupo redigidas por IA foram preferidas às escritas por mediadores humanos em 56% dos casos, e receberam classificações mais elevadas de juízes independentes quanto a qualidade, clareza, valor informativo e justiça percebida. Os grupos que deliberaram com o mediador de IA também convergiram mais para posições comuns — um efeito que não se verificou quando os mesmos grupos trocaram opiniões diretamente, sem mediação.

O sistema não consegue atualmente verificar factos, manter a discussão dentro do tema ou moderar a conversa por si próprio, e especialistas em ética que reviram o estudo (por exemplo, Joongi Shin) manifestaram preocupação pelo facto de os participantes não terem sido explicitamente informados de que um sistema de IA estava a gerar as declarações que lhes eram apresentadas (os formulários de consentimento mencionavam 'algoritmos' de forma genérica). A DeepMind afirmou não ter planos de disponibilizar o sistema publicamente, pelo que a adoção governamental para além de futuros estudos académicos e pilotos permanece por testar.