O Chatbot de IA no WhatsApp do Policy Innovation Lab para Dados de Prestação de Serviços Gerados pelos Cidadãos

O Policy Innovation Lab da Universidade de Stellenbosch, que colabora com a Presidência da África do Sul em IA responsável para a formulação de políticas, desenvolveu um chatbot baseado em WhatsApp que permite aos cidadãos relatar falhas na prestação de serviços públicos — como tubagens de água partidas — em linguagem natural.

A ferramenta usa o ChatGPT da OpenAI como modelo de linguagem subjacente. Depois de um cidadão reportar um problema, o sistema executa um processo de desidentificação que remove números de telefone e torna mais genéricos os dados de tempo e localização antes de o relato ser analisado. A análise de tópicos gera depois um mapa interativo que permite aos funcionários organizar relatos e comparar problemas de prestação de serviços entre distritos.

A OpenUp, uma organização independente de tecnologia cívica sul-africana, aplicou a sua própria estrutura de riscos e danos e sinalizou preocupações que o Lab documentou abertamente: o modelo subjacente pode refletir e amplificar desigualdades que afetam falantes de línguas sub-representadas, os modelos generativos podem produzir respostas confiantes mas falsas ('alucinações'), encaminhar dados dos cidadãos através do WhatsApp e de um modelo terceiro deixa o governo com controlo limitado sobre o armazenamento e processamento dos dados, e a lógica de decisão do modelo é uma 'caixa negra' difícil de responsabilizar. Foi também levantada uma questão de proporcionalidade sobre se os custos ambientais da ferramenta se justificam face aos benefícios.

Não foram publicados números de utilizadores, volume de relatos ou resolução de serviços, pelo que o caso deve ser lido como um piloto cuidadosamente auto-auditado, e não como um serviço comprovado à escala.