evidoria

← Voltar à navegação

Boa prática Importada

Chatbots Municipais Testados — uma Auditoria Independente Revela que os Chatbots de IA das Câmaras Neerlandesas Só Respondem Corretamente a 1 em Cada 10 Perguntas

Países Baixos · The Hague · Ver o perfil de Países Baixos · Ver o perfil de The Hague

Evidência: Observacional / pré-pós Top 88% 33/100 · Pergunte a Evidence Copilot sobre esta prática

Uma auditoria independente a 39 chatbots municipais neerlandeses apurou que só 10% das perguntas tiveram resposta certa, com 64% erradas e erros idênticos nos cerca de 30 municípios que partilham o chatbot 'Gem'; a VNG admitiu que 'não são produtos acabados'.

39
Chatbots municipais testados (2nd edition, Dec 2025-Feb 2026)
8
Perguntas por chatbot
312
Total de trocas de pergunta-resposta
64 %
Respostas erradas
23 %
Respostas que devolveram apenas uma hiperligação
10 %
Respostas corretas
3 %
Sem resposta produzida
0 of 39
Chatbots que responderam corretamente à pergunta sobre recolha de resíduos
~30
Municípios que partilham o chatbot ‘Gem’
at most 10 of 39
Chatbots estimados como genuinamente alimentados por um LLM
Chatbots Municipais Testados — uma Auditoria Independente Revela que os Chatbots de IA das Câmaras Neerlandesas Só Respondem Corretamente a 1 em Cada 10 Perguntas

Detalhes

Maturidade
Consolidada
Promotor
Independent researchers Wiep Hamstra and Jules Ernst; response from VNG (Vereniging van Nederlandse Gemeenten) and the Ministry of the Interior and Kingdom Relations (BZK)
Período
Fieldwork December 2025 - early February 2026; published 9 March 2026 (second annual edition; first edition June 2025)
Palavras-chave
chatbots, citizen services, digital accessibility, government oversight, generative AI evaluation

Contexto

Desde junho de 2025, os investigadores independentes Wiep Hamstra e Jules Ernst têm conduzido uma auditoria não financiada aos chatbots municipais implementados pelas autarquias neerlandesas, na sequência de indícios iniciais de que estas ferramentas, comercializadas como IA, poderiam não ter o desempenho anunciado.

Objetivos

Testar de forma sistemática e repetível a exatidão com que os chatbots municipais respondem a perguntas reais dos cidadãos, e acompanhar se o desempenho melhora ao longo do tempo.

Atividades

Na segunda edição (trabalho de campo entre dezembro de 2025 e início de fevereiro de 2026, publicada a 9 de março de 2026), os investigadores testaram 39 chatbots municipais com as mesmas oito perguntas de cidadãos cada — uma combinação de questões de serviços de rotina (recolha de monstros/objetos volumosos, situação de licenças) e questões relacionadas com eleições (substituição de um cartão de eleitor perdido) —, num total de 312 trocas de pergunta-resposta.

Resultados

Os resultados mantiveram-se, no essencial, inalterados face à primeira edição: 64% das respostas estavam erradas, 23% devolveram apenas uma hiperligação (frequentemente para uma página sem a resposta), 10% estavam corretas e 3% não produziram qualquer resposta. Nenhum dos 39 chatbots respondeu corretamente, sem ajuda, a uma pergunta básica sobre recolha de resíduos domésticos. Os investigadores estimam que, no máximo, 10 das 39 ferramentas são efetivamente alimentadas por um modelo de linguagem; a maioria assenta em pares de pergunta-resposta pré-programados e mantidos manualmente. Como quase 30 municípios licenciam o mesmo produto de chatbot ‘Gem’, respostas erradas idênticas propagam-se simultaneamente por todos eles.

Conclusões

A VNG, a associação que representa os municípios neerlandeses, reconheceu publicamente os resultados, afirmando que os novos chatbots de IA “ainda não são produtos acabados” e que a qualidade dos dados determina se um bot dá uma resposta desatualizada ou alucinada; observou ainda que os chatbots reduziram o volume dos call centers, uma afirmação que a auditoria não testou de forma independente. Enquanto verificação recorrente, metodologicamente consistente e conduzida de forma independente sobre uma ferramenta de IA de utilização pública amplamente implementada, a auditoria constitui um caso raro de responsabilização rigorosa em matéria de IA municipal — ainda que o que evidencia seja, sobretudo, o falhanço, e não o sucesso.

Implementação

Custo indicativo
Baixo (< 50 mil €)
Tempo até resultados
Médio (1–3 anos) — First edition published June 2025; second edition fieldwork December 2025-early February 2026, published 9 March 2026.
Equipa e competências
Conducted by two independent researchers, Wiep Hamstra (communications) and Jules Ernst (digital accessibility), on an unfunded basis, VNG (association of Dutch municipalities) and the Ministry of the Interior and Kingdom Relations (BZK) responded publicly but did not run the audit themselves

Condições de sucesso

  • Standardised set of eight citizen questions applied identically across all 39 chatbots, repeated for a second consecutive year for comparability
  • Findings made public with named methodology, enabling accountability pressure on municipalities and the shared 'Gem' platform vendor

Modos de falha comuns

  • 64% of the 312 tested answers were wrong, 23% returned only a (often unhelpful) hyperlink, 3% produced no response, and only 10% were correct
  • Not one of the 39 chatbots correctly answered a basic household waste-collection question unaided
  • At most 10 of 39 tools are estimated to actually be powered by a language model; most rely on hand-maintained scripted Q&A pairs, so the 'AI chatbot' framing overstates the underlying technology
  • Because nearly 30 municipalities license the same shared 'Gem' chatbot, identical wrong answers propagate across all of them simultaneously
  • VNG itself acknowledged the tools are 'still no finished products' and that data-quality gaps drive both outdated and hallucinated answers

Onde se enquadra

Tipo de governação
independent civil-society audit of municipal government tools
Escala
national - 39 municipalities, ~30 sharing one shared chatbot product
Nível de rendimento
high-income

Kit de replicação

Artefactos reutilizáveis desta prática — tal como publicados pelas suas fontes.

Implementa esta prática? Reivindique-a — implementadores verificados obtêm um contacto público na página e podem propor correções.

Fontes de dados

De onde foi obtida a informação desta prática, e quando.

Anexos

Práticas semelhantes que podem ser úteis