«Van risico naar regie» da Rekenkamer de Eindhoven — Uma auditoria municipal conclui que a cidade ainda não consegue usar algoritmos e IA em segurança

A Rekenkamer Eindhoven, o gabinete de auditoria independente da cidade, encomendou à consultora PBLQ um estudo sobre a forma como o município gere algoritmos e IA. O relatório «Van risico naar regie: slimmer sturen op algoritmen en AI» (ficheiro de 2025) analisou três casos: Passport for Work, o tratamento de declarações de mudança de morada e a ferramenta de IA Echo Dembrane. Os vereadores participaram também numa sessão.
Conclusão principal: Eindhoven ainda não é capaz de usar algoritmos e IA de forma inteligente e segura. O resumo da PBLQ refere que quadros formais, como um código de conduta e um quadro de avaliação da IA, não estavam adotados, o que trava decisões e limita a experimentação; os trabalhadores usam IA generativa sem regras; existe atenção ao risco (por exemplo avaliações de impacto sobre a proteção de dados), mas faltam avaliação e monitorização estruturais; e o conselho municipal recebe pouca informação estruturada. A auditoria conclui que Eindhoven está no início de uma utilização madura da IA.
O relatório reconhece também passos já dados: um grupo de peritos em IA, uma equipa interna de ética, uma comissão de ética externa e um registo interno de algoritmos. O município lista os seus algoritmos no registo nacional Algoritmeregister e avisa que podem faltar algoritmos e que o registo será completado nos próximos anos.
O conselho tratou o relatório em março de 2026. A vereadora responsável aceitou quatro recomendações (governação da IA, um quadro de avaliação de algoritmos, um registo público de algoritmos e custo-eficácia), prometeu ao conselho um plano de ação no segundo trimestre de 2026 e comprometeu-se a submeter primeiro ao conselho qualquer alteração do código de conduta sobre dados pessoais em IA. Uma carta ao conselho de dezembro de 2025 relatou uma fuga de dados ligada ao uso de serviços públicos de IA.
Porque importa: o caso é uma referência independente e cautelar. Registos e órgãos de ética, por si só, não equivaleram a controlo; a auditoria encontrou a falha em regras vinculativas, monitorização e informação ao conselho. Ainda não há métricas de resultados sobre se o plano fechou essas lacunas, e o texto integral das recomendações não foi analisado.