Auditoria aos algoritmos do Tribunal de Contas de Amesterdão — o quadro municipal cobria 49 de 61 riscos, mas só um algoritmo foi testado quanto à equidade

Em outubro de 2023, o Rekenkamer Metropool Amsterdam publicou «Algoritmen», uma auditoria independente às orientações que Amesterdão definiu para tornar os seus algoritmos transparentes e responsáveis. Examinou três algoritmos: um sistema de apoio à decisão sobre pedidos de subsídio de trabalhadores independentes (Bbz) e duas ferramentas que sinalizam possíveis infrações relacionadas com a água e com o mercado de habitação social.
A auditoria concluiu que o quadro municipal abordava 49 de 61 riscos identificados em governação, dados e modelação, privacidade, gestão de TI e ética. Concluiu que a cidade não tinha controlo suficiente dos seus algoritmos: a equidade fora analisada a fundo em apenas um algoritmo, as verificações jurídicas de privacidade eram insuficientes, os cidadãos não eram claramente informados sobre o uso de algoritmos nas decisões que lhes dizem respeito, e a organização tinha menos visibilidade do que estimara — o município acreditava utilizar centenas de algoritmos, mas só 29 constavam do registo público em outubro de 2023.
O conselho aceitou as cinco recomendações a 20 de dezembro de 2023 (salvaguardas de equidade e privacidade mais fortes, um quadro mais coerente, um registo mais completo, comunicação mais clara aos cidadãos) e pediu um plano de implementação. É um caso de alerta: um pioneiro dos registos de algoritmos mostra que publicar um registo não garante, por si só, controlo, sendo necessária auditoria independente. Não são citados dados sobre os resultados do seguimento.