As Auditorias Recorrentes de Algoritmos do Tribunal de Contas dos Países Baixos — um Modelo de Supervisão Governamental para a IA no Setor Público

O Tribunal de Contas dos Países Baixos (Algemene Rekenkamer), a instituição suprema de auditoria independente do país, publicou 'An Audit of Algorithms' em 18 de maio de 2022, avaliando nove algoritmos utilizados por diferentes organismos do governo neerlandês face a um quadro estruturado que abrange governança, qualidade do modelo, qualidade dos dados e controlos gerais de TI.

Avaliar se os algoritmos governamentais cumprem os requisitos básicos de governança, qualidade do modelo, qualidade dos dados e controlos gerais de TI, e institucionalizar a auditoria de algoritmos como um elemento recorrente da supervisão do Tribunal sobre o governo central.

O Tribunal auditou nove algoritmos no seu relatório de 2022; abrangeu algoritmos dos Ministérios da Justiça e Segurança e dos Assuntos Sociais e Emprego nos resultados de 2022 publicados em 2023; e auditou três novos algoritmos de previsão de risco em diferentes organismos governamentais na sua auditoria de responsabilização de 2024.

Apenas três dos nove algoritmos cumpriram todos os requisitos básicos testados; os outros seis apresentaram lacunas que vão desde monitorização de desempenho inadequada a riscos de enviesamento, exposição a fugas de dados e controlo insuficiente sobre acessos não autorizados. A abordagem e as conclusões foram referenciadas internacionalmente, incluindo numa newsletter de 2025 do EUROSAI IT Working Group, e o quadro de auditoria do Tribunal foi utilizado por investigadores externos para reexaminar sistemas específicos de definição de perfis de risco do governo.

Trata-se de uma prática de governança/supervisão e não de uma ferramenta de IA implementada diretamente para os cidadãos. É incluída como forte evidência de um mecanismo institucional replicável e sustentado para responsabilizar a IA no setor público, mesmo que as conclusões de 2022 tenham sido largamente críticas dos algoritmos auditados.