evidoria

← Volver al listado

Buena práctica Importada

Las Auditorías Recurrentes de Algoritmos del Tribunal de Cuentas de los Países Bajos — un Modelo de Supervisión Gubernamental para la IA del Sector Público

Países Bajos · The Hague · Ver el perfil de Países Bajos · Ver el perfil de The Hague

Evidencia: Observacional / pre-post Top 1% 93/100 · Pregunte a Evidence Copilot sobre esta práctica

El Tribunal de Cuentas neerlandés auditó 9 algoritmos gubernamentales en 2022; solo 3 cumplían los requisitos básicos. Después convirtió la auditoría de algoritmos en parte recurrente de sus auditorías anuales hasta 2024, práctica ya citada por otras instituciones.

3 of 9 algorithms audited
Algoritmos que cumplieron todos los requisitos básicos evaluados (2022)
9 algorithms
Algoritmos auditados en la revisión inicial (2022)
3 algorithms
Nuevos algoritmos de predicción de riesgo auditados (2024 accountability audit)
Las Auditorías Recurrentes de Algoritmos del Tribunal de Cuentas de los Países Bajos — un Modelo de Supervisión Gubernamental para la IA del Sector Público

Detalles

Madurez
Consolidada
Promotor
Netherlands Court of Audit (Algemene Rekenkamer)
Período
2021–2024
Región (NUTS)
NL36
Palabras clave
public sector oversight, algorithmic accountability, government audit

Contexto

El Tribunal de Cuentas de los Países Bajos (Algemene Rekenkamer), la institución superior de auditoría independiente del país, publicó 'An Audit of Algorithms' el 18 de mayo de 2022, evaluando nueve algoritmos utilizados por distintos organismos del gobierno neerlandés frente a un marco estructurado que abarca gobernanza, calidad del modelo, calidad de los datos y controles generales de TI.

Objetivos

Evaluar si los algoritmos gubernamentales cumplen los requisitos básicos de gobernanza, calidad del modelo, calidad de los datos y controles generales de TI, e institucionalizar la auditoría de algoritmos como un elemento recurrente de la supervisión del Tribunal sobre el gobierno central.

Actividades

El Tribunal auditó nueve algoritmos en su informe de 2022; cubrió algoritmos de los Ministerios de Justicia y Seguridad y de Asuntos Sociales y Empleo en sus resultados de 2022 publicados en 2023; y auditó tres nuevos algoritmos de predicción de riesgo en distintos organismos gubernamentales en su auditoría de rendición de cuentas de 2024.

Resultados

Solo tres de los nueve algoritmos cumplieron todos los requisitos básicos evaluados; los otros seis mostraron deficiencias que van desde un monitoreo de rendimiento inadecuado hasta riesgos de sesgo, exposición a filtraciones de datos e insuficiente control sobre accesos no autorizados. El enfoque y las conclusiones han sido referenciados internacionalmente, incluso en un boletín de 2025 del EUROSAI IT Working Group, y el marco de auditoría del Tribunal ha sido utilizado por investigadores externos para reexaminar sistemas específicos de perfilado de riesgo del gobierno.

Conclusiones

Se trata de una práctica de gobernanza/supervisión y no de una herramienta de IA desplegada directamente para los ciudadanos. Se incluye como sólida evidencia de un mecanismo institucional replicable y sostenido para exigir responsabilidad a la IA del sector público, aunque las conclusiones de 2022 fueron mayormente críticas con los algoritmos auditados.

Implementación
Coste indicativo
Bajo (< 50 000 €)
Tiempo hasta resultados
Largo (> 3 años) — Recurring annual audits: 2022 (9 algorithms), 2023 results covering the Ministries of Justice and Security and of Social Affairs and Employment, 2024 (3 further risk-prediction algorithms).
Personal y competencias
Netherlands Court of Audit (Algemene Rekenkamer) audit teams applying a structured framework covering governance, model quality, data quality, and IT-general controls

Condiciones para el éxito

  • Institutionalising algorithm audits as a recurring element of the annual accountability audit rather than a one-off review
  • Publishing full audit findings and methodology for public and international scrutiny

Modos de fallo comunes

  • Six of nine audited algorithms showed gaps ranging from inadequate performance monitoring to bias risks, data-leak exposure and insufficient control over unauthorised access

Habitualmente financiado por

National / regional programmes

Vías de financiación indicativas para prácticas de este tipo: compruebe siempre las convocatorias vigentes y las reglas de elegibilidad de cada programa.

Kit de replicación

Artefactos reutilizables de esta práctica — tal como los publican sus fuentes.

¿Usted implementa esta práctica? Reivindíquela — los implementadores verificados obtienen un contacto público en la página y pueden proponer correcciones.

Fuentes de datos

De dónde se obtuvo la información de esta práctica, y cuándo.

Adjuntos

Prácticas similares que pueden serle útiles