evidoria

← Retour à la liste

Bonne pratique Importée

Les audits récurrents d'algorithmes de la Cour des comptes néerlandaise — un modèle de contrôle public de l'IA dans le secteur public

Pays-Bas · The Hague · Voir le profil de Pays-Bas · Voir le profil de The Hague

Preuves: Observationnel / avant-après Top 1% 93/100 · Demandez à Evidence Copilot à propos de cette pratique

La Cour des comptes néerlandaise a audité 9 algorithmes gouvernementaux en 2022 ; seuls 3 respectaient les exigences de base. Elle a ensuite intégré l'audit d'algorithmes à ses audits annuels jusqu'en 2024, pratique déjà citée par d'autres institutions.

3 of 9 algorithms audited
Algorithmes ayant satisfait à toutes les exigences de base testées (2022)
9 algorithms
Algorithmes audités lors de l'examen initial (2022)
3 algorithms
Nouveaux algorithmes de prédiction de risque audités (2024 accountability audit)
Les audits récurrents d'algorithmes de la Cour des comptes néerlandaise — un modèle de contrôle public de l'IA dans le secteur public

Détails

Maturité
Établie
Promoteur
Netherlands Court of Audit (Algemene Rekenkamer)
Période
2021–2024
Région (NUTS)
NL36
Mots-clés
public sector oversight, algorithmic accountability, government audit

Contexte

La Cour des comptes des Pays-Bas (Algemene Rekenkamer), l'institution supérieure d'audit indépendante du pays, a publié 'An Audit of Algorithms' le 18 mai 2022, évaluant neuf algorithmes utilisés par différents organismes du gouvernement néerlandais au regard d'un cadre structuré couvrant la gouvernance, la qualité du modèle, la qualité des données et les contrôles généraux informatiques.

Objectifs

Évaluer si les algorithmes gouvernementaux répondent aux exigences de base en matière de gouvernance, de qualité du modèle, de qualité des données et de contrôles généraux informatiques, et institutionnaliser l'audit des algorithmes comme élément récurrent de la supervision exercée par la Cour sur l'administration centrale.

Activités

La Cour a audité neuf algorithmes dans son rapport de 2022 ; elle a couvert des algorithmes des ministères de la Justice et de la Sécurité et des Affaires sociales et de l'Emploi dans ses résultats 2022 publiés en 2023 ; et a audité trois nouveaux algorithmes de prédiction de risque dans différents organismes gouvernementaux lors de son audit de responsabilité 2024.

Résultats

Seuls trois des neuf algorithmes ont satisfait à toutes les exigences de base testées ; les six autres présentaient des lacunes allant d'une surveillance des performances inadéquate à des risques de biais, une exposition aux fuites de données et un contrôle insuffisant des accès non autorisés. L'approche et les conclusions ont été citées à l'international, notamment dans une newsletter 2025 du EUROSAI IT Working Group, et le cadre d'audit de la Cour a été utilisé par des chercheurs externes pour réexaminer des systèmes spécifiques de profilage des risques du gouvernement.

Conclusions

Il s'agit d'une pratique de gouvernance/supervision plutôt que d'un outil d'IA déployé directement pour les citoyens. Elle est incluse comme preuve solide d'un mécanisme institutionnel reproductible et durable permettant de rendre l'IA du secteur public redevable, même si les conclusions de 2022 étaient largement critiques envers les algorithmes audités.

Mise en œuvre
Coût indicatif
Faible (< 50 k€)
Délai jusqu’aux résultats
Long (> 3 ans) — Recurring annual audits: 2022 (9 algorithms), 2023 results covering the Ministries of Justice and Security and of Social Affairs and Employment, 2024 (3 further risk-prediction algorithms).
Personnel et compétences
Netherlands Court of Audit (Algemene Rekenkamer) audit teams applying a structured framework covering governance, model quality, data quality, and IT-general controls

Conditions de réussite

  • Institutionalising algorithm audits as a recurring element of the annual accountability audit rather than a one-off review
  • Publishing full audit findings and methodology for public and international scrutiny

Modes d’échec courants

  • Six of nine audited algorithms showed gaps ranging from inadequate performance monitoring to bias risks, data-leak exposure and insufficient control over unauthorised access

Habituellement financé par

National / regional programmes

Pistes de financement indicatives pour des pratiques de ce type — vérifiez toujours les appels en cours et les règles d'éligibilité de chaque programme.

Kit de réplication

Artefacts réutilisables de cette pratique — tels que publiés par leurs sources.

Vous portez cette pratique ? Revendiquez-la — les porteurs vérifiés obtiennent un contact public sur la page et peuvent proposer des corrections.

Sources de données

D'où proviennent les informations de cette pratique, et quand.

Pièces jointes

Pratiques similaires qui pourraient vous être utiles