L'audit algorithmique de la Cour des comptes d'Amsterdam — un cadre couvrant 49 des 61 risques, mais un seul algorithme testé pour l'équité

En octobre 2023, le Rekenkamer Metropool Amsterdam a publié « Algoritmen », un audit indépendant des lignes directrices fixées par Amsterdam pour rendre ses algorithmes transparents et responsables. Il a examiné trois algorithmes : un système d'aide à la décision pour les demandes d'aide aux indépendants (Bbz) et deux outils signalant d'éventuelles infractions liées à l'eau et au logement social.
L'audit a constaté que le cadre municipal traitait 49 des 61 risques identifiés en matière de gouvernance, de données et de modélisation, de vie privée, de gestion informatique et d'éthique. Il conclut que la ville maîtrisait insuffisamment ses algorithmes : l'équité n'avait été étudiée en profondeur que pour un seul algorithme, les contrôles juridiques de protection de la vie privée restaient insuffisants, les citoyens n'étaient pas clairement informés de l'usage des algorithmes dans les décisions les concernant, et l'organisation avait moins de visibilité que prévu — la municipalité pensait utiliser des centaines d'algorithmes, mais seuls 29 figuraient au registre public en octobre 2023.
Le conseil a accepté les cinq recommandations le 20 décembre 2023 (garanties renforcées en matière d'équité et de vie privée, cadre plus cohérent, registre plus complet, communication plus claire envers les citoyens) et a demandé un plan de mise en œuvre. C'est un cas d'alerte : un pionnier des registres d'algorithmes montre que publier un registre ne garantit pas à lui seul la maîtrise, et qu'un audit indépendant est nécessaire. Aucun résultat du suivi n'est cité.