La auditoría algorítmica del Tribunal de Cuentas de Ámsterdam — un marco que cubría 49 de 61 riesgos, pero solo un algoritmo probado en equidad

En octubre de 2023, el Rekenkamer Metropool Amsterdam publicó «Algoritmen», una auditoría independiente de las directrices que Ámsterdam fijó para hacer sus algoritmos transparentes y responsables. Examinó tres algoritmos: un sistema de apoyo a la decisión sobre solicitudes de ayuda a autónomos (Bbz) y dos herramientas que señalan posibles infracciones relacionadas con el agua y la vivienda social.
La auditoría halló que el marco municipal abordaba 49 de los 61 riesgos identificados en gobernanza, datos y modelización, privacidad, gestión informática y ética. Concluyó que la ciudad no controlaba suficientemente sus algoritmos: la equidad se había investigado a fondo en un solo algoritmo, los controles jurídicos de privacidad seguían siendo insuficientes, los ciudadanos no recibían información clara sobre el uso de algoritmos en las decisiones que les afectan, y la organización tenía menos visibilidad de la estimada: el municipio creía usar cientos de algoritmos, pero solo 29 figuraban en el registro público en octubre de 2023.
El consejo aceptó las cinco recomendaciones el 20 de diciembre de 2023 (más salvaguardas de equidad y privacidad, un marco más coherente, un registro más completo, comunicación más clara a la ciudadanía) y pidió un plan de implementación. Es un caso de advertencia: un pionero de los registros de algoritmos demuestra que publicar un registro no garantiza por sí solo el control y que hace falta auditoría independiente. No se citan datos sobre los resultados del seguimiento.