«Van risico naar regie» de la Rekenkamer de Eindhoven — Una auditoría municipal concluye que la ciudad aún no puede desplegar algoritmos e IA con seguridad

La Rekenkamer Eindhoven, la oficina de auditoría independiente de la ciudad, encargó a la consultora PBLQ examinar cómo gobierna el municipio los algoritmos y la IA. El informe «Van risico naar regie: slimmer sturen op algoritmen en AI» (archivo de 2025) analizó tres casos: Passport for Work, el tratamiento de las declaraciones de cambio de domicilio y la herramienta de IA Echo Dembrane. Los concejales también participaron en una sesión.
Conclusión principal: Eindhoven aún no es capaz de usar algoritmos e IA de forma inteligente y segura. El resumen de PBLQ señala que no se habían adoptado marcos formales, como un código de conducta y un marco de evaluación de la IA, lo que frena decisiones y limita la experimentación; los empleados usan IA generativa sin reglas; hay atención al riesgo (por ejemplo, evaluaciones de impacto de protección de datos), pero faltan evaluación y seguimiento estructurales; y el pleno recibe poca información estructurada. La auditoría concluye que Eindhoven está al comienzo de un uso maduro de la IA.
El informe reconoce también pasos ya dados: un grupo de expertos en IA, un equipo interno de ética, un comité de ética externo y un registro interno de algoritmos. El municipio lista sus algoritmos en el registro nacional Algoritmeregister y advierte de que pueden faltar algoritmos y de que el registro se completará en los próximos años.
El pleno trató el informe en marzo de 2026. La concejala responsable aceptó cuatro recomendaciones (gobernanza de la IA, un marco de evaluación de algoritmos, un registro público de algoritmos y eficiencia), prometió al pleno un plan de acción en el segundo trimestre de 2026 y se comprometió a presentarle primero cualquier modificación del código de conducta sobre datos personales en la IA. Una carta al pleno de diciembre de 2025 informó de una fuga de datos ligada al uso de servicios públicos de IA.
Por qué importa: el caso es una referencia independiente y cautelar. Registros y órganos de ética no equivalían a control; la auditoría sitúa la brecha en normas vinculantes, seguimiento e información al pleno. Aún no hay métricas de resultados sobre si el plan cerró esas brechas, y no se revisó el texto íntegro de las recomendaciones.