« Van risico naar regie » de la Rekenkamer d'Eindhoven — Un audit municipal conclut que la ville ne sait pas encore déployer algorithmes et IA en toute sécurité

La Rekenkamer Eindhoven, l'organe d'audit indépendant de la ville, a chargé le cabinet PBLQ d'examiner la gouvernance des algorithmes et de l'IA par la municipalité. Le rapport « Van risico naar regie : slimmer sturen op algoritmen en AI » (fichier de 2025) a étudié trois cas : Passport for Work, le traitement des déclarations de déménagement et l'outil d'IA Echo Dembrane. Des conseillers ont aussi participé à une séance.
Conclusion principale : Eindhoven n'est pas encore suffisamment en mesure d'utiliser algorithmes et IA de façon intelligente et sûre. Le résumé de PBLQ indique que les cadres formels, tels qu'un code de conduite et un cadre d'évaluation de l'IA, n'étaient pas adoptés, ce qui freine les décisions et limite l'expérimentation ; les agents utilisent l'IA générative sans règles ; la maîtrise des risques existe (par exemple des analyses d'impact relatives à la protection des données) mais l'évaluation et le suivi structurels manquent ; et le conseil municipal reçoit peu d'informations structurées. L'audit conclut qu'Eindhoven en est au début d'un usage mature de l'IA.
Le rapport reconnaît aussi les mesures déjà prises : un groupe d'experts en IA, une équipe d'éthique interne, un comité d'éthique externe et un registre interne des algorithmes. La commune recense ses algorithmes dans le registre national Algoritmeregister et avertit que des algorithmes peuvent manquer et que le registre sera complété dans les années à venir.
Le conseil a examiné le rapport en mars 2026. L'échevine responsable a accepté quatre recommandations (gouvernance de l'IA, cadre d'évaluation des algorithmes, registre public des algorithmes et efficience), promis au conseil un plan d'action au deuxième trimestre 2026 et s'est engagée à soumettre d'abord au conseil toute modification du code de conduite sur les données personnelles dans l'IA. Un courrier au conseil de décembre 2025 signalait une fuite de données liée à l'usage de services d'IA publics.
Intérêt : le cas sert de référence indépendante et prudente. Registres et organes d'éthique ne valaient pas maîtrise ; l'audit situe la lacune dans les règles contraignantes, le suivi et l'information du conseil. Aucun indicateur de résultat ne montre encore que le plan a comblé ces lacunes, et le texte intégral des recommandations n'a pas été examiné.