Le Système Antifraude à 60 Modèles d'Udbetaling Danmark — L'État-Providence Numérique du Danemark Face à une Enquête du Médiateur

Udbetaling Danmark (UDK), l'agence qui centralise la plupart des prestations sociales danoises depuis 2012 en partenariat avec le fonds de pension ATP, utilise plus de 60 modèles algorithmiques et d'apprentissage automatique — développés par le prestataire informatique NNIT — pour signaler des demandeurs et allocataires en vue d'enquêtes sur des soupçons de fraude aux prestations.
Le rapport d'Amnesty International de novembre 2024, 'Coded Injustice', a obtenu une documentation partielle sur seulement 4 des 60 modèles, mais a constaté que des modèles nommés, comme 'Really Single' (qui signale des schémas de cohabitation ou de vie 'atypiques') et 'Model Abroad' (qui signale des liens 'moyens à forts' avec des pays hors EEE), augmentent systématiquement la surveillance des personnes handicapées, à faible revenu, des migrants et réfugiés, et des personnes vivant dans des foyers non traditionnels.
Amnesty estime que ce système de contrôle des fraudes relève probablement de l'interdiction du 'score social' prévue par la loi européenne sur l'IA, entrée en vigueur le 1er août 2024. Le Parlement danois a débattu de ces conclusions au printemps 2024, mais la coalition au pouvoir a refusé de suspendre les modèles, promettant seulement une 'surveillance interne continue' ; le Médiateur parlementaire a ouvert une enquête formelle en juin 2024 sur des modèles phares, dont le 'modèle Gladsaxe'.
Ce cas montre que même l'un des États-providence les plus numérisés au monde peut faire fonctionner, pendant des années, un vaste portefeuille de modèles opaques de notation automatisée des risques — avec une visibilité extérieure seulement partielle — avant qu'un organisme indépendant ne l'examine formellement.