evidoria

← Retour à la liste

Bonne pratique Importée

Le Système Antifraude à 60 Modèles d'Udbetaling Danmark — L'État-Providence Numérique du Danemark Face à une Enquête du Médiateur

Danemark · Hillerød · Voir le profil de Danemark

Preuves: Descriptif / auto-déclaré Top 74% 47/100 · Demandez à Evidence Copilot à propos de cette pratique

Udbetaling Danmark utilise plus de 60 modèles algorithmiques pour détecter la fraude aux prestations. Amnesty (2024) montre que plusieurs ciblent de façon disproportionnée les personnes handicapées, pauvres, migrantes ou réfugiées, d'où une enquête du Médiateur.

>60
Modèles algorithmiques/ML de détection de fraude utilisés
4 of 60
Modèles pour lesquels une documentation a été obtenue
Le Système Antifraude à 60 Modèles d'Udbetaling Danmark — L'État-Providence Numérique du Danemark Face à une Enquête du Médiateur

Détails

Maturité
Établie
Promoteur
Udbetaling Danmark (ATP) / NNIT
Période
2012–2025
Mots-clés
social welfare, fraud detection, algorithmic risk scoring

Contexte

Udbetaling Danmark (UDK) centralise la majorité des prestations sociales danoises depuis 2012, en partenariat avec le fonds de pension ATP.

Activités

L'UDK utilise plus de 60 modèles algorithmiques et d'apprentissage automatique, construits par le prestataire informatique NNIT, pour signaler les demandeurs et bénéficiaires en vue d'enquêtes en cas de suspicion de fraude aux prestations sociales.

Résultats

Le rapport « Coded Injustice » d'Amnesty International, de novembre 2024, a obtenu une documentation partielle sur seulement 4 des 60 modèles, mais a constaté que des modèles nommés tels que « Really Single » (qui signale les schémas de cohabitation ou de vie « atypiques ») et « Model Abroad » (qui signale des liens « moyens à élevés » avec des pays hors EEE) augmentent systématiquement le contrôle exercé sur les personnes handicapées, les personnes à faible revenu, les migrants, les réfugiés et les personnes vivant dans des foyers non traditionnels.

Conclusions

Amnesty estime que le système de contrôle de la fraude relève probablement de l'interdiction du « score social » du règlement européen sur l'IA (en vigueur depuis le 1er août 2024) ; la coalition gouvernementale danoise a refusé de suspendre les modèles, promettant seulement une « surveillance interne continue », et le Médiateur parlementaire a ouvert une enquête formelle en juin 2024 sur des modèles phares, dont le « modèle Gladsaxe ».

Mise en œuvre
Coût indicatif
Élevé (500 k€–5 M€)
Délai jusqu’aux résultats
Long (> 3 ans)
Personnel et compétences
Udbetaling Danmark (ATP) caseworkers, NNIT (IT contractor that built the models)

Conditions de réussite

  • Centralised welfare-payment administration (since 2012) gives UDK the cross-programme data needed to run risk-scoring models

Modes d’échec courants

  • Amnesty's 2024 investigation found several named models systematically increase scrutiny of disabled, low-income, migrant, refugee and non-traditional-household claimants, based on documentation obtained for only 4 of 60 models
  • Danish Parliamentary Ombudsman opened a formal inquiry (June 2024) into flagship models including the 'Gladsaxe Model'; the governing coalition declined to suspend the models

Habituellement financé par

National / regional programmes

Pistes de financement indicatives pour des pratiques de ce type — vérifiez toujours les appels en cours et les règles d'éligibilité de chaque programme.

Vous portez cette pratique ? Revendiquez-la — les porteurs vérifiés obtiennent un contact public sur la page et peuvent proposer des corrections.

Sources de données

D'où proviennent les informations de cette pratique, et quand.

Pièces jointes

Pratiques similaires qui pourraient vous être utiles