Les algorithmes de contrôle de la fraude d'Udbetaling Danmark — Amnesty recense jusqu'à 60 modèles et des risques de discrimination, l'agence conteste

Udbetaling Danmark (UDK), l'agence danoise de versement des prestations sociales, et l'ATP, l'organisme légal de retraite et de sécurité sociale qui l'héberge, utilisent un système de contrôle de la fraude qui, selon Amnesty International, repose sur jusqu'à 60 modèles algorithmiques pour signaler des personnes à des fins d'enquête. Dans son rapport « Coded Injustice: Surveillance and Discrimination in Denmark's Automated Welfare State » (13 novembre 2024), Amnesty indique que les données utilisées comprennent le statut et les déplacements de résidence, la nationalité, le lieu de naissance et les liens familiaux, qui peuvent selon elle servir de variables indirectes de la race, de l'origine ethnique ou de l'orientation sexuelle.
Deux modèles illustrent ces préoccupations : « Really Single » prédit la situation conjugale d'une personne et « Model Abroad » cible en priorité les personnes ayant des liens moyens ou forts avec des pays hors EEE. Amnesty conclut que le système risque de discriminer les personnes handicapées, à faibles revenus, les migrants, les réfugiés et les groupes racisés, et qu'il fonctionne comme un système de notation sociale qui devrait, selon elle, être interdit par le règlement européen sur l'IA.
L'UDK conteste : elle affirme que la collecte de données a une base légale, que l'usage de la nationalité comme paramètre ne revient pas à traiter des données sensibles et que son approche a peu de chances de relever de l'interdiction de la notation sociale. Amnesty indique que l'UDK et l'ATP n'ont fourni que des documents de conception caviardés et ont refusé une demande d'audit collaboratif.
Il s'agit d'un cas d'alerte : les constats proviennent d'une enquête de la société civile et non d'un audit indépendant, aucune évaluation d'impact publiée ne démontre une valeur publique mesurée, et la question juridique reste contestée. Il est utile pour les leçons de transparence et d'équité applicables à tout système de notation de la fraude aux prestations.