Los algoritmos de control del fraude de Udbetaling Danmark — Amnistía halla hasta 60 modelos y riesgos de discriminación; la agencia lo rechaza

Udbetaling Danmark (UDK), la agencia danesa de pago de prestaciones sociales, y ATP, el organismo legal de pensiones y seguridad social que la alberga, utilizan un sistema de control del fraude que, según Amnistía Internacional, se apoya en hasta 60 modelos algorítmicos para señalar a personas para su investigación. En su informe «Coded Injustice: Surveillance and Discrimination in Denmark's Automated Welfare State» (13 de noviembre de 2024), Amnistía indica que los datos incluyen la situación y los movimientos de residencia, la nacionalidad, el lugar de nacimiento y los vínculos familiares, que, a su juicio, pueden actuar como variables indirectas de raza, origen étnico u orientación sexual.
Dos modelos ilustran la preocupación: «Really Single» predice el estado de pareja de una persona y «Model Abroad» prioriza para investigación a quienes tienen vínculos medios o fuertes con países fuera del EEE. Amnistía concluye que el sistema corre el riesgo de discriminar a personas con discapacidad, de bajos ingresos, migrantes, refugiadas y grupos racializados, y que funciona como un sistema de puntuación social que, en su opinión, debería prohibirse con arreglo al Reglamento de IA de la UE.
UDK lo rechaza: afirma que la recogida de datos tiene base legal, que usar la nacionalidad como parámetro no equivale a tratar datos sensibles y que es poco probable que su enfoque entre en la prohibición de la puntuación social. Amnistía señala que UDK y ATP solo facilitaron documentos de diseño censurados y rechazaron una solicitud de auditoría colaborativa.
Es un caso de advertencia: las conclusiones proceden de una investigación de la sociedad civil y no de una auditoría independiente, no hay una evaluación de impacto publicada que demuestre valor público medido, y la cuestión jurídica sigue en disputa. Resulta valioso por las lecciones de transparencia y equidad para cualquier sistema de puntuación del fraude en prestaciones.