Os algoritmos de controlo de fraude da Udbetaling Danmark — a Amnistia Internacional encontra até 60 modelos e riscos de discriminação; a agência contesta

A Udbetaling Danmark (UDK), agência dinamarquesa de pagamento de prestações sociais, e a ATP, o organismo estatutário de pensões e segurança social que a aloja, utilizam um sistema de controlo de fraude que, segundo a Amnistia Internacional, recorre a até 60 modelos algorítmicos para assinalar pessoas para investigação. No relatório «Coded Injustice: Surveillance and Discrimination in Denmark's Automated Welfare State» (13 de novembro de 2024), a Amnistia indica que os dados usados incluem estatuto e movimentos de residência, nacionalidade, local de nascimento e relações familiares, que, segundo a organização, podem funcionar como indicadores indiretos de raça, etnia ou orientação sexual.
Dois modelos ilustram a preocupação: o «Really Single» prevê o estado de relação de uma pessoa e o «Model Abroad» dá prioridade a investigar pessoas com laços médios ou fortes a países fora do EEE. A Amnistia conclui que o sistema arrisca discriminar pessoas com deficiência, de baixos rendimentos, migrantes, refugiados e grupos racializados, e que funciona como um sistema de pontuação social que, na sua opinião, deveria ser proibido pelo Regulamento da UE sobre IA.
A UDK contesta: afirma que a recolha de dados tem base legal, que usar a nacionalidade como parâmetro não equivale a tratar dados sensíveis e que é improvável que a sua abordagem caia na proibição de pontuação social. A Amnistia refere que a UDK e a ATP forneceram apenas documentos de conceção truncados e recusaram um pedido de auditoria colaborativa.
É um caso de alerta: as conclusões resultam de uma investigação da sociedade civil e não de uma auditoria independente, não há avaliação de impacto publicada que demonstre valor público medido, e a questão jurídica continua em disputa. Tem valor pelas lições de transparência e equidade para qualquer sistema de pontuação de fraude em prestações sociais.