O Sistema de 60 Modelos Antifraude da Udbetaling Danmark — O Estado-Providência Digital da Dinamarca Enfrenta um Inquérito do Provedor de Justiça

A Udbetaling Danmark (UDK), a agência que centraliza a maioria das prestações sociais dinamarquesas desde 2012, em parceria com o fundo de pensões ATP, utiliza mais de 60 modelos algorítmicos e de aprendizagem automática — desenvolvidos pela empresa de TI NNIT — para sinalizar requerentes e beneficiários para investigações de suspeita de fraude em prestações sociais.
O relatório da Amnistia Internacional de novembro de 2024, 'Coded Injustice', obteve documentação parcial sobre apenas 4 dos 60 modelos, mas concluiu que modelos identificados, como o 'Really Single' (que sinaliza padrões de coabitação ou de vida 'atípicos') e o 'Model Abroad' (que sinaliza ligações 'médias a fortes' a países fora do EEE), aumentam sistematicamente o escrutínio sobre pessoas com deficiência, pessoas de baixo rendimento, migrantes e refugiados, e pessoas em agregados familiares não tradicionais.
A Amnistia argumenta que o sistema de controlo de fraude se enquadra provavelmente na proibição de 'pontuação social' da Lei da IA da UE, em vigor desde 1 de agosto de 2024. O Parlamento dinamarquês debateu as conclusões na primavera de 2024, mas a coligação no governo recusou suspender os modelos, prometendo apenas 'monitorização interna contínua'; o Provedor de Justiça parlamentar abriu um inquérito formal em junho de 2024 sobre modelos emblemáticos, incluindo o 'Modelo Gladsaxe'.
O caso mostra que mesmo um dos Estados-providência mais digitalizados do mundo pode operar, durante anos, um vasto portefólio de modelos opacos de pontuação de risco automatizada — com apenas visibilidade externa parcial — antes de ser formalmente examinado por um órgão independente.