evidoria

← Voltar à navegação

Boa prática Importada

O Sistema de 60 Modelos Antifraude da Udbetaling Danmark — O Estado-Providência Digital da Dinamarca Enfrenta um Inquérito do Provedor de Justiça

Dinamarca · Hillerød · Ver o perfil de Dinamarca

Evidência: Descritivo / autorreportado Top 74% 47/100 · Pergunte a Evidence Copilot sobre esta prática

A Udbetaling Danmark utiliza mais de 60 modelos algorítmicos para sinalizar fraude social. A Amnistia (2024) mostra que vários visam desproporcionadamente pessoas com deficiência, baixo rendimento, migrantes e refugiados, levando a um inquérito do Provedor de Justiça.

>60
Modelos algorítmicos/de ML de deteção de fraude em uso
4 of 60
Modelos para os quais foi obtida documentação
O Sistema de 60 Modelos Antifraude da Udbetaling Danmark — O Estado-Providência Digital da Dinamarca Enfrenta um Inquérito do Provedor de Justiça

Detalhes

Maturidade
Consolidada
Promotor
Udbetaling Danmark (ATP) / NNIT
Período
2012–2025
Palavras-chave
social welfare, fraud detection, algorithmic risk scoring

Contexto

A Udbetaling Danmark (UDK) centraliza a maioria dos pagamentos sociais dinamarqueses desde 2012, em parceria com o fundo de pensões ATP.

Atividades

A UDK utiliza mais de 60 modelos algorítmicos e de aprendizagem automática, construídos pela empresa de TI contratada NNIT, para sinalizar candidatos e beneficiários para investigações de suspeita de fraude em prestações sociais.

Resultados

O relatório 'Coded Injustice' da Amnistia Internacional, de novembro de 2024, obteve documentação parcial sobre apenas 4 dos 60 modelos, mas constatou que modelos nomeados como 'Really Single' (que assinala padrões de coabitação ou de vida 'atípicos') e 'Model Abroad' (que assinala ligações 'médias a altas' a países fora do EEE) aumentam sistematicamente o escrutínio sobre pessoas com deficiência, indivíduos de baixo rendimento, migrantes, refugiados e pessoas em agregados familiares não tradicionais.

Conclusões

A Amnistia argumenta que o sistema de controlo de fraude provavelmente se enquadra na proibição de 'pontuação social' do Regulamento de IA da UE (em vigor desde 1 de agosto de 2024); a coligação governamental dinamarquesa recusou suspender os modelos, prometendo apenas 'monitorização interna contínua', e o Provedor de Justiça parlamentar abriu um inquérito formal em junho de 2024 sobre modelos emblemáticos, incluindo o 'Modelo Gladsaxe'.

Implementação
Custo indicativo
Elevado (500 mil €–5 M€)
Tempo até resultados
Longo (> 3 anos)
Equipa e competências
Udbetaling Danmark (ATP) caseworkers, NNIT (IT contractor that built the models)

Condições de sucesso

  • Centralised welfare-payment administration (since 2012) gives UDK the cross-programme data needed to run risk-scoring models

Modos de falha comuns

  • Amnesty's 2024 investigation found several named models systematically increase scrutiny of disabled, low-income, migrant, refugee and non-traditional-household claimants, based on documentation obtained for only 4 of 60 models
  • Danish Parliamentary Ombudsman opened a formal inquiry (June 2024) into flagship models including the 'Gladsaxe Model'; the governing coalition declined to suspend the models

Habitualmente financiado por

National / regional programmes

Vias de financiamento indicativas para práticas deste tipo — verifique sempre os avisos abertos e as regras de elegibilidade de cada programa.

Implementa esta prática? Reivindique-a — implementadores verificados obtêm um contacto público na página e podem propor correções.

Fontes de dados

De onde foi obtida a informação desta prática, e quando.

Anexos

Práticas semelhantes que podem ser úteis