O Algoritmo Discriminatório de Deteção de Fraude da DUO — Um Caso de Alerta Nacional na Verificação Automatizada de Bolsas de Estudo

Entre 2012 e 2023, a agência holandesa de financiamento estudantil DUO utilizou um algoritmo interno de pontuação de risco, não validado — baseado em fatores como a distância entre a morada registada do estudante e a dos pais, a idade e o tipo de ensino — para selecionar estudantes que vivem fora de casa para investigações de fraude em apoios financeiros. O modelo baseava-se na experiência acumulada dos investigadores de fraude da DUO, em vez de um método estatístico validado. Entre 2013 e 2022, a DUO selecionou 21 500 estudantes para verificações de fraude, em parte com base no resultado do algoritmo.

Em julho de 2023, o ministro da Educação suspendeu o algoritmo depois de uma investigação jornalística ter exposto a prática, substituindo-o por amostragem aleatória. Em 2024, a Autoridade de Proteção de Dados holandesa considerou que o modelo de risco discriminava ilegal e indiretamente estudantes com antecedentes migratórios, uma conclusão corroborada pelo relatório de 2024 da Amnistia Internacional 'Profiled without protection'. O governo holandês anunciou compensação para mais de 10 000 estudantes afetados no final de 2024 e novamente em 2026.