L'Algorithme Discriminatoire de Détection de Fraude de la DUO — Un Cas d'Alerte National dans le Contrôle Automatisé des Bourses Étudiantes

De 2012 à 2023, l'agence néerlandaise de financement des étudiants DUO a utilisé un algorithme interne de notation des risques, non validé — fondé sur des facteurs tels que la distance entre l'adresse enregistrée de l'étudiant et celle de ses parents, son âge et son type de formation — pour sélectionner les étudiants vivant hors du domicile familial en vue de contrôles de fraude aux aides financières. Le modèle reposait sur l'expérience accumulée des enquêteurs anti-fraude de la DUO plutôt que sur une méthode statistique validée. Entre 2013 et 2022, la DUO a sélectionné 21 500 étudiants pour des contrôles de fraude, en partie sur la base du résultat de l'algorithme.

En juillet 2023, le ministre de l'Éducation a suspendu l'algorithme après qu'une enquête journalistique a révélé la pratique, le remplaçant par un échantillonnage aléatoire. En 2024, l'Autorité néerlandaise de protection des données a jugé que le modèle de risque discriminait illégalement et indirectement les étudiants issus de l'immigration, une conclusion corroborée par le rapport 2024 d'Amnesty International 'Profiled without protection'. Le gouvernement néerlandais a annoncé une indemnisation pour plus de 10 000 étudiants concernés fin 2024 puis à nouveau en 2026.