evidoria

← Retour à la liste

Bonne pratique Importée

L'Algorithme Discriminatoire de Détection de Fraude de la DUO — Un Cas d'Alerte National dans le Contrôle Automatisé des Bourses Étudiantes

Pays-Bas · Groningen · Voir le profil de Pays-Bas

Preuves: Descriptif / auto-déclaré Top 100% 7/100 · Demandez à Evidence Copilot à propos de cette pratique

De 2012 à 2023, la DUO néerlandaise a utilisé un algorithme opaque de notation des risques pour sélectionner les étudiants soumis à des contrôles de fraude aux bourses. L'autorité néerlandaise de protection des données l'a jugé discriminatoire et illégal en 2024 ; une compensation pour des milliers d'étudiants concernés a été annoncée en 2026.

21,500
Étudiants sélectionnés pour des contrôles de fraude en partie sur la base du résultat de l'algorithme (2013–2022)
>10,000
Étudiants pour lesquels le gouvernement a annoncé une indemnisation (2024–2026)
L'Algorithme Discriminatoire de Détection de Fraude de la DUO — Un Cas d'Alerte National dans le Contrôle Automatisé des Bourses Étudiantes

Détails

Maturité
Abandonnée
Promoteur
Dienst Uitvoering Onderwijs (DUO), Dutch Ministry of Education
Période
2012-2023
Mots-clés
financial aid, fraud detection, algorithmic governance, data protection

Contexte

De 2012 à 2023, l'agence néerlandaise de financement des étudiants DUO a utilisé un algorithme interne de notation des risques, non validé — fondé sur des facteurs tels que la distance entre l'adresse enregistrée de l'étudiant et celle de ses parents, son âge et son type de formation — pour sélectionner les étudiants vivant hors du domicile familial en vue de contrôles de fraude aux aides financières. Le modèle reposait sur l'expérience accumulée des enquêteurs anti-fraude de la DUO plutôt que sur une méthode statistique validée. Entre 2013 et 2022, la DUO a sélectionné 21 500 étudiants pour des contrôles de fraude, en partie sur la base du résultat de l'algorithme.

Résultats

En juillet 2023, le ministre de l'Éducation a suspendu l'algorithme après qu'une enquête journalistique a révélé la pratique, le remplaçant par un échantillonnage aléatoire. En 2024, l'Autorité néerlandaise de protection des données a jugé que le modèle de risque discriminait illégalement et indirectement les étudiants issus de l'immigration, une conclusion corroborée par le rapport 2024 d'Amnesty International 'Profiled without protection'. Le gouvernement néerlandais a annoncé une indemnisation pour plus de 10 000 étudiants concernés fin 2024 puis à nouveau en 2026.

Mise en œuvre
Coût indicatif
Moyen (50 k€–500 k€)
Délai jusqu’aux résultats
Long (> 3 ans)
Personnel et compétences
DUO fraud investigators / case workers

Conditions de réussite

  • independent bias/discrimination audit before deployment
  • a validated statistical model rather than investigator intuition alone
  • transparency about the risk-scoring criteria used

Modes d’échec courants

  • opaque, non-audited scoring criteria used for over a decade
  • reliance on investigator experience rather than a validated model
  • indirect discrimination against students with a migration background

Habituellement financé par

National / regional programmes

Pistes de financement indicatives pour des pratiques de ce type — vérifiez toujours les appels en cours et les règles d'éligibilité de chaque programme.

Vous portez cette pratique ? Revendiquez-la — les porteurs vérifiés obtiennent un contact public sur la page et peuvent proposer des corrections.

Sources de données

D'où proviennent les informations de cette pratique, et quand.

Pièces jointes

Pratiques similaires qui pourraient vous être utiles