El algoritmo de control del fraude de la DUO — un perfilado de estudiantes en los Países Bajos considerado indirectamente discriminatorio

La agencia neerlandesa de educación (DUO) utilizó entre 2012 y 2023 un algoritmo sencillo de perfilado de riesgo, basado en reglas, para seleccionar a estudiantes con beca complementaria para visitas domiciliarias que comprobaban si vivían realmente fuera del domicilio de sus padres. Los criterios eran el tipo de estudios (la formación profesional/MBO puntuaba más), la distancia entre la dirección del estudiante y la de los padres (menor distancia, más puntos) y la edad (más joven, más puntos). Nadie comprobó si estos indicadores estaban justificados ni si generaban resultados desiguales.

La prensa y una revisión externa posterior (PwC, publicada el 1 de marzo de 2024) concluyeron que el sistema condujo indirectamente a discriminar a estudiantes de origen migrante no europeo. Casi 27 000 estudiantes recibieron visita y cerca de 10 000 fueron acusados de fraude; de los 376 casos revisados por abogados, el 97 % afectaba a estudiantes con raíces en minorías étnicas. El ministro de Educación pidió disculpas y, en abril de 2026, anunció una compensación de 500 € para unos 12 000 estudiantes visitados y de 2000 € para unos 10 000 estudiantes cuya beca fue recortada o que fueron sancionados.

Una auditoría académica independiente (Holstege et al., arXiv 2502.01713) aplicó una herramienta no supervisada de detección de sesgos, diseñada para funcionar sin datos demográficos, a las puntuaciones de más de 250 000 estudiantes entre 2012 y 2023 y destacó las mismas disparidades conocidas. La herramienta se publicó como código abierto.

Es un caso de advertencia: un modelo transparente, incluso simplista, puede discriminar cuando los indicadores se correlacionan con el origen étnico y no existen pruebas de sesgo, documentación ni vías de impugnación. Las lecciones son auditorías de sesgo antes del despliegue, justificación documentada de cada criterio y seguimiento continuo; la herramienta de auditoría de código abierto es un resultado reutilizable.