evidoria

← Volver al listado

Buena práctica Importada

El Algoritmo Discriminatorio de Detección de Fraude de la DUO — Un Caso de Alerta Nacional en la Verificación Automatizada de Becas Estudiantiles

Países Bajos · Groningen · Ver el perfil de Países Bajos

Evidencia: Descriptivo / autodeclarado Top 100% 7/100 · Pregunte a Evidence Copilot sobre esta práctica

Entre 2012 y 2023, la DUO neerlandesa utilizó un algoritmo opaco de puntuación de riesgo para seleccionar a estudiantes para controles de fraude en las ayudas financieras. La autoridad neerlandesa de protección de datos lo declaró discriminatorio e ilegal en 2024; en 2026 se anunció una compensación para miles de estudiantes afectados.

21,500
Estudiantes seleccionados para controles de fraude en parte según el resultado del algoritmo (2013–2022)
>10,000
Estudiantes para quienes el gobierno anunció una compensación (2024–2026)
El Algoritmo Discriminatorio de Detección de Fraude de la DUO — Un Caso de Alerta Nacional en la Verificación Automatizada de Becas Estudiantiles

Detalles

Madurez
Descontinuada
Promotor
Dienst Uitvoering Onderwijs (DUO), Dutch Ministry of Education
Período
2012-2023
Palabras clave
financial aid, fraud detection, algorithmic governance, data protection

Contexto

Entre 2012 y 2023, la agencia neerlandesa de financiación estudiantil DUO utilizó un algoritmo interno de puntuación de riesgo, no validado —basado en factores como la distancia entre el domicilio registrado del estudiante y el de sus padres, la edad y el tipo de estudios— para seleccionar a estudiantes que viven fuera del hogar familiar para investigaciones por fraude en ayudas financieras. El modelo se basaba en la experiencia acumulada de los investigadores de fraude de la DUO, no en un método estadístico validado. Entre 2013 y 2022, la DUO seleccionó a 21.500 estudiantes para controles de fraude, en parte según el resultado del algoritmo.

Resultados

En julio de 2023, el ministro de Educación suspendió el algoritmo tras una investigación periodística que expuso la práctica, sustituyéndolo por muestreo aleatorio. En 2024, la Autoridad de Protección de Datos neerlandesa dictaminó que el modelo de riesgo discriminaba ilegal e indirectamente a los estudiantes con antecedentes migratorios, conclusión corroborada por el informe de 2024 de Amnistía Internacional 'Profiled without protection'. El gobierno neerlandés anunció una compensación para más de 10.000 estudiantes afectados a finales de 2024 y de nuevo en 2026.

Implementación
Coste indicativo
Medio (50 000–500 000 €)
Tiempo hasta resultados
Largo (> 3 años)
Personal y competencias
DUO fraud investigators / case workers

Condiciones para el éxito

  • independent bias/discrimination audit before deployment
  • a validated statistical model rather than investigator intuition alone
  • transparency about the risk-scoring criteria used

Modos de fallo comunes

  • opaque, non-audited scoring criteria used for over a decade
  • reliance on investigator experience rather than a validated model
  • indirect discrimination against students with a migration background

Habitualmente financiado por

National / regional programmes

Vías de financiación indicativas para prácticas de este tipo: compruebe siempre las convocatorias vigentes y las reglas de elegibilidad de cada programa.

¿Usted implementa esta práctica? Reivindíquela — los implementadores verificados obtienen un contacto público en la página y pueden proponer correcciones.

Fuentes de datos

De dónde se obtuvo la información de esta práctica, y cuándo.

Adjuntos

Prácticas similares que pueden serle útiles