evidoria

← Volver al listado

Buena práctica Importada

El 'Ciblage du Contrôle' de France Travail — una Herramienta de IA que Clasifica a Demandantes de Empleo en 'Sospechoso' y 'No Sospechoso' para Priorizar Controles

Francia · Paris · Ver el perfil de Francia · Ver el perfil de Paris

Evidencia: Descriptivo / autodeclarado Top 88% 33/100 · Pregunte a Evidence Copilot sobre esta práctica

France Travail creó una IA, entrenada con 60.000 casos en 26 variables, para clasificar a los demandantes de empleo como 'sospechosos' o no y priorizar controles, que crecen hacia 1,5 millones para 2027. Se negó a publicar su código fuente, generando críticas por opacidad.

60,000 cases
Casos de control anteriores utilizados para entrenar el modelo (as of 2025-2026)
26 variables
Variables puntuadas por expediente de solicitante de empleo (as of 2025-2026)
roughly 40 %
Proporción de controles ahora dirigidos algorítmicamente (2025)
roughly 500,000 controls
Controles dirigidos algorítmicamente (2025)
200,000 controls
Total de controles realizados (2017)
1.5 million controls
Objetivo nacional declarado para el total de controles (by 2027)

Detalles

Madurez
En expansión
Promotor
France Travail
Período
2024–2026
Región (NUTS)
FR10
Palabras clave
employment services, welfare compliance, benefit fraud control, labour market

Contexto

La agencia nacional de empleo de Francia, France Travail (anteriormente Pôle emploi), desarrolló una herramienta algorítmica de perfilado llamada 'Ciblage du Contrôle de la Recherche d'Emploi' (definición de prioridades de control de búsqueda de empleo) para ayudar a seleccionar qué expedientes de solicitantes de empleo reciben una revisión de cumplimiento en profundidad.

Objetivos

Priorizar los expedientes de solicitantes de empleo para una revisión de cumplimiento humana, clasificándolos como 'sospechoso' o 'no sospechoso', como parte de una reforma más amplia del proceso de control ('CRE rénové').

Actividades

La herramienta utiliza un modelo de árbol de decisión entrenado con alrededor de 60.000 casos de control anteriores, puntuando el expediente de cada solicitante de empleo en 26 variables, incluida la actividad de búsqueda de empleo declarada, si un CV es visible en línea, las ocupaciones objetivo, el nivel educativo, la antigüedad de la inscripción y el incumplimiento previo. Se pilotó a partir de julio de 2024 en ocho regiones, se generalizó a nivel nacional para junio de 2025, y se presentó al comité de ética de IA interno de France Travail el 10 de diciembre de 2025.

Resultados

Los controles dirigidos algorítmicamente representan ahora aproximadamente el 40% de todos los controles, unos 500.000 del total en 2025, en un contexto de política nacional en el que los controles aumentaron de 200.000 en 2017 hacia un objetivo declarado de 1,5 millones para 2027.

Conclusiones

La Quadrature du Net informa que France Travail se ha negado a divulgar el código fuente de la herramienta, lo que, según la organización, hace imposible una auditoría independiente de sesgos; la propia documentación interna de France Travail reconocería un riesgo de que el modelo sobrerrepresentara inicialmente a los solicitantes de empleo que reciben las prestaciones más bajas. Este caso se incluye como una advertencia: la escala operativa está bien documentada, pero no existe ninguna evaluación independiente y publicada de la precisión o equidad del algoritmo.

Implementación
Coste indicativo
Medio (50 000–500 000 €) — No cost figures are disclosed in the public record.
Tiempo hasta resultados
Medio (1–3 años) — Piloted from July 2024 in eight regions, generalised nationwide by June 2025, and presented to the internal AI ethics committee on 10 December 2025 as part of the broader 'CRE renove' overhaul.
Personal y competencias
France Travail internal AI ethics committee, France Travail control administration (CRE renove programme)

Condiciones para el éxito

  • Regional pilot (eight regions, from July 2024) before nationwide generalisation (by June 2025)

Modos de fallo comunes

  • France Travail has refused to release the tool's source code, which La Quadrature du Net says makes independent bias auditing impossible
  • France Travail's own internal documentation reportedly acknowledged a risk that the model could initially overrepresent job seekers receiving the lowest benefit amounts
  • No independent, published accuracy or fairness evaluation of the algorithm exists

Habitualmente financiado por

National / regional programmes

Vías de financiación indicativas para prácticas de este tipo: compruebe siempre las convocatorias vigentes y las reglas de elegibilidad de cada programa.

¿Usted implementa esta práctica? Reivindíquela — los implementadores verificados obtienen un contacto público en la página y pueden proponer correcciones.

Fuentes de datos

De dónde se obtuvo la información de esta práctica, y cuándo.

Prácticas similares que pueden serle útiles