evidoria

← Voltar à navegação

Boa prática Importada

'Ciblage du Contrôle' da France Travail — uma Ferramenta de IA que Classifica Candidatos a Emprego em 'Suspeito' e 'Não Suspeito' para Priorizar Controlos

França · Paris · Ver o perfil de França · Ver o perfil de Paris

Evidência: Descritivo / autorreportado Top 88% 33/100 · Pergunte a Evidence Copilot sobre esta prática

A France Travail criou uma IA, treinada com 60.000 casos em 26 variáveis, para classificar candidatos a emprego como 'suspeitos' ou não, priorizando controlos que crescem rumo a 1,5 milhões até 2027. Recusou-se a divulgar o código-fonte, gerando críticas de opacidade.

60,000 cases
Casos de controlo anteriores utilizados para treinar o modelo (as of 2025-2026)
26 variables
Variáveis pontuadas por ficheiro de candidato a emprego (as of 2025-2026)
roughly 40 %
Percentagem de controlos agora direcionados algoritmicamente (2025)
roughly 500,000 controls
Controlos direcionados algoritmicamente (2025)
200,000 controls
Total de controlos realizados (2017)
1.5 million controls
Meta nacional declarada para o total de controlos (by 2027)

Detalhes

Maturidade
Em expansão
Promotor
France Travail
Período
2024–2026
Região (NUTS)
FR10
Palavras-chave
employment services, welfare compliance, benefit fraud control, labour market

Contexto

A agência nacional de emprego da França, France Travail (anteriormente Pôle emploi), desenvolveu uma ferramenta algorítmica de definição de perfis chamada 'Ciblage du Contrôle de la Recherche d'Emploi' (definição de prioridades de controlo da procura de emprego) para ajudar a selecionar quais os ficheiros de candidatos a emprego que recebem uma revisão de conformidade em profundidade.

Objetivos

Priorizar os ficheiros de candidatos a emprego para revisão humana de conformidade, classificando-os em 'suspeito' ou 'não suspeito', no âmbito de uma reforma mais ampla do processo de controlo ('CRE rénové').

Atividades

A ferramenta utiliza um modelo de árvore de decisão treinado em cerca de 60.000 casos de controlo anteriores, atribuindo a cada ficheiro de candidato a emprego uma pontuação com base em 26 variáveis, incluindo a atividade declarada de procura de emprego, se um CV está visível online, as profissões-alvo, o nível de escolaridade, o tempo de inscrição e o não cumprimento anterior. Foi testada a partir de julho de 2024 em oito regiões, generalizada a nível nacional em junho de 2025, e apresentada ao comité interno de ética de IA da France Travail em 10 de dezembro de 2025.

Resultados

Os controlos direcionados algoritmicamente representam agora cerca de 40% de todos os controlos, cerca de 500.000 do total em 2025, num contexto de política nacional em que os controlos aumentaram de 200.000 em 2017 para uma meta declarada de 1,5 milhões até 2027.

Conclusões

A La Quadrature du Net relata que a France Travail se recusou a divulgar o código-fonte da ferramenta, o que, segundo a organização, torna impossível uma auditoria independente de enviesamento; a documentação interna da própria France Travail reconheceria um risco de o modelo sobrerrepresentar inicialmente os candidatos a emprego que recebem os subsídios mais baixos. Este caso é incluído como um alerta: a escala operacional está bem documentada, mas não existe nenhuma avaliação independente e publicada da precisão ou equidade do algoritmo.

Implementação
Custo indicativo
Médio (50 mil–500 mil €) — No cost figures are disclosed in the public record.
Tempo até resultados
Médio (1–3 anos) — Piloted from July 2024 in eight regions, generalised nationwide by June 2025, and presented to the internal AI ethics committee on 10 December 2025 as part of the broader 'CRE renove' overhaul.
Equipa e competências
France Travail internal AI ethics committee, France Travail control administration (CRE renove programme)

Condições de sucesso

  • Regional pilot (eight regions, from July 2024) before nationwide generalisation (by June 2025)

Modos de falha comuns

  • France Travail has refused to release the tool's source code, which La Quadrature du Net says makes independent bias auditing impossible
  • France Travail's own internal documentation reportedly acknowledged a risk that the model could initially overrepresent job seekers receiving the lowest benefit amounts
  • No independent, published accuracy or fairness evaluation of the algorithm exists

Habitualmente financiado por

National / regional programmes

Vias de financiamento indicativas para práticas deste tipo — verifique sempre os avisos abertos e as regras de elegibilidade de cada programa.

Implementa esta prática? Reivindique-a — implementadores verificados obtêm um contacto público na página e podem propor correções.

Fontes de dados

De onde foi obtida a informação desta prática, e quando.

Práticas semelhantes que podem ser úteis