L'agence nationale de statistique de la Zambie et l'IGC ont testé sept LLM sur 1 059 réponses de l'enquête sur la main-d'œuvre déjà codées par des humains : les meilleurs modèles ont dépassé les enquêteurs de jusqu'à 17,8 points de pourcentage sur les codes d'industrie, pour moins de 10 USD par an, avec une économie estimée à plus de 170 jours de travail par an.
1,059 responses
Taille de l'échantillon du test comparatif (2025)
11.8 percentage points
Gain de précision sur les codes professionnels par rapport aux enquêteurs (meilleurs modèles) (2025)
up to 17.8 percentage points
Gain de précision sur les codes de secteur par rapport aux enquêteurs (meilleurs modèles) (2025)
60-63 %
Précision exacte sur les codes professionnels, meilleurs modèles (2025)
57-66 %
Précision exacte sur les codes de secteur, meilleurs modèles (2025)
<10 USD
Coût pour classer un échantillon annuel complet de l'enquête (GPT-5 Nano) (2025)
~43 working days/year
Économie de temps annuelle projetée, personnel du siège de ZamStats (projected)
~130 working days/year
Économie de temps annuelle projetée, enquêteurs de terrain (projected)
Détails
Maturité
Pilote
Promoteur
Zambia Statistics Agency (ZamStats) & International Growth Centre (IGC)
Période
2025
Mots-clés
official statistics, labour market, public administration
Contexte
L'enquête trimestrielle sur les forces de travail de Zambie (LFS), menée par l'Agence zambienne de statistique (ZamStats) avec le ministère du Travail et de la Sécurité sociale, interroge 10 400 ménages par an. Les enquêteurs attribuent à chaque répondant un code professionnel à quatre chiffres (436 codes CITP possibles) et un code de secteur d'activité (419 codes CITI possibles) à partir de descriptions verbales recueillies sur le terrain, un processus que l'équipe de l'enquête juge chronophage et sujet aux erreurs.
Objectifs
En 2025, ZamStats s'est associée à l'International Growth Centre (IGC) et à l'Université d'Oxford pour tester si de grands modèles de langage pourraient coder ces réponses mieux et plus rapidement que les enquêteurs humains.
Activités
Les chercheurs ont construit un pipeline de génération augmentée par récupération (RAG) avec des instructions à quelques exemples, et ont comparé sept LLM, dont GPT-4 Turbo, GPT-5 mini et GPT-5 Nano, à 1 059 réponses de l'enquête que le siège de ZamStats avait codées de façon indépendante comme référence. ZamStats et l'IGC ont également construit une interface ouverte, sans code, pour ce pipeline, avec pour objectif une mise en œuvre complète d'ici fin 2025.
Résultats
Chaque LLM testé a surpassé les enquêteurs humains avec un écart statistiquement significatif (p<0,001). Les modèles les plus performants ont atteint 60 à 63% de précision exacte sur les codes professionnels (11,8 points de pourcentage au-dessus des enquêteurs) et 57 à 66% sur les codes de secteur (jusqu'à 17,8 points de pourcentage au-dessus des enquêteurs). Classer un échantillon annuel complet de l'enquête coûte moins de 10 dollars avec GPT-5 Nano, et l'équipe estime que l'approche pourrait faire économiser environ 43 jours de travail par an au personnel du siège et 130 jours de travail par an aux enquêteurs de terrain, selon des estimations de temps prudentes.
Conclusions
Les auteurs signalent de réelles limites : l'échantillon de 1 059 réponses est trop restreint pour comparer les LLM entre eux avec une confiance statistique suffisante, la « référence » établie par les enquêteurs contient elle-même des erreurs de codage, et les résultats ne sont démontrés à ce jour que pour l'enquête zambienne, bien que l'équipe estime que la méthode pourrait s'étendre au recensement de quatre millions de ménages de Zambie et aux enquêtes sur le travail d'autres pays.
Mise en œuvre
Coût indicatif
Faible (< 50 k€) — Classifying an entire annual LFS sample costs under $10 using GPT-5 Nano.
Délai jusqu’aux résultats
Court (< 1 an) — Benchmarking conducted in 2025 with full implementation targeted for end of 2025; the team argues the method could scale to Zambia's four-million-household census and to other countries' labour surveys.
Personnel et compétences
Zambia Statistics Agency (ZamStats) headquarters staff, Ministry of Labour and Social Security, International Growth Centre (IGC) and University of Oxford researchers, Field enumerators who collect the underlying verbal descriptions
Conditions de réussite
An independently ground-truthed benchmark dataset to validate model performance before rollout
A retrieval-augmented-generation pipeline with few-shot prompting tailored to the coding taxonomy (ISCO/ISIC)
An open, no-code interface so ZamStats staff can operate the pipeline without programming skills
Modes d’échec courants
The 1,059-response benchmark sample is too small to compare LLMs against each other with statistical confidence.
The enumerator 'ground truth' itself contains coding errors.
Results are demonstrated only for Zambia's LFS so far, not yet other surveys or countries.
Où cela s’applique
Type de gouvernance
national statistics agency, with an external research partnership
Échelle
national statistical survey (10,400 households/year)
Niveau de revenu
lower-middle-income
Habituellement financé par
National / regional programmes
Pistes de financement indicatives pour des pratiques de ce type — vérifiez toujours les appels en cours et les règles d'éligibilité de chaque programme.
Kit de réplication
Artefacts réutilisables de cette pratique — tels que publiés par leurs sources.