Le chatbot IA WhatsApp du Policy Innovation Lab pour les données de service public générées par les citoyens

Le Policy Innovation Lab de l'université de Stellenbosch, qui collabore avec la Présidence sud-africaine sur l'IA responsable pour l'élaboration des politiques, a développé un chatbot basé sur WhatsApp permettant aux citoyens de signaler des défaillances dans la prestation de services publics — comme des canalisations d'eau cassées — en langage naturel.

L'outil utilise ChatGPT d'OpenAI comme modèle de langage sous-jacent. Après qu'un citoyen a signalé un problème, le système exécute un processus de désidentification qui supprime les numéros de téléphone et rend plus génériques les détails de temps et de lieu avant que le signalement ne soit analysé. L'analyse thématique génère ensuite une carte interactive permettant aux agents de trier les signalements et de comparer les problèmes de prestation de services entre districts.

OpenUp, une organisation indépendante de technologie civique sud-africaine, a appliqué son propre cadre de risques et de préjudices et a signalé des préoccupations que le Lab a documentées ouvertement : le modèle sous-jacent peut refléter et amplifier les inégalités touchant les locuteurs de langues sous-représentées, les modèles génératifs peuvent produire des réponses assurées mais fausses (« hallucinations »), l'acheminement des données citoyennes via WhatsApp et un modèle tiers laisse au gouvernement un contrôle limité sur le stockage et le traitement des données, et la logique de décision du modèle reste une « boîte noire » difficile à tenir responsable. Une question de proportionnalité a également été soulevée quant à savoir si les coûts environnementaux de l'outil se justifient au regard de ses bénéfices.

Aucun chiffre sur le nombre d'utilisateurs, le volume de signalements ou la résolution des services n'a été publié, de sorte que le cas doit être lu comme un pilote soigneusement auto-audité plutôt que comme un service éprouvé à grande échelle.