El chatbot de IA en WhatsApp del Policy Innovation Lab para datos de prestación de servicios generados por la ciudadanía

El Policy Innovation Lab de la Universidad de Stellenbosch, que colabora con la Presidencia de Sudáfrica en IA responsable para la formulación de políticas, desarrolló un chatbot basado en WhatsApp que permite a los ciudadanos reportar fallos en la prestación de servicios públicos —como tuberías de agua rotas— en lenguaje natural.

La herramienta usa ChatGPT de OpenAI como modelo de lenguaje subyacente. Después de que un ciudadano reporta un problema, el sistema ejecuta un proceso de desidentificación que elimina números de teléfono y generaliza los detalles de tiempo y ubicación antes de analizar el reporte. El análisis de temas genera luego un mapa interactivo que permite a los funcionarios ordenar los reportes y comparar problemas de prestación de servicios entre distritos.

OpenUp, una organización independiente de tecnología cívica sudafricana, aplicó su propio marco de riesgos y daños y señaló preocupaciones que el Lab documentó abiertamente: el modelo subyacente puede reflejar y amplificar desigualdades que afectan a hablantes de idiomas subrepresentados, los modelos generativos pueden producir respuestas seguras pero falsas ('alucinaciones'), enrutar los datos ciudadanos a través de WhatsApp y un modelo de terceros deja al gobierno con un control limitado sobre cómo se almacenan y procesan esos datos, y la lógica de decisión del modelo sigue siendo una 'caja negra' difícil de auditar. También se planteó una cuestión de proporcionalidad sobre si los costos ambientales de la herramienta se justifican frente a sus beneficios.

No se han publicado cifras de usuarios, volumen de reportes ni resolución de servicios, por lo que el caso debe leerse como un piloto cuidadosamente auto-auditado, no como un servicio probado a escala.