MAPEMA — Monitorização de Discurso de Ódio e Desinformação Assistida por IA no Quénia para as Eleições de 2022

Antes das eleições gerais do Quénia de agosto de 2022, a National Cohesion and Integration Commission (NCIC) — o órgão estatutário do Quénia para a coesão social — trabalhou com a UWIANO Platform for Peace (gerida pelo governo), o PNUD, o ACNUDH e a organização da sociedade civil Code for Africa para combater o discurso de ódio e a desinformação no Facebook, X/Twitter e Instagram em inglês, suaíli e sheng.

Combinar a plataforma de monitorização de meios CivicSignal, da Code for Africa, com um classificador de IA (alegadamente construído sobre o Primer.ai) para sinalizar conteúdo tóxico e incitador quase em tempo real durante o período eleitoral.

A ferramenta de IA foi construída e operada pelo consórcio liderado pela Code for Africa, e não pela própria NCIC, com a NCIC e a UWIANO a atuar como parceiros governamentais que recebem os resultados da monitorização, e não como proprietários técnicos do sistema.

Segundo os próprios relatórios da Code for Africa, o esforço identificou mais de 550.000 publicações tóxicas no Facebook e encaminhou mais de 800 casos de discurso de ódio às plataformas de redes sociais para ação durante o período eleitoral. O UN Sustainable Development Group e a Observer Research Foundation citaram mais tarde a iniciativa como um exemplo de monitorização eleitoral assistida por IA em África.

Os números principais são autorreportados pela ONG implementadora e não foram auditados de forma independente; não foi publicada nenhuma taxa de precisão ou de falsos positivos, e não há evidência confirmada de que a mesma pilha de IA tenha continuado a operar após o ciclo eleitoral de 2022. A Human Rights Watch e a ARTICLE 19 manifestaram separadamente preocupações de que os poderes de aplicação da lei sobre discurso de ódio da NCIC tenham, por vezes, arriscado inibir o discurso político legítimo.