Knockri e Plum — o Projeto-Piloto Canadiano de Recrutamento para a Diversidade Assistido por IA que Saltou as Avaliações de Privacidade Obrigatórias

Em setembro de 2020, o Ministério da Defesa Nacional do Canadá (DND) realizou uma campanha externa de recrutamento para cargos executivos de nível inicial (EX-01), com o objetivo explícito de aumentar a representação de minorias visíveis no seu quadro executivo. De 471 candidatos, 422 completaram uma avaliação em vídeo baseada em IA, desenvolvida pela empresa Knockri, que pontuou seis competências de liderança apenas a partir das respostas transcritas em texto, sem analisar sinais visuais ou vocais, processando todo o grupo em cerca de uma semana. Os 74 candidatos que avançaram realizaram depois uma avaliação de 25 minutos na plataforma Plum, um segundo fornecedor de IA que mede personalidade, capacidade cognitiva e sensibilidade social, produzindo pontuações de compatibilidade e identificando 36 candidatos totalmente qualificados e 38 parcialmente qualificados para um leque diversificado de talento executivo. Os candidatos podiam consentir na triagem por IA ou solicitar um processo alternativo conduzido por pessoas. Segundo o próprio relatório do DND, publicado a 5 de maio de 2021, tinham sido feitas sete nomeações até 1 de maio de 2021, com mais cinco candidatos recomendados ao Vice-Ministro.
O caso tornou-se um exemplo de atenção na governação de IA. A 7 de fevereiro de 2021, o Gabinete da Comissária de Privacidade do Canadá confirmou ao jornal The Globe and Mail que o DND tinha implementado o Knockri e o Plum sem concluir nenhuma das duas avaliações obrigatórias segundo as regras do Secretariado do Conselho do Tesouro: uma Avaliação de Impacto sobre a Privacidade e uma Avaliação de Impacto Algorítmico, que mede viés e outros riscos antes de uma ferramenta automatizada ser usada em decisões. Um porta-voz do DND argumentou que não era necessária uma avaliação algorítmica porque as ferramentas de IA não tomavam "decisões finais", uma vez que painéis humanos continuavam a rever as listas finais — uma defesa rejeitada pelo gabinete da Comissária, que sublinhou que as avaliações "deveriam ter sido concluídas... antes da utilização" das ferramentas. A campanha custou cerca de 179 mil dólares canadianos.
O caso ilustra um padrão recorrente na adoção de IA no setor público: um objetivo legítimo de equidade, concretizado através de ferramentas comerciais de triagem, executado sem as etapas de conformidade prévias exigidas pela própria diretiva federal canadiana. É uma referência útil precisamente porque tanto o resultado (uma lista diversificada de candidatos qualificados) como a falha processual (avaliações obrigatórias omitidas) estão bem documentados por fontes independentes, permitindo que outros organismos públicos pesem o ganho de eficiência face ao risco de governação antes de replicar a prática.