Knockri et Plum — le Projet Pilote Canadien de Recrutement pour la Diversité Assisté par l'IA qui a Ignoré les Évaluations de Confidentialité Obligatoires

En septembre 2020, le ministère canadien de la Défense nationale (MDN) a mené une campagne de recrutement externe pour des postes EX-01 (cadres de niveau d'entrée), avec l'objectif explicite d'accroître la représentation des minorités visibles dans son effectif de cadres. Sur 471 candidatures, 422 ont complété une évaluation vidéo fondée sur l'IA, conçue par le fournisseur Knockri, qui notait six compétences de leadership à partir des seules réponses transcrites en texte, sans analyser les signaux visuels ou vocaux, traitant l'ensemble du groupe en environ une semaine. Les 74 candidats retenus ont ensuite passé une évaluation de 25 minutes sur Plum, une seconde plateforme d'IA mesurant la personnalité, les capacités cognitives et le sens social, qui a produit des scores de correspondance et identifié 36 candidats pleinement qualifiés et 38 partiellement qualifiés pour un vivier de talents diversifié. Les candidats pouvaient consentir à la présélection par IA ou demander un processus alternatif mené par des personnes. Selon le rapport du MDN lui-même, publié le 5 mai 2021, sept nominations avaient été effectuées au 1er mai 2021, et cinq autres candidats étaient recommandés au sous-ministre.
L'affaire est devenue un exemple mettant en garde en matière de gouvernance de l'IA. Le 7 février 2021, le Commissariat à la protection de la vie privée du Canada a confirmé au Globe and Mail que le MDN avait déployé Knockri et Plum sans avoir réalisé l'une ou l'autre des deux évaluations obligatoires selon les règles du Secrétariat du Conseil du Trésor : une évaluation des facteurs relatifs à la vie privée et une évaluation de l'incidence algorithmique, mesurant les biais et autres risques avant qu'un outil automatisé ne serve à une prise de décision. Un porte-parole du MDN a fait valoir qu'aucune évaluation algorithmique n'était nécessaire puisque les outils d'IA ne prenaient pas de « décisions finales », des comités humains continuant à examiner les listes — un argument rejeté par le Commissariat, qui a souligné que les évaluations « auraient dû être terminées... avant l'utilisation » des outils. La campagne a coûté environ 179 000 dollars canadiens.
Ce cas illustre un schéma récurrent dans l'adoption de l'IA par le secteur public : un objectif d'équité légitime, mis en œuvre à l'aide d'outils commerciaux de présélection, exécuté sans les étapes de conformité préalables exigées par la propre directive fédérale du Canada. C'est une référence utile précisément parce que le résultat (une liste diversifiée de candidats qualifiés) et l'échec de procédure (évaluations obligatoires omises) sont tous deux bien documentés par des sources indépendantes, ce qui permet à d'autres organismes publics de peser le gain d'efficacité face au risque de gouvernance avant de reproduire la démarche.